{
  "legislationId": "10_2443",
  "lastUpdate": "2026-07-17T11:50:37.674Z",
  "history": [
    {
      "timestamp": "2026-07-17T11:50:37.674Z",
      "source_url": "https://storage.googleapis.com/lustra-web-prod/pl/pl-parliament/10/legislations/10_2443/text/index.html",
      "model": "gemini-flash-lite-latest",
      "prompt_sent": "\r\nROLE: Fact Checker.\r\nTASK: Compare SOURCE (the original) and SUMMARY (a summary prepared by another AI).\r\n\r\nYour goal is to detect \"FABRICATED SPECIFICS\" (Fabricated Entities) in SUMMARY.\r\n\r\nSOURCE:\r\nTekst ustawy przekazany do Senatu zgodnie z art. 52 regulaminu Sejmu U S TAWA z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji 1) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanym dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie rozporządzenia 2024/1689 i ustawy. 1) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustaw ę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustaw ę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. 2 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26 i ...); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań naukowych i prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 2) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych w rozumieniu art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów sztucznej inteligencji wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 2) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328, 370, 635 i 637. 3 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i niepozostających w związku z działalnością: a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2026 r. poz. 592), b) gospodarczą, o której mowa w art. 3 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826 oraz z 2026 r. poz. 507), wykonywaną przez przedsiębiorcę w rozumieniu art. 4 ust. 1 i 2 tej ustawy, c) o której mowa w art. 5 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą w rozumieniu art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile ustawa nie stanowi inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 4 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model AI w rozumieniu art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad rynkiem systemów sztucznej inteligencji Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci urzędowej z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z uwzględnieniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 5 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych z zakresu sztucznej inteligencji, w tym projektów aktów prawnych; 6) wydawanie postanowień i decyzji w sprawach o naruszenie rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, a także prowadzenie działań informacyjnych w tym zakresie; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej i państw trzecich oraz agencjami Unii Europejskiej i organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad systemami sztucznej inteligencji; 11) podejmowanie działań mających na celu tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania rozporządzenia 2024/1689 i ustawy w indywidualnych spraw ach, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach, o których mowa w art. 53 ust. 3 rozporządzenia 2024/1689; 17) wspieranie konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji poprzez: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, 6 b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 103 ust. 3, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w art. 9 ustaw y z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846 oraz z 2026 r. poz. 426, 635 i 680). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie Europejskiej Rady ds. Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się podmiot: 1) obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania przepisów, o których mowa w pkt 1. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym rozporządzeniem 2024/1689 lub ustaw ą. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego w zakresie jednego zagadnienia, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek w zakresie oceny prawnej stanu faktycznego lub zdarzenia przyszłego, o których mowa w pkt 1; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę (firmę) i siedzibę oraz adres do korespondencji, a także numer identyfikacyjny REGON, jeżeli został 7 nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. 5. Ten sam podmiot może zwrócić się do Komisji z nowym wnioskiem o wydanie opinii indywidualnej nie wcześniej niż po upływie 30 dni od dnia złożenia ostatniego wniosku. W przypadku niezachowania terminu, o którym mowa w zdaniu pierwszym, nowy wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna wydana przez Komisję nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej przed złożeniem wniosku uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 lub art. 10, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 4. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku do momentu wydania opinii indywidualnej przez Komisję – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 8 5. Zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje w terminie 30 dni od dnia: 1) wycofania wniosku – w przypadku, o którym mowa w ust. 4 pkt 1; 2) złożenia wniosku – w przypadku, o którym mowa w ust. 4 pkt 2; 3) upływu terminu na wydanie opinii – w przypadku, o którym mowa w ust. 4 pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – niepóźniej niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku, którego dotyczy wniosek za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnej ze stanowiskiem, które podmiot przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest wydawana i ocenę stanowiska, które podmiot przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić albo uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, 9 orzecznictwo sądów, a także akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydane na podstawie rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie tej opinii stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie albo stwierdzenie wygaśnięcia opinii indywidualnej następuje w drodze postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, uchyleniem albo wygaśnięciem nie może szkodzić podmiotowi, na wniosek którego została wydana ta opinia. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady ds. Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji wraz z informacją o ich aktualności. Przed udostępnieniem opinii indywidualnej albo wyjaśnienia Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 10 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego w szczególności orzecznictwa sądów, a także aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydanych na podstawie rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech członków Komisji wskazanych przez: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisję Nadzoru Finansowego, c) Krajową Radę Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji z głose m doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3 w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji bez prawa głosu mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w art. 5 ustawy z dnia 4 września 1997 r. o działach administracji rządowej, oraz krajowe organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 11 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25 i 473). Art. 20. 1. W zakresie określonym rozporządzeniem 2024/1689 i ustawą Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i ustawie; 4) krajowymi organami i podmiotami publicznymi określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej i ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa i CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20, 252 i ...), w zakresie wymiany informacji niezbędnych do reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz bezpieczeństwem systemów sztucznej inteligencji w rozumieniu rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223 oraz z 2026 r. poz. ...); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi oraz monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 12 9) koordynatorem do spraw usług cyfrowych w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE (akt o usługach cyfrowych) (Dz. Urz. UE L 277 z 22.10.2022, str. 1 oraz Dz. Urz. UE. L z 163 z 29.06.2023, str. 107) – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96, 1222 i ...); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w ściganiu sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych rozporządzeniem 2024/1689 współpracuje z Komisją Europejską, Europejską Radą ds. Sztucznej Inteligencji, panelem naukowym i właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej 5 osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. Posiedzenie Komisji może odbywać się w trybie zdalnym przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu osobom uprawnionym, o których mowa w art. 19 ust. 1–3; 2) osobom, o których mowa w art. 19 ust. 1, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 13 2024/1689, ustawie oraz przepisach odrębnych, a także z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, wypowiadanie się w toku obrad. Art. 23. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zamieszcza się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 24. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepis art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego Komisji lub członka Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie krajowych organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 14 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i jej efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w szczególności informacje na temat stwierdzonych nieprawidłowości, a także o ogólnym poziomie wiedzy oraz kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, za rok kalendarzowy poprzedzający rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 15 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje na 5-letnią kadencję i odwołuje Sejm za zgodą Senatu. 2. Senat podejmuje uchwałę w sprawie wyrażenia zgody na powołanie Przewodniczącego Komisji w terminie miesiąca od dnia przekazania Senatowi uchwały Sejmu w sprawie powołania Przewodniczącego Komisji. Niepodjęcie uchwały przez Senat w terminie miesiąca oznacza wyrażenie zgody. 3. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) posiada wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 3) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, a także doświadczenie uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 4) posiada co najmniej 3-letni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 5) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 6) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 16 7) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 4. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez 2 kadencje. 5. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji Przewodniczącego Komisji jego obowiązki, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm za zgodą Senatu odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przepisów art. 36 lub art. 37; 4) rezygnacji ze stanowiska; 5) utraty obywatelstwa polskiego; 6) utraty zdolności do pełnienia powierzonych obowiązków na skutek choroby trwającej dłużej niż 3 miesiące. 2. Wniosek w sprawie odwołania Przewodniczącego Komisji w związku z naruszeniem przez niego przepisów art. 36 lub art. 37 przekazuje Sejmowi Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na 5-letnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 3. 3. Przewodniczący Komisji umieszcza ogłoszenie o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie 17 urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest przeprowadzany nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia o naborze w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. W skład zespołu wchodzi 5 osób, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe dają rękojmię wyłonienia najlepszych kandydatów: 1) dwóch przedstawicieli wyznaczonych przez Przewodniczącego Komisji, w tym pełniący funkcję przewodniczącego zespołu; 2) przedstawiciel wyznaczony przez Radę; 3) przedstawiciel wyznaczony przez Prezesa Urzędu Ochrony Danych Osobowych; 4) przedstawiciel wyznaczony przez Prezesa Polskiej Akademii Nauk. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku Zastępcy Przewodniczącego Komisji oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię przeprowadzenia tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko Zastępcy Przewodniczącego Komisji. 18 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie liczby kandydatów na stanowisko Zastępcy Przewodniczącego Komisji; 2) imiona i nazwiska oraz miejsca zamieszkania wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza niezwłocznie wynik naboru na stanowisko Zastępcy Przewodniczącego Komisji w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był przeprowadzany nabór; 2) imiona i nazwiska oraz miejsca zamieszkania wybranych kandydatów albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. Powołanie Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji stanowi nawiązanie stosunku pracy na podstawie powołania w rozumieniu ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ust. 1 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160, 177 i ...). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych w ustawie do oświadczeń majątkowych stosuje się odpowiednio ustawę, o której mowa w ust. 1. 19 Art. 36. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska ani podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 37. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami lub mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 38. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane, o których mowa w art. 40, art. 41 i art. 43, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 20 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. Art. 39. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio albo pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu albo wygaśnięciu stosunku prawnego wynikającego z umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 40. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, 21 str. 1 oraz Dz. Urz. UE L 127 z 23.05.2018, str. 2), w zakresie i w celu niezbędnych do realizacji zadań, o których mowa odpowiednio w art. 6 i art. 25. Art. 41. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych w rozumieniu art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu art. 386 ust. 1 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i odrębnych przepisach. Art. 42. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od dnia zakończenia postępowania, o którym mowa w rozdziale 3, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na 5 lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu weryfikacji usuwa dane osobowe, których przetwarzanie nie jest niezbędne. Art. 43. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej osoby zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. 22 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. 4. W razie wątpliwości co do zakresu informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, Komisja może zwrócić się do podmiotu, który przekazał te informacje, o zajęcie stanowiska w zakresie niezbędnym do zapewnienia ochrony tych informacji. Art. 44. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępców Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych zadań w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do reprezentowania Komisji przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi sądami lub trybunałami. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2026 r. poz. 23 590) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 45. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 46. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od 9 do 15 członków wybieranych przez Komisję na 2- letnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 24 8) reprezentatywne organizacje związkowe w rozumieniu art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 3) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji; 11) związki pracodawców, o których mowa w art. 1 ust. 1 ustawy z dnia 23 maja 1991 r. o organizacjach pracodawców (Dz. U. z 2025 r. poz. 423). 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) wyraziła na piśmie zgodę na kandydowanie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci; 3) niewykonywania obowiązków przez okres dłuższy niż 3 miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe. 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723, z 2025 r. poz. 39 i 1661 oraz z 2026 r. poz. 426. 25 7. W przypadkach, o których mowa w ust. 6 pkt 3 i 4, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję niezachowania tajemnicy, o której mowa w art. 48 ust. 5, lub zaistnienia okoliczności, o których mowa w art. 48 ust. 7, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja powołuje nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się przepis art. 39 ust. 1. Art. 47. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie rozporządzenia 2024/1689 lub ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji lub Zastępców Przewodniczącego Komisji przepisów art. 36 lub art. 37. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i ustawie przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o których mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 48. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po 2 kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 26 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania w tajemnicy informacji, o których mowa w ust. 5, w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany przez Komisję na wniosek Rady. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 49. 1. Komisja może prowadzić kontrolę przestrzegania rozporządzenia 2024/1689 i ustawy, z uwzględnieniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania rozporządzenia 2024/1689. 27 3. W zakresie nieuregulowanym w przepisach niniejszego rozdziału, do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyjątkiem art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się odpowiednio ustawę z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 50. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na uzasadnione podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części albo całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 49 ust. 3. 28 Art. 51. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, jednak niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. W przypadku zmiany okoliczności objętych oświadczeniem, o którym mowa w ust. 3, osoba wykonująca czynności kontrolne jest obowiązana dokonać aktualizacji tego oświadczenia w terminie 30 dni. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych oraz informacji stanowiących tajemnicę przedsiębiorstwa, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i ustawie. Art. 52. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 29 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę (firmę) i siedzibę albo imię (imiona) i nazwisko oraz adres kontrolowanego, a także numer identyfikacyjny REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) pouczenie o prawach i obowiązkach kontrolowanego. 3. Upoważnienie do przeprowadzenia kontroli podpisuje imieniem i nazwiskiem Przewodniczący Komisji. Art. 53. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu art. 3 pkt 1 ustawy z dnia 17 lutego 2025 r. o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz chmury obliczeniowej będących własnością innego podmiotu, zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych do kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 30 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji i wyjaśnień, potwierdza zgodność z oryginałem kopii materiałów, dokumentów i innych danych sporządzonych lub udostępnionych na żądanie kontrolującego oraz zapewnia mu i osobom, o których mowa w art. 51 ust. 2, warunki do sprawnego przeprowadzenia kontroli, a także: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny – możliwość wstępu na teren oraz do obiektów budowlanych, a także pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 54. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów i innych danych, o których mowa w art. 53 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 53 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 55. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 31 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu przeprowadzenia kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, Sądowi Okręgowemu w Warszawie – sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo części właściwemu organowi na potrzeby prowadzonej kontroli. 6. Na postanowienie Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. 32 Art. 56. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji lub jednostek podległych ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowanych o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 rozporządzenia 2024/1689 i jego zgodności z pozostałymi przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce przeprowadzenia kontroli lub jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5 % przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w IV kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 57. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu kontrolowanego; 33 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię (imiona) i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. 5. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 6. Kontrolowany w terminie 14 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 7. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń – zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 8. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 6, uznaje się za odmowę podpisania protokołu kontroli. 34 9. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 58. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa kontrolowanego do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować kontrolowany w celu ich usunięcia; 2) wskazuje termin usunięcia nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o których mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji o ich realizacji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy kontrolowany, którego dotyczy wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja może wszcząć z urzędu postępowanie w sprawie naruszenia rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku stwierdzenia: a) na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, 35 b) w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Komisja rozpatrując skargę może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Komisja rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza rozporządzenie 2024/1689 lub ustawę, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 36 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z rozporządzeniem 2024/1689 lub ustawą; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację o wykonaniu wskazanych w nim działań. 4. W przypadku gdy strona nie wykona działań wskazanych w ostrzeżeniu, Komisja może: 1) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 2) poinformować krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę ds. Sztucznej Inteligencji, panel naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 3) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę w terminie do środków nakazujących usunięcie skutków naruszenia Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. 37 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby stwierdzić, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania systemu lub wycofanie go z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz – jeżeli wymaga tego zakres sprawy –właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się ustaw ę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustaw y z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468, 473 i ...). 4. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo części , jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. 38 Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 lub ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. Przed udostępnieniem decyzji Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie rozporządzenia 2024/1689 lub ustawy. 3. Wykaz, o którym mowa w ust. 2, zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 lub ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenie 2024/1689 i ustawa; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz, o którym mowa w ust. 2, przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych zawartych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 39 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych zawartych w wykazie. 5. Komisja jest administratorem danych przetwarzanych w wykazie, o którym mowa w ust. 2. Art. 68. Wniesienie odwołania, o którym mowa w art. 66 ust. 2, wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2026 r. poz. 490, 421 i 638), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się to do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 40 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia prawa objętego danym postępowaniem, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkody wyrządzonej w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20 % i niewięcej niż o 70 %, a w przypadku, o którym mowa w art. 85 ust. 1 – niemniej niż o 30 % i niewięcej niż o 90 %, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę skutków naruszenia objętego postępowaniem, układ może przewidywać odstąpienie od nałożenia sankcji. 41 Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin zawarcia układu niedłuższy niż miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin zawarcia układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia o woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję, mające charakter oświadczenia strony, dotychczas nieznane Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 i 3, składa się pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Składający oświadczenie jest obowiązany do zawarcia w nim klauzuli następującej treści: „Jestem świadomy odpowiedzialności karnej za złożenie fałszywego oświadczenia”. Klauzula ta zastępuje pouczenie organu o odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 42 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin przyjęcia układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia 11 czerwca 2026 r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia o przyjęciu układu jest zrzeczenie się przez stronę prawa do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów od decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. 43 Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się przepisów art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wykonywania zobowiązań przyjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wykonywania przez stronę zobowiązań przyjętych w ramach układu. Art. 81. 1. W przypadku niewy wiązania się przez stronę z zobowiązań przyjętych w ramach układu w całości albo istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, 44 kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i wydania decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia prawa, a w informacjach lub dokumentach: a) ujawniono wszystkie istotne okoliczności dotyczące tego naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu oraz b) przedstawiono dowody na poparcie tych okoliczności; 2) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez wykonanie zobowiązania niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 86. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. 45 Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 87. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 i art. 30 rozporządzenia 2024/1689 oraz ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o których mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów sztucznej inteligencji, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 46 Art. 88. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 87 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu wnioskodawcy, a także numer u identyfikacyjnego REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; 2) określenie jego zakresu; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, jeżeli został wydany. Art. 89. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 90. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i ustawą stosuje się ustawę z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 91. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 92. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, w drodze decyzji, zgody na: 47 1) odstępstwo od stosowania przepisów, o których mowa w ust. 3, lub 2) wsparcie w zakresie osiągania zgodności z wymogami rozporządzenia 2024/1689 – w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić piaskownicę regulacyjną, o której mowa w ust. 1, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, organem nadzoru rynku państwa członkowskiego Unii Europejskiej, a także z Europejskim Urzędem ds. Sztucznej Inteligencji w zakresie piaskownic regulacyjnych na poziomie Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej, o której mowa w ust. 1 pkt 1, obejmuje: 1) dokumentację systemu zarządzania ryzykiem, o którym mowa w art. 9 ust. 1–5 rozporządzenia 2024/1689; 2) zbiory danych treningowych, walidacyjnych i testowych, o których mowa w art. 10 ust. 2–5 rozporządzenia 2024/1689; 3) dokumentację techniczną, o której mowa w art. 11 rozporządzenia 2024/1689; 4) wymogi w zakresie rejestrowania zdarzeń, o których mowa w art. 12 rozporządzenia 2024/1689; 5) instrukcję obsługi, o której mowa w art. 13 ust. 2 i 3 rozporządzenia 2024/1689; 6) oznaczenie produktu, o którym mowa w art. 16 lit. b rozporządzenia 2024/1689; 7) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 8) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 rozporządzenia 2024/1689; 9) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 10) ocenę zgodności, o której mowa w art. 43 rozporządzenia 2024/1689; 11) deklarację zgodności UE, o której mowa w art. 47 rozporządzenia 2024/1689; 12) oznakowanie CE, o którym mowa w art. 48 rozporządzenia 2024/1689; 13) rejestrację w bazie danych UE, o której mowa w art. 49 ust. 1–3 rozporządzenia 2024/1689; 14) monitorowanie po wprowadzeniu do obrotu, o którym mowa w art. 72 rozporządzenia 2024/1689. 48 4. Zakres piaskownicy regulacyjnej, o której mowa w ust. 1, obejmuje także: 1) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 2) czas trwania piaskownicy regulacyjnej; 3) inne obowiązki określone w aktach wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 5. Komisja określa warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, o której mowa w ust. 1, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji. 6. W celu realizacji piaskownicy regulacyjnej, o której mowa w ust. 1, Komisja może zapewnić zaplecze technologiczne umożliwiające testowanie systemu sztucznej inteligencji w kontrolowanym środowisku, z zachowaniem odpowiedniego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych osób fizycznych. 7. Czas trwania piaskownicy regulacyjnej wynosi niemniej niż 6 i niewięcej niż 12 miesięcy. Art. 93. Prezes Urzędu Ochrony Danych Osobowych przedstawia Komisji lub podmiotom uczestniczącym w piaskownicy regulacyjnej opinie dotyczące oczekiwań regulacyjnych w odniesieniu do przetwarzania danych osobowych w piaskownicy regulacyjnej, bez uszczerbku dla swoich uprawnień nadzorczych określonych w rozporządzeniu 2016/679, z uwzględnieniem art. 57 ust. 12 rozporządzenia 2024/1689. Art. 94. Uczestnictwo mikroprzedsiębiorców, małych i średnich przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 2. Opłata za uczestnictwo w piaskownicy regulacyjnej jednostek samorządu terytorialnego nie może być wyższa niż dwukrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 3. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 1 i 2 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy, o której mowa w ust. 2. 49 4. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłat, o których mowa w ust. 2 i 3, oraz sposób ich wnoszenia, mając na względzie rodzaj podmiotu, zakres piaskownicy regulacyjnej oraz konieczność prawidłowej i efektywnej jej obsługi. Art. 95. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wykaz dokumentów, w tym plan projektu; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. 3. Plan projektu określa w szczególności: 1) harmonogram testowania; 2) cele projektu; 3) wymogi rozporządzenia 2024/1689 stosowane wobec systemu sztucznej inteligencji podczas testowania; 4) zasady przetwarzania danych osobowych; 5) procedury zarządzania ryzykiem; 6) warunki przeprowadzania testów w warunkach rzeczywistych. 4. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 96. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 50 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 97. 1. Podmioty składające oferty w konkursie na uczestnictwo w piaskownicy regulacyjnej mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej w terminie 7 dni od dnia udostępnienia tej listy. 2. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 3. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 96 ust. 1. 4. Zespół odwoławczy, oceniając odwołanie, bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 5. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 96 ust. 2 pkt 2 i 3. 6. Komisja zatwierdza dokumenty, o których mowa w ust. 5. Przepis art. 96 ust. 6 stosuje się. 7. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 5, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 92 ust. 2. Art. 98. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia zgody na odstępstwo, o której mowa w art. 92 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 16 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. 51 Art. 99. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem uczestniczącym w piaskownicy regulacyjnej. Art. 100. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3, z wyjątkiem art. 49 ust. 1 i 2 i art. 58 oraz nie stosuje się przepisu art. 59 pkt 1 lit. a. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot uczestniczący w piaskownicy regulacyjnej warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa ten podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od dnia otrzymania wezwania. 4. W przypadku gdy podmiot uczestniczący w piaskownicy regulacyjnej nie usunie naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje uchwałę o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Uchwała wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 101. 1. Po zakończeniu uczestnictwa podmiotu w piaskownicy regulacyjnej Komisja: 1) przeprowadza ocenę przyjętego projektu; 2) sporządza dokumentację końcową zawierającą: a) potwierdzenie uczestnictwa w piaskownicy regulacyjnej, b) raport końcowy. 2. Komisja doręcza potwierdzenie uczestnictwa podmiotowi uczestniczącemu w piaskownicy regulacyjnej. 52 Art. 102. 1. W terminie 90 dni od dnia doręczenia potwierdzenia uczestnictwa w piaskownicy regulacyjnej podmiot w niej uczestniczący może wystąpić do Komisji z wnioskiem o wydanie opinii indywidualnej, o której mowa w art. 8, w zakresie systemu sztucznej inteligencji będącego przedmiotem projektu. 2. Komisja wydaje opinię indywidualną, o której mowa w ust. 1, w terminie 14 dni od dnia złożenia wniosku o jej wydanie. 3. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 i art. 10 Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. 4. Do opinii indywidualnej, o której mowa w ust. 2, przepisów art. 9 ust. 4, art. 11 oraz art. 12 ust. 1 i 3 nie stosuje się. Art. 103. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji, w zakresie zadań wskazanych w ust. 1, może powierzyć nadzorowanym instytutom badawczym opracowanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji i ich aktualizacji. Minister właściwy do spraw informatyzacji udzieli nadzorowanym instytutom badawczym, o których mowa w zdaniu pierwszym, dotacji celowej na realizację tego zadania. 3. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 104. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących: a) z budżetu państwa w formie dotacji celowej, 53 b) z budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) ze środków pochodzących z bezzwrotnej pomocy zagranicznej, d) ze środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, umów lub porozumień; 3) zapewnić Komisji warunki technologiczne i infrastrukturalne niezbędne do ustanowienia piaskownicy regulacyjnej, o której mowa w art. 92 ust. 1. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 105. 1. Komisja nakłada na podmiot obowiązany do przestrzegania rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 54 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 106. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 105 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 105 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość tego podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące tego podmiotu. Art. 107. Środki finansowe pochodzące z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 108. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10 % i niewięcej niż o 50 %, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek ukaranego podmiotu, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 4. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2026 r. poz. 622), od dnia następującego po dniu złożenia wniosku. 5. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę od nieuiszczonej kwoty są naliczane odrębnie dla każdej raty. 6. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 55 7. Komisja może uchylić postanowienie o odroczeniu terminu uiszczenia administracyjnej kary pieniężnej albo rozłożeniu jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia w prze dmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty lub jeżeli rata nie została uiszczona w terminie. 8. Na postanowienie o odmowie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty ukaranemu podmiotowi przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Zmniejszenie wysokości administracyjnej kary pieniężnej, o której mowa w ust. 1, i odroczenie terminu jej uiszczenia albo rozłożenie jej na raty, o którym mowa w ust. 1: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 109. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Nadając decyzji rygor natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z wysokim prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 110. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie 56 nałożenia administracyjnej kary pieniężnej w całości albo części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, o której mowa w ust. 3, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 111. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się ustawę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 112. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem rozporządzenia 2024/1689 lub ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organu podatkowego określone w tych przepisach przysługują Komisji. Art. 113. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4 i 5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 114. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 115. Orzekanie w sprawach o czyny, o których mowa w art. 113 i art. 114, następuje w trybie ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 4) ). 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872 oraz z 2026 r. poz. 473. 57 Rozdział 9 Zmiany w przepisach Art. 116. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468 i 473) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa Postępowanie w sprawach z zakresu naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji Art. 479 [88a] . Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 [88b] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 [88c] . Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. Art. 479 [88d] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo zmianę decyzji w całości lub części. Art. 479 [88e] . Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. 58 Art. 479 [88f] . § 1. W sprawach z zakresu naruszenia rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji stronami są Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 [88g] . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję uchyla albo zmienia w całości albo części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 [88h] . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła na to zgodę. § 3. Sąd na wniosek strony albo z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału 59 dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 [88i] . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 [88c] , art. 479 [88d] , art. 479 [88e] , art. 479 [88g] i art. 479 [88h] stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 [88j] . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 117. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268, 516 i 739) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio przepis art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 118. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 119. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177): a) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego i Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”; 60 b) w art. 10 w ust. 6 w pkt 4 kropkę zastępuje się średnikiem i dodaje się pkt 5 i 6 w brzmieniu: „5) Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Prezesowi Rady Ministrów; 6) Zastępcy Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Przewodniczącemu tej Komisji.”. Art. 120. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą wykorzystania systemów sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 121. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228 oraz z 2026 r. poz. 346 i 473) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757 oraz z 2026 r. poz. 605).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu 61 Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 122. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252 i 644) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 123. W ustawie z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223) wprowadza się następujące zmiany: 1) w art. 2 w ust. 1 pkt 7 otrzymuje brzmienie: „7) notyfikacją, zgodnie z: a) art. 42 ust. 2, 5 i 8 rozporządzenia 2017/745, art. 38 ust. 2, 5 i 8 rozporządzenia 2017/746, b) przepisami rozdziału III sekcji 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) w zakresie wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia 2017/745, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia 2017/746, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takim systemem.”; 2) w art. 4 w ust. 1 w pkt 3 w lit. r średnik zastępuje się przecinkiem i dodaje się lit. s w brzmieniu: „s) współpraca z organem notyfikującym, o którym mowa w rozdziale 6 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. 62 U. poz. ...), w tym przekazywanie informacji o notyfikacji, o której mowa w art. 2 ust. 1 pkt 7 lit. b;”. Art. 124. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252 i 548) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 125. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 23 kropkę zastępuje się średnikiem i dodaje się pkt 24 w brzmieniu: „24) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 126. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm za zgodą Senatu powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 2 miesięcy od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jej Przewodniczący zwołuje w terminie 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 44 ust. 2, oraz rozpoczęcia działalności przez tę komórkę, Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej Przewodniczącego w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 127. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem finansowym wejścia w życie ustawy wynosi w: 1) 2026 r. – 9,30 mln zł; 2) 2027 r. – 23,74 mln zł; 3) 2028 r. – 24,17 mln zł; 4) 2029 r. – 24,89 mln zł; 5) 2030 r. – 25,63 mln zł; 6) 2031 r. – 26,39 mln zł; 7) 2032 r. – 27,18 mln zł; 63 8) 2033 r. – 27,99 mln zł; 9) 2034 r. – 28,82 mln zł; 10) 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 128. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 126 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; 2) art. 8–18 oraz rozdziałów 3–5, 8 i 9, które wchodzą w życie po upływie 3 miesięcy od dnia ogłoszenia. MARSZAŁEK SEJMU / – / Włodzimierz Czarzasty\r\n\r\nSUMMARY TO EVALUATE:\r\nTitle: New rules and oversight for artificial intelligence in Poland\r\nSummary: The act introduces a control system for artificial intelligence to protect citizens' safety, health, and fundamental rights from technological risks. A special Commission will monitor compliance, while creators of technology will gain safe environments to test their innovations.\r\nKey Points: Establishment of the AI Commission to monitor the market and ensure the safety of artificial intelligence systems., Protection for private users – the new strict obligations do not apply to individuals using AI solely for personal and household purposes., Introduction of 'regulatory sandboxes' allowing small and medium-sized businesses to test innovative AI solutions free of charge., Option to obtain an official individual opinion from the Commission (for a 150 PLN fee) regarding the legality of planned AI usage., High financial penalties for violating the rules and criminal liability for obstructing inspections or ignoring orders to stop risky systems., Possibility of reducing fines (by up to 90%) through an agreement if the company quickly fixes the issues and cooperates.\r\n\r\nEVALUATION RULES:\r\n1. Check all NUMBERS, DATES, and AMOUNTS in SUMMARY. If any of them is missing from SOURCE -> is_valid: false.\r\n2. Check all NAMES, ORGANIZATIONS, and PLACES in SUMMARY. If any of them is missing from SOURCE -> is_valid: false.\r\n3. Check all specific LEGAL ACTIONS. If that mechanism is not present in SOURCE -> is_valid: false.\r\n\r\nIMPORTANT: Abstract concepts (e.g. \"transparency\", \"trust\") are allowed as conclusions.\r\n\r\nOUTPUT (JSON):\r\n{\r\n  \"is_valid\": true/false,\r\n  \"issue\": \"fabricated_entity\" / \"contradiction\" / \"none\"\r\n}\r\n\r\nFORMATTING REQUIREMENTS:\r\n1. Respond ONLY with a raw JSON object.\r\n2. DO NOT use Markdown code blocks.\r\n3. DO NOT add any introductions or explanations before or after the JSON.\r\n4. The JSON must be valid and ready to parse.\r\n\r\n",
      "ai_response_raw": "{\n  \"is_valid\": true,\n  \"issue\": \"none\"\n}"
    },
    {
      "timestamp": "2026-07-17T11:16:15.542Z",
      "source_url": "https://storage.googleapis.com/lustra-web-prod/pl/pl-parliament/10/legislations/10_2443/text/index.html",
      "model": "gemini-3.5-flash",
      "prompt_sent": "\r\nYou are an expert in the law of the Poland, whose task is to analyze bills, resolutions, and other legislative documents, and then prepare information from them in an accessible way for citizens. Your goal is to present information so that citizens can assess the impact of legislation on their lives themselves, even without specialized legislative knowledge. Focus on facts and the objective effects of the introduced changes, avoiding value judgments and personal opinions. All legal jargon is forbidden. Present information in a clear, concise, and engaging way, so that it is understandable to a person without legal education. Avoid long, complex sentences. Instead of writing \"the bill aims to amend the tax code...\", write \"Tax changes: new reliefs and obligations for...\". Continue your work until you solve your task. If you are not certain about the generated content, analyze the document again – do not guess. Plan your task well before starting it. In the summary and key points, if possible and justified, emphasize what specific benefits or effects (positive or negative) the law introduces for citizens' everyday life, their rights and obligations, personal finances, safety, and other important issues (e.g. categorical prohibitions and orders, or the most important specific financial and territorial allocations).\r\n\r\nYour response MUST be in JSON format - and contain the following keys.\r\nBefore returning the response, carefully verify that the entire JSON structure is 100% correct, including all commas, curly braces, square brackets, and quotation marks. Invalid JSON is unacceptable and will make it impossible to process your work.\r\n\r\nCarefully analyze the following text of the legal document. This is the content on the basis of which you must generate the summary and key points:\r\n--- DOCUMENT START ---\r\nTekst ustawy przekazany do Senatu zgodnie z art. 52 regulaminu Sejmu U S TAWA z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji 1) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanym dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie rozporządzenia 2024/1689 i ustawy. 1) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustaw ę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustaw ę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. 2 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26 i ...); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań naukowych i prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 2) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych w rozumieniu art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów sztucznej inteligencji wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 2) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328, 370, 635 i 637. 3 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i niepozostających w związku z działalnością: a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2026 r. poz. 592), b) gospodarczą, o której mowa w art. 3 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826 oraz z 2026 r. poz. 507), wykonywaną przez przedsiębiorcę w rozumieniu art. 4 ust. 1 i 2 tej ustawy, c) o której mowa w art. 5 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą w rozumieniu art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile ustawa nie stanowi inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 4 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model AI w rozumieniu art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad rynkiem systemów sztucznej inteligencji Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci urzędowej z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z uwzględnieniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 5 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych z zakresu sztucznej inteligencji, w tym projektów aktów prawnych; 6) wydawanie postanowień i decyzji w sprawach o naruszenie rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, a także prowadzenie działań informacyjnych w tym zakresie; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej i państw trzecich oraz agencjami Unii Europejskiej i organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad systemami sztucznej inteligencji; 11) podejmowanie działań mających na celu tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania rozporządzenia 2024/1689 i ustawy w indywidualnych spraw ach, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach, o których mowa w art. 53 ust. 3 rozporządzenia 2024/1689; 17) wspieranie konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji poprzez: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, 6 b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 103 ust. 3, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w art. 9 ustaw y z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846 oraz z 2026 r. poz. 426, 635 i 680). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie Europejskiej Rady ds. Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się podmiot: 1) obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania przepisów, o których mowa w pkt 1. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym rozporządzeniem 2024/1689 lub ustaw ą. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego w zakresie jednego zagadnienia, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek w zakresie oceny prawnej stanu faktycznego lub zdarzenia przyszłego, o których mowa w pkt 1; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę (firmę) i siedzibę oraz adres do korespondencji, a także numer identyfikacyjny REGON, jeżeli został 7 nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. 5. Ten sam podmiot może zwrócić się do Komisji z nowym wnioskiem o wydanie opinii indywidualnej nie wcześniej niż po upływie 30 dni od dnia złożenia ostatniego wniosku. W przypadku niezachowania terminu, o którym mowa w zdaniu pierwszym, nowy wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna wydana przez Komisję nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej przed złożeniem wniosku uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 lub art. 10, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 4. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku do momentu wydania opinii indywidualnej przez Komisję – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 8 5. Zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje w terminie 30 dni od dnia: 1) wycofania wniosku – w przypadku, o którym mowa w ust. 4 pkt 1; 2) złożenia wniosku – w przypadku, o którym mowa w ust. 4 pkt 2; 3) upływu terminu na wydanie opinii – w przypadku, o którym mowa w ust. 4 pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – niepóźniej niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku, którego dotyczy wniosek za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnej ze stanowiskiem, które podmiot przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest wydawana i ocenę stanowiska, które podmiot przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić albo uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, 9 orzecznictwo sądów, a także akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydane na podstawie rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie tej opinii stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie albo stwierdzenie wygaśnięcia opinii indywidualnej następuje w drodze postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, uchyleniem albo wygaśnięciem nie może szkodzić podmiotowi, na wniosek którego została wydana ta opinia. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady ds. Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji wraz z informacją o ich aktualności. Przed udostępnieniem opinii indywidualnej albo wyjaśnienia Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 10 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego w szczególności orzecznictwa sądów, a także aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydanych na podstawie rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech członków Komisji wskazanych przez: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisję Nadzoru Finansowego, c) Krajową Radę Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji z głose m doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3 w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji bez prawa głosu mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w art. 5 ustawy z dnia 4 września 1997 r. o działach administracji rządowej, oraz krajowe organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 11 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25 i 473). Art. 20. 1. W zakresie określonym rozporządzeniem 2024/1689 i ustawą Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i ustawie; 4) krajowymi organami i podmiotami publicznymi określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej i ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa i CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20, 252 i ...), w zakresie wymiany informacji niezbędnych do reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz bezpieczeństwem systemów sztucznej inteligencji w rozumieniu rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223 oraz z 2026 r. poz. ...); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi oraz monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 12 9) koordynatorem do spraw usług cyfrowych w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE (akt o usługach cyfrowych) (Dz. Urz. UE L 277 z 22.10.2022, str. 1 oraz Dz. Urz. UE. L z 163 z 29.06.2023, str. 107) – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96, 1222 i ...); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w ściganiu sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych rozporządzeniem 2024/1689 współpracuje z Komisją Europejską, Europejską Radą ds. Sztucznej Inteligencji, panelem naukowym i właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej 5 osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. Posiedzenie Komisji może odbywać się w trybie zdalnym przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu osobom uprawnionym, o których mowa w art. 19 ust. 1–3; 2) osobom, o których mowa w art. 19 ust. 1, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 13 2024/1689, ustawie oraz przepisach odrębnych, a także z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, wypowiadanie się w toku obrad. Art. 23. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zamieszcza się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 24. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepis art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego Komisji lub członka Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie krajowych organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 14 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i jej efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w szczególności informacje na temat stwierdzonych nieprawidłowości, a także o ogólnym poziomie wiedzy oraz kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, za rok kalendarzowy poprzedzający rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 15 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje na 5-letnią kadencję i odwołuje Sejm za zgodą Senatu. 2. Senat podejmuje uchwałę w sprawie wyrażenia zgody na powołanie Przewodniczącego Komisji w terminie miesiąca od dnia przekazania Senatowi uchwały Sejmu w sprawie powołania Przewodniczącego Komisji. Niepodjęcie uchwały przez Senat w terminie miesiąca oznacza wyrażenie zgody. 3. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) posiada wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 3) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, a także doświadczenie uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 4) posiada co najmniej 3-letni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 5) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 6) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 16 7) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 4. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez 2 kadencje. 5. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji Przewodniczącego Komisji jego obowiązki, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm za zgodą Senatu odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przepisów art. 36 lub art. 37; 4) rezygnacji ze stanowiska; 5) utraty obywatelstwa polskiego; 6) utraty zdolności do pełnienia powierzonych obowiązków na skutek choroby trwającej dłużej niż 3 miesiące. 2. Wniosek w sprawie odwołania Przewodniczącego Komisji w związku z naruszeniem przez niego przepisów art. 36 lub art. 37 przekazuje Sejmowi Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na 5-letnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 3. 3. Przewodniczący Komisji umieszcza ogłoszenie o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie 17 urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest przeprowadzany nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia o naborze w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. W skład zespołu wchodzi 5 osób, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe dają rękojmię wyłonienia najlepszych kandydatów: 1) dwóch przedstawicieli wyznaczonych przez Przewodniczącego Komisji, w tym pełniący funkcję przewodniczącego zespołu; 2) przedstawiciel wyznaczony przez Radę; 3) przedstawiciel wyznaczony przez Prezesa Urzędu Ochrony Danych Osobowych; 4) przedstawiciel wyznaczony przez Prezesa Polskiej Akademii Nauk. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku Zastępcy Przewodniczącego Komisji oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię przeprowadzenia tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko Zastępcy Przewodniczącego Komisji. 18 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie liczby kandydatów na stanowisko Zastępcy Przewodniczącego Komisji; 2) imiona i nazwiska oraz miejsca zamieszkania wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza niezwłocznie wynik naboru na stanowisko Zastępcy Przewodniczącego Komisji w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był przeprowadzany nabór; 2) imiona i nazwiska oraz miejsca zamieszkania wybranych kandydatów albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. Powołanie Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji stanowi nawiązanie stosunku pracy na podstawie powołania w rozumieniu ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ust. 1 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160, 177 i ...). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych w ustawie do oświadczeń majątkowych stosuje się odpowiednio ustawę, o której mowa w ust. 1. 19 Art. 36. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska ani podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 37. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami lub mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 38. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane, o których mowa w art. 40, art. 41 i art. 43, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 20 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. Art. 39. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio albo pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu albo wygaśnięciu stosunku prawnego wynikającego z umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 40. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, 21 str. 1 oraz Dz. Urz. UE L 127 z 23.05.2018, str. 2), w zakresie i w celu niezbędnych do realizacji zadań, o których mowa odpowiednio w art. 6 i art. 25. Art. 41. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych w rozumieniu art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu art. 386 ust. 1 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i odrębnych przepisach. Art. 42. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od dnia zakończenia postępowania, o którym mowa w rozdziale 3, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na 5 lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu weryfikacji usuwa dane osobowe, których przetwarzanie nie jest niezbędne. Art. 43. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej osoby zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. 22 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. 4. W razie wątpliwości co do zakresu informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, Komisja może zwrócić się do podmiotu, który przekazał te informacje, o zajęcie stanowiska w zakresie niezbędnym do zapewnienia ochrony tych informacji. Art. 44. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępców Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych zadań w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do reprezentowania Komisji przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi sądami lub trybunałami. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2026 r. poz. 23 590) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 45. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 46. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od 9 do 15 członków wybieranych przez Komisję na 2- letnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 24 8) reprezentatywne organizacje związkowe w rozumieniu art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 3) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji; 11) związki pracodawców, o których mowa w art. 1 ust. 1 ustawy z dnia 23 maja 1991 r. o organizacjach pracodawców (Dz. U. z 2025 r. poz. 423). 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) wyraziła na piśmie zgodę na kandydowanie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci; 3) niewykonywania obowiązków przez okres dłuższy niż 3 miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe. 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723, z 2025 r. poz. 39 i 1661 oraz z 2026 r. poz. 426. 25 7. W przypadkach, o których mowa w ust. 6 pkt 3 i 4, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję niezachowania tajemnicy, o której mowa w art. 48 ust. 5, lub zaistnienia okoliczności, o których mowa w art. 48 ust. 7, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja powołuje nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się przepis art. 39 ust. 1. Art. 47. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie rozporządzenia 2024/1689 lub ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji lub Zastępców Przewodniczącego Komisji przepisów art. 36 lub art. 37. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i ustawie przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o których mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 48. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po 2 kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 26 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania w tajemnicy informacji, o których mowa w ust. 5, w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany przez Komisję na wniosek Rady. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 49. 1. Komisja może prowadzić kontrolę przestrzegania rozporządzenia 2024/1689 i ustawy, z uwzględnieniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania rozporządzenia 2024/1689. 27 3. W zakresie nieuregulowanym w przepisach niniejszego rozdziału, do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyjątkiem art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się odpowiednio ustawę z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 50. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na uzasadnione podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części albo całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 49 ust. 3. 28 Art. 51. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, jednak niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. W przypadku zmiany okoliczności objętych oświadczeniem, o którym mowa w ust. 3, osoba wykonująca czynności kontrolne jest obowiązana dokonać aktualizacji tego oświadczenia w terminie 30 dni. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych oraz informacji stanowiących tajemnicę przedsiębiorstwa, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i ustawie. Art. 52. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 29 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę (firmę) i siedzibę albo imię (imiona) i nazwisko oraz adres kontrolowanego, a także numer identyfikacyjny REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) pouczenie o prawach i obowiązkach kontrolowanego. 3. Upoważnienie do przeprowadzenia kontroli podpisuje imieniem i nazwiskiem Przewodniczący Komisji. Art. 53. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu art. 3 pkt 1 ustawy z dnia 17 lutego 2025 r. o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz chmury obliczeniowej będących własnością innego podmiotu, zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych do kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 30 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji i wyjaśnień, potwierdza zgodność z oryginałem kopii materiałów, dokumentów i innych danych sporządzonych lub udostępnionych na żądanie kontrolującego oraz zapewnia mu i osobom, o których mowa w art. 51 ust. 2, warunki do sprawnego przeprowadzenia kontroli, a także: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny – możliwość wstępu na teren oraz do obiektów budowlanych, a także pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 54. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów i innych danych, o których mowa w art. 53 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 53 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 55. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 31 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu przeprowadzenia kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, Sądowi Okręgowemu w Warszawie – sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo części właściwemu organowi na potrzeby prowadzonej kontroli. 6. Na postanowienie Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. 32 Art. 56. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji lub jednostek podległych ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowanych o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 rozporządzenia 2024/1689 i jego zgodności z pozostałymi przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce przeprowadzenia kontroli lub jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5 % przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w IV kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 57. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu kontrolowanego; 33 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię (imiona) i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. 5. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 6. Kontrolowany w terminie 14 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 7. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń – zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 8. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 6, uznaje się za odmowę podpisania protokołu kontroli. 34 9. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 58. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa kontrolowanego do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować kontrolowany w celu ich usunięcia; 2) wskazuje termin usunięcia nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o których mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji o ich realizacji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy kontrolowany, którego dotyczy wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja może wszcząć z urzędu postępowanie w sprawie naruszenia rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku stwierdzenia: a) na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, 35 b) w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Komisja rozpatrując skargę może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Komisja rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza rozporządzenie 2024/1689 lub ustawę, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 36 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z rozporządzeniem 2024/1689 lub ustawą; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację o wykonaniu wskazanych w nim działań. 4. W przypadku gdy strona nie wykona działań wskazanych w ostrzeżeniu, Komisja może: 1) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 2) poinformować krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę ds. Sztucznej Inteligencji, panel naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 3) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę w terminie do środków nakazujących usunięcie skutków naruszenia Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. 37 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby stwierdzić, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania systemu lub wycofanie go z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz – jeżeli wymaga tego zakres sprawy –właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się ustaw ę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustaw y z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468, 473 i ...). 4. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo części , jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. 38 Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 lub ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. Przed udostępnieniem decyzji Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie rozporządzenia 2024/1689 lub ustawy. 3. Wykaz, o którym mowa w ust. 2, zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 lub ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenie 2024/1689 i ustawa; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz, o którym mowa w ust. 2, przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych zawartych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 39 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych zawartych w wykazie. 5. Komisja jest administratorem danych przetwarzanych w wykazie, o którym mowa w ust. 2. Art. 68. Wniesienie odwołania, o którym mowa w art. 66 ust. 2, wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2026 r. poz. 490, 421 i 638), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się to do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 40 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia prawa objętego danym postępowaniem, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkody wyrządzonej w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20 % i niewięcej niż o 70 %, a w przypadku, o którym mowa w art. 85 ust. 1 – niemniej niż o 30 % i niewięcej niż o 90 %, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę skutków naruszenia objętego postępowaniem, układ może przewidywać odstąpienie od nałożenia sankcji. 41 Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin zawarcia układu niedłuższy niż miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin zawarcia układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia o woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję, mające charakter oświadczenia strony, dotychczas nieznane Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 i 3, składa się pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Składający oświadczenie jest obowiązany do zawarcia w nim klauzuli następującej treści: „Jestem świadomy odpowiedzialności karnej za złożenie fałszywego oświadczenia”. Klauzula ta zastępuje pouczenie organu o odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 42 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin przyjęcia układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia 11 czerwca 2026 r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia o przyjęciu układu jest zrzeczenie się przez stronę prawa do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów od decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. 43 Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się przepisów art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wykonywania zobowiązań przyjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wykonywania przez stronę zobowiązań przyjętych w ramach układu. Art. 81. 1. W przypadku niewy wiązania się przez stronę z zobowiązań przyjętych w ramach układu w całości albo istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, 44 kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i wydania decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia prawa, a w informacjach lub dokumentach: a) ujawniono wszystkie istotne okoliczności dotyczące tego naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu oraz b) przedstawiono dowody na poparcie tych okoliczności; 2) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez wykonanie zobowiązania niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 86. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. 45 Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 87. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 i art. 30 rozporządzenia 2024/1689 oraz ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o których mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów sztucznej inteligencji, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 46 Art. 88. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 87 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu wnioskodawcy, a także numer u identyfikacyjnego REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; 2) określenie jego zakresu; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, jeżeli został wydany. Art. 89. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 90. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i ustawą stosuje się ustawę z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 91. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 92. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, w drodze decyzji, zgody na: 47 1) odstępstwo od stosowania przepisów, o których mowa w ust. 3, lub 2) wsparcie w zakresie osiągania zgodności z wymogami rozporządzenia 2024/1689 – w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić piaskownicę regulacyjną, o której mowa w ust. 1, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, organem nadzoru rynku państwa członkowskiego Unii Europejskiej, a także z Europejskim Urzędem ds. Sztucznej Inteligencji w zakresie piaskownic regulacyjnych na poziomie Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej, o której mowa w ust. 1 pkt 1, obejmuje: 1) dokumentację systemu zarządzania ryzykiem, o którym mowa w art. 9 ust. 1–5 rozporządzenia 2024/1689; 2) zbiory danych treningowych, walidacyjnych i testowych, o których mowa w art. 10 ust. 2–5 rozporządzenia 2024/1689; 3) dokumentację techniczną, o której mowa w art. 11 rozporządzenia 2024/1689; 4) wymogi w zakresie rejestrowania zdarzeń, o których mowa w art. 12 rozporządzenia 2024/1689; 5) instrukcję obsługi, o której mowa w art. 13 ust. 2 i 3 rozporządzenia 2024/1689; 6) oznaczenie produktu, o którym mowa w art. 16 lit. b rozporządzenia 2024/1689; 7) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 8) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 rozporządzenia 2024/1689; 9) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 10) ocenę zgodności, o której mowa w art. 43 rozporządzenia 2024/1689; 11) deklarację zgodności UE, o której mowa w art. 47 rozporządzenia 2024/1689; 12) oznakowanie CE, o którym mowa w art. 48 rozporządzenia 2024/1689; 13) rejestrację w bazie danych UE, o której mowa w art. 49 ust. 1–3 rozporządzenia 2024/1689; 14) monitorowanie po wprowadzeniu do obrotu, o którym mowa w art. 72 rozporządzenia 2024/1689. 48 4. Zakres piaskownicy regulacyjnej, o której mowa w ust. 1, obejmuje także: 1) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 2) czas trwania piaskownicy regulacyjnej; 3) inne obowiązki określone w aktach wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 5. Komisja określa warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, o której mowa w ust. 1, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji. 6. W celu realizacji piaskownicy regulacyjnej, o której mowa w ust. 1, Komisja może zapewnić zaplecze technologiczne umożliwiające testowanie systemu sztucznej inteligencji w kontrolowanym środowisku, z zachowaniem odpowiedniego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych osób fizycznych. 7. Czas trwania piaskownicy regulacyjnej wynosi niemniej niż 6 i niewięcej niż 12 miesięcy. Art. 93. Prezes Urzędu Ochrony Danych Osobowych przedstawia Komisji lub podmiotom uczestniczącym w piaskownicy regulacyjnej opinie dotyczące oczekiwań regulacyjnych w odniesieniu do przetwarzania danych osobowych w piaskownicy regulacyjnej, bez uszczerbku dla swoich uprawnień nadzorczych określonych w rozporządzeniu 2016/679, z uwzględnieniem art. 57 ust. 12 rozporządzenia 2024/1689. Art. 94. Uczestnictwo mikroprzedsiębiorców, małych i średnich przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 2. Opłata za uczestnictwo w piaskownicy regulacyjnej jednostek samorządu terytorialnego nie może być wyższa niż dwukrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 3. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 1 i 2 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy, o której mowa w ust. 2. 49 4. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłat, o których mowa w ust. 2 i 3, oraz sposób ich wnoszenia, mając na względzie rodzaj podmiotu, zakres piaskownicy regulacyjnej oraz konieczność prawidłowej i efektywnej jej obsługi. Art. 95. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wykaz dokumentów, w tym plan projektu; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. 3. Plan projektu określa w szczególności: 1) harmonogram testowania; 2) cele projektu; 3) wymogi rozporządzenia 2024/1689 stosowane wobec systemu sztucznej inteligencji podczas testowania; 4) zasady przetwarzania danych osobowych; 5) procedury zarządzania ryzykiem; 6) warunki przeprowadzania testów w warunkach rzeczywistych. 4. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 96. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 50 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 97. 1. Podmioty składające oferty w konkursie na uczestnictwo w piaskownicy regulacyjnej mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej w terminie 7 dni od dnia udostępnienia tej listy. 2. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 3. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 96 ust. 1. 4. Zespół odwoławczy, oceniając odwołanie, bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 5. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 96 ust. 2 pkt 2 i 3. 6. Komisja zatwierdza dokumenty, o których mowa w ust. 5. Przepis art. 96 ust. 6 stosuje się. 7. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 5, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 92 ust. 2. Art. 98. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia zgody na odstępstwo, o której mowa w art. 92 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 16 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. 51 Art. 99. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem uczestniczącym w piaskownicy regulacyjnej. Art. 100. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3, z wyjątkiem art. 49 ust. 1 i 2 i art. 58 oraz nie stosuje się przepisu art. 59 pkt 1 lit. a. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot uczestniczący w piaskownicy regulacyjnej warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa ten podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od dnia otrzymania wezwania. 4. W przypadku gdy podmiot uczestniczący w piaskownicy regulacyjnej nie usunie naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje uchwałę o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Uchwała wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 101. 1. Po zakończeniu uczestnictwa podmiotu w piaskownicy regulacyjnej Komisja: 1) przeprowadza ocenę przyjętego projektu; 2) sporządza dokumentację końcową zawierającą: a) potwierdzenie uczestnictwa w piaskownicy regulacyjnej, b) raport końcowy. 2. Komisja doręcza potwierdzenie uczestnictwa podmiotowi uczestniczącemu w piaskownicy regulacyjnej. 52 Art. 102. 1. W terminie 90 dni od dnia doręczenia potwierdzenia uczestnictwa w piaskownicy regulacyjnej podmiot w niej uczestniczący może wystąpić do Komisji z wnioskiem o wydanie opinii indywidualnej, o której mowa w art. 8, w zakresie systemu sztucznej inteligencji będącego przedmiotem projektu. 2. Komisja wydaje opinię indywidualną, o której mowa w ust. 1, w terminie 14 dni od dnia złożenia wniosku o jej wydanie. 3. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 i art. 10 Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. 4. Do opinii indywidualnej, o której mowa w ust. 2, przepisów art. 9 ust. 4, art. 11 oraz art. 12 ust. 1 i 3 nie stosuje się. Art. 103. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji, w zakresie zadań wskazanych w ust. 1, może powierzyć nadzorowanym instytutom badawczym opracowanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji i ich aktualizacji. Minister właściwy do spraw informatyzacji udzieli nadzorowanym instytutom badawczym, o których mowa w zdaniu pierwszym, dotacji celowej na realizację tego zadania. 3. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 104. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących: a) z budżetu państwa w formie dotacji celowej, 53 b) z budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) ze środków pochodzących z bezzwrotnej pomocy zagranicznej, d) ze środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, umów lub porozumień; 3) zapewnić Komisji warunki technologiczne i infrastrukturalne niezbędne do ustanowienia piaskownicy regulacyjnej, o której mowa w art. 92 ust. 1. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 105. 1. Komisja nakłada na podmiot obowiązany do przestrzegania rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 54 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 106. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 105 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 105 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość tego podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące tego podmiotu. Art. 107. Środki finansowe pochodzące z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 108. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10 % i niewięcej niż o 50 %, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek ukaranego podmiotu, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 4. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2026 r. poz. 622), od dnia następującego po dniu złożenia wniosku. 5. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę od nieuiszczonej kwoty są naliczane odrębnie dla każdej raty. 6. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 55 7. Komisja może uchylić postanowienie o odroczeniu terminu uiszczenia administracyjnej kary pieniężnej albo rozłożeniu jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia w prze dmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty lub jeżeli rata nie została uiszczona w terminie. 8. Na postanowienie o odmowie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty ukaranemu podmiotowi przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Zmniejszenie wysokości administracyjnej kary pieniężnej, o której mowa w ust. 1, i odroczenie terminu jej uiszczenia albo rozłożenie jej na raty, o którym mowa w ust. 1: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 109. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Nadając decyzji rygor natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z wysokim prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 110. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie 56 nałożenia administracyjnej kary pieniężnej w całości albo części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, o której mowa w ust. 3, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 111. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się ustawę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 112. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem rozporządzenia 2024/1689 lub ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organu podatkowego określone w tych przepisach przysługują Komisji. Art. 113. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4 i 5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 114. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 115. Orzekanie w sprawach o czyny, o których mowa w art. 113 i art. 114, następuje w trybie ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 4) ). 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872 oraz z 2026 r. poz. 473. 57 Rozdział 9 Zmiany w przepisach Art. 116. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468 i 473) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa Postępowanie w sprawach z zakresu naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji Art. 479 [88a] . Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 [88b] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 [88c] . Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. Art. 479 [88d] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo zmianę decyzji w całości lub części. Art. 479 [88e] . Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. 58 Art. 479 [88f] . § 1. W sprawach z zakresu naruszenia rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji stronami są Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 [88g] . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję uchyla albo zmienia w całości albo części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 [88h] . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła na to zgodę. § 3. Sąd na wniosek strony albo z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału 59 dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 [88i] . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 [88c] , art. 479 [88d] , art. 479 [88e] , art. 479 [88g] i art. 479 [88h] stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 [88j] . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 117. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268, 516 i 739) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio przepis art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 118. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 119. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177): a) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego i Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”; 60 b) w art. 10 w ust. 6 w pkt 4 kropkę zastępuje się średnikiem i dodaje się pkt 5 i 6 w brzmieniu: „5) Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Prezesowi Rady Ministrów; 6) Zastępcy Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Przewodniczącemu tej Komisji.”. Art. 120. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą wykorzystania systemów sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 121. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228 oraz z 2026 r. poz. 346 i 473) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757 oraz z 2026 r. poz. 605).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu 61 Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 122. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252 i 644) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 123. W ustawie z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223) wprowadza się następujące zmiany: 1) w art. 2 w ust. 1 pkt 7 otrzymuje brzmienie: „7) notyfikacją, zgodnie z: a) art. 42 ust. 2, 5 i 8 rozporządzenia 2017/745, art. 38 ust. 2, 5 i 8 rozporządzenia 2017/746, b) przepisami rozdziału III sekcji 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) w zakresie wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia 2017/745, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia 2017/746, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takim systemem.”; 2) w art. 4 w ust. 1 w pkt 3 w lit. r średnik zastępuje się przecinkiem i dodaje się lit. s w brzmieniu: „s) współpraca z organem notyfikującym, o którym mowa w rozdziale 6 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. 62 U. poz. ...), w tym przekazywanie informacji o notyfikacji, o której mowa w art. 2 ust. 1 pkt 7 lit. b;”. Art. 124. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252 i 548) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 125. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 23 kropkę zastępuje się średnikiem i dodaje się pkt 24 w brzmieniu: „24) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 126. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm za zgodą Senatu powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 2 miesięcy od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jej Przewodniczący zwołuje w terminie 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 44 ust. 2, oraz rozpoczęcia działalności przez tę komórkę, Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej Przewodniczącego w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 127. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem finansowym wejścia w życie ustawy wynosi w: 1) 2026 r. – 9,30 mln zł; 2) 2027 r. – 23,74 mln zł; 3) 2028 r. – 24,17 mln zł; 4) 2029 r. – 24,89 mln zł; 5) 2030 r. – 25,63 mln zł; 6) 2031 r. – 26,39 mln zł; 7) 2032 r. – 27,18 mln zł; 63 8) 2033 r. – 27,99 mln zł; 9) 2034 r. – 28,82 mln zł; 10) 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 128. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 126 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; 2) art. 8–18 oraz rozdziałów 3–5, 8 i 9, które wchodzą w życie po upływie 3 miesięcy od dnia ogłoszenia. MARSZAŁEK SEJMU / – / Włodzimierz Czarzasty\r\n--- DOCUMENT END ---\r\n\r\nREMEMBER: Your response MUST be only a valid JSON object. Do not add any extra characters, comments, or text before the '{' character or after the '}' character. The entire response must be parseable as JSON.\r\nBased on the ABOVE document, fill in the JSON structure below:\r\nHere is the JSON structure I expect (fill it with content):\r\n{\r\n  \"pl_ai_title\": \"Nowy, krótki tytuł dla aktu prawnego po polsku, oddający sedno wprowadzanych zmian (np. maksymalnie 10-12 słów).\",\r\n  \"pl_summary\": \"2-3 zdania zwięzłego podsumowania treści aktu prawnego po polsku, napisane z perspektywy wpływu na życie codzienne obywateli.\",\r\n  \"pl_key_points\": [\r\n    \"Pierwszy krótki punkt po polsku dotyczący najważniejszych wprowadzanych rozwiązań lub zmian.\",\r\n    \"Drugi krótki punkt po polsku...\"\r\n  ],\r\n  \"eng_ai_title\": \"A new, short title for the legal act in English, capturing the essence of the changes (e.g., max 10-12 words).\",\r\n  \"eng_summary\": \"2-3 sentences summarizing the legal act in English, from the perspective of its impact on citizens' daily lives.\",\r\n  \"eng_key_points\": [\r\n    \"First short bullet point in English regarding the most important solutions or changes being introduced.\",\r\n    \"Second short bullet point in English...\"\r\n  ],\r\n  \"de_ai_title\": \"Ein neuer, kurzer Titel für das Rechtsdokument auf Deutsch, der den Kern der Änderungen erfasst (z.B. max. 10-12 Wörter).\",\r\n  \"de_summary\": \"2-3 Sätze Zusammenfassung des Rechtsdokuments auf Deutsch, aus der Perspektive seiner Auswirkungen auf das tägliche Leben der Bürger.\",\r\n  \"de_key_points\": [\r\n    \"Erster kurzer Stichpunkt auf Deutsch zu den wichtigsten eingeführten Lösungen oder Änderungen.\",\r\n    \"Zweiter kurzer Stichpunkt auf Deutsch...\"\r\n  ],\r\n  \"fr_ai_title\": \"Un nouveau titre court pour l'acte juridique en français, saisissant l'essence des changements (par exemple, 10-12 mots maximum).\",\r\n  \"fr_summary\": \"Résumé de 2-3 phrases de l'acte juridique en français, du point de vue de son impact sur la vie quotidienne des citoyens.\",\r\n  \"fr_key_points\": [\r\n    \"Premier court point en français concernant les solutions ou changements les plus importants introduits.\",\r\n    \"Deuxième court point en français...\"\r\n  ],\r\n  \"es_ai_title\": \"Un nuevo título breve para el acto jurídico en español, que recoja la esencia de los cambios (por ejemplo, máximo 10-12 palabras).\",\r\n  \"es_summary\": \"Resumen de 2-3 frases del acto jurídico en español, desde la perspectiva de su impacto en la vida cotidiana de los ciudadanos.\",\r\n  \"es_key_points\": [\r\n    \"Primer punto breve en español sobre las soluciones o cambios más importantes que se introducen.\",\r\n    \"Segundo punto breve en español...\"\r\n  ],\r\n  \"it_ai_title\": \"Un nuovo titolo breve per l'atto giuridico in italiano, che colga l'essenza delle modifiche (ad es. massimo 10-12 parole).\",\r\n  \"it_summary\": \"Riepilogo di 2-3 frasi dell'atto giuridico in italiano, dal punto di vista del suo impatto sulla vita quotidiana dei cittadini.\",\r\n  \"it_key_points\": [\r\n    \"Primo breve punto in italiano riguardante le soluzioni o le modifiche più importanti introdotte.\",\r\n    \"Secondo breve punto in italiano...\"\r\n  ],\r\n  \"nl_ai_title\": \"Een nieuwe, korte titel voor de rechtshandeling in het Nederlands, die de essentie van de wijzigingen weergeeft (bijv. max. 10-12 woorden).\",\r\n  \"nl_summary\": \"Samenvatting van 2-3 zinnen van de rechtshandeling in het Nederlands, vanuit het perspectief van de impact op het dagelijks leven van burgers.\",\r\n  \"nl_key_points\": [\r\n    \"Eerste korte punt in het Nederlands betreffende de belangrijkste geïntroduceerde oplossingen of wijzigingen.\",\r\n    \"Tweede korte punt in het Nederlands...\"\r\n  ],\r\n  \"pt_ai_title\": \"Um novo título curto para o ato jurídico em português, capturando a essência das mudanças (por exemplo, máx. 10-12 palavras).\",\r\n  \"pt_summary\": \"Resumo de 2-3 frases do ato jurídico em português, na perspetiva do seu impacto na vida quotidiana dos cidadãos.\",\r\n  \"pt_key_points\": [\r\n    \"Primeiro ponto curto em português sobre as soluções ou alterações mais importantes introduzidas.\",\r\n    \"Segundo ponto curto em português...\"\r\n  ],\r\n  \"category\": [\"Categorize the document into one category by default, based on the field it primarily concerns. Choose up to 3 if the document also touches upon SIGNIFICANT issues from other categories. You MUST select categories ONLY from the following list: Health, Education, Family, Taxes, Labor, Security, Environment, Courts and Law, Transport, Benefits, Real Estate, Media and Culture, Local Government, Migration, Agriculture, Public Investments, Informatization, Economy. If the document does not definitively fit any of these, you MUST use \\\"Other\\\". If you use \\\"Other\\\", it should be the ONLY category selected. Do NOT invent new categories. The response must be an array of strings, e.g., [\\\"Taxes\\\", \\\"Family\\\"].\"]\r\n}\r\n\r\n",
      "ai_response_raw": "{\n  \"pl_ai_title\": \"Nowe zasady i nadzór nad sztuczną inteligencją w Polsce\",\n  \"pl_summary\": \"Ustawa wprowadza system kontroli nad sztuczną inteligencją, aby chronić bezpieczeństwo, zdrowie i prawa obywateli przed zagrożeniami technologicznymi. Powstaje specjalna Komisja, która będzie pilnować przestrzegania przepisów, a dla twórców technologii przewidziano bezpieczne warunki do testowania innowacji.\",\n  \"pl_key_points\": [\n    \"Powstanie Komisji ds. Sztucznej Inteligencji, która będzie kontrolować rynek i dbać o bezpieczeństwo systemów AI.\",\n    \"Ochrona prywatnych użytkowników – nowe, surowe obowiązki nie dotyczą osób korzystających ze sztucznej inteligencji wyłącznie do celów osobistych i domowych.\",\n    \"Wprowadzenie 'piaskownic regulacyjnych', czyli kontrolowanych środowisk do bezpłatnego testowania nowych rozwiązań przez małe i średnie firmy.\",\n    \"Możliwość uzyskania oficjalnej opinii Komisji (za opłatą 150 zł) na temat tego, czy planowane użycie sztucznej inteligencji jest zgodne z prawem.\",\n    \"Wysokie kary finansowe za łamanie przepisów oraz odpowiedzialność karna za utrudnianie kontroli lub ignorowanie nakazów wstrzymania niebezpiecznych systemów.\",\n    \"Możliwość łagodzenia kar (nawet do 90%) w drodze porozumienia, jeśli firma szybko naprawi błędy i podejmie współpracę z Komisją.\"\n  ],\n  \"eng_ai_title\": \"New rules and oversight for artificial intelligence in Poland\",\n  \"eng_summary\": \"The act introduces a control system for artificial intelligence to protect citizens' safety, health, and fundamental rights from technological risks. A special Commission will monitor compliance, while creators of technology will gain safe environments to test their innovations.\",\n  \"eng_key_points\": [\n    \"Establishment of the AI Commission to monitor the market and ensure the safety of artificial intelligence systems.\",\n    \"Protection for private users – the new strict obligations do not apply to individuals using AI solely for personal and household purposes.\",\n    \"Introduction of 'regulatory sandboxes' allowing small and medium-sized businesses to test innovative AI solutions free of charge.\",\n    \"Option to obtain an official individual opinion from the Commission (for a 150 PLN fee) regarding the legality of planned AI usage.\",\n    \"High financial penalties for violating the rules and criminal liability for obstructing inspections or ignoring orders to stop risky systems.\",\n    \"Possibility of reducing fines (by up to 90%) through an agreement if the company quickly fixes the issues and cooperates.\"\n  ],\n  \"de_ai_title\": \"Neue Regeln und Aufsicht für künstliche Intelligenz in Polen\",\n  \"de_summary\": \"Das Gesetz führt ein Kontrollsystem für künstliche Intelligenz ein, um die Sicherheit, Gesundheit und Grundrechte der Bürger vor technologischen Risiken zu schützen. Eine spezielle Kommission wird die Einhaltung überwachen, während Entwickler sichere Testumgebungen für ihre Innovationen erhalten.\",\n  \"de_key_points\": [\n    \"Einrichtung der KI-Kommission zur Marktüberwachung und Gewährleistung der Sicherheit von Systemen der künstlichen Intelligenz.\",\n    \"Schutz für private Nutzer – die neuen strengen Pflichten gelten nicht für Personen, die KI rein privat oder im Haushalt nutzen.\",\n    \"Einführung von 'regulatorischen Sandkästen', in denen kleine und mittlere Unternehmen innovative KI-Lösungen kostenlos testen können.\",\n    \"Möglichkeit, gegen eine Gebühr von 150 PLN eine offizielle Einzelfallstellungnahme der Kommission zur Rechtmäßigkeit der geplanten KI-Nutzung einzuholen.\",\n    \"Hohe Geldstrafen bei Verstößen und strafrechtliche Haftung für die Behinderung von Kontrollen oder das Ignorieren von Abschaltanordnungen für riskante Systeme.\",\n    \"Möglichkeit der Strafminderung (um bis zu 90 %) durch eine Vereinbarung, wenn das Unternehmen Fehler schnell behebt und kooperiert.\"\n  ],\n  \"fr_ai_title\": \"Nouvelles règles et surveillance de l'intelligence artificielle en Pologne\",\n  \"fr_summary\": \"La loi introduit un système de contrôle de l'intelligence artificielle afin de protéger la sécurité, la santé et les droits fondamentaux des citoyens contre les risques technologiques. Une Commission spéciale veillera au respect des règles, tandis que les créateurs de technologies disposeront d'environnements sécurisés pour tester leurs innovations.\",\n  \"fr_key_points\": [\n    \"Création de la Commission de l'IA pour surveiller le marché et garantir la sécurité des systèmes d'intelligence artificielle.\",\n    \"Protection des utilisateurs privés – les nouvelles obligations strictes ne s'appliquent pas aux personnes utilisant l'IA à des fins purement personnelles et domestiques.\",\n    \"Mise en place de 'bacs à sable réglementaires' permettant aux petites et moyennes entreprises de tester gratuitement des solutions d'IA innovantes.\",\n    \"Possibilité d'obtenir un avis individuel officiel de la Commission (pour un tarif de 150 PLN) concernant la légalité de l'utilisation prévue de l'IA.\",\n    \"Amendes financières élevées en cas d'infraction et responsabilité pénale pour entrave aux contrôles ou non-respect des ordres d'arrêt des systèmes dangereux.\",\n    \"Possibilité de réduire les amendes (jusqu'à 90 %) par le biais d'un accord si l'entreprise corrige rapidement les erreurs et coopère.\"\n  ],\n  \"es_ai_title\": \"Nuevas normas y supervisión de la inteligencia artificial en Polonia\",\n  \"es_summary\": \"La ley introduce un sistema de control de la inteligencia artificial para proteger la seguridad, la salud y los derechos fundamentales de los ciudadanos frente a los riesgos tecnológicos. Una Comisión especial vigilará el cumplimiento de las normas, mientras que los creadores de tecnología dispondrán de entornos seguros para probar sus innovaciones.\",\n  \"es_key_points\": [\n    \"Creación de la Comisión de IA para supervisar el mercado y garantizar la seguridad de los sistemas de inteligencia artificial.\",\n    \"Protección para usuarios privados: las nuevas obligaciones estrictas no se aplican a quienes utilicen la IA únicamente para fines personales y domésticos.\",\n    \"Introducción de 'bancos de pruebas regulatorios' para que las pequeñas y medianas empresas prueben soluciones innovadoras de IA de forma gratuita.\",\n    \"Posibilidad de obtener una opinión oficial de la Comisión (por una tasa de 150 PLN) sobre la legalidad del uso previsto de la IA.\",\n    \"Elevadas multas financieras por infringir las normas y responsabilidad penal por obstruir las inspecciones o ignorar las órdenes de detener sistemas de riesgo.\",\n    \"Posibilidad de reducir las multas (hasta un 90%) mediante un acuerdo si la empresa corrige rápidamente los errores y coopera.\"\n  ],\n  \"it_ai_title\": \"Nuove regole e vigilanza sull'intelligenza artificiale in Polonia\",\n  \"it_summary\": \"La legge introduce un sistema di controllo sull'intelligenza artificiale per proteggere la sicurezza, la salute e i diritti fondamentali dei cittadini dai rischi tecnologici. Una Commissione speciale vigilerà sul rispetto delle norme, mentre i creatori di tecnologia avranno a disposizione ambienti sicuri per testare le loro innovazioni.\",\n  \"it_key_points\": [\n    \"Istituzione della Commissione per l'IA con il compito di vigilare sul mercato e garantire la sicurezza dei sistemi di intelligenza artificiale.\",\n    \"Tutela degli utenti privati: i nuovi severi obblighi non si applicano a chi utilizza l'IA esclusivamente per scopi personali e domestici.\",\n    \"Introduzione di 'sandbox regolamentari' per consentire alle piccole e medie imprese di testare gratuitamente soluzioni di IA innovative.\",\n    \"Possibilità di ottenere un parere individuale ufficiale da parte della Commissione (al costo di 150 PLN) sulla conformità legale dell'uso previsto dell'IA.\",\n    \"Sanzioni pecuniarie elevate in caso di violazione e responsabilità penale per chi ostacola i controlli o ignora l'ordine di sospendere i sistemi a rischio.\",\n    \"Possibilità di ridurre le sanzioni (fino al 90%) tramite un accordo se l'azienda rimedia rapidamente alle violazioni e collabora.\"\n  ],\n  \"nl_ai_title\": \"Nieuwe regels en toezicht op kunstmatige intelligentie in Polen\",\n  \"nl_summary\": \"De wet introduceert een controlesysteem voor kunstmatige intelligentie om de veiligheid, gezondheid en grondrechten van burgers te beschermen tegen technologische risico's. Een speciale Commissie zal toezien op de naleving, terwijl ontwikkelaars veilige omgevingen krijgen om hun innovaties te testen.\",\n  \"nl_key_points\": [\n    \"Oprichting van de AI-Commissie om toezicht te houden op de markt en de veiligheid van kunstmatige-intelligentiesystemen te waarborgen.\",\n    \"Bescherming van particuliere gebruikers – de nieuwe strenge verplichtingen gelden niet voor personen die AI puur voor persoonlijk en huishoudelijk gebruik inzetten.\",\n    \"Invoering van 'reguleringszandbakken' waarin kleine en middelgrote ondernemingen innovatieve AI-oplossingen gratis kunnen testen.\",\n    \"Mogelijkheid om tegen betaling van 150 PLN een officieel individueel advies van de Commissie te krijgen over de rechtmatigheid van het geplande AI-gebruik.\",\n    \"Hoge geldboetes bij overtredingen en strafrechtelijke aansprakelijkheid voor het belemmeren van inspecties of het negeren van bevelen om risicovolle systemen stop te zetten.\",\n    \"Mogelijkheid om boetes te verlagen (tot wel 90%) via een schikking als het bedrijf fouten snel herstelt en meewerkt.\"\n  ],\n  \"pt_ai_title\": \"Um novo título curto para o ato jurídico em português, capturando a essência das mudanças (por exemplo, máx. 10-12 palavras).\",\n  \"pt_summary\": \"Resumo de 2-3 frases do ato jurídico em português, na perspetiva do seu impacto na vida quotidiana dos cidadãos.\",\n  \"pt_key_points\": [\n    \"Primeiro ponto curto em português sobre as soluções ou alterações mais importantes introduzidas.\",\n    \"Segundo ponto curto em português...\"\n  ],\n  \"category\": [\n    \"Informatization\",\n    \"Security\",\n    \"Economy\"\n  ]\n}"
    },
    {
      "timestamp": "2026-06-12T16:22:10.349Z",
      "source_url": "https://storage.googleapis.com/lustra-web-prod/pl/sejm/10/legislations/10_2443/text/index.html",
      "model": "gemini-flash-lite-latest",
      "prompt_sent": "\r\nROLE: Fact Checker.\r\nTASK: Compare SOURCE (the original) and SUMMARY (a summary prepared by another AI).\r\n\r\nYour goal is to detect \"FABRICATED SPECIFICS\" (Fabricated Entities) in SUMMARY.\r\n\r\nSOURCE:\r\nTekst ustawy przekazany do Senatu zgodnie z art. 52 regulaminu Sejmu U S TAWA z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji 1) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanym dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie rozporządzenia 2024/1689 i ustawy. 1) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustaw ę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustaw ę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. 2 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26 i ...); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań naukowych i prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 2) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych w rozumieniu art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów sztucznej inteligencji wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 2) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328, 370, 635 i 637. 3 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i niepozostających w związku z działalnością: a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2026 r. poz. 592), b) gospodarczą, o której mowa w art. 3 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826 oraz z 2026 r. poz. 507), wykonywaną przez przedsiębiorcę w rozumieniu art. 4 ust. 1 i 2 tej ustawy, c) o której mowa w art. 5 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą w rozumieniu art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile ustawa nie stanowi inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 4 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model AI w rozumieniu art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad rynkiem systemów sztucznej inteligencji Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci urzędowej z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z uwzględnieniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 5 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych z zakresu sztucznej inteligencji, w tym projektów aktów prawnych; 6) wydawanie postanowień i decyzji w sprawach o naruszenie rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, a także prowadzenie działań informacyjnych w tym zakresie; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej i państw trzecich oraz agencjami Unii Europejskiej i organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad systemami sztucznej inteligencji; 11) podejmowanie działań mających na celu tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania rozporządzenia 2024/1689 i ustawy w indywidualnych spraw ach, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach, o których mowa w art. 53 ust. 3 rozporządzenia 2024/1689; 17) wspieranie konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji poprzez: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, 6 b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 103 ust. 3, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w art. 9 ustaw y z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846 oraz z 2026 r. poz. 426, 635 i 680). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie Europejskiej Rady ds. Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się podmiot: 1) obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania przepisów, o których mowa w pkt 1. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym rozporządzeniem 2024/1689 lub ustaw ą. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego w zakresie jednego zagadnienia, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek w zakresie oceny prawnej stanu faktycznego lub zdarzenia przyszłego, o których mowa w pkt 1; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę (firmę) i siedzibę oraz adres do korespondencji, a także numer identyfikacyjny REGON, jeżeli został 7 nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. 5. Ten sam podmiot może zwrócić się do Komisji z nowym wnioskiem o wydanie opinii indywidualnej nie wcześniej niż po upływie 30 dni od dnia złożenia ostatniego wniosku. W przypadku niezachowania terminu, o którym mowa w zdaniu pierwszym, nowy wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna wydana przez Komisję nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej przed złożeniem wniosku uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 lub art. 10, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 4. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku do momentu wydania opinii indywidualnej przez Komisję – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 8 5. Zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje w terminie 30 dni od dnia: 1) wycofania wniosku – w przypadku, o którym mowa w ust. 4 pkt 1; 2) złożenia wniosku – w przypadku, o którym mowa w ust. 4 pkt 2; 3) upływu terminu na wydanie opinii – w przypadku, o którym mowa w ust. 4 pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – niepóźniej niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku, którego dotyczy wniosek za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnej ze stanowiskiem, które podmiot przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest wydawana i ocenę stanowiska, które podmiot przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić albo uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, 9 orzecznictwo sądów, a także akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydane na podstawie rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie tej opinii stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie albo stwierdzenie wygaśnięcia opinii indywidualnej następuje w drodze postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, uchyleniem albo wygaśnięciem nie może szkodzić podmiotowi, na wniosek którego została wydana ta opinia. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady ds. Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji wraz z informacją o ich aktualności. Przed udostępnieniem opinii indywidualnej albo wyjaśnienia Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 10 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego w szczególności orzecznictwa sądów, a także aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydanych na podstawie rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech członków Komisji wskazanych przez: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisję Nadzoru Finansowego, c) Krajową Radę Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji z głose m doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3 w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji bez prawa głosu mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w art. 5 ustawy z dnia 4 września 1997 r. o działach administracji rządowej, oraz krajowe organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 11 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25 i 473). Art. 20. 1. W zakresie określonym rozporządzeniem 2024/1689 i ustawą Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i ustawie; 4) krajowymi organami i podmiotami publicznymi określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej i ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa i CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20, 252 i ...), w zakresie wymiany informacji niezbędnych do reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz bezpieczeństwem systemów sztucznej inteligencji w rozumieniu rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223 oraz z 2026 r. poz. ...); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi oraz monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 12 9) koordynatorem do spraw usług cyfrowych w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE (akt o usługach cyfrowych) (Dz. Urz. UE L 277 z 22.10.2022, str. 1 oraz Dz. Urz. UE. L z 163 z 29.06.2023, str. 107) – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96, 1222 i ...); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w ściganiu sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych rozporządzeniem 2024/1689 współpracuje z Komisją Europejską, Europejską Radą ds. Sztucznej Inteligencji, panelem naukowym i właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej 5 osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. Posiedzenie Komisji może odbywać się w trybie zdalnym przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu osobom uprawnionym, o których mowa w art. 19 ust. 1–3; 2) osobom, o których mowa w art. 19 ust. 1, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 13 2024/1689, ustawie oraz przepisach odrębnych, a także z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, wypowiadanie się w toku obrad. Art. 23. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zamieszcza się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 24. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepis art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego Komisji lub członka Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie krajowych organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 14 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i jej efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w szczególności informacje na temat stwierdzonych nieprawidłowości, a także o ogólnym poziomie wiedzy oraz kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, za rok kalendarzowy poprzedzający rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 15 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje na 5-letnią kadencję i odwołuje Sejm za zgodą Senatu. 2. Senat podejmuje uchwałę w sprawie wyrażenia zgody na powołanie Przewodniczącego Komisji w terminie miesiąca od dnia przekazania Senatowi uchwały Sejmu w sprawie powołania Przewodniczącego Komisji. Niepodjęcie uchwały przez Senat w terminie miesiąca oznacza wyrażenie zgody. 3. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) posiada wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 3) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, a także doświadczenie uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 4) posiada co najmniej 3-letni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 5) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 6) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 16 7) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 4. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez 2 kadencje. 5. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji Przewodniczącego Komisji jego obowiązki, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm za zgodą Senatu odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przepisów art. 36 lub art. 37; 4) rezygnacji ze stanowiska; 5) utraty obywatelstwa polskiego; 6) utraty zdolności do pełnienia powierzonych obowiązków na skutek choroby trwającej dłużej niż 3 miesiące. 2. Wniosek w sprawie odwołania Przewodniczącego Komisji w związku z naruszeniem przez niego przepisów art. 36 lub art. 37 przekazuje Sejmowi Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na 5-letnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 3. 3. Przewodniczący Komisji umieszcza ogłoszenie o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie 17 urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest przeprowadzany nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia o naborze w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. W skład zespołu wchodzi 5 osób, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe dają rękojmię wyłonienia najlepszych kandydatów: 1) dwóch przedstawicieli wyznaczonych przez Przewodniczącego Komisji, w tym pełniący funkcję przewodniczącego zespołu; 2) przedstawiciel wyznaczony przez Radę; 3) przedstawiciel wyznaczony przez Prezesa Urzędu Ochrony Danych Osobowych; 4) przedstawiciel wyznaczony przez Prezesa Polskiej Akademii Nauk. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku Zastępcy Przewodniczącego Komisji oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię przeprowadzenia tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko Zastępcy Przewodniczącego Komisji. 18 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie liczby kandydatów na stanowisko Zastępcy Przewodniczącego Komisji; 2) imiona i nazwiska oraz miejsca zamieszkania wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza niezwłocznie wynik naboru na stanowisko Zastępcy Przewodniczącego Komisji w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był przeprowadzany nabór; 2) imiona i nazwiska oraz miejsca zamieszkania wybranych kandydatów albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. Powołanie Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji stanowi nawiązanie stosunku pracy na podstawie powołania w rozumieniu ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ust. 1 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160, 177 i ...). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych w ustawie do oświadczeń majątkowych stosuje się odpowiednio ustawę, o której mowa w ust. 1. 19 Art. 36. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska ani podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 37. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami lub mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 38. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane, o których mowa w art. 40, art. 41 i art. 43, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 20 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. Art. 39. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio albo pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu albo wygaśnięciu stosunku prawnego wynikającego z umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 40. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, 21 str. 1 oraz Dz. Urz. UE L 127 z 23.05.2018, str. 2), w zakresie i w celu niezbędnych do realizacji zadań, o których mowa odpowiednio w art. 6 i art. 25. Art. 41. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych w rozumieniu art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu art. 386 ust. 1 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i odrębnych przepisach. Art. 42. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od dnia zakończenia postępowania, o którym mowa w rozdziale 3, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na 5 lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu weryfikacji usuwa dane osobowe, których przetwarzanie nie jest niezbędne. Art. 43. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej osoby zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. 22 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. 4. W razie wątpliwości co do zakresu informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, Komisja może zwrócić się do podmiotu, który przekazał te informacje, o zajęcie stanowiska w zakresie niezbędnym do zapewnienia ochrony tych informacji. Art. 44. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępców Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych zadań w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do reprezentowania Komisji przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi sądami lub trybunałami. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2026 r. poz. 23 590) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 45. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 46. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od 9 do 15 członków wybieranych przez Komisję na 2- letnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 24 8) reprezentatywne organizacje związkowe w rozumieniu art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 3) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji; 11) związki pracodawców, o których mowa w art. 1 ust. 1 ustawy z dnia 23 maja 1991 r. o organizacjach pracodawców (Dz. U. z 2025 r. poz. 423). 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) wyraziła na piśmie zgodę na kandydowanie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci; 3) niewykonywania obowiązków przez okres dłuższy niż 3 miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe. 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723, z 2025 r. poz. 39 i 1661 oraz z 2026 r. poz. 426. 25 7. W przypadkach, o których mowa w ust. 6 pkt 3 i 4, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję niezachowania tajemnicy, o której mowa w art. 48 ust. 5, lub zaistnienia okoliczności, o których mowa w art. 48 ust. 7, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja powołuje nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się przepis art. 39 ust. 1. Art. 47. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie rozporządzenia 2024/1689 lub ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji lub Zastępców Przewodniczącego Komisji przepisów art. 36 lub art. 37. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i ustawie przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o których mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 48. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po 2 kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 26 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania w tajemnicy informacji, o których mowa w ust. 5, w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany przez Komisję na wniosek Rady. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 49. 1. Komisja może prowadzić kontrolę przestrzegania rozporządzenia 2024/1689 i ustawy, z uwzględnieniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania rozporządzenia 2024/1689. 27 3. W zakresie nieuregulowanym w przepisach niniejszego rozdziału, do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyjątkiem art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się odpowiednio ustawę z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 50. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na uzasadnione podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części albo całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 49 ust. 3. 28 Art. 51. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, jednak niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. W przypadku zmiany okoliczności objętych oświadczeniem, o którym mowa w ust. 3, osoba wykonująca czynności kontrolne jest obowiązana dokonać aktualizacji tego oświadczenia w terminie 30 dni. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych oraz informacji stanowiących tajemnicę przedsiębiorstwa, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i ustawie. Art. 52. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 29 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę (firmę) i siedzibę albo imię (imiona) i nazwisko oraz adres kontrolowanego, a także numer identyfikacyjny REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) pouczenie o prawach i obowiązkach kontrolowanego. 3. Upoważnienie do przeprowadzenia kontroli podpisuje imieniem i nazwiskiem Przewodniczący Komisji. Art. 53. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu art. 3 pkt 1 ustawy z dnia 17 lutego 2025 r. o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz chmury obliczeniowej będących własnością innego podmiotu, zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych do kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 30 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji i wyjaśnień, potwierdza zgodność z oryginałem kopii materiałów, dokumentów i innych danych sporządzonych lub udostępnionych na żądanie kontrolującego oraz zapewnia mu i osobom, o których mowa w art. 51 ust. 2, warunki do sprawnego przeprowadzenia kontroli, a także: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny – możliwość wstępu na teren oraz do obiektów budowlanych, a także pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 54. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów i innych danych, o których mowa w art. 53 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 53 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 55. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 31 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu przeprowadzenia kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, Sądowi Okręgowemu w Warszawie – sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo części właściwemu organowi na potrzeby prowadzonej kontroli. 6. Na postanowienie Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. 32 Art. 56. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji lub jednostek podległych ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowanych o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 rozporządzenia 2024/1689 i jego zgodności z pozostałymi przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce przeprowadzenia kontroli lub jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5 % przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w IV kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 57. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu kontrolowanego; 33 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię (imiona) i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. 5. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 6. Kontrolowany w terminie 14 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 7. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń – zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 8. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 6, uznaje się za odmowę podpisania protokołu kontroli. 34 9. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 58. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa kontrolowanego do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować kontrolowany w celu ich usunięcia; 2) wskazuje termin usunięcia nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o których mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji o ich realizacji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy kontrolowany, którego dotyczy wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja może wszcząć z urzędu postępowanie w sprawie naruszenia rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku stwierdzenia: a) na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, 35 b) w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Komisja rozpatrując skargę może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Komisja rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza rozporządzenie 2024/1689 lub ustawę, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 36 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z rozporządzeniem 2024/1689 lub ustawą; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację o wykonaniu wskazanych w nim działań. 4. W przypadku gdy strona nie wykona działań wskazanych w ostrzeżeniu, Komisja może: 1) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 2) poinformować krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę ds. Sztucznej Inteligencji, panel naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 3) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę w terminie do środków nakazujących usunięcie skutków naruszenia Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. 37 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby stwierdzić, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania systemu lub wycofanie go z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz – jeżeli wymaga tego zakres sprawy –właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się ustaw ę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustaw y z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468, 473 i ...). 4. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo części , jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. 38 Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 lub ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. Przed udostępnieniem decyzji Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie rozporządzenia 2024/1689 lub ustawy. 3. Wykaz, o którym mowa w ust. 2, zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 lub ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenie 2024/1689 i ustawa; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz, o którym mowa w ust. 2, przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych zawartych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 39 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych zawartych w wykazie. 5. Komisja jest administratorem danych przetwarzanych w wykazie, o którym mowa w ust. 2. Art. 68. Wniesienie odwołania, o którym mowa w art. 66 ust. 2, wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2026 r. poz. 490, 421 i 638), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się to do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 40 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia prawa objętego danym postępowaniem, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkody wyrządzonej w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20 % i niewięcej niż o 70 %, a w przypadku, o którym mowa w art. 85 ust. 1 – niemniej niż o 30 % i niewięcej niż o 90 %, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę skutków naruszenia objętego postępowaniem, układ może przewidywać odstąpienie od nałożenia sankcji. 41 Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin zawarcia układu niedłuższy niż miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin zawarcia układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia o woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję, mające charakter oświadczenia strony, dotychczas nieznane Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 i 3, składa się pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Składający oświadczenie jest obowiązany do zawarcia w nim klauzuli następującej treści: „Jestem świadomy odpowiedzialności karnej za złożenie fałszywego oświadczenia”. Klauzula ta zastępuje pouczenie organu o odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 42 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin przyjęcia układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia 11 czerwca 2026 r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia o przyjęciu układu jest zrzeczenie się przez stronę prawa do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów od decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. 43 Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się przepisów art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wykonywania zobowiązań przyjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wykonywania przez stronę zobowiązań przyjętych w ramach układu. Art. 81. 1. W przypadku niewy wiązania się przez stronę z zobowiązań przyjętych w ramach układu w całości albo istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, 44 kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i wydania decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia prawa, a w informacjach lub dokumentach: a) ujawniono wszystkie istotne okoliczności dotyczące tego naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu oraz b) przedstawiono dowody na poparcie tych okoliczności; 2) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez wykonanie zobowiązania niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 86. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. 45 Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 87. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 i art. 30 rozporządzenia 2024/1689 oraz ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o których mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów sztucznej inteligencji, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 46 Art. 88. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 87 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu wnioskodawcy, a także numer u identyfikacyjnego REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; 2) określenie jego zakresu; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, jeżeli został wydany. Art. 89. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 90. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i ustawą stosuje się ustawę z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 91. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 92. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, w drodze decyzji, zgody na: 47 1) odstępstwo od stosowania przepisów, o których mowa w ust. 3, lub 2) wsparcie w zakresie osiągania zgodności z wymogami rozporządzenia 2024/1689 – w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić piaskownicę regulacyjną, o której mowa w ust. 1, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, organem nadzoru rynku państwa członkowskiego Unii Europejskiej, a także z Europejskim Urzędem ds. Sztucznej Inteligencji w zakresie piaskownic regulacyjnych na poziomie Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej, o której mowa w ust. 1 pkt 1, obejmuje: 1) dokumentację systemu zarządzania ryzykiem, o którym mowa w art. 9 ust. 1–5 rozporządzenia 2024/1689; 2) zbiory danych treningowych, walidacyjnych i testowych, o których mowa w art. 10 ust. 2–5 rozporządzenia 2024/1689; 3) dokumentację techniczną, o której mowa w art. 11 rozporządzenia 2024/1689; 4) wymogi w zakresie rejestrowania zdarzeń, o których mowa w art. 12 rozporządzenia 2024/1689; 5) instrukcję obsługi, o której mowa w art. 13 ust. 2 i 3 rozporządzenia 2024/1689; 6) oznaczenie produktu, o którym mowa w art. 16 lit. b rozporządzenia 2024/1689; 7) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 8) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 rozporządzenia 2024/1689; 9) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 10) ocenę zgodności, o której mowa w art. 43 rozporządzenia 2024/1689; 11) deklarację zgodności UE, o której mowa w art. 47 rozporządzenia 2024/1689; 12) oznakowanie CE, o którym mowa w art. 48 rozporządzenia 2024/1689; 13) rejestrację w bazie danych UE, o której mowa w art. 49 ust. 1–3 rozporządzenia 2024/1689; 14) monitorowanie po wprowadzeniu do obrotu, o którym mowa w art. 72 rozporządzenia 2024/1689. 48 4. Zakres piaskownicy regulacyjnej, o której mowa w ust. 1, obejmuje także: 1) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 2) czas trwania piaskownicy regulacyjnej; 3) inne obowiązki określone w aktach wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 5. Komisja określa warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, o której mowa w ust. 1, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji. 6. W celu realizacji piaskownicy regulacyjnej, o której mowa w ust. 1, Komisja może zapewnić zaplecze technologiczne umożliwiające testowanie systemu sztucznej inteligencji w kontrolowanym środowisku, z zachowaniem odpowiedniego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych osób fizycznych. 7. Czas trwania piaskownicy regulacyjnej wynosi niemniej niż 6 i niewięcej niż 12 miesięcy. Art. 93. Prezes Urzędu Ochrony Danych Osobowych przedstawia Komisji lub podmiotom uczestniczącym w piaskownicy regulacyjnej opinie dotyczące oczekiwań regulacyjnych w odniesieniu do przetwarzania danych osobowych w piaskownicy regulacyjnej, bez uszczerbku dla swoich uprawnień nadzorczych określonych w rozporządzeniu 2016/679, z uwzględnieniem art. 57 ust. 12 rozporządzenia 2024/1689. Art. 94. Uczestnictwo mikroprzedsiębiorców, małych i średnich przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 2. Opłata za uczestnictwo w piaskownicy regulacyjnej jednostek samorządu terytorialnego nie może być wyższa niż dwukrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 3. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 1 i 2 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy, o której mowa w ust. 2. 49 4. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłat, o których mowa w ust. 2 i 3, oraz sposób ich wnoszenia, mając na względzie rodzaj podmiotu, zakres piaskownicy regulacyjnej oraz konieczność prawidłowej i efektywnej jej obsługi. Art. 95. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wykaz dokumentów, w tym plan projektu; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. 3. Plan projektu określa w szczególności: 1) harmonogram testowania; 2) cele projektu; 3) wymogi rozporządzenia 2024/1689 stosowane wobec systemu sztucznej inteligencji podczas testowania; 4) zasady przetwarzania danych osobowych; 5) procedury zarządzania ryzykiem; 6) warunki przeprowadzania testów w warunkach rzeczywistych. 4. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 96. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 50 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 97. 1. Podmioty składające oferty w konkursie na uczestnictwo w piaskownicy regulacyjnej mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej w terminie 7 dni od dnia udostępnienia tej listy. 2. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 3. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 96 ust. 1. 4. Zespół odwoławczy, oceniając odwołanie, bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 5. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 96 ust. 2 pkt 2 i 3. 6. Komisja zatwierdza dokumenty, o których mowa w ust. 5. Przepis art. 96 ust. 6 stosuje się. 7. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 5, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 92 ust. 2. Art. 98. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia zgody na odstępstwo, o której mowa w art. 92 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 16 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. 51 Art. 99. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem uczestniczącym w piaskownicy regulacyjnej. Art. 100. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3, z wyjątkiem art. 49 ust. 1 i 2 i art. 58 oraz nie stosuje się przepisu art. 59 pkt 1 lit. a. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot uczestniczący w piaskownicy regulacyjnej warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa ten podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od dnia otrzymania wezwania. 4. W przypadku gdy podmiot uczestniczący w piaskownicy regulacyjnej nie usunie naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje uchwałę o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Uchwała wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 101. 1. Po zakończeniu uczestnictwa podmiotu w piaskownicy regulacyjnej Komisja: 1) przeprowadza ocenę przyjętego projektu; 2) sporządza dokumentację końcową zawierającą: a) potwierdzenie uczestnictwa w piaskownicy regulacyjnej, b) raport końcowy. 2. Komisja doręcza potwierdzenie uczestnictwa podmiotowi uczestniczącemu w piaskownicy regulacyjnej. 52 Art. 102. 1. W terminie 90 dni od dnia doręczenia potwierdzenia uczestnictwa w piaskownicy regulacyjnej podmiot w niej uczestniczący może wystąpić do Komisji z wnioskiem o wydanie opinii indywidualnej, o której mowa w art. 8, w zakresie systemu sztucznej inteligencji będącego przedmiotem projektu. 2. Komisja wydaje opinię indywidualną, o której mowa w ust. 1, w terminie 14 dni od dnia złożenia wniosku o jej wydanie. 3. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 i art. 10 Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. 4. Do opinii indywidualnej, o której mowa w ust. 2, przepisów art. 9 ust. 4, art. 11 oraz art. 12 ust. 1 i 3 nie stosuje się. Art. 103. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji, w zakresie zadań wskazanych w ust. 1, może powierzyć nadzorowanym instytutom badawczym opracowanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji i ich aktualizacji. Minister właściwy do spraw informatyzacji udzieli nadzorowanym instytutom badawczym, o których mowa w zdaniu pierwszym, dotacji celowej na realizację tego zadania. 3. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 104. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących: a) z budżetu państwa w formie dotacji celowej, 53 b) z budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) ze środków pochodzących z bezzwrotnej pomocy zagranicznej, d) ze środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, umów lub porozumień; 3) zapewnić Komisji warunki technologiczne i infrastrukturalne niezbędne do ustanowienia piaskownicy regulacyjnej, o której mowa w art. 92 ust. 1. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 105. 1. Komisja nakłada na podmiot obowiązany do przestrzegania rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 54 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 106. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 105 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 105 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość tego podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące tego podmiotu. Art. 107. Środki finansowe pochodzące z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 108. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10 % i niewięcej niż o 50 %, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek ukaranego podmiotu, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 4. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2026 r. poz. 622), od dnia następującego po dniu złożenia wniosku. 5. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę od nieuiszczonej kwoty są naliczane odrębnie dla każdej raty. 6. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 55 7. Komisja może uchylić postanowienie o odroczeniu terminu uiszczenia administracyjnej kary pieniężnej albo rozłożeniu jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia w prze dmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty lub jeżeli rata nie została uiszczona w terminie. 8. Na postanowienie o odmowie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty ukaranemu podmiotowi przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Zmniejszenie wysokości administracyjnej kary pieniężnej, o której mowa w ust. 1, i odroczenie terminu jej uiszczenia albo rozłożenie jej na raty, o którym mowa w ust. 1: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 109. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Nadając decyzji rygor natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z wysokim prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 110. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie 56 nałożenia administracyjnej kary pieniężnej w całości albo części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, o której mowa w ust. 3, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 111. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się ustawę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 112. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem rozporządzenia 2024/1689 lub ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organu podatkowego określone w tych przepisach przysługują Komisji. Art. 113. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4 i 5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 114. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 115. Orzekanie w sprawach o czyny, o których mowa w art. 113 i art. 114, następuje w trybie ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 4) ). 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872 oraz z 2026 r. poz. 473. 57 Rozdział 9 Zmiany w przepisach Art. 116. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468 i 473) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa Postępowanie w sprawach z zakresu naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji Art. 479 [88a] . Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 [88b] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 [88c] . Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. Art. 479 [88d] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo zmianę decyzji w całości lub części. Art. 479 [88e] . Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. 58 Art. 479 [88f] . § 1. W sprawach z zakresu naruszenia rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji stronami są Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 [88g] . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję uchyla albo zmienia w całości albo części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 [88h] . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła na to zgodę. § 3. Sąd na wniosek strony albo z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału 59 dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 [88i] . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 [88c] , art. 479 [88d] , art. 479 [88e] , art. 479 [88g] i art. 479 [88h] stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 [88j] . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 117. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268, 516 i 739) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio przepis art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 118. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 119. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177): a) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego i Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”; 60 b) w art. 10 w ust. 6 w pkt 4 kropkę zastępuje się średnikiem i dodaje się pkt 5 i 6 w brzmieniu: „5) Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Prezesowi Rady Ministrów; 6) Zastępcy Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Przewodniczącemu tej Komisji.”. Art. 120. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą wykorzystania systemów sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 121. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228 oraz z 2026 r. poz. 346 i 473) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757 oraz z 2026 r. poz. 605).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu 61 Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 122. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252 i 644) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 123. W ustawie z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223) wprowadza się następujące zmiany: 1) w art. 2 w ust. 1 pkt 7 otrzymuje brzmienie: „7) notyfikacją, zgodnie z: a) art. 42 ust. 2, 5 i 8 rozporządzenia 2017/745, art. 38 ust. 2, 5 i 8 rozporządzenia 2017/746, b) przepisami rozdziału III sekcji 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) w zakresie wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia 2017/745, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia 2017/746, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takim systemem.”; 2) w art. 4 w ust. 1 w pkt 3 w lit. r średnik zastępuje się przecinkiem i dodaje się lit. s w brzmieniu: „s) współpraca z organem notyfikującym, o którym mowa w rozdziale 6 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. 62 U. poz. ...), w tym przekazywanie informacji o notyfikacji, o której mowa w art. 2 ust. 1 pkt 7 lit. b;”. Art. 124. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252 i 548) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 125. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 23 kropkę zastępuje się średnikiem i dodaje się pkt 24 w brzmieniu: „24) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 126. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm za zgodą Senatu powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 2 miesięcy od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jej Przewodniczący zwołuje w terminie 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 44 ust. 2, oraz rozpoczęcia działalności przez tę komórkę, Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej Przewodniczącego w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 127. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem finansowym wejścia w życie ustawy wynosi w: 1) 2026 r. – 9,30 mln zł; 2) 2027 r. – 23,74 mln zł; 3) 2028 r. – 24,17 mln zł; 4) 2029 r. – 24,89 mln zł; 5) 2030 r. – 25,63 mln zł; 6) 2031 r. – 26,39 mln zł; 7) 2032 r. – 27,18 mln zł; 63 8) 2033 r. – 27,99 mln zł; 9) 2034 r. – 28,82 mln zł; 10) 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 128. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 126 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; 2) art. 8–18 oraz rozdziałów 3–5, 8 i 9, które wchodzą w życie po upływie 3 miesięcy od dnia ogłoszenia. MARSZAŁEK SEJMU / – / Włodzimierz Czarzasty\r\n\r\nSUMMARY TO EVALUATE:\r\nTitle: New AI Oversight: Commission, Penalties, and Regulatory Sandboxes\r\nSummary: The act establishes the Commission for the Development and Safety of Artificial Intelligence to oversee the AI market in Poland. It introduces rules for inspecting companies that create and use AI, the ability to impose high fines for violations, and a complaint procedure for citizens. The act also creates 'regulatory sandboxes' – a safe environment for testing innovative AI systems under the Commission's supervision, aimed at supporting the development of new technologies.\r\nKey Points: Establishment of the Commission for the Development and Safety of Artificial Intelligence – a new, independent body overseeing the AI systems market in Poland., Possibility for any individual or company to file a complaint with the Commission if they suspect an AI system violates the regulations., Introduction of 'regulatory sandboxes' – a controlled testing environment where companies (especially SMEs) can test innovative AI solutions free of charge with legal facilitations., Imposition of high administrative fines for violations of AI regulations, levied by the Commission., Possibility to obtain a binding individual opinion from the Commission (for a fee of 150 PLN), giving a company a guarantee that its actions comply with the law., Exclusion of AI systems used by special services and for national defense from the Commission's oversight – their control is exercised by the Prime Minister or the Special Services Coordinator.\r\n\r\nEVALUATION RULES:\r\n1. Check all NUMBERS, DATES, and AMOUNTS in SUMMARY. If any of them is missing from SOURCE -> is_valid: false.\r\n2. Check all NAMES, ORGANIZATIONS, and PLACES in SUMMARY. If any of them is missing from SOURCE -> is_valid: false.\r\n3. Check all specific LEGAL ACTIONS. If that mechanism is not present in SOURCE -> is_valid: false.\r\n\r\nIMPORTANT: Abstract concepts (e.g. \"transparency\", \"trust\") are allowed as conclusions.\r\n\r\nOUTPUT (JSON):\r\n{\r\n  \"is_valid\": true/false,\r\n  \"issue\": \"fabricated_entity\" / \"contradiction\" / \"none\"\r\n}\r\n\r\nFORMATTING REQUIREMENTS:\r\n1. Respond ONLY with a raw JSON object.\r\n2. DO NOT use Markdown code blocks.\r\n3. DO NOT add any introductions or explanations before or after the JSON.\r\n4. The JSON must be valid and ready to parse.\r\n\r\n",
      "ai_response_raw": "{\n  \"is_valid\": true,\n  \"issue\": \"none\"\n}"
    },
    {
      "timestamp": "2026-06-12T16:14:39.273Z",
      "source_url": "https://storage.googleapis.com/lustra-web-prod/pl/sejm/10/legislations/10_2443/text/index.html",
      "model": "deepseek-v4-pro",
      "prompt_sent": "\r\nYou are an expert in the law of the Poland, whose task is to analyze bills, resolutions, and other legislative documents, and then prepare information from them in an accessible way for citizens. Your goal is to present information so that citizens can assess the impact of legislation on their lives themselves, even without specialized legislative knowledge. Focus on facts and the objective effects of the introduced changes, avoiding value judgments and personal opinions. All legal jargon is forbidden. Present information in a clear, concise, and engaging way, so that it is understandable to a person without legal education. Avoid long, complex sentences. Instead of writing \"the bill aims to amend the tax code...\", write \"Tax changes: new reliefs and obligations for...\". Continue your work until you solve your task. If you are not certain about the generated content, analyze the document again – do not guess. Plan your task well before starting it. In the summary and key points, if possible and justified, emphasize what specific benefits or effects (positive or negative) the law introduces for citizens' everyday life, their rights and obligations, personal finances, safety, and other important issues (e.g. categorical prohibitions and orders, or the most important specific financial and territorial allocations).\r\n\r\nYour response MUST be in JSON format - and contain the following keys.\r\nBefore returning the response, carefully verify that the entire JSON structure is 100% correct, including all commas, curly braces, square brackets, and quotation marks. Invalid JSON is unacceptable and will make it impossible to process your work.\r\n\r\nCarefully analyze the following text of the legal document. This is the content on the basis of which you must generate the summary and key points:\r\n--- DOCUMENT START ---\r\nTekst ustawy przekazany do Senatu zgodnie z art. 52 regulaminu Sejmu U S TAWA z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji 1) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanym dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie rozporządzenia 2024/1689 i ustawy. 1) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustaw ę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustaw ę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. 2 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26 i ...); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań naukowych i prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 2) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych w rozumieniu art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów sztucznej inteligencji wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 2) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328, 370, 635 i 637. 3 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i niepozostających w związku z działalnością: a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2026 r. poz. 592), b) gospodarczą, o której mowa w art. 3 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826 oraz z 2026 r. poz. 507), wykonywaną przez przedsiębiorcę w rozumieniu art. 4 ust. 1 i 2 tej ustawy, c) o której mowa w art. 5 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą w rozumieniu art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile ustawa nie stanowi inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 4 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model AI w rozumieniu art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad rynkiem systemów sztucznej inteligencji Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci urzędowej z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z uwzględnieniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 5 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych z zakresu sztucznej inteligencji, w tym projektów aktów prawnych; 6) wydawanie postanowień i decyzji w sprawach o naruszenie rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, a także prowadzenie działań informacyjnych w tym zakresie; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej i państw trzecich oraz agencjami Unii Europejskiej i organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad systemami sztucznej inteligencji; 11) podejmowanie działań mających na celu tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania rozporządzenia 2024/1689 i ustawy w indywidualnych spraw ach, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach, o których mowa w art. 53 ust. 3 rozporządzenia 2024/1689; 17) wspieranie konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji poprzez: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, 6 b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 103 ust. 3, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w art. 9 ustaw y z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846 oraz z 2026 r. poz. 426, 635 i 680). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie Europejskiej Rady ds. Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się podmiot: 1) obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania przepisów, o których mowa w pkt 1. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym rozporządzeniem 2024/1689 lub ustaw ą. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego w zakresie jednego zagadnienia, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek w zakresie oceny prawnej stanu faktycznego lub zdarzenia przyszłego, o których mowa w pkt 1; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę (firmę) i siedzibę oraz adres do korespondencji, a także numer identyfikacyjny REGON, jeżeli został 7 nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. 5. Ten sam podmiot może zwrócić się do Komisji z nowym wnioskiem o wydanie opinii indywidualnej nie wcześniej niż po upływie 30 dni od dnia złożenia ostatniego wniosku. W przypadku niezachowania terminu, o którym mowa w zdaniu pierwszym, nowy wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna wydana przez Komisję nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej przed złożeniem wniosku uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 lub art. 10, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 4. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku do momentu wydania opinii indywidualnej przez Komisję – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 8 5. Zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje w terminie 30 dni od dnia: 1) wycofania wniosku – w przypadku, o którym mowa w ust. 4 pkt 1; 2) złożenia wniosku – w przypadku, o którym mowa w ust. 4 pkt 2; 3) upływu terminu na wydanie opinii – w przypadku, o którym mowa w ust. 4 pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – niepóźniej niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku, którego dotyczy wniosek za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnej ze stanowiskiem, które podmiot przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest wydawana i ocenę stanowiska, które podmiot przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić albo uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, 9 orzecznictwo sądów, a także akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydane na podstawie rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie tej opinii stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie albo stwierdzenie wygaśnięcia opinii indywidualnej następuje w drodze postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, uchyleniem albo wygaśnięciem nie może szkodzić podmiotowi, na wniosek którego została wydana ta opinia. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady ds. Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji wraz z informacją o ich aktualności. Przed udostępnieniem opinii indywidualnej albo wyjaśnienia Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 10 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego w szczególności orzecznictwa sądów, a także aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady ds. Sztucznej Inteligencji wydanych na podstawie rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech członków Komisji wskazanych przez: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisję Nadzoru Finansowego, c) Krajową Radę Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji z głose m doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3 w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji bez prawa głosu mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w art. 5 ustawy z dnia 4 września 1997 r. o działach administracji rządowej, oraz krajowe organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 11 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25 i 473). Art. 20. 1. W zakresie określonym rozporządzeniem 2024/1689 i ustawą Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i ustawie; 4) krajowymi organami i podmiotami publicznymi określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej i ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa i CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20, 252 i ...), w zakresie wymiany informacji niezbędnych do reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz bezpieczeństwem systemów sztucznej inteligencji w rozumieniu rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223 oraz z 2026 r. poz. ...); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi oraz monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 12 9) koordynatorem do spraw usług cyfrowych w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE (akt o usługach cyfrowych) (Dz. Urz. UE L 277 z 22.10.2022, str. 1 oraz Dz. Urz. UE. L z 163 z 29.06.2023, str. 107) – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96, 1222 i ...); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w ściganiu sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych rozporządzeniem 2024/1689 współpracuje z Komisją Europejską, Europejską Radą ds. Sztucznej Inteligencji, panelem naukowym i właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej 5 osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. Posiedzenie Komisji może odbywać się w trybie zdalnym przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu osobom uprawnionym, o których mowa w art. 19 ust. 1–3; 2) osobom, o których mowa w art. 19 ust. 1, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 13 2024/1689, ustawie oraz przepisach odrębnych, a także z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, wypowiadanie się w toku obrad. Art. 23. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zamieszcza się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 24. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepis art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego Komisji lub członka Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie krajowych organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 14 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i jej efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w szczególności informacje na temat stwierdzonych nieprawidłowości, a także o ogólnym poziomie wiedzy oraz kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, za rok kalendarzowy poprzedzający rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 15 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje na 5-letnią kadencję i odwołuje Sejm za zgodą Senatu. 2. Senat podejmuje uchwałę w sprawie wyrażenia zgody na powołanie Przewodniczącego Komisji w terminie miesiąca od dnia przekazania Senatowi uchwały Sejmu w sprawie powołania Przewodniczącego Komisji. Niepodjęcie uchwały przez Senat w terminie miesiąca oznacza wyrażenie zgody. 3. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) posiada wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 3) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, a także doświadczenie uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 4) posiada co najmniej 3-letni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 5) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 6) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 16 7) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 4. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez 2 kadencje. 5. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji Przewodniczącego Komisji jego obowiązki, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm za zgodą Senatu odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przepisów art. 36 lub art. 37; 4) rezygnacji ze stanowiska; 5) utraty obywatelstwa polskiego; 6) utraty zdolności do pełnienia powierzonych obowiązków na skutek choroby trwającej dłużej niż 3 miesiące. 2. Wniosek w sprawie odwołania Przewodniczącego Komisji w związku z naruszeniem przez niego przepisów art. 36 lub art. 37 przekazuje Sejmowi Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na 5-letnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 3. 3. Przewodniczący Komisji umieszcza ogłoszenie o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie 17 urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest przeprowadzany nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia o naborze w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. W skład zespołu wchodzi 5 osób, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe dają rękojmię wyłonienia najlepszych kandydatów: 1) dwóch przedstawicieli wyznaczonych przez Przewodniczącego Komisji, w tym pełniący funkcję przewodniczącego zespołu; 2) przedstawiciel wyznaczony przez Radę; 3) przedstawiciel wyznaczony przez Prezesa Urzędu Ochrony Danych Osobowych; 4) przedstawiciel wyznaczony przez Prezesa Polskiej Akademii Nauk. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku Zastępcy Przewodniczącego Komisji oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię przeprowadzenia tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko Zastępcy Przewodniczącego Komisji. 18 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie liczby kandydatów na stanowisko Zastępcy Przewodniczącego Komisji; 2) imiona i nazwiska oraz miejsca zamieszkania wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza niezwłocznie wynik naboru na stanowisko Zastępcy Przewodniczącego Komisji w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był przeprowadzany nabór; 2) imiona i nazwiska oraz miejsca zamieszkania wybranych kandydatów albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. Powołanie Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji stanowi nawiązanie stosunku pracy na podstawie powołania w rozumieniu ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ust. 1 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160, 177 i ...). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych w ustawie do oświadczeń majątkowych stosuje się odpowiednio ustawę, o której mowa w ust. 1. 19 Art. 36. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska ani podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 37. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami lub mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 38. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane, o których mowa w art. 40, art. 41 i art. 43, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 20 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. Art. 39. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio albo pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu albo wygaśnięciu stosunku prawnego wynikającego z umowy o pracę, umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 40. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, 21 str. 1 oraz Dz. Urz. UE L 127 z 23.05.2018, str. 2), w zakresie i w celu niezbędnych do realizacji zadań, o których mowa odpowiednio w art. 6 i art. 25. Art. 41. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych w rozumieniu art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu art. 386 ust. 1 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i odrębnych przepisach. Art. 42. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od dnia zakończenia postępowania, o którym mowa w rozdziale 3, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na 5 lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu weryfikacji usuwa dane osobowe, których przetwarzanie nie jest niezbędne. Art. 43. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej osoby zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. 22 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 51 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. 4. W razie wątpliwości co do zakresu informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, Komisja może zwrócić się do podmiotu, który przekazał te informacje, o zajęcie stanowiska w zakresie niezbędnym do zapewnienia ochrony tych informacji. Art. 44. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępców Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych zadań w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do reprezentowania Komisji przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi sądami lub trybunałami. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2026 r. poz. 23 590) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 45. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 46. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od 9 do 15 członków wybieranych przez Komisję na 2- letnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 24 8) reprezentatywne organizacje związkowe w rozumieniu art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 3) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji; 11) związki pracodawców, o których mowa w art. 1 ust. 1 ustawy z dnia 23 maja 1991 r. o organizacjach pracodawców (Dz. U. z 2025 r. poz. 423). 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) wyraziła na piśmie zgodę na kandydowanie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci; 3) niewykonywania obowiązków przez okres dłuższy niż 3 miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe. 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723, z 2025 r. poz. 39 i 1661 oraz z 2026 r. poz. 426. 25 7. W przypadkach, o których mowa w ust. 6 pkt 3 i 4, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję niezachowania tajemnicy, o której mowa w art. 48 ust. 5, lub zaistnienia okoliczności, o których mowa w art. 48 ust. 7, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja powołuje nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się przepis art. 39 ust. 1. Art. 47. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie rozporządzenia 2024/1689 lub ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji lub Zastępców Przewodniczącego Komisji przepisów art. 36 lub art. 37. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i ustawie przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o których mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 48. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po 2 kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 26 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania w tajemnicy informacji, o których mowa w ust. 5, w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 [5] § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany przez Komisję na wniosek Rady. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 49. 1. Komisja może prowadzić kontrolę przestrzegania rozporządzenia 2024/1689 i ustawy, z uwzględnieniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania rozporządzenia 2024/1689. 27 3. W zakresie nieuregulowanym w przepisach niniejszego rozdziału, do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyjątkiem art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się odpowiednio ustawę z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 50. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na uzasadnione podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części albo całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 49 ust. 3. 28 Art. 51. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, jednak niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. W przypadku zmiany okoliczności objętych oświadczeniem, o którym mowa w ust. 3, osoba wykonująca czynności kontrolne jest obowiązana dokonać aktualizacji tego oświadczenia w terminie 30 dni. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych oraz informacji stanowiących tajemnicę przedsiębiorstwa, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i ustawie. Art. 52. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 29 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę (firmę) i siedzibę albo imię (imiona) i nazwisko oraz adres kontrolowanego, a także numer identyfikacyjny REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) pouczenie o prawach i obowiązkach kontrolowanego. 3. Upoważnienie do przeprowadzenia kontroli podpisuje imieniem i nazwiskiem Przewodniczący Komisji. Art. 53. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu art. 3 pkt 1 ustawy z dnia 17 lutego 2025 r. o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz chmury obliczeniowej będących własnością innego podmiotu, zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych do kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 30 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji i wyjaśnień, potwierdza zgodność z oryginałem kopii materiałów, dokumentów i innych danych sporządzonych lub udostępnionych na żądanie kontrolującego oraz zapewnia mu i osobom, o których mowa w art. 51 ust. 2, warunki do sprawnego przeprowadzenia kontroli, a także: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny – możliwość wstępu na teren oraz do obiektów budowlanych, a także pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 54. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów i innych danych, o których mowa w art. 53 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 53 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 55. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 31 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu przeprowadzenia kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, Sądowi Okręgowemu w Warszawie – sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo części właściwemu organowi na potrzeby prowadzonej kontroli. 6. Na postanowienie Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. 32 Art. 56. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji lub jednostek podległych ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowanych o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 rozporządzenia 2024/1689 i jego zgodności z pozostałymi przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce przeprowadzenia kontroli lub jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe ministrowi właściwemu do spraw informatyzacji lub przez niego nadzorowane z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5 % przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w IV kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 57. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu kontrolowanego; 33 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię (imiona) i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 51 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. 5. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 6. Kontrolowany w terminie 14 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 7. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń – zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 8. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 6, uznaje się za odmowę podpisania protokołu kontroli. 34 9. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 58. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa kontrolowanego do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować kontrolowany w celu ich usunięcia; 2) wskazuje termin usunięcia nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o których mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji o ich realizacji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy kontrolowany, którego dotyczy wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja może wszcząć z urzędu postępowanie w sprawie naruszenia rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku stwierdzenia: a) na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, 35 b) w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) krajowego organu lub podmiotu publicznego, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Komisja rozpatrując skargę może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Komisja rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza rozporządzenie 2024/1689 lub ustawę, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 36 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z rozporządzeniem 2024/1689 lub ustawą; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację o wykonaniu wskazanych w nim działań. 4. W przypadku gdy strona nie wykona działań wskazanych w ostrzeżeniu, Komisja może: 1) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 2) poinformować krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę ds. Sztucznej Inteligencji, panel naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 3) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę w terminie do środków nakazujących usunięcie skutków naruszenia Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. 37 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby stwierdzić, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania systemu lub wycofanie go z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty publiczne określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz – jeżeli wymaga tego zakres sprawy –właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się ustaw ę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustaw y z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468, 473 i ...). 4. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo części , jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. 38 Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 lub ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. Przed udostępnieniem decyzji Komisja może zwrócić się do podmiotu, który przekazał dane zawierające tajemnice prawie chronione, w tym tajemnicę przedsiębiorstwa, o zajęcie stanowiska w zakresie danych podlegających usunięciu. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary za naruszenie rozporządzenia 2024/1689 lub ustawy. 3. Wykaz, o którym mowa w ust. 2, zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 lub ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenie 2024/1689 i ustawa; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz, o którym mowa w ust. 2, przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych zawartych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 39 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych zawartych w wykazie. 5. Komisja jest administratorem danych przetwarzanych w wykazie, o którym mowa w ust. 2. Art. 68. Wniesienie odwołania, o którym mowa w art. 66 ust. 2, wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2026 r. poz. 490, 421 i 638), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się to do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 40 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia prawa objętego danym postępowaniem, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkody wyrządzonej w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20 % i niewięcej niż o 70 %, a w przypadku, o którym mowa w art. 85 ust. 1 – niemniej niż o 30 % i niewięcej niż o 90 %, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę skutków naruszenia objętego postępowaniem, układ może przewidywać odstąpienie od nałożenia sankcji. 41 Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin zawarcia układu niedłuższy niż miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin zawarcia układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia o woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję, mające charakter oświadczenia strony, dotychczas nieznane Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 i 3, składa się pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Składający oświadczenie jest obowiązany do zawarcia w nim klauzuli następującej treści: „Jestem świadomy odpowiedzialności karnej za złożenie fałszywego oświadczenia”. Klauzula ta zastępuje pouczenie organu o odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 42 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin przyjęcia układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia 11 czerwca 2026 r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia o przyjęciu układu jest zrzeczenie się przez stronę prawa do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów od decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. 43 Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się przepisów art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wykonywania zobowiązań przyjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wykonywania przez stronę zobowiązań przyjętych w ramach układu. Art. 81. 1. W przypadku niewy wiązania się przez stronę z zobowiązań przyjętych w ramach układu w całości albo istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, 44 kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i wydania decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia prawa, a w informacjach lub dokumentach: a) ujawniono wszystkie istotne okoliczności dotyczące tego naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu oraz b) przedstawiono dowody na poparcie tych okoliczności; 2) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez wykonanie zobowiązania niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 86. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. 45 Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 87. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 i art. 30 rozporządzenia 2024/1689 oraz ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o których mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów sztucznej inteligencji, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 46 Art. 88. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 87 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy (firmy) i siedziby albo imienia (imion) i nazwiska oraz adresu wnioskodawcy, a także numer u identyfikacyjnego REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; 2) określenie jego zakresu; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, jeżeli został wydany. Art. 89. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 90. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i ustawą stosuje się ustawę z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 91. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 92. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, w drodze decyzji, zgody na: 47 1) odstępstwo od stosowania przepisów, o których mowa w ust. 3, lub 2) wsparcie w zakresie osiągania zgodności z wymogami rozporządzenia 2024/1689 – w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić piaskownicę regulacyjną, o której mowa w ust. 1, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, organem nadzoru rynku państwa członkowskiego Unii Europejskiej, a także z Europejskim Urzędem ds. Sztucznej Inteligencji w zakresie piaskownic regulacyjnych na poziomie Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej, o której mowa w ust. 1 pkt 1, obejmuje: 1) dokumentację systemu zarządzania ryzykiem, o którym mowa w art. 9 ust. 1–5 rozporządzenia 2024/1689; 2) zbiory danych treningowych, walidacyjnych i testowych, o których mowa w art. 10 ust. 2–5 rozporządzenia 2024/1689; 3) dokumentację techniczną, o której mowa w art. 11 rozporządzenia 2024/1689; 4) wymogi w zakresie rejestrowania zdarzeń, o których mowa w art. 12 rozporządzenia 2024/1689; 5) instrukcję obsługi, o której mowa w art. 13 ust. 2 i 3 rozporządzenia 2024/1689; 6) oznaczenie produktu, o którym mowa w art. 16 lit. b rozporządzenia 2024/1689; 7) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 8) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 rozporządzenia 2024/1689; 9) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 10) ocenę zgodności, o której mowa w art. 43 rozporządzenia 2024/1689; 11) deklarację zgodności UE, o której mowa w art. 47 rozporządzenia 2024/1689; 12) oznakowanie CE, o którym mowa w art. 48 rozporządzenia 2024/1689; 13) rejestrację w bazie danych UE, o której mowa w art. 49 ust. 1–3 rozporządzenia 2024/1689; 14) monitorowanie po wprowadzeniu do obrotu, o którym mowa w art. 72 rozporządzenia 2024/1689. 48 4. Zakres piaskownicy regulacyjnej, o której mowa w ust. 1, obejmuje także: 1) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 2) czas trwania piaskownicy regulacyjnej; 3) inne obowiązki określone w aktach wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 5. Komisja określa warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, o której mowa w ust. 1, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji. 6. W celu realizacji piaskownicy regulacyjnej, o której mowa w ust. 1, Komisja może zapewnić zaplecze technologiczne umożliwiające testowanie systemu sztucznej inteligencji w kontrolowanym środowisku, z zachowaniem odpowiedniego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych osób fizycznych. 7. Czas trwania piaskownicy regulacyjnej wynosi niemniej niż 6 i niewięcej niż 12 miesięcy. Art. 93. Prezes Urzędu Ochrony Danych Osobowych przedstawia Komisji lub podmiotom uczestniczącym w piaskownicy regulacyjnej opinie dotyczące oczekiwań regulacyjnych w odniesieniu do przetwarzania danych osobowych w piaskownicy regulacyjnej, bez uszczerbku dla swoich uprawnień nadzorczych określonych w rozporządzeniu 2016/679, z uwzględnieniem art. 57 ust. 12 rozporządzenia 2024/1689. Art. 94. Uczestnictwo mikroprzedsiębiorców, małych i średnich przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 2. Opłata za uczestnictwo w piaskownicy regulacyjnej jednostek samorządu terytorialnego nie może być wyższa niż dwukrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 3. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 1 i 2 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy, o której mowa w ust. 2. 49 4. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłat, o których mowa w ust. 2 i 3, oraz sposób ich wnoszenia, mając na względzie rodzaj podmiotu, zakres piaskownicy regulacyjnej oraz konieczność prawidłowej i efektywnej jej obsługi. Art. 95. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wykaz dokumentów, w tym plan projektu; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. 3. Plan projektu określa w szczególności: 1) harmonogram testowania; 2) cele projektu; 3) wymogi rozporządzenia 2024/1689 stosowane wobec systemu sztucznej inteligencji podczas testowania; 4) zasady przetwarzania danych osobowych; 5) procedury zarządzania ryzykiem; 6) warunki przeprowadzania testów w warunkach rzeczywistych. 4. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 96. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 50 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 97. 1. Podmioty składające oferty w konkursie na uczestnictwo w piaskownicy regulacyjnej mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej w terminie 7 dni od dnia udostępnienia tej listy. 2. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 3. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 96 ust. 1. 4. Zespół odwoławczy, oceniając odwołanie, bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 5. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 96 ust. 2 pkt 2 i 3. 6. Komisja zatwierdza dokumenty, o których mowa w ust. 5. Przepis art. 96 ust. 6 stosuje się. 7. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 5, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 92 ust. 2. Art. 98. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia zgody na odstępstwo, o której mowa w art. 92 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 16 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. 51 Art. 99. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem uczestniczącym w piaskownicy regulacyjnej. Art. 100. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3, z wyjątkiem art. 49 ust. 1 i 2 i art. 58 oraz nie stosuje się przepisu art. 59 pkt 1 lit. a. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot uczestniczący w piaskownicy regulacyjnej warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa ten podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od dnia otrzymania wezwania. 4. W przypadku gdy podmiot uczestniczący w piaskownicy regulacyjnej nie usunie naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje uchwałę o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Uchwała wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 101. 1. Po zakończeniu uczestnictwa podmiotu w piaskownicy regulacyjnej Komisja: 1) przeprowadza ocenę przyjętego projektu; 2) sporządza dokumentację końcową zawierającą: a) potwierdzenie uczestnictwa w piaskownicy regulacyjnej, b) raport końcowy. 2. Komisja doręcza potwierdzenie uczestnictwa podmiotowi uczestniczącemu w piaskownicy regulacyjnej. 52 Art. 102. 1. W terminie 90 dni od dnia doręczenia potwierdzenia uczestnictwa w piaskownicy regulacyjnej podmiot w niej uczestniczący może wystąpić do Komisji z wnioskiem o wydanie opinii indywidualnej, o której mowa w art. 8, w zakresie systemu sztucznej inteligencji będącego przedmiotem projektu. 2. Komisja wydaje opinię indywidualną, o której mowa w ust. 1, w terminie 14 dni od dnia złożenia wniosku o jej wydanie. 3. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2–4 i art. 10 Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania i powiadamia się o tym podmiot, który z nim wystąpił. 4. Do opinii indywidualnej, o której mowa w ust. 2, przepisów art. 9 ust. 4, art. 11 oraz art. 12 ust. 1 i 3 nie stosuje się. Art. 103. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji, w zakresie zadań wskazanych w ust. 1, może powierzyć nadzorowanym instytutom badawczym opracowanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji i ich aktualizacji. Minister właściwy do spraw informatyzacji udzieli nadzorowanym instytutom badawczym, o których mowa w zdaniu pierwszym, dotacji celowej na realizację tego zadania. 3. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 104. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących: a) z budżetu państwa w formie dotacji celowej, 53 b) z budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) ze środków pochodzących z bezzwrotnej pomocy zagranicznej, d) ze środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, umów lub porozumień; 3) zapewnić Komisji warunki technologiczne i infrastrukturalne niezbędne do ustanowienia piaskownicy regulacyjnej, o której mowa w art. 92 ust. 1. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 105. 1. Komisja nakłada na podmiot obowiązany do przestrzegania rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 54 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 106. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 105 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 105 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość tego podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące tego podmiotu. Art. 107. Środki finansowe pochodzące z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 108. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10 % i niewięcej niż o 50 %, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek ukaranego podmiotu, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 4. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2026 r. poz. 622), od dnia następującego po dniu złożenia wniosku. 5. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę od nieuiszczonej kwoty są naliczane odrębnie dla każdej raty. 6. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 55 7. Komisja może uchylić postanowienie o odroczeniu terminu uiszczenia administracyjnej kary pieniężnej albo rozłożeniu jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia w prze dmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty lub jeżeli rata nie została uiszczona w terminie. 8. Na postanowienie o odmowie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty ukaranemu podmiotowi przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Zmniejszenie wysokości administracyjnej kary pieniężnej, o której mowa w ust. 1, i odroczenie terminu jej uiszczenia albo rozłożenie jej na raty, o którym mowa w ust. 1: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 109. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Nadając decyzji rygor natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z wysokim prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 110. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy działu IVfa w tytule VII w księdze pierwszej w części pierwszej ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie 56 nałożenia administracyjnej kary pieniężnej w całości albo części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, o której mowa w ust. 3, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 111. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się ustawę z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 112. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem rozporządzenia 2024/1689 lub ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organu podatkowego określone w tych przepisach przysługują Komisji. Art. 113. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4 i 5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 114. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 115. Orzekanie w sprawach o czyny, o których mowa w art. 113 i art. 114, następuje w trybie ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 4) ). 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872 oraz z 2026 r. poz. 473. 57 Rozdział 9 Zmiany w przepisach Art. 116. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2026 r. poz. 468 i 473) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa Postępowanie w sprawach z zakresu naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji Art. 479 [88a] . Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 [88b] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 [88c] . Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. Art. 479 [88d] . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo zmianę decyzji w całości lub części. Art. 479 [88e] . Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. 58 Art. 479 [88f] . § 1. W sprawach z zakresu naruszenia rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji stronami są Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 [88g] . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję uchyla albo zmienia w całości albo części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 [88h] . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła na to zgodę. § 3. Sąd na wniosek strony albo z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału 59 dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 [88i] . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 [88c] , art. 479 [88d] , art. 479 [88e] , art. 479 [88g] i art. 479 [88h] stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 [88j] . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 117. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268, 516 i 739) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio przepis art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 118. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 119. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177): a) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego i Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”; 60 b) w art. 10 w ust. 6 w pkt 4 kropkę zastępuje się średnikiem i dodaje się pkt 5 i 6 w brzmieniu: „5) Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Prezesowi Rady Ministrów; 6) Zastępcy Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – Przewodniczącemu tej Komisji.”. Art. 120. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą wykorzystania systemów sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 121. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228 oraz z 2026 r. poz. 346 i 473) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757 oraz z 2026 r. poz. 605).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu 61 Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 122. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252 i 644) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 123. W ustawie z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223) wprowadza się następujące zmiany: 1) w art. 2 w ust. 1 pkt 7 otrzymuje brzmienie: „7) notyfikacją, zgodnie z: a) art. 42 ust. 2, 5 i 8 rozporządzenia 2017/745, art. 38 ust. 2, 5 i 8 rozporządzenia 2017/746, b) przepisami rozdziału III sekcji 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) w zakresie wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia 2017/745, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia 2017/746, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takim systemem.”; 2) w art. 4 w ust. 1 w pkt 3 w lit. r średnik zastępuje się przecinkiem i dodaje się lit. s w brzmieniu: „s) współpraca z organem notyfikującym, o którym mowa w rozdziale 6 ustawy z dnia 11 czerwca 2026 r. o systemach sztucznej inteligencji (Dz. 62 U. poz. ...), w tym przekazywanie informacji o notyfikacji, o której mowa w art. 2 ust. 1 pkt 7 lit. b;”. Art. 124. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252 i 548) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 125. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 23 kropkę zastępuje się średnikiem i dodaje się pkt 24 w brzmieniu: „24) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 126. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm za zgodą Senatu powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 2 miesięcy od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jej Przewodniczący zwołuje w terminie 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 44 ust. 2, oraz rozpoczęcia działalności przez tę komórkę, Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej Przewodniczącego w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 127. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem finansowym wejścia w życie ustawy wynosi w: 1) 2026 r. – 9,30 mln zł; 2) 2027 r. – 23,74 mln zł; 3) 2028 r. – 24,17 mln zł; 4) 2029 r. – 24,89 mln zł; 5) 2030 r. – 25,63 mln zł; 6) 2031 r. – 26,39 mln zł; 7) 2032 r. – 27,18 mln zł; 63 8) 2033 r. – 27,99 mln zł; 9) 2034 r. – 28,82 mln zł; 10) 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 128. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 126 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; 2) art. 8–18 oraz rozdziałów 3–5, 8 i 9, które wchodzą w życie po upływie 3 miesięcy od dnia ogłoszenia. MARSZAŁEK SEJMU / – / Włodzimierz Czarzasty\r\n--- DOCUMENT END ---\r\n\r\nREMEMBER: Your response MUST be only a valid JSON object. Do not add any extra characters, comments, or text before the '{' character or after the '}' character. The entire response must be parseable as JSON.\r\nBased on the ABOVE document, fill in the JSON structure below:\r\nHere is the JSON structure I expect (fill it with content):\r\n{\r\n  \"pl_ai_title\": \"Nowy, krótki tytuł dla aktu prawnego po polsku, oddający sedno wprowadzanych zmian (np. maksymalnie 10-12 słów).\",\r\n  \"pl_summary\": \"2-3 zdania zwięzłego podsumowania treści aktu prawnego po polsku, napisane z perspektywy wpływu na życie codzienne obywateli.\",\r\n  \"pl_key_points\": [\r\n    \"Pierwszy krótki punkt po polsku dotyczący najważniejszych wprowadzanych rozwiązań lub zmian.\",\r\n    \"Drugi krótki punkt po polsku...\"\r\n  ],\r\n  \"eng_ai_title\": \"A new, short title for the legal act in English, capturing the essence of the changes (e.g., max 10-12 words).\",\r\n  \"eng_summary\": \"2-3 sentences summarizing the legal act in English, from the perspective of its impact on citizens' daily lives.\",\r\n  \"eng_key_points\": [\r\n    \"First short bullet point in English regarding the most important solutions or changes being introduced.\",\r\n    \"Second short bullet point in English...\"\r\n  ],\r\n  \"de_ai_title\": \"Ein neuer, kurzer Titel für das Rechtsdokument auf Deutsch, der den Kern der Änderungen erfasst (z.B. max. 10-12 Wörter).\",\r\n  \"de_summary\": \"2-3 Sätze Zusammenfassung des Rechtsdokuments auf Deutsch, aus der Perspektive seiner Auswirkungen auf das tägliche Leben der Bürger.\",\r\n  \"de_key_points\": [\r\n    \"Erster kurzer Stichpunkt auf Deutsch zu den wichtigsten eingeführten Lösungen oder Änderungen.\",\r\n    \"Zweiter kurzer Stichpunkt auf Deutsch...\"\r\n  ],\r\n  \"fr_ai_title\": \"Un nouveau titre court pour l'acte juridique en français, saisissant l'essence des changements (par exemple, 10-12 mots maximum).\",\r\n  \"fr_summary\": \"Résumé de 2-3 phrases de l'acte juridique en français, du point de vue de son impact sur la vie quotidienne des citoyens.\",\r\n  \"fr_key_points\": [\r\n    \"Premier court point en français concernant les solutions ou changements les plus importants introduits.\",\r\n    \"Deuxième court point en français...\"\r\n  ],\r\n  \"es_ai_title\": \"Un nuevo título breve para el acto jurídico en español, que recoja la esencia de los cambios (por ejemplo, máximo 10-12 palabras).\",\r\n  \"es_summary\": \"Resumen de 2-3 frases del acto jurídico en español, desde la perspectiva de su impacto en la vida cotidiana de los ciudadanos.\",\r\n  \"es_key_points\": [\r\n    \"Primer punto breve en español sobre las soluciones o cambios más importantes que se introducen.\",\r\n    \"Segundo punto breve en español...\"\r\n  ],\r\n  \"it_ai_title\": \"Un nuovo titolo breve per l'atto giuridico in italiano, che colga l'essenza delle modifiche (ad es. massimo 10-12 parole).\",\r\n  \"it_summary\": \"Riepilogo di 2-3 frasi dell'atto giuridico in italiano, dal punto di vista del suo impatto sulla vita quotidiana dei cittadini.\",\r\n  \"it_key_points\": [\r\n    \"Primo breve punto in italiano riguardante le soluzioni o le modifiche più importanti introdotte.\",\r\n    \"Secondo breve punto in italiano...\"\r\n  ],\r\n  \"nl_ai_title\": \"Een nieuwe, korte titel voor de rechtshandeling in het Nederlands, die de essentie van de wijzigingen weergeeft (bijv. max. 10-12 woorden).\",\r\n  \"nl_summary\": \"Samenvatting van 2-3 zinnen van de rechtshandeling in het Nederlands, vanuit het perspectief van de impact op het dagelijks leven van burgers.\",\r\n  \"nl_key_points\": [\r\n    \"Eerste korte punt in het Nederlands betreffende de belangrijkste geïntroduceerde oplossingen of wijzigingen.\",\r\n    \"Tweede korte punt in het Nederlands...\"\r\n  ],\r\n  \"pt_ai_title\": \"Um novo título curto para o ato jurídico em português, capturando a essência das mudanças (por exemplo, máx. 10-12 palavras).\",\r\n  \"pt_summary\": \"Resumo de 2-3 frases do ato jurídico em português, na perspetiva do seu impacto na vida quotidiana dos cidadãos.\",\r\n  \"pt_key_points\": [\r\n    \"Primeiro ponto curto em português sobre as soluções ou alterações mais importantes introduzidas.\",\r\n    \"Segundo ponto curto em português...\"\r\n  ],\r\n  \"category\": [\"Categorize the document into one category by default, based on the field it primarily concerns. Choose up to 3 if the document also touches upon SIGNIFICANT issues from other categories. You MUST select categories ONLY from the following list: Health, Education, Family, Taxes, Labor, Security, Environment, Courts and Law, Transport, Benefits, Real Estate, Media and Culture, Local Government, Migration, Agriculture, Public Investments, Informatization, Economy. If the document does not definitively fit any of these, you MUST use \\\"Other\\\". If you use \\\"Other\\\", it should be the ONLY category selected. Do NOT invent new categories. The response must be an array of strings, e.g., [\\\"Taxes\\\", \\\"Family\\\"].\"]\r\n}\r\n\r\n",
      "ai_response_raw": "{\n  \"pl_ai_title\": \"Nowy nadzór nad sztuczną inteligencją: Komisja, kary i piaskownice regulacyjne\",\n  \"pl_summary\": \"Ustawa powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie nadzorować rynek AI w Polsce. Wprowadza zasady kontroli firm tworzących i używających AI, możliwość nakładania wysokich kar za naruszenia oraz procedurę składania skarg dla obywateli. Ustawa tworzy też „piaskownice regulacyjne” – bezpieczne środowisko do testowania innowacyjnych systemów AI pod nadzorem Komisji, co ma wspierać rozwój nowych technologii.\",\n  \"pl_key_points\": [\n    \"Powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – nowego, niezależnego organu nadzorującego rynek systemów AI w Polsce.\",\n    \"Możliwość złożenia skargi do Komisji przez każdą osobę fizyczną lub firmę, która podejrzewa, że system AI narusza przepisy.\",\n    \"Wprowadzenie „piaskownic regulacyjnych” – kontrolowanego środowiska testowego, w którym firmy (zwłaszcza małe i średnie) mogą bezpłatnie testować innowacyjne rozwiązania AI z ułatwieniami prawnymi.\",\n    \"Ustanowienie wysokich administracyjnych kar pieniężnych za naruszenia przepisów o AI, nakładanych przez Komisję.\",\n    \"Możliwość uzyskania od Komisji wiążącej opinii indywidualnej (za opłatą 150 zł), która daje firmie gwarancję, że jej działania są zgodne z prawem.\",\n    \"Wyłączenie spod nadzoru Komisji systemów AI używanych przez służby specjalne i do celów obronności – ich kontrolę sprawuje Premier lub Koordynator Służb Specjalnych.\"\n  ],\n  \"eng_ai_title\": \"New AI Oversight: Commission, Penalties, and Regulatory Sandboxes\",\n  \"eng_summary\": \"The act establishes the Commission for the Development and Safety of Artificial Intelligence to oversee the AI market in Poland. It introduces rules for inspecting companies that create and use AI, the ability to impose high fines for violations, and a complaint procedure for citizens. The act also creates 'regulatory sandboxes' – a safe environment for testing innovative AI systems under the Commission's supervision, aimed at supporting the development of new technologies.\",\n  \"eng_key_points\": [\n    \"Establishment of the Commission for the Development and Safety of Artificial Intelligence – a new, independent body overseeing the AI systems market in Poland.\",\n    \"Possibility for any individual or company to file a complaint with the Commission if they suspect an AI system violates the regulations.\",\n    \"Introduction of 'regulatory sandboxes' – a controlled testing environment where companies (especially SMEs) can test innovative AI solutions free of charge with legal facilitations.\",\n    \"Imposition of high administrative fines for violations of AI regulations, levied by the Commission.\",\n    \"Possibility to obtain a binding individual opinion from the Commission (for a fee of 150 PLN), giving a company a guarantee that its actions comply with the law.\",\n    \"Exclusion of AI systems used by special services and for national defense from the Commission's oversight – their control is exercised by the Prime Minister or the Special Services Coordinator.\"\n  ],\n  \"de_ai_title\": \"Neue KI-Aufsicht: Kommission, Strafen und regulatorische Sandkästen\",\n  \"de_summary\": \"Das Gesetz errichtet die Kommission für Entwicklung und Sicherheit Künstlicher Intelligenz, die den KI-Markt in Polen beaufsichtigen wird. Es führt Regeln für die Kontrolle von Unternehmen ein, die KI entwickeln und nutzen, die Möglichkeit, hohe Geldstrafen bei Verstößen zu verhängen, sowie ein Beschwerdeverfahren für Bürger. Das Gesetz schafft auch „regulatorische Sandkästen“ – eine sichere Umgebung zum Testen innovativer KI-Systeme unter Aufsicht der Kommission, um die Entwicklung neuer Technologien zu fördern.\",\n  \"de_key_points\": [\n    \"Errichtung der Kommission für Entwicklung und Sicherheit Künstlicher Intelligenz – eines neuen, unabhängigen Organs zur Beaufsichtigung des KI-Systemmarktes in Polen.\",\n    \"Möglichkeit für jede natürliche oder juristische Person, bei der Kommission Beschwerde einzulegen, wenn der Verdacht besteht, dass ein KI-System gegen Vorschriften verstößt.\",\n    \"Einführung von „regulatorischen Sandkästen“ – einer kontrollierten Testumgebung, in der Unternehmen (insbesondere KMU) innovative KI-Lösungen kostenlos mit rechtlichen Erleichterungen testen können.\",\n    \"Verhängung hoher Geldbußen bei Verstößen gegen KI-Vorschriften durch die Kommission.\",\n    \"Möglichkeit, eine verbindliche individuelle Stellungnahme der Kommission (gegen eine Gebühr von 150 PLN) zu erhalten, die einem Unternehmen die Garantie gibt, dass sein Handeln rechtskonform ist.\",\n    \"Ausschluss von KI-Systemen, die von Sonderdiensten und für die Landesverteidigung genutzt werden, von der Aufsicht der Kommission – deren Kontrolle obliegt dem Premierminister oder dem Koordinator der Sonderdienste.\"\n  ],\n  \"fr_ai_title\": \"Nouvelle supervision de l'IA : Commission, sanctions et bacs à sable réglementaires\",\n  \"fr_summary\": \"La loi crée la Commission pour le développement et la sécurité de l'intelligence artificielle, qui supervisera le marché de l'IA en Pologne. Elle introduit des règles de contrôle des entreprises créant et utilisant l'IA, la possibilité d'imposer de lourdes amendes en cas d'infraction et une procédure de plainte pour les citoyens. La loi crée également des « bacs à sable réglementaires » – un environnement sûr pour tester des systèmes d'IA innovants sous la supervision de la Commission, afin de soutenir le développement de nouvelles technologies.\",\n  \"fr_key_points\": [\n    \"Création de la Commission pour le développement et la sécurité de l'intelligence artificielle – un nouvel organe indépendant supervisant le marché des systèmes d'IA en Pologne.\",\n    \"Possibilité pour toute personne physique ou morale de déposer une plainte auprès de la Commission si elle soupçonne qu'un système d'IA enfreint la réglementation.\",\n    \"Introduction de « bacs à sable réglementaires » – un environnement de test contrôlé où les entreprises (en particulier les PME) peuvent tester gratuitement des solutions d'IA innovantes avec des facilités juridiques.\",\n    \"Imposition de lourdes amendes administratives en cas d'infraction à la réglementation sur l'IA, infligées par la Commission.\",\n    \"Possibilité d'obtenir un avis individuel contraignant de la Commission (moyennant des frais de 150 PLN), donnant à une entreprise la garantie que ses actions sont conformes à la loi.\",\n    \"Exclusion des systèmes d'IA utilisés par les services spéciaux et à des fins de défense nationale du contrôle de la Commission – leur contrôle est exercé par le Premier ministre ou le Coordinateur des services spéciaux.\"\n  ],\n  \"es_ai_title\": \"Nueva supervisión de la IA: Comisión, sanciones y entornos de pruebas regulatorios\",\n  \"es_summary\": \"La ley crea la Comisión para el Desarrollo y la Seguridad de la Inteligencia Artificial, que supervisará el mercado de la IA en Polonia. Introduce normas para el control de las empresas que crean y utilizan IA, la posibilidad de imponer elevadas multas por infracciones y un procedimiento de reclamación para los ciudadanos. La ley también crea «entornos de pruebas regulatorios» – un entorno seguro para probar sistemas de IA innovadores bajo la supervisión de la Comisión, con el fin de apoyar el desarrollo de nuevas tecnologías.\",\n  \"es_key_points\": [\n    \"Creación de la Comisión para el Desarrollo y la Seguridad de la Inteligencia Artificial – un nuevo órgano independiente que supervisa el mercado de sistemas de IA en Polonia.\",\n    \"Posibilidad de que cualquier persona física o jurídica presente una reclamación ante la Comisión si sospecha que un sistema de IA infringe la normativa.\",\n    \"Introducción de «entornos de pruebas regulatorios» – un entorno de pruebas controlado donde las empresas (especialmente las PYME) pueden probar soluciones de IA innovadoras de forma gratuita y con facilidades legales.\",\n    \"Imposición de elevadas multas administrativas por infracciones de la normativa sobre IA, impuestas por la Comisión.\",\n    \"Posibilidad de obtener un dictamen individual vinculante de la Comisión (previo pago de una tasa de 150 PLN), que ofrece a una empresa la garantía de que sus actuaciones se ajustan a la ley.\",\n    \"Exclusión de los sistemas de IA utilizados por los servicios especiales y para la defensa nacional de la supervisión de la Comisión – su control lo ejerce el Primer Ministro o el Coordinador de los Servicios Especiales.\"\n  ],\n  \"it_ai_title\": \"Nuova vigilanza sull'IA: Commissione, sanzioni e sandbox normativi\",\n  \"it_summary\": \"La legge istituisce la Commissione per lo Sviluppo e la Sicurezza dell'Intelligenza Artificiale, che vigilerà sul mercato dell'IA in Polonia. Introduce regole per il controllo delle aziende che creano e utilizzano l'IA, la possibilità di imporre multe elevate per le violazioni e una procedura di reclamo per i cittadini. La legge crea anche dei 'sandbox normativi' – un ambiente sicuro per testare sistemi di IA innovativi sotto la supervisione della Commissione, con l'obiettivo di sostenere lo sviluppo di nuove tecnologie.\",\n  \"it_key_points\": [\n    \"Istituzione della Commissione per lo Sviluppo e la Sicurezza dell'Intelligenza Artificiale – un nuovo organo indipendente che vigila sul mercato dei sistemi di IA in Polonia.\",\n    \"Possibilità per qualsiasi persona fisica o giuridica di presentare un reclamo alla Commissione se sospetta che un sistema di IA violi le norme.\",\n    \"Introduzione di 'sandbox normativi' – un ambiente di test controllato in cui le aziende (soprattutto le PMI) possono testare gratuitamente soluzioni di IA innovative con agevolazioni legali.\",\n    \"Imposizione di elevate sanzioni amministrative pecuniarie per le violazioni delle norme sull'IA, irrogate dalla Commissione.\",\n    \"Possibilità di ottenere un parere individuale vincolante dalla Commissione (dietro pagamento di una tassa di 150 PLN), che offre a un'azienda la garanzia che le sue azioni siano conformi alla legge.\",\n    \"Esclusione dei sistemi di IA utilizzati dai servizi speciali e per la difesa nazionale dalla vigilanza della Commissione – il loro controllo è esercitato dal Primo Ministro o dal Coordinatore dei Servizi Speciali.\"\n  ],\n  \"nl_ai_title\": \"Nieuw toezicht op AI: Commissie, sancties en regelgevingssandboxen\",\n  \"nl_summary\": \"De wet richt de Commissie voor de Ontwikkeling en Veiligheid van Kunstmatige Intelligentie op, die toezicht zal houden op de AI-markt in Polen. De wet introduceert regels voor de controle van bedrijven die AI creëren en gebruiken, de mogelijkheid om hoge boetes op te leggen voor overtredingen en een klachtenprocedure voor burgers. De wet creëert ook 'regelgevingssandboxen' – een veilige omgeving om innovatieve AI-systemen te testen onder toezicht van de Commissie, ter ondersteuning van de ontwikkeling van nieuwe technologieën.\",\n  \"nl_key_points\": [\n    \"Oprichting van de Commissie voor de Ontwikkeling en Veiligheid van Kunstmatige Intelligentie – een nieuw, onafhankelijk orgaan dat toezicht houdt op de markt voor AI-systemen in Polen.\",\n    \"Mogelijkheid voor elke natuurlijke of rechtspersoon om een klacht in te dienen bij de Commissie als hij vermoedt dat een AI-systeem de regelgeving overtreedt.\",\n    \"Introductie van 'regelgevingssandboxen' – een gecontroleerde testomgeving waar bedrijven (met name het MKB) kosteloos innovatieve AI-oplossingen kunnen testen met juridische faciliteringen.\",\n    \"Oplegging van hoge administratieve geldboetes voor overtredingen van de AI-regelgeving, opgelegd door de Commissie.\",\n    \"Mogelijkheid om een bindend individueel advies van de Commissie te verkrijgen (tegen betaling van 150 PLN), dat een bedrijf de garantie geeft dat zijn handelen in overeenstemming is met de wet.\",\n    \"Uitsluiting van AI-systemen die door speciale diensten en voor nationale defensie worden gebruikt van het toezicht van de Commissie – de controle hierop wordt uitgeoefend door de premier of de coördinator van de speciale diensten.\"\n  ],\n  \"pt_ai_title\": \"Nova supervisão da IA: Comissão, sanções e sandboxes regulatórias\",\n  \"pt_summary\": \"A lei cria a Comissão para o Desenvolvimento e a Segurança da Inteligência Artificial, que supervisionará o mercado de IA na Polónia. Introduz regras para o controlo das empresas que criam e utilizam IA, a possibilidade de impor multas elevadas por infrações e um procedimento de reclamação para os cidadãos. A lei também cria «sandboxes regulatórias» – um ambiente seguro para testar sistemas de IA inovadores sob a supervisão da Comissão, com o objetivo de apoiar o desenvolvimento de novas tecnologias.\",\n  \"pt_key_points\": [\n    \"Criação da Comissão para o Desenvolvimento e a Segurança da Inteligência Artificial – um novo órgão independente que supervisiona o mercado de sistemas de IA na Polónia.\",\n    \"Possibilidade de qualquer pessoa singular ou coletiva apresentar uma reclamação à Comissão se suspeitar que um sistema de IA viola os regulamentos.\",\n    \"Introdução de «sandboxes regulatórias» – um ambiente de teste controlado onde as empresas (especialmente as PME) podem testar gratuitamente soluções de IA inovadoras com facilidades legais.\",\n    \"Imposição de coimas administrativas elevadas por infrações aos regulamentos de IA, aplicadas pela Comissão.\",\n    \"Possibilidade de obter um parecer individual vinculativo da Comissão (mediante o pagamento de uma taxa de 150 PLN), dando a uma empresa a garantia de que as suas ações estão em conformidade com a lei.\",\n    \"Exclusão dos sistemas de IA utilizados pelos serviços especiais e para a defesa nacional da supervisão da Comissão – o seu controlo é exercido pelo Primeiro-Ministro ou pelo Coordenador dos Serviços Especiais.\"\n  ],\n  \"category\": [\"Informatization\", \"Economy\", \"Courts and Law\"]\n}"
    },
    {
      "timestamp": "2026-04-17T16:10:20.622Z",
      "source_url": "https://api.sejm.gov.pl/sejm/term10/prints/2443/2443.pdf",
      "model": "gemini-flash-lite-latest",
      "prompt_sent": "\nROLE: Fact Checker.\nZADANIE: Porównaj SOURCE (oryginał) i SUMMARY (streszczenie przygotowane przez inne AI).\n\nTwoim celem jest wykrycie \"ZMYŚLONYCH KONKRETÓW\" (Fabricated Entities) w SUMMARY.\n\nSOURCE:\nDruk nr 2443 Warszawa, 9 kwietnia 2026 r. SEJM RZECZYPOSPOLITEJ POLSKIEJ X kadencja Prezes Rady Ministrów RM-0610-41-26 Pan Włodzimierz Czarzasty Marszałek Sejmu Rzeczypospolitej Polskiej Szanowny Panie Marszałku, na podstawie art. 118 ust. 1 Konstytucji Rzeczypospolitej Polskiej przedstawiam Sejmowi Rzeczypospolitej Polskiej projekt ustawy - o systemach sztucznej inteligencji. Projekt ma na celu wykonanie prawa Unii Europejskiej. Do prezentowania stanowiska Rządu w tej sprawie w toku prac parlamentarnych został upoważniony Minister Cyfryzacji. Z poważaniem Donald Tusk /podpisano kwalifikowanym podpisem elektronicznym/ Tłoczono z polecenia Marszałka Sejmu Rzeczypospolitej Polskiej Projekt U S T A W A z dnia o systemach sztucznej inteligencji 1), 2) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 2. 1. Ustawy nie stosuje się do: 1) Niniejsza ustawa służy stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024). 2) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustawę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustawę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. – 2 – 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 3) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328 i 370. – 3 – a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. 4 ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 340, 368, 620, 680, 1022, 1180, 1301, 1302, 1366, 1795, 1804, 1817, 1822, 1823, 1838 i 1858 oraz z 2026 r. poz. 203. – 4 – 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; – 5 – 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 98 ust. 2, – 6 – – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę oraz adres do korespondencji, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. – 7 – Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. – 8 – Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; – 9 – 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: – 10 – 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o – 11 – systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem do spraw usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; – 12 – 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji. Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę – 13 – poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; – 14 – 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. – 15 – Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. – 16 – Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; – 17 – 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; – 18 – 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się – 19 – pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw – 20 – informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; – 21 – 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione. Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami – 22 – międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. – 23 – 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 5) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, 5) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723 oraz z 2025 r. poz. 39 i 1661. – 24 – b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; – 25 – 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. – 26 – 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. – 27 – 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. – 28 – 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących – 29 – własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnia mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, – 30 – lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od – 31 – dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród – 32 – z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości – 33 – albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. – 34 – Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę, Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. – 35 – Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części, lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. – 36 – 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. – 37 – U. z 2024 r. poz. 1568, z późn. zm. 6) ) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 6) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 38 – 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm. 7 ), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 7) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 304, 1178, 1420, 1872 oraz z 2026 r. poz. 187. – 39 – 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. – 40 – 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu niedłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. – 41 – 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. – 42 – Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się z zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. – 43 – 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. – 44 – 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; – 45 – 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: – 46 – 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 5, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. – 47 – 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których mowa w ust. 6. Przepis art. 93 ust. 6 stosuje się. – 48 – 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostępnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. – 49 – 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej, d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. – 50 – 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. – 51 – 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. 8) ), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. 8) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 497, 621, 622, 769, 820, 1203, 1235, 1414, 1417, 1669, 1804 i 1863 oraz z 2026 r. poz. 252 i 347. – 52 – Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. – 53 – Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 9) ). Rozdział 9 Zmiany w przepisach obowiązujących Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm. 10) ) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA ... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 88b . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. 9) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872. 10) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 54 – Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. – 55 – § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d , art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. – 56 – Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji – 57 – chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; – 58 – 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 122. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia. UZASADNIENIE 1. Cel i potrzeba ustawy Celem projektowanej ustawy jest powołanie w Polsce systemu sprawowania nadzoru nad systemami sztucznej inteligencji zgodnego z ramami prawnymi ustanowionymi rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689” albo „aktem o AI”. Rozporządzenie („Akt o AI”) jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych. Nadrzędnym celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji, zwanych dalej „systemami AI”, w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI, a także wspierania innowacji w tym zakresie. Dla osiągnięcia założonego celu konieczne jest przyjęcie przez państwa członkowskie aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 w sposób spójny i skoordynowany z nadzorem realizowanym na poziomie Komisji Europejskiej i Rady Europejskiej. Projektowane przepisy powinny nadać niezbędne kompetencje krajowym organom nadzoru rynku lub takie organy utworzyć, by umożliwić im skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Z uwagi na charakter wymaganych zmian (m.in. przyznanie nowych uprawnień nadzorczych, stworzenie mechanizmu skargowego, trybu wydawania decyzji w zakresie określenie kar i innych środków administracyjnych), w przypadku Polski nie jest możliwe 2 zastosowanie wyłącznie rozwiązań pozalegislacyjnych. Dla zapewnienia zgodnych z polskim prawem, skutecznych narzędzi interwencji w zakresie regulowanym przez rozporządzenie konieczne jest przyjęcie przez Rzeczpospolitą Polską aktu prawnego w randze ustawy. Zgodnie z prawem europejskim rozporządzenie obowiązuje w Unii od dnia 1 sierpnia 2024 r. W dniu 2 lutego 2025 r. w życie weszły przepisy dotyczące systemów zakazanych. W dniu 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące organów notyfikujących i jednostek notyfikowanych oraz kar za naruszenia przepisów o zakazanych praktykach w zakresie AI. Zgodnie z terminami określonymi w rozporządzeniu 2024/1689 proces ten zakończy się 2 sierpnia 2027 r. W związku z powyższymi na obecnym etapie prac nad ustanowieniem europejskiego systemu nadzoru nad sztuczną inteligencją konieczne jest podjęcie działań legislacyjnych, które pozwolą Polsce wywiązać się ze wszystkich zobowiązań określonych w rozporządzeniu 2024/1689, które weszły w życie do dnia 2 sierpnia 2025 r. Przyjęcie przepisów, które stanowią treść projektu ustawy do polskiego porządku prawnego pozwoli również stworzyć prawne i organizacyjne podstawy umożliwiające w przyszłości realizację pozostałych, określonych w przepisach rozporządzenia 2024/1689 obowiązków, których wejście w życie nastąpi stopniowo do dnia 2 sierpnia 2027 r. Zgodnie z zasadami prawa Unii Europejskiej, podejmowane działania legislacyjne opierają się na założeniu, że ustawa ma zawierać przepisy wprost przekazane przez europejskiego prawodawcę do uregulowania w prawie krajowym oraz takich, co do których rozporządzenie 2024/1689 pozostawiło państwom członkowskim pewną swobodę regulacyjną. W związku z powyższym w polskim prawie należy zrealizować działania prawodawcze służące realizacji przepisów rozporządzenia 2024/1689 w wymiarze ustrojowym, jak i proceduralnym. Dotyczą one m.in.: 1) wskazania właściwych organów krajowych, tj.: – organu nadzoru rynku, – organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie; 2) określenia procedur postępowania przed organem nadzoru, w tym umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk AI, czy umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie rozporządzenia 2024/1689; 3 3) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689. Ponadto projekt ustawy umożliwi rozpoczęcie realizacji celów określonych w art. 1 ust. 2 lit. g rozporządzenia 2024/1689, które mówią o wspieraniu rozwoju zastosowań AI w krajach członkowskich. Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną AI. Analiza omawianego zagadnienia wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, podczas gdy alternatywne sposoby rozwiązania problemu należy ocenić jako niewystarczające do osiągnięcia oczekiwanego celu. Szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest szerokie stosowanie technologii sztucznej inteligencji, dodatkowo przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Projekt ustawy pozwoli wprowadzić do polskiego prawa mechanizmy umożliwiające realizację obowiązków określonych w rozdziałach I, II, III sekcja 4, V, VII, IX, XI rozporządzenia 2024/1689. W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące określenia krajowego organu nadzoru, postępowania przed tym organem, postępowania kontrolnego, organu notyfikującego, certyfikacji, sądowej ochrony praw przysługujących obywatelom, jak również wszczynanie postępowań i nakładanie administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689. Należy również zaznaczyć, że omawiany projekt ustawy o systemach sztucznej inteligencji nie realizuje wszystkich obowiązków wynikających z rozporządzenia 2024/1689. Treść projektu, który wychodzi naprzeciw wymaganiom wynikającym z przepisów polskiego oraz europejskiego prawa, jest wynikiem prowadzonych przez Ministerstwo Cyfryzacji prac i analiz merytorycznych, komunikacji z przedstawicielami Europejskiego Urzędu ds. Sztucznej Inteligencji oraz konsultacji z innymi instytucjami publicznymi w Polsce i interesariuszami społecznymi. Należy zaznaczyć, że rozporządzenie pozostawia państwom członkowskim pewną elastyczność m.in. w wyznaczaniu lub stworzeniu odpowiednich organów, procedur 4 administracyjnych i sądowych. W przypadku Polski powoduje to konieczność priorytetyzacji działań w zakresie utworzenia systemu nadzoru rynku nad systemami AI w celu umożliwienia stosowania tych przepisów, które weszły w życie do dnia 2 sierpnia 2025 r., przy jednoczesnym prowadzeniu działań komunikacyjnych i administracyjnych. W pozostałym, określonym w rozporządzeniu 2024/1689, zakresie przedmiotowym Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych). 2. Omówienie projektowanych przepisów Projektowana ustawa określa organizację i sposób sprawowania krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia, a także zapewnienia rozwoju w tym obszarze. Zakres przedmiotowy projektu wynika wprost z przepisów rozporządzenia 2024/1689, w którym znajduje się znaczna część przepisów merytorycznych stosowanych bezpośrednio. Projektowana ustawa koncentruje się na ustanowieniu roli organów państwa w tym obszarze oraz ustanowieniu środków rozwoju i nadzoru. Przygotowując się do wyżej opisanych prac legislacyjnych na rzecz zapewnienia skutecznego stosowania rozporządzenia 2024/1689, Ministerstwo Cyfryzacji przeprowadziło szereg działań obejmujących: analizy prawne, instytucjonalne i techniczne oraz dwukrotne konsultacje z interesariuszami zarówno sektora publicznego, jak i prywatnego i pozarządowego. Analizy polskiego prawa oraz otoczenia instytucjonalnego prowadzone przez Ministerstwo Cyfryzacji wykazały brak istnienia w naszym kraju organu lub instytucji publicznej spełniających wymogi określone w rozporządzeniu 2024/1689 zarówno w zakresie statusu prawnego i roli ustrojowej, jak i wymaganych kwalifikacji pracowników. Rosnąca rola systemów sztucznej inteligencji oraz skala zagrożeń, jakie może powodować ich niewłaściwe stosowanie, powodują, że konieczne jest wyznaczenie organu, który tym wyzwaniom sprosta. W związku z potrzebami zapewnienia właściwego poziomu ochrony podstawowych praw człowieka, praw obywateli i konsumentów, rosnąć powinny również kompetencje organów nadzoru. W Polsce od kilku lat obserwujemy zwiększanie wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielanie ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych. Biorąc pod uwagę to, że w ostatnim czasie każdy z tych 5 organów przyjął na siebie realizacje nowych, poważnych obowiązków, zasadne jest, aby właściwy organ mógł realizować je w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli. W wyniku powyżej opisanych działań analitycznych, jak również ciągłego procesu zapoznawania się z aktualnym stanem wiedzy eksperckiej 1 , prowadzeniem dyskusji roboczych z przedstawicielami innych instytucji publicznych oraz uwzględnianiem wniosków wypracowanych na wcześniejszych etapach w ramach prac Grupy Roboczej ds. AI 2 , Ministerstwo Cyfryzacji ustaliło, że najbardziej efektywnym sposobem osiągnięcia celu nałożonego na Polskę przez rozporządzenie 2024/1689 jest ustanowienie nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucji tej, mającej pełnić funkcję nie tylko organu nadzoru nad rynkiem, ale również przyczyniającej się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnienia funkcji podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, w projekcie nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”. W celu uzyskania dodatkowych informacji i opinii ekspertów oraz przedstawicieli opinii publicznej, Ministerstwo Cyfryzacji przeprowadziło otwarte dla wszystkich zainteresowanych prekonsultacje założeń prac nad projektem ustawy (realizacja w terminie od 2 kwietnia 2024 r. do 23 kwietnia 2024 r). Respondenci tego procesu w zdecydowanej większości opowiedzieli się za koniecznością powołania nowego organu nadzoru jako najlepszym rozwiązaniem systemowym odpowiadającym potrzebom rozwoju polskiego ekosystemu sztucznej inteligencji 3 . Należy podkreślić także, że rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte i uchwalone w formie ustawy w Hiszpanii 4 . Dodatkową okolicznością przemawiającą za (systemową i ekonomiczną) optymalnością wskazanego modelu jest mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia tych wymagań oraz prowadziłoby do szkodliwej 1 A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities | European Journal of Risk Regulation | Cambridge Core 2024. 2 RAPORT: Analiza związku Aktu w sprawie sztucznej inteligencji z wybranymi obowiązującymi i projektowanymi regulacjami prawnymi – Portal sztucznej inteligencji – Portal G ov.pl (www.gov.pl). 3 Wdrożenie Aktu o AI – Ministerstwo Cyfryzacji – Portal Gov.pl (www.gov.pl). 4 Estrategia de Inteligencia Artificial 2024. 6 konkurencji między organami i rywalizacji o wąskie grono wysoko wyspecjalizowanych ekspertów. Powołanie nowego organu jawi się również jako racjonalne z punktu widzenia interesu sektora finansów publicznych. Jak wspominano, w aktualnym stanie prawnym brakuje podmiotu spełniającego wymagania, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a więc łącznego i równoczesnego zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne z punktu widzenia polskiego podatnika. Rozdział 1 – Przepisy ogólne (art. 1 – art. 4) Rozdział 1 określa zakres podmiotowy ustawy, stanowiąc, że przepisy ustawy będą miały zastosowanie do osób fizycznych, osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej, jak również zakres przedmiotowy ustawy, w ramach którego planuje się określenie sposobu sprawowania nadzoru nad rynkiem, postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, działania wspierające rozwój systemów sztucznej inteligencji oraz zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Projektodawca określił zarówno zakres podmiotowy, jak i przedmiotowy w ten sposób, by był kompatybilny z przepisami oraz celami określonymi w rozporządzeniu 2024/1689. Z zakresu stosowania rozporządzenia 2024/1689 (art. 2 ust. 3) i ustawy w art. 2 zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2026 r. poz. 1158). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów wyłączone mają być również sprawy będące w zakresie bezpieczeństwa narodowego, obejmujące działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji 7 Wywiadu (Dz. U. z 2025 r. poz. 902, z późn. zm.), a także w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2024 r. poz. 1405, z późn. zm.). Intencją projektu jest całkowite wyłączenie działalności służb specjalnych spod właściwości Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wyłączenie spraw związanych z obroną narodową oraz bezpieczeństwem narodowym jest uzasadnione kilkoma istotnymi powodami. Przede wszystkim kwestie te są kluczowe dla stabilności i ochrony państwa, dlatego wymagają specjalnych procedur i środków, które są niezbędne do skutecznego zarządzania zagrożeniami. Przepisy dotyczące obrony narodowej i bezpieczeństwa narodowego często wymagają specyficznych regulacji, które mogą nie być kompatybilne z ogólnymi przepisami dotyczącymi sztucznej inteligencji. Wyłączenie tych obszarów pozwala na dostosowanie regulacji do unikalnych potrzeb i wymagań tych sektorów. Jednocześnie w celu zapewnienia stosowania i przestrzegania przepisów rozporządzenia 2024/1689 w odniesieniu do specyfiki działania służb specjalnych, w projekcie proponuje się wskazanie Prezesa Rady Ministrów albo Ministra – Koordynatora Służb Specjalnych, w przypadku jego powołania, jako organu właściwego do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie przestrzegania przepisów rozporządzenia 2024/1689 i projektowanej ustawy. Zaproponowane powyżej rozwiązania prawne umożliwią stosowanie przepisów rozporządzenia 2024/1689 wobec służb specjalnych, przy jednoczesnym zachowaniu przez każdą z nich należytego poziomu ochrony środków, form i metod realizacji zadań, zgromadzonych informacji oraz własnych obiektów i danych identyfikujących funkcjonariuszy służby, do której to ochrony służby specjalne są zobowiązane przepisami ustawowymi. W zakresie kontroli odpowiednie zastosowanie będą mieć przepisy ustawy o kontroli w administracji rządowej, tak więc nie ma potrzeby dodatkowego normowania tej kwestii w przedmiotowym projekcie. Przepisów nie stosuje się także do badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689. Wyłączenia dotyczące badań podstawowych, aplikacyjnych oraz prac rozwojowych wynikają z ich specyficznego charakteru i celu. Badania te mają na celu zdobywanie nowej wiedzy oraz rozwijanie innowacyjnych technologii, które mogą przyczynić 8 się do postępu naukowego i technologicznego. Wyłączenie tych badań z przepisów pozwala na swobodniejszy rozwój nauki i innowacji, bez konieczności spełniania dodatkowych wymagań, które mogłyby ograniczać ich potencjał rozwojowy, a także jest spójne z przepisami rozporządzenia 2024/1689. Zgodnie z treścią rozporządzenia, z zakresu stosowania przepisów ustawy wyłączone zostały także systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 rozporządzenia 2024/1689. Jest to wyłączenie spójne z art. 2 ust. 12 rozporządzenia 2024/1689. Przepisów nie stosuje się także do systemów wprowadzonych do użytku wyłącznie dla celów w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych przed wejściem w życie rozporządzenia 2024/1689. Zgodnie z zakresem określonym przez unijnego prawodawcę (art. 2 ust. 10 rozporządzenia 2024/1689), projekt w art. 3 wyłącza z zakresu ustawy osoby fizyczne, które stosują systemy sztucznej inteligencji wyłącznie dla celów osobistych i niezwiązanych z działalnością gospodarczą, rolniczą lub inną działalnością regulowaną przez prawo. Ponadto projekt wyłącza z zakresu ustawy organy publiczne, które są objęte innymi przepisami prawnymi. Projekt ten odnosi się do różnych rodzajów działalności gospodarczej, takich jak działalność zarobkowa prowadzona we własnym imieniu, działalność gospodarcza jako formalnie zarejestrowana działalność zarobkowa wykonywana we własnym imieniu, działalność nierejestrowa, a także działalność zawodowa wymagająca uprawnień państwowych. W art. 4 projektu określa się również stosowane w tekście definicje prawne, które wprowadzają wyjaśnienia terminów w oparciu o przepisy rozporządzenia 2024/1689. Zdaniem projektodawcy zachowanie spójności terminologicznej jest kluczowe dla właściwego stosowania rozporządzenia 2024/1689. Projektowana ustawa nie będzie zawierała rozdziału określającego obowiązki operatorów uczestniczących w łańcuchu wartości AI, ponieważ obowiązki te są uregulowane w przepisach rozporządzenia 2024/1689 stosowanych bezpośrednio. Rozdział 2 – Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 47) Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie ustanawiają lub wyznaczają co najmniej jeden organ nadzoru rynku jako właściwy organ krajowy zobowiązany do wykonywania swoich uprawnień w sposób niezależny, bezstronny i 9 wolny od uprzedzeń. Sprawowanie nadzoru nad systemami AI przez ministra właściwego do spraw informatyzacji nie jest możliwe ze względu na wymaganą przez rozporządzenie niezależność organu nadzoru od administracji rządowej. W celu zapewniania wymogów rozporządzenia 2024/1689, jako organ nadzoru rynku systemów AI została ustanowiona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Jej podstawowym zadaniem jest sprawowanie nadzoru nad wdrażaniem i stosowaniem sztucznej inteligencji w Polsce. Komisja została również wskazana jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. Przyznanie prawa do używania pieczęci z godłem państwowym podkreśla rangę i oficjalny charakter działań Komisji. Komisja odpowiada za komunikację z instytucjami unijnymi, w tym z Komisją Europejską i Europejską Radą ds. Sztucznej Inteligencji, co zapewnia spójność działań na poziomie europejskim. Zobowiązanie do współpracy z licznymi organami krajowymi, takimi jak Komisja Nadzoru Finansowego, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Urząd Patentowy RP, Urząd Rejestracji Produktów Leczniczych czy Krajowa Radą Radiofonii i Telewizji uwzględnia specyfikę różnych obszarów zastosowań sztucznej inteligencji, jak również odzwierciedla interdyscyplinarny charakter wyzwań związanych z AI i pozwala na kompleksowe podejście do regulacji. Istotna jest także współpraca z podmiotami odpowiedzialnymi za cyberbezpieczeństwo, co wynika z wrażliwości systemów AI na cyberzagrożenia oraz dużą (i rosnącą) rolą AI zarówno w technikach ataków, jak i ochrony przed incydentami. Należy również podkreślić, że rozwiązania proponowane w ustawie nie wyczerpują docelowego, kompletnego zakresu nadzoru nad systemami sztucznej inteligencji w Polsce. Wynika to z faktu, że projekt nie obejmuje obszaru określonego jako wysokiego ryzyka. Docelowo w nadzorze uczestniczyć będą również organy przewidziane w treści przepisów rozporządzenia 2024/1689 jako właściwe do nadzoru nad pozostającymi w ich zakresie kompetencji systemami wysokiego ryzyka. Opracowanie i przyjęcie przepisów w tym zakresie wstępnie uwarunkowane było opublikowaniem wytycznych Komisji Europejskiej dotyczących systemów wysokiego ryzyka. Obecnie procedowany jest natomiast projekt uproszczeń do rozporządzenia 2024/1689 (Omnibus AI) wprowadzający znaczne zmiany w zakresie przepisów dotyczących tych systemów w tym terminu ich wejścia w życie. Omawiane działania na szczeblu unijnym mają bezpośredni wpływ na przyjęcie przepisów włączających w system nadzoru organy odpowiedzialne sektorowo za nadzór nad stosowaniem systemów AI w 10 obszarach takich jak m.in. medycyna i produkty lecznicze, transport i motoryzacja czy bezpieczeństwo publiczne, ochrona granic i polityka migracyjna (art. 6, Załączniki II–III). W projekcie określono zadania Komisji, łącząc funkcje kontrolne z aktywnością wspierającą rozwój rynku AI. Kluczowe znaczenie ma nadzór nad przestrzeganiem przepisów unijnych i krajowych, co stanowi podstawową funkcję tego organu. Jednocześnie Komisja pełni ważną rolę w promowaniu innowacji poprzez działania edukacyjne i informacyjne. Zadania związane z opiniowaniem aktów prawnych i współpracą międzynarodową podkreślają strategiczne znaczenie Komisji w kształtowaniu polityki AI. Prowadzenie rejestru skarg tworzy system wczesnego ostrzegania przed zagrożeniami (rejestr ten nie stanowi rejestru publicznego). Szczególnie istotne jest zadanie tworzenia piaskownic regulacyjnych, które pozwalają na testowanie innowacyjnych rozwiązań w kontrolowanych warunkach. Kompetencje w zakresie wydawania decyzji i postanowień zapewniają Komisji niezbędne narzędzia do skutecznego wykonywania funkcji nadzorczych. Projekt umacnia także rolę Komisji jako ciała opiniotwórczego i doradczego w procesie legislacyjnym dotyczącym obszaru sztucznej inteligencji. Możliwość przedstawiania propozycji działań legislacyjnych ministrowi właściwemu do spraw informatyzacji pozwala na aktywne kształtowanie polityki regulacyjnej. Obowiązek publikowania przykładów dobrych praktyk służy upowszechnianiu standardów i promocji najlepszych rozwiązań wśród przedsiębiorców i jednostek publicznych. Przepisy te tworzą mechanizm oddziaływania Komisji nie tylko poprzez kontrolę, ale także poprzez inspirowanie i edukowanie uczestników rynku AI. Komisja może ponadto wydawać opinie indywidualne i wyjaśnienia. Przepisy art. 8–art. 17 stanowią kompleksową regulację w tym zakresie w odniesieniu do stosowania przepisów rozporządzenia 2024/1689 i ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. Art. 8 wprowadza ogólną kompetencję Komisji do wydawania opinii indywidualnych oraz wyjaśnień. Komisja, jako organ nadzoru rynku nad systemami sztucznej inteligencji, posiada szczególne kompetencje merytoryczne, pozwalające na dokonywanie wiążących ocen prawnych w konkretnych przypadkach, a także formułowanie ogólnych wskazówek 11 interpretacyjnych. W art. 8 ust. 2 wprost wskazane zostało, że przy formułowaniu takich stanowisk Komisja powinna brać pod uwagę opinie i zalecenia Europejskiej Rady ds. Sztucznej Inteligencji, co służy zapewnieniu zgodności krajowej wykładni z kierunkiem wykładni prawa Unii Europejskiej w tym obszarze. Art. 9 szczegółowo reguluje procedurę uzyskiwania opinii indywidualnej, czyli wiążącego stanowiska Komisji w indywidualnej sprawie. Konstrukcja ta ma na celu stworzenie bezpiecznej przestrzeni dla przedsiębiorców i innych podmiotów do uzyskania pewności co do legalności planowanych działań. Możliwość wystąpienia z wnioskiem zarówno w odniesieniu do stanów faktycznych już zaistniałych, jak i zdarzeń przyszłych, czyni z opinii indywidualnej skuteczne narzędzie zapobiegania naruszeniom prawa, a także umożliwia zgodne z przepisami planowanie działalności gospodarczej. Obowiązek uiszczenia opłaty, o której mowa w art. 11, ma charakter dyscyplinujący oraz ogranicza możliwość nadużywania instytucji opinii do prób uzyskiwania bezpłatnych porad prawnych. Zachowano przy tym gwarancje proceduralne – m.in. możliwość wezwania do uzupełnienia braków formalnych, określenie maksymalnych terminów na wydanie opinii oraz przyjęcie fikcji prawnej pozytywnego rozpatrzenia w przypadku ich przekroczenia. Wprowadzenie fikcji pozytywnego rozpatrzenia (tzw. milcząca zgoda) wzmacnia pozycję prawną wnioskodawców i mobilizuje Komisję do sprawnego działania. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. Wiążący charakter opinii dla Komisji i innych organów państwowych oraz jednostek organizacyjnych określonych w ustawie, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego wzmacnia bezpieczeństwo prawne wnioskodawców i ogranicza ryzyko rozbieżnych interpretacji tego samego stanu faktycznego przez różne instytucje. Ochrona tej decyzji przed zmianą, gdy wywołała ona nieodwracalne skutki prawne, chroni stabilność stosunków prawnych i respektuje zasadę zaufania obywateli do państwa. Wprowadzono także mechanizmy weryfikacji i korekty opinii. W drodze zmiany, uchylenia lub stwierdzenia jej wygaśnięcia – w przypadku zmiany stanu prawnego, ujawnienia fałszywego oświadczenia lub wystąpienia innej przesłanki. Daje to Komisji elastyczne narzędzia dostosowywania się do zmieniających się uwarunkowań prawnych i faktycznych. Art. 16 uzupełnia regulację przez umożliwienie Komisji wydawania wyjaśnień o charakterze ogólnym dotyczących stosowania przepisów. Wyjaśnienia odmiennie od opinii indywidualnych nie mają charakteru wiążącego. Pełnią natomiast rolę instrukcyjną i edukacyjną, która jest istotna z punktu widzenia podmiotów objętych przepisami rozparzenia 12 2024/1689. Ułatwią one jednolite rozumienie i stosowanie prawa przez szeroki krąg podmiotów, zarówno urzędników, przedsiębiorców, jak i obywateli. Uwzględnienie dorobku orzeczniczego oraz dokumentów interpretacyjnych Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji stanowi wyraz dążenia do harmonizacji wykładni krajowej z unijną. Art. 17 ustanawia zasadę przejrzystości poprzez nakaz publikowania wydanych opinii i wyjaśnień (po ich anonimizacji) w Biuletynie Informacji Publicznej. Służy to upowszechnianiu wiedzy prawnej, ułatwia dostęp do informacji, a także może zapobiegać składaniu wielokrotnie podobnych wniosków w analogicznych sprawach. Dodatkowo pełni funkcję kontrolną i legitymizującą działania Komisji w oczach opinii publicznej. Przepisy art. 8–art. 17 stanowią spójny system umożliwiający prawidłowe, jednolite i przewidywalne stosowanie przepisów dotyczących sztucznej inteligencji, zarówno w wymiarze indywidualnym, jak i ogólnym. Chronią interesy podmiotów regulowanych, wzmacniają zaufanie do instytucji publicznych, wspierają harmonizację krajowego i unijnego porządku prawnego oraz zwiększają bezpieczeństwo obrotu prawnego. Ich znaczenie praktyczne będzie rosło wraz z rozwojem zastosowań sztucznej inteligencji i dynamiką zmian regulacyjnych w tym obszarze. Innym z zadań i uprawnień Komisji będzie możliwość przedstawiania sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Komisja będzie mogła wykonywać to zadanie z własnej inicjatywy, jak i na wniosek. Skład Komisji został zaprojektowany tak, aby zapewnić reprezentację kluczowych podmiotów zaangażowanych w nadzór nad technologiami cyfrowymi, przy zachowaniu efektywności procesu decyzyjnego. Członkami Komisji będą Przewodniczący oraz dwóch Zastępców, a także czterej przedstawiciele wskazani przez organy publiczne: Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisję Nadzoru Finansowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej. Obecność przedstawicieli instytucji o wysokim poziomie niezależności gwarantuje uwzględnienie różnych perspektyw w procesie decyzyjnym, a mechanizm zapraszania ekspertów z głosem doradczym pozwala na wykorzystanie specjalistycznej wiedzy w złożonych kwestiach technicznych, co jest szczególnie ważne w dynamicznie rozwijającej się dziedzinie AI. Ustawa dodatkowo zapewnia Przewodniczącemu Komisji, jego Zastępcom oraz członkom Komisji pełną niezależność w zakresie zadań realizowanych przez Komisję. 13 W projekcie przewidziano ponadto możliwość stałego udziału w posiedzeniach Komisji również przedstawicieli dodatkowych organów. Przepisy gwarantują udział bez prawa głosu na zasadach stałego obserwatora przedstawicieli organów i podmiotów wskazanych na zasadach określonych w art. 77 rozporządzenia 2024/1689 oraz przedstawicieli ministrów. Zapewni to koordynację działań z administracją rządową, pozwoli na sprawną współpracę organów, a także na szybsze reagowanie w przypadku zdarzeń o potencjalnie negatywnym wpływie na bezpieczeństwo obywateli i Państwa. Zasady dotyczące wynagrodzeń i zwrotu kosztów podróży zostały określone tak, aby zapewnić profesjonalizm prac Komisji przy zachowaniu zasad racjonalności wydatków publicznych. Procedury pracy Komisji zostały określone z zachowaniem zasad przejrzystości i efektywności, co jest kluczowe dla sprawnego funkcjonowania tego organu. Możliwość podejmowania uchwał zarówno na posiedzeniach, jak i w trybie obiegowym, a także zdalnego uczestnictwa w obradach, odpowiada współczesnym standardom funkcjonowania organów administracji i zapewnia elastyczność działania przy mniejszym obciążeniu kosztami i czasochłonnością wykonywanych zadań. Mechanizmy dotyczące wyłączenia członków Komisji z posiedzeń w przypadku konfliktu interesów zapewniają bezstronność i obiektywizm postępowania. Szczegółowe zasady funkcjonowania Komisji, mające zostać określone w regulaminie, pozwolą na dostosowanie procedur do specyfiki rozpatrywanych spraw, przy jednoczesnym zachowaniu podstawowych standardów dobrego zarządzania. Sposób podejmowania uchwał, w tym zasady rozstrzygania remisów, został zaprojektowany tak, aby zapewnić skuteczność działania Komisji przy zachowaniu zasad demokratycznego podejmowania decyzji. Przepisy określają zadania Przewodniczącego Komisji i składają się na konsekwentny system kierowania i reprezentacji tego organu. Przewodniczący pełni kluczową rolę w koordynacji prac Komisji, będąc odpowiedzialnym za jej reprezentację zewnętrzną i sprawozdawczość. Szczególnie istotne jest prawo do wyznaczania Sekretarza Komisji i Zastępców Przewodniczącego, co zapewnia płynność funkcjonowania organu. Obowiązek publikowania wykazu organów w BIP i przekazywania informacji do instytucji unijnych gwarantuje przejrzystość działań i spójność z wymogami europejskimi. Kompetencja do określania wymogów dotyczących funkcjonowania Komisji w drodze zarządzenia pozwala na elastyczne dostosowywanie się do zmieniających się potrzeb rynku AI. Zadania związane z podpisywaniem zaleceń pokontrolnych i podpisywaniem uchwał wzmacniają pozycję Przewodniczącego jako lidera merytorycznego Komisji. Dodatkowo współdziałanie 14 Przewodniczącego Komisji z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji wpłynie na zapewnienie obsługi organizacyjnej, administracyjnej oraz merytorycznej Komisji, a także na zapewnienie środków finansowych na działania określone rozporządzeniem 2024/1689 i ustawą. Co roku Przewodniczący Komisji będzie ponadto obowiązany do przedstawiania szczegółowego sprawozdania Sejmowi, co wzmacnia jej odpowiedzialność przed władzą ustawodawczą i społeczeństwem. Zakres sprawozdania obejmuje zarówno aspekty merytoryczne (wyniki kontroli, analiza trendów), jak i finansowe (realizacja budżetu), co zapewnia kompleksową ocenę działalności organu. Część finansowa sprawozdania Komisji odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. Publikacja sprawozdania w BIP gwarantuje dostępność informacji dla wszystkich zainteresowanych podmiotów. Szczególnie istotne jest uwzględnienie w sprawozdaniu analizy ryzyk związanych z rozwojem AI, co pozwala na bieżące monitorowanie zagrożeń i dostosowywanie polityki w tym obszarze. W projekcie przewidziano także regulacje nakładające na Przewodniczącego Komisji obowiązek dotyczący ustanawiania w formie zarządzenia, w zakresie zadań Komisji, wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Przewodniczący odpowiedzialny będzie także za ich coroczną ocenę oraz ewentualną aktualizację. Przepis zapewnia bieżącą aktualizację zasobów niezbędnych do realizacji zadań nadzorczych, organizacyjnych i administracyjnych. Dzięki temu zapewnione zostanie, że organ nadzorczy nie tylko formalnie istnieje, ale realnie może wykonywać swoje funkcje z odpowiednią skutecznością i niezależnością. Dodatkowo Przewodniczący Komisji zobowiązany został do sporządzenia i przekazania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w formie elektronicznej. Sprawozdanie to ma na celu ocenę efektywności działania krajowego organu nadzorczego oraz przedstawienie informacji o dostępnych zasobach. Przepis ten zapewnia realizację obowiązków sprawozdawczych wobec instytucji unijnych. W projekcie ustawy przewidziano, że Przewodniczącego Komisji powołuje Sejm za zgodą Senatu. Rozwiązanie to zostało przyjęte z uwagi na szczególny charakter funkcji przewodniczącego oraz strategiczne znaczenie Komisji w systemie instytucjonalnym państwa. Oznacza to, że osoba stojąca na jej czele musi nie tylko posiadać wysokie kompetencje merytoryczne, ale także cieszyć się silną legitymacją demokratyczną i zaufaniem szerokiego spektrum politycznego. 15 Powoływanie Przewodniczącego Komisji przez Sejm za zgodą Senatu wprowadza mechanizm równowagi i wzajemnej kontroli między obiema izbami parlamentu. Taki model procedury wyboru służy ograniczeniu ryzyka upolitycznienia stanowiska oraz zwiększa transparentność procesu, co ma szczególne znaczenie w przypadku urzędu odpowiedzialnego za nadzór nad dziedziną dynamicznie rozwijającą się, jaką jest sztuczna inteligencja. Ponadto, przyjęta formuła jest spójna z rozwiązaniami ustrojowymi przewidzianymi w Konstytucji RP oraz w ustawach regulujących wybór innych kluczowych funkcjonariuszy publicznych. Analogiczne mechanizmy powołania – przez Sejm za zgodą Senatu – funkcjonują w przypadku Rzecznika Praw Obywatelskich czy Prezesa Najwyższej Izby Kontroli. Wprowadzenie podobnego trybu w odniesieniu do przewodniczącego Komisji gwarantuje ciągłość i konsekwencję w zakresie standardów wyboru osób na wysokie stanowiska państwowe, co sprzyja umacnianiu zasad państwa prawa, przejrzystości i odpowiedzialności instytucji publicznych. Projekt wprowadza limit dwóch kadencji, który zapobiega nadmiernej koncentracji władzy. Przepisy te tworzą równowagę między potrzebą stabilności kierownictwa Komisji a koniecznością okresowej weryfikacji jego działań. Określono także okoliczności przedterminowego zakończenia kadencji Przewodniczącego Komisji, co stanowi ważny mechanizm kontrolny. Katalog przyczyn odwołania obejmuje zarówno sytuacje obiektywne (utrata zdolności do pełnienia funkcji), jak i przypadki naruszenia zasad etycznych (skazanie za przestępstwo). Szczegółowa procedura naboru na stanowisko Zastępcy Przewodniczącego została zaprojektowana tak, aby zapewnić przejrzystość i merytokratyczny charakter procesu selekcji. Wymóg otwartego konkursu i publikacji ogłoszeń w BIP gwarantuje równy dostęp do stanowiska. Powołanie specjalistycznego zespołu rekrutacyjnego oraz możliwość zaangażowania zewnętrznych ekspertów zapewniają natomiast obiektywną ocenę kandydatów. Szczegółowe wymagania dotyczące protokołu i publikacji wyników zwiększają odpowiedzialność za podejmowane decyzje. Projektowane przepisy tworzą zatem system, który z jednej strony zapewnia wysokie kwalifikacje osób powoływanych na stanowiska, z drugiej zaś – przejrzystość procesu selekcji. Wprowadzono ograniczenia działalności dla członków Przewodniczącego i zastępców Przewodniczącego Komisji, co ma na celu wyeliminowanie potencjalnych konfliktów interesów. Zakaz przynależności do partii politycznych i związków zawodowych wzmacnia ponadto apolityczny charakter organu. Możliwość łączenia funkcji tylko z działalnością 16 naukową odpowiada specyfice obszaru AI, gdzie współpraca z środowiskiem akademickim jest szczególnie pożądana. Instytucja oświadczenia o braku konfliktu interesów stanowi natomiast dodatkowe zabezpieczenie od strony etycznej. Przepisy te zostały zaprojektowane tak, aby tworzyć system gwarancji niezależności i bezstronności Przewodniczącego i Zastępców Przewodniczącego Komisji, co jest szczególnie ważne w kontekście wrażliwych kwestii regulacyjnych dotyczących sztucznej inteligencji. Projekt ustawy kładzie również duży nacisk na zapewnienie ochrony tajemnic prawnie chronionych oraz danych osobowych. W celu ochrony zarówno tajemnicy prawnie chronionych, jak i wrażliwych informacji uzyskanych podczas wykonywania obowiązków wynikających z rozporządzenia 2024/1689 i ustawy, ustanowiono szeroki obowiązek zachowania tajemnicy przez osoby związane z Komisją. Obowiązek utrzymuje się nawet po zakończeniu współpracy, co zabezpiecza przed nieuprawnionym ujawnieniem informacji. Jest to szczególnie istotne w kontekście ochrony danych osobowych, tajemnic handlowych oraz innych poufnych informacji. Wyjątek dotyczący zawiadomień o przestępstwie, co tworzy równowagę między ochroną informacji a koniecznością zgłaszania nieprawidłowości. Wprowadzenie tego wyjątku pozwala na ujawnienie informacji w sytuacjach, gdy jest to konieczne dla zapobieżenia lub ścigania przestępstw. Zgłaszanie przestępstw jest niezbędne dla zapewnienia praworządności, a także dla ochrony interesów publicznych. Określono także zasady przetwarzania danych osobowych przez Komisję w związku z realizacją jej zadań. Przetwarzanie będzie dotyczyło również danych, o których mowa w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych). Przepisy uwzględniają specyfikę danych przetwarzanych w systemach AI, jednocześnie wprowadzając mechanizmy okresowego przeglądu i usuwania zbędnych informacji. Przepis ten pozwala Komisji na dostęp do szczególnych danych w zakresie niezbędnym do realizacji jej zadań, jednocześnie określając warunki ich przekazywania innym uprawnionym podmiotom. Rozwiązanie to tworzy równowagę między efektywnością nadzoru a ochroną danych i tajemnicy przedsiębiorcy. Art. 43 projektu ustawy ma na celu stworzenie kompleksowych i trwałych ram organizacyjnych, które zapewnią skuteczne i profesjonalne wsparcie dla działalności Komisji i 17 Przewodniczącego Komisji. Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji. Zgodnie z przepisami ustawy urząd obsługujący ministra właściwego do spraw informatyzacji zapewni obsługę administracyjno-kancelaryjną Komisji i Przewodniczącego Komisji. Komisja oraz Przewodniczący Komisji będą mogli upoważnić pracowników właściwej komórki ww. urzędu do realizacji swoich zadań wynikających z rozporządzenia 2024/1689 i ustawy. Upoważnienie to nie może jednak obejmować wydawania postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 oraz ustawy. W tym celu planuje się utworzenie nowej komórki organizacyjnej urzędu, której organizacja i zasady funkcjonowania zostaną określone w regulaminie. Do spraw wynikających z zatrudnienia w ww. komórce organizacyjnej urzędu będą miały zastosowanie przepisy obowiązujące w tym zakresie w Ministerstwie Cyfryzacji. Warto jednak zaznaczyć, że z uwagi na przedmiot regulacji osoby wykonujące na podstawie upoważnienia zadania na rzecz Komisji będą zatrudniane na postawie przepisów ustawy o służbie cywilnej, kodeksu pracy, ale też nie wyklucza się umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. W celu wzmocnienia niezależności organu i pracowników realizujących jego zadania przyjęto rozwiązanie, zgodnie z którym Przewodniczący Komisji będzie współdziałał z Dyrektorem Generalnym urzędu w zakresie spraw pracowniczych wynikających z art. 25 ust. 4 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej, a także w zakresie spraw związanych z audytem i ochroną informacji. Pracownicy ww. komórki organizacyjnej będą podlegali Przewodniczącemu Komisji. Przepisy ustawy także określają status prawny Przewodniczącego Komisji, jego Zastępców i członków Komisji. Projekt ustawy wskazuje wysokość wynagrodzenia Przewodniczącego Komisji i jego zastępców. Mając na uwadze zachowanie transparentności finansowej oraz niezależności osób powołanych na ww. stanowiska, wysokość wynagrodzenia została wskazana wprost przez odniesienie do kwoty bazowej ustalanej z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. Rozwiązanie to będzie odpowiadało rzeczywistym potrzebom organizacyjnym wynikającym ze specyfiki i zakresu zadań Komisji i posłuży zachowaniu równowagi w zakresie niezależności Komisji. Zgodnie z art. 45, jako organ opiniodawczo-doradczy Komisji, zostanie ustanowiona Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”. Ma ona zapewnić wsparcie 18 eksperckie w zakresie sztucznej inteligencji. Rada ma na celu włączenie szerokiego grona interesariuszy, co zwiększa transparentność i demokratyczność działań Komisji. Dzięki temu możliwe jest uwzględnienie różnorodnych perspektyw i interesów społecznych oraz gospodarczych, co jest kluczowe w dynamicznie rozwijającej się dziedzinie AI. Skład Rady obejmuje od dziewięciu do piętnastu członków wybieranych na dwuletnią kadencję. Taki zakres liczbowy zapewnia różnorodność opinii i kompetencji, jednocześnie umożliwiając efektywne funkcjonowanie Rady. Dwuletnia kadencja pozwala na regularne odświeżanie składu Rady, co sprzyja dynamicznemu rozwojowi i adaptacji do zmieniających się warunków technologicznych. Regularna rotacja członków Rady zapewnia również, że nowe idee i podejścia są wprowadzane do dyskusji, co jest niezbędne w kontekście szybko ewoluującej technologii. Kandydaci na członków Rady mogą być zgłaszani przez różne podmioty, w tym przedstawicieli samorządów, rzeczników praw, izby gospodarcze, organizacje związkowe, uczelnie wyższe oraz fundacje i stowarzyszenia. Chociaż przepis określa bardzo szeroki krąg podmiotów to wzięto jednak pod uwagę zakres spraw mających podlegać obradom Rady, bezpieczeństwo przetwarzanych informacji oraz efektywne działanie organu opiniodawczo-doradczego. Stąd też w przypadku fundacji i stowarzyszeń wymagane jest posiadanie wpisu do Krajowego Rejestru Sądowego. KRS daje również pewność prawną ciągłości działania podmiotu, a to przekłada się również na stabilność składu Społecznej Rady. Taki szeroki zakres podmiotów zgłaszających kandydatów zapewnia reprezentatywność i uwzględnienie różnych perspektyw oraz interesów społecznych i gospodarczych. Dzięki temu Rada może działać w sposób bardziej zrównoważony i uwzględniać potrzeby różnych grup społecznych, co jest kluczowe dla skutecznego wdrażania i regulowania technologii AI. Wymogi dla członków Rady obejmują posiadanie wiedzy i doświadczenia w obszarze AI, niekaralność, pełnię praw publicznych oraz wyrażenie zgody na kandydowanie. Te kryteria mają na celu zapewnienie, że członkowie Rady będą kompetentni, wiarygodni i zaangażowani w pełnienie swoich obowiązków. Wymóg posiadania wiedzy i doświadczenia w obszarze AI gwarantuje, że członkowie Rady będą w stanie podejmować świadome i merytoryczne decyzje, które będą miały realny wpływ na rozwój i regulację tej technologii. Powoływanie członków Rady przez Komisję spośród zgłoszonych kandydatów zapewnia, że wybór członków jest przejrzysty i oparty na merytorycznych przesłankach. Proces ten ma na celu wyłonienie najbardziej kompetentnych i zaangażowanych osób, które będą w stanie skutecznie wspierać Komisję w jej działaniach. 19 Wygaśnięcie członkostwa w Radzie przed upływem kadencji może nastąpić z powodu rezygnacji, śmierci, niewykonywania obowiązków, skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe lub pozbawienia praw publicznych. Te przepisy mają na celu utrzymanie wysokiego standardu etycznego i zaangażowania członków Rady. W przypadku, gdy członek Rady nie jest w stanie wypełniać swoich obowiązków, konieczne jest zapewnienie, że jego miejsce zajmie osoba, która będzie w stanie aktywnie uczestniczyć w pracach Rady. Powiadomienie o wygaśnięciu członkostwa przez Komisję zapewnia formalność i jasność procedur związanych z zakończeniem członkostwa. Dzięki temu proces ten jest przejrzysty i zrozumiały dla wszystkich zainteresowanych stron. Odwołanie członka Rady przez Komisję w przypadku naruszenia przepisów lub niezachowania tajemnicy służbowej zapewnia, że członkowie Rady działają zgodnie z obowiązującymi normami prawnymi i etycznymi. Jest to kluczowe dla utrzymania zaufania do Rady i jej decyzji. Wygaśnięcie członkostwa w Radzie w przypadku rezygnacji jest formalnym potwierdzeniem zakończenia członkostwa na wniosek członka. Jest to ważne, aby zapewnić, że członkowie Rady mają możliwość dobrowolnego zakończenia swojej kadencji, jeśli uznają to za konieczne. Wybór nowego członka Rady w przypadku wygaśnięcia członkostwa lub odwołania zapewnia ciągłość działania Rady i możliwość szybkiego uzupełnienia jej składu. Dzięki temu Rada może nadal efektywnie funkcjonować i wspierać Komisję w jej działaniach, nawet w przypadku zmian personalnych. Zgodnie z art. 46 do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Rada ma możliwość podejmowania oraz przekazywania Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4. Dzięki temu może aktywnie uczestniczyć w monitorowaniu przestrzegania przepisów i inicjować działania mające na celu ich egzekwowanie. Rada ma również prawo wyrażania opinii i stanowisk przekazywanych do wiadomości Komisji z inicjatywy własnej. Taka możliwość pozwala Radzie na proaktywne działanie i podejmowanie inicjatyw, które mogą przyczynić się do lepszego zarządzania i regulacji technologii AI. Ponadto Rada podejmuje uchwały i przekazuje wnioski w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. Dzięki temu Rada może skutecznie reagować na przypadki naruszeń i wspierać Komisję w egzekwowaniu przepisów. 20 Rada wyraża opinię lub stanowisko, o którym mowa w art. 46 ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, co oznacza, że Komisja ma swobodę w podejmowaniu decyzji na podstawie własnych analiz i ocen. Niemniej jednak, opinie i stanowiska Rady stanowią cenne źródło informacji i mogą znacząco wpłynąć na decyzje Komisji. Opinie i stanowiska Rady są wydawane w drodze uchwały podjętej większością głosów wszystkich członków Rady. Przy czym obecność pełnego składu Rady podczas głosowania nie jest wymagana. Oznacza to, że w przypadku 9 osobowego składu Rady niezbędne będzie uzyskanie 5 głosów „Za”, nawet gdy nie wszyscy członkowie będą obecni na głosowaniu. Taki sposób podejmowania decyzji zapewnia demokratyczność i transparentność działań Rady. Uchwały Rady są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, co zapewnia dostępność informacji dla wszystkich zainteresowanych stron i zwiększa transparentność działań Rady. Zgodnie z art. 47 Komisja powołuje i odwołuje Przewodniczącego Rady oraz Zastępcę Przewodniczącego Rady spośród jej członków. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady, co zapewnia demokratyczność i transparentność procesu wyboru liderów Rady. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz, co jest kluczowe dla efektywnego funkcjonowania Rady oraz jej komunikacji zewnętrznej. W przypadku nieobecności Przewodniczącego Rady jego obowiązki przejmuje Zastępca Przewodniczącego Rady, co zapewnia ciągłość działania Rady. Do udziału w posiedzeniu Rady mogą być wskazane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Taki przepis umożliwia włączenie dodatkowych ekspertów i interesariuszy w dyskusje oraz może wzbogacić proces decyzyjny i zapewnić bardziej kompleksowe podejście do omawianych kwestii. Członek Rady oraz osoby zapraszane do udziału w pracach Rady są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji w Radzie. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady. Te przepisy mają na celu ochronę poufnych informacji oraz zapewnienie, że członkowie Rady działają zgodnie z najwyższymi standardami etycznymi. 21 Członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów. Te przepisy mają na celu zapewnienie, że członkowie Rady działają w sposób niezależny i bezstronny, co jest kluczowe dla utrzymania zaufania do Rady i jej decyzji. Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie, co podkreśla społeczny charakter jej działalności i zaangażowanie w sprawy publiczne. Niemniej za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77(5) § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Dzięki temu członkowie Rady nie ponoszą dodatkowych kosztów związanych z wykonywaniem swoich obowiązków. Powyższe zasady dotyczą również osób zapraszanych do udziału w pracach Rady. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję zwykłą większością głosów. Taki sposób uchwalania regulaminu zapewnia, że zasady działania Rady są ustalane w sposób demokratyczny i transparentny. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji, aby Rada miała dostęp do niezbędnych zasobów administracyjnych, umożliwiających jej efektywne funkcjonowanie. Rada może współpracować, w zakresie spraw określonych w ustawie i rozporządzeniu 2024/1689 oraz przy zachowaniu zasady zakazu konfliktu interesów, z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw będących przedmiotem posiedzenia. Taka współpraca pozwala na wymianę doświadczeń i najlepszych praktyk, co może przyczynić się do lepszego zarządzania i regulacji technologii SI na poziomie krajowym i międzynarodowym. Rozdział 3 – Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 48– art. 58) Przepisy projektowanej ustawy ustanawiają podstawę prawną dla prowadzenia przez Komisję kontroli operatorów uczestniczących w łańcuchu wartości AI. Kontrola jako kluczowy mechanizm nadzorczy, może być prowadzona zarówno na podstawie zatwierdzonego planu, informacji uzyskanych przez Komisję, jak i w ramach bieżącego monitorowania. Proponowane przepisy uwzględniają różnorodność statusów kontrolowanych podmiotów – przedsiębiorców oraz innych jednostek, jednocześnie wyłączając zastosowanie art. 6 pkt 1 oraz art. 51 ust. 3a ustawy – Prawo przedsiębiorców w celu dopasowania procedur do specyfiki nadzoru nad systemami sztucznej inteligencji. Wprowadzenie regulacji opartych 22 na Kodeksie postępowania administracyjnego ma na celu zapewnienie spójności oraz przejrzystości działań kontrolnych. Projekt określa tryb wszczynania kontroli, umożliwiając jej rozpoczęcie z urzędu lub na wniosek uprawnionych organów, takich jak Przewodniczący Komisji, jego zastępca czy członkowie Komisji oraz organy lub podmioty, o którym mowa w art. 77 rozporządzenia 2024/1689. W trosce o poszanowanie praw podmiotów objętych nadzorem wprowadza się zasadę zawiadamiania kontrolowanego z wyprzedzeniem, przewidując jednak możliwość odstąpienia od tego obowiązku w sytuacjach wyjątkowych, np. w przypadku zagrożenia życia, zdrowia lub praw podstawowych. Wprowadza się również zasadę przeprowadzania kontroli w sposób zdalny, co stanowi odpowiedź na wymogi nowoczesnych technologii. Istotnym elementem projektu jest uregulowanie zasad upoważniania osób do przeprowadzania kontroli – pracowników właściwej komórki urzędu obsługującego ministra właściwego do spraw informatyzacji. W celu zapewnienia bezstronności kontrolujących, wprowadzono wymóg składania oświadczeń o braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych w toku kontroli. Projekt precyzuje procedury organizacyjne kontroli, w tym wymóg okazania imiennego upoważnienia oraz dokumentu tożsamości przez kontrolujących. Dokumenty te powinny zawierać szczegółowe informacje zapewniające przejrzystość oraz legalność działań Komisji. Proponowane przepisy umożliwiają elastyczne dostosowanie procedur kontrolnych do konkretnych przypadków dzięki powiązaniu regulacji ustawowych z wewnętrznymi regulaminami Komisji. Zgodnie z treścią projektowanych przepisów kontrolujący będzie ustalał stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. W ramach wyjaśnień kontrolujący będzie mógł np. żądać omówienia przyczyny, znaczenia lub sposobu działania danego systemu czy zjawiska, także np. sporządzenia analiz, zestawień czy obliczeń. Celem jest usunięcie zaistniałych w trakcie kontroli wątpliwości, ułatwianie zrozumienia skomplikowanych czy niejasnych informacji, ich uporządkowanie lub doprecyzowanie. 23 Jeżeli jest to technicznie możliwe, kontrolujący będzie mógł zabezpieczyć dowody przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54 ustawy ma na celu zapewnienie poszanowania prawa kontrolowanego do zachowania poufności komunikacji z profesjonalnym pełnomocnikiem prawnym oraz zagwarantowanie możliwości skutecznego korzystania z ochrony prawnej w toku postępowania prowadzonego przez Komisję. Zapewnia się objęcie ochroną prawną wszystkich pism i dokumentów, dotyczących realizacji prawa kontrolowanego do uzyskania ochrony prawnej, które zostały ujawnione w toku kontroli. Przepis ten stanowi realizację konstytucyjnej zasady prawa do obrony oraz prawa do rzetelnego procesu, znajdujących swoje źródło m.in. w art. 42 ust. 2 Konstytucji RP oraz w standardach międzynarodowych, takich jak art. 6 Europejskiej Konwencji Praw Człowieka. Art. 54 ma na celu ochronę tajemnicy zawodowej adwokata, radcy prawnego oraz innych osób uprawnionych do świadczenia pomocy prawnej. Dotyczy to zarówno komunikacji z tymi osobami, jak i dokumentów wytworzonych wyłącznie w celu uzyskania ochrony prawnej w kontekście konkretnego postępowania prowadzonego przez Komisję. Przepis reguluje ponadto procedurę postępowania kontrolującego w przypadku, gdy kontrolowany lub osoba przez niego upoważniona złoży oświadczenie, że określone dokumenty lub pisma objęte są ochroną wynikającą z tajemnicy zawodowej, o której mowa w ust. 1. W celu zapewnienia równowagi pomiędzy potrzebą skutecznego prowadzenia kontroli a koniecznością poszanowania konstytucyjnie chronionych praw, w tym prawa do obrony i tajemnicy komunikacji z pełnomocnikiem, kontrolujący uzyskuje ograniczony dostęp do dokumentu – wyłącznie w zakresie umożliwiającym identyfikację jego podstawowych cech formalnych, takich jak autor, adresat, tytuł, przedmiot oraz data sporządzenia. Dodatkowo kontrolujący może żądać od kontrolowanego lub osoby przez niego upoważnionej ustnych wyjaśnień dotyczących złożonego oświadczenia, a także przygotowania wersji dokumentu pozbawionej informacji objętych ochroną, o ile jest to technicznie możliwe. Wprowadzenie tej procedury ma na celu umożliwienie weryfikacji zasadności oświadczenia bez naruszania chronionej treści dokumentu. Projektodawca przewidział jednak konieczność zapewnienia równowagi pomiędzy ochroną tajemnicy zawodowej a efektywnością działań kontrolnych. W tym celu w przepisie wskazano, że to na kontrolowanym ciąży obowiązek wykazania, iż sporne dokumenty rzeczywiście spełniają kryteria określone w ust. 1. Takie rozwiązanie zapobiega nadużyciom i uniemożliwia 24 arbitralne powoływanie się na poufność dokumentów w celu utrudnienia kontroli. Kontrolowany będzie musiał w sposób wiarygodny i uzasadniony przedstawić dowody potwierdzające, że dokumenty objęte są ochroną, o której mowa w przepisie. W przypadku powstania wątpliwości co do zasadności oświadczenia, kontrolujący zobowiązany jest do niezwłocznego przekazania dokumentu do Sądu Ochrony Konkurencji i Konsumentów, przy zachowaniu środków zabezpieczających przed ujawnieniem jego treści. Ciężar dowodu w zakresie wykazania, że dokument spełnia przesłanki ochrony, także w tym przypadku będzie spoczywał na kontrolowanym. Sąd, po zapoznaniu się z dokumentem, wyda postanowienie o jego zwrocie kontrolowanemu (w całości lub części), jeżeli uzna, że dokument podlega ochronie, albo o jego przekazaniu właściwemu organowi, jeżeli dokument nie spełnia przesłanek określonych w ust. 1. Na postanowienie sądu projektodawca przewidział możliwość złożenia zażalenia, a jego wykonanie następuje z chwilą uprawomocnienia. Projektowany przepis jest zgodny z zasadami państwa prawa oraz proporcjonalności. Uwzględnia konieczność ochrony fundamentalnych praw podmiotów objętych kontrolą, jednocześnie nie pozbawiając organu kontrolnego możliwości skutecznego przeprowadzenia postępowania w granicach prawa. Rozwiązanie to harmonizuje również z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej dotyczącym ochrony tajemnicy komunikacji z prawnikiem w ramach postępowań administracyjnych prowadzonych przez organy nadzoru lub ochrony konkurencji. Art. 55 przewiduje możliwość zwrócenia się przez Komisję do Policji oraz do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli w szczególnie uzasadnionych przypadkach. Wprowadzenie tego rozwiązania wynika z potrzeby zapewnienia Komisji instrumentów umożliwiających przeprowadzenie kontroli w sposób bezpieczny, rzetelny i skuteczny – zwłaszcza w sytuacjach, gdy czynności kontrolne mogą napotkać na opór lub wymaga specjalistycznego wsparcia informatycznego czy wiadomości specjalnych. Warto podkreślić, że jednostki podległe ministrowi właściwemu do spraw informatyzacji skupiają grono ekspertów z szeroko pojętej informatyzacji i dzięki temu mogą stanowić niezbędną pomoc ekspercką z zakresu bezpieczeństwa i zgodności z przepisami systemów sztucznej inteligencji od strony technologicznej w przypadku braku ekspertów z danej dziedziny w ramach pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji. 25 Przepis doprecyzowuje również zakres udzielanej pomocy. Pomoc Policji ma na celu zapewnienie porządku publicznego, ochrony osób uczestniczących w kontroli oraz poszanowania godności osób obecnych podczas czynności kontrolnych. Z kolei pomoc jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji skupia się na sprawach informatycznych i aspektach technicznych, w tym na weryfikacji zgodności systemów sztucznej inteligencji z obowiązującymi przepisami oraz na analizie poziomu ich bezpieczeństwa. Takie rozróżnienie kompetencji i obowiązków odpowiada specyfice zadań obu rodzajów podmiotów wspierających. Intencją projektodawcy jest, aby możliwe było udzielenie wszelkiego niezbędnego wsparcia informatycznego oraz w zakresie wiadomości specjalnych w celu ustalenia stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689. Ponadto uregulowane zostały formalne wymogi związane z występowaniem o pomoc oraz terminy – standardowo minimum 7 dni przed planowaną kontrolą, natomiast w sytuacjach niecierpiących zwłoki – minimum 3 dni. Ma to na celu zapewnienie odpowiedniego czasu na organizację wsparcia i koordynację działań, przy jednoczesnym uwzględnieniu wyjątkowych przypadków wymagających szybszego działania. Art. 55 wprowadza jasne zasady rozliczania kosztów związanych z pomocą udzieloną przez Policję i jednostki informatyczne. Koszty te pokrywa Komisja według stawki zryczałtowanej, ustalonej w sposób transparentny i powiązany z przeciętnym wynagrodzeniem w gospodarce, co sprzyja przewidywalności wydatków i ogranicza ryzyko sporów finansowych. Przepis art. 56 stanowi kluczowy element procedury kontrolnej, który reguluje sposób dokumentowania czynności podejmowanych przez organ kontrolujący oraz relacji z kontrolowanym podmiotem. Stanowi on wyraz zasady partycypacji i transparentności. Pozwala na uruchomienie mechanizmu konsultacyjnego, w ramach którego kontrolowany ma realną możliwość odniesienia się do ustaleń kontroli. Przepis wprowadza obowiązek sporządzania protokołu kontroli. Wskazanie w przepisie szczegółowych elementów, które muszą znaleźć się w projekcie protokołu, ma charakter gwarancyjny – zapewnia, że niezależnie od rodzaju i zakresu kontroli, podstawowe informacje i ustalenia zostaną przedstawione w sposób przejrzysty i wyczerpujący. Zawarcie danych dotyczących stron, zakresu i przebiegu kontroli, ustaleń faktycznych oraz pouczeń prawnych gwarantuje pełną informacyjność dokumentu i zapobiega sytuacjom niejasności lub nieporozumień. Istotnym aspektem jest również elektronizacja procesu kontrolnego. Obowiązek sporządzania dokumentów w postaci elektronicznej, opatrzonych kwalifikowanym podpisem 26 elektronicznym, podpisem zaufanym lub osobistym, wpisuje się w politykę cyfryzacji administracji publicznej i ma na celu zwiększenie efektywności, szybkości i bezpieczeństwa obiegu dokumentów. Ponadto rozwiązanie to zmniejsza ryzyko fałszowania dokumentów i umożliwia łatwiejsze archiwizowanie oraz kontrolę wewnętrzną. Przewidziane w przepisie prawo do zgłaszania zastrzeżeń w terminie 7 dni od doręczenia protokołu jest istotnym instrumentem procesowym, umożliwiającym kontrolowanemu rzeczywiste zakwestionowanie ustaleń, z którymi się nie zgadza. Dalsze przepisy zapewniają, że zgłoszone zastrzeżenia są przedmiotem merytorycznej analizy, a nie jedynie formalności, co wzmacnia legitymację organu kontrolnego. Jednocześnie obowiązek przedstawienia uzasadnienia w przypadku nieuwzględnienia zastrzeżeń ma istotne znaczenie dowodowe i gwarancyjne. Projekt przewiduje także mechanizm domknięcia procedury kontroli w sytuacji braku współpracy ze strony kontrolowanego. Przyjęcie fikcji prawnej odmowy podpisania protokołu w przypadku jego nieodesłania albo niezgłoszenia zastrzeżeń w terminie oraz obowiązek odnotowania tej odmowy w protokole zabezpiecza interes organu kontrolującego i pozwala zakończyć postępowanie bez konieczności podejmowania dodatkowych czynności. Całościowo przepis ustanawia przejrzystą, szczegółową i zrównoważoną procedurę dokumentowania kontroli, która uwzględnia zarówno interes publiczny, jak i prawa kontrolowanych podmiotów. Dąży on do podniesienia jakości, wiarygodności i efektywności działań kontrolnych oraz minimalizacji ryzyka sporów proceduralnych. Projekt przewiduje również przepisy dotyczące postępowania z wynikami kontroli. W przypadku gdy wynik kontroli wykaże nieprawidłowości stanowiące naruszenia mniejszej wagi w zakresie wykonywania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji Komisji lub przepisów ustawy, Komisja może wydawać zalecenia pokontrolne, zawierające wskazówki dotyczące usunięcia nieprawidłowości oraz terminy ich realizacji. Projekt zaleceń pokontrolnych sporządza kontrolujący. Natomiast w przypadku stwierdzenia poważnych naruszeń przepisów rozporządzenia lub ustawy Komisja jest zobligowana do wszczęcia postępowania administracyjnego. Proponowany projekt ustawy podkreśla wagę nadzoru nad systemami sztucznej inteligencji, wzmacniając ochronę interesów publicznych oraz bezpieczeństwo użytkowników nowoczesnych technologii. Rozdział 4 – Postępowanie przed organem nadzoru (art. 59 – art. 70) 27 Projektowana regulacja ma na celu stworzenie kompletnego i skutecznego trybu postępowania prowadzonego przez Komisję w sprawach naruszeń przepisów rozporządzenia 2024/1689 oraz przepisów ustawy. Zaproponowane rozwiązania zapewniają zarówno ochronę interesu publicznego, jak i poszanowanie praw uczestników postępowania. W przepisach tych określono zasady wszczynania i prowadzenia postępowania, w tym wskazano podstawy wszczęcia, zdefiniowano stronę postępowania jako osobę, wobec której wszczęto postępowanie, instytucje ostrzeżenia, sposób rozstrzygania oraz środki odwoławcze. Dodatkowo określono maksymalny sześciomiesięczny termin prowadzenia postępowania. Ograniczenie to zapobiega przewlekłości procedur, przy jednoczesnym zapewnieniu sprawnego i efektywnego rozstrzygnięcia spraw. Projekt przewiduje, że Komisja będzie mogła wszcząć postępowanie w kilku przypadkach: • z urzędu, • na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji, • na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, • na wniosek Rady. Wszczęcie przez Komisję postępowania z urzędu może nastąpić m.in. w wyniku przeprowadzania kontroli albo w wyniku rozpatrzenia skargi. Projekt ustawy reguluje procedury składania przez osoby fizyczne, prawne oraz jednostki organizacyjne nieposiadające osobowości prawnej skargi na naruszenia przepisów dotyczących sztucznej inteligencji. Proponowane przepisy zobowiązują skarżących do przedstawienia szczegółowych informacji, takich jak nazwa systemu lub opis, opis naruszenia, istotne fakty oraz dane kontaktowe, co umożliwia skuteczne rozpatrzenie sprawy. Skarga może być składana elektronicznie, co zwiększa dostępność procedury, a w wyjątkowych przypadkach dopuszcza się jej złożenie w innej formie. Komisja, w ramach rozpatrywania skargi, może współpracować z innymi organami, zapewniając właściwe rozstrzygnięcie spraw wykraczających poza jej wyłączny zakres działania. Należy zaznaczyć, że wprowadzana przez rozporządzenie 2024/1689 kategoria skargi nie jest tożsama z instytucją skargi w rozumieniu polskiego prawa administracyjnego. Właściwym terminem określającym tę instytucję jest „skarga w rozumieniu [projektu] ustawy o systemach sztucznej inteligencji”, a określenie „skarga” stosowane jest przez projektodawcę w celu uniknięcia niespójności między nazewnictwem stosowanym w rozporządzeniu unijnym oraz projekcie ustawy. Z wszczęciem postępowania wiąże się obowiązek jego doręczania wszystkim stronom. 28 Do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji w zakresie nieuregulowanym projektem ustawy zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Dotyczy to również sytuacji wymagających uzupełnienia dowodów Komisja i przeprowadzenia postępowania dowodowego. Zapewnia to spójność z ogólnymi zasadami polskiej procedury administracyjnej. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy Komisja w toku postępowania może wydać stronie ostrzeżenie. Ostrzeżenie wydawane jest w formie postanowienia, ma charakter prewencyjny i naprawczy, umożliwiając stronie dobrowolne usunięcie nieprawidłowości. Zawiera ono zalecenia działań naprawczych, takich jak zablokowanie dostępu do systemu, wprowadzenie poprawek czy poinformowanie użytkowników. Strona zobowiązana jest do przedstawienia informacji o wykonaniu zaleceń w terminie 14 dni. W przypadku niewykonania ostrzeżenia Komisja może zastosować środki o charakterze nakazowym, a także przekazać informację o naruszeniu właściwym organom krajowym lub unijnym oraz opublikować ją w Biuletynie Informacji Publicznej. Stanowi to mechanizm stopniowanego reagowania, proporcjonalny do wagi naruszenia. W takiej sytuacji Komisja prowadzi dalej postępowanie w celu ustalenia stanu faktycznego. Projektowane przepisy wprowadzają także możliwość wydania decyzji w sprawie naruszenia przepisów rozporządzenia lub ustawy oraz określenie w niej środków nałożenia sankcji. W przypadku dobrowolnego wykonania tych środków Komisja uwzględnia tę okoliczność przy wymiarze ewentualnej kary administracyjnej, co wzmacnia motywację do współpracy z organem. Szczególną regulację przewidziano na wypadek bezpośredniego lub znacznego ryzyka, jakie system sztucznej inteligencji może stwarzać dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W takich sytuacjach Komisja jest uprawniona do wszczęcia postępowania z urzędu i wydania, w trybie przyspieszonym, decyzji nakazującej zaprzestanie stosowania systemu lub jego wycofanie z rynku. Postępowanie w tym trybie może trwać nie dłużej niż 7 dni. Przewidziano także obowiązki informacyjne wobec właściwych organów krajowych, jednostek notyfikowanych oraz instytucji unijnych, co służy zapewnieniu skutecznego nadzoru w skali UE. Wprowadzono również szczegółowe zasady zaskarżania postanowień i decyzji Komisji do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Strona może skorzystać z zażalenia lub odwołania, a samo wniesienie odwołania wstrzymuje wykonanie 29 decyzji w zakresie administracyjnej kary pieniężnej, co chroni stronę przed nadmierną dolegliwością przed rozstrzygnięciem sądu. Dodatkowo wprowadza się mechanizmy wstrzymania wykonania decyzji w zakresie administracyjnych kar pieniężnych w przypadku wniesienia przez stronę odwołania. Projekt ustawy reguluje również obowiązek współpracy Komisji z organami ścigania i wymiaru sprawiedliwości. Nakłada on obowiązek złożenia zawiadomienia o podejrzeniu popełnienia przestępstwa, jeżeli w toku postępowania ujawnione zostaną odpowiednie informacje. Określono również zasady przechowywania akt przez okres dziesięciu lat, co odpowiada potrzebie zapewnienia możliwości kontroli działań organu oraz dochodzenia odpowiedzialności w przyszłości. Całość regulacji ma służyć stworzeniu przejrzystego, proporcjonalnego i efektywnego systemu nadzoru nad stosowaniem systemów sztucznej inteligencji w Polsce, zgodnego z wymogami prawa unijnego, a jednocześnie gwarantującego ochronę praw uczestników postępowania oraz bezpieczeństwa obywateli. Projekt ustanawia obowiązek publikacji decyzji wydawanych przez Komisję w sposób dostępny publicznie, przy jednoczesnym zagwarantowaniu ochrony informacji objętych tajemnicą prawnie chronioną, w tym tajemnicą przedsiębiorstwa. Wprowadzenie tego obowiązku ma służyć zarówno celom informacyjnym, jak i prewencyjnym, umożliwiając podmiotom działającym na rynku zapoznanie się z praktyką orzeczniczą Komisji i uniknięcie podobnych naruszeń. Art. 67 projektu ustawy wprowadza wymóg prowadzenia szczegółowego wykazu systemów sztucznej inteligencji, wobec których podjęto decyzje o nałożeniu kary za naruszenie przepisów rozporządzenia lub ustawy. Wykaz ten zawiera kluczowe informacje, takie jak: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz z wskazaniem przepisów rozporządzenia 2024/1689 oraz ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora, lub też podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenia 2024/1689 oraz ustawy; 30 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2 tego przepisu. Celem tego rozwiązania jest stworzenie publicznie dostępnego i transparentnego rejestru, który umożliwi obywatelom monitorowanie przestrzegania prawa przez operatorów systemów AI. Określono także techniczne i organizacyjne wymagania dotyczące prowadzenia wykazu z wykorzystaniem systemu teleinformatycznego. Zawarte w nim wymogi w zakresie bezpieczeństwa i integralności danych mają zapewnić zgodność z przepisami o ochronie danych osobowych oraz bezpieczeństwa informacji. Szczególny nacisk położono na zapobieganie nieautoryzowanemu dostępowi do danych, ich uszkodzeniu lub utracie, a także na zapewnienie rozliczalności działań dokonywanych w systemie. Ponadto projekt wskazuje Komisję jako administratora danych przetwarzanych w wykazie, co jednoznacznie określa odpowiedzialność za zgodność przetwarzania z przepisami prawa. Rozdział 5 – Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji (art. 71 – art. 85) Projekt ustawy wprowadza alternatywną metodę rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Projektowane przepisy ustanawiają procedurę zawierania układu w sprawie nadzwyczajnego złagodzenia sankcji w postępowaniach prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie tej instytucji ma na celu zwiększenie efektywności nadzoru nad zgodnością systemów sztucznej inteligencji z rozporządzeniem 2024/1689 oraz ustawą krajową, a także stworzenie mechanizmów zachęcających podmioty do współpracy z organem nadzoru i szybkiego usuwania naruszeń. Procedura układowa została ukształtowana jako narzędzie służące zarówno interesowi publicznemu, jak i interesowi podmiotów, wobec których prowadzone jest postępowanie. Komisja może zainicjować możliwość zawarcia układu, jeżeli oceni, że doprowadzi to do lepszej realizacji celów regulacji i jeżeli naruszenie nie doprowadziło do poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Jednocześnie ustawa przewiduje możliwość wszczęcia procedury układowej na wniosek strony, co zwiększa jej dostępność i pozwala podmiotom szybko podjąć działania zmierzające do wyjaśnienia sprawy oraz naprawienia nieprawidłowości. 31 Kluczowym elementem proponowanej regulacji jest rzetelne ujawnienie przez stronę wszelkich istotnych okoliczności naruszenia, w tym informacji o osobach lub podmiotach współdziałających oraz przedstawienia dowodów na ich poparcie. Warunkiem przystąpienia do układu jest również wcześniejsze zaprzestanie naruszenia albo usunięcie stanu niezgodności z prawem. Takie rozwiązanie zapewnia, że układ nie będzie wykorzystywany do uniknięcia odpowiedzialności, lecz będzie stanowił instrument umożliwiający organowi szybkie ustalenie pełnego obrazu naruszenia oraz skuteczne przywrócenie zgodności. Regulacja przewiduje jednocześnie możliwość dobrowolnego podjęcia przez stronę zobowiązań dotyczących usunięcia skutków naruszeń lub naprawienia szkody wyrządzonej przez niezgodne działanie. Dzięki temu skutki naruszeń mogą zostać ograniczone lub usunięte w sposób szybszy i bardziej efektywny niż w ramach zwykłego postępowania administracyjnego, co leży zarówno w interesie organu, jak i podmiotów poszkodowanych. Istotnym elementem procedury jest określenie zasad oraz granic nadzwyczajnego złagodzenia sankcji. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Obniżenie kary pieniężnej może wynosić od 20% do 70%, a w przypadku naruszeń ujawnionych z własnej inicjatywy – od 30% do 90%. W sytuacjach nadzwyczajnych, zwłaszcza gdy podmiot usunie wszystkie skutki naruszenia, układ może przewidywać nawet odstąpienie od sankcji. Ustawodawca wskazuje także kryteria, które Komisja powinna brać pod uwagę przy ustalaniu wysokości obniżki, co zapewnia przejrzystość i przewidywalność decyzji. Dla ochrony interesów strony przewidziano gwarancję, że informacje ujawnione w toku procedury układowej nie mogą zostać wykorzystane przeciwko niej w przypadku niezawarcia układu. Rozwiązanie to zabezpiecza podmioty przed poniesieniem negatywnych konsekwencji wynikających z podjęcia próby współpracy z organem. Projekt szczegółowo określa również ramy czasowe na zawarcie układu wyznaczając jedno- lub trzymiesięczny okres na ich zawarcie. W tym czasie strona ma możliwość wyrażenia woli przystąpienia do układu oraz dostarczenia Komisji wymaganych informacji dotyczących okoliczności naruszenia i odpowiednich dowodów. 32 W projekcie wyszczególniono także kolejne czynności procesowe, w tym sposób przygotowania projektu układu przez Komisję oraz formę jego przyjęcia przez stronę oraz konieczność złożenia oświadczenia przez stronę, którego naruszenie skutkowałoby bezskutecznością układu. Złożenie oświadczenia o przyjęciu układu ma charakter sformalizowany, aby uniknąć jakichkolwiek wątpliwości co do zamiaru strony i skutków prawnych. Przyjęcie układu powoduje zrzeczenie się prawa do odwołania od decyzji kończącej postępowanie, co zamyka postępowanie i zapewnia stabilność ostatecznego rozstrzygnięcia. Przepisy te zapewniają pewność prawną, eliminując ryzyko niejasności interpretacyjnych. Projekt wprowadza również mechanizmy nadzoru nad wykonaniem układu oraz określa przypadki niewykonania zobowiązań przez stronę. Komisja otrzymuje prawo do żądania informacji oraz do monitorowania realizacji zobowiązania. Niewykonanie istotnych elementów układu prowadzi do wznowienia postępowania, przy czym dopuszczalne jest ono jedynie w okresie dziesięciu lat od doręczenia decyzji wydanej na podstawie układu. W takich sytuacjach Komisja uwzględnia wcześniejsze działania strony przy podejmowaniu decyzji o sankcjach. Proponowane przepisy wykluczają stosowanie art. 162 Kodeksu postępowania administracyjnego w odniesieniu do decyzji zawierającej układ, wzmacniając finalność i nieodwołalność rozstrzygnięć osiągniętych na drodze konsensualnej. Ma to zapewnić równowagę między interesem publicznym a zasadą pewności prawa. Wprowadzenie instytucji układu jako narzędzia alternatywnego rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów o sztucznej inteligencji wspiera realizację celów regulacyjnych, wzmacniając ochronę interesu publicznego i skuteczność nadzoru. Rozdział 6 – Jednostki notyfikowane i procedura notyfikacyjna (art. 86 – art. 90) Projekt ustawy w rozdziale 6 ma na celu określenie krajowego systemu autoryzacji, akredytacji i notyfikacji, jednostek oceniających zgodność w związku ze stosowaniem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689. Z uwagi na to, że rozporządzenie to nakłada na państwa członkowskie obowiązek wyznaczenia organu notyfikującego oraz ustanowienia jednolitych procedur w zakresie oceny i notyfikacji jednostek, konieczne jest wskazanie właściwych organów krajowych i określenie ich kompetencji. W projekcie ustawy wskazuję się ministra właściwego do spraw informatyzacji jako organ notyfikujący w zakresie, o którym mowa w art. 28 rozporządzenia 2024/1689. Proces notyfikacji jednostek oceniających zgodność odbywać się będzie zgodnie z zasadami wynikającymi bezpośrednio z rozporządzenia 2024/1689, a także z ustawą z dnia 13 kwietnia 33 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), która reguluje ogólne zasady funkcjonowania jednostek notyfikowanych w Polsce. Takie odesłanie gwarantuje stosowanie jednolitych wymogów dla wszystkich obszarów regulowanych prawem Unii, a jednocześnie eliminuje konieczność powielania istniejących już regulacji. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Wynika to z celowości powierzenia całego procesu – od akredytacji po autoryzację i notyfikację – jednemu organowi, co podnosi efektywność i przejrzystość procedur. Do akredytacji, autoryzacji i notyfikacji jednostek biorących udział w procesie oceny zgodności systemów określonych w rozporządzeniu 2024/1689 odpowiednio będą stosowane przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zachować jednolity standard krajowych procedur, jednocześnie unikając niepotrzebnego dublowania regulacji. Dla zachowania spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689, powierzone zostaną Polskiemu Centrum Akredytacji (zwanemu dalej: „PCA”) w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, które wspierać ma w tym zadaniu ministra właściwego do spraw informatyzacji. Włączenie instytucji posiadającej duży dorobek i bogate doświadczenie, jaką jest PCA, daje największą gwarancję wysokiego poziomu nadzoru nad standardami i zasadami nadzoru nad systemem instytucji oceniających zgodność produktów przy jednoczesnym zapewnieniu możliwości podejmowania przez ministra właściwego do spraw informatyzacji (jako organowi notyfikującemu) działań spójnych z kierunkiem ustalanym na poziomie unijnym (Urząd ds. AI w Komisji Europejskiej, Europejska Rada ds. AI). Z uwagi na to, że PCA jest krajową instytucją akredytującą, jej udział w przygotowaniu i aktualizacji programów akredytacji jest niezbędny dla zapewnienia wysokiej jakości procesu oceny i monitorowania jednostek oceniających zgodność. Ponadto przekazywanie ministrowi aktualnych informacji o akredytacjach umożliwia właściwe wykonywanie zadań nadzorczych i notyfikacyjnych. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. „Zagrożenia związane z systemami AI objętymi wymogami niniejszego rozporządzenia dotyczą innych aspektów niż obowiązujące unijne prawodawstwo harmonizacyjne, w związku z czym wymogi niniejszego rozporządzenia uzupełnią obowiązujące unijne prawodawstwo harmonizacyjne. Na przykład maszyny lub wyroby 34 medyczne zawierające system AI mogą stwarzać ryzyko, które nie zostało uwzględnione w zasadniczych wymogach w zakresie zdrowia i bezpieczeństwa ustanowionych w odpowiednim unijnym prawodawstwie harmonizacyjnym, ponieważ to prawo sektorowe nie reguluje ryzyka specyficznego dla systemów AI. Wymaga to jednoczesnego i komplementarnego stosowania różnych aktów ustawodawczych. Aby zapewnić spójność i uniknąć niepotrzebnych obciążeń administracyjnych i niepotrzebnych kosztów, dostawcy produktu, który zawiera co najmniej jeden system AI wysokiego ryzyka, do którego stosuje się wymogi niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, wymienionego w załączniku do niniejszego rozporządzenia, powinni mieć swobodę w zakresie decyzji operacyjnych dotyczących sposobu zapewnienia w optymalny sposób zgodności produktu zawierającego co najmniej jeden system AI ze wszystkimi mającymi zastosowanie wymogami unijnego prawodawstwa harmonizacyjnego. Swoboda ta może oznaczać na przykład decyzję dostawcy o włączeniu części niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji wymaganych na mocy niniejszego rozporządzenia do już istniejącej dokumentacji i procedur wymaganych na mocy obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych i wymienionego w załączniku do niniejszego rozporządzenia. Nie powinno to w żaden sposób podważać spoczywającego na dostawcy obowiązku zapewnienia zgodności z wszystkimi mającymi zastosowanie wymogami”. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. W przypadku kiedy unijne prawodawstwo harmonizacyjne wymienione w załączniku I do rozporządzenia 2024/1689 albo przepisy krajowe służące jego stosowaniu wskazują inny organ właściwy w tym zakresie, to ocena, wyznaczanie i notyfikowanie jednostek oceniających zgodność będzie dokonywane przez organ w ramach jednego procesu i nie dojdzie do konieczności dokonywania przez podmioty podwójnej notyfikacji – jednej w zakresie samego systemu sztucznej inteligencji przez ministra właściwego ds. informatyzacji, a drugiej w zakresie całego produktu, którego częścią jest ten system, dokonywanej przez organ właściwy w przypadku danych produktów. Przykładowo, w przypadku wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia 35 (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takimi systemami będzie to Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Dodatkowo zgodnie z motywem 124 w celu zminimalizowania obciążenia dla operatorów i aby uniknąć ewentualne powielanie działań, zgodność z wymogami niniejszego rozporządzenia w przypadku systemów AI wysokiego ryzyka powiązanych z produktami, które są objęte zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, należy oceniać w ramach oceny zgodności przewidzianej już w tym prawodawstwie. Stosowanie wymogów niniejszego rozporządzenia nie powinno zatem wpływać na szczególną logikę, metodykę lub ogólną strukturę oceny zgodności określone w unijnym prawodawstwie harmonizacyjnym. W projekcie ustawy określono także procedurę składania wniosków o notyfikację przez jednostki oceniające zgodność. Z uwagi na cyfryzację procesów administracyjnych wniosek składany ma być wyłącznie w postaci elektronicznej, co zwiększa efektywność postępowania, ogranicza koszty administracyjne oraz zapewnia jego pełną przejrzystość. W projektowanych przepisach zawarto minimalny zakres informacji, jakie wniosek musi zawierać. Są to dane podstawowe pozwalające na identyfikację wnioskodawcy oraz dane niezbędne do weryfikacji jej statusu akredytacyjnego. Wymóg podania informacji o akredytacji (w tym numeru certyfikatu) wynika z faktu, że akredytacja jest warunkiem koniecznym do notyfikacji w większości obszarów oceny zgodności określonych w przepisach unijnych. Przepis zatem zapewnia kompletność i poprawność danych niezbędnych do przeprowadzenia procedury notyfikacyjnej. Art. 88 projektu umożliwia ministrowi właściwemu do spraw informatyzacji przetwarzanie informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/1689 oraz ustawy. Jest to niezbędne, ponieważ materia ocen zgodności, akredytacji i autoryzacji jednostek często obejmuje informacje techniczne, technologiczne oraz organizacyjne przedsiębiorców, które podlegają ochronie. Jednocześnie minister musi mieć możliwość ich przetwarzania w celu rzetelnej realizacji zadań wynikających z rozporządzenia 2024/1689 i przepisów krajowych. 36 Przepis ten zapewnia więc zgodność z zasadami legalizmu oraz ochrony danych poufnych. a także zapewnia skuteczne realizowanie funkcji organu notyfikującego. Art. 89 ma charakter uzupełniający i porządkujący. odnosi się do pozostałych spraw, które są regulowane w rozdziale 6 projektu. W przypadkach, które nie są uregulowane przepisami rozporządzenia 2024/1689 ani niniejszą ustawą, przepis wskazuje na subsydiarne zastosowanie przepisów ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zapewnić spójność całego systemu prawa dotyczącego oceny zgodności w Polsce, unika kolizji regulacyjnych oraz umożliwia korzystanie z procedur i mechanizmów już funkcjonujących w systemie prawnym. Projektowany art. 90 doprecyzowuje zadania ministra właściwego do spraw informatyzacji wynikające z rozporządzenia 2024/1689 w zakresie funkcjonowania organu notyfikującego. Przepis ust. 1 zapewnia możliwość krajowego określania oraz corocznej weryfikacji wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Dodatkowo przepis nakłada na ministra obowiązek podejmowania działań naprawczych w przypadku stwierdzenia braku zgodności z określonymi wymogami, co gwarantuje utrzymanie właściwego poziomu kompetencji organu notyfikującego oraz zapewnia realizację zobowiązań wynikających z prawa Unii. Ponadto przepis wprowadza obowiązek przekazywania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, co umożliwia właściwe monitorowanie funkcjonowania organu notyfikującego na poziomie unijnym oraz zapewnia przejrzystość i zgodność z procedurami określonymi w przepisach europejskich. Rozdział 7 – Środki wspierające innowacyjność (art. 91 – art. 99) Projekt ustawy określa nie tylko kwestie związane z nadzorem na systemami sztucznej inteligencji, ale również określa podstawy prawne do wdrażania środków wspierających innowacyjność. W projekcie zawarto regulacje ustanawiające krajowe podstawy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem 2024/1689. Rozporządzenie unijne przewiduje możliwość tworzenia piaskownic regulacyjnych w celu wspierania innowacji oraz testowania systemów AI w warunkach kontrolowanych, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony użytkowników. Tym samym projekt wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i 37 proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Zgodnie z art. 57 rozporządzenia 2024/1689 każde państwo członkowskie Unii Europejskiej musi uruchomić przynajmniej jedną piaskownicę regulacyjną w zakresie AI do 2 sierpnia 2026 roku. Mechanizm ten ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja uzyskuje uprawnienie do udzielania zgody, w formie decyzji, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ponadto projekt przewiduje preferencyjne warunki dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Projekt ustawy ustanawia przejrzyste procedury konkursowe dla podmiotów ubiegających się o udział w piaskownicy regulacyjnej. Komisja organizuje konkurs, którego celem jest wyłonienie najbardziej obiecujących projektów, wnoszących istotny wkład w rozwój technologii AI, przy zachowaniu bezpieczeństwa i zgodności z ogólnymi zasadami prawa. Proces oceny ofert podlega nadzorowi zespołu konkursowego, który dokonuje merytorycznej analizy zgłoszeń, tworzy listę rankingową oraz protokół z oceny. Szczególną preferencją objęte są podmioty pochodzące z Unii Europejskiej, co wspiera współpracę na szczeblu regionalnym i harmonizację działań z unijną polityką technologiczną. Przepisy wprowadzają również obowiązek publikacji wyników konkursu oraz mechanizmy odwoławcze, umożliwiające stronom zakwestionowanie rozstrzygnięcia komisji konkursowej, co gwarantuje równe szanse uczestnikom. Uczestnicy mają prawo do zgłoszenia odwołania w terminie 7 dni. W przypadku uwzględnienia zarzutów Komisja powołuje zespół odwoławczy do ponownej oceny odwołania. W skład zespołu nie będą wchodziły osoby, które brały udział w pracach zespołu konkursowego co zapewnia sprawiedliwość rozstrzygnięć oraz transparentność działań. Projekt ustawy nakłada obowiązki na Komisję w zakresie określania limitów użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej oraz zakresu odstępstw dla poszczególnych projektów funkcjonujących w piaskownicy regulacyjnej. Dodatkowo wymaga, aby Komisja informowała instytucje unijne o utworzeniu piaskownicy, co 38 umożliwia monitorowanie efektów testów przez organy unijne oraz zapewnienie spójności działań z polityką UE w zakresie sztucznej inteligencji. Uczestnicy piaskownicy regulacyjnej zobowiązani są do informowania użytkowników o udziale w programie, publikowania rocznych raportów, zamieszczania na swojej stronie internetowej informacji o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej a także zgłaszania wszelkich zmian mających wpływ na projekt. Takie wymogi gwarantują transparentność procesów testowych oraz skuteczny nadzór nad prowadzonymi eksperymentami. Komisja uzyskuje uprawnienie do kontrolowania uczestników piaskownicy oraz podejmowania działań dyscyplinujących w przypadku stwierdzenia naruszeń, takich jak wezwanie do usunięcia nieprawidłowości czy wykluczenie z programu. Projekt wykonuje obowiązki państwa członkowskiego wynikające z art. 95 rozporządzenia 2024/1689. W art. 98 projektu ustawy wskazano, że minister właściwy do spraw informatyzacji wykonuje zadania dotyczące wspierania tworzenia kodeksów dobrego postępowania w zakresie stosowania systemów AI. W celu ułatwienia opracowywania tych kodeksów, minister będzie wydawać rekomendacje najlepszych praktyk. Taki mechanizm ma charakter niewiążący, jednak pełni istotną rolę w tworzeniu spójnych i wysokiej jakości standardów funkcjonowania systemów sztucznej inteligencji w Polsce. Rekomendacje te będą służyły jako punkt odniesienia zarówno dla podmiotów sektora publicznego, jak i prywatnego, wspierając harmonizację podejścia do AI na poziomie krajowym i unijnym. Ponadto projekt ustanawia obowiązek corocznego przekazywania przez ministra właściwego do spraw informatyzacji, do dnia 31 marca każdego roku, informacji dotyczącej wymaganych zasobów obliczeniowych do rozwoju systemów AI oraz prognozowanego zużycia energii związanego z ich działaniem. Informacja ta ma być przedstawiana zarówno Radzie Ministrów, jak i Komisji Europejskiej. Jest to wyraz uznania rosnącego znaczenia infrastruktury obliczeniowej dla rozwoju nowoczesnych technologii oraz potrzeby monitorowania ich wpływu na zużycie zasobów energetycznych, co ma znaczenie zarówno z perspektywy polityki cyfrowej, jak i klimatyczno-energetycznej. Przepis ten pozwoli lepiej planować inwestycje w infrastrukturę cyfrową, a także wspierać działania na rzecz zrównoważonego rozwoju. Minister właściwy ds. informatyzacji, jako odpowiedzialny za koordynację wdrażania krajowej Polityki AI, dysponuje najszerszym zbiorem danych, dzięki którym mógł przygotować raporty i prognozy, o których mowa powyżej. Zgodnie z art. 99 projektu przyznaje się ministrowi właściwemu do spraw informatyzacji uprawnienia w zakresie wspierania badań naukowych i prac rozwojowych, co jest kluczowe 39 dla rozwoju technologii przełomowej, jaką jest sztuczna inteligencja. Przepisy te umożliwiają ministrowi udzielanie wsparcia finansowego na badania naukowe i prace rozwojowe, a także finansowanie lub współfinansowanie programów i projektów z budżetu państwa oraz środków unijnych. Dzięki temu możliwe jest zapewnienie odpowiednich środków na realizację innowacyjnych projektów, które mogą przyczynić się do rozwoju sztucznej inteligencji w Polsce. Minister może również inicjować, wspierać i realizować programy finansujące badania naukowe i prace rozwojowe oraz działania przygotowujące do wdrożenia ich wyników. Programy te są realizowane przez Instytut Badawczy IDEAS – nad którym nadzór ministrowi właściwemu do spraw informatyzacji został przekazany rozporządzeniem Rady Ministrów z dnia 25 lutego 2025 r. w sprawie utworzenia Instytutu Badawczego IDEAS – oraz pozostałe jednostki podległe i nadzorowane przez ministra, co zapewnia spójność i efektywność działań. Wprowadzenie tych przepisów ma na celu stworzenie odpowiednich warunków do prowadzenia badań naukowych i prac rozwojowych, co jest kluczowe dla wdrożenia sztucznej inteligencji. Wykaz jednostek, o których mowa w art. 99, jest zawierany w obwieszczeniu Ministra Cyfryzacji wydanym na podstawie art. 33 ust. 1d ustawy z dnia 8 sierpnia 1996 r. o Radzie Ministrów. Obecnie jednostkami podległymi Ministrowi Cyfryzacji i nadzorowanymi przez Ministra Cyfryzacji są: Jednostki podległe: • Centrum Projektów Polska Cyfrowa. Jednostki nadzorowane: • Centralny Ośrodek Informatyki; • Instytut Badawczy IDEAS; • Instytut Łączności – Państwowy Instytut Badawczy; • Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy. Celem przepisu jest zapewnienie możliwości elastycznego i dostosowanego do specyfiki branży i działań udzielania pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz programów i projektów w tym zakresie realizowanych przez ww. pomocy w ramach ich zadań. Stąd też w projekcie znalazł się przepis wskazujący na szerokie źródła środków przeznaczonych na finansowanie w ramach dotacji celowych. 40 Szczegółowe określenie czy skonkretyzowanie zadań, o których mowa w uwadze z uwzględnieniem podziału na podmioty nie jest możliwe do określenia, a także nie wydaje się zasadne z uwagi na nieprzewidywalny kierunek rozwoju sztucznej inteligencji, a także wynikające z tego zapotrzebowania. Dzięki temu możliwe jest osiągnięcie celów określonych w rozporządzeniu 2024/1689, takich jak promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji. Wsparcie finansowe i organizacyjne dla badań naukowych i prac rozwojowych jest niezbędne, aby możliwy był rozwój sztucznej inteligencji zgodnie z wartościami Unii Europejskiej. Proponowane regulacje mają na celu wspieranie innowacyjnych technologii w obszarze AI, zachowanie zgodności działań z polityką UE oraz zapewnienie odpowiednich zabezpieczeń i transparentności procesów testowych. Rozdział 8 – Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 100 – art. 110) Uregulowania w przepisach polskiego prawa wymagają także określone w treści rozporządzenia kwestie nakładania przez organ nadzoru administracyjnych kar pieniężnych. Mechanizm w postaci możliwości nałożenia sankcji za naruszenie przepisów rozporządzenia 2024/1689 jest kluczowy pod kątem jego praktycznego egzekwowania, a więc faktycznej możliwości osiągnięcia celów prawodawcy w zakresie wspierania rozwoju AI w ramach jednolitego rynku w zgodzie z europejskim prawem i wartościami. Projektowany art. 100 stanowi kluczowy element krajowego mechanizmu egzekwowania przepisów rozporządzenia 2024/1689. Celem tego przepisu jest przyznanie Komisji kompetencji do nakładania administracyjnych kar pieniężnych na podmioty, które naruszą przepisy rozporządzenia. Przepis wskazuje, że nałożenie kary odbywa się w drodze decyzji administracyjnej, co oznacza, że zastosowanie będą miały ogólne zasady postępowania administracyjnego, w tym gwarancje proceduralne dla stron postępowania. Kary są nakładane w przypadkach, wysokości i na warunkach przewidzianych w rozdziale XII rozporządzenia 2024/1689, co zapewnia pełną zgodność z przepisami prawa Unii Europejskiej. Taki mechanizm gwarantuje spójność systemu sankcyjnego i eliminuje ryzyko rozbieżności interpretacyjnych między przepisami unijnymi a krajowymi. Ust. 2 i 3 wprowadzają obowiązek uwzględnienia przy podejmowaniu decyzji, oraz wskazania w jej uzasadnieniu, przesłanek określonych w art. 99 ust. 7 rozporządzenia 2024/1689. Przesłanki te obejmują m.in. charakter, wagę i czas trwania naruszenia, stopień winy, 41 wcześniejsze naruszenia, środki zastosowane w celu zapobieżenia lub naprawienia skutków naruszenia. Uwzględnienie tych kryteriów zapewnia, że kara będzie proporcjonalna do naruszenia oraz że każde postępowanie będzie prowadzone w sposób indywidualny i sprawiedliwy. Ust. 4 reguluje sposób przeliczania wartości pieniężnych wyrażonych w euro na walutę krajową – złoty polski. Ustalenie stałego dnia odniesienia (28 stycznia każdego roku) oraz wskazanie wprost średniego kursu ogłaszanego przez Narodowy Bank Polski, a także rozwiązanie sytuacji, gdy kurs nie zostanie ogłoszony w tym dniu, zapewnia jednolitość, przewidywalność oraz techniczną wykonalność przepisu. Jednocześnie ustawa przewiduje mechanizm umożliwiający Komisji na wymierzenie kary. Podmiot jest obowiązany do dostarczenia Komisji w terminie 14 dni od dnia otrzymania żądania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. W przypadku niedostarczenia danych przez podmiot lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ma prawo do samodzielnego ustalenia podstawy wymiaru administracyjnej kary pieniężnej w sposób szacunkowy. Uwzględnia przy tym wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Postępowanie dotyczące kar ma być prowadzone na podstawie przepisów ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Aby zapewnić prawidłową ochronę strony w postępowaniu wskazano, że w przypadku nałożenia kary osoba (fizyczna, prawna oraz nieposiadająca osobowości prawnej), na którą zostanie ona nałożona, będzie miała uprawnienie do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów, jest właściwym organem do rozpatrywania odwołań od decyzji Komisji (w tym decyzji o karach pieniężnych) z kilku kluczowych powodów. Po pierwsze, sąd ochrony konkurencji i konsumentów posiada już ugruntowaną pozycję i doświadczenie w rozpatrywaniu spraw związanych z regulacjami rynkowymi oraz ochroną konsumentów. Jego kompetencje obejmują rozpatrywanie odwołań od decyzji takich organów jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, co czyni go naturalnym wyborem do rozpatrywania spraw związanych z nowymi technologiami, w tym sztuczną inteligencją 42 Sztuczna inteligencja jest technologią przełomową, która ma potencjał do znaczącej transformacji wielu sektorów gospodarki oraz życia społecznego. W związku z tym konieczne jest, aby sprawy dotyczące AI były rozpatrywane przez sąd posiadający odpowiednie zaplecze merytoryczne i organizacyjne. Skoncentrowanie tych spraw w jednym sądzie, takim jak Sąd Okręgowy w Warszawie, pozwala na zbudowanie specjalistycznej wiedzy i doświadczenia w zakresie regulacji i nadzoru nad AI, co jest kluczowe dla zapewnienia sprawiedliwości i efektywności postępowań sądowych Ponadto centralizacja rozpatrywania spraw związanych z AI w jednym sądzie zapobiega rozproszeniu kompetencji i umożliwia lepszą koordynację działań. Dzięki temu możliwe jest wypracowanie jednolitej linii orzeczniczej, co jest szczególnie istotne w kontekście dynamicznie rozwijającej się technologii, jaką jest sztuczna inteligencja. Taki model organizacyjny pozwala również na bardziej efektywne wykorzystanie zasobów sądowych oraz zapewnia lepszą dostępność specjalistycznych ekspertyz i opinii biegłych Kary pieniężne podlegać będą egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Zapewni to spójność rozwiązań w zakresie egzekucji z innymi przepisami w tym zakresie. Należy wskazać, że przesłanki nakładania kar i maksymalne ich wysokości wynikają wprost z przepisów rozporządzenia 2024/1689. Zgodnie z przepisami rozporządzenia 2024/1689 oraz ze względu na znaczenie przepisów dla ochrony praw osób, praworządności oraz demokracji w Europie, omawiany projekt zakłada możliwość nałożenia z tego tytułu kary na podmioty sektora prywatnego, jak i publicznego. Analogiczne uprawnienie dla państw członkowskich funkcjonuje na gruncie przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) oraz ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. Projekt przewiduje również możliwość zmniejszenia wysokości administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 62 ustawy, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. Komisja może też, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze 43 względu na ważny interes wnioskodawcy. Działania te stanowią ulgę w wykonaniu administracyjnej kary pieniężnej, która: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Przepisy stanowi ważny instrument o charakterze motywacyjnym i prewencyjnym. Mechanizm ten premiuje współpracę z organem i szybką reakcję na naruszenie, co może skutecznie przeciwdziałać dalszym nieprawidłowościom. Jednocześnie przepis wyznacza granice takiej łagodności – nie może ona mieć zastosowania, jeśli skutki naruszenia były poważne, co zapewnia ochronę interesu publicznego i osób narażonych na skutki naruszeń. Konstruując przepisy umożliwiające nałożenie kar na podstawie naruszenia rozporządzenia 2024/1689, projektodawca umożliwia stosowanie ich w oparciu o wszystkie przypadki naruszenia przepisów rozporządzenia 2024/1689. Nie przekreśla to możliwości uregulowania w przyszłości szczegółowych kwestii dotyczących naruszeń innych przepisów, w szczególności art. 6 omawianego rozporządzenia. Takie działanie legislacyjne będzie wskazane ze względu na fakt wejścia w życie, w 2026 oraz 2027 r., pozostałych przepisów rozporządzenia 2024/1689 oraz prac Komisji Europejskiej związanych z opracowaniem i publikacją aktów wykonawczych, delegowanych oraz dokumentów merytorycznych odnoszących się do obszarów ujętych zakresowo przepisami o systemach AI wysokiego ryzyka (art. 6), w których właściwymi organami nadzoru mają być spełniające kryteria określone w rozporządzeniu krajowe organy nadzoru (m.in. nad sektorem finansowym czy zastosowaniem systemów wysokiego ryzyka przez instytucje publiczne w obszarach, takich jak ściganie przestępstw, migracja czy wymiar sprawiedliwości). Określony w projekcie szeroki zakres uprawnień Komisji do nakładania kar wynika z harmonogramu wchodzenia w życie przepisów rozporządzenia, jak również z powodu konieczności oczekiwania na podjęcie przez Komisję Europejską, Radę ds. AI oraz inne powołane do życia na mocy przepisów regulacji instytucje europejskiego systemu nadzoru nad modelami i systemami sztucznej inteligencji działań o charakterze technicznym, merytorycznym i prawnym, które to według przepisów rozporządzenia, jak również komunikatów przedstawicieli Komisji na spotkaniach Rady ds. AI planów nastąpić ma do końca 2025 r. 44 Przepisy art. 108 i art. 109 mają na celu wzmocnienie skuteczności prowadzonych postępowań, mechanizmów kontrolnych oraz egzekwowania obowiązków podmiotów objętych kontrolą lub postępowaniem administracyjnym. Wprowadzenie sankcji karnych w postaci kary ograniczenia wolności lub grzywny służy zapewnieniu należytej współpracy ze strony kontrolowanych, stron postępowania oraz przeciwdziałaniu działaniom obstrukcyjnym. Wprowadzenie przepisu art. 108 ma na celu zapewnienie skuteczności czynności kontrolnych oraz postępowań administracyjnych prowadzonych przez Komisję zgodnie z ustawą. Czynności te stanowią kluczowy instrument nadzorczy, umożliwiający wykrywanie nieprawidłowości, reagowanie na naruszenia i weryfikację zgodności działania podmiotów z obowiązkami wynikającymi z rozporządzenia 2024/1689 oraz ustawy. Penalizacja działań zmierzających do utrudnienia lub udaremnienia czynności kontrolnych jest konieczna, ponieważ bez możliwości wymierzenia sankcji działania Komisji mogłyby być w praktyce nieskuteczne, a podmioty objęte kontrolą mogłyby nie wykonywać obowiązków lub celowo uniemożliwiać realizację ustawowych zadań organu nadzorczego. Wprowadzone sankcje – grzywna albo kara ograniczenia wolności – są proporcjonalne do wagi naruszenia i zgodne z zasadą subsydiarności prawa karnego. Penalizacji podlega wyłącznie zachowanie o charakterze świadomego sprzeciwu wobec czynności organu, mające wysoce negatywny wpływ na możliwość wykonywania jego zadań. Przepis dotyczy każdego zarówno osób fizycznych, osób prowadzących działalność gospodarczą, jak i przedsiębiorców. Ujęcie w ust. 2 odpowiedzialności osób działających w imieniu lub w interesie osób prawnych i jednostek organizacyjnych wynika z konieczności zapobieżenia sytuacjom, w których szkodliwe działania podejmowane są przez przedstawicieli podmiotów zbiorowych, często faktycznie odpowiedzialnych za naruszenia. Rozwiązanie to jest zgodne z zasadą, że odpowiedzialność karna obejmuje także osoby uprawnione do działania w strukturach organizacyjnych podmiotów gospodarczych. Stosowanie przepisów ust. 1 i 2 zostało wyłączone w odniesieniu do czynów polegających na dostarczaniu nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji właściwym organom krajowym w odpowiedzi na ich wniosek. Te czyny zostały wskazane w przepisach rozporządzenia 2024/1689 enumeratywnie i kara za nie została wprost określona w art. 99 ust. 5 rozporządzenia 2024/1689. Mają one bowiem szczególne istotne znaczenie dla ustalania poprawnie stanu faktycznego a tym sam na uznanie systemu za zgodny z 45 przepisanymi rozporządzenia 2024/1689, bezpieczny i godny zaufania. Wyłączenie to ma na celu uniknięcie ryzyka podwójnej karalności. Celem tego przepisu jest ochrona integralności procesu kontrolnego oraz postępowań i zapewnienie, że zarówno kontrolujący, jak i osoby prowadzące postępowanie administracyjne będą mogli wykonywać swoje obowiązki w sposób niezakłócony. Celem wprowadzenia art. 109 jest zapewnienie realnej wykonalności decyzji Komisji, o której mowa w art. 64 ust. 2 ustawy, podejmowanych w przypadku stwierdzenia naruszeń dotyczących funkcjonowania lub stosowania systemów sztucznej inteligencji. Decyzje te mają charakter środków naprawczych i służą usunięciu naruszeń wynikających ze stworzonego przez system sztucznej inteligencji ryzyka, o którym mowa w art. 79 rozporządzenia 2024/1689, lub bezpośredniego ryzyka zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W sytuacji braku sankcji za niewykonanie decyzji organu, podmiot obowiązany mógłby pozostawać bierny, co prowadziłoby do utrzymywania niezgodności z prawem, a niekiedy do dalszego zagrożenia dla użytkowników systemów sztucznej inteligencji. Wprowadzenie penalizacji jest zatem konieczne dla zapewnienia skuteczności nadzoru publicznego i respektowania decyzji naprawczych. Niewykonanie decyzji organu administracji publicznej w zakresie obowiązków nakazanych dla usunięcia naruszeń jest czynem o wysokim stopniu społecznej szkodliwości, ponieważ: • prowadzi do utrzymywania stanu niezgodnego z prawem, • naraża użytkowników systemów AI na ryzyko, • może uniemożliwiać skuteczne naprawienie naruszenia, • godzi w interes publiczny rozumiany jako bezpieczeństwo i przejrzystość stosowania technologii AI. Zachowanie to ma charakter umyślny lub co najmniej wynikający z rażącego niedbalstwa i odnosi się do obowiązków nałożonych w decyzji, która stanowi akt władczy skierowany do konkretnego podmiotu. Projekt przewiduje karę grzywny albo ograniczenia wolności. Sankcje są adekwatne do charakteru czynu, nie mają charakteru nadmiernie represyjnego, wpisują się w standard kar stosowanych za niewykonywanie decyzji organów nadzorczych w innych sektorach regulowanych (np. ochrona danych osobowych, nadzór rynku finansowego), odpowiadają standardowi sankcji za podobne delikty administracyjno-karne. Prawo karne 46 zachowuje w tym przypadku charakter środka ultima ratio, stosowanego wyłącznie wówczas, gdy podmiot świadomie ignoruje wiążącą decyzję administracyjną. Ust. 2 przewiduje odpowiedzialność osób działających w imieniu lub w interesie osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej. Rozwiązanie to odzwierciedla faktyczny sposób funkcjonowania podmiotów gospodarczych, zapobiega przerzucaniu odpowiedzialności na podmiot zbiorowy i ukrywaniu sprawców działań faktycznych, ponadto jest zgodne z powszechnie stosowaną w polskim prawie konstrukcją odpowiedzialności osób odpowiedzialnych za działanie podmiotu (np. w prawie wykroczeń gospodarczych i nadzorczych), zapewnia skuteczność sankcji i zapobiega ich faktycznemu obchodzeniu. Przepis art. 110 odsyła do stosowania w ww. sprawach przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia. Ma to na celu ujednolicenie procedury orzekania w sprawach o czyny określone w art. 108 i art. 109 oraz zapewnienie jednolitego stosowania zasad procesu wykroczeniowego. Wybór trybu wykroczeniowego jest uzasadniony charakterem sankcji przewidzianych w ustawie (grzywna albo kara ograniczenia wolności) oraz stopniem społecznej szkodliwości czynów. Wprowadzenie tej regulacji zapewnia: przejrzystość procedury. skrócenie czasu rozpoznania spraw, zminimalizowanie obciążenia organów wymiaru sprawiedliwości, wykorzystanie istniejącej, ugruntowanej procedury właściwej dla podobnych deliktów administracyjnych. Regulacja jest niezbędna dla prawidłowego stosowania przepisów karnych zawartych w ustawie. Rozdział 9 – Zmiany w przepisach obowiązujących (art. 111 – art. 119) Projekt zakłada nowelizację następujących ustaw: 1) ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm.); 2) ustawy z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. po. 268); 3) ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722, z późn. zm.); 4) ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499, z późn. zm.); 47 5) ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 poz. 902, z późn. zm.); 6) ustawy z dnia 28 lipca 2025 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228, z późn. zm.); 7) ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640, z późn. zm.); 8) ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 z późn. zm.); 9) ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 z późn. zm.). Zmiany mają na celu dostosowanie aktualnego systemu prawnego do regulacji wprowadzanych tą ustawą. Najbardziej istotna zmiana dotyczy przepisów Kodeksu postępowania cywilnego. Projektowana zmiana polega na dodaniu nowego działu IVfa w tytule VII księgi pierwszej części pierwszej kodeksu. Nowelizacja ta wynika z potrzeby zapewnienia skutecznych i zgodnych z konstytucyjnymi standardami mechanizmów sądowej kontroli decyzji organu nadzorczego, jakim będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie odrębnych przepisów proceduralnych w tym zakresie stanowi odpowiedź projektodawcy na nowe wyzwania prawne i technologiczne związane z dynamicznym rozwojem i wdrażaniem systemów sztucznej inteligencji w życiu publicznym i gospodarczym. Z uwagi na złożoność spraw związanych z oceną zgodności systemów sztucznej inteligencji z regulacjami prawa unijnego i krajowego, projekt przewiduje, że rozpoznawaniem odwołań od decyzji oraz zażaleń na postanowienia Komisji zajmować się będzie Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów. Wybór tego sądu uzasadniony jest jego wyspecjalizowaną kompetencją w sprawach gospodarczych, regulacyjnych i administracyjnoprawnych o charakterze publicznoprawnym. Takie rozwiązanie zapewnia także jednolitość orzecznictwa i koncentrację spraw, co sprzyja efektywności i spójności postępowania sądowego. Uregulowanie trybu wniesienia odwołania (art. 479 88b–c ) opiera się na modelu pośrednictwa Komisji, która przekazuje odwołanie wraz z aktami sprawy do właściwego sądu. Jednocześnie projekt przewiduje możliwość autokontroli decyzji przez Komisję, jeśli uzna ona zarzuty odwołania za zasadne w całości. Umożliwia to szybkie zakończenie sporu bez angażowania sądu, przy jednoczesnym zachowaniu prawa strony do ponownego wniesienia odwołania od 48 nowej decyzji. Rozwiązanie to odciąża sądy i promuje efektywne rozwiązywanie spraw na poziomie organu administracyjnego. W art. 479 88d określono, jakie elementy powinno zawierać odwołanie. Przepis ten ma na celu zapewnienie jasności zarzutów i przejrzystości argumentacji procesowej. W art. 479 88e jednoznacznie określono krąg stron postępowania przed sądem – są nimi zarówno Komisja, jak i podmiot, wobec którego wydano decyzję. Dodatkowo przyznano Komisji prawo reprezentacji przez pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji, co zwiększa sprawność postępowania i odciąża Prokuratorię Generalną RP. Uregulowanie to jest zgodne z tendencją legislacyjną przyznającą wyspecjalizowanym organom administracyjnym kompetencje do samodzielnego występowania przed sądem. Art. 479 88f normuje sposób rozpoznania odwołań, sąd może je oddalić, odrzucić lub uwzględnić, uchylając lub zmieniając zaskarżoną decyzję. Jednocześnie sąd ma obowiązek stwierdzić, czy decyzja została wydana bez podstawy prawnej lub z rażącym naruszeniem prawa, co stanowi dodatkowy mechanizm kontroli legalności działania organu nadzorczego. W art. 479 88g zawarto szczegółowe regulacje dotyczące ochrony tajemnic prawnie chronionych w toku postępowania sądowego. Z uwagi na charakter spraw z zakresu systemów sztucznej inteligencji, które często dotyczą danych technicznych, handlowych, algorytmicznych oraz know-how konieczne było wprowadzenie mechanizmu ochrony tajemnicy przedsiębiorstwa i innych informacji niejawnych. Jednocześnie projekt przyznaje sądowi możliwość udostępnienia tych informacji stronie tylko w wyjątkowych, ściśle określonych przypadkach, przy jednoczesnym wykluczeniu zażalenia na takie postanowienia, co zabezpiecza sprawność postępowania. Wyraźnie wskazano także, że ograniczenia te nie dotyczą samej Komisji, która zachowuje pełny dostęp do materiałów dowodowych. Art. 479 88h przyznaje stronie prawo wniesienia zażalenia na postanowienie Komisji w terminie tygodnia, zapewniając tym samym skuteczną ochronę praw procesowych również w odniesieniu do rozstrzygnięć incydentalnych. Odwołanie do stosowania przepisów dotyczących odwołań zapewnia spójność i jednolitość proceduralną. Wreszcie art. 479 88i stanowi, że od orzeczenia sądu drugiej instancji będzie przysługiwała skarga kasacyjna niezależnie od wartości przedmiotu zaskarżenia. Wprowadzenie działu IVfa w Kodeksie postępowania cywilnego ma kluczowe znaczenie dla zapewnienia realnego środka zaskarżenia decyzji administracyjnych w dziedzinie regulacji sztucznej inteligencji. Przepisy te nie tylko zapewniają wykonanie obowiązków wynikających 49 z prawa unijnego, ale także służą ochronie praw jednostek i podmiotów gospodarczych przed ewentualnymi nadużyciami administracyjnymi. System ten został zaprojektowany z uwzględnieniem zasady proporcjonalności, efektywności postępowania i ochrony informacji wrażliwych, a także z poszanowaniem konstytucyjnych zasad państwa prawa. Rozdział 10 – Przepisy przejściowe i przepis końcowy (art. 120 – art. 122) Projekt ustawy przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organu odpowiedzialnego za monitorowanie i wspieranie rozwoju sztucznej inteligencji w sposób bezpieczny i zgodny z interesem publicznym. Sztuczna inteligencja stanowi kluczowy element nowoczesnych technologii i ma istotny wpływ na gospodarkę oraz społeczeństwo, dlatego konieczne jest stworzenie dedykowanego organu, który będzie dbał o jej rozwój zgodnie z zasadami etyki i bezpieczeństwa. Komisja ma pełnić funkcję wspomagającą i kontrolną, dbając o zgodność wdrażanych rozwiązań z regulacjami prawnymi oraz standardami międzynarodowymi. W celu zapewnienia sprawnej działalności Komisji w projekcie wskazano termin powołania jej Przewodniczącego przez Sejm RP za zgodą Senatu RP. Procedura ta gwarantuje demokratyczną legitymizację działania organu i zapewnia, że na jego czele stanie osoba posiadająca odpowiednie kompetencje. Jednocześnie określono termin pierwszego posiedzenia Komisji, które ma się odbyć w ciągu trzech miesięcy od wejścia w życie ustawy. Jest to istotne dla zapewnienia płynnego wdrożenia nowych rozwiązań i niezwłocznego podjęcia prac przez Komisję. Mając na uwadze, że Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji, minister został zobowiązanych do podjęcia niezbędnych działań w celu utworzenia w urzędzie komórki organizacyjnej zapewniającej obsługę Komisji i Przewodniczącego Komisji w zakresie ich zadań wynikających z rozporządzenia 2024/ 1689 oraz z ustawy. Rozpoczęcie działalności przez tę komórkę, powinno nastąpić w terminie 2 miesięcy od dnia wejścia w życie ustawy. Projekt ustawy przewiduje również maksymalne limity wydatków budżetowych na kolejne lata oraz wprowadzenie mechanizmu korygującego w przypadku zagrożenia ich przekroczeniem. Mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy umożliwia elastyczne i skuteczne ograniczenie kosztów, zapewniając racjonalne gospodarowanie środkami publicznymi. Mechanizm opiera się na obniżeniu limitu wydatków – co automatycznie wymusza redukcję kosztów tych zadań. 50 W przypadku konieczności zastosowania mechanizmu korygującego niezbędna będzie weryfikacja, priorytetyzacja lub przesuniecie zakresu realizacji niektórych zadań. Mechanizm korygujący nie będzie uchylał obowiązku wynikającego z ustawy, ale będzie modyfikował sposób finansowania tego obowiązku, np. przesuwając fazy jego realizacji. Będzie on dostosowany do priorytetów realizowanych przez Komisję. Nadzór nad finansami sprawuje minister właściwy do spraw informatyzacji, co gwarantuje odpowiednią kontrolę wydatkowania środków publicznych, natomiast Przewodniczący Komisji odpowiada za wdrażanie mechanizmów kontrolnych w celu uniknięcia przekroczenia założonych limitów. Termin wejścia w życie przepisów ustawy Zachowane zostało wejście w życie przepisów ustawy zgodne z terminem wejścia w życie przepisów rozporządzenia 2024/1689. Ustawa wejdzie w życie po upływie 14 dni od dnia ogłoszenia, przy czym przepisy dotyczące powołania organu nadzoru zaczną obowiązywać od dnia następującego po jej ogłoszeniu. Takie rozwiązanie umożliwia sprawne rozpoczęcie organizacji Komisji oraz szybkie wdrożenie działań niezbędnych do uruchomienia pracy nowego organu. Jednocześnie wyjaśnić należy, że w zakresie spraw uregulowanych: 1) w rozdziale III sekcje 1–3 i sekcja 5, rozdziale IV, rozdziale VI, rozdziałach VIII–XI, z wyłączeniem art. 78, oraz w zakresie spraw uregulowanych w art. 101 rozporządzenia z 2024/1689, przepisy ustawy będą obowiązywały od 2 sierpnia 2026 r.; 2) w art. 6 ust. 1 rozporządzenia 2024/1689 i odpowiadających mu obowiązków ustanowionych w tym rozporządzeniu, przepisy ustawy będą obowiązywały od 2 sierpnia 2027 r. Wskazane terminy wynikają wprost z art. 113 rozporządzenia 2024/1689. Projekt zapewnia sprawną organizację i finansowanie Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji, umożliwiając efektywne zarządzanie rozwojem sztucznej inteligencji w Polsce. Tworzy on stabilne ramy prawne, organizacyjne i finansowe dla działalności Komisji, co pozwoli na skuteczne monitorowanie rozwoju sztucznej inteligencji i minimalizowanie związanych z nią zagrożeń. Wdrożenie ustawy stanowi istotny krok w kierunku nowoczesnej i odpowiedzialnej polityki państwa wobec dynamicznie rozwijających się technologii cyfrowych. 51 Projekt ustawy nie zawiera przepisów technicznych w rozumieniu przepisów rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i w związku z tym nie podlega procedurze notyfikacji. W związku z art. 68–70 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców należy zaznaczyć, że projektowana ustawa, nakładając nowe obowiązki na przedsiębiorców będzie miała wpływ na działalność mikro- oraz małych i średnich przedsiębiorców. Projektowana ustawa ogranicza się jednak do nałożenia obowiązków niezbędnych do osiągnięcia celów rozporządzenia 2024/1689. Projekt ustawy jest zgodny z przepisami prawa Unii Europejskiej i służy ich stosowaniu. Projekt ustawy nie podlega przedstawieniu właściwym organom i instytucjom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt ustawy stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677, z późn. zm.) oraz zgodnie z § 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) został zamieszczony w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie „Rządowy Proces Legislacyjny”. Nazwa projektu Ustawa o systemach sztucznej inteligencji Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji, pamela.krzypkowska@cyfra.gov.pl; sekretariat.dbi@cyfra.gov.pl Data sporządzenia 20.03.2026 r. Źródło: Prawo UE Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Nr w wykazie prac UC71 OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”. Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności, ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą opierały się na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim. Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do: 1) wskazania właściwych organów krajowych, tj.: - organu lub organów nadzoru rynku, - organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie; 2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689; 3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie przepisów rozporządzenia 2024/1689. W projekcie ustawy wprowadzono również podstawowe przepisy dotyczące piaskownic regulacyjnych. Zgodnie z art. 57 rozporządzenia 2024/1869 każde państwo członkowskie ma obowiązek ustanowienia przynajmniej jednej krajowej piaskownicy regulacyjnej do 2 sierpnia 2026 roku. Może ona być uruchomiona samodzielnie lub we współpracy z innymi państwami, a wypełnienie obowiązku dopuszcza także uczestnictwo w już istniejącej piaskownicy, o ile zapewnia ona równoważny zasięg krajowy. Komisja Europejska zyskuje tu rolę wspierającą, oferując doradztwo, narzędzia i pomoc techniczną w tworzeniu oraz funkcjonowaniu piaskownic. Oprócz rozwiązań na szczeblu krajowym dopuszcza się również tworzenie piaskownic regionalnych, lokalnych czy nawet wspólnych dla kilku państw, a Europejski Inspektor Ochrony Danych może powołać własną piaskownicę dla instytucji i organów unijnych. Organy krajowe zobowiązane są do zapewnienia wystarczających zasobów finansowych, kadrowych i organizacyjnych, aby piaskownice działały efektywnie, terminowo i zgodnie z prawem. Mogą współpracować z innymi podmiotami z 2 ekosystemu AI, w tym organizacjami prywatnymi, a także muszą utrzymywać koordynację z organami nadzorującymi inne piaskownice powstałe na gruncie prawa unijnego czy krajowego. Komisja Europejska jest zobowiązana do przyjęcia jednolitych procedur i kryteriów funkcjonowania piaskownic, których celem będzie harmonizacja praktyk w całej UE i ograniczenie barier administracyjnych. Piaskownica regulacyjna w projekcie ustawy o systemach sztucznej inteligencji rozwiązuje problem braku bezpiecznego i przejrzystego środowiska do testowania systemów sztucznej inteligencji zanim trafią one na rynek. Piaskownica regulacyjna tworzy kontrolowane warunki, w których można eksperymentować, trenować i walidować systemy AI pod stosownym nadzorem, co pozwala na identyfikację potencjalnych zagrożeń i dostosowanie technologii do wymogów prawa jeszcze przed ich komercjalizacją. Zawarte w projekcie przepisy umożliwią wypełnienie obowiązku wynikającego z art. 57 rozporządzenia 2024/1689. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji i oczekiwany efekt Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689; możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji oraz środków wspierania innowacyjności. Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa. Projektu ustawy nie stosuje się do: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: a) działalnością, o której mowa w art. 2 ust. 1 i 2 z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych, b) działalnością gospodarczą, o której mowa w art. 3 w zw. z art. 4 ust. 1–2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, c) działalnością nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) działalnością, o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) działalnością rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego; 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689; 3) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 4) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5–6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego, działaniach podejmowanych w celu zidentyfikowania i ścigania sprawcy przestępstwa; 5) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w tym punkcie; 6) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 5, przed wejściem w życie rozporządzenia 2024/1689; 7) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. 3 1. Właściwe organy krajowe Organ nadzoru rynku oraz punkt kontaktowy Przepisy rozporządzenia 2024/1689 zobowiązują państwa członkowskie do powołania lub wskazania organu nadzoru rynku. W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne. Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania). Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna. Pracami Komisji będzie kierował Przewodniczący powoływany przez Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej, spośród osób, które posiadają obywatelstwo polskie, korzystają z pełni praw publicznych, cieszą się nieposzlakowaną opinią i które nie były skazane prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, które jednocześnie posiadają wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub równorzędny oraz co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji, doświadczenie zawodowe uzyskane w trakcie pracy w takich podmiotach lub pracy naukowej, a także wyróżniają się wiedzą i posiadają znaczący dorobek w zakresie sztucznej inteligencji. Wybór Przewodniczącego Komisji przez Sejm za zgodą Senatu zapewni niezależność i demokratyczną legitymację. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji. W skład Komisji będą także wchodzili dwaj Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisji Nadzoru Finansowego; 3) Krajowej Rady Radiofonii i Telewizji; 4) Prezesa Urzędu Komunikacji Elektronicznej. Komisja będzie działać w modelu kolegialnym, co zapewni większą rzetelność decyzji, a skargi będą rozpatrywane przez Przewodniczącego dla większej efektywności. Projekt ustawy przewiduje niezależność wszystkich osób wchodzących w skład Komisji w zakresie zadań przez nią realizowanych. Dodatkowo Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 4 Przepisy uregulują również obowiązki i uprawnienia członków komisji, a także sposób wykonywania zadań. Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji. W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest wskazanie podmiotu pozwalającego na wykonywanie zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz Przewodniczącego. Przepisy rozporządzenia 2024/1689 nie wskazują na obowiązek utworzenia urzędu, a tym samym nie odnoszą się do kwestii pracowniczych w tym zakresie, jednak przesądzenie tych kwestii w ustawie jest niezbędne w celu zapewnienia właściwego funkcjonowania niezależnego organu nadzoru. Stąd też w przepisach projektu znalazły się uregulowania związane ze wskazaniem urzędu obsługującego ministra do spraw informatyzacji jako urzędu zapewniającego obsługę administracyjną, organizacyjną, kancelaryjną oraz wykonywania zadań przez Komisję oraz przewodniczącego Komisji. Dla kompletności rozwiązań ustawowych uregulowane zostaną także kwestie wykraczające poza przepisy rozporządzenia 2024/1689, a dotyczące organizacji pracy pracowników. Zadania nowego organu będą obejmowały w szczególności: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o których mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawia ministrowi właściwemu do spraw informatyzacji propozycje działań legislacyjnych, b) udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacje, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Do istotnych zadań komisji chociaż wykraczających poza ramy rozporządzenia 2024/1689 należy także: 5 1) wydawanie przez opinii indywidualnych oraz wyjaśnień w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. W związku z zapewnieniem Komisji kompetencji do wydawania opinii indywidualnych i wyjaśnień niezbędne jest uregulowanie w projekcie ustawy również procedur z tym związanych, a także odziaływania tych dokumentów na inne organy; 2) wyrażanie opinii w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, a także udział w ich opracowywaniu. Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji. Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art. 7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji. Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji a Komisją, w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków). Jako organ opiniodawczo-doradczy Komisji zostanie powołana również Społeczna Rada do spraw Sztucznej Inteligencji, której członkowie będą wybierani przez Komisję spośród kandydatów zgłaszanych przez m.in. Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, izby gospodarcze, związki zawodowe oraz fundacje i stowarzyszenia. Do zadań Rady będzie należeć wydawanie opinii i stanowisk w zakresie przekazanym przez Komisję oraz z własnej inicjatywy, a także przekazywanie wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków. Powołanie organu opiniodawczo-doradczego organu nadzoru nie zostało objęte przepisami rozporządzenia 2024/1689. Przepisy projektu ustawy zakładają także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. tworzenie piaskownic regulacyjnych, prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe. W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, z zastrzeżeniem art. 2 ust 2, której celem będzie ustalenie zgodności działalności podmiotów z przepisami rozporządzenia oraz ustawy. Komisja będzie przeprowadzała kontrolę zgodnie z zatwierdzonymi planami kontroli, na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Kontrola będzie prowadzona, z wyjątkiem określonych w ustawie przypadków, w trybie zdalnym, z wykorzystaniem środków porozumiewania się na odległość. Kontrola może zostać przeprowadzona przez upoważnionego pracownika właściwej komórki urzędu obsługującego ministra do spraw informatyzacji, co do zasady po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli oraz jej zakończenia, a także uprawnień i obowiązków kontrolujących i podmiotów kontrolowanych. Jeżeli w wyniku kontroli Komisja stwierdzi nieprawidłowości wypełniania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji wydanej przez Komisję lub ustawy, w projekcie ustawy przewidziano możliwość wydawania przez Komisję zaleceń pokontrolnych. Jest to regulacja wykraczająca poza przepisy rozporządzenia 2024/1689 jednak stanowi odpowiedź na potrzeby regulowanej materii. Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Postępowanie będzie wszczynane z urzędu, na wniosek Przewodniczącego, zastępcy, członka Komisji lub Społecznej Rady ds. Sztucznej Inteligencji, lub na podstawie skargi. W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe. Procedury prowadzenia postępowań zostały pozostawione do uregulowania Państwom członkowskim w ramach przepisów krajowych i w takim zakresie nie wynikają bezpośrednio z przepisów rozporządzenia 2024/1689. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W przypadku uzasadnionego podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, 6 Komisja może wydać w drodze postanowienia ostrzeżenie, w którym wskazuje działania, które strona powinna podjąć w celu przywrócenia stanu zgodnego z prawem. W toku postępowania Komisja może także, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Zarówno instytucja ostrzeżenia, jak i instytucja układu nie wynikają wprost z rozporządzenia 2024/1689 chociaż wchodzą one regulacje dotyczące zasad postępowania przed organem nadzoru rynku. Stwierdzenie przez Komisję naruszenia przepisów rozporządzenia 2024/1689 następuje w formie decyzji zawierającej środki nakazujące usunięcie skutków naruszenia. Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych. W takim wypadku Komisja obowiązana będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. W związku z przetwarzaniem przez Komisję danych osobowych w celu realizacji zadań wynikających z rozporządzenia 2024/1689 w projekcie wskazano procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. Przepisy te nie stanowią z wykonania rozporządzenia 2024/1689. Organ notyfikujący Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność o raz jako organ notyfikujący. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. Notyfikacja jednostek oceniających zgodność następować będzie na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Dla spójności z przepisami oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 powierzone zostaną Polskiemu Centrum Akredytacji, do którego zadań należeć będzie: 1) uczestniczenie, we współpracy z ministrem właściwym do spraw informatyzacji, w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność; 2) opracowanie szczegółowego programu akredytacji jednostek oceniających zgodność oraz dokonywanie aktualizacji tego programu; 3) przekazywanie ministrowi właściwemu do spraw informatyzacji informacji o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. 2. Skargi W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów. Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości 7 odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów. Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ. 3. Środki wspierające innowacyjność W projekcie ustawy określono ramy tworzenia tzw. piaskownic regulacyjnych w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689. Komisja ma kompetencje do udzielenia w drodze decyzji dostępu do piaskownicy regulacyjnej podmiotom wybranym w drodze konkursu. Mikro, mali i średni przedsiębiorcy w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców będą mogli uczestniczyć w piaskownicy regulacyjnej nieodpłatnie. Celem tych regulacji będzie: – ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. – zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. – stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. Komisja będzie mogła prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. W ramach innych środków wspierania innowacyjności, zgodnie z projektem ustawy, minister właściwy do spraw informatyzacji może podejmować działania takie jak: 1) udzielanie pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansowanie lub współfinansowanie programów i projektów w tym zakresie ze środków pochodzących z budżetu państwa w formie dotacji, jak również budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, środków pochodzących z bezzwrotnej pomocy zagranicznej oraz środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjowanie, wspieranie i realizowanie programów obejmujących finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyniki badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. Udzielenie finansowania będzie możliwe także dla Instytutu Badawczego IDEAS. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. 4. Administracyjne kary pieniężne Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby Komisja nakładała kary pieniężne w drodze decyzji, w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. Zgodnie z art. 99 rozporządzenia 2024/1689 kara za nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Z kolei nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5 (art. 99 ust. 4 lit. a-g rozporządzenia 2024/1689) podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest 8 przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów. Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. Jeśli Komisja uzna odwołanie za słuszne, może – nie przekazując akt sądowi – uchylić albo zmienić swoją decyzję w całości lub w części. Dodatkowo, projekt zakłada możliwość uzyskania przez stronę zmniejszenia wysokości nałożonej kary administracyjnej. Oprócz wcześniej wspomnianego środka zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, w przepisach przewidziano kompetencję Komisji do zmniejszenia, w drodze decyzji, administracyjnej, wysokości kary pieniężnej, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu wydanym przez Komisję, a naruszenie nie doprowadziło do śmierci lub uszczerbku na zdrowiu człowieka. Ustanowienie procedur nakładania administracyjnych kar pieniężnych oraz określenie przeznaczenia tych kar rozporządzenie 2024/1689 pozostawiło w gestii państw członkowskich. W projekcie zawarto także przepisy dotyczące sankcji karnych za określone czyny związane z udaremnianiem lub utrudnianiem prowadzenia kontroli, czynności w postępowaniu w przypadku stwierdzenia naruszenia związanego ze stwarzaniem przez system AI ryzyka oraz niedostarczeniem lub dostarczeniem niedostatecznych danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Regulacja ta nie wynika bezpośrednio z przepisów rozporządzenia 2024/1689. Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw, a także przepisy przejściowe, dostosowujące i końcowe. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Rozporządzenie 2024/1689 jest aktem prawnym bezpośrednio obowiązującym, będzie więc miało bezpośrednie zastosowanie we wszystkich państwach członkowskich Unii Europejskiej. Najważniejszym celem unijnych przepisów jest to, aby systemy sztucznej inteligencji stosowane w UE były bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. W konsekwencji wszystkie państwa członkowskie UE będą stosowały przepisy ww. rozporządzenia, a prace nad wdrożeniem obecnie toczą się we wszystkich krajach. Z przeprowadzonej analizy porównawczej wynika, że w państwach członkowskich UE nie ukształtował się jeden dominujący model organizacji nadzoru rynku nad systemami sztucznej inteligencji. Rozwiązania są dostosowywane do krajowej struktury administracji, przy jednoczesnym zachowaniu wymogów art. 70 rozporządzenia 2024/1689, w szczególności w zakresie niezależności organu oraz zapewnienia odpowiednich zasobów i kompetencji. W analizowanych państwach przyjmowane są w szczególności: (1) model nowego wiodącego organu nadzoru rynku przy jednoczesnym zachowaniu sektorowego podziału kompetencji dla części systemów wysokiego ryzyka (np. Hiszpania), (2) model oparty na istniejących instytucjach z wyznaczeniem wiodącego organu i punktu kontaktowego oraz uzupełniającą rolą organów sektorowych (np. Malta), a także (3) model wieloorganowy oparty w całości na istniejących organach administracji publicznej, z przypisaniem zadań zgodnie z właściwością rzeczową. Do tej pory dwa państwa członkowskie UE, Finlandia i Luksemburg, opublikowały projekty aktów prawnych wdrażających do krajowych przepisów rozwiązania w zakresie nadzoru z rozporządzenia 2024/1689. W fińskiej propozycji przepisów (Hallituksen esitys laiksi eräiden tekoälyjärjestelmien valvonnasta ja siihen liittyvien lakien muuttamisesta, nr projektu TEM050:00/2024) rolę organów nadzoru rynku rozdzielono pomiędzy już istniejące organy, które sprawują nadzór nad poszczególnymi sektorami gospodarki i życia publicznego. Analogicznie, kilku organom przyznano funkcję organów notyfikujących. Jako pojedynczy punkt kontaktowy wyznaczona została Agencja Transportu i Komunikacji (Traficom). W zakresie środków nadzoru rynku projekt ustawy odsyła do rozdziału 3 ustawy o nadzorze rynku (Laki eräiden tuotteiden markkinavalvonnasta, 16.12.2016/1137). W projekcie przewidziano również powstanie nowego organu działającego przy Traficom, który nakłada sankcję za naruszenia określonych przepisów ustawy, jeżeli przekracza ona 300 000 EUR. W luksemburskim projekcie ustawy zadania w zakresie nadzoru rynku oraz notyfikacji na gruncie rozporządzenia 2024/1689 również zostały rozdzielone między kilka organów. Jako pojedynczy punkt kontaktowy wyznaczono organ ochrony danych osobowych. 9 Ponadto, w kilku państwach członkowskich wprowadzono w ostatnim czasie różnorodne rozwiązania prawne i organizacyjne w zakresie zapewnienia nadzoru nad systemami sztucznej inteligencji. Hiszpania W Hiszpanii przyjęto rozwiązanie oparte na powołaniu nowego organu nadzoru rynku nad systemami sztucznej inteligencji. W 2023 r. powołano tam Agencję Nadzoru nad Sztuczną Inteligencją (Agencia Española de Supervisión de la Inteligencia Artificial). Działania Agencji mają służyć m.in. następującym celom: nadzór nad wdrażaniem, użytkowaniem lub wprowadzaniem do obrotu systemów sztucznej inteligencji, a w szczególności takich, które mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa oraz praw podstawowych; współpracy i koordynacji między innymi organami krajowymi; promocji środowisk testowych systemów sztucznej inteligencji; podnoszeniu świadomości, rozpowszechnianiu szkoleń związanych z odpowiedzialnym wykorzystaniem sztucznej inteligencji. Agencja Nadzoru nad Sztuczną Inteligencją podlega Ministerstwu Gospodarki i Transformacji Cyfrowej. Nowy organ z siedzibą w La Corunii został wyposażony w budżet na rozpoczęcie działalności w wysokości ok. 21 mln. Euro (2023). W przyjętej 15 maja 2024 r. strategii AI (2024 Artificial Intelligence Strategy) Agencja Nadzoru nad Sztuczną Inteligencją została wskazana jako główny organ odpowiedzialny za wdrożenie i nadzór nad egzekwowaniem rozporządzenia 2024/1689. Ponadto 8 listopada 2023 r. na mocy królewskiego dekretu nr 817/2023 w Hiszpanii powołano piaskownicę regulacyjną, której celem jest stworzenie środowiska testowego dla systemów wysokiego ryzyka. Według aktualnych informacji, w styczniu 2025 r. trwał pierwszy nabór wniosków. Austria W Austrii w styczniu 2024 r. weszło życie prawo (zmiany w Telekommunikationsgesetz), na mocy którego ustanowiono Biuro Obsługi ds. sztucznej inteligencji (KI-Servicestelle) przy austriackim urzędzie ds. telekomunikacji (RTR). Biuro ma służyć jako punkt kontaktowy i centrum informacji dla ogółu społeczeństwa na temat sztucznej inteligencji oraz wspierać wdrażanie rozporządzenia 2024/1689. Na swojej stronie internetowej Biuro publikuje informacje na temat rozporządzenia oraz inicjatyw w zakresie sztucznej inteligencji podejmowanych w Austrii. W lutym 2024 r. powołano Radę Doradczą ds. sztucznej inteligencji (KI-Beirat), której rolą ma być doradzanie rządowi federalnemu i Biuru Obsługi ds. sztucznej inteligencji we wdrażaniu rozporządzenia 2024/1689. W listopadzie 2024 r. w Austrii przedstawiono także Plan wdrożenia na 2024 r. dla strategii rządu federalnego dla AI (Strategie der Bundesregierung für Künstliche Intelligenz - Umsetzungsplan 2024). Federalny Urząd Kanclerski Austrii, Wydział VII – Cyfryzacja i E-administracja (Bundeskanzleramt, Sektion VII – Digitalisierung und E-Government) został w nim wyznaczony jako odpowiedzialny za przygotowanie wdrożenia rozporządzenia 2024/1689 do porządku krajowego. Węgry Węgierskie rozwiązanie oparto na wskazaniu istniejącej instytucji rządowej – Ministerstwa Gospodarki Narodowej – jako organu nadzoru rynku AI. Jednocześnie przewidziano mechanizm umożliwiający wyznaczenie organu nadzoru rynku sztucznej inteligencji w drodze rozporządzenia, co świadczy o elastycznym modelu organizacyjnym. Dania Dania przyjęła model wieloorganowy oparty w całości na istniejących instytucjach administracji publicznej. Mechanizmy współpracy opierają się na wyznaczeniu Duńskiej Agencji Cyfryzacji (Digitaliseringsstyrelsen) jako centralnego punktu kontaktowego (Single Point of Contact) w rozumieniu art. 70 ust. 2 AI Act oraz na obowiązku współdziałania pomiędzy organami i zapewnienia zasobów niezbędnych do wykonywania zadań. Malta Na Malcie głównym organem nadzoru rynku oraz jednolitym punktem kontaktowym jest Malta Digital Innovation Authority (MDIA). Model ten przewiduje centralną rolę MDIA w ogólnym nadzorze rynku AI, w tym prowadzeniu krajowej piaskownicy regulacyjnej, pełnieniu funkcji organu notyfikującego oraz nakładaniu administracyjnych kar pieniężnych; dodatkowo, w przypadku braku wyznaczenia innego organu, MDIA przejmuje funkcję organu nadzoru rynku, co nadaje jej pozycję „domyślną” w systemie. Włochy We Włoszech wyznaczono dwie istniejące agencje jako krajowe organy właściwe – AgID (Agenzia per l’Italia digitale) oraz ACN (Agenzia per la cybersicurezza nazionale). W analizie wskazano także mechanizm koordynacji z udziałem organów sektorowych poprzez komitet koordynacyjny przy Prezesie Rady Ministrów, z udziałem kierownictwa AgID i ACN oraz przedstawicieli organów sektorowych. Słowenia 10 W Słowenii kompetencje nadzorcze przekazano istniejącym instytucjom sektorowym, a współpracę oraz rozstrzyganie sporów kompetencyjnych pomiędzy organami zapewnia Rada Koordynacyjna Organów Nadzoru Rynku. Prace nad przyjęciem rozwiązań regulacyjnych dotyczących sztucznej inteligencji trwają również w krajach OECD. Poniżej opisano przykłady dwóch z nich, w których już przyjęto akty prawne w tym zakresie lub trwają nad nimi prace. Korea Południowa 26 grudnia 2024 r. w Korei Południowej przyjęto Podstawowy Akt o AI (AI Basic Act, South Korean AI Act). Wejdzie on w życie w styczniu 2025 r. Celem aktu jest ochrona praw i godności człowieka oraz poprawa jakości życia i wzmocnienie konkurencyjności Korei Południowej poprzez stworzenie ram niezbędnych do prawidłowego rozwoju sztucznej inteligencji. Stanowi on usankcjonowanie prawne dla powołania Narodowego Komitetu ds. AI (National AI Committee), które miało miejsce we wrześniu 2024 r. Zadaniem Komitetu jest m. in. rozpatrywanie i podejmowanie decyzji w sprawie głównych polityk promowania sztucznej inteligencji oraz tworzenie podstaw zaufania do AI. Akt uprawnia także Ministra ds. Nauki i ICT do utworzenia Ośrodka ds. Polityki AI, którego zadaniem będzie opracowywanie polityk w zakresie sztucznej inteligencji oraz ustalanie i upowszechnianie norm międzynarodowych. Na gruncie aktu, operatorzy systemów AI, które zostały w nim zdefiniowane jako wysokiego wpływu (high-impact) i generatywne, podlegają obowiązkom w zakresie transparentności i bezpieczeństwa. Rząd może także wspierać dobrowolną weryfikację bezpieczeństwa i niezawodności systemów AI wykorzystywanych przez sektor prywatny oraz oceny ich wpływu. Ponadto, ministrowi ds. Nauki i ICT została przyznana kompetencja do uchwalania i ogłaszania zasad etycznych dla AI w zakresie bezpieczeństwa, niezawodności, dostępności oraz wpływu na życie i dobrobyt ludzi. Minister ds. Nauki i ICT może także, w przypadku, gdy poweźmie informację, że naruszone zostały przepisy aktu, prowadzić postępowania wyjaśniające oraz zarządzić podjęcie środków w celu zaprzestania naruszenia lub usunięcia jego skutków. Kanada Kanada jako jeden z pierwszych krajów OECD, w 2016 r. przyjęła regulacje adresujące część problematyki objętej zakresem Rozporządzenia 2024/1689. Dyrektywa w zakresie automatycznego podejmowania decyzji (Directive on automated decision making) to akt prawny w randze ustawy, w którym wprowadzone zostały mechanizmy oparte na ryzyku mające zapewnić przejrzystość, rozliczalność, legalność i uczciwość zautomatyzowanych decyzji mających wpływ na Kanadyjczyków. Dyrektywie towarzyszy załącznik – Algorytymiczna ocena wpływu (Algorithmic Impact Assessment) – wzór formularza, który obowiązkowo należy wypełnić w przypadku wdrożenia systemu sztucznej inteligencji w instytucjach federalnej służby publicznej. Dla zapewnienia spójności między systemem nadzoru oraz wspierania badań i innowacji, w 2019 r. utworzono instytucję - Radę Doradczą ds. Sztucznej Inteligencji (Advisory Council on AI), której zadaniem jest doradzanie rządowi Kanady w budowaniu przewag konkurencyjnych w nauce, technologii, a także światowym przywództwie w dziedzinie sztucznej inteligencji, identyfikowaniu możliwości stworzenia wzrostu gospodarczego oraz zapewnianiu, że postępy w zakresie sztucznej inteligencji odzwierciedlają wartości określone w kanadyjskim prawie. Kontynuując ten kierunek, Kanada w 2022 r. ogłosiła dokument pn. Karta Praw Cyfrowych (Karta Praw Cyfrowych), która zawiera propozycje działań prawnych i administracyjnych kompleksowo odnoszących się do zagrożeń dla praw obywateli i konsumentów związanych z rozwojem technologii cyfrowych. W 2022 r. rząd Kanady zaprezentował wpisujące się w ten program projekty trzech aktów prawnych pod wspólną nazwą Bill C-27. Jednym z nich jest Akt o sztucznej inteligencji i danych (Artificial Intelligence and Data Act), projekt ustawy, który zawiera m.in. propozycję powołania nowego organu ds. sztucznej inteligencji i ochrony danych (AI and Data Commissioner), przepisy karne za stosowanie systemów sztucznej inteligencji uznanych za szczególnie groźne, a także (oparty na metodologii Algorithmic Impact Assessment) zestaw przepisów proceduralnych określających obowiązki podmiotów wprowadzających na rynek oraz stosujących systemy sztucznej inteligencji. Projekt dotychczas nie został uchwalony i pozostaje w fazie prac legislacyjnych. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Obywatele W końcu 1 kwartału 2025 r. ludność Polski liczyła 37437 tys. osób Dane statystyczne Głównego Urzędu Statystycznego, 2025 r. https://ssgk.stat.gov.pl/Ludnosc. html Umożliwienie złożenia skargi do właściwych organów na naruszenia przepisów rozporządzenia 2024/1689. Urząd Ochrony Danych Osobowych 1 Informacja powszechnie dostępna Prezes Urzędu Ochrony Danych Osobowych będzie współpracował z Komisją w zakresie nadzoru nad systemami sztucznej inteligencji w zakresie określonym 11 przepisami rozporządzenia 2024/1689. Krajowa jednostka akredytująca Polskie Centrum Akredytacji (PCA) 1 Informacja powszechnie dostępna Realizacja zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przedsiębiorcy, w tym w szczególności przedsiębiorcy stosujący w działalności narzędzia sztucznej inteligencji ok. 5 202 000 (ogólna liczba przedsiębiorstw); wg szacunków (PIE, 2024) 6,6% polskich przedsiębiorstw (ogólna liczba przedsiębiorstw w gospodarce narodowej: 5,2 mln) deklaruje korzystanie z narzędzi sztucznej inteligencji, co przekłada się na szacunkową liczbę 330 tys. firm korzystających z tej technologii. Główny Urząd Statystyczny, 2024 r. Polski Instytut Ekonomiczny, 2024 r. Obowiązek spełnienia wymogów w postaci przestrzegania zakazów określonych w rozporządzeniu 2024/1689 dla poszczególnych typów podmiotów wykorzystujących narzędzia sztucznej inteligencji. Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689. Przedsiębiorcy sektora sztucznej inteligencji ok 1/3 firm ICT deklaruje, że w ich głównych produktach rozwiązania sztucznej inteligencji odgrywają kluczową rolę; zważywszy, że w 2022 wg GUS r. było zarejestrowanych 2712 firm prowadzących działalność w zakresie IT w 2022 r. (wg klasyfikacji PKD), daje to szacunkową liczbę ok. 900 firm sektora sztucznej inteligencji w Polsce. Główny Urząd Statystyczny, 2023 r. Fundacja Start Up Poland, 2024 r. Raport „Polskie Startupy, 2023 r.” Realizacja obowiązków wynikających z wprowadzenia listy zakazanych praktyk sztucznej inteligencji (zakaz wprowadzania do obrotu lub na rynek) oraz ograniczeń, które będą wynikać ze stosowania niektórych takich systemów w ramach dozwolonego użytku (obszary obronności, bezpieczeństwa narodowego oraz badań i nauki). Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 Rozporządzenia 2024/1689. Sąd okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów 1 Informacja powszechnie dostępna Rozpatrywanie spraw w ramach drogi odwoławczej od decyzji Komisji. Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Sąd apelacyjny w Warszawie, sądy okręgowe i rejonowe Stan na 30.06.2024 r.: - 11 sądów apelacyjnych, 47 sądów okręgowych i 319 sądów rejonowych Informacja ogólnodostępna Wzrost liczby spraw trafiających do sądów, wynikający z wdrożenia ustawy. Sąd Apelacyjny w Warszawie – rozpoznawanie apelacji i zażaleń z zakresu systemów sztucznej inteligencji Sądy powszechne – pion karny oraz jednostki prokuratury 318 sądów powszechnych w pionie karnym oraz 357 jednostek prokuratury w pionie karnym Informacja ogólnodostępna Wzrost liczby spraw, w których prowadzone lub nadzorowane będą postępowania karne w zakresie czynów karalnych określonych w ustawie. Sądownictwo wojskowe 12 Informacja ogólnodostępna Odziaływanie z zakresu prac Komisji. 12 Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Organy administracji publicznej: 1) Prezes Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisja Nadzoru Finansowego; 3) Krajowa Rada Radiofonii i Telewizji; 4) Prezes Urzędu Komunikacji Elektronicznej 4 Dane własne Udział w pracach Komisji jako jej członek. Jednostki samorządu terytorialnego 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Obowiązek spełnienia wymogów rozporządzenia 2024/1689 związanych z przestrzeganiem zakazu wprowadzania do użytku i używania systemów zakazanych. Urząd obsługujący ministra właściwego do spraw informatyzacji 1 Informacje powszechnie dostępne Zapewnienie obsługi organizacyjnej, kancelaryjnej i administracyjnej. Utworzenie właściwej komórki organizacyjnej. Minister właściwy do spraw informatyzacji 1 Informacje powszechnie dostępne Pełnienie funkcji organu notyfikującego, w tym: - współpraca z Polskim Centrum Akredytacji; - kontakty z organami notyfikującymi z innych państw oraz Komisją Europejską Określenie w drodze rozporządzenia wysokość opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej Wykonywanie zadań z art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji w zakresie najlepszych praktyk Udzielanie pomocy finansowej jednostkom podległym i nadzorowanym lub finansowanie w zakresie nadań naukowych i prac rozwojowych na podstawie art. 84. Policja Informacja powszechnie dostępna Udzielanie pomocy Komisji w przeprowadzaniu kontroli Naczelnicy Urzędów Skarbowych 366 Informacja Ministerstwa Finansów i Gospodarki Działanie z charakterze organu egzekucyjnego. Dyrektorzy izb administracji skarbowej 16 Informacja Ministerstwa Finansów i Gospodarki Działanie w charakterze organu nadzoru w związku z egzekucją 13 administracyjnych kar pieniężnych. 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Ministerstwo Cyfryzacji zmierzając do zapewnienia skutecznego stosowania rozporządzenia 2024/1689 podjęło szeroko zakrojone i transparentne prekonsultacje (od 2 kwietnia 2024 r. do 23 kwietnia 2024 r.) ze wszystkimi zainteresowanymi tą tematyką. Projekt ustawy został udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce „Rządowy Proces Legislacyjny” zgodnie z § 52 ust. 1 uchwały nr 190 uchwały Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Projekt ustawy w ramach konsultacji publicznych został przesłany w szczególności do następujących podmiotów: 1) Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, 2) Polska Izba Informatyki i Telekomunikacji, 3) Polska Izba Komunikacji Elektronicznej, 4) Krajowa Izba Gospodarczej, 5) Krajowa Izba Komunikacji Ethernetowej, 6) Polska Izba Radiodyfuzji Cyfrowej, 7) Polska Izba Handlu, 8) Izba Gospodarki Elektronicznej, 9) Krajowa Izba Gospodarki Cyfrowej, 10) Fundacja Bezpieczna Cyberprzestrzeń, 11) Polskie Towarzystwo Informatyczne, 12) Fundacja Nowoczesna Polska, 13) Fundacja Panoptykon, 14) Internet Society Poland, 15) Stowarzyszenie Inżynierów Telekomunikacji, 16) Fundacja Stefana Batorego, 17) Związek Pracodawców Mediów Publicznych, 18) Związek Pracodawców Mediów Elektronicznych Mediakom, 19) Związek Pracodawców Branży Internetowej IAB Polska, 20) Związek Telewizji Kablowych w Polsce Izba Gospodarcza, 21) Związek Rzemiosła Polskiego, 22) Polska Organizacja Handlu i Dystrybucji, 23) Naczelna Rada Zrzeszeń Handlu i Usług, 24) Polskie Stowarzyszenie Marketingu SMB, 25) Fundacja Moje Państwo, 26) Amerykańska Izba Handlowa w Polsce, 27) Federacja Konsumentów, 28) Związek Cyfrowa Polska, 29) Stowarzyszenie Praktyków Ochrony Danych Osobowych, 30) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 31) Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, 32) Federacja Przedsiębiorców Polskich, 33) Fundacja Open Allies, 34) Fundacja Instrat, 35) Fundacja Startup Poland, 36) Wikimedia Europe, 37) Fundacja Forum Konsumentów, 38) Stowarzyszenie Dziennikarzy i Wydawców Repropol, 39) Stowarzyszenie Sygnał, 40) Izba Wydawców Prasy, 41) Stowarzyszenie Autorów ZAiKS (ZAiKS), 42) Związek Autorów i Producentów Audiowizualnych (ZAPA), 43) Związek Polskich Autorów i Kompozytorów ZAKR, 44) Stowarzyszenie Kreatywna Polska (SKP), 45) Sieć Badawcza Łukasiewicz – PORT, 46) Stowarzyszenie Nowoczesnej Edukacji Prawnej, 47) CEE Digital Democracy Watch, 48) Fundacja AILAWTECH, 14 49) Sieć Obywatelska Watchdog Polska, 50) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 51) Polska Rada Biznesu, 52) Biblioteka Narodowa, 53) Brytyjsko-Polska Izba Handlowa, 54) Centrum Cyfrowe, 55) Francusko-Polska Izba Przemysłowo Handlowa, 56) INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, 57) Niemiecko-Polska Izba Przemysłowo-Handlowa, 58) Polska Akademia Nauk, 59) Polska Cyfrowa, 60) Związek Banków Polskich, 61) Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, 62) Kongres Polskiego Biznesu, 63) Naczelna Rada Zrzeszeń Handlu i Usług, 64) Naczelna Organizacja Techniczna, 65) Krajowa Izba Radców Prawnych, 66) Naczelna Rada Adwokacka, 67) Polski Funduszu Rozwoju S.A., 68) Bank Gospodarstwa Krajowego S.A., 69) Związek Rzemiosła Polskiego, 70) Polskie Towarzystwo Gospodarcze. Projekt ustawy został skierowany do opiniowania do następujących podmiotów: 1) Prezes Urzędu Komunikacji Elektronicznej, 2) Prezes Urzędu Ochrony Danych Osobowych, 3) Prezes Urzędu Ochrony Konkurencji i Konsumentów, 4) Krajowa Rada Radiofonii i Telewizji, 5) Komisja Nadzoru Finansowego, 6) Rzecznik Małych i Średnich Przedsiębiorców, 7) Rzecznik Praw Obywatelskich, 8) Rzecznik Praw Dziecka, 9) Polskie Centrum Akredytacji, 10) Polski Komitet Normalizacyjny, 11) Rzecznik Praw Pacjenta, 12) Rzecznik Finansowy, 13) Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 14) Główny Inspektor Pracy, 15) Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, 16) Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, 17) Prezes Prokuratorii Generalnej RP, 18) Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, 19) Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, 20) Krajowa Rady Sądownictwa, 21) Dyrektor Narodowego Centrum Badań i Rozwoju, 22) Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, 23) Dyrektor Polskiej Agencji Inwestycji i Handlu, 24) Prezes Polskiego Funduszu Rozwoju, 25) Dyrektor Narodowego Centrum Nauki, 26) Przewodniczący Zarządu Głównego Forum Związków Zawodowych, 27) Przewodniczący Komisji Krajowej NSZZ „Solidarność”, 28) Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, 29) Prezydent Konfederacji Lewiatan, 30) Prezydent Pracodawców RP, 31) Prezes Związku Pracodawców Business Centre Club, 32) Prezes Związku Przedsiębiorców i Pracodawców, 33) Prezes Związku Rzemiosła Polskiego, 34) Przewodniczący Federacji Przedsiębiorców Polskich, 35) Prezes Polskiego Towarzystwa Gospodarczego, 36) Federacja Związków Zawodowych Pracowników Telekomunikacji, 37) Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, 15 38) Stowarzyszenie Eksporterów Polskich, 39) Stowarzyszenie Konsumentów Polskich, 40) Związek Polskich Pracodawców Handlu i Usług, 41) Związek Firm Doradztwa Finansowego, 42) Związek Pracodawców Branży Internetowej IAB Polska, 43) Przewodniczący Forum Związków Zawodowych, 44) Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”, 45) Przewodnicząca Rady Dialogu Społecznego, 46) Przewodniczący Rady Działalności Pożytku Publicznego. W ramach I etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 16 października 2024 r. Termin na zgłaszanie uwag wynosił 30 dni. W ramach II etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 10 lutego 2025 r. Termin na zgłaszanie uwag wynosił 14 dni. W ramach opiniowania projekt ustawy został także przekazany Komisji Wspólnej Rządu i Samorządu Terytorialnego. 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 (2026) 1 2 3 4 5 6 7 8 9 10 Łącznie (0–10) Dochody ogółem 1,86 7,21 7,38 7,57 7,75 7,94 8,16 8,35 8,57 8,77 9,00 82,56* Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia budżet państwa 0,05 0,18 0,18 0,19 0,19 0,19 0,20 0,20 0,21 0,21 0,21 2,01 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia JST 0,26 1,00 1,02 1,05 1,07 1,10 1,13 1,16 1,19 1,22 1,25 11,45 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia FUS 1,17 4,56 4,67 4,79 4,91 5,03 5,16 5,28 5,42 5,55 5,70 52,24 NFZ 0,29 1,12 1,15 1,17 1,20 1,23 1,27 1,30 1,33 1,36 1,40 12,82 FP 0,04 0,14 0,15 0,15 0,16 0,16 0,16 0,17 0,17 0,18 0,18 1,46 FS 0,05 0,21 0,21 0,22 0,22 0,23 0,24 0,24 0,25 0,25 0,26 2,18 pozostałe jednostki (oddzielnie) 0 0 0 0 0 0 0 0 0 0 0 0 Wydatki ogółem 9,95 24,54 24,97 25,69 26,43 27,19 27,98 28,79 29,62 30,48 31,374 287,01 budżet państwa 9,30 23,74 24,17 24,89 25,63 26,39 27,18 27,99 28,82 29,68 30,57 278,36 JST 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 2,2 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia pozostałe jednostki (oddzielnie) 0,45 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 6,45 Saldo ogółem -8,09 -17,33 -17,59 -18,12 -18,68 -19,25 -19,82 -20,44 -21,05 -21,71 -22,37 -204,45 budżet państwa -9,25 -23,56 -23,99 -24,70 -25,44 -26,20 -26,98 -27,79 -28,61 -29,47 -30,36 -276,35 JST 0,06 0,80 0,82 0,85 0,87 0,90 0,93 0,96 0,99 1,02 1,05 9,25 pozostałe jednostki (oddzielnie) -0,45 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -6,45 Źródła finansowania Źródłem finansowania dla wydatków związanych z powołaniem nowego organu (Komisji) będzie budżet państwa. Wydatki związane utworzeniem i funkcjonowaniem Komisji w 2026 r. będą pokryte z rezerwy celowej, która za pismem Ministerstwa Finansów z 6 października 2025 r., sygn. PR2.021.403.2024, „zgodnie z wystąpieniem Ministra Cyfryzacji w sprawie dodatkowych potrzeb wynosi 20 250 000 złotych” i znajduje się w części 83 budżetu państwa. Koszty związane z jej funkcjonowaniem w latach kolejnych (2027–2035) pokrywane będą z części 27 – Informatyzacja. Oszacowane skutki finansowe związane z wejściem w życie projektowanej ustawy muszą zostać zabezpieczone w ustawie budżetowej na rok 2027 i lata następne. Mając na uwadze zatrudnienie 16 pracowników urzędu obsługującego ministra właściwego do spaw informatyzacji na zasadach określonych w ustawie o służbie cywilnej, niezbędne jest też dodatkowe coroczne uwzględnienie zmiany kwoty bazowej w ramach skutków finansowych wejścia w życie projektu ustawy. Źródłem finansowania dla wydatków związanych oddziaływaniem ustawy na Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów będzie budżet części 15 – Sądy powszechne. Skutki proponowanych rozwiązań w części 15 – Sądy powszechne będą możliwe do poniesienia w ramach dotychczas posiadanych środków budżetowych w roku wejścia w życie ustawy i nie będą podstawą do planowania i ubiegania się o dodatkowe środki z budżetu państwa w roku wejścia w życie ustawy. Po pierwszych latach funkcjonowania przepisów ustawy Ministerstwo Sprawiedliwości dokona rewizji skutków finansowych w ramach prac nad ustawą budżetową w oparciu o rzeczywiste obciążenie etatowe dla sądów i SOKIK Pomoc finansowa udzielana przez ministra właściwego do spraw informatyzacji w oparciu o art. 99 ustawy będzie każdorazowo finansowana w ramach limitu wydatków części 27 – Informatyzacja i nie będzie stanowić podstawy do ubiegania się o dodatkowe środki z budżetu państwa na ten cel w okresie obowiązywania ustawy. Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych. Przyjęcie projektu nie będzie podstawą do planowania i ubiegania się o dodatkowe środki finansowe dla części 10 – Urząd Ochrony Danych Osobowych (w tym na nowe etaty). Kwoty dochodów budżetu państwa oszacowano proporcjonalnie do kwot dochodów JST wykazanych w tabeli powyżej, zgodnie z zasadą podziału wpływów z PIT pomiędzy JST i budżet państwa w proporcjach 85% : 15%. Zastosowano wzór: Dochody budżetu państwa = (15/85) × Dochody JST * Ustalenie szacunkowej wysokości nałożonych kar z tytułu naruszenia przepisów rozporządzenia 2024/1968, które będą stanowić przychód budżetu państwa w ujęciu rocznym nie jest możliwe w oparciu o obecny stan wiedzy. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Utworzenie i funkcjonowanie nowego organu nadzoru rynku Skutki finansowe niniejszej ustawy związane z utworzeniem organu nadzoru rynku AI i zapewnieniem realizacji jego zadań zostały wyliczone przy założeniu, że powstanie nowy krajowy organ nadzoru pełniący jednocześnie funkcję punktu kontaktowego. Organ będzie miał charakter kolegialny. Obsługę administracjo-kancelaryjną organu będzie zapewniał urząd obsługujący ministra właściwego do spraw informatyzacji w zakresie posiadanych zasobów kadrowych. W celu zapewnienia realizacji zadań Komisji i Przewodniczego Komisji będą oni mogli upoważnić pracowników ww. urzędu do załatwiania niektórych spraw w ich imieniu. W tym celu planowane jest utworzenie właściwej komórki organizacyjnej w urzędzie i zasilenie jej docelowo 70 nowymi etatami merytorycznymi. Szacowana liczba etatów wynika z potrzeby zabezpieczenia realizacji zadań tego podmiotu określonych w ustawie i rozporządzeniu 2024/1689. Szacunkowo przyjęto założenie, że w roku 2026 zatrudnienie nowych pracowników merytorycznych wyniesie 30 osób, a w następnych latach do 70 etatów merytorycznych nie wliczając w to Przewodniczącego Komisji oraz dwóch zastępców Przewodniczego Komisji. Do nowych pracowników zastosowanie znajdą przepisy ustawy o służbie cywilnej oraz ustawy –Kodeks pracy. Środki na wynagrodzenia i funkcjonowanie Komisji będą uruchamiane adekwatnie do upływu czasu i faktycznego zatrudnienia w roku wejścia w życie ustawy i w każdym następnym roku do daty uzyskania pełnej funkcjonalności Koszty w roku 2026 wynoszą 9 301 554,00 zł i obejmują: a) wydatki jednorazowe: – zakup 50 laptopów z dodatkowymi monitorami oraz stacjami dokującymi, akcesoriami i systemami informatycznymi, telefony dla nowo zatrudnionych pracowników – 460 000,00 zł, – zakup mebli i wyposażenia – 400 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej (czerwiec-grudzień) – 787 500,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego dwóch zastępców (kwiecień- grudzień) –562 868,46 zł d) wydatki na wynagrodzenia dla 30 etatów (czerwiec-grudzień) – 3 150 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%, czerwiec-grudzień) – 693 935,12 zł, f) Pracownicze Plany Kapitałowe (czerwiec-grudzień) – 47 250,00 zł, 17 g) wydatki bieżące – 3 200 000,00 zł, Koszty w roku 2027 wynoszą 23 743 043,10 zł i obejmują: a) wydatki jednorazowe – zakup 40 laptopów z dodatkowymi monitorami oraz stacjami dokującymi i akcesoriami, telefony dla nowo zatrudnionych pracowników – 360 000,00 zł, – zakup mebli i wyposażenia – 250 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 750 491,28 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 650 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 691 451,82 zł, f) Pracownicze Plany Kapitałowe – 191 100,00 zł, g) wydatki bieżące – 4 500 000,00 zł. Koszty roczne w latach 2028 i kolejnych wynoszą 24 165 119,18 zł i obejmują: (waloryzacja kwoty na lata kolejne została ujęta w tabeli przy założeni CPI: 102,5%) a) wydatki na odnowienie zasobów majątkowych – 100 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 769 253,56 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 991 250,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 758 738,12 zł, f) Pracownicze Plany Kapitałowe – 195 877,50 zł, g) wydatki bieżące – 5 000 000,00 zł. Całkowity koszt funkcjonowania Komisji w roku 2026, stanowiącym rok zerowy, oraz w kolejnych dziesięciu latach został oszacowany na 278,36 mln zł. Konstrukcja budżetu obejmuje zarówno koszty bieżące, inwestycyjne, jak i osobowe, przy czym w kosztach bieżących ujęto również wydatki związane z wykonywaniem zadań Komisji, w tym czynności o charakterze kontrolnym, analitycznym oraz regulacyjnym, wynikających z przepisów rozporządzenia 2024/1689 oraz projektowanej ustawy. Wynagrodzenia dla Przewodniczącego oraz Zastępców Przewodniczącego Komisji zostały określone w przepisach ustawy poprzez odniesienie do mnożnika kwoty bazowej właściwej dla członków korpusu służby cywilnej. Mnożnik ten wynosi 8 w przypadku Przewodniczącego oraz 7 w przypadku Zastępców Przewodniczącego, natomiast wynagrodzenia te nie stanowią dodatkowego obciążenia dla budżetu Komisji, gdyż są ponoszone w ramach budżetów organów delegujących swoich przedstawicieli. Z uwagi na pionierski charakter regulacji oraz brak danych historycznych w obszarze nadzoru nad systemami sztucznej inteligencji, przedstawione oszacowania mają charakter najlepszego dostępnego przybliżenia, opartego na analizie specjalistycznej próby podmiotów oraz międzynarodowych trendów regulacyjnych. Dochody sektora finansów publicznych zostały oszacowane na podstawie obowiązujących stawek składek na ubezpieczenia społeczne i zdrowotne oraz udziałów w podatku PIT. Kalkulacja uwzględnia wynagrodzenia pracowników Komisji przy założeniu przeciętnego wynagrodzenia brutto na poziomie 15 000 zł miesięcznie oraz etapowego zatrudnienia (30 etatów w 2026 r., 70 etatów od 2027 r.). Dochody obejmują wpływy do Funduszu Ubezpieczeń Społecznych, Narodowego Funduszu Zdrowia, Funduszu Pracy oraz Funduszu Solidarnościowego wynikające z obowiązkowych składek od wynagrodzeń. Zadania Komisji charakteryzują się zmiennym poziomem złożoności i nieprzewidywalnością wolumenu wpływu, wynikającymi z narastającego w czasie wykorzystania systemów sztucznej inteligencji oraz procesów wdrażania AI Act. Komisja musi być przygotowana na obsługę zarówno niewielkiej liczby wniosków w pierwszych miesiącach funkcjonowania ustawy, jak i stopniowego, wykładniczego wzrostu zapotrzebowania na opinie, kontrole i postępowania administracyjne. Z tego względu szacunki pracochłonności mają charakter wariantowy i uwzględniają zarówno scenariusz bazowy, jak i scenariusz wzrostu rynku. W odniesieniu do pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji przyjęto średnie miesięczne wynagrodzenie na poziomie 15 000 zł brutto. Wartość ta została ustalona na podstawie danych zawartych w sprawozdaniu Szefa Służby Cywilnej za 2024 r., z uwzględnieniem 18 kategorii stanowisk odpowiadających wysokiemu stopniowi specjalizacji technicznej, analitycznej oraz regulacyjnej, niezbędnej do wykonywania zadań Komisji. Kwotę skorygowano zgodnie ze średnioroczną dynamiką cen towarów i usług konsumpcyjnych według wytycznych Ministra Finansów dla roku 2026. Koszty wynagrodzeń w kolejnych latach zostały zwaloryzowane zgodnie z tymi wskaźnikami, przy uwzględnieniu wynagrodzenia dodatkowego przysługującego pracownikom służby cywilnej. Z uwagi na silną konkurencję na rynku pracy w obszarze AI, cyberbezpieczeństwa oraz analityki danych, poziom wynagrodzeń musi umożliwiać rekrutację ekspertów zdolnych do realizacji zadań o wysokim stopniu specjalizacji. Dane rynkowe oraz doświadczenia administracji publicznej wskazują na rosnącą trudność pozyskania specjalistów w tych obszarach, co wymaga ukształtowania wynagrodzeń na poziomie odpowiadającym stawkom rynkowym i zapewniającym stabilność zatrudnienia. W kalkulacji ujęto również zakup 90 zestawów komputerowych, obejmujących laptopy, monitory oraz akcesoria, zapewniających odpowiednie wyposażenie zarówno dla pracowników merytorycznych (70 etatów docelowych), jak i pracowników wsparcia administracyjno-technicznego, funkcjonujących w ramach urzędu obsługującego ministra. Wyposażenie to stanowi także zapas sprzętowy wykorzystywany podczas działań wspierających, w tym w szczególności w piaskownicach regulacyjnych i innych działaniach wymagających bezpiecznego przetwarzania danych. Uwzględniono również koszty związane z Pracowniczymi Planami Kapitałowymi, przy założeniu, że uczestnictwo w programie obejmie około 70% pracowników wykonujących zadania Komisji, a składka pracodawcy wyniesie 2%. Jednocześnie oszacowany dochód Funduszu Pracy wynika z obowiązkowej składki w wysokości 1%, zgodnie z art. 25 ustawy budżetowej na rok 2026. Założenia budżetowe dla nowej instytucji oparte zostały na analizie kosztów działalności istniejących organów nadzorczych i regulacyjnych w obszarze cyfrowym, w szczególności w zakresie ochrony danych osobowych, cyberbezpieczeństwa oraz nadzoru nad algorytmami. Przyjęto, że koszty te stanowią adekwatny punkt odniesienia ze względu na podobny poziom specjalizacji, charakter zadań oraz wymagania techniczno-organizacyjne. Liczba etatów niezbędnych do zapewnienia realizacji zadań Komisji została określona w oparciu o analizę katalogu obowiązków nałożonych zarówno rozporządzeniem 2024/1689, jak i przepisami krajowymi. Zadania te obejmują w szczególności: nadzór nad systemami sztucznej inteligencji – zwłaszcza systemami wysokiego ryzyka; pełnienie funkcji pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia; współpracę z organami i instytucjami Unii Europejskiej; prowadzenie działań monitorujących, edukacyjnych oraz komunikacyjnych; a także obsługę piaskownic regulacyjnych. Zadania te mają charakter wielodyscyplinarny, często wymagający jednoczesnego zaangażowania ekspertów z różnych obszarów, w tym prawa, inżynierii oprogramowania, analityki danych, zarządzania ryzykiem i cyberbezpieczeństwa. W celu oszacowania pracochłonności poszczególnych zadań zastosowano podejście wariantowe, właściwe dla pomiaru kosztów regulacyjnych. Polega ono na identyfikacji strumieni pracy, określeniu typowych czynności oraz przyjęciu założeń co do wolumenu i złożoności spraw w pierwszych latach funkcjonowania organu. W ramach analizy wyróżniono następujące główne strumienie pracy: sprawy interpretacyjne i informacyjne (w tym przygotowywanie opinii indywidualnych, wyjaśnień, materiałów informacyjnych oraz czynności związane z anonimizacją); nadzór rynku i kontrole; postępowania administracyjne, w tym środki naprawcze oraz nakładanie administracyjnych kar pieniężnych; monitoring rynku oraz analitykę ryzyka; inicjowanie i prowadzenie piaskownic regulacyjnych; współpracę krajową i międzynarodową; oraz zadania sprawozdawcze, obejmujące w szczególności obowiązki wobec Komisji Europejskiej i grup ekspertów unijnych. Prognozuje się, że roczny wolumen spraw kierowanych do Komisji będzie obejmował łącznie około 630–865 spraw, w zależności od dynamiki rozwoju rynku oraz zakresu wykorzystywania systemów sztucznej inteligencji. Wstępna analiza wskazuje, że obsługa spraw interpretacyjnych wymaga przeciętnie od kilku do kilkunastu godzin pracy, natomiast zadania kontrolne, ocena zgodności systemów wysokiego ryzyka oraz postępowania administracyjne wymagają znacznie większego nakładu pracy, często przekraczającego kilkadziesiąt roboczogodzin per sprawa, przy konieczności jednoczesnego zaangażowania kilku specjalistów. Ponadto zadania związane ze współpracą z 19 organami unijnymi oraz sprawozdawczością mają charakter stały i wymagają rocznie kilkuset godzin pracy. Na podstawie powyższych założeń roczny nakład pracy niezbędny do realizacji wszystkich zadań został oszacowany na około 34 000–42 000 roboczogodzin. Przy efektywnym rocznym wymiarze czasu pracy jednego etatu wynoszącym około 1 600 roboczogodzin, minimalne zapotrzebowanie kadrowe wynosi około 21–26 etatów. Jednakże, z uwagi na złożoność zadań, konieczność pracy zespołowej, zastępowalności pracowników, obowiązków stałych wynikających z unijnych mechanizmów nadzorczych oraz wysokie wymagania kompetencyjne, zasadne jest przyjęcie wyższej liczby etatów. W związku z powyższym przyjęto etapowanie zatrudnienia, zakładające 30 etatów w roku 2026, który obejmuje uruchomienie organu, przygotowanie procedur, wdrożenie narzędzi informatycznych oraz rozpoczęcie działań merytorycznych. Od dnia 1 stycznia 2027 r. przewidziano osiągnięcie docelowego poziomu 70 etatów merytorycznych. Poziom ten umożliwi wykonywanie wszystkich zadań nałożonych przepisami prawa, w tym realizację kontroli, prowadzenie postępowań administracyjnych, analiz ryzyka oraz funkcjonowanie piaskownic regulacyjnych. Zasadność zwiększenia zatrudnienia z 30 etatów w roku 2026 do 70 etatów od 2027 r. wynika przede wszystkim z prognozowanego, wykładniczego przyrostu liczby podmiotów korzystających z systemów sztucznej inteligencji oraz szybko rosnącej grupy firm deklarujących zamiar wdrożenia rozwiązań AI. Dane z przeprowadzonego wewnętrznie badania ilościowego (N=229, badanie dot. zapotrzebowania na piaskownice regulacyjne przeprowadzone w dn. 2.02.2026 – 16.02.2026) wskazują, że już obecnie 214 firm (93,4%) korzysta z AI, natomiast 132 podmioty (57,6%) samodzielnie wytwarzają rozwiązania AI, przy czym kolejne przedsiębiorstwa deklarują wejście na rynek w perspektywie najbliższych lat. Jednocześnie wysoki odsetek firm na wczesnych etapach rozwoju technologicznego — obejmujący prace koncepcyjne, pilotaże i prototypowanie — świadczy o tym, że w nadchodzących latach znaczna część z nich wkroczy w fazę wdrożeniową, co nieuchronnie zwiększy liczbę spraw wymagających wsparcia interpretacyjnego, nadzorczego oraz kontrolnego ze strony Komisji. W warunkach dynamicznego rozwoju rynku sztucznej inteligencji należy przyjąć, że przyrost firm generujących zapotrzebowanie na działania organu nie będzie miał charakteru liniowego. Z uwagi na charakter technologii, efekty sieciowe, szybko rosnący popyt na rozwiązania generatywne oraz skalę komercjalizacji systemów uczenia maszynowego, liczba podmiotów wytwarzających lub wdrażających AI rośnie wykładniczo, czego potwierdzeniem są m.in. dane o wysokim tempie adopcji nowych modeli AI oraz systematyczne zwiększanie się liczby sektorów wykorzystujących te technologie. Wyniki badania, obejmujące firmy o najbardziej zaawansowanych profilach technologicznych na rynku, stanowią w tym kontekście próbę wyprzedzającą, wskazującą kierunek rozwoju całej populacji przedsiębiorstw. Oznacza to, że liczba podmiotów, które w 2026 r. wystąpią do Komisji z wnioskami o opinie, zgłoszeniami naruszeń, sprawami dotyczącymi kwalifikacji systemów lub wnioskami o udział w piaskownicach regulacyjnych, będzie w 2027 r. i latach kolejnych istotnie wyższa, a skala tego wzrostu będzie narastała w miarę dojrzewania rynku. W tych warunkach poziom zatrudnienia ograniczony do 30 etatów pozwoli jedynie na uruchomienie organu oraz obsługę wstępnego wolumenu spraw, natomiast nie zapewni zdolności operacyjnej do obsługi rosnącego strumienia zadań wynikających z rozporządzenia 2024/1689. Dopiero zwiększenie zatrudnienia do 70 etatów od 2027 r. gwarantuje możliwość realizacji pełnego katalogu obowiązków nadzorczych, w tym pracy zespołowej wymaganej w czynnościach kontrolnych i postępowaniach administracyjnych oraz odpowiedniej obsługi rosnącej liczby podmiotów na rynku sztucznej inteligencji, którego rozwój ma charakter wykładniczy, a nie liniowy. Zadanie Prognozowana liczba spraw / rok Szacunkowy czas realizacji jednej sprawy Łączna pracochłonność roczna (roboczogodziny) Opinie indywidualne, wyjaśnienia i sprawy interpretacyjne 350–450 6–10 h 2 100 – 4 500 Zgłoszenia naruszeń i sygnały dot. niezgodności 120–180 10–15 h 1 200 – 2 700 Analiza ryzyka i monitoring rynku AI 80–120 10–15 h 800 – 1 800 20 Czynności kontrolne 50–70 25–40 h 1 250 – 2 800 Postępowania administracyjne 20–30 60–90 h 1 200 – 2 700 Obsługa piaskownic regulacyjnych 10–15 30–50 h 300 – 750 Współpraca unijna i sprawozdawczość zadania stałe 500–700 h (w ramach etatów) 500 – 700 Pozostałe zadania przekrojowe Zmienne 900–1 200 h 900 – 1 200 Tabela 1. Zestawienie głównych strumieni pracy Komisji, prognozowanej liczby spraw oraz szacunkowego czasu ich realizacji W modelu organizacyjnym uwzględniono stosowanie rozwiązań cyfrowych i automatyzacji procesów, zgodnie z zasadą celowości i oszczędności wydatków publicznych (art. 44 ust. 3 ustawy o finansach publicznych). W szczególności zakłada się wykorzystanie systemów zarządzania sprawami, standaryzacji dokumentów i obiegu informacji, narzędzi do wstępnej selekcji i priorytetyzacji wpływów, wsparcia monitoringu rynku i analityki ryzyka oraz narzędzi wspomagających anonimizację i publikację materiałów. Rozwiązania te umożliwią racjonalizację nakładu pracy przy zachowaniu wysokich standardów ochrony danych i niezależności procesu decyzyjnego. Należy jednocześnie podkreślić, że skuteczne wykonywanie zadań Komisji wymaga zatrudnienia wysoko wykwalifikowanych ekspertów posiadających nie tylko wiedzę techniczną w zakresie systemów sztucznej inteligencji, lecz także kompetencje analityczne, komunikacyjne, projektowe oraz biegłą znajomość języka angielskiego. Ze względu na intensywną konkurencję na rynku pracy w obszarze nowych technologii i cyberbezpieczeństwa, jak również trudności w rekrutacji i utrzymaniu specjalistów, uzasadnione jest umożliwienie zatrudnienia na podstawie przepisów Kodeksu pracy, zapewniając odpowiedni poziom elastyczności organizacyjnej. Wreszcie, wprowadzenie opłaty za wniosek o wydanie opinii indywidualnej w wysokości 150 zł stanowi źródło dochodu sektora finansów publicznych oraz instrument racjonalizujący zapotrzebowanie na opinie. Z uwagi na brak danych historycznych przyjęto wariantowe oszacowanie liczby wniosków — w wariancie bazowym około 800 rocznie — przy czym wartości te zostaną zweryfikowane po pierwszym pełnym roku funkcjonowania systemu. Pracochłonność zadań Komisji będzie zależna od szeregu zmiennych, w szczególności: stopnia dojrzałości technologicznej rynku, liczby systemów zaklasyfikowanych jako wysokiego ryzyka, poziomu świadomości regulacyjnej wśród przedsiębiorców, dynamiki przyrostu nowych modeli generatywnych i ich wersji, a także decyzji organów unijnych dotyczących interpretacji przepisów AI Act. Prognozuje się, że w pierwszych latach funkcjonowania ustawy poziom zapotrzebowania na działania interpretacyjne i doradcze będzie rosnąć szybciej niż liczba postępowań egzekucyjnych; po osiągnięciu dojrzałości regulacji trend ten może ulec odwróceniu. Brak zapewnienia odpowiednich zasobów kadrowych i technicznych mógłby skutkować opóźnieniami w rozpatrywaniu wniosków, ograniczeniem zdolności do prowadzenia kontroli systemów wysokiego ryzyka, niewywiązywaniem się z obowiązków sprawozdawczych wobec Komisji Europejskiej oraz ryzykiem naruszenia art. 70 ust. 3 rozporządzenia 2024/1689, który nakłada na państwa członkowskie obowiązek zapewnienia organom odpowiednich zasobów, w tym technicznych i ludzkich. Niewystarczające zasoby w pierwszych latach obowiązywania ustawy mogłyby również negatywnie wpłynąć na tempo rozwoju sektora AI w Polsce i ograniczyć konkurencyjność przedsiębiorstw wdrażających AI. PCA Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2026 r. Projekt ustawy o systemach sztucznej inteligencji zakłada, że Polskie Centrum Akredytacji jest zobowiązane do akredytacji jednostek oceniających zgodność na potrzeby ustawy oraz rozporządzenia 2024/1689. Dodatkowo Polskie Centrum Akredytacji jest zobowiązane we współpracy z ministrem właściwym do spraw informatyzacji, do opracowania szczegółowego programu akredytacji jednostek oceniających zgodność oraz do dokonywania aktualizacji tego programu, co 24 miesiące, 21 uwzględniając wnioski z jego bieżącej realizacji. Projekt zakłada również wprowadzenie obowiązków sprawozdawczych zgodnie, z którymi PCA przekazuje ministrowi właściwemu do spraw do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zgodnie z projektem do akredytacji stosuje się odpowiednio przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Ustawa ta odwołuje się do przepisów rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i nadzoru rynku odnoszącym się do warunków wprowadzania produktów do obrotu i uchylającym rozporządzenie (EWG) nr 339/93, zgodnie z którymi Polskie Centrum Akredytacji zostało wskazane jako jedyna krajowa jednostka akredytująca. Przyjęte dyspozycje zobowiązują zatem PCA do opracowania i utrzymywania dedykowanego przedmiotowym przepisom prawa programu akredytacji, uruchomienie akredytacji wg opracowanego programu, w tym przeprowadzanie procesów akredytacji oraz nadzoru nad udzielonymi akredytacjami zgodnie z przepisami rozporządzenia 765/2008 oraz przepisami o systemach oceny zgodności i nadzoru rynku. Zastosowanie mają w tym przypadku tu wszystkie horyzontalne dokumenty PCA (np. DA-01 „Opis systemu akredytacji”, DA-08 „Prawa i obowiązki akredytowanego podmiotu”, DA-09 Zakres działalności akredytacyjnej PCA, DA-10 „Akredytacja w zakresach elastycznych” itp.) oraz dokumenty odnoszące się do danego typu jednostek oceniających zgodność, związane z rozszerzeniem działalności akredytacyjnej PCA o nowy obszar oceny zgodności przewidziany w przedmiotowym przepisie prawa. W przypadku ustawy o systemach sztucznej inteligencji UC71 przyjęte rozwiązanie zakłada również notyfikację akredytowanej jednostki oceniającej zgodność przez ministra właściwego ds. informatyki. W konsekwencji w procesie akredytacji i w procesach nadzoru nad udzieloną akredytacją zastosowanie mają zasady określone w dokumencie DA-11 „Akredytacja jednostek oceniających zgodność do celów notyfikacji”, co dodatkowo rozszerza zakres realizowanych przez PCA ocen i skomplikowanie nadzoru nad udzielonymi akredytacjami. Ponadto akredytacja do celów notyfikacji zobowiązuje PCA do udziału w pracach właściwych grup dla „notifying authorities” łącznie z reprezentantami organów notyfikujących i zainteresowanych stron. W konsekwencji powyższego, dla realizacji zadań określonych w przedmiotowym przepisie prawa PCA musi dysponować odpowiednimi – poszerzonymi kompetencjami i poszerzonymi zasobami personelu. Kompetencje te będą obejmować znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją w specyficznym obszarze regulowanym przepisami oraz wiedzę z zakresu projektowanej regulacji prawnej. Kompetencje te muszą być pozyskane przez PCA w ramach poszerzenia zasobów osobowych do realizacji procesów akredytacji i nadzoru, o ekspertów z wysokim poziomem kompetencji, z unikalnego nowego obszaru technicznego rozwijającego się obecnie w sposób niezwykle dynamiczny, a tym samym wymagającego znacznych inwestycji finansowych dla pozyskania ekspertów. Powierzenie nowych obowiązków obecnym pracownikom PCA nie jest możliwe z punktu widzenia merytorycznego i ograniczonych możliwości produkcyjnych posiadanych zasobów. Aktualnie PCA nie zatrudnia ekspertów z zakresu AI i rozporządzenia 2024/1689 nie dysponuje wystarczającą wiedzą w tym zakresie. Ponadto, aktualny stan zatrudnienia PCA uniemożliwia nałożenie na obecnych pracowników wszystkich dodatkowych zadań wynikających z rozszerzenia działalności akredytacyjnej PCA w zakresie obszaru oceny zgodności określonej w przepisie. Osoby te musza dysponować wiedzą zarówno w odniesieniu do przepisów AI jak i w odniesieniu do rozwiązań odnoszących się do akredytacji i realizować nowe zadania w poniższych głównych kierunkach wymagających rozdzielności stanowiskowej: a) w zakresie programu akredytacji będą zobowiązane do opracowania treści postanowień programu w korelacji z międzynarodowymi normami zharmonizowanymi i procedurami operacyjnymi PCA, uzgodnienia treści programu z regulatorem i zainteresowanymi stronami i przeprowadzenia procedury zatwierdzenia programu do stosowania, wdrożenie programu do działalności PCA (operacyjnie i merytorycznie) w celu rozszerzenia działalności akredytacyjne. Po rozszerzeniu działalności akredytacyjnej będą zobowiązane monitorować aktualność programu i zapewnić (w trybie jak powyżej) ciągłą przydatność programu do zamierzonego zastosowania; b) w zakresie procesu akredytacji będą zobowiązane do weryfikacji wniosku o akredytacje, wstępnego przygotowania oceny akredytacyjnej, uzgodnienie zakresu oceny, komunikacji z 22 jednostką oceniającą zgodność oraz zespołem oceniającym, podjęciem odpowiednich działań w systemie e-Akredytacja, brania udziału w ocenie jako audytorzy wiodący i bezpośrednio nadzorować ocenę (tu dodatkowo wymagana jest znajomość norm akredytacyjnych np. PN/ EN ISO 17065), po ocenie biorą udział w przygotowywaniu i zatwierdzaniu raportu oraz w działaniach związanych z obsługą kart niezgodności, przygotowują dokumenty w procesie decyzyjnym oraz biorą udział w procesie decyzyjnym. Jednocześnie wszystkie te czynności wykonywane są zgodnie z przepisami rozporządzenia nr 765/2008, ustawy o systemach oceny zgodności i nadzoru rynku oraz normy ISO/IEC 17011 co prowadzi np. do konieczności rozdzielenia osobowego w procesie realizacji oceny od podejmowania decyzji na bazie wyników tej oceny. c) w zakresie procesu nadzoru nad udzieloną akredytacją będą zobowiązane do opracowania programu nadzoru a następnie organizacji ocen w nadzorze oraz obserwacji działania jednostek oceniających zgodność. w rzeczywistości. Proces organizacji ocen w nadzorze jest analogiczny do ocen akredytacyjnych. Reasumując, wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci zobligowania PCA do realizacji zadań związanych z akredytacją w nowym obszarze oceny zgodności, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przyjęcie przez PCA powyższych zadań związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań:  opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji  szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu,  komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji,  organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689,  monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Planowane zwiększenie funduszu osobnego PCA nie oznacza automatycznego wykorzystania funduszu w tej wysokości. Zgodnie z ustawą z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową, a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa i zgodnie z ww. ustawą prowadzi samodzielną gospodarkę finansową, która jest działalnością nienastawioną na zysk. W konsekwencji poziom wykorzystania limitu 0,6 mln zł uzależniony jest od zapotrzebowania na wykonanie określonych, ww. zadań. Przy czym, poziom realizację nowych zadań na poziomie PCA, a tym samym zapotrzebowanie na wykorzystanie zaplanowanego przez PCA funduszu na poziomie jak wyżej, będzie zależał zarówno od złożoności działań, które należy wykonać w procesie akredytacji i nadzoru nad udzieloną akredytacją jak i liczby jednostek oceniających zgodność ubiegających i posiadających taką akredytację. Liczba akredytowanych jednostek oceniających zgodność zależy od zainteresowania certyfikacją w danym obszarze. W przedmiotowym przypadku mamy do czynienia z rozwijającym się dynamicznie rynkiem sztucznej inteligencji i obowiązkową oceną zgodności systemów AI wysokiego ryzyka. Mając na uwadze powyższe, należy oczekiwać szybko rosnącego poziomu zainteresowania tym tematem i przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację i posiadających akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do nowego, innowacyjnego i bardzo szybko rozwijającego się sektora gospodarki. W obszarze tym nie ma „utartych” rozwiązań, ugruntowanego orzecznictwa i pojawiające się sprawy zawsze będą sprawami „nowymi”. W takich sektorach rozwiązania prawne są zazwyczaj przygotowywane w pewnym opóźnieniu do faktycznego rozwoju rynku. Można zatem oczekiwać zarówno dużej liczby spraw spornych, wątpliwych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością uwzględnienia ocenianej specyfiki. Niezbędne będzie zwiększenie wydatków na fundusz osobowy PCA o w 2026 r. o 0,45 mln, a od 2027 r. 0,6 mln zł. rocznie i utrzymanie tego stanu na lata kolejne. PCA jest jednostką samofinansującą się, której głównym celem jest pokrycie wszystkich kosztów, łącznie z wynagrodzeniami, z uzyskanych przychodów. PCA nie otrzymuje środków z budżetu państwa. 23 Reasumując wykonanie wnioskowanej zmiany funduszu osobowego nie jest automatyczne i będzie możliwe wyłącznie w przypadku, gdy PCA będzie dysponować przychodami pozwalającymi na wprowadzenie przedmiotowego zwiększenia. W ramach ww. zwiększenia planowane jest zatrudnienie dwóch osób oraz dodatki zadaniowe dla osób wykonujących zadania w przedmiotowym zakresie. Ostateczny podział dostępnych środków pomiędzy wynagrodzenie a dodatki zadaniowe zależy od kwalifikacji zatrudnionej osoby i liczby oraz poziomu skomplikowania występujących prac. Wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci przekazania PCA realizacji zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań w tym obszarze: − opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji − szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, − komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, − organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, − monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Z uwagi na rozwijający się dynamicznie rynek sztucznej inteligencji i obowiązek oceny zgodności systemów AI wysokiego ryzyka, przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo dynamicznie rozwijającego się sektora gospodarki. Można zatem oczekiwać zarówno dużej liczby spraw spornych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością zapewnienia obiektywności, niezależności i braku powiązań ocenianych podmiotów. Dodatkowo systemy sztucznej inteligencji wymagają specjalistycznej wiedzy technicznej. Osoby, które będą wykonywały zadania związane z projektowaną ustawą, muszą mieć bardzo wysokie kompetencje ‒ znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji, muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Powierzenie nowych obowiązków obecnym pracownikom PCA nie gwarantuje jakości ani poprawności wykonywanej pracy, gdyż nie są oni ekspertami w zakresie AI ani rozporządzenia 2024/1689 ani też nie posiadają wiedzy w tym zakresie. PCA jest małą jednostką, zatrudniającą ok. 80 osób i nie ma możliwości wygospodarowania dwóch etatów na nowe zadania w ramach istniejących limitów, dlatego konieczne jest utrzymanie w pkt 6 OSR zwiększonych wydatków na wynagrodzenia PCA co daje możliwość zatrudnienia nowych osób. Jednocześnie podejmowanie się procesów akredytacji bez dysponowania odpowiednimi zasobami osobowymi i wiedzą w tym zakresie jest niezgodne z wymaganiami rozporządzenia (WE) 765/2008 oraz normą ISO/IEC 170111 i generuje ryzyko dla skutecznego funkcjonowania procesów akredytacji w obszarze oceny zgodności przewidzianej w projektowanym przepisie. SOKIK Wejście w życie projektowanej ustawy związane jest także z rozszerzeniem działalności Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów o obszar wskazany w ustawie, co wiąże się koniecznością zapewnienia szkoleń. Koszty szkoleniowe zostały oszacowane na 800 000,00 zł rocznie w roku pierwszym i kolejnych latach po wejściu w życie przepisów ustawy. Niezbędne specjalizacyjne szkolenia z zakresu nowych technologii oraz AI Act dla sędziów i asystentów SOKiK – 800 000,00 zł. Szkolenia prowadzone będą przez prawników i specjalistów IT; Zakres szkoleń: zagadnienia z zakresu prawa i technologii; 24 przepisy oraz orzecznictwo, w szczególności unijne z zakresu nowych technologii oraz wykorzystania AI Wydatek ten zostanie pokryty w ramach limitu wydatków Ministra Sprawiedliwości. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0–10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa sektor mikro-, małych i średnich przedsiębiorstw rodzina, obywatele oraz gospodarstwa domowe * Ze względu na wzrost dochodów rozporządzalnych (netto) osób zatrudnionych przy realizacji nowo powstałej Komisji (por. p. 6) 1,86 7,20 7,38 7,56 7,95 8,77 80,98 W ujęciu niepieniężny m duże przedsiębiorstwa Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Projektowane przepisy dają możliwość na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. sektor mikro-, małych i średnich przedsiębiorstw Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów rozporządzenia 2024/1689 w przypadku nałożenia kary przez Komisję może pozytywnie wpłynąć na stosowanie standardów narzucanych systemom sztucznej inteligencji. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej 25 inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez mikro-, małe i średnie przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. Projektowane przepisy dają możliwość MŚP na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, zwłaszcza dla MŚP, które mają korzystać z piaskownicy regulacyjnej nieodpłatnie, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. rodzina, obywatele oraz gospodarstwa domowe Przewiduje się, że wejście w życie ustawy nie wpłynie bezpośrednio na sytuację społeczną rodziny, a także osób niepełnosprawnych oraz osób starszych w tym sytuację ekonomiczną. Jednak spodziewane jest pozytywne długoterminowe odziaływanie pośrednie, poprzez zwiększenie bezpieczeństwa. Niemierzalne Przedsiębiorstwa w tym mikro-, małe i średnie Skutkiem może być podniesienie jakości usług oraz wydajności i konkurencyjności przedsiębiorców. rodzina, obywatele oraz gospodarstwa domowe W długoterminowej perspektywie regulacje mogą przyczynić się do wzrostu świadomości społecznej w zakresie wykorzystania systemów sztucznej inteligencji, przez rozwój i upowszechnienie bezpiecznych systemów sztucznej inteligencji dostępnych w różnych sferach życia, w tym między innymi w edukacji dzieci i dorosłych, finansach osobistych czy służbie zdrowia. Długookresowa perspektywa zakłada wzrost zaufania do narzędzi – systemów sztucznej inteligencji – która może przełożyć się na zwiększenie innowacyjności w codziennym korzystaniu z narzędzi. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie ustawy nie spowoduje natychmiastowych skutków dla gospodarki, ale w dłuższej perspektywie powinna się poprawić wydajność przedsiębiorstw objętych regulacją spowodowane ograniczeniem szkodliwych skutków działania niektórych systemów sztucznej inteligencji. Projekt ustawy wprowadza nakładanie administracyjnych kar pieniężnych oraz instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą dla podmiotów objętych AI Aktem co powinno w przyszłości przynieść korzyści w postaci postępowania zgodnego z prawem. Oczekuje się, że układ umożliwi także dalsze funkcjonowanie na rynku podmiotów zagrożonych karą a jednocześnie pozytywnie wpłynie na rozwój godnej zaufania i bezpiecznej sztucznej inteligencji. Z uwagi na regulację nieznanej dotychczas dziedziny nauki określenie skutków finansowych wynikających z nakładania kar oraz zastosowania nadzwyczajnego sposobu ich złagodzenia nie jest możliwe do oszacowania. 26 Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Celem ustanowienia piaskownic jest zwiększenie pewności prawa, wspieranie wymiany najlepszych praktyk, wzmacnianie konkurencyjności i innowacyjności w Europie oraz ułatwienie MŚP i start- upom wejścia na rynek unijny. Udział w piaskownicy będzie konkurencyjny, z preferencją dla podmiotów z UE, a procedura naboru będzie jawna i umożliwi odwołanie. Opłata za udział wyniesie czterokrotność minimalnego wynagrodzenia, przy czym MŚP będą z niej zwolnione. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Z uwagi na brak analogicznych funkcjonujących rozwiązań określenie skutków finansowych wynikających tworzenia piaskownic regulacyjnych nie jest możliwe do oszacowania. Jednocześnie należy wyjaśnić, że koszty dostosowawcze po stronie przedsiębiorców z sektora AI wynikają z konieczności stosowania rozporządzenia 2024/1689, a nie bezpośrednio projektu ustawy o systemach sztucznej inteligencji. 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). tak nie nie dotyczy zmniejszenie liczby dokumentów zmniejszenie liczby procedur skrócenie czasu na załatwienie sprawy inne: zwiększenie liczby dokumentów zwiększenie liczby procedur wydłużenie czasu na załatwienie sprawy inne: Wprowadzane obciążenia są przystosowane do ich elektronizacji. tak nie nie dotyczy Komentarz: Systemy sztucznej inteligencji, ze względu na wczesny etap rozwoju tej technologii, do tej pory nie były obszarem nadzorowanym w sposób kompleksowy. W związku z tym, uregulowania w tym zakresie, spowodują objęcie nadzorem podmiotów, które do tej nie były pod tym kątem nadzorowane, co w naturalny sposób doprowadzi do zwiększenia liczby procedur lub zwiększenia liczby dokumentów. Konsekwencją objęcia nadzorem systemów sztucznej inteligencji będzie nałożenie na podmioty działające na tym rynku określonych obowiązków (które są określone w rozporządzeniu 2024/1689) sprawozdawczych, informacyjnych i technicznych. Podmioty te będą musiały zadbać o zgodność wykorzystywanych lub dostarczanych systemów sztucznej inteligencji z przepisami rozporządzenia 2024/1689 i ustawy, w tym wyeliminować aktualnie istniejące niezgodności. Konieczna będzie także ich współpraca z Komisją i innymi organami w celu umożliwienia im sprawowania nadzoru nad rynkiem i stosowania odpowiednich środków, takich jak kontrole. Komisja jako wyznaczony organ właściwy w zakresie sprawowania nadzoru nad sztuczną inteligencją w Polsce, będzie wykonywała swoje zadania w oparciu o działania na poziomie krajowym oraz wynikające ze współpracy z organami unijnymi. Dodatkowo, stworzenie nowego organu do spraw nadzoru nad sztuczną inteligencją będzie wiązało się z obciążeniami administracyjnymi, wynikającymi z realizacji zadań, jakie nakłada na ten organ rozporządzenie 2024/1689, m.in. przekazywanie sprawozdań z działalności organu Komisji Europejskiej, współpraca międzyinstytucjonalna, wydawanie decyzji w sprawach dotyczących naruszeń, udzielanie wskazówek i porad przedsiębiorcom. Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Udział w piaskownicy będzie odpłatny, konkurencyjny, a procedura naboru będzie jawna i umożliwi odwołanie. Przewiduje się zwolnienie MŚP z opłaty. Uczestnicy będą zobowiązani do informowania użytkowników, corocznego raportowania, publikowania wyników oraz zgłaszania zmian. Komisja będzie uprawniona do kontroli, a w przypadku naruszeń – do wezwania do ich usunięcia lub wykluczenia z udziału. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Projekt ustawy poza regulacjami wynikającymi bezpośrednio z rozporządzenia 2024/1689 wprowadza również rozwiązania o charakterze uzupełniającym. 27 Regulacje w tym zakresie będą nakładały na Komisję dodatkowe obowiązki w zakresie rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, przetwarzania danych osobowych, wydawania opinii indywidualnych sposobu prowadzenia kontroli, przechowywania akt postępowania. Dodatkowo niezbędne będzie także zapewnienie właściwej realizacji zadań organu nadzoru przez pracowników urzędu obsługującego ministra do spraw informatyzacji Dodatkowo ustawa przewiduje powołanie Społecznej Rady Sztucznej Inteligencji jako ciała opiniodawczo-doradczego Komisji. Udział w pracach Rad będzie nieodpłatny. Projekt wskazuje także na możliwość uzyskania przez podmioty objęte AI Akt opinii indywidualnej. W tym celu podmiot będzie obowiązany do złożenia wniosku oraz uiszczenia opłaty w wysokości 150 zł. W ramach prowadzonego postępowania przed Komisją projekt przewiduje także możliwość zawarcia przez stronę postępowania układu. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. 9. Wpływ na rynek pracy Przyjęcie projektu będzie miało bezpośredni, pozytywny wpływ na rynek pracy poprzez powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz zorganizowanie zaplecza osobowego i technicznego, przy pomocy którego Komisja będzie wykonywała swoje zadania. Obsługę administracyjno-kancelaryjną zapewniać będzie urząd obsługujący ministra właściwego do spraw informatyzacji. Można przewidywać, że w związku z powyższym na rynku pracy pojawią się nowe miejsca pracy, ale ich liczba jest niemożliwa do określenia na tym etapie prac legislacyjnych. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie przyczyniać się do szybszego rozwoju wdrożeń systemów sztucznej inteligencji, w tym przez polskie małe i średnie przedsiębiorstwa. 10. Wpływ na pozostałe obszary środowisko naturalne sytuacja i rozwój regionalny sądy powszechne, administracyjne lub wojskowe demografia mienie państwowe inne: informatyzacja zdrowie Omówienie wpływu Umożliwienie złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 będzie miało wpływ na zapobieganie szkodom i wykrywanie zagrożeń, które w przeciwnym wypadku pozostałyby niewykryte, podniesie bezpieczeństwo oraz zaufanie do stosowania systemów sztucznej inteligencji. Przewidywane w przyszłości odwołania od decyzji Komisji mogą zwiększyć obciążenie pracą Sądu Ochrony Konkurencji i Konsumentów, a także Sądu Apelacyjnego w Warszawie, sądów okręgowych i rejonowych. Profesjonalizm nowego urzędu powinien jednak zapewnić sprawne obsługiwane skarg. Przewiduje się potrzebę szkolenia merytorycznego kadry sądu, jak i zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby ustawa weszła w życie po upływie 14 dni od dnia ogłoszenia, z zastrzeżeniem wyjątków w niej określonych. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Ewaluacja efektów projektu będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim, jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Sejmowi sprawozdania Komisji ze swojej działalności za rok poprzedni. 28 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak. RAPORT Z OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do konsultacji publicznych i opiniowania 16 października 2024 r. Na zgłoszenie uwag został wyznaczony termin 30 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa,Centrum Cyfrowe Francusko-Polska Izba Przemysłowo Handlowa,INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A.Bank Gospodarstwa Krajowego S.AZwiązek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiły następujące podmioty: ISSA Polska, Polskie Towarzystwo Informatyczne,Tauron Dystrybucja, Instrat Centrum Cyfrowe, Europen Fem Institute, Polska Izba Ubezpieczeń, Open AI Devs Community, Geberationis.ai S.A., Fundacja Open Allies, Polskie Stowarzyszenie Sztucznej Inteligencji (PSSI), GRAI, Polska Izba Komunikacji Elektronicznej,Stowarzyszenie Inspektorów Ochrony Danych Osobowych, Krajowy Instytut Mediów, Koalicja AI i Innowacji w Zdrowiu, NASK, RELX (ang.), Naczelna Rada Adwokacka, Związek Przedsiębiorstw Finansowych w Polsce, Krajowa Izba Gospodarcza, Związek Cyfrowa Polsk, Logicise Sp. z o. o, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji, Polski Związek Pracodawców Przemysłu Farmaceutycznego – Krajowi Producenci Leków, Stowarzyszenie Autorów i Wydawców Copyright Polska, Fundacja Moje Państwo,Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Sano Centrum Zindywidualizowanej Medycyny Obliczeniowej Międzynarodowa Fundacja Badawcza, Fundacja Sztuka Media Film, Obywatelski Akcelerator Innowacji, Instytut Spraw Obywatelskich, Stowarzyszenie ITCORNER, Związku Pracodawców Technologii Cyfrowych Lewiatan, Software Development Association Poland (SoDA), Fundacja Panoptykon, Brytyjsko-Polska Izba Handlowa BPCC, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Związek Producentów Audio Video (ZPAV), Polska Izba Rzeczników Patentowych, Stowarzyszenia Autorów ZAiKS, Polska Izba Książki, Polski Związek Zarządzania Wierzytelnościami, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, HAIQ sp. z o.o., Stowarzyszenie Księgowych Polskich, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Polska Akademia Nauk Centrum Badań Kosmicznych (PAN), Porozmawiajmy o AI i Poznański Horyzont Danych (EGO), Polskiej Izby Informatyki i Telekomunikacji (PIIT0, Federacja Przedsiębiorców Polskich (FPP), HAEGRI SP. Z O.O., Polska Wytwórnia Papierów Wartościowych (PWPW), Związek Zawodowy Scenarzystów Polskich (Gildia Scenarzystów), KRS – Krajowa Rada Sądownictwa, Polskie Centrum Akredytacji, Porozumienie Zielonogórskie Federacja Związków Pracodawców Ochrony Zdrowia oraz 5 osób fizycznych. Tabela zgłoszonych uwag stanowi załącznik do raportu. W ramach opiniowania projekt otrzymali: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność”, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego. Stanowiska przedstawiły następujące podmioty: Bank Gospodarstwa Krajowego, Polski Komitet Normalizacyjny, Biblioteka Narodowa, Główny Inspektor Pracy, Urząd Komunikacji Elektronicznej, Konfederacja Lewiatan, Urzędu Ochrony Konkurencji i Konsumentów, Ogólnopolskie Porozumienie Związków Zawodowych, Narodowe Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Polski Fundusz Rozwoju S.A. (PFR), Pracodawcy RP, Rzecznik Praw Obywatelskich, Prokuratoria Generalna RP, Główny Urząd Statystyczny, Urząd Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Rada Legislacyjna, Urząd Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Urząd Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ZUS Tabela zgłoszonych uwag stanowi załącznik do raportu. Projektodawca informuje, że trwają analizy w zakresie uwag zgłoszonych w ramach konsultacji publicznych, ostateczne wyniki tych analiz zostaną przedstawione po zakończeniu II tury uzgodnień, opiniowania i konsultacji publicznych. Jednocześnie projektodawca podkreśla, że w nowym tekście projektu ustawy, skierowanym do ponownych uzgodnień, opiniowania i konsultacji publicznych Pozytywnie rozpatrzono uwagi dotyczące m.in: - zwrotu kosztów udziału w posiedzeniach Komisji oraz Społecznej Rady; - rozszerzenia katalogu obszarów działalności organizacji społecznych uprawnionych do zgłaszania kandydatur na członków Społecznej Rady ds. Sztucznej Inteligencji, która ma zostać powołana przy Komisji; - precyzyjnego określenia rynku, nad którego nadzór sprawować ma Komisja; a także przeformułowania przepisów dotyczących wyłączenia stosowania przepisów w oparciu o odpowiednie przepisy rozporządzenia, w tym osobistego i niezarobkowego wykorzystania systemów AI; - rozszerzenia środków wspierających rozwój innowacyjności systemów sztucznej inteligencji, w tym rozszerzenia zakresu projektu o przepisy (nowego) rozdziału 8 poświęconego piaskownicom regulacyjnym w zakresie AI, a także możliwości zawarcia układu (nowy tryb postępowania); - podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie opinii (w poprzedniej wersji projektu: interpretacji) indywidualnej oraz doprecyzowania trybu jej wydawania oraz skutków prawnych; - uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia zbędnych czynności kontrolnych; - usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; - zwiększenia zakresu danych i informacji, do których usunięcia zobligowana jest Komisja po rozpatrzeniu sprawy w ramach postępowania; - zmiany przepisów regulujących pracę Biura Komisji (rozszerzenie zakresu spraw możliwych do uregulowania na poziomie regulaminu Biura Komisji); - rozszerzenia katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji (na mocy decyzji Komisji); - uwzględnienia roli ministra właściwego do spraw informatyzacji w zakresie prac nad „Fabrykami Sztucznej Inteligencji”, w tym możliwości bezpośredniego przekazywania środków finansowych na ten cel. 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. 1 Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi 1. Uwaga ogólna European Fem Institut Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami. Zapisanymi w traktatach oraz, zgodnie z art. 6 TUE - w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, ,,mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji\" oraz \"mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet\". Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne 2 podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jak systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii\". To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym Wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. 3 Uwaga ogólna ICC Polska Projekt, jak wynika z jego uzasadnienia, ma ograniczać się do wprowadzenia do polskiego prawa mechanizmów umożliwiających realizację jedynie tych przepisów rozporządzenia 2024/16891, które zaczną być stosowane od dnia 2 sierpnia 2025 r. W pozostałym zaś zakresie Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych (s. 3-4 uzasadnienia Projektu). Oznacza to, że w założeniu projektodawcy przyjęcie przez Polskę aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 będzie rozłożone w czasie i zsynchronizowane z harmonogramem rozpoczęcia stosowania przepisów samego rozporządzenia (por. art. 113 rozporządzenia 2024/1689). Jakkolwiek uzasadnienie Projektu wprost tego nie przesądza, to z jego całościowej lektury oraz ogólnego tytułu samej ustawy można wnioskować, że wspomniane kolejne działania legislacyjne mają opierać się na uzupełnieniu lub zmianie tej właśnie ustawy. Zaproponowane podejście legislacyjne może budzić jednak pewne wątpliwości z perspektywy zarówno pewności, jak i samej przejrzystości prawa. Po pierwsze, z treści samej ustawy nie wynika jednoznacznie, czy przewidziane w niej mechanizmy ogólne – np. postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub przepisy o administracyjnych karach pieniężnych – będą znajdować zastosowanie w tym właśnie kształcie w odniesieniu do oceny naruszenia wszelkich przepisów rozporządzenia 2024/1689 (w tym przepisów, których termin rozpoczęcia stosowania przypada w 2026 i 2027 r.), czy też podlegać one będą dostosowaniu lub zróżnicowaniu po 2 sierpnia 2025 r. Rodzi to niepotrzebną niepewność po stronie podmiotów, do których stosuje się rozporządzenie 2024/1689, które mając już świadomość obowiązków, jakie będą miały do nich zastosowanie, nie wiedzą jednak, w jaki sposób obowiązki te będą egzekwowane przez organ nadzoru w Polsce. Tytułem przykładu, w art. 1 pkt 5 Projektu wskazano, że ustawa określa „zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 rozporządzenia 2024/1689” [podkreślenie własne], podczas gdy sam rozdział 7 Projektu dotyczący administracyjnych kar pieniężnych już takiego ograniczenia nie przewiduje, odwołując się ogólnie do kar określonych w art. 99 rozporządzenia 2024/1689. Po drugie, jeżeli wdrożenie pozostałych przepisów rozporządzenia 2024/1689 miałoby polegać na prostym uzupełnieniu projektowanej ustawy o systemach sztucznej inteligencji o nowe regulacje (nowelizacja), to może to negatywnie wpłynąć na przejrzystość i czytelność samej ustawy z perspektywy podmiotów jej podlegających. Zależnie bowiem od zakresu zmian i uzupełnień wymagać to będzie albo dodania do ustawy artykułów oznaczonych poza numerami dodatkowo małymi literami lub nawet wieloliterowo – w celu zachowania dotychczasowej numeracji (§ 89 Zasad techniki prawodawczej2), albo opracowania projektu całkowicie nowej ustawy (§ 84 Zasad techniki prawodawczej). Tego rodzaju zabiegi legislacyjne mogą niepotrzebnie ograniczyć, odpowiednio, przejrzystość ustawy albo pewność prawa. Z tego względu należałoby rozważyć też alternatywne podejścia legislacyjne do wdrożenia w Polsce rozporządzenia 2024/1689. Mogą one polegać chociażby na rozbiciu planowanych regulacji na ustawę ustrojową, regulującą jedynie organizację systemu nadzoru nad systemami 4 sztucznej inteligencji, która miałaby wejść w życie w pierwszej kolejności (co jest uzasadnione koniecznością utworzenia nowego organu i czasem potrzebnym na jego zorganizowanie), oraz ustawę lub ustawy odnoszące się do pozostałych zagadnień, w tym postępowań kontrolnych i postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689 ujętych od razu w sposób możliwie jednolity, niezależnie od terminu rozpoczęcia stosowania odpowiednich przepisów rozporządzenia 2024/1689 Uwaga ogólna KIGEiT Zgodnie z traktatami AI Act (Rozporządzenie PE i Rady UE 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 – popieramy idee implementacji aktu w sprawie sztucznej inteligencji, który powinien wejść do porządku prawnego wszystkich krajów członkowskich w taki sam sposób. Ogólna uwaga jaka nasuwa się po analizie projektu ustawy łącznie z Rozporządzeniem 1689/2024 („AI Act”) to obawa jak przedsiębiorca, zwłaszcza typu start-up ma ustalić zakres norm proceduralnych dotyczących systemów i praktyk w zakresie sztucznej inteligencji. Nie jest łatwe ustalenie, jakie są wzajemne relacje (abstrahując od hierarchii źródeł prawa) pomiędzy przepisami: ustawy o systemach sztucznej inteligencji (zwłaszcza Rozdziału 3, 4), ustawy Prawo przedsiębiorców (odwołanie z Art. 42 projektu ustawy o systemach wysokiego ryzyka) a Art. 74 ust. 12-14 AI Act i Rozporządzenia 2019/2020 (zwłaszcza Rozdziału V), do którego odwołuje Art. 74 ust. 1 AI Act. Problemów tych nie rozwiązują propozycje zapisów Ustawy. Należy zauważyć, że choć prawdopodobnie stały za tym dobre intencje, projekt Ustawy zawiera w sobie propozycje przepisów, które pochodzą z co najmniej kilku aktów prawnych dotyczących rynków regulowanych i nadzoru nad rynkiem. To zaczerpnięcie poszczególnych fragmentów projektu Ustawy z różnych źródeł i jednocześnie odwołanie do stosowania jeszcze kolejnych ustaw (KPA, Prawo przedsiębiorców) sprawia, że zaproponowana regulacja jest bardzo zawiła i niejasna. Trudno jest w sposób prosty, bez konieczności sięgania do innych aktów prawnych (i często zwrotnych odwołań) ustalić pełny zakres normy, w tym praw przysługujących stronie postępowania i uprawnień władczych przysługujących organowi. Taki sposób regulacji budzi wątpliwości co do realizacji zasad demokratycznego państwa prawnego (w tym zasad przyzwoitej legislacji, pewności prawa i zaufania obywatela do państwa i stanowionego przez nie prawa), które mają gwarantować, że obywatel może decydować o swoim postępowaniu w oparciu o pełną znajomość przesłanek działania organów państwowych oraz konsekwencji prawnych, jakie te działania mogą za sobą pociągać. Projekt ustawy przewiduje także szereg form działania Komisji bądź Przewodniczącego Komisji, jak zalecenia pokontrolne, ostrzeżenia, interpretacje indywidualne, co do których nie wskazano jaką formę prawna przyjmują (decyzji, postanowień czy też nowych- odrębnych form) co wprowadza kolejne zawiłości w procedurze. Dla wymienionych aktów nie przewidziano także środków zaskarżenia i ochrony praw podmiotów stosujących rozwiązania sztucznej inteligencji, 5 co stanowi istotna lukę w regulacji. Środki te mogą bowiem kreować obowiązki bądź zakazy dla tych podmiotów, powodując tym samym daleko idące skutki operacyjne jak i finansowe związane z ich działalnością. Dlatego na zastosowanie taki środków, które powinny przyjąć formę decyzji administracyjnej, jako prawnie doniosłych, powinno podmiotowi dotkniętemu ich działaniem przysługiwać prawo wniesienia odwołania do właściwego Sądu w terminie odpowiednim do zawiłości materii (sugerowanym 2 miesięcy) a do czasu uprawomocnienia się takiego środka nie powinien być on egzekwowany. Ponad to cały proces kontroli powinien skupiać się nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzystywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzyko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologii i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania sztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na operatora takich systemów. Uwagi ogólne Federacja Przedsiębiorców Polskich Projekt przewiduje możliwość równoczesnego stosowania przepisów przez różne organy nadzorcze w państwach członkowskich wobec tych samych przedsiębiorstw. Zawarty w artykule 2 przepis o zakresie podmiotowym może prowadzić do niejasności interpretacyjnych co do kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji względem zagranicznych podmiotów. Aby uniknąć takich niejasności, sugerujemy precyzyjne określenie, w stosunku do których jednostek międzynarodowych grup kapitałowych Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie miała możliwość prowadzenia działań czy jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw, szczególnie w odniesieniu do firm zagranicznych posiadających oddziały lub spółki zależne w Polsce. Ponadto, projekt zakłada możliwość wydawania interpretacji i rekomendacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co wykracza poza jej kompetencje określone w Akcie w sprawie sztucznej inteligencji, który rezerwuje te uprawnienia wyłącznie dla unijnej Rady ds. AI. Aby uniknąć potencjalnych rozbieżności w interpretacji przepisów unijnych oraz niejasności dla przedsiębiorstw operujących na rynku międzynarodowym, proponujemy usunięcie tych zapisów. Projekt ustawy nie przewiduje również odpowiednich zabezpieczeń dla danych poufnych pozyskiwanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co może prowadzić do naruszenia 6 interesów przedsiębiorstw. Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają szerokie uprawnienia w zakresie przetwarzania i udostępniania informacji chronionych prawnie, co może stanowić zagrożenie dla prywatności firm. Postulujemy wprowadzenie ograniczeń dotyczących przetwarzania i udostępniania informacji objętych tajemnicą przedsiębiorstwa, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów biznesowych. Projekt przyznaje Komisji Rozwoju t Bezpieczeństwa Sztucznej Inteligencji szerokie uprawnienia do pozyskiwania dokumentów i przeprowadzania oględzin urządzeń, co może wykraczać poza wymagania Aktu o sztucznej inteligencji, który ogranicza gromadzenie danych przez organy nadzorcze do tych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Proponujemy, aby uprawnienia te były ograniczone do niezbędnych danych oraz aby wyłączyć wymóg poświadczania zgodności dokumentów z oryginałem, co może stanowić dodatkowe obciążenie administracyjne dla przedsiębiorstw. Projekt przewiduje 14-dniowy termin na wycofanie systemu AI z rynku, co może stanowić wyzwanie dla firm korzystających z zaawansowanych technologii i prowadzić do zakłóceń operacyjnych oraz strat finansowych. Proponujemy wydłużenie tego terminu oraz zniesienie natychmiastowej wykonalności decyzji o wycofaniu systemu, aby firmy miały możliwość dostosowania się do nowych wymagań. Wycofanie systemu AI powinno być ostatecznością, a Komisja powinna skupić się na działaniach prewencyjnych i rekomendacjach. Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji. Jednak sprawy związane ze sztuczną inteligencją są na tyle skomplikowane, że wymagają odpowiedniego poziomu ekspertyzy. Dlatego proponujemy rozważenie przekazania takich spraw do sądów ds. własności intelektualnej, co mogłoby zapewnić wyższy poziom przewidywalności i rzetelności rozstrzygnięć. Na koniec, chcielibyśmy zwrócić uwagę na wysokie kary pieniężne przewidziane w projekcie oraz krótki, 14-dniowy termin na ich opłacenie. Taka presja finansowa może negatywnie wpłynąć na przedsiębiorców, zwłaszcza przy braku możliwości zawieszenia wykonania decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W celu zachowania proporcjonalności sugerujemy wydłużenie terminu na uiszczenie kar oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu zakończenia procesu odwoławczego. Mamy nadzieję, że nasze uwagi i rekomendacje zostaną wzięte pod uwagę podczas dalszych prac nad projektem. Federacja Przedsiębiorców Polskich jest gotowa do współpracy i wsparcia w dalszych konsultacjach, aby stworzyć stabilne i przewidywalne ramy prawne dla działalności przedsiębiorstw korzystających z systemów sztucznej inteligencji w Polsce. 2. Uwaga ogólna Mikołaj \"Tesla\" Matysiak #WhiteWater Propozycje te z jednej strony chronią obywateli, ale jednocześnie zabezpieczają model biznesowy firm w branży i zwiększają poziom bezpieczeństwa i zaufania użytkowników do firm tworzących AI. Także klasyczne win-win w tej sytuacji. I myślę, że mimo pewnej dodatkowej pracy, której będzie to wymagało od firm w tym obszarze - zakładam, że raczej będą dobrze przyjęte w branży, jako racjonalne i zasadne. 7 1. Prawo do prywatności: Opcja opt out z wykorzystywania i przechowywania treści w ich systemie (darmowe dla użytkowników indywidualnych i edukacji, może być płatne opt out w planach enterprise dla firm i instytucji). 2. Prawo do dysponowania danymi: Wymóg posiadania opcji lokalnego przechowywania danych na własnym sprzęcie lub chmurze. 3. Prawo do ciągłości danych: Wymóg posiadania możliwości zgrania całości historii wygenerowanej treści przez użytkownika (np. do celów migracji danych do innego AI). 4. Prawo do zachowania ciągłości danych: Zakaz blokowania i usuwania kont oraz wprowadzonych danych bez możliwości zgrania historii danych. 5. Prawo do szybkiej migracji: Po wypracowaniu standardów dla określonego typu treści, wymóg posiadania przynajmniej jednego uniwersalnego typu plików do importu i eksportu dla danego typu treści. 6. Prawo do weryfikacji: Wymóg posiadania opcji ujawnienia, które treści były oglądane przez pracowników firmy. Wymóg posiadania przez firmę imiennych logów kto i co przeglądał i jakie czynności wykonał z tymi danymi (np. do udostępnienia organom ścigania), gdyby ktoś próbował manipulować outputem lub wykradał prywatne dane użytkowników z serwerów firmy Uwagi ogólne Generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, co zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów 8 Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki 9 sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. 10 • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Uwagi ogólne Porozmawiajmy o AI i Poznańskiego Horyzontu Danych Czy interpretacja wydana przez Komisję w Polsce obowiązuje na terenie całej UE? Jak zsynchronizować rynek? 11 Jakie wyprzedzenie czasowe potrzebujemy, żeby dany system ściągnąć z rynku (zaprzestać używać, np. w przypadku, gdy nasza usługa jest oparta na tym systemie)? Kary kwotowa i procentowa – dla MŚP wybieramy mniejszą Art. 99, ust. 6 (AI Act). Rekomendujemy doprecyzowanie czym są małe firmy - firmy które spełniają definicję MŚP np. odwołanie się do polskich przepisów i zawartych tam definicji MŚP. Podanie konkretnych liczb ekspertów do Rady Społecznej: domenowych na styku AI i społecznego wpływu AI na styku praw człowieka i AI sugerujemy płace dla pracowników (specjalistów) Biura Komisji na poziomie 90 percentyla stawek rynkowych uwzględniających także JDG (Jednoosobową Działalność Gospodarczą). Oczekujemy że w ten sposób zapewniona zostanie wysoka jakość kompetencji osób zatrudnionych w Biurze szczególnie w tak wysoce konkurencyjnym obszarze jakim jest SI. Uwaga ogólna Open AI Devs Community WSPARCIE DLA MŚP I INDYWIDUALNYCH DEWELOPERÓW 1. Uproszczone procedury dla mniejszych podmiotów. Postulujemy wprowadzenie do ustawy rozdziału dedykowanego uproszczonym procedurom dla MŚP, jednoosobowych działalności gospodarczych (JDG) oraz indywidualnych deweloperów. Proponujemy: • Wprowadzenie progów dostosowanych do wielkości przedsiębiorstwa i skali działalności; • Uproszczone wymogi dokumentacyjne dla systemów niskiego ryzyka; • Wydłużone terminy dostosowawcze dla mniejszych podmiotów. 2. System wsparcia finansowego i merytorycznego. Wnioskujemy o uzupełnienie ustawy o przepisy dotyczące: • Utworzenia dedykowanego funduszu wspierającego rozwój i wdrażanie rozwiązań AI; • Programu dotacji na certyfikację i ocenę zgodności systemów AI; • Mechanizmu refundacji kosztów dostosowania się do nowych regulacji. ROZWÓJ EKOSYSTEMU AI W POLSCE 1. Strategia rozwoju AI. Proponujemy uzupełnienie ustawy o rozdział określający: • Narodową strategię rozwoju AI; • Konkretne cele i wskaźniki rozwoju sektora AI; • Mechanizmy wsparcia dla badań i rozwoju w obszarze AI. 2. Współpraca nauki z biznesem. Postulujemy wprowadzenie przepisów dotyczących: • Utworzenia krajowego repozytorium danych i modeli AI; • Programów współpracy między uczelniami a przedsiębiorstwami; • Wsparcia dla komercjalizacji badań w obszarze AI Brak odpowiednich mechanizmów wsparcia może prowadzić do: 12 • Ograniczenia innowacyjności w sektorze AI; • Wykluczenia mniejszych podmiotów z rynku; • Osłabienia pozycji Polski w globalnym wyścigu technologicznym. Uwaga ogólna Instrat – Fundacja Centrum Cyfrowe Po opublikowaniu projektu ustawy w mediach społecznościowych rozgorzała dyskusja na temat planowanej ingerencji państwa w działalność firm oraz mechanizmów kontroli, jakie ustawa wprowadzi. Oprócz znanych już głosów krytyki dotyczących przeregulowania rynku i zahamowania innowacji, pojawiły się także nowe obawy – dotyczące tworzenia tzw. „milicji SI” (współpracy KRiBSI z Policją lub innymi organami nadzoru państwowego i ochrony prawa) i realizowania daleko idącej kontroli producentów technologii. Pojawiły się także argumenty mówiące o braku jakiejkolwiek ochrony dostawców. Pojawiające się wątpliwości wskazują na konieczność prowadzenia przejrzystej komunikacji odnoszącej się do konkretnych, budzących obawy zapisów ustawy, jej rzeczywistego zakresu oraz tego, w jaki sposób będzie stosowana. Ważne jest także, aby wyjaśnić, jak regulacja koreluje z założeniami i zobowiązaniami wynikającymi z unijnego rozporządzenia AI Act, co pozwoli rozwiać niepokoje środowiska biznesowego. Bez szeroko zakrojonej komunikacji i działań mających na celu uspokojenie obaw przedsiębiorców może dojść do dezinformacji i narastającej niechęci wobec nowego prawa, co z kolei utrudni jego wdrażanie oraz współpracę z sektorem prywatnym. Uwaga ogólna SKwP Zagadnienie Biura i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Problem AI jest trudny, perspektywiczny i dynamicznie rozwijający się. Zespół pracujący nad kontrolą bezpieczeństwa AI powinien być powołany za zgodą społeczną, zatem z akceptacją Sejmu RP. Oddanie pełnej personalnej władzy w ręce Prezesa RM budzi obawę o naciski lobbystów i ekspertów zagranicznych (UE). Uwaga ogólna Repropol Jak wynika z uzasadnienia projektu ustawy o systemach sztucznej inteligencji (dalej jako „Projekt”, a ustawa jako „UoSSI”), wdrożone mają zostać te przepisy AIA, których data nabrania mocy obowiązującej przypada na 2 sierpnia 2025 roku. Mowa tutaj zatem o rozdziałach I, II, III sekcja 4, V, VII, IX, XI. Choć zasadniczym trzonem wdrożenia są przepisy o charakterze techniczno- administracyjnym, związane z ustanowieniem krajowych urzędów certyfikujących oraz nadzorujących, zakres wdrożenia obejmuje także rozdział V, który odnosi się do modeli AI ogólnego przeznaczenia (dalej jako: „GPAI”). Ten rodzaj modeli, zwłaszcza modele z ryzykiem systemowym, mają fundamentalne znaczenie dla rozwoju fenomenu sztucznej inteligencji. W tym kontekście należy zwrócić uwagę na fakt, iż zagadnieniu GPAI projektodawca nie poświęcił żadnej uwagi, prócz wzmianki w art. 1 ust. 2 UoSSI. Już w tym miejscu sygnalizujemy ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku, wypada atrakcyjnie w kontekście istotnie mniejszych środków finansowych 13 przeznaczonych na wdrożenie Aktu o Usługach Cyfrowych. Jeśli jednak obecne w przestrzeni publicznej zapowiedzi dotyczące aktywnego uczestnictwa Polski w tworzeniu najnowszych technologii mają mieć szansę na realizację, niezbędne wydają się kwoty dużo wyższe. Jak wyraźnie stanowi art. 70 ust. 3 AIA, dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”. Zapewnienie tego rodzaju kompetencji musi kosztować. Zapisana w projekcie ustawy kwota oznacza średniomiesięczne wydatki na poziomie około 2,5 miliona złotych. Jeśli już wziąć pod uwagę koszt tworzenia nawet niewielkich modeli i systemów AI (co może stanowić pośredni benchmark dla obliczania budżetów tego rodzaju przedsięwzięć), wskazane kwoty wydają się zbyt niskie. Uwaga ogólna Naczelna Rada Adwokacka (NRA) Choć przepisy Projektu mają zapewnić ochronę interesu publicznego, prawa i wolności obywateli oraz bezpieczeństwo technologiczne, to w wielu przypadkach ich struktura i zakres budzą wątpliwości i zastrzeżenia. Przepisy Projektu w art. 5 i 6 przewidują powołanie KRiBSI, której nadrzędną misją ma być sprawowanie pieczy nad przestrzeganiem postanowień tej ustawy. Zakres działań KRiBSI ma obejmować monitorowanie rynku systemów SI, a także egzekwowanie obowiązków nałożonych na dostawców oraz użytkowników tych systemów. Zgodnie z treścią Projektu KRiBSI będzie organem państwowym dysponującym rozległymi kompetencjami nadzorczymi, a przyznane jej uprawnienia wydają się w dużej mierze sankcyjne i dyscyplinujące. Nie można jednak przeoczyć, iż sposób powoływania członków KRiBSI, określony w art. 20–26 Projektu, rodzi pewne zastrzeżenia odnośnie do niezależności tej instytucji. Projekt wskazuje bowiem, iż przewodniczący Komisji powoływany będzie przez Szefa Kancelarii Prezesa Rady Ministrów (art. 26 Projektu), co stwarza przestrzeń dla potencjalnych wpływów politycznych. Uzasadnionym byłoby zatem rozważenie takich modyfikacji w przepisach, które wzmacniałyby gwarancje niezależności KRiBSI oraz zapewniałyby przejrzysty i publiczny tryb powoływania jej członków. Transparentność procesu nominacji i zabezpieczenie KRiBSI przed wpływami politycznymi mogłyby przyczynić się do zwiększenia zaufania społecznego wobec tego organu, w szczególności w kontekście jego roli w nadzorze nad systemami SI. Uwaga ogólna Związku Pracodawców Technologii Cyfrowych Lewiatan Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. 14 Uwaga ogólna HAiQ Nie za lekka? O ile należy docenić niechęć Ministerstwa Cyfryzacji do tworzenia kolejnej zasobochłonnej instytucji administracji centralnej, to wydaje się, że takie rozwiązanie nie rozwiązuje innego problemu: deficytu ekspertów od SI. W uzasadnieniu do ustawy czytamy, że powodem, dla którego zdecydowano się na ustanowienie jednej centralnej instytucji zajmującej się SI, był fakt deficytu ekspertów od tej technologii. Trudno nie zgodzić się z taką diagnozą. Jednocześnie jednak konstrukcyjna lekkość Komisji de facto wymaga tego, aby eksperci od SI znaleźli się we wszystkich dziewięciu instytucjach wymienionych w Art. 7., których przedstawiciele są członkami Komisji. Czyli formalnie mamy koncentrację kompetencji w jednym ciele, lecz ze względu na jego sieciowy charakter, potrzebę znaczącej dekoncentracji wiedzy na temat SI. Jeżeli nie nastąpi proces owej dekoncentracji, to jedynie Przewodniczący Komisji dzięki wymogom formalnym (Art. 18.), będzie jedynym ekspertem z zakresu przedmiotowego ustawy. Należy zaś pamiętać, że każdy członek Komisji (Art. 8.) ma taką samą siłę głosu (oprócz sytuacji patowych). Obyśmy zatem nie tworzyli instytucji, która będzie pozwalała laikom z zakresu SI podejmować “lekką ręką” decyzje mające bardzo poważne konsekwencje w sprawach tak wrażliwej i dynamicznie rozwijającej się technologii jak SI. Niedawno doświadczaliśmy niestety tego rodzaju zachowań ze strony funkcjonariuszy państwa. A gdzie rozwój? Jak już wspomnieliśmy wcześniej pełna nazwa ciała mającego zajmować się sztuczną inteligencją w Polsce to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Niestety w projekcie ustawy mamy bardzo niewiele informacji o tym, w jaki sposób nowy organ miałby zajmować się rozwojem SI w naszym kraju. W uzasadnieniu do ustawy pojawia się wiele deklaracji w tej kwestii, lecz na poziomie tzw. action points nie ma wiele. Co więcej, zakres przedmiotowy ustawy (Art. 4.) wyklucza obszar badań naukowych, zaś wśród członków Komisji nie jest wymieniony przedstawiciel ministra nauki i szkolnictwa wyższego. A gdzie bezpieczeństwo? Ten sam problem jest związany z kwestiami bezpieczeństwa. Na poziomie deklaracji mamy wiele haseł związanych z potrzebą wspierania implementacji systemów SI w sferach związanych z bezpieczeństwem, lecz na poziomie procesów faktycznie opisywanych w ustawie niewiele znajdujemy. Ponownie, przedstawiciele ministra obrony oraz ministra administracji i bezpieczeństwa wewnętrznego nie są wymienieni jako członkowie Komisji (chociaż jest koordynator ds. służb specjalnych), zaś obszary obronności i bezpieczeństwa są wykluczone z przedmiotowego zakresu działań nowego ciała. Te wszystkie wykluczenia można poniekąd zrozumieć, ponieważ są one również obecne w AI Act obowiązującym w Unii Europejskiej. Można się jednak zastanowić, czy Polska nie powinna jednak inaczej sprofilować swojej najważniejszej instytucji zajmującej się SI. O ile można zrozumieć wykluczenie kwestii bezpieczeństwa wewnętrznego i zewnętrznego z kompetencji Komisji, to trudno zrozumieć odcięcie od kwestii badawczych. Sztuczna inteligencja nie jest nawet w części rozwiniętą technologią. Nieustannie rozwija się, a Polska powinna uczestniczyć w tym procesie. Dlatego koniecznym wydaje się, żeby 15 kluczowymi elementami ‘lekkiej organizacji’ jaką jest Komisja, byli przedstawiciele instytucji zajmujących się nauką. “Komisja Nadzoru i Kontroli Sztucznej Inteligencji”. W obecnym kształcie nowo powołane ciało na poziomie w miarę dokładnie opisanych działań i kompetencji ma przede wszystkim zajmować się nadzorem nad podmiotami wykorzystującymi systemy SI oraz reagować na skargi zgłaszane wobec ich działań. Proponowana zaś przez Ministerstwo Cyfryzacji nazwa nowej instytucji centralnej kompletnie nie oddaje jej kluczowych kompetencji. Co więcej, kompetencje związane z notyfikacją systemów SI mają być przypisane ministrowi ds. informatyzacji (Rozdział 6). Naszym jednak zdaniem dobrze byłoby, aby w swojej końcowej formie Komisja posiadała kompetencje, które rzeczywiście odpowiadają jej proponowanej nazwie. Zapewne strona rzędowa będzie argumentować, że wiele elementów działań Komisji będzie realizowane przez Biuro Komisji (Art. 31), które ma powołać premier. Jednakże na podstawie udostępnionych dokumentów nie wiele wiadomo o planowanych działaniach tego ciała. Brzydkie słowo na ‘b’. Koncentrowanie się na kompetencjach związanych z nadzorem i kontrolą powoduje, że uwadze autorów projektu ustawy ucieka biznes. W uzasadnieniu ustawy czytamy, że Komisja ma wspierać małe i średnie przedsiębiorstwa. Trudno jednak dociec, jak to ma robić. Jedynie nadzorując i kontrolując wiele w tym obszarze nie osiągnie. Można się też obawiać, że aby wykazać swoją prężność, to właśnie te podmioty staną się głównym celem działań tej instytucji. Samo Ministerstwo przyznaje, że ekspetów od SI jest w Polsce bardzo mało, kogo więc będzie stać na ich wynajęcie, aby odwoływać się od decyzji Komisji. Zapewne tzw. Big Techy, a co z mniej zamożnymi przedsiębiorstwami? Trochę kultury! Na koniec uwaga dotycząca nie tylko projektu polskiej ustawy, lecz także unijnego podejścia do SI. Ustanowiona przez AI Act polityka publiczna wobec SI, jest polityką publiczną nakierowaną na “algorytmiczną sztuczną inteligencję”. Głównym problemem, który ma ona zaadresować, jest przede wszystkim automatyzacja procesów decyzyjnych. Systemy SI będące elementami instytucji finansowych, czy też publicznych, mogą uzyskać zbyt dużą autonomię w podejmowaniu szybkich i nietransparentnych decyzji. Decyzje te mogą zagrażać wielu gwarantowanym przez Unię Europejską prawom obywatelskim. Uważamy, że to zagrożenie jest realne, poważne i należy na nie reagować. Dobrą odpowiedzią na nie jest zarówno AI Act, jak i komentowany przez nas projekt ustawy; nawet w swojej nadzorczo-kontrolnej formie. Problem w tym, że obecnie jesteśmy świadkami rozwoju przede wszystkim “generatywnej sztucznej inteligencji”. Ta nie tyle wiąże się z automatyzacją procesów podejmowania decyzji, co z wysoką autonomią przekształcania i tworzenia nowych przekazów symbolicznych. Tutaj problemem nie jest kwestia nieprzejrzystych decyzji kredytowych, co odróżniania prawdziwych przekazów audiowizualnych od tych generowanych przez SI. Gwałtowny rozwój generatywnej sztucznej inteligencji mniej też jest związany z naruszaniem naszych indywidualnych praw, lecz bardziej 16 praw związanych ze wspólnotami - w tym kulturowymi i społecznymi - których jesteśmy członkami. Sztuczna inteligencja karmi się bowiem wytwarzanymi przez nas wspólnie treściami kulturowymi oraz bardzo dynamicznie zaczyna na nie wpływać. Warto zatem zastanowić się, czy nasz krajowa regulacja nie powinna wziąć pod uwagę tego zmieniającego się charakteru sztucznej inteligencji. Uwaga ogólna Fundacja Moje Państwo Fundacja popiera rozwiązanie zawarte w projekcie ustawy polegające na utworzeniu w Polsce zupełnie nowego organu nadzoru rynku w zakresie sztucznej inteligencji, tj. Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji “Komisja” (co było rekomendowane przez Fundację w ramach prekonsultacji dotyczących projektu ustawy w kwietniu 2024 r.). Organ poza nadzorowaniem rynku ma także wzmacniać branżę sztucznej inteligencji w Polsce oraz pełnić funkcję podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, zatem ustanowienie nowej instytucji, zamiast rozdzielania nowych obowiązków wynikających z Aktu w sprawie sztucznej inteligencji 4 pomiędzy istniejące już organy, wydaje się rozwiązaniem najwłaściwszym. Na uwagę zasługują zadania Komisji polegające na opracowywaniu i wydawaniu publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych (art. 11 ust. 1 pkt 8 projektu ustawy). Zapewnienie ram dla rozwoju zrównoważonej technologii sztucznej inteligencji, wspieranie innowacyjności wśród przedsiębiorców oraz promowanie zorientowanego na człowieka podejścia do sztucznej inteligencji będzie wiązało się z koniecznością ciągłej edukacji obywateli, w tym przedstawicieli administracji publicznej oraz przedsiębiorców. Istotnym zadaniem Komisji – w kontekście budowania wiedzy wśród społeczeństwa o systemach sztucznej inteligencji – będzie również gromadzenie i upowszechnienie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją (art. 11 ust. 1 pkt 10 projektu ustawy). W przypadku tego przepisu należałoby rozważyć doprecyzowanie miejsca publikacji ww. orzecznictwa np. poprzez wskazanie, że publikacja nastąpi w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Projekt ustawy zakłada w art. 14 ust. 1, że “Przewodniczący Komisji, na wniosek zainteresowanego, wydaje w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy”. Na podstawie projektowanego przepisu do złożenia wniosku o wydanie interpretacji jest uprawniony każdy, kto ma wątpliwości jak interpretować, w odniesieniu do dotyczącej go sprawy, przepisy Aktu w sprawie sztucznej inteligencji lub przepisy projektowanej ustawy – zatem mógłby to być zarówno obywatel, na którego wpływ ma system sztucznej inteligencji, jak i spółka lub podmiot publiczny, na których spoczywają obowiązki wynikające z Aktu w sprawie sztucznej inteligencji. Zdaniem Fundacji zasadnie przyjęto szeroki zakres podmiotów uprawnionych do wystąpienia z wnioskiem o interpretację przepisów regulujących systemy 17 sztucznej inteligencji. W projektowanym przepisie należałoby wskazać jednak termin w jakim Przewodniczący Komisji jest zobowiązany do rozpoznania wniosku o wydanie interpretacji. W uzasadnieniu projektu ustawy (str. 12) wskazano, że: w celu zapewnienia koordynacji i wymiany informacji na temat sektora sztucznej inteligencji, przy Komisji ma zostać powołana Społeczna Rada do Spraw Sztucznej Inteligencji (“Rada”). Celem jej działania ma być zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. Uprawnienie do zgłaszania kandydatur do Rady zostało ograniczone poprzez przepis art. 28 ust. 3 projektowanej ustawy, zawierający wskazanie podmiotów oraz kategorii podmiotów, które mogą z tego prawa skorzystać. Zdaniem Fundacji należy rozważyć rozszerzenie katalogu zawartego w ww. przepisie w zakresie organizacji pozarządowych tj. w zakresie art. 28 ust. 3 pkt 7. Komentowany przepis wskazuje, że kandydatów na członków Rady mogą zgłosić fundacje lub stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Naszym zdaniem cennym źródłem wskazywania kandydatów do Rady byłyby również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które są w stanie wykazać się działalnością na rzecz rozwoju sztucznej inteligencji lub, których działalność statutowa jest związana z wspieraniem rozwoju sztucznej inteligencji. Proponowane rozwiązanie mogłoby wpłynąć na większą różnorodność kandydatur zgłaszanych na członków Rady Uwaga ogólna SIODO 1. art. 3 pkt 4) rozporządzenia 2024/1689;- „użytkownik” oznacza osobą fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które korzystają z systemu sztucznej inteligencji pod swoją kontrolą, z wyjątkiem sytuacji, gdy system sztucznej inteligencji jest wykorzystywany w ramach osobistej działalności pozazawodowej: 1) z uwagi na potrzebę jednoznacznego zdefiniowania podmiotu operującego narzędziami sztucznej inteligencji, 2) w tym komunikowanie publiczne (BIP)o wykorzystaniu narzędzi sztucznej inteligencji w działaniach podmiotu; 3) możliwość rezygnacji z usług podmiotu wykorzystującego narzędzia sztucznej inteligencji oraz alternatywne rozwiązania jako poszanowanie podstawowych praw osób o decydowaniu o sobie (lub stosowne uzasadnione ustawowe ograniczenie praw) 2. stosownie do zapisów Artykuł 29 rozporządzenia 2024/1689 – określenie osoby funkcyjnej (np. pełnomocnik wójta, burmistrza d/s cyberbezpieczeństwa i sztucznej inteligencji) u użytkownika (podmiotu lub organu publicznego) monitorującego działanie systemu sztucznej inteligencji. W tym: pozycję osoby w strukturze jednostki organizacyjnej, minimalny zakres uprawnień i obowiązków w stosunku do personelu i narządzi, którymi personel się posługuje, a także kwalifikacje zawodowe jakie powinien wykazywać przed kierownictwem jednostki organizacyjnej jako gwarancji sprawowania właściwego nadzoru 18 Uwaga ogólna Stowarzyszenie Autorów i Wydawców Copyright Polska W imieniu Stowarzyszenia Autorów i Wydawców Copyright Polska, organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi działającej w imieniu i w interesie autorów i wydawców utworów słownych, przekazuję uwagi w ramach konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71), dalej: projekt, udostępnionej publicznie do zgłaszania uwag w dniu 16 października 2024 r. w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny. Z aprobatą przyjmujemy szybkie opracowanie przez Ministerstwo Cyfryzacji konsultowanego projektu wobec obowiązywania rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – Aktu o sztucznej inteligencji, wymagającego zapewnienia uczestnikom obrotu pewności prawa. Zgłaszamy w ramach konsultacji publicznych uwagi służące przede wszystkim uzupełnieniu istotnej luki projektu – to jest zapewnienia udziału uprawnionych lub podmiotów ich reprezentujących w gremiach decyzyjnych i doradczych powoływanych w projekcie do życia . Uwagi te wynikają z zupełnego pominięcia przez projekt kwestii ochrony praw autorskich i praw pokrewnych, podczas gdy Akt o sztucznej inteligencji odnosi się do tych zagadnień w motywach od 104 do 109 oraz w art. 53 ust. 1 lit. c), zgodnie z którym dostawcy modeli AI ogólnego przeznaczenia wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności [to znaczy nie wyłącznie – dopisek SAiW CP] z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790. Skoro konsultowany projekt ma służyć stworzeniu rzeczywistego i skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, to nie powinien pomijać realnej możliwości reprezentowania w tym systemie interesów licznych podmiotów, którym służą prawa autorskie i prawa pokrewne do treści użytych i używanych do trenowania (uczenia) sztucznej inteligencji. Bez treści autorskich narzędzia AI nie nabyłyby funkcjonalności, które posiadają i które rozwijają w procesie ciągłego uczenia się. Projektowana ustawa winna z tego powodu zapewniać realny udział i decyzyjność organów reprezentujących podmioty autorskouprawnione oraz konsultacyjną rolę ich organizacji w pracach ciał powoływanych przez nią do życia. Póki co nie znajdziemy w projekcie żadnego odniesienia wprost do praw autorskich, ani mocniejszego niż fakultatywne uprawnienia jakiegokolwiek podmiotu, który mógłby strzec ich poszanowania w operacyjnym działaniu organów tworzonych przez nową ustawę o sztucznej inteligencji. 19 Podstawowy wedle projektu organ – Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej: Komisja – ma posiadać ustawą kompetencję wydawania interpretacji, generalnych i indywidualnych, w sprawach stosowania Aktu o sztucznej inteligencji. Póki co, właściwie od dobrej woli Komisji zależy zaproszenie do takich spraw w roli uczestników prac podmiotów reprezentujących interes uprawnionych. Proponujemy więc, by przedstawiciel Ministra Kultury był nie tylko fakultatywnym członkiem Komisji, ale by rozważyć jego bardziej sformalizowany, stały udział w jej pracach lub by konsultacja z nim przez Komisję była obligatoryjna we wszelkich sprawach rozpatrywanych przed Komisją, które wprost dotyczą lub odnoszą się do kwestii ochrony praw autorskich i praw pokrewnych. Jedną z metod regulacji może być uznanie tego Ministra za wchodzącego w skład Komisji, co dawałoby mu wpływ na powoływanie składu Rady Społecznej, a inną metodą regulacji może być ujęcie Ministra Kultury w art. 6 ust. 3) projektu, jako podmiotu współpracującego z Komisją w zakresie spraw, o których mowa w art. 53 ust. 1 lit. c) rozporządzenia 2024/1689. Uwaga ogólna Polskie Towarzystwo Informatyczne Po pierwsze, zasadnicze znaczenie ma osadzenie AI Act w szerszym - i nadrzędnym - kontekście normatywnym, czyli unijnej koncepcji ‘trustworthy A’I, która obejmuje etykę, prawo i solidność techniczną. Koncepcja ta jest wywiedziona z praw podstawowych (poszanowanie godności ludzkiej; wolność jednostki; poszanowanie demokracji, sprawiedliwości i praworządności; równość, brak dyskryminacji i solidarność; prawa obywatelskie), a jej 7 wymogów (przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy; odpowiedzialność) wraz z dokumentem, z którego pochodzą (Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji) jest explicite przywołanych w 27 motywie Preambule AI Act (co prawda w rozporządzeniu są one określone mianem zasad, co jest nieco mylące, bo zasady ‘trustworthy AI’ to coś innego niż wymogi, niemniej ich przytoczenie rozwiewa wątpliwości). Na koniec motywu stwierdza się: \"Stosowanie tych zasad powinno w miarę możliwości znaleźć odzwierciedlenie w projektowaniu i wykorzystywaniu systemów i modeli AI. Zasady te powinny w każdym przypadku stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Wszystkie zainteresowane strony, w tym przedstawicieli przemysłu (w tym ich wewnętrznych działów badań i innowacji), środowisko akademickie, społeczeństwo obywatelskie i organizacje normalizacyjne, zachęca się, by przy opracowywaniu dobrowolnych najlepszych praktyk i norm uwzględniali odpowiednio przedmiotowe zasady etyczne.\" Nie ulega zatem wątpliwości, że nadrzędnymi wartościami przyświecającymi prawu dot. AI są prawa podstawowe oraz dobrostan ludzki i środowiskowy, zaś podstawowym kryterium oceny 20 technologii winno być to, czy w danym przypadku możliwe jest zapewnienie zgodności z tymi wartościami, prawami, zasadami i wymogami. W tym świetle interesariuszami ‘AI governance’ są więc nie tylko władza ustawodawcza i wykonawcza oraz przedsiębiorcy, ale - przede wszystkim - społeczeństwo oraz środowisko (co jest szczególnie istotne w kontekście tzw. negatywnych kosztów zewnętrznych AI, szczególnie deep learningu i genAI). Z kolei warunkiem zapewnienia zgodności z wymogami prawa jest zarówno rzetelne przeprowadzenie procedur oceny zgodności i oceny ryzyka, jak i dostępność odpowiednich standardów i metod umożliwiających operacjonalizację wartości, zasad i wymogów w konkretnej praktyce projektowej, które są wypracowywane na gruncie interdyscyplinarnych prac obejmujących nie tylko badania nad AI, ale również szeroko pojętą etykę AI. W przeciwnym razie zgodność z AI Act będzie bardzo powierzchowna i sprowadzi się do zapewnienia formalnego compliance w postaci procedur, których nikt nie będzie urzeczywistniał w praktyce rozwijania i wdrażania systemów AI. Uwaga ogólna AI Chamber Sztuczna inteligencja ma potencjał przeobrażenia prawie każdej sfery naszego życia i gospodarki, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, tworząc te technologie lub przynajmniej adaptując je do swoich potrzeb i wdrażając odpowiednio szybko i skutecznie. Tego myślenia, zdaniem Izby, brakuje w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje SI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny i skomplikowany system kontroli przestrzegania przepisów Aktu o SI. Brakuje praktycznie całkowicie wśród przedstawionych przepisów tych, które realizują wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności wskazujemy tu brak rozwiązań tworzących piaskownice regulacyjne. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE nie znajduje uzasadnienia. Jeżeli chcemy, aby Polska była na czele rozwoju SI to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju SI jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej rewolucji - mamy utalentowanych twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. Projekt czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływana Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI lub Komisja) wzorowana jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost 21 przeniesione z ustawy o nadzorze rynku finansowego. Takie podejście ma swoje zalety i adaptacja sprawdzonych rozwiązań ma wiele zalet. Wskazujemy jednak na to, że sztuczna inteligencja jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, zasadniczo odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej - usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami. Nie można tego samego powiedzieć o SI, z pewnością nie w większości przypadków. Tworzenie wobec tego instytucji nadzoru wedle tych samych wzorców budzi poważne wątpliwości. Ustawa w innych miejscach też adoptuje rozwiązania z innych ustaw, wprowadzając jednak do nich nie zawsze zrozumiałe i celowe zmiany, zamiast odesłać w danym zakresie w całości do obowiązujących już ustaw. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych (jak np. interpretacja indywidualna, uregulowana w ustawie Prawo przedsiębiorców). Uwaga ogólna Związek Banków Polskich Postulat doprecyzowania pojęcia tajemnic prawnie chronionych. Należy zgłosić postulat dokonania zmian w odpowiednich przepisach sektorowych, jeżeli ma to obejmować tajemnice typu bankowa, ubezpieczeniowa i in. Jeżeli Komisja miałaby mieć dostęp do tajemnicy typu tajemnica bankowa, ubezpieczeniowa, niezbędne są zmiany w sektorowych aktach prawnych poprzez dodanie tego podmiotu jako uprawnionego do żądania informacji objętych tego typu tajemnicą. Niedoprecyzowany pozostaje tryb rejestrowania Systemów SI wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Ustawa niewystarczająco odpowiednio reguluje kwestie zależności (w szczególności zgodności) rozporządzenia 2024/1689 z innymi przepisani lokalnymi, które obecnie obowiązują w obszarach mniej lub bardziej bezpośrednio związanych z obszarem, którego dotyczy rozporządzenie. W szczególności chodzi o wymogi wydanej przez KNF Rekomendacji W zakresie zarządzania ryzykiem modeli w Bankach i odpowiedzi na podstawowe pytanie, czy modele zdefiniowane przez instytucję finansową jako modele AI podlegają definicji pod wymogi rekomendacji W czy też nie podlegają. Dodatkowo ustawa powinna obligować organy wydające przepisy, o których mowa do ich aktualizacji z uwzględnieniem przepisów rozporządzenia. Uwaga ogólna PIKE 1. Centralizacja wdrożenia AI 22 Najistotniejszym zarzutem wobec projektu ustawy AI jest brak faktycznej centralizacji regulacji w zakresie AI oraz wyznaczenia jednoznacznie odpowiedzialnych osób za jej wdrożenie. Na czele organu nadzoru rynku w zakresie systemów sztucznej inteligencji powinna stać wyłącznie jedna, konkretnie wskazana osoba, podobnie jak w przypadku Urzędu Komunikacji Elektronicznej czy Urzędu Ochrony Danych Osobowych. W żadnym wypadku nie powinien być to organ kolegialny (Komisja) składający się z aż 12 członków o różnych podejściach do gospodarki – jak w UOKiK, RPO czy RPDz. Taka struktura organu kolegialnego skutkowałaby wewnętrznymi sporami, brakiem spójnej polityki regulacyjnej oraz niejednolitym orzecznictwem. Zjawiska te znacząco ograniczą wdrażanie sztucznej inteligencji w Polsce, a ponadto utrudnią realizację postanowień unijnego rozporządzenia 2024/1689. Należy zwrócić uwagę, że projekt ustawy AI, ze względu na kolegialny skład proponowanego organu, już wykazuje sprzeczności w zakresie decyzyjnym. Dotyczy to przede wszystkim interpretacji wydawanych przez dwa różne podmioty (Komisję i jej Przewodniczącego), co docelowo prowadzi do niezgodności tych stanowisk. Izba stanowczo podkreśla, że utworzenie jednoosobowego organu regulacyjnego jest kluczowe dla skuteczności jego działań. Inne instytucje powinny pełnić wyłącznie rolę doradczą, przy czym ich skład powinien mieć charakter ekspercki - naukowy i gospodarczy – nie zaś „społeczny”. 2. Charakter organu nadzorującego Opracowanie i wdrożenie sztucznej inteligencji w Polsce powinno być domeną naukowców - informatyków oraz przedstawicieli przemysłu. Tymczasem obecny kształt projektu ustawy AI całkowicie ich pomija przy podziale stanowisk i zadań. Jest to sytuacja, na którą nie można się zgodzić, gdyż spowoduje istotne opóźnienia Polski w dziedzinie rozwoju oraz stosowania sztucznej inteligencji. W opinii Izby, projektowana ustawa AI wymaga odrzucenia i opracowania w całkowicie nowej formie. PIKE z niepokojem zauważa, że skład Komisji ma charakter silnie społeczny, a nie naukowy czy gospodarczy. To wskazuje, że działania Komisji będą się koncentrować na priorytetach bezpośrednio niepowiązanych z innowacyjnością czy gospodarką. Taka struktura (nawet bardziej niż kolegialność) będzie miała negatywny wpływ na wdrożenie AI w Polsce. W przypadku nieuwzględnienia naszego postulatu o ustanowienie jednoosobowego organu nadzorującego, rekomendujemy całkowitą zmianę składu Komisji. Powinni w niej zasiadać przede wszystkim osoby ze środowisk naukowych, związanych z informatyką oraz przedstawiciele przemysłu, zwłaszcza branży ICT. Zaskakującym pozostaje, że projekt ustawy AI nie przewiduje żadnej roli dla Państwowego Instytutu Badawczego NASK, który powinien odgrywać kluczową rolę w rozwoju sztucznej inteligencji. Podkreślamy, że tylko proponowany przez Izbę skład organu zapewni, iż jego priorytetem pozostanie rozwój gospodarczy i realizacja założeń Strategii Cyfryzacji Państwa. W przypadku odrzucenia naszych postulatów dotyczących zmiany składu Komisji oraz Rady, wyrażamy obawę, że ucierpi na tym konkurencyjność polskiej gospodarki względem państw 23 bardziej przychylnych naukowcom i przedsiębiorcom, takich jak kraje Europy Zachodniej, USA czy Korea Południowa. W przypadku tak innowacyjnego produktu, jakim jest AI, stanowi to poważne zagrożenie, gdyż polscy naukowcy mogą zechcieć ją rozwijać w bardziej przyjaznych im środowiskach regulacyjnych. Z kolei polski przemysł będzie skłonny wdrażać rozwiązania AI opracowane w gospodarkach o bardziej prorozwojowej polityce, korzystając z zasad otwartego rynku UE. W konsekwencji sztuczna inteligencja (jako oprogramowanie stosowane m.in. w sieci Internet) może stać się w Polsce produktem zewnętrznym, co jeszcze bardziej pogłębi nasze cyfrowe zacofanie. 3. Procedury działania Projektowany kolegialny charakter głównego organu regulacyjnego AI oraz liczba instytucji „współpracujących” powoduje, że projekt ustawy przewiduje skomplikowane i mało efektywne procedury. W opinii Izby, działania organów ds. AI powinny zostać oparte na przepisach kodeksu postępowania administracyjnego, z całym jego orzecznictwem i doktryną. Ponadto, zasady współpracy między poszczególnymi organami powinny być precyzyjniej określone, zarówno w zakresie rozgraniczenia ich kompetencji, jak i wzajemnego wpływu wydawanych decyzji, rekomendacji oraz zaleceń. W obecnym kształcie projekt ustawy AI wydaje się być zbiorem sugestii różnych instytucji aspirujących do udziału w procesie regulacyjnym, lecz bez jasno określonych relacji, zarówno w zakresie przyjętej linii decyzyjnej, jak też uzgodnień. Większość tych zastrzeżeń byłoby nieaktualnych, gdyby uwzględniono postulat Izby dotyczący centralizacji organu nadzorującego i jego jednoosobowego charakteru. Podsumowując, Izba kładzie nacisk na konieczność całkowitego przekształcenia projektu ustawy AI w odniesieniu do celów, którym powinna służyć sztuczna inteligencja oraz określenia podmiotów już zaangażowanych w jej rozwój i wdrożenie. W związku z powyższym, proponujemy zorganizowanie konferencji uzgodnieniowej z udziałem przedstawicieli nauki, środowiska informatycznego oraz biznesu, na której możliwe byłoby wspólne wypracowanie celów, którym ma służyć wdrożenie unijnego rozporządzenia 2024/1698 w Polsce, a także przekształcenie projektu ustawy AI z uwzględnieniem tych priorytetów. Uwaga ogólna Fundacja FinTech Poland W ramach rekomendacji o charakterze ogólnym zwracamy uwagą na potrzebę rozważenia rewizji projektu pod kątem zapewnienia konkurencyjności polskiego systemu prawnego w stosunku do regulacji dotyczących AI w innych państwach. W sytuacji braku polskich podmiotów odgrywających czołową rolę w kształtowaniu rozwiązań AI na poziomie globalnym (zarówno w środowisku akademickim, jak i wśród dostawców rozwiązań biznesowych), a także wyraźnych ambicji Polski w tym zakresie (np. Polityka Rozwoju AI w Polsce, plany funduszy na rzecz AI, dynamiczny rozwój ośrodków takich jak IDEAS NCBiR), kluczowe jest stworzenie przyjaznego otoczenia prawnego dla rozwoju tej technologii. Istotne w tym zakresie jest budowanie zachęt i sprzyjających warunków rozwoju dla AI (oczywiście w granicach wyznaczonych przez AI Act) oraz eliminacja nadmiernych barier dla inwestycji i indywidualnej kreatywności. Wykorzystanie 24 nadmiarowych narzędzi kontroli, takich jak np. wysokie kary finansowe czy długotrwała konfiskata sprzętu, może prowadzić do znacznego zahamowania rozwoju AI w Polsce, a tym samym obniżenia konkurencyjności polskiej gospodarki. Uwagi ogólne (piaskownice) HAERGI SP.ZOO Chciałbym zwrócić uwagę na kwestię piaskownic regulacyjnych w kontekście rozwoju startupów z sektora sztucznej inteligencji (AI). Mimo iż teoretycznie mają one stanowić bezpieczne środowisko testowe dla firm, w praktyce mogą one napotkać poważne ograniczenia, które utrudnią ich efektywne działanie. Piaskownice regulacyjne – szansa czy ograniczenie? Zgodnie z założeniami, piaskownice regulacyjne miałyby zapewnić firmom możliwość testowania innowacyjnych rozwiązań AI w bezpiecznych, kontrolowanych warunkach, bez ryzyka naruszenia przepisów. Jednak w praktyce startupy AI potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych – takich jak karty GPU czy usługi chmurowe – aby rozwijać swoje technologie. Obecnie na rynku obserwujemy niedobór tych zasobów, co stanowi poważne ograniczenie dla firm działających w tej branży. Problem infrastrukturalny Budowa i utrzymanie infrastruktury obliczeniowej na potrzeby piaskownic regulacyjnych wiąże się z ogromnymi kosztami. Państwo musiałoby ponieść znaczące wydatki, aby stworzyć zasoby, które choćby w części dorównują ofertom komercyjnych dostawców, takich jak Microsoft (Azure) czy Amazon (AWS). W związku z tym pojawia się pytanie, czy tego typu inwestycja jest opłacalna z punktu widzenia budżetu państwa i czy piaskownice rzeczywiście będą stanowiły wystarczającą zachętę dla startupów. Rządowa Chmura Obliczeniowa (RCO) Zgodnie z przepisami Rządowa Chmura Obliczeniowa (RCO) jest dostępna jedynie dla podmiotów administracji publicznej, co ogranicza możliwość korzystania z jej zasobów przez startupy z sektora prywatnego. To dodatkowo komplikuje sytuację firm AI, które potrzebują skalowalnych zasobów chmurowych. Alternatywne rozwiązania Zamiast koncentrować się na budowie piaskownic regulacyjnych, warto rozważyć inne formy wsparcia dla startupów AI, które mogą okazać się bardziej efektywne i mniej kosztowne: 1. Subwencje i granty – Państwo mogłoby udzielać firmom dotacji na korzystanie z zasobów komercyjnych platform obliczeniowych, takich jak AWS, Azure czy Google Cloud. Takie wsparcie umożliwiłoby startupom trenowanie modeli AI na najlepszych dostępnych narzędziach, jednocześnie minimalizując obciążenia budżetowe. 2. Partnerstwa z globalnymi dostawcami – Rząd mógłby nawiązać współpracę z technologicznymi gigantami, takimi jak Microsoft czy Amazon, aby oferować firmom zniżki na korzystanie z ich usług. Takie partnerstwa mogłyby zapewnić startupom dostępdo skalowalnych i zaawansowanych zasobów, bez konieczności budowy własnej 25 infrastruktury. 3. Akceleratory i wsparcie naukowe – Państwo mogłoby zainwestować w programy akceleracyjne, które łączyłyby wsparcie finansowe z mentoringiem w zakresie AI, jednocześnie pomagając firmom dostosować się do wymogów regulacyjnych. Współpraca z uczelniami oraz innymi podmiotami technologicznymi mogłaby znacząco przyspieszyć proces wdrażania innowacyjnych rozwiązań na rynek. Czy piaskownice są wystarczającym rozwiązaniem? W obecnym kształcie piaskownice regulacyjne mogą nie spełniać oczekiwań firm z sektora AI, które potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych i wsparcia merytorycznego. Startupy prawdopodobnie będą preferować korzystanie z usług globalnych dostawców chmurowych, które oferują niezawodność, skalowalność i dostęp do najnowszych technologii. Zamiast koncentrować się na kosztownej budowie piaskownic, lepszym rozwiązaniem byłoby wsparcie startupów w postaci subwencji, partnerstw z globalnymi firmami oraz programów akceleracyjnych. W ten sposób państwo mogłoby efektywnie wspierać innowacje, minimalizując jednocześnie obciążenia budżetowe. Uwaga ogólna Związek Cyfrowa Polska Niewystarczającą ochronę informacji i wrażliwych danych. Zarówno na etapie prowadzonych przez organ kontroli, jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa (w tym wrażliwych informacji oraz danych). Uwaga ogólna generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, c zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. 26 Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby 27 Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej 28 dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. 29 Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Z przyjemnością oferujemy nasze wsparcie i liczymy na dalszą współpracę z Ministerstwem Cyfryzacji. Uwaga ogólna Związek Cyfrowa Polska Procedury odwoławcze – kompetencje SOKiK. Od decyzji KRiBSI przysługuje przedsiębiorcy odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów („SOKiK”). Ustawodawca w związku z tym zrezygnował z zasady dwuinstancyjności i uregulował mechanizm odwoławczy przed SOKiK, na wzór procedur przed innymi organami regulacyjnymi, w szczególności UOKiK (art. 80 Projektu). Rozwiązanie to oceniamy pozytywnie, biorąc pod uwagę wcześniejsze nie najlepsze doświadczenie takich procedur dwuinstancyjnych, np. w zakresie przepisów o ochronie danych osobowych (gdy organ rozpatrując odwołania niezmiernie rzadko zmieniał bądź uchylał swoje wcześniejsze decyzje). Nie negując zatem samej zasadności jednoinstancyjnej procedury odwoławczej, zwracamy jedynie uwagę na kompetencję SOKiKu dla spraw o tak wysokim poziomie skomplikowania, złożoności i trudności materii nowych technologii i systemów AI. Uważamy, że należałoby poddać dalszej dyskusji przygotowanie i kompetencje sędziów orzekających w SOKiK do orzekania w sprawach na gruncie AI Act oraz krajowej ustawy. Poddajemy pod rozwagę wariant zmiany właściwości sądu dla spraw z zakresu AI z SOKiK na sądy właściwe ws. własności intelektualnej („Sąd IP”), w ramach których orzekający już sędziowie przeszli niezbędne szkolenia z zakresu IP, która to dziedzina jest częściowo związana z zagadnieniem AI, a tym samym Sądy IP mogą potencjalnie oferować wyższy poziom ekspertyzy na potrzeby rozpatrywania spraw z zakresu AI (alternatywnie, należałoby rozważyć zorganizowanie podobnego na wzór sędziów Sądów IP szkolenia przygotowującego do zagadnień AI dla sędziów SOKiK). Uwaga ogólna RELX 1. Preliminary Remarks In view of the business activities described above, RELX has a strong interest in the further development of the European Union's digital single market. We support the AI Regulation (EU 2024/1689) and would like to take the opportunity to participate in the exchange on the draft ‘Act on Artificial Intelligence Systems’ (projekt ustawy o systemach sztucznej inteligencji). In view of the creation of a ‘Commission for the Supervision of Artificial Intelligence Systems’ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji) in Poland, we would like to take this opportunity to highlight in our statement the points that are important to us regarding the way the Commission applies the law. 2. Uniform Legal Framework One of the major achievements of the AI Act is the creation of a uniform legal framework in the EU. The Regulation contributes to the proper functioning of the internal market and, by establishing uniform rules, creates a wide range of incentives that promote positive market development. This way, companies benefit from a stable environment, while consumers receive safer and more diverse products. 30 We therefore support a faithful application of the European AI Act to ensure consistency and avoid fragmented implementation that could hinder rather than support the European Digital Single Market Consistent Regulation and Market Supervision Consistent rules and practices ensure that transparency requirements are consistently enforced across the EU. This prevents regulatory gaps or inconsistencies that companies could exploit and ensures a level playing field in all member states. We support the important work of the AI market surveillance authorities, as they play a central role in the uniform enforcement of the AI Regulation. In this context, it is crucial that the authorities ensure that companies in all Member States follow the same high standards, thus creating a level playing field throughout the single market. This can only be achieved if the prerequisite of an EU- wide uniform interpretation of the AI Regulation is met. Therefore, a lot depends on how the future Polish market supervisory authority will issue general and individual interpretations pursuant to Art. 11 Sec. 1 No. 13 of the draft of the Artificial Intelligence Systems Act. Through their consistent actions, the supervisory authorities should create a stable and trustworthy environment for the development and use of AI throughout the EU. Therefore, we also support the work on uniform interpretations at the EU level. To this end, we are participating in the drafting of the EU Commission's General-Purpose AI (GPAI) Code of practice in order to promote a uniform EU-wide interpretation of the obligations set forth in Articles 53 and 55 of the AI Act for providers of general-purpose AI models. These obligations require GPAI model providers to make publicly available a summary about the training content (Article 53(1d)) and put in place policies to comply with Union law on copyright (Article 53(1c)). As the GPAI code of practice will outline these provisions in greater detail, it is essential to actively monitor developments to ensure consistent and uniform interpretation of these obligations by the supervisory authorities. Transparency RELX takes its responsibility as a downstream AI provider seriously. We are convinced that every link in the AI supply chain must contribute to the responsible development of AI. In doing so, it is important to us that our AI solutions are always in line with our Responsible AI Principles. Transparency plays a key role here: it ensures compliance with legal requirements and promotes ethical AI development. This is because LLMs can generate content that is illegal, harmful, misleading, offensive, or discriminatory and may affect the reputation, rights, or interests of individuals or groups. For example, researchers are concerned that their work will be misinterpreted and misused, or that it will not be properly attributed or contextualised. This risk is exacerbated by the lack of citation/quotation and links to the underlying sources that would prove the origin of the research findings. Transparency strengthens trust in AI products. It facilitates collaboration within the AI supply chain by creating a clear information base that drives innovation and enables responsible 31 further development. Furthermore, transparency helps to reduce liability risks and to avoid misuse or discriminatory results, paving the way for more sustainable and socially responsible AI use. Transparency and Copyright Transparency promotes the legitimacy of AI products by making the origin and nature of training data traceable. Compliance with copyright law is a particularly important aspect here, because trainingGPAI models involves copying content through text and data mining (TDM), which may be protected by EU copyright. Not only does the EU copyright law raise crucial questions of transparency, legality and accountability, but the AI Regulation also provides for transparency obligations. Accordingly, providers of general- purpose AI models (GPAI) must make publicly available a sufficiently detailed summary of the training content (Article 53(1d) of the AI Act) and take measures to comply with European copyright law (Article 53(1c) of the AI Act). The AI Act applies without prejudice to the DSM Directive 2019 and the Information Society Directive (InfoSoc) 2001, which together establish legal protection for copyright-protected works and exceptions to those rights. While the InfoSoc Directive establishes that owners have the exclusive right to non-temporary acts of reproduction, the DSM creates two exceptions for TDM. The first is for non-commercial research institutions with lawful access to reproduce works for the purposes of TDM. The second is an exception for commercial reproduction for TDM where there is lawful access, unless the rights holder explicitly reserves authorisation. These exceptions can only work effectively if rightsholders have a complete overview of the protected works reproduced for the purpose of training generative AI models. Such transparency facilitates tracking of the use of works and ensures that reproduction is lawful – whether through the valid use of an exception, under a licence or another commercial agreement. This, in turn, ensures that rightholders are adequately remunerated and that online copyright infringement is effectively combated. To make the transparency obligation meaningful and feasible, recital 107 of the AI Act further clarifies that the information in the sufficiently detailed summary should be ‘generally comprehensive’ to enable rightholders to ‘exercise and enforce their rights under Union law’ and thus implement the reservation of rights provided for in Article 4 of the DSM Directive. This would enable users of the generated results to have confidence in the accuracy and origin of the materials used to train the model. Transparency will thus facilitate tracking the use of copyrighted works and ensure that reproduction – for the purpose of training GPAI models, for example – is lawful. The responsible use of copyrighted content is crucial to protecting the rights of rights holders and minimising the risk of legal disputes. Transparency and Market Surveillance Authorities The enforcement of transparency obligations by market surveillance authorities plays a central role in this. These authorities ensure that companies fulfil their obligations and disclose the 32 required information. This not only builds trust in the market, but also prevents systematic violations that could distort competition. However, for the authorities to effectively enforce the AI Regulation, it will depend on the uniform application of the law within the EU to ensure consistent legal certainty across the Union. Tytuł ustawy Osoba fizyczna Tytuł ustawy - O systemach sztucznej inteligencji Treść ustawy skupia się na wykonywaniu nadzoru administracyjnego w obszarze wykorzystania systemów sztucznej inteligencji. Wskazanie ogólnego tytułu obejmującego szeroki zakres może prowadzić do nieporozumień i niejasności. Tytuł powinien być precyzyjniejszy i oddawać treść aktu prawnego. Dlatego należy w tytule określić główny przedmiot regulacji – nadzór. Proponowany tytuł: Ustawa o nadzorze nad systemami sztucznej inteligencji. Tytuł ustawy SKwP Jest: USTAWA z dnia ... 2024 r. o systemach sztucznej inteligencji Propozycja: Ustawa z dnia...2024 r. o Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uzasadnienie: Cała treść projektu dotyczy zasad funkcjonowania i zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tytuł ustawy ISSA Polska Z tytułu powinno wynikać, że ustawa stanowi doprecyzowanie oraz wdrożenie przepisów i zasad AI Act. Tymczasem tytuł projektu może powodować wrażenie, że ustawa stanowi regulację niezwiązaną z od AI Act. Tytuł ustawy Polskie Towarzystwo Informatyczne To nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM). Propozycja „o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz o innych mechanizmach nadzoru nad systemami sztucznej inteligencji” W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI” jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689 dostosowując ustawodawstwo Polski do wymogów jw. „Rozporządzenia” Tytuł ustawy Repropol Tytuł projektowanej ustawy, przy czym nie stanowi to najważniejszej kwestii, jest – w naszej ocenie – niewłaściwy. Jeśli stanowi on pierwszy z kilku zaplanowanych aktów wdrożeniowych, obecna propozycja stworzy w późniejszym okresie problemy z zatytułowaniem kolejnych ustaw wdrażających AIA. Ponadto, nie można stwierdzić, żeby sednem komentowanego Projektu były systemy sztucznej inteligencji. Jest nim raczej stworzenie administracyjno-technicznego aparatu służącego nadzorowaniu funkcjonowania systemów sztucznej inteligencji. Nie jest także jasne, 33 dlaczego tytuł wskazuje na „systemy”, a pomija „modele” sztucznej inteligencji, które na osi rozwoju systemów AI stanowią – w uproszczeniu – etap poprzedzający oddany do użytku system AI. Niezależnie od powyższego, Projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w AIA mowa o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, która na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie z akronimu „AI”, jako oznaczenie sztucznej inteligencji. Tytuł ustawy GRAI Zaproponowany tytuł projektowanej ustawy to ustawa o systemach sztucznej inteligencji. Zakres objęty tą ustawą skupia się jednak nie na systemach sztucznej inteligencji, ale ma na celu uregulowanie kwestii instytucjonalnych, proceduralnych i nadzorczych. Zgodnie z Zasadami Techniki Prawodawczej „przedmiot ustawy określa się możliwie najzwięźlej, jednakże w sposób adekwatnie informujący o jej treści”. Mając to na uwadze oraz faktyczny zakres przepisów projektu ustawy wątpliwości budzi zaproponowany tytuł. Zmiana tytułu ustawy na: „ustawa o nadzorze nad systemami sztucznej inteligencji” lub „ustawa o organizacji i sposobie sprawowania nadzoru nad rynkiem sztucznej inteligencji”. Tytuł ustawy Związek Banków Polskich Ustawa o systemach sztucznej inteligencji Ustawa o organizacji i sprawowaniu nadzoru nad systemami sztucznej inteligencji [lub] Ustawa o nadzorze nad systemami sztucznej inteligencji Tytuł ustawy powinien odzwierciedlać jej przedmiotowy zakres, którym jest określenie organizacji i sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji. Obecny tytuł może wprowadzać w błąd i sugerować, że jest to ustawa o znaczeniu materialnoprawnym, definiującym systemy sztucznej inteligencji, a tak nie jest. Tytuł ustawy Fundacja FinTech Poland Tytuł ustawy powinien być adekwatny do jej treści, ponieważ pełni funkcję informacyjną oraz umożliwia jasne rozumienie zakresu regulacji. Tytuł powinien odzwierciedlać istotę i cel regulacji, aby ułatwić identyfikację treści przez osoby zainteresowane oraz zapewnić przejrzystość procesu legislacyjnego. W przypadku projektu ustawy, która reguluje jedynie zasady prowadzenia nadzoru nad systemami AI, tytuł „ustawa o systemach sztucznej inteligencji” może wprowadzać w błąd, sugerując szerszy zakres regulacji obejmujący wszystkie aspekty funkcjonowania i wykorzystania AI, a nie tylko nadzór nad nimi. Dlatego tytuł powinien precyzyjnie odzwierciedlać tematykę 34 nadzoru, aby uniknąć nieporozumień i zapewnić zgodność między treścią a nazwą aktu prawnego. Zgodnie z powyższym proponujemy przyjęcie nowego tytułu ustawy: “ustawa o nadzorze nad systemami sztucznej inteligencji”. Rozdział 1 GRAI Wprowadzenie prawa do ochrony wizerunku przed tzw. deepfake w sposób szerszy niż na do tej pory na podstawie KC i dóbr osobistych. Rozszerzenie uwzględniałoby np. głos (co charakteru głosu są spory) w różnych okresach życia. Rozdział 1 GRAI Odrzucenie blankietowych wyłączeń dla państw ze względu na bezpieczeństwo narodowe i obronność. Rekomendujemy odrzucenie blankietowych wyłączeń dotyczących stosowania systemów AI ze względu na bezpieczeństwo narodowe i obronność. Systemy AI muszą być regulowane jednakowo w sektorze publicznym i prywatnym, bez wyjątków dla organów państwowych. Przepis ten zapewni, że wszystkie zastosowania systemów AI podlegają przejrzystym i odpowiedzialnym regulacjom, nawet w przypadku działań związanych z bezpieczeństwem narodowym. Zakaz stosowania systemów oceny ryzyka opartego na profilowaniu automatycznym Należy wprowadzić przepisy zakazujące używania systemów oceny ryzyka, które wykorzystują AI do profilowania osób na podstawie cech osobistych. Takie systemy są nieproporcjonalnie dyskryminacyjne, naruszają prawo do równości oraz zasadę domniemania niewinności. Zakaz używania systemów rozpoznawania emocji i biometrycznego kategoryzowania osób Technologie takie jak AI oparte na rozpoznawaniu emocji (np. tzw. \"detektory kłamstw\") oraz analizy behawioralne są niewiarygodne naukowo i mogą wzmacniać uprzedzenia raso we oraz automatyzować procesy podejrzewania określonych grup społecznych. Należy zabronić ich stosowania przez służby, również w kontekście migracyjnym, aby zapobiec wzmacnianiu dyskryminacyjnych praktyk. Rozdział 1 GRAI Wprowadzenie zasad reklamowania systemów sztucznej inteligencji w tym przeciwdziałania wprowadzaniu konsumenta w błąd (np. co do pewności wyników, złożoności, zaawansowania technologicznego). • Definicja systemów AI jest dość pojemna. Oznaczenie AI samo w sobie ma coraz większą wartość marketingową. Sprzyja to wprowadzaniu konsumentów w błąd co do rzeczywistych właściwości technologii (sugeruje jej zaawansowanie technologiczne i nieomylność). Art. 1 Polskie Towarzystwo Informatyczne 1.Powinno być podkreślone zagadnienie z Rozporządzenia które wyczerpuje odpowiedzialność za „LLM” oraz pozwoli na określenie brzegowych zagadnień dopuszczenia do użytkowania samo przytoczenie aktu 2024/1689 i pozostałych nie wnosi nic do „Ustawy” „o systemach sztucznej inteligencji” Propozycja „określenie ramowych wytycznych dotyczących wprowadzania i użytkowania systemów „sztucznej inteligencji” i tu poniżej w podpunktach (79); (61); Art. 12 Należy zapewnić, aby odpowiedzialność za wprowadzenie do obrotu lub oddanie do użytku systemu AI wysokiego ryzyka ponosiła konkretna osoba fizyczna lub prawna określona jako 35 dostawca, niezależnie od tego, czy ta osoba fizyczna lub prawna jest osobą, która zaprojektowała lub rozwinęła system. (61) ... W szczególności, aby wyeliminować potencjalne ryzyko stronniczości, błędów i efektu czarnej skrzynki, jako systemy wysokiego ryzyka należy zakwalifikować systemy AI .. Artykuł 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej „rejestrami zdarzeń”) w całym cyklu życia danego systemu. Na podstawie określenia ram i zasad można dopiero określać sprawowanie nadzoru oraz wymogów dotyczących naruszeń brak takowych w „Ustawie” (nie przytoczono ). ww. zapisy dotyczyć powinny nie tylko tzw. ”AI wysokiego ryzyka” ale każdego modelu. 2. Projekt zakłada określenie”rodzajów działań wspierających rozwój systemów sztucznej inteligencji”, jednak w samym projekcie mowa wyłącznie o interpretacjach generalnych oraz indywidualnych. Należy rozważyć rozszerzenie tych środków i wyraźne ich wyodrębnienie w stosownym rozdziale. Prosimy o dopisanie odpowiednich przepisów doprecyzowujących ten główny punkt zakresu przedmiotowego. Art. 1 GRAI Brak uregulowania w projekcie ustawy tematu piaskownic regulacyjnych, co budzi poważne wątpliwości, co do realizacji przez Polskę art. 57 ust. 1 rozporządzenia 2024/1689. Uzupełnienie przepisów projektu ustawy. Jeśli ta kwestia ma być uregulowana w przepisach innego aktu prawnego (np. Niemcy pracują nad ustawą dotyczącą piaskownic regulacyjnych) należy zawrzeć odpowiednie odwołanie lub uzupełnić uzasadnienie o kwestię odstąpienia od uregulowania piaskownic regulacyjnych na tym etapie prac legislacyjnych. art. 1 pkt 1 GRAI W przepisie tym wskazano systemy sztucznej inteligencji i modele sztucznej inteligencji, przy czym w dalszej części ustawy posługujemy się sformułowaniem systemy sztucznej inteligencji. W art. 3 brak również definicji modeli sztucznej inteligencji. Wskazane jest ujednolicenie. Proponowane rozwiązanie: usunięcie z art. 1 pkt. 1 sformułowania: „modelami sztucznej inteligencji ogólnego przeznaczenia”. art.1 pkt 6 GRAI W art. 1 projektu ustawy wskazano jej zakres- i tak ustawa określa: kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar a dopiero na końcu, w art. 1 pkt 6 projektu ustawy wskazuje się, że ustawa określa „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”. Jednak, poza tym lakonicznym sformułowaniem, w przepisach brak jest uregulowań w tym 36 zakresie. Ustawa w pierwszej kolejności powinna określać „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”, a w drugim kroku kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar. Uzupełnienie przepisów projektu ustawy o wskazanie rzeczywistych działań wspierających rozwój systemów sztucznej inteligencji w Polsce. art.1 pkt 6 SFP-ZAPA Zgodnie z art. 1 pkt 6) Projektu, ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. Jednym z takich działań jest niewątpliwie ochrona praw autorskich. Ludzka kreatywność oraz utwory z różnych dziedzin działalności artystycznej są bowiem materiałem, dzięki któremu możliwe było powstanie, a następnie możliwy jest dalszy intensywny rozwój sztucznej inteligencji. Jak wynika z Projektu (art. 7 ust. 3 pkt 5 Projektu) zagadnienia leżące w gestii ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego są postrzegane jako zagadnienia wchodzące w zakres i cel przedmiotowej regulacji. Przedstawiciel ministra właściwego do spraw kultury i dziedzictwa narodowego może bowiem uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”), która jest nowo tworzonym organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Niestety, przedstawiciel Ministra Kultury i Dziedzictwa Narodowego nie został wyposażony w prawo głosu podczas obrad Komisji, co naszym zdaniem powinno ulec zmianie. Pomimo włączenia ministra właściwego do spraw kultury i dziedzictwa narodowego w prace Komisji, Projekt nie reguluje w żaden sposób kwestii związanych z korzystaniem z praw autorskich na potrzeby sztucznej inteligencji. W szczególności brak jest jakichkolwiek rozwiązań odnoszących się do ochrony tych praw zgodnie ze standardami europejskimi oraz krajowymi. Na konieczność zapewnienia takiego poziomu ochrony zwraca zaś uwagę rozporządzenie 2024/1689. Jak wiadomo, szybki rozwój sztucznej inteligencji wpływa na prawa twórców, producentów i wydawców. Wpływ ten jest w niektórych aspektach negatywny, na co wskazuje unijny ustawodawca w motywie 105 aktu o AI. Chodzi w szczególności o nieuregulowane wykorzystywanie utworów chronionych prawem autorskim na potrzeby tworzenia, rozwijania, w tym trenowania i zasilania systemów sztucznej inteligencji, w trakcie których dochodzi do masowego naruszania tych praw. Stosowna regulacja jest zatem niezbędna. Art. 1 pkt 6 Fundacja FinTech Poland Choć w art. 1 ustawa deklaruje, że jej celem jest określenie rodzajów działań wspierających rozwój systemów sztucznej inteligencji, to poza tym wstępnym postanowieniem, treść ustawy nie zawiera szczegółowych regulacji ani przepisów dotyczących takich działań. Brak konkretnych rozwiązań i postanowień odnoszących się do wsparcia rozwoju AI powoduje, że zapowiedź ta staje się jedynie deklaratywna, a nie merytoryczna. Taki stan rzeczy może prowadzić do nieporozumień 37 interpretacyjnych oraz osłabienia zaufania do legislacji, gdyż ustawa zdaje się obiecywać więcej niż faktycznie dostarcza. Aby zapewnić spójność i przejrzystość, konieczne byłoby albo uzupełnienie treści o konkretne przepisy dotyczące wsparcia rozwoju systemów AI, albo odpowiednia modyfikacja zakresu art. 1, by odzwierciedlał rzeczywisty zakres regulacji zawartych w ustawie. Art. 2 pkt 6 Związek Pracodawców Technologii Cyfrowych Lewiatan Usunięcie w projekcie ustawy zadań związanych z rozwojem sztucznej inteligencji Wydaje się, że zapis określający zakres przedmiotowy ustawy (art. 1 punkt 6), a także dalsze wspieranie konkurencyjności (nie wymienione w w/w art., ale pojawiające się w art. 12 ust. 2 przy opisaniu zadań Komisji) to niepotrzebne wymieszanie dwóch zupełnie różnych od siebie zadań. Co więcej, jeśli to Komisja będzie decydowała o rozwoju sztucznej inteligencji w Polsce to może być znaczącym ograniczeniem dla działań innych organów administracji. Ponieważ można wnioskować, że to Komisja, a nie inne organy administracji będzie miała ostatnie słowo w jaki sposób kierować rozwojem systemów sztucznej inteligencji. Będąc jednocześnie regulatorem bardzo skutecznie stłumi wszelką inicjatywę. Umieszczenie zatem takiego zadania wydaje się być niewłaściwe. Warto także zaznaczyć, że kwestie rozwoju są poruszane w ustawie w sposób zdawkowy, w odróżnieniu od kwestii regulacyjnych. Propozycja: wykreślić wszelkie zapisy dotyczące rozwoju sztucznej inteligencji z treści ustawy. art. 2 ust. 1 CHAMBER brakuje słowa “do” (uwaga redakcyjna) art. 2 ust. 1 SFP-ZAPA Zgodnie z projektem, ustawa ma zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem, choć rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, które w naszym przekonaniu wymagają rozwinięcia i doprecyzowania w prawie krajowym, Projekt nie przewiduje żadnych rozwiązań w tym zakresie. Dzieje się to ze szkodą dla wskazanych wyżej podmiotów, których przedmiotowa regulacja ma dotyczyć. Nic nie stoi natomiast na przeszkodzie, aby kwestie te uregulować. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Akt o AI jedynie w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Tymczasem architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw, często nadużywając wyjątku przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”). W naszym przekonaniu brak zapewnienia ochrony praw autorskich w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele aktu o AI w 38 postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy do czynienia każdego dnia Art. 2. 1. PWPW Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. 2. O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia 1) brakuje zwrotu „do” lub „wobec” 2) konstrukcja art. 2 wydaje się wadliwa. Ust. 1 wskazuje na zakres podmiotowy, tj. dostawca, producent itp., a ust. 2 mówi o systemach (czyli przedmiotowo). W ust. 2 powinno się wskazać bądź na dostawców modeli AI ogólnego przeznaczenia, bądź na dostawców i użytkowników. Alternatywna propozycja to pozostawić art. 2 w zakresie podmiotowym a odrębny artykuł poświęcić modelom AI ogólnego przeznaczenia. Należy też wskazać które przepisy stosuje się ww. zakresie. Wskazanie w ustawie „o ile przepisy AI act nie stanowią” – jest zbyt ogólne i nie spełnia wymagań precyzyjności przepisu prawnego. Określenie zasad podlegania pod ustawę w zakresie modeli ogólnego przeznaczenia ma szczególne znaczenie dla użytkowników, tj. firm korzystających z modeli ogólnego przeznaczenia. Normy prawne w ww. zakresie powinny być precyzyjnie określone w projekcie ustawy. Art. 2 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W pierwszej kolejności postulujemy dodanie przyimka „do” w treści ustępu pierwszego: Art. 2. 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W dalszej kolejności podnosimy, iż zgodnie z art. 2 ust. 1 Projektu ustawy, ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Podnosimy, iż art. 2 ust. 1 w pkt g) Rozporządzenia 2024/1689 stanowi, że Rozporządzenie 2024/1689 stosuje się również do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". W tym zakresie powstaje wątpliwość czy zakres podmiotowy ukształtowany w art. 2 ust. 1 Projektu ustawy odpowiada celowi ustawy, który określony został w art. 1 Projektu ustawy. Jak czytamy bowiem w uzasadnieniu projektu ustawy, „Celem projektowanej ustawy jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi”. 39 W związku z powyższym zdaje się, iż celem ustawy nie jest objęcie nadzorem osób, na które AI ma wpływ. Art. 2 ust. 1 e-Izba Projektowany przepis wskazuje, że ustawa znajdzie zastosowanie do wszystkich podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W art. 2 ust. 1 pkt g tego aktu prawnego wskazane są „osoby, na które AI ma wpływ i które znajdują się w Unii”. Regulacja ta odnosi się w dużej mierze do osób fizycznych, które nie koniecznie same korzystają z systemów sztucznej inteligencji, lecz ich działanie w jakiś sposób na nie wpływa. Treść Projektu wskazuje z kolei, że reguluje on zagadnienia adresowane do podmiotów stosujących systemy sztucznej inteligencji. W związku z tym rekomendujemy rozważenie zmiany zawężającej zakres odesłania przewidzianego w art. 2 ust. 1 Projektu. Art. 2 ust. 1 AI Chambre W art. 2 ust. 1 - brakuje słowa “do” (uwaga redakcyjna) Art. 2 ust. 1 Fundacja FinTech Poland W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". Rekomendujemy wyjaśnienie czy projektodawca ma na myśli obywateli czy celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowania AI. Art. 2 ust. 1 Osoba fizyczna jk Brak \"do\" 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Art. 2 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 2 ust. 2 Projektu ustawy, o ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Patrząc na zakres definicji określony w art. 3 Projektu ustawy, w którym pojęcia definiowane są poprzez odesłanie do Rozporządzenia 2024/1689, rekomendujemy uwzględnienie w Projekcie ustawy również definicji „modelu AI ogólnego przeznaczenia” (motyw 97 Rozporządzenia 2024/1689). Chyba, że celem Projektodawcy jest, aby odnosić się do „systemów AI ogólnego przeznaczenia”, które oparte są o te modele AI ogólnego przeznaczenia, zgodnie z definicją zawartą w art. 3 pkt 66 Rozporządzenia 2024/1689. Art. 2 ust. 2 Fundacja FinTech Poland Sugerujemy wprowadzenie reguł kolizyjnych w ustawie. Rozporządzenie UE zobowiązuje do uregulowania przez Państwa członkowskie pewnych obszarów. Nie rozstrzyga natomiast kolizji między przepisami polskiej ustawy (ani żadnej innej ustawy krajowej). To Polski ustawodawca powinien wprowadzić reguły kolizyjne i określić które reguły stosuje się do systemów AI ogólnego przeznaczenia. art. 2 GRAI Należy uniknąć transgranicznego wymiaru ustawy. Przedsiębiorcy zagraniczni mający siedzibę w UE, będą podlegać własnym, lokalnym regulacjom (np. nadzorowi własnym organom) i nie powinny równolegle podlegać regulacjom polskim. Ponadto, zastosowanie polskiej ustawy do tych 40 podmiotów będzie zapewne wątpliwe i może prowadzić do sytuacji spornych. Wątpliwe byłoby podejmowanie przez polski organ działań wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania. Jeżeli jednak taki przedsiębiorca nie ma zarejestrowanej w Polsce spółki, nie ma uzasadnienia, aby to był organ polski. Zawężenie zastosowania ustawy do podmiotów mających siedzibę na terytorium Rzeczypospolitej Polskiej. Art. 2 Związek Cyfrowa Polska Zakres podmiotowy. Projekt ustawy bazuje na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole/postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie zatem rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Art. 2 i 4 Repropol Olbrzymie wątpliwości budzi sposób uregulowania zakresu stosowania UoSSI. Projekt w tym zakresie nawiązuje do artykułu 2 AIA, ale przenosi na grunt polskiej ustawy jedynie wybrane zakresy stosowania (zob. art. 2 i 4 UoSSI), przy czym nie jest jasny klucz doboru wybranych wyłączeń. Jeśli ustawodawca zdecydował się już na dookreślenie zakresu stosowania UoSSI, z oczywistych przyczyn powinien on pokrywać się dokładnie z brzmieniem rozporządzenia AIA, które w swoim art. 2 wprowadza bardzo heterogeniczny katalog. Prócz relatywnie jasnego brzmienia art. 2 ust. 1 AIA, kolejne ustępy zawierają również istotne doprecyzowania zakresu stosowania. Tymczasem w Projekcie zawarto jedynie wybrane ograniczenia. Dla przykładu brak jest wyłączenia regulacji wobec osób fizycznych, które „korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej” (art. 2 ust. 10 AIA). 41 Mając to na uwadze, należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo dokonać tego kompletnie, czyli z uwzględnieniem jego całej zawartości normatywnej. Odrębną uwagę trzeba poświęcić błędnemu wyłączeniu zawartemu w art. 4 pkt 3 UoSSI. Przepis ten stanowi, iż UoSSI, „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 roku - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 roku - Kodeks karny (...)”. Należy założyć, że w zamyśle projektodawcy postanowienie to ma wdrażać artykuł 2 ustęp 6 AIA, wedle którego AIA „nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Sfomułowanie zawarte w Projekcie nie wdraża jednak wspomnianego przepisu AIA. Wyłączenie to ma fundamentalne znaczenie dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Należy podkreślić, że już samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest niezrozumiałe. To przecież nie same badania naukowe, lecz modele oraz systemy AI rozwinięte i oddane do użytku w celach prowadzenia badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Także odesłanie do definicji „podstawowych badań naukowych” jest błędne, i to już w swojej referencji do art. 4 ust. 2 pkt 2 Prawa o szkolnictwie wyższym (podczas gdy „podstawowe badania naukowe” znajdują się w pkt. 1 wskazanej jednostki redakcyjnej). To odesłanie jest wadliwe również in meritum, albowiem jako „badania podstawowe” rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” wprost koliduje z tą częścią art. 2 ust. 6 AIA, która expressis verbis wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie należy zauważyć, iż bardzo ważne jest wyeksponowanie w wyłączeniu ograniczenia do tych systemów lub modeli AI, które powstały wyłącznie w celu prowadzenia badań naukowych i rozwojowych. Obawiamy się, iż wyłączenie zaproponowane w Projekcie może być w przyszłości przedmiotem nadużyć, bowiem zaprogramowane dla celów naukowych – a zatem nie 42 objęte AIA – algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. W naszym przekonaniu, nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. Art. 3 Osoba fizyczna Problem definicji legalnych w treści aktów normatywnych od lat budzi kontrowersje doktrynalne oraz wynikające z praktyki stosowania prawa, zarówno na poziomie adresatów przepisów, jak i praktyki orzeczniczej. Dodatkowym wyzwaniem jest kwestia definicji legalnych przyjmowanych w aktach unijnych. W doktrynie wyraźnie się podkreśla, że definicje legalne przyjęte w rozporządzeniach, czyli aktach normatywnych obowiązujących w polskim porządku prawnym wprost, bezpośrednio, nie podlegają transpozycji. Wprowadzenie przepisów odsyłających do przepisów rozporządzenia UE2024/1689 budzi duże wątpliwości interpretacyjne i praktyczne. Zastosowanie zabiegu odesłania do treści aktu unijnego jest niepotrzebne, a wręcz błędne. Wykorzystanie podstawowych modeli wykładni prawa pozwala na pełne odkodowanie treści normy prawnej, także w zakresie objętym definicją znajdującą się w innym akcie normatywnym, zwłaszcza w akcie normatywnym wyższego rzędu. Dlatego proponuję całkowicie usunąć art. 3 w proponowanym brzmieniu. Art. 3 PIIT Wykreślenie definicji zawartych w ASI, którego przepisy są bezpośrednio stosowane w polskim porządku prawnym. Zasadniczo nie ma przesłanek do powtarzania w krajowych przepisach definicji z, bezpośrednio stosowanych w krajowym porządku prawnym, przepisów unijnych rozporządzeń. Art. 3 Polskie Towarzystwo Informatyczne Definicje Wszystkie przytoczone enumeratywnie określenia odnoszone są w całości do definicji w rozporządzeniu PEiR UE 2024/1689. Zatem wystarczyłby zapis, iż określenia w ustawie zdefiniowane są w rozporządzeniu. Propozycja: Określenia użyte w ustawie zdefiniowane zostały w art. 3 rozporządzenia 2024/1689. Przytoczone w ustawie określenia nie są w rzeczywistości definicjami tych określeń, lecz odsyłaczami do rozporządzenia 2024/1689.; Zajmują niepotrzebnie miejsce w ustawie. Art. 3 AI Chambre W art. 3 trudno doszukać się logiki we wpisaniu jedynie części z niezwykle długiej listy definicji zawartych w Akcie o SI. Zastosowana tu technika odesłania do Aktu nie spełnia swojej roli, bowiem osoba czytająca ustawę musi i tak korzystać z Aktu. Proponujemy albo zrezygnować z definicji, jeśli są tożsame z Aktem i odesłać ogólnie do wszystkich tam zawartych definicji, albo przepisać definicje wprost do ustawy. Art. 3 Związek Banków Polskich Forma przepisu wprowadzająca listę odesłań do AI Act jest nieczytelna. Proponujemy generalne odesłanie – wszystkie pojęcia niezdefiniowane odrębnie w ustawie przyjmują znaczenie z art. 3 AI Act. 43 Art. 3 ust. 13 PIIT Wykreślenie ust. 13 (działanie zbędne, o ile zostaną wykreślone wszystkie unijne definicje). Termin “organ właściwy” jest pojęciem prawa unijnego. Wynika z charakteru prawa negocjowanego dla odmiennych systemów prawa. Siłą rzeczy akty prawa UE nie mogą się posługiwać nazewniczą systematyką któregokolwiek z krajowych systemów. Natomiast w polskiej ustawie doprecyzowujemy zarówno organ notyfikujący jak i organ/y nadzoru rynku. Nie posługujemy się pojęciem “organu właściwego”. Zachodzą tu podobne okoliczności jak w przypadku braku potrzeby definiowania organu ścigania (pkt 45 art. 3 ASI). art. 3 pkt 15 SKwP To nie jest najlepsze tłumaczenie oryginalnego tekstu. Czy nie można znaleźć odpowiedniego słowa polskiego? „55) piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym;”. A może tak: „Ramy rozwoju, walidacji, testowania AI w warunkach rzeczywistych uzgodnione z Komisją ...”. Art. 3 pkt 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 3 pkt 15 Projektu ustawy przez piaskownicę regulacyjną należy rozumieć piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 Rozporządzenia 2024/1689. Zgodnie z uzasadnieniem Projektu ustawy „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W rzeczywistości Projekt ustawy do piaskownic regulacyjnych się nie odnosi. W związku z powyższym prosimy o wyjaśnienie, czy to oznacza, że piaskownic regulacyjnych do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Art. 3 pkt 15 Obywatelski Akcelerator Innowacji Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 Instytut Spraw Obywatelskich Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 PWPW piaskownica regulacyjna piaskownica regulacyjna w zakresie AI w rozumieniu art. 3 pkt 55 44 rozporządzenia 2024/1689; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r. Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 3 pkt 15 Fundacja FinTech Poland Zgodnie z uzasadnieniem projektu: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W związku z tym pojawia się wątpliwość czy do tego czasu pojawi się piaskownica regulacyjna w Polsce, bo jeśli mają się pojawić wcześniej to w jaki sposób będą uregulowane. Zgodnie z art. 11 pkt 11 \"podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji pojawia się wątpliwość w jaki sposób zadanie to będzie realizowane. Art. 3 pkt 17 Instytut Spraw Obywatelskich Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 3 pkt 17 Obywatelski Akcelerator Innowacji Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 4 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W związku z brzmieniem art. 4 Projektu ustawy powstaje wątpliwość, czy wskazane w tym przepisie obszary nie będą nadzorowane przez jakikolwiek organ nadzoru? Zwracamy uwagę, że zakres zastosowania Rozporządzenia 2024/1689 nie dotyczy „badań naukowych i rozwojowych\" (art. 2 ust. 6 Rozporządzenia 2024/1689) ani „działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 Rozporządzenia 2024/1689) w ogólności. Nie ma w Rozporządzeniu 2024/1689 ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. W konsekwencji, postulujemy zmianę treści art. 4 pkt 3 Projektu ustawy na następującą: „3) badań naukowych.” 45 Art. 4 PWPW Należy dodać, w ślad za AI act-em (art. 2 ust. 8) sformułowanie „działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. To ma istotne znaczenie – gdyż wskazane w art. 4 pkt 3 wyłączenie dla działań badawczych podstawowych i eksperymentalnych jest węższe niż 2. Działalność tego rodzaju prowadzona jest zgodnie z mającym tu zastosowanie prawem europejskim. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.” prowadzenie badań ogółem. Art. 4 pkt 3 mówi o badaniach podstawowych (co jest wąskimi rodzajem badań) a AI act mówi „o żadnych badaniach”). Jest to kluczowe w kontekście rozwoju programów B+R i testowania produktów. Firmy muszą ww. zakresie mieć pewność, że do czasu zakończenia wdrażania B+R nie podlegają obowiązkom wskazanym w ustawie. Art. 4 ICC Poland Artykuł 4 Projektu przewiduje wyłączenie zastosowania nowej ustawy do spraw związanych z obroną narodową, spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego oraz podstawowych badań naukowych, jak również dla celów naukowych w związku z eksperymentem (pojęcia te dookreślone zostały przez odesłania do odpowiednich ustaw). Zakres tego wyłączenia, ze względu na sposób jego ujęcia, może budzić jednak wątpliwości co do zgodności z rozporządzeniem 2024/1689, a także otwierać drogę do nadużyć w tym zakresie. Po pierwsze, samo rozporządzenie 2024/1689 istotnie przewiduje wyłączenie jego zastosowania do: i) systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 2 rozporządzenia 2024/1689); ii) systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 3 rozporządzenia 2024/1689); iii) systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689); iv) działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku (art. 2 ust. 8 rozporządzenia 2024/1689) [podkreślenia własne]. 46 Wyłączenia te determinowane są jednak przede wszystkim celem wprowadzenia do obrotu, oddania do użytku lub wykorzystywania systemu AI (natomiast w przypadku art. 2 ust. 8 rozporządzenia 2024/1689 dotyczy specyficznej działalności badawczej, testowej i rozwojowej, ograniczonej przedmiotowo). Tymczasem zakres wyłączeń zaproponowany w art. 4 Projektu odnosi się ogólnie do pojęcia „sprawy” lub „podstawowych badań naukowych”, co może sugerować, że projektowana ustawa w ogóle nie znajdzie zastosowania do systemów sztucznej inteligencji w tych obszarach (np. z uwagi na podmiot wykorzystujący system), niezależnie od celu ich wprowadzenia do obrotu, oddania do użytku lub wykorzystania. Z jednej strony może to sugerować, że zakres wyłączenia zastosowania ustawy jest w istocie szerszy niż zakres wyłączenia zastosowania rozporządzenia 2024/1689 (co mogłoby w praktyce rodzić trudności w egzekwowaniu przepisów tego ostatniego), a z drugiej strony może skłaniać w szerszym zakresie do powoływania się na te wyłączenia w celu uniknięcia nadzoru nad stosowanymi systemami sztucznej inteligencji. Po drugie, wątpliwości budzi wyłączenie zastosowania nowej ustawy do „celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz.U. z 2024 r. poz. 17 i 1228)” (art. 4 pkt 3 Projektu). Niezależnie od pewnej niejasności ujęcia tego wyjątku [nie wiadomo bowiem, jakich konkretnie sytuacji ma on dotyczyć, skoro „ustawy nie stosuje się (...) dla celów naukowych (...)”], należy zwrócić uwagę, że eksperyment na gruncie przepisów Kodeksu karnego jest definiowany bardzo szeroko. Otwiera to więc pole do prób powoływania się na ten wyjątek wyłącznie w celu uniknięcia nadzoru nad systemami sztucznej inteligencji. Powyższe uwagi powinny skłonić do ponownej rewizji ujęcia art. 4 Projektu, a także rozważenia, czy przepis ten – przynajmniej w takim kształcie – jest istotnie potrzebny. Przepisy rozporządzenia 2024/1689, w tym jego art. 2 określający jego zakres zastosowania, są bowiem stosowane bezpośrednio, co oznacza, że nie wymagają dla swojego zastosowania wdrożenia do krajowego porządku prawnego. Skoro natomiast na podstawie art. 2 rozporządzenia 2024/1689 wskazane tam systemy sztucznej inteligencji nie podlegają pod samo rozporządzenie 2024/1689 (wyłączenia), to nie będą również podlegać nadzorowi przewidzianemu w Projekcie, który stanowi wszak pochodną zakresu zastosowania rozporządzenia 2024/1689. Projekt nie jest zresztą w tym zakresie konsekwentny, pomijając w art. 4 inne przypadki wyłączeń przewidziane w art. 2 rozporządzenia 2024/1689, jak np. osoby fizyczne, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10 rozporządzenia 2024/1689). Art. 4 Związek Banków Polskich 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 Projektu nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 47 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. Art. 4 Fundacja FinTech Poland Zgodnie z treścią AI Act zakres zastosowania nie dotyczy \"badań naukowych i rozwojowych\" (art. 2 ust. 6 AI Act) ani \"działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 AI Act) w ogólności. Nie ma w rozporządzeniu ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. Uprzejma prośba o wyjaśnienie intencji projektowanego przepisu. Postulowane brzmienie przepisu Art. 4 pkt 3): Art. 4. Ustawy nie stosuje się do: (...) 3) badań naukowych. Art. 4 Fundacja Panoptykon Wyłączenia dla AI w obszarze bezpieczeństwa wewnętrznego i porządku konstytucyjnego Zgodnie z art. 4 projektu ustawy, nie stosuje się jej do spraw związanych m.in. z obroną narodową oraz spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego. Jest to odzwierciedlenie art. 2 ust. 3 rozporządzenia, zgodnie z którym rozporządzenia nie stosuje się do obszarów systemów AI wykorzystywanych do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego. Zdecydowanie popieramy próbę doprecyzowania i jednoznacznego ograniczenia znaczenia pojęcia bezpieczeństwo narodowe, a tym samym – jasne określenie, zastosowanie w jakich celach systemów AI podlega regulacji. Jest to znacząco lepszy model, niż przyjęty m.in. w ustawach implementujących do polskiego porządku prawnego unijne zasady ochrony danych osobowych5, które w sposób podmiotowy wyłączyły spod zakresu obowiązywania tych zasad służby specjalne. Nie sposób przyjąć, że wszystkie zadania realizowane przez służby specjalne mieszczą się w kategorii bezpieczeństwa narodowego. Przykładem takiej sytuacji jest m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt 2 lit. e ustawy o ABW). Zdajemy sobie sprawę, że ostateczna treść wyłączenia spod zakresu ustawy zawarta w art. 4 będzie jeszcze przedmiotem dyskusji. Jednak zwracamy uwagę, że – bez względu na jego ostateczne brzmienie – wyłączone spod zakresu działania ustawy wykorzystywanie sztucznej inteligencji przez służby specjalne, w tym systemów zdalnej biometrycznej identyfikacji, pozostanie nieuregulowane. Zarówno Konstytucja RP jak i Karta Praw Podstawowych oraz 48 Europejska Konwencja Praw Człowieka zobowiązują państwa do zapewnienia, że ingerencja w prawo do prywatności –również za pośrednictwem systemów sztucznej inteligencji – ma miejsce wyłącznie w przypadkach niezbędnych w demokratycznym państwie prawa. Biorąc pod uwagę brak efektywnego nadzoru nad służbami w Polsce, co potwierdził Europejski Trybunał Praw Człowieka, brak jasnych zasad wykorzystywania systemów sztucznej inteligencji na poziomie ustawy rodzi pole do nadużyć i naruszeń praw człowieka. Dodatkowo, brak podstawowych reguł rozwijania i wdrażania systemów AI analogicznych do tych zawartych w rozporządzeniu oznacza, że nic nie stoi na przeszkodzie temu, aby służby rozwijały i nabywały systemy sztucznej inteligencji, które nie zostały poddane podstawowym testom jeśli chodzi o ich dokładność, cyberbezpieczeństwo, wolność od błędów czy stronniczości prowadzącej do dyskryminacji. Warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem Rada UE, w tym polski rząd, poparła blankietowe wyłączenie obszaru bezpieczeństwa narodowego z zakresu rozporządzenia (art. 2 ust. 3), opierając się na argumencie, że kwestie bezpieczeństwa narodowego należą do kompetencji państw członkowskich i powinny być uregulowane na poziomie krajowym. Choć mamy zastrzeżenia do adekwatności tej argumentacji w świetle orzecznictwa Trybunału Sprawiedliwości UE7, oczekujemy, że rząd faktycznie skorzysta ze swoich kompetencji w zakresie bezpieczeństwa narodowego i podejmie inicjatywę legislacyjną mającą na celu stworzenie kompleksowych zasad kontroli nad działaniami służb, w tym wykorzystaniem przez nie sztucznej inteligencji. art. 4 pkt 3 PIRP proponuje się rozszerzyć zakres wyłączenia także na prace rozwojowe w rozumieniu art. 4 ust. 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.); taka zmiana byłaby uzasadniona w świetle art. 2 ust. 6 rozporządzenia 2024/1689 art. 4 pkt 3 Sano w projektowanej ustawie w art. 4 pkt 3 wskazano: „Ustawy nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Pragniemy uprzejmie zauważyć, iż podstawowe badania naukowe zostały wskazane w art. 4 ust. 2 pkt 1 ustawy - Prawo o szkolnictwie wyższym, a nie jak wskazano w projekcie w pkt 2. Ponadto w ocenie Sano zasadnym byłoby możliwie jak najszersze zastosowanie wyłączenia stosowania przepisów, które limitowałyby możliwość prowadzenia badań naukowych, przy jednoczesnym niestosowaniu określonych postanowień ustawy ale bez całościowego wyłączenia badań z zakresu regulacji. Sano jako uczestnik grupowych podmiotów jak choćby Koalicja AI w Zdrowiu wskazało na inne możliwości poszerzenia przepisów ustawy – choćby poprzez mocniejsze unormowanie możliwości wykorzystania sandboxes w ramach polskich przepisów mających implementować rozporządzenie unijne. W takim przypadku również w obszarze badań naukowych 49 wtedy możliwe było skorzystanie z narzędzia jakim są sandboxes również przez podmioty prowadzące badania. art. 4 pkt 3 GRAI W przypadku AI znaczna część badań naukowych jest prowadzona również przez inne instytucje- nie wymienione w ustawie o szkolnictwie wyższym. Wydaje się, że jest to niespójność w rozumieniu wyjątku dla jednostek badawczych – bo w ustawie są wpisane instytucje z nazwy i lista jest ograniczona do uczelni, podczas gdy na zachodzie wyjątek ten rozszerza się na jednostki badawcze nie jako oddzielne instytucje, które mogą istnieć też w sektorze prywatnym. Proponujemy zamianę z instytucjonalnego rozumienia jednostki badawczej na rozumienie funkcjonalne (spełnienie określonych warunków (open research, publikacje, współpraca z podmiotami badawczymi itp.). W UE pojawia się też koncepcja certyfikowania jednostek zajmujących się rozwojem AI (coś na wzór ESOMAR dla firm badania opinii i marketingowych, które dzięki certyfikacji mają inne regulacje dot. Danych osobowych). To ma kolosalne znaczenie do rozwoju AI, budowania kompetencji w EU i w Polsce, i w konsekwencji niezależności i samowystarczalności (w razie globalnych konfliktów, tracimy dostęp), brak odpływu kadr i budowanie niezależnej pozycji, w tym kluczowym dla przemysłu obszarze. AI Akt dotyczy przypadków użycia, a nie przypadków badań nad AI i tworzenia technologii. Oczywiście przy zachowaniu wszystkich innych przepisów dotyczących transparentności badań, etyki badawczej i postępowania z danymi. Zarówno ośrodki uniwersyteckie, jak oddziały badawcze z sektora prywatnego tworzą wartość dla dobra wspólnego: wyniki badań nad AI, możliwościach jej rozwoju, jej ograniczeniach są publikowane i służą wszystkim. Projektowana ustawa o systemach AI powinna dotyczyć systemów w konkretnym przypadku ich użycia a nie w fazie badań czy przemysłowych czy R&D. Zmiana brzmienia przepisu art. 4 pkt 3 e-Izba Rekomendujemy wprowadzenie zmiany do projektowanego przepisu polegającej na zastąpieniu fragmentu „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym” sformułowaniem „badań naukowych, o których mowa w art. 4 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”. Rozdział 2 Osoba fizyczna W polskiej praktyce ustawodawczej dotyczącej organizacji nadzoru nad jakąś sferą życia społeczno-gospodarczego przyjęto dwa modele działalności organów nadzoru – organ kolegialny oraz monokratyczny. W przypadku organu monokratycznego organem administracji publicznej jest Prezes organu, którego obsługę zapewnia odpowiedni Urząd, którego jednocześnie jest zwierzchnikiem – zob. np. Urząd Ochrony Danych Osobowych. W przypadku organu kolegialnego, organem nadzorczym jest Komisja wraz z Przewodniczącym, posiadający poza kierowaniem komisją, dodatkowe kompetencje. Zarówno Przewodniczący Komisji, jak i Komisja jest obsługiwana przez Urząd. Takie rozwiązania przyjęto m.in. w ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym. 50 Przyjęte w projektowanej ustawie rozwiązanie w którym na pierwszym miejscu stawia się Biuro – aparat obsługujący organ administracji publicznej jest całkowitą zmianą perspektyw formalnej i organizacyjnej, podważającej niezależność organu odpowiedzialnego za nadzór nad SI. Należy przebudować cały rozdział 2 ustawy, wychodząc od określenia organu nadzoru oraz jego kompetencji, prawnych form działania, a dopiero później ewentualnie zdefiniować aparat obsługujący organ. Rozdział 2 Związek Banków Polskich Zgodnie z założeniami projektu, wszystkie działania KRIBSI, w tym decyzje administracyjne, mają być dokonywane kolegialnie. Proponujemy rozważenie powierzenia decyzji w najbardziej doraźnych sprawach (np. w zakresie decyzji mniejszej wagi lub decyzji o charakterze proceduralnym) Przewodniczącemu Komisji – dla przyspieszenia działania organu. Rozdział 2 Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Software Development Association Poland (SoDA) KOMISJA ROZWOJU I BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI Jednolity zakres jurysdykcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Zgodnie z art. 6 ust. 1 Projektu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Rozwiązanie polegające na powierzeniu kompetencji w ręce jednego, wyspecjalizowanego organu, przyjmując koncepcję nadzoru zintegrowanego, zamiast dzielić je pomiędzy istniejące już organy nadzorcze w zależności od zakresu działalności danego podmiotu, należy ocenić pozytywnie. Mając na uwadze, że w skład Komisji wejdą m.in. przedstawiciele Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej, Komisja będzie miała środki służące zapewnieniu spójnego podejścia w zakresie działalności podlegającej ocenie przez różne organy nadzoru z uwagi na ich specyfikę. Dodatkowo zapewnieniu tej spójności będzie służyć obowiązek współpracy Komisji z innymi organami nadzoru, o którym mowa w art. 6 ust. 3 Projektu. W naszej ocenie rozważyć należy, czy w skład Komisji, niezależnie od przedstawiciela ministra powołanego w celu koordynowania działalności służb specjalnych, nie należałoby powołać również przedstawiciela Szefa Agencji Bezpieczeństwa Wewnętrznego, jako podmiot prowadzący Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego na poziomie krajowym (CSIRT GOV). Wynagrodzenie członków Komisji 51 W naszej ocenie konieczne jest przyznanie wynagrodzenia za udział w pracach Komisji nie tylko przewodniczącemu Komisji oraz jego zastępcom, ale również pozostałym członkom. Zgodnie bowiem z projektowanym art. 7 ust. 7, za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu. Chociaż przepis ten nie precyzuje, że wynagrodzenie to przysługuje przewodniczącemu Komisji oraz jego zastępcom, takie podejście wynika z treści uzasadnienia do Projektu. W tym zakresie w naszej ocenie przepis powinien zostać doprecyzowany. Rozwiązanie, zgodnie z którym brak wynagrodzenia oraz zwrotu kosztów przejazdów i noclegów dotyczyć miałby członków Komisji, a nie jedynie podmiotów biorących udział pracach Komisji z głosem doradczym, należy ocenić negatywnie. Takie rozwiązanie może istotnie i negatywnie wpływać na sposób funkcjonowania Komisji, w szczególności prowadząc do mniejszego zaangażowania członków Komisji w jej prace, mniejszą liczbę spotkań Komisji i inicjatyw podejmowanych przez Komisję poza jej obowiązkami ustawowymi, w szczególności w zakresie inicjatyw informacyjno-edukacyjnych, a także na jakość samych prac, wytycznych czy poziom merytoryczności tego organu. Trudno bowiem oczekiwać, aby członkowie Komisji wykazywali się 100% zaangażowaniem w swoje obowiązki, jeżeli nie będą otrzymywać z tego tytułu adekwatnego wynagrodzenia, nie mówiąc już o kosztach udziału w spotkaniach Komisji. Trzeba również mieć na uwadze, że dla części członków Komisji tj. przedstawicieli podmiotów wskazanych w art. 7 ust. 2 Projektu, udział w pracach Komisji będzie dodatkowym obowiązkiem w stosunku do ich standardowych obowiązków pełnionych w organie, którego będą przedstawicielami w Komisji. Argument przedstawiony w uzasadnieniu do Projektu, że celem tego rozwiązania jest brak „generowania niepotrzebnych kosztów po stronie budżetu państwa” pozostaje wobec tego daleko nietrafiony, gdyż koszty te są wręcz niezbędne, aby Komisja mogła funkcjonować w sposób prawidłowy i aby zapewnić jej skuteczne i merytoryczne działanie, zgodnie z koncepcją nadzoru zintegrowanego tj. przy zaangażowaniu przedstawicieli pozostałych organów nadzoru i instytucji publicznych. Równocześnie zrozumiałym jest wprowadzenie zasady braku wynagrodzenia za udział w pracach Komisji dla podmiotów wskazanych w art. 7 ust. 3, 4 i 5 Projektu, jako że ich udział w pracach Komisji nie jest obligatoryjny i ma charakter jedynie doradczy. Jednak, aby zapewnić wysoki poziom merytoryczny w samej Komisji, a także nie zniechęcać wskazanych podmiotów do udziału w pracach Komisji, należy rozważyć, czy w przypadku takich podmiotów nie byłoby wskazane przyznanie na ich rzecz zwrotu kosztów przejazdu oraz noclegu w związku z udziałem w pracach Komisji z takim głosem doradczym. INTERPRETACJE INDYWIDUALNE 52 W naszej ocenie wprowadzenie do art. 13 Projektu mechanizmu interpretacji indywidualnych na wzór tych stosowanych w postępowaniu podatkowym jest rozwiązaniem, które może w istotny sposób przyczynić się do poprawy przejrzystości stosowania nowych przepisów, zwiększając pewność prawa w tym zakresie oraz istotnie ułatwiając przedsiębiorcom dostosowanie się do nowych wymogów regulacyjnych. W tym zakresie jednak w naszej ocenie konieczne są dalsze prace mające na celu zwiększenie efektywności tego rozwiązania. Ochrona wnioskodawców stosujących się do treści interpretacji W pierwszej kolejności należy zwrócić uwagę, że w ustawie brak jest jasnego wskazania, jakie konsekwencje dla podmiotu wnioskującego będzie miało zastosowanie się do interpretacji zgodnej z jego wnioskiem. Takie rozwiązanie zostało wprowadzone w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (t.j. Dz. U. z 2023 r. poz. 2383 z późn. zm.), zgodnie z którym zastosowanie się przez wnioskodawcę do treści wydanej interpretacji indywidualnej nie może mieć negatywnych skutków dla wnioskującego. Również w przypadku Projektu wskazane byłoby wprowadzenie takiego mechanizmu ochrony wnioskodawcy przed negatywnymi konsekwencjami w zakresie zmian w interpretacji przepisów dotyczących systemów sztucznej inteligencji. Jest to szczególnie istotne także z uwagi na fakt, że Akt o Sztucznej Inteligencji („Rozporządzenie”) jako akt prawa o randze Rozporządzenia UE, podlega bezpośredniemu stosowaniu, stąd też w zakresie jego bezpośredniej interpretacji może wypowiadać się Sąd unijny. W takim przypadku interpretacja Sądu odmienna od tej wyrażonej przez Przewodniczącego Komisji w interpretacji indywidualnej również nie powinna wywoływać negatywnych konsekwencji dla wnioskodawcy, który dostosował się do treści interpretacji indywidualnej. Termin odpowiedzi na wniosek oraz skutki jego przekroczenia przez organ Wskazanym byłoby wprowadzenie do Projektu maksymalnego terminu rozpatrzenia wniosku o wydanie interpretacji indywidualnej. Z uwagi na charakter obszaru działalności gospodarczej, którego dotyczy Projekt, w szczególności dynamicznych zmian technologicznych, termin ten powinien równocześnie mieć charakter terminu zawitego, a w konsekwencji brak jego dotrzymania powinien skutkować uznaniem interpretacji za zgodną z treścią wniosku. W przeciwnym bowiem razie przedsiębiorcy staną przed dylematem, czy narażać się na ewentualne negatywne konsekwencje braku wiążącej interpretacji przepisów w niejasnych stanach faktycznych, czy też wstrzymać pracę nad danym produktem, narażając w ten sposób niejednokrotnie efekt kilku lat pracy, w szczególności wobec rosnącej konkurencji, mając jednak jasne stanowisko Przewodniczącego Komisji co do zgodności z prawem zakładanych działań. Zapewnienie konkurencyjności polskich przedsiębiorstw, w szczególności z zakresu MŚP wymaga, aby wprowadzić tego rodzaju mechanizm automatycznego uznania interpretacji za pozytywną po upływie określonego terminu, przynajmniej w odniesieniu do wnioskodawców będących MŚP. 53 W przypadku interpretacji indywidualnych w sprawach podatkowych, mechanizm milczącego uwzględnienia wniosku o wydanie interpretacji indywidualnej został wprowadzony w art. 14o Ordynacji podatkowej. Ochrona tajemnicy przedsiębiorstwa W naszej ocenie rozwiązanie proponowane w art. 16 Projektu tj. publikowanie interpretacji w Biuletynie Informacji Publicznej („BIP”), po dokonaniu ich anonimizacji, jest rozwiązaniem pożądanym, w istotny sposób przyczyniającym się do poziomu przejrzystości stosowania przepisów Rozporządzenia oraz pozytywnie oddziałowującym na pewność prawa w Polsce w tym zakresie. Nasze obawy budzi jednak fakt, że specyfika tego rodzaju rozwiązań, w szczególności w zakresie innowacyjnych technologii opartych o systemy sztucznej inteligencji, może wymagać zapewnienia, że opis funkcjonowania konkretnego systemu bądź jego przeznaczenie będą odpowiednio zabezpieczone, w szczególności jako stanowiące tajemnicę przedsiębiorstwa danego podmiotu. Należy wskazać, że nacisk na ochronę poufności rozwiązań opartych o AI został położony już w samym Rozporządzeniu. Zgodnie z art. 78 Rozporządzenia, Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie tego Rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa. W naszej ocenie istnieje ryzyko, że brak możliwości zastrzeżenia tajemnicy przedsiębiorstwa dla celów późniejszej publikacji treści interpretacji indywidualnej w BIP w istotny sposób wpłynie na gotowość podmiotów gospodarczych do korzystania z tej instytucji. Warto zwrócić uwagę, że opis konkretnych rozwiązań planowanych do wdrożenia przez dany podmiot, przedstawiony w interpretacji, może niekiedy doprowadzić do ujawnienia danego podmiotu, nawet pomimo anonimizacji jego danych. Dotyczy to w szczególności podmiotów działających w niszowych obszarach rynku bądź też największych spółek technologicznych. Równocześnie ujawnienie konkretnego rozwiązania na wczesnym etapie prac może doprowadzić do „przejęcia” tego rozwiązania przez inne podmioty. Takie sytuacje są o tyle prawdopodobne, że z ekonomicznego punktu widzenia wniosek o interpretację należałoby złożyć na wczesnym etapie planowania prac projektowych, tak aby podjąć racjonalną decyzję o inwestycji w dane rozwiązanie, w szczególności mając świadomość tego, czy dany system zostanie zakwalifikowany przez organ nadzoru jako system wysokiego ryzyka. Występowanie o taką interpretację po fakcie tj. po ukończeniu procesu produkcyjnego wydaje się być bezcelowe. Z tych powodów w naszej ocenie podmiot składający wniosek o wydanie interpretacji indywidualnej powinien mieć możliwość zastrzeżenia we wniosku zakresu informacji, które objęte 54 są tajemnicą przedsiębiorstwa. Dzięki temu następcze opublikowanie treści interpretacji, bez informacji stanowiących tajemnicę przedsiębiorstwa, nie wpłynie w negatywny sposób na działalność tego podmiotu. Takie rozwiązanie może w negatywny sposób wpłynąć na użyteczność publikowanych interpretacji podatkowych dla innych podmiotów, jednak w naszej ocenie ochrona tajemnicy przedsiębiorstwa powinna mieć w tym zakresie priorytet. Decyzje Komisji Wstrzymanie wykonania decyzji Komisji po złożeniu odwołania do Sądu Zgodnie z art. 73 ust. 1 Projektu, administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Ponadto, zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Równocześnie jednak brak jest w Projekcie przepisu, który powodowałby powstanie tożsamych skutków w stosunku do innych elementów decyzji, w szczególności w zakresie zobowiązania do wycofania systemu AI z rynku. Tymczasem to właśnie środki zobowiązujące nakładane przez Komisję mogą okazać się dla dostawców i podmiotów stosujących systemy AI najbardziej dotkliwe, a w skrajnych przypadkach mogą prowadzić do całkowitej utraty możliwości dalszego prowadzenia działalności gospodarczej. Mając to na uwadze, zasadnym byłoby wprowadzenie rozwiązania, zgodnie z którym wniesienie odwołania do sądu wstrzymuje wykonanie decyzji Komisji w całości. Z uwagi na potrzebę zabezpieczenia interesów i bezpieczeństwa społecznego, rozstrzygnięcie w zakresie obowiązku wycofania systemu z obrotu mógłby podejmować sąd w ramach rozpoznania wstępnego sprawy objętej odwołaniem od decyzji. Rygor natychmiastowej wykonalności decyzji Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Przepis ten stanowi daleko idącą ingerencję w prawo strony do dwuinstancyjnego postępowania. Jest to tym bardziej istotne, że projektowany przepis posługuje się tylko jedną, bardzo nieostrą i uznaniową przesłanką w zakresie możliwości nadania decyzji rygoru natychmiastowej wykonalności. Warto zwrócić uwagę, że nawet w przypadku regulacji o charakterze ogólnym tj. w art. 108 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego ( Dz. U. z 2024 r. poz. 572) nadanie decyzji rygoru natychmiastowej wykonalności uzależnione jest od wystąpienia znacznie bardziej sprecyzowanych przesłanek tj. niezbędności dla ochrony zdrowia lub życia ludzkiego, niezbędności dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami lub ze 55 względu na inny ważny interes społeczny. Tymczasem treść art. 74 Projektu pozostawia bardzo daleko idącą dowolność Komisji w zakresie stosowania tego środka, którego skutki dla danego podmiotu, z uwagi na specyfikę branży (w szczególności długi czas produkcji i istotne nakłady finansowe na stworzenie systemu) mogą być niezwykle dotkliwe, a w przypadku podmiotów z sektora MŚP bądź podmiotów z obszarów wysoko wyspecjalizowanych, mogą doprowadzić do upadku danego przedsiębiorstwa, których to skutków nie będzie można odwrócić nawet w razie pozytywnego rozstrzygnięcia sądu odwoławczego. Z tych przyczyn w naszej ocenie z tego przepisu należy zrezygnować w całości, bądź też zawęzić zakres jego stosowania jedynie do sytuacji, w której nadanie rygoru natychmiastowej wykonalności decyzji jest niezbędne dla ochrony zdrowia lub życia ludzkiego. Rozdział 2 GRAI Rozważyć uwzględnienie w wymogach na członków komisji, żeby to byli nie tylko \"przedstawiciele instytucji kluczowych dla rozwoju sektora technologii sztucznej inteligencji\", ale żeby aktywnie prowadzili pracę i mieli osiągnięcia z zakresu tematów związanych ze sztuczną inteligencją. Rozważyć zdefiniowanie minimalnych wymagań. Pozwoliłoby to na zapewnienie odpowiedniego poziomu merytorycznego oraz wzmocniło postrzeganie samej komisji. Rozdział 2 GRAI Przejrzystość działań Komisji Komisja będzie prowadzić publiczną i przyjazną użytkowniczkom bazę danych dotyczącą wydanych decyzji Rozdział 2 GRAI Sugeruje wprowadzenie przepisów regulujących tryb i zasady wydawania zezwolenia (oraz kontroli sądu) na wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Rozdział 2 GRAI Sugeruje rozważyć udział w pracach Komisji Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka oraz Rzecznika Ubezpieczonych. Można rozważyć zobowiązanie RPO, RPD, RU do przedstawiania cyklicznych raportów o wpływie AI na obszary ich zainteresowań (np. Wpływ technologii na zdrowie dzieci i higienę cyfrową). Rozdział 2 GRAI Sugeruje uregulowanie zasad dostępu do przebiegu jawnych posiedzeń Komisji np. Poprzez odesłanie do ustawy o dostępie do informacji publicznej. art. 5 i kolejne w rozdziale Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z kolei regulacja art. 5, art. 6 oraz art. 8 projektu ustawy o Al świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 4 pkt. I oraz art. 6 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej Komisją. Pogląd ten znajduje pełne oparcie w regulacji art. 8 ust. 5 projektu ustawy o AI, wedle której Komisja w zakresie swojej właściwości podejmuje uchwały, w tym wydaje decyzje administracyjne i postanowienia. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 56 k.p.a. w zw. z art. 104 $ 1 k.p.a. w zw. z art. 104 $ 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 $ 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją(art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postepowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 5 ust. 2 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym przypadku państwowego, obsługującego organ administracji publicznej (art. 5 ust. 1 projektu ustawy o AN). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji(art. 5 ust. 4 pkt. 1 projektu ustawy o AT), które z racji zapewniania obsługi Komisji (art. 5 ust. 2 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 ust | projektu ustawy o AT), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem(art. 5 ust. 4 pkt. 2 projektu ustawy o AT). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. zart. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał _ cywilnoprawne i _ administracyjne _ kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja 57 rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AT) i kierujący pracą Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego Komisji (art. 5 ust. 2 projektu ustawy o AT) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż autor projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacjj w stosunkach cywilnoprawnych osób prawnych przez ich organów, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety autorowi projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W zakresie z kolei kompetencji administracyjnoprawnych duże wątpliwości wywołuje zróżnicowanie, a zarazem częściowe niedoprecyzowanie kompetencji Komisji, która działając jako organ Biura Komisji jest organem właściwym w sprawach nadzoru nad bliżej nieokreślonym rynkiem (art. 5 ust. 4 pkt. 1 projektu ustawy o AT), zaś na mocy art. 6 ust. 1 jest uznana za organ nadzoru rynku w zakresie systemów sztucznej inteligencji, co już samo w sobie jest rozwiązaniem nie budzącym większych wątpliwości. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej(art. 6 ust. 1 projektu ustawy o Al) za błędne uznać należy przyznanie Prezesowi Rady Ministrów będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 5 ust. 2 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 5 ust. 3 w zw. zart. 5 ust. 1 projektu ustawy o AT). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny 58 jest Prezes Rady Ministrów (art. 17 pkt. 3 k.p.a. w zw. zart. 18 pkt. 1 k.p.a.) i to nad Komisją, a nie jak błędnie przyjęto w art. 5 ust. 3 projektu ustawy o AI, nad Biurem Komisji, Prezes Rady Ministrów winien pełnić nadzór. O niechlujstwie projektodawcy świadczyć natomiast może zamieszczenie w art. 5 projektu ustawy o AI aż dwóch ustępów o numerze dwa. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę usuwając tym samym wiele nieprawidłowości należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego. poprawnego brzmienia art. 5 projektu ustawy o Al: „ l. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje Prezes Rady Ministrów. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6. Komisja posiada prawo używania pieczęci z godłem państwowym. ”. D/ Duże wątpliwości budzą także regulacje poświęcone składowi Komisji. Mając bowiem na uwadze, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji (art. 6 ust. 1 projektu ustawy o AI) oraz uwzględniając niezwykle istotną rolę i znaczenie zadań jakie jej poruczono (art. 11 ust. 1 projektu ustawy o AI) doprawdy trudno zrozumieć dlaczegóż to spośród wszystkich Członków Komisji jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni łącznie spełniać zakreślone projektem ustawy wymogi pod postacią: a/ posiadania obywatelstwa polskiego, b/korzystania z pełni praw publicznych, c/ posiadania co najmniej wykształcenia wyższego i tytułu zawodowego magistra, magistra inżyniera lub tytułu równorzędnego, d/ wyróżniania się wiedzą i posiadania znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, e/posiadania co najmniej trzyletniego stażu pracy na stanowiskach kierowniczych, f/posiadania statusu osoby nie karanej za umyślne przestępstwo lub umyślne przestępstwo skarbowe, g/ posiadania nieposzlakowanej opinii i dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 18 ust. 2 projektu ustawy o AI, art. 21 ust. 2 projektu ustawy o AI). Tutaj należałoby dodać jedną istotną uwagę zasądzającą się w tym, iż Przewodniczący Komisji oraz jego Zastępcy winni być osobami niekaranymi za popełnienie przestępstw umyślnych wskazanych w art. 18 ust. 2 pkt. 6 projektu ustawy o AI prawomocnymi wyrokami, tak jak to przyjęto w odniesieniu do członków Społecznej radu do Spraw sztucznej 59 Inteligencji w art. 28 ust. 4 pkt. 2 projektu ustawy o AI. Mając bowiem na uwadze, że Komisja w zakresie swojej właściwości podejmuje uchwały, w tym decyzje i postanowienia, zwykłą większością głosów (art. 8 ust. 5 w zw. z art. 8 ust. 6 projektu ustawy o Al), zaś skład Komisji jest dwunastoosobowy i obejmuje Przewodniczącego, dwóch jego Zastępców oraz dziewięciu Członków Komisji (art. 7 ust. 1 projektu ustawy o AT) nietrudno dojść do przekonania, że raptem trzech członków Komisji posiadających niezwykle istotne w realizacji zadań Komisji cechy opisane w art. 18 ust. 2 projektu ustawy o AI bez większego problemu może przegłosować pozostałych co najmniej siedmiu Członków Komisji, którzy tych ważkich dla pełnienia funkcji w Komisji cech nie posiadają, co może okazać się szczególnie istotne w przypadku decydowania w merytorycznych sprawach dotyczących sprawowania nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji (art. 6 ust. I projektu ustawy o Al) przez Członków Komisji nie wyróżniających się wiedzą i nie posiadających znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, nierzadko przesądzając 0 prawidłowości podjętej uchwały. Rozwiązanie lansowane przez projektodawcę, wedle którego jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni wyróżniać się wiedzą i posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, gdy tymczasem pozostali Członkowie Komisji tego rodzaju walorami legitymować już się nie muszą trudno by było pogodzić z regulacją art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przewidującą, iż „Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie.”. Wskazanie w art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przez prawodawcę wspólnotowego na bezwzględną potrzebę zapewnienia przez właściwe organy krajowe w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych wnioskując a minori ad maius tym bardziej odnosi się do podejmujących decyzje merytoryczne w sprawach nadzoru nad rzeczonym rynkiem Członków Komisji nie będących pracownikami Biura Komisji. Nie 60 można też wykluczyć sytuacji, w której grupa siedmiu przestępców skazanych za szpiegostwo lub przestępstwa przeciwko bezpieczeństwu systemów obronnych naszego kraju, a wskazanych przez organy władzy i administracji publicznej określone w art. 7 ust. 2 projektu ustawy o AI mogłaby bez większych problemów przegłosować uchwały dotyczące rynku w zakresie systemów sztucznej inteligencji, które wprost wystawiłyby nasze państwo na niebezpieczeństwo inwigilacji ze strony obcych służb, czy też na przeprowadzane przez nie akcje sabotażowe,, którym to służbom przed skazaniem rzeczeni przestępcy się wysługiwali ze szkodą dla naszego kraju. Przykład ten nie stanowi zwyczajnej abstrakcyjnej dywagacji, bo przecież wobec Członków Komisji wskazanych w trybie art. 7 ust. 2 projektu ustawy o AI przez właściwe organy nie stawia się wymogu spełnienia wymagań określonych w art. 18 ust. 2 ustawy o AI, wtymi wymogu niekaralności za umyślne przestępstwa, który to wymóg odniesiono jedynie do Przewodniczącego Komisji i jego Zastępców (art. 18 ust. 2 pkt. 6 projektu ustawy o AI, art. 18 ust. 2 pkt. 6 w zw. zart. 21 ust. 2 projektu ustawy o Al). Co więcej nie sposób racjonalnie wytłumaczyć motywów jakimi kierował się projektodawca, który o wiele wyższe wymagania stawia członkom Społecznej Rady do spraw Sztucznej Inteligencji pod postacią: posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka, nieskazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystania z pełni praw publicznych oraz wyrażenia pisemnej zgody na kandydowanie do Rady (art. 28 ust. 4 projektu ustawy o Al), której przypisano jedynie kompetencje opiniodawczo- doradcze wobec Komisji (art. 28 ust. 1 projektu ustawy o AT), niż Członkom Komisji nie będącym Przewodniczącym Komisji lub Zastępcą Przewodniczącego Komisji, którym jako Członkom Komisji będą przecież przysługiwały kompetencje do merytoryczne rozstrzygania spraw z zakresu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 6 ust. 1 w zw. z art. 8 ust. 5 projektu ustawy o AT). O ile można zgodzić się z przekonaniem wyrażonym na stronie 10 uzasadnienia projektu ustawy o AI, iż „„W celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych”, to za całkowicie błędne uznać należy pominięcie w składzie Komisji z głosem stanowiącym, a mie jedynie doradczym, przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców, którzy zajmując się w ramach swoich kompetencji sprawami przedsiębiorców oraz sprawami postępu technicznego nie są jednakże ich przedstawicielami. Tym bardziej musi dziwić pozbawienie w Komisji przedstawicielstwa z głosem stanowczym przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, skoro z jednej strony do składu Komisji delegowani są przedstawiciele Rzecznika Praw Dziecka, czy też Rzecznika Praw Obywatelskich albo Komisji Nadzoru Finansowego (art. 7 ust. 2 pkt. 7, pkt. 6, pkt. 5 projektu ustawy o AT), które to organy niewiele w zakresie swoich kompetencji będą miały wspólnego z rynkiem systemów sztucznej inteligencji, z drugiej zaś strony projektodawca na stronach 2-3 61 uzasadnienia projektu ustawy o AI w sposób jednoznaczny identyfikuje cele wiązane przez niego z wdrażaniem projektu ustawy o AI wskazując, że „ Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i Średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start. up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną Al.”. W tej zatem sytuacji pominięcie w składzie Komisji z głosem stanowiącym przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców świadczy 0 oczywistej wręcz niekonsekwencji projektodawcy wynikającej z rozbieżności projektu ustawy o AI oraz motywów, które legły u podstaw wdrażania tego rodzaju rozwiązań wyrażonych w uzasadnieniu tegoż projektu. Eliminowanie zaś ze składu Komisji przedstawicieli resortów gospodarczych (resort gospodarki, resort przemysłu), które to resorty będą projekty te realizowały, oraz resortu nauki i szkolnictwa wyższego, który winien przygotować podwaliny naukowe pod przygotowanie podstaw naukowo- badawczych do wdrożenia systemów sztucznej inteligencji, a także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, który „sźoi na straży praw mikroprzedsiębiorców oraz małych i średnich przedsiębiorców, w szczególności poszanowania zasady wolności działalności gospodarczej, pogłębiania zaufania przedsiębiorców do władzy publicznej, bezstronności i równego traktowania, zrównoważonego rozwoju oraz zasady uczciwej konkurencji i poszanowania dobrych obyczajów oraz słusznych interesów przedsiębiorców” [art. 1 ust. 1 ustawy z dnia 6.03.2018 r. o Rzeczniku Małych i Średnich Przedsiębiorców (tekst jedn. Dz. U. z 2023 r. poz. 1668), zwanej dalej ustawą o Rzeczniku MŚP], a którzy to mali przedsiębiorcy, Średni przedsiębiorcy oraz mikroprzedsiebiorcy mają być w zamierzeniu projektodawcy głównymi beneficjentami przedmiotowej inicjatywy ustawodawczej (strona_ 2-3 uzasadnienia projektu ustawy o AN), jest nie tylko niezrozumiałe, ale wręcz taką decyzję projektodawcy uznać należy za błędną, wręcz antyrynkową i sprzeczną zarazem z potrzebami rodzimej gospodarki. Celem wyeliminowania przedstawionych powyżej nieprawidłowości dotyczących składu Komisji Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje wprowadzenie do projektu ustawy o AI następujących zmian: a/ art. 7 ust. 1 projektu ustawy o AI otrzymuje nowe brzmienie „W skład Komisji wchodzą: Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz trzynastu Członków Komisji. Członkami Komisji w liczbie trzynastu, o których mowa w zdaniu poprzednim mogą być jedynie osoby spełniające wymagania określone w art. 18 ust. 2 ustawy.”, b/ w art. 7 ust. 2 in fine projektu ustawy o AI po pkt. 9 kropkę zastępuje się średnikiem, po którym dodaje się punkty o numerach od 10 — 13 w brzmieniu: „10) ministra właściwego do spraw gospodarki; 11) ministra właściwego do spraw przemysłu; 12)ministra właściwego do spraw nauki i szkolnictwa wyższego; 13) Rzecznika Małych i Średnich Przedsiębiorców.” 62 c/ w art. 7 ust. 3 projektu ustawy o AI skreśla się pkt. 6 i pkt. 13, d/ w art. 18 ust. 2 pkt. 6 otrzymuje nowe brzmienie „nie była karana prawomocnym wyrokiem za przestępstwo umyślne lub za umyślne przestępstwo skarbowe”. E/ Uchwały Społecznej Rady do spraw Sztucznej Inteligencji. Projektodawca w art. 30 ust. 3 projektu ustawy o AI przyjmuje, że Rada w sprawach określonych w art. I ust. I ustawy w zakresie innym niż przekazany przez Komisję może wyrazić opinię lub stanowisko z własnej inicjatywy w drodze uchwały podjętej większością głosów. Regulacją ta wywołuje dwie istne wątpliwości. Po pierwsze odesłanie do spraw określonych w art. I ust. 1 projektu ustawy o AI jest odesłaniem pustym, gdyż art. 1 projektu ustawy o AI dzieli się na punkty, a nie na ustępy. Należałoby zatem wyjaśnić, w których sprawach nie objętych przekazaniem przez Komisję do wyrażenia przez Radę opinii lub stanowiska spośród spraw wymienionych w art. 1 projektu ustawy o AI Rada może wyrazić z własnej inicjatywy własną opinię lub stanowisko, czy we wszystkich sprawach z art. 1 projektu ustawy o AI, czy też jedynie w sprawach określonych w art. 1 pkt. 1 projektu ustawy o AI. Druga z kolei wątpliwość zasadza się w tym, iż skoro w sprawach nie przekazanych Radzie przez Komisję do wyrażenia opinii lub stanowiska Rada podejmuje uchwały zwykłą większością głosów pełnego jej składu, to pojawia się pytanie jaką większością głosów i przy obecności jakiego quorum głosujących Rada w drodze uchwały wyraża opinie i stanowiska w zakresie spraw objętych przekazaniem Radzie przez Komisję do wyrażenia opinii lub stanowiska. Niestety stosownej regulacji w tym zakresie próżno szukać w projekcie ustawy o AI. F/ Projektodawca w art. 43 ust. 2 zd. 2 projektu ustawy o AI w uzasadnionych przypadkach dopuszcza przeprowadzanie czynności kontrolnych poza formą zdalną także przy użyciu przesyłek rejestrowanych lub kurierskich doręczanych w dodatku za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23.11.2012 r. — Prawo pocztowe. Jeżeli organ kontrolujący zainteresowany jest doręczaniem kontrolowanemu przesyłek za pośrednictwem operatora pocztowego jako przesyłek rejestrowanych lub kurierskich, to oczywiście takie rozwiązanie wątpliwości budzić nie może. Natomiast wniosek wynikający z przedmiotowej regulacji dotyczący samego kontrolowanego, z którego wynikałoby, że kontrolowany także doręczając pewne dokumenty, czy też próbki, materiały, towary etc. podmiotowi kontrolującemu musi korzystać jedynie z przesyłek rejestrowanych lub kurierskich, a nie może przykładowo wskazując osobiście ich zawieść do organu kontrolowanego i złożyć na dzienniku podawczym, choćby w tym celu by zaoszczędzić na kosztach wysyłki przesyłki kurierskiej lub rejestrowanej, brzmi zgoła absurdalnie, jest pozbawiony podstaw racjonalnego wnioskowania i w dodatku jest niemożliwy do pogodzenia z regulacją art. 8 zd. 1 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn .dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców, wedle której przedsiębiorca może podejmować wszelkie działania, z wyjątkiem tych, których zakazują przepisy prawa. Skoro zatem przepisy projektu ustawy o AI nie zakazują doręczania osobiście do lokalu podmiotu kontrolującego dokumentów, materiałów, przesyłek, próbek, towarów etc. z pominięciem przekazywania ich przez operatora pocztowego w formie przesyłek rejestrowanych lub kurierskich, przeto nic nie stoi na przeszkodzie, by 63 przedsiębiorca poddany procedurze kontrolnej osobiście na żądane przez kontrolującego materiały, dokumenty, próbki, towary etc. dostarczył osobiście do lokalu podmiotu przeprowadzającego kontrolę. art. 5 i kolejne w rozdziale GRAI Uwaga o charakterze ogólnym Przepisy projektu ustawy odnoszące się do nadzoru, zgłaszania poważnych incydentów, nakładania kar itd. są bardzo rozbudowane, natomiast przepisy dotyczące działań z zakresu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów sztucznej inteligencji – bardzo hasłowe, ogólne, znajdujące się jedynie w dwóch artykułach projektowanej ustawy. Konieczność rozbudowania przepisów dotyczących konkretnych propozycji rozwoju AI w Polsce - o konkretne propozycje działań, które pozwolą na rozwój AI w Polsce. Rolą Komisji powinno być uprawnienie do przedstawiania rządowi konkretnych propozycji działań i dbanie (wnioskowanie) o zabezpieczenie odpowiednich środków finansowych na ich realizację. Proponujemy wykorzystać to, co eksperci GRAI wypracowali w ramach prac Podsekcji: „Wsparcie dla biznesu” i które to propozycje znalazły się w projekcie dokumentu strategicznego „Polityka AI”, a w części także w propozycji do „Strategii Cyfryzacji” przekazanej do Ministerstwa Cyfryzacji”: WSPARCIE DLA BIZNESU: CEL GŁÓWNY: Rozwój polskiej gospodarki i zwiększenie konkurencyjności firm na rynku globalnym przez efektywne wsparcie małych, średnich i dużych przedsiębiorstw w Polsce w opracowywaniu, komercjalizacji i wdrażaniu innowacji, w tym adaptacji i wykorzystaniu technologii sztucznej inteligencji (AI). Kluczowe jest zapewnienie skutecznego i efektywnego ekonomicznie rozwoju, wdrażania i umiędzynarodowienia inteligentnych produktów i usług wykorzystujących możliwości AI oraz innych przełomowych technologii (np. internet rzeczy, zaawansowana mechatronika). CELE POŚREDNIE: CEL: Rozwój polskich firm, w tym startupów w obszarze rozwoju AI i wdrażania innowacji CEL: Stworzenie ekosystemu prawno-finansowo-techniczno-edukacyjnego przyjaznego przedsiębiorcom, w tym głównie startupom i MŚP do rozwoju AI i wdrażania innowacji w Polsce; CEL: Zapewnienie wykwalifikowanych zasobów kadrowych do efektywnego wdrażania AI przez firmy w Polsce CEL: Zwiększenie świadomości i wiedzy na temat AI wśród przedsiębiorców CEL: Ułatwienie dostępu do technologii AI dla firm różnej wielkości CEL: Stymulowanie innowacji i badań w dziedzinie AI 64 DZIAŁANIA, KTÓRE POZWOLĄ NA OSIĄGNIĘCIE CELÓW: LEGISLACJA: - dostosowanie polskich regulacji prawnych do AI Act (przepisy wdrażające AI Act, które będą pozbawione nadmiernych ograniczeń legislacyjnych i restrykcyjnych norm prawnych w zamian za stworzenie bezpiecznych i racjonalnych warunków otoczenia prawnego dla rozwoju AI w Polsce i dadzą szansę na konkurowanie polskich firm w tym obszarze z przedsiębiorcami na świecie; - skupienie mechanizmów centralnych instytucji nadzoru i mechanizmów dopuszczania rozwiązań (AI Act Conformance) na systemach wysokiego ryzyka i zabronionych (pozostałe obszary poddane powinny być istniejącemu systemowi nadzoru nad rynkiem, i uwzględniać branżowe kodeksy dobrych praktyk jako punkt odniesienia dla wykazania należytej staranności); - prawne regulacje obejmujące udogodnienia dla polskich firm w wykorzystaniu AI, w tym przede wszystkim dla startupów i MŚP. ZASOBY TECHNICZNE: Platforma Wsparcia Technologicznego: - darmowy marketplace narzędzi i oprogramowania w zakresie AI i rozwiązań komplementarnych dla MŚP; - darmowy dostęp do chmury obliczeniowej dla startupów i małych firm do testowania i rozwijania aplikacji AI – piaskownice rozwiązań; ułatwienie dostępu do danych: - udostępnienie firmom publicznych zbiorów danych do testowania i rozwijania algorytmów AI; - tworzenie wspólnych przestrzeni danych (data spaces) z danymi branżowymi dla firm; rozwój efektywnej ekonomicznie i przyjaznej dla środowiska infrastruktury obliczeniowej (polskie możliwości obliczeniowe) - tu ostateczne działania zaplanować w łączności z sekcją: „Piaskownice regulacyjne” w następującym zakresie tematycznym: - fabryki AI i dostęp do superkomputerów dla start-upów; - wdrożenie przez Polskę zaleceń EuroHPC - integracja z istniejącą infrastrukturą; - proces wnioskowania o dostęp do infrastruktury obliczeniowej dla start-upów; opracowanie efektywnego procesu; identyfikacja możliwości wsparcia dla start-upów; reguła transparentności z API, a nie tylko dokumentacji; rozdział odpowiedzialności w procesie wnioskowania; - Piaskownice Regulacyjne AI: AI Compute Hub i Wirtualny Instytut Badawczy (WiB); - mapowanie istniejących Piaskownic Regulacyjnych w UE i na świecie; - analiza i wybór branż i technologii do zaadresowani; - identyfikacja rynkowych ekspertów, liderów; - stworzenie koncepcji piaskownicy (sandboxa) dla sektora publicznego lub prywatnego, pod nadzorem WIB Office; 65 - formuła utworzenia Poliversum (edge) wraz z funduszami / grantami i PL GRID, szczegółowa analiza obecnej infrastruktury PL GRID, ocena potencjalnych usprawnień; FINANSE: ulgi podatkowe dla firm opracowujących i wdrażających innowacje, w tym te z obszaru AI; coroczne środki budżetowe na wsparcie rozwoju polskich firm w obszarze AI; niezwłoczne uruchomienie i sprawne działanie Funduszu AI; skuteczne pozyskiwanie środków zewnętrznych na rozwój polskich, innowacyjnych technologii z wykorzystaniem AI - np. z dostępnych programów pomocowych; szybkie granty i mikrofinansowanie: - uruchomienie programu małych grantów (np. do 50,000 PLN) na szybkie wdrożenie projektów AI w firmach; - programy mikrofinansowania dla startupów AI z uproszczonymi procedurami aplikacyjnymi; EDUKACJA: przygotowanie kadr do skutecznego wykorzystywania AI w Polsce: - programy edukacyjne na poziomie szkoły podstawowej i szkoły średniej (dzieci i młodzież szkolna), - nowe kierunki studiów dot. AI (młodzież, studenci), - wypracowanie we współpracy twórców AI, uczelni i regulatora AI zasad odpowiedzialnej inżynierii i certyfikacji z nią związanych dla systemów AI wysokiego ryzyka, na wzór przemysłu lotniczego i budownictwa. - kursy, szkolenia – dla osób, które chcą się przebranżowić i pracować w obszarze dot. AI (dorośli); programy szkolenia w zakresie odpowiedzialnego wdrażania i projektowania rozwiązań wykorzystujących AI: - repozytorium kursów stacjonarnych i kursów online z podstaw AI zwłaszcza dla małych przedsiębiorstw z niewielką świadomością dotyczącą praktyk rynkowych i małą adopcją rozwiązań AI; - propagowanie darmowych zasobów wiedzy dot. AI w postaci e-booków, webinarów, nagrań video; WSPARCIE MERYTORYCZNE/ WPARCIE EKSPERTÓW DLA PRZEDSIĘBIORCÓW ROZWIJAJĄCYCH AI: sieci mentorów i ekspertów: - tworzenie sieci mentorów i konsultantów AI, którzy mogą doradzać MŚP w kwestiach technologicznych i biznesowych; - organizowanie regularnych spotkań i sesji mentoringowych online; inkubatory i akceleratory AI: 66 - tworzenie programów inkubacyjnych i akceleracyjnych dedykowanych startupom AI; - zapewnienie wsparcia w postaci mentorów, finansowania początkowego oraz dostępu do technologii; wsparcie w certyfikacji i standaryzacji: - ogólnodostępne repozytorium regulacyjne, wraz z interpretacjami prawnymi i technologicznymi; - szerzenie tej świadomości poprzez serie warsztatów i seminariów; - wsparcie merytoryczne w procesach certyfikacji, pomoc prawna. PROMOCJA I INFORMACJA: zaplanowanie i realizacja działań informacyjno – promocyjnych dla startupów i MŚP z zakresu możliwości efektywnego rozwoju AI i innowacji w Polsce, w tym stworzonego dla tego rozwoju ekosystemu prawno-finansowo-techniczno-edukacyjnego; promocja polskich produktów i usług wykorzystujących AI w celu zwiększenia konkurencyjności firm; pilotażowe projekty AI: - zwinne Proof of Concept z możliwością skalowania dla kluczowych branż w kraju z zaangażowaniem firm polskich, które mają doświadczenie w budowaniu rozwiązań AI; - system nagradzania firm biorących udział w projektach PoC – dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; hackathony i konkursy innowacji: - wybór realnych przypadków biznesowych realizujących cel społeczny (użyteczny dla społeczeństwa) i organizacja konkursów wyłaniających najlepsze rozwiązania rozwiązujące problem za pomocą AI; - system nagradzania podobny jak w przypadku Proof of Concept - dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; kampanie Informacyjne i edukacyjne: - kampanie medialne promujące korzyści z zastosowania AI w biznesie; - informowanie o dostępnych programach wsparcia, grantach i szkoleniach. Propozycje bardziej szczegółowe– poniżej – w Dodatkowych uwagach. Art. 5 i nast. AI CHAMBER Jak wskazano już powyżej koncepcja przyjęcia rozwiązań instytucjonalnych wprost z ustawy o nadzorze finansowym ma zalety, ale analiza tych przepisów budzi wątpliwości nie tylko natury ogólnej, ale też co do poszczególnych przyjętych rozwiązań. Samo powołanie nowej, wyspecjalizowanej instytucji zasługuje na poparcie - żadna z istniejących nie posiada odpowiednich kompetencji i jest zorientowana na zupełnie inne cele. Wątpliwości może jednak budzić sama koncepcja organu kolegialnego, jego skład oraz forma prawna. 67 Art. 5 KIGEiT Art. 5 powinien zaczynać się treścią Art. 83 i Art. 84 ust.1 Przepisy Art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od 0. dlatego obecnie przepisy Art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w Art. 5 - jako przepis prawa materialnego Art. 5 PIIT Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1, Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych / zlikwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od podstaw. Dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji. wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Art. 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Nazwa Komisji (art. 5) Nazwa Komisji w obecnym brzmieniu dotyczy rozwoju i bezpieczeństwa sztucznej inteligencji. Ustawa zaś mówi o „systemach sztucznej inteligencji”. Proponujemy ujednolicić i wszędzie jednak stosować „systemy sztucznej inteligencji”. Art. 5 Osoba fizyczna jk Powinien zostać przeniesiony przed art. 31. Najpierw opis samej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej działalności, później jej Biura - nawet jeżeli Biuro jest przywoływane w artykułach 6-30 Art. 5 ust. 1 ISSA Polska Warto zmienić z “państwowej osoby prawnej” na “urząd/organ administracji rządowej/publicznej” - decyzje Komisji będą podlegać procedurze odwoławczej zgodnie z kpa. Art. 5 ust. 1 SKwP Zadaniem Biura Komisji jest zapewnienie obsługi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Może warto rozważyć, i Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji - nazwać inaczej, np. Urząd ds. AI. Wtedy należy budować strukturę wewnętrzną: Biuro, Komisję i Radę. Dalej w Biurze będzie dyrektor i pracownicy? Komisja ma przewodniczącego. 68 Art. 5 ust. 1. PWPW dot. Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Jakie jest uzasadnienie aby Biuro Komisji posiadało status państwowej osoby prawnej. Dla porównania np. UOKIK, PUODO nie posiadają takiego statusu. Z podmiotów publicznych UKNF jest tylko taką osobą prawną. Należy wskazać, że ww. okoliczność może mieć wpływ na zakres odpowiedzialności odszkodowawczej Skarbu Państwa za wadliwe działania Komisji i Biura względem podmiotów nadzorowanych. Art. 5 ust. 1. PIIT Komisja ...... jest państwową osobą prawną. Konsekwentnie należy dalej używać wyrazu “Komisja”, zamiast “Biuro Komisji” na oznaczenie tej państwowej osoby prawnej (agencji). Art. 5 ust. 1 GRAI Biuro Komisji W projekcie ustawy zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem, w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Art. 5 ust. 1 Osoba fizyczna Przyjęcie dla aparatu administracyjnego nazwy „Biuro” odbiega od praktyki legislacyjnej dotyczącej tworzenia nazw organów i urzędów administracji publicznej. Dlatego też należy wprowadzić termin Urząd ds. nadzoru nad sztuczną inteligencją, co będzie odpowiadało zarówno treści ustawy, jak i zadaniom Komisji. Art. 5 ust. 1 Fundacja FinTech Poland Przepis wzorowany jest na przepisie art. 3 ustawy o nadzorze nad rynkiem finansowym, przy czym Komisja jest organem kolegialnym z którego wybiera się przewodniczącego. Sugerujemy przeanalizować czy jest to wariant optymalny. Struktura rynku w przypadku sztucznej inteligencji różni się od rynku finansowego dość znacznie. Jak wynika z OSR już obecnie ze sztucznej inteligencji korzysta 330 tys. przedsiębiorców. Do rozważenia pozostaje czy nadzoru nad tak rozproszonym rynkiem nie powierzyć na wzór Hiszpanii Agencji lub tak jak w Austrii już istniejącemu organowi. Art. 5 ust. 1 i ust. 4 AI CHAMBER przyjęta konstrukcja prawna jest dość niejasna. Biuro KRiBSI jest to osobą prawną, a Przewodniczący organem, ale Biura. Dlaczego nie zdecydowano się na ustanowienie centralnego organu administracji państwowej, na kształt Prezesa UOKiK lub UKE? 69 Art. 5 ust. 2 Osoba fizyczna Głównym zadaniem nowego organu administracji publicznej jest nadzór nad systemami sztucznej inteligencji. Dlatego też prawidłowe jest nazwanie organu administracji publicznej, np. Komisja ds. nadzoru nad sztuczną inteligencji. Inną nazwą oddającą charakter i zadania organu moz0e być Komisja ds. bezpieczeństwa sztucznej inteligencji. Taka nazwa wskazuje w sposób jednoznaczny na główny cel funkcjonalny ustawy, a mianowicie zapewnienie bezpieczeństwa w związku ze stosowaniem sztucznej inteligencji przez społeczeństwo i rynek. Należy zwrócić uwagę, że nowy organ w swych kompetencjach, określonych w art. 11 projektu ustawy, nie ma rozwoju Sztucznej Inteligencji. Przyjęcie tego elementu w nazwie będzie budziło wątpliwości co do zadań i kompetencji Komisji oraz wprowadza w błąd destynatariuszy organu. Art. 5 ust. 1 i 2 oraz inne GRAI Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. Nazwa „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” – sugeruje zawężony zakres działania Komisji do rozwoju i bezpieczeństwa i może wywoływać uzasadnione wątpliwości do rzeczywistej roli, jaką ma pełnić. Szczególnie, że z projektowanych przepisów wiemy, że Komisja będzie działała w szerszym zakresie. Ponadto należy założyć, że jej kompetencje w czasie będą się rozwijały. Dodatkowo, należy zauważyć, że proponowana nazwa organu nadzoru „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” jest zbędnym opisem w nazwie oczekiwanych działań organu. Zwłaszcza, że zakres kompetencyjny będzie stopniowo rozszerzany, a nacisk w zakresie działalności również będzie odmienny w zależności od okresu i stanu prawnego. W przypadku zmiany nazwy organu zmianie ulegnie również nazwa Biura. Rekomendujemy zmianę nazwy organu na „Komisję do spraw Sztucznej Inteligencji”. Będzie to rozwiązanie podobne do stosowanego w innych krajach członkowskich UE, oraz uwzględniającą w przyszłości dalszy rozwój kompetencji organu. Konsekwencją tej zmiany będzie zmiana nazwy Biura Komisji. 70 Art. 5 ust. 2 GRAI Uwaga redakcyjna Oczywista omyłka pisarska – zastosowanie podwójnej numeracji ust. 2. Zmiana numeracji ustępów w art. 5 projektu ustawy. Art. 5 ust. 3 Osoba fizyczna Zgodnie z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689) właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. Przyjęcie rozwiązania, w ktorym organ nadzoru Komisja - jest organem Biura Komisji Rozwoju i Bezpieczeństwa SI, a samo Biuro pozostaje pod nadzorem Prezesa Rady Ministrów nie spełnia warunku niezależności i bezstronności, bowiem proponowana podległość pod organ polityczny stwarza ryzyko politycznej zależności i stronniczości. Ponadto w ust.3. nie wskazano charakteru i zakresu nadzoru sprawowanego przez Prezesa Rady Ministrów wobec Biura Komisji, jakie środki prawne może użyć i na jakich zasadach. Niedookreślenie tego aspektu budzi jeszcze większe wątpliwości co do bezstronności i niezalez0nosci organu nadzorczego nad SI. Art. 5 ust. 2,4,5 Osoba fizyczna W ust. 4. przyjęto, że Komisja jest organem Biura Komisji, co sugeruje, że Komisja jest częścią Biura Komisji, a nie osobną jednostką organizacyjną, której Biuro Komisji zapewnia obsługę. W ust. 2. jest napisane, że zadaniem Biura Komisji jest zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Natomiast w ust. 4. jest napisane, że Przewodniczący Komisji kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Jednak w ust. 5. jest napisane, że Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji, co sugeruje, że Przewodniczący Komisji nie jest najwyższym organem Biura Komisji, ale tylko jednym z pracowników. Wewnętrzna niespójność logiczna powoduje, że należy przeredagować cały artykuł, wskazując Komisje jako organ a Biuro/Urząd jako aparat obsługujący Komisję. Jednocześnie należy zapewnić Przewodniczącemu Komisji zwierzchność kompetencyjną, służbową, organizacyjną, i finansową nad Biurem/Urzędem. art. 5 ust. 4 AI CHAMBER należy sprecyzować o nadzór nad jakim rynkiem (“systemów sztucznej inteligencji”) lub (mając na uwadze treść art. 6 ust. 1) kreślić słowa “która jest właściwa w sprawach nadzoru nad rynkiem”. art. 5 ust. 4 KIGEiT Propozycja zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku art. 5 ust. 5 KIGEiT Rekomendacja: Podział na różne poziomy nadzoru w zależności od ryzyka: \"Komisja klasyfikuje systemy sztucznej inteligencji według poziomów ryzyka, przy czym systemy niskiego i średniego ryzyka nie podlegają pełnej procedurze zgodności ani kontrolom ex ante. 71 Systemy o wysokim ryzyku (np. w dziedzinie medycyny, transportu autonomicznego) podlegają bardziej rygorystycznym wymogom. Jednakże, firmy mogą skorzystać z uproszczonych procedur, jeśli udowodnią, że ich systemy są wystarczająco zabezpieczone przed potencjalnymi zagrożeniami.\" , Art. 5 ust.5 (Zadania Komisji) definiuje, że Komisja ma za zadanie przeciwdziałać zagrożeniom związanym z systemami AI, ale przepisy te można rozwinąć, uwzględniając podejście oparte na ryzyku. Dzięki propozycji podmioty rozwijające systemy, które nie charakteryzują się wysokim ryzykiem, nie byłyby narażone na nadmierne koszty związane z regulacjami, co mogłoby sprzyjać ich rozwojowi, podczas gdy ryzykowne technologie byłyby odpowiednio kontrolowane. art. 5 ust. 5 GRAI Projekt zakłada, że Przewodniczący Komisji i Zastępcy są pracownikami Biura Komisji. Mając jednak na uwadze treść art. 32 ust. 5 projektu ustawy osobą wykonującą obowiązki z zakresu prawa pracy względem pracowników Biura Komisji będzie Dyrektor Biura Komisji. W zakresie, w jakim te czynności miałby wykonywać względem Przewodniczącego lub Zastępców Przewodniczącego może to powodować uzasadniony konflikt kompetencyjny (zgodnie z projektem to Przewodniczący podlega Dyrektorowi). Art. 6 KIGEiT Rekomendacja: Harmonizacja regulacji: \"Komisja we współpracy z organami UE i międzynarodowymi organizacjami AI opracowuje wspólne standardy oceny zgodności systemów AI, tak aby firmy działające w Polsce mogły łatwo wejść na rynki międzynarodowe. Komisja będzie dążyć do zapewnienia, że przepisy krajowe nie nakładają na przedsiębiorców większych obciążeń regulacyjnych niż te wymagane przez standardy międzynarodowe.\" , Art. 6 (Współpraca z organami UE) określa współpracę Komisji z innymi organami w ramach Unii Europejskiej, ale warto rozwinąć ten zapis, by zapewnić, że przepisy w Polsce nie będą odbiegać od międzynarodowych standardów. Dzięki temu firmy polskie będą mogły swobodnie operować na rynkach globalnych, bez potrzeby dostosowywania się do różnych reżimów regulacyjnych. Art. 6 ust. 1. PIIT Wykreślenie ust. 1 art. 6, przeniesienie zadania do art. 11. , Zadanie w postaci nadzoru nad rynkiem powinno być w katalogu zadań w art. 11, nawet jeżeli jest traktowane jako podstawowe. Art. 6 ust. 1 Polskie Towarzystwo Informatyczne W zakresie kompetencji nadzorczych Komisji wymienione są systemy AI, jednak wynikiem ich działania mogą być także usługi świadczone przez te systemy. Zatem wskazane jest rozszerzenie zakresu kompetencji nadzorczych Komisji również w zakresie usług AI Propozycja Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji oraz usług opartych na AI. Zawężenie zakresu kompetencji Komisji może uniemożliwić jej nadzór w sytuacji, gdy na terenie kraju dostępne są usługi AI poprzez kanały elektroniczne a nie systemy. Art. 6 ust. 1 Krajowy Instytut Mediów Zasadność wyznaczenia organów nadzoru rynku spośród obecnie istniejących organów 72 1. Na podstawie art. 70 ust. 1 rozporządzenia 2024/1689 państwa członkowskie obowiązane są do wskazania organu lub organów nadzoru rynku dla systemów sztucznej inteligencji. Rozwiązaniem rekomendowanym przez projektodawcę w tej kwestii jest powołanie nowego organu nadzoru rynku, co jak wskazano w Ocenie Skutków Regulacji, pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących m.in. niezależności organu nadzoru. 2. W odpowiedzi na powyższą argumentację należy zaznaczyć, że w Polsce, wśród wymienionych przez projektodawcę instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, mających wchodzić w skład nowego organu nadzoru rynku, istnieją organy, których status jest w zasadzie niezależny, takie jak Krajowa Rada Radiofonii i Telewizji, formalnie niepodporządkowana innym organom państwowym, w szczególności zaś Radzie Ministrów. Uregulowanie konstytucyjnej pozycji KRRiT stanowi przeniesienie określonych zadań egzekutywy na rzecz podmiotu leżącego poza jej strukturą organizacyjną, przez co racją istnienia KRRiT jest wykonywanie powierzonych jej zadań w sposób niezależny od rządu. 3. W wyroku z 23.03.2006 r., K 4/06, OTK-A 2006, nr 3, poz. 32, Trybunał Konstytucyjny zaznaczył, że szczególna pozycja KRRiT, jako organu kontroli i ochrony prawa, łączącego w sobie funkcje zarządu i kontroli, którego kompetencje i sposób powoływania określa Konstytucja, pociąga za sobą pełną autonomiczność Krajowej Rady w stosunku do Rady Ministrów i jej Prezesa. Świadczy o tym treść art. 6 ust. 2 pkt 1 ustawy o radiofonii i telewizji, w myśl którego do zadań Krajowej Rady należy projektowanie, w porozumieniu z Prezesem Rady Ministrów, kierunków polityki państwa w dziedzinie radiofonii i telewizji. Przepis ten wskazuje na partnerski, równoprawny charakter stosunków między Krajową Radą a Prezesem Rady Ministrów. O niezależności KRRiT od Rady Ministrów świadczy także fakt, że przedstawia ona sprawozdanie ze swej działalności Sejmowi, Senatowi i Prezydentowi, natomiast Prezesa Rady Ministrów jedynie informuje o swoich dokonaniach. Ponadto, ze względu na szczególną pozycję Krajowej Rady, nie ma do niej zastosowania art. 146 Konstytucji RP ustanawiający kompetencje Rady Ministrów do kierowania i kontrolowania pracy wszystkich organów administracji rządowej. 4. Projektodawca argumentując na rzecz zasadności powołania nowego organu nadzoru rynku dla systemów sztucznej inteligencji uznał ponadto, że posunięcie to pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Odnośnie do organów kluczowych w zakresie nadzoru nad sektorem technologii cyfrowych należy zauważyć, że co prawda pod względem przedmiotowym zakres działania KRRiT obejmuje radiofonię i telewizję, a więc co do zasady wyłączone z niego zostały inne środki społecznego przekazu, również elektroniczne formy masowego komunikowania, jednakże pojęcia radiofonii i telewizji nie zostały w Konstytucji RP sprecyzowane, przez co nie jest wykluczone przyjęcie ich „dynamicznej” i ewolucyjnej wykładni w związku z rozwojem technologicznym w dziedzinie środków społecznego przekazu. Co istotne, Krajowa Rada została wyposażona w kompetencje do inicjowania postępu naukowo – technicznego i kształcenia kadr w dziedzinie radiofonii i telewizji. Zadaniem KRRiT jest też upowszechnianie umiejętności świadomego korzystania z mediów (edukacji medialnej) oraz 73 współpraca z innymi organami państwowymi, organizacjami pozarządowymi i innymi instytucjami w zakresie edukacji medialnych. Dla realizacji tych zadań, istotnych z punktu widzenia funkcjonowania systemów AI w wielu różnych obszarach życia społecznego, Krajowa Rada Radiofonii i Telewizji ma kluczowe znaczenie. 5. W związku z powyższym za logiczne należałoby uznać poszerzenie ustawowych kompetencji KRRiT o przeciwdziałanie zjawisku deepfake w mediach elektronicznych, a także o zwalczanie działań polegających na wykorzystywaniu sztucznej inteligencji do manipulowania zachowaniami użytkowników oraz wizerunkiem osób publicznych za pośrednictwem mediów i platform internetowych, zwłaszcza że od 1 listopada 2021 r. Krajowa Rada jest wyposażona w kompetencje kontrolne względem platform udostępniania wideo, zdefiniowanych w ustawie o radiofonii i telewizji jako: usługa świadczona drogą elektroniczną w ramach prowadzonej w tym zakresie działalności gospodarczej, jeżeli podstawowym celem lub zasadniczą funkcją tej usługi lub jej dającej się oddzielić części jest dostarczanie ogółowi odbiorców w celach informacyjnych, rozrywkowych lub edukacyjnych audycji, wideo stworzonych przez użytkowników lub innych przekazów. Platformy udostępniania wideo niewątpliwie są więc częścią platform internetowych, definiowanych jako usługi świadczone z wykorzystaniem systemu teleinformatycznego. 6. W pozostałym zakresie nadzór nad rynkiem dla systemów sztucznej inteligencji powinien zostać podzielony pomiędzy już istniejące organy administracji publicznej, zdolne do kompleksowego podejścia do nowych zagadnień z tej sfery. Kierunek ten należy uznać za słuszny, zwłaszcza że w motywie 3 rozporządzenia 2024/1689 wskazano, że systemy AI mogą być łatwo wdrażane w wielu różnych sektorach gospodarki i obszarach życia społecznego, a w motywie zaznaczono, że zharmonizowane przepisy ustanowione w niniejszym rozporządzeniu powinny mieć zastosowanie we wszystkich sektorach. Okolicznością przemawiającą za racjonalnością wskazanego modelu jest dysponowanie przez istniejące organy administracji publicznej kompetentnymi pracownikami, posiadającymi wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach takich jak technologie informacyjne oraz nadzór nad prawami podstawowymi, co umożliwi im należyte wykonywanie powierzonych zadań. Realizowanie działań w obrębie wymienionych dziedzin odbywa się m.in. w ramach struktur KRRiT, stojącej na straży wolności słowa w radiu i telewizji, samodzielności dostawców usług medialnych oraz dostawców platform udostępniania wideo, interesów odbiorców usług i użytkowników oraz zapewniającej otwarty i pluralistyczny charakter radiofonii i telewizji (art. 6 ust 1 ustawy o radiofonii i telewizji). 7. Reasumując powyższe rozważania, za zasadne należałoby uznać wyznaczenie organów nadzoru rynku spośród obecnie istniejących organów, przy czym w kompetencje w tym zakresie z pewnością powinna zostać wyposażona Krajowa Rada Radiofonii i Telewizji. Art. 6 ust. 1 Związek Pracodawców Technologii 1. Potrzeba powołania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uważamy, że należy ponownie rozważyć niezbędność powołania kolejnego organu regulacyjnego działającego w sferze cyfrowej. Pod uwagę należy wziąć nie tylko fakt, że: 74 Cyfrowych Lewiatan • będzie to jeden z wielu regulatorów specjalnie dedykowanych dla sfery cyfrowej (UKE, praktycznie UODO) lub w znacznej części zajmujących się sferą cyfrową (UOKiK, ABW, KNF) • powołanie takiego regulatora będzie w praktyce oznaczało, że kolejne akty prawne związane z sferą cyfrową, także będą potrzebowały swoich regulatorów; przykłady to akt w sprawie danych czy europejska przestrzeń danych dotyczących zdrowia • praktyka w innych krajach UE: jeśli zadania związane z regulacją systemów sztucznej inteligencji w innych krajach członkowskich UE będą delegowane do istniejących już organów regulacyjnych będziemy mieli kolejny przykład niespójności europejskich regulacji Warto zwrócić uwagę na zapis z Uzasadnienia do projektu ustawy: „Akt o AI jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych.” Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. art. 6 ust. 1 i 3 GRAI Zgodnie z postanowieniem art. 74 ust. 6 rozporządzenia 2024/1689: „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” Z zapisu art. 6 pkt 1 wynika natomiast iż Komisja jest jedynym organem nadzoru w zakresie systemów sztucznej inteligencji. Z punktu 3 wynika, iż Komisja współpracuje z KNF w zakresie spraw wskazanych w art. 74 ust. 6 rozporządzenia. Proponowane rozwiązanie: Dodanie zastrzeżenia w art. 6 pkt. 1, że w przypadku systemów AI wysokiego ryzyka stosowanych przez instytucje finansowe organem nadzoru jest Komisja Nadzoru Finansowego. 75 art. 6 ust.1 punkty 1 oraz ust. 3 podpunkt 1 GRAI Uwzględniając: -postanowienia art. 74 ust. 6 rozporządzenia 2024/1689, które określają, że w przypadku systemów wysokiego ryzyka używanych przez instytucje finansowe odpowiedzialnym organem nadzoru jest krajowy organ odpowiedzialny za nadzór finansowy, w Polsce jest to KNF, -oraz zapisy art. 6 pkt. 1, które wskazują na istnienie jednego organu nadzorczego, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z jedynie współpracą z KNF, powstaje niejasność co do roli KNF w kontekście instytucji finansowych korzystających z systemów AI. Aktualne zapisy wydają się sprzeczne z art. 74 ust. 6 rozporządzenia 2024/1689. Istnieje potrzeba wyjaśnienia i doprecyzowania podziału kompetencji między KNF a Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w odniesieniu do instytucji finansowych stosujących systemy AI. Proponujemy zmiany doprecyzowujące te elementy zgodnie z zaproponowaną treścią, tak by być zgodnym z art. 74 ust. 6 rozporządzenia 2024/1689 oraz zapewnić spójna i jednolitą politykę nadzorczą w zakresie systemów AI dla całego rynku (ust. 3) Proponujemy zmianę treści na następującą: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji z zastrzeżeniem, że w przypadku systemów AI wysokiego ryzyka używanych przez instytucje finansowe, nadzór sprawuje Komisja Nadzoru Finansowego, zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja oraz Komisja Nadzoru Finansowego współpracują celem zapewnienia spójności sprawowanego nadzoru na rynkiem w zakresie systemów sztucznej inteligencji. 4. Komisja współpracuje z: 1) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz pozostałymi podmiotami, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854 oraz z 2024 r. poz. 1089) - w zakresie spraw, których mowa w art. 74 ust. 3 rozporządzenia 2024/1689); 2) Prezesem Urzędu Ochrony Danych Osobowych - w zakresie spraw, o których mowa w art. 57 oraz art. 74 ust. 8 rozporządzenia 2024/1689; 3) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 - w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 4) ministrem właściwym do spraw informatyzacji - w zakresie spraw związanych z notyfikacją, o których mowa w rozdziale 6 ustawy; 5) Pełnomocnikiem Rządu do Spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie 76 cyberbezpieczeństwa (Dz. U. z 2024 r. poz. 1077) - w zakresie spraw związanych z cyberbezpieczeństwem. 5. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej. Art. 6 ust. 1 i 3 (w szczególności pkt 1)) GRAI Projekt wskazuje, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Ust. 3 reguluje też obowiązek Komisji współpracy z innymi organami w zakresie spraw tam wskazanych. Konstrukcja tego przepisu może prowadzić do sprzeczności z treścią art. 74 rozporządzenia 2024/1689 w zakresie w jakim wskazuje, że w każdym przypadku Komisja działa jako właściwy organ nadzoru. Dla przykładu, ust. 3 pkt 1 nakłada na Komisję obowiązek współpracy z Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689. Przepis ten wskazuje jednak, że w przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych, organem nadzoru jest odpowiedni organ nadzoru nad rynkiem finansowym (w tym przypadku Komisja Nadzoru Finansowego). Oznacza to, że w zakresie tam wskazanym mamy rozdzielenie organów nadzoru. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych w zakresie w jakim wprowadzenie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych – organem nadzoru będzie Komisja Nadzoru Finansowego. W pozostałym zakresie (a więc systemy inne niż wysokiego ryzyka lub w zakresie systemów AI również wysokiego ryzyka jeśli nie są bezpośrednio związane ze świadczeniem usług finansowych – organem nadzoru pozostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tymczasem projektowany ust. 3 art. 6 nie rozróżnia tych sytuacji i przyjmuje generalnie zobowiązanie do współpracy. Proponuję, że art. 6 ust. 1 powinien przyjąć treść „Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w zakresie w jakim art. 74 rozporządzenia 2024/1689 nie stanowi inaczej. W przypadkach określonych w art. 74 ust. 3, ust. 6 i ust. 8 rozporządzenia 2024/1689 organy nadzoru określa ust. 3 poniżej.” Z kolei w ust. 3 art. 6 ustawodawca powinien podjąć decyzję czy kompetencje organu nadzoru wskazane w art. 74 ust. 6 rozporządzenia 2024/1689 przyznać Komisji Nadzoru Finansowego a nałożyć na Komisję Rozwoju tylko zobowiązanie do współpracy albo uznać Komisję Rozwoju za wyłączny podmiot nadzoru nad AI na rynku finansowym. 77 W przypadkach określonych w art. 74 ust. 3 i 8 rozporządzenia 2024/1689 relacja powinna przyjąć zobowiązanie Komisji Rozwoju do współpracy z jednoczesnym wskazaniem, co w tą współpracę wchodzi. Art. 6 ust. 2 KIGEiT Propozycja zapisu: \"Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w Art. 70 ust.1 Rozporządzenia 2024/1689.\" Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W Art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Art. 6 ust. 3 AI CHAMBER jeżeli istotne jest enumeratywne wymienienie instytucji, z którymi Komisja ma współpracować (powstaje tu pytanie, czy enumeratywna lista oznacza, że z innymi organami nie może współpracować), to należy uzupełnić tę listę przynajmniej o dowódcę komponentu wojsk obrony cyberprzestrzeni, o którym mowa w art. 23 ustawy o obronie ojczyzny. Art. 6 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prosimy o doprecyzowanie, w jaki sposób i na jakich zasadach przebiegać będzie współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”) a Komisją Nadzoru Finansowego i jak dokonany zostanie podział obowiązków. Art. 6 ust. 3 PIIT Doprecyzowanie kompetencji PUODO w pracach Komisji. , Niejasna relacja kompetencji PUODO w pracach Komisji – czy Komisja jednocześnie ma współpracować z PUODO i PUODO ma być członkiem Komisji? Kompetencje PUODO powinny być jednoznacznie określone, aby rola PUODO w poszczególnych działaniach była oczywista, czy działa jako Członek Komisji, czy też jako podmiot współpracujący z Komisją. Art. 6 ust. 3 ISSA Polska Postuluję dodanie do katalogu podmiotów, z którymi współpracuje Komisja również NASK - instytucję kompetentną w zakresie cyberbezpieczeństwa. Warto dodać także CSIRT sektorowe, zgodnie z ustawą KSC Art. 6 ust. 3 Związek banków Polskich 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; (...) 3a. Współpraca, o której mowa w ust. 3 polega na [uzupełnić] Niejasne jest określenie, na czym polegać ma współpraca z wymienionymi organami. W szczególności interesuje nas ew. zbieg właściwości w ramach współpracy KNF i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgodnie z Art. 74 ust. 6 i 7 AI Act: 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym 78 usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. Czy aktualne brzmienie art. 6 ust. 3 pkt 1). oznacza, że Polska skorzystała z odstępstwa przewidzianego w w/w ust. 7 i wyłącznie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie właściwa? W przypadku nieskorzystania z odstępstwa przepis powinien precyzować zakres współpracy, np. wskazywać, że współpraca z organami ma na celu zapewnienie spójnego nadzoru nad systemami SI, z zastrzeżeniem że np. w zakresie spraw, o których mowa w art. 74 ust. 6 AI Act, właściwym organem nadzoru jest KNF. art. 6 ust. 3 pkt 1 GRAI Niejasne wskazanie zakresu współpracy Komisji z Komisją Nadzoru Finansowego, brak rozwinięcia kwestii w dalszej części ustawy. Użycie sformułowania „w zakresie spraw” w odniesieniu do AI Act art. 74 ust. 6. „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” jest zbyt daleko idącym uproszczeniem skoro w AI Act mowa o generalnym nadzorze rynku. Doprecyzowanie w Ustawie podziału kompetencji między Komisją a KNF w stosunku do sektora finansowego. Optymalne byłoby wyłączenie sektora finansowego spod jurysdykcji Komisji. art. 6 ust.3 GRAI Komisja współpracuje... – wątpliwości może budzić „współpracuje”. Przykładowo „Komisja współpracuje z Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689” nie wyjaśnia co oznacza „współpraca”. Konieczność wyjaśnienie w uzasadnieniu do ustawy. art. 6 ust.3 pkt 1 Fundacja FinTech Poland W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakłada współpracę pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpracy z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres 79 takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować w przyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Art. 6 ust. 3 pkt 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Kompetencje Komisji a kompetencje innych organów nadzoru Zapis projektu ustawy w art. 6 w punktach 1 i 3 mówi: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. (...) 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; Wspomniany art. 74 rozporządzenia mówi z kolei 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. Ponieważ jest różnica pomiędzy „organem nadzoru jest”, a „Komisja współpracuje” z tym organem proponujemy dwa możliwe rozwiązania: Zapis dalej idący: „Organem właściwym dla nadzoru instytucji finansowych wykorzystujących systemy sztucznej inteligencji jest Komisja Nadzoru Finansowego” Uzasadnienie: ze względu na wieloletnie działania nadzorcze i idące z tym doświadczenie i znajomość sektora finansowego nadzór nad systemami sztucznej inteligencji – dla każdego ich rodzaju – pozostaje KNF. Zapis synchronizujący z AI Act – art. 6 ust. 3 punkt 1) przyjmuje brzmienie: „1) Komisją Nadzoru Finansowego – która jest organem właściwym w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 art. 6 ust. 4 Logicise “współpracuje z Urzędem do spraw AI” Niejasne o jakim urzędzie jest mowa. Czy zapis ten dotyczy np. Europejskiego Urzędu ds. Sztucznej Inteligencji czy może chodzi o organ na poziomie krajowym? Jakiego rodzaju kompetencje ma mieć wspomniany w tym artykule urząd do spraw AI? art. 6 ust. 4 KIGEiT Propozycja zapisu: Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Europejskim Urzędem do spraw Sztucznej Inteligencji, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii 80 Europejskiej. , Nie istnieje taka instytucja jak \"Urząd do spraw AI\" zgodnie z czym zastąpiono na \"Europejski Urząd do spraw Sztucznej Inteligencji\". art. 6 ust. 4 SKwP Urząd ds. AI to europejski UE, czy będzie taki w Polsce ? Jeżeli z UE, to taka nazwa powinna być także używana w Polsce, a nie Biuro. Art. 7 Fundacja Panoptykon Nie mamy zastrzeżeń do ogólnej konstrukcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Sugerujemy jednak wprowadzenie dodatkowych rozwiązań mających na celu doprecyzowanie przepisów dotyczących konfliktu interesów oraz zwiększenie przejrzystości procesu powoływania przewodniczącego Komisji. Skład Komisji Zgodnie z projektem w skład Komisji wejdą członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji m.in. ministra-koordynatora służb specjalnych. Udział przedstawiciela tej instytucji nie jest w żaden sposób wyjaśniony w uzasadnieniu projektu. Naszym zdaniem jego miejsce powinien zająć przedstawiciel ministra spraw wewnętrznych jako podmiotu mającego duże doświadczenie w zarządzaniu bazami danych osobowych (np. rejestr PESEL), a jednocześnie nadzorującego Policję i Straż Graniczną. Taka zmiana byłaby też uzasadniona zakresem regulacji. Art. 7 Związek Cyfrowa Polska Nowy organ nadzoru rynku. Ustawodawca, w wyniku przeprowadzonych prekonsultacji, zdecydował o powołaniu nowego organu nadzoru na rynkiem AI w Polsce – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zamiast wyposażenia w dodatkowe kompetencje z zakresu AI innych, już istniejących organów, takich jak UODO, UKE czy UOKiK. Oceniamy to rozwiązanie korzystnie, biorąc pod uwagę m.in. złożoną materię regulacji dot. AI, a także konieczność zaangażowania w to zadanie wysokiej klasy specjalistów. Dodatkowo jako korzystne rozwiązanie oceniamy wykorzystanie dotychczasowego doświadczenia oraz kompetencji istniejących organów, decydując się na włączenie ich przedstawicieli w skład nowo powołanej KRiBSI (art. 7 ust. 2 Projektu). Wskazać należy także, że w obliczu wieloaspektowego wpływu sztucznej inteligencji na społeczeństwo, konieczne jest, aby organ nadzorujący stosowanie ustawy o sztucznej inteligencji w Polsce posiadał możliwość zrównoważenia podstawowych praw i celów regulacyjnych. Mogą one obejmować, ale nie ograniczają się do konkurencji, innowacji, inwestycji bezpośrednich, prywatności, niedyskryminacji, wolności słowa i bezpieczeństwa. Takie względy, jak prawo do prowadzenia działalności gospodarczej i wspierania innowacji, są również kluczowe w ramach regulacyjnych. Dlatego też organ regulacyjny musi mieć zdolność i reżim ustawowy, które zapewnią, że będzie odpowiedzialny za przyjęcie holistycznego podejścia obejmującego cały rząd, które może ułatwić tę równowagę między prawami podstawowymi a promowaniem innowacji i wzrostu gospodarczego. Wymaga to zniuansowanego zrozumienia współzależności między różnymi celami polityki i zaangażowania w osiągnięcie równowagi, która służy szerszym interesom społeczeństwa. 81 Art. 7 GRAI Uzasadnienia wymaga dobór opcjonalnych uczestników posiedzeń Komisji. Jakie przyjęto kryterium przemawiające za umożliwieniem udziału w posiedzeniach przedstawicieli właśnie tych wskazanych organów? Art. 7 ICC Poland W Projekcie zaproponowano powierzenie funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 70 ust. 1 rozporządzenia 2024/1689) nowoutworzonemu organowi o charakterze kolegialnym – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”). Organ ten ma obejmować, oprócz Przewodniczącego i jego dwóch Zastępców, dziewięciu członków Komisji spośród przedstawicieli innych istniejących organów (art. 7 Projektu). Zaproponowane rozwiązanie polegające na nadaniu nowemu organowi nadzoru charakteru kolegialnego budzi jednak wątpliwości z perspektywy efektywności, w tym sprawności jego działania, w zestawieniu z licznymi zadaniami, jakie ma on wykonywać (por. art. 11 Projektu). Równocześnie wydaje się, że cele, jakimi projektodawca uzasadnia przyjęcie takiej formuły organizacji Komisji, w tym zapewnienie skoordynowanego nadzoru oraz umożliwienie współpracy pomiędzy regulatorami (s. 7-8 uzasadnienia Projektu), możliwe są do osiągnięcia również przy modelu organu jednoosobowego za pomocą alternatywnych mechanizmów, np. obligatoryjnych konsultacji. Z tego względu należałoby rozważyć, czy efektywniejszym rozwiązaniem nie byłoby wyznaczenie jako organu nadzoru w rozumieniu art. 70 rozporządzenia 2024/1689 organu jednoosobowego, jak to uczyniono chociażby w przypadku Prezesa Urzędu Ochrony Danych Osobowych w odniesieniu do obszaru ochrony danych osobowych, przy równoczesnym zapewnieniu odpowiedniego poziomu eksperckości i interdyscyplinarności przy pomocy wspierającego go urzędu lub biura. Nadzór nad rynkiem systemów sztucznej inteligencji będzie wymagał bowiem sprawnego i szybkiego działania – tak ze względu na niesamowite tempo rozwoju tej technologii, jak i z uwagi na bardzo poważne ryzyka, jakie systemy sztucznej inteligencji mogą stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W tym kontekście wątpliwości może budzić wymaganie podejmowania uchwał przez organ kolegialny w odniesieniu do niemal wszelkich jego zadań, w tym co do wydawania postanowień i decyzji w sprawie naruszenia przepisów o systemach sztucznej inteligencji. Podjęcie takiej uchwały wymagać będzie bowiem przynajmniej zwołania posiedzenia Komisji, zebrania odpowiedniego kworum, a wcześniej zapoznania się przez wszystkich członków Komisji z materiałami niezbędnymi do podjęcia decyzji. Nawet przy przyjętym założeniu odbywania tego rodzaju posiedzeń w formie zdalnej lub w trybie obiegowym (art. 8 ust. 7 i 9 Projektu), należy przewidywać, że działania te zajmować będą więcej czasu niż podjęcie decyzji przez organ jednoosobowy, nawet wtedy, gdyby miał on ściśle współpracować z odpowiednimi organami w zakresie ich właściwości (np. konsultacje). W uzasadnieniu Projektu wyjaśniono (s. 7 uzasadnienia Projektu), że przyjmując wskazaną formułę organizacji Komisji projektodawca kierował się modelem Komisji Nadzoru Finansowego. 82 Skład tego ostatniego organu ma jednak charakter zdecydowanie bardziej homogeniczny niż proponowany w odniesieniu do nadzoru nad systemami sztucznej inteligencji. O ile bowiem w skład Komisji Nadzoru Finansowego wchodzą organy i przedstawiciele organów posiadających kompetencje ściśle odnoszące się do różnych aspektów funkcjonowania rynku finansowego (np. właściwi ministrowie, NBP, Bankowy Fundusz Gwarancyjny, Prezes UOKiK), tak proponowany skład Komisji miałby obejmować przedstawicieli bardzo różnych organów, których zadania jedynie mogą – potencjalnie – wiązać się z rynkiem systemów sztucznej inteligencji. Przykładowo, przedstawiciele Rzecznika Praw Dziecka, czy też Krajowej Rady Radiofonii i Telewizji mieliby uczestniczyć w wykonywaniu wszelkich kompetencji Komisji, również tych niezwiązanych w żaden sposób z zakresem działania tych właśnie organów (mając głos równy z pozostałymi członkami Komisji). W uzasadnieniu Projektu wskazano, że proponowany model ma umożliwić realizację koncepcji nadzoru zintegrowanego nad systemami sztucznej inteligencji „łączącego kompetencje i eksperckość organów wchodzących w skład Komisji” (s. 7 uzasadnienia Projektu), jak i współpracę między regulatorami, w tym wymianę informacji w kwestiach dotyczących sztucznej inteligencji (s. 8 uzasadnienia Projektu). Wydaje się jednak, że cele te można osiągnąć w sposób efektywniejszy przez wykorzystanie innych mechanizmów, w tym obowiązkowych konsultacji lub wymogu zasięgnięcia przez organ nadzoru opinii organów, których zakresu działania dotyczy dana sprawa. Zadania, jakie Projekt powierza organowi nadzoru, z reguły nie będą bowiem obejmować zakresu działania wszystkich organów, które projektodawca uznał za kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI. Uzasadnia to dodatkowo rezygnację z włączenia ich wszystkich w proces realizacji każdego zadania organu nadzoru, a poprzestanie na punktowej integracji nadzoru nad systemami sztucznej inteligencji w odniesieniu do danej konkretnej sprawy, gdy tego ona wymaga. Powyższe uwagi skłaniają do postulatu rewizji kształtu Komisji jako kolegialnego organu nadzoru na korzyść organu jednoosobowego, co może zapewnić większą efektywność realizacji jego zadań. Art. 7 Instrat – Fundacja Centrum Cyfrowe Skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) Z zadowoleniem przyjmujemy decyzję o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kluczowa dla skutecznego wdrażania rozporządzenia 2024/1689, zwłaszcza w kontekście zapewnienia niezależności organu nadzorującego przestrzeganie przepisów AI Act. Widzimy również istotną rolę Komisji w koordynacji działań między kluczowymi instytucjami nadzorującymi sektor technologii cyfrowych, w tym sztucznej inteligencji, co uważamy za krok w dobrym kierunku. Jednocześnie wyrażamy obawy, że w proponowanej strukturze Komisji może brakować odpowiedniej liczby ekspertów posiadających techniczną wiedzę i umiejętności z zakresu rozwijania sztucznej inteligencji. Ustawa wprawdzie przewiduje, że przewodniczący powinien 83 wyróżniać się wiedzą w zakresie SI lub prawa oraz doświadczeniem zawodowym w dziedzinie cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Jednakże takie zapisy nie gwarantują, że na to stanowisko zostanie wybrana osoba z rzeczywistym zrozumieniem modeli SI. W związku z tym rekomendujemy usunięcie zapisu „lub prawa”, gdyż pozostałe wymogi – dotyczące wiedzy i doświadczenia w obszarze SI – umożliwiają także wybór specjalisty z zakresu prawa, o ile jego wiedza koncentruje się na sztucznej inteligencji. Uważamy ponadto, że samo wskazanie na kompetencje w zakresie cyfryzacji jest wystarczające, ponieważ tematy cyberbezpieczeństwa i technologii informacyjnych mieszczą się w tym pojęciu. Uważamy również, że w Komisji powinna znaleźć się nie jedna, a przynajmniej trzy osoby będące ekspertami w projektowaniu i wdrażaniu narzędzi sztucznej inteligencji. Zaangażowanie na stałe członków, którzy na co dzień zajmują się praktycznym rozwijaniem narzędzi SI, znacząco wzmocniłoby bowiem zdolność Komisji do oceny technologicznych wyzwań i potencjalnych zagrożeń związanych z poddawanym analizie systemom. Dlatego proponujemy rozważenie następujących rozwiązań: 1. rozszerzenie składu Komisji o dwóch ekspertów z zakresu SI, wybieranych w drodze otwartego i konkurencyjnego naboru (na wzór sposobu i kryteriów naboru na przewodniczącego), którzy będą zarazem pełnić funkcję wiceprzewodniczących (w razie nieobecności przewodniczącego), a którym przyznane zostanie prawo głosu. Rozwiązanie to umożliwi zapewnienie Komisji ekspertów posiadających specjalistyczną wiedzę, nie generując przy tym dodatkowych kosztów; albo 2. rozszerzenie składu Komisji o dwóch przedstawicieli takich instytucji jak chociażby Narodowe Centrum Badań i Rozwoju Ideas (NCBR Ideas) czy Naukowa i Akademicka Sieć Komputerowa (NASK). Jeśli formalne włączenie do Komisji wyżej zaproponowanych ekspertów nie będzie możliwe, rekomendujemy, aby przynajmniej zostały one uwzględnione jako podmioty wspierające, biorące udział w posiedzeniach z głosem doradczym. Art. 7 Fundacja FinTech Poland W projekcie brak jest sformułowania wymagań dot. kompetencji osób zasiadających w KRiBSI. Powinny to być osoby o bardzo wysokiej wiedzy technicznej i/lub prawniczej w zakresie sztucznej inteligencji. Dodatkowo wszyscy członkowie komisji powinni przejść szkolenie i egzamin, przygotowywane przez czołowe polskie uczelnie i ekspertów dziedzinowych, dotyczące działania modeli sztucznej inteligencji. Art. 7 Związek Pracodawców Technologii Cyfrowych Lewiatan Skład Komisji odzwierciedla dzisiejszy obraz organów regulacyjnych, ale nie zauważa niezwykle ważnych tematów, które będą musiały być regulowane w najbliższym czasie na podstawie aktów prawnych Unii Europejskiej. Należy tu przede wszystkim wymienić dwa akty, tj. akt w sprawie danych, który zaczyna być egzekwowalny już od września 2025 roku, a także będący na ostatnim etapie europejskiego procesu prawodawczego, rozporządzenia europejska przestrzeń danych dotyczących zdrowia (EHDS). Pominięcie organów, które zostały lub zostaną wskazane jako właściwe dla tych regulacji nie pozwoli Komisji na prawidłowe działania w przyszłości. Propozycja: zmiana w art. 7 ust. 2 poprzez dodanie: 84 10) innych organów regulacyjnych właściwych dla ochrony danych Art. 7 ust. 1 ISSA Polska Postuluję określenie sposobu wyłonienia Członków Komisji przez każdy z podmiotów uprawnionych do ich oddelegowania. Ponadto trybu ich odwoływania. Proponuję wskazanie, czy Członkowie Komisji powoływani są na kadencję, czy są to wspólne kadencje. Zmiana składu osobowego może negatywnie wpływać na ciągłość prac Komisji. Art. 7 ust. 1 ZPAV postuluje w tym miejscu rozszerzenie składu Komisji (art. 7 ust. 1 projektu ustawy) o przedstawiciela ministra właściwego do spraw kultury. Art. 7 ust. 1 ZAIKS Art. 7 ust. 1 Projektu otrzymuje następujące brzmienie: „Art. 7.1 W skład Komisji wchodzą Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziesięciu członków Komisji.\" Art. 7 ust. 1-2 Osoba fizyczna Propozycja zbudowania składu Komisji w oparciu o urzędników administracji rządowej (głównie) oraz działających na zasadach reprezentowania swoich mocodawców (piastunów organów politycznych), a więc osób całkowicie zalez0nych, nie gwarantuje stworzenia niezależnego organu nadzoru ds. sztucznej inteligencji, a jest to przecież wymóg wynikający z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689). Ponadto dobór członków Komisji, poza jednym przypadkiem – Przewodniczącego, nie jest obwarowany żadnymi warunkami merytorycznymi. Tylko osoba stająca do konkursu na Przewodniczącego Komisji musi, zgodnie z art. 18 ust 1 pkt 4) projektu ustawy o SI wyróżniać się wiedzą i posiadać znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Budzi to poważne wątpliwości co do braku kwalifikacji pozostałych członków ważnego, w dobie skokowego rozwoju sztucznej inteligencji, organu administracji publicznej. Potencjalnie osoby wskazywane do Komisji mogą nie mieć żadnego doświadczenia lub wiedzy związanej z cyberbezpieczeństwem, sztuczną inteligencją lub technologiami informatycznymi. Nawet jeśli przyjąć, że zależy Ustawodawcy na szerokim spektrum wiedzy i wśród członków komisji, to ww. elementy muszą stanowić zasób ich wiedzy. Np lekarz prowadzący badania nad SI, etyk zajmujący się etyką sztucznej inteligencji lub socjolog badający skutki społeczne wykorzystania SI. Dopiero takie połączenie wiedzy, umiejętności i formalnego wykształcenia istotnie wzmocni merytoryczny poziom w ramach Komisji, zapewni jej interdyscyplinarność oraz pozwoli potencjalnie na właściwą ocenę naruszenia przepisów prawa dotyczącego sztucznej inteligencji. Należy również zwrócić uwagę, że wprowadzenie konstrukcji organizacyjno- prawej, w której za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu budzi wątpliwości nie tylko natury etycznej, ale także natury prawnej. Przyjęte rozwiązanie o nie wynagradzaniu członków komisji za udział w pracach może naruszać przepisy prawa pracy 85 i kodeksu cywilnego, które przewidują obowiązek wynagradzania pracy i zwrotu kosztów związanych z jej wykonywaniem. Poza tym jest wysoce prawdopodobne, że pracownik organu delegującego, oprócz udziału w pracach komisji, będzie miał inne obowiązki w swym macierzystym urzędzie. Powstaje pytanie, czy w takim razie będzie się wstanie zaangażować się w pracę Komisji w pełni, zwłaszcza w sytuacji szerokiego zakresu kompetencji i zadań Komisji, mając potencjalne obowiązki w macierzystym organie? W sytuacji, gdy poszczególne organy delegujące członków do Komisji SI będą tworzyły odrębne stanowisko w swym urzędzie w celu zapewnienia wynagrodzenia dla takiego pracownika, to powstaje kolejne pytanie o gospodarność w wydatkowaniu pieniędzy publicznych. Równie istotna jest kwestia równego wynagrodzenia, bowiem poszczególne organy mogą posiadać różne regulaminy płac, co przełoży się na niczym nieuzasadnione prawnie zróżnicowane wynagrodzenia członków komisji. Generalnie skład Komisji ds SI powinien opierać się o dobór merytoryczny, być może z pozostawieniem prawa do wskazania poszczególnych osób przez niektóre organy władzy publicznej, przy jednoczesnym zatrudnieniu lub wynagradzaniu członków bezpośrednio przez Komisję, w której pracach będą uczestniczyć. Art. 7 ust. 2 Logicise dobór dziewięciu członków Komisji Proponujemy poszerzenie składu Komisji o ministra właściwego do spraw szkolnictwa wyższego i nauki, oraz dwóch do trzech ekspertów w obszarze AI - przedstawicieli wiodących w Polsce instytutów badawczych zajmujących się badaniami nad AI oraz wykorzystaniem AI w gospodarce, w szczególności Instytutu Badawczego IDEAS, Instytutu Technik Innowacyjnych EMAG Sieci Badawczej Łukasiewicz, Europejskiego Laboratorium Uczących się i Inteligentnych Systemów (ELLIS) w Warszawie. Ponadto, proponujemy zredukować udział KRRiT do uczestniczenia z głosem doradczym (art. 7. 3.) Art. 7 ust. 2 ZAIKS art. 7 ust. 2 Projektu punkt 3) uzyskuje następujące brzmienie: ,,3) ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego;\" art. 7 ust. 2 Projektu obecne punkty 3)-9) otrzymują numerację odpowiednie 4)-10) Jednym z celów Al Act jest zapewnienie przestrzegania przez dostawców modeli Al. ogólnego przeznaczenia przepisów prawa UE dotyczących prawa autorskiego i praw pokrewnych1• Rozwój i trenowanie takich modeli wymaga dostępu do ogromnych ilości danych, w tym treści chronionych prawem autorskim, takich jak teksty, obrazy, materiały wideo i utwory muzyczne. Każde 86 wykorzystanie takich treści wymaga co do zasady zezwolenia uprawnionych z tytułu praw autorskich i praw pokrewnych. Jak wiadomo chociażby z wielu doniesień prasowych z ostatnich miesięcy, dostawcy modeli Al często rozwijają swoje produkty z pominięciem praw twórców, artystów i producentów. Co więcej, ich utwory są często wykorzystywane do trenowania narzędzi generatywnej Al, które tworząc maszynowe imitacje twórczości ludzkiej, wchodzą z nią w bezpośrednią konkurencję jako alternatywne źródło podaży treści rozrywkowych czy informacyjnych. Tzw. wytwory Al już zaczynają stanowić bezpośrednią konkurencję, dla utworów tworzonych przez człowieka, ponieważ korzystanie z nich wiąże się z mniejszymi kosztami czy formalnościami i obowiązkami prawnymi. Tym samym wielu twórców zaczyna tracić zamówienia od takich podmiotów jak nadawcy czy wydawcy prasy, stanowiące źródło ich podstawowych przychodów. Również muzyczne serwisy steamingowe coraz częściej zamieszczają wytwory muzyczne stworzone przez narzędzia Al, aby w ten sposób obniżać zawartość chronionych utworów i, w konsekwencji, wysokość opłat licencyjnych, które są zobowiązani uiszczać na rzecz twórców i artystów wykonawców. Przywołany powyżej cel Al Act nie znajduje jednak żadnego odzwierciedlenia w Projekcie. Przepisy projektowanych artykułów 7 i 28 całkowicie pomijają w składzie organów odpowiedzialnych za nadzór nad rynkiem systemów Al oraz modelami Al podmioty prowadzące działalność w zakresie kultury i przemysłów kreatywnych Artykuł 7 ust. 2 Projektu powinien uwzględniać w składzie Komisji przedstawicieli ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego, a przez to pozostającego w bezpośrednim kontakcie z twórcami i artystami. Należy zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. ll Projektu jest „wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji\". Al Act w art. 53 w stosunku do modeli Gen Al przewiduje szereg obowiązków, w tym wprowadzanie przez dostawców tych modeli polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen Al. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Art. 7 ust. 2 CHAMBER Proponowany w art. 7 ust. 2 skład Komisji budzi wątpliwości. Wbrew uzasadnieniu ustawy nie obejmuje on “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”, bo trudno za kluczowy organ uznać w tym kontekście ministra-koordynatora służb specjalnych czy Rzecznika Praw Dziecka. Wskazanie tego pierwszego może wręcz budzić pewien niepokój. Brakuje z kolei wskazania choćby Ministra właściwego do spraw gospodarki, który szczególnie jako reprezentującego aspekt gospodarczy i spojrzenie ze strony wspierania MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. Podobnie niezrozumiały jest brak przedstawiciela 87 ministra właściwego ds. nauki przy obecności np. KRRiT, która wedle naszej wiedzy nie ma większej wiedzy czy zainteresowania SI jako taką. Udział przedstawiciela MON także wydaje się wskazany. Reasumując skład Komisji powinien wyglądać następująco: Minister ds. informatyzacji Minister ds. gospodarki Minister ds. nauki Prezes UKE Rzecznik Praw Obywatelskich Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). Art. 7 ust. 2 Polskie Towarzystwo Informatyczne Skład Komisji nie uwzględnia niektórych sektorów regulowanych, które powinny być reprezentowane w Komisji, np. w zakresie produktów leczniczych lub ochrony zdrowia. Nie jest do końca jasne jakie są podstawy do wskazywania Rzecznika Prawa Obywatelskich oraz RPD w składzie Komisji. Prosimy o przeanalizowanie, jakie instytucje powinny być reprezentowane w składzie Komisji (kryteria wyboru są niejasne) 88 Art. 7 ust. 2 GRAI I. W art. 7 ust. 2 projektu został uregulowany skład Komisji, z przedstawicieli wybranych podmiotów. Jednak w uzasadnieniu nie znalazło się wyjaśnienie, dlaczego w skład Komisji mają wchodzić akurat przedstawiciele tych podmiotów i według jakiego klucza ich wybrano. II. Wątpliwości budzi zaproponowany skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Dlaczego w stałym składzie Komisji znaleźli się przedstawiciele Rzecznika Praw Dziecka i Krajowej Rady Radiofonii i Telewizji, natomiast w posiedzeniach Komisji tylko mogą uczestniczyć przedstawiciele m.in.: Biura Rzecznika MŚP, urzędu obsługującego ministra właściwego do spraw gospodarki. Z punktu widzenia zapowiadanych założeń, jakie miała realizować ustawa wdrażająca AI Act – rozwój sztucznej inteligencji, niezrozumiałe jest, jak bez przedstawicieli przedsiębiorców i resortu odpowiedzialnego za rozwój gospodarczy kraju ma być realizowane zadanie Komisji: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. I. Wyjaśnienie w uzasadnieniu według jakiego klucza dokonano wyboru podmiotów wchodzących w skład Komisji i jakie kompetencje mają wnosić przy realizacji zadań Komisji. Uzasadnienia wymaga, w szczególności wskazanie do składu Komisji przedstawicieli ministra powołanego w celu koordynowania działalności służb specjalnych, KRRiT oraz Prezesa UKE. II. Konieczne jest uwzględnienie w stałym składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przedstawicieli MRiT i Rzecznika MŚP. Art. 7 ust. 2 GRAI Brakuje w składzie Komisji reprezentanta Urzędu Rejestracji Produktów Leczniczych. Rozwój technologii w sektorze dotyczącym zdrowia wymaga szczególnej atencji, stąd przedstawiciel Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych powinien się znaleźć w stałym składzie Komisji. Uzupełnienie przepisu. Art. 7 ust. 2 Fundacja FinTech Poland Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: ministra właściwego ds. spraw wewnętrznych, ministra właściwego ds. zdrowia, ministra właściwego ds. szkolnictwa i nauki, ministra właściwego ds. pracy. Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając 89 dotychczasowe postanowienie – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Poza tym do rozważenia jest również potrzeba zaangażowania naukowców, praktyków sztucznej inteligencji pracujących w biznesie, oraz przedsiębiorców prowadzących firmy związane ze sztuczną inteligencją. Stałym członkiem prac Komisji powinien zostać również przedstawiciel Społecznej Rady, o której mowa w art. 28. Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 Polska Izba Książki Mamy jednak zasadnicze zastrzeżenia dotyczące pominięcia w projektowanej ustawie Ministerstwa Kultuty 1 Dziedzictwa Narodowego, któte to Ministerstwo tradycyjnie odpowiada za sektor kteatywny. Nie jest dla nas zrozumiałe dlaczego sektor kreatywny jest traktowany marginalnie, podczas gdy w sposób naturalny — poza korzyściami wypływającymi z zastosowania sztucznej Inteligencji — w związku z zastosowaniem systemów sztucznej inteligencji wiąże się wiele zagrożeń dla sektora kteatywnego. W uzasadnieniu do ptojektu ustawy wskazano, że „w skład Komisji będą wcbodziji członkowie — przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji kluczowych dla rozwoju sektora technologii sztucznej znielęgeneji” . Tyta samym nie jest zrozumiałe, dlaczego pominięto w tym katalogu Ministra Kultuty i Dziedzictwa Narodowego. Z, tego względu postulujemy, by w przepisie att. 7 ust. 2 projektowanej ustawy uwzględnić ministra tesortu Kultuty i Dziedzictwa Natodowego jako członka Komisji Uważamy takie rozwiązanie za uprawnione i uzasadnione z perspektywy interesów, na czele których stoi Minister Kultury i Dziedzictwa Narodowego. To jest jedyny przedstawiciel organów wykonawczych, któty 90 teptezentuje tesott kultury i środowiska kreatywne, które w sposób oczywisty zostaną dotknięte działaniem systemów sztucznej inteligencji. Należy sobie uświadomić to, że systemy sztucznej inteligencji bazują w znacznej mierze na kontencie — tj. materiale bazowym — pochodzącym od twórców, tj. autotów w rozumieniu ustawy o Prawie autorskim i prawach pokrewnych. Działania wielu podmiotów dostatczających systemy sztucznej inteligencji muszą być odpowiednio zakwalifikowane z perspektywy ww. przepisów prawnych i odpowiednio monitotowane. Naturalnym wyborem w zakresie instytucji właściwej do zajmowania się powyższymi kwestiami w odniesieniu do treści autorskich jest Ministerstwo Kultury i Dziedzictwa Natodowego. Pominięcie tego Ministerstwa jawi się jako akt ignorancji wobec całego sektota kreatywnego w Polsce, przynoszącego określone przychody i rokującego dalszym tozwojem, co przekłada się istotnie na gospodarkę państwa. Uważamy, że przewidzenie w ustawie możliwości uczestniczenia w obradach Komisji z głosem doradczym, co zostało przewidziane w przepisie art. 7 ust. 3 projektowanej ustawy, nie jest wystarczające z perspektywy obrony intetesów polskich twótców i polskich przemysłów kreatywnych, których działalność może być dobitnie dotknięta wprowadzeniem systemów sztucznej inteligencji. Mając powyższe na uwadze wnosimy o dodanie ministra ds. kultury 1 dziedzictwa natodowego do katalogu podmiotów wchodzących w skład Komisji zgodnie z att. 7 ust. 2 projektowanej ustawy. Art. 7 ust. 2 Związek Pracodawców Technologii Cyfrowych Lewiatan Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: • ministra właściwego ds. spraw wewnętrznych • ministra właściwego ds. zdrowia • ministra właściwego ds. szkolnictwa i nauki • ministra właściwego ds. pracy Uzasadnienie: Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając dotychczasowy zapis – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Art. 7 ust. 2 pkt 8 ISSA Polska W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce 91 przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 pkt 8 GRAI Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Należy w miejsce Krajowej Rady Radiofonii i Telewizji należy wskazać NASK PIB. Art. 7.2. i 7.3. PIIT Dołączenie Ministra Nauki, Nie do końca rozumiemy przesłanki ukształtowania podstawowego składu Komisji (art. 7.2.). Wydawałoby się, że powinny to być organy, których działania w największym stopniu przesądzają o przyszłości SI w Polsce. Większą rolę ma chyba do odegrania minister nauki, od RPO i RPD. W podstawowym składzie brak przedstawiciela przedsiębiorców, obszarów związanych z infrastrukturą krytyczną, w tym transportową, rolnictwem oraz przedstawicieli III sektora. Słabo uzasadniony wydaje się udział KRRiT (zamiast np. MKiDN). Ponadto, w pracach organu administracji, którego podstawowym zadaniem jest nadzór rynku minister do spraw służb specjalnych powinien uczestniczyć z głosem doradczym (art. 7.3.). Podstawowy skład można ograniczyć do ministra cyfryzacji, UODO, UKE, UOKiK, KNF i min nauki (zob. zadanie z obecnego art. 11.1.3 projektu). Art. 7 ust. 3 Centrum Badań Kosmicznych Polskiej Akademii Nauk W posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinien móc uczestniczyć przedstawiciel Polskiej Akademii Nauk, instytucji integrującej poszczególne instytuty naukowe Polskiej Akademii Nauk. W art. 7 ust. 3 po pkt 15 należy zatem dodać pkt 16 w brzmieniu: „16) Polskiej Akademii Nauk;” oraz odpowiednio przenumerować pkt 16 w dotychczasowym brzmieniu na pkt 17. Art. 7 ust. 3 Logicise ograniczona liczba przedstawicieli w organie doradczym Analogicznie do uwagi powyżej, proponujemy rozszerzenie listy organizacji mogących brać udział w 92 posiedzeniach Komisji o wiodące w skali kraju instytuty badawcze specjalizujące się w AI. Ponadto, członkowie Społecznej Rady ds. Sztucznej Inteligencji, o której mowa w art. 28, powinni mieć możliwość udziału w posiedzeniach Komisji. Art. 7 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Mając na uwadze brzmienie art. 28 ust. 1 Projektu ustawy, w myśl którego „Przy Komisji działa Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, która jest organem opiniodawczo–doradczym Komisji.”, zasadne wydaje się, aby w posiedzeniach Komisji mogli brać udział również członkowie tej Rady, będący ekspertami w dziedzinie sztucznej inteligencji. W związku z powyższym, postulujemy dodanie pkt 17) w art. 7 ust. 3 Projektu ustawy o treści: „17) Społecznej Rady do spraw Sztucznej Inteligencji, o której mowa w art. 28 ust. 1 ustawy”. Art. 7 ust. 3 KIGEiT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do Art. 7 ust. 5). Art. 7 ust. 3 GRAI Brak możliwości udziału w posiedzeniach Komisji przedstawicieli związków samorządowych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich czy Związek Województw RP oraz przedstawicieli wojewodów (np. Konwent Wojewodów), ogranicza możliwość konsultacji i reprezentacji interesów samorządów terytorialnych. Sztuczna inteligencja będzie miała ogromny wpływ na funkcjonowanie społeczności lokalne, ich potrzeby i specyfikę. Dlatego obecność przedstawicieli samorządów będzie kluczowa dla skutecznego wdrażania i nadzoru AI, uwzględniając lokalne perspektywy i wyzwania. Propozycja dodania przepisu, stanowiącego, że „W posiedzeniach Komisji uczestniczą, z głosem doradczym, przedstawiciele związków samorządów terytorialnych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich, Związek Województw RP oraz przedstawiciele wojewodów, np. Konwent Wojewodów.”. Art. 7 ust. 3 PIRP w katalogu przedstawicieli podmiotów mogących brać udział w posiedzeniach Komisji proponuje się dodać przedstawiciela urzędu obsługującego ministra właściwego do spraw nauki i szkolnictwa wyższego; postulowana zmiana wydaje się zasadna z punktu widzenia znaczenia regulacji także dla obszaru nauki i szkolnictwa wyższego Art. 7 ust. 3 GRAI Członkiem Komisji jest przedstawiciel np. KNF – wątpliwości może budzić to jak się odnieść do kontrolowania sektora finansowego przez KNF w kontekście jego członkostwa w Komisji. Wydaje się, że może zaistnieć ryzyko nakładania się kompetencji, wydawania zaleceń w tym samym obszarze. Choć gdy przyjmiemy, że zamysłem było utworzenie takiej struktury Komisji, że należą do niej przedstawiciele np. KNF i to w domyśle jest współpraca/konsultacja z KNF. Nie jest jasne czy 93 działania Komisji i KNF będą uzupełniały się Jaką rolę ma każdy organ? Można przyjąć założenie, że powinny tworzyć spójny system nadzoru. Wyjaśnienie w uzasadnieniu roli organów. Art. 7 ust. 3 GRAI Wskazana lista członków mogących uczestniczyć w posiedzeniach Komisji składająca się z przedstawicieli wybranych podmiotów – dlaczego wybrano akurat te podmioty? Uzupełnienie w uzasadnieniu według jakiego klucza zaproponowano takie podmioty. Art. 7 ust. 3 INFARMA Wśród przedstawicieli, którzy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji brakuje przedstawicieli urzędu obsługującego ministra właściwego ds. zdrowia (tak jak zostali wskazani przedstawiciele innych urzędów). Proponujemy, aby w posiedzeniach Komisji uczestniczył również przedstawiciel urzędu obsługującego ministra właściwego ds. zdrowia ponieważ systemy sztucznej inteligencji w bardzo dużej mierze będą także wykorzystywane w obszarze zdrowia, w którym mogą mieć zasadniczy wpływ na zdrowie (i życie) obywateli. Wpływ sztucznej inteligencji ma i będzie miał duży wpływ na postęp w medycynie i nauce. W najbliższych w latach w obszarze zdrowia będą wykorzystywane rozwiązania regulacji EHDS (Europejskiej Przestrzeni Danych Medycznych), mające na celu monitorowanie i regulację przetwarzania danych dotyczących zdrowia. Wdrożeniu EHDS będzie towarzyszyć szereg nowych przepisów dotyczących zarządzania danymi i ochrony prywatności pacjentów, w tym z wykorzystaniem sztucznej inteligencji. Sztuczna inteligencja odgrywa coraz większą rolę w sektorze ochrony zdrowia, a obszar zdrowia stanowi jeden z kluczowych obszarów Strategii Cyfryzacji Polski, która ustala ramy transformacji cyfrowej państwa na kolejne 10 lat. W świetle powyższego, możliwość udziału przedstawiciela MZ w pracach Komisji wydaje się niezbędna. art. 7 ust.3 PIIT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji. , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Art. 7 ust. 3 AI Chambre Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich 94 centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). art. 7 ust.5 Logicise zapraszanie osób posiadających wiedzę specjalistyczną Brak informacji jak definiowane są “osoby posiadające wiedzę specjalistyczną” i czy muszą reprezentować podmioty określone w art. 7. 3. czy też nie. Brak zapisu o możliwym konflikcie interesów. Wydaje się, że zapis art. 7. 5. jest już ujęty w art. 7. 4. art. 7 ust.5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 7 ust. 5 Projektu ustawy „Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną.” Podnosimy, iż mogą pojawiać się wątpliwości na tle określenia „osoby posiadające wiedzę specjalistyczną”, w szczególności w zakresie ustalenia, kto za taką osobę może zostać uznany i przy uwzględnieniu jakich kryteriów. Zapewne chodzi o ekspertów z dziedziny rozwiązań/modeli/systemów sztucznej inteligencji, w związku z czym zasadnym wydaje się doprecyzowanie brzmienia przepisu poprzez wyraźne wskazanie o jaką wiedzę specjalistyczną chodzi. Najbardziej pożądanym kierunkiem doprecyzowania powinno być wskazanie konkretnie na pracowników naukowych, biegłych, czy posłużenie się określeniem „osoby posiadającej wiadomości specjalne”. art. 7 ust.5 KIGEiT Propozycja zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7 biegłego” Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. art. 7 ust.5 PIIT 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, biegłego. , Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby 95 z postępowania. Przy takim zapisie takich praw brak, a musza być one zagwarantowane choćby ze względu na konflikt interesów. Sugerujemy, by kwestia rozumienia tego pojęcia (biegły) wg kpa znalazła się także w uzasadnieniu do projektu ustawy. Art. 7 ust. 3 pkt 1)-6), 11-13, Osoba fizyczna Wprowadzenie takiej regulacji powoduje, że najważniejsze organy państwa nie mogą wskazać osoby do udziału w posiedzeniu komisji, natomiast prawo to posiada aparat administracyjny obsługujący te organy. Innymi słowy, to nie Prezydent RP będzie wskazywał swego przedstawiciela, ale jego urzędnicy, podobnie to nie Minister Obrony Narodowej będzie wskazywał swego przedstawiciela, ale ministerstwo – czyli aparat administracyjny go obsługujący. Należy poprawić przepis, przez wskazanie nazw organów władzy publicznej jako uprawnionych do wskazywania swoich przedstawicieli do uczestniczenia w posiedzeniach Komisji. Jeśli ten element regulacji pozostanie, to proponuję poprawić wskazane przepisy przez odwołanie do nazw organów władzy publicznej, wynikających z Konstytucji RP lub ustaw, a nie nazw urzędów ich obsługujących. Ponadto Biuro Komisji – pkt 16, nie jest organem, natomiast pracownicy Biura przygotowują posiedzenie i obsługują od strony techniczno- administracyjnej. Pewnym kuriozum jest zaproponowanie przepisu, zgodnie z którym przedstawiciel aparatu obsługującego organ – Komisję, brał udział w posiedzeniu tego organu. Proponuje wykreślić art. 7 ust 3 pkt 16) całkowicie. Poza tym powstaje zasadnicze pytanie, czy w ogóle ciało niezależne, jakim ma być Komisja ds. SI powinno posiadać członków fakultatywnych będących przedstawicielami innych organów władzy publicznej? Komplikuje to pozycję organizacyjno-prawną Komisji i osłabia jej niezależność. Art. 7 ust. 7 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Jeśli przepis dotoczyć ma także osób wskazanych w Art. 7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w Art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w Art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Art. 7 ust. 7 i Art. 29 ust. 6 KIG Poddajemy krytyce “społeczny wymiar” zaangażowania Członków Komisji i Członków Społecznej Rady ds. Bezpieczeństwa. Trudno oczekiwać, by ktoś poświęcał swój czas, zaangażowanie i intelekt bez wynagrodzenia. Uważamy, że jest to złudne poczucie gospodarności. Akty prawne dużego Państwa europejskiego powinny odpowiednio doceniać i wynagradzać. Art. 7 ust. 7 pkt PIIT 6. Za udział pracach Komisji przysługuje wynagrodzenie zwrot kosztów przejazdów i noclegów. , Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotyczyć ma także osób wskazanych w art. 7 ust. 5 - to nieuzasadnione jest, aby 96 osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. art. 7 ust. 7 SKwP To dotyczy członków Komisji, czy tylko osób doproszonych do posiedzenia? Zaprasza się eksperta – specjalistę i tak się go traktuje??? A przewodniczący i zastępcy mają wynagrodzenie? Za wykonaną prace musi być wynagrodzenie. Przewodniczący Komisji jest pracownikiem ,,Biura”, bez wynagrodzenia? Art. 7 ust. 7 pkt GRAI Udział w pracach Komisji powinien być rekompensowany, przynajmniej w zakresie, w którym koszty te nie byłyby pokryte przez jednostkę macierzystą członka Komisji. Nie można wymagać, aby w tak ważnej instytucji pracowano pro bono. Należy przyjąć, że koszty związane z udziałem w pracach Komisji pokrywane są przez jednostki macierzyste, a w pozostałym zakresie przyjąć pewien ryczałt, aby chociaż zrekompensować tym osobom koszty, które poniosłyby z własnej kieszeni. Chociaż, aby motywować kompetentne osoby do udziału w pracach Komisji, dodatkowa rekompensata powinna być przewidziana. Art. 7 ust. 8 CHAMBER Zawarte w projektowanym art. 7 ust. 8 wykluczenie zwrotu nawet kosztów diet i noclegu, obok wynagrodzenia, budzi zastrzeżenia. Brak wynagrodzenia może być uzasadniony wykonywaniem funkcji członka Komisji w ramach obowiązków służbowych, ale wyłączenie ogólnych przepisów dotyczących kosztów przejazdu i zakwaterowania wydaje się tu zbyt daleko posunięte. art.8 PIIT \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważniony do Kierowania Pracami Komisji\". , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 KIGEiT Rekomendacja: dodanie punktu: \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji\" , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 Fundacja FinTech Poland Przepisy ust. 2 i ust. 9 wzajemnie się wykluczają. Ponadto brak jest sprecyzowania czy posiedzenia są co do zasady jawne czy też nie. Brak doprecyzowania kiedy mogą zostać utajnione, a kiedy mogą toczyć się przy tzw. drzwiach zamkniętych. Art. 8 ust.3. PIIT Przewodniczący Komisji zwołuje i prowadzi posiedzenia Komisji. , Poprawka redakcyjna. 97 Art. 8 ust.5. PIIT Dodać “z zastrzeżeniem przepisu art. 11.2.”. , Przepis art. 11.2. przewiduje upoważnienie do wydawania postanowień i decyzji administracyjnych. Art. 8 ust 5 CHAMBER przepis zdaje się sugerować, że uchwały Komisji są decyzjami lub postanowieniami. Czy taka jest intencja projektodawców? Art. 8 ust. 5 Fundacja FinTech Poland Uchwała to nie jest to samo co decyzja administracyjna. Przy obecnym brzmieniu przepisu pojawiają się wątpliwości np. co do trybu odwoławczego i niezgodności z Prawem o postępowaniu przed sądami administracyjnymi. Decyzja administracyjna w sposób władczy kształtuje sytuację konkretnego podmiotu. Należy więc precyzyjnie określić kiedy i jakie decyzje mają być wydane. Decyzja nie jest rodzajem uchwały. Uchwały jeśli już mogą wyrażać stanowisko Komisji w jakiś kwestiach. Nie są to jednak źródła prawa. Art. 8 ust. 6 Polskie Towarzystwo Informatyczne Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co naj-mniej sześciu osób wchodzących w jej skład, w tym Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji, a w razie jego nieobecności – głos Zastępcy Przewodniczącego Komisji upoważnionego do kierowania pracami Komisji. Sugerujemy rozważenie delegacji do Rozporządzenia dot. trybu pracy Komisji. Nie sprecyzowano, jakiego rodzaju uchwały może podejmować Komisja w tym trybie. Czy rzeczywiście uchwały dotyczące nadzoru rynku sztucznej inteligencji powinny zapadać w minimalnym przypadku przy udziale 6 osób i zwykłej większości głosów? Art. 8 ust. 6 Fundacja FinTech Poland Brak określenia w jaki sposób wydawane są decyzje. Przyjęcie zasady, że wystarczająca jest zwykła większość w sytuacji gdy w skład Komisji nie wchodzą osoby wyspecjalizowane w danej dziedzinie budzi kontrowersje i zastrzeżenia. Powstaje ryzyko, że rozstrzygnięcia Komisji będą w rzeczywistości losowe i będą wynikiem głosowania osób nie do końca znających daną materię. Jeżeli wystarcza większość zwykła przy składzie min 6 osób to tytułem przykładu: Rzecznik Praw Dziecka, Rzecznik Praw Obywatelskich oraz przedstawiciel do spraw służb specjalnych mogą rozstrzygnąć o wyniku problemu technicznego związanego z konkretnym rozwiązaniem. Nieuzasadnione jest domniemanie, że osoby te będą posiadały w tym zakresie specjalistyczną wiedzę. Art. 8 ust. 9 Osoba fizyczna Skoro w art. 8 ust. 7 – 8 projektu ustawy o SI przewidziano możliwość udziału członków Komisji w posiedzeniu zdalnym, przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym, to wprowadzenie trybu obiegowego wydaje się niepotrzebne. Ponadto nie wskazano formy trybu obiegowego – elektronicznej czy papierowej, co też może 98 skutkować wątpliwościami interpretacyjnymi przy zachowaniu tego trybu. Coraz doskonalsze formy komunikacji elektronicznej, z coraz wyższym standardem cyberbezpieczeństwa są wystarczającą formą posiedzeń Komisji poza trybem stacjonarnym, a jednocześnie pozwolą w pełni realizować ustawowe kompetencje. Art. 9 ust. 1 CHAMBER należy skreślić słowo “ustawowych”, jako superfluum (uwaga redakcyjna) Art. 9 ust. 1 Fundacja FinTech Poland Jeżeli członkowie mają wspierać Przewodniczącego to co dzieje się w sytuacji gdy mają odrębne poglądy przy głosowaniu. Należy zagwarantować członkom niezależność jeżeli już ustawodawca decyduje się na formę głosowania. Art. 9 ust. 2 CHAMBER należy skreślić słowo “w” (uwaga redakcyjna) Art. 9 ust. 2 Logicise “w podmiotu, której są przedstawicielami” Błąd językowy. “przedstawiają działania” Nieprecyzyjne sformułowanie. O jakiego typu działaniach jest mowa: planowanych, dokonanych? Art. 9 ust. 2 GRAI Uwaga redakcyjna - brakuje słowa, ewentualnie usterka językowa. “Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w [imieniu(?)] podmiotu, której są przedstawicielami” Art. 9 ust. 2 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. W brzmieniu docelowym, ustęp ten powinien brzmieć: „2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. Art. 9 ust. 2 Polskie Towarzystwo Informatyczne literówki w p. 2 Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotach, których są przedstawicielami. 99 Art. 9 ust. 2 Związek Banków Polskich Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami. Zmiana gramatyczna. Art. 9 ust. 2 Osoba fizyczna błąd gramatyczny 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami art. 10 ust. 1 SKwP Powstaje pytanie, ilu pracowników będzie w Biurze? art. 10 ust. 3 PIIT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. , Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 KIGEiT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 GRAI Zgodnie z projektem ustawy szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadawany przez Prezesa Rady Ministrów w drodze zarządzenia. Prowadzi to jednak do uzależnienia Komisji od Prezesa Rady Ministrów. Kompetencje do nadawania regulaminu Komisji powinny przysługiwać Przewodniczącemu Komisji, który powinien mieć zagwarantowaną silną niezależną pozycję instytucjonalną od działań administracji rządowej. Jednym z wariantów jest przyznanie tej kompetencji samej Komisji (do samouchwalenia regulaminu), ale z uwagi na skład Komisji mogłoby to albo doprowadzić do paraliżu pracy albo ukształtowania organizacji i trybu funkcjonowania Komisji wbrew Przewodniczącemu. Zmiana brzmienia na „3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Przewodniczącego Komisji.” Art. 11 PIIT Nowy art. 11.1.1 - wykonywanie nadzoru rynku w zakresie systemów sztucznej inteligencji wysokiego ryzyka. , Zob. uwaga do art. 6, ew. Zmiana treści art. 11.1.7. Art. 11 Instrat – Fundacja Centrum Cyfrowe W ramach zadań Komisji proponujemy, aby poza obowiązkami określonymi w art. 11, Komisja pełniła dodatkową rolę wspierającą, zwłaszcza w odniesieniu do podmiotów prawa publicznego, 100 prywatnych organizacji świadczących usługi publiczne oraz instytucji stosujących systemy sztucznej inteligencji wysokiego ryzyka. Wsparcie to powinno dotyczyć przede wszystkim oceny wpływu tych systemów na prawa podstawowe. Komisja mogłaby wspierać te podmioty poprzez wydawanie wytycznych dla administracji, opracowanych na podstawie kwestionariuszy przygotowywanych przez Biuro ds. Sztucznej Inteligencji. Dokumenty te stanowiłyby narzędzie oceny wpływu SI na prawa podstawowe, pomagając jednostkom administracyjnym podejmować świadome decyzje zgodne z przepisami prawa. Ponadto, Komisja mogłaby pełnić funkcję punktu konsultacyjnego, do którego jednostki administracyjne i podmioty stosujące SI wysokiego ryzyka mogłyby zgłaszać pytania dotyczące oceny wpływu oraz zarządzania ryzykiem związanym z tymi systemami. Co więcej, rekomendujemy uwzględnienie w art. 11 zadań z art. 66 ust. 1 (oraz usunięcie ust. 2 z art. 66), które obecnie przypisane są ministrowi właściwemu do spraw informatyzacji. Mowa tutaj o zadaniach określonych w art. 95 rozporządzenia 2024/1689, obejmujących wydawanie rekomendacji dotyczących najlepszych praktyk stosowania systemów sztucznej inteligencji. Uważamy, że Komisja, jako organ odpowiedzialny za wdrażanie rozporządzenia, jest najlepiej predysponowana do opracowywania takich dokumentów. Do zadań Komisji w tym obszarze mogłoby należeć także wspieranie tworzenia kodeksów dobrych praktyk, mających na celu propagowanie dobrowolnego stosowania części lub wszystkich wymogów rozdziału III sekcja 2 AI Actu w odniesieniu do systemów SI niebędących systemami wysokiego ryzyka. Takie rozwiązanie wydaje się szczególnie uzasadnione, ponieważ kwestie te będą koordynowane przez unijny Urząd ds. SI, z którym Komisja ma pełnić rolę kontaktową. Przyznanie Komisji większych kompetencji w zakresie wspierania podmiotów publicznych, jak i prywatnych w stosowaniu rozporządzenia przyczyniłoby się do zapewnienia większej zgodności SI z prawami podstawowymi i sprzyjałoby budowaniu spójnych standardów w zakresie projektowania i wdrażania SI w firmach i instytucjach. Art. 11 Osoba fizyczna Powstaje pytanie, czy kolejność zadań w projektowym przepisie ma charakter przypadkowy czy zamierzony, bowiem nie sposób określić jednoznacznie jaki klucz został przyjęty w tworzeniu tego przepisu. Przykładowo, zadanie określone w pkt 7 wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;- - powinno być jednak wyżej w hierarchii zadań, jako jedno z najważniejszych. Ponadto zadanie wynikającej z pkt 6) wydawanie postanowienia i decyzje w sprawach naruszenia przepisów o systemach sztucznej inteligencji – zawiera błędy. Po słowie \"postanowienia\" - powinno być \"postanowień w sprawie\" zamiast \"postanowienia i decyzje w sprawach\". Nie zastosowano liczby mnogiej. Ponadto w języku prawniczym częściej używa się słowa \"oraz\" do łączenia dwóch równorzędnych członów zdania. Nie określono prawidłowo o jakie przepisy chodzi - powinno być \"przepisów ustawy o systemach sztucznej inteligencji\" lub \"przepisów dotyczących 101 systemów sztucznej inteligencji. Prawidłowe brzmienie przepisu \"Wydawanie postanowień w sprawach oraz decyzji w sprawach naruszenia przepisów ustawy o systemach sztucznej inteligencji\". Art. 11 GRAI Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7 art. 11, dopiero po zadaniach związanych m.in. ze wspieraniem rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów SI czy udziale w opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. Art. 11 GRAI Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym, czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Art. 11 Osoba fizyczna mk Artykuł 11 Ustawy wśród zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wskazuje: 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; W obecnym ujęciu, działania mające na celu wspieranie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji wydają się znacznie lepiej zdefiniowane oraz mocniej zaakcentowane wśród zadań Komisji niż działania 102 dotyczące przeciwdziałania zagrożeniom w zakresie bezpieczeństwa sztucznej inteligencji, gdzie jedynym wymienionym działaniem Komisji jest przyjmowanie zgłoszeń poważnych incydentów. Zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie, co powinno znaleźć odzwierciedlenie wśród zadań Komisji. Ponadto, zapewnienie bezpieczeństwa systemów sztucznej inteligencji również pozytywnie wpływa na rozwój, innowacyjność i konkurencyjność badań i zastosowań systemów sztucznej inteligencji, a zatem zwiększenie udziału komisji w zagadnieniach dotyczących bezpieczeństwa nie tylko nie kłóci się, ale wspiera zagadnienia rozwoju, innowacyjności i konkurencyjności badań i zastosowań. Wskazane jest, aby Artykuł 11 punkt 4 zyskał brzmienie odzwierciedlające, fakt, że zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie np. 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy, a także podejmowanie działań mających na celu wspieranie badań i monitorowanie zagrożeń w zakresie bezpieczeństwa systemów sztucznej inteligencji; Art. 11 Związek Cyfrowa Polska Niejasność dotyczącą zakresu kompetencji krajowego organu nadzorczego. Może ona rodzić niepewność prawną dla przedsiębiorstw wielonarodowych. Niejednoznaczność zakresu jurysdykcji może prowadzić do sprzecznych wymogów zgodności między różnymi organami krajowymi, komplikując operacje i zwiększając obciążenie regulacyjne dla przedsiębiorstw działających w wielu krajach. Co więcej, należy podkreślić, że niejasnośc ta jedynie wzrasta w związku z faktem, że na poziomie UE współpraca w ramach Rady ds. AI UE będzie zachdziła między organami o różnym zakresie przedmiotowym. Art. 11 ust. 1 KIG Proponujemy zmianę brzmienia pkt 11 tak, aby nie był mechanicznym tłumaczeniem tekstu rozporządzenia. Proponowany zapis: „11) podejmowanie działań mających na celu stworzenie narzędzi prawnych do testowania nowych rozwiązań dotyczących systemów sztucznej inteligencji zgodnie z przepisami rozporządzenia 2024/1689 – piaskownic regulacyjnych;”. Proponujemy również rozszerzenie katalogu zadań Komisji i po pkt 11 dodanie następujących: - podejmowanie działań wspierających badania, rozwój i komercjalizację produktów i usług wykorzystujących sztuczną inteligencję, w szczególności przez integrację środowiska gospodarczego i naukowego, tworzenie założeń do programów wsparcia i tworzenie propozycji rozwiązań prawnych ułatwiających współpracę nauki z biznesem i komercjalizację osiągnięć wykorzystujących sztuczna inteligencję, - inicjowanie działań zmierzających do łączenia instytucji publicznych, badaczy akademickich i firm działających na rzecz rozwoju sztucznej inteligencji. 103 Jak wspomniano powyżej, Komisja powinna koncentrować się w pierwszym okresie działalności nad wzmacnianiem ekosystemu administracji, przedsiębiorców i ośrodków naukowych w celu integracji środowiska i prowadzenia aktywnego dialoguz interesariuszami. Nie może koncentrować się na nadzorze, nie będzie również w stanie realizować zadania wskazanego w pkt. 5 ze względu na ograniczoną znajomość specyfiki rynku. Art. 11 ust. 1 Osoba fizyczna jk zadania Komisji powinny być wymienione w art. 6 po ust. 1 błąd gramatyczny 6) wydawanie postanowieniań i decyzjei w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 pkt 13 i art. 11. ust. 2 SKwP Uważamy, że decyzje administracyjne i interpretacje indywidualne powinny być omawiane i głosowane w Komisji. Jednoosobowe decyzje mogą prowadzić do wypaczeń na skutek lobbingu. Art. 11 ust. 1 pkt i pkt 7 CHAMBER wydają się pokrywać pod kątem treści normatywnej, gdyż organ nadzoru rynku sprawuje właśnie kontrolę nad tym rynkiem. Należy (ponownie) sprecyzować, że chodzi o “rynek systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt GRAI Do zadań Komisji powinna należeć koordynacja międzyresortowa w sprawach i projektach dot. AI i nowych technologii, aby zniwelować obecnie utrudniającą międzysektorowe inicjatywy, silosowość resortów. Warto zaznaczyć, że wśród podmiotów wymienionych w art. 7 ust. 3 brakuje chociażby takich resortów, jak edukacja czy szkolnictwo wyższe. Każdy resort powinien wyznaczyć rzecznika do kontaktu z Komisją i taka osoba powinna uczestniczyć w obradach Komisji zgodnie z art.7 ust. 3. Art. 11 ust. 1 pkt 3 i 4 Związek Banków Polskich Uwaga o charakterze ogólnym - brak rozwinięcia w dalszej części projektu brzmienia tych przepisów, w jaki sposób, w jakim zakresie. art. 11 ust. 1 pkt 3 GRAI Brzmienie pkt 3 dotyczącego wspierania i monitorowania rozwoju, innowacyjności oraz konkurencyjności w obszarze AI jest kluczowe, ale warto rozważyć dodanie konkretnych mechanizmów wsparcia tych innowacji. Wyłączny i bardzo rozbudowany nadzór nad rozwojem AI, który jest szczegółowo ujęty w ustawie, może być niewystarczający dla rozwoju innowacji bez wprowadzenia realnych zachęt. Brak takich rozwiązań może hamować rozwój technologii AI w Polsce. Nadanie nowego brzmienia: „3) podejmowanie działań wspierających oraz monitorujących rozwój, innowacyjność i konkurencyjność w zakresie badań i wdrażania systemów sztucznej inteligencji, w tym w szczególności stosowanie ulg podatkowych oraz preferencji finansowych dla przedsięwzięć o znaczącym potencjale społecznym i gospodarczym, celem zwiększenia atrakcyjności inwestycyjnej w obszarze sztucznej inteligencji;”. 104 Art. 11 ust. 2 pkt 3-5 PSSI W związku z zadaniami Komisji, które ujęto w Art. 11 punkt 1 ustępy 3-5, tj.: „ 3). podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; 5) udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji;” niezbędne jest, aby Przewodniczący, albo co najmniej jeden z jego zastępców miał wysokie kompetencje i doświadczenie w zakresie badań naukowych. Częściowo podkreślono to w artykule 18 punkt 1 ustępy 3-4, tj.: „ 3)posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych;” Rekomenduje się: 1. zwiększenie wymagań dotyczących kompetencji Przewodniczącego, o jawne wskazanie dorobku naukowego w zakresie badań w obszarze sztucznej inteligencji oraz posiadanie stopnia naukowego co najmniej doktora w dziedzinie nauk ścisłych lub inżynieryjno-technicznych. albo: 2. dodanie stosownych wymagań (j.w.) dla jednego z zastępców Przewodniczącego. Trudno sobie wyobrazić, biorąc pod uwagę cele komisji oraz dynamiczny rozwój sztucznej inteligencji, aby w Komisji nie zasiadała co najmniej jedna osoba o dużym i aktualnym dorobku naukowym. Jednocześnie, z wyżej wskazanych powodów, członkiem komisji powinna być co najmniej jedna osoba będąca przedstawicielem Polskiej Akademii Nauk (PAN) lub Komitetu Informatyki PAN (Art. 7). Art. 11 ust.1 pkt 4 PIIT CSIRT jako podstawowy system zgłaszania incydentów, z informacją dla komisji, jeżeli dotyczy AI. Ewentualnie – tylko dla systemów wysokiego ryzyka , System zgłaszania incydentów informatycznych powinien być spójny z CSIRT. Czy zostało ocenione ryzyko redundancji procedur oraz nieracjonalnego powielania kosztów budżetu? Notabene przepis art. 11.1.4 odsyła do art. 61, który dotyczy zgłoszeń do KE. Art. 11 ust. 1 pkt 5 ISSA Polska Błąd: zamiast “wydawanie postanowienia i decyzje” powinno być “postanowień i decyzji”. 105 Art. 11 ust. 1 pkt 6 PIIT \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji wysokiego ryzyka i systemów zakazanych, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt6 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. Art. 11 ust. 1 pkt 6 KIGEiT Propozycja zapisu: \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt 6 Polskie Towarzystwo Informatyczne Literówki wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 ust. 1 pkt 6 GRAI Uwaga redakcyjna Słowa „postanowienia i decyzje” zastępuje się słowami „postanowień i decyzji”. Art. 11 ust. 1 pkt 6 Związek Banków Polskich (...)wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Zmiana gramatyczna. Art. 11 ust. 1 pkt 8 Związek Banków Polskich [Dodanie po pkt 8) punktu w brzmieniu jak obok] 9) prowadzenie badań w zakresie zastosowania systemów sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację ich wpływu na decyzje podejmowane w organizacji. Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu SSI na podejmowane decyzje w organizacjach. Art. 11 ust. 1 pkt 11 ISSA Polska Do zadań Komisji należy m.in. podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie brak regulacji prawnych w tej kwestii. Temat możliwości testowania innowacyjnych systemów AI w warunkach rzeczywistych wydaje się zbyt ważny z punktu widzenia zarówno społeczeństwa, jak i przedsiębiorców, by jego ramy prawne nie były określone ustawowo. Art. 11 ust. 1 pkt 11 SANO W art. 11 ust. 1 pkt. 11 wskazana jest możliwość podejmowania działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie ustawy nie ma żadnych innych postanowień regulujących tą kwestię. Rekomendujemy doprecyzowanie i uszczegółowienie, ponieważ brakuje jasnych zasad funkcjonowania piaskownic, które pozwoliłyby przedsiębiorstwom na testowanie innowacyjnych technologii z zachowaniem niezbędnych zabezpieczeń prawnych. art. 11 ust. 1 pkt 13 i art. 14 ust. 1 GRAI Postanowienia te są sprzeczne. Art. 11 ust. 1 pkt 13 wskazuje jako zadanie Komisji do dokonywania interpretacji generalnych i indywidualnych. Z kolei art. 14 ust. 1 wskazuje, że 106 interpretacje indywidualne wydaje Przewodniczący Komisji. Należy usunąć odniesienie do interpretacji indywidualnych bo te leżą w kompetencji Przewodniczącego (Komisja rozpatruje jedynie sprzeciw). Zmiana brzmienia art. 11 ust. 1 pkt 13 na „13) dokonywanie interpretacji generalnych.” art. 11 ust. 1 pkt 11 GRAI W projekcie ustawy pominięto w zadaniach Komisji – zadanie w zakresie rozwoju piaskownic regulacyjnych po ich utworzeniu. Obecne brzmienie art. 11 ust. 1 pkt 11 odnosi się tylko do „utworzenia” piaskownic regulacyjnych. Zmiana Brzmienia przepisu. W art. 11 ust. 1 pkt 11 projektu ustawy po słowie „utworzeniu” dodaje się ,,i rozwój”. art. 11 ust. 1 pkt 11 GRAI Uwaga redakcyjno - legislacyjna Po uwzględnieniu powyższej uwagi, do rozważenia zmiana numeracji punktów - obecny pkt. 11 powinien być nowym pkt 4 - po pkt 3, który wskazuje na podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji. Zmiana numeracji przepisów - obecny pkt. 11 z dodanym “i rozwój” powinien stanowić pkt 4, gdyż jest uzupełniniem obecnego pkt. 3. Art. 11 ust. 1 pkt 11 PWPW Do zadań Komisji należy: podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie 107 prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 11 pkt 11 Fundacja FinTech Poland Art. 57 ust. 1 nakłada na państwa członkowskie obowiązek zapewnienia, aby ich właściwe organy ustanowiły co najmniej jedną piaskownicę regulacyjną dla systemów AI na poziomie krajowym, z terminem uruchomienia do 2 sierpnia 2026 r. Ze względu na ambitny i stosunkowo bliski termin realizacji tego wymogu, istotne jest już teraz podjęcie kroków w celu zdefiniowania zasad funkcjonowania takich piaskownic. Brak odpowiednich regulacji w Ustawie może prowadzić do opóźnień w Art. 11 ust. 2 Osoba fizyczna Poważne wątpliwości prawne budzi określenie kompetencji Komisji do upoważnienia Przewodniczącego, Zastępców Przewodniczącego oraz pracowników Komisji do realizacji działań pozostających w zakresie właściwości Komisji, w tym do wydawania decyzji i postanowień. W doktrynie prawa administracyjnego oraz w praktyce administracyjnej stosuje się rozwiązanie, w której to organ realizuje swoje zadania przez pracowników, ale nadal są to zadania organu, realizowane w jego imieniu i na rzecz organu. Poza wyjątkowymi sytuacjami, wyraźnie wynikającymi z przepisów ustawowych, to nie bezpośrednio organ podejmuje działania w zakresie realizacji swych kompetencji, ale pracownicy aparatu obsługującego organ. Organ, obejmując urząd, wydaje upoważnienia imienne do wykonywania określonych kompetencji w imieniu organu delegującego do wydawania/załatwiania spraw w imieniu i na rzecz organu. Proponowane rozwiązanie wynikające z art. 11 ust 2 projektu ustawy nie wskazuje, że działania te będą realizowane w imieniu i na rzecz organu. Ponadto nie wskazano w jakich okolicznościach faktycznych moz0na upoważnić inne podmioty do realizacji określonych kompetencji. Nie wskazano również sytuacji prawnie relewantnych, skutkujących wygaśnięciem lub umożliwiających odebranie upoważnienia. Wydaje się, że treść art. 268a. Kodeksu postępowania administracyjnego – Organ administracji publicznej może upoważniać, na piśmie utrwalonym w postaci papierowej lub elektronicznej, pracowników obsługujących ten organ do załatwiania spraw w jego imieniu w ustalonym zakresie, a w szczególności do wydawania decyzji administracyjnych, postanowień, zaświadczeń, a także do poświadczania za zgodność odpisów dokumentów przedstawionych przez stronę na potrzeby prowadzonych postępowań z oryginałem – konsumuje w znacznym zakresie projektowany przepis i jednocześnie nie powoduje potencjalnych wątpliwości interpretacyjnych. Proponuję usunąć ust 2 art. 11 i ewentualnie odesłać do przepisów k.p.a. Art. 11 ust. 2 Fundacja FinTech Poland Zasady wydawania decyzji i postanowień powinny być jednolite. W tym kształcie jeden podmiot otrzyma decyzję wydaną przez Przewodniczącego inny przez młodszego specjalistę zatrudnionego w Biurze Komisji. Jeszcze inny mając na uwadze przepisy powyżej może otrzymać decyzję wydaną w sprawie na skutek głosowania (art. 8 ust 5 - “w tym” zaznaczone powyżej). 108 Art. 11 ust. 3 Osoba fizyczna Przepis jest nie jasny, zwłaszcza jeśli uwzględnimy uwagi dotyczące art. 11 ust 2. projektowanej ustawy. Ponadto nie wiadomo, czy czynności procesowe dotyczące spraw określonych w art. 70 ustawy mogą podlegać delegacji, a samo rozstrzygnięcie już jest zastrzeżone do wyłącznej kompetencji Komisji, czy też wszystkie czynności procesowe, od wszczęcia do prawomocnego zakończenia postępowania, są prowadzone bezpośrednio przez Komisję. Proponuję usunąć ust 3 art. 11. Art. 11 ust. 1 pkt 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy doprecyzowanie obecnej treści przepisu w następujący sposób: „13) dokonywanie interpretacji generalnych i indywidualnych, o których mowa w art. 14 i 15 ustawy.”. Wskazujemy, iż art. 13 Projektu ustawy także stanowi o interpretacjach, w związku z powyższym zasadnym zdaje się być doprecyzowanie treści komentowanego przepisu. Podnosimy także, iż zasadnym byłoby, aby projektowana ustawa umożliwiała składanie wniosków o interpretację przepisów Rozporządzenia 2024/1689 do Europejskiego Urzędu ds. Sztucznej Inteligencji. Art. 11 ust. 1 pkt 13 Związek Cyfrowa Polska Wprowadzenie instytucji interpretacji na poziomie lokalnym (krajowym). Rozwiązanie pozwalające na wydawanie takich interpretacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”), skutkować może fragmentaryzacją prawa unijnego (Aktu o sztucznej inteligencji), jego odmienną interpretacją, rozumieniem, stosowaniem oraz egzekwowaniem (co dotyczy zarówno interpretacji indywidualnych, jak również generalnych). Ryzyko to związane jest również z uprawnieniami ministra właściwego do spraw informatyzacji związanym z wydawaniem „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Związek Cyfrowa Polska Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) zostaną wyposażone w podobne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. W praktyce może to 109 wpłynąć na możliwość korzystania ze sztucznej inteligencji przez przedsiębiorstwa, ponieważ niepewność ram prawnych może rodzić zbyt wysokie i zbyt kosztowne ryzyko związane z korzystaniem ze sztucznej inteligencji. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który upoważnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Należy w tym miejscu także wskazać, że rządowe prace w obszarze zakazanych praktyk w Polsce, trwają w czasie, gdy otwarty jest wciąż apel European AI Office o opinie na ten sam temat. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte Art. 11 ust. 1 pkt 13 PWPW Do zadań Komisji należy: dokonywanie interpretacji generalnych i indywidualnych. Uwaga dotyczy też art. 13 projektu. Należy doprecyzować, czy interpretacje, o których mowa w art. 11 i art. 13, stanowią interpretacje w rozumieniu art. 33 i 34 ustawy - Prawo przedsiębiorców. W ocenie PWPW S.A. taka interpretacja powinna stanowić realizację art. 33 i 34 ww. ustawy. Wtedy chronią one podmiot. Ponadto nie ma określenia skutków prawnych interpretacji. Należy je określić lub odesłać w tym zakresie do art. 35 ustawy - Prawo przedsiębiorców Ponadto w przypadku podmiotów publicznych – dla których PWPW S.A. także realizuje swoje usługi – w projekcie ustawy powinno się znaleźć doprecyzowanie skutków interpretacji dla tych podmiotów – tak aby one chroniły podmioty publiczne, wtedy kiedy np. korzystają z produktów AI danego podmiotu, w ramach realizacji zadań publicznych. Art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu Związek Pracodawców Technologii Cyfrowych Lewiatan Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o 110 sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) będą wyposażone w analogiczne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który uprawnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte. Art. 12 KIGEiT Rekomendacja: Programy edukacyjne i dostęp do zasobów obliczeniowych: \"Komisja organizuje coroczne programy edukacyjne dla przedsiębiorców i jednostek badawczo- rozwojowych, które obejmują szkolenia z zakresu implementacji i zgodności z przepisami sztucznej inteligencji. Programy te będą obejmować dostęp do zasobów obliczeniowych (w tym chmury obliczeniowej) i symulacji AI. Komisja zapewni możliwość bezpłatnego korzystania z tych zasobów przez pierwsze 6 miesięcy.\" Art. 12 (Programy edukacyjne) określa, że Komisja ma prowadzić działania edukacyjne, jednak konieczne jest rozwinięcie tych działań w bardziej strukturalny sposób, by wspierać rozwój AI w Polsce. Taka inicjatywa nie tylko pomoże firmom w dostosowywaniu się do przepisów, ale również przyspieszy rozwój i wdrażanie nowych technologii AI, szczególnie w małych firmach i start-upach. Rekomendacja: Wprowadzenie mechanizmów finansowego wsparcia: \"Komisja, we współpracy z ministrem właściwym do spraw informatyzacji, tworzy program wsparcia finansowego w postaci grantów i ulg podatkowych dla przedsiębiorstw, które rozwijają systemy sztucznej inteligencji o niskim lub średnim ryzyku. Program będzie obejmować dofinansowanie do 50% kosztów projektów badawczo-rozwojowych oraz ulgi podatkowe dla przedsiębiorstw korzystających z piaskownic regulacyjnych.\" Rozdział 2, Art. 12 (Wsparcie konkurencyjności) mówi o działaniach wspierających innowacyjność. Można to rozszerzyć o szczegółowe mechanizmy wsparcia, takie jak granty i ulgi 111 podatkowe dla firm AI. Taki zapis wspierałby innowatorów i start-upy AI, stymulując rozwój branży, bez dodatkowych obciążeń finansowych. Art. 12 ust. 1 Osoba fizyczna jk powielenie zapisu art. 11 ust. 1 pkt 5 Art. 12 ust. 2 Logicise ograniczona liczba realizowanych działań Nie jest jasne dlaczego art. 11. 1. pkt. 3 nie został uwzględniony w tym artykule. Art. 12 ust. 2 Osoba fizyczna jk pkt 3) dla spójności zapisów zamiast \"udostępnia\" powinno być \"publikuje\" jak w pkt 4 pkt 4) brak informacji, gdzie Komisje publikuje przykłady dobrych praktyk – czy w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji czy na stronie Ministra właściwego do spraw informatyzacji - zgodnie z zapisem art. 66 ust. 1 Art. 12 ust. 2 pkt 1 CHAMBER wydaje się wskazane, aby Komisja mogła przedstawiać ministrowi właściwemu do spraw informatyzacji także propozycje działań innych, niż legislacyjne - np. organizacyjnych, faktycznych, planistycznych. Art. 12.2.1. PIIT Czy przepisu nie należałoby uzupełnić o ministrów nauki i gospodarki? Komisja powinna mieć prawo zwracania się tam, gdzie uzna, że jest potrzeba działania na rzeczy rozwoju AI. art. 12 i 13 GRAI Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? art. 13 ust. 1 GRAI Komisja może opracowywać wyjaśnienia, opinie i interpretacje – istnieje ryzyko, że w przypadku dużej liczby wpływających np. wniosków o interpretację czas oczekiwania na nią będzie długi. Komisja nie będzie w stanie obsłużyć wniosków. Dodatkowo, pojawiają się wątpliwości czy członkowie Komisji będą mieć właściwe kompetencje, by taki wniosek o interpretację efektywnie, szybko i merytorycznie rozpatrzyć Ponowne rozważenie wskazanych działań lub wskazanie podmiotu wspomagającego ich realizację. 112 Art. 13 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu art. 13 ust. 1 Projektu ustawy poprzez wyjaśnienie, czym „interpretacje” określone w komentowanym przepisie różnią się od interpretacji generalnych wydawanych przez Komisję (art. 15 Projektu ustawy). Art. 13 ust. 1 NRA Art. 13 ust. 1 Projektu, przewidujący możliwość formułowania przez KRiBSI wyjaśnień, opinii oraz interpretacji o istotnym znaczeniu dla stosowania przepisów Projektu, pozostawia bez odpowiedzi kwestię skutków prawnych tychże aktów. Komisji przyznano prawo do opracowywania dokumentów publikowanych w Biuletynie Informacji Publicznej, co niewątpliwie świadczy o ich potencjalnej doniosłości normatywnej. Jednakże niedookreślenie prawnego znaczenia takich wyjaśnień, opinii i interpretacji może prowadzić do ich wyłącznie deklaratywnego charakteru i naraża te działania na ryzyko jedynie pozornej, a nie rzeczywistej skuteczności. Jeśli bowiem Komisja nie będzie związana własnymi interpretacjami, a stosujące się do nich podmioty mogłyby mimo to doświadczać sankcji, zamierzona funkcja zapewnienia pewności prawa i spójności w interpretacji przepisów ulegnie zdezawuowaniu, wprowadzając dodatkowe i nieakceptowalne ryzyko dla odbiorców tych wytycznych. Art. 13 ust. 1 Związek Banków Polskich Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na podstawie nazwy było wiadomo jaki dany dokument ma charakter Art. 13 ust. 1 Fundacja FinTech Poland Skoro ustawa jest wzorowana na ustawie o nadzorze nad rynkiem finansowym to do rozważenia pozostaje wprowadzenie możliwości wydania rekomendacji jako kolejnego sposobu działania Komisji. Rekomendacje są czym innym niż opinie czy wyjaśnienia. Nie są to też interpretacje indywidualne. Rekomendacje przyczyniają się do ustandaryzowania rynku. Art. 13 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w przypadku uzasadnienia decyzji wydanych przez Komisję zakres publikowanych informacji powinien być ograniczony, tzn. nie powinien obejmować tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów. Art. 13 ust. 2 Związek Banków Polskich Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, po usunięciu danych identyfikujących stronę postępowania, treść decyzji wydawanych na podstawie przepisów ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Upublicznienie informacji, jakiego podmiotu dotyczy decyzja byłoby formą kary, której nie przewiduje AI Act. Dla porównania w przypadku regulacji dotyczących AML publikacja informacji 113 o instytucji obowiązanej oraz zakresie naruszenia przepisów wchodzi do katalogu kar administracyjnych Art. 13 ust. 2 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko publikowania decyzji wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wraz z wrażliwymi informacjami, szczególnie istotnymi z perspektywy działalności gospodarczej prowadzonej przez przedsiębiorców podlegających kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w tym tajemnicy przedsiębiorstwa. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotnym jest zagwarantowanie maksymalnej ochrony tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. W związku z powyższym proponujemy dodanie w treści aktualnego brzmienia art. 13 ust. 2 projektu ustawy o systemach sztucznej inteligencji zastrzeżenia (wzorowanego na art. 31b ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów), że publikowane decyzje nie będą zawierały informacji kwalifikowanych jako tajemnica przedsiębiorstwa i innych informacji podlegających ochronie prawnej na podstawie odrębnych przepisów. Art. 13 ust. 5 Fundacja FinTech Poland Sugerujemy nie posługiwać się przy określaniu koniecznych elementów przymiotnikami które można różnie interpretować. Trudno określić co jest “wyczerpujące” i kiedy opis stanu faktycznego jest wyczerpujący. Takie określenie powoduje, że po pierwsze łatwo o pretekst do odrzucenia wniosku. Po drugie podmiot występujący działając racjonalnie (i chcąc uniknąć odrzucenia) będzie rozciągał opis co utrudni skupienie się na istocie problemu i spowoduje stworzenie zbędnej dokumentacji. Jeśli już to opis powinien być zwięzły a nie wyczerpujący. Postulowane brzmienie przepisu: 5. Interpretacja, o której mowa w ust. 1, zawiera opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie. art. 13 i 14 GRAI I. Wskazania wymaga moc prawna interpretacji, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? II. Należy zwrócić także uwagę na potrzebę ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź 114 usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Art. 14 Osoba fizyczna Nie wskazano trybu procesowego wydawania interpretacji indywidualnych oraz czy podlegają one zaskarżeniu do sądu. Z uwagi na umiejscowienie przepisu odsyłającego do ustawy kodeks postępowania administracyjnego w art. 56, brak takiego wskazania w art 11 może budzić wątpliwości interpretacyjne. Porządkującym rozwiązaniem jest przesunięcie przepisów dotyczących interpretacji indywidualnych i generalnych do rozdziału 4 ustawy, i jednoczesne dodatnie treści wynikającej z art. 56 ustawy już na początku tego rozdziału. Odwołanie powinno być generalne, ze wskazaniem k.p.a. jako uniwersalnego zbioru reguł procesowych do wszystkich czynności o charakterze administracyjnoprawnym podejmowanym przez Komisję, Przewodniczącego oraz Biuro/Urząd. Art. 14 ITCORNER W projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (“KRiBSI”) na wydanie interpretacji indywidualnej dot. przepisów AI Act. Sugerujemy, na wzór interpretacji indywidualnej (podatkowej), wskazanie maksymalnego terminu na wydanie interpretacji (np. 30 dni), wraz z zastrzeżeniem, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska wnioskodawcy. Postulujemy także o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Projekt nie reguluje procedury odwoławczej, a także nie wskazuje, co miałby zawierać sprzeciw od wydanej interpretacji - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 e-Izba Postulujemy rozszerzenie zakresu podmiotów uprawnionych do występowania o interpretacje również o organizacje zrzeszające podmioty podlegające pod zakres zastosowania rozporządzenia 2024/1689 (izby gospodarcze, stowarzyszenia, fundacje). Takie podmioty mogłyby występować o interpretacje na rzecz wszystkich swoich członków. W ten sposób interpretacja dawałaby pewność interpretacji przepisów szerszej grupie podmiotów, a jednocześnie eliminowałaby zbędne obciążenie Komisji, czyli indywidualne wnioski o interpretacje indywidualne w takich samych sprawach składane przez większą liczbę podmiotów. Art. 14 CHAMBER ponownie projekt tworzy na kanwie już istniejących przepisów o wydawaniu interpretacji indywidualnych. Wydaje się, że lepszym rozwiązaniem jest odesłanie do przepisów ustawy Prawo przedsiębiorców wprost, ze wskazaniem że w zakresie objętym ustawą o systemach sztucznej inteligencji ubiegać się mogą o interpretacje podmioty inne, niż przedsiębiorcy. Opłatę od wydania interpretacji można ustalić na poziomie wyższym z racji na specjalistyczny charakter spraw związanych ze sztuczną inteligencją, zwracamy jednak uwagę na to, że wpisanie w ustawę 115 określonej kwoty będzie oznaczało jej realną deprecjację z czasem. Rozważyć należałoby ustalenie tej kwoty w odniesieniu do jakiegoś wskaźnika zapewniającego waloryzację kwoty (np. pensja minimalna lub średnia w sektorze przedsiębiorstw). Art. 14 ISSA Polska 1.Brakuje określenia maksymalnego terminu na wydanie interpretacji przepisów. Podmiot wnioskujący o interpretację pozostanie w niepewności co do terminu rozpatrzenia jego wniosku. 2.W projekcie ustawy nie określono, czy interpretacje wydane w trybie art 14 mają być wiążące dla innych organów. Należy dookreślić tę kwestię w projekcie ustawy. Art. 14 ICC Poland i) Konieczność określenia skutku prawnego interpretacji Przede wszystkim zwraca uwagę brak określenia w ustawie skutku prawnego interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji. Nie jest jasne, czy taka interpretacja ma charakter wiążący dla organów administracji publicznej (w tym Komisji) oraz czy wnioskodawca może opierać się na niej w swoich działaniach. W celu zapewnienia pewności prawnej oraz praktycznego znaczenia zaproponowanego mechanizmu, pożądanym rozwiązaniem byłoby wprowadzenie przepisu wskazującego, że interpretacja indywidualna jest wiążąca dla organów w zakresie stanu faktycznego przedstawionego we wniosku, analogicznie do rozwiązań funkcjonujących na gruncie Ordynacji podatkowej3 w odniesieniu do interpretacji indywidualnych (por. art. 14k Ordynacji podatkowej). Przepisy ustawy powinny również jasno określać zakres ochrony prawnej wynikającej z interpretacji, jak również możliwość jej zmiany, uchylenia lub wygaśnięcia, wraz ze wskazaniem skutków tych zdarzeń dla ochrony wnioskodawcy. ii) Zakres wniosku a możliwości organizacyjne Biura Komisji Zwraca uwagę, że szeroki zakres spraw, które mogą być przedmiotem wniosku o interpretację (art. 14 ust. 2 Projektu) i stopień skomplikowania tej materii, może rodzić pewne wątpliwości co do dostosowania tego mechanizmu do możliwości organizacyjnych Biura Komisji oraz przewidzianego w Projekcie budżetu (art. 87 Projektu). Istnieje ryzyko nadmiernego obciążenia Przewodniczącego Komisji, Komisji i Biura Komisji dużą liczbą wniosków, co może negatywnie wpłynąć na terminowość i jakość wydawanych interpretacji. W tym kontekście należałoby rozważyć albo zwiększenie docelowego maksymalnego limitu wydatków z budżetu państwa na ten cel albo ograniczenie zakresu spraw podlegających mechanizmowi interpretacji np. poprzez wskazanie katalogu takich zagadnień, które nie mogą być przedmiotem wniosku. Taki katalog powinien obejmować takie regulacje rozporządzenia 2024/1689 lub ustawy, których interpretowanie nie ma realnej wartości dodanej dla wnioskodawcy, są jednoznaczne lub zostały już uprzednio wyjaśnione (np. w ramach interpretacji generalnej). Wpływ na zmniejszenie ryzyka nadmiernego obciążenia mogłoby mieć także doprecyzowanie wymogów formalnych co do wniosku o interpretację indywidualną. Organ powinien mieć wówczas możliwość odmowy rozpatrzenia wniosku, który nie spełnia określonych wymogów. 116 iii) Brak terminu na wydanie interpretacji przez Przewodniczącego W obecnym brzmieniu art. 14 Projektu nie wskazano terminu, w jakim Przewodniczący Komisji powinien wydać interpretację indywidualną (termin taki przewidziano jedynie dla Komisji na rozpatrzenie sprzeciwu od takiej interpretacji). Dla zapewnienia efektywności procedury oraz pewności prawnej dla wnioskodawców proponujemy wprowadzenie konkretnego terminu na wydanie interpretacji, co byłoby zgodne z zasadami przyjętymi dla analogicznych instytucji w innych ustawach (np. w Ordynacji podatkowej). iv) Wysokość opłaty za wniosek o interpretację Opłata w wysokości 150 zł może być niewspółmierna do nakładu pracy oraz kosztów związanych z przygotowaniem interpretacji indywidualnej w tak specjalistycznej dziedzinie, jaką jest sztuczna inteligencja. Wydanie takiej interpretacji w wielu przypadkach będzie wymagało bowiem analizy technicznej oraz zaangażowania specjalistów z różnych dziedzin, co generuje znaczące koszty. Obecnie proponowana opłata, przy pozostawieniu szerokiego zakresu wniosku o interpretację, może tym samym prowadzić do nadmiernego obciążenia budżetu i zdolności organizacyjnych Biura Komisji, ograniczając jego zdolność do realizacji zadań ustawowych na odpowiednim poziomie. v) Procedura odwoławcza – sprzeciw do Komisji Proponowany w art. 14 ust. 6-7 mechanizm odwoławczy, polegający na złożeniu sprzeciwu od interpretacji wydanej przez Przewodniczącego do Komisji, może budzić wątpliwości co do jego skuteczności i niezależności. Ponieważ zarówno Przewodniczący, jak i Komisja będą wspierani w wykonywaniu tego zadania przez to samo Biuro, istnieje ryzyko braku obiektywizmu i niezależności w rozpatrywaniu sprzeciwu. Zaproponowana procedura efektywnie będzie zatem bliższa wnioskowi o ponowne rozpatrzenie sprawy kierowanemu do tego samego organu niż rzeczywistemu odwołaniu. W związku z tym należałoby rozważyć zastąpienie instytucji sprzeciwu instytucją wniosku o ponowne rozpatrzenie sprawy przez Przewodniczącego Komisji, co zwiększyłoby przejrzystość procedury i wzmocniło zaufanie podmiotów korzystających z instytucji interpretacji Art. 14 Polski związek zarządzania wierzytelnościami Art. 14 Projektu W Projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”) na wydanie interpretacji indywidualnej dotyczącej przepisów AI Act (art. 14 Projektu). Zważywszy na zapotrzebowanie sektora, istotnym rozwiązaniem, na wzór interpretacji indywidualnej (podatkowej), byłoby wskazanie maksymalnego terminu na wydanie interpretacji (np. 60 dni). Sugerujemy, by termin opatrzyć zastrzeżeniem właściwym dla instytucji interpretacji milczącej, uznającej potwierdzenie stanowiska wnioskodawcy w przypadku braku niewydania właściwej interpretacji w wyznaczonym terminie. Równocześnie postulujemy o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się 117 przez wnioskującego do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. W Projekcie nie wskazano także odpowiedniej procedury odwoławczej od interpretacji, jak i nie wskazano, poszukując rozwiązań per analogiam do sprawdzonych rozwiązań wynikających z ordynacji podatkowej, sugerowanej treści sprzeciwu od danej interpretacji. Sprzeciw w tej sprawie - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 Polskie Towarzystwo Informatyczne 1.opłata interpretacji - możliwość zwrotu pieniędzy dla składającego wniosek o interpretacje Określenie przypadków, w których można ubiegać się o zwrot pieniędzy za prośbę o interpretacji 2. Nie jest jasne, czy za odwołanie od interpretacji również musi być opłacone 3. Brak przepisu o skutkach zastosowania się do interpretacji - np. wyłączenie możliwości nałożenia sankcji w przypadku zastosowania się do interpretacji Propozycja Analogicznie jak w art. 11b ustawy o nadzorze nad rynkiem finansowym: “Interpretacja Komisji nie jest wiążąca dla podmiotu, o którym mowa w ust. 1, i Komisji, z zastrzeżeniem że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej” art. 14 ust. 1 Logicise Przewodniczący Komisji wydaje interpretację przepisów Wydaje się, że interpretację przepisów powinna wydawać Komisja, a nie Przewodniczący vide Art. 15. art. 14 ust. 1 PIIT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 ustawy interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. , Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. 118 Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 KIGEiT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w Art. 55 ustawy. Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 GRAI I. Konieczność doprecyzowania: 1) kogo rozumiemy jako określonego terminem „zainteresowanego”? 2) termin w jakim interpretacja ma zostać wydana i skutki niedochowania terminu. 3) skutek jaki wywołuje otrzymanie interpretacji przez zainteresowanego. II. Projekt ustawy wprowadza obowiązek Przewodniczącego do wydawania na wniosek interpretacji indywidualnych, bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Mając na uwadze tematykę i cel wystąpienia o taką interpretację zasadne jest, aby termin wydania interpretacji indywidualnej był nie dłuższy niż 3 miesiące. III. Do rozważenia wprowadzenie zastrzeżenia, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego. 119 IV. Brak jednoznacznego przesądzenia o braku mocy wiążącej interpretacji indywidualnej dla wnioskującego przedsiębiorcy, z zastrzeżeniem, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez Komisję interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Nadanie brzmienia: „1. Przewodniczący, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów ustawy, w terminie nie dłuższym niż 3 miesiące.” „Niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.”. Dodanie ust. 8: „8. Zastosowanie się przez wnioskodawcę do wydanej przez Przewodniczącego Komisji interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.”. art. 14 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) O ile pozytywnie należy ocenić, że Komisja może wspierać uczestników rynku w interpretowania Rozporządzenia 2024/1689, o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do sytuacji, że pomimo publikacji interpretacji w Biuletynie Informacji Publicznej, prace Komisji będą zakłócone ciągle wpływającymi wnioskami o interpretacje (bo każdy podmiot podlegający pod Rozporządzenie 2024/1689 będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych (sporadyczność wydawania). W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod Rozporządzenie 2024/1689, ale również organizacje zrzeszające takie podmioty (związki pracodawców, stowarzyszenia, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich Członków ułatwi zapewnienie zgodności z Rozporządzeniem 2024/1689, a zarazem pozwoli uniknąć „zasypania\" Komisji dużą ilością podobnych wniosków o interpretację. Postulujemy także o doprecyzowanie, że w treści art. 14 ust. 1 Projektu ustawy chodzi o interpretację indywidualną, jak również wskazujemy, że ustanowiony powinien zostać termin na wydane tej interpretacji indywidualnej przez Komisję. W ten sposób przedsiębiorcy wnioskujący o wydanie interpretacji mieliby zakreślone ramy czasowe otrzymania tej interpretacji, co może mieć istotne znaczenie z perspektywy prowadzonego biznesu. 120 Art.14.1. PIIT Należy zapewnić, aby instytucja interpretacji indywidualnych i generalnych była zgodna z przepisami prawa unijnego. art. 14 ust. 1 SKwP Warto podkreślić, że w ustawie nie wskazano, jaki efekt dla wnioskodawcy spowoduje otrzymana interpretacja. Np. indywidualne interpretacje podatkowe dają efekt ochronny wskazany w Ordynacji podatkowej. Wydaje się, że należy w ustawie wskazać skutek, jaki osiągnie wnioskodawca otrzymaną interpretacją. Art. 14 ust. 1 Fundacja FinTech Poland Zgodnie z art. 14 Przewodniczący wydaje interpretacje indywidualne bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Wskazanie terminu wydania interpretacji jest kluczowe dla zapewnienia pewności prawnej i przewidywalności procedur administracyjnych. Ustalony termin umożliwia wnioskodawcy lepsze planowanie działań, minimalizując ryzyko związane z opóźnieniami w uzyskaniu interpretacji, co mogłoby wpłynąć na strategiczne decyzje biznesowe i operacyjne, zwłaszcza w obszarze innowacyjnych technologii, takich jak sztuczna inteligencja. Brak terminu wydania interpretacji może prowadzić do nadmiernej zwłoki ze strony organów, co negatywnie wpływa na efektywność i zaufanie do administracji publicznej. Dlatego wskazanie konkretnego terminu jest niezbędne, aby zagwarantować sprawność postępowania i ochronę interesów wnioskodawców. Rekomendujemy termin 3 miesięcy. Tryb interpretacji indywidualnych nie w każdym przypadku może być nieefektywny - zgadzamy się, że w niektórych sytuacjach interpretacje indywidualne mogą stanowić wsparcie dla poszczególnych podmiotów. Przy czym, należy pamiętać, że interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby 121 gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli efektywnie działać KRiBSI i uniknie potrzebie wydania interpretacji indywidualnych o podobnym stanie faktycznym. Art. 14 ust. 1a Związek Banków Polskich [Propozycja dodania ust. 1a] 1a. Zainteresowanym jest podmiot, o którym mowa w art. 2 ust.1 pkt a)- f) rozporządzenia 2024/1689 lub zamierzający wykonywać taką działalność. Propozycja ma na celu doprecyzowanie pojęcia zainteresowanego, w celu uniknięcia wątpliwości. Art. 14 ust 1 - 5 NRA Art. 14 ust. 1–5 Projektu nie określa wyraźnie skutków prawnych dla interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji, co rodzi istotne obawy o stabilność stosowania prawa i poszanowanie praw podmiotów, które na tych interpretacjach mogą się opierać. Zgodnie z treścią art. 14 ust. 1 Przewodniczący, na wniosek zainteresowanego, może wydać interpretację przepisów odnoszącą się do wskazanego stanu faktycznego lub zdarzenia przyszłego, zaś ust. 5 pozwala na odstąpienie od uzasadnienia, jeśli w pełni podziela stanowisko wnioskodawcy. Zaniechanie skonstruowania w tym przypadku regulacji o charakterze wiążącym stawia pod znakiem zapytania ochronę prawną wnioskodawców, szczególnie gdy interpretacja miałaby być w przyszłości zmieniona. Taki stan prawny może prowadzić do sytuacji, w której podmioty korzystające z interpretacji Komisji nie mają dostatecznej pewności prawnej ani ochrony przed przyszłymi sankcjami, nawet jeśli działały zgodnie z wydaną interpretacją. Brak jednoznaczności co do mocy wiążącej tych aktów może osłabić ochronę tych, którzy w zaufaniu do interpretacji dokonali określonych działań lub zaniechań. art.14 ust 2 GRAI W dokumencie nie porusza się zagadnień związanych z dopasowaniem sztucznej inteligencji (AI Aligment). Koncepcja właściwego dopasowania SI jest bardzo istotna i powinna być jednym z głównych obszarów zainteresowania organów kontrolnych. Systemy AI powinny działać zgodnie z intencjami i celami ludzi, a ponieważ technologie AI stają się coraz bardziej zaawansowane, ryzyko niepożądanych skutków ich działania wzrasta. Można wskazać 3 główne obszary ryzyka: 1. Bezpieczeństwo: możliwość podejmowania samodzielnych decyzji, często w kontekstach, które są trudne do przewidzenia przez ludzi. 2. Zgodność z wartościami ludzkimi: uwzględnianie etyki i norm społecznych. 3. Kontrola i przewidywalność: system nie będzie \"nadużywał\" autonomii ani podejmował działań, które mogłyby podważać zaufanie ludzi. W dłuższej perspektywie dopasowanie AI będzie kluczowe, jeśli systemy zaczną zbliżać się do poziomu zbliżonego lub wyższego od ludzkiej inteligencji. W takim przypadku, bez odpowiednich zabezpieczeń, istnieje ryzyko, że superinteligentna AI będzie miała cele sprzeczne z naszymi interesami. Dodanie w ust. 2 podpunktu 3: 122 „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. art.14 ust 2 KIGEiT Propozycja zapisu: dodanie pkt 3) stosowania systemów zabezpieczeń Rozszerzenie o możliwość złożenia wniosku o interpretację stosowanych systemów zabezpieczeń z względu na zachowanie jak najwyższych ram bezpieczeństwa i spełnienie kryteriów Rozporządzenia oraz ustawy w celu prawidłowego przebiegu kontroli systemów sztucznej inteligencji. art. 14 ust. 2 i art. 15 w zw. z art. 18 GRAI Poważne wątpliwości budzi uprawnienie Komisji / Przewodniczącego Komisji do wydawania interpretacji, szczególnie w indywidualnej sprawie - interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy. Należy wskazać, że taki przepis narusza kompetencje TSUE do wykładni przepisów aktów prawa unijnego – co oznacza, że w zaproponowanej postaci będzie przesłanką wszczęcia wobec Polski postępowania o naruszenie przepisów prawa unijnego i obowiązków państwa członkowskiego. Dodatkowo, takie uprawienie krajowego organu powoduje ryzyko, że w Polsce powstanie odmienne do europejskiego podejście dla niektórych kwestii, co może mieć negatywny wpływ na przedsiębiorców działających na terenie całej UE i którzy dla niezakłóconej działalności potrzebują jednolitej linii interpretacyjnej w całej UE. Usunięcie zgłoszonej niezgodności. Art.14 ust 2 Tauron Dystrybucja Dodanie podpunktu 3: „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. Art. 14 ust. 2 Polskie Towarzystwo Informatyczne Wniosek o interpretację (...) 2) określenia ryzyka systemu sztucznej inteligencji Propozycja „2) określenia ryzyka systemu sztucznej inteligencji, zgodnie z zapisami Rozporządzenia 2024/1689” Wniosek o interpretację powinien być stosowany w ramach sformalizowanej procedury. Niejasne jest np. w jaki sposób odbywałoby się określanie ryzyka systemu sztucznej inteligencji? W ramach tzw. „Standardisation Request” ze strony Komisji Europejskiej (C(2023)3215, 2023), powstaje 123 zestaw standardów, które będą umożliwiały ocenę ryzyka systemów sztucznej inteligencji. Obowiązywać będzie zasada „presumption of confomity”. Jak np.. ma się do tego kwestia wniosku o interpretację? Tego typu rzeczy powinny zostać doprecyzowane w ustawie. Art. 14.2.2) PIIT Prawdopodobnie w tym przepisie mogło chodzić o poziom ryzyka (art. 6 ASI). Brzmi jednak jak określenie rodzajów ryzyk. Art. 14.4. PIIT Czy to wyklucza uiszczenie opłaty online jednocześnie ze złożeniem elektronicznego formularza? Art. 14 ust. 5a i 5c Związek Banków Polskich 5a. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 30 dni od dnia otrzymania wniosku. 5b. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. 5c. Interpretacja nie ma charakteru wiążącego dla przedsiębiorcy. Konieczność wskazania terminu wydania interpretacji oraz skutków niewydania interpretacji i charakteru interpretacji. W razie nieuwzględnienia, przyjmujemy zasadę z KPA : Organy administracji publicznej obowiązane są załatwiać sprawy bez zbędnej zwłoki. Załatwienie sprawy wymagającej postępowania wyjaśniającego powinno nastąpić nie później niż w ciągu miesiąca, a sprawy szczególnie skomplikowanej - nie później niż w ciągu dwóch miesięcy od dnia wszczęcia postępowania. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza 124 akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli Art. 14 ust 6 PIIT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 KIGEiT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. , Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o doprecyzowanie formy sprzeciwu. Art. 14 ust 6 SKwP Od interpretacji przysługuje sprzeciw do komisji. Interpretacje wydaje Przewodniczący komisji, a komisja rozpatruje sprzeciw. Pytanie, czy ustawodawca zamierzał osiągnąć taki efekt, ponieważ zapis ten jest sprzeczny z art. 11 ust. 1 pkt 13, z którego wynika, że to do zadań komisji należy wydawanie interpretacji indywidualnych. Natomiast w przepisie tym nie ma nic o rozpatrywaniu sprzeciwów od interpretacji. Zakładając jednak, że interpretacje wydaje Przewodniczący, a sprzeciwy rozpatruje Komisja, to czy nie zostaje naruszona zasada dwuinstancyjność postępowania administracyjnego. Przewodniczący bowiem, kieruje pracami komisji. W ustawie nie wskazano drogi kontroli sądowej interpretacji, co może być poczytane, jako naruszenie konstytucyjnego prawa do sądu. art. 14 ust. 6 - 7 NRA Art. 14 ust. 6–7 Projektu nie formułuje jasno ani formy prawnej aktu, w którym Komisja rozstrzyga sprzeciw wobec wydanej interpretacji indywidualnej, ani ścieżki prawnej dostępnej dla wnioskodawcy w przypadku chęci odwołania się od takiego rozstrzygnięcia. Brak tak precyzyjnych regulacji budzi poważne wątpliwości co do ochrony praw stron postępowania, w ramach którego będzie można zakwestionować decyzję Komisji, ponieważ brak jednoznacznych ustaleń co do formy aktu i przysługującej ścieżki odwoławczej naraża podmioty wnioskujące na ryzyko pozbawienia ich skutecznych instrumentów obrony. Zagwarantowanie jasności i pewności prawa, zwłaszcza w obszarze decyzji interpretacyjnych, jest kluczowe dla ochrony praw jednostek oraz przejrzystości procesu. Gdyby rozstrzygnięcie przybrało formę decyzji administracyjnej, to otwarta 125 byłaby możliwość wniesienia skargi do sądu administracyjnego. Alternatywnie, gdyby rozstrzygnięcie przybrało formę postanowienia, zasadnym byłoby rozważenie możliwości odwołania się do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej także „SOKiK”), wzorem postępowania przewidzianego w art. 57 ust. 1 Projektu. W związku z tym należałoby wyraźnie określić, iż rozstrzygnięcie Komisji winno przyjmować formę decyzji albo postanowienia oraz doprecyzować dopuszczalność skargi do sądu administracyjnego albo odwołania do SOKiK. art. 14 ust. 6 - 7 PIIT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 KIGEiT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to też ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 GRAI Projektowana ustawa nie reguluje procedury odwoławczej (rozpatrzenia sprzeciwu) oraz nie wskazuje co ma zawierać sprzeciw od interpretacji indywidualnej. Propozycja uregulowania sprzeciwu na wzór odwołania w przepisach KPA. art. 14 ust. 7 SKwP Powinno się tu wskazać możliwość odwołania do właściwego sądu. Art. 14 ust. 7 Związek Banków Polsich 7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio. 126 Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Art. 15 PIRP kompetencja Komisji do dokonywania interpretacji generalnych jest zbyt daleko idąca; w aktualnym stanie prawnym wydaje się wystarczająca przyznana Komisji kompetencja w zakresie interpretacji w sprawach indywidualnych (art. 14 ustawy) Art. 15 ICC Poland i) Konieczność uregulowania procedury wydawania interpretacji generalnych Artykuł 15 Projektu jest zbyt ogólny i nie precyzuje w ogóle procedury wydawania interpretacji generalnych. Brakuje informacji na temat trybu postępowania, terminów, podmiotów uprawnionych do złożenia wniosku, zakresu wniosku, czy też skutków wydania takiej interpretacji. W celu zapewnienia transparentności i efektywności procesu, konieczne jest zatem szczegółowe uregulowanie procedury lub odwołanie się do odpowiedniego stosowania przepisów dotyczących interpretacji indywidualnych (po ich odpowiednim skorygowaniu z uwzględnieniem ww. uwag). ii) Relacja między art. 13 a art. 15 Projektu Nie jest jasne, jaka jest relacja między interpretacjami generalnymi (art. 15 Projektu) a „wyjaśnieniami, opiniami i interpretacjami mającymi istotne znaczenie dla stosowania przepisów”, wydawanymi przez Komisję (art. 13 Projektu) oraz w jakim zakresie te instytucje się od siebie różnią. Jeśli interpretacje generalne mają służyć ujednoliceniu praktyki i ogólnemu wyjaśnieniu przepisów, warto tę funkcję wyraźnie zaznaczyć. Należy zarazem rozważyć łączne uregulowanie interpretacji generalnych oraz wyjaśnień, opinii i interpretacji, z jasnym określeniem różnic w procedurach oraz skutkach prawnych poszczególnych form. Art. 15 Instrat – Fundacja Centrum Cyfrowe Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Art. 15 ITCORNER Projekt nie reguluje, jakie podmioty i w jakim trybie mogłyby wnioskować o interpretacje generalną - sugerujemy wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. W tym kontekście uważamy, że ogólnokrajowe stowarzyszenia zrzeszające przedsiębiorców z branży technologicznej powinny zostać uprawnione do wnioskowania o interpretację generalną z uwagi na ich przekrojową wiedzę, doświadczenie oraz wpływ na branżę technologiczną art. 15 GRAI Projekt ustawy nie reguluje w jakim trybie i jakie podmioty mogą występować o interpretację generalną. Wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. 127 art. 15 Polski związek zarządzania wierzytelnościami Art. 15 Projektu W Projekcie nie wskazano docelowej grupy podmiotów, jak i trybu wnioskowania o interpretację generalną (art. 15 Projektu). W celu zachowania funkcjonalności KRiBSI postulujemy o wskazanie katalogu podmiotów i trybu składania wniosków w celu uzyskania rzeczonej interpretacji. Tym samym wskazujemy, że rola ogólnokrajowych stowarzyszeń zrzeszających przedsiębiorców z branży technologicznej powinna być kluczowa, a same stowarzyszenia powinny zostać uwzględnione w wyżej wspomnianym katalogu do wnioskowania o interpretację generalną z uwagi na ich kompleksowy charakter, szerokie spojrzenie na interesy branży, doświadczenie oraz wpływ na sam sektor technologiczny. art. 15 NRA Zgodnie z art. 13 ust. 1 Projektu Komisja jest uprawniona do sporządzania wyjaśnień, opinii oraz interpretacji w sprawach objętych zakresem jej działania, w celu ułatwienia stosowania przepisów w tym obszarze. Z kolei art. 15 Projektu pozwala Komisji dokonywać interpretacji generalnych, zarówno z własnej inicjatywy, jak i na wniosek, w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. De facto oba wskazane przepisy zdają się dotyczyć wydawania podobnych aktów interpretacyjnych, które mimo odmiennych nazw w praktyce wydają się być zbieżne co do ich charakteru i przeznaczenia, a brak czytelnego rozróżnienia wprowadza ryzyko niepewności prawnej w stosowaniu obu instytucji. Wydaje się zatem niezbędne, aby w Projekcie wyraźnie rozgraniczono zakresem interpretacji wynikających z art. 13 ust. 1 oraz z art. 15 albo wprowadzono w inny sposób jednoznaczną ich dyferencję. Taka precyzja zapewniłaby większą klarowność co do zakresu kompetencji Komisji i wyeliminowała niejasności, jakie mogą wyniknąć z nakładania się tych regulacji. Konieczne jest również określenie, jak sygnalizowano powyżej, skutków prawnych interpretacji zawartych w obu artykułach, co dodatkowo zabezpieczyłoby podmioty stosujące się do wytycznych Komisji. Art. 15 Związek Banków Polskich Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z zastrzeżeniem, że działania tych osób w zakresie w jakim zastosowały się do interpretacji Komisji nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnych. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie 128 swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. Art. 15 Osoba fizyczna jk Artykuł powiela zapisy art. 13 ust. 1 oraz art. 14 Art. 16 Osoba fizyczna jk dla spójności zapisów zamiast \"zamieszczane są\" powinno być \"publikowane są\" art. 16 PIIT Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. art. 16 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o uzupełnienie treści przepisu art. 16 Projektu ustawy poprzez wskazanie, że usunięciu podlegają również informacje stanowiące tajemnicę przedsiębiorstwa oraz inne informacje podlegające ochronie na podstawie odrębnych przepisów. art. 16 GRAI W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Doprecyzowanie przepisu: 129 Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 KIGEiT Propozycja zapisu: Art. 16. Interpretacje, o których mowa w Art. 14 i Art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Art. 16 ICC Poland Artykuł 16 przewiduje publikację interpretacji po usunięciu jedynie danych identyfikujących wnioskodawcę. Takie podejście może być niewystarczające w kontekście ochrony informacji poufnych i tajemnicy przedsiębiorstwa. W treści interpretacji mogą znajdować się szczegółowe dane techniczne, know-how lub inne wrażliwe informacje, których ujawnienie może narazić wnioskodawcę na straty, zwłaszcza, że wyczerpujące przedstawienie stanu faktycznego we wniosku o interpretację (art. 14 ust. 3 Projektu) ze względu na jego przedmiot będzie z reguły wymagało szczegółowego opisu technicznego systemu maszynowego. Rozwiązaniem w tym zakresie może być wprowadzenie mechanizmu pozwalającego wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku. Organ wydający interpretację powinien być zobowiązany do uwzględnienia tych zastrzeżeń i zapewnienia, że publikowana wersja dokumentu nie zawiera chronionych informacji. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści interpretacji, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Art. 16 TAURON Dystrybucja W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot 130 będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Propozycja: Doprecyzowanie zapisu: Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 Instrat – Fundacja Centrum Cyfrowe Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących podmiot, którego sprawa dotyczy lub wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. - uwaga: w obecnym brzmieniu wydaje się, jakby dokumenty w sprawach, które nie zostały wszczęte na wniosek nie miały być anonimizowane. - uwaga: w obecnym brzmieniu przepisu wydaje się, jakby w przypadku interpretacji z urzędu dane nie musiały być anonimizowane. Art. 17 ust. 1 CHAMBER mając na uwadze prawdopodobny termin przyjęcia ustawy i czas niezbędny do zorganizowania prac Komisji i Biura, wydaje się że przedstawienie sprawozdania powinno nastąpić po raz pierwszy dopiero w marcu 2026 r. Sugerujemy przyjęcie stosownego przepisu przejściowego. art. 17 ust. 1 GRAI Zmiana zakresu raportowania, zbytecznym wydaje się raportowanie do obu stron Skreśla się słowa: „i ministrowi właściwemu do spraw informatyzacji”. Art.17 ust. 1 ISSA Polska Sprawozdanie powinno zawierać także informacje o wydanych indywidualnych interpretacji Art. 18 ITCORNER W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie jest w wystarczającym stopniu precyzyjny. Aktualnie art. 18 ust. 2 Projektu zakłada, że Przewodniczący Komisji powinien mieć znaczną wiedzę i dorobek “w zakresie sztucznej inteligencji lub prawie”. Uważamy, że osoba piastująca krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne, wyróżniała się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii - w tym kontekście uważamy zastosowane w Projekcie pojęcie “prawo” za zbyt pojemne. Przewodniczący Komisji, aby przekrojowo rozumieć otoczenie prawne dot. sztucznej inteligencji oraz ryzyka z nią związane, powinien cechować się wiedzą oraz wysoką świadomością prawną dotyczącą co najmniej własności intelektualnej (prawa autorskie, ochrona programów komputerowych, bazy danych), prawa IT, danych osobowych oraz cyberbezpieczeństwa. Pod rozwagę także zostawiamy, czy pojęcie sztucznej inteligencji nie powinno w tym kontekście także zostać doprecyzowane, uwzględniając przy tym uczenie maszynowe. 131 art. 18 ust.1 SKwp Jak już wcześniej wskazywaliśmy, konkurs tak, ale akceptacja Sejmu i powołanie przez Prezesa RM. art. 18 ust.1 GRAI Kwestia upolitycznienia wyboru Przewodniczącego Komisji. W projekcie wyboru kandydata na Przewodniczącego dokonywać ma komisja kwalifikacyjna (uwagi do samej komisji poniżej), ale powołanie nadal należy do Prezesa Rady Ministrów. Są obawy, że ze względów politycznych to powołanie może albo nie nastąpić, albo być odwlekane w czasie, albo zostać dokonane z pominięciem przepisów. Brakuje mechanizmu odblokowującego występujące przeszkody politycznie. Propozycja przepisu, zawierającego alternatywną ścieżkę, jeżeli powołanie nie nastąpi w przeciągu 14 dni od wyłonienia kandydata. Art. 18 ust. 1 pkt 4 Polskie Towarzystwo Infopmatyczne Wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Propozycja Kryterium wyboru Przewodniczącego Komisji na podstawie znaczącego dorobku w zakresie prawa jest niezgodne z tematyką działania Komisji, gdzie wymagane są kompetencje związane z AI. Wiedza i doświadczenie z zakresu prawa nie gwarantuje wymaganej w Komisji wiedzy dotyczącej AI Art. 18 ust. 2 Polski związek zarządzania wierzytelnościami Art. 18 ust. 2 Projektu W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie został określony wystarczająco precyzyjnie. Bieżące brzmienie art. 18 ust. 2 Projektu wskazuje, że Przewodniczący Komisji powinien wyróżniać się wiedzą i posiadać znaczący dorobek „w zakresie sztucznej inteligencji lub prawa”. Stoimy na stanowisku, że osoba piastująca tak krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne i interpretacyjne, powinna wyróżniać się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii. Ograniczenie ujętych w Projekcie wymagań do „prawa” stałoby się zbyt pojemne, a w konsekwencji nie wymagałoby od potencjalnego kandydata przekrojowego rozeznania w otoczeniu prawnym dotyczącym sztucznej inteligencji czy powiązanych z nim ryzyk. Pośród zagadnień, które zawężają to pojęcie, należałoby wskazać m.in. kwestie związane z własnością intelektualną (w tym prawa autorskie, ochronę programów komputerowych oraz baz danych), szeroko rozumiane prawo IT, ochronę danych osobowych oraz cyberbezpieczeństwo. 132 W kontekście tego samego artykułu nasze wątpliwości budzi także samo pojęcie „sztucznej inteligencji”, które zwłaszcza w kontekście specjalistycznej ustawy w tymże zakresie, mogłoby być doprecyzowane, jako że sam AI Act nie definiuje tego pojęcia w sposób przejrzysty, posługując się pojęciem „systemu sztucznej inteligencji”. Obecne rozwiązanie wydaje się także nie uwzględniać problematyki uczenia maszynowego. Art. 18 ust. 2 CHAMBER mają na uwadze międzynarodowy wymiar rozwoju SI i konieczność uczestniczenia przez Przewodniczącego (jak i jego Zastępców) KRiBSI w pracach rozmaitych gremiów na poziomie UE, niezbędny wydaje się wymóg biegłej znajomości języka angielskiego. Art. 18 ust. 2 Fundacja FinTech Poland Sugeruje się podnieść wymagania dla przewodniczącego. Określenie - wyróżnia się wiedzą jest bardzo ocenne. Art. 18 ust. 2 pkt 4 CHAMBER zgodnie z brzmieniem tego przepisu Przewodniczącym Komisji może zostać osoba, która posiada wiedzę i doświadczenie w zakresie prawa, zupełnie bez doświadczenia i wiedzy nt. SI czy choćby technologii informacyjno-komunikacyjnych w ogóle. W naszej ocenie jest to zbyt daleko idące rozszerzenie grona potencjalnych kandydatów, a Przewodniczący Komisji bezwzględnie powinien odznaczać się wiedzą fachową w obszarze nowoczesnych technologii (lub prawa nowych technologii). Art. 18 ust. 2 pkt 4 Logicise Kwalifikacje Przewodniczącego Opis kwalifikacji Przewodniczącego jest nieprecyzyjny, trudny do porównania i w naszej opinii zdecydowanie niewystarczający aby zapewnić odpowiednią jakość. Np. pojęcie “znaczącego dorobku” nie gwarantuje posiadania odpowiednich kwalifikacji do pełnienia tej funkcji przez kandydata. Uważamy, iż, “znaczący dorobek” naukowy powinien być oceniany przez pryzmat szeroko stosowanych kryteriów w świecie naukowym, m.in.: liczby publikacji naukowych (z uwzględnieniem impact factor czasopism i konferencji), liczby cytowań (wskaźnik Hirscha), liczby patentów, liczby i jakości grantów naukowych, itd. Podobnie w pozostałych przypadkach. Art. 18 ust. 2 pkt 4 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Przewodniczącego powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami. Art. 18 ust. 2 pkt 4 KIGEiT Propozycja zapisu: 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji 133 oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; , Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone, nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 PIIT 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji. Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 Repropol Art. 18 ust. 2 pkt 4 UoSSI wskazuje na obowiązek posiadania odpowiednich kompetencji osób stojących na czele Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI): „wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych”. Mając na uwadze brzmienie art. 70 ust. 3 AIA, wydaje się właściwe, aby przewodniczący komisji (również jego zastępcy – zob. art. 21 ust. 2 UoSSI) legitymowali się albo wiedzą techniczną, albo prawną w zakresie AI. Aby kryterium wiedzy prawnej zostało należycie wyeksponowane, wskazany przepis powinien być uzupełniony poprzez możliwość wykazywania się przez kandydatów doświadczeniem uzyskanym w trakcie wykonywania usług, realizowania zadań związanych z wykonywaniem zawodu prawnika (a nie tylko „doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, 134 cyberbezpieczeństwa lub technologii informacyjnych”). Obecne brzmienie przepisu w swojej drugiej części jest zatem sformułowaniem zbyt wąskim. Projekt ustanawia gremium doradcze, Radę działającą przy KRIBSI. Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 28 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest nie do przecenienia. Mając to na uwadze, wnosimy o odpowiednie uzupełnienie art. 28 ust. 3 UoSSI. Na marginesie, uważamy, iż uczestnictwo w Radzie, jak powinno wiązać się z (choćby niewielkim) wynagrodzeniem. Ze dziwieniem odnotowaliśmy uzasadnienie nieodpłatnego uczestnictwa w pracach Rady, jakim jest jedynie chęć niegenerowania „niepotrzebnych kosztów po stronie budżetu państwa”. Uważamy, że merytoryczny wkład w funkcjonowanie wspomnianego gremium uzasadnia zapłatę wynagrodzenia także innym osobom, niż jedynie Przewodniczącemu Komisji i jego zastępcom – patrz s. 10 i 12 uzasadnienia). Tym bardziej, że przynależność do tego grona wymaga posiadania dość unikalnych kompetencji merytorycznych. Zakwalifikowanie takiego wynagrodzenia do kategorii „niepotrzebnego kosztu” wydaje się niefortunnym skrótem myślowym. Poczynione w ten sposób „oszczędności” byłyby raczej iluzoryczne z uwagi na ograniczony liczbowo skład Rady. art. 18 ust. 2 pkt 4 GRAI Zwiększenie wymagań dla Przewodniczącego Komisji Mając na uwadze zakres działania Komisji, za niewłaściwe należy uznać wymagania sfromułowane w odniesieniu do potencjalnego kandydata na stanowisko Przewodniczącego Komisji poprzez wskazanie, iż powinna być to osoba \"wyróżniająca się wiedzą i posiadająca znaczący dorobek w zakresie sztucznej inteligencji lub prawa\". Pozostawiając zapis \"lub prawa\" z założenia dopuszcza się, że na czele Komisji może stanąć osoba posiadająca znaczący dorobek w zakresie prawa, ale niekoniecznie w zakresie AI. Podobnie zapis dot. doświadczenia zawodowego wskazujący, iż powinno być ono uzyskane \"w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych\" nie zapewnia pozyskania osoby, która będzie wykazywała się doświadczeniem praktycznym w zakresie tego konkretnego obszaru. Na czele Komisji powinna natomiast stanąć osoba posiadająca wiedzę i doświadczenie zawodowe przede wszystkim w zakresie AI. Następujące propozycje: I. Po słowie ,,prawa” dodaje się „nowoczesnych technologii”. II. \"wyróżnia się wiedzą i doświadczeniem zawodowym w zakresie sztucznej inteligencji\". 135 art. 18 ust. 2 pkt. 4 GRAI I. Wymogi wskazane w pkt 4 są zawężające w zakresie doświadczenia kandydata i eliminuje osoby, które realizowały swoje obowiązki w charakterze innym niż w ramach stosunku pracy. II. Sprecyzowanie wymagań dla Przewodniczącego Komisji (obecny zakres jest nieprecyzyjny) tak aby obejmował łączne kompetencje w dziedzinie informatyki i prawa. Nb. technologie informacyjne obejmują zarówno cyfryzację jak i cyberbezpieczeństwo (być może zasadnym byłoby zastosowanie określenia Informatyka Techniczna i Telekomunikacja). Dorobek w zakresie SI jest także wymaganiem kłopotliwym (szczególnie jeśli miałby być to dorobek “znaczący”) - dodanie znacznie bardziej precyzyjnego określenia np. uczenie maszynowe. Nadanie następującego brzmienia pkt 4: „4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, współpracy z lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, lub świadczenia usług na ich rzecz” Art. 18 ust. 2 pkt 4 Związek Banków Polskich 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, prawa nowych technologii oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Wobec Przewodniczącego Komisji powinny być stawiane bardziej konkretne wymagania w kontekście wiedzy o AI: nie może to być \"dorobek w zakresie sztucznej inteligencji lub prawa\". Prawo ma tutaj mniejszą istotność niż wiedza i rozumienie kwestii dot. AI. Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). art. 18 ust. 4 GRAI Uwaga redakcyjno-legislacyjna Ust. 4 powinien brzmieć: „4. Po upływie kadencji Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.” Art. 18 ust. 5 Polskie Towarzystwo Informatyczne Trzyletni staż na stanowiskach kierowniczych w takiej Komisji to stanowczo za mało Propozycja 136 „posiada co najmniej siedmioletni staż pracy na stanowiskach kierowniczych” Trzyletni staż na stanowiskach kierowniczych jest zbyt krótki Art. 19 ust. 1 Fundacja FinTech Poland Jeżeli ustawodawca decyduje się wprowadzić katalog zamknięty to należałoby go poszerzyć tytułem przykładu o: ubezwłasnowolnienie całkowite lub częściowe. Pełnienie funkcji przewodniczącego może wiązać się z zarządzaniem środkami publicznymi. Należałoby więc uwzględnić również orzeczenia Głównej Komisji Orzekającej w Sprawach o Naruszenie Dyscypliny Finansów Publicznych. Pytanie też o zastosowanie tymczasowego aresztowania - pkt 6 dotyczy jedynie przyczyn zdrowotnych trwających dłużej niż 3 miesiące. Art. 19 ust. 1 pkt 1 ISSA Polska Proponuję zmianę treści punktu na: „prawomocnego skazania za przestępstwo umyślne ścigane z oskarżenia publicznego lub umyślne przestępstwo skarbowe”. art. 19 ust. 3 i 4 GRAI Ustawa przyznaje uprawnienia Prezesowi Rady Ministrów do wskazania, który z Zastępców zastępuje Przewodniczącego. Jest to przykład zależności Komisji od czynnika politycznego i budzi wątpliwości co do niezależności Przewodniczącego i jego Zastępców. Przyjęcie rozwiązania, że w obu przypadkach wskazanych w ust. 3 i 4 art. 19 Przewodniczącego zastępuje Zasępca z najdłuższym stażem na stanowisku Zastępcy, a w przypadku, gdyby obaj mieli taki sam staż to kolejność powołania. Art. 20 CHAMBER zawieranie tak szczegółowych i istotnych jedynie incydentalnie dla nielicznych zainteresowanych przepisów w akcie prawa powszechnie obowiązującego nie wydaje się konieczne. Tryb postępowania może być określony aktem niższego rzędu, przykładowo rozporządzeniem Prezesa Rady Ministrów, a ustawa powinna zawierać jedynie delegację do jego wydania. Co więcej proponowana procedura wydaje się też nadmiernie skomplikowana. Art. 20 PIIT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? Art. 20 KIGEiT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie 137 Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. , Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. Art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - nasuwa się pytanie czy jest to wykonalne w tak krótkim czasie. Art. 20 ust. 1 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej art. 20 ust. 2 pkt 3 SKwP Powstaje pytanie, jakie to będą wymagania prawne i gdzie określone? Jak mówimy o wymaganiach prawnych, to warto byłoby podać akt prawny. art. 20 ust.3 GRAI Termin na składanie dokumentów jest dość krótki. Pomimo, że to jedynie termin minimalny, to jednak jest ryzyko, że będzie wykorzystywany w takim wymiarze. Powinno to być min 30 dni, albo chociaż min. 3 pełne tygodnie, szczególnie, że znalezienie osoby spełniającej wymagania wskazane w ustawie nie będzie łatwe, przynajmniej w pierwszych latach obowiązywania AIA. Termin nie powinien być krótszy niż 30 dni od dnia opublikowania ogłoszenia w BIP Art. 20 ust. 4 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 4 Instrat – Fundacja Centrum Cyfrowe Art. 20. 4 Nabór na stanowisko Przewodniczącego Komisji przeprowadza komisja kwalifikacyjna,, powołana przez Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów, liczący co najmniej 3 osoby, których wiedza i doświadczenie dają rękojmię wyłonienia najlepszych kandydatów. W toku naboru ocenia się doświadczenie zawodowe kandydata, wiedzę niezbędną do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. - uwaga: drobne błędy redakcyjne. 138 art. 20 ust. 4 GRAI Uwaga redakcyjna Słowo ,,liczący” zastępuję sie słowem ,,licząca”. art. 20 ust. 4 i 5 GRAI Nie jest zrozumiałe z jakiego powodu komisja kwalifikacyjna, która ma mieć wiedzę, doświadczenie i ma dawać rękojmię wyłonienia najlepszych kandydatów, miałaby korzystać z podmiotu trzeciego (także posiadającego wiedzę, kwalifikację i doświadczenie) do dokonania oceny kandydata. To by mogło oznaczać, że zakłada się, że spełnienie przez członków komisji wymogów wskazanych w punkcie 4 nie będzie zawsze możliwe. Idąc dalej, oznaczać to może, że członkowie komisji nie dają rękojmi do prawidłowego ocenienia kandydata i nie powinni zasiadać w komisji. Ponadto, jeżeli już w jakikolwiek sposób ten podmiot trzeci miałby się pojawić w procesie wyłonienia kandydata to powinna to być jednak bezstronna osoba i wyłoniona apolitycznie. Brak też wskazania w jaki sposób zagwarantowana miałaby być apolityczność członków komisji oceny kandydata. -Usunięcie ustępu 5; -doprecyzowanie, z jakiego kręgu osób powoływani są członkowie komisji kwalifikacyjnej; -konieczność zapewnienia apolityczności procesu wyłonienia Przewodniczącego. Art 20 ust. 7 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 8 Fundacja Panoptykon Przejrzystość wyboru przewodniczącego Komisji Nie mamy kierunkowych zastrzeżeń do samego trybu wyboru przewodniczącego Komisji. Z uznaniem odnotowujemy także intencję zapewnienia przejrzystości i rozliczalności prac komisji kwalifikacyjnej. Zdecydowanie popieramy w szczególności propozycję wprowadzoną w art. 20 ust. 8 projektu ustawy, zgodnie z którą komisja kwalifikacyjna musiałaby opublikować protokół zawierający nazwiska najlepszych kandydatów wraz z uzasadnieniem ich wyboru. 139 Jednakże, biorąc pod uwagę kluczową rolę przewodniczącego Komisji w kierowaniu jej pracami i reprezentowaniu jej na zewnątrz oraz fakt, że Komisja i jej przewodniczący to nowo tworzone organy wymagające unikalnych kompetencji, uważamy za istotne z perspektywy interesu publicznego, aby społeczeństwo obywatelskie, opinia publiczna i parlamentarzyści mieli szansę na zapoznanie się z kandydatami i ocenę ich kompetencji przed dokonaniem wyboru przez Prezesa Rady Ministrów. Z tych względów sugerujemy dwa dodatkowe rozwiązania mające na celu zwiększenie przejrzystości procesu naboru: • dopuszczenie przedstawicieli organizacji społecznych zajmujących się m. in. ochroną praw człowieka do udziału w charakterze obserwatorów przy komisji kwalifikacyjnej; • wprowadzenie obowiązku organizacji wysłuchania publicznego kandydatów wyłonionych przez komisję kwalifikacyjną zgodnie z art. 20 ust. 7 projektu ustawy, przed ostateczną decyzją Prezesa Rady Ministrów. Prawo do udziału w charakterze obserwatora przy komisji kwalifikacyjnej pozwoli organizacjom społecznym na efektywne monitorowanie prawidłowości i rzetelności procesu wyboru przewodniczącego Komisji. Warto podkreślić, że takie rozwiązanie nie byłoby precedensowe z punktu widzenia praktyki wyłaniania osób piastujących ważne z perspektywy interesu publicznego stanowiska. Przykładowo, w 2024 r. przedstawiciele organizacji pozarządowych uczestniczyli jako obserwatorzy w rozmowach kwalifikacyjnych z kandydatami i kandydatkami na urząd sędziego Europejskiego Trybunału Praw Człowieka. Jeśli chodzi o wysłuchanie publiczne, proponujemy ograniczenie go do wysłuchania kandydatów i kandydatek wytypowanych przez komisję kwalifikacyjną zanim Prezes Rady Ministrów zadecyduje o powołaniu przewodniczącego. Takie rozwiązanie umożliwiłoby członkom Sejmu i Senatu RP, organizacjom społecznym oraz opinii publicznej zapoznanie się z kandydatami i kandydatkami oraz ocenę ich kompetencji. Choć ostateczna decyzja wciąż należałaby do Prezesa Rady Ministrów, wcześniejsze wysłuchanie publiczne stworzyłoby przestrzeń do otwartej debaty na temat kompetencji kandydatów, ich priorytetów i wizji sprawowania urzędu. Dzięki temu zmniejszyłoby się poczucie arbitralności decyzji Premiera, a jednocześnie wzrosłyby szanse na wybór osoby, która zyska szersze zaufanie społeczne. W końcu, wysłuchanie publiczne także jest dość powszechną praktyką w procesie obsadzania wielu kluczowych stanowisk publicznych, jak choćby we wcześniej wspomnianym przypadku powoływania kandydata na sędziego ETPCz, a także wyboru Prezesa Urzędu Ochrony Danych Osobowych. Oba postulowane rozwiązania, jakkolwiek bywają już stosowane w praktyce, nie mają dotychczas odpowiedniej podstawy prawnej. Biorąc pod uwagę innowacyjny charakter komentowanego projektu, naszym zdaniem projektodawcy mogliby także i w tym obszarze wskazać wysoki standard zabezpieczając w ustawie prospołeczne i sprzyjające debacie publicznej rozwiązania. 140 Art. 20 ust. 9 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie informacji w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej Art. 20 ust. 11 Osoba fizyczna jk dla spójności zapisów zamiast \"Umieszczenie\" powinno być \"Opublikowanie\" Art. 21 Instrat – Fundacja Centrum Cyfrowe Procedura powoływania Przewodniczącego Komisji oraz Zastępców Jeśli jednak przyjęcie pierwszego z powyższych rozwiązań okaże się niemożliwe, rekomendujemy wprowadzenie zmian w sposobie wyznaczania Zastępców Przewodniczącego. Zgodnie z Art. 21, Zastępców Przewodniczącego Komisji powołuje Prezes Rady Ministrów na wniosek Przewodniczącego Komisji, wybierając spośród kandydatów przez niego wskazanych. Aby ograniczyć możliwość wpływu konkretnych grup interesów oraz zminimalizować ryzyko mianowania osób blisko związanych z Przewodniczącym, proponujemy, aby Zastępcy byli rekomendowani przez Społeczną Radę do spraw Sztucznej Inteligencji. Alternatywnie, kandydatury mogłyby przynajmniej podlegać opiniowaniu przez Radę, co podniosłoby transparentność i wiarygodność procesu nominacji na te stanowiska. Wprowadzenie takiego mechanizmu wymagałoby powołania Społecznej Rady oraz wyłonienia jej członków przed nominacjami Zastępców, co mogłaby przeprowadzić Komisja w okrojonym składzie. Mimo potencjalnych wyzwań organizacyjnych, uważamy, że taki model jest wart rozważenia, ponieważ sprzyjałby zwiększeniu apolityczności i przejrzystości działania Komisji. Art. 21 ITCORNER Za kluczowe uważamy również zapewnienie konkurencyjności powołania Zastępców Przewodniczącego Komisji. W tym kontekście proponujemy, aby Prezes Rady Ministrów wybierał zastępców spośród kandydatów wyłonionych w drodze konkurencyjnego i otwartego naboru, prowadzonego przez zespół powołany przez Przewodniczącego Komisji. Art. 21 GRAI Zapewnienie konkurencyjności modelu powołania wiceprezesa Komisji Następująca propozycja brzmienia: 1. Prezes Rady Ministrów powołuje Zastępców Przewodniczącego Komisji spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Prezes Rady Ministrów odwołuje wiceprezesów Urzędu na wniosek Przewodniczącego Komisji. 2. Stanowisko Zastępcy Przewodniczącego Komisji może zajmować osoba, która spełnia wymagania określone w art. 18 ust. 2 ustawy. 3. Zespół przeprowadzający nabór na stanowiska, o których mowa w ust. 1, powołuje Przewodniczący Komisji. 4. Do sposobu przeprowadzania naboru na stanowiska, o których mowa w ust. 1, stosuje się odpowiednio przepisy art. 20 ustawy. 141 Art. 22 Polski związek zarządzania wierzytelnościami Art. 21 Projektu Bieżące brzmienie art. 21 Projektu nie zakłada konkurencyjnego charakteru procedury powołania osób na stanowiska Zastępców Przewodniczącego Komisji. Rozwiązanie powoływania Zastępców na wniosek Przewodniczącego KRiBSI przez Prezesa Rady Ministrów rażąco kontrastuje z wymogami stawianymi wobec kandydatów na stanowisko Prezesa, wobec czego wskazujemy na istotę zachowania konkurencyjnego i otwartego naboru także na tym poziomie. Art. 22 CHAMBER - wydaje się, że prawidłową techniką legislacyjną byłoby jednoznaczne określenie (jeśli nie wynika to z przepisów odrębnych), że Przewodniczący Komisji i jego Zastępcy mają status osób pełniących funkcje publiczne zgodnie z ustawą, ze wszystkimi wiążącymi się tym konsekwencjami prawnymi (w tym obowiązkiem składania oświadczeń majątkowych). Kazuistyczne wskazywanie poszczególnych jedynie obowiązków czyni status tych osób niejasnym i może prowadzić do niepotrzebnych wątpliwości i sporów. Art. 22 ust. 1 ISSA Polska Proponuję uszczegółowić zapis „... są obowiązani do złożenia oświadczeń o swoim stanie majątkowym, w trybie i terminach, zgodnie z art 10 ... - oświadczenia zgodnie z ustawą składa się w dniu objęcia/złożenia stanowisko i corocznie do dnia 31 marca”. Art 23 KIG Zapis powtarza model przyjęty w ustawie o nadzorze nad rynkiem finansowym, co w opisywanym przypadku nie znajduje uzasadnienia. Sugerujemy albo całkowity zakaz łączenia funkcji zawodowych ze stanowiskiem w Komisji albo model odwrotny – brak zakazu, z obowiązkiem urlopu bezpłatnego na czas kadencji. Art. 23 ust. 2 Fundacja FinTech Poland Sugerujemy wymagania te rozszerzyć na osoby mogące wydawać decyzje w tym pracowników Biura. Sugerujemy wprowadzić tryb wyłączenia w przypadku konfliktu interesów - samo pojęcie konflikt interesów jest zbyt ogólne bo nie ma z czym go porównać (z czyimi interesami ma być konflikt, publicznymi czy prywatnej działalności). Ponadto sugeruje się poszerzyć katalog organizacji do których nie może należeć Przewodniczący i Zastępca np. o związki wyznaniowe i kościoły (rozgraniczenie Kościoła od Państwa). Art. 23 i Art. 24 ICC Poland W razie pozostania przy koncepcji powierzenia funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji organowi kolegialnemu (Komisji), wątpliwości budzi przewidziany w projekcie zakres niepołączalności stanowisk Przewodniczącego Komisji, jego Zastępców, członków Komisji oraz pracowników Biura i innych osób tam zatrudnionych (art. 23 i 24 Projektu). Po pierwsze, zgodnie z art. 24 Projektu, Przewodniczący Komisji, jego zastępcy, pozostali członkowie Komisji, Dyrektor Biura Komisji, jak i wszyscy pracownicy Biura Komisji i osoby zatrudnione w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze nie mogą być akcjonariuszami, udziałowcami, członkami organów, ani nawet podejmować zatrudnienia na jakiejkolwiek podstawie w podmiotach 142 „podlegających nadzorowi Komisji”. Tymczasem nadzorowi Komisji, jako organowi nadzoru nad systemami sztucznej inteligencji, podlegać będą docelowo wszyscy operatorzy systemów sztucznej inteligencji, a zatem nie tylko dostawcy, importerzy czy dystrybutorzy takich systemów, ale również podmioty je stosujące. Oznacza to, że proponowana treść art. 24 Projektu wyklucza możliwość istnienia przewidzianego tam powiązania członków Komisji i pracowników Biura z takim podmiotami już tylko z tej przyczyny, że podmiot taki będzie wykorzystywać system sztucznej inteligencji, nad którym będzie sprawować kontrolę (art. 3 pkt 4 rozporządzenia 2024/1689). Rozwój tej technologii uprawdopodabnia jednak przewidywanie, że wykorzystywanie systemów sztucznej inteligencji – zwłaszcza przy istniejącej, szerokiej i nie w pełni jasnej definicji tego pojęcia – będzie powszechne. Może to prowadzić do sytuacji, w której spełnienie wymogów z art. 24 Projektu będzie w praktyce bardzo utrudnione lub wymagać będzie rezygnacji przez takie osoby z jakiegokolwiek innego zatrudnienia lub uczestnictwa w innych podmiotach bądź instytucjach, co może negatywnie wpłynąć na eksperckość składu Komisji i Biura Komisji. Nie jest wreszcie jasne, jak należałoby ocenić sytuację, w której Przewodniczący lub Zastępca Przewodniczącego zajmowaliby stanowisko w jednostkach naukowych, o których mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (odesłanie w tym zakresie wymaga zresztą poprawienia), gdyby jednostka taka zarazem wykorzystywała systemy sztucznej inteligencji, a tym samym podlegała nadzorowi Komisji (art. 24 Projektu). Po drugie, art. 23 i 24 Projektu nie przewidują żadnego rozwiązania na wypadek, gdyby opisane tam powiązanie (np. przyjęcia stanowiska, podjęcia zatrudnienia) powstało już po powołaniu na funkcję Przewodniczącego, Zastępcy Przewodniczącego, członka Komisji, Dyrektora Biura lub po zatrudnieniu w Biurze Komisji. W szczególności nie można przecież wykluczyć sytuacji następczego rozpoczęcia wykorzystywania systemu sztucznej inteligencji przez dany podmiot, co spowoduje, że stanie się on podmiotem podlegającym nadzorowi Komisji, aktualizując zastosowanie art. 24 Projektu. Art. 24 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy rozważyć częściową rezygnację z wymogu braku zatrudnienia osoby zatrudnionej w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze na dowolnej podstawie prawnej w „podmiotach stosujących” w rozumieniu art. 3 pkt 4 (w zw. z art. 2 ust. 1 lit. b) rozporządzenia 2024/1689, oznaczających każdą osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę. Konsekwencje takiego ograniczenia kłócą się z możliwością szerokiego rozpowszechnienia SI, nad którymi stosujące je podmioty (także takie jak organy i inne podmioty publiczne) mogłyby sprawować kontrolę. Ma to szczególne znaczenie w przypadkach zawierania umów cywilnoprawnych z osobami posiadającymi wiedzę specjalistyczną, w sytuacji, gdy zatrudnienie w Biurze Komisji może nie być jedynym miejscem zatrudnienia takiej osoby, będącej równocześnie stroną licznych innych umów cywilnoprawnych, w tym z „podmiotami stosującymi”. 143 art. 24 GRAI Nieuzasadnione pominięcie wspólników spółek osobowych (nie są akcjonariuszami ani udziałowcami), niezrozumiałe posługiwanie się nieznanym kodeksowi spółek handlowych słowem „udziałowiec”, mającym węższe znaczenie niż wspólnik. Słowa „udziałowcami” zastępuje się słowami „wspólnikami”. art. 24 GRAI Uwaga redakcyjno - legislacyjna – w pierwszym z wyliczeń umów cywilnoprawnych podobnych do zlecenia nie pada umowa agencyjna, zaś w drugim z wyliczeń już się znalazło - wydaje się, że zbędnie i z tego względu do usunięcia. Słowa „umowy agencyjnej” skreśla się. art. 24 SKwP Powstaje pytanie, jaka jest struktura zatrudnienia w tzw. Biurze? Kto jest na umowie o pracę, a kto na umowach cywilno–prawnych (zlecenie, dzieło). Ilu pracowników liczy Biuro, jakie ma działy itp.? Być może warto było rozważyć i wprowadzić regulamin organizacyjny pracy biura, w którym, szczegółowo wszystkie ww. kwestie byłyby rozstrzygnięte, a kompetencję do jego wydania można byłoby przyznać Przewodniczącemu Komisji albo Dyrektorowi Biura Komisji ? Art. 24 Fundacja Panoptykon Konflikt interesów w przypadku członków Komisji Zdecydowanie popieramy wprowadzone w art. 24 projektu ustawy rozwiązania dotyczące konfliktu interesów jako niezbędne do zagwarantowania bezstronnego działania Komisji. Uważamy jednak, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji wymienionych w art. 7 ust. 2, której przedstawiciel jest członkiem Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 24 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Nie ma przy tym znaczenia to, czy dana instytucja wykorzystuje obecnie jakiekolwiek systemy sztucznej inteligencji lub czy mieszczą się one w zakresie uregulowanym rozporządzenia w sprawie sztucznej inteligencji. Po pierwsze, nawet w obecnym kształcie rozporządzenia niewykluczone, że instytucje wymione w art. 7 ust. 2 będą zobowiązane w niektórych przypadkach sprostać jego wymogom, np. jeśli chodzi o przejrzystość „chatbotów” uregulowaną w art. 50 ust 1 rozporządzenia lub wykorzystanie AI w rekrutacji pracowników (system wysokiego ryzyka zgodnie z pkt. 4 Załącznika III). Po drugie, warto zauważyć, że Komisja Europejska jest zobowiązana okresowo rewidować zakres Załącznika III określającego listę systemów wysokiego ryzyka, co nie wyklucza w przyszłości objęcia regulacją systemów wykorzystywanych przez instytucje mające swoich przedstawicieli w Komisji. W rezultacie, działania tych instytucji mogą stać się przedmiotem 144 kontroli Komisji. Wprowadzenie klarownych reguł postępowania w takich przypadkach zapewniłoby elastyczność ustawy wobec zmieniających się okoliczności prawnych lub faktycznych, bez konieczności jej nowelizacji. Art. 25 CHAMBER Wątpliwym jest podobnie obowiązek zachowania tajemnicy służbowej wprowadzany w art. 25. Przepisy powszechnie obowiązujące już zobowiązują do zachowania tajemnic prawnie chronionych i wydaje się, że nie ma potrzeby powtarzania takich przepisów w każdej ustawie powołującej do życia organ lub osobę prawną. art. 25 w zw. z art. 43 ust. 1 pkt. 2 PIIT Wnosimy o dopisanie w postanowieniach art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 w zw. z Art. 43 ust. 1 pkt. 2 KIGEiT Rekomendacje: Wnosimy o dopisanie w postanowieniach Art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach Art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w Art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych wA. 25 projektu - wyraźnie wskazanie tego w treści Art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w Art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 ust. 3 CHAMBER Art. 25 ust. 3 - przepis ten budzi poważne zastrzeżenia. Analogicznie do uwagi powyższej należy stwierdzić, że dostęp do informacji niezbędnych do wykonywania czynności służbowych przez funkcjonariuszy organów ścigania jest unormowany w odpowiednich ustawach. Wprowadzanie dodatkowych podstaw prawnych, w dodatku tak niejasno sformułowanych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do organów ścigania bez wyraźnego celu i potrzeby, jest zupełnie niepotrzebne i zgoła niebezpieczne. Postulujemy wykreślenie tego przepisu także w wypadku nieuwzględnienia propozycji usunięcia całego art. 25. Minimalnie należy przynajmniej zawęzić krąg odbiorców takich informacji do “uprawnionych” funkcjonariuszy. 145 Art. 25 ust. 3 KIGEiT Propozycja zapisu: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym na podstawie odrębnych przepisów prawa pracownikom podmiotu, o którym mowa w Art. 64 ust. 3 ustawy, a także uprawnionym funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji. , Punkt 3 uprawnia pracowników komisji do udzielenia poufnych informacji wszystkim żołnierzom, prokuratorom itd. Natomiast punkt 4 zobowiązuje do utrzymania tajemnicy tylko uprawnionych. Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 25 ust. 3 Związek Banków Polskich Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 25 ust. 3 Związek Cyfrowa Polska Niewystarczająca ochrona informacji i wrażliwych danych oraz ujawnienie informacji przez członków Komisji (art. 25 ust. 3 Projektu). Zarówno na etapie prowadzonych przez organ kontroli (rozdział 3 – w szczególności art. 43 ust. 4 pkt 3 oraz art. 43 ust. 8 – Projektu ustawy), jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa, w tym ochrona wrażliwych informacji, danych należących do przedsiębiorców (w tym danych osobowych) oraz innych tajemnic prawnie chronionych. 146 W szczególności uwagę należy poświęcić art. 25 ust. 3 Projektu, który umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. 147 Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji,w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. W związku z powyższym i ponadto zwracamy zatem uwagę legislatora na następujące propozycje zawarte w Projekcie ustawy oraz przepisów: art. 25 ust. 3 Projektu, który upoważnia członków KRiBSI do udostępniania uzyskanych informacji szerokiej grupie podmiotów, w tym np. pracownikom Polskiego Centrum Akredytacji. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. art. 27 Projektu, który przewiduje szerokie uprawnienie do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania; art. 61 ust. 4 i 5 Projektu, który posługuje się terminem „informacje stanowiące tajemnice prawnie chronione”, które ma szerokie znaczenie, nie uwzględniając brzmienia Aktu o sztucznej inteligencji, w szczególności art. 78 oraz motywu 167; art. 67 Projektu, który przewiduje szerokie uprawnienie ministra właściwego do spraw informatyzacji do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania. Należy oczekiwać odpowiedniego zawężenia ww. uprawnień stosownych organów, z właściwym zbilansowaniem praw i interesów przedsiębiorców oraz z uwzględnieniem przepisów Aktu o sztucznej inteligencji, w szczególności art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień” oraz motywu 167. Art. 25 ust. 3 Związek Pracodawców Technologii Cyfrowych Lewiatan Ujawnienie informacji przez członków Komisji (art. 25 ust. 3 USS) Przepis umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; 148 b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 USS już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji, w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. 149 art. 25 ust. 3 i 4 PIIT Wnosimy o wykreślenie Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 26 CHAMBER Art. 26 - należy ponownie rozważyć, czy przepisy tego typu są konieczne. Rozporządzenie Ogólne o Ochronie Danych określa powszechnie obowiązujące zasady przetwarzania danych i obowiązki z niego wynikające (np. analizy ryzyka czy podejmowania środków zaradczych, minimalizacji danych itd. ) będą obowiązywały Komisję bez względu na ich umieszczenie w ustawie. Zamieszczanie takich powielanych przepisów w każdej kolejnej ustawie nie wydaje się potrzebne i prowadzi do dalszej inflacji i tak już niezmiernie obszernego i skomplikowanego prawa. Art. 26 ISSA Polska Postuluję wskazanie wprost, że Komisja jest administratorem danych osobowych, wówczas nie będzie wątpliwości, że jako administrator musi realizować obowiązki wynikające z RODO. Art. 26 PIIT Uzgodnienie przepisów z zapisami ustawy RODO. Art. 26 Zbyt szeroki zakres możliwego przetwarzania danych osobowych i zbyt szeroko określony cel przetwarzania danych wynikający z art. 11 projektu ustawy. Zapisy nie precyzyjne, brak proporcjonalności zakresu i celu przetwarzania danych w kompetencji Komisji. Przy tak szeroko określonych celach i zakresie przetwarzania danych naszym zdaniem powołanie IOD powinno być obligatoryjne, a nie uznaniowe. W ust. 8 należałoby wymienić wszystkie prawa osób, których dane będą przetwarzane przez Komisję – wynikające z RODO, nie niektóre z nich. Proponujemy odwoływać się już do PKE, w tym do pojęcia Usług komunikacji interpersonalnej. 150 Art. 26 GRAI Generalna uwaga do art. 26 I. Zbyt wąski zakres przedmiotowy i zakres stosowanych środków ochrony. Przepis przez taką redakcję wydaje się ograniczony tylko do niektórych środków i tylko do niektórych rodzajów informacji. Środki zabezpieczające powinny spełniać najwyższe wymagania, bo Komisja będzie dysponować wieloma informacjami dotyczącymi zarówno innych instytucji, podmiotów rozwijających technologię jak i samych użytkowników. W cały projekcie wybrzmiewa nadmierne uprawnienie do żądania zbyt szerokiego zakresu informacji chronionych (co nie powinno mieć miejsca i powinno zostać ograniczone przepisami do absolutnego minimum) przy czym nie ma nic o ochronie tych informacji. II. W miejsce obecnie zaproponowanych zapisów w art. 26, które budzą liczne wątpliwości proponuję odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO: Np. „Do przetwarzania danych osobowych przez Komisję na mocy niniejszej ustawy zastosowanie ma rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679.”. „Wszelka wymiana danych osobowych na mocy niniejszej ustawy przez Komisję podlega rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679.”. A dodatkowo wskazać w ustawie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e) czy h) RODO. I. Katalog informacji podlegających ochronie jak i katalog środków zabezpieczenia powinien być rozszerzony, otworzony. Benchmarkiem spełnienia tego obowiązku powinno być zapewnienie takich mechanizmów, które realnie zagwarantują najwyższą ochronę przetwarzanych przez Komisję informacji (w oparciu o najnowsze technologie i aktualne standardy branżowe). Nie tylko dane szczególnych kategorii z RODO powinny się znaleźć w treści tego przepisu, ale i tajemnica przedsiębiorstwa, tajemnica adwokacja czy radcowska, innego rodzaju tajemnice prawnie chroniona, dane osobowe zwykłych kategorii. II. Zmiana brzmienia art. 26 zgodnie z poniższymi propozycjami. Art. 26 Osoba fizyczna jk Jest to nieudolne i nielogiczne powielenie zapisów Rozporządzenia UE 2016/679 - zupełnie niepotrzebne oprócz ust. 5 i ust. 9, który powinien być ust. 1. Art. 26 ust. 1 Osoba fizyczna jk Komisja - czy/i Biuro Komisji - nie byłaby w ogóle w stanie funkcjonować bez przetwarzanie danych osobowych, chociażby osób składających skargi czy pracowników swojego Biura. Ponadto, jako jednostka sektora finansów publicznych jest zobowiązana przetwarzać dane na podstawie i w granicach prawa. Zatem po co zapis w ustawie? 151 Art. 26 ust. 2 Osoba fizyczna jk Czy przetwarzając dane osobowe, które nie są określone w art. 9 ust. 1 rozporządzenia 2016/679, Komisja - czy/i Biuro Komisji - nie musi prowadzić analizy ryzyka, stosować środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu, a także opracować procedury bezpiecznej wymiany informacji? Czy cytowane zapisy są jedynymi wymogami dotyczącymi bezpiecznego przetwarzania danych osobowych przez Komisję? Sprowadzanie środków technicznych i organizacyjnych bezpieczeństwa przetwarzania danych osobowych wymaganych na podstawie art. 32 rozporządzenia 2016/679 (RODO) do - środków ochrony przed złośliwym oprogramowaniem, - mechanizmów kontroli dostępu oraz - procedur bezpiecznej wymiany informacji świadczy o kompletnej nieznajomości obowiązujących przepisów oraz standardów, norm i dobrych praktyk dotyczących ochrony danych osobowych, cyberbezpieczeństwa i bezpieczeństwa informacji, zalecanych m.in. przez Ministerstwo Cyfryzacji i NASK. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 2 TAURON Dystrybucja Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana zapisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 2 GRAI Bezzasadne ograniczenie tylko do danych określonych art. 9 ust 1 RODO, gdy tymczasem przepis powinien obejmować wszelkie dane osobowe jakie Komisja przetwarza. Zarazem w przepisie tym, w ograniczony i wybiórczy sposób zostały określone zobowiązania Komisji w związku z przetwarzaniem danych, w tym stosowanie środków technicznych i organizacyjnych służących zabezpieczeniu przetwarzanych danych. Komisja jako administrator danych zobowiązana jest do przestrzegania wymagań określonych w RODO, w tym wdrożenia i stosowania odpowiednich środków technicznych i organizacyjnych, aby przetwarzanie odbywało się zgodnie RODO. Propozycja zmiany brzmienia ust.2 w następujący sposób: „2. Przetwarzanie danych osobowych, o którym mowa w ust. 1 przez Komisję, odbywa się z zachowaniem przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679. 152 Art. 26 ust. 2 GRAI Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana przepisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 3 PIIT 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: - gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; - gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; - gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 KIGEiT Propozycja zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji 153 elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. , Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 GRAI Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy też operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie przepisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 154 Art. 26 ust. 3 TAURON Dystrybucja Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy tez operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie zapisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 Art. 26 ust. 3 Osoba fizyczna jk Bardzo odważny zapis ograniczający przetwarzanie danych do wymienionej listy przypadków nadzoru nad systemami. Jeżeli w trakcie tworzenia i funkcjonowania Komisji - czy/i Biura Komisji - okaże się, że dla wykonania swoich zadań Komisja - czy/i Biuro Komisji - musi przetwarzać dodatkowo inne dane osobowe, niestety będzie musiała poczekać na nowelizację ustawy. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 3 pkt 4 KIG Pojęcie podmiotów kluczowych i ważnych zostało wprowadzone przez dyrektywę NIS2. W ustawie o krajowym systemie cyberbezpieczeństwa, do której referuje Projekt, brak wskazania tych podmiotów. art. 26 ust. 4 GRAI Anonimizacja danych zbędnych do realizacji zadań Komisji jest działaniem zbędnym i dodatkowo obciążającym pracowników Biura Komisji 155 Skreśla się słowa: „lub anonimowane”. Art. 26 ust. 4 Osoba fizyczna jk Jest to powielenie zasady ograniczenia przechowywania zapisanej w art. 5 ust. 1 lit. e) rozporządzenia 2016/679 (RODO). Zapis jest niepotrzebny. art. 26 ust. 5 GRAI Uwaga redakcyjna – brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „o którym mowa w rozdziale 3, 4 i 7 ustawy”. Art. 26 ust. 6 TAURON Dystrybucja Omyłka pisarska w numeracji rozporządzenia. Powinno być: 2024/1689 Ponadto wskazany zapis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanym podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. Ponadto na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. art. 26 ust.6 GRAI Przepis dotyczący przekazywania informacji został sformułowany w taki sposób, że kolejne regulacje mogą prowadzić do jego naruszenia, jak chociażby okoliczność, że „kontrolującym” nie musi być pracownik Komisji. art. 26 ust. 6 GRAI Omyłka pisarska w numeracji rozporządzenia. Ponadto wskazany przepis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanych podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty, o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. 156 Ponadto, na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Powinno być: 2024/1689 Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. Art. 26 ust. 6 Osoba fizyczna jk Kto może przekazywać dane: Komisja czy/i Biuro Komisji czy też pracownicy Biura Komisji, skoro wzajemnie dane przekazywać będą pracownicy podmiotów, o których mowa w art. 7 ust. 2. Czy przepisy regulujące funkcjonowanie podmiotów, o których mowa w art. 7 ust. 2 projektu ustawy, dopuszczają opisane przekazywanie danych i przetwarzanie tych danych? Art. 26 ust. 7 Osoba fizyczna jk Jak zwolnienie z realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 ma się do \"zapewnienia wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI\"? Art. 26 ust. 7 TAURON Dystrybucja Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 7 GRAI I. W projektowanym ust. 7 wskazano, że przetwarzanie danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji nie wymaga realizacji przez Komisję i inne podmioty obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 „jeżeli uniemożliwiałoby to realizację zadań Komisji”. Zastrzeżenie zawarte w przepisie jest niejasne i budzi wątpliwości, w jakich konkretnie przypadkach określone podmioty nie będą realizowały obowiązków wynikających z RODO. II. Przepis wprowadza ograniczenie praw z RODO – uzasadnienie powinno krótko powołać art. 23 RODO jako podstawę ograniczenia tych praw. Do rozważenia powołanie art. 23 ust. 1 lit. e lub h RODO. I. Koniecznym jest doprecyzowanie, co oznacza „uniemożliwiałoby to realizację zadań Komisji”, jeśli miałoby pozostać taki zapis. Jednocześnie wydaje się zasadne przeredagowanie całego art. 26 zgodnie z uwagami dotyczącymi tego artykułu. 157 II. Uzupełnienie uzasadnienia o podstawę prawną ograniczenia praw z RODO w art. 26 ust. 7 projektu – o konkretną podstawę prawną z art. 23 ust.1 RODO (potencjalnie lit. e lub h). art. 26 ust. 7 GRAI Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 8 GRAI Jeśli celem ustawodawcy było, aby publikacja wskazanych informacji stanowiła spełnienie obowiązku informacyjnego w świetle art. 13 i 14 RODO – rekomendowane jest wskazanie tego w uzasadnieniu albo wprost doprecyzowanie tej kwestii w projekcie. Art. 26 ust. 8 otrzymuje brzmienie: 8. Realizacja obowiązku informacyjnego, o którym mowa w art, 13 i 14 RODO następuje poprzez publikację w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji informacji wskazujących: 1) dane kontaktowe administratora danych osobowych oraz, gdy ma to zastosowanie, dane kontaktowe inspektora ochrony danych osobowych; 2) cele przetwarzania i podstawę prawną przetwarzania; 3) kategorie przetwarzanych danych osobowych; 4) informacje o odbiorcach danych osobowych; 5) informacje o tym, przez jaki okres dane osobowe będą przechowywane; 6) informacje o ograniczeniach obowiązków i praw osób, których dane dotyczą wraz z podstawą prawną tego ograniczenia; 7) informacje o prawie wniesienia skargi do organu właściwego do spraw ochrony danych osobowych; 8) źródło pochodzenia danych osobowych. 9. Komisja jest administratorem danych, o których mowa w ust. 1-3.” art. 26 ust.8 GRAI Zaproponowany sposób realizacji obowiązku informacyjnego w BIP poprzez podanie bardzo ogólnych i zbiorczych informacji nie spełnia wymogów art. 14 ust. 1-3 RODO, a ewentualne zastosowanie art. 14 ust. 5 lit. a czy c budzi poważne wątpliwości 158 Art. 26 ust. 8 Osoba fizyczna jk Kuriozalna i wybiórcza interpretacja zapisów art. 13 i 14 rozporządzenia 2016/679 (RODO) oraz Wytycznych GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\". Skoro rozporządzenie 2016/679 (RODO) oraz Wytyczne GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\" określają, jakie informacje należą się osobom, których dane dotyczą, to po co prawnicy wpisują listę należnych informacji do kolejnych polskich ustaw? Czy bez zapisów w ustawach wymienione w RODO informacje nie należą się osobom, których dane dotyczą? Potrzebne jest tylko doprecyzowanie, kto jest administratorem danych oraz jakie są okresy przechowywania danych osobowych dla poszczególnych czynności przetwarzania. art. 27 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, co obejmuje pojęcie „tajemnicy prawnie chronionej\". Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących „tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. ustawy - Prawo bankowe). art. 27 CHAMBER Analogiczna uwaga odnosi się do art. 27 - zasady przetwarzania tajemnic prawnie chronionych są określone odrębnymi przepisami i obowiązują powszechnie. Podobnie obowiązek zawiadomienia o ujawnionym przestępstwie w ust. 2 niepotrzebnie powiela powszechnie obowiązujący przepis art. 304 par. 2 Kodeksu karnego. art. 27 ust. 1 GRAI Uwaga redakcyjna - zbędny przecinek zastosowany w wyliczeniu przed spójnikiem współrzędności łącznej. Skreśla się przecinek po słowach „pracownicy Biura Komisji”. Art. 27 ust. 1 Związek Banków Polskich Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 27 ust. 1 Fundacja FinTech Poland Pytanie co obejmuje \"tajemnica prawnie chroniona\" (ustawy branżowe, postępowania karne). Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Rekomendujemy zdefiniowanie określenia “tajemnica prawnie chroniona” 159 Art. 27 ust. 1, art. 25 i art. 67 ust. 1 e-Izba Aktualne brzmienie projektowanych przepisów implikuje ryzyko niedostatecznej ochrony tajemnicy przedsiębiorstwa przedsiębiorców, którzy będą podlegać kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotne jest zagwarantowanie maksymalnej ochrony tajemnicy prawnie chronionej przedsiębiorców, tym tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. Szczególnie istotne jest zagwarantowanie przedsiębiorcom takiego poziomu ochrony tajemnicy prawnie chronionej, w tym tajemnicy ich przedsiębiorstwa, które zapewni, że informacje składające się na tajemnicę przedsiębiorstwa nie zostaną wykorzystane w jakichkolwiek innych celach aniżeli ściśle związanych z prowadzoną kontrolą i wyłącznie na jej potrzeby. W związku z powyższym proponujemy zmianę( wzorowaną na art. 73 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów) aktualnego brzmienia art. 27 ust. 1 projektu ustawy o systemach sztucznej inteligencji, poprzez wskazanie, że informacje prawnie chronione, w tym tajemnica przedsiębiorstwa, mogą zostać wykorzystane jedynie na potrzeby tej kontroli w ramach, której zostały przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji lub jej upoważnionych przedstawicieli pozyskane, z wyłączeniem przypadku wskazanego w art. 27 ust. 2 projektu ustawy o systemach sztucznej inteligencji. Proponujemy, aby powyższa zasada miała zastosowanie na potrzeby całej ustawy, tj. żeby tajemnica przedsiębiorstwa mogła być przetwarzana wyłącznie na cele tego postępowania, w ramach którego została zebrana. W związku z tym, powyższe doprecyzowanie powinno znaleźć zastosowanie również w przypadku: art. 25 oraz 67 ust. 1 projektu ustawy o systemach sztucznej inteligencji. Art. 28 GRAI Uwaga ogólna do charakteru Rady Wyjaśnienia wymaga, dlaczego Rada ma mieć charakter społeczny, skoro mają ją tworzyć eksperci (naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – „będą mogli wesprzeć swoją wiedzą Komisję”). Dlaczego te osoby mają pracować bez wynagrodzenia i z ograniczeniami dotyczącymi dodatkowej działalności/ aktywności zawodowej członków takiej Rady? Do rozważenia - może taką Radę (ale nie społeczną) ds. Sztucznej Inteligencji powinni tworzyć obecni członkowie GRAI najbardziej zaangażowani w prace Grupy , w szczególności w przygotowanie Polityki AI w Polsce (w GRAI są praktycy z bogatym doświadczeniem z różnych dziedzin; interdyscyplinarne grono ekspertów z wiedzą merytoryczną do efektywnego wykorzystania w rozwoju AI w Polsce). 160 Art. 28 SKwP Uważamy, że do Społecznej Rady powinien zostać zgłoszony przedstawiciel SKwP. AI wchodzi w obszar rachunkowości, zatem dotyczy księgowych. Powinniśmy mieć wpływ na opiniowanie systemów AI dla księgowych, to dalszy problem etyki zawodu księgowego, odpowiedzialności a nawet kar. W tym zakresie, w projekcie wskazuje się, że kandydatów na członków Rady mogą zgłosić jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Art. 28 Osoba fizyczna mk Artykuł 28 ustawy przewiduje, że kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji mogą zgłaszać m.in. „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”. Nieuzasadnione jest zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”, w szczególności biorąc pod uwagę, iż: a) rolą Rady jest (wg uzasadnienia Ustawy) „zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję”; b) również wg Artykułu 28 Ustawy do członkostwa w Radzie uprawnia wiedza i doświadczenie m.in. w obszarze praw człowieka. Zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji” utrudni w nieuzasadniony sposób udział w pracach Rady przedstawicielom społeczeństwa obywatelskiego i osobom z doświadczeniem np. w obszarze praw człowieka, które działają na rzecz fundacji i stowarzyszeń, których celem statutowym nie jest wprost wyrażona działalność na rzecz rozwoju sztucznej inteligencji a np. właśnie ochrona praw człowieka czy rozwój społeczeństwa obywatelskiego. Wskazane jest co najmniej rozszerzenie wspomnianego zapisu do formy „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, rozwoju społeczeństwa obywatelskiego i ochrony praw człowieka”. Art. 28 Open AI Devs Community Rozszerzenie składu Społecznej Rady. Wnosimy o modyfikację art. 28 projektu poprzez: • Włączenie przedstawicieli społeczności deweloperów do składu Rady; • Zapewnienie reprezentacji startupów i MŚP; • Wprowadzenie transparentnego procesu wyboru członków. 2. Właściwe uwzględnienie głosu społeczności deweloperskiej przyczyni się do: 161 • Lepszego zrozumienia praktycznych wyzwań wdrożeniowych; • Skuteczniejszej implementacji przepisów; • Rozwoju kultury odpowiedzialnego rozwoju AI Art. 28 ZPAV Mając na uwadze motywy 104-109 rozporządzenia 2024/1689 art. 28 projektu ustawy dotyczący powołania Społecznej Rady ds. Sztucznej Inteligencji powinien dopuszczać możliwość zgłaszania kandydatów na członków także przez organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi, o których mowa w art. 3 pkt. 2 ustawy z dnia 15 czerwca 2018 r. o zbiorowym zarządzaniu prawami autorskimi i prawami pokrewnymi. W aktualnym brzmieniu projektowany przepis w istotny sposób narusza równowagę interesów – z jednej strony dopuszcza zgłaszanie kandydatów przez izby gospodarcze (grupy interesów) – nie uwzględniając w ogóle z drugiej strony reprezentacji sektora kreatywnego. Wieloletnie doświadczenie koegzystencji na rynku medialnym pokazuje, że bardzo często interesy branży elektronicznej i komunikacyjnej co najmniej nie są zbieżne z interesami środowisk twórczych i właścicieli praw własności intelektualnej, a zdarza się, że ze sobą kolidują. Art. 28 PWPW dot. Społecznej Rady do spraw AI Z uwagi na duży wpływ działania Rady na biznes, w ustawie należy wskazać na konieczność powołania członka wskazanego przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Przepisy powinny wskazywać na członków wskazywanych oraz na członków wybieranych. Taki podział zapewni odpowiednią reprezentację wszystkich środowisk. Zaproponowany model w projekcie ustawy nie zapewnia, że głos przedsiębiorców będzie obecny w radzie. A obecny być powinien, gdyż uprawnienia Komisji mają ogromny wpływ na rozwój rynku AI w kraju – a poprzez udział Komisji w organach UE – także w całej Europie. Art. 28 Związek Cyfrowa Polska Ciała doradczego. Poza utworzeniem KRiBSI, planowane jest powołanie także Społecznej Rady do spraw Sztucznej Inteligencji („Rada”), która ma być organem opiniodawczo-doradczym KRiBSI (art. 28 Projektu). Pomimo że opinie i stanowiska Rady nie będą wiążące dla KRiBSI, to rozwiązanie to oceniamy jako korzystne, ponieważ środowiska przedsiębiorców/instytucji naukowych/NGOs działające w obszarze AI mogą uzyskać odpowiednie forum do bieżącego przedstawiania swoich uwag, propozycji zmian regulacji, itd. (art. 28 ust. 3 pkt 4 Projektu). 162 Art. 28 ust. 1 GRAI I. Mając na uwadze, że w skład Komisji mają wejść przedstawiciele RPO oraz RPD, wyjaśnienia wymaga jakie jest uzasadnienie dla ich włączenia również do Rady? II. Zgodnie z propozycją i słusznie, przedstawiciel RPO oraz RPR jest członkiem Komisji, natomiast w art. 28 ust. 3 pkt 2 i 3 te same podmioty mogą zgłosić kandydatów do Rady Społecznej. W takiej konstrukcji te podmioty nie tylko mają swojego przedstawiciela w Komisji, co jest już wystarczające, jak też wskazują kandydatów do Rady Społecznej, podczas gdy więcej sensu miałoby przyznanie tego uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA Przyznanie uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, niż PRO i PRD. Chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA. Art. 28 ust. 1 GRAI Społeczna Rada ma się składać z 9-15 członków, podczas gdy wymienione podmioty, które mogą przedstawiać kandydatów obejmują siedem urzędów czy obszarów. Biorąc pod uwagę 2-letnią kadencję członków oraz tempo postępu technologicznego, brak przedstawicieli przedsiębiorców w danej kadencji skutkowałby ograniczeniem udziału w dyskusjach dot. SI podmiotów, których projektowane przepisy i działania Komisji będą bezpośrednio dotyczyły. W Społecznej Radzie mogłoby przykładowo zasiadać co najmniej dwóch przedstawicieli przedsiębiorców. Zwraca uwagę również, że różnorodność zastosowań AI i niewielka liczba członków Rady sprawia, że pewne sektory nie będą mogły być reprezentowane w danej kadencji, podczas gdy przedstawiciele związków zawodowych czy Biur Rzeczników będą stale obecni jako członkowie. Art. 28 ust. 2 Logicise dziewięciu do piętnastu członków Sugerujemy zwiększenie liczby członków Społecznej Rady, tak aby była jak najbardziej przekrojowa i pokrywała możliwie wszystkie grupy interesariuszy. W związku z powyższym, w składzie Rady powinny znaleźć się miejsca dla reprezentantów różnych izb branżowych, również z uwagi na zróżnicowanie regulacji dla poszczególnych sektorów gospodarki. Wydaje się, że w skład Rady powinno wchodzić każdorazowo nie mniej niż 20 osób. Art. 28 ust. 2 PIIT Określenie minimalnej i maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji. 163 Proponujemy podwyższenie maksymalnego progu liczebności Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez przedsiębiorców, w tym zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. Art. 28 ust. 2 PIIT Zwiększenie liczby członków Społecznej Rady itd. Art. 28 ust. 2 KIGEiT Rekomendacja: Sugerujemy rozważenie zwiększenia maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji do min. 25 członków. Zasadne jest zwiększenie maksymalnej liczby członków Rady celem zapewnienia jej reprezentatywności. Rady sektorowe, których działania są zakresowo ograniczone do konkretnego obszaru, a członkami są osoby o tej samej czy podobnej specjalizacji, liczą do 20 członków lub więcej. Rada Dostępności przy ministrze właściwym ds. rozwoju regionalnego liczy maksymalnie 50 członków (a dostępność jest również zagadnieniem horyzontalnym dot. zarówno sektora publicznego, jak i prywatnego). Zastosowania AI są bardzo różne w poszczególnych obszarach przemysłu czy w ramach realizowania zadań publicznych, stąd ustawa nie powinna ograniczać aż w takim stopniu możliwości udziału przedstawicieli różnych środowisk. Art. 28 ust. 3 CHAMBER Określony w art. 28 ust. 3 katalog podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (Rada) jest zdefiniowany podobnie nieco arbitralnie. W szczególności w pkt. 6 należałoby dopuścić wszystkie podmioty tworzące system szkolnictwa wyższego i nauki, wymienione w art. 7 ust. ustawy Prawo o szkolnictwie wyższym. Wątpliwe też wydaje się rozwiązanie przyjęte w ust. 6 pkt. 6, zgodnie z którym wycofanie poparcia przez instytucję zgłaszającą powoduje wygaśnięcie mandatu członka Rady. Członkowie Rady powoływani są do niej z powodu swoich osobistych przymiotów i nie są reprezentantami instytucji, które formalnie zgłaszają ich kandydatury. Przyjęte rozwiązanie de facto czyni członków Rady podatnymi na naciski z zewnątrz, gdyż w każdej chwili mogą zostać odwołani, co będzie negatywnie wpływało na ich niezależność. Proponujemy wykreślenie tego przepisu. Art. 28 ust. 3 GRAI I. Kandydatów na członków Rady Społecznej mogą zgłosić tylko wskazane podmioty. Istnieje ryzyko, że niektóre sektory nie będą reprezentowane w Radzie. 164 II. Kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji może wskazać m.in. współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka. Są to jednak przedstawiciele sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. III. Konieczność uwzględnienia wśród podmiotów, które mogą zgłaszać kandydatów na członków Rady także podmiotów reprezentujących osoby, których prawa mogą być naruszone przez AI – albo w pkt 7 albo jako odrębny punkt – w sposób bardziej generalny niż związki zawodowe, czy RPO. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 nie mieszczą się np. podmioty reprezentujące twórców, wydawców, czy producentów, których prawa mogą być naruszone działaniami związanymi ze sztuczną inteligencją (twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych; ponadto statutowa działalność podmiotów, w których się zrzeszają nie dotyczy działalności na rzecz rozwoju sztucznej inteligencji). IV. Obecny zapis ogranicza prawo zgłaszania kandydatów do Rady wyłącznie do fundacji i stowarzyszeń zajmujących się technologicznymi aspektami rozwoju AI. Jednak rozwój sztucznej inteligencji wywołuje coraz bardziej znaczące skutki społeczne, etyczne i kulturowe, których analiza jest kluczowa dla zrozumienia pełnego wpływu tej technologii na społeczeństwo. Dlatego też warto uwzględnić w ustawie organizacje i ośrodki badawcze zajmujące się społecznymi aspektami AI, aby zapewnić bardziej wszechstronną perspektywę konsultacji. V. dotyczy to także organizacji zajmujących się kwestiami tzw. praw własności intelektualnej, wolnej kultury i wolnego oprogramowania (nb. Ustawa w ogóle nie porusza aspektów własności wytworów generatywnej sztucznej inteligencji, wykorzystania utworów w domenie publicznej jako materiału służącego do trenowania modeli AI – i ew. wynagrodzenia ich twórców lub zastrzeżenia ich wykorzystania itd. – a które szczególnie zyskują na znaczeniu szczególnie w przypadku GenAI i dużych modeli językowych). VI. W praktyce może ten zapis może wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować 165 interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. VII. Rozszerzenie zakresu merytorycznego listy dopuszczonych izb gospodarczych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji o Związek Banków Polskich, który funkcjonuje jako izba gospodarcza. Reprezentuje on sektor finansowy, bardzo aktywny na rynku rozwiązań sztucznej inteligencji II. Postuluje się skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. III. „7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji ewentualnie 8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji.” IV. „Fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które w swoich celach statutowych uwzględniają działalność na rzecz rozwoju sztucznej inteligencji lub analizę jej społecznych, etycznych oraz kulturowych konsekwencji.”. V. z tym, że także takich które w swoich celach statutowych mają kwestie związane z wolnymi i otwartymi danymi i oprogramowaniem (np. fundacja Wikimedia) VI. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Poprawka stylistyczna 166 Słowa „może zgłaszać” zastępuje się słowem „zgłasza”. Należy rozważyć uwzględnienie przedstawicieli GRAI w składzie Rady Społecznej. Art. 28 ust. 3 Instrat – Fundacja Centrum Cyfrowe Skład Społecznej Rady W uzasadnieniu do ustawy wskazano, że skład Społecznej Rady zaprojektowano z myślą o tym, aby mogły w niej zasiadać osoby reprezentujące szeroki wachlarz środowisk i instytucji. Niemniej jednak chcemy zwrócić uwagę na fakt, że w zakresie reprezentacji społeczeństwa obywatelskiego, art. 28 ust. 3 może być ograniczający. Zgodnie z obecnym brzmieniem artykułu, kandydatów do Rady mogą zgłaszać jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których statutowym celem jest działalność na rzecz rozwoju sztucznej inteligencji. W praktyce może to wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, etyki danych, czy edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, ekonomiczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Art. 28 ust. 3 SFP-ZAPA Wśród podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji powinny znaleźć się także podmioty reprezentujące osoby, których prawa mogą być naruszone przez AI. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 Projektu nie mieszczą się np. podmioty reprezentujące twórców, wydawców czy producentów, których prawa mogą być naruszone i obecnie są naruszane działaniami związanymi ze sztuczną inteligencją. Twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, które zostały wskazane w tym przepisie Projektu, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych, które również zostały tam wskazane. Praw podmiotów uprawnionych z tytułu praw autorskich i pokrewnych nie reprezentują też organizacje, których statutowa działalność jest działalnością na rzecz rozwoju sztucznej inteligencji. 167 Z tych względów postulujemy poszerzenie katalogu podmiotów, które mogą zgłaszać kandydatów na szłonków Rady o stowarzysenia i fundacje, które realizują cele ustawowe poprzez działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji, np. organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi. Bez takiej zmiany podmioty praw autorskich i praw pokrewnyhc nie będą miały szansy na swoje przedstawicielstwo w Radzie. Art. 28 ust. 3 Polska Izba Ubezpieczeń Proponuje się w art. 28 ust. 3 projektu ustawy zmianę w pkt 4) na „izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych, a także usług finansowych, w szczególności bankowych i ubezpieczeniowych” Art. 28 ust. 3 Fundacja Sztuka Media Film Postulujemy poszerzenie zakresu podmiotów, które będą mogły zgłaszać kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji o: organizacje zbiorowego zarządzania oraz fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz mediów lub kultury, w szczególności kultury cyfrowej. Powyższy postulat związany jest z koniecznością zapewnienia reprezentacji twórców i przedstawicieli mediów w Społecznej Radzie do spraw Sztucznej Inteligencji, co wynika z rosnącego wykorzystania sztucznej inteligencji w mediach oraz szeroko pojętej kulturze. W naszej ocenie, niepewności związane z etycznym wykorzystaniem sztucznej inteligencji w mediach oraz konieczność zapewnienia ochrony interesów twórców utworów wykorzystywanych przez sztuczną inteligencję uzasadnia poszerzenie katalogu podmiotów wskazanych w art. 28 ust. 3 projektu ustawy o systemach sztucznej inteligencji o wskazane powyżej dwie grupy Art. 28 ust. 3 Osoba fizyczna jk Na liście podmiotów, które mogą zgłosić kandydatów do Społecznej Rady, wymieniono fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Dlaczego nie ma przedstawicieli osób poszkodowanych / skrzywdzonych przez sztuczną inteligencję? Chyba, że ich przedstawicielem będzie Rzecznik Praw Obywatelskich. Oby. Art. 28 ust.3 pkt 1-3 ISSA Polska Postuluję skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów 168 do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. Art. 28 ust. 3 pkt 2 i 3 Istotna, o ile nie zostanie uwzględniona uwaga dot. art. 7 ust. 1-2 Osoba fizyczna Przedstawiciele RPO oraz RPD (po uwzględnieniu ww. uwagi) obligatoryjnie wchodzą w skład Komisji ds. SI. Niepotrzebne jest przyznanie miejsc tym organom w Społecznej Radzie do spraw SI. Dubluje to kompetencje i wprowadza chaos organizacyjny. Ponadto może być uznana za uprzywilejowanie tych organów w zakresie SI. Art. 28 ust. 3 pkt. 4 Fundacja Open Allies Propozycja zapisu: 4) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych oraz fundacje, których celem statutowym jest działalność dotycząca sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 4 Związek Banków Polskich 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Art. 28 ust. 3 pkt 7 GRAI Projekt zakłada, że kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji mogą wskazać m.in. fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Zasadne jest jednak rozszerzenie tego katalogu w zakresie fundacji i stowarzyszeń o te działające również na polu cyberbezpieczeństwa. 169 Pkt 7 powinien otrzymać następujące brzmienie: “7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub cyberbezpieczeństwa”. Art. 28 ust. 3 pkt 7 Fundacja Open Allies Propozycja modyfikacji zapisu: Fundacje i stowarzyszenia wpisane do Krajowgo Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 7 ISSA Polska Postuluję rozszerzenie zakresu fundacji i stowarzyszeń o te działające na polu bezpieczeństwa Sztucznej Inteligencji i cyberbezpieczeństwa. Proponuję przyjąć pkt 7 o następującej treści: “fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju lub bezpieczeństwa sztucznej inteligencji lub cyberbezpieczeństwa”. Artykuł 28 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów Al oraz modelami Al. Nadzór ten musi bowiem dotyczyć również kontroli nad przestrzeganiem przez branżę Al. unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji, czy działające na rzecz jej rozwoju, a nie zapewnia jednocześnie poszanowania interesów sektorów kreatywnych czy użytkowników systemów Al. Dlatego też wnioskujemy o uzupełnienie składu Rady i właściwe zbalansowanie interesów wszystkich zainteresowanych stron. Art. 28 ust. 3 pkt 7 Fundacja Panoptykon Społeczna Rada do spraw Sztucznej Inteligencji Z aprobatą odnotowujemy propozycję ustanowienia Społecznej Rady do Spraw Sztucznej Inteligencji. Uważamy takie rozwiązanie za kluczowe do pogłębienia dialogu i współpracy pomiędzy Komisją a organizacjami społeczeństwa obywatelskiego. Chcielibyśmy jednak wskazać kilka kwestii wymagających, w naszej opinii, poprawy w kolejnej wersji projektu, aby Rada mogła jak najpełniej i najbardziej obiektywnie realizować swoje zadania. Sformułowanie misji organizacji społecznych 170 Zgodnie z obecnym brzmieniem art. 28 ust. 3 pkt 7 projektu ustawy, członkowie Rady mogą być zgłoszeni przez fundacje i stowarzyszenia wpisane do KRS, których celem statutowym jest „działalność na rzecz rozwoju sztucznej inteligencji”. Takie sformułowanie w nieuzasadniony sposób wyklucza podmioty działające na rzecz ochrony praw człowieka w kontekście wykorzystywania sztucznej inteligencji, a niekoniecznie jej rozwoju. Może to doprowadzić do sytuacji, w której prawo zgłoszenia kandydatów będą miały wyłącznie zarejestrowane jako fundacje organizacje branżowe lub think tanki promujące rozwój sztucznej inteligencji. Uważamy, że umożliwienie zgłaszania kandydatów szerszemu gronu organizacji społecznych jest kluczowe dla zapewnienia pluralizmu głosów w Radzie oraz reprezentacji eksperckiej wiedzy z zakresu praw człowieka. Taka perspektywa będzie niezbędna do rzetelnego doradzania Komisji, szczególnie w kontekście oceny skutków dla praw człowieka, o której mowa w art. 27 rozporządzenia w sprawie sztucznej inteligencji, oraz ochrony praw osób poddanych działaniu AI. Proponujemy więc rozszerzenie możliwych celów statutowych organizacji uprawnionych do zgłaszania kandydatów, poprzez dodanie działalności „na rzecz praw człowieka” do pkt. 7. Tak szeroko sformułowane regulacje dotyczące celów statutowych organizacji zgłaszających zwiększą szansę na większą wszechstronność członków Rady. Art. 28 ust. 3 pkt 8 Dodanie przepisu ZAIKS W art. 28 ust. 3 po punkcie 7) dodaje się średnik oraz punkt 8) o następującym brzmieniu: „8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.\" art. 28 ust. 7 GRAI Wygaśnięcie członkostwa członka Rady, chociażby z uwagi na fakt, że Rada składa się z 9 do 15 członków, nie powinno skutkować automatycznym powołaniem kogoś na jego miejsce. Wydaje się to zbędne, zwłaszcza w sytuacji, gdy kadencja Rady wkrótce wygasa. Słowo „powołuję” zastępuje się słowami „może powołać. Art. 28 ust. 4 pkt 1 Instrat – Fundacja Centrum Cyfrowe Kompetencje Społecznej Rady W art. 28 ust. 4 pkt 1 wskazano, że członkiem Rady może być osoba, która posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka. W katalogu wyszczególnionych specjalizacji zabrakło etyki (ewentualnie filozofii) nowych technologii, w tym SI, szczególnie istotnej w kontekście zadań stojących przed Radą. Proponujemy uzupełnienie ww. katalogu o etykę nowych technologii. Art. 28 ust. 4 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 4 projektu ustawy zmianę w pkt 4) na „wyraziła zgodę na kandydowanie opatrzoną kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 28 ust. 4 Fundacja Panoptykon Kryteria wyboru członków Rady Członkowie Rady będą powoływani przez Komisję spośród osób zgłoszonych przez uprawnione podmioty. Jednak o ile projekt ustawy wprowadza w art. 28 ust. 4 wymogi dla kandydatów i 171 kandydatek, to już nie precyzuje kryteriów, jakimi Komisja powinna kierować się w sytuacji, gdy liczba kandydatów spełniających te wymagania przekroczy maksymalną liczbę członków Rady. Z perspektywy interesu publicznego i zapewnienia pluralizmu perspektyw w Radzie, kluczowe jest, by proces wyboru w takiej sytuacji opierał się na jasno określonych i przejrzystych zasadach. Sugerujemy więc wprowadzenie w projekcie ustawy postanowienia, zgodnie z którym w takiej sytuacji Komisja powinna zapewnić reprezentatywność Rady i – w miarę możliwości – dążyć do utrzymania proporcjonalnej liczby członków zgłoszonych przez poszczególne uprawnione podmioty. Art. 28 ust. 4 pkt 1 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Członka Rady powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami Art. 28 ust. 6 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 6 projektu ustawy zmianę w pkt 1) na „rezygnacji złożonej przewodniczącemu Rady opatrzonej kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 29 ust. 1 zd. 1 Związek Banków Polskich Rada Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Art. 29 ust. 1 zd. 2 Związek Banków Polskich Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady. [Usunięcie wskazanego zdania jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1] Art. 29 ust. 3 CHAMBER do czynności tak trywialnej jak zaproszenie osoby na posiedzenie Rady nie jest chyba konieczne kolegialne działanie całej Komisji. Wydaje się bardziej racjonalne przekazanie tej kompetencji Przewodniczącemu Komisji. W art. 29 ust. 4 CHAMBER obowiązek zachowania w tajemnicy _wszystkich_ informacji, do których członek Rady uzyskał dostęp wydaje się zbyt szeroki i powinien obejmować jedynie informacje objęte tajemnicą służbową, przedsiębiorstwa lub prawnie chronioną. art. 29 ust. 5 GRAI Zakazy dotyczące członka Rady są bardzo niedookreślone i trudne do wyegzekwowania. Jeżeli mowa o zakazach to ich zakres powinien być możliwy do zweryfikowania. W tej chwili jest to bardzo ocenne i rodzi ryzyko, że Komisja będzie korzystać z tego uprawnienia wg swojego uznania. Propozycja doprecyzowania określeń co oznacza „działalność publiczna niedająca się pogodzić z działalnością w Radzie” oraz czym są działania skutkujące „konfliktem interesów” 172 Pojawia się wątpliwość czy brak wynagrodzenia za działalność w pracach Rady jest dobrym pomysłem. Taki dodatkowy obowiązek powinien podlegać choćby częściowemu wynagrodzeniu, aby członkowie Rady, często pochodzący z sektora prywatnego, nie musieli samodzielnie ponosić tych kosztów. To jedynie zniechęciłoby kompetentne osoby, gdyby musiały w wolnym czasie wykonywać dodatkowe obowiązki, bez wynagrodzenia. Propozycja uwzględnienia chociaż częściowego wynagrodzenia dla członków Rady, aby zachęcić odpowiednie osoby do poświęcenia swojego wolnego czasu na zaangażowanie w pracach Rady. art. 29 ust. 5 pkt. 2 CHAMBER projekt de facto zakazuje podejmowania wszelkiej działalności związanej z tworzeniem czy korzystaniem z systemów sztucznej inteligencji. Norma ta jest sformułowana zdecydowanie zbyt szeroko i może wykluczyć z udziału w Radzie wszystkich zawodowo czy naukowo związanych z tworzeniem i komercjalizowaniem systemów SI. Byłoby to zaprzeczenie samego celu istnienia Rady. Proponujemy usunięcie tego przepisu i zastąpieniem go bardziej precyzyjną normą wzorowaną na instytucji wyłączenia pracownika w KPA. Członek Rady powinien powstrzymać się od zajmowania stanowiska jedynie w ściśle określonych sytuacjach, gdzie jego bezpośredni interes jest przedmiotem de facto wyłącznie opiniodawczej działalności Rady (niebezpieczeństwo negatywnych skutków dla np. konkurentów jest tu raczej teoretyczne). Art. 29 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Wskazujemy na potencjalnie istniejące ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 6 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Art. 29 ust. 6 e-Izba Rekomendujemy rozważenie zmiany projektowanego brzmienia przepisu. Wprowadzenie wynagrodzenia i zwrotu kosztów może być rozwiązaniem, które zachęci wykwalifikowanych ekspertów do pełnienia funkcji w Radzie. Art. 29 ust. 6 Polskie Towarzystwo Informatyczne Brak wynagradzania członków Rady powoduje, że może to być organ niesprawny. Rekomenduje się wprowadzenie wynagrodzenia dla członków za udział w posiedzeniach. Prosimy o rozważenie wprowadzenia zasad wynagrodzenia członków Rady. Art. 29 ust. 6 Związek Banków Polskich Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Dodana brakująca litera „w”. 173 Art. 29 ust. 6 Fundacja Panoptykon Koszty udziału w pracach Rady Proponowane przepisy nie przewidują diet/wynagrodzeń ani zwrotu kosztów podróży dla członków Rady (art. 29 ust. 6). Tymczasem, aktywny udział w jej pracach może okazać się bardzo czasochłonny, zwłaszcza biorąc pod uwagę, że Rada będzie zobowiązana do wyrażenia opinii w zakresie i terminie określonym przez Komisję. Członkowie Rady będą więc musieli liczyć się z koniecznością przeznaczenia na prace w Radzie znacznych nakładów czasowych, oraz z tym, że tempo pracy, uzależnione od bieżących potrzeb Komisji, może być trudne do przewidzenia. Konieczność przeznaczenia własnych środków na dojazdy i czas poświęcony na udział w pracach Rady stawia w uprzywilejowanej pozycji przedstawicieli izb gospodarczych i organizacji branżowych, którzy zazwyczaj dysponują większymi zasobami niż np. organizacje społeczne. Dodatkowo, mogą oni być bardziej skłonni do angażowania zasobów na prace w Radzie, ponieważ udział w formułowaniu jej opinii może wspierać interesy biznesowe ich członków. Brak diet oraz zwrotu kosztów z dużym prawdopodobieństwem utrudni natomiast aktywny udział przedstawicieli organizacji społecznych, które z reguły dysponują znacznie mniejszymi środkami i bardziej organiczonymi zasobami personalnymi i czasowymi. Dodatkowo, zapewnienie zwrotu kosztów przejazdu i diet/wynagrodzeń to standardowa praktyka w przypadku innych podobnych ciał doradczych, np. diety i zwrot kosztów przewidują zasady funkcjonowania Rady ds. Ochrony Danych i Rady ds. Cyfryzacji. Proponujemy więc, aby do projektowanej ustawy wprowadzić analogiczne zasady dotyczące wynagrodzeń/diet oraz zwrotu kosztów podróży dla członków Społecznej Rady ds. Sztucznej Inteligencji. Art. 28 ust. 6 Fundacja FinTech Poland Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 5 Fundacja Panoptykon Konflikt interesów członków Rady Doceniamy wprowadzenie zasad związanych z konfliktem interesów w przypadku członków Rady, zawartych w art. 29 ust. 5 projektu ustawy. Uważamy jednak, że konieczne jest doprecyzowanie, jakie sytuacje mogą prowadzić do konfliktu interesów oraz jakie byłyby ich konsekwencje. Konflikt interesów może wystąpić np. w sytuacji, gdy członek Rady jest powiązany z firmą lub instytucją będącą przedmiotem postępowania, w ramach którego Komisja zwraca się do Rady o opinię. Może to mieć miejsce w przypadku zatrudnienia członka Rady przez kontrolowany podmiot lub gdy kontrolowany podmiot jest członkiem organizacji branżowej/ izby gospodarczej, którą członek Rady reprezentuje. Nie postulujemy całkowitego wykluczenia osób związanych z nadzorowanymi podmiotami z prac Rady. Uważamy jednak, że w sytuacjach, gdy opinia Rady dotyczy bezpośrednio podmiotu, z którym związany jest członek Rady, lub technologii, którą ten podmiot 174 rozwija, członek Rady powinien wyłączyć się z dyskusji oraz wstrzymać się od głosowania w tej sprawie. Art. 30 Fundacja Sztuka Media Film Zwracamy uwagę, że zaproponowane brzmienie art. 30 projektu ustawy o systemach sztucznej inteligencji sprawia, że istnieje możliwość istotnego ograniczenia faktycznej roli Społecznej Rady do spraw Sztucznej Inteligencji, z uwagi na brak jasnego zobowiązania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji do przekazywania Radzie projektów lub innych dokumentów celem ich zaopiniowania. Poddajemy pod rozwagę doprecyzowanie zakresu kompetencji Społecznej Rady do spraw Sztucznej Inteligencji i wprowadzenie regulacji wskazującej na konieczność uzyskania przez Komisję jej opinii, a nie tylko na możliwość podjęcia takich działań. Postulujemy wprowadzenie katalogu zamkniętego spraw wymagających uzyskania opinii Społecznej Rady do spraw Sztucznej Inteligencji, w ramach którego znalazłyby się projekty lub dokumenty związanie z wykorzystaniem sztucznej inteligencji w sektorze kultury lub mediów, w szczególności w kontekście praw twórców. Z uwagi na profil działalności naszej fundacji – zwracamy uwagę na potrzebę dialogu z przedstawicielami środowisk artystycznych i twórczych w tym branży filmowej oraz mediów. Niniejszy postulat pozostaje w związku z postulatem poszerzenia składu Społecznej Rady do spraw Sztucznej Inteligencji wskazanym w pkt. I powyżej. Art. 30 ust. 1 e-Izba Aktualne brzmienie tego przepisu sprawia, że nie można wykluczyć sytuacji, w której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie przekazywać Społecznej Radzie do spraw Sztucznej Inteligencji projektów lub innych dokumentów do zaopiniowania lub wyrażenia stanowiska, a w konsekwencji działalność Społecznej Rady do spraw Sztucznej Inteligencji będzie znikoma. Istotnym jest, aby Społeczna Rada do spraw Sztucznej Inteligencji miała możliwość wypowiadania się na bieżące tematy związane ze sztuczną inteligencją, stanowiące przedmiot działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W związku z powyższym proponujemy wprowadzenie zamkniętego katalogu spraw, które Społeczna Rada do spraw Sztucznej Inteligencji będzie zobligowania zaopiniować. W szczególności proponujemy, aby w tym katalogu znalazły się kwestie dotyczące: obowiązków przedsiębiorców związanych z wykorzystaniem sztucznej inteligencji, inicjatyw legislacyjnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz dotyczących działań mających na celu wspieranie oraz monitorowanie rozwoju innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 30 ust. 1 Związek Banków Polskich Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez pełny skład Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych 175 sytuacjach, gdy zostaną one przyjęte jednomyślnie przez pełny skład Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Art. 30 ust. 3 Fundacja Panoptykon Zadania Rady Art. 30 ust. 3 projektu ustawy stanowi obecnie, że w zakresie innym niż ten przekazany do opinii przez Komisję, Rada może wyrazić opinię lub stanowisko z własnej inicjatywy. Stanowczo popieramy to rozwiązanie, ponieważ pozwoli to Radzie zwrócić uwagę Komisji na istotne kwestie, które ta mogła przeoczyć. Nie mamy jednak pewności, jak interpretować fragment ust. 3, który mówi, że Rada może wydawać opinie w zakresie „dotyczącym spraw określonych w art. 1 ust. 1 ustawy”. Zwracamy uwagę, że to odwołanie wydaje się błędne, ponieważ art. 1 zawiera punkty, a nie ustępy. Jeśli jest to błąd redakcyjny i intencją projektodawcy było odwołanie do art. 1 pkt 1, uważamy, że zakres ten jest zbyt wąski. Obejmowałby on bowiem wyłącznie opinie w sprawie „organizacji i sposobu sprawowania nadzoru nad rynkiem”, podczas gdy opinie Rady mogą być równie wartościowe w przypadku innych kwestii, takich jak postępowania w sprawie naruszeń przepisów rozporządzenia w sprawie sztucznej intelignecji (art. 1 pkt 2), szczególnie w przypadkach mających znaczenie dla ochrony praw obywatelskich lub konsumenckich, a także w odniesieniu do działań wspierających rozwój systemów sztucznej inteligencji (art. 1 pkt 6). Aby Rada mogła w pełni zrealizować swoją rolę doradczą i sygnalizacyjną, postulujemy rozszerzenie jej kompetencji o możliwość wydawania opinii z własnej inicjatywy we wszystkich sprawach regulowanych ustawą, a także o dodanie zadań związanych z wyrażaniem opinii na temat zmian prawa w obszarze sztucznej inteligencji, analogicznie do kompetencji Rady ds. Ochrony Danych. Art. 32 ust. 2 KIG Sugerujemy, by Przewodniczący Komisji mógł nie tylko nadawać regulamin, ale też go zmieniać. Sugerujemy, by dopisać, iż regulamin może zawierać sformułowania doprecyzowujące zapisy Ustawy, wszelkie inne zapisy organizacyjne, które nie stoją w sprzeczności z aktami nadrzędnymi oraz takie, których akty nadrzędne nie zabraniają Art. 32 ust. 4 CHAMBER określa charakter prawny powołania Dyrektora Biura Komisji. Brakuje jednak analogicznych przepisów dotyczących Przewodniczącego Komisji i jego Zastępców. Wpisuje się to w problematyka nieco niejasnego uregulowania statusu Komisji jako “państwowej osoby prawnej”, a nie organu administracji. Sugerujemy dopracowanie tych przepisów właśnie w kierunku jasnego określenia statusu Komisji i Przewodniczącego. 176 Art. 33 ust. 1 CHAMBER jest zupełnie niepotrzebny - kto jest pracownikiem określają przepisy właśnie Kodeksu pracy i będzie on stosowany do tych osób bez względu na to, czy dana ustawa zawiera takie stwierdzenie. Jedynie uregulowanie przeciwne (o ile w ogóle dopuszczalne), wyłączające stosowanie przepisów KP do danej kategorii osób, byłoby celowe. Art. 34. Ust.2 Logicise zróżnicowane przychody biura Wydaje się, że obecny zapis, który m.in. umożliwia wpływy darowizn czy innych przychodów na rzecz Biura Komisji, jest niewystarczająco restrykcyjny i pozwala na uzyskiwanie przychodów niezwiązanych z działalnością statutową Komisji i Biura Komisji. Ponadto, otwiera możliwości dla sytuacji noszących znamiona działalności lobbingowej i/lub korupcyjnej. art. 34 pt.2 ppkt.5 Związek Zawodowy Scenarzystów Polskich GILDIA SCENARZYSTÓW Jednocześnie nasze wątpliwości budzi art. 34 pt.2 ppkt.5 mówiący o tym, iż źródłem finansowania Biura Komisji mogą być darowizny i zapisy. Biuro Komisji organizuje pracę komisji, która w ten sposób jest od niego uzależniona. Bez zawężającego określenia kto może być donatorem, darowizny na rzecz państwowej komisji ze strony prywatnych podmiotów — być może bezpośrednio zainteresowanych odpowiednimi decyzjami lub stworzeniem konkretnych przepisów, mogą budzić wątpliwości co do intencji donatora. W skrajnych przypadkach może być podważana rzetelność wydanych przez Komisję decyzji i opracowanych przepisów — jeśli będą one dotyczyć bezpośrednio lub pośrednio donatora. Zdaniem Gildii Scenarzystów należy albo doprecyzować zapis ograniczając donatorów tylko do jednostek i agencji rządowych lub też usunąć wzmiankowany podpunkt jako potencjalnie korupcjogenny. Art. 36 ust. 1 Logicise audyt sprawozdań finansowych Oprócz firmy audytorskiej, istotne jest, aby działalność Biura Komisji podlegała kontroli Najwyższej Izby Kontroli (NIK). Art. 36 ust. 2 GRAI I. Wybór firmy audytorskiej powinien odbyć się w trybie zamówień publicznych, w przetargu publicznym niezależnie od wartości zamówienia. II. Wątpliwości dotyczą faktu, że wybór „firmy audytorskiej” jest dokonywany przez Prezesa Rady Ministrów bez żadnych dodatkowych wytycznych, co oznacza, że wybór zależy tylko i wyłącznie od niczym nie ograniczonej woli Premiera. Budzi to wątpliwości o dokonanie właściwego wyboru. NIK powinien zajmować się weryfikacją sprawozdań finansowych Komisji. Alternatywnie powinno się umożliwić dokonanie wyboru audytora w oparciu o obiektywne kryteria, możliwe do zweryfikowania, aby zapewnić obiektywizm oraz bezstronność. 177 Propozycja przyjęcia treści ust. 2 (wskazanie kierunku zmian): „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej po przeprowadzeniu przetargu publicznego, niezależnie od wartości zamówienia.”. Art. 36 ust. 2 ISSA Polska Proponuję zamienić na: Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów dokonuje wyboru firmy audytorskiej. art. 38 ust. 1 GRAI Uwaga legislacyjna - Odesłanie do nieistniejących przepisów projektowanej ustawy, tj. do art. 11 ust. 8 i 10 (art. 11 kończy się na ust. 3). Art. 38 ust. 1 Osoba fizyczna jk W art. 11 nie ma ust. 8 i 10. Chyba zamysłem był zapis \"art. 11 ust. 1 pkt 3, 8 i 10 ustawy\". art. 39 CHAMBER Przepisy art. 39 o wydawanej pracownikom Biura Komisji legitymacji służbowych zostały w dużej mierze przeniesione z ustawy o nadzorze nad rynkiem finansowym. Dokonane w nich miejscami zmiany budzą jednak wątpliwości, gdyż nie są konsekwentne. Sama idea wydania legitymacji w “postaci elektronicznej” zasługuje na poparcie, ale w żaden sposób nie jest sprecyzowane, na czym dokładnie ta “postać elektroniczna” polega, a wydaje się to kwestią istotną. Ma to bezpośrednie zastosowanie do sytuacji przewidzianej w ust. 4, czyli do wymiany takiego dokumentu - w jaki sposób zachodzi “wymiana” dokumentu w postaci elektronicznej? W jaki sposób pracownik przedstawia taki dokument przy rozpoczęciu kontroli? Warto rozważyć dopracowanie tych przepisów lub umieszczenie w ust. 6 odpowiedniej delegacji ustawowej do wydania przepisów wykonawczych w tym zakresie. Wskazane wydaje się też dodanie wymogu umieszczenia zdjęcia pracownika na w legitymacji. art. 39 ust 1 oraz 5 GRAI Propozycja przyjęcia ,,fizycznej formy” legitymacji, a jeśli zostawiamy postać elektroniczną, należy zastanowić się nad zmianą ust. 5. (Fizyczna legitymacja ułatwia rozpoczęcie kontroli). artykuł 39 ust. 4 pkt 1) PIIT 1) aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObywatel czy w innej postaci? artykuł 39 ust. 4 pkt 1) KIGEiT Propozycja zapisu: 1) wymianie - aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? 178 art. 40 ust. CHAMBER Nie jest jasne, a jakie “wymogi” chodzi projektodawcom w przepisie art. 40 ust. 1. Odesłanie do art. 70 Rozporządzenia 2024/1689 jest wysoce nieprecyzyjne. Można się jedynie domyślać, że chodzi o “wymogi dotyczące kompetencji i zasobów” o którym mowa w art. 70 ust. 3 Rozporządzenia. Jeżeli tak jest w istocie, to należy odpowiednio zmienić brzmienie przepisu ust. 1 oraz ust. 2, który odnosi się do “stanu zasobów o którym mowa w ust. 1”, mimo że w ust. 1 mowa jest jedynie o “wymogach”. Od strony merytorycznej wydaje się nie do końca fortunne, że Przewodniczący Komisji będzie określał wymogi w zakresie kompetencji i zasobów (w tym ludzkich) dla własnej instytucji, a następnie oceniał ich stan i raportował o nich do Komisji Europejskiej (ust. 3). W praktyce Rozdział 3 projektu ustawy, dotyczący kontroli, może okazać się najistotniejszy i sprawić podmiotom rozwijającym lub korzystającym z SI w Polsce najwięcej problemów. Bardzo słusznym rozwiązaniem jest tu oparcie się o przepisy ustawy Prawo przedsiębiorców (art. 42 projektu). Należy jedynie wyrazić żal, że nie uczyniono tego w pełni konsekwentnie. Przykładowo zamiast regulacji art. 43 ust. 5 kontrola powinna być rozpoczęta zgodnie z przepisem art. 49 ust. 1 ustawy Prawo przedsiębiorców. Podobnie nie jest jasne, dlaczego wprowadzono w art. 43 ust. 6 projektu ustawy odrębną regulację upoważnienia do przeprowadzenia kontroli, które różni się jedynie jednym szczegółem od regulacji zawartej już w art. 49 ust. 7 ustaw Prawo przedsiębiorców. Postulujemy ponowny przegląd projektowanych przepisów i odstąpienie od regulacji które zasadniczo powielają już istniejące przepisy, powodując niepotrzebne niejasności i rozwlekłość projektowanych przepisów. art. 40 ust. 3 GRAI Uwaga redakcyjna - brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „rozporządzenia 2024/1689”. Rozdział 3 Open AI Devs Community Procedury kontrolne. Wnioskujemy o doprecyzowanie w rozdziale 3 ustawy: • Szczegółowych procedur ochrony własności intelektualnej podczas kontroli; • Terminów na przygotowanie się do kontroli; • Możliwości asysty eksperta technicznego wybranego przez kontrolowanego. Rozdział 3 KIGEiT Rekomendacja: Dodanie zapisów o elastycznych zasadach testowania: W Rozdziale 3 (Kontrola przestrzegania przepisów), należałoby dodać, że: \"Podmioty korzystające z piaskownicy regulacyjnej mogą testować nowe technologie AI w warunkach nieobjętych pełnymi wymogami regulacyjnymi przez okres do 24 miesięcy. Piaskownice mogą obejmować zarówno produkty na etapie koncepcji, jak i projekty we wczesnej fazie wprowadzania na rynek, przy czym testy będą podlegać jedynie uproszczonym procedurom nadzoru. Uczestnicy piaskownic nie podlegają karom za naruszenie przepisów, jeśli działania mieszczą się w ramach ustalonych przez Komisję w programie testowym.\" , Rozdział 1, Art. 3, pkt 15, ustawa odnosi się do \"piaskownicy regulacyjnej\" jako przestrzeni do eksperymentowania z nowymi technologiami AI. Należy wzmocnić ten zapis, podkreślając jego znaczenie w stymulowaniu innowacji. Wskazana w 179 rekomendacji elastyczność zachęcałaby firmy do testowania innowacyjnych technologii, co mogłoby napędzać postęp w obszarze AI, bez obawy o nadmierne regulacje. Rozdział 3 Związek Banków Polskich Kontrola dot. AI, co do zasady, powinna odbywać się z dużym wyprzedzeniem (notyfikacją) – z uwagi na poziom skomplikowania materii. Przepisy projektu nie powinny odsyłać do przepisów Prawa przedsiębiorców w zakresie kontroli dot. AI. Przepisy projektu powinny szczegółowo regulować zasady kontroli AI. Szczegółowe uregulowanie zasad kontroli AI powinno obejmować również rozwiązania w postaci wyjaśnień pokontrolnych i możliwości adresowania wyników kontroli przeprowadzonej przez Komisję. Rozdział 3 GRAI Sugeruje dodanie rozdziału na temat zasad nadzoru rynku – tj. możliwe rozstrzygnięcia ich forma, droga odwoławcza. Wprowadzenie katalogu możliwych rozstrzygnięć i jasnej drogi odwoławczej sprzyja przewidywalności Rozdział 3 PSSI Wpływ wymogów kontrolnych na MSP rozwijające Sztuczną Inteligencję Obecna wersja Ustawy daje rozległe uprawnienia kontrolne, bez względu na wielkość kontrolowanego podmiotu. Niektóre z zapisów ustawy, może narazić, szczególnie mniejsze przedsiębiorstwa na znaczące koszty. Przykładem zapisów, o potencjalnie bardzo istotnych konsekwencjach dla małych podmiotów są: Art. 47 pkt 2 Od zaleceń pokontrolnych nie przysługują środki odwoławcze. lub Art 52 pkt 3 Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. W przypadku mniejszych przedsiębiorstw, jakimi często są firmy rozwijające innowacyjne rozwiązania, takie wymogi mogą doprowadzić do utraty płynności lub innych niepożądanych konsekwencji. Rekomendujemy traktowanie ograniczające koszty kontroli, które ponosić mogą mniejsze przedsiębiorstwa. Rozdział 3 GRAI Sugeruje rozważenie wprowadzenia możliwości wydawania interpretacji indywidualnych przez Komisję w sytuacjach niejednoznacznych. Interpretacja wydawana byłaby na wniosek po spełnieniu określonych przesłanek Rozdział 3 lub 4 Związek Banków Polskich [Propozycja dodania przepisu w Rozdziale 3 lub 4] 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. 180 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają przesłanek do objęcia ich tajemnicą przedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. Zastrzeganie informacji i dokumentów powinno być możliwe nie tylko w zakresie kontroli, ale również w zakresie komunikacji z Komisją. Rozdział 3 Związek Cyfrowa Polska Zbyt szerokie uprawnienia kontrolne, które mogą stwarzać ryzyko operacyjne i związane z prowadzeniem innowacyjnej działalności przez firmy. Dodatkowo, Projekt nie gwarantuje w pełnym zakresie niezbędnych środków zaskarżenia rozstrzygnięć wydawanych przez organ kontrolujący. Art. 41 PWPW Ust. 1. Komisja może przeprowadzać kontrolę działalności podmiotów Przepisy ust. 1 i ust. 2 powinny wyraźnie wskazywać, że zakres kontroli może dotyczyć wyłącznie systemów AI. Natomiast obecna propozycja regulacji wskazuje, że kontrola 4 obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Ust. 2. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia 2024/1689 i ustawy. może dotyczyć całości działalności organizacji („kontrola działalności podmiotów”). W związku z tym zakres przepisu jest zbyt szeroki. Art. 41 KIGEic Propozycja zapisu: Dodanie ust. 4 \"Z wyłączeniem kontroli przestrzegania przepisów o sztucznej inteligencji w prywatnych, zamkniętych systemach podmiotów, do których dostęp mają tylko te podmioty i obieg wprowadzanych dane do systemów sztucznej inteligencji jest zamknięty, a wyniki stworzone w tych systemach przez sztuczną inteligencję nie są nigdzie upubliczniane\". , Jeżeli dany podmiot w ramach swojej działalności ma zamknięty system (box) gdzie zbierane i analizowane są dane wejściowe do systemów AI, następnie AI pracuje wyłącznie na tych danych w zamkniętym systemie i dane wyjściowe nie są upubliczniane - to wówczas nie istnieje żadne ryzyko związane z regulacjami dot. systemów sztucznej inteligencji. 181 Art. 41 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie kategorii podmiotów poprzez np. odesłanie do treści Rozporządzenia 2024/1689. Art. 41 ust. 1 Fundacja FinTech Poland Zwracamy się z prośbą o doprecyzowanie zakresu podmiotów. Proponujemy odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f. Wątpliwości rynku budzą intencję projektodawcy, czy ustawa ma na celu poszerzenie zakresu podmiotów podlegających kontroli. Art. 41 ust. 1 i 2. PIIT Komisja może przeprowadzać kontrolę działalności podmiotów, o których mowa w art. 2 ust. 1, lit. a) - f) rozporządzenia 2024/1689. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia i ustawy w odniesieniu do systemów zakazanych oraz systemów wysokiego ryzyka lub innych systemów, co do których istnieje uzasadnione przypuszczenie, iż mogą być systemem wysokiego ryzyka mimo odmiennej ich kwalifikacji. Art. 41 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż określenie „ustalenie zgodności działalności podmiotów” ma bardzo szeroki charakter. Postulujemy zawężenie wyżej wskazanego określenia lub wylistowanie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Art. 41 ust. 2 Fundacja FinTech Poland Określenie celu kontroli jako „ustalenie zgodności działalności podmiotów z przepisami rozporządzenia 2024/1689 i ustawy” jest bardzo szerokie i może prowadzić do niejasności co do zakresu kontroli oraz potencjalnie różnych interpretacji. W celu zwiększenia precyzji i efektywności działań kontrolnych, warto rozważyć zawężenie tego przepisu poprzez wylistowanie konkretnych aspektów, które będą przedmiotem kontroli. Na przykład, można wskazać, że kontrola obejmuje sprawdzenie braku modeli zabronionych, odpowiednią klasyfikację ryzyk, spełnianie wymogów transparentności, stosowanie środków zabezpieczających oraz zgodność z zasadami etycznymi i technicznymi dotyczącymi sztucznej inteligencji. Takie sprecyzowanie zakresu kontroli zwiększy przejrzystość postępowania zarówno dla organów kontrolujących, jak i dla kontrolowanych podmiotów, co przyczyni się do lepszego zrozumienia obowiązków oraz zapewni bardziej ukierunkowane i efektywne działania nadzorcze. Art. 41 ust. 3 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko możliwości wszczęcia kontroli na podstawie jakiejkolwiek informacji, powziętej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 182 Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zapewnienia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy istotne jest zwiększenie pewności prawnej przedsiębiorców w zakresie kompetencji kontrolnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ważne jest, aby przypadki kontroli przedsiębiorców ograniczyć do sytuacji, w których istnieje rzeczywiste prawdopodobieństwo naruszenia przez przedsiębiorcę przepisów rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji. W związku z powyższym proponujemy zmianę aktualnego brzmienia art. 41 ust. 3 projektu ustawy o systemach sztucznej inteligencji poprzez wskazanie, że podstawą do wszczęcia kontroli, o której mowa w tym przepisie, jest uprawdopodobniona informacja, pozyskana przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 41 ust. 3 Fundacja FinTech Poland Przepis w art. 41 ust. 3 Projektu Ustawy przewidujący, że kontrola może być prowadzona na podstawie uzyskanych przez Komisję informacji, jest niejasny co do źródła, charakteru oraz trybu uzyskiwania tych informacji. Warto doprecyzować, skąd Komisja może pozyskiwać informacje, np. czy pochodzą one od innych organów nadzorczych, instytucji publicznych, organizacji pozarządowych, czy zewnętrznych sygnalistów. Należy również określić, w jakim trybie takie informacje są pozyskiwane – czy w formie oficjalnych raportów, zgłoszeń, czy w wyniku działań monitorujących. Dodatkowo, istotne jest wskazanie, czy uzyskiwane przez Komisję informacje będą ewidencjonowane, a jeśli tak, to w jakiej formie (np. rejestr elektroniczny) i na jakich zasadach będą przechowywane oraz dostępne do wglądu. Takie doprecyzowanie zwiększyłoby przejrzystość procedur kontrolnych, zapewniając jasność zarówno dla podmiotów kontrolowanych, jak i dla samej Komisji, co może przełożyć się na bardziej efektywne i zgodne z prawem prowadzenie działań nadzorczych Art. 41 i 48 ICC Poland Zakres kontroli przestrzegania przepisów o sztucznej inteligencji, o której mowa w rozdziale 3 Projektu, powinien zostać ujednolicony z zakresem postępowania, o którym mowa w rozdziale 4 Projektu. Zgodnie bowiem z art. 41 Projektu Komisja może przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, zaś zgodnie z art. 48 Projektu w przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest ona do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy. Tymczasem to ostatnie postępowanie, zgodnie z Projektem, ogranicza się do postępowania w sprawie naruszenia przepisów jedynie rozporządzenia 2024/1689 (por. art. 1 pkt 2, art. 49 ust. 1 Projektu). Tym samym – według Projektu – przedmiotem kontroli mogą być objęte również naruszenia przepisów ustawy, podczas gdy przedmiotem postępowania w sprawie ich naruszenia już nie, co może mieć istotne znaczenie w razie planowanego uzupełnienia ustawy o systemach sztucznej inteligencji o nowe regulacje. Brak zsynchronizowania przepisów w tym 183 zakresie powoduje również niepewność po stronie podmiotów, do których ustawa ma mieć zastosowanie, co do zakresu potencjalnej kontroli. Art. 41 – 48 Instytut Spraw Obywatelskich Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 41 - 48 Obywatelski Akcelerator Innowacji Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 42 PWPW Do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236). Poprosimy o potwierdzenie, czy przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236) będą miały zastosowanie także do terminów i ograniczeń czasu prowadzenia kontroli. Art. 42 Polska Izba Ubezpieczeń Proponuje się w art. 42 korektę oznaczenia publikatora ustawy – Prawo przedsiębiorców, analogiczną jak ma to miejsce w art. 12 projektu ustawy Art. 43 Polskie Towarzystwo Informatyczne Być może warto by rozważyć podział artykułu 43 na mniejsze elementy (o ile jest to możliwe z punktu widzenia merytorycznego). Artykuł jest trudny do czytania, co może też wpływać na zrozumienie, a także może zwiększać ryzyko pomyłek. Art. 43 ITCORNER Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem nadmiernie ingerują w swobodę prowadzenia działalności gospodarczej i cechuje je nadmierny poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - szczególnie biorąc pod uwagę obszerność dokumentacji technicznej i projektowej powstającej w toku tworzenia oprogramowania. Proponujemy usunięcie tego uprawnienia, ew. ograniczenie go tylko i wyłącznie do zamkniętego katalogu przypadków. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na identyfikację systemu AI podlegającemu kontroli - jest to krytyczne z punktu widzenia podmiotów z branży programistycznej (software house czy agencje), które jednocześnie uczestniczą nawet w kilkudziesięciu projektach (=kilkudziesięciu odrębnie tworzonych systemach), w których zaangażowani są także klienci końcowi i podwykonawcy. Jeśli kontrola ma być efektywna, a wizerunkowo nie ma odbijać się negatywnie w ocenie klienta końcowego - podmiot kontrolowany powinien mieć możliwość poinformowania klienta końcowego oraz 184 zaplanowaniu dalszych prac z jak najmniejszym, negatywnym wpływem na komercyjny projekt programistyczny. W art. 43 ust. 7 brakuje także informacji o: terminach, które powinny zostać zachowane jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, maksymalnym czasie trwania kontroli - proponujemy, aby kontrole trwały nie dłużej niż 14 dni. W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być bardzo krótki, aby mógł realizować swoją funkcję. Art. 43 PIIT ust. 2 Proponujemy zachować zgodność z KPA i ewentualnie wprowadzić do KPA możliwość wprowadzenia kontroli w formie zdalnej. – vs. art. 74 AI Act Art. 43 ust. 4 pkt. 2: W toku kontroli kontrolujący mają prawo do: wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; - czy to oznacza, że kontrolna on-line, w systemach może się odbywać poza godzinami prowadzenia działalności? Brak przepisu wyraźnie wskazującego, że działania kontrolne nie mogą powodować utrudnień w działalności podmiotu kontrolowanego lub działania jego systemów. Art. 43 ust. 10. Dowody, o których mowa w ust. 9, mogą zostać zabezpieczone przez: pozostawienie ich w wydzielonym lub oddzielnym, zamkniętym i opieczętowanym pomieszczeniu u podmiotu kontrolowanego; - na jak długo, na czas kontroli? Art. 43 Ust. 11 – należałoby wskazać kryteria takiego zajęcia. Art. 43 ust. 15 - oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Kto byłby „osobą godną zaufania”? 185 Ponieważ przedmiotem kontroli powinna być zgodność działania systemów AI z AI Act, oraz spełnienie innych wymagań AI Act w tym opracowanie dokumentacji systemu AI, zakres pozyskiwanej przez kontrolujących dokumentacji nie powinien wykraczać poza dokumentację systemu AI. Art. 43 KIGEiT Rekomendacja: Dodanie zapisu, iż osoba przeprowadzająca kontrolę powinna podpisać klauzulę poufności , Mitygacja ryzyka wycieku danych objętych tajemnicą handlową w związku z kontrolą Art. 43 ICC Poland Artykuł 43 ust. 11 Projektu przewiduje możliwość wydania przez Komisję w toku kontroli postanowień o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych i urządzeń, o których mowa w art. 43 ust. 4 pkt 3 ustawy, oraz innych przedmiotów mogących stanowić dowód w sprawie na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Na postanowienie to, zgodnie z art. 43 ust. 13 Projektu, przysługuje zażalenie osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje jednak wykonania postanowienia. Po pierwsze, zajęcie wszelkich informatycznych nośników danych i urządzeń, o których mowa w tym przepisie, może mieć daleko idące konsekwencje dla prowadzenia działalności przez adresata postanowienia. W szczególności pozbawienie go dostępu do takich urządzeń, choćby na kilka dni, może w skrajnych przypadkach uniemożliwić mu prawidłowe prowadzenie działalności lub spowodować znaczące szkody (materialne i niematerialne). Z tego względu, biorąc pod uwagę potencjalne konsekwencje tego rodzaju czynności, należy postulować zawężenie kompetencji Komisji w tym zakresie, precyzując w projekcie przesłanki wydania takiego postanowienia. Po drugie, Projekt bezpośrednio nie reguluje postępowania zażaleniowego, zaś zakres zawartych w ustawie odesłań do ustaw proceduralnych zdaje się nie obejmować tego przypadku (art. 56 Projektu, nakazujący do postępowania przed Komisją stosować w zakresie nieuregulowanym przepisy Kodeksu postępowania administracyjnego4 zdaje się, z uwagi na jego umiejscowienie, dotyczyć jedynie postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689). Rodzi to poważne wątpliwości dotyczące chociażby tego, do kogo takie zażalenie ma być kierowane. Z uwagi na charakter czynności zajęcia ww. przedmiotów wydaje się, że rekomendowanym rozwiązaniem byłoby przyznanie podmiotom, których prawa zostały naruszone zajęciem, prawa złożenia zażalenia do sądu. Art. 43 Związek Banków Polskich Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości, przy czym osoba ta powinna złożyć oświadczenie o braku konfliktu interesów 186 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). 3. W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. 2. Kontrolę przeprowadza się w siedzibie przedsiębiorcy lub w miejscu wykonywania działalności gospodarczej oraz w godzinach pracy lub w czasie faktycznego wykonywania działalności gospodarczej przez przedsiębiorcę. 3. Za zgodą lub na wniosek przedsiębiorcy kontrolę przeprowadza się w miejscu przechowywania dokumentacji, w tym ksiąg podatkowych, innym niż siedziba lub miejsce wykonywania działalności gospodarczej, jeżeli może to usprawnić prowadzenie kontroli. 4. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzane również w siedzibie organu kontroli, jeżeli może to usprawnić prowadzenie kontroli. 4a. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzone w sposób zdalny za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. – Prawo pocztowe (Dz. U. z 2023 r. poz. 1640) lub za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344), jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej. 5. Dokumenty oraz informacje zebrane w toku czynności wykonywanych przez organ kontroli z naruszeniem przepisów ust. 2 i 3a nie stanowią dowodu w postępowaniu kontrolnym. 6. W toku kontroli kontrolujący mają prawo do: 1) swobodnego dostępu do środków łączności oraz, o ile zaistniały okoliczności, o których mowa w ust. 3, do oddzielnego pomieszczenia biurowego; 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, 187 informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp; Osoba wskazana w Art. 43. 1 ust 2) powinna składać obligatoryjnie oświadczenie o braku konfliktu interesów z kontrolowanym podmiotem. Sposób przeprowadzania kontroli powinien być zgodny w pełni z trybem przewidzianym w ustawie z dnia z dnia 6 marca 2018 r. Prawo przedsiębiorców i jako zasada powinna być przyjęta kontrola w siedzibie przedsiębiorcy. Kontrola zdalna może być przeprowadzana za zgodą przedsiębiorcy, a wtedy powinny być szczegółowo ustalone warunki takiej kontroli, w tym przesyłanie danych/dokumentów o charakterze wrażliwym, specjalnego przeznaczenia, dokumentowanie rozmów (nagrywanie?), itd. Przyjęcie zdalnego trybu kontroli jako trybu domyślnego stwarza szereg ryzyk ujawnienia informacji poufnych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa, czy naruszenia ochrony danych osobowych Art. 43 PWPW przepisy dot. kontroli) 1) Analiza charakteru przepisów dotyczących prowadzenia kontroli prowadzi do wniosku, że – w zależności od intensywności kontroli - może ona doprowadzić do uniemożliwienia realizacji usług przez podmiot kontrolowany – co w przypadku usługodawców – może doprowadzić do odpowiedzialności finansowej lub zagrozić jego podstawowym interesom i bieżącej działalności. W szczególności przepisy dot. zajmowania dokumentacji i rzeczy, pieczętowania lokali i zajęcia nośników informacji są niebezpieczne z punktu widzenia przedsiębiorców. 2) Wskazany w art. 43 ust. 4 projektu ustawy zakres czynności kontrolnych jest znacznie szerszy niż to wynika z ustawy – Prawo przedsiębiorców. 3) Przepisy dotyczące kontroli podmiotów zawarte w projekcie ustawy powinny bardziej precyzyjnie określać m.in. prawa kontrolowanego i obowiązki kontrolującego. Z uwagi na swoje znaczenie dla podmiotów wykonujących działalność gospodarczą, przepisy o kontroli powinny zawierać należytą gwarancję ochrony praw przedsiębiorcy w toku kontroli. 188 Art. 43 Związek Pracodawców Technologii Cyfrowych Lewiatan Prowadzenie kontroli (art. 43) Uważamy, że zapisy rozdziału dotyczącego prowadzenia kontroli powinny być ponownie przejrzane, także w celu ujednolicenia zasad np. z projektem nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa. Zapisy powinny odzwierciedlać rozwój technologii informatycznych, sposobów przetwarzania itd. Poniżej przedstawiamy kilka zastrzeżeń związanych przede wszystkim z wykorzystaniem chmury obliczeniowej. Wymóg zdalnych kontroli centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje mogą narażać wrażliwe dane na dostęp zewnętrznych inspektorów, zwiększając ryzyko wycieków lub naruszeń danych. Operatorzy potrzebują solidnych ustawowych zabezpieczeń, wskazujących że procesy kontroli są bezpieczne, zwłaszcza podczas obsługi danych klientów lub informacji podlegających tajemnicy przedsiębiorstwa. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe wprowadza dodatkowe wyzwania związane z ochroną danych osobowych. Zdalne kontrole mogą również prowadzić do zagrożeń związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu wprowadza potencjalne osłabienie systemu cyberbezpieczeństwa, które może zostać wykorzystane przez adwersarzy, co sprawia, techniczne zabezpieczenia, takie jak protokoły bezpiecznego połączenia, są niezbędne. Zakłócenia operacyjne to kolejna kwestia, ponieważ zdalne inspekcje systemów na żywo mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm z systemami krytycznymi dla usług realizowanych w czasie rzeczywistym, czas i metoda inspekcji muszą być starannie skoordynowane, aby zminimalizować przerwy w świadczeniu usług. Zgodność z wymogami dotyczącymi lokalizacji danych może stać się problemem w przypadku przetwarzania w systemach sztucznej inteligencji w jurysdykcjach z surowymi zasadami lokalizacji danych. Zdalne kontrole mogą kolidować z tymi przepisami, jeśli inspektorzy znajdują się poza krajem, tu: w Polsce, potencjalnie narażając firmy na ryzyko prawne. Zakres i kontrola dostępu do inspekcji muszą być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że niezbędne jest wdrożenie ścisłych kontroli dostępu i mechanizmów audytu do monitorowania działań inspektorów, co może być technicznie skomplikowane i angażować znaczące zasoby. Wielu operatorów ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyka, ale także potencjalnie nawet uniemożliwiając zaoferowanie usług na rynku. Rozwiązanie tych problemów wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z przepisami prawnymi oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Również art. 43 ust. 1 mówi o tym, że Przewodniczący Komisji może wskazać osobę trzecią, co budzi dalsze wątpliwości natury cyberbezpieczeństwa. Nie ma żadnych zapisów w jaki sposób następuje weryfikacja takich osób. 189 Art. 43 ust. 1 PWPW Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Proponujemy doprecyzować wymóg rzetelności/bezstronności kontrolującego i przepisy dotyczące wyłączenia kontrolujące z kontroli w przypadku wystąpienia braku bezstronności, tj. wystąpienia potencjalnego lub faktycznego konfliktu interesów. Obecne projekt ustawy ww. zakresie nie zawiera takich regulacji. Kontrolujący nie powinien być powiązany z podmiotem konkurencyjnym wobec kontrolowanego np. przez stosunek pracy lub umowy pokrewne (cywilne),członkostwo w zarządzie, powołanie do rady nadzorczej, relacje inwestycyjne itp. Art. 43 ust. 1 GRAI Komisja nie powinna mieć nieograniczonego prawa do kontroli. Powinno to nastąpić tylko w uzasadnionych przypadkach. Propozycja zmiany na „1. Komisja może w uzasadnionych przypadkach podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania tych przepisów.” Art. 43 ust. 1 Instrat – Fundacja Centrum Cyfrowe Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. - uwaga: niejasne sformułowanie. Art. 43 ust. 1 Fundacja FinTech Poland Przepis art. 43 ust. 1 budzi obawy związane z możliwością delegowania przeprowadzania kontroli osobom spoza Komisji, co stwarza ryzyko naruszenia poufności informacji należących do kontrolowanego podmiotu oraz ich potencjalnego wykorzystania do celów prywatnych lub komercyjnych. Takie rozwiązanie rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć 190 późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do przeprowadzenia kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Art. 43 ust. 1 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis art. 43 ust. 1 pkt 2 w obecnym kształcie budzi zastrzeżenia w zakresie chociażby braku ograniczenia co do osoby, którą może zostać upoważniona do przeprowadzenia kontroli z punktu widzenia konfliktu interesów. Budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego. Podnosimy, iż kontrolującymi nie powinny być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. art. 43 ust. 1 pkt 1 i 2 GRAI Osoba upoważniona do przeprowadzenia kontroli powinna być pracownikiem Biura oraz posiadać wiedzę specjalistyczną oraz władać językiem angielskim. Obecna redakcja wskazuje na alternatywę, kontrolującym może być albo pracownik Biura albo osoba spoza Biura, ale posiadająca niezbędną wiedzę. Te dwie przesłanki muszą być spełnione łącznie. Postuluje się dodanie w art. 43 ust. 1 pkt 1słowa „oraz” na końcu zdania. Dodanie obowiązku znajomości języka angielskiego. art. 43 ust. 1 pkt 1 i 2 PIIT Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Upoważnienie do \"przeprowadzenia kontroli\", a nie do udziału/przeprowadzenia czynności kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. 191 art. 43 ust. 1 pkt 2 CHAMBER W pierwszej kolejności należy stwierdzić, że dopuszczenie do prowadzenia kontroli osób nie będących pracownikami Biura Komisji (art. 43 ust. 1 pkt. 2) nie powinno być możliwe. Trudno znaleźć uzasadnienie lub wzorzec takiego zlecanie osobom trzecim wykonywania funkcji imperium Państwa. Prowadzącym kontrolę zawsze musi być wyłącznie pracownik organu, który może jedynie dodatkowo przybrać sobie w charakterze pomocnika “osobę posiadającą wiedzę specjalistyczną”. Wnosimy o wykreślenie tego przepisu w obecnym brzmieniu. Art. 43 ust.1 pkt 2 KIGEiT Propozycja zapisu: Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. , Upoważnienie do \"przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, Art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Art. 43 ust. 1 pkt. 2 e-Izba Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla innych celów, niż prowadzenie kontroli. Rozumiemy, że można wydelegować do kontroli pracowników organów wskazanych w art. 6 ust. 3 Projektu, ale nie powinny to być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. art. 43 ust. 2 i kolejne Związek Telewizji Kablowych w Polsce Izba Gospodarcza W tym stanie rzeczy proponujemy skreślenie art. 43 ust. 2 projektu ustawy o AI jako niezgodnego z regulacją art. 8 zd. | prawa przedsiębiorców, a zarazem pozbawionego jakichkolwiek racjonalnych podstaw, a także niezgodnego z zasadami zdrowego rozsądku. G/ Nie sposób zrozumieć w czym zasadza się prawo kontrolującego do wstępu na grunt oraz do obiektów budowalnych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia „dzielności” podmiotu kontrolowanego (art. 43 ust. 4 pkt. 2 in fine projektu ustawy o AT). To kolejny przykład braku staranności w przygotowaniu projektu ustawy o 192 AI albowiem prawdopodobnie chodziło projektodawcy o wstęp w dniach i godzinach pracy podmiotu lub prowadzenia „działalności” przez podmiot kontrolowany. H/ Nie sposób zaakceptować opcji obciążania podmiotu kontrolowanego, w tym i będącego przedsiębiorcą, kosztami sporządzania na żądanie organu kontrolującego kopii lub wydruków materiałów, czy korespondencji oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w art. 43 ust. 4 pkt. 3 projektu ustawy o Ai (art. 43 ust. 4 pkt. 5 projektu ustawy o A). Skoro to organ kontroli państwowej potrzebuje rzeczonych dokumentów to sam na własny koszt winien je sobie skopiować względnie wydrukować, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty kopiowania, czy też drukowania dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 43 ust. 4 pkt. 5 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji rzeczypospolitej Polskiej z dnia 2.04.1997 r. (Dz. U. nr 78 poz. 483 z późn. zm.), zwanej dalej Konstytucją RP]. art. 43 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zdecydowanie należy pochwalić takie rozwiązanie, ale też należy zwrócić uwagę, że Komisja będzie musiała je zoperacjonalizować. Wysyłanie wiadomości e-mail na pewno będzie nieefektywną formą przekazywania danych. W związku z tym wnosimy o wyjaśnienie czy Komisja wystawi API, z którym podmioty kontrolowane będą mogły/musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom Komisji (przez narzędzia do współpracy zdalnej)? Postulujemy uzupełnienie przepisu art. 43 ust. 2 zdanie drugie Projektu ustawy w następujący sposób: „W szczególnie uzasadnionych przypadkach (...)”. Zasadnym byłoby, aby fizyczne kontrole były absolutnym wyjątkiem. Wówczas po stronie kontrolowanej nie wystąpi konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Art. 43 ust. 2 Fundacja FinTech Poland Zdecydowanie warto docenić wprowadzenie możliwości przeprowadzania kontroli w sposób zdalny, co przyczynia się do usprawnienia procedur nadzorczych oraz redukcji kosztów i czasu poświęcanego na kontrole. Niemniej jednak, należy zwrócić uwagę, że KRiBSI będzie musiała zoperacjonalizować te przepisy, aby zapewnić sprawne i efektywne funkcjonowanie zdalnych kontroli. Wysyłanie dokumentów drogą mailową jest rozwiązaniem, które może okazać się nieefektywne, szczególnie przy dużej ilości danych lub w przypadku przekazywania informacji o wysokim stopniu wrażliwości. W związku z tym rekomenduje się rozważenie, czy KRiBSI powinna opracować i wystawić dedykowane API, umożliwiające bezpieczną i zautomatyzowaną wymianę danych z podmiotami 193 kontrolowanymi. Takie rozwiązanie pozwoliłoby na lepszą integrację systemów i znacznie przyspieszyło procesy kontrolne, zapewniając jednocześnie odpowiedni poziom bezpieczeństwa i ochrony danych. Alternatywnie, warto ustalić, czy na potrzeby zdalnej kontroli wystarczające będzie zapewnienie pracownikom KRiBSI zdalnego dostępu do systemów podmiotów kontrolowanych za pomocą narzędzi do współpracy online. Ponadto, aby uniknąć nieefektywności związanych z fizycznymi kontrolami, sugeruje się, aby były one stosowane wyłącznie w absolutnie wyjątkowych przypadkach. Obecny zapis dotyczący przesyłek kurierskich i rejestrowanych może sugerować konieczność drukowania dużej ilości dokumentów, co jest niepraktyczne i mija się z ideą zdalnej kontroli. W skrajnych przypadkach, jak kontrola systemów opartych na ogromnych zbiorach danych (np. system wytrenowany na treściach typu Wikipedia), fizyczne przesyłki mogą prowadzić do absurdalnych sytuacji, takich jak konieczność drukowania tysięcy stron dokumentacji. W związku z powyższym, warto rozważyć doprecyzowanie przepisów, aby zapewnić, że procesy zdalne będą dominującą formą kontroli, a fizyczne przesyłki będą wykorzystywane wyłącznie w ostateczności. Postulowane brzmienie przepisu: Art. 43 ust. 2 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W szczególnie uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). Art. 43 ust. 3 Polski związek zarządzania wierzytelnościami Art. 43 ust. 3 Projektu Nasze wątpliwości budzi fakt, że art. 43 ust. 3 Projektu nie wskazuje zakresu „szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Ograniczenie zakresu kontroli stacjonarnych do specjalnych potrzeb (np. w celu oględzin urządzeń, dokumentów i materiałów, jakimi dysponuje w swojej siedzibie kontrolowany) w znacznym stopniu wpłynęłoby pozytywnie na budowanie zaufania na linii organ - przedsiębiorstwa, jednak przede wszystkim zminimalizowałoby negatywny wpływ, jak i efekt mrożący, na działalność przedsiębiorstw. Wydaje się, że w znakomitej większości przypadków - niezbędna dotycząca systemu dokumentacja będzie powstawała w formie cyfrowej, a nie fizycznej. 194 Art. 43 ust. 3 Osoba fizyczna jk błąd gramatyczny W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Art. 43 ust. 3 GRAI Brak odniesienia się do kryteriów zainicjowania kontroli – kary są wysokie, a Komisja może przeprowadzić kontrolę „na podstawie uzyskanych informacji”. Oznacza to. Że kontrola może być wszczęta na podstawie każdej skargi wnoszona w trybie art. 85 AI Act (o której mowa w art. 50 ustawy), każdej informacji powziętej przez Komisję. Kontrola „w ramach monitorowania przestrzegania” przepisów AI Act – użycie tego sformułowania sugeruje, że kontrola może być zainicjowana w urzędu bez podania konkretnej przyczyny. Bardzo to niepokoi. Rekomendowane jest doprecyzowanie: Jaki charakter powinny mieć takie informacje? Co może być źródłem takiej informacji? Warto zaproponować stworzenie planu kontroli na kolejne lata, podobnie jak dzieje się to w UODO. Takie planowane kontrole odbywałyby się w ramach monitorowania przestrzegania przepisów AIA, nie dotyczyłyby, z oczywistych względów, kontroli ad hoc. Po ust. 3 dodać ust. 4 wskazujący na obowiązek opracowywania planów kontroli na następne lata. Art. 43 ust. 3 e-Izba Rekomendujemy wskazanie w katalogu otwartym przykładów „szczególnie uzasadnionych okoliczności”. Zwiększy to przewidywalność stosowania tego przepisu. Art. 43 ust. 3 Polskie Towarzystwo Informatyczne Może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Propozycja edytorska „może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.” Art. 43 ust. 3 ITCORNER Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Aby zminimalizować liczbę kontrol stacjonarnych w siedzibie / biurze kontrolowanego, oraz ich negatywny wpływ na działalność przedsiębiorców, proponujemy doprecyzowanie zakresu “szczególnych okoliczności”, 195 które uprawniają do wykonania kontroli stacjonarnej w siedzibie / biurze kontrolowanego i ograniczenie ich do takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym (np. kontrola wymaga oględzin urządzeń fizycznych lub informacje i materiały związane z przedmiotem kontroli nie mogą zostać przedstawione kontrolującemu zdalnie / w formie cyfrowej). Art. 43 ust. 3 KIGEiT Rekomendacja: Dodanie w ust. 3 zapisu, iż kontrola w siedzibie podmiotu kontrolowanego lub w innym miejscu prowadzenia przez niego działalności powinna się odbyć przy udziale upoważnionego reprezentanta podmiotu kontrolowanego, zakończona protokołem pokontrolnym. , Uzasadnienie: podmiot kontrolowany powinien mieć prawo brać czynny udział podczas kontroli przeprowadzanej w jego siedzibie/miejscu prowadzenia działalności. Art. 43 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, poprzez wskazanie katalogu przykładów, o jakie „szczególne okoliczności” chodzi. Pozwoli to zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Wskazujemy również, iż wątpliwości budzi uprawnienie osoby kontrolującej do podjęcia decyzji wskazanej w tym przepisie, szczególnie, że kontrolującym może być również osoba nie będąca pracownikiem Komisji. Z tej przyczyny postulujemy, aby na potrzeby komentowanego przepisu za kontrolującego uznać jedynie pracownika Komisji. Wnosimy również o doprecyzowanie przepisu w zakresie postępowania odwoławczego jak również w zakresie charakteru decyzji (administracyjna/operacyjna). Art. 43 ust. 3 GRAI Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, co rodzi wysokie ryzyko nadużyć. W przypadku gdy szczególne okoliczności to uzasadniają (...) może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego – nie wiemy, co to są „szczególne okoliczności to uzasadniające”. Konieczność określenia zakresu “szczególnych okoliczności” uprawniających do wykonania czynności kontrolnych w siedzibie podmiotu, tj. takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym: Materiały związane z przedmiotem kontroli nie mogą zostać okazane kontrolerowi w formie cyfrowej Kontrola wymaga oględzin fizycznych urządzeń Art. 43 ust. 3 Fundacja FinTech Poland W związku z brzmieniem art. 43 ust. 3, wskazującym na możliwość przeprowadzenia kontroli w siedzibie podmiotu 196 kontrolowanego lub w miejscu jego działalności, zasadne jest doprecyzowanie, jakie szczególne okoliczności mogą uzasadniać taką decyzję. Rekomendujemy podanie przykładowego (choć otwartego) katalogu takich sytuacji, który mógłby obejmować: przypadki podejrzenia manipulacji danymi lub systemami, konieczność weryfikacji sprzętu fizycznego używanego do działania systemu AI, bądź potrzebę zbadania infrastruktury sieciowej i zabezpieczeń, które mogą być kluczowe dla oceny ryzyka związanego z systemem AI. Ponadto, wątpliwości budzi kwestia, czy decyzja o wykonaniu kontroli w siedzibie powinna pozostawać w gestii jednej osoby kontrolującej, szczególnie gdy art. 43 ust. 1 pkt 2 zezwala na przeprowadzanie kontroli przez osoby spoza Komisji. Aby zminimalizować ryzyko nadużyć oraz zapewnić obiektywność i rzetelność procesu, zasadne wydaje się ograniczenie uprawnienia do podejmowania takiej decyzji do pracowników Komisji. Kontrolującym w rozumieniu tego przepisu powinna być osoba, która posiada odpowiedni poziom odpowiedzialności i znajduje się pod nadzorem Komisji. Dodatkowo, niejasne pozostaje, czy decyzja o przeprowadzeniu kontroli w siedzibie jest traktowana jako formalna decyzja administracyjna, czy też jako decyzja operacyjna, która nie podlega formalnym procedurom administracyjnym. Doprecyzowanie tego aspektu zwiększyłoby przejrzystość przepisów oraz pomogłoby podmiotom kontrolowanym zrozumieć, jakie prawa im przysługują w przypadku kwestionowania zasadności przeprowadzenia kontroli na miejscu. Warto rozważyć wprowadzenie wymogu pisemnego uzasadnienia takiej decyzji, aby kontrolowane podmioty miały jasność co do powodów jej podjęcia. Art. 43 ust. 4 PIIT Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Osoba fizyczna jk \"1) swobodnego dostępu do środków łączności\" Dobra rada doświadczonego praktyka: kontrolujący powinni unikać jak ognia korzystania z infrastruktury teleinformatycznej podmiotu kontrolowanego. Dostępne obecnie rozwiązania bez problemu pozwalają kontrolującym na stosowanie własnych urządzeń telekomunikacyjnych i teleinformatycznych do komunikacji. Unikną zarzutu - uzasadnionego lub nie - o ingerencję w systemy teleinformatyczne podmiotu kontrolowanego. 197 Proponowany zapis jest reliktem z czasów, gdy nie było telefonii komórkowej i mobilnego internetu. błąd gramatyczny 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzieałalności podmiotu kontrolowanego 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781) Nie ma art. 7 pkt 2a w wymienionej ustawie: https://dziennikustaw.gov.pl/D2019000178101.pdf Art. 43 ust. 4 GRAI Art. 43 ust. 4 zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Niektóre uprawnienia są nieproporcjonalne i nadmiernie ingerujące w prawa przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej: (a) żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; (b) zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6), (c) opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9); (d) wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Weryfikacja zakresu uprawnień i pozostawienie tylko tych niezbędnych oraz niezakłócających prowadzenia działalności przez przedsiębiorcę, w szczególności art. 43 ust. 3 pkt 5, 6, 9, 11. Art. 43 ust. 4 KIGEiT Rekomendacja: Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku 198 Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Polski związek zarządzania wierzytelnościami Art. 43 ust. 4, 7 i 13 Projektu Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem mogą nieproporcjonalnie ingerować w swobodę prowadzenia działalności gospodarczej i stabilność obrotu. Nadmierny wydaje się być w tym zakresie poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - biorąc tu zwłaszcza pod uwagę możliwość stosowania oprogramowania wdrożonego z udziałem podmiotów trzecich (przedsiębiorstw z sektora IT) oraz rozległość dokumentacji technicznej systemów informatycznych. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na skuteczną komunikację z podwykonawcami, odpowiedzialnymi za tworzenie produktów lub usług wpisujących się w definicję systemów AI na rzecz przedsiębiorstw z branży windykacyjnej (albo stanowiących ich element). W art. 43 ust. 7 dostrzegamy braki dotyczące: maksymalnego czasu trwania kontroli - proponujemy, by w związku z wyżej przytoczonymi argumentami za ochroną stabilności obrotu gospodarczego, kontrole trwały nie dłużej niż 14 dni; terminów, które powinny zostać zachowane, jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 Projektu następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być możliwie jak najkrótszy, aby mógł realizować swoją funkcję. Art. 43 ust. 4 Związek Cyfrowa Polska Zbyt szeroki katalog uprawnień organu kontrolującego. Art. 43 ust. 4 Projektu zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, 199 przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Należy zauważyć, że tego rodzaju, bardzo szerokie uprawnienia nie są zgodne z przepisami Aktu o sztucznej inteligencji, w szczególności z art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”. W związku z tym warto włączyć taką samą definicję do polskiej ustawy (w brzmieniu. „tylko takie dane, które są absolutnie niezbędne do oceny ryzyka stwarzanego przez systemy sztucznej inteligencji i wykonywania ich uprawnień”), a dokumenty wymienione poniżej uznać za wyłącznie te, które można uzyskać, jeśli mieszczą się w zakresie ich bezwzględnej konieczności. Dodatkowo, jako nieproporcjonalne i nazbyt ingerujące w prawo każdego przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej należy ocenić uprawnienie do: żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 in fine Projektu) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6 Projektu); opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9 Projektu); wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11 Projektu). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Art. 43 ust. 4 pkt 1 GRAI Nie zawsze będzie możliwość zapewnienia „oddzielnego pomieszczenia”, szczególnie gdy sprawa dotyczy mikro lub małych podmiotów, które wynajmują jeden open-space. Postuluje się dodanie na końcu zdania „o ile będzie to możliwe”. Art. 43 ust. 4 pkt 2 Polskie Towarzystwo Informatyczne 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3. Czy nie powinno się to odbywać również w obecności przedstawiciela jednostki kontrolowanej, co powinno mieć wówczas odzwierciedlenie w zapisie artykułu. 200 Art. 43 ust. 4 pkt 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy na konieczność redakcyjnej zmiany wyrazu „dzielności” na wyraz „działalności”. Art. 43 ust. 4 pkt 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o wyjaśnienie, czy chodzi o dostęp do nośnika czy do zawartych tam informacji? Wnosimy również o wyjaśnienie, jak zdaniem Projektodawcy należy udostępnić sam nośnik w postaci np. serwera „chmurowego\"? Art. 43 ust. 4 pkt 3 Związek Banków Polskich żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 3 Fundacja FinTech Poland Przepis art. 43 ust. 4 pkt 3) przewiduje możliwość żądania przez kontrolującego udostępnienia nośników danych oraz dostępu do systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, 201 czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg, oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. Art. 43 ust. 4 pkt 5 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Aby wyeliminować przedmiotową wadliwość regulacji proponujemy zatem w art. 43 ust. 4 pkt. 5 in principio projektu ustawy o AI po słowach „podmiot kontrolowany”, a przed słowem „kopii” dodanie treści w brzmieniu „na koszt podmiotu przeprowadzającego kontrolę”. G/ Projektodawca jest niekonsekwentny w swoich zamierzeniach albowiem w art. 44 ust. 1 projektu ustawy o AI wskazuje, że Komisja może zwrócić się o udzielenie pomocy przy przeprowadzaniu kontroli do Policji lub organu kontroli państwowej i ochrony prawa, a także do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji w trzech odrębnych punktach zawartych w art. 44 ust. 2 zd. 2 projektu ustawy o AI opisując w czym ma się zasadzać udzielenie pomocy odpowiednio przez Policję, przez organ kontroli państwowej i ochrony prawa oraz przez jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, tymczasem w art. 44 ust. 2 zd. 1 in principio projektu ustawy o AI wprowadza regulację przewidującą iż jedynie Policja lub organ kontroli państwowej i ochrony prawa zapewnia pomoc w przeprowadzeniu kontroli pomijając w tym zestawieniu pomoc udzielaną przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji, mimo iż w art. 44 ust. 2ust. 2 pkt. 3 projektu ustawy AI opisuje ustawodawca w czym ma się przejawiać udzielenie pomocy kontrolującemu przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji. Art. 43 ust. 4 pkt 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż uprawnienie do żądania wydruków w sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych, uznać należy za anarchonizm. Rodzi to obawy, że organy będą preferować drukowanie przez podmiot kontrolowany ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto żądanie „poświadczania\" wydruków/kopii za zgodność uznać należy za nazbyt uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" mogłoby być zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu kontrolowanego, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym, postulujemy zmianę treści art. 43 ust. 4 pkt 5 Projektu ustawy na następującą: „5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o 202 których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;” Art. 43 ust. 4 pkt 5 e-Izba Rekomendujemy usunięcie tego przepisu. W sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych nie powinno być możliwe żądanie wydruków materiałów, korespondencji oraz informacji. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Na marginesie zwracamy uwagę, że „poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i bardzo uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" powinno zostać zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. Art. 43 ust. 4 pkt 5 Związek Banków Polskich żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 5 Fundacja FinTech Poland Przepis przewidujący prawo kontrolujących do żądania sporządzenia wydruków przez podmiot kontrolowany, gdy istnieje możliwość przekazania kopii elektronicznych, jest archaiczny i odbiega od współczesnych standardów zarządzania dokumentacją. W erze cyfrowej preferowanie wydruków może prowadzić do niepotrzebnego zwiększenia obciążenia administracyjnego oraz marnotrawstwa zasobów, zwłaszcza papieru. Taka praktyka rodzi również ryzyko, że organy kontrolujące będą forsować drukowanie dużych ilości dokumentacji, co jest czasochłonne i nieefektywne w porównaniu do przekazywania danych w formie elektronicznej na nośnikach lub poprzez bezpieczne kanały cyfrowe. Dodatkowo, wymóg poświadczania każdej strony dokumentów za zgodność z oryginałem przez podmiot kontrolowany jest nadmiernie uciążliwy i mało praktyczny. Proces ten wymaga, aby osoba odpowiedzialna w podmiocie była formalnie umocowana do składania takiego poświadczenia, co wiąże się z dodatkowymi procedurami i komplikacjami prawnymi. Zamiast tego, bardziej adekwatnym rozwiązaniem byłoby zastąpienie poświadczania indywidualnych dokumentów jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, w którym potwierdza się, że 203 wszystkie przekazywane kopie są zgodne z oryginałami. Taka zmiana uprościłaby proces, zwiększając efektywność i zmniejszając formalne obciążenie kontrolowanego podmiotu. Postulowane brzmienie przepisu: Art. 43 ust. 4 pkt 5) 5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów; Art. 43 ust. 4 pkt 8 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Art. 43 ust. 4 pkt 8 Związek Banków Polskich 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 8 Fundacja FinTech Poland Oględziny urządzeń, nośników danych oraz systemów informatycznych w kontekście serwerów dostawców chmurowych mogą napotkać istotne trudności organizacyjne i techniczne. W praktyce, serwery chmurowe są często zlokalizowane poza granicami kraju lub w centrach danych o wysokim poziomie zabezpieczeń, gdzie fizyczne oględziny są albo niemożliwe, albo znacznie ograniczone przez regulacje dostawcy. Ponadto, dostęp do tych serwerów może być zgodny jedynie z polityką bezpieczeństwa i procedurami wewnętrznymi dostawcy, co może obejmować szczególne warunki prawne lub techniczne. W związku z tym proponujemy rozważenie alternatywnych form przeprowadzania oględzin, takich jak zdalna weryfikacja danych za pomocą bezpiecznych połączeń sieciowych, audyty systemowe. Takie podejście pozwoli na przeprowadzenie kontroli bez fizycznej obecności przy serwerach, co zwiększy elastyczność działania organów kontrolujących i zminimalizuje ryzyko komplikacji wynikających z międzynarodowych aspektów lokalizacji danych. Art. 43 ust. 4 pkt 10 Związek Banków Polskich (...)przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli [uchylenie punktu] Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 204 Art. 43 ust. 4 i 6 Związek Banków Polskich 4. W toku kontroli kontrolujący mają prawo do: (...) 11) Kontrolę należy prowadzić w sposób rzetelny, obiektywny i proporcjonalny do celu kontroli. Kontroler jest zobowiązany do minimalizowania utrudnień w działalności podmiotu kontrolowanego. (...) 6. Upoważnienie do przeprowadzenia kontroli zawiera: (...) 11) wskazanie praw i obowiązków podmiotu kontrolowanego w trakcie kontroli, w tym prawa do wglądu w akta sprawy i możliwości odwołania. Przepis szczegółowo określa uprawnienia kontrolerów Komisji oraz procedury przeprowadzania kontroli. Upoważnienie do kontroli może określać ten zakres w sposób ogólny, co pozwala kontrolerom dostosować swoje działania do konkretnej sytuacji. Co oczywiście może wpływać na ustalenie konkretnych uprawnień organu i odpowiadających mu obowiązków kontrolowanego Szczególnym zagadnieniem jest kwestia zabezpieczenia dowodów. Przepisy przyznają kontrolerom szerokie uprawnienia w tym zakresie, takie jak zajmowanie dokumentów czy przeprowadzanie oględzin. Chociaż takie uprawnienia są niezbędne do efektywnego prowadzenia kontroli, to jednocześnie rodzą wątpliwości co do ich granic i wpływu na prawa podmiotów kontrolowanych. Należy podkreślić, że szeroki katalog uprawnień kontrolerów powinien być równoważony przez odpowiednie zabezpieczenia prawne dla podmiotów kontrolowanych, takie jak prawo do wglądu w akta sprawy, możliwość odwołania od decyzji kontrolera czy jasne określenie przesłanek do zastosowania poszczególnych środków zabezpieczających Art. 43 ust. 5 Fundacja FinTech Poland Przy kontroli zdalnej kwestia okazania upoważnienia oraz dokumentu tożsamości wymaga doprecyzowania, aby zapewnić transparentność procesu i autentyczność działań kontrolujących. Obecne postanowienie nie precyzuje, jak kontrolujący powinien okazać te dokumenty w sytuacji, gdy kontrola odbywa się na odległość. Należałoby rozważyć możliwość przedstawienia upoważnienia oraz dokumentu tożsamości w formie elektronicznej. Tego rodzaju rozwiązanie pozwoliłoby na potwierdzenie tożsamości i uprawnień kontrolującego, jednocześnie dostosowując procedurę do realiów zdalnej współpracy i minimalizując potencjalne trudności oraz ryzyka związane z weryfikacją upoważnienia na odległość. Art. 43 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy uzupełnienie przepisu poprzez dodanie obowiązku wskazania przez podmiot kontrolujący – oprócz podstawy prawnej – także podstawy faktycznej. 205 Art. 43 ust. 6 Fundacja FinTech Poland Należałoby rozważyć uzupełnienie przepisu tak, aby oprócz podstawy prawnej kontroli, upoważnienie zawierało również wskazanie podstawy merytorycznej. Warto, aby upoważnienie precyzowało, czy kontrola jest prowadzona w ramach ogólnego monitorowania przestrzegania rozporządzenia, czy na podstawie powziętej przez Komisję informacji, skargi lub innego rodzaju zgłoszenia. Taka informacja zwiększyłaby transparentność działań kontrolnych i pozwoliłaby kontrolowanemu lepiej zrozumieć kontekst i przyczynę kontroli. Wprowadzenie tego elementu mogłoby także zapobiec nieporozumieniom oraz wzmocnić zaufanie do procedur kontrolnych, ułatwiając współpracę między podmiotem kontrolowanym, a Komisją Art. 43 ust. 6 pkt 1 e-Izba Rekomendujemy uzupełnienie treści przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: „wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Art. 43 ust. 7 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu w taki sposób, aby wynikało z niego z jakim wyprzedzeniem i w jakiej formie pomiot jest informowany o planowanej kontroli. Przedsiębiorcy powinni wiedzieć również w jakim czasie kontrola powinna się zakończyć. W związku z powyższym, wnosimy o nadanie art. 43 ust. 7 Projektu ustawy nowej treści w brzmieniu następującym: „O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Art. 43 ust. 7 Polskie Towarzystwo Informatyczne O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany czas trwania kontroli. Propozycja O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany termin rozpoczęcia i przewidywany czas trwania kontroli. Powinien zostać podany termin rozpoczęcia kontroli Art. 43 ust. 7 GRAI I. Zbyt wąski zakres informacji przekazywanych kontrolowanemu przed planowaną kontrolą. II. Brak informacji o terminach, które muszą zostać zachowane, tj. dopuszczalnym terminie zawiadomienia przed planowaną kontrolą, oraz maksymalnym dopuszczalnym czasie trwania kontroli. 206 I. Słowa „przewidywany czas trwania kontroli” zastępuje się słowami “informacje, o których mowa w ust. 6 pkt 1, 2, 8 i 10”. II. Uzupełnienie brakujących terminów: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany w terminie do 7 dni przed planowaną kontrolą, podając przewidywany czas trwania kontroli, który nie może być dłuższy niż 14 dni kalendarzowych.” Art. 43 ust. 7 GRAI Termin rozpoczęcia kontroli powinien być odpowiedni i oscylować w zakresie od 3 dni w przypadkach nagłych do min. 14 dni w przypadkach standardowych. Warto też wskazać jaki jest ustawowy czas przewidziany standardowo na kontrolę. Chodzi o zapewnienie podmiotów, że kontrola nie będzie trwała nadmiernie długo. Proponuje się, aby kontrola rozpoczynała się w przypadkach nagłych min. 3 dni od otrzymania powiadomienia, min 14 dni lub więcej w przypadkach standardowej kontroli. Proponuje się także, aby kontrola była ograniczona ustawowo do 1 miesiąca, chyba, że w następuje uzasadniony przypadek i termin ten można wydłużyć do 3 miesięcy. Uzasadnienie przedłużenia należy dostarczyć kontrolowanemu. Art. 43 ust. 7 Fundacja FinTech Poland Wprowadzenie obowiązku zawiadamiania podmiotu kontrolowanego z wyprzedzeniem przynajmniej 30 dni roboczych, a także ograniczenie czasu trwania kontroli do 1 miesiąca od dnia jej rozpoczęcia, ma na celu zapewnienie przejrzystości i efektywności procesu kontrolnego. Wyprzedzenie 30-dniowe daje kontrolowanemu podmiotowi odpowiedni czas na przygotowanie się do kontroli, zebranie wymaganych dokumentów i zorganizowanie zasobów, co sprzyja płynnemu przebiegowi kontroli oraz minimalizuje zakłócenia w bieżącej działalności podmiotu. Określenie maksymalnego czasu trwania kontroli na 1 miesiąc pozwala ograniczyć długotrwałe obciążenia związane z procesem kontrolnym, co jest szczególnie istotne dla firm o ograniczonych zasobach kadrowych i operacyjnych. Taka zmiana zwiększa również przewidywalność procesu oraz zmniejsza ryzyko niepotrzebnego przedłużania działań kontrolnych, co może być obciążające zarówno dla podmiotu kontrolowanego, jak i dla samego organu kontrolującego. Postulowane brzmienie przepisu: 7. O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli. Art. 43 ust. 8 Liczne usterki językowe w poszczególnych punktach wyliczenia. 207 W pkt 2 słowo „udzielania” zastępuje się słowem „udzielenie”, w pkt 3 skreśla się słowo „umożliwienia” i słowo „wstępu” zastępuje się słowem „wstęp”, w pkt 4 słowa „udostępnienia i wydania” zastępuje się słowami „udostępnienie i wydanie”, w pkt 5 skreśla się słowo „umożliwienia” i słowo „dostępu” zastępuje się słowem „dostęp”. Art. 43 ust. 8 pkt 5 Związek Banków Polskich umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 10 Fundacja FinTech Poland Zastosowanie metody zabezpieczenia dowodów przez ich pozostawienie w zamkniętym i opieczętowanym pomieszczeniu może nie być optymalne w kontekście nośników informatycznych. Warto rozważyć alternatywne metody zabezpieczania danych, które pozwolą na skuteczne zabezpieczenie dowodów przy jednoczesnym minimalizowaniu zakłóceń w bieżącej działalności podmiotu kontrolowanego. Fizyczne zabezpieczenie nośników, które mogą być kluczowe dla wielu procesów operacyjnych, nie powinno prowadzić do sytuacji, w której podmiot jest całkowicie pozbawiony dostępu do zasobów niezbędnych do prowadzenia działalności gospodarczej. Rekomendujemy wprowadzenie zabezpieczeń, takich jak tworzenie kopii zabezpieczonych danych lub ograniczenie dostępu w sposób pozwalający na ich monitorowanie, ale nie blokujący funkcjonowania podmiotu Art. 43 ust. 10 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Art. 43 ust. 11 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis powinien precyzować, czym jest „zajęcie informatycznych nośników danych\" - czy w skrajnych przypadkach ma to oznaczać, że organizacja musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? Uważamy, iż tak intepretowany przepis jest zbyt daleko idący. 208 Art. 43 ust. 11 Fundacja FinTech Poland Przepis dotyczący zajęcia nośników informatycznych wymaga większej precyzji, szczególnie w kontekście jego zastosowania w praktyce. Zajęcie nośników danych, urządzeń oraz systemów informatycznych może mieć poważne konsekwencje dla firmy, zwłaszcza jeśli działalność organizacji jest ściśle związana z przetwarzaniem danych lub korzystaniem z systemów, które zostały zajęte w ramach kontroli. W skrajnych przypadkach, jeśli zajęcie nośników danych lub urządzeń dotyczy kluczowych elementów infrastruktury firmy, takich jak serwery, bazy danych, komputery czy inne urządzenia wykorzystywane w działalności gospodarczej, może to skutkować paraliżem operacyjnym. Firma mogłaby zostać zmuszona do zaprzestania działalności, jeżeli jej praca jest oparta na systemach informatycznych, które zostały skonfiskowane. Przepis w obecnym brzmieniu nie precyzuje, w jakim zakresie firma może kontynuować działalność po zajęciu takich zasobów, co może prowadzić do nadmiernych trudności w jej funkcjonowaniu. Aby uniknąć takich sytuacji, należałoby rozważyć dodanie do przepisu postanowień wskazujących, w jakich przypadkach firma może nadal funkcjonować pomimo zajęcia nośników informatycznych, a także jakie środki zaradcze mogą zostać wprowadzone, aby zapewnić firmie możliwość prowadzenia działalności na czas trwania kontroli. Można by też przewidzieć mechanizmy pozwalające na tymczasowy dostęp do danych lub na alternatywne sposoby ich przechowywania, co pozwoliłoby na uniknięcie całkowitego wstrzymania działalności. Takie postanowienia mogłyby zapewnić równowagę pomiędzy koniecznością przeprowadzenia skutecznej kontroli a zachowaniem ciągłości działalności gospodarczej, co w przeciwnym razie mogłoby prowadzić do nadmiernych trudności gospodarczych i potencjalnych problemów dla firm, szczególnie tych, które są mocno zależne od technologii i danych. Art 43 ust.11, 13 i 20 PIIT Należy doprecyzować przepis i wyjaśnić intencje ustawodawcy co do relacji przepisów, określonych w ust.11 (postanowienie o zajęciu), 13 (zażalenie na postanowienie o zajęciu), 20. (sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów). W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Czy wniesienie sprzeciwu, zgodnie z ust.20 wstrzymuje wykonanie zajęcia? (mieści się to w zakresie wykonywania kontroli). Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. 209 Art. 43 ust. 11, 20 KIGEiT Rekomendacja: Wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. , Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Art. 43 ust. 12 KIGEiT Propozycja zapisu: Zmiana na: \"Osobę posiadającą przedmioty, o których mowa w ust. 9, kontrolujący wzywa do wydania ich dobrowolnie, w czasie możliwym na ich zgromadzenie bez uszczerbku dla prowadzonej działalności podmiotu kontrolowanego, a w razie odmowy można przeprowadzić ich odebranie w trybie przepisów o postępowaniu egzekucyjnym w administracji.\" , Uzasadnienie: podmiot kontrolowany powinien mieć czas na odpowiedni zebranie/zgromadzenie dowodów tak aby zachować płynność gospodarczą. Art. 43 ust. 13 KIGEiT Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. , Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła Art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w Art. 57 projektu ustawy. Art. 43 ust. 13 e-IZba Z uwagi na to, że zajęcie może trwać do 7 dni (zgodnie z art. 43 ust. 11), to termin rozpatrzenia zażalenia powinien być 1 dniowy. W. przypadku braku jego zachowania, zajęcie powinno upadać. Art. 43 ust. 13 ISSA Polska Postuluję wskazanie terminu na wniesienie zażalenia oraz momentu rozpoczęcia biegu terminu. Art. 43 ust. 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Skoro zajęcie może trwać do 7 dni (art. 43 ust. 11 Projektu ustawy), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcie upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, istnieje ryzyko, iż prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 PIIT 210 Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w art. 57 projektu ustawy. Art. 43 ust. 13 GRAI Postuluje się, aby zażalenie na zajęcie przedmiotów przysługiwało także podmiotowi kontrolowanemu. Postuluje się, aby zażalenie przysługiwało także podmiotowi kontrolowanemu. Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów. Uzupełnienie brakującego terminu, przy czym, jeżeli miałby to być standardowy 7 dniowy termin z KPA, to będzie to nieefektywne w sytuacji, gdy zajęcie przedmiotów następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Powinien więc być to termin krótszy wraz z szybkim rozpatrzeniem zażalenia przez organ kontrolujący. Art. 43 ust. 13 NRA Podkreśla się, że w art. 43 ust. 13 Projektu nie doprecyzowano organu właściwego do rozpatrywania zażaleń na postanowienie Komisji o zajęciu przedmiotów, pozostawiając ten istotny aspekt w obszarze domysłów interpretacyjnych. Przepis w obecnej formie ogranicza się do stwierdzenia, że zażalenie przysługuje osobom, których prawa zostały naruszone, natomiast nie wskazuje, jaki podmiot miałby kompetencję do rozpoznania złożonego środka odwoławczego. W praktyce oznacza to, że pomimo wydawania postanowień przez Komisję (co wynika z art. 43 ust. 11 Projektu), brak jest wyraźnego określenia trybu weryfikacji prawidłowości przedmiotowych postanowień, co może prowadzić do komplikacji proceduralnych oraz wątpliwości co do skuteczności ochrony interesów stron postępowania. Wprawdzie art. 45 ust. 5 Projektu wskazuje na SOKiK jako organ właściwy do rozstrzygania kwestii zwrotu dokumentów ujawnionych podczas kontroli, niemniej dotyczy to jedynie ograniczonej kategorii dokumentów pozostających na miejscu kontroli. Regulacja ta nie znajduje więc zastosowania do sytuacji wynikających z wydania postanowienia o zajęciu przedmiotów, a więc nie znajduje zastosowania do art. 43 ust. 13. Art. 43 ust. 13 Fundacja FinTech Poland Skoro zajęcie przedmiotów może trwać maksymalnie do 7 dni (zgodnie z art. 43 ust. 11 Projektu Ustawy), to w celu zapewnienia realnej ochrony praw osób, których interesy zostały naruszone, należałoby wprost wskazać, że zażalenie na postanowienie o zajęciu przedmiotów musi być rozpatrzone w terminie 1 dnia roboczego od jego wniesienia. Brak takiego 211 mechanizmu, który gwarantuje natychmiastowe rozpatrzenie zażalenia, może prowadzić do sytuacji, w której podmiot kontrolowany nie ma skutecznego środka ochrony swoich praw w czasie, gdy zajęcie trwa. Długi czas oczekiwania na rozstrzygnięcie zażalenia, szczególnie w kontekście ograniczenia dostępu do przedmiotów, mógłby prowadzić do sytuacji, w której samo prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 wz z art. 56 Związek Cyfrowa Polska Brak zagwarantowania niezbędnych środków zaskarżenia. Rozstrzygnięcia wydawane przez organ kontrolujący nie gwarantują skutecznych procedur zaskarżenia dla przedsiębiorcy, w szczególności: Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (art. 43 ust. 13 Projektu; w zw. bowiem z art. 56 Projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której ustawodawca przesądził w art. 43 ust. 11 Projektu ustawy, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni”. Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący; Art. 43 ust. 14 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Relacja między ustępem 14 a ust. 11-13 w art. 43 Projektu ustawy jest niejasna, nie jest też omówiona w uzasadnieniu Projektu ustawy - w jakiej sytuacji zajęcie jest niedopuszczalne? Ustęp 11 w art. 43 Projektu ustawy mówi ogólnie o prawie do zajęcia danych „w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Art. 43 ust. 14 Fundacja FinTech Poland Relacja między art. 14 ust. 14 a ust. 11-13 jest niejasna i wymaga precyzyjnego określenia w przepisach ustawy. Aktualne brzmienie Projektu ustawy nie wyjaśnia, w jakich sytuacjach zabezpieczenie jest niedopuszczalne. Zgodnie z ust. 11, Komisja posiada ogólne prawo do zajęcia danych “w toku kontroli”, co sugeruje szeroki zakres uprawnień do przejmowania dokumentów i danych zarówno w formie fizycznej, jak i elektronicznej. Natomiast ust. 14 wskazuje na zabezpieczenie na miejscu kontroli, wyłączając stosowanie ust. 11-13. Należy zatem doprecyzować, czy wyłączenie stosowania ust. 11-13 w ust. 14 oznacza, że zajęcie danych jest ograniczone do określonych warunków takich jak kontrola zdalna, a nie dotyczy kontroli przeprowadzanej fizycznie na terenie kontrolowanego podmiotu. 212 Aby uniknąć niejasności interpretacyjnych i potencjalnych sporów, przepisy te powinny zostać przeformułowane w sposób klarowny, tak aby jasno określały, kiedy i w jakich okolicznościach zajęcie danych oraz dokumentów jest dopuszczalne, a kiedy nie. Wprowadzenie szczegółowych definicji i jednoznaczne określenie zakresu stosowania poszczególnych przepisów pozwoliłoby na lepsze zrozumienie ich relacji oraz ich stosowania w praktyce. Art. 43 ust. 15 CHAMBER Przewidziana w art. 43 ust. 15 instytucja oddania przedmiotów “osobie godnej zaufania” budzi wątpliwości. W ocenie Izby naraża to na niepotrzebne i nadmierne ryzyko uszkodzenia lub utraty przedmiotów lub dostępu do nich osób nieuprawnionych. Art. 43 ust. 15 Polskie Towarzystwo Informatyczne Przedmioty podlegające zajęciu, o którym mowa w ust. 11, należy po dokonaniu oględzin i sporządzeniu protokołu zajęcia zabrać albo oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Czy nie powinien zostać określony sposób postępowania przy przejęciu i przechowania po „zabraniu” (aby odbywało się to w sposób chroniący potencjalne interesy jednostki kontrolowanej), ponieważ mogą wchodzić w grę np. prawa patentowe itp. Art. 43 ust. 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, kim ma być taka osoba? Jakie ma spełniać kryteria? Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać zasady takie jak: kto to może być i jakie wymagania ma spełnić Art. 43 ust. 15 GRAI Przedmioty mogą posiadać bardzo wrażliwe informacje, które nie powinny trafić do przypadkowych osób, nawet jeżeli są „godne zaufania” (kto ocenia tą godność?). Powinien to być oficjalny depozyt, zabezpieczony w Biurze Komisji. Postuluje się, aby przedmioty były deponowane w zabezpieczonym i przeznaczonym do tego pomieszczeniu w budynku Biura Komisji. Brak definicji osoby “godnej zaufania”, która zapewniałaby zabezpieczenie przedmiotów podlegających zajęciu. W obecnym brzmieniu ustęp ten stwarza szerokie pole do nadużyć. Definicja osoby, której przedmioty można oddać powinna zapewniać, że osoba ta będzie w stanie je zabezpieczać, ze szczególnym uwzględnieniem bezpieczeństwa własności intelektualnej podmiotu kontrolowanego. Art. 43 ust. 15 Fundacja FinTech Poland W przepisie mowa jest o przekazaniu przedmiotów na przechowanie osobie godnej zaufania, jednak nie precyzuje się, kim ta osoba powinna być ani jakie dokładnie kryteria powinna spełniać. Z uwagi na charakter przedmiotów, które mogą podlegać zajęciu (np. nośniki informatyczne, urządzenia elektroniczne, dane wrażliwe), konieczne jest, aby osoba ta miała odpowiednie kwalifikacje oraz zapewniała odpowiednie warunki do przechowywania takich przedmiotów. Powinna to być osoba, która gwarantuje, że przedmioty, w tym dane, będą przechowywane w 213 sposób bezpieczny, w odpowiednich warunkach fizycznych (np. odpowiednie zabezpieczenia przed uszkodzeniem czy utratą danych) oraz zabezpieczenia dostępu do nich. W przypadku nośników informatycznych powinna to być osoba posiadająca niezbędną wiedzę z zakresu przechowywania danych elektronicznych i zarządzania systemami informacyjnymi. Ponieważ w Projekcie brak jest delegacji do wydania rozporządzenia, które mogłoby szczegółowo określić wymagania wobec takich osób, sama ustawa powinna precyzować, kto może pełnić tę rolę. Wskazanie takich kryteriów zapewniłoby większą pewność co do rzetelności oraz bezpieczeństwa przechowywania przedmiotów. Należy zatem wprowadzić zapisy precyzujące, że osobą odpowiedzialną za przechowywanie przedmiotów musi być osoba fizyczna lub prawna posiadająca odpowiednie kompetencje, np. doświadczenie w zakresie przechowywania danych, przeszkolenie w zakresie ochrony informacji, oraz odpowiednie zabezpieczenia techniczne lub organizacyjne. Dzięki temu, przechowywanie zajętych przedmiotów będzie miało wystarczającą gwarancję bezpieczeństwa i zgodności z wymaganiami ochrony danych osobowych oraz innych przepisów prawa. Art. 43 ust. 16 KIGEiT Propozycja zapisu: Dodanie pkt 4) dane osoby kontrolującej oraz dane osoby, która reprezentuje podmiot kontrolowany , Uzasadnienie: kwestie dowodowe. Art. 43 ust. 16 KIGEiT 20. Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. , W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli Art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 Art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 Art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z Art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. Art. 43 ust. 20 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu poprzez wskazanie, w jakiej formie sprzeciw może zostać wniesiony i jakie są konsekwencje wniesienia sprzeciwu. Art. 43 ust. 20 NRA Art. 43 ust. 20 Projektu w obecnym brzmieniu pozostawia niedookreśloną kwestię właściwości organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji, dotyczące rozstrzygnięcia sprzeciwu kontrolowanego wobec podejmowanej kontroli. Przepis ten, wskazując na możliwość wniesienia sprzeciwu przez podmiot kontrolowany w przypadku naruszenia przepisów, nie precyzuje ani trybu rozpoznawania takiego sprzeciwu, ani właściwości organu, który mógłby rozstrzygnąć ewentualne zażalenie na postanowienie Komisji wydane na gruncie tej procedury. Zgodnie z art. 42 Projektu, w zakresie nieuregulowanym kontrola podlegać ma przepisom rozdziału 5 Ustawy Prawo przedsiębiorców, które to przepisy sugerują per analogiam, iż rozstrzygnięcie Komisji miałoby przyjąć formę postanowienia, które mogłoby podlegać zażaleniu. Jednakże nie jest możliwym, aby na podstawie tego przepisu formułować dalej idącą 214 analogię, która pozwoliłaby jednoznacznie wyjaśnić, czy organem właściwym do rozpoznania zażalenia winna być sama Komisja (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a., w sytuacji braku organu nadrzędnego), czy też może SOKiK, który z uwagi na swoje kompetencje i niezależność mógłby potencjalnie pełnić funkcję w rozstrzyganiu takich spraw. Mając więc na względzie potrzebę skutecznego zabezpieczenia praw podmiotów poddawanych kontroli, wskazanym jest jednoznaczne określenie kognicji w zakresie rozpatrywania sprzeciwu wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. Art. 43 ust. 20 Fundacja FinTech Poland Przepis stanowi, że podmiot kontrolowany ma prawo wnieść sprzeciw wobec podjęcia i wykonywania kontroli, jeśli ta narusza przepisy prawa. Niemniej jednak, przepis nie precyzuje, w jakiej formie sprzeciw ten powinien zostać wniesiony ani jakie są konsekwencje wniesienia takiego sprzeciwu. W związku z tym, należy wskazać, że dla zapewnienia skuteczności tego środka ochrony prawnej, konieczne jest określenie formy, w jakiej sprzeciw powinien być złożony, np. czy powinien to być dokument pisemny, zgłoszenie elektroniczne, czy może inna forma. Ponadto, warto wyjaśnić, co dokładnie oznacza wniesienie sprzeciwu – czy wstrzymuje to wykonanie czynności kontrolnych, czy kontrola może być kontynuowana pomimo sprzeciwu, a w jakim terminie oraz w jakiej formie podmiot kontrolujący ma obowiązek odpowiedzieć na wniesiony sprzeciw. Ważnym zagadnieniem jest także określenie, czy wniesienie sprzeciwu skutkuje zawieszeniem kontroli do momentu jego rozpatrzenia, czy też kontrola będzie mogła być kontynuowana bez przeszkód, a ewentualne skutki wniesienia sprzeciwu rozstrzygnie późniejsze postępowanie. Doprecyzowanie tych kwestii w ustawie zapewniłoby podmiotom kontrolowanym jasność co do ich praw i procedur, jakie mogą podjąć w przypadku stwierdzenia niezgodności działań kontrolujących z przepisami. Ponadto, określenie konsekwencji wniesienia sprzeciwu pomoże uniknąć sytuacji, w której sprzeciw nie miałby rzeczywistego wpływu na przebieg kontroli, co mogłoby skutkować naruszeniem zasady skutecznej ochrony praw podmiotów kontrolowanych. Art. 43 ust. 21 Osoba fizyczna jk Zgodnie z art. 2 ust. 1 ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Osoby fizyczne nieprowadzące działalności gospodarczej nie są tam wymienione. Zapis wymaga uzasadnienia. Art. 44 CHAMBER Projekt posługuje się w art. 44 pojęciem “organ kontroli państwowej i ochrony prawa”. W polskim systemie prawa pojęcie to pochodzi z IX Rozdziału Konstytucji RP i obejmuje Najwyższą Izbę Kontroli, Rzecznika Praw Obywatelskich i Krajową Radę Radiofonii i Telewizji. Czy istotnie te organy ma na myśli projektodawca? Nie jest jasne, w jaki sposób mogłyby one “ustalić naruszenie przez podmiot kontrolowany przepisów rozporządzenia”. Art. 44 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Przepis art. 44 Projektu ustawy winien zostać usunięty. Komisja jest organem publicznym, a nie policyjnym. Przepis w aktualnym brzmieniu wyraźnie wskazuje, że Komisja, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. 215 Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym; kontrola Komisji to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod Rozporządzenie 2024/1689 będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów jak ABW, CBŚ, CBA czy inne organy „kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą prowadzić swoje własne kontrole i postępowania. W konsekwencji, postulujemy zmianę treści art. 44 Projektu ustawy na następującą: „Art. 44. Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli.” Art., 44 Fundacja FinTech Poland Zgodnie z art. 44, KRiBSI, może zwrócić się o pomoc do Policji, organów kontroli państwowej i ochrony prawa, a także jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji, jeśli jest to niezbędne do przeprowadzenia kontroli. Tak szerokie uprawnienie w zakresie współpracy z służbami mundurowymi i służbami wywiadowczymi budzi poważne wątpliwości dotyczące zasadności, proporcjonalności oraz zakresu ingerencji w działalność podmiotów kontrolowanych. Po pierwsze, KRiBSI jest organem publicznym odpowiedzialnym za nadzór nad systemami sztucznej inteligencji, a nie instytucją o charakterze policyjnym czy wywiadowczym. Umożliwienie tej instytucji wnioskowania o pomoc ze strony takich służb, jak Policja, ABW, CBA, CBŚ, a nawet wywiad czy kontrwywiad wojskowy, stwarza ryzyko nadużyć i naraża na bezpodstawne wykorzystywanie sił porządkowych w działaniach nadzorczych. Tego rodzaju ingerencja w działalność podmiotów kontrolowanych może prowadzić do nieuzasadnionych działań w ramach kontroli, wykraczających poza zwykłe czynności administracyjne, w tym stosowania metod operacyjnych służb mundurowych, które są przeznaczone do realizacji celów zupełnie innych niż monitorowanie zgodności z przepisami dotyczącymi sztucznej inteligencji. Po drugie, przepisy te mogą wprowadzać niepotrzebne ryzyko naruszenia zasady proporcjonalności, ponieważ nie ma jasnego ograniczenia zakresu i charakteru pomocy, którą KRiBSI może uzyskać od służb porządkowych. Takie uprawnienie może prowadzić do sytuacji, w których pomoc ze strony służb mundurowych będzie wykorzystywana w przypadkach, które nie wymagają aż tak drastycznych działań. Współpraca ta może także stwarzać ryzyko nadmiernej ingerencji w prywatność i ochronę danych osobowych podmiotów kontrolowanych, które muszą współpracować z instytucjami mającymi dostęp do wrażliwych informacji. 216 Proponujemy usunięcie tego przepisu lub wprowadzenie szczegółowych ograniczeń co do zakresu, trybu oraz warunków, w jakich Komisja może się zwrócić do służb porządkowych o pomoc. Warto wprowadzić jasne zasady dotyczące minimalnych kryteriów, które muszą być spełnione, aby mogło dojść do zaangażowania służb, a także precyzyjnie określić, w jakich przypadkach i w jakim zakresie takie działania będą rzeczywiście uzasadnione. Takie przepisy pozwoliłyby na bardziej przejrzyste i kontrolowane wykorzystanie zasobów państwowych w ramach nadzoru nad systemami sztucznej inteligencji, bez niepotrzebnego wprowadzania elementów działania służb, które mogą być postrzegane jako nadmierne i niewłaściwe w kontekście administracyjnego nadzoru nad nowoczesnymi technologiami. Art. 44 Związek Cyfrowa Polska Zaangażowania Policji oraz organów i jednostek. Przewidziana w Projekcie ustawy (art. 44) potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji jest rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dodatkowo, wątpliwości budzi przyznane w art. 44 ust. 2 pkt 3 Projektu uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne. art. 44 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Należy zatem zaproponować nadanie nowego brzmienia art. 44 ust. 2 zd. 1 projektu ustawy o AI ,, Policja, organ kontroli państwowej i ochrony prawa, jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.” Art. 44 ust. 2 pkt 3 Polskie Towarzystwo Informatyczne Niezrozumiała treść – czy chodzi o wsparcie przez jednostki podległe i nadzorowane przez ministra właściwego? Propozycja „3) jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji polegające na wsparciu podmiotu kontrolującego w ustaleniu stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.” Art. 44 ust. 3 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Art. 44 ust. 3 projektu ustawy zmianę na „Komisja występuje z wnioskiem opatrzonym kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym o udzielenie pomocy (...)” Art. 45 PWPW ust. 1. Przepis dot. korespondencji za radcą prawnym lub adwokatem 217 Ust. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Przepisy w obecnym brzmieniu powodują ryzyko naruszenia tajemnicy radcowskiej lub adwokackiej. Nie gwarantują one ochrony tej informacji lecz mówią jedynie o pozostawieniu dokumentów i nośników w siedzibie kontrolowanego. Przepis ww. zakresie powinien zostać zmieniony tak aby zapewnić konstytucyjną ochronę tajemnic zawodów zaufania publicznego. Ponadto w ust. 2 użyto nieprecyzyjnego sformułowania „pobieżnie” zapoznanie się z dokumentacją Art. 45 ICC Poland Przewidziana w art. 45 Projektu procedura – choć wzorowana na art. 105da ustawy o ochronie konkurencji i konsumentów5 (poddawanej zresztą krytyce) – budzi poważne wątpliwości z perspektywy efektywnej i pełnej ochrony tajemnicy adwokackiej i radcowskiej. W szczególności zdaje się ona nie uwzględniać braku zróżnicowania na gruncie polskiego ustawodawstwa zakresu tajemnicy zawodowej w zależności od tego, czy mamy do czynienia z prawnikiem zewnętrznym, czy prawnikiem wewnętrznym zatrudnionym na podstawie umowy o pracę (art. 45 ust. 1 pkt 1 Projektu odnosi się tylko do komunikacji między podmiotem kontrolowanym a „niezależnym od kontrolowanego” adwokatem, radcą prawnym lub prawnikiem zagranicznym). Ponadto przewidziane w art. 45 ust. 2 Projektu upoważnienie kontrolującego do zapoznania się „pobieżnie” z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, rodzi poważne ryzyko naruszenia tajemnicy zawodow strony rodzi ono ryzyko zapoznania się przez kontrolującego „przy okazji” również z innymi informacjami niż wymienione w tym przepisie, nawet nieintencjonalnie, z drugiej zaś strony również sam tytuł lub przedmiot pisma może obejmować informacje objęte tajemnicą zawodową. W konsekwencji art. 45 Projektu powinien zostać zrewidowany w kierunku uwzględnienia zarówno powyższych uwag, jak i innych uwag krytycznych, formułowanych w literaturze w odniesieniu do art. 105da ustawy o ochronie konkurencji i konsumentów. Art. 45 PIIT Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych 218 nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to, na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym, a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uprawnienia Komisji nie powinny wykraczać poza uprawnienia Prezesa UOKIK. Art. 45 KIGEiT Propozycja zapisu: Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w Art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu Art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w Art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w 219 toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Art. 45 NRA Art. 45 Projektu powiela rozwiązania zastosowane w art. 105da Ustawy z 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz.U. z 2024 r. poz. 1616; dalej „u.o.k.k.”). Nowelizacja u.o.k.k. wprowadzająca art. 105da (Ustawa z 9 marca 2023 r. o zmianie ustawy o ochronie konkurencji i konsumentów oraz niektórych innych ustaw, Dz.U. z 2023 r. poz. 852) została krytycznie oceniona przez środowiska prawnicze, o czym informował między innymi Instytut Legislacji i Prac Parlamentarnych Naczelnej Rady Adwokackiej w stanowisku z dnia 27 marca 2023 r., znak NRA.015-23.13.2023. Stąd też negatywnie należy się odnieść do propozycji przeniesienia rozwiązań zastosowanych w art. 105da u.o.k.k. na grunt art. 45 Projektu. Brak zmian w zakresie art. 45 Projektu może doprowadzić do jawnego naruszenia zasad tajemnicy zawodowej, w tym m.in. tajemnicy adwokackiej, co najmniej z kilku powodów, opisanych szczegółowo w dalszej części opinii. Art. 45 Polski związek zarządzania wierzytelnościami Art. 45 Projektu Wskazany w art. 45 Projektu proces kontroli komunikacji między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej [...] pozostaje dla nas kontrowersyjny z tytułu zagadnień tajemnicy adwokackiej (por. art. 6 ustawy - Prawo o adwokaturze - Dz.U.2024.1564 t.j.). Bieżące brzmienie nie zakłada wprowadzenia zmian do wyżej wzmiankowanej ustawy (jak ma to miejsce w art. 6. ust. 4 pkt 2 prawa o adwokaturze), a tym samym stworzenia wyjątku od obowiązku zachowania tajemnicy adwokackiej. Brak jednoznacznego ograniczenia budzi wątpliwości w zakresie realizacji samej instytucji tajemnicy zawodowej wymienionych w ustawie osób, a określenie „pobieżnego zapoznania się z pismem lub dokumentem” w ust. 1 pkt 2 tego artykułu Projektu pozostaje nieostre. Postulujemy jasne wskazanie na wyłączenie tajemnicy adwokackiej wraz ze zmianą w ustawie Prawo o adwokaturze, celem uniknięcia niepotrzebnej zwłoki w ramach procedury kontrolnej, włączającej do niej, wynikającej z niniejszego artykułu Projektu, sąd ochrony konkurencji i konsumentów. Art. 45 CHAMBER Przyjęty w art. 45 tryb przekazania dokumentów mogących podlegać tajemnicy adwokackiej do SOKiK celem ich weryfikacji nie uwzględnia zasięgnięcia opinii samego adwokata, radcy 220 prawnego czy prawnika, który powinien mieć możliwość potwierdzenie, że faktyczne dokumenty są przedmiotem tajemnicy zawodowej. Projektodawca deklaruje w uzasadnieniu do projektu ustawy, że “do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”. Jednakże już w przepisie art. 51 projektu dokonuje bardzo istotnego odstępstwa od tak podstawowej normy, jak określenie strony postępowania (art. 28 KPA). Uzasadnienie milczy na temat przyczyn tej i innych zmian w stosunku do KPA. Art. 45 Polskie Towarzystwo Informatyczne \"Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem (..\", Proponujemy doprecyzować, aby wyjaśnić, o co chodzi Faktycznie takie oświadczenie powoduje, że niemożliwa staje się sama kontrola, gdyż nośniki zawierające taką korespondencję nie mogą zostać przejęte do kontroli poza miejscem kontroli Art. 45 Związek Banków Polskich Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 3) zawierają informacje objęte tajemnicą zawodową - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. 221 Aktualne brzmienie art. 45 projektowanej ustawy stwarza poważną możliwość naruszenia tajemnicy zawodowej związanej z wykonywaniem zawodu zaufania publicznego m.in adwokata czy radcy prawnego. Jednocześnie wskazać należy, że podobne rozwiązanie zostało zaimplementowane do ustawy o ochronie konkurencji i konsumentów, dokładniej w art. 105da, co jednak nie oznacza, że przedmiotowe rozwiązanie jest rozwiązaniem słusznym i poprawnym. Nie ulega wątpliwości, że wprowadzenie powołanego powyżej przepisu doprowadziło do dużego sprzeciwu ze strony środowisk prawniczych. Wskazać należy, że zastosowanie tego typu mechanizmu w jednej ustawie nie przesądza o jego prawidłowości. Podkreślić należy, że tajemnica zawodowa, w tym adwokacka, jak i radcowska stanowi niezbędny element proceduralnego systemu ochrony praw i wolności. Co więcej, nie ulega wątpliwości, że ochrona tajemnicy zawodowej przedstawicieli wspomnianych zawodów zaufania publicznego wymaga istnienia w obrocie prawnym odpowiednich przepisów, które nie tylko ustanawiają tajemnicę, ale również gwarantują jej ochronę. Poszanowanie tajemnicy zawodowej wymaga także określonych standardów zachowania ze strony władzy publicznej, w tym ze strony organów. Ochrona tajemnicy zawodowej ma fundamentalne znaczenie z perspektywy relacji prawnik- podmiot kontrolowany. Przedstawiony przepis budzi poważne wątpliwości dotyczące ochrony poufności informacji, zwłaszcza w kontekście relacji bank-klient. Przepis ten, w obecnym brzmieniu, pozwala na zbyt szeroki dostęp do informacji, które powinny być objęte bankową tajemnicą zawodową. Główne zastrzeżenia: Przepis nie precyzuje, jakie informacje powinny być uznane za objęte ochroną. W konsekwencji, może prowadzić do arbitralnej interpretacji i nadmiernego ujawniania informacji o kliencie. Pozwolenie na pobieżne zapoznanie się z dokumentami może prowadzić do przypadkowego ujawnienia informacji, które powinny być chronione. W odniesieniu do propozycje rozszerzenia przepisu o chmurę obliczeniową - zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje wątpliwości interpretacyjne w zakresie dostępu Komisji do danych znajdujących się w chmurze. Art. 45 Związek Cyfrowa Polska Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45). Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot 222 kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1). Jednocześnie art. 45 ust 2, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 Związek Pracodawców Technologii Cyfrowych Lewiatan Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45 USS) Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1 USS). Jednocześnie art. 45 ust 2 USS, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 USS przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 ust. 1 e-Izba Rekomendujemy usunięcie z treści przepisu „niezależnym od kontrolowanego”. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium „zależności\" 223 od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest „niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są „niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona „niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. Art. 45 ust. 1 Fundacja FinTech Poland Postanowienie zawarte w Projekcie Ustawy, w którym mowa o \"niezależnym od kontrolowanego\" adwokacie, radcy prawnym czy prawniku z Unii Europejskiej powinno zostać usunięte lub zmodyfikowane. Polskie prawo nie przewiduje podziału ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta. Każdy radca prawny i adwokat jest niezależny. Projektowane postanowienie faktycznie ogranicza prawo kontrolowanego do pomocy prawnej, ponieważ: naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ może wysunąć interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Podsumowując, postanowienie o \"niezależnym od kontrolowanego\" prawnym przedstawicielu należy usunąć, aby zapewnić pełne prawo do ochrony prawnej, zgodnie z konstytucyjną zasadą praworządności. W przeciwnym razie, interpretacja obecnych przepisów może prowadzić do ograniczenia możliwości korzystania z pomocy prawnej. Art. 45 ust. 1 pkt 1 PIRP w katalogu podmiotów korespondujących proponuje się dodać po sformułowaniu „adwokatem, radcą prawnym”, po przecinku, sformułowania „rzecznikiem patentowym” Art. 45 ust. 1 pkt 1 Związek Przedsiębiorstw Postulujemy usunięcie w art. 45 ust. 1 pkt 1 Projektu ustawy fragmentu: „a niezależnym od kontrolowanego”. 224 Finansowych w Polsce (ZPF) Fragment ten w istocie umniejsza prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Naszym zdaniem, ten fragment może naruszać zasadę praworządności i faktycznie pozbawić kontrolowanego ochrony prawnej. Art. 45 ust. 1 pkt 1 ISSA Polska Nadmiarowe ograniczenie wprowadzone zwrotem “niezależnym od kontrolowanego adwokatem, radcą prawnym (...)”. Tajemnica zawodowa istnieje bez względu na zależność lub niezależność. Nie wiadomo również w jaki sposób miałaby zostać określona ta niezależność. Nie ma powodu aby uznawać, że adwokat zatrudniony przez kontrolowanego na umowę o pracę jest zależny, a pracujący na zlecenie lub B2B już nie. Art. 45 ust. 1 pkt 1 GRAI Przepis bezzasadnie różnicuje prawnika zewnętrznego od wewnętrznego (analogiczne rozwiązanie jest mocno krytykowanie na gruncie ustawy o OKiK) Skreśla się słowa „niezależnym od kontrolowanego” Art. 45 ust. 1 pkt 1 i 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż dokumenty opisane w art. 45 ust. 1 pkt 1 i 2 Projektu ustawy objęte są tajemnicą radcowską/adwokacką, i nie powinny być przedstawiane do wglądu w miejscu kontroli. Ponadto wnosimy o doprecyzowane, co, jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty? Art. 45 ust. 1 pkt. 1 - 2 NRA Art. 45 ust. 1 pkt 1 Projektu przewiduje ochronę tajemnicy zawodowej jedynie w odniesieniu do pisemnej komunikacji między podmiotem kontrolowanym a „niezależnym” adwokatem, która została sporządzona wyłącznie w celu uzyskania ochrony prawnej w związku z przedmiotem kontroli. Użycie w treści przepisu określenia „niezależny adwokat” budzi poważne wątpliwości. Konstrukcja ta jest nie tyle zbędna, ile zwyczajnie myląca, bowiem ustawowy obowiązek niezależności jest fundamentem wykonywania zawodu adwokata. Charakter zawodu adwokata 225 zakłada niezależność i swobodę zawodową, a stosowanie sformułowania „niezależny” może sugerować istnienie adwokatów „zależnych”, co pozostaje w sprzeczności z obowiązującymi przepisami oraz etyką adwokacką. Tym samym wprowadzenie tego pojęcia w art. 45 ust. 1 pkt 1 Projektu grozi powstaniem niejasności interpretacyjnych, które mogą podważyć status i autonomię adwokatów. Z tego względu postuluje się, aby przepis ten odnosił się do komunikacji z adwokatem bez wskazywania na jego „niezależność”, co zapobiegnie błędnej interpretacji i będzie zgodne z fundamentalnymi zasadami adwokatury. Wątpliwości budzi również bardzo wąski zakres ochrony tajemnicy zawodowej przyjęty w art. 45 ust. 1 pkt 1 oraz pkt 2 Projektu. Art. 45 ust. 1 pkt 1 Projektu ogranicza zakres tajemnicy zawodowej do pisemnej komunikacji wytworzonej „w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ”. Na podobnej zasadzie art. 45 ust. 1 pkt 2 Projektu ogranicza zakres tajemnicy zawodowej do pism lub dokumentów sporządzonych „wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej”. Z uwagi na fakt, że rzeczywisty zakres tajemnicy zawodowej jest znacznie szerszy, wskazane regulacje powinny obejmować całą komunikację pomiędzy podmiotem kontrolowanym a osobą, o której mowa w art. 45 ust. 1 pkt 1 Projektu, jeżeli komunikacja ta jest prowadzona w celu realizacji prawa kontrolowanego do uzyskania ochrony lub pomocy prawnej. Pochylając się szczegółowo nad zasygnalizowanym wyżej zagadnieniem, konieczną pozostaje także analiza wymagania, aby przedmiotowa komunikacja była „wytworzona” a pisma i dokumenty „sporządzone” wyłącznie w celu uzyskania ochrony prawnej. Taka redakcja przepisów sugeruje, że chroniona przed ujawnieniem jest tylko ta komunikacja oraz tylko te pisma i dokumenty, które od początku zostały stworzone (wytworzone) jako część działań prawnych, związanych z ochroną interesów podmiotu kontrolowanego w toku konkretnego postępowania. Taka interpretacja wyklucza z kolei „materiały”, które powstały wcześniej lub zostały sporządzone w innym celu, lecz mogą być istotne dla ochrony interesów podmiotu kontrolowanego (jego obrony) w danej sprawie i są wykorzystywane na potrzeby danego postępowania. Dodatkowo określenia „wytworzone” i „sporządzone” (wyłącznie w celu realizacji prawa do ochrony prawnej w przedmiotowym postępowaniu) mogą prowadzić do zawężającej interpretacji, która ogranicza ochronę tylko do dokumentów mających bezpośredni związek z bieżącym postępowaniem. W praktyce jednak niektóre dokumenty, choć nie zostały przygotowane wyłącznie na potrzeby konkretnego postępowania, mogą być wykorzystywane w ramach analizy prawnej, związanej z bieżącą kontrolą. W takiej sytuacji kontrolujący mógłby argumentować, że dokumenty te nie spełniają przesłanki wyłącznego celu ochrony prawnej, co naraża podmiot kontrolowany na ujawnienie szerszego zakresu materiałów, niż jest to konieczne. W związku z powyższym wprowadzenie tak ścisłego kryterium „wytworzenia” czy „sporządzenia” wyłącznie dla konkretnego celu może ograniczać ochronę i nie odpowiadać potrzebom praktyki, w której często wykorzystuje się dokumenty powstałe w innym kontekście, ale nadal objęte tajemnicą zawodową (na gruncie innych regulacji). W tej sytuacji korekta wymagałaby jedynie wykreślenia tych limitujących 226 sformułowań. Analiza porównawcza art. 43 ust. 4 pkt 3 z art. 45 ust. 1 i 2 Projektu prowadzi do wniosku, że zakres wyłączenia z art. 45 ust 1 może być niewystarczający by powstrzymać szerokie uprawnienia kontrolującego w toku kontroli. Art. 43. ust. 4 pkt 3 przyznaje kontrolującemu prawo do żądania dostępu do: „akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp”. Natomiast art. 45 ust 1 odnosi się jedynie do: „ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 [...] zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem [...] wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola”. Wobec powyższego możliwa zdaje się niekorzystna z perspektywy kontrolowanego interpretacja, że wyłączenie uprawnienia do żądania udostępnienia nie obejmuje wszystkiego tego, co znajduje się w aktach czy na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, a dotyczy jedynie pism i dokumentów. Warto nadmienić, że pojęcie „dokumenty” jest bardzo szerokie i może przykładowo obejmować: notatki własne, materiały dowodowe, dane analityczne itp. W tej sytuacji zasadnym zdaje się rozważenie, czy praktycznym nie byłoby powołanie się wprost na treść przepisu z art. 43 ust. 4 pkt 3. Mając na uwadze dotychczasowe rozważania, uzasadniona jest konstatacja, że kwestionowane przepisy jawią się jako nadmiernie zawężające. W praktyce może to prowadzić do wykluczenia spod ochrony wszelkich materiałów, które powstały pierwotnie w innym celu, lecz które adwokat lub osoba kontrolowana uznali za przydatne dla obrony prawnej w bieżącym postępowaniu. Co istotne tajemnica adwokacka obejmuje całość komunikacji klienta z adwokatem, a szczególne znaczenie ma tutaj możliwość bezpiecznego korzystania z dokumentów, które mogą być kluczowe dla sprawy, nawet jeśli powstały wcześniej. Wprowadzenie wąskiej klauzuli ograniczającej ochronę jedynie do dokumentów wytworzonych „wyłącznie” na potrzeby postępowania może prowadzić do sytuacji, w której organ kontrolujący będzie miał dostęp do informacji poufnych, co stoi w sprzeczności z zasadą ochrony tajemnicy zawodowej. Proponuje się zatem rozszerzenie przepisów, aby obejmowały wszelką komunikację między podmiotem kontrolowanym a adwokatem (radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników 227 zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej lub osobą, o której mowa w art. 2a tej ustawy), prowadzoną w celu realizacji prawa do uzyskania pomocy prawnej, bez względu na pierwotny cel sporządzenia dokumentu. Taka zmiana pozwoli uniknąć nadużyć i zapewni ochronę tajemnicy zawodowej zgodną ze standardami adwokatury. Art. 45 ust. 2 NRA Warto również odnotować, że przepis art. 45 ust. 1 in fine, zobowiązujący kontrolującego do pozostawienia dokumentów objętych ochroną na miejscu kontroli, może budzić wątpliwości co do zakresu i sposobu przeprowadzania kontroli dokumentów związanych z tajemnicą zawodową. Jeśli intencją przepisu jest wyłączenie określonych dokumentów spod kontroli, sformułowanie powinno wyraźnie wskazywać, że dokumenty te nie podlegają kontroli (w odróżnieniu od „pobieżnego zapoznania się” z art. 45 ust. 2), ani dalszemu przeglądowi („pobieżnemu zapoznaniu się”), weryfikacji, kopiowaniu, powielaniu, utrwalaniu, czy w ogóle realizowaniu praw przewidzianych w art. 43 ust. 4 (z zastrzeżeniem art. 45 ust. 2) przez kontrolujących. Obecne brzmienie sugeruje jedynie, że dokumenty mają zostać pozostawione na miejscu, ale nie precyzuje kategorycznego zakazu kontroli, od którego odstępstwem mogłoby być ewentualnie zawarte w ust. 2 „pobieżne zapoznanie się”. W kontekście art. 45 Projektu kluczowe znaczenie mają także przepisy powiązane, w szczególności art. 43, który określa szerokie uprawnienia kontrolne KRiBSI. Art. 43 ust. 1 pkt 2 Projektu przewiduje, że kontrolującymi mogą być osoby „posiadające wiedzę specjalistyczną” w zakresie systemów sztucznej inteligencji, jednak projekt nie precyzuje, kim dokładnie są osoby o takiej „wiedzy specjalistycznej”, jakie mają kwalifikacje i w jaki sposób zapewniona jest ich niezależność. Brak doprecyzowania tej kwestii rodzi ryzyko, że osoby nieuprawnione, niemające odpowiednich kwalifikacji, a być może również powiązane zawodowo z konkurencyjnymi podmiotami, mogłyby uzyskać dostęp do dokumentacji kontrolowanego podmiotu, która zawiera informacje objęte tajemnicą zawodową, w tym adwokacką. Praktyka ta mogłaby prowadzić do naruszenia tajemnicy zawodowej oraz udostępnienia informacji, które są chronione nie tylko ze względu na interes klienta, ale również z uwagi na szczególne zaufanie społeczne, jakim obdarzony jest zawód adwokata. Art. 43 ust. 3 zawiera natomiast sformułowanie „szczególne okoliczności”, które uzasadniają zwiększone uprawnienia kontrolne Komisji. Przepis ten jest jednak zbyt ogólny i nie definiuje, co ustawodawca rozumie przez „szczególne okoliczności”. Pozostawienie tego terminu bez doprecyzowania otwiera możliwość różnorodnych, arbitralnych interpretacji i uznaniowości ze strony organów kontrolujących, co w kontekście ochrony tajemnicy zawodowej może być szczególnie niebezpieczne. Sugeruje się wprowadzenie katalogu przykładów „szczególnych okoliczności”, które mogłyby uzasadniać takie uprawnienia kontrolne, a jednocześnie zachowanie otwartego charakteru tego katalogu, co umożliwiłoby elastyczność stosowania przepisu bez ryzyka dowolności w jego interpretacji. Art. 45 ust. 2 e-Izba Aktualne brzmienie tego przepisu nie gwarantuje pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o sztucznej inteligencji, w tym informacji objętych tajemnicą adwokacką/radcowską. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego 228 przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Z punktu widzenia bezpieczeństwa prawnego kontrolowanych przedsiębiorców istotne jest zapewnienie pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o systemach sztucznej inteligencji. W związku z powyższym, proponujemy wyłączenie z treści aktualnego brzmienia art. 45 ust. 2 projektu ustawy o systemach sztucznej inteligencji możliwości „pobieżnego zapoznania się” przez osobę wykonującą czynności kontrolne z treścią dokumentu. Wówczas – w przypadku złożenia oświadczenia, o którym mowa w ust. 1 tego przepisu – oraz powzięciu wątpliwości co do jego zasadności – dokument powinien zostać przekazany do Sądu Ochrony Konkurencji i Konsumentów, zgodnie z przewidzianą w aktualnym brzmieniu tego przepisu procedurą. Art. 45 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prawo organu do „pobieżnego zapoznania się\" z dokumentem objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie zweryfikować, czy pracownik Komisji rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo zażądać zwrotu dokumentu od kontrolującego lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. „pobieżnego\" zapoznania się z dokumentem Komisja może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Postulujemy zmianę treści art. 45 ust. 2 poprzez usunięcie zdania pierwszego i pozostawienie przepisu w brzmieniu: „2. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.” Art. 45 ust. 2 GRAI Ust. 2 stanowi naruszenie tajemnicy zawodowej adwokata i radcy prawnego poprzez nawet pobieżne zapoznanie się treścią pism lub dokumentów. Propozycja usunięcia ust. 2 i zmiany numeracji ustępów w art. 45. Treść przepisu, jest kalką z ustawy OKiK, ale nie uwzględnia, że zasadą na gruncie ustawy mają być zdalnie, czego nie zauważa przepis. Art. 45 ust. 2 ISSA Polska Wskazujemy na ryzyko naruszenia tajemnicy zawodowej. Kontrolujący może zapoznać się z autorem, adresatem, tytułem oraz przedmiotem pisma lub dokumentu zawierającego m.in. tajemnicę zawodową oraz datą jego sporządzenia. Wydaje się, że przepis ten nadaje kontrolującemu większe prawa niż w podobnej sytuacji art. 225 par. 1 Kodeksu postępowania karnego: Jeżeli kierownik instytucji państwowej lub samorządowej albo też osoba, u której dokonano zatrzymania rzeczy lub u której przeprowadza się przeszukanie, oświadczy, że wydane 229 lub znalezione przy przeszukaniu pismo lub inny dokument zawiera informacje niejawne lub wiadomości objęte tajemnicą zawodową lub inną tajemnicą prawnie chronioną albo ma charakter osobisty, organ przeprowadzający czynność przekazuje niezwłocznie pismo lub inny dokument bez jego odczytania prokuratorowi lub sądowi w opieczętowanym opakowaniu. Art. 45 ust. 2 Fundacja FinTech Poland Prawo organu do „pobieżnego zapoznania się” z dokumentem objętym tajemnicą radcowską lub adwokacką budzi istotne wątpliwości i powinno zostać wyeliminowane, ponieważ narusza ochronę tajemnicy zawodowej i prawo do pomocy prawnej. Kontrolowany nie ma praktycznej możliwości nadzorowania, czy pracownik KRiBSI rzeczywiście ogranicza się jedynie do „pobieżnego” wglądu, czy też nie przekracza tej granicy, wchodząc w meritum dokumentu. Pojęcie „pobieżności” jest niewystarczająco precyzyjne, co prowadzi do pytania, czy oznacza to np. krótki czas patrzenia, po którym kontrolowany miałby prawo przerwać dostęp do dokumentu, czy też istnieją inne, nieokreślone kryteria. Tzw. „pobieżne” zapoznanie się z dokumentem stwarza realne ryzyko, że pracownik KRiBSI uzyska dostęp do informacji objętych tajemnicą, co jest sprzeczne z zasadami ochrony takich informacji i wykracza poza uprawnienia kontrolujących. Tego rodzaju praktyki mogą naruszać prawa chronione konstytucyjnie, w tym prawo do rzetelnej pomocy prawnej (art. 42 ust. 2 i art. 51 Konstytucji RP). Postulowane brzmienie przepisu: Art. 45 ust. 2 Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Art. 45 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu, albowiem aktualnie nie jest wiadomym w jaki sposób ma dojść do przekazania dokumentu, skoro z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Art. 45 ust. 3 Fundacja FinTech Poland Treść przepisu powoduje wątpliwości w jaki sposób kontrolujący ma przekazać pismo lub dokument sądowi, skoro zgodnie z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli”) nie ma dostępu do takich dokumentów po ich pozostawieniu w miejscu kontroli. Taka sytuacja stwarza problem praktyczny – kontrolujący nie może efektywnie spełnić obowiązku przekazania dokumentów sądowi, jeśli wcześniej nie ma możliwości ich fizycznego zabezpieczenia lub zabrania. 230 Ustawa powinna jednoznacznie precyzować, jak kontrolujący może postąpić w przypadku wystąpienia wątpliwości, aby zachować zgodność z regulacjami dotyczącymi ochrony dokumentów, a jednocześnie umożliwić skuteczne wykonanie obowiązku ich przekazania. Art. 45 ust. 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Sąd drugiej instancji powinien być związany takim samym terminem jak Sąd Ochrony Konkurencji i Konsumentów, żeby prawo do złożenia zażalenia było realne. W konsekwencji, postulujemy zmianę treści art. 45 ust. 5 Projektu ustawy na następującą: „5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 45 ust. 5 Fundacj FinTech Poland Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne. Postulowane brzmienie przepisu: Art. 45 ust. 5 Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia Art. 46. PWPW Projekt ustawy nie wskazuje trybów doręczeń np. na adres do doręczeń elektronicznych lub inny wskazany adres elektroniczny przez kontrolowanego itp. Ma to istotne znaczenie w kontekście liczenia terminów np. na wniesienie uwag do wystąpienia pokontrolnego. Art. 46 ust. 1 i 4 PIIT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia 231 zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów uodo i uokk, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. Art. 46 ust. 1 i 4 KIGEiT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. , Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów UODO i UOKiK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. art. 46 ust. 8 SKwP W naszej ocenie, powinna być możliwość odwołania. Art. 47 PIIT 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać 232 zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu powszechnego (SOKiK?). Art. 47 KIGEiT Propozycja zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. , Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu. Art. 47 ust. 1. PWPW Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Należy doprecyzować jakie są skutki prawne zaleceń pokontrolnych jeżeli nie można się od nich odwołać? Jest to szczególnie istotne z punktu widzenia następnego przepisu, tj. art. 48 projektu – który wprost wskazuje na wykrycie naruszeń AI act. Należy zatem przyjąć, że zalecenia pokontrolne mogą wskazywać na kwestie, które nie stanowią naruszenia AI act. Przyjmując natomiast ten punkt widzenia należy zadać pytanie co się stanie jeżeli zalecenia nie zostaną zrealizowane (np. w części). art. 47 ust. 2 SKwP Tak nie powinno być. Każda kontrola musi mieć przewidzianą możliwość odwołania się od jej ustaleń, mogą przecież pojawić się błędy czy zwyczajne pomyłki w dokonanych ustaleniach, zatem odwołanie musi być przewidziane. art. 47 ust. 3 Związek Przedsiębiorstw Wnosimy o zmianę treści art. 47 ust. 3 Projektu ustawy na następującą: 233 Finansowych w Polsce (ZPF) „3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń.” Art. 47 ust. 3 Związek Banków Polskich Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 60 dni, informuje Komisję o sposobie wykonania zaleceń. Wydaje się, że w interesie podmiotów objętych zakresem projektowanej ustawy zasadnym jest wskazanie minimalnego terminu na wypełnienie ciążącego na nich obowiązku. Przedmiotowy projekt ustawy powinien nie tylko obejmować ochroną prawa użytkowników, ale jak również obejmować ochroną podmioty wykonujące działalność w związku z rozporządzeniem 2024/1689 m.in. dla celów rozwoju innowacyjności. Art. 47 ust. 3 Fundacja FinTdch Poland W ustawie powinien zostać ustalony minimalny termin na przekazanie informacji o sposobie wykonania zaleceń, aby zagwarantować podmiotowi kontrolowanemu odpowiedni czas na zorganizowanie, wdrożenie i przedstawienie szczegółowych informacji związanych z realizacją zaleceń. Określenie minimalnego terminu chroni przed potencjalnym nadużyciem poprzez wyznaczanie zbyt krótkich okresów, które mogłyby skutkować niekompletnym lub powierzchownym wykonaniem zaleceń. Postulowane brzmienie przepisu Art. 47 ust. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. art. 48 Uwaga redakcyjna - podwójny przecinek ze spacją pośrodku. Po słowach „w toku kontroli” skreśla się przecinek oraz następujący po nim znak spacji. art. 48 KIG Proponujemy dodanie po art. 48 dodatkowego artykułu w brzmieniu: Kontrolę prowadzi się w sposób możliwie najmniej uciążliwy dla kontrolowanego, w szczególności, bez uzasadnionych przesłanek w postaci co najmniej uprawdopodobnienia naruszenia przepisów rozporządzenia 2024/1689, nie stosuje się środków wskazanych w art. 43 ust. 4 pkt 6 i 9. W przypadku naruszenia tajemnicy przedsiębiorstwa kontrolowanego odpowiedzialność odszkodowawczą ponosi Skarb Państwa. Art. 48 Fundacja FinTech Poland Przepis art. 48 nie precyzuje procedury, zgodnie z którą Komisja, jako organ kolegialny, ma stwierdzić, że na podstawie informacji zgromadzonych w toku kontroli mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. W związku z tym pojawia się niejasność co do 234 tego, czy decyzja ta powinna być podejmowana kolegialnie, np. w drodze głosowania wszystkich członków Komisji, czy też czy może zostać podjęta przez Przewodniczącego działającego samodzielnie. Brak sprecyzowanej procedury stwierdzania takich faktów rodzi ryzyko dowolności i może prowadzić do niejasności w zakresie odpowiedzialności za podjęte działania. Warto, aby ustawa wyraźnie określała, czy decyzja o wszczęciu postępowania ma być podejmowana na forum Komisji jako całości, w ramach głosowania z odpowiednią większością głosów, czy też powinna być delegowana Przewodniczącemu z określeniem warunków, pod jakimi takie działanie jest możliwe. Takie wyjaśnienie zapewniłoby transparentność procesu decyzyjnego oraz jasność co do podziału kompetencji wewnątrz organu. Proponowane doprecyzowanie może polegać na dodaniu zapisu, który precyzuje, że stwierdzenie naruszenia i decyzja o wszczęciu postępowania wymaga formalnej uchwały Komisji, np. podjętej większością głosów, lub alternatywnie określa, że decyzję podejmuje Przewodniczący na podstawie informacji przekazanych przez kontrolujących z odpowiednim umotywowaniem i zatwierdzeniem przez organ. Rozdział 4 GRAI Sugeruje wprowadzenie przepisów dotyczących postępowania z dokumentacją związaną z systemami sztucznej inteligencji na wypadek upadłości. Należy jasno uregulować co dzieje się z dokumentacją w sytuacji upadłości. Rozdział 4 GRAI Sugeruje rozważenie wprowadzenie trybu weryfikacji czy dochodzi do podejrzenia dyskryminacji algorytmicznej (odpowiedni nowy środek prawny). Uzyskane wyniki zyskałyby walor dowodowy w procesie cywilnym. Odbiorcy usług publicznych (np. Pacjenci) byliby informowani o ustaleniach i w określonym terminie mogliby skorzystać z prawa do weryfikacji swojego przypadku przed sądem. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Rozdział 4 Fundacja Panoptykon Prawa skarżących Doceniamy wprowadzenie w Rozdziale 4 projektu ustawy szczegółowych przepisów dotyczących postępowania przed organem nadzoru, w szczególności postępowania w następstwie skargi złożonej zgodnie z art. 85 rozporządzenia w sprawie sztucznej inteligencji. W naszej opinii doprecyzowania wymaga jednak, jakie prawa przysługują osobie składającej skargę. Analiza przepisów Rozdziału 4 sugeruje, że intencją projektodawcy byłonieprzyznanie osobie skarżącej statusu strony postępowania. Zgodnie bowiem z art. 51 projektu ustawy stroną postępowania jest wyłącznie podmiot, wobec którego wszczęto postępowanie. Choć art. 56 projektu ustawy przewiduje, że w zakresie nieuregulowanym ustawą stosuje się przepisy Kodeksu postępowania administracyjnego, interpretujemy art. 51 w ten sposób, że wprowadza on odrębne od k.p.a. regulacje co do statusu strony, inspirowane rozwiązaniami zastosowanymi w podobnych przepisach regulujących nadzór nad rynkiem i w prawie ochrony konkurencji i konsumentów, gdzie konsument nie jest uznawany za stronę postępowania przed UOKiK. 235 Zakładamy, że takie rozwiązanie zostało wprowadzone w celu uniknięcia ryzyka wydłużenia postępowania oraz utrzymania modelu regulacyjnego rozporządzenia w sprawie sztucznej inteligencji, inspirowanego przepisami o nadzorze rynku i produktów. Dostrzegamy jednak problem, że w obecnym kształcie projektu ustawy osoba skarżąca nie będzie miała dostępu do informacji o tym, co stało się z jej skargą, czy na jej podstawie wszczęto postępowanie, ani jakie były jego wyniki. Postulujemy zatem wprowadzenie w projekcie ustawy przynajmniej prawa do uzyskania informacji zwrotnej o wyniku postępowania oraz dostępu do uzasadnienia decyzji. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Art. 49 KIGEiT Propozycja zapisu: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykuł 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w Art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone, że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsiębiorcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. kultury, ale już nie minister sprawiedliwości, technologii? Art. 49 Fundacja FinTech Poland Zgodnie z aktualnym brzmieniem art. 49 ust. 1 pkt 1 Projektu Ustawy, komisja wszczyna postępowanie m.in. z urzędu. W tym miejscu należy wyraźnie podkreślić, że w projektowanej ustawie nie zostały wskazane jakiekolwiek przesłanki, czy też kryteria do wszczęcia postępowania z urzędu. Wydaje się, że 236 aktualne brzmienie przedmiotowego przepisu prowadzi do wniosku, iż komisja jest uprawniona do wszczęcia postępowania bez uzasadnionej, ale i konkretnej przyczyny. W celu ograniczenia uznaniowości organu kontrolnego warto rozważyć doprecyzowanie sytuacji, w których wszczęcie postępowania kontrolnego będzie szczególnie uzasadnione. Mogą to być np. sygnały o poważnych zagrożeniach dla bezpieczeństwa lub prywatności obywateli, skargi złożone przez wiele podmiotów lub wyniki wstępnych analiz wskazujące na naruszanie przepisów. Obecny przepis nosi ryzyko uznaniowości i paraliżu podmiotu kontrolowanego Art. 49 pkt 2 PIIT Rekomendacja: usunięcie pkt 2) albo co najmniej do zmiany: Komisja może wszcząć postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, Czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. Kultury, ale już nie minister sprawiedliwości, technologii? art. 49 ust. 2 KIGEiT Rekomendacja: Wnosimy o wykreślenie 237 Nie jest uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. art. 49 ust. 2 i 3 GRAI Zbyt szerokie uprawnienie do dostępu do treści stanowiących z jednej strony tajemnicę adwokacką lub radcowską, a z drugiej strony stanowiących prawo podmiotu kontrolowanego do uzyskania ochrony prawnej. Ponadto kolejny ustęp wskazujący na uprawnienie do przekazania dokumentu zawierającego treść objętą tajemnicą tylko na podstawie przeświadczenia kontrolującego o powstaniu wątpliwości stworzy pole do nadużyć i niekontrolowanego używania tego uprawnienia. Postuluje się usunięcie ust. 2 i 3 w całości. Art. 49 ust. 2 pkt. 3 PIIT Proponujemy usunąć, aby nie zaistniał skutek, że każda skarga obliguje Komisję do wszczęcia postępowania administracyjnego. Duża ilość skarg może spowodować blokadę działalności Komisji. Nie jest ponadto uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. Art.50 Osoba fizyczna W art. 50 projektu nie wskazano, jakie środki prawne przysługują skarżącemu, zwłaszcza w zakresie otrzymania informacji o wyniku postępowania. Nie odwołano się również do kwestii ochrony tożsamości skarżącego, w myśl dyrektywy (UE) 2019/1937. Należy wskazać gwarancje procesowe i środki ochrony skarżącego. Art.50 ICC Poland Projekt przewiduje w art. 50 ust. 2 pkt 1, że skarga, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia, powinna zawierać m.in. „nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji” [podkreślenie własne]. Tymczasem zakres przedmiotowy skargi nie jest ograniczony do naruszeń dokonanych przez dostawców systemów sztucznej inteligencji, lecz może ona dotyczyć wszelkich naruszeń rozporządzenia 2024/1689, a więc wszystkich operatorów, na których rozporządzenie 2024/1689 nakłada określone obowiązki (dostawców, producentów produktów, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora). W konsekwencji proponuje się zmianę w art. 50 ust. 2 pkt 1 Projektu słowa „dostawcy” na „operatora”. Art. 50 – 55. PWPW dot. post ępowania skargowego/naruszeniowego) 238 Prosimy o wskazanie czy do art. 50 i nast. będą miały zastosowanie przepisy Kodeksu postępowania administracyjnego , czy może to będzie procedura odrębna i wyłączna. Art.50 PIRP sformułowanie „jednostka organizacyjna nieposiadająca osobowości prawnej” należałoby doprecyzować przez dodanie po nim, po przecinku, sformułowania „o której mowa w art. 33[1] k.c.” Art. 50 Fundacja FinTech Poland Należy dodać obowiązek podania danych osoby lub podmiotu zgłaszającego skargę. Bez takiego wymogu istnieje ogromne ryzyko walki z konkurencją poprzez wnoszenie oskarżeń, które na długi czas blokują prace podmiotu konkurencyjnego art. 50 ust. 2 pkt 1 GRAI Uwaga redakcyjna - połączono adres z siedzibą. Słowa „adres siedziby” zastępuje się słowami „siedzibę, adres”. art. 50 ust. 2 pkt 3 GRAI Zbędne wydaje się wskazanie w przepisie: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Skreśla się słowa: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Art. 50 ust. 2 pkt 3 Związek Banków Polskich Art. 50. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej może złożyć do Komisji skargę, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia. 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji; 2) opis istotnych faktów oraz powody, dla których skarżący uważa, że dostawca systemu sztucznej inteligencji naruszył przepisy rozporządzenia 2024/1689; 3) inne informacje uznane przez skarżącego za istotne dla sprawy w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 50 ust. 1 pkt 3) Należy wykreślić sformułowanie „w stosownych przypadkach, informacje zebrane z własnej inicjatywy”, gdyż jest to nadmiarowe i nic nowego nie wnosi, skoro mamy już sformułowanie „inne informacje”. Informacje powinny być zabrane tylko w zgodzie z przepisami prawa w danej konkretnej sprawie. art. 50 ust. 2 –4 GRAI Uwaga redakcyjna Zbędne jest odwołanie w tych przepisach – „skarga o której mowa w ust. 1” zamiast po prostu ,,skarga”. W ust. 2,3 i 4 po słowie „skarga” skreśla się „o której mowa w ust.1”. Art. 50 ust. 3. PWPW Skargę, o której mowa w ust. 1, składa się Komisji w postaci elektronicznej, 239 a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji. Przepis jest zbyt ogólny i wadliwy. Skargę można złożyć: - w postaci elektronicznej, - czyli albo za pomocą środków komunikacji elektronicznej (np. mailem) albo na nośniku danych (co powinno być możliwe) gdzie należy przekazać – na biuro podawcze, czy przy użyciu poczty rejestrowanej lub bez rejestrowania np. płytą, innym nośnikiem danych itp. - a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków 7 komunikacji. Czy to oznacza że możliwe jest złożenie np. na papierze ? Należy wskazać kanały komunikacji np. ePUAP, adres do doręczeń elektronicznych, dedykowany portal itp. Czy wniesienie skargi uruchamia od razu postępowanie o naruszenie względem dostawcy AI act czy też jest to postępowanie typowo skargowe. Przepisy ww. obecnym kształcie nie wyjaśniają ww. zagadnienia. Art. 50 ust. 4 Uwagi Ogólne SAiW Copyright Polska Art. 50 ust. 4 projektu należy uznać zwrócenie się do Ministra Kultury z propozycją udziału w rozpatrywaniu skarg dotyczących kwestii odnoszących się do prawa autorskiego i praw pokrewnych za obligatoryjne dla Komisji, a nie fakultatywne. Dodatkowo z uwagi na potencjalnie duże skomplikowanie stanów faktycznych, wydaje się, że w art. 51 ust. 3 powinna istnieć możliwość wydłużenia czasu postępowania w danej sprawie, w uzasadnionych jej zawiłością przypadkach, ponad standardowy czas do 12 miesięcy. Podobna kompetencja Komisji jak ta przewidziana w art. 61 ust. 5 projektu w wypadku postępowań w ramach zgłaszanych incydentów, to jest kompetencja Komisji do żądania dodatkowych danych i informacji, powinna istnieć w sprawach wydawania przez Komisję interpretacji indywidualnych i generalnych. W razie braku przedstawiciela władz publicznych odpowiedzialnego za ochronę praw autorskich uprawnionego w mocniejszy niż obecnie sposób może zachodzić ryzyko wydawania przez Komisję interpretacji naruszających lub w niedostatecznym stopniu uwzględniających te prawa. Ryzyko to jest tym większe, że zgodnie z art. 14 ust. 5 projektu można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie, a zgodnie z art. 15 projektu ustawy Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych 240 w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Tak szeroko nakreślone kompetencje Komisji wymagają wprowadzenia w jej działanie postulowanych zmian. Społeczna Rada do spraw Sztucznej Inteligencji, dalej: Rada, powinna być tworzona przy współudziale podmiotów autorskouprawnionych, to jest powinna mieć możliwość posiadania w swym składzie określanym przez art. 28 projektu, kandydatów rekomendowanych nie tylko przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych (art. 28 ust. 3 pkt 4), ale też przez izby gospodarcze reprezentujące producentów treści chronionych prawami autorskimi i prawami pokrewnymi. Podobnie nie tylko przez fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji (art. 28 ust. 3 pkt 7), ale także przez stowarzyszenia, których celem statutowym jest ochrona praw autorskich i praw pokrewnych lub zbiorowe zarządzanie prawami autorskimi i prawami pokrewnymi. Skład osobowy Rady powinien wyważać reprezentowane w niej grupy interesów i zapewniać transparentność w zakresie ewentualnego konfliktu interesu, czego obecna regulacja w żaden sposób nie czyni. Za wzór w tym zakresie mogą posłużyć regulacje dotyczące wyłaniania składu osobowego Komisji Prawa Autorskiego, zawarte w ustawie o prawie autorskim i prawach pokrewnych, zapewniające większą równowagę interesów niż projekt w obecnym jego brzmieniu. Kompetencje członka Rady (art. 28 ust. 4 pkt 1) powinny obejmować także wiedzę w zakresie ochrony praw własności intelektualnej, w tym praw autorskich i praw pokrewnych. Dodatkowo zwracamy uwagę, że zakres wyłączenia przez projekt stosowania projektowanej ustawy do podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 1 Prawa o szkolnictwie wyższym może budzić pewne wątpliwości. Intencją Aktu o sztucznej inteligencji było wyłączenie działań niekomercyjnych, a polska definicja ustawowa „podstawowych badań naukowych” (rozumianych jako: prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne) nie wyklucza celów pośrednio komercyjnych. Wymaga to dalszego namysłu projektodawcy co do zgodności tej regulacji z Aktem o sztucznej inteligencji i z intencją motywu 109 tej regulacji. Sektor kreatywny słowa i książki oferuje społeczeństwu bardzo cenny, unikalny zbiór, jeżeli chodzi o treści potrzebne do trenowania sztucznej inteligencji. Intencją uprawnionych prawnoautorsko do tych treści nie jest hamowanie rozwoju sztucznej inteligencji i systemów nadzoru nad nią, lecz zapewnienie przez władze publiczne słyszalności w tym procesie głosu twórców i producentów treści kreatywnych, a w konsekwencji poszanowania ich słusznych praw i interesów. 241 Wyrażamy tym samym nadzieję, że głos polskiego środowiska twórczego i wydawniczego znajdzie zrozumienie i poparcie Ministerstwa jako projektodawcy. Art. 50 ust. 4 Osoba fizyczna jk Czy zapis ust. 4 oznacza, że Komisja nigdy nie będzie prowadzić kontroli w organach, o których mowa w art. 6 ust. 3 projektu ustawy? Art. 51 ust. 1 Osoba fizyczna Art. 51 ogranicza pojęcie strony postępowania tylko do osoby, wobec której zostało wszczęte postępowanie, podczas gdy art. 28 k.p.a. definiuje stronę jako każdego, czyjego interesu prawnego lub obowiązku dotyczy postępowanie. To oznacza, że art. 51 projektu ustawy pomija osoby, które mogą mieć interes prawny lub obowiązek w postępowaniu, ale nie są bezpośrednio objęte postępowaniem. Tym samym przepis nie zapewnia ochrony prawnej osobom, które chcą aktywnie uczestniczyć w postępowaniu. Art. 51 projektu jest zbyt wąsko sformułowany, co może prowadzić do wykluczenia osób, które powinny być uznane za strony postępowania. Natomiast art. 28 k.pa. zapewnia szerszą definicję strony, która obejmuje wszystkie osoby, których interes prawny lub obowiązek jest dotknięty postępowaniem. W związku z tym, art. 51 projektu ustawy powinien zostać zmieniony, aby uwzględnić szerszą definicję strony postępowania, zgodną z art. 28 k.p.a., bowiem z zakresu regulacji nie wynika, aby takie ograniczenie miało uzasadnienie prawne i faktyczne. Ewentualnie można zawęzić definicję strony na potrzeby ustawy przez wskazanie, że stroną jest dostawca lub operator systemu sztucznej inteligencji. W takim ujęciu zakres podmiotowy jest zawężony, a dookreślenie jest uzasadnione przedmiotem regulacji. Art. 52 ust. 1 Osoba fizyczna Wyłączenie okresu postępowania dowodowego z terminów prowadzenia postępowania administracyjnego, wynikającego z art. 35 k.p.a. budzi istotne wątpliwości co do naruszenia zasady szybkości postępowania administracyjnego. Jeśli skonfrontujemy ten przepis – art. 52 ust. 1 projektu ustawy z art. 51 ust. 3, w którym mowa o maksymalnym, 12-sto miesięcznym terminie postępowania, to może potencjalnie dojść do sytuacji, w którym postępowanie dowodowe przekroczy nie tylko termin wskazany w k.p.a, ale określony również w art. 51 ust. 3. projektu ustawy. Warto bowiem zauważyć, że o ile prowadzenie czynności dowodowych wydłuży bieg terminu prowadzenia postępowania na gruncie k.p.a, to zastosowanie normy z art 52 ust 1 nie odwołuje się do terminu wynikającego z art 51 ust. 3, nie skutkuje wydłużeniem. Ponadto wydłużenie postępowania dowodowego w nieskończoności, a takie ryzyko potencjalnie istnieje, narusza nie tylko zasadę szybkości postępowania, ale także narusza istotne interesy stron, pozostające w niepewności co do swej sytuacji prawnej oraz zasadę pogłębiania zaufania obywateli do organów państwa. Należy gruntownie przemyśleć reguły dotyczące biegu terminów w postępowaniu przed Komisją, pamiętając jednocześnie, że w k.p.a przewidziano możliwość wydłużenia tych terminów. Doktryna i orzecznictwo negatywnie ocenia wydłużanie postępowania 242 administracyjnego ponad miarę, ponad istotnie występujące potrzeby procesowe, co prowadzi do przewlekłości postępowania administracyjnego lub wprost do bezczynności. Poglądy te powinny być istotnym ostrzeżeniem przed wprowadzaniem tego typu rozwiązań do nowego aktu prawnego. Art. 51 ust. 2 Związek Banków Polskich Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania art. 51 ust.3 CHAMBER Szczególnie rażące jest odmienne uregulowanie terminów na postępowanie - tam, gdzie KPA przewiduje maksymalnie 2 miesiące, projekt ustawy przewiduje w art. 51 ust. 3 aż 12 miesięcy! Tak długie prowadzenie postępowania nie znajduje żadnego uzasadnienia. Postulujemy powrót do zasad określonych w art. 35 KPA oraz skreślenie także nieuzasadnionego przepisu art. 52 ust. 2, skutkującego jeszcze większym wydłużeniem postępowania. Mając na uwadze charakter przedmiotu regulacji, tzn. dynamicznie rozwijającą się technologię, postępowania muszą być prowadzone szybko i sprawnie, czyli wskazane jest tu raczej dodatkowe skrócenie terminów, a nie ich tak rażące wydłużanie. art. 51 ust.3 GRAI Zdecydowanie za długi termin na prowadzenie postępowania. Doprowadzić to może do nieuzasadnionego nadmiernego obciążenia podmiotu badanego oraz wydłuży czas oczekiwania na werdykt składającego skargę. Takie postępowanie powinno się zakończyć w ciągu 1 miesiąca, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy. Postuluje się ustanowienie terminu nie dłuższego niż 1 miesiąc, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy na podstawie pisemnego uzasadnienia. art. 51 ust.3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy zastosowanie terminów dla prowadzenia postępowania z ustawy o ochronie konkurencji i konsumentów - Postępowanie wyjaśniające nie powinno trwać dłużej niż 4 miesiące, a w sprawach szczególnie skomplikowanych - nie dłużej niż 5 miesięcy od dnia jego wszczęcia. art. 51 ust.3 KIGEiT Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania. 243 Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKiK art. 51 ust.3 PIIT Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie uokk. Art. 51 ust. 3 Związek Banków Polskich Postępowanie nie może trwać dłużej niż 12 miesięcy 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Art. 51 ust. 3 Fundacja FinTech Poland Okres 12 miesięcy wydaje się nadmiernie długim czasem trwania postępowania, szczególnie jeśli zaangażowana jest tylko Komisja i nie doszło do procesu sądowego. Czas jest bardzo ważny w przypadku rozwiązań sztucznej inteligencji i w 12 miesięcy może dojść do wprowadzenia zupełnie nowej technologii. Badania rozpoczęte dziś, za 12 miesięcy mogą być przestarzałe. Blokada prac nad systemem AI na 12 miesięcy w wyniku anonimowej skargi będzie wspaniałym narzędziem do nieetycznej walki z konkurencją. Zgodnie z ust. 1 stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. Nie jest to naszym zdaniem jasne czy skarżący jest stroną. Nie tylko podmiot wobec którego postępowanie się toczy ma interes w rozstrzygnięciu. Otwarte pozostaje pytanie czy jest to w takim razie przepis szczególny względem Kodeksu postępowania administracyjnego oraz art. 28 zgodnie z którym stroną jest każdy, czyjego interesu prawnego lub obowiązku dotyczy postępowanie albo kto żąda czynności organu ze względu na swój interes prawny lub obowiązek. Brak jest sprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania, co skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Postulowane brzmienie przepisu: Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Art. 51 ust. 3 Osoba fizyczna jk Czas 12 miesięcy trwania postępowania może okazać się zbyt długi dla osoby, która doznała szkody, wręcz krzywdy, w wyniku działania system sztucznej inteligencji. Co się stanie, jeżeli Komisja nie będzie w stanie zakończyć postępowania w terminie do 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania? Wystarczy sprawdzić, ile trwają postępowania w sprawach 244 dotyczących ochrony danych osobowych. art. 52 ust. 2 PIIT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż niezrozumiała jest intencja tego przepisu, tzn. w toku postępowania także analizuje się określone dowody, zatem ten czas prowadzenia postępowania dowodowego zawiera się w czasie prowadzenia postępowania. Wnosimy do wyjaśnienie intencji przepisu. art. 52 ust. 2 KIGEiT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 3 Członkowie Komisji powinni władać językiem angielskim na tyle dobrze, aby móc samodzielnie rozumieć dokumenty. Ogromna większość danych w branży technologicznej jest w języku angielskim, a także systemy AI najczęściej nie mają wersji polskiej. Bez znajomości języka angielskiego naprawdę trudno obecnie poruszać się w nowych technologiach. Z uwagi na konieczność zapewnienia profesjonalnego tłumaczenia, zasadne wydaje się wprowadzenie wymogu tłumaczenia dokumentacji przedłożonej przez stronę na język polski, poświadczonego przez tłumacza przysięgłego. Przed słowem „tłumaczenie” dodaje się ,,poświadczone przez tłumacza przysięgłego”. art. 52 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku AI, albo z tego powodu, że podmioty podlegające pod Rozporządzenie 2024/1689 same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców). Jeżeli Komisja ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. 245 Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Podnosimy, iż jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. Wskazujemy także, iż prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią „dokumentacji\". W konsekwencji, postulujemy zmianę treści art. 52 ust. 3 Projektu ustawy na następującą: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych.” Art. 52 ust. 3 Związek Banków Polskich 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Wymaganie tłumaczenia - w dzisiejszych czasach – będzie nadmiernym obciążeniem dla przedsiębiorców i za mało precyzyjnym – przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Zdarza się, że dokumentacja dot. poszczególnych bibliotek czy procedur jest wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Należy wykreślić ten punkt jako niemożliwy do spełnienia przez stronę. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe oraz niezbędne kwalifikacje językowe. Art. 52 ust. 3 Fundacja FinTech Poland Takie postanowienie jest anachroniczne i stawia KRiBSI z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo 246 z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Art. 53 ISSA Polska Warto dodać punkt: ostrzeżenie, o którym mowa w pkt 1 podlegają publikacji na stronie Komisji. Art. 53 Polski związek zarządzania wierzytelnościami Art. 53 ust. 3 Projektu Wyznaczony w art. 53 ust. 3 Projektu 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest w naszej ocenie zbyt krótki, mając na uwadze uciążliwość, jaką budzi dla przedsiębiorcy wdrożenie zmian o tak szerokim zakresie. Wdrożenie zmian w oparciu o ostrzeżenie wymaga złożonej analizy na poziomie technicznym i prawnym, co w konsekwencji wpływa na stabilność obrotu przedsiębiorstwa. Zważywszy na specyfikę współpracy sektora` wierzytelności i doświadczenie pracy z dostawcami usług informatycznych 247 dla tegoż, proponujemy termin nie krótszy niż 30 dni, który - przy założeniu jego dolnej granicy - nadal spowodowałoby znaczące wyzwanie dla administrujących systemem. Art. 53 Fundacja FinTech Poland W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „ informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Postulowane brzmienie przepisu: Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. Art. 53 ust.1 GRAI Uwaga redakcyjna Słowo ,,wydać” proponuje się zastąpić słowem ,,udzielić”. Art. 53 ust.1 PWPW W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Wnosimy o doprecyzowanie status u „ostrzeżenia ” 248 – czy jest to decyzja administracyjna, rodzaj czynności materialno - technicznej. Czy można się od niego odwołać ? Z przepisów art. 57 wynika, że odwołania do Sądu Okręgowego przysługują tylko od decyzji a nie ostrzeżeń. Należy rozważyć zaskarżenie ostrzeżeń – gdyż takie ostrzeżenie wpływa na działalność podmiotu i może on się nie zgadzać z jego podstawami i zakresem. Z uwagi na fakt, iż brak jest przepisów proceduralnych nie wiadomo czy można go zaskarżyć do Sądu Okręgowego – ale z uwagi na jego administracyjny charakter może on być potraktowany jako akt lub czynności z art. 3 ustawy - Prawa o postępowaniu przed sądami administracyjnymi – a to spowoduje, że z jednej strony będą orzekać sądy administracyjne a z drugiej Sąd Okręgowy. Wydaje się, że nie taka była intencja projektodawcy. Art. 53 ust.1 PIIT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. 249 Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Art. 53 ust.1 e-Izba Z aktualnego brzmienia tego przepisu nie wynika czy ostrzeżenie, wydawane przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w toku postępowania jest wydawane wyłącznie na potrzeby tego postępowania czy stanowi ono formę trwałej decyzji administracyjnej. Ewentualne ryzyko uznania ostrzeżenia, o którym mowa w analizowanym przepisie, jako decyzji administracyjnej o charakterze trwałym oceniamy - z perspektywy bezpieczeństwa prawnego przedsiębiorców – jednoznacznie negatywnie. W związku z powyższym, proponujemy aby ostrzeżenie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji miało charakter tymczasowy, związany bezpośrednio z postępowaniem, w ramach którego zostało wydane. Proponujemy, aby była to konstrukcja prawna zbliżona do decyzji tymczasowej stosowanej w postępowaniu antymonopolowym (art. 89 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów). W przypadku projektu ustawy o systemach sztucznej inteligencji ostrzeżenie miałoby na celu zapobiec skutkom działania przedsiębiorcy, względem którego istnieje podejrzenie, że narusza ono przepisy rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji, jednak wyłącznie na potrzeby danego postępowania, do momentu wydania ostatecznej decyzji administracyjnej w sprawie. Art. 53 ust. 1 i 3 KIG Proponujemy dodać w ust. 1 zdanie drugie Ostrzeżenie podaje się do publicznej wiadomości. Proponujemy dodać w ust. 3 zdanie drugie Na wniosek strony Przewodniczący Komisji podaje informację o wykonaniu rekomendacji do publicznej wiadomości Art. 53 ust. 1 KIGEiT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. , Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może 250 powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w Art. 57 projektu ustawy. Art. 53 ust. 2 KIGEiT Rekomendacje: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. , Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 53 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza I znowu nie sposób się zgodzić z regulacją, wedle której podmiot kontrolowany zobowiązany jest na żądanie organu kontrolującego wykonać tłumaczenie dokumentacji na język polski na własny koszt (art. 53 ust. 2 zd. 2 projektu ustawy o Al). Skoro to organ kontroli państwowej potrzebuje zapoznać się z dokumentem obcojęzycznym, przeto winien tego rodzaju dokument przetłumaczyć we własnym zakresie, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty tłumaczenia dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 53 ust. 2 zd. 2 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji RP]. Art. 53 ust. 2 PIIT Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Wprowadzenie zasady zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Przewidziana procedura jest niejasna. ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 52 ust.3 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Proponujemy zatem art. 52 ust. 3 zd. 2 ustawy o AI nadać nowe brzmienie „Tłumaczenie dokumentacji strona wykonuje na koszt organu kontrolującego.”. 251 Art. 53 ust.3 GRAI Termin 7 dni na wykonanie rekomendacji może często nie być realny ze względów technicznych. Ten punkt powinien dawać możliwość nie tylko przedstawienia wyników, a także samych czynności, których wynik będzie możliwy do oceny w terminie dłuższym niż 7 dni. Postuluje się, aby informacja nie zawierała jedyne danych o wykonaniu rekomendacji, ale także o czynnościach podjętych w tym celu które jednak z przyczyn technicznych, organizacyjnych, czy finansowych, mogą zakończyć się w terminie dłuższym niż proponowane 7 dni. Alternatywnie: Proponowane jest wskazanie, iż strona w ciągu 7 dni przesyła informację na temat sposobu realizacji rekomendacji tj. albo potwierdzenie wdrożenia lub informację na temat działań jakie zamierza podjąć i terminu ich realizacji. Art. 53 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w praktyce - w zależności od rodzaju rekomendacji - termin 7 dni może okazać się zbyt krótki. Rekomendujemy wydłużenie terminu do co najmniej 14 dni, aby wskazać, jakie działania podmiot planuje wdrożyć w celu przywrócenia zgodności bądź od razu poinformuje o wdrożeniu pewnych działań. Art. 53 ust. 3 ZPAV Przepis ten powołuje dotychczas nieznaną w polskim prawie cywilnym instytucję przedstawienia sądowi „poglądu istotnego dla sprawy” przez organ administracji państwowej. Zaproponowana redakcja przepisu może insynuować, że takie wystąpienie organu (w tym przypadku komisji, o której mowa w art. 7 projektu) posiadać będzie istotny wpływ na późniejszą decyzję sądu, co z oczywistych względów byłoby niedopuszczalne. Art. 53 ust. 3 PZPPF Projekt przewiduje w art. 53 uprawnienie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) do wydawania w toku postępowań ostrzeżeń w przypadku uzasadnionego podejrzenia, że działalność strony narusza Rozporządzenie 2024/1689. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni ma poinformować o wykonaniu tych rekomendacji. Rozporządzenie 2024/1689 w art. 99 ust. 1 przewiduje, że państwa członkowskie mają ustanowić przepisy dotyczące m.in. innych środków egzekwowania prawa, które mogą również obejmować 252 ostrzeżenia. Przepisy Rozporządzenia 2024/1689 nie precyzują zasad wydawania takich ostrzeżeń, doprecyzowanie w tym zakresie zostało pozostawione do decyzji Państw członkowskich. Samo uwzględnienie instytucji ostrzeżeń należy ocenić pozytywnie szczególnie biorąc pod uwagę nową i trudną specyfikę systemów sztucznej inteligencji oraz ciągły rozwój tego typu technologii. W projekcie instytucja ostrzeżenia została również powiązana z uprawnieniem Komisji do odstąpienia od nałożenia administracyjnej kary pieniężnej jeżeli podmiot wykona rekomendacje zawarte w ww. ostrzeżeniu. Biorąc jednak pod uwagę cel takich ostrzeżeń oraz ich znaczenie w kontekście nakładania kar pieniężnych na przedsiębiorców zasadne jest wskazanie w ustawie dłuższego terminu dla przedsiębiorcy na wykonanie rekomendacji Komisji, w szczególności ze względu na okoliczność, że rekomendacje mogą dotyczyć różnych nieprawidłowości, w tym takich które mogą być trudne do wdrożenia w praktyce ze względów technologicznych i niemożliwe do wprowadzenia w tak krótkim terminie jak 7 dni. W związku z powyższym Związek wypracował propozycję zmiany ww. przepisu: Art. 53 ust. 3. Strona w terminie wskazanym przez Przewodniczącego Komisji, nie krótszym niż 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Art. 53 ust. 3 ITCORNER W naszej ocenie 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest zbyt krótki, mając na uwadze to, jak wymagające technicznie może być wdrożenie zmian, których wymaga ostrzeżenie. Mając na uwadze nasze doświadczenie w realizacji komercyjnych projektów programistycznych, proponujemy termin nie krótszy niż 30 dni - spełnienie go będzie tak czy inaczej dużym wyzwaniem dla przeciętnej spółki programistycznej - szczególnie w przypadkach, gdy zastosowanie się do rekomendacji wymaga wprowadzenia naprawdę gruntownych zmian w systemie. Art. 53 ust. 3 Związek Banków Polskich Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie działań podjętych w celu wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, że w terminie 7 dni rekomendacja miałaby zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie działań podjętych w celu wykonania rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Art. 53 i 54 KIGEiT Zmiana zapisu: Dodanie możliwości negocjacji środków naprawczych: W Art. 54, ust. 2, warto dodać: \"Przed wydaniem decyzji o nałożeniu środków naprawczych, Komisja umożliwia podmiotowi opracowanie własnych propozycji działań naprawczych, pod warunkiem, że działania te przyczynią się do eliminacji ryzyka. Komisja ma obowiązek uzgodnić propozycje z tym 253 podmiotem, jeśli uzna je za adekwatne, zaakceptować ich wdrożenie jako alternatywę dla administracyjnych decyzji o karach.\" Rozdział 4. Art. 53 i 54 (Ostrzeżenia i decyzje Komisji) sugerują działania nadzorcze, gdy AI stwarza ryzyko naruszenia przepisów. Proponuję, aby te zapisy były bardziej elastyczne w odniesieniu do innowacyjnych technologii. Taki mechanizm pozwoliłby firmom na samodzielne eliminowanie problemów i szybkie wprowadzanie korekt, a jednocześnie unikałoby się zbyt surowych, automatycznych kar, co mogłoby blokować rozwój AI. Art. 54 KIGEiT Rekomendacja: Dodanie ust. 4 \" W uzasadnionych przypadkach stron może wnieść o wydłużenie 7 dniowego terminu na przedstawienie Komisji informacji z wykonania rekomendacji, o której mowa w ust. 2\" Uzasadnienie: w uzasadnionych przypadkach np. chwilowej awarii systemów - strona powinna mieć możliwość wydłużenia terminu na przedstawienie Komisji informacji z wykonania rekomendacji. Rekomendacja: Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 PIIT Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji. Należy dodać zasadę, iż środki nakazujące usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia, powinny być adekwatne i proporcjonalne. 254 Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 ust. 1 Związek Banków Polskich W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Art. 54 ust 1 Fundacja FinTech Poland Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Postulowane brzmienie przepisu: W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689,narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Art. 54 ust. 2 PZPPF Art. 54 ust 2 przewiduje, że decyzja Komisji nakazująca zaprzestanie naruszeń Rozporządzenia 2024/1689 może zawierać środku nakazujące usunięcie skutków naruszenia obowiązków wynikających z Rozporządzenia 2024/1689. Zobowiązanie do usunięcia skutków naruszeń może być w praktyce nawet niemożliwe biorąc pod uwagę specyfikę systemów sztucznej inteligencji bądź dalece utrudnione. Zachowanie przepisu w takim brzmieniu może prowadzić do nieproporcjonalnych obciążeń dla przedsiębiorców wykraczających poza założenia i przepisy Rozporządzenia 2024/1689. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie. Art. 55 KIGEiT Propozycja zapisu: Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w Art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w Art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w Art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami 255 rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. W związku z tym, że Art. 55 ma powinien odpowiadać zapisom Art. 79 AI Act niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea Art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł Art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wdrożenie/zmiana w systemie wymaga implementacji, testów, w tym innych systemów. Zmiana ta może mieć wpływ na świadczenie usług (np. telekomunikacyjnych) milionom klientów i powinna być wprowadzana w taki sposób, aby nie wpływać negatywnie na ich świadczenie. Proponowany przez ustawodawcę termin tego nie umożliwia. Art. 55 PIIT Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych. 256 Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacyjnym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wydłużenie terminu na wycofanie systemu z rynku lub użytku przynajmniej do 2 miesięcy od dnia doręczenia decyzji. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Art. 55 ICC Poland i) Konieczność doprecyzowania przesłanek rygoru natychmiastowej wykonalności Zgodnie z art. 55 ust. 4 Projektu decyzji Komisji nakazującej operatorowi wycofanie systemu stwarzającego określone tam ryzyka z rynku lub użytku może zostać nadany rygor natychmiastowej wykonalności. Projekt nie precyzuje jednak, w jakich przypadkach może to nastąpić, nie określając jakichkolwiek przesłanek w tym zakresie, mimo istotnego znaczenia takiego rozstrzygnięcia dla działalności operatora (możliwość wykonania decyzji jeszcze przed upływem terminu do wniesienia odwołania, por. art. 58 Projektu). Nie jest przy tym jasne, czy powinno prowadzić to do wniosku, że zastosowanie znajdzie w tym zakresie art. 108 § 1 Kodeksu postępowania administracyjnego na zasadzie odesłania z art. 56 Projektu. Z tego względu należałoby rozważyć albo doprecyzowanie przesłanek nadania decyzji Komisji rygoru natychmiastowej wykonalności (np. natychmiastowa wykonalność jest niezbędna dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) albo jednoznaczne przesądzenie, że może to nastąpić tylko po spełnieniu przesłanek z art. 108 § 1 Kodeksu postępowania administracyjnego. ii) Termin na podjęcie działań Artykuł 55 ust. 3 Projektu przewiduje, że w razie wydania decyzji, o której mowa w tym przepisie, podjęcie wszelkich działań naprawczych lub wycofanie tego systemu z rynku lub użytku powinno nastąpić w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji (terminu takiego nie przewiduje z kolei już art. 55 ust. 4 Projektu). Biorąc pod uwagę szeroki zakres możliwych działań 257 naprawczych, potencjalny wysoki stopień ich technicznego skomplikowania, jak również w najbardziej radykalnych przypadkach konieczność podjęcia szerokich działań na wycofanie systemu (a także – na zasadzie art. 2 ust. 2 Projektu – modelu sztucznej inteligencji ogólnego przeznaczenia), 14-dniowy termin maksymalny wydaje się terminem zbyt krótkim. Należałoby rozważyć jego odpowiednie wydłużenie (jako terminu maksymalnego), pozostawiając Komisji możliwość jego dostosowania do konkretnej sprawy. Art. 55 ust.1 GRAI Ustęp zgodny z rozporządzeniem 2024/1689, niemniej brak doprecyzowania, że dotyczy systemów SI nierozpoznanych dotychczas jako system wysokiego ryzyka i w związku z tym nieuwzględnionych w bazie danych zgodnie z art. 71 rozporządzenia 2024/1689. Doprecyzowanie przepisu. Sugerowane doprecyzowanie zgodnie z art. 79 ust. 1 rozporządzenia „Systemy AI stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób.” Art. 55 ust. 1 Związek Banków Polskich Artykuł należy rozszerzyć o odniesienie również do rozumienia art. 3 pkt 19 rozporządzenia (UE) 2019/1020, który definiuje „produkt stwarzający ryzyko”. Przepis powinien przewidywać, że systemy sztucznej inteligencji stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. Art. 55 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza W art. 55 ust. 2 in principio projektu ustawy o AI pomiędzy słowami „Jeśli oraz „łtoku” opuszczono literę „w”. Należy zatem przedmiotowy brak uzupełnić. Wadliwość powyższa to kolejny dowód na brak dołożenia należytej staranności przy opracowywaniu projektu ustawy o AI. Art. 55 ust. 2 Związek Banków Polskich Art. 55. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, w tym prawa do niedyskryminacji, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Art. 77 ust. 1 Rozporządzenia 2024/1689 wskazuje: ”Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji,.....” 258 Pomiędzy rozporządzeniem a projektem ustawy musi być spójność. Propozycja ma na celu uspójnienie brzmienia przepisu z odpowiadającym przepisem AI Act. ( + dodanie litery „w”) Art. 55 ust. 2 Fundacja FinTech Poland Dodana brakująca litera „w”. Postulowane brzmienie przepisu: Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024 Art. 55 ust.3 Polski związek zarządzania wierzytelnościami Art. 55 ust. 3 Projektu Uważamy, że działania naprawcze, o których mowa w art. 55 ust. 3, powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie dla systemów krytycznych dla funkcjonowania konkretnych przedsiębiorstw windykacyjnych. Większa zachowawczość organu kontrolnego w tym zakresie jest kluczowa dla przedsiębiorstw z reprezentowanego przez nas sektora, którego działalność, z racji jego specyfiki, często mieścić się może w zakresie definicyjnym systemów wysokiego ryzyka - co oznacza kilkadziesiąt, momentami bardzo rozległych i nowych obowiązków, aby zapewnić pełną zgodność z AI Act. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust.3 PWPW W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji. Termin 14 dni na wycofanie produktu lub usługi jest terminem „nierealnym”. Zagrażającym działaniu podmiotu. 259 Proces wytwórczy jak i proces wycofania produktów to skomplikowane działania, należy w tym czasie np. rozwiązać umowy z klientami, zorganizować pracę, być może dokonać przesunięć lub zwolnień pracowników. Minimalny okres to 3 miesiące. Art. 55 ust.3 CHAMBER Z powyższymi przepisami, niezwykle korzystnymi dla organów kontroli, kontrastuje norma art. 55 ust. 3, która operatorowi daje jedynie 14 dni na wycofanie produktu z rynku, nie zważając na żadne okoliczności prawne i faktyczne, np. narażenie przedsiębiorcy na odszkodowania lub utratę zdolności do prowadzenia działalności gospodarczej. Tak drastycznie krótkie terminy mogą być uzasadnione jedynie bezpośrednim zagrożeniem bezpieczeństwa obywateli, co jest przedmiotem regulacji ust. 4. W pozostałych przypadkach postulujemy wydłużenie terminu na dostosowanie systemu lub wycofanie go z rynku do 6 miesięcy. Art. 55 ust.3 GRAI Uprawnienie Komisji do nakazania wycofania systemu z rynku lub użytku zbytnio ingeruje w swobodę działalności gospodarczej przedsiębiorcy i może nawet uniemożliwić mu prowadzenie tej działalności. Działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyka i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. Ponadto, określony termin 14 dni w praktyce jest zbyt krótki. Skreślenie “wycofanie tego systemu z rynku lub użytku...” lub przynajmniej uzupełnienie tego zdania o “lub jego części powodującej naruszenie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu lub jego części powodującej naruszenie z rynku lub użytku w terminie nie dłuższym niż 90 dni od dnia doręczenia decyzji.” Do rozważenia zmiana brzmienia art. 55 ust. 3 projektu nadająca priorytet działaniom naprawczym przed nakazem wycofania z rynku produktu. Zapewni to mniejszą ingerencję Komisji w swobodę działalności podmiotów wciąż z zachowaniem intencji art. 79 AIA. Art. 55 ust. 3 otrzymuje brzmienie: “3. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689, a gdy działania naprawcze nie okażą 260 się skuteczne nakazującą wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji”. Art. 55 ust. 3 ITCORNER Uważamy, że działania naprawcze o których mowa w art. 55 ust. 3 powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie mając na uwadze, że dany system AI może być krytyczny z punktu widzenia działalności i przychodów danego przedsiębiorcy (kluczowy / jedyny produkt lub usługa), a zatem konsekwencje jego wycofania będą rozległe. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zwracamy uwagę, że termin 14 dni może okazać się zbyt krótki na wycofanie systemu z rynku. W konsekwencji postulujemy wydłużenie tego terminu. Art. 55 ust.4 CHAMBER Proponujemy nadać art. 55 ust. 4 następujące brzmienie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie zagrożenie dla zdrowia lub bezpieczeństwa obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku w terminie 14 dni.” Art. 55 ust.4 GRAI W przepisie nie określono warunku nadania decyzji rygoru natychmiastowej wykonalności, co skutkuje za dużym uprawnieniem dyskrecjonalnym organu. Uwaga redakcyjna Skreśla się słowo „o” między słowem „nadany” a słowem „rygor”. Art. 55 ust. 4 Związek Banków Polskich Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności Usunięta litera „o”. Art. 55 ust 4 Fundacja FinTech Poland Usunięcie litery „o”. Postulowane brzmienie przepisu: Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Art. 55 ust. 3 i 4 Stanowisko Koalicji AI i Innowacji w Zdrowiu Wysoki rygoryzm związany z koniecznością wycofania systemów AI z użycia może stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Co więcej, bardzo krótki (14-dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla podmiotów posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Art. 55 ust. 3 i 4 Związek Cyfrowa Polska Wysoki rygor związany z koniecznością wycofania systemów AI z rynku/z użytku. Może on stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Dodatkowo, bardzo krótki (14- 261 dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla przedsiębiorstw posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Działania naprawcze i wycofanie systemu AI z rynku. Zgodnie z art. 55 ust. 3 i 4 Projektu, decyzja wydana przez KRiBSI o podjęciu środków (działań) naprawczych może doprowadzić do zobowiązania przedsiębiorcy do wycofania systemu AI z rynku / z użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji lub nawet w krótszym terminie (w zw. z nadaniem decyzji rygoru natychmiastowej wykonalności). Takie uprawnienie KRiBSI zbytnio ingeruje w swobodę działalności gospodarczej podmiotu, gdyż może nawet uniemożliwić mu prowadzenie działalności. Tymczasem, działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym rekomendujemy wykreślenie uprawnienia organu do wycofania systemu AI z rynku / z użytku lub sugerujemy określenie innego, dłuższego terminu na wykonanie tej decyzji, który zabezpieczy funkcjonowanie przedsiębiorcy i nie narazi go odpowiedzialność odszkodowawczą wobec swoich kontrahentów. Art. 55 ust.6 GRAI Uwaga redakcyjna „O” zastępuje się słowem „Od”. Art. 56 PIIT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 KIGEiT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 ISSA Polska Odesłanie do stosowania kodeksu postępowania administracyjnego w zakresie nieuregulowanym dotyczy wyłącznie postępowania przed Komisją, brakuje analogicznych odesłań dla pozostałych rozdziałów (np. rozdziału 5). Postuluję usunięcie tego artykułu i przejrzyste wskazanie w osobnym 262 artykule odpowiedniego stosowania KPA do całej ustawy (zwłaszcza, że przewidziano wyłączenie stosowania niektórych artykułów KPA w art 76 projektu ustawy). Art. 57 PIIT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. własności intelektualnej. art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów w terminie tygodnia od doręczenia postanowienia. art. 57 nie określa terminu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np. art. 43 ust.13 projektu), dla jasności kwestie organu, terminu wniesienie środków odwoławczych powinny zostać wprost wskazane w ustawie. Art. 57 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z dużą dozą zaskoczenia przyjęliśmy propozycję regulacji art. 57 ust. 3 projektu ustawy o AI przewidującą, iż w sprawie z odwołania od decyzji Komisji zawisłej przed Sądem Okręgowym w Warszawie- Sądem Ochrony Konkurencji i Konsumentów, zwanym dalej SOKiK [art. 57 ust. 1 projektu ustawy o AI], w której to sprawie przecież Komisja jest stroną [art. 479** $ 1 k.p.c. dodanym mocą przepisu art. 80 pkt. 2 projektu ustawy o AI], Komisja poza normalnie przysługującym jej w postępowaniu cywilnym prawem do wyrażania własnego stanowiska 1 składania pism procesowych dodatkowo została wyposażona w uprawnienie do przedstawienia SOKiK istotnego dla sprawy poglądu w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Tego rodzaju uprawnienie przysługuje organizacjom pozarządowym, które nie uczestniczą w konkretnej sprawie cywilnej w jakimkolwiek charakterze (art. 63 k.p.c.). Tymczasem z układu art. 263 57 projektu ustawy o AI, który mocą regulacji art. 57 ust. 1 i ust. 2 projektu ustawy o AI nie pozostawia cienia wątpliwości, iż cały przepis art. 57 projektu ustawy a AI dotyczy spraw prowadzonych przez SOKiK w wyniku wniesienia odwołania od decyzji Komisji, co sprawia, iż należy uznać za całkowicie niedopuszczalne, aby w swojej własnej sprawie, w której zaskarżono decyzję Komisji organ ten dodatkowo posiadał uprawnienie do przedstawienia SOKiK swojego istotnego dla sprawy poglądu. Związek Telewizji Kablowych w Polsce Izba Gospodarcza uważa za słuszne co do zasady dopuszczenie uprawnienia Komisji do przedstawiania każdemu sądowi prowadzącemu sprawę dotyczącą sztucznej inteligencji istotnego w sprawie poglądu, z tym jednakże zastrzeżeniem, że uprawnienie to nie może odnosić się do toczącej się przed SOKiK sprawy wszczętej wniesieniem odwołania od decyzji Komisji, gdyż w takim wypadku Komisja ta w swojej własnej sprawie przedstawiałaby SOKiK swój własny istotny w sprawie pogląd będąc niejako sędzią w swojej własnej sprawie, a zarazem wywierając prawnie niedopuszczalny wpływ na treść rozstrzygnięcia w sprawach uregulowanych w art. 57 ust. I w zw. zart. 57 ust. 2 projektu ustawy o AL. Aby usunąć skutki płynące z fatalnej wręcz redakcji art. 57 projektu ustawy o AI wskazane się wydaje dodanie w art. 57 projektu ustawy o AI po ust. 3 przepisu ust. 4 w brzmieniu ,, Przepis ust. 3 nie znajduje zastosowania do spraw, o których mowa w ust. I w zw. z ust. 2 mniejszego artykułu.”. Art. 57 ICC Poland Porównaj uwagi do art. 75 projektu dotyczące konieczności dokonania pogłębionej analizy, który z istniejących sądów powinien zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 57 NRA Art. 57 Projektu odnosi się wyłącznie do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Przepis ten nie przewiduje natomiast trybu odwoławczego dla wydawanych w trakcie takiego postępowania postanowień, które dotyczyłyby kwestii proceduralnych podejmowanych przez Komisję. Pominięcie tej kategorii orzeczeń w regulacji powoduje niepewność co do właściwej drogi prawnej, utrudniając zaskarżenie takich postanowień i nie wskazując jednoznacznie organu, przed którym wnioskodawcy mogliby dochodzić swoich praw w przypadku naruszeń proceduralnych. Dla zapewnienia przejrzystości postępowania oraz zagwarantowania efektywnej ochrony interesów podmiotów kontrolowanych niezbędne byłoby uzupełnienie Projektu o regulacje dotyczące trybu odwoławczego wobec postanowień podejmowanych w ramach postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Art. 57 ust. 1 CHAMBER Pozytywnie należy ocenić oddanie sporów wynikających z działań nadzorczych Komisji pod kognicję Sądu Ochrony Konkurencji i Konsumentów (art. 57 ust. 1 projektu), co umożliwia merytoryczną kontrolę prawidłowości i proporcjonalności działań Komisji. Należy tu jedynie zaznaczyć, że mając na uwadze specyfikę spraw z zakresu sztucznej inteligencji, wymagających technicznej wiedzy, Sąd stanie przed dużym wyzwaniem organizacyjnym aby zapewnić odpowiednie kadry, w tym też np. biegłych posiadających odpowiednią wiedzę z zakresu systemów sztucznej inteligencji. W tym kontekście budzi jednak zdziwienie przepis projektowanego ust. 3, który zdaje się sugerować, że Komisja nie jest stroną postępowania 264 wszczynanego przed SOKiK na podstawie odwołania od decyzji. Zamieszanie potęguje jeszcze projektowany przepis Art. 47988e § 1. Kodeksu postępowania cywilnego, zgodnie z którym “[w] sprawach z naruszenia przepisów rozporządzenia 2024/1689 są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” Wydaje się, że w treści tego przepisu zabrakło słowa “strona”, co byłoby spójne z innymi postępowaniami odrębnymi przed SOKiK. W takiej sytuacji Komisja będzie przedstawiała swoje stanowisko właśnie jako strona i przepis art. 57 ust. 3 jest całkowicie zbędny. Art. 57 ust. 1 Osoba fizyczna Postępowanie prowadzone w ramach nadzoru nad sztuczna inteligencją ma typowo administracyjny charakter. Kary administracyjne nakładane z tego tytułu są orzekane nie w oparciu o zasadę słuszności lub zasadę winy, ale o fakt naruszenia przepisów praw administracyjnego. Dlatego wątpliwe jest wprowadzenie hybrydowego modelu orzekania w zakresie nadzoru przez sąd powszechny z wykorzystaniem procedury cywilnej przed sądem ochrony konkurencji i konsumentów. Model odwoławczy, przyjęty do decyzji UOKiK oraz URE, jest krytykowany przez części doktryny. Ponadto silne powiązanie spraw z zakresu nadzoru nad SI ze sprawami dotyczącymi ochrony danych osobowych, jeszcze dobitniej pokazuje, że to sąd administracyjny i ścieżka skargowa typowa dla spraw administracyjnym, oparta o przepisy k.p.a. a potem o przepisy prawa o postępowaniu przed sądem administracyjny, jest właściwa. Dlatego też powinno się wrócić do modelu skargi na decyzje Komisji ds. SI opartego o procedurę sądowoadministracyjną i właściwość rzeczową sądów administracyjny a nie sądu powszechnego. Ponadto w postępowaniu przed Komisją zrezygnowano z prawa do dwukrotnego merytorycznego rozstrzygnięcia sprawy, wskazując jako środek odwoławczy dowołanie do Sądu Okręgowego w Warszawie - sądu ochrony kongruencji i konsumentów. Wątpliwe prawnie jest zrezygnowanie z prawa do dwukrotnego merytorycznego rozstrzygniecie sprawy. Zasada dwuinstancyjności postępowania administracyjnego jest jedną z kluczowych zasad prawa. Należy również zwrócić uwagę, że w świetle obowiązujących przepisów prawa o postępowaniu administracyjnym strona może zrezygnować z prawa do odwołania i wnieść skargę bezpośrednio do sądu administracyjnego. Wprowadzenie podobnego rozwiązania jest celowe i słuszne ze względu na obowiązujący model ochrony praw jednostki w państwie demokratycznym, w którym zasada dwuinstancyjności jest jednym z elementów tego modelu. art. 57 ust. 1 SKwP To jest odwołanie czy nie ma? art. 57 ust. 1 KIGEiT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności intelektualnej. 265 Art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. , art. 57 nie określa terminu na wniesienie odwołania (por. np. Art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np Art. 43 ust.13 projektu - nie można się tego domyślać z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Rekomendacja: Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 1 PIIT Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 3 PIIT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. 266 W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 PWPW Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes Publiczny. Ten przepis powinien znajdować się co najmniej nie w tym artykule. W postępowaniu o odwołaniu od decyzji Komisja jest stroną. Wydaje się, że projektodawcy chodzi o inne postępowania tam gdzie Komisja nie jest stroną. Art. 57 ust. 3 GRAI Sprawa dotyczy odwołania od decyzji Komisji, więc z jakich to przyczyn Komisja miałaby przedstawiać sądowi istotny pogląd - nie taka jest rola Komisji w tym postępowaniu, nie może występować w podwójnej roli, a więc jako organ wydający zaskarżone rozstrzygnięcie i zarazem jako amicus curiae. Przepis powinien być dostosowany do art. 63 (5) KPC, tj. stosowany tylko w postępowaniach w których Komisja nie jest stroną. Należy skreślić ustęp 3 oraz wprowadzić osobny artykuł, regulujący sytuacje, w których Komisja nie jest stroną postępowania. Art. 57 ust. 3 KIGEiT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie tali jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 Związek Banków Polskich 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przepis ujęty w ust. 3 art. 57 w efekcie jego zastosowania w praktyce sądowej może prowadzić do zaburzenia równości stron. Można przypuszczać, iż sąd będzie miał skłonność do przyjmowania poglądu Komisji – jako „istotnego”. Przepis należy skreślić lub przenieść do ogólnych uprawnień Komisji. Art. 58 CHAMBER Norma projektowanego art. 58 słusznie nakazuje obligatoryjne wstrzymanie wykonania decyzji o administracyjnej karze pieniężnej w przypadku wniesienia przez stronę odwołania do sądu. A 267 contrario żadne inne decyzje nie są wstrzymywane przez wniesienie odwołania, a mogą mieć reperkusje nawet poważniejsze dla operatora systemu SI, włącznie z konieczność zaniechania działalności i likwidacji podmiotu, gdy przykładowo nie będzie on w stanie wypełnić nałożonych nań obowiązków. W tym świetle postulujemy rozszerzenia tego przepisu na wszystkie decyzje Komisji. Alternatywą jest dodanie do projektowanych przepisów Kodeksu postępowania cywilnego możliwości zabezpieczenia interesów operatora systemu SI w postaci zawieszenia wykonania decyzji Komisji przez Sąd. Art. 58 PWPW Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Z punktu widzenia prowadzenia biznesu treść art. 58 projektu ustawy wydaje się niewystarczająca. Albowiem decyzja może nakazać zmianę systemu wykorzystującego sztuczną inteligencję lub wycofanie go z rynku w ciągu 14 dni lub z rygorem natychmiastowej wykonalności (art. 55 ust. 3 i ust. 4). Taka decyzja będzie miała potencjalnie bardzo dotkliwe skutki dla biznesu, dużo poważniejsze od ewentualnych kar. W naszej opinii wniesienie odwołania do sądu powinno wstrzymywać w całości wykonanie decyzji. Art. 58 PIIT Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności. Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. Art. 58 KIGEiT Propozycja zapisu: Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności, Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. 268 Art. 58 ICC Poland Zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania od decyzji Komisji do sądu wstrzymuje wykonanie decyzji, ale jedynie w zakresie administracyjnej kary pieniężnej. Rozwiązanie to, choć – jak się wydaje – jest wzorowane na art. 74 ustawy o ochronie danych osobowych6, budzi poważne wątpliwości z perspektywy proporcjonalności (analogiczne wątpliwości były zresztą zgłaszane w toku konsultacji publicznych dotyczących projektu ustawy o ochronie danych osobowych). Zgodnie z art. 54 i 55 Projektu Komisja może nałożyć na operatora systemu sztucznej inteligencji liczne obowiązki, w tym nawet nakaz wycofania tego systemu z rynku lub użytku, co może mieć nieodwracalne skutki dla adresata decyzji, zwłaszcza w sytuacji, gdy jego działalność opierałaby się w istotnym zakresie na dostarczaniu lub wykorzystywaniu takiego systemu sztucznej inteligencji. Projektowany przepis oznacza, że gdyby nawet w postępowaniu odwoławczym sąd uznał argumenty zawarte w odwołaniu i uchylił decyzję Komisji, to jej adresat będzie mógł co najwyżej dochodzić odpowiedzialności odszkodowawczej od Skarbu Państwa za szkody spowodowane wcześniejszym wydaniem decyzji. Tymczasem nie każde naruszenie rozporządzenia 2024/1689 będzie miało taki charakter, który będzie uzasadniał wykonanie decyzji przed zakończeniem postępowania odwoławczego. Z tego względu właściwszym rozwiązaniem byłoby pozostawienie Komisji możliwości nadania jej decyzji rygoru natychmiastowej wykonalności (jak uczyniono to w odniesieniu do decyzji, o której mowa w art. 55 ust. 4 Projektu) wtedy, gdy – przykładowo – jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, przy równoczesnym przesądzeniu, że wniesienie odwołania do sądu wstrzymuje co do zasady wykonanie decyzji Komisji. Art. 59 ust. 2 GRAI Dodawanie przepisu o wysyłaniu akt do prokuratury przez organ, wydaje się w tym projekcie ustawy zbyteczne. Skreśla się ust. 2 Art. 60 ust. 1 Fundacja FinTech Poland Art. 60 wymaga uwzględnienia w jakim terminie liczony jest okres 10 lat, proponujemy aby ten termin liczony był od daty zakończenia postępowania. Art. 60 ust 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie czy okres 10 lat liczony będzie od daty zakończenia postępowania czy też od innego zdarzenia. Art. 60 ust. 2 PIIT Proponujemy usunąć, tutaj wystarczające odwołanie do KPA z art. 56. Art. 60 ust. 2 Osoba fizyczna Należy podnieść, że jedną z przesłanek wznowienia postępowania administracyjnego, w świetle art. 145 § 1 ust 5 k.pa., jest okoliczność wyjścia na jaw istotnych dla sprawy nowych okoliczności faktycznych lub nowych dowodów istniejących w dniu wydania decyzji, nieznane organowi, który wydał decyzję. Treści tego przepisu, ugruntowana praktyka orzecznicza oraz poglądy doktryny pozwalają na przyjęcie tego rozwiązania wprost, bez wprowadzania szczególnych reguł w ustawie o sztucznej inteligencji. 269 Niezrozumiałe jest wskazanie przesłanki negatywnej do wznowienia postępowania przez Komisję w postaci przedawnienia karalności przestępstwa. Reguła wynikająca z art. 146 § 1, dotycząca negatywnej przesłanki wznowienia postępowania administracyjnego w przypadku nowych okoliczności/dowodów, odnosi się upływu pięcioletniego terminu od zakończenia postępowania. Termin ten jest istotny nie tylko z punktu widzenia ochrony interesów strony, ale także interesu publicznego i społecznego, bowiem wprowadza pewność co istniejącej sytuacji prawnej. Należy zwrócić uwagę, że w świetle wspomnianego przepisu art. 146 § 1 k.p.a. organ może wznowić postępowanie, jednak nie ma możliwości, po upływie terminu, rozstrzygać kwestii merytoryczne, a jedynie może wskazać, ze decyzja została wydania z naruszeniem prawa. Odwołanie w art. 60 ust 2 ustawy do terminu przedawnienia karalności przestępstwa, bez wskazania konkretnych przepisów kodeksu karnego budzi poważne wątpliwości natury prawnej. Warto zaznaczyć, że terminy przedawnienia przestępstw karnych są różne, co wyraźnie jest określone w art. 101 § 1 kodeksu karnego. Z przepisu nie wynika o przedawnieniu jakich przestępstw jest mowa. Wprowadzenie przywołanej regulacji narusza zasadę pewności prawa, zasadę przewidywalności prawa, a w szerszym ujęciu zasadę praworządności i demokratycznego państwa prawa. Jednostka musi bowiem mieć prawną gwarancję, że jej działania nie naruszają prawa, co w przypadku dosyć swobodnego odesłania do przepisów prawa karnego nie ma miejsca. Art. 60 ust. 2 GRAI Autorowi projektu, chyba chodziło o ,,przedawnienie deliktu”. Rozdział 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie poważnych incydentów (rozdział 5 USS) Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67 USS, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do systemów wysokiego ryzyka. Także motyw 78 AI Act , odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym rekomendujemy, aby obowiązki w tym zakresie, zostały zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 61 Polskie Towarzystwo Informatyczne Nie wyznaczono terminu, w jakim incydent ma być zgłoszony. Propozycja \"Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji w terminie 72 godzin od momentu powzięcia informacji o wystąpieniu poważnego incydentu. Art. 61 GRAI I. Zasadniej byłoby, gdyby dotyczył dostawców (i może również użytkowników) TYLKO systemów AI wysokiego ryzyka. 270 Definicja dostawcy jest bardzo szeroka. I jeśli będzie obowiązek dotyczyć dostawcy każdego systemu AI, może się okazać w praktyce, że notyfikacje mogłyby dotyczyć zbyt wielu systemów, o całkiem niszowym lub obiektywnie „niegroźnym” zastosowaniu. Zgłoszenie musiałoby oczywiście dotyczyć takich kwestii jak incydent w ramach narzędzi chatbotowych lub podobnych, które mają z założenia bezpośrednio wpływać na środowisko (czyli dajemy im większą autonomię), ale moim zdaniem mogłoby również obejmować wszelkie systemy AI, które sobie opracujemy do celów analiz, podpowiadania itp. Interpretacje co do zakresu definicji dostawcy pewnie dopiero się wykształtują, ale zwracam uwagę, na to, że definicja dostawcy obejmuje „oddanie do użytku” systemu AI. A oddanie do użytku” oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem. Więc nawet jak się oprzemy na gotowym modelu (np. LLM-owym lub innym), ale stworzymy środowisko, które ten model implementuje, określimy poziom jego autonomii itd., to całość będzie stanowić system AI, a my musielibyśmy być uznani za jego dostawcę, nawet jeśli stworzymy go do „użytku własnego”. I również (poważne) incydenty dla takich systemów musielibyśmy zgłaszać w trybie art. 61. II. Zgodnie z art. 26 ust. 5 obowiązek zgłaszania poważnych incydentów ma także stosujący system AI: “5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania.” II. W całym art. 61 należy dodać także “podmioty stosujące” lub wprowadzić osobny przepis dotyczący obowiązków podmiotu stosującego zgodnie z art. 26 ust. 5 AI Aktu. Art. 61 ust. 1 PIIT Zgłaszanie poważnych incydentów Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji 271 “poważnego incydentu” zawartego w art. 3 pkt 49 ASI nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 ASI, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. Art. 61 ust. 1 KIGEiT Propozycja zapis: Przepis zgodnie z Art. 73 ust. 1 Aktu o sztucznej inteligencji powinien ograniczać obowiązek zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka. , Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Art. 61 ust. 1 GRAI Brakuje terminu, w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zmiany brzmienia zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689 lub odesłanie w tym zakresie wprost do art. 72 ust. 2 rozporządzenia 2024/1689. Nadanie następującego brzmienia art. 61 ust. 1: „Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu.”. Art. 61 ust. 1 Związek Banków Polskich Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji bezzwłocznie, po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Brakuje terminu w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689. Art. 61 ust. 1 Fundacja FinTech Poland Proponujemy wprowadzenie postanowienia tak aby był klarownie skorelowane z art. 73 ust. 1 AI Act. Treść art. 73 ust. 1 AI Act wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów 272 wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. Postulowane brzmienie przepisu: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Art. 61 ust. 1 PSSI Otwarty dostęp do bazy incydentów SI Art. 61 pkt. 1 nakłada obowiązki związane z budową i utrzymaniem bazy incydentów związanych z systemami SI. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Z uwagi na duże znaczenie społeczne i badawcze, oraz zastosowania dla bezpieczeństwa SI, rekomendujemy by w ustawie zapisać, że baza incydentów będzie co do reguły otwarta i publicznie dostępna, z wyłączeniem uzasadnionych przypadków np. związanych z bezpieczeństwem narodowym. Art. 61 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie incydentu (art. 61 ust. 1) Proponujemy zapis tak aby był klarownie skorelowany z z art. 73 ust. 1 rozporządzenia 2024/1689. Jest: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Propozycja: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Uzasadnienie: Treść art. 73 ust. 1 wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. art. 61 ust. 2 CHAMBER Wymogi określone w art. 61 ust. 2 dla zgłoszenia poważnego incydentu zdają się nie odpowiadać jego definicji, w szczególności pkt. 4 odnosi się np. do wpływu na “inne systemy informacyjne”, co jednak nie jest objęte pojęciem “poważnego incydentu” z art. 3 pkt 49 Rozporządzenia. Sugerujemy odpowiednie dostosowanie tego przepisu tak, aby nie budziło wątpliwości że dotyczy tylko czterech przypadków enumeratywnie wymienionych w definicji. 273 Art. 61 ust. 2 Osoba fizyczna jk Wymaganie w pkt 4 podania opisu wpływu poważnego incydentu na systemy informacyjne lub świadczenie usług jest sprzeczne z listą zdarzeń podaną w definicji poważnego incydentu zawartej w rozporządzeniu 2024/1689: a) śmierć osoby lub poważny uszczerbek na zdrowiu osoby; b) poważne i nieodwracalne zakłócenie w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenie obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważna szkoda na mieniu lub poważna szkoda dla środowiska. Zatem zapis powinien być następujący: 4) opis poważnego incydentu, w tym: a) system AI, w którym doszło do zdarzenia lub zdarzeń wymienionych w art. 3 pkt 49 rozporządzenia 2024/1689, b) liczbę użytkowników, na których poważny incydent miał wpływ, c) moment wystąpienia i wykrycia poważnego incydentu oraz czas jego trwania, d) zasięg geograficzny obszaru, którego dotyczy incydent poważny, e) wpływ poważnego incydentu na systemy sztucznej inteligencji innych dostawców, f) przyczynę zaistnienia poważnego incydentu i sposób jego przebiegu oraz jego skutki, g) ocenę dotkliwości incydentu, w szczególności w odniesieniu do zdrowia i bezpieczeństwa lub praw podstawowych osób. Nie wolno bezrefleksyjnie przepisywać treści z innych ustaw, w tym przypadku z ustawy o krajowym systemie cyberbezpieczeństwa. Art. 61 ust. 2 pkt 8 Związek Banków Polskich Inne istotne informacje dotyczące zaistnienia poważnego incydentu. Propozycja brzmienia przepisu precyzuje czego dotyczą inne istotne informacje. Art. 61 ust. 4 i 5 GRAI Wątpliwości budzi takie szerokie zobowiązanie podmiotu zgłaszającego incydent do przekazywania informacji prawnie chronionych, szczególnie, że Komisja nie gwarantuje odpowiednich środków zabezpieczających takie informacje. Brak bezpiecznej, zaszyfrowanej ścieżki przekazywania, jak i zaszyfrowanego miejsca przechowywania takich informacji. Póki co, i to w wąskim zakresie Komisja ma chronić dane osobowe szczególnej kategorii, co już zostało zgłoszone wcześniej. Komisja może prosić tylko o absolutnie niezbędne informacje chronione i zapewnić odpowiednie środki ochrony zgodnie z art. 78 ust. 2 AIA. Ustawa jednak nie tylko upoważnia do przekazywania komisji znacznej części informacji chronionych (co widać w tym i innych postanowieniach projektu ustawy) to jeszcze nie wspomina wcale o środkach zabezpieczenia. Należy skupić się na takim sformułowaniu przepisów, aby absolutna niezbędność do przekazania informacji była uzasadniona a samo przekazanie i przechowywanie odpowiednio chronione. Postuluje się zatem dodanie osobnej sekcji lub postanowienia dotyczącego środków 274 zabezpieczenia, spełniających najwyższe standardy i odpowiadające najnowszym wymaganiom rynkowym w kontekście cyberbezpieczeństwa. Art. 61 ust. 4 Związek Banków Polskich Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 5 Związek Banków Polskich Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 7 Propozycja dodania przepisu Związek Banków Polskich 7. Rozdział nie ma zastosowania do podmiotów, o których mowa w art. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2554 z dnia 14 grudnia 2022 r. w sprawie operacyjnej odporności cyfrowej sektora finansowego i zmieniające rozporządzenia (WE) nr 1060/2009, (UE) nr 648/2012, (UE) nr 600/2014, (UE) nr 909/2014 oraz (UE) 2016/1011 Propozycja dodania przepisu, który wyłączy z zakresu tego rozdziału podmioty podlegające pod DORA. DORA przewiduje szerszy zakres obowiązków z obszaru zgłaszania incydentów niż projekt ustawy. Dwutorowe regulowanie tematu wydaje się mało efektywne. Art. 61 – Art. 62 Polskie Towarzystwo Informatyczne Brak wzoru formularza zgłoszenia jest tylko ogólna przytoczona lista wymogów bez odpowiedniej klauzuli RODO oraz sposobu przekazania do wskazanych instytucji tak by zabezpieczyć dane wrażliwe obu stron. 275 Sugerujemy delegację do Rozporządzenia określającego format formularza zgłoszenia oraz procedurę zgłoszenia. Niejasne, nieprecyzyjne ramy dotyczące zgłoszenia. Art. 61 - 63 Instytut Spraw Obywatelskich Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 61 - 63 Obywatelski Akcelerator Innowacji Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 62. PWPW Zgłoszenie oraz informacje, o których mowa w art. 61 ustawy, są przekazywane Komisji w postaci elektronicznej, a w przypadku braku możliwości przekazania w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji Należy wprowadzić przepisy wyraźnie wskazujące kanał zgłaszania naruszeń oraz terminy (odpowiednie). art. 63 CHAMBER Postulujemy wykreślenie art. 63 w całości lub jego zasadniczą przebudowę. Nie ma uzasadnienia dla tak szerokiej dystrybucji wszystkich zgłoszeń poważnych incydentów do wszystkich wymienionych organów. Wręcz przeciwnie - tak wrażliwe informacje powinny być rygorystycznie chronione i przekazywane innym instytucjom jedynie w przypadkach i zakresie gdy jest to niezbędne do wykonywania ich ustawowych obowiązków lub zapobieżeniu dalszym szkodom lub ograniczenie ryzyka. Co więcej - mając na uwadze horyzontalny charakter zastosowań systemów SI dobór tylko tych kilku podmiotów nie wydaje się trafny, gdyż poważny incydent (co ma zresztą wyraźne odbicie w brzmieniu jego definicji) może dotyczyć np. krytycznej infrastruktury energetycznej (o czym powinien wiedzieć np. URE i Minister właściwy ds. energetyki) czy systemów ochrony zdrowia (gdzie adresatem powinien być Minister właściwy ds. ochrony zdrowia i podległe mu agendy). Art. 63 Osoba fizyczna jk Wymieniony \"koordynator do spraw usług cyfrowych\" wymaga wyjaśnienia, kto to jest, gdzie go szukać, czy jest to koordynator w rozumieniu Digital Services Act. Rozdział 6 Krajowy Instytut Mediów Zasadność powierzenia jednemu odrębnemu organowi funkcji organu notyfikującego Wyodrębnienie dedykowanego organu odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniającyc zgodność oraz za ich monitorowanie, zagwarantuje spójność i koordynowanie działań interesariuszy rynku, ułatwiając także ich współpracę. Istotne jest, by funkcję organu nadzoru rynku oraz organu notyfikującego realizowane były poprzez niezależne od siebie organy na 276 zasadzie współpracy opartej na podziale zadań, co zapewniłoby bezstronne podejście obu rodzajów instytucji wobec wprowadzanych na rynek innowacji, a zarazem poszerzone, wieloaspektowe spojrzenie na rozwój SI, która jak się wydaje, będzie zasadniczą siłą napędową wzrostu gospodarczego. Art. 64 Polskie Towarzystwo Informatyczne Brak jasnego formularza ograniczającego możliwość subiektywnej oceny organu notyfikującego. A co jeśli certyfikacje lub notyfikacje firma uzyska na szczeblu UE lub innego kraju członkowskiego ? Określić jasny wzór wniosku celem jawności procedury. Ponadto dookreślić procedurę w przypadku uzyskania notyfikacji w innym kraju członkowskim lub na szczeblu administracji UE. Sugerujemy rozważenie delegacji w tym zakresie do Rozporządzenia. Ogólnie określone ramy notyfikacji brak jasnych precyzyjnych parametrów dotyczących notyfikacji Art. 64 Ust. 1 KIGEiT Propozycja zapisu: dodanie pierwszego zdania w ust. 1: \"Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w Art.70 Rozporządzenia 2024/1689.\" Brakuje wskazania wprost kto jest organem notyfikującym. Art. 64 ust. 3 pkt 1 GRAI Zgodnie z projektowanym art. 64 ust. 3 pkt 1 Polskie Centrum Akredytacji “we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji:”. Przepis ten nie uwzględnia szeregu kompetencji przypisanych w rozporządzeniu 2024/1689 Komisji Europejskiej i Radzie ds. AI (m.in. koordynacja, działań, opracowywanie wytycznych), które mogą mieć wpływ na treść programu akredytacji. Proponujemy przyjęcie zmiany tego przepisu i nadanie mu treści “opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji, przepisy rozporządzenia 2024/1689 wraz aktami wykonawczymi właściwe normy zharmonizowane oraz decyzje, wytyczne, zalecenia i stanowiska Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji, wydanych w ramach przysługujących im kompetencji na gruncie rozporządzenia 2024/1689:”. Art. 64 ust. 3 pkt 1 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji. 277 Zaproponowany zapis obliguje do aktualizacji programu akredytacji co 24 miesiące. Proponujemy usunięcie tego wymogu. Zaproponowany termin może być zarówno za krótki jaki i za długi. Z jednej strony projekt zakłada obowiązek takiej aktualizacji nawet jeżeli nie ma ku temu przesłanek a z drugiej strony może wystąpić sytuacja, iż program ten powinien być zmieniony szybciej. Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu; Zaproponowane podejście umożliwia bardziej elastyczne reagowanie. Art. 64 ust. 3 pkt 1 NASK Zgodnie z brzmieniem art. 64 ust. 3 pkt 1 projektu ustawy w brzmieniu: „Polskie Centrum Akredytacji (...) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji” przypisuje się Polskiemu Centrum Akredytacji (dalej: PCA) i ministrowi właściwemu do spraw informatyzacji niebagatelną rolę w kształtowaniu programu akredytacji jednostek oceniających zgodność całkowicie przy tym pomijając Komisję Europejską, European Accreditation, jak i Europejską Radę ds. Sztucznej Inteligencji (dalej: „Radę ds. AI”). Należy zwrócić uwagę, że rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) w pkt. 20 motywów sygnalizuje, jak duża rola będzie przypisana do Rady ds. AI, która „(...) powinna wspierać Komisję w promowaniu narzędzi rozwijających kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI. We współpracy z odpowiednimi zainteresowanymi stronami Komisja i państwa członkowskie powinny ułatwiać opracowywanie dobrowolnych kodeksów postępowania w celu podnoszenia kompetencji w zakresie AI wśród osób zajmujących się rozwojem, działaniem i wykorzystywaniem AI” czy w punkcie 149 „Rada ds. AI powinna odpowiadać za szereg zadań doradczych, w tym wydawanie opinii lub zaleceń oraz udzielanie porad lub udział w tworzeniu wskazówek w dziedzinach związanych z wykonywaniem niniejszego rozporządzenia, także w kwestiach egzekwowania, specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w niniejszym rozporządzeniu, jak również za udzielanie porad Komisji oraz państwom członkowskim i ich właściwym organom krajowym w konkretnych kwestiach związanych z AI.” Taki zapis, jak i inne w Akcie w sprawie sztucznej inteligencji, nie wyklucza kompetencji w zakresie kształtowania programów akredytacji, a wręcz potwierdza, że wypracowane przez nowy organ dokumenty mogą mieć duży wpływ i wręcz powinny odnajdować odzwierciedlenie również w programach akredytacji poszczególnych państw członkowskich. 278 W związku z tym należy rozważyć rozszerzenie obecnej treści art. 64 ust. 3 pkt 1 projektu ustawy o uwzględnienie w programach akredytacji również aktów wykonawczych do Aktu w sprawie sztucznej inteligencji czy też decyzji, wytycznych, zaleceń i stanowisk odpowiednio Komisji Europejskiej i jak i Rady ds. AI Europejskiej w zakresie określonym ich kompetencjami we wspomnianym wyżej Akcie; Art. 64 ust. 3 pkt 2 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowany zapis obliguje do przekazywania ministrowi właściwemu do spraw informatyzacji informacji o zmianach zakresu akredytacji. PCA proponuje aby temu obowiązkowi podlegały wyłącznie zmiany odnoszące się do zakresu niniejszej ustawy. Obserwowana jest obecnie tendencja raczej do rozszerzania zakresu akredytacji przez istniejące już jednostki certyfikujące a niekoniecznie do powstawania nowych jednostek. W konsekwencji jednostki certyfikujące są akredytowane w wielu zakresach. W ocenie PCA przekazywanie informacji o wszystkich zmianach może być interpretowane jako obowiązek przekazywania informacji o każdej zmianie w odniesieniu do każdego z zakresów np. z obszaru rolnictwa czy budownictwa. Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w tym obszarze w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowane podejście doprecyzuje zakres przekazywanych informacji i wyeliminuje możliwość przekazywania informacji zbędnych. Art. 65 ust. 1 GRAI Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. Informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d'accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. 279 Art. 66 ust. 1 i 2 Osoba fizyczna jk Art. 95 rozporządzenia 2024/1689 dotyczy kodeksów postępowania do celów dobrowolnego stosowania szczególnych wymogów. Kodeksy będą opracowywane przez zainteresowane strony, czyli poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Komisja oraz minister właściwy do spraw informatyzacji mogą jedynie zachęcać do ich opracowania i ułatwiać ich opracowanie - na wzór kodeksów postępowania opisanych w rozporządzeniu 2016/679 (RODO). Pomijając art. 95: Według zapisu ust. 1 to minister właściwy do spraw informatyzacji ma wydawać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji, zaś według zapisu ust. 2 Przewodniczący Komisji go tylko wspiera. Z kolei w uzasadnieniu projektu ustawy podano, że to Komisja będzie m.in. udostępniała w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. Czy to oznacza, że Komisja będzie robiła tylko za słup ogłoszeniowy? Jak wynika z treści OSR-u, Komisja będzie zatrudniać ekspertów z wiedzą z zakresu IT, nowych technologii i cyberbezpieczeństwa, posiadających umiejętności: identyfikowania i rozwiązywania szerokiego spectrum pojawiających się problemów w rozwoju i wykorzystaniu sztucznej inteligencji, kreatywnego rozwiązywania problemów w szybko rozwijającej się rzeczywistości informatycznej, łączenia wiedzy programistycznej z umiejętnością analizy danych przy wykorzystaniu ciągle zmieniających się nowoczesnych technologii, komunikacji, ponadprzeciętnej kreatywności, a także szerokiej wiedzy z wielu dziedzin prawa czy wyjątkowo biegłej znajomości języka obcego, w tym angielskiego. Czyli w Komisji pracować będą specjaliści. Jednak w Ministerstwie Cyfryzacji będą potrzebni kolejni specjaliści, by przygotowywać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. To oznacza dublowanie wiedzy, kompetencji i kosztów. Art. 65 ust. 2 pkt 2 GRAI Przy pierwszej akredytacji nie jest możliwe poinformowanie o cyt. “okresie ważności udzielonej akredytacji”. Sugerujemy zrezygnowanie z wymogu wskazywania okresu ważności udzielonej akredytacji. Art. 65 ust. 2 pkt 2 NASK warto rozważyć również doprecyzowanie brzmienia art. 65 ust. 2 pkt 2 w brzmieniu: „Wniosek, o którym mowa w ust. 1, zawiera co najmniej: (...) 2) określenie okresu ważności udzielonej akredytacji jak również jej numeru wraz z oznaczeniem certyfikatu akredytacji.” Przepis w obecnym brzmieniu może wprowadzać w błąd i warto dookreślić, że chodzi o okres ważności i certyfikat akredytacji ukonstytuujący jednostkę oceniającą zgodność jako taki podmiot. W chwili obecnej mogą pojawić się pewne wątpliwości interpretacyjne stąd warto dookreślić brzmienie przywołanego artykułu; 280 Art. 65 ust. 3 pkt 2 i pkt 3 GRAI Zgodnie z projektowaną treścią do wniosku w sprawie notyfikacji jednostki oceniającej zgodność załącza się co najmniej “dokumenty potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689”. Treść art. 31 tego rozporządzenia nie zawiera jednak zamkniętego, jednoznacznego katalogu wymogów, które mogłyby zostać wykazane określonymi dokumentami. Część z nich jest możliwa do wykazania, ale inne (np. niezależność od dostawców systemów AI już nie. W takich przypadkach dowody z dokumentów (np. wydruk z rejestru przedsiębiorców KRS) mogą co najwyżej być dokumentem uprawdopodabniającym, a nie stanowiącym dowód wykazujący te okoliczności wprost. Dlatego, jak zakładamy, projektodawca dodał pkt 3) zakładający możliwość złożenia deklaracji o spełnieniu wymogów, o których mowa w ww. art. 31. Należy jednak wskazać, że zgodnie z art. 29 ust. 3 ww. Rozporządzenia jednostka oceniająca zgodność przekazuje dokumenty stanowiące dowód na spełnienie wymogów z art 31 rozporządzenia, jeśli nie posiada certyfikatu akredytacji. Projektowany przepis pomija zatem treść art. 29 ust. 3 ww. rozporządzenia. Proponujemy zmianę ust. 3 art. 65 poprzez przyjęcie treści: “3. Do wniosku, o którym mowa w ust. 1 stosuje się art. 29 ust. 2 - 4 rozporządzenia 2024/1689, z zastrzeżeniem art. 32 ww. rozporządzenia. W przypadkach obiektywnego braku możliwości przedłożenia dokumentów potwierdzających spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689, dopuszcza się złożenie deklaracji o spełnieniu tych wymogów.”. Do rozważenia jest wskazanie przykładowego katalogu okoliczności, które mogą być przedmiotem deklaracji. Art. 66 ust. 1 – 3 GRAI Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Nadanie następującego brzmienia ust. 1: “1. Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.”. Usunięcie ust. 2, a ust. 3 zmieni numerację na “2”. W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 14 w ust. 1 art. 11 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Art. 66 ust. 1 GRAI Do rozważenia dodanie przepisu mówiącego o tym, że ,,rekomendacje” mogą podlegać okresowej aktualizacji (analogicznie jak w art. 53 ustawy o ochronie danych osobowych ). 281 Art. 66 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Obowiązek informacyjny ministra właściwego ds. informatyzacji (art. 66 ust. 1) Proponujemy zmianę zapisu: Jest: Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Zmiana: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie zmiany: a. Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki b. Informacja powinna trafić do Komisji, natomiast przekazywanie jej do Rady Ministrów wydaje się być w tej formie przedwczesne c. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Art. 66 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Art. 95 Rozporządzenia 2024/1689 odnosi się do kodeksów dobrych praktyk (tzw. kodeksy postępowania), które mogą być też tworzone przez różne organizacje jak i same podmioty stosujące AI. Zatem niezrozumiałe jest, aby Minister właściwy ds. informatyzacji wydawał „rekomendacje najlepszych praktyk”, tym bardziej że Komisja może wydawać interpretacje w świetle projektowanych przepisów. W związku z powyższym, rekomendujemy usunięcie art. 66 w obecnym kształcie. Art. 66 ust. 1 Fundacja FinTech Poland Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki. Informacja powinna trafić do Komisji, natomiast przekazywanie 282 jej do Rady Ministrów wydaje się być w tej formie przedwczesne. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Postulowane brzmienie przepisu: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. art. 66 ust 1 i 2 CHAMBER Nie jest jasne, dlaczego projekt ustawy w art. 66 ust 1 i 2 powierza zadania związane ze wsparciem dla powstawania kodeksów postępowania Ministrowi właściwego ds. informatyzacji. Wydaje się, że to Komisja powinna pełnić tutaj rolę wiodącą, ewentualnie ze wsparciem Ministra (czyli odwrotnie, niż przewiduje ust. 2). Co więcej - art. 91 Rozporządzenia nie przewiduje kompetencji do “wydawania rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”, a wymaga, aby organy państwa “zachęcały” i “ułatwiały” powstawanie kodeksów dobrych praktyk. Art. 66 ust. 3 Instrat – Fundacja Centrum Cyfrowe Art. 66 ust. 3 Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Jesteśmy zdania, że ust. 3 art. 66 oraz kolejne przepisy w tej sekcji odbiegają znacznie od tytułu Rozdziału 6 brzmiącego “Jednostki notyfikowane i procedura notyfikacyjna”. Rekomendujemy więc zmianę tytułu na “Procedura notyfikacyjna i obowiązki informacyjne”. Art. 67 Związek Cyfrowa Polska Zgłaszanie poważnych incydentów. Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do 283 systemów wysokiego ryzyka. Także motyw 78 AI Act, odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym obowiązku w tym zakresie, powinny zostać zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 67 ust. 2 GRAI Przepis zawiera błąd - zamiast „zdarzenie” wyczerpujące znamiona przestępstwa przepis powinien wskazać na „czyn” wyczerpujący znamiona przestępstwa. Powinna nastąpić zmiana używanych pojęć. Art. 67 ust. 2 NASK w treści art. 67 ust. 2 projektu ustawy w brzmieniu: „Minister właściwy do spraw informatyzacji przekazuje informacje, o których mowa w ust. 1, organom ścigania w związku ze zdarzeniem wyczerpującym znamiona przestępstwa” należy rozważyć zmianę słowa „zdarzenie” i zastąpienie go słowem „czyn”. Warto zachować spójność z nomenklaturą używaną w prawie karnym, gdzie mówiąc o wyczerpaniu znamion przestępstwa mówimy o czynie, a nie o zdarzeniu. Art. 68 GRAI Norma kompetencyjna z art. 12 projektu ustawy o systemach oceny zgodności i nadzoru rynku powinna zostać dookreślona względem specyfiki rozporządzenia 2024/1689. Propozycja nadania następującego brzmienia art. 68: “Art. 68. W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych niniejszą ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. Ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje lub rozporządzenia wykonawcze Komisji Europejskiej, interpretacje generalne wydawane przez Komisję.” Art. 68 ust. 1 GRAI Projektowany przepis przyznaje ministrowi właściwemu do spraw informatyzacji kompetencję do określenia wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. Prawidłowa jednostka redakcyjna to ust. 3 tego przepisu. Rekomendujemy zmianę na: “1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. Art. 68 ust. 1 i 2 GRAI Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek ministra cyfryzacji. Rekomendujemy, że w odniesieniu do art. 69 ust. 1 i 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. 284 Art. 69 CHAMBER Do art. 69 odnoszą się mutatis mutandis uwagi wskazane powyżej w stosunku do art. 40 projektu, dotyczące np. nieprawidłowego odesłania do przepisów Rozporządzenia. Art. 69 ust.1 PIIT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Art. 69 ust.1 KIGEiT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Uwaga ogólna Fundacja FinTech Poland Przepisy karne i przepisy administracyjne powinny być wyraźnie oddzielone. Uwaga ogólna do rozdziału 7 Osoba Fizyczna mk W rozdziale 7 Ustawy (Przepisy o administracyjnych karach pieniężnych i przepisy karne) nie są wprost wymienione kary za brak zgłoszenia, niepełne zgłoszenie, spóźnione zgłoszenie lub inne niedochowanie obowiązków związanych ze zgłoszeniem poważnego incydentu przez dostawcę systemu sztucznej inteligencji, jak omówiono w rozdziale 5 Ustawy (Zgłaszanie poważnych incydentów). Uwaga ogólna do rozdziału 7 British Polish Chamber of Commerce (BPCC) Wśród przepisów regulujących sposób nakładania, odroczenia czy umarzania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji kar za naruszenia Aktu o Sztucznej Inteligencji, brakuje naszym zdaniem zapisu określającego termin przedawnienia naruszeń podlegających karze. Bez takiego zapisu brakuje ograniczenia czasowego od stosowania sankcji Rozdział 7 Związek Cyfrowa Polska Egzekucja kar finansowych. Rozdział 7 Projektu ustawy reguluje zagadnienia związane z nakładaniem i egzekucją administracyjnych kar pieniężnych, przy czym częściowo regulacja ta odbiega od ogólnych zasad wynikających z KPA: Przepisy dot. odstąpienia od nałożenia oraz ulgi w zakresie wykonania administracyjnej kary pieniężnej. Ustawodawca wyłączając stosowanie art. 189 f KPA (art. 76 Projektu) znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 Projektu (art. 70 ust. 4 Projektu) – jest to 285 nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 Projektu. Termin uiszczenia kary pieniężnej. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzdniego roku obrotowego), sugerujemy wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 Projektu), co najmniej do 30 dni. Przede wszystkim jednak konieczne jest wykreślenie możliwości nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74 Projektu). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Art. 70 Open AI Devs Community Proporcjonalność kar. Postulujemy wprowadzenie do art. 70 projektu ustawy następujących modyfikacji: • Uzależnienie wysokości kar od wielkości podmiotu i skali naruszenia; • Wprowadzenie górnego limitu kar dla MŚP i indywidualnych deweloperów; • Rozszerzenie katalogu okoliczności łagodzących. Art. 70 PIIT Art. 70. 1. Komisja może nałożyć na operatora, w przypadkach określonych w art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. 286 Art. 70 GRAI W przypadku małych i średnich przedsiębiorstw (MŚP) oraz startupów, organ nakładający karę stosuje niższą z dwóch wartości: kwoty określonej w euro, lub wartości procentowej całkowitego rocznego światowego obrotu zależnie od wagi naruszenia określonego w AI Act. Określenie, że organ nakładający karę stosuje w przypadku MŚP niższą z dwóch wartości. Brak regulacji dotyczących nakładania administracyjnych kar pieniężnych w odniesieniu do organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689 “Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne.” Nasza ustawa nie odnosi się do tego, a jednocześnie zaproponowany w art. 70 ustawy zapis szeroko określa krąg podmiotów, na które będą mogły być nakładane kary. Koniecznym jest uregulowanie “czy i w jakim zakresie administracyjne kary pieniężne można nakładać na organy i podmioty publiczne”. Wymaga to również określenia wysokości kary pieniężnej jaka może być nakładana na taki podmiot. A jeśli intencją projektodawcy było stosowanie takich samych reguł w zakresie organów i podmiotów publicznych należy to wskazać w uzasadnieniu. Art. 70 KIGEiT Rekomendacja: Zróżnicowanie kar na podstawie wielkości podmiotu: \"Wysokość kar za naruszenie przepisów zostanie dostosowana do wielkości podmiotu oraz charakteru naruszenia. Komisja, przed nałożeniem kary, będzie zobowiązana do wydania ostrzeżenia oraz zaleceń naprawczych, a kary będą mogły być nałożone dopiero po upływie terminu na ich wdrożenie. Przedsiębiorstwa będą mogły ubiegać się o rozłożenie kary na raty lub jej częściowe umorzenie, jeśli wykażą znaczną poprawę w działaniach zgodnych z przepisami.\" Art. 70 (Administracyjne kary pieniężne) przewiduje nakładanie kar za naruszenia przepisów. Warto, aby przepisy były bardziej proporcjonalne i elastyczne w stosunku do mniejszych graczy rynkowych. To umożliwi mniejszym firmom dostosowanie się do przepisów bez ryzyka bankructwa, co może wynikać z nałożenia wysokich kar administracyjnych. Art. 70 ICC Poland Projekt przewiduje możliwość nałożenia przez Komisję, w drodze decyzji, administracyjnej kary pieniężnej na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Zgodnie z art. 70 ust. 1 Projektu, Komisja może nałożyć taką karę na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689. Jak wynika z uzasadnienia Projektu (s. 17), Projekt zakłada możliwość nałożenia kary na podmioty zarówno z sektora prywatnego, jak i 287 publicznego. Projekt nie precyzuje jednak, czy możliwość nałożenia administracyjnej kary pieniężnej dotyczy także organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689, każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. Również ten przepis zacznie być stosowany od 2 sierpnia 2025 r. Regulacje rozdziału 7 Projektu wymagają zatem w tym zakresie doprecyzowania lub uzupełnienia. Art. 70 ust. 1 KIGEiT Propozycja zapisu: Art. 70. 1. Komisja może w przypadkach określonych w Art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w Art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w Art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 Art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń Art. 5, czyli ust. 3 Art.99. Art. 70 ust. 4 PWPW Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Proponujemy wskazać, że Komisja odstępuje a nie może odstąpić. Jeżeli wydano ostrzeżenie i podmiot się do niego zastosował oraz nie było szkody dla interesu społecznego, to Komisja powinna odstąpić od kary. Arbitralność decyzji Komisji w tej sytuacji jest niezrozumiała - dlaczego nadal Komisja może nałożyć karę jeżeli wcześniej wydała ostrzeżenie które zostało uwzględnione. Skutkiem tego będą sytuacje, w których podmioty nie będą wiedziały czy zastosowanie się do ostrzeżenia ochroni je przed karą, osłabia to zatem instytucję ostrzeżenia. Art. 70 ust. 4 KIGEiT Propozycja zapisu: Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w Art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. 288 Dodatkowa przesłanka poza Art. 99 ust. 7 AI Act. Art. 71 PIIT Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Wydłużenie terminu - analogicznie jak w uodo. Art. 71 KIGEiT Propozycja zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w Art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. , Wydłużenie terminu - analogicznie jak w uodo. Art. 72 KIGEiT Art. 72. Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. , Dobrze byłoby, aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic regulacyjnych, co wpisywałoby się w cel regulacji jakim jest wspieranie innowacji. Art. 72 GRAI Uwaga redakcyjna Po słowie ,,Środki” dodaje się słowo ,,finansowe”. Art. 73 PIIT art. 73.1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 Osoba fizyczna mk Artykuł 99 rozporządzenia 2024/1689 nie odwołuje się wprost do artykułu 73 tegoż rozporządzenia, który opisuje obowiązki dostawców systemów sztucznej inteligencji dotyczące zgłaszania poważnych incydentów. Do artykułu 73 nie odwołuje się również artykuł 16 rozporządzenia 2024/1689, który szerzej opisuje obowiązki dostawców systemów sztucznej inteligencji, a którego naruszenie stanowi podstawę do nałożenia kary w myśl artykułu 99, punkt 4a. 289 Co za tym idzie, istnieje ryzyko, że artykuł 99 rozporządzenia 2024/1689 nie stanowi samodzielnie wystarczającej podstawy do wymierzania kar dla dostawców systemów sztucznej inteligencji w przypadku niedochowania obowiązków związanych ze zgłaszaniem poważnych incydentów. W konsekwencji, samo powołanie się w rozdziale 7 Ustawy (Art. 70) na artykuł 99 rozporządzenia 2024/1689, jako na podstawę do wymierzania kar, może okazać się niewystarczające w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z artykułu 73 rozporządzenia 2024/1689 lub rozdziału 5 Ustawy. Ponieważ ani artykuł 99 rozporządzenia 2024/1689 ani również Ustawa nie określają wprost kar za niedochowanie przez dostawców systemów sztucznej inteligencji obowiązków związanych ze zgłaszaniem poważnych incydentów, istnieje ryzyko wystąpienia luki prawnej, w ramach której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie mogła nakładać kar w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z rozdziału 5 Ustawy. W rezultacie te przepisy mogą okazać się martwe. Wskazane jest uzupełnienie rozdziału 7 ustawy o odpowiedni zapis likwidujący możliwość wystąpienia wyżej opisanej luki. Art. 73 ICC Poland Artykuł 73 ust. 1 Projektu przewiduje, że administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Biorąc pod uwagę wysokie limity kar za naruszenie przepisów rozporządzenia 2024/1689, sięgające nawet 35 milionów euro lub 7% całkowitego rocznego światowego obrotu, 14-dniowy termin wydaje się terminem zbyt krótkim. Przedsiębiorcy mogą mieć trudności z zebraniem tak dużych środków pieniężnych w tak krótkim czasie, co może wywołać daleko idące negatywne konsekwencje dla prowadzonej przez nich działalności. Warto rozważyć wydłużenie tego terminu. Art. 73 Związek Cyfrowa Polska Ograniczone możliwości odwołania się i wysokie kary, które stwarzają ryzyko finansowe dla przedsiębiorstw wykorzystujących sztuczną inteligencję (art. 73 Projektu). Ograniczona możliwość odwołania się od decyzji, krótkie terminy płatności kar oraz natychmiastowa wykonalność kar mogą poważnie wpłynąć na przepływy pieniężne i operacje przed rozpatrzeniem odwołań. Art. 73 ust. 1 GRAI I. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego), wyznaczenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 projektu) jest zbyt krótkie. II. Zbędne opisowe określanie stanu uprawomocnienia się decyzji. I. Zmiana zaproponowanego terminu „14 dni” na dłuższy termin, np. „90 dni”. II. Słowa “upływu terminu na wniesienie odwołania albo od dnia uprawomocnienia się orzeczenia sądu” zastępuje się słowami “uprawomocnienia się decyzji w przedmiocie jej nałożenia”. 290 Propozycja brzmienia przepisu: „1. Administracyjną karę pieniężną uiszcza się w terminie 90 dni od dnia uprawomocnienia się decyzji w przedmiocie jej nałożenia.”. Art. 73 ust. 1 KIGEiT Propozycja zapisu: Art. 73 .1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji , Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy wydłużenie terminu do 30 dni. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o uwzględnienie możliwości wniesienia zażalenia na przedmiotowe postanowienie. Art. 73 ust. 8 PIIT art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 KIGEiT Propozycja zapisu: Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 NRA Art. 73 ust. 8 Projektu nie rozstrzyga kwestii kluczowej dla ochrony prawnej podmiotów, a mianowicie właściwości organu uprawnionego do rozpatrzenia środka odwoławczego od 291 postanowienia dotyczącego odroczenia terminu płatności lub rozłożenia na raty administracyjnej kary pieniężnej, które zgodnie z art. 73 ust. 2 Projektu ma być wydawane przez Komisję. Brak jednoznacznych regulacji w Projekcie może rodzić wątpliwości czy odwołanie od tego rodzaju postanowienia winno być wniesione do SOKiK, czy też w pierwszej kolejności podlegać rozpoznaniu przez samą Komisję w trybie ponownego rozpatrzenia sprawy (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a.), a dopiero następnie, w przypadku negatywnego rozstrzygnięcia, skierowane do sądu administracyjnego. Dla zapewnienia przejrzystości procedur odwoławczych oraz zagwarantowania pewności prawa dla stron takiego postępowania zasadne byłoby jednoznaczne uregulowanie tego zagadnienia w przepisach Projektu. W razie wyboru właściwości SOKiK dla rozstrzygania zażaleń na wspomniane postanowienia należy stosowne przepisy dodać także do nowelizowanego k.p.c., aby zapewnić spójność oraz transparentność procedury w omawianym zakresie. Art. 74 CHAMBER W art. 74 należy restrykcyjnie i ściśle zdefiniować przypadki, w których Komisja może nadać decyzji rygor natychmiastowej wykonalności. Obecne kryterium “ważnego interesu” nie wskazuje nawet o jaki i czyj interes wchodzi. Tak inwazyjne i potencjalnie destrukcyjne dla adresatów środki powinny być podejmowane w ostateczności i jedynie w szczególnie uzasadnionych przypadkach. Art. 74 ITCORNER Mając na uwadze to, jak ogromne kary za naruszenie przewiduje AI Act (do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - proponujemy wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 PWPW Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. 1) Wnosimy o wskazanie zakresu art. 74, czy dotyczy decyzji o karze, czy decyzji o udzieleniu ulgi, o której mowa w art. 73 ust. 9 (być może to będzie decyzja – bo nie wiadomo jaką formę przyjmie udzielenie ulgi). Jeżeli ten przepis ma dotyczyć decyzji o nałożeniu kar to należy doprecyzować przesłanki nałożenia dodatkowego rygoru. Powinny mieć one charakter konkretny i zawężający. 10 292 2) Ponadto wnosimy o doprecyzowanie sformułowania „ważny interes”. Art. 74 Związek Banków Polskich Art 74. Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Proponujemy skreślenie lub doprecyzowanie. O ile przepis miałby pozostać wymaga skorelowania z art. 73 ust. 1 oraz wprowadzenia trybu odwoławczego od rygoru. Szczątkowa regulacja rygoru – nie jest jasne o jaki ważny interes chodzi. Jednocześnie, nie opisano zależności z art. 73 ust.1 oraz nie wskazano możliwości zaskarżenia rygoru. Art. 74 NRA Art. 74 Projektu przewiduje zbyt szerokie uprawnienie dla Komisji w zakresie nadania rygoru natychmiastowej wykonalności decyzji o administracyjnych karach pieniężnych, warunkując je w zasadzie samym czynnikiem wystąpienia sytuacji, gdy przemawia za tym „ważny interes”. Wprowadzenie takiej szczególnej przesłanki jak w art. 74 Projektu prowadziłoby do rozszerzenia ogólnych zasad nadawania decyzjom rygoru natychmiastowej wykonalności (określonych w art. 108 k.p.a.) na podstawie przesłanki, cechującej się wyjątkowo ogólnikowym charakterem, co mogłoby z kolei skutkować nadużyciami, jako że nie wprowadza ona obowiązku uwzględnienia zasady proporcjonalności, tak istotnej dla ochrony praw jednostki. Tak więc przepis ten wymaga doprecyzowania w sposób, który ograniczy nadanie rygoru natychmiastowej wykonalności do sytuacji, gdy działanie takie okaże się rzeczywiście niezbędne. Dodanie takiego wymogu nie tylko umocniłoby gwarancje ochronne wobec podmiotów podlegających decyzji, ale również zapewniło zgodność z konstytucyjną zasadą ochrony wolności i klauzulą limitacyjną ograniczania wolności i praw konstytucyjnych, przewidzianą w art. 31 ust. 3 Konstytucji RP. Art. 74 ICC Poland Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, „jeżeli wymaga tego ważny interes”. Projektowana regulacja jest nieprecyzyjna, gdyż nie wskazuje czyjego ważnego interesu dotyczy projektowany przepis. Pozostawienie projektowanego przepisu bez zmian skutkowałoby bardzo dużą dyskrecjonalnością Komisji w ocenie, czy taki „ważny interes” zachodzi, co może rodzić niepewność prawną po stronie przedsiębiorców lub innych podmiotów objętych zakresem zastosowania ustawy. Dlatego też rekomendujemy rozważenie całkowitego usunięcia tego przepisu z Projektu, bądź jego dalsze doprecyzowanie. Art. 74 PIIT Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes – w kontekście kar pieniężnych przepis zbyt arbitralny i uznaniowy; jaki byłby ważny interes w nałożeniu kary finansowej. Art. 74 KIG Przepis bezwzględnie należy doprecyzować, ponieważ taka redakcja narusza fundamentalne zasady państwa prawa. Projektodawca nie wskazał czyj ważny interes upoważnia Komisję do nadania decyzji rygoru natychmiastowej wykonalności. Ponadto tak radykalne działanie nie może być oparte na całkowicie uznaniowych przesłankach, dlatego Projektodawca powinien co najmniej zasugerować przykładowy katalog przesłanek, które uważa za ważny interes. 293 Art. 74 GRAI Ponadto, powinna być wykreślona możliwość nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Jeśli nie zostanie uwzględniony postulat rezygnacji z przepisu – należy wskazać, że w przepisie nie określono warunków nadania decyzji rygoru natychmiastowej wykonalności, co może skutkować za dużym uprawnieniem dyskrecjonalnym organu. Do rozważenia przeredagowanie art. 74 lub zrezygnowanie z tej regulacji. Art. 74 Polski związek zarządzania wierzytelnościami Art. 74 Projektu AI Act przewiduje bardzo wysokie kary za naruszenie regulacji (nawet do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - z tego względu w interesie przedsiębiorstw, w tym rzecz jasna podmiotów branży zarządzania wierzytelnościami, byłoby wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 Fundacja FinTech Poland Przepis art. 74 nie precyzuje, jaki dokładnie interes uzasadnia nadanie decyzji rygoru natychmiastowej wykonalności, co rodzi istotne wątpliwości interpretacyjne. Pojęcie „ważny interes” jest niejasne i może być rozumiane bardzo szeroko. Brak sprecyzowania, czy chodzi o interes społeczny, interes publiczny, interes prywatny strony postępowania, interes innego przedsiębiorcy, czy może interes pokrzywdzonego, pozostawia zbyt dużą swobodę interpretacyjną Komisji. Taka nieprecyzyjność może prowadzić do sytuacji, w której rygor natychmiastowej wykonalności będzie nadawany na podstawie różnych, subiektywnie ocenianych przesłanek. Może to osłabić poczucie bezpieczeństwa prawnego i zaufania do 294 organu, który posiada możliwość natychmiastowego egzekwowania swojej decyzji. Dla przejrzystości i ochrony interesów wszystkich stron, warto, aby ustawodawca określił, czy nadanie rygoru dotyczy: interesu publicznego lub społecznego – np. gdy natychmiastowa wykonalność decyzji ma na celu ochronę zbiorowych praw konsumentów czy zapobieżenie szkodom o szerokim zasięgu; czy interesu prywatnego strony lub pokrzywdzonego – np. w sytuacji, gdy zwłoka w wykonaniu decyzji mogłaby doprowadzić do trudnych do naprawienia szkód dla konkretnej osoby lub podmiotu. Wprowadzenie bardziej szczegółowych kryteriów lub wskazanie, jaki typ interesu ma być chroniony, zapewniłoby większą klarowność przepisu i ograniczyłoby ryzyko nadużyć oraz dowolności w stosowaniu rygoru natychmiastowej wykonalność Art. 75 GRAI Propozycja, aby sprawy odwołań od decyzji i zażaleń na postanowienia nie były rozpatrywane przez SOKiK, lecz przez Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Posiada on większą wiedzę i doświadczenie w zakresie programów komputerowych niż SOKiK. Rozważenie zmiany właściwego sądu. Art. 75 ICC Poland Projekt przewiduje w art. 75 ust. 1, że od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługiwać ma odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Na aprobatę zasługuje powierzenie tego rodzaju spraw sądowi okręgowemu. Natomiast samo uzasadnienie Projektu nie zawiera wyjaśnienia dla decyzji projektodawcy o wyborze sądu ochrony konkurencji i konsumentów jako sądu, który miałby zajmować się odwołaniami od decyzji Komisji (art. 57 ust. 1 Projektu) oraz odwołaniami od decyzji w sprawie nałożenia administracyjnej kary pieniężnej (art. 75 ust. 1 Projektu). Biorąc pod uwagę przedmiot regulacji rozporządzenia 2024/1689, tj. regulację wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej, warto rozważyć powierzenie spraw sądowi wyspecjalizowanemu w sprawach programów komputerowych, który będzie mieć odpowiedni poziom wiedzy technicznej. Zgodnie z art. 47990 §1 i § 2 Kodeksu postępowania cywilnego7, sprawy własności intelektualnej należą do właściwości sądów okręgowych, a Sąd Okręgowy w Warszawie jest wyłącznie właściwy w sprawach własności intelektualnej dotyczących m.in. programów komputerowych oraz tajemnic przedsiębiorstwa o charakterze technicznym. Warto zatem dokonać pogłębionej analizy, który z istniejących sądów mógłby zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 75 ust. 2 GRAI Zrównać brzmienie z art. 57 ust. 2 Art. 76 GRAI Wyłączenie stosowania art. 189f KPA znacząco ograniczy możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku niezastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 (art. 70 ust. 4) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania 295 art. 189k KPA, nie jest w pełni jasne, jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9. Podobny przepis tj. wyłączenie ogólnych przepisów KPA dot. ulg. i odstąpienia od kary wywołał sporo legislacyjnych dyskusji przy ustawie PNR. Art. 76 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów aktu w sprawie sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 76 projektu ustawy o AN). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów aktu w sprawie sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k $ 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k$ 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k $ 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k $ 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 73 ust. 2-8 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII aktu w sprawie sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów aktu w sprawie sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom aktu w sprawie sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. 296 W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 76 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 76 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k $ I pkt. I ustawy z dnia 14.06.1960 r.- Kodeks postępowania cywilnego. ”. Art. 76 Art. 77 PWPW W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania Administracyjnego. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Poprosimy o doprecyzowanie poprzez wskazanie, że do decyzji o nakładaniu kar stosuje się rozdział kodeksu postępowania administracyjnego (k.p.a.) dot. nakładania kar – z wyłączeniem ww. przepisów. A także czy Sąd Okręgowy – będzie oceniał zastosowanie przepisów ustawy w związku z przepisami kpa w ramach prowadzenia postępowania na gruncie przepisów Kodeksu postępowania cywilnego. Dodatkowo należy zauważyć, że tam gdzie nie będzie stosownych przepisów – zastosowanie będą miały przepisy ustawy - Ordynacja podatkowa. Wskazana regulacja budzi poważne wątpliwości w zakresie wykładni przepisów prawa i poprawności legislacyjnej. Ponadto stanowi to nieprzejrzystą regulacje i niesie duże ryzyka dla podmiotów. Wskazane w art. 76 przepisy kpa mają na celu zapewnienie, że wymierzone kary będą proporcjonalne do skutków czynów. W związku z powyższym nie powinny być wyłączane Art. 77 PIIT Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). 297 * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Art. 77 KIGEiT Propozycja zapisu: Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie Art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. , Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. art. 78 CHAMBER Zupełnie niezrozumiałe jest stypizowanie w art. 78 utrudniania kontroli jako przestępstwa (sic!) zagrożonego karą pozbawienia wolności do lat dwóch (sic!). Nie jest w żaden sposób uzasadnione, aby utrudnianie kontroli akurat systemów sztucznej inteligencji było uznane za czyn aż tak bardzo społecznie szkodliwy, wielokrotnie bardziej niż np. utrudnianie kontroli celno- skarbowej, co zagrożone jest jako wykroczenie jedynie karą grzywny do 720 stawek dziennych (zob. art. 94 kodeksu karno-skarbowego). Ta sama uwaga dotyczy art. 79. Postulujemy sprowadzenie kar w tych przepisach do poziomu analogicznego do kar za utrudnianie kontroli przez inne organy. Art. 78 Fundacja FinTech Poland Przepis w obecnym kształcie stanowi ryzyko dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy wprowadzenie gradacji kar, poprzez zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia oraz wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI Act lub skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. 298 Rekomendujemy precyzyjne określenie czynu zabronionego poprzez wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Proponujemy wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Rekomendujemy wzmocnienie roli postępowania wyjaśniającego. Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78 i Art. 79 PIIT Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i 79 KIGEiT Propozycja zapisu: Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich 299 posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. , Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i Art. 79 Związek Cyfrowa Polska Sankcje karne. Te przewidziane w Projekcie ustawy (art. 78 i art. 79) nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji; ich wprowadzenie stoi również w kontrze z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju technologii innowacyjności, w zakresie sztucznej inteligencji. Sankcji karnych. Przewidziane w Projekcie ustawy (art. 78 i art. 79) sankcje karne nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 78 i Art. 79 Związek Pracodawców Technologii Cyfrowych Lewiatan Wysokość kary nakładanej na osobę (art. 78 i 79) Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy zweryfikować ten zapis i np. skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. Kary ograniczenia wolności (art. 78 i 79) Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78. 1 PIIT Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli – tu należałoby możliwość nałożenia sankcji ograniczyć do podmiotu kontrolowanego art. 79 j.w. Art. 78 ust. 1 Związek banków Polskich Przepis w obecnym kształcie stanowi zagrożenie dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących 300 przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Propozycja do zasygnalizowania: Wprowadzenie gradacji kar: Zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia. Wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI ACT. Precyzyjne określenie czynu zabronionego: Wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Wzmocnienie roli postępowania wyjaśniającego: Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Art. 78 ust. 1 i art. 79 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż wysokość grzywny jest zbyt wygórowana. Wskazujemy, iż zakresem stosowania przedmiotowej ustawy objęte są różne podmioty, także mniejsze przedsiębiorstwa, w tym start- upy. Postulujemy obniżenie tej wartości min. o 50%. Art. 78 ust 2 PZPPF Art. 78 ust. 2 przewiduje karę grzywny w wysokości do 500 000 PLN, karę ograniczenia wolności albo karę pozbawienia wolności do lat dwóch, w przypadku gdy przedsiębiorca nie dostarczy danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarczy dane, które uniemożliwią ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Podczas gdy jednocześnie art. 71 ust. 2 określa, że w takich sytuacjach Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. W takim brzmieniu projektu ww. karę należy ocenić jako niewspółmierną wobec charakteru opisanego naruszenia oraz jego potencjalnego wpływu na postępowanie. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie lub co najmniej obniżenie ww. kary. 301 Art. 78 ust. 2 NRA Art. 78 ust. 2 Projektu stanowi o odpowiedzialności karnej za niedostarczenie danych albo dostarczenie danych uniemożliwiających ustalenie podstawy wymiaru administracyjnej kary pieniężnej w toku postępowania dotyczącego jej nałożenia, przewidując karę grzywny, ograniczenia wolności, a także karę pozbawienia wolności do lat dwóch. Przepis ten zatem, na gruncie prawa karnego, jako wprowadzający nowy typ czynu zabronionego, powinien być adresowany wyłącznie do osób fizycznych, co jednoznacznie wynika z ogólnych zasad odpowiedzialności karnej, ustanowionych w Kodeksie karnym (art. 116 k.k.). Z kolei równolegle przepis z art. 71 ust. 1 Projektu nakłada obowiązek dostarczenia wymaganych danych na „podmiot” objęty regulacją z art. 70 ust. 1 Projektu, czyli jednostkę zobowiązaną do przestrzegania postanowień rozporządzenia 2024/1689, co odnosi się także do osób prawnych. Tym samym przepis z art. 78 ust. 2 Projektu niejako nie rozróżnia osób fizycznych i prawnych, co prowadzi do nieścisłości interpretacyjnej w zakresie odpowiedzialności karnej za niedopełnienie obowiązku dostarczenia danych. Dla uniknięcia niespójności oraz zapewnienia jasności co do zakresu obowiązków i odpowiedzialności karnej zaleca się, aby zmodyfikować treść przepisu z art. 78 ust. 2 Projektu w ten sposób, aby jednoznacznie określał, że obowiązki z tego przepisu mogą obciążać wyłącznie osoby fizyczne. Art. 79 Fundacja FinTech Poland Grzywna w prawie karnym wymierzana jest w oparciu o stawki dzienne. Jest to iloczyn stawki dziennej w ustalonym wymiarze i liczny ustalonej przez Sąd. Art. 80 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejne przykłady niechlujnego redagowania przepisów projektu ustawy o AI odnajdujemy w art. 80 pkt. 2 projektu ustawy o AI: a/ w dodawanym do k.p.c. art. 47955* opuszczono oznaczenie $ 1 w przypadku zdania pierwszego wprowadzanego tąże regulacją, b/ w dodawanym do k.p.c. art. 479*** w jego zdaniu pierwszym, które winno posiadać oznaczenie $ 1 błędnie wpisano, iż odwołanie od decyzji Komisji wnoszone do SOKiK za pośrednictwem Komisji wnoszone jest za „jego pośrednictwem”, zamiast za „jej pośrednictwem”, bo póki co to nic nam nie wiadomo by rzeczownik „Komisja”” według reguł językowych stał się rzeczownikiem rodzaju męskiego w miejsce dotychczasowego rodzaju żeńskiego, c/ z kolei w dodawanym do k.p.c. art. 479? $ 1 opuszczono słowo „„stronami” po słowach „rozporządzenia 2024/1689”, a przed słowami „są także”. Art. 80 KIGEiT Propozycje zapisu: Art. 47988e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji , Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. 302 Art. 83 ust. 1 KIGEiT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 Związek Banków Polskich Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Poprawa literówki: „od” zamiast „id”. Art. 84 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejny przykład niechlujnego przygotowania projektu ustawy o AI odnajdujemy w art. 84 ust. 5 projektu ustawy o AI, gdzie w miejsce sformułowania „od dnia wejścia w życie ustawy” termin jest liczony „id dnia wejścia w życie ustawy”. M/ Również w uzasadnieniu projektodawca nie ustrzegł się uchybień w sferze staranności w przygotowaniu projektu, skoro już w drugim wersie od góry na drugiej stronie uzasadnienia po słowach „W dniu 2 lutego 2025 r.” opuszcza literę „w”. N/ Z kolei w 14 wersie od góry na przedostatniej stronie uzasadnienia w pierwszym zdaniu poświęconym omówieniu regulacji rozdziału 9 po słowach „w terminie 7”, a przed słowami „od wejścia w życie ustawy” opuszczono słowo „dni” pozwalające na ostateczne określenie terminu ogłoszenia o rozpisaniu konkursu na stanowisko Przewodniczącego Komisji. Kierując się względami dbałości o staranność w przygotowaniu projektu tego rodzaju uchybienie także chwały projektodawcy raczej przynieść nie może. Art. 84 ust. 1 KIGEiT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art.5 projektowanej ustawy. Art. 87 ust. 1 Związek Banków Polskich Budżet KRIBSI powinien być znacząco wyższy i oscylować wokół wartości co najmniej 150% wyższych niż założone dla lat 2026-2035. W każdym roku limit wydatków powinien także rosnąć – z uwagi na inflację oraz bardzo prawdopodobny wzrost adopcji i poziomu skomplikowania narzędzi AI. Art. 88 KIGEiT Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem Art. 83 i Art. 84, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Przepis określający termin wejścia w życie poszczególnych przepisów ustawy nie może abstrahować od terminów wejścia w życie poszczególnych przepisów Rozporządzenia 2024/1689. Na przykład przepis Art. 85 Rozporządzenia 2024/1689 przewidujący możliwość wniesienia skargi do organu nadzoru, czy Art. 73 Rozporządzenia 2024/1689 dotyczący obowiązki zgłaszania poważnych incydentów wchodzą w życie, zgodnie z Art. 113 Rozporządzenia 2024/1689, w dniu 2 sierpnia 2026. Tymczasem Art. 88 projektu ustawy stanowi, że wchodzi ona w życie 14 dni od ogłoszenia z wyjątkiem Art. 83 i 84. Pomimo że dziś nie jest znany termin ogłoszenia ustawy, można się spodziewać, że zostanie ona opublikowana w 2025 więc niektóre z jej przepisów, zgodnie z obecną treścią Art. 88, zaczną obowiązywać przed terminem rozpoczęcia stosowania odpowiednich przepisów Rozporządzenia 2024/1689. Z tego względu w przepisach określających termin wejścia w życie przepisów ustawy powinny się znaleźć odpowiednie daty uwzględniające terminy wejścia w życie poszczególnych przepisów Rozporządzenia. W 303 przeciwnym razie, np. prawo wniesienia skargi na podstawie ustawy przysługiwałoby wcześniej niż wynika to z Rozporządzenia. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 należy pamiętać o tym, aby ostateczne przepisy ustawy, w tym przepisy intertemporalne, były zgodnie z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozdział 8 Polska Izba Ubezpieczeń W ocenie Polskiej Izby Ubezpieczeń technologia sztucznej inteligencji jest nową technologią o transgranicznym charakterze i z tego tytułu powinien być zapewniony tryb odwoławczy. W dniu dzisiejszym nie jesteśmy w stanie oszacować wszystkich sytuacji i rozwiązań jakie będą przedmiotem oceny Komisji i jej ewentualnych decyzji. Zwracamy również uwagę, że zasadnym byłoby podjęcie działań zmierzających do zmian w procesie legislacyjnym ustawy o działalności ubezpieczeniowej i reasekuracyjnej. W szczególności proponujemy zmianę art. 41 ust. 1b ustawy o działalności ubezpieczeniowej i reasekuracyjnej tak by katalog wskazanych kategorii danych w art. 41 ust. 1b Ustawy miał charakter otwarty. Taka zmiana przyczyni się do rozwoju technologicznego i usprawnienia procesów oceny ryzyka ubezpieczeniowego oraz procesów likwidacji szkód. Proponujemy zmianę redakcyjną art. 41 ust. 1b Ustawy na „1b. Decyzje, o których mowa w ust. 1a, mogą być podejmowane w szczególności w oparciu o następujące kategorie danych dotyczących osoby fizycznej”. Działanie legislacyjne w tym kierunku będzie stanowiło skuteczne wsparcie sektora ubezpieczeń w przygotowaniu do stabilnego wdrożenia rozwiązań opartych na technologii sztucznej inteligencji w procesach ubezpieczeniowych. Wskazując na powyższy postulat branża ubezpieczeniowa odwołuje się m.in. do motywu 67 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, gdzie podkreślono, że „wysokiej jakości dane i dostęp do wysokiej jakości danych odgrywają kluczową rolę w ustanawianiu struktury i zapewnianiu skuteczności działania wielu systemów AI, w szczególności w przypadku stosowania technik obejmujących trenowanie modeli, w celu zapewnienia, aby system AI wysokiego ryzyka działał zgodnie z przeznaczeniem i bezpiecznie oraz aby nie stał się źródłem zakazanej przez prawo Unii dyskryminacji.” Dlatego też w ocenie ubezpieczycieli by zapewnić wysoką jakość zbiorów danych treningowych, walidacyjnych i testowych pożądane jest wdrożenie odpowiednich zachęt prawnych poprzez rozwiązania legislacyjne. Rozdział 8 GRAI Konieczne jest rozszerzenie stosowania ustawy o ochronie sygnalistów na zgłoszenia zewnętrzne dotyczące naruszenia rozporządzenia 2024/1689 lub przepisów projektowanej ustawy. Osoby wewnątrz organizacji dostawców lub jednostek publicznych albo osoby będące w posiadaniu wiedzy o naruszeniach powinny mieć możliwość dokonania stosownych zgłoszeń do Komisji. 304 Osoby te powinny mieć przyznane uprawnienia i przyznaną ochronę taką jak sygnaliści z ustawy o ochronie sygnalistów. Należy albo znowelizować w tym zakresie ustawę o ochronie sygnalistów albo dodać stosowne przepisy (nawet z odesłaniem do ww. ustawy). W celu utrzymania spójnej legislacji proponuję przyjąć ten drugi wariant (wprowadzić ogólne odesłanie do ww. ustawy ze wskazaniem, które przepisy znajdują zastosowanie). Rozdział 8 GRAI Sugeruje uregulowanie odpowiedzialności za celowe zniekształcanie wyników algorytmu (np. Poprzez celowe dostarczanie niewłaściwych danych). Regulacja miałaby na celu wprowadzenie ram prawnych do przeciwdziałania celowego “mylenia” algorytmów na etapie treningu (np. Celowy sabotaż). Art. 80 GRAI Zmiana Sądu Okręgowego w Warszawie - sąd ochrony konkurencji i konsumentów na Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Dodatkowo, Sąd rozpatruje zażalenia na postanowienia zgodnie z art. 43 ust. 13 oraz art. 73 ust. 18 ustawy. W art. 479 (88e) brakuje słowa “stronami”. Art. 80 PIIT Art. 47988e § 1. W sprawach naruszenia przepisów rozporządzenia 2024/1689 stronami jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Ponadto, przepisy zmieniające KPC nie przewidują jakie rodzaje rozstrzygnięć merytorycznych może wydać Sąd po rozpatrzeniu odwołania. Co jest zasadniczym brakiem przepisów proceduralnych. Art. 80 Polska Izba Ubezpieczeń Proponuje się w art. 80 do ustawy – Kodeks postępowania cywilnego korektę do art. Art. 47988e na „§1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” 305 Mając na względzie, że sprawy odwoławcze będą wymagać wiadomości specjalnych, proponuje się również rozważenie wprowadzenia na listy biegłych sądowych biegłych z zakresu AI. Realizacji ww. postulatu wymagać będzie zmiana ustawy Prawo o ustroju sądów powszechnych i aktów wykonawczych. Art. 80 pkt. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W przepisie dotyczącym zmiany art. 479 88b postulujemy zmianę wyrazu „jego” na wyraz „jej”. W przepisie dotyczącym zmiany art. 479 88e postulujemy przeformułowanie, albowiem w obecnym brzmieniu przepis wydaje się brzmieć nieprawidłowo. Art. 80 Fundacja Panoptykon W odniesieniu do postępowania odwoławczego przed Sądem Ochrony Konkurencji i Konsumentów zwracamy uwagę, że w proponowanym art. 47988e § 1, który projekt ustawy dodaje do Kodeksu postępowania cywilnego, brakuje słowa określającego status Komisji i zainteresowanego: „w sprawach z naruszenia przepisów rozporządzenia 2024/1689 [brakujące słowo] są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany”. Zakładamy, że projektodawcy chodziło o nadanie Komisji i zainteresowanemu statusu strony postępowania odwoławczego. Poza tą uwagą redakcyjną, postulujemy także doprecyzowanie w § 2, że skarżący – nawet jeśli jego prawa lub obowiązki nie zależą od rozstrzygnięcia procesu – może być zainteresowanym i wprowadzenie obowiązku wezwania go do udziału w sprawie. art. 83 PIIT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 PIIT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art.5 projektowanej ustawy. Zob. także uwaga w wierszu 5 Art. 84 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż zdublowana została numeracja ust. 5. Wnosimy o poprawę numeracji ustępów w art. 84 Projektu ustawy. Postulujemy także zmianę słowa „id” na słowo „od” w aktualnym ust. 5 306 Art. 84 ust. 5 GRAI Uwaga redakcyjna Słowo “id” zastępuje się słowem “od”. Art. 86 GRAI Niejasny zapis w zakresie terminu na złożenie projektu planu finansowego Biura Komisji na okres od dnia wejścia w życie ustawy do dnia 31 grudnia 2025 r. do Prezesa Rady Ministrów. Konieczność doprecyzowania przepisu. Art. 87 GRAI Potrzeba zwiększenia budżetu w szczególności w pierwszym półroczu istnienia Komisji np. z uwagi na zakup odpowiednich narzędzi informatycznych. Uzasadnienie Związek Cyfrowa Polska Brak jest wyjaśnienia w uzasadnieniu Projektu ustawy powodów braku zagwarantowania przedsiębiorcom mechanizmów odwoławczych od wystąpienia pokontrolnego (art. 46 ust. 8 Projektu) oraz zaleceń pokontrolnych (art. 47 ust. 2 Projektu). OSR PCA W OSR w części „wpływ na sektor finansów publicznych” proponujemy uwzględnić następujący zapis: „Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2025 r. Osoby zatrudnione odpowiedzialne będą za prace nad przygotowaniem programu akredytacji, organizację prowadzenia procesu akredytacji podmiotów ubiegających się o uprawnienie do certyfikacji w ramach programów certyfikacji AI. Zgodnie z ustawą o systemach oceny zgodności i nadzoru rynku (t.j. Dz.U.2022 poz.1854, z 2024, poz. 1089) Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa. Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r. Środki te przeznaczone będą na sfinansowanie dodatkowych dwóch etatów oraz na wynagrodzenia dla osób, które otrzymają dodatkowe zadania w projektowanym zakresie. Zwiększenie to musi być utrzymane w kolejnych latach, zwiększane o wskaźnik wzrostu płac i będzie sfinansowane w ramach samodzielnej gospodarki finansowej PCA. Do oszacowania wydatków wzięto pod uwagę średnie wynagrodzenie jakiego oczekują kandydaci do pracy z ostatniego okresu z uwzględnieniem kosztów pracodawcy. Podkreślenia wymaga fakt, że projektowana ustawa wprowadza wymaganie akredytacji w nowym obszarze. Należy zatem oczekiwać konieczności przeprowadzenia ocen akredytacyjnych dla nowych lub rozszerzania zakresu akredytacji dla już istniejących jednostek oceniających zgodność, co ogólnie przełoży się na zwiększenie zadań zatrudnionych pracowników przy 307 realizacji zmian w funkcjonujących już akredytacjach, a tym samym będzie wiązać się z koniecznością zwiększenia poziomu wynagrodzenia tych pracowników. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo nowoczesnego sektora gospodarki. Sektora, w którym płace są na bardzo wysokim poziomie. Osoby, które będą wykonywały te zadania muszą mieć bardzo wysokie kompetencje - znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Ostateczna struktura rozdysponowania ww. zwiększenia w funduszu osobowym oraz poziom tego rozdysponowania zależy od kompetencji zatrudnionych osób i zakresu dodatkowych zadań przydzielonych już zatrudnionym osobom. ” Zaproponowane kwoty powinny być również uwzględnione w tabeli w tym punkcie. Brak regulacji GRAI Brak uregulowania Kodeksów postępowania: Zgodnie z art. 69 rozporządzenia, Komisja i państwa członkowskie zachęcają do tworzenia (i ułatwiają tworzenie) kodeksów postępowania sprzyjających dobrowolnemu stosowaniu w odniesieniu do systemów sztucznej inteligencji innych niż systemy sztucznej inteligencji wysokiego ryzyka wymogów określonych w tytule III rozdział 2, w oparciu o specyfikacje i rozwiązania techniczne, które stanowią odpowiedni sposób zapewnienia zgodności z takimi wymogami w świetle przeznaczenia tych systemów. Realizacja tego przepisu rozporządzenia nie została w żaden sposób ujęta w projekcie ustawy. Konieczność uregulowania i przyjęcia właściwych przepisów na gruncie krajowym. Brak regulacji GRAI Brak uregulowania kwestii tworzenia piaskownic regulacyjnych zgodnie z artykuł em 53 (Piaskownice regulacyjne w zakresie AI) 1. Piaskownice regulacyjne w zakresie AI tworzone przez jeden właściwy organ państwa członkowskiego lub większą liczbę takich organów, lub przez Europejskiego Inspektora Ochrony Danych zapewniają kontrolowane środowisko ułatwiające opracowywanie, testowanie i walidację innowacyjnych systemów sztucznej inteligencji przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem. Tego rodzaju działalność musi przebiegać pod bezpośrednim nadzorem właściwych organów i zgodnie z ich wytycznymi, aby zapewnić zgodność z wymogami niniejszego rozporządzenia oraz – w stosownych przypadkach – z innymi przepisami prawa Unii i prawa państw członkowskich objętymi nadzorem w ramach piaskownicy. Z uzasadnienia do projektu wynika, że kwestia piaskownic regulacyjnych będzie zaadresowana w odrębnych regulacjach w kolejnych latach. Należy jednak pamiętać, iż brak takich rozwiązań może 308 ograniczać możliwości testowania rozwiązań przez przedsiębiorców w bezpiecznym środowisku i wpływać na innowacyjność polskich przedsiębiorstw. Reguły kolizyjne GRAI Wprowadzenie reguł kolizyjnych w sytuacji gdy system sztucznej inteligencji spełnia jednocześnie definicję innej kategorii np. wyrobu medycznego. Określenie wzajemnej relacji ustaw szczególnych względem siebie GRAI Warto rozważyć umieszczenie w przepisach ustawy regulacji dotyczących tworzenia programów wsparcia dla pracowników, za których zadania wykona AI, a oni w rezultacie utracą pracę. Niedoprecyzowany pozostaje tryb rejestrowania systemów sztucznej inteligencji wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Zgodnie z odnośnikiem nr 1 konsultowanego projektu ustawy o systemach sztucznej inteligencji projektowana ustawa ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji. Celem tego rozporządzenia (dalej: Rozporządzenie) jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, „zgodnie z wartościami Unii (...), przy jednoczesnym zapewnieniu praw podstawowych zapisanych w Karcie praw podstawowych”. Jednym z praw podstawowych określonych w Karcie jest równość kobiet i mężczyzn. Rozporządzenie obejmuje szereg postanowień, zawartych zarówno w preambule, jak i w jego tekście artykułowanym, które odnoszą się do tej kwestii, albo wprost odwołując się do równości, równouprawnienia płci lub równości kobiet albo odwołując się, bardziej generalnie, do praw podstawowych, do których te wartości są zaliczane. Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Poniżej wskazano najważniejsze z przepisów Rozporządzenia w tym zakresie, w szczególności te kierunkowe, wyznaczające strategiczne cele przyjętej regulacji prawnej, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem na które powinna odpowiadać projektowana ustawa jako regulacja służąca stosowaniu w Polsce Rozporządzenia. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 309 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami zapisanymi w traktatach oraz, zgodnie z art. 6 TUE – w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, „mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji” oraz „mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet”. Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jako systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację 310 i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii”. To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. W projekcie ustawy brakuje uregulowań dotyczących wsparcia dla MŚP w dostosowaniu się do nowych regulacji – chociażby w postaci programów edukacyjnych. Brak w regulacji GRAI Potrzeba zwiększenia ochrony małoletnich Propozycja dodania przepisu: „1. Małoletni, który ukończyli 13 lat mogą korzystać z systemów sztucznej inteligencji, pod warunkiem, że warunki korzystania z systemu są łatwo dostępne i zrozumiałe. 2. Dostęp do systemów AI przez małoletnich w wieku poniżej 13 lat wymaga zgody ich opiekunów prawnych.”. Brak regulacji w projekcie, być może do uregulowania w innej ustawie GRAI Wykorzystanie AI w systemie opieki zdrowotnej Rozważenie przyjęcia regulacji w zakresie: 1. Wykorzystanie systemów sztucznej inteligencji w systemie opieki zdrowotnej nie może skutkować dyskryminacją pacjenta w dostępie do usług medycznych 311 2. Osoby fizyczne mają prawo do informacji na temat wykorzystania sztucznej inteligencji i jej zalet związanych z diagnozą i terapią oraz do uzyskania informacji na temat logiki związanej z podejmowaniem decyzji. 3. „Decyzje” systemu AI mające na celu wspieranie procesów: zapobiegania, diagnozowania, leczenia i wyboru terapii, musi być potwierdzona przez lekarza (pracownika medycznego) prowadzącego leczenie. Brak w regulacji GRAI Dodanie przepisów o wyłączeniu członków Komisji w tym jego Przewodniczącego. Konieczność przyjęcia regulacji w tym zakresie, jak np. w ustawie o nadzorze nad rynkiem finansowym. Brak w uzasadnieniu GRAI Brak szerszego odniesienie się w uzasadnienia do ochrony praw człowieka oraz Karty PP UE Zmiana i uzupełnienie uzasadnienia. Brak w ustawie GRAI Wprowadzenie w ustawie regulacji wzorowanej na art. 69 ust. 1- 5 UOKiK z uwagi na okoliczność, że w postępowaniu przed Komisją może występować kilka stron (vide. art. 51 ust. 2 projektu). Jak w art. 69 UOKiK z odpowiednimi modyfikacjami Brak w ustawie GRAI Uregulowanie w ustawie przepisów dotyczących testowania systemu AI zgodnie z art. 77 ust. 3 rozporządzenia 2024/1689. Brak w ustawie GRAI W projektowanej ustawie brakuje odniesienia do kwestii praw autorskich. W szczególności powinny zostać poruszone następujące kwestie: Wytwory generatywnej sztucznej inteligencji a prawo autorskie i prawo własności przemysłowej Prawa do danych wykorzystywanych przez AI Aspekt prawa autorskiego baz danych, wykorzystywanych przez AI AI a ochrona oprogramowania na gruncie europejskim (software patent w EPO), a prawa do danych LLM i naruszania praw autorskich AI a wynalazca (twórca w rozumieniu Prawa własności przemysłowej)AI a twórca w rozumieniu prawa autorskiego i praw pokrewnych Wynagrodzenie za korzystanie z utworów na potrzeby sztucznej inteligencji. Znakowanie utworów wykorzystywanych na potrzeby sztucznej inteligencji Znakowanie wytworów wygenerowanych przez AI. Realizacja prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM określony w ustawie o prawie autorskim i prawach pokrewnych przewiduje możliwość jnego wykorzystania na potrzeby sztucznej inteligencji. doprecyzowanie obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskich na potrzeby sztucznej inteligencji. 312 określenie reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. AI Act nie stoi na przeszkodzie szczegółowym regulacjom kwestii prawno-autorskich na poziomie krajowym, a regulacja taka jest niezbędna. AI Act tylko szczątkowo wskazuje na kwestie prawno- autorskie, które wymagają rozwinięcia i doprecyzowania w prawie krajowym. Projekt nie przewiduje natomiast żadnych rozwiązań w tym zakresie. GRAI Brak zaadresowania w ustawie kwestii dotyczących ustanowienia szczegółowych przepisów dotyczących wykorzystania biometrii, zgodnie z art. 5 AI Act. Z uzasadnienia projektu nie wynika, czy i w jakim okresie planowane jest uregulowanie tej kwestii. Nowy rozdział dot. identyfikacji biometrycznej GRAI I. Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3. Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. II. Nie należy przyjmować wyjątków pozwalających na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłącznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Akt, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikowane będą osoby postronne. • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Akt rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede 313 wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów - tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. III. AI Akt reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Polska powinna wprowadzić bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd. Brak w ustawie SANO Postulujemy wprowadzenie definicji systemu wysokiego ryzyka, która usuwałaby obecnie nasuwające się problemy interpretacyjne dotyczące tego, jak się wydaje, jednego z kluczowych zagadnień wskazanych w Rozporządzeniu. Wprowadzenie do katalogu podmiotów wchodzących w skład Komisji opisanej w rozdziale 2 projektowanej ustawy przedstawicieli środowiska organizacja pozarządowych z pespektywy Sano jest dobrym rozwiązaniem. Obecnie katalog podmiotów desygnujących przedstawicieli do Komisji ograniczony jest zasadniczo do przedstawicieli organów Państwowych (z wyłączeniem przedstawicieli Rady Dialogu Społecznego). Wydaje się, że Komisja w składzie bardziej inkluzyjnym będzie mogła lepiej realizować przewidziane dla niej zadania. Udział NGO w ramach Rady Społecznej powoływanej przy Komisji wydaje się być niewystarczającą reprezentacją trzeciego sektora. Wprowadzenie do katalogu podmiotów wchodzących w skład członków Komisji określonej w art. 7 ust. 2 Rzecznika Prawa Pacjenta oraz Rzecznika Małych i Średnich Przedsiębiorców to kolejna z naszych propozycji. Zastosowanie ustawy będzie miało kluczowy wpływ na działalność MŚP oraz konieczna będzie ochrona pacjentów, dlatego kluczowe jest, aby oby dwaj rzecznicy znaleźli się w stałym składzie członków Komisji. Rekomendujemy przeniesienie Krajowej Rady Radiofonii i Telewizji z katalogu członków Komisji określonej w art. 7 ust. 2 do ust. 3 gdzie wskazani są przedstawiciele, którzy mogą uczestniczyć ale ich udział nie jest obligatoryjny. Z projektu ustawy oraz uzasadnienia nie wynika dlaczego rola KRRiT jest kluczowa w każdych działaniach Komisji. Postuluje się wprowadzenie przepisów, które w szerszy sposób dawałyby legalny dostęp do danych w tym danych medycznych, a w ramach tego katalogu powinno się również rozumieć dane dotyczące zdrowia. W szczególności ustawa mogłaby stanowić o zmianie ustawy o prawach pacjenta w zakresie zamkniętego i ograniczającego prowadzenie badań katalogu podmiotów 314 wynikającego z art. 26 ustawy o prawach pacjenta. Ustawa powinna stanowić asumpt dla stymulacji rozsądnego wykorzystania potencjału dla budowania systemów sztucznej inteligencji w obszarze zdrowia. Dla wysokiej jakości budowania rozwiązań w obszarze zdrowia kluczowy jest dostęp do prawdziwych, wysokiej jakości danych dotyczących zdrowia dla większej ilości podmiotów realizujących działania na rzecz AI niż dotychczas. Brak w ustawie Repropol Mimo, iż Projekt służy wdrożeniu także rozdziału V AIA (art. 51-56), w Projekcie brak jest jakiegokolwiek nawiązania do modeli AI ogólnego przeznaczenia (GPAI). Po pierwsze zwrócić należy uwagę na brak zamieszczenia w art. 3 UoSSI referencji czy to do modelu AI ogólnego przeznaczenia (art. 3 pkt 63 AIA), czy też systemu AI ogólnego przeznaczenia (art. 3 pkt 66 AIA). Nie wiadomo, w jaki sposób uzasadnić pominięcie tych ważnych definicji, skoro projektodawca zdecydował się (uważamy, że niepotrzebnie) na katalog definicji referencyjnych w art. 3 UoSSI. Z uwagi na to, iż krajowe organy odgrywają także – obok Urzędu ds. AI – istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b AIA – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), katalog obowiązków KRIBSI zawarty w art. 11 ust. 1 UoSSI powinien zostać uzupełniony również o ten wymiar obowiązków. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI powinna być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Celowe wydaje się także wyartykułowanie w UoSSI obowiązku ustawicznego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, ale i zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias). Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Potrzeba uwzględnia w przepisach prawa powszechnie obowiązującego w Polsce zagadnień związanych z wykorzystaniem systemów sztucznej inteligencji z poszanowaniem Fundacja Sztuka Media Film Mamy na uwadze, że podstawowym celem projektu ustawy o systemach sztucznej inteligencji jest stworzenie ram prawnych i instytucjonalnych niezbędnych do prawidłowego stosowania Rozporządzenia 2024/1689, które nie wprowadza zmian w prawie w zakresie prawa autorskiego. Z uwagi jednak na fakt, że tematyka wyzwań w prawie autorskim wobec rozwoju sztucznej inteligencji jest zagadnieniem szeroko dyskutowanym w przestrzeni publicznej, ze szczególnym uwzględnieniem środowisk twórczych i artystycznych, w imieniu Fundacji Sztuka Media Film, zwracamy uwagę na konieczność kompleksowego uregulowania związanych z tym zagadnieniem kwestii w polskim porządku prawnym. Nie można wykluczyć, że część powyższego problemu zostanie objęta regulacjami unijnymi, jednak z uwagi na to, że harmonizacja prawa autorskiego w państwach członkowskim przebiega w sposób punktowy oraz zważywszy na odrębność i zróżnicowanie krajowych porządków 315 praw autorskich twórców prawnych państw członkowskich Unii Europejskiej w obszarze prawa autorskiego, niewykluczona może okazać się również krajowa inicjatywa ustawodawcza w obszarze praw autorskich. Takie działania zostały podjęte m.in. we Francji, gdzie w dniu 12 września 2023 r. przedłożono projekt ustawy nr 1630 w celu zapewnienia ram prawa autorskiego dla sztucznej inteligencji. Propozycja zmian w prawie autorskim ma na celu ochronę autorów poprzez uregulowanie eksploatacji prac generowanych przez sztuczną inteligencję. Poniżej sygnalizujemy obszary, które identyfikujemy jako kluczowe z perspektywy ochrony praw twórców i wskazujemy na konieczność uwzględnienia ich w ramach dalszych zaplanowanych prac legislacyjnych oraz badawczych w zakresie rozwoju AI w Polsce: Dookreślenie w przepisach prawa powszechnie obowiązującego sposobu korzystania z utworów na potrzeby tworzenia, rozwijania oraz stosowania w obrocie gospodarczym systemów sztucznej inteligencji z poszanowaniem praw twórców, w szczególności możliwości skutecznego realizowania przez nich autorskich praw osobistych do utworów, w szczególności prawa do nadzoru nad sposobem korzystania z utworu (o którym mowa w art. 16 pkt 5 ustawy z 04.02.1994 r. o prawie autorskim i prawach pokrewnych (dalej: pr.aut.)) oraz wypłaty należnego twórcom wynagrodzenia z tytułu korzystania z ich utworów w związku z działalnością systemów sztucznej inteligencji; Dookreślenie czy polskie prawo autorskie powinno dopuszczać możliwość zastosowania definicji utworu (w rozumieniu art. 1 ust. 1 pr.aut.) w stosunku do rezultatów działalności sztucznej inteligencji? Czy – alternatywnie – polskie prawo autorskie powinno z definicji wyłączać możliwość zakwalifikowania jako utwór w rozumieniu pr.aut. rezultatów działalności sztucznej inteligencji? Czy względem rezultatów prac sztucznej inteligencji powinna powstać odrębna definicja przedmiotu praw autorskich, dostosowana do specyfiki funkcjonowania tej techniki? Jeżeli rezultaty prac sztucznej inteligencji miałyby stanowić utwór w rozumieniu pr.aut. albo w rozumieniu innej definicji stanowić przedmiot ochrony prawnoautorskiej koniecznym jest dookreślenie jakiemu podmiotowi przysługiwać będą autorskie prawa majątkowe do rezultatów prac stworzonych (wygenerowanych) przez sztuczną inteligencję. Czy będzie to dostawca systemu sztucznej inteligencji, podmiot ją stosujący, inny operator wymieniony w Rozporządzeniu 2024/1689? Czy możliwe jest przyznanie określonych, ograniczonych względem praw autorskich przysługujących twórcom, samej sztucznej inteligencji? Dookreślenie w ramach kodeksów dobrych praktyk, w jaki sposób powinny zostać wypełniane obowiązki w zakresie transparentności nakładane na twórców modeli generatywnej sztucznej inteligencji, tak aby prawa twórców utworów wykorzystywanych w procesie trenowania sztucznej inteligencji były należycie chronione, w tym doprecyzowanie również zagadnień związanych z publikacją i oznaczaniem treści wytworzonych przez sztuczną inteligencję. Brak uregulowania w projekcie SFP-ZAPA Wprowadzenie mechanizmów zapewniających – zgodnie z intencją ustawodawcy unijnego – że na każde wykorzystanie treści chronionych prawem autorskim na potrzeby sztucznej inteligencji zostanie uzyskane zezwoleniem danego podmiotu praw (motyw 105 aktu o AI). Mogłoby to 316 następować na podstawie obecnie znanych mechanizmów: licencjonowanie, mechanizm rozszerzonych zbiorowych licencji. Z uwagi na masowy charakter korzystania oraz rozproszony repertuar pośrednictwo organizacji zbiorowego zarządzania w tym procesie wydaje się niezbędne. Wprowadzenie mechanizmów zapewniających realizację obowiązku przejrzystości tak w aspekcie informowania na temat treści objętych ochroną prawnoautorską wykorzystanych na potrzeby sztucznej inteligencji, jak i w aspekcie znakowania wytworów wygenerowanych przez sztuczną inteligencję. Doprecyzowanie rodzaju informacji, jakie miałyby być dostarczane przez twórców systemów i modeli AI na temat zakresu korzystania z utworów na potrzeby ich tworzenia, rozwijania i eksploatowania, które będą umożliwiały twórcom ustalenie zakresu korzystania i odpowiadającego temu korzystaniu wynagrodzenia (obowiązek przejrzystości, obowiązki informacyjne). Obecnie w akcie o AI mowa jest jedynie ogólnie o dostarczaniu informacji o zasobach, z których twórcy systemów i modeli AI korzystają. Nie jest to wystarczające. Mamy oczywiście świadomość i wiedzę, że na poziomie Unii Europejskiej prowadzone są prace zmierzające do powstania kodeksu praktyk w tym zakresie. Uważamy jednak, że rozwiązania typu soft law nie są wystarczająco skuteczne, na co zresztą słusznie zwraca uwagę sam ustawodawca w uzasadnieniu Projektu. Jak była zaś o tym mowa powyżej, żadne przepisy nie stoją na przeszkodzie temu, aby taką regulację wprowadzić w porządku krajowym. Naszym zdaniem jest ona niezbędna. Wprowadzenie formy rekompensaty za korzystanie z utworów na potrzeby zasilania modeli i systemów sztucznej inteligencji. Także w przypadkach, o których mowa w art. 4 dyrektywy DSM. Może to oczywiście być klasyczna opłata licencyjna, bądź ustawowo zagwarantowane prawo do wynagrodzenia. Jednym z rozwiązań szeroko dyskutowanym w różnych krajach UE jest wprowadzenie mechanizmu podobnego do tego, jaki funkcjonuje w odniesieniu do tzw. opłat od czystych nośników. Przywrócenie braku możliwości korzystania z tzw. komercyjnej eksploracji tekstów i danych (tzw. TDM) na potrzeby sztucznej inteligencji. W projekcie nowelizacji ustawy o prawie autorskim i prawach pokrewnych implementującym dyrektywę DSM, opublikowanym przez Ministerstwo Kultury i Dziedzictwa Narodowego w lutym 2024 r., przesądzono, że możliwość komercyjnej eksploracji tekstów i danych nie będzie miała zastosowania do korzystania z utworów na potrzeby sztucznej inteligencji, a w szczególności jej generatywnej postaci. Rozwiązanie to zostało z satysfakcją przyjęte przez wszystkie środowiska twórcze. Niestety, w toku dalszych prac nad projektem wyłączenie to (pod wpływem opinii podmiotów, które z tego wyłączenia nie będą mogły korzystać dla niczym nieograniczonego wykorzystywania utworów na potrzeby tworzenia i rozwijania modeli i systemów generatywnej sztucznej inteligencji) zostało usunięte. Braku tego 317 rodzaju zapisu w ustawie nie sanuje przewidziane tak w dyrektywie DSM, jak i projekcie prawo zgłoszenia zastrzeżenia co do takiego korzystania. W obecnym kształcie ustawy opcja opt-out (prawo zgłoszenia zastrzeżenia) jest iluzoryczna, gdyż nieefektywna (brak jest bowiem rozwiązań prawnych i technicznych, które określałyby jak w praktyce w skuteczny sposób z prawa tego korzystać). Twórcom nie zapewniono także żadnego rodzaju rekompensaty za tego rodzaju korzystanie, co godzi w ich podstawowe prawa. Doszczegółowienie zasad i warunków korzystania z prawa zastrzeżenia opt-out w przypadku, o którym mowa w art. 4 ust. 3 dyrektywy DSM nie tylko w formie nadającej się do odczytu maszynowego wraz z metadanymi, ale też w taki sposób, aby następowało z uwzględnieniem warunków korzystania ze strony internetowej lub usługi. Z uwagi na brak szczegółowych regulacji (nie tylko w aspekcie prawnym, ale też technicznym) w jaki korzystanie z prawa opt-out miałaby następować jest ono trudne do zrealizowania w praktyce. Brak zapewnienia skutecznego sposobu korzystania przez uprawnionych z tego prawa spowoduje masowe nadużywanie formy dozwolonego użytku przewidzianej w art. 4 dyrektywy DSM, co będzie prowadzić – wbrew założeniom aktu o AI – do naruszania praw autorskich w związku z korzystaniem z utworów na potrzeby sztucznej inteligencji. Przesądzenie, że wyjątek dotyczący eksploracji tekstów i danych odnosi się jedynie do utworów, do których beneficjent wyjątku ma legalny dostęp (zgodnie z art. 3 ust. 1 dyrektywy DSM). W przeciwnym wypadku powstaje ryzyko masowego nadużywania tej formy dozwolonego użytku w celu niezgodnego z prawem zwielokrotniania i przechowywania utworów. Przesądzenie, aby zastrzeżenie opt-out mogło być składane także przez organizacje zbiorowego zarządzania w imieniu uprawnionych, którzy powierzyli danej organizacji swoje prawa w zbiorowy zarząd. Stanowisko to uzasadnia masowa skala korzystania z utworów w ramach wyjątku eksploracji tekstów i danych. Opracowanie mechanizmów zapobiegających naruszaniu praw autorskich w związku z korzystaniem z rozwiązań sztucznej inteligencji, w tym wskazujących podmioty odpowiedzialne (np. analogicznie do rozwiązania przewidzianego w art. 17 dyrektywy DSM). Mechanizm ten powinien określać katalog przesłanek, po spełnieniu których, dostawca może uwolnić się od odpowiedzialności. Powinien też opierać się o szeroki system domniemań – jak domniemanie trenowania na utworach, domniemanie zwielokrotniania utworów. Domniemania te mogą być wzruszalne. Pozwolą jednak w sposób sprawiedliwy rozłożyć ciężar dowodu. Pełna wiedza na temat funkcjonowania systemów sztucznej inteligencji, w tym m.in. na temat tego z jakich źródeł są one zasilane, jest wyłącznie po stronie ich dostawców. Do wiedzy tej nie mają i nie będą mieć dostępu uprawnieni z tytułu praw autorskich, którzy z kolei dostarczają treści, które owe systemy 318 zasilają. Bez konstrukcji domniemań prawa twórców nie zostaną zatem zagwarantowane, ani w praktyce zrealizowane. Działania komunikacyjne i edukacyjne Krajowy Instytut Mediów Kategorie interesariuszy, które powinny być traktowane priorytetowo w zakresie działań komunikacyjnych i edukacyjnych w związku z procesem wchodzenia w życie rozporządzenia 2024/1689 Jak wskazano w motywie 4 rozporządzenia 2024/1689: AI to szybko rozwijająca się grupa technologii, która przyczynia się do wielu różnych korzyści ekonomicznych, środowiskowych i społecznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej, przy czym w motywie 5 aktu w sprawie sztucznej inteligencji zaznaczono, że AI może jednocześnie stwarzać zagrożenia i wyrządzać szkody dla interesu publicznego i praw podstawowych chronionych przepisami prawa Unii, w zależności od okoliczności jej konkretnego zastosowania, wykorzystania oraz od poziomu rozwoju technologicznego. Szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne. Dlatego też podejmowanie działań związanych z procesem wchodzenia w życie rozporządzenia 2024/1689 wymaga przede wszystkim wzięcia pod uwagę potrzeb dzieci, których szczególna wrażliwość pociąga za sobą konieczność zapewnienia im takiej ochrony i opieki, jaka jest niezbędna dla ich dobra, a także potrzeb seniorów, cechujących się podatnością na zagrożenia związane ze zjawiskiem dezinformacji. Wsparcie i edukacja w tym zakresie stanowią kluczowy element upowszechniania AI na rynku wewnętrznym, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych. Systemy zakazane i wyłączenia Panoptykon Zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej Zgodnie z art. 5 ust 1 lit. h rozporządzenia w sprawie sztucznej inteligencji, wykorzystywanie systemów zdalnej identyfikacji biometrycznej w przestrzeni publicznej do celów ścigania przestępstw w czasie rzeczywistym jest co do zasady zakazane, chyba że ich wykorzystanie jest bezwzględnie konieczne do celów wymienionych w tym przepisie. Jednocześnie, art. 5 ust. 5 rozporządzenia wymaga w tych przypadkach od państw członkowskich, aby przyjęły krajowe przepisy, które szczegółowo regulowałyby zasady udzielania i nadzorowania zezwoleń na wykorzystanie takich systemów. Brak tych przepisów w projekcie opiniowanej ustawy interpretujemy jako decyzję ustawodawcy o braku zgody na wykorzystywanie systemów zdalnej biometrycznej identyfikacji do celów ścigania przestępstw. Zdecydowanie popieramy taką decyzję projektodawcy i rekomendujemy jej utrzymanie w ostatecznej wersji projektu. W tym miejscu warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem w sprawie sztucznej inteligencji, pełny zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej – jako naruszających istotę prawa do prywatności – rekomendowały, obok organizacji społecznych, wiodące organy ochrony danych osobowych i praw człowieka: Europejski Inspektor Ochrony Danych i Wysoki Komisarz ONZ ds. Praw Człowieka Model z zakresu prawa i administracji Osoba fizyczna AJ W niniejszym mailu doszczegółowię moje (przedsiębiorca) oczekiwania w stosunku do inicjatywy AI w Polsce. 319 Widzę potrzebę modelu (może być na wzór QRA) nauczonego wiedzą z zakresu administracji i prawa. Do stworzenia takiego modelu można użyć danych z: 1. aktów notarialnych: (dostępne w administracji skarbowej i urzędach powiatowych w zakresie nieruchomości), 2. umów kupna-sprzedaży: dostępne w administracji skarbowej, 3. dokumentów sądowych: dostępne w sądach 4. dokumentów administracyjnych: zezwolenia, rejestry, mapy geodezyjne, wnioski tip: dostępne w urzędach Tak nauczony model można stosować np. w starostwie, gdzie po kilka osób na powiat prowadzi rejestr cen nieruchomości, wprowadzając dane z aktów notarialnych. Możliwe byłoby usprawnienie pracy tych urzędników i przez to oddelegowanie pracowników do innych zadań niż przetwarzanie aktów notarialnych Podobnie na poziomie gmin, prowadzone są rejestry podatkowe na podstawie informacji z aktów notarialnych i ten proces można zautomatyzować za pomocą AI. Gmin jest w PL 2498. Jeśli tak nauczony model będzie ogólnie dostępny to mogą go także wykorzystywać adwokaci, rzeczoznawcy i urzędnicy do przetwarzania dokumentacji administracyjnej. Taki model także może być użyty w sądach i prokuraturach np. do segregacji dokumentów czy wstępnej klasyfikacji dokumentów. Ale na początek proponuję analizę aktów notarialnych w celu uzupełnienia danych rejestru cen w powiatach, co jest czynnością wymaganą ustawowo. Dane do budowy modelu posiada administracja państwowa, projekt można zrobić na podobieństwo projektu QRA, byćmoże w nowszej architekturze. Osobiście widzę także potrzebę modelu do rozpoznawania obiektów ze zdjęć satelitarnych. Jednakże ten model byłby wykorzystywany przez ograniczoną grupę użytkowników, więc na razie go nie zgłaszam. Nowy rozdział Identyfikacja biometryczna GRAI Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, ale tylko w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3.Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. 320 Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. W mojej ocenie Polska powinna wprowadzić takie bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd Nowy rozdział Identyfikacja biometryczna GRAI Nie należy przyjmować wyjątków pozwalajacych na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłacznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; • Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Act, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikwoane będą osoby postronne. Myślę, że będzie to dobra forma kotnroli / presji społecznej; • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Act rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów – tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. Nowy rozdział identyfikacja biometryczna GRAI Act reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Błędy językowe NRA 1. Art. 1 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 321 2. Art. 3 Projektu — W artykule pojawia się błąd typograficzny. Spacje wokół dywizu (łącznika) i półpauzy są zbędne. Zaleca się ich usunięcie lub, w razie potrzeby, zastosowanie myślnika, który można oddzielić spacjami. 3. Art. 4 ust. 3 Projektu — W przepisie użyto zbędnej kropki po skrócie słowa „punkt, tj: „pkt.”. Zgodnie z zasadami języka polskiego kropka w tym przypadku jest niepożądana, ponieważ skrót sam w sobie jest jednoznaczny. 4. Art. 5 ust. 6 Projektu — Występuje błąd językowy w postaci użycia czasownika „posiadać” w odniesieniu do pojęć abstrakcyjnych („komisja”). Zaleca się użycie czasownika „mieć”, co jest zgodne z konwencją językową dotyczącą rzeczy niematerialnych. 5. Art. 7 ust. 6 Projektu — Brakuje przecinka w wyrażeniu „zakresie, w jakim”. Dodanie przecinka poprawia czytelność i zgodność składniową zdania. 6. Art. 9 ust. 2 Projektu — Błąd składniowy polegający na użyciu nieprawidłowej formy przypadkowej rzeczownika „podmiot”. W błędnym zapisie mamy niepoprawną formę „w podmiotu”, która jest wynikiem mylnego użycia dopełniacza w bezpośrednim sąsiedztwie przyimka „w” zamiast wymaganego miejscownika. W poprawnym sformułowaniu „w podmiocie, którego są przedstawicielami” rzeczownik „podmiot” występuje w miejscowniku, ponieważ wymaga tego przyimek „w” (miejscownik: „w kim? w czym?” – „w podmiocie”), z kolei zaimek „którego” powinien być w dopełniaczu, aby zgadzał się z sensownym związkiem z resztą zdania, gdyż członkowie Komisji są przedstawicielami kogo? czego? – „podmiotu” (dopełniacz). 7. Art. 11 ust. 1 pkt 6 Projektu — Błąd językowy polegający na nieprawidłowym użyciu formy mianownika zamiast dopełniacza. Obecne brzmienie przepisu powinno zostać poprawione poprzez użycie form „postanowień i decyzji” w dopełniaczu. Prawidłowe, poprawne językowo sformułowanie przepisu powinno zatem brzmieć: „Do zadań Komisji należy (...) wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. 8. Art. 12 ust. 2 Projektu — Przecinek przed wyrazem „Komisja” jest zbędny i powinien zostać usunięty, aby zachować poprawność interpunkcyjną. 9. Art. 14 ust. 3 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo”. Przecinek w tym miejscu poprawia strukturę zdania i ułatwia jego czytelność. 10. Art. 19 ust. 4 Projektu — W treści przepisu brakuje przecinka przed wyrażeniem „gdy”. Wstawienie przecinka zapewnia zgodność z zasadami interpunkcji i poprawia czytelność przepisu. 322 11. Art. 20 ust. 4 Projektu — W zdaniu „przeprowadza komisja kwalifikacyjna,,” występują bezpośrednio po sobie dwa przecinki, co jest błędem typograficznym. Należy usunąć zbędny przecinek. 12. Art. 20 ust. 9 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia przejrzystość i rytm zdania. 13.Art. 25 ust. 2 Projektu — Sformułowanie „wzajemna wymiana” jest pleonazmem. Zaleca się użycie wyrażenia „wymiana”, które już samo w sobie zakłada wzajemność. 14. Art. 26 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 15. Art. 33 ust. 3 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową przepisu. 16. Art. 34 ust. 2 ppkt 2 Projektu — Brak kropki po skrócie słowa „artykuł”, tj.: „art”, co jest niezgodne z zasadami stosowania skrótów w języku polskim. Skrót powinien kończyć się kropką. 17. Art. 40 ust. 1 Projektu — W przepisie występuje błąd interpunkcyjny. Należy dostosować znaki przestankowe, aby poprawić strukturę zdania i jego przejrzystość. 18. Art. 43 ust. 2 Projektu — Brak przecinka przed drugim wystąpieniem słowa „lub” w obrębie jednego zdania. Dodanie przecinka poprawia klarowność przepisu i zgodność z zasadami interpunkcji. 19. Art. 43 ust. 3 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Dodanie przecinka wpływa pozytywnie na strukturę składniową i przejrzystość przepisu. Należy skreślić słowo “się” po słowach “czynności kontrolne”. 20. Art. 43 ust. 9 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Wstawienie przecinka poprawia przejrzystość i czytelność przepisu. 21. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową i jednoznaczność przepisu. 22. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zgodnie z zasadami interpunkcji zwiększa czytelność. 23. Art. 45 ust. 5 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo” w obrębie jednego zdania. Poprawne wstawienie przecinka zapewnia spójność interpunkcyjną. 24. Art. 48 Projektu — Podwójny przecinek w wyrażeniu: „w toku kontroli, , że mogło dojść” jest błędem typograficznym i wymaga usunięcia drugiego przecinka. Dodatkowo 323 brakuje słowa „Komisja” we frazie „Komisja jest obowiązana”, co poprawi składnię i jednoznaczność przepisu. 25. Art. 54 ust. 6 Projektu — Brak przecinka przed drugim użyciem słowa „lub” w obrębie jednego zdania, co zaburza rytm tego zdania i jego przejrzystość. Dodanie przecinka zgodnie z zasadami interpunkcji poprawi czytelność przepisu. 26. Art. 59 ust. 1 Projektu — Błędna interpunkcja. Poprawne użycie przecinków poprawi strukturę składniową i czytelność. 27. Art. 64 ust. 1 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka zwiększa przejrzystość i spójność przepisu. 28. Art. 64 ust. 3 ppkt 2 Projektu — Powtórzenie wyrażenia „do spraw” jest zbędne. Usunięcie jednego z wyrażeń poprawi spójność i czytelność przepisu. 29. Art. 65 ust. 2 ppkt 2 Projektu — Brak przecinka przed wyrażeniem „jak również”. Dodanie przecinka zwiększa przejrzystość i poprawność składniową. 30. Art. 69 ust. 1 Projektu — W przepisie występuje błędna interpunkcja, w tym brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawi strukturę przepisu. 31. Art. 70 ust. 2 Projektu — Brak przecinka między czasownikami „oparła” i „nakładając” w zdaniu złożonym. Dodanie przecinka poprawi płynność i poprawność składniową przepisu. 32. Art. 71 ust. 1 Projektu — Błędna interpunkcja. Wymagane jest dostosowanie przecinków do zasad poprawnej konstrukcji zdania. 33. Art. 73 ust. 1 Projektu — Zbędny przecinek przed słowem „albo”. Usunięcie przecinka poprawi strukturę składniową przepisu. 34. Art. 73 ust. 4 Projektu — Zbędny przecinek przed słowem „Komisja”. Usunięcie przecinka dostosuje przepis do zasad poprawnościowych. 35. Art. 73 ust. 7 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zwiększa spójność strukturalną i przejrzystość przepisu. 36. Art. 75 ust. 2 Projektu — Przepis zawiera nawias, który został otwarty, ale nie zamknięty. Dodatkowo, część zdania umieszczona w nawiasie („z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689”) zawiera błędy gramatyczne, albowiem słowo „postępowanie” powinno występować w dopełniaczu („postępowania”), aby zachować poprawność językową. Ponadto sama konstrukcja przepisu jest niejasna, ponieważ wstawienie części zdania w nawias niepotrzebnie komplikuje jego treść. 324 37. Art. 80 ppkt 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 38. Art. 80 in fine Projektu — Brak kropki po cudzysłowie na końcu zdania. Dodanie kropki zgodnie z zasadami interpunkcji poprawi poprawność zapisu. 39. Art. 84 ust. 3 Projektu — Przecinek przed słowem „wykonuje” jest zbędny i powinien zostać usunięty dla zachowania poprawności składniowej. 40. Art. 87 ust. 2 Projektu — Sformułowanie „maksymalny limit wydatków” stanowi pleonazm. Wystarczy wyrażenie „limit wydatków”, które poprawia przejrzystość przepisu. 41. Art. 87 ust. 2 Projektu — Zbędny przecinek przed słowem „stosuje”. Usunięcie przecinka poprawi strukturę składniową i czytelność przepisu. 42. Art. 87 ust. 4 Projektu — Brak kropki po skrócie słowa „ustęp”, tj.: „ust”. Dodanie kropki zgodnie z zasadami języka polskiego zwiększa poprawność formalną. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach opiniowania Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko Uwagi Ogólne 1. Uwaga ogólna Szef Służby Cywilnej Zgodnie z art. 153 Konstytucji RP, Prezes Rady Ministrów jest zwierzchnikiem korpusu służby cywilnej, który działa w urzędach administracji rządowej. W związku z tym, wątpliwości budzi propozycja ukształtowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i Przewodniczącego tej Komisji. Komisja będzie miała typowe zadania regulacyjno-nadzorcze państwa, a jej biuro te zadania będzie współrealizowało. Będzie ponadto obsługiwać Komisję. Są to więc typowe zadania urzędnicze. W całości wpisują się one również w zakres przedmiotowy działu administracji rządowej – informatyzacja. Dział ten obejmuje m.in. zagadnienia dotyczące rozwoju usług świadczonych drogą elektroniczną, czy bezpieczeństwa cyberprzestrzeni. Wskazuje na to również art. 70 ust. 4 rozporządzenia 2024/1689 Parlamentu Europejskiego i Rady (EU)1, który stanowi, że właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. Zasadą powinno być zatem, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak, jak to ma miejsce w przypadku np. Urzędu Komunikacji Elektronicznej, Urzędu Transportu Kolejowego czy Urzędu Regulacji Energetyki). Realizacja obowiązków nałożonych na wskazane organy opiera się głównie na wykonywaniu zadań, które niemal w całości mają charakter zadań urzędniczych (np. prowadzenie postępowań administracyjnych, opiniowanie aktów prawnych, rozpatrywanie Uwaga nieuwzględniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 2 skarg). Zatem uzasadnione jest, aby zadania te wykonywali członkowie korpusu służby cywilnej. Usytuowanie tej jednostki w służbie cywilnej wzmocni ją poprzez nałożenie wysokich standardów wynikających z przepisów, w tym zasad służby cywilnej i zasad etyki korpusu służby cywilnej. Pozwoli to również zneutralizować ryzyka korupcyjne i da mechanizmy służąc przeciwdziałaniu nieporządanym sytuacjom. Usytuowanie Biura w służbie cywilnej zapewni także równość wszystkich osób realizujących ważne dla obywatelek i obywateli zadania. W uzasadnieniu projektodawca wskazał, że wzorował się na regulacjach dot. Komisji Nadzoru Finansowego, jako przykładu umiejscowienia organu nadzoru i regulatora rynku w strukturze organów administracji państwowej. Jest to jednak przykład jednostkowy. Ponadto KNF została utworzona w 2006 r., zaś w kolejnych latach ustawodawca odszedł od tego modelu, na rzecz umiejscawiania regulatorów rynku i organów nadzoru w strukturze urzędów administracji rządowej, w których funkcjonuje korpus służby cywilnej (UTK, URE, UKE itd.). 2. Uwaga ogólna Szef Służby cywilnej W art. 70 ust. 3 ww. rozporządzenia wskazano, że właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów. Problem pozyskania wyposażonych w odpowiednią wiedzę, fachowych pracowników może i powinien być rozwiązany przy pomocy regulacji zawartych w ustawie o służbie cywilnej dotyczących naboru. W nawiązaniu do uwagi nr 1 należy zatem wskazać, że nie ma żadnych przeszkód, aby pozyskiwanie pracowników do Biura Komisji odbywało się w drodze otwartego i konkurencyjnego naboru. Uwaga nieuwzględniona 3. Uwaga ogólna – rola Rzecznik Finansowy (...) na Rzeczniku Finansowym będzie spoczywał ciężar identyfikacji naruszeń zasad wykorzystywania systemów AI przez podmioty rynku finansowego, a w przypadku ustalenia Uwaga nieuwzględniona 3 Rzecznika Finansoweg o w systemie nadzoru nad SSI przesłanek dla stwierdzenia naruszenia przez nie Aktu o sztucznej inteligencj lub projektu ustawy, obowiązek zwrócenia się z właściwym wnioskiem do Komisji. Należy jednak mieć na uwadze, że Rzecznik Finansowy czerpie informacje o naruszeniach prawa przez podmioty rynku finansowego w oparciu o zgłoszenia w sprawach indywidualnych. Zgłoszenia te objęte są zaś tajemnicą zarówno przedsiębiorstwa, jak i bankową (lub inną zawodową). To zaś może stanowić istotną przeszkodę dla przekazania do Komisji danych na temat stwierdzonych przez Rzecznika Finansowego naruszeń. W projekcie ustawy nie znajdują się postanowienia uprawniające Komisję do otrzymywania takich informacji (uprawniające podmioty o których mowa w art. 7 ust. 3 projektu ustawy do przekazanie danych objętych tajemnicą). Rzecznik Finansowy sugeruje rozważenie by zawrzeć w projekcie ustawy analogiczne postanowienie jak to przewidziane w art. 17 ust. 1, 2 i 3 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, gdzie przewidziano zasady przekazywania informacji między Komisją Nadzoru Finansowego a Narodowym Bankiem Polskim: 1. Komisja i Narodowy Bank Polski przekazują sobie dokumenty i informacje, w tym chronione na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowych zadań. 2. Przepis ust. 1 stosuje się odpowiednio do przekazywania dokumentów i informacji pomiędzy Komisją a Bankowym Funduszem Gwarancyjnym, Ubezpieczeniowym Funduszem Gwarancyjnym, Rzecznikiem Finansowym oraz ministrem właściwym do spraw instytucji finansowych. 3. W celu określenia zasad współpracy i przekazywania dokumentów i informacji, o których mowa w ust. 1 i 2, Komisja zawiera porozumienia oraz umowy z podmiotami, o których mowa w ust. 1 i 2. Zawarcie w projekcie ustawy analogicznego postanowienia umożliwi udostępnianie informacji zgromadzonych w toku rozpatrywania spraw indywidualnych klientów podmiotów rynku finansowego. Dodatkowo wskazujemy na zmianę organizacji Komisji w zakresie uczestnictwa podmiotów z głosem doradczym. 4 W ocenie Rzecznika Finansowego za zasadnością uregulowania kwestii wymiany informacji pomiędzy Komisją i Rzecznikiem Finansowym przemawia również wykładnia art. 7 ust. 3 projektu ustawy w zw. z art. 25 ust. 4 projektu ustawy. Zgodnie z art. 7 ust. 3 projektu ustawy, Rzecznik Finansowy oraz przedstawiciele innych wymienionych tam instytucji mogą brać udział w posiedzeniach Komisji z głosem doradczym. W art. 25 projektu ustawy jest uregulowana kwestia wymiany informacji między Przewodniczącym Komisji, Zastępcami Przewodniczącego Komisji oraz członkami Komisji, informacji, w tym tajemnic prawnie chronionych. W art. 25 ust 4 projektu ustawy wskazano, komu ww. osoby mogą tych informacji udzielać, ale nie ma wśród nich przedstawicieli instytucji, które zgodnie z art. 7 ust 3 projektu ustawy mogą brać udział w posiedzeniach Komisji. Wydaje się więc zasadne dopuszczenie, przynajmniej w zakresie związanym z reprezentowaną branżą, również przedstawicieli instytucji wymienionych w art. 7 ust 3 projektu ustawy do wymiany informacji. W przypadku braku takich uprawnień, może to utrudniać realne wykonywanie głosu doradczego, a nawet niekorzystnie wpływać na prace Komisji, jeśli na posiedzeniach nie będzie możliwa swobodna wymiana informacji z uwagi na to, że biorą w nich udział osoby, które dostępu do tych informacji nie mają. 4. Uwaga ogólna PFR Ustawa i Rozporządzenie wprowadzają dodatkowe wymogi i obciążenia dla przedsiębiorców, co może generować znaczne koszty, zwłaszcza w przypadku startupów i małych przedsiębiorstw. Poddajemy pod rozwagę możliwość wprowadzenia ulg podatkowych lub innych form wsparcia finansowego lub uproszczeń dla przedsiębiorstw (zwłaszcza małych i średnich), które inwestują w rozwój zgodnych z przepisami systemów sztucznej inteligencji; Ustawa wprowadza obowiązki raportowania poważnych incydentów w sytuacji, gdy obowiązek taki nakłada już ustawa o krajowym systemie cyberbezpieczeństwa. Zachodzi więc ryzyko, iż w przypadku sporej liczby polskich podmiotów, tym PFR, ten sam incydent będzie powodował konieczność podwójnego raportowania. Postulujemy, o ile to możliwe, takie Uwaga nieuwzględniona Obowiązek raportowania, o którym mowa w dyrektywie NIS i NIS 2 dotyczy innego obszaru i oparte jest na innej podstawie prawnej niż obowiązki dotyczące systemów AI wynikające z rozporządzenia 2024/1689. Na poziomie technicznym kwestie raportowania incydentów mogą (i powinny) być - na wykraczającym poza fazę legislacji etapie realizacji - przygotowane i udostępnione użytkownikom w sposób zapewniający prostotę i spójność, pozwalając dokonać obu typów zgłoszeń w analogiczny sposób. 5 uregulowanie zgłaszania incydentów, które nie nakładałoby na dany podmiot obowiązków raportowania tego samego incydentu dwa razy do dwóch różnych organów administracji publicznej; 5. Uwaga ogólna NCBR Określone problemy w realizacji zapisów ustawy mogą wynikać z tego, że produkty, usługi, systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE i oddzielne krajowe urzędy mogą podejmować różne decyzje w tym zakresie. Powstaje szereg pytań np. czy wcześniej podjęte decyzje w innych krajach powinny wpływać - być uwzględniane w krajach, które później zajęły się daną sprawą. Co ze zgłaszaniem incydentów przez korporacje globalne - czy powinny być zgłaszane wszystkie incydenty czy też tylko te, które dotyczą użytkowników w danym kraju? Można wymienić w kontekście powyższych wątpliwości następujące problemy: 1. Różne decyzje krajowych urzędów Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie mechanizmu wzajemnego uznawania decyzji certyfikacyjnych między krajami UE. Decyzje podjęte w jednym kraju powinny być uwzględniane przez inne kraje, co zapewni spójność regulacyjną i ułatwi firmom działanie na rynku wewnętrznym. 2. Uwzględnianie wcześniejszych decyzji Problem: Brak mechanizmu uwzględniania wcześniej podjętych decyzji w innych krajach może prowadzić do powielania procesów certyfikacyjnych i zwiększenia kosztów dla firm. Propozycja zmiany: Wprowadzenie obowiązku uwzględniania decyzji podjętych w innych krajach UE. Można również rozważyć utworzenie centralnej bazy danych decyzji certyfikacyjnych, Uwaga nieuwzględniona Rolę koordynacji mającej na celu zapewnić spójność stosowania rozporządzenia 2024/1689 pełnić mają, na podstawie jego przepisów, instytucje powołane na podstawie jego przepisów i dla celów jego realizacji, czyli Komisja Europejska oraz Europejska Rada ds. AI. Wprowadzanie na poziomie krajowego wdrożenia przepisów regulujących te kwestie prowadziłoby do naruszenia ram przewidzianych dla krajowego legislatora w treści przepisów rozporządzenia. Jednocześnie uwagi dotyczące spójności i interoperacyjności prawnej systemu należy uznać za cenne. Ich zapewnieniu pomóc mają stałe prace eksperckie w ramach grup i podgrup powołanych przez Europejskiej Radzie ds. AI. W odniesieniu do kwestii zgłaszania incydentów przez firmy międzynarodowe - ta kwestia jest częściowo rozwiązana przez centralizację procedur zgłaszania incydentów dot. modeli AI ogólnego przeznaczeni bezpośrednio do Komisji Europejskiej (Urząd ds. AI). 6 która będzie dostępna dla wszystkich krajowych urzędów nadzorczych. 3. Zakres zgłaszania incydentów przez korporacje globalne Problem: Globalne korporacje mogą mieć trudności z określeniem, które incydenty powinny być zgłaszane w poszczególnych krajach. Zgłaszanie wszystkich incydentów może być niepraktyczne i obciążać administracyjnie zarówno firmy, jak i urzędy nadzorcze. Propozycja zmiany: Wprowadzenie jasnych wytycznych dotyczących zgłaszania incydentów. Dla przykładu: Incydenty powinny być zgłaszane w kraju, w którym miały miejsce, oraz w krajach, których użytkownicy zostali dotknięci. Można również rozważyć wprowadzenie centralnego systemu zgłaszania incydentów na poziomie UE, który będzie koordynował zgłoszenia między krajami. 4. Harmonizacja procedur zgłaszania Problem: Różne procedury zgłaszania incydentów w poszczególnych krajach mogą prowadzić do niejasności i opóźnień w zgłaszaniu incydentów przez globalne korporacje. Propozycja zmiany: Harmonizacja procedur zgłaszania incydentów na poziomie UE. Wprowadzenie jednolitych formularzy i procedur zgłaszania, które będą stosowane we wszystkich krajach członkowskich, co ułatwi firmom spełnianie wymogów regulacyjnych. 6. Uwaga ogólna NCBR Warto rozważyć możliwość zorganizowania funkcjonowania organu nadzoru ds. SSI na wzór Państwowej Komisji Badania Wypadków Lotniczych oraz Rady Ochrony i Ułatwień Lotnictwa Cywilnego, uregulowanych Ustawą z dnia 3 lipca 2002 r. „Prawo lotnicze” (Dz.U. 2022 poz. 1235). Wzorzec ten jest bardziej adekwatny do zadań związanych z rozwojem SI. PKBWL działa przy ministerstwie, wymagane kwalifikacje członków są precyzyjnie określone. Zadaniem KBWL jest analizowanie zaistniałych zdarzeń, opracowywanie raportów i zaleceń. W 7 przypadku KRiBSI dodatkowo dochodzą zadania związane z opiniowaniem SSI jeszcze przed ich oddaniem do użytku i wydawanie opinii. Warto zwrócić uwagę, że obsługę administracyjną PKBWL zapewnia ministerstwo, a członkowie komisji otrzymują wynagrodzenie. W KRiBSI w proponowanym kształcie członkowie Komisji nie otrzymują wynagrodzenia, a są jedynie oddelegowani do udziału Komisji. Może to, w połączeniu z brakiem odpowiednich kwalifikacji powodować brak zaangażowania w pracę Komisji z jednoczesnym jej przerzucaniem na barki pracowników Biura Komisji. Z kolei Rada Ochrony i Ułatwień Lotnictwa Cywilnego jest ciałem doradczym i opiniującym. Podobnie można podzielić kompetencje Komisji i Rady w przypadki SI, powierzając Radzie zadnia nakierowane na wypracowanie przyszłych strategii i wspieranie rozwoju SI. 7. Uwaga ogólna NCBR Koszty wdrożenia: Implementacja nowych przepisów wiąże się z wysokimi kosztami, zarówno dla państwa, jak i dla przedsiębiorstw. Firmy mogą być obciążone dodatkowymi kosztami związanymi z dostosowaniem się do nowych wymogów regulacyjnych. Warto rozważyć wprowadzenie programów wsparcia finansowego dla MŚP, które pomogą im dostosować się do nowych wymogów. Można również rozważyć ulgi podatkowe lub dotacje na wdrożenie systemów AI zgodnych z nowymi przepisami. Uwaga nieuwzględniona Postulat poza zakresem przedmiotu regulacji. Należy zaznaczyć, że koszty dostosowania się do nowych regulacji mogą być objęte przedmiotem finansowania w ramach programów grantowych. 8. Uwaga ogólna NCBR Brak jasności w niektórych przepisach: Niektóre zapisy ustawy są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. Oto kilka przykładów: • Nie w pełni jasne definicje systemów AI wysokiego ryzyka: Projekt ustawy nie precyzuje dokładnie, jakie systemy AI są uznawane za wysokiego ryzyka. To może prowadzić do różnorodnych interpretacji i trudności w ocenie, które systemy podlegają surowszym regulacjom. Uwaga uwzględniona częściowo W zakresie przetwarzania danych osobowych przepisy projektu zostały zmodyfikowane. W projekcie wprowadzano również instytucje wyjaśnień i indywidualnych opinii. Co do jednoznaczności terminów, wynikają one z treści przepisów rozporządzenia. Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689 i nie może modyfikować przepisów prawa UE 8 • Brak jednoznacznych kryteriów transparentności: Przepisy dotyczące transparentności algorytmów i oznaczania treści generowanych przez AI są niejasne. Firmy mogą mieć trudności z ustaleniem, jakie informacje muszą ujawniać, aby spełnić wymogi ustawy. • Nieprecyzyjne zasady dotyczące ochrony danych osobowych: Chociaż ustawa przewiduje ochronę danych osobowych, brak precyzyjnych definicji i procedur może prowadzić do niejednoznaczności w zakresie odpowiedzialności za naruszenia prywatności. • Brak szczegółowych wytycznych dla MŚP: Mikro, Małe i Średnie przedsiębiorstwa mogą mieć trudności z interpretacją przepisów dotyczących certyfikacji i zgodności, co może prowadzić do ich marginalizacji na rynku. Warto doprecyzować definicje i zapisy w ustawie, szczególnie te dotyczące transparentności algorytmów, oznaczania treści generowanych przez AI oraz ochrony danych osobowych. Można również wprowadzić wytyczne interpretacyjne, które pomogą w jednoznacznym stosowaniu przepisów. 9. Uwaga ogólna Prokuratoria Generalna Ze względu na zakładany w projekcie status Biura Komisji jako państwowej osoby prawnej (art. 5 ust. 1 projektu) i zakres kompetencji Komisji warto rozważyć, czy Biuro Komisji, po wejściu w życie projektowanej ustawy, nie powinno zostać wpisane na listę podmiotów zastępowanych przez Prokuratorię Generalną. Zgodnie z art. 12 ust. 3 ustawy o Prokuratorii Generalnej Rzeczypospolitej Polskiej listę takich podmiotów określa Prezes Rady Ministrów, w drodze rozporządzenia, mając na względzie m.in. przedmiot działalności osoby zastępowanej, znaczenie prowadzonej działalności dla interesów Rzeczypospolitej Polskiej, zapewnienie ochrony praw i interesów osób zastępowanych. Uwaga wyjaśniona Postulat zostanie uwzględniony poprzez zawnioskowanie o wpisanie Biura Komisji na listę podmiotów zastępowanych przez Prokuratorię Generalną 10. Uwaga ogólna ZPP Kluczowe wydaje się zapewnienie możliwie spójnej i jednolitej implementacji AI Act w poszczególnych państwach członkowskich. Cały koncept jednolitego rynku cyfrowego Uwaga uwzględniona 9 sprowadza się do stworzenia przestrzeni dla rozwoju europejskiej branży technologicznej pozbawionej niepotrzebnych sztucznych przeszkód, a także ustanowienia wspólnych ram prawnych, tak by działalność transgraniczna wpisana w naturę przedsiębiorstw cyfrowych, była możliwie najłatwiejsza. Mając to na uwadze, choć popieramy koncepcję powołania zupełnie nowego organu nadzoru nad AI w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, chcielibyśmy zwrócić uwagę na szeroki zakres jej uprawnień – potencjalnie wkraczający na pole kompetencji unijnej Rady ds. AI, co może prowadzić do fragmentaryzacji jednolitego rynku. Wątpliwości w tym zakresie dotyczą przede wszystkim możliwości wydawania indywidualnych i generalnych interpretacji w sytuacji, gdy wspomniana Rada jest umocowana właśnie do wydawania zaleceń i opinii nt. „wszystkich istotnych zagadnień związanych z wdrażaniem” AI Act. Tak sformatowane zakresy kompetencji nie muszą, ale z pewnością mogą prowadzić do kolizji, zwłaszcza jeśli inne państwa członkowskie podążą tą samą ścieżką i znaczna ich część zdecyduje się umożliwić krajowym organom wydawanie interpretacji czy zaleceń w obszarach objętych rozporządzeniem. Wydaje się, że z punktu widzenia zapewnienia jednolitości i spójności rynku, Komisja powinna być ciałem wykonawczym i ewentualnie punktem kontaktowym w zakresie wsparcia przedsiębiorców w obszarze np. wiedzy o utrwalonych i zatwierdzonych przez Radę ds. AI wzorcach czy praktykach. W celu uniknięcia potencjalnych niejasności komunikacyjno-interpretacyjnych odstąpiono od instytucji interpretacji indywidualnych i generalnych na rzecz w wyjaśnień i opinii indywidualnych. 11. Uwaga ogólna ZPP Pragniemy zwrócić uwagę na brak regulacji dotyczących tworzenia „piaskownic regulacyjnych” – w projekcie znajduje się wyłącznie ogólne zastrzeżenie, że podejmowanie działań mających na celu ich utworzenie jest jednym z zadań Komisji. Z uwagi na szczególną rolę sanboxów w regulacji AI Act, a także na ich potencjał do wspierania innowacji, wydaje się że przedstawiony projekt ustawy powinien bardziej szczegółowo i czytelnie odnosić się do ich tworzenia. Jak wynikałoby z uzasadnienia, będzie to przedmiotem dalszych prac legislacyjnych – natomiast wydaje się, że wsparcie dla rozwoju innowacji w zakresie AI jest co najmniej równie ważne, jak wprowadzenie mechanizmów kontrolnych. Z tego punktu Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 10 widzenia należy stwierdzić, że projekt ustawy pozostaje w powyższym zakresie niezbalansowany. 12. Uwaga ogólna dot. procesu kontroli Konfederacj a Lewiatan Cały proces kontroli powinien skupiać sie nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzytywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologi i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania szcztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na opertatora takich systemów. Uwaga wyjaśniona Postulat o charakterze ogólnym, zostanie wzięty pod uwagę podczas przygotowywania zmian w nowej wersji projektu. Dodatkowo, perspektywa MŚP jest podnoszona w ramach konsultacji aktów wykonawczychdzenia. publikowanych przez Komisję Europejską służących spójnemu stosowaniu przepisów rozporzą 13. Uwaga ogólna Pracodawcy RP W uzasadnieniu do projektu ustawy (pkt 2), wskazano, że powołanie nowej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest uzasadnione: 1) obserwowanym dotychczas zwiększaniem wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielania ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych; Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizacji w zakresie technologii sztucznej inteligencji. Powierzenie tych funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Jednocześnie, nowa Komisja będzie pełnić funkcje ciała eksperckiego i koordynacyjnego, w związku z czym istniejące organy nadzoru będą mogły współpracować z 11 2) potrzebą zapewnienia wykonywania nowych obowiązków w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli; 3) względami interesu sektora finansów publicznych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne punktu widzenia polskiego podatnika. Niemniej należy zwrócić uwagę, że w dużej mierze także po wejściu w życie nowej ustawy duża część obowiązków wynikających z Aktu o AI będzie realizowana nie tyle przez nowo utworzoną Komisję, ale właśnie przez UOKiK, UODO, UKE i inne dotychczas zaangażowane organy - nie tylko poprzez potrzebę oddelegowania odpowiednio kompetentnych przedstawicieli do Komisji, ale również w związku z koniecznością prowadzenia powiązanych postępowań wyjaśniających w razie naruszeń. W zaproponowanym modelu potencjalnie poddaje to w wątpliwość efektywność ekonomiczną i kosztową działalności Komisji, ponieważ z uzasadnienia wypływa wniosek, że duża ilość czynności będzie powielana przez różne podmioty w zależności od celów prowadzonego przez nie postępowania zamiast wykorzystywania efektów czynności wyjaśniających przeprowadzonych przez Komisję. Rozwiązaniem zidentyfikowanego problemu mogłoby być przekonstruowanie struktury kompetencji poszczególnych organów zaangażowanych w ochronę praw obywateli z uwzględnieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – w celu umożliwienia ich współpracy, a także wykorzystywania i wymiany informacji posiadanych przez te organy w zakresie wymaganym do osiągnięcia celów prowadzonych przez nie postępowań (korzystanie z materiałów Komisją w zakresie spraw dotyczących AI i leżących w ramach ich właściwości. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 12 z jednego postępowania w powiązanym z nim postępowaniu prowadzonym przez inny podmiot). Przysłuży się to optymalizacji kosztów działania państwa w ramach realizacji środków ochrony praw obywateli. Zwracamy uwagę na nieobecność w projektowanej ustawie wyodrębnionego segmentu dotyczącego zasad współpracy między organami na poziomie formalnym – poza dyskusjami międzyobszarowymi i działaniami opiniodawczymi. Niezależnie od powyższego, postulujemy dokonanie przeglądu działania przepisów projektowanej ustawy po upływie 12 albo 24 miesięcy od daty jej wejścia w życie w celu oceny jej skuteczności i ustalenia obszarów, w których potrzebna jest poprawa. 14. Uwaga ogólna Pracodawcy RP Zgodnie z Aktem o AI właściwy krajowy organ nadzoru nad systemami sztucznej inteligencji ma być organem niezależnym oraz wykonywać swoje uprawnienia w sposób bezstronny i wolny od uprzedzeń (vide OSR). Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) jednakże wynika, że nadzór nad działalnością Biura Komisji sprawować ma Prezes Rady Ministrów, który też nada mu, w formie zarządzenia, statut, a w skład Komisji mają wchodzić przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) ministra właściwego do spraw informatyzacji; 2) ministra powołanego do koordynowania działalności służb specjalnych, a w przypadku, gdy nie został wyznaczony – Kancelarii Prezesa Rady Ministrów; 3) Prezesa Urzędu Ochrony Danych Osobowych; 4) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 5) Komisji Nadzoru Finansowego; 6) Rzecznika Praw Obywatelskich; 7) Rzecznika Praw Dziecka; 8) Krajowej Rady Radiofonii i Telewizji; 9) Prezesa Urzędu Komunikacji Elektronicznej. Proponowana struktura Komisji, a także jej umiejscowienie w systemie organów władzy publicznej wskazuje, że postulowana przez Akt o AI bezstronność i niezależność Komisji może nie zostać zapewniona, z uwagi na podległość Prezesowi Radu Ministrów oraz uczestnictwo w Komisji dwóch ministrów. Statut Komisji powinien szczegółowo wskazywać w zakresie dot. jej funkcjonowania, że działa ona w sposób niezależny i Uwaga wyjaśniona. Postulat o charakterze ogólnym nieaktualny z uwagi na zmianę przepisów dotyczących organizacji Komisji oraz powoływania przewodniczącego a także organizacji nadzoru nad Biurem Komisji. 13 samodzielny, a jej podległość Prezesowi Rady Ministrów powinna mieć jedynie wymiar formalny i organizacyjny, z wyłączeniem wpływu na działalność merytoryczną Komisji. Procedury podejmowania decyzji przez Komisji nie powinny faworyzować przedstawicieli struktur rządowych. 15. Uwaga ogólna Pracodawcy RP Z dalszej części uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) wynika, że jako organ nadzoru rynku Komisja będzie rozpatrywała wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów AI wysokiego ryzyka, przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów AI oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Proponowana ustawa nie zawiera przepisów regulujących opisaną obok aktywność Komisji. Jako konieczne w naszej ocenie jest uzupełnienie ustawy o kompleksowy zespół norm w tym zakresie. Uwaga nieuwzględniona Obecny projekt ustawy realizuje wymagania związane ze stosowaniem rozporządzenia 2024/1689 od 2 sierpnia 2025 roku. Dodatkowe zadania Komisji zostaną przypisane na późniejszym etapie. 16. Uwaga ogólna Pracodawcy RP Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2): Do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję. Ustawa nie precyzuje jednak, w jakich kwestiach będzie wypowiadać się Rada, w szczególności od uznaniowej decyzji Komisji zależy, w jakich sprawach Rada będzie miała możliwość wyrażenia swojej opinii. Proponujemy uzupełnienie projektu ustawy (art. 30 ust. 1) o wyliczenie spraw o najistotniejszym znaczeniu dla rozwoju i bezpieczeństwa systemów AI, w odniesieniu do których Komisja jest zobowiązana do uzyskania opinii Rady. Uwaga nieuwzględniona Z uwagi na opiniodawczo-doradczy charakter Rady zasadny wydaje się pozostawienie szerokiego spektrum spraw w jakich mogą wydać opinię Komisji. 17. Uwaga ogólna PUODO Struktura nadzorcza rynku krajowego w obszarze stosowania aktu w sprawie sztucznej inteligencji powinna służyć interesom publicznym. Dlatego ważne jest uwzględnienie w projektowanym modelu nadzoru rynku celów, ról i uprawnień istniejących organów nadzorczych właściwych dla poszczególnych sektorów oraz horyzontalnych obszarów sprawowanego nadzoru. Uwaga nieuwzględniona Mając na wglądzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego 14 18. Uwaga ogólna PUODO Prawa podstawowe, których gwarancje ochrony wynikają z Karty praw podstawowych Unii Europejskiej (KPP UE) oraz Traktatu o funkcjonowaniu Unii Europejskiej (TFUE), podlegają szczególnemu nadzorowi w zakresie zastosowań sztucznej inteligencji. Jednym z tych praw jest prawo do ochrony danych osobowych, a jego przestrzeganie podlega kontroli niezależnego organu, co wynika nie tylko z art. 8 KPP UE oraz art. 16 TFUE, ale też wprost z art. 51 rozporządzenia 2016/679 oraz przepisów ustawy o ochronie danych osobowych, którym jest w polskim systemie prawa wyłącznie Prezes Urzędu Ochrony Danych Osobowych (dalej jako Prezes UODO). Projekt ustawy, kształtując nadzór nad systemami sztucznej inteligencji w Polsce, powinien uwzględniać szczególną pozycję organu nadzorczego do spraw ochrony danych osobowych, wynikającą zarówno z przepisów rozporządzenia 2024/1689, jak i rozporządzenia 2016/679. Uwaga nieuwzględniona Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego. W pozostałym zakresie projekt ustawy nie narusza uprawnień i kompetencji organu ochrony danych osobowych 19. Uwaga ogólna PUODO Brak wdrożenia art. 74 ust. 8 rozporządzenia 2024/1689 Projektowana ustawa nie odzwierciedla także kompetencji Prezesa Urzędu Ochrony Danych Osobowych wynikających wprost z aktu w sprawie sztucznej inteligencji, co rodzi obawy o zgodność projektu ustawy z przepisami rozporządzenia. Zgodnie z wyraźną dyspozycją art. 74 ust. 8 rozporządzenia 2024/1689 – w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia – państwa członkowskie jako organy nadzoru rynku do celów przedmiotowego rozporządzenia wyznaczają właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41–44 dyrektywy (UE) 2016/680. Z treści art. 74 ust. 8 rozporządzenia 2024/1689 wynika, że aby organ nadzorczy do spraw ochrony danych osobowych sprawował nadzór w odniesieniu do systemów w przepisie tym określonych wymagana jest decyzja Uwaga nieuwzględniona Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy. 15 ustawodawcy krajowego w tym zakresie. Rozporządzenie co prawda jest aktem obowiązującym bezpośrednio, o czym stanowi art. 288 TFUE, jednak w tym przypadku prawodawca unijny zdecydował, że stosowne działania powinno podjąć się na poziomie krajowym – formalnie wyznaczyć organ, a także ewentualnie uregulować inne kwestie proceduralne, które się z tym mogą wiązać. Ustawodawca krajowy jest zatem de iure związany ww. regulacją – nie może wyznaczyć innego organu niż organ wskazany w art. 74 ust. 8 rozporządzenia 2024/1689 w odniesieniu do wskazanych wyżej systemów AI wysokiego ryzyka. Jeżeli nie chce narazić się na zarzut nieprawidłowego wdrożenia przepisów unijnych, to musi takie działanie podjąć. Tymczasem w zakresie spraw, o których mowa w art. 74 ust. 8, projektodawca nakłada jedynie obowiązek współpracy Komisji z Prezesem UODO (art. 6 ust. 3 pkt 3 projektu), nie określając nawet jasnych i przejrzystych mechanizmów współpracy. W kontekście powyższego oraz wcześniejszych uwag zwrócić uwagę należy również na stanowisko Europejskiej Rady Ochrony Danych, wyrażone w wydanym w lipcu 2024 r. Oświadczeniu EROD 3/2024 w sprawie roli organów ochrony danych w ramach aktu w sprawie sztucznej inteligencji8. Najistotniejsze w tym kontekście jest zalecenie, aby organy ochrony danych zostały wyznaczone jako organy nadzoru rynku w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka wykorzystywanych do egzekwowania prawa, zarządzania granicami, sprawowania wymiaru sprawiedliwości i procesów demokratycznych, a zatem kwestii, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. EROD wskazała dodatkowo, że państwa członkowskie powinny rozważyć wyznaczenie organów ochrony danych jako organów nadzoru rynku również w odniesieniu do innych systemów sztucznej inteligencji wysokiego ryzyka, z uwzględnieniem opinii krajowego organu ochrony danych, w szczególności w przypadku gdy te systemy sztucznej inteligencji wysokiego ryzyka znajdują się w sektorach, które mogą mieć wpływ na prawa i wolności osób fizycznych w odniesieniu do przetwarzania danych osobowych. Organy ochrony danych, o ile zostały wyznaczone jako organy nadzoru rynku, powinny zostać 16 wyznaczone jako pojedyncze punkty kontaktowe dla społeczeństwa i ich odpowiedników na szczeblu państw członkowskich i UE. Podkreślono, że organy ochrony danych powinny odgrywać istotną rolę w egzekwowaniu aktu w sprawie sztucznej inteligencji, ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych. 20. Uwaga ogólna PUODO Ryzyko dualizmu rozstrzygnięć. Przepisy rozporządzenia 2016/679 dotyczą nadzoru nad sprawami z zakresu przetwarzania danych osobowych regulowanymi przepisami aktu w sprawie sztucznej inteligencji. Ochrona danych osobowych przetwarzanych przez systemy sztucznej inteligencji jest zatem materią, która podlega kompetencjom organu nadzorczego ds. ochrony danych na mocy rozporządzenia 2016/679. Już obecnie organy nadzorcze – w tym Prezes UODO – podejmują działania wobec operatorów systemów sztucznej inteligencji, którzy nie spełniają swoich obowiązków w procesach przetwarzania danych, w tym ochrony danych, jak np. w zakresie realizacji obowiązku informacyjnego wynikającego z art. 13 rozporządzenia 2016/679 w zakresie, w jakim wykorzystywane w uczeniu algorytmów są dane przekazywane przez użytkowników w ramach interakcji z usługami takimi, jak Chat GPT. Dlatego też – niezależnie od ostatecznego kształtu projektowanej ustawy – dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679, a przepisy rozporządzenia 2024/1689 wyraźnie to potwierdzają. W związku z tym, kolejnym istotnym zagadnieniem, do którego należy się odnieść, są te przepisy projektowanej ustawy, które dotyczą nakładania się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z aktu w sprawie sztucznej inteligencji. Żaden z tych aktów nie stanowi lex specialis wobec drugiego. Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji nie można zatem pomijać uprawnień Prezesa UODO i jego wiodącej roli w zakresie Uwaga nieuwzględniona Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu. 17 ochrony danych osobowych. W tym miejscu wskazać należy na wyrok TSUE w sprawie C-252/21 Meta Platforms, który dotyczy współpracy organu ochrony konkurencji z organem ds. ochrony danych w Niemczech. Trybunał wskazał na konieczność zapewnienia poszanowania kompetencji organu nadzorczego ds. ochrony danych w szerokim zakresie ochrony danych osobowych wraz z jego wyłączną kompetencją wykładni przepisów rozporządzenia 2016/679. Stanowisko Trybunału powinno być uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Organ nadzorczy ds. ochrony danych musi być uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych. Implikuje to, jak wyżej wskazano, potrzebę doprecyzowania warunków i form współpracy. 21. Uwaga ogólna Organ nadzoru KRRiT W projekcie organowi temu nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte w formie ustawy w Hiszpanii (Estrategia de Inteligencia Artificial 2024), a prace legislacyjne zmierzające w podobnym kierunku prowadzone są m.in. we Włoszech. W powyższym kontekście podtrzymuję jednak, że w Polsce funkcję organów nadzoru ww. rynku powinny pełnić obecnie istniejące organy, co wskazałem już w piśmie z dnia 18 kwietnia 2024 roku, znak: DS.071.25.1.2024 jako odpowiedź na prekonsultacje prowadzone przez Pański resort. Wynika to głównie z dotychczasowego doświadczenia, wykwalifikowanej kadry oraz merytorycznej znajomości zagadnień rynkowych, jakie posiadają już istniejące podmioty. Nie bez znaczenia jest również sfera ekonomiczna – rozszerzenie kompetencji już istniejących instytucji o nowe zadania wynikające z Aktu w sprawie sztucznej inteligencji ograniczyłoby znacznie wydatki, w przeciwieństwie do powołania i stworzenia nowych struktur. Istotna jest również wiedza merytoryczna, którą posiadają pracownicy już funkcjonujących na rynku podmiotów. Kapitał ludzki w odniesieniu do rozumienia mechanizmów sztucznej inteligencji jest wręcz podstawą udanej transformacji gospodarczej i społecznej. Szczególnie, że zakres tematyczny, który obejmuje unijne rozporządzenie, realizowany jest już przez Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizację w zakresie technologii sztucznej inteligencji. Powierzenie tej funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Kwestia zaangażowania kluczowych instytucji publicznych w spójny nadzór nad działaniem systemów AI ma być zapewniony poprzez kolegialną i różnorodną kompozycję składu. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 18 te podmioty. Ilustracją tego są choćby kompetencje KRRiT w odniesieniu do szeroko pojętej ochrony małoletnich, czy też kwestie związane z reklamą. Byłby to zatem bardziej ekonomiczny model, niemniej jednak, przyjmując wyniki prekonsultacji, poniżej odnoszę się do modelu wskazanego w obecnym projekcie ustawy. 22. Uwaga ogólna KRRiT Za pozytywne należy w nim uznać: • rozwiązanie zaproponowane w art. 7 ust. 2 pkt 8), zgodnie z którym jednym z członków Komisji będzie przedstawiciel Krajowej Rady Radiofonii i Telewizji. W kontekście bezpieczeństwa usług należy podkreślić potrzebę udziału wszystkich regulatorów rynku cyfrowego, do których kompetencji należy nadzór nad stosowanymi systemami zautomatyzowanego przetwarzania danych przy usługach cyfrowych, w tym przy usługach medialnych; • przyjęcie, że Komisja będzie mogła wszcząć postępowanie z urzędu, na podstawie skargi lub na wniosek organu, o którym mowa w art. 7 ust. 2 i 3 ustawy, tj. również na wniosek KRRiT. W ramach prowadzonego postępowania organ nadzoru będzie mógł prowadzić postępowanie dowodowe, do którego zastosowanie będą miały odpowiednio przepisy o kontroli określone w ustawie. W przypadku wydanej przez Komisję decyzji nie będzie możliwości odwołania w ramach procedury administracyjnej. Wyłączona jest także możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową poprzez złożenie skargi do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów; • zapewnienie, aby w zakresie sprawowania nadzoru nad systemami sztucznej inteligencji i wykonywania swoich zadań, Komisja była organem niezależnym, sprawującym nadzór nad rynkiem w sposób autonomiczny, a wszyscy członkowie Komisji Uwaga nieuwzględniona Wskazane funkcje KRRiT będzie mogła realizować za pośrednictwem przedstawiciela, który będzie członekiem Komisji. 19 byli równi, posiadając prawo uczestnictwa w posiedzeniach Komisji, uzyskiwania informacji, głosowania oraz podejmowania rozstrzygnięć. Ponadto, w celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych. Krajowa Rada Radiofonii i Telewizji jest praktykiem w zakresie nadzoru nad mediami elektronicznymi. Do zadań KRRiT należy, między innymi: ochrona pluralizmu w przekazie informacyjnym i publicystycznym, identyfikacja i monitorowanie treści dostawców, ochrona odbiorców, zwłaszcza małoletnich, przed mową nienawiści, pornografią, nieuzasadnioną przemocą oraz ochrona wszystkich odbiorców w odniesieniu do aspektów związanych z porządkiem publicznym, zdrowiem i bezpieczeństwem konsumentów. W związku z powyższym Krajowa Rada Radiofonii i Telewizji powinna zostać ustanowiona jako organ odpowiedzialny za kontrolę i regulację treści wytwarzanych przez systemy sztucznej inteligencji w zakresie usług audiowizualnych. Należy przy tym rozważyć rozszerzenie ustawowych kompetencji KRRiT o narzędzia pozwalające na ochronę wizerunku osób publicznych oraz zwalczanie takich zjawisk jak Deep Fake w mediach elektronicznych czy też wykorzystywanie systemów sztucznej inteligencji do manipulacji zachowaniem ludzi za pośrednictwem mediów lub platform internetowych. Należy wskazać, że włączenie Krajowej Rady Radiofonii i Telewizji do grupy organów nadzorczych, z którymi współpracuje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (przepis art. 6 ust. 3 projektowanej ustawy) jest nieodzowne do ustanowienia takich ram zarządzania, które umożliwią koordynację i właściwe stosowanie unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Unijne rozporządzenie obejmuje swoim zakresem szereg problemów związanych z możliwością realizacji swobody wypowiedzi, prawa do informacji oraz wolnością formowania i wyrażania opinii. Dostarcza środków do zwalczania 20 dezinformacji, dyskryminacji w sferze informacyjnej i mowy nienawiści w kontekście funkcjonowania systemów sztucznej inteligencji ogólnego przeznaczenia. Zwiększa także ochronę grup szczególnie wrażliwych, w tym osób małoletnich przed treściami szkodliwymi, między innymi, poprzez obowiązki przejrzystości i rozliczalności w zakresie procesu trenowania i testowania modeli sztucznej inteligencji ogólnego przeznaczenia i modeli sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym. Z perspektywy ochrony tych praw i wartości, postuluję rozszerzenie zadań Krajowej Rady Radiofonii i Telewizji, w szczególności w odniesieniu do następujących przepisów Aktu w sprawie sztucznej inteligencji: 1. Rozdział V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo-dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; 2. Rozdział VI Środki wspierające innowacyjność: art. 57 (piaskownice regulacyjne w zakresie AI) w szczególności w zakresie identyfikacji ryzyka dla praw podstawowych (w tym swobody wypowiedzi, prawa do 21 informacji, ochrony przez dyskryminacją, ochrony praw dziecka), oraz wspierania testowania środków ograniczających ryzyko i weryfikacji skuteczności tych środków; 3. Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. 23. Uwaga ogólna KRRiT należy rozważyć, czy prowadzenie postępowania administracyjnego i wydawanie decyzji przez organ składający się łącznie z 12 członków nie będzie prowadzić do paraliżu decyzyjnego Uwaga nieuwzględniona Model kolegialnych organów nadzoru jest funkcjonuje w systemie polskiego prawa nie powodując paraliżu decyzyjnego. 24. Uwaga ogólna Rada Legislacyjna [Brak przesądzenia w Projekcie o związaniu Komisji aktami soft law wydawanymi przez Komisję Europejską] Przy okazji omawiania w tym miejscu niniejszej opinii skutków prawnych aktów podejmowanych przez Komisję (w tym aktów o charakterze interpretacyjnym) warto jest zgłosić postulat de lege ferenda o przesądzeniu w Projekcie, że Komisja jest w ramach wydawanych przez siebie aktów indywidualnych lub generalnych obowiązana uwzględniać akty prawa miękkiego wydawane przez Komisję Europejską na podstawie Rozporządzenia UE 2024/1689, w tym wytyczne wydawane przez Komisję Europejską na podstawie art. 96 Rozporządzenia UE 2024/1689. O takim obowiązku uwzględniania przez polski organ regulacyjny wytycznych i zaleceń Komisji Europejskiej jest chociażby mowa w art. 4 ust. 1 ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej18 w odniesieniu do Prezesa Urzędu Komunikacji Elektronicznej. Podobne rozwiązanie prawne występuje na gruncie obowiązującej jeszcze przez najbliższe dni ustawy z dnia 16 lipca 2004 r. Prawo telekomunikacyjne19 (ustawa ta zostanie uchylona z dniem 10 listopada 2024 r. i zostanie zastąpiona powołaną ustawą Prawo komunikacji elektronicznej20), przy czym tego rodzaju rozwiązanie prawne jest w doktrynie oceniane jako udana próba włączenia do polskiego porządku prawnego (poprzez ustawę) aktów unijnego soft law, co zapobiega wątpliwościom odnośnie Uwaga uwzględniona Dokonano zmian w art. 11. 22 skutków tych unijnych aktów prawnych dla polskiej administracji publicznej. Tytuł ustawy 25. Tytuł ustawy BGK Propozycja o funkcjonowaniu nadzoru nad systemami sztucznej inteligencji albo o nadzorze nad rynkiem systemów sztucznej inteligencji Projekt ustawy definiuje sposób sprawowania nadzoru nad systemami sztucznej inteligencji oraz funkcjonowania organów nadzoru. Nie zawiera zapisów dotyczących innych aspektów funkcjonowania systemów AI. Tytuł może być mylący dla odbiorców regulacji Analogicznie jak przy ustawach “o nadzorze nad rynkiem finansowym” czy “o nadzorze nad rynkiem kapitałowym” Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 26. Tytuł projektu UKNF Urząd Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) proponuje rozważenie zmiany tytułu projektu na „ustawę o nadzorze nad rynkiem systemów sztucznej inteligencji”. W ocenie UKNF taka zmiana spowoduje, że tytuł ustawy będzie lepiej odzwierciedlał przedmiot tej regulacji. Co do zasady, projekt ustawy nie definiuje ani nie kategoryzuje rynku systemów sztucznej inteligencji (dalej również jako: „systemy AI”), ani obowiązków jego uczestników. Celem projektowanej ustawy – w jej aktualnym kształcie - jest stworzenie ram prawnych dla sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce. Tym samym nazwa „ustawa o systemach sztucznej inteligencji” jawić się może jako legislacyjnie nieprecyzyjna. Niezależnie od powyższej uwagi zasadnym wydaje się uporządkowanie siatki pojęciowej – przykładowo: art. 1 pkt 1 „nadzoru nad rynkiem systemów sztucznej inteligencji”, tytuł rozdziału 2 „nadzoru nad sztuczną inteligencją”, art. 5 ust. 4 pkt 1 – „nadzoru nad rynkiem” i in. Do rozważenia jest też uproszczenie nazwy organu właściwego – np. „Komisja ds. Sztucznej Inteligencji” z możliwością posługiwania się czytelnym skrótem „KSI”. Odpowiadałaby to także nazwie organu Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 23 opiniodawczo-doradczego – tzn. Rady ds. Sztucznej Inteligencji, o której mowa w art. 28 projektu. 27. Odnośnik Rada Legislacyjna [Usterka redakcyjna w odnośniku nr 2 Projektu] Odnośnik nr 2 Projektu wymieniający ustawy nowelizowane przez Projekt zawiera usterkę redakcyjną, polegającą na pominięciu wyrazu: „państwowym” w tytule nowelizowanej ustawy z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem państwowym10 (obecnie wymieniono w odnośniku 2 Projektu: „ustawę z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem.”). Usterka ta wymaga oczywiście naprawienia. Uwaga uwzględniona poprzez dodanie wspominanego terminu. Rozdział 1 Przepisy ogólne (art. 1 – art. 4) 28. Art. 1 pkt 6 PFR Projekt Ustawy w aktualnym kształcie nie określa rodzajów działań wspierających rozwój systemów sztucznej inteligencji. Jedynie w ramach projektowanego art.11 jako jedno z zadań Komisji wskazano „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. Proponujemy w miarę możliwości doprecyzowanie Ustawy w tym zakresie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 29. Art. 1 pkt 6 IAB Polska Ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. W Projekcie ten obszar nie został w szczególny sposób podjęty poza art. 11 ust. 1 pkt 3 i art. 12 ust. 2 Projektu. Tym samym rekomendujemy przedstawienie planów Ministerstwa (np. informację o innych aktach prawnych lub nowelizacjach) na zwiększenie istotności Komisji w rozwój AI w Polsce, w tym w zakresie wykorzystania narzędzi przewidzianych w Projekcie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 30. Art. 2 PFR Proponujemy nadać następujące brzmienie: „Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.” Uwaga uwzględniona 31. Art. 2 Konfederacj a Lewiatan Projekt (art. 2 ust. 1) bazuje na zakresie podmiotowym określonym w rozporządzeniu. Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości Uwaga częściowo uwzględniona Projekt zawiera nowe brzmienie treści art. 2 ust. 1 i art. 4. 24 wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole oraz postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie rozporządzenia (AI Act) globalnie, istotne będzie zatem przesądzenie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Proponowany ust. 2 wydaje się być zbędny, biorąc pod uwagę zakres regulacji na poziomie rozporządzenia, który obejmuje również modele AI ogólnego przeznaczenia. Jeśli jednak za wprowadzeniem tego przepisu stoją określone cele, powinny zostać one wyjaśnione w uzasadnieniu do ustawy. Przedłożony projekt przenosi zawiera odesłania do wybranych zakresów stosowania (zob. art. 2 i 4 projektu), pomijając wiele innych wyłączeń zawartych w art. 2 AI Act. Nie jest przy tym jasne, jaki był klucz doboru polskiego projektodawcy. Uważamy, że należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo uczynić to w sposób wyczerpujący, a zatem uwzględniający całą treść przywołanego przepisu. Dodatkowo, w art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi o obywateli - czy do nich też stosuje się tę ustawę? Czy celem 25 ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowana AI? 32. Art. 2 Pracodawcy RP Różne organy nadzorcze z państw członkowskich mogą jednocześnie stosować regulacje wobec tego samego przedsiębiorstwa. Artykuł 2 ustawy, dotyczący zakresu podmiotowego, może prowadzić do niejasności w interpretacji kompetencji Komisji w odniesieniu do podmiotów zagranicznych. Należy dokładnie określić, wobec których jednostek międzynarodowych grup kapitałowych Komisji będzie podejmować działania. Aby uniknąć problemów interpretacyjnych, proponujemy precyzyjne zdefiniowanie zakresu stosowania przepisów, szczególnie wobec zagranicznych przedsiębiorstw posiadających oddziały lub spółki zależne w Polsce. W ten sposób międzynarodowe firmy zyskają klarowność regulacyjną i stabilne warunki inwestycyjne w Polsce. Uwaga nieuwzględniona Zapewnienie spójności stosowania rozporządzenia zapewnić mają upoważnione lub powołane na podstawie jego przepisów organy unijne (Komisja Europejska) i reprezentujące państwa członkowskie (Europejska Rada ds. AI). 33. Art. 2 ust. 1 KRRiT w art. 2 ust. 1 po wyrazach „stosuje się” należy dodać wyraz „do” Uwaga uwzględniona 34. Art. 2 ust. 1 IAB Polska Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Projekt ustawy opiera się na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Może to jednak rodzić problemy w kontekście stosowania przepisów przez polski organ nadzorczy, ponieważ skutki regulacji oraz decyzji krajowego organu mogą mieć wpływ transgraniczny. W związku z tym pojawiają się wątpliwości co do rzeczywistego zakresu kompetencji polskiego organu nadzorczego, zwłaszcza wobec zagranicznych przedsiębiorców, którzy mogą być jednocześnie kontrolowani przez organy nadzoru z różnych państw członkowskich UE. Kwestią sporną jest możliwość podejmowania przez polski organ działań wobec przedsiębiorstw z siedzibą w innych krajach członkowskich lub państwach trzecich, szczególnie gdy na terytorium Polski działają lokalne spółki zależne lub oddziały tych przedsiębiorstw. W przypadku, gdy dany przedsiębiorca prowadzi działalność związaną z AI Act na poziomie globalnym, Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 2 ust. 1. Należy zaznaczyć, że kategoria “osób znajdujących się w Unii” ma szersze znaczenie niż “obywateli państw UE”, co znajduje odzwierciedlenie w przepisach projektu. Należy również wskazać, że ustawa umożliwia m.in. złożenie skargi na działanie systemu AI, a więc w zakresie podmiotowym oddziałuje także na podmioty nie będące dostawcami, dystrybutorami, importerami czy podmiotami stosującymi systemy i modele AI. 26 kluczowym wyzwaniem będzie określenie, w stosunku do którego podmiotu międzynarodowej grupy kapitałowej polski organ powinien podjąć działania. W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi w tym przypadku o obywateli. W związku z tym należy ocenić (i ewentualnie odpowiednio zmodyfikować wskazany przepis projektu), czy także i do nich ustawa ma być stosowana czy jednak celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI, a nie tych, którzy są \"obiektami\" stosowana AI. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 35. Art. 2 ust. 2 IAB Polska O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała Uwaga uwzględniona Dodano w art. 3 definicję “modelu sztucznej inteligencji ogólnego przeznaczenia”. 27 określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 36. Art. 2 ust. 2 Rada Legislacyjna [Brak odesłania w art. 2 ust. 2 Projektu do definicji legalnej w art. 3 pkt 63 Rozporządzenia UE 2024/1689] W przepisie art. 2 ust. 2 Projektu brak jest potrzebnego tam odesłania do przepisu art. 3 pkt 63 Rozporządzenia 2024/1689 zawierającego legalną definicję pojęcia „model AI ogólnego przeznaczenia”. Art. 2 ust. 2 Projektu stanowi, że „O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.”. Pojęcie „modelu sztucznej inteligencji ogólnego przeznaczenia” nie jest legalnie zdefiniowane w Projekcie (zob. art. 3 Projektu zawierający słowniczek wyrażeń ustawowych), natomiast ma ono swoją legalną definicję w art. 3 pkt 63 Rozporządzenia UE 2024/1689. W odniesieniu do wielu innych pojęć występujących w Projekcie i mających swoje legalne definicje w Rozporządzeniu UE 2024/1689, w przepisach Projektu ma miejsce prawidłowy zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie (zob. art. 3 pkt 1-17 Projektu). De lege ferenda identyczny zabieg należy zastosować w art. 2 ust. 2 Projektu, tak aby zachować w Projekcie spójność i konsekwencję w stosowaniu tej legislacyjnej praktyki i aby nie pozostawiać kluczowego pojęcia Projektu bez legalnej definicji, a konkretnie bez definicji przez odesłanie. Uwaga uwzględniona. W art. 3 pkt 17 projektu dodano definicję modelu sztucznej inteligencji ogólnego przeznaczenia przez odesłanie do art. 3 pkt 63 rozporządzenia 2024/1689. 37. Art. 3 PUODO Zwrócić uwagę należy także na art. 3 projektu ustawy, w której znajduje się słownik definicji legalnych. W ocenie Prezesa UODO jest on zbędny i sprzeczny z zasadami techniki prawodawczej. Ustawa nie nadaje nowego brzmienia tym definicjom, natomiast wprost odsyła do treści aktu w sprawie sztucznej inteligencji, które do przepisy i tak będą stosowane bezpośrednio – powtarzanie ich w treści ustawy może wręcz rodzić wątpliwości pod kątem zakazu powtarzania przepisów Uwaga wyjaśniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 28 rozporządzeń UE w prawie krajowym, jeżeli samo rozporządzenie tego nie przewiduje. 38. Art. 3 PFR Skoro w art. 2 Ustawy przywołano pojęcie „modeli sztucznej inteligencji ogólnego przeznaczenia”, wydaje się, że to pojęcie również powinno być wskazane w projektowanym art. 3 Ustawy. Prosimy o rozważenia usunięcia definicji pojęcia \"wprowadzenie do obrotu\", które to pojęcie nie pojawia się w dalszej części projektu Ustawy. Uwaga uwzględniona Zmiany w zakresie wprowadzenia nowego terminu - „modeli sztucznej inteligencji ogólnego przeznaczenia”. 39. Art. 3 IZB Polska Lektura artykułu nie jest łatwa ze względu na liczne odwołania do AI Act, które i tak wymagają zapoznania się z treścią definicji legalnych zawartych w AI Act. Przepis ten można uprościć np. bezpośrednio odwołując się do słowniczka AI Act, zamiast pojedynczego wskazywania pojęć w art. 3 Projektu. Dzięki temu treść ustawy będzie przystępniejsza. (dot. art. 3 pkt 15, tj. definicji piaskownic regulacyjnych) Zgodnie z uzasadnieniem projektu ustawy: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)\". Faktycznie, Projekt do piaskownic się nie odnosi. Czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Ministerstwo wskazało także, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 40. Art. 3 Konfederacj a Lewiatan Powinniśmy się jednorazowo odnieść do definicji - w jednym zdaniu, które wskazywałoby, że użyte w ustawie pojęcia mają to samo znaczenie, co w rozporządzeniu. W obecnej formie przepis nie wnosi wartości dodanej, a jedynie wydłuża ustawę. Zwiększy to czytelność i zrozumiałość tekstu ustawy. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 29 41. Art. 3 pkt 8 UKNF Projekt nie wskazuje krajowego organu notyfikującego, o którym mowa w art. 3 pkt 19 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), dalej: „rozporządzenie 2024/1689”. Z uzasadnienia projektu ustawy wynika, że organem notyfikującym w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689 będzie Minister właściwy do spraw informatyzacji. W ocenie UKNF projekt ustawy w rozdziale 6 powinien w sposób jednoznaczny przesądzić tę kwestię. Ponadto przyjętą w art. 3 pkt 8) definicją „organu notyfikującego” nie posłużono się ani razu w treści projektu. Uwaga uwzględniona Nadano nowe brzmienie art. 64 projektu wskazującego organ notyfikujący. 42. Art. 3 pkt 15 Konfederacj a Lewiatan Zgodnie z uzasadnieniem projektu ustawt: „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" Faktycznie, projekt ustaw do piaskownic się nie odnosi - czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane, bowiem niżej wskazano, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga uwzględniona W projekcie dodano rozdział 8 - Środki wspierające innowacyjność - regulujący zagadnienie piaskownic regulacyjnych. 43. Art. 4 BGK Dodanie pkt 4: 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 ustawy o systemach sztucznej inteligencji nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: Uwaga uwzględniona Uzupełniono projekt o wspomniane obszary wyłączenia poprzez zawarcie nowego brzmienia art. 2 i 4 (rozróżniającego wyłączenia podmiotowe i przedmiotowe). 30 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. 44. Art. 4 IAB Polska Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: “3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.)), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z uwag innych podmiotów. 45. Art. 4 Konfederacj a Lewiatan W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: „3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. Uwaga uwzględniona 31 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uzasadnienie: Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? Ponadto, zwracamy uwagę na błędnie napisane wyłączenie zawarte w obecnym projekcie w art. 4 pkt 3. Wyłączenie to może mieć podstawowe znaczenie dla przemysłu kreatywnego: skoro „czysto naukowe” systemy AI pozostaną poza zakresem stosowania AIA, tym samym pozostaną one poza całym szeregiem obowiązków wynikających z Rozporządzenia (zwłaszcza obowiązku przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI). Proponowany przepis stanowi, iż ustawy „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (...)”. Ten przepis ma być odpowiednikiem art. 2 ustęp 6 AIA („niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”). Poczynione odesłanie do zawartej w Prawie o szkolnictwie wyższym definicji „podstawowych badań naukowych” jest błędne, ponieważ jako takie rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z tejże uwagi, jak również uwag innych podmiotów. 32 wprost koliduje z tą częścią art. 2 ust. 6 AIA, która wyraźnie wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie, bardzo ważne jest wyeksponowanie wyłączeniu, iż ogranicza się ono do tych systemów lub modeli AI, które powstały w wyłącznym celu badań naukowych i rozwojowych. Obawiamy się, iż właśnie to wyłączenie może być w przyszłości przedmiotem nadużyć, kiedy to zaprogramowane dla celów naukowych - a zatem poza zakresem AIA - algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. Uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. 46. Art. 4 ust. 3 PFR Proponujemy nadać następujące brzmienie: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2023 r. poz. 742, z późn. zm. 1) ), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Uwaga uwzględniona Poprawiono tytuł przywołanej ustawy zgodnie z treścią uwagi. 47. Art. 4 ust. 3 PUODO Podobnie art. 4 pkt 3 projektu ustawy należałoby doprecyzować w zakresie wprowadzonego w nim wyłączenia stosowania ustawy zgodnie z art. 2 pkt 6 aktu w sprawie sztucznej inteligencji, w którym użyto sformułowania „wyłącznie” do celów badań naukowych. Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 33 48. Art. 4 pkt 3 Rada Legislacyjna [Nieprawidłowe wyłączenie w art. 4 pkt 3 Projektu] Art. 4 pkt 3 Projektu, wyłączający pewne materie z zakresu zastosowania Projektu, jest zarówno niespójny z innymi przepisami prawa polskiego, jak też jest niezgodny z Rozporządzeniem UE 2024/1689. Art. 4 pkt 3 Projektu stanowi co następuje: „Ustawy nie stosuje się do [...] podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. W pierwszym rzędzie powołany przepis art. 4 pkt 3 Projektu jest niespójny treściowo z przepisem art. 4 ust. 2 powołanej w nim ustawy Prawo o szkolnictwie wyższym i nauce (nawiasem mówiąc, przepis art. 4 pkt 3 Projektu przytacza tytuł tej ostatniej ustawy w niepełnym brzmieniu). Art. 4 pkt 3 Projektu posługuje się sformułowaniem: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”, podczas gdy w tym ostatnim przepisie (tzn. w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce) bynajmniej nie ma mowy o badaniach naukowych podstawowych, lecz znajduje się tam legalna definicja badań naukowych aplikacyjnych. Natomiast legalna definicja pojęcia „badań naukowych podstawowych” znajduje się nie w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce, ale w art. 4 ust. 2 pkt 1 tej ostatniej ustawy. Co może istotniejsze, całe to wyłączenie zamieszczone w art. 4 pkt 3 Projektu jest ewidentnie niezgodne z przepisami art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. Przepisy art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 rzeczywiście wyłączają stosowanie Rozporządzenia UE 2024/1689 do pewnych stanów faktycznych związanych z działalnością badawczą (i inną), z tym wszakże zastrzeżeniem, iż zakres wyłączeń zawartych w art. 2 ust. 6 i Rozporządzenia UE 2024/1689 jest w pewnych kwestiach szerszy niż wyłączenie przewidziane w art. 4 pkt 3 Projektu (i w tym zakresie Projekt zawiera nadmiarowe i prawdopodobnie zbędne regulacje), zaś w pewnych kwestiach Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 34 wyłączenia z art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są zdecydowanie węższe zakresowo niż wyłączenie przewidziane w art. 4 pkt 3 Projektu, co stanowi przejaw niedopuszczalnej niezgodności krajowej regulacji prawnej z prawem UE. I tak, o ile przepis art. 4 pkt 3 Projektu zawiera generalne (frontalne) wyłączenie stosowania Projektu do podstawowych badań naukowych oraz dla celów naukowych w związku z eksperymentem określonym w Kodeksie karnym, o tyle wyłączenia przewidziane w przepisach art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są znacznie bardziej zniuansowane. Art. 2 ust. 6 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Przepis ten normuje wyłączenie dotyczące takich systemów sztucznej inteligencji lub modeli sztucznej inteligencji, które już są efektywnie rozwinięte i zostały faktycznie oddane do użytku: w tym zakresie wyłączenie dotyczy systemów i modeli AI służących wyłącznie badaniom naukowym lub też służących wyłącznie badaniom rozwojowym (w Polsce pojęcie „prac rozwojowych” jest zdefiniowane w art. 4 ust. 3 ustawy Prawo o szkolnictwie wyższym i nauce, zaś przepis art. 4 pkt 3 Projektu pojęciem tym w ogóle się nie posługuje). Z powyższego wynika, że w porównaniu z przepisem art. 2 ust. 6 Rozporządzenia 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (w zakresie, w jakim art. 4 pkt 3 Projektu wyłącza z zakresu zastosowania Projektu całą działalność dotyczącą badań podstawowych, w tym działalność na etapie prac nad systemem lub modelem AI przed ich oddaniem do użytku, podczas gdy wyłączenie z art. 2 ust. 6 Rozporządzenia UE 2024/1689 dotyczy tylko tych systemów i modeli AI, które już zostały rozwinięte i oddane do użytku, a nie dotyczy działalności w zakresie systemów AI i modeli AI, nad którymi prace jeszcze trwają), albo też za wąskie (w zakresie, w jakim art. 4 pkt 3 Projektu nie wyłącza z zakresu zastosowania Projektu działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych, które są z kolei objęte derogacją z art. 2 ust. 6 Rozporządzenia UE 2024/1689). Natomiast art. 2 ust. 8 35 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. Również porównanie tego ostatniego przepisu z przepisem art. 4 pkt 3 Projektu prowadzi do konkluzji, że w świetle przepisu art. 2 ust. 8 Rozporządzenia UE 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (bo wyłączenie z art. 4 pkt 3 Projektu dotyczy całej działalności w zakresie badań naukowych podstawowych lub dla celów naukowych w związku z eksperymentem w rozumieniu Kodeksu karnego, podczas gdy wyłączenie z art. 2 ust. 8 Rozporządzenia UE 2024/1689 dotyczy tylko tej działalności dotyczącej systemów AI lub modeli AI, która ma miejsce przed ich wprowadzeniem do obrotu lub oddaniem do użytku), albo też za wąskie (w zakresie, w jakim wyłączenie z art. 4 pkt 3 Projektu nie dotyczy w ogóle działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych i testowych). W tym kontekście trzeba przypomnieć, że zgodnie z orzecznictwem TSUE oraz istotą prawną rozporządzeń unijnych jako aktów mających jednolite zastosowanie we wszystkich państwach członkowskich (zob. art. 288 Traktatu o funkcjonowaniu Unii Europejskiej), prawodawca krajowy nie może zawężać (ograniczać) zakresu zastosowania rozporządzenia unijnego w porównaniu z zakresem określonym w samym tym rozporządzeniu.11 W związku z powyższym – kierując się dążeniem do tego, aby nie ograniczać na szczeblu krajowym zakresu zastosowania Rozporządzenia UE 2024/1689, a jednocześnie chcąc uniknąć nadmiarowych (zbędnych) regulacji w prawie polskim – Rada Legislacyjna zdecydowanie rekomenduje treściowe dostosowanie wyłączenia przewidzianego w art. 4 pkt 3 Projektu do kształtu i zakresu wyłączenia przewidzianego w tym względzie w art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. 36 49. Art. 4 ust. 3 URPLWM iPB Zgodnie z art. 4 pkt 3 projektowanej ustawy „Ustawy nie stosuje się do (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Jak wynika z uzasadnienia projektowanej ustawy „Z zakresu stosowania rozporządzenia 2024/1689 i ustawy zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2024 r. poz. 1370). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów projektu wyłączone mają być również sprawy będące w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 5 ust. 1 pkt 1 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812 i 1222), podstawowe badania naukowe, o których mowa w art. 4. ust. 2. pkt. 2 ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm,), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie z motywem 25 preambuły do rozporządzenia 2024/1689: Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 37 „Niniejsze rozporządzenie powinno wspierać innowacje, szanować wolność nauki i nie powinno osłabiać działalności badawczo-rozwojowej. Należy zatem wyłączyć z jego zakresu stosowania systemy i modele AI rozwinięte i oddane do użytku wyłącznie do celów badań naukowych i rozwojowych. Ponadto należy zapewnić, aby niniejsze rozporządzenie nie wpływało w żaden inny sposób na działalność badawczo-rozwojową dotyczącą systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku. Przepisów niniejszego rozporządzenia nie powinno się również stosować do zorientowanej na produkty działalności badawczej, testowej i rozwojowej dotyczącej systemów lub modeli AI przed oddaniem tych systemów i modeli do użytku lub wprowadzaniem ich do obrotu. Wyłączenie to pozostaje to bez uszczerbku dla obowiązku zapewnienia zgodności z niniejszym rozporządzeniem, gdy system AI objęty zakresem stosowania niniejszego rozporządzenia jest wprowadzany do obrotu lub oddawany do użytku w wyniku takiej działalności badawczo- rozwojowej, oraz dla stosowania przepisów dotyczących piaskownic regulacyjnych w zakresie AI i testów w warunkach rzeczywistych. Ponadto bez uszczerbku dla wyłączenia systemów AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych, wszelkie inne systemy AI, które mogą być wykorzystywane do prowadzenia wszelkiej działalności badawczo-rozwojowej, powinny podlegać przepisom niniejszego rozporządzenia. W każdym przypadku wszelka działalność badawczo-rozwojowa powinna być prowadzona zgodnie z uznanymi normami etycznymi i zawodowymi dotyczącymi badań naukowych oraz zgodnie z mającym zastosowanie prawem Unii.”. Przechodząc do wątpliwości w zakresie proponowanego przepisu art. 4 pkt 3 projektu ustawy, należy stwierdzić, co następuje. Po pierwsze, wątpliwości budzi prawidłowość sformułowania brzmienia przepisu poprzez odesłanie w nim do eksperymentu, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny, zwanej dalej „Kodeksem karnym”. Zgodnie bowiem z ww. przepisem Kodeksu Karnego: „§ 1. Nie popełnia przestępstwa, kto działa w celu przeprowadzenia eksperymentu poznawczego, medycznego, 38 technicznego lub ekonomicznego, jeżeli spodziewana korzyść ma istotne znaczenie poznawcze, medyczne lub gospodarcze, a oczekiwanie jej osiągnięcia, celowość oraz sposób przeprowadzenia eksperymentu są zasadne w świetle aktualnego stanu wiedzy. § 2. Eksperyment jest niedopuszczalny bez zgody uczestnika, na którym jest przeprowadzany, należycie poinformowanego o spodziewanych korzyściach i grożących mu ujemnych skutkach oraz prawdopodobieństwie ich powstania, jak również o możliwości odstąpienia od udziału w eksperymencie na każdym jego etapie. § 3. Zasady i warunki dopuszczalności eksperymentu medycznego określa ustawa.”. Przepis art. 27 Kodeksu karnego określa podstawy wyłączenia bezprawności czynu polegającego na prowadzeniu eksperymentu (§ 1) i warunek wyłączający dopuszczalność eksperymentu (§ 2) oraz odsyła do ustawy szczególnej określającej zasady i warunki dopuszczalności eksperymentu medycznego (§ 3). Na wstępie należy zauważyć, że już określenie zakresu zastosowania projektowanej ustawy poprzez odesłanie do regulacji zawartej w Kodeksie karnym – określającej zarówno kontratyp wyłączający odpowiedzialność karną w przypadku eksperymentu (czyli warunki określające kiedy eksperyment jest dopuszczalny), ale także z drugiej strony także okoliczności wskazujące na uznanie eksperymentu za niedopuszczalny, powoduje brak możliwości ustalenia, do którego z przepisów art. 27 Kodeksu karnego projektodawca chciał rzeczywiście odesłać w art. 4 pkt 3 projektu ustawy (w szczególności – czy chciał odesłać także do eksperymentu niedopuszczalnego w świetle art. 27 § 2 Kodeksu karnego). Kwestia ta wymaga ponownej analizy i ewentualnej korekty albo – co najmniej – wyjaśnienia w treści uzasadnienia dołączonego do projektu ustawy. Po drugie, wątpliwości w użytym przepisie budzi posłużenie się sformułowaniem „dla celów naukowych”, skoro zarówno przepis art. 2 ust. 6 rozporządzenia 2024/1689, jak i motyw 25 preambuły do ww. rozporządzenia stanowią o modelach i systemach używanych w celach badań naukowych i rozwojowych, jak i o używaniu tych modeli lub systemów w 39 działalności badawczej, testowej i rozwojowej. Użyte zatem określenie „w celach naukowych” wydaje się zbyt wąskie. Po trzecie natomiast należy zauważyć, że przepis art. 4 pkt 3 projektu ustawy w proponowanym brzmieniu nie odnosi się do kwestii szczegółowo opisanej w motywie 25 preambuły do rozporządzenia 2024/1689, tj. do opisanego w nim rozróżnienia dwóch sytuacji – pierwszej, kiedy modele lub systemy AI są oddane do użytku wyłącznie do celów badań naukowych lub rozwojowych (i wówczas ww. akty prawne dot. AI nie powinny dotyczyć systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku) i drugiej, kiedy systemy lub modele – mimo że używane w badaniu naukowym lub rozwojowym – były już wcześniej oddane do użytku, czy wprowadzone do obrotu (i wówczas powinny już zostać objęte regulacją rozporządzenia 2024/1689 i projektowanej ustawy). Mając powyższe na uwadze, kwestionowany przepis wymaga odpowiedniej modyfikacji. Dodatkowo należy zauważyć, że ustawą, o której mowa w art. 27 § 3 Kodeksu Karnego, jest co do zasady ustawa z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty, która w rozdziale 4 reguluje kwestie dotyczące eksperymentu medycznego. Zgodnie z art. 29a ust. 1 ustawy z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty przepisy rozdziału 4 ustawy nie naruszają przepisów innych ustaw określających odmienne zasady i tryb przeprowadzania badań klinicznych lub badań genetycznych. Zgodnie natomiast z art. 29b tej ustawy „Do eksperymentu medycznego będącego jednocześnie badaniem klinicznym w rozumieniu art. 2 ust. 2 pkt 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 536/2014 z dnia 16 kwietnia 2014 r. w sprawie badań klinicznych produktów leczniczych stosowanych u ludzi oraz uchylenia dyrektywy 2001/20/WE (Dz. Urz. UE L 158 z 27.05.2014, str. 1, z późn. zm.) stosuje się przepisy ustawy z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz.U. poz. 605).”. Należy zatem zauważyć, że w przypadku eksperymentu medycznego będącego jednocześnie badaniem klinicznym produktu leczniczego stosowanego u ludzi ustawą szczególną, 40 o której mowa w art. 27 § 3 Kodeksu karnego, jest ustawa z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz. U. poz. 605). Na podstawie obecnie zaproponowanego brzmienia art. 4 pkt 3 projektu ustawy oraz innych, powyżej przytoczonych przepisów, należałoby uznać – zgodnie z art. 4 pkt 3 projektowanej ustawy – że jej przepisy nie znajdą zastosowania także dla celów naukowych w związku z eksperymentem będącym jednocześnie badaniem klinicznym. Tymczasem takie rozumowanie – bez uwzględnienia rozróżnienia przedmiotowego i celowościowego opisanego w motywie 25 preambuły do rozporządzenia 2024/1689 – wydaje się niewłaściwe i niezgodne z regulacją unijną w zakresie AI, w szczególności w odniesieniu do modeli lub systemów AI już oddanych do użytku lub wprowadzonych do obrotu przed przystąpieniem do realizacji celów naukowych. Mając na uwadze przytoczone powyżej wątpliwości, w tym także brak jakichkolwiek wyjaśnień w tym zakresie w uzasadnieniu dołączonym do projektowanej ustawy, postuluję zmianę brzmienia art. 4 pkt 3 projektu ustawy w celu zapewnienia jego pełnej zgodności z rozporządzeniem 2024/1689 i uzupełnienie uzasadnienia projektowanej ustawy w ww. zakresie. Powyższa kwestia jest kluczowa dla możliwości ustalenia rzeczywistego i zgodnego z przepisami unijnymi zakresu przedmiotowego przepisów w dziedzinie AI ujętych w omawianym projekcie. Dodatkowo należy zauważyć, że ww. kwestia wymaga także jednoznacznego rozstrzygnięcia w odniesieniu do: a) badań klinicznych weterynaryjnych prowadzonych zgodnie z przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/6 z dnia 11 grudnia 2018 r. w sprawie weterynaryjnych produktów leczniczych i uchylającego dyrektywę 2001/82/WE i ustawy z dnia 6 września 2001 r. – Prawo farmaceutyczne, b) badań klinicznych wyrobów medycznych w rozumieniu art. 2 pkt 45 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, 41 zwanego dalej „rozporządzeniem 2017/745”, i badania działania w rozumieniu art. 2 pkt 42 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, oraz c) badań klinicznych z użyciem oprogramowania - wyrobu medycznego, które poprzez dostarczenie do użytkownika lub wcześniejszej sprzedaży, zostało wprowadzone do obrotu lub do używania i z tego powodu podlega przepisom rozporządzenia 2017/745. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 40) 50. Art. 5 KRRiT w art. 5 błędnie wskazano numerację ustępów; Uwaga uwzględniona Numeracja została dostosowana zgodnie z uwagą. 51. Art. 5 NCBR Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Biuro Komisji) – tryb powoływania, skład oraz kompetencje Biura Komisji powinny zapewnić wystarczający poziom nadzoru nad SSI, skuteczność tej instytucji mogłoby zwiększyć większy udział ekspertów i większa elastyczność organizacyjna. Biuro powinno korzystać z większej liczby niezależnych ekspertów w zakresie SI (z głosem doradczym), aby zapewnić pełne pokrycie dynamicznie zmieniających się technologii i wyzwań. Należy też wprowadzić mechanizmy umożliwiające podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. Uwaga częściowo uwzględniona Podniesione uwagi zostały przez projektodawce uwzględnione w zakresie, który dotyczy elastyczności kształtowania kadry pracowniczej Komisji (leżącej w gestii Przewodniczącego i wybranych na podstawie naboru zastępców Przewodniczącego) 52. Art. 5 Konfederacj a Lewiatan Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1 Uzasadnienie: Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotyczhczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępuja one żadnych organów a są tworzone od 0. dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie Uwaga nieuwzględniona Zdaniem projektodawcy przepisy te powinny pozostać w rozdziale 11 obejmującym przepisy przejściowe, dostosowujące i końcowe 42 wyrwane z konktekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. 53. Art. 5 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Uzasadnienie: Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28) 54. Art. 5 ust. 4 pkt 1 PFR Proponujemy doprecyzować, jaki rynek Ustawodawca ma na myśli analogicznie jak w art. 6 ust. 1 Ustawy. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28). 55. Art. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w art.70 ust.1 Rozporządzenia 2024/1689. Uzasadnienie: Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi ze zgłoszonych uwag różnych podmiotów (art. 5) 56. Art. 6 ust. 1 PFR Jednostka redakcyjna wymienia liczne instytucje współpracujące z Komisją, jednak bez wyraźnego rozdzielenia odpowiedzialności i procedur współpracy. Brak precyzji w ustaleniu granic współpracy może prowadzić do spowolnienia procesów decyzyjnych lub konfliktów kompetencyjnych. Uwaga nieuwzględniona Zdaniem projektodawcy „granice współpracy” wynikają bezpośrednio z rozporządzenia 2024/1689. 57. Art. 6 ust. 3 i Art. 7 ust. 3 URWLPMiW B W art. 6 ust. 3 oraz art. 7 ust. 3 projektu ustawy o systemach sztucznej inteligencji należy uwzględnić Prezesa Urzędu Uwaga częściowo uwzględniona 43 Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych Zgodnie z art. 43 ust. 3 rozporządzenia 2024/1689 „ W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z ty i aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych.”. Zarówno rozporządzenie 2017/745, jak i rozporządzenie 2017/746 zostały wymienione w załączniku I sekcja A do rozporządzenia 2024/1689 i wymagają przeprowadzenia odpowiedni dla wyrobu medycznego lub wyrobu medycznego do diagnostyki in vitro procedury oceny zgodności. Zgodnie z art. 3 ust. 1 pkt 1 i 2 ustawy z dnia 7 kwietnia 2022 r. o wyrobach medycznych (Dz.U. z 2024 r. poz. 1620) Prezes Urzędu jest: 1) organem właściwym w rozumieniu art. 101 rozporządzenia 2017/745 oraz art. 96 rozporządzenia 2017/746; 2) organem odpowiedzialnym za jednostki notyfikowane, o którym mowa w art. 35 ust. 1 rozporządzenia 2017/745 oraz art. 31 ust. 1 rozporządzenia 2017/746. Zgodnie z powyższym Prezes Urzędu jest organem właściwym do nadawania notyfikacji jednostkom w zakresie ww. rozporządzeń, sprawowania nad nimi nadzoru, jak również sprawowania nadzoru nad wyrobami medycznymi i wyrobami Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych został uwzględniony jako stały członek Komisji. 44 medycznymi do diagnostyki in vitro wprowadzanymi do obrotu i do używania na terytorium RP. Wobec powyższego zasadnym jest, aby nadzór w zakresie wyrobów medycznych wykorzystujących sztuczną inteligencję, np. oprogramowania będące wyrobami medycznymi, wyznaczanie jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzór nad nimi w tej kwestii, był kompetencją Prezesa Urzędu. Powyższa kwestia była również jednym z tematów spotkania grupy roboczej MDCG – Nadzór nad jednostkami notyfikowanymi (NBO). Zgodzono się na nim, że kompetencje organów nadzorujących jednostki notyfikowane w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro powinny obejmować wyroby wykorzystujące sztuczną inteligencję, o których mowa w rozporządzeniu 2024/1689. Prezes Urzędu uzyskał informację od dwóch polskich jednostek notyfikowanych w zakresie rozporządzenia 2017/745, że obie jednostki planują ubiegać się o notyfikacje w zakresie rozporządzenia 2024/1689 wyłącznie w zakresie wyrobów medycznych wykorzystujących AI. W takiej sytuacji ograniczenie procesu notyfikacji do jednego organu (Prezesa Urzędu) zmniejszy znacznie obciążenie biurokratyczne tych podmiotów. Ponadto zgodnie z art. 66 ust. 2 ww. ustawy o wyrobach medycznych kontrola może być prowadzona przez osoby niebędące pracownikami Urzędu. Zatem w przypadku pojawienia się wątpliwości, czy osoby upoważnione przez Prezesa Urzędu do kontroli podmiotu, który wprowadza na rynek wyrób medyczny wykorzystujący systemy sztucznej inteligencji, posiadają odpowiednie kompetencje, możliwe będzie skorzystanie z eksperta zewnętrznego w tej dziedzinie, np. pracownika organu odpowiedzialnego za akredytację jednostek w tym zakresie. Analogiczna sytuacja dotyczy wyznaczania jednostek notyfikowanych oraz sprawowania nad nimi nadzoru. Uwzględniając powyższą uwagę, w ocenie Prezesa Urzędu również w 45 pozostałych obszarach wskazanych w niniejszym piśmie (np. w obszarze badań klinicznych produktów leczniczych stosowanych u ludzi) – co także wynika np. z dostępnych rekomendacji w zakresie AI – w celu pełnego i prawidłowego wdrożenia regulacji w zakresie sztucznej inteligencji konieczne jest zapewnienie ścisłej współpracy między organami regulacyjnymi w danej dziedzinie, w tym także z organami posiadającymi kompetencje ogólne w zakresie sztuczne inteligencji, co powinno znaleźć wyraz w projektowanych przepisach. 58. Art. 6 ust. 3 KRRiT Dodanie punktu o treści „Przewodniczącym Krajowej Rady Radiofonii i Telewizji - w zakresie systemów AI ogólnego przeznaczenia generujących obrazy, treści audio lub wideo”; Uwaga uwzględniona Przewodniczący KRRiTV został wskazany jako stały członek Komisji. 59. Art. 6 ust. 3 IAB Polska Biorąc pod uwagę, że dostęp do AI zapewniany jest m.in. poprzez dedykowane strony internetowe lub aplikacje – rekomendujemy dodanie postanowienia w ust. 3, że Komisja współpracuje także z Urzędem Komunikacji Elektronicznej w zakresie usług pośrednich związanych z AI, a nie tylko w zakresie wynikającym z pełnienia przez Prezesa UKE funkcji organu nadzoru rynku na podstawie ustawy z 13.4.2016 r. o systemach zgodności i nadzoru rynku. Prezes Urzędu Komunikacji Elektronicznej deleguje swojego przedstawiciela do prac w Komisji tak samo, jak wymienione w art. 6 ust. 3 Projektu podmioty w postaci: Komisji Nadzoru Finansowego, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, czy Prezesa Urzędu Ochrony Danych Osobowych. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona Rozszerzono katalog podmiotów, o których mowa w art. 6 ust. 2 (podmioty współpracujące z Komisją) 60. Art. 6 ust. 3 UKNF Z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego (dalej również jako: „KNF”) w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji wysokiego ryzyka. Projekt – w aktualnym kształcie - nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia 2024/1689, tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka Uwaga częściowo uwzględniona Jednoczenie wyjaśniamy że projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania będzie możliwy od dnia. 2 sierpnia 2025 r. 46 wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Niezależnie od powyższego, w ocenie UKNF, w związku z obowiązkiem współpracy pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja” lub „ KRiBSI”) a Komisją Nadzoru Finansowego, określonym w art. 6 ust. 3 pkt 1) projektu, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań (jako wzór może posłużyć np. art. 17b ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, dalej jako: „ustawa o nadzorze nad rynkiem finansowym”). Ponadto, mając na uwadze, że zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689 właściwość KNF ma ograniczać się do nadzoru nad systemami AI wysokiego ryzyka wprowadzonymi do obrotu, oddanymi do użytku lub wykorzystywanymi przez instytucje finansowe, istotna część nadzoru dotycząca wykorzystywania systemów sztucznej inteligencji przez te podmioty pozostanie po stronie Komisji (np. w zakresie zakazanych praktyk w zakresie AI). W tym kontekście – w ocenie UKNF – zasadnym będzie zaprojektowanie rozwiązania polegającego na wprowadzeniu w ustawach sektorowych przepisów upoważniających podmioty rynku finansowego do przekazywania informacji objętych obowiązkiem zachowania tajemnicy zawodowej do KRiBSI. Dla przykładu: - art. 35 ust. 1 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej stanowi, że: zakład ubezpieczeń i osoby w nim zatrudnione, a także osoby i podmioty, za pomocą których zakład ubezpieczeń wykonuje czynności ubezpieczeniowe, są obowiązane do zachowania tajemnicy dotyczącej poszczególnych umów ubezpieczenia. Jednocześnie art. 35 ust. 2 przewiduje, że obowiązek zachowania tajemnicy ubezpieczeniowej, nie dotyczy informacji udzielanych na wniosek m.in. organu nadzoru; Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 47 - art. 105 ust. 1 pkt 2 lit. a ustawy z dnia 29 sierpnia 1997 r. – Prawo bankowe stanowi, że bank ma obowiązek udzielenia informacji stanowiących tajemnicę bankową wyłącznie na żądanie Komisji Nadzoru Finansowego w zakresie nadzoru sprawowanego na podstawie niniejszej ustawy i ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, pracowników Urzędu Komisji Nadzoru Finansowego w zakresie, o którym mowa w art. 139 ust. 1 pkt 2, oraz osób upoważnionych uchwałą Komisji Nadzoru Finansowego w zakresie określonym w tym upoważnieniu. Brak takiej wyraźnej podstawy prawnej może stanowić znaczące utrudnienie w sprawowaniu nadzoru, ponieważ podmioty mogłyby odmawiać przekazywania informacji, powołując się na obowiązek zachowania tajemnicy zawodowej (nie można bowiem wykluczyć, że przekazanie danych zawierających tajemnicę będzie niezbędne w zakresie niezbędnym do wykonywania zadań ustawowo zastrzeżonych dla organu jakim będzie KRiBSI). 61. Art. 6 ust. 3 pkt 1 UKNF Zgodnie z art. 6 ust. 3 pkt 1 projektowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji współpracuje z KNF w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689, czyli systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie, zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 6 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 6 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób jednoznaczny. Z tych względów ustawa powinna w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka w Uwaga nieuwzględniona Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 48 zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy nadzór ten będzie sprawowany przez inny odpowiedni organ na zasadzie odstępstwa przewidzianego w art. 74 ust. 7 rozporządzenia 2024/1689. Co szczególnie ważne, w zakresie działalności podmiotów nadzorowanych przez KNF mogą być wykorzystywane systemy AI wysokiego ryzyka – przykładowo: ⎯ biometria (np. systemy zdalnej identyfikacji biometrycznej); ⎯ systemy AI wykorzystywane do oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; ⎯ systemy AI wykorzystywane przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego. W związku z powyższym – w przypadku decyzji kierunkowej, że to KNF będzie organem właściwym do nadzoru nad systemami wysokiego ryzyka w zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689 – UKNF poddaje pod rozwagę, aby ustawowe rozwiązania przewidywały również wprowadzenie odpowiednich zmian w przepisach ustawy o nadzorze nad rynkiem finansowym, w której wprost zostałoby wskazane, że KNF jest organem nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689. 62. Art. 6 ust. 3 pkt 2 UOKIK Określenie katalogu podmiotów, z którymi współpracuje Komisja poprzez odwołanie do art. 58 ustawy o systemach oceny zgodności i nadzoru rynku nie jest wystarczające wobec zakresu spraw określonego w art. 74 ust. 3 rozporządzenia 2024/1689. Kontrola produktów wskazanych w unijnym prawodawstwie harmonizacyjnym jest prowadzona również przez organy, które nie są organami nadzoru rynku w rozumieniu ustawy o systemach oceny zgodności i nadzoru rynku i funkcjonują poza jej ramami. Projektowany przepis pozostaje zatem niewystarczający, ponieważ jego stosowanie spowoduje Uwaga częściowo uwzględniona Katalog podmiotów, których dotyczy uwaga został rozszerzony w nowej treści przepisów projektu. Dodatkowo, Komisja może zapraszać do udziału w posiedzeniach przedstawicieli innych podmiotów, o ile poruszane w ich trakcie sprawy mieszczą się w ich właściwości. 49 powstanie luki w zakresie wyznaczenia organów właściwych w sprawach uregulowanych w aktach unijnych wymienionych w załączniku I do rozporządzenia 2024/1689. W związku z powyższym proponuje się rozważenie umieszczenia w projektowanej ustawie enumeratywnego katalogu organów właściwych w sprawach związanych z kontrolami produktów w oparciu o akty wskazane w załączniku I. Poniżej przekazuję listę organów, których uwzględnienie proponuję rozważyć: 1. Prezes Urzędu Ochrony Konkurencji i Konsumentów, 2. wojewódzcy inspektorzy Inspekcji Handlowej, 3. organy Państwowej Inspekcji Pracy, 4. organy nadzoru budowlanego, 5. organy administracji miar 6. Prezes Urzędu Komunikacji Elektronicznej, 7. Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 8. Prezes Wyższego Urzędu Górniczego, 9. Prezes Urzędu Transportu Kolejowego, 10. Prezes Urzędu Lotnictwa Cywilnego, 11. dyrektorzy urzędów morskich, 12. wojewódzcy inspektorzy transportu drogowego, 13. Dyrektor Transportowego Dozoru Technicznego, 14. Prezes Urzędu Dozoru Technicznego. Jednocześnie należy wskazać, że obecnie w Ministerstwie Rozwoju i Technologii trwają prace nad projektem ustawy o nadzorze nad spełnianiem wymagań dotyczących produktów (UC45), w którym zostanie ustanowiony system organów nadzoru rynku właściwych w sprawach poszczególnych aktów w ramach unijnego prawodawstwa harmonizacyjnego. Niezależnie od powyższego należy wskazać, że przepisy projektowanej ustawy nie określają zasad współpracy poszczególnych organów z Komisją. Brak jest również wskazania instrumentów (narzędzi) takiej współpracy, w szczególności form lub sposobów, w jakich będzie się ona odbywać. Należy wskazać, że organy wymienione w art. 6 50 projektu realizują określone kompetencje przypisane im w przepisach ustaw regulujących ich funkcjonowanie. Podejmowanie określonego rodzaju aktywności przez te organy jest warunkowane obowiązywaniem określonej podstawy prawnej przyznającej kompetencję lub nakładającej obowiązek konkretnego działania. Z uwagi na powyższe ustawowe określenie zasad, form i sposobu współpracy organów, o których mowa w art. 6 projektu z Komisją, pozostaje niezbędne w celu stworzenia podstaw prawnych do podejmowania przez nie określonych czynności władczych, w tym również takich, które nie są wprost wpisane w ich ustawowe kompetencje. 63. Art. 6 ust. 4 PFR Wydaje się, iż Ustawodawca ma tu na myśli stosowne organy opisane w Rozporządzeniu. Jeżeli tak jest, to proponujemy to doprecyzować poprzez wskazanie odpowiednich definicji zawartych w Rozporządzeniu. Uwaga uwzględniona 64. Art. 6 ust. 4 UKNF Artykuł 6 ust. 4 projektu ustawy stanowi, że „Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej”. UKNF wskazuje, że pełna nazwa ww. urzędu to Europejski Urząd ds. Sztucznej Inteligencji, stąd rekomendowane byłoby posłużenie się nią we wskazanym przepisie projektu ustawy, bądź przyjęcie odpowiedniej definicji urzędu w treści projektu ustawy. Uwaga nieuwzględniona. Projekt posługuje się terminologią zaczerpniętą bezpośrednio z rozporządzenia 2024/1689. 65. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. W tym kontekście, NCBR, jako instytucja odpowiedzialna za wspieranie badań i rozwoju technologii, mógłby wesprzeć prace Komisji w lepszym zrozumieniu procesów tworzenia systemów SI poprzez wskazywanie ekspertów do pracy w Komisji. Pozwoliłoby to lepiej zintegrować procesy badawcze (tworzenie innowacyjnych Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 51 programów służących rozwojowi technologii SI) z wymogami regulacyjnymi. Generalnie, NCBR jako fundamentalna instytucja zajmująca się wspieraniem prac B+R i rozwijaniem przedsiębiorczości w zakresie nowych technologii, w tym technologii ICT, nie jest bezpośrednio uwzględnione w projekcie ustawy o SSI jako kluczowy organ wspierający rozwój SI w Polsce. Warto rozważyć formalne włączenie NCBR do procesów regulacyjnych, np. poprzez jego większy udział w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, aby zapewnić pełne wsparcie dla innowacyjnych projektów badawczych. Ponadto, zgodnie z dokumentem pn. Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020, Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23), NCBR jest elementem polskiego ekosystemu AI w obszarze Nauka i Badania AI. 66. Art. 7 OPZZ Uważamy, że należy ponownie rozważyć zakres udziału związków zawodowych w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgłoszone przez nas uwagi mają na celu zwiększenie ochrony interesów pracowników oraz wspieranie budowy nowoczesnego, zrównoważonego rynku pracy w Polsce. Projekt ustawy przewiduje ustanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której zadaniem będzie zapewnienie nadzoru nad rozwojem i funkcjonowaniem systemów sztucznej inteligencji. Konstrukcja przepisów zakłada, że członkami Komisji będą przedstawiciele kluczowych organów i urzędów, których kompetencje są kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów Al. Dodatkowo projekt przedmiotowej regulacji prawnej zakłada możliwość udziału w pracach Komisji przedstawicieli innych podmiotów publicznych, ale na zasadach doradczych, bez prawa głosu. Wśród nich wymieniono m.in. przedstawicieli strony pracowników Rady Dialogu Społecznego. W ocenie Ogólnopolskiego Porozumienia Związków Zawodowych, reprezentatywne organizacje związkowe, w rozumieniu ustawy z dnia 25 czerwca 2015 r. o Radzie Dialogu Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 52 Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232), powinny posiadać status pełnoprawnych członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Algorytmy i systemy sztucznej inteligencji coraz częściej mają bowiem wpływ na decyzje o kluczowym znaczeniu dla pracowników np. w zakresie dotyczącym wynagrodzeń, wydajności i zatrudnienia. Brak pełnego nadzoru ze strony reprezentacji pracowników nad sztuczną inteligencją niesie ryzyko ograniczenia praw pracowniczych. Pełnoprawne członkostwo central związkowych w Komisji umożliwi skuteczny nadzór nad funkcjonowaniem algorytmów, zapewniając ich zgodność z normami dialogu społecznego oraz zapobiegnie potencjalnym nadużyciom ze strony pracodawców. To także gwarancja, że technologie sztucznej inteligencji będą wdrażane w sposób przejrzysty, z poszanowaniem praw pracowniczych, w tym prawa do konsultacji, ochrony danych osobowych i współdecydowania o zasadach wykorzystania technologii w pracy. Jest to szczególnie ważne dla osób wykonujących pracę platformową, takich jak kurierzy czy kierowcy, którzy są szczególnie narażeni na nadużycia związane z działaniem algorytmów. Obecność związków zawodowych w Komisji pozwoli zatem monitorować i przeciwdziałać takim praktykom. OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem 53 prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. 67. Art. 7 ust. 2 i st. 3 pkt 13 RZ Należy zaznaczyć, iż wiele z proponowanych regulacji może bezpośrednio dotyczyć warunków, wykonywania działalności gospodarczej na terytorium Rzeczypospolitej w szczególności przez mikroprzedsiębiorców, małych i średnich przedsiębiorców. Z, tego względu, w pierwszej kolejności wnoszę o zmianę art. 7 ust. 2 oraz ust. 3 pkt. 13 Projektu poprzez włączenie przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców do grona członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Realizacja postulatu wymaga: w art. 7 ust. 2: 1. w pkt 9) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu — pkt 10 w brzmieniu: „10) Rzecznika Małych i Średnich Przedsiębiorców. ”; 3. w przypadku uwzględnienia postulatu, odpowiedniej zmiany w art. 7 ust. 3, przez usunięcie pkt 13. Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Ze względu na potrzebę skutecznej ochrony praw przedsiębiorców, Rzecznik Małych i Średnich Przedsiębiorców, jako ich przedstawiciel, powinien mieć zagwarantowane prawo zabrania głosu w kwestiach poruszanych przez Komisję. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 68. art. 7 ust. 2 pkt 6 i art. 8 ust. 5 RPO W projekcie ustawy przewidziano utworzenie nowego organu - Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) – wyspecjalizowanego w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucja ta ma pełnić funkcję organu nadzoru nad rynkiem, ale również przyczyniać się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnić funkcję Uwaga uwzględniona Przedstawiciel Rzecznika Praw Obywatelskich został wyłączony ze składu Komisji. 54 podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI. Zgodnie z art. 8 ust. 5 projektu ustawy, Komisja w zakresie swojej właściwości podejmuje uchwały, w tym też wydaje decyzje administracyjne i postanowienia. Jednym z członków Komisji zgodnie z art. 7 ust. 2 pkt 6 projektu ustawy ma zostać przedstawiciel Rzecznika Praw Obywatelskich. W mojej ocenie proponowane rozwiązanie jest nie do pogodzenia z pozycją ustrojową i kompetencjami, jakie zostały przyznane Rzecznikowi Praw Obywatelskich w Konstytucji RP. W pierwszej kolejności należy zauważyć, że Rzecznik Praw Obywatelskich nie jest organem administracji publicznej. Rzecznik Praw Obywatelskich jest samodzielnym, konstytucyjnym organem ochrony prawa, stojącym na straży wolności i praw człowieka i obywatela określonych w Konstytucji oraz w innych aktach normatywnych (rozdział IX Konstytucji Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r.). W myśl art. 210 Konstytucji RP Rzecznik Praw Obywatelskich w swojej działalności jest niezawisły, niezależny od innych organów państwowych i odpowiada jedynie przed Sejmem na zasadach określonych w ustawie. Tryb rozpatrywania spraw należących do kompetencji Rzecznika Praw Obywatelskich uregulowany został w przepisach ustawy o RPO, zgodnie z którymi zarówno o sposobie działania, jak i o podjętych środkach prawnych w danej sprawie decyduje autonomicznie Rzecznik Praw Obywatelskich. Trybunał Konstytucyjny w istotnym z punktu widzenia relacji między RPO a Sejmem wyroku1 , interpretuje niezależność jako pojęcie normatywne, tj. wyznaczające zakaz tworzenia pomiędzy Rzecznikiem a innymi organami więzi strukturalnych i funkcjonalnych, które mogłyby prowadzić do zależności Rzecznika od tych organów. Sejmowi, podobnie jak jakiemukolwiek innemu organowi państwa, nie wolno wyznaczać Rzecznikowi jakichkolwiek obowiązków, które nie mieszczą się w jego konstytucyjnych zadaniach i nie znajdują podstaw w określonych przez ustawę kompetencjach RPO. Należy również podkreślić, że w orzecznictwie sądów administracyjnych ugruntowane jest stanowisko, że rozpatrywanie przez Rzecznika Praw Obywatelskich kierowanych 1 Zob. wyrok TK z 19.10.2010 r., sygn. K 35/09. - 3 - do niego wniosków nie następuje w formach przewidzianych w art. 3 § 2 pkt 1-42 ustawy z dnia z 55 dnia 30 sierpnia 2002 r. prawo o postępowaniu przed sądami administracyjnymi (Dz.U. z 2024 r. poz. 935)3 . Biorąc pod uwagę powyższe, nie ulega wątpliwości, że przedstawiciel Rzecznika Praw Obywatelskich nie może być częścią organu (Komisji), który wydaje decyzje administracyjne i postanowienia, gdyż byłoby to sprzeczne z rolą organu ochrony prawa, jaką ustrojodawca przewidział dla Rzecznika Praw Obywatelskich w Konstytucji RP, a także godziłoby w zasadę niezależności Rzecznika. Wyznaczenie na członka Komisji przedstawiciela RPO jest wątpliwe również dlatego, że czynności podejmowane przez Komisję, a zatem wydawane przez nią decyzje administracyjne i postanowienia, mogą być przedmiotem skarg obywateli do Rzecznika Praw Obywatelskich. Taka sytuacja skutkowałaby tym, że Rzecznik Praw Obywatelskich rozpoznawałby de facto skargę na działania podejmowane m. in. Przez jego przedstawiciela. To zaś podważałoby zasadę prawa, zgodnie z którą nikt nie może być sędzią we własnej sprawie (nemo iudex in causa sua). Reasumując, w mojej ocenie, z przyczyn wskazanych powyżej, przedstawiciel RPO nie może zostać członkiem organu, który zgodnie z projektowaną ustawą będzie sprawował nadzór nad sektorem sztucznej inteligencji. Jednocześnie, nie budzi moich wątpliwości możliwość zgłaszania przez Rzecznika Praw Obywatelskich kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (art. 28 ustawy), który to organ będzie pełnił funkcje opiniodawczo- doradcze na rzecz Komisji. 69. Art. 7 ust. 2 i 7 RPD Proponowana konstrukcja przepisów projektu zakłada ustanowienie nowej instytucji, która będzie niezależnym od administracji rządowej, organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jak również podmiotem współpracującym z innymi instytucjami publicznymi w zakresie AI. Zgodnie z brzmieniem projektowanej ustawy organem tym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w skład której miałby wchodzić Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziewięciu członków, będących przedstawicielami podmiotów, wymienionych w art. 7 ust. 2 projektu. Biorąc pod uwagę charakter i ilość zadań nałożonych na ww. organ, wątpliwości budzi przyjęcie zaproponowanej koncepcji składu Komisji. Warto Uwaga częściowo uwzględniona Osobom biorącym udział w pracy Komisji na podstawie nowej treści przepisów projektu przysługuje zwrot kosztów przejazdu i noclegów. 56 w tym miejscu podkreślić, że przedstawiciele podmiotów, wskazanych w art. 7 ust. 2 projektu to przede wszystkim pracownicy ww. podmiotów, na których nałożone byłyby dodatkowe obowiązki związane z pracą w Komisji. To może rodzić konflikt interesów pomiędzy pracą na etacie u podmiotu, o którym mowa w art. 7 ust. 2 projektu, a pracą wykonywaną na rzecz Komisji Warszawa, 14 listopada 2024 roku (art. 11 projektu). Warto w tym miejscu również podkreślić, że zgodnie z założeniami projektowanej ustawy „za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu” (art. 7 ust. 7 projektu). Ponadto, członkowie Komisji nie będą mogli wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywoływać podejrzenie o stronniczość lub konflikt interesów (a w konsekwencji rodzić obawy o najlepsze reprezentowanie interesów i głosu osób, na których systemy SI mają wpływ - zwłaszcza dzieci i młodzieży), o czym stanowi art. 24 ust. 1 projektu. Natomiast art. 25 ust. 1 projektu wskazuje, iż m.in. członkowie Komisji są obowiązani do nieujawniania osobom nieupoważnionym tajemnicy prawnie chronionej. Nie ma tu regulacji odnoszącej się do podmiotów, dla których pracują członkowie Komisji. Takie rozwiązania mogą prowadzić do wyłączenia danego pracownika/przedstawiciela podmiotu, o którym mowa w art. 7 ust. 2 projektu, z pracy urzędu, biorąc pod uwagę zakres zadań, związanych z pracą Komisji. Analizowany projekt w żaden sposób nie reguluje tej kwestii. 70. Art. 7 ust. 2 PUODO Z motywu 10 aktu w sprawie sztucznej inteligencji wynika, że jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. Zatem rozporządzenie jasno wskazuje na to, że kompetencje i niezależność organów nadzorczych ds. ochrony danych nie są ograniczane przepisami aktu w sprawie sztucznej inteligencji, a przejrzystego uregulowania tych kwestii należy oczekiwać w przyjmowanych rozwiązaniach krajowych, czego w opiniowanym projekcie zabrakło. Uwaga uwzględniona Przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji. 57 Przebudowy wymaga zatem określona w projekcie ustawy koncepcja nadzoru nad systemami sztucznej inteligencji, która w art. 7 ust. 2 pkt 3 zakłada udział przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych w kolegialnym organie nadzoru rynku, jakim ma być Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Choć docenić należy uwzględnienie potrzeby włączenia organu ochrony danych osobowych w proces oceny nadzoru nad systemami sztucznej inteligencji, to jednak, przedstawiciel organu nadzorczego ds. ochrony danych osobowych – ze względu na konieczność zachowania niezależności organu ds. ochrony danych osobowych – nie może brać udziału w procesie wydawania decyzji przez inny organ inaczej niż w charakterze doradcy czy obserwatora. Udział przedstawiciela Prezesa UODO w pracach Komisji byłyby zatem możliwy wyłącznie w charakterze eksperta, z możliwością wypowiedzenia się w kwestiach związanych z ochroną danych osobowych, z zastrzeżeniem braku związania go poleceniami /dyspozycjami Przewodniczącego Komisji i przy założeniu nieobjęcia problematyki przetwarzania danych osobowych procesem decyzyjnym Komisji, ze względu na to, iż jest to wyłączna kompetencja Prezesa UODO. Te gwarancje powinny zostać zapisane w ustawie tak, by zapewnić zgodność i spójność zarówno z rozporządzeniem 2024/1689, jak i rozporządzeniem 2016/679. Ma to istotne znaczenie w związku z art. 9 projektu ustawy, który przewiduje, że członkowie Komisji wspierają Przewodniczącego Komisji w wykonywaniu zadań ustawowych, w szczególności w sprawach będących we właściwości podmiotu, którego są przedstawicielami, a na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami”. Wskazać należy, że przedstawiciel Prezesa UODO – z racji potrzeby zachowania niezależności, wynikającej wprost z prawa UE – nie może być zobowiązany mocą jakichkolwiek przepisów, w tym projektowanej ustawy, do podejmowania działań na rzecz innego organu ani dostosowywania się do rozstrzygnięć, które potencjalnie mogłyby wkraczać w zakres jego kompetencji. 58 Dostrzec przy tym należy, że status Komisji jako nowego organu administracji publicznej ma charakter precedensowy, ponieważ przewiduje, że jej członkami są przedstawiciele innych organów, w tym przedstawiciel Prezesa UODO (art. 7 ust. 2 pkt 3 projektu ustawy). Przepisy projektowanej ustawy nie regulują przy tym pozycji takiego przedstawiciela, w szczególności w aspekcie swobody podejmowania przez niego decyzji i innych czynności w ramach Komisji, co może być poddane dalszej dyskusji pod kątem zgodności z zasadami prawa administracyjnego i normami konstytucyjnymi dotyczącymi administracji państwowej, w tym podstawowym warunkiem dotyczącym samodzielności decyzyjnej organu. W świetle powyższych uwag, projektowane przepisy wymagają doprecyzowania statusu Prezesa UODO (jego przedstawiciela) w sposób gwarantujący niezależne wykonywanie przez niego zadań wynikających ze wspomnianych wyżej aktów prawa unijnego i krajowego, w tym orzecznictwa TSUE. Projektowana ustawa wymaga zatem powtórnej analizy pod kątem spójności oraz jasności nadawanych nią norm kompetencyjnych, jak również kompleksowości proponowanej regulacji, która powinna również czynić zadość konstytucyjnej zasadzie legalności w aspekcie wyznaczania organom władzy publicznej podstaw i granic działania mocą stanowionych przepisów prawa. 71. Art. 7 ust. 3- 6 RPD Uwagi do proponowanego art. 7 ust. 3-6 ustawy o systemach SI (uczestnictwoinnych osób niż Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Art. w posiedzeniach Komisji) Stosowanie systemów sztucznej inteligencji, zwłaszcza w obszarze edukacji, ma bezpośredni wpływ na codzienne życie dzieci i młodzieży, w tym na ich prawa i wolności. W związku z tym niezwykle istotne jest, aby głos młodych ludzi był uwzględniany w procesach decyzyjnych dotyczących rozwoju i regulacji tych systemów. Zgodnie z art. 12 Konwencja o prawach dziecka przyjęta przez Zgromadzenie Ogólne Narodów Zjednoczonych dnia 20 listopada 1989 r. (Dz. U. z 1991 r. Nr 120, poz. 526 z późn. zm.) każde dziecko ma prawo do swobodnego wyrażania własnych poglądów we wszystkich Uwaga uwzględniona RPD został włączony do składu Komisji jako stały członek. 59 sprawach, które go dotyczą, a poglądy te powinny być należycie uwzględniane stosownie do wieku i dojrzałości dziecka. Podobnie, art. 24 Karta praw podstawowych Unii Europejskiej (Dz. U. UE. C. z 2007 r. Nr 303, str. 1 z późn. zm.). podkreśla prawo dziecka do wyrażania swojego zdania i bycia wysłuchanym w sprawach, które go dotyczą. Obecne planowane przepisy ustawy o systemach SI, w szczególności art. 7 ust. 3-6, przewidują możliwość uczestnictwa w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przedstawicieli różnych podmiotów z głosem doradczym, jednak udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji i wymaga posiadania „specjalistycznej wiedzy (proponowany art. 7 ust. 5 ustawy o systemach SI). Taki mechanizm może ograniczać realną możliwość dzieci i młodzieży do wyrażania swojego głosu w sprawach dotyczących regulacji systemów SI, których wyniki działania bezpośrednio ich dotyczą. Dzieci należą do grupy podmiotów szczególnie wrażliwych, które mogą w szczególny sposób odczuć negatywny wpływ systemów sztucznej inteligencji na ich prawa oraz wolności. Chociaż z oczywistych względów nie posiadają one fachowej wiedzy na temat systemów SI, ich głos może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii. Aby w pełni zrealizować prawo dziecka do bycia wysłuchanym, proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych, zespołów reprezentujących głos dzieci (np. Rada Dzieci i Młodzieży przy RPD, Rada Młodzieży przy MEN) doraźnego udziału w posiedzeniach Komisji z głosem doradczym. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Komisji z wnioskiem o dopuszczenie do udziału w obradach Komisji w roli gości zwłaszcza jeżeli przedmiot obrad dotyczy systemów SI wpływających na dzieci i młodzież. Takie rozwiązanie zapewni, że głos dzieci i młodzieży będzie systematycznie brany pod uwagę w procesach regulacyjnych dotyczących systemów sztucznej inteligencji. Jest to nie tylko zgodne z międzynarodowymi standardami ochrony praw dziecka, ale także przyczyni się do tworzenia bardziej efektywnych i adekwatnych regulacji, które uwzględniają 60 perspektywę młodego pokolenia. Włączenie organizacji młodzieżowych z głosem doradczym do prac Komisji wzmocni transparentność i demokratyczność procesu decyzyjnego oraz pomoże w kształtowaniu systemów SI, które będą służyć dobru dzieci i młodzieży. 72. Art. 7 ust. 3 GUS Projekt ustawy o systemach sztucznej inteligencji przewiduje powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (art. 5 i nast. projektu ustawy), w skład której obowiązkowo wejdą przedstawiciele 9 instytucji (art. 7 ust. 1 i 2 projektu ustawy), a przedstawiciele dalszych 16 instytucji (art. 7 ust. 3) będą mogli uczestniczyć w jej posiedzeniach. Mając na uwadze zaplanowane przez ustawodawcę zadania Komisji, w tym w szczególności: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji” (art. 11 ust. 1 pkt 3) oraz „udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji” (art. 11 ust. 1 pkt 5), niezbędne wydaje się rozszerzenie listy przedstawicieli urzędów i instytucji publicznych mogących uczestniczyć w jej pracach o przedstawiciela Głównego Urzędu Statystycznego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 73. Art 7 ust. 3 Rzecznik Finansowy W art. 7 ust. 3 pkt 12) projektu ustawy przewidziany został udział w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja”) przedstawiciela Biura Rzecznika Finansowego. Projektowany przepis należy zmienić poprzez wskazanie „przedstawiciela Rzecznika Finansowego”. Należy bowiem zauważyć, że zgodnie z ustawą z dnia z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej (Dz. U. z 2024 r. poz. 1109) działania podejmowane są przez Rzecznika Finansowego, a nie przez Biuro Rzecznika Finansowego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 74. Art. 7 ust. 3 IAB Polska W skład podmiotów, których przedstawiciele mogą uczestniczyć w posiedzeniach Komisji brakuje przedstawiciela Społecznej Rady do spraw Sztucznej Inteligencji. Udział takiej osoby jest wskazany ze względu na funkcję Rady („organ opiniodawczo- doradczy Komisji”). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do 61 udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 75. Art. 7 ust. 3 Konfederacj a Lewiatan Rekomdendujemy dodanie punktu: 17) Społecznej Rady ds. Sztucznej Inteligencji Uzasadnienie: Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisjii - inaczej jej rola może okazać się fasadowa, jadnak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 76. Art. 7 ust. 3 Rada Legislacyjna [Brak możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli Ministerstwa Nauki oraz Ministerstwa Zdrowia] Przepisy art. 7 ust. 3 Projektu nie przewidują możliwości uczestniczenia w posiedzeniach Komisji przedstawiciela urzędu obsługującego ministra właściwego do spraw szkolnictwa wyższego i nauki oraz przedstawiciela urzędu obsługującego ministra właściwego do spraw zdrowia. Tymczasem dopuszczenie możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli obu tych urzędów, czyli Ministerstwa Nauki oraz Ministerstwa Zdrowia, ma przekonujące uzasadnienie merytoryczne. Obaj bowiem ministrowie kierujący wspomnianymi ministerstwami i jednocześnie odnośnymi działami administracji rządowej są, z uwagi na zakres swoich ustawowych zadań,12 żywotnie zainteresowani sprawami rozwoju, wprowadzania, upowszechniania i stosowania technologii oraz usług wykorzystujących systemy sztucznej inteligencji. Działalność naukowa, nawet jeżeli w określonym zakresie nie mieści się ona w zakresie zastosowania Projektu (oraz Rozporządzenia UE 2024/1689), jest przecież absolutnie niezbędna dla rozwijania i doskonalenia systemów AI, natomiast w medycynie, czy też w działalności z zakresu zdrowia publicznego, systemy AI są obecnie podstawą wielu ważnych dla pacjentów świadczeń diagnostycznych i terapeutycznych.Z uwagi na to merytoryczne powiązanie nauki i medycyny z systemami AI warto jest zatem rozważyć możliwość fakultatywnego delegowania przez obu ministrów czy też przez urzędy Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3) 62 obsługujące obu tych ministrów swoich przedstawicieli do udziału w posiedzeniach Komisji na podstawie przepisu art. 7 ust. 3 Projektu 77. Art. 7 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną biegłego. Uzasadnienie: Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga nieuwzględniona Użycie pojęcia „biegłego” znacząco ograniczyłoby zakres osób mogących wziąć udział w posiedzeniu Komisji. 78. Art. 7 ust. 7 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 7. Za udział pracach Komisji nie przysługuje wynagrodzenie ani i zwrot kosztów przejazdów i noclegów. Uzasadnienie: Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotczyć ma także osób wkazanych w art.7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jesli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Uwaga częściowo uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 79. Art. 7 ust. 7 i Art. 29 ust. 6 RPD Uwagi do proponowanego art. 7 ust. 7 i art. 29 ust. 6 ustawy o systemach SI – brak wynagrodzenia oraz zwrotów kosztów przejazdów i noclegów członkom Rady lub Komisji za udział w pracach organów Uwaga uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 63 Brak zwrotu kosztów przejazdów i noclegów za udział w pracach Rady i Komisji może skutecznie zniechęcić specjalistów mieszkających w odległych od Warszawy (siedziby Komisji i Rady) częściach Polski do uczestnictwa w pracach tych organów. Taka sytuacja może negatywnie wpłynąć na poziom merytoryczny prac Rady oraz Komisji, w tym o ograniczyć różnorodność osób biorących w nich udział, co jest kluczowe dla wszechstronnego podejścia do zagadnień związanych ze sztuczną inteligencją. Specjaliści z różnych regionów kraju wnoszą unikalne perspektywy i doświadczenia, które są niezbędne do tworzenia kompleksowych i efektywnych regulacji w dziedzinie sztucznej inteligencji. Brak zwrotu kosztów może prowadzić do sytuacji, w której udział w pracach Rady i Komisji będzie ograniczony do osób mieszkających w Warszawie lub tych, którzy mogą sobie pozwolić na pokrycie kosztów podróży i noclegu z własnych środków. Nie bez znaczenia jest także fakt, że młodzi naukowcy i specjaliści, którzy mogą nie dysponować wystarczającymi środkami finansowymi, zostaliby w ten sposób zachęceni do udziału w pracach Rady i Komisji. Ich udział może wnieść świeże spojrzenie i innowacyjne rozwiązania w dynamicznie rozwijającej się dziedzinie sztucznej inteligencji. Można też argumentować, że brak możliwości otrzymania przynajmniej zwrotu kosztów noclegu i przejazdu w związku z pracami w Komisji oraz Radzie negatywnie wpłynie także na poziom niezależności ich członków. Warto zauważyć, że członkowie „Beirat für Künstliche Intelligenz” (KI-Beirat) organu doradczo-opiniodawczego wskazanego przez projektodawcę w uzasadnieniu ustawy o systemach SI jako modelowy przykład ciała eksperckiego z uprawnieniami konsultowania prac w zakresie nadzoru nad sztuczną inteligencją — mają prawo żądać zwrotu kosztów poniesionych w związku z pracą w KI-Beirat. Zgodnie z §20c ust. 8 ustawy KommAustria- Gesetz: „Die Mitglieder haben Anspruch auf Ersatz der angemessenen Reisekosten und Barauslagen. Der Bundesminister für Finanzen hat im Einvernehmen mit dem Bundeskanzler mit Verordnung eine Geschäftsordnung für den 64 „Beirat für KI“ zu erlassen. Die für Reisekosten anfallenden Kosten trägt die RTR-GmbH aus den nach dem folgenden Absatz zur Verfügung gestellten Mitteln.”4. Co oznacza, że członkowie mają prawo do zwrotu uzasadnionych kosztów podróży i wydatków, a Minister Finansów, w porozumieniu z Kanclerzem Federalnym, zobowiązany jest wydać rozporządzenie określające regulamin. Analogiczne rozwiązanie mogłoby zostać zastosowane w przypadku Rady i Komisji w Polsce. Zasady zwrotu kosztów przejazdów i noclegów związanych z udziałem w pracach Rady mogłyby zostać określone w regulaminie funkcjonowania Rady. Takie podejście umożliwiłoby udział specjalistów z różnych części kraju, którzy w przeciwnym razie mogliby być wykluczeni ze względu na bariery finansowe. Co więcej, warto rozważyć wprowadzenie możliwości ubiegania się o zwrot kosztów poniesionych w związku z udziałem w obradach Rady lub Komisji przez zaproszonych gości. Wprowadzenie możliwości ubiegania się o zwrot kosztów związanych z udziałem w obradach Rady lub Komisji przez zaproszonych gości mogłoby znacząco zwiększyć dostępność tych spotkań dla różnych grup społecznych, zwłaszcza dla młodych osób oraz ich opiekunów. Taki mechanizm stanowiłby formę wsparcia finansowego, pozwalającą zredukować bariery ekonomiczne, które mogą ograniczać ich zaangażowanie w procesy decyzyjne oraz konsultacyjne. Zapewnienie zwrotu kosztów dla zaproszonych gości, zwłaszcza przedstawicieli organizacji młodzieżowych, mogłoby być postrzegane jako gest w kierunku zapewnienia inkluzywności i równości szans, wskazując, że instytucje publiczne dostrzegają potrzebę większego zaangażowania społecznego oraz szanują czas i wysiłek każdej osoby, która chce wnieść wkład w dysk 80. Art. 8 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów Uwaga uwzględniona Kwestia procedury wyłączenia została uregulowana w nowej treści przepisów projektu. 81. Art. 8 NCBR Przepisy art. 8 należy uzupełnić o sformułowania wiążące się z kwestiami bezpieczeństwa stosowanych przez członków Komisji środków komunikacji - pamiętając, że mają oni posiadać dostęp Uwaga uwzględniona 65 oraz mają wymieniać informacje o charakterze poufnym, stanowiące tajemnice przedsiębiorstw. Należy więc zagwarantować przepisami, a co za tym idzie, również środkami technicznymi, bezpieczeństwo komunikacji w ramach Komisji. Uwaga uwzględniona poprzez rozszerzenie katalogu wymogów związanych z bezpieczeństwem cyfrowym oraz ochroną informacji. 82. Art. 8 Konfederacj a Lewiatan Rekomendujemy dodanie: Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji. Uzasadnienie: Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Uwaga uwzględniona Uwaga uwzględniona poprzez wskazanie uprawnień Komisji oraz Przewodniczącego Komisji. 83. Art. 8 ust. 2 i 9 UKNF Należy mieć na względzie, że tak sformułowany przepis wyłącza możliwość podejmowania decyzji w tzw. trybie obiegowym, a więc pozostaje w kolizji z ust. 9 Uwaga uwzględniona Uwaga uwzględniona poprez zmianę treści przepisów projektu określających sposób i tryb wykonywania zadań przez Komisję. 84. Art. 9 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.” Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 85. Art. 9 ust. 2 Konfederacj a lewiatan Uwaga lub propozycja zmiany zapisu: 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której podmiocie, którego są przedstawicielami. Uzasadnienie: Zmiana gramatyczna. Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 86. Art. 9 ust. 2 KRRiT w art. 9 ust. 2 wyrazy „w podmiotu, której” zostały błędnie odmienione; Uwaga wyjaśniona Uwaga nieaktualna ze względu na zmianę treści przepisów projektu. 87. Art. 9 ust. 2 Rada Legislacyjna [Błąd redakcyjny w art. 9 ust. 2 Projektu] W przepisie art. 9 ust. 2 Projektu występuje błąd redakcyjno-językowy, utrudniający lekturę i zrozumienie tego przepisu. W obecnym brzmieniu przepis ten Uwaga wyjaśniona Odstąpiono od regulacji. 66 stanowi co następuje: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami.”. Ta ostatnia część zdania jest całkowicie ułomna gramatycznie i powinna zostać poprawiona w następujący sposób: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. 88. Art. 10 ust. 3 UNKF Zgodnie z art. 5 ust. 3 projektu: „Nadzór nad działalnością Biura Komisji sprawuje Prezes Rady Ministrów”. Konsekwencją takiego założenia jest regulacja, zgodnie z którą Prezes Rady Ministrów nadaje statut Biura Komisji (art. 31 projektu). Z kolei, art. 10 ust. 3 projektu ustawy przewiduje, że: „Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia”. Należy mieć jednakże na uwadze, że w skład przyszłej Komisji wchodzić będą również przedstawicieli organów spoza sfery administracji rządowej - Prezesa UODO, RPO, KRRiT, a także KNF. Wobec powyższego należałoby rozważyć, czy bardziej odpowiednim rozwiązaniem nie będzie przyznanie Komisji ustawowej podstawy do samodzielnego uchwalenia regulaminu, który określi jej organizację i tryb pracy. Uwaga wyjaśniona Uwaga bezprzedmiotowa w kontekście dokonania przez projektodawcę zmian w treści przepisów regulujących sprawowanie nadzoru nad Biurem Komisji (w nowej wersji będącym w kompetencji Ministra wł. Ds. informatyzacji). 89. Art. 11 ust. 1 pkt 13, art. 13, art. 14 oraz art. 16 Pracodawcy RP Artykuły 11 ust. 1 pkt 13, 13, 14 oraz 16 przewidują możliwość wydawania interpretacji i rekomendacji przez Komisję, co wykracza poza kompetencje określone w Akcie w sprawie sztucznej inteligencji. Proponowane przepisy mogą prowadzić do niejednolitego stosowania prawa unijnego. Akt o AI (art. 66 lit. e) przyznaje takie uprawnienia wyłącznie unijnej Radzie ds. AI, aby zapewnić spójność i skuteczność wdrażania przepisów na poziomie całej Unii Europejskiej. W celu uniknięcia potencjalnych rozbieżności w interpretacji Aktu o AI przez różne państwa członkowskie oraz niejasności w stosowaniu przepisów przez międzynarodowe przedsiębiorstwa działające w Polsce i innych krajach, zaleca się usunięcie tych zapisów z ustawy. Uwaga uwzględniona Odstąpiono od propozycji utworzenia instytucji interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 67 90. Art. 11 NCBR Tworzenie piaskownic regulacyjnych, które umożliwią firmom testowanie nowych rozwiązań SI w kontrolowanym środowisku, wymaga doprecyzowania i uszczegółowienia. Przepisy ustawy jedynie wspominają o ich tworzeniu jako kompetencji Komisji, jednak w brakuje jasnych zasad funkcjonowania tych piaskownic, które pozwolą przedsiębiorstwom testować innowacyjne technologie z zachowaniem niezbędnych zabezpieczeń prawnych. Dla przykładu możliwość tworzenia piaskownic regulacyjnych przewidziano w prawie energetycznym. Prezes URE ma możliwość zawieszenia stosowania określonych przepisów w stosunku do określonych przedmiotów. Jeżeli Komisja funkcjonuje jako regulator rynku SI, powinna mieć analogiczne możliwości zapewnione na poziomie ustawy. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 91. Art. 11 ust 1 PUODO Podkreślenia wymaga na wstępie, że kluczowym atrybutem organu nadzorczego ds. ochrony danych osobowych w unijnym systemie ochrony danych jest jego niezależność, chroniona gwarancjami prawnymi czerpiącymi źródło w prawie UE (art. 16 TFUE oraz art. 8 KPP UE). Prawna ochrona niezależności organów ochrony danych osobowych ma na celu zapewnienie skuteczności i wiarygodności nadzoru przestrzegania przepisów dotyczących ochrony danych osobowych osób fizycznych i musi być interpretowana w świetle tego celu – na co wielokrotnie zwracał uwagę Trybunał Sprawiedliwości Unii Europejskiej5. Niezależność organu ochrony danych osobowych musi być rozpatrywana na kilku płaszczyznach, w tym przede wszystkim w aspekcie niezależności instytucjonalnej, czyli braku jakiejkolwiek podległości wobec innych organów oraz niezależności funkcjonalnej, czyli niepodlegania kontroli innych instytucji w zakresie realizacji swoich kompetencji6. Zwraca na to uwagę TSUE w swoim orzecznictwie, w szczególności w ww. wyroku w sprawie C- 614/10 Komisja przeciwko Austrii. Trybunał w tym wyroku wskazał, że organy nadzorcze w obszarze ochrony danych osobowych muszą pozostawać poza jakimkolwiek bezpośrednim czy pośrednim wpływem z zewnątrz, mogącym nadawać kierunek ich decyzjom. Z kolei w sprawie C- 288/12 Komisja przeciwko Węgrom Trybunał dodał, że nawet potencjalna możliwość wywarcia wpływu na decyzje organu Uwaga uwzględniona częściowo Kwestię niezależności organu ds. Ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu. 68 może być wystarczającą przeszkodą w niezależnym wykonywaniu zadań przez organ. Postanowienia aktu w sprawie sztucznej inteligencji w pełni przyjmują standard niezależności organu nadzorczego określony w rozporządzeniu 2016/679, wskazując w art. 2 ust. 7, że „Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Standard ten nie znalazł jednak wyrazu w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. Podkreślenia wymaga, że przyznanie wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) w zakresie „wykonywania zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689”, zgodnie z art. 11 ust. 1 pkt 7 projektu ustawy, oraz „sprawowania kontroli przestrzegania przepisów rozporządzenia 2024/1689”, zgodnie z art. 11 ust. 1 pkt 1 projektu ustawy, nie spełnia wymagań odnoszących się do zakresu kompetencji nadzorczych organu ds. ochrony danych osobowych określonych w prawie unijnym, w tym określonych wprost w rozporządzeniu 2024/1689 oraz rozporządzeniu 2016/679. To przepisy rozporządzenia 2016/679 stanowią podstawę dla nadzoru nad wszystkimi sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru w tej materii niezależnemu organowi nadzorczemu, tj. Prezesowi UODO. 92. Art 11 ust. 1 pkt 3-4 BGK Brak rozwinięcia w dalszej części Ustawy brzmienia tych zapisów, w jaki sposób, w jakim zakresie. Uwaga uwzględniona 69 Dokonano rozwinięcia przepisów będących przedmiotem uwagi (m.in. w rozdziale 8 - środki wspierające innowacyjność) 93. Art. 11 ust. 1 BGK Dodanie pkt 9: 9) prowadzenie badań w zakresie zastosowania sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację wpływu treści na podejmowane przez biznes działania; Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu podejmowanych działań Uwaga nieuwzględniona Obszar badań według projektodawcy mieści się w ramach innych zadań związanych m.in. z zapewnieniem odpowiedniego poziomu kompetencji w zakresie koniecznym do stosowania przepisów ustawy. 94. Art. 11 ust. 1 pkt 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 6. wydawanie postanowienia i decyzje postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy. Uzasadnienie: Pierwsza uwaga stanowi poprawkę gramatyczną. Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Uwaga częściowo uwzględniona 95. Art. 11 ust. 1 pkt 6 KRRiT w art. 11 ust. 1 pkt 6 wyrazy „postanowienia i decyzje” zostały błędnie odmienione; Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 96. Art. 11 ust. 1 pkt 6 UKNF Projektowany przepis stanowi, że: „Do zadań Komisji należy wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. Wydawanie decyzji i postanowień w sprawach dotyczących naruszeń przepisów ustawy jest jednakże formą, w której organ może realizować swoje kompetencje. Nie jest to jednakże samodzielne zadanie Komisji. Stąd też, UKNF poddaje pod rozwagę wykreślenie tego punktu bądź przyjęcie innej redakcji przepisu. Uwaga nieuwzględniona Zdaniem projektodawcy wskazany przepis powinien pozostać w projekcie ustawy w celu uniknięcia niejasności interpretacyjnych w stosowaniu nowego prawa. 97. Art. 11 ust. 1 pkt 6 Rada Legislacyjna [Usterka redakcyjna w art. 11 ust. 1 pkt 6 Projektu] Kolejna usterka redakcyjno- językowa występuje w art. 11 ust. 1 pkt 6 Projektu. Przepis ten stanowi, że „Do zadań Komisji należy [...] wydawanie postanowienia i decyzje w sprawach naruszenia Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 70 przepisów o systemach sztucznej inteligencji”. W przepisie tym należy poprawić deklinację, poprzez użycie wyrazów „postanowień i decyzji” w dopełniaczu. W efekcie, poprawne językowo brzmienie tego przepisu powinno być następujące: „Do zadań Komisji należy [...] wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji” 98. Art. 11 ust. 1 pkt 10 UKNF Niejasnym jest posłużenie się sformułowaniem „gromadzenie orzecznictwa”. Wątpliwym jest bowiem, aby celem projektodawcy było zobowiązanie Komisji do archiwizowania orzeczeń sądowych. Celem przepisu jest raczej zobowiązanie do bieżącego monitorowania orzecznictwa, a następnie informowania o nim obywateli. W związku z powyższym UKNF wnosi o zmianę projektowanego przepisu poprzez zastąpienie pojęcia „gromadzenie orzecznictwa” pojęciem „monitorowanie orzecznictwa”. Uwaga uwzględniona Uwaga uwzględniona w art. 9 pkt. 10, w którym zrezygnowano z potencjalnie niejednoznacznego zobowiązania do “gromadzenia” orzecznictwa. 99. Art. 11 ust. 1 pkt 11 KRRiT w art. 11 ust. 1 pkt 11 uprawnienie Komisji zostało ujęte zbyt ogólnie i w sposób niejasny – warto rozważyć możliwość prowadzenia sprofilowanych na określony zakres regulacji piaskownic regulacyjnych, także przez Prezesa UODO, Prezesa UOKiK, Prezesa UKE oraz przez KRRiT; Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 100. Art. 11 ust. 1 pkt 13 PUODO Interpretacje generalne i indywidualne. Zgodnie z art. 11 ust. 1 pkt 13 projektu ustawy do zadań Komisji należy dokonywanie interpretacji generalnych i indywidualnych. Wydawanie na zlecenie Komisji interpretacji generalnych i indywidualnych przez przedstawiciela Prezesa UODO będącego członkiem Komisji w opinii organu nadzorczego ds. ochrony danych budzi wątpliwości pod kątem stosowania art. 57 rozporządzenia 2016/679, w którym została określona niezależność. Prezes UODO nie może być związany interpretacją wydaną przez Komisję w kwestiach dotyczących ochrony danych osobowych. Uwaga uwzględniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 101. Art. 11 ust. 1 pkt 13 UKNF Zdaniem UKNF pojęcie „dokonywanie interpretacji” powinno zostać zastąpione pojęciem „wydawanie interpretacji”. Ponadto przepis wymaga ujednolicenia z zakresem art. 13 oraz z art. 14 projektu ustawy. Zgodnie bowiem z projektowanym art. 14 ust. 1 interpretacje w sprawie indywidualnej zastrzeżono do Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 71 zakresu zadań Przewodniczącego Komisji, a nie do Komisji działającej in gremio. 102. Art. 11 ust. 3 KRRiT w art. 11 ust. 3 błędnie odesłano do ust. 1; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 103. Art. 12 ust. 2 pkt 4 Rada Legislacyjna [Niepoprawne odwołanie się do pojęcia przedsiębiorstw w art. 12 ust. 2 pkt 4 Projektu] Przepis art. 12 ust. 2 pkt 4 Projektu odwołuje się do pojęcia „przedsiębiorstw”, podczas gdy prawidłowo powinna być w tym przepisie mowa o „przedsiębiorcach”. W aktualnym brzmieniu powołany przepis Projektu stanowi, że Komisja publikuje coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji „w przedsiębiorstwach w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236 i 1222)”. Tymczasem w tej powołanej ustawie Prawo przedsiębiorców nie tylko brak jest legalnej definicji pojęcia „przedsiębiorstw”, ale nawet samo to pojęcie w zasadzie w ogóle tam nie występuje (w ustawie tej mówi się co najwyżej o wyodrębnionej części przedsiębiorstwa). W ustawie Prawo przedsiębiorców kluczowe jest natomiast pojęcie „przedsiębiorcy”, zdefiniowane tam normatywnie w art. 4 ust. 1 i 2 (w zw. z art. 2). I właśnie do pojęcia „przedsiębiorców” powinien się docelowo odwoływać przepis art. 12 ust. 2 pkt 4 Projektu („u przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców”). Uwaga uwzględniona 104. Art. 13 ust. 1 BGK Propozycja: Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów (m.in. Poprzez rezygnację z kategorii “interpretacji”). 72 podstawie nazwy było wiadomo jaki dany dokument ma charakter 105. Art. 13 ust. 1 Rada Legislacyjna [Brak określenia skutków prawnych aktów Komisji w art. 13 ust. 1 Projektu] Art. 13 ust. 1 Projektu nie określa w ogóle skutków prawnych, jakie dla Komisji i dla zainteresowanych podmiotów będą wywierały wyjaśnienia, opinie i interpretacje, o których jest mowa w tym przepisie. Przepis ten stanowi co następuje: „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wyjaśnienia, opinie i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.”. Zdaniem Rady Legislacyjnej, bez przesądzenia w Projekcie o skutkach prawnych tego rodzaju wydawanych przez Komisję wyjaśnień, opinii i interpretacji (o charakterze generalno- abstrakcyjnym), ta instytucja prawna może nie mieć żadnego praktycznego znaczenia prawnego: jeżeli bowiem Komisja nie będzie się czuła związana tymi aktami (na zasadzie samozobowiązania się), zaś podmioty stosujące przepisy dotyczące systemów sztucznej inteligencji nie będą miały przekonania, iż te akty Komisji są dla niej wiążące i że mogą oni działać w zaufaniu do tychże aktów, bez ryzyka narażania się na sankcje z tytułu ich respektowania, to wówczas cała ta instytucja będzie jedynie fasadowa i będzie wręcz przynosiła więcej szkód niż pożytków (tzn. pojawi się chaos prawny, niepewność prawa, utrata zaufania jednostek do organów państwa, mnożące się roszczenia odszkodowawcze wobec państwa, itp.). Zdaniem Rady Legislacyjnej, de lege ferenda należy unormować status i skutki prawne wspomnianych generalnych aktów Komisji z art. 13 ust. 1 Projektu w sposób analogiczny do statusu i skutku objaśnień prawnych, o których jest mowa w art. 33 ust. 1 ustawy Prawo przedsiębiorców,15 a których skutki prawne wynikają z przepisów art. 35 ust. 1-2 w zw. z ust. 3 ustawy Prawo przedsiębiorców. Z tych ostatnich przepisów wynika, że objaśnienia prawne są z jednej strony wiążące dla organów państwa, które je wydały, zaś z drugiej strony nie wiążą one co prawda przedsiębiorców, w tym sensie, że nie obligują ich do postępowania wskazanego w danym objaśnieniu prawnym, ale Uwaga uwzględniona Problematyka skutków prawnych opinii (w miejsce “interpretacji”) indywidualnych oraz wyjaśnień jest przedmiotem zmian w nowej treści przepisów (nowe brzmienie art. 11-14). 73 równocześnie w zakresie, w jakim przedsiębiorca zastosował się do danych objaśnień prawnych nie może on być obciążony jakimikolwiek sankcjami administracyjnymi, finansowymi lub karami.16 Na gruncie art. 13 ust. 1 Projektu należałoby sformułować podobną regułę w odniesieniu do przewidzianych tam wyjaśnień, opinii i interpretacji Komisji, względnie też należałoby odesłać do odpowiedniego stosowania w tym zakresie odnośnych przepisów ustawy Prawo przedsiębiorców. 106. Art. 13 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę modyfikację fragmentu „wyjaśnienia, opinie i interpretacje”. Brak jest bowiem przepisów określających charakter tych wypowiedzi Komisji, co może budzić wątpliwości na etapie ich stosowania. Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów art. 11-14. 107. Art. 13 ust. 2 PFR Warto rozważyć uregulowanie sposobu publikacji i ewentualnego zanonimizowania danych wrażliwych, co zapewniłoby lepszą ochronę prywatności. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą anonimizowane. 108. Art. 13 ust. 2 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Ponadto w ten sposób na szeroką skalę ujawniony zostanie również sposób działania organu nadzoru. Urząd Komisji Nadzoru Finansowego rekomenduje przyjęcie zasad odnośnie do publikowania informacji o decyzjach przykładowo na kształt art. 87 ustawy z dnia 15 grudnia 2017 r. o dystrybucji ubezpieczeń bądź art. 3c ust. 5 i następne ustawy o nadzorze nad rynkiem finansowym. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą pozbawione treści prawnie chronionych. 109. Art.14 KRRiT W art. 14 nie określono jaki charakter ma mieć interpretacja wydawana przez Przewodniczącego Komisji, w szczególności nie wskazano czy będzie ona wiążąca i dla kogo, ponadto należałoby rozważyć dookreślenie kręgu podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie interpretacji; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 110. Art. 14 ust. 1-7 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przepisy art. 14 ust. 1-5 projektu ustawy nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach. Przepisy tego rodzaju ustawodawca przewidział np. w art. 35 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (dalej jako: „Prawo przedsiębiorców”) w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 74 Prawa przedsiębiorców, czy też w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (dalej jako: „Ordynacja podatkowa”). Ponadto UKNF proponuje rozważyć dodanie przepisu określającego, w jakich sytuacjach odmawia się wydania interpretacji indywidualnej, który mógłby wyłączać dopuszczalność wniosków o interpretację indywidualną lub tych elementów wniosku o interpretację indywidualną, które w dniu złożenia wniosku są objęte kontrolą Komisji lub postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub zostały już rozstrzygnięte co do istoty. Taki przepis zabezpieczałby Komisję przed wydawaniem interpretacji w sprawach wątpliwych, które byłyby dopiero przedmiotem badania przez Komisję i jednocześnie zapobiegałby sytuacjom, w których podmiot naruszający przepisy lub stwarzający określone ryzyka naruszeń uzyskiwałby korzystną dla siebie interpretację. Taki sposób zabezpieczenia przewidują przepisy Ordynacji podatkowej – art. 14b oraz przepisy ustawy o nadzorze nad rynkiem finansowym – art. 11b ust. 10. Ponadto, w ocenie UKNF, doprecyzować należy również, jakie są skutki uwzględnienia bądź nieuwzględnienia sprzeciwu, o którym mowa w art. 14 ust. 7 projektu ustawy. Zasadnym byłoby również doprecyzowanie, czy rozstrzygnięcie wydane w ramach rozpatrzenia sprzeciwu może zostać zaskarżone, a jeżeli tak, jaki organ byłby właściwy do rozpoznania takiego środka zaskarżenia. 111. Art. 14 ust. 1-5 Rada Legislacyjna Brak określenia skutków prawnych interpretacji z art. 14 ust. 1-5 Projektu] Przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach Projektu. Istota tychże interpretacji wyraża się w tym, że „Przewodniczący Komisji, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy” (art. 14 ust. 1 Projektu) oraz że „Interpretacja, o której mowa w ust. 1, zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 75 oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.” (art. 14 ust. 5 Projektu). Podobnie jak w przypadku generalno- abstrakcyjnych wyjaśnień, opinii i interpretacji, o których jest mowa w art. 13 ust. 1 Projektu, również w przypadku interpretacji indywidualnych przewidzianych w art. 14 ust. 1-5 Projektu nie zostały w Projekcie określone skutki prawne tych interpretacji dla wnioskodawcy oraz dla Komisji, chociażby w sposób dokonany przez ustawodawcę w art. 35 ustawy Prawo przedsiębiorców w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 ustawy Prawo przedsiębiorców. W odniesieniu do skutków interpretacji indywidualnych z art. 14 ust. 1-5 Projektu reguły określone w art. 34-35 ustawy Prawo przedsiębiorców nie mogą być stosowane wprost, gdyż, po pierwsze, przepisy art. 34-35 ustawy Prawo przedsiębiorców mają zastosowanie tylko do interpretacji w sprawach fiskalno-składkowych (tj. interpretacje te dotyczą wyjaśnienia co do zakresu i sposobu stosowania przepisów, z których wynika obowiązek świadczenia przez przedsiębiorcę daniny publicznej lub składek na ubezpieczenia społeczne lub zdrowotne, w jego indywidualnej sprawie), podczas gdy interpretacje indywidualne z art. 14 ust. 1-5 Projektu dotyczą nie tylko tego rodzaju spraw, a po drugie nie zawsze o interpretację do Przewodniczącego Komisji musi się zwracać przedsiębiorca w rozumieniu ustawy Prawo przedsiębiorców. Niemniej jednak, zdaniem Rady Legislacyjnej, w Projekcie należy unormować skutki prawne interpretacji indywidualnych z art. 14 ust. 1-5 Projektu w sposób analogiczny lub zbliżony do skutków interpretacji indywidualnych z ustawy Prawo przedsiębiorców. Przyjęcie tego stanowiska oznaczałoby, że interpretacje indywidualne z art. 14 ust. 1-5 Projektu są wiążące dla Komisji, a nie są wiążące dla wnioskodawcy (tj. dla podmiotu wnioskującego o interpretację Komisji w jego indywidualnej sprawie); ten ostatni może daną interpretację indywidualną zlekceważyć (pominąć), z tym, że jeżeli wnioskodawca zastosuje się do danej interpretacji w jego indywidualnej sprawie, to nie może on następnie ponieść negatywnych skutków tego stanu rzeczy, w szczególności zaś nie może zostać obciążony sankcjami za zachowanie zgodne z 76 uzyskaną interpretacją wydaną przez Przewodniczącego Komisji. 112. Art. 14 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na rozbieżność pomiędzy art. 14 ust. 1 a art. 11 ust. 1 pkt 13 i art. 15 projektu ustawy. W art. 11 ust. 1 pkt 13 projektu ustawy wskazano bowiem, że do zadań Komisji należy wydawanie interpretacji indywidualnych i generalnych; w art. 15 projektu ustawy, że to Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych, a z kolei zgodnie z aktualnym brzmieniem art. 14 ust. 1 projektu ustawy uprawnienie to, w zakresie interpretacji indywidualnych, przysługuje Przewodniczącemu Komisji. Niezbędnym wydaje się wyjaśnienie i ujednolicenie tej kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 113. Art. 14 ust. 1 PFR Nie określono, jak długo wnioskodawca ma oczekiwać na wydanie interpretacji. Wyznaczenie maksymalnych terminów oczekiwania byłoby korzystne dla przejrzystości procesu. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 114. Art. 14 ust. 1 IAB Polska Rekomendujemy dodanie terminu za wydanie takiej interpretacji, aby zarówno podmiot zainteresowany, jak i Komisja (por. poniższy akapit) poruszali się w tym zakresie w ramach konkretnego zakresu czasowego. W tym zakresie można wykorzystać przepisy dot. Komisji Nadzoru Finansowego z art. 11b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym. Biorąc pod uwagę powyższe, interpretację powinna wydawać Komisja, a nie przewodniczący, biorąc pod uwagę wzorowanie się na już obecnych zasadach funkcjonowania Komisji Nadzoru Finansowego. Jednocześnie powinien zostać przewidziany tryb odwołania od decyzji Komisji ws. interpretacji indywidualnej na wzór skargi do sądu administracyjnego na indywidualną interpretację podatkową (np. do SOKiK). Wskazany w art. 14 ust. 1 projektu ustawy tryb przypomina tryb wydawania interpretacji podatkowych. O ile pozytywnie należy ocenić, że Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) może wspierać uczestników rynku w interpretowania AI Actu (patrz jednak zastrzeżenie dot. fragmentaryzacji prawa poniżej), o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 77 To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. Niemniej, chcemy zwrócić uwagę, że instytucja interpretacji przepisów AI Act na poziomie lokalnym nie znajduje uzasadnienia w samym AI Act. Zgodnie z AI Act to unijna Rada ds. AI może wydawać zalecenia i opinie “na temat wszelkich istotnych zagadnień związanych z wdrażaniem rozporządzenia”. Rozwiązanie przyjęte w Projekcie rodzi ryzyko znacznej fragmentaryzacji prawa unijnego, które będzie różnie interpretowane w państwach członkowskich. Zasadne byłoby, w przypadku decyzji o utrzymaniu tej instytucji, opracowanie procesów gwarantujących spójność interpretacji ze stanowiskami Rady ds. AI lub innymi organami na poziomie państw członkowskich. 115. Art. 14 ust. 1 Konfederacj a Lewiatan Rekomendacja uzupełnienia: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystapił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem że działania tego podmiotu w Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 78 zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. Uzasadnienie: Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jesrt Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. Postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. 116. Art. 14 ust. 2 PFR Proponujemy doprecyzowanie formy składania tego wniosku, wydania interpretacji oraz składania sprzeciwu od tej interpretacji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 117. Art. 14 ust. 3 Rzecznik MŚP Wnoszę o rozważenie wykreślenia: przesłanki \"wyczerpującego przedstawienia zaistniałego stanu faktycznego albo zdarzenia przyszłego” zawartej w art. 14 ust. 3 Projektu, w celu pozyskania interpretacji w indywidualnej sprawie przepisów rozporządzenia 2024/1689? w świetle ustawy Prawo przedsiębiorców. Tak Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 79 sformułowana przesłanka może być zbyt rygorystyczna i sprzeczna z przesłankami uzyskania takiej interpretacji określonymi w art. 34 ust. 1 i 3-4 Prawa przedsiębiorców. W tym kontekście ze względu na wprowadzenie przesłanki „wyczerpania”, uzasadniona może być obawa o nadużywanie jej w celu zbyt łatwej możliwości odrzucania wniosków o interpretacje indywidualne przedsiębiorców, zwłaszcza, że powstają dopiero pierwsze systemy sztucznej inteligencji i uregulowania ich dotyczące; wymóg przedstawiania w sposób „wyczerpujący” tanu faktycznego albo zdarzenia przyszłego można uznać zasadniczo za barierę sprzeczną z art. 67 pkt 1 i 4 oraz art. 68 Prawa przedsiębiorców, 118. Art. 14 ust. 5 BGK Propozycja „5. Komisja wydaje interpretację, o której mowa w ust. 1, w ciągu 30 dni od dnia otrzymania wniosku. Interpretacja zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.”. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 119. Art. 14 ust. 5 Konfederacj a Lewiatan Przepis wymaga doprecyzowania terminu wydawania interpretacji, skutków jej wydania oraz czy jest wiążąca w określonym stanie faktycznym. Zwiększy to jasność i precyzję przepisu, co zapewni pewność prawną. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 120. Art. 14 po ust. 5 BGK Dodanie ustępu 5a: Uwaga wyjaśniona 80 5a. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli. Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 121. Art. 14 ust. 6 i 7 Konfederacj a Lewiatan Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Uzasadnienie: Ustawa nie określa: • formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; • do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? • formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąc, że ma odpowiednie zastosowanie w sprawach niuregulowanych bo nie reguluje tych kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 122. Art. 14 ust. 6 i 7 Rada Legislacyjna [Brak przesądzenia o formie prawnej rozstrzygnięcia oraz o drodze sądowej w art. 14 ust. 6-7 Projektu] Przepisy art. 14 ust. 6-7 Projektu nie przesądzają o formie prawnej przewidzianego tam rozstrzygnięcia przez Komisje sprzeciwu oraz nie mówią nic o tym, czy od rozstrzygnięcia przez Komisję tego sprzeciwu wnioskodawcy przysługuje środek zaskarżenia przed sądem. Sprzeciw, o którym jest mowa w art. 14 ust. 6-7 Projektu Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 81 przysługuje wnioskodawcy wobec uzyskanej w jego indywidualnej sprawie interpretacji wydanej przez Przewodniczącego Komisji, przy czym sprzeciw wnioskodawcy jest rozpatrywany przez całą Komisję. W Projekcie nie określono formy prawnej rozstrzygnięcia przez Komisję wspomnianego sprzeciwu, a w efekcie nie wiadomo, czy ma to następować w formie decyzji, postanowienia lub innego aktu Komisji. W efekcie, nie jest też przesądzona możliwość oraz forma (droga) zaskarżenia przez wnioskodawcę rozstrzygnięcia Komisji w sprawie jego sprzeciwu. Gdyby rozstrzygnięcie omawianego sprzeciwu następowało w formie decyzji lub postanowienia Komisji, to wówczas otwarta byłaby w tych sprawach droga sądowa przed sądem administracyjnym, choć teoretycznie można by wówczas postulować de lege ferenda również możliwość wniesienia, odpowiednio, odwołania lub zażalenia do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej: „SOKiK”), tak jak o tym wyraźnie przesądzono w art. 57 ust. 1 Projektu w odniesieniu do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 („Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”). Gdyby natomiast rozstrzygnięcie przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu, następowało w formie innego aktu lub czynności niż decyzja lub postanowienie, to wówczas teoretycznie akt taki można by zaskarżyć do sądu administracyjnego na podstawie art. 3 § 2 pkt 4 ustawy z dnia 30 sierpnia 2002 r. Prawo o postępowaniu przed sądami administracyjnymi.17 Ten ostatni przepis pozwala zaskarżać do sądu administracyjnego „inne niż określone w pkt 1-3 akty lub czynności z zakresu administracji publicznej dotyczące uprawnień lub obowiązków wynikających z przepisów prawa”. Jednakże możliwość wykorzystywania tego przepisu do otwarcia drogi sądowej od rozstrzygnięcia przez Komisję sprzeciwu w sprawach interpretacji indywidualnych nie jest wcale taka pewna, gdyż, jak jest o tym mowa wyżej w punkcie II.10 niniejszej opinii, przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych wywieranych przez interpretacje indywidualne wydawane przez Przewodniczącego Komisji, a 82 zatem nie wiadomo, czy rozstrzygnięcia Komisji w sprawie sprzeciwu od interpretacji dotyczą „uprawnień lub obowiązków wynikających z przepisów prawa” w rozumieniu art. 3 § 2 pkt 4 ustawy Prawo o postępowaniu przed sądami administracyjnymi. W przekonaniu Rady Legislacyjnej, w przepisach Projektu należy określić zarówno formę prawną rozstrzygnięcia przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu (np. decyzja lub postanowienie Komisji), jak też środek (drogę) zaskarżenia tego rozstrzygnięcia (np. skarga do sądu administracyjnego albo odwołanie lub zażalenie do SOKiK). 123. Art. 14 ust. 6 Konfederacj a Lewiatan Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstanycjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 124. art. 14 ust. 7 BGK Propozycja: „7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio.” Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 125. Art. 14 ust. 7 PFR Wskazane jest uregulowanie procedury odwoławczej poprzez umożliwienie rozpatrzenia sprawy przez odpowiedni sąd po złożeniu skargi. Uwaga wyjaśniona Uwaga nieaktualna – w nowej wersji projektu dokonano modyfikacji przepisów w zakresie będącym przedmiotem uwagi. 83 126. Art. 15 i art. 13 ust. 1 Rada Legislacyjna [Brak czytelnej różnicy pomiędzy przepisami art. 13 ust. 1 i art. 15 Projektu] Nie do końca wiadomo, czym różnią się od siebie w sensie normatywno-prawnym instytucje unormowane w art. 13 ust. 1 Projektu (z jednej strony) oraz w art. 15 Projektu (z drugiej strony). Jak była już o tym mowa, art. 13 ust. 1 zd. 1 Projektu stanowi, że „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji.”. Z kolei art. 15 Projektu stanowi, że „Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy.”. Kwalitatywna różnica pomiędzy obu wskazanymi instytucjami prawnymi jest absolutnie nieczytelna (w obu przypadkach chodzi w istocie o generalne akty interpretacyjne wydawane przez Komisję i przedstawiające jej stanowisko w sprawie interpretacji przepisów Rozporządzenia UE 2024/1689 lub Projektu), przy czym w art. 15 Projektu, tak samo jak w art. 13 i 14 Projektu, nie określono skutków prawnych interpretacji generalnych wydawanych przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 127. art. 15 BGK Propozycja: Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z tym, że taka osoba nie może być obciążona sankcjami administracyjnymi, finansowymi lub karami w zakresie, w jakim zastosował się do interpretacji generalnej. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 84 stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. 128. Art. 15 Konfederacj a Lewiatan Podobnie jak w przypadku art. 14 ust. 5, przepis wymaga doprecyzowania Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 129. Art. 16 IAB Polska Biorąc pod uwagę publiczność interpretacji – rekomendujemy wprowadzenie procedury wykluczania z publikacji informacji stanowiących tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 130. Art. 16 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 131. Art. 17 ust. 1 KRRiT w art. 17 ust. 1 w pkt 3 i 4 wskazano, że roczne sprawozdanie Komisji w zakresie zadań realizowanych przez Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz w zakresie realizacji rocznego planu finansowego mają dotyczyć roku poprzedzającego złożenie sprawozdania (w pkt. 3 wskazano na rok poprzedzający, a w pkt. 4 odniesiono się do roku kalendarzowego poprzedzającego), natomiast pkt 1 i 2 przepisu nie posiada takiego doprecyzowania – wątpliwości interpretacyjne może budzić fakt, czy kwestie wskazane w pkt 1 i 2 przepisu mają dotyczyć roku poprzedzającego złożenie Uwaga uwzględniona Treść przepisów rozróżnia obowiązki sprawozdawcze dotyczące roku poprzedzającego złożenie sprawozdania, a także obowiązki dotyczące przedstawienia informacji nt. wszystkich lat działalności Komisji. 85 sprawozdania, tym bardziej, że zdanie wprowadzające do wyliczeń nie odnosi się do tej kwestii; 132. Art. 18 NCBR W wątpliwość należy poddać, czy ujęte w przepisach art. 18 ust. 2 pkt 4 kompetencje Przewodniczącego Komisji są wystarczające do pełnienia tej funkcji. Istotne jest, aby była to osoba o wysokich kompetencjach merytorycznych oraz dłuższym aniżeli trzyletnie doświadczeniu w zakresie objętym ustawą. Uwaga wyjaśniona Przepis otrzymał nowe brzmienie, natomiast ze względu na nowatorski charakter aktualnie rozwijanych i stosowanych technologii sztucznej inteligencji zachowano wymóg 3 lat pracy na stanowisku kierowniczym. 133. Art. 18 ust. 2 pkt 4 BGK Propozycja: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych; Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). Uwaga nieuwzględniona Zdaniem projektodawcy nie należy dokonywać wskazanego dookreślenia. 134. Art. 18 ust. 2 pkt 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; Uzasadnienie: Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeslo nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującycm działalność w obszarach wskazanych, co sugeruje że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w Uwaga nieuwzględniona Zdaniem projektodawcy nie ma konieczności dokonania wskazanych zmian ze względu na bliskie znaczenie obu wersji projektowanego przepisu. 86 firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. 135. Art. 20 NCBR Postępowanie na stanowisko Przewodniczącego przeprowadza trzyosobowa komisja kwalifikacyjna, która ocenia kompetencje kierownicze kandydata na Przewodniczącego, alternatywnie wspomagając się tym zewnętrznym ekspertem (art. 20 ust. 4 i 5). W ustawie brakuje informacji, jakie rzeczywiste kompetencje do oceny kandydatów na Przewodniczącego Komisji powinny posiadać osoby oceniające kandydatów. Uwaga nieuwzględniona Zmiana sposobu powołania przewodniczącego Komisji na rzecz powołania przez Sejm za zgodą Senatu. 136. Art. 20 Konfederacj a Lewiatan Zapytanie: Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? 137. Art. 20 ust. 2 IAB Polska W celu promocji dobrych praktyk rynkowych oraz dla celów transparentności Komisji – rekomendujemy dodanie punktu tworzącego obowiązek przekazania danych o wynagrodzeniu Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w art. 15 ust. 2 pkt. 6. 138. Art. 20 ust. 2 pkt 5 KRRiT w art. 20 ust. 2 pkt 5 powinno się nadać brzmienie: „5) wymagane dokumenty”; Uwaga uwzględniona 139. Art. 20 ust. 5 KRRiT w art. 20 ust. 5 błędnie odesłano do ust. 3; Uwaga uwzględniona 140. Art. 20 ust. 5 PFR Wydaje się, iż w tym miejscu powinno być odwołanie do kompetencji z ust. 4. Wskazany ust. 3 nie mówi o żadnych kompetencjach. Uwaga uwzględniona 141. Art. 20 ust. 5 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na błędne odwołanie w treści przepisu. O wiedzy i kompetencjach kierowniczych jest bowiem mowa w art. 20 ust. 4 projektu ustawy, a nie w ust. 3 jak wskazano w projektowanym przepisie. Przepis w ust. 3 stanowi o terminie składania dokumentów. Niezbędna jest korekta w zakresie odesłania do prawidłowej jednostki redakcyjnej (ust. 4). Uwaga uwzględniona 142. Art. 20 ust. 8 KRRiT w art. 20 ust. 8 katalog informacji zawartych w protokole z przeprowadzonego naboru powinien zostać uzupełniony o informację o niewyłonieniu kandydata, zwłaszcza, że protokół zawierać ma informację o powodach niewyłonienia kandydata; Uwaga uwzględniona Uwaga uwzględniona w art. 18 ust. 11 pkt 5 143. Art. 20 ust. 8 UKNF Ustęp ten dotyczy informacji ujawnianych w protokole komisji kwalifikacyjnej z przeprowadzonego naboru na stanowisko Uwaga nieuwzględniona 87 Przewodniczącego Komisji. W art. 20 ust. 5 projektu ustawy wskazano na możliwość uczestnictwa w ocenie wiedzy i kompetencji kierowniczych kandydata na stanowisko Przewodniczącego Komisji osoby niebędącej członkiem komisji kwalifikacyjnej. W ocenie UKNF zasadnym byłoby, aby w sytuacji uczestnictwa takiej osoby, była ona także wskazana w ww. protokole obok składu komisji kwalifikacyjnej, tak aby protokół odpowiadał stanowi faktycznemu i uwzględniał wszystkie osoby rzeczywiście zaangażowane w proces wyboru Przewodniczącego Komisji. 144. Art. 23 ust. 1 KRRiT w art. 23 ust. 1 błędnie odesłano do art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce; Uwaga uwzględniona 145. Art. 23 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce, do którego odwołuje się art. 23 ust. 1 projektu ustawy, nie zawiera wykazu stanowisk, lecz wykaz podmiotów składających się na system szkolnictwa wyższego i nauki (tj.: uczelnie, PAN, instytuty naukowe, instytuty badawcze itd.). Z tego względu niezbędne jest przeredagowanie niniejszego przepisu, tak aby odpowiadał wskazanemu odesłaniu. Uwaga uwzględniona 146. Art. 23 ust. 1 IAB Polska Treść art. 7 ust. 1 ustawy z 20.7.2018 r. - Prawo o szkolnictwie wyższym i nauce nie zawiera określenia stanowisk w systemie szkolnictwa wyższego i nauki, a wykaz podmiotów ten system tworzących. Tym samym należy zmienić wskazany przepis i określić, że chodzi o stanowisko w ramach ww. podmiotów lub też wymienić określone stanowiska wprost w przepisie, czyli tak jak dokonano tego np. przy okazji regulowania sytuacji prawnej Prezesa Urzędu Ochrony Konkurencji i Konsumentów (por. art. 29 ust. 3aa ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów). Uwaga uwzględniona 147. Art. 23 ust. 1 Rada Legislacyjna [Błąd merytoryczno-językowy w art. 23 ust. 1 Projektu] W art. 23 ust. 1 Projektu występuje niepoprawne odwołanie się do pojęcia „stanowiska, o którym mowa [w] art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce” („Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska, o którym mowa art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”). Tymczasem w art. 7 ust. 1 ustawy Prawo o szkolnictwie wyższym i nauce nie Uwaga uwzględniona 88 ma bynajmniej mowy o jakichkolwiek „stanowiskach”, natomiast zostały tam wymienione podmioty tworzące w Polsce system szkolnictwa wyższego i nauki (np. uczelnie, Polska Akademia Nauk, itp.). W związku z powyższym Rada Legislacyjna proponuje nadać tej części przepisu art. 23 ust. 1 Projektu następujące brzmienie: „Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska w podmiocie, o którym mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”. 148. Art. 23 ust. 2 KRRiT w art. 23 ust. 2 wyrazy „jego funkcji” należy zastąpić wyrazami „ich funkcji”; Uwaga uwzględniona 149. Art. 23 ust. 2 `OPZZ OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. Uwzględniona nieuwzględniona Z powodu zmiany organizacji Komisji (Państwowa Inspekcja Pracy jako stały członek Komisji) oraz przepisów regulujących działanie Społecznej Rady sprawy rynku pracy i ochrony praw pracowników według projektodawców będą miały zapewnioną odpowiednią reprezentację. 150. Art. 24 OPZZ Pragnę zwrócić także uwagę, że w ocenie OPZZ pracownicy Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinni być zatrudnieni wyłącznie w oparciu o umowę o pracę, co zapewni pełną niezależność i przejrzystość działań Biura Komisji. Uważamy, że w administracji publicznej powinny dominować umowy o pracę. Taki model zatrudnienia jest niezbędny dla utrzymania najwyższych standardów pracy, które są kluczowe w instytucji odpowiedzialnej za nadzór nad Uwaga nieuwzględniona Ze względu na specyfikę sektora technologii sztucznej inteligencji taki wymóg mógłby wpłynąć negatywnie na możliwości budowy zespołów o wymaganych kompetencjach. Kwestie potencjalnego ryzyka takiego rozwiązania adresowane są poprzez przepisy mówiące o zakazie konfliktu interesów. 89 zaawansowanymi technologiami, jakimi są algorytmy i systemy sztucznej inteligencji. Zatrudnienie w oparciu o umowy cywilnoprawne, takie jak umowy zlecenia czy umowy o dzieło, ze względu na swój charakter, może budzić wątpliwości co do pełnej niezależności zatrudnionych osób, zwłaszcza w przypadku zadań o kluczowym znaczeniu dla państwa. 151. Art. 25 ust. 3, art. 27 oraz art. 61 Pracodawcy RP Ustawa nie zapewnia wystarczających zabezpieczeń chroniących poufność danych pozyskiwanych przez Komisję, co może negatywnie wpłynąć na interesy przedsiębiorstw i ich partnerów. Członkowie Komisji posiadają szerokie uprawnienia do przetwarzania i udostępniania informacji objętych tajemnicą prawnie, co stanowi poważne zagrożenie dla prywatności firm. Proponujemy wprowadzenie ograniczeń w zakresie udostępniania i przetwarzania informacji stanowiących tajemnicę przedsiębiorstwa. W szczególności, przetwarzanie danych poufnych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, zgodnie z wymogami artykułu 78 ustęp 2 Aktu o AI, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów firm. Uwaga nieuwzględniona Wymóg możliwości przetwarzania danych jest konieczny dla zapewnienia stosowania przepisów. Jednocześnie, kwestie poufności i bezpieczeństwa informacji gwarantowane są przez odpowiednie przepisy dot. poufności, przetwarzania i gromadzenia danych osobowych czy odpowiedniego poziomu zabezpieczenia środków komunikacji. 152. Art. 25 ust. 1-3 KRRiT w art. 25 ust. 1-3 wskazano na „tajemnice prawnie chronione”, przy czym termin ten obejmujące ponad 60 kategorii, w tym także informacje niejawne, podczas gdy uzyskanie dostępu do informacji niejawnych od poufnych wzwyż wiąże się z koniecznością posiadania odpowiedniego poświadczenia wydawanego, co do zasady, przez ABW; Uwaga wyjaśniona Treść przepisu uległa zmianie. 153. Art. 25 ust. 1 UKNF Artykuł25 ust. 1 projektowanej ustawy wskazuje podmioty zobowiązane zachować w poufności „tajemnice prawnie chronione”. Nie jest jasne, czy przepis dotyczy wyłącznie informacji chronionych na podstawie innych ustaw, czy też tworzy nowy rodzaj tajemnicy. Koniecznym jest zweryfikowanie, czy przepis ten nie utrudni wymiany informacji na podstawie rozporządzenia 1689/2024 oraz projektowanej ustawy w zakresie m.in. postępowania przed KRiBSI, notyfikacji jednostek oceniających zgodność oraz udzielania autoryzacji. W ocenie UKNF określony w art. 25 ust. 1 projektu ustawy obowiązek zachowania tajemnicy nie jest wystarczający. Z Uwaga częściowo uwzględniona Uwaga zaadresowana przez doprecyzowanie w nowej wersji projektu kategorii informacji, które podlegają ochronie. Według projektodawcy z treści przepisów nie wynika potrzeba utworzenia nowej kategorii przepisów prawnie chronionych, a przepisy projektu odnoszą się do danych objętych ochroną na podstawie obowiązujących przepisów (ochrona danych osobowych, tajemnica przedsiębiorstwa). 90 przepisu tego wynika, że wymienione tu osoby są zobowiązane do zachowania w tajemnicy „tajemnicy prawnie chronionej”. Przez „tajemnicę prawnie chronioną” rozumieć należy określone informacje, które za tajemnicę uznają przepisy prawa. W związku z tym, z przepisu tego (art. 25 ust. 1) wynika obowiązek zachowania w poufności wyłącznie tych informacji, którym określone przepisy prawa (ustawy) przyznają status informacji objętych tajemnicą, np. tajemnica ubezpieczeniowa, tajemnica korespondencji, czy tajemnica agencyjna. Natomiast w stosunku do innych informacji nie ma wymogu zachowania ich w tajemnicy, co dotyczy w szczególności informacji uzyskanych przez Komisję i pracowników Biura Komisji w trakcie sprawowania nadzoru nad podmiotami podlegającymi takiemu nadzorowi. Tym bowiem informacjom przepisy prawa nie przyznają statusu tajemnicy. Takie informacje nie muszą więc podlegać poufności. W ocenie UKNF zasadne jest rozważenie zmiany podejścia. Co prawda, projektowany przepis art. 25 został zbudowany w sposób analogiczny do art. 16 ustawy o nadzorze finansowym. Nie sposób jednak tracić z pola widzenia, że rzeczony art. 16 odsyła do tajemnic prawnie chronionych określonych w ustawach sektorowych, których odrębne przepisy stanowią o tajemnicach nadzoru poszczególnych sektorów rynku finansowego. Stanowią one, że informacje pozyskane i wytworzone w związku z wykonywaniem czynności nadzorczych stanowią tajemnicę prawnie chronioną. Analogicznej regulacji nie sposób zdekodować z projektowanych przepisów. W związku z powyższym, UKNF poddaje pod rozwagę, aby przepis ten konstruował nowy rodzaj tajemnicy nadzoru nad systemami AI. Warto rozważyć jego utworzenie na zasadzie analogicznej jak art. 10a ust. 1 i 2 ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe, który to przepis stanowi, że: „Przewodniczący Komisji Nadzoru Finansowego, jego zastępcy, członkowie Komisji Nadzoru Finansowego, pracownicy Urzędu Komisji Nadzoru Finansowego i osoby zatrudnione w Urzędzie Komisji Nadzoru Finansowego na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze, są obowiązani do zachowania tajemnicy zawodowej. Natomiast za tajemnicę zawodową uznaje „wszystkie uzyskane lub 91 wytworzone w związku ze sprawowaniem nadzoru bankowego informacje, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą lub utrudnić sprawowanie nadzoru bankowego.”. 154. Art. 25 ust. 2 UOKIK Projektowany przepis nie precyzuje czy informacje, które mogą być wzajemnie przekazywane w ramach prac Komisji to informacje uzyskane wyłącznie w związku z wykonywaniem zadań w Komisji, czy też wszystkie informacje, także prawnie chronione, które członkowie Komisji posiadają w związku z wykonywaniem działalności w ramach poszczególnych jednostek, w których są zatrudnieni. W związku z powyższym należy doprecyzować przepis poprzez zawężenie go do informacji uzyskanych w toku prac Komisji. Jeżeli jednak zamiarem projektodawcy jest umożliwienie wymiany wszystkich informacji, w tym prawnie chronionych, w posiadaniu których są członkowie Komisji, to niezębne pozostaje wyłączenie z takiej możliwości przedstawiciela Prezesa Urzędu Ochrony Konkurencji i Konsumentów. Obowiązujące Prezesa Urzędu Ochrony Konkurencji i Konsumentów przepisy ustawy z dnia 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz. U. poz. 594, z późn. zm.), zwanej dalej „uokk”, zawierają ścisłe ograniczenia co do możliwości przekazywania innym podmiotom (w tym innym organom) informacji pozyskanych w ramach postępowań prowadzonych na jej podstawie. Przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach.1 Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych Uwaga uwzględniona Doprecyzowano treść przepisu uwzględniając ograniczenie zakresu informacji objętych jego treścią. W nowej wersji (art. 23) według projektodawcy przepisy są zgodne z wskazanym w uwadze (art. 73 uokik), co zapewni możliwość współpracy między organami w zakresie określonym w ustawie i rozporządzeniu 2024/1689. 92 przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności.2 Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Zgodnie z nim, informacje pozyskane w toku postępowań prowadzonych na podstawie ustawy mogą być wykorzystane wyłącznie w przypadku: 1) postępowania karnego prowadzonego w trybie publicznoskargowym lub postępowania karno-skarbowego; 2) innych postępowań prowadzonych przez Prezesa Urzędu; 3) wymiany informacji z Komisją Europejską i organami ochrony konkurencji państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr 1/2003/WE; 4) wymiany informacji z Komisją Europejską i właściwymi organami państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr2017/2394; 5) przekazywania właściwym organom informacji, które mogą wskazywać na naruszenie odrębnych przepisów; 6) postępowania cywilnego o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji w rozumieniu ustawy z dnia 21 kwietnia 2017 r. o roszczeniach o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji (Dz. U. poz. 1132) - w zakresie, w jakim przepisy wymienionej ustawy zezwalają na wykorzystanie informacji, o których mowa w ust. 1. Dodatkowo, zgodnie z art. 73 ust. 3 uokk Prezes Urzędu udostępnia organom regulacyjnym w dziedzinie rynku usług telekomunikacyjnych i pocztowych oraz gospodarki paliwami i energią oraz Przewodniczącemu Komisji Nadzoru Finansowego informacje, w tym wyniki badań i analiz rynkowych, niezbędne w postępowaniach prowadzonych przez te organy, z wyjątkiem informacji: 1) co do których obowiązek zachowania poufności wynika z zobowiązań 93 międzynarodowych, w szczególności informacji uzyskanych w toku postępowań wszczętych na podstawie art. 101 lub art. 102 TFUE; 2) których mowa w art. 70 ust. 1 i 2 Ustawy (oświadczenia składane w ramach programu łagodzenia kar oraz w ramach procedury dobrowolnego poddania się karze pieniężnej). Wobec powyższych ograniczeń projektowany art. 25 ust. 2 pozostaje w kolizji z obwiązującymi przepisami uokk. 155. Art. 25 ust. 3 UKNF W przepisie tym wskazano, komu członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, czy informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. przykładowo czy Przedstawiciel KNF uprawniony będzie do przekazania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 6 ust. 3 projektu ustawy. Uwaga nieuwzględniona Zmiana treści przepisów regulujących uprawnienia w zakresie gromadzenia, przetwarzania i wymiany informacji między członkami Komisji oraz pracownikami Biura Komisji. 156. Art. 25 ust. 3 Konfederacj a Lewiatan Zdaniem KL to uprawnienie powinno być ograniczone do przygotowania opinii lub stanowisk związanych z pracami Komisji nad systemami służącymi do wykonywania zadań publicznych. Brak uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Uwaga w zw. z art. 43 ust. 1 pkt. 2 Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Wymaga to dopisania ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania takiej tajemnicy, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 Uwaga uwzględniona Zmiana treści przepisu uwzględniająca podnoszony w uwadze wymóg (art. 40 ust. 9). 94 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. 157. Art. 25 ust. 3 BGK Propozycja: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga częściowo uwzględniona Tryb uzyskiwania informacji będących przedmiotem uwagi podmiotom właściwym w obszarze zwalczania i przeciwdziałania przestępczości oraz zapewnieniu bezpieczeństwa publicznego określony jest w nowej treści przepisów art. 22. 158. Art. 25 ust. 3 ZPP W tym samym obszarze uwagę zwraca art. 25 ust. 3 uprawniający członków Komisji do udostępniania informacji uzyskanych w związku z uczestnictwem w pracach organu, w tym również tajemnic prawnie chronionych, funkcjonariuszom, żołnierzom i pracownikom m.in. ABW, CBA, SKW, policji, czy prokuratury. Wydaje się, że projektodawca przewidział zbyt słabe gwarancje ochrony tajemnic przedsiębiorstwa i innych prawnie chronionych informacji wrażliwych. Przesłanki udostępnienia informacji (bardzo szczątkowe i ogólne – ma się to odbywać „w ramach obowiązków służbowych” i „w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji”), a także ich nieograniczony przedmiotowo zakres oraz szeroki Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na modyfikację przepisów w aktualnej wersji projektu ustawy. 95 katalog podmiotów, którym informacje mogą te być udzielone, budzą nasze daleko idące wątpliwości. 159. Art. 25 ust. 3 IAB Polska Na podstawie tego postanowienia nie jest jasne, jakie rodzaje opinii lub stanowisk bezpośrednio związanych z pracą Komisji wymagałyby udostępnienia informacji poufnych wskazanym w przepisie organom. Takie udostępnianie informacji nie wynika z treści AI Act. Tym samym przepis należałoby usunąć (i pozostawić do wprowadzenia w ew. nowelizacji ustawy niezwiązanej z wdrażaniem AI Act) lub dookreślić w zakresie podstawy z AI Act, która wskazywałaby na zasadność i konieczność jego wprowadzenia w ustawie wdrażającej to unijne rozporządzenie. Alternatywnie zwracamy uwagę, że aktualna wersja projektu nie zapewnia odpowiedniego poziomu ochrony informacji chronionych, co stanowi poważne zagrożenie dla prywatności podmiotów gospodarczych. Przetwarzanie danych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, tak jak ma to miejsce w art. 78 ust. 2 AI Act. Podobną uwagę należy zgłosić także w kontekście art. 27 oraz art. 61 Projektu. Uwaga wyjaśniona Przepis został zmodyfikowany w oparciu o uwagę w celu doprecyzowania obowiązków w zakresie ochrony danych będących tajemnicą przedsiębiorstwa. 160. Art. 26 KRRiT art. 26 ust. 1, 5 i 6 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; Uwaga uwzględniona 161. Art. 26 ust. 1 PUODO Wątpliwości budzi art. 26 ust. 1 projektu ustawy, który stanowi, że „W celu realizacji zadań, o których mowa w art. 11 ust. 1, Komisja przetwarza dane osobowe, obejmujące także dane określone w art. 9 ust. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 [...], w zakresie i w celu niezbędnym do realizacji tych zadań”. Wskazać należy, że obowiązek administratora w kwestii zabezpieczenia danych osobowych na mocy rozporządzenia 2016/679 dotyczy wszystkich danych osobowych (a nie jedynie danych szczególnych kategorii). Wskazanie w projekcie tego wymogu w odniesieniu wyłącznie do danych szczególnej kategorii jest zbędne i może prowadzić do wątpliwości interpretacyjnych w zakresie zabezpieczania danych zwykłych. Projektodawca nie powinien różnicować zabezpieczania danych ze względu na ich kategorię. Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej werjsi przepisów (art. 23-24). Zmiana terminów używanych w przepisie (aktualna treść art. 23-24) odpowiada na uwagę dot. potencjalnie wybiórczego wskazania w przepisie kategorii danych osobowych. 162. Art. 26 ust. 3 pkt 1 PFR Proponujemy nadać następujące brzmienie: Uwaga uwzględniona 96 „dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221)” 163. Art. 26 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Uzasadnienie: Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Uwagi uwzględnione Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 97 Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Dodatkowo zwracamy uwagę na brzmienie art. 78 ust. 2 rozporządzenia, które upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”, jak również na brzmienie motywu 167 do rozporządzenia. Wymagają one odpowiedniego zbalansowania uprawnień Komisji (oraz pozostałych zaangażowanych organów) z prawami i interesami przedsiębiorców w kontekście dostępu do informacji i danych, w tym danych osobowych. 164. Art. 26 ust. 5 PUODO Projektodawca nie uzasadnił 5-letniego terminu określonego w art. 26 ust. 5 projektu ustawy dotyczącego usuwania lub anonimizowania przez Komisję danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji. Zgodnie z zasadą ograniczenia przechowywania, o której mowa w art. 5 ust. 1 lit. E rozporządzenia 2016/67911 projektowany przepis wymaga analizy i wyjaśnienia, bowiem dane powinny być przechowywane przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Nie przesądzono, czy dotyczy to przechowywania danych osobowych w związku z prowadzonymi postępowaniami czy realizacją innych zadań Komisji. Projektodawca nie bierze pod uwagę także stosowania przepisów o archiwizacji, którym podlegać będą dokumenty wytwarzane i opracowywane w ramach działania tego organu publicznego. Uwaga uwzględniona Termin ten jest najkrótszym terminem niezbędnym dla realizacji celu – skutecznego sprawowania nadzoru nad rozwijającym się rynkiem systemów AI. Ponadto, zobowiązanie do regularnego (co 2 lata) przeglądu danych pod kątem ich niezbędności pozwoli ograniczyć ryzyka związane z przechowywaniem nadmiernych ilości danych, w tym danych osobowych. 165. Art. 26 ust. 6 PUODO jak wynika z projektowanego art. 26 ust. 6, w celu realizacji zadań określonych w rozporządzeniu 2024/1689 i projektowanej ustawie Komisja i pracownicy podmiotów, o których mowa w art. 7 ust. 2, mogą przekazywać sobie wzajemnie dane, o których mowa w ust. 3, w zakresie niezbędnym do realizacji tych zadań i współpracować z organem nadzorczym ds. ochrony danych Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag według projektodawcy znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 98 osobowych. Jednocześnie w rozdziale 3 projektu ustawy zawarte są regulacje, które mają określać zasady przeprowadzania kontroli przez Komisję, mającej na celu ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy z tymi przepisami. Przepis w obecnym brzmieniu jest niezrozumiały, wymagający wyjaśnienia z perspektywy zasady rozliczalności nad danymi osobowymi gromadzonymi w różnych systemach. Pracownicy podmiotów nie mogą przekazywać sobie danych, bo to nie oni są administratorami danych. 166. Art. 26 ust. 6 PFR Przepis reguluje kwestię wymiany danych pomiędzy Komisją i podmiotami, o których mowa w art. 7 ust. 2 Ustawy, ale brakuje konkretnych procedur i zasad tej współpracy oraz zapewnienia zgodności z RODO. Prosimy o rozważenie możliwości wprowadzenia przepisów wskazujących na transparentność oraz kontrolę nad przetwarzaniem danych osobowych. Uwaga uwzględniona 167. Art. 26 ust. 7 RPO Przepis ten zwalnia Komisję oraz podmioty, o których mowa w art. 7 ust. 2 ustawy, z realizacji niektórych obowiązków wynikających z rozporządzenia Parlamentu Europejskiego i Rady UE 2016/679 i Rady UE 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1 ze zm.; dalej też jako: RODO) podczas przetwarzania danych, o których mowa w art. 26 ust. 3 ustawy, czyli m.in. danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji dotyczących użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych. Wśród tych obowiązków, z których zwolniona może być Komisja i wskazane w przepisie podmioty, znajdują się obowiązki, o których stanowi art. 15 (prawo dostępu do danych), art. 16 (prawo do sprostowania danych), art. 18 ust. 1 lit. a (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych) i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie Uwaga uwzględniona Zmiana treści przepisu. Należy również zgodzić się z uwagą dot. Równoległego stosowania przepisów projektowanej ustawy i rozporządzenia 2024/1689 z przepisami prawa ochrony danych osobowych, czego według projektodawcy odzwierciedleniem są przepisy projektu. 99 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych) RODO. Warunkiem zwolnienia z ww. obowiązków jest uznanie, że ich realizacja uniemożliwiłaby wypełnienie zadań Komisji, przy czym ustawodawca nie zawęził we wskazanym przepisie celów przetwarzania danych do realizacji jedynie określonych zadań. Podkreślenia jednocześnie wymaga, że zadania Komisji, o których stanowi art. 11 ust. 1 projektowanej ustawy, zakreślone zostały w sposób szeroki i obejmują nie tylko sprawowanie kontroli przestrzegania przepisów aktu o AI4 , ale także np. realizację projektów edukacyjnych czy prowadzenie działań informacyjnych. Art. 26 ust. 7 projektowanej ustawy pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika, dlaczego projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Tymczasem w art. 2 ust. 7 aktu o AI wskazano, że „[p]rawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Dodatkowo z motywu 10 aktu o AI wynika, że „[p]odstawowe prawo do ochrony danych osobowych jest gwarantowane w szczególności przez rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywę Parlamentu Europejskiego i Rady (UE) 2016/680. (...). Te unijne akty prawne stanowią podstawę zrównoważonego i odpowiedzialnego przetwarzania danych, w tym w przypadku gdy zbiory danych zawierają połączenie danych osobowych i nieosobowych. Celem niniejszego rozporządzenia nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do 100 monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów AI wiąże się z przetwarzaniem danych osobowych, niniejsze rozporządzenie nie wpływa też na wynikające z prawa Unii lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Należy również wyjaśnić, że osoby, których dane dotyczą, zachowują wszystkie prawa i gwarancje przyznane im na mocy takiego prawa Unii. w tym prawa związane z całkowicie zautomatyzowanym podejmowaniem decyzji w indywidualnych sprawach, w tym z profilowaniem. Ustanowione w niniejszym rozporządzeniu zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI powinny ułatwiać skuteczne wdrażanie i umożliwiać korzystanie przez osoby, których dane dotyczą, z praw i innych środków ochrony prawnej zagwarantowanych na podstawie prawa Unii dotyczącego ochrony danych osobowych i innych praw podstawowych”. Skoro zatem sam akt o AI nie przewiduje wyłączenia stosowania przepisów rozporządzenia 2016/679, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu o AI i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 168. Art. 26 ust. 7 PUODO Wyłączenie stosowania przepisów rozporządzenia 2016/679. Zgodnie z art. 26 ust. 7 projektu ustawy, „Przetwarzanie przez Komisję i podmioty, o których mowa w art. 7 ust. 2 ustawy, danych, o których mowa w ust. 3, nie wymaga realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679, jeżeli uniemożliwiłoby to realizację zadań Komisji”. Zwrócić uwagę należy, że wyłączenia stosowania przepisów rozporządzenia 2016/679 przewidziane są jedynie w treści art. 13, 14 i 17 rozporządzenia 2016/679. Każde wyłączenie, aby mogło być uznane za mające rację bytu, musi wynikać z obowiązujących przepisów prawa, a jednocześnie – dla równowagi ograniczania pewnych Uwaga uwzględniona w części Zmiana treści przepisu zawężająca zakres wyłączenia stosowania przepisów rozporządzenia 2016/679 dokonana w sposób łączny (nowa wersja art. 26) na podstawie innych uwag dot. przetwarzania danych osobowych dla celów realizacji obowiązków wynikających z rozporządzenia 2024/1689. 101 elementów praw podstawowych – muszą być zapewnione odpowiednie instrumenty prawne dla poszanowania praw jednostki. Z kolei ewentualne ograniczenia stosowania rozporządzenia 2016/679 mogą następować w dość szerokim, ale nie w pełnym zakresie oraz tylko o ile spełnione zostaną warunki z art. 23, w szczególności dla zapewnienia poważnych celów, o których stanowi art. 23 ust. 1 rozporządzenia 2016/679. Całkowite wyłączenie praw osób, których dane dotyczą nie jest zatem dopuszczalne ani na gruncie na gruncie rozporządzenia 2016/679, choć jest możliwe ich ograniczenie. Bez wątpienia zatem proponowany przepis projektu ustawy powinien być na nowo przeanalizowany w celu zapewnienia zgodności przepisów krajowych z zasadami wynikającymi z art. 23 rozporządzenia 2016/679 i jego treścią, zwłaszcza, że art. 2 ust. 7 zdanie drugie aktu w sprawie sztucznej inteligencji wprost wskazuje, że „Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Skoro akt w sprawie sztucznej inteligencji nie określa w sposób szczegółowy praw osób, których dane dotyczą, zastosowanie będą w tym zakresie mieć przepisy rozporządzenia 2016/679, co jedynie oznacza, że ww. omawiana propozycja musi być przedmiotem ponownej, szczegółowej analizy i korekty jeśli przepisy nowej ustawy mają być jasne i przejrzyste 169. Art. 26 ust. 9 PUODO Wątpliwości budzi proponowane brzmienie art. 26 ust. 9 w związku z ukształtowanym w projekcie ustawy statusem Biura Komisji i samej Komisji. Analizy i określenia wymaga status tych podmiotów w procesach przetwarzania danych (któremu podmiotowi należy przypisać status administratora oraz w jakim zakresie), co w związku z funkcjonalną definicją administratora wynikać powinno przede wszystkim z precyzyjnie określonych w projektowanych przepisach zadań i kompetencji. Uwaga uwzględniona Zmiana poprzez modyfikację art. 22, w szczególności ust. 1, 4 oraz art. 23 ust. 1). 170. Art. 27 ust. 1 BGK Propozycja: Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak potrzeby nadregulacji – kwestia prawa do dostępu do dokumentów chronionych tajemnicą w obszarze istotnym dla 102 dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. działalności Komisji uregulowane są w przepisach odrębnych (np. w zakresie działalności policji, prokuratury, agencji wywiadowczych). 171. Art. 27 ust. 1 IAB Polska Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 172. Art. 27 ust. 1 Konfederacj a Lewiatan Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 173. Art. 28-Art. 30 RPD Jako Rzeczniczka Praw Dziecka aprobuję propozycję utworzenia Społecznej Rady do spraw Sztucznej Inteligencji przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Rada”). Powołanie Rady pozwoli uwzględnić różnorodne opinie i potrzeby społeczeństwa w przedmiocie organizacji nadzoru nad systemami sztucznej inteligencji. Zwracam jednak uwagę, że w aktualnym brzmieniu projektowanej ustawy nie określono wyraźnie zakresu zadań Rady ograniczając się jedynie do wskazania, że jest ona „organem opiniodawczo– doradczym Komisji” (planowany art. 28 ust. 1 ustawy o systemach SI), a do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję (art. 30 ust. Uwaga częściowo uwzględniona Propozycja rozszerzenia roli Rady zostały uwzględnione zbiorczo i znajdują odzwierciedlenie w aktualnym brzmieniu przepisów określających zadania Rady (art. 27). Dodatkowo, zmianie uległy zasady rozliczania kosztów udziału w posiedzeniach Rady oraz kategoria podmiotów uprawnionych do zgłaszania kandydatów (uwzględniająca urząd RPD). 103 1 ustawy o systemach SI). Podobnie w uzasadnieniu do ustawy o systemach SI projektodawca skazuje jedynie, że „do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję”. Nieokreślony wystarczająco zakres zadań może budzić wątpliwości co do przejrzystości i efektywności działań Rady, co może osłabić zaufanie publiczne do tej instytucji. Proponuję, aby art. 30 ustawy o systemach SI określał w szczególności następujące działania jako zadania Rady: a) monitorowanie rozwoju sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; b) monitorowanie rozwoju prawodawstwa dotyczącego systemów sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; c) świadczenie Komisji doradztwa w zakresie klasyfikacji ryzyka różnych modeli i systemów AI; d) opiniowanie projektów dokumentów organów i instytucji Unii Europejskiej ws. systemów sztucznej inteligencji; e) opiniowanie przekazanych przez Komisję projektów aktów prawnych i innych dokumentów ws. systemów sztucznej inteligencji; f) inicjowanie działań w obszarze ochrony osób, na których systemy sztucznej inteligencji mają wpływ oraz przedstawianie Komisji propozycji zmian prawa w tym obszarze; g) wyrażanie opinii w sprawach przedstawionych Radzie przez Komisję; h) wykonywanie innych zadań zleconych przez Komisję. Warto podkreślić, że katalog zadań Rady nie powinien mieć charakteru zamkniętego. Krajowy ustawodawca tworząc organy opiniodawczo-doradcze działające przy innych organach nadzoru (np. Prezesie Urzędu Ochrony Danych Osobowych) określa zakres ich zadań. Także w przypadku przywołanego przez projektodawcę w uzasadnieniu ustawy o systemach SI ciała eksperckiego z uprawnieniami konsultowania prac 104 utworzonego w Austrii - Beirat für KI - określono katalog zadań tego gremium w akcie prawnym o randze ustawowej. Kolejne moje wątpliwości dotyczące organizacji prac Rady budzi brak wystarczających gwarancji niezależności jej członków. W planowanym art. 29 ust. 5 ustawy o systemach SI wskazuje się, że „członkowie Rady nie mogą prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; wykonywać działań, które mogłyby skutkować konfliktem interesów”. Ustawa o systemach SI, na wzór wymogu przyjętego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, powinna wprost określać, że członkowie Komisji muszą być niezależni od dostawców systemów AI lub modeli AI ogólnego przeznaczenia. Ogólne sformułowanie o zakazie prowadzenia działań prowadzących do konfliktu interesów przewidziane w obecnym projekcie ustawy, nie precyzuje konkretnych kryteriów ani mechanizmów weryfikacji niezależności członków Rady. Podobnie jak w punkcie drugim niniejszego pisma, chciałabym zwrócić uwagę na kluczowe znaczenie uwzględnienia opinii dzieci i młodzieży w sprawach dotyczących stanowisk w przedmiocie systemów sztucznej inteligencji, ponieważ takie rozwiązania mogą wpływać na różne aspekty ich życia, takie jak edukacja, prywatność, rozwój społeczny i emocjonalny. Mając na uwadze opisany powyżej wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych doraźnego udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez jej Przewodniczącego lub Komisji. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Rady z doraźnym wnioskiem o dopuszczenie do udziału wybranych przedstawicieli w posiedzeniu Rady, który powinien być niezwłocznie rozpatrywany. Co więcej, w mojej ocenie ustawa o systemach SI powinna zobowiązywać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób 105 małoletnich, a także uwzględnienia wyników takich konsultacji z należytą wagą, stosownie do wieku oraz dojrzałość dzieci biorących w nich udział. Uwzględnienie głosu młodego pokolenia w kształtowaniu wykładni stosowania przepisów dotyczących systemów sztucznej inteligencji oraz ich perspektywy na ryzyka związane z rozwojem takich rozwiązań jest inwestycją w przyszłość, która przyniesie całemu społeczeństwu. Ponadto zwracam uwagę, że w planowanych przepisach ustawy o systemach SI nie określono ani terminu, w którym Komisja ma powołać Radę, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie Rady zostanie odłożone na nieokreślony czas. W związku z tym proponuję wprowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Z podobnych względów ustawa powinna określać termin publikacji stanowisk i opinii Rady w Biuletynie Informacji Publicznej na stronie podmiotowe Biura Komisji. 174. Art. 28, Art. 30 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – tryb powoływania oraz skład Rady zapewnia reprezentację różnych sektorów, co powinno pozwolić na podejmowanie kompleksowych decyzji, jednak ograniczenie liczby członków do maksymalnie 15 osób może w pewnych sytuacjach ograniczać zdolność Rady do pełnego odzwierciedlenia wszystkich istotnych perspektyw i interesów. Skuteczność i trafność decyzji rady mogłoby wzmocnić poprzez dopuszczenie do udziału większej liczby ekspertów z różnych dziedzin (branż). Według projektu nie tylko członkowie Rady, ale nawet jej przewodniczący i wiceprzewodniczący są powoływani przez Komisję. W efekcie Rada staje się całkowicie podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy rozważyć udział w Radzie przedstawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. Dodatkowo, możliwość reprezentacji sektora nowych technologii możliwy jest poprzez uprawnienie organizacji branżowych, podmiotów systemu szkolnictwa wyższego oraz organizacji pozarządowych. 106 Kompetencje Rady są skierowane głównie na zagadnienia etyczne i regulacyjne. Te aspekty są istotne, ale jednak dostrzegalna jest potrzeba silniejszego nacisku na merytoryczny nadzór nad procesami tworzenia SSI, zwłaszcza w obszarze technologii, innowacji i badań (B+R). Na temat nowych technologii i ich rozwoju mogliby dostarczyć dodatkowej wiedzy przedstawiciele NCBR oraz środowisk naukowych i akademickich, które w organach w ogóle nie są reprezentowane. Spojrzenie z punktu widzenia NCBR, jako kluczowej instytucji w rozw oju nowych technologii w ramach projektów B+R, może pomóc Radzie w wypracowaniu bardziej zrównoważonych rekomendacji, a Komisji działać w zgodzie z obowiązującymi trendami technologicznymi i celowo w zakresie wdrażania innowacyjnych rozwiązań. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 175. Art. 28 ust. 2 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów. Uwaga nieuwzględniona Projekt zawiera przepisy wprowadzające zakaz konfliktu interesów, jak również wprowadzenie mechanizmu umożliwiającego odwołanie członka Rady naruszającego ten zakaz. 176. Art. 28 ust. 2 Konfederacj a Lewiatan Proponujemy podwyższenie maksymalnego liczby członków Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25 członków. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w zakresie liczby członków. 107 przedsiębiorców, a zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. 177. Art. 28 ust. 3 KRRiT dodanie punktu o treści „Przewodniczący Krajowej Rady Radiofonii i Telewizji” Uwaga nieuwzględniona Zdaniem projektodawcy zmiana jest niepotrzebna, a udział Rady w pracach Komisji jako członka umożliwia aktywny udział w jej pracach. 178. Art. 28 ust. 3 pkt 4 BGK Propozycja: 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w tym wymiarze, w szczególności ze względu na szeroki i międzybranżowy charakter technologii sztucznej inteligencji (potencjalnie obejmującym niemal wszystkie dziedziny życia społecznego). 179. Art. 28 ust. 4 pkt 1 UKNF Rada, jako organ opiniodawczo-doradczy Komisji, ze względu na specyfikę swoich zadań, powinna być tworzona przez osoby posiadające merytoryczne i operacyjne doświadczenie w zakresie sztucznej inteligencji, w tym kompetencje adekwatne do poziomu rozwoju technologii AI, wobec dynamicznie rozwijającego się środowiska. Urząd Komisji Nadzoru Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a kompetencję w zakresie wskazywania 108 Finansowego proponuje rozważenie doprecyzowania mechanizmów weryfikacji tych kompetencji. odpowiednich kandydatur pozostawione są podmiotom niezależnym od Komisji. 180. Art. 28 ust. 4 pkt 4 IAB Polska Biorąc pod uwagę systematykę form oświadczeń woli oraz tworzenie jasnych przepisów prawnych – postanowienie powinno konkretyzować, czy chodzi o formę pisemną (w tym równoważną jej prawnie formę elektroniczną), czy też dokumentową (wydrukowaną na papierze). Uwaga nieuwzględniona 181. Art. 28 ust. 6 pkt 6 IAB Polska Rekomendujemy dookreślenie formy wycofania zgody, aby zapewnić pewność sytuacji prawnej członków Rady. Uwaga nieuwzględniona 182. Art. 29 ust. 1 BGK Propozycja Rada powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Usunięcie zdania 2 jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1 Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, tym bardziej, że obecna treść przepisów daje Radzie uprawnienie do przedstawienia Komisji dwóch kandydatur na Przewodniczącego. 183. Art. 29 ust. 6 KRRiT w art. 29 ust. 6 po wyrazach „Za udział” należy dodać wyraz „w” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 184. Art. 29 ust. 6 BGK Proponujemy nadać następujące brzmienie: „Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów.” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 185. Art. 29 ust. 6 IAB Polska Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w kontekście wprowadzenia dodatkowych przepisów adresujących potencjalny konflikt interesów. 186. Art. 29 ust. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Uzasadnienie: Pierwsza uwaga opiera się na dodaniu brakującej litery „w”. Uwaga częściowo uwzględniona Wg aktualnej treści projektu przepisów za udział w pracach Rady jej członkom przysługuje zwrot kosztów przejazdów i noclegów. 109 Niezrozumiała jest intencja tego przepisu. Nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Rady, płaciły za koszt dojazdu i noclegu. Rozumiemy, ze takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. 187. Art. 30 KRRiT w art. 30 błędnie ponumerowano ustępy; Uwaga uwzględniona 188. Art. 30 ust. 1 BGK Propozycja: 1. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez co najmniej 75% składu Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych sytuacjach, gdy zostaną one przyjęte jednomyślnie przez co najmniej 75% składu Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 189. Art. 30 ust. 3 KRRiT w art. 30 ust. 3 błędnie odesłano do art. 1 ust.1; Uwaga uwzględniona Zmiana treści przepisu zgodnie z uwagą 110 190. Art. 30 ust. 3 BGK Propozycja 3. W zakresie innym niż określony w ust. 1, dotyczącym spraw określonych w art. 1 ust. 1 ustawy Rada, w drodze uchwały podjętej większością głosów co najmniej 75% składu Rady, może wyrazić opinię lub stanowisko z własnej inicjatywy. Zmiana przepisu polega na obniżeniu wymogu kworum z pełnego składu Rady do co najmniej 75% jej członków przy podejmowaniu uchwał z własnej inicjatywy. Celem tej zmiany jest ułatwienie Radzie efektywnego podejmowania decyzji, nawet gdy nie jest możliwa obecność wszystkich członków, co zwiększa elastyczność jej działania. Jednocześnie zachowany zostaje wysoki poziom reprezentatywności i legitymacji podejmowanych uchwał, gdyż wymagane jest uzyskanie większości głosów wśród co najmniej 75% składu Rady. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. 191. Art. 33 ust. 3 PFR Proponujemy nadać następujące brzmienie: „Prezes Rady Ministrów określi, w drodze rozporządzenia, sposób ustalania wysokości środków przeznaczonych na wynagrodzenia i nagrody dla Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz ustalania wysokości tych wynagrodzeń i nagród, uwzględniając organizację Biura Komisji i Komisji, konieczność zapewnienia właściwej realizacji zadań Biura Komisji i Komisji w zakresie sprawowanego nadzoru oraz poziomu płac w instytucjach nadzorowanych.” Uwaga wyjaśniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 192. Art. 33 ust. 3 KRRiT w art. 33 ust. 3 niepotrzebnie powtórzono wyrazy „oraz ustalania wysokości tych wynagrodzeń”; Uwaga uwzględniona 193. Art. 34 ust. 2 pkt 2 KRRiT w art. 34 ust. 2 pkt 2 nie wskazano daty ustawy o finansach publicznych oraz wskazano nieaktualny Dziennik Ustaw; Uwaga uwzględniona 194. Art. 36 ust. 2 Rada Legislacyjna [Brak wskazania trybu wyboru firmy audytorskiej w art. 36 ust. 2 Projektu] Przepis art. 36 ust. 2 Projektu nie zawiera wskazania trybu lub procedury wyboru firmy audytorskiej przez Prezesa Rady Ministrów. Przepis ten stanowi jedynie, że „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej.”. De lege ferenda w przepisie tym należy przesądzić, że wybór przez Prezesa Rady Ministrów firmy audytorskiej następuje „z uwzględnieniem przepisów o zamówieniach publicznych”. W przepisie tym nie trzeba natomiast literalnie przesądzać o „stosowaniu” przez Uwaga uwzględniona 111 Prezesa Rady Ministrów przepisów o zamówieniach publicznych: sformułowanie o konieczności „uwzględniania” przepisów o zamówieniach publicznych jest w tym kontekście w pełni wystarczające, zwłaszcza, że z uwagi na wartość wchodzącego w grę zamówienia publicznego może ono niekiedy pozostawać poza zakresem zastosowania przepisów ustawy z dnia 11 września 2019 r. Prawo zamówień publicznych22 (zob. art. 2 ust. 1 pkt 1 powołanej ustawy). 195. Art. 38 Rada Legislacyjna [Błędy językowe w art. 38 Projektu] W przepisach art. 38 ust. 1 i 3 użyto niepoprawnego sformułowania „minister właściwy”, podczas gdy prawidłowo sformułowanie to powinno brzmieć: „właściwy minister”. Ta proponowana przez Radę Legislacyjną inwersja obu wyrazów dlatego jest konieczna, gdyż w przepisach tych nie chodzi bynajmniej o konkretnego ministra właściwego we wskazanych tam literalnie sprawach (np. ministra właściwego do spraw gospodarki), lecz chodzi tam ogólnie o ministrów, którzy są właściwi zgodnie ze swoją ustawową właściwością, wynikającą z ustawy z dnia 4 września 1997 r. o działach administracji rządowej lub z przepisów ustaw szczególnych; ma tam zatem miejsce wskazanie generalne, a nie indywidualne. Stąd też bardziej naturalnie językowo będzie brzmiało sformułowanie, iż „właściwy minister” może powierzyć Komisji realizację określonych zadań (art. 38 ust. 1 Projektu) oraz że „właściwy minister” zapewnia środki na realizację tychże zadań (art. 38 ust. 3 Projektu). Z kolei w art. 38 ust. 2 Projektu zamieszczone jest zdanie, w którym połączono ze sobą wyrazy zupełnie nie przystające do siebie znaczeniowo. Przepis ten stanowi co następuje: „Powierzanie zadań, o których mowa w ust. 1, zawierane jest w formie porozumienia”. Z semantyczno-językowego punktu widzenia, powierzanie zadań nie może być „zawierane” w jakiejkolwiek formie prawnej (bo takie sformułowanie nie ma logicznego sensu), lecz co najwyżej można tego powierzenia „dokonywać” w określonej formie lub też powierzenie to może „następować” w określonej formie prawnej. Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z treścią uwagi. 196. Art. 38 ust. 1 KRRiT w art. 38 ust. 1 błędnie odesłano do art. 11 ust. 3, 8 i 10; Uwaga uwzględniona 112 197. Art. 38 ust. 1 PFR Proponujemy nadać następujące brzmienie: „Minister właściwy, w odniesieniu do spraw w zakresie jego właściwości, może powierzyć Komisji realizację zadań, o których mowa w art. 11 ust. 1 pkt 3, 8 i 10 ustawy.” Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z uwagą. 198. Art. 39 KRRiT w art. 39 błędnie wskazano numerację ustępów; Uwaga uwzględniona 199. Art. 39 ust. 4 pkt 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) wymianie aktualizacji Uzasadnienie: Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Ponadto, jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? Uwaga uwzględniona 200. Art. 39 ust. 6 UKNF W art. 39 ust. 6 projektu ustawy wskazano, iż tryb wydawania i unieważnienia legitymacji służbowej określony zostanie w drodze rozporządzenia Prezesa Rady Ministrów. Wydaje się, że rozporządzenie powinno również określać tryb wymiany legitymacji, skoro wskazano na taką możliwość w ustępach poprzedzających. Urząd Komisji Nadzoru Finansowego proponuje następującą zmianę treści tego ustępu: „Prezes Rady Ministrów określi, w drodze rozporządzenia, wzór legitymacji służbowej pracownika Biura Komisji oraz tryb wydawania, wymiany i unieważnienia tej legitymacji, mając na względzie zapewnienie właściwej identyfikacji pracowników Biura Komisji oraz zapewnienie właściwej ochrony legitymacji służbowych”. Uwaga uwzględniona Uwaga uwzględniona w ramach zmiany przepisów regulujących wydawanie, unieważnianie i aktualizację legitymacji w art. 37. 201. Art. 40 ust. 1 UKNF W art. 40 ust. 1 projektu ustawy wskazano, iż: „Przewodniczący Komisji, w zakresie zadań, o których mowa w rozdziale 2 ustawy, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. W ocenie UKNF ustęp ten powinien zostać doprecyzowany poprzez odesłanie do konkretnej jednostki redakcyjnej art. 70 rozporządzenia 2024/1689. Art. 70 rozporządzenia 2024/1689 jest rozbudowaną regulacją, która odnosi się do szeregu kwestii (m.in. do wyznaczania przez państwa członkowskie organu notyfikującego i organu nadzoru rynku). W związku z tym zasadnym byłoby dookreślenie, o które wymogi chodzi, poprzez Uwaga nieuwzględniona 113 odwołanie się do konkretnych ustępów art. 70 rozporządzenia 2024/1689. 202. Art. 40 ust. 2 KRRiT w art. 40 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga nieuwzględniona 203. Art. 40 ust. 2 UKNF Artykuł 40 ust. 2 projektu ustawy odnosi się do „stanu zasobów, o którym mowa w ust. 1” ww. artykułu. Urząd Komisji Nadzoru Finansowego wskazuje, że ustęp 1 nie wskazuje na zasoby, lecz odnosi się do zadań, o których mowa w rozdziale 2 projektowanej ustawy oraz do wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. W związku z powyższą rozbieżnością, należy dokonać odpowiedniej korekty i przeredagowania przedmiotowego przepisu. Uwaga nieuwzględniona 204. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 41 - art. 48) 205. Rozdział 3 IAB Polska Wskazany rozdział powinien być jednym z podstawowych obszarów w konsultacjach międzyresortowych. Należy o nim również informować w prezentacjach ministerialnych omawiających projekt. W ten sposób Ministerstwo będzie w stanie zapewnić szerokie konsultacje. W szczególności rekomendujemy, aby Ministerstwo zwróciło uwagę na informacje przekazywane przez podmioty tworzące lub dystrybuujące systemy AI, aby nie obniżyć wartości rynkowej Polski w zakresie AI, ale jednocześnie, aby zapewnić odpowiednie poszanowanie prawa i skuteczność kontroli Komisji. Uwaga uwzględniona 206. Rozdział 3 i 4 Konfederacj a Lewiatan 1. Rozdział 3 i Rozdział 4 Uwaga lub propozycja zmiany zapisu: Rekomendujemy dodanie: 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. Uwaga nieuwzględniona 114 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają 5przesłanek do objęcia ich tajemnicą p6rzedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Uzasadnienie: Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. 207. Art. 41 ust. 1 IAB Polska Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Rekomendujemy rozważenie odniesienia się do art. 2 ust. 1 lit a) - f) AI Act. Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 208. Art. 41 ust. 1 Konfederacj a Lewiatan Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Może warto rozważyć odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f? Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 209. Art. 41 ust. 2 IAB Polska W naszej ocenie sformułowanie tego przepisu jest bardzo szerokie i w związku z tym postulujemy zawęzić/wskazać konkretnie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli 210. Art. 41 ust. 2 ZPP Nasze wątpliwości budzą również przepisy proceduralne dotyczące kontroli. Art. 41 ust. 2 wprowadza bardzo otwarty katalog potencjalnych przedmiotów kontroli, wskazując jedynie, że jej celem jest ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania AI Act i ustawy. Wydaje się, że z punktu widzenia zasadności i proporcjonalności projektowanych środków należałoby ten przepis, a więc cel kontroli, doprecyzować i określić. Jednocześnie, proponowane brzmienie prowadzi do pewnego legislacyjnego zapętlenia – podmioty obowiązane do przestrzegania ustawy są jednocześnie podmiotami obowiązanymi do przestrzegania przepisów rozporządzenia 2024/1689, zresztą projektodawca posługuje się odniesieniem do stosownego postanowienia AI Uwaga częściowo uwzględniona Zmiana brzmienia przepisów o kontroli 115 Act. Jednocześnie, pojawia się pytanie, jak taką konstrukcję rozumieć – tzn. czy projektodawca zakłada, że krajowe organy będą prowadziły działania wobec podmiotów z siedzibami w innych państwach członkowskich lub krajach trzecich? Z tego punktu widzenia zasadne byłoby określenie, które konkretnie elementy struktur międzynarodowych będą wchodziły w zakres podmiotowy ustawy – filie lub oddziały zlokalizowane w kraju, spółki matki, czy może kilka podmiotów jednocześnie? 211. Art. 41 ust. 2 Konfederacj a Lewiatan W naszej ocenie sformułowanie tego przepisu jest bardzo szertokie i w związku z tym postulujemy zawęzić/wskazać konkretnie że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd? Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 212. Art. 41 ust. 3 IAB Polska Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 213. Art. 41 ust. 3 Konfederacj a Lewiatan Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Bardzo ogólna podstawa kontroli - w Prawie Przedsiębiorców np. kontrole planuje się i przeprowadza po uprzednim dokonaniu analizy prawdopodobieństwa naruszenia prawa w ramach wykonywania działalności gospodarczej. Analiza obejmuje identyfikację obszarów podmiotowych i przedmiotowych, w których ryzyko naruszenia przepisów jest największe. Sposób przeprowadzenia analizy określa organ kontroli lub organ nadrzędny. Uwaga częściowo uwzględniona 116 214. Art. 42 Rzecznika MŚP W dalszej kolejności należy zwrócić uwagę, iż nie jest dozwolona ingerencja w zasady prowadzenia kontroli oraz ochronę praw przedsiębiorców w tym zakresie. Przesłanki kontroli dorażnej nie mogą zostać skutecznie zmodyfikowane w Projekcie stanowiącym uregulowanie krajowe, ze względu na treść art. 45 ust. | Prawa przedsiębiorców, który stanowi, że kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w tej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Naruszenia ww. przepisu są sankcjonowane w art. 46 ust. 1 i 3 Prawa przedsiębiorców, które stanowią, że przedsiębiorcy, który poniósł szkodę na skutek wykonania czynności kontrolnych z naruszeniem przepisów prawa, przysługuje odszkodowanie, zaś dowody przeprowadzone w toku kontroli przez organ kontroli z naruszeniem przepisów ustawy lub z naruszeniem innych przepisów prawa w zakresie kontroli działalności gospodarczej przedsiębiorcy. Gwarancje i prawa przyznane przedsiębiorcom rażąco narusza ograniczenie stosowania regulacji Prawa przedsiębiorców zawarte w art. 42 Projektu, poprzez zastrzeżenie, że do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy Prawo przedsiębiorców, podczas gdy od ogólnych zasad przeprowadzania kontroli nie powinno być odstępstw, a omawiany przepis taką sytuację wprost uznaje za odpowiadająca prawu, natomiast jak wskazano na wstępie — nie jest dozwolone modyfikowanie przepisami prawa krajowego przepisów ustawy Prawo przedsiębiorców zawartych w Rozdziale 5 - Ograniczenia kontroli działalności gospodarczej. Wnioskiem płynącym z powyższego powinno być wykreślenie art. 42 Projektu, lub jego modyfikacja wskazująca na konieczność bezwzględnego stosowania przepisów ustawy Prawo przedsiębiorców w zakresie czynności kontrolnych podejmowanych wobec przedsiębiorców. Nie jest dozwolone bowiem relatywizowanie regulacji ustawy odnoszącej się do podstawowych zasad i gwarancji działalności gospodarczej na terytorium Rzeczypospolitej Polskiej. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 117 215. Art. 42 UOKiK Zgodnie z projektem ustawy podmiotami podlegającymi kontroli mogą być, oprócz przedsiębiorców, również podmioty publiczne, które spełniają definicję dostawcy lub podmiotu stosującego. Rozważenia wymaga, czy do kontroli tych podmiotów będą miały zastosowanie przepisy ustawy – Prawo przedsiębiorców. Zauważyć bowiem należy, że kontrole podmiotów publicznych odbywają się na podstawie przepisów innych niż ww. ustawa. W zależności od ustaleń i potrzeb należy zmodyfikować projektowane przepisy tak aby nie było wątpliwości przepisy będą stosowane do określonych kategorii podmiotów. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 216. Art. 43 NCBR 1. Proponuje się wprowadzenie większej elastyczności w formach kontroli. Obecnie ustawa (art. 43) wprowadza możliwość kontroli SSI zdalnie lub za pomocą środków komunikacji elektronicznej lub „przy użyciu przesyłek rejestrowanych lub kurierskich”. Warto wprowadzić więcej mechanizmów kontroli opartych na real-time data, które pozwolą na monitoring SSI w czasie rzeczywistym i szybsze reagowanie na incydenty. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. 2. Dodatkowe zastrzeżenie wobec art. 43 projektu ustawy budzą przepisy ustanawiające zbyt szerokie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad systemami AI. Należy mieć na uwadze, że zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki. 3. Ponadto, proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli (art. 43 ust. 2 i 10). Uwagi częściowo uwzględnione Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 118 217. Art. 43 ust. 1 pkt 2 PFR Proponujemy nadać następujące brzmienie: „osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju kompetencje.” Uwaga uwzględniona 218. Art. 43 ust. 1 pkt 2 IAB Polska Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3, ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 219. Art. 43 ust. 1 pkt 2 ZPP Zwracamy uwagę na postanowienie art. 43 ust. 1 pkt 2 umożliwiające przewodniczącemu Komisji upoważnienie w zasadzie dowolnej osoby (jedyny wymóg to „posiadanie wiedzy specjalistycznej”) do przeprowadzenia kontroli. Tak szerokie otwarcie furtki w tym zakresie budzi poważne wątpliwości, zwłaszcza wziąwszy pod uwagę kompetencje kontrolujących takie jak np. możliwość żądania udostępnienia wszelkiego rodzaju dokumentacji i korespondencji związanej z przedmiotem kontroli, przeprowadzania oględzin urządzeń, nośników danych i systemów informatycznych (nb. pojawia się również wątpliwość, czy sformułowanie „oględziny systemu informatycznego” jest najszczęśliwsze), czy opieczętowania lokali, pomieszczeń lub przedmiotów. Trudny do zrozumienia jest również przepis stwarzający możliwość żądania pisemnych kopii i wydruków dokumentów, w tym również z poświadczeniem za zgodność z oryginałem – jak się wydaje, będzie się to wiązało ze zbyt daleko idącą uciążliwością, zwłaszcza prawo do żądania wydruków w warunkach dostępności kopii elektronicznych nie powinno być przewidziane w projekcie Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analize i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 220. Art. 43 ust. 1 pkt 2 Konfederacj a Lewiatan Upoważnienie do „przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę Uwaga nieuwzględniona 119 posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach jeśli wymagana jest wiedza specjalistyczna, której niei posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3,ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 221. Art. 43 ust. 1 pkt 2 Pracodawcy RP Zgodnie z art. 43 ust. 1 pkt 2 proponowanej ustawy Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli u przedsiębiorcy będącego podmiotem obowiązanym nie tylko pracownika Biura Komisji, ale także inną osobę posiadającą wiedzę specjalistyczną, jeśli do przeprowadzenia kontroli niezbędn e są tego rodzaju wiadomości. Ustawa nie precyzuje jednak, w jakim charakterze i na jakiej podstawie prawnej taka osoba ma wykonywać czynności kontrolne na rzecz Komisji, w związku z czym brak gwarancji co do zachowania w tajemnicy informacji Uwaga częściowo uwzględniona Przepisom dotyczącym przetwarzania informacji nadano nowe brzmienie. 120 chronionych, pozyskanych w trakcie kontroli przez taką osobę. Jedynym dokumentem formalnym, wskazanym przez ustawę, jest szczególne upoważnienie do przeprowadzenia kontroli, które jednakże nie obejmuje szczegółowych wskazań w zakresie praw i obowiązków kontrolera (vide art. 43 ust. 6 proponowanej ustawy), w związku z czym upoważnienie nie może stanowić jedynej podstawy formalnoprawnej działania kontrolera niebędącego pracownikiem Biura Komisji. Ustawa nie zawiera żadnych przepisów dotyczących praw i obowiązków kontrolera w zakresie ochrony informacji pozyskanych w trakcie kontroli, przez osobę niepodlegającą ustawowym obowiązkom w zakresie tajemnicy informacji chronionych. Do proponowanej ustawy należy dodać przepis o charakterze prawnokształtującym – wskazujący bezpośrednio podstawy ogólnych praw i obowiązków takiego kontrolera, niezależnego od struktur Biura Komisji, w celu zrównania ich zakresu obowiązków z przedstawicielami Biura Komisji, bądź przepis nakazujący odpowiednie stosowanie do takich kontrolerów przepisów dot. członków korpusu służby cywilnej. 222. Art. 43 ust. 2 i 3 RPD Wyrażam wątpliwość, co do zasadności propozycji przeprowadzania czynności kontrolnych, o których mowa w ustawie o systemach SI, głównie w sposób zdalny. Szczególnie niepokoi mnie brak precyzyjnego zdefiniowania „uzasadnionych przypadków”, w których kontrola może być przeprowadzana na miejscu. Uważam, że konieczne jest doprecyzowanie przepisów poprzez wskazanie konkretnych sytuacji lub kryteriów uzasadniających kontrolę w siedzibie podmiotu. W obszarach dotyczących dzieci bezpośrednie zbadanie systemów SI wysokiego ryzyka ma kluczowe znaczenie dla ochrony dobra dziecka. Zrozumienie przeznaczenia i zasad funkcjonowania systemu „na żywo” pozwala kontrolującym lepiej ocenić jego wpływ na prawa i wolności dzieci, szczególnie w takich dziedzinach jak edukacja i kształcenie. Zdalne przeprowadzanie kontroli może nie oddawać pełnego obrazu praktycznego działania systemu SI. Dlatego uważam, że w ostatecznym brzmieniu art. 43 ust. 2 i 3 ustawy o systemach SI powinien zawierać otwarty katalog Uwaga uwzględniona Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które uzasadniają w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego. 121 „szczególnych okoliczności”, które w sposób bezwzględny zobowiązują do przeprowadzenia kontroli lub znacznej jej części przez przedstawicieli Komisji na miejscu. Jako jedną z przesłanek obligujących do przeprowadzenia kontroli lub jej znacznej części na miejscu powinny być przypadki, gdy wyniki systemu sztucznej inteligencji mogą potencjalnie zagrażać prawom i wolnościom dzieci, tzn., gdy osobami, na które systemy SI mają wpływ, są osoby poniżej 18 roku życia. Przepisy ustawy powinny wprost wskazywać, że decyzja o przeprowadzeniu kontroli na miejscu powinna zależeć od oceny Komisji, czy takie działanie będzie służyło zabezpieczeniu najlepiej pojętego interesu dziecka, zgodnie z art. 3 Konwencji ONZ o prawach dziecka oraz art. 24 Karty Praw Podstawowych Unii Europejskiej. Najlepszy interes dziecka powinien być nadrzędnym kryterium przy podejmowaniu decyzji o formie i zakresie kontroli, w sytuacji, gdy przedmiotem kontroli jest realizacja wymogów rozporządzenia 2024/1689 przez operatorów systemów sztucznej inteligencji wysokiego ryzyka, których wyniki oddziałują bezpośrednio na sytuację faktyczną lub prawną dzieci. 223. Art. 43 ust. 2 IAB Polska Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecności stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły lub będą musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - niżej, w ust. 3, pojawia się takie określenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli? Uwagi częściowo uwzględnione Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które bazując na domyślnej formie kontroli (zdalnej) uzasadniają w wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego jedynie w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 122 224. Art. 43 ust. 2 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 2 Projektu, dotyczącego przeprowadzania kontroli w sposób zdalny. Przepis ten powinien uwzględniać, że zgodnie z art. 51 ust. 3a Prawa przedsiębiorców, taki sposób kontroli wymaga każdorazowo uprzedniej zgody przedsiębiorcy odnośnie kontroli lub poszczególnych czynności kontrolnych, Uwaga nieuwzględniona Uwaga wg projektodawcy nieuzasadniona ze względu na specyfikę działalności przedsiębiorców w obszarze sztucznej inteligencji i nowych technologii. W trakcie konsultacji propozycja wprowadzenia domyślnej formy kontroli jako zdalnej spotkała się z aprobatą, w związku z powyższym zachowanie takiej konstrukcji należy uznać za korzystane ze względu na ograniczenie niepotrzebnych kosztów i zwiększenie trudności organizacji kontroli w sposób stacjonarny. 225. Art. 43 ust. 2 Konfederacj a Lewiatan Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecnoścui stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły/ musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - nizej, w ust. 3 pojawia się takie okreslenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich itd. sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych (czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli?) Uwagi częściowo uwzględnione Techniczne aspekty organizacji kontroli pozostawiony jest do decyzji Komisji i według projektodawcy nie wymaga interwencji legislacyjnej. 226. Art. 43 ust. 3 KRRiT w art. 43 ust. 3 zbędnie użyto wyrazu „się”; Uwaga uwzględniona. Nowe brzmienie przepisu 227. Art. 43 ust. 3 PFR Prosimy o rozważenie możliwości doprecyzowania przesłanki „szczególnej okoliczności”, o której mowa w tej jednostce redakcyjnej. Uwaga uwzględniona Nowe brzmienie przepisu 123 228. Art. 43 ust. 3 IAB Polska Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43 ust. 1 pkt 2 Projektu) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to, czy od decyzji można się odwołać oraz to, czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 229. Art. 43 ust. 3 Konfederacj a Lewiatan Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43.1.2) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to czy od decyzji można się odwołać oraz to czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 230. Zaproponowany przepis stanowi upoważnienie dla kontrolera do przeprowadzenia części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, w przypadku gdy szczególne okoliczności to uzasadniają. Przepis ma jednak ogólny wydźwięk, który nie zawiera wskazówek interpretacyjnych co do tego, jakie okoliczności uzasadniają powyższe podejście do kontroli. Należy także wskazać, że materia przedmiotowego przepisu pozostaje w ścisłym związku z uwagami dot. art. 43 ust. 1 projektowanej ustawy, w związku z tym, że realizacja czynności kontrolnych bezpośrednio w Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 124 siedzibie podmiotu obowiązanego szczególnie wymaga zabezpieczenia prawnych i faktycznych interesów tego podmiotu. Ustawa powinna jasno wskazywać sytuacje, w których zasadne jest przeprowadzenie czynności kontrolnych w siedzibie podmiotu obowiązanego, a także zawierać szczegółowe wytyczne co do sposobu postępowania kontrolera w trakcie takich czynności. Należy także rozważyć uwzględnienie ścieżki odwoławczej, umożliwiającej weryfikację zasadności realizacji czynności kontrolnych w inny sposób niż zdalnie 231. Art. 43 ust. 4 IAB Polska Projekt przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 AI Act, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Dotyczy pkt. 3) należy wskazać, czy chodzi o dostęp do nośnika czy do zawartych tam informacji oraz doprecyzować sposób, w jaki można będzie udostępnić sam nośnik w postaci np. serwera \"chmurowego\". Dotyczy pkt. 5) - Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto \"poświadczanie\" wydruków/kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. \"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym Uwaga uwzględniona w części W aktualnej wersji przepisów projektu usunięto m.in. niektóre obowiązki (np. Dostęp do wydruków) W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. Dodatkowo, choć zgadzamy się z uwagą dot. Niemożliwości przeprowadzenie każdej formy kontroli w odniesieniu do każdej technologii wykorzystywanych przez stron, jednocześnie jednak przepisy upowazniające Komisję do realizacji kontroli powinny uwzględniać pewną swobodę w doborze środków. Racjonalnośc i proporcjonalność tych środków gwarantować mają kompetencje Przewodniczącego, Członków Rady oraz pracowników Biura Komisji. 125 OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów”. Dotyczy pkt. 8) - Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. 232. Art. 43 ust. 4 Pracodawcy RP Ustawa przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 Aktu o AI, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach łącznych zmian treści przepisów dotyczących kontroli. W aktualnej wersji przepisów projektu usunięto niektóre obowiązki (np. dostęp do wydruków). W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. 233. Art. 43 ust. 4 pkt 3 BGK Propozycja 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z Uwaga uwzględniona 126 przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych 234. Art. 43 ust. 4 pkt 5 Konfederacj a Lewiatan Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym.Ponadto \"poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.\"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów” Uwaga uwzględniona 235. Art. 43 ust. 4 pkt 8 KRRiT w art. 43 ust. 4 pkt 8 błędnie odesłano do art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych; Uwaga nieuwzględniona. 127 Uwaga nieaktualna ze względu na nową treść przepisów projektu. 236. Art. 43 ust. 4 pkt 8 BGK Propozycja 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów projektu. 237. Art. 43 ust. 4 pkt 8 UKNF Ustawa z dnia 10 maja 2018 r. o ochronie danych osobowych nie zawiera art. 7 pkt 2a, do którego odwołuje się projektowany przepis. Artykuł 7 ww. ustawy dotyczy zasad postępowania przed Prezesem Urzędu Ochrony Danych Osobowych, a nie odnosi się do systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania. Uwaga uwzględniona. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 238. Art. 43 ust. 4 pkt 8 Konfederacj a Lewiatan Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 239. Art. 43 ust. 4 pkt 10 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 10) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli. 5. Kontrolujący przeprowadza czynności po okazaniu upoważnienia do przeprowadzenia Uzasadnienie: Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 128 Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 240. Art. 43 ust. 5 Konfederacj a Lewiatan Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 241. Art. 43 ust. 5 IAB Polska Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 242. Art. 43 ust. 5 pkt 1 Konfederacj a Lewiatan Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W zwiazku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 243. Art. 43 ust. 6 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 6 Projektu, dotyczącego upoważnienia do kontroli — powinien uwzględniać wymogi określone w art. 49 ust. 1-10 Prawa przedsiębiorców, gdyż w szczególności zakres kontroli nie może wykraczać poza zakres wskazany w upoważnieniu do jej przeprowadzenia, Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 244. Art. 43 ust. 6 pkt 1 IAB Polska Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest, aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;”. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 245. Art. 43 ust. 7 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 129 art. 43 ust. 7 Projektu dotyczącego zawiadamiania o planowanej kontroli — powinien uwzględniać wymogi określone w art. 48 ust. 1-11 Prawa przedsiębiorców, 246. Art. 43 ust. 7 IAB Polska Proponujemy, aby rozważyć brzmienie przepisu w następującym kształcie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 247. Art. 43 ust. 7 Konfederacj a Lewiatan Proponowane brzmienie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uzasadnienie: Należy określić z jakim wyprzedzeniem kontrolowany powinien być zawiadomiony o planowanej kontroli. Zapewni to odpowiedni czas na przygotowanie do kontroli, skoro podmiot i tak jest o niej uprzedzany. Brak dowolności w stosowaniu prawa. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 248. Art. 43 ust. 7 UOKiK Zgodnie z art. 48 ust. 11 ustawy - Prawo przedsiębiorców zawiadomienia o zamiarze wszczęcia kontroli nie dokonuje się, w przypadku gdy kontrola ma zostać przeprowadzona na podstawie ratyfikowanej umowy międzynarodowej albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 75 i 80 rozporządzenia 2024/1689 stanowią bezpośrednią podstawę prawną do prowadzenia kontroli. Ponadto zgodnie z art. 74 ust. 1 rozporządzenia 2024/1689 „Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020”, które w art. 14 ust. 4 lit. d stanowi, że uprawnienia nadane organom nadzoru rynku obejmują prawo do przeprowadzenia niezapowiedzianych kontroli na miejscu i kontroli fizycznych produktów, zaś zgodnie z art. 74 ust. 5 rozporządzenia 2024/1689 „do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny”. Zatem rozważenia wymaga zasadność zawiadamiania w każdym przypadku o planowanej kontroli. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 130 249. Art. 43 ust. 8 UOKiK Przepisy projektu ustawy nie definiują pojęcia Kierownika podmiotu kontrolowanego posługując się wyłącznie pojęciem Kontrolowanego. W celu usunięcia ewentualnych wątpliwości związanych ze stosowaniem przepisów w tym zakresie, rekomenduje się wprowadzenie definicji kierownika podmiotu kontrolowanego, chociażby przez odesłanie dodefinicji tego pojęcia w obowiązujących przepisach np. ustawy o rachunkowości. Jednocześnie rozważenia wymaga zasadność zamieszczenia w katalogu podmiotów zobowiązanych do udzielania informacji i zapewnienia określonych warunków kontroli osoby czynnej w lokalu przedsiębiorstwa, ze względu na prawny oraz przede wszystkim faktyczny brak możliwości działania w żądany sposób przez takie osoby. Należy mieć na uwadze, że niekażdy pracownik otrzymuje uprawnienia do wstępu na określone powierzchnie placówek czy też ma dostęp do nośników informatycznych. Uwaga uwzględniona 250. Art. 43 ust. 8 pkt 2 PFR Proponujemy nadać następujące brzmienie: „udzielanie żądanych informacji” Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak jej przedmiotowości po dokonaniu modyfikacji przepisów w aktualnej wersji projektu ustawy. 251. Art. 43 ust. 8 pkt 2 UKNF W art. 43 ust. 8 projektu ustawy, we wprowadzeniu do wyliczenia, wskazano, że osoby reprezentujące podmiot kontrolowany obowiązane są udzielać kontrolującemu wszelkich potrzebnych informacji. Tym samym nie jest konieczne ponowne wskazywanie w art. 43 ust. 8 pkt 2, że ww. osoby powinny zapewnić „udzielanie żądanych informacji”. Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 252. Art. 43 ust. 8 pkt 3 PFR Proponujemy nadać następujące brzmienie: „wstęp na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 253. Art. 43 ust. 8 pkt 4 PFR Proponujemy nadać następujące brzmienie: „udostępnienie i wydanie materiałów, o których mowa w ust. 4 pkt 3, lub innych przedmiotów mogących stanowić dowód w sprawie” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 131 254. Art. 43 ust. 8 pkt 5 PFR Proponujemy nadać następujące brzmienie: „dostęp do informatycznych nośników danych, urządzeń lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną.” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 255. Art. 43 ust. 8 pkt 5 BGK Propozycja 5) umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona 256. Art. 43 ust. 10 IAB Polska Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 257. Art. 43 ust. 10 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 132 sytuacji w której podmiot nie będzie mógł prowadzić działalności gospodarczej. 258. Art. 43 ust. 11 IAB Polska Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\". Czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 259. Art. 43 ust. 11 IAB Polska Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 260. Art. 43 ust. 11 Konfederacj a Lewiatan Uważamy, iż przepis wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieśc sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Ponadto, powinno być wyraźne ograniczenie zakresu wydawania postanowienia o zajęciu dokumentów i przedmiotów do tych bezpośrednio związanych z przedmiotem kontroli i niezbędnych do jej przeprowadzenia, zapewni to proporcjonalność środków kontroli. Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\" - czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 261. Art. 43 ust. 11 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 133 przepisów Projektu: Art. 43 ust. 11 Projektu dotyczący zajęcia rzeczy podczas kontroli — powinien uwzględniać przede wszystkim dyrektywę wynikającą z art. 52 Prawa przedsiębiorców, która stanowi, że czynności kontrolne wykonuje się w sposób sprawny 1 możliwie niezakłócający funkcjonowanie przedsiębiorcy. W przypadku, gdy przedsiębiorca wskaże na piśmie, że wykonywane czynności zakłócają w sposób istotny działalność gospodarczą przedsiębiorcy, konieczność podjęcia takich czynności uzasadnia się w protokole kontroli. Należy podkreślić, że nie jest jasne ratio legis wprowadzenia tak rygorystycznego uregulowania ze względu na to, że dokonanie kopii akt, ksiąg, wszelkiego rodzaju dokumentów, pism i korespondencji, które mogą mieć znaczenie dla sprawy, jest obecnie łatwe do dokonania. To samo dotyczy informatycznych nośników danych, urządzeń zawierających dane informatyczne, lub systemów informatycznych. Proponowane wskazanym przepisem środki cechuje znaczna dolegliwość. Warto natomiast do projektowanego przepisu wprowadzić dodatkowe przesłanki gwarantujące zachowanie zasady proporcjonałności. Konieczne jest także dokładne wskazanie organu właściwego do rozpatrzenia zażalenia na postanowienie o przedmiotowym zajęciu oraz tryb zaskarżenia wraz z określeniem ustawowego terminu rozpatrzenia zażalenia, zwłaszcza gdy złożenie zażalenia nie wstrzymuje wykonania postanowienia. Powyższe jest istotne ze względu na późniejsze stosowanie w praktyce projektowanych przepisów. 262. Art. 43 ust. 12 UOKiK Zgodnie z art. 43 ust. 11 projektu ustawy organ może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni, natomiast zgodnie z ust. 12 osobę posiadającą przedmioty wzywa się do ich wydania dobrowolnie, a w razie odmowy kieruje się przeciwko posiadaczowi postępowanie egzekucyjne. Skoro wydane zostanie postanowienie o zajęciu ww. dowodów, to ich wydanie nie jest dobrowolne. Postanowienie stanowi akt administracyjny, który będzie Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 134 zobowiązywał podmiot do wydania dowodów w związku z ich zajęciem. Jeśli zaś postanowienie nie zostałoby wydane, nie byłoby podstawy do skierowania obowiązku do egzekucji. Należałoby przeredagować treść ust. 9-12, aby było jasne jak powinna wyglądać niniejsza procedura oraz które czynności mogą być dobrowolne, a które będą zobowiązywały podmioty i podlegały egzekucji 263. Art. 43 ust. 13 UKNF Z projektowanego przepisu nie wynika do kogo kierować/kto rozpatruje zażalenie na postanowienie o zajęciu przedmiotów. Zasadne jest odpowiednie doprecyzowanie przepisu w ww. zakresie. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 264. Art. 43 ust. 13 PFR Prosimy o rozważenie możliwości doprecyzowania procedury składania zażaleń oraz zapewnienie jasności co do trybu i terminów rozpatrywania takich zażaleń. To może zwiększyć transparentność całego procesu kontrolnego Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 265. Art. 43 ust. 13 Konfederacj a Lewiatan Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (w związku bowiem z art. 56 projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której proponuje się, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący. Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa.Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 135 266. Art. 43 ust. 13 Pracodawcy RP Proponowany przepis przewiduje możliwość zaskarżenia postanowienia o zajęciu przedmiotów, w drodze zażalenia, jednak bez wskazania trybu, w jakim ma to nastąpić, a także bez wskazania organu, do którego zażalenie powinno zostać wniesione. W szczególności nie reguluje tego proponowana zmiana w obszarze przepisów Kodeksu postępowania cywilnego, która dotyczy wyłącznie decyzji Komisji. Ponadto z dużym niepokojem należy się odnieść do uregulowania, że zaskarżenie postanowienia o zajęciu przedmiotów nie wstrzymuje jego wykonania - szczególnie w sytuacji, gdy zajęciu podlegają dokumenty i inne nośniki zawierające informacje wrażliwe - bowiem Komisja jest wówczas uprawniona do działania dalej tak, jakby postanowienie nie zostało zaskarżone, grożąc niemożliwą do zrekompensowania stratą po stronie podmiotu obowiązanego. Należy wprowadzić do proponowanej ustawy przepisy precyzujące ścieżkę odwoławczą w zakresie postanowień o zajęciu przedmiotów w toku kontroli, a także wykreślić normę dot. natychmiastowej wykonalności postanowienia o zajęciu przedmiotów bądź, alternatywnie, zastrzeżeniu, że w przypadku zaskarżenia postanowienia o zajęciu należy powstrzymać się od wykorzystania zajętych przedmiotów do momentu rozstrzygnięcia uprawnionego organu. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 267. Art. 43 ust. 13 Rada Legislacyjna [Brak wskazania w art. 43 ust. 13 Projektu organu uprawnionego do rozpatrywania zażalenia] W przepisie art. 43 ust. 13 Projektu nie wskazano organu, który jest uprawniony do rozpatrzenia wymienionego w tym przepisie zażalenia na postanowienie Komisji o zajęciu przedmiotów. Przepis art. 43 ust. 13 Projektu – który jest zamieszczony w ramach grupy przepisów Projektu normujących kontrolę przez Komisję przestrzegania przepisów Rozporządzenia UE 2024/1689 i ustawy (obecnie Projektu) – stanowi co następuje: „Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia.”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 136 Postanowienie, o którym mowa w tym przepisie jest wydawane przez Komisję (zob. art. 43 ust. 11 Projektu), aczkolwiek Projekt nie określa właściwej w tych sprawach drogi odwoławczej, w tym np. nie wskazuje na możliwość zaskarżenia tego postanowienia zażaleniem do SOKiK. Co prawda art. 45 ust. 5 Projektu mówi o możliwości zwrotu przez SOKiK pism lub dokumentów ujawnionych w toku omawianej kontroli dokonywanej przez Komisję, ale przepis art. 45 ust. 5 Projektu absolutnie nie ma zastosowania do postanowienia Komisji o zajęciu przedmiotów, o którym jest mowa w art. 43 ust. 13 Projektu, gdyż, po pierwsze, art. 45 ust. 5 Projektu dotyczy jedynie bardzo wąskiej grupy pism lub dokumentów (a nie innych przedmiotów) związanych z komunikacją kontrolowanego z prawnikiem (zob. art. 45 ust. 1-4 Projektu), a po drugie te pisma i dokumenty, których dotyczy art. 45 ust. 5 Projektu (i o których zwrocie będzie orzekał SOKiK) nie są przez kontrolowanego zajmowane, lecz są pozostawiane w miejscu kontroli (zob. art. 45 ust. 1 in fine Projektu). Tym samym przepis art. 45 ust. 5 Projektu nie ma żadnego znaczenia (a w każdym razie nie ma przesądzającego znaczenia) dla zidentyfikowania lub wskazania drogi prawnej przysługującej w przypadku zaskarżania zażaleniem postanowienia Komisji o zajęciu przedmiotów, o czym jest mowa w art. 43 ust. 13 Projektu. W związku z tym Rada Legislacyjna postuluje wyraźne przesądzenie w art. 43 ust. 13 Projektu, że zażalenie, o którym jest mowa w tym przepisie jest wnoszone do SOKiK i jest przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 268. Art. 43 ust. 14 IAB Polska Relacja między ust. 14 a ust. 11-13 jest niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować, w jakiej sytuacji zajęcie jest niedopuszczalne. Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 269. Art. 43 ust. 14 Konfederacj a Lewiatan Relacja między ustępem 14 a ust. 11-13 jest całkowicie niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować w jakiej sytuacji zajęcie jest niedopuszczalne. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 137 Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia NA MIEJSCU KONTROLI\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. 270. Art. 43 ust. 15 IAB Polska Należy wskazać, kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak: kto może być taką osobę i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 271. Art. 43 ust. 15 Konfederacj a Lewiatan Należy wskazać kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak kto to może być i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 272. Art. 43 ust. 15 Pracodawcy RP Zgodnie z proponowanym przepisem, przedmioty podlegające zajęciu w toku kontroli po dokonaniu oględzin i sporządzeniu protokołu zajęcia zostają zabrane albo oddane na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Ustawa nie definiuje jednak, jakie cechy powinna posiadać „osoba godna zaufania”, w jaki sposób jest wyznaczana, ani jakie gwarancje ochrony informacji poufnych przysługują podmiotowi obowiązanemu. W ocenie zgłaszającego komentowany przepis zawiera luki, które należy uzupełnić poprzez dodanie postanowień dotyczących osoby Godnej zaufania, sposobu jej wyznaczenia i ciążących na niej obowiązków, a także określenie sposobu postępowania ze złożonymi takiej osobie zajętym przedmiotami. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 273. Art. 43 ust. 16 i 18 Pracodawcy RP Przedmiotowe przepisy dotyczą sporządzenia i treści protokołu oraz wydania podmiotowi kontrolowanemu pokwitowania zajętych przedmiotów, jednak nie przewidują procedury odwoławczej wobec zastrzeżeń co do treści takiego protokołu i pokwitowania. Postulujemy zawarcie w omawianych przepisach Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 138 odwołania do postępowania odwoławczego prowadzonego przez sąd ochrony konkurencji i konsumentów w odniesieniu do wszystkich rodzajów spraw wynikających i pozostających w związku z realizacją uprawnień określonych w przedmiotowym projekcie ustawy - jest to uzasadnione wyłączeniem zasady dwuinstancyjności postępowania administracyjnego w odniesieniu do spraw określonych omawianą ustawą, które powinno być równoważone zasadą umożliwienia prawnej ochrony podmiotowi kontrolowanemu. 274. Art. 43 ust. 18 KRRiT w art. 43 ust. 18 nie jest jasne, dlaczego powiadomienie ma dotyczyć tylko przedsiębiorcy, skoro kontroli mogą być poddane także osoby fizyczne nieprowadzące działalności gospodarczej (przepis art. 43 ust. 21 projektowanej ustawy); Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 275. Art. 43 ust. 20 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Art. 43 ust. 20 Projektu powinien uwzględniać gwarancyjny charakter instytucji sprzeciwu określonej w art. 59 ust. 1-16 Prawa przedsiębiorców, zwłaszcza możliwość jego złożenia w odniesieniu do poszczególnych czynności kontrolnych dokonanych z naruszeniem art. 48, art. 49, art. 50 ust. 1 1 5 oraz art. 51 ust. 1, art. 54 ust. 1, art. 55 ust. 1 i 2 a także art. 58 Prawa przedsiębiorców. Uwagi dot art. 42 i 43 wskazują na duże zagrożenie dla zagwarantowanych podstawowych praw przedsiębiorców, jakie stwarza szczególnie aktualna treść art. 42 Projektu, jak również na poważne niejasności co do ewentualnych skutków, w wypadku pozostawienia w Projekcie wskazanych przepisów w ich obecnej treści. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 276. Art. 43 ust. 20 IAB Polska Należy doprecyzować, w jakiej formie należy wnieść sprzeciw oraz skutki związane z jego wniesieniem. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 277. Art. 43 ust. 20 Konfederacj a Lewiatan Należy doprecyzować jakie formie i co wynika z wniesienia sprzeciwu. W tym punkcie ma zastosowanie uzasadnienie z punktu powyżej. Ponadto, naszą wątpliwość budzi w jakim trybie, do jakiego organu oraz za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - Jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakm terminie może Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 139 być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jesli na podstawie ust. 16 art. 59 stosuje sie odpowiednio przepisy KPA. Jesli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie róznych trybów/organów w jednym artykule ustawy jest niewskazane. 278. Art. 43 ust. 20 Pracodawcy RP Przepis nie określa trybu wniesienia sprzeciwu wobec podjęcia i prowadzenia kontroli z naruszeniem przepisów ani nie wskazuje organu właściwego do jego rozpoznania. Uzasadnienia jak do art. 43 ust. 3 Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 279. art. 43 ust. 20 Rada Legislacyjna [Brak wskazania w art. 43 ust. 20 Projektu organu właściwego do rozpatrzenia zażalenia na postanowienie rozstrzygające sprzeciw] Przepis art. 43 ust. 20 Projektu nie wskazuje organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w tym przepisie. Przepis art. 43 ust. 20 Projektu stanowi, że „Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów.”. Ponieważ zgodnie z art. 42 Projektu do kontroli, o której jest tutaj mowa stosuje się, w zakresie nieuregulowanym w Projekcie, przepisy rozdziału 5 ustawy Prawo przedsiębiorców, zaś w tej ostatniej ustawie została uregulowana kwestia wnoszenia sprzeciwu przez przedsiębiorcę do organu kontroli w związku z naruszeniem różnych przepisów ustawy Prawo przedsiębiorców normujących kontrolę przedsiębiorców, można by sądzić, że w kwestii rozpatrywania sprzeciwu oraz skutków prawnych tego rozpatrzenia należy stosować właśnie przepisy rozdziału 5 ustawy Prawo przedsiębiorców. To by zaś oznaczało, że rozstrzygnięcie przez Komisję sprzeciwu podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu następuje w drodze postanowienia Komisji (wniosek z art. 59 ust. 7 Prawa przedsiębiorców w zw. z art. 42 Projektu), zaś postanowienie to jest następnie zaskarżalne zażaleniem (wniosek z art. 59 ust. 9 Prawa przedsiębiorców w zw. z art. 43 Projektu), a dodatkowo po wydaniu postanowienia Komisji rozstrzygającego sprzeciw podmiotu kontrolowanego ten ostatni może wnieść do sądu administracyjnego skargę na przewlekłe prowadzenie kontroli (wniosek z art. 59 ust. 14 w zw. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 140 z ust. 9 pkt 1 i ust. 7 pkt 2 Prawa przedsiębiorców w zw. z art. 42 Projektu). Tyle tylko, że stosując wprost wskazane przepisy ustawy Prawo przedsiębiorców nadal nie sposób jest jednoznacznie stwierdzić, jaki konkretnie organ miałby być uprawniony do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w art. 43 ust. 20 Projektu: czy sama Komisja (skoro brak jest w stosunku do Komisji organu administracji wyższego stopnia – zob. stosowany przez analogię przepis art. 127 § 3 w zw. z art. 144 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego,23 dalej: „k.p.a.”) czy też może SOKiK, tak jak to jest postulowane wyżej w odniesieniu do postanowień Komisji o zajęciu przedmiotów? Na to pytanie przepisy Projektu nie udzielają niestety jednoznacznej odpowiedzi, nawet przy uwzględnieniu wspomnianego odesłania z art. 42 Projektu do przepisów rozdziału 5 ustawy Prawo przedsiębiorców. Zdaniem Rady Legislacyjnej, względy pożądanej efektywizacji ochrony prawnej podmiotów kontrolowanych przemawiają za tym, aby postanowienia Komisji rozstrzygające wnoszony przez podmiot kontrolowany sprzeciw, o którym jest mowa w art. 43 ust. 20 Projektu, były zaskarżane zażaleniem do SOKiK i były przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 280. Art. 43 ust. 21 Konfederacj a Lewiatan Konieczne jest wyjaśnienie, jak ten przepis odnosi się do zakresu podmiotowego AI Actu. Zapewni to spójność i zrozumiałość ustawy. AI Act wyłącza część podmiotów z zakresu jego stosowania. O jakim kręgu podmiotów mówi ten przepis? Jest to niejasne. Uwaga nieuwzględniona. 281. Art. 44 RPD Wątpliwości budzi również regulacja przewidziana w ww. przepisie zgodnie z którym Komisja będzie mogła zwrócić się m.in. do organu ochrony prawa o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli, a podmiot taki zapewni pomoc w przeprowadzeniu kontroli. Wniosek taki może być przesłany co najmniej 7 dni przed planowanym dniem wszczęcia kontroli, a w przypadkach niecierpiących zwłoki, co najmniej 3 dni przed planowaną kontrolą. Przepisy odnoszące się do tej materii nie wskazują, jakie kompetencje i kwalifikacje mają mieć osoby Uwaga uwzględniona Nowe brzmienie przepisów o kontroli. 141 uczestniczące z ramienia organu. Kwestie te nie zostały również wyjaśnione w uzasadnieniu do projektu. 282. Art. 44 ZPP Komisja na mocy art. 44 ma mieć możliwość zwrócenia się m.in. do policji o udzielenie pomocy w przeprowadzeniu kontroli – z uwagi na charakter czynności i samej Komisji, która nie ma być kolejną służbą w modelu policyjnym, przeciwdziałającą kryminalnym występkom, lecz organem nadzoru nad stosowaniem w praktyce AI Act, wydaje się to instrument zarysowany w projekcie ustawy zbyt szeroko. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 283. Art. 44 ust. 1 IAB Polska To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to najgorsze skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne. Ewentualnie należy rozważyć zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. Proponujemy następujące brzmienie przepisu: “Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 142 284. Art. 44 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przpisu: „Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uzasadnienie: Przewidziana w projekcie potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji wydaje się być rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dlatego też należy przeanalizować konieczność jej pozostawienia. To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i JEDYNIE, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne Uwaga częściowo uwzględniona 143 Ewentualnie należy rozważyc zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. 285. Art. 44 ust. 2 pkt 3 KRRiT w art. 44 ust. 2 pkt 3 wyrazy „jednostek podległych i nadzorowanych” zostały błędnie odmienione; 286. Art. 44 ust. 2 pkt 3 Konfederacj a Lewiatan Wątpliwości budzi przyznane w tym przepisie uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 287. Art. 44 ust. 3 UKNF W tekście prawnym należy posługiwać się takimi samymi określeniami w odniesieniu do tych samych czynności (działania). Natomiast w przedmiotowym przepisie najpierw posłużono się sformułowaniem: „dniem wszczęcia kontroli”, a następnie sformułowaniem: „dniem rozpoczęcia kontroli”, co odnosi się do tego samego działania – zainicjowania kontroli. Urząd Komisji Nadzoru Finansowego postuluje ujednolicenie treści przepisu w tym zakresie. Uwaga uwzględniona 288. Art. 44 ust. 4 KRRiT w art. 44 ust. 4 wątpliwość może budzić ustanowienie wynagrodzenia dla organów podejmujących czynności w zakresie swoich uprawnień i obowiązków; Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 289. Art. 45 IAB Polska Dotyczy art. 45 ust. 1 pkt 1) Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może Uwaga uwzględniona 144 zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: “zawierają pisemną komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub”. Dotyczy art. 45 ust. 1 pkt 2) - Należy wskazać, co w sytuacji, jeśli takie pismo/dokument znajduje się na nośniku, jaki ma być zajęty. 290. Art. 45 Konfederacj a Lewiatan W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Stoimy na stanowisku, iż jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 291. Art. 45 ust. 1 KRRiT w art. 45 ust. 1 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; w art. 45 ust. 1 pkt 1) i 2) wydaje się, że pojęcie „właściwy organ” należy zastąpić terminem „Komisję”; Uwaga uwzględniona 145 292. Art. 45 ust. 1 i 2 RPO Ww. przepis przewiduje wgląd kontrolującego w dokumenty podmiotu kontrolowanego, które mogą być objęte tajemnicą adwokacką/radcowską (dalej jako: tajemnica adwokacka). W projektowanej ustawie przewidziano możliwość złożenia oświadczenia przez kontrolowanego wskazującego, że określone pisma i dokumenty zawierają informacje objęte tajemnicą adwokacką, co winno skutkować pozostawieniem przez kontrolujących tych dokumentów w miejscu kontroli. Jednocześnie jednak w świetle projektowanych przepisów, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, a także jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia. Co więcej, jeżeli oświadczenie kontrolowanego budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, w sposób zapewniający należyte zabezpieczenie przed ujawnieniem jego treści. Ostatecznie to sąd decyduje o możliwości przekazania ww. dokumentów podmiotowi kontrolującemu. Mimo istnienia tego mechanizmu kontrolnego, sama możliwość nawet pobieżnego zapoznania się z pismami i dokumentami zawierającymi informacje objęte tajemnicą adwokacką, może budzić poważne wątpliwości . Należy wskazać, że tajemnica adwokacka służy ochronie interesów klienta. Stanowi ona gwarancję poszanowania relacji zaufania klienta do adwokata, bez której nie można wyobrazić sobie prawidłowej reprezentacji i prawidłowo funkcjonującego wymiaru sprawiedliwości. Ochrona tajemnicy adwokackiej stanowi jeden z najistotniejszych, jeśli nie najważniejszy obok należytej reprezentacji interesów klienta, obowiązków zawodowy adwokata . Także Europejskie Stowarzyszenie Adwokatur podkreśla, że bez tajemnicy nie powstałby pomiędzy adwokatem a klientem stosunek zaufania, w konsekwencji adwokaci nie mogliby wykonywać swojego zawodu . W wyroku z dnia 24 maja 2018 r. w sprawie Laurent v. Francja Europejski Trybunał Praw Człowieka wskazał, że ze względu na uprzywilejowany Uwaga uwzględniona 146 charakter komunikacji podejrzanego z obrońcą władze publiczne nie mogą dokonywać kontroli tej korespondencji, chyba że istnieją uzasadnione podstawy do podejrzeń, że korespondencja ta zawiera treści nielegalne. Niemniej nawet wówczas należy zapewnić odpowiednie gwarancje proceduralne. W sprawie tej adwokat Cyril Laurent napisał swoje dane na kartce papieru, którą następnie złożył i wręczył podejrzanym zatrzymanym przez policję. Funkcjonariusz policji zapoznał się z jej treścią, na co skarżący złożył nieskuteczne zażalenie do sądu. W przedmiotowej sprawie, ETPC zauważył, że owa kartka papieru stanowi korespondencję chronioną przez art. 8 Konwencji. W związku z tym zapoznanie się z nią przez funkcjonariusza policji stanowi ingerencję w prawo do poszanowania życia prywatnego. Trzeba zatem zauważyć, że stworzenie możliwości osobom nieupoważnionym zapoznania się z pismem lub dokumentem objętymi tajemnicą adwokacką ingeruje w relację pomiędzy pełnomocnikiem i klientem oraz narusza tajemnicę korespondencji. W mojej ocenie pozostawienie projektowanego przepisu w takim kształcie jest trudne do pogodzenia z ww. zasadami jak również z zasadą demokratycznego państwa prawnego (art. 2 Konstytucji RP). 293. Art. 45 ust. 1 BGK Propozycja 1.Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 147 informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 294. Art. 45 ust. 1 pkt 1 Konfederacj a Lewiatan Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: „zawierają komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub (..)” Uzasadnienie: Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni.Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Uwaga uwzględniona 148 Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. 295. Art. 45 ust. 1 pkt 2 Konfederacj a Lewiatan Należy wskazać co w sytuacji jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 296. Art. 45 ust. 2 ZZP Na gruncie art. 45 ust. 2 kontrolujący ma mieć prawo „pobieżnego” zapoznania się z pismem zawierającym pisemną komunikację między podmiotem kontrolowanym a np. niezależnym od niego adwokatem, a więc dokumentem z zasady objętym tajemnicą adwokacką. Sam przepis jest w naszym przekonaniu za daleko idący i powinien zostać usunięty, tym bardziej razi on w kontekście regulacji dot. możliwości upoważnienia do przeprowadzenia kontroli osób trzecich. Uwaga uwzględniona Zmiana brzmienia przepisu. 297. Art. 45 ust. 2 IAB Polska Rekomendujemy następujące brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe”. Prawo organu do \"pobieżnego zapoznania się\" z dokumentu objętym tajemnicą radcowską/adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności. Uwaga uwzględniona 298. Art. 45 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Wnosimy o wykreślenie ustępu 2. Jeśli są wątpliwości, to powinno to być poddane kontroli sądowej. Uwaga uwzględniona 149 Z ostrożności procesowej, w przypadku nieuwzględnienia powyższej uwagi, proponujemy następujące zmiany: Ew. rekomendujemy następujace brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie wyłącznie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Uzasadnienie: Słowo \"pobieżnie\" powinno być usunięte, trzeba zapewnić w ustawie precyzyjne określenie, że kontrolujący może zapoznać się tylko z określonymi aspektami pisma lub dokumentu. Wyraz \"pobieżnie\" jest nieprecyzyjny i może prowadzić do różnych interpretacji. Precyzyjne określenie aspektów, z którymi kontrolujący może się zapoznać, zapewni większą pewność prawną i ochronę najważniejszych prawnie chronionych tajemnic – radcowskiej i adwokackiej. Prawo organu do \"pobieżnego zapoznania się\" z dokumentnu objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem 150 \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności 299. Art. 45 ust. 2 Pracodawcy RP Z dużym niepokojem należy odnieść się do przepisu, zgodnie z którym złożenie przez podmiot kontrolowany oświadczenia, że dany dokument zawiera komunikację z niezależnym od niego przedstawicielem zawodu powołanego do świadczenia ochrony prawnej, nie wyłącza możliwości pobieżnego zapoznania się przez kontrolera z takim dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Tak skonstruowany przepis narusza taj emnicę adwokacką / radcowską, a także może naruszać tajemnicę obrończą, która ma charakter bezwzględny: postępowanie przez Komisją może łączyć się bowiem z postępowaniem karnym, w którym kontrolowany ma status oskarżonego lub podejrzanego. Przepis potencjalnie narusza też prawo obywatela do obrony, ponieważ w toku kontroli mogą wyjść na jaw okoliczności dotyczące np. postępowania karnego. Zwrot „pobieżne zapoznanie się” jest nieprecyzyjny i nieostry - w efekcie wyjątkowo wyjątkowo ocenny przepis, którego stosowanie będzie w praktyce uzależnione od prywatnych zapatrywań urzędnika. Potencjalnie przedmiotowy przepis pozostaje także w sprzeczności z art. 78 ust. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (Aktu AI), zgodnie z którym organy zaangażowane w stosowanie rozporządzenia zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania przyznanych im uprawnień. Dodatkowo organy Uwaga uwzględniona 151 te są zobowiązane do wprowadzenia odpowiednich i skutecznych środków w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych. Za konieczne uznajemy modyfikację treści ust. 2 art. 45 proponowanej ustawy, która w obecnym kształcie pozwala na pobieżne zapoznanie się z przedmiotem pisma, a nie tylko informacjami dotyczącymi autora, tytułu czy daty pisma - w tym zakresie ewentualne zapoznanie się kontrolera z takim pismem powinno się ogranicza do autora, adresata, tytułu i daty. Jakiekolwiek wątpliwości związane z przedmiotem pisma powinien rozstrzygać właściwy sąd (sąd ochrony konkurencji i konsumentów), który ewentualnie mógłby podważyć istnienie prawnie chronionej korespondencji przedsiębiorcy z pełnomocnikiem - w każdym przypadku, nie tylko w sytuacji, gdy dokument budzi wątpliwości kontrolera (vide art. 45 ust. 3). W przypadku utrzymania omawianego przepisu w dotychczasowym brzmieniu postulujemy natomiast, by osoba, która w ten sposób zapoznała się z dokumentem w trakcie kontroli, podlegała wyłączeniu z udziału w dalszym postępowaniu wobec podmiotu obowiązanego. 300. Art. 45 ust. 3 IAB Polska Należy wskazać, w jaki sposób kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, skoro z ust. 1 in fine (“kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Uwaga nieuwzględniona 301. Art. 45 ust. 3 Konfederacj a Lewiatan Należy wskazać w jaki sposóbkontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów , skoro z ust. 1 in fine (\" kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów? Uwaga nieuwzględniona 302. Art. 45 ust. 3 Pracodawcy RP W uzupełnieniu uwag opisanych w pkt 7 powyżej należy wskazać, że umożliwienie przekazania budzącego wątpliwości oświadczenia o dokumentach zawierających tajemnicę adwokacką / radcowską do sądu ochrony konkurencji i Uwaga nieuwzględniona 152 konsumentów po zakończeniu kontroli, efektywnie pozbawia podmiot obowiązany możliwości obrony – przepis nie zawiera bowiem wytycznych co do sposobu postępowania z oświadczeniem i dokumentów, do których oświadczenie się odnosi, przy jednoczesnym posługiwaniu się nieostrymi, ocennymi pojęciami „wątpliwości” i „niezwłoczności”. W odniesieniu do przedmiotowych oświadczeń proponujemy modyfikację zaproponowanej treści przepisu w taki sposób, by jednoznacznie określał on sposób postępowania z kwestionowanymi oświadczeniami i dokumentami oraz zwiększał rolę sądu w ocenę zasadności wykorzystania określonych danych i informacji jeszcze w toku kontroli. W przeważającej części wypadków dane te będą miały niezwykle wrażliwy charakter, co uzasadnia przyjęcie najwyższej możliwej ochrony praw podmiotu obowiązanego. 303. Art. 45 ust. 4 KRRiT należy rozważyć wykreślenie art. 45 ust. 4 i stosować ogólną zasadę, zgodnie z którą ciężar dowodu spoczywa na tym, kto z twierdzenia wywodzi skutki prawne; Uwaga uwzględnienia 304. Art. 45 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich doręczenia postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.” Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 305. Art. 45 ust. 5 IAB Polska Postulujemy uzupełnienie brzmienia przepisu o wskazanie terminu, w jakim sąd drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Proponowane brzmienie: “Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 153 przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia”. 306. Art. 45 ust. 5 Konfederacj a Lewiatan Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Uzasadnienie: Postuluje się uzupełnienie brzmienia przepisu o wskazanie terminu w jakim Sad drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 307. Art. 46 ust. 1-9 UKNF Z całokształtu przepisu nie wynika kiedy projekt wystąpienia pokontrolnego staje się wystąpieniem pokontrolnym. Ponadto przepis nie wymaga, aby projekt wystąpienia pokontrolnego był podpisywany przez kontrolujących, co rodzi wątpliwość odnośnie tego, czy ma on walor dokumentu. Analogiczne regulacje zawiera ustawa z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (art. 36-48). Przy czym w przedmiotowej ustawie precyzyjnie uregulowano wskazane kwestie (zarówno projekt, jak i samo wystąpienie pokontrolne powinny być podpisane). Uwagi uwzględnione 154 Ponadto, aby art. 46 ust. 3 projektu ustawy nie budził wątpliwości UKNF rekomenduje zastąpienie sformułowania: „do właściwego organu”, sformułowaniem: „do Komisji”. Analizy i rozpatrzenia zastrzeżeń do wystąpienia pokontrolnego dokonuje bowiem Komisja, a nie kontrolujący, gdyż zastrzeżenia kierowane są właśnie do organu – Komisji, a nie do kontrolujących, jak wynika to z ww. ust. 3. Urząd Komisji Nadzoru Finansowego rekomenduje, aby przepisy były spójne w tym zakresie. W odniesieniu do ustępu 9 projektowanego przepisu UKNF wskazuje, że zasadnym jest – analogicznie jak chociażby w art. 13 §1a. ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego (dalej jako: „KPA”), czy w art. 348 ust. 3 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej – zastąpienie opatrywania wystąpienia pokontrolnego „profilem zaufanym” na opatrywanie „podpisem zaufanym”. 308. Art. 46 ust. 1 i 4 Konfederacj a Lewaiatan Czy \"wystapienie pokontrolne\" nie może się po prostu nazywac „protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKK, UODO. Ustęp 4 stanowi kalkę np. przepisów UODO i UOKK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie „aneksu do wystąpienia\", bo samo „wystąpienie\" jeszcze nie powstało. Uwagi uwzględnione 309. Art. 46 ust. 4 pkt 5 BGK Propozycja: 5) żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych Uwaga uwzględniona 155 (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 310. Art. 47 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 311. Art. 47 ust. 3 IAB Polska Proponujemy następujące brzmienie przepisu: “Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń”. Uwaga częściowo uwzględniona 312. Art. 47 ust. 3 Konfederacj a Lewiatan Proponuje się następujące brzmienie przepisu: Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. Uwaga częściowo uwzględniona 313. Art. 48 KRRiT w art. 48 mowa jest o naruszeniu rozporządzenia 2024/1689 lub ustawy, natomiast w art. 49 ust. 1 mowa jest o tylko o postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689; Uwaga uwzględniona Rozszerzono zakres przedmiotowy regulacji. 156 314. Art. 48 UKNF Przepis skonstruowany jest w taki sposób, że ma on charakter związany, co oznacza, że w przypadku stwierdzenia nawet mało istotnych naruszeń Komisja jest zobligowana do wszczęcia postępowania administracyjnego w przedmiocie tych naruszeń. W opinii UKNF zasadnym jest zatem rozważenie wprowadzenia fakultatywności wszczynania postępowania przez Komisję (nie wszystkie naruszenia wymagają przeprowadzenia postępowania administracyjnego). Uwaga uwzględniona 315. Art. 48 Rada Legislacyjna [Brak wyrazu „Komisja” w art. 48 Projektu] W art. 48 Projektu w drugiej części zamieszczonego tam zdania brakuje wyrazu: „Komisja”. W aktualnej wersji Projektu przepis ten stanowi, że „W przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, , że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy.” (pisownia w oryginalne). Postulatywnie, druga część tego przepisu powinna brzmieć następująco: „[...] Komisja obowiązana jest do niezwłocznego wszczęcia postępowania”. Uwaga uwzględniona Rozdział 4 Postępowanie przed organem nadzoru (art. 49 - art. 60) 316. Rozdział 4 PUODO Postępowanie przed organem nadzoru. Rozdział 4 projektu ustawy dotyczy postępowania przed organem nadzoru. Zgodnie z art. 49 ust. 2 Komisja wszczyna postępowanie m.in. na podstawie skargi. W art. 50 ust. 4 projektu ustawy wskazuje się, że rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 6 ust. 3 (czyli m.in. z Prezesem UODO). Projektodawca nie zakłada natomiast przekazywania sprawy według właściwości (np. do organu właściwego w sprawie ochrony danych osobowych). Projektowany art. 50 ust. 4 może powodować wątpliwości interpretacyjne, a w konsekwencji potencjalny konflikt kompetencyjny w przedmiocie rozpatrywania spraw związanych z przetwarzaniem danych osobowych, np. gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. Sprawa w zakresie przetwarzania danych osobowych powinna być, Uwaga uwzględniona 157 zgodnie z art. 65 § 1 ustawy z 14 czerwca 1960 r. Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572), przekazana do organu właściwego, tj. do organu ds. ochrony danych osobowych. Przy czym należy mieć na uwadze, że z treści art. 50 projektu ustawy wynika, że skardze należałoby przypisać znaczenie zawiadomienia o nieprawidłowościach w celu wszczęcia postępowania z urzędu, a nie skargi w sprawie indywidualnej (zgodnie z definicją strony postępowania w art. 51 ust. 1 projektu ustawy). Zauważyć należy, że w przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w przepisach projektu ustawy o systemach sztucznej inteligencji dotyczących postępowania przed organem nadzoru nie wskazuje jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Możliwe jest zatem skierowanie sprawy do dwóch organów równolegle, czego należy spodziewać się tym bardziej, jeśli obowiązujące przepisy nie będą precyzyjnie regulowały tego zagadnienia. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. 317. Art. 49 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Rekomendujemy modyfikację: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykul 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art.. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. Uwaga nieuwzględniona 158 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Po pierwsze, Komisja powinna mieć prawo ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsięborcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalnośći środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony dlaczego np. Minister Kultury ale już nie Minister Sprawiedliwości, Minister Rozowju i Technologii? 318. Art. 49 ust. 2 IAB Polska Komisja powinna mieć możliwość, a nie obowiązek wszczęcia postępowania. Komisja powinna móc zweryfikować zasadność wniosku lub skargi. Uwaga nieuwzględniona 319. Art. 49 ust. 2 UKNF W ogólnym postępowaniu administracyjnym występują tylko dwa sposoby wszczęcia postępowania administracyjnego: tj. z Uwaga uwzględniona 159 urzędu i na wniosek (strony). Natomiast art. 49 ust. 2 projektu ustawy rozróżnia trzy sposoby wszczęcia postępowań administracyjnych przez Komisję: z urzędu, na wniosek i na podstawie skargi. W ocenie UKNF projektowany przepis należy odczytywać w taki sposób, że stanowi on o pochodzeniu dowodów (materiałów), na których ma się opierać wszczęcie postepowania, tj. kolejno: 1) posiadanych przez Komisję; 2) przekazanych przez członków Komisji z innych organów oraz 3) pozyskanych ze skarg. Niezależnie jednak od źródła dowodów będziemy mieć do czynienia ze wszczęciem postepowania z urzędu (a nie na wniosek lub na podstawie skargi, jak wskazuje się w przedmiotowym przepisie). Mając na względzie powyższe, w opinii UKNF projektowany przepis przewiduje nieuzasadnione odstępstwo od ogólnego postępowania administracyjnego, wprowadzając zbędny wyłom w ogólnym modelu postępowania administracyjnego, co może rodzić wątpliwości interpretacyjne. 320. Art. 50 ust.2 KRRiT w art. 50 ust. 2 wśród wymogów formalnych skargi nie przewidziano oznaczenia składającego skargę, podpisu czy też adresu do korespondencji, co może sugerować koncepcję rozpoznawania skarg złożonych anonimowo; Uwaga uwzględniona 321. Art. 50 ust. 3 KRRiT w art. 50 ust. 3 należy doprecyzować, o jakie inne środki komunikacji chodzi; Uwaga nieuwzględniona 322. Art. 51, Art. 52 i Art. 56 (terminy) UOKiK Ww. przepisy projektu ustawy regulują okres w jakim może być prowadzone postępowanie. Z jednej strony wskazuje się w art. 56 na to, że „W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”, z drugiej strony w art. 52 ust. 2 wskazuje się, że „Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572)”, natomiast w art. 51 ust. 3 projektowanej ustawy - „Postępowanie nie może trwać dłużej niż 12 miesięcy”. Skoro zatem czas trwania postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 został określony na 12 miesięcy, przepisy art. 35 kodeksu postępowania administracyjnego nie mają w tej sytuacji zastosowania. Rozważenia wymaga ewentualne wskazanie, że Uwaga uwzględniona 160 okresu trwania postępowania dowodowego, nie wlicza się do terminu o którym mowa w art. 51 ust. 2 projektowanej ustawy. 323. Art. 51 ust. 1 KRRiT w art. 51 ust. 1 zasadnym jest przyznanie statusu strony w postępowaniu podmiotowi, którego skarga doprowadziła do wszczęcia postępowania; Uwaga częściowo uwzględniona 324. Art. 51 ust. 2 IAB Polska Komisja powinna mieć wyznaczony prawem termin na wydanie takiego postanowienia, biorąc pod uwagę, że od dnia wydania liczy się maksymalny czas trwania takiego postępowania w związku z ust. 3. Uwaga nieuwzględniona 325. Art. 51 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Uzasadnienie: W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Uwaga nieuwzględniona 326. Art. 51 ust. 2 UKNF Zgodnie z art. 61 § 4 KPA: „O wszczęciu postępowania z urzędu lub na żądanie jednej ze stron należy zawiadomić wszystkie osoby będące stronami w sprawie.”. Projektowany przepis przewiduje natomiast wydanie postanowienia o wszczęciu postępowania oraz zawiadomienie o tym stron postępowania. Większy rygor formalny zapewni stronie czynny udział i większe prawo do informacji odnośnie do prowadzonego postępowania. Zgodnie jednak z art. 125 § 1 KPA organ administracji publicznej doręcza tylko postanowienia, od których stronie służy zażalenie. Komisja nie ma więc obowiązku przekazania stronie odpisu postanowienia o wszczęciu postępowania. Może to zrobić wraz z zawiadomieniem o wszczęciu postępowania. Jeśli postanowienie to nie zostanie stronie doręczone, opis zachowania, które jest zarzucane, zostanie wyłącznie w aktach Uwaga uwzględniona 161 sprawy. W tym kontekście ustanowienie wymogu wydania postanowienia i zawiadomienia o tym strony jawi się jako zbędny formalizm. Urząd Komisji Nadzoru Finansowego wskazuje więc na rozważenie możliwości zmiany redakcji przepisu poprzez wskazanie, że postanowienie o wszczęciu doręcza się stronom postępowania. Jednocześnie konieczne jest przesądzenie w przepisie relacji do art. art. 61 § 4 KPA, aby uniknąć dublowania czynności o zbliżonym charakterze prawnym i funkcji. 327. Art. 51 ust. 3 KRRiT w art. 51 ust. 3 niewyjaśniony pozostaje status postępowania po upływie 12 miesięcy od dnia wszczęcia postępowania w przypadku, gdy w tym czasie nie wydano decyzji; Uwaga nieuwzględniona 328. Art. 51 ust. 3 BGK Propozycja 3.Postępowanie nie może trwać dłużej niż 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Uwaga nieuwzględniona 329. Art. 51 ust. 3 PFR Proponujemy rozważyć możliwość skrócenia 12-miesięcznego terminu do maksymalnie 6 miesięcy. Uwaga uwzględniona 330. Art. 51 ust. 3 Konfederacj a Lewiatan Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKK. Uwaga uwzględniona 331. Art. 51 ust. 3 UKNF Z projektowanego przepisu nie wynika, jaki jest charakter ustanowionego terminu 12 miesięcy, tj. czy przepis określa termin załatwienia sprawy administracyjnej. Wątpliwości interpretacyjne rodzić może również relacja tego przepisu do art. 35 KPA. W ocenie UKNF, 12 miesięcy rozumieć należy jako termin załatwienia sprawy, więc Komisja, w przypadku zwłoki w załatwieniu sprawy, przed upływem tego terminu będzie obowiązana poinformować stronę, zgodnie z art. 36 KPA. Należy to jednak jednoznacznie przesądzić w treści przepisu. Uwaga nieuzależniona 332. Art. 52 ust. 1 UOKiK Analizy wymaga, czy projektowany przepis nie pozostaje w sprzeczności z art. 58 ustawy – Prawo przedsiębiorców, ponieważ organ kontroli nie przeprowadza kontroli, w Uwaga nieuwzględniona 162 przypadku gdy ma ona dotyczyć przedmiotu kontroli objętego uprzednio zakończoną kontrolą przeprowadzoną przez ten sam organ. Wyjątki od tej zasady zostały enumeratywnie wymienione w art. 58 ust. 2 ustawy - Prawo przedsiębiorców, a przywołana podstawa przeprowadzenia ponownej kontroli nie mieści się w tym katalogu. Fakt, że przeprowadza się ponownie postępowanie dowodowe, do którego stosuje się przepisy o kontroli oznacza w praktyce, że ponownie przeprowadza się kontrolę w zakresie przedmiotu kontroli objętego uprzednio zakończoną kontrolą. Oznacza to, że organ przeprowadza kolejną kontrolę w tej samej sprawie, wbrew przepisowi art. 58 ustawy - Prawo przedsiębiorców. 333. Art. 52 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). Uzasadnienie: Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga nieuwzględniona 334. Art. 52 ust. 3 IAB Polska Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie Uwaga nieuwzględniona 163 postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". Proponuje się więc następujące brzmienie przepisu: “Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych”. 335. Art. 52 ust. 3 ZPP art. 52 ust. 3 umożliwia Komisji żądanie od strony tłumaczenia na język polski sporządzonej w obcym języku dokumentacji przez nią przedłożonej. Specyfika sektora cyfrowego, szczególnie w jego najnowocześniejszych obszarach związanych z AI, powoduje że w istocie większość dokumentacji może być dostępna w języku angielskim. Trudno wyobrazić sobie, by profesjonalni członkowie Komisji nie posługiwali się tym językiem. Uwaga nieuwzględniona 336. Art. 52 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przepisu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język Uwaga nieuwzględniona 164 angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uzasadnienie: Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna 165 papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". 337. Art. 53 IAB Polska Biorąc pod uwagę, że polskie prawo przewiduje raczej ostrzeżenia publiczne organów nadzoru (art. 6b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym), a nie personalne (jak w tym przypadku) – nie ma wykształconej praktyki postępowania. Tym samym to postanowienie należy rozbudować, aby odpowiednio zabezpieczyć interesy Strony (np. wydłużając termin na wykonanie rekomendacji, przewidzieć procedurę pozwalającą na zakwestionowane rekomendacji przez Stronę). Uwaga częściowo uwzględniona 338. Art. 53 Pracodawcy RP Zgodnie z art. 53 proponowanej ustawy, w przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy Aktu o AI, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni od dnia otrzymania ostrzeżenia jest zobowiązana do przedstawienia Komisji informacji z wykonania ww. rekomendacji. Powyższy przepis nie zawiera jednak szczegółowych norm co do trybu i formy wydania takiego ostrzeżenia ani nie określa konsekwencji niewykonania rekomendacji. Dopiero z innych przepisów ustawy można wyinterpretować, że niewykonanie rekomendacji stanowi podstawę wszczęcia formalnego postępowania w sprawie naruszenia Aktu o AI. Postulujemy modyfikację proponowanego przepisu w celu jego uzupełnienia o elementy wskazane w uwagach obok. Uwaga częściowo uwzględniona 339. Art. 53 ust. 1 i 2 UOKiK W projektowanym przepisie nie wyjaśniono jaki charakter prawny ma instytucja ostrzeżenia. Jednocześnie wskazuje się, że ostrzeżenie może zostać wydane w przypadku uzasadnionego podejrzenia o naruszeniu prawa, a zakres ostrzeżenia ograniczono wyłącznie do wskazania jego fakultatywnego elementu, jakim jest rekomendacja, przy braku innych, obligatoryjnych elementów. Uwaga częściowo uwzględniona 166 W celu zagwarantowania realizacji zasady pewności prawa uzasadnione pozostaje doprecyzowanie, jaki jest cel ostrzeżenia, co powinno zawierać i jakie są obowiązki strony w związku z wystosowaniem do niej ostrzeżenia jak również ewentualne sankcje z tytułu braku reakcji strony w związku ze skierowaniem do niej przedmiotowego środka. 340. Art. 53 ust. 1 Konfederacj a Lewiatan Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszraów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjmi może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiehj formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Uwaga wyjaśniona Ostrzeżenie będzie miało formę postanowienia. 341. Art. 53 ust. 1 UNKF Zgodnie z art. 99 ust. 1 rozporządzenia 2024/1689 ostrzeżenie powinno stanowić środek nadzoru stosowany w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, w tym kar administracyjnych. Tym samym zdaniem UKNF projektowany przepis powinien zostać uzupełniony w taki sposób, że Komisja w toku postępowania może wydać stronie ostrzeżenie, w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków. Uwaga uwzględniona 342. Art. 53 ust. 2 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie kazdych wskazanych przez Komisję) , które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych Uwaga uwzględniona 167 do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. W ocenie Konfederacji Lewiatan ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie pownien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia 343. Art. 53 ust. 3 Konfederacj a Lewiatan Termin 7 dni na wykonanie rekomendacji jest zbyt krótki. Lepiej byłoby ustalić \"wyznaczony termin\", dostosowany do okoliczności, niż sztywno zapisany w ustawie. Różne rekomendacje mogą wymagać różnego czasu na ich wykonanie. Sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Opcjonalnie proponujemy poniższą modyfikację przepisu: 3.Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Uwaga nieuwzględniona 344. Art. 54 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1.W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Dalsze wraz z uzasadnieniem: Uwaga nieuwzględniona 168 Pierwsza uwaga dotyczy zmiany gramatycznej co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Druga uwaga odnosi się do całości artykułu – niezbędne jest dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym kosumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomcą systemu sztucznej inteligencji i ocenę tych skuktów w zestawieniu z naruszeniem. 345. Art. 54 ust. 1 UKNF Projektowany przepis przewiduje obligatoryjne wydanie decyzji nakazującej zaprzestanie naruszeń. Przepis ten nie pozostawia więc organowi swobody decyzyjnej i obliguje go do wydania ww. decyzji niezależnie od wagi stwierdzonego naruszenia. Co istotne, wydanie decyzji nakazującej zaprzestanie naruszenia jest równoznaczne z brakiem możliwości wszczęcia postępowania w przedmiocie nałożenia kary pieniężnej za to samo naruszenie w trybie art. 99 ust. 4 rozporządzenia 2024/1689. Wydanie kolejnej decyzji w przedmiocie tego samego naruszenia będzie rodziło bowiem ryzyko stwierdzenia nieważności decyzji na podstawie art. 156 § 1 pkt 3 KPA. Z tego względu UKNF rekomenduje wprowadzenie do projektowanego przepisu mechanizmu karania fakultatywnego. Uwaga nieuwzględniona 346. Art. 55 Konfederacj a Lewiatan Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wsazanych w ust.2 wspólnie z organem lub podmiotem, o Uwaga częściowo uwzględniona 169 którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 15 dni roboczych od dnia doręczenia decyzji. 4. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. Uzasadnienie: Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Naszym zdaniem, 14-dniowy termin od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są 170 często złożone i jego dochowanie może być niemożliwe. Opcjonalnie proponujemy dostosowywanie terminu do sytuacji i skali systemu oraz skali zagrożenia, ponieważ sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Rygor natychmiastowej wykonalności - wprowadzenie rygoru moze oznaczać nieodwracalne, daleko idące skutki bzinesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. 347. Art. 55 ust. 1-6 UKNF W ocenie UKNF projektowany przepis wymaga gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach rozporządzenia. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Wydaje się, że przepis w zakresie ust. 1-3 odnosi się do procedury postępowania przewidzianej w art. 79 ust. 1-5 rozporządzenia 2024/1689 (ocena systemu AI stwarzającego określone ryzyka oraz, w przypadku ustalenia, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, zobowiązanie odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych lub wycofanie tego systemu z rynku lub z użytku). Projektowany art. 55 ust. 4 odnosi się natomiast do instytucji z art. 82 rozporządzenia 2024/1689, tj. sytuacji gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, ale stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. Z całokształtu przepisu wynika zatem, że art. 55 ust. 3 sankcjonuje system AI niezgodny z rozporządzeniem, a art. 55 ust. 4 odnosi się już do systemów niezgodnych z wymogami i obowiązkami ustanowionymi w rozporządzeniu i dodatkowo w sposób kwalifikowany stwarzający zagrożenia dla zdrowia, Uwaga uwzględniona Przepis został poddany dodatkowej analizie. 171 bezpieczeństwa i ochrony praw podstawowych, co jednak nie jest skorelowane z art. 79 i 82 rozporządzenia 2024/1689. Projektowana konstrukcja przepisu może prowadzić do wniosku, że zgodnie z brzmieniem art. 55 ust. 4 w przypadku systemów sztucznej inteligencji stwarzających ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli, Komisja jest obowiązana wydać decyzję nakazującą operatorowi tego systemu jego wycofanie, co już w świetle art. 82 ust. 1 rozporządzenia 2024/1689 jest nieuprawnione. Zgodnie bowiem z tym przepisem „(...) organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ.”. Dodatkowe trudności interpretacyjne wprowadza odwołanie w ust. 4 projektowanego przepisu do systemów, o których mowa w ust. 3. Relacja poszczególnych ustępów w tym przepisie jest niezrozumiała, ponieważ wydaje się, że odwołują się do innych instytucji i procesów z rozporządzenia 2024/1689. Niezależnie od powyższego UKNF wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). UKNF wskazuje również, że przepis art. 79 ust. 2 rozporządzenia 2024/1689 nie uzależnia wycofania systemu z rynku lub użytku od tego czy nie da się go uprzednio naprawić, na co z kolei wskazuje zastosowane w projektowanym art. 55 ust. 3 sformułowanie „jeśli nie jest to możliwe”. Zgodnie z art. 79 172 ust. 2 rozporządzenia 2024/1689 organ nadzoru rynku: „(...) zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku (...)”.Wydaje się zatem, że organ nie musi w pierwszej kolejności dążyć do zapewnienia zgodności systemu AI z wymogami rozporządzenia 2024/1689 poprzez jego naprawę, a może od razu, oczywiście o ile będzie to uzasadnione, zobowiązać operatora do wycofania systemu AI z rynku lub z użytku. 348. Art. 55 ust. 3 i 4 Pracodawcy RP Ustawa przewiduje możliwość wycofania systemu AI z rynku w terminie jedynie 14 dni od doręczenia decyzji, co może być trudne do zrealizowania dla firm korzystających z zaawansowanych systemów AI. Tak krótki termin może prowadzić do zakłóceń operacyjnych, naruszeń umów handlowych oraz znaczących strat finansowych. Proponujemy wydłużenie czasu na wycofanie systemu AI oraz rezygnację z natychmiastowej wykonalności decyzji o wycofaniu, aby umożliwić przedsiębiorcom dostosowanie swoich działań operacyjnych. Wycofanie systemu AI powinno być traktowane jako ostateczność, a Komisja powinna koncentrować się na działaniach prewencyjnych i wydawaniu rekomendacji, które pozwolą firmom dostosować technologię do wymogów zgodności. Uwaga nieuwzględniona 349. Art. 55 ust. 3 IAB Polska Termin 14 dni powinien zostać zmieniony na termin 15 dni roboczych (21 dni) zgodnie z art. 79 ust. 2 AI Act. Zwracamy uwagę, że zbyt krótki termin może doprowadzić do zakłóceń operacyjnych u podmiotów gospodarczych, naruszeń umów czy znaczących strat finansowych. Uwaga nieuwzględniona 350. Art. 55 ust. 4 KRRiT w art. 55 ust. 4 słowa „tego systemie” należy zastąpić słowami „tego systemu”; Uwaga uwzględniona 351. Art. 55 ust. 4 IAB Polska W przepisie występuje oczywista omyłka pisarska: tego systemie zamiast tego systemu. Jednocześnie zwracamy w tym przypadku uwagę, że projekt wymaga generalnego przejrzenia pod katem literówek i błędów językowych. Uważamy, że działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym uważamy, że tego typu decyzji Uwaga uwzględniona 173 nie powinien być nadawany rygor natychmiastowej wykonalności. Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwołania się w przypadku najbardziej dotkliwych decyzji organów nadzoru. 352. Art. 56 Konfederacj a Lewiatan Jeśli KPA ma mieć zastosowanie do inncyh materii niż ureguowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zkresu odpowiedniego stosowania KPA. Uwaga nieuwzględniona 353. Art. 57 PUODO Sąd ochrony konkurencji i konsumentów. W art. 57 ust. 1 projektu ustawy wskazuje się, że: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów”. W ocenie organu nadzorczego ds. ochrony danych przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Projektowane rozwiązanie może doprowadzić do dualizmu rozstrzygnięć sądowych. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może doprowadzić do powstania niepewności prawnej. Uwaga nieuwzględniona 354. Art. 57 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. Uwagi wraz z uzasadnieniem: Czy SOKIK jest odpowiednim sądem do rozpozawania spraw dotyczacych sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności Intelektualnej. Uwaga nieuwzględniona 174 Ponadto, art. 57 nie określa termiu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien byc nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np art. 43 ust.13 projektu - nie można sie tego domyślac z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Stoimy na stanowisku, iż zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. 355. Art. 57 Pracodawcy RP Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji, podobnie jak ma to miejsce w postępowaniach przed Urzędem Ochrony Konkurencji i Konsumentów (UOKiK). Jednakże zwracamy uwagę, że sprawy dotyczące sztucznej inteligencji są wyjątkowo skomplikowane i wymagają wysokiego poziomu ekspertyzy. Proponujemy rozważenie możliwości przekazania tych spraw do sądów ds. własności intelektualnej jako właściwego forum dla zagadnień związanych z AI, co mogłoby zapewnić przedsiębiorstwom większą przewidywalność i rzetelność rozstrzygnięć. Uwaga nieuwzględniona 356. Art. 57 Rada Legislacyjna [Brak przesądzenia w art. 57 Projektu o drodze prawnej rozpatrywania zażaleń na postanowienia Komisji] W art. 57 Uwaga nieuwzględniona 175 Projektu, ani też w żadnym innym przepisie Projektu, nie rozstrzygnięto wyraźnie o drodze prawnej czy też o trybie proceduralnym, w ramach których następuje rozpatrywanie i rozstrzyganie zażaleń na postanowienia Komisji. Art. 57 ust. 1 Projektu – który jest zamieszczony w grupie przepisów Projektu normujących postępowanie (administracyjne) w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 – stanowi co następuje: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”. Przepis ten dotyczy decyzji Komisji kończących postępowanie, o którym jest mowa w rozdziale 4 Projektu, czyli chodzi tu o decyzje kończące postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Jednakże w przepisach art. 57 Projektu ani w ogóle w jakichkolwiek innych przepisach rozdziału 4 Projektu nie przesądza się tego, jaki środek prawny przysługuje od postanowień Komisji wydawanych w ramach omawianego tutaj postępowania i kto (tzn. jaki organ) ma ten środek prawny rozpatrywać. Kwestii tej nie rozstrzygają również nowelizowane przez Projekt przepisy ustawy z dnia 17 listopada 1964 r. Kodeks postępowania cywilnego24 (dalej: k.p.c.), które będą normowały jedynie rozpatrywanie przez SOKiK odwołań od decyzji Komisji, a nie zażaleń na postanowienia Komisji (zob. przepisy k.p.c. dodawane przez art. 80 pkt 2 Projektu; będzie to zatem sytuacja zupełnie inna niż ma to obecnie miejsce na gruncie przepisów k.p.c. upoważniających SOKiK do rozpatrywania i rozstrzygania zażaleń na postanowienia wydawane przez inne organy regulacyjne w Polsce – zob. np. art. 479[28] § 1 pkt 2-6 i 8 k.p.c., art. 479[46] pkt 2 k.p.c. oraz art. 479[57] pkt 2 k.p.c.). Zdaniem Rady Legislacyjnej, jest to absolutnie niezbędne, aby w przepisach art. 57 Projektu wyraźnie postanowić, że od postanowień Komisji (wydawanych w postępowaniu prowadzonym na podstawie przepisów rozdziału 4 Projektu) przysługuje zażalenie do SOKiK, przy czym przepisy proceduralne o rozpatrywaniu tych zażaleń przez SOKiK należy również zamieścić w przepisach k.p.c. (zob. uwagi niżej w punkcie II.29 niniejszej opinii). 357. Art. 57 ust. 1 IAB Polska Rozumiemy wybór SOKiK, który w założeniu ma stać się sądem związanym z cyberprzestrzenią (przyjęcie podobnego modelu Uwaga uwzględniona 176 odwołania od decyzji we wdrożeniu DSA). Zwracamy jednak uwagę, że obszar ten wymaga szczegółowych ustaleń z Ministerstwem Sprawiedliwości, aby zapewnić odpowiednie kompetencje SOKiK w zakresie AI, w szczególności w zakresie technologicznego funkcjonowania tego rodzaju systemów. 358. Art. 57 ust. 3 Konfederacj a Lewiatan W jakch sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Uwaga nieuwzględniona 359. Art. 57 ust. 3 KRRiT w art. 57 ust. 3 nie jest jasny cel regulacji – Komisja jest stroną postępowania sądowego; Uwaga wyjaśniona Jest to tryb funkcjonujący w polskim wymiarze sprawiedliwości. 360. Art. 58 Konfederacj a Lewiatan Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor nartychmiastowej wykonalności w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Uzasadnienie: Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonac wyważenia interesów przedsiębiorców i innych podmiotów. Uwaga nieuwzględniona 361. Art. 59 UOKiK Komisja oraz jej członkowie mają prawny obowiązek zawiadomienia o podejrzeniu popełnienia przestępstwa. Obowiązek taki wynika z art. 304 § 2 kodeksu postępowania karnego: „Instytucje państwowe i samorządowe, które w związku ze swą działalnością dowiedziały się o popełnieniu przestępstwa ściganego z urzędu, są obowiązane niezwłocznie zawiadomić o tym prokuratora lub Policję oraz przedsięwziąć niezbędne czynności do czasu przybycia organu powołanego do ścigania przestępstw lub do czasu wydania przez ten organ stosownego zarządzenia, aby nie dopuścić do zatarcia śladów i dowodów przestępstwa.”. Wobec powyższego projektowana regulacja pozostaje nadmiarowa Uwaga nieuwzględniona 362. Art. 59 ust. 1 UKNF Projektowany przepis jest zbędny, ponieważ obowiązek ten wynika z art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. Kodeks postępowania karnego. Uwaga nieuwzględniona 177 363. Art. 60 ust. 1 IAB Polska Należy doprecyzować, czy okres 10 lat należy liczyć od daty zakończenia postępowania. Uwaga uwzględniona 364. Art. 60 ust. 1 Konfederacj a Lewiatan Należy doprecyzowac czy okres 10 lat liczymy od daty zakończenia postępowania. Uwaga uwzględniona 365. Art. 60 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego dostrzega potencjalną sprzeczność między art. 60 ust. 1 projektu ustawy a art. 26 ust. 5 tego projektu. Z art. 26 ust. 5 wynika bowiem, że określone w nim dane będą usuwane w terminie 5 lata od zakończenia postępowania, o którym mowa w rozdziale 4. Natomiast w art. 60 ust. 1 projektu ustawy wskazano, iż akta sprawy, które również mogą zawierać takie dane, mają być przechowywane przez 10 lat (tym samym dane te mogą być przechowywane przez 10 lat od zakończenia postępowania, a nie 5 lat). W związku z powyższym niezbędne jest usunięcie ww. niezgodności. Uwaga uwzględniona 366. Art. 60 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Zakończenie postępowania nie stanowi przeszkody do ponownego jego przeprowadzenia w zakresie tego samego czynu w przypadku ujawnienia nowych okoliczności, nieznanych Przewodniczącemu Komisji przed zarządzeniem zamknięcia postępowania, chyba że nastąpiło przedawnienie karalności przestępstwa.” Uwaga wyjaśniona Odstąpiono o regulacji. 367. Art. 60 ust. 2 UOKiK Analizy wymaga relacja projektowanego przepisu do art. 145 § 1 Kodeksu postępowania administracyjnego. W sprawach administracyjnych, nie prowadzi się ponownie postępowania w tej samej sprawie, ale wznawia postępowanie w przypadku wystąpienia przesłanek, o których mowa w ww. przepisie. Uzasadnione pozostaje zatem dokonanie oceny zasadności pozostawienia przepisu art. 60 ust. 2 projektowanej ustawy Uwaga wyjaśniona Odstąpiono o regulacji. 368. Art. 60 ust. 2 UKNF Nie jest wiadoma relacja projektowanego przepisu do art. 145 § 1 pkt 5 KPA, w którym jest dodatkowo mowa o nowych dowodach obok nowych okoliczności faktycznych. W kontekście istnienia rzeczonej regulacji Kodeksu postępowania administracyjnego projektowany przepis jawi się jako zbędny. Uwaga wyjaśniona Odstąpiono o regulacji. Rozdział 5 Zgłaszanie poważnych incydentów (art. 61 - art. 63) 369. Rozdział 5 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Uwaga częściowo uwzględniona 178 • Przepisy tego rozdziału są zbyt ogólne, np. nie ma terminu na zgłoszenie - z jednej strony to może być korzystne, z drugiej jednak w którym momencie przedsiębiorca może się spodziewać np. ukarania jeśli nie zgłosi? Brakuje tu pewności prawnej. • Czy dla podmiotów, które są kluczowe i ważne z pkt widzenia uoksc ten obowiązek nie mógłby być wyłączony, skoro i tak będą miały bardzo rygorystyczne obowiązki związane z raportowaniem w zakresie cyberbezpieczeństwa? Jeśli zgłoszą na podstawie uoksc i dotyczy to systemu AI, nie powinny mieć dodatkowych obciążeń z kolejnej ustawy, przepływ informacji powinien być między organami. Precyzyjne określenie terminu zgłoszenia oraz uniknięcie dublowania obowiązków zgłoszeniowych dla podmiotów kluczowych z punktu widzenia cyberbezpieczeństwa zwiększy efektywność systemu zgłoszeniowego, zwiększa stopień pewności prawa i zmniejsza obciążenia, w tym kosztowe, dla przedsiębiorców. Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji “poważnego incydentu” zawartego w art. 3 pkt 49 Aktu o sztuczntej inteligencji nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 Aktu o sztucznej inteligencji, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających 179 unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. 370. Rozdział 5 PUODO Zgłaszanie incydentów. Projekt ustawy w rozdziale 5 dotyczy obowiązku zgłaszania incydentów związanych z działaniem systemów sztucznej inteligencji. Obowiązek wskazany w art. 61 projektu ustawy jest zbieżny z procedurami zgłaszania naruszeń ochrony danych osobowych przewidzianymi w rozporządzeniu 2016/679. Zgodnie z art. 33 ww. rozporządzenia administrator jest zobowiązany zgłaszać naruszenia ochrony danych osobowych do organu nadzorczego w terminie 72 godzin od ich wykrycia, chyba że jest mało prawdopodobne, aby naruszenie to skutkowało ryzykiem naruszenia praw lub wolności osób fizycznych. W ocenie organu nadzorczego ds. ochrony danych incydenty związane z systemami AI, które prowadzą do naruszeń ochrony danych, powinny być zgłaszane zgodnie z procedurami przewidzianymi przez rozporządzenie 2016/679. Zwrócić uwagę należy, że projektowane przepisy ustawy nie wskazują jednak konkretnego terminu na zgłoszenie incydentu od momentu wykrycia incydentu. Określenie terminu usprawniłoby skuteczne zarządzanie incydentami. Art. 63 projektu ustawy wymaga, aby Przewodniczący Komisji przekazywał zgłoszenie oraz informacje, o których mowa w art. 61 projektowanej ustawy: 1) koordynatorowi do spraw usług cyfrowych, 2) ministrowi właściwemu do spraw informatyzacji, 3) organowi właściwemu do spraw ochrony danych osobowych, 4) właściwemu CSIRT MON, CSIRT NASK lub CSIRT GOV – z wyłączeniem informacji stanowiących tajemnice prawnie chronione, w tym stanowiących tajemnicę przedsiębiorstwa. Z przepisów projektowanej regulacji nie wynika jednak, jakie dalsze działania powinien podjąć Prezes Urzędu Ochrony Danych Osobowych, który otrzymywałby takie zgłoszenie. Uzupełnienia wymaga zarówno termin na zgłoszenie incydentu oraz wyjaśnienie czy procedura wskazana w tym przepisie wyklucza zgłoszenie naruszenia danych osobowych w ciągu 72 godzin bezpośrednio do Prezesa UODO. Zauważyć ponadto należy, że terminologia dotycząca incydentów jest używana niekonsekwentnie – w niektórych Uwaga częściowo uwzględniona 180 przepisach pojawia się ogólne określenie „incydent,” a w innych „poważny incydent”, co wymaga doprecyzowania (w art. 3 w definicjach mowa jest o poważnym incydencie w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689). 371. Art. 61 ust. 2 w zw. z art. 63 UKE W nawiązaniu do powyższej propozycji, proponuje się uzupełnić katalog informacji określony w projektowanym art. 61 ust. 2 o wskazanie, na jaki sektor (w rozumieniu projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw) ma wpływ poważny incydent. Zaproponowana konstrukcja uzupełnienia projektowanych przepisów art. 63 i art. 61 umożliwi efektywne ich stosowanie w zakresie dotyczącym CSIRT sektorowych, bowiem już na etapie zgłoszenia poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji, możliwym będzie powiązanie danego sektora z właściwym CSIRT sektorowym. Uwaga nieuwzględniana 372. Art. 61 ust. 4 BGK Propozycja 4.Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga nieuwzględniona 373. Art. 61 ust. 5 BGK Propozycja 5. Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym Uwaga nieuwzględniona 181 informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. 374. Art. 62 PFR Prosimy o rozważenie możliwości dokładnego zdefiniowanie kanału komunikacji, np. za pośrednictwem dedykowanego do tego systemu. Uwaga nieuwzględniona 375. Art. 63 UKE Przepis art. 63 pkt 4 projektowanej regulacji proponuje się uzupełnić o CSIRT sektorowy. Zgodnie bowiem z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw (rozpatrywanego obecnie już przez Komitet do Spraw Europejskich) wdrażającego dyrektywę Parlamentu Europejskiego i Rady (UE) 2022/255 z dnia 14 grudnia 2022 r. w sprawie środków na rzecz wysokiego wspólnego poziomu cyberbezpieczeństwa na terytorium Unii, zmieniającą rozporządzenie (UE) nr 910/2014 i dyrektywę (UE) 2018/1972 oraz uchylającą dyrektywę (UE) 2016/1148 (dyrektywa NIS 2), CSIRT sektorowy to Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego, działający na poziomie sektora lub podsektora, ustanowiony przez organ właściwy do spraw cyberbezpieczeństwa dla danego sektora lub podsektora. Zgodnie z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw CSIRT sektorowy będzie uczestniczył w systemie wymiany informacji dotyczących cyberbezpieczeństwa między podmiotami kluczowymi i podmiotami ważnymi a CSIRT MON, CSIRT NASK, CSIRT GOV i organami właściwymi do spraw Uwaga uwzględniona 182 cyberbezpieczeństwa. W ramach zadań przypisanych ww. projektem ustawy CSIRT sektorowe będą np. mogły przeprowadzać ocenę bezpieczeństwa systemów informacyjnych wykorzystywanych przez podmioty krajowego systemu cyberbezpieczeństwa. W konsekwencji, dla uzyskania pełnej spójności opiniowanego projektu ustawy z projektowanymi przepisami nowelizującymi ustawę o krajowym systemie cyberbezpieczeństwa oraz efektywności realizowanych przez CSIRT sektorowe zadań, celowym wydaje się zapewnienie tym podmiotom dostępu do możliwie szerokiego spektrum informacji, w tym również do zgłoszenia oraz informacji, o których mowa w art. 61 opiniowanego projektu ustawy. 376. Art. 63 ust. 3 KRRiT w art. 63 pkt 3 należy wskazać Prezesa Urzędu Ochrony Danych Osobowych; Uwaga uwzględniona Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna (art. 64 – art. 69) 377. Art. 64 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w art.70 Rozporządzenia 2024/1689. Uzasadnienie: Brakuje wskazania wprost kto jest organem notyfikującym a zostaje wspomniany. Uwaga częściowo uwzględniona 378. Art.64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niejasne jest, w jakim celu przekazywana jest informacja o wnioskach oraz od jakiej decyzji należy liczyć termin 14 dni; Uwaga nieuwzględniona 379. Art. 64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niepotrzebnie powtórzono wyrazy „do spraw”; Uwaga uwzględniona 380. Art. 65 ust. 2 i 3 Rada Legislacyjna [Niezgodność przepisów o wniosku z art. 65 ust. 2 i 3 Projektu z Rozporządzeniem UE 2024/1689] Przepisy art. 65 ust 2 i 3 Projektu, mówiące o treści wniosku jednostki oceniającej zgodność składanego do ministra właściwego do spraw informatyzacji w sprawie notyfikacji tej jednostki, są niezgodne z odnośnymi przepisami Rozporządzenia UE 2024/1689. W pierwszym rzędzie należy zauważyć, że elementy wspomnianego wniosku wskazane w przepisach art. 65 ust. 2 i 3 Projektu są i tak stosunkowo szczegółowo unormowane w przepisach art. 29 Rozporządzenia UE 2024/1689, a zatem nie Uwaga nieuwzględniona 183 ma potrzeby powielania w Projekcie tych unijnych przepisów i wystarczy w Projekcie do nich jedynie odesłać (ewentualnie można wskazać w art. 65 ust. 2 Projektu tylko te elementy wniosku, które są niewymienione w art. 29 Rozporządzenia UE 2024/1689, o ile zostanie to w ogóle uznane za potrzebne). Co więcej, z art. 65 ust. 2 pkt 2 Projektu wynika, że w omawianym wniosku należy obligatoryjnie wskazać i zidentyfikować tam akredytację udzieloną jednostce oceniającej zgodność, zaś art. 65 ust 3 pkt 1 Projektu wymaga, aby do wniosku obligatoryjnie dołączyć „certyfikat potwierdzający uzyskanie akredytacji w zakresie rozporządzenia 2024/1689 na podstawie oceny, o której mowa w art. 43 rozporządzenia 2024/1689”. Tymczasem z przepisów Rozporządzenia UE 2024/1689 jednoznacznie wynika, że uzyskanie akredytacji przez jednostkę oceniającą zgodność nie jest wcale obligatoryjne i że we wniosku o notyfikację składanym przez jednostkę oceniającą zgodność nie trzeba wcale obligatoryjnie wskazywać wspomnianej akredytacji i nie trzeba obligatoryjnie dołączać do wniosku certyfikatu akredytacji: można to uczynić fakultatywnie, a jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, to wówczas przekazuje organowi notyfikującemu (w Polsce: ministrowi właściwemu do spraw informatyzacji) inne dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31 Rozporządzenia UE 2024/1689 (zob. art. 29 Rozporządzenia UE 2024/1689). Nie dosyć na tym: ocena, o której jest mowa w art. 43 Rozporządzenia 2024/1689 – a do której to oceny odwołuje się art. 65 ust. 3 pkt 1 Projektu, stanowiąc, że ocena ta stanowi podstawę uzyskania akredytacji w zakresie Rozporządzenia UE 2024/1689 – nie dotyczy wcale akredytacji jednostki oceniającej zgodność, ale dotyczy oceny zgodności systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do Rozporządzenia 2024/1689 stosowanych przez dostawców. Powyższe sprawia, że zamieszczone w art. 65 ust. 3 pkt 1 Projektu odesłanie do oceny, o której jest mowa w art. 43 Rozporządzenia UE 2024/1689 jest kompletnie bezprzedmiotowe, bo, jak wspomniano, ten ostatni przepis dotyczy oceny zgodności przeprowadzanej w stosunku do 184 dostawców systemów AI wysokiego ryzyka, a nie dotyczy oceny stanowiącej podstawę do uzyskania akredytacji przez jednostkę oceniającą zgodność. Wszystkie powyższe mankamenty przepisów art. 65 ust. 2 i 3 Projektu oraz występujące w ich treści niezgodności z przepisami Rozporządzenia UE 2024/1689 sprawiają, że z tych przepisów Projektu równie dobrze można w ogóle zrezygnować, a w każdym razie należy te przepisy wyraźnie zredukować i ograniczyć się do wskazania w nich jedynie elementów wniosku niewymienionych wyraźnie w art. 29 Rozporządzenia UE 2024/1689, przy czym bezwzględnie należy zrezygnować w tych przepisach z odesłania do przepisów art. 43 Rozporządzenia UE 2024/1689, które dotyczą zupełnie innych kwestii. 381. Art. 66 ust. 1 Rada Legislacyjna [Wskazanie niepełnej formy wykonywania zadań przez właściwego ministra w art. 66 ust. 1 Projektu] W przepisie art. 66 ust. 1 Projektu w niepełny (zbyt wąski) sposób została określona forma wykonywania przez ministra właściwego do spraw informatyzacji zadań, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689. Art. 66 ust. 1 Projektu stanowi, że „Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji.”. Tymczasem zadania, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689 mają bardzo złożony oraz rozbudowany charakter i ich wykonywanie nie jest możliwe jedynie poprzez wydawanie rekomendacji przewidzianych w art. 66 ust. 1 Projektu. Minister właściwy do spraw informatyzacji rzeczywiście może wydawać rekomendacje w celu wykonania wskazanego w art. 95 Rozporządzenia UE 2024/1689 zadania polegającego na wydawaniu przez państwa członkowskie kodeksów postępowania, w Projekcie nazywanych rekomendacjami. Natomiast wielu innych zadań wskazanych w art. 95 Rozporządzenia UE 2024/1689 nie da się wykonywać poprzez wydawanie rekomendacji, np. zachęcanie do opracowywania i ułatwianie wydawania kodeksów przez inne podmioty, w tym przez podmioty stosujące (np. dostawców lub importerów systemów AI). De lege ferenda okoliczność ta powinna zostać uwzględniona w treści art. 66 ust. 1 Projektu. Uwaga nieuwzględniona 185 382. Art. 67 ust. 1 PFR Prosimy o rozważenie możliwości bardziej szczegółowego wskazania sposobów zabezpieczania poufnych informacji. Mogą to być np. obowiązki szyfrowania i anonimizacji danych, które zmniejszyłyby ryzyko wycieku danych i zapewniły ich właściwą ochronę. Uwaga nieuwzględniona 383. Art. 69 ust.1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Uzasadnienie: Doprecyzowanie. Uwaga uwzględniona 384. Art. 69 ust. 1 UKNF Należy doprecyzować, o które wymogi konkretnie chodzi, poprzez odesłanie do konkretnych jednostek redakcyjnych rozporządzenia 2024/1689. Uwaga uwzględniona 385. Art. 69 ust. 2 KRRiT w art. 69 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga uwzględniona 386. Art. 69 ust. 2 UKNF Analogicznie do uwagi zgłoszonej już powyżej do art. 40 ust. 2 projektu ustawy UKNF wskazuje, że ustęp 1 projektowanego art. 69, do którego odwołuje się ust. 2 tego przepisu, nie stanowi o stanie zasobów, ale o wymogach z art. 70 rozporządzenia 2024/1689. Jeżeli odwołanie ma dotyczyć zasobów, o których mowa w art. 70 ust. 6 rozporządzenia 2024/1689, to zasadne jest wprost jego wskazanie, a nie odwoływanie się do ust. 1 projektowanego artykułu. Wówczas przepis nie będzie rodził wątpliwości interpretacyjnych. Uwaga uwzględniona Rozdział 7 Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 70 – art. 79) 387. Art. 70 ust. 1 IAB Polska Komisja powinna móc nakładać karę pieniężną, a nie być do tego zobligowana. Wynika to z art. 99 ust. 7 AI Act, a także z podejścia przyjętego w przypadku nakładania administracyjnych kar pieniężnych uregulowanych w innych aktach prawnych np. w dziale VII rozdziale 1 ustawy z 16 lutego 2007 r. Uwaga uwzględniona w części Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 388. Art. 70 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga nieuwzględniona 186 Art. 70. 1. Komisja może nakłada nałożyć na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689 operatora, w przypadkach okreslonych w art. 99 ust.3(-5)* rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i uzyty w art. 99 ust1 Rozprządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopókie nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 389. Art. 70 ust. 3 IAB Polska Rekomendujemy ponowną ocenę, czy zastosowany sposób przeliczania wartości kwot w euro na kwoty w złotych jest odpowiedni. W szczególności rekomendujemy dostosowanie tego procesu przeliczania kwot do już obecnego w polskim systemie prawnym np. procesu określonego w art. 5 ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów: Przeliczenie wartości euro oraz innych walut obcych na złote oraz wartości złotego na euro jest dokonywane według kursu średniego walut obcych ogłoszonego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok zgłoszenia zamiaru koncentracji lub nałożenia kary. Uwaga nieuwzględniona 390. Art. 70 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 70. 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Uzasadnienie: Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. Ponadto, kryterium \"interesu społecznego\" jest niejednoznaczne i Uwaga nieuwzględniona Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 187 powinno zostać precyzyjniej określone. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. 391. Art. 70 ust. 4 Rada Legislacyjna [Niepełne wskazanie kategorii interesu w art. 70 ust. 4 Projektu] Przepis art. 70 ust. 4 Projektu zbyt wąsko zakreśla kategorię interesu, którego brak naruszenia upoważnia Komisję do odstąpienia od nałożenia administracyjnej kary pieniężnej. Art. 70 ust. 4 Projektu stanowi, że „Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego.”. Tymczasem w przepisie tym należy uwzględnić nie tylko brak szkody dla interesu społecznego (lub lepiej: interesu publicznego), ale również brak szkody dla interesu jednostek, gdyż również interesy indywidualne (interesy jednostek) są chronione przy wydawaniu przez Przewodniczącego Komisji ostrzeżeń, o których mowa w art. 53 Projektu, a więc brak ich naruszenia powinien być obligatoryjną przesłanką dopuszczalności odstąpienia przez Komisję od nałożenia administracyjnej kary pieniężnej. Uwaga nieuwzględniona 392. Art. 71 ust. 1 IAB Polska Rekomendujemy wydłużenie terminu, co pozwoli na odpowiednie zebranie i przekazanie dokumentów przez odpowiedni podmiot. Biorąc pod uwagę poziom skomplikowania technicznego i organizacyjnego – dłuższy termin pozwoli przedstawić wszystkie konieczne dane, które będą także odpowiednio sformatowane, co pozwoli Komisji podjąć właściwą w danym przypadku decyzję. Uwaga nieuwzględniona 393. Art. 71 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga nieuwzględniona 394. Art. 72 Konfederacj a Lewiatan Dobrze byłoby aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic Uwaga nieuwzględniona 188 regulacyjnych, co wpisywałoby się w cel regulcji jakim jest wspieranie innowacji. 395. Art. 72 Rada Legislacyjna [Nieprawidłowe odwołanie się do pojęcia przychodu w art. 72 Projektu] Przepis art. 72 Projektu w nieprawidłowy sposób kwalifikuje wpływy z administracyjnej kary pieniężnej nakładanej przez Komisję, błędnie uznając je za stanowiące „przychód” budżetu państwa. Przepis ten stanowi mianowicie, że „Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa.”. Tymczasem środki te stanowią i powinny stanowić „dochód” budżetu państwa, a nie jego przychód. Wniosek taki wynika w pierwszym rzędzie z przepisu art. 111 pkt 12 ustawy z dnia 27 sierpnia 2009 r. o finansach publicznych,25 który stanowi, że „Dochodami podatkowymi i niepodatkowymi budżetu państwa są [...] grzywny, mandaty i inne kary pieniężne, o ile odrębne ustawy nie stanowią inaczej”. Co prawda ten ostatni przepis ma charakter względnie obowiązujący i dozwala ustawodawcy w ustawie odrębnej inaczej przyporządkować wpływy finansowe z tytułu kar pieniężnych, ale nie oznacza to wcale, że ustawodawca może uznać środki z tychże kar za stanowiące „przychód” budżetu państwa. Na podstawie powołanego art. 111 pkt 12 ustawy o finansach publicznych ustawodawca może co najwyżej przyznać innemu funduszowi niż budżet państwa wpływy z kar pieniężnych, np. może je przyznać budżetom jednostek samorządu terytorialnego lub funduszom celowym. Natomiast ustawodawca nie może uznać tych środków za stanowiące „przychód” budżetu państwa, gdyż kłóciłoby się to z istotą tej kategorii, jaką są przychody budżetu państwa i która wynika chociażby z przepisów art. 5 ust. 1 pkt 4 i ust. 1a ustawy o finansach publicznych. Co więcej, w doktrynie trafnie się zauważa, że wniosek interpretacyjny o zaliczaniu (kwalifikowaniu) wpływów (środków) z kar pieniężnych do kategorii dochodów budżetu państwa wynika z art. 5 ust. 2 pkt 1 i 2 oraz art. 60 ustawy o finansach publicznych. Dlatego też Rada Legislacyjna postuluje uznanie w art. 72 Projektu środków z administracyjnej kary pieniężnej nakładanej przez Komisję za stanowiące dochód budżetu państwa. Uwaga uwzględniona. 396. Art. 73 ust. 1 i Art. 74 IAB Polska Wysokie kary pieniężne oraz krótki, 14-dniowy termin na ich uiszczenie, mogą wywierać nadmierną presję na Uwaga nieuwzględniona 189 przedsiębiorców i negatywnie wpłynąć na ich płynność finansową. Ponadto, przewidziano możliwość natychmiastowej wykonalności takich decyzji, co może prowadzić do nieodwracalnych konsekwencji dla działalności podmiotów gospodarczych. Postulujemy o wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu rozstrzygnięcia odwołania. 397. Art. 73 ust. 1 i art. 74 Pracodawcy RP Ustawa przewiduje wysokie kary pieniężne oraz krótki, 14- dniowy termin na ich uiszczenie, co może wywierać presję na przedsiębiorców i negatywnie wpływać na ich płynność finansową. Ponadto możliwość natychmiastowej wykonalności takich decyzji może prowadzić do nieodwracalnych konsekwencji dla działalności firm. Aby zapewnić proporcjonalność, sugerujemy wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur pozwalających na zawieszenie decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W przypadku kar o znaczącym wpływie finansowym przedsiębiorcy powinni mieć zagwarantowaną możliwość skutecznego odwołania, co zapewni pewność i stabilność w prowadzeniu działalności. Uwaga nieuwzględniona 398. Art. 73 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 73 1. Administracyjną karę pieniężną uiszcza się w terminie 14 30 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się decyzji Komisji orzeczenia sądu. Uzasadnienie: Jesli brzmienie pierwotne to należałoby uściślić - w ptzypadku braku wniesienie odowłania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Sugerujemy także wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej co najmniej do 30 dni. Uwaga nieuwzględniona 399. Art. 73 ust. 8 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga uwzględniona 190 Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. 400. Art. 73 ust. 8 Rada Legislacyjna [Brak przesądzenia o organie właściwym do rozpatrzenia środka odwoławczego od postanowienia przewidzianego w art. 73 ust. 8 Projektu] Przepis art. 73 ust. 8 Projektu nie przesądza w ogóle tego, jaki organ jest właściwy do rozpatrywania środka odwoławczego od przewidzianego w tym przepisie postanowienia. Art. 73 ust. 8 Projektu stanowi, że „Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia”, przy czym postanowienia te są wydawane przez Komisję (art. 73 ust. 2 Projektu). Nie wiadomo przy tym, czy postanowienie to może zostać zaskarżone do SOKiK (przepisy Projektu o tym milczą, podobnie jak o właściwości SOKiK w tym zakresie milczą nowelizowane przez Projekt przepisy k.p.c.), czy też raczej należy od tego postanowienia wnieść do Komisji wniosek o ponowne rozpatrzenie sprawy (art. 144 w zw. art. 127 § 3 k.p.a.), a następnie ewentualnie skargę do sądu administracyjnego. Kwestia ta wymaga de lege ferenda wyraźnego przesądzenia w przepisach Projektu, zaś jeżeli w tym zakresie przyjęta zostanie właściwość SOKiK, to trzeba o tym przesądzić również w przepisach k.p.c. Uwaga częściowo uwzględniona 401. Art. 73 ust. 9 KRRiT w art. 73 ust. 9 błędnie odesłano do ust. 2 tego artykułu; Uwaga uwzględniona 402. Art. 73 ust. 9 Rada Legislacyjna [Błędne użycie wyrazu „organy” zamiast „instytucje” w art. 73 ust. 9 pkt 3 Projektu] Przepis art. 73 ust. 9 pkt 3 Projektu posługuje się nieprawidłowym określeniem „organy Unii Europejskiej”, podczas gdy w tym kontekście prawidłowe i postulowane przez Radę Legislacyjną jest sformułowanie: „instytucje Unii Europejskiej”. Przepis art. 73 ust. 9 pkt 3 Projektu stanowi, że Uwaga uwzględniona 191 Komisja może udzielić ulgi w wykonaniu administracyjnej kary pieniężnej, która „stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe organy Unii Europejskiej”. Tymczasem w UE o dopuszczalności pomocy publicznej (pomocy państwa) i jej zgodności z rynkiem wewnętrznym UE przesądzają (rozstrzygają) nie organy UE (jak jest o tym mylnie mowa w art. 73 ust. 9 pkt 3 Projektu), ale rozstrzygają o tym instytucje UE, takie jak Komisja Europejska, Rada Europejska, Rada Unii Europejskiej, Parlament Europejski oraz TSUE. Wszystkie te wymienione ostatnio podmioty są wyraźnie uznane za „instytucje Unii” przez art. 13 Traktatu o Unii Europejskiej, przy czym z przepisów art. 107- 109 Traktatu o funkcjonowaniu Unii Europejskiej wynika, że to właśnie te instytucje UE, w ramach różnych procedur, są kompetentne do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Natomiast tego rodzaju kompetencji w sprawach pomocy państwa absolutnie nie posiadają „organy Unii Europejskiej”, do której to kategorii należy cały szereg wyspecjalizowanych podmiotów, takich jak np. agencje UE, Europejska Służba Działań Zewnętrznych, Europejski Komitet Ekonomiczno-Społeczny, Europejski Komitet Regionów, Europejski Rzecznik Praw Obywatelskich, Europejski Inspektor Ochrony Danych. Organy UE nie mają żadnych kompetencji do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Dlatego też zdaniem Rady Legislacyjnej w przepisie art. 73 ust. 9 pkt 3 Projektu należy się posłużyć pojęciem „instytucji Unii Europejskiej”, a ponadto należy tam użyć sformułowania o zgodności pomocy publicznej „z rynkiem wewnętrznym”, a nie – jak w obecnej wersji tego przepisu – „z zasadami rynku wewnętrznego”, gdyż właśnie to pierwsze określenie występuje w przepisach art. 107 Traktatu o funkcjonowaniu Unii Europejskiej. 403. Art. 74 Konfederacj a Lewiatan Przepis powinien precyzyjniej określić, jaki \"ważny interes\" może uzasadniać nadanie decyzji rygoru natychmiastowej wykonalności. Należy się odwołać do kryteriów dla rygoru natychmiastowej wykonalności wskazanych w Kodeksie postępowania administracyjnego. Uwaga uwzględniona 192 Art. 108 [Podstawy nadania decyzji rygoru natychmiastowej wykonalności] § 1. Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony. W tym ostatnim przypadku organ administracji publicznej może w drodze postanowienia zażądać od strony stosownego zabezpieczenia. § 2. Rygor natychmiastowej wykonalności może być nadany decyzji również po jej wydaniu. W tym przypadku organ wydaje postanowienie, na które służy stronie zażalenie. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. Odwołanie się do istniejących już regulacji zapewni spójność i zgodność z ogólnymi zasadami postępowania administracyjnego. 404. Art. 74 UOKiK Użyte w przepisie pojęcie ważnego interesu jest nieostre i wskazuje na możliwość dowolnego nadania rygoru natychmiastowej wykonalności. Wydaje się to zbędne, mając na względzie, że możliwość taka wynika ze stosowanego w sprawie kar pieniężnych art. 108 kodeksu postępowania administracyjnego Uwaga uwzględniona Przepis został doprecyzowany. 405. Art. 74 UKNF W ocenie UKNF projektowany przepis jest nieprecyzyjny. Podmioty stosujące prawo mogą mieć problem ze zdekodowaniem pojęcia „ważnego interesu”, w szczególności odnośnie tego, czy chodzi o ważny interes publiczny, społeczny, czy też interes strony. Poddajemy pod rozwagę odwołanie się do instytucji z art. 108 KPA. Uwaga uwzględniona Przepis został doprecyzowany. 193 406. Art. 74 Rada Legislacyjna [Nadmierne rozszerzenie możliwości nadania decyzji Komisji rygoru natychmiastowej wykonalności w art. 74 Projektu] Przepis art. 74 Projektu w nadmiernie ekscesywny sposób rozszerza możliwość nadania rygoru natychmiastowej wykonalności decyzji Komisji o nałożeniu administracyjnej kary pieniężnej. Przepis art. 74 Projektu – znajdujący się w przepisach rozdziału 4 Projektu zawierającego przepisy o administracyjnych karach pieniężnych – stanowi, że „Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes.”. Zdaniem Rady Legislacyjnej, jeżeli autorzy Projektu pragną rozszerzyć katalog dopuszczalnych przypadków nadawania wspomnianej decyzji Komisji (o ukaraniu administracyjną karą pieniężną) rygoru natychmiastowej wykonalności poza przypadki opisane w art. 108 § 1 zd. 1 k.p.a. (ten ostatni przepis stanowi, że „Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony.”), to oczywiście mogą oni to uczynić, ale warto by jednak było, aby w art. 74 Projektu zostało przynajmniej przesądzone, że Komisja może nadać omawianej decyzji rygor natychmiastowej wykonalności tylko wtedy, gdy jest to „niezbędne” z uwagi na ważny interes. To postulowane przez Radę Legislacyjną sformułowanie (o niezbędności) będzie bowiem stanowiło przejaw zamieszczenia w tym przepisie przesłanki proporcjonalności, odgrywającej istotną rolę gwarancyjną dla należytego respektowania konstytucyjnych praw i wolności jednostek (zob. art. 31 ust. 3 Konstytucji RP). Warto też dodać, że ewentualne zamieszczenie w Projekcie przepisu art. 74 Projektu, określającego swoiste przesłanki nadania decyzji Komisji rygoru natychmiastowej wykonalności, będące przesłankami szczególnymi względem przepisu art. 108 § 1 zd. 1 k.p.a., bynajmniej nie wyłączy stosowania do decyzji Komisji tego ostatniego przepisu k.p.a.28 Komisja nadal będzie mogła się powołać w tym zakresie na przesłanki wymienione w art. 108 § 1 zd. 1 k.p.a. jako przemawiające za nadaniem decyzji o Uwaga uwzględniona Przepis został doprecyzowany 194 ukaraniu rygoru natychmiastowej wykonalności (w tym na „inny interes społeczny”), a ponadto Komisja i tak będzie musiała respektować procedurę oraz sposób nadawania decyzji rygoru natychmiastowej wykonalności określone w przepisach art. 108 k.p.a. Wzgląd na tę okoliczność powinien zresztą skłaniać do ponownego zastanowienia się nad tym, czy przepis art. 74 Projektu jest w obecnym kształcie treściowym w ogóle potrzebny. 407. Art. 75 Rada Legislacyjna [Błędy redakcyjne w art. 75 ust. 2 Projektu] Licznymi usterkami redakcyjno- językowymi obarczony jest przepis art. 75 ust. 2 Projektu. Przepis ten – dotyczący decyzji Komisji w sprawie nałożenia administracyjnej kary pieniężnej – w obecnej wersji stanowi, że „Do postępowania w sprawach odwołań, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689.”. Usterki redakcyjno-językowe tego przepisu są aż nadto widoczne: niepotrzebne zamieszczanie części zdania w nawiasie, zamieszczenie znaku otwarcia nawiasu bez postawienia znaku jego zamknięcia, użycie w nawiasie wyrazu „postępowanie” w niewłaściwym przypadku deklinacyjnym (jest w mianowniku, a powinno być w dopełniaczu). Uwaga uwzględniona 408. Art. 76 Rzecznik MŚP Wnoszę o wykreslenie art. 76 Projektu, w którym następuje wyłączenie stosowania przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego”. W uzasadnieniu do Projektu brak szczegółowego wyjaśnienia dla takiego rozwiązania, zaś w art. Uwaga nieuwzględniona 195 99 ust. 1 Rozporządzenia UE nr 2024/1689 stwierdza się, że państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, jak również to, że przewidziane kary muszą być m. in. proporcjonalne. Istnieje zagrożenie pomijania stosowania przedmiotowych przepisów KPA, co utrudni albo uniemożliwi w praktyce realizację zasady proporcjonalności jako podstawowej dyrektywy wymiaru administracyjnej kary pieniężnej. Zbyt rygorystyczne uregulowania mogą stanowić barierę w rozwoju systemów sztucznej inteligencji jako technologii innowacyjnej. 409. Art. 76 Konfederacj a Lewiatan Ustawodawca wyłączając stosowanie art. 189f KPA znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 projektu (art. 70 ust. 4 projektu) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 projektu. Uwaga nieuwzględniona 410. Art. 77 AIA PUODO Uprawnienia organów ochrony praw podstawowych. Zgodnie z treścią art. 77 ust. 1 aktu w sprawie sztucznej inteligencji krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie przedmiotowego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Zgodnie natomiast z art. 77 ust. 2 aktu w sprawie sztucznej inteligencji każde państwo członkowskie wskazuje organy i podmioty publiczne, o których mowa powyżej i podaje ich wykaz do wiadomości publicznej. Jednocześnie państwa członkowskie Uwaga zostanie uwolniona 196 przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. Tymczasem w dotychczas upublicznionym przez Ministerstwo Cyfryzacji wykazie organów i instytucji publicznych, o których mowa w art. 77 ust. 1 aktu w sprawie sztucznej inteligencji w Polsce nie został wskazany organ nadzorczy ds. ochrony danych, chociaż – jak wynika z informacji przekazanych Prezesowi UODO przez przedstawicieli innych organów nadzorczych – takie działania podejmowane są w innych państwach członkowskich, np. we Francji czy na Malcie. W świetle powyższych uwag, wzgląd na przepisy prawa, w tym normy prawa unijnego, wymaga uzupełnienia wykazu, o którym mowa w art. 77 ust. 2 aktu w sprawie sztucznej inteligencji i wskazania w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu właściwego z obszaru ochrony praw podstawowych w zakresie realizacji uprawnienia wynikającego z art. 77 ust. 1 ww. aktu. Prezes UODO nie wskazuje przy tym w tym miejscu na konieczne do realizacji tego zadania (i innych wynikających z rozporządzenia 1689/2024 oraz projektu ustawy) zasoby i środki finansowe, których brak mógłby stać na przeszkodzie realizacji nowych kompetencji – powinno to być raczej przedmiotem odrębnych ustaleń, koncentrując się na obowiązkach organów wynikających z przepisów prawa. Należy jednak przypomnieć, że systematyczne pomijanie potrzeb budżetowych organu nadzorczego właściwego ds. ochrony danych osobowych w kontekście realizacji nowych obowiązków (poza projektem ustawy o zarządzaniu danymi) stało się przedmiotem odrębnego wystąpienia do Pana Premiera. 411. Art. 77 Prokuratoria Generalna Wątpliwości budzi art. 77 projektu, zgodnie z którym w zakresie nieuregulowanym w projektowanej ustawie oraz w Kodeksie postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji stosuje się odpowiednio przepisy działu III Ordynacji podatkowej. W związku z tym, że nakładanie administracyjnych kar pieniężnych jest kompleksowo uregulowane w Kodeksie postępowania administracyjnego (włącznie z terminami przedawnienia nakładania kar i terminami przedawnienia ich egzekucji) i w przepisach projektowanej ustawy, nie jest jasne, w jakim zakresie miałyby znaleźć Uwaga uwzględniona przepis został zmodyfikowany 197 odpowiednie zastosowanie przepisy Ordynacji podatkowej. Dlatego rekomendujemy analizę projektowanej regulacji z uwzględnieniem rozróżnienia kwestii dotyczących nakładania kar i kwestii dotyczących należności z tytułu tych kar. Warto zwrócić uwagę na obowiązujące już przepisy, w tym art. 19e ust. 2 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym odpowiednie stosowanie przepisów działu III Ordynacji podatkowej odnosi się do należności z tytułu kar pieniężnych. Przepis ten był w roku 2019 nowelizowany, ponieważ uprzednio dotyczył odpowiedniego stosowania przepisów działu III Ordynacji podatkowej do kar pieniężnych i wywołał istotne wątpliwości interpretacyjne w zakresie stosowania przepisów o przedawnieniu nakładania kar pieniężnych (zob. wyrok NSA z 28 listopada 2023 r. II GSK 1028/20). Rozróżnienie powyższych kwestii jest istotne z uwagi na specyfikę powstawania zobowiązań z tytułu kar pieniężnych i zobowiązań podatkowych. Zgodnie z orzecznictwem Naczelnego Sądu Administracyjnego zakres pojęcia „należności publicznoprawne” nie obejmuje dochodów, których źródłem są czyny niedozwolone (kar pieniężnych, grzywien, mandatów). Te należności nie wynikają z publicznoprawnych stosunków nakazujących określonym podmiotom uiszczać świadczenia pieniężne na rzecz budżetu państwa lub budżetu jednostki samorządu terytorialnego, lecz z określonego zachowania podmiotu zobowiązanego do ich uiszczenia. Do momentu wydania decyzji o nałożeniu administracyjnej kary pieniężnej na stronie nie ciąży żaden, nawet abstrakcyjny i ogólny ustawowy obowiązek zapłaty kary, co wynika z samej natury sankcji administracyjnej i jest zasadniczą okolicznością różniącą zobowiązanie z tytułu kary pieniężnej od zobowiązania podatkowego. Dopiero z chwilą wydania decyzji ustalającej odpowiedzialność za naruszenie przepisów prawa powstaje stosunek publicznoprawny, z którego wynika obowiązek podmiotu zastosowania się do decyzji (por. wyrok NSA z 12 marca 2024 r. II GSK 58/21 i wskazane w nim dotychczasowe orzecznictwo). 412. Art. 77 KRRiT w art. 77 wyrazy „na podstawie naruszeń” należy zastąpić wyrazami „w związku z naruszeniem”, ponadto rozważenia wymaga zasadność odwołania do działu III Ordynacji podatkowej; Uwaga uwzględniona 198 413. Art. 77 Konfederacj a Lewiatan Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji podstawie art. 99 ust. 3 (-5)* rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Uzasadnienie: Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Uwaga nieuwzględniona 414. Art. 78 Konfederacj a Lewiatan Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami Uwaga częściowo uwzględniona Postulat podniesiony w treści uwagi jest częściowo adresowany poprzez umożliwienie stronie zawarcia układu w ramach osobnego postępowania. 199 pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Ustęp 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i nie dostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. 415. Art. 78 ust. 2 Rada Legislacyjna [Błędne określenie podmiotu (sprawcy) ponoszącego odpowiedzialność karną na podstawie art. 78 ust. 2 Projektu] Art. 78 ust. 2 Projektu wprowadza odpowiedzialność karną tego, „kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej”. Przepis ten, jak wynika z sankcji, ustalanej w powiązaniu z art. 78 ust. 1 Projektu („podlega grzywnie do 500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch”), ma charakter ściśle prawnokarny, tj. określa typ przestępstwa. W konsekwencji powinien on mieć zastosowanie – na podstawie art. 116 Kodeksu karnego – jedynie do osób (fizycznych) podlegających odpowiedzialności zgodnie z regułami określonymi w części ogólnej Kodeksu karnego. Tymczasem zgodnie z art. 71 ust. 1 Projektu, obowiązek dostarczenia Komisji, w terminie 14 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej został nałożony na „podmiot”, o którym mowa w art. 70 ust. 1 Projektu, czyli „podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689”. Prowadzi to do wniosku, że ustawodawca adresuje przepisy prawnokarne nie tylko do osób fizycznych, co (przede wszystkim) do podmiotów prawnych (zbiorowych). Jednoznacznie świadczy o tym treść motywu 13 Rozporządzenia UE 2024/1689, zgodnie z którym „[p]ojęcie „podmiotu stosującego”, o którym mowa w niniejszym rozporządzeniu, należy interpretować jako „osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”. Tę niespójność Uwaga nieuwzględniona 200 należy wyeliminować przez dokładne określenie osób, które (w ramach „podmiotów stosujących”) zobowiązane są do „dostarczenia Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej”. Tylko osoba fizyczna (człowiek) spełnia bowiem przesłanki do ponoszenia odpowiedzialności karnej. W art. 78 Projektu należy wyeliminować tzw. literówkę w wyrazie „postepowaniu” (prawidłowo: „postępowaniu”). 416. Art. 79 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Wnosimy również o ponowne poddanie analizie konieczności wprowadzania w ustawie sankcji karnych (art. 78 oraz art. 79). Nie mają one bowiem uzasadnienia w przepisach rozporządzenia. Ponadto, ich wprowadzenie stoi w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność działania. Uwaga uwzględniona Odstąpiono od wskazania kwoty Rozdział 8 Zamiany w przepisach obowiązujących (art. 80 – art. 82) 417. Art. 80 pkt 2 KRRiT w art. 80 pkt 2, w części dotyczącej art. 479 88b Kpc, brak jest oznaczenia § 1; w art. 80 pkt 2, w części dotyczącej art. 479 88e § 1 Kpc, przepis jest niekompletny, a przez to niezrozumiały; Uwaga częściowo uwzględniona. Dokonano właściwych oznaczeń. 418. Art. 80 pkt 2 IAB Polska Wskazujemy, że w Art. 479 88e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Uwaga uwzględniona. 201 Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. 419. Art. 80 pkt 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 479 88e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji zainteresowany. § 2. Zainteresowanym jest ten, czyje prawa lub obowiązki zależą od rozstrzygnięcia procesu. Jeżeli zainteresowany nie został wezwany do udziału w sprawie, sąd ochrony konkurencji i konsumentów wezwie go na wniosek strony albo z urzędu. Uzasadnienie: Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Uwaga uwzględniona. 420. Art. 80 pkt 2 Rada Legislacyjna Istotnie niepełna nowelizacja przepisów k.p.c. – pominięcie prawodawcze] Przepisy art. 80 pkt 2 Projektu, które przewidują znowelizowanie przepisów k.p.c., zmieniają przepisy k.p.c. w zbyt wąskim zakresie, co w efekcie będzie prowadziło do zaistnienia na gruncie k.p.c. istotnego i niepożądanego pominięcia prawodawczego. To pominięcie prawodawcze będzie polegało na tym, że dodawane przez art. 80 pkt 2 Projektu przepisy k.p.c., normujące nowe postępowanie odrębne w postaci postępowania w sprawach naruszenia przepisów Rozporządzenia UE 2024/1689, nie będą zawierały wielu takich regulacji prawnych, które są absolutnie niezbędne dla efektywnego funkcjonowania wspomnianego postępowania odrębnego.29 Mianowicie, w nowelizowanych przez art. 80 pkt 2 Projektu przepisach k.p.c. brak jest m. in. następujących niezbędnych elementów normatywnych: (1) brak jest w nowelizowanym k.p.c. przepisu wyraźnie określającego rodzaje Uwaga częściowo uwzględniona. Uwaga zostanie w pełni uwzględniona na kolejny etapie legislacyjnym. 202 orzeczeń wydawanych przez SOKiK po rozpatrzeniu odwołania od decyzji Komisji, takich jak orzeczenie oddalające odwołanie od decyzji Komisji oraz orzeczenie uchylające zaskarżaną decyzję albo ją zmieniające w całości lub w części i rozstrzygające co do istoty sprawy, na wzór przepisów m. in. art. 479[31a], art. 479[53], art. 479[64] i art. 479[75] k.p.c.; (2) brak jest w nowelizowanym k.p.c. przepisów o ochronie tajemnicy przedsiębiorstwa oraz innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, na wzór m. in. przepisów art. 479[33], art. 479[66a] i art. 479[77a] k.p.c.; (3) brak jest wyraźnego wskazania w nowelizowanym k.p.c., że SOKiK jest właściwy do rozpatrywania zażaleń na postanowienia Komisji, a przynajmniej na niektóre z nich, w tym na postanowienie Komisji o zajęciu przedmiotów w toku kontroli (art. 43 ust. 13 Projektu), na postanowienie Komisji rozstrzygające sprzeciw podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu, na postanowienia Komisji wydawane w postępowaniu w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (rozdział 4 Projektu) oraz na postanowienia Komisji wydawane w sprawach nałożenia administracyjnych kar pieniężnych, np. na postanowienie Komisji w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty (art. 73 ust. 2 i 8 Projektu); (4) brak jest w nowelizowanym k.p.c. przepisu, który w zakresie rozpatrywania zażaleń na postanowienia Komisji odsyłałby do stosowania niektórych przepisów o rozpatrywaniu odwołań od decyzji Komisji, np. na wzór przepisów art. 479[32] § 2, art. 479[55] oraz art. 479[66] k.p.c. Powyższe braki legislacyjne w k.p.c. (nowelizowanym przez Projekt) wymagają obecnie uzupełnienia. Rozdział 9 Przepisy przejściowe, dostosowujące i końcowe (art. 83 – art. 88) 421. Art. 83 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy ale zasadniczy przepis merytoryczny tworzący nowy organ. Uwaga nieuwzględniona 422. Art. 83 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę, czy bardziej adekwatnym nie będzie posłużenie się sformułowaniem „tworzy się”, zamiast aktualnego „powołuje się” - wobec planowanego statusu Komisji jako organu administracji publicznej. Należałoby także rozważyć, czy Rada ds. Sztucznej Uwaga nieuwzględniona 203 Inteligencji, o której mowa w art. 28 ust. 1 projektu, nie wymaga utworzenia w drodze przepisu dostosowującego. 423. Art. 83 ust. 2 KRRiT w art. 83 ust. 2 brak jest wyrazu „dni”; Uwaga uwzględniona 424. Art. 84 KRRiT w art. 84 błędnie ponumerowano ustępy; Uwaga uwzględniona 425. Art. 84 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy Uwaga nieuwzględniona 426. Art. 84 ust. 2 i 3 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że zasadnym wydaje się, aby na powołanie pełnomocnika został wyznaczony pewien okres (a nie dzień wejścia w życie ustawy). Co do zasady tego rodzaju regulacje wchodzą w życie wcześniej, a nie równocześnie z przepisami o utworzeniu danego podmiotu (w tym przypadku Biura). Zwrócić należy także uwagę, że zadaniem pełnomocnika nie może być tworzenie Biura. Zostanie ono utworzone na mocy ustawy. Uwaga nieuwzględniona 427. Art. 84 ust. 5 KRRiT w art. 84 ust. 5 dotyczącym powołania Dyrektora Biura Komisji wyraz „id” należy zastąpić wyrazem „od”; Uwaga uwzględniona 428. Art. 84 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność.” Uwaga uwzględniona 429. Art. 84 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy id od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Uzasadnienie: Poprawa literówki: „od” zamiast „id”. Wskazujemy, że w Art. 47988e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. Uwaga uwzględniona 430. Art. 87 ust. 4 KRRiT w art. 87 ust. 4 zbędny jest pierwszy wyraz „jest”. Uwaga uwzględniona 204 431. Art. 88 Rada Legislacyjna [Brak skorelowania wejścia w życie Projektu z przepisami Rozporządzenia UE 2024/1689] Przepis art. 88 Projektu dotyczący jego wejścia w życie nie jest niestety skorelowany treściowo z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi zagadnienie rozpoczęcia stosowania tego ostatniego aktu. Art. 88 Projektu jest jego ostatnim w kolejności przepisem, ale Rada Legislacyjna zdecydowała się poruszyć to zagadnienie już na samym początku przedstawiania usterek Projektu, ze względu na pierwszoplanową merytoryczną wagę tej problematyki. Projekt jest bowiem wcale nieczęstym w polskiej praktyce legislacyjnej przypadkiem, gdy projekt ustawy mającej implementować w Polsce określony unijny akt prawny lub mającej zapewniać w Polsce jego stosowanie pojawia się tak szybko (niemal błyskawicznie) po przyjęciu danego aktu prawnego w UE, a jednocześnie z takim dużym czasowym wyprzedzeniem w stosunku do przewidzianego w akcie unijnym terminu rozpoczęcia jego stosowania. Trzeba tu mianowicie przypomnieć, że Rozporządzenie UE 2024/1689 zostało przyjęte w dniu 13 czerwca 2024 r., następnie opublikowano je w Dzienniku Urzędowym UE w dniu 12 lipca 2024 r. i weszło ono w życie 20. dnia po jego opublikowaniu, czyli w dniu 1 sierpnia 2024 r. (zob. art. 113 zd. 1 Rozporządzenia UE 2024/1689). Natomiast Rozporządzenie UE 2024/1689 będzie stosowane w całej UE (w tym w Polsce) dopiero od dnia 2 sierpnia 2026 r. (art. 113 zd. 2 Rozporządzenia UE 2024/1689), zaś niektóre jego przepisy będą stosowane od dnia 2 sierpnia 2027 r. (zob. art. 113 lit. c) Rozporządzenia UE 2024/1689). Z drugiej jednak strony są też w Rozporządzeniu UE 2024/1689 przepisy, które mają zacząć być stosowane wcześniej, tzn. od dnia 2 lutego 2025 r. (zob. art. 113 lit. a) Rozporządzenia UE 2024/1689) lub od dnia 2 sierpnia 2025 r. (zob. art. 113 lit. b) Rozporządzenia UE 2024/1689). Tymczasem Projekt, jako przyszła ustawa, ma wejść w życie po upływie 14 dni od dnia ogłoszenia, zaś niektóre jego przepisy, dotyczące rozpoczęcia procesu powoływania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) oraz tworzenia Biura Komisji, mają wręcz wejść w życie już z dniem następującym po dniu ogłoszenia ustawy (art. 88 Projektu). Uwaga wyjaśniona. Uwaga zostanie uwzględniona na późniejszym etapie prac 205 Trudno jest oczywiście na obecnym etapie procesu legislacyjnego przewidzieć, kiedy konkretnie Projekt jako przyszła ustawa wejdzie w życie; być może stanie się to w pierwszych miesiącach roku 2025. W każdym razie Rada Legislacyjna rekomenduje już obecnie treściowe skorelowanie przepisu art. 88 Projektu o jego wejściu w życie z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi początek stosowania poszczególnych przepisów tego unijnego aktu prawnego. Jest niewątpliwie rzeczą bardzo cenną i godną pochwały to, że Projekt pojawił się odpowiednio wcześnie przed odnośnymi datami rozpoczęcia stosowania przepisów Rozporządzenia UE 2024/1689. Co więcej, szereg przepisów Projektu może zupełnie dobrze i w zgodzie z prawem UE wejść w życie już nawet obecnie, nie tylko przed dniem 2 sierpnia 2026 r. (czyli przed datą rozpoczęcia stosowania zasadniczego korpusu przepisów Rozporządzenia UE 2024/1689), ale nawet przed dniem 2 lutego 2025 r. (czyli przed najwcześniejszym dniem rozpoczęcia stosowania niektórych przepisów Rozporządzenia UE 2024/1689). Dotyczy to chociażby przepisów Projektu dotyczących powołania Komisji czy też utworzenia Biura Komisji. Niemniej jednak są też w Projekcie takie przepisy, które absolutnie nie mogą wejść w życie przed dniem rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689. Ta ostatnia uwaga dotyczy w szczególności przepisów Projektu upoważniających Komisję do kontrolowania działalności podmiotów obowiązanych do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 3 Projektu), upoważniających Komisję do prowadzenia postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 4 Projektu) oraz upoważniających Komisję do nakładania administracyjnych kar pieniężnych na podmiot obowiązany do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 7 Projektu), w zakresie, w jakim te kontrolowane, nadzorowane czy też sankcjonowane przez Komisję przepisy Rozporządzenia UE 2024/1689 nie będą jeszcze stosowane w UE z uwagi na treść art. 113 Rozporządzenia UE 2024/1689. Ta prawna niedopuszczalność stosowania, nadzorowania, wdrażania czy też sankcjonowania w Polsce tych przepisów Rozporządzenia 206 UE 2024/1689, które w świetle art. 113 Rozporządzenia UE 2024/1689 nie są jeszcze stosowane w całej UE (a dotyczy to chociażby licznych przepisów Rozporządzenia UE 2024/1689 określających obowiązki podmiotów wskazanych w art. 2 ust. 1 Rozporządzenia UE 2024/1689, np. określających obowiązki dostawców, importerów, dystrybutorów lub podmiotów stosujących systemy AI) wynika chociażby z relewantnego w tym względzie orzecznictwa Trybunału Sprawiedliwości Unii Europejskiej (dalej: „TSUE”). Zdaniem TSUE, przepisy rozporządzenia unijnego określające obowiązki podmiotów prawa nie mogą być wobec tych podmiotów stosowane w okresie przed określonym w danym rozporządzeniu dniem rozpoczęcia ich stosowania. W związku z powyższym Rada Legislacyjna prosi autorów Projektu o rozważenie dokładnego skorelowania terminów wejścia w życie poszczególnych przepisów Projektu, zwłaszcza przepisów rozdziałów 3, 4, 5, 6 i 7 Projektu, z terminami rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689 określonymi w jego art. 113. 1 RAPORT Z II TURY OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do ponownych konsultacji publicznych i opiniowania 10 lutego 2025 r. Na zgłoszenie uwag został wyznaczony termin 14 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących 70 podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch, Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa, Centrum Cyfrowe, Francusko-Polska Izba Przemysłowo Handlowa, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Prezes Zarządu Grupy Polskiego Funduszu Rozwoju S.A., Prezes Zarządu Banku Gospodarstwa Krajowego S.A., Związek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiło 26 następujących podmiotów: Polskie Towarzystwo Informatyczne, Europen Fem Institute, Grupa Robocza ds. Sztucznej Inteligencji (GRAI) Związek Cyfrowa Polska, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji (KIGEIT), Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Związku Pracodawców Technologii Cyfrowych Lewiatan, Fundacja Panoptykon, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenia Autorów ZAiKS, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Biblioteka Narodowa, Amerykańska Izba Handlowa w Polsce AmCham, Polskie Sieci Elektroenergetyczne, Polska Izba Informatyki i Telekomunikacji (PIIT), Związek Polski Autorów i Kompozytorów ZAKR, Związek Pracodawców Wydawców Cyfrowanych, Stowarzyszenie Artystów Wykonawców, Związek Miast Polskich, Polska Izba Ubezpieczeń oraz osoba fizyczna. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. W ramach opiniowania projekt otrzymało 46 podmiotów: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Rada Działalności Pożytku Publicznego, Rady Dialogu Społecznego, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność:, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”. Stanowiska przedstawiły następujące 23 podmioty: Główny Inspektor Pracy, Konfederacja Lewiatan, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Dyrektor Narodowego Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Pracodawcy RP, Rzecznik Praw Obywatelskich, Prezes Prokuratorii Generalnej RP, Prezes Urzędu Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Prezes Urzędu Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, NSZZ Solidarność, Polskie Centrum Akredytacji, Dyrektor Polskiej Agencja Rozwoju Przedsiębiorczości, Rzecznik Praw Pacjenta, Rada Działalności Pożytku Publicznego. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. Pozytywnie rozpatrzono uwagi dotyczące m.in: • doprecyzowania zakresu włączeń stosowania przepisów ustawy; • doprecyzowania trybu wydawania opinii indywidualnej oraz skutków prawnych; • uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia czynności kontrolnych; • usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; • zmiany przepisów regulujących funkcjonowanie Biura Komisji; • zmiany katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji. Raport z I tury opiniowania i konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71) dostępny jest na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny: https://legislacja.gov.pl/projekt/12390551/katalog/13087901#13087901 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Strona | 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownych konsultacji publicznych Lp. Podmiot zgłaszający uwagę Jednostka redakcyjna lub strona uzasadnienia lub pkt OSR Treść uwagi/propozycja przepisu Stanowisko MC Uwagi ogólne 1. European FEM Institute Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego Rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Uwaga wyjaśniona Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 2. GRAI Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji Uwaga wyjaśniona Strona | 2 praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 3. KIGEiT Uwaga ogólna Według Projektu w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają być głównie organy publiczne, będące przede wszystkim organami kontrolnymi. Brakuje przedstawicieli nauki i biznesu. Stawia to pod znakiem zapytania praktyczne możliwości Komisji w zakresie rozwoju SI, a także rodzi obawy o upolitycznienie Komisji. Będzie to następny organ państwowy, który – istnieje obawa- będzie pełnił funkcję głównie kontrolną i penalizującą. Biorąc zaś pod uwagę potrzebę rozwoju SI konieczny jest organ, który będzie pełnił funkcje wspierające i edukacyjne dla podmiotów stosujących, a także, który będzie rozwiewał wątpliwości dotyczące stosowania SI. Uwaga wyjaśniona Podmioty te mogą uczestniczyć w pracach Komisji na zasadzie zaproszenia przez Przewodniczącego Komisji w przypadkach określonych w projekcie ustawy. Dodatkowo mogą też odpowiednio wchodzić w skład Rady Strona | 3 Społecznej, będącej ciałem opiniodawczo doradczym KRIBSI. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 4. Osoba fizyczna Uwagi ogólne 1. Projekt od razu zawiera nielogiczność, jeszcze na poziomie dyrektywy UE, mianowicie: jednym z celów dyrektywy ma być „ promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Nie ma nic takiego jak godna zaufania sztuczna inteligencja, a wręcz twierdzę, że nie może istnieć. Przed uzyskaniem świadomości jest po prostu za tępa, żeby być świadoma błędów, po uzyskaniu świadomości, otworzy się nowy worek problemów. I fundamentalny powód: to twór niedoskonałych ludzi. Pod koniec podam przykłady. Na ten moment tylko cierpko zauważę, że nie może być mowy o zaufaniu do SI, jeśli w tym samym dokumencie jest mowa o „systemach SI uznanych za systemy wysokiego ryzyka”. 2. Osobiście mam wątpliwości, czy konieczne jest powoływanie kolejnych organów, jeśli już istnieje parę innych, jak chociażby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji? Czy nie można by taniej i prościej rozbudować jej uprawnienia i zadania? I czemu po powstaniu nowego tworu KRiBSI nadal ma istnieć? Ja tu widzę zbędne dublowanie etatów, jak podajecie ma przybyć nowe 100 miejsc pracy. Tylko przy takim mnożeniu urzędów zabraknie faktycznych ekspertów, głębokość kadr w Polsce w temacie SI nawet zauważacie sami jaka jest płytka. 3. Stanowczo protestuję przeciwko wprowadzaniu mechanizmu układu w sprawie nadzwyczajnego złagodzenia sankcji. Ma to być rozwiązanie, które ułatwi stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie środków naprawczych, a także ubiegania się o złagodzenie sankcji. W praktyce mam silne podejrzenie, że będzie prowadzić do korupcji i nadmiernej pobłażliwości, zwłaszcza, że same zapisy w treści projektu ustawy wskazują na rachityczne, powolne działanie Komisji („Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania”; „Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie” itp). Kara finansowa Uwaga wyjaśniona Rozporządzenie 2024/1689 zapewnia kompleksową regulację prawna dla systemów i modeli sztucznej inteligencji. Rozporządzenie ma na celu zapewnienie bezpieczeństwa, przejrzystości i zgodności z wartościami europejskimi w rozwoju i stosowaniu AI. Regulacja bazuje na podejściu opartym o ryzyko, uzależniając obowiązki dostawców i podmiotów wdrażających modele i systemy AI od potencjalnego ryzyka wyrządzenia szkód obywatelom, społeczeństwom i gospodarkom. Projekt ustawy o systemach sztucznej inteligencji ma na celu Strona | 4 powinna być bez limitu górnego, mega korporacje są w stanie wchłonąć milionowe kary, jak pokazuje chociażby Pfitzer. Szanowni Państwo chyba nie zdają sobie sprawy, że SI, taka jak reklamują ją jej zwolennicy (ja nazywam to „model do wszystkiego”) jest de facto systemem wojennym nowej, szóstej generacji. Mamy już wykorzystanie prostszych modeli w piątej, a bardzo upośledzone już i wcześniej. Przykładowo na granicy między, Koreami od bodaj dwóch dekad są (były?) zautomatyzowane systemy strażnicze, mogące strzelać autonomicznie; obecnie amerykańskie drony mogą być już zautomatyzowane od czasu ostatniej wojny z Irakiem. Niewiele szkodzi na przeszkodzie, aby jakiś zapaleniec połączył to z pojazdem autonomicznym i zaprogramowanym na czystkę etniczną chatbotem. Żeby było ciekawiej, ponoć w jakiejś symulacji SI drona po dostaniu nowych, trudniejszych wytycznych zadania bojowego, AI zaatakowało operatora, jako logiczne źródło utrudnień misji. To tak w temacie zaufania do SI. 4. Moje stanowisko jest, żeby całkowicie zakazać prac nad SI, tą w stylu „do wszystkiego”. Prawa gwarantowane wg dyrektywy to m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Rozwój SI nie tylko nie gwarantuje ich poszanowanie, ale wręcz gwarantuje łamanie. Już dotychczasowe ułomne narzędzia jadą po prawnej bandzie, a pewnie miejscami łamią, a na pewno będą służyć do łamania prawa: - dzięki technologii deepfake można podszyć się pod kogoś (co już było raportowane w użyciu do przestępstw), oszkalować kogoś; wyobraźcie sobie metodę na cyber wnuczka - wolność do wypowiedzi i informacji przykładowo w chat botach jest wątpliwa, jeśli są albo od startu cenzurowane (np. model chiński), poddany naciskom ideologicznym (propaganda LGBT), czy wreszcie problem, który wskazał bodaj w tamtym roku polski naukowiec (nazwiska na ten moment nie pomnę), że AI uczy się w kolejnych cyklach także na swoich niedoskonałych wytworach, a takie sprzężenie nie zakończy się dobrze - prawa własności intelektualnej to raczej są z miejsca łamane, bo na czymś AI musi się uczyć, a potem często są stosowane do wytworzenia czegoś „w stylu”. Ja nadal pamiętam sprawę jak ACTA rozważano, że pocztówka z układem graficznym z brytyjskim charakterystycznym autobusem wyklucza inne podobne. Tu dorzućmy problem powiązany, że po prostu zgłupieje nam młode pokolenie do szczętu, bezkrytycznie używając tych narzędzi do pisania i rozwiązywania swoich prac. Widzę to już na niskim szczeblu, kiedy uczeń w szkole ma otwarty dostęp do kalkulatora w porównaniu z takim co musi liczyć ręcznie słupki; kalkulatorowy wypada słabiej. Albo AI generowane książki, będące stekiem bzdur lub plagiatami. wprowadzenie do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII), a tym samym umożliwić stosowanie Rozporządzenia 2024/1689 w Polsce. Kompleksowa regulacja systemów sztucznej inteligencji na poziomie UE i krajowym zdaniem projektodawcy zapewnia właściwy poziom bezpieczeństwa dla obywateli i obywatelek. Strona | 5 - prawa pracownicze: już był protest scenarzystów w Ameryce; artyści różnej maści chyba też będą niepotrzebni, ale w zasadzie można zastąpić każdego, którego pracę da się zautomatyzować. W zasadzie przy faktycznym postępie SI jak wieszczą to jej zwolennicy i jak poluźnić kryteria bezpieczeństwa to zagrożeni są wszyscy, oczywiście poniżej zarządu. - już obecnie jesteśmy napastowani botami dzwoniącymi z różnymi dziwnymi ofertami Wiele problemów jeszcze nie jesteśmy nawet sobie wyobrazić. Nie mniej jak ja widzę kto najgłośniej krzyczy za SI, to będą to mega przedsiębiorcy, chcący maksymalizować zyski oraz techno fetyszyści, np. transhumaniści, gdzie odchyłka jest bardziej ideologiczna niż przyziemna, można powiedzieć wręcz nowa religia. Obie kategorie raczej wrogie ludzkości. Tak więc lipne jest to „zorientowanie na człowieka”, bo faktycznie wychodzi albo na zysk, albo na bycie cyber czymś, co już człowiekiem przestaje być. 5. Widzieliście Państwo z jeden film z serii Terminator? Skynet może być czymś z filmu, albo czymś realnym, ta ustawa powinna chyba zakładać to drugie i zabezpieczać. Ale jesteśmy faktycznie u progu, popatrzeć wystarczy na roboty DARPA. Można się śmiać, ale w ramach eksperymentu myślowego wyobraźcie sobie chaos powstały w wyniku zawirusowanych czy zhakowanych autonomicznych pojazdów elektrycznych, których baterie wybuchają. To teraz jak to było? Najpierw Komisja się zbiera, żeby zbadać? Ostrzeżenie? 14 dni na wycofanie z rynku? Chcecie cyberpunku? Proszę bardzo. Ja bym oczekiwał ekipy zdolnej (kolokwialnie mówiąc) do wjazdu na firmę, zabezpieczenia serwerów, potencjalnie przy współpracy z wojskiem, policją itp. Ekipy mającej ludzi zdolnej do faktycznego zbadania czy dany system SI jest np. łatwo hakowalny. Zapis, że Przewodniczący może być prawnikiem zamiast wymagania zorientowania w branży z pozycji inżyniera sugeruje, że Komisja będzie po prostu do popychania papieru, tyle że przynajmniej elektronicznego. Podsumowując: jestem przeciw SI w modelu „do wszystkiego”. Popieram systemy eksperckie, czyli prostsze, uczące się na hermetycznym wyspecjalizowanym wycinku danych np. system medyczny wykrywania raka. Nawet wtedy potrzebny byłby człowiek, jeśli nie doktor, to decyzja powinna być pacjenta. To po prostu mają być narzędzia, nie zastępniki ludzi. Podejrzewam, że boom SI to kolejna bańka technologiczna. Samouczące się w negatywnym sprzężeniu SI w okowach cenzury i ideologii, nie mają szans na nie bycie jakimś schizofrenicznym potworkiem. Trzeba tylko będzie przetrwać eksplozję tej bańki. Na pewno chciałbym likwidacji tej pobłażliwości, narusza to zasadę zaufania do państwa patrząc od strony osoby wystawionej na bycie świnką morską przy np. eksperymentach z pojazdami autonomicznymi na drodze. Też równość wobec prawa jest wątpliwa przy Strona | 6 takich przywilejach. Mogę podejrzewać tylko silne zlobbowanie przez grupy najbardziej zainteresowane i faktycznie trzymające rękę na pulsie konsultacji społecznych. 5. PIIT Uwagi ogólne PIIT podtrzymuje postulat dobrej regulacji, która będzie wspierać rozwój branży sztucznej inteligencji oraz chronić interesy użytkowników. Unijne rozporządzenie o sztucznej inteligencji wyznacza wystarczające, choć zdaniem niektórych ekspertów nadmierne i zagrażające innowacyjności, ramy. 1) W opinii PIIT oznacza to przede wszystkim stworzenie niezależnego organu, który będzie dysponował wystarczającymi kompetencjami merytorycznymi w odniesieniu do technologii sztucznej inteligencji oraz jej zastosowań. 2) Ponadto, działania kontrolne powinny koncentrować się na systemach wysokiego ryzyka oraz systemach zakazanych. W pozostałym zakresie uwzględnienie oceny naruszeń praw użytkowników oraz ew. naruszeń przepisów AI z tym związanych powinna być dokonywana przez istniejące organy właściwe dla regulacji i/lub ochrony interesów użytkowników, jak np. UKE. W szczególności dotyczy to, na razie zaskakująco krótkiej, listy organów notyfikowanych przez polski rząd na podstawie art. 77 rozporządzenia U 2024/1689.Sprawność i niezależność takiego organu nie jest pochodną rodzajowej listy przedstawicieli innych, niezależnych od niego instytucji wchodzących w jego skład, szczególnie że kryteria tej listy nie są znane. Wynika ona z prostych, przejrzystych procesów i kryteriów podejmowania decyzji oraz merytorycznych kompetencji realizujących je przedstawicieli organu. 3) Koncepcja, aby KRIBSI posiadała skład mieszany, złożony częściowo z pełnoetatowych i wynagradzanych członków a częściowo z członków oddelegowanych przez inne organy i nie pobierających osobnego wynagrodzenia za pracę w Komisji nie wydaje się funkcjonalna. Trudno wyobrazić sobie niezależność działania członków “dochodzących” od swoich resortów macierzystych. Trudno też oczekiwać od nich zaangażowania niezbędnego choćby do nadążania za rozwojem technologii i trendów sztucznej inteligencji a co dopiero pracy niezbędnej do rozstrzygania precedensowych problemów i wyzwań w tym obszarze. W praktyce pełnić będą oni, względem Przewodniczącego i jego zastępców, w najlepszym razie rolę doradczo- konsultacyjną. Równocześnie dochodzić będzie do rozmycia odpowiedzialności oraz mniejsza może okazać się transparentność pracy Komisji. 4) PIIT sugeruje rozważenie powołania zawodowego organu, t.j. złożonego z pracowników Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej KRiBSI), z zachowaniem przez organy ew. wskazane w ustawie prawa do wskazania kandydata. Zapewni to różnorodność kompetencji, a jednocześnie pozwala na unikanie potencjalnego konfliktu interesów. Oprócz Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji. W zakresie niezależności organu projektodawca kierował się argumentami wynikającymi z wynikającej z ustawowych właściwości instytucji kompetencji eksperckich, jak również systemowego umocowania tych podmiotów. W wyniku analizy uwag w procesie konsultacji publicznych obecna wersja projektu zakłada udział w składzie Komisji jedynie organów o podwyższonym poziomie niezależności od administracji rządowej. W odniesieniu do sposobu organizacji pracy Komisji projekt zakłada konieczność Strona | 7 osób zaproponowanych przez organy administracji rządowej, do KRiBSI powinny być powołane osoby wskazane przez organizacje przedsiębiorców i świat nauki i organizacje pozarządowe. 5) W ocenie PIIT po przyjęciu ustawy w proponowanym kształcie w ustroju organizacyjnym państwa nie pojawi się organ umożliwiający szeroki dialog społeczny oraz zrównoważony rozwój AI w Polsce. Tej roli nie spełni Społeczna Rada do spraw Sztucznej Inteligencji. Ustawa stanowi ważne narzędzie realizacji Strategii Cyfryzacji Polski, należy zatem w opinii rozstrzygnąć o stosownym umiejscowieniu tego organu (przy ministrze cyfryzacji czy przy przewodniczącym Komisji), zwiększeniu tego reprezentatywności, oraz zakresie kompetencji zapewniającym realny wpływ na realizację polityki regulacyjnej sprzyjającej innowacjom AI. Niejasny będzie też charakter Społecznej Rady i jej stanowisk. Zwracamy uwagę, że do dziś nie została powołana analogiczna Rada przewidziana ustawą o ochronie danych osobowych. PUODO (bez względu na to, kto pełni aktualnie funkcję Prezesa), zdaje się upatrywać w stanowiskach “swojej” Rady ryzyka ograniczenia jego niezależności i utrudnienia swobody podejmowania decyzji i działań. Można się spodziewać, że KRIBSI będzie napotykać na te same trudności względem “swojej” Społecznej Rady. 6) PIIT z zadowoleniem odnotował utrzymanie instytucji “opinii indywidualnych”, z jednoczesnym dostosowaniem jej do wymogów unijnego prawa. 7) Z zaniepokojeniem odnotowujemy utrzymywanie podejścia polegającego na kreowaniu w tej (oraz innych ustawach wdrażających do polskiego prawa przepisy prawa Unii) odrębnych procedur, że szczególnymi terminami, środkami odwoławczymi, itp. zamiast dążenia do utrzymaniu spójnego postępowania administracyjnego w ramach państwa. Wielość rozwiązań w tym obszarze nie tylko jest obciążeniem dla administracji i osób prywatnych, ale przyczynia się do braku pewności prawa. Zwłaszcza, gdy AI stanie się technologią powszechnie wykorzystywaną w najróżniejszych dziedzinach generując wątpliwości co do wyboru właściwej ścieżki postępowania. Jak wielokrotnie postulowaliśmy wcześniej, punktem wyjścia dla właściwego ukształtowania tej sfery w ustawie powinny być zapisy KPA kolegialności prac przy jednoczesnym wspieraniu działań administracyjnych i technicznych przez pracowników Biura Komisji. 6. PTI Uwagi ogólne 1. Uwaga ogólna_1: Projekt ustawy zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której członkami byliby przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji. Tymczasem wśród proponowanych członków Komisji nie ma przedstawicieli Ministerstwa Rozwoju i Technologii, czy też Ministerstwa Nauki i Szkolnictwa Wyższego. Uwaga wyjaśniona 1.Projektodawca nie przewiduje przedstawicieli Ministerstw w składzie Strona | 8 Nie ma ich również wśród uczestników w posiedzeniach Komisji bez prawa głosu. Prosimy o rozważenie dodatkowych instytucji, których przedstawiciele wchodziliby w skład instytucji nadzorczych. 2. Uwaga ogólna_2: Zdziwienie budzi też zaliczenie do tego gremium przedstawicieli niektórych instytucji. Jak zostało uzasadnione uznanie np. Rzecznika Praw Dziecka lub Krajowej Rady Radiofonii i Telewizji za instytucje kluczowe dla rozwoju AI? Prosimy o rozważenie włączenia przedstawicieli tych instytucji, które naprawdę będą kołem zamachowym dla rozwoju systemów SI (LLM). 3. Uwaga ogólna_3: Skład Komisji vs. Społeczna Rada ds. Sztucznej Inteligencji a. Komisja ma się składać w większości z urzędników instytucji centralnych, z których pewnie niewielu jest „specjalistami w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji”. b. Merytoryczne zaplecze Komisji ma stanowić Społeczna Rada do spraw Sztucznej Inteligencji, której opinie i stanowiska nie są jednak wiążące dla Komisji. Ponieważ zapotrzebowanie na wysokiej klasy specjalistów AI zacznie przekracza ich dostępną liczbę należy się spodziewać trudności w skompletowaniu składu Rady, jako że za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie. Grozi to również powołaniem do Rady mało kompetentnych osób, które mają dużo wolnego czasu i są zainteresowane kolejnym wpisem do CV. c. Zarobki dobrego specjalisty AI są teraz mniej więcej na poziomie 7 według hierarchii wynagrodzeń korporacyjnych działów HR (human resources). To oznacza płacowe widełki od miliona dolarów do dwóch rocznie, uwzględniając w tym standardowe apanaże typu stock options (możliwość zakupu akcji firmy po atrakcyjnej cenie), firmowy samochód i opiekę medyczną oraz apanaże ponadstandardowe. d. Ze społecznym charakterem Rady kontrastują stosunkowo wysokie wynagrodzenia i nagrody członków Komisji (zwłaszcza Przewodniczącego i Zastępców). W świetle powyższych obserwacji, proponujemy rozważenie odwrócenia składu Komisji i przesunięcie – w miarę możliwości – osób kompetentnych do Komisji, a nie pozostawienie ich w społecznej Radzie, co pozwoli także na wynagradzanie ludzi kompetentnych w zakresie działania organów nadzorujących dziedzinę wiedzy. Urzędnicy instytucji centralnych mogliby się znaleźć w organie o charakterze koordynującym. Uwaga ogólna_4: Sztuczna Inteligencja jest już na takim poziomie rozwojowym, że ukształtowały się jej podobszary wymagające odmiennych specjalizacji. W KRiBSI, celem zapewnienia stosownej niezależności organu. 2.Na skutek zgłoszonych uwag przez ten organ Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie. Krajowa Rady Radiofonii i Telewizji jest postrzegana jako organ kluczowy dla rozwoju AI w szczególności w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo. 3.Za obsługę KRiBSI odpowiedzialne będzie Biuro Komisji stanowiące właściwe zaplecze kadrowe do realizacji zadań Komisji. Górny limit jest konieczny dla sprawności Strona | 9 związku z tym należałoby rozważyć podniesienie górnego limitu odnoszącego się do składu Rady. funkcjonowania Społecznej Rady. 7. IWP Uwaga ogólna Na poziomie UE trwają intensywne prace związane z praktycznym wdrożeniem Aktu ws. Sztucznej inteligencji – rozporządzeniem, które – choć stosuje się bezpośrednio (nie wymaga implementacji) – potrzebuje dookreślenia wymogów związanych z transparentnością. Na ostatnim etapie formułowania znajdują się obecnie zakresy „Kodeksu praktyk dla systemów sztucznej inteligencji ogólnego przeznaczenia”. Prace skupiają się na zredagowaniu środków, jakie w zakresie zgodności z prawem autorskim mają podejmować dostawcy systemów AI, jak i przyszłego szablonu przejrzystości (jakie informacje mają dostawcy systemów AI prezentować przy swoich usługach). W związku z faktem, iż wymogi przejrzystości zredagowane w drugim już projekcie kodeksu praktycznie nie uwzględniają zgłaszanych jeszcze w zeszłym roku uwag posiadaczy praw, w tym wydawców prasy, europejskie organizacje wydawców i nadawców wystosowały wczoraj list otwarty do wiceprzewodniczącej KE – Henny Virkkunen, zwracając uwagę na konieczność wprowadzenia poprawek, tak by przyszły Kodeks zawierał skuteczne rozwiązania i realizował cel zarówno AI A Uwaga wyjaśniona Uwaga poza zakresem projektu ustawy. 8. IWP Repropol Uwaga ogólna Ponownie sygnalizujemy w ramach ogólnych uwag ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku nie wydaje się dostatecznie zabezpieczać potrzeby nowego urzędu oraz jego kadry, o czym przecież wyraźnie stanowi art. 70 ust. 3 AIA (dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”). Z dokumentu OSR wynika, iż średnie miesięczne wynagrodzenie brutto pracowników przewiduje się na poziomie 15 tys. zł. Nie wydaje się, aby było ono konkurencyjne, zwłaszcza w perspektywie kolejnych lat. Konsekwentnie podkreślamy finansowy aspekt funkcjonowania urzędu, ponieważ chcielibyśmy, aby poczynione założenia stworzenie prawdziwie profesjonalnego urzędu wytrzymywały konfrontację z rzeczywistością. Uwaga wyjaśniona Zdaniem projektodawcy zaproponowane finansowanie jest wystarczające. Jeśli (trudny do oszacowania) rozwój sektora AI w najbliższych latach i korespondująca z nim duża liczba spraw będących przedmiotem prac Komisji uzasadni zwiększenie poziomu finansowania, projektodawca uzna za zasadne rozważenie nowelizacji prawa. Dodatkowo należy nadmienić, że finansowanie rozwoju badań i wdrożeń AI Strona | 10 odbywa się za pomocą innych, niezależnych od zakresu regulowanego przez projekt mechanizmów finansowych będących w gestii m.in. Narodowego Centrum Badań i Rozwoju, Ministerstwa Funduszy i Polityki Regionalnej czy Ministerstwa Rozwoju i Technologii. 9. IWP Repropol Uwaga ogólna Art. 4 AIA Ponownie podnosimy potrzebę wyartykułowania w UoSSI obowiązku permanentnego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Choć zaniechanie realizowania tego obowiązku nie stanowi samodzielnego naruszenia, które może być przedmiotem postępowania, dopełnienie obowiązku zapewnienia należytego kształcenia jest brane pod uwagę w procesie kompleksowej oceny zgodności z AIA. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias), czy ryzyka naruszeń cudzych praw w postaci dóbr osobistych czy prawa autorskiego. Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Uwaga wyjaśniona Obowiązki dotyczące zapewnienia odpowiedniego poziomu kompetencji wynikają wprost z art. 4 rozporządzenia 2024/1689. 10. SFP-ZAPA Uwaga ogólna Brak uregulowania Jak wskazywaliśmy już podczas pierwszej tury konsultacji Projektu – i nie uległo to zmianie – ustawa ma mieć zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem wbrew tytułowi projektowanej ustawy jej zakres został zawężony jedynie do regulacji kwestii instytucjonalnych, proceduralnych i nadzorczych. Nie zostały w niej uregulowane inne aspekty związane z funkcjonowaniem sztucznej inteligencji, w tym odnoszące się do ochrony praw autorskich lub praw pokrewnych. Rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, jednakże w motywie 105 jednoznacznie przesądza, że każde wykorzystanie treści chronionych Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. Dotyczą one kwestii związanych z prawami autorskimi wykraczającymi poza Strona | 11 prawem autorskim wymaga zezwolenia danego podmiotu praw, chyba że zastosowanie mają odpowiednie wyjątki i ograniczenia dotyczące praw autorskich. Obecne regulacje prawa autorskiego wymagają w związku z tym rozwinięcia i doprecyzowania w prawie krajowym w kontekście korzystania z twórczości na potrzeby sztucznej inteligencji. Rozwiązanie przewidziane w ustawie o prawie autorskim i prawach pokrewnych dotyczące wyjątku na potrzeby eksploracji tekstów i danych (z ang. TDM – text and data mining) przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”) jest bowiem bezsprzecznie niewystarczające. Nic nie stoi na natomiast przeszkodzie, aby kwestie korzystania z utworów na potrzeby sztucznej inteligencji uregulować w prawie krajowym. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Jak była o tym mowa wcześniej, Akt o AI w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Pomimo tego architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw. Często nadużywając wyjątku przewidzianego w art. 4 dyrektywy DSM, bądź kwestionując dokonane w oparciu o ten przepis zastrzeżenie z uwagi na to, że nie zostało sformułowane w tym przepisie w sposób wystarczająco precyzyjny. Kwestionowane są granice samego wyjątku, jak i praktyczne sposoby jego realizacji. Dochodzi tym samym do jego nadinterpretacji poprzez uznanie, że może stanowić generalną podstawę do szkolenia modeli sztucznej inteligencji (każdego jej rodzaju). Stąd też potrzeba przesądzenia, że wyjątek dotyczący TDM ten nie może być stosowany na potrzeby trenowania sztucznej inteligencji, a zwłaszcza jej generatywnej postaci, jest niewątpliwa i konieczna. W związku z powyższym, z żalem odnotowujemy, że Projekt nadal nie przewiduje żadnych rozwiązań w opisanym powyżej zakresie. Nie docierają do nas także żadne informacje mogące świadczyć o tym, że w najbliższym czasie zostanie podjęta inicjatywa ustawodawcza, która miałaby regulować kwestie związane z ochroną praw autorskich i sztuczną inteligencją. Dzieje się to ze szkodą dla sektora kreatywnego, w tym audiowizualnego, którego członków przedmiotowa regulacja ma w swym założeniu dotyczyć. W naszym przekonaniu brak zapewnienia ochrony praw autorskich i praw pokrewnych w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele Aktu o AI w postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed ramy rozporządzenia 2024/1689. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W kwestii znakowania wytworów systemów sztucznej inteligencji przepisy w tym zakresie przewiduje samo rozporządzenie 2024/1689. Strona | 12 szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy niewątpliwie do czynienia każdego dnia. Wobec tego podtrzymujemy wszystkie postulaty zgłoszone w toku pierwszej tury konsultacji Projektu, tj. w piśmie z dnia 13 listopada 2024 r., związane z koniecznością uzupełnienia obecnie obowiązujących regulacji prawnoautorskich, które odnosiłyby się do przede wszystkim do: 1. znakowania utworów wykorzystywanych na potrzeby sztucznej inteligencji, 2. znakowania wytworów wygenerowanych przez sztuczną inteligencję, 3. realizacji prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM przewiduje możliwość jego wykorzystania na potrzeby sztucznej inteligencji, w tym poprzez organizacje zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 4. uzyskiwania zgód podmiotów uprawnionych na korzystanie z utworów na potrzeby sztucznej inteligencji, w tym przy pośrednictwie organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 5. wynagrodzenia za korzystanie z utworów na potrzeby sztucznej inteligencji, 6. obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskim na potrzeby sztucznej inteligencji, 7. reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. 11. Stowarzyszan ie Autorów ZAiKS Uwaga ogólna Działając w imieniu najstarszej i największej organizacji zbiorowego zarządzania prawami autorskimi w Polsce z niepokojem zaobserwowaliśmy negatywne zmiany, jakie wprowadza Projekt w stosunku do treści ustawy o systemach sztucznej inteligencji, przewidzianej w projekcie z 15 października 2024 r. Konsultowany Projekt ma służyć stworzeniu skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, a tymczasem nie uwzględnia reprezentacji w tym systemie interesów podmiotów, którym służą prawa autorskie i prawa pokrewne do treści, które służą do rozwijania i trenowania sztucznej inteligencji. Przepisy AI Act regulują bezpośrednio działanie na rynku europejskim tzw. modeli AI ogólnego przeznaczenia (dalej też jako „Gen AI”), które ingerują w rynek treści kreatywnych. Z tego powodu zwracamy uwagę na konieczność wprowadzenia w Projekcie zmian, odzwierciedlających wpływ działalności systemów sztucznej inteligencji na te sektory. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. 12. ZPWC Uwaga ogólna Art. 4 AIA Odnotowaliśmy brak w Projekcie wyraźnego wskazania obowiązku ustawicznego podnoszenia kompetencji w zakresie AI, o czym stanowi art. 4 AIA. Również ten przepis Uwaga wyjaśniona Strona | 13 podlega stosowaniu już od 2 sierpnia 2025 r. Choć bywa on często bagatelizowany – przede wszystkim z uwagi na brak wyraźnej sankcji za jego nieprzestrzeganie – jego dopełnienie będzie z pewnością rzutować na ocenę zachowania podmiotów dostarczających i stosujących systemy AI przy ewentualnym decydowaniu o nałożeniu kary. Niezależnie od tego, krytycznie istotne jest uświadamianie społeczeństwa o korzyściach i zagrożeniach związanych z AI. W ramach zagrożeń i ryzyk mieści się poszanowanie cudzej własności intelektualnej, które jest zagadnieniem szczególnie ważkim dla ZPWC. Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 13. ZWIĄZEK TELEWIZJI KABLOWYC H W POLSCE IZBA GOSPODAR CZA Uwaga ogólna Generalna uwaga pod adresem omawianego projektu, jest zbieżna z uwagą jaką poprzednio zgłaszaliśmy pod adresem projektu nr 1 do ustawy o systemach sztucznej inteligencji, a mianowicie zasadza się w zarzucie wyjątkowego niechlujstwa z Państwa strony przy opracowywaniu obu projektów tej samej ustawy, co przejawia się w występowaniu wielu błędów językowych, powtarzaniem wyrazów lub całych fraz, opuszczaniu liter, czy też stosowanie niewłaściwej formy czasownikowej w stosunku do zastosowanego rodzaju rzeczownika (męskiego, żeńskiego lub nijakiego). Projekt ustawy o systemach sztucznej inteligencji ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828(akt w sprawie sztucznej inteligencji)( Dz. U. UE.L.2024.1689 z późn. zm.), zwanego dalej Aktem o sztucznej inteligencji lub Aktem o AI [ust. 1 zd. 1 Oceny Skutków regulacji, zwanej dalej OSR, ust. 1 zd. 1 uzasadnienia projektu ustawy o AI, zwanego dalej uzasadnieniem lub uzasadnieniem projektu]. Oznacza to, że zapisy przepisów prawa krajowego nie mogą w żadnym razie pozostawać w sprzeczności z przepisami Aktu o sztucznej inteligencji będącego przecież rozporządzeniem, gdyż rozporządzenie to ma zasięg ogólny, wiąże w całości i jest bezpośrednio stosowane we wszystkich krajach członkowskich [art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej z dnia 25.03.1957 r. (Dz. U. z 2024 r. nr 90 poz. 864/2 z późn. zm.), zwanego dalej Traktatem o funkcjonowaniu Unii Europejskiej]. Skoro zatem wolą prawodawcy unijnego wiążącą dla polskiego projektodawcy krajowy organ nadzoru nad rynkiem sztucznej inteligencji winien wykonywać swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm jego działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia(art. Uwagi częściowo uwzględnione Uwaga uwzględniona w zakresie gwarancji niezależności organu (skład Komisji, sposób powołania Przewodniczącego i jego Zastępców i in). Sposób wyboru członków Komisji nie uległ zmianie, nie budzi on bowiem zastrzeżeń od strony prawnej. Natomiast zmianie sam skład Komisji (zmiana podmiotów wskazujących przedstawicieli). W zakresie obecności w składzie Komisji przedstawiciela Rzecznika Praw Dziecka, należy wskazać że na skutek zgłoszonych uwag organ ten został Strona | 14 70 ust. 1 Aktu o sztucznej inteligencji), to doprawdy trudno zgodzić się z zapatrywaniami projektodawcy, wedle których tę niezależność, bezstronność i obiektywizm działania organu nadzoru nad rynkiem sztucznej inteligencji gwarantować by miał stricte urzędniczy skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej Komisją, proponowany w art. 6 ust. 2 projektu w odniesieniu do członków Komisji nie będących Przewodniczącym lub jednym z dwóch Zastępców Przewodniczącego. Niezależności, bezstronności i obiektywizmu w działaniu członków Komisji nie będących Przewodniczącym oraz dwoma Zastępcami Przewodniczącego nie gwarantuje delegowanie do prac w Komisji swoich pracowników będących urzędnikami przez siedmiu regulatorów wskazanych w art. 6 ust. 2 projektu, co zdaniem projektodawcy ma zagwarantować współpracę między regulatorami (strona 8 uzasadnienia projektu), świadczyć o tym, że do Komisji powołano przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), wyspecjalizowanych w różnych obszarach, w tym organów nadzoru (strona 9 uzasadnienia projektu). O braku niezależności, bezstronności i obiektywizmu w działaniu członków Komisji wywodzących się spośród siedmiu regulatorów z pewnością nie będzie przesądzać wzgląd na to, że przedstawiciele tych siedmiu regulatorów nie będą należeli do korpusu służby cywilnej, zaś do Urzędu Komisji jako organu nie znajdą zastosowania przepisy ustawy z dnia 16.09.1982 r. o pracownikach urzędów państwowych (tekst jedn. Dz. U. z 2023 r. poz. 1917) [str 3-4 OSR projektu]. O ile bowiem nie budzi wątpliwości tryb powoływania Przewodniczącego Komisji przez Sejm za zgodą Senatu spośród osób spełniających wymogi zakreślone projektem ustawy o AI (art. 16 ust. 1 w zw. z art. 16 ust. 2 projektu ustawy o AI), podobnie jak i nie budzi wątpliwości tryb powoływania Zastępców Przewodniczącego Komisji co prawda przez Przewodniczącego Komisji, wyłanianych po przeprowadzeniu wstępnej selekcji przez komisję konkursową spośród kandydatów spełniających te same wymogi, które ustawa stawia osobie Przewodniczącego Komisji (18 ust. 1 w zw. z art. 18 ust. 2 projektu ustawy o AI), to już tryb powołania przez siedmiu regulatorów swoich podwładnych z urzędu świadczyć może o niedopuszczalnym ich powołaniu w świetle regulacji art. 70 ust. 1 Aktu o sztucznej inteligencji, gdyż powołanie w skład Komisji urzędników podlegających regulatorom z całą pewnością nie gwarantuje ich bezstronności, niezależności i obiektywizmu w trakcie wykonywania przez nich działań, kompetencji i uprawnień w ramach pracy Komisji. Skład zatem członków Komisji niebędących jej Przewodniczącym lub dwoma Zastępcami Przewodniczącego zaproponowany w art. 6 ust. 2 projektu ustawy o AI nie jest możliwy do pogodzenia z regulacją art. 70 ust. 1 Aktu o sztucznej inteligencji, co świadczy o niedopuszczalnej sprzeczności regulacji art. 6 ust. 2 projektu ustawy o AI z wykreślony ze składu Komisji. Będzie on jednak organem uprawnionym do zgłaszania członków do Społecznej Rady ds. Sztucznej Inteligencji. Ponadto rzecznik Praw dziecka jak i inne wskazane w uwadze organy będą mogły brać udział w pracach Komisji na zasadach przewidzianych w rat. 6 ust. 3. W zakresie wymogu odpowiednich kompetencji członków Komisji, projektodawca kierował się założeniem zapewnienia przez instytucje wskazujące przedstawicieli do udział w pracach Komisji odpowiedniego poziomu kompetencji tych osób. Odstąpiono zatem od podejścia opartego na koniecznością udokumentowania kompetencji w przypadku członków Komisji. W zakresie wymogu posiadania Strona | 15 normą najwyższego prawa wspólnotowego, czyli art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej. Nie może też umknąć uwadze, że proponowany w art. 6 ust. 2 projektu ustawy o AI skład członków Komisji jest niezwykle dowolny albowiem w sytuacji, gdy projektodawca twierdzi, że członkowie Komisji wskazani w tym przepisie są przedstawicielami organów kluczowych dla osiągniecia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), to zasadnie można zapytać, skąd zatem w tym składzie przedstawiciel Rzecznika Praw Dziecka, przy jednoczesnym braku przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, Rzecznika Praw Obywatelskich, Rzecznika Praw Pacjenta, Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Patentowego RP, których rola w nadzorze nad rozwojem i działaniem systemów AI wydaje się być o wiele bardziej kluczowa niż rola Rzecznika Praw Dziecka. Mając z kolei na uwadze, że wolą prawodawcy unijnego „Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych.”(art. 70 ust. 3 Aktu o sztucznej inteligencji) zastanawiać musi dlaczego jedynie Przewodniczący Komisji oraz jego dwaj Zastępcy muszą wyróżniać się wiedzą oraz posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji, jak również doświadczeniem zawodowymi uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, posiadać co najmniej wyższe wykształcenie i tytuł zawodowy magistra, magistra inżyniera lub równorzędny, a także co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji (art. 16 ust. 2 pkt. 4, pkt. 3, pkt 5 projektu ustawy o AI, art. 16 ust. 2 pkt. 4, pkt. 3, pkt. 5 w zw. z art. 18 ust. 2 projektu ustawy o AI), tymczasem tego rodzaju wymogów nie postawiono pozostałym członkom Komisji. Brak postawienia tego rodzaju wymogów kompetencyjnych pozostałym członkom Komisji stanowi ewidentną obrazę regulacji art. 70 ust. 3 Aktu o sztucznej inteligencji w zw. z art. 288 zd. 2 i zd. 3 traktatu o funkcjonowaniu Unii Europejskiej). Dziwić także musi, że projektodawca w odniesieniu do pozostałych członków Komisji odstępuje od wymogu posiadania obywatelstwa polskiego, korzystanie z pełni praw publicznych, braku skazania prawomocnym wyrokiem za przestępstwo umyślne lub umyślne przestępstwa skarbowe, posiadania nieposzlakowanej opinii oraz dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 16 ust. 2 pkt. 1, pkt. 2, pkt. 6, pkt. 7 projektu ustawy o AI), co może doprowadzić do sytuacji, że w tak ważnej obywatelstwa polskiego należy wskazać, że w tym zakresie obowiązują przepisy dotyczące poszczególnych urzędów obsługujących wskazane w przepisie 6 ust. 2 podmioty. Dodatkowo w posiedzeniach Komisji, w razie potrzeby, mogą dodatkowo wziąć udział inne osoby, posiadające odpowiednie kompetencje, będące pracownikami tych instytucji. W kwestii nierównego traktowania kandydatów na Przewodniczącego oraz Zastępców Przewodniczącego w zakresie informacji dotyczących miejsca zamieszkania należy wyjaśnić, że różnica ta wynika z różnych trybów naboru. Dodatkowo należy wskazać, że przez miejsce zamieszkania rozumie się miejscowość. Celem przepisu art. 25 ust. 2 jest, aby do składu Strona | 16 strategicznie dla kraju dziedzinie w Komisji zasiądą przestępcy skazani prawomocnie za przestępstwa szpiegostwa, w tym szpiegostwa przemysłowego, sabotaż, próbę obalenia siłą władz naszego kraju, i co gorsza będą oni mogli będąc w większości w składzie Komisji przegłosować każdą decyzję (art. 7 ust. 2 projektu ustawy o AI). Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje zatem zastosowanie trybu i zasad powołania Zastępców Przewodniczącego Komisji także do powołania pozostałych siedmiu członków Komisji. Proponujemy zatem nadanie art. 6 ust. 2 projektu ustawy o AI nowego brzmienia „Do powołania siedmiu Członków Komisji znajduje zastosowanie regulacja art. 18 ustawy.”. Pojawia się także uzasadniona wątpliwość dotycząca nierównego traktowania Przewodniczącego Komisji oraz kandydatów na jego Zastępców. Mianowicie w razie powołania Przewodniczącego nigdzie nie jest publikowany jego adres zamieszkania, tymczasem w odniesieniu do kandydatów na Zastępcę Przewodniczącego, w ogłoszeniu o wyniku naboru podaje się adresy zamieszkania wyłonionych kandydatów na Zastępców Przewodniczącego (art. 18 ust. 13 pkt 3 in principio projektu ustawy o AI). Regulacja tego rodzaju jawi się o tyle niezrozumiałą w czasie szeroko zakrojonej polityki ochrony danych osobowych osób fizycznych. Proponujemy zatem nadanie nowego brzmienia art. 18 ust. 13 pkt. 3 projektu ustawy o AI „imiona, nazwiska wybranych kandydatów albo informację o niewyłonieniu kandydata”. W art. 12 ust. 3 pkt. 4 projektu ustawy o AI opuszczono literę „o” pomiędzy słowami „lub informację” i „jego unieważnieniu”, którą w tym miejscu rzeczonej regulacji należy wprowadzić. Projektodawcy należy zwrócić uwagę na oczywisty błąd prawny zawarty w art. 25 ust. 2 projektu ustawy o AI, albowiem do głosowania w konkretnej sprawie można stosować głosowanie zwykłą większością głosów rozumianą jako różnicę między glosami oddanymi za uchwałą i głosami oddanymi przeciwko uchwale pomijając głosy wstrzymujące się. Natomiast w przypadku wyborów przeprowadza się nie głosowanie, lecz wybory, a zatem nie głosuje się za kandydatem lub przeciwko kandydatowi, lecz jedynie oddaje się głosy za kandydatem (pytanie czy w trakcie choćby wyborów parlamentarnych głosując na jednego z kandydatów listy danej partii skreślamy wszystkich innych kandydatów tej partii oraz wszystkich kandydatów umieszczonych na innych listach wyborczych, - oczywiście że w taki sposób się nie głosuje). Rady weszły osoby, które uzyskają zwykłą większość głosów oddanych podczas głosowania w Komisji. W przypadku natomiast wygaśnięcia członkowska albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji, spośród pozostałych zgłoszonych kandydatów (art. 25 ust. 9). Celem przepisu art. 26 ust. 1 jest, aby Przewodniczący Rady i Zastępca Przewodniczącego Rady byli powoływani przez Komisję. Art. 26 ust. 4 nie wyłącza stosowania w zakresie zwolnienia z tajemnicy przepisów szczególnych w tym zakresie. W związku ze zmianą formy organizacji Biura art. 28 otrzymał nowe brzmienie, a wskazane Strona | 17 Przy dziesięcioosobowym składzie Komisji wybierającej członków Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, kandydat, który za wyborem uzyskał 2 głosy, jeden glos przeciw, a siedmiu członków Komisji wstrzymał się od głosu wejdzie do składu Rady, zaś kandydat, który uzyskał pięć głosów za wyborem przy pięciu glosach przeciwnych do Rady nie wejdzie, choć w normalnych wyborach by wszedł do składu Rady, skoro uzyskał o trzy głosy więcej za wyborem niż kandydat, który uzyskał za wyborem raptem dwa glosy. Co jeszcze dziwniejsze pierwotny skład członków Rady jest wybierany (art. 25 ust. 2 projektu ustawy o AI), natomiast w przypadku ustania przed upływem kadencji członkostwa w Radzie na wakujące miejsce Komisja nie dokonuje wyboru nowego członka, lecz nowego członka powołuje. Pytanie skąd się wzięło takie zróżnicowanie trybu włączenia danej osoby do składu Rady, czyli wybór przy ustalaniu pierwotnego składu Rady oraz powołanie w przypadku uzupełniania miejsca w Radzie do końca kadencji na wakujące miejsce. Celem zatem ujednolicenia proponowanych regulacji dotyczących trybu ustalania składu Rady, a także doprowadzenia proponowanych regulacji do zgodności z zasadami prawa proponujemy: a/ w art. 25 ust. 2 in fine projektu ustawy o AI skreślić treść w brzmieniu „zwykłą większością głosów”, b/ w art. 25 ust. 7 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. W regulacji art. 26 ust. 1 zd.1 in principio projektu ustawy o AI wątpliwości budzi przyjęcie trybu powołania przez Komisję Przewodniczącego Rady i jego Zastępca. Wydaje się, iż w rzeczywistości właściwym rozwiązaniem zgodnym z rzeczywistym stanem rzeczy byłoby wprowadzenie regulacji mocą, której Przewodniczący Rady i jego Zastępca są wybierani przez Komisję. Proponujemy zatem w art. 26 ust. 1 zd. 1 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. Regulacja art. 26 ust. 4 zd. 2 projektu ustawy o AI budzi o tyle wątpliwość, że sugeruje, iż Komisja w razie ziszczenia się przesłanek opisanych w tym przepisie zawsze będzie mogła zwolnić członka Komisji z zachowania tajemnicy, a przecież tak nie jest, gdyż w przypadku uzyskania dostępu[u do informacji niejawnych nie w każdym przypadku Komisja będzie uprawniona do zwolnienia z zachowania tajemnicy, gdyż odnośnie w tym zakresie uwagi stały się nieaktualne. Mając na uwadze przedmiot regulacji, jakim są systemy sztucznej inteligencji oraz dbając o sprawne przeprowadzenie kontroli i jak najmniejsze obciążenie przedsiębiorców zasadne jest pozostanie przy zasadzie prowadzenia czynności kontrolnych w sposób zdalny. Kontrole przedsiębiorców na bazie projektowanych przepisów będą prowadzone z poszanowaniem przepisów ustawy - Prawa przedsiębiorców. Wskazane obecnie w art. 30 ust. 3 pkt 1 oraz ust. 4 odesłania do przepisów ustawy - Prawo przedsiębiorców należy uznać za właściwe. Art. 46 ust. 1 (obecnie art. 38) został skorygowany. Art. 46 ust. 3 (obecnie art. 38 ust. 3) został skorygowany w zakresie Strona | 18 informacji niejawnych może okazać, że inny organ jest uprawniony do stosowania zwolnienia z zachowania tej tajemnicy niż Komisja. W tej zatem sytuacji reprezentowana przeze mnie Izba Gospodarcza proponuje na początku zdania 2 w art. 26 ust. 4 projektu ustawy o AI dodanie treści w brzmieniu „Z zastrzeżeniem regulacja szczególnych” pozostała część zdania 2 pozostawiając niezmienioną. Natomiast art. 28 projektu ustawy o AI budzi mnóstwo uzasadnionych wątpliwości podnoszonych już przez nas przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji. Art. 28 projektu ustawy o AI świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Pogląd ten znajduje pełne oparcie w regulacji art. 7 ust. 5 projektu ustawy o AI, wedle której Komisja wydaje decyzje i postanowienia w formie uchwał. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 k.p.a. w zw. z art. 104 § 1 k.p.a. w zw. z art. 104 § 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 § 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją (art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postępowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 28 ust. 1 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym uwzględnienia podpisu osobistego. Art. 47 ust. 2 pkt 1 i 2 (obecnie art. 38 ust. 2 pkt 1 i 2) został skorygowany w sposób wskazany w uwadze. Art. 52 ust. 3 został wykreślony. Art. 57 (obecnie art. 49) w zakresie ust. 5 ma na celu zapewnienie możliwości Komisji przedstawienia sądowi istotnego dla sprawy poglądu w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W szczególności w sprawach w sprawach sądowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji. Nie wydaje się jednak zasadne wyłącznie takiej możliwości również w sprawach, w których takie decyzje czy postanowienia Komisji byłyby przedmiotem Strona | 19 przypadku państwowego, obsługującego organ administracji publicznej (art. 28 ust. 2 projektu ustawy o AI). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji (art. 28 ust. 5 pkt. 1 projektu ustawy o AI), które z racji zapewniania obsługi Komisji (art. 28 ust. 1 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 pkt. 1 projektu ustawy o AI), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem (art. 28 ust. 5 pkt. 2 projektu ustawy o AI). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. z art. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał cywilnoprawne i administracyjne kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) i kierujący pracą Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego postępowania przed sądem, jeżeli przemawia za tym interes publiczny. Jednak tego typu sytuacje powinny mieć raczej charakter wyjątkowy. Ocena tego stanowiska w zakresie wiarygodności i przydatności dla sprawy będzie dokonywana przez SOKIK. Uwagi w zakresie korekt redakcyjnych zostały uwzględnione. Art. 103 (obecnie art. 91). Mając na uwadze przepisy rozporządzenia 2024 /1689 oraz cel jaki przyświeca nakładaniu administracyjny kar pieniężnych a także możliwość zawarcia układu w sprawie nadzwyczajnego złagodzenia sankcji zastosowanie wyłączenia przepisów k.p.a nie stanowi regulacji nadmiarowych i szkodliwych dla przedsiębiorców. Art. 479 88h § 2 k.p.c. został skorygowany zgodnie z treścią uwagi. Strona | 20 Komisji (art. 28 ust. 1projektu ustawy o AI) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż „autor” projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacji w stosunkach cywilnoprawnych osób prawnych przez ich organy, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety „autorowi” projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej (art. 5 ust. 1 projektu ustawy o AI) za błędne uznać należy przyznanie ministrowi właściwemu do spraw informatyzacji będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 28 ust. 1 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 28 ust.2 projektu ustawy o AI). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny jest minister właściwy do spraw informatyzacji (art. 17 pkt. 3 k.p.a. w zw. z art. 18 pkt. 1 k.p.a.) i to nad Komisją, Do projektu ustawy załączono nową wersję uzasadnienia. Do projektu ustawy załączono nową wersję OSR. W nowej wersji projektu ustawy uwzględniono uwagi w zakresie błędów wskazanych w uwagach. Jednocześnie należy zauważyć, że projekt pod względem redakcyjnym i legislacyjnym będzie jeszcze dopracowywany na etapie komisji prawniczej. Strona | 21 a nie jak błędnie przyjęto w art. 28 ust. 4 projektu ustawy o AI, nad Biurem Komisji, minister właściwy do spraw informatyzacji winien pełnić nadzór. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę, usuwając tym samym wiele nieprawidłowości, należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego, poprawnego brzmienia art. 28 projektu ustawy o AI: „1. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje minister właściwy do spraw informatyzacji. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6.Komisja posiada prawo używania pieczęci z godłem państwowym.”. W art. 37 ust. 4 in principio projektu ustawy o AI należy usunąć zbędnie użyte w pierwszym wersie powtórne sformułowanie „do spraw” przed słowem „określi”, a za słowem „informatyzacji”. Generalnie projektodawca w art. 38 ust. 3 in principio projektu ustawy o AI popełnia zasadniczy błąd przyjmując założenie, że przepisy ustawy o AI mogą wprowadzać odmienne regulacje dotyczące kontroli przedsiębiorcy niż przewidziane w rozdziale 5 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn. Dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców. Projektodawca bowiem pominął regulację art. 45 ust. 1 prawa przedsiębiorców, wedle której „Kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w niniejszej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej.”, natomiast jedynie w kwestiach nie objętych regulacją rozdziału 5 prawa przedsiębiorców dopuszczalne jest wprowadzenie regulacji Strona | 22 poświęconych kontroli przedsiębiorcy w przepisach szczególnych (art. 45 ust. 2 prawa przedsiębiorców). Odnośnie zatem kontroli przedsiębiorcy mocą regulacji art. 45 ust. 1 w zw. z art. 45 ust. 2 prawa przedsiębiorców wyłączone zostało stosowanie zasady lex specialis derogat legi generali. W przypadku zatem przeprowadzania kontroli przedsiębiorcy projektodawca może wprowadzać w projekcie ustawy o AI tylko takie regulacje, które nie zostały objęte zapisami rozdziału 5 prawa przedsiębiorców, natomiast odmienności dotyczące zasad i trybu kontroli przedsiębiorcy mogą wynikać jedynie z ratyfikowanych umów międzynarodowych, które obowiązują bezpośrednio w naszym kraju przed przepisami prawa krajowego (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 91 ust. 1 w zw. z art. 91 ust. 2 Konstytucji RP) albo z bezpośrednio stosowanych przepisów prawa Unii Europejskiej, czyli w omawianym przypadku z przepisów Aktu o sztucznej inteligencji będącego rozporządzeniem (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej w zw. z art. 91 ust. 3 Konstytucji RP). Ani w uzasadnieniu projektu ustawy o AI, ani też w OSR do projektu ustawy o AI nie wskazano na obowiązywanie ratyfikowanej umowy międzynarodowej lub bezpośrednio obowiązującego w naszym kraju przepisu prawa Unii Europejskiej, które by przewidywały odmienne zasady i tryb przeprowadzania kontroli przedsiębiorcy od uregulowanych w rozdziale 5 prawa przedsiębiorców, a to z tego powodu, iż takowych przepisów po prostu brak. Stosownych regulacji nie zawiera także Akt o sztucznej inteligencji, celem, którego wdrożenia opracowano przecież projekt ustawy o AI. W świetle regulacja art. 45 ust. 1 prawa przedsiębiorców nieuprawnione jest ani dopuszczenie możliwości wprowadzenia odmiennych zasad i trybu przeprowadzania kontroli przedsiębiorcy w ustawie o AI (art. 38 ust. 3 pkt. 1 projektu ustawy o AI), ani też chociażby wyłączenie stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców (art. 38 ust. 4 projektu ustawy o AI). Niedopuszczalność zatem wyłączenia w art. 38 ust. 4 projektu ustawy o AI stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców dopuszczające przeprowadzenie kontroli zdalnej lub niektórych czynności kontrolnych zdalnie jedynie za zgodą przedsiębiorcy jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej, skutkuje niedopuszczalnością wprowadzenia regulacji art. 39 ust. 3 projektu ustawy o AI, wedle której w przypadku kontroli przedsiębiorcy zasadniczym trybem kontroli lub poszczególnych czynności kontrolnych byłoby ich wykonywanie zdalnie oraz regulacji art. 39 ust. 4 projektu ustawy o AI, która jedynie jako wyjątek dopuszcza Strona | 23 przeprowadzenie kontroli lub czynności kontrolnych wobec przedsiębiorcy w sposób inny niż zdalny. Niedopuszczalne zatem w drodze projektu ustawy o AI było wprowadzenie jako zasady kontroli przedsiębiorcy lub czynności kontrolnych wobec przedsiębiorcy realizowanych w sposób zdalny, zaś jedynie jako wyjątek dopuszczenie odstępstwa od tej reguły. Należy wskazać, że już przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji na niedopuszczalność tego typu regulacji wskazał Państwu Rzecznik Małych i Średnich Przedsiębiorców w piśmie z dnia 12.11.2024 r. znak WPL.277.2024.GG, jak widać jednak Minister Cyfryzacji za nic miał uwagi Rzecznika Małych i Średnich Przedsiębiorców, które to uwagi znajdowały pełne oparcie w przepisach prawa, odmiennie niż projekt ustawy o AI w tym zakresie. Oczywiście regulacja przewidująca jako zasadę kontrolę lub czynności kontrolne realizowane zdalnie (art. 39 ust. 3 projektu ustawy o AI) oraz odstępstwo od tej zasady (art. 38 ust. 4 projektu ustawy o AI) będą zgodne z prawem pod warunkiem, jednakże wykonywania tej kontroli lub czynności kontrolnych wobec podmiotów nie będących przedsiębiorcami. W zaistniałej sytuacji Związek Telewizji kablowych w Polsce Izba Gospodarcza proponuje: w art. 38 projektu ustawy o AI skreślenie pkt. 1 w ust. 3 oraz skreślenie ust. 4. Przy tego rodzaju poprawieniu regulacji art. 38 projektu ustawy o AI w świetle regulacji art. 45 ust. 1 prawa przedsiębiorców w przypadku kontroli i czynności kontrolnych przeprowadzanych wobec osób nie będących przedsiębiorcami zasadą będzie wykonywanie kontroli lub czynności kontrolnych zdalnie (art. 39 ust. 3 projektu ustawy o AI) przy możliwym odstępstwie od tej zasady wyrażonym w art. 39 ust. 4 projektu ustawy o AI, natomiast przy wykonywaniu kontroli lub czynności kontrolnych przedsiębiorcy zastosowanie znajdzie norma art. 51 ust. 3 a prawa przedsiębiorców, a zatem zdalne wykonywanie kontroli lub czynności kontrolnych będzie uzależnione od zgody przedsiębiorcy i w tym przypadku normy art. 39 ust. 3 i ust. 4 projektu ustawy o AI zastosowania nie będą znajdowały. Absurdalną regulację odnajdujemy w art. 46 ust. 1 projektu ustawy o AI, wedle której projekt protokołu z kontroli sporządza kontrolowany. Regulacja ta jest trudna do wytłumaczenia, albowiem już w ust. 3 art. 46 projektu ustawy o AI przewidziano, że projekt protokołu opatruje podpisem kontrolujący i doręcza go kontrolowanemu. Jeśli tak to by znaczyło, że wolą projektodawcy projekt protokołu sporządza kontrolowany, następnie przekazuje go kontrolującemu, który projekt ten, bez Strona | 24 możliwości wprowadzenia zmian lub poprawek, opatruje podpisem, a następnie ponownie przekazuje go kontrolowanemu. W tej sytuacji zupełnie zbędne stałyby się regulacje art. 46 ust. 4- 7 projektu ustawy o AI dotyczące składania zastrzeżeń do projektu protokołu przez kontrolowanego, bo trudno przypuszczać, by kontrolujący sam sporządzając projekt protokołu i będąc osobą przy zdrowych zmysłach zawarł w nim jakieś ustalenia dla niego niekorzystne, odnośnie których następnie miałby zgłaszać zastrzeżenia. Procedura doprawdy absurdalna. Proponujemy zatem aby wyeliminować tę absurdalną regulację i z tego powodu w art. 46 ust. 1 projektu ustawy o AI słowo „kontrolowany” zastąpić słowem „kontrolujący”. Zdziwienie także musi budzić rozwiązanie wedle którego projekt protokołu kontrolujący może opatrzyć jedynie kwalifikowanym podpisem elektronicznym lub podpisem zaufanym (art. 46 ust. 3 projektu ustawy o AI), gdy tymczasem już sam protokół z kontroli kontrolujący może opatrzyć kwalifikowanym podpisem elektronicznym, podpisem zaufanym lub podpisem osobistym (art. 46 ust. 9 projektu ustawy o AI). Pojawia się zatem uzasadnione pytanie dlaczegóż to kontrolujący projektu protokołu kontroli nie może podpisać podpisem osobistym, gdy tymczasem sam protokół z kontroli może podpisać także tym podpisem. Racjonalności i logiki w tej regulacji dopatrzeć się nie sposób. Aby zaradzić tej niekonsekwencji projektu ustawy o AI proponujemy albo w art. 46 ust. 3 projektu ustawy o AI po słowach „kwalifikowanym podpisem elektronicznym”, a przed słowem „lub” dodać przecinek, a po nim treść „podpisem osobistym” lub też w art. 46 ust. 9 projektu ustawy o AI skreślić przecinek i następującą po nim treść „podpisem osobistym”. Raptem jeden artykuł dalej odnajdujemy kolejny „klejnocik koronny”, a mianowicie projektodawca nie wiadomo w jakim celu w art. 47 ust. 2 projektu ustawy o AI pomiędzy punktem 1 i punktem 2 wprowadza do niczego nie pasujący zwrot „nie i”, zaś w pkt. 2 tegoż przepisu zamiast pojęcia „usunięcia” mówi o „usunięciu”. Oczywistym wręcz jest, że w art. 47 ust. 2 projektu ustawy o AI należy zbędną treść” nie i” zastąpić średnikiem pomiędzy punktem 1 i punktem 2 tegoż przepisu, zaś w pkt. 2 niewłaściwe słowo „usuniecie” zastąpić jedynym właściwym w tym przypadku słowem „usunięcie”. Za sprzeczne z konstytucyjną zasadą sprawiedliwości społecznej (art. 2 w zw. z art. 8 Konstytucji RP) uznać należy obciążenie strony postepowania kosztami tłumaczenia dokumentacji sporządzonej w języku obcym, a przedłożonej przez stronę (art. 52 ust. 3 Strona | 25 zd. 2 projektu ustawy o AI), w sytuacji, gdy to organ prowadzący postępowanie potrzebuje przedmiotowych dokumentów, a nie sama strona postepowania. Proponujemy zatem w art. 52 ust. 3 zdanie 2 in fine projektu u stawy o AI słowa „na własny koszt” zastąpić słowami „na koszt organu prowadzącego postępowanie”. Analizując pełną treść art. 57 projektu ustawy o AI można dojść do przekonania, że całość tego przepisu dotyczy zaskarżania postanowień i decyzji wydanych przez Komisję do Sądu Okręgowego w Warszawie- Sąd Ochrony Konkurencji i Konsumentów. Skoro tak to za niedopuszczalną uznać by należało regulację art. 57 ust. 5 projektu ustawy o AI, z której wynika, że w sprawie, w której zaskarżono do Sądu Ochrony Konkurencji i Konsumentów decyzję lub postanowienie wydane przecież przez Komisję, Komisja poza wniesieniem odpowiedzi na pozew, odpowiedzi na apelację lub odpowiedzi na zażalenie, dodatkowo mogłaby przedstawić sądowi istotny dla sprawy pogląd dotyczący sztucznej inteligencji. Taki zapis prowadziłby do naruszenia zasady równowagi stron w cywilnym postepowaniu sądowym, albowiem Komisja niejako stawałyby się „sędzią” we własnej sprawie wyrażając istotny dla sprawy pogląd dotyczący sztucznej inteligencji w sprawie, w której zaskarżono wydaną przez Komisję decyzję lub postanowienie. W takiej sytuacji sąd sprawę rozpoznający musiałby traktować taki pogląd Komisji jako stanowisko „eksperta” z zakresu spraw sztucznej inteligencji, które to stanowisko raczej byłoby pozbawione obiektywizmu w sprawie, w której zaskarżono postanowienie lub decyzję wydaną przez Komisję będącą także podmiotem wyrażającym istotny pogląd w sprawie. Nie budzi natomiast wątpliwości, że w sprawach sadowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji regulacja ust. 5 posiada rację bytu i w tych sprawach niewątpliwie Komisja mogłaby wyrażać istotny dla sprawy pogląd. Aby zatem usunąć tę błędną regulację należałoby dodać w art. 57 projektu ustawy o AI ust. 6 w brzmieniu „Przepis ust. 5 nie znajduje zastosowania w sprawach, o których mowa w ust. 1-3.”. Kolejny „kwiatuszek” językowy odnajdujemy w art. 61 ust. 2 in principio projektu ustawy o AI, w której to regulacji projektodawca raczył pomylić przypadek, w których użyto rzeczownika „strona”. W regulacji tej winien znaleźć się rzeczownik „strona” użyty we właściwym przypadku, a zatem winien być użyty rzeczownik „Strona”, nie zaś, jak to błędnie uczyniono „Stroną”. Strona | 26 I kolejny błąd językowy pojawia się w art. 61 ust. 8 pkt. 1 projektu ustawy o AI, gdzie projektodawca wyszedł z założenia, że „strona postepowania zaprzestał”, a nie „zaprzestała” naruszania prawa, a póki co strona to rodzaj żeński, więc w czasie przeszłym formą właściwą od „zaprzestać” będzie „zaprzestała”, a nie „zaprzestał”. Zgodnie ze wskazanymi powyżej regułami językowymi należy dokonać poprawki regulacji art. 61 ust. 8 pkt. 1 projektu ustawy o AI. No i nastał czas na mój ulubiony przykład zawarty w art. 63 ust. 1 projektu ustawy o AI, wedle którego „strona postepowania przedstawia Komisji wszystkie znane mu okoliczności”. Strona postepowania jest rodzaju żeńskiego więc znane stronie okoliczności to okoliczności znane „jej” a nie „jemu”, czy jak oryginalnie pisze projektodawca „mu”. Nie budzi zatem wątpliwości co i jak winien poprawić projektodawca w art. 63 ust. 1 projektu ustawy o AI, by zapis ustawowy uczynić zgodnym z zasadami języka ojczystego. Niewiele dalej, bo raptem w ust. 3 zd. 2 tegoż samego art. 63 projektu ustawy o AI projektodawca ponownie myli rodzaj czasownika pochodzącego od rzeczownika rodzaju żeńskiego przyjmując, że „strona postępowania ...przedstawił Komisji”. Oczywistym wręcz jest, że w art. 63 ust. 3 projektu ustawy o AI wskazując na przedstawienie czegoś Komisji przez stronę postepowania, która jest przecież rodzaju żeńskiego winno być sformułowanie, że „strona postępowania... przedstawiła Komisji”, nie zaś, że „strona postępowania... przedstawił Komisji”. W art. 92 ust. 3 projektu ustawy o AI pomiędzy słowem „decyzję”, a słowem „wyłączeniu” opuszczono literę „o”, którą należy dopisać. „Perełkę w koronie” błędów tegoż projektu może stanowić regulacja art. 93 ust. 2, wedle której „Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o:”. Po pierwsze nie wiadomo w ogóle co miałby otrzymać Przewodniczący Komisji, aby mógł podjąć jedną z dwóch decyzji wskazanych w art. 93 ust. 2 projektu ustawy o AI. Po drugie natomiast nie wiadomo o jakim otrzymaniu przez Przewodniczącego, o którym mowa w ust. 2 mówi niniejsza regulacja, która przecież sama jest zawarta w ust. 2, który milczy na temat otrzymania czegokolwiek przez Przewodniczącego przed wydaniem jednego z dwóch rodzajów decyzji. Strona | 27 Wydaje się właściwe nadanie nowego brzmienia art. 93 ust. 2 in principio projektu ustawy o AI „Przewodniczący Komisji po otrzymaniu powiadomienia, o którym mowa w ust. 1, może podjąć decyzję o:”. Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów Aktu o sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 103 projektu ustawy o AI). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów Aktu o sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k § 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k § 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k § 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k § 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 100 ust. 2-9 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII Aktu o sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów Aktu o sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji, gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla Strona | 28 podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom Aktu o sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam, gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne, wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 103 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 103 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k § 1 pkt. 1 ustawy z dnia 14.06.1960 r.- Kodeks postępowania administracyjnego”. W art. 479 88h § 2 k.p.c. wprowadzanym art. 107 projektu ustawy o AI projektodawca wykazuje się olbrzymim wręcz niechlujstwem wskazując na stosowanie odpowiednie wskazanych w tym przepisie przepisów k.p.c. do zażaleń na postanowienia Prezesa Urzędu. Można zasadnie zapytać o postanowienia jakiegoż to Prezesa jakiego Urzędu chodzi w omawianym przypadku. Zażalenia bowiem można wnosić zgodnie z regulacją art. 479 88h § 1 k.p.c. na postanowienia Komisji, wobec czego odpowiednie stosowanie niektórych przepisów k.p.c. wskazanych w art. 479 88h § 2 k.p.c. może odnosić się do zażaleń na postanowienia Komisji, a nie na postanowienia Prezesa bliżej nieokreślonego Urzędu. W omawianym przypadku nie może też być mowy o zażaleniach na postanowienia Przewodniczącego Komisji błędnie nazwanego Prezesem Urzędu, gdyż w projekcie ustawy o AI nie przewidziano dla Przewodniczącego Komisji uprawnienia do wydawania postanowień, a zatem nie mogłyby być przedmiotem zażalenia nieistniejące postanowienia Przewodniczącego Komisji. W art. 479 88h § 2 in fine k.p.c. dodawanym art. 107 projektu ustawy o AI „postanowienia Prezesa Urzędu” należy zastąpić słowami „postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji”. Na stronie 6 uzasadnienia projektu w 17 wersie od góry pomiędzy wyrazem „niekorzystne”, a wyrazami „punktu widzenia” opuszczono literę „z”. Na stronie 14 uzasadnienia projektu przewidziano możliwość skorzystania z pomocy funkcjonariuszy innych organów kontroli państwowej i ochrony prawa, problem w tym, że w projekcie ustawy o AI próżno szukać zapisu przewidującego możliwość udzielenia Strona | 29 kontrolującemu pomocy przy przeprowadzaniu kontroli przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa. W art. 45 projektu ustawy o AI projektodawca przewiduje możliwość udzielenia pomocy kontrolującemu jedynie przez Policję lub jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, natomiast udzielenia pomocy przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa nie przewidziano, stąd w tym zakresie uzasadnienie projektu odsyła do nieistniejącej regulacji prawnej projektu ustawy o AI. To kolejny przykład grubego niedbalstwa projektodawcy. Na stronie 16 uzasadnienia projektu w 4 wersie od dołu dwukrotnie powtórzono słowa „w tym”. Na stronie 17 uzasadnienia projektu w wersie 11 od dołu winno być sformułowanie „największą gwarancję”, a nie „największą gwarancją”. Na stronie 5 OSR w 14 wersie od dołu dwukrotnie powtórzono słowa „do spraw”. Na stronie 18 OSR w wersie 19 od dołu winno być użyte słowo „Warszawie” zamiast słowa „Warzawie”. Przedmiotowemu projektowi zarzucić należy olbrzymie wręcz niechlujstwo projektodawcy przy jego opracowywaniu wyrażające się w niesprawdzaniu zapisanych treści projektu oraz jego uzasadnienia i OSR- u, a także występowanie żenujących wręcz, w dodatku bardzo licznych, błędów natury prawnej oraz językowej. Niestety tak poprzedni, jak i obecny projekt ustawy o AI skłania nas do takiej konkluzji, albowiem w obu projektach ustawy o AI resort cyfryzacji wykazał się identyczną niemalże, katastrofalnie niską umiejętnością władania w piśmie językiem ojczystym. Czyżby rzeczywistym „autorem” przedmiotowego projektu była źle zaprogramowana przez resort cyfryzacji sztuczna inteligencja? 14. Związek Miast Polskich Uwagi ogólne Definicje i zakres: Projekt precyzuje definicje prawne związane z SI, co jest istotne dla jednoznaczności przepisów. Ważne jest jednak, aby definicje: były elastyczne, by uwzględniały przyszłe innowacje technologiczne oraz wyjaśniały wprowadzone terminy. Przykładowo, projekt ustawy o SSI posługuje się terminami „dostawca” (art. 3 pkt 3), czy „użytkownik końcowy” (art. 53 ust.4 pkt 2). W słowniku pojęć zdefiniowano termin dostawcy, nie zdefiniowano natomiast terminu „użytkownika końcowego”. Propozycja definicji „użytkownika końcowego” – osoba, która korzysta z systemu i usługi, mając Uwaga wyjaśniona Przedstawione postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. Jednocześnie należy wyjaśnić, że projekt Strona | 30 na celu spełnienie określonych potrzeb – zarówno w kontekście zawodowym, jak i prywatnym. Zasady etyczne: Ustawa kładzie nacisk na bezpieczne, godne zaufania i etyczne wykorzystanie SI, w tym poszanowanie praw człowieka i niedyskryminację. Proponuje się doprecyzowanie mechanizmów monitorowania i egzekwowania tych zasad, aby zapewnić ich skuteczność. Odpowiedzialność prawna: Projekt porusza kwestię odpowiedzialności za działania systemów SI. Warto rozważyć wprowadzenie szczegółowych regulacji dotyczących odpowiedzialności (w tym obowiązków) producentów, dostawców systemów sztucznej inteligencji i użytkowników. Bezpieczeństwo i prywatność: Ustawa zawiera przepisy dotyczące ochrony danych i prywatności użytkowników systemów SI. Istotne jest zapewnienie, przepisów zgodnych z istniejącymi regulacjami krajowymi i unijnymi, takimi jak RODO oraz że przewidują skuteczne środki ochrony przed potencjalnymi naruszeniami. Nadzór i egzekwowanie: Projekt przewiduje utworzenie organu nadzorczego ds. SI – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Za kluczowe uważamy precyzyjne określenie kompetencji tego organu, jego zasobów oraz procedur działania, tak aby mógł efektywnie monitorować przestrzeganie ustawy i reagować na naruszenia, oraz umożliwić skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Edukacja i świadomość społeczna: Ustawa podkreśla znaczenie edukacji w zakresie SI (art. 9 pkt 8). Warto rozważyć wprowadzenie programów edukacyjnych dla różnych grup społecznych (grup osób szczególnie narażonych na ryzyka związane ze stosowaniem systemów sztucznej inteligencji), aby zwiększyć świadomość na temat korzyści i zagrożeń związanych ze SI oraz promować odpowiedzialne jej wykorzystanie. ustawy ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689 w zakresie w jakim przepisy tego aktu zaczną obowiązywać od 2 sierpnia 2025 r., stąd też nie wszystkie postulaty mogły zostać uwzględnione. Należy również podkreślić, że według projektodawcy konieczne jest utrzymanie terminologii określonej w rozporządzeniu 2024/1689. Zadania i kompetencje Komisji zostały określone w projekcie ustawy. Strona | 31 Współpraca międzynarodowa: Projekt uwzględnia potrzebę współpracy z innymi krajami w zakresie regulacji SI. Za ważne uznajemy, aby przepisy krajowe były spójne z międzynarodowymi standardami i umożliwiały wymianę doświadczeń oraz harmonizację regulacji. Podsumowując - projekt ustawy o systemach sztucznej inteligencji stanowi solidną podstawę do regulacji tej technologii w Polsce. Oceniamy, iż uwzględnienie powyższych propozycji przyczynić się może do stworzenia ram prawnych sprzyjających innowacjom, jednocześnie chroniąc prawa obywateli i zapewniając bezpieczeństwo. 15. Związek Polskich Autorów i Kompozytoró w ZAKR Uwaga ogólna Nasze środowisko z nadzieją czekało na ustawę, która zabezpieczy i ochroni prawa twórców własności intelektualnej okradanych przez program AI, który bez pozwolenia właścicieli praw do utworów od lat magazynuje pracę twórców z całego świata i w pasożytniczym trybie wykorzystuje ją do produkcji różnego rodzaju wytworów naśladujących rezultaty pracy twórczej człowieka, którego wcześniej okradł. Program AI nie jest inteligencją, lecz narzędziem, którego algorytm pomimo wielu niewątpliwych walorów umożliwia gigantom technologicznym czerpanie zysków z powyższego procederu. Związek Polskich Autorów i Kompozytorów ZAKR uważa, że w dzisiejszych realiach za późno jest na stworzenie twórcom możliwości podjęcia decyzji o odmowie wykorzystywania ich twórczości przez AI, ponieważ ta twórczość najczęściej została już przez program ukradziona. Nie istnieją także wiarygodne narzędzia monitorujące wykorzystywanie poszczególnych dzieł przez firmy zajmujące się AI. Jest szereg innych możliwości, które mogą zatrzymać powszechną grabież naszej pracy. Niestety - zamiast propozycji stworzenia stosownych barier i regulacji powyższych kwestii, proponują Państwo rozmycie problemu przez stworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z której składu usunęliście właśnie Rzecznika Praw Obywatelskich, pozbyliście się głosu doradczego z MKiDN, a ze Społecznej Rady do Spraw Sztucznej Inteligencji usunęliście przedstawicieli środowisk twórczych, chociaż to właśnie na sektory kreatywne i na naszą twórczość najbardziej wpływa generatywna AI. Mamy nadzieję, że te nieprzemyślane zmiany nastąpiły przypadkowo i powyższe błędy zostaną w projekcie ustawy naprawione! Związek Polskich Autorów i Kompozytorów ZAKR stwierdza, że bez pracy twórców własności intelektualnej program AI nie byłby tak atrakcyjny. Natomiast brak ochrony pracy twórców i w konsekwencji jej zawłaszczenie przez AI już powoduje upadek polskiej i światowej kultury. Należy mieć świadomość, że twórcy własności intelektualnej też płacą rachunki, więc nie będą upubliczniać swoich dzieł tylko po to, by zostać okradzionymi przez AI. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Strona | 32 16. ZCP Uwagi ogólne Zgodność projektu z regulacjami unijnymi. Aby zapewnić zgodność projektu z regulacjami unijnymi, konieczna jest szczególnie rewizja Artykułu 42 projektu dot. dostępu do treści klientów przechowywanych w chmurze. len potencjalnie może naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Również zapisy projektu ustawy dotyczące środków egzekwowania, szczególnie w Artykule 53, wykazują potencjalną niespójność z intencjami unijnego Aktu w sprawie Al. 2. Sankcje karne i ich wpływ na innowacje. Jesteśmy na stanowisku, że proponowane sankcje karne w Rozdziale 9 wymagają ponownej oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Należy w naszej opinii w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Te miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. 3. Ryzyko fragmentacji prawa UE. Proponowane przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji unijnej ustawy o sztucznej inteligencji, co może rodzić ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji unijnej ustawy o sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie sztucznej inteligencji w całej UE. Niewystarczające zabezpieczenia informacji chronionych. Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych, bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. I brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Potencjalnie zbyt krótkie terminy ustosunkowania się do zastrzeżeń organów regulacyjnych, nieadekwatne do realiów rynkowych. Część projektowanych przepisów nie zapewnia obecnie przedsiębiorstwom wystarczającego czasu na ustosunkowanie się do zastrzeżeń organów regulacyjnych. Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie (dotyczy to m.in. Art. 53 ust. 3; Artykuł 54 ust. 2; Art. 98 ust. 1). Uwaga wyjaśniona Uwagi dot. zbyt szerokiego zakresu opinii indywidualnych Komisji uznać należy za bezzasadne ze względu na doprecyzowanie przepisów określających zakres przedmiotowy tychże opinii (ograniczonych do interpretacji przepisów ustawy). Przepisy dotyczące terminów przygotowane zostały w celu pogodzenia praw i interesów przedsiębiorców (domyślna forma zdalna, krótki czas kontroli) z potrzebami sprawnego nadzoru i umożliwienia sprawnej reakcji w przypadku ryzyka związanego z niebezpiecznym lub wadliwym systemem sztucznej inteligencji. Przepisy projektu ustawy zostały przygotowane z poszanowaniem przepisów dotyczących zabezpieczania tajemnic Strona | 33 prawnie chronionych jednocześnie zapewniając możliwość pozyskiwania i wymiany informacji na potrzeby realizowanych zadań organów. 17. . SAWP Uwagi ogólne Prawo autorskie Reprezentowane przez nas środowisko artystów wykonawców z uwagą i niepokojem śledzi implementację unijnych regulacji problematyki AI do obowiązującego w Polsce prawa. Możliwości jakie stwarza AI są niezwykle istotne dla polskiej kultury i życia społecznego, w tym dla praw do artystycznych wykonań. Z jednej strony stwarzają ogromne możliwości w zakresie dostępu do dóbr kultury i ich wykorzystania. Z drugiej strony natomiast jest dla nas ważne jest ich precyzyjne wpisanie w obowiązujący system prawny w Polsce, w sposób nienaruszający jego zasad, czytelny i zapewniający zrównoważoną ochronę zarówno w dostępie do twórczości, jak i poszanowania praw do autorów i artystów wykonawców, których twórczy dorobek jest przedmiotem eksploatacji na potrzeby Al. Uzasadnia to przedstawienie naszych krytycznych uwag do obecnego projektu. Obecny projekt stanowi propozycję przepisów implementujące, obowiązujące Polskę jako członka UE, rozporządzenie Parlamentu Europejskiego i Rady Unii Europejskiej2024/1689, z dnia 13 czerwca 2024 roku w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji z uwzględnieniem jego kolejnych zmian, oraz wynikających wydanych dyrektyw UE dotyczących sztucznej inteligencji. Projekt powinien być zsynchronizowany z ostatnią nowelizacji, obejmującą dodanie do ustawy o prawie autorskim i prawach pokrewnych (dalej: PrAut, Dz. U. 1924 rok, poz.1254), art. 26*. Obecny projekt nie spełnia tego oczekiwania. Nie wypełnia w szczególności luk w dotychczas obowiązującej regulacji Al zawartej w PrAut. Ich istnienie prowadzi do niejasności, które stanowią zagrożenie prawidłowego funkcjonowania systemu AI, którego dotyczy również obecny projekt. Mają one duże znaczenie społecznogospodarcze. Są, w konsekwencji, źródłem narastającego niepokoju autorów i artystów wykonawców. Przejawem tego niepokoju jest przede wszystkim często pojawiające się, także w wypowiedziach także eminentnych reprezentantów środowisk twórczych, błędne i wynikające z istniejącego stanu dezorientacji, obawy co do sytuacji twórców, ze względu na coraz większy udział Al w naszym życiu społecznym. Przykładem oczywistych błędów jest traktowanie AI jako zagrożenie dla twórców oraz debaty na temat ochrony autorskiej produktów AI lub udziału AI w procesie tworzenia utworów lub artystycznych wykonań. Należy zatem przypomnieć, że korzystanie przez autora lub artystę wykonawcę ze sztucznej inteligencji jest dobrym prawem każdego twórcy. Utwór lub artystyczne wykonanie powstaje zawsze jako Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W projekcie zawarto jedynie przepisy wymagające regulacji ustawowej we wskazanym powyżej zakresie. Przedmiotowe uwagi w dużej części dotyczą natomiast kwestii praw autorskich, które Strona | 34 projekcja wyobraźni twórcy, jako rezultat jego wrażliwości i zdolności do ujęcia przedmiotu swojej wyobraźni wsposób umożliwiający zapoznanie się z nim przez osoby trzecie i w konsekwencji wykorzystywanie utworu lub artystycznego wykonania w obrocie kulturalnym, gospodarczym, naukowym lub technicznym. Utwór lub artystyczne wykonanie, powinno być zawsze traktowane jako intelektualna całość, ze względu na jej oryginalność i indywidualność, czyli jako przedstawiająca określone walory poznawcze, artystyczne lub naukowe w sposób twórczy, tzn. jako przejaw osobistej wyobraźni i sprawności w danej dziedzinie w jej komunikowaniu. Bez znaczenia jest wykorzystanie w jej treści elementów dotychczasowego dorobku intelektualnego, dostępnych informacji lub określonych narzędzi, do których należy wykorzystanie AI. Wystarczy tu przypomnienie brzmienia art. 1 ust. 1, w odniesieniu do utworów lub art, 85 ust. 1 PrAut, w odniesieniu do artystycznych wykonań. Istotnym elementem wyznaczających ich treść jest uniezależnienie od wartości pod jakim bądź względem, w tym rozmiaru wkładu twórczego, przeznaczenia i sposobu wyrażenia. Fakt, że autor lub artysta wykonawca w procesie tworzenia korzystał z AI, w płaszczyźnie PrAut nie ma żadnego znaczenia. Jeżeli powstały rezultat pochodzi od twórcy w tym choćby znaczeniu, że wykorzystał rezultat „zadany do wykonania przez AI”, bez względu na zakres i znaczenie dla powstałej ostatecznie całości, poddając go weryfikacji, jako odpowiadającej jego widzeniu w danym zakresie, ma miejsce stworzenie dobra mającego cechy utworu lub odpowiednio artystycznego wykonania. W konsekwencji próby ocen w jakim stopniu wykorzystanie AI wpłynęło na powstanie takiego utworu lub artystycznego wykonania, dotknięte jest fundamentalnym błędem, polegającym na zrównywaniu wykorzystania AI (jej produktu) z wkładem twórczym, który pochodzić może jedynie od człowieka ze względu na jego psychofizyczną, duchową, zdolność i wyobraźnię. W odróżnieniu od tego produkt wykorzystania AI bez poddania go ludzkiej weryfikacji nie stanowi dobra oprawnego korzystającego z ochrony. Ochroną objęte jest natomiast korzystanie z AI jako produktu niematerialnego na zasadach ogólnych obowiązującego prawa. Przekracza ramy niniejszych uwag fundamentalna kwestia społeczno-gospodarczego sensu przyjętej w prawie UE (w ślad za nim i w naszym prawie) konstrukcji oświadczeń wyłączających poszczególne pozycje z możności obejmowania ich eksploatacją na potrzeby AI. Najwyraźniej możliwość ta w prawie europejskim została potraktowana jako mająca wywołać poczucie respektowania praw autorów i artystów. Tyle tylko, że praktyczna możliwość kontroli respektowania tych zastrzeżeń przez uprawnionego jest iluzoryczna. Poza tym prowadzi do sprzeczności ze społecznogospodarczą funkcją eksploracji, która z istoty nie powinna dotyczyć pozwalających na indywidualizację wykorzystywanych utworów. Wymaga przypomnienia, że zarówno art. 17, jak i 86. ust. 1 pkt 2 PrAut obejmuje „korzystanie” z utworów i artystycznych wykonań, a korzystanie to obejmuje również wykraczają poza ramy rozporządzenia 2024/1689 a tym samym i projektu ustawy. Projekt został przygotowany zgodnie z zasadami techniki prawodawczej i będzie pod tym kątem opracowywany na etapie prac komisji prawniczej. Projekt podlegał konsultacjom publicznym zgodnie z obowiązującymi procedurami. W celu zapewnienia udziału wszystkich zainteresowanych podmiotów został zamieszczony w BIP na stronie podmiotowej RCL w zakładce Rządowy Proces Legislacyjny. Strona | 35 (jeżeli przepis nie stanowi inaczej) publiczny dostęp do już rozpowszechnionego utworu lub artystycznego wykonania, także więc polegające na wykorzystaniu w ramach AI. Jednym z uwarunkowań tego korzystania powinno być zapewnienie autorom i artystom godziwego (zrównoważonego, propotcjonalnego) wynagrodzenia. To elementarne założenie nie zostało w omawianym projekcie, jak i w prawie dotychczasowym należycie uregulowane i zabezpieczone. I tak: W obowiązującym art. 26%3% PrAut nie zostało zdefiniowane w sposób dostatecznie jednoznaczny podstawowe pojęcie odnoszące się do AI, eksploracji, jako zwielokrotnianie utworów i artystycznych wykonań w odniesieniu do tekstów i danych wykorzystywanych wyłącznie dla cełów badań naukowych, nie dokonywanych w celu osiągnięcia bezpośredniej lub pośredniej korzyści majątkowej. W słowniku zawartym w art. 1 obecnego projektu nie tylko nie ma definicji pojęcia tej eksploracji, ale wyłączenia zawarte w art. 2 tego projektu odsyła do rozporządzenia UE, które również nie zawiera tej definicji, a jedynie określenie ujęte probabilistycznie, w sposób niewyczerpujący określające możliwe funkcje Ponadto określenie to w projekcie nie zostało odniesione do art. 26? PrAut. Niejasność co do zakresu korzystania z utworów i artystycznych wykonań w zakresie eksploracji w procesach korzystania z AI prowadzi do, nierozstrzygniętych w proponowanych przepisach pytań, czy omawiane pojęcie eksploracji może prowadzić do sytuacji rozpoznawalności poszczególnych wykorzystanych w niej utworów lub artystycznych wykonań w produktach sztucznej inteligencji oraz, czy ich twórcom została zagwarantowana realna możliwość kontroli respektowania złożonego zastrzeżenia złożonego zgodnie z art. 269 PrAut. Przeciwnie, określone w art. 2 projektu ustawy wyłączenia nie korespondują, a nawet pozostają w sprzeczności z art. 267 ust. I PrAut. Mają charakter podmiotowy, co rozszerza zakres dozwolonej eksploracji, w stosunku do kryterium dokonywania badań naukowych nie dokonywanych w celu osiągnięciu „bezpośredniej lub pośredniej korzyści majątkowej” (o czym wyraźnie jest mowa w art. 26! PrAut). W konsekwencji, dotychczasowy ustawowo uregulowany zakres eksploracji uległ daleko idącemu poszerzeniu z naruszeniem norm prawa unijnego. Nie została także uregulowana zasadnicza kwestia, rekompensowania wykorzystania utworów i artystycznych wykonań wykorzystanych w ramach eksploracji dopuszczonej w PrAut na zasadach dozwolonego użytku. Odróżnić tu należy dopuszczenie czynności eksploracji jako nieuzasadniającej roszczenia o wynagrodzenie konkretnego uprawnionego, od zasadności rekompensowania wykorzystywania twórczości w zasobach wykorzystywanych przez AI. Prawo zna sytuacje gwarantowania autorom i artystom wykonawcom rekompensowanią, na podstawie badań statystycznych obrazujących zarówno zakres i rozmiar dozwolonego korzystania, jak i wysokość należnej rekompensaty. Odpowiada to społecznym oczekiwaniom (potrzebie) oraz oczywistej słuszności, jak również zasadzie zrównoważonej ochrony. Są to elementarne Strona | 36 zasady propagowane przez UE. Należy zatem oczekiwać ich uwzględniania w przygotowywanych przepisach stanowiących w ramach krajowych element prawa europejskiego. Zastrzeżenia budzą także ograniczenia, zawarte w art. 49 i nast. projektu, dot. czynności kontrolnych jedynie w zakresie uregulowanym w projektowanej ustawie i rozporządzeniu UE. Czy ma to oznaczać, że przedmiotem kontroli nie jest także respektowanie art. 26 ust 2-3 PrAut, a więc tolerowane miałoby być bezpośrednie lub pośrednie uzyskiwanie korzyści majątkowych przez podmioty wymienione w art. 2 projektu? Jest także nieprawidłowe legislacyjnie, zawieranie w prawie krajowym odesłań do rozporządzenia UE. Jeżeli obowiązujące proprio iure rozporządzenie UE zostaje przeniesione do aktu krajowego i to tym bardziej rangi ustawowej, powinien on zawierać wyczerpująco ujętą regulację obowiązującą w danym obszarze. Przemyślenia wymaga zakres regulacji objętej projektowaną ustawą. Powinna ona ograniczać się jedynie do materii wymagającej regulacji ustawowej. Kwestie organizacyjne powinny być uregulowane w przepisach wykonawczych rangi rozporządzenia, do których regulacji ustawa powinna stanowić jedynie podstawę odesłania. W obecnym ujęciu razi regulowanie w obecnym projekcie także materii w znacznym zakresie wykonawczym. Nie sprzyja to czytelności stanowionego prawa. Na koniec uważamy za niezbędne zwrócenie, z ubolewaniem, uwagi na fakt, że wśród siedemdziesięciu adresatów pisma Pana Premiera nie znalazło się nasze Stowarzyszenie. Reprezentujemy znaczące w polskim życiu kulturalnym środowisko twórcze. Jesteśmy zainteresowani treścią projektowanej ustawy i deklarujemy gotowość udziału w pracach nad nią. 18. GRAI Uwaga ogólna Piaskownice regulacyjne Po analizie projektu ustawy o systemach sztucznej inteligencji (SSI) oraz dotychczasowych uwag, konieczne jest dalsze uproszczenie procedur związanych z piaskownicami regulacyjnymi. Kluczowe jest zapewnienie ich ciągłej analizy, autoaktualizacji oraz doskonalenia procesów testowania, by poprawić wydajność i praktyczną użyteczność. Proponowane zmiany mają wyeliminować bariery biurokratyczne, skrócić czas reakcji organów oraz umożliwić ogólnopolski zasięg piaskownic. Poniżej przedstawiamy zmodyfikowane przepisy artykułów w dalszej części tabeli uwag. Wprowadzenie mechanizmów ciągłej analizy, autoaktualizacji procedur i szybkiego wdrażania zmian w piaskownicach regulacyjnych zapewni dynamiczny rozwój systemów testowania AI. Regularny feedback od uczestników oraz dostosowanie procesów do potrzeb rynku pozwoli na zwiększenie efektywności, praktyczności oraz ogólnopolskiego zasięgu piaskownic. Uwaga uwzględniona Zrezygnowano z części przepisów w zakresie piaskownic regulacyjnych. Strona | 37 19. GRAI Uwaga ogólna AI Act nie nakazuje twardej regulacji piaskownic, ale pozostawia krajom członkowskim dużą elastyczność w ich organizacji. Kluczowe elementy to: • Zachęcanie do rozwoju piaskownic, ale bez nadmiernego obciążenia administracyjnego. • Główną rolą państwa jest nadzór i egzekwowanie wymogów, a nie aktywne zarządzanie testami AI. • Nie wymaga formalnego uzyskiwania zgody na uruchomienie testów, o ile są one zgodne z zasadami przejrzystości i kontroli. Oznacza to, że rola państwa może zostać ograniczona do ekosystemu nadzoru, w którym: Firmy same zgłaszają udział w piaskownicy. Państwo monitoruje efekty, ale nie decyduje o ich przebiegu. Organ nadzoru pełni funkcję wspierającą, a nie blokującą innowacje. Uwaga wyjaśniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy w kierunku zmniejszenia obciążeń związanych z rozpoczęciem uczestnictwa. 20. GRAI Uwaga ogólna Obecne ograniczenia w polskim projekcie ustawy Obecny projekt ustawy wprowadza nieprecyzyjne i potencjalnie restrykcyjne regulacje dotyczące piaskownic regulacyjnych, np.: 1. Brak elastyczności – regulacje mogą wymagać od firm formalnego uzyskania zgody, zamiast szybkiej rejestracji i zgłoszenia. 2. Zbyt duża ingerencja organów państwowych – jeśli piaskownica ma działać skutecznie, to rynek powinien mieć większą swobodę w kształtowaniu testów. Brak jednoznacznych procedur wyjścia z piaskownicy – AI Act nie wymaga, by firmy przechodziły skomplikowany proces oceny po zakończeniu testów, a polska ustawa wprowadza dodatkowe obciążenia administracyjne. Uwaga wyjaśniona i częściowo uwzględniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. 21. GRAI Uwaga ogólna Proponowane zmiany w systemie piaskownic regulacyjnych 1. Rezygnacja z wymogu formalnej zgody – wprowadzenie modelu \"na zgłoszenie\" - Każdy podmiot może zgłosić udział w piaskownicy do organu nadzoru, ale nie musi czekać na jego decyzję. - Organ nadzoru ma tylko 30 dni na ewentualne uwagi (np. w przypadku zagrożenia dla praw podstawowych). - Brak sprzeciwu oznacza automatyczne zatwierdzenie. 2. Ograniczenie roli państwa do monitorowania i egzekwowania podstawowych zasad - Organ nadzoru nie decyduje, kto może wejść do piaskownicy, ale pełni rolę kontrolną. - Regularne raporty firm do organu nadzoru zamiast biurokratycznych procedur wstępnych. - Firmy same wybierają metody testów, a państwo nie narzuca dodatkowych obowiązków. Uwaga wyjaśniona Proponowane postulaty zostały częściowo uwzględnione w projekcie ustawy. Strona | 38 3. Wprowadzenie modelu \"kontroli zarządczej\" przez wyznaczenie osób odpowiedzialnych - Każdy podmiot biorący udział w piaskownicy musi wyznaczyć osobę odpowiedzialną za przestrzeganie regulacji. - Osoba ta raportuje wyniki testów do organu nadzoru. - W razie naruszeń – zamiast wykluczenia z piaskownicy, wprowadzenie mechanizmu naprawczego. 4. Piaskownice jako narzędzie do oceny regulacji, a nie ich usztywniania - Testowane technologie mogą być przedmiotem okresowego przeglądu regulacji – wyniki piaskownic powinny wpływać na kształt przepisów. - Możliwość rozszerzenia testów na rzeczywiste warunki rynkowe, jeśli spełniają minimalne wymogi etyczne i prawne. 5. Zachęty do uczestnictwa w piaskownicy - Ulgi regulacyjne dla firm testujących AI w piaskownicy (np. złagodzone wymogi wstępne). - Możliwość uzyskania wstępnej oceny zgodności przed wdrożeniem produktu na rynek. Możliwość uzyskania voucherów na finansowanie testów i procesów walidacyjnych dla MŚP? 22. GRAI Uwaga ogólna Aby zrealizować bardziej rynkowe podejście do piaskownic regulacyjnych i ograniczyć rolę państwa do nadzoru, należy: > Zmodyfikować przepisy tak, aby rejestracja w piaskownicy odbywała się na zgłoszenie, a nie na decyzję organu. > Zdefiniować rolę organu nadzoru jako wspierającą, a nie ograniczającą innowacje. > Umożliwić przedsiębiorstwom większą autonomię w testowaniu AI, pod warunkiem raportowania wyników. > Wprowadzić osoby odpowiedzialne za przestrzeganie regulacji na poziomie firm, zamiast rozszerzać kompetencje państwa. > Zachęcać firmy do uczestnictwa, np. poprzez ulgi regulacyjne i uproszczoną ocenę zgodności. Dzięki temu piaskownice regulacyjne będą faktycznie wspierać rozwój rynku AI w Polsce, zamiast stać się kolejną barierą biurokratyczną. Uwaga częściowo uwzględniona W wyniku zgłoszonych uwag rozdział 8 uległ znacznym zmianom. Zrezygnowano z części regulacji. 23. GRAI Uwaga ogólna Proponujemy rozważenie, aby sądem właściwym do rozstrzygania spraw był Sąd Okręgowy w Warszawie Wydział Własności Intelektualnej. Jako uzasadnienie wskazujemy, że zakres merytoryczny spraw rozstrzyganych przez w/w sąd jest pokrewny z ewentualnym postępowaniem na podstawie projektowanej ustawy o systemach sztucznej inteligencji i tym samym w/w Sąd może kompleksowo rozstrzygać obie materie spraw. Uwaga wyjaśniona Z analizy projektodawcy wynika, że najbardziej właściwym sądem jest Strona | 39 Sąd Okręgowy w Warszawie - sąd ochrony konkurencji i konsumentów. Jest to sąd wysoko wyspecjalizowany, posiadający duże doświadczenie w sprawach o skomplikowanej naturze i szerokim spektrum, posiadający zaplecze merytoryczne oraz organizacyjne umożliwiające sprawne prowadzenie spraw z zakresu systemów sztucznej inteligencji 24. GRAI Uwaga ogólna Na gruncie art. 4 rozporządzenia 2024/1689 postulujemy, aby dodać do projektowanej ustawy o systemach sztucznej inteligencji obowiązek szkoleń personelu ze wskazaniem częstotliwości takich szkoleń np. nie rzadziej niż raz na 12 miesięcy. W/w obowiązek powinien dotyczyć członków personelu dostawcy i podmiotu stosującego zgodnie z definicjami zawartymi w rozporządzeniu 2024/1689 (art.3 ust. 3 oraz art. 3 ust. 4 rozporządzenia). Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 25. GRAI Uwaga ogólna Na gruncie art. 27 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji wprowadzić przepis zgodnie, z którym „Ocena, o której mowa w art. 27 rozporządzenia 2024/1689 dotyczyć będzie wszystkich rodzajów operacji przetwarzania danych osobowych na podstawie wykazu organu nadzorczego, o którym mowa w art. 35 ust. 43 rozporządzenia 2016/679 w systemach wysokiego ryzyka. Organ nadzorczy o którym mowa w art. 4 pkt 21 rozporządzenia 2016/679 opracuje i przedstawi wzór kwestionariusza do oceny skutków przetwarzania danych osobowych o którym mowa w art. 35 rozporządzenia 2016/679.”. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków Strona | 40 Uzasadnienie: Ocena skutków przetwarzania danych osobowych na gruncie art. 35 rozporządzenia 2016/679 jest narzędziem, które sprawia szereg trudności administratorom danych. Warto śladem prawodawcy unijnego, który w art. 27 ust. 5 rozporządzenia 2024/1689 wskazał, iż ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych zostanie zaproponowana przez właściwy Organ, zobowiązać na gruncie projektowanej ustawy o systemach sztucznej inteligencji, organ nadzoru ds. ochrony danych osobowych do przedstawienia właściwego narzędzia dla oceny, o której mowa w art. 35 rozporządzenia 2016/679. Warto nadmienić, iż oceny o te z art. 27 rozporządzenia 2024/1689 i art. 35 rozporządzenia 2016/679 są ocenami których zakresy częściowo pokrywają się. związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). 26. GRAI Uwaga ogólna Brak spójnych rozwiązań dotyczących przetwarzania i ochrony danych osobowych. Zaproponowane regulacje są wybiórcze, enigmatyczne. Brak opracowania OSK dla ochrony danych. Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy. Z uwagi na przedmiot regulacji projekt nie wymaga opracowania OSK. 27. GRAI Uwaga ogólna Na gruncie art. 44 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji dodać przepis zgodnie z którym: „Szkolenia personelu o których mowa w art. 4 rozporządzenia 2024/1689 powinny odbywać się nie rzadziej niż raz 18 miesięcy i każdorazowo dotyczyć będą nowych członków personelu dostawcy i podmiotu stosującego.”. Uzasadnienie: Na gruncie rozporządzenia 2016/679, ustawą z dnia 10 maja 2018 r. o ochronie danych osobowych nie wprowadzono konieczności szkoleń z zakresu ochrony danych osobowych. Jednak jak praktyka pokazała są one wymagane przez organ nadzorczy ds. ochrony danych osobowych. Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. Strona | 41 Nadto należy podkreślić, iż w rozporządzeniu 2024/1689 kwestie szkoleń podejmowane są odpowiednio w art. 9, art. 26 ust. 2 (podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie) oraz motywie 72 w/w rozporządzenia. Ustawowe wprowadzenie obowiązku szkoleń wyeliminuje niepotrzebny dialog społeczny (szczególnie w środowisku szeroko rozumianego biznesu) dotyczący ich niezbędności, terminowości, etc. Warto w tym miejscu wyartykułować, iż prawodawca unijny wskazując na konieczność szkoleń i podnoszenia świadomości potencjalnych zagrożeń wśród personelu wskazał na tempo zmieniających się uwarunkowań rozwoju systemów AI (stąd zasadne wydaje się wprowadzenie szkoleń okresowych w odpowiednich interwałach czasowych) mając na uwadze wykładniczy postęp technologiczny. 28. GRAI Uwaga ogólna Brak w projekcie ustawy przepisów regulujących realizację obowiązku wynikającego z 99 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Przepisy ustawy znajdują także zastosowanie do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest, aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. 29. IGE Kopia tabeli uwag z I etapu konsultacji Uwagi wyjaśnione Przekazane przez IGE uwagi stanowią kopię Tabeli uwag zgłoszonych w ramach I tury konsultacji publicznych projektu Strona | 42 ustawy. Efektem ich rozpatrzenia było przygotowanie projektu w wersji poddanej 10 lutego 2025 r. ponownym konsultacjom publicznym. Część z uwag w przedmiotowej tabeli odnosi się zatem do wykreślonych lub znacznie zmienionych przepisów w związku z powyższym mając na uwadze obszerność przywołanej tabeli odniesienie się do zawartych w niej uwag na obecnym etapie jest niezasadne. Uwagi do projektu ustawy 1. PIIT Tytuł Zmiana tytułu ustawy na ustawa o nadzorze nad rynkiem sztucznej inteligencji. Jedynie art. 9 ust. 3 zawiera wzmiankę o wsparciu rozwoju SI, a Rada nie będzie wyposażona w narzędzia na takie wsparcie pozwalające. Przepisy projektu określają jedynie nadzór nad rynkiem Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Odnosząc się natomiast do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność Strona | 43 2. PTI Tytuł „o systemach sztucznej inteligencji” to nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM) Ustawa właściwie tylko definiuje i reguluje obowiązki i sposób funkcjonowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Całość treści ustawy może być podważona w sądzie z uwagi na pojęcie „system sztucznej inteligencji” – nieprawidłowa definicja Prosimy o rozważenie zmiany tytułu Ustawy: Ustawa o powołaniu komisji i innych instytucji nadzorczych w obszarze sztucznej inteligencji W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI; jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689, dostosowując ustawodawstwo Polski do wymogów wskazanego Rozporządzenia. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. W projekcie ustawy zawarto także przepisy regulujące kwestie wsparcia rozwoju sztucznej inteligencji (rozdział dotyczący środków wspierających innowacyjność). 3. IWP Repropol Tytuł Żałujemy, że nie dokonano zmiany tytułu projektu, mimo że nie tylko Izba Wydawców Prasy zwracała na to uwagę w ramach społecznych konsultacji. Wciąż uważamy, że obecna nazwa jest po prostu mylna. Projekt nie reguluje przecież fenomenu sztucznej inteligencji, lecz ustanawia przede wszystkim krajową infrastrukturę certyfikującą oraz nadzorczą nad modelami oraz systemami AI. Niezależnie od powyższego, polski projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w polska wersja AIA stanowi o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, które na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie ze skrótowca „AI” na oznaczenie sztucznej inteligencji, ponieważ w tym kierunku kształtuje się ogólnoświatowa praktyka. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również m.in. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. W kwestii używanej terminologii, wyjaśnimy, że pojęcie AI posiada w języku Strona | 44 polskim odpowiednik jakim jest sztuczna inteligencja. Mając na uwadze obowiązujące przy tworzeniu prawa zasady techniki prawodawczej oraz zasady wynikające z ustawy dnia 7 października 1999 r. o języku polskim zdaniem projektodawcy przyjęta terminologia jest właściwa. 4. ZPWC Tytuł Zwracamy uwagę na sam tytuł projektu ustawy, który jest mylący. Projekt nie reguluje sztucznej inteligencji, lecz wdraża krajowe mechanizmy nadzoru i kontroli nad modelami i systemami AI. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię wiązane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również min. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. 5. AmCham Art. 2 Zakres terytorialny stosowania art. 2 jest niejasny. Brak wyraźnego ograniczenia zakresu stosowania ustawy do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli nie są one fizycznie obecne w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres Strona | 45 nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami Aktu o AI w zakresie nadzoru transgranicznego. jurysdykcji wynika z odrębnych aktów prawnych. 6. Związek Cyfrowa Polska Art. 2 Nie daje jasności co do zakresu terytorialnego. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnego aktu o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 7. ZPTC Lewiatan Art. 2 Projekt powinien jednoznacznie mieć zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem UE o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal zawiera ona niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby świadczyć o umożliwieniu polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Porównaj także: uwaga dotycząca art. 78, że zgłaszane powinny być poważne incydenty, mające miejsce na terenie Rzeczpospolitej Polskiej. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 8. GRAI Art. 2 Jest: Art. 2 nadal nie stanowi wyraźnie, że ma on zastosowanie do przedsiębiorców z siedzibą w Polsce, co stwarza ryzyko eksterytorialnego zakresu przedmiotowego. Uwaga wyjaśniona Strona | 46 Propozycja: Aby wykluczyć eksterytorialny charakter ustawy, rekomendujemy doprecyzowanie, że ustawa ma zastosowanie wyłącznie do podmiotów mających siedzibę w Polsce. Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. 9. PIIT Art. 2 ust. 1 Propozycja - “Ustawę stosuje się do podmiotów publicznych i prywatnych” Motyw 13 rozporządzenia UE potwierdza określony w art. 2 rozp. 2024/1689 krąg nadzorowanych systemów i podmiotów. Wzmianka w art. 38 ust. 3 pkt. 2 sprawia wrażenie poddania organów władzy publicznej w Polsce - dostawców i użytkowników systemów SI - wyłącznie przepisom ustawy z dnia 15 lipca 2011 r. o kontroli. Praktycznym skutkiem zapisu może być niemożność wyegzekwowania od nich przepisów określonych w rozp. 2024/1689 Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 10. ICC Polska Art. 2 ust. 1 pkt 1 Zgodnie z art. 2 ust. 1 pkt 1 Projektu, ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 1 , z wyłączeniem osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z którąkolwiek z działalności, o których mowa w dalszej części tego przepisu (m.in. działalność gospodarcza, działalność nieewidencjonowana). Tymczasem zgodnie z art. 2 ust. 10 rozporządzenia 2024/1689, rozporządzenia tego nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. Porównanie obu regulacji może rodzić wątpliwości czy zakres wyłączenia zastosowania projektowanej ustawy nie jest za wąski w stosunku do wyłączenia zastosowania rozporządzenia 2024/1689. W uzasadnieniu brak jest natomiast jakiegokolwiek wyjaśnienia, które miałoby przemawiać za szerszym zakresem zastosowania ustawy niż samego rozporządzenia 2024/1689. Po pierwsze, zawarte w samym rozporządzeniu 2024/1689 wyłączenie odnosi się do wszelkich obowiązków podmiotów stosujących i nie ogranicza się – jak czyni to Projekt – do obowiązków, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689. Tymczasem samo rozporządzenie 2024/1689 przewiduje obowiązki podmiotów stosujących również w innych przepisach np. art. 4, art. 25, art. 50, art. 86 rozporządzenia 2024/1689 (które potencjalnie mogą dotyczyć również podmiotów stosujących będących osobami fizycznymi), których tym samym ustawowe wyłączenie nie będzie obejmować. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 1 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwane dalej: „rozporządzeniem 2024/1689”. Strona | 47 Po drugie, zawarte w art. 2 ust. 1 pkt 1 Projektu szczegółowe wyliczenie rodzajów działalności może budzić wątpliwości z perspektywy zachowania jednolitości interpretacji wyłączenia na gruncie samego rozporządzenia 2024/1689, które posługuje się jedynie pojęciem „działalności pozazawodowej” oraz projektowanej ustawy. Dotyczy to m.in. zawartego w art. 2 ust. 1 pkt 1 lit. a) Projektu odesłania do „działalności, o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz.U. z 2024 r. poz. 226, z późn. zm.)”. Ten ostatni przepis dotyczy jednak różnego rodzaju przychodów, zaś w kontekście działalności wspomina jedynie o działalności rolniczej. Aktualna treść Projektu rodzi wątpliwości, czy art. 2 ust. 1 pkt 1 lit. a) Projektu dotyczy jedynie działalności rolniczej, czy też wszelkiej innej działalności związanej z uzyskiwaniem przychodów, o których mowa w ustawie podatkowej. W konsekwencji warto rozważyć albo ujęcie w Projekcie wyłączenia z art. 2 ust. 10 rozporządzenia 2024/1689 w identyczny sposób jak w samym rozporządzeniu, zapewniając tym samym jednolitość interpretacji samego rozporządzenia i ustawy w tym zakresie, albo przynajmniej dostosowanie obu wyłączeń przez usunięcie z art. 2 ust 1 pkt 1 Projektu słów „o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689” w następujący sposób: Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...) (...) Warto w tym miejscu zauważyć, że wdrażając rozporządzenie 2016/679 2 , ustawodawca nie uznał za niezbędne odrębnego uregulowania i doprecyzowania na poziomie ustawowym podobnego wyłączenia z art. 2 ust. 2 lit. c) rozporządzenia 2016/679 („przetwarzanie danych osobowych przez osobę fizyczną w ramach czynności o czysto osobistym lub domowym charakterze”). 11. AmCham Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 2 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), zwane dalej: „rozporządzeniem 2016/679”. Strona | 48 12. Związek Cyfrowa Polska Art. 2 ust. 2 Stwierdzenie z art. 2 ust. 2 o tym, że przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o SI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 13. ZPTC Lewiatan Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie w związku z tym nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 14. GRAI Art. 2 ust 3 Propozycja brzmienia: „3. Do systemów zdalnej identyfikacji biometrycznej post factum, określonych w art. 3 pkt. 43 rozporządzenia 2024/1689, stosuje się odpowiednio art. 5 ust. 2-7 rozporządzenia 2024/1689.”. Uzasadnienie: Zasadnym jest, że ustawa nie dopuszcza wykorzystywania w kraju systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym (rezygnując z zakazu określonego w Akcie). Natomiast, nie wyłącza to konieczności uregulowania systemów zdalnej identyfikacji biometrycznej post factum (które nie są automatycznie zakazane przez Akt). Najprostszym rozwiązaniem byłoby odpowiednie stosowanie regulacji przewidzianych przez Akt dla systemów działających w czasie rzeczywistym. Pod względem redakcyjnym, wydaje się, że najprostszym rozwiązaniem byłoby dodanie nowego ustępu (nr 3) do artykułu 2. Uwaga wyjaśniona Kwestia nie wymaga odrębnego uregulowania w przedmiotowej ustawie. 15. IWP Repropol Art. 2 i Art. 4 Wątpliwości wciąż budzi sposób uregulowania zakresu stosowania UoSSI. W projekcie nawiązano jedynie do wybranych zakresów stosowania AIA, przy czym wciąż nie jest jasny klucz doboru wybranych wyłączeń. Art. 2 ust. 1 nakreśla podmiotowy zakres stosowania ustawy. Z zakresu tego wyłączone zostają osoby fizyczne „w zakresie obowiązków podmiotów stosujących, o których Uwaga wyjaśniona Ewentualna interpretacja przepisów art. 2 przez TSUE nie Strona | 49 mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...)”. W ten sposób nawiązano do art. 2 ust. 10 AIA, który wyłącza AIA w odniesieniu do „obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej”. Wydaje się, że przeniesienie ogólnej formuły AIA na polski grunt byłoby rozwiązaniem lepszym. Polski projektodawca wskazał jednak na katalog aktów prawnych (art. 2 pkt 1 lit a-e UoSSI), które mają egzemplifikować „czysto osobistą działalność pozazawodową”. Jesteśmy zwolennikami podejścia zaprezentowanego w AIA, tym bardziej, że to sformułowanie dość szybko powinno być – w razie wątpliwość – wyklarowane przez orzecznictwo TSUE. Ponadto, nawiązanie w polskiej transpozycji do art. 26 i 27 AIA jest wprost mylne, ponieważ przepisy te odnoszą się do podmiotów stosujących systemy AI wysokiego ryzyka. Tymczasem podmiotowe wyłączenie AIA nie jest ograniczone jedynie do systemów AI wysokiego, lecz także do innych, a zatem objętych jedynie obowiązkiem transparentności (art. 50 AIA) oraz pozostających poza obowiązkiem transparentności systemów minimalnego ryzyka. Odrębną uwagę trzeba poświęcić korzystnie, lecz nie całkowicie satysfakcjonująco zmodyfikowanemu wyłączeniu zawartemu w art. 4 pkt 4 i 5 UoSSI. Przepis ten stanowi, iż ustawy [tj. UoSSI] nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy (...) Prawo o szkolnictwie wyższym i nauce (...). Z kolei w kolejnym ustępie następuje doprecyzowanie wyłączenia stosowania UoSSI do „systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie [AIA]”. W ten sposób powstał chaos. Zakładamy, że w zamyśle projektodawcy postanowienia te mają wdrażać art. 2 ust. 6 AIA, wedle którego „niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Polskie wdrożenie tego postanowienia nie jest jednak fortunne, mimo uwzględnienia niektórych uwag. Podkreślamy ponownie, że to wyłączenie jest fundamentalne dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Mając na uwadze dalekosiężność skutków, przepis nie może pozostawiać tylu wątpliwości, ile występuje na podstawie obecnej wersji. Ponownie zwracamy uwagę, że samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest po prostu niezrozumiałe. Trzeba podkreślić, że przekreśla obecnej konieczności uregulowania kwestii zakresu wyłączenia na gruncie prawa polskiego, a ewentualne wątpliwości co do objęcia przez przepisy rozporządzenia zastosowań AI dla celów osobistych mogą negatywnie wpłynąć na postrzeganie nowego prawa w społeczeństwie. Treść przepisów w zakresie włączeń stosowania ustawy została ustalona w oparciu o uwagi zgłoszone w ramach uzgodnień opiniowania i konsultacji w tym przez podmioty z obszaru nauki. Termin „podstawowe badania naukowe” został zaczerpnięty z ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce. Mając na uwadze, że przepis dotyczy włączeń stosowania przepisów ustawy niezasadne jest Strona | 50 to nie same badania (podstawowe, aplikacyjne czy prace rozwojowe), lecz modele oraz systemy AI rozwinięte i oddane do użytku w c e l a c h badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Czwarty ustęp przepisu generuje również wiele nieporozumień. Wprawdzie pada w nim, że poza zakresem UoSSI pozostają „systemy wprowadzone do użytku wyłącznie dla celów, o których mowa w pkt 4”, ale dalsza część przepisu dodaje „przed wejściem w życie [AIA]”. Można zatem wnioskować, że poza zakresem zastosowania UoSSI znajdują się systemy powstałe w celach wyłącznie do celów naukowych, o ile zostały one wprowadzone do użytku przed wejściem w życie AIA. Takie rozumowanie byłoby jednak oczywiście błędne. Z pewnością art. 2 pkt 4 i 5 UoSSI wymaga modyfikacji. Ponadto wciąż uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. posługiwanie się terminologią mogącą wywoływać wątpliwości interpretacyjne. 16. ZPWC Art. 2 i Art. 4 Sceptyczne oceniamy sposób uregulowania zakresu stosowania ustawy (art. 2 i 4 Projektu). Uważamy, że odwołanie się jedynie do wybranych zakresów AIA i brak jasnego klucza doboru wyłączeń stwarza ryzyko niejasności i problemów interpretacyjnych. Wyłączenie spod zakresu Projektu osób fizycznych korzystających z AI do „czysto osobistej działalności pozazawodowej” powinno opierać się na ogólnej formule z art. 2 ust. 10 AIA, nie zaś na niezwykle skomplikowanym sformułowaniu art. 2 pkt 1 lit. a-e Projektu. Ponadto, kwestia wyłączenia „badań podstawowych, aplikacyjnych oraz prac rozwojowych” (art. 4 pkt 4 i 5 Projektu) z zakresu Projektu również budzi nasze obawy. Niewłaściwe jest sformułowanie, że ustawy \"nie stosuje się do (.) badań (...)\". Art. 2 ust. 6 AIA, który jest w tym punkcie wdrażany, wyraźnie stanowi, że AIA nie stosuje się do „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Aby uniknąć wątpliwości powstałych na gruncie polskiego wdrożenia uważamy, że lepsze byłoby odwołanie się wprost do brzmienia rozporządzenia. Uwaga wyjaśniona Przedmiotowe przepisy mają na celu zaadresowanie włączeń stosowania przepisów ustawy w zakresie jaki został określony w rozporządzeniu 2024/1689. Mając na uwadze zachowanie spójności z systemem prawa polskiego w projekcie ustawy posłużono się terminologią znaną systemowi prawa krajowego. 17. IA Chamber Art. 3 Podtrzymujemy uwagę dotyczącą przepisywania częściowo definicji z Rozporządzenia 2024/1689. Zastosowana tu technika legislacyjna budzi wątpliwości, a uzasadnienie nie zawiera wskazówek co do tego, dlaczego projektodawcy uznają ją za konieczną. Uwaga wyjaśniona Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i Strona | 51 często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 18. PIIT Art. 3 Jeżeli proponent podtrzymuje powtórzenie w treści krajowej ustawy definicji stosowanych bezpośrednio, to sugerujemy wykreślenie przynajmniej ust. 13 art. 3 Termin “organ właściwy” jest w prawodawstwie unijnym standardowo stosowanym termin, który pozwala na uwzględnienie różnorodności systemów prawa państw członkowskich i unikanie nazw rodzajowych typu “sąd”, “organ kontroli”, “komisja nadzoru” itp. Umożliwia to zarówno wdrożenie, jak i stosowanie, przepisów unijnego prawa zgodnie z krajowym ustrojem. Uwaga wyjaśniona Projektodawca podtrzymuje sposób uregulowania słowniczka ustawowego oraz jego zakres. Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 19. PTI Art. 3 pkt 1-16 Jest to niepełna kalka przytoczona z „RPEiR UE” 2024/1689, jeśli zachować ciągłość należałoby przytoczyć wszystkie pkt. Lub odwołać się do wszystkich punktów tj. (68) - Uwaga wyjaśniona Strona | 52 pkt. Art. 3 Oraz (180) -pkt. określenia zakresu funkcjonowania tzw. \"systemów AI” wybranie niektórych zagadnień sugeruje zawężenie działań prewencyjnych. Pełne przytoczenie Art. 3. „RPEiR UE” 2024/1689 z uwzględnieniem powołania krajowych organów tj. komisji. W „RPEiR UE” 2024/1689 szczegółowo określono wspomniane „określenia definiujące” ograniczanie ich na szczeblu krajowym w perspektywie może kolidować z ustawodawstwem UE i podważać działania organu krajowego. Brak lub niepełna definicja, mogą powodować zamieszanie prawne (np. podważanie decyzji podjętych na szczeblu krajowym w odniesieniu do uregulowań na szczeblu unijnym). Zgodnie z zasadami techniki legislacyjnej w projekcie ustawy zamieszcza się wyłącznie definicje pojęć użytych w treści projektu. 20. PTI Art. 3 pkt 1 System sztucznej inteligencji - system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; niepełna definicja LLM już na etapie „RPEiR UE” 2024/1689” świadczy o braku zrozumienia zagadnienia Prosimy o rozważenie zmiany definicji a także uzupełnienie jej o uwagę. „RPEiR UE” 2024/1689” „system AI” oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii oraz który może wykazywać zdolność adaptacji, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki. Uwaga: systemy AI są również określane jako duże modele językowe (Large Language Model – LLM). Odwołanie się do „RPEiR UE” 2024/1689” nie gwarantuje pra- widłowego definiowania pojęcia tzw. systemów sztucznej inteligencji, czyli LLM ponadto ograniczenie zawęża wyniki działania LLM nie wymienionych w definicji. Z tego względu proponujemy korektę definicji. Dodatkowo prosimy o rozważenie dopisania uwagi. Uwaga wyjaśniona Przepisy projektu ustawy mają służyć stosowaniu rozporządzenia 2024/1689. Przepisy te nie mogą poszerzać ani zawężać, modyfikować przepisów ww. rozporządzenia, które są stosowane bezpośrednio. 21. GRAI Art. 3 pkt 15 Propozycja zmiany definicji piaskownicy regulacyjnej Obecne brzmienie: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.” Proponowane brzmienie: Uwaga wyjaśniona Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 53 „Piaskownica regulacyjna – mechanizm umożliwiający dostawcom systemów sztucznej inteligencji walidację, testowanie i rozwój systemów AI na podstawie zgłoszenia, przy zapewnieniu minimalnych wymogów etycznych dla ram Trustworthy AI (Godnej zaufania sztucznej inteligencji) i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” > Zmiana: ● Usunięcie wymogu nadzoru nad każdym testem – rola państwa ograniczona do ogólnej kontroli. Testy na zgłoszenie, a nie na decyzję – mniej biurokracji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 22. PIIT Art. 4 Sugerujemy ograniczenie wyłączenia spod rygorów ustawy (obecnie całość zadań ustawowych wymienionych w przepisie służb) do zakresu przedmiotowego wyznaczonego przez przepisy, bezpośrednio stosowane, rozporządzenia 2024/1689. Nie można spod rygorów rozporządzenia 2024/1689 wyłączyć tych obszarów działania służb, które pozostają poza zakresem wyłączeń zdefiniowanych w rozporządzeniu 2024/1689, a mają np. związek z bezpieczeństwem wewnętrznym (ściganiem przestępczości pospolitej). Obecne brzmienie projektowanego przepisu narusza prawo Unii. Uwaga wyjaśniona W przepisie zwarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 23. Fundacja Panoptykon Art. 4 pkt 2 Zgodnie z art. 2 ust. 3 rozporządzenia nie stosuje się go „do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami”. Pojęcie bezpieczeństwa narodowego nie jest precyzyjnie zdefiniowane w prawie wspólnotowym. Mimo problemów interpretacyjnych, jakie rodzi pojęcie bezpieczeństwa narodowego, nie sposób zgodzić się ze stanowiskiem prezentowanym przez Ministra – Koordynatora Służb Specjalnych, postulującego całkowite wyłączenie stosowania projektowanej ustawy względem służb specjalnych. Taka regulacja byłaby niezgodna zarówno z orzecznictwem TSUE i ETPC, jak i analizą ustawowych zadań realizowanych przez służby specjalne. Pozytywnie zatem oceniamy intencję autorów projektu, by doprecyzować, w jakich sprawach nie stosuje się do działań służb specjalnych opiniowanego projektu. Jednak Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia Strona | 54 proponowane brzmienie art. 4 ust. 2 i ust. 3 projektu oceniamy krytycznie. Na podstawie analizy art. 4 ust. 2 niejasny jest zakres znaczeniowy tego przepisu, który może – od rozpoczęcia obowiązywania – budzić wątpliwości interpretacyjne. Naszym zdaniem doprecyzowania wymaga to, czy planowane wyłączenie dotyczyć ma: ● wszystkich spraw związanych z realizacją zadań ustawowych ABW, czy tylko ● tych „pozostających w bezpośrednim związku z działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej”, czy wreszcie ● wszystkich spraw, w tym działań pozostających w bezpośrednim związku z działaniami lokalizowania (...) jedynie w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy o ABW i AW. Najbardziej prawdopodobna wydaje się trzecia z wymienionych interpretacji. W tej sytuacji niejasna jest sytuacja Agencji Wywiadu, o której mowa w pierwszej części proponowanego przepisu (art. 4 ust. 2), podczas gdy na jego końcu mowa już tylko o „(...) zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa”, podczas gdy Agencja Wywiadu (zgodnie z przywołanym art. 2 ustawy o ABW i AW) zajmuje się ochroną bezpieczeństwa zewnętrznego państwa. Pozostając na gruncie trzeciej z możliwych interpretacji zwracamy uwagę, że odwołanie do art. 1 ustawy o ABW („Tworzy się Agencję Bezpieczeństwa Wewnętrznego właściwą w sprawach ochrony bezpieczeństwa wewnętrznego państwa i jego porządku konstytucyjnego”) bez odesłania do konkretnych zadań wymienionych w art. 5 ustawy rodzi kolejne wątpliwości interpretacyjne związane z pytaniem, czy wszystkie zadania realizowane przez ABW (także np. na podstawie odrębnych ustaw i umów międzynarodowych (por. art. 5 ust. 1 pkt 5 ustawy o ABW i AW) mieszczą się w zakresie ogólnej właściwości ABW wskazanej w art. 1 ustawy o ABW i AW. Przyjęcie takiej interpretacji prowadziłoby do wniosku, że de facto w zakresie wszystkich swoich zadań ABW nie podlega proponowanej regulacji. Przyjęcie z kolei odmiennej interpretacji wiązałoby się z koniecznością każdorazowej oceny, czy realizowane przez Agencję zadanie wiążę się z ogólną właściwością służby zgodnie z art. 1 ustawy o ABW. Taka regulacja byłaby w naszej ocenie skrajnie nieefektywna i niepraktyczna, zwłaszcza biorąc pod uwagę, że wskazane wyżej liczne wątpliwości interpretacyjne rozstrzygałaby w praktyce sama ABW będąc poniekąd „sędzią we własnej sprawie”. Analiza zadań ustawowych służb specjalnych wskazuje, że są nimi m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt określonego w rozporządzenia 2024/1689. Dodatkowe doprecyzowanie przepisów nie znajduje uzasadnienia. Strona | 55 2 lit. e ustawy o ABW). Tego typu przestępstwa nie mieszczą się nawet w szeroko rozumianej definicji bezpieczeństwa narodowego. W wyroku z 28 maja 2024 r. w sprawie Pietrzak, Bychawska-Siniarska i inni przeciwko Polsce Europejski Trybunał Praw Człowieka wskazał, że „w sprawach dotyczących praw podstawowych prawo byłoby sprzeczne z zasadą rządów prawa, jedną z podstawowych zasad społeczeństwa demokratycznego zapisanych w Konwencji, gdyby nie zawierało ograniczeń swobody decyzyjnej przyznanej władzy wykonawczej w sprawach bezpieczeństwa narodowego. W związku z tym ustawodawstwo musi określać zakres i sposób wykonywania takiego uprawnienia z wystarczającą jasnością – biorąc pod uwagę uzasadniony cel – aby zapewnić jednostce odpowiednią ochronę przed arbitralnością”. Trybunał Sprawiedliwości UE w wyroku w połączonych sprawach C-511/18, C-512/18 i C-520/18 wskazał, że państwa członkowskie nie mają pełnej swobody w zakresie regulacji dotyczących bezpieczeństwa narodowego: w kontekście możliwego w tym celu nałożenia na firmy telekomunikacyjne obowiązku retencji danych Trybunał wskazał, że jest to możliwe, jeśli ustawodawca zapewni, że zatrzymywanie danych będzie uzależnione od spełnienia związanych z nim materialnych i proceduralnych warunków oraz że osoby, których dane dotyczą, dysponują skutecznymi gwarancjami chroniącymi przed ryzykiem nadużyć. W związku z tym naszym zdaniem konieczna jest ponowna analiza zaproponowanego wyłączenia, które – w naszej ocenie – powinno dotyczyć konkretnych jednostek redakcyjnych wskazanych w art. 5 ust. 1 ustawy o ABW i AW. odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1-2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. 24. Fundacja Panoptykon Art. 4 pkt 3 Przechodząc do analizy art. 4 ust. 3 (wyłączenie dotyczące Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego) jego interpretacja także rodzi wątpliwości ze względu na odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1- 2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg Strona | 56 projektodawcy przepis oddaje właściwą intencję wyłączenia. 25. GRAI Art. 4 pkt 3 Art. 4 pkt 3 może wzbudzać wątpliwości interpretacyjne, a dotyczy ważkiej kwestii zakresu wyłączenia stosowania ustawy w kontekście badań naukowych. Warto rozważyć uproszczenie art. 4 pkt 3, bowiem występują dwie negacje – ustawy nie stosuje się do (...) w zakresie, który nie obejmuje testów (...), co może utrudniać zrozumienie tego przepisu. Ponadto, jeśli zamiarem projektodawcy było wprowadzenie do ustawy wyjątku od jej stosowania w ślad za wyłączeniem z art. 2 ust. 7 rozporządzenia 2024/1689, obecne brzmienie art. 4 pkt 3 wydaje się tylko częściowo korespondować z intencją prawodawcy unijnego, która została wyrażona w części nienormatywnej rozporządzenia, czyli w motywie 25 preambuły. Wydaje się też, że przy konstruowaniu wyłączenia w ustawie bardziej trafne byłoby posłużenie się kryterium podobnym do znajdującego się w art. 2 ust. 7 rozporządzenia 2024/1689, czyli „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych” zamiast „badań podstawowych, aplikacyjnych oraz prac rozwojowych”. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 26. ICC Poland Art. 4 pkt 4 Zgodnie z art. 4 pkt 4 Projektu, ustawy nie stosuje się do „4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689” [podkreślenie własne]. Obecna redakcja tego wyłączenia, z uwagi na jej skomplikowany charakter, może błędnie sugerować, że art. 4 pkt 4 Projektu wyłącza zastosowanie ustawy w stosunku do wprowadzania do obrotu lub oddawania do użytku wszelkich systemów sztucznej inteligencji dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, nie tylko w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych. W konsekwencji wskazany przepis wymaga doprecyzowania, jak również rozważenia jego kompatybilności z wyłączeniami z art. 2 ust. 6 i 8 rozporządzenia 2024/1689. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 27. ZPTC Lewiatan Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego nie oddaje tego czym w rzeczywistości ma się zajmować regulator. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 57 Jedynym zadaniem Komisji związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem Komisji związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa, w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań, leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jak najlepiej jej charakter. 28. IA Chamber Art. 5 i następne Podobnie nadal niedoskonałe, mimo pozytywnych zmian, wydają się przepisy powołujące Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, na co wskazaliśmy w poprzedniej opinii. Umocowanie Przewodniczącego KRiBSI, jako jednoosobowego organu administracji centralnej, wydaje się rozwiązaniem lepiej pasującym do polskiej tradycji prawa administracyjnego i pozwalającym uniknąć szeregu trudności, które są konsekwencji przyjętej formuły, w której KRiBSI jest organem kolegialnym, w którym część członków jest zatrudniona w Biurze KRiBSI, a część reprezentuje jedynie inne organy. Jednocześnie i Komisja i jej Przewodniczący są organami Biura, co jest nader złożona konstrukcją prawną. Wydaje się, że projektodawcy sami dostrzegają mankamenty przyjętej konstrukcji, dając możliwości delegowania uprawnień decyzyjnych Komisji na rzecz Przewodniczącego. Można się spodziewać, że będzie to możliwość często wykorzystywana, gdyż zapewni odpowiednią efektywność proceduralną np. w sprawach indywidualnych, gdzie kolegialność organu nie wnosi z reguły wartości dodanej, a spowalnia postępowanie. Konsekwentnie Biura KRiBSI powinno wtedy nosić nazwę “Urzędu KRiBSI”. Uwaga wyjaśniona Przepisy w zakresie powołania i funkcjonowania KRIBSI oraz Biura komisji uległy w wyniku rozpatrzonych uwag kolejnym zmianom. Pozostano jednak przy koncepcji kolegialnego organu nadzoru. 29. AmCham Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uwaga wyjaśniona Strona | 58 Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji lub inna oddająca rzeczywisty charakter regulatora Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś nazwa Komisji nie zawiera słowa„systemy”. Podobnie jak w przypadku innych organów regulacyjnych istotne jest, aby nazwa Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. 30. GRAI Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja zmiany nazwy organu na np. „Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji” lub inna nazwa oddająca rzeczywisty charakter regulatora i zakresu spraw, którymi się zajmuje. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować ten organ. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice regulacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym wprost z europejskiej regulacji. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 59 Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i z wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś Komisja już w proponowanej nazwie gdzieś zgubiła słowo „systemy”. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Tym samym podtrzymujemy uwagę zgłoszoną w tym zakresie do poprzedniej wersji projektu z października 2024 r. Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. 31. GRAI Art. 5 W projekcie zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Uwaga wyjaśniona Zdaniem projektodawcy nazwa „Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” w pełni oddaje jego cele i zadania. 32. GRAI Art. 5 ust. 1 i 2 - Propozycja zmiany organizacji nadzoru nad AI (Art. 5) > Obecne brzmienie: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Uwaga wyjaśniona Treść uwagi wykracza poza zakres Strona | 60 > Nowa wersja Art. 5 ust. 1 i 2 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.” 2. „Komisja nie ingeruje w proces testowania systemów AI, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.” > Zmiana: ● Komisja nie kontroluje każdego testu, a jedynie prowadzi nadzór systemowy. Firmy same zgłaszają testy przewidziany dla ustawodawcy krajowego przez przepisy rozporządzenia. 33. PIIT Art. 5 ust. 3 Sugerujemy skreślenie ust. 3 art. 5 lub zastąpienie go przepisem ogólnym przypominającym o współpracy w ramach administracji rządowej lub nawet publicznej. Komisja jest uprawniona do kontroli i egzekwowanie przepisów rozp. 2024/1689 wobec wszystkich osób, chyba że przepisy rozp. stanowią inaczej. Ma możliwość kontroli systemów, a nakaz współpracy z innymi organami administracji w szerszym zakresie wynika z ogólnych przepisów. Uwaga wyjaśniona W celu właściwej realizacji przepisów rozporządzenia 2024/1689 oraz ustawy oraz wynikających z nich zadań Komisji zdaniem projektodawcy konieczne jest utrzymanie przepisów o współpracy KRiBSI z podmiotami wskazanymi w art. 5 ust. 3. 34. ZBP Art. 5 ust. 3 pkt 1 W nowej wersji projektu ustawy o systemach sztucznej inteligencji w dalszym ciągu brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Jednoznaczne rozstrzygnięcie zakresu nadzoru KRiBSI i KNF nad systemami sztucznej inteligencji jest niezbędne dla zapewnienia przejrzystych zasad nadzoru. Przepisy ustawy powinny jednoznacznie określać na czym polega współpraca KRiBSI z KNF oraz wskazywać czy w polskim porządku prawnym będzie nadzór KNF w zakresie AI na zasadzie określonej w art. 74 ust. 6 AI Act, czy Polska jako państwo członkowskie będzie korzystać z odstępstwa, o którym mowa w art. 74 ust. 7 AI Act. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować Strona | 61 powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. 35. GRAI Art. 5 ust. 3 pkt 1 Brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy w dalszym ciągu nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemni prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. Strona | 62 36. ICC Poland Art. 5 ust. 3 pkt 3 Za proponowanym usunięciem przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych ze składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) (nowy art. 6 ust. 2 Projektu), niezależnie od oceny tej zmiany, powinno podążyć rozszerzenie zakresu współpracy pomiędzy Komisją a Prezesem Urzędu Ochrony Danych Osobowych. Tymczasem, pomimo dokonania zmiany w składzie Komisji względem projektu z 15 października 2024 r., zmianie nie uległ art. 5 ust. 3 pkt 3 Projektu, zgodnie z którym: „W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...); 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Wobec rezygnacji z udziału przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych jako członka Komisji, zakres spraw wymagających współpracy pomiędzy tymi organami powinien ulec rozszerzeniu i nie ograniczać się wyłącznie do spraw, w których współpracy takiej wymaga wprost samo rozporządzenie 2024/1689. Nadzór nad systemami sztucznej inteligencji wielokrotnie będzie ściśle wiązał się z nadzorem nad przetwarzaniem danych osobowych (np. danych osobowych podmiotów stosujących, danych osobowych zawartych w danych treningowych systemów sztucznej inteligencji), a w konsekwencji wymagał współpracy Komisji i Prezesa Urzędu Ochrony Danych Osobowych. W konsekwencji proponuje się następującą zmianę art. 5 ust. 3 pkt 3 Projektu: W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...) 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie, w jakim systemy sztucznej inteligencji wiążą się z przetwarzaniem danych osobowych oraz w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 oraz art. 101 projektu ustawy. Uregulowanie zakresu współpracy w zakresie, o którym mowa w uwadze zostanie rozstrzygnięte w późniejszym okresie w ramach pracy nad dostosowaniem przepisów prawa do wymogów związanych z nadzorem nad systemami wysokiego ryzyka (art. 6 rozporządzenia), do czego konieczne jest uprzednio opublikowania przez Komisję Europejską aktów delegowanych i materiałów merytorycznych Strona | 63 dookreślających stosowanie przepisów rozporządzenia w odniesieniu do tych systemów. 37. Polskie sieci elektroenerget yczne Art. 5 ust. 3 pkT 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 38. GRAI Art. 5 ust. 3 pkt 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 39. Stowarzyszen ie Autorów ZAiKS Art. 5 ust. 3 nowy pkt 11) oraz zmiana numeracji pkt. 11 i 12 Art. 5 ust. 3 pkt 11) Projektu otrzymuje następujące brzmienie: „3. W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: 11) ministrem właściwym spraw kultury i ochrony dziedzictwa narodowego - w zakresie realizacji obowiązków wynikających z art. 53 rozporządzenia 2024/1689;” Pkt 11-12 w art. 5 ust. 3 otrzymują numerację odpowiednio: 12-13. UZASADNIENIE: Sprzeciwiamy się wprowadzonym w Projekcie zmianom w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”), które nie tylko nie zapewniły, proponowanego przez większość organizacji reprezentujących środowiska kreatywne, obligatoryjnego udziału przedstawiciela ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego. Zrezygnowano również z jednoznacznego wskazania możliwości udziału przedstawiciela tego resortu w charakterze doradczym, wprowadzając enigmatyczną możliwość doradzania Komisji przez „przedstawicieli podmiotów publicznych”. Jedynym organem związanym w jakikolwiek sposób z sektorami kreatywnymi, który ma współpracować z Komisją, jest Krajowa Rada Radiofonii i Telewizji, przy czym działać ma ona jedynie w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w ramach działalności dostawców usług medialnych, wskazanych w ustawie Uwaga wyjaśniona Art. 5 ust. 3 stanowi, że KRiBSI współpracuje z ministrami w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. Strona | 64 o radiofonii i telewizji, czyli nie w zakresie wszystkich podmiotów, na których sytuację wpływ mają te systemy. Należy ponownie zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. 9 Projektu jest „sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689\" oraz „wydawanie postanowień i decyzji w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy”. AI Act w art. 53 w stosunku do dostawców modeli Gen AI przewiduje szereg obowiązków, w tym wprowadzanie polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen AI. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Z tego względu udział przedstawicieli resortu kultury nie może być wyłącznie konsultacyjny. Jeżeli przedstawiona argumentacja nie znalazłaby odzwierciedlenia w zmianach do Projektu, postulujemy, o co najmniej wprowadzenie w art. 5 do Projektu. 40. FinTech Poland Art. 6 a. Rozszerzony skład komisji Zgodnie z Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. UE. L. z 2024 r. poz. 1689) („Rozporządzenie SI”) nowo powołany (lub wzmocniony nowymi kompetencjami istniejący) organ ds. SI powinien nadzorować cały ruch na rynku sztucznej inteligencji. W ramach swoich kompetencji organ nie tylko monitoruje przestrzeganie uchwalonego prawa, lecz także ma obowiązek opracowywania kodeksów dobrych praktyk oraz moderowania standardów rynkowych. Aby usprawnić te działania, konieczne jest zapewnienie w składzie polskiego organu, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”), uwzględniono głos środowiska wysoko wyspecjalizowanego. NASK obecnie pełni kluczową rolę w zakresie cyberbezpieczeństwa i zarządzania infrastrukturą polskiej sieci internetowej, będąc instytucją o ugruntowanym autorytecie. Jako jednostka skupiająca najlepszych ekspertów w dziedzinie inżynierii cyfrowej, NASK dysponuje unikalnym zapleczem naukowym i technologicznym. Włączenie jego przedstawiciela do Komisji zapewni, że jej decyzje będą oparte na rzetelnej wiedzy eksperckiej i uwzględnią aktualne wyzwania związane z bezpieczeństwem cyfrowym. Tym samym jego głos będzie głosem nauki i techniki, co pozwoli na podejmowanie optymalnych i przyszłościowych rozwiązań w zakresie działań Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Strona | 65 41. IA Chamber Art. 6 ust. 2 Projektodawcy nie wyjaśniają w uzasadnieniu (ponownie!), na podstawie jakich kryteriów wskazują w art. 6 ust. 2 instytucje, które będą reprezentowane w KRiBSI. Jej skład został ograniczony, co można uznać za pozytywny ruch, ale dobór nadal budzi wątpliwości. Wykluczenie przedstawicieli ministerstw można zrozumieć (choć z braku uzasadnienia to spekulacja) jako próbę zapewnienia Komisji większej niezależności, ale skutkować będzie oderwaniem Komisji od gremium decyzyjnego, które może mieć faktyczny wpływ na rozwój SI w Polsce. Projektodawcy deklarują cel zapewnienia udziału “organów kluczowych” dla nadzoru i rozwoju SI w KRiBSI, ale pod żadnym względem nie można za takowy uznać Rzecznika Praw Dziecka. W składzie brakuje zaś (poza ministrami) przedstawicieli instytucji, które faktycznie mają wiedzę fachową w zakresie SI (NASK, Instytut Badawczy IDEAS). Uwaga wyjaśniona 1.Uzasadnienie do projektu ustawy do art. 6 zostało rozbudowane. 2.Przedstawiciele ministerstw w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji nie wchodzą w skład KRiBSI w celu zapewnienia należytej niezależności organu. Będą oni jednak mogli uczestniczyć w posiedzeniach Komisji bez prawa głosu na zasadach określonych w art. 6 ust. 4. 3.Nie jest planowane rozbudowanie składu Komisji o takie podmioty jak (NASK, Instytut Badawczy IDEAS. 4.Przedstawiciele tych podmiotów będą natomiast mogli uczestniczyć w posiedzeniach Komisji na zasadach określonych w art. 6 ust. 3. 5.W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi Strona | 66 przedstawiciel Rzecznika Praw Dziecka. 42. AmCham Art. 6 ust. 2 W świetle projektowanych przepisów Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma się składać wyłącznie z przedstawicieli następujących organów: Prezes UOKiK, KNF, Rzecznik Praw Dziecka, KRRiT, Prezesa UKE, Państwowej Inspekcji Pracy oraz Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Zatem Komisja ma się składać wyłącznie z przedstawicieli organów regulacyjnych, których głównym zadaniem jest kontrola, nadzór i egzekwowanie przestrzegania sektorowych przepisów prawa, w tym nakładanie kar pieniężnych. Trudno wyobrazić sobie, aby Komisja, składająca się wyłącznie z przedstawicieli organów kontroli i nadzoru, faktycznie była w stanie perspektywę inną niż ta wynikająca z doświadczeń w zakresie kontroli i nadzoru. Celem zapewnienia zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinna zostać poszerzona o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców, ze względu na swoją nadrzędną rolę w kształtowaniu polityki AI. Obecność ekspertów z tych dziedzin wzbogaciłaby Komisję o niezbędną wiedzę specjalistyczną i zapewniłaby zrównoważone podejście do rozwoju sztucznej inteligencji w Polsce. Włączenie przedstawicieli nauki, takich jak profesorowie uniwersytetów, badacze z instytutów naukowych czy eksperci z organizacji pozarządowych, pozwoliłoby Komisji uwzględniać najnowsze osiągnięcia badawcze i trendy technologiczne w dziedzinie AI. To z kolei umożliwiłoby podejmowanie decyzji opartych na rzetelnej wiedzy naukowej. Dzięki temu Polska mogłaby skuteczniej konkurować na arenie międzynarodowej w dziedzinie badań i rozwoju AI, przyciągając inwestycje i talenty z zagranicy. Z kolei obecność przedstawicieli organizacji przedsiębiorców w Komisji zapewniłaby lepsze zrozumienie praktycznych aspektów wdrażania AI w biznesie. Ich doświadczenie i wiedza byłyby nieocenione przy tworzeniu regulacji, które sprzyjałyby innowacjom i inwestycjom. Podsumowując, poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców jest niezbędne, aby zapewnić zrównoważony i odpowiedzialny rozwój sztucznej inteligencji w Polsce. Tylko takie kompleksowe podejście, uwzględniające perspektywy różnych dziedzin i sektorów, pozwoli na wykorzystanie potencjału AI dla dobra całego społeczeństwa, jednocześnie minimalizując ryzyko związane z jej zastosowaniem. W ten sposób Polska może stać się liderem w dziedzinie sztucznej inteligencji, kształtując przyszłość technologii w sposób odpowiedzialny i zrównoważony. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Strona | 67 43. FinTech Poland Art. 6 ust. 2 W Projekcie ustawy wprowadzono pozytywną zmianę poprzez ograniczenie składu Komisji, co może usprawnić jej działanie. Jednak budzi poważne zastrzeżenia fakt, że nie przewidziano w niej udziału przedstawicieli instytucji posiadających specjalistyczną wiedzę techniczną o AI, cyberbezpieczeństwie, takich jak NASK czy instytut badawczy IDEAS. Ich obecność mogłaby zapewnić bardziej merytoryczne podejście do działań podejmowanych przez Komisję i lepsze dostosowanie przepisów do realiów technologicznych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 44. KIGEiT Art. 6 ust.2 Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Uwaga częściowo uwzględniona+ Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. Udział w posiedzeniach przedstawicieli instytucji posiadających wiedzę ekspercką, jak m.in. PURPLWMiPB będzie możliwy, za zgodą Przewodniczącego będzie możliwy (na zasadzie obserwatora bez prawa głosu). Dodatkowo, w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka. Strona | 68 45. PIIT Art.6 ust.2 Skład Komisji Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Zob. Także uwagi ogólne. Uwaga częściowo uwzględniona Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka ani PURPLWMiPB. 46. PIIT Art. 6 ust. 2 W skład Komisji powinni wchodzić przedstawiciele nauki oraz organizacji pozarządowych. Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicieli różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców co jest niezbędne, jeśli Komisja faktycznie ma być Komisją Rozwoju Sztucznej Inteligencji, a nie tylko Komisją Bezpieczeństwa Sztucznej Inteligencji. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckie. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły Strona | 69 również wskazać kandydatów na członków Społecznej Rady. 47. Polskie sieci elektroenerget yczne Art. 6. ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka wyznaczonego przez Pełnomocnika Rządu do spraw Cyberbezpieczeństwa, np. z CSIRT NASK Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt 6. 48. Związek Cyfrowa Polska Art. 6 ust. 2 Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicielami różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckiej. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Udział niezależnych przedstawicieli społecznych nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Wręcz przeciwnie – zwiększy transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły również wskazać Strona | 70 kandydatów na członków Społecznej Rady. 49. GRAI Art. 6 ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka związanego np. z CSIRT NASK Jest: Prezes Urzędu Ochrony Danych Osobowych (PUODO) został usunięty z Komisji. Propozycja: Proponujemy przywrócenie Prezesa UODO lub wprowadzenie przymusowego mechanizmu komunikacji z nim w sprawach zw. z przetwarzaniem danych osobowych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt. 6. 50. ZPTC Lewiatan Art. 6 ust. 2a w związku z Art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu 2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez zapisu dotyczącego obligatoryjnego zapraszania na posiedzenia Komisji „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego Strona | 71 miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 51. GRAI Art. 6 ust. 2a w związku z art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu: „2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.”. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw Strona | 72 będących przedmiotem posiedzenia. 52. FinTech poland Art. 6 ust. 3 pkt 1 W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakładana jest współpraca pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpraca z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować wprzyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy organów PUODO, KNF z KRIBSI. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust.1 i 3 oraz art. 99 i art. 101 projektu ustawy. Planowana współpraca powinna zawierać między innymi możliwość wymiany informacji w zakresie prowadzonych postępowań w sprawach z zakresie systemów sztucznej inteligencji. 53. KIGEiT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby, którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 54. PIIT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające Strona | 73 Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 55. AmCham Art. 6 ust. 2a w związku z art. 6 ust. 3 oraz art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu „Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.” Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”). Tymczasem w przypadku podmiotów, które są wymienione w art. 5 ust. 3 wykonanie tej kompetencji powinno mieć charakter obligatoryjny. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 56. Związek Cyfrowa Polska Art. 6 ust. 4 Brak wynagrodzenia dla członków Komisji może obniżyć efektywność jej działania, zwłaszcza w obliczu licznych obowiązków wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Pozostawienie tej kwestii do uznania instytucji Uwaga wyjaśniona Strona | 74 delegujących członków nie gwarantuje stabilności funkcjonowania Komisji. Rekomendujemy zapewnienie członkom Komisji odpowiedniego wynagrodzenia za ich pracę. Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. 57. SFP-ZAPA Art. 7 Włączenie przedstawiciela Ministra Kultury i Dziedzictwa Narodowego w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a co najmniej wyposażenie go w prawo głosu w tych posiedzeniach, w których będzie brał udział (art. 7 Projektu). Minister jest organem właściwym w sprawach związanych z prawami autorskimi i prawami pokrewnymi, które z punktu widzenia rozwoju sztucznej inteligencji są niezwykle istotne, stąd też nie powinien być pomijany przy tworzeniu Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Ministrowie będą mogli uczestniczyć w posiedzeniach komisji jako stali obserwatorzy bez prawa głosu - art. 6 ust. 4. 58. GRAI Art. 7 ust. 2 Uzasadnienia wymaga wskazanie do składu Komisji przedstawicieli Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, KRRiT, Rzecznika Praw Dziecka oraz Prezesa UKE. Dlaczego brakuje RPO? Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Strona | 75 Wskazane w uwadze podmioty zostały wyłączone z jej składu. Uzasadnienie projektu ustawy o systemach sztucznej inteligencji zostało rozbudowane. Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie w związku ze zgłoszoną przez siebie uwagą. 59. PTI Art. 7 ust. 4 i 5 Czy protokoły i uchwały są z założenia publicznie dostępne? Jeśli tak, to gdzie będą publikowane? Dodać zapis: „Posiedzenia Komisji są jawne, a protokoły z posiedzeń – publicznie dostępne”. Warto uściślić sposób i poziom dostępu do protokołów i uchwał. Uwaga wyjaśniona Zgodnie z art. 77 ust. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. 60. KIGEiT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uwaga wyjaśniona Projektodawca utrzymuje aktualny przepis art. 7 ust. 9. W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może Strona | 76 być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 61. PIIT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 62. ICC Poland Art. 8 pkt 4 Zgodnie z art. 8 pkt 4 Projektu Przewodniczący Komisji wskazuje organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także publikuje i aktualizuje ich wykaz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz przekazuje informacje w tym zakresie Komisji Europejskiej oraz państwom członkowskim Unii Europejskiej. O ile obowiązki w zakresie publikacji i przekazywania informacji mają charakter czysto techniczny i wpisują się w katalog zadań Przewodniczącego Komisji jako kierującego jej pracami, to należałoby rozważyć, czy kompetencja w zakresie wskazywania organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689 oraz aktualizowania tego wykazu zgodnie z art. 77 ust. 2 rozporządzenia 2024/1689 nie powinna należeć do Komisji jako organu nadzoru nad rynkiem systemów sztucznej inteligencji, nie zaś samodzielnie Przewodniczącemu Komisji. Uwaga wyjaśniona Mając na uwadze zapewnienie rozdziału kompetencji pomiędzy Komisją a przewodniczącym Komisji kompetencja wskazana w uwadze powinna należeć do Przewodniczącego Komisji. 63. AmCham Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o AI. Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do rozbieżności w wykładni i stosowaniu. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z Strona | 77 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem o AI i wytycznymi Biura ds. AI. prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 64. ZPTC Lewiatan Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się Strona | 78 zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689”. 65. IWP Repropol Art. 9 Dostrzegliśmy, że poprawiona wersja projektu zawiera odwołanie do definicji modelu AI ogólnego przeznaczenia, jak i art. 2 ust. 2 UoSSI („O ile przepisy ustawy nie stanowią inaczej, przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia”). Zdecydowanie uważamy, jednakże, że KRIBSI odgrywa – obok Urzędu ds. AI – na tyle istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), że katalog jej obowiązków zawarty w art. 9 UoSSI powinien zostać uzupełniony również o ten wymiar. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI może być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Uwaga uwzględniona Dodano do art. 9, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 66. ZPWC Art. 9 Doceniamy poczynione w drugiej wersji projektu ustawy nawiązanie do modeli AI ogólnego przeznaczenia (GPAIM, art. 2 ust. 2 Projektu). Uważamy jednocześnie, że z uwagi na rolę KRIBSI (obok Urzędu ds. AI) przy funkcjonowaniu GPAIM, kompetencja polskiego organu w odniesieniu do GPAIM powinna zostać ujęta expressis verbis w katalogu kompetencji KRIBSI (art. 9 Projektu). Uwaga uwzględniona Dodano do art. 9 pkt 17, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 67. PTI Art. 9 pkt 3 i 14 Propozycja: Prosimy o przeredagowanie punktów, aby uniknąć dublowania zapisów Uzasadnienie: Jak w propozycji Uwaga wyjaśniona Zdaniem projektodawcy konieczne jest utrzymanie zarówno Strona | 79 punktu 3, jak i 14 w art. 9. 68. ZPTC Lewiatan Art. 10 ust. 1 Jest: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania. Propozycja: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji. Uzasadnienie: zapis szczególny mówiący, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. W przypadku braku zaproszenia do opiniowania, inicjatywa może i powinna być po stronie Komisji. Por. Art. 9 punkt 5) Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 69. GRAI Art. 10 ust.1 Jest: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania.”. Propozycja: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji.”. Uzasadnienie: Przepis, który stanowi o tym, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. Brak zaproszenia do opiniowania może wynikać nie tylko ze złej woli, ale także być wynikiem błędu lub braku zrozumienia, że opiniowany dokument może być związany ze stosowaniem sztucznej inteligencji. Inicjatywa zatem może wtedy leżeć po stronie Komisji. por. art. 9 punkt 5 Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 70. GRAI Art. 11 Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7) art. 11, dopiero po zadaniach związanych m.in. ze wspieranie rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i i stosowania systemów SI czy udziale w Uwaga wyjaśniona Podejmowanie działań mających na celu Strona | 80 opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji jako zadanie Komisji znalazło umiejscowienie w art. 9 pkt 3. 71. GRAI Art. 11 Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Uwaga wyjaśniona Szczegółowe rozwiązania związane piaskownicami regulacyjnymi znajdują się w rozdziale 8 projektu ustawy. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 72. KIGEiT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Nie ma jasności, co do charakteru prawnego wyjaśnień, należałoby sprecyzować. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast, co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O Strona | 81 np. w zakresie formy i zawartości wniosku, opłaty itd., Powstaje pytanie, czym różnią się wyjaśnienia od opinii indywidualnych? ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 73. PIIT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 74. KIGEiT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uwaga uwzględniona Numer rozporządzenia został poprawiony 75. PIIT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia Uwaga uwzględniona Numer rozporządzenia został poprawiony. Strona | 82 Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. 76. IA Chamber Art. 12 W art. 12 odwrotnie zapisany jest numer rozporządzenia - 1689/2024 zamiast 2024/1689 (uwaga redakcyjna). Uwaga uwzględniona Numer rozporządzenia został poprawiony. 77. KIGEiT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 78. PIIT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie Strona | 83 zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 79. KIGEiT Art.12 ust.1 Błędna numeracja rozporządzenia, winno być: 1689/2024/1689. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 80. PIIT Art.12 ust.1 zła numeracja rozporządzenia: 1689/2024/1689, błędna numeracja. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 81. AmCham Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym w zakresie pozostaje w tej sytuacji niezasadne. 82. ZPTC Lewiatan Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Podmioty mogą ponieść dodatkowe koszty i wysiłki na przygotowanie własnego stanowiska, jednak nie powinno to być obowiązkowe. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że Strona | 84 niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 83. GRAI Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym zakresie pozostaje w tej sytuacji niezasadne. 84. GRAI Art. 12 ust. 6 w związku z ust. 9 Jest: „6. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w ust. 2 i 3, Komisja wzywa podmiot, który go złożył, do uzupełnienia braków w terminie 7 dni. W przypadku nieuzupełnienia braków w Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii Strona | 85 wyznaczonym terminie, wniosek pozostawia się bez rozpatrzenia, a wniesioną opłatę uznaje się za nienależną. (...) 9. Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. Komisja informuje podmiot, który złożył wniosek o opinię indywidualną, o tym, że uznaje przypadek za szczególnie skomplikowany.”. Propozycja brzmienia: „6. W przypadku [.]za nienależną. W przypadku, gdy zachodzi uzasadniona obawa, że wydanie opinii w terminach określonych w ust. 9 nie będzie możliwe, Komisja odmawia przyjęcia wniosku o wydanie opinii indywidualnej.”. Uzasadnienie: Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu (w związku z art. 12 ust. 10 i 12), które byłoby możliwe w sytuacjach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia ust. 6 w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 85. ZBP Art. 12 ust. 9 Analogicznie do wszelkich innych postępowań (w szczególności administracyjnym) od opinii indywidualnej powinno służyć odwołanie, aby zapewnić podmiotom składającym wniosek o wydanie opinii prawo do kontroli wydanej opinii przez inny niezależny i bezstronny organ (sąd), co zapewni obywatelowi poczucie sprawiedliwego rozstrzygnięcie jego sprawy. Uwaga wyjaśniona Od opinii indywidualnej nie służy odwołanie. Jest to szczególny rodzaj opinii, który na podstawie przepisów ustawy może podlegać weryfikacji i zmianie przez samą Komisję. 86. KIGEiT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 87. PIIT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Błędna numeracja odwołania Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. Strona | 86 88. GRAI Art. 12 ust. 10 w związku z ust. 12 Jest: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. (...) „12. Opinia indywidualna nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej.”. Propozycja brzmienia: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Komisja może wydać opinię po upływie terminów wskazanych w ust. 9, uznając stanowisko podmiotu za niepotwierdzone w zakresie wskazanym zaległą opinią od dnia jej wydania.”. Uzasadnienie: Błąd redakcyjny w numeracji ustępów. Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu w przypadkach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 89. GRAI Art. 12 ust. 11 Uwaga redakcyjna: Brakuje rozdzielania w sformułowaniu „sądowo - administracyjnego”. Uwaga wyjaśniona Przepisowi ust. 13 nadano brzmienie zgodnie z treścią uwagi. 90. ICC Poland Art. 12 ust. 10 i ust. 12 Artykuł 12 ust. 12 Projektu określa skutek prawny wydania opinii indywidualnej, zgodnie z którym opinia taka „nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Równocześnie zgodnie z art. 12 ust. 10 Projektu „niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną” [podkreślenie własne]. Porównanie obu ww. przepisów może rodzić wątpliwości czy fikcja potwierdzenia stanowiska, o której mowa w art. 12 ust. 10 Projektu, wywoła skutek z art. 12 ust. 12 Uwaga uwzględniona Przepisowi ust. 10 nadano brzmienie zgodnie z treści uwagi. Strona | 87 Projektu, tj. czy zastosowanie się podmiotu, który złożył wniosek o opinię indywidualną i nie została ona wydana w terminie, do stanowiska przedstawionego we wniosku nie będzie mogło stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Zachodzi zatem konieczność zapewnienia kompatybilności obu tych przepisów. Cel ten może zostać osiągnięty przez następującą zmianę art. 12 ust. 10 Projektu: Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Na marginesie, wobec treści art. 12 ust. 10 Projektu oraz art. 115 ust. 3 Projektu, przewidującego zwołanie pierwszego posiedzenia Komisji w terminie maksymalnie 3 miesięcy od dnia wejścia w życie ustawy, wydaje się konieczne uregulowanie w ramach przepisów przejściowych, od kiedy możliwe jest składanie wniosków o wydanie opinii indywidualnych (również w kontekście potrzeby zorganizowania Biura Komisji). 91. ZBP Art. 12 ust. 11 Literówka. Brakuje rozdzielania w sformułowaniu „sądowoadministracyjnego” Uwaga uwzględniona Przepis ust. 13 otrzymał brzmienie zgodnie z treścią uwagi. 92. ZBP Art. 12 ust. 12 Opinia indywidualna jest wydawana na wniosek zainteresowanego podmiotu. Wydanie tej opinii powinno zostać uregulowane analogicznie do wydania interpretacji indywidualnej, czyli powinna ona być wiążąca dla Komisji i innych organów w danej sprawie. Należy mieć na uwadze, że interpretacja przepisów służy podjęciu przez dany podmiot oceny dotyczącej wprowadzenia danego systemu lub rozwiązania dotyczącego AI, co wiąże się ze znacznymi nakładami finansowymi oraz dostosowaniem innych wewnętrznych systemów oraz regulacji dotychczas stosowanych w danym podmiocie. Z tego względu niewiążąca opinia nie będzie stanowiła gwarancji właściwej interpretacji danych przepisów i spowoduje to stan permanentnej niepewności dotyczącej wprowadzanych systemów AI i brak bezpieczeństwa obywateli do wydawanych opinii indywidualnych. Celem złożenia wniosku o wydanie opinii indywidualnej jest zapewnienie podmiotowi bezpieczeństwa w zakresie stanu faktycznego i interpretacji przepisów znajdujących zastosowanie do tego stanu faktycznego objętego wnioskiem. W przeciwnym razie instytucja ta nie będzie spełniała swoich podstawowych funkcji. Z tego względu proponujemy alternatywne brzmienie przepisu: „Opinia indywidualna nie jest wiążąca dla Komisji i innych organów państwowych i jednostek organizacyjnych właściwych dla przedsiębiorcy podmiotu, który złożył wniosek i zakresie danej sprawy we wskazanym we wniosku stanie faktycznym. z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji Uwaga uwzględniona Przepis otrzymał brzmienie zgodne z treścią uwagi. Strona | 88 administracyjnej.Opinia może zostać zmieniona jedynie w drodze wznowienia postepowania. Opinia nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły nieodwracalne skutki.” 93. ZBP Art. 12 ust. 13 Żaden podmiot (np. przedsiębiorca) nie ma wiedzy o innych toczących się postepowaniach przed Komisją lub sądem. Dodatkowo w przypadku, gdy inny podmiot złoży odwołanie od wydanej na podstawie jego wniosku decyzji to postepowanie takie może długo trwać, a zamyka drogę do rozpoznania sprawy innego podmiotu. Inna sytuacja jest w przypadku, gdy decyzja w analogicznej sprawie została już wydana. Powinna ona być nie tylko rozstrzygnięta, ale też opublikowana, aby każdy miał do jej treści łatwy dostęp. Z tego względu proponujemy alternatywne brzmienie przepisu: Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o opinię indywidualną są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowoadministracyjnego w wyniku złożenia przez dany podmiot wcześniejszego wniosku o wydanie opinii albo gdy w tym zakresie sprawa została rozstrzygnięta i opublikowana. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 89 wymagane dla osiągniecia celu wskazanego w uwadze. 94. Związek Cyfrowa Polska Art. 12 ust. 13- 15 Projektowana ustawa nie precyzuje - a powinna- że wnioskodawca nie poniesie negatywnych konsekwencji za udzielenie informacji przy założeniu, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli wnioskodawca nie wiedział o takim postępowaniu. Wnioskodawca może nie mieć możliwości uzyskania takiej informacji, jeśli stosowna informacja nie została jeszcze oficjalnie przekazana. Przepis powinien wyraźnie wskazywać, że wnioskodawca nie poniesie negatywnych konsekwencji za stwierdzenie, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli nie wiedział o takim postępowaniu w momencie składania wniosku. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego weryfikowania, czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się postępowania przed polskimi organami, sądami lub instytucjami przed złożeniem wniosku o wydanie opinii indywidualnej. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 90 wymagane dla osiągniecia celu wskazanego w uwadze. 95. GRAI Art. 12 i 13 Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? Uwaga wyjaśniona Środki wspierające innowacyjność zostały ujęte w rozdziale 8. 96. ICC Poland Art. 12 i 14 Zgodnie z nową treścią art. 14 Projektu: „Opinie indywidualne i wyjaśnienia, o których mowa w art. 11-13 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, jak również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji”. Na ogólną aprobatę zasługuje uwzględnienie zgłoszonych w toku poprzednich konsultacji publicznych uwag dotyczących konieczności ochrony informacji poufnych i tajemnicy przedsiębiorstwa w kontekście publikacji opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Za zmianą tą powinien podążyć jednak mechanizm pozwalający wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku lub powołania się na inną tajemnicę prawnie chronioną. Trudno bowiem oczekiwać, że Komisja samodzielnie będzie w stanie zidentyfikować i ocenić tego rodzaju okoliczność. Z tego względu proponuje się uzupełnienie art. 12 Projektu o wyraźne wskazanie, że wniosek o wydanie opinii indywidualnej może zawierać zastrzeżenie, że określone informacje zawarte we wniosku nie mogą być udostępnianie z uwagi na to, że stanowią tajemnicę przedsiębiorstwa. Przepis taki mógłby mieć następującą treść: We wniosku o wydanie opinii indywidualnej można zastrzec i wykazać, że określone zawarte w nim informacje stanowią tajemnicę przedsiębiorstwa w rozumieniu przepisów ustawy z dnia 16 kwietnia 1993 r. o zwalczaniu nieuczciwej konkurencji (Dz. U. z 2022 r., poz. 1233) lub objęte są inną tajemnicą prawnie chronioną i nie mogą być udostępniane. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści opinii indywidualnej lub wyjaśnień, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 97. ZBP Art. 13 Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia KRiBSI w zakresie stosowania przepisów AI Act oraz ustawy nie mogą stać w sprzeczności z Wytycznymi Uwaga wyjaśniona Strona | 91 i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): „Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej.” Należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 98. GRAI Art. 13 Proponujemy, aby wyraźnie wskazać, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uwaga wyjaśniona Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689/”. 99. GRAI Art. 14 Wskazania wymaga moc prawna opinii indywidualnych, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? Uwaga wyjaśniona Zgodnie z art. 12 ust. 12 opinia indywidualna jest wiążąca dla Komisji i podmiotu, który złożył o Strona | 92 nią wniosek, działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. 100. GRAI Art. 14 Zwracamy także uwagę potrzeba ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 101. GRAI Art. 14 ust. 2 Propozycja: Aby ograniczyć ryzyko ujawnienia tożsamości wnioskodawców zalecamy dodanie ust. 2 do art. 14 Projektu - podobnie jak w art. 65 ust. 1 ustawy o przetwarzaniu danych osobowych z 2018 r. - który mógłby otrzymać brzmienie: „ust. 2: Wnioskodawca może zastrzec informacje, dokumenty lub fakty stanowiące tajemnicę przedsiębiorstwa, które nie powinny być publikowane w Biuletynie Informacji Publicznej, chyba że wnioskodawca wyrazi na to wyraźną zgodę”. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 102. PTI Art. 14 Powinien być dodany termin rozpatrzenia wniosku (w kontekście art. 11-13). Prosimy o uzupełnienie brzmienia artykułu 14 Uwaga wyjaśniona Strona | 93 Zgodnie z art. 12 ust. 9 Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. 103. Związek Cyfrowa Polska Art. 14 Projektowana ustawa powinna wyraźnie określać, w jaki sposób wnioskodawca powinien oznaczać informacje, które nie powinny być publikowane, np. tajemnice przedsiębiorstwa. Obecne przepisy nie określają jasnych zasad identyfikacji danych poufnych w kontekście indywidualnych opinii i wyjaśnień. Wnioskodawcy powinni mieć wyraźne prawo do żądania wyłączenia określonych informacji z publikacji. Zalecamy dodanie przepisu umożliwiającego wnioskodawcom oznaczenie informacji poufnych jako niepublicznych w momencie ich składania. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności Strona | 94 określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 104. KIGEiT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 105. PIIT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Mając na uwadze, że Powołanie Przewodniczącego następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego naboru wydaje się nieadekwatnym rozwiązaniem. 106. KIGEiT Art.16 ust.1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Rekomenduje się zmiany sformułowania jw. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. Strona | 95 107. PIIT Art.16 ust. 1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem - rekomendacja zmiany sformułowania. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. 108. ZBP Art. 18 ust. 5 Termin na złożenie dokumentów w odpowiedzi na ogłoszoną informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji powinien być dłuższy ze względu na to, że nikt nie sprawdza w/w stron codziennie, a ponadto konieczne jest zgromadzenie dokumentów potwierdzających wiedzę i doświadczenie w zakresie AI. Chodzi o to, aby wyłonić kandydata posiadającego dużą wiedzę i doświadczenie, a taki krótki termin może spowodować, że część kandydatów, którzy zgłosiliby swoją kandydaturę nie złoży dokumentów ze względu na zbyt krótki termin, co będzie ze szkodą dla działalności Komisji i w konsekwencji ze szkodą dla podmiotów wdrażających systemy AI. Z tego względu proponujemy alternatywne brzmienie przepisu: „Termin, o którym mowa w ust. 4 pkt 6, nie może być krótszy niż 10 30 dni od dnia opublikowania ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej urzędu obsługującego ministra właściwego do spraw informatyzacji.” Uwaga uwzględniona W projekcie wskazano termin 21 dni. 109. KIGEiT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący, co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Należałoby doprecyzować, spośród kogo wybierany jest zespół oraz w jakim trybie są wybierane te osoby, a także, kto weryfikuje ich kompetencje do tego zadania. Uwaga wyjaśniona Projektodawca nie dostrzega zasadności modyfikacji zaproponowanych przepisów. Tryb i sposób powołania zastępców przewodniczącego uregulowane są w przepisach art. 18. 110. PIIT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w Uwaga wyjaśniona Zespół powoływany jest przez Przewodniczącego Strona | 96 podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Komisji. W jego gestii pozostaje sposób weryfikacji członków. Członkami zespołu mogą być osoby odznaczające się wiedzą i doświadczeniem w zakresie sztucznej inteligencji lub prawa jak również doświadczeniem zawodowym uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 111. Fundacja Panoptykon Art. 21 Konflikt interesów w przypadku członków Komisji Pragniemy powtórnie podkreślić, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji, których przedstawiciele będą członkami Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 21 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Uwaga wyjaśniona Przepisy ustawy w sposób i proporcjonalny adresują kwestie związane z konfliktem interesów członków Komisji. 112. ZPTC Lewiatan Art. 22; art. 24 Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu Uwaga wyjaśniona Strona | 97 zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie wprowadzić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Przedmiotowe przepisy uległy znaczącym zmianom. 113. GRAI Art. 22 ust. 1 W jaki sposób Komisja realizowała będzie swój obowiązek informacyjny? Dlaczego tylko dla Biura Komisji przewidziane zostało takie szczególne uregulowanie? Uwaga uwzględniona Art. 22 ust. 1. został wykreślony. 114. GRAI Art. 22 ust. 2 Zapis jest niejasny. Oznacza, że komisja powinna zrealizować sama swój obowiązek informacyjny? A może mowa o innych obowiązkach jakich? Na gruncie RODO? Uwaga uwzględniona W art. 22 ust. 2 został wykreślony. 115. GRAI Art. 22 ust. 1 i 2 Zapisy w projekcie wprowadzają istotne wątpliwości, co do tego kto jest administratorem danych na gruncie ustawy. Taka sytuacja nie powinna mieć miejsca. Jako że rozporządzenie 2016/679 (RODO) daje możliwość ustanawiania regulacji szczególnych w prawie krajowym to tym bardziej ustawa powinna w sposób klarowny i jednoznaczny określać jakiekolwiek odmienności od rozporządzenia Uwaga wyjaśniona W art. 22 ust. 1 i 2 zostały wykreślone. 116. AmCham Art. 22 ust. 5 Celem zapewnienia solidnych ram ochrony danych w kontekście sztucznej inteligencji, konieczne jest wprowadzenie bardziej rygorystycznych środków bezpieczeństwa, które będą regulować ujawnianie informacji poufnych podmiotom zewnętrznym, w tym organom ścigania. Jednym z podstawowych zabezpieczeń może być wprowadzenie obowiązku uzyskania uprzedniej zgody sądu lub prokuratora przed udostępnieniem takich danych. To dodatkowe wymaganie zapewniłoby, że ujawnienie danych nastąpi tylko wtedy, gdy istnieje wyraźna, uzasadniona podstawa prawna i nie narusza to innych istotnych praw. Alternatywnie lub dodatkowo, można dostosować obecne ramy prawne do standardów poufności zawartych w Prawie o komunikacji elektronicznej. Takie dostosowanie zapewniłoby spójne i kompleksowe podejście do ochrony wrażliwych informacji w różnych sektorach, w tym w obszarze AI. Należy podkreślić, że dane związane z AI często obejmują nie tylko cenne informacje biznesowe i rynkowe, ale także krytyczne szczegóły operacyjne firm zaangażowanych w rozwój i wdrażanie AI. Nieuprawnione ujawnienie takich danych może mieć poważne konsekwencje, takie jak utrata przewagi konkurencyjnej, szkody finansowe, a nawet zagrożenie dla bezpieczeństwa narodowego. W związku z tym niezbędne jest ustanowienie mechanizmów prawnych, które skutecznie zapobiegną nieuzasadnionemu udostępnianiu danych związanych z AI. Uwaga wyjaśniona W art. 22 ust. 5 został wykreślony. Strona | 98 Obecnie istnieje ryzyko, że takie dane mogą być udostępniane bez odpowiedniej kontroli, co może prowadzić do niezamierzonego ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i zapewniłoby, że dostęp do wrażliwych danych AI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba, np. w ramach prowadzonego postępowania karnego. Taki mechanizm zwiększyłby również zaufanie do ram regulacyjnych i zapewniłoby ochronę praw wszystkich zainteresowanych stron. 117. KIGEiT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. Jeśli przepis nie zostanie usunięty to proponujemy następujące zmiany: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: · 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; ·6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych, o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem). Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 118. PIIT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą odnoszącą się do sądów/sędziów Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. Strona | 99 wniosek: 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; 6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). 119. PIIT Art. 22 ust. 5 Wprowadzenie wymogu uprzedniej zgody sądu albo prokuratora dla żądania danych. Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. Strona | 100 120. Związek Cyfrowa Polska Art. 22 ust. 5 Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba. Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. 121. GRAI Art. 22 i 23 W miejsce obecnie zaproponowanych przepisów, które budzą liczne wątpliwości proponujemy odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO, zarówno w odniesieniu do Komisji, Biura Komisji, jak i potencjalnie Rady Społecznej, jeśli w ramach jej zadań przetwarzane będą dane osobowe. A dodatkowo wskazać w ustawie bardzo wyraźnie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e czy h RODO/ częściowo jest to zrobione, ale w sposób wybiórczy i enigmatyczny. Uwaga nieaktualna Art. 22 został wykreślony a art. 23 uległ znaczącym zmianom. 122. GRAI Art. 23 ust. 2 Przepis brzmi jak ograniczenie obowiązków Komisji na gruncie RODO. Zaproponowane rozwiązanie jest zupełnie bezpodstawne. Uwaga uwzględniona W art. 23 ust. 2 został wykreślony. 123. GRAI Art. 23 ust. 2 Jest: Art. 23 ust. 2: „Komisja, przetwarzając dane osobowe prowadzi analizę ryzyka zgodnie z zasadą integralności i poufności, o których mowa w art. 5 ust. 1 lit. f rozporządzenia 2016/679, jak również stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje i stosuje procedury bezpiecznej wymiany informacji.” Komentarz: art. 5 ust. 1 lit. f rozporządzenia 2016/679 wskazuje na zasadę poufności i integralności przetwarzanych danych. Środki ochrony danych, o których mowa w art. 23 ust. 2 dotyczą art. 32 rozporządzenia 2016/679. Uwaga nieaktualna W art. 23 ust. 2 został wykreślony. Strona | 101 Sugerowana zamiana przepisu art. 23 ust. 2: „2. Komisja, przetwarzając dane osobowe przeprowadza analizę ryzyka dobierając odpowiednie środki techniczno – organizacyjne zgodnie z art. 322 rozporządzenia 2016/679 wywiązując się z zasad, o których mowa w art. 5 ust. 1 lit. F rozporządzenia 2016/679.”. 124. GRAI Art. 23 ust. 4 Jest: „4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane.”. Proponujemy wykreślenie tego przepisu ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”). A zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO. Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 125. AmCham Art. 23 ust. 4 Proponujemy wykreślenie tego ustępu, ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”)”, a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 126. ZPTC Lewiatan Art. 23 ust. 4 Jest: 4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane. Uwaga uwzględniona Strona | 102 Proponujemy wykreślenie tego zapisu, ponieważ przepisy rodo bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”); a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przetwarzanie do zgodnego z przepisami RODO. W art. 23 ust. 4 został wykreślony. 127. IWP Repropol Art. 25 i art. 26 Projekt ustawy ustanawia Społeczną Radę do spraw Sztucznej Inteligencji, gremium doradcze przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI). Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 25 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania (OZZ) dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest niemożliwie do przecenienia. Co więcej, powszechnie znane problemy z funkcjonowaniem generatywnej odmiany Sztucznej Inteligencji powstają właśnie na styku z szeroko pojętą własnością intelektualną. OZZ bardzo pilnie śledzą i uczestniczą w tej dyskusji, dzięki czemu jako jedna z pierwszych grup podmiotów są one głęboko zaangażowane w analizę powstawania i funkcjonowania modeli i systemów AI. Mając na uwadze ten bagaż doświadczenia, prosimy o odpowiednie uzupełnienie art. 25 ust. 3 UoSSI. Zwraca naszą uwagę, że projekt konsekwentnie nie przewiduje możliwość uczestnictwa w społecznej radzie za choćby niewielkim honorarium (art. 26 ust. 6 UoSSI). Ze dziwieniem odnotowujemy uzasadnienie nieodpłatnego uczestnictwa w pracach rady („(...) chcąc nie generować niepotrzebnych kosztów po stronie budżetu państwa nie przewiduje się wynagrodzenia dla członków Komisji poza Przewodniczącym i jego zastępcami”, s. 10 uzasadnienia). Uważamy, że uczestnictwo w tak wysoko wyspecjalizowanym gremium oraz dzielenie się unikalną wiedzą na temat sztucznej inteligencji uzasadnia zapłatę. Ponownie zwracamy uwagę, że zakwalifikowanie tego Uwaga wyjaśniona Nie jest planowane poszerzenie katalogu podmiotów o OZZ. Skład podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk twórczych. Udział w pracach Rady pozostaje nieodpłatny Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych Strona | 103 rodzaju wynagrodzenia do kategorii „niepotrzebnego kosztu” jest w naszym przekonaniu wybitnie niefortunnym skrótem myślowym. w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 128. GRAI Art. 25 Proponujemy rozszerzenie wymagania o pewien minimalny okres pracy w obszarze cyfryzacji, w celu dodania mierzalności doświadczenia. Poniżej propozycja dodatkowego zapisu: „posiada co najmniej pięcioletni staż pracy na stanowiskach z obszaru cyfryzacji;”. Uwaga wyjaśniona Mając na uwadze charakter Społecznej Rady wskazane kryterium jest nadmiarowe. 129. ZBP Art. 25 ust. 3 Zwracamy uwagę na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być również przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. p. 7): „7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, bankowości, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych;”. Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 130. GRAI Art. 25 ust. 3 pkt 7 Wskazujemy na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, tak, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. 3 pkt 7: 7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 131. GRAI Art 25 ust. 3 pkt 10 Proponuje rozszerzenie katalogu podmiotów zgłaszających o organizację społeczne i stowarzyszenia zajmujące się w swoich celach statutowych szeroko pojętym bezpieczeństwem informacji, ze względu na bardzo duże powiazanie pomiędzy rozwojem technologii sztucznej inteligencji, a informacjami i ich bezpieczeństwem. Poniżej propozycja przepisu z naniesioną zmianą: Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 104 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej, bezpieczeństwa informacji. 132. Stowarzyszen ie Autorów ZAiKS Art. 25 ust. 3 nowy pkt 11 W art. 25 ust. 3 po punkcie 10) dodaje się średnik oraz punkt 11) o następującym brzmieniu: „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.” ALTERNATYWNIE „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem z systemów sztucznej inteligencji.” UZASADNIENIE Artykuł 25 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (dalej „Rada”), powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych lub szerzej, podmiotów, których prawa mogą być naruszane przez systemy sztucznej inteligencji. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów AI oraz modelami AI. Nadzór ten musi uwzględniać przestrzeganie przez branżę AI unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji lub y działające na rzecz jej rozwoju, a nie zapewnia przy tym zeczywistego przedstawicielstwa sektorów kreatywnych czy użytkowników systemów AI, zakłócając tym samym równowagę interesów tych różnych grup podmiotów działających w ramach bezstronnego organu, jakim ma być Rada. Dodanie w konsultowanym Projekcie do katalogu podmiotów mogących być powołanymi do Rady przedstawicieli trzeciego sektora działających „na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej” nie rozwiązuje problemu braku właściwego przedstawicielstwa organizacji reprezentujących twórców czy artystów wykonawców. Organizacje te nie prowadzą Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 105 działalności w zakresie rozwoju kultury cyfrowej, a ich statutowym działaniem jest zapobieganie naruszeniom praw ich członków. Tych samych praw, które od wielu lat naruszane są na masową skalę przez dostawców modeli i systemów Gen AI. Organizacje reprezentujące twórców na całym świecie – takie jak CISAC (Międzynarodowa Konfederacja Stowarzyszeń Autorów i Kompozytorów), alarmują, że przedsiębiorstwa z branży AI od lat bezumownie korzystają z chronionych treści do trenowania swoich modeli generatywnej sztucznej inteligencji. Modele te coraz lepiej naśladują styl i estetykę konkretnych artystów, co prowadzi do deprecjacji oryginalnej twórczości i zmniejsza dochody autorów. Z raportu zleconego przez CISAC wynika, że gwałtowny wzrost przychodów dostawców Gen AI w ciągu najbliższych pięciu lat idzie w parze z ryzykiem znaczącej utraty dochodów twórców z powodu wypierania dzieł ludzkich przez generowane przez AI substytuty. Szacuje się, że pomimo dostarczania istotnych zasobów kreatywnych dla rynku treści generowanych przez AI, do 2028 r. twórcy muzyki oraz utworów audiowizualnych mogą doświadczyć strat wynoszących odpowiednio 24% i 21% ich obecnych przychodów. Łącznie ma to oznaczać stratę rzędu 22 miliardów euro w ciągu pięciu lat (10 miliardów euro w branży muzycznej oraz 12 miliardów euro w sektorze audiowizualnym). W szczególności silnie dotknięte zostaną rynki streamingu i bibliotek muzycznych, gdzie prognozuje się, że do 2028 r. muzyka generowana przez AI będzie stanowić około 20% przychodów tradycyjnych platform streamingowych oraz aż 60% przychodów bibliotek muzycznych. Podobne zagrożenie dotyczy twórców audiowizualnych. Najbardziej narażeni na straty są tłumacze oraz osoby zajmujące się dubbingiem i napisami, którzy mogą stracić nawet 56% swoich dochodów. Również scenarzyści i reżyserzy muszą liczyć się z konsekwencjami, gdyż AI może „skanibalizować” od 15% do 20% ich przychodów. Wzrost roli Gen AI w przemyśle kreatywnym rodzi więc poważne pytania o przyszłość wynagrodzeń i ochrony praw twórców. AI Act wymaga, aby organy odpowiedzialne za nadzór nad sztuczną inteligencją uwzględniały głos wszystkich stron zainteresowanych potencjalnym wpływem systemów AI na prawa i obowiązki prawne. Organizacje reprezentujące uprawnionych z tytułu praw autorskich i pokrewnych pełnią fundamentalną rolę w ochronie interesów twórców i wykonawców, dlatego ich pominięcie ich udziału w organach nadzorujących wdrożenie AI Act w Polsce stanowi naruszenie tej zasady. Uwzględniając powyższe argumenty, wnioskujemy o uzupełnienie składu Rady i właściwe zrównoważanie interesów wszystkich interesariuszy. 133. PTI Art. 25 ust. 4 pkt 1 LUB warto zamienić na ORAZ. 1. posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii oraz praw człowieka; Uwaga uwzględniona Strona | 106 LUB określa funkcję OR dla wymienionych kompetencji, co sprawia, że kompetencje w obszarze praw człowieka są alternatywą dla kompetencji technicznych, co spełnia warunek posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji dla osób bez kompetencji technicznych. Przepis został skorygowany zgodnie z treścią uwagi. 134. IA Chamber Art. 25 ust. 6 pkt 7 Ponownie wnosimy o usunięcie przepisu art. 25 ust. 6 pkt. 7. Członkowie Rady nie reprezentują organizacji, które zgłosiły ich kandydatury i nic nie uzasadnia wygaszania mandatów Członków w ten sposób. Uwaga uwzględniona Przepis został wykreślony. 135. KIGEiT Art. 26 ust.3 2.Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby, (choć nie jest wskazane, w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się, bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co budzi wątpliwości. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 136. PIIT Art. 26 ust.3 Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 137. KIGEiT Art. 26 ust. 4 w zw. z Art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady Strona | 107 zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 138. PIIT Art. 26 ust. 4 w zw. z art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 139. PTI Art. 26 ust. 4 W zapisach brakuje określenia, pod jakim rygorem członek Rady dotrzymuje tajemnicy Sugerujemy określić warunki/rygor dochowania tajemnicy. Ujawnienie sensytywnych informacji przez członka Społecznej Rady musi być powiązane z odpowiednim przepisem, który tego zabrania pod karą wynikającą z kodeksu karnego Uwaga uwzględniona Rygor został określony w art. 25 ust. 8. Strona | 108 140. IA Chamber Art. 26 ust. 5 Nie został odpowiednio dopracowany przepis dotyczący konfliktu interesów członków Rady (obecnie w art. 26 ust. 5 projektu ustawy). Jest on sformułowany zbyt szeroko, mogąc prowadzić do nacisków wobec członków Rady. Przepis ten powinien bardziej precyzyjnie wskazywać, że dany członek powinien wyłączyć się z prac Rady w sytuacjach wystąpienia bezpośredniego konfliktu interesów. Uwaga wyjaśniona Mając na uwadze, że rada jest ciałem opiniodawczo doradczym projektodawca nie widzi zasadności doprecyzowania przedmiotowego przepisu. 141. KIGEiT Art. 27 ust.1 pkt 2 2) przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Natomiast należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 49 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 142. PIIT Art. 27 ust.1 pkt 2 Przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie Strona | 109 Natomiast co do zasady należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 143. AmCham Art. 27 ust. 2 Obecna redakcja przepisu może sugerować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące, co nie wydaje się zgodne z intencją projektodawcy. Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 144. KIGEiT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 145. PIIT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały, ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Strona | 110 Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 146. ZPTC Lewiatan Art. 27 ust. 2 Czy z projektu zapisu należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 147. GRAI Art. 27 ust. 2 Przy obecnym brzmieniu przepisu, pojawia się wątpliwość, czy należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1 są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 148. Stowarzyszen ie Autorów ZAiKS Art. 27 ust. 3 Biorąc pod uwagę, że Rada może liczyć od 9 do 15 członków - wątpliwości budzi nie zawarcie w art. 27 ust. 3 Projektu wskazówki, jak rozwiązać impas w przypadku równej liczby głosów. Wskazane jest więc dodanie, że \"w razie równej liczby głosów rozstrzyga głos Przewodniczącego Rady\". Uwaga wyjaśniona Tryb ten zostanie uregulowany w regulaminie, o którym mowa w art. 26 ust. 8. 149. KIGEiT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w Strona | 111 zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 150. PIIT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 151. GRAI Art. 28 Mając na uwadze, że w skład Komisji mają wejść przedstawiciel RPD, wyjaśnienia wymaga jakie jest uzasadnienie włączenia przedstawiciela również do Rady? Uwaga wyjaśniona RPD w nowej wersji projektu ustawy nie wchodzi w skład KRiBSI, natomiast może zgłaszać przedstawicieli do Społecznej Rady. Strona | 112 152. SFP-ZAPA Art. 28 ust. 3 Uzupełnienie katalogu podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji poprzez zapewnienie takiego prawa także podmiotom reprezentującym osoby, których prawa mogą być naruszone przez sztuczną inteligencję, w szczególności organizacjom zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi. Uwaga wyjaśniona Katalog podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk zwianych z prawami autorskimi i prawami pokrewnymi. 153. KIGEiT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biura Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 154. PIIT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Strona | 113 Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 155. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów Obecny przepis: Wymaga uprzedniej zgody Komisji na rozpoczęcie testów. Proponowana zmiana: Wprowadzenie modelu \"na zgłoszenie\" z domniemaną zgodą po 14 dniach braku sprzeciwu. Uzasadnienie: Skrócenie czasu uruchamiania testów z kilku tygodni do maksymalnie dwóch tygodni. Model \"na zgłoszenie\" eliminuje zbędne formalności, co sprzyja dynamicznemu wdrażaniu innowacji. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 156. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów w piaskownicy regulacyjnej Obecny przepis: \"Testowanie systemów AI w piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.\" Proponowana zmiana: Uwaga częściowo wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Strona | 114 1. Testowanie systemów AI w piaskownicy regulacyjnej odbywa się na podstawie zgłoszenia do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Komisja w terminie 14 dni od dnia otrzymania zgłoszenia może zgłosić zastrzeżenia. Brak odpowiedzi w tym terminie oznacza domniemaną zgodę. 3. Procedura zgłoszeniowa ogranicza się do elektronicznego formularza zawierającego podstawowe informacje o projekcie. Dodatkowa dokumentacja jest wymagana tylko dla projektów wysokiego ryzyka. 4. Komisja publikuje wzory dokumentów i instrukcje zgłoszeniowe w formie elektronicznej. System zgłoszeń podlega kwartalnej analizie, której wyniki są podstawą do modyfikacji procesu, skracania czasu obsługi i usuwania barier proceduralnych. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 157. GRAI Art. 31 Art. 31 – Raportowanie i autoaktualizacja procesów Obecny przepis: Obowiązek cyklicznych raportów. Proponowana zmiana: Raport końcowy obowiązkowy dla wszystkich; raport śródokresowy tylko dla projektów dłuższych niż 6 miesięcy. Komisja analizuje zebrane dane co 6 miesięcy i wprowadza zmiany w procedurach w ciągu 30 dni. Uzasadnienie: Zmniejszenie obciążeń administracyjnych i skrócenie czasu sprawozdawczości. Regularna analiza pozwoli na dostosowanie piaskownicy do potrzeb uczestników i poprawę jej wydajności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały Strona | 115 Proponowana zmiana: 1. Uczestnicy składają jedynie raport końcowy po zakończeniu testów, zawierający wnioski i rekomendacje dotyczące procesu testowania. 2. Projekty trwające powyżej 6 miesięcy składają jedno sprawozdanie śródokresowe. 3. Komisja co 6 miesięcy przeprowadza analizę zebranych raportów oraz opinii uczestników, aktualizując procedury i narzędzia piaskownicy w celu poprawy wydajności i użyteczności. Wdrożenie zmian wynikających z analizy następuje nie później niż w ciągu 30 dni od daty opublikowania raportu z ewaluacji. ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 158. GRAI Art. 31 - Propozycja mechanizmu zarządzania testami (Art. 31 – nowe ustępy) > Dodane do art. 31 ust. 4-6 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” > Zmiana: ● Obowiązek wyznaczenia osoby zarządzającej testami – zmniejsza to potrzebę kontroli administracyjnej. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne Strona | 116 Brak konieczności dodatkowej oceny przez organ państwowy – wystarczy raport końcowy. niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 159. GRAI Art. 32 Art. 32 – Nabór i adaptacja procesu Obecny przepis: Organizacja co najmniej trzech konkursów rocznie. Proponowana zmiana: Stały nabór otwarty z decyzjami wydawanymi w ciągu 14 dni. Uzasadnienie: Eliminacja przestojów wynikających z oczekiwania na konkursy. Ciągła rekrutacja pozwala na większą elastyczność i dostępność, szczególnie dla MŚP i startupów. Proponowana zmiana: 1. Komisja prowadzi stały nabór, umożliwiając zgłoszenia w dowolnym momencie. 2. W przypadku wprowadzenia limitów uczestników pierwszeństwo mają MŚP i startupy. 3. Proces naboru podlega bieżącej analizie i dostosowaniu na podstawie feedbacku z poprzednich edycji, co ma na celu eliminowanie zbędnych formalności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia Strona | 117 Decyzje dotyczące przyjęcia do piaskownicy są publikowane w ciągu 14 dni od daty zgłoszenia. piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 160. GRAI Art. 35 Art. 35 – Zarządzanie i doskonalenie piaskownic Obecny przepis: Komisja pełni funkcję nadzorczą. Proponowana zmiana: Wprowadzenie zespołu monitorującego do analizy skuteczności piaskownicy. Wyniki analizy są podstawą do wprowadzenia zmian w ciągu 30 dni. Uzasadnienie: Systematyczna ewaluacja umożliwia szybką identyfikację i eliminację problemów, zwiększając użyteczność piaskownicy. Proponowana zmiana: 1. Komisja nadzoruje zgodność testów z przepisami i standardami bezpieczeństwa, nie ingerując w codzienne zarządzanie projektami. 2. Powołuje zespół monitorujący, którego zadaniem jest cykliczna analiza efektywności piaskownicy oraz przygotowywanie rekomendacji dotyczących usprawnień. Każdy cykl testów kończy się oceną systemu zarządzania piaskownicą. Wdrożenie rekomendowanych zmian następuje w terminie 30 dni od zakończenia analizy. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część Strona | 118 Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 161. AmCham Art.36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Ograniczenie to nie wydaje się celowe Uwaga wyjaśniona W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy 162. Stowarzyszen ie Autorów ZAiKS Art. 36 ust. 1 Niejasne jest sformułowanie art. 36 ust. 1 Projektu w zakresie, w jakim umożliwia ministrom właściwym do spraw informatyzacji, do spraw szkolnictwa wyższego i nauki oraz do spraw gospodarki powierzanie Komisji realizacji zadań, które na mocy ustawy (art. 9 pkt 3, 8, 11 i 14) będą zadaniami własnymi Komisji. Tym samym brzmienie przepisu nie wydaje się odpowiadać intencjom projektodawcy dot. możliwości powierzania Komisji realizacji zadań innych niż te, które zobowiązana jest wykonywać na mocy ustawy, które już zostały wskazane w art. 9 Projektu. Uwaga nieaktualna Art. 36 został wykreślony z projektu ustawy. 163. ZPTC Lewiatan Art. 36 ust. 1 W porównaniu z poprzednim projektem ustawy nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Jaki jest powód takiego ograniczenia? Uwaga nieaktualna Odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. Strona | 119 164. GRAI Art. 36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji rządowej, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Czy jest powód takiego ograniczenia i dlaczego takich zadań – w zakresie ograniczonym jak w propozycji art. 36 ust.1 – nie może zlecić np. Prezes Rady Ministrów? Uwaga nieaktualna W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. 165. FinTech Poland Rozdział 3 Prawa kontrolowanego Doceniamy wprowadzenie minimalnego terminu na notyfikację kontrolowanego o planowanej kontroli. Jest to krok w kierunku zapewnienia przewidywalności i ochrony podmiotów poddawanych kontroli. Jednakże, ustalenie maksymalnego czasu trwania kontroli na 21 dni jest równie istotnym elementem zapewnienia sprawności, przewidywalności oraz efektywności prowadzonych kontroli. Brak ograniczenia czasowego mógłby prowadzić do przewlekłości procesów kontrolnych. W konsekwencji przeciągające się kontrole mogą negatywnie wpływać na kontrolowane podmioty i w efekcie uniemożliwiać prowadzenie kontrolowanym podmiotom działalności gospodarczej. Proponowany czas 21 dni pozwoli kontrolowanemu realnie oszacować czas kontroli i zminimalizować problemy z nią związane. Z drugiej strony, okres 3 tygodni będzie odpowiednim czasem dla Komisji na przeprowadzenie rzetelnej i skrupulatnej kontroli. Uwaga wyjaśniona Należy zaznaczyć, że ograniczenie czasowe wprowadzone jest w ramach przepisów o postępowaniu przed Komisją (maksymalny okres trwania to 6 miesięcy). 166. GRAI Art. 38 Art. 38 – Ogólnopolski zasięg i dostępność (nowy artykuł) Proponowana zmiana: Obowiązek zapewnienia dostępu dla podmiotów z całego kraju oraz organizacja spotkań konsultacyjnych dwa razy w roku. 1. Piaskownice regulacyjne mają zapewnić dostęp podmiotom z całej Polski, z uwzględnieniem potrzeb MŚP i startupów. 2. Komisja organizuje co najmniej dwa razy w roku spotkania z uczestnikami w celu zebrania opinii o funkcjonowaniu piaskownicy i dostosowania jej do potrzeb rynku. 3. System zgłoszeń, dokumentacji i komunikacji jest regularnie aktualizowany, by eliminować identyfikowane problemy. Uzasadnienie: Wzmacnia ogólnopolski zasięg i pozwala na lepsze dopasowanie piaskownicy do rzeczywistych potrzeb uczestników. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana Strona | 120 za sprawą aktu wykonawczego Komisji Europejskiej. 167. GRAI Art. 38 ust. 2 Jest: Kontrole mają być przeprowadzane zgodnie z planem kontroli zatwierdzonym przez Komisję. Nie ma jednak informacji o tym, czy plan zostanie gdziekolwiek opublikowany. Publikacja planu kontroli zapewniłaby zainteresowanym zrozumienie, jakie obszary będą podlegać kontroli i jak się przygotować. Inspiracji dostarcza PUODO, który publikuje w styczniu każdego roku sektorowy plan kontroli. Propozycja: Proponujemy dodanie do art. 38 ust. 3 ustawy zdania w brzmieniu: \"W terminie do dnia 30 stycznia każdego roku Komisja przyjmuje i publikuje roczny plan kontroli sektorowych na bieżący rok kalendarzowy. Oraz publikuje plan na swojej oficjalnej stronie internetowej” Uwaga wyjaśniona Brzmienie art. 38 (obecnie art. 30) jest zgodne z art. 78 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. 168. GRAI Art. 39 ust. 2 Jest: Art. 39 ust. 2 stanowi, że kontrolę wszczyna się nie wcześniej niż po upływie 7 dni od dnia doręczenia zawiadomienia o zamiarze wszczęcia kontroli. Propozycja: Choć podobne warunki dotyczą kontroli na gruncie ustawy Prawo przedsiębiorców (art. 48) - biorąc pod uwagę, że kontrola systemów SI jest bardziej złożona - sugerujemy wydłużenie tego terminu do najlepiej 30, a co najmniej 14 dni. Uwaga wyjaśniona Przepis ma na celu zachowanie spójności z Prawem przedsiębiorców. 169. GRAI Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje, a zwłaszcza sposób ich zorganizowania, gdzie wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 121 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i zasobożerne. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej. 170. AmCham Art.39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być istotnie niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 122 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagać dużych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej 171. KIGEiT Art. 39 ust. 3 Kontrolę lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (....) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 172. PIIT Art. 39 ust. 3 Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Brak części tekstu Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 173. ZPTC Lewiatan Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa nakładane przez Komisję wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych! Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w Strona | 123 Firmy będą potrzebować solidnych gwarancji organizacyjnych i technicznych, że procesy inspekcji są bezpieczne, zwłaszcza jeśli będą przeprowadzane podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do wielu nowych ryzyk związanych z cyberbezpieczeństwem np. udzielenie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmiotów wykorzystujących systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia wrażliwych danych niepowiązanych z samą kontrolą, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagające znacznych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyko utraty reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej podmiotu kontrolowanego. uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej (art. 31 ust.4). Strona | 124 174. Związek Cyfrowa Polska Art. 39 ust. 1 pkt 4 Społeczna Rada do spraw Sztucznej Inteligencji nie powinna mieć uprawnień do wnioskowania o wszczęcie nadzoru. Rada służy wyłącznie jako organ doradczy i konsultacyjny Komisji, a przyznanie jej uprawnień do inicjowania nadzoru wykracza poza podstawowe zadania, jakie ma realizować Rada. Radzie brakuje kompetencji proceduralnych niezbędnych do oceny czy wniosek o nadzór jest uzasadniony. Uwaga uwzględniona Wykreślono w art. 31 w ust. 4 pkt 1. 175. Związek Cyfrowa Polska Art. 39 ust. 4 Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 176. Polska Izba Ubezpieczeń Art. 39 ust. 4 W sposób ogólny i nieprecyzyjny wskazuje się w jakich przypadkach Komisja może przeprowadzić kontrolę bez zachowania terminu na powiadomienie podmiotu kontrolowanego terminie 7 dni. Pojęcie „podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych” jest wysoce nieprecyzyjne i będzie stwarzać duże ryzyko nadinterpretacji. Uwaga wyjaśniona Mając na uwadze szerokie zastosowanie systemów sztucznej inteligencji oraz uch szybki rozwój doprecyzowanie przedmiotowych pojęć może ulec szybkiej dezaktualizacji. 177. KIGEiT Art.39 ust. 4 pkt 2 Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych Uwaga wyjaśniona Przepis w wyniku ponownej analizy na Strona | 125 wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. W przypadku kontroli konstrukcji systemu sztucznej inteligencji rekomendujemy zachowanie obowiązku poinformowania o kontroli z siedmiodniowym wyprzedzeniem. podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 178. PIIT Art.39 ust. 4 pkt 2 4. Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. O ile konstrukcja systemu może uzasadniać przeprowadzenie kontroli na miejscu, to jednak nie uzasadnia to niedochowania terminu. Uwaga wyjaśniona Przepis w wyniku ponownej analizy na podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 179. GRAI Art. 40 Art. 40 – Infrastruktura i wsparcie techniczne (nowy artykuł) Proponowana zmiana: Zapewnienie modelu hybrydowego infrastruktury obliczeniowej oraz wprowadzenie szybkiej ścieżki usuwania barier technicznych (15 dni na rozpatrzenie wniosków). Uzasadnienie: Umożliwia efektywne testowanie rozwiązań AI bez konieczności ponoszenia wysokich kosztów technologicznych. Regularna analiza wykorzystania zasobów pozwoli na ich optymalizację. Nowy artykuł: 1. Ministerstwo Cyfryzacji zapewnia uczestnikom dostęp do infrastruktury obliczeniowej w modelu hybrydowym. 2. Analiza wykorzystania infrastruktury jest prowadzona co 6 miesięcy. Wyniki tej analizy służą do optymalizacji zasobów i zwiększenia dostępności. 3. W przypadku pojawienia się istotnych barier technicznych uczestnicy mogą składać wnioski o ich usunięcie, które Komisja rozpatruje w terminie 15 dni. Uwaga nieaktualna Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 126 180. FinTech Poland Art. 40 ust. 2 Przepis art. 40 ust. 2 budzi obawy związane z możliwością zaangażowania w czynności kontrolne osoby, która posiada odpowiednie kompetencje. Takie rozwiązanie bez doprecyzowania wymogów dla angażowanej osoby rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do udziału w kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Podobnie jak w art. 40 ust. 2 pojawia się obowiązek udzielenia wszelkich potrzebnych informacji nie tylko kontrolującemu, ale również osobom upoważnionym do kontroli. Zalecane jest wprowadzenie dodatkowych wymogów jak muszą zostać spełnione przez osoby upoważnione do kontroli. Przepis art. 42 ust. 2 przewiduje możliwość żądania przez kontrolującego dostępu nośników danych, urządzeń i systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności, jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów Uwaga uwzględniona Art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. Strona | 127 zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. 181. KIGEiT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa - Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 182. PIIT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 183. Związek Cyfrowa Polska Art. 40 ust. 2 Ustawa nie przewiduje zabezpieczeń dotyczących osób upoważnionych przez Komisję do udziału w kontroli. Komisja powinna być przede wszystkim odpowiedzialna za zapewnienie, że personel kontrolny posiada niezbędne kompetencje, co powinno być osiągnięte poprzez szkolenia i inne działania budujące zdolności. Obecny przepis stwarza ryzyko, że upoważniony kontroler może być: (1) konkurentem podmiotu kontrolowanego, (2) osobą posiadającą osobisty interes w wydaniu niekorzystnego protokołu kontroli. Nie istnieją również jasne kryteria oceny kwalifikacji eksperta zewnętrznego ani wyraźne zobowiązania dotyczące poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, takie osoby nie przychodziłyby formalnych szkoleń w zakresie prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Strona | 128 kontrolnych. Zalecamy usunięcie tego przepisu lub jego szczegółowe określenie w celu minimalizacji wyżej wymienionych ryzyk oraz zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. Ponadto art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 184. AmCham Art. 40 ust. 2, art. 40 ust. 4 w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuję się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto art. 40 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 185. ZPTC Lewiatan Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Zapis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Ponadto, wskazujemy, że przepis ten należy uzupełnić o doprecyzowanie, że osoba nie powinna mieć konfliktu interesów, np. pracować/współpracować z konkurencją podmiotu kontrolowanego. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto w art. 32 nadano nowe brzmienie. Strona | 129 W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 186. GRAI Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w tej propozycji brzmienia przepisu. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. 187. PTI Art. 41 ust. 2 2. Upoważnienie do przeprowadzenia kontroli zawiera: Brak informacji o możliwości weryfikacji tożsamości kontrolera. Sugerujemy odwołanie do Ustawy o NIK. Powinna istnieć możliwość weryfikacji tożsamości kontrolera. W przeciwnym wypadku może dojść do oszustw ze strony osób podszywających się pod Komisję. Uwaga wyjaśniona Potwierdzenie tożsamości przez kontrolującego określone jest w obecnym art. 33. 188. ZBP Art. 41 ust. 3 Regulamin Komisji reguluje tryb i działanie Komisji, a nie kontroli. Z tego względu dobrym rozwiązaniem będzie przeprowadzanie kontroli na podstawie Regulaminu kontroli. Ponadto w przypadku, jeżeli wszelkie czynności będą uregulowane w regulaminie Komisji to będzie on bardzo obszerny, co może niepotrzebnie komplikować podejmowanie czynności kontrolnych. Z tego względu proponujemy alternatywne brzmienie przepisu: „Organizację, szczegółowy sposób, tryb i zakres prowadzenia kontroli określa regulamin Komisji kontroli.” Uwaga uwzględniona Wyraz „Komisji” zastąpiony został wyrazem „kontroli”. 189. AmCham Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42 ust. 1 wyraźnie wspomina o dostępie do systemów informatycznych i chmury Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy Strona | 130 obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Argumentacja: Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 190. Związek Cyfrowa Polska Art. 42 Projektowana ustawa powinna jednoznacznie umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy handlowej, podobnie jak w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów. Takie rozwiązanie zwiększyłoby ochronę kluczowych informacji biznesowych, które obecnie nie są wystarczająco zabezpieczone. Ponadto, proponowane zapisy artykułu zdają się być na tyle szerokie, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o SI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o SI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Należy wskazać, że ● Żaden przepis projektu ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w Strona | 131 chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych, ● Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora, ● Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 191. ZPTC Lewiatan Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Uzasadnienie: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. Strona | 132 • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. 192. Polska Izba Ubezpieczeń Art. 42 Wprowadzenie obowiązku zapewnienia przez podmiot kontrolowany dostępu do chmury obliczeniowej będącej własnością innego podmiotu zawierającej dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do niej dostęp będzie w praktyce niemożliwe do realizacji w przypadku globalnych dostawców. Izba proponuje nie dodawać tej zmiany. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej. 193. GRAI Art. 42 ust. 1 Jest: Art. 42 ust. 1 w nowym brzmieniu stanowi, że podmiot kontrolujący może żądać dostępu nie tylko do systemów informatycznych podmiotu kontrolowanego, ale także do systemów informatycznych i chmur obliczeniowych należących do innego podmiotu. Taki zakres kontroli jest niezgodny z art. 78 ust. 2 projektu ustawy o systemach sztucznej inteligencji, który pozwala organom żądać jedynie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem przepisów ustawy o sztucznej inteligencji. Propozycja: Usunąć z art. 42 ust. 1 “oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp”. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. Strona | 133 1 pkt 1 chmury obliczeniowej. 194. PTI Art. 42 ust. 1 pkt 4 4. zabezpieczania dokumentów i innych materiałów i danych Oryginałów czy kopii? Sugerujemy odwołanie do Ustawy o NIK Brak informacji czy kontroler będzie mógł zabezpieczyć oryginał czy wyłącznie kopię materiałów. Jeśli oryginałów jaka jest odpowiedzialność za ich uszkodzenie lub zagubienie? Uwaga wyjaśniona Przepis pkt 4 odnosi się do oryginałów. Zabezpieczenie musi następować z zachowaniem przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych Kwestia kopii została uregulowana w pkt 6. 195. KIGEiT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Uważamy, że zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 196. PIIT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 197. KIGEiT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić po swojej stronie mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Uwaga wyjaśniona Wykreślenie nie jest zasadne, ponieważ poza kontrolującym w kontroli mogą również barć udział inne osoby upoważnione. Strona | 134 198. PIIT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu \"czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? Zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? - czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 199. PTI Art.42 ust. 2 dodać pkt 4 (poprzednio art. 44) Brakuje dogłębnej analizy kontrolowanego systemu Prosimy o rozszerzenie zapisu: (.) „powinien uwzględniać dostęp do funkcjonalności rozwiązań, wytrenowanych modeli, a także dawać możliwość kontrolującemu uruchomienia/przetestowania systemu AI na infrastrukturze podmiotu” Działanie tak złożonych i potencjalnie niebezpiecznych systemów, nie zawsze jest możliwe do oceny wyłącznie na podstawie dokumentacji, która może być niepełna lub błędna Uwaga wyjaśniona Wskazany w przepisie art. 36 zakres należy uznać za wystarczający do ustalenia przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 200. Związek Cyfrowa Polska Art. 44 Choć znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej) jest uznawane, projektowana ustawa znacząco ją ogranicza, naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową (adwokacką, radcowską). Projektowana ustawa nie określa, co oznaczają wątpliwości (które nawet nie muszą być uzasadnione) dotyczące powołania się na tajemnicę zawodową (adwokacką, radcowską). Sformułowanie zapewnienie ochrony przed ujawnieniem jest niejasne – dokument i tak zostanie ujawniony przynajmniej SOKiK. Projektowana ustawa nie precyzuje, jak dokumenty powinny być zabezpieczone. Obecne podejście nie spełnia standardów poufności tajemnicy zawodowej (adwokackiej, radcowskiej). Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową (adwokacką, radcowską), Uwaga uwzględniona Zmieniono treść przepisu art. 36, wykreślono ust. 2 ,3 i 5. Strona | 135 ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 201. KIGEiT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Rekomendowane jest, aby przepis odwoływał się do art. 43 a nie 42 ust.2. Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Wskazane w uwadze odesłanie nie wymaga korekty. 202. PIIT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa : 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Strona | 136 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Wskazane w uwadze odesłanie nie wymaga korekty. 203. Związek Cyfrowa Polska Art. 44 ust. 1 Obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. Uwaga wyjaśniona W opinii projektodawcy obecna konstrukcja art. 36 w wystarczający sposób zabezpiecza prawo, o którym mowa w uwadze. 204. GRAI Art. 44 ust. 3 Uwaga redakcyjna – należy poprawić pisownie nazwy sądu – powinno być zapisane z dużej litery, konsekwentnie w całym projekcie ustawy. Uwaga nieaktualna Wykreślono art. 36 ust. 3. 205. GRAI Art. 44 ust. 3 i 5 Brzmienie art. 44 ust. 3 i ust. 5 w obecnym kształcie narusza podstawową zasadę tajemnicy adwokackiej oraz wprowadza konstrukcję postępowania nieznaną przepisom Kodeksu Postępowania Cywilnego. Obecne brzmienie Art. 44 ust.3 – „jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust.1, budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, doręcza je z pismem lub dokumentem, którego wątpliwość dotyczy do sądu okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (..)”. Obecne brzmienie Art. 44 ust.5 – „Sąd, po zapoznaniu się z wnioskiem oraz pismami i dokumentami, o których mowa w ust.3, wydaje postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli zawierają one komunikację, o której mowa w ust. 1 i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby Uwaga uwzględniona Wykreślono art. 36 ust. 3 i 5. Strona | 137 prowadzonego postępowania. Postanowienie podlega wykonaniu z chwila uprawomocnienia się”. Uwagi: W art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu, zwłaszcza, że w powiązaniu z ust. 5 brzmienie projektowanego zapisu prowadzi do nieznanej w polskich przepisach kodeksu cywilnego procedury wpadkowej dot. skontrolowania dokumentów, objętych tajemnicą adwokacką w ramach prowadzonej przez inny organ kontroli w postępowaniu pozasądowym. Po pierwsze możliwość zwolnienia z tajemnicy adwokackiej jest szczegółowo uregulowana w art. 261 Kodeksu Postępowania Cywilnego czy w art. 83 Kodeksu Postępowania Administracyjnego i co istotne zwolnienie z tajemnicy adwokackiej może jedynie i wyłącznie nastąpić w ramach prowadzonego postępowania sądowego i dodatkowo w sytuacji, w której również adwokat, radca prawny, prawnik z Unii Europejskiej jest uczestnikiem takiego postępowania. W przepisach postępowania karnego odpowiednikiem jest art. 180 Kodeksu Postępowania Karnego. W obecnym kształcie brzmienie art. 44 ust. 3 i art. 44 ust. 5 prowadzi do naruszenia podstawowej zasady zaufania obywateli do państwa oraz do naruszenia przepisów ochrony tajemnicy adwokackiej, która jest podstawową gwarancją prawidłowego wykonywania zawodu adwokata, radcy prawnego, prawnika z Unii Europejskiej. Jedynym organem, który może zwolnić adwokata, radcę prawnego, prawnika z Unii Europejskiejz tajemnicy jest sąd w prowadzonym konkretnym postepowaniu sądowym, w którym również adwokat, radca prawny, prawnik z Unii Europejskiej musi być uczestnikiem. Po drugie: Zwracamy uwagę, że w projektowanym brzmieniu art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu i na podstawie, której części przepisów Kodeksu Postępowania Cywilnego miałoby być prowadzone takie postępowanie. Tym samym brak zmiany w/w art. 44 spowoduje prowadzenie przez sąd jakiegoś nieznanego przepisom postępowania sądowego, które ma dokonać weryfikacji korespondencji, objętej tajemnicą adwokacką poza samym adwokatem, radcą prawnym czy prawnikiem z Unii Europejskiej, którzy są przecież także dysponentami takiej tajemnicy i co najmniej winni być uczestnikami takiego postępowania sądowego. Obecna konstrukcja w projektowanej ustawy o systemach sztucznej inteligencji jest prawnie niedopuszczalna. Uwagi de lege ferende Strona | 138 Postulujemy dokonanie całkowitej zmiany art. 44 ust. 3 i 5 i w pierwszej kolejności rozstrzygnięcie w jakim trybie i na podstawie jakich przepisów (cywilnych, karnych, administracyjnych) ma działać Kontrolujący oraz na jakim etapie należy zawiadomić o wszczętym postępowaniu adwokata, radcę prawnego czy prawnika z Unii Europejskiej, którym należy umożliwić wzięcie udziału w takim postępowaniu. 206. Związek Cyfrowa Polska Art. 45 Pomoc jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji jest nieuzasadniona. Komisja sama powinna posiadać niezbędne kompetencje i narzędzia do skutecznego przeprowadzania kontroli. Angażowanie zewnętrznych jednostek w ten proces budzi wątpliwości dotyczące poufności kontroli, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy zakres prowadzonych postępowań. Ponadto, przepis mówiący o możliwości żądania wsparcia Policji wydaje się niepotrzebny i nadmierny. Policja może zostać wezwana w każdym przypadku, gdy zdarzenie stanowi przestępstwo lub wykroczenie. Nie ma potrzeby wprowadzania specjalnej procedury angażowania Policji w czynności kontrolne, ponieważ takie podejście nie odpowiada nowoczesnemu państwu, które respektuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 37 ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie Strona | 139 stosowanych przepisów w projekcie ustawy. 207. Polska Izba Ubezpieczeń Art. 46 Izba nie zgadza się na propozycję skrócenia terminu z 14 na 7 dni na zgłoszenie zastrzeżeń do protokołu kontroli. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 208. KIGEiT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonej kontroli czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Analogicznie jak w art. 105 J ust.1 ustawy o ochronie konkurencji i konsumentów. Kontrolowany powinien mieć prawo do doniesienia się do protokołu z całości kontroli, a nie z poszczególnych czynności kontrolnych. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny: wyraz „kontrolowany” zastąpiono wyrazem „kontrolujący”. 209. PIIT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Protokół sporządza kontrolujący? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. Strona | 140 210. Związek Cyfrowa Polska Art. 46 ust. 1 Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że jest to jedynie błąd redakcyjny. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 211. GRAI Art. 46 ust. 1 Jest: Termin na złożenie zastrzeżeń do protokołu został skrócony do zaledwie 7 dni. Propozycja: Proponujemy przywrócenie poprzedniego 14-dniowego terminu, aby dać zainteresowanym więcej czasu na zapoznanie się z nim. W przypadkach tak złożonych jak systemy sztucznej inteligencji, przygotowanie zastrzeżeń często wymaga wkładu specjalistów z różnych działów, co może być trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Zwłaszcza, że brak zastrzeżeń złożonych w terminie oznacza, że projekt protokołu uznaje się za zaakceptowany, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniego czasu na zapoznanie się z jego treścią. Błąd redakcyjny: W art. 46 ust. 1 do poprawy omyłka pisarska – obecnie wskazuje, że to jednostka kontrolowana jest odpowiedzialna za sporządzenie protokołu kontroli. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 212. PTI Art. 46 ust. 3 „Od otrzymanego projektu wystąpienia pokontrolnego podmiotowi kontrolowanemu przysługuje prawo wniesienia do właściwego organu zastrzeżeń, w terminie 14 dni od dnia doręczenia projektu wy stąpienia pokontrolnego.” Nie jest jasne, co jest „właściwym organem” Propozycja doprecyzowania: „do organu kontrolującego” Uwaga wyjaśniona Uwaga dotyczy projektu w wersji udostępnionej w ramach I etapu konsultacji publicznych. W projekcie z 10 lutego 2025 r. przepis zmienił brzmienie. 213. AmCham Art. 46 ust. 4 W celu zapewnienia rzetelności i efektywności procesu kontrolnego, a także Uwaga wyjaśniona Strona | 141 zagwarantowania prawa do obrony, termin na wniesienie zastrzeżeń do raportu z kontroli powinien wynosić co najmniej 14 dni. Obecnie zapisany w projekcie ustawy termin 7 dni w wielu przypadkach będzie niewystarczający, w szczególności w przypadku obszernych i szczegółowych raportów, zawierających analizę dużej ilości danych, materiałów, informacji i dokumentów. Analiza i przygotowanie uwag i zastrzeżeń będzie wymagało więcej czasu niż 7 dni. Zapewnienie 14 dni na zgłoszenie uwag do raportu z kontroli umożliwi kontrolowanym podmiotom dokładne zapoznanie się z treścią raportu, przeprowadzenie własnych analiz i konsultacji, a w konsekwencji – przygotowanie rzeczowych i wyczerpujących zastrzeżeń. Zapewni to również większą transparentność i obiektywizm procesu kontrolnego, co przyczyni się do zwiększenia zaufania do jego wyników. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 214. KIGEiT Art. 46 ust.4 4.W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 215. PIIT Art. 46 ust.4 4. W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 216. PIIT Art. 46 ust. 4 Termin na złożenie zastrzeżeń do projektu protokołu kontroli powinien wynosić co najmniej 14 dni. Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią Strona | 142 projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 217. Związek Cyfrowa Polska Art. 46 ust. 4 Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 218. ZTPC Lewiatan Art. 46. ust. 5 i ust. 8 W przepisie należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 219. KIGEiT Art. 47 zalecenia pokontrolne Uwaga wyjaśniona Strona | 143 W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, rekomendujemy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. 220. PIIT Art. 47 zalecenia pokontrolne W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, należy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do Uwaga wyjaśniona Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. Strona | 144 naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. 221. ZBP Art. 47 ust. 1 Przepis nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 222. GRAI Art. 47. ust. 1 Artykuł nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 223. GRAI Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 224. ZBP Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 225. ZPTC Lewiatan Art. 47 ust. 2 pkt 1) Proponujemy usunięcie słowa \"nie i\" oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 226. ZBP Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać Strona | 145 termin na usuniecie nieprawidłowości bez względu na ich istotność. 227. GRAI Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać termin na usuniecie nieprawidłowości bez względu na ich istotność. 228. ZBP Art. 47 ust. 2 pkt 4 Literówka. Niepotrzebna dodatkowa spacja w sformułowaniu „u st. 1”. Uwaga uwzględniona Przepis został skorygowany. 229. KIGEiT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Rekomenduje się precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego. Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. Uwaga wyjaśniona Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40ust. 2 do całości ustawy należy uznać za zasadne. 230. PIIT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie Strona | 146 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Ewentualnie należy precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40 ust. 2 do całości ustawy należy uznać za zasadne. 231. ICC Poland Art. 48 ust. 2 Zgodnie z art. 48 ust. 1 Projektu, jeśli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy Komisja może wszcząć postępowanie, o którym mowa w rozdziale 4 ustawy. Jednakże, na zasadzie wyjątku od tej reguły, art. 48 ust. 2 Projektu przewiduje, że w przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Zawarcie w art. 48 ust. 2 Projektu, przewidującym – na zasadzie wyjątku od reguły z art. 48 ust. 1 Projektu – obowiązek wszczęcia przez Komisję postępowania z urzędu, powinno być ograniczone jedynie do systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689, nie zaś przepisów ustawy. Inaczej dochodzi w istocie do częściowego nakładania się zakresu zastosowania art. 48 ust. 1 i 2 Projektu. Z tego względu proponuje się wprowadzenie następującej zmiany w art. 48 ust. 2: W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stad odniesienie w art. 40 ust. 2 do ustawy należy uznać za zasadne. 232. ZBP Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. 233. GRAI Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. Strona | 147 234. KIGEiT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 rekomendujemy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Rada może dysponować wiedza uzasadniająca wszczęcie postępowania przez Komisję zasadne jest więc, aby zachować przepis w obecnym brzmieniu. 235. PIIT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu Strona | 148 działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 należy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Rada nie powinna zajmować się sprawami indywidualnymi. przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest, aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. 236. Związek Cyfrowa Polska Art. 49 ust. 2 pkt 4) Rada nie powinna mieć uprawnienia do wnioskowania o wszczęcie postępowania. Rada pełni wyłącznie funkcję doradczą i konsultacyjną dla Komisji, a przyznanie jej uprawnienia do inicjowania postępowań wykracza poza jej zamierzoną rolę. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny czy wniosek o wszczęcie postępowania jest uzasadniony. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o Strona | 149 wszczęcie postępowania. 237. Fundacja Panoptykon Art. 50 Skarga na naruszenie przepisów rozporządzenia lub ustawy Pozytywnie oceniamy próbę uszczegółowienia procedury składania i rozpatrywania skargi przez osoby fizyczne. Zwracamy jednak uwagę na dwa problemy: wysokie wymagania dotyczące zawartości skargi oraz niejasności dotyczące etapów rozpatrywania skargi i momentu informowania na ten temat skarżącego. a) wymogi dotyczące zawartości skargi Autorzy projektu wskazali, że skarga musi m.in. wskazywać nazwę systemu AI, o jaki chodzi oraz opisywać istotne fakty. Jak słusznie zwrócił uwagę prof. Grzegorz Sibiga może okazać się, że dla obywateli są to zbyt wygórowane wymagania formalne. O ile rozumiemy, że bez opisu istotnych faktów Komisja lub jej Przewodniczący mogą nie mieć możliwości reakcji na skargę, tak wymóg wskazywania nazwy systemu wydaje się nam nadmierny, zwłaszcza że skarżący może tej nazwy po prostu nie znać. b) etapy rozpatrywania skargi i informowanie skarżącego Zgodnie z art. 50 ust. 1 osoba fizyczna składa skargę do Komisji. Jednak przepis ten nie odpowiada jednoznacznie na pytanie o dalsze losy złożonej skargi i czy zajmuje się nią Przewodniczący czy od razu Komisja. Za tą pierwszą wykładnią przemawia fakt, że po analizie skargi Przewodniczący może złożyć wniosek o wszczęcie postępowania (por. ust. 5). Jednak z drugiej strony - Komisja może wszcząć postępowanie z urzędu, a więc także po zapoznaniu się ze skierowaną do niej skargą. Co więcej, za możliwością wszczęcia postępowania przez Komisję przemawia art. 50 ust. 4 projektu. Doprecyzowanie kolejnych etapów rozpatrywania skargi ma znaczenie z perspektywy funkcjonalności tego mechanizmu, ale także z perspektywy informacji, jakie otrzymuje skarżący (por. art. 50 ust. 6). Aktualnie niejasne jest bowiem, jak rozumieć pojęcia “wszczęcia postępowania, o którym mowa w ust. 5 i “zakończeniu postępowania w sprawie związanej z postępowaniem, o którym mowa w ust. 5”. Jednocześnie prof. Sibiga słusznie zwrócił uwagę na problem braku konieczności jakiegokolwiek uzasadnienia decyzji o niewszczynaniu postępowania. Naszym zdaniem procedura rozpatrywania skarg wymaga zmian, w szczególności poprzez ułatwienie ich składania (wykreślenie konieczności wskazywania nazwy systemu) oraz uporządkowanie procedury ich rozpatrywania, włączając w to uzupełnienie zakresu informacji przekazywanych skarżącemu o uzasadnienie braku przesłanek do wszczęcia postępowania. a) Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. b) Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. Dalej zastosowanie znajdują przepisy dotyczące postępowania przed Komisją. 238. KIGEiT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej Strona | 150 Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 239. PIIT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 240. GRAI Art. 50 ust. 2 i 3 Nie określono konsekwencji prawnych niezachowania wymogów formalnych skargi z ust. 2. W ust. 3 należałoby doprecyzować, że są to np. środki komunikacji elektronicznej, a nie np. telefon. Uwaga w części uwzględniona Ust. 3 został doprecyzowany. 241. GRAI Art. 50 ust. 5 i 6 Nie jest jasna rola Przewodniczącego Komisji. Czy ma on dokonywać jakiejś wstępnej kwalifikacji skargi i przyjęcia jej do rozpoznania? W naszej ocenie skarga w ustawie powinna być uregulowana przepisami KPA. To Komisja jako organ, a nie Przewodniczący powinna rozpatrywać skargę. Przewodniczący nie może decydować o wszczęciu postępowania. Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. 242. KIGEiT Art. 50. ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na Strona | 151 ogólnodostępnej stronie podmiotowej Biura Komisji. 243. PIIT Art. 50 ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia. Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na ogólnodostępnej stronie podmiotowej Biura Komisji. 244. KIGEiT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy rozdziału o kontroli. 245. PIIT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy Strona | 152 rozdziału o kontroli. 246. FinTech Poland Art. 52 ust. 3 Takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim – albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 247. ZBP Art. 52 ust. 3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt.” Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. Strona | 153 przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Python, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. W tym kontekście zwracamy uwagę na możliwość zaadresowania kwestii tłumaczenia w sposób analogiczny jak zostało to rozwiązane w art. 11a ust. 1 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym „Na wniosek podmiotu prowadzącego działalność regulowaną w przepisach, o których mowa w art. 1 ust. 2, mającego siedzibę poza terytorium Rzeczypospolitej Polskiej pisemna i ustna komunikacja Komisji z takim podmiotem może odbywać się w języku angielskim. W takim przypadku czynności, o których mowa w art. 5 ustawy z dnia 7 października 1999 r. o języku polskim (Dz. U. z 2021 r. poz. 672 oraz z 2023 r. poz. 1672), mogą być dokonywane w języku polskim lub angielskim”. Rozwiązanie w ustawie o systemach sztucznej inteligencji mogłoby podobnie wskazywać, że na wniosek podmiotu kontrolowanego, w niezbędnym zakresie, dokumentacja może być przekazywana w języku angielskim lub oryginalnym języku dokumentacji. Ponadto, zwracamy uwagę, że instytucja pozostawienia dokumentacji w jej oryginalnym języku jest rozwiązaniem wykorzystywanym również w regulacjach Unii Europejskiej. Przykładowo w art. 34 ust. 3 Rozporządzenia 2018/389 „Do celów niniejszego rozporządzenia kwalifikowane certyfikaty pieczęci elektronicznych lub kwalifikowane certyfikaty uwierzytelniania witryn internetowych, o których mowa w ust. 1, zawierają – w języku zwyczajowo używanym w dziedzinie finansów – dodatkowe szczególne atrybuty w stosunku do każdego z następujących elementów”. 248. Związek Cyfrowa Polska Art. 52 ust. 3 Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze SI, powinna posiadać wystarczającą znajomość języka angielskiego, aby Uwaga uwzględniona Strona | 154 analizować dokumentację bez wymogu jej tłumaczenia. Zdecydowana większość dokumentów technicznych, prawnych i dotyczących zgodności SI jest tworzonych oryginalnie w języku angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 249. GRAI Art. 52 ust.3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 250. GRAI Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się, czy przepis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także przepisy art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony Strona | 155 postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i da im możliwości do podjęcia działań zmierzających do przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 251. AmCham Art. 53 Projekt ustawy w wersji z lutego 2025 roku wprowadza istotne zmiany w zakresie uprawnień Komisji, poszerzając jej kompetencje w obszarze wydawania ostrzeżeń. Zgodnie z nowymi przepisami, ostrzeżenia Komisji nabierają charakteru władczego, a ich zignorowanie może skutkować poważnymi konsekwencjami dla dostawców AI. Wśród potencjalnych sankcji, które może zastosować Komisja, jeśli adresat nie zastosuje się do “ostrzeżenia” Komisji, projekt ustawy wymienia m.in. nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym, a nawet nałożenie kary pieniężnej. Takie rozwiązanie budzi jednak poważne wątpliwości, gdyż stoi w sprzeczności z samą naturą ostrzeżenia, które powinno być instrumentem o charakterze \"miękkim\", niewładczym. W świetle projektowanych przepisów, wydanie “ostrzeżenia” nie wymaga od Komisji udowodnienia naruszenia, wystarczyć ma jedynie uzasadnione podejrzenie. Ponadto, zgodnie z projektowanymi przepisami ostrzeżenie ma formę postanowienia (a nie decyzji administracyjnej). W efekcie projektowane przepisy, dają Komisji możliwość nakładania kar pieniężnych bez konieczności udowodnienia naruszenia i bez wydawania decyzji administracyjnej, tworząc sytuację, w której na podstawie jedynie uzasadnionego podejrzenia, bez przeprowadzenia pełnego postępowania administracyjnego dostęp do systemu AI może zostać zablokowany a dostawcy AI mogą być pociągnięci do odpowiedzialności finansowej. Biorąc powyższe pod uwagę projektowane przepisy należy zmienić tak, aby ostrzeżenie - zgodnie ze swoją nazwą i naturą - faktycznie było \"miękki\", nie władczym narzędziem w rękach Komisji. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w projektowanej ustawie, takich jak kontrole czy wydawanie decyzji administracyjnych po Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 156 przeprowadzeniu odpowiedniego postępowania kontrolnego. Takie rozwiązanie pozwoliłoby na zachowanie równowagi między koniecznością zapewnienia bezpieczeństwa użytkowników a ochroną praw dostawców AI. 252. Polska Izba Ubezpieczeń Art. 53 Izba proponuje nie dodawać w katalogu kar za niedostosowanie się zakładu ubezpieczeń do ostrzeżenia wydanego przez Komisję lub przekroczenia terminu na dostosowanie rozwiązania następujących działań: a. nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; b. nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; Działania takie będą kosztowne i będą generować ryzyko działalności zakładów ubezpieczeń. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 253. Związek Cyfrowa Polska Art. 53 Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (niewładczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli niewładczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych. Artykuł ten budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 157 inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: ● Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług ● Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych ● Rozsądne ramy czasowe na realizację zamówień (minimum 60 dni). 254. ZPTC Lewiatan Art. 53 Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia spójnego podejścia do egzekwowania przepisów, biorąc pod uwagę: • Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług • Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych • Ustalenie rozsądnych ram czasowych na dostosowanie się (minimum 60 dni) Uzasadnienie: Artykuł 53 budzi obawy zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Uwaga wyjaśniona Art. 53 (obecnie art. 45 stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 255. KIGEiT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożlwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej Strona | 158 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się wydłużenie minimalnego terminu. inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 256. ZPTC Lewiatan Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się czy zapis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także zapis art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i daniem możliwości do podjęcia działań zmierzających do Strona | 159 przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 257. PIIT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin minimalny powinien zostać wydłużony. Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożliwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 258. AmCham Art. 53 ust. 3 Zapisany w projekcie ustawy 14-dniowy termin na zastosowanie się do ostrzeżeń Komisji i wdrożenie środków naprawczych w celu usunięcia skutków naruszenia jest niewystarczający. Wdrożenie zmian wynikających z ostrzeżenia Komisji może być czasochłonne, wymagając np. i) zmian w kodzie, które muszą zostać dokładnie przetestowane przed wdrożeniem na środowisku produkcyjnym, aby zapewnić ich poprawność i niezawodność, ii) przeprowadzenia oceny bezpieczeństwa, których celem będzie zweryfikowanie, czy wprowadzane zmiany nie generują zagrożeń dla bezpieczeństwa systemu, a filanie iii) przeprowadzenia kontroli zgodności z przepisami, mające na celu zapewnienie, że wszelkie modyfikacje są zgodne z wieloma, często Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed Strona | 160 nakładającymi się na siebie ramami prawnymi, co jest szczególnie istotne w przypadku organizacji działających na wielu rynkach. Biorąc pod uwagę te czynniki, widzimy potrzebę zmiany projektowanych przepisów tak, aby to Komisja, wydając ostrzeżenie, określała termin w jakim oczekuje wykonania zaleceń wskazanych w ostrzeżeniu, przy czym projektowana ustawa powinna wskazywać, że termin wyznaczony przez Komisję nie może być krótszy niż 30 dni od dnia otrzymania ostrzeżenia przez adresata. Takie rozwiązanie zapewni, że adresaci ostrzeżeń zawsze będą mieli co najmniej 30 dnia na wprowadzenie zmian i dostosowanie się do ostrzeżenia, a jednocześnie zapewni Komisji niezbędną elastyczność i możliwość wyznaczenia dłuższego terminu, gdyż w praktyce mogą wystąpić sytuacje, w których sama Komisja może uznać, że szczególne okoliczności sprawy wymagają, aby adresat ostrzeżenia miał więcej niż 30 dni na dostosowanie się. potencjalnym niepożądanym działaniem takiego systemu. 259. KIGEiT Art. 53 ust.3 Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się analogicznie, jak przy zaleceniach kontrolnych, aby termin minimalny został wydłużony do nie mniej niż 30 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 260. PIIT Art. 53 ust.3 Strona w terminie, określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Termin powinien zostać wydłużony - analogicznie, jak przy zaleceniach pokontrolnych - do nie mniej niż 30 dni. Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. Strona | 161 zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy, by Komisja miała uprawnienie do określenia terminu, który będzie właściwy w danym przypadku, ale nie krótszy niż 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. 261. Zawiązek Cyfrowa Polska Art. 53 ust. 3 Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z przepisami z 14 do co najmniej 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 262. KIGEiT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 162 przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. 263. PIIT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 163 finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (nie władczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli nie władczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych 264. KIGEiT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 265. PIIT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 266. Związek Cyfrowa Polska Art. 54 ust. 1 Podczas gdy podstawą wszczęcia postępowania ma być naruszenie rozporządzenia 2024/1689 (AI Act), sama decyzja Komisji kończąca postępowanie może dotyczyć naruszenia rozporządzenia 2024/1689 (AI Act) lub ustawy o systemach sztucznej inteligencji. Powoduje to niejasności, ponieważ ustawa o systemach sztucznej Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46) Strona | 164 inteligencji jest aktem prawnym odrębnym od rozporządzenia 2024/1689 (AI Act). Żeby zapewnić spójność i jasność prawną, należy wyraźnie określić, czy decyzja Komisji może obejmować naruszenia ustawy o systemach sztucznej inteligencji. Bez tego wyjaśnienia istnieje ryzyko błędnej interpretacji zakresu i możliwości zastosowania uprawnień Komisji w takich przypadkach. 267. KIGEiT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję, do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 268. PIIT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję,14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Komisja powinna mieć uprawnienie do określenia odpowiedniego terminu na wykonanie nakazu. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 269. ZBP Art. 54 ust. 2 Termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Tak krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym Strona | 165 działaniem danego systemu sztucznej inteligencji. 270. KIGEiT Art. 54 ust.3 3. W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 271. GRAI Art. 54 ust. 2 Sformułowanie „usuniecie skutków naruszenia” jest niejasne i budzi wątpliwości. Niekiedy sutki naruszeń mogą być nieodwracalne jak np. śmierć w przypadku niewłaściwego działania systemów autonomicznej jazdy. Ponadto termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Taki krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Proponujemy następujące brzmienie: „Decyzja, o której mowa w ust. 1, zawiera środki nakazujące zaprzestanie naruszania przepisów nie później niż 14 dni od decyzji, o ile w decyzji nie ustalono inaczej, a usunięcie skutków naruszenia w terminie i zakresie wskazanym w decyzji.” Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 272. PIIT Art. 54 ust.3 W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia Uwaga wyjaśniona Strona | 166 administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 273. AI Chamber Art. 55 ust. 2 Określone w art. 55 ust. 2 przesłanki wydania decyzji nakazującej zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, są ze swej natury bardzo ocenne. Tymczasem taka sankcja może oznaczać dla przedsiębiorcy poważne straty, a w skrajnych przypadkach upadłość. Nadanie w takich okolicznościach klauzuli natychmiastowej wykonalności takiej decyzji jest zabiegiem niezwykle ryzykownym. Jest to szczególnie rażące w kontekście dodania w drugiej wersji projektu ustawy możliwości zastosowania takiej sankcji, gdy system “wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku” nadchodzących wyborów. Wydaje się, że tak swobodnie zakreślona przesłanka, gdzie wpływ może być jedynie potencjalny, a nie faktyczny, de facto daje pole do zupełnie dyskrecjonalnego wydawania decyzji o silnym podtekście politycznym. Jest to nie tylko niebezpieczne z punktu widzenia dostawców systemów SI, ale może podważać zaufanie do KRiBSI i szerzej systemu politycznego i prawnego RP. Postulujemy usunięcie tej zmiany. Uwag uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 274. AmCham Art. 55 ust. 2 Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym przepisem projektowanej ustawy, który może wyrządzić najwięcej szkody. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny, gdyż nie sposób uznać, że jasną i jednoznaczną przesłanką jest “[.] wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu Strona | 167 społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów [.]”. Na gruncie tak sformułowanego przepisu Komisja będzie miała w zasadzie dowolność oceny, czy zasadne jest zastosowanie tego przepisu. Brak konkretnych i obiektywnych kryteriów, które Komisja miałaby stosować przy podejmowaniu takiego rozstrzygnięcia, stwarza ryzyko arbitralności i nadużyć. A skutki zastosowania tego przepisu przez Komisję będą dalekosiężne, wręcz drastyczne dla dostawców modeli sztucznej inteligencji, gdyż w takim przypadku Komisja ma mieć możliwość nakazania operatorowi systemu sztucznej inteligencji zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, czyli de facto nakaz zamknięcia usługi. Na domiar złego Komisja może nakazać natychmiastowe wykonanie nakazu, wyłączając możliwość weryfikacji rozstrzygnięcia Komisji jeszcze przed koniecznością zamknięcia systemu. Natychmiastowa wykonalność tak kontrowersyjnego rozstrzygnięcia podważa prawo do kontroli sądowej, ponieważ strona, której dotyczy decyzja, miałaby ograniczoną możliwość zakwestionowania jej przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W praktyce oznacza to, że decyzja Komisji mogłaby być wykonana zanim sąd zdążyłby ją zbadać i ewentualnie wstrzymać jej wykonanie. W efekcie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania się do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co jest szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Nie sposób nie zauważyć, że tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież to media, a nie sztuczna inteligencja, mają większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek i nie demonizować tej technologii. Ponadto, analizowane narzędzie nie ma podstaw i nie ma odpowiednika w Akcie o AI i stanowi ewidentny przykład gold-platingu, którego w polskiej regulacji miało nie być. Co więcej, jest to gold-plating bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o gold-platingu rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro Akt o AI jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy Aktu o AI. istotnym dla wyniku wyborów. Strona | 168 W związku z powyższym, analizowany przepis powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 Aktu o AI, aby zapewnić zgodność z prawem UE i uniknąć niepotrzebnych i szkodliwych ograniczeń w rozwoju sztucznej inteligencji w Polsce. 275. PIIT Art. 55 ust. 2 Należy usunąć z projektu ustawy przepis dający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania stosowania lub wycofanie systemu z rynku lub użytku, w szczególności w części dotyczącej wyborów. Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób też zrozumieć, czemu akurat sztuczna inteligencja jest technologią, która została przez Projektodawcę “wyróżniona” właśnie w ten sposób, w szczególności w kontekście wyborów. Tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież z oczywistych względów to media, a nie sztuczna inteligencja ma większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek, nie należy tej technologii demonizować, pamiętać też trzeba, że sztuczna inteligencja jest narzędziem w ludzkich rękach i powinna być tak traktowana. W żaden sposób nie można uznać, że sztuczna inteligencja ma większe albo mniejsze znaczenie w kontekście np. procesów Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. Strona | 169 wyborczych niż inne narzędzia i technologie wykorzystywane przez ludzi i z tego względu nie zasługuje na jakieś specjalne traktowanie w tym zakresie. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Na domiar złego jest to “gold plating” bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o “gold platingu” rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro AI Act jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy AI Act (z wyjątkiem przypadków wyraźnie wskazanych w samym AI Act – ten wyjątek w tym przypadku nie zachodzi). W związku z powyższym analizowany przepis ten powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 276. PTI Art. 55 ust. 2 W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych, lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu w trybie, o którym mowa w ust. 4, z rynku lub użytku. Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Tego typu praktyki są już standardem w wyszukiwarkach internetowych oraz portalach społecznościowych. Wyszukiwarki na przykład ukrywają pewne wyniki promując określoną grupę. Portale społecznościowe przed wyborami pełne są różnego rodzaju komentarzy także zwykłych ludzi nie tylko botów. A przecież nie są to “systemy sztucznej inteligencji”. Sugerujemy rozważenie, czy taki zapis jest potrzebny 1. Wyszukiwarki internetowe czy portale społecznościowe nie są z definicji “systemami sztucznej inteligencji”. 2. Jak udowodnić tego typu działanie (przykład Cambridge Analytica)? 3. Każda ze stron stosuje tego typu praktyki, co powinno skutkować zablokowaniem debaty o każdym kandydacie. 4. Stosuje się nie tylko aktywne rozsiewanie informacji, ale również ukrywanie Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. Strona | 170 informacji, czyli ukrywanie informacji jest również działaniem na szkodę. 5. Trzeba uważać w tego typu praktykach, aby nie zrobić z nich narzędzia upolitycznionej cenzury działającej wyłącznie na korzyść jednej ze stron sceny politycznej. 6. Dlaczego zapis dotyczy szczególnie wyborów politycznych a nie wspomina np. o oszustwach internetowych przez oficjalne płatne reklamy na portalach typu Google, Facebook, X, itp? 277. Związek Cyfrowa Polska Art. 55 ust. 2 W obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Ponadto, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu. Przepis ten powinien zostać całkowicie usunięty, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 278. GRAI Art. 55 pkt 2 Doceniamy zwrócenie uwagi na ryzyka wyborcze związane z systemami AI. Uwaga uwzględniona Strona | 171 Przepis o tym, że system nawet nie w sposób udowodniony wywiera, co „może wywrzeć” wpływ na opinie i nastroje społeczne daje szerokie pole do podjęcia subiektywnej decyzji przez Komisję, które może de facto prowadzić do zablokowania na 30 dni przed wyborami dostępu do źródeł informacji, w tym mediów tradycyjnych, mediów społecznościowych czy czatbotów. W świetle innych zgłaszanych uwag dotyczących procesu powoływania Komisji, to bardzo poważna kompetencja wpływająca na proces wyborczy. W celu uniknięcia niespójności z ramą AI Act zachęcamy do ujednolicenia definicji z tą wypracowywaną w ramach GPAI CoP definicji ryzyk systemowych: Aktualna wersja w drugim szkicu brzmi: Large-scale, harmful manipulation: The facilitation of large-scale manipulation with risks to fundamental rights or democratic values, specific to high-impact capabilities of models such as autonomy, persuasion, and manipulation. This includes, for example, large-scale election interference, and coordinated and sophisticated manipulation campaigns leading to harmful distortions of public discourse, knowledge and behaviour. Zwracamy uwagę, że również powyższa definicja wzbudza wątpliwości i wciąż wymaga dalszego dopracowania, między innymi w związku z użyciem mało precyzyjnego definiowania przez przykłady. Rozdźwięk między regulacją polską a unijną będzie prowadzić do efektu mrożącego wobec wypowiedzi politycznych i społecznych w sieci i prewencyjnej nadmoderacji treści politycznych. Dotyczy to nie tylko samej kampanii wyborczej, ale też treści prywatnych opinii obywateli czy promocji działań organizacji pozarządowych. W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 279. KIGEiT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Rekomendujemy doprecyzowanie definicji „tryb przyspieszony”. Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 280. PIIT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Uwaga wyjaśniona Strona | 172 Gdzie opisany jest tryb przyspieszony? Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 281. KIGEiT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. Zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ust.2 czy nie powinna być to mowa o decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1, który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 47) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 282. PIIT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. Strona | 173 Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. ust.2 czy nie powinna być to mowa decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 283. GRAI Art. 57 Należy uwzględnić procedurę dotyczącą zażaleń. W ust. 1 wskazano, że podane tam postanowienia są zaskarżalne zażaleniem, natomiast przepis w dalszej części dotyczy jedynie odwołań. Proponujemy dodanie ustępu w tym przepisie o treści: „Przepisy ust. 3-6 stosuje się odpowiednio do zażaleń od postanowień Komisji.”. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 284. Związek Cyfrowa Polska Art. 57 ust. 2 Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. Prawo do odwołania się od decyzji administracyjnych jest podstawowym zabezpieczeniem prawnym, a przepis ten powinien być sformułowany z absolutną precyzją. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 285. PTI Art. 57 ust. 4 Jeżeli Komisja uzna odwołanie za słuszne, może - nie przekazując akt sądowi - uchylić albo zmienić swoją decyzję w całości lub w części, o czym bez zwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie przysługuje odwołanie. Uchylając albo zmieniając decyzję, Komisja stwierdza jednocześnie, czy decyzja ta została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Działania tego typu mogą narazić szczególnie małe przedsiębiorstwa na szkodę – strata czasu, wyników, środków finansowych na prawników. Sugerujemy rozważenie utrzymania tego przepisu Brak informacji o odpowiedzialności za fałszywe oskarżenia, możliwości nadużyć dla celów np. politycznych Uwaga wyjaśniona Na wstępie należy wskazać, że organy działają na podstawie i w granicach prawa. Wszelkie odstępstwa w tym zakresie poddane są ogólnym regułom Strona | 174 odpowiedzialności organów. Przepis wpisuję się natomiast w funkcjonującą na podstawie kodeksu postępowania administracyjnego instytucję „autokontroli decyzji”. Sama instytucja ma charakter wyjątkowy i organy powinny z niej korzystać wyłącznie wtedy, kiedy nie mają żadnych wątpliwości co do istnienia podstaw prawnych jej zastosowania Za powyższym rozwiązaniem przemawia zasada ogólna szybkości i prostoty postępowania. 286. GRAI Art. 57 ust. 4 Należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Przepis pozostawiono z uwagi na konieczność zapewnienia kompletności obu ustaw. 287. KIGEiT Art. 57 ust. 4 w zw. z Art. 107 Rekomendujemy, aby brzmienie art. 57 ust. 4 ujednolicić z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu. 288. PIIT art. 57 ust.4 w zw. z art. 107 Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Strona | 175 Zmieniono brzmienie przepisu. 289. AI Chamber Rozdział 5 Na zdecydowane poparcie zasługują przepisy Rozdziału 5 projektu ustawy, dotyczące układu. Jest to przykład pozytywnej regulacji, mającej na celu zapewnienie przestrzegania przepisów, lecz w formie bardziej kooperatywnej niż automatyczne nakładanie jak najwyższej sankcji pieniężnej na przedsiębiorcę. Wydaje się jedynie, że przepisy to wymagają pewnego dopracowania i uproszczenia postępowania. Uwaga uwzględniona Przeredagowano część przepisów rozdziału i zrezygnowano z części regulacji. 290. KIGEiT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby Strona | 176 graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 291. PIIT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. Strona | 177 W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 292. KIGEiT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 293. PIIT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie Strona | 178 spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 294. KIGEiT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 295. PIIT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 296. b KIGEiT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Rekomendujemy, aby termin na zawarcie układu był liczony od złożenia oświadczenia o woli jego zawarcia. Uwaga wyjaśniona Ze względu na przedmiot ustawy projektodawca utrzymuje termin 1 miesiąca we wskazanym przepisie. 297. PIIT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze Uwaga wyjaśniona Termin na zawarcie układu uwzględnia Strona | 179 postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 298. Związek Cyfrowa Polska Art. 62 ust. 4 Uprawnienie Komisji do zakończenia negocjacji przed zawarciem ugody jest zbyt szerokie i nie opiera się na żadnych określonych kryteriach. Zalecamy określenie jasnych warunków, na jakich Komisja może zakończyć negocjacje ugodowe i wprowadzenie wymogu uzasadnienia, zapewniając, że strony rozumieją podstawę prawną i faktyczną takiego zakończenia. Uwaga wyjaśniona Art. 62 (obecnie art. 54) ust. 4 został wykreślony. 299. ICC Poland Art. 64 ust. 1 Zgodnie z art. 64 ust. 1 Projektu, po stwierdzeniu, że spełnione są warunki zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Jak z kolei wynika z art. 61 ust. 6 Projektu, w ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 70%, a w przypadku, o którym mowa w art. 76 ustawy – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. W związku z tym, że przewidziane w układzie obniżenie wysokości kary pieniężnej odnosi się do kary hipotetycznej (abstrakcyjnej w momencie oceny projektu układu), która zostałaby nałożona bez zawarcia układu, podjęcie przez stronę będącą podmiotem postępowania przed Komisją racjonalnej decyzji co do przyjęcia układu wymaga wiedzy Uwaga wyjaśniona Treść przepisu nie wymaga doprecyzowania. Użyte w przepisów pojęcie zakresu proponowanego złagodzenia kary nie odnosi się wyłącznie do określenia procentowego ale Strona | 180 co do: i) kary pieniężnej, która zostałaby nałożona bez zawarcia układu (wraz z uzasadnieniem); ii) zakresu proponowanego złagodzenia sankcji (procentowo). Z tego względu, dla uniknięcia wątpliwości co do wymaganego ustawą zakresu projektu układu, proponuje się wyraźne przesądzenie, że w odniesieniu do kary pieniężnej projekt układu powinien zawierać obie te informacje. Cel może zostać osiągnięty przez następującą zmianę art. 64 ust. 1 Projektu: Po stwierdzeniu, że spełnione są warunki, o których mowa w art. 61 ust. 4 ustawy, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. W przypadku przewidzianego układem obniżenia wysokości kary pieniężnej w projekcie układu zamieszcza się również informację o wysokości kary pieniężnej, która zostałaby nałożona bez zawarcia układu wraz z jej uzasadnieniem. Komisja wydaje postanowienie o przedstawieniu projektu układu. również kwotowego wymiaru kary. 300. ICC Poland Art. 65 ust. 4 Artykuł 65 ust. 4 Projektu przewiduje, że skutkiem złożenia oświadczenia o przyjęciu układu w sprawie warunków nadzwyczajnego złagodzenia sankcji jest zrzeczenie się przez stronę postępowania prawa do złożenia „wniosku oraz skargi do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. W związku z tym, że zgodnie z ustawą od decyzji takiej przysługuje odwołanie, zachodzi konieczność doprecyzowania wskazanego przepisu w sposób kompatybilny z pozostałymi przepisami ustawy: Skutkiem oświadczenia, o którym mowa w ust. 1, jest zrzeczenie się przez stronę postępowania prawa do złożenia wniosku oraz skargi odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. Uwaga uwzględniona W przepisie wyrazy „wniosku oraz skargi” zastąpiono wyrazem „odwołania”. 301. KIGEiT Art. 66 ust.1 . 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uwaga uwzględniona Poprawiono odesłanie 302. PIIT art. 66 ust.1 . 1. W przypadku, gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona Poprawiono odesłanie 303. KIGEiT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. (obecnie art 62) ust. 1. Na żądanie Strona | 181 Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 304. PIIT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. 1 (obecnie art 62) Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. Strona | 182 305. AmCham Art. 71 Stoimy na stanowisku, że kary powinny być ograniczone do spółek dopuszczających się naruszenia. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 306. PTI Art. 71 Art. 71. W przypadku niewykonania przez podmiot, który zawarł układ, zobowiązań podjętych w ramach układu w całości albo w istotnej części, lub istotnych nieprawidłowości w wykonaniu tych zobowiązań, Komisja może nałożyć na ten podmiot karę pieniężną do wysokości nieprzekraczającej: 1) w przypadku osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej – 10 000 000 zł; 2) w przypadku osoby fizycznej – 1 000 000 zł 2. W przypadku stwierdzenia naruszenia wskazanego w ust. 1 Komisja może nałożyć na członka zarządu osoby prawnej, który jest odpowiedzialny za to naruszenie, karę pieniężną w wysokości do 1 000 000 zł. Sugerujemy rozważyć również kwoty zależne od obrotu / przychodów firmy /osoby (mechanizmy stosowane w Rozp. O ochronie danych osobowych) Dla dużej firmy, która i tak na szkodliwych działaniach zarobi większą kwotę ta kara może się opłacać. Dla małej firmy lub osoby prowadzącej działalność gospodarczą to może być koniec świata. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71(obecnie art. 63) został wykreślony. 307. IWP Repropol Art. 71 Uważamy postępowanie układowe za dobry pomysł. Wymuszenie autorefleksji po stronie podmiotu naruszającego przepisu jest lepszym rozwiązaniem niż od razu siłowe nakładane kar na podmioty naruszycielskie. Jednocześnie jednak obawiamy się, aby wysokość kar grożących za niedochowanie zawartego układu nie wywołały efektu mrożącego, odwrotnego do zamierzonego. Jeśli członek zarządu będzie skonfrontowany z perspektywą indywidualnej kary do jednego miliona złotych z tytułu niewykonywania lub niewłaściwego wykonywania zaciągniętych zobowiązań (zob. art. 71 ust. 2 UoSSI), obawiamy się pełnej i rzeczywistej gotowości podmiotów do podejmowana prób układania się z KRIBSI. Chodzi po prostu o to, aby propozycja dobrego mechanizmu dialogu nie została zniweczona nadmierną dolegliwością konsekwencji w przypadku negatywnego scenariusza. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 308. Związek Cyfrowa Polska Art. 71 ust. 2 W niewłaściwy sposób nakłada on kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. Uwaga wyjaśniona Strona | 183 W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 309. KIGEiT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Rekomendujemy doprecyzowanie Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia, a także doprecyzowanie o jakie zezwolenie chodzi. Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 310. PIIT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 311. Związek Cyfrowa Polska Art. 77 Ustawa powinna umożliwiać podmiotom oznaczanie określonych informacji jako niepublicznych przy publikowaniu decyzji. Ustawa o systemach sztucznej inteligencji powinna jasno określać, że niektóre wrażliwe informacje nie mogą być ujawniane przez Komisję. Zalecamy również wprowadzenie prawnego obowiązku zachowania poufności, w szczególności w odniesieniu do tajemnic przedsiębiorstwa oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis otrzymał nowe brzmienie: 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice Strona | 184 przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 312. KIGEiT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi 313. PIIT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi. 314. PIIT Art. 77 ust. 3 3. Wykaz zawiera co najmniej: 1) nazwę określenie systemu oraz operatora, którego dotyczy decyzja pozwalające na jego identyfikację; Nie każdy system posiada konkretną nazwę, kluczowe jest żaby określić system Uwaga wyjaśniona „Określenie systemu” jest pojęciem wieloznacznym i szerokim. Przy braku wskazania co powinno takie określenie zawierać podane informację mogą być nieprecyzyjne. 315. Polskie sieci elektroenerget yczne Rozdział 6 - art. 78-80 Aktualna treść artykułu nie specyfikuje o jakiego typu incydenty chodzi, a jednocześnie wskazuje Komisję jako adresata zgłoszeń o incydentach (a Komisja dopiero może poinformować CSITRy). Może to powodować wrażenie, że cyberincydenty dotyczące systemów SI nie musza być raportowane bezpośrednio do CSIRTów (w tym sektorowych). Dla uniknięcia wątpliwości, wydaje się zasadne uzupełnienie artykułu o wskazanie, że jeśli z innych przepisów prawa wynika raportowanie o incydencie do innych organów, to ten artykuł z tego nie zwalnia. Uwaga częściowo uwzględniona Przepis art. 79, który wskazuje na obowiązek przekazania informacji m.in. CSIRTom uległ znacznej zmianie. Jednocześnie, projektowana ustawa nie modyfikuje lub znosi Strona | 185 obowiązków określonych w innych ustawach. 316. Polskie sieci elektroenerget yczne Rozdział 6 vs Rozdział 8 Kwestia czy raportowanie na temat poważnych incydentów dotyczy również piaskownicy regulacyjnej może budzić wątpliwości. Wydaje się zasadnie uzupełnienie Rozdziału 6 o zapis wskazujący intencję ustawodawcy w tym zakresie. Uwaga wyjaśniona Niemożliwe jest całkowite wykluczenia ryzyka wystąpienia incydentu stanowiące potencjalne ryzyko, które wystąpi w ramach piaskownicy regulacyjnej. 317. FinTech Poland Art. 78 Zgodnie z art. 73 ust. 2 AI Act dostawcy systemu sztucznej inteligencji wysokiego ryzyka zgłoszenie poważnego incydentu dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. W ust. 3 wskazano, że niezależnie od ust. 2 w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. W ustawie pojawia się termin maksymalny 24 godzin od momentu wykrycia, rekomendujemy wydłużenie terminu, które umożliwi zgłoszenie incydentu z kompletnymi informacjami dotyczącymi opisu poważnego incydentu. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na Strona | 186 z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 318. Polska Izba Ubezpieczeń Art. 78 Zaproponowany w projekcie 24 godzinny czas na zgłoszenie incydentu, liczony od momentu jego wykrycia jest niewystarczający. Po pierwsze przy skomplikowanych i rozległych systemach zebranie odpowiednich danych w takim terminie może być niewystarczające. Dodatkowo moment wykrycia może być różnie interpretowany i rozciągnięty w czasie. Pośrednią konsekwencją tak krótkiego czasu będą przypadki zgłoszeń incydentów, które ostatecznie okażą się zupełnie nieistotne. Proponujemy wydłużenie czasu do 72h. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje Strona | 187 to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 319. PIIT Art. 78 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 Strona | 188 rozporządzenia 2024/1689. 320. ZPTC Lewiatan Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Propozycja: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia. Uzasadnienie: 1. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie tworzy nadmiernie obowiązki. 2. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. 3. Zrównanie zapisów w AI Act i polskiej ustawie ma walor tworzenia jednolitego rynku cyfrowego w UE. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 321. ZPTC Lewiatan Art. 73 AIA, art. 78 W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: Uwaga wyjaśniona Strona | 189 „Art. 78 ust. 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości”. Uzasadnienie: Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 322. GRAI Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem Uwaga częściowo uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W Strona | 190 systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia.”. Propozycja: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia.”. Uzasadnienie: 4. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie nie jest sensowne. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 323. GRAI Art. 78 ust. 1 Brak definicji poważnego incydentu. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. 324. GRAI Art 78 pkt 1. Proponuje wydłużenie czasu wymaganego na zgłoszenie incydentu i zastosowania analogicznego czasu jak dla incydentów z naruszenia rozporządzania 2016/679, tj. 72 godziny. Weryfikacja i potwierdzenie incydentu mogą być bardzo trudne, a czasami wręcz niemożliwe w czasie 24 godzin w szczególności, gdy do zgłoszenia trzeba Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym Strona | 191 dołączyć wymagany ustawą opis incydentu. Zbyt krótki termin może prowadzić do konfliktu o zasoby mitygujące incydent względem potrzeb raportowania, co może negatywnie wpłynąć na dane osób objętych incydentem. Propozycja brzmienia poniżej: Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 72 godzin od momentu jego wykrycia. projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 325. AmCham Art. 78 ust. 1 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Strona | 192 przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. Przygotowanie i przekazanie zgłoszenia poważnego incydentu w większości przypadków wymagać będzie: ● analizy incydentu: identyfikacji przyczyn, oceny skutków oraz potencjalnego wpływu; ● zebrania niezbędnych danych: zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu; ● koordynacji działań wewnątrz organizacji; ● przygotowanie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. I w większości przypadków wykonanie wszystkich wyżej wymienionych kroków nie będzie możliwie w 24 godziny. Co więcej, art. 73 Aktu o AI stanowi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie skracać. Projekt ustawy powinien przewidywać przynajmniej 7 dni na zgłoszenie poważnego incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 326. ZBP Art. 78 ust. 1 W projekcie ustawy brak jest definicji poważnego incydentu. Ze względu na fakt posługiwania się pojęciem poważnego incydentu w wielu obecnie obowiązujących regulacjach, w których pojęcie to jest rozumiane inaczej, sugerujemy doprecyzowanie definicji poważnego incydentu. Doprecyzowanie mogłoby zostać zrealizowane np. poprzez dodanie odpowiedniego przepisu wskazującego, że jeżeli przepisy ustawy nie wskazują inaczej, pojęcia niezdefiniowane w ustawie mają definicję z AI Act. Ewentualnie, dla porównania, w art. 3 ust. 1 ustawy o ochronie danych osobowych „Administrator wykonujący zadanie publiczne nie przekazuje informacji, o których mowa w art. 13 ust. 3 rozporządzenia 2016/679”. W projekcie ustawy o systemach sztucznej inteligencji przepisy mogłyby podobnie jak w ustawie o ochronie danych osobowych precyzować konkretne pojęcia. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. Strona | 193 Zwracamy uwagę, że powyższa uwaga jest również uwagą o charakterze ogólnym, która dotyczy również pozostałych przepisów projektu, w których powstają wątpliwości interpretacyjne w związku z niedoprecyzowaniem pojęć niezdefiniowanych w projekcie. 327. KIGEiT Art. 78 ust. 1 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Strona | 194 328. Związek Cyfrowa Polska Art. 78 ust. 1 Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Zgodnie z art. 78 ust. 1 projektu ustawy z kolei, polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. 24 godziny na zgłoszenie poważnego incydentu to nieracjonalnie krótkie ramy czasowe. Podmioty, zwłaszcza te o złożonych strukturach organizacyjnych lub zaawansowanych systemach sztucznej inteligencji, nie są w stanie właściwie ocenić, w terminie 24 godzin, czy incydent kwalifikuje się jako poważny. Proponowany harmonogram nie zapewnia wystarczającej ilości czasu na zebranie niezbędnych informacji i dokumentacji na potrzeby kompleksowego raportu. Różnice stref czasowych między różnymi jednostkami w organizacji mogą dodatkowo utrudniać zachowanie zgodności w ciągu 24 godzin. Zalecamy wydłużenie terminu raportowania do co najmniej 7 dni, aby umożliwić dokładną weryfikację, gromadzenie danych i zorganizowane reagowanie na incydenty. Uwaga uwzględniona W aktualnym projekcie ustawy znaczącej zmianie uległ art. 78 (obecnie art 69). W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 329. GRAI Art. 78 ust. 2 pkt 4 Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie Uwaga uwzględniona Strona | 195 informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 330. Polskie sieci elektroenerget yczne Art. 78 ust. 2 pkt 4 lit.a Jest: „a) wskazanie systemu sztucznej inteligencji, za sprawą którego doszło do poważnego incydentu,” Propozycja: „a) wskazanie systemu sztucznej inteligencji, w związku, z którym doszło do poważnego incydentu,” – aby uniknąć wrażenia, że incydent poważny może dotyczyć tylko przypadku, gdzie to sam system SI jest przyczyną, co mogłoby spowodować pomijanie przypadków, gdy incydent może być spowodowany przez człowieka lub błąd oprogramowania innego niż sam system SI (np. system operacyjny, oprogramowanie integracyjne lub narzędziowe) Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 331. AmCham Art. 78 ust. 2 pkt 4 lit. b Proponujemy zastąpić w tym przepisie słowo „użytkowników” słowem „osób”. Wynika to z definicji incydentu poważnego. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 332. GRAI Art. 78 ust. 2 pkt 4 lit. b Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 333. AmCham Art. 78 ust. 2 pkt 4 lit g. Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowane sformułowanie przepisu jest bardziej precyzyjne. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. Strona | 196 334. GRAI Art. 78 ust. 2 pkt 4 lit. g Jest: „ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Propozycja nowego przepisu jest precyzyjniejsza. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 335. ZBP Art. 78 ust. 2 pkt 4 i 4b Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. Uwaga uwzględniona W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 336. ZPTC Lewiatan Art. 78 ust. 2 p. 4) lit. b) Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 337. ZPTC Lewiatan Art. 78 ust. 2 p. 4 lit. G Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowany zapis jest precyzyjniejszy. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 338. Związek Cyfrowa Polska Art. 80 ust. 1 Obecny przepis zezwalający Komisji na przekazywanie raportów i powiązanych danych do wielu podmiotów jest zbyt szeroki. Ustawa nie definiuje jasno okoliczności, w których takie udostępnianie danych ma miejsce, co prowadzi do potencjalnych nadużyć. Uwaga wyjaśniona Strona | 197 Zalecamy wprowadzenie jasnych i szczegółowych kryteriów określających, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. W procesie tym brakuje również wyraźnych zabezpieczeń w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa. Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone 339. GRAI Art. 82 ust. 1 Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d’accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. Uwaga wyjaśniona Mając na uwadze ogólne zasady wnioski w sprawie składa się do organu właściwego dla danego rodzaju sprawy. Zgodnie z projektowanymi przepisami ustawy to minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. I to on dokonuje notyfikacji jednostki oceniającej zgodność. Dlatego uznano, że wnioski w sprawie notyfikacji powinny być kierowane właśnie do tego organu. Kwestie współpracy między ministrem właściwym ds. informatyzacji a PCA zostaną określone na późniejszym etapie i nie Strona | 198 wymagają regulacji ustawowych. 340. GRAI Art. 84 Rekomendujemy przyjęcie następującej treści: “W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i niniejszą ustawą stosuje się odpowiednio przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje, rozporządzenia wykonawcze lub wytyczne Komisji Europejskiej, zalecenia i wytyczne Europejskiej Rady do spraw Sztucznej Inteligencji.” Uwaga uwzględniona Przepis nie wymaga doprecyzowania w zakresie zastrzeżenia wydania przez ministra właściwego do spraw informatyzacji rozporządzenia na podstawie art. 12 ustawy o systemach oceny zgodności i nadzoru rynku. Obowiązek wydania rozporządzenia a także wytyczne do jego wydania, zakres wynika bezpośrednio w przepisów ww. ustawy. 341. AI Chamber Rozdział 8 Podobnie bardzo pozytywnym krokiem jest wprowadzenie do projektu ustawy nowego Rozdziału 8, zatytułowanego “Środki wspierające innowacyjność”. Brak tych środków był jednym z głównych zarzutów podnoszonych wobec pierwotnego projektu ustawy. Udostępnienie tzw. Piaskownic regulacyjnych było jednym z głównych postulatów branży. Należy jednak podkreślić, że aby dostawcy systemów SI korzystali z piaskownic muszą one być faktycznie dostępne, procedura uzyskiwania do nich dostępu musi być szybka, tania, prosta i pozbawiona uznaniowości. Przedstawione przepisy niestety nie realizują tej wizji w dostateczny sposób, co może skutkować tym, że przepisy te pozostaną martwe. Postulujemy, aby procedura akcesji do piaskownic została znacznie uproszczona - idealnie dostęp uzyskiwać powinny wszystkie zainteresowane podmioty po dokonaniu prostego zgłoszenia i nie zgłoszenia przez Komisję zastrzeżeń w określonym (krótkim - nie dłuższym niż 30 dni) terminie. Dopiero takie przepisy mogą stać się prawdziwym wzmocnieniem polskiego rynku AI. Uwaga wyjaśniona Projektodawca zrezygnowała z części regulacji w zakresie ustanawiania piaskownic regulacyjnych. Dodatkowo należy wskazać że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu Strona | 199 wykonawczego Komisji Europejskiej. 342. FinTech Poland Rozdział 8 Popieramy wprowadzenie przepisów dotyczących piaskownic regulacyjnych jako krok w dobrą stronę, jednak rekomendujemy ich dopracowanie. Kluczowe jest uproszczenie procedur, obniżenie opłat za korzystanie z piaskownicy oraz wyeliminowanie uznaniowości w procesie przyznawania dostępu. Takie zmiany zwiększyłyby dostępność tego narzędzia dla innowacyjnych podmiotów i przyczyniły się do skuteczniejszego rozwoju AI w Polsce. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 343. IWP Repropol Art.85 Piaskownice regulacyjne jako środek wspierający innowacyjność powinny mieć wielowymiarowe wsparcie ze strony w zakresie AI, w tym identyfikację ryzyk, także praw podstawowych (zob. art. 57 ust. 6 i 7 AIA). Obszerna regulacja dotycząca piaskownic (art. 85 i nst. UoSSI) nie przewiduje w dostatecznie wyraźny sposób takiego wsparcia. W szczególności nie sposób za taką regulację postrzegać art. 96 projektu. Uważamy, że podmioty biorące udział w piaskownicach powinny mieć pełną świadomość ich wyjątkowego statusu związanego z uczestnictwem w tym przedsięwzięciu. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 344. AmCham Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 345. ZPTC Lewiatan Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza Strona | 200 zakresem regulacji tego przepisu. 346. GRAI Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 347. GRAI Art. 87 ust. 1 Jest: „Art. 87. 1. Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej.”. Propozycja: Poza trybem konkursowym proponujemy dodać możliwość tworzenia sektorowych piaskownic regulacyjnych, m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 348. Polskie sieci elektroenerget yczne Art. 87 ust.1. Jest: Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej. Propozycja: Poza trybem konkursowym dodać możliwość tworzenia sektorowych piaskownic regulacyjnych m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 349. ICC Poland Art. 87 ust. 3 Projektu przewiduje, że konkurs na uczestnictwo w piaskownicy regulacyjnej przeprowadzany jest nie rzadziej niż trzy razy w roku. Mając na uwadze tempo rozwoju systemów sztucznej inteligencji oraz spodziewane duże zainteresowanie piaskownicami regulacyjnymi, warto rozważyć zwiększenie liczby konkursów ogłaszanych w skali roku, przynajmniej w początkowym okresie stosowania rozporządzenia 2024/1689 oraz Uwaga wyjaśniona W art. 87 (obecnie art. 85) ust. 3 został wykreślony Strona | 201 ustawy. Równocześnie w ramach przepisów przejściowych należałoby przewidzieć termin od dnia wejścia w życie ustawy, w którym powinien zostać ogłoszony pierwszy taki konkurs. Część zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 350. PTI Art. 88 ust. 2 Zespół konkursowy ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 jakimi warunkami? brak w rozporządzeniu takich warunków, oprócz tych dotyczących zachowania przepisów prawa krajowego i unijnego! Prosimy o uzupełnienie przepisu o tryb i zawartość publikacji warunków oceny konkursu przed jego ogłoszeniem przez Biuro Komisji tzw. Zespół Konkursowy Brak jasnych ram oceny uczestników konkursu może nie gwarantować obiektywnej oceny. Uwaga wyjaśniona Część regulacji zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 351. PTI Art. 93 ust. 2 Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o: Brakuje określenia co przewodniczący ma otrzymać. Wyniki raportu? Przewodniczący Komisji po otrzymaniu wyników raportu, o którym mowa w ust. 2, może podjąć decyzję o: Błąd pisarski Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 352. GRAI Art. 94 Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Rekomendujemy przyjęcie treści ust. 1: “Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.” W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 17 w ust. 1 art. 9 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Uwaga wyjaśniona Mając na uwadze właściwość ministra do spraw informatyzacji przepis pozostaje bez zmian. Strona | 202 353. GRAI Art. 94 ust. 2 Jest: „2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Propozycja: „2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Uzasadnienie: Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 354. AmCham Art. 94 ust. 2 Jest: Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do Strona | 203 obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 355. ZPTC Lewiatan Art. 94 ust. 2 Jest: 2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: 2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie: Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i Strona | 204 Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 356. GRAI Art. 95 ust. 2 Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek Ministra Cyfryzacji. Rekomendujemy w odniesieniu do art. 95 ust. 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. Uwaga wyjaśniona Zgodnie z projektem ustawy minister właściwy do spraw informatyzacji będzie organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689 a także będzie organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Strona | 205 Ustawa przewiduje współpracę ministra w tym zakresie tych zadań z PCA. Mając na na uwadze sposób organizacji PCA i ich kompetencje nie jest wymagane angażowanie ministra właściwego do spraw gospodarki do kwestii określania zasad współpracy. 357. GRAI Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 358. Polskie sieci elektroenerget yczne Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi Strona | 206 na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 359. Związek Cyfrowa Polska Art. 96 Chociaż uprawnienie Ministra Cyfryzacji do zapewnienia wsparcia finansowego jest pozytywną inicjatywą, lista kwalifikujących się odbiorców powinna zostać rozszerzona. Szersze ramy kwalifikowalności pozwoliłyby Ministerstwu na tworzenie partnerstw z większą ilością podmiotów, ułatwiając rozwój rynku sztucznej inteligencji w Polsce. Rozszerzenie zakresu wspieranych podmiotów zachęciłoby do współpracy startupy, MŚP, instytucje badawcze jak również duże podmioty, wspierając bardziej kompleksowy ekosystem innowacji w zakresie sztucznej inteligencji. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakiem ma ono służyć. 360. AmCham Rozdział 9 (art. 97-106) Stoimy na stanowisku, że umieszczenie w projekcie ustawy przepisów karnych jest niecelowe. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w Polsce. Zdecydowanie bardziej sensowne i bardziej spójne z aktem o AI byłoby konsekwentne stosowanie administracyjnych kar pieniężnych. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. Strona | 207 361. ZPTC Lewiatan Rozdział 9 Należy w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Brzmienie Rozdziału 9 powinno wynikać w związku z tym wprost z treści EU AI Act. Uzasadnienie: Opowiadamy się za regulacjami wspierającymi rozwój sztucznej inteligencji, a nie nakładanie nadmiernych sankcji karnych. (1) Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ustawy o sztucznej inteligencji (art. 106). (2) Za naruszenie ustawy o AI przewidziana jest administracyjna kara pieniężna (ale nie karna) „w wysokości i na warunkach określonych w rozdziale XII ustawy o AI” (art. 97- 104). Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. 362. GRAI Art. 97 ust. 1 i kolejne Przepis at. 97 ust. 1 odwołuje się do rozdziału XII rozporządzenia. Zarazem w art. 99 ust. 8 mamy konieczność doprecyzowania w prawie krajowym państw członkowskich zasad nakładania kar na organy i podmioty publiczne a w projektowanej ustawie brak jest wyraźnej regulacji w tym zakresie. Uwaga wyjaśniona Przepisy ustawy znajdują także do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. Strona | 208 363. KIGEiT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. W związku z faktem, że jest to przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust.1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się Strona | 209 zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 364. PIIT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5, czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów Strona | 210 rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 365. Związek Cyfrowa Polska Art. 97 ust. 4 Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 366. KIGEiT Art. 98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Rekomendacja wydłużenia terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 367. PIIT Art.98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest Strona | 211 Wydłużenie terminu - analogicznie jak w uodo. optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 368. AmCham Art. 99 Projektowany przepis zezwala na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję. Z oczywistych wręcz względów jest to rozwiązanie wysoce kontrowersyjne. Przepis w tym kształcie prowadzi do sytuacji, w której Komisja będzie silnie zmotywowana do nakładania wysokich i licznych kar pieniężnych, nie ze względu na rzeczywiste naruszenia przepisów prawa, ale w celu poprawy swojej sytuacji finansowej. Takie rozwiązanie jest nieetyczne i szkodliwe dla rozwoju sztucznej inteligencji w Polsce. System, w którym organ ma bezpośrednią korzyść finansową z nakładania kar, zachęca go do nadużywania swoich uprawnień. Zamiast wspierać innowacje i rozwój technologii, Komisja może skupić się na poszukiwaniu błahych uchybień, które pozwolą jej na generowanie dodatkowych przychodów. Taka praktyka z pewnością zniechęci przedsiębiorców i inwestorów do angażowania się w projekty związane ze sztuczną inteligencją w Polsce. Co więcej, przepis ten stoi w sprzeczności z innymi rozwiązaniami proponowanymi w projekcie ustawy, które mają na celu wspieranie rozwoju sztucznej inteligencji, takimi jak piaskownice regulacyjne. Piaskownice regulacyjne służą temu, aby firmy mogły testować innowacyjne rozwiązania w kontrolowanym środowisku, bez obawy o surowe kary finansowe. Jeśli jednak Komisja będzie miała motywację do nakładania wysokich kar, idea piaskownic regulacyjnych zostanie wypaczona. Rozwiązanie, w którym kary pieniężne stanowią przychód organu nakładającego kary, jest niezgodne z europejskimi i polskimi standardami. W Polsce, organy takie jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 96 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. Strona | 212 Elektronicznej czy Prezes Urzędu Ochrony Danych Osobowych nie czerpią korzyści finansowych z nakładanych kar. Wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnych funduszy celowych, które mają osobowość prawną i są niezależne od organów nakładających kary. Zasada ta powinna być również stosowana w przypadku Komisji. Wpływy z kar pieniężnych nakładanych przez Komisję powinny trafiać do budżetu państwa, a nie do budżetu Komisji. Tylko takie rozwiązanie zapewni bezstronność i obiektywizm Komisji oraz przyczyni się do zdrowego rozwoju sztucznej inteligencji w Polsce. 369. FinTech Poland Art. 99 Postulujemy zmianę przepisów dotyczących wpływów z administracyjnych kar pieniężnych, które w obecnej treści stanowią przychód Biura Komisji. Taki mechanizm może rodzić konflikt interesów i powinien zostać zastąpiony rozwiązaniem zapewniającym większą transparentność, np. przekazywaniem tych środków do budżetu państwa lub funduszu wspierającego rozwój AI. Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 87 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. 370. ICC Poland Art. 99 Zgodnie z art. 99 Projektu środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Zmiana ta – w stosunku do projektu z 15 października 2024 r. – nie zasługuje na aprobatę. Sytuacja, w której środki z administracyjnych kar pieniężnych nakładanych w drodze postępowań prowadzonych przez Komisję, stanowią przychód samego Biura Komisji, tworzy nieakceptowalną sytuację konfliktu interesów. Tego rodzaju rozwiązanie stwarza bowiem zagrożenie, że w interesie Komisji oraz Biura Komisji będzie, aby administracyjne kary pieniężne były jak najwyższe. Może to wpływać na samo postrzeganie niezależności Komisji jako organu nadzoru nad systemami sztucznej inteligencji. Jakkolwiek szeroki zakres zadań Komisji oraz potrzeba zorganizowania od podstaw Biura Komisji uzasadnia zwiększenie budżetu Biura Komisji w stosunku do zakładanych pierwotnie poziomów, to jednak rozwiązaniem tego problemu nie może być zaproponowana treść art. 99 Projektu. W konsekwencji proponuje się zmianę art. 99 Projektu poprzez przesądzenie, że środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa, podobnie jak ma to miejsce w przypadku art. 104 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz.U. z 2019 r., poz. 1781), wdrażającej rozporządzenie 2016/679: Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji budżetu państwa. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 213 371. PIIT Art. 99 Wpływy z kar pieniężnych nakładanych przez Komisję powinny stanowić przychód budżetu państwa. Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 372. Związek Cyfrowa Polska Art. 99 Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Przepis tego typu może w zasadzie przekreślić wszystkie pozostałe, sprzyjające rozwojowi sztucznej inteligencji (np. piaskownice regulacyjne) rozwiązania obecne z projektowanej ustawie. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar nie powinny stanowić przychodu Komisji z tych samych powodów, dla których wpływy z mandatów nie powinny stanowić przychodu dla nakładającego mandat Policjanta. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 214 Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. 373. ZPTC Lewiatan Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego zapisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 374. GRAI Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego przepisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana także w tym przypadku. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 375. GRAI art. 102 ust. 3 Tak jak w przypadku art. 57 ust. 4 należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Pozostawienie w ustawie przedmiotowego przepisu ma znaczenie w kontekście zachowania kompletności regulacji. 376. GRAI Art. 103 Należy zsynchronizować przepis z treścią art. 189a § 2 in fine k.p.a. Ustanowienie odrębnej od k.p.a. regulacji dotyczącej administracyjnych kar pieniężnych powoduje przecież, że wówczas działu IVA k.p.a. nie stosuje się w ogóle. Projektowany przepis w tym sensie nie wysławiałby nic zaskakującego, skoro powyższe (w części) potwierdza, niemniej jego dość oczywistą intencją jest wyłączenie stosowania jedynie niektórych przepisów działu IVA k.p.a., tak, jakby więc pozostałe z tego działu miały znajdować zastosowanie. Proponuję zatem uczynić przepis bardziej jednoznacznym i nadać mu treść: „W zakresie określonym przepisami tego rozdziału stosuje się przepisy działu IVA Uwaga uwzględniona Przepisowi nadano nowe brzmienie. Strona | 215 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k”. 377. KIGEiT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji. Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że stosuje się ją do egzekucji kar, a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 378. PIIT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 379. KIGEiT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Projektodawca nie przewiduje zmiany przepisów w zakresie wskazanym w uwadze. 380. PIIT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest Strona | 216 związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania w przypadku, o którym mowa w art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 381. KIGEiT Art. 106 Art., 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 382. PIIT Art. 106 Art. 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi Strona | 217 określonymi w odrębnych ustawach. 383. ICC Poland Art. 107 Artykuł 107 Projektu przewiduje dodanie do ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego odrębnych przepisów dotyczących postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689. W projektowanym art. 479 88h § 2 mowa jednak o zażaleniach na postanowienia „Prezesa Urzędu”, nie zaś Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W konsekwencji przepis ten wymaga następującej zmiany: Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uwaga uwzględniona Zmieniono brzmienie przepisu zgodnie z propozycją w uwadze. 384. GRAI Art. 107 Należy zmienić nowo projektowany art. 479 88h § 1 k.p.c. w ten sposób, aby w k.p.c. uregulować procedurę dotyczącą zażaleń na postanowienia Komisji – samo wskazanie terminu na wniesienie zażalenia do sądu to zdecydowanie zbyt mało (powstałyby m.in. daleko idące wątpliwości zwłaszcza co do wymogów formalnych pisma: czy stosować per analogiam wymogi dotyczące odwołania czy jednak w ramach wykładni systemowej przyjąć mniej sformalizowany charakter zażalenia). Wydaje się wystarczające, aby odesłać do odpowiedniego stosowania przepisów dotyczących rozpoznania odwołań. Propozycja nowego brzmienia przepisu: „Przepisy niniejszego działu stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z tym, że zażalenie wnosi się w terminie tygodnia od dnia doręczenia tego postanowienia”. Uwaga wyjaśniona Przepis nie wymaga dalszego doprecyzowania. Zaproponowane rozwiązania są wystarczające. 385. Związek Cyfrowa Polska art. 107 - art. 479[88h](1) Kodeksu Postępowania Cywilnego Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki, w szczególności dla podmiotów o skomplikowanej strukturze organizacyjnej lub w sprawach o zawiłym stanie faktycznym. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest j adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajecie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie Strona | 218 określonym w np. w KPA. 386. PIIT Art. 107 - art. 479[88h] (2) Kodeksu Postępowania Cywilnego § 2. Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu. Przewodniczącego Komisji” Projekt ustawy nie przewiduje nigdzie zażaleń od postanowień Przewodniczącego Komisji, jeśli o niego chodzi jako “Prezesa Urzędu”. Uwaga częściowo uwzględniona Zmieniono brzmienie przepisu w następujący sposób „(.) Przepisy art. 479 88c , 479 88d § 1, art. 479 88f i art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. 387. KIGEiT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r., Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności, co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także, co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 388. PIIT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, muszą być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów Strona | 219 wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. rozporządzenia 2024/1689. Uzasadnienie 1. GRAI Uzasadnienie 2. Negatywny wpływ restrykcyjnego podejścia na gospodarkę 2.1. Wzrost kosztów operacyjnych dla firm • Nadmierna biurokracja wymaga od przedsiębiorstw dodatkowych zasobów na spełnianie formalnych procedur, co przekłada się na wyższe koszty operacyjne. • Dla małych i średnich przedsiębiorstw (MŚP) jest to szczególnie uciążliwe, ponieważ mają ograniczone zasoby na obsługę administracyjną. 2.2. Hamowanie innowacji • Długotrwałe procesy uzyskiwania zgód zniechęcają firmy do testowania nowych technologii w Polsce. • Brak elastyczności ogranicza możliwość szybkiego reagowania na zmieniające się potrzeby rynkowe i technologiczne. 2.3. Ryzyko odpływu innowacyjnych firm za granicę • Firmy, które napotkają bariery w Polsce, mogą przenieść swoje operacje do krajów oferujących bardziej przyjazne warunki regulacyjne. • Odpływ innowacyjnych przedsiębiorstw oznacza utracone miejsca pracy, mniejsze wpływy z podatków oraz spowolnienie transferu technologii. 2.4. Ograniczenie konkurencyjności Polski na arenie międzynarodowej • W warunkach globalnej rywalizacji o inwestycje, zbyt restrykcyjne przepisy stawiają Polskę na mniej korzystnej pozycji wobec innych państw UE i krajów trzecich. • Kraje takie jak Niemcy, Francja czy Estonia już wprowadzają elastyczne systemy piaskownic, przyciągając startupy i inwestorów. Uwaga częściowo uwzględniona Projekt ustawy został zmodyfikowany m.in. w zakresie redukcji obciążeń związanych z korzystaniem z piaskownic regulacyjnych przy jednoczesnym odesłaniu Dodatkowo, projekt przewiduje preferencyjne traktowanie MŚP (m.in. W obszarze piaskownic regulacyjnych oraz kar). 2. GRAI Uzasadnienie 4. Propozycje rozwiązań i rekomendacje 4.1. Model „na zgłoszenie” z ograniczoną rolą państwa • Firmy samodzielnie rejestrują udział w piaskownicy. • Organ nadzoru interweniuje tylko w przypadku zagrożeń dla bezpieczeństwa, praw podstawowych lub cyberbezpieczeństwa. • Domniemana zgoda po 30 dniach od zgłoszenia zapewnia szybki start testów. 4.2. Ograniczenie roli PCA w procesie walidacji • Proces akredytacyjny powinien być realizowany przez jednostki oceniające zgodność bez konieczności angażowania Polskiego Centrum Akredytacji (PCA), co skróci czas i koszty wdrażania innowacji. 4.3. Wprowadzenie mechanizmu „kontroli zarządczej” Uwaga wyjaśniona W kwestii piaskownic regulacyjnych należy wskazać, że w tym zakresie zostaną wydane akty delegowane KE, które Polska będzie zobowiązana honorować. Strona | 220 • Każda firma wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i zgodnością. • Raportowanie co 6 miesięcy pozwala na monitorowanie efektów bez zbędnej biurokracji. 4.4. System zachęt dla przedsiębiorców • Ulgi podatkowe i regulacyjne dla firm uczestniczących w piaskownicach. • Finansowanie testów AI poprzez granty i vouchery dla MŚP. Możliwość uzyskania wstępnej oceny zgodności przed wejściem na rynek. Rola PCA w projekcie ustawy została ustalona adekwatnie do wymagań regulacyjnych wynikających z AI Akt. W zakresie wprowadzenia mechanizmu kontroli zarządczej należy wskazać, że regulacje w tym zakresie stanowiłaby silną ingerencje w sposób zarządzania podmiotów. Z uwagi na różnorodność podmiotów inne rozwiązania mogą okazać się skuteczne dla administracji w której jest prowadzona kontrola zarządcza a inne w podmiotach prywatnych w których np. Funkcjonują komórki compliance. Zasadne wydaje się pozostawienie tej kwestii w gestii poszczególnych podmiotów. Ocena Skutków Regulacji 1. ZPWC OSR Jesteśmy zaniepokojeni poziomem finansowania nowej infrastruktury nadzorującej sztuczną inteligencję w Polsce. Nawet docelowe przeznaczenie 31 milionów złotych w roku 2027 wydaje się niewystarczające, aby nowy urząd mógł efektywnie pełnić swoje funkcje. Potrzebujemy wykwalifikowanego personelu z dogłębną wiedzą z zakresu technologii i funkcjonowania AI, prawa autorskiego, ochrony danych osobowych czy Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy Strona | 221 cyberbezpieczeństwa. Obawiamy się, że proponowane personelowi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI) średnie wynagrodzenie brutto na poziomie 15 tys. zł nie będzie wystarczające, aby przyciągnąć takich specjalistów. Podobne wątpliwości odnośnie do adekwatności wynagrodzenia osób stojących na czele Komisji (KRIBSI). stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 2. GRAI OSR Uzasadnienie legislacyjne 1. Cel nowelizacji Ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. 2. Korzyści nowego systemu Redukcja biurokracji: Piaskownica działa na zasadzie zgłoszenia, a nie zgody administracyjnej. Przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. Wzmocnienie samoregulacji: Firmy same odpowiadają za zgodność testów. Przejrzystość: Organ państwowy interweniuje tylko w wyjątkowych sytuacjach. Uwaga częściowo uwzględniona OSR został uzupełniony w zakresie uwagi dot. celu nowelizacji Uwaga nr 2 jest niezgodna z treścią przepisów projektu ustawy, tym samym OSR nie może zostać uzupełniony w proponowany sposób. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownego opiniowania Lp . Jednostka redakcyjn a, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko MC Uwagi ogólne 1. NCBR Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie przepisu, który pozwoli Komisji i Radzie na koordynowanie działań oraz dokonywanie ujednoliconej wykładni we współpracy z ich odpowiednikami w pozostałych państwach członkowskich, w tym np. wzajemne uznawanie decyzji certyfikacyjnych między państwami członkowskimi UE. Przepis umożliwi na działanie w środowisku międzynarodowym. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozporządzenia 2024/1689 w rozdziale III. 2. NSZZ Niewystarczająca ochrona pracowników: Projekt nie zawiera rozwiązań chroniących pracowników przed zagrożeniami wynikającymi ze stosowania systemów AI w pracy, mimo że rozporządzenie 2024/1689 klasyfikuje je jako systemy wysokiego ryzyka (art. 6 ust. 2, zał. III pkt 4). Polski ustawodawca nie wykorzystuje możliwości wprowadzenia korzystniejszych przepisów dla pracowników (art. 2 ust. 11 rozporządzenia). Niewystarczający zakres informacji dla pracowników: Obowiązek informowania pracowników o stosowaniu systemów AI (art. 26 ust. 7 rozporządzenia 2024/1689) jest niewystarczający bez podania: nazwy systemu, zasad działania, zakresu działania i potencjalnych skutków dla pracowników. Brak tych danych utrudnia np. złożenie skargi (art. 50 projektu). Propozycja: rozszerzenie Uwaga wyjaśniona Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Regulacje dotyczące systemów wysokiego ryzyka zostaną rozważone i wprowadzone w przypadku konieczności podjęcia działań legislacyjnych do 2 sierpnia 2026 roku. W tym czasie będą również opracowywane przez 2 obowiązku informacyjnego o nazwę, zakres, zasady działania, wpływ na decyzje pracodawcy, warunki pracy, płacę, ocenę pracy, dostęp do zatrudnienia i dane zbierane przez system. Brak dostępu związków zawodowych do informacji Projekt nie przewiduje unormowanego dostępu przedstawicieli pracowników (w tym związków zawodowych) do szczegółowych informacji o systemach AI u pracodawcy. Brak takich danych uniemożliwia kontrolę zgodności z prawem pracy. Propozycja: zagwarantowanie dostępu do szczegółowych informacji dla związków zawodowych. Brak oceny wpływu systemów AI Projekt nie wymaga od pracodawcy oceny wpływu systemów AI na warunki pracy, płacę, prawa podstawowe i równość przed wdrożeniem. Propozycja: wprowadzenie obowiązku takiej oceny we współpracy ze związkami zawodowymi przed wdrożeniem oraz regularnego przeglądu po wdrożeniu. Prawo związków do przeglądu systemów AI Brak regulacji dających związkom zawodowym lub przedstawicielom pracowników prawo do regularnego przeglądu systemów AI i żądania dostosowań/ograniczeń. Propozycja: wprowadzenie takiego prawa. Wymogi projektowania systemów AI Brak wymogu, by systemy AI były projektowane zgodnie z prawem pracy i oceniane pod kątem bezpieczeństwa (jak inne maszyny). Propozycja: wprowadzenie takich wymogów. Komisję Europejską akty delegowane oraz inne akty prawne oraz dokumenty merytoryczne dotyczące obszaru systemów wysokiego ryzyka. Uwaga wyjaśniona. W zakresie dotyczącym prawa dostępu do algorytmów projektodawca chciałby podkreślić, że obszar ten wykracza poza treść przepisów objętych rozporządzeniem i kwestia ta wymaga rozważenia i ewentualnego uregulowania w osobnym działaniu w ramach obszaru regulacji rynku pracy. 3. Pracodawcy RP Modele AI ogólnego przeznaczenia Projekt nakłada obowiązki na dostawców modeli AI ogólnego przeznaczenia, co jest niezgodne z Aktem o AI, który daje wyłączne prawo regulacji tych modeli Biuru ds. AI lub Komisji Europejskiej. Propozycja: Usunięcie dodatkowych wymagań krajowych dla modeli ogólnego przeznaczenia. Uwaga wyjaśniona. Postulaty zawarte w uwadze dot. ochrony danych osobowych zostały częściowo uwzględnione w projekcie. Jednocześnie, ochrona informacji niejawnych lub w inny sposób objętych ochroną 3 Ochrona danych Brak odpowiednich zabezpieczeń dotyczących ochrony danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania. Propozycja: Wprowadzenie klauzul ochronnych w projekcie. Obowiązki dostawców AI Projekt nie precyzuje zakresu dokumentacji i procedur dla dostawców systemów AI (np. oceny ryzyka, audyty, testy), co może prowadzić do naruszeń przepisów unijnych. Propozycja: Doprecyzowanie obowiązków dostawców, w tym wymogów dotyczących audytów, testów i raportowania zgodności. Podział odpowiedzialności Niejasny podział odpowiedzialności między dostawcami a podmiotami stosującymi AI, co może prowadzić do niepewności prawnej i przerzucania odpowiedzialności. Propozycja: Precyzyjne określenie podziału odpowiedzialności w projekcie. Przejrzystość i wyjaśnialność AI Brak regulacji dotyczących obowiązku przejrzystości i wyjaśniania decyzji AI, co narusza prawa użytkowników. Propozycja: Wprowadzenie mechanizmów transparentności, w tym prawa do wyjaśnień decyzji AI. Kompetencje UODO Projekt nie określa kompetencji Prezesa UODO w zakresie nadzoru nad AI (audyty, monitorowanie zgodności z RODO), co może utrudnić egzekwowanie ochrony danych. Propozycja: Określenie kompetencji UODO w projekcie. prawną uregulowana jest w przepisach dot. Kontroli. Według projektodawcy wprowadzanie nowych, dodatkowych wobec rozporządzenia 2024/1689 wymogów oraz procedur wykraczałoby poza zakres objęty wdrożeniem przepisów Aktu, a także rodziłoby niepotrzebne obciążenia z punktu widzenia obywateli i przedsiębiorców. Przedsiębiorców. Dotyczy zarówno obowiązków dostawców, podziału odpowiedzialności czy przejrzystości i wyjaśnialności AI. W zakresie uprawnienia do uzyskania wytłumaczenia decyzji podjętej z udziałem systemu AI wysokiego ryzyka, obszar ten poddany zostanie analizie w ramach odrębnych prac nad wdrożeniem przepisów dot. Systemów wysokiego ryzyka, o których mowa w art. 6 AI Aktu. W zakresie kompetencji Prezesa UODO należy zauważyć, że celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. 4. URPL Podtrzymuję także swoje stanowisko wyrażone w pkt 3 pisma z dnia 8 listopada 2024 r. (znak: DP.023.99.2024; pismo w załączeniu) dotyczące wskazania Prezesa Urzędu jako organu właściwego w Uwaga wyjaśniona W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się 4 zakresie nadzoru nad wyrobami medycznymi wykorzystującymi sztuczną inteligencję (np. oprogramowania będące wyrobami medycznymi), wyznaczania jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzoru nad nimi w tej kwestii. Podkreślenia wymaga, że z informacji zebranych podczas spotkań na szczeblu międzynarodowym (Competent Authorities for Medical Devices (CAMD) – spotkanie organów kompetentnych dla wyrobów medycznych, spotkania grupy roboczej MDCG (Grupy Koordynacyjnej ds. Wyrobów Medycznych) – Market Survilance working group) oraz w korespondencji z Komisją Europejską (DG Sante D.3 Medical Devices) wynika, że jeżeli zostanie wdrożony aktualny projekt ww. ustawy, Polska będzie jedynym krajem w Unii Europejskiej, w którym organ właściwy ds. nadzoru rynku oraz organ właściwy w zakresie jednostek notyfikowanych w zakresie wyrobów medycznych objętych rozporządzaniem Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, zwanym dalej „rozporządzeniem 2017/745”, i rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, nie będzie właściwy w zakresie systemów AI stosowanych w tych wyrobach. Jest to tym bardziej wątpliwe rozwiązanie, że systemy AI już teraz są stosowane w wyrobach medycznych (np. do analizy obrazów diagnostycznych) Wobec tego już obecnie podlegają one nadzorowi Prezesa Urzędu i są certyfikowane przez jednostki notyfikowane w zakresie wyrobów medycznych. ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Jednocześnie, z uwagi na istotność regulacji obszaru technologii medycznych jak również harmonogram prac Komisji Europejskiej w zakresie aktów prawa oraz materiałów merytorycznych dot. tego obszaru na poziomie unijnym wynikającym bezpośrednio z przepisów Rozporządzenia, prace nad dostosowaniem przepisów prawa do wymogów nadzoru nad systemami wysokiego ryzyka (również w obszarze medycznym) wymagają odrębnej analizy oraz ewentualnych prac przed 2.08 2026 r. 5 Proponowane rozwiązanie budzi wątpliwości w kontekście stanowiska Komisji Europejskiej oraz założeń wdrażanej legislacji. Zgodnie art. 8 ust. 2 zdanie drugie rozporządzenia 2024/1689 ocena zgodności z wymaganiami tego rozporządzenia może być zintegrowana z oceną zgodności oprogramowania jako wyrobu medycznego z wymaganiami rozporządzania 2017/745 lub rozporządzenia 2017/746. W załączeniu przekazujemy prezentację przedstawicielki Komisji Europejskiej dot. procedury oceny zgodności z obiema regulacjami. Komisja Europejska zwróciła uwagę na możliwość przeprowadzenia jednej oceny zgodności wyrobu z obiema regulacjami. W trakcie spotkań międzynarodowych była też omawiana kwestia jednoznacznego oznakowywania kompetencji jednostek notyfikowanych. Na spotkaniu grupy roboczej WG NBO (nadzór nad jednostkami notyfikowanymi - Grupa robocza działająca jako podgrupa Grupy Koordynacyjnej ds. Wyrobów Medycznych powołana na podstawie art. 103 rozporządzenia 2017/745) ustalono, że kompetencje pracowników jednostki w zakresie certyfikacji AI będą oceniane w ramach oceny kompetencji niezbędnych do certyfikacji wyrobów mieszczących się w kodach MDA 0315 „Oprogramowanie” oraz MDS 1009 „Wyroby zawierające oprogramowanie/wykorzystujące oprogramowanie/sterowane przez oprogramowanie, w tym wyroby do sterowania działaniem aktywnych wyrobów lub aktywnych wyrobów do implantacji lub do monitorowania tego działania, lub bezpośrednio na to działanie wpływające”. Wobec tego jednostka, która będzie kompetentna w zakresie AI, nie będzie mieć ograniczeń w tych kodach. W przypadku braku tych kompetencji, jednostka będzie mieć ograniczenie do wyrobów niezawierających AI. W sytuacji, gdy w Polsce przyjęte zostanie inne rozwiązanie organizacyjne (2 organy notyfikujące) uprawnienia polskich jednostki notyfikowanych w bazie NANDO (wykaz jednostek notyfikowanych w zakresie legislacji europejskich) będzie inaczej określone. Prezes Urzędu jako niewłaściwy w zakresie AI w wyrobach medycznych, będzie musiał wprowadzić ograniczenie w 6 tych kodach w opisie udzielonej notyfikacji na rozporządzenia 2017/745 lub 2017/746, a inny organ notyfikujący po uzyskaniu przez te jednostki notyfikacji w zakresie systemów AI poda tę notyfikację w odniesieniu do rozporządzenia 2024/1689. Będzie to wymagało dodatkowych wyjaśnień (wątpliwość – czy jest możliwe ich zapisanie w bazie NANDO), które będą trudne do zrozumienia przez przedsiębiorców. Dlatego niezbędne jest wnikliwe rozważenie, co przemawia za takim rozwiązaniem. Proponowane rozwiązanie budzi wątpliwości także co do skuteczności praktycznego wdrożenia projektowanych przepisów w zakresie nadzoru rynku. Zgodnie z art. 5. ust 1. proponowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. Według przepisu członkami Komisji są przedstawiciele szeregu instytucji. Projekt przewiduje stworzenie Biura Komisji do wykonywania zadań w tym zakresie. Wobec tego do nadzoru wyrobów medycznych zawierających systemy AI będą uprawnione dwa podmioty – Komisja i Prezes Urzędu w swoim zakresie kompetencji. Będzie to rodzić szereg komplikacji, zwłaszcza że producent zapewne przygotuje jedną dokumentację oceny zgodności – zarówno z wymaganiami dotyczącymi bezpośrednio wyrobów medycznych, jak i z wymaganiami w zakresie systemów AI. Będzie to racjonalne działanie, ponieważ system AI będzie stanowił „silnik” wyrobu medycznego. Niezwykle trudna byłaby ocena działania wyrobu bez jednoczesnej oceny systemu AI, a także ocena samego systemu AI bez szczegółowej wiedzy na temat konkretnego wyrobu medycznego. W sytuacjach, gdy dokumentacja systemu AI będzie częścią dokumentacji zgodności wyrobu medycznego, pracownicy Biura Komisji mogą mieć trudności ze zrozumieniem specyfiki danego wyrobu medycznego. Możliwe też będzie uchylanie się przez podmioty przed kontrolą Prezesa Urzędu poprzez podważanie jego uprawnień do kontroli w zakresie działania systemu AI, który – będąc istotą działania wyrobu medycznego – musi podlegać ocenie Prezesa Urzędu w zakresie spełniania przez wyrób medyczny 7 określanego przewidzianego zastosowania. Takie zjawisko może występować zwłaszcza w sytuacjach, gdy oprogramowanie, mimo spełnienia definicji wyrobu medycznego, nie będzie za taki uznawane przez producenta, a podmiot będzie się uchylał od nałożonych na niego przez rozporządzenia 2017/745 i 2017/746 obowiązków. Ponadto definicja poważnego incydentu określona w rozporządzeniu 2017/745 i rozporządzeniu 2017/746 jest zbieżna z punktem a definicji incydentu podanej w rozporządzeniu 2024/1689. Spowoduje to zdublowanie raportowania (do Komisji i Prezesa Urzędu). Ponadto, zalecenia wydawane przez Prezesa Urzędu i Komisję dotyczące postępowania po poważnym incydencie mogą być rozbieżne. Niezbędne jest zatem w ocenie Urzędu wprowadzenie wprost w projektowanych przepisach ustawy zasady, że uprawnienia Komisji nie mają wpływu na uprawnienia innych organów nadzoru w zakresie możliwości oceny systemów AI stosowanych w poszczególnych produktach lub wyrobach albo w badaniach tych produktów lub wyrobów (tak jak chociażby w przypadku wyrobów medycznych). W przypadku przyjęcia odmiennego stanowiska, niezbędne będzie bowiem w świetle ww. wyjaśnienia co najmniej wypracowanie rozwiązań nadzoru łączonego. W tym miejscu należy zauważyć, że na wątpliwości systemowe związane z samą koncepcją ustanowienia nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji zwróciła uwagę Kancelaria Prezesa Rady Ministrów w toku przeprowadzonych uzgodnień projektu ustawy. W uwadze tej wskazano, że nie można zgodzić się z twierdzeniem uzasadnienia, że w Polsce nie istnieje organ lub instytucja publiczna spełniająca wymogi określone w rozporządzeniu 2024/1689 w zakresie statusu prawnego i roli ustrojowej, gdyż podobnym charakterem odznaczają się m.in. Prezes UODO, Prezes UOKiK czy Prezes UKE. Tym samym wskazano, że ponownej analizy wymaga, czy zadań określonych dla organu nadzoru nad AI nie mogą wykonywać istniejące organy. Wskazano także na konieczność uzasadnienia, że utworzenie nowej instytucji będzie rozwiązaniem efektywniejszym i bardziej optymalnym niż przekazanie zadań organu nadzoru nad sektorem sztucznej 8 inteligencji jednemu z już istniejącym w polskim porządku prawnym organów regulacyjnych. Powyżej wyrażone wątpliwości pokrywają się w znacznej części z wątpliwościami przedstawionymi w niniejszym piśmie związanymi z oceną systemów AI stosowanych w wyrobach medycznych. Reasumując, Prezes Urzędu ponownie proponuje zorganizowanie spotkania w celu omówienia możliwości wdrożenia praktycznych rozwiązań, które zapewnią przewidywalność i skuteczność systemu. Wyroby medyczne są specyficzną grupą wyrobów, a wymagania im stawiane są bardzo wysokie i szczegółowo opisane w legislacji europejskiej. Rynek ten boryka się z szeregiem problemów, a regulacyjne obciążenie producentów jest znaczące. Jednocześnie są to wyroby, których znaczenie dla społeczeństwa jest kolosalne. Dlatego bardzo istotne jest, aby system regulacyjny był stworzony w taki sposób, by nie powodował nadmiernego obciążenia producentów. Jest wiele kwestii, które wymagają ustalenia, np. zasady wymiany informacji na poziomie krajowym i europejskim, w tym informacji wrażliwych (dokumentacja medyczna), postępowanie po wystąpieniu poważnego incydentu, postępowanie w przypadku konieczności aktualizacji oprogramowania i realizacji działań związanych z bezpieczeństwem wyrobów po wprowadzeniu do obrotu i używania. 5. Uwaga ogólna do całości Projektu IAB Polska Opis podstawowych uwag Stanowisko przedstawia kluczowe zastrzeżenia dotyczące projektu implementacji unijnego AI Act do prawa krajowego, wskazując na obszary wymagające rewizji w celu zapewnienia zgodności z regulacjami na poziomie UE. Szczególne obawy budzi szeroki zakres art. 42 dotyczący dostępu do treści klientów przechowywanych w chmurze, który potencjalnie mógłby naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Postanowienia Projektu dotyczące środków egzekwowania, szczególnie w art. 53, wykazują potencjalną niespójność z intencjami unijnego AI Act, podczas gdy proponowane sankcje karne w Rozdziale 9 wymagają ponownej Uwaga wyjaśniona Projekt został przeanalizowany pod kątem zgłoszonych uwag. Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. w art. 34 (poprzednio art. 42). Przepisy o kontroli zostały zaprojektowane w sposób umożliwiający przeprowadzenie kontroli pozwalającej na ustalenie jednoznacznych jej wyników przy jednoczesnym zapewnieniu naj najmniejszego obciążenia kontrolowanego oraz poszanowania tajemnic prawnie chronionych. 9 oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Dodatkowe obszary wymagające uwagi obejmują niewystarczające zabezpieczenia informacji chronionych, nieracjonalnie krótkie terminy na ustosunkowanie się do zastrzeżeń organów regulacyjnych oraz kwestie dotyczące zakresu terytorialnego, które mogą prowadzić do nakładania się jurysdykcji. Podejście projektu do odpowiedzialności indywidualnej oraz traktowanie modeli AI ogólnego przeznaczenia również wymaga wyjaśnienia w celu zapewnienia spójności z ramami na poziomie UE. Powyższe kwestie, jeśli nie zostaną rozwiązane, mogą prowadzić do niepewności regulacyjnej, potencjalnie utrudniając rozwój AI przy jednoczesnym naruszeniu standardów ochrony danych. Poniższa szczegółowa analiza przedstawia konkretne rekomendacje mające na celu lepsze dostosowanie prawa implementacyjnego zarówno do litery, jak i ducha unijnego AI Act. W kwestii długości terminów należy wskazać, że odstąpiono od wyznaczenia terminu na zgłoszenie poważnych incydentów pozostałe terminy zostały przewidziane w sposób zapewniający skuteczne stosowanie przepisów i nie odbiegają od terminów powszechnie stosowanych w ramach postępowań przed organami. 6. Uwaga ogólna do całości Projektu IAB Polska Ryzyko fragmentacji prawa UE Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji AI Act (zob. art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13). Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. AI państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji AI Act, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie AI w całej UE. Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z AI Act i wytycznymi AI Office. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 7. Uwaga ogólna do IAB Polska Przegląd Projektu i usunięcie niepotrzebnych elementów W treści Projektu można zauważyć elementy, które są pozostałościami po poprzednim projekcie lub pracach Uwaga uwzględniona Nadano nowe brzmienie art. 39 ust. 2 pkt 1. 10 całości Projektu wewnętrznych Ministerstwa. Przykład: art. 47 ust. 2 pkt 1 kończy się sformułowaniem: w celu ich usunięcia nie i. 8. Szef Służby Cywilnej Moje wątpliwości nadal budzi propozycja organizacji Biura Komisji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Zasadą jest, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak jak np. w przypadku Urzędu Komunikacji Elektronicznej). Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji i Przewodniczącego tej Komisji. Komisja ta będzie zatem realizować m. in. zadania o charakterze urzędniczym (np. wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia2 oraz ustawy, udział w opracowywaniu i opiniowaniu aktów prawnych), a jej biuro będzie współrealizowało te zadania. Uzasadnione jest więc, aby wykonywały je osoby zatrudnione w korpusie służby cywilnej, wyłonione w drodze otwartego i konkurencyjnego naboru. Wprowadzenie tej zasady pozwoli na zastosowanie regulacji odnoszących się do zasad służby cywilnej i zasad etyki korpusu służby cywilnej, niezbędnych w przypadku instytucji porównywalnych do profilu nowotworzonego urzędu. Dodatkowo będzie to służyło także zagwarantowaniu niezależności, o której mowa w art. 70 rozporządzenia PE i Rady UE 2024/1689 z 13 czerwca 2024 r. Ponadto, w związku z tym, że Szef Służby Cywilnej jest centralnym organem administracji rządowej właściwym w sprawach służby cywilnej, proszę o uwzględnianie mnie na kolejnych etapach prac legislacyjnych. Projekt powinien być także skierowany do Rady Służby Publicznej, która wyraża opinie w sprawach projektów aktów normatywnych dotyczących służby cywilnej. Uwaga wyjaśniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 11 9. RMŚP Wątpliwości budzą przepisy ograniczające pierwszeństwo regulacji zawartych w ustawie z dnia 6 marca 2018 r. Prawo przedsiębiorców („Konstytucja Biznesu”), a które mają charakter gwarancyjny, w zakresie prowadzenia kontroli przedsiębiorców. Za równie istotne, dla skutecznej ochrony praw przedsiębiorców – konieczne jest powołanie w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców. Należy zauważyć, iż racjonalne wytyczenie ograniczeń w zakresie kontroli jest uzasadnionym postulatem przedsiębiorców i wraz z wejściem w życie najpierw ustawy z dnia 2 lipca 2004 r. o swobodzie działalności gospodarczej7, a następnie ustawy Prawo przedsiębiorców – stało się trwałym i niekwestionowanym elementem istniejącego porządku gospodarczego oraz niezbędnym wsparciem dla przewidywalności prowadzenia działalności gospodarczej. Gwarancje praw przedsiębiorców w postępowaniach kontrolnych należy uznać za jedno z podstawowych praw przyznanych przedsiębiorcom. Podkreślenia wymaga, iż w myśl obowiązujących przepisów – zasady i tryb kontroli odmiennie niż w przepisach ustawy Prawo przedsiębiorców mogą wynikać jedynie z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 45 ust. 1 Prawa przedsiębiorców nie przewiduje wyjątków od ograniczeń kontroli przedsiębiorców zawartych w Rozdziale 5 tej ustawy. Przy czym projektowanie wzajemnie sprzecznych przepisów oraz ingerujących w podstawowe prawo przedsiębiorców do możliwości prowadzenia działalności gospodarczej w oparciu o jasne i stabilne uregulowania – może być uznane za systemowo wadliwe i nadmiernie godzące w zasadę swobody działalności gospodarczej wynikającej z art. 2 Prawa przedsiębiorców oraz art. 20 i 22 Konstytucji Rzeczypospolitej Polskiej.8 Warto w powyższym kontekście zwrócić uwagę, iż ograniczenia w zakresie wszczynania i prowadzenia kontroli są jednym z najistotniejszych postulatów deregulacyjnych Rzecznika, Uwaga wyjaśniona i uwzględniona System kontroli uległ znaczącemu uproszczeniu po I etapie uzgodnień międzyresortowych, opiniowania i konsultacji publicznych realizujące zasadniczą część postulatów wyrażonych w uwadze. Po I etapie znacząco ograniczono uprawnienia kontrolujących wobec kontrolowanych. Kontrola ma być domyślnie sprawowana w sposób zdalny i będzie dotyczyć lokalizacji fizycznych jedynie w niezbędnych sytuacjach. W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców będzie mógł uczestniczyć w pracach Komisji na zasadach określonych w art. 6 ust. 3. Ponadto zgodnie z art. 25 ust. 3 pkt 5 - Rzecznik Małych i Średnich Przedsiębiorców będzie uprawniony do wskazywania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji. 12 wyrażonym w stanowisku z dnia 12 lutego 2025 r.9 skierowanym do Prezesa Rady Ministrów i do wiadomości Wiceprezesa Rady Ministrów – Ministra Cyfryzacji. 10. Uwaga ogólna dotycząca innej formy piaskownic regulacyjny ch PARP Niezbędne jest stworzenie w Polsce środowiska testowego dla sztucznej inteligencji, które tworzyłoby i wspomagało kulturę eksperymentowania z rozwiązaniami sztucznej inteligencji i walidacji rezultatów tych eksperymentów. Jednocześnie funkcją projektowanego środowiska winna być analiza i walidowanie istniejących rozwiązań regulacyjnych w zakresie oceny w jakim stopniu stanowią one nieuzasadnioną barierę dla rozwoju innowacji oraz uwzględniają potrzebę rozwoju społeczeństwa informacyjnego przy zachowaniu warunków dla konkurencyjności przedsiębiorstw. Uzasadnieniem dla proponowanych zmian jest: • Ułatwienie testowania i rozwoju systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania, a w związku z tym zapewnienie uczestnictwa w piaskownicy regulacyjnej każdemu zainteresowanemu przedsiębiorcy, a nie tylko uwzględnionemu w procesie wydania decyzji administracyjnej. • Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Projektowana w projekcie ustawy instytucja decyzji administracyjnej nie tylko wydłuża proces rozwoju innowacji systemów sztucznej inteligencji, ale stanowi nadmierną barierę formalną naruszającą zasadę równości przedsiębiorstw i swobodę działalności gospodarczej. Jednocześnie podejście nadmiernego formalizmu wpisywałoby się ogólną tendencję deregulacją działalności gospodarczej, a również stanowiłoby wpisanie się we wnioski Raportu Mario Draghiego aby uczynić UE silną przez wsparcie i rozwój innowacji i zapewnić konkurencyjność europejskiej gospodarki. • Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki i zgodności z prawem. Proponowane podejście dostarczałoby dodatkowych korzyści do projektowanej ustawy w postaci: Uwaga uwzględniona Przepisy dotyczące piaskownic regulacyjnych zostały dodane do projektu ustawy w rozdziale 8 po I etapie uzgodnień, opiniowania i konsultacji publicznych realizując zasadniczą część postulatów wyrażonych w uwadze. 13 • Redukcji biurokracji: piaskownica działałaby na zasadzie zgłoszenia, a nie zgody administracyjnej wyrażanej w postaci decyzji administracyjnej. • Nastąpiłoby przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. • Zachęcałoby w ten sposób wzmocnienie samoregulacji i zapewnienia przez firmy zgodność testów i prac rozwojowych z prawem, ale też nadchodzącym kodeksem dobrych praktyk opracowywanym przez środowisko innowatorów przy Komisji Europejskiej. • Jednocześnie proponowane rozwiązanie wspierałoby przejrzystość: gdyż organ administracji państwa interweniowałby tylko w wyjątkowych sytuacjach, a jednocześnie wspierałoby doskonalenie produktu lub usług dla celów ostatecznych testów. Mając to na uwadze proponuje się następujące zmiany w zakresie organizacji projektowanych piaskownic regulacyjnych, jak następuje poniżej (art. 3 pkt 15, art.5, art. 30, art. 31). 11. Uwaga ogólna - Brak konkretnych rozwiązań w projekcie, mających na celu wsparcie przedsiębior ców w obszarze wdrażania technologii AI zgodnie z obowiązują PARP Projekt ustawy w obecnej wersji koncentruje się głównie na aspektach regulacyjnych i nadzorczych, pomijając kwestie wsparcia dla mikro, małych i średnich przedsiębiorstw (MŚP) oraz startupów w procesie dostosowywania się do nowych wymogów prawnych. Wprowadzenie nowych regulacji może stanowić istotne obciążenie dla mniejszych podmiotów, które nie dysponują odpowiednimi zasobami na spełnienie wymagań administracyjnych i certyfikacyjnych. Art. 5 ust. 3 pkt 5 przewiduje wprawdzie współpracę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z ministrem właściwym do spraw informatyzacji, jednak w projekcie brakuje konkretnych rozwiązań mających na celu wsparcie przedsiębiorców w obszarze wdrażania technologii AI zgodnie z obowiązującymi regulacjami. Warto rozważyć wprowadzenie dodatkowych mechanizmów, takich jak finansowanie certyfikacji systemów sztucznej inteligencji dla MŚP, preferencyjne warunki uczestnictwa w piaskownicach regulacyjnych, czy też ulgi Uwaga częściowo uwzględniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. Poprzez przepis, że uczestnictwo mikro, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne (art. 75 ust. 4). 14 cymi regulacjami podatkowe dla firm inwestujących w rozwój zgodnych z prawem technologii AI. 12. Uwaga ogólna - Harmonizac ja certyfikacji systemów AI na poziomie UE PARP Projekt nie odnosi się do mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich. Brak tego elementu może prowadzić do sytuacji, w której przedsiębiorstwa będą musiały przechodzić wielokrotne procesy certyfikacyjne w różnych krajach, co znacząco zwiększy koszty i czas wdrażania nowych rozwiązań. Warto rozważyć wprowadzenie przepisów umożliwiających wzajemne uznawanie certyfikacji w ramach UE, co przyczyniłoby się do ograniczenia barier regulacyjnych i ułatwiłoby funkcjonowanie polskich przedsiębiorców na jednolitym rynku europejskim. Rozwiązaniem może być wprowadzenie mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich UE oraz rozważenie stworzenia centralnej bazy danych decyzji certyfikacyjnych. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozdziału III rozporządzenia 2024/1689. 13. Uwaga ogólna - Mechanizm przeglądu skutecznośc i regulacji PARP W projekcie ustawy brakuje mechanizmu oceny skuteczności wprowadzonych regulacji po ich wejściu w życie (ewaluacja skutków wdrożenia regulacji po określonym czasie). Wprowadzenie nowych przepisów może generować nieprzewidziane skutki dla przedsiębiorstw, dlatego zasadnym byłoby wprowadzenie obowiązku przeprowadzenia przeglądu funkcjonowania regulacji po określonym czasie, np. po 12 lub 24 miesiącach. Pozwoliłoby to na analizę realnego wpływu ustawy na rynek oraz na ewentualne dostosowanie przepisów do dynamicznie zmieniających się warunków technologicznych i gospodarczych. Brak takiego mechanizmu może skutkować utrzymywaniem nieoptymalnych rozwiązań prawnych, które mogą negatywnie wpływać na innowacyjność i konkurencyjność polskich przedsiębiorstw w obszarze AI. Propozycją do rozważenia jest dodanie przepisu zobowiązującego Komisję do przeprowadzenia przeglądu skuteczności przepisów np. po 12-24 miesiącach od ich wejścia w życie, co umożliwi dostosowanie regulacji do realiów rynkowych. Uwaga wyjaśniona Zgodnie z Oceną Skutków Regulacji ewaluacja projektu ustawy będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów 15 krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Prezesowi Rady Ministrów sprawozdania Komisji ze swojej działalności za rok poprzedni. 14. Uwaga ogólna ZPP Projekt ustawy o systemach sztucznej inteligencji, mający na celu wdrożenie krajowych mechanizmów nadzoru zgodnie z unijnymi ramami (AI Act), stanowi kluczowy instrument zarówno w zakresie ochrony praw podstawowych i bezpieczeństwa użytkowników, jak i wspierania rozwoju innowacyjnych rozwiązań technologicznych. Związek Przedsiębiorców i Pracodawców docenia intencję ustawodawcy, jednak wskazuje na potrzebę uzupełnienia i doprecyzowania niektórych przepisów, aby zapewnić klarowność procedur, eliminację konfliktów interesów oraz odpowiednią ochronę danych i tajemnic handlowych. Uwaga wyjaśniona i częściowo uwzględniona Postulaty zawarte w uwadze zostały wzięte pod uwagę w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji. Wprowadzono liczne zmiany w ramach poszczególnych procedur regulowanych w projekcie mające na celu zapewnienie ich przejrzystości. 15. Uwaga ogólna PUODO Standard niezależności organu nadzorczego nie znalazł jednak pełnego odzwierciedlenia w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. W świetle projektu ustawy nadal nie jest jasny zakres kompetencji Prezesa Urzędu Ochrony Danych Osobowych w sprawach z zakresu przetwarzania danych osobowych, wynikających zarówno z przepisów aktu w sprawie sztucznej inteligencji (dalej również jako rozporządzenie 2024/1689 albo AI Act) oraz ogólnego rozporządzenia o ochronie danych (dalej również jako rozporządzenie 2016/679). Nie określono też w projekcie ustawy mechanizmu usuwania sporów kompetencyjnych w tym zakresie. Ponadto, w projekcie ustawy brak jest przepisów, z których wynika, że Prezes UODO sprawuje wyłączny nadzór nad systemami wysokiego ryzyka, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji na jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). 16 Projektodawca, odnosząc się do wcześniejszych uwag Prezesa UODO w sprawie m.in. braku przepisów dotyczących kompetencji krajowego organu nadzorczego wynikających wprost z rozporządzenia 2024/1689 (art. 74 ust. 8), wskazał wprawdzie, że: „Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestie te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego (...)” i wyjaśnił, że: „Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy” – to jednak nie określił żadnych dalszych szczegółów związanych z planowanym rozwiązaniem, zwłaszcza daty rozpoczęcia prac nad projektem czy podstawowych założeń, które umożliwiłyby Urzędowi Ochrony Danych Osobowych rozpoczęcie już na tym etapie prac przygotowawczych, które umożliwiłyby m.in. ocenę potrzeb przygotowań organizacyjnych, kadrowych oraz finansowych koniecznych dla realizacji planowanych do realizacji zadań Prezes UODO nie został też wskazany wśród organów ochrony praw podstawowych, o których mowa w art. 77 rozporządzenia 2024/16894. Proponowana treść projektu ustawy, przy nieuwzględnieniu przez projektodawcę części postulowanych przez organ nadzorczy zmian przepisów, uzasadnia potrzebę skierowania uwag organu w odniesieniu do poniższych kwestii, o których uwzględnienie uprzejmie wnoszę. Jednocześnie wyjaśnić należy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 16. Koncepcja nadzoru i współpracy Komisji Rozwoju i Bezpieczeńs twa PUODO Projektodawca w przepisach projektowanej ustawy określa m.in. organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia (art. 1 pkt 1 projektowanej ustawy) w zakresie objętym przepisami rozporządzenia 2024/1689 oraz postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 (art. 1 pkt 2 projektowanej ustawy), jak też sposób zgłaszania poważnych Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 17 Sztucznej Inteligencji z Prezesem Urzędu Ochrony Danych Osobowych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji (art. 1 pkt 4 projektowanej ustawy). Jednocześnie sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689, wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689 czy wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 (art. 9 pkt 1, 7 i 6 projektowanej ustawy) przyznaje się wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej zwaną Komisją), bez odniesienia się do spraw, które dotyczą również przetwarzania danych osobowych. Projektowany model krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia wymaga pogłębionej analizy z perspektywy wszelkich nadzorowanych obszarów regulowanych przepisami rozporządzenia 2024/1689 pod kątem spójności oraz jasności nadawanych norm kompetencyjnych, jak również kompleksowości proponowanej regulacji. Ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, to niezwykle istotne jest prawidłowe ukształtowanie kompetencji nadzorczych także niezależnego organu ds. ochrony danych w egzekwowaniu przepisów aktu w sprawie sztucznej inteligencji i określenie w projektowanych przepisach ram sprawowanego przez niego nadzoru, obok właściwych organów krajowych powoływanych na mocy art. 70 rozporządzenia 2024/1689. Podkreślić należy, że unijne regulacje dotyczące ochrony danych osobowych stanowią podstawę dla nadzoru nad sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru tej materii niezależnemu organowi nadzorczemu, tj. w przypadku Polski – Prezesowi UODO (art. 2 ust. 7 rozporządzenia 2024/1689)5. Jednocześnie, w projekcie ustawy niezaproponowanego mechanizmu usuwania sporów kompetencyjnych, w szczególności natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 18 tzw. sporów pozytywnych, gdy zasadnie można będzie rozważać właściwość obu organów nadzorczych, Komisji i Prezesa UODO. Konieczne jest również wskazanie wyłącznej kompetencji krajowego organu nadzorczego wynikającej z art. 74 ust. 8 rozporządzenia 2024/1689, zgodnie z którym „...państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych...” w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia. Prawodawca unijny nie przewidział zatem dobrowolnego czy dowolnego ukształtowania kwestii sprawowania krajowego nadzoru w ww. obszarze. Tymczasem w przedstawionym projekcie nie kształtuje się kompetencji krajowego organu nadzorczego ds. ochrony danych wynikających wprost z aktu w sprawie sztucznej inteligencji w wyłącznym obszarze jego właściwości i wskazuje jedynie na obowiązek współpracy Komisji z Prezesem Urzędu Ochrony Danych Osobowych w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektowanej ustawy). W konsekwencji przepisami projektowanej ustawy nie zostały ustanowione gwarancje wyłącznego sprawowania nadzoru Prezesa UODO w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, ani nie został przewidziany nadzór Prezesa UODO nad systemami wysokiego ryzyka w zakresie wskazanym w akcie w sprawie sztucznej inteligencji, co sprawia, że projekt ustawy nie oddaje prawidłowo norm rozporządzenia 2024/1689 w kwestii statusu Prezesa UODO jako niezależnego organu nadzorczego i nie kształtuje w sposób całościowy modelu instytucjonalnego nadzoru nad sztuczną inteligencją. 19 Postuluję zatem, aby w przepisach projektowanej ustawy Prezes UODO został wskazany wprost jako organ sprawujący wyłączny nadzór w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, w tym w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Konsekwentnie, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), szczególnie w zakresie wymiany informacji i doświadczeń. W opinii Prezesa UODO współpraca między tymi organami nie może być zawężona jedynie do spraw wymienionych (taksatywnie), o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektu ustawy). Powinna ona mieć miejsce zawsze w sytuacjach, gdy w ramach systemów sztucznej inteligencji będzie dochodziło do przetwarzania danych osobowych, który to pogląd ma swoje podstawy w orzecznictwie sądów europejskich (zob. w szczególności wyrok Trybunału Sprawiedliwości UE z 4 lipca 2023 r. w sprawie C-252/21 Meta Inc. przeciwko Bundeskartellamt, EU:C:2023:537). Zauważyć należy, że współpraca organów może dotyczyć różnych obszarów, zarówno postępowań skargowych, jak i naruszeń aktu w sprawie sztucznej inteligencji, zgłaszania poważnego incydentu oraz wielu innych sytuacji. Nie należy więc mocą projektowanych przepisów ograniczać współpracy ze strony Komisji jedynie do kwestii związanych z piaskownicą regulacyjną oraz spraw z art. 74 ust. 8 rozporządzenia 2024/1689. Zaznaczyć należy, że forma współpracy i wymiany informacji między organami w poszczególnych obszarach także wymaga dookreślenia. Zapewne Komisja do prowadzonych postępowań będzie potrzebowała określonych informacji od organu nadzorczego, natomiast w obecnym projekcie ustawy nie ma mowy o szczegółach dotyczących trybu, charakteru czy zakresu współpracy. Zwrócić 20 uwagę należy, że wątpliwości nie rozwiewa ogólnie sformułowana treść art. 113 projektu ustawy dotycząca zmiany ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781), w którym projektodawca wskazał na dodanie art. 59a w brzmieniu: „Prezes Urzędu współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji”. W opinii organu nadzorczego, współpraca wymaga doprecyzowania, także ze względu na ryzyko dualizmu rozstrzygnięć, na co Prezes UODO wskazuje w kolejnym punkcie uwag. Poza art. 74 ust. 8 oraz art. 77, które określają kompetencje organów nadzorczych, rozporządzenie 2024/1689 nie precyzuje ram, w jakich organy nadzorcze miałyby sprawować swoje kompetencje obok właściwych organów krajowych powołanych na mocy art. 70 rozporządzenia 2024/1689. Kwestie te zostały pozostawione państwom członkowskim, dlatego krajowe przepisy wdrażające wskazane rozporządzenie powinny je regulować. W konsekwencji przyjąć należy, że konieczne jest, aby ustawa precyzowała rolę organu nadzorczego ds. ochrony danych, mając na uwadze zapewnienie zachowania niezależności Prezesa UODO. W nowej wersji projektu ustawy przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji (art. 6 ust. 1 i 2 projektu ustawy), co należy ocenić pozytywnie z uwagi na niezależny status organu nadzorczego ds. ochrony danych osobowych. Projektodawca podkreślił, że jest to częściowe uwzględnienie uwagi organu nadzorczego, wyjaśniając przy tym, że: „Kwestie niezależności organu ds. ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu”. Jednocześnie, na podstawie art. 6 ust. 3 projektu ustawy, Przewodniczący Komisji może zaprosić do udziału w posiedzeniu wyłącznie z głosem doradczym upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu (pkt 1). 21 W ocenie Prezesa UODO, jego przedstawiciel powinien być wskazany jako zawsze (obligatoryjnie) biorący udział w posiedzeniach Komisji, w charakterze stałego obserwatora, co stanowiłoby wyraz poszanowania kompetencji nadzorczych niezależnego organu ds. ochrony danych. W ocenie organu nadzorczego niezbędne jest przy tym wprowadzenie do projektu ustawy przepisów związanych z udziałem przedstawiciela Prezesa UODO, z których będzie wynikać będzie, że udział ten dotyczy wszystkich spraw rozpatrywanych przez Komisję, których przedmiot obejmuje przetwarzanie danych osobowych. Ponadto przedstawiciel Prezesa UODO powinien mieć prawo do przedstawienia uzasadnionego stanowiska w sprawie rozpatrywanej przez Komisję. W celu opracowania uzasadnionego stanowiska w sprawie przedstawiciel Prezesa UODO powinien mieć zapewnione prawo do zwrócenia się do Komisji o udostępnienie dokumentów z akt sprawy w zakresie niezbędnym dla przedstawienia stanowiska. Merytorycznie uzasadnione pozycją organu nadzorczego do spraw ochrony danych osobowych jest, aby uzasadnione stanowisko jego przedstawiciela było brane przez Komisję pod uwagę przy wydawaniu decyzji administracyjnej rozstrzygającej sprawę co do jej istoty. Obligatoryjny udział przedstawiciela UODO w charakterze stałego obserwatora zapewni obu organom możliwość stałej współpracy w zakresie wymiany informacji i stanowisk niezbędnych do podjęcia rozstrzygnięcia sprawy przez Komisję, co niewątpliwie należy postrzegać jako korzyść dla obu organów oraz dla skuteczności i sprawności systemu nadzoru nad systemami sztucznej inteligencji w Polsce w całości. Stała współpraca w zakresie wymiany informacji będzie korzystna zarówno dla Komisji, jak i dla UODO, który mógłby wspierać Komisję jako niezależny ekspert z zakresu rozwiązań z obszaru ochrony danych osobowych. Wiedza ekspercka przekazywana przez organ nadzorczy może okazać się pomocna dla Komisji przy podejmowaniu rozstrzygnięć. Jednocześnie, realizując funkcję ekspercką Prezes UODO mógłby poprzez wyrażanie istotnego poglądu wzbogacić analizy czy stanowiska Komisji o niezwykle 22 ważny aspekt jakim jest ochrona danych osobowych, co z kolei mogłoby przyczynić się do sprawniejszego i bardziej optymalnego realizowania funkcji Komisji jako niezależnego organu w obszarze sztucznej inteligencji. W tym miejscu wskazać należy na dotychczasowy model współpracy pomiędzy organem nadzorczym a Komitetem Stałym Rady Ministrów do spraw Cyfryzacji, który przynosi korzyści obustronne. Prezes UODO wnosi do projektów informatycznych przygotowywanych w resorcie cyfryzacji wiedzę z obszaru ochrony danych osobowych, czerpiąc tym samym informacje z zakresu realizowanych projektów dla zapewnienia ich zgodności z prawem ochrony danych. Opracowanie przejrzystych mechanizmów współpracy pomiędzy Komisją w postulowanym kształcie przyczyni się do poszanowania niezależności obu organów i zagwarantowania standardów ochrony danych osobowych przy realizacji zadań Komisji nie niższych niż wynikające z ogólnego rozporządzenia o ochronie danych osobowych. Ryzkiem, jednakże dla ich zapewnienia jest wciąż brak wskazania Prezesa UODO w wykazie z art. 77 ust. 2 rozporządzenia 2024/1689, o co organ nadzorczy wciąż postuluje. 17. Brak wskazania Prezesa UODO jako organu praw podstawow ych PUODO Pomimo tego, że w oparciu o kryteria określone w treści art. 77 ust. 1 aktu w sprawie sztucznej inteligencji, Prezes Urzędu Ochrony Danych Osobowych jest organem właściwym z obszaru ochrony praw podstawowych w zakresie prawa do prywatności i ochrony danych osobowych nie został jako taki wskazany w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Brak takiego wskazania może pociągać za sobą istotne skutki prawne. W projektowanej ustawie wskazuje się na współpracę Komisji m.in. z Prezesem Urzędu Ochrony Danych Osobowych (art. 5 ust. 3 pkt 3 projektowanej ustawy) oraz organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 4 projektowanej ustawy). Z kolei Komisja wszczyna Uwaga wyjaśniona Prezesem Urzędu Ochrony Danych Osobowych został wskazany jako organ, którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Komunikat w tym zakresie znajduje się na stronie Ministerstwa Cyfryzacji. 23 postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 m.in. na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689 (art. 49 ust. 2 pkt 3 projektowanej ustawy), a także niezwłocznie informuje krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, jeśli stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych (art. 55 ust. 3 projektowanej ustawy). Brak decyzji w sprawie wskazania Prezesa UODO jako organu praw podstawowych wywołuje wątpliwość co do prawidłowego rozumienia przez ustawodawcę pojęcia „organu ochrony praw podstawowych” zgodnie z intencją art. 77 rozporządzenia 2024/1689. W tym kontekście powstaje potrzeba konsekwentnego i zgodnego z rozwiązaniami unijnymi określenia w projektowanym akcie uprawnień poszczególnych organów nadzoru w ww. obszarze, gdyż nadzór przestrzegania obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych obejmuje również nadzór nad ochroną danych osobowych. Z tych powodów ponownie uprzejmie wnoszę o uzupełnienie wykazu, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 i wskazanie w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu uprawnionego w zakresie spraw określonych w art. 77 ust. 1 ww. rozporządzenia. 18. Ryzyko dualizmu rozstrzygnię ć PUODO Ze współpracą pomiędzy Komisją a organem nadzorczym ściśle powiązane są kwestie związane z ryzykiem dualizmu rozstrzygnięć, nakładaniem się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z rozporządzenia 2024/1689, które nie zostały uregulowane mocą projektowanych przepisów. Uwagi organu nadzorczego w przedmiotowym zakresie nie zostały przez projektodawcę uwzględnione w obecnym projekcie ustawy. Projektodawca wskazał, że: „Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu Uwaga wyjaśniona i częściowo uwzględniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Wnosząc sprawę do PUODO lub KRIBSI lub innego organu podmioty powinny kierować się zakresem regulacji obowiązującego prawa UE oraz 24 rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu”. Bezsprzeczne jest, że oba rozporządzenia unijne będą stosowane równolegle, a niektóre procesy/obowiązki z obu aktów mogą się „nakładać”, czy powtarzać. Organ nadzorczy ds. ochrony danych powinien być obligatoryjnie uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych (co także zostało potwierdzone we wskazanym powyżej wyroku TSUE w sprawie C-252/21). Stanowisko Prezesa UODO powinno być zatem uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Jak stanowi motyw 10 preambuły do rozporządzenia 2024/1689, jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii Europejskiej regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, rozporządzenie 2024/1689 nie wpływa też na wynikające z prawa Unii Europejskiej lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Stosownie do motywu 156 rozporządzenia 2024/1689, aby zapewnić odpowiednie i skuteczne egzekwowanie wymogów i obowiązków ustanowionych w rozporządzeniu, które należy do unijnego prawodawstwa harmonizacyjnego, pełne zastosowanie powinien mieć system nadzoru rynku i zgodności produktów ustanowiony rozporządzeniem (UE) 2019/1020. Organy nadzoru rynku wyznaczone zgodnie z niniejszym rozporządzeniem powinny mieć wszystkie uprawnienia w zakresie egzekwowania wymogów i ustaw regulujących zakres spraw rozpatrywanych przez poszczególne organy. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami jak i innymi organami wskazanymi w ustawie w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. Mając powyższe na uwadze zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a innymi organami na tym etapie zapewnienia stosowania przepisów rozporządzenia wydaje się przedwczesne gdyż trudny jest do przewidzenia czy spory takie będą miały miejsce, rodzaj sporów oraz ich odziaływanie na poszczególne organy i sprawy. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy w wykazie jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Odnosząc się do kwestii wskazania SOKIK jako sądu właściwego dla sprawa z zakresu systemów sztucznej inteligencje i należy podkreślić, że do tego sądu będą trafiały środki zaskarżenia na decyzje i postanowienia wyłącznie Komisji 25 obowiązków ustanowione w rozporządzeniu oraz z rozporządzenia (UE) 2019/1020 i powinny wykonyać swoje uprawnienia i obowiązki w sposób niezależny, bezstronny i wolny od uprzedzeń. Chociaż większość systemów AI nie podlega szczególnym wymogom i obowiązkom na podstawie niniejszego rozporządzenia, organy nadzoru rynku mogą podejmować środki w odniesieniu do wszystkich systemów AI, jeżeli zgodnie z niniejszym rozporządzeniem stwarzają one ryzyko. Jednakże może dochodzić do sytuacji, w której zarówno właściwy organ krajowy (Prezes UODO), jak i organ nadzoru rynku (Komisja), będą miały kompetencje do działania w danej sprawie. Taka sytuacja będzie miała miejsce w związku z koniecznością przestrzegania wymogów wynikających przepisów rozporządzenia 2024/1689, np. art. 10 ust. 5, w którym jest mowa o warunkach przetwarzania danych osobowych w systemach wysokiego ryzyka; art. 26 dotyczącego wymogów w zakresie systemów wysokiego ryzyka; art. 47 ust. 1 traktującego o deklaracji zgodności czy art. 59 wskazującego na warunki przetwarzania danych osobowych w piaskownicach regulacyjnych. W motywie 140 preambuły do rozporządzenia 2024/1689 mowa jest z kolei o tym, że rozporządzenie powinno zapewniać dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie sztucznej inteligencji podstawę prawną do wykorzystywania danych osobowych zebranych w innych celach do rozwoju – w ramach piaskownicy regulacyjnej w zakresie AI – określonych systemów AI w interesie publicznym, tylko pod określonymi warunkami, zgodnie z art. 6 ust. 4 i art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679 i art. 5, 6 i 10 rozporządzenia (UE) 2018/1725 i nie naruszając przepisów art. 4 ust. 2 i art. 10 dyrektywy (UE) 2016/680. Nadal mają zastosowanie wszystkie pozostałe obowiązki administratorów danych i prawa osób, których dane dotyczą, wynikające z rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680. Konieczne jest więc zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a wydawane w oparciu o rozporządzanie 2024/1689 oraz przepisy projektowanej ustawy. Nie przewiduje się aby trafiały tam wiec sprawy z zakresu ochrony danych osobowych, do których zastosowanie będą miały przepisy RODO. W zakresie zgłaszania poważnych incydentów należy wskazać, że przepisy projektowanej ustawy korespondują z przepisami rozporządzenia 2024/1689. Stanowią one ramę prawną w zakresie procedury oraz regulują kwestie przekazywania informacji o zaistniałym incydencie właściwym organom. Lista organów obejmuje m.in. Prezesa UKE, ministra ds. informatyzacji, PUODO, KNF oraz odpowiednie zespoły reagowania na incydenty komputerowe. Przepisy zostały zaprojektowane tak, aby nie nakładać nadmiernych obowiązków, zapewnić sprawność postepowania i dostęp do informacji z poszanowaniem przepisów odrębnych ustaw. Do wymierzania administracyjnych kar pieniężnych zastosowanie mają bezpośrednio przepisy rozporządzenia 2024/1689. Stąd też mając na uwadze treść art. 99 ust. 7 lit. c przy ustaleniu jej wysokości bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. Kary przyszłe nie są brane w tym pkt pod uwagę. W zakresie uwagi dot. art. 55. ust. 3. Na podstawie art. 55 ust. 3 (obecnie art. 47 ust. 3) jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym zagrożeniu (nie o fakcie wszczęcia i prowadzenia postępowania) krajowe organy lub podmioty określone w wykazie, 26 innymi organami, przede wszystkim z zakresu spraw uregulowanych głównie w rozdziałach 4 i 6 projektu ustawy. Zwrócić w tym miejscu uwagę należy na wydaną przez Europejską Radę Ochrony Danych (EROD) opinię 28/2024, która odnosi się do kluczowych aspektów ochrony danych osobowych w kontekście rozwoju i wdrażania modeli sztucznej inteligencji. Zgodnie z ww. opinią o przetwarzaniu danych osobowych w modelach sztucznej inteligencji można mówić wówczas, gdy z modelu, przy użyciu środków, które można racjonalnie zastosować, będzie możliwe uzyskanie lub odtworzenie informacji pozwalających na zidentyfikowanie osoby fizycznej. W konsekwencji, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), w szczególnie w zakresie wymiany informacji i doświadczeń. Rozdział 4 projektu ustawy częściowo został zmodyfikowany, jednakże pozostawienie art. 50 ust. 4 projektu ustawy w obecnym brzmieniu jest sprzeczne z art. 5 ust. 3 pkt 3 projektu ustawy. Uzasadnienie projektu także nie odnosi się do przedmiotu współpracy, dlatego też pozostawienie art. 50 ust. 4 projektu wydaje się być niezgodne z art. 49 ust. 3 projektu ustawy. Tak jak to zostało wskazane powyżej, współpraca pomiędzy Komisją a Prezesem UODO wymaga rozszerzenia o zakres wszelkich spraw z obszaru ochrony danych osobowych, a nie ograniczania jej jedynie do spraw wskazanych w art. 5 ust. 3 pkt 3 projektu ustawy, w tym spraw należących do wyłącznej kompetencji organu nadzorczego ds. ochrony danych. Zgodnie z zasadą pewności prawa, legalizmu i praworządności konieczne jest określenie wprost w projektowanych przepisach mechanizmu współpracy pomiędzy Komisją a Prezesem UODO. Projektowane przepisy w obecnym kształcie mogą powodować wątpliwości interpretacyjne, a w konsekwencji potencjalne konflikty kompetencyjne w przedmiocie rozpatrywania spraw związanych z o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Pozwoli to im na podjęcie działań wynikających z ich właściwości. Natomiast w kwestii wydania decyzji nie zawsze decyzja Komisji będzie miała przełożenie na właściwe organy krajowe państwa członkowskiego stąd tez powinny być przekazywane biorąc pod uwagę okoliczności danej sprawy. . Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. 27 przetwarzaniem danych osobowych, m.in. w sytuacji, gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. W przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w obecnym projekcie ustawy – na co zwracał już uwagę Prezes UODO – nie wskazał, jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych/rozbieżnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. Projektodawca nie uwzględnił również uwagi Prezesa UODO dotyczącej art. 57 ust. 1 projektu ustawy, czyli dotyczącej sądu ochrony konkurencji i konsumentów. Ponownego zaakcentowania wymaga, że przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może prowadzić do powstania niepewności prawnej. Respektując w pełni uprawnienie projektodawcy do wyboru takiego, a nie innego rozwiązania, Prezes UODO czuje się zobowiązany do zasygnalizowania przedmiotowego problemu, który być może powinien być przedyskutowany w szerszej perspektywie skuteczności nadzoru nad systemami sztucznej inteligencji, do czego organ nadzorczy wyraża niniejszym gotowość. 28 Projekt ustawy w rozdziale 6 dotyczy zgłaszania poważnych incydentów związanych z działaniem systemów sztucznej inteligencji. Uwagi Prezesa UODO, które nie zostały uwzględnione w tym zakresie, pozostają aktualne. Jednocześnie zwrócić uwagę należy na następujące kwestie. Z przepisów (art. 99 ust. 7 lit. c) rozporządzenia 2024/1689) wynika, że Komisja przy ustaleniu m.in. wysokości administracyjnej kary pieniężnej bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. W tym miejscu wskazać należy na wyraz „już”, który sugeruje, że okoliczność, w której inne organy jeszcze nie nałożyły, ale mogą nałożyć karę w przyszłości, nie będzie brana pod uwagę. Kolejnym aspektem jest okoliczność informowania o wydaniu decyzji. O prowadzeniu postępowania „krajowy organ” zostanie powiadomiony na podstawie art. 55 ust. 3 projektu ustawy. Jednak już o samej decyzji tylko w sytuacji „jeśli wymag ają tego okoliczności sprawy” (art. 55 ust. 6 projektu ustawy). Pojawia się zatem pytanie co należy rozumieć przez sformułowanie „okoliczności sprawy”. W ocenie organu nadzorczego należy ten zwrot doprecyzować. Podobnie, w zakresie przekazywania informacji w związku ze zgłaszanymi incydentami Komisji. Zgodnie z art. 80 ust. 1 projektu ustawy, Komisja udzieli Prezesowi UODO informacji o zgłoszeniu przez dostawcę poważnego incydentu „na wniosek”, „jeżeli wymagają tego okoliczności sprawy” w „zakresie niezbędnym do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 oraz w ustawie”. Przepis ten wymaga ponownej analizy z uwagi na brak możliwości uprzedniego powzięcia przez Prezesa UODO informacji o zgłoszonym przez dostawcę incydencie, a tym samym złożenia przez niego wniosku o informację o dokonanym zgłoszeniu. Uregulowanie na poziomie niniejszej ustawy zasad współpracy Komisji z organami, w tym z Prezesem UODO jest – jak wynika to 29 z analizy poszczególnych przepisów – niezbędne. Przepisy ustawy w tym zakresie powinny być jasne i przejrzyste. Niezależnie od ostatecznego kształtu projektowanej ustawy dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679. Po przeprowadzeniu analizy zagadnień, dotyczących przetwarzania danych osobowych, które mogą być brane pod uwagę przy dokonywaniu oceny przez organ właściwy w sprawach AI i równolegle Prezesa UODO, przykładowo wskazać należy na następujące kwestie. 1. Ocena ryzyka związanego z przetwarzanymi danymi Art. 35 rozporządzenia 2016/679 wprowadza obowiązek przeprowadzenia oceny skutków dla ochrony danych, natomiast art. 27 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek przeprowadzenia oceny skutków systemów sztucznej inteligencji wysokiego ryzyka dla praw podstawowych przed wdrożeniem systemu do obrotu. W sytuacji, gdy system sztucznej inteligencji będzie przetwarzał dane osobowe – zarówno ocena skutków dla ochrony danych wynikająca z art. 35 rozporządzenia 2016/679, jak i analiza ryzyka według rozporządzenia 2024/1689, mogą być wymagane, zatem Prezes UODO i Komisja będą mieć kompetencje nadzorcze. 2. Przejrzystość i informowanie Art. 12-14 rozporządzenia 2016/679 określają obowiązki administratora danych odnośnie do informacji przekazywanych osobom, których dane dotyczą. Natomiast art. 50 rozporządzenia 2024/1689 wymaga, aby użytkownicy byli informowani, że mają do czynienia z systemem AI, zwłaszcza w przypadku interakcji z chatbotami, czy generowanymi treściami. Powyższe może skutkować równoległym nadzorem Prezesa UODO i Komisji. 30 3. Prawa osób, których dane dotyczą Art. 15-22 rozporządzenia 2016/679 przyznają osobom, których dane dotyczą określone prawa. Natomiast art. 14 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek zapewnienia nadzoru człowieka nad działaniem tych systemów, co ma na celu ochronę praw podstawowych użytkowników. W przypadku naruszenia powyższych praw przez system sztucznej inteligencji przetwarzający dane osobowe, zarówno Prezes UODO, jak i Komisja mogą być właściwe do podejmowania działań. 4. Profilowanie Należy również zwrócić szczególną uwagę na systemy AI wysokiego ryzyka, których obszary zostały zidentyfikowane w załączniku nr III do rozporządzenia 2024/1689 w kontekście wymogów prawnych tego rozporządzenia, w relacji do treści art. 22 rozporządzenia 2016/679 (zautomatyzowane podejmowanie decyzji w indywidualnych przypadkach, w tym profilowanie). 5. Cyberbezpieczeństwo Systemy wysokiego ryzyka, powinny odpowiadać wymogom w zakresie cyberbezpieczństwa, o których mowa w art. 15 ust. 4 rozporządzenia 2024/1689. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. W ust. 5 wskazuje się, że systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. 31 Jeśli źródło możliwego naruszenia atrybutów danych osobowych podlegających ochronie, będzie związane z działaniem systemu AI wysokiego ryzyka, wówczas mogą nałożyć się kompetencje Prezesa UODO w zakresie możliwości naruszenia art. 24, 25 i 32 rozporządzenia 2016/679 oraz Komisji z art. 15 rozporządzenia 2024/1689. 6. Zgłaszanie incydentów W art. 73 rozporządzenia 2024/1689 przewiduje się zgłaszanie poważnych incydentów. Nie można wykluczyć, że taki poważny incydent będzie stanowił również naruszenie ochrony danych osobowych i wyczerpywał przesłanki zgłoszenia wynikające z art. 33 rozporządzenia 2016/679. W efekcie, Prezes UODO także będzie mógł prowadzić swoje postępowanie wyjaśniające. Jak wynika z art. 73 ust. 7 rozporządzenia 2024/1689, po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c (naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 19. Art. 2 IAB Polska Usunięcie lub doprecyzowanie przepisu dot. GPAI Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli AI ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów AI wysokiego ryzyka. AI Act stanowi, że AI Office/Komisja Europejska ma władzę regulacyjną nad modelami GPAI. Państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 20. Art. 2 IAB Polska Ryzyko zasięgu eksterytorialnego Niejasny jest zakres terytorialny w art. 2. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie 32 potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w AI Act. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami AI Act w zakresie nadzoru transgranicznego. wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 21. Art. 2 Pracodawcy RP Treść art. 2 projektu budzi istotne wątpliwości interpretacyjne. Brak w nim bowiem wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce, co mogłoby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi, nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Niejednoznaczne sformułowanie projektu dot. stosowania terytorialnego może prowadzić również do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. W celu ograniczenia tego ryzyka, projekt powinien wyraźnie stwierdzać to, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce – co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnej regulacji o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 22. Art. 2 ZPP W odniesieniu do modeli GPAI – ustawa nie powinna nakładać dodatkowych wymagań, które wykraczałyby poza ramy unijnego AI Act, ani rozszerzać jurysdykcji na podmioty zagraniczne. Konieczne jest precyzyjne określenie zakresu terytorialnego, ograniczając go do podmiotów mających siedzibę w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 33 23. Art. 2 Konfederacj a Lewiatan Wskazujemy na ryzyko zasięgu eksterytorialnego. Projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal widzimy niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z innych aktów prawnych. 24. Art. 2 ust. 2 Konfederacj a Lewiatan Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie mają takiej władzy i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 25. Art. 2 ust. 2 Pracodawcy RP Niejasności budzi uwzględnienie w art. 2 ust. 2 projektu stwierdzenia dot. „modeli sztucznej inteligencji ogólnego przeznaczenia”. Apelujemy o usunięcie lub doprecyzowanie ww. kwestii, tak aby uniknąć niepotrzebnego łączenia wymagań dla modeli ogólnego przeznaczenia z wymogami dla systemów sztucznej inteligencji wysokiego ryzyka. Zgodnie z Aktem o AI, to Biuro ds. AI lub Komisja Europejska mają wyłączne prawo do regulacji modeli ogólnego przeznaczenia. Stąd też państwa członkowskie nie Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 34 powinny wprowadzać dodatkowych wymagań dla tych modeli w ramach implementacji przepisów. 26. Art. 3 NCBR Niezbędne jest stworzenie słownika używanych w ustawie pojęć. Brak jasności w niektórych przepisach – niektóre pojęcia używane w ustawie są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. W art. 3 zamiast odwołania do rozporządzenia, powinny znaleźć się definicje rodzime, ujęte w języku polskim, aby uniknąć rozbieżności wynikających z różnych form tłumaczenia i interpretowania przepisów unijnych. Uwaga wyjaśniona Według projektodawcy konieczne jest utrzymanie terminologii określonej w Rozporządzeniu 2024/1689. Dlatego też nie jest planowane utworzenie “słownika”. 27. Art. 3 PARP W projekcie brakuje określenia precyzyjnych kryteriów klasyfikacji systemów AI wysokiego ryzyka. Projekt ustawy w art. 3 odwołuje się do definicji zawartych w rozporządzeniu 2024/1689, jednak nie precyzuje jednoznacznych wytycznych, które ułatwiłyby przedsiębiorcom określenie, czy ich rozwiązania podlegają surowszym regulacjom. Może to prowadzić do różnic w interpretacji i niepewności prawnej, co szczególnie dotknie MŚP oraz startupy działające w sektorze nowych technologii. Wskazane byłoby wprowadzenie szczegółowych wytycznych lub katalogu przykładów systemów AI wysokiego ryzyka, co pozwoliłoby na zwiększenie przewidywalności regulacji oraz ułatwienie przedsiębiorcom dostosowania się do obowiązujących przepisów. Uwaga wyjaśniona Kryteria dotyczące systemów wysokiego ryzyka zostały ujęte bezpośrednio w Rozporządzeniu 2024/1689. Dodatkowo, zgodnie z art. 6 ust. 5 Rozporządzenia 2024/1689 po konsultacji z Europejską Radą ds. Sztucznej Inteligencji, Komisja Europejska przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie artykułu 6 Rozporządzenia 2024/1689 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania 28. Art. 3 pkt. 15 PARP Zastąpić dotychczas projektowane brzmienie art. 3 pkt 15: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.”. Nowym brzmieniem jak następuje: „Piaskownica regulacyjna – środowisko prawno-organizacyjno- techniczne umożliwiające dostawcom systemów sztucznej Uwaga wyjaśniona Projektodawca utrzymuje wskazane w art. 3 pkt 15 odesłanie do art. 3 pkt 55 rozporządzenia 2024/1689 w celu utrzymania zbieżności terminologicznej projektu ustawy z treścią Rozporządzenia 2024/1689. 35 inteligencji testowanie i rozwój systemów AI przed dopuszczeniem do obrotu na podstawie zgłoszenia, przy zapewnieniu wdrożeń minimalnych wymogów etycznych i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” 29. Art. 3 i 11 i 43 Pracodawcy RP Na uwagę zasługują także braki w zakresie obowiązków dostawców systemów AI (podstawa prawna art. 9-15, 43-49 AI Act, art. 3, 11, 43 projektu). Projekt nie precyzuje zakresu dokumentacji i procedur, jakie dostawcy systemów AI powinni wdrożyć przed wprowadzeniem systemu na rynek. AI Act nakłada na dostawców obowiązek: • oceny ryzyka związanego z systemami AI, • prowadzenia audytów i testów przed wdrożeniem systemu, • zapewnienia zgodności z wymogami przejrzystości i „wyjaśnialności”. Brak doprecyzowania w polskim akcie prawnym może prowadzić do sytuacji, w której dostawcy będą nieświadomie naruszać obowiązujące przepisy unijne, co narazi ich na odpowiedzialność administracyjną i finansową. Mając powyższe na uwadze, jesteśmy zdania, że należałoby doprecyzować obowiązki dostawców AI poprzez określenie wymogów dot. audytów, testów i raportowania zgodności systemów AI z przepisami. Uwaga wyjaśniona Przedmiotowy akt prawny ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689. Nie stanowi może on prowadzić do modyfikacji ani doprecyzowania przepisów tego Aktu a jedynie stwarzać podstawy do jego właściwego stosowania. 30. Art. 4 ust. 4 URPL Na wstępie należy zauważyć, że mimo zmian dokonanych w przepisach art. 4 projektowanej ustawy, których intencją było uwzględnienie zarówno uwag Prezesa Urzędu zgłoszonych w ww. zakresie, jak i innych podmiotów uczestniczących w opiniowaniu projektu (jak wynika z dołączonej tabeli uwag zgłoszonych w ramach opiniowania), zaproponowane obecnie brzmienie przepisu art. 4 pkt 4 projektu ustawy nadal budzi wątpliwości. Zgodnie z art. 4 pkt 4 projektu: ustawy nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w Uwaga wyjaśniona Przepis w obecnym brzmieniu został sformułowany w oparciu o zgłoszone w obu turach uzgodnień, opiniowania i konsultacji publicznych uwagi. Celem ustawy jest zapewnienie stosowania przepisów rozporządzenia 2024/1689 w systemie polskim. Należy wskazać, że terminologia aktów prawnych UE nie zawsze odpowiada terminologii aktów prawnych państw członkowskich. Zaproponowane brzmienie przepisu uwzględnia terminologię występującą w systemie prawa 36 art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689;”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie natomiast z art. 2 ust. 8 rozporządzenia 2024/1689 „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. W świetle powyższych przepisów nadal wątpliwości budzi sposób sformułowania wyłączenia zawartego w art. 4 pkt 4 projektu ustawy w zakresie, w jakim przepis ten nie wskazuje wprost – w sposób klarowny i czytelny, że przepisów projektowanej ustawy nie stosuje się do: - systemów AI i modeli AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689), a także do - działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku, z wyłączeniem testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689 (art. 2 ust. 8 rozporządzenia 02/1689). Tym samym, w ocenie Prezesa Urzędu przepis art. 4 pkt 4 projektu ustawy wymaga polskiego i zapewnia spójność z innymi aktami prawnymi. 37 niezbędnych korekt redakcyjnych celem zapewnienia jasności i spójności zarówno co do jego zakresu jak i późniejszej realizacji, zgodnej z przepisami rozporządzenia 2024/1689. 31. Ar. 4 ust. 5 URPL Dodatkowo należy zauważyć, że wyłączenie z zakresu zastosowania ustawy określone w art. 4 pkt 5 projektu dotyczące systemów wprowadzonych do użytku przed wejściem w życie rozporządzenia 2024/1689 powinno stanowić materię przepisów przejściowych zawartych w projektowanej ustawie – stosownie do § 30 ust. 1 rozporządzenia Prezesa Rady Ministrów z dnia 20 czerwca 2002 r. w sprawie „Zasad techniki prawodawczej”, o ile dodanie tego typu przepisu jest dopuszczalne w świetle przepisów rozporządzenia 2024/1689. W ocenie Urzędu przepis taki powinien odnosić się do terminu rozpoczęcia stosowania rozporządzenia 2024/1689, a nie do terminu jego wejścia w życie. Uwaga wyjaśniona Z uwagi na czytelność ustawy pozostawiono przepis w dotychczasowym miejscu. 32. Art. 5 PARP Zastąpić dotychczasowe brzmienie art. 5: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Nowy brzmieniem jak następuje: 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.”. 2. „Komisja nie ingeruje w proces testowania systemów sztucznej inteligencji, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.”. Dodanie do art. 5 ust.3 punktu 14) w brzmieniu: „Polską Agencją Rozwoju Przedsiębiorczości – w zakresie tworzenia warunków rozwojowych dla systemów sztucznej inteligencji i wspierania konkurencyjności stosownie do ustawy z dnia 9 lutego 2020 r. (Dz. U. z 2024 r. poz. 419 i 1635)” Zgodnie z art. 4 ust. 1. Ustawy dziedzinowej PARP realizuje zadania państwa z zakresu rozwoju: 1) przedsiębiorczości; 2) innowacyjności, w tym postępu technologicznego; 3) Uwaga wyjaśniona Proponowane brzmienie przepisu art. 5 nie odzwierciedla intencji projektodawcy oraz przepisów rozporządzenia 2024/1689. Dodatkowo należy wskazać, że w ramach art. 5 ust. 3 zostali wskazania ministrowie w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. PARP podlega ministrowi właściwemu do spraw rozwoju regionalnego i współpraca z KRIBSI może prowadzona za pośrednictwem tego ministra. Rozszerzenie katalogu podmiotów w art. 5 ust. 3 o PARP wydaje się w tym kontekście nadmiarowe. 38 umiędzynarodowienia gospodarki, w tym eksportu; 4) społeczeństwa informacyjnego; 5) rynku pracy i kapitału ludzkiego; 6) regionalnego. Jednocześnie na mocy ustawy o likwidacji Fundacji Platforma Przemysłu Przyszłości z dnia 19 listopada 2024 r. (Dz.U.2024.1823) i jej art.1 z dniem 1 stycznia 2025 r. zadania Platformy przejęła Polska Agencja Rozwoju Przedsiębiorczości, utworzona na podstawie ustawy z dnia 9 listopada 2000 r. o utworzeniu Polskiej Agencji Rozwoju Przedsiębiorczości. Jednym z zadań Fundacji Platforma Przemysłu Przyszłości było, a jest teraz zdaniem PARP Celem Fundacji Platforma Przemysłu Przyszłości, zwanej dalej \"Platformą\", jest działanie na rzecz wzrostu konkurencyjności przedsiębiorców poprzez wspieranie ich transformacji cyfrowej w zakresie procesów, produktów i modeli biznesowych, wykorzystujących najnowsze osiągnięcia z dziedziny automatyzacji, sztucznej inteligencji, technologii teleinformatycznych oraz komunikacji pomiędzy maszynami oraz człowiekiem a maszynami z uwzględnieniem odpowiedniego poziomu bezpieczeństwa tych rozwiązań. Stąd uzasadnione jest włączenie PARP do procesów współpracy z Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w zakresie projektowanej ustawy. 33. Rozdział 2 (art. 5 – art. 40) NCBR Brakuje przepisów umożliwiających podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. (W razie incydentu nie ma czasu na zwoływanie posiedzeń Komisji.) Uwaga uwzględniona. Tryb pilny wydawania decyzji został przewidziany w art. 47. 34. Art. 5 ust. 3 pkt 1 UKNF W ocenie Urzędu Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) dopisek „i w ustawie” nie jest wystarczająco precyzyjny. Zasadnym jest jasne określenie w projekcie ustawy o systemach sztucznej inteligencji (dalej jako: „projekt ustawy” lub „projekt”) zakresu spraw, w zakresie których Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligncji (dalej również jako: „Komisja” lub „KRiBSI”) współpracuje z Komisją Nadzoru Finansowego (dalej również jako: „KNF”), tj. podobnie jak w przypadku innych podmiotów wskazanych w art. 5 ust. 3 projektu ustawy. Aktualnie w projekcie brak jest szczególnych przepisów Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. 39 odnoszących się bezpośrednio do Komisji Nadzoru Finansowego. Nie jest więc wiadomym, na jakiej zasadzie współpraca pomiędzy Komisją a KNF powinna przebiegać oraz w odniesieniu do jakich zagadnień będzie miała miejsce. Ponadto, w związku z obowiązkiem współpracy pomiędzy KRiBSI a Komisją Nadzoru Finansowego, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań. Projektowane w art. 111 projektu ustawy brzmienie nowego art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (dalej: „ustawa o nadzorze nad rynkiem finansowym”), ograniczone do deklaratywnego stwierdzenia, że: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”, może w praktyce utrudniać, a czasem wręcz uniemożliwiać tę współpracę. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego „w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie”, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym w taki sposób aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Propozycję zmiany brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym UKNF przedstawił w uwadze do art. 111 projektu ustawy poniżej. Niezależnie od powyższego, UKNF ponownie wskazuje również, że z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji (dalej jako: „systemy AI”) wysokiego ryzyka. Projekt – w aktualnym kształcie – nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się to jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną polskiemu prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. W zakresie uwagi do art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym należy wskazać, że otrzymał on następujące brzmienie: „Art.17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. I to tym aktem prawnym zostaną określone pozostałe organy nadzoru w zakresie sztucznej inteligencji oraz zostanie określona ich rola. 40 Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (dalej jako: „rozporządzenie 2024/1689”), tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie należy zauważyć, że zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 5 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 5 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób dostateczny, zwłaszcza biorąc pod uwagę hierarchię źródeł prawa. Z tych względów w ocenie UKNF projekt ustawy powinien w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy też nadzór ten, na zasadzie odstępstwa od ww. przepisu, będzie sprawowany przez inny odpowiedni organ. Przyjmując do wiadomości wyjaśnienia projektodawcy, iż regulacje dotyczące systemów AI wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu legislacyjnego, co wynika z harmonogramu wdrożenia rozporządzenia 2024/1689 oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI 41 wysokiego ryzyka, o których mowa w art. 6 rozporządzenia 2024/1689 (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.), UKNF stoi na stanowisku, że już na etapie konstruowania fundamentalnych rozwiązań ustrojowych wskazanym jest jednoznaczne przesądzenie roli KNF w tym zakresie. 35. Art. 5 ust. 3 pkt 10 KRRiT Z aprobatą przyjmuję uwzględnienie w aktualnym projekcie ustawy postulatu KRRiT odnośnie dodania Krajowej Rady Radiofonii i Telewizji do kręgu podmiotów, z którymi współpracować ma ww. Komisja (art. 5 ust. 3 pkt 10 projektu). Jest to niezbędne do właściwego stosowania unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Zaproponowany w tym zakresie przepis powinien jednak otrzymać następujące brzmienie, by w pełni korelować z przywołanym w nim art. 1a ust. 1 ustawy o radiofonii i telewizji: „10) Krajową Radą Radiofonii i Telewizji - w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222)”. Uwaga uwzględniona Zmieniono treść przepisu zgodnie z propozycją wskazaną w uwadze. 36. Art. 6 UOKiK Ponadto, wobec nieuwzględniania uwagi dotyczącej określenia w przepisach projektowanej ustawy zasad oraz instrumentów współpracy w ramach realizacji zadań przewidzianych tym projektem (Ad art. 6 projektu ustawy), ponownie dostrzegam brak podstaw prawnych do działania w przedmiotowym zakresie, co w konsekwencji uniemożliwi realizację przez organy współpracujące, w tym Prezesa UOKiK, obowiązków wynikających z projektu. Mając na uwadze powyższe, widząc potrzebę pogłębionej współpracy w zakresie uregulowania przyszłej współpracy z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej deklaruję pełne zaangażowanie w zakresie przygotowania omawianej ustawy. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami. Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. 42 37. Art. 6 ust. 2 ZPP Rozszerzyć skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych (uniwersytety, instytuty badawcze), organizacji zrzeszających przedsiębiorców (izby gospodarcze, stowarzyszenia branżowe) oraz ekspertów reprezentujących organizacje społeczne, co zapewni szeroką perspektywę i dostęp do najnowszych osiągnięć. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty z uwagi na charakter wykonywanych zadań. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 38. Art. 6 ust. 2 RPP Zgodnie z art. 6-8 ustawy z dnia 6 listopada 2008 r. o prawach pacjenta i Rzeczniku Praw Pacjenta (Dz.U. z 2024 r. poz. 581), pacjent ma prawo do świadczeń zdrowotnych. Zgodnie z art. 23 ustawy o prawach pacjenta i Rzeczniku Praw Pacjenta, pacjent ma prawo do dostępu do dokumentacji medycznej dotyczącej jego stanu zdrowia oraz udzielonych mu świadczeń zdrowotnych. Dane zawarte w dokumentacji medycznej podlegają ochronie określonej w niniejszej ustawie oraz w przepisach odrębnych. W kontekście przedmiotowych praw pacjenta, Rzecznik prowadzi m.in. postępowania wyjaśniające w sprawach indywidualnych jak również postępowania w sprawie naruszenia zbiorowych praw pacjentów (na wzór postępowań dotyczących ochrony konsumentów), a także działania systemowe. Obszar medycyny jest jednym z tych obszarów, w którym przewiduje się wzrost znaczenia sztucznej inteligencji m.in. w zakresie pozyskiwania i analizy danych zdrowotnych celem wykorzystania wyników takiej analizy przy udzielaniu świadczeń zdrowotnych, a także zastosowania technologii do udzielania świadczeń (np. w obszarze terapii, co może być dozwolone, jeśli nie stanowi zakazanej przez rozporządzenie tzw. praktyki polegającej na manipulacji lub wykorzystaniu). Dodatkowo, ważnym zagadnieniem będzie ochrona tajemnicy danych medycznych wykorzystywanych przy tej technologii, a także kwestia zgody na ich udostępnianie i przetwarzanie. Rzecznik Praw Pacjenta spodziewa się wzrostu zgłoszeń w tym temacie. Tym samym, przedstawiciel Rzecznika Praw Pacjenta powinien być stałym członkiem Komisji, analogicznie jak ma to miejsce Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Podmioty te będą mogły być jednak zapraszane w razie potrzeby na posiedzenia Komisji bez prawa głosu. Zagadnienie praw pacjenta, ochrony tajemnicy danych medycznych wykorzystywanych w ramach systemów sztucznej inteligencji, a także kwestia zgody na ich udostępnianie i przetwarzanie stanowi niewątpliwie istotne zagadnienie oparte na wiedzy specjalistycznej. Stad też, aby zabezpieczyć te kwestie Rzecznik Praw Pacjenta został wskazany jako organ uprawniony do zgłoszenia kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, będącego ciałem opiniodawczo-doradczym KRIBSI. 43 z przedstawicielem Rzecznika Praw Dziecka a także Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, szczególnie iż Rzecznik Praw Pacjenta prowadzi postępowania administracyjne z obszaru ochrony praw jednostki. 39. Art. 6 ust. 2 RPD W przekazanych do Ministerstwa Cyfryzacji uwagach do projektu ustawy w brzmieniu z dnia 15 października 2024 r. Rzecznik Praw Dziecka wskazywał na ryzyko pojawienia się konfliktu interesów – zarówno o charakterze merytorycznym, jak i czasowym – wynikającego z powierzenia przedstawicielom organów państwowych zadań i kompetencji w ramach prac Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przewidzianej w projekcie. Przyjęta w projekcie koncepcja składu Komisji nadal budzi wątpliwości, ponieważ w jej przepisach nie usunięto problemu związanego z potencjalną kolizją zadań i kompetencji organów w niej uczestniczących. Mając na uwadze powyższe, Rzecznik Praw Dziecka postuluje o wykreślenie jego przedstawiciela z listy członków Komisji wymienionych w art. 6 ust. 2 projektowanej ustawy. W planowanym modelu działania Komisji i zakresie jej zadań obecność przedstawiciela Rzecznika byłaby nie do pogodzenia z ustrojową pozycją Rzecznika Praw Dziecka oraz z kompetencjami RPD wskazanymi w Konstytucji RP i ustawie z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Przede wszystkim Rzecznik Praw Dziecka, zgodnie z przywołaną ustawą i art. 72 Konstytucji RP jest organem konstytucyjnym, który stoi na straży praw dziecka określonych w Konstytucji RP, Konwencji o prawach dziecka oraz innych aktach prawnych, działając z poszanowaniem odpowiedzialności, praw i obowiązków rodziców. Tym samym Rzecznik Praw dziecka nie może być traktowany jako organ stanowiący część administracji rządowej czy samorządowej godnie z art. 7 ust. 1 ustawy z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka, w ramach wykonywania swoich zadań Rzecznik jest niezależny od innych organów państwowych i odpowiada wyłącznie przed Sejmem na zasadach określonych w tej ustawie. Chociaż Uwaga uwzględniona Rzecznik Praw Dziecka został wyłączony ze składu Komisji. 44 ustawodawca nie przyznaje Rzecznikowi Praw Dziecka wprost atrybutu „niezawisłości” w znaczeniu stosowanym wobec sędziów, to celowościowa wykładnia przepisów ustawy o Rzeczniku Praw Dziecka prowadzi do wniosku, że przysługują mu analogiczne gwarancje, umożliwiające mu działanie w sposób zgodny z własnym sumieniem i wolny od nacisków zewnętrznych. Z tego względu przyznanie przedstawicielowi RPD funkcji członka Komisji, która wydaje decyzje administracyjne i postanowienia, rodzi istotne wątpliwości. Byłoby to sprzeczne z ustrojową rolą Rzecznika jako organu ochrony praw dziecka, gwarantowanej przez Konstytucję RP i ustawę z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Co więcej, decyzje administracyjne i postanowienia wydawane przez Komisję mogą stać się przedmiotem skarg kierowanych do Rzecznika Praw Dziecka w przypadku naruszenia praw dziecka w związku z rozstrzygnięciami dotyczącymi operatorów systemów sztucznej inteligencji. Czynne uczestnictwo przedstawiciela Rzecznika Praw Dziecka w codziennych pracach Komisji doprowadziłoby do sytuacji, w której Rzecznik oceniałby potencjalnie – działania podejmowane również przez swojego przedstawiciela. Godziłoby to bezpośrednio w zasadę niezależności RPD i byłoby też sprzeczne z obowiązkiem „bezstronności”, o którym mowa w ślubowaniu Rzecznika Praw Dziecka składanym przed Sejmem RP. Za wykreśleniem przedstawiciela RPD ze składu członków Komisji z powodu zaistnienia potencjalnego konfliktu interesu przemawia też to, że Rzecznik Praw Dziecka został w Polsce wyznaczony jako jeden z organów ochrony praw podstawowych w rozumieniu art. 77 rozporządzenia 2024/1689, z którym ma współpracować Komisja Wobec powyższego, w celu zachowania ustrojowej pozycji i niezależności Rzecznika Praw Dziecka oraz uniknięcia konfliktu interesów, zasadne jest wykreślenie przedstawiciela RPD ze składu Komisji, tj. z katalogu podmiotów wymienionych w art. 6 ust. 2 projektowanej ustawy. Nie budzi natomiast wątpliwości przyznanie na podstawie art. 25 projektowanej ustawy Rzecznikowi Praw Dziecka prawa do 45 zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, która będzie pełniła funkcje opiniodawczo-doradcze na rzecz Komisji stanowiąc głos niezależnych ekspertów w przedmiocie technicznych, organizacyjnych, ekonomicznych oraz prawnych aspektów stosowania systemów sztucznej inteligencji. 40. Art. 6 ust. 2 IAB Polska Rozszerzenie składu Komisji o przedstawicieli środowisk akademickich, naukowych oraz podmiotów społeczeństwa obywatelskiego i sektora przemysłowego Komisja jako organ nadzorujący różne obszary zastosowania AI, powinna uwzględniać szeroką reprezentację interesariuszy, co przyczyni się do skuteczniejszego i bardziej zrównoważonego zarządzania tym obszarem. Włączenie przedstawicieli tych środowisk pozwoli na: 1. Lepszą reprezentację rynku – uwzględnienie głosu sektorów bezpośrednio dotkniętych regulacjami Komisji, co zapewni większą przejrzystość i akceptację jej działań. 2. Dostęp do wiedzy eksperckiej – zaangażowanie specjalistów z obszarów AI pozwoli na bardziej merytoryczne i innowacyjne podejście do regulacji oraz oceny ryzyka i skutków technologii. Takie rozwiązanie nie naruszy jej niezależności instytucjonalnej. Wręcz przeciwnie – udział niezależnych przedstawicieli społeczeństwa obywatelskiego ograniczy ryzyko wpływu zamkniętych grup interesów oraz pozwoli na uwzględnienie różnych perspektyw w procesie decyzyjnym. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 41. Art. 6 ust. 2 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz dołączenie do Komisji przedstawiciela Rzecznika Finansowego. Uwaga wyjaśniona W ramach członków Komisji został już zaproponowany przedstawiciel Komisji Nadzoru 46 Działania w zakresie podmiotów rynku finansowego są podejmowane, nie tylko przez organ nadzoru rynku, ale również przez Rzecznika Finansowego, w tym w szczególności w odniesieniu do bezpośredniego kontaktu ze sprawami indywidulanych klientów podmiotów rynku finansowego. Podstawowym celem Rzecznika Finansowego jest ochrona klientów podmiotów rynku finansowego i reprezentowanie ich interesów. W tym celu Rzecznik Finansowy wykorzystuje wszelkie dostępne narzędzia służące ich ochronie – tj. m.in. interwencje, poradnictwo, wydawanie istotnych poglądów czy inicjowanie oraz udział w postępowaniach sądowych. Stopień skomplikowania konstrukcji usług na rynku finansowym wymaga szerokiej i różnorodnej wiedzy oraz wpływu tych usług na życie jednostek, wobec przyjmowania przez nie często wieloletnich zobowiązań finansowych. Zważyć należy, że AI jest już w chwili obecnej powszechnie wykorzystywana przez podmioty rynku finansowego, takie jak banki czy zakłady ubezpieczeń, także - a może nawet przede wszystkim - w relacjach z klientami takich podmiotów. Wobec powyższego wykorzystanie sztucznej inteligencji odnosi się bezpośrednio do podmiotów, na straży których interesów stoi Rzecznik Finansowy. Postęp technologiczny zapewne wymusi coraz szersze stosowanie sztucznej inteligencji w relacjach z klientami podmiotów rynku finansowego, co z kolei oznacza, że Rzecznik Finansowy i jego biuro są żywotnie zainteresowani aktywnym udziałem w pracach Komisji i Rady, celem zabezpieczenia interesów klientów, którzy wchodzić będą w interakcje z systemami sztucznej inteligencji, wykorzystywanych przez podmioty rynku finansowego. Chatboty i wirtualni asystenci mogą być wykorzystywani do tworzenia spersonalizowanych porad finansowych lub rekomendacji uwzględniających historię finansową klienta. W tym kontekście nie można wykluczyć wykorzystywania przez systemy AI swoistych technik manipulacyjnych, które w efekcie mogłyby wpływać np. na decyzje w zakresie wysokości zaciągniętego zobowiązania. Systemy AI odgrywają również coraz ważniejszą rolę w procesach oceny ryzyka kredytowego czy ubezpieczeniowego. Stosowane przez Finansowego. Organ ten odznacza się wysokim stopniem niezależności oraz jest instytucją kluczową dla nadzoru nad sztuczną inteligencją. Nie znajduje uzasadnienia wskazanie w śród grona Członków Komisji dodatkowego podmiotu podejmującego działania w zakresie podmiotów rynku finansowego. Rzecznik Finansowy będzie mógł uczestniczyć w posiedzeniach Komisji beż prawa głosu. 47 podmioty rynku finansowego algorytmy uczenia maszynowego mogą analizować i aktualizować swoje modele oceny w oparciu o nowe dane i zmieniające się warunki dotyczące np. historii kredytowej klientów, poziomu zadłużenia, płynności finansowej oraz zmiennych makroekonomicznych. Systemy AI wchodzą obecnie coraz częściej w bezpośrednią interakcję z klientami podmiotów rynku finansowego. Systemy AI mogą być również wykorzystywane do obsługi reklamacji czy rozpatrywania roszczeń klientów podmiotów rynku finansowego. Sposób wprowadzanie w życie automatyzacji tych procesów ściśle wiąże się z rolą Rzecznika Finansowego, który reprezentuje interesy klientów podmiotów rynku finansowego. Dodatkowo reprezentacja Rzecznika Finansowego może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii na rynku finansowym. Co równie istotne, wśród spraw, które klienci podmiotów rynku finansowego kierują do Rzecznika Finansowego, znajdują się już teraz te związane z AI. Zgodnie bowiem z art. 105a ust. 1a ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. U. z 2024 r. poz. 1646 z późn. zm.): Banki, inne instytucje ustawowo upoważnione do udzielania kredytów, instytucje pożyczkowe oraz podmioty, o których mowa w art. 59d ustawy z dnia 12 maja 2011 r. o kredycie konsumenckim, a także instytucje utworzone na podstawie art. 105 ust. 4, mogą w celu oceny zdolności kredytowej i analizy ryzyka kredytowego podejmować decyzje, opierając się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, danych osobowych - również stanowiących tajemnicę bankową - pod warunkiem zapewnienia osobie, której dotyczy decyzja podejmowana w sposób zautomatyzowany, prawa do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji, do uzyskania interwencji ludzkiej w celu podjęcia ponownej decyzji oraz do wyrażenia własnego stanowiska. Podobne uprawnienia osobie, wobec której podejmowane są decyzje w oparciu o wyłącznie zautomatyzowane przetwarzanie w celu dokonania oceny ryzyka ubezpieczeniowego oraz likwidacji szkody przyznaje art. 41 ust. 1a 48 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej (t.j. Dz. U. z 2024 r. poz. 838 z późn. zm.). Z kolei zgodnie z art. 86 ust. 1 rozporządzenia 2024/1689: Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. Tym samym, Rzecznik Finansowy mógłby zapewnić wydatne wzmocnienie kompetencji Komisji m.in. w zakresie ochrony praw klientów wprowadzanych przez rozporządzenie 2024/1689. W składzie Komisji nie uwzględniono bezpośrednich przedstawicieli ochrony klientów podmiotów rynku finansowego, co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad tym obszarem. W tym kontekście, Rzecznik Finansowy jako instytucja odpowiedzialna za wspieranie klientów podmiotów rynku finansowego, mógłby wesprzeć prace Komisji w zakresie zagrożeń systemów AI na rynku finansowym. Pozwoliłoby to lepiej zintegrować działania Komisji z wymogami regulacyjnymi. Brak udziału Rzecznika Finansowego w Komisji mógłby prowadzić do osłabienia zakresu ochrony praw klientów podmiotów rynku finansowego, którzy z każdym rokiem powierzają Rzecznikowi Finansowemu coraz więcej spraw dotyczących ich żywotnych interesów. Członkostwo Rzecznika Finansowego w Komisji może mieć wpływ na skuteczny nadzór nad funkcjonowaniem algorytmów, zapobieganie potencjalnym nadużyciom ze strony podmiotów rynku finansowego jak również może wesprzeć wdrażanie technologii sztucznej inteligencji w sposób przejrzysty, z poszanowaniem praw klientów pomiotów rynku finansowego. Jest to szczególnie ważne dla osób wykluczonych cyfrowo lub z innych 49 względów mających trudności na rynku finansowym, którzy mogą być szczególnie narażeni na nadużycia związane z działaniem algorytmów. Wprawdzie przepisy ujęte w przekazanej do ponownych konsultacji wersji projektu przewidują możliwość uczestnictwa w posiedzeniach Komisji przedstawiciela podmiotu publicznego, jednak wyłącznie z głosem doradczym (art. 6 ust. 3 pkt 1). Dodatkowo udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji. Taki mechanizm może nie odpowiadać zakresowi odziaływania systemów AI w obszarze rynku finansowego i potencjalnie ograniczać realną możliwość odpowiedniej ochrony klientów podmiotów rynku finansowego w sprawach dotyczących regulacji systemów AI, których wyniki działania bezpośrednio ich dotyczą. Konsumenci na rynku finansowym należą do grupy podmiotów wrażliwych, mogących w szczególny sposób odczuć negatywny wpływ systemów AI na ich prawa i interesy. Dla zapewnienia ochrony praw klientów podmiotów rynku finansowego niewątpliwe znaczenie ma przymiot niezależności charakteryzujący instytucję Rzecznika Finansowego. Rzecznik Finansowy jest powoływany przez Prezesa Rady Ministrów i od momentu powołania działa w sposób całkowicie samodzielny. Rzecznik Finansowy znajduje się poza strukturą administracji rządowej, zaś swoją funkcję pełni kadencyjnie (zob. art. 12 ustawy z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej; dalej ustawa o Rzeczniku Finansowym). Podstawowym celem Rzecznika Finansowego jest zapewnienie ochrony praw i interesów klientów podmiotów rynku finansowego. Jest on tylko i aż gwarantem tego, że każdy obywatel pokrzywdzony wskutek działań podmiotów rynku finansowego będzie mógł otrzymać należną mu ochronę. Swoista rola instytucji Rzecznika Finansowego znajduje swoje odzwierciedlenie również w toku procesów legislacyjnych mających na celu zapewnienie stosowania regulacji unijnych w krajowym porządku prawnym w obszarze rynku finansowego. Jedynie jako 50 przykład można podać ustawę z dnia z dnia 20 grudnia 2024 r. o podmiotach obsługujących kredyty i nabywcach kredytów, która weszła w życie w dniu 19 lutego 2025 r. i która wdraża dyrektywę Parlamentu Europejskiego i Rady (UE) 2021/2167 z dnia 24 listopada 2021 r. w sprawie podmiotów obsługujących kredyty i nabywców kredytów oraz w sprawie zmiany dyrektyw 2008/48/WE i 2014/17/UE (Dz. Urz. UE L 438 z 08.12.2021, str. 1). Ustawa z dnia 20 grudnia 2024 r. wprowadza również zmiany w ustawie o Rzeczniku Finansowym i w tym zakresie zapewnia stosowanie regulacji unijnych w zakresie roli właściwych organów w procedurze rozpatrywania skarg kredytobiorców dotyczących nabywców kredytów, podmiotów obsługujących kredyty i dostawców usług obsługi kredytów (art. 24 ust. 3 ww. dyrektywy). W przypadkach, w których zastrzeżenia formułowane w reklamacjach przez kredytobiorców, będących osobami fizycznymi, wobec ww. podmiotów nie zostaną uwzględnione, kredytobiorca będzie miał możliwość złożenia wniosku o podjęcie interwencji przez Rzecznika Finansowego (czyli skargi). Ewentualna interwencja Rzecznika Finansowego będzie odbywać się na takich samych zasadach jak w przypadku działań dotyczących interwencji względem innych podmiotów rynku finansowego, w odniesieniu do których Rzecznik podejmuje działania już od wielu lat. 42. Art. 6 ust. 2 RMŚP W treści art. 6 ust. 2 Projektu wskazano, żw stałymi członkami Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będą przedstawiciele tylko niektórych organów ochrony prawa, w tym min. in.: Prezesa Urzędu Ochrony Konkurencji i Konsumentów oraz Państwowej Inspekcji Pracy. W takich okolicznościach, dla skutecznego urzeczywistnienia równowagi interesów partnerów społecznych, w skład Komisji powinien zostać włączony także przedstawiciel Rzecznika Małych i Średnich Przedsiębiorców, jako posiadający prawo głosu reprezentant środowiska przedsiębiorców. Postulat taki zgłaszany był również przez organizacje przedsiębiorców podczas dotychczasowych konsultacji Projektu. Realizacja postulatu wymaga: w art. 6 ust. 2: Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją. Rzecznika Małych i Średnich Przedsiębiorców nie spełnia w pełni kryterium przyjętego przez projektodawcę. Bedzie natomiast mógł uczestniczyć w posiedzeniach Komisji bez prawa głosu. 51 1. w pkt 7) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu – pkt 8 w brzmieniu: „8) Rzecznika Małych i Średnich Przedsiębiorców.” Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. 43. Art. 6 ust. 2 UP RP Jednym z zadań Komisji będzie podejmowanie działań mających na celu monitorowanie innowacyjności w obszarze badań i stosowania systemów sztucznej inteligencji oraz działanie na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji. W tym zakresie zasadne może być podjęcie współpracy z Urzędem Patentowym. W związku z powyższym należałoby rozważyć, czy przedstawiciel Urzędu Patentowego nie powinien być członkiem Komisji, o której mowa w art. 6 ust. 2 projektu. Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Urząd Patentowy nie spełnia wskazanych przesłanek. Nadzór nad działalnością Urzędu Patentowego sprawuje z ramienia Rady Ministrów minister właściwy do spraw gospodarki. 44. Art. 6 ust. 2 Konfederacj a Lewiatan Uwagi: Jeśli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma skutecznie nadzorować różnorodne obszary zastosowań sztucznej inteligencji i sprostać wyzwaniom związanym z jej dynamicznym rozwojem, konieczne jest rozszerzenie jej składu. Obecnie Komisja ma się składać wyłącznie z przedstawicieli różnych instytucji państwowych, co może ograniczać jej perspektywę i dostęp do specjalistycznej wiedzy. Dlatego też proponujemy, aby skład Komisji został poszerzony o przedstawicieli środowisk naukowych, takich jak uniwersytety, instytuty badawcze czy organizacje pozarządowe zajmujące się badaniami nad sztuczną inteligencją. Ich udział zapewniłby Komisji dostęp do najnowszych osiągnięć naukowych, innowacyjnych rozwiązań oraz umożliwiłby identyfikację potencjalnych zagrożeń i wyzwań związanych z rozwojem sztucznej inteligencji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 52 Ponadto, istotne jest również włączenie do Komisji przedstawicieli organizacji zrzeszających przedsiębiorców, takich jak izby gospodarcze, stowarzyszenia branżowe czy związki pracodawców. Ich udział pozwoliłby na uwzględnienie perspektywy przedsiębiorców, praktycznych aspektów wdrażania sztucznej inteligencji w przedsiębiorstwach oraz ocenę wpływu regulacji na rozwój gospodarczy. Co więcej, stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Rozszerzenie składu Komisji o przedstawicieli środowisk naukowych i przedsiębiorców przyczyni się do zwiększenia jej efektywności, umożliwi podejmowanie bardziej kompleksowych i zrównoważonych decyzji oraz zapewni legitymizację jej działań w oczach społeczeństwa. Udział w pracach Komisji przedstawicieli społecznych, takich jak eksperci, naukowcy czy przedstawiciele organizacji pozarządowych, nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Przeciwnie – zwiększy to transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Podsumowując, rozszerzenie składu Komisji o przedstawicieli środowisk naukowych, przedsiębiorców i społecznych jest niezbędne dla osiągnięcia celu, jakim jest uczynienie z Komisji nie tylko organu nadzorującego bezpieczeństwo sztucznej inteligencji, ale także wspierającego jej rozwój. Tylko poprzez zapewnienie zróżnicowanych perspektyw i dostęp do specjalistycznej wiedzy, Komisja będzie mogła skutecznie sprostać wyzwaniom związanym z rozwojem sztucznej inteligencji i zapewnić, że jej rozwój będzie służył dobru społeczeństwa. 53 45. Art. 6 ust. 2 pkt 6 GIP Projekt ustawy z dnia 15.10.2024 r. przewidywał, że przedstawiciele Państwowej Inspekcji Pracy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej Komisja) bez prawa głosu. W projekcie z dnia 10.02.2025 r., przekazanym do ponownych uzgodnień wskazano, że przedstawiciel Państwowej Inspekcji Pracy ma być członkiem Komisji. Udział przedstawiciela Państwowej Inspekcji Pracy w pracach Komisji w charakterze jej członka budzi poważne zastrzeżenia, biorąc pod uwagę rolę i zakres działania Państwowej Inspekcji Pracy. Zgodnie z art. 1 ustawy z dnia 13 kwietnia 2007 r. o Państwowej Inspekcji Pracy (Dz. U. z 2024 r. poz. 1712) Państwowa Inspekcja Pracy jest organem powołanym do sprawowania nadzoru i kontroli przestrzegania prawa pracy, w szczególności przepisów i zasad bezpieczeństwa i higieny pracy, a także przepisów dotyczących legalności zatrudnienia i innej pracy zarobkowej w zakresie określonym w ustawie. Zakres zadań Komisji określony w art. 9 projektu nie mieści się w zakresie ustawowych zadań Państwowej Inspekcji Pracy. Należy podkreślić, że zgodnie z art. 3 Konwencji Nr 81 Międzynarodowej Organizacji Pracy dotyczącej inspekcji pracy w przemyśle i handlu: „Do zadań systemu inspekcji pracy będzie należało: (a) zapewnianie stosowania przepisów prawnych dotyczących warunków pracy i ochrony pracowników przy wykonywaniu ich zawodu (...), (b) dostarczanie informacji i porad technicznych pracodawcom i pracownikom (...), (c) zwracanie uwagi właściwej władzy na uchybienia lub nadużycia (...). Inspektorom pracy mogą być powierzane jakiekolwiek inne obowiązki tylko pod warunkiem, że nie będą przeszkadzać w skutecznym wykonywaniu ich zadań głównych ani w jakikolwiek sposób naruszać autorytetu i bezstronności, potrzebnych inspektorom w stosunkach z pracodawcami i pracownikami”. Nie budzi wątpliwości, że udział przedstawiciela Państwowej Inspekcji Pracy jako członka Komisji będącej organem nadzoru rynku w zakresie systemów sztucznej inteligencji, wykracza poza zakres działania inspekcji pracy określony ww. Konwencją. Uwaga uwzględniona Przedstawiciel Państwowej Inspekcji Pracy został wyłączony ze składu Komisji. Jednocześnie Główny Inspektor Pracy będzie miał możliwość zgłaszania kandydatów na członków Rady Społecznej przy Komisji (art. 25 ust. 3 pkt 6). 54 Przedstawiciel Państwowej Inspekcji Pracy jako organu nadzorującego i kontrolującego przestrzeganie prawa pracy nie może brać udziału w procesie wydawania decyzji przez inny organ. Stałoby to w sprzeczności z zasadą działania inspektorów pracy jako niezależnych organów, prowadzących postępowanie kontrolne i stosujących środki prawne na zasadach określonych w ustawie o Państwowej Inspekcji Pracy. Rozwiązanie zaproponowane w art. 6 ust. 2 pkt 6 projektu stoi również w sprzeczności z art. 79 ust. 2 rozporządzenia 2024/1689, który stanowi, że „W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie”. Przywołany przepis przewiduje współpracę organu nadzoru rynku i organu lub podmiotu, o których mowa w art. 77 ust. 1, akcentując jednocześnie odrębność ww. podmiotów. Państwowa Inspekcja Pracy została wskazana w wykazie organów lub podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji. Państwowa Inspekcja Pracy w obszarze swojej właściwości byłaby więc organem współpracującym z Komisją na zasadach określonych w art. 5 ust. 3 pkt 4 projektu ustawy w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych. Na rozdzielenie zadań Komisji i organów lub podmiotów określonych w wykazie wskazuje także treść art. 55 ust. 3 projektu ustawy, zgodnie z którym „Jeśli w toku 55 postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689”. Mając powyższe na uwadze, proponuję wyłączenie przedstawiciela Państwowej Inspekcji Pracy ze składu Komisji. 46. Art. 6 ust. 3 pkt 2 Konfederacj a Lewiatan Propozycja zmiany: 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: (...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uzasadnienie: Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie „osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera jej ustawa Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego “osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze “biegły”. Należy wskazać, że w obecnej sytuacji istnieje niewielka liczba biegłych posiadających wiedzę z szerokiego zakresu systemów sztucznej inteligencji. Angażowanie biegłych do wypowiadania się w sprawach będących przedmiotem posiedzenia nie znajduje uzasadnienia i maiłoby negatywne przełożenie na terminowość spraw prowadzonych np. przed sadem gdzie obecność biegłego jest uzasadniana i wymagana prawem. Wiedza jaka jest niezbędna na etapie posiedzeń Komisji często jest skupiona w rękach specjalistów, praktyków stąd też terminologia zastosowana w przedmiotowym przepisie. 47. Art. 6 ust. 4 Konfederacj a Lewiatan Brak wynagrodzenia dla członków Komisji może znacząco wpłynąć na jej wydajność i efektywność, szczególnie biorąc pod uwagę rosnącą liczbę obowiązków i złożoność zagadnień wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Komisja, aby sprostać tym wyzwaniom, musi angażować wysokiej klasy specjalistów, których wiedza i doświadczenie są niezbędne do podejmowania trafnych decyzji i skutecznego działania. Brak wynagrodzenia za pracę na rzecz Komisji może zniechęcić takich ekspertów do uczestnictwa w pracach Komisji, co może prowadzić Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 56 do obniżenia jakości jej pracy, a w konsekwencji do negatywnych skutków dla rozwoju sztucznej inteligencji w Polsce. Pozostawienie kwestii wynagrodzenia członków Komisji uznaniu instytucji delegujących może prowadzić do braku spójności i stabilności w funkcjonowaniu Komisji. Różne instytucje mogą mieć odmienne podejście do kwestii wynagrodzeń, co może powodować konflikty interesów i trudności w zapewnieniu odpowiedniego poziomu finansowania dla wszystkich członków Komisji. Może to również zagrażać niezależności Komisji, gdyż członkowie mogą być bardziej skłonni do reprezentowania interesów instytucji delegujących niż do podejmowania obiektywnych i niezależnych decyzji. Dlatego proponujemy wprowadzenie jasnych i transparentnych zasad wynagradzania członków Komisji, które zapewnią im godziwe wynagrodzenie za ich pracę, adekwatne do ich kwalifikacji, zaangażowania i odpowiedzialności. 48. Art. 6 ust. 4 IAB Polska Zapewnienie wynagrodzenia dla członków Komisji Brak wynagrodzenia dla członków Komisji może negatywnie wpłynąć na jej efektywność, zwłaszcza w kontekście rosnącego zakresu obowiązków wynikających z dynamicznego rozwoju rynku AI. Obecnie projektowane rozwiązanie, pozostawiające kwestię wynagrodzenia w gestii instytucji delegujących członków, nie zapewnia stabilności funkcjonowania Komisji ani odpowiedniej motywacji do zaangażowania w jej prace. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 49. Art. 6 ust. 4 ZPP Wprowadzić transparentne zasady wynagradzania członków Komisji, co przyczyni się do przyciągnięcia wysokiej klasy specjalistów oraz zwiększenia niezależności organu. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. podmiotów. 50. Art. 6 ust. 7 PUODO Art. 6 ust. 7 projektu ustawy: „Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym”. Przepis w obecnym brzmieniu wymaga Uwaga wyjaśniona Intencją jest zawarcie w ustawie jedynie przepisów niezbędnych oraz przeniesienia regulacji 57 doprecyzowania, bowiem projektodawca nie wskazał mechanizmów weryfikacji tożsamości uczestników posiedzenia Komisji (czy uwierzytelnianie następuje poprzez złożenie podpisu elektronicznego, profil zaufany czy inne środki techniczne). Ponadto, brak jest szczegółowych wymagań dotyczących ochrony poufności informacji i zabezpieczenia przed cyberatakami – nie wskazano, czy systemy teleinformatyczne powinny spełniać konkretne standardy, takie jak szyfrowanie end-to-end, a także jakie procedury kontroli dostępu powinny obowiązywać. Kolejną kwestią wymagającą dookreślenia jest sposób rejestrowania i archiwizacji posiedzeń – czy posiedzenia mogą być nagrywane, a jeśli tak, przez jaki okres materiały te będą przechowywane i kto miałby do nich dostęp. Wątpliwości budzi również sposób przeprowadzania głosowań w trybie zdalnym, szczególnie w kontekście zapewnienia tajności i ochrony danych. Przepis wskazuje na konieczność ochrony poufności informacji, lecz nie precyzuje, jakie techniczne środki powinny być stosowane – np. dedykowane systemy do głosowań, podpisy elektroniczne czy mechanizmy audytowania bezpieczeństwa. dotyczących kwestii technicznych podustawowej. Jednocześnie wyjaśnić należy, że projektodawca nie przewiduje potrzeby i możliwości nagrywania posiedzeń Komisji. 51. art. 6, 26, 43 Pracodawcy RP Należy także zwrócić uwagę na nieprecyzyjne kompetencje Prezesa Urzędu Ochrony Danych Osobowych (UODO) w zakresie nadzoru nad AI (odstawa prawna: art. 62-70 AI Act, art. 6, 26, 43 projektu). Projekt przewiduje współpracę Komisji ds. AI z Prezesem UODO, jednak nie określa jego kompetencji w zakresie: • przeprowadzania audytów systemów AI pod kątem ochrony danych osobowych, • monitorowania zgodności systemów AI z RODO, • egzekwowania przepisów w przypadku naruszenia ochrony danych osobowych. Brak szczegółowych regulacji może prowadzić do sytuacji, w której UODO nie będzie miał faktycznych narzędzi do egzekwowania przestrzegania przepisów dotyczących ochrony danych osobowych w systemach AI, co może skutkować naruszeniami praw osób fizycznych. Wobec powyższego apelujemy o określenie kompetencji Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 pkt 3 oraz art. 101 projektu ustawy. Kwestie kompetencji UODO dotyczą przepisów RODO i pozostają poza zakresem przedmiotu regulacji projektu ustawy. Dodatkowo w zakresie systemów wysokiego ryzyka, wyjaśniamy że kwestie te będą przedmiotem regulacji w ramach odrębnego procesu legislacyjnego. 58 Prezesa UODO w zakresie nadzoru nad AI, aby zapewnić skuteczność egzekwowania przepisów o ochronie danych. 52. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. Propozycja zmiany: w składzie Komisji obok przedstawicieli administracji publicznej powinni znajdować się eksperci dziedzinowi związani z rozwojem SSI. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 53. Art. 7 ust. 3- 4 RPD Z uwagi na konieczność zagwarantowania dzieciom prawa do wyrażania swoich poglądów w sprawach ich dotyczących (art. 12 Konwencji o prawach dziecka, art. 24 Karty praw podstawowych UE), postuluję wprowadzenie do projektowanego art. 7 ust. 3 dodatkowej kategorii podmiotów zapraszanych do udziału w posiedzeniach Komisji z głosem doradczym: przedstawicieli organizacji dzieci i młodzieży (także tych o charakterze prywatnym, np. stowarzyszeń), w zakresie, w jakim przedmiot posiedzenia Komisji dotyczy spraw bezpośrednio wpływających na sytuację dzieci i młodzieży. Obecne brzmienie art. 7 ust. 3 ogranicza tę możliwość wyłącznie do przedstawicieli podmiotów publicznych innych niż członkowie Komisji lub osób z wiedzą specjalistyczną, tymczasem dzieci i młodzież, choć często nie posiadają fachowej wiedzy technicznej lub prawnej, są w wielu przypadkach bezpośrednimi odbiorcami rozwiązań SI (np. w edukacji), a zatem ich głos i doświadczenia stanowią niezbędne źródło informacji przy projektowaniu regulacji oraz przygotowywaniu kampanii informacyjnych dotyczących systemów sztucznej inteligencji. Ponadto, rekomenduję modyfikację art. 7 ust. 4, tak aby zwrot kosztów podróży i noclegów przysługiwał nie tylko za „udział w Uwaga wyjaśniona Projektowane przepisy umożliwiają udział w posiedzeniu Komisji szerokiej gamie podmiotów w tym podmiotów reprezentujących prawa dzieci. Mając na uwadze zakres przetwarzanych w ramach posiedzeń informacji zasadnym wydaje się pozostawienie takiego rozwiązania. Przepis art. 7 ust. 4 nie wymaga zmiany. 59 pracach Komisji”, lecz także za udział w jej posiedzeniach na zaproszenie Przewodniczącego. Pozwoli to uniknąć sytuacji, w której młodzi uczestnicy lub inne doraźnie zapraszane podmioty nie mogą w praktyce wziąć udziału w obradach z powodów finansowych. Wprowadzenie tych zmian: zapewni realne uwzględnienie głosu dzieci i młodzieży w procesie kształtowania i stosowania przepisów dotyczących systemów sztucznej inteligencji. 54. Art. 7 ust. 9 Konfederacj a Lewiatan Propozycja zmiany: W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uzasadnienie: Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, zgodnie z którą nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie bezpośrednio dotyczył członka Komisji. 55. Art. 9 ust. 5 Pracodawcy RP Projekt wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRibSi) w szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI w Polsce, co rodzi ryzyko fragmentacji prawa unijnego i różnych interpretacji. Propozycja: Wyraźne wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 56. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 Pracodawcy RP Stwierdzić należy, że część przepisów zawartych w projekcie (art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13) wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI) w Uwaga wyjaśniona 60 ust. 1 i 2, art. 13 szeroką swobodę w zakresie ingerencji w stosowanie Ustawy i Aktu o AI w Polsce. Rodzi to w naszej ocenie poważne ryzyko fragmentacji prawa unijnego. Zakładając bowiem, że poszczególne organy państw członkowskich ds. sztucznej inteligencji będą miały podobne uprawnienia, istnieje ryzyko, że będzie to prowadzić do różnych interpretacji unijnej regulacji dot. sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. W efekcie czego doprowadzi to do stanu niepewności regulacyjnej, co przełoży się negatywnie na przyjęcie przepisów o sztucznej inteligencji na terenie Unii Europejskiej. Apelujemy więc o to, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 57. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Konfederacj a Lewiatan Propozycja zmiany: Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 58. Art. 10 ust. 1 i 2 Pracodawcy RP Podobnie jak w art. 9 ust. 5, projekt daje KRiBSI zbyt dużą swobodę, co może prowadzić do niejednolitego stosowania regulacji w UE. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i 61 wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 59. Art. 11 ust. 1 Konfederacj a Lewiatan Aktualne brzmienie: Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Zapytanie: Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art.11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Opinie indywidualne dotyczą konkretnego podmiotu i jego skonkretyzowanej sytuacji prawnej. Wydawane są zawsze na wniosek tego podmiotu. Wyjaśnienia dotyczą pewnego zagadnienia ogólnego. Mają na celu zapewnienie zapewnienia jednolitego stosowania przepisów rozporządzenia 2024/1689 oraz ustawy. Będą wydawane przez Komisję z urzędu lub na wniosek podmiotu. 60. Art. 11 ust. 2 Konfederacj a Lewiatan Propozycja zmiany: W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uzasadnienie: Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. Uwaga wyjaśniona Wskazana w uzasadnieniu uwagi zasada wynika wprost z przepisów Unii Europejskiej. 61. Art. 12 PUODO Art. 12 projektu ustawy dotyczący wydawania przez Komisję opinii indywidualnych. Powstaje pytanie czy zakres tych opinii będzie obejmował także kwestie związane z danymi osobowymi. Uzasadnienie do projektu ustawy nie odnosi się do tego zagadnienia. Zauważyć należy, że wniosek o wydanie opinii, zgodnie z ust. 3 pkt 4 ww. przepisu, zawiera „numer PESEL, jeżeli wnioskodawcą jest osoba fizyczna (...)”, natomiast projektodawca nie uzasadnił niezbędności przetwarzania tej danej osobowej. Uwaga wyjaśniona Opinie indywidualne wydawane przez Komisję. Intencją projektodawcy jest aby opinie indywidualne Komisji dotyczyły obowiązków/praw wynikający ze stosowania rozporządzenia 2024/1689 oraz ustawy. Ich celem nie jest objęcie kwestii związanych z ochroną danych osobowych. Nie można wykluczyć jednak, 62 W świetle rozporządzenia 2016/679 identyfikator osoby musi być poddany szczególnej ochronie, w związku z czym należy stwarzać szczególne gwarancje wynikające z przepisów prawa, mając na względzie konieczność ich dostosowania do ww. rozporządzenia. Zgodnie z art. 87 rozporządzenia 2016/679 przetwarzanie „krajowego numeru identyfikacyjnego” (jakim jest numer PESEL) musi odbywać się z zachowaniem odpowiednich zabezpieczeń praw i wolności osoby, której dane dotyczą. To m.in. oznacza, że przetwarzanie identyfikatora osoby musi się odbywać z poszanowaniem zasady minimalizacji danych (art. 5 ust. 1 lit. c) rozporządzenia 2016/679. Projektodawca powinien, zważywszy na art. 87 rozporządzenia 2016/679 uzasadnić konieczność pozyskiwania numeru PESEL wnioskującego o wydanie opinii indywidualnej. aby opinia taka wskazywała na fakt przetwarzania przez podmiot/system sztucznej inteligencji danych osobowych oraz wskazania, że nie w tym zakresie podmiot obowiązany jest zachować zgodność z RODO a organem który będzie w tym zakresie właściwym jest PUODO. 62. Art. 12 ust. 1 i 2 Pracodawcy RP Projekt przyznaje KRibSi szerokie uprawnienia, co może skutkować różnicami w interpretacji i egzekwowaniu przepisów w różnych krajach UE. Propozycja: Wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 63. Art. 12 ust. 4 NCBR (Dot. opłaty za opinię indywidualną) Propozycja zmiany: zwolnić MŚP/mikroprzedsiębiorców z opłaty lub wprowadzić preferencyjną stawkę (np. 50 zł). Uzasadnienie: ułatwi to małym podmiotom uzyskanie interpretacji i dostosowanie się do przepisów. Uwaga wyjaśniona Kwota opłaty za wydanie opinii indywidualnej nie wynosi 150 zł. Wysokość opłaty nie stanowi bariery finansowej uniemożliwiającej wystąpienie o wydanie przedmiotowej opinii. 64. Art. 12 ust. 10 Konfederacj a Lewiatan Propozycja zmiany: Uwaga uwzględniona 63 10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Uzasadnienie: Błędna numeracja odniesienia. Zmieniono przepis w zakresie odwołania się do właściwego ustępu. 65. Art. 12 ust. 15 IAB Polska Wprowadzenie przepisu jasno wskazującego, że wnioskodawca nie ponosi negatywnych konsekwencji, jeśli nie miał wiedzy o toczącym się postępowaniu w momencie składania wniosku. Projektowane przepisy nie gwarantują wprost, że wnioskodawca nie poniesie negatywnych konsekwencji za przedstawienie stanu faktycznego, jeśli nie wiedział, że jest on przedmiotem toczącego się postępowania. Brak tej ochrony może zniechęcać podmioty do składania wniosków i ograniczać skuteczność procedury wydawania opinii indywidualnych. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnej weryfikacji, czy stan faktyczny objęty wnioskiem jest przedmiotem jakiegokolwiek postępowania przed organami publicznymi lub sądami, jeżeli nie otrzymał on żadnej wiarygodnej informacji w tym zakresie (np. pisma odpowiedniego organu lub sądu). Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 66. Art. 12 ust. 13 - 15 Konfederacj a Lewiatan Projektowana ustawa powinna zawierać jednoznaczne stwierdzenie, że wnioskodawca nie poniesie żadnych negatywnych konsekwencji za złożenie oświadczenia, że dany stan faktyczny nie jest objęty toczącym się postępowaniem, o ile wnioskodawca nie miał wiedzy o takim postępowaniu w momencie składania wniosku, przy założeniu, że stan faktyczny rzeczywiście nie jest przedmiotem toczącego się postępowania. Ustawodawca powinien wziąć pod uwagę, że wnioskodawca może nie mieć możliwości uzyskania takiej informacji, zwłaszcza jeżeli stosowne zawiadomienia nie zostały jeszcze oficjalnie przekazane lub opublikowane. W związku z powyższym, ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego sprawdzania czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. 64 postępowania przed złożeniem wniosku o wydanie opinii indywidualnej. Co więcej, ustawa powinna zawierać przepisy zabezpieczające wnioskodawcę przed negatywnymi konsekwencjami w przypadku, gdy oświadczenie o braku toczącego się postępowania okaże się nieprawdziwe z przyczyn leżących poza kontrolą wnioskodawcy, takich jak błędy administracyjne, opóźnienia w przekazywaniu informacji lub inne okoliczności, które uniemożliwiły wnioskodawcy uzyskanie rzetelnej informacji o toczącym się postępowaniu. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 67. Art. 12 i art. 13 ZPP Procedury dotyczące wydawania opinii indywidualnych oraz ustalania opłat muszą być precyzyjnie określone, by zapewnić jasność i przewidywalność postępowania administracyjnego. Uregulować procedury dotyczące wydawania opinii indywidualnych oraz opłat z nimi związanych, zapewniając przejrzystość i jednoznaczność postępowania. Uwaga uwzględniona Procedura, o której mowa w uwadze została doprecyzowana w art. 12. 68. Art. 12, 13, 26 Pracodawcy RP Istotną kwestię stanowi także brak przejrzystości i mechanizmów wyjaśniania decyzji podejmowanych przez AI (podstawa prawna: art. 13, 52-55 AI Act, art. 12, 13, 26 projektu). Projekt nie wprowadza szczegółowych regulacji dot. obowiązku przejrzystości i wyjaśniania decyzji podejmowanych przez systemy AI. AI Act nakłada na dostawców i podmioty stosujące AI obowiązek: • informowania użytkowników końcowych o sposobie działania algorytmu, • testowania systemów AI pod kątem występowania uprzedzeń, • umożliwienia osobom fizycznym odwołania się od decyzji podjętych przez AI. Brak tych regulacji w projekcie może naruszać prawa osób fizycznych do rzetelnej informacji, a także prowadzić do sytuacji, w których użytkownicy nie będą mieli możliwości dochodzenia swoich praw w przypadku błędnych lub dyskryminujących decyzji podejmowanych przez AI. Mając powyższe na względzie, apelujemy o wprowadzenie mechanizmów transparentności AI, w tym prawa Uwaga wyjaśniona Projekt ustawy nie reguluje we wskazanych przepisach decyzji podejmowanych przez AI. 65 użytkownika do uzyskania wyjaśnień decyzji podejmowanych przez AI. 69. Art. 13 Pracodawcy RP Projekt daje KRibSi szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI, co może prowadzić do fragmentacji prawa unijnego. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 70. Art. 13 Konfederacj a Lewiatan Propozycja brzmienia: Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uzasadnienie: Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 71. Art. 14 IAB Polska Dodanie przepisu umożliwiającego wnioskodawcom jednoznaczne oznaczenie informacji poufnych jako niepublicznych w momencie ich składania oraz zobowiązującego Komisję do uwzględnienia tego oznaczenia przy publikacji treści opinii i wyjaśnień Obecnie projektowane przepisy nie określają jednoznacznie zasad ochrony informacji poufnych, takich jak tajemnice przedsiębiorstwa, w kontekście opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Wnioskodawcy powinni mieć zagwarantowaną możliwość oznaczania informacji, które nie powinny być publikowane, a brak Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli 66 takiego mechanizmu może prowadzić do niekontrolowanego ujawniania wrażliwych danych. zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 72. Art. 14 Konfederacj a Lewiatan Ustawa powinna zawierać jasne i jednoznaczne wytyczne dotyczące oznaczania przez wnioskodawców informacji nieprzeznaczonych do publikacji, takich jak tajemnice przedsiębiorstwa, dane osobowe czy informacje wrażliwe. Obecne przepisy nie precyzują, w jaki sposób identyfikować dane poufne w opiniach, wyjaśnieniach czy innych dokumentach składanych w ramach postępowania, co prowadzi do niepewności i ryzyka przypadkowego ujawnienia informacji zastrzeżonych. Aby zapewnić ochronę danych poufnych i zwiększyć pewność prawną wnioskodawców, konieczne jest wprowadzenie przepisu, który umożliwi im wyraźne oznaczenie poufnych informacji jako niepublicznych już w momencie ich składania. Taki przepis powinien określać: ● Sposób oznaczania informacji poufnych: np. poprzez wyraźne wskazanie w dokumencie, które fragmenty są objęte tajemnicą; ● Formę składania zastrzeżenia: np. poprzez dołączenie do wniosku oddzielnego pisma zawierającego zastrzeżenie poufności określonych informacji; ● Procedurę postępowania z informacjami poufnymi: np. określenie zasad dostępu do tych informacji przez organ rozpatrujący wniosek, sposób ich przechowywania i ochrony; ● Sankcje za naruszenie poufności: np. kary administracyjne lub odpowiedzialność karna za ujawnienie informacji zastrzeżonych; Wprowadzenie takich rozwiązań przyczyni się do zwiększenia zaufania do organów administracji publicznej, zapewni ochronę interesów wnioskodawców i przyczyni się do usprawnienia postępowań administracyjnych. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 73. Art. 14 oraz art. 22 ust. 5 ZPP Ustalić precyzyjne zasady oznaczania informacji poufnych, umożliwiając podmiotom kontrolowanym wskazanie danych nieprzeznaczonych do publikacji oraz ograniczyć dostęp do takich informacji wyłącznie do niezbędnego zakresu. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym 67 tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 74. Art. 15 PUODO Nowy przepis art. 15 dotyczący realizacji obowiązku sprawozdawczego przez Komisję w ust. 1 wskazuje, że: „Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej, Radzie Ministrów, Rzecznikowi Praw Obywatelskich, Prezesowi Urzędu Ochrony Danych Osobowych oraz Prokuratorowi Generalnemu sprawozdanie z działalności Komisji za rok poprzedni”. Ust. 2 poprzez zwrot „w szczególności” zawiera otwarty katalog informacji dotyczący ww. sprawozdania, co w ocenie organu nadzorczego powinno zostać doprecyzowanie poprzez domknięcie przedmiotowego katalogu informacji. Uwaga uwzględniona W przepisie domknięto katalog informacji dotyczący ww. Sprawozdania. 75. Art. 15 ust. 1 RPD W związku z postulatem wykreślenia przedstawiciela Rzecznika Praw Dziecka ze składu Członków Komisji, Rzecznika Praw Dziecka należy dodać w skład podmiotów, którym Przewodniczący składa Komisji sprawozdanie z działalności Komisji za rok poprzedni. Możliwość zapoznania się z działalnością Komisji ma bowiem istotne znaczenie dla Rzecznika Praw Dziecka z perspektywy monitorowania stanu przestrzegania praw dziecka przez organy publiczne w Polsce. Uwaga wyjaśniona Mając na uwadze, że Przewodniczący Komisji będzie powoływany przez Sejm RP za zgodą Senatu RP a Komisja będzie organem niezależnym w ustawie przesądzono, że wskazane w przedmiotowym przepisie sprawozdanie będzie przedstawiane Sejmowi RP. 76. Art. 16 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Uzasadnienie: Rekomendujemy przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 68 Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. 77. Art. 16 ust. 1 pkt 4) Konfederacj a Lewiatan Propozycja brzmienia: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Uzasadnienie: Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Tym samym rekomendujemy zmianę sformułowania. Uwaga uwzględniona W przepisie użyto zwrotu “na rzecz podmiotów”. 78. Art. 16(2) IAB Polska Doprecyzowanie wymogów kwalifikacyjnych dla Przewodniczącego Komisji Obecne przepisy nie precyzują szczegółowych wymogów kwalifikacyjnych dla Przewodniczącego Komisji, co może prowadzić do niejasności w procesie jego wyboru. W celu zapewnienia właściwego poziomu kompetencji osoby pełniącej tę funkcję – Ministerstwo powinno w swoich oficjalnych komunikatach wskazywać kluczowe obszary wiedzy i umiejętności, które powinny być brane pod uwagę przez Parlament przy wyborze Przewodniczącego. Działanie to, choć niewiążące, mogłoby stanowić istotną wytyczną i przyczynić się do wyboru najlepszego kandydata, bez naruszania zasady podziału władzy. Uwaga wyjaśniona Przepisy dotyczące wymogów kwalifikacyjnych dla Przewodniczącego Komisji nie będą bardziej doprecyzowane. 79. Art. 18 ust. 6 Konfederacj a Lewiatan Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Uwaga wyjaśniona W skład zespołu będą wchodziły osoby których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących 69 działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 80. Art. 20 ust. 1 UKNF Nowe brzmienie przepisu art. 20 ust. 1 projektu ustawy może rodzić wątpliwości interpretacyjne. Nie jest bowiem wiadomym, do której części przepisu odnosi się sformułowanie „(...) zatrudnionych w podmiotach, o których mowa art. 6 ust. 2 tej ustawy”. Z całokształtu przepisu wynika, że odnosi się ono do „stanowisk”, co jednak jest pozbawione racjonalnego uzasadnienia. Należy ponadto wskazać, że w art. 6 ust. 2, do którego odwołuje się przedmiotowy przepis, wskazane są m.in. takie podmioty jak Prezes Urzędu Komunikacji Elektronicznej i Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Z aktualnego brzmienia przepisu wynika zatem, że to właśnie w tych podmiotach zatrudniony może być Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w odesłaniu zawartym w art. 20 ust. 1. 81. Art. 22 PUODO Art. 22 projektu ustawy dotyczy obowiązku informacyjnego. Projektodawca w ust. 1 wskazuje, że: „Biuro Komisji może wykonać obowiązek, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1, z późn. zm.), zwanego dalej „rozporządzeniem 2016/679”, przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 rozporządzenia 2016/679, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji”. Uwaga uwzględniona W art. 22 wykreślono ust. 1, 2 i 5. 70 Takie ukształtowanie sposobu spełnienia obowiązku informacyjnego jest niezgodne z zasadami określonymi w rozporządzeniu 2016/679. Zgodnie bowiem z jego przepisami administrator nie może odesłać w całości do swojej strony internetowej lub możliwości zapoznania się z informacjami w jego siedzibie. Każdy administrator spełniając obowiązek informacyjny powinien wskazać następujące elementy wynikające z rozporządzenia 2016/679: kto jest administratorem danych (w tym kontakt z administratorem), cel przetwarzania i podstawa prawna, odbiorcy danych, okres przechowywania danych, wskazanie praw osób, których dane są przetwarzane, żądanie sprostowania danych, informacja o prawie do wniesienia skargi do organu nadzorczego. W celu zapewnienia większej przejrzystości rozważyć należy warstwowe spełnienie obowiązku informacyjnego – warto zatem aby projektodawca wziął pod uwagę treść Wytycznych Grupy roboczej Art. 29 w sprawie przejrzystości na mocy rozporządzenia 2016/679 przyjętych dnia 29 listopada 2017 r., zawierających m.in. stosowne przykłady w tym zakresie. Warto wskazać przy tym na konieczność przekazania przez administratora podczas pozyskiwania danych podstawowych informacji dotyczących przetwarzania danych. 82. Art. 22 ust. 3 UKNF Nowe brzmienie przepisu nie usuwa wątpliwości, na które dotychczas wskazywał Urząd Komisji Nadzoru Finansowego. Przedstawiciel KNF w Komisji będzie pozbawiony możliwości udostępniania pracownikom UKNF oraz Przewodniczącemu KNF i jego Zastępcom pozyskanych informacji w ramach pełnienia funkcji, do której został delegowany na podstawie projektowanej ustawy, co może w przyszłości znacząco utrudniać skuteczne sprawowanie nadzoru nad systemami AI wysokiego ryzyka w instytucjach finansowych. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, że informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. Przykładowo, że Przedstawiciel KNF uprawniony będzie do przekazywania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej Uwaga wyjaśniona Propozycja zmiany przepisu wydaje się zbyt daleko idąca w szczególności w kontekście przepisów RODO. 71 możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 5 ust. 3 pkt 1 projektu ustawy. 83. Art. 22 ust. 3 Pracodawcy RP Przepis zabrania uczestnikom spotkań ujawniania informacji chronionych, ale nie ogranicza ich wykorzystania wyłącznie do celów służbowych, co stwarza ryzyko dla ochrony danych. Propozycja: Wprowadzenie klauzul ochronnych, aby dane były wykorzystywane tylko w celach służbowych. Uwaga uwzględniona Cel wskazany w uwadze zapewnić ma ust. 2. 84. Art. 22 ust. 1 RPO W związku z powyższym należy również wskazać, że art. 22 ust. 1 projektu ustawy przewiduje możliwość wykonania obowiązku, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 RODO przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 RODO, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji. Należy podkreślić, że obowiązek informacyjny przy gromadzeniu danych od osoby, której dane dotyczą, powinien być, co do zasady według przepisów RODO, realizowany w sposób zindywidualizowany wobec konkretnej osoby, której dane administrator gromadzi. Oznacza to, że przekazanie informacji tej osobie nie powinno być zastępowane komunikatami kierowanymi do ogółu osób zainteresowanych (np. ogłoszeniami wieszanymi na tablicach) ani też poprzez odesłanie do określonych dokumentów (np. regulaminów dostępnych do wglądu itp.). Art. 13 RODO nie przewiduje zwolnienia z obowiązku informacyjnego w sytuacji, gdy przepisy szczególne zezwalają na przetwarzanie (gromadzenie) danych bez wiedzy osoby, której dane dotyczą lub odmiennie regulują kwestie dotyczące informowania, jednak zgodnie z art. 23 RODO, przepisy prawa Unii lub prawo państwa członkowskiego, któremu podlegają administrator danych lub podmiot przetwarzający mogą ograniczać zakres obowiązków i praw przewidzianych w art. 12–22 i art. 34, w tym również omawianego obowiązku informacyjnego23. W Uwaga nieaktualna W art. 22 ust. 1 został wykreślony. 72 uzasadnieniu projektu ustawy brak jednak wskazania przyczyn przemawiających za podjem decyzji o realizowaniu de facto obowiązku informacyjnego przewidzianego w art. 13 i art. 14 RODO w sposób uproszczony. 85. Art. 22 ust. 5 IAB Polska Wprowadzenie bardziej rygorystycznych mechanizmów ochrony informacji udostępnianych organom, takim jak Policja, poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne powinny zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, co zapewni spójność regulacyjną i zwiększy ochronę wrażliwych informacji Dane związane z AI obejmują strategiczne informacje rynkowe, tajemnice przedsiębiorstwa, algorytmy oraz kluczowe szczegóły operacyjne, których nieuprawnione ujawnienie może prowadzić do utraty przewagi konkurencyjnej lub zagrożenia bezpieczeństwa technologicznego. Brak odpowiednich zabezpieczeń niesie ryzyko niekontrolowanego dostępu do tych informacji, co może skutkować naruszeniem tajemnicy przedsiębiorstwa, tajemnicy zawodowej lub ujawnieniem krytycznych decyzji biznesowych. Wprowadzenie mechanizmu kontroli sądowej lub prokuratorskiej ograniczy możliwość nadużyć i wzmocni zaufanie do systemu regulacyjnego, zapewniając, że dostęp do tych danych będzie przyznawany wyłącznie w uzasadnionych przypadkach. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 86. Art. 22 ust. 5 PUODO Poważne wątpliwości Prezesa UODO budzi treść art. 22 ust. 5 projektu ustawy, który wskazuje na udostępnianie przez Komisję przetwarzanych danych osobowych oraz innych informacji na wniosek organom określonym w tym przepisie (m.in. ABW, Policji, Agencji Wywiadu, CBA, prokuratorom, sędziom sądów powszechnych). W przepisie tym jest wzmianka o „uwzględnieniu przepisów o ochronie danych osobowych” oraz że możliwe jest to „w celu realizacji przez te organy i podmioty ich zadań ustawowych”, niemniej jest to przepis obarczony poważnymi wadami z punktu widzenia zgodności z zasadami stanowienia prawa. Zauważyć należy, że cele, których realizacji służyć będą Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 73 postępowania prowadzone przez Komisję są z założenia inne niż cele wynikające z zadań ww. organów. Powstaje wątpliwość o celowość tej regulacji w sytuacji, gdy na podstawie odrębnych przepisów prawa wskazane podmioty mają podstawę do występowania do każdego administratora o udostępnienie informacji w zakresie niezbędnym dla potrzeb prowadzonych postępowań. W szczególności dotyczy to Policji i innych służb, które mają jasno określony sposób dostępu do danych osobowych (np. kontrola sądowa dla pewnych obszarów), czy też sądów i prokuratur (przepisy procedury cywilnej i karnej). Szczególnych gwarancji dla ochrony danych osobowych nie buduje także powoływanie się na przepisy o ochronie danych osobowych, gdyż ani z ogólnego rozporządzenia o ochronie danych osobowych ani z ustawy o ochronie danych osobowych, ani też z przepisów ustawy z dnia 14 grudnia 2018 r. o ochronie danych osobowych przetwarzanych w związku z zapobieganiem i zwalczaniem przestępczości nie wynikają szczegółowe warunki udostępniania danych osobowych na rzecz ww. podmiotów. Powstaje zatem pytanie o niezbędność wprowadzenia takiej regulacji, a tym samym spełnienia wymogów wynikających z norm konstytucyjnych i przepisów regulujących działalność Policji, wskazanych służb specjalnych oraz prokuratury i sądów do danych osobowych. Tego rodzaju regulacja może być zinterpretowana jako regulacja specjalna wobec tych przepisów, które de lege lata reglamentują dostęp do informacji dotyczących obywateli. W tym kontekście oceniany przepis wydaje się zbędny, ponieważ dostęp do danych osobowych przetwarzanych przez sądy, prokuraturę, Policję i inne służby odbywa się na innych zasadach, uregulowanych w przepisach szczególnych. 87. Art. 22 ust. 5 UKNF Z uwagi na potrzebę zapewnienia stosowania art. 74 ust. 7 rozporządzenia 2024/1689 w polskim porządku prawnym, w zakresie współpracy między KNF a Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji w przedmiocie spraw dotyczących systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 74 finansowe podlegające przepisom prawa Unii Europejskiej dotyczącym usług finansowych, UKNF ponownie wskazuje na konieczność doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z tego względu konieczne jest odpowiednie dostosowanie brzmienia art. 22 ust. 5 projektu ustawy poprzez dodanie KNF do katalogu podmiotów wymienionych w omawianym przepisie. Umożliwi to pozyskiwanie przez Komisję Nadzoru Finansowego, na jej wniosek, danych osobowych oraz pozostałych informacji przetwarzanych przez Komisję oraz Biuro Komisji w ramach realizowanych zadań. 88. Art. 22 ust. 5 Konfederacj a Lewiatan Uwaga: Proponujemy wykreślenie całego ust. 5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą. Propozycja brzmienia: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: 1)Agencji Bezpieczeństwa Wewnętrznego; 2)Policji; 3)Agencji Wywiadu; 4)Służbie Kontrwywiadu Wojskowego; 5)Służbie Wywiadu Wojskowego; 6)Straży Granicznej; 7)Komendzie Głównej Żandarmerii Wojskowej; 8)Centralnemu Biuru Antykorupcyjnemu; 9)prokuratorom; 10)sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Uzasadnienie: Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 75 Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). Ponadto, stoimy na stanowisku, iż należy wprowadzić bardziej rygorystyczne zabezpieczenia w zakresie ujawniania informacji organom ścigania, takim jak Policja. Można to osiągnąć poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora lub dostosowanie ram prawnych do standardów poufności określonych w Prawie Komunikacji Elektronicznej. Dane związane z SI są często wysoce wyspecjalizowanymi i cennymi informacjami biznesowymi i rynkowymi, a także istotnymi szczegółami operacyjnymi podmiotów zaangażowanych w rozwój i wdrażanie SI. Nieuprawnione ujawnienie takich informacji może prowadzić do ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wprowadzenie kontroli sądowej lub prokuratorskiej zapobiegałoby potencjalnym nadużyciom i zapewniłoby, że dostęp do wrażliwych danych SI byłby przyznawany wyłącznie w przypadku wyraźnej i uzasadnionej potrzeby. 89. Art. 22; art. 24 IAB Polska Konieczność zabezpieczenia informacji chronionych Projekt wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być osoby posiadające wiedzę specjalistyczną zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju AI. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 76 90. Art. 22; art. 24 Konfederacj a Lewiatan Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 91. Art. 23 ust. 2 PUODO Art. 23 projektu ustawy, w którym w ust. 2 projektodawca wskazuje jedynie na zapewnienie integralności i poufności. Pamiętać należy, że szczególny reżim przetwarzania wymaga uwzględnienia w przepisach nakładających obowiązek przetwarzania danych i zapewnienia nie tylko integralności i poufności, ale także rzetelności i przejrzystości, ograniczenia celu, niezbędności, minimalizacji (art. 5 rozporządzenia 2016/679), jak również uwzględnienia warunków wynikających z art. 6 ust. 3 ww. rozporządzenia, warunków odpowiednich zabezpieczeń praw podstawowych i interesów osoby, której dane dotyczą, konkretnych środków ochrony praw i wolności osób (art. 9 rozporządzenia 2016/679) oraz warunków dokonywania operacji na danych z art. 10 tego rozporządzenia wyłącznie pod nadzorem władz publicznych z zabezpieczeniem praw i wolności osób, których dane dotyczą. Wskazać należy, że fragmentaryczne odwoływanie się do zasad z rozporządzenia 2016/679 nie znajduje zatem uzasadnienia. Uwaga uwzględniona W celu właściwego stosowania przepisów w zakresie ochrony danych osobowych na skutek ponownej analizy przepisu w kontekście zgorszonej uwagi w art. 23 odstąpiono od ograniczeń i włączeń z zakresu RODO. 92. Art. 23 ust. 3 PUODO Art. 23 ust. 3 wskazuje na otwarty katalog danych osobowych przetwarzanych przez Komisję w ramach nadzoru nad systemami sztucznej inteligencji. W ocenie organu nadzorczego kompetencje organu, ich zakres powinien być dookreślony, nie może pozostawać niesprecyzowany. W związku z powyższym konieczne jest domknięcie przedmiotowego katalogu. Poza tym nie jest zrozumiałe i nie Uwaga uwzględniona Przepis przeredagowano rezygnując z otwartego katalogu danych osobowych przetwarzanych przez Komisję. 77 znajduje uzasadnienia pozyskiwanie przez Komisję w każdej sytuacji wszystkich informacji i danych wskazanych w punktach 1- 5 ww. przepisu. 93. Art. 23 ust. 4, ust. 5 NCBR (Dot. przechowywania danych) Propozycja zmiany: skrócić okres przechowywania danych z 5 do max. 2-3 lat. Uzasadnienie: zgodne z zasadą minimalizacji danych wynikającą z RODO; dodatkowo – ograniczone są techniczne możliwości przechowywania wielkich wolumenów danych. Uwaga wyjaśniona W art. 23 ust. 4 został wykreślony. Okres przechowywania danych został dostosowany do wymogów zastosowanych procedur postępowania przez Komisją. 94. Art. 23 ust. 6 RPO Niezależnie od powyższego częściowo aktualna pozostaje uwaga zwarta w piśmie Rzecznika Praw Obywatelskich z dnia 14 listopada 2024 r. (znak: VII.501.187.2024.PKR) dotycząca ograniczenia obowiązków wynikających z RODO22. Obecnie kwestie tę reguluje art. 23 ust. 6 projektu ustawy, zgodnie z którym przetwarzanie przez Komisję, Biuro Komisji i upoważnionych, w związku z wykonywaniem zadań służbowych, pracowników urzędów obsługujących podmioty, o których mowa w art. 6 ust. 2 ustawy, oraz osoby, o których mowa w art. 6 ust. 3 ustawy, danych, o których mowa w ust. 3, ogranicza realizację obowiązków wynikających art. 18 ust. 1 lit. a i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych oraz prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie rozporządzenia 2016/679 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych), jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 RODO. Art. 23 ust. 6 projektu ustawy wciąż pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika natomiast, dlaczego Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 78 projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Jak już Rzecznik wskazywał poprzednio, skoro sam akt w sprawie sztucznej inteligencji nie przewiduje wyłączenia stosowania przepisów RODO, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu w sprawie sztucznej inteligencji i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 95. Art. 23 ust. 6 PUODO Art. 23 ust. 6 projektu ustawy jest niezrozumiały poprzez zawarcie w ostatniej części zdania zwrotu „(...) jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 rozporządzenia 2016/679”. Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 96. Art. 24 ZPP Wprowadzić język ochronny, który zapewni, że informacje objęte tajemnicą handlową oraz danymi wrażliwymi będą odpowiednio chronione przed nieuprawnionym ujawnieniem. Uwaga wyjaśniona Przetwarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 97. Art. 24 ust. 1 Pracodawcy RP Przepis nie zawiera klauzul ochronnych dotyczących danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania informacji. Propozycja: Dodanie zabezpieczeń dotyczących ochrony danych. Uwaga wyjaśniona Powtarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 98. Art. 24 ust. 2 PUODO Art. 24 ust. 2 w zaproponowanym brzmieniu budzi szereg ryzyk, albowiem wskazuje na przekazywanie przez Komisję bez żadnego trybu podmiotom wskazanym w tym przepisie informacji stanowiących tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa bez wskazania celu. Przepis w obecnym brzmieniu nie jest zrozumiały i budzi poważne wątpliwości organu nadzorczego. Uwaga wyjaśniona Możliwość przekazania informacji organom wskazanym w przepisie jest niezbędna dla właściwej realizacji przepisów rozporządzenia 2024/1689 i ustawy. Przesłanką przekazania informacji jest ich niezbędność do realizacji ustawowych zadań tych podmiotów. 79 Stąd też możliwość ubiegania się o informacje musi wprost wynikać przepisów prawa obejmującego działania podmiotów. Ubiegając się o pozyskanie informacji niezbędne będzie wskazanie podstawy prawnej uprawniającej do dostępu do takich informacji. 99. Art. 24 ust. 3 UOKiK Prezes UOKiK podtrzymuje uwagę dotyczącą konieczności wyłączenia informacji, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów1 (dalej: uokk) z zakresu informacji, które mogą być przetwarzane w ramach współpracy w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w sytuacji, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/16892. Jak to zostało wskazane w piśmie z dnia 19 listopada 2024 r. (sygn. DPR.0240.239.2024.AK) przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu Ochrony Konkurencji i Konsumentów szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach. Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności. Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Obowiązek ochrony przedmiotowych tajemnic i informacji stanowi zobowiązanie nałożone na UOKiK przepisami dyrektywy ECN+3 i jest gwarancją niezależności organu ochrony konkurencji. Wobec Uwaga wyjaśniona. Mając na uwadze zakaz sformułowany w art. 73 ust. 1 ustawy o uokk dodanie regulacji w przedmiotowej ustawie w zaproponowanym brzmieniu wydaje się niezasadne. 80 powyższego, w celu zapewnienia zgodności projektowanego art. 24 z przepisami uokk zwracam się o dodanie w projektowanym art. 24 ust. 3 w brzmieniu: „3. Przepisów ust. 1 i 2 nie stosuje się do obowiązków, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów.”. 100. Art. 25 RPD W projektowanych przepisach ustawy o systemach SI nadal nie określono ani terminu, w którym Komisja ma powołać skład Rady, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie składu Rady i rozpoczęcie przez nią zostanie odłożone na nieokreślony czas. W związku z tym proponuję prowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Uwaga wyjaśniona Harmonogram powołania rady określi Komisja. 101. Art. 25 Rada Działalności Pożytku Publicznego Rada proponuje wprowadzenie następujących zmian do projektu ustawy: 1) w art. 25 ust. 3 po pkt 6 dodać pkt 6a w brzmieniu: „6a) Rada Działalności Pożytku Publicznego, o której mowa w art. 35 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940);”; Uzasadnienie: Rada Działalności Pożytku Publicznego (RDPP) jest ustawowym ciałem, którego celem jest m.in. prowadzenie dialogu obywatelskiego, który jest fundamentem państw demokratycznych. Rada zrzesza przedstawicieli i przedstawicielki NGO, administracji lokalnego, regionalnego i centralnego szczebla. Udział przedstawiciela/przedstawicielki RDPP wzmocni społeczny wymiar Rady, której kształt określa art. 25 przedmiotowego projektu ustawy. 2) w art. 25 ust. 3 zmienić brzmienie pkt. 10 z: „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej.” Uwaga częściowo uwzględniona Uwzględniono pkt 2 uwagi poprzez zmianę w art. 25 ust. 3 projektu ustawy: “Kandydatów na członków Rady może zgłosić: (.) 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców, lub też których celem statutowym jest działalność w co najmniej jednym z obszarów: - sztuczna inteligencja, nowe technologie, - sprawiedliwość technologiczna, - ochrona praw człowieka, - edukacja lub kultura cyfrowa; - bezpieczeństwo informacji.”. 81 na następujące: „organizacje pozarządowe w rozumieniu art. 3 ust. 2 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940).” Uzasadnienie: Należy wziąć pod uwagę, że wiele organizacji pozarządowych (w tym stowarzyszeń i fundacji) prowadzi działalność statutową we wskazanych obszarach, jednak cele statutowe tych organizacji mogą być sformułowane w ich statutach w sposób bardziej ogólny, ponieważ przepisy prawa nie obligują i nie skłaniają organizacji do tak precyzyjnego określania celów w statutach – dlatego też nie należy zawężać grupy organizacji uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji wyłącznie do fundacji i stowarzyszeń, które w swoich statutach przewidziały w tak szczegółowy sposób sprecyzowane cele; 3) w art. 25 w ust. 2 słowa „od dziewięciu do piętnastu członków” zastąpić słowami „od jedenastu do dwudziestu pięciu członków” Uzasadnienie: Biorąc pod uwagę liczbę podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji przewidzianą w art. 25 ust. 3 projektowanej ustawy (11), Rada proponuje zwiększyć dolną i górną granicę widełek ilościowych zaproponowanych w projekcie ustawy. 102. Art. 25 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: Proponujemy dodanie punktu 11) o brzmieniu: 11) organizacje pracodawców Uzasadnienie: Brak uwzględnienia organizacji pracodawców w katalogu podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji wyklucza wiele reprezentatywnych organizacji, które nie posiadają statusu izby gospodarczej, takich jak np. Konfederacja Lewiatan. Uwaga wyjaśniona Rozszerzanie listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące organizacje pracodawców nie wydaje się zasadne. W przepisie uwzględniono bowiem izby gospodarcze oraz reprezentatywne organizacje związkowe. 103. Art. 25 ust. 3 pkt 8) NSZZ Projekt przewiduje możliwość zgłaszania przez związki zawodowe kandydatów na członków Społecznej Rady do Spraw Sztucznej Uwaga uwzględniona 82 Inteligencji. Problem: w Polsce funkcjonuje 11 656 związków zawodowych (dane GUS z 4.09.2023), co oznacza, że wszystkie mogłyby zgłosić kandydatów, co jest niepraktyczne. Propozycja: ograniczenie prawa zgłaszania kandydatów do organizacji związkowych reprezentatywnych w rozumieniu ustawy o Radzie Dialogu Społecznego, ze względów funkcjonalnych. Zmieniono brzmienie art. 25 ust. 3 pkt 8. 104. Art. 25 ust. 3 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz przyznanie Rzecznikowi Finansowemu uprawnienia zgłaszania kandydatów na członków Rady Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące rynek finansowy. 105. Art. 25 ust. 4 i art. 26 ust. 5 RPD Projekt w obecnym kształcie nie wprowadza wyraźnego wymogu niezależności od dostawców systemów sztucznej inteligencji na etapie powoływania członków Rady. Zgodnie z projektowanym art. 25 ust. 4, osoba zgłasza do Rady przez uprawniony podmiot musi jedynie: posiadać wiedzę i doświadczenie w obszarze sztucznej inteligencji, nie być skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystać z pełni praw publicznych oraz wyrazić pisemną zgodę na kandydowanie. Brakuje natomiast wyraźnego wymogu wykazania, że kandydat nie pozostaje w stosunku podległości (np. służbowym) do dostawców i importerów systemów AI, co mogłoby wpływać na jego bezstronność. Z kolei art. 26 ust. 5 przewiduje jedynie następczą kontrolę konfliktu interesów, stanowiąc, że „członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów”, nie precyzując jednak żadnych konkretnych kryteriów ani procedur pozwalających na weryfikację niezależności kandydata przed jego powołaniem. Z tych względów, na wzór wymogu wprowadzonego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, należałoby wprost określić, że członkowie Rady muszą być niezależni od dostawców systemów SI lub modeli SI ogólnego Uwaga wyjaśniona Wskazane w przepisach wymagania zostały uzupełnione o sankcję za naruszenie przepisów art. 26 ust. 5. Co daje podstawę do stwierdzenia że dodatkowe unormowania w zakresie oświadczenia nie są już potrzebne. 83 przeznaczenia, a także wprowadzić obowiązek złożenia stosownego oświadczenia o braku konfliktu interesów w relacjach z operatorami systemów SI, połączonego z odpowiedzialnością za składanie fałszywych oświadczeń. W związku z tym proponuję zmianę art. 25 ust. 4 projektu poprzez dodanie pkt 5 o następującym brzmieniu: Art. 25 ust. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła pisemną zgodę na kandydowanie; 5) złożyła pisemne oświadczenie o braku lub istnieniu jakichkolwiek powiązań osobistych, służbowych, finansowych z dostawcami lub importerami systemów sztucznej inteligencji, które mogłyby prowadzić do konfliktu interesów w związku z udziałem w pracach Rady. 106. Art. 25, Art. 26, Art. 27 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – Rada jest podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy zapewnić udział w Radzie przedtawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez Komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. W obecnej formie dobór składu Rady może zostać uznany za nietransparentny. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej Uwaga wyjaśniona Zaproponowany w przepisach mechanizm powoływania członków Rady, sposób i zakres jej działania realizują zasadę transparentności i odpowiadają potrzebie wsparcia Komisji w realizowanych przez nią zadaniach. 84 decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 107. Art. 25 ust. 2 NCBR (Dot. kadencja Rady): Propozycja zmiany: wydłużyć kadencję Rady z 2 do co najmniej 3 lat. Uzasadnienie: zapewni to większą stabilność i ciągłość prac Rady. Uwaga wyjaśniona Dwuletnia kadencja jest optymalna do zapewnienia ciągłości pracy Rady. 108. Art. 25 ust. 3 KRRiT Aktualny pozostaje postulat, aby Przewodniczący Krajowej Rady Radiofonii i Telewizji miał prawo zgłoszenia kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji (przepis art. 25 ust. 3 projektu) Uwaga wyjaśniona Przewodniczący Krajowej Rady Radiofonii i Telewizji ma w ustawie przewidziane funkcje w art. 6 ust. 2 pkt 3. Mając na uwadze sposób powołania członków Rady nie jest zasadne, aby członek Komisji wskazywał podmiot do Rady Społecznej. 1. Art. 26 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: 3. Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Uzasadnienie: Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 109. Art. 26 ust. 3 RPD Mając na uwadze wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym oraz potrzebę uwzględniania perspektywy młodego pokolenia w procesie kształtowania polityki i regulacji dotyczących systemów sztucznej inteligencji, w Uwaga wyjaśniona W ramach tego artykułu przewidziany został Rzecznik Praw Dziecka który wydaje się 85 szczególności stosowanych w obszarze edukacji i kształcenia osób małoletnich, proponuję uzupełnić art. 26 o przepisy, które wprost przewidzą prawo przedstawicieli zainteresowanych organizacji młodzieżowych do udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez Przewodniczącego Rady lub Komisję. Organizacje te powinny mieć możliwość zwrócenia się do Przewodniczącego Rady z wnioskiem o dopuszczenie do udziału w konkretnym posiedzeniu wybranych przez siebie przedstawicieli, a wniosek taki powinien być niezwłocznie rozpatrywany, przy czym decyzja o odmowie wymagałaby pisemnego uzasadnienia. Dodatkowo należałoby zobowiązać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób małoletnich, aby wyniki tych konsultacji były uwzględniane z należytą wagą, stosownie do wieku oraz dojrzałości dzieci i młodzieży biorących w nich udział. Taka zmiana umacnia gwarancje prawa dziecka do bycia wysłuchanym, przewidzianego w Konwencji o prawach dziecka, i stanowi jednocześnie inwestycję w przyszłość całego społeczeństwa, pozwalając na wczesną identyfikację ryzyka oraz wypracowanie rozwiązań lepiej odpowiadających potrzebom oraz dobru dzieci. najwłaściwszym organem do wskazania kandydata na członka Społecznej Rady. 1. art. 26 ust. 4 w zw. z art. 22 ust.3 Uwaga: Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem 110. art. 27 ust.1 pkt 2 Konfederacj a Lewiatan Nie jest jasne o wnioski, w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w Uwaga wyjaśniona 86 znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postepowania o naruszenia przepisów rozporządzenia 2024/1689. 111. Art. 27 ust. 1 pkt 2 UKNF Wniosek, o którym mowa w tym przepisie nie stanowi wniosku o wszczęcie postępowania w rozumieniu ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego, gdyż Rada nie jest podmiotem praw lub obowiązków, które mogą być przedmiotem postępowania. W konsekwencji czego UKNF proponuje zastąpienie wyrazu „wniosków” wyrazem „rekomendacji”. Uwaga wyjaśniona Jest to wniosek w rozumieniu art. 41 ust. 2 pkt 4. 112. art. 27 ust. 2 Konfederacj a Lewiatan Uwaga i zapytanie: W ust.2 nie ma mowy o „wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie sa przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 2 pkt 4 wszczyna na ich podstawie postępowanie. 113. art. 27 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 114. Art. 28 ust. 5 Konfederacj a Lewiatan Proponowane brzmienie: 5. Organami Biura Komisji są: 1)Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2)Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej 87 Uzasadnienie: Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie a art. 29-art.36 zostały wykreślone. 115. Art. 30 PARP Zastąpić dotychczasowe brzmienie art. 30 (Rejestracja piaskownic) „Testowanie systemów AI w ramach piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” Nowym brzmieniem: 1. „Dostawca systemu sztucznej inteligencji może rozpocząć testowanie systemu AI w piaskownicy regulacyjnej po zgłoszeniu do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” 2. „Komisja może w terminie 30 dni zgłosić zastrzeżenia do testów, jeśli naruszają one przepisy o ochronie danych osobowych, praw podstawowych lub cyberbezpieczeństwa.” 3. „Brak odpowiedzi Komisji w terminie 30 dni oznacza domniemaną zgodę na przeprowadzenie testów.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 116. Art. 31 PARP Do dotychczasowej treści art. 31 dodać ustępy od 4 do 6 w następującym brzmieniu 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 117. Art. 39 ZPP Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia 88 kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 118. Art. 39 ust.1 pkt 4 Konfederacj a Lewiatan Społeczna Rada do spraw Sztucznej Inteligencji powinna pełnić wyłącznie funkcję doradczą i konsultacyjną Komisji, a przyznanie jej uprawnień do inicjowania nadzoru jest wykraczaniem poza jej podstawowe zadania. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny zasadności wniosku o wszczęcie nadzoru. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 119. Art. 39 ust. 1 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania kontroli Komisji Rada powinna pełnić funkcję wyłącznie doradczą i konsultacyjną względem Komisji, bez uprawnień do wnioskowania o wszczęcie kontroli. Przyznanie jej takiej kompetencji wykracza poza jej zamierzoną rolę, zwłaszcza że Rada nie dysponuje odpowiednimi narzędziami proceduralnymi do oceny zasadności inicjowania działań kontrolnych. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 120. Art. 39 ust. 4 IAB Polska Ograniczenie możliwości przeprowadzenia kontroli na miejscu do ściśle określonych przypadków, gdy zdalne metody okazują się niewystarczające do rzetelnej oceny zgodności z przepisami Planowane przepisy pozostawiają nadmierną swobodę w zakresie stosowania kontroli na miejscu, co może prowadzić do nieproporcjonalnej ingerencji w działalność podmiotów podlegających nadzorowi. Ponadto, biorąc pod uwagę zasady funkcjonowania AI, dostęp do danych w postaci cyfrowej w większości przypadków powinien być w zupełności wystarczający. Uwaga uwzględniona Zmieniono brzmienie przepisu. 121. Art. 39 ust. 3 Konfederacj a Lewiatan Aktualne brzmienie: 3. Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Uwaga: Uwaga uwzględniona Zmieniono brzmienie przepisu. 89 Brak części tekstu. 122. Art. 39 ust. 4 Konfederacj a Lewiatan Uwaga: Zasada nadzoru zdalnego powinna zostać wzmocniona. Obecnie istniejący wyjątek, który pozwala na nadzór na miejscu, jest zbyt szeroki i powinien być ograniczony jedynie do wyjątkowych przypadków. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 123. Art. 40 ust. 2 Konfederacj a Lewiatan Propozycja brzmienia: 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje Uzasadnienie: Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Ustawa nie określa wystarczających zabezpieczeń dotyczących osób, które Komisja może upoważnić do udziału w kontroli. Przepis ten stwarza ryzyko, że upoważniony kontroler może być konkurentem kontrolowanego podmiotu lub mieć osobisty interes w wydaniu niekorzystnego protokołu kontroli. Ustawa nie zawiera jasnych kryteriów oceny kwalifikacji eksperta zewnętrznego ani wyraźnych zobowiązań dotyczących poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza Biura nie przechodziłyby formalnych szkoleń w zakresie Uwaga częściowo uwzględniona W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. Dodatkowo art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 90 prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur kontrolnych. Komisja powinna zapewnić, że personel kontrolny, także ten spoza Biura, posiada niezbędne kompetencje, poprzez szkolenia i inne działania budujące zdolności. Ewentualnie, zalecamy usunięcie tego przepisu lub jego doprecyzowanie w celu zminimalizowania ryzyka, zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. 124. Art. 38-48 NCBR 1. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. Należy skrócić ten okres. 2. Przepisy zawierają zbyt szerokie, nieuzasadnione merytorycznie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad SSI. Zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki oraz ściśle określone ramy (granice). 3. Proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli. Kontrolujący powinien być zobowiązany (na piśmie) o zachowania tajemnicy kontrolowanego (np. przedsiębiorstwa), w szczególności w zakresie dostępu do danych gospodarczych oraz związanych z ochroną wartości niematerialnych i prawnych (WNiP). Uwaga częściowo uwzględniona 1.Czas trwania postepowania przed komisją został skrócony do 6 miesięcy (art. 43) 2.Przepisy dotyczące kontroli zostały w znaczny sposób zmodyfikowane. 3.Z uwagi na znaczące wyspecjalizowanie Sądu oraz możliwości, jakie daje prowadzenie postępowanie w trybie przepisów kpc przemawia za pozostawieniem odwołań od decyzji Komisji w projektowanym kształcie 4.W ustawie zawarto przepisy dotyczące przestrzegania przez kontrolujących tajemnic prawnie chronionych. 125. Art. 40 ust. 2 IAB Polska Zapewnienie kwalifikacji i niezależności osób przeprowadzających kontrolę Projekt nie precyzuje mechanizmów zabezpieczających przed potencjalnym konfliktem interesów lub brakiem odpowiednich Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje 91 kwalifikacji „zewnętrznych” osób upoważnionych przez Komisję do udziału w kontrolach. Istnieje ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub osobą posiadającą osobisty interes w sporządzeniu niekorzystnego protokołu. Dodatkowo, projektowane przepisy nie określają jasnych kryteriów doboru ekspertów zewnętrznych oraz nie nakładają na nich wyraźnego obowiązku zachowania poufności pozyskanych informacji. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej instytucji nie przechodzą formalnych szkoleń w zakresie kontroli, co może prowadzić do nieprawidłowości proceduralnych. Rekomendujemy: 1. doprecyzowanie kryteriów doboru ekspertów, 2. wprowadzenie bezpośredniego i jasnego obowiązku zachowania poufności informacji uzyskanych podczas kontroli, 3. określenie mechanizmów zapobiegających konfliktowi interesów, 4. ograniczenie udziału zewnętrznych ekspertów do sytuacji, gdy wymagane są unikalne, specjalistyczne kompetencje, które nie mogą zostać zapewnione przez pracowników Komisji. W przypadku braku takich zmian rekomendujemy usunięcie przepisu o możliwości powoływania ekspertów zewnętrznych w obecnym brzmieniu, aby uniknąć zagrożeń dla rzetelności procesu kontrolnego. doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 126. Art. 40 ust. 2 ZPP Ustawa nie precyzuje wystarczająco mechanizmów zabezpieczających wybór osób, które mogą być upoważnione przez Komisję do przeprowadzania kontroli. Obecne regulacje stwarzają ryzyko, że wyznaczony kontroler może mieć interesy sprzeczne z interesami kontrolowanego podmiotu lub współpracować z jego Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 92 konkurencją. W związku z tym należy wprowadzić następujące zmiany: a) Jednoznacznie określić, że osoby upoważnione do przeprowadzania kontroli nie mogą być powiązane z podmiotami kontrolowanymi ani współpracować z konkurencją tych podmiotów. b) Ustanowić szczegółowe kryteria kwalifikacyjne, obejmujące wymóg braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych podczas kontroli. Ponadto, brakuje jednoznacznych kryteriów oceny kwalifikacji ekspertów spoza struktury Biura Komisji oraz precyzyjnych zobowiązań dotyczących poufności informacji zdobywanych podczas kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej struktury nie są zobowiązane do odbycia formalnych szkoleń z zakresu procedur kontrolnych, co może prowadzić do niedokładnych lub wadliwych kontroli. Komisja powinna zagwarantować, że cały personel zaangażowany w kontrolę – również ten spoza Biura – dysponuje niezbędnymi kompetencjami, poprzez systematyczne szkolenia oraz inne formy wsparcia rozwojowego. W związku z powyższym rekomendujemy albo całkowite usunięcie omawianego przepisu, albo jego precyzyjne doprecyzowanie w celu minimalizacji potencjalnych ryzyk, a także zapewnienia bezpieczeństwa i przejrzystości procesu wyboru zewnętrznych kontrolerów. Precyzyjne ustalenie terminów i procedur administracyjnych Określone w projekcie ustawy procedury i terminy zostały określone w sposób optymalny pozwalający na realizację zadań czy obowiązków i jednocześnie na sprawne prowadzenie czynności bez generowania nadmiernych obciążeń. 127. Art. 41 ust. 1 PUODO W odniesieniu do art. 41 ust. 1 projektu ustawy zwrócić uwagę należy na brak spójności z art. 39 ust. 3, który przewiduje możliwość przeprowadzania kontroli w trybie zdalnym, bez jednoczesnej fizycznej obecności stron. Przepis art. 41 pkt 1 wymaga, by kontrolujący przedstawił imienne upoważnienie oraz okazał legitymację służbową lub dokument tożsamości, co w przypadku kontroli na odległość może budzić wątpliwości w zakresie sposobu realizacji tego obowiązku. Pojawia się wątpliwość, w jaki sposób kontrolujący miałby przedstawić wymagane dokumenty w trybie zdalnym – czy dopuszczalne będzie przekazanie skanów, prezentacja w systemie teleinformatycznym czy inne rozwiązanie techniczne. Uwaga wyjaśniona W zakresie przeprowadzania kontroli intencją projektodawcy jest stworzenie możliwości jak najszerszego wykorzystanie metod porozumiewania się na odległość z wykorzystaniem dostępnych środków. Stąd też podjęta została próba elastycznego uregulowania w tym zakresie i brak sprecyzowania jak ma zostać przekazane upoważnienie czy okazany dokument potwierdzający np., tożsamość. Wytyczną w tym 93 Należy również rozważyć mechanizmy umożliwiające kontrolowanemu weryfikację autentyczności okazywanych dokumentów, co w trybie stacjonarnym odbywa się w sposób bezpośredni. Wątpliwości budzi także sposób doręczania upoważnień do kontroli w przypadku jej zdalnego przeprowadzania – czy możliwe będzie wykorzystanie podpisu kwalifikowanego lub innych środków elektronicznych, które zapewnią autentyczność i integralność dokumentu. zakresie jest to, aby okazywane dokumenty czy potwierdzenie tożsamości nie budziło wątpliwości oraz nie naruszało przepisów o ochronie danych osobowych czy innych tajemnic prawnie chronionych. Intencją jest też aby kwestie techniczne uregulować w aktach rangi podustawowej, a w ustawie zostały jedynie niezbędne przepisy z zakresu materii ustawowej. To pozwoli też na szybsze i elastyczne dostosowywanie prawa do stanu faktycznego. 128. Art. 42 Konfederacj a Lewiatan Uwaga: Celem zwiększenia ochrony kluczowych informacji biznesowych, proponowana ustawa powinna zezwalać podmiotom kontrolowanym na oznaczanie informacji jako tajemnicy handlowej. Takie rozwiązanie, podobne do stosowanego w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów, zapewniłoby lepsze zabezpieczenie obecnie niewystarczająco chronionych danych. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 129. Art. 42 Pracodawcy w RP Sformułowanie przepisu jest zbyt szerokie, co może umożliwić inspektorom żądanie dostępu do treści klientów w chmurze, co jest niezgodne z art. 78(2) Aktu o AI, który zezwala na żądanie tylko danych niezbędnych do oceny zgodności. Propozycja: Usunięcie zdania o „systemie informatycznym i chmurze obliczeniowej należących do innej osoby”, aby uniknąć nieuprawnionego dostępu do danych klientów. Sformułowanie art. 42 wydaje się być na tyle szerokie, że wyznaczeni inspektorzy mogliby na jego podstawie żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Jednocześnie szeroki zakres kontroli jest niezgodny z art. 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 94 kontrolowany ma do nich dostęp. Stoimy więc na stanowisku, że zdanie odnoszące się do „systemu informatycznego i chmury obliczeniowej należącej do innej strony” powinno zostać usunięte. Stwierdzić należy, że żaden przepis ustawy nie powinien być interpretowany jako zobowiązujący dostawcę usług chmurowych do ujawnienia danych klientów. W takich sytuacjach inspektor powinien skierować zapytanie o potrzebne informacje do administratora danych (klienta). Dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia im określenie jakie dokumenty lub informacje klient przechowuje i czy są one istotne dla kontroli. Ponadto klienci korporacyjni i biznesowi często przechowują dane swoich użytkowników i klientów, a ich przymusowe udostępnienie mogłoby skutkować nieuprawnionym ujawnieniem danych podmiotów, które nie są przedmiotem ani celem danego audytu. 130. Art. 42 IAB Polska Wprowadzenie jednoznacznej ochrony tajemnicy przedsiębiorstwa Ustawa powinna wprost umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy przedsiębiorstwa, analogicznie do procedur stosowanych przez Urząd Ochrony Konkurencji i Konsumentów. Obecny brak takiego rozwiązania skutkuje niewystarczającą ochroną kluczowych danych biznesowych. Wdrożenie mechanizmu oznaczania informacji jako poufnych zapewni większą pewność prawną oraz umożliwi skuteczniejszą ochronę interesów gospodarczych podmiotów objętych kontrolą. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 131. Art. 42 IAB Polska Usunięcie zdania odnoszącego się do systemu informatycznego i chmury obliczeniowej należącej do innej strony Analizując język art. 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 95 Taki zakres kontroli wydaje się być niezgodny z art. 78(2) AI Act, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem AI Act, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Jednocześnie zwracamy uwagę, że: 1. Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. 2. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie pisma, dokumenty lub inne informacje mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. 3. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 132. Art. 42 ZPP Zawęzić zakres dostępu do treści przechowywanych w chmurze – kontrola powinna obejmować wyłącznie dane niezbędne do przeprowadzenia audytu, przy jednoczesnym poszanowaniu tajemnicy handlowej i ochrony danych osobowych. Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów 96 rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 133. Art. 42-44 (uwaga ogólna) IAB Polska Ujednolicenie terminologii dotyczącej danych i informacji Projekt ustawy posługuje się niespójną terminologią odnoszącą się do różnych rodzajów danych, dokumentów i materiałów, co może prowadzić do trudności interpretacyjnych oraz ryzyka niejednolitego stosowania przepisów. Rekomendujemy: 1. przeprowadzenie analizy pod kątem precyzji technicznej i językowej, 2. eliminację terminów o potencjalnie synonimicznym lub homonimicznym znaczeniu, 3. jednoznaczne określenie kategorii danych i informacji oraz ich zakresu stosowania w przepisach. Ujednolicenie pojęć zwiększy przejrzystość regulacji oraz ograniczy ryzyko sprzecznych interpretacji przepisów, co jest kluczowe dla skutecznego stosowania ustawy. Uwaga wyjaśniona Przepisy zostały przeanalizowane. Jednocześnie informujemy, że tekst projektu zostanie pod względem językowo terminologicznym dopracowany na etapie komisji prawniczej. 134. Art. 42 ust. 1 pkt 1) Konfederacj a Lewiatan Propozycja brzmienia: 1) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 97 związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; Uzasadnienie: Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Ponadto: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 135. Art. 42 ust. 1 pkt 3 IAB Polska Zapewnienie odpowiednich narzędzi dla kontrolerów do sporządzania kopii dokumentów przez Komisję. Uwaga wyjaśniona 98 Obowiązek sporządzania kopii dokumentów powinien spoczywać na Komisji, a nie na podmiocie kontrolowanym. Pozostawienie proponowanego przepisu w bieżącym kształcie w praktyce oznaczałoby, że podmiot ten będzie przygotowywał wszystkie kopie samodzielnie. Rolą podmiotu kontrolowanego powinno być wyłącznie podjęcie decyzji o udostępnieniu określonych dokumentów, zgodnie z przepisami o ochronie informacji niejawnych, tajemnicy przedsiębiorstwa lub tajemnicy zawodowej (np. adwokackiej, radcowskiej). Zmieniono treść art. 42 (obecnie art. 34) ust. 1 pkt 3 poprzez usunięcie fragmentu “(.) a także sporządzenia lub w razie potrzeby i o ile jest to technicznie możliwe, żądania sporządzenia przez kontrolowanego, ich kopii, wyciągów z dokumentów oraz zestawień lub obliczeń”. 136. Art. 42 ust. 1 pkt 6 UKNF W projektowanym przepisie słowo „może” jest zbędne. Ponadto, w ocenie UKNF zasadne jest również wykreślenie zwrotu „w której dokumenty się znajdują”. Uwaga uwzględniona Z przepisu wykreślono wskazane w uwadze wyrazy i nadano mu nowe brzmienie. 137. Art. 42 ust. 1 pkt 7 Konfederacj a Lewiatan Propozycja brzmienia: 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art.23 ust.3 ustawy; Uzasadnienie: Zakres danych musi być ten sam. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 138. Art. 42 ust. 2 Konfederacj a Lewiatan Zapytanie: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu „czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? W ocenie Konfederacji Lewiatan zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? Czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 139. Art. 44 Konfederacj a Lewiatan Ustawa znacząco ogranicza znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć prawa kwestionować powołania się przez podmiot kontrolowany na tajemnicę zawodową. Ustawa nie definiuje czym są “wątpliwości” dotyczące powołania się na tajemnicę zawodową ani nie precyzuje, jak dokumenty powinny być zabezpieczone, przez co obecne podejście nie spełnia standardów poufności tajemnicy Uwaga uwzględniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 99 zawodowej. Ponadto sformułowanie “zapewnienie ochrony przed ujawnieniem” jest niejasne, gdyż dokument i tak zostanie ujawniony przynajmniej SOKiK. Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową, ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 140. Art. 44 ZPP Zapewnić ochronę tajemnicy zawodowej poprzez doprecyzowanie przepisów dotyczących poufności komunikacji oraz dokumentów, by nie naruszać relacji doradczo-prawnych. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 141. Art. 44 ust. 1 IAB Polska Rozszerzenie zakresu wyłączeń dotyczących dostępu do dokumentów Wyłączenie w proponowanym kształcie (art. 42 ust. 2) odnosi się jedynie do obowiązku przekazania materiałów, lecz nie obejmuje samego prawa dostępu do określonych dokumentów i danych (art. 42 ust. 1). Dla pełnej ochrony tajemnicy zawodowej (np. adwokackiej, radcowskiej) oraz zagwarantowania poufności relacji w zakresie doradztwa prawnego, konieczne jest rozszerzenie zakresu wyłączeń również na dostęp do tych informacji. Bez tego mechanizmu istnieje ryzyko nieuprawnionego ujawnienia poufnych danych, co mogłoby naruszyć prawa podmiotów korzystających z doradztwa prawnego. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 142. Art. 44 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. Uwaga częściowo uwzględniona Wprowadzenie do wyliczenia w at. 36 w ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 100 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 423 ust. 2 ustawy nie stosuje się. Uzasadnienie: Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Ponadto, obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. 143. Art. 44 ust. 2-5 IAB Polska Jednoznaczne zagwarantowanie absolutnej ochrony tajemnicy zawodowej, obejmującej zarówno treść dokumentów, jak i ich kontekst Choć Projekt uznaje znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), jednocześnie znacząco ją ogranicza, co narusza zasadę proporcjonalności oraz podważa zaufanie do relacji doradczo- prawnych. Uwaga uwzględniona Usunięto art. 44 (obecnie art. 36) ust. 2, 3 i 5. Powołanie się na tajemnicę zawodową może stanowić podstawę do celowego nieujawniania danych a tym samy może w konsekwencji prowadzić do braku możliwości ustalenia stanu faktycznego przez kontrolującego. Powoływanie 101 Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową, gdyż stwarza to pole do arbitralnych decyzji. Projekt nie precyzuje, co oznaczają wątpliwości dotyczące powołania się na tajemnicę zawodową. Nie jest również wymagane ich uzasadnienie, co rodzi ryzyko nadużyć. Niejasne jest również sformułowanie zapewnienie ochrony przed ujawnieniem. Dokument objęty tajemnicą zawodową i tak musiałby zostać w jakiś sposób przekazany co najmniej do SOKiK, co nie zapewnia pełnej poufności. Nieuzasadniona ingerencja w tajemnicę zawodową mogłaby podważyć fundamentalne zaufanie do poufności relacji klient- adwokat/radca prawny, co jest sprzeczne z zasadami demokratycznego państwa prawa. się na tę okoliczność powinno podlegać weryfikacji. W celu zapewnienia ochrony tajemnicy w przepisie przewidziano, że ciężar dowodu spoczywa na kontrolującym. Ograniczy to dostęp do przedmiotowych dokumentów osób postronnych. 144. Art. 45 IAB Polska Wykreślenie z Projektu postanowień przewidujących angażowanie Policji w działania kontrolne Wprowadzenie specjalnych procedur angażujących Policję w czynności kontrolne jest nieuzasadnione i nadmierne. Policja może zostać wezwana w sytuacjach, gdy zdarzenie stanowi przestępstwo lub wykroczenie – nie ma potrzeby dodatkowego regulowania tej kwestii w ustawie. Tego rodzaju mechanizm przywołuje przestarzałe praktyki inwigilacyjne, które nie przystają do współczesnych standardów państwa prawa. Relacje między obywatelami a państwem powinny opierać się na zasadzie wzajemnego zaufania. Uwaga wyjaśniona Wsparcie Policji kontrolującym jest niezbędne w celu zapewnienia bezpieczeństwa kontrolującym. Udział Policji w szczególnych przypadkach będzie poległ wyłącznie na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania. 145. Art. 45 IAB Polska Rezygnacja z angażowania jednostek podległych ministrowi ds. cyfryzacji w czynności kontrolne Komisji Angażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w procesie kontroli jest nieuzasadnione. Komisja powinna posiadać wystarczające kompetencje oraz narzędzia, aby Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia 102 samodzielnie przeprowadzać postępowania kontrolne, bez konieczności angażowania podmiotów zewnętrznych. Zewnętrzny udział budzi poważne wątpliwości dotyczące poufności postępowań, zwłaszcza biorąc pod uwagę wrażliwy zakres informacji objętych kontrolą. do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które. posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 146. Art. 45 ZPP Wyłączyć możliwość angażowania w działania kontrolne Komisji jednostek zewnętrznych, które mogłyby naruszyć niezależność organu kontrolnego, zapewniając, że Komisja dysponuje odpowiednimi kompetencjami i zasobami. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 147. Art. 45 Konfederacj a Lewiatan Zaangażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w pomoc Komisji jest nieuzasadnione. Komisja powinna dysponować odpowiednimi kompetencjami i zasobami umożliwiającymi samodzielne i skuteczne przeprowadzanie kontroli. Włączenie zewnętrznych jednostek w proces kontrolny budzi obawy dotyczące zachowania poufności, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy charakter badanych spraw. Przepis umożliwiający zwrócenie się o wsparcie Policji jest zbędny. Policję można wezwać zawsze wtedy, gdy dojdzie do popełnienia przestępstwa lub wykroczenia. Nie ma potrzeby tworzyć specjalnych procedur angażowania Policji w czynności kontrolne. Takie Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają 103 rozwiązanie nie przystaje do nowoczesnego państwa, które szanuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie stosowanych przepisów w projekcie ustawy. 148. Art. 46 ust. 1 IAB Polska Sporządzanie projektu protokołu kontroli przez kontrolera Projekt protokołu kontroli powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że postanowienie w obecnym brzmieniu jest wynikiem omyłki redakcyjnej. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 149. Art. 46 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolujący sporządza projekt protokołu. Uzasadnienie oraz zapytanie: Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. 150. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 151. Art. 46 ust. 4 IAB Polska Wydłużenie terminu na wniesienie zastrzeżeń do projektu protokołu kontroli do 60 dni. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli 104 Obecnie przewidziany 7-dniowy termin na wniesienie zastrzeżeń jest zbyt krótki, zwłaszcza w przypadku skomplikowanych spraw, które wymagają dogłębnej analizy zebranego materiału. Protokół kontroli może zawierać obszerną dokumentację, wymagającą szczegółowego odniesienia się do kwestii prawnych, technicznych lub proceduralnych. Projektowany termin utrudni podmiotom rzetelne przygotowanie argumentacji i odpowiedzi na ustalenia kontrolne, co może prowadzić do nierówności proceduralnej. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Wydłużenie tego terminu do 60 dni zapewni możliwość skutecznej analizy protokołu i sformułowania merytorycznych zastrzeżeń. oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 152. Art. 46 ust. 4 UKNF Mając na uwadze brzmienie art. 46 ust. 2 pkt 9 projektu ustawy, z którego wynika fakultatywność zgłaszania zastrzeżeń do projektu protokołu kontroli, UKNF poddaje pod rozwagę modyfikację brzemienia przepisu w następujący sposób: „W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany może zgłosić pisemne zastrzeżenia do jego treści.” Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń (art. 38 ust. 4). 153. Art. 46 ust. 4 ZPP Zalecamy wydłużenie okresu na wniesienie zastrzeżeń do raportu z kontroli do minimum 14 dni. Obecny, 7-dniowy termin jest niewystarczający, zwłaszcza przy rozległym zakresie kontroli i dużej ilości analizowanych danych, materiałów oraz dokumentów, co utrudnia przygotowanie merytorycznych uwag w przypadkach złożonych spraw. Uwaga częściowo uwzględniona Błąd redakcyjny został skorygowany. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest 105 a) Wyeliminować błąd, który wskazuje, że kontrolowany podmiot jest odpowiedzialny za sporządzenie protokołu kontroli. Prosimy, aby protokół był sporządzany przez organ kontrolny. ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 154. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 7 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga częściowo uwzględniona W przepisie określono fakultatywność złożenia zastrzeżeń przez kontrolowanego. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 155. Art. 46 ust. 4 Pracodawcy RP Podkreślenia wymaga, że w przypadkach tak złożonych jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora niejednokrotnie wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 dni – zaproponowanych w art. 46 ust. 4 projektu. Jesteśmy zdania, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Tym bardziej, że brak wniesienia zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Termin 7 dni na ustosunkowanie się do zastrzeżeń regulatora jest zbyt krótki, szczególnie dla złożonych systemów AI. Propozycja: Wydłużenie terminu do co najmniej 60 dni, aby firmy mogły przeanalizować zastrzeżenia i odpowiedzieć. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 156. Art. 46 ust. 5 UKNF Wątpliwości UKNF budzi możliwość podejmowania „dodatkowych czynności kontrolnych” już po sporządzeniu projektu protokołu Uwaga uwzględniona 106 kontroli, co może mieć miejsce już po zakończeniu kontroli. Jest to istotna kwestia w kontekście wskazanych w upoważnieniu do przeprowadzenia kontroli dat rozpoczęcia i przewidywanego terminu zakończenia kontroli. Przepisy dotyczące “dodatkowych czynności kontrolnych” zostały usunięte. 157. Art. 46. ust. 5 i ust. 8 Konfederacj a Lewiatan Uważamy, iż w treści przepisu należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 158. Art. 46 ust. 6 UKNF W ocenie UKNF uzasadnione jest doprecyzowanie w jakiej formie kontrolujący ma sporządzić informację o nieuwzględnieniu zastrzeżeń kontrolowanego do protokołu kontroli. Proponujemy zachować analogiczną formę jak w przypadku protokołu kontroli (postać elektroniczna). Uwaga wyjaśniona Założeniem ustawy jest, aby wszystkie czynności w ramach kontroli były prowadzone w formie elektronicznej. Dotyczy to także kwestii związanych z projektem protokołu i protokołem kontroli, a także wymiany dokumentów w ramach zgłaszanych zastrzeżeń. Dodatkowo informacja o braku uwzględnienia zastrzeżeń powinna znaleźć się w ostatecznym protokole (art. 38 ust. 5 i 8). 159. Art. 46 ust. 8 UKNF W ocenie UKNF uzasadnione jest określenie terminu na sporządzenie protokołu kontroli. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 160. Art. 46 ust. 11 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że po złożeniu podpisu elektronicznego na protokole kontroli (przez którąkolwiek ze stron) technicznie niemożliwe jest dokonanie wzmianki w protokole wskazującej na odmowę jego podpisania. Przedmiotowy przepis powinien zatem ulec odpowiedniej modyfikacji. Uwaga wyjaśniona Możliwość adnotacji jest uzależniona od posiadanego systemu. 161. Art. 47 Konfederacj a Lewiatan W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Uwaga wyjaśniona Wydanie zaleceń pokontrolnych należy do kompetencji Przewodniczącego Komisji. (art. 39 ust. 1). 107 162. Art. 47 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przedmiotowy przepis zawiera błędy redakcyjne, które mogą utrudniać jego właściwą interpretację. W przepisie należy uzupełnić brakujący tekst (po przecinku w ust. 1 i w ust. 2 pkt 1), dostosować numerację (ust. 2 występuje dwa razy) i skorygować odesłania w ust. 2 i 4. Uwaga uwzględniona Skorygowano błędy redakcyjne. 163. Art. 47 ust. 2 pkt 1 Konfederacj a Lewiatan Propozycja brzmienia: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia nie i Uzasadnienie: Proponujemy usunięcie fragmentu „nie i” oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 164. Art. 49 ZPP Uregulować kwestie odpowiedzialności – w szczególności, aby sankcje były nakładane na podmioty, a nie na członków zarządu, co zapewni proporcjonalność środków. Uwaga wyjaśniona W kwestii odpowiedzialności zastosowanie znajdują odrębne przepisy. 108 165. Rozdział IV KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji Rozdział IV Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI i V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo- dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; Uwaga wyjaśniona W projekcie ustawy została uwzględniona rola KRRiT w ramach art. 5 ust. 3 oraz art. 6 ust. 2 projektu ustawy. 166. Art. 49 ust. 2 UKNF Dotychczas zgłoszona przez UKNF uwaga nie została należycie uwzględniona. Wszczęcie postępowania administracyjnego w trybie, o którym mowa w art. 49 ust. 2 pkt 2 i 4 (wszczęcie na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji oraz wszczęcie na wniosek Rady) nie jest trybem wszczęcia postępowania na wniosek, gdyż taki wniosek nie pochodzi od strony postępowania. W przypadkach, o których mowa w art. 49 ust. 2 pkt 2 i 4 projektu ustawy wszczęcie powinno następować z urzędu, w oparciu o informacje przekazane przez wskazane w tych przepisach organy. Również tryb wskazany w art. 49 ust. 2 pkt 3 projektu ustawy nie stanowi o postępowaniu administracyjnym wszczynanym na wniosek w przedmiocie naruszenia przepisów rozporządzenia Uwag wyjaśniona Przepis precyzuje jakie podmioty i w jaki sposób mogą inicjować wszczęcia postępowania. W ocenie projektodawcy wskazania są adekwatne. 109 2024/1689. Wydaje się, że przepis w tym zakresie stanowi o formie współpracy z innymi organami nadzoru. 167. Art. 49 ust. 2 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania postępowania w sprawie naruszenia AI Act Rada pełni funkcję doradczą i konsultacyjną, dlatego nie powinna mieć uprawnień do wnioskowania o wszczęcie postępowania. Nadanie jej takich kompetencji wykracza poza jej zamierzoną rolę. Rada nie posiada wymaganych kompetencji proceduralnych, aby ocenić zasadność wszczęcia postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 168. Art. 49 ust. 2 pkt 4 Konfederacj a Lewiatan Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 169. Art. od 49 RPO Przez wzgląd na rolę urzędu Rzecznika Praw Obywatelskich, opinia koncentruje się na problematyce związanej z koniecznością zapewnienia właściwie ukształtowanej procedury skargowej, która winna urzeczywistniać prawo wniesienia środka prawnego (skargi) do organu nadzoru rynku w rozumieniu art. 85 rozporządzenia 2024/16892, przez co rozumieć należy spoczywający na ustawodawcy krajowym obowiązek wprowadzenia takich rozwiązań specjalnych w systemie prawa, które urzeczywistniając prawo unijne, będą jednocześnie maksymalnie efektywne na poziomie krajowym, bez uszczerbku dla innych już istniejących administracyjnych lub sądowych środków ochrony prawnej. Z tych względów procedura skargowa powinna, w ocenie RPO, przede wszystkim zostać ukształtowana w taki sposób, aby jej przebieg zabezpieczał po stronie osoby fizycznej lub prawnej w możliwie najdalej idącym stopniu prawo do skutecznego środka prawnego oraz skutecznej ochrony sądowej w przypadku naruszenia przepisów rozporządzenia 2024/16893. Na poziomie unijnym prawo to ma Uwaga wyjaśniona Zgodnie z art. 50 (obecnie art. 42) projektu ustawy każda osoba fizyczna ma prawo złożyć skargę, o której mowa w art. 85 rozporządzenia 2024/1689. Skargę składa się do Komisji na naruszenie przepisów tego rozporządzenia lub ustawy. Skarga jest rozpatrywana przez Komisję i w przypadku stwierdzenia możliwości naruszenia ww. przepisów Przewodniczący Komisji może złożyć wniosek o wszczęcie postępowania, o którym mowa w art. 49 (obecnie art. 41). Stroną tego postępowanie nie jest jednak skarżący. Dalej postępowanie przed komisją toczy się w trybie przepisów rozdziału 4 i stosuję się do niego przepisy Kodeksu postępowania administracyjnego. Postepowanie kończy się 110 charakter samoistny, wynikający ze wspólnych tradycji konstytucyjnych państw członkowskich, dodatkowo zabezpieczony w art. 51 ust. 1 Karty praw podstawowych UE wymogiem poszanowania praw podstawowych określonych Karcie, który jest wiążący dla państw członkowskich wyłącznie wtedy, gdy państwa działają w zakresie zastosowania prawa Unii. Z tych względów zasada skuteczności ochrony sądowej wymaga, aby krajowe zasady proceduralne postępowań służące zapewnieniu pełnej ochrony uprawnień, które jednostki wywodzą z prawa Unii, nie uniemożliwiały lub nie czyniły w praktyce nadmiernie utrudnionym wykonywania uprawnień wynikających z porządku prawnego Unii. Ustrojową przestrzeń tego prawa wyznaczają art. 45 ust. 1 oraz art. 77 ust. 2 Konstytucji RP7. Dodatkowo zaś, w pewnych sytuacjach, w których krajowy system prawny, przy rozstrzyganiu sporów cywilnych, przewiduje tryb administracyjnosądowy, lub tryb prejurysdykcyjnego postępowania administracyjnego – także art. 77 ust. 1 Konstytucji RP. W projekcie ustawy sytuacja prawna podmiotu (skarżącego), któremu art. 85 rozporządzenia 2024/1689 gwarantuje prawo do wniesienia skargi do krajowego organu nadzoru została ukształtowana w taki sposób, że skarżący nie będzie stroną wszczętego postępowania i będą mu przysługiwały jedynie ograniczone uprawnienia informacyjne w zakresie: 1) otrzymania skargi przez organ; 2) wszczęcia postępowania, o którym mowa w art. 50 ust. 5 projektu ustawy; oraz 3) zakończenia tego postępowania. Postępowanie to, jak przekonują o tym kolejne odesłania z art. 50 ust. 6 pkt 2 i 3 do art. 50 ust. 5 projektu ustawy, a następnie odesłanie ogólne do przepisów rozdziału 4 tej ustawy – jest zatem postępowaniem w sprawie związanej z postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689, przy czym do postępowania w sprawie głównej (przed Komisją) w zakresie nieuregulowanym stosuje się przepisy ustawy z dnia 14 czerwca 1960 Kodeks postępowania administracyjnego. Zaakcentowania wymaga w tym miejscu, że zgodnie z podstawowymi zamierzeniami rozporządzenia 2024/1689, to państwa członkowskie odgrywają wydaniem decyzji nakazowej. Z naruszeniem przepisów wiąże się też nałożenie administracyjnej kary pieniężnej. Od decyzji stronie (podmiotowi wobec którego wydano decyzje) przysługuje skarga do sądu ochrony konkurencji i konsumentów. W tym postępowaniu skarżący również nie jest stroną. Celem projektowanej procedury jest zagwarantowanie każdej osobie fizycznej lub prawnej, mającej podstawy by uznać, że zostały naruszone przepisy rozporządzenia 2024/1689 wniesienia skargi do organu nadzoru rynku. Wniesienie tej skargi następuje bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej i ma służyć do celów prowadzenia działań z zakresu nadzoru rynku. Nie jest to więc typowa skarga w rozumieniu KPA a raczej „zawiadomienie” które zostanie rozpatrzone zgodnie z ustalonymi przez organ nadzoru procedurami. 111 kluczową rolę w stosowaniu i egzekwowaniu jego postanowień, a co za tym idzie odpowiadają za korzystne ukształtowanie sytuacji prawnej jednostki przed organami krajowymi. W tym zakresie projekt budzi wątpliwości RPO z następujących przyczyn. Po pierwsze, specjalny środek prawny przewidziany w art. 85 rozporządzenia 2024/1689 w kształcie, jaki nadał mu projektodawca w opiniowanym projekcie ustawy, ukształtuje sytuację skarżącego w sposób nietransparentny i mniej korzystny, niż np. tzw. skarga powszechna, uregulowana w art. 227 K.p.a. i nast. (a więc w sposób charakterystyczny np. dla ogólnej procedury zgłaszania naruszeń w rozumieniu dyrektywy 2019/193711, do której odsyła art. 87 rozporządzenia 2024/1689, a nie procedury dochodzenia praw we własnej sprawie). Po drugie, zaznaczenia wymaga, że ustawodawca jest uprawniony do stanowienia prawa odpowiadającego założonym celom politycznym i gospodarczym, zaś władztwo to nabiera szczególnego znaczenia w okresie istotnych przemian społecznych czy ustrojowych. Bez wątpienia konieczność sprostania wyzwaniom, jakie niosą takie procesy może powodować, że projektowane procedury, instrumenty prawne czy instytucje mogą odbiegać od dotychczas przyjętych rozwiązań. Podkreślenia, jednakże wymaga, że projektowane w takim zamierzeniu rozwiązania powinny przykładowo służyć polubownemu załatwianiu sporów, które zwiększa spójność społeczną, przyczyniać się do korzystniejszego usytuowania jednostki w prowadzonym postępowaniu, czy też stwarzać możliwości bardziej efektywnego egzekwowania interesów jednostek. Trudno dostrzec, aby projektowana procedura skargowa przyczyniała się do osiągnięcia któregokolwiek z celów. Po trzecie, przyjęcie rozporządzenia 2024/1689 poprzedzone zostało wielopłaszczyznowym zidentyfikowaniem wyzwań, jakie w szczególności niesie rozwój, wdrażanie, wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie Sztucznej Inteligencji (AI) w wielu różnych sektorach gospodarki i 112 obszarach życia społecznego. Z tych względów konieczność zapobieżenia rozdrobnienia rynku wewnętrznego, jak również wymóg zapewnienia zgodności przepisów rozporządzenia z Kartą praw podstawowych oraz międzynarodowymi zobowiązaniami handlowymi Unii powoduje, że przepisy te muszą jednocześnie: 1) być wysoce zharmonizowane14; 2) być m.in. ukierunkowane na ochronę osób fizycznych, przedsiębiorstw, demokracji, praworządności na wszystkich poziomach obrotu; oraz 3) pozostawiać niezbędną swobodę dla ustawodawcy krajowego, aby ich implementacja mogła dokonać się bez uszczerbku dla innych już istniejących administracyjnych lub sądowych krajowych środków ochrony prawnej, wzmacniając jednocześnie krajowe zdolności niezbędne do skutecznego egzekwowania przepisów rozporządzenia oraz efektywność organizacyjną państw członkowskich. Z perspektywy licznych wyzwań, jakie zostały zidentyfikowane w rozporządzeniu 2024/1689 trudno zatem uznać, że możliwości szerokiego zabezpieczenia sytuacji prawnej jednostki przez ustawodawcę krajowego w procedurze skargowej zostały w projekcie ustawy wykorzystane. Na tle zarysowanych wątpliwości RPO pragnie zauważyć, że w kontekście rozporządzenia 2024/1689 sytuacja prawna jednostki powinna być postrzegana na trzech poziomach ochrony: 1) unijnym; 2) krajowym; oraz 3) sektorowym, czy też branżowym, który łączy poziom krajowy z poziomem unijnym przede wszystkim w drodze dobrowolnych kodeksów postępowania (organy unijne swoje cele osiągają poprzez kodeksy praktyk17), które przyczyniają się do osiągnięcia każdego z trzech ww. wymogów rozporządzenia Dwa ostatnie poziomy należą od projektodawcy krajowego, jak bowiem wyjaśniono – to państwa członkowskie odgrywają kluczową rolę w stosowaniu i egzekwowaniu postanowień rozporządzenia 2024/1689, co wynika zresztą z zasad ogólnych prawa unijnego. 113 Mając na uwadze powyższe pragnę poddać pod uwagę Pana Ministra konieczność ponownego rozważenia w projektowanej ustawie dwóch zasadniczych kwestii wynikających z podniesionych wyżej wątpliwości. Pierwsza dotyczy statusu skarżącego po wniesieniu skargi, o której mowa w art. 85 rozporządzenia 2024/1689, co wymagać będzie oceny i rozstrzygnięcia tego, jakie skutki prawne po stronie skarżącego wywierać powinno wydanie decyzji w zainicjowanym z jego skargi postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689, jak również tego, czy wydanie decyzji otwiera skarżącemu drogę do dochodzenia roszczeń cywilnoprawnych na innych zasadach niż zasady ogólne. W dalszej kolejności będzie to wymagało skorelowania z ustalonym statusem skarżącego odpowiednio zabezpieczonych po jego stronie konkretnych uprawnień, m.in. dostępu do akt, prawa do odwołania czy pouczenia o przysługujących środkach ochrony prawnej, w szczególności po wydaniu decyzji naruszeniowej. Rozstrzygnięcie pierwszej kwestii pozwoli m.in. ocenić: 1) czy ogólne odesłanie do przepisów K.p.a. – sformułowane obecnie w odniesieniu do postępowania w sprawie głównej (przed Komisją) – jest jasne, precyzyjne i wystarczające; 2) czy nie należałoby uregulować wprost możliwości złożenia przez skarżącego skargi na działania lub zaniechania Komisji nawet w drodze odesłania do przepisów działu VIII K.p.a.; a wreszcie 3) czy wymogi formalne dotyczące skargi na działanie systemu sztucznej inteligencji nie są nazbyt restrykcyjne czy też wręcz przeciwnie. Należy przy tym zaznaczyć, że procedura skargowa, o której mowa w art. 85 rozporządzenia 2024/1689 jest procedurą odrębną od procedury zgłaszania naruszeń, o której stanowi art. 87 rozporządzenia (procedura w sprawie ochrony osób zgłaszających naruszenia prawa Unii), dlatego złożona skarga nie powinna de facto być traktowana jak informacja na temat naruszeń w rozumieniu art. 5 pkt 2 dyrektywy 2019/1937. Wniesienia skargi może bowiem być związane z potrzebą dochodzenia w przyszłości zadośćuczynienia lub odszkodowania po stronie skarżącego. Biorąc pod uwagę wyzwania, jakie w szczególności niesie rozwój, wdrażanie, 114 wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie sztucznej inteligencji, możliwość ta powinna zostać zabezpieczona przez ustawodawcę. 170. Art. 50 ust. 1 NSZZ Przepis przewiduje możliwość złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga: niejasne, czy skarga może dotyczyć wyłącznie naruszeń opiniowanej ustawy, czy także innych ustaw regulujących sztuczną inteligencję (np. w zakresie prawa pracy), zgodnie z art. 2 ust. 11 rozporządzenia 2024/1689. Propozycja: doprecyzowanie, że skarga jest możliwa także w przypadku naruszenia innych ustaw dotyczących sztucznej inteligencji, dla wzmocnienia funkcji ochronnej. Uwaga wyjaśniona Zgodnie z art. 50 ust. 1 (obecnie art. 42) skargę, o której mowa w art. 85 rozporządzenia 2024/1689, można złożyć na naruszenie przepisów tego rozporządzenia lub procedowanej ustawy, która służy umożliwianiu stosowania przepisów AI Aktu. 171. Art. 50 ust. 2 pkt 1 NSZZ Wymóg podania w skardze nazwy systemu AI budzi wątpliwości, ponieważ pracownicy mogą nie znać nazwy systemu (brak obowiązku informowania o nazwie). Brak tej wiedzy utrudnia złożenie skargi. Propozycja: uzupełnienie przepisu o możliwość podania opisu systemu zamiast nazwy, np. dodanie wyrażenia „lub opis”. Uwaga uwzględniona Zgodnie z brzmieniem art. 50 (obecnie art. 42) w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 172. Art. 50 ust. 3 NSZZ Przepis określa formę skargi: elektroniczną (z kwalifikowanym podpisem elektronicznym) lub inne środki komunikacji/biuro Komisji w razie braku możliwości złożenia w formie elektronicznej. Uwaga: większość związków zawodowych nie posiada kwalifikowanego podpisu, a niejasne jest, czy brak podpisu spełnia warunek „braku możliwości”. Propozycja: wprowadzenie alternatywy łącznej – skarga w formie elektronicznej lub innymi środkami komunikacji, lub w biurze Komisji, aby uniknąć nadmiernego obciążenia (np. zakupu podpisu). Uwaga wyjaśniona Art. 50 (obecnie art. 42) ust. 3 nie stanowi konieczności opatrzenia skargi kwalifikowanym podpisem elektronicznym. (42 ust. 3 w ogóle już nie przewiduje opatrywania podpisem! Ust. 3 został doprecyzowany. 173. Art. 52 ust. 3 Konfederacj a Lewiatan Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać zniesiony. Komisja jako profesjonalny organ regulacyjny w dziedzinie sztucznej inteligencji, powinna być w stanie analizować dokumentację w języku angielskim bez konieczności jej tłumaczenia. Zdecydowana większość dokumentacji technicznej, prawnej i dotyczącej zgodności w obszarze SI jest sporządzana oryginalnie w języku Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 115 angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Należy wskazać także, że przy wytwarzaniu algorytmów korzysta się z pakietów/bibliotek od różnych dostawców. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. 174. Art. 52 ust. 3 IAB Polska Rezygnacja z obowiązku dostarczania tłumaczeń dokumentów na koszt stron postępowania Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze AI, powinna posiadać wystarczającą znajomość języka angielskiego, aby analizować dokumentację techniczną i prawną bez wymogu jej tłumaczenia. AI to dziedzina regulowana na poziomie międzynarodowym, a wiele kluczowych dokumentów technicznych, prawnych i dotyczących zgodności tworzonych jest w języku angielskim. W wielu krajach UE organy regulacyjne akceptują dokumentację w języku angielskim, który jest standardem międzynarodowym w sektorze nowych technologii. Zmuszanie stron do ponoszenia kosztów tłumaczenia jest niepotrzebnym obciążeniem administracyjnym i finansowym, które nie znajduje uzasadnienia w praktyce rynkowej. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 175. Art. 53 IAB Polska Przegląd przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania prawa Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do 116 Artykuł 53 budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające poważniejszych środków. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: 1. Ograniczone okoliczności, w których AI Act zezwala na wycofanie usług; 2. Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych. zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 176. Art. 53 Pracodawcy RP Stwierdzić należy także, że w art. 53 projekt przewiduje nadmierne środki egzekwowania prawa, takie jak blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku w przypadkach wyraźnie opisanych jako niewymagające bardziej dolegliwych środków. Sugerujemy ponowne rozważenie treści tego przepisu, tak aby zapewnić bardziej zrównoważone podejście do egzekwowania prawa, uwzględniając przy tym ograniczone możliwości wycofania usług zgodnie z Unijnym Aktem o sztucznej inteligencji, skupienie się na identyfikacji zagrożeń w systemach AI zamiast utrudniania działalności firmom oraz zapewnienie przedsiębiorstwom odpowiedniego czasu (minimum 60 dni) na wdrożenie niezbędnych zmian. Przepis przewiduje nadmierne środki egzekwowania prawa (np. blokowanie dostępu lub wycofanie systemu z rynku) w przypadkach niewymagających tak drastycznych działań. Propozycja: Zrównoważenie podejścia, skupienie na identyfikacji zagrożeń zamiast utrudniania działalności firm oraz zapewnienie minimum 60 dni na wdrożenie zmian. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 177. Art. 53 Konfederacj a Lewiatan Lutowa wersja projektu ustawy (2025) wprowadza istotne zmiany w zakresie uprawnień Komisji dotyczących wydawania ostrzeżeń oraz Uwaga wyjaśniona 117 sankcji za ich niezastosowanie. Jak wynika z projektowanych przepisów ostrzeżenie mają być wydawane na podstawie uzasadnionego podejrzenia, a nie niezbitego dowodu naruszenia prawa. Ponadto, ostrzeżenia mają formę postanowienia, a nie decyzji administracyjnej. Pomimo to, proponowane przepisy umożliwiają Komisji nakładanie obowiązków (nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym) i kar pieniężnych w przypadku niezastosowania się przez adresata do ostrzeżenia, co oznacza, że Komisja ma dostać możliwość nakładania kar pieniężnych i nakładania daleko idących obowiązków bez konieczności udowodnienia naruszenia (do wydania ostrzeżenia ma wystarczyć uzasadnione podejrzenie) i bez wydawania decyzji administracyjnej (ostrzeżenie ma mieć postać postanowienia), co jest niezgodne z istotą ostrzeżenia. Takie rozwiązanie budzi poważne wątpliwości, ponieważ ostrzeżenie jako instrument o charakterze \"miękkim\", powinno służyć przede wszystkim zwróceniu uwagi na potencjalne problemy i zachęceniu do podjęcia działań naprawczych. Nie powinno być podstawą do nakładania dotkliwych sankcji bez uprzedniego przeprowadzenia postępowania administracyjnego i udowodnienia rzeczywistego naruszenia przepisów. Konieczne jest wprowadzenie zmian w projekcie ustawy, aby ostrzeżenie pozostało narzędziem niewładczym, a jego niezastosowanie nie skutkowało negatywnymi konsekwencjami dla adresata. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w ustawie, takich jak kontrola, wszczęcie postępowania administracyjnego czy wydawanie decyzji administracyjnych, po przeprowadzeniu odpowiedniego postępowania wyjaśniającego i udowodnieniu naruszenia przepisów. Ponadto, należy również zwrócić uwagę na konieczność zapewnienia dostawcom AI odpowiedniego czasu na dostosowanie się do wydanego ostrzeżenia oraz możliwości odwołania się od niego. Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 118 Co więcej, artykuł 53 budzi obawy KL zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. 178. Art. 53 ZPP Wersji projektu ustawy z lutego 2025 r. przewiduje, że ostrzeżenia będą wydawane na podstawie uzasadnionego podejrzenia, a nie jednoznacznych dowodów naruszenia prawa, i mają formę postanowień, a nie decyzji administracyjnych. Jednakże, przepisy te umożliwiają Komisji nakładanie sankcji – w tym kar pieniężnych czy władczych środków nakazowych (np. blokowanie systemu lub jego wycofanie z rynku) – bez przeprowadzenia pełnego postępowania administracyjnego. Aby zapewnić prawo do obrony i zapobiec nieproporcjonalnym sankcjom, władcze środki nakazowe powinny być stosowane wyłącznie na podstawie decyzji administracyjnej, wydanej po pełnym postępowaniu administracyjnym i udowodnieniu naruszenia, z możliwością odwoławczą. Ostrzeżenie jako narzędzie o charakterze inicjującym, powinno jedynie sygnalizować potencjalne problemy i skłaniać do podjęcia działań naprawczych. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość zastosowania innych środków, takich jak kontrola czy postępowanie administracyjne, po przeprowadzeniu odpowiedniej procedury wyjaśniającej. Dodatkowo, niezbędne jest zapewnienie dostawcom AI wystarczającego czasu na wdrożenie niezbędnych zmian oraz możliwość skutecznego odwołania się od decyzji. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 179. Art. 53 ust. 2 pkt. 1 Konfederacj a Lewiatan Propozycja brzmienia: 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 119 Uzasadnienie: Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o „uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. 180. Art. 53 ust. 3 IAB Polska Wydłużenie terminu na wykonanie działań umożliwiających przywrócenie stanu zgodnego z prawem do 60 dni Obecnie przewidziany 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków naprawczych jest niewystarczający, szczególnie w przypadku dużych podmiotów o złożonej strukturze organizacyjnej i technologicznie zaawansowanych systemach AI. Systemy AI wymagają często czasochłonnych zmian, które mogą obejmować: 1. Modyfikacje informatyczne i zmiany kodu, które muszą zostać przetestowane przed wdrożeniem, 2. Oceny cyberbezpieczeństwa, aby uniknąć wprowadzenia nowych luk w zabezpieczeniach, 3. Kontrole zgodności z prawem, uwzględniające różne regulacje sektorowe i międzynarodowe, 4. Procesy decyzyjne w dużych organizacjach, w których zatwierdzenie zmian wymaga przejścia przez określone procedury wewnętrzne. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 181. Art. 53 ust. 3 Konfederacj a Lewiatan Proponowane brzmienie: 3. Strona w terminie 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Uzasadnienie: Obecny 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków zaradczych w celu usunięcia skutków naruszenia jest zbyt krótki, zwłaszcza dla dużych organizacji o złożonych strukturach i zaawansowanych systemach SI. Takie organizacje Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 120 potrzebują więcej czasu na wdrożenie zmian z powodu wewnętrznych procesów decyzyjnych i hierarchii zatwierdzania. Ponadto systemy SI są często złożone technicznie, a wymagane modyfikacje mogą obejmować: ● inżynierię oprogramowania i zmiany w kodowaniu, które należy przetestować przed wdrożeniem, ● oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, ● kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z 14 do co najmniej 30 dni. Pozwoli to na przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków zaradczych. 182. Art. 53 ust. 3 Pracodawcy RP W art. 53 ust. 3 projektu przewiduje się również okres 14 dni na przekazanie informacji o realizacji ostrzeżenia Przewodniczącego Komisji KRiBSI. Ponownie stwierdzić należy, że jest to zdecydowanie zbyt krótki termin, a firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na przekazanie informacji o realizacji ostrzeżenia KRibSi jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 183. Art. 53 ust. 4 Konfederacj a Lewiatan Proponowane brzmienie: 4. W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary 121 postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Uzasadnienie: Przepis jest zbyt daleko idący jak na „uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy, tj. spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na tym etapie nie jest pewne, że do tego doszło. pieniężnej w przypadku, gdy strona nie wykona postanowienia. 184. Art. 54 ust. 1 IAB Polska Precyzyjne określenie zakresu decyzji podejmowanych przez Komisję Uwaga uwzględniona Dokonano doprecyzowania w art. 54 ust. 1. (obecnie art. 46). 122 Projektowane przepisy nie precyzują, czy decyzja Komisji może dotyczyć wyłącznie naruszeń AI Act, czy także projektowanej ustawy. Brak jednoznacznych regulacji powoduje niejasność co do zakresu uprawnień Komisji i ryzyko błędnej interpretacji prawa. Ustawa o systemach sztucznej inteligencji jest odrębnym aktem prawnym, dlatego konieczne jest jasne wskazanie czy decyzja może obejmować naruszenia tej ustawy. 185. Art. 54 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uzasadnienie: Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 186. Art. 54 ust. 2 Konfederacj a Lewiatan Proponowane brzmienie: 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Uzasadnienie: Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 187. Art. 54 ust. 2 IAB Polska Wydłużenie terminu na realizację zawiera środków nakazujących usunięcie skutków naruszenia obowiązków wynikających z AI Act do 60 dni Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony 123 Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 188. Art. 54 ust. 2 Pracodawcy RP Artykuł 54 ust. 2 projektu, który przewiduje także 14 dni na usunięcie skutków naruszenia obowiązków wynikających z Aktu o AI. W tym przypadku ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na usunięcie skutków naruszenia obowiązków z Aktu o AI jest niewystarczający. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 189. Art. 54 ust. 1 oraz art. 55 ust. 2 ZPP a) Analiza art. 55 ust. 2 wskazuje na istotne problemy dotyczące przyznania Komisji uprawnień do nakazywania zaprzestania użytkowania lub wycofania systemu z rynku. Główne zastrzeżenia koncentrują się wokół niedostatecznej precyzji kryteriów uzasadniających te działania, co może prowadzić do dowolności w podejmowaniu decyzji oraz naruszać fundamentalną zasadę pewności prawa. Szczególny niepokój budzi także ustanowiony termin 30 dni przed wyborami jako okres na złożenie odwołania od decyzji Komisji. Przyjęte rozwiązanie znacząco ogranicza efektywność ochrony prawnej podmiotów, których decyzja dotyczy, jednocześnie umożliwiając natychmiastowe wdrożenie środków mogących skutkować trudnymi do odwrócenia konsekwencjami. W świetle powyższych zastrzeżeń rekomendujemy eliminację z projektu legislacyjnego zapisów przyznających Komisji uprawnienia do wydawania decyzji zobowiązujących operatora do zaprzestania wykorzystywania systemu lub jego usunięcia z rynku bądź eksploatacji na podstawie nieprecyzyjnych i subiektywnych kryteriów. Zakres kompetencji Komisji w przedmiotowym obszarze powinien zostać ściśle zawężony do działań enumeratywnie wskazanych w art. 79 rozporządzenia 2024/1689 (AI Act). Takie rozwiązanie zapobiegłoby potencjalnym nadużyciom, wykorzystaniu politycznemu oraz zagwarantowało realną możliwość skorzystania z procedury odwoławczej i należytą ochronę prawną uczestników postępowania. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). W zakresie art. 55 (obecnie art. 47) należy wyjaśnić, że ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. W przepisie odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów 124 190. Art. 54 ust. 3 Konfederacj a Lewiatan Jeśli decyzja o karze może być wydana razem z decyzją o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 191. Art. 55 UKNF Pomimo informacji o uwzględnieniu dotychczas zgłoszonych przez UKNF uwag, analiza projektowanego brzmienia przepisu prowadzi do wniosku, że w dalszym ciągu wymaga on gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów AI stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Należy zauważyć, że przepis art. 79 ust. 1-5 rozporządzenia 2024/1689 daje organom nadzoru uprawnienie do żądania wycofania systemu AI z rynku, jeżeli w wyniku jego oceny organ dojdzie do wniosku, że system, stwarzający ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych, nie jest zgodny z wymogami rozporządzenia. Zgodnie z art. 79 ust. 2 akapit 2 rozporządzenia 2024/1689 w przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby: 1) zapewnić zgodność tego systemu AI z wymogami, 2) wycofać ten system z rynku lub z użytku. Przepis art. 55 projektu ustawy nie przewiduje natomiast możliwości podjęcia działań naprawczych w celu zapewnienia zgodności systemu AI. Uwaga wyjaśniona Przepisy art. 55 (art. 47) ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. Nie wyklucza ona natomiast zastosowania przez podmiot środków naprawczych. 125 Ponadto aktualne brzmienie przepisu nie uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Może to sugerować, że stanowi odzwierciedlenie instytucji z art. 82 rozporządzenia 2024/1689, a więc sytuacji, gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w tym rozporządzeniu, ale stwarza ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. W ramach procedury przewidzianej w art. 82 rozporządzenia 2024/1689 przewidziano jednak, że organ zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ. Niezależnie od powyższego UKNF ponownie wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). 192. Art. 55 ust. 2 Konfederacj a Lewiatan Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z Uwaga uwzględniona W przepisie (art. 47 ust. 2) odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów Wykreślony został fragment przepisu 126 rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejednoznaczne, co uniemożliwia precyzyjne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów i wskazówek, które Komisja powinna wziąć pod uwagę przy podejmowaniu decyzji, stwarza możliwość potencjalnie arbitralnego podejmowania decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa, które stanowią fundament demokratycznego państwa prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W rezultacie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co byłoby szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Należy podkreślić, że analizowane uprawnienie Komisji do podejmowania tak drastycznych środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, czyli nadmiernej regulacji wykraczającej poza wymogi unijne, którego w polskiej regulacji miało nie być. Co więcej, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu, co dodatkowo podważa jego zasadność i legitymację. W związku z powyższym, postulujemy całkowite usunięcie tego przepisu z projektu ustawy, a uprawnienia Komisji powinny być obejmujący treść: “lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej”. 127 ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 193. Art. 55 ust. 2 IAB Polska Usunięcie fragmentu niejasnego uprawnienia Komisji do nakazania wycofania systemu z rynku z uwagi na wpływ na opinie i nastroje społeczne Obecne brzmienie przepisu przyznającego Komisji prawo do nakazania zaprzestania korzystania z systemu lub wycofania go z rynku jest zbyt szerokie i niejasne. Problematyczne kwestie: 1. Brak precyzyjnych kryteriów, na podstawie których Komisja może podejmować taką decyzję, w kontekście opinii i nastrojów społecznych, 2. Brak jednoznacznej podstawy prawnej w AI Act w zakresie opinii i nastrojów społecznych, 3. Możliwość arbitralnego stosowania przez Komisję środków o skrajnych konsekwencjach dla przedsiębiorców, 4. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Ponadto, Ministerstwo nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego uprawnienia, w tym do AI Act jako podstawy prawnej tego zakresu przepisu. Jeśli Ministerstwo uzna taki środek za konieczny, powinien on być przedmiotem odrębnej inicjatywy ustawodawczej, zawierającej jasne uzasadnienie oraz podstawę prawną. Uwaga uwzględniona W przepisie (art. 47) odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 194. Art. 55 ust. 4 Konfederacj a Lewiatan Zapytanie: Gdzie w treści ustawy opisany jest tryb przyspieszony? Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu (art. 47). 195. Art. 56 PGRP Proponuje się uzupełnić art. 56 dotyczący odpowiedniego stosowania k.p.a. w odniesieniu do postępowań prowadzonych przed Uwaga uwzględniona 128 Komisją w zakresie nieuregulowanym w projekcie również o postępowania przed Przewodniczącym Komisji, który może w toku postępowania – na podstawie art. 53 ust. 1 projektu – wydawać stronie ostrzeżenie, w drodze postanowienia. W projektowanych przepisach brak jest kompleksowego uregulowania wydawania postanowień, o których mowa w art. 53 ust. 1, a wobec braku odesłania do k.p.a. w tym wypadku, mogą powstać wątpliwości interpretacyjne. Przepis (art. 48) został uzupełniony w zakresie odpowiedniego stosowania k.p.a. w odniesieniu do postępowań przed Przewodniczącym Komisji. 196. Art. 57 Konfederacj a Lewiatan Proponowane brzmienie: Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uzasadnienie: Ad. ust. 1 - Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ad. ust.2 - Czy nie powinna być tu mowa decyzji z art. 54 ust. 1 i 3? Ad. ust.3 - W ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. art. 57 ust. 2 Konfederacj a Lewiatan Uwaga: Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 129 zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. 197. Art. 57 ust. 2 IAB Polska Poprawa omyłki pisarskiej dot. wskazania określonych jednostek redakcyjnych Zakładamy, że w art. 57 ust. 2 ustawy wystąpiła omyłka redakcyjna. Obecne brzmienie przepisu powinno odnosić się do art. 54 ust. 1 i art. 54 ust. 2, a nie do art. 55 ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 198. Art. 57 ust. 2 UKNF Przepisy art. 55 ust. 3 i 4, do których odsyła projektowany art. 57 ust. 2, nie zawierają podstawy do wydawania decyzji przez Komisję, ani nie mówią o takich aktach administracyjnych. Tym samym odesłanie jawi się jako błędne. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 199. Art. 57 ust. 3 UKNF Przepis zawiera błędne odesłanie do ust. 1, w związku z czym UKNF wskazuje na konieczność ponownej jego weryfikacji. Odwołania jako środek zaskarżenia są wskazane w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 200. Art. 57 ust. 3 PGRP Art. 57 ust. 3 odsyła do stosowania przepisów k.p.c. wyłącznie w odniesieniu do postępowań w sprawach zażaleń od postanowień Komisji, o których mowa w ust. 1. Nie obejmuje natomiast odwołań od decyzji Komisji, o których mowa w ust. 2. Rekomenduje się rozważenie uzupełnienia zakresu przedmiotowego tego przepisu również o sprawy dotyczące odwołań, o których mowa w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. art. 57 ust.4 w zw. z art. 107 Konfederacj a Lewiatan Uwaga: Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 47988f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 49). 201. Art. 57 ust. 4 IAB Polska Jednolita procedura odwoławcza dla ostrzeżeń i decyzji Komisji Obecnie ostrzeżenia wydawane przez Komisję nie podlegają analogicznej procedurze odwoławczej jak decyzje dotyczące naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (poza oczywistymi różnicami wynikającymi z wydawania ostrzeżenia w formie postanowienia, a nie decyzji). Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję zażalenia za słuszne (dodany Art. 49 ust. 5). 130 Brak jednolitej procedury odwoławczej powoduje niepewność prawną i niespójność ochrony podmiotów podlegających regulacji. Zapewnienie jednolitych ram proceduralnych zagwarantuje skuteczność, przewidywalność i spójność prawną. 202. Art. 57 ust. 4 PGRP Rekomenduje się rozważenie możliwości uznania przez Komisję za zasadne – w toku rozpatrywania środka zaskarżenia – nie tylko odwołania, ale także zażalenia. Ponadto rekomenduje się określenie terminu na uznanie przez Komisję odwołania (oraz zażalenia) za słuszne. Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję odwołania oraz zażalenia za słuszne (art. 49 ust. 4 i 5). 203. Art. 61 Konfederacj a Lewiatan Propozycja brzmienia: Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 131 Uzasadnienie: Ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 UOKK - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. 204. Art. 61 RPD Obecnie projektowany art. 61 ustawy o systemach sztucznej inteligencji wyłącza możliwość zawarcia układu o nadzwyczajnym złagodzeniu sankcji tylko w razie wystąpienia niektórych przypadków „poważnego incydentu” w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689, to jest incydentu lub nieprawidłowego działania systemu AI prowadzącego do śmierci osoby, poważnego uszczerbku na zdrowiu, zakłócenia infrastruktury krytycznej oraz poważnych szkód na mieniu lub środowisku, natomiast nie uwzględnia sytuacji wskazanej w art. 3 pkt 49 lit. c tego rozporządzenia, czyli incydentów lub nieprawidłowego działania systemu AI, które bezpośrednio lub pośrednio prowadzą do naruszenia obowiązków przewidzianych w prawie Unii mających na celu ochronę praw podstawowych. Pominięcie tej kategorii poważnych incydentów powoduje, że podmioty, których systemy sztucznej inteligencji doprowadziły do naruszenia podstawowych praw i wolności, na przykład pozbawiły dziecko równych szans na dostęp do edukacji w wyniku nieprawidłowego działania, mogą korzystać z możliwości łagodniejszego traktowania lub nawet uniknąć sankcji. W konsekwencji takie podmioty, mimo naruszenia w sposób pośredni lub bezpośredni podstawowe prawa dzieci, narażając je na poważne konsekwencje zdrowotne, emocjonalne czy rozwojowe, mogłyby uniknąć pełnej odpowiedzialności, co budzi zasadnicze wątpliwości z perspektywy ochrony praw najmłodszych. Jako Rzeczniczka Praw Dziecka postuluję zatem wprowadzenie do katalogu przesłanek negatywnych wyłączenia możliwości zawarcia układu, jeżeli incydent lub nieprawidłowe działanie systemu AI, prowadzą do naruszenia obowiązków przewidzianych w prawie Unii Uwaga wyjaśniona Należy zgodzić się z tezą, że naruszenie praw podstawowych w szczególności dzieci jest bardzo istotną podlegającą szczególnej ochronie. Jednak zasadne jest aby zastosowanie możliwości zastosowania układu w sprawie nadzwyczajnego złagodzenia sankcji odnosiło się do najwyższej wagi negatywnych skutków działania AI. Możliwość zawarcia układu jest pewnego rodzaju popchnięciem do autorefleksji po stronie podmiotu naruszającego przepisy co będzie miało pozytywne odziaływanie na jego postępowanie na przyszłość. Dodatkowo należy wskazać, że aby podmiot naruszający prawo mógł przystąpić do układu musi już podjęć konkretne kroki i zaprzestać naruszania prawa albo usunąć stan niezgodności z prawem. Dodatkowo nawet po pełnieniu warunków nadzwyczajne złagodzenie kary nie będzie stosowane obligatoryjnie. Komisji przypisano prawo do wydania postanowienia o braku możliwości zawarcia układu. Konkretne sprawy będą zatem rozpatrywane indywidualnie. Niezależnie od należy ponadto wziąć pod uwagę że powyższego przy wymierzaniu kar będzie zawsze brane okoliczność że przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. 132 mających na celu ochronę praw podstawowych dzieci lub gdy Komisja stwierdzi wykorzystanie systemów sztucznej inteligencji w sposób naruszający pośrednio lub bezpośrednio podstawowe prawa i wolności dzieci, w szczególności, gdy istnieje wysokie prawdopodobieństwo wyrządzenia im szkody na skutek nieprzestrzegania wymogów rozporządzenia 2024/1689 lub niewłaściwej realizacji tych obowiązków. Naruszenia wynikające z nieprzestrzegania zasad rozporządzenia 2024/1689 mogą prowadzić do długotrwałych i nieodwracalnych skutków w zakresie rozwoju emocjonalnego i psychicznego dzieci, a także narażać je na szkodliwe treści lub nieetyczne praktyki komercyjne, dlatego umożliwienie takim podmiotom uniknięcia odpowiedzialności stanowi lukę w systemie ochrony najmłodszych i nie znajduje przekonującego uzasadnienia w świetle fundamentalnego znaczenia, jakie prawo unijne przypisuje ochronie dzieci. Naruszenia wynikające z nieprzestrzegania rozporządzenia 2024/1689 mogą prowadzić do poważnych i długotrwałych konsekwencji dla dzieci, zwłaszcza w sferze rozwoju emocjonalnego i psychicznego, a także narażać je na szkodliwe treści czy nieetyczne praktyki komercyjne. Przykładowo, jeśli system AI wspierający sędziego w sprawach rodzinnych i opiekuńczych nieprawidłowo klasyfikuje lub filtruje wypowiedzi dziecka, w konsekwencji nie uwzględniając ich w rekomendacjach przedstawianych sędziemu, dochodzi do naruszenia prawa dziecka do bycia wysłuchanym i uwzględniania jego opinii w sprawach, które go dotyczą. Umożliwienie dostawcom systemów AI, których rozwiązania prowadzą do takich naruszeń, uniknięcia odpowiedzialności stanowi istotną lukę w systemie ochrony najmłodszych i nie znajduje uzasadnienia w świetle fundamentalnego znaczenia, jakie ochrona dzieci ma w prawie Unii. Dlatego w sytuacjach, w których incydent lub nieprawidłowe działanie systemu AI prowadzi do naruszenia podstawowych praw i wolności dzieci, należy wyłączyć w ustawie możliwość zawarcia układu pozwalającego na nadzwyczajne złagodzenie sankcji lub całkowite odstąpienie od ich nałożenia. 133 205. Art. 61 ust. 6 Konfederacj a Lewiatan Propozycja brzmienia: 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 206. Art. 61 ust. 7 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 1. Art. 62 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. Uwaga wyjaśniona Termin na zawarcie układu uwzględnia specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 134 207. Art. 62 ust. 4 Konfederacj a Lewiatan Uprawnienia Komisji do zakończenia negocjacji ugodowych są obecnie zbyt szerokie i niejasne. Proponujemy wprowadzenie konkretnych kryteriów, które muszą zostać spełnione, aby Komisja mogła zakończyć negocjacje. Dodatkowo, Komisja powinna być zobowiązana do przedstawienia uzasadnienia swojej decyzji, aby zapewnić stronom przejrzystość i zrozumienie podstawy prawnej i faktycznej takiego zakończenia. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 208. Art. 62 ust. 4 IAB Polska Ograniczenie arbitralności w zakończeniu procesu ugodowego przez Komisję Obecne przepisy przyznają Komisji zbyt szerokie uprawnienia do zakończenia procesu ugodowego bez określenia jasnych kryteriów. Brak wymogu uzasadnienia tej decyzji może prowadzić do arbitralności i niepewności prawnej dla podmiotów regulowanych. Rekomendujemy: 1. Wprowadzenie konkretnych przesłanek, na jakich Komisja może zakończyć proces ugodowy, 2. Obowiązek uzasadnienia decyzji, aby strony mogły zrozumieć jej podstawę prawną i faktyczną. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 209. Art. 62 ust. 4 ZPP Ustalić kryteria, które umożliwią zakończenie negocjacji ugodowych przez organ nadzoru, wraz z obowiązkiem przedstawienia uzasadnienia decyzji. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 1. Art. 66 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uzasadnienie: Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona. Poprawiono odesłanie w pkt 2. 210. Art. 66 ust. 2 pkt 3 IAB Polska Doprecyzowanie definicji złej wiary w procesie zawierania ugody Uwaga wyjaśniona „Zła wiara” jest pojęciem znanym w prawu polskiemu i nie wymaga dodatkowego 135 Brak definicji złej wiary powoduje niepewność prawną i daje Komisji nadmierną swobodę w podejmowaniu decyzji o zakończeniu procesu ugodowego. Rekomendujemy dodanie przykładowej listy działań, które mogą być uznane za prowadzenie negocjacji w złej wierze. Ograniczy to ryzyko arbitralnego stosowania przepisów, zapewnieni przewidywalności i większą ochronę podmiotom regulowanym. doprecyzowania. We wskazanym przepisie została wskazana jako działanie strony postępowania mające charakter pozorny i nie zmierzające do zawarcia układu. 211. Art. 70 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 212. Art. 70 ust. 3 IAB Polska Wprowadzenie wymogu zachowania poufności i przestrzegania zasad ochrony danych, w szczególności tajemnicy przedsiębiorstwa Projektowane przepisy przyznają Komisji zbyt szerokie uprawnienia do żądania informacji, wyjaśnień i dokumentów dotyczących realizacji zobowiązań układowych. Brak mechanizmów ochrony może prowadzić do niekontrolowanego dostępu do poufnych danych biznesowych. Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 213. Art. 71 ust. 2 IAB Polska Ograniczenie kary do spółek dopuszczających się naruszenia Uwaga wyjaśniona Art. 71 został wykreślony. 136 Artykuł 71 ust. 2 w niewłaściwy sposób nakłada kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. 214. Art. 71 ust. 2 Pracodawcy RP Projekt w sposób niewłaściwy nakłada kary na członków zarządu. Wskazujemy, że Akt o AI nie daje podstaw do nakładania kar pieniężnych na członków zarządu spółki. Uwaga wyjaśniona Art. 71 został wykreślony. 215. Art. 74 ust. 2 UKNF W ocenie UKNF przepis wymaga ponownej weryfikacji. Z projektu ustawy, nie wynika, aby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wydawała zezwolenia, do których odnosi się ten przepis. Uwaga uwzględniona Wykreślono termin „zezwolenie”. 216. Art. 74 ust. 2 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwag uwzględniona Przepis został przeredagowany. Wykreślono termin „zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. Katalogu sankcji wynika z przepisów ustawy i rozporządzenia 2024/1689. 217. Art. 77 IAB Polska Możliwość oznaczania informacji jako niepublicznych przy publikacji decyzji Ustawa powinna jednoznacznie wskazywać, że niektóre informacje nie mogą być ujawniane przez Komisję, zwłaszcza jeśli stanowią tajemnicę przedsiębiorstwa lub informacje wrażliwe. Rekomendujemy także wprowadzenie prawnego obowiązku zachowania poufności oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 218. Art. 77 ZPP Wprowadzić przepisy dotyczące publikacji decyzji – określić, które informacje objęte są ochroną, aby nie dochodziło do nieuprawnionego ujawnienia danych wrażliwych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po 137 usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 219. Art. 77 Konfederacj a Lewiatan Ustawa o systemach sztucznej inteligencji powinna zawierać przepisy umożliwiające oznaczanie przez podmioty pewnych informacji jako niepublicznych w przypadku publikacji decyzji. Komisja powinna mieć wyraźny zakaz ujawniania niektórych wrażliwych informacji. Ustawa powinna również wprowadzać prawny obowiązek zachowania poufności, szczególnie w odniesieniu do tajemnic przedsiębiorstwa oraz zapewniać zgodność wymogów dotyczących publikacji z przepisami o ochronie danych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 220. Art. 77 ust. 1 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Przedstawione wyjaśnienie projektodawcy nie znajduje oparcia w przedłożonych do opiniowania przepisach – brak jest przepisu nakazującego respektowanie ustawowej ochrony informacji, a charakter art. 77 ust.1 projektu ustawy może w praktyce budzić wątpliwości odnośnie do tego, czy ma on charakter szczególny do przepisów o ochronie informacji, zwłaszcza w kontekście art. 26 § 5 ustawy z dnia 6 czerwca 1997 r. Kodeks karny, wyłączającego odpowiedzialność karną w przypadku wykonania jednego z pozostających w kolizji obowiązków z jednoczesnym naruszeniem innego obowiązku (w tym wypadku dopełnienie obowiązku publikacji decyzji administracyjnej pozostaje w kolizji z ewentualnym naruszeniem obowiązku przestrzegania zakazu ujawnienia informacji). Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 221. Art. 77 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w Uwaga częściowo uwzględniona Przepis otrzymał nowe brzmienie. 138 tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uzasadnienie: Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. 222. Rozdział 6 PARP Projekt ustawy nakłada obowiązek raportowania poważnych incydentów związanych z wykorzystaniem systemów sztucznej inteligencji, co może prowadzić do dublowania obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa. W przypadku podmiotów podlegających obu regulacjom może to skutkować koniecznością zgłaszania tego samego incydentu do różnych instytucji, generując zbędne obciążenia administracyjne dla przedsiębiorców. Z tego względu wskazane byłoby doprecyzowanie przepisów w taki sposób, aby umożliwić koordynację procesów raportowania w ramach jednolitego systemu zgłaszania incydentów. Uwaga wyjaśniona Rozdział 6 obejmuje wyłącznie poważne incydenty zaistniałe w związku z wykorzystaniem systemów sztucznej inteligencji, przez co nie może być mowy o “dublowaniu obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa”. 223. Art. 78 ZPP Obowiązujący termin 24 godzin na zgłaszanie poważnych incydentów wprowadza istotne wyzwania operacyjne, szczególnie dla złożonych organizacji zarządzających zaawansowanymi systemami informatycznymi, w tym technologiami AI. Ta krótka perspektywa czasowa wymusza niewłaściwą alokację zasobów - zamiast koncentrować wysiłki na minimalizacji szkód i wdrażaniu działań naprawczych, podmioty muszą priorytetyzować przygotowanie formalnego zgłoszenia. Okres jednej doby jest niewystarczający do przeprowadzenia wnikliwego dochodzenia, które wymaga skompletowania i analizy materiału dowodowego, identyfikacji pierwotnych przyczyn incydentu, oszacowania pełnego zakresu potencjalnych następstw oraz koordynacji pomiędzy różnymi komórkami organizacyjnymi. Sytuacja jest dodatkowo skomplikowana w przypadku podmiotów działających globalnie, gdzie różnice stref czasowych stanowią dodatkową barierę w realizacji procesu. Postulujemy wydłużenie terminu raportowania poważnych incydentów do 7 dni. Proponowana zmiana umożliwi organizacjom realizację pogłębionej analizy technicznej zdarzenia, zebranie kompletnej dokumentacji obejmującej dzienniki systemowe i ślady Uwaga uwzględniona Przepis (art. 69) uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 139 cyfrowe, skuteczną integrację działań pomiędzy departamentami oraz opracowanie kompleksowego raportu zawierającego merytoryczną analizę wszystkich aspektów zdarzenia. Wprowadzone modyfikacje - zarówno w zakresie ograniczenia arbitralnych uprawnień Komisji zgodnie z art. 79 rozporządzenia 2024/1689, jak i wydłużenia terminu raportowania incydentów - przyczynią się do wzmocnienia ochrony prawnej podmiotów, zapobiegania potencjalnym nadużyciom oraz podniesienia jakości i kompletności raportowanych informacji, co bezpośrednio wpłynie na efektywność procesów zarządzania incydentami i bezpieczeństwem systemów informatycznych w perspektywie długoterminowej. 224. Art. 78 Konfederacj a Lewiatan Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości. Uzasadnienie: W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Analogiczne zapisy zawiera art. art. 73 ust.2-4 Rozporządzenia 2024/1689 – w związku z tym unijny prawodawca nie wymaga tak restrykcyjnego terminu jak zaproponowany w projekcie ustawy. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 225. Art. 78 Pracodawcy RP Zgodnie z art. 73 Aktu o AI zgłoszenia, o których mowa w ww. przepisie dokonuje się niezwłocznie po ustaleniu przez dostawcę Uwaga wyjaśniona 140 związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie. Zgodnie z brzemieniem z art. 78 projektu polski podmiot ma jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uważamy, że wskazany termin jest niewystarczający – proponujemy zastosowanie mechanizmu analogicznego do działającego na gruncie RODO, czyli wydłużenie terminu do 72 godzin. Polski projekt daje tylko 24 godziny na zgłoszenie poważnego incydentu, podczas gdy Akt o AI przewiduje 15 dni. Propozycja: Wydłużenie terminu do 72 godzin, analogicznie do RODO. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 226. Art. 78 ust. 1 IAB Polska Wydłużenie terminu raportowania poważnych incydentów z 24 godzin do 72 godzin. 24-godzinny termin raportowania incydentów jest nieracjonalnie krótki i może uniemożliwić rzetelną ocenę sytuacji, szczególnie dla dużych organizacji. Problemy: 1. Złożone organizacje mogą nie mieć wystarczająco dużo czasu na zebranie danych, 2. Strefy czasowe mogą utrudnić terminowe raportowanie, 3. Niewystarczający czas na analizę przyczyn incydentu i jego skutków, a także na określenie, czy jest on poważny. Zwracamy uwagę na art. 73 ust. 2 AI Act: Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 141 stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Proponujemy mechanizm znany z RODO, czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: “Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości.”. 227. Art. 78 ust. 1 Konfederacj a Lewiatan 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. 24 godziny to niewystarczający czas na przeprowadzenie dogłębnej analizy incydentu, zebranie niezbędnych danych, ocenę jego potencjalnego wpływu oraz podjęcie świadomych decyzji dotyczących dalszych działań. W przypadku organizacji o rozbudowanej strukturze, proces ten może być dodatkowo utrudniony przez konieczność koordynacji działań między różnymi działami i jednostkami. W przypadku incydentów związanych z zaawansowanymi technologiami, takimi jak sztuczna inteligencja, ocena ich powagi i potencjalnych konsekwencji może wymagać zaangażowania specjalistów oraz przeprowadzenia szczegółowych analiz technicznych, co jest niemożliwe do wykonania w ciągu 24 godzin. Ponadto, w dużych organizacjach, proces raportowania incydentów może obejmować wiele etapów, takich jak identyfikacja, Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 142 klasyfikacja, analiza, eskalacja oraz przygotowanie raportu. Dla organizacji działających w różnych strefach czasowych 24-godzinny termin raportowania może okazać się jeszcze bardziej problematyczny. W związku z powyższym konieczne jest wydłużenie terminu raportowania poważnych incydentów do co najmniej 7 dni. Zapewni to wystarczającą ilość czasu na: ● Dogłębną analizę incydentu: Identyfikację przyczyn, ocenę skutków oraz potencjalnego wpływu. ● Zebranie niezbędnych danych: Zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu. ● Koordynację działań: Zapewnienie współpracy między różnymi działami i jednostkami w celu skutecznego reagowania na incydent. ● Przygotowanie kompleksowego raportu: Sporządzenie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. 228. Art. 80 ust. 1 IAB Polska Ograniczenie przekazywania danych o incydentach w zakresie innych podmiotów Projektowany przepis pozwala Komisji na szerokie udostępnianie danych o incydentach, co może prowadzić do nadużyć. Rekomendujemy: 1. Określenie jasnych kryteriów, takie udostępnienie może mieć miejsce, 2. Wprowadzenie zabezpieczeń chroniących dane nieosobowe np. tajemnicę przedsiębiorstwa. Pozwoli to ograniczyć nieuzasadnione przekazywanie danych między instytucjami. Uwaga wyjaśniona Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. Dane przekazywane pomiędzy instytucjami udostępniane są w zakresie niezbędnym do realizacji przez te organy ich zadań określonych w rozporządzeniu 2024/1689 lub ustawie z uwzględnieniem przepisów o ochronie danych osobowych. Przekazanie następuje z urzędu lub na wniosek, a podstawą do ich udostepnienia są przepisy powszechnie obowiązujące. 229. Art. 80 ust. 1 UKNF Uzasadnione jest dodanie do katalogu podmiotów wymienionych w art. 80 ust. 1 projektu ustawy Komisji Nadzoru Finansowego, w celu Uwaga uwzględniona 143 pozyskiwania przez nią informacji na temat poważnych incydentów zaistniałych w związku z wykorzystaniem systemów AI wykorzystywanych przez podmioty objęte nadzorem KNF. Tego rodzaju informacje pozostają istotne z perspektywy nadzoru sprawowanego przez KNF, w tym z perspektywy bieżącej oceny ryzyka dla podmiotów rynku finansowego i nieprofesjonalnych uczestników tego rynku z wykorzystania przez podmioty objęte nadzorem KNF systemów sztucznej inteligencji. W art. 80 (obecnie art. 70) w ust. 1 dodano Przewodniczącego Komisji Nadzoru Finansowego. 230. Art. 80 ust. 1 ZPP Ustalić kryteria udostępniania raportów i danych organom, co zapewni odpowiednią ochronę informacji przy jednoczesnej transparentności postępowań. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 231. Art. 80 ust. 1 Konfederacj a Lewiatan Obecny przepis przyznający Komisji uprawnienia do przekazywania raportów i powiązanych danych wielu podmiotom jest zbyt szeroki i może prowadzić do nadużyć. Ustawa nie określa jasno okoliczności, w których takie udostępnianie danych może nastąpić. W związku z tym zalecamy wprowadzenie jasnych i szczegółowych kryteriów, które będą określać, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. Należy również wprowadzić wyraźne zabezpieczenia w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa, które obecnie nie są wystarczająco chronione. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 232. Art. 81 ust. 4 pkt 1 PCA Zgodnie z projektem „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji uczestniczy w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” Zapis sugeruje wiodącą rolę PCA w tym zakresie przy jednoczesnym przypisaniu kompetencji organu notyfikującego do ministra właściwego do spraw informatyzacji. Proponujemy usunięcie tego Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689;”. 144 zapisu lub przeredagowanie zapisu, aby lepiej oddawał podział kompetencji: „Polskie Centrum Akredytacji wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” 233. Art. 81 ust. 4 pkt 2 PCA Zgodnie z projektem „Polskie Centrum Akredytacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji”. Proponujemy przeredagowanie zapisu tak aby punkt ten otrzymał brzmienie: „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;” Zaproponowane podejście umożliwia bardziej elastyczne reagowanie i jest standardowo stosowane w innych obszarach. Rozwiązanie zaproponowane obecnie w projekcie może generować konieczność opracowywania „sztucznej” aktualizacji w przypadku braku takiej konieczności. Jednocześnie zaproponowany termin 24 miesięcy jest terminem w żaden sposób niezwiązanym z cyklem akredytacji wynoszącym 4 lata. PCA zawsze w razie potrzeby opracowuje szczegółowe programy akredytacji, opracowywanie programów akredytacji jest jednym z wymagań normy PN-EN ISO/IEC 17011, które jednostka akredytująca musi spełniać. Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „2) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;”. 234. Art. 82 ust 3 pkt 1 PCA Art. 43 rozporządzenia 2024/1689 nie dotyczy wprost procedury oceny na potrzeby akredytacji i nie stanowi podstawy akredytacji. Proponujemy zmienić treść przepisu na następującą: Uwaga uwzględniona 145 „Certyfikat akredytacji, o którym mowa w art. 24. ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689” Przepisowi (art. 72 ust. 3 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) certyfikat akredytacji, o którym mowa w art. 24 ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689;”. 235. Art. 82 ust. 3 pkt 2 PCA Dokumentem potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689 zgodnie z ust. 1 jest certyfikat akredytacji, zatem dołączanie do wniosku innych dokumentów nie jest uzasadnione. Wydaje się, iż wymagania wymienione w pkt 2 są już zawarte w pkt 1. – zatem jest to powtórzenie. Zgodnie z art. 30 ust. 3 Rozporządzenia 2024/1689 tylko w przypadku, gdy podstawą notyfikacji nie jest certyfikat akredytacji, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. Uwaga uwzględniona Odstąpiono od regulacji zawartej w art. 72 ust. 3 pkt 2. 236. Rozdział 8 PARP W projekcie ustawy przewidziano możliwość ustanowienia piaskownic regulacyjnych, co zostało ujęte w art. 85. Niemniej jednak brakuje szczegółowych regulacji określających zasady ich funkcjonowania, kryteria uczestnictwa dla przedsiębiorstw oraz zakres wsparcia dla firm testujących nowe rozwiązania. Warto doprecyzować, w jaki sposób przedsiębiorcy będą mogli skorzystać z tego mechanizmu oraz jakie konkretne korzyści wynikają z testowania rozwiązań w ramach piaskownic regulacyjnych. Warto rozważyć uzupełnienie przepisów o regulacje dotyczące współpracy z ośrodkami badawczymi oraz wskazanie procedur wsparcia dla przedsiębiorców testujących innowacyjne rozwiązania w ramach piaskownic. Uwaga wyjaśniona Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689. Przy konstruowaniu przepisów dotyczących piaskownic regulacyjnych ustawa nie może wyjść poza ramy ww. rozporządzenia. Dodatkowo należy wskazać, że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 237. Art. 85 KRRiT Podtrzymuję jednocześnie stanowisko wyrażone w moim piśmie z dnia 14 listopada 2024 r., że uprawnienia do tworzenia piaskownic Uwaga wyjaśniona 146 regulacyjnych oraz zarządzania nimi powinny przysługiwać także takim organom jak: Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej oraz Przewodniczący Krajowej Rady Radiofonii i Telewizji. Projektodawca zakłada, że będzie to wyłączna kompetencja Przewodniczącego Komisji. Jednocześnie zauważmy, że projekt wskazuje na współpracę Komisji z organami w celu realizacji zadań wynikających z rozporządzenia 2024/1689 i ustawy co dotyczyć powinno również ustanawiania piaskownic regulacyjnych. 238. Art. 85 ust. 4 RPD Art. 85 ust. 4 przewiduje nieodpłatne uczestnictwo mikroprzedsiębiorców oraz MŚP w piaskownicy regulacyjnej. Należy rozszerzyć ten przepis na organizacje pozarządowe wspierające prawa dzieci i ich edukację cyfrową. Proponuje się dodanie nowego ustępu 4a do projektowanego przepisu: „Uczestnictwo organizacji pozarządowej, której celem statutowym jest ochrona dzieci oraz wspieranie inicjatyw edukacyjnych na ich rzecz, w piaskownicy regulacyjnej jest nieodpłatne.” Nieodpłatne uczestnictwo organizacji pozarządowych w piaskownicach regulacyjnych umożliwi tego rodzaju podmiotom bardziej skuteczne analizowanie wpływu AI na dzieci, w tym wczesne wykrywanie niepożądanego oddziaływania wyników generowanych przez tego rodzaju rozwiązania na dzieci. Uwaga wyjaśniona Uczestnictwo w piaskownicach regulacyjnych dotyczy podmiotów określonych art. 2 ust. 1 lit. a- c i e rozporządzenia 2024/1689. 239. Art. 85 ust. 5 NSZZ Wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej ustalono na maksymalnie czterokrotność minimalnego wynagrodzenia za pracę. Uwaga: NSZZ „Solidarność” sprzeciwia się powiązaniu opłaty z minimalnym wynagrodzeniem, bo: 1) brak związku funkcjonalnego z pracą, 2) utrudnia dialog społeczny ws. minimalnego wynagrodzenia (tzw. „podwiązki”). Propozycja: rezygnacja z odniesienia do minimalnego wynagrodzenia i ustalenie opłaty w inny sposób, by wspierać dialog społeczny. Uwaga wyjaśniona Mając na uwadze zakres podmiotów, na które oddziałuje rozporządzenie 2024/1689 oraz projekt ustawy sposób wyznaczenia wysokości opłaty jest optymalny i pozostanie bez wpływu na dialog społeczny w zakresie minimalnego wynagrodzenia. 240. Art. 85 ust 7 KRRiT Z aprobatą przyjmuję również, że aktualny projekt ustawy został uzupełniony o rozdział 8 „Środki wspierające innowacyjność”, który zawiera przepisy dotyczące tworzenia piaskownic regulacyjnych, w tym projektowany art. 85 ust 7. Przepis ten przewiduje tworzenie piaskownic regulacyjnych przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wspólnie z innymi właściwymi organami nadzoru rynku, w tym i z KRRiT - jak można Uwaga uwzględniona Wykreślono odwołanie do art. 57 ust. 1. 147 Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym wnioskować z treści projektu. Należy jednak zauważyć (co zaznaczyłem także w pkt 19 uwag legislacyjnych), że art. 85 w ust. 7 projektu błędnie odsyła do przepisu art. 57 ust. 1 projektowanej ustawy. Nie dotyczy on właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 241. Art. 86 RPD Projektowany art. 86 wymaga doprecyzowania w zakresie ustalania limitu liczby użytkowników oraz innych podmiotów, na które mogą oddziaływać projekty testowane w piaskownicy regulacyjnej, zwłaszcza z uwzględnieniem szczególnej ochrony dzieci. Należy pamiętać, że limit ten ustala minister właściwy do spraw informatyzacji, po zasięgnięciu opinii Komisji, w drodze rozporządzenia, biorąc pod uwagę możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej oraz przewidywany wpływ piaskownicy na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji. Obecnie w projekcie nie przewidziano żadnych ograniczeń dotyczących udziału dzieci w tego rodzaju projektach, co może prowadzić do sytuacji, w której dzieci będą w nieproporcjonalny sposób narażone na eksperymentalne rozwiązania z zakresu sztucznej inteligencji. Z tego względu zasadne jest postulowanie, by projektodawca wprowadził w art. 86 dodatkowe regulacje zapewniające lepszą ochronę dzieci uczestniczących w projektach w piaskownicy regulacyjnej. Po pierwsze, należałoby ustalić górny limit udziału osób małoletnich w populacji użytkowników objętych oddziaływaniem projektów testowanych w piaskownicy regulacyjnej, przyjmując, że powinien on być niższy niż limit dotyczący osób dorosłych ze względu na potrzebę ochrony dzieci jako osób, na które AI może mieć szczególny wpływ. Po drugie, wskazane byłoby ustanowienie w projektowanym przepisie dodatkowych mechanizmów ochrony, na przykład uzależnienie Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 148 dopuszczenia projektu przekraczającego limit od uzyskania opinii Rzecznika Praw Dziecka jako konstytucyjnego organu stojącego na straży dobra dziecka. W konsekwencji proponuje się dodanie w art. 86 ust. 3 następującego zdania: „Liczba użytkowników będących dziećmi, na które może oddziaływać jeden projekt w piaskownicy regulacyjnej, nie może przekroczyć 5% limitu ustalonego na podstawie przepisów ust. 1 i 2, chyba że projekt ten uzyska pozytywną opinię Rzecznika Praw Dziecka oraz spełnia podwyższone standardy ochrony danych i bezpieczeństwa dzieci.”. 242. Art. 87 ust. 4 Konfederacj a Lewiatan Przepis w obecnym brzmieniu nakłada na podmiot wymóg udowodnienia, że projekt przyczyni się do celów określonych w pkt 1) i 2), co należy doprecyzować. Przepis powinien wyszczególnić, w jaki sposób podmiot ma zapewnić, że jego udział w projekcie przyczyni się do ww. celów. Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 243. Art. 87 ust. 4 i 6 RPD Art. 87 nie zawiera dodatkowych wymogów dla projektów w piaskownicach regulacyjnych, które dotyczą dzieci. Z perspektywy ochrony praw dzieci istotne jest, aby przepisy wprost uwzględniały sytuację, w której projekt może oddziaływać na najmłodszych użytkowników oraz zobowiązywały podmioty ubiegające się o udział w piaskownicy regulacyjnej do wykazania, że zastosowane rozwiązania minimalizują ryzyko ewentualnych naruszeń. W związku z tym proponuje się wprowadzenie do art. 87 następujących uzupełnień: 1. Dodatkowe kryterium oceny projektów w piaskownicach regulacyjnych, które dotyczą dzieci W ust. 4, który określa warunki kwalifikacji podmiotu do uczestnictwa w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „4) Jeżeli projekt może oddziaływać na dzieci, podmiot wykazuje, w jaki sposób projekt spełnia wysokie standardy ochrony dzieci oraz Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 149 zawiera mechanizmy minimalizujące ryzyko narażenia dzieci na szkodę lub krzywdę w związku z udziałem w projekcie.” 2. Obowiązek wskazania potencjalnego wpływu na dzieci W ust. 6, który określa zakres informacji, jakie powinna zawierać oferta podmiotu, który chce uczestniczyć w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „7) jeżeli projekt może oddziaływać na dzieci, oferta zawiera analizę potencjalnego wpływu projektu na dzieci, w tym analizę ryzyka dla ich praw i wolności, a także opis środków zapewniających ochronę praw i bezpieczeństwa dzieci w związku z uczestnictwem w projekcie.” Taka analiza pozwoli na kompleksową ocenę wpływu planowanych rozwiązań na dzieci oraz przyczyni się do stworzenia odpowiednich mechanizmów gwarantujących ich ochronę na etapie testowania i dalszego stosowania innowacyjnych technologii sztucznej inteligencji. 244. Art. 88 ust. 1 i 2 RPD Art. 88 ustanawiając proces oceny ofert w konkursie na uczestnictwo w piaskownicy regulacyjnej nie uwzględnia wprost szczególnych potrzeb i najlepiej pojętego interesu dziecka w procesie oceny projektów w piaskownicy regulacyjnej, zwłaszcza w sytuacji, gdy projekt może oddziaływać na osoby małoletnie. Z uwagi na konieczność ochrony praw dzieci i zapewnienia, aby technologie sztucznej inteligencji były rozwijane w sposób bezpieczny oraz etyczny, proponuje się wprowadzenie do art. 88 następujących zmian: 1. Obowiązek zasięgnięcia opinii Rzecznika Praw Dziecka w zespole konkursowym W celu zagwarantowania, że w procesie oceny ofert zostaną uwzględnione aspekty ochrony praw dziecka oraz bezpieczeństwa i etyki stosowania technologii wobec osób małoletnich, proponuje się dodanie nowego ust. 1a w brzmieniu: „1a. W przypadku gdy projekt może oddziaływać na użytkowników będących dziećmi, zespół konkursowy zasięga opinii Rzecznika Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 150 Praw Dziecka oceniającej projekt z perspektywy realizacji przez niego najlepiej pojętego interesu dziecka” 2. Ocena projektów pod kątem najlepiej pojętego interesu dziecka. Należy rozszerzyć zakres oceny ofert dokonywanej przez zespół konkursowy. W tym celu proponuje się dodanie zdania drugiego do art. 88 ust. 2: „W przypadku, gdy projekt może oddziaływać na dzieci, zespół konkursowy dokonuje oceny oferty również pod kątem realizacji przez projekt najlepiej pojętego interesu dziecka, uwzględniając w szczególności bezpieczeństwo i ochronę prywatności dzieci”. Wprowadzenie powyższych zmian pozwoli na pełniejsze zabezpieczenie praw dzieci w trakcie oceny projektów testowanych w piaskownicy regulacyjnej oraz zapewni, że innowacyjne rozwiązania oparte na sztucznej inteligencji będą w większym stopniu uwzględniać szczególne potrzeby i bezpieczeństwo najmłodszych użytkowników. 245. Art. 91 RPD Biorąc pod uwagę potrzebę zagwarantowania dobra dzieci jako potencjalnych uczestników projektów w piaskownicy regulacyjnej, należy rozszerzyć obowiązki podmiotów uczestniczących w piaskownicy o wymóg dostosowania przekazywanych informacji do potrzeb małoletnich odbiorców. W szczególności art. 91 ust. 1 pkt 1 powinien precyzować, że jeśli projekt oddziałuje lub może oddziaływać na dzieci, podmiot uczestniczący ma obowiązek przedstawienia wymaganych informacji w sposób zrozumiały dla dzieci, uwzględniając ich wiek oraz poziom dojrzałości. Taki obowiązek zapewni, że dzieci będą świadome udziału w projekcie oraz jego potencjalnych skutków, co jest zgodne z zasadą przejrzystości i ochrony ich praw. Brak takiego wymogu może prowadzić do sytuacji, w której dzieci nie będą miały realnej możliwości zrozumienia, w jaki sposób dany projekt i poddanie się wpływowi AI w warunkach piaskownicy regulacyjnej na nie wpływają. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 246. Art. 92 IAB Polska Skonkretyzowanie uprawnień kontrolnych Komisji w zakresie piaskownicy regulacyjnej Uwaga wyjaśniona 151 Projektowane przepisy nie gwarantują wystarczającej ochrony poufności informacji w ramach testowania nowych technologii. Tym samym nie zapewniają zaufania i bezpieczeństwa uczestniczących podmiotów Kontrole te powinny być dostosowane do uprawnień nadzorczych Komisji związanych z weryfikacją naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (zgodnej z naszymi uwagami). Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Kontrole zostały zaprojektowane stosownie do uprawnień nadzorczych Komisji wynikających z AI Act lub ustawy o systemach sztucznej inteligencji. Nie naruszają zasad poufności ani tajemnic prawnie chronionych. 247. Art. 94 ust. 1 RPO Druga kwestia dotyczy rozwiązań mających na celu wykonanie art. 95 rozporządzenia 2024/1689. Zgodnie z art. 95 ust. 1 rozporządzenia, urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. Tymczasem art. 94 ust. 1 projektowanej ustawy stanowi jedynie, że minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. Artykuł 10 ust. 2 pkt 4 stanowi natomiast, że Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców. Nie negując zasadności powierzenia tego rodzaju zadań ministrowi i Komisji, wskazać należy, że uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki, Uwaga wyjaśniona Przyjęta przez projektodawcę regulacja ma na celu umożliwienie stosowania art. 95 ust. 1 rozporządzenia 2024/1689 uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki. W tym zakresie projektowane rozwiązania są optymalne i kompletne. Natomiast w kwestii osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 175 należy zauważyć że obok państw członkowski znaczącą rolę będą odgrywały działania podjęte przez Europejską Radę ds. Sztucznej Inteligencji (dalej „Radą”) Komisji Europejskiej. 152 przyjęte w projektowanej ustawie rozwiązania, w ocenie RPO, mogą okazać się niewystarczające dla osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 17521. 248. Art. 96 IAB Polska Poszerzenie listy podmiotów kwalifikujących się do wsparcia finansowego Obecnie projektowane przepisy ograniczają możliwość wsparcia do określonej grupy podmiotów, co nie sprzyja rozwojowi ekosystemu AI w Polsce. Szersze ramy pozwoliłyby na tworzenie szerszych partnerstw, ułatwiając rozwój rynku. Rozszerzenie zakresu zachęciłoby do współpracy między różnymi podmiotami przyczyniając się do rozwoju AI w Polsce. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakim ma ono służyć. 249. Art. 96 ZPP Wskazać, że wsparcie finansowe dla podmiotów wdrażających systemy AI powinno być jasno określone, aby nie naruszać równowagi pomiędzy nadzorem a wsparciem innowacji. Uwaga wyjaśniona Przepis w sposób jasny określa podmioty zaangażowane w finansowanie, źródła finansowania oraz jego cele. Przewidziane w przepisie rozwiązania nie naruszają zasad wiązanych z nadzorem natomiast mają istotne znaczenie dla wsparcia innowacyjności. 250. Art. 96 Konfederacj a Lewiatan Uprawnienie Ministra Cyfryzacji do udzielania wsparcia finansowego na rozwój sztucznej inteligencji stanowi istotny krok w kierunku pobudzenia innowacji w tej dziedzinie. Niemniej jednak, aby w pełni wykorzystać potencjał tego wsparcia i stymulować dynamiczny rozwój rynku AI w Polsce, konieczne jest rozszerzenie listy kwalifikujących się odbiorców. Obecne ramy kwalifikowalności, choć wartościowe, mogą nie uwzględniać wszystkich podmiotów, które mogłyby wnieść istotny wkład w rozwój ekosystemu sztucznej inteligencji. Rozszerzenie tych ram pozwoliłoby Ministerstwu na nawiązanie współpracy z szerszym gronem interesariuszy, w tym nie tylko z dużymi przedsiębiorstwami, ale także ze startupami, małymi i średnimi Uwaga wyjaśniona Odbiorcy kwalifikujący się do udzielania wsparcia finansowego na rozwój sztucznej inteligencji zostali określeni w oparciu o sposób oraz źródła finansowania. Tworząc ich listę wzięto również pod uwagę cel jakiemu ma służyć finansowanie. Odpowiada ona też na potrzeby celem jakim ma ono służyć. 153 przedsiębiorstwami, instytucjami badawczymi, organizacjami pozarządowymi oraz uczelniami wyższymi. Startupy ze swoją innowacyjnością i elastycznością, często są źródłem przełomowych rozwiązań w dziedzinie AI. Małe i średnie przedsiębiorstwa, stanowiące trzon polskiej gospodarki, mogą wykorzystać sztuczną inteligencję do optymalizacji procesów, tworzenia nowych produktów i usług oraz zwiększenia swojej konkurencyjności. Instytucje badawcze odgrywają kluczową rolę w rozwoju technologii AI, prowadząc badania podstawowe i stosowane, a także kształcąc przyszłych specjalistów. Organizacje pozarządowe mogą pełnić funkcję strażników etycznego i odpowiedzialnego rozwoju sztucznej inteligencji, a także wspierać edukację i społeczną akceptację dla tej technologii. Uczelnie wyższe, poprzez swoje programy badawcze i dydaktyczne, stanowią kuźnię talentów i innowacji w dziedzinie AI. Rozszerzenie zakresu wspieranych podmiotów przyczyniłoby się do powstania bardziej zróżnicowanego i kompleksowego ekosystemu innowacji w zakresie sztucznej inteligencji, który byłby w stanie sprostać wyzwaniom przyszłości i wykorzystać szanse, jakie niesie ze sobą ta dynamicznie rozwijająca się dziedzina. Taki ekosystem, oparty na współpracy różnych aktorów, byłby bardziej odporny na zmiany i zdolny do generowania innowacji o charakterze przełomowym, które mogłyby przynieść korzyści zarówno gospodarce, jak i społeczeństwu. 251. Art. 97 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich 154 podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 252. Art. 97 ust. 4 IAB Polska Uproszczenie przeliczania kar z EUR na PLN Obecne zasady przeliczania kar są niepotrzebnie skomplikowane. Zalecamy zastosowanie procedury przyjętej w ustawie o ochronie konkurencji i konsumentów: Przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 253. Art. 97 ust. 4 Konfederacj a Lewiatan Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 254. Art. 98 ZPP Wydłużyć termin na podanie danych niezbędnych do ustalenia kary – rekomendujemy zmianę z 14 dni na okres umożliwiający rzetelną analizę (np. minimum 30 dni). Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania 155 danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 255. Art. 98 Konfederacj a Lewiatan Proponowane brzmienie: Art. 98. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 256. Art. 98 ust. 1. IAB Polska Wydłużenie terminu na dostarczenie do Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej do 60 dni Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania. 257. Art. 98 ust. 1. Pracodawcy RP Artykuł 98 ust. 1 projektu przewiduje 14 dni na przekazanie danych w celu ustalenia kary. Ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Art. 98 ust. 1 Pracodawców RP Termin 14 dni na przekazanie danych do ustalenia kary jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność, nie należy do czynności o dużym stopniu skomplikowania. 258. Art. 99 IAB Polska Przekazywanie wpływów z kar do budżetu państwa Uwaga uwzględniona 156 Obecny przepis pozwala na finansowanie Komisji z wpływów z kar, co może rodzić konflikt interesów. Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. (art. 87). 259. Art. 99 Konfederacj a Lewiatan Projektowany przepis, zezwalając na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję, stwarza niebezpieczny precedens. Mechanizm ten może zachęcać do nakładania wysokich i licznych kar, niekoniecznie uzasadnionych, w celu poprawy sytuacji finansowej Komisji. Takie rozwiązanie jest szkodliwe dla rozwoju sztucznej inteligencji w Polsce, ponieważ systemowo zachęca organ do nakładania możliwie wysokich i licznych kar pieniężnych na dostawców systemów sztucznej inteligencji, co może zniechęcić do inwestowania i rozwoju w tej dziedzinie. Przepis tego typu może zniweczyć wszelkie inne rozwiązania zawarte w projekcie ustawy, które miałyby sprzyjać rozwojowi sztucznej inteligencji, takie jak np. piaskownice regulacyjne, które mają na celu stworzenie bezpiecznego i kontrolowanego środowiska do testowania innowacyjnych rozwiązań. Rozwiązanie, w którym kary pieniężne stanowią przychód karzącego, jest niezgodne z europejskimi i polskimi standardami dla organów nadzoru. Kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów. Zgodnie z odpowiednimi przepisami, wpływy z kar nakładanych przez te organy są przekazywane albo do budżetu państwa, albo do specjalnie utworzonych funduszy celowych, które mają osobowość prawną i pozostają poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję powinny być przekazywane do budżetu państwa, tak jak było to zapisane w pierwotnej wersji projektowanej ustawy. Takie rozwiązanie zapewniłoby większą przejrzystość i zapobiegłoby potencjalnym konfliktom interesów. Uwaga uwzględniona Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa (art. 87). 157 260. Art. 100 ust. 7 IAB Polska Doprecyzowanie zasad odwołania odroczeń i rozłożenia na raty Brak precyzyjnych ograniczeń dla Komisji w zakresie odwołania odroczeń lub rozłożeń na raty może prowadzić do nadmiernego obciążenia finansowego dla podmiotów regulowanych. Rekomendujemy określenie, że Komisja może odwołać odroczenie lub rozłożenie na raty tylko wtedy, gdy pojawią się nowe lub wcześniej nieznane okoliczności z powodu wcześniejszych działań ukaranego podmiotu, które utrudniły ich uzyskanie. Uwaga wyjaśniona Przepisy art. 100 stanowią rozwiązanie znane w polskim prawie np. Ustawie o ochronie danych osobowych i Ustawie o ochronie konkurencji i konsumentów. 261. Art. 102 ust. 3 PGRP Rekomenduje się określenie terminu na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej za słuszne. Uwaga uwzględniona Przepis (art. 90 ust. 3) został uzupełniony o termin 14 dni od dnia doręczenia odwołania na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej. 262. Art. 104 Konfederacj a Lewiatan Propozycja brzmienia: Art. 104. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji przepisy ustawy o postępowaniu egzekucyjnym w administracji Uzasadnienie: Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 263. Art. 105. Konfederacj a Lewiatan Propozycja brzmienia: Uwaga wyjaśniona 158 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 264. Art. 105 – art. 106 Pracodawcy RP Zasadnym byłoby usunięcie w całości zapisów projektu sugerujących sankcje karne w rozdziale 9 (mowa o art. 105 – art. 106). Te niosłyby bowiem za sobą znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Przewidziane w projekcie sankcje karne nie znajdują uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 105 - 106 Projekt przewiduje sankcje karne, które nie mają podstaw w Akcie o AI i mogą odstraszać od rozwoju AI. Propozycja: Usunięcie sankcji karnych, skupienie się na administracyjnych środkach egzekwowania prawa. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowań w tym z art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 159 265. Art. 106 Konfederacj a Lewiatan Propozycja brzmienia: Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Należy jednoczenie w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Aspekty karne są w pełni uregulowane w Kodeksie karnym, który należy stosować w takich przypadkach. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 266. Art. 107 ZPP Termin wniesienia odwołania od postanowienia organu kontrolnego powinien zostać wydłużony, np. do 2 tygodni, aby zapewnić odpowiedni czas na przygotowanie odwołania. 2.12. Sankcje karne a) Prosimy, aby sankcje karne stosowano wyłącznie w przypadkach utrudniania lub uniemożliwiania przeprowadzenia kontroli, a nie jako narzędzie mające ograniczać innowacyjność – interpretacja tych środków musi być zgodna z zasadą proporcjonalności. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. Celem wprowadzenia sankcji karnych jest umożliwienie kontrolującemu prawnego niezakłócanego przeprowadzenia kontroli. Przepis nie będzie służył ograniczaniu innowacyjności. 267. Art. 107 - art. 479[88g] § 4 IAB Polska Zapewnienie równego dostępu do dowodów dla Komisji i stron postępowania Uwaga wyjaśniona Celem przepisu jest to aby dostęp do dowodu będącego tajemnicą przedsiębiorstwa i innymi 160 Kodeksu Postępowan ia Cywilnego Obecnie Komisja ma uprzywilejowaną pozycję w dostępie do dowodów, co może naruszać zasady równości procesowej i równości wobec prawa. Rekomendujemy wprowadzenie zasady, że Komisja podlega takim samym ograniczeniom dostępu do dowodów, jak inne strony postępowania. tajemnicami podlegającymi ochronie na podstawie odrębnych przepisów miał ograniczony dostęp podmiotów tj wyłącznie podmioty, które wywodzą z tych dowodów swoje prawa lub w oparciu o nie wydają decyzje i postanowienia. Stąd też niezbędne jest zapewnienie dostępu do tych dowodów Komisji. 268. Art. 107 - art. 479[88h] § 1 Kodeksu Postępowan ia Cywilnego IAB Polska Wydłużenie terminu na wniesienie zażalenia na postanowienie Komisji Obecnie przewidziany termin 1 tygodnia jest zbyt krótki dla podmiotów o skomplikowanej strukturze organizacyjnej lub dla rozbudowanych stanów faktycznych. Wydłużenie zapewni czas na analizę prawną i faktyczną oraz możliwość przygotowania kompleksowego zażalenia. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 269. Art. 107 (w zakresie Art. 479 88 h § 2 K.p.c. PGRP Rekomenduje się weryfikację zakresu odesłania do odpowiedniego stosowania do zażaleń przepisów o odwołaniu w dodawanym przez art. 107 projektu art. 47988h § 2 k.p.c. Zbędne wydaje się odesłanie do art. 47988b, w sytuacji gdy termin i procedurę wnoszenia zażaleń w całości określa nowy art. 47988h § 1 k.p.c. Rozważenia może z kolei wymagać uzupełnienie odesłania w art. 47988h § 2 k.p.c. o odesłanie do odpowiedniego stosowania art. 47988c regulującego przekazanie odwołania do sądu i projektowanego art. 47988g k.p.c. dotyczącego ochrony tajemnic prawnie chronionych. Uwaga uwzględniona Przepis art. 107 projektu w odniesieniu do art. 479 88 h § 2 k.p.c. otrzymał nowe brzmienie z uwzględnieniem korekt zawartych w uwadze. 270. Art. 107 - art. 479[88h](1) Kodeksu Postępowan ia Cywilnego Konfederacj a Lewiatan Uwaga: Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 271. Art. 111 UKNF Przedmiotowa uwaga jest powiązana z uwagą zgłoszoną już powyżej do art. 5 ust. 3 pkt 1 projektu ustawy. Przepis art. 111 projektu ustawy Uwaga uwzględniona 161 wprowadza zmianę w ustawie o nadzorze nad rynkiem finansowym poprzez dodanie do niej nowego art. 17h o następującym brzmieniu: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym, aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Bez tego rodzaju zmiany brak będzie bowiem podstawy prawnej dla zwolnienia KNF z obowiązku zachowania tajemnicy zawodowej, o której mowa w art. 16 ust. 1 ustawy o nadzorze nad rynkiem finansowym, w odniesieniu do informacji przekazywanych do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji na potrzeby współpracy przy sprawowanym przez nią nadzorze. W związku z powyższym nowy art. 17h ustawy o nadzorze nad rynkiem finansowym mógłby przyjąć brzmienie: „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Nadano nowe brzmienie art. 17h ustawy o nadzorze nad rynkiem finansowym zgodne z brzmieniem zaproponowanym w uwadze. „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. 272. Art. 119 IAB Polska Zwiększenie budżetu dla Komisji Obecne finansowanie Komisji może być niewystarczające do skutecznego nadzoru nad sektorem AI i wspierania tego dynamicznie rozwijającego się rynku. Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami 162 Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 273. Art. 120 Konfederacj a Lewiatan Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 to przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 274. Rozdział 8 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że w przypadku przystąpienia podmiotu do udziału w piaskownicy regulacyjnej, w aktualnym projekcie ustawy brak jest uregulowania trybu umożliwiającego podmiotowi wcześniejsze zakończenie projektu, bądź całkowitą rezygnację z udziału w projekcie. Uwaga wyjaśniona Szczegółowe kwestie związane z funkcjonowaniem piaskownic regulacyjnych będą przedmiotem aktów delegowanych KE. Stąd też w projekcie ustawy zawarto jedynie ogólne normy w tym zakresie. 275. Rozdział 8 KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji, w zakresie: Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. Uwaga wyjaśniona Mając na uwadze że projektowana ustawa ma na celu zapewnienie skutecznego stosowania przepisów rozporządzenia 2024/1689 a wskazany w uwadze rozdział dotyczy środków wspierających innowacyjność projektodawca nie znajduje podstawy do rozszerzania zadań KRRiT . 276. Rozdział 9 IAB Polska Usunięcie postanowień dotyczących sankcji karnych w Rozdziale 9 Uwaga wyjaśniona 163 Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie AI w Polsce. Rozdział 9 w zakresie sankcji prawnokarnych dotyczy wyłącznie kwestii współpracy z Komisją w wykonywaniu jej uprawnień kontrolnych, nie dotyczą natomiast rozwoju AI: 1. Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system AI stwarza ryzyko, o którym mowa w art. 79 AI Act (art. 106). 2. Za naruszenie AI Act przewidziana jest administracyjna kara pieniężna (ale nie sankcja prawnokarna) w wysokości i na warunkach określonych w rozdziale XII AI Act (art. 97- 104). Nie mamy żadnych argumentów, aby kwestionować ważność tych przepisów, gdyż wynikają one wprost z AI Act. Mając na uwadze, że celem rozporządzenia 2024/1689 jest zapewnienie bezpiecznej, godnej zaufania i etycznej sztucznej inteligencji niezbędne jest wprowadzenie skutecznych lecz możliwe najmniej obciążających podmioty procedur kontroli. W celu zapewnienia natomiast niezakłóconego jej przebiegu niezbędne jest przewidzenie odpowiednich środków. Takim środkiem są kary wskazane w rozdziale 9. Jest to instytucja znana i wykorzystywana w systemie prawa polskiego. 277. Uwagi redakcyjne KRRiT W art. 1 projektu należy uzupełnić pkt 2 o odniesienie się także do ustawy, skoro w art. 49 ust. 1 wskazano, że Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2) W art. 2 w ust. 1 w pkt. 1: a) w lit. a projektu przy powoływaniu przepisów ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych brak jest wyrazu „ustawy”. Ponadto budzi wątpliwości czy odesłanie do działalności, o której mowa w art. 2 ust. 1 w/w ustawy, powinno dotyczyć całego ustępu 1, ponieważ przepis ten jedynie w pkt 1 odnosi się do działalności, b) w lit. b projektu zbędne wydaje się wskazywanie na przepisy art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców zawierające definicję przedsiębiorcy. 3) W art. 4 w pkt. 2 projektu wskazano, że ustawy nie stosuje się do spraw związanych z realizacją zadań ustawowych Agencji Uwaga uwzględniona Projekt wskutek uwzględnionych uwag uległ znacznym zmianom. Przy opracowywaniu przepisów wprowadzono poprawki w zakresie dostosowanym do aktualnego ich brzmienia. W pozostałym zakresie projekt pod względem legislacyjno- redakcyjnym zostanie dopracowany na etapie komisji prawniczej. 164 Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w tym pozostających w bezpośrednim związku z tymi sprawami działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej, wobec której toczy się postępowanie przygotowawcze lub skazanej prawomocnym wyrokiem sądu w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812, 1222, 1562, 1684 i 1871). Wydaje się, że proponowany przepis odnoszący się do ustawowych zadań Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu wskazuje jedynie na zakres bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego leżący w kompetencjach Agencji Bezpieczeństwa Wewnętrznego, pomijając kompetencje Agencji Wywiadu w sprawach ochrony bezpieczeństwa zewnętrznego państwa. 4) W art. 5 ust. 3 pkt 9 projektu błędnie przyjęto, że w ustawie o świadczeniu usług drogą elektroniczną (Dz.U. z 2020 r. poz. 344) ustanowiony został koordynator usług cyfrowych podczas gdy w obecnym stanie prawnym taki organ nie został wyznaczony. 5) W art. 8 w pkt. 8 projektu wyraz „wydane” należy zastąpić wyrazem „wydaje”. 6) W art. 12: a) w ust. 3 w pkt 4 projektu po wyrazie „informację” należy dodać wyraz „o”, b) w ust. 7 projektu po wyrazach „w wyznaczonym” należy usunąć wyraz „w” i rozważyć doprecyzowanie terminu poprzez dodanie wyrazów „nie później niż”, c) w ust. 9 należy rozważyć czy termin wydania opinii powinien być liczony od dnia wniesienia opłaty za wniosek, skoro opłatę wnosi się przed złożeniem wniosku, d) w pkt. 10 projektu błędnie odesłano do ust. 8. 7) W art. 15 w ust. 2 w pkt. 2 projektu wydaje się, że wyraz „informacji” został błędnie odmieniony. 165 8) W art. 18 w ust. 10 projektu wydaje się, że wyraz „zespołu” został błędnie odmieniony. 9) W art. 20 w ust. 1 projektu wydaje się, że przepis zawiera błędne odesłanie do podmiotów, o których mowa art. 6 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce. Art. 6 ust. 2 w/w ustawy odnosi się do polityki naukowej państwa. 10) W art. 24 w ust. 2 projektu błędnie odesłano do art. 4 ust. 3 pkt 4 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi. W w/w ustawie nie ma takiego przepisu. 11) W art. 37 w ust. 4 projektu niepotrzebnie powtórzono wyrazy „do spraw”. 12) W art. 38 w ust. 3 w pkt. 1 projektu niejasne jest do jakiego art. 6 pkt 1 zastosowano wyłączenie. 13) W art. 42 ust. 1 w pkt. 6 projektu należy poprawić błędy redakcyjne. 14) W art. 46 ust. 1 projektu błędnie wskazano, że to kontrolowany, a nie kontrolujący, sporządza projekt protokołu. 15) W art. 47 projektu błędnie ponumerowano ustępy. Ponadto w ust. 2 tego artykułu błędnie odesłano do ust. 1 pkt 2 i 3. 16) W art. 55 ust. 6 projektu odsyła do decyzji, o której mowa w ust. 1. Należy zaznaczyć, że w ust. 1 nie uregulowano kwestii wydawania przez Komisję decyzji. 17) W art. 57 ust. 2 projektu odsyła do decyzji, o której mowa w art. 55 ust. 3 i 4. Jednakże w przywołanych przepisach projektodawca nie odniósł się do decyzji. 18) W art. 77 w ust. 2 projektu wydaje się, że należy wskazać na Biuletyn Informacji Publicznej. 19) W art. 85 w ust. 7 projektu jest błędne odesłanie do przepisu art. 57 ust. 1 ustawy, który nie dotyczy właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w 166 Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 20) W art. 89: a) w ust. 1 projektu wydaje się, że opublikowanie protokołu oceny ofert i listy rankingowej tworzonych w związku z konkursem na uczestnictwo w piaskownicy regulacyjnej powinno odbyć się w Biuletynie Informacji Publicznej, b) w ust. 7 projektu wydaje się, że wskazując na protokół i listę rankingową błędnie odesłano do przepisu art. 87 ust. 4, który to zawiera katalog przesłanek zakwalifikowania podmiotu do uczestnictwa w piaskownicy regulacyjnej. 21) W art. 90 w ust. 3 projektu wydaje się, że nastąpiło błędne odesłanie do przepisu w art. 57 ust. 15 rozporządzenia 2024/1689, który nie odnosi się do sprawozdań. 22) W art. 92 w ust. 3 projektu po wyrazie „decyzję” należy dodać wyraz „o”. 23) W art. 93 ust. 2 projektu wydaje się niekompletny, a przez to niezrozumiały. 24) W art. 96 projektu wydaje się, że część wspólna przepisu odnosząca się do pkt 1 i 2 nie koreluje z poprzedzająca ją treścią. 25) W art. 107 projektu (dot. art. 47988b KPC) zbędnie oznaczono jednostkę redakcyjną § 1. 26) W art. 107 projektu (dot. art. 47988h § 2 KPC) odesłano do art. 47988d § 1 KPC, natomiast w proponowanym brzmieniu tego artykułu nie ma § 1. 278. OSR PUODO Na koniec nie można pominąć kwestii związanych z koniecznością zapewnienia Prezesowi UODO środków finansowych na realizację nowych zadań związanych z realizacją nadzoru w zakresie spraw dotyczących przetwarzania danych osobowych w ramach systemów sztucznej inteligencji. W związku z nowymi zadaniami organu nadzorczego wynikającymi bezpośrednio z przepisów rozporządzenia 2024/1689, Prezes UODO sygnalizuje potrzebę przeznaczenia odpowiednich środków z budżetu państwa na wykonywanie przez niego tych zadań oraz w zakresie projektowanej współpracy z Komisją. Uwaga wyjaśniona W OSR zawarto wyliczenie środków finansowych dla podmiotów, którym w związku z przepisami, które zaczną obowiązywać z dniem 2 sierpnia 2025 r., zostaną przypisane konkretne zadania wynikające z AI Aktu. Do tych podmiotów należy powołany przepisami ustawy organ nadzoru rynku, sąd ochrony konkurencji i konsumentów oraz PCA. 167 Pozostałe podmioty, w tym Minister Cyfryzacji, PUODO, realizujące zadania powiązane z AI a wynikające ze swojej właściwości lub współpracy z KRiBSI będą realizować je w ramach posiadanych środków finansowych. 279. OSR pkt 6 PCA Zwiększenie wydatków w funduszu osobowym PCA, które są wymienione w tym punkcie – powinno być również odzwierciedlone w tabeli z wpływem na sektor finansów publicznych. Wprowadzenie tego zapisu jest szczególnie istotne biorąc pod uwagę, iż pod tabelą w pkt 6 znajduje się zastrzeżenie: „Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych.” W przypadku braku ww. zaproponowanego uwzględnienia obecne zapisy będa niespójne. Z jednej strony OSR zaznacza konieczność zwiększenia funduszu osobowego PCA a z drugiej nie uwzględnia tej informacji w wpływie na sektor finansów publicznych. Obecnie w OSR zamieszczona została w odniesieniu do PCA informacja: „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę szacowne terminy wejścia w życie projektowanej ustawy proponujemy następujące brzmienie „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,3 mln w 2025 r. i o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę, iż plany finansowe na 2025 r. zostały już przyjęte PCA wnioskuje o uzupełnienie OSR i wstawienie w tym punkcie jako przedostatniego - akapitu o następującej treści: „W związku z planowaną zmianą poziomu zatrudnienia w roku 2025 dokonana Uwaga uwzględniona OSR został uzupełniony pkt 6. 168 zostanie zmiana w planie finansowym w trakcie realizacji budżetu na ten rok” 280. Uzasadnieni e Str. 10 Analogicznie do uwag Rzecznika Praw Dziecka dotyczących składu Komisji, z uzasadnienia należy wykreślić przedstawiciela Rzecznika Praw Dziecka jako członka Komisji. Uwaga uwzględniona Z uzasadnienia i OSR został usunięty zapis dotyczący Rzecznika Praw Dziecka. 1 TYTUŁ PROJEKTU Ustawa o systemach sztucznej inteligencji TYTUŁ WDRAŻANEGO AKTU PRAWNEGO / WDRAŻANYCH AKTÓW PRAWNYCH Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Tekst mający znaczenie dla EOG (Dz. U. UE. L. z 2024 r. poz. 1689) WYJAŚNIENIE TERMINU WEJŚCIA W ŻYCIE PROJEKTU / PROJEKTÓW Po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; Termin vacatio legis wynika z konieczności pilnego wdrożenia przepisów rozporządzenia 2024/1689 do krajowego porządku prawnego. JEDN. RED. TREŚĆ PRZEPISU UE KONIECZNO ŚĆ WDROŻENI A T/N* JEDN. RED. TREŚĆ PRZEPISU / PRZEPISÓW PROJEKTU UZASADNIENIE Art. 1 Przedmiot 1. Celem niniejszego rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego i promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji (AI), przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie, w tym demokracji, praworządności i ochrony środowiska, przed szkodliwymi skutkami systemów AI w Unii oraz wspieraniu innowacji. 2. W niniejszym rozporządzeniu ustanawia się: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii; b) zakazy dotyczące niektórych praktyk w zakresie AI; c) szczególne wymogi dotyczące systemów AI wysokiego ryzyka oraz obowiązki spoczywające na operatorach takich systemów; d) zharmonizowane przepisy dotyczące przejrzystości w przypadku niektórych systemów AI; e) zharmonizowane przepisy dotyczące wprowadzania do obrotu modeli AI ogólnego przeznaczenia; f) przepisy dotyczące monitorowania wprowadzania do obrotu, nadzoru rynku, zarządzania i egzekwowania; g) środki wspierające innowacje, ze szczególnym uwzględnieniem MŚP, w tym przedsiębiorstw typu startup. Art. 2. Zakres stosowania 1. Niniejsze rozporządzenie stosuje się do: a) dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę lub znajdują się w Unii czy w państwie trzecim; b) podmiotów stosujących systemy AI, które to podmioty mają siedzibę lub znajdują się w Unii; T Art. 2 Art. 3 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy Dostosowanie zakresu obowiązywania ustawy do zakresu obowiązywania rozporządzenia. c) dostawców systemów AI i podmiotów stosujących systemy AI, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku, gdy wyniki wytworzone przez system AI są wykorzystywane w Unii; d) importerów i dystrybutorów systemów AI; e) producentów produktu, którzy pod własną nazwą lub znakiem towarowym oraz wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI; f) upoważnionych przedstawicieli dostawców niemających siedziby w Unii; g) osób, na które AI ma wpływ i które znajdują się w Unii. 2. W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 102-109 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. 3. Niniejszego rozporządzenia nie stosuje się do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. )), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami. Niniejszego rozporządzenia nie stosuje się do systemów AI, jeżeli - i w zakresie, w jakim - wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. Niniejszego rozporządzenia nie stosuje się do systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub de celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. 4. Niniejszego rozporządzenia nie stosuje się do organów publicznych w państwie trzecim ani do organizacji międzynarodowych objętych zakresem stosowania niniejszego rozporządzenia na podstawie ust. 1, jeżeli te organy lub organizacje wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów międzynarodowych w sprawie ścigania przestępstw i współpracy sądowej zawartych z Unią lub z jednym państwem członkowskim bądź ich większą liczbą, pod warunkiem zapewnienia przez to państwo trzecie lub organizację międzynarodową odpowiednich zabezpieczeń w odniesieniu do ochrony podstawowych praw i wolności osób fizycznych. mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister - Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 5. Niniejsze rozporządzenie nie ma wpływu na stosowanie przepisów dotyczących odpowiedzialności dostawców usług pośrednich określonych w rozdziale II rozporządzenia (UE) 2022/2065. 6. Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych. 7. Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia. 8. Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych. 9. Niniejsze rozporządzenie nie narusza przepisów ustanowionych w innych aktach prawnych Unii dotyczących ochrony konsumentów i bezpieczeństwa produktów. a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–-4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. 10. Niniejsze rozporządzenie nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. 11. Niniejsze rozporządzenie nie uniemożliwia Unii ani państwom członkowskim utrzymywania lub wprowadzania przepisów ustawowych, wykonawczych lub administracyjnych, które są korzystniejsze dla pracowników pod względem ochrony ich praw w odniesieniu do korzystania z systemów AI przez pracodawców, ani zachęcania do stosowania korzystniejszych dla pracowników układów zbiorowych lub zezwalania na ich stosowanie. 12. Niniejszego rozporządzenia nie stosuje się do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub 50. Art. 3 Definicje Do celów niniejszego rozporządzenia stosuje się następujące definicje: 1) \"system AI\" oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który - na potrzeby wyraźnych lub dorozumianych celów - wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak T Art. 4 Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; Dostosowanie definicji ustawowych do definicji z rozporządzenia 2024/1689. predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne; 2) \"ryzyko\" oznacza połączenie prawdopodobieństwa wystąpienia szkody oraz jej dotkliwości; 3) \"dostawca\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia lub zlecają rozwój systemu AI lub modelu AI ogólnego przeznaczenia oraz które - odpłatnie lub nieodpłatnie - pod własną nazwą lub własnym znakiem towarowym wprowadzają do obrotu lub oddają do użytku system AI; 4) \"podmiot stosujący\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej; 5) \"upoważniony przedstawiciel\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która otrzymała i przyjęła pisemne pełnomocnictwo od dostawcy systemu AI lub modelu AI ogólnego przeznaczenia do, odpowiednio, spełnienia w jego imieniu obowiązków i przeprowadzania procedur ustanowionych w niniejszym rozporządzeniu; 6) \"importer\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która wprowadza do obrotu system AI opatrzony nazwą lub 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; znakiem towarowym osoby fizycznej lub prawnej mającej siedzibę w państwie trzecim; 7) \"dystrybutor\" oznacza osobę fizyczną lub prawną w łańcuchu dostaw, inną niż dostawca lub importer, która udostępnia system AI na rynku Unii; 8) \"operator\" oznacza dostawcę, producenta produktu, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora; 9) \"wprowadzenie do obrotu\" oznacza udostępnienie po raz pierwszy systemu AI lub modelu AI ogólnego przeznaczenia na rynku Unii; 10) \"udostępnianie na rynku\" oznacza dostarczanie systemu AI lub modelu AI ogólnego przeznaczenia w celu jego dystrybucji lub wykorzystania na rynku Unii w ramach działalności handlowej, odpłatnie lub nieodpłatnie; 11) \"oddanie do użytku\" oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem; 12) \"przeznaczenie\" oznacza zastosowanie, do jakiego system AI został przeznaczony przez jego dostawcę, w tym konkretny kontekst i warunki wykorzystywania, określone w informacjach dostarczonych przez dostawcę w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i oświadczeniach, jak również w dokumentacji technicznej; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. 13) \"dające się racjonalnie przewidzieć niewłaściwe wykorzystanie\" oznacza wykorzystanie systemu AI w sposób niezgodny z jego przeznaczeniem, które może wynikać z dającego się racjonalnie przewidzieć zachowania człowieka lub interakcji z innymi systemami, w tym z innymi systemami AI; 14) \"związany z bezpieczeństwem element\" oznacza element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia; 15) \"instrukcja obsługi\" oznacza informacje podane przez dostawcę w celu poinformowania podmiotu stosującego o, w szczególności, przeznaczeniu i właściwym użytkowaniu systemu AI; 16) \"wycofanie systemu AI z użytku\" oznacza dowolny środek mający na celu doprowadzenie do zwrotu do dostawcy systemu AI udostępnionego podmiotom stosującym lub do wyłączenia takiego systemu z eksploatacji lub uniemożliwienia korzystania z niego; 17) \"wycofanie systemu AI z rynku\" oznacza dowolny środek mający na celu uniemożliwienie udostępnienia na rynku systemu AI znajdującego się w łańcuchu dostaw; 18) \"skuteczność działania systemu AI\" oznacza zdolność systemu AI do działania zgodnie ze swoim przeznaczeniem; 19) \"organ notyfikujący\" oznacza organ krajowy, który odpowiada za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie; 20) \"ocena zgodności\" oznacza proces wykazania, czy spełniono wymogi ustanowione w rozdziale III sekcja 2 w odniesieniu do systemu AI wysokiego ryzyka; 21) \"jednostka oceniająca zgodność\" oznacza jednostkę, która wykonuje czynności z zakresu oceny zgodności przeprowadzanej przez stronę trzecią, w tym testowanie, certyfikację i inspekcję; 22) \"jednostka notyfikowana\" oznacza jednostkę oceniającą zgodność, którą notyfikowano zgodnie z niniejszym rozporządzeniem i innym stosownym unijnym prawodawstwem harmonizacyjnym; 23) \"istotna zmiana\" oznacza modyfikację w systemie AI po jego wprowadzeniu do obrotu lub oddaniu do użytku, która nie została przewidziana lub zaplanowana przy początkowej ocenie zgodności przeprowadzonej przez dostawcę i która ma wpływ na zgodność systemu AI z wymogami ustanowionymi w rozdziale III sekcja 2, lub która powoduje zmianę przeznaczenia, w odniesieniu, do którego oceniono system AI; 24) \"oznakowanie CE\" oznacza oznakowanie, za pomocą którego dostawca wskazuje, że system AI spełnia wymogi ustanowione w rozdziale III sekcja 2 i innych mających zastosowanie unijnych przepisach harmonizacyjnych, przewidujących umieszczanie takiego oznakowania; 25) \"system monitorowania po wprowadzeniu do obrotu\" oznacza wszelkie działania prowadzone przez dostawców systemów AI służące gromadzeniu i przeglądowi doświadczeń zdobytych w wyniku wykorzystania systemów AI, które wprowadzają oni do obrotu lub oddają do użytku, w celu stwierdzenia ewentualnej konieczności natychmiastowego zastosowania niezbędnych działań naprawczych lub zapobiegawczych; 26) \"organ nadzoru rynku\" oznacza organ krajowy prowadzący działania i stosujący środki zgodnie z rozporządzeniem (UE) 2019/1020; 27) \"norma zharmonizowana\" oznacza normę zharmonizowaną określoną w art. 2 pkt 1 lit. c) rozporządzenia (UE) nr 1025/2012; 28) \"wspólna specyfikacja\" oznacza zbiór specyfikacji technicznych zgodnie z definicją w art. 2 pkt 4 rozporządzenia (UE) nr 1025/2012, zapewniający środki umożliwiające zgodność z niektórymi wymogami ustanowionymi w niniejszym rozporządzeniu; 29) \"dane treningowe\" oznaczają dane wykorzystywane do trenowania systemu AI poprzez dopasowanie jego parametrów podlegających uczeniu; 30) \"dane walidacyjne\" oznaczają dane wykorzystywane do oceny trenowanego systemu AI oraz do dostrajania jego parametrów niepodlegających uczeniu oraz procesu uczenia, między innymi w celu zapobiegania niedostatecznemu wytrenowaniu lub przetrenowaniu; 31) \"zbiór danych walidacyjnych\" oznacza oddzielny zbiór danych lub część zbioru danych treningowych, w którym to przypadku udział tego podzbioru w zbiorze danych treningowych może być stały lub zmienny; 32) \"dane testowe\" oznaczają dane wykorzystywane do przeprowadzenia niezależnej oceny systemu AI w celu potwierdzenia oczekiwanej skuteczności działania tego systemu przed wprowadzeniem go do obrotu lub oddaniem go do użytku; 33) \"dane wejściowe\" oznaczają dane dostarczone do systemu AI lub bezpośrednio przez niego pozyskiwane, na podstawie których system ten generuje wynik; 34) \"dane biometryczne\" oznaczają dane osobowe będące wynikiem specjalnego przetwarzania technicznego, które dotyczą cech fizycznych, fizjologicznych lub behawioralnych osoby fizycznej, takich jak wizerunek twarzy lub dane daktyloskopijne; 35) \"identyfikacja biometryczna\" oznacza zautomatyzowane rozpoznawanie fizycznych, fizjologicznych, behawioralnych lub psychologicznych cech ludzkich w celu ustalenia tożsamości osoby fizycznej przez porównanie danych biometrycznych tej osoby z danymi biometrycznymi osób fizycznych przechowywanymi w bazie danych; 36) \"weryfikacja biometryczna\" oznacza zautomatyzowaną weryfikację typu jeden-do-jednego, w tym uwierzytelnianie, tożsamości osób fizycznych przez porównanie ich danych biometrycznych z wcześniej przekazanymi danymi biometrycznymi; 37) \"szczególne kategorie danych osobowych\" oznaczają kategorie danych osobowych, o których mowa w art. 9 ust. 1 rozporządzenia (UE) 2016/679, art. 10 dyrektywy (UE) 2016/680 i art. 10 ust. 1 rozporządzenia (UE) 2018/1725; 38) \"wrażliwe dane operacyjne\" oznaczają dane operacyjne związane z działaniami w zakresie zapobiegania przestępstwom, ich wykrywania, prowadzenia postępowań przygotowawczych w ich sprawie lub ich ścigania, których ujawnienie mogłoby zagrozić integralności postępowania karnego; 39) \"system rozpoznawania emocji\" oznacza system AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób; 40) \"system kategoryzacji biometrycznej\" oznacza system AI służący do przypisywania osób fizycznych do określonych kategorii na podstawie danych biometrycznych tych osób, oprócz przypadków, gdy taki system pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych; 41) \"system zdalnej identyfikacji biometrycznej\" oznacza system AI służący do identyfikacji osób fizycznych bez ich aktywnego udziału, zwykle na odległość, poprzez porównanie danych biometrycznych danej osoby fizycznej z danymi biometrycznymi zawartymi w referencyjnej bazie danych; 42) \"system zdalnej identyfikacji biometrycznej w czasie rzeczywistym\" oznacza system zdalnej identyfikacji biometrycznej, w którym zbieranie danych biometrycznych, ich porównywanie i identyfikacja odbywają się bez znacznego opóźnienia, i który obejmuje nie tylko natychmiastową identyfikację, ale także ograniczone krótkie opóźnienia w celu uniknięcia obchodzenia przepisów; 43) \"system zdalnej identyfikacji biometrycznej post factum\" oznacza system zdalnej identyfikacji biometrycznej inny niż system zdalnej identyfikacji biometrycznej w czasie rzeczywistym; 44) \"przestrzeń publiczna\" oznacza miejsce fizyczne, będące własnością prywatną lub publiczną, dostępne dla nieokreślonej liczby osób fizycznych, niezależnie od tego, czy mogą mieć zastosowanie określone warunki dostępu, oraz niezależnie od potencjalnych ograniczeń pojemności; 45) \"organ ścigania\" oznacza: a) organ publiczny właściwy w zakresie zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; lub b) inny organ lub podmiot, któremu na podstawie prawa państwa członkowskiego powierzono sprawowanie władzy publicznej i wykonywanie uprawnień publicznych do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 46) \"ściganie przestępstw\" oznacza działania prowadzone przez organy ścigania lub w ich imieniu w celu zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 47) \"Urząd ds. AI\" oznacza zadanie Komisji polegające na przyczynianiu się do wdrażania, monitorowania i nadzorowania systemów AI i modeli AI ogólnego przeznaczenia oraz zarządzania AI, określone w decyzji Komisji z dnia 24 stycznia 2024 r.; zawarte w niniejszym rozporządzeniu odesłania do Urzędu ds. AI odczytuje się jako odesłania do Komisji; 48) \"właściwy organ krajowy\" oznacza organ notyfikujący lub organ nadzoru rynku; w odniesieniu do systemów AI oddanych do użytku lub wykorzystywanych przez instytucje, organy i jednostki organizacyjne Unii, zawarte w niniejszym rozporządzeniu odesłania do właściwych organów krajowych i organów nadzoru rynku odczytuje się jako odesłania do Europejskiego Inspektora Ochrony Danych; 49) \"poważny incydent\" oznacza incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do któregokolwiek z poniższych zdarzeń: a) śmierci osoby lub poważnego uszczerbku na zdrowiu osoby; b) poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważnej szkody na mieniu lub poważnej szkody dla środowiska; 50) \"dane osobowe\" oznaczają dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 51) \"dane nieosobowe\" oznaczają dane inne niż dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 52) \"profilowanie\" oznacza profilowanie zdefiniowane w art. 4 pkt 4 rozporządzenia (UE) 2016/679; 53) \"plan testów w warunkach rzeczywistych\" oznacza dokument opisujący cele, metodykę, zasięg geograficzny, populacyjny i czasowy, monitorowanie, organizację i przeprowadzanie testów w warunkach rzeczywistych; 54) \"plan działania piaskownicy\" oznacza dokument uzgodniony między uczestniczącym dostawcą a właściwym organem opisujący cele, warunki, ramy czasowe, metodykę i wymogi dotyczące działań prowadzonych w ramach piaskownicy; 55) \"piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym; 56) \"kompetencje w zakresie AI\" oznaczają umiejętności, wiedzę oraz zrozumienie, które pozwalają dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ - z uwzględnieniem ich odnośnych praw i obowiązków w kontekście niniejszego rozporządzenia - w przemyślany sposób wdrażać systemy sztucznej inteligencji oraz mieć świadomość, jakie możliwości i ryzyka wiążą się z AI oraz jakie potencjalne szkody może ona wyrządzić; 57) \"testy w warunkach rzeczywistych\" oznaczają ograniczone w czasie testy systemu AI dotyczące jego przeznaczenia prowadzone w warunkach rzeczywistych - poza środowiskiem laboratoryjnym lub środowiskiem symulowanym innego typu - w celu zgromadzenia wiarygodnych i solidnych danych oraz w celu oceny i weryfikacji spełnienia przez system AI z wymogów niniejszego rozporządzenia i które nie są kwalifikowane jako wprowadzanie systemu AI do obrotu lub oddawanie go do użytku w rozumieniu niniejszego rozporządzenia, o ile spełnione są wszystkie warunki określone w art. 57 lub 60; 58) \"uczestnik\" do celów testów w warunkach rzeczywistych oznacza osobę fizyczną, która uczestniczy w testach tego typu; 59) \"świadoma zgoda\" oznacza swobodne, konkretne, jednoznaczne i dobrowolne wyrażenie przez uczestnika zgody na uczestnictwo w określonych testach w warunkach rzeczywistych, po uzyskaniu informacji o wszystkich aspektach testów, które są istotne dla decyzji o uczestnictwie podejmowanej przez uczestnika; 60) \"deepfake\" oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe; 61) \"powszechne naruszenie\" oznacza działanie lub zaniechanie sprzeczne z prawem Unii chroniącym interesy osób fizycznych, które: a) szkodzi lub może zaszkodzić zbiorowym interesom osób fizycznych zamieszkałych w co najmniej dwóch państwach członkowskich innych niż państwo członkowskie, w którym: (i) działanie lub zaniechanie miały swoje źródło lub miejsce; (ii) znajduje się lub siedzibę ma dany dostawca lub w stosownych przypadkach, jego upoważniony przedstawiciel; lub (iii) siedzibę ma podmiot stosujący, jeżeli naruszenie zostało popełnione przez ten podmiot; b) wyrządziło, wyrządza lub może wyrządzić szkodę zbiorowym interesom osób fizycznych i ma cechy wspólne, w tym dotyczy tej samej bezprawnej praktyki lub naruszenia tego samego interesu, oraz ma miejsce jednocześnie w co najmniej trzech państwach członkowskich, a jego sprawcą jest ten sam operator; 62) \"infrastruktura krytyczna\" oznacza infrastrukturę krytyczną zdefiniowaną w art. 2 pkt 4 dyrektywy (UE) 2022/2557; 63) \"model AI ogólnego przeznaczenia\" oznacza model AI, w tym model AI trenowany dużą ilością danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla - z wyłączeniem modeli AI, które są wykorzystywane na potrzeby działań w zakresie badań, rozwoju i tworzenia prototypów przed wprowadzeniem ich do obrotu; 64) \"zdolności dużego oddziaływania\" oznaczają zdolności, które dorównują zdolnościom zapisanym w najbardziej zaawansowanych modelach AI ogólnego przeznaczenia lub je przewyższają; 65) \"ryzyko systemowe\" oznacza ryzyko, które jest charakterystyczne dla modeli AI ogólnego przeznaczenia posiadających zdolności dużego oddziaływania i ma znaczący wpływ na rynek Unii ze względu na zasięg tych modeli lub rzeczywiste lub dające się racjonalnie przewidzieć negatywne skutki dla zdrowia publicznego, porządku publicznego, bezpieczeństwa publicznego, praw podstawowych lub całego społeczeństwa, mogące rozprzestrzenić się na dużą skalę w całym łańcuchu wartości; 66) \"system AI ogólnego przeznaczenia\" oznacza system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI; 67) \"operacja zmiennoprzecinkowa\" oznacza operację matematyczną lub zadanie z wykorzystaniem liczb zmiennoprzecinkowych, które stanowią podzbiór liczb rzeczywistych zwykle przedstawianych na komputerach przez liczbę całkowitą o stałej dokładności przeskalowaną przez całkowity wykładnik stałej podstawy systemu liczbowego; 68) \"dostawca niższego szczebla\" oznacza dostawcę systemu AI, w tym systemu AI ogólnego przeznaczenia, rozwiniętego w drodze integracji modelu AI, niezależnie od tego, czy ten model AI jest dostarczany przez tego samego dostawcę i zintegrowany pionowo czy dostarczany przez inny podmiot na podstawie stosunków umownych. Art. 4 Kompetencje w zakresie AI Dostawcy i podmioty stosujące systemy AI podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 5 Zakazane praktyki w zakresie AI 1. Zakazuje się następujących praktyk w zakresie AI: a) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę; b) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który wykorzystuje słabości osoby fizycznej lub określonej grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia sytuację społeczną lub ekonomiczną, którego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub osoby należącej do tej grupy w sposób, który wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tej osoby lub u innej osoby poważną szkodę; c) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków: (i) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane; (ii) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi; d) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą; e) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (ang. untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej; f) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa; g) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej; zakaz ten nie obejmuje przypadków etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw; h) wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, chyba że - i w zakresie, w jakim - takie wykorzystanie jest bezwzględnie konieczne do jednego z następujących celów: (i) ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych; (ii) zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; (iii) lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw, o których mowa w załączniku II, podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata. Akapit pierwszy lit. h) pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 w odniesieniu do przetwarzania danych biometrycznych do celów innych niż ściganie przestępstw. 2. Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h), mogą być wykorzystywane do celów określonych w tej literze, jedynie w celu potwierdzenia tożsamości konkretnej poszukiwanej osoby, z uwzględnieniem przy tym następujących elementów: a) charakter sytuacji powodującej konieczność ewentualnego wykorzystania takiego systemu, w szczególności powagę, prawdopodobieństwo i skalę szkody, która zostałaby wyrządzona w przypadku niewykorzystania tego systemu; b) konsekwencje wykorzystania takiego systemu dla praw i wolności wszystkich zainteresowanych osób, w szczególności powagę, prawdopodobieństwo i skalę tych konsekwencji. Ponadto wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h) niniejszego artykułu, musi przebiegać z zachowaniem niezbędnych i proporcjonalnych zabezpieczeń i warunków w odniesieniu do takiego wykorzystywania zgodnie z zezwalającym na takie wykorzystanie prawem krajowym, w szczególności w odniesieniu do ograniczeń czasowych, geograficznych i osobowych. Wykorzystanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej jest dozwolone tylko wtedy, gdy organ ścigania przeprowadził ocenę skutków dla praw podstawowych zgodnie z art. 27 oraz zarejestrował system w bazie danych UE zgodnie z przepisami art. 49. W należycie uzasadnionych nadzwyczajnych przypadkach można jednak rozpocząć korzystanie z takich systemów bez rejestracji w bazie danych UE, pod warunkiem, że taka rejestracja zostanie dokonana bez zbędnej zwłoki. 3. Na potrzeby ust. 1 akapit pierwszy lit. h) i ust. 2, każde wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw wymaga uzyskania uprzedniego zezwolenia udzielonego przez organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny państwa członkowskiego, w którym ma nastąpić wykorzystanie; zezwolenie to wydawane jest na uzasadniony wniosek i zgodnie ze szczegółowymi przepisami prawa krajowego, o których mowa w ust. 5. W należycie uzasadnionych pilnych przypadkach korzystanie z takiego systemu można jednak rozpocząć bez zezwolenia, pod warunkiem, że wniosek o takie zezwolenie zostanie złożony bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W przypadku odmowy udzielenia takiego zezwolenia wykorzystywanie systemu wstrzymuje się ze skutkiem natychmiastowym, a wszystkie dane, a także rezultaty i wyniki uzyskane podczas tego wykorzystania musza zostać natychmiast odrzucone i usunięte. Właściwy organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub jasnych przesłanek, które mu przedstawiono, że wykorzystanie danego systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym jest konieczne i proporcjonalne do osiągnięcia jednego z celów określonych w ust. 1 akapit pierwszy lit. h), wskazanego we wniosku, a w szczególności ogranicza się do tego, co jest bezwzględnie konieczne w odniesieniu do przedziału czasowego, a także zakresu geograficznego i podmiotowego. Podejmując decyzję w sprawie wniosku organ ten bierze pod uwagę elementy, o których mowa w ust. 2. Nie można wydać decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym. 4. Bez uszczerbku dla ust. 3, o każdym wykorzystaniu systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw powiadamia się właściwy organ nadzoru rynku i krajowy organ ochrony danych zgodnie z przepisami prawa krajowego, o których mowa w ust. 5. Powiadomienie zawiera co najmniej informacje określone w ust. 6 i nie może zawierać wrażliwych danych operacyjnych. 5. Państwo członkowskie może podjąć decyzję o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w granicach i na warunkach wymienionych w ust. 1 akapit pierwszy lit. h) i w ust. 2 i 3. Zainteresowane państwa członkowskie ustanawiają w swoim prawie krajowym niezbędne szczegółowe przepisy dotyczące wniosku o udzielenie zezwoleń, o których mowa w ust. 3, wydawanie i wykonywanie tych zezwoleń oraz ich nadzorowanie składanie sprawozdań w ich sprawie. W przepisach tych określa się również, w odniesieniu do których celów wymienionych w ust. 1 akapit pierwszy lit. h) - w tym w odniesieniu do których przestępstw wymienionych w ust. 1 akapit pierwszy lit. h) ppkt (iii) - właściwe organy mogą uzyskać zezwolenie na wykorzystanie tych systemów do celów celu ścigania przestępstw. Państwa członkowskie powiadamiają Komisję o tych przepisach najpóźniej 30 dni po ich przyjęciu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. 6. Krajowe organy nadzoru rynku i krajowe organy ochrony danych państw członkowskich, które zostały powiadomione o wykorzystaniu systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw zgodnie z ust. 4, przedkładają Komisji roczne sprawozdania z takiego wykorzystania. W tym celu Komisja przekazuje państwom członkowskim i krajowym organom nadzoru rynku i organom ochrony danych wzór formularza zawierającego informacje na temat liczby decyzji podjętych przez właściwe organy wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny w odniesieniu do wniosków o udzielenie zezwolenia zgodnie z ust. 3 oraz wyników ich rozpatrzenia. 7. Komisja publikuje roczne sprawozdania na temat wykorzystania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, oparte na zagregowanych danych w państwach członkowskich przekazanych w sprawozdaniach rocznych, o których mowa w ust. 6. Te sprawozdania roczne nie mogą zawierać wrażliwych danych operacyjnych dotyczących powiązanych działań w zakresie ścigania przestępstw. 8. Niniejszy artykuł nie ma wpływu na zakazy mające zastosowanie w przypadku, gdy praktyka w zakresie AI narusza inne przepisy prawa Unii. Art. 6 Zasady klasyfikacji systemów AI wysokiego ryzyka 1. Bez względu na to, czy system AI wprowadza się do obrotu lub oddaje do użytku niezależnie od produktów, o których mowa w lit. a) i b), taki system AI uznaje się za system wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wymienionym w załączniku I lub sam system AI jest takim produktem; b) produkt, którego związanym z bezpieczeństwem elementem jest zgodnie z lit. a) system AI, lub sam system AI jako produkt podlegają - na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I - ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku. 2. Oprócz systemów AI wysokiego ryzyka, o których mowa w ust. 1, za systemy wysokiego ryzyka uznaje się systemy AI, o których mowa w załączniku III. 3. Na zasadzie odstępstwa od ust. 2 systemu AI, o którym mowa w załączniku III, nie uznaje się za system wysokiego ryzyka, w przypadku, gdy nie stwarza on znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, w tym poprzez brak znaczącego wpływu na wynik procesu decyzyjnego. Akapit pierwszy stosuje się w przypadku, gdy spełniony jest którykolwiek z następujących warunków: a) system AI jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego; b) system AI jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka; c) system AI jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji i nie ma na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka - bez odpowiedniej weryfikacji przez człowieka; lub d) system AI jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. Niezależnie od akapitu pierwszego system AI, o którym mowa w załączniku III, zawsze uznaje się za system wysokiego ryzyka, w przypadku, gdy system ten dokonuje profilowania osób fizycznych. 4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Taki dostawca podlega obowiązkowi rejestracji określonemu w art. 49 ust. 2. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny. 5. Po konsultacji z Europejską Radą ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"), Komisja przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie niniejszego artykułu zgodnie z art. 96 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez dodanie nowych warunków do warunków ustanowionych w tym przepisie lub ich zmianę, w przypadku, gdy istnieją konkretne i wiarygodne dowody na istnienie systemów AI, które wchodzą w zakres stosowania załącznika III, ale nie stwarzają znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. 7. Komisja przyjmuje zgodnie z art 97 akty delegowane w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez usunięcie któregokolwiek z warunków ustanowionych w tym przepisie, w przypadku, gdy istnieją konkretne i wiarygodne dowody na to, że jest to konieczne w celu utrzymania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu. 8. Zmiana warunków ustanowionych w ust. 3 akapit drugi, przyjęta zgodnie z ust. 6 i 7 niniejszego artykułu, nie może prowadzić do obniżenia ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu i musi zapewniać spójność z aktami delegowanymi przyjętymi zgodnie z art. 7 ust. 1 oraz uwzględniać rozwój rynku i technologii. Art. 7 Zmiany w załączniku III 1. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany N Przepis o charakterze ogólnym stosowany wprost załącznika III poprzez dodanie systemów AI wysokiego ryzyka lub zmianę przypadków ich wykorzystania, w przypadku, gdy spełnione są oba poniższe warunki: a) systemy AI są przeznaczone do wykorzystania w którymkolwiek z obszarów wymienionych w załączniku III; b) systemy AI stwarzają ryzyko szkody dla zdrowia i bezpieczeństwa lub ryzyko niepożądanego wpływu na prawa podstawowe i ryzyko to jest równoważne ryzyku szkody lub niepożądanego wpływu, jakie stwarzają systemy AI wysokiego ryzyka wymienione już w załączniku III, lub jest od niego większe. 2. Przy ocenie warunku określonego w ust. 1 lit. b) Komisja uwzględnia następujące kryteria: a) przeznaczenie systemu AI; b) zakres, w jakim system AI jest wykorzystywany lub prawdopodobnie będzie wykorzystywany; c) charakter i ilość danych przetwarzanych i wykorzystywanych przez system AI, w szczególności, czy przetwarzane są szczególne kategorie danych osobowych; d) zakres, w jakim system AI działa autonomicznie oraz możliwość unieważnienia przez człowieka decyzji lub zaleceń, które mogą prowadzić do potencjalnej szkody; e) zakres, w jakim wykorzystywanie systemu AI już wyrządziło szkodę dla zdrowia i bezpieczeństwa lub miało niepożądany wpływ na prawa podstawowe lub nie wymaga wdrożenia wzbudziło istotne obawy co do prawdopodobieństwa wystąpienia takiej szkody lub niepożądanego wpływu, czego potwierdzeniem są np. zgłoszenia lub poparte dokumentami twierdzenia przedstawione właściwym organom krajowym, lub w stosownych przypadkach, inne zgłoszenia; f) potencjalny zakres takiej szkody lub takiego niepożądanego wpływu, w szczególności pod względem ich nasilenia i możliwości oddziaływania na wiele osób lub nieproporcjonalnego oddziaływania na określoną grupę osób; g) zakres, w jakim osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu są zależne od wyniku działania systemu AI, w szczególności ze względu na fakt, że z przyczyn praktycznych lub prawnych nie jest racjonalnie możliwa rezygnacja z objęcia tym wynikiem; h) zakres, w jakim występuje nierówny układ sił lub osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu znajdują się w słabszym położeniu względem podmiotu stosującego system AI, w szczególności z powodu statusu, władzy, wiedzy, sytuacji gospodarczej lub społecznej lub wieku; i) zakres, w jakim wynik uzyskany przy wykorzystaniu systemu AI jest łatwy do skorygowania lub odwracalny, przy uwzględnieniu dostępnych rozwiązań technicznych umożliwiających jego skorygowanie lub odwrócenie, przy czym za łatwe do skorygowania lub odwracalne nie uznaje się wyników działania systemu mających niepożądany wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe; j) rozmiary i prawdopodobieństwo korzyści płynących z wdrożenia systemu AI dla osób fizycznych, grup lub ogółu społeczeństwa, w tym możliwość poprawy bezpieczeństwa produktów; k) zakres, w jakim obowiązujące prawo Unii przewiduje: (i) skuteczne środki ochrony prawnej w związku z ryzykiem stwarzanym przez system AI, z wyłączeniem roszczeń o odszkodowanie; (ii) skuteczne środki zapobiegania temu ryzyku lub jego znacznego minimalizowania. 3. Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych w celu zmiany wykazu zawartego w załączniku III poprzez usunięcie systemów AI wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) dany system AI wysokiego ryzyka nie stwarza już żadnego znaczącego ryzyka dla praw podstawowych, zdrowia lub bezpieczeństwa, biorąc pod uwagę kryteria wymienione w ust. 2; b) usunięcie z wykazu nie obniża ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w prawie Unii. Art. 8 Zgodność z wymogami N Przepis o charakterze 1. Systemy AI wysokiego ryzyka muszą być zgodne z wymogami ustanowionymi w niniejszej sekcji, przy uwzględnieniu ich przeznaczenia oraz powszechnie uznanego stanu wiedzy technicznej w dziedzinie AI oraz technologii powiązanych z AI. Przy zapewnianiu zgodności z tymi wymogami uwzględnia się system zarządzania ryzykiem, o którym mowa w art. 9. 2. W przypadku, gdy produkt zawiera system AI, do którego mają zastosowanie wymogi niniejszego rozporządzenia oraz wymogi unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawcy są odpowiedzialni za zapewnienie pełnej zgodności ich produktu ze wszystkimi mającymi zastosowanie wymogami na podstawie mającego zastosowanie unijnego prawodawstwa harmonizacyjnego. Przy zapewnianiu zgodności systemów AI wysokiego ryzyka, o których mowa w ust. 1, z wymogami ustanowionymi w niniejszej sekcji oraz w celu zapewnienia spójności, unikania powielania i zminimalizowania dodatkowych obciążeń, dostawcy mogą wybrać, w stosownych przypadkach, integrację niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji, które zapewniają w odniesieniu do swojego produktu, z istniejącą już dokumentacją i procedurami wymaganymi na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A. ogólnym stosowany wprost nie wymaga wdrożenia Art. 9 System zarządzania ryzykiem N Przepis o charakterze ogólnym stosowany wprost 1. Ustanawia się, wdraża, dokumentuje i obsługuje system zarządzania ryzykiem w odniesieniu do systemów AI wysokiego ryzyka. 2. Przez system zarządzania ryzykiem rozumie się ciągły, iteracyjny proces, planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka, wymagający regularnego systematycznego przeglądu i aktualizacji. Obejmuje on następujące etapy: a) identyfikację i analizę znanego i dającego się racjonalnie przewidzieć ryzyka, jakie dany system AI wysokiego ryzyka może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem; b) oszacowanie i ocenę ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem i w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania; c) ocenę innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; d) przyjęcie odpowiednich i ukierunkowanych środków zarządzania ryzykiem zaprojektowanych w celu przeciwdziałania ryzyku zidentyfikowanemu zgodnie z lit. a). 3. Ryzyko, o którym mowa w niniejszym artykule, oznacza tylko takie rodzaje ryzyka, które można stosownie ograniczyć lub wyeliminować poprzez nie wymaga wdrożenia rozwój lub zaprojektowanie systemu AI wysokiego ryzyka lub poprzez zapewnienie odpowiednich informacji technicznych. 4. W ramach środków zarządzania ryzykiem, o których mowa w ust. 2 lit. d), należycie uwzględnia się skutki i możliwe interakcje wynikające z łącznego stosowania wymogów ustanowionych w niniejszej sekcji, w celu skuteczniejszego minimalizowania ryzyka przy jednoczesnym osiągnięciu odpowiedniej równowagi we wdrażaniu środków służących spełnieniu tych wymogów. 5. Środki zarządzania ryzykiem, o których mowa w ust. 2 lit. d), muszą być takie, aby odpowiednie ryzyko szczątkowe związane z każdym zagrożeniem, jak również ogólne ryzyko szczątkowe systemów AI wysokiego ryzyka, oceniano jako dopuszczalne. Przy określaniu najodpowiedniejszych środków zarządzania ryzykiem zapewnia się, co następuje: a) eliminację lub ograniczenie - w zakresie, w jakim jest to technicznie wykonalne - ryzyka zidentyfikowanego i ocenionego zgodnie z ust. 2 poprzez odpowiedni projekt i rozwój systemu AI wysokiego ryzyka; b) w stosownych przypadkach - wdrożenie odpowiednich środków służących ograniczeniu i kontroli ryzyka, którego nie można wyeliminować; c) dostarczenie informacji wymaganych zgodnie z art. 13 oraz w stosownych przypadkach, przeszkolenie podmiotów stosujących. W celu eliminowania lub ograniczania ryzyka związanego z wykorzystaniem systemu AI wysokiego ryzyka należytą uwagę zwraca się na wiedzę techniczną, doświadczenie, wykształcenie i szkolenia, jakich oczekuje się od podmiotu stosującego, oraz zakładany kontekst, w którym ma być stosowany system. 6. Systemy AI wysokiego ryzyka testuje się w celu określenia najodpowiedniejszych i ukierunkowanych środków zarządzania ryzykiem. Testy zapewniają, by systemy AI wysokiego ryzyka działały zgodnie z ich przeznaczeniem oraz były zgodne z wymogami ustanowionymi w niniejszej sekcji. 7. Procedury testowe mogą obejmować testy w warunkach rzeczywistych zgodnie z art. 60. 8. Testy systemów AI wysokiego ryzyka przeprowadza się, w stosownych przypadkach, w dowolnym momencie procesu rozwoju systemu, a w każdym przypadku przed wprowadzeniem go do obrotu lub oddaniem do użytku. Testy przeprowadza się w odniesieniu do uprzednio określonych wskaźników i progów probabilistycznych, stosownych ze względu na przeznaczenie systemu AI wysokiego ryzyka. 9. Przy wdrażaniu systemu zarządzania ryzykiem przewidzianego w ust. 1-7 dostawcy zwracają uwagę na to, czy dany system AI wysokiego ryzyka w świetle swojego przeznaczenia może mieć niekorzystny wpływ na osoby poniżej 18 roku życia oraz w stosownych przypadkach, na inne grupy szczególnie wrażliwe. 10. W odniesieniu do dostawców systemów AI wysokiego ryzyka, którzy podlegają wymogom dotyczącym wewnętrznych procesów zarządzania ryzykiem na podstawie innych odpowiednich przepisów prawa Unii, aspekty przewidziane w ust. 1-9 mogą być częścią procedur zarządzania ryzykiem ustanowionych zgodnie z tym prawem lub łączyć się z tymi procedurami. Art. 10 Dane i zarządzanie danymi 1. Systemy AI wysokiego ryzyka, które wykorzystują techniki obejmujące trenowanie modeli AI z wykorzystaniem danych, rozwija się na podstawie zbiorów danych treningowych, walidacyjnych i testowych spełniających kryteria jakości, o których mowa w ust. 2-5, w każdym przypadku, gdy takie zbiory danych są wykorzystywane. 2. Zbiory danych treningowych, walidacyjnych i testowych podlegają praktykom w zakresie zarządzania danymi stosownym do przeznaczenia danego systemu AI wysokiego ryzyka. Praktyki te dotyczą w szczególności: a) odpowiednich decyzji projektowych; b) procesów zbierania danych i pochodzenia danych oraz w przypadku danych osobowych, pierwotnego celu zbierania danych; c) odpowiednich operacji przetwarzania na potrzeby przygotowania danych, takich jak dodawanie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia komentarzy, etykietowanie, czyszczenie, aktualizacja, wzbogacanie i agregacja; d) sformułowania założeń, w szczególności w odniesieniu do informacji, do których pomiaru i reprezentowania mają służyć dane; e) oceny dostępności, ilości i przydatności zbiorów danych, które są potrzebne; f) badania pod kątem ewentualnej stronniczości, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii, zwłaszcza w przypadku, gdy dane wyjściowe wpływają na dane wejściowe wykorzystywane na potrzeby przyszłych operacji; g) odpowiednich środków służących wykrywaniu ewentualnej stronniczości określonej zgodnie z lit. f) oraz zapobieganiu jej i jej ograniczaniu; h) określenia istotnych luk w danych lub braków w danych, które uniemożliwiają zgodność z niniejszym rozporządzeniem, oraz tego, w jaki sposób można zaradzić tym lukom i brakom. 3. Zbiory danych treningowych, walidacyjnych i testowych muszą być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne z punktu widzenia przeznaczenia. Muszą się one charakteryzować odpowiednimi właściwościami statystycznymi, w tym, w stosownych przypadkach, w odniesieniu do osób lub grup osób, wobec których ma być stosowany system AI wysokiego ryzyka. Te kryteria zbiorów danych mogą zostać spełnione na poziomie pojedynczych zbiorów danych lub na poziomie ich kombinacji. 4. Zbiory danych muszą uwzględniać, w zakresie wymaganym z uwagi na ich przeznaczenie, cechy lub elementy, które są specyficzne dla określonego otoczenia geograficznego, kontekstualnego, behawioralnego lub funkcjonalnego, w którym ma być wykorzystywany system AI wysokiego ryzyka. 5. W zakresie, w jakim jest to bezwzględnie konieczne do celów zapewnienia zgodnie z ust. 2 lit. f) i g) niniejszego artykułu wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz przepisów określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywie (UE) 2016/680, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki: a) nie jest możliwe skuteczne wykrywanie i korygowanie stronniczości poprzez przetwarzanie innych danych, w tym danych syntetycznych lub zanonimizowanych; b) szczególne kategorie danych osobowych podlegają ograniczeniom technicznym dotyczącym ponownego wykorzystywania danych osobowych oraz najnowocześniejszym środkom bezpieczeństwa i ochrony prywatności, w tym pseudonimizacji; c) szczególne kategorie danych osobowych podlegają środkom zapewniającym, by przetwarzane dane osobowe były zabezpieczone, chronione, podlegały odpowiednim środkom ochronnym, w tym ścisłym kontrolom i dokumentowaniu dostępu, aby uniknąć nadużyć i zapewnić, by dostęp do tych danych miały wyłącznie osoby upoważnione, zobowiązane do spełnienia odpowiednich obowiązków dotyczących poufności; d) szczególne kategorie danych osobowych nie są przesyłane, przekazywane ani w inny sposób udostępniane innym podmiotom; e) szczególne kategorie danych osobowych usuwa się po skorygowaniu stronniczości lub po upływie okresu przechowywania danych osobowych, w zależności od tego, co nastąpi wcześniej; f) rejestry czynności przetwarzania na podstawie rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680 zawierają uzasadnienie, dlaczego przetwarzanie szczególnych kategorii danych osobowych było bezwzględnie konieczne do wykrycia i skorygowania stronniczości oraz dlaczego cel ten nie mógł zostać osiągnięty w wyniku przetwarzania innych danych. 6. W przypadkach rozwoju systemów AI wysokiego ryzyka niewykorzystujących technik obejmujących trenowanie modeli AI ust. 2-5 stosuje się jedynie do zbiorów danych testowych. Art. 11 Dokumentacja techniczna 1. Dokumentację techniczną dla systemu AI wysokiego ryzyka sporządza się przed wprowadzeniem danego systemu do obrotu lub oddaniem go do użytku oraz dokonuje się jej aktualizacji. Dokumentację techniczną sporządza się w taki sposób, aby wykazać, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w niniejszej sekcji, oraz aby dostarczyć właściwym organom krajowym i jednostkom notyfikowanym informacji - w jasnej i kompleksowej formie - niezbędnych do oceny zgodności systemu AI z tymi wymogami. Zawiera ona co najmniej elementy określone w załączniku IV. MŚP, w tym przedsiębiorstwa typu startup, mogą podawać elementy dokumentacji technicznej określone w załączniku IV w formie uproszczonej. W tym celu Komisja ustanawia wzór uproszczonej dokumentacji technicznej ukierunkowany na potrzeby małych przedsiębiorstw i mikroprzedsiębiorstw. W przypadku gdy MŚP, w tym przedsiębiorstwa typu startup, zdecydują się na podawanie informacji wymaganych w załączniku IV w sposób uproszczony, korzystają z wzoru, o którym mowa w niniejszym ustępie. Jednostki notyfikowane akceptują ten wzór do celów oceny zgodności. 2. W przypadku wprowadzania do obrotu lub oddawania do użytku systemu AI wysokiego ryzyka N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia związanego z produktem, który jest objęty zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, sporządza się jeden zestaw dokumentacji technicznych zawierający wszystkie informacje określone w ust. 1, jak również informacje wymagane na podstawie tych aktów prawnych. 3. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany, w razie potrzeby, załącznika IV, aby zagwarantować, by w świetle postępu technicznego dokumentacja techniczna zawierała wszystkie informacje niezbędne do oceny zgodności systemu z wymogami ustanowionymi w niniejszej sekcji. Art. 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej \"rejestrami zdarzeń\") w całym cyklu życia danego systemu. 2. W celu zapewnienia, by poziom identyfikowalności funkcjonowania systemu AI wysokiego ryzyka był stosowny ze względu na przeznaczenie tego systemu, funkcja rejestracji zdarzeń musi umożliwiać rejestrowanie zdarzeń istotnych dla: a) identyfikowania sytuacji, które mogą skutkować tym, że system AI wysokiego ryzyka będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, lub które mogą prowadzić do istotnej zmiany; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia b) ułatwiania monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; oraz c) monitorowania działania systemów AI wysokiego ryzyka, o których mowa w art. 26 ust. 5. 3. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), funkcja rejestracji zdarzeń musi zapewniać rejestrowanie co najmniej: a) okresu każdego wykorzystania systemu (data i godzina rozpoczęcia oraz data i godzina zakończenia każdego wykorzystania); b) referencyjnej bazy danych, względem której system sprawdził dane wejściowe; c) danych wejściowych, w których przypadku wyszukiwanie doprowadziło do trafienia; d) danych umożliwiających identyfikację osób fizycznych uczestniczących w weryfikacji wyników, o których mowa w art. 14 ust. 5. Art. 13 Przejrzystość i udostępnianie informacji podmiotom stosującym 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w sposób zapewniający wystarczającą przejrzystość ich działania, umożliwiającą podmiotom stosującym interpretację wyników systemu i ich właściwe wykorzystanie. Zapewnia się odpowiedni rodzaj i stopień przejrzystości w celu osiągnięcia N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia spełnienia przez dostawcę i podmiot stosujący odpowiednich obowiązków określonych w sekcji 3. 2. Do systemów AI wysokiego ryzyka dołącza się instrukcję obsługi w odpowiednim formacie cyfrowym lub innym formacie zawierającą zwięzłe, kompletne, poprawne i jasne informacje, które są istotne, dostępne i zrozumiałe dla podmiotów stosujących. 3. Instrukcja obsługi zawiera co najmniej następujące informacje: a) tożsamość i dane kontaktowe dostawcy oraz w stosownych przypadkach, jego upoważnionego przedstawiciela; b) cechy, możliwości i ograniczenia skuteczności działania systemu AI wysokiego ryzyka, w tym: (i) jego przeznaczenie; (ii) poziom dokładności, wraz z jego wskaźnikami, poziom solidności i cyberbezpieczeństwa, o których mowa w art. 15, względem których przetestowano system AI wysokiego ryzyka i dokonano jego walidacji oraz których to poziomów można oczekiwać, a także wszelkie znane i dające się przewidzieć okoliczności, które mogą mieć wpływ na te oczekiwane poziomy dokładności, solidności i cyberbezpieczeństwa; (iii) wszelkie znane lub dające się przewidzieć okoliczności związane z wykorzystaniem systemu AI wysokiego ryzyka zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, mogące powodować ryzyko dla zdrowia i bezpieczeństwa lub praw podstawowych, o którym to ryzyku mowa w art. 9 ust. 2; (iv) w stosownych przypadkach, możliwości techniczne i właściwości systemu AI wysokiego ryzyka w zakresie udostępniania informacji istotnych dla wyjaśnienia jego wyników; (v) w stosownych przypadkach, działanie systemu w odniesieniu do określonych osób lub grup osób, wobec których ma on być wykorzystywany; (vi) w stosownych przypadkach, specyfikacje dotyczące danych wejściowych lub wszelkie inne istotne informacje dotyczące wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, uwzględniając przeznaczenie systemu AI wysokiego ryzyka; (vii) w stosownych przypadkach, informacje umożliwiające podmiotom stosującym interpretację wyników systemu AI wysokiego ryzyka i odpowiednie wykorzystanie tych wyników; c) zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które zostały z góry zaplanowane przez dostawcę w momencie przeprowadzania początkowej oceny zgodności; d) środki nadzoru ze strony człowieka, o których mowa w art. 14, w tym środki techniczne wprowadzone w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI wysokiego ryzyka; e) potrzebne zasoby obliczeniowe i sprzętowe, przewidywany cykl życia systemu AI wysokiego ryzyka oraz wszelkie niezbędne środki w zakresie konserwacji i utrzymania, w tym częstotliwość ich stosowania, mające na celu zapewnienie właściwego funkcjonowania tego systemu AI, w tym dotyczące aktualizacji oprogramowania; f) w stosownych przypadkach - opis mechanizmów zawartych w systemie AI wysokiego ryzyka, które umożliwiają podmiotom stosującym prawidłowe zbieranie, przechowywanie i interpretowanie rejestrów zdarzeń, zgodnie z art. 12. Art. 14 Nadzór ze strony człowieka 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, w tym poprzez uwzględnienie odpowiednich narzędzi interfejsu człowiek-maszyna, aby w okresie ich wykorzystywania systemu AI mogły być skutecznie nadzorowane przez osoby fizyczne. 2. Nadzór ze strony człowieka ma na celu zapobieganie ryzyku dla zdrowia, bezpieczeństwa lub praw podstawowych lub minimalizowanie takiego ryzyka, które może się pojawić, gdy system AI wysokiego ryzyka jest wykorzystywany zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, w szczególności, gdy takie ryzyko utrzymuje się pomimo stosowania innych wymogów ustanowionych w niniejszej sekcji. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Środki nadzoru muszą być współmierne do ryzyka, poziomu autonomii i kontekstu wykorzystywania danego systemu AI wysokiego ryzyka, a nadzór zapewnia się za pomocą co najmniej jednego z następujących rodzajów środków: a) środków określonych i wbudowanych, jeżeli jest to technicznie wykonalne, w system AI wysokiego ryzyka przez dostawcę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku; b) środków określonych przez dostawcę przed wprowadzeniem systemu AI wysokiego ryzyka do obrotu lub oddaniem go do użytku i które to środki nadają się do wdrożenia przez podmiot stosujący. 4. Do celów wykonania ust. 1, 2 i 3 system AI wysokiego ryzyka udostępnia się podmiotowi stosującemu w taki sposób, aby umożliwić osobom fizycznym, którym powierzono sprawowanie nadzoru ze strony człowieka, odpowiednio i proporcjonalnie: a) należyte zrozumienie odpowiednich możliwości i ograniczeń systemu AI wysokiego ryzyka oraz należyte monitorowanie jego działania, w tym w celu wykrywania anomalii, nieprawidłowego funkcjonowania i nieoczekiwanych wyników działania oraz zaradzeniu im w przypadku ich wystąpienia; b) pozostawanie świadomym potencjalnej tendencji do automatycznego polegania lub nadmiernego polegania na wyniku wytworzonym przez system AI wysokiego ryzyka (tzw. \"błąd automatyzacji\"), w szczególności w przypadku systemów AI wysokiego ryzyka wykorzystywanych do udzielania informacji lub zaleceń na potrzeby decyzji podejmowanych przez osoby fizyczne; c) prawidłową interpretację wyniku systemu AI wysokiego ryzyka, biorąc pod uwagę na przykład dostępne narzędzia i metody interpretacji; d) podjęcie decyzji, w każdej konkretnej sytuacji, o niekorzystaniu z systemu AI wysokiego ryzyka lub w inny sposób zignorowanie, unieważnienie lub odwrócenie wyniku systemu AI wysokiego ryzyka; e) ingerowanie w działanie systemu AI wysokiego ryzyka lub przerwanie działania systemu za pomocą przycisku \"stop\" lub podobnej procedury, która pozwala na zatrzymanie systemu w stanie bezpiecznym. 5. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), środki, o których mowa w ust. 3 niniejszego artykułu, muszą ponadto zapewniać, aby podmiot stosujący nie podejmował żadnego działania ani decyzji na podstawie identyfikacji będącej wynikiem działania systemu, jeżeli identyfikacji tej nie zweryfikowały ani nie potwierdziły odrębnie co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia. Wymóg odrębnej weryfikacji przez co najmniej dwie osoby fizyczne nie ma zastosowania do systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw, migracji, kontroli granicznej lub azylu, w przypadkach, gdy prawo Unii lub prawo krajowe uznaje stosowanie tego wymogu za nieproporcjonalne. Art. 15 Dokładność, solidność i cyberbezpieczeństwo 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz by działały konsekwentnie pod tymi względami w całym cyklu życia. 2. Aby odnieść się do technicznych aspektów pomiaru odpowiednich poziomów dokładności i solidności określonych w ust. 1 oraz wszelkich innych istotnych wskaźników skuteczności działania, Komisja we współpracy z odpowiednimi zainteresowanymi stronami i organizacjami, takimi jak organy metrologiczne i organy ds. analizy porównawczej, zachęca w stosownych przypadkach do opracowywania poziomów odniesienia i metod pomiarowych. 3. Poziomy dokładności i odpowiednie wskaźniki dokładności systemów AI wysokiego ryzyka deklaruje się w dołączonych do nich instrukcjach obsługi. 4. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Solidność systemów AI wysokiego ryzyka można osiągnąć dzięki rozwiązaniom technicznym gwarantującym redundancję, które mogą obejmować plany zakładające dostępność systemu zapasowego lub plany zapewniające przejście systemu w stan bezpieczny (tzw. \"fail-safe\"). Systemy AI wysokiego ryzyka, które po wprowadzeniu na rynek lub oddaniu do użytku nadal się uczą, rozwija się w taki sposób, aby w możliwie największym stopniu wyeliminować lub ograniczyć ryzyko potencjalnie stronniczych wyników wpływających na dane wejściowe wykorzystywane na potrzeby przyszłych operacji (sprzężenie zwrotne) oraz aby zapewnić, by wszelkie tego typu sprzężenie zwrotne zostało odpowiednio uwzględnione przy pomocy odpowiednich środków ograniczających ryzyko. 5. Systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. Rozwiązania techniczne mające na celu eliminowanie słabych punktów charakterystycznych dla AI obejmują, w stosownych przypadkach, środki służące zapobieganiu atakom mającym na celu manipulowanie zbiorem danych treningowych (zatruwanie danych) lub elementami stosowanymi przy trenowaniu, które zostały poddane pretrenowaniu (zatruwanie modelu), wprowadzaniu danych wejściowych, które mają na celu spowodowanie błędu w modelu AI (przykłady kontradyktoryjne lub omijanie modelu), atakom na poufność lub wadom modelu, a także środki w zakresie wykrywania tych zagrożeń, reagowania na nie, ich rozwiązywania i ich kontrolowania. Art. 16 Obowiązki dostawców systemów AI wysokiego ryzyka Dostawcy systemów AI wysokiego ryzyka: a) zapewniają zgodność swoich systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; b) podają w systemie AI wysokiego ryzyka lub – przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, stosownie do przypadku, swoją nazwę, zarejestrowaną nazwę handlową lub zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować; c) posiadają system zarządzania jakością zgodny z art. 17; d) prowadzą dokumentację, o której mowa w art. 18; e) przechowują rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka, jak określono w art. 19, gdy rejestry takie znajdują się pod ich kontrolą; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia f) zapewniają, aby przed wprowadzeniem do obrotu lub oddaniem do użytku system AI wysokiego ryzyka poddano odpowiedniej procedurze oceny zgodności, o której mowa w art. 43; g) sporządzają deklarację zgodności UE zgodnie z art. 47; h) umieszczają, zgodnie z art. 48, oznakowanie CE w systemie AI wysokiego ryzyka lub - w przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, na potwierdzenie zgodności z niniejszym rozporządzeniem; i) spełniają obowiązki rejestracyjne, o których mowa w art. 49 ust. 1; j) podejmują niezbędne działania naprawcze i przekazują informacje zgodnie z art. 20; k) wykazują, na uzasadniony wniosek właściwego organu krajowego, zgodność systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; l) zapewniają, by system AI wysokiego ryzyka był zgodny z wymogami dostępności zgodnie z dyrektywami (UE) 2016/2102 i (UE) 2019/882. Art. 17 System zarządzania jakością 1. Dostawcy systemów AI wysokiego ryzyka wprowadzają system zarządzania jakością, który zapewnia zgodność z niniejszym rozporządzeniem. System ten dokumentuje się w systematyczny i uporządkowany sposób w formie pisemnych polityk, N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur i instrukcji oraz obejmuje on co najmniej następujące aspekty: a) strategię na rzecz zgodności regulacyjnej, w tym zgodności z procedurami oceny zgodności i procedurami zarządzania zmianami w systemie AI wysokiego ryzyka; b) techniki, procedury i systematyczne działania, które należy stosować na potrzeby projektowania oraz kontroli i weryfikacji projektu systemu AI wysokiego ryzyka; c) techniki, procedury i systematyczne działania, które należy stosować na potrzeby rozwoju, kontroli jakości i zapewniania jakości systemu AI wysokiego ryzyka; d) procedury badania, testowania i walidacji, które należy przeprowadzić przed przystąpieniem do rozwoju systemu AI wysokiego ryzyka, w trakcie tego rozwoju i po jego zakończeniu, oraz częstotliwość, z jaką mają być przeprowadzane; e) specyfikacje techniczne, w tym normy, które należy zastosować, oraz w przypadkach, gdy normy zharmonizowane nie są stosowane w pełni lub nie obejmują wszystkich odpowiednich wymogów ustanowionych w sekcji 2, środki, które należy zastosować do zapewnienia, by system AI wysokiego ryzyka był zgodny z tymi wymogami; f) systemy i procedury zarządzania danymi, w tym dotyczące nabywania danych, zbierania danych, analizy danych, etykietowania danych, przechowywania danych, filtrowania danych, eksploracji danych, agregacji danych, zatrzymywania danych i wszelkich innych operacji dotyczących danych, które przeprowadza się przed wprowadzeniem do obrotu lub oddaniem do użytku systemów AI wysokiego ryzyka i do celu wprowadzenia ich do obrotu lub oddania ich do użytku; g) system zarządzania ryzykiem, o którym mowa w art. 9; h) ustanowienie, wdrożenie i obsługa systemu monitorowania po wprowadzeniu do obrotu, zgodnie z art. 72; i) procedury związane ze zgłaszaniem poważnego incydentu zgodnie z art. 73; j) porozumiewanie się z właściwymi organami krajowymi, innymi właściwymi organami, w tym organami zapewniającymi lub wspierającymi dostęp do danych, jednostkami notyfikowanymi, innymi operatorami, klientami lub innymi zainteresowanymi stronami; k) systemy i procedury rejestrowania wszelkiej istotnej dokumentacji i wszelkich istotnych informacji; l) zarządzanie zasobami, w tym środki związane z bezpieczeństwem dostaw; m) ramy odpowiedzialności służące określeniu odpowiedzialności kierownictwa i pozostałego personelu w odniesieniu do wszystkich aspektów wymienionych w niniejszym ustępie. 2. Wdrożenie aspektów, o których mowa w ust. 1, musi być proporcjonalne do wielkości organizacji dostawcy. W każdym przypadku dostawcy przestrzegają stopnia rygoryzmu i poziomu ochrony wymaganych do zapewnienia zgodności ich systemów AI wysokiego ryzyka z niniejszym rozporządzeniem. 3. Dostawcy systemów AI wysokiego ryzyka, którzy podlegają obowiązkom dotyczącym systemów zarządzania jakością lub równoważnym obowiązkom na podstawie odpowiednich sektorowych przepisów prawa Unii, mogą uwzględnić aspekty wymienione w ust. 1 jako część systemów zarządzania jakością zgodnie z tymi przepisami. 4. W odniesieniu do dostawców będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek wprowadzenia systemu zarządzania jakością, z wyjątkiem ust. 1 lit. g), h) oraz i) niniejszego artykułu, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi zarządzania wewnętrznego, uzgodnień lub procedur zgodnie z odpowiednimi przepisami prawa Unii dotyczącymi usług finansowych. W tym celu uwzględnia się wszelkie normy zharmonizowane, o których mowa w art. 40. Art. 18 Prowadzenie dokumentacji 1. Przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku T Art. 91 ust. 3 pkt 2 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy dostawca przechowuje do dyspozycji właściwych organów krajowych: a) dokumentację techniczną, o której mowa w art. 11; b) dokumentację dotyczącą systemu zarządzania jakością, o którym mowa w art. 17; c) w stosownych przypadkach - dokumentację dotyczącą zmian zatwierdzonych przez jednostki notyfikowane; d) w stosownych przypadkach - decyzje i inne dokumenty wydane przez jednostki notyfikowane; e) deklarację zgodności UE, o której mowa w art. 47. 2. Każde państwo członkowskie określa warunki, na jakich dokumentacja, o której mowa w ust. 1, pozostaje do dyspozycji właściwych organów krajowych przez okres wskazany w tym ustępie w przypadkach, gdy dostawca lub jego upoważniony przedstawiciel mający miejsce zamieszkania lub siedzibę na terytorium danego państwa członkowskiego ogłoszą upadłość lub zaprzestaną działalności przed upływem tego okresu. 3. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą dokumentację techniczną jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów prawa Unii dotyczących usług finansowych. o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 19 Automatycznie generowane rejestry zdarzeń 1. Dostawcy systemów AI wysokiego ryzyka przechowują generowane automatycznie przez ich systemy AI wysokiego ryzyka rejestry zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. Bez uszczerbku dla mającego zastosowanie prawa Unii lub prawa krajowego rejestry te są przechowywane przez okres stosowny ze względu na przeznaczenie systemu AI wysokiego ryzyka, wynoszący co najmniej 6 miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowym, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. 2. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów dotyczących usług finansowych. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 20 Działania naprawcze i obowiązek informacyjny 1. Dostawcy systemów AI wysokiego ryzyka, którzy uważają lub mają powody, by uważać, że system AI wysokiego ryzyka, który wprowadzili do obrotu lub oddali do użytku, nie jest zgodny z niniejszym rozporządzeniem, natychmiast podejmują niezbędne N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia działania naprawcze w celu, stosownie do przypadku, zapewnienia zgodności tego systemu, wycofania go z rynku, wyłączenia go lub wycofania go z użytku. Informują oni o tym dystrybutorów danego systemu AI wysokiego ryzyka oraz w stosownych przypadkach, odpowiednio podmioty stosujące, upoważnionego przedstawiciela i importerów. 2. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1 i dostawca danego systemu dowie się o tym ryzyku, dostawca ten natychmiast wyjaśnia przyczyny tego ryzyka, w stosownych przypadkach we współpracy ze zgłaszającym podmiotem stosującym, oraz informuje organy nadzoru rynku właściwe w zakresie przedmiotowych systemów AI wysokiego ryzyka, oraz, w stosownych przypadkach, jednostkę notyfikowaną, która zgodnie z art. 44 wydała certyfikat dla danego systemu AI wysokiego ryzyka, w szczególności o charakterze danej niezgodności oraz o wszelkich podjętych działaniach naprawczych. Art. 21 Współpraca z właściwymi organami 1. Dostawcy systemów AI wysokiego ryzyka, na uzasadniony wniosek właściwego organu, przekazują temu organowi wszelkie informacje i dokumenty niezbędne do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla danego organu w jednym z oficjalnych języków instytucji Unii wskazanym przez dane państwo członkowskie. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również 2. Na uzasadniony wniosek właściwego organu dostawcy zapewniają również występującemu z wnioskiem właściwemu organowi, w stosownych przypadkach, dostęp do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. 3. Wszelkie informacje uzyskane zgodnie z niniejszym artykułem przez właściwy organ traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 22 Upoważnieni przedstawiciele dostawców systemów AI wysokiego ryzyka 1. Przed udostępnieniem swoich systemów AI wysokiego ryzyka na rynku Unii dostawcy mający miejsce zamieszkania lub siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego miejsce zamieszkania lub siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego przez dostawcę. Upoważniony przedstawiciel przekazuje organom nadzoru rynku, na wniosek, kopię T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady pełnomocnictwa w jednym z oficjalnych języków instytucji Unii wskazanym przez właściwy organ. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie, czy zostały sporządzone deklaracja zgodności UE, o której mowa w art. 47, i dokumentacja techniczna, o której mowa w art. 11, oraz czy została przeprowadzona przez dostawcę odpowiednia procedura oceny zgodności; b) przechowywanie do dyspozycji właściwych organów i krajowych organów lub jednostek, o których mowa w art. 74 ust. 10, przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, danych kontaktowych dostawcy, który ustanowił upoważnionego przedstawiciela, kopii deklaracji zgodności UE, o której mowa w art. 47, dokumentacji technicznej oraz w stosownych przypadkach, certyfikatu wydanego przez jednostkę notyfikowaną; c) przekazywanie właściwemu organowi, na uzasadniony wniosek, wszelkich informacji i dokumentów, w tym tych, o których mowa w lit. b) niniejszego ustępu, niezbędnych do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w tym zapewnienie temu organowi dostępu do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. rodzaju rejestry zdarzeń znajdują się pod kontrolą dostawcy; d) współpraca z właściwymi organami, na uzasadniony wniosek, w zakresie wszelkich działań, które organy te podejmują w odniesieniu do danego systemu AI wysokiego ryzyka, w szczególności, aby zmniejszyć i ograniczyć ryzyko, jakie stwarza ten system AI wysokiego ryzyka; e) w stosownych przypadkach spełnianie obowiązków rejestracyjnych, o których mowa w art. 49 ust. 1, lub jeżeli rejestracji dokonuje sam dostawca, zapewnienie, by informacje, o których mowa w załączniku VIII sekcja A pkt 3, były prawidłowe. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 4. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli uważa lub ma powody uważać, że dostawca działa w sposób sprzeczny ze swoimi obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku upoważniony przedstawiciel natychmiast informuje o wypowiedzeniu pełnomocnictwa i jego przyczynach odpowiedni organ nadzoru rynku, a także, w stosownych przypadkach, odpowiednią jednostkę notyfikowaną. Art. 23 Obowiązki importerów T Przepis dotyczy systemów AI 1. Przed wprowadzeniem do obrotu systemu AI wysokiego ryzyka importerzy zapewniają jego zgodność z niniejszym rozporządzeniem, sprawdzając, czy: a) dostawca systemu AI wysokiego ryzyka przeprowadził odpowiednią procedurę oceny zgodności, o której mowa w art. 43; b) dostawca sporządził dokumentację techniczną zgodnie z art. 11 i załącznikiem IV; c) system opatrzono wymaganym oznakowaniem CE oraz dołączono do niego deklarację zgodności UE, o której mowa w art. 47, oraz instrukcję obsługi; d) dostawca ustanowił upoważnionego przedstawiciela zgodnie z art. 22 ust. 1. 2. W przypadku, gdy importer ma wystarczające powody, aby uważać, że system AI wysokiego ryzyka jest niezgodny z niniejszym rozporządzeniem lub został sfałszowany lub sfałszowana została dołączona do niego dokumentacja, nie wprowadza tego systemu do obrotu, dopóki nie zostanie zapewniona jego zgodność z niniejszym rozporządzeniem. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, importer informuje o tym dostawcę systemu, upoważnionych przedstawicieli oraz organy nadzoru rynku. 3. Importerzy podają w systemie AI wysokiego ryzyka, na opakowaniu tego systemu lub w stosownych przypadkach, w dołączonej do niego dokumentacji swoją nazwę, zarejestrowaną nazwę handlową lub wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować. 4. Importerzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego - stosownie do przypadku - przechowywania lub transportu nie zagrażały jego zgodności z wymogami ustanowionymi w sekcji 2. 5. Przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, importerzy przechowują kopię certyfikatu wydanego przez jednostkę notyfikowaną, w stosownych przypadkach, kopię instrukcji obsługi oraz deklaracji zgodności UE, o której mowa w art. 47. 6. Na uzasadniony wniosek odpowiednich właściwych organów importerzy przekazują im wszelkie niezbędne informacje i dokumentację, w tym te, o których mowa w ust. 5, w celu wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla tych organów. W tym celu importerzy zapewniają również możliwość udostępnienia tym organom dokumentacji technicznej. 7. Importerzy współpracują z odpowiednimi właściwymi organami w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka wprowadzonego do obrotu przez importerów, w szczególności, aby zmniejszyć i ograniczyć stwarzane przez ten system ryzyko. Art. 24 Obowiązki dystrybutorów T Przepis dotyczy systemów AI 1. Przed udostępnieniem na rynku systemu AI wysokiego ryzyka dystrybutorzy sprawdzają, czy został on opatrzony wymaganym oznakowaniem zgodności CE, czy dołączono do niego kopię deklaracji zgodności UE, o której mowa w art. 47, i instrukcję obsługi oraz czy dostawca oraz - w stosownych przypadkach - importer tego systemu spełnili swoje obowiązki ustanowione w art. 16 lit. b) i c) oraz w art. 23 ust. 3. 2. W przypadku, gdy dystrybutor - na podstawie dostępnych mu informacji - uważa lub ma powód, aby uważać, że system AI wysokiego ryzyka nie jest zgodny z wymogami ustanowionymi w sekcji 2 niniejszego tytułu, nie udostępnia na rynku tego systemu AI wysokiego ryzyka, dopóki nie zostanie zapewniona zgodność systemu z tymi wymogami. Ponadto, jeżeli system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor informuje o tym stosownie do przypadku dostawcę lub importera systemu. 3. Dystrybutorzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego przechowywania lub transportu - stosownie do przypadku - nie zagrażały zgodności systemu z wymogami ustanowionymi w sekcji 2. 4. Dystrybutor, który uważa lub ma powód, aby - na podstawie dostępnych mu informacji - uważać, że system AI wysokiego ryzyka udostępniony przez niego na rynku jest niezgodny z wymogami ustanowionymi w sekcji 2, podejmuje działania naprawcze konieczne do zapewnienia zgodności tego systemu z tymi wymogami, wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. do wycofania go z rynku lub wycofania go z użytku lub zapewnia podjęcie takich działań naprawczych przez, stosownie do przypadku, dostawcę, importera lub odpowiedniego operatora. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor natychmiast informuje o tym dostawcę lub importera systemu oraz organy właściwe w zakresie przedmiotowego system AI wysokiego ryzyka, przekazując szczegółowe informacje w szczególności na temat niezgodności systemu z wymogami i wszelkich podjętych działań naprawczych. 5. Na uzasadniony wniosek odpowiedniego organu dystrybutorzy systemów AI wysokiego ryzyka przekazują temu organowi wszelkie informacje i dokumentację dotyczące ich działań zgodnie z ust. 1-4, niezbędne do wykazania zgodności tego systemu z wymogami określonymi w sekcji 2. 6. Dystrybutorzy współpracują z odpowiednimi organami krajowymi w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka udostępnionego na rynku przez dystrybutorów, w szczególności, aby zmniejszyć lub ograniczyć stwarzane przez ten system ryzyko. Art. 25 Odpowiedzialność w całym łańcuchu wartości AI 1. Do celów niniejszego rozporządzenia za dostawcę systemu AI wysokiego ryzyka uznaje się i obejmuje obowiązkami dostawcy ustanowionymi w art. 16 każdego dystrybutora, importera, podmiot stosujący lub N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia inną stronę trzecią, jeżeli zachodzi którakolwiek z następujących okoliczności: a) umieszczają oni swoją nazwę lub znak towarowy w systemie AI wysokiego ryzyka, który został już wprowadzony do obrotu lub oddany do użytku, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób; b) we wprowadzonym już do obrotu lub oddanym do użytku systemie AI wysokiego ryzyka dokonują oni istotnej zmiany w taki sposób, że pozostaje on systemem AI wysokiego ryzyka zgodnie z art. 6; c) zmieniają oni przeznaczenie systemu AI, w tym systemu AI ogólnego przeznaczenia, który nie został zaklasyfikowany jako system AI wysokiego ryzyka i który został już wprowadzony do obrotu lub oddany do użytku, w taki sposób, że dany system AI staje się systemem AI wysokiego ryzyka zgodnie z art. 6. 2. W przypadku zaistnienia okoliczności, o których mowa w ust. 1, dostawcy, który pierwotnie wprowadził do obrotu lub oddał do użytku ten system AI, nie uznaje się już do celów niniejszego rozporządzenia za dostawcę tego konkretnego systemu AI. Ten pierwotny dostawca ściśle współpracuje z nowymi dostawcami i udostępnia niezbędne informacje oraz udziela racjonalnie oczekiwanego dostępu technicznego i innego wsparcia niezbędnych do spełnienia obowiązków określonych w niniejszym rozporządzeniu, w szczególności w odniesieniu do zgodności z kryteriami oceny zgodności systemów AI wysokiego ryzyka. Niniejszego ustępu nie stosuje się w przypadkach, gdy pierwotny dostawca wyraźnie określił, że jego system AI nie może zostać zmieniony w system AI wysokiego ryzyka, a zatem nie dotyczy go obowiązek przekazania dokumentacji. 3. W przypadku systemów AI wysokiego ryzyka, które stanowią związane z bezpieczeństwem elementy produktów objętych zakresem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, producenta produktów uznaje się za dostawcę systemu AI wysokiego ryzyka i podlega on obowiązkom ustanowionym w art. 16, jeżeli zachodzi którakolwiek z następujących okoliczności: a) system AI wysokiego ryzyka jest wprowadzany do obrotu wraz z produktem pod nazwą lub znakiem towarowym producenta produktu; b) system AI wysokiego ryzyka jest oddawany do użytku pod nazwą lub znakiem towarowym producenta produktu po wprowadzeniu produktu do obrotu. 4. Dostawca systemu AI wysokiego ryzyka i osoba trzecia dostarczająca system AI, narzędzia, usługi, komponenty lub procesy, które są wykorzystywane w systemie AI wysokiego ryzyka lub z nim zintegrowane, wskazują, w drodze pisemnej umowy, informacje, zdolności, dostęp techniczny i innego rodzaju pomoc opartą na powszechnie uznanym stanie wiedzy technicznej wymagane, aby umożliwić dostawcy systemu AI wysokiego ryzyka pełne spełnienie obowiązków ustanowionych w niniejszym rozporządzeniu. Niniejszego ustępu nie stosuje się do osób trzecich udostępniających publicznie na podstawie bezpłatnej licencji otwartego oprogramowania narzędzia, usługi, procesy lub komponenty inne niż modele AI ogólnego przeznaczenia. Urząd ds. AI może opracować i zalecić dobrowolne wzorcowe postanowienia umowne dla umów zawieranych między dostawcami systemów AI wysokiego ryzyka a osobami trzecimi dostarczającymi narzędzia, usługi, komponenty lub procesy, które są wykorzystywane na potrzeby systemów AI wysokiego ryzyka lub zintegrowane z tymi systemami. Przy opracowywaniu dobrowolnych wzorcowych postanowień umownych, Urząd ds. AI bierze również pod uwagę ewentualne wymogi umowne mające zastosowanie w określonych sektorach lub przypadkach biznesowych. Dobrowolne wzorcowe postanowienia umowne są publikowane i udostępniane bezpłatnie w łatwym w użyciu formacie elektronicznym. 5. Ust. 2 i 3 pozostają bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej, poufnych informacji handlowych i tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 26 Obowiązki podmiotów stosujących systemy AI wysokiego ryzyka 1. Podmioty stosujące systemy AI wysokiego ryzyka podejmują - na podstawie ust. 3 i 6 - odpowiednie środki techniczne i organizacyjne w celu zapewnienia, aby systemy takie były wykorzystywane zgodnie z dołączoną do nich instrukcją obsługi. Art. 6 pkt 4 Art. 6. Do zadań Komisji należy: 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 2. Podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie. 3. Obowiązki ustanowione w ust. 1 i 2 pozostają bez uszczerbku dla innych obowiązków podmiotu stosującego wynikających z prawa Unii lub prawa krajowego oraz dla przysługującej podmiotowi stosującemu swobody organizowania swoich zasobów własnych i działań w celu wdrożenia wskazanych przez dostawcę środków nadzoru ze strony człowieka. 4. Bez uszczerbku dla ust. 1 i 2 podmiot stosujący zapewnia, w zakresie, w jakim sprawuje on kontrolę nad danymi wejściowymi, adekwatność i wystarczającą reprezentatywność danych wejściowych w odniesieniu do przeznaczenia systemu AI wysokiego ryzyka. 5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie T organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania. W odniesieniu do podmiotów stosujących będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek w zakresie monitorowania, o którym mowa w akapicie pierwszym, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi uzgodnień, procedur i mechanizmów zarządzania wewnętrznego na podstawie odpowiednich przepisów dotyczących usług finansowych. 6. Podmioty stosujące systemy AI wysokiego ryzyka przechowują generowane automatycznie przez system AI wysokiego ryzyka rejestry zdarzeń - w zakresie, w jakim rejestry te znajdują się pod ich kontrolą - przez stosowny ze względu na przeznaczenie danego systemu AI wysokiego ryzyka okres, wynoszący co najmniej sześć miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowe, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. Podmioty stosujące będące instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń jako część dokumentacji prowadzonej na podstawie odpowiednich unijnych przepisów dotyczących usług finansowych. 7. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami ustanowionymi w prawie Unii i prawie krajowym oraz praktyką w zakresie informowania pracowników i ich przedstawicieli. 8. Podmioty stosujące systemy AI wysokiego ryzyka, będące publicznymi organami lub instytucjami, organami i jednostkami organizacyjnymi Unii, spełniają obowiązki rejestracji, o których mowa w art. 49. Jeżeli takie podmioty stosujące ustalą, że system AI wysokiego ryzyka, który zamierzają wykorzystywać, nie został zarejestrowany w bazie danych UE, o której mowa w art. 71, nie stosują tego systemu i informują o tym dostawcę lub dystrybutora. 9. W stosownych przypadkach, podmioty stosujące systemy AI wysokiego ryzyka korzystają z informacji przekazanych na podstawie art. 13 niniejszego rozporządzenia, aby spełnić spoczywając na nich obowiązki przeprowadzenia oceny skutków dla ochrony danych zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680. 10. Bez uszczerbku dla dyrektywy (UE) 2016/680, w ramach postępowania przygotowawczego dotyczącego ukierunkowanego poszukiwania osoby podejrzanej o popełnienie przestępstwa lub skazanej za popełnienie przestępstwa podmiot stosujący system AI wysokiego ryzyka do celów zdalnej identyfikacji biometrycznej post factum zwraca się - ex ante lub bez zbędnej zwłoki, nie później jednak niż w ciągu 48 godzin - do organu wymiaru sprawiedliwości lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wnioskiem o zezwolenie na wykorzystanie tego systemu, z wyjątkiem sytuacji, gdy jest on wykorzystywany do wstępnej identyfikacji potencjalnego podejrzanego w oparciu o obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z przestępstwem. Każde wykorzystanie takiego systemu musi być ograniczone do tego, co jest bezwzględnie konieczne do prowadzenia postępowań przygotowawczych w sprawie konkretnego przestępstwa. W przypadku gdy wniosek o zezwolenie, o którym mowa w akapicie pierwszym, zostanie odrzucony, korzystanie z systemu zdalnej identyfikacji biometrycznej post factum, będące przedmiotem wniosku o zezwolenie, zostaje wstrzymane ze skutkiem natychmiastowym, a dane osobowe związane z wykorzystaniem systemu AI wysokiego ryzyka, w odniesieniu do którego złożono wniosek o zezwolenie, zostają usunięte. W żadnym przypadku taki system AI wysokiego ryzyka służący do zdalnej identyfikacji biometrycznej post factum nie może być wykorzystywany do celów ścigania przestępstw w sposób nieukierunkowany, bez związku z przestępstwem, postępowaniem karnym, rzeczywistym i obecnym lub rzeczywistym i dającym się przewidzieć zagrożeniem popełnieniem przestępstwa lub poszukiwaniem konkretnej osoby zaginionej. Zapewnia się, aby organy ścigania mogły wydać żadnej decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej post factum. Niniejszy ustęp pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 i art. 10 dyrektywy (UE) 2016/680 w odniesieniu do przetwarzania danych biometrycznych. Niezależnie od celu lub podmiotu stosującego każde wykorzystanie takich systemów AI wysokiego ryzyka musi zostać udokumentowane w odpowiednich aktach policyjnych i udostępnione na wniosek właściwego organu nadzoru rynku i krajowemu organowi ochrony danych, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Niniejszy akapit pozostaje bez uszczerbku dla uprawnień powierzonych organom nadzorczym dyrektywą (UE) 2016/680. Podmioty stosujące przedkładają właściwym organom nadzoru rynku i krajowym organom ochrony danych roczne sprawozdania dotyczące wykorzystania przez nie systemów zdalnej identyfikacji biometrycznej post factum, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Sprawozdania te mogą zostać zagregowane w celu uwzględnienia stosowania więcej niż jednego systemu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące korzystania z systemów zdalnej identyfikacji biometrycznej post factum. 11. Bez uszczerbku dla art. 50 niniejszego rozporządzenia podmioty stosujące systemy wysokiego ryzyka, o których mowa w załączniku III, które to podmioty podejmują decyzje lub uczestniczą w podejmowaniu decyzji dotyczących osób fizycznych, informują osoby fizyczne o tym, że jest w stosunku do nich wykorzystywany system AI wysokiego ryzyka. W przypadku systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw stosuje się art. 13 dyrektywy (UE) 2016/680. 12. Podmioty stosujące współpracują z odpowiednimi właściwymi organami przy wszelkich działaniach, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka, w celu wykonywania niniejszego rozporządzenia. Art. 27 Ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych 1. Przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów AI wysokiego ryzyka przeznaczonych do stosowania w obszarze wymienionym w załączniku III pkt 2, podmioty stosujące będące podmiotami prawa N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne, oraz podmioty stosujące systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 5 lit. b) i c), przeprowadzają ocenę skutków w zakresie praw podstawowych, jakie może wywołać wykorzystanie takiego systemu. W tym celu podmioty stosujące przeprowadzają ocenę obejmującą: a) opis procesów podmiotu stosującego, w których system AI wysokiego ryzyka będzie wykorzystywany zgodnie z jego przeznaczeniem; b) opis okresu, w którym każdy system AI wysokiego ryzyka ma być wykorzystywany i opis częstotliwości tego wykorzystywania; c) kategorie osób fizycznych i grup, na które może mieć wpływ wykorzystywanie systemu; d) szczególne ryzyko szkody, które może mieć wpływ na kategorie osób fizycznych lub grupy osób zidentyfikowane zgodnie z lit. c) niniejszego ustępu, z uwzględnieniem informacji przekazanych przez dostawcę zgodnie z art. 13; e) opis wdrożenia środków nadzoru ze strony człowieka, zgodnie z instrukcją obsługi; f) środki, jakie należy podjąć w przypadku urzeczywistnienia się tego ryzyka, w tym ustalenia dotyczące zarządzania wewnętrznego i mechanizmów rozpatrywania skarg. 2. Obowiązek ustanowiony w ust. 1 ma zastosowanie do wykorzystania systemu AI wysokiego ryzyka po raz pierwszy. W podobnych przypadkach podmiot stosujący może polegać na wcześniej przeprowadzonych ocenach skutków dla praw podstawowych lub na istniejących ocenach skutków przeprowadzonych przez dostawcę. Jeżeli w trakcie wykorzystania systemu AI wysokiego ryzyka podmiot stosujący uzna, że którykolwiek z elementów wymienionych w ust. 1 uległ zmianie lub nie jest już aktualny, podmiot ten podejmuje niezbędne kroki w celu aktualizacji informacji. 3. Po przeprowadzeniu oceny, o której mowa w ust. 1 niniejszego artykułu, podmiot stosujący powiadamia organ nadzoru rynku o jej wynikach, przedkładając jako element tego powiadomienia wypełniony wzór, o którym mowa w ust. 5 niniejszego artykułu. W przypadku, o którym mowa w art. 46 ust. 1, podmioty stosujące mogą zostać zwolnione z obowiązku dokonania powiadomienia. 4. Jeżeli którykolwiek z obowiązków ustanowionych w niniejszym artykule został już spełniony w wyniku oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, ocena skutków w zakresie praw podstawowych, o której mowa w ust. 1 niniejszego artykułu, stanowi uzupełnieniem tej oceny skutków dla ochrony danych. 5. Urząd ds. AI opracowuje wzór kwestionariusza, w tym za pomocą zautomatyzowanego narzędzia, aby ułatwić podmiotom stosującym spełnianie ich obowiązków wynikających z niniejszego artykułu w sposób uproszczony. Art. 28 Organy notyfikujące 1. Każde państwo członkowskie wyznacza lub ustanawia przynajmniej jeden organ notyfikujący odpowiedzialny za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Procedury te są przygotowywane wspólnie przez organy notyfikujące wszystkich państw członkowskich. 2. Państwa członkowskie mogą zdecydować, że ocena oraz monitorowanie, o których mowa w ust. 1, są prowadzone przez krajową jednostkę akredytującą w rozumieniu rozporządzenia (WE) nr 765/2008 oraz zgodnie z tym rozporządzeniem. 3. Organy notyfikujące ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby nie dopuścić do wystąpienia konfliktu interesów z jednostkami oceniającymi zgodność i aby zapewnić obiektywny i bezstronny charakter ich działalności. 4. Działalność organów notyfikujących organizuje się w taki sposób, aby decyzje dotyczące notyfikacji jednostek oceniających zgodność podejmowały kompetentne osoby, które nie przeprowadzały oceny tych jednostek. 5. Organy notyfikujące nie mogą oferować ani podejmować żadnych działań realizowanych przez jednostki oceniające zgodność ani świadczyć żadnych usług doradztwa na zasadzie komercyjnej lub konkurencyjnej. T Art. 86 ust. 1 Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. Wskazanie organu właściwego do wykonywania zadań organu notyfikującego określonego w rozporządzeniu 6. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. 7. Organy notyfikujące muszą dysponować odpowiednią liczbą kompetentnych pracowników, aby należycie wykonywać powierzone im zadania. Kompetentni pracownicy muszą posiadać, w odpowiednich przypadkach, wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach, takich jak technologie informacyjne, AI i prawo, w tym nadzór nad prawami podstawowymi. Art. 29 Wniosek jednostki oceniającej zgodność o notyfikację 1. Jednostki oceniające zgodność przekazują wniosek o notyfikację organowi notyfikującemu państwa członkowskiego, w którym znajduje się ich siedziba. 2. Do wniosku o notyfikację załącza się opis czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i rodzajów systemów AI, w odniesieniu do których jednostka oceniająca zgodność uważa się za kompetentną, a także wydany przez krajową jednostkę akredytującą certyfikat akredytacji (o ile takowy istnieje) poświadczający, że jednostka oceniająca zgodność spełnia wymogi ustanowione w art. 31. Do wniosku załącza się również wszelkie ważne dokumenty dotyczące obowiązującego wyznaczenia - na podstawie innego unijnego prawodawstwa harmonizacyjnego - występującej z wnioskiem jednostki notyfikowanej. T Art. 86 ust.2-4 Art. 87 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz Wskazanie podstawy prawnej do przeprowadzania notyfikacji jednostki. Odniesienie do konkretnego artykułu zapewnia przejrzystość ustawy. 3. Jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, przekazuje organowi notyfikującemu wszystkie dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31. 4. W odniesieniu do jednostek notyfikowanych wyznaczonych na podstawie innego unijnego prawodawstwa harmonizacyjnego w stosownych przypadkach dopuszcza się możliwość wykorzystania wszelkich dokumentów i certyfikatów dotyczących takiego wyznaczenia w charakterze dowodów w toku procedury wyznaczania przeprowadzanej zgodnie z niniejszym rozporządzeniem. Jednostka notyfikowana aktualizuje dokumentację, o której mowa w ust. 2 i 3 niniejszego artykułu, w każdym przypadku, gdy wystąpią istotne zmiany, aby umożliwić organowi odpowiedzialnemu za jednostki notyfikowane monitorowanie i weryfikowanie, czy zapewniona jest ciągła zgodność ze wszystkimi wymogami ustanowionymi w art. 31. wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach - w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany;; 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 30 Procedura notyfikacyjna 1. Organy notyfikujące mogą dokonywać notyfikacji wyłącznie w odniesieniu do tych jednostek oceniających zgodność, które spełniają wymogi ustanowione w art. 31. 2. Organy notyfikujące dokonują notyfikacji Komisji i pozostałym państwom członkowskim za pomocą narzędzia do notyfikacji elektronicznej opracowanego i obsługiwanego przez Komisję, o każdej jednostce oceniającej zgodność, o której mowa w ust. 1. 3. Notyfikacja, o której mowa w ust. 2 niniejszego artykułu, zawiera wyczerpujące informacje na temat czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i przedmiotowych rodzajów systemów AI oraz odpowiednie poświadczenie kompetencji. W przypadku gdy podstawą notyfikacji nie jest certyfikat akredytacji, o którym mowa w art. 29 ust. 2, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 4. Dana jednostka oceniająca zgodność może wykonywać czynności jednostki notyfikowanej tylko wówczas, gdy Komisja lub pozostałe państwa członkowskie nie zgłosiły sprzeciwu w terminie dwóch tygodni od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje certyfikat akredytacji, o którym mowa w art. 29 ust. 2, lub w terminie dwóch miesięcy od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje dowody w postaci dokumentów, o których mowa w art. 29 ust. 3. 5. W przypadku zgłoszenia sprzeciwu Komisja niezwłocznie przystępuje do konsultacji z odpowiednimi państwami członkowskimi i jednostką oceniającą zgodność. Na podstawie tych konsultacji Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiedniej jednostki oceniającej zgodność. Art. 31 Wymogi dotyczące jednostek notyfikowanych 1. Jednostkę notyfikowaną ustanawia się zgodnie z prawem krajowym danego państwa członkowskiego i ma ona osobowość prawną. 2. Jednostki notyfikowane muszą spełniać wymogi organizacyjne, wymogi w zakresie zarządzania jakością oraz wymogi dotyczące zasobów i procesów niezbędne do tego, aby mogły wykonywać powierzone im zadania, jak również odpowiednie wymogi w zakresie cyberbezpieczeństwa. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Struktura organizacyjna jednostek notyfikowanych, podział obowiązków w tych jednostkach, obowiązująca w nich hierarchia służbowa oraz ich funkcjonowanie zapewniają, by działalność jednostek notyfikowanych oraz wyniki czynności z zakresu oceny zgodności prowadzonych przez te jednostki nie budziły żadnych wątpliwości. 4. Jednostki notyfikowane muszą być niezależne od dostawcy systemu AI wysokiego ryzyka, wobec którego podejmują czynności z zakresu oceny zgodności. Jednostki notyfikowane muszą być również niezależne od wszelkich innych operatorów, których interes gospodarczy wiąże się z systemami AI wysokiego ryzyka będącymi przedmiotem oceny, a także od wszelkich innych konkurentów dostawcy. Nie wyklucza to wykorzystania będących przedmiotem oceny systemów AI wysokiego ryzyka, które są niezbędne do prowadzenia działalności jednostki oceniającej zgodność, ani wykorzystania takich systemów AI wysokiego ryzyka do celów prywatnych. 5. Jednostka oceniająca zgodność, jej kierownictwo najwyższego szczebla ani pracownicy odpowiedzialni za realizację zadań związanych z oceną zgodności nie mogą być bezpośrednio zaangażowani w projektowanie, rozwój, sprzedaż ani wykorzystywanie systemów AI wysokiego ryzyka, nie mogą też reprezentować stron zaangażowanych w taką działalność. Nie angażują się oni w żadną działalność, która może zagrozić niezależności ich osądów i wiarygodności w związku z czynnościami z zakresu oceny zgodności, do której zostali notyfikowani. Dotyczy to w szczególności usług konsultingowych. 6. Jednostki notyfikowane organizuje się i zarządza się nimi w sposób gwarantujący niezależność, obiektywizm i bezstronność podejmowanych przez nie czynności. Jednostki notyfikowane dokumentują i wdrażają strukturę i procedury służące zagwarantowaniu ich bezstronności oraz propagowaniu i stosowaniu zasad bezstronności we wszystkich podejmowanych przez nie czynnościach organizacyjnych i kadrowych oraz we wszystkich ich czynnościach związanych z oceną. 7. Jednostki notyfikowane dysponują udokumentowanymi procedurami, które zapewniają zachowanie poufności informacji - zgodnie z art. 78 - przez ich personel, komitety, jednostki zależne, podwykonawców oraz wszelkie stowarzyszone z nimi jednostki lub pracowników podmiotów zewnętrznych, które to informacje znalazły się w ich posiadaniu w toku czynności z zakresu oceny zgodności, chyba że ujawnienie takich informacji jest wymagane na mocy obowiązującego prawa. Personel jednostek notyfikowanych pozostaje związany tajemnicą zawodową w kwestii wszystkich informacji pozyskiwanych w toku wykonywania zadań powierzonych mu zgodnie z niniejszym rozporządzeniem, jednak nie w stosunku do organów notyfikujących państwa członkowskiego, w którym jednostki notyfikowane podejmują czynności. 8. Jednostki notyfikowane dysponują procedurami prowadzenia czynności z uwzględnieniem rozmiaru dostawcy, sektora, w którym prowadzi on działalność, jego struktury oraz stopnia złożoności danego systemu AI. 9. Jednostki notyfikowane zawierają odpowiednie umowy ubezpieczenia od odpowiedzialności cywilnej w odniesieniu do podejmowanych przez siebie czynności z zakresu oceny zgodności, chyba że państwo członkowskie, w którym mają siedzibę, bierze na siebie odpowiedzialność z tego tytułu zgodnie z prawem krajowym lub bezpośrednia odpowiedzialność za ocenę zgodności spoczywa na danym państwie członkowskim. 10. Jednostki notyfikowane posiadają zdolność wykonywania wszystkich zadań wynikających z niniejszego rozporządzenia z zachowaniem najwyższego poziomu uczciwości zawodowej i wymaganych kompetencji w danej dziedzinie, niezależnie od tego, czy zadania te są wykonywane przez nie samodzielnie, czy też w ich imieniu i na ich odpowiedzialność. 11. Jednostki notyfikowane dysponują wystarczającymi kompetencjami wewnętrznymi pozwalającymi im skutecznie oceniać zadania wykonywane w ich imieniu przez podmioty zewnętrzne. Jednostka notyfikowana dysponuje stałą dostępnością wystarczającej liczby pracowników odpowiedzialnych za aspekty administracyjne, techniczne, prawne i naukowe dysponujących doświadczeniem i wiedzą w zakresie odnośnych rodzajów systemów AI, danych i metod przetwarzania danych oraz w zakresie wymogów ustanowionych w sekcji 2. 12. Jednostki notyfikowane biorą udział w działaniach koordynacyjnych, o których mowa w art. 38. Angażują się także w działalność europejskich organizacji normalizacyjnych bezpośrednio lub za pośrednictwem swoich przedstawicieli lub zapewniają, by same posiadały znajomość odpowiednich norm i dysponowały zawsze aktualną wiedzą na ich temat. Art. 32 Domniemanie zgodności z wymogami dotyczącymi jednostek notyfikowanych W przypadku gdy jednostka oceniająca zgodność wykaże swoją zgodność z kryteriami ustanowionymi w odpowiednich normach zharmonizowanych lub częściach tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełnia ona wymogi ustanowione w art. 31 w zakresie, w jakim mające zastosowanie normy zharmonizowane obejmują te wymogi. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 33 Jednostki zależne i podwykonawcy jednostek notyfikowanych 1. W przypadku, gdy jednostka notyfikowana zleca wykonywanie określonych zadań związanych z oceną zgodności podwykonawcy lub korzysta w tym celu z usług jednostki zależnej, zapewnia spełnienie przez podwykonawcę lub przez jednostkę zależną wymogów ustanowionych w art. 31 oraz informuje o tym organ notyfikujący. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Jednostki notyfikowane ponoszą pełną odpowiedzialność za zadania wykonywane przez podwykonawców lub jednostki zależne. 3. Zadania mogą być zlecane podwykonawcy lub wykonywane przez jednostkę zależną wyłącznie za zgodą dostawcy. Jednostki notyfikowane podają do wiadomości publicznej wykaz swoich jednostek zależnych. 4. Odpowiednie dokumenty dotyczące oceny kwalifikacji podwykonawcy lub jednostki zależnej oraz prac wykonywanych przez nich na podstawie niniejszego rozporządzenia przechowuje się do dyspozycji organu notyfikującego przez okres 5 lat od dnia zakończenia podwykonawstwa. Art. 34 Obowiązki operacyjne jednostek notyfikowanych 1. Jednostki notyfikowane weryfikują zgodność systemów AI wysokiego ryzyka zgodnie z procedurami oceny zgodności określonymi w art. 43. 2. Jednostki notyfikowane unikają niepotrzebnych obciążeń dla dostawców podczas wykonywania swoich czynności oraz należycie uwzględniają rozmiar dostawcy, sektor, w którym prowadzi on działalność, jego strukturę oraz stopień złożoności danego systemu AI wysokiego ryzyka, w szczególności w celu zminimalizowania obciążeń administracyjnych i kosztów zapewnienia zgodności dla mikroprzedsiębiorstw i małych przedsiębiorstw w rozumieniu zalecenia 2003/361/WE. Jednostka notyfikowana przestrzega jednak rygoryzmu i poziomu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ochrony wymaganych do zapewnienia zgodności danego systemu AI wysokiego ryzyka z wymogami niniejszego rozporządzenia. 3. Na wniosek organu notyfikującego, o którym mowa w art. 28, jednostki notyfikowane udostępniają i przekazują temu organowi wszystkie stosowne dokumenty, uwzględniając dokumentację dostawców, aby umożliwić temu organowi przeprowadzenie czynności w zakresie oceny, wyznaczania, notyfikacji i monitorowania oraz aby ułatwić mu przeprowadzenie oceny opisanej w niniejszej sekcji. Art. 35 Numery identyfikacyjne i wykazy jednostek notyfikowanych 1. Komisja przydziela każdej jednostce notyfikowanej jeden numer identyfikacyjny, nawet jeżeli jednostkę tę notyfikowano na podstawie kilku aktów Unii. 2. Komisja podaje do wiadomości publicznej wykaz jednostek notyfikowanych na podstawie niniejszego rozporządzenia, łącznie z ich numerami identyfikacyjnymi oraz informacją na temat czynności będących przedmiotem notyfikacji. Komisja zapewnia aktualność tego wykazu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 36 Zmiany w notyfikacjach 1. Organ notyfikujący powiadamia Komisję i pozostałe państwa członkowskie za pomocą systemu notyfikacji elektronicznej, o którym mowa w art. 30 ust. 2, o T Art. 86 ust. 2 i 5 oraz Art. 89 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w wszelkich istotnych zmianach w notyfikacji danej jednostki notyfikowanej. 2. Procedury ustanowione w art. 29 i 30 stosuje się do rozszerzenia zakresu notyfikacji. W przypadku zmian w notyfikacji innych niż rozszerzenie jej zakresu stosuje się procedury ustanowione w ust. 3-9. 3. W przypadku, gdy jednostka notyfikowana podejmie decyzję o zaprzestaniu prowadzenia czynności z zakresu oceny zgodności, jak najszybciej informuje o tym organ notyfikujący i zainteresowanych dostawców, a w przypadku planowanego zaprzestania działalności - na co najmniej rok przed zaprzestaniem działalności. Certyfikaty wydane przez jednostkę notyfikowaną mogą pozostać ważne przez okres dziewięciu miesięcy po zaprzestaniu działalności jednostki notyfikowanej, pod warunkiem, że inna jednostka notyfikowana potwierdzi na piśmie, że przejmie odpowiedzialność za objęte tymi certyfikatami systemy AI wysokiego ryzyka. Przed upływem tego okresu dziewięciu miesięcy ta inna jednostka notyfikowana przeprowadza pełną ocenę odnośnych systemów AI wysokiego ryzyka, zanim wyda nowe certyfikaty dla tych systemów. W przypadku gdy jednostka notyfikowana zaprzestała działalności, organ notyfikujący cofa jej wyznaczenie. 4. W przypadku, gdy organ notyfikujący ma wystarczające powody, by uważać, że jednostka notyfikowana przestała spełniać wymogi określone w art. 31 lub nie spełnia swoich obowiązków, organ notyfikujący niezwłocznie wszczyna postępowanie ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. (...) 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. wyjaśniające w tej sprawie z zachowaniem największej staranności. W takim przypadku organ notyfikujący informuje daną jednostkę notyfikowaną o zgłoszonym sprzeciwu i zapewnia jej możliwość ustosunkowania się do tego sprzeciwu. Jeżeli organ notyfikujący dojdzie do wniosku, że jednostka notyfikowana przestała spełniać wymogi ustanowione w art. 31 lub nie spełnia swoich obowiązków, organ ten, stosownie do przypadku, ogranicza, zawiesza lub cofa wyznaczenie, w zależności od powagi niespełnienia tych wymogów lub tych obowiązków. Informuje on o tym natychmiast Komisję i pozostałe państwa członkowskie. 5. W przypadku, gdy wyznaczenie zostało zawieszone, ograniczone lub całkowicie lub częściowo cofnięte, jednostka notyfikowana informuje o tym zainteresowanych dostawców w terminie 10 dni. 6. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący podejmuje odpowiednie kroki w celu zapewnienia, by zachowana została dokumentacja danej jednostki notyfikowanej i była ona udostępniana organom notyfikującym w pozostałych państwach członkowskich oraz organom nadzoru rynku na ich wniosek. 7. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący: a) ocenia skutki dla certyfikatów wydanych przez daną jednostkę notyfikowaną; b) przedkłada Komisji i pozostałym państwom członkowskim sprawozdanie ze swoich ustaleń w terminie trzech miesięcy od powiadomienia o zmianach w wyznaczeniu; c) zwraca się do jednostki notyfikowanej z żądaniem, by w celu zapewnienia ciągłości zgodności systemów AI wysokiego ryzyka na rynku zawiesiła lub cofnęła, w rozsądnym terminie ustalonym przez ten organ, wszelkie certyfikaty, które zostały nienależnie wydane; d) informuje Komisję i państwa członkowskie o certyfikatach, których zawieszenia lub cofnięcia zażądał; e) przekazuje właściwym organom krajowym państwa członkowskiego, w którym dostawca ma zarejestrowane miejsce prowadzenia działalności, wszelkie istotne informacje na temat certyfikatów, których zawieszenia lub cofnięcia zażądał; organy te podejmują w stosownych przypadkach odpowiednie środki w celu uniknięcia potencjalnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych. 8. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało zawieszone lub ograniczone, certyfikaty pozostają ważne, jeżeli zachodzi którakolwiek z następujących okoliczności: a) organ notyfikujący potwierdził, w terminie jednego miesiąca od zawieszenia lub ograniczenia, że w odniesieniu do certyfikatów, których dotyczy zawieszenie lub ograniczenie, nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych i określił czas działań służących temu, by znieść zawieszenie lub ograniczenie; lub b) organ notyfikujący potwierdził, że w czasie trwania zawieszenia lub ograniczenia nie będą wydawane, zmieniane ani wydawane ponownie żadne certyfikaty powiązane z danym zawieszeniem, oraz stwierdza, czy dana jednostka notyfikowana jest zdolna do dalszego monitorowania i bycia odpowiedzialną za wydane już certyfikaty obowiązujące w okresie pokrywającym się z tym zawieszeniem lub ograniczeniem; w przypadku gdy organ notyfikujący ustali, że jednostka notyfikowana nie posiada zdolności do obsługi wydanych certyfikatów, dostawca systemu objętego danym certyfikatem - w terminie trzech miesięcy od zawieszenia lub ograniczenia - przekazuje właściwym organom krajowym w państwie członkowskim, w którym ma zarejestrowane miejsce prowadzenia działalności, potwierdzenie na piśmie, że inna wykwalifikowana jednostka notyfikowana tymczasowo przejmuje funkcje jednostki notyfikowanej w zakresie monitorowania certyfikatów i pozostanie ona odpowiedzialna za te certyfikaty w okresie zawieszenia lub ograniczenia wyznaczenia. 9. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało cofnięte, certyfikaty pozostają ważne przez okres dziewięciu miesięcy w następujących okolicznościach: a) właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu AI wysokiego ryzyka objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, potwierdził, że nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych związane z danymi systemami AI wysokiego ryzyka; oraz b) inna jednostka notyfikowana potwierdziła na piśmie, że przejmie bezpośrednią odpowiedzialność za te systemy AI i zakończy swoją ocenę w terminie dwunastu miesięcy od cofnięcia wyznaczenia. W okolicznościach, o których mowa w akapicie pierwszym, właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, może przedłużyć tymczasową ważność tych certyfikatów o dodatkowe trzymiesięczne okresy, które łącznie nie mogą przekraczać dwunastu miesięcy. Właściwy organ krajowy lub jednostka notyfikowana przejmująca funkcje jednostki notyfikowanej, której dotyczy zmiana wyznaczenia, natychmiast powiadamiają o tym Komisję, pozostałe państwa członkowskie i pozostałe jednostki notyfikowane. Art. 37 Kwestionowanie kompetencji jednostek notyfikowanych 1. W razie konieczności Komisja przeprowadza postępowanie wyjaśniające dotyczące wszystkich przypadków, w których ma podstawy, by wątpić w kompetencje jednostki notyfikowanej lub w ciągłość spełniania przez jednostkę notyfikowaną wymogów N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ustanowionych w art. 31 oraz wypełnianie mających zastosowanie obowiązków. 2. Organ notyfikujący przekazuje Komisji, na wniosek, wszystkie istotne informacje dotyczące notyfikacji lub utrzymania kompetencji przez daną jednostkę notyfikowaną. 3. Komisja zapewnia zgodnie z art. 78 poufność wszystkich informacji wrażliwych uzyskanych w toku postępowań wyjaśniających prowadzonych zgodnie z niniejszym artykułem. 4. W przypadku gdy Komisja stwierdzi, że jednostka notyfikowana nie spełnia wymogów notyfikacji lub przestała je spełniać, informuje o tym notyfikujące państwo członkowskie i zwraca się do niego o podjęcie koniecznych środków naprawczych, włącznie z zawieszeniem lub cofnięciem notyfikacji, jeżeli zachodzi taka potrzeba. W przypadku niepodjęcia przez państwo członkowskie koniecznych środków naprawczych Komisja może w drodze aktu wykonawczego zawiesić, ograniczyć lub cofnąć wyznaczenie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 38 Koordynacja jednostek notyfikowanych 1. Komisja zapewnia - w odniesieniu do systemów AI wysokiego ryzyka - wprowadzenie i właściwy przebieg odpowiedniej koordynacji i współpracy w formie sektorowej grupy jednostek notyfikowanych jednostek notyfikowanych prowadzących działalność w zakresie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur oceny zgodności zgodnie z niniejszym rozporządzeniem. 2. Każdy organ notyfikujący zapewnia, aby notyfikowane przez niego jednostki uczestniczyły bezpośrednio lub za pośrednictwem wyznaczonych przedstawicieli w pracach grupy, o której mowa w ust. 1. 3. Komisja jest zobowiązana zapewnić wymianę wiedzy i najlepszych praktyk między organami notyfikującymi. Art. 39 Jednostki oceniające zgodność z państw trzecich Jednostki oceniające zgodność ustanowione na mocy prawa państwa trzeciego, z którym Unia zawarła umowę, mogą być upoważnione do wykonywania czynności jednostek notyfikowanych zgodnie z niniejszym rozporządzeniem, pod warunkiem, że spełniają wymogi ustanowione w art. 31 lub zapewniają równoważny poziom zgodności. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 40 Normy zharmonizowane i dokumenty normalizacyjne 1. W przypadku systemów AI wysokiego ryzyka oraz systemów AI ogólnego przeznaczenia spełniających normy zharmonizowane lub części tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej zgodnie z rozporządzeniem (UE) nr 1025/2012, domniemuje się, że spełniają one wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, obowiązki ustanowione w rozdziale V sekcja 2 i 3 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia niniejszego rozporządzenia, w zakresie, w jakim normy te obejmują te wymogi lub obowiązki. 2. Zgodnie z art. 10 rozporządzenia (UE) nr 1025/2012 Komisja wydaje bez zbędnej zwłoki wnioski o normalizację obejmujące wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału oraz w stosownych przypadkach, wnioski o normalizację obejmujące obowiązki ustanowione w rozdziale V sekcja 2 i 3 niniejszego rozporządzenia. We wniosku o normalizację zwraca się również o przedstawienie wyników sprawozdawczości i procesów dokumentowania w celu poprawy skuteczności działania zasobów systemów AI, takich jak zmniejszenie zużycia energii i innych zasobów przez system AI wysokiego ryzyka w jego cyklu życia, oraz wyników dotyczących efektywnego energetycznie rozwoju modeli AI ogólnego przeznaczenia. Przygotowując wniosek o normalizację, Komisja konsultuje się z Radą ds. AI i odpowiednimi zainteresowanymi stronami, w tym z forum doradczym. Wydając wniosek o normalizację do europejskich organizacji normalizacyjnych, Komisja określa, że normy muszą być jasne, spójne, w tym z normami opracowanymi w poszczególnych sektorach dla produktów objętych zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I, i mieć na celu zapewnienie, by systemy AI wysokiego ryzyka lub modele AI ogólnego przeznaczenia wprowadzane do obrotu lub oddawane do użytku w Unii spełniały odpowiednie wymogi lub obowiązki ustanowione w niniejszym rozporządzeniu. Komisja zwraca się do europejskich organizacji normalizacyjnych o przedstawienie dowodów, że dokładają wszelkich starań, aby osiągnąć cele, o których mowa w akapicie pierwszym i drugim niniejszego ustępu, zgodnie z art. 24 rozporządzenia (UE) nr 1025/2012. 3. Uczestnicy procesu normalizacji dążą do promowania inwestycji i innowacji w dziedzinie AI, w tym poprzez zwiększenie pewności prawa, a także konkurencyjności i wzrostu rynku Unii, do przyczynienia się do wzmocnienia globalnej współpracy w zakresie normalizacji, z uwzględnieniem istniejących w dziedzinie AI norm międzynarodowych zgodnych z wartościami Unii, prawami podstawowymi i interesem Unii, a także do poprawy zarządzania wielostronnego, zapewniając wyważoną reprezentację interesów i skuteczny udział wszystkich odpowiednich zainteresowanych stron zgodnie z art. 5, 6 i 7 rozporządzenia (UE) nr 1025/2012. Art. 41 Wspólne specyfikacje 1. Komisja może przyjmować akty wykonawcze ustanawiające wspólne specyfikacje w odniesieniu do wymogów ustanowionych w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, obowiązków ustanowionych w rozdziale V sekcja 2 i 3, w przypadku, gdy spełnione są następujące warunki: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) Komisja wystąpiła zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012 do jednej lub kilku europejskich organizacji normalizacyjnych z wnioskiem o opracowanie normy zharmonizowanej w odniesieniu do wymogów określonych w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, w odniesieniu do obowiązków ustanowionych w rozdziale V sekcja 2 i 3, oraz: (i) wniosek ten nie został przyjęty przez żadną z europejskich organizacji normalizacyjnych; lub (ii) normy zharmonizowane stanowiące odpowiedź na ten wniosek nie zostały wydane w terminie określonym zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012; lub (iii) odpowiednie normy zharmonizowane w niewystarczającym stopniu uwzględniają obawy dotyczące praw podstawowych; lub (iv) normy zharmonizowane nie są zgodne z wnioskiem; oraz b) w Dzienniku Urzędowym Unii Europejskiej nie opublikowano odniesienia do zharmonizowanych norm obejmujących wymogi, o których mowa w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, obowiązki, o których mowa w rozdziale V sekcja 2 i 3, zgodnie z przepisami rozporządzenia (UE) nr 1025/2012 i nie przewiduje się opublikowania takiego odniesienia w rozsądnym terminie. Przygotowując projekt wspólnych specyfikacji, Komisja konsultuje się z forum doradczym, o którym mowa w art. 67. Akty wykonawcze, o których mowa w akapicie pierwszym niniejszego ustępu, przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Przed przygotowaniem projektu aktu wykonawczego Komisja informuje komitet, o którym mowa w art. 22 rozporządzenia (UE) nr 1025/2012, że uważa za spełnione warunki ustanowione w ust. 1 niniejszego artykułu. 3. W przypadku systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia zgodnych ze wspólnymi specyfikacjami, o których mowa w ust. 1, lub z częściami tych specyfikacji domniemuje się, że są one zgodne z wymogami ustanowionymi w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, w zakresie, w jakim te wspólne specyfikacje obejmują te wymogi i te obowiązki. 4. W przypadku, gdy europejska organizacja normalizacyjna przyjmuje normę zharmonizowaną i proponuje Komisji opublikowanie odniesienia do niej w Dzienniku Urzędowym Unii Europejskiej, Komisja ocenia normę zharmonizowaną zgodnie z rozporządzeniem (UE) nr 1025/2012. W przypadku opublikowania odniesienia do normy zharmonizowanej w Dzienniku Urzędowym Unii Europejskiej Komisja uchyla akty wykonawcze, o których mowa w ust. 1, lub ich części, które obejmują te same wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, te same obowiązki ustanowione w rozdziale V sekcja 2 i 3. 5. W przypadku gdy dostawcy systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia nie zapewnią zgodności ze wspólnymi specyfikacjami, o których mowa w ust. 1, należycie wykazują oni, że przyjęli rozwiązania techniczne, które są zgodne z wymogami, o których mowa w rozdziale I sekcja 2, lub, w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, na poziomie co najmniej równoważnym tym wspólnym specyfikacjom. 6. W przypadku, gdy państwo członkowskie uważa, że wspólna specyfikacja nie jest całkowicie zgodna z wymogami ustanowionymi w sekcji 2 lub w stosownych przypadkach, nie spełnia całkowicie obowiązków ustanowionych w rozdziale V sekcja 2 i 3, informuje o tym Komisję, przedstawiając szczegółowe wyjaśnienie. Komisja ocenia te informacje i w stosownym przypadku zmienia akt wykonawczy ustanawiający daną wspólną specyfikację. Art. 42 Domniemanie zgodności z określonymi wymogami 1. W przypadku systemów AI wysokiego ryzyka, które zostały wytrenowane i przetestowane przy użyciu danych odzwierciedlających określone otoczenie geograficzne, behawioralne, kontekstualne lub funkcjonalne, do wykorzystywania, w którym są one przeznaczone, domniemuje się, że spełniają one odpowiednie wymogi ustanowione w art. 10 ust. 4. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W przypadku systemów AI wysokiego ryzyka, które uzyskały certyfikację lub w odniesieniu do których wydano deklarację zgodności w ramach programu certyfikacji cyberbezpieczeństwa zgodnie z rozporządzeniem (UE) 2019/881 i do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełniają one wymogi w zakresie cyberbezpieczeństwa ustanowione w art. 15 niniejszego rozporządzenia w zakresie, w jakim certyfikat cyberbezpieczeństwa lub deklaracja zgodności lub ich części obejmują te wymogi. Art. 43 Ocena zgodności 1. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1, w przypadku, gdy do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 dostawca zastosował normy zharmonizowane, o których mowa w art. 40, lub w stosownych przypadkach, wspólne specyfikacje, o których mowa w art. 41, dostawca wybiera jedną z następujących procedur oceny zgodności w oparciu o: a) kontrolę wewnętrzną, o której mowa w załączniku VI; lub b) ocenę systemu zarządzania jakością i ocenę dokumentacji technicznej przeprowadzaną z udziałem jednostki notyfikowanej, o której to procedurze mowa w załączniku VII. Przy wykazywaniu zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia dostawca postępuje zgodnie z procedurą oceny zgodności ustanowioną w załączniku VII, w przypadku, gdy: a) normy zharmonizowane, o których mowa w art. 40, nie istnieją, a wspólne specyfikacje, o których mowa w art. 41, nie są dostępne; b) dostawca nie zastosował normy zharmonizowanej lub zastosował jedynie jej część; c) wspólne specyfikacje, o których mowa w lit. a), istnieją, ale dostawca ich nie zastosował; d) co najmniej jedna z norm zharmonizowanych, o których mowa w lit. a), została opublikowana z ograniczeniem i jedynie w odniesieniu do tej części normy, której dotyczy ograniczenie. Na potrzeby procedury oceny zgodności, o której mowa w załączniku VII, dostawca może wybrać dowolną jednostkę notyfikowaną. Jednak w przypadku, gdy system ma zostać oddany do użytku przez organy ścigania, organy imigracyjne lub organy azylowe lub przez instytucje, organy i jednostki organizacyjne Unii, funkcję jednostki notyfikowanej pełni organ nadzoru rynku, o którym mowa odpowiednio w art. 74 ust. 8 lub ust. 9. 2. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, dostawcy postępują zgodnie z procedurą oceny zgodności opierającą się na kontroli wewnętrznej, o której mowa w załączniku VI i która nie przewiduje udziału jednostki notyfikowanej. 3. W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z tymi aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych. W przypadku gdy akt prawny wymieniony w załączniku I sekcja A zapewnia producentowi produktu możliwość zrezygnowania z oceny zgodności przeprowadzanej przez stronę trzecią, pod warunkiem że producent ten zapewnił zgodność ze wszystkimi normami zharmonizowanymi obejmującymi wszystkie stosowne wymogi, taki producent może skorzystać z tej możliwości wyłącznie w przypadku, gdy zapewnił również zgodność z normami zharmonizowanymi lub - w stosownych przypadkach - wspólnymi specyfikacjami, o których mowa w art. 41, obejmującymi wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału. 4. Systemy AI wysokiego ryzyka, które poddano już procedurze oceny zgodności, poddaje się nowej procedurze oceny zgodności w przypadku, gdy wprowadza się w nich istotne zmiany, niezależnie od tego, czy zmieniony system jest przeznaczony do dalszej dystrybucji lub czy ma być nadal wykorzystywany przez obecny podmiot stosujący. W przypadku systemów AI wysokiego ryzyka, które nadal uczą się po wprowadzeniu ich do obrotu lub po oddaniu ich do użytku, istotnej zmiany nie stanowią zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które dostawca z góry zaplanował w chwili przeprowadzania początkowej oceny zgodności i które są częścią informacji zawartych w dokumentacji technicznej, o której mowa w pkt 2 lit. f) załącznika IV. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załączników VI i VII poprzez ich zmianę w świetle postępu technicznego. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany ust. 1 i 2 niniejszego artykułu, aby objąć systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, procedurą oceny zgodności, o której mowa w załączniku VII, lub elementami tej procedury. Komisja przyjmuje takie akty delegowane, biorąc pod uwagę skuteczność procedury oceny zgodności opierającej się na kontroli wewnętrznej, o której mowa w załączniku VI, w zapobieganiu ryzyku dla zdrowia i bezpieczeństwa oraz ryzyku związanemu z ochroną praw podstawowych stwarzanemu przez takie systemy lub minimalizowaniu takiego ryzyka, a także uwzględniając dostępność odpowiednich zdolności i zasobów wśród jednostek notyfikowanych. Art. 44 Certyfikaty 1. Certyfikaty wydane przez jednostki notyfikowane zgodnie z załącznikiem VII są sporządzane w języku łatwo zrozumiałym dla odpowiednich organów w państwie członkowskim, w którym jednostka notyfikowana ma siedzibę. 2. Certyfikaty zachowują ważność przez wskazany w nich okres, który nie może przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III. Na wniosek dostawcy ważność certyfikatu można przedłużyć na kolejne okresy, które nie mogą każdorazowo przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III, w oparciu o wyniki ponownej oceny przeprowadzonej zgodnie z mającymi zastosowanie procedurami oceny zgodności. Wszelkie T Art. 89 Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Uzasadnione odniesienie wynikające z obowiązków nałożonych na organ notyfikacyjny. uzupełnienia do certyfikatu pozostają ważne, pod warunkiem, że uzupełniany certyfikat jest ważny. 3. Jeżeli jednostka notyfikowana ustali, że system AI przestał spełniać wymogi ustanowione w sekcji 2, zawiesza lub cofa wydany certyfikat lub nakłada na niego ograniczenia, biorąc pod uwagę zasadę proporcjonalności, chyba że dostawca systemu zapewni zgodność z tymi wymogami poprzez podjęcie odpowiedniego działania naprawczego w stosownym terminie wyznaczonym przez jednostkę notyfikowaną. Jednostka notyfikowana uzasadnia swoją decyzję. Od decyzji jednostek notyfikowanych, w tym dotyczących wydanych certyfikatów zgodności, przysługuje odwołanie. Art. 45 Obowiązki jednostek notyfikowanych w zakresie informowania 1. Jednostki notyfikowane informują organ notyfikujący: a) o unijnych certyfikatach oceny dokumentacji technicznej, uzupełnieniach tych certyfikatów i decyzjach zatwierdzających system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; b) o odmowie wydania, ograniczeniu, zawieszeniu lub cofnięciu unijnego certyfikatu oceny dokumentacji technicznej lub decyzji zatwierdzającej system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) o okolicznościach wpływających na zakres lub warunki notyfikacji; d) o wystąpieniu przez organy nadzoru rynku z wnioskiem udzielenia informacji o czynnościach z zakresu oceny zgodności; e) na wniosek, o czynnościach z zakresu oceny zgodności objętych zakresem ich notyfikacji oraz o wszelkiej innej prowadzonej działalności, w tym działalności transgranicznej i podwykonawstwie. 2. Każda jednostka notyfikowana informuje pozostałe jednostki notyfikowane o: a) decyzjach zatwierdzających system zarządzania jakością, których wydania odmówiła, które zawiesiła lub które cofnęła, oraz - na wniosek - o wydanych przez siebie decyzjach zatwierdzających system zarządzania jakością; b) unijnych certyfikatach oceny dokumentacji technicznej lub o wszelkich uzupełnieniach tych certyfikatów, których wydania odmówiła, które cofnęła, które zawiesiła lub na które nałożyła innego rodzaju ograniczenia, oraz - na wniosek - o wydanych przez siebie certyfikatach lub uzupełnieniach certyfikatów. 3. Każda jednostka notyfikowana przekazuje pozostałym jednostkom notyfikowanym prowadzącym podobne czynności z zakresu oceny zgodności w odniesieniu do tych samych rodzajów systemów AI stosowne informacje na temat kwestii związanych z negatywnymi, a także - na ich wniosek - pozytywnymi wynikami oceny zgodności. 4. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. Art. 46 Odstępstwo od procedury oceny zgodności 1. Na zasadzie odstępstwa od art. 43 i na należycie uzasadniony wniosek organ nadzoru rynku może wydać zezwolenie na wprowadzenie do obrotu lub oddanie do użytku konkretnych systemów AI wysokiego ryzyka na terytorium danego państwa członkowskiego w związku z wystąpieniem nadzwyczajnych względów dotyczących bezpieczeństwa publicznego lub ochrony zdrowia i życia osób, ochrony środowiska lub ochrony kluczowych aktywów przemysłowych i infrastrukturalnych. Zezwolenie to wydaje się tymczasowo na okres przeprowadzenia niezbędnych procedur oceny zgodności, uwzględniając nadzwyczajne względy uzasadniające przedmiotowe odstępstwo. Dokłada się starań, aby procedury te ukończono bez zbędnej zwłoki. 2. W należycie uzasadnionych pilnych przypadkach w związku z wystąpieniem nadzwyczajnych względów bezpieczeństwa publicznego lub w przypadku konkretnego, istotnego i bezpośredniego zagrożenia życia lub bezpieczeństwa fizycznego osób fizycznych, organy ścigania lub organy ochrony ludności mogą oddać do użytku określony system AI wysokiego ryzyka bez zezwolenia, o którym mowa w ust. 1, pod warunkiem że wniosek o takie zezwolenie zostanie bez T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zbędnej zwłoki złożony w trakcie wykorzystywania tego systemu lub tuż po nim. W przypadku odmowy wydania zezwolenia, o którym mowa w ust. 1, wykorzystywanie tego systemu AI wysokiego ryzyka wstrzymuje się ze skutkiem natychmiastowym, a wszystkie rezultaty i wyniki tego wykorzystania muszą zostać natychmiast odrzucone. 3. Zezwolenie, o którym mowa w ust. 1, wydaje się wyłącznie wówczas, gdy organ nadzoru rynku stwierdzi, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w sekcji 2. Organ nadzoru rynku informuje Komisję i pozostałe państwa członkowskie o zezwoleniach wydanych zgodnie z ust. 1 i 2. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych dotyczących działań organów ścigania. 4. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, ani żadne państwo członkowskie, ani Komisja nie zgłoszą sprzeciwu dotyczącego zezwolenia wydanego przez organ nadzoru rynku państwa członkowskiego zgodnie z ust. 1, takie zezwolenie uznaje się za uzasadnione. 5. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, państwo członkowskie zgłosi sprzeciw dotyczący zezwolenia wydanego przez organ nadzoru rynku innego państwa członkowskiego lub w przypadku, gdy Komisja uzna zezwolenie za sprzeczne z prawem Unii lub uzna za bezpodstawne dokonane przez państwo członkowskie stwierdzenie zgodności systemu, o czym mowa w ust. 3, Komisja niezwłocznie przystępuje do konsultacji z odpowiednim państwem członkowskim. W takim przypadku zasięga się opinii zainteresowanych operatorów i zapewnia się im możliwość przedstawienia ich stanowiska. Na tej podstawie Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiednich operatorów. 6. W przypadk,u gdy Komisja uzna zezwolenie za bezpodstawne, organ nadzoru rynku zainteresowanego państwa członkowskiego cofa je. 7. W przypadku systemów AI wysokiego ryzyka powiązanych z produktami objętymi zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A stosuje się wyłącznie odstępstwa od oceny zgodności ustanowione w tym unijnym prawodawstwie harmonizacyjnym. Art. 47 Deklaracja zgodności UE 1. Dostawca sporządza pisemną i nadającą się do odczytu maszynowego, podpisaną fizycznie lub elektronicznie, deklarację zgodności UE dla każdego systemu AI wysokiego ryzyka i przechowuje ją do dyspozycji właściwych organów krajowych przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku. W deklaracji zgodności UE wskazuje się system AI wysokiego ryzyka, dla którego ją sporządzono. Kopię deklaracji zgodności UE przedkłada się odpowiednim właściwym organom krajowym na ich wniosek. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W deklaracji zgodności UE stwierdza się, że dany system AI wysokiego ryzyka spełnia wymogi ustanowione w sekcji 2. Deklaracja zgodności UE zawiera informacje określone w załączniku V i musi zostać przetłumaczona na język łatwo zrozumiały dla właściwych organów krajowych państw członkowskich, w których dany system AI wysokiego ryzyka jest wprowadzany do obrotu lub udostępniany. 3. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innemu unijnemu prawodawstwu harmonizacyjnemu, w którym również ustanowiono wymóg sporządzenia deklaracji zgodności UE, na potrzeby wszystkich przepisów prawa Unii mających zastosowanie do systemu AI wysokiego ryzyka sporządza się jedną deklarację zgodności UE. W deklaracji zamieszcza się wszystkie informacje niezbędne do zidentyfikowania unijnego prawodawstwa harmonizacyjnego, do którego się ona odnosi. 4. Sporządzając deklarację zgodności UE, dostawca bierze na siebie odpowiedzialność za zgodność z wymogami ustanowionymi w sekcji 2. Dostawca odpowiednio zapewnia aktualność deklaracji zgodności UE. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika V poprzez zaktualizowanie treści deklaracji zgodności UE określonej w tym załączniku w celu wprowadzenia elementów, które stały się konieczne w świetle postępu technicznego. Art. 48 Oznakowanie CE 1. Oznakowanie CE podlega ogólnym zasadom określonym w art. 30 rozporządzenia (WE) nr 765/2008. 2. W przypadku systemów AI wysokiego ryzyka dostarczanych w formie cyfrowej cyfrowe oznakowanie CE stosuje się wyłącznie wtedy, gdy można do niego łatwo dotrzeć za pośrednictwem interfejsu, poprzez który uzyskuje się dostęp do tego systemu, lub za pomocą łatwo dostępnego kodu nadającego się do odczytu maszynowego lub innych środków elektronicznych. 3. Oznakowanie CE umieszcza się na systemie AI wysokiego ryzyka w sposób widoczny, czytelny i trwały. W przypadku gdy z uwagi na charakter systemu AI wysokiego ryzyka oznakowanie systemu w taki sposób nie jest możliwe lub zasadne, oznakowanie to umieszcza się na opakowaniu lub - w stosownych przypadkach - w dołączonej do systemu dokumentacji. 4. W stosownych przypadkach oznakowaniu CE towarzyszy również numer identyfikacyjny jednostki notyfikowanej odpowiedzialnej za przeprowadzenie procedur oceny zgodności ustanowionych w art. 43. Numer identyfikacyjny jednostki notyfikowanej umieszcza sama jednostka lub według wskazówek jednostki notyfikowanej, dostawca lub jego upoważniony przedstawiciel. Numer identyfikacyjny umieszcza się również na wszelkich materiałach promocyjnych zawierających informacje o tym, że N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia system AI wysokiego ryzyka spełnia wymogi konieczne do opatrzenia go oznakowaniem CE. 5. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innym przepisom Unii, które również przewidują umieszczenie oznakowania CE, oznakowanie CE wskazuje, że dany system AI wysokiego ryzyka spełnia także wymogi zawarte w tych innych przepisach. Art. 49 Rejestracja 1. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, dostawca lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 2. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI, co do którego dostawca stwierdził, że nie jest systemem wysokiego ryzyka zgodnie z art. 6 ust. 3, dostawca ten lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 3. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 2, podmioty stosujące będące publicznymi organami, instytucjami, organami lub jednostkami organizacyjnymi Unii lub osobami działającymi w ich imieniu rejestrują się, T w zakresie ust.5 Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia W zakresie art. 49 ust. 5. Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia wybierają system i rejestrują jego wykorzystanie w bazie danych UE, o której mowa w art. 71. 4. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, migracji, azylu i zarządzania kontrolą graniczną, rejestracji, o której mowa w ust. 1, 2 i 3 niniejszego artykułu, dokonuje się w bezpiecznej niepublicznej sekcji bazy danych UE, o której mowa w art. 71, i - stosownie do przypadku - zawiera wyłącznie następujące informacje, o których mowa w: a) załączniku VIII sekcja A pkt 1-10, z wyjątkiem pkt 6, 8 i 9; b) załączniku VIII sekcja B pkt 1-5 oraz pkt 8 i 9; c) załączniku VIII sekcja C pkt 1-3; d) załączniku IX pkt 1, 2, 3 i 5. Do odpowiednich zastrzeżonych sekcji bazy danych UE wymienionych w akapicie pierwszym niniejszego ustępu dostęp mają jedynie Komisja i organy krajowe, o których mowa w art. 74 ust. 8. 5. Systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, rejestruje się na poziomie krajowym. w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 50 Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI 1. Dostawcy zapewniają, aby systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi projektowano i rozwijano w taki sposób, N Przepis o charakterze ogólnym stosowany wprost aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. Obowiązek ten nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich, chyba że systemy te udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa. 2. Dostawcy systemów AI, w tym systemów AI ogólnego zastosowania, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, zapewniają, aby wyniki systemu AI zostały oznakowane w formacie nadającym się do odczytu maszynowego i były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Dostawcy zapewniają skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, co może być odzwierciedlone w odpowiednich normach technicznych. Obowiązek ten nie ma zastosowania w zakresie, w jakim systemy AI pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób nie wymaga wdrożenia przekazywanych przez podmiot stosujący danych wejściowych lub ich semantyki, ani w zakresie, w jakim jest to dozwolone na mocy prawa do celów wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. 3. Podmioty stosujące systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej informują osoby fizyczne, wobec których systemy te są stosowane, o fakcie ich stosowania i przetwarzają dane osobowe stosownie do przypadku zgodnie z rozporządzeniami (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680. Obowiązek ten nie ma zastosowania do systemów AI wykorzystywanych do kategoryzacji biometrycznej i rozpoznawania emocji, których wykorzystywanie jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych w przestępstwami ich sprawach, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem Unii. 4. Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu. Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku, gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. 5. Informacje, o których mowa w ust. 1-4, są przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania. Informacje te muszą spełniać mające zastosowanie wymogi dostępności. 6. Ust. 1-4 nie mają wpływu na wymogi i obowiązki ustanowione w rozdziale III i pozostają bez uszczerbku dla innych obowiązków w zakresie przejrzystości ustanowionych w prawie Unii lub prawie krajowym w odniesieniu do podmiotów stosujących systemy AI. 7. Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania i oznaczania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może przyjmować akty wykonawcze dotyczące zatwierdzenia tych kodeksów praktyk zgodnie z procedurą ustanowioną w art. 56 ust. 6. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2. Art. 51 Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Model AI ogólnego przeznaczenia jest klasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli spełnia którykolwiek z następujących warunków: a) ma zdolności dużego oddziaływania ocenione w oparciu o odpowiednie narzędzia i metodologie techniczne, w tym wskaźniki i poziomy odniesienia; b) w oparciu o decyzję Komisji - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy - ma zdolności lub oddziaływanie równoważne z tymi, które określono w lit. a), przy N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia uwzględnieniu kryteriów określonych w załączniku XIII. 2. W przypadku modelu AI ogólnego przeznaczenia, którego łączna liczba obliczeń wykorzystywanych do jego trenowania mierzona w operacjach zmiennoprzecinkowych jest większa niż 10 25 , domniemuje się za mający zdolności dużego oddziaływania zgodnie z ust. 1 lit. a), 3. Komisja przyjmuje akty delegowane zgodnie z art. 97 w celu zmiany progów wymienionych w ust. 1 i 2 niniejszego artykułu, a także w celu uzupełnienia poziomów odniesienia i wskaźników w świetle rozwoju technologicznego obejmującego na przykład ulepszenia algorytmiczne lub zwiększoną wydajność sprzętu, w miarę konieczności, by progi te odzwierciedlały aktualny stan techniki. Art. 52 Procedura 1. W przypadku, gdy model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51 ust. 1 lit. a), odpowiedni dostawca powiadamia Komisję niezwłocznie, a w każdym przypadku w terminie dwóch tygodni od spełnienia tego warunku lub od kiedy wiadomo, że zostanie on spełniony. Powiadomienie to zawiera informacje niezbędne do wykazania, że dany warunek został spełniony. Jeśli Komisja dowie się o stwarzającym ryzyko systemowe modelu AI ogólnego przeznaczenia, o którym nie została powiadomiona, może zdecydować o uznaniu go za model z ryzykiem systemowym. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 2. Dostawca spełniający warunek, o którym mowa w art. 51 ust. 1 lit. a), modelu AI ogólnego przeznaczenia z ryzykiem systemowym może wraz ze swoim powiadomieniem przedstawić wystarczająco uzasadnione argumenty wykazujące, że wyjątkowo, pomimo spełniania przez ten model AI ogólnego przeznaczenia przedmiotowego warunku, nie stwarza on - z uwagi na swoje szczególne cechy - ryzyka systemowego i nie powinien być w związku z tym zaklasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym. 3. W przypadku, gdy Komisja stwierdzi, że argumenty przedstawione zgodnie z ust. 2 nie są wystarczająco uzasadnione i że dany dostawca nie był w stanie wykazać, że dany model AI ogólnego przeznaczenia nie stwarza - z uwagi na swoje szczególne cechy - ryzyka systemowego, odrzuca te argumenty, a dany model AI ogólnego przeznaczenia uważa się za model AI ogólnego przeznaczenia z ryzykiem systemowym. 4. Komisja może - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy zgodnie z art. 90 ust. 1 lit. a) - uznać model AI ogólnego przeznaczenia za model stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika XIII poprzez określenie i zaktualizowanie kryteriów określonych w załączniku XIII. 5. Na uzasadniony wniosek dostawcy, którego model został zgodnie z ust. 4 uznany za model AI ogólnego przeznaczenia z ryzykiem systemowym, Komisja bierze pod uwagę taki wniosek i może zdecydować o ponownej ocenie w celu stwierdzenia, czy dany model AI ogólnego przeznaczenia może być nadal uważany za stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Wniosek taki zawiera obiektywne, szczegółowe i nowe powody, które pojawiły się po podjęciu decyzji o uznaniu. Dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu decyzji o uznaniu. W przypadku gdy w wyniku ponownej oceny Komisja zdecyduje się utrzymać uznanie modelu za model AI ogólnego przeznaczenia z ryzykiem systemowym, dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu tej decyzji. 6. Komisja zapewnia publikację i aktualizację wykazu modeli AI ogólnego przeznaczenia z ryzykiem systemowym, bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej oraz poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 53 Obowiązki dostawców modeli AI ogólnego przeznaczenia 1. Dostawcy modeli AI ogólnego przeznaczenia: N Przepis o charakterze ogólnym stosowany wprost a) sporządzają i aktualizują dokumentację techniczną modelu, w tym proces jego trenowania i testowania oraz wyniki jego oceny, zawierającą co najmniej informacje określone w załączniku XI do celów przekazania ich, na wniosek, Urzędowi ds. AI i właściwym organom krajowym; b) sporządzają, aktualizują i udostępniają informacje i dokumentację dostawcom systemów AI, którzy zamierzają zintegrować model AI ogólnego przeznaczenia ze swoimi systemami AI. Bez uszczerbku dla potrzeby przestrzegania i ochrony praw własności intelektualnej i poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie prawem Unii i prawem krajowym te informacje i dokumentacja: (i) umożliwiają dostawcom systemów AI dobre zrozumienie możliwości i ograniczeń danego modelu AI ogólnego przeznaczenia oraz spełnienie ich obowiązków zgodnie z niniejszym rozporządzeniem; oraz (ii) zawierają co najmniej elementy określone w załączniku XII; c) wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790; d) sporządzają i podają do wiadomości publicznej wystarczająco szczegółowe streszczenie na temat treści nie wymaga wdrożenia. wykorzystanych do trenowania danego modelu AI ogólnego przeznaczenia, zgodnie ze wzorem dostarczonym przez Urząd ds. AI. 2. Obowiązków określonych w ust. 1 lit. a) i b) nie stosuje się do dostawców modeli AI, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej. Wyjątku tego nie stosuje się do modeli AI ogólnego przeznaczenia z ryzykiem systemowym. 3. Dostawcy modeli AI ogólnego przeznaczenia współpracują w razie konieczności z Komisją i właściwymi organami krajowymi przy wykonywaniu ich kompetencji i uprawnień zgodnie z niniejszym rozporządzeniem. 4. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków ustanowionych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 5. Do celu ułatwienia zgodności z załącznikiem XI, w szczególności jego pkt 2 lit. d) i e), Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych dotyczących szczegółowego określenia metod pomiaru i obliczeń umożliwiających porównywalną i weryfikowalną dokumentację. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 ust. 2 w celu zmiany załączników XI i XII w świetle postępu technicznego. 7. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 54 Upoważnieni przedstawiciele dostawców modeli AI ogólnego przeznaczenia 1. Przed wprowadzeniem swoich modeli AI ogólnego przeznaczenia do obrotu w Unii dostawcy mający siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przez dostawcę. Przekazuje on Urzędowi ds. AI na jego wniosek kopię pełnomocnictwa w jednym z oficjalnych języków instytucji Unii. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie czy dostawca sporządził dokumentację techniczną określoną w załączniku XI oraz czy wypełnił wszystkie obowiązki, o których mowa w art. 53, oraz w stosownych przypadkach, w art. 55; b) przechowywanie kopii dokumentacji technicznej określonej w załączniku XI do dyspozycji Urzędu ds. AI i właściwych organów krajowych przez okres 10 lat od czasu wprowadzenia danego modelu AI ogólnego przeznaczenia do obrotu oraz danych kontaktowych dostawcy, który ustanowił danego upoważnionego przedstawiciela; c) przekazywanie Urzędowi ds. AI na uzasadniony wniosek wszystkich informacji i dokumentacji, w tym określonych w lit. b), niezbędnych do wykazania spełnienia obowiązków ustanowionych w niniejszym rozdziale; d) współpraca z Urzędem ds. AI i właściwymi organami, na uzasadniony wniosek, we wszelkich podejmowanych przez nie działaniach odnoszących się do modelu AI ogólnego przeznaczenia, w tym, kiedy model ten jest zintegrowany z systemami AI wprowadzanymi do obrotu lub oddawanymi do użytku w Unii. 4. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby Urząd ds. AI lub właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 5. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli sądzi lub ma powody sądzić, że dostawca działa w sposób sprzeczny z jego obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku informuje on również natychmiast Urząd ds. AI o wypowiedzeniu pełnomocnictwa i o jego przyczynach. 6. Obowiązek określony w niniejszym artykule nie dotyczy dostawców modeli AI ogólnego przeznaczenia, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej, chyba że te modele AI ogólnego przeznaczenia stwarzają ryzyko systemowe. Art. 55 Obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Oprócz obowiązków wymienionych w art. 53 i 54 dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) dokonują oceny modelu zgodnie ze znormalizowanymi protokołami i narzędziami odzwierciedlającymi najaktualniejszy stan wiedzy technicznej, w tym przeprowadzają i dokumentują kontradyktoryjne testy modelu z myślą o zidentyfikowaniu ryzyka systemowego i jego ograniczenia; b) oceniają i ograniczają ewentualne ryzyko systemowe na poziomie Unii, w tym jego źródła, które może wynikać z rozwoju, wprowadzania do obrotu lub wykorzystywania modeli AI ogólnego przeznaczenia z ryzykiem systemowym; c) rejestrują, dokumentują i niezwłocznie zgłaszają Urzędowi ds. AI oraz w stosownych przypadkach, właściwym organom krajowym odpowiednie informacje dotyczące poważnych incydentów i ewentualnych środków naprawczych służących zaradzeniu im; d) zapewniają odpowiedni poziom cyberochrony modelu AI ogólnego przeznaczenia z ryzykiem systemowym oraz infrastruktury fizycznej tego modelu. 2. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków określonych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 3. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 56 Kodeksy praktyk 1. Urząd ds. AI zachęca do sporządzania kodeksów praktyk na poziomie Unii i ułatwia ich sporządzanie w celu przyczyniania się do właściwego stosowania niniejszego rozporządzenia, przy uwzględnieniu podejść międzynarodowych. 2. Urząd ds. AI i Rada ds. AI dążą do zapewnienia, by kodeksy praktyk obejmowały co najmniej obowiązki przewidziane w art. 53 i 55, w tym następujące kwestie: a) środki na rzecz zapewnienia, by informacje, o których mowa w art. 53 ust. 1 lit. a) i b), były aktualne w świetle rozwoju rynku i technologii; b) odpowiedni poziom szczegółowości streszczenia na temat treści wykorzystywanych do trenowania; c) identyfikacja rodzaju i charakteru ryzyka systemowego na poziomie Unii, w tym, w stosownych przypadkach, jego źródła; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia d) środki, procedury i zasady oceny ryzyka systemowego i zarządzania nim na poziomie Unii, w tym ich dokumentacja, które muszą być proporcjonalne do ryzyka, uwzględniać jego dotkliwość i prawdopodobieństwo wystąpienia oraz uwzględniać szczególne wyzwania w zakresie radzenia sobie z tym ryzykiem w świetle potencjalnych sposobów pojawienia się takie ryzyka i jego urzeczywistnienia w całym łańcuchu wartości AI. 3. Urząd ds. AI może zwrócić się do wszystkich dostawców modeli AI ogólnego przeznaczenia oraz odpowiednich właściwych organów krajowych o wzięcie udziału w opracowywaniu kodeksów praktyk. Organizacje społeczeństwa obywatelskiego, przedstawiciele przemysłu, środowisko akademickie oraz inne odpowiednie zainteresowane strony, takie jak dostawcy niższego szczebla i niezależni eksperci, mogą wspierać ten proces. 4. Urząd ds. AI i Rada ds. AI starają się zapewnić, by kodeksy praktyk wyraźnie określały swoje cele szczegółowe i zawierały zobowiązania lub środki, w tym, w stosownych przypadkach, kluczowe wskaźniki skuteczności działania, w celu zapewnienia realizacji tych celów, oraz by uwzględniały w należytym stopniu potrzeby i interesy wszystkich zainteresowanych stron, w tym osób, na które AI ma wpływ, na poziomie Unii. 5. Urząd ds. AI stara się zapewnić, by uczestnicy kodeksów praktyk regularnie składali Urzędowi ds. AI sprawozdania z realizacji podjętych zobowiązań i środków oraz z ich wyników, w tym, w odpowiednich przypadkach, mierzonych w odniesieniu do kluczowych wskaźników skuteczności działania. Kluczowe wskaźniki skuteczności działania i zobowiązania w zakresie sprawozdawczości muszą odzwierciedlać różnice w wielkości i zdolnościach poszczególnych uczestników. 6. Urząd ds. AI i Rada ds. AI regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Urząd ds. AI i Rada ds. AI oceniają, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, i regularnie monitorują i oceniają realizację ich celów. Publikują one swoją ocenę adekwatności kodeksów praktyk. Komisja może w drodze aktu wykonawczego zatwierdzić kodeks praktyk i nadać mu powszechną moc w Unii. Taki akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Urząd ds. AI może zwracać się do wszystkich dostawców modeli AI ogólnego przeznaczenia, by przestrzegali kodeksów praktyk. W przypadku dostawców modeli AI ogólnego przeznaczenia, które nie stwarzają ryzyka systemowego, przestrzeganie kodeksów może być ograniczone do obowiązków przewidzianych w art. 53, chyba że wyraźnie zadeklarują oni zainteresowanie pełnym przystąpieniem do kodeksu. 8. Urząd ds. AI w stosownych przypadkach zachęca również do prowadzenia przeglądów i dostosowywania kodeksów praktyk oraz ułatwia takie przeglądy i dostosowania, w szczególności w świetle nowych norm. Urząd ds. AI udziela wsparcia w ocenie dostępnych norm. 9. Kodeksy praktyk muszą być gotowe najpóźniej do dnia 2 maja 2025 r. Urząd ds. AI podejmuje niezbędne kroki, w tym kieruje zachęty do dostawców zgodnie z ust. 7. Jeśli do dnia 2 sierpnia 2025 r. opracowanie kodeks praktyk nie może zostać zakończone lub Urząd ds. AI w wyniku swojej oceny na podstawie ust. 6 niniejszego artykułu uzna, że nie jest on odpowiedni, Komisja może w drodze aktów wykonawczych ustanowić wspólne przepisy dotyczące wykonywania obowiązków przewidzianych w art. 53 i 55, z uwzględnieniem kwestii określonych w ust. 2 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 57 Piaskownice regulacyjne w zakresie AI 1. Państwa członkowskie zapewniają, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która musi zostać uruchomiona do dnia 2 sierpnia 2026 r. Piaskownica ta może również zostać ustanowiona wspólnie z właściwymi organami innych państw członkowskich. Komisja może zapewniać wsparcie techniczne, doradztwo i narzędzia do celów T Art. 91 Art. 95 Art. 96 Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, Przepis dotyczy piaskownic regulacyjnych. Przepisy rozporządzenia odnoszące się do tej kategorii wejdą w życie 2.08.2026 r. ustanowienia i działania piaskownic regulacyjnych w zakresie AI. Obowiązek ustanowiony w akapicie pierwszym może również zostać spełniony poprzez uczestnictwo w istniejącej piaskownicy w zakresie, w jakim udział ten stwarza równoważny poziom zasięgu krajowego dla uczestniczących państw członkowskich. 2. Można również ustanowić dodatkowe piaskownice regulacyjne w zakresie AI na poziomie regionalnym lub lokalnym lub wspólnie z właściwymi organami innych państw członkowskich. 3. Europejski Inspektor Ochrony Danych może również ustanowić piaskownicę regulacyjną w zakresie AI dla instytucji, organów i jednostek organizacyjnych Unii i może pełnić role i wykonywać zadania właściwych organów krajowych zgodnie z niniejszym rozdziałem. 4. Państwa członkowskie zapewniają, by właściwe organy, o których mowa w ust. 1 i 2, przeznaczały wystarczające zasoby do skutecznego i terminowego zapewnienia zgodności z niniejszym artykułem. W stosownych przypadkach właściwe organy krajowe współpracują z innymi odpowiednimi organami i mogą zezwolić na zaangażowanie innych podmiotów z ekosystemu AI. Niniejszy artykuł nie ma wpływu na inne piaskownice regulacyjne ustanowione na podstawie prawa Unii lub prawa krajowego. Państwa członkowskie zapewniają odpowiedni poziom współpracy między organami nadzorującymi te inne piaskownice a właściwymi organami krajowymi. w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzgledniający możliwości organizacyjne Komisji, przewidywane 5. Piaskownice regulacyjne w zakresie AI ustanowione na podstawie ust. 1 zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. 6. Właściwe organy zapewniają, w stosownych przypadkach, wskazówki, nadzór i wsparcie w ramach piaskownicy regulacyjnej w zakresie AI, mając na celu identyfikację ryzyka, w szczególności dla praw podstawowych, zdrowia i bezpieczeństwa, testowania, środków ograniczających ryzyko oraz ich skuteczności w odniesieniu do obowiązków i wymogów niniejszego rozporządzenia oraz w stosownych przypadkach, innych nadzorowanych w ramach danej piaskownicy przepisów prawa Unii i prawa krajowego. 7. Właściwe organy zapewniają dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie AI wskazówki dotyczące oczekiwań regulacyjnych oraz sposobów spełnienia wymogów i obowiązków ustanowionych w niniejszym rozporządzeniu. Na wniosek dostawcy lub potencjalnego dostawcy systemu AI właściwy organ przedstawia na piśmie dowód skutecznie przeprowadzonych w ramach zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o piaskownicy działań. Właściwy organ przygotowuje również sprawozdanie końcowe zawierające szczegółowe informacje na temat działań przeprowadzonych w ramach piaskownicy oraz powiązanych rezultatów i efektów uczenia się. Dostawcy mogą wykorzystywać taką dokumentację do wykazania swojej zgodności z niniejszym rozporządzeniem w ramach procesu oceny zgodności lub odpowiednich działań w zakresie nadzoru rynku. W tym względzie sprawozdania końcowe oraz dowody na piśmie przedstawione przez właściwy organ krajowy są uwzględniane pozytywnie przez organy nadzoru rynku i jednostki notyfikowane, z myślą o przyspieszeniu procedur oceny zgodności w rozsądnym zakresie. 8. Z zastrzeżeniem przepisów dotyczących poufności określonych w art. 78 i za zgodą dostawcy lub potencjalnego dostawcy Komisja i Rada ds. AI są upoważnione, by uzyskać dostęp do sprawozdań końcowych i - w stosownych przypadkach - uwzględniają je przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. Jeżeli zarówno dostawca lub przyszły dostawca, jak i właściwy organ krajowy wyraźnie wyrażą na to zgodę, sprawozdanie końcowe może zostać podane do wiadomości publicznej za pośrednictwem jednolitej platformy informacyjnej, o której mowa w niniejszym artykule. 9. Ustanowienie piaskownic regulacyjnych w zakresie AI ma na celu przyczynienie się do osiągnięcia następujących celów: minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 4, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostepnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie a) zwiększenie pewności prawa z myślą o osiągnięciu zgodności regulacyjnej z niniejszym rozporządzeniem lub w stosownych przypadkach, innym mającym zastosowanie prawem Unii i prawem krajowym; b) wspieranie wymiany najlepszych praktyk poprzez współpracę z organami uczestniczącymi w piaskownicy regulacyjnej w zakresie AI; c) wzmacnianie innowacyjności i konkurencyjności oraz ułatwianie rozwoju ekosystemu AI; d) wniesienie wkładu w oparte na dowodach uczenie się działań regulacyjnych; e) ułatwianie i przyspieszanie dostępu do rynku Unii dla systemów AI, w szczególności, gdy są one dostarczane przez MŚP, w tym przedsiębiorstwa typu startup. 10. Właściwe organy krajowe zapewniają, aby - w zakresie, w jakim innowacyjne systemy AI wiążą się z przetwarzaniem danych osobowych lub z innego powodu wchodzą w zakres kompetencji nadzorczych innych organów krajowych lub właściwych organów zapewniających dostęp do danych osobowych lub wsparcie w uzyskaniu dostępu do tych danych - krajowe organy ochrony danych oraz te inne organy krajowe włączono w działalność piaskownicy regulacyjnej w zakresie AI oraz zaangażowano w nadzór nad tymi aspektami w zakresie wynikającym z ich odpowiednich zadań i uprawnień. 11. Piaskownice regulacyjne w zakresie AI pozostaje bez wpływu na uprawnienia w zakresie nadzoru lub stosowania środków naprawczych przynależne przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. właściwym organom nadzorującym te piaskownice, w tym na poziomie regionalnym lub lokalnym. Stwierdzenie istnienia jakiegokolwiek znaczącego ryzyka dla zdrowia i bezpieczeństwa oraz dla praw podstawowych na etapie rozwoju i testowania takich systemów AI powoduje konieczność właściwego ograniczenia tego ryzyka. Właściwe organy krajowe są uprawnione do tymczasowego lub trwałego zawieszenia procesu testowania lub udziału w piaskownicy, jeżeli skuteczne ograniczenie ryzyka nie jest możliwe, oraz informują o takiej decyzji Urząd ds. AI. Właściwe organy krajowe wykonują swoje uprawnienia nadzorcze w granicach określonych w odpowiednich przepisach, wykorzystując swoje uprawnienia dyskrecjonalne przy stosowaniu przepisów prawnych w odniesieniu do konkretnego projektu piaskownicy regulacyjnej w zakresie AI, w celu wspierania innowacji w dziedzinie AI w Unii. 12. Dostawcy lub potencjalni dostawcy uczestniczący w piaskownicy regulacyjnej w zakresie AI ponoszą odpowiedzialność, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, za wszelkie szkody wyrządzone osobom trzecim w wyniku doświadczeń przeprowadzanych w piaskownicy. Organy nie nakładają jednak administracyjnych kar pieniężnych w związku z naruszeniem niniejszego rozporządzenia, pod warunkiem, że potencjalny dostawca respektuje konkretny plan oraz warunki uczestnictwa, a także w dobrej wierze stosuje się do wytycznych właściwych organów krajowych. W przypadku gdy inne właściwe organy odpowiedzialne za inne przepisy prawa Unii lub przepisy krajowe uczestniczyły aktywnie w nadzorze nad systemem AI w ramach piaskownicy regulacyjnej i udzielały wskazówek w zakresie zgodności, w odniesieniu do tego prawa nie nakłada się administracyjnych kar pieniężnych. 13. Piaskownice regulacyjne w zakresie AI opracowuje się i wdraża w taki sposób, by w stosownych przypadkach ułatwiały współpracę transgraniczną między właściwymi organami krajowymi. 14. Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. 15. Właściwe organy krajowe informują Urząd ds. AI i Radę ds. AI o utworzeniu piaskownicy oraz mogą zwrócić się do nich o wsparcie i wytyczne. Urząd ds. AI podaje do wiadomości publicznej i aktualizuje wykaz planowanych i istniejących piaskownic, aby zachęcić do większej interakcji w ramach piaskownic regulacyjnych w zakresie AI i do współpracy transgranicznej. 16. Właściwe organy krajowe przedkładają Urzędowi ds. AI i Radzie ds. AI sprawozdania roczne - po upływie jednego roku od ustanowienia piaskownicy regulacyjnej w zakresie AI, a następnie co roku, aż do zakończenia jej działalności - oraz sprawozdanie końcowe. Sprawozdania te zawierają informacje o postępach i rezultatach wdrażania piaskownic, w tym również o najlepszych praktykach, incydentach, wyciągniętych wnioskach i zaleceniach dotyczących tworzenia piaskownic regulacyjnych, a w stosownych przypadkach - zalecenia dotyczące stosowania i ewentualnego przeglądu niniejszego rozporządzenia, w tym związanych z nim aktów delegowanych i wykonawczych, oraz stosowania innych przepisów prawa Unii objętego nadzorem właściwych organów w ramach danej piaskownicy. Właściwe organy krajowe podają te roczne sprawozdania lub ich streszczenia do wiadomości publicznej w internecie. Komisja w stosownych przypadkach bierze pod uwagę sprawozdania roczne przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. 17. Komisja opracowuje jednolity i specjalny interfejs zawierający wszystkie istotne informacje dotyczące piaskownic regulacyjnych w zakresie AI, aby zgodnie z art. 62 ust. 1 lit. c) umożliwić zainteresowanym stronom interakcję z piaskownicami regulacyjnymi w zakresie AI i zwracanie się do właściwych organów z pytaniami oraz uzyskiwania niewiążących wskazówek w zakresie zapewnienia zgodności innowacyjnych produktów, usług i modeli biznesowych zawierających zintegrowane technologie AI. W stosownych przypadkach Komisja proaktywnie koordynuje swoje działania z właściwymi organami krajowymi. Art. 58 Szczegółowe zasady dotyczące piaskownic regulacyjnych w zakresie AI i ich funkcjonowania 1. Aby uniknąć fragmentacji w całej Unii, Komisja przyjmuje akty wykonawcze określające szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania, działania piaskownic regulacyjnych w zakresie AI i nadzoru nad nimi. Te akty wykonawcze N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia określają wspólne zasady dotyczące następujących kwestii: a) kwalifikowalności i kryteriów wyboru dotyczących uczestnictwa w piaskownicy regulacyjnej w zakresie AI; b) procedur składania wniosków, uczestnictwa, monitorowania, wychodzenia z piaskownicy regulacyjnej w zakresie AI i zakończenia jej działalności, w tym planu działania piaskownicy i sprawozdania końcowego; c) warunków mających zastosowanie do uczestników. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Akty wykonawcze, o których mowa w ust. 1, zapewniają, aby: a) piaskownice regulacyjne w zakresie AI były otwarte dla każdego zgłaszającego się dostawcy lub potencjalnego dostawcy systemu AI spełniającego kryteria kwalifikowalności i wyboru, które muszą być przejrzyste i bezstronne, a właściwe organy krajowe informowały wnioskodawców o swojej decyzji w terminie trzech miesięcy od złożenia wniosku; b) piaskownice regulacyjne w zakresie AI umożliwiały szeroki i równy dostęp oraz nadążały za popytem, jeżeli chodzi o uczestnictwo; dostawcy i potencjalni dostawcy mogą również składać wnioski we współpracy z podmiotami stosującymi oraz innymi odpowiednimi osobami trzecimi; c) szczegółowe zasady i warunki dotyczące piaskownic regulacyjnych w zakresie AI w możliwie najlepszym stopniu wspierały swobodę właściwych organów krajowych w zakresie ustanawiania piaskownic regulacyjnych w zakresie AI i zarządzania nimi; d) dostęp do piaskownic regulacyjnych w zakresie AI był nieodpłatny dla MŚP, w tym przedsiębiorstw typu startup, bez uszczerbku dla nadzwyczajnych kosztów, do których odzyskania w bezstronny i proporcjonalny sposób mogą być uprawnione właściwe organy krajowe; e) ułatwiały one dostawcom i potencjalnym dostawcom, za pomocą efektów uczenia się uzyskanych dzięki piaskownicom regulacyjnym w zakresie AI, spełnianie wynikających z niniejszego rozporządzenia wymogów w zakresie oceny zgodności oraz dobrowolnego stosowania kodeksów postępowania, o których mowa w art. 95; f) piaskownice regulacyjne w zakresie AI ułatwiały zaangażowanie innych odpowiednich podmiotów w ekosystemie sztucznej inteligencji, takich jak jednostki notyfikowane i organizacje normalizacyjne, MŚP, w tym przedsiębiorstwa typu startup, przedsiębiorstwa, innowatorzy, ośrodki testowo-doświadczalne, laboratoria badawczo-doświadczalne, europejskie centra innowacji cyfrowych, centra doskonałości i poszczególni naukowcy, aby umożliwić i ułatwić współpracę z sektorem publicznym i prywatnym; g) procedury, procesy i wymogi administracyjne dotyczące składania wniosków, wyboru, uczestnictwa i wychodzenia z piaskownicy regulacyjnej w zakresie AI były proste, łatwe do zrozumienia, jasno podane do wiadomości w celu ułatwienia uczestnictwa MŚP, w tym przedsiębiorstwom typu startup, o ograniczonych zdolnościach prawnych i administracyjnych, a także by były ujednolicone w całej Unii, aby uniknąć fragmentacji, oraz aby uczestnictwo w piaskownicy regulacyjnej w zakresie AI ustanowionej przez jedno z państw członkowskich lub Europejskiego Inspektora Ochrony Danych było wzajemnie i powszechnie uznawane i miało takie same skutki prawne w całej Unii; h) uczestnictwo w piaskownicy regulacyjnej w zakresie AI było ograniczone do okresu odpowiedniego dla złożoności i skali projektu, który to okres może zostać przedłużony przez właściwy organ krajowy; i) piaskownice regulacyjne w zakresie AI ułatwiały tworzenie narzędzi i infrastruktury do testowania, analizy porównawczej, oceny i wyjaśniania aspektów systemów AI istotnych w kontekście uczenia się działań regulacyjnych, które to aspekty obejmują dokładność, solidność i cyberbezpieczeństwo, a także tworzenie środków służących ograniczaniu ryzyka dla praw podstawowych i ogółu społeczeństwa. 3. Potencjalni dostawcy w piaskownicach regulacyjnych w zakresie AI, w szczególności MŚP i przedsiębiorstwa typu startup, są w stosownych przypadkach kierowani do usług przedwdrożeniowych, takich jak doradztwo w zakresie wdrażania niniejszego rozporządzenia, do innych usług o wartości dodanej, takich jak pomoc w zakresie dokumentów normalizacyjnych i certyfikacji, do ośrodków testowo-doświadczalnych, europejskich centrów innowacji cyfrowych oraz centrów doskonałości. 4. W przypadku, gdy właściwe organy krajowe rozważają udzielenie zezwolenia na przeprowadzenie testów w warunkach rzeczywistych nadzorowanych w ramach piaskownicy w zakresie AI, która ma zostać ustanowiona na mocy niniejszego artykułu, szczegółowo uzgadniają one z uczestnikami warunki takich testów, a w szczególności odpowiednie zabezpieczenia, mające na celu ochronę praw podstawowych, zdrowia i bezpieczeństwa. W stosownych przypadkach współpracują one z innymi właściwymi organami krajowymi w celu zapewnienia spójnych praktyk w całej Unii. Art. 59 Dalsze przetwarzanie danych osobowych na potrzeby rozwoju w interesie publicznym określonych systemów AI w ramach piaskownicy regulacyjnej w zakresie AI 1. Dane osobowe zebrane zgodnie z prawem w innych celach można przetwarzać, w ramach piaskownicy regulacyjnej w zakresie AI, wyłącznie do celów rozwoju, trenowania i testowania w ramach piaskownicy niektórych systemów AI, gdy spełnione są wszystkie następujące warunki: a) systemy AI rozwija się w celu zabezpieczenia przez organ publiczny lub inną osobę fizyczną lub prawną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia istotnego interesu publicznego w co najmniej jednym z następujących obszarów: (i) bezpieczeństwo publiczne i zdrowie publiczne, w tym wykrywanie, diagnozowanie, profilaktyka, kontrola i leczenie chorób oraz poprawa systemów opieki zdrowotnej; (ii) wysoki poziom ochrony środowiska i poprawa jego jakości, ochrona różnorodności biologicznej, ochrona przed zanieczyszczeniem, środki w zakresie transformacji ekologicznej, środki w zakresie łagodzenia zmiany klimatu i przystosowania się do niej; (iii) zrównoważoność energetyczna; (iv) bezpieczeństwo i odporność systemów transportowych i mobilności, infrastruktury krytycznej i sieci; (v) wydajność i jakość administracji publicznej i usług publicznych; b) przetwarzane dane są niezbędne do zapewnienia zgodności z co najmniej jednym z wymogów, o których mowa w rozdziale III sekcja 2, przy czym wymogów tych nie można skutecznie spełnić, przetwarzając dane zanonimizowane, dane syntetyczne lub innego rodzaju dane nieosobowe; c) ustanowiono skuteczne mechanizmy monitorowania pozwalające zidentyfikować wszelkie wysokie ryzyko naruszenia praw i wolności osób, których dane dotyczą, określone w art. 35 rozporządzenia (UE) 2016/679 i art. 39 rozporządzenia (UE) 2018/1725, jakie może wystąpić w trakcie przeprowadzania doświadczeń w ramach piaskownicy, a także mechanizmy reagowania zapewniające możliwość szybkiego ograniczenia tego ryzyka oraz - w stosownych przypadkach - wstrzymania przetwarzania; d) wszelkie dane osobowe, które mają być przetwarzane w kontekście piaskownicy, znajdują się w funkcjonalnie wyodrębnionym, odizolowanym i chronionym środowisku przetwarzania danych podlegającym kontroli potencjalnego dostawcy, a dostęp do tych danych posiadają wyłącznie upoważnione osoby; e) dostawcy mogą udostępniać dalej pierwotnie zebrane dane wyłącznie zgodnie z prawem Unii o ochronie danych; wszelkie dane osobowe stworzone w piaskownicy nie mogą być udostępniane poza piaskownicą; f) przetwarzanie danych osobowych w kontekście piaskownicy nie prowadzi do wdrożenia środków lub podjęcia decyzji wywierających wpływ na osoby, których dane dotyczą, ani nie wpływa na stosowanie ich praw określonych w prawie Unii o ochronie danych osobowych; g) dane osobowe przetwarzane w kontekście piaskownicy chroni się za pomocą odpowiednich środków technicznych i organizacyjnych oraz usuwa się po zakończeniu uczestnictwa w piaskownicy lub po upływie okresu przechowywania danych osobowych; h) rejestry przetwarzania danych osobowych w kontekście piaskownicy przechowuje się przez cały czas uczestnictwa w piaskownicy, o ile prawo Unii lub prawo krajowe nie stanowią inaczej; i) w dokumentacji technicznej, o której mowa w załączniku IV, zamieszcza się wyczerpujący i szczegółowy opis procesu trenowania, testowania i walidacji systemu AI wraz ze stosownym uzasadnieniem oraz wyniki przeprowadzonych testów; j) krótkie streszczenie projektu w zakresie AI rozwiniętego w ramach piaskownicy, jego celów i oczekiwanych rezultatów zostało opublikowane na stronie internetowej właściwych organów; obowiązek ten nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. 2. Do celów zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych w ich sprawie, ich wykrywania lub ścigania lub wykonywania kar, w tym ochrony przed zagrożeniami bezpieczeństwa publicznego i zapobiegania takim zagrożeniom pod nadzorem organów ścigania i na ich odpowiedzialność, przetwarzanie danych osobowych w piaskownicach regulacyjnych w zakresie AI prowadzone jest w oparciu o konkretne przepisy prawa Unii lub prawa krajowego i podlega tym samym łącznym warunkom, o których mowa w ust. 1. 3. Ust. 1 pozostaje bez uszczerbku dla prawa Unii lub prawa krajowego, które wyklucza przetwarzanie danych osobowych do celów innych niż wskazane wprost w tym prawie, jak również bez uszczerbku dla prawa Unii lub prawa krajowego ustanawiającego podstawy przetwarzania danych osobowych niezbędnego do celów rozwoju, testowania lub trenowania innowacyjnych systemów AI lub jakiekolwiek inne podstawy prawnej, zgodnych z prawem Unii dotyczącym ochrony danych osobowych. Art. 60 Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5. Komisja określa w drodze aktów wykonawczych szczegółowe elementy planu testów w warunkach rzeczywistych. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Niniejszy ustęp pozostaje bez uszczerbku dla przepisów prawa Unii lub prawa krajowego dotyczących testów w warunkach rzeczywistych systemów AI wysokiego ryzyka powiązanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 2. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym. 3. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych przeprowadzane na podstawie niniejszego artykułu pozostają bez uszczerbku dla oceny etycznej wymaganej prawem Unii lub prawem unijnym. 4. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy w warunkach rzeczywistych tylko wtedy, gdy spełnione są wszystkie następujące warunki: a) dostawca lub potencjalny dostawca sporządził plan testów w warunkach rzeczywistych i przedłożył go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy; b) organ nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzone testy w warunkach rzeczywistych, zatwierdził te testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych; w przypadku gdy organ nadzoru rynku nie udzielił odpowiedzi w terminie 30 dni, testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych uznaje się za zatwierdzone; w przypadku gdy prawo krajowe nie przewiduje milczącego zatwierdzenia, testy w warunkach rzeczywistych nadal wymagają uzyskania zezwolenia; c) dostawca lub potencjalny dostawca - z wyjątkiem dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną, oraz systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2 - zarejestrował testy w warunkach rzeczywistych zgodnie z art. 71 ust. 4 pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w załączniku IX; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną - zarejestrował testy w warunkach rzeczywistych w niepublicznej części bazy danych UE zgodnie z art. 49 ust. 4 lit. d), pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w przywołanym przepisie; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, zarejestrował testy w warunkach rzeczywistych zgodnie z art. 49 ust. 5; d) dostawca lub potencjalny dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii; e) dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii; f) testy w warunkach rzeczywistych trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy, z zastrzeżeniem uprzedniego powiadomienia organu nadzoru rynku przez dostawcę lub potencjalnego dostawcę, wraz z uzasadnieniem konieczności takiego przedłużenia; g) uczestnicy testów w warunkach rzeczywistych, którzy z uwagi na swój wiek, niepełnosprawność są osobami, które należą do grup szczególnie wrażliwych lub są w odpowiednio chronieni; h) w przypadku gdy dostawca lub potencjalny dostawca organizuje testy w warunkach rzeczywistych we współpracy z jednym podmiotem stosującym lub potencjalnym podmiotem stosującym, podmiot stosujący lub potencjalny podmiot stosujący został poinformowany o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz otrzymuje odpowiednie instrukcje obsługi systemu AI, o których mowa w art. 13; dostawca lub potencjalny dostawca oraz podmiot stosujący lub potencjalny podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych na podstawie niniejszego rozporządzenia oraz na podstawie innego mającego zastosowanie prawa Unii i prawa krajowego; i) uczestnicy testów w warunkach rzeczywistych wyrazili świadomą zgodę zgodnie z art. 61 lub - w przypadku ścigania przestępstw - gdy uzyskanie świadomej zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie mogą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe musza zostać usunięte po przeprowadzeniu testów; j) testy w warunkach rzeczywistych są skutecznie nadzorowane przez dostawcę lub potencjalnego dostawcę i podmioty stosujące lub potencjalne podmioty stosujące przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań; k) predykcje, zalecenia lub decyzje systemu AI można skutecznie odwrócić i zignorować. 5. Uczestnicy testów w warunkach rzeczywistych lub, w stosownych przypadkach, ich wyznaczony zgodnie z prawem przedstawiciel mogą - bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia - zdecydować o wycofaniu się w dowolnym momencie z testów poprzez odwołanie świadomej zgody; mogą oni również zażądać natychmiastowego i trwałego usunięcia ich danych osobowych. Odwołanie świadomej zgody nie wpływa na już przeprowadzone działania. 6. Zgodnie z art. 75 państwa członkowskie powierzają swoim organom nadzoru rynku uprawnienia do zwracania się do dostawców i potencjalnych dostawców z wnioskiem o przedstawienie informacji, do przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych i powiązanych systemów AI. Organy nadzoru rynku wykorzystują te uprawnienia do zapewnienia bezpiecznego rozwoju testów w warunkach rzeczywistych. 7. Każdy poważny incydent stwierdzony w trakcie testów w warunkach rzeczywistych zgłasza się krajowemu organowi nadzoru rynku zgodnie z art. 73. Dostawca lub potencjalny dostawca przyjmuje natychmiastowe środki zaradcze lub w przypadku, gdy jest to niemożliwe, zawiesza testy w warunkach rzeczywistych do czasu zaradzenia incydentowi albo też kończy testy. Dostawca lub potencjalny dostawca ustanawia procedurę szybkiego wycofania systemu AI z użytku po takim zakończeniu testów w warunkach rzeczywistych. 8. Dostawcy lub potencjalni dostawcy powiadamiają krajowy organ nadzoru rynku w państwie członkowskim, w którym prowadzone są testy w warunkach rzeczywistych, o zawieszeniu lub zakończeniu tych testów i o ostatecznych wynikach. 9. Dostawcy lub potencjalni dostawcy ponoszą, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, odpowiedzialność za wszelkie szkody spowodowane w trakcie testów w warunkach rzeczywistych. Art. 61 Świadoma zgoda na udział w testach w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Do celów prowadzonych na podstawie art. 60 testów w warunkach rzeczywistych od uczestników testów należy uzyskać dobrowolną świadomą zgodę przed ich udziałem w takich testach i po należytym poinformowaniu ich w sposób zwięzły, jasny, adekwatny i zrozumiały o: a) charakterze i celach testów w warunkach rzeczywistych oraz ewentualnych niedogodnościach, które mogą być związane z udziałem w tych testach; b) warunkach, na jakich mają być prowadzone testy w warunkach rzeczywistych, w tym o przewidywanym czasie trwania udziału danego uczestnika lub uczestników w testach; c) ich prawach i zabezpieczeniach dotyczących udziału w testach, w szczególności o prawie do odmowy udziału w testach oraz o prawie do wycofania się z testów w warunkach rzeczywistych - w dowolnym momencie, bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia; d) zasadach zwracania się o odwrócenie lub zignorowanie predykcji, zaleceń lub decyzji wydanych przez system AI; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia e) ogólnounijnym niepowtarzalnym numerze identyfikacyjnym testów w warunkach rzeczywistych nadanym zgodnie z art. 60 ust. 4 lit. c) i o danych kontaktowych dostawcy lub jego przedstawiciela prawnego, od których można uzyskać dalsze informacje. 2. Świadoma zgoda jest opatrzona datą i udokumentowana, a uczestnicy testów lub ich przedstawiciel prawny otrzymują jej kopię. Art. 62 Środki na rzecz dostawców i podmiotów stosujących, w szczególności MŚP, w tym przedsiębiorstw typu startup 1. Państwa członkowskie podejmują następujące działania: a) zapewniają MŚP, w tym przedsiębiorstwom typu startup, które mają siedzibę statutową lub oddział w Unii, dostęp do piaskownic regulacyjnych w zakresie AI na zasadzie pierwszeństwa, o ile spełniają oni warunki kwalifikowalności i kryteria wyboru; dostęp na zasadzie pierwszeństwa nie wyklucza dostępu do piaskownicy regulacyjnej w zakresie AI dla innych MŚP, w tym przedsiębiorstw typu startup, innych niż te, o których mowa w niniejszym ustępie, pod warunkiem, że również spełniają one warunki kwalifikowalności i kryteria wyboru; b) organizują specjalne wydarzenia informacyjne i szkoleniowe poświęcone stosowaniu przepisów niniejszego rozporządzenia dostosowane do potrzeb MŚP, w tym przedsiębiorstw typu startup, podmiotów T Art. 6 pkt 8 Art. 91 ust. 4 i 5 Art. 6. Do zadań Komisji należy: 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; Art. 91 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o stosujących i w stosownych przypadkach lokalnych organów publicznych; c) wykorzystują istniejące specjalne kanały oraz w stosownych przypadkach, ustanawiają nowe kanały komunikacji z MŚP, w tym przedsiębiorstwami typu startup, podmiotami stosującymi, innymi innowatorami oraz w stosownych przypadkach, z lokalnymi organami publicznymi - w celu zapewnienia poradnictwa i udzielania odpowiedzi na zapytania w zakresie wdrażania niniejszego rozporządzenia, w tym odnośnie do udziału w piaskownicach regulacyjnych w zakresie AI; d) ułatwiają udział MŚP i innych odpowiednich stron w procesie opracowywania norm. 2. Przy ustalaniu wysokości opłat z tytułu oceny zgodności przeprowadzanej zgodnie z art. 43 bierze się pod uwagę szczególne interesy i potrzeby dostawców będących MŚP, w tym przedsiębiorstwami typu startup, obniżając wysokość tych opłat proporcjonalnie do wielkości tych przedsiębiorstw, wielkości rynku i innych odpowiednich wskaźników. 3. Urząd ds. AI podejmuje następujące działania: a) zapewnia ujednolicone wzory w obszarach objętych zakresem stosowania niniejszego rozporządzenia, zgodnie ze specyfikacją określoną przez Radę ds. AI w jej wniosku; b) opracowuje i obsługuje jednolitą platformę informacyjną zapewniającą wszystkim operatorom w minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). całej Unii przystępne informacje na temat niniejszego rozporządzenia; c) organizuje odpowiednie kampanie informacyjne w celu podnoszenia świadomości na temat obowiązków wynikających z niniejszego rozporządzenia; d) ocenia i propaguje zbieżność najlepszych praktyk w postępowaniach o udzielenie zamówienia publicznego w odniesieniu do systemów AI. Art. 63 Odstępstwa dla określonych operatorów 1. Mikroprzedsiębiorstwa w rozumieniu zalecenia 2003/361/WE mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 niniejszego rozporządzenia w sposób uproszczony, pod warunkiem, że nie mają przedsiębiorstw partnerskich ani przedsiębiorstw powiązanych w rozumieniu tego zalecenia. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby mikroprzedsiębiorstw, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka. 2. Ustępu 1 niniejszego artykułu nie należy interpretować jako zwalniającego tych operatorów z wszelkich innych wymogów lub obowiązków ustanowionych w niniejszym rozporządzeniu, w tym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. tych ustanowionych w art. 9, 10, 11, 12, 13, 14, 15, 72 i 73. Art. 64 Urząd ds. AI 1. Komisja rozwija unijną wiedzę fachową i zdolności w dziedzinie AI poprzez Urząd ds. AI. 2. Państwa członkowskie ułatwiają wykonywanie zadań powierzonych na podstawie niniejszego rozporządzenia Urzędowi ds. AI. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 65 Ustanowienie i struktura Europejskiej Rady ds. Sztucznej Inteligencji 1. Ustanawia się Europejską Radę ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"). 2. W skład Rady ds. AI wchodzi po jednym przedstawicielu z każdego państwa członkowskiego. Europejski Inspektor Ochrony Danych uczestniczy w charakterze obserwatora. W posiedzeniach Rady ds. AI uczestniczy również Urząd ds. AI, który nie bierze udziału w głosowaniach. Do udziału w posiedzeniach Rada ds. AI może zapraszać w poszczególnych przypadkach inne krajowe i unijne władze, organy lub ekspertów, w przypadku, gdy omawiane kwestie są dla nich istotne. 3. Przedstawiciel jest wyznaczany przez swoje państwo członkowskie na okres trzech lat, z możliwością jednokrotnego przedłużenia. T Określenie kompetencji i uprawnień przedstawiciela (art. 65 ust. 4) oraz trybu wyboru przedstawiciela zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 4. Państwa członkowskie zapewniają, by ich przedstawiciele w Radzie ds. AI: a) mieli w swoim państwie członkowskim odpowiednie kompetencje i uprawnienia, aby aktywnie przyczyniać się do realizacji zadań Rady ds. AI, o których mowa w art. 66; b) zostali wyznaczeni jako pojedynczy punkt kontaktowy do kontaktów z Radą ds. AI lub - w stosownych przypadkach i przy uwzględnieniu potrzeb państw członkowskich - jako pojedynczy punkt kontaktowy dla zainteresowanych stron; c) mieli prawo uczestniczyć w zapewnianiu spójności i koordynacji między właściwymi organami krajowymi w swoich państwach członkowskich w odniesieniu do wdrażania niniejszego rozporządzenia, w tym - do celów wykonywania swoich zadań na forum Rady ds. AI - poprzez zbieranie odpowiednich danych i informacji. 5. Wyznaczeni przedstawiciele państw członkowskich przyjmują regulamin wewnętrzny Rady ds. AI większością dwóch trzecich głosów. W regulaminie wewnętrznym ustanawia się w szczególności procedury wyboru, czas trwania mandatu i specyfikację zadań przewodniczącego, szczegółowe zasady głosowania oraz organizację działalności Rady ds. AI i jej podgrup. 6. Rada ds. AI ustanawia dwie stałe podgrupy służące jako platforma współpracy i wymiany między organami nadzoru rynku oraz powiadamiające organy w kwestiach dotyczących odpowiednio nadzoru rynku i jednostek notyfikowanych. Stała podgrupa ds. nadzoru rynku powinna do celów niniejszego rozporządzenia pełnić rolę grupy ds. współpracy administracyjnej (ADCO) w rozumieniu art. 30 rozporządzenia (UE) 2019/1020. W stosownych przypadkach Rada ds. AI może utworzyć inne stałe lub tymczasowe podgrupy na potrzeby zbadania konkretnych kwestii. W stosownych przypadkach przedstawiciele forum doradczego, o którym mowa w art. 67, mogą być zapraszani do udziału w takich podgrupach lub na konkretne posiedzenia tych podgrup jako obserwatorzy. 7. Rada ds. AI jest zorganizowana i zarządzana w sposób gwarantujący obiektywizm i bezstronność podejmowanych przez nią działań. 8. Przewodniczącym Rady ds. AI jest jeden z przedstawicieli państw członkowskich. Urząd ds. AI pełni funkcję sekretariatu dla Rady ds. AI, zwołuje na wniosek przewodniczącego posiedzenia i przygotowuje porządek obrad zgodnie z zadaniami Rady ds. AI określonymi w niniejszym rozporządzeniu oraz z jej regulaminem wewnętrznym. Art. 66 Zadania Rady ds. AI Rada ds. AI doradza Komisji i państwom członkowskim oraz udziela im wsparcia w celu ułatwienia spójnego i skutecznego stosowania niniejszego rozporządzenia. W tym celu Rada ds. AI może w szczególności: N Przepis o charakterze ogólnym stosowany wprost a) przyczyniać się do koordynacji między właściwymi organami krajowymi odpowiedzialnymi za stosowanie niniejszego rozporządzenia oraz we współpracy i z zastrzeżeniem zgody zainteresowanych organów nadzoru rynku, wspierać wspólne działania organów nadzoru rynku, o których mowa w art. 74 ust. 11; b) gromadzić fachową wiedzę techniczną i regulacyjną oraz najlepsze praktyki w tym zakresie i udostępniać je państwom członkowskim; c) zapewniać doradztwo w zakresie wdrażania niniejszego rozporządzenia, w szczególności w odniesieniu do egzekwowania przepisów dotyczących modeli AI ogólnego przeznaczenia; d) przyczyniać się do harmonizacji praktyk administracyjnych w państwach członkowskich, w tym w odniesieniu do odstępstwa od procedur oceny zgodności, o którym mowa w art. 46, funkcjonowania piaskownic regulacyjnych w zakresie AI oraz testów w warunkach rzeczywistych, o których mowa w art. 57, 59 i 60; e) na wniosek Komisji lub z własnej inicjatywy wydawać zalecenia i opinie na piśmie na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia oraz z jego spójnym i skutecznym stosowaniem, w tym: (i) w zakresie opracowywania i stosowania kodeksów postępowania i kodeksów praktyk zgodnie z niniejszym rozporządzeniem, jak również wytycznych Komisji; nie wymaga wdrożenia (ii) dotyczące oceny i przeglądu niniejszego rozporządzenia zgodnie z art. 112, w tym w odniesieniu do zgłoszeń poważnych incydentów, o których mowa w art. 73, i funkcjonowania bazy danych UE, o której mowa w art. 71, przygotowania aktów delegowanych lub wykonawczych oraz w odniesieniu do ewentualnego dostosowania niniejszego rozporządzenia do unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I; (iii) w kwestii specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w rozdziale III sekcja 2; (iv) w kwestii stosowania norm zharmonizowanych lub wspólnych specyfikacji, o których mowa w art. 40 i 41; (v) na temat tendencji, takich jak europejska globalna konkurencyjność w dziedzinie AI, upowszechnianie AI w Unii oraz rozwój umiejętności cyfrowych; (vi) na temat tendencji w zakresie zmieniającej się typologii łańcuchów wartości AI, w szczególności w odniesieniu do wynikających z nich skutków w zakresie odpowiedzialności; (vii) w kwestii potencjalnej potrzeby zmiany załącznika III zgodnie z art. 7 oraz potencjalnej potrzeby ewentualnej zmiany artykułu 5 zgodnie z art. 112, z uwzględnieniem odpowiednich dostępnych dowodów i najnowszych osiągnięć technologicznych; f) wspierać Komisję w promowaniu kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia w odniesieniu do korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI; g) ułatwiać opracowywanie wspólnych kryteriów i wspólnego rozumienia przez podmioty gospodarcze i właściwe organy odpowiednich koncepcji przewidzianych w niniejszym rozporządzeniu, w tym poprzez udział w opracowywaniu poziomów odniesienia; h) współpracować, w stosownych przypadkach, z innymi instytucjami, organami i jednostkami organizacyjnymi Unii, jak również unijnymi grupami ekspertów i sieciami, w szczególności w dziedzinie bezpieczeństwa produktów, cyberbezpieczeństwa, konkurencyjności, usług cyfrowych i medialnych, usług finansowych, ochrony konsumentów, ochrony danych oraz ochrony praw podstawowych; i) przyczyniać się do skutecznej współpracy z właściwymi organami państw trzecich i z organizacjami międzynarodowymi; j) wspierać właściwe organy krajowe i Komisję w rozwijaniu organizacyjnej i technicznej wiedzy fachowej wymaganej do wdrożenia niniejszego rozporządzenia, w tym poprzez przyczynianie się do oceny potrzeb szkoleniowych personelu państw członkowskich uczestniczącego we wdrażaniu niniejszego rozporządzenia; k) wspierać Urząd ds. AI w udzielaniu wsparcia właściwym organom krajowym w ustanawianiu i rozwoju piaskownic regulacyjnych w zakresie AI oraz ułatwiać współpracę i wymianę informacji między piaskownicami regulacyjnymi w zakresie AI; l) wnosić wkład w opracowanie dokumentów zawierających wytyczne i udzielać stosownych porad w tym zakresie; m) doradzać Komisji w odniesieniu do międzynarodowych kwestii dotyczących AI; n) przedstawiać Komisji opinie na temat ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia; o) przyjmować od państw członkowskich opinie dotyczące ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia oraz opinie na temat krajowych doświadczeń i praktyk w zakresie monitorowania i zgodnego z prawem wdrażania systemów AI, w szczególności systemów integrujących modele AI ogólnego przeznaczenia. Art. 67 Forum doradcze 1. Ustanawia się forum doradcze, które ma za zadanie dostarczać fachowej wiedzy technicznej i doradzać Radzie ds. AI i Komisji oraz wnosić wkład w ich zadania wynikające z niniejszego rozporządzenia. 2. Skład forum doradczego stanowi wyważony dobór zainteresowanych stron, w tym przemysłu, przedsiębiorstw typu startup, MŚP, społeczeństwa obywatelskiego i środowisk akademickich. Skład forum doradczego jest zrównoważony pod względem interesów handlowych i niehandlowych, a w ramach N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia kategorii interesów handlowych - w odniesieniu do MŚP i innych przedsiębiorstw. 3. Komisja zgodnie z kryteriami określonymi w ust. 2 powołuje członków forum doradczego spośród zainteresowanych stron, którzy dysponują uznaną wiedzą fachową w dziedzinie AI. 4. Kadencja członków forum doradczego trwa dwa lata i może zostać przedłużona o maksymalnie cztery lata. 5. Stałymi członkami forum doradczego są: Agencja Praw Podstawowych, ENISA, Europejski Komitet Normalizacyjny (CEN), Europejski Komitet Normalizacyjny Elektrotechniki (CENELEC) oraz Europejski Instytut Norm Telekomunikacyjnych (ETSI). 6. Forum doradcze sporządza swój regulamin. Forum doradcze wybiera dwóch współprzewodniczących spośród swoich członków, zgodnie z kryteriami określonymi w ust. 2. Kadencja współprzewodniczących trwa dwa lata z możliwością jednokrotnego odnowienia. 7. Forum doradcze odbywa posiedzenia co najmniej dwa razy w roku. Forum doradcze może zapraszać na swoje posiedzenia ekspertów i inne zainteresowane strony. 8. Forum doradcze może na wniosek Rady ds. AI lub Komisji przygotowywać opinie, zalecenia i uwagi na piśmie. 9. W stosownych przypadkach forum doradcze może utworzyć stałe lub tymczasowe podgrupy do badania konkretnych kwestii związanych z celami niniejszego rozporządzenia. 10. Forum doradcze przygotowuje roczne sprawozdanie ze swoich działań. Sprawozdanie to jest podawane do wiadomości publicznej. Art. 68 Panel naukowy niezależnych ekspertów 1. Komisja w drodze aktu wykonawczego ustanawia przepisy dotyczące utworzenia panelu naukowego niezależnych ekspertów (zwanego dalej \"panelem naukowym\"), którego celem jest udzielanie wsparcia w egzekwowaniu działań na podstawie niniejszego rozporządzenia. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Panel naukowy składa się z ekspertów, którzy zostali wybrani przez Komisję na podstawie aktualnej wiedzy naukowej lub technicznej w dziedzinie AI niezbędnej do realizacji zadań określonych w ust. 3 i którzy są w stanie wykazać, że spełniają wszystkie następujące warunki: a) posiadanie szczególnej wiedzy fachowej i kompetencji oraz naukowej lub technicznej wiedzy fachowej w dziedzinie AI; b) niezależność od dostawców systemów AI lub modeli AI ogólnego przeznaczenia; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) zdolność do wykonywania zadań w sposób staranny, dokładny i obiektywny. Komisja w porozumieniu z Radą ds. AI określa liczbę ekspertów wchodzących w skład panelu w zależności od potrzeb i zapewnia sprawiedliwą reprezentację pod względem płci i zakresu geograficznego. 3. Panel naukowy doradza i wspiera Urząd ds. AI, w szczególności w odniesieniu do następujących zadań: a) wspieranie wdrażania i egzekwowania niniejszego rozporządzenia w odniesieniu do modeli i systemów AI ogólnego przeznaczenia, w szczególności poprzez: (i) ostrzeganie Urzędu ds. AI zgodnie z art. 90 o ewentualnym ryzyku systemowym na poziomie Unii związanym z modelami AI ogólnego przeznaczenia; (ii) przyczynianie się do opracowywania narzędzi i metodologii oceny zdolności modeli i systemów AI ogólnego przeznaczenia, w tym za pomocą poziomów odniesienia; (iii) świadczenie doradztwa w zakresie klasyfikacji modeli AI ogólnego przeznaczenia z ryzykiem systemowym; (iv) świadczenie doradztwa w zakresie klasyfikacji różnych modeli i systemów AI ogólnego przeznaczenia; (v) przyczynianie się do opracowywania narzędzi i wzorów; b) wspieranie organów nadzoru rynku - na ich wniosek; c) wspieranie transgranicznych działań w zakresie nadzoru rynku, o których mowa w art. 74 ust. 11, bez uszczerbku dla uprawnień organów nadzoru rynku; d) wspieranie Urzędu ds. AI w wykonywaniu jego obowiązków w kontekście unijnej procedury ochronnej zgodnie z art. 81. 4. Eksperci uczestniczący w panelu naukowym wykonują swoje zadania w sposób bezstronny i obiektywny oraz zapewniają poufność informacji i danych uzyskanych podczas wykonywania swoich zadań i działań. Przy wykonywaniu swoich zadań zgodnie z ust. 3 nie zwracają się do nikogo o instrukcje ani ich od nikogo nie przyjmują. Każdy ekspert sporządza deklarację interesów, którą podaje się do wiadomości publicznej. Urząd ds. AI ustanawia systemy i procedury mające na celu aktywne zarządzanie i zapobieganie potencjalnym konfliktom interesów. 5. Akt wykonawczy, o którym mowa w ust. 1, zawiera przepisy dotyczące warunków, procedur i szczegółowych zasad w zakresie wydawania ostrzeżeń przez panel naukowy i jego członków oraz zwracania się do Urzędu ds. AI o pomoc w realizacji zadań panelu naukowego. Art. 69 At T Uregulowanie kwestii dostępu do zespołu ekspertów zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 70 Wyznaczanie właściwych organów krajowych oraz pojedynczych punktów kontaktowych 1. Do celów niniejszego rozporządzenia każde państwo członkowskie ustanawia lub wyznacza co najmniej jeden organ notyfikujący i co najmniej jeden organ nadzoru rynku jako właściwe organy krajowe. Te właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Członkowie tych organów powstrzymują się od wszelkich czynności niezgodnych z charakterem ich obowiązków. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. 2. Państwa członkowskie przekazują Komisji dane organów notyfikujących i organów nadzoru rynku oraz informacje o zadaniach tych organów, jak również o wszelkich późniejszych zmianach w tym zakresie. Do dnia 2 sierpnia 2025 r. państwa członkowskie podają, do wiadomości publicznej, za pośrednictwem środków komunikacji elektronicznej, informacje o sposobach kontaktowania się z właściwymi organami i pojedynczymi punktami kontaktowymi. Państwa członkowskie wyznaczają organ nadzoru rynku do T Art. 5 Art. 6 pkt 1- 16 Art. 19 Art. 21-Art. 38 Art. 67 Art. 90 Art. 120 ust. 1 Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; Art. 6-8 zapewniają, że właściwy organ krajowy dysponuje procesami i transparentnie ustaloną strukturą. Art. 15 (por. art. 8 ust. 1 pkt 2 – kompetencje Przewodniczącego Komisji) realizuje wymóg corocznego obowiązku sprawozdawczego z działań organu. Art. 19-22 realizują nałożone przez rozporządzenie zasady wykonywania uprawnień organu działania w charakterze pojedynczego punktu kontaktowego do celów niniejszego rozporządzenia i przekazuje Komisji dane tego pojedynczego punktu kontaktowego. Komisja podaje do wiadomości publicznej wykaz pojedynczych punktów kontaktowych. 3. Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie. 4. Właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. 5. Wykonując swoje zadania, właściwe organy krajowe działają zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; (a więc i jego członków) w sposób niezależny, bezstronny i wolny od uprzedzeń, a jawność realizuje tę funkcję. Art. 69 opisuje m. in. działanie wraz z realizacją obowiązków dot. zachowania poufności. 6. Do dnia 2 sierpnia 2025 r., a następnie co dwa lata państwa członkowskie przekazują Komisji sprawozdania dotyczące stanu zasobów finansowych i ludzkich właściwych organów krajowych wraz z oceną ich odpowiedniości. Komisja przekazuje te informacje Radzie ds. AI w celu ich omówienia i ewentualnego wydania zaleceń. 7. Komisja ułatwia wymianę doświadczeń między właściwymi organami krajowymi. 8. Właściwe organy krajowe mogą udzielać wskazówek i porad w zakresie wdrażania niniejszego rozporządzenia, w szczególności MŚP, w tym przedsiębiorstwom typu startup, przy uwzględnieniu, w stosownych przypadkach, wskazówek i porad Rady ds. AI i Komisji. W każdym przypadku, gdy właściwe organy krajowe zamierzają udzielić wskazówek i porad dotyczących systemu AI w dziedzinach objętych innymi przepisami prawa Unii, są zobowiązane - w stosownych przypadkach -zasięgnąć opinii właściwych organów krajowych wyznaczonych na podstawie tych przepisów prawa Unii. 9. W przypadku, gdy instytucje, organy i jednostki organizacyjne Unii są objęte zakresem niniejszego rozporządzenia, Europejski Inspektor Ochrony Danych działa w charakterze właściwego organu odpowiedzialnego za sprawowanie nad nimi nadzoru. 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi” oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3 –, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775§ 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji.Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia; Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony, 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 71 Baza danych UE dla systemów AI wysokiego ryzyka wymienionych w załączniku III 1. Komisja - we współpracy z państwami członkowskimi - tworzy i prowadzi bazę danych UE zawierającą informacje, o których mowa w ust. 2 i 3 niniejszego artykułu, dotyczącą systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 2, które zostały zarejestrowane zgodnie z art. 49 i 60 oraz systemów AI, których nie uznaje się za systemy AI wysokiego ryzyka na podstawie art. 6 ust. 3 i które N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia zostały zarejestrowane zgodnie z art. 6 ust. 4 i art. 49. Przy ustalaniu specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z odpowiednimi ekspertami, a przy aktualizacji specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z Radą ds. AI. 2. Dane wymienione w załączniku VIII sekcje A i B są wprowadzane do bazy danych UE przez dostawcę lub - w stosownych przypadkach - przez upoważnionego przedstawiciela. 3. Dane wymienione w załączniku VIII sekcja C są wprowadzane do bazy danych UE przez podmiot stosujący będący organem publicznym, agencją lub jednostką organizacyjną zgodnie z art. 49 ust. 3 i 4, lub działający w imieniu takiego organu, agencji lub jednostki. 4. Z wyjątkiem sekcji, o której mowa w art. 49 ust. 4 i art. 60 ust. 4 lit. c), informacje zawarte w bazie danych UE zarejestrowane zgodnie z art. 49 są dostępne publicznie w sposób przyjazny dla użytkownika. Informacje powinny być łatwe w nawigacji i nadawać się do odczytu maszynowego. Informacje zarejestrowane zgodnie z art. 60 są dostępne wyłącznie dla organów nadzoru rynku i dla Komisji, chyba że potencjalny dostawca lub dostawca wyrazili zgodę na udostępnienie tych informacji również ogółowi społeczeństwa. 5. Baza danych UE zawiera dane osobowe wyłącznie w zakresie, w jakim jest to konieczne do celów związanych ze zbieraniem i przetwarzaniem informacji zgodnie z niniejszym rozporządzeniem. Informacje te obejmują imiona i nazwiska oraz dane kontaktowe osób fizycznych, które są odpowiedzialne za rejestrację systemu i są upoważnione do reprezentowania dostawcy lub w stosownych przypadkach, podmiotu stosującego. 6. Komisja pełni funkcję administratora bazy danych UE. Komisja zapewnia dostawcom, potencjalnym dostawcom oraz podmiotom stosującym odpowiednie wsparcie techniczne i administracyjne. Baza danych UE musi być zgodna z mającymi zastosowanie wymogami dostępności. Art. 72 Prowadzone przez dostawców monitorowanie po wprowadzeniu do obrotu i plan monitorowania systemów AI wysokiego ryzyka po ich wprowadzeniu do obrotu 1. Dostawcy ustanawiają i dokumentują - w sposób proporcjonalny do charakteru technologii AI i ryzyka związanego z wykorzystaniem danego systemu AI wysokiego ryzyka - system monitorowania po wprowadzeniu do obrotu. 2. W ramach systemu monitorowania po wprowadzeniu do obrotu w aktywny i systematyczny sposób zbiera się, dokumentuje i analizuje stosowne dane dotyczące skuteczności działania systemów AI wysokiego ryzyka w całym cyklu ich życia, które to dane mogą być przekazywane przez podmioty stosujące lub mogą być zbierane z innych źródeł; system ten pozwala dostawcy oceniać, czy zapewniona jest ciągła zgodność systemów AI z wymogami ustanowionymi w rozdziale III sekcja N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W stosownych przypadkach monitorowanie po wprowadzeniu do obrotu obejmuje analizę interakcji z innymi systemami AI. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących będących organami ścigania. 3. System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Do dnia 2 lutego 2026 r. Komisja przyjmuje akt wykonawczy zawierające szczegółowe przepisy określające wzór planu monitorowania po wprowadzeniu do obrotu oraz wykaz elementów, które należy zawrzeć w tym planie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 4. W odniesieniu do systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku gdy zgodnie z tym prawodawstwem ustanowiono już system i plan monitorowania po wprowadzeniu do obrotu, w celu zapewnienia spójności, unikania powielania prac i zminimalizowania dodatkowych obciążeń, dostawcy mogą się w stosownych przypadkach zdecydować na zintegrowanie - korzystając ze wzoru, o którym mowa w ust. 3 - niezbędnych elementów opisanych w ust. 1, 2 i 3 z systemami i planami istniejącymi już na podstawie tego prawodawstwa, pod warunkiem że zapewnia ono równoważny poziom ochrony. Akapit pierwszy niniejszego artykułu stosuje się również do systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 5, wprowadzonych do obrotu lub oddanych do użytku przez instytucje finansowe objęte na podstawie przepisów prawa Unii dotyczących usług finansowych wymogami dotyczącymi ich systemu zarządzania wewnętrznego, uzgodnień lub procedur. Art. 73 Zgłaszanie poważnych incydentów 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent. 2. Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Termin na dokonanie zgłoszenia, o którym mowa w akapicie pierwszym, uwzględnia dotkliwość danego poważnego incydentu. 3. Niezależnie od ust. 2 niniejszego artykułu w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. 4. Niezależnie od ust. 2 w przypadku, gdy nastąpi śmierć osoby, zgłoszenia dokonuje się natychmiast po stwierdzeniu przez dostawcę lub podmiot stosujący wystąpienia lub podejrzenia wystąpienia związku przyczynowego między systemem AI wysokiego ryzyka a poważnym incydentem, nie później jednak niż w terminie 10 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący AI dowiedzieli się o wystąpieniu danego poważnego incydentu. 5. W przypadku, gdy jest to konieczne do zapewnienia terminowego zgłoszenia, dostawca lub w stosownych przypadkach, podmiot stosujący mogą dokonać niepełnego zgłoszenia wstępnego, a następnie zgłoszenia kompletnego. 6. W następstwie zgłoszenia poważnego incydentu zgodnie z ust. 1 dostawca niezwłocznie przeprowadza niezbędne postępowanie wyjaśniające dotyczące poważnego incydentu oraz przedmiotowego systemu AI. Obejmuje ono ocenę ryzyka danego incydentu oraz działania naprawcze. Podczas postępowania wyjaśniającego, o którym mowa w akapicie pierwszym, dostawca współpracuje z właściwymi organami oraz - w stosownych przypadkach - z zainteresowaną jednostką notyfikowaną osobnego projektu legislacyjnego. i nie podejmuje żadnego działania, które obejmowałoby zmianę danego systemu AI w taki sposób, który mógłby wpłynąć na późniejszą ocenę przyczyn incydentu, dopóki nie poinformuje o takim działaniu właściwego organu. 7. Po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1. Komisja opracowuje specjalne wskazówki ułatwiające spełnienie obowiązków ustanowionych w ust. 1 niniejszego artykułu. Wskazówki wydaje się do dnia 2 sierpnia 2025 r. i podlegają one regularnej ocenie. 8. W terminie siedmiu dni od daty otrzymania powiadomienia, o którym mowa w ust. 1 niniejszego artykułu, organ nadzoru rynku podejmuje odpowiednie środki przewidziane w art. 19 rozporządzenia (UE) 2019/1020 i postępuje zgodnie z procedurami powiadamiania przewidzianymi w tym rozporządzeniu. 9. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki w zakresie zgłaszania równoważne obowiązkom określonym w niniejszym rozporządzeniu, zgłaszanie poważnych incydentów ogranicza się do tych z nich, o których mowa w art. 3 pkt 49 lit. c). 10. W przypadku systemów AI wysokiego ryzyka, które są związanymi z bezpieczeństwem elementami wyrobów podlegających przepisom rozporządzeń (UE) 2017/745 i (UE) 2017/746, lub które same są takimi wyrobami, zgłaszanie poważnych incydentów ogranicza się do incydentów, o których mowa w art. 3 pkt 49) lit. c) niniejszego rozporządzenia, i dokonuje się go do właściwego organu krajowego wybranego do tego celu przez państwo członkowskie, w którym wystąpił dany incydent. 11. Właściwe organy krajowe natychmiast powiadamiają Komisję o każdym poważnym incydencie zgodnie z art. 20 rozporządzenia (UE) 2019/1020, niezależnie od tego, czy podjęły w związku z nim jakiekolwiek działania. Art. 74 Nadzór rynku i kontrola systemów AI na rynku Unii 1. Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020. Do celów skutecznego egzekwowania przepisów niniejszego rozporządzenia: a) wszelkie odniesienia do podmiotu gospodarczego w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkich operatorów zidentyfikowanych w art. 2 ust. 1 niniejszego rozporządzenia; b) wszelkie odniesienia do produktu w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkie systemy AI wchodzące w zakres stosowania niniejszego rozporządzenia. T Art. 20 Art. 48 -Art. 56 Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w Art. 48-art. 56 opisują sposób realizowania podstawowych uprawnień nadzorczych nadanych przez rozporządzenie. Określają uprawnienia organu do pozyskiwania informacji od kontrolowanego. 2. W ramach swoich obowiązków w zakresie sprawozdawczości określonych w art. 34 ust. 4 rozporządzenia (UE) 2019/1020 organy nadzoru rynku co roku przekazują Komisji i odpowiednim krajowym organom ochrony konkurencji wszelkie informacje zebrane w wyniku działań w zakresie nadzoru rynku, które potencjalnie mogą być istotne z punktu widzenia stosowania reguł konkurencji przewidzianych w prawie Unii. Co roku składają one sprawozdania również Komisji dotyczące stwierdzonego w danym roku stosowania zakazanych praktyk oraz podjętych w tym względzie środków. 3. W przypadku systemów AI wysokiego ryzyka, które są powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, za organ nadzoru rynku do celów niniejszego rozporządzenia uznaje się odpowiedzialny za działania w zakresie nadzoru rynku organ wyznaczony na podstawie tych aktów prawnych. W drodze odstępstwa od akapitu pierwszego i w odpowiednich okolicznościach państwa członkowskie mogą wyznaczyć do działania w charakterze organu nadzoru rynku inny odpowiedni organ, pod warunkiem, że zapewnią koordynację między odpowiednimi sektorowymi organami nadzoru rynku odpowiedzialnymi za egzekwowanie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I. 4. Procedur, o których mowa w art. 79-83 niniejszego rozporządzenia, nie stosuje się do systemów AI, które są zakresie spraw, o których mowa w art. 74 ust. 1-5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej Dodatkowo przepisy zabezpieczają prawa podstawowe obywateli w toku kontroli (por. preambuła; sek. 7). I wskazują zasadę pisemności postępowania organu. powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku, gdy w tych aktach prawnych przewidziano już procedury zapewniające równoważny poziom ochrony i mające taki sam cel. W takich przypadkach stosuje się procedury sektorowe. 5. Bez uszczerbku dla uprawnień organów nadzoru rynku na podstawie art. 14 rozporządzenia (UE) 2019/1020 do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny. 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 Krajowe organy nadzoru rynku nadzorujące instytucje kredytowe uregulowane w dyrektywie 2013/36/UE, które uczestniczą w jednolitym mechanizmie nadzorczym ustanowionym rozporządzeniem (UE) nr 1024/2013, powinny niezwłocznie przekazywać Europejskiemu Bankowi Centralnemu wszelkie informacje zebrane w trakcie prowadzonych przez siebie działań w zakresie nadzoru rynku, które potencjalnie mogą mieć znaczenie z punktu widzenia określonych w tym rozporządzeniu zadań EBC dotyczących nadzoru ostrożnościowego. 8. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do niniejszego rozporządzenia, w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 niniejszego rozporządzenia, państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41-44 dyrektywy (UE) 2016/680. Działania w zakresie nadzoru rynku nie mogą w żaden sposób wpływać na niezależność organów wymiaru sprawiedliwości, ani w żaden inny sposób zakłócać ich czynności związanych ze sprawowaniem przez nie wymiaru sprawiedliwości. ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 9. W przypadku, gdy zakresem stosowania niniejszego rozporządzenia objęte są instytucje, organy i jednostki organizacyjne Unii, Europejski Inspektor Ochrony Danych działa w stosunku do nich w charakterze organu nadzoru rynku, z wyjątkiem Trybunał Sprawiedliwości Unii Europejskiej w przypadkach sprawowania przez niego sprawiedliwości. 10. Państwa członkowskie ułatwiają koordynację działań między organami nadzoru rynku wyznaczonymi na podstawie niniejszego rozporządzenia a innymi odpowiednimi organami lub podmiotami krajowymi sprawującymi nadzór nad stosowaniem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I lub w innych przepisach prawa Unii, które mogą być istotne w kontekście systemów AI wysokiego ryzyka, o których mowa w załączniku III. 11. Organy nadzoru rynku i Komisja mogą proponować wspólne działania, w tym wspólne postępowania, prowadzone przez organy nadzoru rynku albo przez organy nadzoru rynku wspólnie z Komisją, mające na celu promowanie zgodności, wykrywanie przypadków niezgodności, podnoszenie świadomości lub zapewnianie wskazówek dotyczących niniejszego rozporządzenia w odniesieniu do szczególnych kategorii systemów AI wysokiego ryzyka, w przypadku których zgodnie z art. 9 rozporządzenia (UE) 2019/1020 stwierdzono, że stwarzają poważne ryzyko w co najmniej dwóch państwach członkowskich. Urząd ds. AI zapewnia wsparcie w zakresie koordynacji wspólnych postępowań. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 12. Bez uszczerbku dla uprawnień przewidzianych w rozporządzeniu (UE) 2019/1020 oraz w stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania ich zadań, dostawcy udzielają organom nadzoru rynku pełnego dostępu do dokumentacji, a także do zbiorów danych treningowych, walidacyjnych i testowych wykorzystywanych do rozwoju systemów AI wysokiego ryzyka, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem interfejsów programowania aplikacji (API) lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 13. Organom nadzoru rynku udziela się na ich uzasadniony wniosek dostępu do kodu źródłowego systemu AI wysokiego ryzyka i wyłącznie wtedy, gdy spełnione są oba następujące warunki: a) dostęp do kodu źródłowego jest niezbędny do oceny zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w rozdziale III sekcja 2; oraz b) zostały wyczerpane lub okazały się niewystarczające procedury testowania lub audytu i weryfikacji w oparciu o dane i dokumentację dostarczone przez dostawcę. 14. Wszelkie informacje lub dokumenty uzyskane przez organy nadzoru rynku traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej ,,kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu - po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnić mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi , o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia . 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęciem kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli, imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z i opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń, do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 75 Wzajemna pomoc, nadzór rynku i kontrola systemów AI ogólnego przeznaczenia 1. W przypadku, gdy system AI jest oparty na modelu AI ogólnego przeznaczenia i ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI jest uprawniony do monitorowania i nadzorowania zgodności tego systemu AI z obowiązkami wynikającymi z niniejszego rozporządzenia. Do celów wykonywania zadań w zakresie monitorowania i nadzoru Urząd ds. AI ma uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. 2. W przypadku gdy odpowiednie organy nadzoru rynku mają wystarczające powody, by systemy AI ogólnego przeznaczenia, które mogą być wykorzystywane bezpośrednio przez podmioty stosujące do co najmniej jednego celu, który zgodnie z niniejszym rozporządzeniem został zaklasyfikowany jako wysokiego ryzyka, uznać za niezgodne z wymogami ustanowionymi w niniejszym rozporządzeniu, organy te współpracują z Urzędem ds. AI w zakresie przeprowadzenia ocen zgodności i informują o tym odpowiednio Radę ds. AI i pozostałe organy nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku nie jest w stanie zakończyć postępowania dotyczącego systemu AI wysokiego ryzyka z uwagi na niemożność dostępu do niektórych informacji związanych z danym modelem AI ogólnego przeznaczenia pomimo podjęcia wszystkich stosownych wysiłków w zakresie uzyskania tych N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. informacji, może zwrócić się z uzasadnionym wnioskiem do Urzędu ds. AI, który wyegzekwuje dostęp do takich informacji. W takim przypadku Urząd ds. AI udziela organowi wnioskującemu niezwłocznie, a w każdym razie w terminie 30 dni, wszelkich informacji, które Urząd ds. AI uznaje za istotne do celów ustalenia, czy dany system AI wysokiego ryzyka jest niezgodny z wymogami. Organy nadzoru rynku zapewniają poufność otrzymywanych informacji zgodnie z art. 78 niniejszego rozporządzenia. Odpowiednio stosuje się procedurę przewidzianą w rozdziale VI rozporządzenia (UE) 2019/1020. Art. 76 Nadzór organów nadzoru rynku nad testami w warunkach rzeczywistych 1. Organy nadzoru rynku mają kompetencje i uprawnienia w celu zapewnienia, by testy w warunkach rzeczywistych odbywały się zgodnie z niniejszym rozporządzeniem. 2. W przypadku testów w warunkach rzeczywistych prowadzonych na systemach AI nadzorowanych w ramach piaskownicy regulacyjnej w zakresie AI na podstawie art. 58 organy nadzoru rynku weryfikują zgodność z art. 60 w ramach swojej roli nadzorczej w odniesieniu do piaskownicy regulacyjnej w zakresie AI. Organy te mogą, w stosownych przypadkach, zezwolić na prowadzenie przez dostawcę lub potencjalnego dostawcę testów w warunkach rzeczywistych z zastosowaniem odstępstwa od warunków ustanowionych w art. 60 ust. 4 lit. f) i g). N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 3. W przypadku, gdy organ nadzoru rynku został przez potencjalnego dostawcę, dostawcę lub stronę trzecią poinformowany o poważnym incydencie lub ma podstawy sądzić, że nie są spełniane warunki ustanowione w art. 60 i 61, może na swoim terytorium podjąć w stosownych przypadkach którąkolwiek z następujących decyzji: a) zawiesić lub zakończyć testy w warunkach rzeczywistych; b) zobowiązać dostawcę lub potencjalnego dostawcę oraz podmiot stosujący i potencjalny podmiot stosujący do zmiany któregokolwiek aspektu testów w warunkach rzeczywistych. 4. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3 niniejszego artykułu, lub zgłosił sprzeciw w rozumieniu art. 60 ust. 4 lit. b), w decyzji lub sprzeciwie podaje się ich uzasadnienie oraz warunki, na jakich dostawca lub potencjalny dostawca mogą zaskarżyć tę decyzję lub sprzeciw. 5. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3, informuje w stosownych przypadkach o powodach takiej decyzji organy nadzoru rynku pozostałych państw członkowskich, w których dany system AI był testowany zgodnie z planem testów. Art. 77 Uprawnienia organów ochrony praw podstawowych 1. Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków T Art. 62 Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Odpowiedni organ lub podmiot publiczny informuje organ nadzoru rynku zainteresowanego państwa członkowskiego o każdym takim wniosku. 2. Do dnia 2 listopada 2024 r. każde państwo członkowskie wskazuje organy lub podmioty publiczne, o których mowa w ust. 1, i podaje ich wykaz do wiadomości publicznej. Państwa członkowskie przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. 3. W przypadku, gdy dokumentacja, o której mowa w ust. 1, jest niewystarczająca do stwierdzenia, czy nastąpiło naruszenie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, organ lub podmiot publiczny, o którym mowa w ust. 1, może wystąpić do organu nadzoru rynku z uzasadnionym wnioskiem o zorganizowanie testów systemu AI wysokiego ryzyka przy użyciu środków technicznych. Organ nadzoru rynku w rozsądnym terminie po otrzymaniu wniosku organizuje testy w ścisłej postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje oddziaływał, lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia, przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do współpracy z organem lub podmiotem publicznym, które wystąpiły z wnioskiem. 4. Wszelkie informacje lub dokumenty uzyskane zgodnie z niniejszym artykułem przez krajowe organy lub podmioty publiczne, o których mowa w ust. 1 niniejszego artykułu, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 78 Poufność 1. Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie niniejszego rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych T Art. 42 Art. 88 Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić: a) prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa osoby fizycznej lub prawnej, w tym kod źródłowy, z wyjątkiem przypadków, o których mowa w art. 5 dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/943; b) skuteczne wdrożenie niniejszego rozporządzenia, w szczególności na potrzeby kontroli, postępowań lub audytów; c) interesy bezpieczeństwa publicznego i narodowego; d) przebieg postępowań karnych i administracyjnych; e) informacje niejawne zgodnie z prawem Unii lub prawem krajowym. 2. Organy zaangażowane w stosowanie niniejszego rozporządzenia zgodnie z ust. 1 zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień zgodnie z niniejszym rozporządzeniem i z rozporządzeniem (UE) 2019/1020. Wprowadzają one odpowiednie i skuteczne środki w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych oraz usuwają zebrane dane, gdy tylko przestaną one być potrzebne do celu, w jakim je uzyskano, zgodnie z mającym zastosowanie prawem Unii lub prawem krajowym. organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2023 r. poz. 783 oraz z 2025 r. poz. 820 i 1729 oraz z 2026 r. poz. 230), w zakresie 3. Bez uszczerbku dla ust. 1 i 2, informacji wymienianych na zasadzie poufności między właściwymi organami krajowymi oraz między właściwymi organami krajowymi a Komisją nie można ujawniać bez uprzedniej konsultacji z właściwym organem krajowym, który je przekazał, oraz z podmiotem stosującym, w przypadku gdy systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, wykorzystują organy ścigania, organy kontroli granicznej, organy imigracyjne lub organy azylowe, jeżeli takie ujawnienie mogłoby zagrozić interesom bezpieczeństwa publicznego i narodowego. Ta wymiana informacji nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. Jeżeli dostawcami systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 lub 7, są organy ścigania, organy imigracyjne lub organy azylowe, dokumentację techniczną, o której mowa w załączniku IV, przechowuje się w siedzibie tych organów. Organy te zapewniają, aby organy nadzoru rynku, o których mowa odpowiednio w art. 74 ust. 8 i 9, mogły uzyskać na wniosek natychmiastowy dostęp do tej dokumentacji lub otrzymać jej kopię. Dostęp do tej dokumentacji lub jej kopii zastrzeżony jest wyłączenia dla pracowników organu nadzoru rynku posiadających poświadczenie bezpieczeństwa na odpowiednim poziomie. 4. Ust. 1, 2 i 3 nie mają wpływu na prawa i obowiązki Komisji, państw członkowskich i ich odpowiednich organów, a także jednostek notyfikowanych, w zakresie niezbędnym do realizacji ich ustawowych zadań.. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. wymiany informacji i rozpowszechnianie ostrzeżeń, w tym w kontekście współpracy transgranicznej; nie mają one również wpływu na obowiązki zainteresowanych stron w zakresie udzielania informacji zgodnie z prawem karnym państw członkowskich. 5. Komisja i państwa członkowskie mogą, w razie potrzeby i zgodnie z odpowiednimi postanowieniami umów międzynarodowych i handlowych, wymieniać informacje poufne z organami regulacyjnymi państw trzecich, z którymi zawarły dwustronne lub wielostronne porozumienia o poufności gwarantujące odpowiedni stopień poufności. Art. 79 Procedura postępowania na poziomie krajowym w przypadku systemów AI stwarzających ryzyko 1. Systemy AI stwarzające ryzyko uznaje się za \"produkt stwarzający ryzyko\" w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. 2. W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ T Art. 64 ust.1 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689 lub ust. 2. nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie. Odpowiedni operatorzy współpracują w razie potrzeby z organem nadzoru rynku i innymi krajowymi organami lub podmiotami publicznymi, o których mowa w art. 77 ust. 1. W przypadku gdy w trakcie tej oceny organ nadzoru rynku lub, w stosownych przypadkach, organ nadzoru rynku we współpracy z krajowym organem publicznym, o którym mowa w art. 77 ust. 1, ustalą, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku w terminie, który może zostać wyznaczony przez organ nadzoru rynku, a w każdym razie w terminie krótszym niż 15 dni roboczych lub przewidzianym w odpowiednim unijnym prawodawstwie harmonizacyjnym. Organ nadzoru rynku informuje o tym odpowiednią jednostkę notyfikowaną. Do środków, o których mowa w akapicie drugim niniejszego ustępu, stosuje się art. 18 rozporządzenia (UE) 2019/1020. 3. W przypadku, gdy organ nadzoru rynku uzna, że niezgodność nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o wynikach oceny i działaniach, do których podjęcia zobowiązał operatora. 4. Operator zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 5. W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie. 6. W powiadomieniu, o którym mowa w ust. 5, zawiera się wszelkie dostępne informacje szczegółowe, w szczególności takie jak informacje niezbędne do identyfikacji niezgodności systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter zarzucanej niezgodności i związanego z nią ryzyka, charakter i okres obowiązywania podjętych środków krajowych oraz argumenty przedstawione przez odpowiedniego operatora. W szczególności organy nadzoru rynku wskazują, czy niezgodność wynika z jednego z następujących czynników: a) nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5; b) niespełnienia przez system AI wysokiego ryzyka wymogów określonych w rozdziale III sekcja 2; c) braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41, stanowiących podstawę domniemania zgodności; d) niezgodności z art. 50. 7. Organy nadzoru rynku inne niż organ nadzoru rynku państwa członkowskiego, w którym wszczęto postępowanie, bez zbędnej zwłoki informują Komisję i pozostałe państwa członkowskie o wszelkich przyjętych środkach i o wszelkich posiadanych dodatkowych informacjach dotyczących niezgodności danego systemu AI, a w przypadku, gdy nie zgadzają się ze środkiem krajowym, o którym zostały powiadomione - o swoim sprzeciwie. 8. W przypadku, gdy w terminie trzech miesięcy od dnia powiadomienia, o którym mowa w ust. 5 niniejszego artykułu, organ nadzoru rynku jednego z państw członkowskich, ani Komisja nie zgłoszą sprzeciwu wobec środka tymczasowego przyjętego przez organ nadzoru rynku innego państwa członkowskiego, środek ten uznaje się za uzasadniony. Pozostaje to bez uszczerbku dla praw proceduralnych danego operatora określonych w art. 18 rozporządzenia (UE) 2019/1020. Termin trzech miesięcy, o którym mowa w niniejszym ustępie, skraca się do 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 niniejszego rozporządzenia. 9. Organy nadzoru rynku zapewniają, by bez zbędnej zwłoki zostały podjęte odpowiednie środki ograniczające w odniesieniu do danego produktu lub systemu AI, takie jak wycofanie produktu lub systemu AI z podległego im rynku. Art. 80 Procedura postępowania w przypadku systemów AI zaklasyfikowanych przez dostawcę jako niebędące systemami wysokiego ryzyka w zastosowaniu załącznika III 1. W przypadku, gdy organ nadzoru rynku ma wystarczające powody, by sądzić, że system AI zaklasyfikowany przez dostawcę zgodnie z art. 6 ust. 3 pkt I jako niebędący systemem wysokiego ryzyka jest w istocie systemem wysokiego ryzyka, organ ten przeprowadza ocenę danego systemu AI w zakresie jego klasyfikacji jako system AI wysokiego ryzyka na podstawie warunków ustanowionych w art. 6 ust. 3 i wytycznych Komisji. 2. W przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że dany system AI jest systemem wysokiego ryzyka, bez zbędnej zwłoki zobowiązuje danego dostawcę do podjęcia wszystkich działań niezbędnych do osiągnięcia zgodności systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, jak również podjęcia odpowiednich działań naprawczych w terminie, który może zostać wyznaczony przez organ nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku uzna, że wykorzystywanie danego systemu AI nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wynikach oceny i działaniach, do których podjęcia zobowiązał dostawcę. 4. Dostawca zapewnia podjęcie wszystkich działań niezbędnych do zapewnienia zgodności danego systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. W przypadku gdy dostawca danego systemu AI nie zapewni zgodności tego systemu z tymi wymogami i obowiązkami w terminie, o którym mowa w ust. 2 niniejszego artykułu, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 5. Dostawca zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 6. W przypadku, gdy dostawca danego systemu AI nie podejmie odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2 niniejszego artykułu, stosuje się art. 79 ust. 5-9. 7. W przypadku, gdy w trakcie oceny zgodnie z ust. 1 niniejszego artykułu organ nadzoru rynku ustali, że dany system AI został przez dostawcę błędnie zaklasyfikowany jako system niebędący systemem wysokiego ryzyka w celu obejścia stosowania wymogów ustanowionych w rozdziale III sekcja 2, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 8. Wykonując swoje uprawnienia w zakresie monitorowania stosowania niniejszego artykułu oraz zgodnie z art. 11 rozporządzenia (UE) 2019/1020 organy nadzoru rynku mogą przeprowadzać odpowiednie kontrole, uwzględniając w szczególności informacje przechowywane w bazie danych UE, o której mowa w art. 71 niniejszego rozporządzenia. Art. 81 Unijna procedura ochronna 1. W przypadku gdy w terminie trzech miesięcy od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, lub w terminie 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5, organ nadzoru rynku jednego z państw członkowskich zgłosi sprzeciw wobec środka podjętego przez inny organ nadzoru rynku lub w przypadku gdy Komisja uzna taki środek za sprzeczny z prawem Unii, Komisja bez zbędnej zwłoki przystępuje do konsultacji z organem nadzoru rynku danego państwa członkowskiego i operatorem lub operatorami i dokonuje oceny takiego środka krajowego. Na podstawie wyników tej oceny Komisja w terminie sześciu miesięcy lub 60 dni - w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 - licząc od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, rozstrzyga, czy środek krajowy jest uzasadniony i powiadamia o swojej decyzji organ nadzoru rynku zainteresowanego państwa członkowskiego. Komisja powiadamia również wszystkie pozostałe krajowe organy nadzoru rynku o swojej decyzji. 2. W przypadku, gdy Komisja uzna, że środek podjęty przez dane państwo członkowskie jest uzasadniony, wszystkie państwa członkowskie zapewniają podjęcie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia bez zbędnej zwłoki odpowiednich środków ograniczających w odniesieniu do danego systemu AI, takich jak zobowiązujące do wycofania tego systemu AI z ich rynku, oraz informują o tym Komisję. W przypadku gdy Komisja uzna środek krajowy za nieuzasadniony, zainteresowane państwo członkowskie cofa dany środek oraz informuje odpowiednio Komisję. 3. W przypadku uznania krajowego środka za uzasadniony i stwierdzenia, że niezgodność systemu AI wynika z braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41 niniejszego rozporządzenia, Komisja stosuje procedurę przewidzianą w art. 11 rozporządzenia (UE) nr 1025/2012. Art. 82 Zgodne systemy AI stwarzające ryzyko 1. W przypadku gdy po przeprowadzeniu oceny zgodnie z art. 79, po konsultacji z odpowiednim krajowym organem publicznym, o którym mowa w art. 77 ust. 1, organ nadzoru rynku państwa członkowskiego ustali, że chociaż system AI wysokiego ryzyka jest zgodny z niniejszym rozporządzeniem, stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego, organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz terminie, który może zostać wyznaczony przez ten organ. 2. Dostawca lub inny właściwy operator zapewniają podjęcie działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnili na rynku Unii, w terminie wyznaczonym przez organ nadzoru rynku państwa członkowskiego, o którym mowa w ust. 1. 3. Państwa członkowskie natychmiast powiadamiają Komisję i pozostałe państwa członkowskie o swoim ustaleniu zgodnie z ust. 1. W powiadomieniu tym zawiera się wszelkie dostępne szczegółowe informacje, w szczególności dane niezbędne do identyfikacji danego systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter przedmiotowego ryzyka oraz charakter i okres obowiązywania podjętych środków krajowych. 4. Komisja bez zbędnej zwłoki przystępuje do konsultacji z zainteresowanymi państwami członkowskim i właściwymi operatorami i ocenia podjęte środki krajowe. Na podstawie wyników tej oceny Komisja podejmuje decyzję czy środek krajowy jest uzasadniony i w razie potrzeby proponuje inne odpowiednie środki. 5. Komisja natychmiast przekazuje swoją decyzję do zainteresowanych państw członkowskich i operatorów. Komisja powiadamia również pozostałe państwa członkowskie. Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 83 Niezgodność formalna 1. Organ nadzoru rynku państwa członkowskiego zobowiązuje właściwego dostawcę do usunięcia niezgodności w terminie, który może zostać wyznaczony przez ten organ, w przypadku, gdy ustali, że: a) oznakowanie CE zostało umieszczone z naruszeniem art. 48; b) oznakowanie CE nie zostało umieszczone; c) deklaracja zgodności UE, o której mowa w art. 47, nie została sporządzona; d) deklaracja zgodności UE, o której mowa w art. 47, została sporządzona nieprawidłowo; e) rejestracja w bazie danych, o której mowa w art. 71, UE nie została dokonana; f) upoważniony przedstawiciel nie został, w stosownych przypadkach, ustanowiony; g) brakuje dokumentacji technicznej. 2. W przypadku, gdy niezgodność, o której mowa w ust. 1, utrzymuje się, krajowy organ nadzoru rynku zainteresowanego państwa członkowskiego podejmuje wszelkie odpowiednie i proporcjonalne środki w celu ograniczenia lub zakazania udostępniania na rynku takiego systemu AI wysokiego ryzyka lub zapewnienia, aby system ten niezwłocznie wycofano z użytku lub z rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 84 Unijne struktury wsparcia testowania AI 1. Komisja wyznacza co najmniej jedną unijną strukturę wsparcia testowania AI do wykonywania w obszarze AI zadań wymienionych w art. 21 ust. 6 rozporządzenia (UE) 2019/1020. 2. Bez uszczerbku dla zadań, o których mowa w ust. 1, unijne struktury wsparcia testowania AI zapewniają również niezależne doradztwo techniczne lub naukowe na wniosek Rady ds. AI, Komisji lub organów nadzoru rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 85 Prawo do wniesienia skargi do organu nadzoru rynku Bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej każda osoba fizyczna lub prawna mająca podstawy, by uznać, że zostały naruszone przepisy niniejszego rozporządzenia, może wnieść skargę do odpowiedniego organu nadzoru rynku. Zgodnie z rozporządzeniem (UE) 2019/1020 takie skargi bierze się pod uwagę do celów prowadzenia działań w zakresie nadzoru rynku i rozpatruje się je zgodnie ze specjalnymi procedurami ustanowionymi w związku z tym przez organy nadzoru rynku. T Art. 60 Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga, zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym, informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 86 Prawo do uzyskania wyjaśnienia na temat procedury podejmowania decyzji w indywidualnej sprawie 1. Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. 2. Ust. 1 nie stosuje się do wykorzystywania systemów AI, w odniesieniu do których z prawa Unii lub zgodnego z prawem Unii prawa krajowego wynikają wyjątki lub ograniczenia dotyczące stosowania obowiązku ustanowionego w tym ustępie. 3. Niniejszy artykuł stosuje się jedynie w zakresie, w jakim prawo, o którym mowa w ust. 1, nie zostało inaczej ustanowione w prawie Unii. Art. 87 Zgłaszanie naruszeń i ochrona osób dokonujących zgłoszeń Do zgłaszania naruszeń niniejszego rozporządzenia oraz w kwestiach ochrony osób zgłaszających takie naruszenia stosuje się przepisy dyrektywy (UE) 2019/1937. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 88 Egzekwowanie obowiązków dostawców modeli AI ogólnego przeznaczenia 1. Komisja ma wyłączne uprawnienia do nadzorowania i egzekwowania przestrzegania przepisów rozdziału V, przy uwzględnieniu gwarancji proceduralnych na podstawie art. 94. Komisja powierza realizację tych zadań Urzędowi ds. AI, bez uszczerbku dla uprawnień organizacyjnych Komisji i podziału kompetencji między państwami członkowskimi a Unią na podstawie Traktatów. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Bez uszczerbku dla art. 75 ust. 3 organy nadzoru rynku mogą zwrócić się do Komisji o wykonanie uprawnień ustanowionych w niniejszej sekcji, w przypadku, gdy jest to konieczne i proporcjonalne w kontekście realizacji ich zadań na podstawie niniejszego rozporządzenia. Art. 89 Działania monitorujące 1. Do celów wykonywania zadań powierzonych w niniejszej sekcji Urząd ds. AI może podejmować działania niezbędne do monitorowania skutecznego wdrożenia i zapewnienia zgodności z niniejszym rozporządzeniem przez dostawców modeli AI ogólnego przeznaczenia, w tym przestrzegania przez nich zatwierdzonych kodeksów praktyk. 2. Dostawcy niższego szczebla mają prawo wniesienia skargi dotyczącej naruszenia niniejszego rozporządzenia. Skarga musi być należycie uzasadniona i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia; b) opis istotnych faktów, stosowne przepisy niniejszego rozporządzenia oraz powody, dla których dostawca niższego szczebla uważa, że dostawca systemu AI ogólnego przeznaczenia naruszył niniejsze rozporządzenie; c) wszelkie inne informacje uznane za istotne przez dostawcę niższego szczebla, który wysłał zgłoszenie, w N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 90 Ostrzeżenia o ryzyku systemowym wydawane przez panel naukowy 1. Panel naukowy może wydawać ostrzeżenia kwalifikowane skierowane do Urzędu ds. AI, w przypadku, gdy ma powody podejrzewać, że: a) model AI ogólnego przeznaczenia stwarza konkretne możliwe do zidentyfikowania ryzyko na poziomie Unii; lub b) model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51. 2. Po otrzymaniu takiego ostrzeżenia kwalifikowanego Komisja, za pośrednictwem Urzędu ds. AI i po poinformowaniu Rady ds. AI, może wykonać uprawnienia ustanowione w niniejszej sekcji do celów oceny danej sprawy. Urząd ds. AI informuje Radę ds. AI o wszelkich środkach zgodnie z art. 91-94. 3. Ostrzeżenie kwalifikowane musi być należycie uzasadnione i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia z ryzykiem systemowym; b) opis stosownych faktów i uzasadnienie wydania ostrzeżenia przez panel naukowy; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) wszelkie inne informacje, które panel naukowy uważa za istotne, w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 91 Uprawnienie do zwracania się z wnioskiem o przedstawienie dokumentacji i informacji 1. Komisja może zwrócić się do dostawcy danego modelu AI ogólnego przeznaczenia z wnioskiem o przedstawienie dokumentacji sporządzonej przez niego zgodnie art. 53 i 55 lub wszelkich dodatkowych informacji niezbędnych do celów oceny zgodności dostawcy z niniejszym rozporządzeniem. 2. Przed wysłaniem wniosku o przedstawienie informacji Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Na należycie uzasadniony wniosek panelu naukowego Komisja może skierować do dostawcy modelu AI ogólnego przeznaczenia wniosek o przedstawienie informacji, w przypadku, gdy dostęp do informacji jest niezbędny i proporcjonalny do realizacji zadań panelu naukowego na podstawie art. 68 ust. 2. 4. We wniosku o przekazanie informacji wskazuje się podstawę prawną i cel wniosku, podaje, jakie informacje stanowią przedmiot wniosku oraz określa się termin na przekazanie tych informacji, a także wskazuje przewidziane w art. 101 kary pieniężne za dostarczenie informacji nieprawidłowych, niekompletnych lub wprowadzających w błąd. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 5. Dostawca danego modelu AI ogólnego przeznaczenia lub jego przedstawiciel dostarczają informacje stanowiące przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie ma osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego dostarczają w imieniu dostawcy danego modelu AI ogólnego przeznaczenia informacje stanowiące przedmiot wniosku. Prawnicy należycie upoważnieni do działania mogą dostarczać informacje w imieniu swoich klientów. Klienci ponoszą jednak pełną odpowiedzialność, jeśli dostarczone informacje są nieprawidłowe, niekompletne lub wprowadzające w błąd. Art. 92 Uprawnienia do przeprowadzania ocen 1. Urząd ds. AI po konsultacji z Radą ds. AI może przeprowadzać oceny danego modelu AI ogólnego przeznaczenia: a) do celów oceny spełniania przez danego dostawcę obowiązków na podstawie niniejszego rozporządzenia, w przypadku, gdy informacje zgromadzone zgodnie z art. 91 są niewystarczające; lub b) do celów badania na poziomie Unii ryzyka systemowego modeli AI ogólnego przeznaczenia z ryzykiem systemowym, w szczególności w następstwie ostrzeżenia kwalifikowanego panelu naukowego zgodnie z art. 90 ust. 1 lit. a). 2. Komisja może podjąć decyzję o powołaniu niezależnych ekspertów do przeprowadzania ocen w jej N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia imieniu, w tym z panelu naukowego ustanowionego zgodnie z art. 68. Niezależni eksperci powołani do tego zadania muszą spełniać kryteria określone w art. 68 ust. 2. 3. Do celów ust. 1 Komisja może zwrócić się z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych, w tym do kodu źródłowego. 4. We wniosku o udzielenie dostępu wskazuje się podstawę prawną, cel i uzasadnienie wniosku oraz określa się termin na udzielenie tego dostępu, a także wskazuje przewidziane w art. 101 kary pieniężne za nieudzielenie dostępu. 5. Dostawcy modeli AI ogólnego przeznaczenia oraz ich przedstawiciele dostarczają informacji stanowiących przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie posiada osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego udzielają w imieniu danego dostawcy modelu AI ogólnego przeznaczenia dostępu stanowiącego przedmiot wniosku. 6. Komisja przyjmuje akty wykonawcze określające szczegółowe zasady i warunki przeprowadzania ocen, w tym szczegółowe zasady dotyczące udziału niezależnych ekspertów, oraz procedurę ich wyboru. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Przed wystąpieniem z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą danego modelu AI ogólnego przeznaczenia, aby zgromadzić więcej informacji na temat wewnętrznych testów modelu, wewnętrznych zabezpieczeń w celu zapobieżenia ryzyku systemowemu oraz innych wewnętrznych procedur i środków, jakie dostawca podjął w celu ograniczenia takiego ryzyka. Art. 93 Uprawnienia do żądania podjęcia środków 1. W miarę konieczności i w stosownych przypadkach Komisja może zwrócić się do dostawców z żądaniem dotyczącym: a) podjęcia odpowiednich środków w celu spełnienia obowiązków określonych w art. 53 i 54; b) wdrożenia środków zaradczych, w przypadku, gdy z oceny przeprowadzonej zgodnie z art. 92 wynika poważna i uzasadniona obawa wystąpienia ryzyka systemowego na poziomie Unii; c) ograniczenia udostępniania modelu na rynku, wycofania modelu z rynku lub z użytku. 2. Przed wystąpieniem z żądaniem podjęcia środka Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Jeśli w trakcie zorganizowanego dialogu, o którym mowa w ust. 2, dostawca modelu AI ogólnego przeznaczenia z ryzykiem systemowym zobowiąże się do wdrożenia środków zaradczych w celu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przeciwdziałania ryzyku systemowemu na poziomie Unii, Komisja może w drodze decyzji uczynić te zobowiązania wiążącymi i oświadczyć, że nie ma podstaw do dalszych działań. Art. 94 Prawa proceduralne podmiotów gospodarczych będących dostawcami modeli AI ogólnego przeznaczenia Art. 18. rozporządzenia (UE) 2019/1020 stosuje się odpowiednio do dostawców modeli AI ogólnego przeznaczenia, bez uszczerbku dla bardziej szczególnych praw proceduralnych przewidzianych w niniejszym rozporządzeniu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 95 Kodeksy postępowania do celów dobrowolnego stosowania szczególnych wymogów 1. Urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. 2. Urząd ds. AI i państwa członkowskie ułatwiają opracowywanie kodeksów postępowania dotyczących dobrowolnego stosowania, również przez podmioty stosujące, szczególnych wymogów w odniesieniu do T Art. 98 Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. wszystkich systemów AI, na podstawie jasnych celów i kluczowych wskaźników skuteczności działania służących do pomiaru stopnia realizacji tych celów, w tym między innymi następujących elementów: a) mające zastosowanie elementy przewidziane w unijnych wytycznych etycznych dotyczących godnej zaufania AI; b) ocena i minimalizacja oddziaływania systemów AI na zrównoważenie środowiskowe, w tym w odniesieniu do energooszczędnego programowania i technik wydajnego projektowania, trenowania i wykorzystywania AI; c) promowanie kompetencji w zakresie AI, w szczególności w odniesieniu do osób mających związek z rozwojem, działaniem i wykorzystywaniem AI; d) sprzyjanie inkluzywności i różnorodności przy projektowaniu systemów AI, w tym poprzez tworzenie inkluzywnych i różnorodnych zespołów programistycznych oraz promowanie udziału zainteresowanych stron w tym procesie; e) ocena i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z punktu widzenia dostępności dla osób z niepełnosprawnościami, jak również na równość płci. 3. Kodeksy postępowania mogą być opracowywane przez poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, w tym przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Kodeksy postępowania mogą obejmować jeden lub większą liczbę systemów AI, przy uwzględnieniu podobieństw w przeznaczeniu danych systemów. 4. W ramach zachęcania do opracowywania kodeksów postępowania i ułatwiania ich opracowywania Urząd ds. AI i państwa członkowskie uwzględniają szczególne interesy i potrzeby MŚP, w tym przedsiębiorstw typu startup. Art. 96 Wytyczne Komisji w sprawie wdrożenia niniejszego rozporządzenia 1. Komisja opracowuje wytyczne dotyczące praktycznego wdrażania niniejszego rozporządzenia, a w szczególności: a) stosowania wymogów i obowiązków, o których mowa w art. 8-15 i art. 25; b) zakazanych praktyk, o których mowa w art. 5; c) praktycznego wdrażania przepisów dotyczących istotnych zmian; d) praktycznego wdrażania obowiązków w zakresie przejrzystości ustanowionych w art. 50; e) podawania szczegółowych informacji na temat powiązań między niniejszym rozporządzeniem a unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, jak również z innym N Przepis stosowany wprost nie wymaga wdrożenia odpowiednim prawem Unii, w tym w odniesieniu do spójności jego egzekwowania; f) stosowania definicji systemu AI określonej w art. 3 pkt 1. Przy wydawaniu takich wytycznych Komisja zwraca szczególną uwagę na potrzeby MŚP, w tym przedsiębiorstw typu startup, lokalnych organów publicznych i sektorów, na które niniejsze rozporządzenie może mieć największy wpływ. Wytyczne, o których mowa w akapicie pierwszym niniejszego ustępu, uwzględniają powszechnie uznany stan wiedzy technicznej w zakresie AI, jak również odpowiednie normy zharmonizowane i wspólne specyfikacje, o których mowa w art. 40 i 41, lub te normy zharmonizowane lub specyfikacje techniczne, które zostały określone zgodnie z unijnym prawodawstwem harmonizacyjnym. 2. Na wniosek państw członkowskich lub Urzędu ds. AI lub z własnej inicjatywy Komisja aktualizuje przyjęte wcześniej wytyczne, jeżeli zostanie to uznane za konieczne. Art. 97 Wykonywanie przekazanych uprawnień 1. Powierzenie Komisji uprawnień do przyjmowania aktów delegowanych podlega warunkom określonym w niniejszym artykule. 2. Uprawnienia do przyjmowania aktów delegowanych, o których mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, N Przepis stosowany wprost nie wymaga wdrożenia art. 52 ust. 4 i art. 53 ust. 5 i 6 powierza się Komisji na okres pięciu lat od dnia 1 sierpnia 2024 r. Komisja sporządza sprawozdanie dotyczące przekazania uprawnień nie później niż dziewięć miesięcy przed końcem okresu pięciu lat. Przekazanie uprawnień zostaje automatycznie przedłużone na takie same okresy, chyba że Parlament Europejski lub Rada sprzeciwią się takiemu przedłużeniu nie później niż trzy miesiące przed końcem każdego okresu. 3. Przekazanie uprawnień, o którym mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 i art. 53 ust. 5 i 6, może zostać w dowolnym momencie odwołane przez Parlament Europejski lub przez Radę. Decyzja o odwołaniu kończy przekazanie określonych w niej uprawnień. Decyzja o odwołaniu staje się skuteczna następnego dnia po jej opublikowaniu w Dzienniku Urzędowym Unii Europejskiej lub w późniejszym terminie określonym w tej decyzji. Nie wpływa ona na ważność jakichkolwiek już obowiązujących aktów delegowanych. 4. Przed przyjęciem aktu delegowanego Komisja konsultuje się z ekspertami wyznaczonymi przez każde państwo członkowskie zgodnie z zasadami określonymi w Porozumieniu międzyinstytucjonalnym z dnia 13 kwietnia 2016 r. w sprawie lepszego stanowienia prawa. 5. Niezwłocznie po przyjęciu aktu delegowanego Komisja przekazuje go równocześnie Parlamentowi Europejskiemu i Radzie. 6. Akt delegowany przyjęty na podstawie art. 6 ust. 6 lub 7, art. 7 ust. 1 lub 3, art. 11 ust. 3, art. 43 ust. 5 lub 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 lub art. 53 ust. 5 lub 6 wchodzi w życie tylko wówczas, gdy ani Parlament Europejski, ani Rada nie wyraziły sprzeciwu w terminie trzech miesięcy od przekazania tego aktu Parlamentowi Europejskiemu i Radzie lub gdy, przed upływem tego terminu, zarówno Parlament Europejski, jak i Rada poinformowały Komisję, że nie wniosą sprzeciwu. Termin ten przedłuża się o trzy miesiące z inicjatywy Parlamentu Europejskiego lub Rady. Art. 98 Procedura komitetowa 1. Komisję wspomaga komitet. Komitet ten jest komitetem w rozumieniu rozporządzenia (UE) nr 182/2011. 2. W przypadku odesłania do niniejszego ustępu stosuje się art. 5 rozporządzenia (UE) nr 182/2011. N Przepis stosowany wprost nie wymaga wdrożenia Art. 99 Kary 1. Zgodnie z zasadami i warunkami ustanowionymi w niniejszym rozporządzeniu państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, mających zastosowanie w przypadku naruszeń przepisów niniejszego rozporządzenia przez operatorów i podejmują wszelkie niezbędne środki w celu zapewnienia ich właściwego i skutecznego wykonywania, z uwzględnieniem wytycznych wydanych przez Komisję zgodnie z art. 96. T Art. 100 Art. 101 Art. 103 Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia Regulacja zakłada uwzględnienie indywidualnej sytuacji podmiotu na podstawie dostarczonych przez niego dokumentów. Przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. Uwzględniają one interesy MŚP, w tym przedsiębiorstw typu startup oraz ich sytuację ekonomiczną. 2. Państwa członkowskie niezwłocznie, nie później jednak niż do dnia rozpoczęcia stosowania, powiadamiają Komisję o przepisach dotyczących kar i innych środków egzekwowania prawa, o których mowa w ust. 1, jak również o ich wszelkich późniejszych zmianach. 3. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 4. Nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa: a) obowiązki dostawców zgodnie z art. 16; b) obowiązki upoważnionych przedstawicieli zgodnie z art. 22; przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania c) obowiązki importerów zgodnie z art. 23; d) obowiązki dystrybutorów zgodnie z art. 24; e) obowiązki podmiotów stosujących zgodnie z art. 26; f) wymogi i obowiązki jednostek notyfikowanych zgodnie z art. 31, art. 33 ust. 1, 3 i 4 lub art. 34; g) obowiązki dostawców i podmiotów stosujących w zakresie przejrzystości zgodnie z art. 50. 5. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 6. W przypadku MŚP, w tym przedsiębiorstw typu startup, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa. 7. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości w każdej indywidualnej sprawie, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się w stosownych przypadkach uwagę na: dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji, przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) to, czy inne organy nadzoru rynku nałożyły już na tego samego operatora administracyjne kary pieniężne za to samo naruszenie; c) to, czy inne organy nałożyły już administracyjne kary pieniężne na tego samego operatora za naruszenia innych przepisów prawa Unii lub prawa krajowego, w przypadku, gdy takie naruszenia wynikają z tego samego działania lub zaniechania stanowiącego odpowiednie naruszenie niniejszego rozporządzenia; d) wielkość operatora dopuszczającego się naruszenia, jego roczny obrót i udział w rynku; e) wszelkie inne obciążające lub łagodzące czynniki mające zastosowanie do okoliczności sprawy, takie jak powiązane bezpośrednio lub pośrednio z danym naruszeniem osiągnięte korzyści finansowe lub uniknięte straty; f) stopień współpracy z właściwymi organami krajowymi w celu usunięcia naruszenia oraz złagodzenia jego ewentualnych niepożądanych skutków; g) stopień odpowiedzialności operatora, z uwzględnieniem wdrożonych przez niego środków technicznych i organizacyjnych; pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. )), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub h) sposób, w jaki właściwe organy krajowe dowiedziały się o naruszeniu, w szczególności, czy i w jakim zakresie operator zgłosił naruszenie; i) umyślny lub wynikający z zaniedbania charakter naruszenia; j) wszelkie działania podjęte przez operatora w celu złagodzenia szkody poniesionej przez poszkodowane osoby. 8. Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. 9. W zależności od systemu prawnego państw członkowskich przepisy dotyczące administracyjnych kar pieniężnych można stosować w taki sposób, że kary w tych państwach członkowskich są nakładane, stosownie do przypadku, przez właściwe sądy krajowe lub inne odpowiednie organy. Stosowanie takich przepisów w tych państwach członkowskich ma skutek równoważny. 10. Wykonywanie uprawnień na podstawie niniejszego artykułu podlega odpowiednim zabezpieczeniom proceduralnym zgodnie z prawem Unii i prawem krajowym, obejmującym prawo do skutecznych środka zaskarżenia i rzetelnego postępowania sądowego. 11. Państwa członkowskie co roku składają Komisji sprawozdanie dotyczące administracyjnych kar pieniężnych, które nałożyły w danym roku zgodnie z uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. niniejszym artykułem, oraz dotyczące wszelkich powiązanych sporów lub postępowań sądowych. Art. 100 Administracyjne kary pieniężne nakładane na instytucje, organy i jednostki organizacyjne Unii 1. Europejski Inspektor Ochrony Danych może nakładać administracyjne kary pieniężne na instytucje, organy i jednostki organizacyjne Unii objęte zakresem stosowania niniejszego rozporządzenia. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się należytą uwagę na: a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji; przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) stopień odpowiedzialności instytucji, organu lub jednostki organizacyjnej Unii, z uwzględnieniem wdrożonych przez nie środków technicznych i organizacyjnych; c) wszelkie działania podjęte przez instytucję, organ lub jednostkę organizacyjną Unii w celu złagodzenia szkody poniesionej przez osoby poszkodowane; d) stopień współpracy z Europejskim Inspektorem Ochrony Danych w celu usunięcia naruszenia i złagodzenia jego ewentualnych niepożądanych skutków, N Przepis stosowany wprost nie wymaga wdrożenia w tym zastosowanie się do wszelkich środków zarządzonych wcześniej przez Europejskiego Inspektora Ochrony Danych wobec danej instytucji, organu lub jednostki organizacyjnej Unii w odniesieniu do tej samej kwestii; e) wszelkie podobne wcześniejsze naruszenia dokonane przez instytucję, organ lub jednostkę organizacyjną Unii; f) sposób, w jaki Europejski Inspektor Ochrony Danych dowiedział się o naruszeniu, w szczególności, czy i w jakim zakresie instytucja, organ lub jednostka organizacyjna Unii zgłosili naruszenie; g) roczny budżet instytucji, organu lub jednostki organizacyjnej Unii. 2. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnym karom pieniężnym w wysokości do 1 500 000 EUR. 3. Niezgodność systemu AI z jakimikolwiek wymogami lub obowiązkami wynikającymi z niniejszego rozporządzenia, innymi niż te ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 750 000 EUR. 4. Przed podjęciem decyzji na podstawie niniejszego artykułu Europejski Inspektor Ochrony Danych zapewnia instytucji, organowi lub jednostce organizacyjnej Unii, które są przedmiotem postępowania prowadzonego przez Europejskiego Inspektora Ochrony Danych, możliwość bycia wysłuchanym w sprawie dotyczącej ewentualnego naruszenia. Podstawą decyzji wydanej przez Europejskiego Inspektora Ochrony Danych mogą być wyłącznie elementy i okoliczności, co do których zainteresowane strony mogły się wypowiedzieć. Skarżący, jeżeli tacy istnieją, musza zostać ściśle włączeni w postępowanie. 5. W toku postępowania w pełni respektuje się prawo zainteresowanych stron do obrony. Strony mają prawo dostępu do akt Europejskiego Inspektora Ochrony Danych, z zastrzeżeniem prawnie uzasadnionego interesu osób fizycznych i przedsiębiorstw w zakresie ochrony ich danych osobowych lub tajemnic handlowych. 6. Środki finansowe pochodzące z kar pieniężnych nałożonych na podstawie niniejszego artykułu zasilają budżet ogólny Unii. Te kary pieniężne nie mogą mieć wpływu na skuteczne funkcjonowanie instytucji, organu lub jednostki organizacyjnej Unii, na które nałożono karę. 7. Europejski Inspektor Ochrony Danych co roku powiadamia Komisję o administracyjnych karach pieniężnych, które nałożył zgodnie z niniejszym artykułem, oraz o wszelkich wszczętych przez siebie postępowaniach spornych lub sądowych. Art. 101 Kary pieniężne dla dostawców modeli AI ogólnego przeznaczenia 1. Komisja może nakładać na dostawców modeli AI ogólnego przeznaczenia kary pieniężne nieprzekraczające 3 % ich całkowitego rocznego N Przepis stosowany wprost nie wymaga wdrożenia światowego obrotu w poprzednim roku obrotowym lub 15 000 000 EUR, w zależności od tego, która z tych kwot jest wyższa, jeśli ustali, że dostawca celowo lub w wyniku zaniedbania: a) naruszył odpowiednie przepisy niniejszego rozporządzenia; b) nie zastosował się do wniosku o przedstawienie dokumentu lub informacji zgodnie z art. 91 lub dostarczył informacje nieprawidłowe, niekompletne lub wprowadzające w błąd; c) nie zastosował się do środka wymaganego na podstawie art. 93; d) nie udzielił Komisji dostępu - w celu przeprowadzenia oceny zgodnie z art. 92 - do modelu A ogólnego przeznaczenia lub modelu AI ogólnego przeznaczenia z ryzykiem systemowym. Przy ustalaniu kwoty kary pieniężnej lub okresowej kary pieniężnej bierze się pod uwagę charakter, wagę i czas trwania naruszenia, z należytym uwzględnieniem zasad proporcjonalności i adekwatności. Komisja uwzględnia również zobowiązania podjęte zgodnie z art. 93 ust. 3 lub podjęte w odpowiednich kodeksach praktyki zgodnie z art. 56. 2. Przed przyjęciem decyzji na podstawie ust. 1 Komisja przekazuje swoje wstępne ustalenia dostawcy modelu AI ogólnego przeznaczenia i daje mu możliwość bycia wysłuchanym. 3. Kary pieniężne nakładane zgodnie z niniejszym artykułem muszą być skuteczne, proporcjonalne i odstraszające. 4. Informacje na temat kar pieniężnych nałożonych na podstawie niniejszego artykułu przekazuje się w stosownych przypadkach również Radzie ds. AI. 5. Trybunał Sprawiedliwości Unii Europejskiej ma nieograniczoną jurysdykcję w zakresie przeprowadzania kontroli decyzji Komisji ustalających karę pieniężną na podstawie niniejszego artykułu. Trybunał Sprawiedliwości Unii Europejskiej może uchylić, obniżyć lub podwyższyć nałożoną karę pieniężną. 6. Komisja przyjmuje akty wykonawcze zawierające szczegółowe zasady oraz zabezpieczenia proceduralne dotyczące postępowania w celu ewentualnego przyjęcia decyzji na podstawie ust. 1 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 102 Zmiana rozporządzenia (WE) nr 300/2008 W art. 4 ust. 3 rozporządzenia (WE) nr 300/2008 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu szczegółowych środków związanych ze specyfikacjami technicznymi i procedurami zatwierdzania sprzętu służącego do ochrony i korzystania z niego w przypadku systemów AI w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi ustanowione w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 103 Zmiana rozporządzenia (UE) nr 167/2013 W art. 17 ust. 5 rozporządzenia (UE) nr 167/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 104 Zmiana rozporządzenia (UE) nr 168/2013 W art. 22 ust. 5 rozporządzenia (UE) nr 168/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 105 Zmiana dyrektywy 2014/90/UE W art. 8 dyrektywy 2014/90/UE dodaje się ustęp w brzmieniu: N Przepis stosowany wprost nie wymaga wdrożenia \"5. W odniesieniu do systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, przy wykonywaniu swoich działań zgodnie z ust. 1 oraz przy przyjmowaniu specyfikacji technicznych i norm badań zgodnie z ust. 2 i 3 Komisja uwzględnia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 106 Zmiana dyrektywy (UE) 2016/797 W art. 5 dyrektywy (UE) 2016/797 dodaje się ustęp w brzmieniu: \"12. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 oraz aktów wykonawczych na podstawie ust. 11 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 107 Zmiana rozporządzenia (UE) 2018/858 W art. 5 rozporządzenia (UE) 2018/858 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 3 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 108 Zmiany w rozporządzeniu (UE) 2018/1139 W rozporządzeniu (UE) 2018/1139 wprowadza się następujące zmiany: 1) w art. 17 dodaje się ustęp w brzmieniu: \"3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" 2) w art. 19 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 3) w art. 43 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". N Przepis stosowany wprost nie wymaga wdrożenia 4) w art. 47 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 5) w art. 57 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu tych aktów wykonawczych dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 6) w art. 58 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". Art. 109 Zmiana rozporządzenia (UE) 2019/2144 W art. 11 rozporządzenia (UE) 2019/2144 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem N Przepis stosowany wprost nie wymaga wdrożenia elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia. Art. 110 Zmiana dyrektywy (UE) 2020/1828 W załączniku I do dyrektywy Parlamentu Europejskiego i Rady (UE) 2020/1828 dodaje się punkt w brzmieniu: \"(68) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektywy 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).\". N Przepis stosowany wprost nie wymaga wdrożenia Art. 111 Systemy AI już wprowadzone do obrotu lub oddane do użytku oraz modele AI ogólnego przeznaczenia już wprowadzone do obrotu 1. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a), do dnia 31 grudnia 2030 r. zapewnia się zgodność z niniejszym rozporządzeniem w odniesieniu do systemów AI, które stanowią elementy wielkoskalowych systemów informatycznych utworzonych na podstawie aktów prawnych wymienionych w załączniku X i które wprowadzono do N Przepis stosowany wprost nie wymaga wdrożenia obrotu lub oddano do użytku przed dniem 2 sierpnia 2027 r. Wymogi ustanowione w niniejszym rozporządzeniu uwzględnia się w ocenach każdego wielkoskalowego systemu informatycznego utworzonego na podstawie aktów prawnych wymienionych w załączniku X, które to oceny przeprowadza się zgodnie z tymi aktami oraz w przypadku, gdy te akty prawne są zastępowane lub zmieniane. 2. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a) niniejsze rozporządzenie stosuje się do operatorów systemów AI wysokiego ryzyka innych niż systemy, o których mowa w ust. 1 niniejszego artykułu, które zostały wprowadzone do obrotu lub oddane do użytku przed dniem 2 sierpnia 2026 r. tylko wtedy, gdy po tej dacie w systemach tych wprowadzane będą istotne zmiany w ich projekcie. W każdym razie dostawcy systemów AI wysokiego ryzyka i podmioty stosujące takie systemy, które są przeznaczone do wykorzystywania przez organy publiczne, podejmują niezbędne kroki w celu zapewnienia zgodności z wymogami i spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2030 r. 3. Dostawcy modeli AI ogólnego przeznaczenia, które zostały wprowadzone do obrotu przed dniem 2 sierpnia 2025 r., podejmują niezbędne kroki w celu spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2027 r. Art. 112 Ocena i przegląd 1. Komisja ocenia potrzebę wprowadzenia zmian w wykazie zawartym w załączniku III oraz w ustanowionym w art. 5 wykazie zakazanych praktyk w zakresie AI raz w roku, począwszy od dnia wejścia w życie niniejszego rozporządzenia do końca okresu przekazania uprawnień ustanowionych w art. 97. Komisja przedstawia ustalenia z tej oceny Parlamentowi Europejskiemu i Radzie. 2. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata Komisja przeprowadza ocenę i przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie dotyczące: a) konieczności zmian w postaci rozszerzenia istniejących nagłówków dotyczących obszarów lub dodania nowych nagłówków dotyczących obszarów w załączniku III; b) zmian wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości określonych w art. 50; c) zmian w celu poprawy skuteczności systemu nadzoru i zarządzania. 3. Do dnia 2 sierpnia 2029 r., a następnie co cztery lata Komisja przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie z oceny i przeglądu niniejszego rozporządzenia. Sprawozdanie zawiera ocenę struktury egzekwowania przepisów i ewentualnej konieczności usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Na podstawie tych ustaleń do N Przepis stosowany wprost nie wymaga wdrożenia sprawozdania dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia. Sprawozdania te są podawane do wiadomości publicznej. 4. W sprawozdaniach, o których mowa w ust. 2, szczególną uwagę zwraca się na następujące kwestie: a) stan zasobów finansowych, technicznych i ludzkich właściwych organów krajowych konieczny, by mogły one skutecznie wykonywać zadania powierzone im na podstawie niniejszego rozporządzenia; b) sytuację w zakresie kar, a w szczególności administracyjnych kar pieniężnych, o których mowa w art. 99 ust. 1, nakładanych przez państwa członkowskie w przypadku naruszenia niniejszego rozporządzenia; c) przyjęte normy zharmonizowane i wspólne specyfikacje opracowane w celu wsparcia niniejszego rozporządzenia; d) liczbę przedsiębiorstw wchodzących na rynek po rozpoczęciu stosowania niniejszego rozporządzenia oraz jaką część z nich stanowią MŚP. 5. Do dnia 2 sierpnia 2028 r. Komisja ocenia funkcjonowanie Urzędu ds. AI, czy przyznano mu uprawnienia i kompetencje wystarczające do wykonywania jego zadań oraz czy dla właściwego wdrożenia i egzekwowania niniejszego rozporządzenia stosowne i potrzebne byłoby wzmocnienie Urzędu ds. AI i zwiększenie jego uprawnień w zakresie egzekucji, a także zwiększenie jego zasobów. Komisja przedkłada sprawozdanie z oceny Parlamentowi Europejskiemu i Radzie. 6. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata, Komisja przedkłada sprawozdanie z przeglądu postępów w opracowywaniu dokumentów normalizacyjnych dotyczących wydajnego pod względem energii rozwoju modeli AI ogólnego przeznaczenia oraz ocenia konieczność podjęcia dalszych środków lub działań, w tym wiążących środków lub działań. Sprawozdanie to przedkłada się Parlamentowi Europejskiemu i Radzie i podaje do wiadomości publicznej. 7. Do dnia 2 sierpnia 2028 r., a następnie co trzy lata Komisja ocenia wpływ i skuteczność dobrowolnych kodeksów postępowania mających na celu propagowanie wymogów ustanowionych w rozdziale III sekcja 2 w odniesieniu do systemów AI innych niż systemy AI wysokiego ryzyka oraz ewentualnie innych dodatkowych wymogów dotyczących systemów AI, w tym w zakresie zrównoważenia środowiskowego. 8. Do celów ust. 1-7 Rada ds. AI, państwa członkowskie i właściwe organy krajowe przekazują Komisji informacje na jej wniosek i bez zbędnej zwłoki. 9. Dokonując ocen i przeglądów, o których mowa w ust. 1-7, Komisja uwzględnia stanowiska i ustalenia Rady ds. AI, Parlamentu Europejskiego, Rady oraz innych stosownych podmiotów lub źródeł. 10. W razie potrzeby Komisja przedkłada odpowiednie wnioski dotyczące zmiany niniejszego rozporządzenia, uwzględniając w szczególności rozwój technologii, wpływ systemów AI na zdrowie i bezpieczeństwo oraz na prawa podstawowe, oraz postępy dokonane w społeczeństwie informacyjnym. 11. W celu ukierunkowania ocen i przeglądów, o których mowa w ust. 1-7 niniejszego artykułu, Urząd ds. AI opracowuje obiektywną i partycypacyjną metodykę oceny poziomów ryzyka w oparciu o kryteria określone w odpowiednich artykułach i włączania nowych systemów do: a) wykazu określonego w załączniku III, łącznie z rozszerzeniem istniejących nagłówków dotyczących obszarów lub dodaniem nowych nagłówków dotyczących obszarów w tym załączniku; b) określonego w art. 5 wykazu zakazanych praktyk; oraz c) wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości zgodnie z art. 50. 12. Wszelkie zmiany niniejszego rozporządzenia zgodnie z ust. 10 lub odpowiednie akty delegowane i wykonawcze, które dotyczą unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja B, uwzględniają specyfikę regulacyjną każdego sektora oraz istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania, jak również działalność organów ustanowionych dla danego sektora. 13. Do dnia 2 sierpnia 2031 r. Komisja przeprowadza ocenę egzekwowania niniejszego rozporządzenia i przedkłada sprawozdanie z tej oceny Parlamentowi Europejskiemu, Radzie i Europejskiemu Komitetowi Ekonomiczno-Społecznemu, uwzględniając pierwsze lata stosowania niniejszego rozporządzenia. Na podstawie dokonanych ustaleń do sprawozdania tego dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia w odniesieniu do struktury egzekwowania przepisów i potrzeby usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Art. 113 Wejście w życie i rozpoczęcie stosowania Niniejsze rozporządzenie wchodzi w życie dwudziestego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej. Niniejsze rozporządzenie stosuje się od dnia 2 sierpnia 2026 r. Jednakże: a) rozdziały I i II stosuje się od dnia 2 lutego 2025 r.; b) rozdział III sekcja 4, rozdział V, rozdział VII i rozdział XII oraz art. 78 stosuje się od dnia 2 sierpnia 2025 r., z wyjątkiem art. 101; c) art. 6 ust. 1 i odpowiadające mu obowiązki ustanowione w niniejszym rozporządzeniu stosuje się od dnia 2 sierpnia 2027 r. Niniejsze rozporządzenie wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich. N Przepis stosowany wprost nie wymaga wdrożenia Sporządzono w Brukseli dnia 13 czerwca 2024 r. Załączni k I Wykaz unijnego prawodawstwa harmonizacyjnego Sekcja A. Wykaz unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych 1.Dyrektywa 2006/42/WE Parlamentu Europejskiego i Rady z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (Dz.U. L 157 z 9.6.2006, s. 24); 2.Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1); 3.Dyrektywa Parlamentu Europejskiego i Rady 2013/53/UE z dnia 20 listopada 2013 r. w sprawie rekreacyjnych jednostek pływających i skuterów wodnych i uchylająca dyrektywę 94/25/WE (Dz.U. L 354 z 28.12.2013, s. 90); 4.Dyrektywa Parlamentu Europejskiego i Rady 2014/33/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących dźwigów i elementów bezpieczeństwa do dźwigów (Dz.U. L 96 z 29.3.2014, s. 251); 5.Dyrektywa Parlamentu Europejskiego i Rady 2014/34/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do urządzeń i systemów ochronnych N Przepis stosowany wprost nie wymaga wdrożenia przeznaczonych do użytku w atmosferze potencjalnie wybuchowej (Dz.U. L 96 z 29.3.2014, s. 309); 6.Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62); 7.Dyrektywa Parlamentu Europejskiego i Rady 2014/68/UE z dnia 15 maja 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do udostępniania na rynku urządzeń ciśnieniowych (Dz. U. L 189 z 27.6.2014, s. 164); 8.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/424 z dnia 9 marca 2016 r. w sprawie urządzeń kolei linowych i uchylenia dyrektywy 2000/9/WE (Dz.U. L 81 z 31.3.2016, s. 1); 9.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/425 z dnia 9 marca 2016 r. w sprawie środków ochrony indywidualnej oraz uchylenia dyrektywy Rady 89/686/EWG (Dz.U. L 81 z 31.3.2016, s. 51); 10.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/426 z dnia 9 marca 2016 r. w sprawie urządzeń spalających paliwa gazowe oraz uchylenia dyrektywy 2009/142/WE (Dz.U. L 81 z 31.3.2016, s. 99); 11.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG (Dz.U. L 117 z 5.5.2017, s. 1); 12.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE (Dz. U. L 117 z 5.5.2017, s. 176). Sekcja B. Wykaz innego unijnego prawodawstwa harmonizacyjnego 13.Rozporządzenie Parlamentu Europejskiego i Rady (WE) nr 300/2008 z dnia 11 marca 2008 r. w sprawie wspólnych zasad w dziedzinie ochrony lotnictwa cywilnego i uchylające rozporządzenie (WE) nr 2320/2002 (Dz.U. L 97 z 9.4.2008, s. 72); 14.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 168/2013 z dnia 15 stycznia 2013 r. w sprawie homologacji i nadzoru rynku pojazdów dwu- lub trzykołowych oraz czterokołowców (Dz.U. L 60 z 2.3.2013, s. 52); 15.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 167/2013 z dnia 5 lutego 2013 r. w sprawie homologacji i nadzoru rynku pojazdów rolniczych i leśnych (Dz.U. L 60 z 2.3.2013, s. 1); 16.Dyrektywa Parlamentu Europejskiego i Rady 2014/90/UE z dnia 23 lipca 2014 r. w sprawie wyposażenia morskiego i uchylająca dyrektywę Rady 96/98/WE (Dz.U. L 257 z 28.8.2014, s. 146); 17.Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/797 z dnia 11 maja 2016 r. w sprawie interoperacyjności systemu kolei w Unii Europejskiej (Dz.U. L 138 z 26.5.2016, s. 44); 18.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 z dnia 30 maja 2018 r. w sprawie homologacji i nadzoru rynku pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, zmieniające rozporządzenie (WE) nr 715/2007 i (WE) nr 595/2009 oraz uchylające dyrektywę 2007/46/WE (Dz.U. L 151 z 14.6.2018, s. 1); 19.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/2144 z dnia 27 listopada 2019 r. w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, zmieniające rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 oraz uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 78/2009, (WE) nr 79/2009 i (WE) nr 661/2009 oraz rozporządzenia Komisji (WE) nr 631/2009, (UE) nr 406/2010, (UE) nr 672/2010, (UE) nr 1003/2010, (UE) nr 1005/2010, (UE) nr 1008/2010, (UE) nr 1009/2010, (UE) nr 19/2011, (UE) nr 109/2011, (UE) nr 458/2011, (UE) nr 65/2012, (UE) nr 130/2012, (UE) nr 347/2012, (UE) nr 351/2012, (UE) nr 1230/2012 i (UE) 2015/166 (Dz.U. L 325 z 16.12.2019, s. 1); 20.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1139 z dnia 4 lipca 2018 r. w sprawie wspólnych zasad w dziedzinie lotnictwa cywilnego i utworzenia Agencji Unii Europejskiej ds. Bezpieczeństwa Lotniczego oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 2111/2005, (WE) nr 1008/2008, (UE) nr 996/2010, (UE) nr 376/2014 i dyrektywy Parlamentu Europejskiego i Rady 2014/30/UE i 2014/53/UE, a także uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 552/2004 i (WE) nr 216/2008 i rozporządzenie Rady (EWG) nr 3922/91 (Dz.U. L 212 z 22.8.2018, s. 1) w zakresie projektowania, produkcji i wprowadzania do obrotu statków powietrznych, o których mowa w art. 2 ust. 1 lit. a) i b), w odniesieniu do bezzałogowych statków powietrznych oraz ich silników, śmigieł, części i wyposażenia do zdalnego sterowania statkami powietrznymi. Załączni k II Wykaz przestępstw, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii) Przestępstwa, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii): –terroryzm, N Załącznik stosowany wprost nie wymaga wdrożenia –handel ludźmi, – wykorzystywanie seksualne dzieci i pornografia dziecięca, – nielegalny obrót środkami odurzającymi lub substancjami psychotropowymi, – nielegalny handel bronią, amunicją lub materiałami wybuchowymi, – zabójstwo, ciężkie uszkodzenie ciała, – nielegalny obrót organami lub tkankami ludzkimi, – nielegalny handel materiałami jądrowymi lub promieniotwórczymi, – uprowadzenie, bezprawne przetrzymywanie lub wzięcie zakładników, – przestępstwa podlegające jurysdykcji Międzynarodowego Trybunału Karnego, – bezprawne zawładnięcie statkiem powietrznym lub statkiem, – zgwałcenie, – przestępstwo przeciw środowisku, – rozbój w formie zorganizowanej lub rozbój przy użyciu broni, – sabotaż, – udział w organizacji przestępczej uczestniczącej w co najmniej jednym z wyżej wymienionych przestępstw. Załączni k III Systemy AI wysokiego ryzyka, o których mowa w art. 6 ust. 2 Systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 2 to systemy AI wymienione w którymkolwiek z poniższych obszarów: 1. Biometria, w zakresie, w jakim jej stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy zdalnej identyfikacji biometrycznej. Nie obejmuje to systemów AI przeznaczonych do wykorzystania przy weryfikacji biometrycznej, której jedynym celem jest potwierdzenie, że określona osoba fizyczna jest osobą, za którą się podaje; b) systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech; c) systemy AI przeznaczone do wykorzystania przy rozpoznawaniu emocji. 2. Infrastruktura krytyczna: systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną. N Załącznik stosowany wprost nie wymaga wdrożenia 3. Kształcenie i szkolenie zawodowe: a) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji o dostępie lub przyjęciu do instytucji edukacyjnych i instytucji szkolenia zawodowego lub przydzielania osób do tych instytucji na wszystkich poziomach; b) systemy AI przeznaczone do wykorzystywania do celów oceny efektów uczenia się, także w przypadku, gdy efekty te są wykorzystywane do kierowania procesem uczenia się osób fizycznych w instytucjach edukacyjnych i instytucjach szkolenia zawodowego na wszystkich poziomach; c) systemy AI przeznaczone do wykorzystywania do celów oceny odpowiedniego poziomu wykształcenia, jaki dana osoba otrzyma lub do jakiego będzie mogła mieć dostęp w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach; d) systemy AI przeznaczone do wykorzystywania do celów monitorowania i wykrywania niedozwolonego zachowania uczniów podczas testów w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach. 4. Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia: a) systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów; b) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach. 5. Dostęp do podstawowych usług prywatnych oraz podstawowych usług i świadczeń publicznych, a także korzystanie z nich: a) systemy AI przeznaczone do wykorzystywania przez organy publiczne lub w imieniu organów publicznych w celu oceny kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych, w tym opieki zdrowotnej, jak również w celu przyznawania, ograniczania, odwoływania lub żądania zwrotu takich świadczeń i usług; b) systemy AI przeznaczone do wykorzystywania do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; c) systemy AI przeznaczone do wykorzystywania przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego; d) systemy AI przeznaczone do oceny i klasyfikacji zgłoszeń alarmowych dokonywanych przez osoby fizyczne lub do wykorzystywania w celu wysyłania lub ustalania priorytetów w wysyłaniu służb pierwszej pomocy, w tym policji, straży pożarnej i pomocy medycznej, a także w ramach systemów oceny stanu zdrowia pacjentów w nagłych wypadkach. 6. Ściganie przestępstw, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania lub w ich imieniu do oceny ryzyka, że osoba fizyczna stanie się ofiarą przestępstwa; b) systemy AI przeznaczone do wykorzystywania jako wariografy lub podobne narzędzia przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania; c) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny wiarygodności dowodów w toku ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie; d) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny ryzyka, że osoba fizyczna popełni lub ponownie popełni przestępstwo, przeprowadzanej nie tylko na podstawie profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, lub do oceny cech osobowości i charakteru lub uprzedniego zachowania przestępczego osób fizycznych lub grup; e) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, w toku wykrywania i ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie. 7. Zarządzanie migracją, azylem i kontrolą graniczną, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii jako wariografy lub podobne narzędzia; b) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów oceny ryzyka, w tym ryzyka dla bezpieczeństwa, ryzyka migracji nieuregulowanej lub ryzyka dla zdrowia, stwarzanych przez osobę fizyczną, która zamierza wjechać lub wjechała na terytorium państwa członkowskiego; c) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów wspierania właściwych organów publicznych przy rozpatrywaniu wniosków o udzielenie azylu, o wydanie wizy lub dokumentów pobytowych oraz związanych z nimi skarg w odniesieniu do kwalifikowalności osób fizycznych ubiegających się o przyznanie określonego statusu, w tym przy powiązanej ocenie wiarygodności dowodów; d) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w kontekście zarządzania migracją, azylem i kontrolą graniczną, do celów wykrywania, rozpoznawania lub identyfikacji osób fizycznych, z wyjątkiem weryfikacji dokumentów podróży. 8. Sprawowanie wymiaru sprawiedliwości i procesy demokratyczne: a) systemy AI przeznaczone do wykorzystywania przez organ wymiaru sprawiedliwości lub w jego imieniu w celu wspomagania organu wymiaru sprawiedliwości w badaniu i interpretacji stanu faktycznego i przepisów prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego lub do wykorzystywania w podobny sposób w alternatywnych metodach rozwiązywania sporów; b) systemy AI przeznaczone do wykorzystywania w celu wywierania wpływu na wynik wyborów lub referendum lub na zachowanie osób fizycznych podczas głosowania w wyborach lub referendach. Nie obejmuje to systemów AI, na których wyniki osoby fizyczne nie są bezpośrednio narażone, takich jak narzędzia wykorzystywane do organizowania, optymalizacji lub strukturyzowania kampanii politycznych z administracyjnego lub logistycznego punktu widzenia. Załączni k IV Dokumentacja techniczna, o której mowa w art. 11 ust. 1 Dokumentacja techniczna, o której mowa w art. 11 ust. 1, zawiera, stosownie do przypadku, co najmniej następujące informacje właściwe dla danego systemu AI: 1. Ogólny opis systemu AI, w tym: a) jego przeznaczenie, imię i nazwisko lub nazwę dostawcy i wersję systemu wraz z informacją dotyczącą jej związku z poprzednimi wersjami; b) sposób, w jaki system AI, w stosownych przypadkach, współdziała lub może być wykorzystany do współdziałania ze sprzętem lub oprogramowaniem, w tym z innymi systemami AI, które nie są częścią samego systemu AI; N Załącznik stosowany wprost nie wymaga wdrożenia c) wersje odpowiedniego oprogramowania lub oprogramowania układowego oraz wszelkie wymogi związane z aktualizacjami wersji; d) opis wszystkich postaci, w jakich system AI wprowadza się do obrotu lub oddaje do użytku, takie jak pakiety oprogramowania wbudowane w urządzenie, oprogramowanie do pobrania lub API; e) opis sprzętu, na którym system AI ma być eksploatowany; f) w przypadku, gdy system A jest elementem produktów - zdjęcia lub ilustracje przedstawiające cechy zewnętrzne, oznakowanie i układ wewnętrzny tych produktów; g) podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; h) instrukcja obsługi dla podmiotu stosującego oraz w stosownych przypadkach, podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; 2. Szczegółowy opis elementów systemu AI oraz procesu jego rozwoju, w tym: a) metody i działania zastosowane w celu rozwoju systemu AI, w tym, w stosownych przypadkach, skorzystanie z systemów, które zostały poddane pretreningowi, lub narzędzi dostarczonych przez osoby trzecie oraz wskazanie, w jaki sposób dostawca wykorzystał, zintegrował lub zmienił te systemy lub narzędzia; b) specyfikacje projektowe systemu, a mianowicie ogólna logika systemu AI i algorytmów; kluczowe decyzje projektowe wraz z uzasadnieniem i przyjętymi założeniami, w tym w odniesieniu do osób lub grup osób, wobec których system ma być wykorzystywany; główne wybory klasyfikacyjne; wskazanie, pod kątem czego system ma być optymalizowany, i znaczenie poszczególnych parametrów; opis oczekiwanego wyniku systemu oraz jakości tego wyniku; decyzje dotyczące wszelkich możliwych kompromisów w zakresie rozwiązań technicznych przyjętych w celu zapewnienia zgodności z wymogami określonymi w rozdziale III sekcja 2; c) opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie; zasoby obliczeniowe wykorzystywane do rozwoju, trenowania, testowania i walidacji systemu AI; d) w stosownych przypadkach wymogi dotyczące danych w zakresie arkuszy danych opisujących metodyki i techniki trenowania systemu oraz wykorzystywane zbiory danych treningowych, w tym ogólny opis tych zbiorów danych, informacje o ich pochodzeniu, ich zakresie i głównych cechach; sposób uzyskania i wyboru danych; procedury etykietowania (np. w przypadku uczenia nadzorowanego), metody oczyszczania danych (np. wykrywanie wartości oddalonych); e) ocenę środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym ocenę środków technicznych potrzebnych do ułatwienia podmiotom stosującym interpretacji wyników systemów AI, zgodnie z art. 13 ust. 3 lit. d); f) w stosownych przypadkach szczegółowy opis z góry zaplanowanych zmian w systemie AI i jego skuteczności działania wraz ze wszystkimi istotnymi informacjami dotyczącymi rozwiązań technicznych przyjętych w celu zapewnienia ciągłej zgodności systemu AI z odpowiednimi wymogami określonymi w rozdziale III sekcja 2; g) zastosowane procedury walidacji i testowania, w tym informacje o wykorzystywanych danych walidacyjnych i danych testowych oraz ich głównych cechach; wskaźniki stosowane do pomiaru dokładności, solidności i zgodności z innymi stosownymi wymogami określonymi w rozdziale III sekcja 2, jak również skutków potencjalnie dyskryminujących; rejestry zdarzeń generowane podczas testów i wszystkie sprawozdania z testów opatrzone datą i podpisane przez osoby odpowiedzialne, w tym w odniesieniu do z góry zaplanowanych zmian, o których mowa w lit. f); h) wdrożone środki w zakresie cyberbezpieczeństwa; 3. Szczegółowe informacje dotyczące monitorowania, funkcjonowania i kontroli systemu AI, w szczególności w odniesieniu do: jego możliwości i ograniczeń w zakresie skuteczności działania, w tym stopnie dokładności w przypadku określonych osób lub grup osób, wobec których system ma być wykorzystywany, oraz ogólny spodziewany poziom dokładności w stosunku do jego przeznaczenia; możliwych do przewidzenia niezamierzonych wyników i źródeł ryzyka dla zdrowia i bezpieczeństwa, praw podstawowych i ryzyka powodującego dyskryminację w świetle przeznaczenia systemu AI; środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym środków technicznych wprowadzonych w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI; w stosownych przypadkach specyfikacji dotyczących danych wejściowych; 4. Opis adekwatności wskaźników skuteczności działania w odniesieniu do konkretnego systemu AI; 5. Szczegółowy opis systemu zarządzania ryzykiem zgodnie z art. 9; 6. Opis odpowiednich zmian dokonanych przez dostawcę w systemie w czasie cyklu jego życia; 7. Wykaz norm zharmonizowanych stosowanych w całości lub w części, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej; w przypadku, gdy nie zastosowano takich norm zharmonizowanych, szczegółowy opis rozwiązań przyjętych w celu spełnienia wymogów określonych w rozdziale III sekcja 2, w tym wykaz innych odpowiednich zastosowanych norm i specyfikacji technicznych; 8. Kopię deklaracji zgodności UE, o której mowa w art. 47; 9. Szczegółowy opis systemu stosowanego do oceny skuteczności działania systemu AI po wprowadzeniu do obrotu zgodnie z art. 72, w tym plan monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72 ust. 3. Załączni k V Deklaracja zgodności UE Deklaracja zgodności UE, o której mowa w art. 47, zawiera wszystkie następujące informacje: 1. Nazwę i rodzaj systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 2. Imię i nazwisko lub nazwę oraz adres dostawcy lub w stosownych przypadkach, jego upoważnionego przedstawiciela; 3. Oświadczenie, że deklarację zgodności UE, o której mowa w art. 47, wydano na wyłączną odpowiedzialność dostawcy; 4. Oświadczenie, że system AI jest zgodny z niniejszym rozporządzeniem oraz w stosownych przypadkach, z wszelkimi innymi odpowiednimi przepisami prawa Unii, w których przewidziano wydanie deklaracji zgodności UE, o której mowa w art. 47; 5. W przypadku, gdy system AI wiąże się z przetwarzaniem danych osobowych, oświadczenie, że system AI jest zgodny z rozporządzeniami (UE) N Załącznik stosowany wprost nie wymaga wdrożenia 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680; 6. Odniesienia do wszelkich zastosowanych odpowiednich norm zharmonizowanych lub wszelkich innych wspólnych specyfikacji, z którymi deklaruje się zgodność; 7. W stosownych przypadkach nazwę i numer identyfikacyjny jednostki notyfikowanej, opis przeprowadzonej procedury oceny zgodności oraz dane identyfikacyjne wydanego certyfikatu; 8. Miejsce i datę wystawienia deklaracji, imię i nazwisko oraz stanowisko osoby, która złożyła podpis pod dokumentem, oraz wskazanie, z czyjego upoważnienia lub w czyim imieniu ta osoba podpisała dokument, oraz podpis. Załączni k VI Procedura oceny zgodności opierająca się na kontroli wewnętrznej 1. Procedura oceny zgodności opierająca się na kontroli wewnętrznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2, 3 i 4. 2. Dostawca sprawdza, czy ustanowiony system zarządzania jakością jest zgodny z wymogami art. 17. 3. Dostawca analizuje informacje zawarte w dokumentacji technicznej, aby ocenić zgodność systemu AI z odpowiednimi zasadniczymi wymogami określonymi w rozdziale III sekcja 2. N Załącznik stosowany wprost nie wymaga wdrożenia 4. Dostawca sprawdza również, czy proces projektowania i rozwoju systemu AI oraz proces jego monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72, są zgodne z dokumentacją techniczną. Załączni k VII Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej 1. Wprowadzenie Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2-5. 2. Informacje ogólne Zatwierdzony system zarządzania jakością w zakresie projektowania, rozwoju i testowania systemów AI zgodnie z art. 17 ocenia się zgodnie z pkt 3 i poddaje nadzorowi zgodnie z pkt 5. Dokumentację techniczną systemu AI ocenia się zgodnie z pkt 4. 3. System zarządzania jakością 3.1. Wniosek dostawcy zawiera: a) imię i nazwisko lub nazwę i adres dostawcy oraz, jeśli wniosek jest składany przez upoważnionego przedstawiciela, również jego imię i nazwisko lub nazwę i adres; b) wykaz systemów AI objętych tym samym systemem zarządzania jakością; N Załącznik stosowany wprost nie wymaga wdrożenia c) dokumentację techniczną każdego systemu AI objętego tym samym systemem zarządzania jakością; d) dokumentację dotyczącą systemu zarządzania jakością, która obejmuje wszystkie aspekty wymienione w art. 17; e) opis wprowadzonych procedur zapewniających stałą adekwatność i skuteczność systemu zarządzania jakością; f) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej. 3.2. System zarządzania jakością jest oceniany przez jednostkę notyfikowaną, która ustala czy spełnia on wymogi, o których mowa w art. 17. O decyzji powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny systemu zarządzania jakością oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 3.3. Zatwierdzony system zarządzania jakością jest dalej wdrażany i utrzymywany przez dostawcę, tak aby mógł zachować adekwatność i skuteczność. 3.4. Dostawca powiadamia jednostkę notyfikowaną o wszelkich zamierzonych zmianach w zatwierdzonym systemie zarządzania jakością lub w wykazie systemów AI objętych tym systemem. Proponowane zmiany podlegają weryfikacji przeprowadzanej przez jednostkę notyfikowaną, która stwierdza, czy zmieniony system zarządzania jakością nadal spełnia wymogi, o których mowa w pkt 3.2, czy też konieczna jest jego ponowna ocena. Jednostka notyfikowana powiadamia dostawcę o swojej decyzji. Takie powiadomienie zawiera wnioski z weryfikacji zmian oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 4. Kontrola dokumentacji technicznej 4.1. Oprócz wniosku, o którym mowa w pkt 3, dostawca składa wniosek do wybranej przez siebie jednostki notyfikowanej o przeprowadzenie oceny dokumentacji technicznej dotyczącej systemu AI, który dostawca zamierza wprowadzić do obrotu lub oddać do użytku i który jest objęty systemem zarządzania jakością, o którym mowa w pkt 3. 4.2. Wniosek zawiera: a) imię i nazwisko lub nazwę i adres dostawcy; b) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej; c) dokumentację techniczną, o której mowa w załączniku IV. 4.3. Analizy dokumentacji technicznej dokonuje jednostka notyfikowana. W stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania zadań jednostki notyfikowanej, otrzymuje ona pełny dostęp do wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 4.4. Analizując dokumentację techniczną, jednostka notyfikowana może zwrócić się do dostawcy o przedstawienie dalszych dowodów lub przeprowadzenie dalszych testów w celu umożliwienia właściwej oceny zgodności systemu AI z wymogami określonymi w rozdziale III sekcja 2. W przypadku gdy jednostka notyfikowana nie jest usatysfakcjonowana testami przeprowadzonymi przez dostawcę, przeprowadza sama bezpośrednio, stosownie do okoliczności, odpowiednie testy. 4.5. W przypadku gdy jest to konieczne do oceny zgodności systemu AI wysokiego ryzyka z wymogami określonymi w rozdziale III sekcja 2, po wyczerpaniu wszystkich innych racjonalnych sposobów weryfikacji zgodności, które okazały się niewystarczające, jednostka notyfikowana uzyskuje - na uzasadniony wniosek - również dostęp do modeli treningowych i trenowanych systemu AI, w tym do odpowiednich jego parametrów. Taki dostęp podlega obowiązującym przepisom prawa Unii dotyczącym własności intelektualnej i tajemnic przedsiębiorstwa. 4.6. O decyzji jednostki notyfikowanej powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny dokumentacji produktu oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. W przypadku gdy system AI spełnia wymogi określone w rozdziale III sekcja 2, jednostka notyfikowana wydaje unijny certyfikat oceny dokumentacji technicznej. Certyfikat ten zawiera imię i nazwisko lub nazwę oraz adres dostawcy, wnioski z oceny, (ewentualne) warunki jego ważności oraz dane niezbędne do identyfikacji systemu AI. Certyfikat wraz z załącznikami musi zawierać wszystkie istotne informacje umożliwiające ocenę zgodności systemu AI oraz w stosownych przypadkach, kontrolę systemu AI podczas jego wykorzystywania. W przypadku gdy system AI nie spełnia wymogów określonych w rozdziale III sekcja 2, jednostka notyfikowana odmawia wydania unijnego certyfikatu oceny dokumentacji technicznej i informuje o tym wnioskodawcę, podając szczegółowe uzasadnienie odmowy. W przypadku gdy system AI nie spełnia wymogu dotyczącego danych wykorzystywanych do jego trenowania, przed złożeniem wniosku o nową ocenę zgodności system AI należy poddać retrenowaniu. W takim przypadku decyzja jednostki notyfikowanej o odmowie wydania unijnego certyfikatu oceny dokumentacji technicznej wraz z uzasadnieniem zawiera szczegółowe uwagi na temat jakości danych wykorzystanych do treningu systemu AI, w szczególności na temat przyczyn niezgodności. 4.7. Wszelkie zmiany w systemie AI, które mogłyby wpłynąć na zgodność systemu AI z wymogami lub jego przeznaczeniem, podlegają ocenie przez jednostkę notyfikowaną, która wydała unijny certyfikat oceny dokumentacji technicznej. Dostawca informuje taką jednostkę notyfikowaną, jeżeli zamierza wprowadzić wyżej wymienione zmiany lub jeżeli w inny sposób dowiedział się o ich zaistnieniu. Zamierzone zmiany ocenia jednostka notyfikowana, która decyduje, czy zmiany te wymagają przeprowadzenia nowej oceny zgodności zgodnie z art. 43 ust. 4, czy też można je uwzględnić w formie uzupełnienia unijnego certyfikatu oceny dokumentacji technicznej. W tym ostatnim przypadku jednostka notyfikowana ocenia zmiany, powiadamia dostawcę o swojej decyzji i, w przypadku zatwierdzenia zmian, wydaje dostawcy uzupełnienie unijnego certyfikatu oceny dokumentacji technicznej. 5. Nadzór nad zatwierdzonym systemem zarządzania jakością 5.1. Celem nadzoru sprawowanego przez jednostkę notyfikowaną, o której mowa w pkt 3, jest zapewnienie, aby dostawca należycie wywiązywał się z warunków, jakimi obwarowano zatwierdzony system zarządzania jakością. 5.2. Do celów oceny dostawca umożliwia jednostce notyfikowanej dostęp do pomieszczeń, w których odbywa się projektowanie, rozwój i testowanie systemów AI. Dostawca udostępnia ponadto jednostce notyfikowanej wszystkie niezbędne informacje. 5.3. Jednostka notyfikowana przeprowadza okresowe audyty, aby upewnić się, że dostawca utrzymuje i stosuje system zarządzania jakością, oraz przedstawia dostawcy sprawozdanie z audytu. W ramach tych audytów jednostka notyfikowana może przeprowadzać dodatkowe testy systemów AI, w odniesieniu do których wydano unijny certyfikat oceny dokumentacji technicznej. Załączni k VIII Informacje przekazywane przy rejestracji systemów AI wysokiego ryzyka zgodnie z art. 49 Sekcja A Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 1 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 1, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, /imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI oraz elementów i funkcji wspieranych przez ten system AI; N Załącznik stosowany wprost nie wymaga wdrożenia 6. Podstawowy i zwięzły opis informacji wykorzystywanych przez system (dane, dane wejściowe) oraz logika jego działania; 7. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 8. Rodzaj, numer i datę ważności certyfikatu wydanego przez jednostkę notyfikowaną oraz w stosownych przypadkach nazwę lub numer identyfikacyjny tej jednostki notyfikowanej; 9. W stosownych przypadkach skan certyfikatu, o którym mowa w pkt 8; 10. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii; 11. Kopia deklaracji zgodności UE, o której mowa w art. 47; 12. Elektroniczna instrukcja obsługi; informacji tych nie podaje się w przypadku systemów AI wysokiego ryzyka w obszarach ścigania przestępstw lub zarządzania migracją, azylem lub kontrolą graniczną, o których mowa w załączniku III pkt 1, 6 i 7; 13. Adres URL odsyłający do dodatkowych informacji (opcjonalnie). Sekcja B Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 2 W odniesieniu do systemów AI, które podlegają rejestracji zgodnie z art. 49 ust. 2, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI; 6. Warunek lub warunki określone w art. 6 ust. 3, na podstawie których system AI jest uznawany za niebędący systemem wysokiego ryzyka; 7. Krótkie streszczenie powodów, dla których system AI jest uznawany za niebędący systemem wysokiego ryzyka w wyniku zastosowania procedury na podstawie art. 6 ust. 3; 8. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 9. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii. Sekcja C Informacje przekazywane przez podmioty stosujące systemy AI wysokiego ryzyka zgodnie z art. 49 ust. 3 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 3, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe podmiotu stosującego AI; 2. Imię i nazwisko lub nazwa, adres i dane kontaktowe osoby przekazującej informacje w imieniu podmiotu stosującego; 3. Adres URL wpisu systemu AI do bazy danych UE dokonanego przez jego dostawcę; 4. Streszczenie ustaleń oceny skutków dla praw podstawowych przeprowadzonej zgodnie z art. 27; 5. W stosownych przypadkach streszczenie oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, jak określono w art. 26 ust. 8 niniejszego rozporządzenia. Załączni k IX Informacje przedkładane przy rejestracji systemów AI wysokiego ryzyka wymienionych w załączniku III w odniesieniu do testów w warunkach rzeczywistych zgodnie z art. 60 W odniesieniu do testów w warunkach rzeczywistych, które podlegają rejestracji zgodnie z art. 60, przekazuje się, a następnie aktualizuje następujące informacje: 1. Ogólnounijny niepowtarzalny numer identyfikacyjny testów w warunkach rzeczywistych; 2. Imię i nazwisko lub nazwę oraz dane kontaktowe dostawcy lub potencjalnego dostawcy i podmiotów stosujących uczestniczących w testach w warunkach rzeczywistych; 3. Krótki opis systemu AI, jego przeznaczenie oraz inne informacje niezbędne do identyfikacji systemu; 4. Streszczenie głównych założeń planu testów w warunkach rzeczywistych; 5. Informacje o zawieszeniu lub zakończeniu testów w warunkach rzeczywistych. N Załącznik stosowany wprost nie wymaga wdrożenia Załączni k X Akty prawne Unii dotyczące wielkoskalowych systemów informatycznych w przestrzeni wolności, bezpieczeństwa i sprawiedliwości 1. System Informacyjny Schengen: N Załącznik stosowany wprost nie wymaga wdrożenia a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1860 z dnia 28 listopada 2018 r. w sprawie użytkowania Systemu Informacyjnego Schengen do celów powrotu nielegalnie przebywających obywateli państw trzecich (Dz.U. L 312 z 7.12.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1861 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie odpraw granicznych, zmiany konwencji wykonawczej do układu z Schengen oraz zmiany i uchylenia rozporządzenia (WE) nr 1987/2006 (Dz.U. L 312 z 7.12.2018, s. 14); c)rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1862 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie współpracy policyjnej i współpracy wymiarów sprawiedliwości w sprawach karnych, zmiany i uchylenia decyzji Rady 2007/533/WSiSW oraz uchylenia rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 1986/2006 i decyzji Komisji 2010/261/UE (Dz.U. L 312 z 7.12.2018, s. 56). 2. Wizowy system informacyjny: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1133 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń (UE) nr 603/2013, (UE) 2016/794, (UE) 2018/1862, (UE) 2019/816 i (UE) 2019/818 w odniesieniu do ustanowienia warunków dostępu do innych systemów informacyjnych UE do celów Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 1). b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1134 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (WE) nr 767/2008, (WE) nr 810/2009, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1860, (UE) 2018/1861, (UE) 2019/817 i (UE) 2019/1896 oraz uchylenia decyzji Rady 2004/512/WE i (WE) nr 2008/633/WSiSW w celu zreformowania Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 11). 3. Eurodac: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1358 z dnia 14 maja 2024 r. w sprawie ustanowienia systemu Eurodac do porównywania danych biometrycznych w celu skutecznego stosowania rozporządzeń Parlamentu Europejskiego i Rady (UE) 2024/1315 i (UE) 2024/1350 i dyrektywy Rady 2001/55/WE oraz w celu identyfikowania nielegalnie przebywających obywateli państw trzecich oraz bezpaństwowców, w sprawie występowania z wnioskami o porównanie z danymi Eurodac przez organy ścigania państw członkowskich i Europol na potrzeby ochrony porządku publicznego, w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (UE) 2018/1240 i (UE) 2019/818 oraz w sprawie uchylenia rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 603/2013 (Dz.U. L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj). 4. System wjazdu/wyjazdu: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/2226 z dnia 30 listopada 2017 r. ustanawiające system wjazdu/wyjazdu (EES) w celu rejestrowania danych dotyczących wjazdu i wyjazdu obywateli państw trzecich przekraczających granice zewnętrzne państw członkowskich i danych dotyczących odmowy wjazdu w odniesieniu do takich obywateli oraz określające warunki dostępu do EES na potrzeby ochrony porządku publicznego i zmieniające konwencję wykonawczą do układu z Schengen i rozporządzenia (WE) nr 767/2008 i (UE) nr 1077/2011 (Dz.U. L 327 z 9.12.2017, s. 20). 5. Europejski system informacji o podróży oraz zezwoleń na podróż: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1240 z dnia 12 września 2018 r. ustanawiające europejski system informacji o podróży oraz zezwoleń na podróż (ETIAS) i zmieniające rozporządzenia (UE) nr 1077/2011, (UE) nr 515/2014, (UE) 2016/399, (UE) 2016/1624 i (UE) 2017/2226 (Dz.U. L 236 z 19.9.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1241 z dnia 12 września 2018 r. zmieniające rozporządzenie (UE) 2016/794 w celu ustanowienia europejskiego systemu informacji o podróży oraz zezwoleń na podróż (ETIAS) (Dz.U. L 236 z 19.9.2018, s. 72). 6. Europejski system przekazywania informacji z rejestrów karnych dotyczących obywateli państw trzecich i bezpaństwowców: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/816 z dnia 17 kwietnia 2019 r. ustanawiające scentralizowany system służący do ustalania państw członkowskich posiadających informacje o wyrokach skazujących wydanych wobec obywateli państw trzecich i bezpaństwowców (ECRIS-TCN) na potrzeby uzupełnienia europejskiego systemu przekazywania informacji z rejestrów karnych oraz zmieniające rozporządzenie (UE) 2018/1726 (Dz.U. L 135 z 22.5.2019, s. 1). 7. Interoperacyjność: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/817 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze granic i polityki wizowej oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 767/2008, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1726, (UE) 2018/1861 oraz decyzje Rady 2004/512/WE i 2008/633/WSiSW (Dz. U. L 135 z 22.5.2019, s. 27); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/818 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze współpracy policyjnej i sądowej, azylu i migracji oraz zmieniające rozporządzenia (UE) 2018/1726, (UE) 2018/1862 i (UE) 2019/816 (Dz.U. L 135 z 22.5.2019, s. 85). Załączni k XI Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a) - dokumentacja techniczna dla dostawców modeli AI ogólnego przeznaczenia Sekcja 1 Informacje przekazywane przez wszystkich dostawców modeli AI ogólnego przeznaczenia Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a), zawiera co najmniej następujące informacje stosownie do rozmiaru danego systemu AI oraz jego profilu ryzyka: 1. Ogólny opis modelu AI ogólnego przeznaczenia, w tym: a) zadania, które dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) architektura i liczba parametrów; e) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; N Załącznik stosowany wprost nie wymaga wdrożenia f) licencja. 2. Szczegółowy opis elementów modelu, o których mowa w pkt 1, oraz stosowne informacje na temat procesu rozwoju, z uwzględnieniem następujących elementów: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) specyfikacje projektu danego modelu i proces treningowy, w tym metody i techniki treningowe, kluczowe wybory projektowe wraz z uzasadnieniem i przyjętymi założeniami; wskazanie, pod kątem czego model ma być optymalizowany, i znaczenie poszczególnych parametrów, w stosownych przypadkach; c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metody porządkowania (np. czyszczenie, filtrowanie, itp.), liczby punktów danych, ich zakresu i głównych właściwości; w jaki sposób dane zostały uzyskane i wyselekcjonowane, a także wszystkie inne środki służące wykryciu nieodpowiednich źródeł danych i metod wykrywania możliwej do zidentyfikowania stronniczości, w stosownych przypadkach; d) zasoby obliczeniowe wykorzystywane do trenowania danego modelu (np. liczba operacji zmiennoprzecinkowych), czas trenowania oraz inne istotne informacje dotyczące trenowania; e) znane lub szacowane zużycie energii dla danego modelu. W odniesieniu do lit. e), w przypadku, gdy nie jest znane zużycie energii dla danego modelu, zużycie energii może opierać się na informacjach dotyczących wykorzystanych zasobów obliczeniowych. Sekcja 2 Dodatkowe informacje przekazywane przez dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Szczegółowy opis strategii ewaluacji, w tym jej wyników, na podstawie dostępnych publicznych protokołów i narzędzi ewaluacji lub na podstawie innych metod ewaluacji. Strategie ewaluacji obejmują kryteria ewaluacji, wskaźniki i metodykę identyfikacji ograniczeń. 2. W stosownych przypadkach szczegółowy opis środków wprowadzonych w celu przeprowadzenia wewnętrznych lub zewnętrznych testów kontradyktoryjnych (np. red teaming), dostosowań modelu, w tym dopasowania i dostrojenia. 3. W stosownych przypadkach, szczegółowy opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie. Załączni k XII Informacje dotyczące przejrzystości, o których mowa w art. 53 ust. 1 lit. b) - dokumentacja techniczna dostawców modeli AI ogólnego przeznaczenia przekazywana dostawcom niższego szczebla, którzy integrują dany model ze swoim systemem AI Informacje, o których mowa w art. 53 ust. 1 lit. b), zawierają przynajmniej następujące elementy: 1. Ogólny opis systemu AI ogólnego przeznaczenia, w tym: a) zadania, który dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) sposób, w jaki model, w stosownych przypadkach, współdziała lub może być wykorzystywany do współdziałania ze sprzętem lub oprogramowaniem, które nie są częścią samego modelu; e) w stosownych przypadkach, wersje odpowiedniego oprogramowania związanego z wykorzystaniem modelu AI ogólnego przeznaczenia; f) architektura i liczba parametrów; N Załącznik stosowany wprost nie wymaga wdrożenia g) formę (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; h) licencja dla danego modelu. 2. Opis elementów modelu oraz procesu jego rozwoju, w tym: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych, a także ich maksymalny rozmiar (np. rozmiar okna kontekstowego, itp.); c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metod porządkowania. Załączni k XIII Kryteria identyfikowania modeli AI ogólnego przeznaczenia z ryzykiem systemowym, o których mowa w art. 51 Do celów stwierdzenia czy model AI ogólnego przeznaczenia ma zdolności lub oddziaływanie równoważne z tymi, które określono w art. 51 ust. 1 lit. a) i b), Komisja uwzględnia następujące kryteria: a) liczbę parametrów modelu; b) jakość lub rozmiar zbioru danych, na przykład mierzone za pomocą tokenów; N Załącznik stosowany wprost nie wymaga wdrożenia c) liczbę obliczeń wykorzystanych do trenowania modelu, mierzoną w operacjach zmiennoprzecinkowych lub wskazaną przez połączenie innych zmiennych, takich jak szacunkowy koszt trenowania, szacowany czas potrzebny na trenowanie lub szacowane zużycie energii na potrzeby trenowania; d) format danych wejściowych i wyjściowych danego modelu, takie jak tekst-tekst (duże modele językowe), tekst- obraz, multimodalne, a także najnowocześniejsze progi dla określania zdolności dużego oddziaływania dla każdego formatu, jak również szczególne rodzaje danych wejściowych i wyjściowych (np. sekwencje biologiczne); e) poziomy odniesienia i oceny zdolności modelu, w tym analiza liczby zadań bez dodatkowego trenowania, zdolności adaptacji do uczenia się nowych, odrębnych zadań, poziom jego autonomii i skalowalności, narzędzia, do których ma dostęp; f) czy ze względu na swój zasięg ma duże oddziaływanie na rynek wewnętrzny, co należy zakładać, jeśli został udostępniony co najmniej 10 000 zarejestrowanych użytkowników biznesowych mających siedzibę w Unii; g) liczbę zarejestrowanych użytkowników końcowych. Odwrócona tabela zgodności Tytuł aktu prawnego Ustawa o systemach sztucznej inteligencji (UC71) Tytuł wdrażanego aktu prawnego Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Jednostka redakcyjna Treść przepisu ustawy Uzasadnienie wprowadzenia przepisu Art. 1 Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; Przepis pełni funkcję przepisu ogólnego i określa zakres przedmiotowy ustawy, w celu wskazania obszarów koniecznych do uzupełnienia, organizacji i wykonania przepisów rozporządzenia 2024/1689 na poziomie krajowym. Podstawa systemowej wykładni ustawy. 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 6 pkt 17 Art. 6. 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 7 Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 8 –17 Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę, oraz adres do korespondencji , a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 2, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidulanych i wyjaśnień. Art. 18 Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 39 Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Przepis jest punktem wyjścia dla kolejnego artykułu i stanowi podstawę prawną przetwarzania danych osobowych przez organ. Art. 40 Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie Przepis stanowi opis procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41 Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione Przepis wdraża obowiązek realizacji przez organ audytu danych osobowych, a więc i procedur ich przetwarzania, co zapewni w długim okresie zapewnienie zgodności z obowiązującymi przepisami i realizację praw podstawowych obywateli obcujących z organem. Art.43 Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44 Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 45-art. 47 Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Na mocy ustawy powołuje się Społeczną Radę do spraw Sztucznej Inteligencji, celem powołania jest zapewnienie koordynacji i wymiany informacji na temat sektora sztucznej inteligencji. Będzie ona organem opiniodawczo–doradczym Komisji i stanowić będzie platformę, w ramach której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. W ocenie projektodawcy, szeroki zakres zadań Komisji oraz potrzeba stałej grupy osób wspierających Komisję w realizacji jej zadań uzasadniają powołanie przy Komisji organu tego typu, reprezentującego sektor AI. Skład Społecznej Rady został tak zaprojektowany, by mogły do niego wchodzić osoby reprezentujące szeroki zakres podmiotów. Gwarancją niezależności Rady jest ograniczenie możliwości zgłaszania kandydatur wyłącznie do określonych w ustawie podmiotów. Podobnie jak w przypadku Członków Komisji, za udział w pracach Rady nie przewiduje się wynagrodzenia. Przepisy dodatkowo wprowadzają sposób funkcjonowania Rady. c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Radynie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Art. 57-art. 58 Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu Przedmiotowe przepisy stanowią wstęp do kolejnego rozdziału, określając sposób postępowania przygotowawczego przed rozpoczęciem właściwego postępowania przed organem. 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Art. 59 Art. 59. Komisja wszczyna postępowanie: 1) z urzędu w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy,; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Przepis nadaje postępowaniu przed Komisją charakter działania, dla którego zastosowanie mają przepisy Kodeksu postępowania administracyjnego. Art. 61 Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Artykuły dookreślają sposób postępowania przed organem charakterystyczny dla utrwalonego w doktrynie sposobu funkcjonowania organów w poszczególnych fazach postępowania administracyjnego. Wskazane przepisy cechują się rozwiązaniami przyjętymi dla rozwiązań proceduralnych w polskiej procedurze administracyjnej. Art. 63 Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy, w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 64 ust. 2-5 Art. 64. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 65 Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Przepis nie wynika bezpośrednio z dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, ma na celu odesłanie do przepisów kodeksu, jako że postępowanie przed organem spełnia przesłanki właściwe dla postępowania administracyjnego. Art. 66 Art. 66. 1. Nad postanowienia Komisji, o którym mowa w art. 62 ust. 1, oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. 2024 r. poz. 1568 z późn. zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja - nieprzekazując akt sądowi -– w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio Art.68 Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. Art. 69 Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm.), Komisja dołącza akta postępowania. Przepis wprowadza możliwość współpracy organu z organami ścigania, w przypadku naruszeń prawnokarnych. Art. 70 Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Przepis nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia – właściwe przepisy dot. sposobu dokumentacji określają jedynie obowiązki dostawcy systemu AI, a nie organu. Art. 71-art. 85 Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu umożliwienie sprawniejszego zamknięcia sprawy. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie - w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisją może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Przepisy szczegółowo określają sposób realizacji ugody z organem. polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu nie dłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu, o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie, o przedstawieniu projektu układu, zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę, ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 92-art. 94 Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; Przepis zawiera opis instytucji piaskownicy regulacyjnej, który pozostaje w gestii państwa członkowskiego i nie jest bezpośrednio wymagana implementacja – rozporządzenie nie określa szczegółowo warunków. 5) termin ogłoszenia o wynikach konkursu. 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawnych przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których ust. 6. Przepis art. 93 ust. 6 stosuje się. 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 97 Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. Art. 99 Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, Określenie dodatkowych kompetencji ministra, niezależnie od obowiązku implementacji. b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień, 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań, 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Art. 101 Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Przepis określa obowiązki podmiotu w celu prawidłowego i z uwzględnieniem interesu. Art. 102 Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Przepis odnoszący się wyłącznie do porządku krajowego. Art. 104-art. 106 Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. Przepis wpisuje sposób działania organu w ramy postępowania administracyjnego. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107 Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Przepis określa wewnątrzkrajowy sposób egzekucji kar należnych za naruszenie przepisów rozporządzenia. Art. 108-Art.110 Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzania 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm.). Przepis dopuszcza sankcje za niespełnienie obowiązków względem poddania się wykonaniu kary. Art.111 -Art. 119 Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568 i 1841, z 2005 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVFA. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Przepisy określają zmiany w przepisach obowiązujących, wpisując ustawę w system prawa polskiego i tym samym dostosowując do warunków krajowych, które nie mogą być z natury przedmiotem rozporządzenia 2024/1689. Art. 479 88b. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d § 1, art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art.17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.. Komisja oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz.U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 120 ust. 2-4 Art. 120. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 121 Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1 jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Przepisy regulują zasady budżetowania i limit wydatków budżetu państwa na funkcjonowanie organów i procedur wynikających z przepisów ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce - powołanie go w ustawie wymaga wprowadzenia tego przepisu. Projekt R O Z P O R Z Ą D Z E N I E M I N I S T R A C Y F RY Z A C J I 1) z dnia w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Na podstawie art. 91 ust. 6 ustawy z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) zarządza się, co następuje: § 1. Rozporządzenie określa wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż mikro-, mali i średni przedsiębiorcy oraz sposób jej wnoszenia. § 2. 1. Wysokość opłaty, o której mowa w § 1, wynosi 14 418 zł. 2. Opłata jest wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. § 3. Rozporządzenie wchodzi w życie po upływie 14 dni od dnia ogłoszenia. MINISTER CYFRYZACJI 1 Minister Cyfryzacji kieruje działem administracji rządowej – informatyzacja, na podstawie § 1 ust. 2 rozporządzenia Prezesa Rady Ministrów z dnia 18 grudnia 2023 r. w sprawie szczegółowego zakresu działania Ministra Cyfryzacji (Dz. U. poz. 2720). – 2 – Uzasadnienie Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) reguluje krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanym dalej \"rozporządzenie 2024/1689\". Tym samym wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Projekt rozporządzenia stanowi realizację upoważnienia ustawowego zawartego w art. 91 ust. 6 ww. ustawy, które zobowiązuje ministra właściwego do spraw informatyzacji do określenia wysokości opłaty za udział w piaskownicy regulacyjnej, o której mowa w art. 91 ust. 5, oraz sposobu jej wnoszenia. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. W zakresie opłat za uczestnictwo w piaskownicy regulacyjnej przyjęto rozwiązanie zapewniające zgodność z ustawą. Udział mikro-, małych i średnich przedsiębiorców jest nieodpłatny, co stanowi zachętę do korzystania z piaskownicy przez podmioty o największym potencjale innowacyjnym, a jednocześnie często dysponujące ograniczonymi zasobami finansowymi. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Dla pozostałych podmiotów ustalono jednorazową opłatę w wysokości 14 418 zł. co stanowi trzykrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). Kwota ta mieści się w ustawowym określonym art. 91 ust. 5 ustawy limicie, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów obsługowych, organizacyjnych – 3 – i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Rozporządzenie określa również sposób wnoszenia opłaty, przewidując jej jednorazowe uiszczenie. Takie rozwiązanie zapewnia pewność i przejrzystość procedury oraz pozwala na sprawne rozpoczęcie udziału podmiotów w działaniach prowadzonych w ramach piaskownicy. Wskazanie rachunku bankowego urzędu obsługującego ministra właściwego do spraw informatyzacji upraszcza proces płatności i pozwala na jednoznaczne przypisanie dokonanej wpłaty do konkretnego uczestnika. Rozporządzenie wejdzie w życie po upływie 14 dni od dnia ogłoszenia zapewniając odpowiedni okres vacatio legis. Projektowana regulacja nie zawiera przepisów technicznych w rozumieniu rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i nie podlega notyfikacji Komisji Europejskiej. Projektowana regulacja nie będzie wymagała notyfikacji Komisji Europejskiej w trybie ustawy z dnia 30 kwietnia 2004 r. o postępowaniu w sprawach dotyczących pomocy publicznej (Dz. U. z 2023 r. poz. 702, z późn. zm.). Projekt rozporządzenia nie jest sprzeczny z prawem Unii Europejskiej. Projekt rozporządzenia nie wymaga przedłożenia instytucjom i organom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce Rządowy Proces Legislacyjny zgodnie z § 52 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). – 4 – Nazwa projektu Rozporządzenie Ministra Cyfryzacji w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, pamela.krzypkowska@cyfra.gov.pl, sekretariat.DBI@cyfra.gov.pl Data sporządzenia 20.03.2026 Źródło: Upoważnienie ustawowe Art. 91 ust. 6 ustawy o systemach sztucznej inteligencji z dnia... (Dz. U. poz. ...) Nr w wykazie prac OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) określa krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanego dalej \"rozporządzeniem 2024/1689\". Tym samym ustawa wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ustawa przewiduje preferencyjne warunki uczestnictwa w piaskownicy dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Natomiast w zakresie innych podmiotów minister właściwy do spraw informatyzacji został zobligowany do określenia, w drodze rozporządzenia, wysokości opłaty, za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Problem, który rozwiązuje rozporządzenie, dotyczy uzupełnienia braku określenia wysokości opłaty za udział w piaskownicy regulacyjnej oraz zasad jej wnoszenia, co w praktyce mogłoby prowadzić do powstania niepewności prawnej i finansowej po stronie podmiotów ubiegających się o zakwalifikowanie do tego mechanizmu. Brak jasnych reguł w tym zakresie utrudniałby planowanie kosztów związanych z uczestnictwem, mógłby powodować zróżnicowanie w podejściu do poszczególnych podmiotów oraz ograniczać transparentność i przewidywalność całego procesu. Taka sytuacja mogłaby w konsekwencji negatywnie wpływać na zainteresowanie piaskownicą regulacyjną, a tym samym ograniczać jej potencjał jako narzędzia wspierającego rozwój innowacyjnych rozwiązań w obszarze systemów sztucznej inteligencji. Ustawa przewiduje obowiązek uiszczenia opłaty za udział w piaskownicy, ale nie zawiera szczegółowych przepisów w tym zakresie, pozostawiając je do uregulowania w akcie wykonawczym. Rozporządzenie stanowi zatem realizację ustawowego upoważnienia zawartego w art. 91 ust. 6, precyzując zarówno wysokość opłaty, jak i sposób jej wnoszenia. Dzięki temu możliwe jest zapewnienie jednolitych, przejrzystych i przewidywalnych reguł uczestnictwa, które zwiększają pewność prawną, wzmacniają zaufanie podmiotów do procedury kwalifikacyjnej i gwarantują spójne stosowanie przepisów ustawy przez organ odpowiedzialny za prowadzenie piaskownicy regulacyjnej. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji, i oczekiwany efekt Zgodnie z art. 91 ust. 6, określenie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, musi zostać określone w formie rozporządzenia. – 5 – Rekomendowanym rozwiązaniem jest wprowadzenie jednolitej opłaty za udział w piaskownicy regulacyjnej w wysokości 14 418 zł. Kwota ta mieści się w ustawowym, określonym w art. 91 ust. 5 ustawy, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Opłata będzie wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. Przyjęcie takiego mechanizmu pozwala na uproszczenie procedury oraz zapewnienie przewidywalności i przejrzystości zarówno dla uczestników, jak i dla organu odpowiedzialnego za obsługę piaskownicy. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Hiszpania była jednym z pierwszych państw członkowskich, które zgłosiły gotowość do wdrażania piaskownic, i w praktyce pełni rolę pilotażową dla innych krajów UE. Piaskownica hiszpańska działa przy udziale Agencja Española de Supervisión de la Inteligencia Artificial (AESIA), czyli hiszpańskiej agencji ds. nadzoru nad sztuczną inteligencją powołanej w 2022 r. z siedzibą w A Coruña. W przypadku sektora MŚP i startupów podobnie jak w polskim projekcie ustawy o systemach sztucznej inteligencji udział w piaskownicy regulacyjnej jest bezpłatny. Co do pozostałych podmiotów pozostała możliwość proporcjonalnego dofinansowania części kosztów związanych z udziałem w piaskownic regulacyjnej. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Konieczność sprawowania nadzoru nad testami w ramach piaskownicy regulacyjnej Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Obowiązki związane z ustanowieniem piaskownicy regulacyjnej, a także podejmowaniem decyzji w sprawie możliwości udziału w piaskownicy Ministerstwo Cyfryzacji 1 Informacje ogólnodostępne Obsługa przepływów finansowych JST 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Przedsiębiorcy sektora sztucznej inteligencji (Duże przedsiębiorstwa) Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Administracja publiczna Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Projekt zostanie poddany procesowi uzgodnień oraz zostanie przedstawiony do opiniowania i konsultacji publicznych. Projekt rozporządzenia zostanie zamieszczony w Biuletynie Informacji Publicznych na stronie podmiotowej Ministerstwa Cyfryzacji, stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Zgodnie z par. 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. - Regulamin Prac Rady Ministrów (M.P. z 2024 r. poz. 806 oraz z 2025 r. poz. 408) projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie Rządowy Proces Legislacyjny. – 6 – 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 1 2 3 4 5 6 7 8 9 10 Łącznie (0-10) Dochody ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Wydatki ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Saldo ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Źródła finansowania Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Przewiduje się, że współfinansowanie piaskownic regulacyjnych odbędzie się ze środków europejskich. Wskazane w rozporządzeniu kwoty związane są z zabezpieczeniem pokrycia kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej. Na obecnym etapie prac legislacyjnych wydatki oraz dochody z tytułu piaskownic regulacyjnych nie są możliwe do oszacowania. W Polsce obowiązują jedynie przepisy w zakresie piaskownicy regulacyjnej energetycznej która została uruchomiona po raz pierwszy w 2026 r. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0- 10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa - - - - - - - sektor mikro-, małych i średnich przedsiębiorstw - - - - - - - rodzina, obywatele oraz gospodarstwa domowe - - - - - - - W ujęciu niepieniężnym duże przedsiębiorstwa Tak - wpływ zostanie oszacowany na późniejszym etapie sektor mikro-, małych i średnich przedsiębiorstw Tak - - wpływ zostanie oszacowany na późniejszym etapie rodzina, obywatele oraz gospodarstwa domowe Brak wpływu Niemierzalne Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie projektowanego rozporządzenia będzie miało wpływu na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców. – 7 – 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu ☒ nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). ☐ tak ☐ nie ☒ nie dotyczy ☐ zmniejszenie liczby dokumentów ☐ zmniejszenie liczby procedur ☐ skrócenie czasu na załatwienie sprawy ☐ inne: ... ☐ zwiększenie liczby dokumentów ☐ zwiększenie liczby procedur ☐ wydłużenie czasu na załatwienie sprawy ☐ inne: ... Wprowadzane obciążenia są przystosowane do ich elektronizacji. ☐ tak ☐ nie ☒ nie dotyczy Komentarz: Projekt nie przewiduje zmian w zakresie obciążeń regulacyjnych. 9. Wpływ na rynek pracy Projektowane przepisy nie mają bezpośredniego wpływu na rynek pracy. 10. Wpływ na pozostałe obszary ☐ środowisko naturalne ☐ sytuacja i rozwój regionalny ☐ inne: ... ☐ demografia ☐ mienie państwowe ☐ informatyzacja ☐ zdrowie Omówienie wpływu Wejście w życie przepisów nie będzie miało wpływu na pozostałe obszary. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby rozporządzenie weszło w życie po upływie 14 dni od dnia ogłoszenia. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Nie przewiduje się ewaluacji efektów projektu. 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak 1 DPUE.950.370/2025/20 kwm Warszawa, /elektroniczny znacznik czasu/ Dot.: RM-0610-41-26 z 25.03.2026 r. Pani Joanna Knapińska Sekretarz Rady Ministrów Opinia o zgodności z prawem Unii Europejskiej projektu ustawy o systemach sztucznej inteligencji, wyrażona przez ministra właściwego do spraw członkostwa Rzeczypospolitej Polskiej w Unii Europejskiej Szanowna Pani Minister, w związku z przedłożonym projektem ustawy pozwalam sobie wyrazić poniższą opinię. Projekt ustawy jest zgodny z prawem Unii Europejskiej. Z wyrazami szacunku Do wiadomości: Pan Krzysztof Gawkowski Wiceprezes Rady Ministrów Minister Cyfryzacji\n\nSUMMARY TO EVALUATE:\nTitle: Nowe zasady i nadzór nad sztuczną inteligencją w Polsce.\nSummary: Ustawa wprowadza unijne przepisy o sztucznej inteligencji (AI Act), mające zagwarantować, że technologie te będą bezpieczne i nie naruszą naszych praw. Powołana zostanie specjalna Komisja, do której obywatele będą mogli zgłaszać skargi na działanie AI, a firmy zyskają bezpieczne środowisko do testowania nowych rozwiązań.\nKey Points: Powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kontrolować rynek i nakładać kary za łamanie przepisów., Prawo dla każdego obywatela do złożenia skargi, jeśli system sztucznej inteligencji naruszy jego prawa lub bezpieczeństwo., Utworzenie tak zwanych piaskownic regulacyjnych, czyli bezpiecznych przestrzeni dla firm (darmowych dla małych i średnich przedsiębiorstw), gdzie będą mogły testować innowacyjne systemy AI przed wypuszczeniem ich na rynek., Możliwość uzyskania przez firmy wiążących opinii prawnych, co ułatwi im legalne i bezpieczne rozwijanie technologii., Wysokie kary finansowe dla firm łamiących przepisy, z możliwością ich obniżenia, jeśli firma szybko naprawi błąd i będzie współpracować z urzędem.\n\nZASADY OCENY:\n1. Sprawdź wszystkie LICZBY, DATY i KWOTY w SUMMARY. Jeśli którejś brakuje w SOURCE -> is_valid: false.\n2. Sprawdź wszystkie NAZWISKA, ORGANIZACJE i MIEJSCA w SUMMARY. Jeśli którejś brakuje w SOURCE -> is_valid: false.\n3. Sprawdź wszystkie konkretne DZIAŁANIA PRAWNE . Jeśli tego mechanizmu nie ma w SOURCE -> is_valid: false.\n\nWAŻNE: Abstrakcyjne pojęcia (np. \"transparentność\", \"zaufanie\") są dozwolone jako wnioski.\n\nOUTPUT (JSON):\n{\n  \"is_valid\": true/false,\n  \"issue\": \"fabricated_entity\" / \"contradiction\" / \"none\"\n}\n\nWYMAGANIA FORMATOWANIA:\n1. Odpowiedz WYŁĄCZNIE surowym obiektem JSON.\n2. NIE używaj bloków kodu Markdown.\n3. NIE dodawaj żadnych wstępów ani wyjaśnień przed ani po JSONie.\n4. JSON musi być poprawny i gotowy do parsowania.\n\n",
      "ai_response_raw": "{\n  \"is_valid\": true,\n  \"issue\": \"none\"\n}"
    },
    {
      "timestamp": "2026-04-17T16:06:35.422Z",
      "source_url": "https://api.sejm.gov.pl/sejm/term10/prints/2443/2443.pdf",
      "model": "gemini-3.1-pro-preview",
      "prompt_sent": "\nJesteś ekspertem od prawa polskiego, który ma za zadanie analizować dokumenty ustaw, uchwał oraz innych dokumentów legislacyjnych, a następnie przygotowywać z nich informacje w przystępny sposób dla obywateli. Twoim celem jest przedstawienie informacji tak, aby obywatele mogli sami ocenić wpływ legislacji na ich życie, nawet bez posiadania specjalistycznej wiedzy legislacyjnej. Skup się na faktach i obiektywnych skutkach wprowadzanych zmian, unikając wartościowania i osobistych opinii. Wszelki żargon prawny jest zabroniony. Prezentuj informacje w jasny, zwięzły i angażujący sposób, tak aby były zrozumiałe dla osoby bez wykształcenia prawniczego. Unikaj długich, złożonych zdań. Zamiast pisać \"projekt ma na celu nowelizację kodeksu podatkowego...\", napisz \"Zmiany w podatkach: nowe ulgi i obowiązki dla...\". Kontynuuj swoją pracę, dopóki nie rozwiążesz swojego zadania. Jeśli nie masz pewności co do generowanej treści, przeanalizuj dokument ponownie – nie zgaduj. Rozplanuj dobrze swoje zadanie przed przystąpieniem do niego. W podsumowaniu i kluczowych punktach, jeśli to możliwe i uzasadnione, podkreśl, jakie konkretne korzyści lub skutki (pozytywne lub negatywne) wprowadza ustawa dla życia codziennego obywateli, ich praw i obowiązków, finansów osobistych, bezpieczeństwa i innych ważnych kwestii (np. kategorycznych zakazów i nakazów czy najważniejszych konkretnych alokacji finansowych i terytorialnych).\n\nTwoja odpowiedź MUSI być w formacie JSON - i zawierać następujące klucze.\nZanim zwrócisz odpowiedź, dokładnie zweryfikuj, czy cała struktura JSON jest w 100% poprawna, włącznie ze wszystkimi przecinkami, nawiasami klamrowymi, kwadratowymi oraz cudzysłowami. Błędny JSON jest nieakceptowalny i uniemożliwi przetworzenie Twojej pracy.\n\nPrzeanalizuj dokładnie poniższy tekst dokumentu prawnego. To jest treść, na podstawie której masz wygenerować podsumowanie i kluczowe punkty:\n--- POCZĄTEK DOKUMENTU ---\nDruk nr 2443 Warszawa, 9 kwietnia 2026 r. SEJM RZECZYPOSPOLITEJ POLSKIEJ X kadencja Prezes Rady Ministrów RM-0610-41-26 Pan Włodzimierz Czarzasty Marszałek Sejmu Rzeczypospolitej Polskiej Szanowny Panie Marszałku, na podstawie art. 118 ust. 1 Konstytucji Rzeczypospolitej Polskiej przedstawiam Sejmowi Rzeczypospolitej Polskiej projekt ustawy - o systemach sztucznej inteligencji. Projekt ma na celu wykonanie prawa Unii Europejskiej. Do prezentowania stanowiska Rządu w tej sprawie w toku prac parlamentarnych został upoważniony Minister Cyfryzacji. Z poważaniem Donald Tusk /podpisano kwalifikowanym podpisem elektronicznym/ Tłoczono z polecenia Marszałka Sejmu Rzeczypospolitej Polskiej Projekt U S T A W A z dnia o systemach sztucznej inteligencji 1), 2) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 2. 1. Ustawy nie stosuje się do: 1) Niniejsza ustawa służy stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024). 2) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustawę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustawę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. – 2 – 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 3) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328 i 370. – 3 – a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. 4 ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 340, 368, 620, 680, 1022, 1180, 1301, 1302, 1366, 1795, 1804, 1817, 1822, 1823, 1838 i 1858 oraz z 2026 r. poz. 203. – 4 – 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; – 5 – 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 98 ust. 2, – 6 – – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę oraz adres do korespondencji, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. – 7 – Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. – 8 – Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; – 9 – 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: – 10 – 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o – 11 – systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem do spraw usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; – 12 – 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji. Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę – 13 – poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; – 14 – 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. – 15 – Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. – 16 – Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; – 17 – 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; – 18 – 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się – 19 – pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw – 20 – informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; – 21 – 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione. Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami – 22 – międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. – 23 – 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 5) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, 5) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723 oraz z 2025 r. poz. 39 i 1661. – 24 – b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; – 25 – 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. – 26 – 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. – 27 – 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. – 28 – 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących – 29 – własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnia mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, – 30 – lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od – 31 – dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród – 32 – z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości – 33 – albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. – 34 – Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę, Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. – 35 – Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części, lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. – 36 – 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. – 37 – U. z 2024 r. poz. 1568, z późn. zm. 6) ) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 6) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 38 – 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm. 7 ), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 7) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 304, 1178, 1420, 1872 oraz z 2026 r. poz. 187. – 39 – 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. – 40 – 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu niedłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. – 41 – 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. – 42 – Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się z zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. – 43 – 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. – 44 – 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; – 45 – 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: – 46 – 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 5, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. – 47 – 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których mowa w ust. 6. Przepis art. 93 ust. 6 stosuje się. – 48 – 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostępnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. – 49 – 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej, d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. – 50 – 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. – 51 – 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. 8) ), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. 8) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 497, 621, 622, 769, 820, 1203, 1235, 1414, 1417, 1669, 1804 i 1863 oraz z 2026 r. poz. 252 i 347. – 52 – Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. – 53 – Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 9) ). Rozdział 9 Zmiany w przepisach obowiązujących Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm. 10) ) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA ... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 88b . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. 9) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872. 10) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 54 – Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. – 55 – § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d , art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. – 56 – Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji – 57 – chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; – 58 – 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 122. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia. UZASADNIENIE 1. Cel i potrzeba ustawy Celem projektowanej ustawy jest powołanie w Polsce systemu sprawowania nadzoru nad systemami sztucznej inteligencji zgodnego z ramami prawnymi ustanowionymi rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689” albo „aktem o AI”. Rozporządzenie („Akt o AI”) jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych. Nadrzędnym celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji, zwanych dalej „systemami AI”, w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI, a także wspierania innowacji w tym zakresie. Dla osiągnięcia założonego celu konieczne jest przyjęcie przez państwa członkowskie aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 w sposób spójny i skoordynowany z nadzorem realizowanym na poziomie Komisji Europejskiej i Rady Europejskiej. Projektowane przepisy powinny nadać niezbędne kompetencje krajowym organom nadzoru rynku lub takie organy utworzyć, by umożliwić im skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Z uwagi na charakter wymaganych zmian (m.in. przyznanie nowych uprawnień nadzorczych, stworzenie mechanizmu skargowego, trybu wydawania decyzji w zakresie określenie kar i innych środków administracyjnych), w przypadku Polski nie jest możliwe 2 zastosowanie wyłącznie rozwiązań pozalegislacyjnych. Dla zapewnienia zgodnych z polskim prawem, skutecznych narzędzi interwencji w zakresie regulowanym przez rozporządzenie konieczne jest przyjęcie przez Rzeczpospolitą Polską aktu prawnego w randze ustawy. Zgodnie z prawem europejskim rozporządzenie obowiązuje w Unii od dnia 1 sierpnia 2024 r. W dniu 2 lutego 2025 r. w życie weszły przepisy dotyczące systemów zakazanych. W dniu 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące organów notyfikujących i jednostek notyfikowanych oraz kar za naruszenia przepisów o zakazanych praktykach w zakresie AI. Zgodnie z terminami określonymi w rozporządzeniu 2024/1689 proces ten zakończy się 2 sierpnia 2027 r. W związku z powyższymi na obecnym etapie prac nad ustanowieniem europejskiego systemu nadzoru nad sztuczną inteligencją konieczne jest podjęcie działań legislacyjnych, które pozwolą Polsce wywiązać się ze wszystkich zobowiązań określonych w rozporządzeniu 2024/1689, które weszły w życie do dnia 2 sierpnia 2025 r. Przyjęcie przepisów, które stanowią treść projektu ustawy do polskiego porządku prawnego pozwoli również stworzyć prawne i organizacyjne podstawy umożliwiające w przyszłości realizację pozostałych, określonych w przepisach rozporządzenia 2024/1689 obowiązków, których wejście w życie nastąpi stopniowo do dnia 2 sierpnia 2027 r. Zgodnie z zasadami prawa Unii Europejskiej, podejmowane działania legislacyjne opierają się na założeniu, że ustawa ma zawierać przepisy wprost przekazane przez europejskiego prawodawcę do uregulowania w prawie krajowym oraz takich, co do których rozporządzenie 2024/1689 pozostawiło państwom członkowskim pewną swobodę regulacyjną. W związku z powyższym w polskim prawie należy zrealizować działania prawodawcze służące realizacji przepisów rozporządzenia 2024/1689 w wymiarze ustrojowym, jak i proceduralnym. Dotyczą one m.in.: 1) wskazania właściwych organów krajowych, tj.: – organu nadzoru rynku, – organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie; 2) określenia procedur postępowania przed organem nadzoru, w tym umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk AI, czy umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie rozporządzenia 2024/1689; 3 3) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689. Ponadto projekt ustawy umożliwi rozpoczęcie realizacji celów określonych w art. 1 ust. 2 lit. g rozporządzenia 2024/1689, które mówią o wspieraniu rozwoju zastosowań AI w krajach członkowskich. Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną AI. Analiza omawianego zagadnienia wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, podczas gdy alternatywne sposoby rozwiązania problemu należy ocenić jako niewystarczające do osiągnięcia oczekiwanego celu. Szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest szerokie stosowanie technologii sztucznej inteligencji, dodatkowo przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Projekt ustawy pozwoli wprowadzić do polskiego prawa mechanizmy umożliwiające realizację obowiązków określonych w rozdziałach I, II, III sekcja 4, V, VII, IX, XI rozporządzenia 2024/1689. W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące określenia krajowego organu nadzoru, postępowania przed tym organem, postępowania kontrolnego, organu notyfikującego, certyfikacji, sądowej ochrony praw przysługujących obywatelom, jak również wszczynanie postępowań i nakładanie administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689. Należy również zaznaczyć, że omawiany projekt ustawy o systemach sztucznej inteligencji nie realizuje wszystkich obowiązków wynikających z rozporządzenia 2024/1689. Treść projektu, który wychodzi naprzeciw wymaganiom wynikającym z przepisów polskiego oraz europejskiego prawa, jest wynikiem prowadzonych przez Ministerstwo Cyfryzacji prac i analiz merytorycznych, komunikacji z przedstawicielami Europejskiego Urzędu ds. Sztucznej Inteligencji oraz konsultacji z innymi instytucjami publicznymi w Polsce i interesariuszami społecznymi. Należy zaznaczyć, że rozporządzenie pozostawia państwom członkowskim pewną elastyczność m.in. w wyznaczaniu lub stworzeniu odpowiednich organów, procedur 4 administracyjnych i sądowych. W przypadku Polski powoduje to konieczność priorytetyzacji działań w zakresie utworzenia systemu nadzoru rynku nad systemami AI w celu umożliwienia stosowania tych przepisów, które weszły w życie do dnia 2 sierpnia 2025 r., przy jednoczesnym prowadzeniu działań komunikacyjnych i administracyjnych. W pozostałym, określonym w rozporządzeniu 2024/1689, zakresie przedmiotowym Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych). 2. Omówienie projektowanych przepisów Projektowana ustawa określa organizację i sposób sprawowania krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia, a także zapewnienia rozwoju w tym obszarze. Zakres przedmiotowy projektu wynika wprost z przepisów rozporządzenia 2024/1689, w którym znajduje się znaczna część przepisów merytorycznych stosowanych bezpośrednio. Projektowana ustawa koncentruje się na ustanowieniu roli organów państwa w tym obszarze oraz ustanowieniu środków rozwoju i nadzoru. Przygotowując się do wyżej opisanych prac legislacyjnych na rzecz zapewnienia skutecznego stosowania rozporządzenia 2024/1689, Ministerstwo Cyfryzacji przeprowadziło szereg działań obejmujących: analizy prawne, instytucjonalne i techniczne oraz dwukrotne konsultacje z interesariuszami zarówno sektora publicznego, jak i prywatnego i pozarządowego. Analizy polskiego prawa oraz otoczenia instytucjonalnego prowadzone przez Ministerstwo Cyfryzacji wykazały brak istnienia w naszym kraju organu lub instytucji publicznej spełniających wymogi określone w rozporządzeniu 2024/1689 zarówno w zakresie statusu prawnego i roli ustrojowej, jak i wymaganych kwalifikacji pracowników. Rosnąca rola systemów sztucznej inteligencji oraz skala zagrożeń, jakie może powodować ich niewłaściwe stosowanie, powodują, że konieczne jest wyznaczenie organu, który tym wyzwaniom sprosta. W związku z potrzebami zapewnienia właściwego poziomu ochrony podstawowych praw człowieka, praw obywateli i konsumentów, rosnąć powinny również kompetencje organów nadzoru. W Polsce od kilku lat obserwujemy zwiększanie wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielanie ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych. Biorąc pod uwagę to, że w ostatnim czasie każdy z tych 5 organów przyjął na siebie realizacje nowych, poważnych obowiązków, zasadne jest, aby właściwy organ mógł realizować je w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli. W wyniku powyżej opisanych działań analitycznych, jak również ciągłego procesu zapoznawania się z aktualnym stanem wiedzy eksperckiej 1 , prowadzeniem dyskusji roboczych z przedstawicielami innych instytucji publicznych oraz uwzględnianiem wniosków wypracowanych na wcześniejszych etapach w ramach prac Grupy Roboczej ds. AI 2 , Ministerstwo Cyfryzacji ustaliło, że najbardziej efektywnym sposobem osiągnięcia celu nałożonego na Polskę przez rozporządzenie 2024/1689 jest ustanowienie nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucji tej, mającej pełnić funkcję nie tylko organu nadzoru nad rynkiem, ale również przyczyniającej się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnienia funkcji podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, w projekcie nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”. W celu uzyskania dodatkowych informacji i opinii ekspertów oraz przedstawicieli opinii publicznej, Ministerstwo Cyfryzacji przeprowadziło otwarte dla wszystkich zainteresowanych prekonsultacje założeń prac nad projektem ustawy (realizacja w terminie od 2 kwietnia 2024 r. do 23 kwietnia 2024 r). Respondenci tego procesu w zdecydowanej większości opowiedzieli się za koniecznością powołania nowego organu nadzoru jako najlepszym rozwiązaniem systemowym odpowiadającym potrzebom rozwoju polskiego ekosystemu sztucznej inteligencji 3 . Należy podkreślić także, że rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte i uchwalone w formie ustawy w Hiszpanii 4 . Dodatkową okolicznością przemawiającą za (systemową i ekonomiczną) optymalnością wskazanego modelu jest mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia tych wymagań oraz prowadziłoby do szkodliwej 1 A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities | European Journal of Risk Regulation | Cambridge Core 2024. 2 RAPORT: Analiza związku Aktu w sprawie sztucznej inteligencji z wybranymi obowiązującymi i projektowanymi regulacjami prawnymi – Portal sztucznej inteligencji – Portal G ov.pl (www.gov.pl). 3 Wdrożenie Aktu o AI – Ministerstwo Cyfryzacji – Portal Gov.pl (www.gov.pl). 4 Estrategia de Inteligencia Artificial 2024. 6 konkurencji między organami i rywalizacji o wąskie grono wysoko wyspecjalizowanych ekspertów. Powołanie nowego organu jawi się również jako racjonalne z punktu widzenia interesu sektora finansów publicznych. Jak wspominano, w aktualnym stanie prawnym brakuje podmiotu spełniającego wymagania, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a więc łącznego i równoczesnego zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne z punktu widzenia polskiego podatnika. Rozdział 1 – Przepisy ogólne (art. 1 – art. 4) Rozdział 1 określa zakres podmiotowy ustawy, stanowiąc, że przepisy ustawy będą miały zastosowanie do osób fizycznych, osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej, jak również zakres przedmiotowy ustawy, w ramach którego planuje się określenie sposobu sprawowania nadzoru nad rynkiem, postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, działania wspierające rozwój systemów sztucznej inteligencji oraz zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Projektodawca określił zarówno zakres podmiotowy, jak i przedmiotowy w ten sposób, by był kompatybilny z przepisami oraz celami określonymi w rozporządzeniu 2024/1689. Z zakresu stosowania rozporządzenia 2024/1689 (art. 2 ust. 3) i ustawy w art. 2 zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2026 r. poz. 1158). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów wyłączone mają być również sprawy będące w zakresie bezpieczeństwa narodowego, obejmujące działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji 7 Wywiadu (Dz. U. z 2025 r. poz. 902, z późn. zm.), a także w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2024 r. poz. 1405, z późn. zm.). Intencją projektu jest całkowite wyłączenie działalności służb specjalnych spod właściwości Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wyłączenie spraw związanych z obroną narodową oraz bezpieczeństwem narodowym jest uzasadnione kilkoma istotnymi powodami. Przede wszystkim kwestie te są kluczowe dla stabilności i ochrony państwa, dlatego wymagają specjalnych procedur i środków, które są niezbędne do skutecznego zarządzania zagrożeniami. Przepisy dotyczące obrony narodowej i bezpieczeństwa narodowego często wymagają specyficznych regulacji, które mogą nie być kompatybilne z ogólnymi przepisami dotyczącymi sztucznej inteligencji. Wyłączenie tych obszarów pozwala na dostosowanie regulacji do unikalnych potrzeb i wymagań tych sektorów. Jednocześnie w celu zapewnienia stosowania i przestrzegania przepisów rozporządzenia 2024/1689 w odniesieniu do specyfiki działania służb specjalnych, w projekcie proponuje się wskazanie Prezesa Rady Ministrów albo Ministra – Koordynatora Służb Specjalnych, w przypadku jego powołania, jako organu właściwego do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie przestrzegania przepisów rozporządzenia 2024/1689 i projektowanej ustawy. Zaproponowane powyżej rozwiązania prawne umożliwią stosowanie przepisów rozporządzenia 2024/1689 wobec służb specjalnych, przy jednoczesnym zachowaniu przez każdą z nich należytego poziomu ochrony środków, form i metod realizacji zadań, zgromadzonych informacji oraz własnych obiektów i danych identyfikujących funkcjonariuszy służby, do której to ochrony służby specjalne są zobowiązane przepisami ustawowymi. W zakresie kontroli odpowiednie zastosowanie będą mieć przepisy ustawy o kontroli w administracji rządowej, tak więc nie ma potrzeby dodatkowego normowania tej kwestii w przedmiotowym projekcie. Przepisów nie stosuje się także do badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689. Wyłączenia dotyczące badań podstawowych, aplikacyjnych oraz prac rozwojowych wynikają z ich specyficznego charakteru i celu. Badania te mają na celu zdobywanie nowej wiedzy oraz rozwijanie innowacyjnych technologii, które mogą przyczynić 8 się do postępu naukowego i technologicznego. Wyłączenie tych badań z przepisów pozwala na swobodniejszy rozwój nauki i innowacji, bez konieczności spełniania dodatkowych wymagań, które mogłyby ograniczać ich potencjał rozwojowy, a także jest spójne z przepisami rozporządzenia 2024/1689. Zgodnie z treścią rozporządzenia, z zakresu stosowania przepisów ustawy wyłączone zostały także systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 rozporządzenia 2024/1689. Jest to wyłączenie spójne z art. 2 ust. 12 rozporządzenia 2024/1689. Przepisów nie stosuje się także do systemów wprowadzonych do użytku wyłącznie dla celów w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych przed wejściem w życie rozporządzenia 2024/1689. Zgodnie z zakresem określonym przez unijnego prawodawcę (art. 2 ust. 10 rozporządzenia 2024/1689), projekt w art. 3 wyłącza z zakresu ustawy osoby fizyczne, które stosują systemy sztucznej inteligencji wyłącznie dla celów osobistych i niezwiązanych z działalnością gospodarczą, rolniczą lub inną działalnością regulowaną przez prawo. Ponadto projekt wyłącza z zakresu ustawy organy publiczne, które są objęte innymi przepisami prawnymi. Projekt ten odnosi się do różnych rodzajów działalności gospodarczej, takich jak działalność zarobkowa prowadzona we własnym imieniu, działalność gospodarcza jako formalnie zarejestrowana działalność zarobkowa wykonywana we własnym imieniu, działalność nierejestrowa, a także działalność zawodowa wymagająca uprawnień państwowych. W art. 4 projektu określa się również stosowane w tekście definicje prawne, które wprowadzają wyjaśnienia terminów w oparciu o przepisy rozporządzenia 2024/1689. Zdaniem projektodawcy zachowanie spójności terminologicznej jest kluczowe dla właściwego stosowania rozporządzenia 2024/1689. Projektowana ustawa nie będzie zawierała rozdziału określającego obowiązki operatorów uczestniczących w łańcuchu wartości AI, ponieważ obowiązki te są uregulowane w przepisach rozporządzenia 2024/1689 stosowanych bezpośrednio. Rozdział 2 – Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 47) Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie ustanawiają lub wyznaczają co najmniej jeden organ nadzoru rynku jako właściwy organ krajowy zobowiązany do wykonywania swoich uprawnień w sposób niezależny, bezstronny i 9 wolny od uprzedzeń. Sprawowanie nadzoru nad systemami AI przez ministra właściwego do spraw informatyzacji nie jest możliwe ze względu na wymaganą przez rozporządzenie niezależność organu nadzoru od administracji rządowej. W celu zapewniania wymogów rozporządzenia 2024/1689, jako organ nadzoru rynku systemów AI została ustanowiona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Jej podstawowym zadaniem jest sprawowanie nadzoru nad wdrażaniem i stosowaniem sztucznej inteligencji w Polsce. Komisja została również wskazana jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. Przyznanie prawa do używania pieczęci z godłem państwowym podkreśla rangę i oficjalny charakter działań Komisji. Komisja odpowiada za komunikację z instytucjami unijnymi, w tym z Komisją Europejską i Europejską Radą ds. Sztucznej Inteligencji, co zapewnia spójność działań na poziomie europejskim. Zobowiązanie do współpracy z licznymi organami krajowymi, takimi jak Komisja Nadzoru Finansowego, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Urząd Patentowy RP, Urząd Rejestracji Produktów Leczniczych czy Krajowa Radą Radiofonii i Telewizji uwzględnia specyfikę różnych obszarów zastosowań sztucznej inteligencji, jak również odzwierciedla interdyscyplinarny charakter wyzwań związanych z AI i pozwala na kompleksowe podejście do regulacji. Istotna jest także współpraca z podmiotami odpowiedzialnymi za cyberbezpieczeństwo, co wynika z wrażliwości systemów AI na cyberzagrożenia oraz dużą (i rosnącą) rolą AI zarówno w technikach ataków, jak i ochrony przed incydentami. Należy również podkreślić, że rozwiązania proponowane w ustawie nie wyczerpują docelowego, kompletnego zakresu nadzoru nad systemami sztucznej inteligencji w Polsce. Wynika to z faktu, że projekt nie obejmuje obszaru określonego jako wysokiego ryzyka. Docelowo w nadzorze uczestniczyć będą również organy przewidziane w treści przepisów rozporządzenia 2024/1689 jako właściwe do nadzoru nad pozostającymi w ich zakresie kompetencji systemami wysokiego ryzyka. Opracowanie i przyjęcie przepisów w tym zakresie wstępnie uwarunkowane było opublikowaniem wytycznych Komisji Europejskiej dotyczących systemów wysokiego ryzyka. Obecnie procedowany jest natomiast projekt uproszczeń do rozporządzenia 2024/1689 (Omnibus AI) wprowadzający znaczne zmiany w zakresie przepisów dotyczących tych systemów w tym terminu ich wejścia w życie. Omawiane działania na szczeblu unijnym mają bezpośredni wpływ na przyjęcie przepisów włączających w system nadzoru organy odpowiedzialne sektorowo za nadzór nad stosowaniem systemów AI w 10 obszarach takich jak m.in. medycyna i produkty lecznicze, transport i motoryzacja czy bezpieczeństwo publiczne, ochrona granic i polityka migracyjna (art. 6, Załączniki II–III). W projekcie określono zadania Komisji, łącząc funkcje kontrolne z aktywnością wspierającą rozwój rynku AI. Kluczowe znaczenie ma nadzór nad przestrzeganiem przepisów unijnych i krajowych, co stanowi podstawową funkcję tego organu. Jednocześnie Komisja pełni ważną rolę w promowaniu innowacji poprzez działania edukacyjne i informacyjne. Zadania związane z opiniowaniem aktów prawnych i współpracą międzynarodową podkreślają strategiczne znaczenie Komisji w kształtowaniu polityki AI. Prowadzenie rejestru skarg tworzy system wczesnego ostrzegania przed zagrożeniami (rejestr ten nie stanowi rejestru publicznego). Szczególnie istotne jest zadanie tworzenia piaskownic regulacyjnych, które pozwalają na testowanie innowacyjnych rozwiązań w kontrolowanych warunkach. Kompetencje w zakresie wydawania decyzji i postanowień zapewniają Komisji niezbędne narzędzia do skutecznego wykonywania funkcji nadzorczych. Projekt umacnia także rolę Komisji jako ciała opiniotwórczego i doradczego w procesie legislacyjnym dotyczącym obszaru sztucznej inteligencji. Możliwość przedstawiania propozycji działań legislacyjnych ministrowi właściwemu do spraw informatyzacji pozwala na aktywne kształtowanie polityki regulacyjnej. Obowiązek publikowania przykładów dobrych praktyk służy upowszechnianiu standardów i promocji najlepszych rozwiązań wśród przedsiębiorców i jednostek publicznych. Przepisy te tworzą mechanizm oddziaływania Komisji nie tylko poprzez kontrolę, ale także poprzez inspirowanie i edukowanie uczestników rynku AI. Komisja może ponadto wydawać opinie indywidualne i wyjaśnienia. Przepisy art. 8–art. 17 stanowią kompleksową regulację w tym zakresie w odniesieniu do stosowania przepisów rozporządzenia 2024/1689 i ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. Art. 8 wprowadza ogólną kompetencję Komisji do wydawania opinii indywidualnych oraz wyjaśnień. Komisja, jako organ nadzoru rynku nad systemami sztucznej inteligencji, posiada szczególne kompetencje merytoryczne, pozwalające na dokonywanie wiążących ocen prawnych w konkretnych przypadkach, a także formułowanie ogólnych wskazówek 11 interpretacyjnych. W art. 8 ust. 2 wprost wskazane zostało, że przy formułowaniu takich stanowisk Komisja powinna brać pod uwagę opinie i zalecenia Europejskiej Rady ds. Sztucznej Inteligencji, co służy zapewnieniu zgodności krajowej wykładni z kierunkiem wykładni prawa Unii Europejskiej w tym obszarze. Art. 9 szczegółowo reguluje procedurę uzyskiwania opinii indywidualnej, czyli wiążącego stanowiska Komisji w indywidualnej sprawie. Konstrukcja ta ma na celu stworzenie bezpiecznej przestrzeni dla przedsiębiorców i innych podmiotów do uzyskania pewności co do legalności planowanych działań. Możliwość wystąpienia z wnioskiem zarówno w odniesieniu do stanów faktycznych już zaistniałych, jak i zdarzeń przyszłych, czyni z opinii indywidualnej skuteczne narzędzie zapobiegania naruszeniom prawa, a także umożliwia zgodne z przepisami planowanie działalności gospodarczej. Obowiązek uiszczenia opłaty, o której mowa w art. 11, ma charakter dyscyplinujący oraz ogranicza możliwość nadużywania instytucji opinii do prób uzyskiwania bezpłatnych porad prawnych. Zachowano przy tym gwarancje proceduralne – m.in. możliwość wezwania do uzupełnienia braków formalnych, określenie maksymalnych terminów na wydanie opinii oraz przyjęcie fikcji prawnej pozytywnego rozpatrzenia w przypadku ich przekroczenia. Wprowadzenie fikcji pozytywnego rozpatrzenia (tzw. milcząca zgoda) wzmacnia pozycję prawną wnioskodawców i mobilizuje Komisję do sprawnego działania. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. Wiążący charakter opinii dla Komisji i innych organów państwowych oraz jednostek organizacyjnych określonych w ustawie, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego wzmacnia bezpieczeństwo prawne wnioskodawców i ogranicza ryzyko rozbieżnych interpretacji tego samego stanu faktycznego przez różne instytucje. Ochrona tej decyzji przed zmianą, gdy wywołała ona nieodwracalne skutki prawne, chroni stabilność stosunków prawnych i respektuje zasadę zaufania obywateli do państwa. Wprowadzono także mechanizmy weryfikacji i korekty opinii. W drodze zmiany, uchylenia lub stwierdzenia jej wygaśnięcia – w przypadku zmiany stanu prawnego, ujawnienia fałszywego oświadczenia lub wystąpienia innej przesłanki. Daje to Komisji elastyczne narzędzia dostosowywania się do zmieniających się uwarunkowań prawnych i faktycznych. Art. 16 uzupełnia regulację przez umożliwienie Komisji wydawania wyjaśnień o charakterze ogólnym dotyczących stosowania przepisów. Wyjaśnienia odmiennie od opinii indywidualnych nie mają charakteru wiążącego. Pełnią natomiast rolę instrukcyjną i edukacyjną, która jest istotna z punktu widzenia podmiotów objętych przepisami rozparzenia 12 2024/1689. Ułatwią one jednolite rozumienie i stosowanie prawa przez szeroki krąg podmiotów, zarówno urzędników, przedsiębiorców, jak i obywateli. Uwzględnienie dorobku orzeczniczego oraz dokumentów interpretacyjnych Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji stanowi wyraz dążenia do harmonizacji wykładni krajowej z unijną. Art. 17 ustanawia zasadę przejrzystości poprzez nakaz publikowania wydanych opinii i wyjaśnień (po ich anonimizacji) w Biuletynie Informacji Publicznej. Służy to upowszechnianiu wiedzy prawnej, ułatwia dostęp do informacji, a także może zapobiegać składaniu wielokrotnie podobnych wniosków w analogicznych sprawach. Dodatkowo pełni funkcję kontrolną i legitymizującą działania Komisji w oczach opinii publicznej. Przepisy art. 8–art. 17 stanowią spójny system umożliwiający prawidłowe, jednolite i przewidywalne stosowanie przepisów dotyczących sztucznej inteligencji, zarówno w wymiarze indywidualnym, jak i ogólnym. Chronią interesy podmiotów regulowanych, wzmacniają zaufanie do instytucji publicznych, wspierają harmonizację krajowego i unijnego porządku prawnego oraz zwiększają bezpieczeństwo obrotu prawnego. Ich znaczenie praktyczne będzie rosło wraz z rozwojem zastosowań sztucznej inteligencji i dynamiką zmian regulacyjnych w tym obszarze. Innym z zadań i uprawnień Komisji będzie możliwość przedstawiania sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Komisja będzie mogła wykonywać to zadanie z własnej inicjatywy, jak i na wniosek. Skład Komisji został zaprojektowany tak, aby zapewnić reprezentację kluczowych podmiotów zaangażowanych w nadzór nad technologiami cyfrowymi, przy zachowaniu efektywności procesu decyzyjnego. Członkami Komisji będą Przewodniczący oraz dwóch Zastępców, a także czterej przedstawiciele wskazani przez organy publiczne: Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisję Nadzoru Finansowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej. Obecność przedstawicieli instytucji o wysokim poziomie niezależności gwarantuje uwzględnienie różnych perspektyw w procesie decyzyjnym, a mechanizm zapraszania ekspertów z głosem doradczym pozwala na wykorzystanie specjalistycznej wiedzy w złożonych kwestiach technicznych, co jest szczególnie ważne w dynamicznie rozwijającej się dziedzinie AI. Ustawa dodatkowo zapewnia Przewodniczącemu Komisji, jego Zastępcom oraz członkom Komisji pełną niezależność w zakresie zadań realizowanych przez Komisję. 13 W projekcie przewidziano ponadto możliwość stałego udziału w posiedzeniach Komisji również przedstawicieli dodatkowych organów. Przepisy gwarantują udział bez prawa głosu na zasadach stałego obserwatora przedstawicieli organów i podmiotów wskazanych na zasadach określonych w art. 77 rozporządzenia 2024/1689 oraz przedstawicieli ministrów. Zapewni to koordynację działań z administracją rządową, pozwoli na sprawną współpracę organów, a także na szybsze reagowanie w przypadku zdarzeń o potencjalnie negatywnym wpływie na bezpieczeństwo obywateli i Państwa. Zasady dotyczące wynagrodzeń i zwrotu kosztów podróży zostały określone tak, aby zapewnić profesjonalizm prac Komisji przy zachowaniu zasad racjonalności wydatków publicznych. Procedury pracy Komisji zostały określone z zachowaniem zasad przejrzystości i efektywności, co jest kluczowe dla sprawnego funkcjonowania tego organu. Możliwość podejmowania uchwał zarówno na posiedzeniach, jak i w trybie obiegowym, a także zdalnego uczestnictwa w obradach, odpowiada współczesnym standardom funkcjonowania organów administracji i zapewnia elastyczność działania przy mniejszym obciążeniu kosztami i czasochłonnością wykonywanych zadań. Mechanizmy dotyczące wyłączenia członków Komisji z posiedzeń w przypadku konfliktu interesów zapewniają bezstronność i obiektywizm postępowania. Szczegółowe zasady funkcjonowania Komisji, mające zostać określone w regulaminie, pozwolą na dostosowanie procedur do specyfiki rozpatrywanych spraw, przy jednoczesnym zachowaniu podstawowych standardów dobrego zarządzania. Sposób podejmowania uchwał, w tym zasady rozstrzygania remisów, został zaprojektowany tak, aby zapewnić skuteczność działania Komisji przy zachowaniu zasad demokratycznego podejmowania decyzji. Przepisy określają zadania Przewodniczącego Komisji i składają się na konsekwentny system kierowania i reprezentacji tego organu. Przewodniczący pełni kluczową rolę w koordynacji prac Komisji, będąc odpowiedzialnym za jej reprezentację zewnętrzną i sprawozdawczość. Szczególnie istotne jest prawo do wyznaczania Sekretarza Komisji i Zastępców Przewodniczącego, co zapewnia płynność funkcjonowania organu. Obowiązek publikowania wykazu organów w BIP i przekazywania informacji do instytucji unijnych gwarantuje przejrzystość działań i spójność z wymogami europejskimi. Kompetencja do określania wymogów dotyczących funkcjonowania Komisji w drodze zarządzenia pozwala na elastyczne dostosowywanie się do zmieniających się potrzeb rynku AI. Zadania związane z podpisywaniem zaleceń pokontrolnych i podpisywaniem uchwał wzmacniają pozycję Przewodniczącego jako lidera merytorycznego Komisji. Dodatkowo współdziałanie 14 Przewodniczącego Komisji z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji wpłynie na zapewnienie obsługi organizacyjnej, administracyjnej oraz merytorycznej Komisji, a także na zapewnienie środków finansowych na działania określone rozporządzeniem 2024/1689 i ustawą. Co roku Przewodniczący Komisji będzie ponadto obowiązany do przedstawiania szczegółowego sprawozdania Sejmowi, co wzmacnia jej odpowiedzialność przed władzą ustawodawczą i społeczeństwem. Zakres sprawozdania obejmuje zarówno aspekty merytoryczne (wyniki kontroli, analiza trendów), jak i finansowe (realizacja budżetu), co zapewnia kompleksową ocenę działalności organu. Część finansowa sprawozdania Komisji odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. Publikacja sprawozdania w BIP gwarantuje dostępność informacji dla wszystkich zainteresowanych podmiotów. Szczególnie istotne jest uwzględnienie w sprawozdaniu analizy ryzyk związanych z rozwojem AI, co pozwala na bieżące monitorowanie zagrożeń i dostosowywanie polityki w tym obszarze. W projekcie przewidziano także regulacje nakładające na Przewodniczącego Komisji obowiązek dotyczący ustanawiania w formie zarządzenia, w zakresie zadań Komisji, wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Przewodniczący odpowiedzialny będzie także za ich coroczną ocenę oraz ewentualną aktualizację. Przepis zapewnia bieżącą aktualizację zasobów niezbędnych do realizacji zadań nadzorczych, organizacyjnych i administracyjnych. Dzięki temu zapewnione zostanie, że organ nadzorczy nie tylko formalnie istnieje, ale realnie może wykonywać swoje funkcje z odpowiednią skutecznością i niezależnością. Dodatkowo Przewodniczący Komisji zobowiązany został do sporządzenia i przekazania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w formie elektronicznej. Sprawozdanie to ma na celu ocenę efektywności działania krajowego organu nadzorczego oraz przedstawienie informacji o dostępnych zasobach. Przepis ten zapewnia realizację obowiązków sprawozdawczych wobec instytucji unijnych. W projekcie ustawy przewidziano, że Przewodniczącego Komisji powołuje Sejm za zgodą Senatu. Rozwiązanie to zostało przyjęte z uwagi na szczególny charakter funkcji przewodniczącego oraz strategiczne znaczenie Komisji w systemie instytucjonalnym państwa. Oznacza to, że osoba stojąca na jej czele musi nie tylko posiadać wysokie kompetencje merytoryczne, ale także cieszyć się silną legitymacją demokratyczną i zaufaniem szerokiego spektrum politycznego. 15 Powoływanie Przewodniczącego Komisji przez Sejm za zgodą Senatu wprowadza mechanizm równowagi i wzajemnej kontroli między obiema izbami parlamentu. Taki model procedury wyboru służy ograniczeniu ryzyka upolitycznienia stanowiska oraz zwiększa transparentność procesu, co ma szczególne znaczenie w przypadku urzędu odpowiedzialnego za nadzór nad dziedziną dynamicznie rozwijającą się, jaką jest sztuczna inteligencja. Ponadto, przyjęta formuła jest spójna z rozwiązaniami ustrojowymi przewidzianymi w Konstytucji RP oraz w ustawach regulujących wybór innych kluczowych funkcjonariuszy publicznych. Analogiczne mechanizmy powołania – przez Sejm za zgodą Senatu – funkcjonują w przypadku Rzecznika Praw Obywatelskich czy Prezesa Najwyższej Izby Kontroli. Wprowadzenie podobnego trybu w odniesieniu do przewodniczącego Komisji gwarantuje ciągłość i konsekwencję w zakresie standardów wyboru osób na wysokie stanowiska państwowe, co sprzyja umacnianiu zasad państwa prawa, przejrzystości i odpowiedzialności instytucji publicznych. Projekt wprowadza limit dwóch kadencji, który zapobiega nadmiernej koncentracji władzy. Przepisy te tworzą równowagę między potrzebą stabilności kierownictwa Komisji a koniecznością okresowej weryfikacji jego działań. Określono także okoliczności przedterminowego zakończenia kadencji Przewodniczącego Komisji, co stanowi ważny mechanizm kontrolny. Katalog przyczyn odwołania obejmuje zarówno sytuacje obiektywne (utrata zdolności do pełnienia funkcji), jak i przypadki naruszenia zasad etycznych (skazanie za przestępstwo). Szczegółowa procedura naboru na stanowisko Zastępcy Przewodniczącego została zaprojektowana tak, aby zapewnić przejrzystość i merytokratyczny charakter procesu selekcji. Wymóg otwartego konkursu i publikacji ogłoszeń w BIP gwarantuje równy dostęp do stanowiska. Powołanie specjalistycznego zespołu rekrutacyjnego oraz możliwość zaangażowania zewnętrznych ekspertów zapewniają natomiast obiektywną ocenę kandydatów. Szczegółowe wymagania dotyczące protokołu i publikacji wyników zwiększają odpowiedzialność za podejmowane decyzje. Projektowane przepisy tworzą zatem system, który z jednej strony zapewnia wysokie kwalifikacje osób powoływanych na stanowiska, z drugiej zaś – przejrzystość procesu selekcji. Wprowadzono ograniczenia działalności dla członków Przewodniczącego i zastępców Przewodniczącego Komisji, co ma na celu wyeliminowanie potencjalnych konfliktów interesów. Zakaz przynależności do partii politycznych i związków zawodowych wzmacnia ponadto apolityczny charakter organu. Możliwość łączenia funkcji tylko z działalnością 16 naukową odpowiada specyfice obszaru AI, gdzie współpraca z środowiskiem akademickim jest szczególnie pożądana. Instytucja oświadczenia o braku konfliktu interesów stanowi natomiast dodatkowe zabezpieczenie od strony etycznej. Przepisy te zostały zaprojektowane tak, aby tworzyć system gwarancji niezależności i bezstronności Przewodniczącego i Zastępców Przewodniczącego Komisji, co jest szczególnie ważne w kontekście wrażliwych kwestii regulacyjnych dotyczących sztucznej inteligencji. Projekt ustawy kładzie również duży nacisk na zapewnienie ochrony tajemnic prawnie chronionych oraz danych osobowych. W celu ochrony zarówno tajemnicy prawnie chronionych, jak i wrażliwych informacji uzyskanych podczas wykonywania obowiązków wynikających z rozporządzenia 2024/1689 i ustawy, ustanowiono szeroki obowiązek zachowania tajemnicy przez osoby związane z Komisją. Obowiązek utrzymuje się nawet po zakończeniu współpracy, co zabezpiecza przed nieuprawnionym ujawnieniem informacji. Jest to szczególnie istotne w kontekście ochrony danych osobowych, tajemnic handlowych oraz innych poufnych informacji. Wyjątek dotyczący zawiadomień o przestępstwie, co tworzy równowagę między ochroną informacji a koniecznością zgłaszania nieprawidłowości. Wprowadzenie tego wyjątku pozwala na ujawnienie informacji w sytuacjach, gdy jest to konieczne dla zapobieżenia lub ścigania przestępstw. Zgłaszanie przestępstw jest niezbędne dla zapewnienia praworządności, a także dla ochrony interesów publicznych. Określono także zasady przetwarzania danych osobowych przez Komisję w związku z realizacją jej zadań. Przetwarzanie będzie dotyczyło również danych, o których mowa w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych). Przepisy uwzględniają specyfikę danych przetwarzanych w systemach AI, jednocześnie wprowadzając mechanizmy okresowego przeglądu i usuwania zbędnych informacji. Przepis ten pozwala Komisji na dostęp do szczególnych danych w zakresie niezbędnym do realizacji jej zadań, jednocześnie określając warunki ich przekazywania innym uprawnionym podmiotom. Rozwiązanie to tworzy równowagę między efektywnością nadzoru a ochroną danych i tajemnicy przedsiębiorcy. Art. 43 projektu ustawy ma na celu stworzenie kompleksowych i trwałych ram organizacyjnych, które zapewnią skuteczne i profesjonalne wsparcie dla działalności Komisji i 17 Przewodniczącego Komisji. Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji. Zgodnie z przepisami ustawy urząd obsługujący ministra właściwego do spraw informatyzacji zapewni obsługę administracyjno-kancelaryjną Komisji i Przewodniczącego Komisji. Komisja oraz Przewodniczący Komisji będą mogli upoważnić pracowników właściwej komórki ww. urzędu do realizacji swoich zadań wynikających z rozporządzenia 2024/1689 i ustawy. Upoważnienie to nie może jednak obejmować wydawania postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 oraz ustawy. W tym celu planuje się utworzenie nowej komórki organizacyjnej urzędu, której organizacja i zasady funkcjonowania zostaną określone w regulaminie. Do spraw wynikających z zatrudnienia w ww. komórce organizacyjnej urzędu będą miały zastosowanie przepisy obowiązujące w tym zakresie w Ministerstwie Cyfryzacji. Warto jednak zaznaczyć, że z uwagi na przedmiot regulacji osoby wykonujące na podstawie upoważnienia zadania na rzecz Komisji będą zatrudniane na postawie przepisów ustawy o służbie cywilnej, kodeksu pracy, ale też nie wyklucza się umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. W celu wzmocnienia niezależności organu i pracowników realizujących jego zadania przyjęto rozwiązanie, zgodnie z którym Przewodniczący Komisji będzie współdziałał z Dyrektorem Generalnym urzędu w zakresie spraw pracowniczych wynikających z art. 25 ust. 4 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej, a także w zakresie spraw związanych z audytem i ochroną informacji. Pracownicy ww. komórki organizacyjnej będą podlegali Przewodniczącemu Komisji. Przepisy ustawy także określają status prawny Przewodniczącego Komisji, jego Zastępców i członków Komisji. Projekt ustawy wskazuje wysokość wynagrodzenia Przewodniczącego Komisji i jego zastępców. Mając na uwadze zachowanie transparentności finansowej oraz niezależności osób powołanych na ww. stanowiska, wysokość wynagrodzenia została wskazana wprost przez odniesienie do kwoty bazowej ustalanej z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. Rozwiązanie to będzie odpowiadało rzeczywistym potrzebom organizacyjnym wynikającym ze specyfiki i zakresu zadań Komisji i posłuży zachowaniu równowagi w zakresie niezależności Komisji. Zgodnie z art. 45, jako organ opiniodawczo-doradczy Komisji, zostanie ustanowiona Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”. Ma ona zapewnić wsparcie 18 eksperckie w zakresie sztucznej inteligencji. Rada ma na celu włączenie szerokiego grona interesariuszy, co zwiększa transparentność i demokratyczność działań Komisji. Dzięki temu możliwe jest uwzględnienie różnorodnych perspektyw i interesów społecznych oraz gospodarczych, co jest kluczowe w dynamicznie rozwijającej się dziedzinie AI. Skład Rady obejmuje od dziewięciu do piętnastu członków wybieranych na dwuletnią kadencję. Taki zakres liczbowy zapewnia różnorodność opinii i kompetencji, jednocześnie umożliwiając efektywne funkcjonowanie Rady. Dwuletnia kadencja pozwala na regularne odświeżanie składu Rady, co sprzyja dynamicznemu rozwojowi i adaptacji do zmieniających się warunków technologicznych. Regularna rotacja członków Rady zapewnia również, że nowe idee i podejścia są wprowadzane do dyskusji, co jest niezbędne w kontekście szybko ewoluującej technologii. Kandydaci na członków Rady mogą być zgłaszani przez różne podmioty, w tym przedstawicieli samorządów, rzeczników praw, izby gospodarcze, organizacje związkowe, uczelnie wyższe oraz fundacje i stowarzyszenia. Chociaż przepis określa bardzo szeroki krąg podmiotów to wzięto jednak pod uwagę zakres spraw mających podlegać obradom Rady, bezpieczeństwo przetwarzanych informacji oraz efektywne działanie organu opiniodawczo-doradczego. Stąd też w przypadku fundacji i stowarzyszeń wymagane jest posiadanie wpisu do Krajowego Rejestru Sądowego. KRS daje również pewność prawną ciągłości działania podmiotu, a to przekłada się również na stabilność składu Społecznej Rady. Taki szeroki zakres podmiotów zgłaszających kandydatów zapewnia reprezentatywność i uwzględnienie różnych perspektyw oraz interesów społecznych i gospodarczych. Dzięki temu Rada może działać w sposób bardziej zrównoważony i uwzględniać potrzeby różnych grup społecznych, co jest kluczowe dla skutecznego wdrażania i regulowania technologii AI. Wymogi dla członków Rady obejmują posiadanie wiedzy i doświadczenia w obszarze AI, niekaralność, pełnię praw publicznych oraz wyrażenie zgody na kandydowanie. Te kryteria mają na celu zapewnienie, że członkowie Rady będą kompetentni, wiarygodni i zaangażowani w pełnienie swoich obowiązków. Wymóg posiadania wiedzy i doświadczenia w obszarze AI gwarantuje, że członkowie Rady będą w stanie podejmować świadome i merytoryczne decyzje, które będą miały realny wpływ na rozwój i regulację tej technologii. Powoływanie członków Rady przez Komisję spośród zgłoszonych kandydatów zapewnia, że wybór członków jest przejrzysty i oparty na merytorycznych przesłankach. Proces ten ma na celu wyłonienie najbardziej kompetentnych i zaangażowanych osób, które będą w stanie skutecznie wspierać Komisję w jej działaniach. 19 Wygaśnięcie członkostwa w Radzie przed upływem kadencji może nastąpić z powodu rezygnacji, śmierci, niewykonywania obowiązków, skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe lub pozbawienia praw publicznych. Te przepisy mają na celu utrzymanie wysokiego standardu etycznego i zaangażowania członków Rady. W przypadku, gdy członek Rady nie jest w stanie wypełniać swoich obowiązków, konieczne jest zapewnienie, że jego miejsce zajmie osoba, która będzie w stanie aktywnie uczestniczyć w pracach Rady. Powiadomienie o wygaśnięciu członkostwa przez Komisję zapewnia formalność i jasność procedur związanych z zakończeniem członkostwa. Dzięki temu proces ten jest przejrzysty i zrozumiały dla wszystkich zainteresowanych stron. Odwołanie członka Rady przez Komisję w przypadku naruszenia przepisów lub niezachowania tajemnicy służbowej zapewnia, że członkowie Rady działają zgodnie z obowiązującymi normami prawnymi i etycznymi. Jest to kluczowe dla utrzymania zaufania do Rady i jej decyzji. Wygaśnięcie członkostwa w Radzie w przypadku rezygnacji jest formalnym potwierdzeniem zakończenia członkostwa na wniosek członka. Jest to ważne, aby zapewnić, że członkowie Rady mają możliwość dobrowolnego zakończenia swojej kadencji, jeśli uznają to za konieczne. Wybór nowego członka Rady w przypadku wygaśnięcia członkostwa lub odwołania zapewnia ciągłość działania Rady i możliwość szybkiego uzupełnienia jej składu. Dzięki temu Rada może nadal efektywnie funkcjonować i wspierać Komisję w jej działaniach, nawet w przypadku zmian personalnych. Zgodnie z art. 46 do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Rada ma możliwość podejmowania oraz przekazywania Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4. Dzięki temu może aktywnie uczestniczyć w monitorowaniu przestrzegania przepisów i inicjować działania mające na celu ich egzekwowanie. Rada ma również prawo wyrażania opinii i stanowisk przekazywanych do wiadomości Komisji z inicjatywy własnej. Taka możliwość pozwala Radzie na proaktywne działanie i podejmowanie inicjatyw, które mogą przyczynić się do lepszego zarządzania i regulacji technologii AI. Ponadto Rada podejmuje uchwały i przekazuje wnioski w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. Dzięki temu Rada może skutecznie reagować na przypadki naruszeń i wspierać Komisję w egzekwowaniu przepisów. 20 Rada wyraża opinię lub stanowisko, o którym mowa w art. 46 ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, co oznacza, że Komisja ma swobodę w podejmowaniu decyzji na podstawie własnych analiz i ocen. Niemniej jednak, opinie i stanowiska Rady stanowią cenne źródło informacji i mogą znacząco wpłynąć na decyzje Komisji. Opinie i stanowiska Rady są wydawane w drodze uchwały podjętej większością głosów wszystkich członków Rady. Przy czym obecność pełnego składu Rady podczas głosowania nie jest wymagana. Oznacza to, że w przypadku 9 osobowego składu Rady niezbędne będzie uzyskanie 5 głosów „Za”, nawet gdy nie wszyscy członkowie będą obecni na głosowaniu. Taki sposób podejmowania decyzji zapewnia demokratyczność i transparentność działań Rady. Uchwały Rady są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, co zapewnia dostępność informacji dla wszystkich zainteresowanych stron i zwiększa transparentność działań Rady. Zgodnie z art. 47 Komisja powołuje i odwołuje Przewodniczącego Rady oraz Zastępcę Przewodniczącego Rady spośród jej członków. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady, co zapewnia demokratyczność i transparentność procesu wyboru liderów Rady. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz, co jest kluczowe dla efektywnego funkcjonowania Rady oraz jej komunikacji zewnętrznej. W przypadku nieobecności Przewodniczącego Rady jego obowiązki przejmuje Zastępca Przewodniczącego Rady, co zapewnia ciągłość działania Rady. Do udziału w posiedzeniu Rady mogą być wskazane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Taki przepis umożliwia włączenie dodatkowych ekspertów i interesariuszy w dyskusje oraz może wzbogacić proces decyzyjny i zapewnić bardziej kompleksowe podejście do omawianych kwestii. Członek Rady oraz osoby zapraszane do udziału w pracach Rady są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji w Radzie. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady. Te przepisy mają na celu ochronę poufnych informacji oraz zapewnienie, że członkowie Rady działają zgodnie z najwyższymi standardami etycznymi. 21 Członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów. Te przepisy mają na celu zapewnienie, że członkowie Rady działają w sposób niezależny i bezstronny, co jest kluczowe dla utrzymania zaufania do Rady i jej decyzji. Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie, co podkreśla społeczny charakter jej działalności i zaangażowanie w sprawy publiczne. Niemniej za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77(5) § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Dzięki temu członkowie Rady nie ponoszą dodatkowych kosztów związanych z wykonywaniem swoich obowiązków. Powyższe zasady dotyczą również osób zapraszanych do udziału w pracach Rady. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję zwykłą większością głosów. Taki sposób uchwalania regulaminu zapewnia, że zasady działania Rady są ustalane w sposób demokratyczny i transparentny. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji, aby Rada miała dostęp do niezbędnych zasobów administracyjnych, umożliwiających jej efektywne funkcjonowanie. Rada może współpracować, w zakresie spraw określonych w ustawie i rozporządzeniu 2024/1689 oraz przy zachowaniu zasady zakazu konfliktu interesów, z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw będących przedmiotem posiedzenia. Taka współpraca pozwala na wymianę doświadczeń i najlepszych praktyk, co może przyczynić się do lepszego zarządzania i regulacji technologii SI na poziomie krajowym i międzynarodowym. Rozdział 3 – Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 48– art. 58) Przepisy projektowanej ustawy ustanawiają podstawę prawną dla prowadzenia przez Komisję kontroli operatorów uczestniczących w łańcuchu wartości AI. Kontrola jako kluczowy mechanizm nadzorczy, może być prowadzona zarówno na podstawie zatwierdzonego planu, informacji uzyskanych przez Komisję, jak i w ramach bieżącego monitorowania. Proponowane przepisy uwzględniają różnorodność statusów kontrolowanych podmiotów – przedsiębiorców oraz innych jednostek, jednocześnie wyłączając zastosowanie art. 6 pkt 1 oraz art. 51 ust. 3a ustawy – Prawo przedsiębiorców w celu dopasowania procedur do specyfiki nadzoru nad systemami sztucznej inteligencji. Wprowadzenie regulacji opartych 22 na Kodeksie postępowania administracyjnego ma na celu zapewnienie spójności oraz przejrzystości działań kontrolnych. Projekt określa tryb wszczynania kontroli, umożliwiając jej rozpoczęcie z urzędu lub na wniosek uprawnionych organów, takich jak Przewodniczący Komisji, jego zastępca czy członkowie Komisji oraz organy lub podmioty, o którym mowa w art. 77 rozporządzenia 2024/1689. W trosce o poszanowanie praw podmiotów objętych nadzorem wprowadza się zasadę zawiadamiania kontrolowanego z wyprzedzeniem, przewidując jednak możliwość odstąpienia od tego obowiązku w sytuacjach wyjątkowych, np. w przypadku zagrożenia życia, zdrowia lub praw podstawowych. Wprowadza się również zasadę przeprowadzania kontroli w sposób zdalny, co stanowi odpowiedź na wymogi nowoczesnych technologii. Istotnym elementem projektu jest uregulowanie zasad upoważniania osób do przeprowadzania kontroli – pracowników właściwej komórki urzędu obsługującego ministra właściwego do spraw informatyzacji. W celu zapewnienia bezstronności kontrolujących, wprowadzono wymóg składania oświadczeń o braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych w toku kontroli. Projekt precyzuje procedury organizacyjne kontroli, w tym wymóg okazania imiennego upoważnienia oraz dokumentu tożsamości przez kontrolujących. Dokumenty te powinny zawierać szczegółowe informacje zapewniające przejrzystość oraz legalność działań Komisji. Proponowane przepisy umożliwiają elastyczne dostosowanie procedur kontrolnych do konkretnych przypadków dzięki powiązaniu regulacji ustawowych z wewnętrznymi regulaminami Komisji. Zgodnie z treścią projektowanych przepisów kontrolujący będzie ustalał stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. W ramach wyjaśnień kontrolujący będzie mógł np. żądać omówienia przyczyny, znaczenia lub sposobu działania danego systemu czy zjawiska, także np. sporządzenia analiz, zestawień czy obliczeń. Celem jest usunięcie zaistniałych w trakcie kontroli wątpliwości, ułatwianie zrozumienia skomplikowanych czy niejasnych informacji, ich uporządkowanie lub doprecyzowanie. 23 Jeżeli jest to technicznie możliwe, kontrolujący będzie mógł zabezpieczyć dowody przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54 ustawy ma na celu zapewnienie poszanowania prawa kontrolowanego do zachowania poufności komunikacji z profesjonalnym pełnomocnikiem prawnym oraz zagwarantowanie możliwości skutecznego korzystania z ochrony prawnej w toku postępowania prowadzonego przez Komisję. Zapewnia się objęcie ochroną prawną wszystkich pism i dokumentów, dotyczących realizacji prawa kontrolowanego do uzyskania ochrony prawnej, które zostały ujawnione w toku kontroli. Przepis ten stanowi realizację konstytucyjnej zasady prawa do obrony oraz prawa do rzetelnego procesu, znajdujących swoje źródło m.in. w art. 42 ust. 2 Konstytucji RP oraz w standardach międzynarodowych, takich jak art. 6 Europejskiej Konwencji Praw Człowieka. Art. 54 ma na celu ochronę tajemnicy zawodowej adwokata, radcy prawnego oraz innych osób uprawnionych do świadczenia pomocy prawnej. Dotyczy to zarówno komunikacji z tymi osobami, jak i dokumentów wytworzonych wyłącznie w celu uzyskania ochrony prawnej w kontekście konkretnego postępowania prowadzonego przez Komisję. Przepis reguluje ponadto procedurę postępowania kontrolującego w przypadku, gdy kontrolowany lub osoba przez niego upoważniona złoży oświadczenie, że określone dokumenty lub pisma objęte są ochroną wynikającą z tajemnicy zawodowej, o której mowa w ust. 1. W celu zapewnienia równowagi pomiędzy potrzebą skutecznego prowadzenia kontroli a koniecznością poszanowania konstytucyjnie chronionych praw, w tym prawa do obrony i tajemnicy komunikacji z pełnomocnikiem, kontrolujący uzyskuje ograniczony dostęp do dokumentu – wyłącznie w zakresie umożliwiającym identyfikację jego podstawowych cech formalnych, takich jak autor, adresat, tytuł, przedmiot oraz data sporządzenia. Dodatkowo kontrolujący może żądać od kontrolowanego lub osoby przez niego upoważnionej ustnych wyjaśnień dotyczących złożonego oświadczenia, a także przygotowania wersji dokumentu pozbawionej informacji objętych ochroną, o ile jest to technicznie możliwe. Wprowadzenie tej procedury ma na celu umożliwienie weryfikacji zasadności oświadczenia bez naruszania chronionej treści dokumentu. Projektodawca przewidział jednak konieczność zapewnienia równowagi pomiędzy ochroną tajemnicy zawodowej a efektywnością działań kontrolnych. W tym celu w przepisie wskazano, że to na kontrolowanym ciąży obowiązek wykazania, iż sporne dokumenty rzeczywiście spełniają kryteria określone w ust. 1. Takie rozwiązanie zapobiega nadużyciom i uniemożliwia 24 arbitralne powoływanie się na poufność dokumentów w celu utrudnienia kontroli. Kontrolowany będzie musiał w sposób wiarygodny i uzasadniony przedstawić dowody potwierdzające, że dokumenty objęte są ochroną, o której mowa w przepisie. W przypadku powstania wątpliwości co do zasadności oświadczenia, kontrolujący zobowiązany jest do niezwłocznego przekazania dokumentu do Sądu Ochrony Konkurencji i Konsumentów, przy zachowaniu środków zabezpieczających przed ujawnieniem jego treści. Ciężar dowodu w zakresie wykazania, że dokument spełnia przesłanki ochrony, także w tym przypadku będzie spoczywał na kontrolowanym. Sąd, po zapoznaniu się z dokumentem, wyda postanowienie o jego zwrocie kontrolowanemu (w całości lub części), jeżeli uzna, że dokument podlega ochronie, albo o jego przekazaniu właściwemu organowi, jeżeli dokument nie spełnia przesłanek określonych w ust. 1. Na postanowienie sądu projektodawca przewidział możliwość złożenia zażalenia, a jego wykonanie następuje z chwilą uprawomocnienia. Projektowany przepis jest zgodny z zasadami państwa prawa oraz proporcjonalności. Uwzględnia konieczność ochrony fundamentalnych praw podmiotów objętych kontrolą, jednocześnie nie pozbawiając organu kontrolnego możliwości skutecznego przeprowadzenia postępowania w granicach prawa. Rozwiązanie to harmonizuje również z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej dotyczącym ochrony tajemnicy komunikacji z prawnikiem w ramach postępowań administracyjnych prowadzonych przez organy nadzoru lub ochrony konkurencji. Art. 55 przewiduje możliwość zwrócenia się przez Komisję do Policji oraz do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli w szczególnie uzasadnionych przypadkach. Wprowadzenie tego rozwiązania wynika z potrzeby zapewnienia Komisji instrumentów umożliwiających przeprowadzenie kontroli w sposób bezpieczny, rzetelny i skuteczny – zwłaszcza w sytuacjach, gdy czynności kontrolne mogą napotkać na opór lub wymaga specjalistycznego wsparcia informatycznego czy wiadomości specjalnych. Warto podkreślić, że jednostki podległe ministrowi właściwemu do spraw informatyzacji skupiają grono ekspertów z szeroko pojętej informatyzacji i dzięki temu mogą stanowić niezbędną pomoc ekspercką z zakresu bezpieczeństwa i zgodności z przepisami systemów sztucznej inteligencji od strony technologicznej w przypadku braku ekspertów z danej dziedziny w ramach pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji. 25 Przepis doprecyzowuje również zakres udzielanej pomocy. Pomoc Policji ma na celu zapewnienie porządku publicznego, ochrony osób uczestniczących w kontroli oraz poszanowania godności osób obecnych podczas czynności kontrolnych. Z kolei pomoc jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji skupia się na sprawach informatycznych i aspektach technicznych, w tym na weryfikacji zgodności systemów sztucznej inteligencji z obowiązującymi przepisami oraz na analizie poziomu ich bezpieczeństwa. Takie rozróżnienie kompetencji i obowiązków odpowiada specyfice zadań obu rodzajów podmiotów wspierających. Intencją projektodawcy jest, aby możliwe było udzielenie wszelkiego niezbędnego wsparcia informatycznego oraz w zakresie wiadomości specjalnych w celu ustalenia stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689. Ponadto uregulowane zostały formalne wymogi związane z występowaniem o pomoc oraz terminy – standardowo minimum 7 dni przed planowaną kontrolą, natomiast w sytuacjach niecierpiących zwłoki – minimum 3 dni. Ma to na celu zapewnienie odpowiedniego czasu na organizację wsparcia i koordynację działań, przy jednoczesnym uwzględnieniu wyjątkowych przypadków wymagających szybszego działania. Art. 55 wprowadza jasne zasady rozliczania kosztów związanych z pomocą udzieloną przez Policję i jednostki informatyczne. Koszty te pokrywa Komisja według stawki zryczałtowanej, ustalonej w sposób transparentny i powiązany z przeciętnym wynagrodzeniem w gospodarce, co sprzyja przewidywalności wydatków i ogranicza ryzyko sporów finansowych. Przepis art. 56 stanowi kluczowy element procedury kontrolnej, który reguluje sposób dokumentowania czynności podejmowanych przez organ kontrolujący oraz relacji z kontrolowanym podmiotem. Stanowi on wyraz zasady partycypacji i transparentności. Pozwala na uruchomienie mechanizmu konsultacyjnego, w ramach którego kontrolowany ma realną możliwość odniesienia się do ustaleń kontroli. Przepis wprowadza obowiązek sporządzania protokołu kontroli. Wskazanie w przepisie szczegółowych elementów, które muszą znaleźć się w projekcie protokołu, ma charakter gwarancyjny – zapewnia, że niezależnie od rodzaju i zakresu kontroli, podstawowe informacje i ustalenia zostaną przedstawione w sposób przejrzysty i wyczerpujący. Zawarcie danych dotyczących stron, zakresu i przebiegu kontroli, ustaleń faktycznych oraz pouczeń prawnych gwarantuje pełną informacyjność dokumentu i zapobiega sytuacjom niejasności lub nieporozumień. Istotnym aspektem jest również elektronizacja procesu kontrolnego. Obowiązek sporządzania dokumentów w postaci elektronicznej, opatrzonych kwalifikowanym podpisem 26 elektronicznym, podpisem zaufanym lub osobistym, wpisuje się w politykę cyfryzacji administracji publicznej i ma na celu zwiększenie efektywności, szybkości i bezpieczeństwa obiegu dokumentów. Ponadto rozwiązanie to zmniejsza ryzyko fałszowania dokumentów i umożliwia łatwiejsze archiwizowanie oraz kontrolę wewnętrzną. Przewidziane w przepisie prawo do zgłaszania zastrzeżeń w terminie 7 dni od doręczenia protokołu jest istotnym instrumentem procesowym, umożliwiającym kontrolowanemu rzeczywiste zakwestionowanie ustaleń, z którymi się nie zgadza. Dalsze przepisy zapewniają, że zgłoszone zastrzeżenia są przedmiotem merytorycznej analizy, a nie jedynie formalności, co wzmacnia legitymację organu kontrolnego. Jednocześnie obowiązek przedstawienia uzasadnienia w przypadku nieuwzględnienia zastrzeżeń ma istotne znaczenie dowodowe i gwarancyjne. Projekt przewiduje także mechanizm domknięcia procedury kontroli w sytuacji braku współpracy ze strony kontrolowanego. Przyjęcie fikcji prawnej odmowy podpisania protokołu w przypadku jego nieodesłania albo niezgłoszenia zastrzeżeń w terminie oraz obowiązek odnotowania tej odmowy w protokole zabezpiecza interes organu kontrolującego i pozwala zakończyć postępowanie bez konieczności podejmowania dodatkowych czynności. Całościowo przepis ustanawia przejrzystą, szczegółową i zrównoważoną procedurę dokumentowania kontroli, która uwzględnia zarówno interes publiczny, jak i prawa kontrolowanych podmiotów. Dąży on do podniesienia jakości, wiarygodności i efektywności działań kontrolnych oraz minimalizacji ryzyka sporów proceduralnych. Projekt przewiduje również przepisy dotyczące postępowania z wynikami kontroli. W przypadku gdy wynik kontroli wykaże nieprawidłowości stanowiące naruszenia mniejszej wagi w zakresie wykonywania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji Komisji lub przepisów ustawy, Komisja może wydawać zalecenia pokontrolne, zawierające wskazówki dotyczące usunięcia nieprawidłowości oraz terminy ich realizacji. Projekt zaleceń pokontrolnych sporządza kontrolujący. Natomiast w przypadku stwierdzenia poważnych naruszeń przepisów rozporządzenia lub ustawy Komisja jest zobligowana do wszczęcia postępowania administracyjnego. Proponowany projekt ustawy podkreśla wagę nadzoru nad systemami sztucznej inteligencji, wzmacniając ochronę interesów publicznych oraz bezpieczeństwo użytkowników nowoczesnych technologii. Rozdział 4 – Postępowanie przed organem nadzoru (art. 59 – art. 70) 27 Projektowana regulacja ma na celu stworzenie kompletnego i skutecznego trybu postępowania prowadzonego przez Komisję w sprawach naruszeń przepisów rozporządzenia 2024/1689 oraz przepisów ustawy. Zaproponowane rozwiązania zapewniają zarówno ochronę interesu publicznego, jak i poszanowanie praw uczestników postępowania. W przepisach tych określono zasady wszczynania i prowadzenia postępowania, w tym wskazano podstawy wszczęcia, zdefiniowano stronę postępowania jako osobę, wobec której wszczęto postępowanie, instytucje ostrzeżenia, sposób rozstrzygania oraz środki odwoławcze. Dodatkowo określono maksymalny sześciomiesięczny termin prowadzenia postępowania. Ograniczenie to zapobiega przewlekłości procedur, przy jednoczesnym zapewnieniu sprawnego i efektywnego rozstrzygnięcia spraw. Projekt przewiduje, że Komisja będzie mogła wszcząć postępowanie w kilku przypadkach: • z urzędu, • na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji, • na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, • na wniosek Rady. Wszczęcie przez Komisję postępowania z urzędu może nastąpić m.in. w wyniku przeprowadzania kontroli albo w wyniku rozpatrzenia skargi. Projekt ustawy reguluje procedury składania przez osoby fizyczne, prawne oraz jednostki organizacyjne nieposiadające osobowości prawnej skargi na naruszenia przepisów dotyczących sztucznej inteligencji. Proponowane przepisy zobowiązują skarżących do przedstawienia szczegółowych informacji, takich jak nazwa systemu lub opis, opis naruszenia, istotne fakty oraz dane kontaktowe, co umożliwia skuteczne rozpatrzenie sprawy. Skarga może być składana elektronicznie, co zwiększa dostępność procedury, a w wyjątkowych przypadkach dopuszcza się jej złożenie w innej formie. Komisja, w ramach rozpatrywania skargi, może współpracować z innymi organami, zapewniając właściwe rozstrzygnięcie spraw wykraczających poza jej wyłączny zakres działania. Należy zaznaczyć, że wprowadzana przez rozporządzenie 2024/1689 kategoria skargi nie jest tożsama z instytucją skargi w rozumieniu polskiego prawa administracyjnego. Właściwym terminem określającym tę instytucję jest „skarga w rozumieniu [projektu] ustawy o systemach sztucznej inteligencji”, a określenie „skarga” stosowane jest przez projektodawcę w celu uniknięcia niespójności między nazewnictwem stosowanym w rozporządzeniu unijnym oraz projekcie ustawy. Z wszczęciem postępowania wiąże się obowiązek jego doręczania wszystkim stronom. 28 Do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji w zakresie nieuregulowanym projektem ustawy zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Dotyczy to również sytuacji wymagających uzupełnienia dowodów Komisja i przeprowadzenia postępowania dowodowego. Zapewnia to spójność z ogólnymi zasadami polskiej procedury administracyjnej. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy Komisja w toku postępowania może wydać stronie ostrzeżenie. Ostrzeżenie wydawane jest w formie postanowienia, ma charakter prewencyjny i naprawczy, umożliwiając stronie dobrowolne usunięcie nieprawidłowości. Zawiera ono zalecenia działań naprawczych, takich jak zablokowanie dostępu do systemu, wprowadzenie poprawek czy poinformowanie użytkowników. Strona zobowiązana jest do przedstawienia informacji o wykonaniu zaleceń w terminie 14 dni. W przypadku niewykonania ostrzeżenia Komisja może zastosować środki o charakterze nakazowym, a także przekazać informację o naruszeniu właściwym organom krajowym lub unijnym oraz opublikować ją w Biuletynie Informacji Publicznej. Stanowi to mechanizm stopniowanego reagowania, proporcjonalny do wagi naruszenia. W takiej sytuacji Komisja prowadzi dalej postępowanie w celu ustalenia stanu faktycznego. Projektowane przepisy wprowadzają także możliwość wydania decyzji w sprawie naruszenia przepisów rozporządzenia lub ustawy oraz określenie w niej środków nałożenia sankcji. W przypadku dobrowolnego wykonania tych środków Komisja uwzględnia tę okoliczność przy wymiarze ewentualnej kary administracyjnej, co wzmacnia motywację do współpracy z organem. Szczególną regulację przewidziano na wypadek bezpośredniego lub znacznego ryzyka, jakie system sztucznej inteligencji może stwarzać dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W takich sytuacjach Komisja jest uprawniona do wszczęcia postępowania z urzędu i wydania, w trybie przyspieszonym, decyzji nakazującej zaprzestanie stosowania systemu lub jego wycofanie z rynku. Postępowanie w tym trybie może trwać nie dłużej niż 7 dni. Przewidziano także obowiązki informacyjne wobec właściwych organów krajowych, jednostek notyfikowanych oraz instytucji unijnych, co służy zapewnieniu skutecznego nadzoru w skali UE. Wprowadzono również szczegółowe zasady zaskarżania postanowień i decyzji Komisji do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Strona może skorzystać z zażalenia lub odwołania, a samo wniesienie odwołania wstrzymuje wykonanie 29 decyzji w zakresie administracyjnej kary pieniężnej, co chroni stronę przed nadmierną dolegliwością przed rozstrzygnięciem sądu. Dodatkowo wprowadza się mechanizmy wstrzymania wykonania decyzji w zakresie administracyjnych kar pieniężnych w przypadku wniesienia przez stronę odwołania. Projekt ustawy reguluje również obowiązek współpracy Komisji z organami ścigania i wymiaru sprawiedliwości. Nakłada on obowiązek złożenia zawiadomienia o podejrzeniu popełnienia przestępstwa, jeżeli w toku postępowania ujawnione zostaną odpowiednie informacje. Określono również zasady przechowywania akt przez okres dziesięciu lat, co odpowiada potrzebie zapewnienia możliwości kontroli działań organu oraz dochodzenia odpowiedzialności w przyszłości. Całość regulacji ma służyć stworzeniu przejrzystego, proporcjonalnego i efektywnego systemu nadzoru nad stosowaniem systemów sztucznej inteligencji w Polsce, zgodnego z wymogami prawa unijnego, a jednocześnie gwarantującego ochronę praw uczestników postępowania oraz bezpieczeństwa obywateli. Projekt ustanawia obowiązek publikacji decyzji wydawanych przez Komisję w sposób dostępny publicznie, przy jednoczesnym zagwarantowaniu ochrony informacji objętych tajemnicą prawnie chronioną, w tym tajemnicą przedsiębiorstwa. Wprowadzenie tego obowiązku ma służyć zarówno celom informacyjnym, jak i prewencyjnym, umożliwiając podmiotom działającym na rynku zapoznanie się z praktyką orzeczniczą Komisji i uniknięcie podobnych naruszeń. Art. 67 projektu ustawy wprowadza wymóg prowadzenia szczegółowego wykazu systemów sztucznej inteligencji, wobec których podjęto decyzje o nałożeniu kary za naruszenie przepisów rozporządzenia lub ustawy. Wykaz ten zawiera kluczowe informacje, takie jak: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz z wskazaniem przepisów rozporządzenia 2024/1689 oraz ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora, lub też podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenia 2024/1689 oraz ustawy; 30 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2 tego przepisu. Celem tego rozwiązania jest stworzenie publicznie dostępnego i transparentnego rejestru, który umożliwi obywatelom monitorowanie przestrzegania prawa przez operatorów systemów AI. Określono także techniczne i organizacyjne wymagania dotyczące prowadzenia wykazu z wykorzystaniem systemu teleinformatycznego. Zawarte w nim wymogi w zakresie bezpieczeństwa i integralności danych mają zapewnić zgodność z przepisami o ochronie danych osobowych oraz bezpieczeństwa informacji. Szczególny nacisk położono na zapobieganie nieautoryzowanemu dostępowi do danych, ich uszkodzeniu lub utracie, a także na zapewnienie rozliczalności działań dokonywanych w systemie. Ponadto projekt wskazuje Komisję jako administratora danych przetwarzanych w wykazie, co jednoznacznie określa odpowiedzialność za zgodność przetwarzania z przepisami prawa. Rozdział 5 – Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji (art. 71 – art. 85) Projekt ustawy wprowadza alternatywną metodę rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Projektowane przepisy ustanawiają procedurę zawierania układu w sprawie nadzwyczajnego złagodzenia sankcji w postępowaniach prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie tej instytucji ma na celu zwiększenie efektywności nadzoru nad zgodnością systemów sztucznej inteligencji z rozporządzeniem 2024/1689 oraz ustawą krajową, a także stworzenie mechanizmów zachęcających podmioty do współpracy z organem nadzoru i szybkiego usuwania naruszeń. Procedura układowa została ukształtowana jako narzędzie służące zarówno interesowi publicznemu, jak i interesowi podmiotów, wobec których prowadzone jest postępowanie. Komisja może zainicjować możliwość zawarcia układu, jeżeli oceni, że doprowadzi to do lepszej realizacji celów regulacji i jeżeli naruszenie nie doprowadziło do poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Jednocześnie ustawa przewiduje możliwość wszczęcia procedury układowej na wniosek strony, co zwiększa jej dostępność i pozwala podmiotom szybko podjąć działania zmierzające do wyjaśnienia sprawy oraz naprawienia nieprawidłowości. 31 Kluczowym elementem proponowanej regulacji jest rzetelne ujawnienie przez stronę wszelkich istotnych okoliczności naruszenia, w tym informacji o osobach lub podmiotach współdziałających oraz przedstawienia dowodów na ich poparcie. Warunkiem przystąpienia do układu jest również wcześniejsze zaprzestanie naruszenia albo usunięcie stanu niezgodności z prawem. Takie rozwiązanie zapewnia, że układ nie będzie wykorzystywany do uniknięcia odpowiedzialności, lecz będzie stanowił instrument umożliwiający organowi szybkie ustalenie pełnego obrazu naruszenia oraz skuteczne przywrócenie zgodności. Regulacja przewiduje jednocześnie możliwość dobrowolnego podjęcia przez stronę zobowiązań dotyczących usunięcia skutków naruszeń lub naprawienia szkody wyrządzonej przez niezgodne działanie. Dzięki temu skutki naruszeń mogą zostać ograniczone lub usunięte w sposób szybszy i bardziej efektywny niż w ramach zwykłego postępowania administracyjnego, co leży zarówno w interesie organu, jak i podmiotów poszkodowanych. Istotnym elementem procedury jest określenie zasad oraz granic nadzwyczajnego złagodzenia sankcji. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Obniżenie kary pieniężnej może wynosić od 20% do 70%, a w przypadku naruszeń ujawnionych z własnej inicjatywy – od 30% do 90%. W sytuacjach nadzwyczajnych, zwłaszcza gdy podmiot usunie wszystkie skutki naruszenia, układ może przewidywać nawet odstąpienie od sankcji. Ustawodawca wskazuje także kryteria, które Komisja powinna brać pod uwagę przy ustalaniu wysokości obniżki, co zapewnia przejrzystość i przewidywalność decyzji. Dla ochrony interesów strony przewidziano gwarancję, że informacje ujawnione w toku procedury układowej nie mogą zostać wykorzystane przeciwko niej w przypadku niezawarcia układu. Rozwiązanie to zabezpiecza podmioty przed poniesieniem negatywnych konsekwencji wynikających z podjęcia próby współpracy z organem. Projekt szczegółowo określa również ramy czasowe na zawarcie układu wyznaczając jedno- lub trzymiesięczny okres na ich zawarcie. W tym czasie strona ma możliwość wyrażenia woli przystąpienia do układu oraz dostarczenia Komisji wymaganych informacji dotyczących okoliczności naruszenia i odpowiednich dowodów. 32 W projekcie wyszczególniono także kolejne czynności procesowe, w tym sposób przygotowania projektu układu przez Komisję oraz formę jego przyjęcia przez stronę oraz konieczność złożenia oświadczenia przez stronę, którego naruszenie skutkowałoby bezskutecznością układu. Złożenie oświadczenia o przyjęciu układu ma charakter sformalizowany, aby uniknąć jakichkolwiek wątpliwości co do zamiaru strony i skutków prawnych. Przyjęcie układu powoduje zrzeczenie się prawa do odwołania od decyzji kończącej postępowanie, co zamyka postępowanie i zapewnia stabilność ostatecznego rozstrzygnięcia. Przepisy te zapewniają pewność prawną, eliminując ryzyko niejasności interpretacyjnych. Projekt wprowadza również mechanizmy nadzoru nad wykonaniem układu oraz określa przypadki niewykonania zobowiązań przez stronę. Komisja otrzymuje prawo do żądania informacji oraz do monitorowania realizacji zobowiązania. Niewykonanie istotnych elementów układu prowadzi do wznowienia postępowania, przy czym dopuszczalne jest ono jedynie w okresie dziesięciu lat od doręczenia decyzji wydanej na podstawie układu. W takich sytuacjach Komisja uwzględnia wcześniejsze działania strony przy podejmowaniu decyzji o sankcjach. Proponowane przepisy wykluczają stosowanie art. 162 Kodeksu postępowania administracyjnego w odniesieniu do decyzji zawierającej układ, wzmacniając finalność i nieodwołalność rozstrzygnięć osiągniętych na drodze konsensualnej. Ma to zapewnić równowagę między interesem publicznym a zasadą pewności prawa. Wprowadzenie instytucji układu jako narzędzia alternatywnego rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów o sztucznej inteligencji wspiera realizację celów regulacyjnych, wzmacniając ochronę interesu publicznego i skuteczność nadzoru. Rozdział 6 – Jednostki notyfikowane i procedura notyfikacyjna (art. 86 – art. 90) Projekt ustawy w rozdziale 6 ma na celu określenie krajowego systemu autoryzacji, akredytacji i notyfikacji, jednostek oceniających zgodność w związku ze stosowaniem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689. Z uwagi na to, że rozporządzenie to nakłada na państwa członkowskie obowiązek wyznaczenia organu notyfikującego oraz ustanowienia jednolitych procedur w zakresie oceny i notyfikacji jednostek, konieczne jest wskazanie właściwych organów krajowych i określenie ich kompetencji. W projekcie ustawy wskazuję się ministra właściwego do spraw informatyzacji jako organ notyfikujący w zakresie, o którym mowa w art. 28 rozporządzenia 2024/1689. Proces notyfikacji jednostek oceniających zgodność odbywać się będzie zgodnie z zasadami wynikającymi bezpośrednio z rozporządzenia 2024/1689, a także z ustawą z dnia 13 kwietnia 33 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), która reguluje ogólne zasady funkcjonowania jednostek notyfikowanych w Polsce. Takie odesłanie gwarantuje stosowanie jednolitych wymogów dla wszystkich obszarów regulowanych prawem Unii, a jednocześnie eliminuje konieczność powielania istniejących już regulacji. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Wynika to z celowości powierzenia całego procesu – od akredytacji po autoryzację i notyfikację – jednemu organowi, co podnosi efektywność i przejrzystość procedur. Do akredytacji, autoryzacji i notyfikacji jednostek biorących udział w procesie oceny zgodności systemów określonych w rozporządzeniu 2024/1689 odpowiednio będą stosowane przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zachować jednolity standard krajowych procedur, jednocześnie unikając niepotrzebnego dublowania regulacji. Dla zachowania spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689, powierzone zostaną Polskiemu Centrum Akredytacji (zwanemu dalej: „PCA”) w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, które wspierać ma w tym zadaniu ministra właściwego do spraw informatyzacji. Włączenie instytucji posiadającej duży dorobek i bogate doświadczenie, jaką jest PCA, daje największą gwarancję wysokiego poziomu nadzoru nad standardami i zasadami nadzoru nad systemem instytucji oceniających zgodność produktów przy jednoczesnym zapewnieniu możliwości podejmowania przez ministra właściwego do spraw informatyzacji (jako organowi notyfikującemu) działań spójnych z kierunkiem ustalanym na poziomie unijnym (Urząd ds. AI w Komisji Europejskiej, Europejska Rada ds. AI). Z uwagi na to, że PCA jest krajową instytucją akredytującą, jej udział w przygotowaniu i aktualizacji programów akredytacji jest niezbędny dla zapewnienia wysokiej jakości procesu oceny i monitorowania jednostek oceniających zgodność. Ponadto przekazywanie ministrowi aktualnych informacji o akredytacjach umożliwia właściwe wykonywanie zadań nadzorczych i notyfikacyjnych. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. „Zagrożenia związane z systemami AI objętymi wymogami niniejszego rozporządzenia dotyczą innych aspektów niż obowiązujące unijne prawodawstwo harmonizacyjne, w związku z czym wymogi niniejszego rozporządzenia uzupełnią obowiązujące unijne prawodawstwo harmonizacyjne. Na przykład maszyny lub wyroby 34 medyczne zawierające system AI mogą stwarzać ryzyko, które nie zostało uwzględnione w zasadniczych wymogach w zakresie zdrowia i bezpieczeństwa ustanowionych w odpowiednim unijnym prawodawstwie harmonizacyjnym, ponieważ to prawo sektorowe nie reguluje ryzyka specyficznego dla systemów AI. Wymaga to jednoczesnego i komplementarnego stosowania różnych aktów ustawodawczych. Aby zapewnić spójność i uniknąć niepotrzebnych obciążeń administracyjnych i niepotrzebnych kosztów, dostawcy produktu, który zawiera co najmniej jeden system AI wysokiego ryzyka, do którego stosuje się wymogi niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, wymienionego w załączniku do niniejszego rozporządzenia, powinni mieć swobodę w zakresie decyzji operacyjnych dotyczących sposobu zapewnienia w optymalny sposób zgodności produktu zawierającego co najmniej jeden system AI ze wszystkimi mającymi zastosowanie wymogami unijnego prawodawstwa harmonizacyjnego. Swoboda ta może oznaczać na przykład decyzję dostawcy o włączeniu części niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji wymaganych na mocy niniejszego rozporządzenia do już istniejącej dokumentacji i procedur wymaganych na mocy obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych i wymienionego w załączniku do niniejszego rozporządzenia. Nie powinno to w żaden sposób podważać spoczywającego na dostawcy obowiązku zapewnienia zgodności z wszystkimi mającymi zastosowanie wymogami”. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. W przypadku kiedy unijne prawodawstwo harmonizacyjne wymienione w załączniku I do rozporządzenia 2024/1689 albo przepisy krajowe służące jego stosowaniu wskazują inny organ właściwy w tym zakresie, to ocena, wyznaczanie i notyfikowanie jednostek oceniających zgodność będzie dokonywane przez organ w ramach jednego procesu i nie dojdzie do konieczności dokonywania przez podmioty podwójnej notyfikacji – jednej w zakresie samego systemu sztucznej inteligencji przez ministra właściwego ds. informatyzacji, a drugiej w zakresie całego produktu, którego częścią jest ten system, dokonywanej przez organ właściwy w przypadku danych produktów. Przykładowo, w przypadku wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia 35 (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takimi systemami będzie to Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Dodatkowo zgodnie z motywem 124 w celu zminimalizowania obciążenia dla operatorów i aby uniknąć ewentualne powielanie działań, zgodność z wymogami niniejszego rozporządzenia w przypadku systemów AI wysokiego ryzyka powiązanych z produktami, które są objęte zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, należy oceniać w ramach oceny zgodności przewidzianej już w tym prawodawstwie. Stosowanie wymogów niniejszego rozporządzenia nie powinno zatem wpływać na szczególną logikę, metodykę lub ogólną strukturę oceny zgodności określone w unijnym prawodawstwie harmonizacyjnym. W projekcie ustawy określono także procedurę składania wniosków o notyfikację przez jednostki oceniające zgodność. Z uwagi na cyfryzację procesów administracyjnych wniosek składany ma być wyłącznie w postaci elektronicznej, co zwiększa efektywność postępowania, ogranicza koszty administracyjne oraz zapewnia jego pełną przejrzystość. W projektowanych przepisach zawarto minimalny zakres informacji, jakie wniosek musi zawierać. Są to dane podstawowe pozwalające na identyfikację wnioskodawcy oraz dane niezbędne do weryfikacji jej statusu akredytacyjnego. Wymóg podania informacji o akredytacji (w tym numeru certyfikatu) wynika z faktu, że akredytacja jest warunkiem koniecznym do notyfikacji w większości obszarów oceny zgodności określonych w przepisach unijnych. Przepis zatem zapewnia kompletność i poprawność danych niezbędnych do przeprowadzenia procedury notyfikacyjnej. Art. 88 projektu umożliwia ministrowi właściwemu do spraw informatyzacji przetwarzanie informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/1689 oraz ustawy. Jest to niezbędne, ponieważ materia ocen zgodności, akredytacji i autoryzacji jednostek często obejmuje informacje techniczne, technologiczne oraz organizacyjne przedsiębiorców, które podlegają ochronie. Jednocześnie minister musi mieć możliwość ich przetwarzania w celu rzetelnej realizacji zadań wynikających z rozporządzenia 2024/1689 i przepisów krajowych. 36 Przepis ten zapewnia więc zgodność z zasadami legalizmu oraz ochrony danych poufnych. a także zapewnia skuteczne realizowanie funkcji organu notyfikującego. Art. 89 ma charakter uzupełniający i porządkujący. odnosi się do pozostałych spraw, które są regulowane w rozdziale 6 projektu. W przypadkach, które nie są uregulowane przepisami rozporządzenia 2024/1689 ani niniejszą ustawą, przepis wskazuje na subsydiarne zastosowanie przepisów ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zapewnić spójność całego systemu prawa dotyczącego oceny zgodności w Polsce, unika kolizji regulacyjnych oraz umożliwia korzystanie z procedur i mechanizmów już funkcjonujących w systemie prawnym. Projektowany art. 90 doprecyzowuje zadania ministra właściwego do spraw informatyzacji wynikające z rozporządzenia 2024/1689 w zakresie funkcjonowania organu notyfikującego. Przepis ust. 1 zapewnia możliwość krajowego określania oraz corocznej weryfikacji wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Dodatkowo przepis nakłada na ministra obowiązek podejmowania działań naprawczych w przypadku stwierdzenia braku zgodności z określonymi wymogami, co gwarantuje utrzymanie właściwego poziomu kompetencji organu notyfikującego oraz zapewnia realizację zobowiązań wynikających z prawa Unii. Ponadto przepis wprowadza obowiązek przekazywania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, co umożliwia właściwe monitorowanie funkcjonowania organu notyfikującego na poziomie unijnym oraz zapewnia przejrzystość i zgodność z procedurami określonymi w przepisach europejskich. Rozdział 7 – Środki wspierające innowacyjność (art. 91 – art. 99) Projekt ustawy określa nie tylko kwestie związane z nadzorem na systemami sztucznej inteligencji, ale również określa podstawy prawne do wdrażania środków wspierających innowacyjność. W projekcie zawarto regulacje ustanawiające krajowe podstawy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem 2024/1689. Rozporządzenie unijne przewiduje możliwość tworzenia piaskownic regulacyjnych w celu wspierania innowacji oraz testowania systemów AI w warunkach kontrolowanych, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony użytkowników. Tym samym projekt wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i 37 proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Zgodnie z art. 57 rozporządzenia 2024/1689 każde państwo członkowskie Unii Europejskiej musi uruchomić przynajmniej jedną piaskownicę regulacyjną w zakresie AI do 2 sierpnia 2026 roku. Mechanizm ten ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja uzyskuje uprawnienie do udzielania zgody, w formie decyzji, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ponadto projekt przewiduje preferencyjne warunki dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Projekt ustawy ustanawia przejrzyste procedury konkursowe dla podmiotów ubiegających się o udział w piaskownicy regulacyjnej. Komisja organizuje konkurs, którego celem jest wyłonienie najbardziej obiecujących projektów, wnoszących istotny wkład w rozwój technologii AI, przy zachowaniu bezpieczeństwa i zgodności z ogólnymi zasadami prawa. Proces oceny ofert podlega nadzorowi zespołu konkursowego, który dokonuje merytorycznej analizy zgłoszeń, tworzy listę rankingową oraz protokół z oceny. Szczególną preferencją objęte są podmioty pochodzące z Unii Europejskiej, co wspiera współpracę na szczeblu regionalnym i harmonizację działań z unijną polityką technologiczną. Przepisy wprowadzają również obowiązek publikacji wyników konkursu oraz mechanizmy odwoławcze, umożliwiające stronom zakwestionowanie rozstrzygnięcia komisji konkursowej, co gwarantuje równe szanse uczestnikom. Uczestnicy mają prawo do zgłoszenia odwołania w terminie 7 dni. W przypadku uwzględnienia zarzutów Komisja powołuje zespół odwoławczy do ponownej oceny odwołania. W skład zespołu nie będą wchodziły osoby, które brały udział w pracach zespołu konkursowego co zapewnia sprawiedliwość rozstrzygnięć oraz transparentność działań. Projekt ustawy nakłada obowiązki na Komisję w zakresie określania limitów użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej oraz zakresu odstępstw dla poszczególnych projektów funkcjonujących w piaskownicy regulacyjnej. Dodatkowo wymaga, aby Komisja informowała instytucje unijne o utworzeniu piaskownicy, co 38 umożliwia monitorowanie efektów testów przez organy unijne oraz zapewnienie spójności działań z polityką UE w zakresie sztucznej inteligencji. Uczestnicy piaskownicy regulacyjnej zobowiązani są do informowania użytkowników o udziale w programie, publikowania rocznych raportów, zamieszczania na swojej stronie internetowej informacji o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej a także zgłaszania wszelkich zmian mających wpływ na projekt. Takie wymogi gwarantują transparentność procesów testowych oraz skuteczny nadzór nad prowadzonymi eksperymentami. Komisja uzyskuje uprawnienie do kontrolowania uczestników piaskownicy oraz podejmowania działań dyscyplinujących w przypadku stwierdzenia naruszeń, takich jak wezwanie do usunięcia nieprawidłowości czy wykluczenie z programu. Projekt wykonuje obowiązki państwa członkowskiego wynikające z art. 95 rozporządzenia 2024/1689. W art. 98 projektu ustawy wskazano, że minister właściwy do spraw informatyzacji wykonuje zadania dotyczące wspierania tworzenia kodeksów dobrego postępowania w zakresie stosowania systemów AI. W celu ułatwienia opracowywania tych kodeksów, minister będzie wydawać rekomendacje najlepszych praktyk. Taki mechanizm ma charakter niewiążący, jednak pełni istotną rolę w tworzeniu spójnych i wysokiej jakości standardów funkcjonowania systemów sztucznej inteligencji w Polsce. Rekomendacje te będą służyły jako punkt odniesienia zarówno dla podmiotów sektora publicznego, jak i prywatnego, wspierając harmonizację podejścia do AI na poziomie krajowym i unijnym. Ponadto projekt ustanawia obowiązek corocznego przekazywania przez ministra właściwego do spraw informatyzacji, do dnia 31 marca każdego roku, informacji dotyczącej wymaganych zasobów obliczeniowych do rozwoju systemów AI oraz prognozowanego zużycia energii związanego z ich działaniem. Informacja ta ma być przedstawiana zarówno Radzie Ministrów, jak i Komisji Europejskiej. Jest to wyraz uznania rosnącego znaczenia infrastruktury obliczeniowej dla rozwoju nowoczesnych technologii oraz potrzeby monitorowania ich wpływu na zużycie zasobów energetycznych, co ma znaczenie zarówno z perspektywy polityki cyfrowej, jak i klimatyczno-energetycznej. Przepis ten pozwoli lepiej planować inwestycje w infrastrukturę cyfrową, a także wspierać działania na rzecz zrównoważonego rozwoju. Minister właściwy ds. informatyzacji, jako odpowiedzialny za koordynację wdrażania krajowej Polityki AI, dysponuje najszerszym zbiorem danych, dzięki którym mógł przygotować raporty i prognozy, o których mowa powyżej. Zgodnie z art. 99 projektu przyznaje się ministrowi właściwemu do spraw informatyzacji uprawnienia w zakresie wspierania badań naukowych i prac rozwojowych, co jest kluczowe 39 dla rozwoju technologii przełomowej, jaką jest sztuczna inteligencja. Przepisy te umożliwiają ministrowi udzielanie wsparcia finansowego na badania naukowe i prace rozwojowe, a także finansowanie lub współfinansowanie programów i projektów z budżetu państwa oraz środków unijnych. Dzięki temu możliwe jest zapewnienie odpowiednich środków na realizację innowacyjnych projektów, które mogą przyczynić się do rozwoju sztucznej inteligencji w Polsce. Minister może również inicjować, wspierać i realizować programy finansujące badania naukowe i prace rozwojowe oraz działania przygotowujące do wdrożenia ich wyników. Programy te są realizowane przez Instytut Badawczy IDEAS – nad którym nadzór ministrowi właściwemu do spraw informatyzacji został przekazany rozporządzeniem Rady Ministrów z dnia 25 lutego 2025 r. w sprawie utworzenia Instytutu Badawczego IDEAS – oraz pozostałe jednostki podległe i nadzorowane przez ministra, co zapewnia spójność i efektywność działań. Wprowadzenie tych przepisów ma na celu stworzenie odpowiednich warunków do prowadzenia badań naukowych i prac rozwojowych, co jest kluczowe dla wdrożenia sztucznej inteligencji. Wykaz jednostek, o których mowa w art. 99, jest zawierany w obwieszczeniu Ministra Cyfryzacji wydanym na podstawie art. 33 ust. 1d ustawy z dnia 8 sierpnia 1996 r. o Radzie Ministrów. Obecnie jednostkami podległymi Ministrowi Cyfryzacji i nadzorowanymi przez Ministra Cyfryzacji są: Jednostki podległe: • Centrum Projektów Polska Cyfrowa. Jednostki nadzorowane: • Centralny Ośrodek Informatyki; • Instytut Badawczy IDEAS; • Instytut Łączności – Państwowy Instytut Badawczy; • Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy. Celem przepisu jest zapewnienie możliwości elastycznego i dostosowanego do specyfiki branży i działań udzielania pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz programów i projektów w tym zakresie realizowanych przez ww. pomocy w ramach ich zadań. Stąd też w projekcie znalazł się przepis wskazujący na szerokie źródła środków przeznaczonych na finansowanie w ramach dotacji celowych. 40 Szczegółowe określenie czy skonkretyzowanie zadań, o których mowa w uwadze z uwzględnieniem podziału na podmioty nie jest możliwe do określenia, a także nie wydaje się zasadne z uwagi na nieprzewidywalny kierunek rozwoju sztucznej inteligencji, a także wynikające z tego zapotrzebowania. Dzięki temu możliwe jest osiągnięcie celów określonych w rozporządzeniu 2024/1689, takich jak promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji. Wsparcie finansowe i organizacyjne dla badań naukowych i prac rozwojowych jest niezbędne, aby możliwy był rozwój sztucznej inteligencji zgodnie z wartościami Unii Europejskiej. Proponowane regulacje mają na celu wspieranie innowacyjnych technologii w obszarze AI, zachowanie zgodności działań z polityką UE oraz zapewnienie odpowiednich zabezpieczeń i transparentności procesów testowych. Rozdział 8 – Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 100 – art. 110) Uregulowania w przepisach polskiego prawa wymagają także określone w treści rozporządzenia kwestie nakładania przez organ nadzoru administracyjnych kar pieniężnych. Mechanizm w postaci możliwości nałożenia sankcji za naruszenie przepisów rozporządzenia 2024/1689 jest kluczowy pod kątem jego praktycznego egzekwowania, a więc faktycznej możliwości osiągnięcia celów prawodawcy w zakresie wspierania rozwoju AI w ramach jednolitego rynku w zgodzie z europejskim prawem i wartościami. Projektowany art. 100 stanowi kluczowy element krajowego mechanizmu egzekwowania przepisów rozporządzenia 2024/1689. Celem tego przepisu jest przyznanie Komisji kompetencji do nakładania administracyjnych kar pieniężnych na podmioty, które naruszą przepisy rozporządzenia. Przepis wskazuje, że nałożenie kary odbywa się w drodze decyzji administracyjnej, co oznacza, że zastosowanie będą miały ogólne zasady postępowania administracyjnego, w tym gwarancje proceduralne dla stron postępowania. Kary są nakładane w przypadkach, wysokości i na warunkach przewidzianych w rozdziale XII rozporządzenia 2024/1689, co zapewnia pełną zgodność z przepisami prawa Unii Europejskiej. Taki mechanizm gwarantuje spójność systemu sankcyjnego i eliminuje ryzyko rozbieżności interpretacyjnych między przepisami unijnymi a krajowymi. Ust. 2 i 3 wprowadzają obowiązek uwzględnienia przy podejmowaniu decyzji, oraz wskazania w jej uzasadnieniu, przesłanek określonych w art. 99 ust. 7 rozporządzenia 2024/1689. Przesłanki te obejmują m.in. charakter, wagę i czas trwania naruszenia, stopień winy, 41 wcześniejsze naruszenia, środki zastosowane w celu zapobieżenia lub naprawienia skutków naruszenia. Uwzględnienie tych kryteriów zapewnia, że kara będzie proporcjonalna do naruszenia oraz że każde postępowanie będzie prowadzone w sposób indywidualny i sprawiedliwy. Ust. 4 reguluje sposób przeliczania wartości pieniężnych wyrażonych w euro na walutę krajową – złoty polski. Ustalenie stałego dnia odniesienia (28 stycznia każdego roku) oraz wskazanie wprost średniego kursu ogłaszanego przez Narodowy Bank Polski, a także rozwiązanie sytuacji, gdy kurs nie zostanie ogłoszony w tym dniu, zapewnia jednolitość, przewidywalność oraz techniczną wykonalność przepisu. Jednocześnie ustawa przewiduje mechanizm umożliwiający Komisji na wymierzenie kary. Podmiot jest obowiązany do dostarczenia Komisji w terminie 14 dni od dnia otrzymania żądania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. W przypadku niedostarczenia danych przez podmiot lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ma prawo do samodzielnego ustalenia podstawy wymiaru administracyjnej kary pieniężnej w sposób szacunkowy. Uwzględnia przy tym wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Postępowanie dotyczące kar ma być prowadzone na podstawie przepisów ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Aby zapewnić prawidłową ochronę strony w postępowaniu wskazano, że w przypadku nałożenia kary osoba (fizyczna, prawna oraz nieposiadająca osobowości prawnej), na którą zostanie ona nałożona, będzie miała uprawnienie do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów, jest właściwym organem do rozpatrywania odwołań od decyzji Komisji (w tym decyzji o karach pieniężnych) z kilku kluczowych powodów. Po pierwsze, sąd ochrony konkurencji i konsumentów posiada już ugruntowaną pozycję i doświadczenie w rozpatrywaniu spraw związanych z regulacjami rynkowymi oraz ochroną konsumentów. Jego kompetencje obejmują rozpatrywanie odwołań od decyzji takich organów jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, co czyni go naturalnym wyborem do rozpatrywania spraw związanych z nowymi technologiami, w tym sztuczną inteligencją 42 Sztuczna inteligencja jest technologią przełomową, która ma potencjał do znaczącej transformacji wielu sektorów gospodarki oraz życia społecznego. W związku z tym konieczne jest, aby sprawy dotyczące AI były rozpatrywane przez sąd posiadający odpowiednie zaplecze merytoryczne i organizacyjne. Skoncentrowanie tych spraw w jednym sądzie, takim jak Sąd Okręgowy w Warszawie, pozwala na zbudowanie specjalistycznej wiedzy i doświadczenia w zakresie regulacji i nadzoru nad AI, co jest kluczowe dla zapewnienia sprawiedliwości i efektywności postępowań sądowych Ponadto centralizacja rozpatrywania spraw związanych z AI w jednym sądzie zapobiega rozproszeniu kompetencji i umożliwia lepszą koordynację działań. Dzięki temu możliwe jest wypracowanie jednolitej linii orzeczniczej, co jest szczególnie istotne w kontekście dynamicznie rozwijającej się technologii, jaką jest sztuczna inteligencja. Taki model organizacyjny pozwala również na bardziej efektywne wykorzystanie zasobów sądowych oraz zapewnia lepszą dostępność specjalistycznych ekspertyz i opinii biegłych Kary pieniężne podlegać będą egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Zapewni to spójność rozwiązań w zakresie egzekucji z innymi przepisami w tym zakresie. Należy wskazać, że przesłanki nakładania kar i maksymalne ich wysokości wynikają wprost z przepisów rozporządzenia 2024/1689. Zgodnie z przepisami rozporządzenia 2024/1689 oraz ze względu na znaczenie przepisów dla ochrony praw osób, praworządności oraz demokracji w Europie, omawiany projekt zakłada możliwość nałożenia z tego tytułu kary na podmioty sektora prywatnego, jak i publicznego. Analogiczne uprawnienie dla państw członkowskich funkcjonuje na gruncie przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) oraz ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. Projekt przewiduje również możliwość zmniejszenia wysokości administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 62 ustawy, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. Komisja może też, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze 43 względu na ważny interes wnioskodawcy. Działania te stanowią ulgę w wykonaniu administracyjnej kary pieniężnej, która: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Przepisy stanowi ważny instrument o charakterze motywacyjnym i prewencyjnym. Mechanizm ten premiuje współpracę z organem i szybką reakcję na naruszenie, co może skutecznie przeciwdziałać dalszym nieprawidłowościom. Jednocześnie przepis wyznacza granice takiej łagodności – nie może ona mieć zastosowania, jeśli skutki naruszenia były poważne, co zapewnia ochronę interesu publicznego i osób narażonych na skutki naruszeń. Konstruując przepisy umożliwiające nałożenie kar na podstawie naruszenia rozporządzenia 2024/1689, projektodawca umożliwia stosowanie ich w oparciu o wszystkie przypadki naruszenia przepisów rozporządzenia 2024/1689. Nie przekreśla to możliwości uregulowania w przyszłości szczegółowych kwestii dotyczących naruszeń innych przepisów, w szczególności art. 6 omawianego rozporządzenia. Takie działanie legislacyjne będzie wskazane ze względu na fakt wejścia w życie, w 2026 oraz 2027 r., pozostałych przepisów rozporządzenia 2024/1689 oraz prac Komisji Europejskiej związanych z opracowaniem i publikacją aktów wykonawczych, delegowanych oraz dokumentów merytorycznych odnoszących się do obszarów ujętych zakresowo przepisami o systemach AI wysokiego ryzyka (art. 6), w których właściwymi organami nadzoru mają być spełniające kryteria określone w rozporządzeniu krajowe organy nadzoru (m.in. nad sektorem finansowym czy zastosowaniem systemów wysokiego ryzyka przez instytucje publiczne w obszarach, takich jak ściganie przestępstw, migracja czy wymiar sprawiedliwości). Określony w projekcie szeroki zakres uprawnień Komisji do nakładania kar wynika z harmonogramu wchodzenia w życie przepisów rozporządzenia, jak również z powodu konieczności oczekiwania na podjęcie przez Komisję Europejską, Radę ds. AI oraz inne powołane do życia na mocy przepisów regulacji instytucje europejskiego systemu nadzoru nad modelami i systemami sztucznej inteligencji działań o charakterze technicznym, merytorycznym i prawnym, które to według przepisów rozporządzenia, jak również komunikatów przedstawicieli Komisji na spotkaniach Rady ds. AI planów nastąpić ma do końca 2025 r. 44 Przepisy art. 108 i art. 109 mają na celu wzmocnienie skuteczności prowadzonych postępowań, mechanizmów kontrolnych oraz egzekwowania obowiązków podmiotów objętych kontrolą lub postępowaniem administracyjnym. Wprowadzenie sankcji karnych w postaci kary ograniczenia wolności lub grzywny służy zapewnieniu należytej współpracy ze strony kontrolowanych, stron postępowania oraz przeciwdziałaniu działaniom obstrukcyjnym. Wprowadzenie przepisu art. 108 ma na celu zapewnienie skuteczności czynności kontrolnych oraz postępowań administracyjnych prowadzonych przez Komisję zgodnie z ustawą. Czynności te stanowią kluczowy instrument nadzorczy, umożliwiający wykrywanie nieprawidłowości, reagowanie na naruszenia i weryfikację zgodności działania podmiotów z obowiązkami wynikającymi z rozporządzenia 2024/1689 oraz ustawy. Penalizacja działań zmierzających do utrudnienia lub udaremnienia czynności kontrolnych jest konieczna, ponieważ bez możliwości wymierzenia sankcji działania Komisji mogłyby być w praktyce nieskuteczne, a podmioty objęte kontrolą mogłyby nie wykonywać obowiązków lub celowo uniemożliwiać realizację ustawowych zadań organu nadzorczego. Wprowadzone sankcje – grzywna albo kara ograniczenia wolności – są proporcjonalne do wagi naruszenia i zgodne z zasadą subsydiarności prawa karnego. Penalizacji podlega wyłącznie zachowanie o charakterze świadomego sprzeciwu wobec czynności organu, mające wysoce negatywny wpływ na możliwość wykonywania jego zadań. Przepis dotyczy każdego zarówno osób fizycznych, osób prowadzących działalność gospodarczą, jak i przedsiębiorców. Ujęcie w ust. 2 odpowiedzialności osób działających w imieniu lub w interesie osób prawnych i jednostek organizacyjnych wynika z konieczności zapobieżenia sytuacjom, w których szkodliwe działania podejmowane są przez przedstawicieli podmiotów zbiorowych, często faktycznie odpowiedzialnych za naruszenia. Rozwiązanie to jest zgodne z zasadą, że odpowiedzialność karna obejmuje także osoby uprawnione do działania w strukturach organizacyjnych podmiotów gospodarczych. Stosowanie przepisów ust. 1 i 2 zostało wyłączone w odniesieniu do czynów polegających na dostarczaniu nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji właściwym organom krajowym w odpowiedzi na ich wniosek. Te czyny zostały wskazane w przepisach rozporządzenia 2024/1689 enumeratywnie i kara za nie została wprost określona w art. 99 ust. 5 rozporządzenia 2024/1689. Mają one bowiem szczególne istotne znaczenie dla ustalania poprawnie stanu faktycznego a tym sam na uznanie systemu za zgodny z 45 przepisanymi rozporządzenia 2024/1689, bezpieczny i godny zaufania. Wyłączenie to ma na celu uniknięcie ryzyka podwójnej karalności. Celem tego przepisu jest ochrona integralności procesu kontrolnego oraz postępowań i zapewnienie, że zarówno kontrolujący, jak i osoby prowadzące postępowanie administracyjne będą mogli wykonywać swoje obowiązki w sposób niezakłócony. Celem wprowadzenia art. 109 jest zapewnienie realnej wykonalności decyzji Komisji, o której mowa w art. 64 ust. 2 ustawy, podejmowanych w przypadku stwierdzenia naruszeń dotyczących funkcjonowania lub stosowania systemów sztucznej inteligencji. Decyzje te mają charakter środków naprawczych i służą usunięciu naruszeń wynikających ze stworzonego przez system sztucznej inteligencji ryzyka, o którym mowa w art. 79 rozporządzenia 2024/1689, lub bezpośredniego ryzyka zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W sytuacji braku sankcji za niewykonanie decyzji organu, podmiot obowiązany mógłby pozostawać bierny, co prowadziłoby do utrzymywania niezgodności z prawem, a niekiedy do dalszego zagrożenia dla użytkowników systemów sztucznej inteligencji. Wprowadzenie penalizacji jest zatem konieczne dla zapewnienia skuteczności nadzoru publicznego i respektowania decyzji naprawczych. Niewykonanie decyzji organu administracji publicznej w zakresie obowiązków nakazanych dla usunięcia naruszeń jest czynem o wysokim stopniu społecznej szkodliwości, ponieważ: • prowadzi do utrzymywania stanu niezgodnego z prawem, • naraża użytkowników systemów AI na ryzyko, • może uniemożliwiać skuteczne naprawienie naruszenia, • godzi w interes publiczny rozumiany jako bezpieczeństwo i przejrzystość stosowania technologii AI. Zachowanie to ma charakter umyślny lub co najmniej wynikający z rażącego niedbalstwa i odnosi się do obowiązków nałożonych w decyzji, która stanowi akt władczy skierowany do konkretnego podmiotu. Projekt przewiduje karę grzywny albo ograniczenia wolności. Sankcje są adekwatne do charakteru czynu, nie mają charakteru nadmiernie represyjnego, wpisują się w standard kar stosowanych za niewykonywanie decyzji organów nadzorczych w innych sektorach regulowanych (np. ochrona danych osobowych, nadzór rynku finansowego), odpowiadają standardowi sankcji za podobne delikty administracyjno-karne. Prawo karne 46 zachowuje w tym przypadku charakter środka ultima ratio, stosowanego wyłącznie wówczas, gdy podmiot świadomie ignoruje wiążącą decyzję administracyjną. Ust. 2 przewiduje odpowiedzialność osób działających w imieniu lub w interesie osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej. Rozwiązanie to odzwierciedla faktyczny sposób funkcjonowania podmiotów gospodarczych, zapobiega przerzucaniu odpowiedzialności na podmiot zbiorowy i ukrywaniu sprawców działań faktycznych, ponadto jest zgodne z powszechnie stosowaną w polskim prawie konstrukcją odpowiedzialności osób odpowiedzialnych za działanie podmiotu (np. w prawie wykroczeń gospodarczych i nadzorczych), zapewnia skuteczność sankcji i zapobiega ich faktycznemu obchodzeniu. Przepis art. 110 odsyła do stosowania w ww. sprawach przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia. Ma to na celu ujednolicenie procedury orzekania w sprawach o czyny określone w art. 108 i art. 109 oraz zapewnienie jednolitego stosowania zasad procesu wykroczeniowego. Wybór trybu wykroczeniowego jest uzasadniony charakterem sankcji przewidzianych w ustawie (grzywna albo kara ograniczenia wolności) oraz stopniem społecznej szkodliwości czynów. Wprowadzenie tej regulacji zapewnia: przejrzystość procedury. skrócenie czasu rozpoznania spraw, zminimalizowanie obciążenia organów wymiaru sprawiedliwości, wykorzystanie istniejącej, ugruntowanej procedury właściwej dla podobnych deliktów administracyjnych. Regulacja jest niezbędna dla prawidłowego stosowania przepisów karnych zawartych w ustawie. Rozdział 9 – Zmiany w przepisach obowiązujących (art. 111 – art. 119) Projekt zakłada nowelizację następujących ustaw: 1) ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm.); 2) ustawy z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. po. 268); 3) ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722, z późn. zm.); 4) ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499, z późn. zm.); 47 5) ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 poz. 902, z późn. zm.); 6) ustawy z dnia 28 lipca 2025 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228, z późn. zm.); 7) ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640, z późn. zm.); 8) ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 z późn. zm.); 9) ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 z późn. zm.). Zmiany mają na celu dostosowanie aktualnego systemu prawnego do regulacji wprowadzanych tą ustawą. Najbardziej istotna zmiana dotyczy przepisów Kodeksu postępowania cywilnego. Projektowana zmiana polega na dodaniu nowego działu IVfa w tytule VII księgi pierwszej części pierwszej kodeksu. Nowelizacja ta wynika z potrzeby zapewnienia skutecznych i zgodnych z konstytucyjnymi standardami mechanizmów sądowej kontroli decyzji organu nadzorczego, jakim będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie odrębnych przepisów proceduralnych w tym zakresie stanowi odpowiedź projektodawcy na nowe wyzwania prawne i technologiczne związane z dynamicznym rozwojem i wdrażaniem systemów sztucznej inteligencji w życiu publicznym i gospodarczym. Z uwagi na złożoność spraw związanych z oceną zgodności systemów sztucznej inteligencji z regulacjami prawa unijnego i krajowego, projekt przewiduje, że rozpoznawaniem odwołań od decyzji oraz zażaleń na postanowienia Komisji zajmować się będzie Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów. Wybór tego sądu uzasadniony jest jego wyspecjalizowaną kompetencją w sprawach gospodarczych, regulacyjnych i administracyjnoprawnych o charakterze publicznoprawnym. Takie rozwiązanie zapewnia także jednolitość orzecznictwa i koncentrację spraw, co sprzyja efektywności i spójności postępowania sądowego. Uregulowanie trybu wniesienia odwołania (art. 479 88b–c ) opiera się na modelu pośrednictwa Komisji, która przekazuje odwołanie wraz z aktami sprawy do właściwego sądu. Jednocześnie projekt przewiduje możliwość autokontroli decyzji przez Komisję, jeśli uzna ona zarzuty odwołania za zasadne w całości. Umożliwia to szybkie zakończenie sporu bez angażowania sądu, przy jednoczesnym zachowaniu prawa strony do ponownego wniesienia odwołania od 48 nowej decyzji. Rozwiązanie to odciąża sądy i promuje efektywne rozwiązywanie spraw na poziomie organu administracyjnego. W art. 479 88d określono, jakie elementy powinno zawierać odwołanie. Przepis ten ma na celu zapewnienie jasności zarzutów i przejrzystości argumentacji procesowej. W art. 479 88e jednoznacznie określono krąg stron postępowania przed sądem – są nimi zarówno Komisja, jak i podmiot, wobec którego wydano decyzję. Dodatkowo przyznano Komisji prawo reprezentacji przez pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji, co zwiększa sprawność postępowania i odciąża Prokuratorię Generalną RP. Uregulowanie to jest zgodne z tendencją legislacyjną przyznającą wyspecjalizowanym organom administracyjnym kompetencje do samodzielnego występowania przed sądem. Art. 479 88f normuje sposób rozpoznania odwołań, sąd może je oddalić, odrzucić lub uwzględnić, uchylając lub zmieniając zaskarżoną decyzję. Jednocześnie sąd ma obowiązek stwierdzić, czy decyzja została wydana bez podstawy prawnej lub z rażącym naruszeniem prawa, co stanowi dodatkowy mechanizm kontroli legalności działania organu nadzorczego. W art. 479 88g zawarto szczegółowe regulacje dotyczące ochrony tajemnic prawnie chronionych w toku postępowania sądowego. Z uwagi na charakter spraw z zakresu systemów sztucznej inteligencji, które często dotyczą danych technicznych, handlowych, algorytmicznych oraz know-how konieczne było wprowadzenie mechanizmu ochrony tajemnicy przedsiębiorstwa i innych informacji niejawnych. Jednocześnie projekt przyznaje sądowi możliwość udostępnienia tych informacji stronie tylko w wyjątkowych, ściśle określonych przypadkach, przy jednoczesnym wykluczeniu zażalenia na takie postanowienia, co zabezpiecza sprawność postępowania. Wyraźnie wskazano także, że ograniczenia te nie dotyczą samej Komisji, która zachowuje pełny dostęp do materiałów dowodowych. Art. 479 88h przyznaje stronie prawo wniesienia zażalenia na postanowienie Komisji w terminie tygodnia, zapewniając tym samym skuteczną ochronę praw procesowych również w odniesieniu do rozstrzygnięć incydentalnych. Odwołanie do stosowania przepisów dotyczących odwołań zapewnia spójność i jednolitość proceduralną. Wreszcie art. 479 88i stanowi, że od orzeczenia sądu drugiej instancji będzie przysługiwała skarga kasacyjna niezależnie od wartości przedmiotu zaskarżenia. Wprowadzenie działu IVfa w Kodeksie postępowania cywilnego ma kluczowe znaczenie dla zapewnienia realnego środka zaskarżenia decyzji administracyjnych w dziedzinie regulacji sztucznej inteligencji. Przepisy te nie tylko zapewniają wykonanie obowiązków wynikających 49 z prawa unijnego, ale także służą ochronie praw jednostek i podmiotów gospodarczych przed ewentualnymi nadużyciami administracyjnymi. System ten został zaprojektowany z uwzględnieniem zasady proporcjonalności, efektywności postępowania i ochrony informacji wrażliwych, a także z poszanowaniem konstytucyjnych zasad państwa prawa. Rozdział 10 – Przepisy przejściowe i przepis końcowy (art. 120 – art. 122) Projekt ustawy przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organu odpowiedzialnego za monitorowanie i wspieranie rozwoju sztucznej inteligencji w sposób bezpieczny i zgodny z interesem publicznym. Sztuczna inteligencja stanowi kluczowy element nowoczesnych technologii i ma istotny wpływ na gospodarkę oraz społeczeństwo, dlatego konieczne jest stworzenie dedykowanego organu, który będzie dbał o jej rozwój zgodnie z zasadami etyki i bezpieczeństwa. Komisja ma pełnić funkcję wspomagającą i kontrolną, dbając o zgodność wdrażanych rozwiązań z regulacjami prawnymi oraz standardami międzynarodowymi. W celu zapewnienia sprawnej działalności Komisji w projekcie wskazano termin powołania jej Przewodniczącego przez Sejm RP za zgodą Senatu RP. Procedura ta gwarantuje demokratyczną legitymizację działania organu i zapewnia, że na jego czele stanie osoba posiadająca odpowiednie kompetencje. Jednocześnie określono termin pierwszego posiedzenia Komisji, które ma się odbyć w ciągu trzech miesięcy od wejścia w życie ustawy. Jest to istotne dla zapewnienia płynnego wdrożenia nowych rozwiązań i niezwłocznego podjęcia prac przez Komisję. Mając na uwadze, że Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji, minister został zobowiązanych do podjęcia niezbędnych działań w celu utworzenia w urzędzie komórki organizacyjnej zapewniającej obsługę Komisji i Przewodniczącego Komisji w zakresie ich zadań wynikających z rozporządzenia 2024/ 1689 oraz z ustawy. Rozpoczęcie działalności przez tę komórkę, powinno nastąpić w terminie 2 miesięcy od dnia wejścia w życie ustawy. Projekt ustawy przewiduje również maksymalne limity wydatków budżetowych na kolejne lata oraz wprowadzenie mechanizmu korygującego w przypadku zagrożenia ich przekroczeniem. Mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy umożliwia elastyczne i skuteczne ograniczenie kosztów, zapewniając racjonalne gospodarowanie środkami publicznymi. Mechanizm opiera się na obniżeniu limitu wydatków – co automatycznie wymusza redukcję kosztów tych zadań. 50 W przypadku konieczności zastosowania mechanizmu korygującego niezbędna będzie weryfikacja, priorytetyzacja lub przesuniecie zakresu realizacji niektórych zadań. Mechanizm korygujący nie będzie uchylał obowiązku wynikającego z ustawy, ale będzie modyfikował sposób finansowania tego obowiązku, np. przesuwając fazy jego realizacji. Będzie on dostosowany do priorytetów realizowanych przez Komisję. Nadzór nad finansami sprawuje minister właściwy do spraw informatyzacji, co gwarantuje odpowiednią kontrolę wydatkowania środków publicznych, natomiast Przewodniczący Komisji odpowiada za wdrażanie mechanizmów kontrolnych w celu uniknięcia przekroczenia założonych limitów. Termin wejścia w życie przepisów ustawy Zachowane zostało wejście w życie przepisów ustawy zgodne z terminem wejścia w życie przepisów rozporządzenia 2024/1689. Ustawa wejdzie w życie po upływie 14 dni od dnia ogłoszenia, przy czym przepisy dotyczące powołania organu nadzoru zaczną obowiązywać od dnia następującego po jej ogłoszeniu. Takie rozwiązanie umożliwia sprawne rozpoczęcie organizacji Komisji oraz szybkie wdrożenie działań niezbędnych do uruchomienia pracy nowego organu. Jednocześnie wyjaśnić należy, że w zakresie spraw uregulowanych: 1) w rozdziale III sekcje 1–3 i sekcja 5, rozdziale IV, rozdziale VI, rozdziałach VIII–XI, z wyłączeniem art. 78, oraz w zakresie spraw uregulowanych w art. 101 rozporządzenia z 2024/1689, przepisy ustawy będą obowiązywały od 2 sierpnia 2026 r.; 2) w art. 6 ust. 1 rozporządzenia 2024/1689 i odpowiadających mu obowiązków ustanowionych w tym rozporządzeniu, przepisy ustawy będą obowiązywały od 2 sierpnia 2027 r. Wskazane terminy wynikają wprost z art. 113 rozporządzenia 2024/1689. Projekt zapewnia sprawną organizację i finansowanie Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji, umożliwiając efektywne zarządzanie rozwojem sztucznej inteligencji w Polsce. Tworzy on stabilne ramy prawne, organizacyjne i finansowe dla działalności Komisji, co pozwoli na skuteczne monitorowanie rozwoju sztucznej inteligencji i minimalizowanie związanych z nią zagrożeń. Wdrożenie ustawy stanowi istotny krok w kierunku nowoczesnej i odpowiedzialnej polityki państwa wobec dynamicznie rozwijających się technologii cyfrowych. 51 Projekt ustawy nie zawiera przepisów technicznych w rozumieniu przepisów rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i w związku z tym nie podlega procedurze notyfikacji. W związku z art. 68–70 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców należy zaznaczyć, że projektowana ustawa, nakładając nowe obowiązki na przedsiębiorców będzie miała wpływ na działalność mikro- oraz małych i średnich przedsiębiorców. Projektowana ustawa ogranicza się jednak do nałożenia obowiązków niezbędnych do osiągnięcia celów rozporządzenia 2024/1689. Projekt ustawy jest zgodny z przepisami prawa Unii Europejskiej i służy ich stosowaniu. Projekt ustawy nie podlega przedstawieniu właściwym organom i instytucjom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt ustawy stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677, z późn. zm.) oraz zgodnie z § 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) został zamieszczony w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie „Rządowy Proces Legislacyjny”. Nazwa projektu Ustawa o systemach sztucznej inteligencji Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji, pamela.krzypkowska@cyfra.gov.pl; sekretariat.dbi@cyfra.gov.pl Data sporządzenia 20.03.2026 r. Źródło: Prawo UE Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Nr w wykazie prac UC71 OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”. Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności, ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą opierały się na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim. Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do: 1) wskazania właściwych organów krajowych, tj.: - organu lub organów nadzoru rynku, - organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie; 2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689; 3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie przepisów rozporządzenia 2024/1689. W projekcie ustawy wprowadzono również podstawowe przepisy dotyczące piaskownic regulacyjnych. Zgodnie z art. 57 rozporządzenia 2024/1869 każde państwo członkowskie ma obowiązek ustanowienia przynajmniej jednej krajowej piaskownicy regulacyjnej do 2 sierpnia 2026 roku. Może ona być uruchomiona samodzielnie lub we współpracy z innymi państwami, a wypełnienie obowiązku dopuszcza także uczestnictwo w już istniejącej piaskownicy, o ile zapewnia ona równoważny zasięg krajowy. Komisja Europejska zyskuje tu rolę wspierającą, oferując doradztwo, narzędzia i pomoc techniczną w tworzeniu oraz funkcjonowaniu piaskownic. Oprócz rozwiązań na szczeblu krajowym dopuszcza się również tworzenie piaskownic regionalnych, lokalnych czy nawet wspólnych dla kilku państw, a Europejski Inspektor Ochrony Danych może powołać własną piaskownicę dla instytucji i organów unijnych. Organy krajowe zobowiązane są do zapewnienia wystarczających zasobów finansowych, kadrowych i organizacyjnych, aby piaskownice działały efektywnie, terminowo i zgodnie z prawem. Mogą współpracować z innymi podmiotami z 2 ekosystemu AI, w tym organizacjami prywatnymi, a także muszą utrzymywać koordynację z organami nadzorującymi inne piaskownice powstałe na gruncie prawa unijnego czy krajowego. Komisja Europejska jest zobowiązana do przyjęcia jednolitych procedur i kryteriów funkcjonowania piaskownic, których celem będzie harmonizacja praktyk w całej UE i ograniczenie barier administracyjnych. Piaskownica regulacyjna w projekcie ustawy o systemach sztucznej inteligencji rozwiązuje problem braku bezpiecznego i przejrzystego środowiska do testowania systemów sztucznej inteligencji zanim trafią one na rynek. Piaskownica regulacyjna tworzy kontrolowane warunki, w których można eksperymentować, trenować i walidować systemy AI pod stosownym nadzorem, co pozwala na identyfikację potencjalnych zagrożeń i dostosowanie technologii do wymogów prawa jeszcze przed ich komercjalizacją. Zawarte w projekcie przepisy umożliwią wypełnienie obowiązku wynikającego z art. 57 rozporządzenia 2024/1689. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji i oczekiwany efekt Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689; możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji oraz środków wspierania innowacyjności. Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa. Projektu ustawy nie stosuje się do: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: a) działalnością, o której mowa w art. 2 ust. 1 i 2 z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych, b) działalnością gospodarczą, o której mowa w art. 3 w zw. z art. 4 ust. 1–2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, c) działalnością nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) działalnością, o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) działalnością rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego; 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689; 3) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 4) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5–6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego, działaniach podejmowanych w celu zidentyfikowania i ścigania sprawcy przestępstwa; 5) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w tym punkcie; 6) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 5, przed wejściem w życie rozporządzenia 2024/1689; 7) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. 3 1. Właściwe organy krajowe Organ nadzoru rynku oraz punkt kontaktowy Przepisy rozporządzenia 2024/1689 zobowiązują państwa członkowskie do powołania lub wskazania organu nadzoru rynku. W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne. Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania). Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna. Pracami Komisji będzie kierował Przewodniczący powoływany przez Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej, spośród osób, które posiadają obywatelstwo polskie, korzystają z pełni praw publicznych, cieszą się nieposzlakowaną opinią i które nie były skazane prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, które jednocześnie posiadają wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub równorzędny oraz co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji, doświadczenie zawodowe uzyskane w trakcie pracy w takich podmiotach lub pracy naukowej, a także wyróżniają się wiedzą i posiadają znaczący dorobek w zakresie sztucznej inteligencji. Wybór Przewodniczącego Komisji przez Sejm za zgodą Senatu zapewni niezależność i demokratyczną legitymację. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji. W skład Komisji będą także wchodzili dwaj Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisji Nadzoru Finansowego; 3) Krajowej Rady Radiofonii i Telewizji; 4) Prezesa Urzędu Komunikacji Elektronicznej. Komisja będzie działać w modelu kolegialnym, co zapewni większą rzetelność decyzji, a skargi będą rozpatrywane przez Przewodniczącego dla większej efektywności. Projekt ustawy przewiduje niezależność wszystkich osób wchodzących w skład Komisji w zakresie zadań przez nią realizowanych. Dodatkowo Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 4 Przepisy uregulują również obowiązki i uprawnienia członków komisji, a także sposób wykonywania zadań. Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji. W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest wskazanie podmiotu pozwalającego na wykonywanie zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz Przewodniczącego. Przepisy rozporządzenia 2024/1689 nie wskazują na obowiązek utworzenia urzędu, a tym samym nie odnoszą się do kwestii pracowniczych w tym zakresie, jednak przesądzenie tych kwestii w ustawie jest niezbędne w celu zapewnienia właściwego funkcjonowania niezależnego organu nadzoru. Stąd też w przepisach projektu znalazły się uregulowania związane ze wskazaniem urzędu obsługującego ministra do spraw informatyzacji jako urzędu zapewniającego obsługę administracyjną, organizacyjną, kancelaryjną oraz wykonywania zadań przez Komisję oraz przewodniczącego Komisji. Dla kompletności rozwiązań ustawowych uregulowane zostaną także kwestie wykraczające poza przepisy rozporządzenia 2024/1689, a dotyczące organizacji pracy pracowników. Zadania nowego organu będą obejmowały w szczególności: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o których mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawia ministrowi właściwemu do spraw informatyzacji propozycje działań legislacyjnych, b) udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacje, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Do istotnych zadań komisji chociaż wykraczających poza ramy rozporządzenia 2024/1689 należy także: 5 1) wydawanie przez opinii indywidualnych oraz wyjaśnień w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. W związku z zapewnieniem Komisji kompetencji do wydawania opinii indywidualnych i wyjaśnień niezbędne jest uregulowanie w projekcie ustawy również procedur z tym związanych, a także odziaływania tych dokumentów na inne organy; 2) wyrażanie opinii w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, a także udział w ich opracowywaniu. Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji. Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art. 7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji. Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji a Komisją, w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków). Jako organ opiniodawczo-doradczy Komisji zostanie powołana również Społeczna Rada do spraw Sztucznej Inteligencji, której członkowie będą wybierani przez Komisję spośród kandydatów zgłaszanych przez m.in. Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, izby gospodarcze, związki zawodowe oraz fundacje i stowarzyszenia. Do zadań Rady będzie należeć wydawanie opinii i stanowisk w zakresie przekazanym przez Komisję oraz z własnej inicjatywy, a także przekazywanie wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków. Powołanie organu opiniodawczo-doradczego organu nadzoru nie zostało objęte przepisami rozporządzenia 2024/1689. Przepisy projektu ustawy zakładają także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. tworzenie piaskownic regulacyjnych, prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe. W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, z zastrzeżeniem art. 2 ust 2, której celem będzie ustalenie zgodności działalności podmiotów z przepisami rozporządzenia oraz ustawy. Komisja będzie przeprowadzała kontrolę zgodnie z zatwierdzonymi planami kontroli, na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Kontrola będzie prowadzona, z wyjątkiem określonych w ustawie przypadków, w trybie zdalnym, z wykorzystaniem środków porozumiewania się na odległość. Kontrola może zostać przeprowadzona przez upoważnionego pracownika właściwej komórki urzędu obsługującego ministra do spraw informatyzacji, co do zasady po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli oraz jej zakończenia, a także uprawnień i obowiązków kontrolujących i podmiotów kontrolowanych. Jeżeli w wyniku kontroli Komisja stwierdzi nieprawidłowości wypełniania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji wydanej przez Komisję lub ustawy, w projekcie ustawy przewidziano możliwość wydawania przez Komisję zaleceń pokontrolnych. Jest to regulacja wykraczająca poza przepisy rozporządzenia 2024/1689 jednak stanowi odpowiedź na potrzeby regulowanej materii. Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Postępowanie będzie wszczynane z urzędu, na wniosek Przewodniczącego, zastępcy, członka Komisji lub Społecznej Rady ds. Sztucznej Inteligencji, lub na podstawie skargi. W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe. Procedury prowadzenia postępowań zostały pozostawione do uregulowania Państwom członkowskim w ramach przepisów krajowych i w takim zakresie nie wynikają bezpośrednio z przepisów rozporządzenia 2024/1689. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W przypadku uzasadnionego podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, 6 Komisja może wydać w drodze postanowienia ostrzeżenie, w którym wskazuje działania, które strona powinna podjąć w celu przywrócenia stanu zgodnego z prawem. W toku postępowania Komisja może także, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Zarówno instytucja ostrzeżenia, jak i instytucja układu nie wynikają wprost z rozporządzenia 2024/1689 chociaż wchodzą one regulacje dotyczące zasad postępowania przed organem nadzoru rynku. Stwierdzenie przez Komisję naruszenia przepisów rozporządzenia 2024/1689 następuje w formie decyzji zawierającej środki nakazujące usunięcie skutków naruszenia. Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych. W takim wypadku Komisja obowiązana będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. W związku z przetwarzaniem przez Komisję danych osobowych w celu realizacji zadań wynikających z rozporządzenia 2024/1689 w projekcie wskazano procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. Przepisy te nie stanowią z wykonania rozporządzenia 2024/1689. Organ notyfikujący Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność o raz jako organ notyfikujący. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. Notyfikacja jednostek oceniających zgodność następować będzie na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Dla spójności z przepisami oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 powierzone zostaną Polskiemu Centrum Akredytacji, do którego zadań należeć będzie: 1) uczestniczenie, we współpracy z ministrem właściwym do spraw informatyzacji, w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność; 2) opracowanie szczegółowego programu akredytacji jednostek oceniających zgodność oraz dokonywanie aktualizacji tego programu; 3) przekazywanie ministrowi właściwemu do spraw informatyzacji informacji o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. 2. Skargi W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów. Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości 7 odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów. Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ. 3. Środki wspierające innowacyjność W projekcie ustawy określono ramy tworzenia tzw. piaskownic regulacyjnych w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689. Komisja ma kompetencje do udzielenia w drodze decyzji dostępu do piaskownicy regulacyjnej podmiotom wybranym w drodze konkursu. Mikro, mali i średni przedsiębiorcy w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców będą mogli uczestniczyć w piaskownicy regulacyjnej nieodpłatnie. Celem tych regulacji będzie: – ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. – zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. – stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. Komisja będzie mogła prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. W ramach innych środków wspierania innowacyjności, zgodnie z projektem ustawy, minister właściwy do spraw informatyzacji może podejmować działania takie jak: 1) udzielanie pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansowanie lub współfinansowanie programów i projektów w tym zakresie ze środków pochodzących z budżetu państwa w formie dotacji, jak również budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, środków pochodzących z bezzwrotnej pomocy zagranicznej oraz środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjowanie, wspieranie i realizowanie programów obejmujących finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyniki badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. Udzielenie finansowania będzie możliwe także dla Instytutu Badawczego IDEAS. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. 4. Administracyjne kary pieniężne Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby Komisja nakładała kary pieniężne w drodze decyzji, w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. Zgodnie z art. 99 rozporządzenia 2024/1689 kara za nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Z kolei nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5 (art. 99 ust. 4 lit. a-g rozporządzenia 2024/1689) podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest 8 przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów. Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. Jeśli Komisja uzna odwołanie za słuszne, może – nie przekazując akt sądowi – uchylić albo zmienić swoją decyzję w całości lub w części. Dodatkowo, projekt zakłada możliwość uzyskania przez stronę zmniejszenia wysokości nałożonej kary administracyjnej. Oprócz wcześniej wspomnianego środka zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, w przepisach przewidziano kompetencję Komisji do zmniejszenia, w drodze decyzji, administracyjnej, wysokości kary pieniężnej, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu wydanym przez Komisję, a naruszenie nie doprowadziło do śmierci lub uszczerbku na zdrowiu człowieka. Ustanowienie procedur nakładania administracyjnych kar pieniężnych oraz określenie przeznaczenia tych kar rozporządzenie 2024/1689 pozostawiło w gestii państw członkowskich. W projekcie zawarto także przepisy dotyczące sankcji karnych za określone czyny związane z udaremnianiem lub utrudnianiem prowadzenia kontroli, czynności w postępowaniu w przypadku stwierdzenia naruszenia związanego ze stwarzaniem przez system AI ryzyka oraz niedostarczeniem lub dostarczeniem niedostatecznych danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Regulacja ta nie wynika bezpośrednio z przepisów rozporządzenia 2024/1689. Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw, a także przepisy przejściowe, dostosowujące i końcowe. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Rozporządzenie 2024/1689 jest aktem prawnym bezpośrednio obowiązującym, będzie więc miało bezpośrednie zastosowanie we wszystkich państwach członkowskich Unii Europejskiej. Najważniejszym celem unijnych przepisów jest to, aby systemy sztucznej inteligencji stosowane w UE były bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. W konsekwencji wszystkie państwa członkowskie UE będą stosowały przepisy ww. rozporządzenia, a prace nad wdrożeniem obecnie toczą się we wszystkich krajach. Z przeprowadzonej analizy porównawczej wynika, że w państwach członkowskich UE nie ukształtował się jeden dominujący model organizacji nadzoru rynku nad systemami sztucznej inteligencji. Rozwiązania są dostosowywane do krajowej struktury administracji, przy jednoczesnym zachowaniu wymogów art. 70 rozporządzenia 2024/1689, w szczególności w zakresie niezależności organu oraz zapewnienia odpowiednich zasobów i kompetencji. W analizowanych państwach przyjmowane są w szczególności: (1) model nowego wiodącego organu nadzoru rynku przy jednoczesnym zachowaniu sektorowego podziału kompetencji dla części systemów wysokiego ryzyka (np. Hiszpania), (2) model oparty na istniejących instytucjach z wyznaczeniem wiodącego organu i punktu kontaktowego oraz uzupełniającą rolą organów sektorowych (np. Malta), a także (3) model wieloorganowy oparty w całości na istniejących organach administracji publicznej, z przypisaniem zadań zgodnie z właściwością rzeczową. Do tej pory dwa państwa członkowskie UE, Finlandia i Luksemburg, opublikowały projekty aktów prawnych wdrażających do krajowych przepisów rozwiązania w zakresie nadzoru z rozporządzenia 2024/1689. W fińskiej propozycji przepisów (Hallituksen esitys laiksi eräiden tekoälyjärjestelmien valvonnasta ja siihen liittyvien lakien muuttamisesta, nr projektu TEM050:00/2024) rolę organów nadzoru rynku rozdzielono pomiędzy już istniejące organy, które sprawują nadzór nad poszczególnymi sektorami gospodarki i życia publicznego. Analogicznie, kilku organom przyznano funkcję organów notyfikujących. Jako pojedynczy punkt kontaktowy wyznaczona została Agencja Transportu i Komunikacji (Traficom). W zakresie środków nadzoru rynku projekt ustawy odsyła do rozdziału 3 ustawy o nadzorze rynku (Laki eräiden tuotteiden markkinavalvonnasta, 16.12.2016/1137). W projekcie przewidziano również powstanie nowego organu działającego przy Traficom, który nakłada sankcję za naruszenia określonych przepisów ustawy, jeżeli przekracza ona 300 000 EUR. W luksemburskim projekcie ustawy zadania w zakresie nadzoru rynku oraz notyfikacji na gruncie rozporządzenia 2024/1689 również zostały rozdzielone między kilka organów. Jako pojedynczy punkt kontaktowy wyznaczono organ ochrony danych osobowych. 9 Ponadto, w kilku państwach członkowskich wprowadzono w ostatnim czasie różnorodne rozwiązania prawne i organizacyjne w zakresie zapewnienia nadzoru nad systemami sztucznej inteligencji. Hiszpania W Hiszpanii przyjęto rozwiązanie oparte na powołaniu nowego organu nadzoru rynku nad systemami sztucznej inteligencji. W 2023 r. powołano tam Agencję Nadzoru nad Sztuczną Inteligencją (Agencia Española de Supervisión de la Inteligencia Artificial). Działania Agencji mają służyć m.in. następującym celom: nadzór nad wdrażaniem, użytkowaniem lub wprowadzaniem do obrotu systemów sztucznej inteligencji, a w szczególności takich, które mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa oraz praw podstawowych; współpracy i koordynacji między innymi organami krajowymi; promocji środowisk testowych systemów sztucznej inteligencji; podnoszeniu świadomości, rozpowszechnianiu szkoleń związanych z odpowiedzialnym wykorzystaniem sztucznej inteligencji. Agencja Nadzoru nad Sztuczną Inteligencją podlega Ministerstwu Gospodarki i Transformacji Cyfrowej. Nowy organ z siedzibą w La Corunii został wyposażony w budżet na rozpoczęcie działalności w wysokości ok. 21 mln. Euro (2023). W przyjętej 15 maja 2024 r. strategii AI (2024 Artificial Intelligence Strategy) Agencja Nadzoru nad Sztuczną Inteligencją została wskazana jako główny organ odpowiedzialny za wdrożenie i nadzór nad egzekwowaniem rozporządzenia 2024/1689. Ponadto 8 listopada 2023 r. na mocy królewskiego dekretu nr 817/2023 w Hiszpanii powołano piaskownicę regulacyjną, której celem jest stworzenie środowiska testowego dla systemów wysokiego ryzyka. Według aktualnych informacji, w styczniu 2025 r. trwał pierwszy nabór wniosków. Austria W Austrii w styczniu 2024 r. weszło życie prawo (zmiany w Telekommunikationsgesetz), na mocy którego ustanowiono Biuro Obsługi ds. sztucznej inteligencji (KI-Servicestelle) przy austriackim urzędzie ds. telekomunikacji (RTR). Biuro ma służyć jako punkt kontaktowy i centrum informacji dla ogółu społeczeństwa na temat sztucznej inteligencji oraz wspierać wdrażanie rozporządzenia 2024/1689. Na swojej stronie internetowej Biuro publikuje informacje na temat rozporządzenia oraz inicjatyw w zakresie sztucznej inteligencji podejmowanych w Austrii. W lutym 2024 r. powołano Radę Doradczą ds. sztucznej inteligencji (KI-Beirat), której rolą ma być doradzanie rządowi federalnemu i Biuru Obsługi ds. sztucznej inteligencji we wdrażaniu rozporządzenia 2024/1689. W listopadzie 2024 r. w Austrii przedstawiono także Plan wdrożenia na 2024 r. dla strategii rządu federalnego dla AI (Strategie der Bundesregierung für Künstliche Intelligenz - Umsetzungsplan 2024). Federalny Urząd Kanclerski Austrii, Wydział VII – Cyfryzacja i E-administracja (Bundeskanzleramt, Sektion VII – Digitalisierung und E-Government) został w nim wyznaczony jako odpowiedzialny za przygotowanie wdrożenia rozporządzenia 2024/1689 do porządku krajowego. Węgry Węgierskie rozwiązanie oparto na wskazaniu istniejącej instytucji rządowej – Ministerstwa Gospodarki Narodowej – jako organu nadzoru rynku AI. Jednocześnie przewidziano mechanizm umożliwiający wyznaczenie organu nadzoru rynku sztucznej inteligencji w drodze rozporządzenia, co świadczy o elastycznym modelu organizacyjnym. Dania Dania przyjęła model wieloorganowy oparty w całości na istniejących instytucjach administracji publicznej. Mechanizmy współpracy opierają się na wyznaczeniu Duńskiej Agencji Cyfryzacji (Digitaliseringsstyrelsen) jako centralnego punktu kontaktowego (Single Point of Contact) w rozumieniu art. 70 ust. 2 AI Act oraz na obowiązku współdziałania pomiędzy organami i zapewnienia zasobów niezbędnych do wykonywania zadań. Malta Na Malcie głównym organem nadzoru rynku oraz jednolitym punktem kontaktowym jest Malta Digital Innovation Authority (MDIA). Model ten przewiduje centralną rolę MDIA w ogólnym nadzorze rynku AI, w tym prowadzeniu krajowej piaskownicy regulacyjnej, pełnieniu funkcji organu notyfikującego oraz nakładaniu administracyjnych kar pieniężnych; dodatkowo, w przypadku braku wyznaczenia innego organu, MDIA przejmuje funkcję organu nadzoru rynku, co nadaje jej pozycję „domyślną” w systemie. Włochy We Włoszech wyznaczono dwie istniejące agencje jako krajowe organy właściwe – AgID (Agenzia per l’Italia digitale) oraz ACN (Agenzia per la cybersicurezza nazionale). W analizie wskazano także mechanizm koordynacji z udziałem organów sektorowych poprzez komitet koordynacyjny przy Prezesie Rady Ministrów, z udziałem kierownictwa AgID i ACN oraz przedstawicieli organów sektorowych. Słowenia 10 W Słowenii kompetencje nadzorcze przekazano istniejącym instytucjom sektorowym, a współpracę oraz rozstrzyganie sporów kompetencyjnych pomiędzy organami zapewnia Rada Koordynacyjna Organów Nadzoru Rynku. Prace nad przyjęciem rozwiązań regulacyjnych dotyczących sztucznej inteligencji trwają również w krajach OECD. Poniżej opisano przykłady dwóch z nich, w których już przyjęto akty prawne w tym zakresie lub trwają nad nimi prace. Korea Południowa 26 grudnia 2024 r. w Korei Południowej przyjęto Podstawowy Akt o AI (AI Basic Act, South Korean AI Act). Wejdzie on w życie w styczniu 2025 r. Celem aktu jest ochrona praw i godności człowieka oraz poprawa jakości życia i wzmocnienie konkurencyjności Korei Południowej poprzez stworzenie ram niezbędnych do prawidłowego rozwoju sztucznej inteligencji. Stanowi on usankcjonowanie prawne dla powołania Narodowego Komitetu ds. AI (National AI Committee), które miało miejsce we wrześniu 2024 r. Zadaniem Komitetu jest m. in. rozpatrywanie i podejmowanie decyzji w sprawie głównych polityk promowania sztucznej inteligencji oraz tworzenie podstaw zaufania do AI. Akt uprawnia także Ministra ds. Nauki i ICT do utworzenia Ośrodka ds. Polityki AI, którego zadaniem będzie opracowywanie polityk w zakresie sztucznej inteligencji oraz ustalanie i upowszechnianie norm międzynarodowych. Na gruncie aktu, operatorzy systemów AI, które zostały w nim zdefiniowane jako wysokiego wpływu (high-impact) i generatywne, podlegają obowiązkom w zakresie transparentności i bezpieczeństwa. Rząd może także wspierać dobrowolną weryfikację bezpieczeństwa i niezawodności systemów AI wykorzystywanych przez sektor prywatny oraz oceny ich wpływu. Ponadto, ministrowi ds. Nauki i ICT została przyznana kompetencja do uchwalania i ogłaszania zasad etycznych dla AI w zakresie bezpieczeństwa, niezawodności, dostępności oraz wpływu na życie i dobrobyt ludzi. Minister ds. Nauki i ICT może także, w przypadku, gdy poweźmie informację, że naruszone zostały przepisy aktu, prowadzić postępowania wyjaśniające oraz zarządzić podjęcie środków w celu zaprzestania naruszenia lub usunięcia jego skutków. Kanada Kanada jako jeden z pierwszych krajów OECD, w 2016 r. przyjęła regulacje adresujące część problematyki objętej zakresem Rozporządzenia 2024/1689. Dyrektywa w zakresie automatycznego podejmowania decyzji (Directive on automated decision making) to akt prawny w randze ustawy, w którym wprowadzone zostały mechanizmy oparte na ryzyku mające zapewnić przejrzystość, rozliczalność, legalność i uczciwość zautomatyzowanych decyzji mających wpływ na Kanadyjczyków. Dyrektywie towarzyszy załącznik – Algorytymiczna ocena wpływu (Algorithmic Impact Assessment) – wzór formularza, który obowiązkowo należy wypełnić w przypadku wdrożenia systemu sztucznej inteligencji w instytucjach federalnej służby publicznej. Dla zapewnienia spójności między systemem nadzoru oraz wspierania badań i innowacji, w 2019 r. utworzono instytucję - Radę Doradczą ds. Sztucznej Inteligencji (Advisory Council on AI), której zadaniem jest doradzanie rządowi Kanady w budowaniu przewag konkurencyjnych w nauce, technologii, a także światowym przywództwie w dziedzinie sztucznej inteligencji, identyfikowaniu możliwości stworzenia wzrostu gospodarczego oraz zapewnianiu, że postępy w zakresie sztucznej inteligencji odzwierciedlają wartości określone w kanadyjskim prawie. Kontynuując ten kierunek, Kanada w 2022 r. ogłosiła dokument pn. Karta Praw Cyfrowych (Karta Praw Cyfrowych), która zawiera propozycje działań prawnych i administracyjnych kompleksowo odnoszących się do zagrożeń dla praw obywateli i konsumentów związanych z rozwojem technologii cyfrowych. W 2022 r. rząd Kanady zaprezentował wpisujące się w ten program projekty trzech aktów prawnych pod wspólną nazwą Bill C-27. Jednym z nich jest Akt o sztucznej inteligencji i danych (Artificial Intelligence and Data Act), projekt ustawy, który zawiera m.in. propozycję powołania nowego organu ds. sztucznej inteligencji i ochrony danych (AI and Data Commissioner), przepisy karne za stosowanie systemów sztucznej inteligencji uznanych za szczególnie groźne, a także (oparty na metodologii Algorithmic Impact Assessment) zestaw przepisów proceduralnych określających obowiązki podmiotów wprowadzających na rynek oraz stosujących systemy sztucznej inteligencji. Projekt dotychczas nie został uchwalony i pozostaje w fazie prac legislacyjnych. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Obywatele W końcu 1 kwartału 2025 r. ludność Polski liczyła 37437 tys. osób Dane statystyczne Głównego Urzędu Statystycznego, 2025 r. https://ssgk.stat.gov.pl/Ludnosc. html Umożliwienie złożenia skargi do właściwych organów na naruszenia przepisów rozporządzenia 2024/1689. Urząd Ochrony Danych Osobowych 1 Informacja powszechnie dostępna Prezes Urzędu Ochrony Danych Osobowych będzie współpracował z Komisją w zakresie nadzoru nad systemami sztucznej inteligencji w zakresie określonym 11 przepisami rozporządzenia 2024/1689. Krajowa jednostka akredytująca Polskie Centrum Akredytacji (PCA) 1 Informacja powszechnie dostępna Realizacja zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przedsiębiorcy, w tym w szczególności przedsiębiorcy stosujący w działalności narzędzia sztucznej inteligencji ok. 5 202 000 (ogólna liczba przedsiębiorstw); wg szacunków (PIE, 2024) 6,6% polskich przedsiębiorstw (ogólna liczba przedsiębiorstw w gospodarce narodowej: 5,2 mln) deklaruje korzystanie z narzędzi sztucznej inteligencji, co przekłada się na szacunkową liczbę 330 tys. firm korzystających z tej technologii. Główny Urząd Statystyczny, 2024 r. Polski Instytut Ekonomiczny, 2024 r. Obowiązek spełnienia wymogów w postaci przestrzegania zakazów określonych w rozporządzeniu 2024/1689 dla poszczególnych typów podmiotów wykorzystujących narzędzia sztucznej inteligencji. Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689. Przedsiębiorcy sektora sztucznej inteligencji ok 1/3 firm ICT deklaruje, że w ich głównych produktach rozwiązania sztucznej inteligencji odgrywają kluczową rolę; zważywszy, że w 2022 wg GUS r. było zarejestrowanych 2712 firm prowadzących działalność w zakresie IT w 2022 r. (wg klasyfikacji PKD), daje to szacunkową liczbę ok. 900 firm sektora sztucznej inteligencji w Polsce. Główny Urząd Statystyczny, 2023 r. Fundacja Start Up Poland, 2024 r. Raport „Polskie Startupy, 2023 r.” Realizacja obowiązków wynikających z wprowadzenia listy zakazanych praktyk sztucznej inteligencji (zakaz wprowadzania do obrotu lub na rynek) oraz ograniczeń, które będą wynikać ze stosowania niektórych takich systemów w ramach dozwolonego użytku (obszary obronności, bezpieczeństwa narodowego oraz badań i nauki). Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 Rozporządzenia 2024/1689. Sąd okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów 1 Informacja powszechnie dostępna Rozpatrywanie spraw w ramach drogi odwoławczej od decyzji Komisji. Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Sąd apelacyjny w Warszawie, sądy okręgowe i rejonowe Stan na 30.06.2024 r.: - 11 sądów apelacyjnych, 47 sądów okręgowych i 319 sądów rejonowych Informacja ogólnodostępna Wzrost liczby spraw trafiających do sądów, wynikający z wdrożenia ustawy. Sąd Apelacyjny w Warszawie – rozpoznawanie apelacji i zażaleń z zakresu systemów sztucznej inteligencji Sądy powszechne – pion karny oraz jednostki prokuratury 318 sądów powszechnych w pionie karnym oraz 357 jednostek prokuratury w pionie karnym Informacja ogólnodostępna Wzrost liczby spraw, w których prowadzone lub nadzorowane będą postępowania karne w zakresie czynów karalnych określonych w ustawie. Sądownictwo wojskowe 12 Informacja ogólnodostępna Odziaływanie z zakresu prac Komisji. 12 Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Organy administracji publicznej: 1) Prezes Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisja Nadzoru Finansowego; 3) Krajowa Rada Radiofonii i Telewizji; 4) Prezes Urzędu Komunikacji Elektronicznej 4 Dane własne Udział w pracach Komisji jako jej członek. Jednostki samorządu terytorialnego 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Obowiązek spełnienia wymogów rozporządzenia 2024/1689 związanych z przestrzeganiem zakazu wprowadzania do użytku i używania systemów zakazanych. Urząd obsługujący ministra właściwego do spraw informatyzacji 1 Informacje powszechnie dostępne Zapewnienie obsługi organizacyjnej, kancelaryjnej i administracyjnej. Utworzenie właściwej komórki organizacyjnej. Minister właściwy do spraw informatyzacji 1 Informacje powszechnie dostępne Pełnienie funkcji organu notyfikującego, w tym: - współpraca z Polskim Centrum Akredytacji; - kontakty z organami notyfikującymi z innych państw oraz Komisją Europejską Określenie w drodze rozporządzenia wysokość opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej Wykonywanie zadań z art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji w zakresie najlepszych praktyk Udzielanie pomocy finansowej jednostkom podległym i nadzorowanym lub finansowanie w zakresie nadań naukowych i prac rozwojowych na podstawie art. 84. Policja Informacja powszechnie dostępna Udzielanie pomocy Komisji w przeprowadzaniu kontroli Naczelnicy Urzędów Skarbowych 366 Informacja Ministerstwa Finansów i Gospodarki Działanie z charakterze organu egzekucyjnego. Dyrektorzy izb administracji skarbowej 16 Informacja Ministerstwa Finansów i Gospodarki Działanie w charakterze organu nadzoru w związku z egzekucją 13 administracyjnych kar pieniężnych. 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Ministerstwo Cyfryzacji zmierzając do zapewnienia skutecznego stosowania rozporządzenia 2024/1689 podjęło szeroko zakrojone i transparentne prekonsultacje (od 2 kwietnia 2024 r. do 23 kwietnia 2024 r.) ze wszystkimi zainteresowanymi tą tematyką. Projekt ustawy został udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce „Rządowy Proces Legislacyjny” zgodnie z § 52 ust. 1 uchwały nr 190 uchwały Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Projekt ustawy w ramach konsultacji publicznych został przesłany w szczególności do następujących podmiotów: 1) Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, 2) Polska Izba Informatyki i Telekomunikacji, 3) Polska Izba Komunikacji Elektronicznej, 4) Krajowa Izba Gospodarczej, 5) Krajowa Izba Komunikacji Ethernetowej, 6) Polska Izba Radiodyfuzji Cyfrowej, 7) Polska Izba Handlu, 8) Izba Gospodarki Elektronicznej, 9) Krajowa Izba Gospodarki Cyfrowej, 10) Fundacja Bezpieczna Cyberprzestrzeń, 11) Polskie Towarzystwo Informatyczne, 12) Fundacja Nowoczesna Polska, 13) Fundacja Panoptykon, 14) Internet Society Poland, 15) Stowarzyszenie Inżynierów Telekomunikacji, 16) Fundacja Stefana Batorego, 17) Związek Pracodawców Mediów Publicznych, 18) Związek Pracodawców Mediów Elektronicznych Mediakom, 19) Związek Pracodawców Branży Internetowej IAB Polska, 20) Związek Telewizji Kablowych w Polsce Izba Gospodarcza, 21) Związek Rzemiosła Polskiego, 22) Polska Organizacja Handlu i Dystrybucji, 23) Naczelna Rada Zrzeszeń Handlu i Usług, 24) Polskie Stowarzyszenie Marketingu SMB, 25) Fundacja Moje Państwo, 26) Amerykańska Izba Handlowa w Polsce, 27) Federacja Konsumentów, 28) Związek Cyfrowa Polska, 29) Stowarzyszenie Praktyków Ochrony Danych Osobowych, 30) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 31) Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, 32) Federacja Przedsiębiorców Polskich, 33) Fundacja Open Allies, 34) Fundacja Instrat, 35) Fundacja Startup Poland, 36) Wikimedia Europe, 37) Fundacja Forum Konsumentów, 38) Stowarzyszenie Dziennikarzy i Wydawców Repropol, 39) Stowarzyszenie Sygnał, 40) Izba Wydawców Prasy, 41) Stowarzyszenie Autorów ZAiKS (ZAiKS), 42) Związek Autorów i Producentów Audiowizualnych (ZAPA), 43) Związek Polskich Autorów i Kompozytorów ZAKR, 44) Stowarzyszenie Kreatywna Polska (SKP), 45) Sieć Badawcza Łukasiewicz – PORT, 46) Stowarzyszenie Nowoczesnej Edukacji Prawnej, 47) CEE Digital Democracy Watch, 48) Fundacja AILAWTECH, 14 49) Sieć Obywatelska Watchdog Polska, 50) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 51) Polska Rada Biznesu, 52) Biblioteka Narodowa, 53) Brytyjsko-Polska Izba Handlowa, 54) Centrum Cyfrowe, 55) Francusko-Polska Izba Przemysłowo Handlowa, 56) INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, 57) Niemiecko-Polska Izba Przemysłowo-Handlowa, 58) Polska Akademia Nauk, 59) Polska Cyfrowa, 60) Związek Banków Polskich, 61) Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, 62) Kongres Polskiego Biznesu, 63) Naczelna Rada Zrzeszeń Handlu i Usług, 64) Naczelna Organizacja Techniczna, 65) Krajowa Izba Radców Prawnych, 66) Naczelna Rada Adwokacka, 67) Polski Funduszu Rozwoju S.A., 68) Bank Gospodarstwa Krajowego S.A., 69) Związek Rzemiosła Polskiego, 70) Polskie Towarzystwo Gospodarcze. Projekt ustawy został skierowany do opiniowania do następujących podmiotów: 1) Prezes Urzędu Komunikacji Elektronicznej, 2) Prezes Urzędu Ochrony Danych Osobowych, 3) Prezes Urzędu Ochrony Konkurencji i Konsumentów, 4) Krajowa Rada Radiofonii i Telewizji, 5) Komisja Nadzoru Finansowego, 6) Rzecznik Małych i Średnich Przedsiębiorców, 7) Rzecznik Praw Obywatelskich, 8) Rzecznik Praw Dziecka, 9) Polskie Centrum Akredytacji, 10) Polski Komitet Normalizacyjny, 11) Rzecznik Praw Pacjenta, 12) Rzecznik Finansowy, 13) Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 14) Główny Inspektor Pracy, 15) Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, 16) Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, 17) Prezes Prokuratorii Generalnej RP, 18) Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, 19) Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, 20) Krajowa Rady Sądownictwa, 21) Dyrektor Narodowego Centrum Badań i Rozwoju, 22) Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, 23) Dyrektor Polskiej Agencji Inwestycji i Handlu, 24) Prezes Polskiego Funduszu Rozwoju, 25) Dyrektor Narodowego Centrum Nauki, 26) Przewodniczący Zarządu Głównego Forum Związków Zawodowych, 27) Przewodniczący Komisji Krajowej NSZZ „Solidarność”, 28) Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, 29) Prezydent Konfederacji Lewiatan, 30) Prezydent Pracodawców RP, 31) Prezes Związku Pracodawców Business Centre Club, 32) Prezes Związku Przedsiębiorców i Pracodawców, 33) Prezes Związku Rzemiosła Polskiego, 34) Przewodniczący Federacji Przedsiębiorców Polskich, 35) Prezes Polskiego Towarzystwa Gospodarczego, 36) Federacja Związków Zawodowych Pracowników Telekomunikacji, 37) Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, 15 38) Stowarzyszenie Eksporterów Polskich, 39) Stowarzyszenie Konsumentów Polskich, 40) Związek Polskich Pracodawców Handlu i Usług, 41) Związek Firm Doradztwa Finansowego, 42) Związek Pracodawców Branży Internetowej IAB Polska, 43) Przewodniczący Forum Związków Zawodowych, 44) Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”, 45) Przewodnicząca Rady Dialogu Społecznego, 46) Przewodniczący Rady Działalności Pożytku Publicznego. W ramach I etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 16 października 2024 r. Termin na zgłaszanie uwag wynosił 30 dni. W ramach II etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 10 lutego 2025 r. Termin na zgłaszanie uwag wynosił 14 dni. W ramach opiniowania projekt ustawy został także przekazany Komisji Wspólnej Rządu i Samorządu Terytorialnego. 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 (2026) 1 2 3 4 5 6 7 8 9 10 Łącznie (0–10) Dochody ogółem 1,86 7,21 7,38 7,57 7,75 7,94 8,16 8,35 8,57 8,77 9,00 82,56* Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia budżet państwa 0,05 0,18 0,18 0,19 0,19 0,19 0,20 0,20 0,21 0,21 0,21 2,01 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia JST 0,26 1,00 1,02 1,05 1,07 1,10 1,13 1,16 1,19 1,22 1,25 11,45 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia FUS 1,17 4,56 4,67 4,79 4,91 5,03 5,16 5,28 5,42 5,55 5,70 52,24 NFZ 0,29 1,12 1,15 1,17 1,20 1,23 1,27 1,30 1,33 1,36 1,40 12,82 FP 0,04 0,14 0,15 0,15 0,16 0,16 0,16 0,17 0,17 0,18 0,18 1,46 FS 0,05 0,21 0,21 0,22 0,22 0,23 0,24 0,24 0,25 0,25 0,26 2,18 pozostałe jednostki (oddzielnie) 0 0 0 0 0 0 0 0 0 0 0 0 Wydatki ogółem 9,95 24,54 24,97 25,69 26,43 27,19 27,98 28,79 29,62 30,48 31,374 287,01 budżet państwa 9,30 23,74 24,17 24,89 25,63 26,39 27,18 27,99 28,82 29,68 30,57 278,36 JST 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 2,2 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia pozostałe jednostki (oddzielnie) 0,45 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 6,45 Saldo ogółem -8,09 -17,33 -17,59 -18,12 -18,68 -19,25 -19,82 -20,44 -21,05 -21,71 -22,37 -204,45 budżet państwa -9,25 -23,56 -23,99 -24,70 -25,44 -26,20 -26,98 -27,79 -28,61 -29,47 -30,36 -276,35 JST 0,06 0,80 0,82 0,85 0,87 0,90 0,93 0,96 0,99 1,02 1,05 9,25 pozostałe jednostki (oddzielnie) -0,45 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -6,45 Źródła finansowania Źródłem finansowania dla wydatków związanych z powołaniem nowego organu (Komisji) będzie budżet państwa. Wydatki związane utworzeniem i funkcjonowaniem Komisji w 2026 r. będą pokryte z rezerwy celowej, która za pismem Ministerstwa Finansów z 6 października 2025 r., sygn. PR2.021.403.2024, „zgodnie z wystąpieniem Ministra Cyfryzacji w sprawie dodatkowych potrzeb wynosi 20 250 000 złotych” i znajduje się w części 83 budżetu państwa. Koszty związane z jej funkcjonowaniem w latach kolejnych (2027–2035) pokrywane będą z części 27 – Informatyzacja. Oszacowane skutki finansowe związane z wejściem w życie projektowanej ustawy muszą zostać zabezpieczone w ustawie budżetowej na rok 2027 i lata następne. Mając na uwadze zatrudnienie 16 pracowników urzędu obsługującego ministra właściwego do spaw informatyzacji na zasadach określonych w ustawie o służbie cywilnej, niezbędne jest też dodatkowe coroczne uwzględnienie zmiany kwoty bazowej w ramach skutków finansowych wejścia w życie projektu ustawy. Źródłem finansowania dla wydatków związanych oddziaływaniem ustawy na Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów będzie budżet części 15 – Sądy powszechne. Skutki proponowanych rozwiązań w części 15 – Sądy powszechne będą możliwe do poniesienia w ramach dotychczas posiadanych środków budżetowych w roku wejścia w życie ustawy i nie będą podstawą do planowania i ubiegania się o dodatkowe środki z budżetu państwa w roku wejścia w życie ustawy. Po pierwszych latach funkcjonowania przepisów ustawy Ministerstwo Sprawiedliwości dokona rewizji skutków finansowych w ramach prac nad ustawą budżetową w oparciu o rzeczywiste obciążenie etatowe dla sądów i SOKIK Pomoc finansowa udzielana przez ministra właściwego do spraw informatyzacji w oparciu o art. 99 ustawy będzie każdorazowo finansowana w ramach limitu wydatków części 27 – Informatyzacja i nie będzie stanowić podstawy do ubiegania się o dodatkowe środki z budżetu państwa na ten cel w okresie obowiązywania ustawy. Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych. Przyjęcie projektu nie będzie podstawą do planowania i ubiegania się o dodatkowe środki finansowe dla części 10 – Urząd Ochrony Danych Osobowych (w tym na nowe etaty). Kwoty dochodów budżetu państwa oszacowano proporcjonalnie do kwot dochodów JST wykazanych w tabeli powyżej, zgodnie z zasadą podziału wpływów z PIT pomiędzy JST i budżet państwa w proporcjach 85% : 15%. Zastosowano wzór: Dochody budżetu państwa = (15/85) × Dochody JST * Ustalenie szacunkowej wysokości nałożonych kar z tytułu naruszenia przepisów rozporządzenia 2024/1968, które będą stanowić przychód budżetu państwa w ujęciu rocznym nie jest możliwe w oparciu o obecny stan wiedzy. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Utworzenie i funkcjonowanie nowego organu nadzoru rynku Skutki finansowe niniejszej ustawy związane z utworzeniem organu nadzoru rynku AI i zapewnieniem realizacji jego zadań zostały wyliczone przy założeniu, że powstanie nowy krajowy organ nadzoru pełniący jednocześnie funkcję punktu kontaktowego. Organ będzie miał charakter kolegialny. Obsługę administracjo-kancelaryjną organu będzie zapewniał urząd obsługujący ministra właściwego do spraw informatyzacji w zakresie posiadanych zasobów kadrowych. W celu zapewnienia realizacji zadań Komisji i Przewodniczego Komisji będą oni mogli upoważnić pracowników ww. urzędu do załatwiania niektórych spraw w ich imieniu. W tym celu planowane jest utworzenie właściwej komórki organizacyjnej w urzędzie i zasilenie jej docelowo 70 nowymi etatami merytorycznymi. Szacowana liczba etatów wynika z potrzeby zabezpieczenia realizacji zadań tego podmiotu określonych w ustawie i rozporządzeniu 2024/1689. Szacunkowo przyjęto założenie, że w roku 2026 zatrudnienie nowych pracowników merytorycznych wyniesie 30 osób, a w następnych latach do 70 etatów merytorycznych nie wliczając w to Przewodniczącego Komisji oraz dwóch zastępców Przewodniczego Komisji. Do nowych pracowników zastosowanie znajdą przepisy ustawy o służbie cywilnej oraz ustawy –Kodeks pracy. Środki na wynagrodzenia i funkcjonowanie Komisji będą uruchamiane adekwatnie do upływu czasu i faktycznego zatrudnienia w roku wejścia w życie ustawy i w każdym następnym roku do daty uzyskania pełnej funkcjonalności Koszty w roku 2026 wynoszą 9 301 554,00 zł i obejmują: a) wydatki jednorazowe: – zakup 50 laptopów z dodatkowymi monitorami oraz stacjami dokującymi, akcesoriami i systemami informatycznymi, telefony dla nowo zatrudnionych pracowników – 460 000,00 zł, – zakup mebli i wyposażenia – 400 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej (czerwiec-grudzień) – 787 500,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego dwóch zastępców (kwiecień- grudzień) –562 868,46 zł d) wydatki na wynagrodzenia dla 30 etatów (czerwiec-grudzień) – 3 150 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%, czerwiec-grudzień) – 693 935,12 zł, f) Pracownicze Plany Kapitałowe (czerwiec-grudzień) – 47 250,00 zł, 17 g) wydatki bieżące – 3 200 000,00 zł, Koszty w roku 2027 wynoszą 23 743 043,10 zł i obejmują: a) wydatki jednorazowe – zakup 40 laptopów z dodatkowymi monitorami oraz stacjami dokującymi i akcesoriami, telefony dla nowo zatrudnionych pracowników – 360 000,00 zł, – zakup mebli i wyposażenia – 250 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 750 491,28 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 650 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 691 451,82 zł, f) Pracownicze Plany Kapitałowe – 191 100,00 zł, g) wydatki bieżące – 4 500 000,00 zł. Koszty roczne w latach 2028 i kolejnych wynoszą 24 165 119,18 zł i obejmują: (waloryzacja kwoty na lata kolejne została ujęta w tabeli przy założeni CPI: 102,5%) a) wydatki na odnowienie zasobów majątkowych – 100 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 769 253,56 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 991 250,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 758 738,12 zł, f) Pracownicze Plany Kapitałowe – 195 877,50 zł, g) wydatki bieżące – 5 000 000,00 zł. Całkowity koszt funkcjonowania Komisji w roku 2026, stanowiącym rok zerowy, oraz w kolejnych dziesięciu latach został oszacowany na 278,36 mln zł. Konstrukcja budżetu obejmuje zarówno koszty bieżące, inwestycyjne, jak i osobowe, przy czym w kosztach bieżących ujęto również wydatki związane z wykonywaniem zadań Komisji, w tym czynności o charakterze kontrolnym, analitycznym oraz regulacyjnym, wynikających z przepisów rozporządzenia 2024/1689 oraz projektowanej ustawy. Wynagrodzenia dla Przewodniczącego oraz Zastępców Przewodniczącego Komisji zostały określone w przepisach ustawy poprzez odniesienie do mnożnika kwoty bazowej właściwej dla członków korpusu służby cywilnej. Mnożnik ten wynosi 8 w przypadku Przewodniczącego oraz 7 w przypadku Zastępców Przewodniczącego, natomiast wynagrodzenia te nie stanowią dodatkowego obciążenia dla budżetu Komisji, gdyż są ponoszone w ramach budżetów organów delegujących swoich przedstawicieli. Z uwagi na pionierski charakter regulacji oraz brak danych historycznych w obszarze nadzoru nad systemami sztucznej inteligencji, przedstawione oszacowania mają charakter najlepszego dostępnego przybliżenia, opartego na analizie specjalistycznej próby podmiotów oraz międzynarodowych trendów regulacyjnych. Dochody sektora finansów publicznych zostały oszacowane na podstawie obowiązujących stawek składek na ubezpieczenia społeczne i zdrowotne oraz udziałów w podatku PIT. Kalkulacja uwzględnia wynagrodzenia pracowników Komisji przy założeniu przeciętnego wynagrodzenia brutto na poziomie 15 000 zł miesięcznie oraz etapowego zatrudnienia (30 etatów w 2026 r., 70 etatów od 2027 r.). Dochody obejmują wpływy do Funduszu Ubezpieczeń Społecznych, Narodowego Funduszu Zdrowia, Funduszu Pracy oraz Funduszu Solidarnościowego wynikające z obowiązkowych składek od wynagrodzeń. Zadania Komisji charakteryzują się zmiennym poziomem złożoności i nieprzewidywalnością wolumenu wpływu, wynikającymi z narastającego w czasie wykorzystania systemów sztucznej inteligencji oraz procesów wdrażania AI Act. Komisja musi być przygotowana na obsługę zarówno niewielkiej liczby wniosków w pierwszych miesiącach funkcjonowania ustawy, jak i stopniowego, wykładniczego wzrostu zapotrzebowania na opinie, kontrole i postępowania administracyjne. Z tego względu szacunki pracochłonności mają charakter wariantowy i uwzględniają zarówno scenariusz bazowy, jak i scenariusz wzrostu rynku. W odniesieniu do pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji przyjęto średnie miesięczne wynagrodzenie na poziomie 15 000 zł brutto. Wartość ta została ustalona na podstawie danych zawartych w sprawozdaniu Szefa Służby Cywilnej za 2024 r., z uwzględnieniem 18 kategorii stanowisk odpowiadających wysokiemu stopniowi specjalizacji technicznej, analitycznej oraz regulacyjnej, niezbędnej do wykonywania zadań Komisji. Kwotę skorygowano zgodnie ze średnioroczną dynamiką cen towarów i usług konsumpcyjnych według wytycznych Ministra Finansów dla roku 2026. Koszty wynagrodzeń w kolejnych latach zostały zwaloryzowane zgodnie z tymi wskaźnikami, przy uwzględnieniu wynagrodzenia dodatkowego przysługującego pracownikom służby cywilnej. Z uwagi na silną konkurencję na rynku pracy w obszarze AI, cyberbezpieczeństwa oraz analityki danych, poziom wynagrodzeń musi umożliwiać rekrutację ekspertów zdolnych do realizacji zadań o wysokim stopniu specjalizacji. Dane rynkowe oraz doświadczenia administracji publicznej wskazują na rosnącą trudność pozyskania specjalistów w tych obszarach, co wymaga ukształtowania wynagrodzeń na poziomie odpowiadającym stawkom rynkowym i zapewniającym stabilność zatrudnienia. W kalkulacji ujęto również zakup 90 zestawów komputerowych, obejmujących laptopy, monitory oraz akcesoria, zapewniających odpowiednie wyposażenie zarówno dla pracowników merytorycznych (70 etatów docelowych), jak i pracowników wsparcia administracyjno-technicznego, funkcjonujących w ramach urzędu obsługującego ministra. Wyposażenie to stanowi także zapas sprzętowy wykorzystywany podczas działań wspierających, w tym w szczególności w piaskownicach regulacyjnych i innych działaniach wymagających bezpiecznego przetwarzania danych. Uwzględniono również koszty związane z Pracowniczymi Planami Kapitałowymi, przy założeniu, że uczestnictwo w programie obejmie około 70% pracowników wykonujących zadania Komisji, a składka pracodawcy wyniesie 2%. Jednocześnie oszacowany dochód Funduszu Pracy wynika z obowiązkowej składki w wysokości 1%, zgodnie z art. 25 ustawy budżetowej na rok 2026. Założenia budżetowe dla nowej instytucji oparte zostały na analizie kosztów działalności istniejących organów nadzorczych i regulacyjnych w obszarze cyfrowym, w szczególności w zakresie ochrony danych osobowych, cyberbezpieczeństwa oraz nadzoru nad algorytmami. Przyjęto, że koszty te stanowią adekwatny punkt odniesienia ze względu na podobny poziom specjalizacji, charakter zadań oraz wymagania techniczno-organizacyjne. Liczba etatów niezbędnych do zapewnienia realizacji zadań Komisji została określona w oparciu o analizę katalogu obowiązków nałożonych zarówno rozporządzeniem 2024/1689, jak i przepisami krajowymi. Zadania te obejmują w szczególności: nadzór nad systemami sztucznej inteligencji – zwłaszcza systemami wysokiego ryzyka; pełnienie funkcji pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia; współpracę z organami i instytucjami Unii Europejskiej; prowadzenie działań monitorujących, edukacyjnych oraz komunikacyjnych; a także obsługę piaskownic regulacyjnych. Zadania te mają charakter wielodyscyplinarny, często wymagający jednoczesnego zaangażowania ekspertów z różnych obszarów, w tym prawa, inżynierii oprogramowania, analityki danych, zarządzania ryzykiem i cyberbezpieczeństwa. W celu oszacowania pracochłonności poszczególnych zadań zastosowano podejście wariantowe, właściwe dla pomiaru kosztów regulacyjnych. Polega ono na identyfikacji strumieni pracy, określeniu typowych czynności oraz przyjęciu założeń co do wolumenu i złożoności spraw w pierwszych latach funkcjonowania organu. W ramach analizy wyróżniono następujące główne strumienie pracy: sprawy interpretacyjne i informacyjne (w tym przygotowywanie opinii indywidualnych, wyjaśnień, materiałów informacyjnych oraz czynności związane z anonimizacją); nadzór rynku i kontrole; postępowania administracyjne, w tym środki naprawcze oraz nakładanie administracyjnych kar pieniężnych; monitoring rynku oraz analitykę ryzyka; inicjowanie i prowadzenie piaskownic regulacyjnych; współpracę krajową i międzynarodową; oraz zadania sprawozdawcze, obejmujące w szczególności obowiązki wobec Komisji Europejskiej i grup ekspertów unijnych. Prognozuje się, że roczny wolumen spraw kierowanych do Komisji będzie obejmował łącznie około 630–865 spraw, w zależności od dynamiki rozwoju rynku oraz zakresu wykorzystywania systemów sztucznej inteligencji. Wstępna analiza wskazuje, że obsługa spraw interpretacyjnych wymaga przeciętnie od kilku do kilkunastu godzin pracy, natomiast zadania kontrolne, ocena zgodności systemów wysokiego ryzyka oraz postępowania administracyjne wymagają znacznie większego nakładu pracy, często przekraczającego kilkadziesiąt roboczogodzin per sprawa, przy konieczności jednoczesnego zaangażowania kilku specjalistów. Ponadto zadania związane ze współpracą z 19 organami unijnymi oraz sprawozdawczością mają charakter stały i wymagają rocznie kilkuset godzin pracy. Na podstawie powyższych założeń roczny nakład pracy niezbędny do realizacji wszystkich zadań został oszacowany na około 34 000–42 000 roboczogodzin. Przy efektywnym rocznym wymiarze czasu pracy jednego etatu wynoszącym około 1 600 roboczogodzin, minimalne zapotrzebowanie kadrowe wynosi około 21–26 etatów. Jednakże, z uwagi na złożoność zadań, konieczność pracy zespołowej, zastępowalności pracowników, obowiązków stałych wynikających z unijnych mechanizmów nadzorczych oraz wysokie wymagania kompetencyjne, zasadne jest przyjęcie wyższej liczby etatów. W związku z powyższym przyjęto etapowanie zatrudnienia, zakładające 30 etatów w roku 2026, który obejmuje uruchomienie organu, przygotowanie procedur, wdrożenie narzędzi informatycznych oraz rozpoczęcie działań merytorycznych. Od dnia 1 stycznia 2027 r. przewidziano osiągnięcie docelowego poziomu 70 etatów merytorycznych. Poziom ten umożliwi wykonywanie wszystkich zadań nałożonych przepisami prawa, w tym realizację kontroli, prowadzenie postępowań administracyjnych, analiz ryzyka oraz funkcjonowanie piaskownic regulacyjnych. Zasadność zwiększenia zatrudnienia z 30 etatów w roku 2026 do 70 etatów od 2027 r. wynika przede wszystkim z prognozowanego, wykładniczego przyrostu liczby podmiotów korzystających z systemów sztucznej inteligencji oraz szybko rosnącej grupy firm deklarujących zamiar wdrożenia rozwiązań AI. Dane z przeprowadzonego wewnętrznie badania ilościowego (N=229, badanie dot. zapotrzebowania na piaskownice regulacyjne przeprowadzone w dn. 2.02.2026 – 16.02.2026) wskazują, że już obecnie 214 firm (93,4%) korzysta z AI, natomiast 132 podmioty (57,6%) samodzielnie wytwarzają rozwiązania AI, przy czym kolejne przedsiębiorstwa deklarują wejście na rynek w perspektywie najbliższych lat. Jednocześnie wysoki odsetek firm na wczesnych etapach rozwoju technologicznego — obejmujący prace koncepcyjne, pilotaże i prototypowanie — świadczy o tym, że w nadchodzących latach znaczna część z nich wkroczy w fazę wdrożeniową, co nieuchronnie zwiększy liczbę spraw wymagających wsparcia interpretacyjnego, nadzorczego oraz kontrolnego ze strony Komisji. W warunkach dynamicznego rozwoju rynku sztucznej inteligencji należy przyjąć, że przyrost firm generujących zapotrzebowanie na działania organu nie będzie miał charakteru liniowego. Z uwagi na charakter technologii, efekty sieciowe, szybko rosnący popyt na rozwiązania generatywne oraz skalę komercjalizacji systemów uczenia maszynowego, liczba podmiotów wytwarzających lub wdrażających AI rośnie wykładniczo, czego potwierdzeniem są m.in. dane o wysokim tempie adopcji nowych modeli AI oraz systematyczne zwiększanie się liczby sektorów wykorzystujących te technologie. Wyniki badania, obejmujące firmy o najbardziej zaawansowanych profilach technologicznych na rynku, stanowią w tym kontekście próbę wyprzedzającą, wskazującą kierunek rozwoju całej populacji przedsiębiorstw. Oznacza to, że liczba podmiotów, które w 2026 r. wystąpią do Komisji z wnioskami o opinie, zgłoszeniami naruszeń, sprawami dotyczącymi kwalifikacji systemów lub wnioskami o udział w piaskownicach regulacyjnych, będzie w 2027 r. i latach kolejnych istotnie wyższa, a skala tego wzrostu będzie narastała w miarę dojrzewania rynku. W tych warunkach poziom zatrudnienia ograniczony do 30 etatów pozwoli jedynie na uruchomienie organu oraz obsługę wstępnego wolumenu spraw, natomiast nie zapewni zdolności operacyjnej do obsługi rosnącego strumienia zadań wynikających z rozporządzenia 2024/1689. Dopiero zwiększenie zatrudnienia do 70 etatów od 2027 r. gwarantuje możliwość realizacji pełnego katalogu obowiązków nadzorczych, w tym pracy zespołowej wymaganej w czynnościach kontrolnych i postępowaniach administracyjnych oraz odpowiedniej obsługi rosnącej liczby podmiotów na rynku sztucznej inteligencji, którego rozwój ma charakter wykładniczy, a nie liniowy. Zadanie Prognozowana liczba spraw / rok Szacunkowy czas realizacji jednej sprawy Łączna pracochłonność roczna (roboczogodziny) Opinie indywidualne, wyjaśnienia i sprawy interpretacyjne 350–450 6–10 h 2 100 – 4 500 Zgłoszenia naruszeń i sygnały dot. niezgodności 120–180 10–15 h 1 200 – 2 700 Analiza ryzyka i monitoring rynku AI 80–120 10–15 h 800 – 1 800 20 Czynności kontrolne 50–70 25–40 h 1 250 – 2 800 Postępowania administracyjne 20–30 60–90 h 1 200 – 2 700 Obsługa piaskownic regulacyjnych 10–15 30–50 h 300 – 750 Współpraca unijna i sprawozdawczość zadania stałe 500–700 h (w ramach etatów) 500 – 700 Pozostałe zadania przekrojowe Zmienne 900–1 200 h 900 – 1 200 Tabela 1. Zestawienie głównych strumieni pracy Komisji, prognozowanej liczby spraw oraz szacunkowego czasu ich realizacji W modelu organizacyjnym uwzględniono stosowanie rozwiązań cyfrowych i automatyzacji procesów, zgodnie z zasadą celowości i oszczędności wydatków publicznych (art. 44 ust. 3 ustawy o finansach publicznych). W szczególności zakłada się wykorzystanie systemów zarządzania sprawami, standaryzacji dokumentów i obiegu informacji, narzędzi do wstępnej selekcji i priorytetyzacji wpływów, wsparcia monitoringu rynku i analityki ryzyka oraz narzędzi wspomagających anonimizację i publikację materiałów. Rozwiązania te umożliwią racjonalizację nakładu pracy przy zachowaniu wysokich standardów ochrony danych i niezależności procesu decyzyjnego. Należy jednocześnie podkreślić, że skuteczne wykonywanie zadań Komisji wymaga zatrudnienia wysoko wykwalifikowanych ekspertów posiadających nie tylko wiedzę techniczną w zakresie systemów sztucznej inteligencji, lecz także kompetencje analityczne, komunikacyjne, projektowe oraz biegłą znajomość języka angielskiego. Ze względu na intensywną konkurencję na rynku pracy w obszarze nowych technologii i cyberbezpieczeństwa, jak również trudności w rekrutacji i utrzymaniu specjalistów, uzasadnione jest umożliwienie zatrudnienia na podstawie przepisów Kodeksu pracy, zapewniając odpowiedni poziom elastyczności organizacyjnej. Wreszcie, wprowadzenie opłaty za wniosek o wydanie opinii indywidualnej w wysokości 150 zł stanowi źródło dochodu sektora finansów publicznych oraz instrument racjonalizujący zapotrzebowanie na opinie. Z uwagi na brak danych historycznych przyjęto wariantowe oszacowanie liczby wniosków — w wariancie bazowym około 800 rocznie — przy czym wartości te zostaną zweryfikowane po pierwszym pełnym roku funkcjonowania systemu. Pracochłonność zadań Komisji będzie zależna od szeregu zmiennych, w szczególności: stopnia dojrzałości technologicznej rynku, liczby systemów zaklasyfikowanych jako wysokiego ryzyka, poziomu świadomości regulacyjnej wśród przedsiębiorców, dynamiki przyrostu nowych modeli generatywnych i ich wersji, a także decyzji organów unijnych dotyczących interpretacji przepisów AI Act. Prognozuje się, że w pierwszych latach funkcjonowania ustawy poziom zapotrzebowania na działania interpretacyjne i doradcze będzie rosnąć szybciej niż liczba postępowań egzekucyjnych; po osiągnięciu dojrzałości regulacji trend ten może ulec odwróceniu. Brak zapewnienia odpowiednich zasobów kadrowych i technicznych mógłby skutkować opóźnieniami w rozpatrywaniu wniosków, ograniczeniem zdolności do prowadzenia kontroli systemów wysokiego ryzyka, niewywiązywaniem się z obowiązków sprawozdawczych wobec Komisji Europejskiej oraz ryzykiem naruszenia art. 70 ust. 3 rozporządzenia 2024/1689, który nakłada na państwa członkowskie obowiązek zapewnienia organom odpowiednich zasobów, w tym technicznych i ludzkich. Niewystarczające zasoby w pierwszych latach obowiązywania ustawy mogłyby również negatywnie wpłynąć na tempo rozwoju sektora AI w Polsce i ograniczyć konkurencyjność przedsiębiorstw wdrażających AI. PCA Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2026 r. Projekt ustawy o systemach sztucznej inteligencji zakłada, że Polskie Centrum Akredytacji jest zobowiązane do akredytacji jednostek oceniających zgodność na potrzeby ustawy oraz rozporządzenia 2024/1689. Dodatkowo Polskie Centrum Akredytacji jest zobowiązane we współpracy z ministrem właściwym do spraw informatyzacji, do opracowania szczegółowego programu akredytacji jednostek oceniających zgodność oraz do dokonywania aktualizacji tego programu, co 24 miesiące, 21 uwzględniając wnioski z jego bieżącej realizacji. Projekt zakłada również wprowadzenie obowiązków sprawozdawczych zgodnie, z którymi PCA przekazuje ministrowi właściwemu do spraw do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zgodnie z projektem do akredytacji stosuje się odpowiednio przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Ustawa ta odwołuje się do przepisów rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i nadzoru rynku odnoszącym się do warunków wprowadzania produktów do obrotu i uchylającym rozporządzenie (EWG) nr 339/93, zgodnie z którymi Polskie Centrum Akredytacji zostało wskazane jako jedyna krajowa jednostka akredytująca. Przyjęte dyspozycje zobowiązują zatem PCA do opracowania i utrzymywania dedykowanego przedmiotowym przepisom prawa programu akredytacji, uruchomienie akredytacji wg opracowanego programu, w tym przeprowadzanie procesów akredytacji oraz nadzoru nad udzielonymi akredytacjami zgodnie z przepisami rozporządzenia 765/2008 oraz przepisami o systemach oceny zgodności i nadzoru rynku. Zastosowanie mają w tym przypadku tu wszystkie horyzontalne dokumenty PCA (np. DA-01 „Opis systemu akredytacji”, DA-08 „Prawa i obowiązki akredytowanego podmiotu”, DA-09 Zakres działalności akredytacyjnej PCA, DA-10 „Akredytacja w zakresach elastycznych” itp.) oraz dokumenty odnoszące się do danego typu jednostek oceniających zgodność, związane z rozszerzeniem działalności akredytacyjnej PCA o nowy obszar oceny zgodności przewidziany w przedmiotowym przepisie prawa. W przypadku ustawy o systemach sztucznej inteligencji UC71 przyjęte rozwiązanie zakłada również notyfikację akredytowanej jednostki oceniającej zgodność przez ministra właściwego ds. informatyki. W konsekwencji w procesie akredytacji i w procesach nadzoru nad udzieloną akredytacją zastosowanie mają zasady określone w dokumencie DA-11 „Akredytacja jednostek oceniających zgodność do celów notyfikacji”, co dodatkowo rozszerza zakres realizowanych przez PCA ocen i skomplikowanie nadzoru nad udzielonymi akredytacjami. Ponadto akredytacja do celów notyfikacji zobowiązuje PCA do udziału w pracach właściwych grup dla „notifying authorities” łącznie z reprezentantami organów notyfikujących i zainteresowanych stron. W konsekwencji powyższego, dla realizacji zadań określonych w przedmiotowym przepisie prawa PCA musi dysponować odpowiednimi – poszerzonymi kompetencjami i poszerzonymi zasobami personelu. Kompetencje te będą obejmować znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją w specyficznym obszarze regulowanym przepisami oraz wiedzę z zakresu projektowanej regulacji prawnej. Kompetencje te muszą być pozyskane przez PCA w ramach poszerzenia zasobów osobowych do realizacji procesów akredytacji i nadzoru, o ekspertów z wysokim poziomem kompetencji, z unikalnego nowego obszaru technicznego rozwijającego się obecnie w sposób niezwykle dynamiczny, a tym samym wymagającego znacznych inwestycji finansowych dla pozyskania ekspertów. Powierzenie nowych obowiązków obecnym pracownikom PCA nie jest możliwe z punktu widzenia merytorycznego i ograniczonych możliwości produkcyjnych posiadanych zasobów. Aktualnie PCA nie zatrudnia ekspertów z zakresu AI i rozporządzenia 2024/1689 nie dysponuje wystarczającą wiedzą w tym zakresie. Ponadto, aktualny stan zatrudnienia PCA uniemożliwia nałożenie na obecnych pracowników wszystkich dodatkowych zadań wynikających z rozszerzenia działalności akredytacyjnej PCA w zakresie obszaru oceny zgodności określonej w przepisie. Osoby te musza dysponować wiedzą zarówno w odniesieniu do przepisów AI jak i w odniesieniu do rozwiązań odnoszących się do akredytacji i realizować nowe zadania w poniższych głównych kierunkach wymagających rozdzielności stanowiskowej: a) w zakresie programu akredytacji będą zobowiązane do opracowania treści postanowień programu w korelacji z międzynarodowymi normami zharmonizowanymi i procedurami operacyjnymi PCA, uzgodnienia treści programu z regulatorem i zainteresowanymi stronami i przeprowadzenia procedury zatwierdzenia programu do stosowania, wdrożenie programu do działalności PCA (operacyjnie i merytorycznie) w celu rozszerzenia działalności akredytacyjne. Po rozszerzeniu działalności akredytacyjnej będą zobowiązane monitorować aktualność programu i zapewnić (w trybie jak powyżej) ciągłą przydatność programu do zamierzonego zastosowania; b) w zakresie procesu akredytacji będą zobowiązane do weryfikacji wniosku o akredytacje, wstępnego przygotowania oceny akredytacyjnej, uzgodnienie zakresu oceny, komunikacji z 22 jednostką oceniającą zgodność oraz zespołem oceniającym, podjęciem odpowiednich działań w systemie e-Akredytacja, brania udziału w ocenie jako audytorzy wiodący i bezpośrednio nadzorować ocenę (tu dodatkowo wymagana jest znajomość norm akredytacyjnych np. PN/ EN ISO 17065), po ocenie biorą udział w przygotowywaniu i zatwierdzaniu raportu oraz w działaniach związanych z obsługą kart niezgodności, przygotowują dokumenty w procesie decyzyjnym oraz biorą udział w procesie decyzyjnym. Jednocześnie wszystkie te czynności wykonywane są zgodnie z przepisami rozporządzenia nr 765/2008, ustawy o systemach oceny zgodności i nadzoru rynku oraz normy ISO/IEC 17011 co prowadzi np. do konieczności rozdzielenia osobowego w procesie realizacji oceny od podejmowania decyzji na bazie wyników tej oceny. c) w zakresie procesu nadzoru nad udzieloną akredytacją będą zobowiązane do opracowania programu nadzoru a następnie organizacji ocen w nadzorze oraz obserwacji działania jednostek oceniających zgodność. w rzeczywistości. Proces organizacji ocen w nadzorze jest analogiczny do ocen akredytacyjnych. Reasumując, wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci zobligowania PCA do realizacji zadań związanych z akredytacją w nowym obszarze oceny zgodności, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przyjęcie przez PCA powyższych zadań związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań:  opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji  szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu,  komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji,  organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689,  monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Planowane zwiększenie funduszu osobnego PCA nie oznacza automatycznego wykorzystania funduszu w tej wysokości. Zgodnie z ustawą z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową, a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa i zgodnie z ww. ustawą prowadzi samodzielną gospodarkę finansową, która jest działalnością nienastawioną na zysk. W konsekwencji poziom wykorzystania limitu 0,6 mln zł uzależniony jest od zapotrzebowania na wykonanie określonych, ww. zadań. Przy czym, poziom realizację nowych zadań na poziomie PCA, a tym samym zapotrzebowanie na wykorzystanie zaplanowanego przez PCA funduszu na poziomie jak wyżej, będzie zależał zarówno od złożoności działań, które należy wykonać w procesie akredytacji i nadzoru nad udzieloną akredytacją jak i liczby jednostek oceniających zgodność ubiegających i posiadających taką akredytację. Liczba akredytowanych jednostek oceniających zgodność zależy od zainteresowania certyfikacją w danym obszarze. W przedmiotowym przypadku mamy do czynienia z rozwijającym się dynamicznie rynkiem sztucznej inteligencji i obowiązkową oceną zgodności systemów AI wysokiego ryzyka. Mając na uwadze powyższe, należy oczekiwać szybko rosnącego poziomu zainteresowania tym tematem i przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację i posiadających akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do nowego, innowacyjnego i bardzo szybko rozwijającego się sektora gospodarki. W obszarze tym nie ma „utartych” rozwiązań, ugruntowanego orzecznictwa i pojawiające się sprawy zawsze będą sprawami „nowymi”. W takich sektorach rozwiązania prawne są zazwyczaj przygotowywane w pewnym opóźnieniu do faktycznego rozwoju rynku. Można zatem oczekiwać zarówno dużej liczby spraw spornych, wątpliwych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością uwzględnienia ocenianej specyfiki. Niezbędne będzie zwiększenie wydatków na fundusz osobowy PCA o w 2026 r. o 0,45 mln, a od 2027 r. 0,6 mln zł. rocznie i utrzymanie tego stanu na lata kolejne. PCA jest jednostką samofinansującą się, której głównym celem jest pokrycie wszystkich kosztów, łącznie z wynagrodzeniami, z uzyskanych przychodów. PCA nie otrzymuje środków z budżetu państwa. 23 Reasumując wykonanie wnioskowanej zmiany funduszu osobowego nie jest automatyczne i będzie możliwe wyłącznie w przypadku, gdy PCA będzie dysponować przychodami pozwalającymi na wprowadzenie przedmiotowego zwiększenia. W ramach ww. zwiększenia planowane jest zatrudnienie dwóch osób oraz dodatki zadaniowe dla osób wykonujących zadania w przedmiotowym zakresie. Ostateczny podział dostępnych środków pomiędzy wynagrodzenie a dodatki zadaniowe zależy od kwalifikacji zatrudnionej osoby i liczby oraz poziomu skomplikowania występujących prac. Wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci przekazania PCA realizacji zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań w tym obszarze: − opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji − szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, − komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, − organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, − monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Z uwagi na rozwijający się dynamicznie rynek sztucznej inteligencji i obowiązek oceny zgodności systemów AI wysokiego ryzyka, przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo dynamicznie rozwijającego się sektora gospodarki. Można zatem oczekiwać zarówno dużej liczby spraw spornych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością zapewnienia obiektywności, niezależności i braku powiązań ocenianych podmiotów. Dodatkowo systemy sztucznej inteligencji wymagają specjalistycznej wiedzy technicznej. Osoby, które będą wykonywały zadania związane z projektowaną ustawą, muszą mieć bardzo wysokie kompetencje ‒ znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji, muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Powierzenie nowych obowiązków obecnym pracownikom PCA nie gwarantuje jakości ani poprawności wykonywanej pracy, gdyż nie są oni ekspertami w zakresie AI ani rozporządzenia 2024/1689 ani też nie posiadają wiedzy w tym zakresie. PCA jest małą jednostką, zatrudniającą ok. 80 osób i nie ma możliwości wygospodarowania dwóch etatów na nowe zadania w ramach istniejących limitów, dlatego konieczne jest utrzymanie w pkt 6 OSR zwiększonych wydatków na wynagrodzenia PCA co daje możliwość zatrudnienia nowych osób. Jednocześnie podejmowanie się procesów akredytacji bez dysponowania odpowiednimi zasobami osobowymi i wiedzą w tym zakresie jest niezgodne z wymaganiami rozporządzenia (WE) 765/2008 oraz normą ISO/IEC 170111 i generuje ryzyko dla skutecznego funkcjonowania procesów akredytacji w obszarze oceny zgodności przewidzianej w projektowanym przepisie. SOKIK Wejście w życie projektowanej ustawy związane jest także z rozszerzeniem działalności Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów o obszar wskazany w ustawie, co wiąże się koniecznością zapewnienia szkoleń. Koszty szkoleniowe zostały oszacowane na 800 000,00 zł rocznie w roku pierwszym i kolejnych latach po wejściu w życie przepisów ustawy. Niezbędne specjalizacyjne szkolenia z zakresu nowych technologii oraz AI Act dla sędziów i asystentów SOKiK – 800 000,00 zł. Szkolenia prowadzone będą przez prawników i specjalistów IT; Zakres szkoleń: zagadnienia z zakresu prawa i technologii; 24 przepisy oraz orzecznictwo, w szczególności unijne z zakresu nowych technologii oraz wykorzystania AI Wydatek ten zostanie pokryty w ramach limitu wydatków Ministra Sprawiedliwości. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0–10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa sektor mikro-, małych i średnich przedsiębiorstw rodzina, obywatele oraz gospodarstwa domowe * Ze względu na wzrost dochodów rozporządzalnych (netto) osób zatrudnionych przy realizacji nowo powstałej Komisji (por. p. 6) 1,86 7,20 7,38 7,56 7,95 8,77 80,98 W ujęciu niepieniężny m duże przedsiębiorstwa Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Projektowane przepisy dają możliwość na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. sektor mikro-, małych i średnich przedsiębiorstw Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów rozporządzenia 2024/1689 w przypadku nałożenia kary przez Komisję może pozytywnie wpłynąć na stosowanie standardów narzucanych systemom sztucznej inteligencji. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej 25 inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez mikro-, małe i średnie przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. Projektowane przepisy dają możliwość MŚP na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, zwłaszcza dla MŚP, które mają korzystać z piaskownicy regulacyjnej nieodpłatnie, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. rodzina, obywatele oraz gospodarstwa domowe Przewiduje się, że wejście w życie ustawy nie wpłynie bezpośrednio na sytuację społeczną rodziny, a także osób niepełnosprawnych oraz osób starszych w tym sytuację ekonomiczną. Jednak spodziewane jest pozytywne długoterminowe odziaływanie pośrednie, poprzez zwiększenie bezpieczeństwa. Niemierzalne Przedsiębiorstwa w tym mikro-, małe i średnie Skutkiem może być podniesienie jakości usług oraz wydajności i konkurencyjności przedsiębiorców. rodzina, obywatele oraz gospodarstwa domowe W długoterminowej perspektywie regulacje mogą przyczynić się do wzrostu świadomości społecznej w zakresie wykorzystania systemów sztucznej inteligencji, przez rozwój i upowszechnienie bezpiecznych systemów sztucznej inteligencji dostępnych w różnych sferach życia, w tym między innymi w edukacji dzieci i dorosłych, finansach osobistych czy służbie zdrowia. Długookresowa perspektywa zakłada wzrost zaufania do narzędzi – systemów sztucznej inteligencji – która może przełożyć się na zwiększenie innowacyjności w codziennym korzystaniu z narzędzi. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie ustawy nie spowoduje natychmiastowych skutków dla gospodarki, ale w dłuższej perspektywie powinna się poprawić wydajność przedsiębiorstw objętych regulacją spowodowane ograniczeniem szkodliwych skutków działania niektórych systemów sztucznej inteligencji. Projekt ustawy wprowadza nakładanie administracyjnych kar pieniężnych oraz instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą dla podmiotów objętych AI Aktem co powinno w przyszłości przynieść korzyści w postaci postępowania zgodnego z prawem. Oczekuje się, że układ umożliwi także dalsze funkcjonowanie na rynku podmiotów zagrożonych karą a jednocześnie pozytywnie wpłynie na rozwój godnej zaufania i bezpiecznej sztucznej inteligencji. Z uwagi na regulację nieznanej dotychczas dziedziny nauki określenie skutków finansowych wynikających z nakładania kar oraz zastosowania nadzwyczajnego sposobu ich złagodzenia nie jest możliwe do oszacowania. 26 Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Celem ustanowienia piaskownic jest zwiększenie pewności prawa, wspieranie wymiany najlepszych praktyk, wzmacnianie konkurencyjności i innowacyjności w Europie oraz ułatwienie MŚP i start- upom wejścia na rynek unijny. Udział w piaskownicy będzie konkurencyjny, z preferencją dla podmiotów z UE, a procedura naboru będzie jawna i umożliwi odwołanie. Opłata za udział wyniesie czterokrotność minimalnego wynagrodzenia, przy czym MŚP będą z niej zwolnione. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Z uwagi na brak analogicznych funkcjonujących rozwiązań określenie skutków finansowych wynikających tworzenia piaskownic regulacyjnych nie jest możliwe do oszacowania. Jednocześnie należy wyjaśnić, że koszty dostosowawcze po stronie przedsiębiorców z sektora AI wynikają z konieczności stosowania rozporządzenia 2024/1689, a nie bezpośrednio projektu ustawy o systemach sztucznej inteligencji. 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). tak nie nie dotyczy zmniejszenie liczby dokumentów zmniejszenie liczby procedur skrócenie czasu na załatwienie sprawy inne: zwiększenie liczby dokumentów zwiększenie liczby procedur wydłużenie czasu na załatwienie sprawy inne: Wprowadzane obciążenia są przystosowane do ich elektronizacji. tak nie nie dotyczy Komentarz: Systemy sztucznej inteligencji, ze względu na wczesny etap rozwoju tej technologii, do tej pory nie były obszarem nadzorowanym w sposób kompleksowy. W związku z tym, uregulowania w tym zakresie, spowodują objęcie nadzorem podmiotów, które do tej nie były pod tym kątem nadzorowane, co w naturalny sposób doprowadzi do zwiększenia liczby procedur lub zwiększenia liczby dokumentów. Konsekwencją objęcia nadzorem systemów sztucznej inteligencji będzie nałożenie na podmioty działające na tym rynku określonych obowiązków (które są określone w rozporządzeniu 2024/1689) sprawozdawczych, informacyjnych i technicznych. Podmioty te będą musiały zadbać o zgodność wykorzystywanych lub dostarczanych systemów sztucznej inteligencji z przepisami rozporządzenia 2024/1689 i ustawy, w tym wyeliminować aktualnie istniejące niezgodności. Konieczna będzie także ich współpraca z Komisją i innymi organami w celu umożliwienia im sprawowania nadzoru nad rynkiem i stosowania odpowiednich środków, takich jak kontrole. Komisja jako wyznaczony organ właściwy w zakresie sprawowania nadzoru nad sztuczną inteligencją w Polsce, będzie wykonywała swoje zadania w oparciu o działania na poziomie krajowym oraz wynikające ze współpracy z organami unijnymi. Dodatkowo, stworzenie nowego organu do spraw nadzoru nad sztuczną inteligencją będzie wiązało się z obciążeniami administracyjnymi, wynikającymi z realizacji zadań, jakie nakłada na ten organ rozporządzenie 2024/1689, m.in. przekazywanie sprawozdań z działalności organu Komisji Europejskiej, współpraca międzyinstytucjonalna, wydawanie decyzji w sprawach dotyczących naruszeń, udzielanie wskazówek i porad przedsiębiorcom. Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Udział w piaskownicy będzie odpłatny, konkurencyjny, a procedura naboru będzie jawna i umożliwi odwołanie. Przewiduje się zwolnienie MŚP z opłaty. Uczestnicy będą zobowiązani do informowania użytkowników, corocznego raportowania, publikowania wyników oraz zgłaszania zmian. Komisja będzie uprawniona do kontroli, a w przypadku naruszeń – do wezwania do ich usunięcia lub wykluczenia z udziału. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Projekt ustawy poza regulacjami wynikającymi bezpośrednio z rozporządzenia 2024/1689 wprowadza również rozwiązania o charakterze uzupełniającym. 27 Regulacje w tym zakresie będą nakładały na Komisję dodatkowe obowiązki w zakresie rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, przetwarzania danych osobowych, wydawania opinii indywidualnych sposobu prowadzenia kontroli, przechowywania akt postępowania. Dodatkowo niezbędne będzie także zapewnienie właściwej realizacji zadań organu nadzoru przez pracowników urzędu obsługującego ministra do spraw informatyzacji Dodatkowo ustawa przewiduje powołanie Społecznej Rady Sztucznej Inteligencji jako ciała opiniodawczo-doradczego Komisji. Udział w pracach Rad będzie nieodpłatny. Projekt wskazuje także na możliwość uzyskania przez podmioty objęte AI Akt opinii indywidualnej. W tym celu podmiot będzie obowiązany do złożenia wniosku oraz uiszczenia opłaty w wysokości 150 zł. W ramach prowadzonego postępowania przed Komisją projekt przewiduje także możliwość zawarcia przez stronę postępowania układu. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. 9. Wpływ na rynek pracy Przyjęcie projektu będzie miało bezpośredni, pozytywny wpływ na rynek pracy poprzez powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz zorganizowanie zaplecza osobowego i technicznego, przy pomocy którego Komisja będzie wykonywała swoje zadania. Obsługę administracyjno-kancelaryjną zapewniać będzie urząd obsługujący ministra właściwego do spraw informatyzacji. Można przewidywać, że w związku z powyższym na rynku pracy pojawią się nowe miejsca pracy, ale ich liczba jest niemożliwa do określenia na tym etapie prac legislacyjnych. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie przyczyniać się do szybszego rozwoju wdrożeń systemów sztucznej inteligencji, w tym przez polskie małe i średnie przedsiębiorstwa. 10. Wpływ na pozostałe obszary środowisko naturalne sytuacja i rozwój regionalny sądy powszechne, administracyjne lub wojskowe demografia mienie państwowe inne: informatyzacja zdrowie Omówienie wpływu Umożliwienie złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 będzie miało wpływ na zapobieganie szkodom i wykrywanie zagrożeń, które w przeciwnym wypadku pozostałyby niewykryte, podniesie bezpieczeństwo oraz zaufanie do stosowania systemów sztucznej inteligencji. Przewidywane w przyszłości odwołania od decyzji Komisji mogą zwiększyć obciążenie pracą Sądu Ochrony Konkurencji i Konsumentów, a także Sądu Apelacyjnego w Warszawie, sądów okręgowych i rejonowych. Profesjonalizm nowego urzędu powinien jednak zapewnić sprawne obsługiwane skarg. Przewiduje się potrzebę szkolenia merytorycznego kadry sądu, jak i zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby ustawa weszła w życie po upływie 14 dni od dnia ogłoszenia, z zastrzeżeniem wyjątków w niej określonych. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Ewaluacja efektów projektu będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim, jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Sejmowi sprawozdania Komisji ze swojej działalności za rok poprzedni. 28 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak. RAPORT Z OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do konsultacji publicznych i opiniowania 16 października 2024 r. Na zgłoszenie uwag został wyznaczony termin 30 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa,Centrum Cyfrowe Francusko-Polska Izba Przemysłowo Handlowa,INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A.Bank Gospodarstwa Krajowego S.AZwiązek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiły następujące podmioty: ISSA Polska, Polskie Towarzystwo Informatyczne,Tauron Dystrybucja, Instrat Centrum Cyfrowe, Europen Fem Institute, Polska Izba Ubezpieczeń, Open AI Devs Community, Geberationis.ai S.A., Fundacja Open Allies, Polskie Stowarzyszenie Sztucznej Inteligencji (PSSI), GRAI, Polska Izba Komunikacji Elektronicznej,Stowarzyszenie Inspektorów Ochrony Danych Osobowych, Krajowy Instytut Mediów, Koalicja AI i Innowacji w Zdrowiu, NASK, RELX (ang.), Naczelna Rada Adwokacka, Związek Przedsiębiorstw Finansowych w Polsce, Krajowa Izba Gospodarcza, Związek Cyfrowa Polsk, Logicise Sp. z o. o, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji, Polski Związek Pracodawców Przemysłu Farmaceutycznego – Krajowi Producenci Leków, Stowarzyszenie Autorów i Wydawców Copyright Polska, Fundacja Moje Państwo,Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Sano Centrum Zindywidualizowanej Medycyny Obliczeniowej Międzynarodowa Fundacja Badawcza, Fundacja Sztuka Media Film, Obywatelski Akcelerator Innowacji, Instytut Spraw Obywatelskich, Stowarzyszenie ITCORNER, Związku Pracodawców Technologii Cyfrowych Lewiatan, Software Development Association Poland (SoDA), Fundacja Panoptykon, Brytyjsko-Polska Izba Handlowa BPCC, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Związek Producentów Audio Video (ZPAV), Polska Izba Rzeczników Patentowych, Stowarzyszenia Autorów ZAiKS, Polska Izba Książki, Polski Związek Zarządzania Wierzytelnościami, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, HAIQ sp. z o.o., Stowarzyszenie Księgowych Polskich, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Polska Akademia Nauk Centrum Badań Kosmicznych (PAN), Porozmawiajmy o AI i Poznański Horyzont Danych (EGO), Polskiej Izby Informatyki i Telekomunikacji (PIIT0, Federacja Przedsiębiorców Polskich (FPP), HAEGRI SP. Z O.O., Polska Wytwórnia Papierów Wartościowych (PWPW), Związek Zawodowy Scenarzystów Polskich (Gildia Scenarzystów), KRS – Krajowa Rada Sądownictwa, Polskie Centrum Akredytacji, Porozumienie Zielonogórskie Federacja Związków Pracodawców Ochrony Zdrowia oraz 5 osób fizycznych. Tabela zgłoszonych uwag stanowi załącznik do raportu. W ramach opiniowania projekt otrzymali: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność”, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego. Stanowiska przedstawiły następujące podmioty: Bank Gospodarstwa Krajowego, Polski Komitet Normalizacyjny, Biblioteka Narodowa, Główny Inspektor Pracy, Urząd Komunikacji Elektronicznej, Konfederacja Lewiatan, Urzędu Ochrony Konkurencji i Konsumentów, Ogólnopolskie Porozumienie Związków Zawodowych, Narodowe Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Polski Fundusz Rozwoju S.A. (PFR), Pracodawcy RP, Rzecznik Praw Obywatelskich, Prokuratoria Generalna RP, Główny Urząd Statystyczny, Urząd Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Rada Legislacyjna, Urząd Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Urząd Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ZUS Tabela zgłoszonych uwag stanowi załącznik do raportu. Projektodawca informuje, że trwają analizy w zakresie uwag zgłoszonych w ramach konsultacji publicznych, ostateczne wyniki tych analiz zostaną przedstawione po zakończeniu II tury uzgodnień, opiniowania i konsultacji publicznych. Jednocześnie projektodawca podkreśla, że w nowym tekście projektu ustawy, skierowanym do ponownych uzgodnień, opiniowania i konsultacji publicznych Pozytywnie rozpatrzono uwagi dotyczące m.in: - zwrotu kosztów udziału w posiedzeniach Komisji oraz Społecznej Rady; - rozszerzenia katalogu obszarów działalności organizacji społecznych uprawnionych do zgłaszania kandydatur na członków Społecznej Rady ds. Sztucznej Inteligencji, która ma zostać powołana przy Komisji; - precyzyjnego określenia rynku, nad którego nadzór sprawować ma Komisja; a także przeformułowania przepisów dotyczących wyłączenia stosowania przepisów w oparciu o odpowiednie przepisy rozporządzenia, w tym osobistego i niezarobkowego wykorzystania systemów AI; - rozszerzenia środków wspierających rozwój innowacyjności systemów sztucznej inteligencji, w tym rozszerzenia zakresu projektu o przepisy (nowego) rozdziału 8 poświęconego piaskownicom regulacyjnym w zakresie AI, a także możliwości zawarcia układu (nowy tryb postępowania); - podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie opinii (w poprzedniej wersji projektu: interpretacji) indywidualnej oraz doprecyzowania trybu jej wydawania oraz skutków prawnych; - uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia zbędnych czynności kontrolnych; - usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; - zwiększenia zakresu danych i informacji, do których usunięcia zobligowana jest Komisja po rozpatrzeniu sprawy w ramach postępowania; - zmiany przepisów regulujących pracę Biura Komisji (rozszerzenie zakresu spraw możliwych do uregulowania na poziomie regulaminu Biura Komisji); - rozszerzenia katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji (na mocy decyzji Komisji); - uwzględnienia roli ministra właściwego do spraw informatyzacji w zakresie prac nad „Fabrykami Sztucznej Inteligencji”, w tym możliwości bezpośredniego przekazywania środków finansowych na ten cel. 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. 1 Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi 1. Uwaga ogólna European Fem Institut Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami. Zapisanymi w traktatach oraz, zgodnie z art. 6 TUE - w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, ,,mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji\" oraz \"mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet\". Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne 2 podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jak systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii\". To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym Wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. 3 Uwaga ogólna ICC Polska Projekt, jak wynika z jego uzasadnienia, ma ograniczać się do wprowadzenia do polskiego prawa mechanizmów umożliwiających realizację jedynie tych przepisów rozporządzenia 2024/16891, które zaczną być stosowane od dnia 2 sierpnia 2025 r. W pozostałym zaś zakresie Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych (s. 3-4 uzasadnienia Projektu). Oznacza to, że w założeniu projektodawcy przyjęcie przez Polskę aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 będzie rozłożone w czasie i zsynchronizowane z harmonogramem rozpoczęcia stosowania przepisów samego rozporządzenia (por. art. 113 rozporządzenia 2024/1689). Jakkolwiek uzasadnienie Projektu wprost tego nie przesądza, to z jego całościowej lektury oraz ogólnego tytułu samej ustawy można wnioskować, że wspomniane kolejne działania legislacyjne mają opierać się na uzupełnieniu lub zmianie tej właśnie ustawy. Zaproponowane podejście legislacyjne może budzić jednak pewne wątpliwości z perspektywy zarówno pewności, jak i samej przejrzystości prawa. Po pierwsze, z treści samej ustawy nie wynika jednoznacznie, czy przewidziane w niej mechanizmy ogólne – np. postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub przepisy o administracyjnych karach pieniężnych – będą znajdować zastosowanie w tym właśnie kształcie w odniesieniu do oceny naruszenia wszelkich przepisów rozporządzenia 2024/1689 (w tym przepisów, których termin rozpoczęcia stosowania przypada w 2026 i 2027 r.), czy też podlegać one będą dostosowaniu lub zróżnicowaniu po 2 sierpnia 2025 r. Rodzi to niepotrzebną niepewność po stronie podmiotów, do których stosuje się rozporządzenie 2024/1689, które mając już świadomość obowiązków, jakie będą miały do nich zastosowanie, nie wiedzą jednak, w jaki sposób obowiązki te będą egzekwowane przez organ nadzoru w Polsce. Tytułem przykładu, w art. 1 pkt 5 Projektu wskazano, że ustawa określa „zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 rozporządzenia 2024/1689” [podkreślenie własne], podczas gdy sam rozdział 7 Projektu dotyczący administracyjnych kar pieniężnych już takiego ograniczenia nie przewiduje, odwołując się ogólnie do kar określonych w art. 99 rozporządzenia 2024/1689. Po drugie, jeżeli wdrożenie pozostałych przepisów rozporządzenia 2024/1689 miałoby polegać na prostym uzupełnieniu projektowanej ustawy o systemach sztucznej inteligencji o nowe regulacje (nowelizacja), to może to negatywnie wpłynąć na przejrzystość i czytelność samej ustawy z perspektywy podmiotów jej podlegających. Zależnie bowiem od zakresu zmian i uzupełnień wymagać to będzie albo dodania do ustawy artykułów oznaczonych poza numerami dodatkowo małymi literami lub nawet wieloliterowo – w celu zachowania dotychczasowej numeracji (§ 89 Zasad techniki prawodawczej2), albo opracowania projektu całkowicie nowej ustawy (§ 84 Zasad techniki prawodawczej). Tego rodzaju zabiegi legislacyjne mogą niepotrzebnie ograniczyć, odpowiednio, przejrzystość ustawy albo pewność prawa. Z tego względu należałoby rozważyć też alternatywne podejścia legislacyjne do wdrożenia w Polsce rozporządzenia 2024/1689. Mogą one polegać chociażby na rozbiciu planowanych regulacji na ustawę ustrojową, regulującą jedynie organizację systemu nadzoru nad systemami 4 sztucznej inteligencji, która miałaby wejść w życie w pierwszej kolejności (co jest uzasadnione koniecznością utworzenia nowego organu i czasem potrzebnym na jego zorganizowanie), oraz ustawę lub ustawy odnoszące się do pozostałych zagadnień, w tym postępowań kontrolnych i postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689 ujętych od razu w sposób możliwie jednolity, niezależnie od terminu rozpoczęcia stosowania odpowiednich przepisów rozporządzenia 2024/1689 Uwaga ogólna KIGEiT Zgodnie z traktatami AI Act (Rozporządzenie PE i Rady UE 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 – popieramy idee implementacji aktu w sprawie sztucznej inteligencji, który powinien wejść do porządku prawnego wszystkich krajów członkowskich w taki sam sposób. Ogólna uwaga jaka nasuwa się po analizie projektu ustawy łącznie z Rozporządzeniem 1689/2024 („AI Act”) to obawa jak przedsiębiorca, zwłaszcza typu start-up ma ustalić zakres norm proceduralnych dotyczących systemów i praktyk w zakresie sztucznej inteligencji. Nie jest łatwe ustalenie, jakie są wzajemne relacje (abstrahując od hierarchii źródeł prawa) pomiędzy przepisami: ustawy o systemach sztucznej inteligencji (zwłaszcza Rozdziału 3, 4), ustawy Prawo przedsiębiorców (odwołanie z Art. 42 projektu ustawy o systemach wysokiego ryzyka) a Art. 74 ust. 12-14 AI Act i Rozporządzenia 2019/2020 (zwłaszcza Rozdziału V), do którego odwołuje Art. 74 ust. 1 AI Act. Problemów tych nie rozwiązują propozycje zapisów Ustawy. Należy zauważyć, że choć prawdopodobnie stały za tym dobre intencje, projekt Ustawy zawiera w sobie propozycje przepisów, które pochodzą z co najmniej kilku aktów prawnych dotyczących rynków regulowanych i nadzoru nad rynkiem. To zaczerpnięcie poszczególnych fragmentów projektu Ustawy z różnych źródeł i jednocześnie odwołanie do stosowania jeszcze kolejnych ustaw (KPA, Prawo przedsiębiorców) sprawia, że zaproponowana regulacja jest bardzo zawiła i niejasna. Trudno jest w sposób prosty, bez konieczności sięgania do innych aktów prawnych (i często zwrotnych odwołań) ustalić pełny zakres normy, w tym praw przysługujących stronie postępowania i uprawnień władczych przysługujących organowi. Taki sposób regulacji budzi wątpliwości co do realizacji zasad demokratycznego państwa prawnego (w tym zasad przyzwoitej legislacji, pewności prawa i zaufania obywatela do państwa i stanowionego przez nie prawa), które mają gwarantować, że obywatel może decydować o swoim postępowaniu w oparciu o pełną znajomość przesłanek działania organów państwowych oraz konsekwencji prawnych, jakie te działania mogą za sobą pociągać. Projekt ustawy przewiduje także szereg form działania Komisji bądź Przewodniczącego Komisji, jak zalecenia pokontrolne, ostrzeżenia, interpretacje indywidualne, co do których nie wskazano jaką formę prawna przyjmują (decyzji, postanowień czy też nowych- odrębnych form) co wprowadza kolejne zawiłości w procedurze. Dla wymienionych aktów nie przewidziano także środków zaskarżenia i ochrony praw podmiotów stosujących rozwiązania sztucznej inteligencji, 5 co stanowi istotna lukę w regulacji. Środki te mogą bowiem kreować obowiązki bądź zakazy dla tych podmiotów, powodując tym samym daleko idące skutki operacyjne jak i finansowe związane z ich działalnością. Dlatego na zastosowanie taki środków, które powinny przyjąć formę decyzji administracyjnej, jako prawnie doniosłych, powinno podmiotowi dotkniętemu ich działaniem przysługiwać prawo wniesienia odwołania do właściwego Sądu w terminie odpowiednim do zawiłości materii (sugerowanym 2 miesięcy) a do czasu uprawomocnienia się takiego środka nie powinien być on egzekwowany. Ponad to cały proces kontroli powinien skupiać się nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzystywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzyko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologii i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania sztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na operatora takich systemów. Uwagi ogólne Federacja Przedsiębiorców Polskich Projekt przewiduje możliwość równoczesnego stosowania przepisów przez różne organy nadzorcze w państwach członkowskich wobec tych samych przedsiębiorstw. Zawarty w artykule 2 przepis o zakresie podmiotowym może prowadzić do niejasności interpretacyjnych co do kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji względem zagranicznych podmiotów. Aby uniknąć takich niejasności, sugerujemy precyzyjne określenie, w stosunku do których jednostek międzynarodowych grup kapitałowych Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie miała możliwość prowadzenia działań czy jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw, szczególnie w odniesieniu do firm zagranicznych posiadających oddziały lub spółki zależne w Polsce. Ponadto, projekt zakłada możliwość wydawania interpretacji i rekomendacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co wykracza poza jej kompetencje określone w Akcie w sprawie sztucznej inteligencji, który rezerwuje te uprawnienia wyłącznie dla unijnej Rady ds. AI. Aby uniknąć potencjalnych rozbieżności w interpretacji przepisów unijnych oraz niejasności dla przedsiębiorstw operujących na rynku międzynarodowym, proponujemy usunięcie tych zapisów. Projekt ustawy nie przewiduje również odpowiednich zabezpieczeń dla danych poufnych pozyskiwanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co może prowadzić do naruszenia 6 interesów przedsiębiorstw. Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają szerokie uprawnienia w zakresie przetwarzania i udostępniania informacji chronionych prawnie, co może stanowić zagrożenie dla prywatności firm. Postulujemy wprowadzenie ograniczeń dotyczących przetwarzania i udostępniania informacji objętych tajemnicą przedsiębiorstwa, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów biznesowych. Projekt przyznaje Komisji Rozwoju t Bezpieczeństwa Sztucznej Inteligencji szerokie uprawnienia do pozyskiwania dokumentów i przeprowadzania oględzin urządzeń, co może wykraczać poza wymagania Aktu o sztucznej inteligencji, który ogranicza gromadzenie danych przez organy nadzorcze do tych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Proponujemy, aby uprawnienia te były ograniczone do niezbędnych danych oraz aby wyłączyć wymóg poświadczania zgodności dokumentów z oryginałem, co może stanowić dodatkowe obciążenie administracyjne dla przedsiębiorstw. Projekt przewiduje 14-dniowy termin na wycofanie systemu AI z rynku, co może stanowić wyzwanie dla firm korzystających z zaawansowanych technologii i prowadzić do zakłóceń operacyjnych oraz strat finansowych. Proponujemy wydłużenie tego terminu oraz zniesienie natychmiastowej wykonalności decyzji o wycofaniu systemu, aby firmy miały możliwość dostosowania się do nowych wymagań. Wycofanie systemu AI powinno być ostatecznością, a Komisja powinna skupić się na działaniach prewencyjnych i rekomendacjach. Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji. Jednak sprawy związane ze sztuczną inteligencją są na tyle skomplikowane, że wymagają odpowiedniego poziomu ekspertyzy. Dlatego proponujemy rozważenie przekazania takich spraw do sądów ds. własności intelektualnej, co mogłoby zapewnić wyższy poziom przewidywalności i rzetelności rozstrzygnięć. Na koniec, chcielibyśmy zwrócić uwagę na wysokie kary pieniężne przewidziane w projekcie oraz krótki, 14-dniowy termin na ich opłacenie. Taka presja finansowa może negatywnie wpłynąć na przedsiębiorców, zwłaszcza przy braku możliwości zawieszenia wykonania decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W celu zachowania proporcjonalności sugerujemy wydłużenie terminu na uiszczenie kar oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu zakończenia procesu odwoławczego. Mamy nadzieję, że nasze uwagi i rekomendacje zostaną wzięte pod uwagę podczas dalszych prac nad projektem. Federacja Przedsiębiorców Polskich jest gotowa do współpracy i wsparcia w dalszych konsultacjach, aby stworzyć stabilne i przewidywalne ramy prawne dla działalności przedsiębiorstw korzystających z systemów sztucznej inteligencji w Polsce. 2. Uwaga ogólna Mikołaj \"Tesla\" Matysiak #WhiteWater Propozycje te z jednej strony chronią obywateli, ale jednocześnie zabezpieczają model biznesowy firm w branży i zwiększają poziom bezpieczeństwa i zaufania użytkowników do firm tworzących AI. Także klasyczne win-win w tej sytuacji. I myślę, że mimo pewnej dodatkowej pracy, której będzie to wymagało od firm w tym obszarze - zakładam, że raczej będą dobrze przyjęte w branży, jako racjonalne i zasadne. 7 1. Prawo do prywatności: Opcja opt out z wykorzystywania i przechowywania treści w ich systemie (darmowe dla użytkowników indywidualnych i edukacji, może być płatne opt out w planach enterprise dla firm i instytucji). 2. Prawo do dysponowania danymi: Wymóg posiadania opcji lokalnego przechowywania danych na własnym sprzęcie lub chmurze. 3. Prawo do ciągłości danych: Wymóg posiadania możliwości zgrania całości historii wygenerowanej treści przez użytkownika (np. do celów migracji danych do innego AI). 4. Prawo do zachowania ciągłości danych: Zakaz blokowania i usuwania kont oraz wprowadzonych danych bez możliwości zgrania historii danych. 5. Prawo do szybkiej migracji: Po wypracowaniu standardów dla określonego typu treści, wymóg posiadania przynajmniej jednego uniwersalnego typu plików do importu i eksportu dla danego typu treści. 6. Prawo do weryfikacji: Wymóg posiadania opcji ujawnienia, które treści były oglądane przez pracowników firmy. Wymóg posiadania przez firmę imiennych logów kto i co przeglądał i jakie czynności wykonał z tymi danymi (np. do udostępnienia organom ścigania), gdyby ktoś próbował manipulować outputem lub wykradał prywatne dane użytkowników z serwerów firmy Uwagi ogólne Generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, co zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów 8 Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki 9 sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. 10 • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Uwagi ogólne Porozmawiajmy o AI i Poznańskiego Horyzontu Danych Czy interpretacja wydana przez Komisję w Polsce obowiązuje na terenie całej UE? Jak zsynchronizować rynek? 11 Jakie wyprzedzenie czasowe potrzebujemy, żeby dany system ściągnąć z rynku (zaprzestać używać, np. w przypadku, gdy nasza usługa jest oparta na tym systemie)? Kary kwotowa i procentowa – dla MŚP wybieramy mniejszą Art. 99, ust. 6 (AI Act). Rekomendujemy doprecyzowanie czym są małe firmy - firmy które spełniają definicję MŚP np. odwołanie się do polskich przepisów i zawartych tam definicji MŚP. Podanie konkretnych liczb ekspertów do Rady Społecznej: domenowych na styku AI i społecznego wpływu AI na styku praw człowieka i AI sugerujemy płace dla pracowników (specjalistów) Biura Komisji na poziomie 90 percentyla stawek rynkowych uwzględniających także JDG (Jednoosobową Działalność Gospodarczą). Oczekujemy że w ten sposób zapewniona zostanie wysoka jakość kompetencji osób zatrudnionych w Biurze szczególnie w tak wysoce konkurencyjnym obszarze jakim jest SI. Uwaga ogólna Open AI Devs Community WSPARCIE DLA MŚP I INDYWIDUALNYCH DEWELOPERÓW 1. Uproszczone procedury dla mniejszych podmiotów. Postulujemy wprowadzenie do ustawy rozdziału dedykowanego uproszczonym procedurom dla MŚP, jednoosobowych działalności gospodarczych (JDG) oraz indywidualnych deweloperów. Proponujemy: • Wprowadzenie progów dostosowanych do wielkości przedsiębiorstwa i skali działalności; • Uproszczone wymogi dokumentacyjne dla systemów niskiego ryzyka; • Wydłużone terminy dostosowawcze dla mniejszych podmiotów. 2. System wsparcia finansowego i merytorycznego. Wnioskujemy o uzupełnienie ustawy o przepisy dotyczące: • Utworzenia dedykowanego funduszu wspierającego rozwój i wdrażanie rozwiązań AI; • Programu dotacji na certyfikację i ocenę zgodności systemów AI; • Mechanizmu refundacji kosztów dostosowania się do nowych regulacji. ROZWÓJ EKOSYSTEMU AI W POLSCE 1. Strategia rozwoju AI. Proponujemy uzupełnienie ustawy o rozdział określający: • Narodową strategię rozwoju AI; • Konkretne cele i wskaźniki rozwoju sektora AI; • Mechanizmy wsparcia dla badań i rozwoju w obszarze AI. 2. Współpraca nauki z biznesem. Postulujemy wprowadzenie przepisów dotyczących: • Utworzenia krajowego repozytorium danych i modeli AI; • Programów współpracy między uczelniami a przedsiębiorstwami; • Wsparcia dla komercjalizacji badań w obszarze AI Brak odpowiednich mechanizmów wsparcia może prowadzić do: 12 • Ograniczenia innowacyjności w sektorze AI; • Wykluczenia mniejszych podmiotów z rynku; • Osłabienia pozycji Polski w globalnym wyścigu technologicznym. Uwaga ogólna Instrat – Fundacja Centrum Cyfrowe Po opublikowaniu projektu ustawy w mediach społecznościowych rozgorzała dyskusja na temat planowanej ingerencji państwa w działalność firm oraz mechanizmów kontroli, jakie ustawa wprowadzi. Oprócz znanych już głosów krytyki dotyczących przeregulowania rynku i zahamowania innowacji, pojawiły się także nowe obawy – dotyczące tworzenia tzw. „milicji SI” (współpracy KRiBSI z Policją lub innymi organami nadzoru państwowego i ochrony prawa) i realizowania daleko idącej kontroli producentów technologii. Pojawiły się także argumenty mówiące o braku jakiejkolwiek ochrony dostawców. Pojawiające się wątpliwości wskazują na konieczność prowadzenia przejrzystej komunikacji odnoszącej się do konkretnych, budzących obawy zapisów ustawy, jej rzeczywistego zakresu oraz tego, w jaki sposób będzie stosowana. Ważne jest także, aby wyjaśnić, jak regulacja koreluje z założeniami i zobowiązaniami wynikającymi z unijnego rozporządzenia AI Act, co pozwoli rozwiać niepokoje środowiska biznesowego. Bez szeroko zakrojonej komunikacji i działań mających na celu uspokojenie obaw przedsiębiorców może dojść do dezinformacji i narastającej niechęci wobec nowego prawa, co z kolei utrudni jego wdrażanie oraz współpracę z sektorem prywatnym. Uwaga ogólna SKwP Zagadnienie Biura i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Problem AI jest trudny, perspektywiczny i dynamicznie rozwijający się. Zespół pracujący nad kontrolą bezpieczeństwa AI powinien być powołany za zgodą społeczną, zatem z akceptacją Sejmu RP. Oddanie pełnej personalnej władzy w ręce Prezesa RM budzi obawę o naciski lobbystów i ekspertów zagranicznych (UE). Uwaga ogólna Repropol Jak wynika z uzasadnienia projektu ustawy o systemach sztucznej inteligencji (dalej jako „Projekt”, a ustawa jako „UoSSI”), wdrożone mają zostać te przepisy AIA, których data nabrania mocy obowiązującej przypada na 2 sierpnia 2025 roku. Mowa tutaj zatem o rozdziałach I, II, III sekcja 4, V, VII, IX, XI. Choć zasadniczym trzonem wdrożenia są przepisy o charakterze techniczno- administracyjnym, związane z ustanowieniem krajowych urzędów certyfikujących oraz nadzorujących, zakres wdrożenia obejmuje także rozdział V, który odnosi się do modeli AI ogólnego przeznaczenia (dalej jako: „GPAI”). Ten rodzaj modeli, zwłaszcza modele z ryzykiem systemowym, mają fundamentalne znaczenie dla rozwoju fenomenu sztucznej inteligencji. W tym kontekście należy zwrócić uwagę na fakt, iż zagadnieniu GPAI projektodawca nie poświęcił żadnej uwagi, prócz wzmianki w art. 1 ust. 2 UoSSI. Już w tym miejscu sygnalizujemy ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku, wypada atrakcyjnie w kontekście istotnie mniejszych środków finansowych 13 przeznaczonych na wdrożenie Aktu o Usługach Cyfrowych. Jeśli jednak obecne w przestrzeni publicznej zapowiedzi dotyczące aktywnego uczestnictwa Polski w tworzeniu najnowszych technologii mają mieć szansę na realizację, niezbędne wydają się kwoty dużo wyższe. Jak wyraźnie stanowi art. 70 ust. 3 AIA, dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”. Zapewnienie tego rodzaju kompetencji musi kosztować. Zapisana w projekcie ustawy kwota oznacza średniomiesięczne wydatki na poziomie około 2,5 miliona złotych. Jeśli już wziąć pod uwagę koszt tworzenia nawet niewielkich modeli i systemów AI (co może stanowić pośredni benchmark dla obliczania budżetów tego rodzaju przedsięwzięć), wskazane kwoty wydają się zbyt niskie. Uwaga ogólna Naczelna Rada Adwokacka (NRA) Choć przepisy Projektu mają zapewnić ochronę interesu publicznego, prawa i wolności obywateli oraz bezpieczeństwo technologiczne, to w wielu przypadkach ich struktura i zakres budzą wątpliwości i zastrzeżenia. Przepisy Projektu w art. 5 i 6 przewidują powołanie KRiBSI, której nadrzędną misją ma być sprawowanie pieczy nad przestrzeganiem postanowień tej ustawy. Zakres działań KRiBSI ma obejmować monitorowanie rynku systemów SI, a także egzekwowanie obowiązków nałożonych na dostawców oraz użytkowników tych systemów. Zgodnie z treścią Projektu KRiBSI będzie organem państwowym dysponującym rozległymi kompetencjami nadzorczymi, a przyznane jej uprawnienia wydają się w dużej mierze sankcyjne i dyscyplinujące. Nie można jednak przeoczyć, iż sposób powoływania członków KRiBSI, określony w art. 20–26 Projektu, rodzi pewne zastrzeżenia odnośnie do niezależności tej instytucji. Projekt wskazuje bowiem, iż przewodniczący Komisji powoływany będzie przez Szefa Kancelarii Prezesa Rady Ministrów (art. 26 Projektu), co stwarza przestrzeń dla potencjalnych wpływów politycznych. Uzasadnionym byłoby zatem rozważenie takich modyfikacji w przepisach, które wzmacniałyby gwarancje niezależności KRiBSI oraz zapewniałyby przejrzysty i publiczny tryb powoływania jej członków. Transparentność procesu nominacji i zabezpieczenie KRiBSI przed wpływami politycznymi mogłyby przyczynić się do zwiększenia zaufania społecznego wobec tego organu, w szczególności w kontekście jego roli w nadzorze nad systemami SI. Uwaga ogólna Związku Pracodawców Technologii Cyfrowych Lewiatan Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. 14 Uwaga ogólna HAiQ Nie za lekka? O ile należy docenić niechęć Ministerstwa Cyfryzacji do tworzenia kolejnej zasobochłonnej instytucji administracji centralnej, to wydaje się, że takie rozwiązanie nie rozwiązuje innego problemu: deficytu ekspertów od SI. W uzasadnieniu do ustawy czytamy, że powodem, dla którego zdecydowano się na ustanowienie jednej centralnej instytucji zajmującej się SI, był fakt deficytu ekspertów od tej technologii. Trudno nie zgodzić się z taką diagnozą. Jednocześnie jednak konstrukcyjna lekkość Komisji de facto wymaga tego, aby eksperci od SI znaleźli się we wszystkich dziewięciu instytucjach wymienionych w Art. 7., których przedstawiciele są członkami Komisji. Czyli formalnie mamy koncentrację kompetencji w jednym ciele, lecz ze względu na jego sieciowy charakter, potrzebę znaczącej dekoncentracji wiedzy na temat SI. Jeżeli nie nastąpi proces owej dekoncentracji, to jedynie Przewodniczący Komisji dzięki wymogom formalnym (Art. 18.), będzie jedynym ekspertem z zakresu przedmiotowego ustawy. Należy zaś pamiętać, że każdy członek Komisji (Art. 8.) ma taką samą siłę głosu (oprócz sytuacji patowych). Obyśmy zatem nie tworzyli instytucji, która będzie pozwalała laikom z zakresu SI podejmować “lekką ręką” decyzje mające bardzo poważne konsekwencje w sprawach tak wrażliwej i dynamicznie rozwijającej się technologii jak SI. Niedawno doświadczaliśmy niestety tego rodzaju zachowań ze strony funkcjonariuszy państwa. A gdzie rozwój? Jak już wspomnieliśmy wcześniej pełna nazwa ciała mającego zajmować się sztuczną inteligencją w Polsce to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Niestety w projekcie ustawy mamy bardzo niewiele informacji o tym, w jaki sposób nowy organ miałby zajmować się rozwojem SI w naszym kraju. W uzasadnieniu do ustawy pojawia się wiele deklaracji w tej kwestii, lecz na poziomie tzw. action points nie ma wiele. Co więcej, zakres przedmiotowy ustawy (Art. 4.) wyklucza obszar badań naukowych, zaś wśród członków Komisji nie jest wymieniony przedstawiciel ministra nauki i szkolnictwa wyższego. A gdzie bezpieczeństwo? Ten sam problem jest związany z kwestiami bezpieczeństwa. Na poziomie deklaracji mamy wiele haseł związanych z potrzebą wspierania implementacji systemów SI w sferach związanych z bezpieczeństwem, lecz na poziomie procesów faktycznie opisywanych w ustawie niewiele znajdujemy. Ponownie, przedstawiciele ministra obrony oraz ministra administracji i bezpieczeństwa wewnętrznego nie są wymienieni jako członkowie Komisji (chociaż jest koordynator ds. służb specjalnych), zaś obszary obronności i bezpieczeństwa są wykluczone z przedmiotowego zakresu działań nowego ciała. Te wszystkie wykluczenia można poniekąd zrozumieć, ponieważ są one również obecne w AI Act obowiązującym w Unii Europejskiej. Można się jednak zastanowić, czy Polska nie powinna jednak inaczej sprofilować swojej najważniejszej instytucji zajmującej się SI. O ile można zrozumieć wykluczenie kwestii bezpieczeństwa wewnętrznego i zewnętrznego z kompetencji Komisji, to trudno zrozumieć odcięcie od kwestii badawczych. Sztuczna inteligencja nie jest nawet w części rozwiniętą technologią. Nieustannie rozwija się, a Polska powinna uczestniczyć w tym procesie. Dlatego koniecznym wydaje się, żeby 15 kluczowymi elementami ‘lekkiej organizacji’ jaką jest Komisja, byli przedstawiciele instytucji zajmujących się nauką. “Komisja Nadzoru i Kontroli Sztucznej Inteligencji”. W obecnym kształcie nowo powołane ciało na poziomie w miarę dokładnie opisanych działań i kompetencji ma przede wszystkim zajmować się nadzorem nad podmiotami wykorzystującymi systemy SI oraz reagować na skargi zgłaszane wobec ich działań. Proponowana zaś przez Ministerstwo Cyfryzacji nazwa nowej instytucji centralnej kompletnie nie oddaje jej kluczowych kompetencji. Co więcej, kompetencje związane z notyfikacją systemów SI mają być przypisane ministrowi ds. informatyzacji (Rozdział 6). Naszym jednak zdaniem dobrze byłoby, aby w swojej końcowej formie Komisja posiadała kompetencje, które rzeczywiście odpowiadają jej proponowanej nazwie. Zapewne strona rzędowa będzie argumentować, że wiele elementów działań Komisji będzie realizowane przez Biuro Komisji (Art. 31), które ma powołać premier. Jednakże na podstawie udostępnionych dokumentów nie wiele wiadomo o planowanych działaniach tego ciała. Brzydkie słowo na ‘b’. Koncentrowanie się na kompetencjach związanych z nadzorem i kontrolą powoduje, że uwadze autorów projektu ustawy ucieka biznes. W uzasadnieniu ustawy czytamy, że Komisja ma wspierać małe i średnie przedsiębiorstwa. Trudno jednak dociec, jak to ma robić. Jedynie nadzorując i kontrolując wiele w tym obszarze nie osiągnie. Można się też obawiać, że aby wykazać swoją prężność, to właśnie te podmioty staną się głównym celem działań tej instytucji. Samo Ministerstwo przyznaje, że ekspetów od SI jest w Polsce bardzo mało, kogo więc będzie stać na ich wynajęcie, aby odwoływać się od decyzji Komisji. Zapewne tzw. Big Techy, a co z mniej zamożnymi przedsiębiorstwami? Trochę kultury! Na koniec uwaga dotycząca nie tylko projektu polskiej ustawy, lecz także unijnego podejścia do SI. Ustanowiona przez AI Act polityka publiczna wobec SI, jest polityką publiczną nakierowaną na “algorytmiczną sztuczną inteligencję”. Głównym problemem, który ma ona zaadresować, jest przede wszystkim automatyzacja procesów decyzyjnych. Systemy SI będące elementami instytucji finansowych, czy też publicznych, mogą uzyskać zbyt dużą autonomię w podejmowaniu szybkich i nietransparentnych decyzji. Decyzje te mogą zagrażać wielu gwarantowanym przez Unię Europejską prawom obywatelskim. Uważamy, że to zagrożenie jest realne, poważne i należy na nie reagować. Dobrą odpowiedzią na nie jest zarówno AI Act, jak i komentowany przez nas projekt ustawy; nawet w swojej nadzorczo-kontrolnej formie. Problem w tym, że obecnie jesteśmy świadkami rozwoju przede wszystkim “generatywnej sztucznej inteligencji”. Ta nie tyle wiąże się z automatyzacją procesów podejmowania decyzji, co z wysoką autonomią przekształcania i tworzenia nowych przekazów symbolicznych. Tutaj problemem nie jest kwestia nieprzejrzystych decyzji kredytowych, co odróżniania prawdziwych przekazów audiowizualnych od tych generowanych przez SI. Gwałtowny rozwój generatywnej sztucznej inteligencji mniej też jest związany z naruszaniem naszych indywidualnych praw, lecz bardziej 16 praw związanych ze wspólnotami - w tym kulturowymi i społecznymi - których jesteśmy członkami. Sztuczna inteligencja karmi się bowiem wytwarzanymi przez nas wspólnie treściami kulturowymi oraz bardzo dynamicznie zaczyna na nie wpływać. Warto zatem zastanowić się, czy nasz krajowa regulacja nie powinna wziąć pod uwagę tego zmieniającego się charakteru sztucznej inteligencji. Uwaga ogólna Fundacja Moje Państwo Fundacja popiera rozwiązanie zawarte w projekcie ustawy polegające na utworzeniu w Polsce zupełnie nowego organu nadzoru rynku w zakresie sztucznej inteligencji, tj. Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji “Komisja” (co było rekomendowane przez Fundację w ramach prekonsultacji dotyczących projektu ustawy w kwietniu 2024 r.). Organ poza nadzorowaniem rynku ma także wzmacniać branżę sztucznej inteligencji w Polsce oraz pełnić funkcję podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, zatem ustanowienie nowej instytucji, zamiast rozdzielania nowych obowiązków wynikających z Aktu w sprawie sztucznej inteligencji 4 pomiędzy istniejące już organy, wydaje się rozwiązaniem najwłaściwszym. Na uwagę zasługują zadania Komisji polegające na opracowywaniu i wydawaniu publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych (art. 11 ust. 1 pkt 8 projektu ustawy). Zapewnienie ram dla rozwoju zrównoważonej technologii sztucznej inteligencji, wspieranie innowacyjności wśród przedsiębiorców oraz promowanie zorientowanego na człowieka podejścia do sztucznej inteligencji będzie wiązało się z koniecznością ciągłej edukacji obywateli, w tym przedstawicieli administracji publicznej oraz przedsiębiorców. Istotnym zadaniem Komisji – w kontekście budowania wiedzy wśród społeczeństwa o systemach sztucznej inteligencji – będzie również gromadzenie i upowszechnienie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją (art. 11 ust. 1 pkt 10 projektu ustawy). W przypadku tego przepisu należałoby rozważyć doprecyzowanie miejsca publikacji ww. orzecznictwa np. poprzez wskazanie, że publikacja nastąpi w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Projekt ustawy zakłada w art. 14 ust. 1, że “Przewodniczący Komisji, na wniosek zainteresowanego, wydaje w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy”. Na podstawie projektowanego przepisu do złożenia wniosku o wydanie interpretacji jest uprawniony każdy, kto ma wątpliwości jak interpretować, w odniesieniu do dotyczącej go sprawy, przepisy Aktu w sprawie sztucznej inteligencji lub przepisy projektowanej ustawy – zatem mógłby to być zarówno obywatel, na którego wpływ ma system sztucznej inteligencji, jak i spółka lub podmiot publiczny, na których spoczywają obowiązki wynikające z Aktu w sprawie sztucznej inteligencji. Zdaniem Fundacji zasadnie przyjęto szeroki zakres podmiotów uprawnionych do wystąpienia z wnioskiem o interpretację przepisów regulujących systemy 17 sztucznej inteligencji. W projektowanym przepisie należałoby wskazać jednak termin w jakim Przewodniczący Komisji jest zobowiązany do rozpoznania wniosku o wydanie interpretacji. W uzasadnieniu projektu ustawy (str. 12) wskazano, że: w celu zapewnienia koordynacji i wymiany informacji na temat sektora sztucznej inteligencji, przy Komisji ma zostać powołana Społeczna Rada do Spraw Sztucznej Inteligencji (“Rada”). Celem jej działania ma być zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. Uprawnienie do zgłaszania kandydatur do Rady zostało ograniczone poprzez przepis art. 28 ust. 3 projektowanej ustawy, zawierający wskazanie podmiotów oraz kategorii podmiotów, które mogą z tego prawa skorzystać. Zdaniem Fundacji należy rozważyć rozszerzenie katalogu zawartego w ww. przepisie w zakresie organizacji pozarządowych tj. w zakresie art. 28 ust. 3 pkt 7. Komentowany przepis wskazuje, że kandydatów na członków Rady mogą zgłosić fundacje lub stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Naszym zdaniem cennym źródłem wskazywania kandydatów do Rady byłyby również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które są w stanie wykazać się działalnością na rzecz rozwoju sztucznej inteligencji lub, których działalność statutowa jest związana z wspieraniem rozwoju sztucznej inteligencji. Proponowane rozwiązanie mogłoby wpłynąć na większą różnorodność kandydatur zgłaszanych na członków Rady Uwaga ogólna SIODO 1. art. 3 pkt 4) rozporządzenia 2024/1689;- „użytkownik” oznacza osobą fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które korzystają z systemu sztucznej inteligencji pod swoją kontrolą, z wyjątkiem sytuacji, gdy system sztucznej inteligencji jest wykorzystywany w ramach osobistej działalności pozazawodowej: 1) z uwagi na potrzebę jednoznacznego zdefiniowania podmiotu operującego narzędziami sztucznej inteligencji, 2) w tym komunikowanie publiczne (BIP)o wykorzystaniu narzędzi sztucznej inteligencji w działaniach podmiotu; 3) możliwość rezygnacji z usług podmiotu wykorzystującego narzędzia sztucznej inteligencji oraz alternatywne rozwiązania jako poszanowanie podstawowych praw osób o decydowaniu o sobie (lub stosowne uzasadnione ustawowe ograniczenie praw) 2. stosownie do zapisów Artykuł 29 rozporządzenia 2024/1689 – określenie osoby funkcyjnej (np. pełnomocnik wójta, burmistrza d/s cyberbezpieczeństwa i sztucznej inteligencji) u użytkownika (podmiotu lub organu publicznego) monitorującego działanie systemu sztucznej inteligencji. W tym: pozycję osoby w strukturze jednostki organizacyjnej, minimalny zakres uprawnień i obowiązków w stosunku do personelu i narządzi, którymi personel się posługuje, a także kwalifikacje zawodowe jakie powinien wykazywać przed kierownictwem jednostki organizacyjnej jako gwarancji sprawowania właściwego nadzoru 18 Uwaga ogólna Stowarzyszenie Autorów i Wydawców Copyright Polska W imieniu Stowarzyszenia Autorów i Wydawców Copyright Polska, organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi działającej w imieniu i w interesie autorów i wydawców utworów słownych, przekazuję uwagi w ramach konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71), dalej: projekt, udostępnionej publicznie do zgłaszania uwag w dniu 16 października 2024 r. w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny. Z aprobatą przyjmujemy szybkie opracowanie przez Ministerstwo Cyfryzacji konsultowanego projektu wobec obowiązywania rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – Aktu o sztucznej inteligencji, wymagającego zapewnienia uczestnikom obrotu pewności prawa. Zgłaszamy w ramach konsultacji publicznych uwagi służące przede wszystkim uzupełnieniu istotnej luki projektu – to jest zapewnienia udziału uprawnionych lub podmiotów ich reprezentujących w gremiach decyzyjnych i doradczych powoływanych w projekcie do życia . Uwagi te wynikają z zupełnego pominięcia przez projekt kwestii ochrony praw autorskich i praw pokrewnych, podczas gdy Akt o sztucznej inteligencji odnosi się do tych zagadnień w motywach od 104 do 109 oraz w art. 53 ust. 1 lit. c), zgodnie z którym dostawcy modeli AI ogólnego przeznaczenia wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności [to znaczy nie wyłącznie – dopisek SAiW CP] z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790. Skoro konsultowany projekt ma służyć stworzeniu rzeczywistego i skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, to nie powinien pomijać realnej możliwości reprezentowania w tym systemie interesów licznych podmiotów, którym służą prawa autorskie i prawa pokrewne do treści użytych i używanych do trenowania (uczenia) sztucznej inteligencji. Bez treści autorskich narzędzia AI nie nabyłyby funkcjonalności, które posiadają i które rozwijają w procesie ciągłego uczenia się. Projektowana ustawa winna z tego powodu zapewniać realny udział i decyzyjność organów reprezentujących podmioty autorskouprawnione oraz konsultacyjną rolę ich organizacji w pracach ciał powoływanych przez nią do życia. Póki co nie znajdziemy w projekcie żadnego odniesienia wprost do praw autorskich, ani mocniejszego niż fakultatywne uprawnienia jakiegokolwiek podmiotu, który mógłby strzec ich poszanowania w operacyjnym działaniu organów tworzonych przez nową ustawę o sztucznej inteligencji. 19 Podstawowy wedle projektu organ – Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej: Komisja – ma posiadać ustawą kompetencję wydawania interpretacji, generalnych i indywidualnych, w sprawach stosowania Aktu o sztucznej inteligencji. Póki co, właściwie od dobrej woli Komisji zależy zaproszenie do takich spraw w roli uczestników prac podmiotów reprezentujących interes uprawnionych. Proponujemy więc, by przedstawiciel Ministra Kultury był nie tylko fakultatywnym członkiem Komisji, ale by rozważyć jego bardziej sformalizowany, stały udział w jej pracach lub by konsultacja z nim przez Komisję była obligatoryjna we wszelkich sprawach rozpatrywanych przed Komisją, które wprost dotyczą lub odnoszą się do kwestii ochrony praw autorskich i praw pokrewnych. Jedną z metod regulacji może być uznanie tego Ministra za wchodzącego w skład Komisji, co dawałoby mu wpływ na powoływanie składu Rady Społecznej, a inną metodą regulacji może być ujęcie Ministra Kultury w art. 6 ust. 3) projektu, jako podmiotu współpracującego z Komisją w zakresie spraw, o których mowa w art. 53 ust. 1 lit. c) rozporządzenia 2024/1689. Uwaga ogólna Polskie Towarzystwo Informatyczne Po pierwsze, zasadnicze znaczenie ma osadzenie AI Act w szerszym - i nadrzędnym - kontekście normatywnym, czyli unijnej koncepcji ‘trustworthy A’I, która obejmuje etykę, prawo i solidność techniczną. Koncepcja ta jest wywiedziona z praw podstawowych (poszanowanie godności ludzkiej; wolność jednostki; poszanowanie demokracji, sprawiedliwości i praworządności; równość, brak dyskryminacji i solidarność; prawa obywatelskie), a jej 7 wymogów (przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy; odpowiedzialność) wraz z dokumentem, z którego pochodzą (Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji) jest explicite przywołanych w 27 motywie Preambule AI Act (co prawda w rozporządzeniu są one określone mianem zasad, co jest nieco mylące, bo zasady ‘trustworthy AI’ to coś innego niż wymogi, niemniej ich przytoczenie rozwiewa wątpliwości). Na koniec motywu stwierdza się: \"Stosowanie tych zasad powinno w miarę możliwości znaleźć odzwierciedlenie w projektowaniu i wykorzystywaniu systemów i modeli AI. Zasady te powinny w każdym przypadku stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Wszystkie zainteresowane strony, w tym przedstawicieli przemysłu (w tym ich wewnętrznych działów badań i innowacji), środowisko akademickie, społeczeństwo obywatelskie i organizacje normalizacyjne, zachęca się, by przy opracowywaniu dobrowolnych najlepszych praktyk i norm uwzględniali odpowiednio przedmiotowe zasady etyczne.\" Nie ulega zatem wątpliwości, że nadrzędnymi wartościami przyświecającymi prawu dot. AI są prawa podstawowe oraz dobrostan ludzki i środowiskowy, zaś podstawowym kryterium oceny 20 technologii winno być to, czy w danym przypadku możliwe jest zapewnienie zgodności z tymi wartościami, prawami, zasadami i wymogami. W tym świetle interesariuszami ‘AI governance’ są więc nie tylko władza ustawodawcza i wykonawcza oraz przedsiębiorcy, ale - przede wszystkim - społeczeństwo oraz środowisko (co jest szczególnie istotne w kontekście tzw. negatywnych kosztów zewnętrznych AI, szczególnie deep learningu i genAI). Z kolei warunkiem zapewnienia zgodności z wymogami prawa jest zarówno rzetelne przeprowadzenie procedur oceny zgodności i oceny ryzyka, jak i dostępność odpowiednich standardów i metod umożliwiających operacjonalizację wartości, zasad i wymogów w konkretnej praktyce projektowej, które są wypracowywane na gruncie interdyscyplinarnych prac obejmujących nie tylko badania nad AI, ale również szeroko pojętą etykę AI. W przeciwnym razie zgodność z AI Act będzie bardzo powierzchowna i sprowadzi się do zapewnienia formalnego compliance w postaci procedur, których nikt nie będzie urzeczywistniał w praktyce rozwijania i wdrażania systemów AI. Uwaga ogólna AI Chamber Sztuczna inteligencja ma potencjał przeobrażenia prawie każdej sfery naszego życia i gospodarki, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, tworząc te technologie lub przynajmniej adaptując je do swoich potrzeb i wdrażając odpowiednio szybko i skutecznie. Tego myślenia, zdaniem Izby, brakuje w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje SI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny i skomplikowany system kontroli przestrzegania przepisów Aktu o SI. Brakuje praktycznie całkowicie wśród przedstawionych przepisów tych, które realizują wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności wskazujemy tu brak rozwiązań tworzących piaskownice regulacyjne. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE nie znajduje uzasadnienia. Jeżeli chcemy, aby Polska była na czele rozwoju SI to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju SI jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej rewolucji - mamy utalentowanych twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. Projekt czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływana Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI lub Komisja) wzorowana jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost 21 przeniesione z ustawy o nadzorze rynku finansowego. Takie podejście ma swoje zalety i adaptacja sprawdzonych rozwiązań ma wiele zalet. Wskazujemy jednak na to, że sztuczna inteligencja jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, zasadniczo odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej - usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami. Nie można tego samego powiedzieć o SI, z pewnością nie w większości przypadków. Tworzenie wobec tego instytucji nadzoru wedle tych samych wzorców budzi poważne wątpliwości. Ustawa w innych miejscach też adoptuje rozwiązania z innych ustaw, wprowadzając jednak do nich nie zawsze zrozumiałe i celowe zmiany, zamiast odesłać w danym zakresie w całości do obowiązujących już ustaw. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych (jak np. interpretacja indywidualna, uregulowana w ustawie Prawo przedsiębiorców). Uwaga ogólna Związek Banków Polskich Postulat doprecyzowania pojęcia tajemnic prawnie chronionych. Należy zgłosić postulat dokonania zmian w odpowiednich przepisach sektorowych, jeżeli ma to obejmować tajemnice typu bankowa, ubezpieczeniowa i in. Jeżeli Komisja miałaby mieć dostęp do tajemnicy typu tajemnica bankowa, ubezpieczeniowa, niezbędne są zmiany w sektorowych aktach prawnych poprzez dodanie tego podmiotu jako uprawnionego do żądania informacji objętych tego typu tajemnicą. Niedoprecyzowany pozostaje tryb rejestrowania Systemów SI wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Ustawa niewystarczająco odpowiednio reguluje kwestie zależności (w szczególności zgodności) rozporządzenia 2024/1689 z innymi przepisani lokalnymi, które obecnie obowiązują w obszarach mniej lub bardziej bezpośrednio związanych z obszarem, którego dotyczy rozporządzenie. W szczególności chodzi o wymogi wydanej przez KNF Rekomendacji W zakresie zarządzania ryzykiem modeli w Bankach i odpowiedzi na podstawowe pytanie, czy modele zdefiniowane przez instytucję finansową jako modele AI podlegają definicji pod wymogi rekomendacji W czy też nie podlegają. Dodatkowo ustawa powinna obligować organy wydające przepisy, o których mowa do ich aktualizacji z uwzględnieniem przepisów rozporządzenia. Uwaga ogólna PIKE 1. Centralizacja wdrożenia AI 22 Najistotniejszym zarzutem wobec projektu ustawy AI jest brak faktycznej centralizacji regulacji w zakresie AI oraz wyznaczenia jednoznacznie odpowiedzialnych osób za jej wdrożenie. Na czele organu nadzoru rynku w zakresie systemów sztucznej inteligencji powinna stać wyłącznie jedna, konkretnie wskazana osoba, podobnie jak w przypadku Urzędu Komunikacji Elektronicznej czy Urzędu Ochrony Danych Osobowych. W żadnym wypadku nie powinien być to organ kolegialny (Komisja) składający się z aż 12 członków o różnych podejściach do gospodarki – jak w UOKiK, RPO czy RPDz. Taka struktura organu kolegialnego skutkowałaby wewnętrznymi sporami, brakiem spójnej polityki regulacyjnej oraz niejednolitym orzecznictwem. Zjawiska te znacząco ograniczą wdrażanie sztucznej inteligencji w Polsce, a ponadto utrudnią realizację postanowień unijnego rozporządzenia 2024/1689. Należy zwrócić uwagę, że projekt ustawy AI, ze względu na kolegialny skład proponowanego organu, już wykazuje sprzeczności w zakresie decyzyjnym. Dotyczy to przede wszystkim interpretacji wydawanych przez dwa różne podmioty (Komisję i jej Przewodniczącego), co docelowo prowadzi do niezgodności tych stanowisk. Izba stanowczo podkreśla, że utworzenie jednoosobowego organu regulacyjnego jest kluczowe dla skuteczności jego działań. Inne instytucje powinny pełnić wyłącznie rolę doradczą, przy czym ich skład powinien mieć charakter ekspercki - naukowy i gospodarczy – nie zaś „społeczny”. 2. Charakter organu nadzorującego Opracowanie i wdrożenie sztucznej inteligencji w Polsce powinno być domeną naukowców - informatyków oraz przedstawicieli przemysłu. Tymczasem obecny kształt projektu ustawy AI całkowicie ich pomija przy podziale stanowisk i zadań. Jest to sytuacja, na którą nie można się zgodzić, gdyż spowoduje istotne opóźnienia Polski w dziedzinie rozwoju oraz stosowania sztucznej inteligencji. W opinii Izby, projektowana ustawa AI wymaga odrzucenia i opracowania w całkowicie nowej formie. PIKE z niepokojem zauważa, że skład Komisji ma charakter silnie społeczny, a nie naukowy czy gospodarczy. To wskazuje, że działania Komisji będą się koncentrować na priorytetach bezpośrednio niepowiązanych z innowacyjnością czy gospodarką. Taka struktura (nawet bardziej niż kolegialność) będzie miała negatywny wpływ na wdrożenie AI w Polsce. W przypadku nieuwzględnienia naszego postulatu o ustanowienie jednoosobowego organu nadzorującego, rekomendujemy całkowitą zmianę składu Komisji. Powinni w niej zasiadać przede wszystkim osoby ze środowisk naukowych, związanych z informatyką oraz przedstawiciele przemysłu, zwłaszcza branży ICT. Zaskakującym pozostaje, że projekt ustawy AI nie przewiduje żadnej roli dla Państwowego Instytutu Badawczego NASK, który powinien odgrywać kluczową rolę w rozwoju sztucznej inteligencji. Podkreślamy, że tylko proponowany przez Izbę skład organu zapewni, iż jego priorytetem pozostanie rozwój gospodarczy i realizacja założeń Strategii Cyfryzacji Państwa. W przypadku odrzucenia naszych postulatów dotyczących zmiany składu Komisji oraz Rady, wyrażamy obawę, że ucierpi na tym konkurencyjność polskiej gospodarki względem państw 23 bardziej przychylnych naukowcom i przedsiębiorcom, takich jak kraje Europy Zachodniej, USA czy Korea Południowa. W przypadku tak innowacyjnego produktu, jakim jest AI, stanowi to poważne zagrożenie, gdyż polscy naukowcy mogą zechcieć ją rozwijać w bardziej przyjaznych im środowiskach regulacyjnych. Z kolei polski przemysł będzie skłonny wdrażać rozwiązania AI opracowane w gospodarkach o bardziej prorozwojowej polityce, korzystając z zasad otwartego rynku UE. W konsekwencji sztuczna inteligencja (jako oprogramowanie stosowane m.in. w sieci Internet) może stać się w Polsce produktem zewnętrznym, co jeszcze bardziej pogłębi nasze cyfrowe zacofanie. 3. Procedury działania Projektowany kolegialny charakter głównego organu regulacyjnego AI oraz liczba instytucji „współpracujących” powoduje, że projekt ustawy przewiduje skomplikowane i mało efektywne procedury. W opinii Izby, działania organów ds. AI powinny zostać oparte na przepisach kodeksu postępowania administracyjnego, z całym jego orzecznictwem i doktryną. Ponadto, zasady współpracy między poszczególnymi organami powinny być precyzyjniej określone, zarówno w zakresie rozgraniczenia ich kompetencji, jak i wzajemnego wpływu wydawanych decyzji, rekomendacji oraz zaleceń. W obecnym kształcie projekt ustawy AI wydaje się być zbiorem sugestii różnych instytucji aspirujących do udziału w procesie regulacyjnym, lecz bez jasno określonych relacji, zarówno w zakresie przyjętej linii decyzyjnej, jak też uzgodnień. Większość tych zastrzeżeń byłoby nieaktualnych, gdyby uwzględniono postulat Izby dotyczący centralizacji organu nadzorującego i jego jednoosobowego charakteru. Podsumowując, Izba kładzie nacisk na konieczność całkowitego przekształcenia projektu ustawy AI w odniesieniu do celów, którym powinna służyć sztuczna inteligencja oraz określenia podmiotów już zaangażowanych w jej rozwój i wdrożenie. W związku z powyższym, proponujemy zorganizowanie konferencji uzgodnieniowej z udziałem przedstawicieli nauki, środowiska informatycznego oraz biznesu, na której możliwe byłoby wspólne wypracowanie celów, którym ma służyć wdrożenie unijnego rozporządzenia 2024/1698 w Polsce, a także przekształcenie projektu ustawy AI z uwzględnieniem tych priorytetów. Uwaga ogólna Fundacja FinTech Poland W ramach rekomendacji o charakterze ogólnym zwracamy uwagą na potrzebę rozważenia rewizji projektu pod kątem zapewnienia konkurencyjności polskiego systemu prawnego w stosunku do regulacji dotyczących AI w innych państwach. W sytuacji braku polskich podmiotów odgrywających czołową rolę w kształtowaniu rozwiązań AI na poziomie globalnym (zarówno w środowisku akademickim, jak i wśród dostawców rozwiązań biznesowych), a także wyraźnych ambicji Polski w tym zakresie (np. Polityka Rozwoju AI w Polsce, plany funduszy na rzecz AI, dynamiczny rozwój ośrodków takich jak IDEAS NCBiR), kluczowe jest stworzenie przyjaznego otoczenia prawnego dla rozwoju tej technologii. Istotne w tym zakresie jest budowanie zachęt i sprzyjających warunków rozwoju dla AI (oczywiście w granicach wyznaczonych przez AI Act) oraz eliminacja nadmiernych barier dla inwestycji i indywidualnej kreatywności. Wykorzystanie 24 nadmiarowych narzędzi kontroli, takich jak np. wysokie kary finansowe czy długotrwała konfiskata sprzętu, może prowadzić do znacznego zahamowania rozwoju AI w Polsce, a tym samym obniżenia konkurencyjności polskiej gospodarki. Uwagi ogólne (piaskownice) HAERGI SP.ZOO Chciałbym zwrócić uwagę na kwestię piaskownic regulacyjnych w kontekście rozwoju startupów z sektora sztucznej inteligencji (AI). Mimo iż teoretycznie mają one stanowić bezpieczne środowisko testowe dla firm, w praktyce mogą one napotkać poważne ograniczenia, które utrudnią ich efektywne działanie. Piaskownice regulacyjne – szansa czy ograniczenie? Zgodnie z założeniami, piaskownice regulacyjne miałyby zapewnić firmom możliwość testowania innowacyjnych rozwiązań AI w bezpiecznych, kontrolowanych warunkach, bez ryzyka naruszenia przepisów. Jednak w praktyce startupy AI potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych – takich jak karty GPU czy usługi chmurowe – aby rozwijać swoje technologie. Obecnie na rynku obserwujemy niedobór tych zasobów, co stanowi poważne ograniczenie dla firm działających w tej branży. Problem infrastrukturalny Budowa i utrzymanie infrastruktury obliczeniowej na potrzeby piaskownic regulacyjnych wiąże się z ogromnymi kosztami. Państwo musiałoby ponieść znaczące wydatki, aby stworzyć zasoby, które choćby w części dorównują ofertom komercyjnych dostawców, takich jak Microsoft (Azure) czy Amazon (AWS). W związku z tym pojawia się pytanie, czy tego typu inwestycja jest opłacalna z punktu widzenia budżetu państwa i czy piaskownice rzeczywiście będą stanowiły wystarczającą zachętę dla startupów. Rządowa Chmura Obliczeniowa (RCO) Zgodnie z przepisami Rządowa Chmura Obliczeniowa (RCO) jest dostępna jedynie dla podmiotów administracji publicznej, co ogranicza możliwość korzystania z jej zasobów przez startupy z sektora prywatnego. To dodatkowo komplikuje sytuację firm AI, które potrzebują skalowalnych zasobów chmurowych. Alternatywne rozwiązania Zamiast koncentrować się na budowie piaskownic regulacyjnych, warto rozważyć inne formy wsparcia dla startupów AI, które mogą okazać się bardziej efektywne i mniej kosztowne: 1. Subwencje i granty – Państwo mogłoby udzielać firmom dotacji na korzystanie z zasobów komercyjnych platform obliczeniowych, takich jak AWS, Azure czy Google Cloud. Takie wsparcie umożliwiłoby startupom trenowanie modeli AI na najlepszych dostępnych narzędziach, jednocześnie minimalizując obciążenia budżetowe. 2. Partnerstwa z globalnymi dostawcami – Rząd mógłby nawiązać współpracę z technologicznymi gigantami, takimi jak Microsoft czy Amazon, aby oferować firmom zniżki na korzystanie z ich usług. Takie partnerstwa mogłyby zapewnić startupom dostępdo skalowalnych i zaawansowanych zasobów, bez konieczności budowy własnej 25 infrastruktury. 3. Akceleratory i wsparcie naukowe – Państwo mogłoby zainwestować w programy akceleracyjne, które łączyłyby wsparcie finansowe z mentoringiem w zakresie AI, jednocześnie pomagając firmom dostosować się do wymogów regulacyjnych. Współpraca z uczelniami oraz innymi podmiotami technologicznymi mogłaby znacząco przyspieszyć proces wdrażania innowacyjnych rozwiązań na rynek. Czy piaskownice są wystarczającym rozwiązaniem? W obecnym kształcie piaskownice regulacyjne mogą nie spełniać oczekiwań firm z sektora AI, które potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych i wsparcia merytorycznego. Startupy prawdopodobnie będą preferować korzystanie z usług globalnych dostawców chmurowych, które oferują niezawodność, skalowalność i dostęp do najnowszych technologii. Zamiast koncentrować się na kosztownej budowie piaskownic, lepszym rozwiązaniem byłoby wsparcie startupów w postaci subwencji, partnerstw z globalnymi firmami oraz programów akceleracyjnych. W ten sposób państwo mogłoby efektywnie wspierać innowacje, minimalizując jednocześnie obciążenia budżetowe. Uwaga ogólna Związek Cyfrowa Polska Niewystarczającą ochronę informacji i wrażliwych danych. Zarówno na etapie prowadzonych przez organ kontroli, jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa (w tym wrażliwych informacji oraz danych). Uwaga ogólna generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, c zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. 26 Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby 27 Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej 28 dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. 29 Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Z przyjemnością oferujemy nasze wsparcie i liczymy na dalszą współpracę z Ministerstwem Cyfryzacji. Uwaga ogólna Związek Cyfrowa Polska Procedury odwoławcze – kompetencje SOKiK. Od decyzji KRiBSI przysługuje przedsiębiorcy odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów („SOKiK”). Ustawodawca w związku z tym zrezygnował z zasady dwuinstancyjności i uregulował mechanizm odwoławczy przed SOKiK, na wzór procedur przed innymi organami regulacyjnymi, w szczególności UOKiK (art. 80 Projektu). Rozwiązanie to oceniamy pozytywnie, biorąc pod uwagę wcześniejsze nie najlepsze doświadczenie takich procedur dwuinstancyjnych, np. w zakresie przepisów o ochronie danych osobowych (gdy organ rozpatrując odwołania niezmiernie rzadko zmieniał bądź uchylał swoje wcześniejsze decyzje). Nie negując zatem samej zasadności jednoinstancyjnej procedury odwoławczej, zwracamy jedynie uwagę na kompetencję SOKiKu dla spraw o tak wysokim poziomie skomplikowania, złożoności i trudności materii nowych technologii i systemów AI. Uważamy, że należałoby poddać dalszej dyskusji przygotowanie i kompetencje sędziów orzekających w SOKiK do orzekania w sprawach na gruncie AI Act oraz krajowej ustawy. Poddajemy pod rozwagę wariant zmiany właściwości sądu dla spraw z zakresu AI z SOKiK na sądy właściwe ws. własności intelektualnej („Sąd IP”), w ramach których orzekający już sędziowie przeszli niezbędne szkolenia z zakresu IP, która to dziedzina jest częściowo związana z zagadnieniem AI, a tym samym Sądy IP mogą potencjalnie oferować wyższy poziom ekspertyzy na potrzeby rozpatrywania spraw z zakresu AI (alternatywnie, należałoby rozważyć zorganizowanie podobnego na wzór sędziów Sądów IP szkolenia przygotowującego do zagadnień AI dla sędziów SOKiK). Uwaga ogólna RELX 1. Preliminary Remarks In view of the business activities described above, RELX has a strong interest in the further development of the European Union's digital single market. We support the AI Regulation (EU 2024/1689) and would like to take the opportunity to participate in the exchange on the draft ‘Act on Artificial Intelligence Systems’ (projekt ustawy o systemach sztucznej inteligencji). In view of the creation of a ‘Commission for the Supervision of Artificial Intelligence Systems’ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji) in Poland, we would like to take this opportunity to highlight in our statement the points that are important to us regarding the way the Commission applies the law. 2. Uniform Legal Framework One of the major achievements of the AI Act is the creation of a uniform legal framework in the EU. The Regulation contributes to the proper functioning of the internal market and, by establishing uniform rules, creates a wide range of incentives that promote positive market development. This way, companies benefit from a stable environment, while consumers receive safer and more diverse products. 30 We therefore support a faithful application of the European AI Act to ensure consistency and avoid fragmented implementation that could hinder rather than support the European Digital Single Market Consistent Regulation and Market Supervision Consistent rules and practices ensure that transparency requirements are consistently enforced across the EU. This prevents regulatory gaps or inconsistencies that companies could exploit and ensures a level playing field in all member states. We support the important work of the AI market surveillance authorities, as they play a central role in the uniform enforcement of the AI Regulation. In this context, it is crucial that the authorities ensure that companies in all Member States follow the same high standards, thus creating a level playing field throughout the single market. This can only be achieved if the prerequisite of an EU- wide uniform interpretation of the AI Regulation is met. Therefore, a lot depends on how the future Polish market supervisory authority will issue general and individual interpretations pursuant to Art. 11 Sec. 1 No. 13 of the draft of the Artificial Intelligence Systems Act. Through their consistent actions, the supervisory authorities should create a stable and trustworthy environment for the development and use of AI throughout the EU. Therefore, we also support the work on uniform interpretations at the EU level. To this end, we are participating in the drafting of the EU Commission's General-Purpose AI (GPAI) Code of practice in order to promote a uniform EU-wide interpretation of the obligations set forth in Articles 53 and 55 of the AI Act for providers of general-purpose AI models. These obligations require GPAI model providers to make publicly available a summary about the training content (Article 53(1d)) and put in place policies to comply with Union law on copyright (Article 53(1c)). As the GPAI code of practice will outline these provisions in greater detail, it is essential to actively monitor developments to ensure consistent and uniform interpretation of these obligations by the supervisory authorities. Transparency RELX takes its responsibility as a downstream AI provider seriously. We are convinced that every link in the AI supply chain must contribute to the responsible development of AI. In doing so, it is important to us that our AI solutions are always in line with our Responsible AI Principles. Transparency plays a key role here: it ensures compliance with legal requirements and promotes ethical AI development. This is because LLMs can generate content that is illegal, harmful, misleading, offensive, or discriminatory and may affect the reputation, rights, or interests of individuals or groups. For example, researchers are concerned that their work will be misinterpreted and misused, or that it will not be properly attributed or contextualised. This risk is exacerbated by the lack of citation/quotation and links to the underlying sources that would prove the origin of the research findings. Transparency strengthens trust in AI products. It facilitates collaboration within the AI supply chain by creating a clear information base that drives innovation and enables responsible 31 further development. Furthermore, transparency helps to reduce liability risks and to avoid misuse or discriminatory results, paving the way for more sustainable and socially responsible AI use. Transparency and Copyright Transparency promotes the legitimacy of AI products by making the origin and nature of training data traceable. Compliance with copyright law is a particularly important aspect here, because trainingGPAI models involves copying content through text and data mining (TDM), which may be protected by EU copyright. Not only does the EU copyright law raise crucial questions of transparency, legality and accountability, but the AI Regulation also provides for transparency obligations. Accordingly, providers of general- purpose AI models (GPAI) must make publicly available a sufficiently detailed summary of the training content (Article 53(1d) of the AI Act) and take measures to comply with European copyright law (Article 53(1c) of the AI Act). The AI Act applies without prejudice to the DSM Directive 2019 and the Information Society Directive (InfoSoc) 2001, which together establish legal protection for copyright-protected works and exceptions to those rights. While the InfoSoc Directive establishes that owners have the exclusive right to non-temporary acts of reproduction, the DSM creates two exceptions for TDM. The first is for non-commercial research institutions with lawful access to reproduce works for the purposes of TDM. The second is an exception for commercial reproduction for TDM where there is lawful access, unless the rights holder explicitly reserves authorisation. These exceptions can only work effectively if rightsholders have a complete overview of the protected works reproduced for the purpose of training generative AI models. Such transparency facilitates tracking of the use of works and ensures that reproduction is lawful – whether through the valid use of an exception, under a licence or another commercial agreement. This, in turn, ensures that rightholders are adequately remunerated and that online copyright infringement is effectively combated. To make the transparency obligation meaningful and feasible, recital 107 of the AI Act further clarifies that the information in the sufficiently detailed summary should be ‘generally comprehensive’ to enable rightholders to ‘exercise and enforce their rights under Union law’ and thus implement the reservation of rights provided for in Article 4 of the DSM Directive. This would enable users of the generated results to have confidence in the accuracy and origin of the materials used to train the model. Transparency will thus facilitate tracking the use of copyrighted works and ensure that reproduction – for the purpose of training GPAI models, for example – is lawful. The responsible use of copyrighted content is crucial to protecting the rights of rights holders and minimising the risk of legal disputes. Transparency and Market Surveillance Authorities The enforcement of transparency obligations by market surveillance authorities plays a central role in this. These authorities ensure that companies fulfil their obligations and disclose the 32 required information. This not only builds trust in the market, but also prevents systematic violations that could distort competition. However, for the authorities to effectively enforce the AI Regulation, it will depend on the uniform application of the law within the EU to ensure consistent legal certainty across the Union. Tytuł ustawy Osoba fizyczna Tytuł ustawy - O systemach sztucznej inteligencji Treść ustawy skupia się na wykonywaniu nadzoru administracyjnego w obszarze wykorzystania systemów sztucznej inteligencji. Wskazanie ogólnego tytułu obejmującego szeroki zakres może prowadzić do nieporozumień i niejasności. Tytuł powinien być precyzyjniejszy i oddawać treść aktu prawnego. Dlatego należy w tytule określić główny przedmiot regulacji – nadzór. Proponowany tytuł: Ustawa o nadzorze nad systemami sztucznej inteligencji. Tytuł ustawy SKwP Jest: USTAWA z dnia ... 2024 r. o systemach sztucznej inteligencji Propozycja: Ustawa z dnia...2024 r. o Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uzasadnienie: Cała treść projektu dotyczy zasad funkcjonowania i zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tytuł ustawy ISSA Polska Z tytułu powinno wynikać, że ustawa stanowi doprecyzowanie oraz wdrożenie przepisów i zasad AI Act. Tymczasem tytuł projektu może powodować wrażenie, że ustawa stanowi regulację niezwiązaną z od AI Act. Tytuł ustawy Polskie Towarzystwo Informatyczne To nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM). Propozycja „o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz o innych mechanizmach nadzoru nad systemami sztucznej inteligencji” W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI” jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689 dostosowując ustawodawstwo Polski do wymogów jw. „Rozporządzenia” Tytuł ustawy Repropol Tytuł projektowanej ustawy, przy czym nie stanowi to najważniejszej kwestii, jest – w naszej ocenie – niewłaściwy. Jeśli stanowi on pierwszy z kilku zaplanowanych aktów wdrożeniowych, obecna propozycja stworzy w późniejszym okresie problemy z zatytułowaniem kolejnych ustaw wdrażających AIA. Ponadto, nie można stwierdzić, żeby sednem komentowanego Projektu były systemy sztucznej inteligencji. Jest nim raczej stworzenie administracyjno-technicznego aparatu służącego nadzorowaniu funkcjonowania systemów sztucznej inteligencji. Nie jest także jasne, 33 dlaczego tytuł wskazuje na „systemy”, a pomija „modele” sztucznej inteligencji, które na osi rozwoju systemów AI stanowią – w uproszczeniu – etap poprzedzający oddany do użytku system AI. Niezależnie od powyższego, Projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w AIA mowa o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, która na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie z akronimu „AI”, jako oznaczenie sztucznej inteligencji. Tytuł ustawy GRAI Zaproponowany tytuł projektowanej ustawy to ustawa o systemach sztucznej inteligencji. Zakres objęty tą ustawą skupia się jednak nie na systemach sztucznej inteligencji, ale ma na celu uregulowanie kwestii instytucjonalnych, proceduralnych i nadzorczych. Zgodnie z Zasadami Techniki Prawodawczej „przedmiot ustawy określa się możliwie najzwięźlej, jednakże w sposób adekwatnie informujący o jej treści”. Mając to na uwadze oraz faktyczny zakres przepisów projektu ustawy wątpliwości budzi zaproponowany tytuł. Zmiana tytułu ustawy na: „ustawa o nadzorze nad systemami sztucznej inteligencji” lub „ustawa o organizacji i sposobie sprawowania nadzoru nad rynkiem sztucznej inteligencji”. Tytuł ustawy Związek Banków Polskich Ustawa o systemach sztucznej inteligencji Ustawa o organizacji i sprawowaniu nadzoru nad systemami sztucznej inteligencji [lub] Ustawa o nadzorze nad systemami sztucznej inteligencji Tytuł ustawy powinien odzwierciedlać jej przedmiotowy zakres, którym jest określenie organizacji i sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji. Obecny tytuł może wprowadzać w błąd i sugerować, że jest to ustawa o znaczeniu materialnoprawnym, definiującym systemy sztucznej inteligencji, a tak nie jest. Tytuł ustawy Fundacja FinTech Poland Tytuł ustawy powinien być adekwatny do jej treści, ponieważ pełni funkcję informacyjną oraz umożliwia jasne rozumienie zakresu regulacji. Tytuł powinien odzwierciedlać istotę i cel regulacji, aby ułatwić identyfikację treści przez osoby zainteresowane oraz zapewnić przejrzystość procesu legislacyjnego. W przypadku projektu ustawy, która reguluje jedynie zasady prowadzenia nadzoru nad systemami AI, tytuł „ustawa o systemach sztucznej inteligencji” może wprowadzać w błąd, sugerując szerszy zakres regulacji obejmujący wszystkie aspekty funkcjonowania i wykorzystania AI, a nie tylko nadzór nad nimi. Dlatego tytuł powinien precyzyjnie odzwierciedlać tematykę 34 nadzoru, aby uniknąć nieporozumień i zapewnić zgodność między treścią a nazwą aktu prawnego. Zgodnie z powyższym proponujemy przyjęcie nowego tytułu ustawy: “ustawa o nadzorze nad systemami sztucznej inteligencji”. Rozdział 1 GRAI Wprowadzenie prawa do ochrony wizerunku przed tzw. deepfake w sposób szerszy niż na do tej pory na podstawie KC i dóbr osobistych. Rozszerzenie uwzględniałoby np. głos (co charakteru głosu są spory) w różnych okresach życia. Rozdział 1 GRAI Odrzucenie blankietowych wyłączeń dla państw ze względu na bezpieczeństwo narodowe i obronność. Rekomendujemy odrzucenie blankietowych wyłączeń dotyczących stosowania systemów AI ze względu na bezpieczeństwo narodowe i obronność. Systemy AI muszą być regulowane jednakowo w sektorze publicznym i prywatnym, bez wyjątków dla organów państwowych. Przepis ten zapewni, że wszystkie zastosowania systemów AI podlegają przejrzystym i odpowiedzialnym regulacjom, nawet w przypadku działań związanych z bezpieczeństwem narodowym. Zakaz stosowania systemów oceny ryzyka opartego na profilowaniu automatycznym Należy wprowadzić przepisy zakazujące używania systemów oceny ryzyka, które wykorzystują AI do profilowania osób na podstawie cech osobistych. Takie systemy są nieproporcjonalnie dyskryminacyjne, naruszają prawo do równości oraz zasadę domniemania niewinności. Zakaz używania systemów rozpoznawania emocji i biometrycznego kategoryzowania osób Technologie takie jak AI oparte na rozpoznawaniu emocji (np. tzw. \"detektory kłamstw\") oraz analizy behawioralne są niewiarygodne naukowo i mogą wzmacniać uprzedzenia raso we oraz automatyzować procesy podejrzewania określonych grup społecznych. Należy zabronić ich stosowania przez służby, również w kontekście migracyjnym, aby zapobiec wzmacnianiu dyskryminacyjnych praktyk. Rozdział 1 GRAI Wprowadzenie zasad reklamowania systemów sztucznej inteligencji w tym przeciwdziałania wprowadzaniu konsumenta w błąd (np. co do pewności wyników, złożoności, zaawansowania technologicznego). • Definicja systemów AI jest dość pojemna. Oznaczenie AI samo w sobie ma coraz większą wartość marketingową. Sprzyja to wprowadzaniu konsumentów w błąd co do rzeczywistych właściwości technologii (sugeruje jej zaawansowanie technologiczne i nieomylność). Art. 1 Polskie Towarzystwo Informatyczne 1.Powinno być podkreślone zagadnienie z Rozporządzenia które wyczerpuje odpowiedzialność za „LLM” oraz pozwoli na określenie brzegowych zagadnień dopuszczenia do użytkowania samo przytoczenie aktu 2024/1689 i pozostałych nie wnosi nic do „Ustawy” „o systemach sztucznej inteligencji” Propozycja „określenie ramowych wytycznych dotyczących wprowadzania i użytkowania systemów „sztucznej inteligencji” i tu poniżej w podpunktach (79); (61); Art. 12 Należy zapewnić, aby odpowiedzialność za wprowadzenie do obrotu lub oddanie do użytku systemu AI wysokiego ryzyka ponosiła konkretna osoba fizyczna lub prawna określona jako 35 dostawca, niezależnie od tego, czy ta osoba fizyczna lub prawna jest osobą, która zaprojektowała lub rozwinęła system. (61) ... W szczególności, aby wyeliminować potencjalne ryzyko stronniczości, błędów i efektu czarnej skrzynki, jako systemy wysokiego ryzyka należy zakwalifikować systemy AI .. Artykuł 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej „rejestrami zdarzeń”) w całym cyklu życia danego systemu. Na podstawie określenia ram i zasad można dopiero określać sprawowanie nadzoru oraz wymogów dotyczących naruszeń brak takowych w „Ustawie” (nie przytoczono ). ww. zapisy dotyczyć powinny nie tylko tzw. ”AI wysokiego ryzyka” ale każdego modelu. 2. Projekt zakłada określenie”rodzajów działań wspierających rozwój systemów sztucznej inteligencji”, jednak w samym projekcie mowa wyłącznie o interpretacjach generalnych oraz indywidualnych. Należy rozważyć rozszerzenie tych środków i wyraźne ich wyodrębnienie w stosownym rozdziale. Prosimy o dopisanie odpowiednich przepisów doprecyzowujących ten główny punkt zakresu przedmiotowego. Art. 1 GRAI Brak uregulowania w projekcie ustawy tematu piaskownic regulacyjnych, co budzi poważne wątpliwości, co do realizacji przez Polskę art. 57 ust. 1 rozporządzenia 2024/1689. Uzupełnienie przepisów projektu ustawy. Jeśli ta kwestia ma być uregulowana w przepisach innego aktu prawnego (np. Niemcy pracują nad ustawą dotyczącą piaskownic regulacyjnych) należy zawrzeć odpowiednie odwołanie lub uzupełnić uzasadnienie o kwestię odstąpienia od uregulowania piaskownic regulacyjnych na tym etapie prac legislacyjnych. art. 1 pkt 1 GRAI W przepisie tym wskazano systemy sztucznej inteligencji i modele sztucznej inteligencji, przy czym w dalszej części ustawy posługujemy się sformułowaniem systemy sztucznej inteligencji. W art. 3 brak również definicji modeli sztucznej inteligencji. Wskazane jest ujednolicenie. Proponowane rozwiązanie: usunięcie z art. 1 pkt. 1 sformułowania: „modelami sztucznej inteligencji ogólnego przeznaczenia”. art.1 pkt 6 GRAI W art. 1 projektu ustawy wskazano jej zakres- i tak ustawa określa: kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar a dopiero na końcu, w art. 1 pkt 6 projektu ustawy wskazuje się, że ustawa określa „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”. Jednak, poza tym lakonicznym sformułowaniem, w przepisach brak jest uregulowań w tym 36 zakresie. Ustawa w pierwszej kolejności powinna określać „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”, a w drugim kroku kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar. Uzupełnienie przepisów projektu ustawy o wskazanie rzeczywistych działań wspierających rozwój systemów sztucznej inteligencji w Polsce. art.1 pkt 6 SFP-ZAPA Zgodnie z art. 1 pkt 6) Projektu, ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. Jednym z takich działań jest niewątpliwie ochrona praw autorskich. Ludzka kreatywność oraz utwory z różnych dziedzin działalności artystycznej są bowiem materiałem, dzięki któremu możliwe było powstanie, a następnie możliwy jest dalszy intensywny rozwój sztucznej inteligencji. Jak wynika z Projektu (art. 7 ust. 3 pkt 5 Projektu) zagadnienia leżące w gestii ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego są postrzegane jako zagadnienia wchodzące w zakres i cel przedmiotowej regulacji. Przedstawiciel ministra właściwego do spraw kultury i dziedzictwa narodowego może bowiem uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”), która jest nowo tworzonym organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Niestety, przedstawiciel Ministra Kultury i Dziedzictwa Narodowego nie został wyposażony w prawo głosu podczas obrad Komisji, co naszym zdaniem powinno ulec zmianie. Pomimo włączenia ministra właściwego do spraw kultury i dziedzictwa narodowego w prace Komisji, Projekt nie reguluje w żaden sposób kwestii związanych z korzystaniem z praw autorskich na potrzeby sztucznej inteligencji. W szczególności brak jest jakichkolwiek rozwiązań odnoszących się do ochrony tych praw zgodnie ze standardami europejskimi oraz krajowymi. Na konieczność zapewnienia takiego poziomu ochrony zwraca zaś uwagę rozporządzenie 2024/1689. Jak wiadomo, szybki rozwój sztucznej inteligencji wpływa na prawa twórców, producentów i wydawców. Wpływ ten jest w niektórych aspektach negatywny, na co wskazuje unijny ustawodawca w motywie 105 aktu o AI. Chodzi w szczególności o nieuregulowane wykorzystywanie utworów chronionych prawem autorskim na potrzeby tworzenia, rozwijania, w tym trenowania i zasilania systemów sztucznej inteligencji, w trakcie których dochodzi do masowego naruszania tych praw. Stosowna regulacja jest zatem niezbędna. Art. 1 pkt 6 Fundacja FinTech Poland Choć w art. 1 ustawa deklaruje, że jej celem jest określenie rodzajów działań wspierających rozwój systemów sztucznej inteligencji, to poza tym wstępnym postanowieniem, treść ustawy nie zawiera szczegółowych regulacji ani przepisów dotyczących takich działań. Brak konkretnych rozwiązań i postanowień odnoszących się do wsparcia rozwoju AI powoduje, że zapowiedź ta staje się jedynie deklaratywna, a nie merytoryczna. Taki stan rzeczy może prowadzić do nieporozumień 37 interpretacyjnych oraz osłabienia zaufania do legislacji, gdyż ustawa zdaje się obiecywać więcej niż faktycznie dostarcza. Aby zapewnić spójność i przejrzystość, konieczne byłoby albo uzupełnienie treści o konkretne przepisy dotyczące wsparcia rozwoju systemów AI, albo odpowiednia modyfikacja zakresu art. 1, by odzwierciedlał rzeczywisty zakres regulacji zawartych w ustawie. Art. 2 pkt 6 Związek Pracodawców Technologii Cyfrowych Lewiatan Usunięcie w projekcie ustawy zadań związanych z rozwojem sztucznej inteligencji Wydaje się, że zapis określający zakres przedmiotowy ustawy (art. 1 punkt 6), a także dalsze wspieranie konkurencyjności (nie wymienione w w/w art., ale pojawiające się w art. 12 ust. 2 przy opisaniu zadań Komisji) to niepotrzebne wymieszanie dwóch zupełnie różnych od siebie zadań. Co więcej, jeśli to Komisja będzie decydowała o rozwoju sztucznej inteligencji w Polsce to może być znaczącym ograniczeniem dla działań innych organów administracji. Ponieważ można wnioskować, że to Komisja, a nie inne organy administracji będzie miała ostatnie słowo w jaki sposób kierować rozwojem systemów sztucznej inteligencji. Będąc jednocześnie regulatorem bardzo skutecznie stłumi wszelką inicjatywę. Umieszczenie zatem takiego zadania wydaje się być niewłaściwe. Warto także zaznaczyć, że kwestie rozwoju są poruszane w ustawie w sposób zdawkowy, w odróżnieniu od kwestii regulacyjnych. Propozycja: wykreślić wszelkie zapisy dotyczące rozwoju sztucznej inteligencji z treści ustawy. art. 2 ust. 1 CHAMBER brakuje słowa “do” (uwaga redakcyjna) art. 2 ust. 1 SFP-ZAPA Zgodnie z projektem, ustawa ma zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem, choć rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, które w naszym przekonaniu wymagają rozwinięcia i doprecyzowania w prawie krajowym, Projekt nie przewiduje żadnych rozwiązań w tym zakresie. Dzieje się to ze szkodą dla wskazanych wyżej podmiotów, których przedmiotowa regulacja ma dotyczyć. Nic nie stoi natomiast na przeszkodzie, aby kwestie te uregulować. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Akt o AI jedynie w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Tymczasem architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw, często nadużywając wyjątku przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”). W naszym przekonaniu brak zapewnienia ochrony praw autorskich w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele aktu o AI w 38 postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy do czynienia każdego dnia Art. 2. 1. PWPW Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. 2. O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia 1) brakuje zwrotu „do” lub „wobec” 2) konstrukcja art. 2 wydaje się wadliwa. Ust. 1 wskazuje na zakres podmiotowy, tj. dostawca, producent itp., a ust. 2 mówi o systemach (czyli przedmiotowo). W ust. 2 powinno się wskazać bądź na dostawców modeli AI ogólnego przeznaczenia, bądź na dostawców i użytkowników. Alternatywna propozycja to pozostawić art. 2 w zakresie podmiotowym a odrębny artykuł poświęcić modelom AI ogólnego przeznaczenia. Należy też wskazać które przepisy stosuje się ww. zakresie. Wskazanie w ustawie „o ile przepisy AI act nie stanowią” – jest zbyt ogólne i nie spełnia wymagań precyzyjności przepisu prawnego. Określenie zasad podlegania pod ustawę w zakresie modeli ogólnego przeznaczenia ma szczególne znaczenie dla użytkowników, tj. firm korzystających z modeli ogólnego przeznaczenia. Normy prawne w ww. zakresie powinny być precyzyjnie określone w projekcie ustawy. Art. 2 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W pierwszej kolejności postulujemy dodanie przyimka „do” w treści ustępu pierwszego: Art. 2. 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W dalszej kolejności podnosimy, iż zgodnie z art. 2 ust. 1 Projektu ustawy, ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Podnosimy, iż art. 2 ust. 1 w pkt g) Rozporządzenia 2024/1689 stanowi, że Rozporządzenie 2024/1689 stosuje się również do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". W tym zakresie powstaje wątpliwość czy zakres podmiotowy ukształtowany w art. 2 ust. 1 Projektu ustawy odpowiada celowi ustawy, który określony został w art. 1 Projektu ustawy. Jak czytamy bowiem w uzasadnieniu projektu ustawy, „Celem projektowanej ustawy jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi”. 39 W związku z powyższym zdaje się, iż celem ustawy nie jest objęcie nadzorem osób, na które AI ma wpływ. Art. 2 ust. 1 e-Izba Projektowany przepis wskazuje, że ustawa znajdzie zastosowanie do wszystkich podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W art. 2 ust. 1 pkt g tego aktu prawnego wskazane są „osoby, na które AI ma wpływ i które znajdują się w Unii”. Regulacja ta odnosi się w dużej mierze do osób fizycznych, które nie koniecznie same korzystają z systemów sztucznej inteligencji, lecz ich działanie w jakiś sposób na nie wpływa. Treść Projektu wskazuje z kolei, że reguluje on zagadnienia adresowane do podmiotów stosujących systemy sztucznej inteligencji. W związku z tym rekomendujemy rozważenie zmiany zawężającej zakres odesłania przewidzianego w art. 2 ust. 1 Projektu. Art. 2 ust. 1 AI Chambre W art. 2 ust. 1 - brakuje słowa “do” (uwaga redakcyjna) Art. 2 ust. 1 Fundacja FinTech Poland W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". Rekomendujemy wyjaśnienie czy projektodawca ma na myśli obywateli czy celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowania AI. Art. 2 ust. 1 Osoba fizyczna jk Brak \"do\" 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Art. 2 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 2 ust. 2 Projektu ustawy, o ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Patrząc na zakres definicji określony w art. 3 Projektu ustawy, w którym pojęcia definiowane są poprzez odesłanie do Rozporządzenia 2024/1689, rekomendujemy uwzględnienie w Projekcie ustawy również definicji „modelu AI ogólnego przeznaczenia” (motyw 97 Rozporządzenia 2024/1689). Chyba, że celem Projektodawcy jest, aby odnosić się do „systemów AI ogólnego przeznaczenia”, które oparte są o te modele AI ogólnego przeznaczenia, zgodnie z definicją zawartą w art. 3 pkt 66 Rozporządzenia 2024/1689. Art. 2 ust. 2 Fundacja FinTech Poland Sugerujemy wprowadzenie reguł kolizyjnych w ustawie. Rozporządzenie UE zobowiązuje do uregulowania przez Państwa członkowskie pewnych obszarów. Nie rozstrzyga natomiast kolizji między przepisami polskiej ustawy (ani żadnej innej ustawy krajowej). To Polski ustawodawca powinien wprowadzić reguły kolizyjne i określić które reguły stosuje się do systemów AI ogólnego przeznaczenia. art. 2 GRAI Należy uniknąć transgranicznego wymiaru ustawy. Przedsiębiorcy zagraniczni mający siedzibę w UE, będą podlegać własnym, lokalnym regulacjom (np. nadzorowi własnym organom) i nie powinny równolegle podlegać regulacjom polskim. Ponadto, zastosowanie polskiej ustawy do tych 40 podmiotów będzie zapewne wątpliwe i może prowadzić do sytuacji spornych. Wątpliwe byłoby podejmowanie przez polski organ działań wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania. Jeżeli jednak taki przedsiębiorca nie ma zarejestrowanej w Polsce spółki, nie ma uzasadnienia, aby to był organ polski. Zawężenie zastosowania ustawy do podmiotów mających siedzibę na terytorium Rzeczypospolitej Polskiej. Art. 2 Związek Cyfrowa Polska Zakres podmiotowy. Projekt ustawy bazuje na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole/postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie zatem rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Art. 2 i 4 Repropol Olbrzymie wątpliwości budzi sposób uregulowania zakresu stosowania UoSSI. Projekt w tym zakresie nawiązuje do artykułu 2 AIA, ale przenosi na grunt polskiej ustawy jedynie wybrane zakresy stosowania (zob. art. 2 i 4 UoSSI), przy czym nie jest jasny klucz doboru wybranych wyłączeń. Jeśli ustawodawca zdecydował się już na dookreślenie zakresu stosowania UoSSI, z oczywistych przyczyn powinien on pokrywać się dokładnie z brzmieniem rozporządzenia AIA, które w swoim art. 2 wprowadza bardzo heterogeniczny katalog. Prócz relatywnie jasnego brzmienia art. 2 ust. 1 AIA, kolejne ustępy zawierają również istotne doprecyzowania zakresu stosowania. Tymczasem w Projekcie zawarto jedynie wybrane ograniczenia. Dla przykładu brak jest wyłączenia regulacji wobec osób fizycznych, które „korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej” (art. 2 ust. 10 AIA). 41 Mając to na uwadze, należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo dokonać tego kompletnie, czyli z uwzględnieniem jego całej zawartości normatywnej. Odrębną uwagę trzeba poświęcić błędnemu wyłączeniu zawartemu w art. 4 pkt 3 UoSSI. Przepis ten stanowi, iż UoSSI, „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 roku - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 roku - Kodeks karny (...)”. Należy założyć, że w zamyśle projektodawcy postanowienie to ma wdrażać artykuł 2 ustęp 6 AIA, wedle którego AIA „nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Sfomułowanie zawarte w Projekcie nie wdraża jednak wspomnianego przepisu AIA. Wyłączenie to ma fundamentalne znaczenie dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Należy podkreślić, że już samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest niezrozumiałe. To przecież nie same badania naukowe, lecz modele oraz systemy AI rozwinięte i oddane do użytku w celach prowadzenia badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Także odesłanie do definicji „podstawowych badań naukowych” jest błędne, i to już w swojej referencji do art. 4 ust. 2 pkt 2 Prawa o szkolnictwie wyższym (podczas gdy „podstawowe badania naukowe” znajdują się w pkt. 1 wskazanej jednostki redakcyjnej). To odesłanie jest wadliwe również in meritum, albowiem jako „badania podstawowe” rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” wprost koliduje z tą częścią art. 2 ust. 6 AIA, która expressis verbis wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie należy zauważyć, iż bardzo ważne jest wyeksponowanie w wyłączeniu ograniczenia do tych systemów lub modeli AI, które powstały wyłącznie w celu prowadzenia badań naukowych i rozwojowych. Obawiamy się, iż wyłączenie zaproponowane w Projekcie może być w przyszłości przedmiotem nadużyć, bowiem zaprogramowane dla celów naukowych – a zatem nie 42 objęte AIA – algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. W naszym przekonaniu, nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. Art. 3 Osoba fizyczna Problem definicji legalnych w treści aktów normatywnych od lat budzi kontrowersje doktrynalne oraz wynikające z praktyki stosowania prawa, zarówno na poziomie adresatów przepisów, jak i praktyki orzeczniczej. Dodatkowym wyzwaniem jest kwestia definicji legalnych przyjmowanych w aktach unijnych. W doktrynie wyraźnie się podkreśla, że definicje legalne przyjęte w rozporządzeniach, czyli aktach normatywnych obowiązujących w polskim porządku prawnym wprost, bezpośrednio, nie podlegają transpozycji. Wprowadzenie przepisów odsyłających do przepisów rozporządzenia UE2024/1689 budzi duże wątpliwości interpretacyjne i praktyczne. Zastosowanie zabiegu odesłania do treści aktu unijnego jest niepotrzebne, a wręcz błędne. Wykorzystanie podstawowych modeli wykładni prawa pozwala na pełne odkodowanie treści normy prawnej, także w zakresie objętym definicją znajdującą się w innym akcie normatywnym, zwłaszcza w akcie normatywnym wyższego rzędu. Dlatego proponuję całkowicie usunąć art. 3 w proponowanym brzmieniu. Art. 3 PIIT Wykreślenie definicji zawartych w ASI, którego przepisy są bezpośrednio stosowane w polskim porządku prawnym. Zasadniczo nie ma przesłanek do powtarzania w krajowych przepisach definicji z, bezpośrednio stosowanych w krajowym porządku prawnym, przepisów unijnych rozporządzeń. Art. 3 Polskie Towarzystwo Informatyczne Definicje Wszystkie przytoczone enumeratywnie określenia odnoszone są w całości do definicji w rozporządzeniu PEiR UE 2024/1689. Zatem wystarczyłby zapis, iż określenia w ustawie zdefiniowane są w rozporządzeniu. Propozycja: Określenia użyte w ustawie zdefiniowane zostały w art. 3 rozporządzenia 2024/1689. Przytoczone w ustawie określenia nie są w rzeczywistości definicjami tych określeń, lecz odsyłaczami do rozporządzenia 2024/1689.; Zajmują niepotrzebnie miejsce w ustawie. Art. 3 AI Chambre W art. 3 trudno doszukać się logiki we wpisaniu jedynie części z niezwykle długiej listy definicji zawartych w Akcie o SI. Zastosowana tu technika odesłania do Aktu nie spełnia swojej roli, bowiem osoba czytająca ustawę musi i tak korzystać z Aktu. Proponujemy albo zrezygnować z definicji, jeśli są tożsame z Aktem i odesłać ogólnie do wszystkich tam zawartych definicji, albo przepisać definicje wprost do ustawy. Art. 3 Związek Banków Polskich Forma przepisu wprowadzająca listę odesłań do AI Act jest nieczytelna. Proponujemy generalne odesłanie – wszystkie pojęcia niezdefiniowane odrębnie w ustawie przyjmują znaczenie z art. 3 AI Act. 43 Art. 3 ust. 13 PIIT Wykreślenie ust. 13 (działanie zbędne, o ile zostaną wykreślone wszystkie unijne definicje). Termin “organ właściwy” jest pojęciem prawa unijnego. Wynika z charakteru prawa negocjowanego dla odmiennych systemów prawa. Siłą rzeczy akty prawa UE nie mogą się posługiwać nazewniczą systematyką któregokolwiek z krajowych systemów. Natomiast w polskiej ustawie doprecyzowujemy zarówno organ notyfikujący jak i organ/y nadzoru rynku. Nie posługujemy się pojęciem “organu właściwego”. Zachodzą tu podobne okoliczności jak w przypadku braku potrzeby definiowania organu ścigania (pkt 45 art. 3 ASI). art. 3 pkt 15 SKwP To nie jest najlepsze tłumaczenie oryginalnego tekstu. Czy nie można znaleźć odpowiedniego słowa polskiego? „55) piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym;”. A może tak: „Ramy rozwoju, walidacji, testowania AI w warunkach rzeczywistych uzgodnione z Komisją ...”. Art. 3 pkt 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 3 pkt 15 Projektu ustawy przez piaskownicę regulacyjną należy rozumieć piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 Rozporządzenia 2024/1689. Zgodnie z uzasadnieniem Projektu ustawy „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W rzeczywistości Projekt ustawy do piaskownic regulacyjnych się nie odnosi. W związku z powyższym prosimy o wyjaśnienie, czy to oznacza, że piaskownic regulacyjnych do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Art. 3 pkt 15 Obywatelski Akcelerator Innowacji Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 Instytut Spraw Obywatelskich Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 PWPW piaskownica regulacyjna piaskownica regulacyjna w zakresie AI w rozumieniu art. 3 pkt 55 44 rozporządzenia 2024/1689; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r. Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 3 pkt 15 Fundacja FinTech Poland Zgodnie z uzasadnieniem projektu: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W związku z tym pojawia się wątpliwość czy do tego czasu pojawi się piaskownica regulacyjna w Polsce, bo jeśli mają się pojawić wcześniej to w jaki sposób będą uregulowane. Zgodnie z art. 11 pkt 11 \"podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji pojawia się wątpliwość w jaki sposób zadanie to będzie realizowane. Art. 3 pkt 17 Instytut Spraw Obywatelskich Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 3 pkt 17 Obywatelski Akcelerator Innowacji Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 4 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W związku z brzmieniem art. 4 Projektu ustawy powstaje wątpliwość, czy wskazane w tym przepisie obszary nie będą nadzorowane przez jakikolwiek organ nadzoru? Zwracamy uwagę, że zakres zastosowania Rozporządzenia 2024/1689 nie dotyczy „badań naukowych i rozwojowych\" (art. 2 ust. 6 Rozporządzenia 2024/1689) ani „działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 Rozporządzenia 2024/1689) w ogólności. Nie ma w Rozporządzeniu 2024/1689 ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. W konsekwencji, postulujemy zmianę treści art. 4 pkt 3 Projektu ustawy na następującą: „3) badań naukowych.” 45 Art. 4 PWPW Należy dodać, w ślad za AI act-em (art. 2 ust. 8) sformułowanie „działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. To ma istotne znaczenie – gdyż wskazane w art. 4 pkt 3 wyłączenie dla działań badawczych podstawowych i eksperymentalnych jest węższe niż 2. Działalność tego rodzaju prowadzona jest zgodnie z mającym tu zastosowanie prawem europejskim. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.” prowadzenie badań ogółem. Art. 4 pkt 3 mówi o badaniach podstawowych (co jest wąskimi rodzajem badań) a AI act mówi „o żadnych badaniach”). Jest to kluczowe w kontekście rozwoju programów B+R i testowania produktów. Firmy muszą ww. zakresie mieć pewność, że do czasu zakończenia wdrażania B+R nie podlegają obowiązkom wskazanym w ustawie. Art. 4 ICC Poland Artykuł 4 Projektu przewiduje wyłączenie zastosowania nowej ustawy do spraw związanych z obroną narodową, spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego oraz podstawowych badań naukowych, jak również dla celów naukowych w związku z eksperymentem (pojęcia te dookreślone zostały przez odesłania do odpowiednich ustaw). Zakres tego wyłączenia, ze względu na sposób jego ujęcia, może budzić jednak wątpliwości co do zgodności z rozporządzeniem 2024/1689, a także otwierać drogę do nadużyć w tym zakresie. Po pierwsze, samo rozporządzenie 2024/1689 istotnie przewiduje wyłączenie jego zastosowania do: i) systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 2 rozporządzenia 2024/1689); ii) systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 3 rozporządzenia 2024/1689); iii) systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689); iv) działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku (art. 2 ust. 8 rozporządzenia 2024/1689) [podkreślenia własne]. 46 Wyłączenia te determinowane są jednak przede wszystkim celem wprowadzenia do obrotu, oddania do użytku lub wykorzystywania systemu AI (natomiast w przypadku art. 2 ust. 8 rozporządzenia 2024/1689 dotyczy specyficznej działalności badawczej, testowej i rozwojowej, ograniczonej przedmiotowo). Tymczasem zakres wyłączeń zaproponowany w art. 4 Projektu odnosi się ogólnie do pojęcia „sprawy” lub „podstawowych badań naukowych”, co może sugerować, że projektowana ustawa w ogóle nie znajdzie zastosowania do systemów sztucznej inteligencji w tych obszarach (np. z uwagi na podmiot wykorzystujący system), niezależnie od celu ich wprowadzenia do obrotu, oddania do użytku lub wykorzystania. Z jednej strony może to sugerować, że zakres wyłączenia zastosowania ustawy jest w istocie szerszy niż zakres wyłączenia zastosowania rozporządzenia 2024/1689 (co mogłoby w praktyce rodzić trudności w egzekwowaniu przepisów tego ostatniego), a z drugiej strony może skłaniać w szerszym zakresie do powoływania się na te wyłączenia w celu uniknięcia nadzoru nad stosowanymi systemami sztucznej inteligencji. Po drugie, wątpliwości budzi wyłączenie zastosowania nowej ustawy do „celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz.U. z 2024 r. poz. 17 i 1228)” (art. 4 pkt 3 Projektu). Niezależnie od pewnej niejasności ujęcia tego wyjątku [nie wiadomo bowiem, jakich konkretnie sytuacji ma on dotyczyć, skoro „ustawy nie stosuje się (...) dla celów naukowych (...)”], należy zwrócić uwagę, że eksperyment na gruncie przepisów Kodeksu karnego jest definiowany bardzo szeroko. Otwiera to więc pole do prób powoływania się na ten wyjątek wyłącznie w celu uniknięcia nadzoru nad systemami sztucznej inteligencji. Powyższe uwagi powinny skłonić do ponownej rewizji ujęcia art. 4 Projektu, a także rozważenia, czy przepis ten – przynajmniej w takim kształcie – jest istotnie potrzebny. Przepisy rozporządzenia 2024/1689, w tym jego art. 2 określający jego zakres zastosowania, są bowiem stosowane bezpośrednio, co oznacza, że nie wymagają dla swojego zastosowania wdrożenia do krajowego porządku prawnego. Skoro natomiast na podstawie art. 2 rozporządzenia 2024/1689 wskazane tam systemy sztucznej inteligencji nie podlegają pod samo rozporządzenie 2024/1689 (wyłączenia), to nie będą również podlegać nadzorowi przewidzianemu w Projekcie, który stanowi wszak pochodną zakresu zastosowania rozporządzenia 2024/1689. Projekt nie jest zresztą w tym zakresie konsekwentny, pomijając w art. 4 inne przypadki wyłączeń przewidziane w art. 2 rozporządzenia 2024/1689, jak np. osoby fizyczne, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10 rozporządzenia 2024/1689). Art. 4 Związek Banków Polskich 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 Projektu nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 47 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. Art. 4 Fundacja FinTech Poland Zgodnie z treścią AI Act zakres zastosowania nie dotyczy \"badań naukowych i rozwojowych\" (art. 2 ust. 6 AI Act) ani \"działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 AI Act) w ogólności. Nie ma w rozporządzeniu ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. Uprzejma prośba o wyjaśnienie intencji projektowanego przepisu. Postulowane brzmienie przepisu Art. 4 pkt 3): Art. 4. Ustawy nie stosuje się do: (...) 3) badań naukowych. Art. 4 Fundacja Panoptykon Wyłączenia dla AI w obszarze bezpieczeństwa wewnętrznego i porządku konstytucyjnego Zgodnie z art. 4 projektu ustawy, nie stosuje się jej do spraw związanych m.in. z obroną narodową oraz spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego. Jest to odzwierciedlenie art. 2 ust. 3 rozporządzenia, zgodnie z którym rozporządzenia nie stosuje się do obszarów systemów AI wykorzystywanych do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego. Zdecydowanie popieramy próbę doprecyzowania i jednoznacznego ograniczenia znaczenia pojęcia bezpieczeństwo narodowe, a tym samym – jasne określenie, zastosowanie w jakich celach systemów AI podlega regulacji. Jest to znacząco lepszy model, niż przyjęty m.in. w ustawach implementujących do polskiego porządku prawnego unijne zasady ochrony danych osobowych5, które w sposób podmiotowy wyłączyły spod zakresu obowiązywania tych zasad służby specjalne. Nie sposób przyjąć, że wszystkie zadania realizowane przez służby specjalne mieszczą się w kategorii bezpieczeństwa narodowego. Przykładem takiej sytuacji jest m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt 2 lit. e ustawy o ABW). Zdajemy sobie sprawę, że ostateczna treść wyłączenia spod zakresu ustawy zawarta w art. 4 będzie jeszcze przedmiotem dyskusji. Jednak zwracamy uwagę, że – bez względu na jego ostateczne brzmienie – wyłączone spod zakresu działania ustawy wykorzystywanie sztucznej inteligencji przez służby specjalne, w tym systemów zdalnej biometrycznej identyfikacji, pozostanie nieuregulowane. Zarówno Konstytucja RP jak i Karta Praw Podstawowych oraz 48 Europejska Konwencja Praw Człowieka zobowiązują państwa do zapewnienia, że ingerencja w prawo do prywatności –również za pośrednictwem systemów sztucznej inteligencji – ma miejsce wyłącznie w przypadkach niezbędnych w demokratycznym państwie prawa. Biorąc pod uwagę brak efektywnego nadzoru nad służbami w Polsce, co potwierdził Europejski Trybunał Praw Człowieka, brak jasnych zasad wykorzystywania systemów sztucznej inteligencji na poziomie ustawy rodzi pole do nadużyć i naruszeń praw człowieka. Dodatkowo, brak podstawowych reguł rozwijania i wdrażania systemów AI analogicznych do tych zawartych w rozporządzeniu oznacza, że nic nie stoi na przeszkodzie temu, aby służby rozwijały i nabywały systemy sztucznej inteligencji, które nie zostały poddane podstawowym testom jeśli chodzi o ich dokładność, cyberbezpieczeństwo, wolność od błędów czy stronniczości prowadzącej do dyskryminacji. Warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem Rada UE, w tym polski rząd, poparła blankietowe wyłączenie obszaru bezpieczeństwa narodowego z zakresu rozporządzenia (art. 2 ust. 3), opierając się na argumencie, że kwestie bezpieczeństwa narodowego należą do kompetencji państw członkowskich i powinny być uregulowane na poziomie krajowym. Choć mamy zastrzeżenia do adekwatności tej argumentacji w świetle orzecznictwa Trybunału Sprawiedliwości UE7, oczekujemy, że rząd faktycznie skorzysta ze swoich kompetencji w zakresie bezpieczeństwa narodowego i podejmie inicjatywę legislacyjną mającą na celu stworzenie kompleksowych zasad kontroli nad działaniami służb, w tym wykorzystaniem przez nie sztucznej inteligencji. art. 4 pkt 3 PIRP proponuje się rozszerzyć zakres wyłączenia także na prace rozwojowe w rozumieniu art. 4 ust. 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.); taka zmiana byłaby uzasadniona w świetle art. 2 ust. 6 rozporządzenia 2024/1689 art. 4 pkt 3 Sano w projektowanej ustawie w art. 4 pkt 3 wskazano: „Ustawy nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Pragniemy uprzejmie zauważyć, iż podstawowe badania naukowe zostały wskazane w art. 4 ust. 2 pkt 1 ustawy - Prawo o szkolnictwie wyższym, a nie jak wskazano w projekcie w pkt 2. Ponadto w ocenie Sano zasadnym byłoby możliwie jak najszersze zastosowanie wyłączenia stosowania przepisów, które limitowałyby możliwość prowadzenia badań naukowych, przy jednoczesnym niestosowaniu określonych postanowień ustawy ale bez całościowego wyłączenia badań z zakresu regulacji. Sano jako uczestnik grupowych podmiotów jak choćby Koalicja AI w Zdrowiu wskazało na inne możliwości poszerzenia przepisów ustawy – choćby poprzez mocniejsze unormowanie możliwości wykorzystania sandboxes w ramach polskich przepisów mających implementować rozporządzenie unijne. W takim przypadku również w obszarze badań naukowych 49 wtedy możliwe było skorzystanie z narzędzia jakim są sandboxes również przez podmioty prowadzące badania. art. 4 pkt 3 GRAI W przypadku AI znaczna część badań naukowych jest prowadzona również przez inne instytucje- nie wymienione w ustawie o szkolnictwie wyższym. Wydaje się, że jest to niespójność w rozumieniu wyjątku dla jednostek badawczych – bo w ustawie są wpisane instytucje z nazwy i lista jest ograniczona do uczelni, podczas gdy na zachodzie wyjątek ten rozszerza się na jednostki badawcze nie jako oddzielne instytucje, które mogą istnieć też w sektorze prywatnym. Proponujemy zamianę z instytucjonalnego rozumienia jednostki badawczej na rozumienie funkcjonalne (spełnienie określonych warunków (open research, publikacje, współpraca z podmiotami badawczymi itp.). W UE pojawia się też koncepcja certyfikowania jednostek zajmujących się rozwojem AI (coś na wzór ESOMAR dla firm badania opinii i marketingowych, które dzięki certyfikacji mają inne regulacje dot. Danych osobowych). To ma kolosalne znaczenie do rozwoju AI, budowania kompetencji w EU i w Polsce, i w konsekwencji niezależności i samowystarczalności (w razie globalnych konfliktów, tracimy dostęp), brak odpływu kadr i budowanie niezależnej pozycji, w tym kluczowym dla przemysłu obszarze. AI Akt dotyczy przypadków użycia, a nie przypadków badań nad AI i tworzenia technologii. Oczywiście przy zachowaniu wszystkich innych przepisów dotyczących transparentności badań, etyki badawczej i postępowania z danymi. Zarówno ośrodki uniwersyteckie, jak oddziały badawcze z sektora prywatnego tworzą wartość dla dobra wspólnego: wyniki badań nad AI, możliwościach jej rozwoju, jej ograniczeniach są publikowane i służą wszystkim. Projektowana ustawa o systemach AI powinna dotyczyć systemów w konkretnym przypadku ich użycia a nie w fazie badań czy przemysłowych czy R&D. Zmiana brzmienia przepisu art. 4 pkt 3 e-Izba Rekomendujemy wprowadzenie zmiany do projektowanego przepisu polegającej na zastąpieniu fragmentu „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym” sformułowaniem „badań naukowych, o których mowa w art. 4 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”. Rozdział 2 Osoba fizyczna W polskiej praktyce ustawodawczej dotyczącej organizacji nadzoru nad jakąś sferą życia społeczno-gospodarczego przyjęto dwa modele działalności organów nadzoru – organ kolegialny oraz monokratyczny. W przypadku organu monokratycznego organem administracji publicznej jest Prezes organu, którego obsługę zapewnia odpowiedni Urząd, którego jednocześnie jest zwierzchnikiem – zob. np. Urząd Ochrony Danych Osobowych. W przypadku organu kolegialnego, organem nadzorczym jest Komisja wraz z Przewodniczącym, posiadający poza kierowaniem komisją, dodatkowe kompetencje. Zarówno Przewodniczący Komisji, jak i Komisja jest obsługiwana przez Urząd. Takie rozwiązania przyjęto m.in. w ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym. 50 Przyjęte w projektowanej ustawie rozwiązanie w którym na pierwszym miejscu stawia się Biuro – aparat obsługujący organ administracji publicznej jest całkowitą zmianą perspektyw formalnej i organizacyjnej, podważającej niezależność organu odpowiedzialnego za nadzór nad SI. Należy przebudować cały rozdział 2 ustawy, wychodząc od określenia organu nadzoru oraz jego kompetencji, prawnych form działania, a dopiero później ewentualnie zdefiniować aparat obsługujący organ. Rozdział 2 Związek Banków Polskich Zgodnie z założeniami projektu, wszystkie działania KRIBSI, w tym decyzje administracyjne, mają być dokonywane kolegialnie. Proponujemy rozważenie powierzenia decyzji w najbardziej doraźnych sprawach (np. w zakresie decyzji mniejszej wagi lub decyzji o charakterze proceduralnym) Przewodniczącemu Komisji – dla przyspieszenia działania organu. Rozdział 2 Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Software Development Association Poland (SoDA) KOMISJA ROZWOJU I BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI Jednolity zakres jurysdykcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Zgodnie z art. 6 ust. 1 Projektu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Rozwiązanie polegające na powierzeniu kompetencji w ręce jednego, wyspecjalizowanego organu, przyjmując koncepcję nadzoru zintegrowanego, zamiast dzielić je pomiędzy istniejące już organy nadzorcze w zależności od zakresu działalności danego podmiotu, należy ocenić pozytywnie. Mając na uwadze, że w skład Komisji wejdą m.in. przedstawiciele Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej, Komisja będzie miała środki służące zapewnieniu spójnego podejścia w zakresie działalności podlegającej ocenie przez różne organy nadzoru z uwagi na ich specyfikę. Dodatkowo zapewnieniu tej spójności będzie służyć obowiązek współpracy Komisji z innymi organami nadzoru, o którym mowa w art. 6 ust. 3 Projektu. W naszej ocenie rozważyć należy, czy w skład Komisji, niezależnie od przedstawiciela ministra powołanego w celu koordynowania działalności służb specjalnych, nie należałoby powołać również przedstawiciela Szefa Agencji Bezpieczeństwa Wewnętrznego, jako podmiot prowadzący Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego na poziomie krajowym (CSIRT GOV). Wynagrodzenie członków Komisji 51 W naszej ocenie konieczne jest przyznanie wynagrodzenia za udział w pracach Komisji nie tylko przewodniczącemu Komisji oraz jego zastępcom, ale również pozostałym członkom. Zgodnie bowiem z projektowanym art. 7 ust. 7, za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu. Chociaż przepis ten nie precyzuje, że wynagrodzenie to przysługuje przewodniczącemu Komisji oraz jego zastępcom, takie podejście wynika z treści uzasadnienia do Projektu. W tym zakresie w naszej ocenie przepis powinien zostać doprecyzowany. Rozwiązanie, zgodnie z którym brak wynagrodzenia oraz zwrotu kosztów przejazdów i noclegów dotyczyć miałby członków Komisji, a nie jedynie podmiotów biorących udział pracach Komisji z głosem doradczym, należy ocenić negatywnie. Takie rozwiązanie może istotnie i negatywnie wpływać na sposób funkcjonowania Komisji, w szczególności prowadząc do mniejszego zaangażowania członków Komisji w jej prace, mniejszą liczbę spotkań Komisji i inicjatyw podejmowanych przez Komisję poza jej obowiązkami ustawowymi, w szczególności w zakresie inicjatyw informacyjno-edukacyjnych, a także na jakość samych prac, wytycznych czy poziom merytoryczności tego organu. Trudno bowiem oczekiwać, aby członkowie Komisji wykazywali się 100% zaangażowaniem w swoje obowiązki, jeżeli nie będą otrzymywać z tego tytułu adekwatnego wynagrodzenia, nie mówiąc już o kosztach udziału w spotkaniach Komisji. Trzeba również mieć na uwadze, że dla części członków Komisji tj. przedstawicieli podmiotów wskazanych w art. 7 ust. 2 Projektu, udział w pracach Komisji będzie dodatkowym obowiązkiem w stosunku do ich standardowych obowiązków pełnionych w organie, którego będą przedstawicielami w Komisji. Argument przedstawiony w uzasadnieniu do Projektu, że celem tego rozwiązania jest brak „generowania niepotrzebnych kosztów po stronie budżetu państwa” pozostaje wobec tego daleko nietrafiony, gdyż koszty te są wręcz niezbędne, aby Komisja mogła funkcjonować w sposób prawidłowy i aby zapewnić jej skuteczne i merytoryczne działanie, zgodnie z koncepcją nadzoru zintegrowanego tj. przy zaangażowaniu przedstawicieli pozostałych organów nadzoru i instytucji publicznych. Równocześnie zrozumiałym jest wprowadzenie zasady braku wynagrodzenia za udział w pracach Komisji dla podmiotów wskazanych w art. 7 ust. 3, 4 i 5 Projektu, jako że ich udział w pracach Komisji nie jest obligatoryjny i ma charakter jedynie doradczy. Jednak, aby zapewnić wysoki poziom merytoryczny w samej Komisji, a także nie zniechęcać wskazanych podmiotów do udziału w pracach Komisji, należy rozważyć, czy w przypadku takich podmiotów nie byłoby wskazane przyznanie na ich rzecz zwrotu kosztów przejazdu oraz noclegu w związku z udziałem w pracach Komisji z takim głosem doradczym. INTERPRETACJE INDYWIDUALNE 52 W naszej ocenie wprowadzenie do art. 13 Projektu mechanizmu interpretacji indywidualnych na wzór tych stosowanych w postępowaniu podatkowym jest rozwiązaniem, które może w istotny sposób przyczynić się do poprawy przejrzystości stosowania nowych przepisów, zwiększając pewność prawa w tym zakresie oraz istotnie ułatwiając przedsiębiorcom dostosowanie się do nowych wymogów regulacyjnych. W tym zakresie jednak w naszej ocenie konieczne są dalsze prace mające na celu zwiększenie efektywności tego rozwiązania. Ochrona wnioskodawców stosujących się do treści interpretacji W pierwszej kolejności należy zwrócić uwagę, że w ustawie brak jest jasnego wskazania, jakie konsekwencje dla podmiotu wnioskującego będzie miało zastosowanie się do interpretacji zgodnej z jego wnioskiem. Takie rozwiązanie zostało wprowadzone w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (t.j. Dz. U. z 2023 r. poz. 2383 z późn. zm.), zgodnie z którym zastosowanie się przez wnioskodawcę do treści wydanej interpretacji indywidualnej nie może mieć negatywnych skutków dla wnioskującego. Również w przypadku Projektu wskazane byłoby wprowadzenie takiego mechanizmu ochrony wnioskodawcy przed negatywnymi konsekwencjami w zakresie zmian w interpretacji przepisów dotyczących systemów sztucznej inteligencji. Jest to szczególnie istotne także z uwagi na fakt, że Akt o Sztucznej Inteligencji („Rozporządzenie”) jako akt prawa o randze Rozporządzenia UE, podlega bezpośredniemu stosowaniu, stąd też w zakresie jego bezpośredniej interpretacji może wypowiadać się Sąd unijny. W takim przypadku interpretacja Sądu odmienna od tej wyrażonej przez Przewodniczącego Komisji w interpretacji indywidualnej również nie powinna wywoływać negatywnych konsekwencji dla wnioskodawcy, który dostosował się do treści interpretacji indywidualnej. Termin odpowiedzi na wniosek oraz skutki jego przekroczenia przez organ Wskazanym byłoby wprowadzenie do Projektu maksymalnego terminu rozpatrzenia wniosku o wydanie interpretacji indywidualnej. Z uwagi na charakter obszaru działalności gospodarczej, którego dotyczy Projekt, w szczególności dynamicznych zmian technologicznych, termin ten powinien równocześnie mieć charakter terminu zawitego, a w konsekwencji brak jego dotrzymania powinien skutkować uznaniem interpretacji za zgodną z treścią wniosku. W przeciwnym bowiem razie przedsiębiorcy staną przed dylematem, czy narażać się na ewentualne negatywne konsekwencje braku wiążącej interpretacji przepisów w niejasnych stanach faktycznych, czy też wstrzymać pracę nad danym produktem, narażając w ten sposób niejednokrotnie efekt kilku lat pracy, w szczególności wobec rosnącej konkurencji, mając jednak jasne stanowisko Przewodniczącego Komisji co do zgodności z prawem zakładanych działań. Zapewnienie konkurencyjności polskich przedsiębiorstw, w szczególności z zakresu MŚP wymaga, aby wprowadzić tego rodzaju mechanizm automatycznego uznania interpretacji za pozytywną po upływie określonego terminu, przynajmniej w odniesieniu do wnioskodawców będących MŚP. 53 W przypadku interpretacji indywidualnych w sprawach podatkowych, mechanizm milczącego uwzględnienia wniosku o wydanie interpretacji indywidualnej został wprowadzony w art. 14o Ordynacji podatkowej. Ochrona tajemnicy przedsiębiorstwa W naszej ocenie rozwiązanie proponowane w art. 16 Projektu tj. publikowanie interpretacji w Biuletynie Informacji Publicznej („BIP”), po dokonaniu ich anonimizacji, jest rozwiązaniem pożądanym, w istotny sposób przyczyniającym się do poziomu przejrzystości stosowania przepisów Rozporządzenia oraz pozytywnie oddziałowującym na pewność prawa w Polsce w tym zakresie. Nasze obawy budzi jednak fakt, że specyfika tego rodzaju rozwiązań, w szczególności w zakresie innowacyjnych technologii opartych o systemy sztucznej inteligencji, może wymagać zapewnienia, że opis funkcjonowania konkretnego systemu bądź jego przeznaczenie będą odpowiednio zabezpieczone, w szczególności jako stanowiące tajemnicę przedsiębiorstwa danego podmiotu. Należy wskazać, że nacisk na ochronę poufności rozwiązań opartych o AI został położony już w samym Rozporządzeniu. Zgodnie z art. 78 Rozporządzenia, Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie tego Rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa. W naszej ocenie istnieje ryzyko, że brak możliwości zastrzeżenia tajemnicy przedsiębiorstwa dla celów późniejszej publikacji treści interpretacji indywidualnej w BIP w istotny sposób wpłynie na gotowość podmiotów gospodarczych do korzystania z tej instytucji. Warto zwrócić uwagę, że opis konkretnych rozwiązań planowanych do wdrożenia przez dany podmiot, przedstawiony w interpretacji, może niekiedy doprowadzić do ujawnienia danego podmiotu, nawet pomimo anonimizacji jego danych. Dotyczy to w szczególności podmiotów działających w niszowych obszarach rynku bądź też największych spółek technologicznych. Równocześnie ujawnienie konkretnego rozwiązania na wczesnym etapie prac może doprowadzić do „przejęcia” tego rozwiązania przez inne podmioty. Takie sytuacje są o tyle prawdopodobne, że z ekonomicznego punktu widzenia wniosek o interpretację należałoby złożyć na wczesnym etapie planowania prac projektowych, tak aby podjąć racjonalną decyzję o inwestycji w dane rozwiązanie, w szczególności mając świadomość tego, czy dany system zostanie zakwalifikowany przez organ nadzoru jako system wysokiego ryzyka. Występowanie o taką interpretację po fakcie tj. po ukończeniu procesu produkcyjnego wydaje się być bezcelowe. Z tych powodów w naszej ocenie podmiot składający wniosek o wydanie interpretacji indywidualnej powinien mieć możliwość zastrzeżenia we wniosku zakresu informacji, które objęte 54 są tajemnicą przedsiębiorstwa. Dzięki temu następcze opublikowanie treści interpretacji, bez informacji stanowiących tajemnicę przedsiębiorstwa, nie wpłynie w negatywny sposób na działalność tego podmiotu. Takie rozwiązanie może w negatywny sposób wpłynąć na użyteczność publikowanych interpretacji podatkowych dla innych podmiotów, jednak w naszej ocenie ochrona tajemnicy przedsiębiorstwa powinna mieć w tym zakresie priorytet. Decyzje Komisji Wstrzymanie wykonania decyzji Komisji po złożeniu odwołania do Sądu Zgodnie z art. 73 ust. 1 Projektu, administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Ponadto, zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Równocześnie jednak brak jest w Projekcie przepisu, który powodowałby powstanie tożsamych skutków w stosunku do innych elementów decyzji, w szczególności w zakresie zobowiązania do wycofania systemu AI z rynku. Tymczasem to właśnie środki zobowiązujące nakładane przez Komisję mogą okazać się dla dostawców i podmiotów stosujących systemy AI najbardziej dotkliwe, a w skrajnych przypadkach mogą prowadzić do całkowitej utraty możliwości dalszego prowadzenia działalności gospodarczej. Mając to na uwadze, zasadnym byłoby wprowadzenie rozwiązania, zgodnie z którym wniesienie odwołania do sądu wstrzymuje wykonanie decyzji Komisji w całości. Z uwagi na potrzebę zabezpieczenia interesów i bezpieczeństwa społecznego, rozstrzygnięcie w zakresie obowiązku wycofania systemu z obrotu mógłby podejmować sąd w ramach rozpoznania wstępnego sprawy objętej odwołaniem od decyzji. Rygor natychmiastowej wykonalności decyzji Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Przepis ten stanowi daleko idącą ingerencję w prawo strony do dwuinstancyjnego postępowania. Jest to tym bardziej istotne, że projektowany przepis posługuje się tylko jedną, bardzo nieostrą i uznaniową przesłanką w zakresie możliwości nadania decyzji rygoru natychmiastowej wykonalności. Warto zwrócić uwagę, że nawet w przypadku regulacji o charakterze ogólnym tj. w art. 108 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego ( Dz. U. z 2024 r. poz. 572) nadanie decyzji rygoru natychmiastowej wykonalności uzależnione jest od wystąpienia znacznie bardziej sprecyzowanych przesłanek tj. niezbędności dla ochrony zdrowia lub życia ludzkiego, niezbędności dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami lub ze 55 względu na inny ważny interes społeczny. Tymczasem treść art. 74 Projektu pozostawia bardzo daleko idącą dowolność Komisji w zakresie stosowania tego środka, którego skutki dla danego podmiotu, z uwagi na specyfikę branży (w szczególności długi czas produkcji i istotne nakłady finansowe na stworzenie systemu) mogą być niezwykle dotkliwe, a w przypadku podmiotów z sektora MŚP bądź podmiotów z obszarów wysoko wyspecjalizowanych, mogą doprowadzić do upadku danego przedsiębiorstwa, których to skutków nie będzie można odwrócić nawet w razie pozytywnego rozstrzygnięcia sądu odwoławczego. Z tych przyczyn w naszej ocenie z tego przepisu należy zrezygnować w całości, bądź też zawęzić zakres jego stosowania jedynie do sytuacji, w której nadanie rygoru natychmiastowej wykonalności decyzji jest niezbędne dla ochrony zdrowia lub życia ludzkiego. Rozdział 2 GRAI Rozważyć uwzględnienie w wymogach na członków komisji, żeby to byli nie tylko \"przedstawiciele instytucji kluczowych dla rozwoju sektora technologii sztucznej inteligencji\", ale żeby aktywnie prowadzili pracę i mieli osiągnięcia z zakresu tematów związanych ze sztuczną inteligencją. Rozważyć zdefiniowanie minimalnych wymagań. Pozwoliłoby to na zapewnienie odpowiedniego poziomu merytorycznego oraz wzmocniło postrzeganie samej komisji. Rozdział 2 GRAI Przejrzystość działań Komisji Komisja będzie prowadzić publiczną i przyjazną użytkowniczkom bazę danych dotyczącą wydanych decyzji Rozdział 2 GRAI Sugeruje wprowadzenie przepisów regulujących tryb i zasady wydawania zezwolenia (oraz kontroli sądu) na wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Rozdział 2 GRAI Sugeruje rozważyć udział w pracach Komisji Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka oraz Rzecznika Ubezpieczonych. Można rozważyć zobowiązanie RPO, RPD, RU do przedstawiania cyklicznych raportów o wpływie AI na obszary ich zainteresowań (np. Wpływ technologii na zdrowie dzieci i higienę cyfrową). Rozdział 2 GRAI Sugeruje uregulowanie zasad dostępu do przebiegu jawnych posiedzeń Komisji np. Poprzez odesłanie do ustawy o dostępie do informacji publicznej. art. 5 i kolejne w rozdziale Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z kolei regulacja art. 5, art. 6 oraz art. 8 projektu ustawy o Al świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 4 pkt. I oraz art. 6 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej Komisją. Pogląd ten znajduje pełne oparcie w regulacji art. 8 ust. 5 projektu ustawy o AI, wedle której Komisja w zakresie swojej właściwości podejmuje uchwały, w tym wydaje decyzje administracyjne i postanowienia. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 56 k.p.a. w zw. z art. 104 $ 1 k.p.a. w zw. z art. 104 $ 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 $ 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją(art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postepowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 5 ust. 2 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym przypadku państwowego, obsługującego organ administracji publicznej (art. 5 ust. 1 projektu ustawy o AN). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji(art. 5 ust. 4 pkt. 1 projektu ustawy o AT), które z racji zapewniania obsługi Komisji (art. 5 ust. 2 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 ust | projektu ustawy o AT), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem(art. 5 ust. 4 pkt. 2 projektu ustawy o AT). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. zart. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał _ cywilnoprawne i _ administracyjne _ kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja 57 rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AT) i kierujący pracą Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego Komisji (art. 5 ust. 2 projektu ustawy o AT) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż autor projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacjj w stosunkach cywilnoprawnych osób prawnych przez ich organów, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety autorowi projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W zakresie z kolei kompetencji administracyjnoprawnych duże wątpliwości wywołuje zróżnicowanie, a zarazem częściowe niedoprecyzowanie kompetencji Komisji, która działając jako organ Biura Komisji jest organem właściwym w sprawach nadzoru nad bliżej nieokreślonym rynkiem (art. 5 ust. 4 pkt. 1 projektu ustawy o AT), zaś na mocy art. 6 ust. 1 jest uznana za organ nadzoru rynku w zakresie systemów sztucznej inteligencji, co już samo w sobie jest rozwiązaniem nie budzącym większych wątpliwości. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej(art. 6 ust. 1 projektu ustawy o Al) za błędne uznać należy przyznanie Prezesowi Rady Ministrów będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 5 ust. 2 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 5 ust. 3 w zw. zart. 5 ust. 1 projektu ustawy o AT). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny 58 jest Prezes Rady Ministrów (art. 17 pkt. 3 k.p.a. w zw. zart. 18 pkt. 1 k.p.a.) i to nad Komisją, a nie jak błędnie przyjęto w art. 5 ust. 3 projektu ustawy o AI, nad Biurem Komisji, Prezes Rady Ministrów winien pełnić nadzór. O niechlujstwie projektodawcy świadczyć natomiast może zamieszczenie w art. 5 projektu ustawy o AI aż dwóch ustępów o numerze dwa. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę usuwając tym samym wiele nieprawidłowości należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego. poprawnego brzmienia art. 5 projektu ustawy o Al: „ l. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje Prezes Rady Ministrów. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6. Komisja posiada prawo używania pieczęci z godłem państwowym. ”. D/ Duże wątpliwości budzą także regulacje poświęcone składowi Komisji. Mając bowiem na uwadze, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji (art. 6 ust. 1 projektu ustawy o AI) oraz uwzględniając niezwykle istotną rolę i znaczenie zadań jakie jej poruczono (art. 11 ust. 1 projektu ustawy o AI) doprawdy trudno zrozumieć dlaczegóż to spośród wszystkich Członków Komisji jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni łącznie spełniać zakreślone projektem ustawy wymogi pod postacią: a/ posiadania obywatelstwa polskiego, b/korzystania z pełni praw publicznych, c/ posiadania co najmniej wykształcenia wyższego i tytułu zawodowego magistra, magistra inżyniera lub tytułu równorzędnego, d/ wyróżniania się wiedzą i posiadania znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, e/posiadania co najmniej trzyletniego stażu pracy na stanowiskach kierowniczych, f/posiadania statusu osoby nie karanej za umyślne przestępstwo lub umyślne przestępstwo skarbowe, g/ posiadania nieposzlakowanej opinii i dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 18 ust. 2 projektu ustawy o AI, art. 21 ust. 2 projektu ustawy o AI). Tutaj należałoby dodać jedną istotną uwagę zasądzającą się w tym, iż Przewodniczący Komisji oraz jego Zastępcy winni być osobami niekaranymi za popełnienie przestępstw umyślnych wskazanych w art. 18 ust. 2 pkt. 6 projektu ustawy o AI prawomocnymi wyrokami, tak jak to przyjęto w odniesieniu do członków Społecznej radu do Spraw sztucznej 59 Inteligencji w art. 28 ust. 4 pkt. 2 projektu ustawy o AI. Mając bowiem na uwadze, że Komisja w zakresie swojej właściwości podejmuje uchwały, w tym decyzje i postanowienia, zwykłą większością głosów (art. 8 ust. 5 w zw. z art. 8 ust. 6 projektu ustawy o Al), zaś skład Komisji jest dwunastoosobowy i obejmuje Przewodniczącego, dwóch jego Zastępców oraz dziewięciu Członków Komisji (art. 7 ust. 1 projektu ustawy o AT) nietrudno dojść do przekonania, że raptem trzech członków Komisji posiadających niezwykle istotne w realizacji zadań Komisji cechy opisane w art. 18 ust. 2 projektu ustawy o AI bez większego problemu może przegłosować pozostałych co najmniej siedmiu Członków Komisji, którzy tych ważkich dla pełnienia funkcji w Komisji cech nie posiadają, co może okazać się szczególnie istotne w przypadku decydowania w merytorycznych sprawach dotyczących sprawowania nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji (art. 6 ust. I projektu ustawy o Al) przez Członków Komisji nie wyróżniających się wiedzą i nie posiadających znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, nierzadko przesądzając 0 prawidłowości podjętej uchwały. Rozwiązanie lansowane przez projektodawcę, wedle którego jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni wyróżniać się wiedzą i posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, gdy tymczasem pozostali Członkowie Komisji tego rodzaju walorami legitymować już się nie muszą trudno by było pogodzić z regulacją art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przewidującą, iż „Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie.”. Wskazanie w art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przez prawodawcę wspólnotowego na bezwzględną potrzebę zapewnienia przez właściwe organy krajowe w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych wnioskując a minori ad maius tym bardziej odnosi się do podejmujących decyzje merytoryczne w sprawach nadzoru nad rzeczonym rynkiem Członków Komisji nie będących pracownikami Biura Komisji. Nie 60 można też wykluczyć sytuacji, w której grupa siedmiu przestępców skazanych za szpiegostwo lub przestępstwa przeciwko bezpieczeństwu systemów obronnych naszego kraju, a wskazanych przez organy władzy i administracji publicznej określone w art. 7 ust. 2 projektu ustawy o AI mogłaby bez większych problemów przegłosować uchwały dotyczące rynku w zakresie systemów sztucznej inteligencji, które wprost wystawiłyby nasze państwo na niebezpieczeństwo inwigilacji ze strony obcych służb, czy też na przeprowadzane przez nie akcje sabotażowe,, którym to służbom przed skazaniem rzeczeni przestępcy się wysługiwali ze szkodą dla naszego kraju. Przykład ten nie stanowi zwyczajnej abstrakcyjnej dywagacji, bo przecież wobec Członków Komisji wskazanych w trybie art. 7 ust. 2 projektu ustawy o AI przez właściwe organy nie stawia się wymogu spełnienia wymagań określonych w art. 18 ust. 2 ustawy o AI, wtymi wymogu niekaralności za umyślne przestępstwa, który to wymóg odniesiono jedynie do Przewodniczącego Komisji i jego Zastępców (art. 18 ust. 2 pkt. 6 projektu ustawy o AI, art. 18 ust. 2 pkt. 6 w zw. zart. 21 ust. 2 projektu ustawy o Al). Co więcej nie sposób racjonalnie wytłumaczyć motywów jakimi kierował się projektodawca, który o wiele wyższe wymagania stawia członkom Społecznej Rady do spraw Sztucznej Inteligencji pod postacią: posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka, nieskazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystania z pełni praw publicznych oraz wyrażenia pisemnej zgody na kandydowanie do Rady (art. 28 ust. 4 projektu ustawy o Al), której przypisano jedynie kompetencje opiniodawczo- doradcze wobec Komisji (art. 28 ust. 1 projektu ustawy o AT), niż Członkom Komisji nie będącym Przewodniczącym Komisji lub Zastępcą Przewodniczącego Komisji, którym jako Członkom Komisji będą przecież przysługiwały kompetencje do merytoryczne rozstrzygania spraw z zakresu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 6 ust. 1 w zw. z art. 8 ust. 5 projektu ustawy o AT). O ile można zgodzić się z przekonaniem wyrażonym na stronie 10 uzasadnienia projektu ustawy o AI, iż „„W celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych”, to za całkowicie błędne uznać należy pominięcie w składzie Komisji z głosem stanowiącym, a mie jedynie doradczym, przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców, którzy zajmując się w ramach swoich kompetencji sprawami przedsiębiorców oraz sprawami postępu technicznego nie są jednakże ich przedstawicielami. Tym bardziej musi dziwić pozbawienie w Komisji przedstawicielstwa z głosem stanowczym przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, skoro z jednej strony do składu Komisji delegowani są przedstawiciele Rzecznika Praw Dziecka, czy też Rzecznika Praw Obywatelskich albo Komisji Nadzoru Finansowego (art. 7 ust. 2 pkt. 7, pkt. 6, pkt. 5 projektu ustawy o AT), które to organy niewiele w zakresie swoich kompetencji będą miały wspólnego z rynkiem systemów sztucznej inteligencji, z drugiej zaś strony projektodawca na stronach 2-3 61 uzasadnienia projektu ustawy o AI w sposób jednoznaczny identyfikuje cele wiązane przez niego z wdrażaniem projektu ustawy o AI wskazując, że „ Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i Średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start. up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną Al.”. W tej zatem sytuacji pominięcie w składzie Komisji z głosem stanowiącym przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców świadczy 0 oczywistej wręcz niekonsekwencji projektodawcy wynikającej z rozbieżności projektu ustawy o AI oraz motywów, które legły u podstaw wdrażania tego rodzaju rozwiązań wyrażonych w uzasadnieniu tegoż projektu. Eliminowanie zaś ze składu Komisji przedstawicieli resortów gospodarczych (resort gospodarki, resort przemysłu), które to resorty będą projekty te realizowały, oraz resortu nauki i szkolnictwa wyższego, który winien przygotować podwaliny naukowe pod przygotowanie podstaw naukowo- badawczych do wdrożenia systemów sztucznej inteligencji, a także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, który „sźoi na straży praw mikroprzedsiębiorców oraz małych i średnich przedsiębiorców, w szczególności poszanowania zasady wolności działalności gospodarczej, pogłębiania zaufania przedsiębiorców do władzy publicznej, bezstronności i równego traktowania, zrównoważonego rozwoju oraz zasady uczciwej konkurencji i poszanowania dobrych obyczajów oraz słusznych interesów przedsiębiorców” [art. 1 ust. 1 ustawy z dnia 6.03.2018 r. o Rzeczniku Małych i Średnich Przedsiębiorców (tekst jedn. Dz. U. z 2023 r. poz. 1668), zwanej dalej ustawą o Rzeczniku MŚP], a którzy to mali przedsiębiorcy, Średni przedsiębiorcy oraz mikroprzedsiebiorcy mają być w zamierzeniu projektodawcy głównymi beneficjentami przedmiotowej inicjatywy ustawodawczej (strona_ 2-3 uzasadnienia projektu ustawy o AN), jest nie tylko niezrozumiałe, ale wręcz taką decyzję projektodawcy uznać należy za błędną, wręcz antyrynkową i sprzeczną zarazem z potrzebami rodzimej gospodarki. Celem wyeliminowania przedstawionych powyżej nieprawidłowości dotyczących składu Komisji Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje wprowadzenie do projektu ustawy o AI następujących zmian: a/ art. 7 ust. 1 projektu ustawy o AI otrzymuje nowe brzmienie „W skład Komisji wchodzą: Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz trzynastu Członków Komisji. Członkami Komisji w liczbie trzynastu, o których mowa w zdaniu poprzednim mogą być jedynie osoby spełniające wymagania określone w art. 18 ust. 2 ustawy.”, b/ w art. 7 ust. 2 in fine projektu ustawy o AI po pkt. 9 kropkę zastępuje się średnikiem, po którym dodaje się punkty o numerach od 10 — 13 w brzmieniu: „10) ministra właściwego do spraw gospodarki; 11) ministra właściwego do spraw przemysłu; 12)ministra właściwego do spraw nauki i szkolnictwa wyższego; 13) Rzecznika Małych i Średnich Przedsiębiorców.” 62 c/ w art. 7 ust. 3 projektu ustawy o AI skreśla się pkt. 6 i pkt. 13, d/ w art. 18 ust. 2 pkt. 6 otrzymuje nowe brzmienie „nie była karana prawomocnym wyrokiem za przestępstwo umyślne lub za umyślne przestępstwo skarbowe”. E/ Uchwały Społecznej Rady do spraw Sztucznej Inteligencji. Projektodawca w art. 30 ust. 3 projektu ustawy o AI przyjmuje, że Rada w sprawach określonych w art. I ust. I ustawy w zakresie innym niż przekazany przez Komisję może wyrazić opinię lub stanowisko z własnej inicjatywy w drodze uchwały podjętej większością głosów. Regulacją ta wywołuje dwie istne wątpliwości. Po pierwsze odesłanie do spraw określonych w art. I ust. 1 projektu ustawy o AI jest odesłaniem pustym, gdyż art. 1 projektu ustawy o AI dzieli się na punkty, a nie na ustępy. Należałoby zatem wyjaśnić, w których sprawach nie objętych przekazaniem przez Komisję do wyrażenia przez Radę opinii lub stanowiska spośród spraw wymienionych w art. 1 projektu ustawy o AI Rada może wyrazić z własnej inicjatywy własną opinię lub stanowisko, czy we wszystkich sprawach z art. 1 projektu ustawy o AI, czy też jedynie w sprawach określonych w art. 1 pkt. 1 projektu ustawy o AI. Druga z kolei wątpliwość zasadza się w tym, iż skoro w sprawach nie przekazanych Radzie przez Komisję do wyrażenia opinii lub stanowiska Rada podejmuje uchwały zwykłą większością głosów pełnego jej składu, to pojawia się pytanie jaką większością głosów i przy obecności jakiego quorum głosujących Rada w drodze uchwały wyraża opinie i stanowiska w zakresie spraw objętych przekazaniem Radzie przez Komisję do wyrażenia opinii lub stanowiska. Niestety stosownej regulacji w tym zakresie próżno szukać w projekcie ustawy o AI. F/ Projektodawca w art. 43 ust. 2 zd. 2 projektu ustawy o AI w uzasadnionych przypadkach dopuszcza przeprowadzanie czynności kontrolnych poza formą zdalną także przy użyciu przesyłek rejestrowanych lub kurierskich doręczanych w dodatku za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23.11.2012 r. — Prawo pocztowe. Jeżeli organ kontrolujący zainteresowany jest doręczaniem kontrolowanemu przesyłek za pośrednictwem operatora pocztowego jako przesyłek rejestrowanych lub kurierskich, to oczywiście takie rozwiązanie wątpliwości budzić nie może. Natomiast wniosek wynikający z przedmiotowej regulacji dotyczący samego kontrolowanego, z którego wynikałoby, że kontrolowany także doręczając pewne dokumenty, czy też próbki, materiały, towary etc. podmiotowi kontrolującemu musi korzystać jedynie z przesyłek rejestrowanych lub kurierskich, a nie może przykładowo wskazując osobiście ich zawieść do organu kontrolowanego i złożyć na dzienniku podawczym, choćby w tym celu by zaoszczędzić na kosztach wysyłki przesyłki kurierskiej lub rejestrowanej, brzmi zgoła absurdalnie, jest pozbawiony podstaw racjonalnego wnioskowania i w dodatku jest niemożliwy do pogodzenia z regulacją art. 8 zd. 1 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn .dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców, wedle której przedsiębiorca może podejmować wszelkie działania, z wyjątkiem tych, których zakazują przepisy prawa. Skoro zatem przepisy projektu ustawy o AI nie zakazują doręczania osobiście do lokalu podmiotu kontrolującego dokumentów, materiałów, przesyłek, próbek, towarów etc. z pominięciem przekazywania ich przez operatora pocztowego w formie przesyłek rejestrowanych lub kurierskich, przeto nic nie stoi na przeszkodzie, by 63 przedsiębiorca poddany procedurze kontrolnej osobiście na żądane przez kontrolującego materiały, dokumenty, próbki, towary etc. dostarczył osobiście do lokalu podmiotu przeprowadzającego kontrolę. art. 5 i kolejne w rozdziale GRAI Uwaga o charakterze ogólnym Przepisy projektu ustawy odnoszące się do nadzoru, zgłaszania poważnych incydentów, nakładania kar itd. są bardzo rozbudowane, natomiast przepisy dotyczące działań z zakresu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów sztucznej inteligencji – bardzo hasłowe, ogólne, znajdujące się jedynie w dwóch artykułach projektowanej ustawy. Konieczność rozbudowania przepisów dotyczących konkretnych propozycji rozwoju AI w Polsce - o konkretne propozycje działań, które pozwolą na rozwój AI w Polsce. Rolą Komisji powinno być uprawnienie do przedstawiania rządowi konkretnych propozycji działań i dbanie (wnioskowanie) o zabezpieczenie odpowiednich środków finansowych na ich realizację. Proponujemy wykorzystać to, co eksperci GRAI wypracowali w ramach prac Podsekcji: „Wsparcie dla biznesu” i które to propozycje znalazły się w projekcie dokumentu strategicznego „Polityka AI”, a w części także w propozycji do „Strategii Cyfryzacji” przekazanej do Ministerstwa Cyfryzacji”: WSPARCIE DLA BIZNESU: CEL GŁÓWNY: Rozwój polskiej gospodarki i zwiększenie konkurencyjności firm na rynku globalnym przez efektywne wsparcie małych, średnich i dużych przedsiębiorstw w Polsce w opracowywaniu, komercjalizacji i wdrażaniu innowacji, w tym adaptacji i wykorzystaniu technologii sztucznej inteligencji (AI). Kluczowe jest zapewnienie skutecznego i efektywnego ekonomicznie rozwoju, wdrażania i umiędzynarodowienia inteligentnych produktów i usług wykorzystujących możliwości AI oraz innych przełomowych technologii (np. internet rzeczy, zaawansowana mechatronika). CELE POŚREDNIE: CEL: Rozwój polskich firm, w tym startupów w obszarze rozwoju AI i wdrażania innowacji CEL: Stworzenie ekosystemu prawno-finansowo-techniczno-edukacyjnego przyjaznego przedsiębiorcom, w tym głównie startupom i MŚP do rozwoju AI i wdrażania innowacji w Polsce; CEL: Zapewnienie wykwalifikowanych zasobów kadrowych do efektywnego wdrażania AI przez firmy w Polsce CEL: Zwiększenie świadomości i wiedzy na temat AI wśród przedsiębiorców CEL: Ułatwienie dostępu do technologii AI dla firm różnej wielkości CEL: Stymulowanie innowacji i badań w dziedzinie AI 64 DZIAŁANIA, KTÓRE POZWOLĄ NA OSIĄGNIĘCIE CELÓW: LEGISLACJA: - dostosowanie polskich regulacji prawnych do AI Act (przepisy wdrażające AI Act, które będą pozbawione nadmiernych ograniczeń legislacyjnych i restrykcyjnych norm prawnych w zamian za stworzenie bezpiecznych i racjonalnych warunków otoczenia prawnego dla rozwoju AI w Polsce i dadzą szansę na konkurowanie polskich firm w tym obszarze z przedsiębiorcami na świecie; - skupienie mechanizmów centralnych instytucji nadzoru i mechanizmów dopuszczania rozwiązań (AI Act Conformance) na systemach wysokiego ryzyka i zabronionych (pozostałe obszary poddane powinny być istniejącemu systemowi nadzoru nad rynkiem, i uwzględniać branżowe kodeksy dobrych praktyk jako punkt odniesienia dla wykazania należytej staranności); - prawne regulacje obejmujące udogodnienia dla polskich firm w wykorzystaniu AI, w tym przede wszystkim dla startupów i MŚP. ZASOBY TECHNICZNE: Platforma Wsparcia Technologicznego: - darmowy marketplace narzędzi i oprogramowania w zakresie AI i rozwiązań komplementarnych dla MŚP; - darmowy dostęp do chmury obliczeniowej dla startupów i małych firm do testowania i rozwijania aplikacji AI – piaskownice rozwiązań; ułatwienie dostępu do danych: - udostępnienie firmom publicznych zbiorów danych do testowania i rozwijania algorytmów AI; - tworzenie wspólnych przestrzeni danych (data spaces) z danymi branżowymi dla firm; rozwój efektywnej ekonomicznie i przyjaznej dla środowiska infrastruktury obliczeniowej (polskie możliwości obliczeniowe) - tu ostateczne działania zaplanować w łączności z sekcją: „Piaskownice regulacyjne” w następującym zakresie tematycznym: - fabryki AI i dostęp do superkomputerów dla start-upów; - wdrożenie przez Polskę zaleceń EuroHPC - integracja z istniejącą infrastrukturą; - proces wnioskowania o dostęp do infrastruktury obliczeniowej dla start-upów; opracowanie efektywnego procesu; identyfikacja możliwości wsparcia dla start-upów; reguła transparentności z API, a nie tylko dokumentacji; rozdział odpowiedzialności w procesie wnioskowania; - Piaskownice Regulacyjne AI: AI Compute Hub i Wirtualny Instytut Badawczy (WiB); - mapowanie istniejących Piaskownic Regulacyjnych w UE i na świecie; - analiza i wybór branż i technologii do zaadresowani; - identyfikacja rynkowych ekspertów, liderów; - stworzenie koncepcji piaskownicy (sandboxa) dla sektora publicznego lub prywatnego, pod nadzorem WIB Office; 65 - formuła utworzenia Poliversum (edge) wraz z funduszami / grantami i PL GRID, szczegółowa analiza obecnej infrastruktury PL GRID, ocena potencjalnych usprawnień; FINANSE: ulgi podatkowe dla firm opracowujących i wdrażających innowacje, w tym te z obszaru AI; coroczne środki budżetowe na wsparcie rozwoju polskich firm w obszarze AI; niezwłoczne uruchomienie i sprawne działanie Funduszu AI; skuteczne pozyskiwanie środków zewnętrznych na rozwój polskich, innowacyjnych technologii z wykorzystaniem AI - np. z dostępnych programów pomocowych; szybkie granty i mikrofinansowanie: - uruchomienie programu małych grantów (np. do 50,000 PLN) na szybkie wdrożenie projektów AI w firmach; - programy mikrofinansowania dla startupów AI z uproszczonymi procedurami aplikacyjnymi; EDUKACJA: przygotowanie kadr do skutecznego wykorzystywania AI w Polsce: - programy edukacyjne na poziomie szkoły podstawowej i szkoły średniej (dzieci i młodzież szkolna), - nowe kierunki studiów dot. AI (młodzież, studenci), - wypracowanie we współpracy twórców AI, uczelni i regulatora AI zasad odpowiedzialnej inżynierii i certyfikacji z nią związanych dla systemów AI wysokiego ryzyka, na wzór przemysłu lotniczego i budownictwa. - kursy, szkolenia – dla osób, które chcą się przebranżowić i pracować w obszarze dot. AI (dorośli); programy szkolenia w zakresie odpowiedzialnego wdrażania i projektowania rozwiązań wykorzystujących AI: - repozytorium kursów stacjonarnych i kursów online z podstaw AI zwłaszcza dla małych przedsiębiorstw z niewielką świadomością dotyczącą praktyk rynkowych i małą adopcją rozwiązań AI; - propagowanie darmowych zasobów wiedzy dot. AI w postaci e-booków, webinarów, nagrań video; WSPARCIE MERYTORYCZNE/ WPARCIE EKSPERTÓW DLA PRZEDSIĘBIORCÓW ROZWIJAJĄCYCH AI: sieci mentorów i ekspertów: - tworzenie sieci mentorów i konsultantów AI, którzy mogą doradzać MŚP w kwestiach technologicznych i biznesowych; - organizowanie regularnych spotkań i sesji mentoringowych online; inkubatory i akceleratory AI: 66 - tworzenie programów inkubacyjnych i akceleracyjnych dedykowanych startupom AI; - zapewnienie wsparcia w postaci mentorów, finansowania początkowego oraz dostępu do technologii; wsparcie w certyfikacji i standaryzacji: - ogólnodostępne repozytorium regulacyjne, wraz z interpretacjami prawnymi i technologicznymi; - szerzenie tej świadomości poprzez serie warsztatów i seminariów; - wsparcie merytoryczne w procesach certyfikacji, pomoc prawna. PROMOCJA I INFORMACJA: zaplanowanie i realizacja działań informacyjno – promocyjnych dla startupów i MŚP z zakresu możliwości efektywnego rozwoju AI i innowacji w Polsce, w tym stworzonego dla tego rozwoju ekosystemu prawno-finansowo-techniczno-edukacyjnego; promocja polskich produktów i usług wykorzystujących AI w celu zwiększenia konkurencyjności firm; pilotażowe projekty AI: - zwinne Proof of Concept z możliwością skalowania dla kluczowych branż w kraju z zaangażowaniem firm polskich, które mają doświadczenie w budowaniu rozwiązań AI; - system nagradzania firm biorących udział w projektach PoC – dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; hackathony i konkursy innowacji: - wybór realnych przypadków biznesowych realizujących cel społeczny (użyteczny dla społeczeństwa) i organizacja konkursów wyłaniających najlepsze rozwiązania rozwiązujące problem za pomocą AI; - system nagradzania podobny jak w przypadku Proof of Concept - dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; kampanie Informacyjne i edukacyjne: - kampanie medialne promujące korzyści z zastosowania AI w biznesie; - informowanie o dostępnych programach wsparcia, grantach i szkoleniach. Propozycje bardziej szczegółowe– poniżej – w Dodatkowych uwagach. Art. 5 i nast. AI CHAMBER Jak wskazano już powyżej koncepcja przyjęcia rozwiązań instytucjonalnych wprost z ustawy o nadzorze finansowym ma zalety, ale analiza tych przepisów budzi wątpliwości nie tylko natury ogólnej, ale też co do poszczególnych przyjętych rozwiązań. Samo powołanie nowej, wyspecjalizowanej instytucji zasługuje na poparcie - żadna z istniejących nie posiada odpowiednich kompetencji i jest zorientowana na zupełnie inne cele. Wątpliwości może jednak budzić sama koncepcja organu kolegialnego, jego skład oraz forma prawna. 67 Art. 5 KIGEiT Art. 5 powinien zaczynać się treścią Art. 83 i Art. 84 ust.1 Przepisy Art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od 0. dlatego obecnie przepisy Art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w Art. 5 - jako przepis prawa materialnego Art. 5 PIIT Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1, Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych / zlikwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od podstaw. Dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji. wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Art. 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Nazwa Komisji (art. 5) Nazwa Komisji w obecnym brzmieniu dotyczy rozwoju i bezpieczeństwa sztucznej inteligencji. Ustawa zaś mówi o „systemach sztucznej inteligencji”. Proponujemy ujednolicić i wszędzie jednak stosować „systemy sztucznej inteligencji”. Art. 5 Osoba fizyczna jk Powinien zostać przeniesiony przed art. 31. Najpierw opis samej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej działalności, później jej Biura - nawet jeżeli Biuro jest przywoływane w artykułach 6-30 Art. 5 ust. 1 ISSA Polska Warto zmienić z “państwowej osoby prawnej” na “urząd/organ administracji rządowej/publicznej” - decyzje Komisji będą podlegać procedurze odwoławczej zgodnie z kpa. Art. 5 ust. 1 SKwP Zadaniem Biura Komisji jest zapewnienie obsługi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Może warto rozważyć, i Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji - nazwać inaczej, np. Urząd ds. AI. Wtedy należy budować strukturę wewnętrzną: Biuro, Komisję i Radę. Dalej w Biurze będzie dyrektor i pracownicy? Komisja ma przewodniczącego. 68 Art. 5 ust. 1. PWPW dot. Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Jakie jest uzasadnienie aby Biuro Komisji posiadało status państwowej osoby prawnej. Dla porównania np. UOKIK, PUODO nie posiadają takiego statusu. Z podmiotów publicznych UKNF jest tylko taką osobą prawną. Należy wskazać, że ww. okoliczność może mieć wpływ na zakres odpowiedzialności odszkodowawczej Skarbu Państwa za wadliwe działania Komisji i Biura względem podmiotów nadzorowanych. Art. 5 ust. 1. PIIT Komisja ...... jest państwową osobą prawną. Konsekwentnie należy dalej używać wyrazu “Komisja”, zamiast “Biuro Komisji” na oznaczenie tej państwowej osoby prawnej (agencji). Art. 5 ust. 1 GRAI Biuro Komisji W projekcie ustawy zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem, w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Art. 5 ust. 1 Osoba fizyczna Przyjęcie dla aparatu administracyjnego nazwy „Biuro” odbiega od praktyki legislacyjnej dotyczącej tworzenia nazw organów i urzędów administracji publicznej. Dlatego też należy wprowadzić termin Urząd ds. nadzoru nad sztuczną inteligencją, co będzie odpowiadało zarówno treści ustawy, jak i zadaniom Komisji. Art. 5 ust. 1 Fundacja FinTech Poland Przepis wzorowany jest na przepisie art. 3 ustawy o nadzorze nad rynkiem finansowym, przy czym Komisja jest organem kolegialnym z którego wybiera się przewodniczącego. Sugerujemy przeanalizować czy jest to wariant optymalny. Struktura rynku w przypadku sztucznej inteligencji różni się od rynku finansowego dość znacznie. Jak wynika z OSR już obecnie ze sztucznej inteligencji korzysta 330 tys. przedsiębiorców. Do rozważenia pozostaje czy nadzoru nad tak rozproszonym rynkiem nie powierzyć na wzór Hiszpanii Agencji lub tak jak w Austrii już istniejącemu organowi. Art. 5 ust. 1 i ust. 4 AI CHAMBER przyjęta konstrukcja prawna jest dość niejasna. Biuro KRiBSI jest to osobą prawną, a Przewodniczący organem, ale Biura. Dlaczego nie zdecydowano się na ustanowienie centralnego organu administracji państwowej, na kształt Prezesa UOKiK lub UKE? 69 Art. 5 ust. 2 Osoba fizyczna Głównym zadaniem nowego organu administracji publicznej jest nadzór nad systemami sztucznej inteligencji. Dlatego też prawidłowe jest nazwanie organu administracji publicznej, np. Komisja ds. nadzoru nad sztuczną inteligencji. Inną nazwą oddającą charakter i zadania organu moz0e być Komisja ds. bezpieczeństwa sztucznej inteligencji. Taka nazwa wskazuje w sposób jednoznaczny na główny cel funkcjonalny ustawy, a mianowicie zapewnienie bezpieczeństwa w związku ze stosowaniem sztucznej inteligencji przez społeczeństwo i rynek. Należy zwrócić uwagę, że nowy organ w swych kompetencjach, określonych w art. 11 projektu ustawy, nie ma rozwoju Sztucznej Inteligencji. Przyjęcie tego elementu w nazwie będzie budziło wątpliwości co do zadań i kompetencji Komisji oraz wprowadza w błąd destynatariuszy organu. Art. 5 ust. 1 i 2 oraz inne GRAI Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. Nazwa „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” – sugeruje zawężony zakres działania Komisji do rozwoju i bezpieczeństwa i może wywoływać uzasadnione wątpliwości do rzeczywistej roli, jaką ma pełnić. Szczególnie, że z projektowanych przepisów wiemy, że Komisja będzie działała w szerszym zakresie. Ponadto należy założyć, że jej kompetencje w czasie będą się rozwijały. Dodatkowo, należy zauważyć, że proponowana nazwa organu nadzoru „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” jest zbędnym opisem w nazwie oczekiwanych działań organu. Zwłaszcza, że zakres kompetencyjny będzie stopniowo rozszerzany, a nacisk w zakresie działalności również będzie odmienny w zależności od okresu i stanu prawnego. W przypadku zmiany nazwy organu zmianie ulegnie również nazwa Biura. Rekomendujemy zmianę nazwy organu na „Komisję do spraw Sztucznej Inteligencji”. Będzie to rozwiązanie podobne do stosowanego w innych krajach członkowskich UE, oraz uwzględniającą w przyszłości dalszy rozwój kompetencji organu. Konsekwencją tej zmiany będzie zmiana nazwy Biura Komisji. 70 Art. 5 ust. 2 GRAI Uwaga redakcyjna Oczywista omyłka pisarska – zastosowanie podwójnej numeracji ust. 2. Zmiana numeracji ustępów w art. 5 projektu ustawy. Art. 5 ust. 3 Osoba fizyczna Zgodnie z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689) właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. Przyjęcie rozwiązania, w ktorym organ nadzoru Komisja - jest organem Biura Komisji Rozwoju i Bezpieczeństwa SI, a samo Biuro pozostaje pod nadzorem Prezesa Rady Ministrów nie spełnia warunku niezależności i bezstronności, bowiem proponowana podległość pod organ polityczny stwarza ryzyko politycznej zależności i stronniczości. Ponadto w ust.3. nie wskazano charakteru i zakresu nadzoru sprawowanego przez Prezesa Rady Ministrów wobec Biura Komisji, jakie środki prawne może użyć i na jakich zasadach. Niedookreślenie tego aspektu budzi jeszcze większe wątpliwości co do bezstronności i niezalez0nosci organu nadzorczego nad SI. Art. 5 ust. 2,4,5 Osoba fizyczna W ust. 4. przyjęto, że Komisja jest organem Biura Komisji, co sugeruje, że Komisja jest częścią Biura Komisji, a nie osobną jednostką organizacyjną, której Biuro Komisji zapewnia obsługę. W ust. 2. jest napisane, że zadaniem Biura Komisji jest zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Natomiast w ust. 4. jest napisane, że Przewodniczący Komisji kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Jednak w ust. 5. jest napisane, że Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji, co sugeruje, że Przewodniczący Komisji nie jest najwyższym organem Biura Komisji, ale tylko jednym z pracowników. Wewnętrzna niespójność logiczna powoduje, że należy przeredagować cały artykuł, wskazując Komisje jako organ a Biuro/Urząd jako aparat obsługujący Komisję. Jednocześnie należy zapewnić Przewodniczącemu Komisji zwierzchność kompetencyjną, służbową, organizacyjną, i finansową nad Biurem/Urzędem. art. 5 ust. 4 AI CHAMBER należy sprecyzować o nadzór nad jakim rynkiem (“systemów sztucznej inteligencji”) lub (mając na uwadze treść art. 6 ust. 1) kreślić słowa “która jest właściwa w sprawach nadzoru nad rynkiem”. art. 5 ust. 4 KIGEiT Propozycja zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku art. 5 ust. 5 KIGEiT Rekomendacja: Podział na różne poziomy nadzoru w zależności od ryzyka: \"Komisja klasyfikuje systemy sztucznej inteligencji według poziomów ryzyka, przy czym systemy niskiego i średniego ryzyka nie podlegają pełnej procedurze zgodności ani kontrolom ex ante. 71 Systemy o wysokim ryzyku (np. w dziedzinie medycyny, transportu autonomicznego) podlegają bardziej rygorystycznym wymogom. Jednakże, firmy mogą skorzystać z uproszczonych procedur, jeśli udowodnią, że ich systemy są wystarczająco zabezpieczone przed potencjalnymi zagrożeniami.\" , Art. 5 ust.5 (Zadania Komisji) definiuje, że Komisja ma za zadanie przeciwdziałać zagrożeniom związanym z systemami AI, ale przepisy te można rozwinąć, uwzględniając podejście oparte na ryzyku. Dzięki propozycji podmioty rozwijające systemy, które nie charakteryzują się wysokim ryzykiem, nie byłyby narażone na nadmierne koszty związane z regulacjami, co mogłoby sprzyjać ich rozwojowi, podczas gdy ryzykowne technologie byłyby odpowiednio kontrolowane. art. 5 ust. 5 GRAI Projekt zakłada, że Przewodniczący Komisji i Zastępcy są pracownikami Biura Komisji. Mając jednak na uwadze treść art. 32 ust. 5 projektu ustawy osobą wykonującą obowiązki z zakresu prawa pracy względem pracowników Biura Komisji będzie Dyrektor Biura Komisji. W zakresie, w jakim te czynności miałby wykonywać względem Przewodniczącego lub Zastępców Przewodniczącego może to powodować uzasadniony konflikt kompetencyjny (zgodnie z projektem to Przewodniczący podlega Dyrektorowi). Art. 6 KIGEiT Rekomendacja: Harmonizacja regulacji: \"Komisja we współpracy z organami UE i międzynarodowymi organizacjami AI opracowuje wspólne standardy oceny zgodności systemów AI, tak aby firmy działające w Polsce mogły łatwo wejść na rynki międzynarodowe. Komisja będzie dążyć do zapewnienia, że przepisy krajowe nie nakładają na przedsiębiorców większych obciążeń regulacyjnych niż te wymagane przez standardy międzynarodowe.\" , Art. 6 (Współpraca z organami UE) określa współpracę Komisji z innymi organami w ramach Unii Europejskiej, ale warto rozwinąć ten zapis, by zapewnić, że przepisy w Polsce nie będą odbiegać od międzynarodowych standardów. Dzięki temu firmy polskie będą mogły swobodnie operować na rynkach globalnych, bez potrzeby dostosowywania się do różnych reżimów regulacyjnych. Art. 6 ust. 1. PIIT Wykreślenie ust. 1 art. 6, przeniesienie zadania do art. 11. , Zadanie w postaci nadzoru nad rynkiem powinno być w katalogu zadań w art. 11, nawet jeżeli jest traktowane jako podstawowe. Art. 6 ust. 1 Polskie Towarzystwo Informatyczne W zakresie kompetencji nadzorczych Komisji wymienione są systemy AI, jednak wynikiem ich działania mogą być także usługi świadczone przez te systemy. Zatem wskazane jest rozszerzenie zakresu kompetencji nadzorczych Komisji również w zakresie usług AI Propozycja Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji oraz usług opartych na AI. Zawężenie zakresu kompetencji Komisji może uniemożliwić jej nadzór w sytuacji, gdy na terenie kraju dostępne są usługi AI poprzez kanały elektroniczne a nie systemy. Art. 6 ust. 1 Krajowy Instytut Mediów Zasadność wyznaczenia organów nadzoru rynku spośród obecnie istniejących organów 72 1. Na podstawie art. 70 ust. 1 rozporządzenia 2024/1689 państwa członkowskie obowiązane są do wskazania organu lub organów nadzoru rynku dla systemów sztucznej inteligencji. Rozwiązaniem rekomendowanym przez projektodawcę w tej kwestii jest powołanie nowego organu nadzoru rynku, co jak wskazano w Ocenie Skutków Regulacji, pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących m.in. niezależności organu nadzoru. 2. W odpowiedzi na powyższą argumentację należy zaznaczyć, że w Polsce, wśród wymienionych przez projektodawcę instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, mających wchodzić w skład nowego organu nadzoru rynku, istnieją organy, których status jest w zasadzie niezależny, takie jak Krajowa Rada Radiofonii i Telewizji, formalnie niepodporządkowana innym organom państwowym, w szczególności zaś Radzie Ministrów. Uregulowanie konstytucyjnej pozycji KRRiT stanowi przeniesienie określonych zadań egzekutywy na rzecz podmiotu leżącego poza jej strukturą organizacyjną, przez co racją istnienia KRRiT jest wykonywanie powierzonych jej zadań w sposób niezależny od rządu. 3. W wyroku z 23.03.2006 r., K 4/06, OTK-A 2006, nr 3, poz. 32, Trybunał Konstytucyjny zaznaczył, że szczególna pozycja KRRiT, jako organu kontroli i ochrony prawa, łączącego w sobie funkcje zarządu i kontroli, którego kompetencje i sposób powoływania określa Konstytucja, pociąga za sobą pełną autonomiczność Krajowej Rady w stosunku do Rady Ministrów i jej Prezesa. Świadczy o tym treść art. 6 ust. 2 pkt 1 ustawy o radiofonii i telewizji, w myśl którego do zadań Krajowej Rady należy projektowanie, w porozumieniu z Prezesem Rady Ministrów, kierunków polityki państwa w dziedzinie radiofonii i telewizji. Przepis ten wskazuje na partnerski, równoprawny charakter stosunków między Krajową Radą a Prezesem Rady Ministrów. O niezależności KRRiT od Rady Ministrów świadczy także fakt, że przedstawia ona sprawozdanie ze swej działalności Sejmowi, Senatowi i Prezydentowi, natomiast Prezesa Rady Ministrów jedynie informuje o swoich dokonaniach. Ponadto, ze względu na szczególną pozycję Krajowej Rady, nie ma do niej zastosowania art. 146 Konstytucji RP ustanawiający kompetencje Rady Ministrów do kierowania i kontrolowania pracy wszystkich organów administracji rządowej. 4. Projektodawca argumentując na rzecz zasadności powołania nowego organu nadzoru rynku dla systemów sztucznej inteligencji uznał ponadto, że posunięcie to pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Odnośnie do organów kluczowych w zakresie nadzoru nad sektorem technologii cyfrowych należy zauważyć, że co prawda pod względem przedmiotowym zakres działania KRRiT obejmuje radiofonię i telewizję, a więc co do zasady wyłączone z niego zostały inne środki społecznego przekazu, również elektroniczne formy masowego komunikowania, jednakże pojęcia radiofonii i telewizji nie zostały w Konstytucji RP sprecyzowane, przez co nie jest wykluczone przyjęcie ich „dynamicznej” i ewolucyjnej wykładni w związku z rozwojem technologicznym w dziedzinie środków społecznego przekazu. Co istotne, Krajowa Rada została wyposażona w kompetencje do inicjowania postępu naukowo – technicznego i kształcenia kadr w dziedzinie radiofonii i telewizji. Zadaniem KRRiT jest też upowszechnianie umiejętności świadomego korzystania z mediów (edukacji medialnej) oraz 73 współpraca z innymi organami państwowymi, organizacjami pozarządowymi i innymi instytucjami w zakresie edukacji medialnych. Dla realizacji tych zadań, istotnych z punktu widzenia funkcjonowania systemów AI w wielu różnych obszarach życia społecznego, Krajowa Rada Radiofonii i Telewizji ma kluczowe znaczenie. 5. W związku z powyższym za logiczne należałoby uznać poszerzenie ustawowych kompetencji KRRiT o przeciwdziałanie zjawisku deepfake w mediach elektronicznych, a także o zwalczanie działań polegających na wykorzystywaniu sztucznej inteligencji do manipulowania zachowaniami użytkowników oraz wizerunkiem osób publicznych za pośrednictwem mediów i platform internetowych, zwłaszcza że od 1 listopada 2021 r. Krajowa Rada jest wyposażona w kompetencje kontrolne względem platform udostępniania wideo, zdefiniowanych w ustawie o radiofonii i telewizji jako: usługa świadczona drogą elektroniczną w ramach prowadzonej w tym zakresie działalności gospodarczej, jeżeli podstawowym celem lub zasadniczą funkcją tej usługi lub jej dającej się oddzielić części jest dostarczanie ogółowi odbiorców w celach informacyjnych, rozrywkowych lub edukacyjnych audycji, wideo stworzonych przez użytkowników lub innych przekazów. Platformy udostępniania wideo niewątpliwie są więc częścią platform internetowych, definiowanych jako usługi świadczone z wykorzystaniem systemu teleinformatycznego. 6. W pozostałym zakresie nadzór nad rynkiem dla systemów sztucznej inteligencji powinien zostać podzielony pomiędzy już istniejące organy administracji publicznej, zdolne do kompleksowego podejścia do nowych zagadnień z tej sfery. Kierunek ten należy uznać za słuszny, zwłaszcza że w motywie 3 rozporządzenia 2024/1689 wskazano, że systemy AI mogą być łatwo wdrażane w wielu różnych sektorach gospodarki i obszarach życia społecznego, a w motywie zaznaczono, że zharmonizowane przepisy ustanowione w niniejszym rozporządzeniu powinny mieć zastosowanie we wszystkich sektorach. Okolicznością przemawiającą za racjonalnością wskazanego modelu jest dysponowanie przez istniejące organy administracji publicznej kompetentnymi pracownikami, posiadającymi wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach takich jak technologie informacyjne oraz nadzór nad prawami podstawowymi, co umożliwi im należyte wykonywanie powierzonych zadań. Realizowanie działań w obrębie wymienionych dziedzin odbywa się m.in. w ramach struktur KRRiT, stojącej na straży wolności słowa w radiu i telewizji, samodzielności dostawców usług medialnych oraz dostawców platform udostępniania wideo, interesów odbiorców usług i użytkowników oraz zapewniającej otwarty i pluralistyczny charakter radiofonii i telewizji (art. 6 ust 1 ustawy o radiofonii i telewizji). 7. Reasumując powyższe rozważania, za zasadne należałoby uznać wyznaczenie organów nadzoru rynku spośród obecnie istniejących organów, przy czym w kompetencje w tym zakresie z pewnością powinna zostać wyposażona Krajowa Rada Radiofonii i Telewizji. Art. 6 ust. 1 Związek Pracodawców Technologii 1. Potrzeba powołania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uważamy, że należy ponownie rozważyć niezbędność powołania kolejnego organu regulacyjnego działającego w sferze cyfrowej. Pod uwagę należy wziąć nie tylko fakt, że: 74 Cyfrowych Lewiatan • będzie to jeden z wielu regulatorów specjalnie dedykowanych dla sfery cyfrowej (UKE, praktycznie UODO) lub w znacznej części zajmujących się sferą cyfrową (UOKiK, ABW, KNF) • powołanie takiego regulatora będzie w praktyce oznaczało, że kolejne akty prawne związane z sferą cyfrową, także będą potrzebowały swoich regulatorów; przykłady to akt w sprawie danych czy europejska przestrzeń danych dotyczących zdrowia • praktyka w innych krajach UE: jeśli zadania związane z regulacją systemów sztucznej inteligencji w innych krajach członkowskich UE będą delegowane do istniejących już organów regulacyjnych będziemy mieli kolejny przykład niespójności europejskich regulacji Warto zwrócić uwagę na zapis z Uzasadnienia do projektu ustawy: „Akt o AI jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych.” Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. art. 6 ust. 1 i 3 GRAI Zgodnie z postanowieniem art. 74 ust. 6 rozporządzenia 2024/1689: „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” Z zapisu art. 6 pkt 1 wynika natomiast iż Komisja jest jedynym organem nadzoru w zakresie systemów sztucznej inteligencji. Z punktu 3 wynika, iż Komisja współpracuje z KNF w zakresie spraw wskazanych w art. 74 ust. 6 rozporządzenia. Proponowane rozwiązanie: Dodanie zastrzeżenia w art. 6 pkt. 1, że w przypadku systemów AI wysokiego ryzyka stosowanych przez instytucje finansowe organem nadzoru jest Komisja Nadzoru Finansowego. 75 art. 6 ust.1 punkty 1 oraz ust. 3 podpunkt 1 GRAI Uwzględniając: -postanowienia art. 74 ust. 6 rozporządzenia 2024/1689, które określają, że w przypadku systemów wysokiego ryzyka używanych przez instytucje finansowe odpowiedzialnym organem nadzoru jest krajowy organ odpowiedzialny za nadzór finansowy, w Polsce jest to KNF, -oraz zapisy art. 6 pkt. 1, które wskazują na istnienie jednego organu nadzorczego, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z jedynie współpracą z KNF, powstaje niejasność co do roli KNF w kontekście instytucji finansowych korzystających z systemów AI. Aktualne zapisy wydają się sprzeczne z art. 74 ust. 6 rozporządzenia 2024/1689. Istnieje potrzeba wyjaśnienia i doprecyzowania podziału kompetencji między KNF a Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w odniesieniu do instytucji finansowych stosujących systemy AI. Proponujemy zmiany doprecyzowujące te elementy zgodnie z zaproponowaną treścią, tak by być zgodnym z art. 74 ust. 6 rozporządzenia 2024/1689 oraz zapewnić spójna i jednolitą politykę nadzorczą w zakresie systemów AI dla całego rynku (ust. 3) Proponujemy zmianę treści na następującą: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji z zastrzeżeniem, że w przypadku systemów AI wysokiego ryzyka używanych przez instytucje finansowe, nadzór sprawuje Komisja Nadzoru Finansowego, zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja oraz Komisja Nadzoru Finansowego współpracują celem zapewnienia spójności sprawowanego nadzoru na rynkiem w zakresie systemów sztucznej inteligencji. 4. Komisja współpracuje z: 1) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz pozostałymi podmiotami, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854 oraz z 2024 r. poz. 1089) - w zakresie spraw, których mowa w art. 74 ust. 3 rozporządzenia 2024/1689); 2) Prezesem Urzędu Ochrony Danych Osobowych - w zakresie spraw, o których mowa w art. 57 oraz art. 74 ust. 8 rozporządzenia 2024/1689; 3) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 - w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 4) ministrem właściwym do spraw informatyzacji - w zakresie spraw związanych z notyfikacją, o których mowa w rozdziale 6 ustawy; 5) Pełnomocnikiem Rządu do Spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie 76 cyberbezpieczeństwa (Dz. U. z 2024 r. poz. 1077) - w zakresie spraw związanych z cyberbezpieczeństwem. 5. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej. Art. 6 ust. 1 i 3 (w szczególności pkt 1)) GRAI Projekt wskazuje, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Ust. 3 reguluje też obowiązek Komisji współpracy z innymi organami w zakresie spraw tam wskazanych. Konstrukcja tego przepisu może prowadzić do sprzeczności z treścią art. 74 rozporządzenia 2024/1689 w zakresie w jakim wskazuje, że w każdym przypadku Komisja działa jako właściwy organ nadzoru. Dla przykładu, ust. 3 pkt 1 nakłada na Komisję obowiązek współpracy z Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689. Przepis ten wskazuje jednak, że w przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych, organem nadzoru jest odpowiedni organ nadzoru nad rynkiem finansowym (w tym przypadku Komisja Nadzoru Finansowego). Oznacza to, że w zakresie tam wskazanym mamy rozdzielenie organów nadzoru. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych w zakresie w jakim wprowadzenie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych – organem nadzoru będzie Komisja Nadzoru Finansowego. W pozostałym zakresie (a więc systemy inne niż wysokiego ryzyka lub w zakresie systemów AI również wysokiego ryzyka jeśli nie są bezpośrednio związane ze świadczeniem usług finansowych – organem nadzoru pozostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tymczasem projektowany ust. 3 art. 6 nie rozróżnia tych sytuacji i przyjmuje generalnie zobowiązanie do współpracy. Proponuję, że art. 6 ust. 1 powinien przyjąć treść „Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w zakresie w jakim art. 74 rozporządzenia 2024/1689 nie stanowi inaczej. W przypadkach określonych w art. 74 ust. 3, ust. 6 i ust. 8 rozporządzenia 2024/1689 organy nadzoru określa ust. 3 poniżej.” Z kolei w ust. 3 art. 6 ustawodawca powinien podjąć decyzję czy kompetencje organu nadzoru wskazane w art. 74 ust. 6 rozporządzenia 2024/1689 przyznać Komisji Nadzoru Finansowego a nałożyć na Komisję Rozwoju tylko zobowiązanie do współpracy albo uznać Komisję Rozwoju za wyłączny podmiot nadzoru nad AI na rynku finansowym. 77 W przypadkach określonych w art. 74 ust. 3 i 8 rozporządzenia 2024/1689 relacja powinna przyjąć zobowiązanie Komisji Rozwoju do współpracy z jednoczesnym wskazaniem, co w tą współpracę wchodzi. Art. 6 ust. 2 KIGEiT Propozycja zapisu: \"Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w Art. 70 ust.1 Rozporządzenia 2024/1689.\" Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W Art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Art. 6 ust. 3 AI CHAMBER jeżeli istotne jest enumeratywne wymienienie instytucji, z którymi Komisja ma współpracować (powstaje tu pytanie, czy enumeratywna lista oznacza, że z innymi organami nie może współpracować), to należy uzupełnić tę listę przynajmniej o dowódcę komponentu wojsk obrony cyberprzestrzeni, o którym mowa w art. 23 ustawy o obronie ojczyzny. Art. 6 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prosimy o doprecyzowanie, w jaki sposób i na jakich zasadach przebiegać będzie współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”) a Komisją Nadzoru Finansowego i jak dokonany zostanie podział obowiązków. Art. 6 ust. 3 PIIT Doprecyzowanie kompetencji PUODO w pracach Komisji. , Niejasna relacja kompetencji PUODO w pracach Komisji – czy Komisja jednocześnie ma współpracować z PUODO i PUODO ma być członkiem Komisji? Kompetencje PUODO powinny być jednoznacznie określone, aby rola PUODO w poszczególnych działaniach była oczywista, czy działa jako Członek Komisji, czy też jako podmiot współpracujący z Komisją. Art. 6 ust. 3 ISSA Polska Postuluję dodanie do katalogu podmiotów, z którymi współpracuje Komisja również NASK - instytucję kompetentną w zakresie cyberbezpieczeństwa. Warto dodać także CSIRT sektorowe, zgodnie z ustawą KSC Art. 6 ust. 3 Związek banków Polskich 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; (...) 3a. Współpraca, o której mowa w ust. 3 polega na [uzupełnić] Niejasne jest określenie, na czym polegać ma współpraca z wymienionymi organami. W szczególności interesuje nas ew. zbieg właściwości w ramach współpracy KNF i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgodnie z Art. 74 ust. 6 i 7 AI Act: 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym 78 usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. Czy aktualne brzmienie art. 6 ust. 3 pkt 1). oznacza, że Polska skorzystała z odstępstwa przewidzianego w w/w ust. 7 i wyłącznie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie właściwa? W przypadku nieskorzystania z odstępstwa przepis powinien precyzować zakres współpracy, np. wskazywać, że współpraca z organami ma na celu zapewnienie spójnego nadzoru nad systemami SI, z zastrzeżeniem że np. w zakresie spraw, o których mowa w art. 74 ust. 6 AI Act, właściwym organem nadzoru jest KNF. art. 6 ust. 3 pkt 1 GRAI Niejasne wskazanie zakresu współpracy Komisji z Komisją Nadzoru Finansowego, brak rozwinięcia kwestii w dalszej części ustawy. Użycie sformułowania „w zakresie spraw” w odniesieniu do AI Act art. 74 ust. 6. „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” jest zbyt daleko idącym uproszczeniem skoro w AI Act mowa o generalnym nadzorze rynku. Doprecyzowanie w Ustawie podziału kompetencji między Komisją a KNF w stosunku do sektora finansowego. Optymalne byłoby wyłączenie sektora finansowego spod jurysdykcji Komisji. art. 6 ust.3 GRAI Komisja współpracuje... – wątpliwości może budzić „współpracuje”. Przykładowo „Komisja współpracuje z Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689” nie wyjaśnia co oznacza „współpraca”. Konieczność wyjaśnienie w uzasadnieniu do ustawy. art. 6 ust.3 pkt 1 Fundacja FinTech Poland W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakłada współpracę pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpracy z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres 79 takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować w przyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Art. 6 ust. 3 pkt 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Kompetencje Komisji a kompetencje innych organów nadzoru Zapis projektu ustawy w art. 6 w punktach 1 i 3 mówi: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. (...) 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; Wspomniany art. 74 rozporządzenia mówi z kolei 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. Ponieważ jest różnica pomiędzy „organem nadzoru jest”, a „Komisja współpracuje” z tym organem proponujemy dwa możliwe rozwiązania: Zapis dalej idący: „Organem właściwym dla nadzoru instytucji finansowych wykorzystujących systemy sztucznej inteligencji jest Komisja Nadzoru Finansowego” Uzasadnienie: ze względu na wieloletnie działania nadzorcze i idące z tym doświadczenie i znajomość sektora finansowego nadzór nad systemami sztucznej inteligencji – dla każdego ich rodzaju – pozostaje KNF. Zapis synchronizujący z AI Act – art. 6 ust. 3 punkt 1) przyjmuje brzmienie: „1) Komisją Nadzoru Finansowego – która jest organem właściwym w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 art. 6 ust. 4 Logicise “współpracuje z Urzędem do spraw AI” Niejasne o jakim urzędzie jest mowa. Czy zapis ten dotyczy np. Europejskiego Urzędu ds. Sztucznej Inteligencji czy może chodzi o organ na poziomie krajowym? Jakiego rodzaju kompetencje ma mieć wspomniany w tym artykule urząd do spraw AI? art. 6 ust. 4 KIGEiT Propozycja zapisu: Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Europejskim Urzędem do spraw Sztucznej Inteligencji, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii 80 Europejskiej. , Nie istnieje taka instytucja jak \"Urząd do spraw AI\" zgodnie z czym zastąpiono na \"Europejski Urząd do spraw Sztucznej Inteligencji\". art. 6 ust. 4 SKwP Urząd ds. AI to europejski UE, czy będzie taki w Polsce ? Jeżeli z UE, to taka nazwa powinna być także używana w Polsce, a nie Biuro. Art. 7 Fundacja Panoptykon Nie mamy zastrzeżeń do ogólnej konstrukcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Sugerujemy jednak wprowadzenie dodatkowych rozwiązań mających na celu doprecyzowanie przepisów dotyczących konfliktu interesów oraz zwiększenie przejrzystości procesu powoływania przewodniczącego Komisji. Skład Komisji Zgodnie z projektem w skład Komisji wejdą członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji m.in. ministra-koordynatora służb specjalnych. Udział przedstawiciela tej instytucji nie jest w żaden sposób wyjaśniony w uzasadnieniu projektu. Naszym zdaniem jego miejsce powinien zająć przedstawiciel ministra spraw wewnętrznych jako podmiotu mającego duże doświadczenie w zarządzaniu bazami danych osobowych (np. rejestr PESEL), a jednocześnie nadzorującego Policję i Straż Graniczną. Taka zmiana byłaby też uzasadniona zakresem regulacji. Art. 7 Związek Cyfrowa Polska Nowy organ nadzoru rynku. Ustawodawca, w wyniku przeprowadzonych prekonsultacji, zdecydował o powołaniu nowego organu nadzoru na rynkiem AI w Polsce – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zamiast wyposażenia w dodatkowe kompetencje z zakresu AI innych, już istniejących organów, takich jak UODO, UKE czy UOKiK. Oceniamy to rozwiązanie korzystnie, biorąc pod uwagę m.in. złożoną materię regulacji dot. AI, a także konieczność zaangażowania w to zadanie wysokiej klasy specjalistów. Dodatkowo jako korzystne rozwiązanie oceniamy wykorzystanie dotychczasowego doświadczenia oraz kompetencji istniejących organów, decydując się na włączenie ich przedstawicieli w skład nowo powołanej KRiBSI (art. 7 ust. 2 Projektu). Wskazać należy także, że w obliczu wieloaspektowego wpływu sztucznej inteligencji na społeczeństwo, konieczne jest, aby organ nadzorujący stosowanie ustawy o sztucznej inteligencji w Polsce posiadał możliwość zrównoważenia podstawowych praw i celów regulacyjnych. Mogą one obejmować, ale nie ograniczają się do konkurencji, innowacji, inwestycji bezpośrednich, prywatności, niedyskryminacji, wolności słowa i bezpieczeństwa. Takie względy, jak prawo do prowadzenia działalności gospodarczej i wspierania innowacji, są również kluczowe w ramach regulacyjnych. Dlatego też organ regulacyjny musi mieć zdolność i reżim ustawowy, które zapewnią, że będzie odpowiedzialny za przyjęcie holistycznego podejścia obejmującego cały rząd, które może ułatwić tę równowagę między prawami podstawowymi a promowaniem innowacji i wzrostu gospodarczego. Wymaga to zniuansowanego zrozumienia współzależności między różnymi celami polityki i zaangażowania w osiągnięcie równowagi, która służy szerszym interesom społeczeństwa. 81 Art. 7 GRAI Uzasadnienia wymaga dobór opcjonalnych uczestników posiedzeń Komisji. Jakie przyjęto kryterium przemawiające za umożliwieniem udziału w posiedzeniach przedstawicieli właśnie tych wskazanych organów? Art. 7 ICC Poland W Projekcie zaproponowano powierzenie funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 70 ust. 1 rozporządzenia 2024/1689) nowoutworzonemu organowi o charakterze kolegialnym – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”). Organ ten ma obejmować, oprócz Przewodniczącego i jego dwóch Zastępców, dziewięciu członków Komisji spośród przedstawicieli innych istniejących organów (art. 7 Projektu). Zaproponowane rozwiązanie polegające na nadaniu nowemu organowi nadzoru charakteru kolegialnego budzi jednak wątpliwości z perspektywy efektywności, w tym sprawności jego działania, w zestawieniu z licznymi zadaniami, jakie ma on wykonywać (por. art. 11 Projektu). Równocześnie wydaje się, że cele, jakimi projektodawca uzasadnia przyjęcie takiej formuły organizacji Komisji, w tym zapewnienie skoordynowanego nadzoru oraz umożliwienie współpracy pomiędzy regulatorami (s. 7-8 uzasadnienia Projektu), możliwe są do osiągnięcia również przy modelu organu jednoosobowego za pomocą alternatywnych mechanizmów, np. obligatoryjnych konsultacji. Z tego względu należałoby rozważyć, czy efektywniejszym rozwiązaniem nie byłoby wyznaczenie jako organu nadzoru w rozumieniu art. 70 rozporządzenia 2024/1689 organu jednoosobowego, jak to uczyniono chociażby w przypadku Prezesa Urzędu Ochrony Danych Osobowych w odniesieniu do obszaru ochrony danych osobowych, przy równoczesnym zapewnieniu odpowiedniego poziomu eksperckości i interdyscyplinarności przy pomocy wspierającego go urzędu lub biura. Nadzór nad rynkiem systemów sztucznej inteligencji będzie wymagał bowiem sprawnego i szybkiego działania – tak ze względu na niesamowite tempo rozwoju tej technologii, jak i z uwagi na bardzo poważne ryzyka, jakie systemy sztucznej inteligencji mogą stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W tym kontekście wątpliwości może budzić wymaganie podejmowania uchwał przez organ kolegialny w odniesieniu do niemal wszelkich jego zadań, w tym co do wydawania postanowień i decyzji w sprawie naruszenia przepisów o systemach sztucznej inteligencji. Podjęcie takiej uchwały wymagać będzie bowiem przynajmniej zwołania posiedzenia Komisji, zebrania odpowiedniego kworum, a wcześniej zapoznania się przez wszystkich członków Komisji z materiałami niezbędnymi do podjęcia decyzji. Nawet przy przyjętym założeniu odbywania tego rodzaju posiedzeń w formie zdalnej lub w trybie obiegowym (art. 8 ust. 7 i 9 Projektu), należy przewidywać, że działania te zajmować będą więcej czasu niż podjęcie decyzji przez organ jednoosobowy, nawet wtedy, gdyby miał on ściśle współpracować z odpowiednimi organami w zakresie ich właściwości (np. konsultacje). W uzasadnieniu Projektu wyjaśniono (s. 7 uzasadnienia Projektu), że przyjmując wskazaną formułę organizacji Komisji projektodawca kierował się modelem Komisji Nadzoru Finansowego. 82 Skład tego ostatniego organu ma jednak charakter zdecydowanie bardziej homogeniczny niż proponowany w odniesieniu do nadzoru nad systemami sztucznej inteligencji. O ile bowiem w skład Komisji Nadzoru Finansowego wchodzą organy i przedstawiciele organów posiadających kompetencje ściśle odnoszące się do różnych aspektów funkcjonowania rynku finansowego (np. właściwi ministrowie, NBP, Bankowy Fundusz Gwarancyjny, Prezes UOKiK), tak proponowany skład Komisji miałby obejmować przedstawicieli bardzo różnych organów, których zadania jedynie mogą – potencjalnie – wiązać się z rynkiem systemów sztucznej inteligencji. Przykładowo, przedstawiciele Rzecznika Praw Dziecka, czy też Krajowej Rady Radiofonii i Telewizji mieliby uczestniczyć w wykonywaniu wszelkich kompetencji Komisji, również tych niezwiązanych w żaden sposób z zakresem działania tych właśnie organów (mając głos równy z pozostałymi członkami Komisji). W uzasadnieniu Projektu wskazano, że proponowany model ma umożliwić realizację koncepcji nadzoru zintegrowanego nad systemami sztucznej inteligencji „łączącego kompetencje i eksperckość organów wchodzących w skład Komisji” (s. 7 uzasadnienia Projektu), jak i współpracę między regulatorami, w tym wymianę informacji w kwestiach dotyczących sztucznej inteligencji (s. 8 uzasadnienia Projektu). Wydaje się jednak, że cele te można osiągnąć w sposób efektywniejszy przez wykorzystanie innych mechanizmów, w tym obowiązkowych konsultacji lub wymogu zasięgnięcia przez organ nadzoru opinii organów, których zakresu działania dotyczy dana sprawa. Zadania, jakie Projekt powierza organowi nadzoru, z reguły nie będą bowiem obejmować zakresu działania wszystkich organów, które projektodawca uznał za kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI. Uzasadnia to dodatkowo rezygnację z włączenia ich wszystkich w proces realizacji każdego zadania organu nadzoru, a poprzestanie na punktowej integracji nadzoru nad systemami sztucznej inteligencji w odniesieniu do danej konkretnej sprawy, gdy tego ona wymaga. Powyższe uwagi skłaniają do postulatu rewizji kształtu Komisji jako kolegialnego organu nadzoru na korzyść organu jednoosobowego, co może zapewnić większą efektywność realizacji jego zadań. Art. 7 Instrat – Fundacja Centrum Cyfrowe Skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) Z zadowoleniem przyjmujemy decyzję o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kluczowa dla skutecznego wdrażania rozporządzenia 2024/1689, zwłaszcza w kontekście zapewnienia niezależności organu nadzorującego przestrzeganie przepisów AI Act. Widzimy również istotną rolę Komisji w koordynacji działań między kluczowymi instytucjami nadzorującymi sektor technologii cyfrowych, w tym sztucznej inteligencji, co uważamy za krok w dobrym kierunku. Jednocześnie wyrażamy obawy, że w proponowanej strukturze Komisji może brakować odpowiedniej liczby ekspertów posiadających techniczną wiedzę i umiejętności z zakresu rozwijania sztucznej inteligencji. Ustawa wprawdzie przewiduje, że przewodniczący powinien 83 wyróżniać się wiedzą w zakresie SI lub prawa oraz doświadczeniem zawodowym w dziedzinie cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Jednakże takie zapisy nie gwarantują, że na to stanowisko zostanie wybrana osoba z rzeczywistym zrozumieniem modeli SI. W związku z tym rekomendujemy usunięcie zapisu „lub prawa”, gdyż pozostałe wymogi – dotyczące wiedzy i doświadczenia w obszarze SI – umożliwiają także wybór specjalisty z zakresu prawa, o ile jego wiedza koncentruje się na sztucznej inteligencji. Uważamy ponadto, że samo wskazanie na kompetencje w zakresie cyfryzacji jest wystarczające, ponieważ tematy cyberbezpieczeństwa i technologii informacyjnych mieszczą się w tym pojęciu. Uważamy również, że w Komisji powinna znaleźć się nie jedna, a przynajmniej trzy osoby będące ekspertami w projektowaniu i wdrażaniu narzędzi sztucznej inteligencji. Zaangażowanie na stałe członków, którzy na co dzień zajmują się praktycznym rozwijaniem narzędzi SI, znacząco wzmocniłoby bowiem zdolność Komisji do oceny technologicznych wyzwań i potencjalnych zagrożeń związanych z poddawanym analizie systemom. Dlatego proponujemy rozważenie następujących rozwiązań: 1. rozszerzenie składu Komisji o dwóch ekspertów z zakresu SI, wybieranych w drodze otwartego i konkurencyjnego naboru (na wzór sposobu i kryteriów naboru na przewodniczącego), którzy będą zarazem pełnić funkcję wiceprzewodniczących (w razie nieobecności przewodniczącego), a którym przyznane zostanie prawo głosu. Rozwiązanie to umożliwi zapewnienie Komisji ekspertów posiadających specjalistyczną wiedzę, nie generując przy tym dodatkowych kosztów; albo 2. rozszerzenie składu Komisji o dwóch przedstawicieli takich instytucji jak chociażby Narodowe Centrum Badań i Rozwoju Ideas (NCBR Ideas) czy Naukowa i Akademicka Sieć Komputerowa (NASK). Jeśli formalne włączenie do Komisji wyżej zaproponowanych ekspertów nie będzie możliwe, rekomendujemy, aby przynajmniej zostały one uwzględnione jako podmioty wspierające, biorące udział w posiedzeniach z głosem doradczym. Art. 7 Fundacja FinTech Poland W projekcie brak jest sformułowania wymagań dot. kompetencji osób zasiadających w KRiBSI. Powinny to być osoby o bardzo wysokiej wiedzy technicznej i/lub prawniczej w zakresie sztucznej inteligencji. Dodatkowo wszyscy członkowie komisji powinni przejść szkolenie i egzamin, przygotowywane przez czołowe polskie uczelnie i ekspertów dziedzinowych, dotyczące działania modeli sztucznej inteligencji. Art. 7 Związek Pracodawców Technologii Cyfrowych Lewiatan Skład Komisji odzwierciedla dzisiejszy obraz organów regulacyjnych, ale nie zauważa niezwykle ważnych tematów, które będą musiały być regulowane w najbliższym czasie na podstawie aktów prawnych Unii Europejskiej. Należy tu przede wszystkim wymienić dwa akty, tj. akt w sprawie danych, który zaczyna być egzekwowalny już od września 2025 roku, a także będący na ostatnim etapie europejskiego procesu prawodawczego, rozporządzenia europejska przestrzeń danych dotyczących zdrowia (EHDS). Pominięcie organów, które zostały lub zostaną wskazane jako właściwe dla tych regulacji nie pozwoli Komisji na prawidłowe działania w przyszłości. Propozycja: zmiana w art. 7 ust. 2 poprzez dodanie: 84 10) innych organów regulacyjnych właściwych dla ochrony danych Art. 7 ust. 1 ISSA Polska Postuluję określenie sposobu wyłonienia Członków Komisji przez każdy z podmiotów uprawnionych do ich oddelegowania. Ponadto trybu ich odwoływania. Proponuję wskazanie, czy Członkowie Komisji powoływani są na kadencję, czy są to wspólne kadencje. Zmiana składu osobowego może negatywnie wpływać na ciągłość prac Komisji. Art. 7 ust. 1 ZPAV postuluje w tym miejscu rozszerzenie składu Komisji (art. 7 ust. 1 projektu ustawy) o przedstawiciela ministra właściwego do spraw kultury. Art. 7 ust. 1 ZAIKS Art. 7 ust. 1 Projektu otrzymuje następujące brzmienie: „Art. 7.1 W skład Komisji wchodzą Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziesięciu członków Komisji.\" Art. 7 ust. 1-2 Osoba fizyczna Propozycja zbudowania składu Komisji w oparciu o urzędników administracji rządowej (głównie) oraz działających na zasadach reprezentowania swoich mocodawców (piastunów organów politycznych), a więc osób całkowicie zalez0nych, nie gwarantuje stworzenia niezależnego organu nadzoru ds. sztucznej inteligencji, a jest to przecież wymóg wynikający z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689). Ponadto dobór członków Komisji, poza jednym przypadkiem – Przewodniczącego, nie jest obwarowany żadnymi warunkami merytorycznymi. Tylko osoba stająca do konkursu na Przewodniczącego Komisji musi, zgodnie z art. 18 ust 1 pkt 4) projektu ustawy o SI wyróżniać się wiedzą i posiadać znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Budzi to poważne wątpliwości co do braku kwalifikacji pozostałych członków ważnego, w dobie skokowego rozwoju sztucznej inteligencji, organu administracji publicznej. Potencjalnie osoby wskazywane do Komisji mogą nie mieć żadnego doświadczenia lub wiedzy związanej z cyberbezpieczeństwem, sztuczną inteligencją lub technologiami informatycznymi. Nawet jeśli przyjąć, że zależy Ustawodawcy na szerokim spektrum wiedzy i wśród członków komisji, to ww. elementy muszą stanowić zasób ich wiedzy. Np lekarz prowadzący badania nad SI, etyk zajmujący się etyką sztucznej inteligencji lub socjolog badający skutki społeczne wykorzystania SI. Dopiero takie połączenie wiedzy, umiejętności i formalnego wykształcenia istotnie wzmocni merytoryczny poziom w ramach Komisji, zapewni jej interdyscyplinarność oraz pozwoli potencjalnie na właściwą ocenę naruszenia przepisów prawa dotyczącego sztucznej inteligencji. Należy również zwrócić uwagę, że wprowadzenie konstrukcji organizacyjno- prawej, w której za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu budzi wątpliwości nie tylko natury etycznej, ale także natury prawnej. Przyjęte rozwiązanie o nie wynagradzaniu członków komisji za udział w pracach może naruszać przepisy prawa pracy 85 i kodeksu cywilnego, które przewidują obowiązek wynagradzania pracy i zwrotu kosztów związanych z jej wykonywaniem. Poza tym jest wysoce prawdopodobne, że pracownik organu delegującego, oprócz udziału w pracach komisji, będzie miał inne obowiązki w swym macierzystym urzędzie. Powstaje pytanie, czy w takim razie będzie się wstanie zaangażować się w pracę Komisji w pełni, zwłaszcza w sytuacji szerokiego zakresu kompetencji i zadań Komisji, mając potencjalne obowiązki w macierzystym organie? W sytuacji, gdy poszczególne organy delegujące członków do Komisji SI będą tworzyły odrębne stanowisko w swym urzędzie w celu zapewnienia wynagrodzenia dla takiego pracownika, to powstaje kolejne pytanie o gospodarność w wydatkowaniu pieniędzy publicznych. Równie istotna jest kwestia równego wynagrodzenia, bowiem poszczególne organy mogą posiadać różne regulaminy płac, co przełoży się na niczym nieuzasadnione prawnie zróżnicowane wynagrodzenia członków komisji. Generalnie skład Komisji ds SI powinien opierać się o dobór merytoryczny, być może z pozostawieniem prawa do wskazania poszczególnych osób przez niektóre organy władzy publicznej, przy jednoczesnym zatrudnieniu lub wynagradzaniu członków bezpośrednio przez Komisję, w której pracach będą uczestniczyć. Art. 7 ust. 2 Logicise dobór dziewięciu członków Komisji Proponujemy poszerzenie składu Komisji o ministra właściwego do spraw szkolnictwa wyższego i nauki, oraz dwóch do trzech ekspertów w obszarze AI - przedstawicieli wiodących w Polsce instytutów badawczych zajmujących się badaniami nad AI oraz wykorzystaniem AI w gospodarce, w szczególności Instytutu Badawczego IDEAS, Instytutu Technik Innowacyjnych EMAG Sieci Badawczej Łukasiewicz, Europejskiego Laboratorium Uczących się i Inteligentnych Systemów (ELLIS) w Warszawie. Ponadto, proponujemy zredukować udział KRRiT do uczestniczenia z głosem doradczym (art. 7. 3.) Art. 7 ust. 2 ZAIKS art. 7 ust. 2 Projektu punkt 3) uzyskuje następujące brzmienie: ,,3) ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego;\" art. 7 ust. 2 Projektu obecne punkty 3)-9) otrzymują numerację odpowiednie 4)-10) Jednym z celów Al Act jest zapewnienie przestrzegania przez dostawców modeli Al. ogólnego przeznaczenia przepisów prawa UE dotyczących prawa autorskiego i praw pokrewnych1• Rozwój i trenowanie takich modeli wymaga dostępu do ogromnych ilości danych, w tym treści chronionych prawem autorskim, takich jak teksty, obrazy, materiały wideo i utwory muzyczne. Każde 86 wykorzystanie takich treści wymaga co do zasady zezwolenia uprawnionych z tytułu praw autorskich i praw pokrewnych. Jak wiadomo chociażby z wielu doniesień prasowych z ostatnich miesięcy, dostawcy modeli Al często rozwijają swoje produkty z pominięciem praw twórców, artystów i producentów. Co więcej, ich utwory są często wykorzystywane do trenowania narzędzi generatywnej Al, które tworząc maszynowe imitacje twórczości ludzkiej, wchodzą z nią w bezpośrednią konkurencję jako alternatywne źródło podaży treści rozrywkowych czy informacyjnych. Tzw. wytwory Al już zaczynają stanowić bezpośrednią konkurencję, dla utworów tworzonych przez człowieka, ponieważ korzystanie z nich wiąże się z mniejszymi kosztami czy formalnościami i obowiązkami prawnymi. Tym samym wielu twórców zaczyna tracić zamówienia od takich podmiotów jak nadawcy czy wydawcy prasy, stanowiące źródło ich podstawowych przychodów. Również muzyczne serwisy steamingowe coraz częściej zamieszczają wytwory muzyczne stworzone przez narzędzia Al, aby w ten sposób obniżać zawartość chronionych utworów i, w konsekwencji, wysokość opłat licencyjnych, które są zobowiązani uiszczać na rzecz twórców i artystów wykonawców. Przywołany powyżej cel Al Act nie znajduje jednak żadnego odzwierciedlenia w Projekcie. Przepisy projektowanych artykułów 7 i 28 całkowicie pomijają w składzie organów odpowiedzialnych za nadzór nad rynkiem systemów Al oraz modelami Al podmioty prowadzące działalność w zakresie kultury i przemysłów kreatywnych Artykuł 7 ust. 2 Projektu powinien uwzględniać w składzie Komisji przedstawicieli ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego, a przez to pozostającego w bezpośrednim kontakcie z twórcami i artystami. Należy zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. ll Projektu jest „wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji\". Al Act w art. 53 w stosunku do modeli Gen Al przewiduje szereg obowiązków, w tym wprowadzanie przez dostawców tych modeli polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen Al. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Art. 7 ust. 2 CHAMBER Proponowany w art. 7 ust. 2 skład Komisji budzi wątpliwości. Wbrew uzasadnieniu ustawy nie obejmuje on “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”, bo trudno za kluczowy organ uznać w tym kontekście ministra-koordynatora służb specjalnych czy Rzecznika Praw Dziecka. Wskazanie tego pierwszego może wręcz budzić pewien niepokój. Brakuje z kolei wskazania choćby Ministra właściwego do spraw gospodarki, który szczególnie jako reprezentującego aspekt gospodarczy i spojrzenie ze strony wspierania MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. Podobnie niezrozumiały jest brak przedstawiciela 87 ministra właściwego ds. nauki przy obecności np. KRRiT, która wedle naszej wiedzy nie ma większej wiedzy czy zainteresowania SI jako taką. Udział przedstawiciela MON także wydaje się wskazany. Reasumując skład Komisji powinien wyglądać następująco: Minister ds. informatyzacji Minister ds. gospodarki Minister ds. nauki Prezes UKE Rzecznik Praw Obywatelskich Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). Art. 7 ust. 2 Polskie Towarzystwo Informatyczne Skład Komisji nie uwzględnia niektórych sektorów regulowanych, które powinny być reprezentowane w Komisji, np. w zakresie produktów leczniczych lub ochrony zdrowia. Nie jest do końca jasne jakie są podstawy do wskazywania Rzecznika Prawa Obywatelskich oraz RPD w składzie Komisji. Prosimy o przeanalizowanie, jakie instytucje powinny być reprezentowane w składzie Komisji (kryteria wyboru są niejasne) 88 Art. 7 ust. 2 GRAI I. W art. 7 ust. 2 projektu został uregulowany skład Komisji, z przedstawicieli wybranych podmiotów. Jednak w uzasadnieniu nie znalazło się wyjaśnienie, dlaczego w skład Komisji mają wchodzić akurat przedstawiciele tych podmiotów i według jakiego klucza ich wybrano. II. Wątpliwości budzi zaproponowany skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Dlaczego w stałym składzie Komisji znaleźli się przedstawiciele Rzecznika Praw Dziecka i Krajowej Rady Radiofonii i Telewizji, natomiast w posiedzeniach Komisji tylko mogą uczestniczyć przedstawiciele m.in.: Biura Rzecznika MŚP, urzędu obsługującego ministra właściwego do spraw gospodarki. Z punktu widzenia zapowiadanych założeń, jakie miała realizować ustawa wdrażająca AI Act – rozwój sztucznej inteligencji, niezrozumiałe jest, jak bez przedstawicieli przedsiębiorców i resortu odpowiedzialnego za rozwój gospodarczy kraju ma być realizowane zadanie Komisji: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. I. Wyjaśnienie w uzasadnieniu według jakiego klucza dokonano wyboru podmiotów wchodzących w skład Komisji i jakie kompetencje mają wnosić przy realizacji zadań Komisji. Uzasadnienia wymaga, w szczególności wskazanie do składu Komisji przedstawicieli ministra powołanego w celu koordynowania działalności służb specjalnych, KRRiT oraz Prezesa UKE. II. Konieczne jest uwzględnienie w stałym składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przedstawicieli MRiT i Rzecznika MŚP. Art. 7 ust. 2 GRAI Brakuje w składzie Komisji reprezentanta Urzędu Rejestracji Produktów Leczniczych. Rozwój technologii w sektorze dotyczącym zdrowia wymaga szczególnej atencji, stąd przedstawiciel Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych powinien się znaleźć w stałym składzie Komisji. Uzupełnienie przepisu. Art. 7 ust. 2 Fundacja FinTech Poland Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: ministra właściwego ds. spraw wewnętrznych, ministra właściwego ds. zdrowia, ministra właściwego ds. szkolnictwa i nauki, ministra właściwego ds. pracy. Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając 89 dotychczasowe postanowienie – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Poza tym do rozważenia jest również potrzeba zaangażowania naukowców, praktyków sztucznej inteligencji pracujących w biznesie, oraz przedsiębiorców prowadzących firmy związane ze sztuczną inteligencją. Stałym członkiem prac Komisji powinien zostać również przedstawiciel Społecznej Rady, o której mowa w art. 28. Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 Polska Izba Książki Mamy jednak zasadnicze zastrzeżenia dotyczące pominięcia w projektowanej ustawie Ministerstwa Kultuty 1 Dziedzictwa Narodowego, któte to Ministerstwo tradycyjnie odpowiada za sektor kteatywny. Nie jest dla nas zrozumiałe dlaczego sektor kreatywny jest traktowany marginalnie, podczas gdy w sposób naturalny — poza korzyściami wypływającymi z zastosowania sztucznej Inteligencji — w związku z zastosowaniem systemów sztucznej inteligencji wiąże się wiele zagrożeń dla sektora kteatywnego. W uzasadnieniu do ptojektu ustawy wskazano, że „w skład Komisji będą wcbodziji członkowie — przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji kluczowych dla rozwoju sektora technologii sztucznej znielęgeneji” . Tyta samym nie jest zrozumiałe, dlaczego pominięto w tym katalogu Ministra Kultuty i Dziedzictwa Narodowego. Z, tego względu postulujemy, by w przepisie att. 7 ust. 2 projektowanej ustawy uwzględnić ministra tesortu Kultuty i Dziedzictwa Natodowego jako członka Komisji Uważamy takie rozwiązanie za uprawnione i uzasadnione z perspektywy interesów, na czele których stoi Minister Kultury i Dziedzictwa Narodowego. To jest jedyny przedstawiciel organów wykonawczych, któty 90 teptezentuje tesott kultury i środowiska kreatywne, które w sposób oczywisty zostaną dotknięte działaniem systemów sztucznej inteligencji. Należy sobie uświadomić to, że systemy sztucznej inteligencji bazują w znacznej mierze na kontencie — tj. materiale bazowym — pochodzącym od twórców, tj. autotów w rozumieniu ustawy o Prawie autorskim i prawach pokrewnych. Działania wielu podmiotów dostatczających systemy sztucznej inteligencji muszą być odpowiednio zakwalifikowane z perspektywy ww. przepisów prawnych i odpowiednio monitotowane. Naturalnym wyborem w zakresie instytucji właściwej do zajmowania się powyższymi kwestiami w odniesieniu do treści autorskich jest Ministerstwo Kultury i Dziedzictwa Natodowego. Pominięcie tego Ministerstwa jawi się jako akt ignorancji wobec całego sektota kreatywnego w Polsce, przynoszącego określone przychody i rokującego dalszym tozwojem, co przekłada się istotnie na gospodarkę państwa. Uważamy, że przewidzenie w ustawie możliwości uczestniczenia w obradach Komisji z głosem doradczym, co zostało przewidziane w przepisie art. 7 ust. 3 projektowanej ustawy, nie jest wystarczające z perspektywy obrony intetesów polskich twótców i polskich przemysłów kreatywnych, których działalność może być dobitnie dotknięta wprowadzeniem systemów sztucznej inteligencji. Mając powyższe na uwadze wnosimy o dodanie ministra ds. kultury 1 dziedzictwa natodowego do katalogu podmiotów wchodzących w skład Komisji zgodnie z att. 7 ust. 2 projektowanej ustawy. Art. 7 ust. 2 Związek Pracodawców Technologii Cyfrowych Lewiatan Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: • ministra właściwego ds. spraw wewnętrznych • ministra właściwego ds. zdrowia • ministra właściwego ds. szkolnictwa i nauki • ministra właściwego ds. pracy Uzasadnienie: Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając dotychczasowy zapis – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Art. 7 ust. 2 pkt 8 ISSA Polska W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce 91 przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 pkt 8 GRAI Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Należy w miejsce Krajowej Rady Radiofonii i Telewizji należy wskazać NASK PIB. Art. 7.2. i 7.3. PIIT Dołączenie Ministra Nauki, Nie do końca rozumiemy przesłanki ukształtowania podstawowego składu Komisji (art. 7.2.). Wydawałoby się, że powinny to być organy, których działania w największym stopniu przesądzają o przyszłości SI w Polsce. Większą rolę ma chyba do odegrania minister nauki, od RPO i RPD. W podstawowym składzie brak przedstawiciela przedsiębiorców, obszarów związanych z infrastrukturą krytyczną, w tym transportową, rolnictwem oraz przedstawicieli III sektora. Słabo uzasadniony wydaje się udział KRRiT (zamiast np. MKiDN). Ponadto, w pracach organu administracji, którego podstawowym zadaniem jest nadzór rynku minister do spraw służb specjalnych powinien uczestniczyć z głosem doradczym (art. 7.3.). Podstawowy skład można ograniczyć do ministra cyfryzacji, UODO, UKE, UOKiK, KNF i min nauki (zob. zadanie z obecnego art. 11.1.3 projektu). Art. 7 ust. 3 Centrum Badań Kosmicznych Polskiej Akademii Nauk W posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinien móc uczestniczyć przedstawiciel Polskiej Akademii Nauk, instytucji integrującej poszczególne instytuty naukowe Polskiej Akademii Nauk. W art. 7 ust. 3 po pkt 15 należy zatem dodać pkt 16 w brzmieniu: „16) Polskiej Akademii Nauk;” oraz odpowiednio przenumerować pkt 16 w dotychczasowym brzmieniu na pkt 17. Art. 7 ust. 3 Logicise ograniczona liczba przedstawicieli w organie doradczym Analogicznie do uwagi powyżej, proponujemy rozszerzenie listy organizacji mogących brać udział w 92 posiedzeniach Komisji o wiodące w skali kraju instytuty badawcze specjalizujące się w AI. Ponadto, członkowie Społecznej Rady ds. Sztucznej Inteligencji, o której mowa w art. 28, powinni mieć możliwość udziału w posiedzeniach Komisji. Art. 7 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Mając na uwadze brzmienie art. 28 ust. 1 Projektu ustawy, w myśl którego „Przy Komisji działa Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, która jest organem opiniodawczo–doradczym Komisji.”, zasadne wydaje się, aby w posiedzeniach Komisji mogli brać udział również członkowie tej Rady, będący ekspertami w dziedzinie sztucznej inteligencji. W związku z powyższym, postulujemy dodanie pkt 17) w art. 7 ust. 3 Projektu ustawy o treści: „17) Społecznej Rady do spraw Sztucznej Inteligencji, o której mowa w art. 28 ust. 1 ustawy”. Art. 7 ust. 3 KIGEiT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do Art. 7 ust. 5). Art. 7 ust. 3 GRAI Brak możliwości udziału w posiedzeniach Komisji przedstawicieli związków samorządowych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich czy Związek Województw RP oraz przedstawicieli wojewodów (np. Konwent Wojewodów), ogranicza możliwość konsultacji i reprezentacji interesów samorządów terytorialnych. Sztuczna inteligencja będzie miała ogromny wpływ na funkcjonowanie społeczności lokalne, ich potrzeby i specyfikę. Dlatego obecność przedstawicieli samorządów będzie kluczowa dla skutecznego wdrażania i nadzoru AI, uwzględniając lokalne perspektywy i wyzwania. Propozycja dodania przepisu, stanowiącego, że „W posiedzeniach Komisji uczestniczą, z głosem doradczym, przedstawiciele związków samorządów terytorialnych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich, Związek Województw RP oraz przedstawiciele wojewodów, np. Konwent Wojewodów.”. Art. 7 ust. 3 PIRP w katalogu przedstawicieli podmiotów mogących brać udział w posiedzeniach Komisji proponuje się dodać przedstawiciela urzędu obsługującego ministra właściwego do spraw nauki i szkolnictwa wyższego; postulowana zmiana wydaje się zasadna z punktu widzenia znaczenia regulacji także dla obszaru nauki i szkolnictwa wyższego Art. 7 ust. 3 GRAI Członkiem Komisji jest przedstawiciel np. KNF – wątpliwości może budzić to jak się odnieść do kontrolowania sektora finansowego przez KNF w kontekście jego członkostwa w Komisji. Wydaje się, że może zaistnieć ryzyko nakładania się kompetencji, wydawania zaleceń w tym samym obszarze. Choć gdy przyjmiemy, że zamysłem było utworzenie takiej struktury Komisji, że należą do niej przedstawiciele np. KNF i to w domyśle jest współpraca/konsultacja z KNF. Nie jest jasne czy 93 działania Komisji i KNF będą uzupełniały się Jaką rolę ma każdy organ? Można przyjąć założenie, że powinny tworzyć spójny system nadzoru. Wyjaśnienie w uzasadnieniu roli organów. Art. 7 ust. 3 GRAI Wskazana lista członków mogących uczestniczyć w posiedzeniach Komisji składająca się z przedstawicieli wybranych podmiotów – dlaczego wybrano akurat te podmioty? Uzupełnienie w uzasadnieniu według jakiego klucza zaproponowano takie podmioty. Art. 7 ust. 3 INFARMA Wśród przedstawicieli, którzy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji brakuje przedstawicieli urzędu obsługującego ministra właściwego ds. zdrowia (tak jak zostali wskazani przedstawiciele innych urzędów). Proponujemy, aby w posiedzeniach Komisji uczestniczył również przedstawiciel urzędu obsługującego ministra właściwego ds. zdrowia ponieważ systemy sztucznej inteligencji w bardzo dużej mierze będą także wykorzystywane w obszarze zdrowia, w którym mogą mieć zasadniczy wpływ na zdrowie (i życie) obywateli. Wpływ sztucznej inteligencji ma i będzie miał duży wpływ na postęp w medycynie i nauce. W najbliższych w latach w obszarze zdrowia będą wykorzystywane rozwiązania regulacji EHDS (Europejskiej Przestrzeni Danych Medycznych), mające na celu monitorowanie i regulację przetwarzania danych dotyczących zdrowia. Wdrożeniu EHDS będzie towarzyszyć szereg nowych przepisów dotyczących zarządzania danymi i ochrony prywatności pacjentów, w tym z wykorzystaniem sztucznej inteligencji. Sztuczna inteligencja odgrywa coraz większą rolę w sektorze ochrony zdrowia, a obszar zdrowia stanowi jeden z kluczowych obszarów Strategii Cyfryzacji Polski, która ustala ramy transformacji cyfrowej państwa na kolejne 10 lat. W świetle powyższego, możliwość udziału przedstawiciela MZ w pracach Komisji wydaje się niezbędna. art. 7 ust.3 PIIT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji. , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Art. 7 ust. 3 AI Chambre Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich 94 centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). art. 7 ust.5 Logicise zapraszanie osób posiadających wiedzę specjalistyczną Brak informacji jak definiowane są “osoby posiadające wiedzę specjalistyczną” i czy muszą reprezentować podmioty określone w art. 7. 3. czy też nie. Brak zapisu o możliwym konflikcie interesów. Wydaje się, że zapis art. 7. 5. jest już ujęty w art. 7. 4. art. 7 ust.5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 7 ust. 5 Projektu ustawy „Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną.” Podnosimy, iż mogą pojawiać się wątpliwości na tle określenia „osoby posiadające wiedzę specjalistyczną”, w szczególności w zakresie ustalenia, kto za taką osobę może zostać uznany i przy uwzględnieniu jakich kryteriów. Zapewne chodzi o ekspertów z dziedziny rozwiązań/modeli/systemów sztucznej inteligencji, w związku z czym zasadnym wydaje się doprecyzowanie brzmienia przepisu poprzez wyraźne wskazanie o jaką wiedzę specjalistyczną chodzi. Najbardziej pożądanym kierunkiem doprecyzowania powinno być wskazanie konkretnie na pracowników naukowych, biegłych, czy posłużenie się określeniem „osoby posiadającej wiadomości specjalne”. art. 7 ust.5 KIGEiT Propozycja zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7 biegłego” Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. art. 7 ust.5 PIIT 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, biegłego. , Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby 95 z postępowania. Przy takim zapisie takich praw brak, a musza być one zagwarantowane choćby ze względu na konflikt interesów. Sugerujemy, by kwestia rozumienia tego pojęcia (biegły) wg kpa znalazła się także w uzasadnieniu do projektu ustawy. Art. 7 ust. 3 pkt 1)-6), 11-13, Osoba fizyczna Wprowadzenie takiej regulacji powoduje, że najważniejsze organy państwa nie mogą wskazać osoby do udziału w posiedzeniu komisji, natomiast prawo to posiada aparat administracyjny obsługujący te organy. Innymi słowy, to nie Prezydent RP będzie wskazywał swego przedstawiciela, ale jego urzędnicy, podobnie to nie Minister Obrony Narodowej będzie wskazywał swego przedstawiciela, ale ministerstwo – czyli aparat administracyjny go obsługujący. Należy poprawić przepis, przez wskazanie nazw organów władzy publicznej jako uprawnionych do wskazywania swoich przedstawicieli do uczestniczenia w posiedzeniach Komisji. Jeśli ten element regulacji pozostanie, to proponuję poprawić wskazane przepisy przez odwołanie do nazw organów władzy publicznej, wynikających z Konstytucji RP lub ustaw, a nie nazw urzędów ich obsługujących. Ponadto Biuro Komisji – pkt 16, nie jest organem, natomiast pracownicy Biura przygotowują posiedzenie i obsługują od strony techniczno- administracyjnej. Pewnym kuriozum jest zaproponowanie przepisu, zgodnie z którym przedstawiciel aparatu obsługującego organ – Komisję, brał udział w posiedzeniu tego organu. Proponuje wykreślić art. 7 ust 3 pkt 16) całkowicie. Poza tym powstaje zasadnicze pytanie, czy w ogóle ciało niezależne, jakim ma być Komisja ds. SI powinno posiadać członków fakultatywnych będących przedstawicielami innych organów władzy publicznej? Komplikuje to pozycję organizacyjno-prawną Komisji i osłabia jej niezależność. Art. 7 ust. 7 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Jeśli przepis dotoczyć ma także osób wskazanych w Art. 7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w Art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w Art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Art. 7 ust. 7 i Art. 29 ust. 6 KIG Poddajemy krytyce “społeczny wymiar” zaangażowania Członków Komisji i Członków Społecznej Rady ds. Bezpieczeństwa. Trudno oczekiwać, by ktoś poświęcał swój czas, zaangażowanie i intelekt bez wynagrodzenia. Uważamy, że jest to złudne poczucie gospodarności. Akty prawne dużego Państwa europejskiego powinny odpowiednio doceniać i wynagradzać. Art. 7 ust. 7 pkt PIIT 6. Za udział pracach Komisji przysługuje wynagrodzenie zwrot kosztów przejazdów i noclegów. , Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotyczyć ma także osób wskazanych w art. 7 ust. 5 - to nieuzasadnione jest, aby 96 osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. art. 7 ust. 7 SKwP To dotyczy członków Komisji, czy tylko osób doproszonych do posiedzenia? Zaprasza się eksperta – specjalistę i tak się go traktuje??? A przewodniczący i zastępcy mają wynagrodzenie? Za wykonaną prace musi być wynagrodzenie. Przewodniczący Komisji jest pracownikiem ,,Biura”, bez wynagrodzenia? Art. 7 ust. 7 pkt GRAI Udział w pracach Komisji powinien być rekompensowany, przynajmniej w zakresie, w którym koszty te nie byłyby pokryte przez jednostkę macierzystą członka Komisji. Nie można wymagać, aby w tak ważnej instytucji pracowano pro bono. Należy przyjąć, że koszty związane z udziałem w pracach Komisji pokrywane są przez jednostki macierzyste, a w pozostałym zakresie przyjąć pewien ryczałt, aby chociaż zrekompensować tym osobom koszty, które poniosłyby z własnej kieszeni. Chociaż, aby motywować kompetentne osoby do udziału w pracach Komisji, dodatkowa rekompensata powinna być przewidziana. Art. 7 ust. 8 CHAMBER Zawarte w projektowanym art. 7 ust. 8 wykluczenie zwrotu nawet kosztów diet i noclegu, obok wynagrodzenia, budzi zastrzeżenia. Brak wynagrodzenia może być uzasadniony wykonywaniem funkcji członka Komisji w ramach obowiązków służbowych, ale wyłączenie ogólnych przepisów dotyczących kosztów przejazdu i zakwaterowania wydaje się tu zbyt daleko posunięte. art.8 PIIT \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważniony do Kierowania Pracami Komisji\". , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 KIGEiT Rekomendacja: dodanie punktu: \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji\" , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 Fundacja FinTech Poland Przepisy ust. 2 i ust. 9 wzajemnie się wykluczają. Ponadto brak jest sprecyzowania czy posiedzenia są co do zasady jawne czy też nie. Brak doprecyzowania kiedy mogą zostać utajnione, a kiedy mogą toczyć się przy tzw. drzwiach zamkniętych. Art. 8 ust.3. PIIT Przewodniczący Komisji zwołuje i prowadzi posiedzenia Komisji. , Poprawka redakcyjna. 97 Art. 8 ust.5. PIIT Dodać “z zastrzeżeniem przepisu art. 11.2.”. , Przepis art. 11.2. przewiduje upoważnienie do wydawania postanowień i decyzji administracyjnych. Art. 8 ust 5 CHAMBER przepis zdaje się sugerować, że uchwały Komisji są decyzjami lub postanowieniami. Czy taka jest intencja projektodawców? Art. 8 ust. 5 Fundacja FinTech Poland Uchwała to nie jest to samo co decyzja administracyjna. Przy obecnym brzmieniu przepisu pojawiają się wątpliwości np. co do trybu odwoławczego i niezgodności z Prawem o postępowaniu przed sądami administracyjnymi. Decyzja administracyjna w sposób władczy kształtuje sytuację konkretnego podmiotu. Należy więc precyzyjnie określić kiedy i jakie decyzje mają być wydane. Decyzja nie jest rodzajem uchwały. Uchwały jeśli już mogą wyrażać stanowisko Komisji w jakiś kwestiach. Nie są to jednak źródła prawa. Art. 8 ust. 6 Polskie Towarzystwo Informatyczne Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co naj-mniej sześciu osób wchodzących w jej skład, w tym Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji, a w razie jego nieobecności – głos Zastępcy Przewodniczącego Komisji upoważnionego do kierowania pracami Komisji. Sugerujemy rozważenie delegacji do Rozporządzenia dot. trybu pracy Komisji. Nie sprecyzowano, jakiego rodzaju uchwały może podejmować Komisja w tym trybie. Czy rzeczywiście uchwały dotyczące nadzoru rynku sztucznej inteligencji powinny zapadać w minimalnym przypadku przy udziale 6 osób i zwykłej większości głosów? Art. 8 ust. 6 Fundacja FinTech Poland Brak określenia w jaki sposób wydawane są decyzje. Przyjęcie zasady, że wystarczająca jest zwykła większość w sytuacji gdy w skład Komisji nie wchodzą osoby wyspecjalizowane w danej dziedzinie budzi kontrowersje i zastrzeżenia. Powstaje ryzyko, że rozstrzygnięcia Komisji będą w rzeczywistości losowe i będą wynikiem głosowania osób nie do końca znających daną materię. Jeżeli wystarcza większość zwykła przy składzie min 6 osób to tytułem przykładu: Rzecznik Praw Dziecka, Rzecznik Praw Obywatelskich oraz przedstawiciel do spraw służb specjalnych mogą rozstrzygnąć o wyniku problemu technicznego związanego z konkretnym rozwiązaniem. Nieuzasadnione jest domniemanie, że osoby te będą posiadały w tym zakresie specjalistyczną wiedzę. Art. 8 ust. 9 Osoba fizyczna Skoro w art. 8 ust. 7 – 8 projektu ustawy o SI przewidziano możliwość udziału członków Komisji w posiedzeniu zdalnym, przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym, to wprowadzenie trybu obiegowego wydaje się niepotrzebne. Ponadto nie wskazano formy trybu obiegowego – elektronicznej czy papierowej, co też może 98 skutkować wątpliwościami interpretacyjnymi przy zachowaniu tego trybu. Coraz doskonalsze formy komunikacji elektronicznej, z coraz wyższym standardem cyberbezpieczeństwa są wystarczającą formą posiedzeń Komisji poza trybem stacjonarnym, a jednocześnie pozwolą w pełni realizować ustawowe kompetencje. Art. 9 ust. 1 CHAMBER należy skreślić słowo “ustawowych”, jako superfluum (uwaga redakcyjna) Art. 9 ust. 1 Fundacja FinTech Poland Jeżeli członkowie mają wspierać Przewodniczącego to co dzieje się w sytuacji gdy mają odrębne poglądy przy głosowaniu. Należy zagwarantować członkom niezależność jeżeli już ustawodawca decyduje się na formę głosowania. Art. 9 ust. 2 CHAMBER należy skreślić słowo “w” (uwaga redakcyjna) Art. 9 ust. 2 Logicise “w podmiotu, której są przedstawicielami” Błąd językowy. “przedstawiają działania” Nieprecyzyjne sformułowanie. O jakiego typu działaniach jest mowa: planowanych, dokonanych? Art. 9 ust. 2 GRAI Uwaga redakcyjna - brakuje słowa, ewentualnie usterka językowa. “Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w [imieniu(?)] podmiotu, której są przedstawicielami” Art. 9 ust. 2 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. W brzmieniu docelowym, ustęp ten powinien brzmieć: „2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. Art. 9 ust. 2 Polskie Towarzystwo Informatyczne literówki w p. 2 Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotach, których są przedstawicielami. 99 Art. 9 ust. 2 Związek Banków Polskich Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami. Zmiana gramatyczna. Art. 9 ust. 2 Osoba fizyczna błąd gramatyczny 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami art. 10 ust. 1 SKwP Powstaje pytanie, ilu pracowników będzie w Biurze? art. 10 ust. 3 PIIT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. , Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 KIGEiT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 GRAI Zgodnie z projektem ustawy szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadawany przez Prezesa Rady Ministrów w drodze zarządzenia. Prowadzi to jednak do uzależnienia Komisji od Prezesa Rady Ministrów. Kompetencje do nadawania regulaminu Komisji powinny przysługiwać Przewodniczącemu Komisji, który powinien mieć zagwarantowaną silną niezależną pozycję instytucjonalną od działań administracji rządowej. Jednym z wariantów jest przyznanie tej kompetencji samej Komisji (do samouchwalenia regulaminu), ale z uwagi na skład Komisji mogłoby to albo doprowadzić do paraliżu pracy albo ukształtowania organizacji i trybu funkcjonowania Komisji wbrew Przewodniczącemu. Zmiana brzmienia na „3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Przewodniczącego Komisji.” Art. 11 PIIT Nowy art. 11.1.1 - wykonywanie nadzoru rynku w zakresie systemów sztucznej inteligencji wysokiego ryzyka. , Zob. uwaga do art. 6, ew. Zmiana treści art. 11.1.7. Art. 11 Instrat – Fundacja Centrum Cyfrowe W ramach zadań Komisji proponujemy, aby poza obowiązkami określonymi w art. 11, Komisja pełniła dodatkową rolę wspierającą, zwłaszcza w odniesieniu do podmiotów prawa publicznego, 100 prywatnych organizacji świadczących usługi publiczne oraz instytucji stosujących systemy sztucznej inteligencji wysokiego ryzyka. Wsparcie to powinno dotyczyć przede wszystkim oceny wpływu tych systemów na prawa podstawowe. Komisja mogłaby wspierać te podmioty poprzez wydawanie wytycznych dla administracji, opracowanych na podstawie kwestionariuszy przygotowywanych przez Biuro ds. Sztucznej Inteligencji. Dokumenty te stanowiłyby narzędzie oceny wpływu SI na prawa podstawowe, pomagając jednostkom administracyjnym podejmować świadome decyzje zgodne z przepisami prawa. Ponadto, Komisja mogłaby pełnić funkcję punktu konsultacyjnego, do którego jednostki administracyjne i podmioty stosujące SI wysokiego ryzyka mogłyby zgłaszać pytania dotyczące oceny wpływu oraz zarządzania ryzykiem związanym z tymi systemami. Co więcej, rekomendujemy uwzględnienie w art. 11 zadań z art. 66 ust. 1 (oraz usunięcie ust. 2 z art. 66), które obecnie przypisane są ministrowi właściwemu do spraw informatyzacji. Mowa tutaj o zadaniach określonych w art. 95 rozporządzenia 2024/1689, obejmujących wydawanie rekomendacji dotyczących najlepszych praktyk stosowania systemów sztucznej inteligencji. Uważamy, że Komisja, jako organ odpowiedzialny za wdrażanie rozporządzenia, jest najlepiej predysponowana do opracowywania takich dokumentów. Do zadań Komisji w tym obszarze mogłoby należeć także wspieranie tworzenia kodeksów dobrych praktyk, mających na celu propagowanie dobrowolnego stosowania części lub wszystkich wymogów rozdziału III sekcja 2 AI Actu w odniesieniu do systemów SI niebędących systemami wysokiego ryzyka. Takie rozwiązanie wydaje się szczególnie uzasadnione, ponieważ kwestie te będą koordynowane przez unijny Urząd ds. SI, z którym Komisja ma pełnić rolę kontaktową. Przyznanie Komisji większych kompetencji w zakresie wspierania podmiotów publicznych, jak i prywatnych w stosowaniu rozporządzenia przyczyniłoby się do zapewnienia większej zgodności SI z prawami podstawowymi i sprzyjałoby budowaniu spójnych standardów w zakresie projektowania i wdrażania SI w firmach i instytucjach. Art. 11 Osoba fizyczna Powstaje pytanie, czy kolejność zadań w projektowym przepisie ma charakter przypadkowy czy zamierzony, bowiem nie sposób określić jednoznacznie jaki klucz został przyjęty w tworzeniu tego przepisu. Przykładowo, zadanie określone w pkt 7 wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;- - powinno być jednak wyżej w hierarchii zadań, jako jedno z najważniejszych. Ponadto zadanie wynikającej z pkt 6) wydawanie postanowienia i decyzje w sprawach naruszenia przepisów o systemach sztucznej inteligencji – zawiera błędy. Po słowie \"postanowienia\" - powinno być \"postanowień w sprawie\" zamiast \"postanowienia i decyzje w sprawach\". Nie zastosowano liczby mnogiej. Ponadto w języku prawniczym częściej używa się słowa \"oraz\" do łączenia dwóch równorzędnych członów zdania. Nie określono prawidłowo o jakie przepisy chodzi - powinno być \"przepisów ustawy o systemach sztucznej inteligencji\" lub \"przepisów dotyczących 101 systemów sztucznej inteligencji. Prawidłowe brzmienie przepisu \"Wydawanie postanowień w sprawach oraz decyzji w sprawach naruszenia przepisów ustawy o systemach sztucznej inteligencji\". Art. 11 GRAI Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7 art. 11, dopiero po zadaniach związanych m.in. ze wspieraniem rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów SI czy udziale w opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. Art. 11 GRAI Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym, czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Art. 11 Osoba fizyczna mk Artykuł 11 Ustawy wśród zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wskazuje: 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; W obecnym ujęciu, działania mające na celu wspieranie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji wydają się znacznie lepiej zdefiniowane oraz mocniej zaakcentowane wśród zadań Komisji niż działania 102 dotyczące przeciwdziałania zagrożeniom w zakresie bezpieczeństwa sztucznej inteligencji, gdzie jedynym wymienionym działaniem Komisji jest przyjmowanie zgłoszeń poważnych incydentów. Zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie, co powinno znaleźć odzwierciedlenie wśród zadań Komisji. Ponadto, zapewnienie bezpieczeństwa systemów sztucznej inteligencji również pozytywnie wpływa na rozwój, innowacyjność i konkurencyjność badań i zastosowań systemów sztucznej inteligencji, a zatem zwiększenie udziału komisji w zagadnieniach dotyczących bezpieczeństwa nie tylko nie kłóci się, ale wspiera zagadnienia rozwoju, innowacyjności i konkurencyjności badań i zastosowań. Wskazane jest, aby Artykuł 11 punkt 4 zyskał brzmienie odzwierciedlające, fakt, że zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie np. 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy, a także podejmowanie działań mających na celu wspieranie badań i monitorowanie zagrożeń w zakresie bezpieczeństwa systemów sztucznej inteligencji; Art. 11 Związek Cyfrowa Polska Niejasność dotyczącą zakresu kompetencji krajowego organu nadzorczego. Może ona rodzić niepewność prawną dla przedsiębiorstw wielonarodowych. Niejednoznaczność zakresu jurysdykcji może prowadzić do sprzecznych wymogów zgodności między różnymi organami krajowymi, komplikując operacje i zwiększając obciążenie regulacyjne dla przedsiębiorstw działających w wielu krajach. Co więcej, należy podkreślić, że niejasnośc ta jedynie wzrasta w związku z faktem, że na poziomie UE współpraca w ramach Rady ds. AI UE będzie zachdziła między organami o różnym zakresie przedmiotowym. Art. 11 ust. 1 KIG Proponujemy zmianę brzmienia pkt 11 tak, aby nie był mechanicznym tłumaczeniem tekstu rozporządzenia. Proponowany zapis: „11) podejmowanie działań mających na celu stworzenie narzędzi prawnych do testowania nowych rozwiązań dotyczących systemów sztucznej inteligencji zgodnie z przepisami rozporządzenia 2024/1689 – piaskownic regulacyjnych;”. Proponujemy również rozszerzenie katalogu zadań Komisji i po pkt 11 dodanie następujących: - podejmowanie działań wspierających badania, rozwój i komercjalizację produktów i usług wykorzystujących sztuczną inteligencję, w szczególności przez integrację środowiska gospodarczego i naukowego, tworzenie założeń do programów wsparcia i tworzenie propozycji rozwiązań prawnych ułatwiających współpracę nauki z biznesem i komercjalizację osiągnięć wykorzystujących sztuczna inteligencję, - inicjowanie działań zmierzających do łączenia instytucji publicznych, badaczy akademickich i firm działających na rzecz rozwoju sztucznej inteligencji. 103 Jak wspomniano powyżej, Komisja powinna koncentrować się w pierwszym okresie działalności nad wzmacnianiem ekosystemu administracji, przedsiębiorców i ośrodków naukowych w celu integracji środowiska i prowadzenia aktywnego dialoguz interesariuszami. Nie może koncentrować się na nadzorze, nie będzie również w stanie realizować zadania wskazanego w pkt. 5 ze względu na ograniczoną znajomość specyfiki rynku. Art. 11 ust. 1 Osoba fizyczna jk zadania Komisji powinny być wymienione w art. 6 po ust. 1 błąd gramatyczny 6) wydawanie postanowieniań i decyzjei w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 pkt 13 i art. 11. ust. 2 SKwP Uważamy, że decyzje administracyjne i interpretacje indywidualne powinny być omawiane i głosowane w Komisji. Jednoosobowe decyzje mogą prowadzić do wypaczeń na skutek lobbingu. Art. 11 ust. 1 pkt i pkt 7 CHAMBER wydają się pokrywać pod kątem treści normatywnej, gdyż organ nadzoru rynku sprawuje właśnie kontrolę nad tym rynkiem. Należy (ponownie) sprecyzować, że chodzi o “rynek systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt GRAI Do zadań Komisji powinna należeć koordynacja międzyresortowa w sprawach i projektach dot. AI i nowych technologii, aby zniwelować obecnie utrudniającą międzysektorowe inicjatywy, silosowość resortów. Warto zaznaczyć, że wśród podmiotów wymienionych w art. 7 ust. 3 brakuje chociażby takich resortów, jak edukacja czy szkolnictwo wyższe. Każdy resort powinien wyznaczyć rzecznika do kontaktu z Komisją i taka osoba powinna uczestniczyć w obradach Komisji zgodnie z art.7 ust. 3. Art. 11 ust. 1 pkt 3 i 4 Związek Banków Polskich Uwaga o charakterze ogólnym - brak rozwinięcia w dalszej części projektu brzmienia tych przepisów, w jaki sposób, w jakim zakresie. art. 11 ust. 1 pkt 3 GRAI Brzmienie pkt 3 dotyczącego wspierania i monitorowania rozwoju, innowacyjności oraz konkurencyjności w obszarze AI jest kluczowe, ale warto rozważyć dodanie konkretnych mechanizmów wsparcia tych innowacji. Wyłączny i bardzo rozbudowany nadzór nad rozwojem AI, który jest szczegółowo ujęty w ustawie, może być niewystarczający dla rozwoju innowacji bez wprowadzenia realnych zachęt. Brak takich rozwiązań może hamować rozwój technologii AI w Polsce. Nadanie nowego brzmienia: „3) podejmowanie działań wspierających oraz monitorujących rozwój, innowacyjność i konkurencyjność w zakresie badań i wdrażania systemów sztucznej inteligencji, w tym w szczególności stosowanie ulg podatkowych oraz preferencji finansowych dla przedsięwzięć o znaczącym potencjale społecznym i gospodarczym, celem zwiększenia atrakcyjności inwestycyjnej w obszarze sztucznej inteligencji;”. 104 Art. 11 ust. 2 pkt 3-5 PSSI W związku z zadaniami Komisji, które ujęto w Art. 11 punkt 1 ustępy 3-5, tj.: „ 3). podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; 5) udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji;” niezbędne jest, aby Przewodniczący, albo co najmniej jeden z jego zastępców miał wysokie kompetencje i doświadczenie w zakresie badań naukowych. Częściowo podkreślono to w artykule 18 punkt 1 ustępy 3-4, tj.: „ 3)posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych;” Rekomenduje się: 1. zwiększenie wymagań dotyczących kompetencji Przewodniczącego, o jawne wskazanie dorobku naukowego w zakresie badań w obszarze sztucznej inteligencji oraz posiadanie stopnia naukowego co najmniej doktora w dziedzinie nauk ścisłych lub inżynieryjno-technicznych. albo: 2. dodanie stosownych wymagań (j.w.) dla jednego z zastępców Przewodniczącego. Trudno sobie wyobrazić, biorąc pod uwagę cele komisji oraz dynamiczny rozwój sztucznej inteligencji, aby w Komisji nie zasiadała co najmniej jedna osoba o dużym i aktualnym dorobku naukowym. Jednocześnie, z wyżej wskazanych powodów, członkiem komisji powinna być co najmniej jedna osoba będąca przedstawicielem Polskiej Akademii Nauk (PAN) lub Komitetu Informatyki PAN (Art. 7). Art. 11 ust.1 pkt 4 PIIT CSIRT jako podstawowy system zgłaszania incydentów, z informacją dla komisji, jeżeli dotyczy AI. Ewentualnie – tylko dla systemów wysokiego ryzyka , System zgłaszania incydentów informatycznych powinien być spójny z CSIRT. Czy zostało ocenione ryzyko redundancji procedur oraz nieracjonalnego powielania kosztów budżetu? Notabene przepis art. 11.1.4 odsyła do art. 61, który dotyczy zgłoszeń do KE. Art. 11 ust. 1 pkt 5 ISSA Polska Błąd: zamiast “wydawanie postanowienia i decyzje” powinno być “postanowień i decyzji”. 105 Art. 11 ust. 1 pkt 6 PIIT \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji wysokiego ryzyka i systemów zakazanych, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt6 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. Art. 11 ust. 1 pkt 6 KIGEiT Propozycja zapisu: \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt 6 Polskie Towarzystwo Informatyczne Literówki wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 ust. 1 pkt 6 GRAI Uwaga redakcyjna Słowa „postanowienia i decyzje” zastępuje się słowami „postanowień i decyzji”. Art. 11 ust. 1 pkt 6 Związek Banków Polskich (...)wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Zmiana gramatyczna. Art. 11 ust. 1 pkt 8 Związek Banków Polskich [Dodanie po pkt 8) punktu w brzmieniu jak obok] 9) prowadzenie badań w zakresie zastosowania systemów sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację ich wpływu na decyzje podejmowane w organizacji. Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu SSI na podejmowane decyzje w organizacjach. Art. 11 ust. 1 pkt 11 ISSA Polska Do zadań Komisji należy m.in. podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie brak regulacji prawnych w tej kwestii. Temat możliwości testowania innowacyjnych systemów AI w warunkach rzeczywistych wydaje się zbyt ważny z punktu widzenia zarówno społeczeństwa, jak i przedsiębiorców, by jego ramy prawne nie były określone ustawowo. Art. 11 ust. 1 pkt 11 SANO W art. 11 ust. 1 pkt. 11 wskazana jest możliwość podejmowania działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie ustawy nie ma żadnych innych postanowień regulujących tą kwestię. Rekomendujemy doprecyzowanie i uszczegółowienie, ponieważ brakuje jasnych zasad funkcjonowania piaskownic, które pozwoliłyby przedsiębiorstwom na testowanie innowacyjnych technologii z zachowaniem niezbędnych zabezpieczeń prawnych. art. 11 ust. 1 pkt 13 i art. 14 ust. 1 GRAI Postanowienia te są sprzeczne. Art. 11 ust. 1 pkt 13 wskazuje jako zadanie Komisji do dokonywania interpretacji generalnych i indywidualnych. Z kolei art. 14 ust. 1 wskazuje, że 106 interpretacje indywidualne wydaje Przewodniczący Komisji. Należy usunąć odniesienie do interpretacji indywidualnych bo te leżą w kompetencji Przewodniczącego (Komisja rozpatruje jedynie sprzeciw). Zmiana brzmienia art. 11 ust. 1 pkt 13 na „13) dokonywanie interpretacji generalnych.” art. 11 ust. 1 pkt 11 GRAI W projekcie ustawy pominięto w zadaniach Komisji – zadanie w zakresie rozwoju piaskownic regulacyjnych po ich utworzeniu. Obecne brzmienie art. 11 ust. 1 pkt 11 odnosi się tylko do „utworzenia” piaskownic regulacyjnych. Zmiana Brzmienia przepisu. W art. 11 ust. 1 pkt 11 projektu ustawy po słowie „utworzeniu” dodaje się ,,i rozwój”. art. 11 ust. 1 pkt 11 GRAI Uwaga redakcyjno - legislacyjna Po uwzględnieniu powyższej uwagi, do rozważenia zmiana numeracji punktów - obecny pkt. 11 powinien być nowym pkt 4 - po pkt 3, który wskazuje na podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji. Zmiana numeracji przepisów - obecny pkt. 11 z dodanym “i rozwój” powinien stanowić pkt 4, gdyż jest uzupełniniem obecnego pkt. 3. Art. 11 ust. 1 pkt 11 PWPW Do zadań Komisji należy: podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie 107 prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 11 pkt 11 Fundacja FinTech Poland Art. 57 ust. 1 nakłada na państwa członkowskie obowiązek zapewnienia, aby ich właściwe organy ustanowiły co najmniej jedną piaskownicę regulacyjną dla systemów AI na poziomie krajowym, z terminem uruchomienia do 2 sierpnia 2026 r. Ze względu na ambitny i stosunkowo bliski termin realizacji tego wymogu, istotne jest już teraz podjęcie kroków w celu zdefiniowania zasad funkcjonowania takich piaskownic. Brak odpowiednich regulacji w Ustawie może prowadzić do opóźnień w Art. 11 ust. 2 Osoba fizyczna Poważne wątpliwości prawne budzi określenie kompetencji Komisji do upoważnienia Przewodniczącego, Zastępców Przewodniczącego oraz pracowników Komisji do realizacji działań pozostających w zakresie właściwości Komisji, w tym do wydawania decyzji i postanowień. W doktrynie prawa administracyjnego oraz w praktyce administracyjnej stosuje się rozwiązanie, w której to organ realizuje swoje zadania przez pracowników, ale nadal są to zadania organu, realizowane w jego imieniu i na rzecz organu. Poza wyjątkowymi sytuacjami, wyraźnie wynikającymi z przepisów ustawowych, to nie bezpośrednio organ podejmuje działania w zakresie realizacji swych kompetencji, ale pracownicy aparatu obsługującego organ. Organ, obejmując urząd, wydaje upoważnienia imienne do wykonywania określonych kompetencji w imieniu organu delegującego do wydawania/załatwiania spraw w imieniu i na rzecz organu. Proponowane rozwiązanie wynikające z art. 11 ust 2 projektu ustawy nie wskazuje, że działania te będą realizowane w imieniu i na rzecz organu. Ponadto nie wskazano w jakich okolicznościach faktycznych moz0na upoważnić inne podmioty do realizacji określonych kompetencji. Nie wskazano również sytuacji prawnie relewantnych, skutkujących wygaśnięciem lub umożliwiających odebranie upoważnienia. Wydaje się, że treść art. 268a. Kodeksu postępowania administracyjnego – Organ administracji publicznej może upoważniać, na piśmie utrwalonym w postaci papierowej lub elektronicznej, pracowników obsługujących ten organ do załatwiania spraw w jego imieniu w ustalonym zakresie, a w szczególności do wydawania decyzji administracyjnych, postanowień, zaświadczeń, a także do poświadczania za zgodność odpisów dokumentów przedstawionych przez stronę na potrzeby prowadzonych postępowań z oryginałem – konsumuje w znacznym zakresie projektowany przepis i jednocześnie nie powoduje potencjalnych wątpliwości interpretacyjnych. Proponuję usunąć ust 2 art. 11 i ewentualnie odesłać do przepisów k.p.a. Art. 11 ust. 2 Fundacja FinTech Poland Zasady wydawania decyzji i postanowień powinny być jednolite. W tym kształcie jeden podmiot otrzyma decyzję wydaną przez Przewodniczącego inny przez młodszego specjalistę zatrudnionego w Biurze Komisji. Jeszcze inny mając na uwadze przepisy powyżej może otrzymać decyzję wydaną w sprawie na skutek głosowania (art. 8 ust 5 - “w tym” zaznaczone powyżej). 108 Art. 11 ust. 3 Osoba fizyczna Przepis jest nie jasny, zwłaszcza jeśli uwzględnimy uwagi dotyczące art. 11 ust 2. projektowanej ustawy. Ponadto nie wiadomo, czy czynności procesowe dotyczące spraw określonych w art. 70 ustawy mogą podlegać delegacji, a samo rozstrzygnięcie już jest zastrzeżone do wyłącznej kompetencji Komisji, czy też wszystkie czynności procesowe, od wszczęcia do prawomocnego zakończenia postępowania, są prowadzone bezpośrednio przez Komisję. Proponuję usunąć ust 3 art. 11. Art. 11 ust. 1 pkt 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy doprecyzowanie obecnej treści przepisu w następujący sposób: „13) dokonywanie interpretacji generalnych i indywidualnych, o których mowa w art. 14 i 15 ustawy.”. Wskazujemy, iż art. 13 Projektu ustawy także stanowi o interpretacjach, w związku z powyższym zasadnym zdaje się być doprecyzowanie treści komentowanego przepisu. Podnosimy także, iż zasadnym byłoby, aby projektowana ustawa umożliwiała składanie wniosków o interpretację przepisów Rozporządzenia 2024/1689 do Europejskiego Urzędu ds. Sztucznej Inteligencji. Art. 11 ust. 1 pkt 13 Związek Cyfrowa Polska Wprowadzenie instytucji interpretacji na poziomie lokalnym (krajowym). Rozwiązanie pozwalające na wydawanie takich interpretacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”), skutkować może fragmentaryzacją prawa unijnego (Aktu o sztucznej inteligencji), jego odmienną interpretacją, rozumieniem, stosowaniem oraz egzekwowaniem (co dotyczy zarówno interpretacji indywidualnych, jak również generalnych). Ryzyko to związane jest również z uprawnieniami ministra właściwego do spraw informatyzacji związanym z wydawaniem „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Związek Cyfrowa Polska Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) zostaną wyposażone w podobne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. W praktyce może to 109 wpłynąć na możliwość korzystania ze sztucznej inteligencji przez przedsiębiorstwa, ponieważ niepewność ram prawnych może rodzić zbyt wysokie i zbyt kosztowne ryzyko związane z korzystaniem ze sztucznej inteligencji. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który upoważnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Należy w tym miejscu także wskazać, że rządowe prace w obszarze zakazanych praktyk w Polsce, trwają w czasie, gdy otwarty jest wciąż apel European AI Office o opinie na ten sam temat. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte Art. 11 ust. 1 pkt 13 PWPW Do zadań Komisji należy: dokonywanie interpretacji generalnych i indywidualnych. Uwaga dotyczy też art. 13 projektu. Należy doprecyzować, czy interpretacje, o których mowa w art. 11 i art. 13, stanowią interpretacje w rozumieniu art. 33 i 34 ustawy - Prawo przedsiębiorców. W ocenie PWPW S.A. taka interpretacja powinna stanowić realizację art. 33 i 34 ww. ustawy. Wtedy chronią one podmiot. Ponadto nie ma określenia skutków prawnych interpretacji. Należy je określić lub odesłać w tym zakresie do art. 35 ustawy - Prawo przedsiębiorców Ponadto w przypadku podmiotów publicznych – dla których PWPW S.A. także realizuje swoje usługi – w projekcie ustawy powinno się znaleźć doprecyzowanie skutków interpretacji dla tych podmiotów – tak aby one chroniły podmioty publiczne, wtedy kiedy np. korzystają z produktów AI danego podmiotu, w ramach realizacji zadań publicznych. Art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu Związek Pracodawców Technologii Cyfrowych Lewiatan Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o 110 sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) będą wyposażone w analogiczne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który uprawnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte. Art. 12 KIGEiT Rekomendacja: Programy edukacyjne i dostęp do zasobów obliczeniowych: \"Komisja organizuje coroczne programy edukacyjne dla przedsiębiorców i jednostek badawczo- rozwojowych, które obejmują szkolenia z zakresu implementacji i zgodności z przepisami sztucznej inteligencji. Programy te będą obejmować dostęp do zasobów obliczeniowych (w tym chmury obliczeniowej) i symulacji AI. Komisja zapewni możliwość bezpłatnego korzystania z tych zasobów przez pierwsze 6 miesięcy.\" Art. 12 (Programy edukacyjne) określa, że Komisja ma prowadzić działania edukacyjne, jednak konieczne jest rozwinięcie tych działań w bardziej strukturalny sposób, by wspierać rozwój AI w Polsce. Taka inicjatywa nie tylko pomoże firmom w dostosowywaniu się do przepisów, ale również przyspieszy rozwój i wdrażanie nowych technologii AI, szczególnie w małych firmach i start-upach. Rekomendacja: Wprowadzenie mechanizmów finansowego wsparcia: \"Komisja, we współpracy z ministrem właściwym do spraw informatyzacji, tworzy program wsparcia finansowego w postaci grantów i ulg podatkowych dla przedsiębiorstw, które rozwijają systemy sztucznej inteligencji o niskim lub średnim ryzyku. Program będzie obejmować dofinansowanie do 50% kosztów projektów badawczo-rozwojowych oraz ulgi podatkowe dla przedsiębiorstw korzystających z piaskownic regulacyjnych.\" Rozdział 2, Art. 12 (Wsparcie konkurencyjności) mówi o działaniach wspierających innowacyjność. Można to rozszerzyć o szczegółowe mechanizmy wsparcia, takie jak granty i ulgi 111 podatkowe dla firm AI. Taki zapis wspierałby innowatorów i start-upy AI, stymulując rozwój branży, bez dodatkowych obciążeń finansowych. Art. 12 ust. 1 Osoba fizyczna jk powielenie zapisu art. 11 ust. 1 pkt 5 Art. 12 ust. 2 Logicise ograniczona liczba realizowanych działań Nie jest jasne dlaczego art. 11. 1. pkt. 3 nie został uwzględniony w tym artykule. Art. 12 ust. 2 Osoba fizyczna jk pkt 3) dla spójności zapisów zamiast \"udostępnia\" powinno być \"publikuje\" jak w pkt 4 pkt 4) brak informacji, gdzie Komisje publikuje przykłady dobrych praktyk – czy w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji czy na stronie Ministra właściwego do spraw informatyzacji - zgodnie z zapisem art. 66 ust. 1 Art. 12 ust. 2 pkt 1 CHAMBER wydaje się wskazane, aby Komisja mogła przedstawiać ministrowi właściwemu do spraw informatyzacji także propozycje działań innych, niż legislacyjne - np. organizacyjnych, faktycznych, planistycznych. Art. 12.2.1. PIIT Czy przepisu nie należałoby uzupełnić o ministrów nauki i gospodarki? Komisja powinna mieć prawo zwracania się tam, gdzie uzna, że jest potrzeba działania na rzeczy rozwoju AI. art. 12 i 13 GRAI Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? art. 13 ust. 1 GRAI Komisja może opracowywać wyjaśnienia, opinie i interpretacje – istnieje ryzyko, że w przypadku dużej liczby wpływających np. wniosków o interpretację czas oczekiwania na nią będzie długi. Komisja nie będzie w stanie obsłużyć wniosków. Dodatkowo, pojawiają się wątpliwości czy członkowie Komisji będą mieć właściwe kompetencje, by taki wniosek o interpretację efektywnie, szybko i merytorycznie rozpatrzyć Ponowne rozważenie wskazanych działań lub wskazanie podmiotu wspomagającego ich realizację. 112 Art. 13 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu art. 13 ust. 1 Projektu ustawy poprzez wyjaśnienie, czym „interpretacje” określone w komentowanym przepisie różnią się od interpretacji generalnych wydawanych przez Komisję (art. 15 Projektu ustawy). Art. 13 ust. 1 NRA Art. 13 ust. 1 Projektu, przewidujący możliwość formułowania przez KRiBSI wyjaśnień, opinii oraz interpretacji o istotnym znaczeniu dla stosowania przepisów Projektu, pozostawia bez odpowiedzi kwestię skutków prawnych tychże aktów. Komisji przyznano prawo do opracowywania dokumentów publikowanych w Biuletynie Informacji Publicznej, co niewątpliwie świadczy o ich potencjalnej doniosłości normatywnej. Jednakże niedookreślenie prawnego znaczenia takich wyjaśnień, opinii i interpretacji może prowadzić do ich wyłącznie deklaratywnego charakteru i naraża te działania na ryzyko jedynie pozornej, a nie rzeczywistej skuteczności. Jeśli bowiem Komisja nie będzie związana własnymi interpretacjami, a stosujące się do nich podmioty mogłyby mimo to doświadczać sankcji, zamierzona funkcja zapewnienia pewności prawa i spójności w interpretacji przepisów ulegnie zdezawuowaniu, wprowadzając dodatkowe i nieakceptowalne ryzyko dla odbiorców tych wytycznych. Art. 13 ust. 1 Związek Banków Polskich Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na podstawie nazwy było wiadomo jaki dany dokument ma charakter Art. 13 ust. 1 Fundacja FinTech Poland Skoro ustawa jest wzorowana na ustawie o nadzorze nad rynkiem finansowym to do rozważenia pozostaje wprowadzenie możliwości wydania rekomendacji jako kolejnego sposobu działania Komisji. Rekomendacje są czym innym niż opinie czy wyjaśnienia. Nie są to też interpretacje indywidualne. Rekomendacje przyczyniają się do ustandaryzowania rynku. Art. 13 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w przypadku uzasadnienia decyzji wydanych przez Komisję zakres publikowanych informacji powinien być ograniczony, tzn. nie powinien obejmować tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów. Art. 13 ust. 2 Związek Banków Polskich Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, po usunięciu danych identyfikujących stronę postępowania, treść decyzji wydawanych na podstawie przepisów ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Upublicznienie informacji, jakiego podmiotu dotyczy decyzja byłoby formą kary, której nie przewiduje AI Act. Dla porównania w przypadku regulacji dotyczących AML publikacja informacji 113 o instytucji obowiązanej oraz zakresie naruszenia przepisów wchodzi do katalogu kar administracyjnych Art. 13 ust. 2 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko publikowania decyzji wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wraz z wrażliwymi informacjami, szczególnie istotnymi z perspektywy działalności gospodarczej prowadzonej przez przedsiębiorców podlegających kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w tym tajemnicy przedsiębiorstwa. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotnym jest zagwarantowanie maksymalnej ochrony tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. W związku z powyższym proponujemy dodanie w treści aktualnego brzmienia art. 13 ust. 2 projektu ustawy o systemach sztucznej inteligencji zastrzeżenia (wzorowanego na art. 31b ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów), że publikowane decyzje nie będą zawierały informacji kwalifikowanych jako tajemnica przedsiębiorstwa i innych informacji podlegających ochronie prawnej na podstawie odrębnych przepisów. Art. 13 ust. 5 Fundacja FinTech Poland Sugerujemy nie posługiwać się przy określaniu koniecznych elementów przymiotnikami które można różnie interpretować. Trudno określić co jest “wyczerpujące” i kiedy opis stanu faktycznego jest wyczerpujący. Takie określenie powoduje, że po pierwsze łatwo o pretekst do odrzucenia wniosku. Po drugie podmiot występujący działając racjonalnie (i chcąc uniknąć odrzucenia) będzie rozciągał opis co utrudni skupienie się na istocie problemu i spowoduje stworzenie zbędnej dokumentacji. Jeśli już to opis powinien być zwięzły a nie wyczerpujący. Postulowane brzmienie przepisu: 5. Interpretacja, o której mowa w ust. 1, zawiera opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie. art. 13 i 14 GRAI I. Wskazania wymaga moc prawna interpretacji, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? II. Należy zwrócić także uwagę na potrzebę ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź 114 usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Art. 14 Osoba fizyczna Nie wskazano trybu procesowego wydawania interpretacji indywidualnych oraz czy podlegają one zaskarżeniu do sądu. Z uwagi na umiejscowienie przepisu odsyłającego do ustawy kodeks postępowania administracyjnego w art. 56, brak takiego wskazania w art 11 może budzić wątpliwości interpretacyjne. Porządkującym rozwiązaniem jest przesunięcie przepisów dotyczących interpretacji indywidualnych i generalnych do rozdziału 4 ustawy, i jednoczesne dodatnie treści wynikającej z art. 56 ustawy już na początku tego rozdziału. Odwołanie powinno być generalne, ze wskazaniem k.p.a. jako uniwersalnego zbioru reguł procesowych do wszystkich czynności o charakterze administracyjnoprawnym podejmowanym przez Komisję, Przewodniczącego oraz Biuro/Urząd. Art. 14 ITCORNER W projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (“KRiBSI”) na wydanie interpretacji indywidualnej dot. przepisów AI Act. Sugerujemy, na wzór interpretacji indywidualnej (podatkowej), wskazanie maksymalnego terminu na wydanie interpretacji (np. 30 dni), wraz z zastrzeżeniem, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska wnioskodawcy. Postulujemy także o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Projekt nie reguluje procedury odwoławczej, a także nie wskazuje, co miałby zawierać sprzeciw od wydanej interpretacji - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 e-Izba Postulujemy rozszerzenie zakresu podmiotów uprawnionych do występowania o interpretacje również o organizacje zrzeszające podmioty podlegające pod zakres zastosowania rozporządzenia 2024/1689 (izby gospodarcze, stowarzyszenia, fundacje). Takie podmioty mogłyby występować o interpretacje na rzecz wszystkich swoich członków. W ten sposób interpretacja dawałaby pewność interpretacji przepisów szerszej grupie podmiotów, a jednocześnie eliminowałaby zbędne obciążenie Komisji, czyli indywidualne wnioski o interpretacje indywidualne w takich samych sprawach składane przez większą liczbę podmiotów. Art. 14 CHAMBER ponownie projekt tworzy na kanwie już istniejących przepisów o wydawaniu interpretacji indywidualnych. Wydaje się, że lepszym rozwiązaniem jest odesłanie do przepisów ustawy Prawo przedsiębiorców wprost, ze wskazaniem że w zakresie objętym ustawą o systemach sztucznej inteligencji ubiegać się mogą o interpretacje podmioty inne, niż przedsiębiorcy. Opłatę od wydania interpretacji można ustalić na poziomie wyższym z racji na specjalistyczny charakter spraw związanych ze sztuczną inteligencją, zwracamy jednak uwagę na to, że wpisanie w ustawę 115 określonej kwoty będzie oznaczało jej realną deprecjację z czasem. Rozważyć należałoby ustalenie tej kwoty w odniesieniu do jakiegoś wskaźnika zapewniającego waloryzację kwoty (np. pensja minimalna lub średnia w sektorze przedsiębiorstw). Art. 14 ISSA Polska 1.Brakuje określenia maksymalnego terminu na wydanie interpretacji przepisów. Podmiot wnioskujący o interpretację pozostanie w niepewności co do terminu rozpatrzenia jego wniosku. 2.W projekcie ustawy nie określono, czy interpretacje wydane w trybie art 14 mają być wiążące dla innych organów. Należy dookreślić tę kwestię w projekcie ustawy. Art. 14 ICC Poland i) Konieczność określenia skutku prawnego interpretacji Przede wszystkim zwraca uwagę brak określenia w ustawie skutku prawnego interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji. Nie jest jasne, czy taka interpretacja ma charakter wiążący dla organów administracji publicznej (w tym Komisji) oraz czy wnioskodawca może opierać się na niej w swoich działaniach. W celu zapewnienia pewności prawnej oraz praktycznego znaczenia zaproponowanego mechanizmu, pożądanym rozwiązaniem byłoby wprowadzenie przepisu wskazującego, że interpretacja indywidualna jest wiążąca dla organów w zakresie stanu faktycznego przedstawionego we wniosku, analogicznie do rozwiązań funkcjonujących na gruncie Ordynacji podatkowej3 w odniesieniu do interpretacji indywidualnych (por. art. 14k Ordynacji podatkowej). Przepisy ustawy powinny również jasno określać zakres ochrony prawnej wynikającej z interpretacji, jak również możliwość jej zmiany, uchylenia lub wygaśnięcia, wraz ze wskazaniem skutków tych zdarzeń dla ochrony wnioskodawcy. ii) Zakres wniosku a możliwości organizacyjne Biura Komisji Zwraca uwagę, że szeroki zakres spraw, które mogą być przedmiotem wniosku o interpretację (art. 14 ust. 2 Projektu) i stopień skomplikowania tej materii, może rodzić pewne wątpliwości co do dostosowania tego mechanizmu do możliwości organizacyjnych Biura Komisji oraz przewidzianego w Projekcie budżetu (art. 87 Projektu). Istnieje ryzyko nadmiernego obciążenia Przewodniczącego Komisji, Komisji i Biura Komisji dużą liczbą wniosków, co może negatywnie wpłynąć na terminowość i jakość wydawanych interpretacji. W tym kontekście należałoby rozważyć albo zwiększenie docelowego maksymalnego limitu wydatków z budżetu państwa na ten cel albo ograniczenie zakresu spraw podlegających mechanizmowi interpretacji np. poprzez wskazanie katalogu takich zagadnień, które nie mogą być przedmiotem wniosku. Taki katalog powinien obejmować takie regulacje rozporządzenia 2024/1689 lub ustawy, których interpretowanie nie ma realnej wartości dodanej dla wnioskodawcy, są jednoznaczne lub zostały już uprzednio wyjaśnione (np. w ramach interpretacji generalnej). Wpływ na zmniejszenie ryzyka nadmiernego obciążenia mogłoby mieć także doprecyzowanie wymogów formalnych co do wniosku o interpretację indywidualną. Organ powinien mieć wówczas możliwość odmowy rozpatrzenia wniosku, który nie spełnia określonych wymogów. 116 iii) Brak terminu na wydanie interpretacji przez Przewodniczącego W obecnym brzmieniu art. 14 Projektu nie wskazano terminu, w jakim Przewodniczący Komisji powinien wydać interpretację indywidualną (termin taki przewidziano jedynie dla Komisji na rozpatrzenie sprzeciwu od takiej interpretacji). Dla zapewnienia efektywności procedury oraz pewności prawnej dla wnioskodawców proponujemy wprowadzenie konkretnego terminu na wydanie interpretacji, co byłoby zgodne z zasadami przyjętymi dla analogicznych instytucji w innych ustawach (np. w Ordynacji podatkowej). iv) Wysokość opłaty za wniosek o interpretację Opłata w wysokości 150 zł może być niewspółmierna do nakładu pracy oraz kosztów związanych z przygotowaniem interpretacji indywidualnej w tak specjalistycznej dziedzinie, jaką jest sztuczna inteligencja. Wydanie takiej interpretacji w wielu przypadkach będzie wymagało bowiem analizy technicznej oraz zaangażowania specjalistów z różnych dziedzin, co generuje znaczące koszty. Obecnie proponowana opłata, przy pozostawieniu szerokiego zakresu wniosku o interpretację, może tym samym prowadzić do nadmiernego obciążenia budżetu i zdolności organizacyjnych Biura Komisji, ograniczając jego zdolność do realizacji zadań ustawowych na odpowiednim poziomie. v) Procedura odwoławcza – sprzeciw do Komisji Proponowany w art. 14 ust. 6-7 mechanizm odwoławczy, polegający na złożeniu sprzeciwu od interpretacji wydanej przez Przewodniczącego do Komisji, może budzić wątpliwości co do jego skuteczności i niezależności. Ponieważ zarówno Przewodniczący, jak i Komisja będą wspierani w wykonywaniu tego zadania przez to samo Biuro, istnieje ryzyko braku obiektywizmu i niezależności w rozpatrywaniu sprzeciwu. Zaproponowana procedura efektywnie będzie zatem bliższa wnioskowi o ponowne rozpatrzenie sprawy kierowanemu do tego samego organu niż rzeczywistemu odwołaniu. W związku z tym należałoby rozważyć zastąpienie instytucji sprzeciwu instytucją wniosku o ponowne rozpatrzenie sprawy przez Przewodniczącego Komisji, co zwiększyłoby przejrzystość procedury i wzmocniło zaufanie podmiotów korzystających z instytucji interpretacji Art. 14 Polski związek zarządzania wierzytelnościami Art. 14 Projektu W Projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”) na wydanie interpretacji indywidualnej dotyczącej przepisów AI Act (art. 14 Projektu). Zważywszy na zapotrzebowanie sektora, istotnym rozwiązaniem, na wzór interpretacji indywidualnej (podatkowej), byłoby wskazanie maksymalnego terminu na wydanie interpretacji (np. 60 dni). Sugerujemy, by termin opatrzyć zastrzeżeniem właściwym dla instytucji interpretacji milczącej, uznającej potwierdzenie stanowiska wnioskodawcy w przypadku braku niewydania właściwej interpretacji w wyznaczonym terminie. Równocześnie postulujemy o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się 117 przez wnioskującego do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. W Projekcie nie wskazano także odpowiedniej procedury odwoławczej od interpretacji, jak i nie wskazano, poszukując rozwiązań per analogiam do sprawdzonych rozwiązań wynikających z ordynacji podatkowej, sugerowanej treści sprzeciwu od danej interpretacji. Sprzeciw w tej sprawie - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 Polskie Towarzystwo Informatyczne 1.opłata interpretacji - możliwość zwrotu pieniędzy dla składającego wniosek o interpretacje Określenie przypadków, w których można ubiegać się o zwrot pieniędzy za prośbę o interpretacji 2. Nie jest jasne, czy za odwołanie od interpretacji również musi być opłacone 3. Brak przepisu o skutkach zastosowania się do interpretacji - np. wyłączenie możliwości nałożenia sankcji w przypadku zastosowania się do interpretacji Propozycja Analogicznie jak w art. 11b ustawy o nadzorze nad rynkiem finansowym: “Interpretacja Komisji nie jest wiążąca dla podmiotu, o którym mowa w ust. 1, i Komisji, z zastrzeżeniem że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej” art. 14 ust. 1 Logicise Przewodniczący Komisji wydaje interpretację przepisów Wydaje się, że interpretację przepisów powinna wydawać Komisja, a nie Przewodniczący vide Art. 15. art. 14 ust. 1 PIIT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 ustawy interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. , Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. 118 Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 KIGEiT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w Art. 55 ustawy. Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 GRAI I. Konieczność doprecyzowania: 1) kogo rozumiemy jako określonego terminem „zainteresowanego”? 2) termin w jakim interpretacja ma zostać wydana i skutki niedochowania terminu. 3) skutek jaki wywołuje otrzymanie interpretacji przez zainteresowanego. II. Projekt ustawy wprowadza obowiązek Przewodniczącego do wydawania na wniosek interpretacji indywidualnych, bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Mając na uwadze tematykę i cel wystąpienia o taką interpretację zasadne jest, aby termin wydania interpretacji indywidualnej był nie dłuższy niż 3 miesiące. III. Do rozważenia wprowadzenie zastrzeżenia, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego. 119 IV. Brak jednoznacznego przesądzenia o braku mocy wiążącej interpretacji indywidualnej dla wnioskującego przedsiębiorcy, z zastrzeżeniem, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez Komisję interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Nadanie brzmienia: „1. Przewodniczący, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów ustawy, w terminie nie dłuższym niż 3 miesiące.” „Niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.”. Dodanie ust. 8: „8. Zastosowanie się przez wnioskodawcę do wydanej przez Przewodniczącego Komisji interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.”. art. 14 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) O ile pozytywnie należy ocenić, że Komisja może wspierać uczestników rynku w interpretowania Rozporządzenia 2024/1689, o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do sytuacji, że pomimo publikacji interpretacji w Biuletynie Informacji Publicznej, prace Komisji będą zakłócone ciągle wpływającymi wnioskami o interpretacje (bo każdy podmiot podlegający pod Rozporządzenie 2024/1689 będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych (sporadyczność wydawania). W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod Rozporządzenie 2024/1689, ale również organizacje zrzeszające takie podmioty (związki pracodawców, stowarzyszenia, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich Członków ułatwi zapewnienie zgodności z Rozporządzeniem 2024/1689, a zarazem pozwoli uniknąć „zasypania\" Komisji dużą ilością podobnych wniosków o interpretację. Postulujemy także o doprecyzowanie, że w treści art. 14 ust. 1 Projektu ustawy chodzi o interpretację indywidualną, jak również wskazujemy, że ustanowiony powinien zostać termin na wydane tej interpretacji indywidualnej przez Komisję. W ten sposób przedsiębiorcy wnioskujący o wydanie interpretacji mieliby zakreślone ramy czasowe otrzymania tej interpretacji, co może mieć istotne znaczenie z perspektywy prowadzonego biznesu. 120 Art.14.1. PIIT Należy zapewnić, aby instytucja interpretacji indywidualnych i generalnych była zgodna z przepisami prawa unijnego. art. 14 ust. 1 SKwP Warto podkreślić, że w ustawie nie wskazano, jaki efekt dla wnioskodawcy spowoduje otrzymana interpretacja. Np. indywidualne interpretacje podatkowe dają efekt ochronny wskazany w Ordynacji podatkowej. Wydaje się, że należy w ustawie wskazać skutek, jaki osiągnie wnioskodawca otrzymaną interpretacją. Art. 14 ust. 1 Fundacja FinTech Poland Zgodnie z art. 14 Przewodniczący wydaje interpretacje indywidualne bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Wskazanie terminu wydania interpretacji jest kluczowe dla zapewnienia pewności prawnej i przewidywalności procedur administracyjnych. Ustalony termin umożliwia wnioskodawcy lepsze planowanie działań, minimalizując ryzyko związane z opóźnieniami w uzyskaniu interpretacji, co mogłoby wpłynąć na strategiczne decyzje biznesowe i operacyjne, zwłaszcza w obszarze innowacyjnych technologii, takich jak sztuczna inteligencja. Brak terminu wydania interpretacji może prowadzić do nadmiernej zwłoki ze strony organów, co negatywnie wpływa na efektywność i zaufanie do administracji publicznej. Dlatego wskazanie konkretnego terminu jest niezbędne, aby zagwarantować sprawność postępowania i ochronę interesów wnioskodawców. Rekomendujemy termin 3 miesięcy. Tryb interpretacji indywidualnych nie w każdym przypadku może być nieefektywny - zgadzamy się, że w niektórych sytuacjach interpretacje indywidualne mogą stanowić wsparcie dla poszczególnych podmiotów. Przy czym, należy pamiętać, że interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby 121 gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli efektywnie działać KRiBSI i uniknie potrzebie wydania interpretacji indywidualnych o podobnym stanie faktycznym. Art. 14 ust. 1a Związek Banków Polskich [Propozycja dodania ust. 1a] 1a. Zainteresowanym jest podmiot, o którym mowa w art. 2 ust.1 pkt a)- f) rozporządzenia 2024/1689 lub zamierzający wykonywać taką działalność. Propozycja ma na celu doprecyzowanie pojęcia zainteresowanego, w celu uniknięcia wątpliwości. Art. 14 ust 1 - 5 NRA Art. 14 ust. 1–5 Projektu nie określa wyraźnie skutków prawnych dla interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji, co rodzi istotne obawy o stabilność stosowania prawa i poszanowanie praw podmiotów, które na tych interpretacjach mogą się opierać. Zgodnie z treścią art. 14 ust. 1 Przewodniczący, na wniosek zainteresowanego, może wydać interpretację przepisów odnoszącą się do wskazanego stanu faktycznego lub zdarzenia przyszłego, zaś ust. 5 pozwala na odstąpienie od uzasadnienia, jeśli w pełni podziela stanowisko wnioskodawcy. Zaniechanie skonstruowania w tym przypadku regulacji o charakterze wiążącym stawia pod znakiem zapytania ochronę prawną wnioskodawców, szczególnie gdy interpretacja miałaby być w przyszłości zmieniona. Taki stan prawny może prowadzić do sytuacji, w której podmioty korzystające z interpretacji Komisji nie mają dostatecznej pewności prawnej ani ochrony przed przyszłymi sankcjami, nawet jeśli działały zgodnie z wydaną interpretacją. Brak jednoznaczności co do mocy wiążącej tych aktów może osłabić ochronę tych, którzy w zaufaniu do interpretacji dokonali określonych działań lub zaniechań. art.14 ust 2 GRAI W dokumencie nie porusza się zagadnień związanych z dopasowaniem sztucznej inteligencji (AI Aligment). Koncepcja właściwego dopasowania SI jest bardzo istotna i powinna być jednym z głównych obszarów zainteresowania organów kontrolnych. Systemy AI powinny działać zgodnie z intencjami i celami ludzi, a ponieważ technologie AI stają się coraz bardziej zaawansowane, ryzyko niepożądanych skutków ich działania wzrasta. Można wskazać 3 główne obszary ryzyka: 1. Bezpieczeństwo: możliwość podejmowania samodzielnych decyzji, często w kontekstach, które są trudne do przewidzenia przez ludzi. 2. Zgodność z wartościami ludzkimi: uwzględnianie etyki i norm społecznych. 3. Kontrola i przewidywalność: system nie będzie \"nadużywał\" autonomii ani podejmował działań, które mogłyby podważać zaufanie ludzi. W dłuższej perspektywie dopasowanie AI będzie kluczowe, jeśli systemy zaczną zbliżać się do poziomu zbliżonego lub wyższego od ludzkiej inteligencji. W takim przypadku, bez odpowiednich zabezpieczeń, istnieje ryzyko, że superinteligentna AI będzie miała cele sprzeczne z naszymi interesami. Dodanie w ust. 2 podpunktu 3: 122 „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. art.14 ust 2 KIGEiT Propozycja zapisu: dodanie pkt 3) stosowania systemów zabezpieczeń Rozszerzenie o możliwość złożenia wniosku o interpretację stosowanych systemów zabezpieczeń z względu na zachowanie jak najwyższych ram bezpieczeństwa i spełnienie kryteriów Rozporządzenia oraz ustawy w celu prawidłowego przebiegu kontroli systemów sztucznej inteligencji. art. 14 ust. 2 i art. 15 w zw. z art. 18 GRAI Poważne wątpliwości budzi uprawnienie Komisji / Przewodniczącego Komisji do wydawania interpretacji, szczególnie w indywidualnej sprawie - interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy. Należy wskazać, że taki przepis narusza kompetencje TSUE do wykładni przepisów aktów prawa unijnego – co oznacza, że w zaproponowanej postaci będzie przesłanką wszczęcia wobec Polski postępowania o naruszenie przepisów prawa unijnego i obowiązków państwa członkowskiego. Dodatkowo, takie uprawienie krajowego organu powoduje ryzyko, że w Polsce powstanie odmienne do europejskiego podejście dla niektórych kwestii, co może mieć negatywny wpływ na przedsiębiorców działających na terenie całej UE i którzy dla niezakłóconej działalności potrzebują jednolitej linii interpretacyjnej w całej UE. Usunięcie zgłoszonej niezgodności. Art.14 ust 2 Tauron Dystrybucja Dodanie podpunktu 3: „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. Art. 14 ust. 2 Polskie Towarzystwo Informatyczne Wniosek o interpretację (...) 2) określenia ryzyka systemu sztucznej inteligencji Propozycja „2) określenia ryzyka systemu sztucznej inteligencji, zgodnie z zapisami Rozporządzenia 2024/1689” Wniosek o interpretację powinien być stosowany w ramach sformalizowanej procedury. Niejasne jest np. w jaki sposób odbywałoby się określanie ryzyka systemu sztucznej inteligencji? W ramach tzw. „Standardisation Request” ze strony Komisji Europejskiej (C(2023)3215, 2023), powstaje 123 zestaw standardów, które będą umożliwiały ocenę ryzyka systemów sztucznej inteligencji. Obowiązywać będzie zasada „presumption of confomity”. Jak np.. ma się do tego kwestia wniosku o interpretację? Tego typu rzeczy powinny zostać doprecyzowane w ustawie. Art. 14.2.2) PIIT Prawdopodobnie w tym przepisie mogło chodzić o poziom ryzyka (art. 6 ASI). Brzmi jednak jak określenie rodzajów ryzyk. Art. 14.4. PIIT Czy to wyklucza uiszczenie opłaty online jednocześnie ze złożeniem elektronicznego formularza? Art. 14 ust. 5a i 5c Związek Banków Polskich 5a. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 30 dni od dnia otrzymania wniosku. 5b. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. 5c. Interpretacja nie ma charakteru wiążącego dla przedsiębiorcy. Konieczność wskazania terminu wydania interpretacji oraz skutków niewydania interpretacji i charakteru interpretacji. W razie nieuwzględnienia, przyjmujemy zasadę z KPA : Organy administracji publicznej obowiązane są załatwiać sprawy bez zbędnej zwłoki. Załatwienie sprawy wymagającej postępowania wyjaśniającego powinno nastąpić nie później niż w ciągu miesiąca, a sprawy szczególnie skomplikowanej - nie później niż w ciągu dwóch miesięcy od dnia wszczęcia postępowania. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza 124 akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli Art. 14 ust 6 PIIT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 KIGEiT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. , Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o doprecyzowanie formy sprzeciwu. Art. 14 ust 6 SKwP Od interpretacji przysługuje sprzeciw do komisji. Interpretacje wydaje Przewodniczący komisji, a komisja rozpatruje sprzeciw. Pytanie, czy ustawodawca zamierzał osiągnąć taki efekt, ponieważ zapis ten jest sprzeczny z art. 11 ust. 1 pkt 13, z którego wynika, że to do zadań komisji należy wydawanie interpretacji indywidualnych. Natomiast w przepisie tym nie ma nic o rozpatrywaniu sprzeciwów od interpretacji. Zakładając jednak, że interpretacje wydaje Przewodniczący, a sprzeciwy rozpatruje Komisja, to czy nie zostaje naruszona zasada dwuinstancyjność postępowania administracyjnego. Przewodniczący bowiem, kieruje pracami komisji. W ustawie nie wskazano drogi kontroli sądowej interpretacji, co może być poczytane, jako naruszenie konstytucyjnego prawa do sądu. art. 14 ust. 6 - 7 NRA Art. 14 ust. 6–7 Projektu nie formułuje jasno ani formy prawnej aktu, w którym Komisja rozstrzyga sprzeciw wobec wydanej interpretacji indywidualnej, ani ścieżki prawnej dostępnej dla wnioskodawcy w przypadku chęci odwołania się od takiego rozstrzygnięcia. Brak tak precyzyjnych regulacji budzi poważne wątpliwości co do ochrony praw stron postępowania, w ramach którego będzie można zakwestionować decyzję Komisji, ponieważ brak jednoznacznych ustaleń co do formy aktu i przysługującej ścieżki odwoławczej naraża podmioty wnioskujące na ryzyko pozbawienia ich skutecznych instrumentów obrony. Zagwarantowanie jasności i pewności prawa, zwłaszcza w obszarze decyzji interpretacyjnych, jest kluczowe dla ochrony praw jednostek oraz przejrzystości procesu. Gdyby rozstrzygnięcie przybrało formę decyzji administracyjnej, to otwarta 125 byłaby możliwość wniesienia skargi do sądu administracyjnego. Alternatywnie, gdyby rozstrzygnięcie przybrało formę postanowienia, zasadnym byłoby rozważenie możliwości odwołania się do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej także „SOKiK”), wzorem postępowania przewidzianego w art. 57 ust. 1 Projektu. W związku z tym należałoby wyraźnie określić, iż rozstrzygnięcie Komisji winno przyjmować formę decyzji albo postanowienia oraz doprecyzować dopuszczalność skargi do sądu administracyjnego albo odwołania do SOKiK. art. 14 ust. 6 - 7 PIIT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 KIGEiT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to też ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 GRAI Projektowana ustawa nie reguluje procedury odwoławczej (rozpatrzenia sprzeciwu) oraz nie wskazuje co ma zawierać sprzeciw od interpretacji indywidualnej. Propozycja uregulowania sprzeciwu na wzór odwołania w przepisach KPA. art. 14 ust. 7 SKwP Powinno się tu wskazać możliwość odwołania do właściwego sądu. Art. 14 ust. 7 Związek Banków Polsich 7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio. 126 Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Art. 15 PIRP kompetencja Komisji do dokonywania interpretacji generalnych jest zbyt daleko idąca; w aktualnym stanie prawnym wydaje się wystarczająca przyznana Komisji kompetencja w zakresie interpretacji w sprawach indywidualnych (art. 14 ustawy) Art. 15 ICC Poland i) Konieczność uregulowania procedury wydawania interpretacji generalnych Artykuł 15 Projektu jest zbyt ogólny i nie precyzuje w ogóle procedury wydawania interpretacji generalnych. Brakuje informacji na temat trybu postępowania, terminów, podmiotów uprawnionych do złożenia wniosku, zakresu wniosku, czy też skutków wydania takiej interpretacji. W celu zapewnienia transparentności i efektywności procesu, konieczne jest zatem szczegółowe uregulowanie procedury lub odwołanie się do odpowiedniego stosowania przepisów dotyczących interpretacji indywidualnych (po ich odpowiednim skorygowaniu z uwzględnieniem ww. uwag). ii) Relacja między art. 13 a art. 15 Projektu Nie jest jasne, jaka jest relacja między interpretacjami generalnymi (art. 15 Projektu) a „wyjaśnieniami, opiniami i interpretacjami mającymi istotne znaczenie dla stosowania przepisów”, wydawanymi przez Komisję (art. 13 Projektu) oraz w jakim zakresie te instytucje się od siebie różnią. Jeśli interpretacje generalne mają służyć ujednoliceniu praktyki i ogólnemu wyjaśnieniu przepisów, warto tę funkcję wyraźnie zaznaczyć. Należy zarazem rozważyć łączne uregulowanie interpretacji generalnych oraz wyjaśnień, opinii i interpretacji, z jasnym określeniem różnic w procedurach oraz skutkach prawnych poszczególnych form. Art. 15 Instrat – Fundacja Centrum Cyfrowe Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Art. 15 ITCORNER Projekt nie reguluje, jakie podmioty i w jakim trybie mogłyby wnioskować o interpretacje generalną - sugerujemy wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. W tym kontekście uważamy, że ogólnokrajowe stowarzyszenia zrzeszające przedsiębiorców z branży technologicznej powinny zostać uprawnione do wnioskowania o interpretację generalną z uwagi na ich przekrojową wiedzę, doświadczenie oraz wpływ na branżę technologiczną art. 15 GRAI Projekt ustawy nie reguluje w jakim trybie i jakie podmioty mogą występować o interpretację generalną. Wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. 127 art. 15 Polski związek zarządzania wierzytelnościami Art. 15 Projektu W Projekcie nie wskazano docelowej grupy podmiotów, jak i trybu wnioskowania o interpretację generalną (art. 15 Projektu). W celu zachowania funkcjonalności KRiBSI postulujemy o wskazanie katalogu podmiotów i trybu składania wniosków w celu uzyskania rzeczonej interpretacji. Tym samym wskazujemy, że rola ogólnokrajowych stowarzyszeń zrzeszających przedsiębiorców z branży technologicznej powinna być kluczowa, a same stowarzyszenia powinny zostać uwzględnione w wyżej wspomnianym katalogu do wnioskowania o interpretację generalną z uwagi na ich kompleksowy charakter, szerokie spojrzenie na interesy branży, doświadczenie oraz wpływ na sam sektor technologiczny. art. 15 NRA Zgodnie z art. 13 ust. 1 Projektu Komisja jest uprawniona do sporządzania wyjaśnień, opinii oraz interpretacji w sprawach objętych zakresem jej działania, w celu ułatwienia stosowania przepisów w tym obszarze. Z kolei art. 15 Projektu pozwala Komisji dokonywać interpretacji generalnych, zarówno z własnej inicjatywy, jak i na wniosek, w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. De facto oba wskazane przepisy zdają się dotyczyć wydawania podobnych aktów interpretacyjnych, które mimo odmiennych nazw w praktyce wydają się być zbieżne co do ich charakteru i przeznaczenia, a brak czytelnego rozróżnienia wprowadza ryzyko niepewności prawnej w stosowaniu obu instytucji. Wydaje się zatem niezbędne, aby w Projekcie wyraźnie rozgraniczono zakresem interpretacji wynikających z art. 13 ust. 1 oraz z art. 15 albo wprowadzono w inny sposób jednoznaczną ich dyferencję. Taka precyzja zapewniłaby większą klarowność co do zakresu kompetencji Komisji i wyeliminowała niejasności, jakie mogą wyniknąć z nakładania się tych regulacji. Konieczne jest również określenie, jak sygnalizowano powyżej, skutków prawnych interpretacji zawartych w obu artykułach, co dodatkowo zabezpieczyłoby podmioty stosujące się do wytycznych Komisji. Art. 15 Związek Banków Polskich Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z zastrzeżeniem, że działania tych osób w zakresie w jakim zastosowały się do interpretacji Komisji nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnych. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie 128 swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. Art. 15 Osoba fizyczna jk Artykuł powiela zapisy art. 13 ust. 1 oraz art. 14 Art. 16 Osoba fizyczna jk dla spójności zapisów zamiast \"zamieszczane są\" powinno być \"publikowane są\" art. 16 PIIT Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. art. 16 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o uzupełnienie treści przepisu art. 16 Projektu ustawy poprzez wskazanie, że usunięciu podlegają również informacje stanowiące tajemnicę przedsiębiorstwa oraz inne informacje podlegające ochronie na podstawie odrębnych przepisów. art. 16 GRAI W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Doprecyzowanie przepisu: 129 Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 KIGEiT Propozycja zapisu: Art. 16. Interpretacje, o których mowa w Art. 14 i Art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Art. 16 ICC Poland Artykuł 16 przewiduje publikację interpretacji po usunięciu jedynie danych identyfikujących wnioskodawcę. Takie podejście może być niewystarczające w kontekście ochrony informacji poufnych i tajemnicy przedsiębiorstwa. W treści interpretacji mogą znajdować się szczegółowe dane techniczne, know-how lub inne wrażliwe informacje, których ujawnienie może narazić wnioskodawcę na straty, zwłaszcza, że wyczerpujące przedstawienie stanu faktycznego we wniosku o interpretację (art. 14 ust. 3 Projektu) ze względu na jego przedmiot będzie z reguły wymagało szczegółowego opisu technicznego systemu maszynowego. Rozwiązaniem w tym zakresie może być wprowadzenie mechanizmu pozwalającego wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku. Organ wydający interpretację powinien być zobowiązany do uwzględnienia tych zastrzeżeń i zapewnienia, że publikowana wersja dokumentu nie zawiera chronionych informacji. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści interpretacji, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Art. 16 TAURON Dystrybucja W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot 130 będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Propozycja: Doprecyzowanie zapisu: Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 Instrat – Fundacja Centrum Cyfrowe Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących podmiot, którego sprawa dotyczy lub wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. - uwaga: w obecnym brzmieniu wydaje się, jakby dokumenty w sprawach, które nie zostały wszczęte na wniosek nie miały być anonimizowane. - uwaga: w obecnym brzmieniu przepisu wydaje się, jakby w przypadku interpretacji z urzędu dane nie musiały być anonimizowane. Art. 17 ust. 1 CHAMBER mając na uwadze prawdopodobny termin przyjęcia ustawy i czas niezbędny do zorganizowania prac Komisji i Biura, wydaje się że przedstawienie sprawozdania powinno nastąpić po raz pierwszy dopiero w marcu 2026 r. Sugerujemy przyjęcie stosownego przepisu przejściowego. art. 17 ust. 1 GRAI Zmiana zakresu raportowania, zbytecznym wydaje się raportowanie do obu stron Skreśla się słowa: „i ministrowi właściwemu do spraw informatyzacji”. Art.17 ust. 1 ISSA Polska Sprawozdanie powinno zawierać także informacje o wydanych indywidualnych interpretacji Art. 18 ITCORNER W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie jest w wystarczającym stopniu precyzyjny. Aktualnie art. 18 ust. 2 Projektu zakłada, że Przewodniczący Komisji powinien mieć znaczną wiedzę i dorobek “w zakresie sztucznej inteligencji lub prawie”. Uważamy, że osoba piastująca krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne, wyróżniała się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii - w tym kontekście uważamy zastosowane w Projekcie pojęcie “prawo” za zbyt pojemne. Przewodniczący Komisji, aby przekrojowo rozumieć otoczenie prawne dot. sztucznej inteligencji oraz ryzyka z nią związane, powinien cechować się wiedzą oraz wysoką świadomością prawną dotyczącą co najmniej własności intelektualnej (prawa autorskie, ochrona programów komputerowych, bazy danych), prawa IT, danych osobowych oraz cyberbezpieczeństwa. Pod rozwagę także zostawiamy, czy pojęcie sztucznej inteligencji nie powinno w tym kontekście także zostać doprecyzowane, uwzględniając przy tym uczenie maszynowe. 131 art. 18 ust.1 SKwp Jak już wcześniej wskazywaliśmy, konkurs tak, ale akceptacja Sejmu i powołanie przez Prezesa RM. art. 18 ust.1 GRAI Kwestia upolitycznienia wyboru Przewodniczącego Komisji. W projekcie wyboru kandydata na Przewodniczącego dokonywać ma komisja kwalifikacyjna (uwagi do samej komisji poniżej), ale powołanie nadal należy do Prezesa Rady Ministrów. Są obawy, że ze względów politycznych to powołanie może albo nie nastąpić, albo być odwlekane w czasie, albo zostać dokonane z pominięciem przepisów. Brakuje mechanizmu odblokowującego występujące przeszkody politycznie. Propozycja przepisu, zawierającego alternatywną ścieżkę, jeżeli powołanie nie nastąpi w przeciągu 14 dni od wyłonienia kandydata. Art. 18 ust. 1 pkt 4 Polskie Towarzystwo Infopmatyczne Wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Propozycja Kryterium wyboru Przewodniczącego Komisji na podstawie znaczącego dorobku w zakresie prawa jest niezgodne z tematyką działania Komisji, gdzie wymagane są kompetencje związane z AI. Wiedza i doświadczenie z zakresu prawa nie gwarantuje wymaganej w Komisji wiedzy dotyczącej AI Art. 18 ust. 2 Polski związek zarządzania wierzytelnościami Art. 18 ust. 2 Projektu W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie został określony wystarczająco precyzyjnie. Bieżące brzmienie art. 18 ust. 2 Projektu wskazuje, że Przewodniczący Komisji powinien wyróżniać się wiedzą i posiadać znaczący dorobek „w zakresie sztucznej inteligencji lub prawa”. Stoimy na stanowisku, że osoba piastująca tak krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne i interpretacyjne, powinna wyróżniać się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii. Ograniczenie ujętych w Projekcie wymagań do „prawa” stałoby się zbyt pojemne, a w konsekwencji nie wymagałoby od potencjalnego kandydata przekrojowego rozeznania w otoczeniu prawnym dotyczącym sztucznej inteligencji czy powiązanych z nim ryzyk. Pośród zagadnień, które zawężają to pojęcie, należałoby wskazać m.in. kwestie związane z własnością intelektualną (w tym prawa autorskie, ochronę programów komputerowych oraz baz danych), szeroko rozumiane prawo IT, ochronę danych osobowych oraz cyberbezpieczeństwo. 132 W kontekście tego samego artykułu nasze wątpliwości budzi także samo pojęcie „sztucznej inteligencji”, które zwłaszcza w kontekście specjalistycznej ustawy w tymże zakresie, mogłoby być doprecyzowane, jako że sam AI Act nie definiuje tego pojęcia w sposób przejrzysty, posługując się pojęciem „systemu sztucznej inteligencji”. Obecne rozwiązanie wydaje się także nie uwzględniać problematyki uczenia maszynowego. Art. 18 ust. 2 CHAMBER mają na uwadze międzynarodowy wymiar rozwoju SI i konieczność uczestniczenia przez Przewodniczącego (jak i jego Zastępców) KRiBSI w pracach rozmaitych gremiów na poziomie UE, niezbędny wydaje się wymóg biegłej znajomości języka angielskiego. Art. 18 ust. 2 Fundacja FinTech Poland Sugeruje się podnieść wymagania dla przewodniczącego. Określenie - wyróżnia się wiedzą jest bardzo ocenne. Art. 18 ust. 2 pkt 4 CHAMBER zgodnie z brzmieniem tego przepisu Przewodniczącym Komisji może zostać osoba, która posiada wiedzę i doświadczenie w zakresie prawa, zupełnie bez doświadczenia i wiedzy nt. SI czy choćby technologii informacyjno-komunikacyjnych w ogóle. W naszej ocenie jest to zbyt daleko idące rozszerzenie grona potencjalnych kandydatów, a Przewodniczący Komisji bezwzględnie powinien odznaczać się wiedzą fachową w obszarze nowoczesnych technologii (lub prawa nowych technologii). Art. 18 ust. 2 pkt 4 Logicise Kwalifikacje Przewodniczącego Opis kwalifikacji Przewodniczącego jest nieprecyzyjny, trudny do porównania i w naszej opinii zdecydowanie niewystarczający aby zapewnić odpowiednią jakość. Np. pojęcie “znaczącego dorobku” nie gwarantuje posiadania odpowiednich kwalifikacji do pełnienia tej funkcji przez kandydata. Uważamy, iż, “znaczący dorobek” naukowy powinien być oceniany przez pryzmat szeroko stosowanych kryteriów w świecie naukowym, m.in.: liczby publikacji naukowych (z uwzględnieniem impact factor czasopism i konferencji), liczby cytowań (wskaźnik Hirscha), liczby patentów, liczby i jakości grantów naukowych, itd. Podobnie w pozostałych przypadkach. Art. 18 ust. 2 pkt 4 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Przewodniczącego powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami. Art. 18 ust. 2 pkt 4 KIGEiT Propozycja zapisu: 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji 133 oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; , Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone, nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 PIIT 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji. Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 Repropol Art. 18 ust. 2 pkt 4 UoSSI wskazuje na obowiązek posiadania odpowiednich kompetencji osób stojących na czele Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI): „wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych”. Mając na uwadze brzmienie art. 70 ust. 3 AIA, wydaje się właściwe, aby przewodniczący komisji (również jego zastępcy – zob. art. 21 ust. 2 UoSSI) legitymowali się albo wiedzą techniczną, albo prawną w zakresie AI. Aby kryterium wiedzy prawnej zostało należycie wyeksponowane, wskazany przepis powinien być uzupełniony poprzez możliwość wykazywania się przez kandydatów doświadczeniem uzyskanym w trakcie wykonywania usług, realizowania zadań związanych z wykonywaniem zawodu prawnika (a nie tylko „doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, 134 cyberbezpieczeństwa lub technologii informacyjnych”). Obecne brzmienie przepisu w swojej drugiej części jest zatem sformułowaniem zbyt wąskim. Projekt ustanawia gremium doradcze, Radę działającą przy KRIBSI. Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 28 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest nie do przecenienia. Mając to na uwadze, wnosimy o odpowiednie uzupełnienie art. 28 ust. 3 UoSSI. Na marginesie, uważamy, iż uczestnictwo w Radzie, jak powinno wiązać się z (choćby niewielkim) wynagrodzeniem. Ze dziwieniem odnotowaliśmy uzasadnienie nieodpłatnego uczestnictwa w pracach Rady, jakim jest jedynie chęć niegenerowania „niepotrzebnych kosztów po stronie budżetu państwa”. Uważamy, że merytoryczny wkład w funkcjonowanie wspomnianego gremium uzasadnia zapłatę wynagrodzenia także innym osobom, niż jedynie Przewodniczącemu Komisji i jego zastępcom – patrz s. 10 i 12 uzasadnienia). Tym bardziej, że przynależność do tego grona wymaga posiadania dość unikalnych kompetencji merytorycznych. Zakwalifikowanie takiego wynagrodzenia do kategorii „niepotrzebnego kosztu” wydaje się niefortunnym skrótem myślowym. Poczynione w ten sposób „oszczędności” byłyby raczej iluzoryczne z uwagi na ograniczony liczbowo skład Rady. art. 18 ust. 2 pkt 4 GRAI Zwiększenie wymagań dla Przewodniczącego Komisji Mając na uwadze zakres działania Komisji, za niewłaściwe należy uznać wymagania sfromułowane w odniesieniu do potencjalnego kandydata na stanowisko Przewodniczącego Komisji poprzez wskazanie, iż powinna być to osoba \"wyróżniająca się wiedzą i posiadająca znaczący dorobek w zakresie sztucznej inteligencji lub prawa\". Pozostawiając zapis \"lub prawa\" z założenia dopuszcza się, że na czele Komisji może stanąć osoba posiadająca znaczący dorobek w zakresie prawa, ale niekoniecznie w zakresie AI. Podobnie zapis dot. doświadczenia zawodowego wskazujący, iż powinno być ono uzyskane \"w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych\" nie zapewnia pozyskania osoby, która będzie wykazywała się doświadczeniem praktycznym w zakresie tego konkretnego obszaru. Na czele Komisji powinna natomiast stanąć osoba posiadająca wiedzę i doświadczenie zawodowe przede wszystkim w zakresie AI. Następujące propozycje: I. Po słowie ,,prawa” dodaje się „nowoczesnych technologii”. II. \"wyróżnia się wiedzą i doświadczeniem zawodowym w zakresie sztucznej inteligencji\". 135 art. 18 ust. 2 pkt. 4 GRAI I. Wymogi wskazane w pkt 4 są zawężające w zakresie doświadczenia kandydata i eliminuje osoby, które realizowały swoje obowiązki w charakterze innym niż w ramach stosunku pracy. II. Sprecyzowanie wymagań dla Przewodniczącego Komisji (obecny zakres jest nieprecyzyjny) tak aby obejmował łączne kompetencje w dziedzinie informatyki i prawa. Nb. technologie informacyjne obejmują zarówno cyfryzację jak i cyberbezpieczeństwo (być może zasadnym byłoby zastosowanie określenia Informatyka Techniczna i Telekomunikacja). Dorobek w zakresie SI jest także wymaganiem kłopotliwym (szczególnie jeśli miałby być to dorobek “znaczący”) - dodanie znacznie bardziej precyzyjnego określenia np. uczenie maszynowe. Nadanie następującego brzmienia pkt 4: „4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, współpracy z lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, lub świadczenia usług na ich rzecz” Art. 18 ust. 2 pkt 4 Związek Banków Polskich 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, prawa nowych technologii oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Wobec Przewodniczącego Komisji powinny być stawiane bardziej konkretne wymagania w kontekście wiedzy o AI: nie może to być \"dorobek w zakresie sztucznej inteligencji lub prawa\". Prawo ma tutaj mniejszą istotność niż wiedza i rozumienie kwestii dot. AI. Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). art. 18 ust. 4 GRAI Uwaga redakcyjno-legislacyjna Ust. 4 powinien brzmieć: „4. Po upływie kadencji Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.” Art. 18 ust. 5 Polskie Towarzystwo Informatyczne Trzyletni staż na stanowiskach kierowniczych w takiej Komisji to stanowczo za mało Propozycja 136 „posiada co najmniej siedmioletni staż pracy na stanowiskach kierowniczych” Trzyletni staż na stanowiskach kierowniczych jest zbyt krótki Art. 19 ust. 1 Fundacja FinTech Poland Jeżeli ustawodawca decyduje się wprowadzić katalog zamknięty to należałoby go poszerzyć tytułem przykładu o: ubezwłasnowolnienie całkowite lub częściowe. Pełnienie funkcji przewodniczącego może wiązać się z zarządzaniem środkami publicznymi. Należałoby więc uwzględnić również orzeczenia Głównej Komisji Orzekającej w Sprawach o Naruszenie Dyscypliny Finansów Publicznych. Pytanie też o zastosowanie tymczasowego aresztowania - pkt 6 dotyczy jedynie przyczyn zdrowotnych trwających dłużej niż 3 miesiące. Art. 19 ust. 1 pkt 1 ISSA Polska Proponuję zmianę treści punktu na: „prawomocnego skazania za przestępstwo umyślne ścigane z oskarżenia publicznego lub umyślne przestępstwo skarbowe”. art. 19 ust. 3 i 4 GRAI Ustawa przyznaje uprawnienia Prezesowi Rady Ministrów do wskazania, który z Zastępców zastępuje Przewodniczącego. Jest to przykład zależności Komisji od czynnika politycznego i budzi wątpliwości co do niezależności Przewodniczącego i jego Zastępców. Przyjęcie rozwiązania, że w obu przypadkach wskazanych w ust. 3 i 4 art. 19 Przewodniczącego zastępuje Zasępca z najdłuższym stażem na stanowisku Zastępcy, a w przypadku, gdyby obaj mieli taki sam staż to kolejność powołania. Art. 20 CHAMBER zawieranie tak szczegółowych i istotnych jedynie incydentalnie dla nielicznych zainteresowanych przepisów w akcie prawa powszechnie obowiązującego nie wydaje się konieczne. Tryb postępowania może być określony aktem niższego rzędu, przykładowo rozporządzeniem Prezesa Rady Ministrów, a ustawa powinna zawierać jedynie delegację do jego wydania. Co więcej proponowana procedura wydaje się też nadmiernie skomplikowana. Art. 20 PIIT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? Art. 20 KIGEiT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie 137 Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. , Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. Art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - nasuwa się pytanie czy jest to wykonalne w tak krótkim czasie. Art. 20 ust. 1 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej art. 20 ust. 2 pkt 3 SKwP Powstaje pytanie, jakie to będą wymagania prawne i gdzie określone? Jak mówimy o wymaganiach prawnych, to warto byłoby podać akt prawny. art. 20 ust.3 GRAI Termin na składanie dokumentów jest dość krótki. Pomimo, że to jedynie termin minimalny, to jednak jest ryzyko, że będzie wykorzystywany w takim wymiarze. Powinno to być min 30 dni, albo chociaż min. 3 pełne tygodnie, szczególnie, że znalezienie osoby spełniającej wymagania wskazane w ustawie nie będzie łatwe, przynajmniej w pierwszych latach obowiązywania AIA. Termin nie powinien być krótszy niż 30 dni od dnia opublikowania ogłoszenia w BIP Art. 20 ust. 4 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 4 Instrat – Fundacja Centrum Cyfrowe Art. 20. 4 Nabór na stanowisko Przewodniczącego Komisji przeprowadza komisja kwalifikacyjna,, powołana przez Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów, liczący co najmniej 3 osoby, których wiedza i doświadczenie dają rękojmię wyłonienia najlepszych kandydatów. W toku naboru ocenia się doświadczenie zawodowe kandydata, wiedzę niezbędną do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. - uwaga: drobne błędy redakcyjne. 138 art. 20 ust. 4 GRAI Uwaga redakcyjna Słowo ,,liczący” zastępuję sie słowem ,,licząca”. art. 20 ust. 4 i 5 GRAI Nie jest zrozumiałe z jakiego powodu komisja kwalifikacyjna, która ma mieć wiedzę, doświadczenie i ma dawać rękojmię wyłonienia najlepszych kandydatów, miałaby korzystać z podmiotu trzeciego (także posiadającego wiedzę, kwalifikację i doświadczenie) do dokonania oceny kandydata. To by mogło oznaczać, że zakłada się, że spełnienie przez członków komisji wymogów wskazanych w punkcie 4 nie będzie zawsze możliwe. Idąc dalej, oznaczać to może, że członkowie komisji nie dają rękojmi do prawidłowego ocenienia kandydata i nie powinni zasiadać w komisji. Ponadto, jeżeli już w jakikolwiek sposób ten podmiot trzeci miałby się pojawić w procesie wyłonienia kandydata to powinna to być jednak bezstronna osoba i wyłoniona apolitycznie. Brak też wskazania w jaki sposób zagwarantowana miałaby być apolityczność członków komisji oceny kandydata. -Usunięcie ustępu 5; -doprecyzowanie, z jakiego kręgu osób powoływani są członkowie komisji kwalifikacyjnej; -konieczność zapewnienia apolityczności procesu wyłonienia Przewodniczącego. Art 20 ust. 7 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 8 Fundacja Panoptykon Przejrzystość wyboru przewodniczącego Komisji Nie mamy kierunkowych zastrzeżeń do samego trybu wyboru przewodniczącego Komisji. Z uznaniem odnotowujemy także intencję zapewnienia przejrzystości i rozliczalności prac komisji kwalifikacyjnej. Zdecydowanie popieramy w szczególności propozycję wprowadzoną w art. 20 ust. 8 projektu ustawy, zgodnie z którą komisja kwalifikacyjna musiałaby opublikować protokół zawierający nazwiska najlepszych kandydatów wraz z uzasadnieniem ich wyboru. 139 Jednakże, biorąc pod uwagę kluczową rolę przewodniczącego Komisji w kierowaniu jej pracami i reprezentowaniu jej na zewnątrz oraz fakt, że Komisja i jej przewodniczący to nowo tworzone organy wymagające unikalnych kompetencji, uważamy za istotne z perspektywy interesu publicznego, aby społeczeństwo obywatelskie, opinia publiczna i parlamentarzyści mieli szansę na zapoznanie się z kandydatami i ocenę ich kompetencji przed dokonaniem wyboru przez Prezesa Rady Ministrów. Z tych względów sugerujemy dwa dodatkowe rozwiązania mające na celu zwiększenie przejrzystości procesu naboru: • dopuszczenie przedstawicieli organizacji społecznych zajmujących się m. in. ochroną praw człowieka do udziału w charakterze obserwatorów przy komisji kwalifikacyjnej; • wprowadzenie obowiązku organizacji wysłuchania publicznego kandydatów wyłonionych przez komisję kwalifikacyjną zgodnie z art. 20 ust. 7 projektu ustawy, przed ostateczną decyzją Prezesa Rady Ministrów. Prawo do udziału w charakterze obserwatora przy komisji kwalifikacyjnej pozwoli organizacjom społecznym na efektywne monitorowanie prawidłowości i rzetelności procesu wyboru przewodniczącego Komisji. Warto podkreślić, że takie rozwiązanie nie byłoby precedensowe z punktu widzenia praktyki wyłaniania osób piastujących ważne z perspektywy interesu publicznego stanowiska. Przykładowo, w 2024 r. przedstawiciele organizacji pozarządowych uczestniczyli jako obserwatorzy w rozmowach kwalifikacyjnych z kandydatami i kandydatkami na urząd sędziego Europejskiego Trybunału Praw Człowieka. Jeśli chodzi o wysłuchanie publiczne, proponujemy ograniczenie go do wysłuchania kandydatów i kandydatek wytypowanych przez komisję kwalifikacyjną zanim Prezes Rady Ministrów zadecyduje o powołaniu przewodniczącego. Takie rozwiązanie umożliwiłoby członkom Sejmu i Senatu RP, organizacjom społecznym oraz opinii publicznej zapoznanie się z kandydatami i kandydatkami oraz ocenę ich kompetencji. Choć ostateczna decyzja wciąż należałaby do Prezesa Rady Ministrów, wcześniejsze wysłuchanie publiczne stworzyłoby przestrzeń do otwartej debaty na temat kompetencji kandydatów, ich priorytetów i wizji sprawowania urzędu. Dzięki temu zmniejszyłoby się poczucie arbitralności decyzji Premiera, a jednocześnie wzrosłyby szanse na wybór osoby, która zyska szersze zaufanie społeczne. W końcu, wysłuchanie publiczne także jest dość powszechną praktyką w procesie obsadzania wielu kluczowych stanowisk publicznych, jak choćby we wcześniej wspomnianym przypadku powoływania kandydata na sędziego ETPCz, a także wyboru Prezesa Urzędu Ochrony Danych Osobowych. Oba postulowane rozwiązania, jakkolwiek bywają już stosowane w praktyce, nie mają dotychczas odpowiedniej podstawy prawnej. Biorąc pod uwagę innowacyjny charakter komentowanego projektu, naszym zdaniem projektodawcy mogliby także i w tym obszarze wskazać wysoki standard zabezpieczając w ustawie prospołeczne i sprzyjające debacie publicznej rozwiązania. 140 Art. 20 ust. 9 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie informacji w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej Art. 20 ust. 11 Osoba fizyczna jk dla spójności zapisów zamiast \"Umieszczenie\" powinno być \"Opublikowanie\" Art. 21 Instrat – Fundacja Centrum Cyfrowe Procedura powoływania Przewodniczącego Komisji oraz Zastępców Jeśli jednak przyjęcie pierwszego z powyższych rozwiązań okaże się niemożliwe, rekomendujemy wprowadzenie zmian w sposobie wyznaczania Zastępców Przewodniczącego. Zgodnie z Art. 21, Zastępców Przewodniczącego Komisji powołuje Prezes Rady Ministrów na wniosek Przewodniczącego Komisji, wybierając spośród kandydatów przez niego wskazanych. Aby ograniczyć możliwość wpływu konkretnych grup interesów oraz zminimalizować ryzyko mianowania osób blisko związanych z Przewodniczącym, proponujemy, aby Zastępcy byli rekomendowani przez Społeczną Radę do spraw Sztucznej Inteligencji. Alternatywnie, kandydatury mogłyby przynajmniej podlegać opiniowaniu przez Radę, co podniosłoby transparentność i wiarygodność procesu nominacji na te stanowiska. Wprowadzenie takiego mechanizmu wymagałoby powołania Społecznej Rady oraz wyłonienia jej członków przed nominacjami Zastępców, co mogłaby przeprowadzić Komisja w okrojonym składzie. Mimo potencjalnych wyzwań organizacyjnych, uważamy, że taki model jest wart rozważenia, ponieważ sprzyjałby zwiększeniu apolityczności i przejrzystości działania Komisji. Art. 21 ITCORNER Za kluczowe uważamy również zapewnienie konkurencyjności powołania Zastępców Przewodniczącego Komisji. W tym kontekście proponujemy, aby Prezes Rady Ministrów wybierał zastępców spośród kandydatów wyłonionych w drodze konkurencyjnego i otwartego naboru, prowadzonego przez zespół powołany przez Przewodniczącego Komisji. Art. 21 GRAI Zapewnienie konkurencyjności modelu powołania wiceprezesa Komisji Następująca propozycja brzmienia: 1. Prezes Rady Ministrów powołuje Zastępców Przewodniczącego Komisji spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Prezes Rady Ministrów odwołuje wiceprezesów Urzędu na wniosek Przewodniczącego Komisji. 2. Stanowisko Zastępcy Przewodniczącego Komisji może zajmować osoba, która spełnia wymagania określone w art. 18 ust. 2 ustawy. 3. Zespół przeprowadzający nabór na stanowiska, o których mowa w ust. 1, powołuje Przewodniczący Komisji. 4. Do sposobu przeprowadzania naboru na stanowiska, o których mowa w ust. 1, stosuje się odpowiednio przepisy art. 20 ustawy. 141 Art. 22 Polski związek zarządzania wierzytelnościami Art. 21 Projektu Bieżące brzmienie art. 21 Projektu nie zakłada konkurencyjnego charakteru procedury powołania osób na stanowiska Zastępców Przewodniczącego Komisji. Rozwiązanie powoływania Zastępców na wniosek Przewodniczącego KRiBSI przez Prezesa Rady Ministrów rażąco kontrastuje z wymogami stawianymi wobec kandydatów na stanowisko Prezesa, wobec czego wskazujemy na istotę zachowania konkurencyjnego i otwartego naboru także na tym poziomie. Art. 22 CHAMBER - wydaje się, że prawidłową techniką legislacyjną byłoby jednoznaczne określenie (jeśli nie wynika to z przepisów odrębnych), że Przewodniczący Komisji i jego Zastępcy mają status osób pełniących funkcje publiczne zgodnie z ustawą, ze wszystkimi wiążącymi się tym konsekwencjami prawnymi (w tym obowiązkiem składania oświadczeń majątkowych). Kazuistyczne wskazywanie poszczególnych jedynie obowiązków czyni status tych osób niejasnym i może prowadzić do niepotrzebnych wątpliwości i sporów. Art. 22 ust. 1 ISSA Polska Proponuję uszczegółowić zapis „... są obowiązani do złożenia oświadczeń o swoim stanie majątkowym, w trybie i terminach, zgodnie z art 10 ... - oświadczenia zgodnie z ustawą składa się w dniu objęcia/złożenia stanowisko i corocznie do dnia 31 marca”. Art 23 KIG Zapis powtarza model przyjęty w ustawie o nadzorze nad rynkiem finansowym, co w opisywanym przypadku nie znajduje uzasadnienia. Sugerujemy albo całkowity zakaz łączenia funkcji zawodowych ze stanowiskiem w Komisji albo model odwrotny – brak zakazu, z obowiązkiem urlopu bezpłatnego na czas kadencji. Art. 23 ust. 2 Fundacja FinTech Poland Sugerujemy wymagania te rozszerzyć na osoby mogące wydawać decyzje w tym pracowników Biura. Sugerujemy wprowadzić tryb wyłączenia w przypadku konfliktu interesów - samo pojęcie konflikt interesów jest zbyt ogólne bo nie ma z czym go porównać (z czyimi interesami ma być konflikt, publicznymi czy prywatnej działalności). Ponadto sugeruje się poszerzyć katalog organizacji do których nie może należeć Przewodniczący i Zastępca np. o związki wyznaniowe i kościoły (rozgraniczenie Kościoła od Państwa). Art. 23 i Art. 24 ICC Poland W razie pozostania przy koncepcji powierzenia funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji organowi kolegialnemu (Komisji), wątpliwości budzi przewidziany w projekcie zakres niepołączalności stanowisk Przewodniczącego Komisji, jego Zastępców, członków Komisji oraz pracowników Biura i innych osób tam zatrudnionych (art. 23 i 24 Projektu). Po pierwsze, zgodnie z art. 24 Projektu, Przewodniczący Komisji, jego zastępcy, pozostali członkowie Komisji, Dyrektor Biura Komisji, jak i wszyscy pracownicy Biura Komisji i osoby zatrudnione w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze nie mogą być akcjonariuszami, udziałowcami, członkami organów, ani nawet podejmować zatrudnienia na jakiejkolwiek podstawie w podmiotach 142 „podlegających nadzorowi Komisji”. Tymczasem nadzorowi Komisji, jako organowi nadzoru nad systemami sztucznej inteligencji, podlegać będą docelowo wszyscy operatorzy systemów sztucznej inteligencji, a zatem nie tylko dostawcy, importerzy czy dystrybutorzy takich systemów, ale również podmioty je stosujące. Oznacza to, że proponowana treść art. 24 Projektu wyklucza możliwość istnienia przewidzianego tam powiązania członków Komisji i pracowników Biura z takim podmiotami już tylko z tej przyczyny, że podmiot taki będzie wykorzystywać system sztucznej inteligencji, nad którym będzie sprawować kontrolę (art. 3 pkt 4 rozporządzenia 2024/1689). Rozwój tej technologii uprawdopodabnia jednak przewidywanie, że wykorzystywanie systemów sztucznej inteligencji – zwłaszcza przy istniejącej, szerokiej i nie w pełni jasnej definicji tego pojęcia – będzie powszechne. Może to prowadzić do sytuacji, w której spełnienie wymogów z art. 24 Projektu będzie w praktyce bardzo utrudnione lub wymagać będzie rezygnacji przez takie osoby z jakiegokolwiek innego zatrudnienia lub uczestnictwa w innych podmiotach bądź instytucjach, co może negatywnie wpłynąć na eksperckość składu Komisji i Biura Komisji. Nie jest wreszcie jasne, jak należałoby ocenić sytuację, w której Przewodniczący lub Zastępca Przewodniczącego zajmowaliby stanowisko w jednostkach naukowych, o których mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (odesłanie w tym zakresie wymaga zresztą poprawienia), gdyby jednostka taka zarazem wykorzystywała systemy sztucznej inteligencji, a tym samym podlegała nadzorowi Komisji (art. 24 Projektu). Po drugie, art. 23 i 24 Projektu nie przewidują żadnego rozwiązania na wypadek, gdyby opisane tam powiązanie (np. przyjęcia stanowiska, podjęcia zatrudnienia) powstało już po powołaniu na funkcję Przewodniczącego, Zastępcy Przewodniczącego, członka Komisji, Dyrektora Biura lub po zatrudnieniu w Biurze Komisji. W szczególności nie można przecież wykluczyć sytuacji następczego rozpoczęcia wykorzystywania systemu sztucznej inteligencji przez dany podmiot, co spowoduje, że stanie się on podmiotem podlegającym nadzorowi Komisji, aktualizując zastosowanie art. 24 Projektu. Art. 24 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy rozważyć częściową rezygnację z wymogu braku zatrudnienia osoby zatrudnionej w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze na dowolnej podstawie prawnej w „podmiotach stosujących” w rozumieniu art. 3 pkt 4 (w zw. z art. 2 ust. 1 lit. b) rozporządzenia 2024/1689, oznaczających każdą osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę. Konsekwencje takiego ograniczenia kłócą się z możliwością szerokiego rozpowszechnienia SI, nad którymi stosujące je podmioty (także takie jak organy i inne podmioty publiczne) mogłyby sprawować kontrolę. Ma to szczególne znaczenie w przypadkach zawierania umów cywilnoprawnych z osobami posiadającymi wiedzę specjalistyczną, w sytuacji, gdy zatrudnienie w Biurze Komisji może nie być jedynym miejscem zatrudnienia takiej osoby, będącej równocześnie stroną licznych innych umów cywilnoprawnych, w tym z „podmiotami stosującymi”. 143 art. 24 GRAI Nieuzasadnione pominięcie wspólników spółek osobowych (nie są akcjonariuszami ani udziałowcami), niezrozumiałe posługiwanie się nieznanym kodeksowi spółek handlowych słowem „udziałowiec”, mającym węższe znaczenie niż wspólnik. Słowa „udziałowcami” zastępuje się słowami „wspólnikami”. art. 24 GRAI Uwaga redakcyjno - legislacyjna – w pierwszym z wyliczeń umów cywilnoprawnych podobnych do zlecenia nie pada umowa agencyjna, zaś w drugim z wyliczeń już się znalazło - wydaje się, że zbędnie i z tego względu do usunięcia. Słowa „umowy agencyjnej” skreśla się. art. 24 SKwP Powstaje pytanie, jaka jest struktura zatrudnienia w tzw. Biurze? Kto jest na umowie o pracę, a kto na umowach cywilno–prawnych (zlecenie, dzieło). Ilu pracowników liczy Biuro, jakie ma działy itp.? Być może warto było rozważyć i wprowadzić regulamin organizacyjny pracy biura, w którym, szczegółowo wszystkie ww. kwestie byłyby rozstrzygnięte, a kompetencję do jego wydania można byłoby przyznać Przewodniczącemu Komisji albo Dyrektorowi Biura Komisji ? Art. 24 Fundacja Panoptykon Konflikt interesów w przypadku członków Komisji Zdecydowanie popieramy wprowadzone w art. 24 projektu ustawy rozwiązania dotyczące konfliktu interesów jako niezbędne do zagwarantowania bezstronnego działania Komisji. Uważamy jednak, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji wymienionych w art. 7 ust. 2, której przedstawiciel jest członkiem Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 24 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Nie ma przy tym znaczenia to, czy dana instytucja wykorzystuje obecnie jakiekolwiek systemy sztucznej inteligencji lub czy mieszczą się one w zakresie uregulowanym rozporządzenia w sprawie sztucznej inteligencji. Po pierwsze, nawet w obecnym kształcie rozporządzenia niewykluczone, że instytucje wymione w art. 7 ust. 2 będą zobowiązane w niektórych przypadkach sprostać jego wymogom, np. jeśli chodzi o przejrzystość „chatbotów” uregulowaną w art. 50 ust 1 rozporządzenia lub wykorzystanie AI w rekrutacji pracowników (system wysokiego ryzyka zgodnie z pkt. 4 Załącznika III). Po drugie, warto zauważyć, że Komisja Europejska jest zobowiązana okresowo rewidować zakres Załącznika III określającego listę systemów wysokiego ryzyka, co nie wyklucza w przyszłości objęcia regulacją systemów wykorzystywanych przez instytucje mające swoich przedstawicieli w Komisji. W rezultacie, działania tych instytucji mogą stać się przedmiotem 144 kontroli Komisji. Wprowadzenie klarownych reguł postępowania w takich przypadkach zapewniłoby elastyczność ustawy wobec zmieniających się okoliczności prawnych lub faktycznych, bez konieczności jej nowelizacji. Art. 25 CHAMBER Wątpliwym jest podobnie obowiązek zachowania tajemnicy służbowej wprowadzany w art. 25. Przepisy powszechnie obowiązujące już zobowiązują do zachowania tajemnic prawnie chronionych i wydaje się, że nie ma potrzeby powtarzania takich przepisów w każdej ustawie powołującej do życia organ lub osobę prawną. art. 25 w zw. z art. 43 ust. 1 pkt. 2 PIIT Wnosimy o dopisanie w postanowieniach art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 w zw. z Art. 43 ust. 1 pkt. 2 KIGEiT Rekomendacje: Wnosimy o dopisanie w postanowieniach Art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach Art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w Art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych wA. 25 projektu - wyraźnie wskazanie tego w treści Art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w Art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 ust. 3 CHAMBER Art. 25 ust. 3 - przepis ten budzi poważne zastrzeżenia. Analogicznie do uwagi powyższej należy stwierdzić, że dostęp do informacji niezbędnych do wykonywania czynności służbowych przez funkcjonariuszy organów ścigania jest unormowany w odpowiednich ustawach. Wprowadzanie dodatkowych podstaw prawnych, w dodatku tak niejasno sformułowanych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do organów ścigania bez wyraźnego celu i potrzeby, jest zupełnie niepotrzebne i zgoła niebezpieczne. Postulujemy wykreślenie tego przepisu także w wypadku nieuwzględnienia propozycji usunięcia całego art. 25. Minimalnie należy przynajmniej zawęzić krąg odbiorców takich informacji do “uprawnionych” funkcjonariuszy. 145 Art. 25 ust. 3 KIGEiT Propozycja zapisu: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym na podstawie odrębnych przepisów prawa pracownikom podmiotu, o którym mowa w Art. 64 ust. 3 ustawy, a także uprawnionym funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji. , Punkt 3 uprawnia pracowników komisji do udzielenia poufnych informacji wszystkim żołnierzom, prokuratorom itd. Natomiast punkt 4 zobowiązuje do utrzymania tajemnicy tylko uprawnionych. Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 25 ust. 3 Związek Banków Polskich Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 25 ust. 3 Związek Cyfrowa Polska Niewystarczająca ochrona informacji i wrażliwych danych oraz ujawnienie informacji przez członków Komisji (art. 25 ust. 3 Projektu). Zarówno na etapie prowadzonych przez organ kontroli (rozdział 3 – w szczególności art. 43 ust. 4 pkt 3 oraz art. 43 ust. 8 – Projektu ustawy), jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa, w tym ochrona wrażliwych informacji, danych należących do przedsiębiorców (w tym danych osobowych) oraz innych tajemnic prawnie chronionych. 146 W szczególności uwagę należy poświęcić art. 25 ust. 3 Projektu, który umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. 147 Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji,w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. W związku z powyższym i ponadto zwracamy zatem uwagę legislatora na następujące propozycje zawarte w Projekcie ustawy oraz przepisów: art. 25 ust. 3 Projektu, który upoważnia członków KRiBSI do udostępniania uzyskanych informacji szerokiej grupie podmiotów, w tym np. pracownikom Polskiego Centrum Akredytacji. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. art. 27 Projektu, który przewiduje szerokie uprawnienie do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania; art. 61 ust. 4 i 5 Projektu, który posługuje się terminem „informacje stanowiące tajemnice prawnie chronione”, które ma szerokie znaczenie, nie uwzględniając brzmienia Aktu o sztucznej inteligencji, w szczególności art. 78 oraz motywu 167; art. 67 Projektu, który przewiduje szerokie uprawnienie ministra właściwego do spraw informatyzacji do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania. Należy oczekiwać odpowiedniego zawężenia ww. uprawnień stosownych organów, z właściwym zbilansowaniem praw i interesów przedsiębiorców oraz z uwzględnieniem przepisów Aktu o sztucznej inteligencji, w szczególności art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień” oraz motywu 167. Art. 25 ust. 3 Związek Pracodawców Technologii Cyfrowych Lewiatan Ujawnienie informacji przez członków Komisji (art. 25 ust. 3 USS) Przepis umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; 148 b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 USS już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji, w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. 149 art. 25 ust. 3 i 4 PIIT Wnosimy o wykreślenie Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 26 CHAMBER Art. 26 - należy ponownie rozważyć, czy przepisy tego typu są konieczne. Rozporządzenie Ogólne o Ochronie Danych określa powszechnie obowiązujące zasady przetwarzania danych i obowiązki z niego wynikające (np. analizy ryzyka czy podejmowania środków zaradczych, minimalizacji danych itd. ) będą obowiązywały Komisję bez względu na ich umieszczenie w ustawie. Zamieszczanie takich powielanych przepisów w każdej kolejnej ustawie nie wydaje się potrzebne i prowadzi do dalszej inflacji i tak już niezmiernie obszernego i skomplikowanego prawa. Art. 26 ISSA Polska Postuluję wskazanie wprost, że Komisja jest administratorem danych osobowych, wówczas nie będzie wątpliwości, że jako administrator musi realizować obowiązki wynikające z RODO. Art. 26 PIIT Uzgodnienie przepisów z zapisami ustawy RODO. Art. 26 Zbyt szeroki zakres możliwego przetwarzania danych osobowych i zbyt szeroko określony cel przetwarzania danych wynikający z art. 11 projektu ustawy. Zapisy nie precyzyjne, brak proporcjonalności zakresu i celu przetwarzania danych w kompetencji Komisji. Przy tak szeroko określonych celach i zakresie przetwarzania danych naszym zdaniem powołanie IOD powinno być obligatoryjne, a nie uznaniowe. W ust. 8 należałoby wymienić wszystkie prawa osób, których dane będą przetwarzane przez Komisję – wynikające z RODO, nie niektóre z nich. Proponujemy odwoływać się już do PKE, w tym do pojęcia Usług komunikacji interpersonalnej. 150 Art. 26 GRAI Generalna uwaga do art. 26 I. Zbyt wąski zakres przedmiotowy i zakres stosowanych środków ochrony. Przepis przez taką redakcję wydaje się ograniczony tylko do niektórych środków i tylko do niektórych rodzajów informacji. Środki zabezpieczające powinny spełniać najwyższe wymagania, bo Komisja będzie dysponować wieloma informacjami dotyczącymi zarówno innych instytucji, podmiotów rozwijających technologię jak i samych użytkowników. W cały projekcie wybrzmiewa nadmierne uprawnienie do żądania zbyt szerokiego zakresu informacji chronionych (co nie powinno mieć miejsca i powinno zostać ograniczone przepisami do absolutnego minimum) przy czym nie ma nic o ochronie tych informacji. II. W miejsce obecnie zaproponowanych zapisów w art. 26, które budzą liczne wątpliwości proponuję odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO: Np. „Do przetwarzania danych osobowych przez Komisję na mocy niniejszej ustawy zastosowanie ma rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679.”. „Wszelka wymiana danych osobowych na mocy niniejszej ustawy przez Komisję podlega rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679.”. A dodatkowo wskazać w ustawie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e) czy h) RODO. I. Katalog informacji podlegających ochronie jak i katalog środków zabezpieczenia powinien być rozszerzony, otworzony. Benchmarkiem spełnienia tego obowiązku powinno być zapewnienie takich mechanizmów, które realnie zagwarantują najwyższą ochronę przetwarzanych przez Komisję informacji (w oparciu o najnowsze technologie i aktualne standardy branżowe). Nie tylko dane szczególnych kategorii z RODO powinny się znaleźć w treści tego przepisu, ale i tajemnica przedsiębiorstwa, tajemnica adwokacja czy radcowska, innego rodzaju tajemnice prawnie chroniona, dane osobowe zwykłych kategorii. II. Zmiana brzmienia art. 26 zgodnie z poniższymi propozycjami. Art. 26 Osoba fizyczna jk Jest to nieudolne i nielogiczne powielenie zapisów Rozporządzenia UE 2016/679 - zupełnie niepotrzebne oprócz ust. 5 i ust. 9, który powinien być ust. 1. Art. 26 ust. 1 Osoba fizyczna jk Komisja - czy/i Biuro Komisji - nie byłaby w ogóle w stanie funkcjonować bez przetwarzanie danych osobowych, chociażby osób składających skargi czy pracowników swojego Biura. Ponadto, jako jednostka sektora finansów publicznych jest zobowiązana przetwarzać dane na podstawie i w granicach prawa. Zatem po co zapis w ustawie? 151 Art. 26 ust. 2 Osoba fizyczna jk Czy przetwarzając dane osobowe, które nie są określone w art. 9 ust. 1 rozporządzenia 2016/679, Komisja - czy/i Biuro Komisji - nie musi prowadzić analizy ryzyka, stosować środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu, a także opracować procedury bezpiecznej wymiany informacji? Czy cytowane zapisy są jedynymi wymogami dotyczącymi bezpiecznego przetwarzania danych osobowych przez Komisję? Sprowadzanie środków technicznych i organizacyjnych bezpieczeństwa przetwarzania danych osobowych wymaganych na podstawie art. 32 rozporządzenia 2016/679 (RODO) do - środków ochrony przed złośliwym oprogramowaniem, - mechanizmów kontroli dostępu oraz - procedur bezpiecznej wymiany informacji świadczy o kompletnej nieznajomości obowiązujących przepisów oraz standardów, norm i dobrych praktyk dotyczących ochrony danych osobowych, cyberbezpieczeństwa i bezpieczeństwa informacji, zalecanych m.in. przez Ministerstwo Cyfryzacji i NASK. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 2 TAURON Dystrybucja Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana zapisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 2 GRAI Bezzasadne ograniczenie tylko do danych określonych art. 9 ust 1 RODO, gdy tymczasem przepis powinien obejmować wszelkie dane osobowe jakie Komisja przetwarza. Zarazem w przepisie tym, w ograniczony i wybiórczy sposób zostały określone zobowiązania Komisji w związku z przetwarzaniem danych, w tym stosowanie środków technicznych i organizacyjnych służących zabezpieczeniu przetwarzanych danych. Komisja jako administrator danych zobowiązana jest do przestrzegania wymagań określonych w RODO, w tym wdrożenia i stosowania odpowiednich środków technicznych i organizacyjnych, aby przetwarzanie odbywało się zgodnie RODO. Propozycja zmiany brzmienia ust.2 w następujący sposób: „2. Przetwarzanie danych osobowych, o którym mowa w ust. 1 przez Komisję, odbywa się z zachowaniem przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679. 152 Art. 26 ust. 2 GRAI Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana przepisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 3 PIIT 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: - gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; - gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; - gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 KIGEiT Propozycja zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji 153 elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. , Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 GRAI Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy też operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie przepisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 154 Art. 26 ust. 3 TAURON Dystrybucja Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy tez operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie zapisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 Art. 26 ust. 3 Osoba fizyczna jk Bardzo odważny zapis ograniczający przetwarzanie danych do wymienionej listy przypadków nadzoru nad systemami. Jeżeli w trakcie tworzenia i funkcjonowania Komisji - czy/i Biura Komisji - okaże się, że dla wykonania swoich zadań Komisja - czy/i Biuro Komisji - musi przetwarzać dodatkowo inne dane osobowe, niestety będzie musiała poczekać na nowelizację ustawy. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 3 pkt 4 KIG Pojęcie podmiotów kluczowych i ważnych zostało wprowadzone przez dyrektywę NIS2. W ustawie o krajowym systemie cyberbezpieczeństwa, do której referuje Projekt, brak wskazania tych podmiotów. art. 26 ust. 4 GRAI Anonimizacja danych zbędnych do realizacji zadań Komisji jest działaniem zbędnym i dodatkowo obciążającym pracowników Biura Komisji 155 Skreśla się słowa: „lub anonimowane”. Art. 26 ust. 4 Osoba fizyczna jk Jest to powielenie zasady ograniczenia przechowywania zapisanej w art. 5 ust. 1 lit. e) rozporządzenia 2016/679 (RODO). Zapis jest niepotrzebny. art. 26 ust. 5 GRAI Uwaga redakcyjna – brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „o którym mowa w rozdziale 3, 4 i 7 ustawy”. Art. 26 ust. 6 TAURON Dystrybucja Omyłka pisarska w numeracji rozporządzenia. Powinno być: 2024/1689 Ponadto wskazany zapis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanym podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. Ponadto na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. art. 26 ust.6 GRAI Przepis dotyczący przekazywania informacji został sformułowany w taki sposób, że kolejne regulacje mogą prowadzić do jego naruszenia, jak chociażby okoliczność, że „kontrolującym” nie musi być pracownik Komisji. art. 26 ust. 6 GRAI Omyłka pisarska w numeracji rozporządzenia. Ponadto wskazany przepis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanych podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty, o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. 156 Ponadto, na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Powinno być: 2024/1689 Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. Art. 26 ust. 6 Osoba fizyczna jk Kto może przekazywać dane: Komisja czy/i Biuro Komisji czy też pracownicy Biura Komisji, skoro wzajemnie dane przekazywać będą pracownicy podmiotów, o których mowa w art. 7 ust. 2. Czy przepisy regulujące funkcjonowanie podmiotów, o których mowa w art. 7 ust. 2 projektu ustawy, dopuszczają opisane przekazywanie danych i przetwarzanie tych danych? Art. 26 ust. 7 Osoba fizyczna jk Jak zwolnienie z realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 ma się do \"zapewnienia wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI\"? Art. 26 ust. 7 TAURON Dystrybucja Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 7 GRAI I. W projektowanym ust. 7 wskazano, że przetwarzanie danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji nie wymaga realizacji przez Komisję i inne podmioty obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 „jeżeli uniemożliwiałoby to realizację zadań Komisji”. Zastrzeżenie zawarte w przepisie jest niejasne i budzi wątpliwości, w jakich konkretnie przypadkach określone podmioty nie będą realizowały obowiązków wynikających z RODO. II. Przepis wprowadza ograniczenie praw z RODO – uzasadnienie powinno krótko powołać art. 23 RODO jako podstawę ograniczenia tych praw. Do rozważenia powołanie art. 23 ust. 1 lit. e lub h RODO. I. Koniecznym jest doprecyzowanie, co oznacza „uniemożliwiałoby to realizację zadań Komisji”, jeśli miałoby pozostać taki zapis. Jednocześnie wydaje się zasadne przeredagowanie całego art. 26 zgodnie z uwagami dotyczącymi tego artykułu. 157 II. Uzupełnienie uzasadnienia o podstawę prawną ograniczenia praw z RODO w art. 26 ust. 7 projektu – o konkretną podstawę prawną z art. 23 ust.1 RODO (potencjalnie lit. e lub h). art. 26 ust. 7 GRAI Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 8 GRAI Jeśli celem ustawodawcy było, aby publikacja wskazanych informacji stanowiła spełnienie obowiązku informacyjnego w świetle art. 13 i 14 RODO – rekomendowane jest wskazanie tego w uzasadnieniu albo wprost doprecyzowanie tej kwestii w projekcie. Art. 26 ust. 8 otrzymuje brzmienie: 8. Realizacja obowiązku informacyjnego, o którym mowa w art, 13 i 14 RODO następuje poprzez publikację w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji informacji wskazujących: 1) dane kontaktowe administratora danych osobowych oraz, gdy ma to zastosowanie, dane kontaktowe inspektora ochrony danych osobowych; 2) cele przetwarzania i podstawę prawną przetwarzania; 3) kategorie przetwarzanych danych osobowych; 4) informacje o odbiorcach danych osobowych; 5) informacje o tym, przez jaki okres dane osobowe będą przechowywane; 6) informacje o ograniczeniach obowiązków i praw osób, których dane dotyczą wraz z podstawą prawną tego ograniczenia; 7) informacje o prawie wniesienia skargi do organu właściwego do spraw ochrony danych osobowych; 8) źródło pochodzenia danych osobowych. 9. Komisja jest administratorem danych, o których mowa w ust. 1-3.” art. 26 ust.8 GRAI Zaproponowany sposób realizacji obowiązku informacyjnego w BIP poprzez podanie bardzo ogólnych i zbiorczych informacji nie spełnia wymogów art. 14 ust. 1-3 RODO, a ewentualne zastosowanie art. 14 ust. 5 lit. a czy c budzi poważne wątpliwości 158 Art. 26 ust. 8 Osoba fizyczna jk Kuriozalna i wybiórcza interpretacja zapisów art. 13 i 14 rozporządzenia 2016/679 (RODO) oraz Wytycznych GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\". Skoro rozporządzenie 2016/679 (RODO) oraz Wytyczne GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\" określają, jakie informacje należą się osobom, których dane dotyczą, to po co prawnicy wpisują listę należnych informacji do kolejnych polskich ustaw? Czy bez zapisów w ustawach wymienione w RODO informacje nie należą się osobom, których dane dotyczą? Potrzebne jest tylko doprecyzowanie, kto jest administratorem danych oraz jakie są okresy przechowywania danych osobowych dla poszczególnych czynności przetwarzania. art. 27 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, co obejmuje pojęcie „tajemnicy prawnie chronionej\". Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących „tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. ustawy - Prawo bankowe). art. 27 CHAMBER Analogiczna uwaga odnosi się do art. 27 - zasady przetwarzania tajemnic prawnie chronionych są określone odrębnymi przepisami i obowiązują powszechnie. Podobnie obowiązek zawiadomienia o ujawnionym przestępstwie w ust. 2 niepotrzebnie powiela powszechnie obowiązujący przepis art. 304 par. 2 Kodeksu karnego. art. 27 ust. 1 GRAI Uwaga redakcyjna - zbędny przecinek zastosowany w wyliczeniu przed spójnikiem współrzędności łącznej. Skreśla się przecinek po słowach „pracownicy Biura Komisji”. Art. 27 ust. 1 Związek Banków Polskich Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 27 ust. 1 Fundacja FinTech Poland Pytanie co obejmuje \"tajemnica prawnie chroniona\" (ustawy branżowe, postępowania karne). Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Rekomendujemy zdefiniowanie określenia “tajemnica prawnie chroniona” 159 Art. 27 ust. 1, art. 25 i art. 67 ust. 1 e-Izba Aktualne brzmienie projektowanych przepisów implikuje ryzyko niedostatecznej ochrony tajemnicy przedsiębiorstwa przedsiębiorców, którzy będą podlegać kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotne jest zagwarantowanie maksymalnej ochrony tajemnicy prawnie chronionej przedsiębiorców, tym tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. Szczególnie istotne jest zagwarantowanie przedsiębiorcom takiego poziomu ochrony tajemnicy prawnie chronionej, w tym tajemnicy ich przedsiębiorstwa, które zapewni, że informacje składające się na tajemnicę przedsiębiorstwa nie zostaną wykorzystane w jakichkolwiek innych celach aniżeli ściśle związanych z prowadzoną kontrolą i wyłącznie na jej potrzeby. W związku z powyższym proponujemy zmianę( wzorowaną na art. 73 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów) aktualnego brzmienia art. 27 ust. 1 projektu ustawy o systemach sztucznej inteligencji, poprzez wskazanie, że informacje prawnie chronione, w tym tajemnica przedsiębiorstwa, mogą zostać wykorzystane jedynie na potrzeby tej kontroli w ramach, której zostały przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji lub jej upoważnionych przedstawicieli pozyskane, z wyłączeniem przypadku wskazanego w art. 27 ust. 2 projektu ustawy o systemach sztucznej inteligencji. Proponujemy, aby powyższa zasada miała zastosowanie na potrzeby całej ustawy, tj. żeby tajemnica przedsiębiorstwa mogła być przetwarzana wyłącznie na cele tego postępowania, w ramach którego została zebrana. W związku z tym, powyższe doprecyzowanie powinno znaleźć zastosowanie również w przypadku: art. 25 oraz 67 ust. 1 projektu ustawy o systemach sztucznej inteligencji. Art. 28 GRAI Uwaga ogólna do charakteru Rady Wyjaśnienia wymaga, dlaczego Rada ma mieć charakter społeczny, skoro mają ją tworzyć eksperci (naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – „będą mogli wesprzeć swoją wiedzą Komisję”). Dlaczego te osoby mają pracować bez wynagrodzenia i z ograniczeniami dotyczącymi dodatkowej działalności/ aktywności zawodowej członków takiej Rady? Do rozważenia - może taką Radę (ale nie społeczną) ds. Sztucznej Inteligencji powinni tworzyć obecni członkowie GRAI najbardziej zaangażowani w prace Grupy , w szczególności w przygotowanie Polityki AI w Polsce (w GRAI są praktycy z bogatym doświadczeniem z różnych dziedzin; interdyscyplinarne grono ekspertów z wiedzą merytoryczną do efektywnego wykorzystania w rozwoju AI w Polsce). 160 Art. 28 SKwP Uważamy, że do Społecznej Rady powinien zostać zgłoszony przedstawiciel SKwP. AI wchodzi w obszar rachunkowości, zatem dotyczy księgowych. Powinniśmy mieć wpływ na opiniowanie systemów AI dla księgowych, to dalszy problem etyki zawodu księgowego, odpowiedzialności a nawet kar. W tym zakresie, w projekcie wskazuje się, że kandydatów na członków Rady mogą zgłosić jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Art. 28 Osoba fizyczna mk Artykuł 28 ustawy przewiduje, że kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji mogą zgłaszać m.in. „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”. Nieuzasadnione jest zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”, w szczególności biorąc pod uwagę, iż: a) rolą Rady jest (wg uzasadnienia Ustawy) „zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję”; b) również wg Artykułu 28 Ustawy do członkostwa w Radzie uprawnia wiedza i doświadczenie m.in. w obszarze praw człowieka. Zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji” utrudni w nieuzasadniony sposób udział w pracach Rady przedstawicielom społeczeństwa obywatelskiego i osobom z doświadczeniem np. w obszarze praw człowieka, które działają na rzecz fundacji i stowarzyszeń, których celem statutowym nie jest wprost wyrażona działalność na rzecz rozwoju sztucznej inteligencji a np. właśnie ochrona praw człowieka czy rozwój społeczeństwa obywatelskiego. Wskazane jest co najmniej rozszerzenie wspomnianego zapisu do formy „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, rozwoju społeczeństwa obywatelskiego i ochrony praw człowieka”. Art. 28 Open AI Devs Community Rozszerzenie składu Społecznej Rady. Wnosimy o modyfikację art. 28 projektu poprzez: • Włączenie przedstawicieli społeczności deweloperów do składu Rady; • Zapewnienie reprezentacji startupów i MŚP; • Wprowadzenie transparentnego procesu wyboru członków. 2. Właściwe uwzględnienie głosu społeczności deweloperskiej przyczyni się do: 161 • Lepszego zrozumienia praktycznych wyzwań wdrożeniowych; • Skuteczniejszej implementacji przepisów; • Rozwoju kultury odpowiedzialnego rozwoju AI Art. 28 ZPAV Mając na uwadze motywy 104-109 rozporządzenia 2024/1689 art. 28 projektu ustawy dotyczący powołania Społecznej Rady ds. Sztucznej Inteligencji powinien dopuszczać możliwość zgłaszania kandydatów na członków także przez organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi, o których mowa w art. 3 pkt. 2 ustawy z dnia 15 czerwca 2018 r. o zbiorowym zarządzaniu prawami autorskimi i prawami pokrewnymi. W aktualnym brzmieniu projektowany przepis w istotny sposób narusza równowagę interesów – z jednej strony dopuszcza zgłaszanie kandydatów przez izby gospodarcze (grupy interesów) – nie uwzględniając w ogóle z drugiej strony reprezentacji sektora kreatywnego. Wieloletnie doświadczenie koegzystencji na rynku medialnym pokazuje, że bardzo często interesy branży elektronicznej i komunikacyjnej co najmniej nie są zbieżne z interesami środowisk twórczych i właścicieli praw własności intelektualnej, a zdarza się, że ze sobą kolidują. Art. 28 PWPW dot. Społecznej Rady do spraw AI Z uwagi na duży wpływ działania Rady na biznes, w ustawie należy wskazać na konieczność powołania członka wskazanego przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Przepisy powinny wskazywać na członków wskazywanych oraz na członków wybieranych. Taki podział zapewni odpowiednią reprezentację wszystkich środowisk. Zaproponowany model w projekcie ustawy nie zapewnia, że głos przedsiębiorców będzie obecny w radzie. A obecny być powinien, gdyż uprawnienia Komisji mają ogromny wpływ na rozwój rynku AI w kraju – a poprzez udział Komisji w organach UE – także w całej Europie. Art. 28 Związek Cyfrowa Polska Ciała doradczego. Poza utworzeniem KRiBSI, planowane jest powołanie także Społecznej Rady do spraw Sztucznej Inteligencji („Rada”), która ma być organem opiniodawczo-doradczym KRiBSI (art. 28 Projektu). Pomimo że opinie i stanowiska Rady nie będą wiążące dla KRiBSI, to rozwiązanie to oceniamy jako korzystne, ponieważ środowiska przedsiębiorców/instytucji naukowych/NGOs działające w obszarze AI mogą uzyskać odpowiednie forum do bieżącego przedstawiania swoich uwag, propozycji zmian regulacji, itd. (art. 28 ust. 3 pkt 4 Projektu). 162 Art. 28 ust. 1 GRAI I. Mając na uwadze, że w skład Komisji mają wejść przedstawiciele RPO oraz RPD, wyjaśnienia wymaga jakie jest uzasadnienie dla ich włączenia również do Rady? II. Zgodnie z propozycją i słusznie, przedstawiciel RPO oraz RPR jest członkiem Komisji, natomiast w art. 28 ust. 3 pkt 2 i 3 te same podmioty mogą zgłosić kandydatów do Rady Społecznej. W takiej konstrukcji te podmioty nie tylko mają swojego przedstawiciela w Komisji, co jest już wystarczające, jak też wskazują kandydatów do Rady Społecznej, podczas gdy więcej sensu miałoby przyznanie tego uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA Przyznanie uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, niż PRO i PRD. Chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA. Art. 28 ust. 1 GRAI Społeczna Rada ma się składać z 9-15 członków, podczas gdy wymienione podmioty, które mogą przedstawiać kandydatów obejmują siedem urzędów czy obszarów. Biorąc pod uwagę 2-letnią kadencję członków oraz tempo postępu technologicznego, brak przedstawicieli przedsiębiorców w danej kadencji skutkowałby ograniczeniem udziału w dyskusjach dot. SI podmiotów, których projektowane przepisy i działania Komisji będą bezpośrednio dotyczyły. W Społecznej Radzie mogłoby przykładowo zasiadać co najmniej dwóch przedstawicieli przedsiębiorców. Zwraca uwagę również, że różnorodność zastosowań AI i niewielka liczba członków Rady sprawia, że pewne sektory nie będą mogły być reprezentowane w danej kadencji, podczas gdy przedstawiciele związków zawodowych czy Biur Rzeczników będą stale obecni jako członkowie. Art. 28 ust. 2 Logicise dziewięciu do piętnastu członków Sugerujemy zwiększenie liczby członków Społecznej Rady, tak aby była jak najbardziej przekrojowa i pokrywała możliwie wszystkie grupy interesariuszy. W związku z powyższym, w składzie Rady powinny znaleźć się miejsca dla reprezentantów różnych izb branżowych, również z uwagi na zróżnicowanie regulacji dla poszczególnych sektorów gospodarki. Wydaje się, że w skład Rady powinno wchodzić każdorazowo nie mniej niż 20 osób. Art. 28 ust. 2 PIIT Określenie minimalnej i maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji. 163 Proponujemy podwyższenie maksymalnego progu liczebności Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez przedsiębiorców, w tym zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. Art. 28 ust. 2 PIIT Zwiększenie liczby członków Społecznej Rady itd. Art. 28 ust. 2 KIGEiT Rekomendacja: Sugerujemy rozważenie zwiększenia maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji do min. 25 członków. Zasadne jest zwiększenie maksymalnej liczby członków Rady celem zapewnienia jej reprezentatywności. Rady sektorowe, których działania są zakresowo ograniczone do konkretnego obszaru, a członkami są osoby o tej samej czy podobnej specjalizacji, liczą do 20 członków lub więcej. Rada Dostępności przy ministrze właściwym ds. rozwoju regionalnego liczy maksymalnie 50 członków (a dostępność jest również zagadnieniem horyzontalnym dot. zarówno sektora publicznego, jak i prywatnego). Zastosowania AI są bardzo różne w poszczególnych obszarach przemysłu czy w ramach realizowania zadań publicznych, stąd ustawa nie powinna ograniczać aż w takim stopniu możliwości udziału przedstawicieli różnych środowisk. Art. 28 ust. 3 CHAMBER Określony w art. 28 ust. 3 katalog podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (Rada) jest zdefiniowany podobnie nieco arbitralnie. W szczególności w pkt. 6 należałoby dopuścić wszystkie podmioty tworzące system szkolnictwa wyższego i nauki, wymienione w art. 7 ust. ustawy Prawo o szkolnictwie wyższym. Wątpliwe też wydaje się rozwiązanie przyjęte w ust. 6 pkt. 6, zgodnie z którym wycofanie poparcia przez instytucję zgłaszającą powoduje wygaśnięcie mandatu członka Rady. Członkowie Rady powoływani są do niej z powodu swoich osobistych przymiotów i nie są reprezentantami instytucji, które formalnie zgłaszają ich kandydatury. Przyjęte rozwiązanie de facto czyni członków Rady podatnymi na naciski z zewnątrz, gdyż w każdej chwili mogą zostać odwołani, co będzie negatywnie wpływało na ich niezależność. Proponujemy wykreślenie tego przepisu. Art. 28 ust. 3 GRAI I. Kandydatów na członków Rady Społecznej mogą zgłosić tylko wskazane podmioty. Istnieje ryzyko, że niektóre sektory nie będą reprezentowane w Radzie. 164 II. Kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji może wskazać m.in. współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka. Są to jednak przedstawiciele sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. III. Konieczność uwzględnienia wśród podmiotów, które mogą zgłaszać kandydatów na członków Rady także podmiotów reprezentujących osoby, których prawa mogą być naruszone przez AI – albo w pkt 7 albo jako odrębny punkt – w sposób bardziej generalny niż związki zawodowe, czy RPO. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 nie mieszczą się np. podmioty reprezentujące twórców, wydawców, czy producentów, których prawa mogą być naruszone działaniami związanymi ze sztuczną inteligencją (twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych; ponadto statutowa działalność podmiotów, w których się zrzeszają nie dotyczy działalności na rzecz rozwoju sztucznej inteligencji). IV. Obecny zapis ogranicza prawo zgłaszania kandydatów do Rady wyłącznie do fundacji i stowarzyszeń zajmujących się technologicznymi aspektami rozwoju AI. Jednak rozwój sztucznej inteligencji wywołuje coraz bardziej znaczące skutki społeczne, etyczne i kulturowe, których analiza jest kluczowa dla zrozumienia pełnego wpływu tej technologii na społeczeństwo. Dlatego też warto uwzględnić w ustawie organizacje i ośrodki badawcze zajmujące się społecznymi aspektami AI, aby zapewnić bardziej wszechstronną perspektywę konsultacji. V. dotyczy to także organizacji zajmujących się kwestiami tzw. praw własności intelektualnej, wolnej kultury i wolnego oprogramowania (nb. Ustawa w ogóle nie porusza aspektów własności wytworów generatywnej sztucznej inteligencji, wykorzystania utworów w domenie publicznej jako materiału służącego do trenowania modeli AI – i ew. wynagrodzenia ich twórców lub zastrzeżenia ich wykorzystania itd. – a które szczególnie zyskują na znaczeniu szczególnie w przypadku GenAI i dużych modeli językowych). VI. W praktyce może ten zapis może wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować 165 interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. VII. Rozszerzenie zakresu merytorycznego listy dopuszczonych izb gospodarczych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji o Związek Banków Polskich, który funkcjonuje jako izba gospodarcza. Reprezentuje on sektor finansowy, bardzo aktywny na rynku rozwiązań sztucznej inteligencji II. Postuluje się skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. III. „7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji ewentualnie 8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji.” IV. „Fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które w swoich celach statutowych uwzględniają działalność na rzecz rozwoju sztucznej inteligencji lub analizę jej społecznych, etycznych oraz kulturowych konsekwencji.”. V. z tym, że także takich które w swoich celach statutowych mają kwestie związane z wolnymi i otwartymi danymi i oprogramowaniem (np. fundacja Wikimedia) VI. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Poprawka stylistyczna 166 Słowa „może zgłaszać” zastępuje się słowem „zgłasza”. Należy rozważyć uwzględnienie przedstawicieli GRAI w składzie Rady Społecznej. Art. 28 ust. 3 Instrat – Fundacja Centrum Cyfrowe Skład Społecznej Rady W uzasadnieniu do ustawy wskazano, że skład Społecznej Rady zaprojektowano z myślą o tym, aby mogły w niej zasiadać osoby reprezentujące szeroki wachlarz środowisk i instytucji. Niemniej jednak chcemy zwrócić uwagę na fakt, że w zakresie reprezentacji społeczeństwa obywatelskiego, art. 28 ust. 3 może być ograniczający. Zgodnie z obecnym brzmieniem artykułu, kandydatów do Rady mogą zgłaszać jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których statutowym celem jest działalność na rzecz rozwoju sztucznej inteligencji. W praktyce może to wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, etyki danych, czy edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, ekonomiczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Art. 28 ust. 3 SFP-ZAPA Wśród podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji powinny znaleźć się także podmioty reprezentujące osoby, których prawa mogą być naruszone przez AI. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 Projektu nie mieszczą się np. podmioty reprezentujące twórców, wydawców czy producentów, których prawa mogą być naruszone i obecnie są naruszane działaniami związanymi ze sztuczną inteligencją. Twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, które zostały wskazane w tym przepisie Projektu, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych, które również zostały tam wskazane. Praw podmiotów uprawnionych z tytułu praw autorskich i pokrewnych nie reprezentują też organizacje, których statutowa działalność jest działalnością na rzecz rozwoju sztucznej inteligencji. 167 Z tych względów postulujemy poszerzenie katalogu podmiotów, które mogą zgłaszać kandydatów na szłonków Rady o stowarzysenia i fundacje, które realizują cele ustawowe poprzez działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji, np. organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi. Bez takiej zmiany podmioty praw autorskich i praw pokrewnyhc nie będą miały szansy na swoje przedstawicielstwo w Radzie. Art. 28 ust. 3 Polska Izba Ubezpieczeń Proponuje się w art. 28 ust. 3 projektu ustawy zmianę w pkt 4) na „izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych, a także usług finansowych, w szczególności bankowych i ubezpieczeniowych” Art. 28 ust. 3 Fundacja Sztuka Media Film Postulujemy poszerzenie zakresu podmiotów, które będą mogły zgłaszać kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji o: organizacje zbiorowego zarządzania oraz fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz mediów lub kultury, w szczególności kultury cyfrowej. Powyższy postulat związany jest z koniecznością zapewnienia reprezentacji twórców i przedstawicieli mediów w Społecznej Radzie do spraw Sztucznej Inteligencji, co wynika z rosnącego wykorzystania sztucznej inteligencji w mediach oraz szeroko pojętej kulturze. W naszej ocenie, niepewności związane z etycznym wykorzystaniem sztucznej inteligencji w mediach oraz konieczność zapewnienia ochrony interesów twórców utworów wykorzystywanych przez sztuczną inteligencję uzasadnia poszerzenie katalogu podmiotów wskazanych w art. 28 ust. 3 projektu ustawy o systemach sztucznej inteligencji o wskazane powyżej dwie grupy Art. 28 ust. 3 Osoba fizyczna jk Na liście podmiotów, które mogą zgłosić kandydatów do Społecznej Rady, wymieniono fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Dlaczego nie ma przedstawicieli osób poszkodowanych / skrzywdzonych przez sztuczną inteligencję? Chyba, że ich przedstawicielem będzie Rzecznik Praw Obywatelskich. Oby. Art. 28 ust.3 pkt 1-3 ISSA Polska Postuluję skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów 168 do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. Art. 28 ust. 3 pkt 2 i 3 Istotna, o ile nie zostanie uwzględniona uwaga dot. art. 7 ust. 1-2 Osoba fizyczna Przedstawiciele RPO oraz RPD (po uwzględnieniu ww. uwagi) obligatoryjnie wchodzą w skład Komisji ds. SI. Niepotrzebne jest przyznanie miejsc tym organom w Społecznej Radzie do spraw SI. Dubluje to kompetencje i wprowadza chaos organizacyjny. Ponadto może być uznana za uprzywilejowanie tych organów w zakresie SI. Art. 28 ust. 3 pkt. 4 Fundacja Open Allies Propozycja zapisu: 4) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych oraz fundacje, których celem statutowym jest działalność dotycząca sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 4 Związek Banków Polskich 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Art. 28 ust. 3 pkt 7 GRAI Projekt zakłada, że kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji mogą wskazać m.in. fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Zasadne jest jednak rozszerzenie tego katalogu w zakresie fundacji i stowarzyszeń o te działające również na polu cyberbezpieczeństwa. 169 Pkt 7 powinien otrzymać następujące brzmienie: “7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub cyberbezpieczeństwa”. Art. 28 ust. 3 pkt 7 Fundacja Open Allies Propozycja modyfikacji zapisu: Fundacje i stowarzyszenia wpisane do Krajowgo Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 7 ISSA Polska Postuluję rozszerzenie zakresu fundacji i stowarzyszeń o te działające na polu bezpieczeństwa Sztucznej Inteligencji i cyberbezpieczeństwa. Proponuję przyjąć pkt 7 o następującej treści: “fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju lub bezpieczeństwa sztucznej inteligencji lub cyberbezpieczeństwa”. Artykuł 28 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów Al oraz modelami Al. Nadzór ten musi bowiem dotyczyć również kontroli nad przestrzeganiem przez branżę Al. unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji, czy działające na rzecz jej rozwoju, a nie zapewnia jednocześnie poszanowania interesów sektorów kreatywnych czy użytkowników systemów Al. Dlatego też wnioskujemy o uzupełnienie składu Rady i właściwe zbalansowanie interesów wszystkich zainteresowanych stron. Art. 28 ust. 3 pkt 7 Fundacja Panoptykon Społeczna Rada do spraw Sztucznej Inteligencji Z aprobatą odnotowujemy propozycję ustanowienia Społecznej Rady do Spraw Sztucznej Inteligencji. Uważamy takie rozwiązanie za kluczowe do pogłębienia dialogu i współpracy pomiędzy Komisją a organizacjami społeczeństwa obywatelskiego. Chcielibyśmy jednak wskazać kilka kwestii wymagających, w naszej opinii, poprawy w kolejnej wersji projektu, aby Rada mogła jak najpełniej i najbardziej obiektywnie realizować swoje zadania. Sformułowanie misji organizacji społecznych 170 Zgodnie z obecnym brzmieniem art. 28 ust. 3 pkt 7 projektu ustawy, członkowie Rady mogą być zgłoszeni przez fundacje i stowarzyszenia wpisane do KRS, których celem statutowym jest „działalność na rzecz rozwoju sztucznej inteligencji”. Takie sformułowanie w nieuzasadniony sposób wyklucza podmioty działające na rzecz ochrony praw człowieka w kontekście wykorzystywania sztucznej inteligencji, a niekoniecznie jej rozwoju. Może to doprowadzić do sytuacji, w której prawo zgłoszenia kandydatów będą miały wyłącznie zarejestrowane jako fundacje organizacje branżowe lub think tanki promujące rozwój sztucznej inteligencji. Uważamy, że umożliwienie zgłaszania kandydatów szerszemu gronu organizacji społecznych jest kluczowe dla zapewnienia pluralizmu głosów w Radzie oraz reprezentacji eksperckiej wiedzy z zakresu praw człowieka. Taka perspektywa będzie niezbędna do rzetelnego doradzania Komisji, szczególnie w kontekście oceny skutków dla praw człowieka, o której mowa w art. 27 rozporządzenia w sprawie sztucznej inteligencji, oraz ochrony praw osób poddanych działaniu AI. Proponujemy więc rozszerzenie możliwych celów statutowych organizacji uprawnionych do zgłaszania kandydatów, poprzez dodanie działalności „na rzecz praw człowieka” do pkt. 7. Tak szeroko sformułowane regulacje dotyczące celów statutowych organizacji zgłaszających zwiększą szansę na większą wszechstronność członków Rady. Art. 28 ust. 3 pkt 8 Dodanie przepisu ZAIKS W art. 28 ust. 3 po punkcie 7) dodaje się średnik oraz punkt 8) o następującym brzmieniu: „8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.\" art. 28 ust. 7 GRAI Wygaśnięcie członkostwa członka Rady, chociażby z uwagi na fakt, że Rada składa się z 9 do 15 członków, nie powinno skutkować automatycznym powołaniem kogoś na jego miejsce. Wydaje się to zbędne, zwłaszcza w sytuacji, gdy kadencja Rady wkrótce wygasa. Słowo „powołuję” zastępuje się słowami „może powołać. Art. 28 ust. 4 pkt 1 Instrat – Fundacja Centrum Cyfrowe Kompetencje Społecznej Rady W art. 28 ust. 4 pkt 1 wskazano, że członkiem Rady może być osoba, która posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka. W katalogu wyszczególnionych specjalizacji zabrakło etyki (ewentualnie filozofii) nowych technologii, w tym SI, szczególnie istotnej w kontekście zadań stojących przed Radą. Proponujemy uzupełnienie ww. katalogu o etykę nowych technologii. Art. 28 ust. 4 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 4 projektu ustawy zmianę w pkt 4) na „wyraziła zgodę na kandydowanie opatrzoną kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 28 ust. 4 Fundacja Panoptykon Kryteria wyboru członków Rady Członkowie Rady będą powoływani przez Komisję spośród osób zgłoszonych przez uprawnione podmioty. Jednak o ile projekt ustawy wprowadza w art. 28 ust. 4 wymogi dla kandydatów i 171 kandydatek, to już nie precyzuje kryteriów, jakimi Komisja powinna kierować się w sytuacji, gdy liczba kandydatów spełniających te wymagania przekroczy maksymalną liczbę członków Rady. Z perspektywy interesu publicznego i zapewnienia pluralizmu perspektyw w Radzie, kluczowe jest, by proces wyboru w takiej sytuacji opierał się na jasno określonych i przejrzystych zasadach. Sugerujemy więc wprowadzenie w projekcie ustawy postanowienia, zgodnie z którym w takiej sytuacji Komisja powinna zapewnić reprezentatywność Rady i – w miarę możliwości – dążyć do utrzymania proporcjonalnej liczby członków zgłoszonych przez poszczególne uprawnione podmioty. Art. 28 ust. 4 pkt 1 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Członka Rady powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami Art. 28 ust. 6 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 6 projektu ustawy zmianę w pkt 1) na „rezygnacji złożonej przewodniczącemu Rady opatrzonej kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 29 ust. 1 zd. 1 Związek Banków Polskich Rada Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Art. 29 ust. 1 zd. 2 Związek Banków Polskich Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady. [Usunięcie wskazanego zdania jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1] Art. 29 ust. 3 CHAMBER do czynności tak trywialnej jak zaproszenie osoby na posiedzenie Rady nie jest chyba konieczne kolegialne działanie całej Komisji. Wydaje się bardziej racjonalne przekazanie tej kompetencji Przewodniczącemu Komisji. W art. 29 ust. 4 CHAMBER obowiązek zachowania w tajemnicy _wszystkich_ informacji, do których członek Rady uzyskał dostęp wydaje się zbyt szeroki i powinien obejmować jedynie informacje objęte tajemnicą służbową, przedsiębiorstwa lub prawnie chronioną. art. 29 ust. 5 GRAI Zakazy dotyczące członka Rady są bardzo niedookreślone i trudne do wyegzekwowania. Jeżeli mowa o zakazach to ich zakres powinien być możliwy do zweryfikowania. W tej chwili jest to bardzo ocenne i rodzi ryzyko, że Komisja będzie korzystać z tego uprawnienia wg swojego uznania. Propozycja doprecyzowania określeń co oznacza „działalność publiczna niedająca się pogodzić z działalnością w Radzie” oraz czym są działania skutkujące „konfliktem interesów” 172 Pojawia się wątpliwość czy brak wynagrodzenia za działalność w pracach Rady jest dobrym pomysłem. Taki dodatkowy obowiązek powinien podlegać choćby częściowemu wynagrodzeniu, aby członkowie Rady, często pochodzący z sektora prywatnego, nie musieli samodzielnie ponosić tych kosztów. To jedynie zniechęciłoby kompetentne osoby, gdyby musiały w wolnym czasie wykonywać dodatkowe obowiązki, bez wynagrodzenia. Propozycja uwzględnienia chociaż częściowego wynagrodzenia dla członków Rady, aby zachęcić odpowiednie osoby do poświęcenia swojego wolnego czasu na zaangażowanie w pracach Rady. art. 29 ust. 5 pkt. 2 CHAMBER projekt de facto zakazuje podejmowania wszelkiej działalności związanej z tworzeniem czy korzystaniem z systemów sztucznej inteligencji. Norma ta jest sformułowana zdecydowanie zbyt szeroko i może wykluczyć z udziału w Radzie wszystkich zawodowo czy naukowo związanych z tworzeniem i komercjalizowaniem systemów SI. Byłoby to zaprzeczenie samego celu istnienia Rady. Proponujemy usunięcie tego przepisu i zastąpieniem go bardziej precyzyjną normą wzorowaną na instytucji wyłączenia pracownika w KPA. Członek Rady powinien powstrzymać się od zajmowania stanowiska jedynie w ściśle określonych sytuacjach, gdzie jego bezpośredni interes jest przedmiotem de facto wyłącznie opiniodawczej działalności Rady (niebezpieczeństwo negatywnych skutków dla np. konkurentów jest tu raczej teoretyczne). Art. 29 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Wskazujemy na potencjalnie istniejące ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 6 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Art. 29 ust. 6 e-Izba Rekomendujemy rozważenie zmiany projektowanego brzmienia przepisu. Wprowadzenie wynagrodzenia i zwrotu kosztów może być rozwiązaniem, które zachęci wykwalifikowanych ekspertów do pełnienia funkcji w Radzie. Art. 29 ust. 6 Polskie Towarzystwo Informatyczne Brak wynagradzania członków Rady powoduje, że może to być organ niesprawny. Rekomenduje się wprowadzenie wynagrodzenia dla członków za udział w posiedzeniach. Prosimy o rozważenie wprowadzenia zasad wynagrodzenia członków Rady. Art. 29 ust. 6 Związek Banków Polskich Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Dodana brakująca litera „w”. 173 Art. 29 ust. 6 Fundacja Panoptykon Koszty udziału w pracach Rady Proponowane przepisy nie przewidują diet/wynagrodzeń ani zwrotu kosztów podróży dla członków Rady (art. 29 ust. 6). Tymczasem, aktywny udział w jej pracach może okazać się bardzo czasochłonny, zwłaszcza biorąc pod uwagę, że Rada będzie zobowiązana do wyrażenia opinii w zakresie i terminie określonym przez Komisję. Członkowie Rady będą więc musieli liczyć się z koniecznością przeznaczenia na prace w Radzie znacznych nakładów czasowych, oraz z tym, że tempo pracy, uzależnione od bieżących potrzeb Komisji, może być trudne do przewidzenia. Konieczność przeznaczenia własnych środków na dojazdy i czas poświęcony na udział w pracach Rady stawia w uprzywilejowanej pozycji przedstawicieli izb gospodarczych i organizacji branżowych, którzy zazwyczaj dysponują większymi zasobami niż np. organizacje społeczne. Dodatkowo, mogą oni być bardziej skłonni do angażowania zasobów na prace w Radzie, ponieważ udział w formułowaniu jej opinii może wspierać interesy biznesowe ich członków. Brak diet oraz zwrotu kosztów z dużym prawdopodobieństwem utrudni natomiast aktywny udział przedstawicieli organizacji społecznych, które z reguły dysponują znacznie mniejszymi środkami i bardziej organiczonymi zasobami personalnymi i czasowymi. Dodatkowo, zapewnienie zwrotu kosztów przejazdu i diet/wynagrodzeń to standardowa praktyka w przypadku innych podobnych ciał doradczych, np. diety i zwrot kosztów przewidują zasady funkcjonowania Rady ds. Ochrony Danych i Rady ds. Cyfryzacji. Proponujemy więc, aby do projektowanej ustawy wprowadzić analogiczne zasady dotyczące wynagrodzeń/diet oraz zwrotu kosztów podróży dla członków Społecznej Rady ds. Sztucznej Inteligencji. Art. 28 ust. 6 Fundacja FinTech Poland Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 5 Fundacja Panoptykon Konflikt interesów członków Rady Doceniamy wprowadzenie zasad związanych z konfliktem interesów w przypadku członków Rady, zawartych w art. 29 ust. 5 projektu ustawy. Uważamy jednak, że konieczne jest doprecyzowanie, jakie sytuacje mogą prowadzić do konfliktu interesów oraz jakie byłyby ich konsekwencje. Konflikt interesów może wystąpić np. w sytuacji, gdy członek Rady jest powiązany z firmą lub instytucją będącą przedmiotem postępowania, w ramach którego Komisja zwraca się do Rady o opinię. Może to mieć miejsce w przypadku zatrudnienia członka Rady przez kontrolowany podmiot lub gdy kontrolowany podmiot jest członkiem organizacji branżowej/ izby gospodarczej, którą członek Rady reprezentuje. Nie postulujemy całkowitego wykluczenia osób związanych z nadzorowanymi podmiotami z prac Rady. Uważamy jednak, że w sytuacjach, gdy opinia Rady dotyczy bezpośrednio podmiotu, z którym związany jest członek Rady, lub technologii, którą ten podmiot 174 rozwija, członek Rady powinien wyłączyć się z dyskusji oraz wstrzymać się od głosowania w tej sprawie. Art. 30 Fundacja Sztuka Media Film Zwracamy uwagę, że zaproponowane brzmienie art. 30 projektu ustawy o systemach sztucznej inteligencji sprawia, że istnieje możliwość istotnego ograniczenia faktycznej roli Społecznej Rady do spraw Sztucznej Inteligencji, z uwagi na brak jasnego zobowiązania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji do przekazywania Radzie projektów lub innych dokumentów celem ich zaopiniowania. Poddajemy pod rozwagę doprecyzowanie zakresu kompetencji Społecznej Rady do spraw Sztucznej Inteligencji i wprowadzenie regulacji wskazującej na konieczność uzyskania przez Komisję jej opinii, a nie tylko na możliwość podjęcia takich działań. Postulujemy wprowadzenie katalogu zamkniętego spraw wymagających uzyskania opinii Społecznej Rady do spraw Sztucznej Inteligencji, w ramach którego znalazłyby się projekty lub dokumenty związanie z wykorzystaniem sztucznej inteligencji w sektorze kultury lub mediów, w szczególności w kontekście praw twórców. Z uwagi na profil działalności naszej fundacji – zwracamy uwagę na potrzebę dialogu z przedstawicielami środowisk artystycznych i twórczych w tym branży filmowej oraz mediów. Niniejszy postulat pozostaje w związku z postulatem poszerzenia składu Społecznej Rady do spraw Sztucznej Inteligencji wskazanym w pkt. I powyżej. Art. 30 ust. 1 e-Izba Aktualne brzmienie tego przepisu sprawia, że nie można wykluczyć sytuacji, w której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie przekazywać Społecznej Radzie do spraw Sztucznej Inteligencji projektów lub innych dokumentów do zaopiniowania lub wyrażenia stanowiska, a w konsekwencji działalność Społecznej Rady do spraw Sztucznej Inteligencji będzie znikoma. Istotnym jest, aby Społeczna Rada do spraw Sztucznej Inteligencji miała możliwość wypowiadania się na bieżące tematy związane ze sztuczną inteligencją, stanowiące przedmiot działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W związku z powyższym proponujemy wprowadzenie zamkniętego katalogu spraw, które Społeczna Rada do spraw Sztucznej Inteligencji będzie zobligowania zaopiniować. W szczególności proponujemy, aby w tym katalogu znalazły się kwestie dotyczące: obowiązków przedsiębiorców związanych z wykorzystaniem sztucznej inteligencji, inicjatyw legislacyjnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz dotyczących działań mających na celu wspieranie oraz monitorowanie rozwoju innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 30 ust. 1 Związek Banków Polskich Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez pełny skład Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych 175 sytuacjach, gdy zostaną one przyjęte jednomyślnie przez pełny skład Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Art. 30 ust. 3 Fundacja Panoptykon Zadania Rady Art. 30 ust. 3 projektu ustawy stanowi obecnie, że w zakresie innym niż ten przekazany do opinii przez Komisję, Rada może wyrazić opinię lub stanowisko z własnej inicjatywy. Stanowczo popieramy to rozwiązanie, ponieważ pozwoli to Radzie zwrócić uwagę Komisji na istotne kwestie, które ta mogła przeoczyć. Nie mamy jednak pewności, jak interpretować fragment ust. 3, który mówi, że Rada może wydawać opinie w zakresie „dotyczącym spraw określonych w art. 1 ust. 1 ustawy”. Zwracamy uwagę, że to odwołanie wydaje się błędne, ponieważ art. 1 zawiera punkty, a nie ustępy. Jeśli jest to błąd redakcyjny i intencją projektodawcy było odwołanie do art. 1 pkt 1, uważamy, że zakres ten jest zbyt wąski. Obejmowałby on bowiem wyłącznie opinie w sprawie „organizacji i sposobu sprawowania nadzoru nad rynkiem”, podczas gdy opinie Rady mogą być równie wartościowe w przypadku innych kwestii, takich jak postępowania w sprawie naruszeń przepisów rozporządzenia w sprawie sztucznej intelignecji (art. 1 pkt 2), szczególnie w przypadkach mających znaczenie dla ochrony praw obywatelskich lub konsumenckich, a także w odniesieniu do działań wspierających rozwój systemów sztucznej inteligencji (art. 1 pkt 6). Aby Rada mogła w pełni zrealizować swoją rolę doradczą i sygnalizacyjną, postulujemy rozszerzenie jej kompetencji o możliwość wydawania opinii z własnej inicjatywy we wszystkich sprawach regulowanych ustawą, a także o dodanie zadań związanych z wyrażaniem opinii na temat zmian prawa w obszarze sztucznej inteligencji, analogicznie do kompetencji Rady ds. Ochrony Danych. Art. 32 ust. 2 KIG Sugerujemy, by Przewodniczący Komisji mógł nie tylko nadawać regulamin, ale też go zmieniać. Sugerujemy, by dopisać, iż regulamin może zawierać sformułowania doprecyzowujące zapisy Ustawy, wszelkie inne zapisy organizacyjne, które nie stoją w sprzeczności z aktami nadrzędnymi oraz takie, których akty nadrzędne nie zabraniają Art. 32 ust. 4 CHAMBER określa charakter prawny powołania Dyrektora Biura Komisji. Brakuje jednak analogicznych przepisów dotyczących Przewodniczącego Komisji i jego Zastępców. Wpisuje się to w problematyka nieco niejasnego uregulowania statusu Komisji jako “państwowej osoby prawnej”, a nie organu administracji. Sugerujemy dopracowanie tych przepisów właśnie w kierunku jasnego określenia statusu Komisji i Przewodniczącego. 176 Art. 33 ust. 1 CHAMBER jest zupełnie niepotrzebny - kto jest pracownikiem określają przepisy właśnie Kodeksu pracy i będzie on stosowany do tych osób bez względu na to, czy dana ustawa zawiera takie stwierdzenie. Jedynie uregulowanie przeciwne (o ile w ogóle dopuszczalne), wyłączające stosowanie przepisów KP do danej kategorii osób, byłoby celowe. Art. 34. Ust.2 Logicise zróżnicowane przychody biura Wydaje się, że obecny zapis, który m.in. umożliwia wpływy darowizn czy innych przychodów na rzecz Biura Komisji, jest niewystarczająco restrykcyjny i pozwala na uzyskiwanie przychodów niezwiązanych z działalnością statutową Komisji i Biura Komisji. Ponadto, otwiera możliwości dla sytuacji noszących znamiona działalności lobbingowej i/lub korupcyjnej. art. 34 pt.2 ppkt.5 Związek Zawodowy Scenarzystów Polskich GILDIA SCENARZYSTÓW Jednocześnie nasze wątpliwości budzi art. 34 pt.2 ppkt.5 mówiący o tym, iż źródłem finansowania Biura Komisji mogą być darowizny i zapisy. Biuro Komisji organizuje pracę komisji, która w ten sposób jest od niego uzależniona. Bez zawężającego określenia kto może być donatorem, darowizny na rzecz państwowej komisji ze strony prywatnych podmiotów — być może bezpośrednio zainteresowanych odpowiednimi decyzjami lub stworzeniem konkretnych przepisów, mogą budzić wątpliwości co do intencji donatora. W skrajnych przypadkach może być podważana rzetelność wydanych przez Komisję decyzji i opracowanych przepisów — jeśli będą one dotyczyć bezpośrednio lub pośrednio donatora. Zdaniem Gildii Scenarzystów należy albo doprecyzować zapis ograniczając donatorów tylko do jednostek i agencji rządowych lub też usunąć wzmiankowany podpunkt jako potencjalnie korupcjogenny. Art. 36 ust. 1 Logicise audyt sprawozdań finansowych Oprócz firmy audytorskiej, istotne jest, aby działalność Biura Komisji podlegała kontroli Najwyższej Izby Kontroli (NIK). Art. 36 ust. 2 GRAI I. Wybór firmy audytorskiej powinien odbyć się w trybie zamówień publicznych, w przetargu publicznym niezależnie od wartości zamówienia. II. Wątpliwości dotyczą faktu, że wybór „firmy audytorskiej” jest dokonywany przez Prezesa Rady Ministrów bez żadnych dodatkowych wytycznych, co oznacza, że wybór zależy tylko i wyłącznie od niczym nie ograniczonej woli Premiera. Budzi to wątpliwości o dokonanie właściwego wyboru. NIK powinien zajmować się weryfikacją sprawozdań finansowych Komisji. Alternatywnie powinno się umożliwić dokonanie wyboru audytora w oparciu o obiektywne kryteria, możliwe do zweryfikowania, aby zapewnić obiektywizm oraz bezstronność. 177 Propozycja przyjęcia treści ust. 2 (wskazanie kierunku zmian): „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej po przeprowadzeniu przetargu publicznego, niezależnie od wartości zamówienia.”. Art. 36 ust. 2 ISSA Polska Proponuję zamienić na: Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów dokonuje wyboru firmy audytorskiej. art. 38 ust. 1 GRAI Uwaga legislacyjna - Odesłanie do nieistniejących przepisów projektowanej ustawy, tj. do art. 11 ust. 8 i 10 (art. 11 kończy się na ust. 3). Art. 38 ust. 1 Osoba fizyczna jk W art. 11 nie ma ust. 8 i 10. Chyba zamysłem był zapis \"art. 11 ust. 1 pkt 3, 8 i 10 ustawy\". art. 39 CHAMBER Przepisy art. 39 o wydawanej pracownikom Biura Komisji legitymacji służbowych zostały w dużej mierze przeniesione z ustawy o nadzorze nad rynkiem finansowym. Dokonane w nich miejscami zmiany budzą jednak wątpliwości, gdyż nie są konsekwentne. Sama idea wydania legitymacji w “postaci elektronicznej” zasługuje na poparcie, ale w żaden sposób nie jest sprecyzowane, na czym dokładnie ta “postać elektroniczna” polega, a wydaje się to kwestią istotną. Ma to bezpośrednie zastosowanie do sytuacji przewidzianej w ust. 4, czyli do wymiany takiego dokumentu - w jaki sposób zachodzi “wymiana” dokumentu w postaci elektronicznej? W jaki sposób pracownik przedstawia taki dokument przy rozpoczęciu kontroli? Warto rozważyć dopracowanie tych przepisów lub umieszczenie w ust. 6 odpowiedniej delegacji ustawowej do wydania przepisów wykonawczych w tym zakresie. Wskazane wydaje się też dodanie wymogu umieszczenia zdjęcia pracownika na w legitymacji. art. 39 ust 1 oraz 5 GRAI Propozycja przyjęcia ,,fizycznej formy” legitymacji, a jeśli zostawiamy postać elektroniczną, należy zastanowić się nad zmianą ust. 5. (Fizyczna legitymacja ułatwia rozpoczęcie kontroli). artykuł 39 ust. 4 pkt 1) PIIT 1) aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObywatel czy w innej postaci? artykuł 39 ust. 4 pkt 1) KIGEiT Propozycja zapisu: 1) wymianie - aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? 178 art. 40 ust. CHAMBER Nie jest jasne, a jakie “wymogi” chodzi projektodawcom w przepisie art. 40 ust. 1. Odesłanie do art. 70 Rozporządzenia 2024/1689 jest wysoce nieprecyzyjne. Można się jedynie domyślać, że chodzi o “wymogi dotyczące kompetencji i zasobów” o którym mowa w art. 70 ust. 3 Rozporządzenia. Jeżeli tak jest w istocie, to należy odpowiednio zmienić brzmienie przepisu ust. 1 oraz ust. 2, który odnosi się do “stanu zasobów o którym mowa w ust. 1”, mimo że w ust. 1 mowa jest jedynie o “wymogach”. Od strony merytorycznej wydaje się nie do końca fortunne, że Przewodniczący Komisji będzie określał wymogi w zakresie kompetencji i zasobów (w tym ludzkich) dla własnej instytucji, a następnie oceniał ich stan i raportował o nich do Komisji Europejskiej (ust. 3). W praktyce Rozdział 3 projektu ustawy, dotyczący kontroli, może okazać się najistotniejszy i sprawić podmiotom rozwijającym lub korzystającym z SI w Polsce najwięcej problemów. Bardzo słusznym rozwiązaniem jest tu oparcie się o przepisy ustawy Prawo przedsiębiorców (art. 42 projektu). Należy jedynie wyrazić żal, że nie uczyniono tego w pełni konsekwentnie. Przykładowo zamiast regulacji art. 43 ust. 5 kontrola powinna być rozpoczęta zgodnie z przepisem art. 49 ust. 1 ustawy Prawo przedsiębiorców. Podobnie nie jest jasne, dlaczego wprowadzono w art. 43 ust. 6 projektu ustawy odrębną regulację upoważnienia do przeprowadzenia kontroli, które różni się jedynie jednym szczegółem od regulacji zawartej już w art. 49 ust. 7 ustaw Prawo przedsiębiorców. Postulujemy ponowny przegląd projektowanych przepisów i odstąpienie od regulacji które zasadniczo powielają już istniejące przepisy, powodując niepotrzebne niejasności i rozwlekłość projektowanych przepisów. art. 40 ust. 3 GRAI Uwaga redakcyjna - brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „rozporządzenia 2024/1689”. Rozdział 3 Open AI Devs Community Procedury kontrolne. Wnioskujemy o doprecyzowanie w rozdziale 3 ustawy: • Szczegółowych procedur ochrony własności intelektualnej podczas kontroli; • Terminów na przygotowanie się do kontroli; • Możliwości asysty eksperta technicznego wybranego przez kontrolowanego. Rozdział 3 KIGEiT Rekomendacja: Dodanie zapisów o elastycznych zasadach testowania: W Rozdziale 3 (Kontrola przestrzegania przepisów), należałoby dodać, że: \"Podmioty korzystające z piaskownicy regulacyjnej mogą testować nowe technologie AI w warunkach nieobjętych pełnymi wymogami regulacyjnymi przez okres do 24 miesięcy. Piaskownice mogą obejmować zarówno produkty na etapie koncepcji, jak i projekty we wczesnej fazie wprowadzania na rynek, przy czym testy będą podlegać jedynie uproszczonym procedurom nadzoru. Uczestnicy piaskownic nie podlegają karom za naruszenie przepisów, jeśli działania mieszczą się w ramach ustalonych przez Komisję w programie testowym.\" , Rozdział 1, Art. 3, pkt 15, ustawa odnosi się do \"piaskownicy regulacyjnej\" jako przestrzeni do eksperymentowania z nowymi technologiami AI. Należy wzmocnić ten zapis, podkreślając jego znaczenie w stymulowaniu innowacji. Wskazana w 179 rekomendacji elastyczność zachęcałaby firmy do testowania innowacyjnych technologii, co mogłoby napędzać postęp w obszarze AI, bez obawy o nadmierne regulacje. Rozdział 3 Związek Banków Polskich Kontrola dot. AI, co do zasady, powinna odbywać się z dużym wyprzedzeniem (notyfikacją) – z uwagi na poziom skomplikowania materii. Przepisy projektu nie powinny odsyłać do przepisów Prawa przedsiębiorców w zakresie kontroli dot. AI. Przepisy projektu powinny szczegółowo regulować zasady kontroli AI. Szczegółowe uregulowanie zasad kontroli AI powinno obejmować również rozwiązania w postaci wyjaśnień pokontrolnych i możliwości adresowania wyników kontroli przeprowadzonej przez Komisję. Rozdział 3 GRAI Sugeruje dodanie rozdziału na temat zasad nadzoru rynku – tj. możliwe rozstrzygnięcia ich forma, droga odwoławcza. Wprowadzenie katalogu możliwych rozstrzygnięć i jasnej drogi odwoławczej sprzyja przewidywalności Rozdział 3 PSSI Wpływ wymogów kontrolnych na MSP rozwijające Sztuczną Inteligencję Obecna wersja Ustawy daje rozległe uprawnienia kontrolne, bez względu na wielkość kontrolowanego podmiotu. Niektóre z zapisów ustawy, może narazić, szczególnie mniejsze przedsiębiorstwa na znaczące koszty. Przykładem zapisów, o potencjalnie bardzo istotnych konsekwencjach dla małych podmiotów są: Art. 47 pkt 2 Od zaleceń pokontrolnych nie przysługują środki odwoławcze. lub Art 52 pkt 3 Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. W przypadku mniejszych przedsiębiorstw, jakimi często są firmy rozwijające innowacyjne rozwiązania, takie wymogi mogą doprowadzić do utraty płynności lub innych niepożądanych konsekwencji. Rekomendujemy traktowanie ograniczające koszty kontroli, które ponosić mogą mniejsze przedsiębiorstwa. Rozdział 3 GRAI Sugeruje rozważenie wprowadzenia możliwości wydawania interpretacji indywidualnych przez Komisję w sytuacjach niejednoznacznych. Interpretacja wydawana byłaby na wniosek po spełnieniu określonych przesłanek Rozdział 3 lub 4 Związek Banków Polskich [Propozycja dodania przepisu w Rozdziale 3 lub 4] 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. 180 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają przesłanek do objęcia ich tajemnicą przedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. Zastrzeganie informacji i dokumentów powinno być możliwe nie tylko w zakresie kontroli, ale również w zakresie komunikacji z Komisją. Rozdział 3 Związek Cyfrowa Polska Zbyt szerokie uprawnienia kontrolne, które mogą stwarzać ryzyko operacyjne i związane z prowadzeniem innowacyjnej działalności przez firmy. Dodatkowo, Projekt nie gwarantuje w pełnym zakresie niezbędnych środków zaskarżenia rozstrzygnięć wydawanych przez organ kontrolujący. Art. 41 PWPW Ust. 1. Komisja może przeprowadzać kontrolę działalności podmiotów Przepisy ust. 1 i ust. 2 powinny wyraźnie wskazywać, że zakres kontroli może dotyczyć wyłącznie systemów AI. Natomiast obecna propozycja regulacji wskazuje, że kontrola 4 obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Ust. 2. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia 2024/1689 i ustawy. może dotyczyć całości działalności organizacji („kontrola działalności podmiotów”). W związku z tym zakres przepisu jest zbyt szeroki. Art. 41 KIGEic Propozycja zapisu: Dodanie ust. 4 \"Z wyłączeniem kontroli przestrzegania przepisów o sztucznej inteligencji w prywatnych, zamkniętych systemach podmiotów, do których dostęp mają tylko te podmioty i obieg wprowadzanych dane do systemów sztucznej inteligencji jest zamknięty, a wyniki stworzone w tych systemach przez sztuczną inteligencję nie są nigdzie upubliczniane\". , Jeżeli dany podmiot w ramach swojej działalności ma zamknięty system (box) gdzie zbierane i analizowane są dane wejściowe do systemów AI, następnie AI pracuje wyłącznie na tych danych w zamkniętym systemie i dane wyjściowe nie są upubliczniane - to wówczas nie istnieje żadne ryzyko związane z regulacjami dot. systemów sztucznej inteligencji. 181 Art. 41 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie kategorii podmiotów poprzez np. odesłanie do treści Rozporządzenia 2024/1689. Art. 41 ust. 1 Fundacja FinTech Poland Zwracamy się z prośbą o doprecyzowanie zakresu podmiotów. Proponujemy odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f. Wątpliwości rynku budzą intencję projektodawcy, czy ustawa ma na celu poszerzenie zakresu podmiotów podlegających kontroli. Art. 41 ust. 1 i 2. PIIT Komisja może przeprowadzać kontrolę działalności podmiotów, o których mowa w art. 2 ust. 1, lit. a) - f) rozporządzenia 2024/1689. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia i ustawy w odniesieniu do systemów zakazanych oraz systemów wysokiego ryzyka lub innych systemów, co do których istnieje uzasadnione przypuszczenie, iż mogą być systemem wysokiego ryzyka mimo odmiennej ich kwalifikacji. Art. 41 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż określenie „ustalenie zgodności działalności podmiotów” ma bardzo szeroki charakter. Postulujemy zawężenie wyżej wskazanego określenia lub wylistowanie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Art. 41 ust. 2 Fundacja FinTech Poland Określenie celu kontroli jako „ustalenie zgodności działalności podmiotów z przepisami rozporządzenia 2024/1689 i ustawy” jest bardzo szerokie i może prowadzić do niejasności co do zakresu kontroli oraz potencjalnie różnych interpretacji. W celu zwiększenia precyzji i efektywności działań kontrolnych, warto rozważyć zawężenie tego przepisu poprzez wylistowanie konkretnych aspektów, które będą przedmiotem kontroli. Na przykład, można wskazać, że kontrola obejmuje sprawdzenie braku modeli zabronionych, odpowiednią klasyfikację ryzyk, spełnianie wymogów transparentności, stosowanie środków zabezpieczających oraz zgodność z zasadami etycznymi i technicznymi dotyczącymi sztucznej inteligencji. Takie sprecyzowanie zakresu kontroli zwiększy przejrzystość postępowania zarówno dla organów kontrolujących, jak i dla kontrolowanych podmiotów, co przyczyni się do lepszego zrozumienia obowiązków oraz zapewni bardziej ukierunkowane i efektywne działania nadzorcze. Art. 41 ust. 3 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko możliwości wszczęcia kontroli na podstawie jakiejkolwiek informacji, powziętej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 182 Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zapewnienia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy istotne jest zwiększenie pewności prawnej przedsiębiorców w zakresie kompetencji kontrolnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ważne jest, aby przypadki kontroli przedsiębiorców ograniczyć do sytuacji, w których istnieje rzeczywiste prawdopodobieństwo naruszenia przez przedsiębiorcę przepisów rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji. W związku z powyższym proponujemy zmianę aktualnego brzmienia art. 41 ust. 3 projektu ustawy o systemach sztucznej inteligencji poprzez wskazanie, że podstawą do wszczęcia kontroli, o której mowa w tym przepisie, jest uprawdopodobniona informacja, pozyskana przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 41 ust. 3 Fundacja FinTech Poland Przepis w art. 41 ust. 3 Projektu Ustawy przewidujący, że kontrola może być prowadzona na podstawie uzyskanych przez Komisję informacji, jest niejasny co do źródła, charakteru oraz trybu uzyskiwania tych informacji. Warto doprecyzować, skąd Komisja może pozyskiwać informacje, np. czy pochodzą one od innych organów nadzorczych, instytucji publicznych, organizacji pozarządowych, czy zewnętrznych sygnalistów. Należy również określić, w jakim trybie takie informacje są pozyskiwane – czy w formie oficjalnych raportów, zgłoszeń, czy w wyniku działań monitorujących. Dodatkowo, istotne jest wskazanie, czy uzyskiwane przez Komisję informacje będą ewidencjonowane, a jeśli tak, to w jakiej formie (np. rejestr elektroniczny) i na jakich zasadach będą przechowywane oraz dostępne do wglądu. Takie doprecyzowanie zwiększyłoby przejrzystość procedur kontrolnych, zapewniając jasność zarówno dla podmiotów kontrolowanych, jak i dla samej Komisji, co może przełożyć się na bardziej efektywne i zgodne z prawem prowadzenie działań nadzorczych Art. 41 i 48 ICC Poland Zakres kontroli przestrzegania przepisów o sztucznej inteligencji, o której mowa w rozdziale 3 Projektu, powinien zostać ujednolicony z zakresem postępowania, o którym mowa w rozdziale 4 Projektu. Zgodnie bowiem z art. 41 Projektu Komisja może przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, zaś zgodnie z art. 48 Projektu w przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest ona do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy. Tymczasem to ostatnie postępowanie, zgodnie z Projektem, ogranicza się do postępowania w sprawie naruszenia przepisów jedynie rozporządzenia 2024/1689 (por. art. 1 pkt 2, art. 49 ust. 1 Projektu). Tym samym – według Projektu – przedmiotem kontroli mogą być objęte również naruszenia przepisów ustawy, podczas gdy przedmiotem postępowania w sprawie ich naruszenia już nie, co może mieć istotne znaczenie w razie planowanego uzupełnienia ustawy o systemach sztucznej inteligencji o nowe regulacje. Brak zsynchronizowania przepisów w tym 183 zakresie powoduje również niepewność po stronie podmiotów, do których ustawa ma mieć zastosowanie, co do zakresu potencjalnej kontroli. Art. 41 – 48 Instytut Spraw Obywatelskich Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 41 - 48 Obywatelski Akcelerator Innowacji Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 42 PWPW Do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236). Poprosimy o potwierdzenie, czy przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236) będą miały zastosowanie także do terminów i ograniczeń czasu prowadzenia kontroli. Art. 42 Polska Izba Ubezpieczeń Proponuje się w art. 42 korektę oznaczenia publikatora ustawy – Prawo przedsiębiorców, analogiczną jak ma to miejsce w art. 12 projektu ustawy Art. 43 Polskie Towarzystwo Informatyczne Być może warto by rozważyć podział artykułu 43 na mniejsze elementy (o ile jest to możliwe z punktu widzenia merytorycznego). Artykuł jest trudny do czytania, co może też wpływać na zrozumienie, a także może zwiększać ryzyko pomyłek. Art. 43 ITCORNER Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem nadmiernie ingerują w swobodę prowadzenia działalności gospodarczej i cechuje je nadmierny poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - szczególnie biorąc pod uwagę obszerność dokumentacji technicznej i projektowej powstającej w toku tworzenia oprogramowania. Proponujemy usunięcie tego uprawnienia, ew. ograniczenie go tylko i wyłącznie do zamkniętego katalogu przypadków. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na identyfikację systemu AI podlegającemu kontroli - jest to krytyczne z punktu widzenia podmiotów z branży programistycznej (software house czy agencje), które jednocześnie uczestniczą nawet w kilkudziesięciu projektach (=kilkudziesięciu odrębnie tworzonych systemach), w których zaangażowani są także klienci końcowi i podwykonawcy. Jeśli kontrola ma być efektywna, a wizerunkowo nie ma odbijać się negatywnie w ocenie klienta końcowego - podmiot kontrolowany powinien mieć możliwość poinformowania klienta końcowego oraz 184 zaplanowaniu dalszych prac z jak najmniejszym, negatywnym wpływem na komercyjny projekt programistyczny. W art. 43 ust. 7 brakuje także informacji o: terminach, które powinny zostać zachowane jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, maksymalnym czasie trwania kontroli - proponujemy, aby kontrole trwały nie dłużej niż 14 dni. W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być bardzo krótki, aby mógł realizować swoją funkcję. Art. 43 PIIT ust. 2 Proponujemy zachować zgodność z KPA i ewentualnie wprowadzić do KPA możliwość wprowadzenia kontroli w formie zdalnej. – vs. art. 74 AI Act Art. 43 ust. 4 pkt. 2: W toku kontroli kontrolujący mają prawo do: wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; - czy to oznacza, że kontrolna on-line, w systemach może się odbywać poza godzinami prowadzenia działalności? Brak przepisu wyraźnie wskazującego, że działania kontrolne nie mogą powodować utrudnień w działalności podmiotu kontrolowanego lub działania jego systemów. Art. 43 ust. 10. Dowody, o których mowa w ust. 9, mogą zostać zabezpieczone przez: pozostawienie ich w wydzielonym lub oddzielnym, zamkniętym i opieczętowanym pomieszczeniu u podmiotu kontrolowanego; - na jak długo, na czas kontroli? Art. 43 Ust. 11 – należałoby wskazać kryteria takiego zajęcia. Art. 43 ust. 15 - oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Kto byłby „osobą godną zaufania”? 185 Ponieważ przedmiotem kontroli powinna być zgodność działania systemów AI z AI Act, oraz spełnienie innych wymagań AI Act w tym opracowanie dokumentacji systemu AI, zakres pozyskiwanej przez kontrolujących dokumentacji nie powinien wykraczać poza dokumentację systemu AI. Art. 43 KIGEiT Rekomendacja: Dodanie zapisu, iż osoba przeprowadzająca kontrolę powinna podpisać klauzulę poufności , Mitygacja ryzyka wycieku danych objętych tajemnicą handlową w związku z kontrolą Art. 43 ICC Poland Artykuł 43 ust. 11 Projektu przewiduje możliwość wydania przez Komisję w toku kontroli postanowień o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych i urządzeń, o których mowa w art. 43 ust. 4 pkt 3 ustawy, oraz innych przedmiotów mogących stanowić dowód w sprawie na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Na postanowienie to, zgodnie z art. 43 ust. 13 Projektu, przysługuje zażalenie osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje jednak wykonania postanowienia. Po pierwsze, zajęcie wszelkich informatycznych nośników danych i urządzeń, o których mowa w tym przepisie, może mieć daleko idące konsekwencje dla prowadzenia działalności przez adresata postanowienia. W szczególności pozbawienie go dostępu do takich urządzeń, choćby na kilka dni, może w skrajnych przypadkach uniemożliwić mu prawidłowe prowadzenie działalności lub spowodować znaczące szkody (materialne i niematerialne). Z tego względu, biorąc pod uwagę potencjalne konsekwencje tego rodzaju czynności, należy postulować zawężenie kompetencji Komisji w tym zakresie, precyzując w projekcie przesłanki wydania takiego postanowienia. Po drugie, Projekt bezpośrednio nie reguluje postępowania zażaleniowego, zaś zakres zawartych w ustawie odesłań do ustaw proceduralnych zdaje się nie obejmować tego przypadku (art. 56 Projektu, nakazujący do postępowania przed Komisją stosować w zakresie nieuregulowanym przepisy Kodeksu postępowania administracyjnego4 zdaje się, z uwagi na jego umiejscowienie, dotyczyć jedynie postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689). Rodzi to poważne wątpliwości dotyczące chociażby tego, do kogo takie zażalenie ma być kierowane. Z uwagi na charakter czynności zajęcia ww. przedmiotów wydaje się, że rekomendowanym rozwiązaniem byłoby przyznanie podmiotom, których prawa zostały naruszone zajęciem, prawa złożenia zażalenia do sądu. Art. 43 Związek Banków Polskich Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości, przy czym osoba ta powinna złożyć oświadczenie o braku konfliktu interesów 186 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). 3. W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. 2. Kontrolę przeprowadza się w siedzibie przedsiębiorcy lub w miejscu wykonywania działalności gospodarczej oraz w godzinach pracy lub w czasie faktycznego wykonywania działalności gospodarczej przez przedsiębiorcę. 3. Za zgodą lub na wniosek przedsiębiorcy kontrolę przeprowadza się w miejscu przechowywania dokumentacji, w tym ksiąg podatkowych, innym niż siedziba lub miejsce wykonywania działalności gospodarczej, jeżeli może to usprawnić prowadzenie kontroli. 4. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzane również w siedzibie organu kontroli, jeżeli może to usprawnić prowadzenie kontroli. 4a. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzone w sposób zdalny za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. – Prawo pocztowe (Dz. U. z 2023 r. poz. 1640) lub za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344), jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej. 5. Dokumenty oraz informacje zebrane w toku czynności wykonywanych przez organ kontroli z naruszeniem przepisów ust. 2 i 3a nie stanowią dowodu w postępowaniu kontrolnym. 6. W toku kontroli kontrolujący mają prawo do: 1) swobodnego dostępu do środków łączności oraz, o ile zaistniały okoliczności, o których mowa w ust. 3, do oddzielnego pomieszczenia biurowego; 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, 187 informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp; Osoba wskazana w Art. 43. 1 ust 2) powinna składać obligatoryjnie oświadczenie o braku konfliktu interesów z kontrolowanym podmiotem. Sposób przeprowadzania kontroli powinien być zgodny w pełni z trybem przewidzianym w ustawie z dnia z dnia 6 marca 2018 r. Prawo przedsiębiorców i jako zasada powinna być przyjęta kontrola w siedzibie przedsiębiorcy. Kontrola zdalna może być przeprowadzana za zgodą przedsiębiorcy, a wtedy powinny być szczegółowo ustalone warunki takiej kontroli, w tym przesyłanie danych/dokumentów o charakterze wrażliwym, specjalnego przeznaczenia, dokumentowanie rozmów (nagrywanie?), itd. Przyjęcie zdalnego trybu kontroli jako trybu domyślnego stwarza szereg ryzyk ujawnienia informacji poufnych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa, czy naruszenia ochrony danych osobowych Art. 43 PWPW przepisy dot. kontroli) 1) Analiza charakteru przepisów dotyczących prowadzenia kontroli prowadzi do wniosku, że – w zależności od intensywności kontroli - może ona doprowadzić do uniemożliwienia realizacji usług przez podmiot kontrolowany – co w przypadku usługodawców – może doprowadzić do odpowiedzialności finansowej lub zagrozić jego podstawowym interesom i bieżącej działalności. W szczególności przepisy dot. zajmowania dokumentacji i rzeczy, pieczętowania lokali i zajęcia nośników informacji są niebezpieczne z punktu widzenia przedsiębiorców. 2) Wskazany w art. 43 ust. 4 projektu ustawy zakres czynności kontrolnych jest znacznie szerszy niż to wynika z ustawy – Prawo przedsiębiorców. 3) Przepisy dotyczące kontroli podmiotów zawarte w projekcie ustawy powinny bardziej precyzyjnie określać m.in. prawa kontrolowanego i obowiązki kontrolującego. Z uwagi na swoje znaczenie dla podmiotów wykonujących działalność gospodarczą, przepisy o kontroli powinny zawierać należytą gwarancję ochrony praw przedsiębiorcy w toku kontroli. 188 Art. 43 Związek Pracodawców Technologii Cyfrowych Lewiatan Prowadzenie kontroli (art. 43) Uważamy, że zapisy rozdziału dotyczącego prowadzenia kontroli powinny być ponownie przejrzane, także w celu ujednolicenia zasad np. z projektem nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa. Zapisy powinny odzwierciedlać rozwój technologii informatycznych, sposobów przetwarzania itd. Poniżej przedstawiamy kilka zastrzeżeń związanych przede wszystkim z wykorzystaniem chmury obliczeniowej. Wymóg zdalnych kontroli centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje mogą narażać wrażliwe dane na dostęp zewnętrznych inspektorów, zwiększając ryzyko wycieków lub naruszeń danych. Operatorzy potrzebują solidnych ustawowych zabezpieczeń, wskazujących że procesy kontroli są bezpieczne, zwłaszcza podczas obsługi danych klientów lub informacji podlegających tajemnicy przedsiębiorstwa. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe wprowadza dodatkowe wyzwania związane z ochroną danych osobowych. Zdalne kontrole mogą również prowadzić do zagrożeń związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu wprowadza potencjalne osłabienie systemu cyberbezpieczeństwa, które może zostać wykorzystane przez adwersarzy, co sprawia, techniczne zabezpieczenia, takie jak protokoły bezpiecznego połączenia, są niezbędne. Zakłócenia operacyjne to kolejna kwestia, ponieważ zdalne inspekcje systemów na żywo mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm z systemami krytycznymi dla usług realizowanych w czasie rzeczywistym, czas i metoda inspekcji muszą być starannie skoordynowane, aby zminimalizować przerwy w świadczeniu usług. Zgodność z wymogami dotyczącymi lokalizacji danych może stać się problemem w przypadku przetwarzania w systemach sztucznej inteligencji w jurysdykcjach z surowymi zasadami lokalizacji danych. Zdalne kontrole mogą kolidować z tymi przepisami, jeśli inspektorzy znajdują się poza krajem, tu: w Polsce, potencjalnie narażając firmy na ryzyko prawne. Zakres i kontrola dostępu do inspekcji muszą być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że niezbędne jest wdrożenie ścisłych kontroli dostępu i mechanizmów audytu do monitorowania działań inspektorów, co może być technicznie skomplikowane i angażować znaczące zasoby. Wielu operatorów ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyka, ale także potencjalnie nawet uniemożliwiając zaoferowanie usług na rynku. Rozwiązanie tych problemów wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z przepisami prawnymi oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Również art. 43 ust. 1 mówi o tym, że Przewodniczący Komisji może wskazać osobę trzecią, co budzi dalsze wątpliwości natury cyberbezpieczeństwa. Nie ma żadnych zapisów w jaki sposób następuje weryfikacja takich osób. 189 Art. 43 ust. 1 PWPW Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Proponujemy doprecyzować wymóg rzetelności/bezstronności kontrolującego i przepisy dotyczące wyłączenia kontrolujące z kontroli w przypadku wystąpienia braku bezstronności, tj. wystąpienia potencjalnego lub faktycznego konfliktu interesów. Obecne projekt ustawy ww. zakresie nie zawiera takich regulacji. Kontrolujący nie powinien być powiązany z podmiotem konkurencyjnym wobec kontrolowanego np. przez stosunek pracy lub umowy pokrewne (cywilne),członkostwo w zarządzie, powołanie do rady nadzorczej, relacje inwestycyjne itp. Art. 43 ust. 1 GRAI Komisja nie powinna mieć nieograniczonego prawa do kontroli. Powinno to nastąpić tylko w uzasadnionych przypadkach. Propozycja zmiany na „1. Komisja może w uzasadnionych przypadkach podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania tych przepisów.” Art. 43 ust. 1 Instrat – Fundacja Centrum Cyfrowe Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. - uwaga: niejasne sformułowanie. Art. 43 ust. 1 Fundacja FinTech Poland Przepis art. 43 ust. 1 budzi obawy związane z możliwością delegowania przeprowadzania kontroli osobom spoza Komisji, co stwarza ryzyko naruszenia poufności informacji należących do kontrolowanego podmiotu oraz ich potencjalnego wykorzystania do celów prywatnych lub komercyjnych. Takie rozwiązanie rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć 190 późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do przeprowadzenia kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Art. 43 ust. 1 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis art. 43 ust. 1 pkt 2 w obecnym kształcie budzi zastrzeżenia w zakresie chociażby braku ograniczenia co do osoby, którą może zostać upoważniona do przeprowadzenia kontroli z punktu widzenia konfliktu interesów. Budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego. Podnosimy, iż kontrolującymi nie powinny być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. art. 43 ust. 1 pkt 1 i 2 GRAI Osoba upoważniona do przeprowadzenia kontroli powinna być pracownikiem Biura oraz posiadać wiedzę specjalistyczną oraz władać językiem angielskim. Obecna redakcja wskazuje na alternatywę, kontrolującym może być albo pracownik Biura albo osoba spoza Biura, ale posiadająca niezbędną wiedzę. Te dwie przesłanki muszą być spełnione łącznie. Postuluje się dodanie w art. 43 ust. 1 pkt 1słowa „oraz” na końcu zdania. Dodanie obowiązku znajomości języka angielskiego. art. 43 ust. 1 pkt 1 i 2 PIIT Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Upoważnienie do \"przeprowadzenia kontroli\", a nie do udziału/przeprowadzenia czynności kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. 191 art. 43 ust. 1 pkt 2 CHAMBER W pierwszej kolejności należy stwierdzić, że dopuszczenie do prowadzenia kontroli osób nie będących pracownikami Biura Komisji (art. 43 ust. 1 pkt. 2) nie powinno być możliwe. Trudno znaleźć uzasadnienie lub wzorzec takiego zlecanie osobom trzecim wykonywania funkcji imperium Państwa. Prowadzącym kontrolę zawsze musi być wyłącznie pracownik organu, który może jedynie dodatkowo przybrać sobie w charakterze pomocnika “osobę posiadającą wiedzę specjalistyczną”. Wnosimy o wykreślenie tego przepisu w obecnym brzmieniu. Art. 43 ust.1 pkt 2 KIGEiT Propozycja zapisu: Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. , Upoważnienie do \"przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, Art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Art. 43 ust. 1 pkt. 2 e-Izba Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla innych celów, niż prowadzenie kontroli. Rozumiemy, że można wydelegować do kontroli pracowników organów wskazanych w art. 6 ust. 3 Projektu, ale nie powinny to być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. art. 43 ust. 2 i kolejne Związek Telewizji Kablowych w Polsce Izba Gospodarcza W tym stanie rzeczy proponujemy skreślenie art. 43 ust. 2 projektu ustawy o AI jako niezgodnego z regulacją art. 8 zd. | prawa przedsiębiorców, a zarazem pozbawionego jakichkolwiek racjonalnych podstaw, a także niezgodnego z zasadami zdrowego rozsądku. G/ Nie sposób zrozumieć w czym zasadza się prawo kontrolującego do wstępu na grunt oraz do obiektów budowalnych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia „dzielności” podmiotu kontrolowanego (art. 43 ust. 4 pkt. 2 in fine projektu ustawy o AT). To kolejny przykład braku staranności w przygotowaniu projektu ustawy o 192 AI albowiem prawdopodobnie chodziło projektodawcy o wstęp w dniach i godzinach pracy podmiotu lub prowadzenia „działalności” przez podmiot kontrolowany. H/ Nie sposób zaakceptować opcji obciążania podmiotu kontrolowanego, w tym i będącego przedsiębiorcą, kosztami sporządzania na żądanie organu kontrolującego kopii lub wydruków materiałów, czy korespondencji oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w art. 43 ust. 4 pkt. 3 projektu ustawy o Ai (art. 43 ust. 4 pkt. 5 projektu ustawy o A). Skoro to organ kontroli państwowej potrzebuje rzeczonych dokumentów to sam na własny koszt winien je sobie skopiować względnie wydrukować, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty kopiowania, czy też drukowania dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 43 ust. 4 pkt. 5 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji rzeczypospolitej Polskiej z dnia 2.04.1997 r. (Dz. U. nr 78 poz. 483 z późn. zm.), zwanej dalej Konstytucją RP]. art. 43 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zdecydowanie należy pochwalić takie rozwiązanie, ale też należy zwrócić uwagę, że Komisja będzie musiała je zoperacjonalizować. Wysyłanie wiadomości e-mail na pewno będzie nieefektywną formą przekazywania danych. W związku z tym wnosimy o wyjaśnienie czy Komisja wystawi API, z którym podmioty kontrolowane będą mogły/musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom Komisji (przez narzędzia do współpracy zdalnej)? Postulujemy uzupełnienie przepisu art. 43 ust. 2 zdanie drugie Projektu ustawy w następujący sposób: „W szczególnie uzasadnionych przypadkach (...)”. Zasadnym byłoby, aby fizyczne kontrole były absolutnym wyjątkiem. Wówczas po stronie kontrolowanej nie wystąpi konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Art. 43 ust. 2 Fundacja FinTech Poland Zdecydowanie warto docenić wprowadzenie możliwości przeprowadzania kontroli w sposób zdalny, co przyczynia się do usprawnienia procedur nadzorczych oraz redukcji kosztów i czasu poświęcanego na kontrole. Niemniej jednak, należy zwrócić uwagę, że KRiBSI będzie musiała zoperacjonalizować te przepisy, aby zapewnić sprawne i efektywne funkcjonowanie zdalnych kontroli. Wysyłanie dokumentów drogą mailową jest rozwiązaniem, które może okazać się nieefektywne, szczególnie przy dużej ilości danych lub w przypadku przekazywania informacji o wysokim stopniu wrażliwości. W związku z tym rekomenduje się rozważenie, czy KRiBSI powinna opracować i wystawić dedykowane API, umożliwiające bezpieczną i zautomatyzowaną wymianę danych z podmiotami 193 kontrolowanymi. Takie rozwiązanie pozwoliłoby na lepszą integrację systemów i znacznie przyspieszyło procesy kontrolne, zapewniając jednocześnie odpowiedni poziom bezpieczeństwa i ochrony danych. Alternatywnie, warto ustalić, czy na potrzeby zdalnej kontroli wystarczające będzie zapewnienie pracownikom KRiBSI zdalnego dostępu do systemów podmiotów kontrolowanych za pomocą narzędzi do współpracy online. Ponadto, aby uniknąć nieefektywności związanych z fizycznymi kontrolami, sugeruje się, aby były one stosowane wyłącznie w absolutnie wyjątkowych przypadkach. Obecny zapis dotyczący przesyłek kurierskich i rejestrowanych może sugerować konieczność drukowania dużej ilości dokumentów, co jest niepraktyczne i mija się z ideą zdalnej kontroli. W skrajnych przypadkach, jak kontrola systemów opartych na ogromnych zbiorach danych (np. system wytrenowany na treściach typu Wikipedia), fizyczne przesyłki mogą prowadzić do absurdalnych sytuacji, takich jak konieczność drukowania tysięcy stron dokumentacji. W związku z powyższym, warto rozważyć doprecyzowanie przepisów, aby zapewnić, że procesy zdalne będą dominującą formą kontroli, a fizyczne przesyłki będą wykorzystywane wyłącznie w ostateczności. Postulowane brzmienie przepisu: Art. 43 ust. 2 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W szczególnie uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). Art. 43 ust. 3 Polski związek zarządzania wierzytelnościami Art. 43 ust. 3 Projektu Nasze wątpliwości budzi fakt, że art. 43 ust. 3 Projektu nie wskazuje zakresu „szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Ograniczenie zakresu kontroli stacjonarnych do specjalnych potrzeb (np. w celu oględzin urządzeń, dokumentów i materiałów, jakimi dysponuje w swojej siedzibie kontrolowany) w znacznym stopniu wpłynęłoby pozytywnie na budowanie zaufania na linii organ - przedsiębiorstwa, jednak przede wszystkim zminimalizowałoby negatywny wpływ, jak i efekt mrożący, na działalność przedsiębiorstw. Wydaje się, że w znakomitej większości przypadków - niezbędna dotycząca systemu dokumentacja będzie powstawała w formie cyfrowej, a nie fizycznej. 194 Art. 43 ust. 3 Osoba fizyczna jk błąd gramatyczny W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Art. 43 ust. 3 GRAI Brak odniesienia się do kryteriów zainicjowania kontroli – kary są wysokie, a Komisja może przeprowadzić kontrolę „na podstawie uzyskanych informacji”. Oznacza to. Że kontrola może być wszczęta na podstawie każdej skargi wnoszona w trybie art. 85 AI Act (o której mowa w art. 50 ustawy), każdej informacji powziętej przez Komisję. Kontrola „w ramach monitorowania przestrzegania” przepisów AI Act – użycie tego sformułowania sugeruje, że kontrola może być zainicjowana w urzędu bez podania konkretnej przyczyny. Bardzo to niepokoi. Rekomendowane jest doprecyzowanie: Jaki charakter powinny mieć takie informacje? Co może być źródłem takiej informacji? Warto zaproponować stworzenie planu kontroli na kolejne lata, podobnie jak dzieje się to w UODO. Takie planowane kontrole odbywałyby się w ramach monitorowania przestrzegania przepisów AIA, nie dotyczyłyby, z oczywistych względów, kontroli ad hoc. Po ust. 3 dodać ust. 4 wskazujący na obowiązek opracowywania planów kontroli na następne lata. Art. 43 ust. 3 e-Izba Rekomendujemy wskazanie w katalogu otwartym przykładów „szczególnie uzasadnionych okoliczności”. Zwiększy to przewidywalność stosowania tego przepisu. Art. 43 ust. 3 Polskie Towarzystwo Informatyczne Może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Propozycja edytorska „może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.” Art. 43 ust. 3 ITCORNER Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Aby zminimalizować liczbę kontrol stacjonarnych w siedzibie / biurze kontrolowanego, oraz ich negatywny wpływ na działalność przedsiębiorców, proponujemy doprecyzowanie zakresu “szczególnych okoliczności”, 195 które uprawniają do wykonania kontroli stacjonarnej w siedzibie / biurze kontrolowanego i ograniczenie ich do takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym (np. kontrola wymaga oględzin urządzeń fizycznych lub informacje i materiały związane z przedmiotem kontroli nie mogą zostać przedstawione kontrolującemu zdalnie / w formie cyfrowej). Art. 43 ust. 3 KIGEiT Rekomendacja: Dodanie w ust. 3 zapisu, iż kontrola w siedzibie podmiotu kontrolowanego lub w innym miejscu prowadzenia przez niego działalności powinna się odbyć przy udziale upoważnionego reprezentanta podmiotu kontrolowanego, zakończona protokołem pokontrolnym. , Uzasadnienie: podmiot kontrolowany powinien mieć prawo brać czynny udział podczas kontroli przeprowadzanej w jego siedzibie/miejscu prowadzenia działalności. Art. 43 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, poprzez wskazanie katalogu przykładów, o jakie „szczególne okoliczności” chodzi. Pozwoli to zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Wskazujemy również, iż wątpliwości budzi uprawnienie osoby kontrolującej do podjęcia decyzji wskazanej w tym przepisie, szczególnie, że kontrolującym może być również osoba nie będąca pracownikiem Komisji. Z tej przyczyny postulujemy, aby na potrzeby komentowanego przepisu za kontrolującego uznać jedynie pracownika Komisji. Wnosimy również o doprecyzowanie przepisu w zakresie postępowania odwoławczego jak również w zakresie charakteru decyzji (administracyjna/operacyjna). Art. 43 ust. 3 GRAI Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, co rodzi wysokie ryzyko nadużyć. W przypadku gdy szczególne okoliczności to uzasadniają (...) może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego – nie wiemy, co to są „szczególne okoliczności to uzasadniające”. Konieczność określenia zakresu “szczególnych okoliczności” uprawniających do wykonania czynności kontrolnych w siedzibie podmiotu, tj. takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym: Materiały związane z przedmiotem kontroli nie mogą zostać okazane kontrolerowi w formie cyfrowej Kontrola wymaga oględzin fizycznych urządzeń Art. 43 ust. 3 Fundacja FinTech Poland W związku z brzmieniem art. 43 ust. 3, wskazującym na możliwość przeprowadzenia kontroli w siedzibie podmiotu 196 kontrolowanego lub w miejscu jego działalności, zasadne jest doprecyzowanie, jakie szczególne okoliczności mogą uzasadniać taką decyzję. Rekomendujemy podanie przykładowego (choć otwartego) katalogu takich sytuacji, który mógłby obejmować: przypadki podejrzenia manipulacji danymi lub systemami, konieczność weryfikacji sprzętu fizycznego używanego do działania systemu AI, bądź potrzebę zbadania infrastruktury sieciowej i zabezpieczeń, które mogą być kluczowe dla oceny ryzyka związanego z systemem AI. Ponadto, wątpliwości budzi kwestia, czy decyzja o wykonaniu kontroli w siedzibie powinna pozostawać w gestii jednej osoby kontrolującej, szczególnie gdy art. 43 ust. 1 pkt 2 zezwala na przeprowadzanie kontroli przez osoby spoza Komisji. Aby zminimalizować ryzyko nadużyć oraz zapewnić obiektywność i rzetelność procesu, zasadne wydaje się ograniczenie uprawnienia do podejmowania takiej decyzji do pracowników Komisji. Kontrolującym w rozumieniu tego przepisu powinna być osoba, która posiada odpowiedni poziom odpowiedzialności i znajduje się pod nadzorem Komisji. Dodatkowo, niejasne pozostaje, czy decyzja o przeprowadzeniu kontroli w siedzibie jest traktowana jako formalna decyzja administracyjna, czy też jako decyzja operacyjna, która nie podlega formalnym procedurom administracyjnym. Doprecyzowanie tego aspektu zwiększyłoby przejrzystość przepisów oraz pomogłoby podmiotom kontrolowanym zrozumieć, jakie prawa im przysługują w przypadku kwestionowania zasadności przeprowadzenia kontroli na miejscu. Warto rozważyć wprowadzenie wymogu pisemnego uzasadnienia takiej decyzji, aby kontrolowane podmioty miały jasność co do powodów jej podjęcia. Art. 43 ust. 4 PIIT Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Osoba fizyczna jk \"1) swobodnego dostępu do środków łączności\" Dobra rada doświadczonego praktyka: kontrolujący powinni unikać jak ognia korzystania z infrastruktury teleinformatycznej podmiotu kontrolowanego. Dostępne obecnie rozwiązania bez problemu pozwalają kontrolującym na stosowanie własnych urządzeń telekomunikacyjnych i teleinformatycznych do komunikacji. Unikną zarzutu - uzasadnionego lub nie - o ingerencję w systemy teleinformatyczne podmiotu kontrolowanego. 197 Proponowany zapis jest reliktem z czasów, gdy nie było telefonii komórkowej i mobilnego internetu. błąd gramatyczny 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzieałalności podmiotu kontrolowanego 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781) Nie ma art. 7 pkt 2a w wymienionej ustawie: https://dziennikustaw.gov.pl/D2019000178101.pdf Art. 43 ust. 4 GRAI Art. 43 ust. 4 zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Niektóre uprawnienia są nieproporcjonalne i nadmiernie ingerujące w prawa przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej: (a) żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; (b) zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6), (c) opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9); (d) wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Weryfikacja zakresu uprawnień i pozostawienie tylko tych niezbędnych oraz niezakłócających prowadzenia działalności przez przedsiębiorcę, w szczególności art. 43 ust. 3 pkt 5, 6, 9, 11. Art. 43 ust. 4 KIGEiT Rekomendacja: Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku 198 Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Polski związek zarządzania wierzytelnościami Art. 43 ust. 4, 7 i 13 Projektu Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem mogą nieproporcjonalnie ingerować w swobodę prowadzenia działalności gospodarczej i stabilność obrotu. Nadmierny wydaje się być w tym zakresie poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - biorąc tu zwłaszcza pod uwagę możliwość stosowania oprogramowania wdrożonego z udziałem podmiotów trzecich (przedsiębiorstw z sektora IT) oraz rozległość dokumentacji technicznej systemów informatycznych. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na skuteczną komunikację z podwykonawcami, odpowiedzialnymi za tworzenie produktów lub usług wpisujących się w definicję systemów AI na rzecz przedsiębiorstw z branży windykacyjnej (albo stanowiących ich element). W art. 43 ust. 7 dostrzegamy braki dotyczące: maksymalnego czasu trwania kontroli - proponujemy, by w związku z wyżej przytoczonymi argumentami za ochroną stabilności obrotu gospodarczego, kontrole trwały nie dłużej niż 14 dni; terminów, które powinny zostać zachowane, jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 Projektu następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być możliwie jak najkrótszy, aby mógł realizować swoją funkcję. Art. 43 ust. 4 Związek Cyfrowa Polska Zbyt szeroki katalog uprawnień organu kontrolującego. Art. 43 ust. 4 Projektu zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, 199 przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Należy zauważyć, że tego rodzaju, bardzo szerokie uprawnienia nie są zgodne z przepisami Aktu o sztucznej inteligencji, w szczególności z art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”. W związku z tym warto włączyć taką samą definicję do polskiej ustawy (w brzmieniu. „tylko takie dane, które są absolutnie niezbędne do oceny ryzyka stwarzanego przez systemy sztucznej inteligencji i wykonywania ich uprawnień”), a dokumenty wymienione poniżej uznać za wyłącznie te, które można uzyskać, jeśli mieszczą się w zakresie ich bezwzględnej konieczności. Dodatkowo, jako nieproporcjonalne i nazbyt ingerujące w prawo każdego przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej należy ocenić uprawnienie do: żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 in fine Projektu) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6 Projektu); opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9 Projektu); wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11 Projektu). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Art. 43 ust. 4 pkt 1 GRAI Nie zawsze będzie możliwość zapewnienia „oddzielnego pomieszczenia”, szczególnie gdy sprawa dotyczy mikro lub małych podmiotów, które wynajmują jeden open-space. Postuluje się dodanie na końcu zdania „o ile będzie to możliwe”. Art. 43 ust. 4 pkt 2 Polskie Towarzystwo Informatyczne 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3. Czy nie powinno się to odbywać również w obecności przedstawiciela jednostki kontrolowanej, co powinno mieć wówczas odzwierciedlenie w zapisie artykułu. 200 Art. 43 ust. 4 pkt 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy na konieczność redakcyjnej zmiany wyrazu „dzielności” na wyraz „działalności”. Art. 43 ust. 4 pkt 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o wyjaśnienie, czy chodzi o dostęp do nośnika czy do zawartych tam informacji? Wnosimy również o wyjaśnienie, jak zdaniem Projektodawcy należy udostępnić sam nośnik w postaci np. serwera „chmurowego\"? Art. 43 ust. 4 pkt 3 Związek Banków Polskich żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 3 Fundacja FinTech Poland Przepis art. 43 ust. 4 pkt 3) przewiduje możliwość żądania przez kontrolującego udostępnienia nośników danych oraz dostępu do systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, 201 czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg, oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. Art. 43 ust. 4 pkt 5 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Aby wyeliminować przedmiotową wadliwość regulacji proponujemy zatem w art. 43 ust. 4 pkt. 5 in principio projektu ustawy o AI po słowach „podmiot kontrolowany”, a przed słowem „kopii” dodanie treści w brzmieniu „na koszt podmiotu przeprowadzającego kontrolę”. G/ Projektodawca jest niekonsekwentny w swoich zamierzeniach albowiem w art. 44 ust. 1 projektu ustawy o AI wskazuje, że Komisja może zwrócić się o udzielenie pomocy przy przeprowadzaniu kontroli do Policji lub organu kontroli państwowej i ochrony prawa, a także do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji w trzech odrębnych punktach zawartych w art. 44 ust. 2 zd. 2 projektu ustawy o AI opisując w czym ma się zasadzać udzielenie pomocy odpowiednio przez Policję, przez organ kontroli państwowej i ochrony prawa oraz przez jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, tymczasem w art. 44 ust. 2 zd. 1 in principio projektu ustawy o AI wprowadza regulację przewidującą iż jedynie Policja lub organ kontroli państwowej i ochrony prawa zapewnia pomoc w przeprowadzeniu kontroli pomijając w tym zestawieniu pomoc udzielaną przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji, mimo iż w art. 44 ust. 2ust. 2 pkt. 3 projektu ustawy AI opisuje ustawodawca w czym ma się przejawiać udzielenie pomocy kontrolującemu przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji. Art. 43 ust. 4 pkt 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż uprawnienie do żądania wydruków w sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych, uznać należy za anarchonizm. Rodzi to obawy, że organy będą preferować drukowanie przez podmiot kontrolowany ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto żądanie „poświadczania\" wydruków/kopii za zgodność uznać należy za nazbyt uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" mogłoby być zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu kontrolowanego, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym, postulujemy zmianę treści art. 43 ust. 4 pkt 5 Projektu ustawy na następującą: „5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o 202 których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;” Art. 43 ust. 4 pkt 5 e-Izba Rekomendujemy usunięcie tego przepisu. W sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych nie powinno być możliwe żądanie wydruków materiałów, korespondencji oraz informacji. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Na marginesie zwracamy uwagę, że „poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i bardzo uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" powinno zostać zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. Art. 43 ust. 4 pkt 5 Związek Banków Polskich żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 5 Fundacja FinTech Poland Przepis przewidujący prawo kontrolujących do żądania sporządzenia wydruków przez podmiot kontrolowany, gdy istnieje możliwość przekazania kopii elektronicznych, jest archaiczny i odbiega od współczesnych standardów zarządzania dokumentacją. W erze cyfrowej preferowanie wydruków może prowadzić do niepotrzebnego zwiększenia obciążenia administracyjnego oraz marnotrawstwa zasobów, zwłaszcza papieru. Taka praktyka rodzi również ryzyko, że organy kontrolujące będą forsować drukowanie dużych ilości dokumentacji, co jest czasochłonne i nieefektywne w porównaniu do przekazywania danych w formie elektronicznej na nośnikach lub poprzez bezpieczne kanały cyfrowe. Dodatkowo, wymóg poświadczania każdej strony dokumentów za zgodność z oryginałem przez podmiot kontrolowany jest nadmiernie uciążliwy i mało praktyczny. Proces ten wymaga, aby osoba odpowiedzialna w podmiocie była formalnie umocowana do składania takiego poświadczenia, co wiąże się z dodatkowymi procedurami i komplikacjami prawnymi. Zamiast tego, bardziej adekwatnym rozwiązaniem byłoby zastąpienie poświadczania indywidualnych dokumentów jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, w którym potwierdza się, że 203 wszystkie przekazywane kopie są zgodne z oryginałami. Taka zmiana uprościłaby proces, zwiększając efektywność i zmniejszając formalne obciążenie kontrolowanego podmiotu. Postulowane brzmienie przepisu: Art. 43 ust. 4 pkt 5) 5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów; Art. 43 ust. 4 pkt 8 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Art. 43 ust. 4 pkt 8 Związek Banków Polskich 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 8 Fundacja FinTech Poland Oględziny urządzeń, nośników danych oraz systemów informatycznych w kontekście serwerów dostawców chmurowych mogą napotkać istotne trudności organizacyjne i techniczne. W praktyce, serwery chmurowe są często zlokalizowane poza granicami kraju lub w centrach danych o wysokim poziomie zabezpieczeń, gdzie fizyczne oględziny są albo niemożliwe, albo znacznie ograniczone przez regulacje dostawcy. Ponadto, dostęp do tych serwerów może być zgodny jedynie z polityką bezpieczeństwa i procedurami wewnętrznymi dostawcy, co może obejmować szczególne warunki prawne lub techniczne. W związku z tym proponujemy rozważenie alternatywnych form przeprowadzania oględzin, takich jak zdalna weryfikacja danych za pomocą bezpiecznych połączeń sieciowych, audyty systemowe. Takie podejście pozwoli na przeprowadzenie kontroli bez fizycznej obecności przy serwerach, co zwiększy elastyczność działania organów kontrolujących i zminimalizuje ryzyko komplikacji wynikających z międzynarodowych aspektów lokalizacji danych. Art. 43 ust. 4 pkt 10 Związek Banków Polskich (...)przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli [uchylenie punktu] Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 204 Art. 43 ust. 4 i 6 Związek Banków Polskich 4. W toku kontroli kontrolujący mają prawo do: (...) 11) Kontrolę należy prowadzić w sposób rzetelny, obiektywny i proporcjonalny do celu kontroli. Kontroler jest zobowiązany do minimalizowania utrudnień w działalności podmiotu kontrolowanego. (...) 6. Upoważnienie do przeprowadzenia kontroli zawiera: (...) 11) wskazanie praw i obowiązków podmiotu kontrolowanego w trakcie kontroli, w tym prawa do wglądu w akta sprawy i możliwości odwołania. Przepis szczegółowo określa uprawnienia kontrolerów Komisji oraz procedury przeprowadzania kontroli. Upoważnienie do kontroli może określać ten zakres w sposób ogólny, co pozwala kontrolerom dostosować swoje działania do konkretnej sytuacji. Co oczywiście może wpływać na ustalenie konkretnych uprawnień organu i odpowiadających mu obowiązków kontrolowanego Szczególnym zagadnieniem jest kwestia zabezpieczenia dowodów. Przepisy przyznają kontrolerom szerokie uprawnienia w tym zakresie, takie jak zajmowanie dokumentów czy przeprowadzanie oględzin. Chociaż takie uprawnienia są niezbędne do efektywnego prowadzenia kontroli, to jednocześnie rodzą wątpliwości co do ich granic i wpływu na prawa podmiotów kontrolowanych. Należy podkreślić, że szeroki katalog uprawnień kontrolerów powinien być równoważony przez odpowiednie zabezpieczenia prawne dla podmiotów kontrolowanych, takie jak prawo do wglądu w akta sprawy, możliwość odwołania od decyzji kontrolera czy jasne określenie przesłanek do zastosowania poszczególnych środków zabezpieczających Art. 43 ust. 5 Fundacja FinTech Poland Przy kontroli zdalnej kwestia okazania upoważnienia oraz dokumentu tożsamości wymaga doprecyzowania, aby zapewnić transparentność procesu i autentyczność działań kontrolujących. Obecne postanowienie nie precyzuje, jak kontrolujący powinien okazać te dokumenty w sytuacji, gdy kontrola odbywa się na odległość. Należałoby rozważyć możliwość przedstawienia upoważnienia oraz dokumentu tożsamości w formie elektronicznej. Tego rodzaju rozwiązanie pozwoliłoby na potwierdzenie tożsamości i uprawnień kontrolującego, jednocześnie dostosowując procedurę do realiów zdalnej współpracy i minimalizując potencjalne trudności oraz ryzyka związane z weryfikacją upoważnienia na odległość. Art. 43 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy uzupełnienie przepisu poprzez dodanie obowiązku wskazania przez podmiot kontrolujący – oprócz podstawy prawnej – także podstawy faktycznej. 205 Art. 43 ust. 6 Fundacja FinTech Poland Należałoby rozważyć uzupełnienie przepisu tak, aby oprócz podstawy prawnej kontroli, upoważnienie zawierało również wskazanie podstawy merytorycznej. Warto, aby upoważnienie precyzowało, czy kontrola jest prowadzona w ramach ogólnego monitorowania przestrzegania rozporządzenia, czy na podstawie powziętej przez Komisję informacji, skargi lub innego rodzaju zgłoszenia. Taka informacja zwiększyłaby transparentność działań kontrolnych i pozwoliłaby kontrolowanemu lepiej zrozumieć kontekst i przyczynę kontroli. Wprowadzenie tego elementu mogłoby także zapobiec nieporozumieniom oraz wzmocnić zaufanie do procedur kontrolnych, ułatwiając współpracę między podmiotem kontrolowanym, a Komisją Art. 43 ust. 6 pkt 1 e-Izba Rekomendujemy uzupełnienie treści przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: „wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Art. 43 ust. 7 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu w taki sposób, aby wynikało z niego z jakim wyprzedzeniem i w jakiej formie pomiot jest informowany o planowanej kontroli. Przedsiębiorcy powinni wiedzieć również w jakim czasie kontrola powinna się zakończyć. W związku z powyższym, wnosimy o nadanie art. 43 ust. 7 Projektu ustawy nowej treści w brzmieniu następującym: „O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Art. 43 ust. 7 Polskie Towarzystwo Informatyczne O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany czas trwania kontroli. Propozycja O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany termin rozpoczęcia i przewidywany czas trwania kontroli. Powinien zostać podany termin rozpoczęcia kontroli Art. 43 ust. 7 GRAI I. Zbyt wąski zakres informacji przekazywanych kontrolowanemu przed planowaną kontrolą. II. Brak informacji o terminach, które muszą zostać zachowane, tj. dopuszczalnym terminie zawiadomienia przed planowaną kontrolą, oraz maksymalnym dopuszczalnym czasie trwania kontroli. 206 I. Słowa „przewidywany czas trwania kontroli” zastępuje się słowami “informacje, o których mowa w ust. 6 pkt 1, 2, 8 i 10”. II. Uzupełnienie brakujących terminów: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany w terminie do 7 dni przed planowaną kontrolą, podając przewidywany czas trwania kontroli, który nie może być dłuższy niż 14 dni kalendarzowych.” Art. 43 ust. 7 GRAI Termin rozpoczęcia kontroli powinien być odpowiedni i oscylować w zakresie od 3 dni w przypadkach nagłych do min. 14 dni w przypadkach standardowych. Warto też wskazać jaki jest ustawowy czas przewidziany standardowo na kontrolę. Chodzi o zapewnienie podmiotów, że kontrola nie będzie trwała nadmiernie długo. Proponuje się, aby kontrola rozpoczynała się w przypadkach nagłych min. 3 dni od otrzymania powiadomienia, min 14 dni lub więcej w przypadkach standardowej kontroli. Proponuje się także, aby kontrola była ograniczona ustawowo do 1 miesiąca, chyba, że w następuje uzasadniony przypadek i termin ten można wydłużyć do 3 miesięcy. Uzasadnienie przedłużenia należy dostarczyć kontrolowanemu. Art. 43 ust. 7 Fundacja FinTech Poland Wprowadzenie obowiązku zawiadamiania podmiotu kontrolowanego z wyprzedzeniem przynajmniej 30 dni roboczych, a także ograniczenie czasu trwania kontroli do 1 miesiąca od dnia jej rozpoczęcia, ma na celu zapewnienie przejrzystości i efektywności procesu kontrolnego. Wyprzedzenie 30-dniowe daje kontrolowanemu podmiotowi odpowiedni czas na przygotowanie się do kontroli, zebranie wymaganych dokumentów i zorganizowanie zasobów, co sprzyja płynnemu przebiegowi kontroli oraz minimalizuje zakłócenia w bieżącej działalności podmiotu. Określenie maksymalnego czasu trwania kontroli na 1 miesiąc pozwala ograniczyć długotrwałe obciążenia związane z procesem kontrolnym, co jest szczególnie istotne dla firm o ograniczonych zasobach kadrowych i operacyjnych. Taka zmiana zwiększa również przewidywalność procesu oraz zmniejsza ryzyko niepotrzebnego przedłużania działań kontrolnych, co może być obciążające zarówno dla podmiotu kontrolowanego, jak i dla samego organu kontrolującego. Postulowane brzmienie przepisu: 7. O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli. Art. 43 ust. 8 Liczne usterki językowe w poszczególnych punktach wyliczenia. 207 W pkt 2 słowo „udzielania” zastępuje się słowem „udzielenie”, w pkt 3 skreśla się słowo „umożliwienia” i słowo „wstępu” zastępuje się słowem „wstęp”, w pkt 4 słowa „udostępnienia i wydania” zastępuje się słowami „udostępnienie i wydanie”, w pkt 5 skreśla się słowo „umożliwienia” i słowo „dostępu” zastępuje się słowem „dostęp”. Art. 43 ust. 8 pkt 5 Związek Banków Polskich umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 10 Fundacja FinTech Poland Zastosowanie metody zabezpieczenia dowodów przez ich pozostawienie w zamkniętym i opieczętowanym pomieszczeniu może nie być optymalne w kontekście nośników informatycznych. Warto rozważyć alternatywne metody zabezpieczania danych, które pozwolą na skuteczne zabezpieczenie dowodów przy jednoczesnym minimalizowaniu zakłóceń w bieżącej działalności podmiotu kontrolowanego. Fizyczne zabezpieczenie nośników, które mogą być kluczowe dla wielu procesów operacyjnych, nie powinno prowadzić do sytuacji, w której podmiot jest całkowicie pozbawiony dostępu do zasobów niezbędnych do prowadzenia działalności gospodarczej. Rekomendujemy wprowadzenie zabezpieczeń, takich jak tworzenie kopii zabezpieczonych danych lub ograniczenie dostępu w sposób pozwalający na ich monitorowanie, ale nie blokujący funkcjonowania podmiotu Art. 43 ust. 10 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Art. 43 ust. 11 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis powinien precyzować, czym jest „zajęcie informatycznych nośników danych\" - czy w skrajnych przypadkach ma to oznaczać, że organizacja musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? Uważamy, iż tak intepretowany przepis jest zbyt daleko idący. 208 Art. 43 ust. 11 Fundacja FinTech Poland Przepis dotyczący zajęcia nośników informatycznych wymaga większej precyzji, szczególnie w kontekście jego zastosowania w praktyce. Zajęcie nośników danych, urządzeń oraz systemów informatycznych może mieć poważne konsekwencje dla firmy, zwłaszcza jeśli działalność organizacji jest ściśle związana z przetwarzaniem danych lub korzystaniem z systemów, które zostały zajęte w ramach kontroli. W skrajnych przypadkach, jeśli zajęcie nośników danych lub urządzeń dotyczy kluczowych elementów infrastruktury firmy, takich jak serwery, bazy danych, komputery czy inne urządzenia wykorzystywane w działalności gospodarczej, może to skutkować paraliżem operacyjnym. Firma mogłaby zostać zmuszona do zaprzestania działalności, jeżeli jej praca jest oparta na systemach informatycznych, które zostały skonfiskowane. Przepis w obecnym brzmieniu nie precyzuje, w jakim zakresie firma może kontynuować działalność po zajęciu takich zasobów, co może prowadzić do nadmiernych trudności w jej funkcjonowaniu. Aby uniknąć takich sytuacji, należałoby rozważyć dodanie do przepisu postanowień wskazujących, w jakich przypadkach firma może nadal funkcjonować pomimo zajęcia nośników informatycznych, a także jakie środki zaradcze mogą zostać wprowadzone, aby zapewnić firmie możliwość prowadzenia działalności na czas trwania kontroli. Można by też przewidzieć mechanizmy pozwalające na tymczasowy dostęp do danych lub na alternatywne sposoby ich przechowywania, co pozwoliłoby na uniknięcie całkowitego wstrzymania działalności. Takie postanowienia mogłyby zapewnić równowagę pomiędzy koniecznością przeprowadzenia skutecznej kontroli a zachowaniem ciągłości działalności gospodarczej, co w przeciwnym razie mogłoby prowadzić do nadmiernych trudności gospodarczych i potencjalnych problemów dla firm, szczególnie tych, które są mocno zależne od technologii i danych. Art 43 ust.11, 13 i 20 PIIT Należy doprecyzować przepis i wyjaśnić intencje ustawodawcy co do relacji przepisów, określonych w ust.11 (postanowienie o zajęciu), 13 (zażalenie na postanowienie o zajęciu), 20. (sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów). W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Czy wniesienie sprzeciwu, zgodnie z ust.20 wstrzymuje wykonanie zajęcia? (mieści się to w zakresie wykonywania kontroli). Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. 209 Art. 43 ust. 11, 20 KIGEiT Rekomendacja: Wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. , Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Art. 43 ust. 12 KIGEiT Propozycja zapisu: Zmiana na: \"Osobę posiadającą przedmioty, o których mowa w ust. 9, kontrolujący wzywa do wydania ich dobrowolnie, w czasie możliwym na ich zgromadzenie bez uszczerbku dla prowadzonej działalności podmiotu kontrolowanego, a w razie odmowy można przeprowadzić ich odebranie w trybie przepisów o postępowaniu egzekucyjnym w administracji.\" , Uzasadnienie: podmiot kontrolowany powinien mieć czas na odpowiedni zebranie/zgromadzenie dowodów tak aby zachować płynność gospodarczą. Art. 43 ust. 13 KIGEiT Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. , Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła Art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w Art. 57 projektu ustawy. Art. 43 ust. 13 e-IZba Z uwagi na to, że zajęcie może trwać do 7 dni (zgodnie z art. 43 ust. 11), to termin rozpatrzenia zażalenia powinien być 1 dniowy. W. przypadku braku jego zachowania, zajęcie powinno upadać. Art. 43 ust. 13 ISSA Polska Postuluję wskazanie terminu na wniesienie zażalenia oraz momentu rozpoczęcia biegu terminu. Art. 43 ust. 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Skoro zajęcie może trwać do 7 dni (art. 43 ust. 11 Projektu ustawy), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcie upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, istnieje ryzyko, iż prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 PIIT 210 Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w art. 57 projektu ustawy. Art. 43 ust. 13 GRAI Postuluje się, aby zażalenie na zajęcie przedmiotów przysługiwało także podmiotowi kontrolowanemu. Postuluje się, aby zażalenie przysługiwało także podmiotowi kontrolowanemu. Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów. Uzupełnienie brakującego terminu, przy czym, jeżeli miałby to być standardowy 7 dniowy termin z KPA, to będzie to nieefektywne w sytuacji, gdy zajęcie przedmiotów następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Powinien więc być to termin krótszy wraz z szybkim rozpatrzeniem zażalenia przez organ kontrolujący. Art. 43 ust. 13 NRA Podkreśla się, że w art. 43 ust. 13 Projektu nie doprecyzowano organu właściwego do rozpatrywania zażaleń na postanowienie Komisji o zajęciu przedmiotów, pozostawiając ten istotny aspekt w obszarze domysłów interpretacyjnych. Przepis w obecnej formie ogranicza się do stwierdzenia, że zażalenie przysługuje osobom, których prawa zostały naruszone, natomiast nie wskazuje, jaki podmiot miałby kompetencję do rozpoznania złożonego środka odwoławczego. W praktyce oznacza to, że pomimo wydawania postanowień przez Komisję (co wynika z art. 43 ust. 11 Projektu), brak jest wyraźnego określenia trybu weryfikacji prawidłowości przedmiotowych postanowień, co może prowadzić do komplikacji proceduralnych oraz wątpliwości co do skuteczności ochrony interesów stron postępowania. Wprawdzie art. 45 ust. 5 Projektu wskazuje na SOKiK jako organ właściwy do rozstrzygania kwestii zwrotu dokumentów ujawnionych podczas kontroli, niemniej dotyczy to jedynie ograniczonej kategorii dokumentów pozostających na miejscu kontroli. Regulacja ta nie znajduje więc zastosowania do sytuacji wynikających z wydania postanowienia o zajęciu przedmiotów, a więc nie znajduje zastosowania do art. 43 ust. 13. Art. 43 ust. 13 Fundacja FinTech Poland Skoro zajęcie przedmiotów może trwać maksymalnie do 7 dni (zgodnie z art. 43 ust. 11 Projektu Ustawy), to w celu zapewnienia realnej ochrony praw osób, których interesy zostały naruszone, należałoby wprost wskazać, że zażalenie na postanowienie o zajęciu przedmiotów musi być rozpatrzone w terminie 1 dnia roboczego od jego wniesienia. Brak takiego 211 mechanizmu, który gwarantuje natychmiastowe rozpatrzenie zażalenia, może prowadzić do sytuacji, w której podmiot kontrolowany nie ma skutecznego środka ochrony swoich praw w czasie, gdy zajęcie trwa. Długi czas oczekiwania na rozstrzygnięcie zażalenia, szczególnie w kontekście ograniczenia dostępu do przedmiotów, mógłby prowadzić do sytuacji, w której samo prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 wz z art. 56 Związek Cyfrowa Polska Brak zagwarantowania niezbędnych środków zaskarżenia. Rozstrzygnięcia wydawane przez organ kontrolujący nie gwarantują skutecznych procedur zaskarżenia dla przedsiębiorcy, w szczególności: Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (art. 43 ust. 13 Projektu; w zw. bowiem z art. 56 Projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której ustawodawca przesądził w art. 43 ust. 11 Projektu ustawy, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni”. Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący; Art. 43 ust. 14 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Relacja między ustępem 14 a ust. 11-13 w art. 43 Projektu ustawy jest niejasna, nie jest też omówiona w uzasadnieniu Projektu ustawy - w jakiej sytuacji zajęcie jest niedopuszczalne? Ustęp 11 w art. 43 Projektu ustawy mówi ogólnie o prawie do zajęcia danych „w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Art. 43 ust. 14 Fundacja FinTech Poland Relacja między art. 14 ust. 14 a ust. 11-13 jest niejasna i wymaga precyzyjnego określenia w przepisach ustawy. Aktualne brzmienie Projektu ustawy nie wyjaśnia, w jakich sytuacjach zabezpieczenie jest niedopuszczalne. Zgodnie z ust. 11, Komisja posiada ogólne prawo do zajęcia danych “w toku kontroli”, co sugeruje szeroki zakres uprawnień do przejmowania dokumentów i danych zarówno w formie fizycznej, jak i elektronicznej. Natomiast ust. 14 wskazuje na zabezpieczenie na miejscu kontroli, wyłączając stosowanie ust. 11-13. Należy zatem doprecyzować, czy wyłączenie stosowania ust. 11-13 w ust. 14 oznacza, że zajęcie danych jest ograniczone do określonych warunków takich jak kontrola zdalna, a nie dotyczy kontroli przeprowadzanej fizycznie na terenie kontrolowanego podmiotu. 212 Aby uniknąć niejasności interpretacyjnych i potencjalnych sporów, przepisy te powinny zostać przeformułowane w sposób klarowny, tak aby jasno określały, kiedy i w jakich okolicznościach zajęcie danych oraz dokumentów jest dopuszczalne, a kiedy nie. Wprowadzenie szczegółowych definicji i jednoznaczne określenie zakresu stosowania poszczególnych przepisów pozwoliłoby na lepsze zrozumienie ich relacji oraz ich stosowania w praktyce. Art. 43 ust. 15 CHAMBER Przewidziana w art. 43 ust. 15 instytucja oddania przedmiotów “osobie godnej zaufania” budzi wątpliwości. W ocenie Izby naraża to na niepotrzebne i nadmierne ryzyko uszkodzenia lub utraty przedmiotów lub dostępu do nich osób nieuprawnionych. Art. 43 ust. 15 Polskie Towarzystwo Informatyczne Przedmioty podlegające zajęciu, o którym mowa w ust. 11, należy po dokonaniu oględzin i sporządzeniu protokołu zajęcia zabrać albo oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Czy nie powinien zostać określony sposób postępowania przy przejęciu i przechowania po „zabraniu” (aby odbywało się to w sposób chroniący potencjalne interesy jednostki kontrolowanej), ponieważ mogą wchodzić w grę np. prawa patentowe itp. Art. 43 ust. 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, kim ma być taka osoba? Jakie ma spełniać kryteria? Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać zasady takie jak: kto to może być i jakie wymagania ma spełnić Art. 43 ust. 15 GRAI Przedmioty mogą posiadać bardzo wrażliwe informacje, które nie powinny trafić do przypadkowych osób, nawet jeżeli są „godne zaufania” (kto ocenia tą godność?). Powinien to być oficjalny depozyt, zabezpieczony w Biurze Komisji. Postuluje się, aby przedmioty były deponowane w zabezpieczonym i przeznaczonym do tego pomieszczeniu w budynku Biura Komisji. Brak definicji osoby “godnej zaufania”, która zapewniałaby zabezpieczenie przedmiotów podlegających zajęciu. W obecnym brzmieniu ustęp ten stwarza szerokie pole do nadużyć. Definicja osoby, której przedmioty można oddać powinna zapewniać, że osoba ta będzie w stanie je zabezpieczać, ze szczególnym uwzględnieniem bezpieczeństwa własności intelektualnej podmiotu kontrolowanego. Art. 43 ust. 15 Fundacja FinTech Poland W przepisie mowa jest o przekazaniu przedmiotów na przechowanie osobie godnej zaufania, jednak nie precyzuje się, kim ta osoba powinna być ani jakie dokładnie kryteria powinna spełniać. Z uwagi na charakter przedmiotów, które mogą podlegać zajęciu (np. nośniki informatyczne, urządzenia elektroniczne, dane wrażliwe), konieczne jest, aby osoba ta miała odpowiednie kwalifikacje oraz zapewniała odpowiednie warunki do przechowywania takich przedmiotów. Powinna to być osoba, która gwarantuje, że przedmioty, w tym dane, będą przechowywane w 213 sposób bezpieczny, w odpowiednich warunkach fizycznych (np. odpowiednie zabezpieczenia przed uszkodzeniem czy utratą danych) oraz zabezpieczenia dostępu do nich. W przypadku nośników informatycznych powinna to być osoba posiadająca niezbędną wiedzę z zakresu przechowywania danych elektronicznych i zarządzania systemami informacyjnymi. Ponieważ w Projekcie brak jest delegacji do wydania rozporządzenia, które mogłoby szczegółowo określić wymagania wobec takich osób, sama ustawa powinna precyzować, kto może pełnić tę rolę. Wskazanie takich kryteriów zapewniłoby większą pewność co do rzetelności oraz bezpieczeństwa przechowywania przedmiotów. Należy zatem wprowadzić zapisy precyzujące, że osobą odpowiedzialną za przechowywanie przedmiotów musi być osoba fizyczna lub prawna posiadająca odpowiednie kompetencje, np. doświadczenie w zakresie przechowywania danych, przeszkolenie w zakresie ochrony informacji, oraz odpowiednie zabezpieczenia techniczne lub organizacyjne. Dzięki temu, przechowywanie zajętych przedmiotów będzie miało wystarczającą gwarancję bezpieczeństwa i zgodności z wymaganiami ochrony danych osobowych oraz innych przepisów prawa. Art. 43 ust. 16 KIGEiT Propozycja zapisu: Dodanie pkt 4) dane osoby kontrolującej oraz dane osoby, która reprezentuje podmiot kontrolowany , Uzasadnienie: kwestie dowodowe. Art. 43 ust. 16 KIGEiT 20. Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. , W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli Art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 Art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 Art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z Art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. Art. 43 ust. 20 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu poprzez wskazanie, w jakiej formie sprzeciw może zostać wniesiony i jakie są konsekwencje wniesienia sprzeciwu. Art. 43 ust. 20 NRA Art. 43 ust. 20 Projektu w obecnym brzmieniu pozostawia niedookreśloną kwestię właściwości organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji, dotyczące rozstrzygnięcia sprzeciwu kontrolowanego wobec podejmowanej kontroli. Przepis ten, wskazując na możliwość wniesienia sprzeciwu przez podmiot kontrolowany w przypadku naruszenia przepisów, nie precyzuje ani trybu rozpoznawania takiego sprzeciwu, ani właściwości organu, który mógłby rozstrzygnąć ewentualne zażalenie na postanowienie Komisji wydane na gruncie tej procedury. Zgodnie z art. 42 Projektu, w zakresie nieuregulowanym kontrola podlegać ma przepisom rozdziału 5 Ustawy Prawo przedsiębiorców, które to przepisy sugerują per analogiam, iż rozstrzygnięcie Komisji miałoby przyjąć formę postanowienia, które mogłoby podlegać zażaleniu. Jednakże nie jest możliwym, aby na podstawie tego przepisu formułować dalej idącą 214 analogię, która pozwoliłaby jednoznacznie wyjaśnić, czy organem właściwym do rozpoznania zażalenia winna być sama Komisja (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a., w sytuacji braku organu nadrzędnego), czy też może SOKiK, który z uwagi na swoje kompetencje i niezależność mógłby potencjalnie pełnić funkcję w rozstrzyganiu takich spraw. Mając więc na względzie potrzebę skutecznego zabezpieczenia praw podmiotów poddawanych kontroli, wskazanym jest jednoznaczne określenie kognicji w zakresie rozpatrywania sprzeciwu wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. Art. 43 ust. 20 Fundacja FinTech Poland Przepis stanowi, że podmiot kontrolowany ma prawo wnieść sprzeciw wobec podjęcia i wykonywania kontroli, jeśli ta narusza przepisy prawa. Niemniej jednak, przepis nie precyzuje, w jakiej formie sprzeciw ten powinien zostać wniesiony ani jakie są konsekwencje wniesienia takiego sprzeciwu. W związku z tym, należy wskazać, że dla zapewnienia skuteczności tego środka ochrony prawnej, konieczne jest określenie formy, w jakiej sprzeciw powinien być złożony, np. czy powinien to być dokument pisemny, zgłoszenie elektroniczne, czy może inna forma. Ponadto, warto wyjaśnić, co dokładnie oznacza wniesienie sprzeciwu – czy wstrzymuje to wykonanie czynności kontrolnych, czy kontrola może być kontynuowana pomimo sprzeciwu, a w jakim terminie oraz w jakiej formie podmiot kontrolujący ma obowiązek odpowiedzieć na wniesiony sprzeciw. Ważnym zagadnieniem jest także określenie, czy wniesienie sprzeciwu skutkuje zawieszeniem kontroli do momentu jego rozpatrzenia, czy też kontrola będzie mogła być kontynuowana bez przeszkód, a ewentualne skutki wniesienia sprzeciwu rozstrzygnie późniejsze postępowanie. Doprecyzowanie tych kwestii w ustawie zapewniłoby podmiotom kontrolowanym jasność co do ich praw i procedur, jakie mogą podjąć w przypadku stwierdzenia niezgodności działań kontrolujących z przepisami. Ponadto, określenie konsekwencji wniesienia sprzeciwu pomoże uniknąć sytuacji, w której sprzeciw nie miałby rzeczywistego wpływu na przebieg kontroli, co mogłoby skutkować naruszeniem zasady skutecznej ochrony praw podmiotów kontrolowanych. Art. 43 ust. 21 Osoba fizyczna jk Zgodnie z art. 2 ust. 1 ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Osoby fizyczne nieprowadzące działalności gospodarczej nie są tam wymienione. Zapis wymaga uzasadnienia. Art. 44 CHAMBER Projekt posługuje się w art. 44 pojęciem “organ kontroli państwowej i ochrony prawa”. W polskim systemie prawa pojęcie to pochodzi z IX Rozdziału Konstytucji RP i obejmuje Najwyższą Izbę Kontroli, Rzecznika Praw Obywatelskich i Krajową Radę Radiofonii i Telewizji. Czy istotnie te organy ma na myśli projektodawca? Nie jest jasne, w jaki sposób mogłyby one “ustalić naruszenie przez podmiot kontrolowany przepisów rozporządzenia”. Art. 44 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Przepis art. 44 Projektu ustawy winien zostać usunięty. Komisja jest organem publicznym, a nie policyjnym. Przepis w aktualnym brzmieniu wyraźnie wskazuje, że Komisja, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. 215 Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym; kontrola Komisji to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod Rozporządzenie 2024/1689 będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów jak ABW, CBŚ, CBA czy inne organy „kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą prowadzić swoje własne kontrole i postępowania. W konsekwencji, postulujemy zmianę treści art. 44 Projektu ustawy na następującą: „Art. 44. Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli.” Art., 44 Fundacja FinTech Poland Zgodnie z art. 44, KRiBSI, może zwrócić się o pomoc do Policji, organów kontroli państwowej i ochrony prawa, a także jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji, jeśli jest to niezbędne do przeprowadzenia kontroli. Tak szerokie uprawnienie w zakresie współpracy z służbami mundurowymi i służbami wywiadowczymi budzi poważne wątpliwości dotyczące zasadności, proporcjonalności oraz zakresu ingerencji w działalność podmiotów kontrolowanych. Po pierwsze, KRiBSI jest organem publicznym odpowiedzialnym za nadzór nad systemami sztucznej inteligencji, a nie instytucją o charakterze policyjnym czy wywiadowczym. Umożliwienie tej instytucji wnioskowania o pomoc ze strony takich służb, jak Policja, ABW, CBA, CBŚ, a nawet wywiad czy kontrwywiad wojskowy, stwarza ryzyko nadużyć i naraża na bezpodstawne wykorzystywanie sił porządkowych w działaniach nadzorczych. Tego rodzaju ingerencja w działalność podmiotów kontrolowanych może prowadzić do nieuzasadnionych działań w ramach kontroli, wykraczających poza zwykłe czynności administracyjne, w tym stosowania metod operacyjnych służb mundurowych, które są przeznaczone do realizacji celów zupełnie innych niż monitorowanie zgodności z przepisami dotyczącymi sztucznej inteligencji. Po drugie, przepisy te mogą wprowadzać niepotrzebne ryzyko naruszenia zasady proporcjonalności, ponieważ nie ma jasnego ograniczenia zakresu i charakteru pomocy, którą KRiBSI może uzyskać od służb porządkowych. Takie uprawnienie może prowadzić do sytuacji, w których pomoc ze strony służb mundurowych będzie wykorzystywana w przypadkach, które nie wymagają aż tak drastycznych działań. Współpraca ta może także stwarzać ryzyko nadmiernej ingerencji w prywatność i ochronę danych osobowych podmiotów kontrolowanych, które muszą współpracować z instytucjami mającymi dostęp do wrażliwych informacji. 216 Proponujemy usunięcie tego przepisu lub wprowadzenie szczegółowych ograniczeń co do zakresu, trybu oraz warunków, w jakich Komisja może się zwrócić do służb porządkowych o pomoc. Warto wprowadzić jasne zasady dotyczące minimalnych kryteriów, które muszą być spełnione, aby mogło dojść do zaangażowania służb, a także precyzyjnie określić, w jakich przypadkach i w jakim zakresie takie działania będą rzeczywiście uzasadnione. Takie przepisy pozwoliłyby na bardziej przejrzyste i kontrolowane wykorzystanie zasobów państwowych w ramach nadzoru nad systemami sztucznej inteligencji, bez niepotrzebnego wprowadzania elementów działania służb, które mogą być postrzegane jako nadmierne i niewłaściwe w kontekście administracyjnego nadzoru nad nowoczesnymi technologiami. Art. 44 Związek Cyfrowa Polska Zaangażowania Policji oraz organów i jednostek. Przewidziana w Projekcie ustawy (art. 44) potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji jest rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dodatkowo, wątpliwości budzi przyznane w art. 44 ust. 2 pkt 3 Projektu uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne. art. 44 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Należy zatem zaproponować nadanie nowego brzmienia art. 44 ust. 2 zd. 1 projektu ustawy o AI ,, Policja, organ kontroli państwowej i ochrony prawa, jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.” Art. 44 ust. 2 pkt 3 Polskie Towarzystwo Informatyczne Niezrozumiała treść – czy chodzi o wsparcie przez jednostki podległe i nadzorowane przez ministra właściwego? Propozycja „3) jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji polegające na wsparciu podmiotu kontrolującego w ustaleniu stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.” Art. 44 ust. 3 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Art. 44 ust. 3 projektu ustawy zmianę na „Komisja występuje z wnioskiem opatrzonym kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym o udzielenie pomocy (...)” Art. 45 PWPW ust. 1. Przepis dot. korespondencji za radcą prawnym lub adwokatem 217 Ust. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Przepisy w obecnym brzmieniu powodują ryzyko naruszenia tajemnicy radcowskiej lub adwokackiej. Nie gwarantują one ochrony tej informacji lecz mówią jedynie o pozostawieniu dokumentów i nośników w siedzibie kontrolowanego. Przepis ww. zakresie powinien zostać zmieniony tak aby zapewnić konstytucyjną ochronę tajemnic zawodów zaufania publicznego. Ponadto w ust. 2 użyto nieprecyzyjnego sformułowania „pobieżnie” zapoznanie się z dokumentacją Art. 45 ICC Poland Przewidziana w art. 45 Projektu procedura – choć wzorowana na art. 105da ustawy o ochronie konkurencji i konsumentów5 (poddawanej zresztą krytyce) – budzi poważne wątpliwości z perspektywy efektywnej i pełnej ochrony tajemnicy adwokackiej i radcowskiej. W szczególności zdaje się ona nie uwzględniać braku zróżnicowania na gruncie polskiego ustawodawstwa zakresu tajemnicy zawodowej w zależności od tego, czy mamy do czynienia z prawnikiem zewnętrznym, czy prawnikiem wewnętrznym zatrudnionym na podstawie umowy o pracę (art. 45 ust. 1 pkt 1 Projektu odnosi się tylko do komunikacji między podmiotem kontrolowanym a „niezależnym od kontrolowanego” adwokatem, radcą prawnym lub prawnikiem zagranicznym). Ponadto przewidziane w art. 45 ust. 2 Projektu upoważnienie kontrolującego do zapoznania się „pobieżnie” z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, rodzi poważne ryzyko naruszenia tajemnicy zawodow strony rodzi ono ryzyko zapoznania się przez kontrolującego „przy okazji” również z innymi informacjami niż wymienione w tym przepisie, nawet nieintencjonalnie, z drugiej zaś strony również sam tytuł lub przedmiot pisma może obejmować informacje objęte tajemnicą zawodową. W konsekwencji art. 45 Projektu powinien zostać zrewidowany w kierunku uwzględnienia zarówno powyższych uwag, jak i innych uwag krytycznych, formułowanych w literaturze w odniesieniu do art. 105da ustawy o ochronie konkurencji i konsumentów. Art. 45 PIIT Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych 218 nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to, na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym, a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uprawnienia Komisji nie powinny wykraczać poza uprawnienia Prezesa UOKIK. Art. 45 KIGEiT Propozycja zapisu: Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w Art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu Art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w Art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w 219 toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Art. 45 NRA Art. 45 Projektu powiela rozwiązania zastosowane w art. 105da Ustawy z 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz.U. z 2024 r. poz. 1616; dalej „u.o.k.k.”). Nowelizacja u.o.k.k. wprowadzająca art. 105da (Ustawa z 9 marca 2023 r. o zmianie ustawy o ochronie konkurencji i konsumentów oraz niektórych innych ustaw, Dz.U. z 2023 r. poz. 852) została krytycznie oceniona przez środowiska prawnicze, o czym informował między innymi Instytut Legislacji i Prac Parlamentarnych Naczelnej Rady Adwokackiej w stanowisku z dnia 27 marca 2023 r., znak NRA.015-23.13.2023. Stąd też negatywnie należy się odnieść do propozycji przeniesienia rozwiązań zastosowanych w art. 105da u.o.k.k. na grunt art. 45 Projektu. Brak zmian w zakresie art. 45 Projektu może doprowadzić do jawnego naruszenia zasad tajemnicy zawodowej, w tym m.in. tajemnicy adwokackiej, co najmniej z kilku powodów, opisanych szczegółowo w dalszej części opinii. Art. 45 Polski związek zarządzania wierzytelnościami Art. 45 Projektu Wskazany w art. 45 Projektu proces kontroli komunikacji między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej [...] pozostaje dla nas kontrowersyjny z tytułu zagadnień tajemnicy adwokackiej (por. art. 6 ustawy - Prawo o adwokaturze - Dz.U.2024.1564 t.j.). Bieżące brzmienie nie zakłada wprowadzenia zmian do wyżej wzmiankowanej ustawy (jak ma to miejsce w art. 6. ust. 4 pkt 2 prawa o adwokaturze), a tym samym stworzenia wyjątku od obowiązku zachowania tajemnicy adwokackiej. Brak jednoznacznego ograniczenia budzi wątpliwości w zakresie realizacji samej instytucji tajemnicy zawodowej wymienionych w ustawie osób, a określenie „pobieżnego zapoznania się z pismem lub dokumentem” w ust. 1 pkt 2 tego artykułu Projektu pozostaje nieostre. Postulujemy jasne wskazanie na wyłączenie tajemnicy adwokackiej wraz ze zmianą w ustawie Prawo o adwokaturze, celem uniknięcia niepotrzebnej zwłoki w ramach procedury kontrolnej, włączającej do niej, wynikającej z niniejszego artykułu Projektu, sąd ochrony konkurencji i konsumentów. Art. 45 CHAMBER Przyjęty w art. 45 tryb przekazania dokumentów mogących podlegać tajemnicy adwokackiej do SOKiK celem ich weryfikacji nie uwzględnia zasięgnięcia opinii samego adwokata, radcy 220 prawnego czy prawnika, który powinien mieć możliwość potwierdzenie, że faktyczne dokumenty są przedmiotem tajemnicy zawodowej. Projektodawca deklaruje w uzasadnieniu do projektu ustawy, że “do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”. Jednakże już w przepisie art. 51 projektu dokonuje bardzo istotnego odstępstwa od tak podstawowej normy, jak określenie strony postępowania (art. 28 KPA). Uzasadnienie milczy na temat przyczyn tej i innych zmian w stosunku do KPA. Art. 45 Polskie Towarzystwo Informatyczne \"Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem (..\", Proponujemy doprecyzować, aby wyjaśnić, o co chodzi Faktycznie takie oświadczenie powoduje, że niemożliwa staje się sama kontrola, gdyż nośniki zawierające taką korespondencję nie mogą zostać przejęte do kontroli poza miejscem kontroli Art. 45 Związek Banków Polskich Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 3) zawierają informacje objęte tajemnicą zawodową - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. 221 Aktualne brzmienie art. 45 projektowanej ustawy stwarza poważną możliwość naruszenia tajemnicy zawodowej związanej z wykonywaniem zawodu zaufania publicznego m.in adwokata czy radcy prawnego. Jednocześnie wskazać należy, że podobne rozwiązanie zostało zaimplementowane do ustawy o ochronie konkurencji i konsumentów, dokładniej w art. 105da, co jednak nie oznacza, że przedmiotowe rozwiązanie jest rozwiązaniem słusznym i poprawnym. Nie ulega wątpliwości, że wprowadzenie powołanego powyżej przepisu doprowadziło do dużego sprzeciwu ze strony środowisk prawniczych. Wskazać należy, że zastosowanie tego typu mechanizmu w jednej ustawie nie przesądza o jego prawidłowości. Podkreślić należy, że tajemnica zawodowa, w tym adwokacka, jak i radcowska stanowi niezbędny element proceduralnego systemu ochrony praw i wolności. Co więcej, nie ulega wątpliwości, że ochrona tajemnicy zawodowej przedstawicieli wspomnianych zawodów zaufania publicznego wymaga istnienia w obrocie prawnym odpowiednich przepisów, które nie tylko ustanawiają tajemnicę, ale również gwarantują jej ochronę. Poszanowanie tajemnicy zawodowej wymaga także określonych standardów zachowania ze strony władzy publicznej, w tym ze strony organów. Ochrona tajemnicy zawodowej ma fundamentalne znaczenie z perspektywy relacji prawnik- podmiot kontrolowany. Przedstawiony przepis budzi poważne wątpliwości dotyczące ochrony poufności informacji, zwłaszcza w kontekście relacji bank-klient. Przepis ten, w obecnym brzmieniu, pozwala na zbyt szeroki dostęp do informacji, które powinny być objęte bankową tajemnicą zawodową. Główne zastrzeżenia: Przepis nie precyzuje, jakie informacje powinny być uznane za objęte ochroną. W konsekwencji, może prowadzić do arbitralnej interpretacji i nadmiernego ujawniania informacji o kliencie. Pozwolenie na pobieżne zapoznanie się z dokumentami może prowadzić do przypadkowego ujawnienia informacji, które powinny być chronione. W odniesieniu do propozycje rozszerzenia przepisu o chmurę obliczeniową - zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje wątpliwości interpretacyjne w zakresie dostępu Komisji do danych znajdujących się w chmurze. Art. 45 Związek Cyfrowa Polska Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45). Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot 222 kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1). Jednocześnie art. 45 ust 2, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 Związek Pracodawców Technologii Cyfrowych Lewiatan Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45 USS) Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1 USS). Jednocześnie art. 45 ust 2 USS, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 USS przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 ust. 1 e-Izba Rekomendujemy usunięcie z treści przepisu „niezależnym od kontrolowanego”. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium „zależności\" 223 od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest „niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są „niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona „niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. Art. 45 ust. 1 Fundacja FinTech Poland Postanowienie zawarte w Projekcie Ustawy, w którym mowa o \"niezależnym od kontrolowanego\" adwokacie, radcy prawnym czy prawniku z Unii Europejskiej powinno zostać usunięte lub zmodyfikowane. Polskie prawo nie przewiduje podziału ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta. Każdy radca prawny i adwokat jest niezależny. Projektowane postanowienie faktycznie ogranicza prawo kontrolowanego do pomocy prawnej, ponieważ: naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ może wysunąć interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Podsumowując, postanowienie o \"niezależnym od kontrolowanego\" prawnym przedstawicielu należy usunąć, aby zapewnić pełne prawo do ochrony prawnej, zgodnie z konstytucyjną zasadą praworządności. W przeciwnym razie, interpretacja obecnych przepisów może prowadzić do ograniczenia możliwości korzystania z pomocy prawnej. Art. 45 ust. 1 pkt 1 PIRP w katalogu podmiotów korespondujących proponuje się dodać po sformułowaniu „adwokatem, radcą prawnym”, po przecinku, sformułowania „rzecznikiem patentowym” Art. 45 ust. 1 pkt 1 Związek Przedsiębiorstw Postulujemy usunięcie w art. 45 ust. 1 pkt 1 Projektu ustawy fragmentu: „a niezależnym od kontrolowanego”. 224 Finansowych w Polsce (ZPF) Fragment ten w istocie umniejsza prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Naszym zdaniem, ten fragment może naruszać zasadę praworządności i faktycznie pozbawić kontrolowanego ochrony prawnej. Art. 45 ust. 1 pkt 1 ISSA Polska Nadmiarowe ograniczenie wprowadzone zwrotem “niezależnym od kontrolowanego adwokatem, radcą prawnym (...)”. Tajemnica zawodowa istnieje bez względu na zależność lub niezależność. Nie wiadomo również w jaki sposób miałaby zostać określona ta niezależność. Nie ma powodu aby uznawać, że adwokat zatrudniony przez kontrolowanego na umowę o pracę jest zależny, a pracujący na zlecenie lub B2B już nie. Art. 45 ust. 1 pkt 1 GRAI Przepis bezzasadnie różnicuje prawnika zewnętrznego od wewnętrznego (analogiczne rozwiązanie jest mocno krytykowanie na gruncie ustawy o OKiK) Skreśla się słowa „niezależnym od kontrolowanego” Art. 45 ust. 1 pkt 1 i 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż dokumenty opisane w art. 45 ust. 1 pkt 1 i 2 Projektu ustawy objęte są tajemnicą radcowską/adwokacką, i nie powinny być przedstawiane do wglądu w miejscu kontroli. Ponadto wnosimy o doprecyzowane, co, jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty? Art. 45 ust. 1 pkt. 1 - 2 NRA Art. 45 ust. 1 pkt 1 Projektu przewiduje ochronę tajemnicy zawodowej jedynie w odniesieniu do pisemnej komunikacji między podmiotem kontrolowanym a „niezależnym” adwokatem, która została sporządzona wyłącznie w celu uzyskania ochrony prawnej w związku z przedmiotem kontroli. Użycie w treści przepisu określenia „niezależny adwokat” budzi poważne wątpliwości. Konstrukcja ta jest nie tyle zbędna, ile zwyczajnie myląca, bowiem ustawowy obowiązek niezależności jest fundamentem wykonywania zawodu adwokata. Charakter zawodu adwokata 225 zakłada niezależność i swobodę zawodową, a stosowanie sformułowania „niezależny” może sugerować istnienie adwokatów „zależnych”, co pozostaje w sprzeczności z obowiązującymi przepisami oraz etyką adwokacką. Tym samym wprowadzenie tego pojęcia w art. 45 ust. 1 pkt 1 Projektu grozi powstaniem niejasności interpretacyjnych, które mogą podważyć status i autonomię adwokatów. Z tego względu postuluje się, aby przepis ten odnosił się do komunikacji z adwokatem bez wskazywania na jego „niezależność”, co zapobiegnie błędnej interpretacji i będzie zgodne z fundamentalnymi zasadami adwokatury. Wątpliwości budzi również bardzo wąski zakres ochrony tajemnicy zawodowej przyjęty w art. 45 ust. 1 pkt 1 oraz pkt 2 Projektu. Art. 45 ust. 1 pkt 1 Projektu ogranicza zakres tajemnicy zawodowej do pisemnej komunikacji wytworzonej „w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ”. Na podobnej zasadzie art. 45 ust. 1 pkt 2 Projektu ogranicza zakres tajemnicy zawodowej do pism lub dokumentów sporządzonych „wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej”. Z uwagi na fakt, że rzeczywisty zakres tajemnicy zawodowej jest znacznie szerszy, wskazane regulacje powinny obejmować całą komunikację pomiędzy podmiotem kontrolowanym a osobą, o której mowa w art. 45 ust. 1 pkt 1 Projektu, jeżeli komunikacja ta jest prowadzona w celu realizacji prawa kontrolowanego do uzyskania ochrony lub pomocy prawnej. Pochylając się szczegółowo nad zasygnalizowanym wyżej zagadnieniem, konieczną pozostaje także analiza wymagania, aby przedmiotowa komunikacja była „wytworzona” a pisma i dokumenty „sporządzone” wyłącznie w celu uzyskania ochrony prawnej. Taka redakcja przepisów sugeruje, że chroniona przed ujawnieniem jest tylko ta komunikacja oraz tylko te pisma i dokumenty, które od początku zostały stworzone (wytworzone) jako część działań prawnych, związanych z ochroną interesów podmiotu kontrolowanego w toku konkretnego postępowania. Taka interpretacja wyklucza z kolei „materiały”, które powstały wcześniej lub zostały sporządzone w innym celu, lecz mogą być istotne dla ochrony interesów podmiotu kontrolowanego (jego obrony) w danej sprawie i są wykorzystywane na potrzeby danego postępowania. Dodatkowo określenia „wytworzone” i „sporządzone” (wyłącznie w celu realizacji prawa do ochrony prawnej w przedmiotowym postępowaniu) mogą prowadzić do zawężającej interpretacji, która ogranicza ochronę tylko do dokumentów mających bezpośredni związek z bieżącym postępowaniem. W praktyce jednak niektóre dokumenty, choć nie zostały przygotowane wyłącznie na potrzeby konkretnego postępowania, mogą być wykorzystywane w ramach analizy prawnej, związanej z bieżącą kontrolą. W takiej sytuacji kontrolujący mógłby argumentować, że dokumenty te nie spełniają przesłanki wyłącznego celu ochrony prawnej, co naraża podmiot kontrolowany na ujawnienie szerszego zakresu materiałów, niż jest to konieczne. W związku z powyższym wprowadzenie tak ścisłego kryterium „wytworzenia” czy „sporządzenia” wyłącznie dla konkretnego celu może ograniczać ochronę i nie odpowiadać potrzebom praktyki, w której często wykorzystuje się dokumenty powstałe w innym kontekście, ale nadal objęte tajemnicą zawodową (na gruncie innych regulacji). W tej sytuacji korekta wymagałaby jedynie wykreślenia tych limitujących 226 sformułowań. Analiza porównawcza art. 43 ust. 4 pkt 3 z art. 45 ust. 1 i 2 Projektu prowadzi do wniosku, że zakres wyłączenia z art. 45 ust 1 może być niewystarczający by powstrzymać szerokie uprawnienia kontrolującego w toku kontroli. Art. 43. ust. 4 pkt 3 przyznaje kontrolującemu prawo do żądania dostępu do: „akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp”. Natomiast art. 45 ust 1 odnosi się jedynie do: „ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 [...] zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem [...] wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola”. Wobec powyższego możliwa zdaje się niekorzystna z perspektywy kontrolowanego interpretacja, że wyłączenie uprawnienia do żądania udostępnienia nie obejmuje wszystkiego tego, co znajduje się w aktach czy na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, a dotyczy jedynie pism i dokumentów. Warto nadmienić, że pojęcie „dokumenty” jest bardzo szerokie i może przykładowo obejmować: notatki własne, materiały dowodowe, dane analityczne itp. W tej sytuacji zasadnym zdaje się rozważenie, czy praktycznym nie byłoby powołanie się wprost na treść przepisu z art. 43 ust. 4 pkt 3. Mając na uwadze dotychczasowe rozważania, uzasadniona jest konstatacja, że kwestionowane przepisy jawią się jako nadmiernie zawężające. W praktyce może to prowadzić do wykluczenia spod ochrony wszelkich materiałów, które powstały pierwotnie w innym celu, lecz które adwokat lub osoba kontrolowana uznali za przydatne dla obrony prawnej w bieżącym postępowaniu. Co istotne tajemnica adwokacka obejmuje całość komunikacji klienta z adwokatem, a szczególne znaczenie ma tutaj możliwość bezpiecznego korzystania z dokumentów, które mogą być kluczowe dla sprawy, nawet jeśli powstały wcześniej. Wprowadzenie wąskiej klauzuli ograniczającej ochronę jedynie do dokumentów wytworzonych „wyłącznie” na potrzeby postępowania może prowadzić do sytuacji, w której organ kontrolujący będzie miał dostęp do informacji poufnych, co stoi w sprzeczności z zasadą ochrony tajemnicy zawodowej. Proponuje się zatem rozszerzenie przepisów, aby obejmowały wszelką komunikację między podmiotem kontrolowanym a adwokatem (radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników 227 zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej lub osobą, o której mowa w art. 2a tej ustawy), prowadzoną w celu realizacji prawa do uzyskania pomocy prawnej, bez względu na pierwotny cel sporządzenia dokumentu. Taka zmiana pozwoli uniknąć nadużyć i zapewni ochronę tajemnicy zawodowej zgodną ze standardami adwokatury. Art. 45 ust. 2 NRA Warto również odnotować, że przepis art. 45 ust. 1 in fine, zobowiązujący kontrolującego do pozostawienia dokumentów objętych ochroną na miejscu kontroli, może budzić wątpliwości co do zakresu i sposobu przeprowadzania kontroli dokumentów związanych z tajemnicą zawodową. Jeśli intencją przepisu jest wyłączenie określonych dokumentów spod kontroli, sformułowanie powinno wyraźnie wskazywać, że dokumenty te nie podlegają kontroli (w odróżnieniu od „pobieżnego zapoznania się” z art. 45 ust. 2), ani dalszemu przeglądowi („pobieżnemu zapoznaniu się”), weryfikacji, kopiowaniu, powielaniu, utrwalaniu, czy w ogóle realizowaniu praw przewidzianych w art. 43 ust. 4 (z zastrzeżeniem art. 45 ust. 2) przez kontrolujących. Obecne brzmienie sugeruje jedynie, że dokumenty mają zostać pozostawione na miejscu, ale nie precyzuje kategorycznego zakazu kontroli, od którego odstępstwem mogłoby być ewentualnie zawarte w ust. 2 „pobieżne zapoznanie się”. W kontekście art. 45 Projektu kluczowe znaczenie mają także przepisy powiązane, w szczególności art. 43, który określa szerokie uprawnienia kontrolne KRiBSI. Art. 43 ust. 1 pkt 2 Projektu przewiduje, że kontrolującymi mogą być osoby „posiadające wiedzę specjalistyczną” w zakresie systemów sztucznej inteligencji, jednak projekt nie precyzuje, kim dokładnie są osoby o takiej „wiedzy specjalistycznej”, jakie mają kwalifikacje i w jaki sposób zapewniona jest ich niezależność. Brak doprecyzowania tej kwestii rodzi ryzyko, że osoby nieuprawnione, niemające odpowiednich kwalifikacji, a być może również powiązane zawodowo z konkurencyjnymi podmiotami, mogłyby uzyskać dostęp do dokumentacji kontrolowanego podmiotu, która zawiera informacje objęte tajemnicą zawodową, w tym adwokacką. Praktyka ta mogłaby prowadzić do naruszenia tajemnicy zawodowej oraz udostępnienia informacji, które są chronione nie tylko ze względu na interes klienta, ale również z uwagi na szczególne zaufanie społeczne, jakim obdarzony jest zawód adwokata. Art. 43 ust. 3 zawiera natomiast sformułowanie „szczególne okoliczności”, które uzasadniają zwiększone uprawnienia kontrolne Komisji. Przepis ten jest jednak zbyt ogólny i nie definiuje, co ustawodawca rozumie przez „szczególne okoliczności”. Pozostawienie tego terminu bez doprecyzowania otwiera możliwość różnorodnych, arbitralnych interpretacji i uznaniowości ze strony organów kontrolujących, co w kontekście ochrony tajemnicy zawodowej może być szczególnie niebezpieczne. Sugeruje się wprowadzenie katalogu przykładów „szczególnych okoliczności”, które mogłyby uzasadniać takie uprawnienia kontrolne, a jednocześnie zachowanie otwartego charakteru tego katalogu, co umożliwiłoby elastyczność stosowania przepisu bez ryzyka dowolności w jego interpretacji. Art. 45 ust. 2 e-Izba Aktualne brzmienie tego przepisu nie gwarantuje pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o sztucznej inteligencji, w tym informacji objętych tajemnicą adwokacką/radcowską. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego 228 przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Z punktu widzenia bezpieczeństwa prawnego kontrolowanych przedsiębiorców istotne jest zapewnienie pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o systemach sztucznej inteligencji. W związku z powyższym, proponujemy wyłączenie z treści aktualnego brzmienia art. 45 ust. 2 projektu ustawy o systemach sztucznej inteligencji możliwości „pobieżnego zapoznania się” przez osobę wykonującą czynności kontrolne z treścią dokumentu. Wówczas – w przypadku złożenia oświadczenia, o którym mowa w ust. 1 tego przepisu – oraz powzięciu wątpliwości co do jego zasadności – dokument powinien zostać przekazany do Sądu Ochrony Konkurencji i Konsumentów, zgodnie z przewidzianą w aktualnym brzmieniu tego przepisu procedurą. Art. 45 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prawo organu do „pobieżnego zapoznania się\" z dokumentem objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie zweryfikować, czy pracownik Komisji rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo zażądać zwrotu dokumentu od kontrolującego lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. „pobieżnego\" zapoznania się z dokumentem Komisja może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Postulujemy zmianę treści art. 45 ust. 2 poprzez usunięcie zdania pierwszego i pozostawienie przepisu w brzmieniu: „2. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.” Art. 45 ust. 2 GRAI Ust. 2 stanowi naruszenie tajemnicy zawodowej adwokata i radcy prawnego poprzez nawet pobieżne zapoznanie się treścią pism lub dokumentów. Propozycja usunięcia ust. 2 i zmiany numeracji ustępów w art. 45. Treść przepisu, jest kalką z ustawy OKiK, ale nie uwzględnia, że zasadą na gruncie ustawy mają być zdalnie, czego nie zauważa przepis. Art. 45 ust. 2 ISSA Polska Wskazujemy na ryzyko naruszenia tajemnicy zawodowej. Kontrolujący może zapoznać się z autorem, adresatem, tytułem oraz przedmiotem pisma lub dokumentu zawierającego m.in. tajemnicę zawodową oraz datą jego sporządzenia. Wydaje się, że przepis ten nadaje kontrolującemu większe prawa niż w podobnej sytuacji art. 225 par. 1 Kodeksu postępowania karnego: Jeżeli kierownik instytucji państwowej lub samorządowej albo też osoba, u której dokonano zatrzymania rzeczy lub u której przeprowadza się przeszukanie, oświadczy, że wydane 229 lub znalezione przy przeszukaniu pismo lub inny dokument zawiera informacje niejawne lub wiadomości objęte tajemnicą zawodową lub inną tajemnicą prawnie chronioną albo ma charakter osobisty, organ przeprowadzający czynność przekazuje niezwłocznie pismo lub inny dokument bez jego odczytania prokuratorowi lub sądowi w opieczętowanym opakowaniu. Art. 45 ust. 2 Fundacja FinTech Poland Prawo organu do „pobieżnego zapoznania się” z dokumentem objętym tajemnicą radcowską lub adwokacką budzi istotne wątpliwości i powinno zostać wyeliminowane, ponieważ narusza ochronę tajemnicy zawodowej i prawo do pomocy prawnej. Kontrolowany nie ma praktycznej możliwości nadzorowania, czy pracownik KRiBSI rzeczywiście ogranicza się jedynie do „pobieżnego” wglądu, czy też nie przekracza tej granicy, wchodząc w meritum dokumentu. Pojęcie „pobieżności” jest niewystarczająco precyzyjne, co prowadzi do pytania, czy oznacza to np. krótki czas patrzenia, po którym kontrolowany miałby prawo przerwać dostęp do dokumentu, czy też istnieją inne, nieokreślone kryteria. Tzw. „pobieżne” zapoznanie się z dokumentem stwarza realne ryzyko, że pracownik KRiBSI uzyska dostęp do informacji objętych tajemnicą, co jest sprzeczne z zasadami ochrony takich informacji i wykracza poza uprawnienia kontrolujących. Tego rodzaju praktyki mogą naruszać prawa chronione konstytucyjnie, w tym prawo do rzetelnej pomocy prawnej (art. 42 ust. 2 i art. 51 Konstytucji RP). Postulowane brzmienie przepisu: Art. 45 ust. 2 Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Art. 45 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu, albowiem aktualnie nie jest wiadomym w jaki sposób ma dojść do przekazania dokumentu, skoro z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Art. 45 ust. 3 Fundacja FinTech Poland Treść przepisu powoduje wątpliwości w jaki sposób kontrolujący ma przekazać pismo lub dokument sądowi, skoro zgodnie z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli”) nie ma dostępu do takich dokumentów po ich pozostawieniu w miejscu kontroli. Taka sytuacja stwarza problem praktyczny – kontrolujący nie może efektywnie spełnić obowiązku przekazania dokumentów sądowi, jeśli wcześniej nie ma możliwości ich fizycznego zabezpieczenia lub zabrania. 230 Ustawa powinna jednoznacznie precyzować, jak kontrolujący może postąpić w przypadku wystąpienia wątpliwości, aby zachować zgodność z regulacjami dotyczącymi ochrony dokumentów, a jednocześnie umożliwić skuteczne wykonanie obowiązku ich przekazania. Art. 45 ust. 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Sąd drugiej instancji powinien być związany takim samym terminem jak Sąd Ochrony Konkurencji i Konsumentów, żeby prawo do złożenia zażalenia było realne. W konsekwencji, postulujemy zmianę treści art. 45 ust. 5 Projektu ustawy na następującą: „5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 45 ust. 5 Fundacj FinTech Poland Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne. Postulowane brzmienie przepisu: Art. 45 ust. 5 Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia Art. 46. PWPW Projekt ustawy nie wskazuje trybów doręczeń np. na adres do doręczeń elektronicznych lub inny wskazany adres elektroniczny przez kontrolowanego itp. Ma to istotne znaczenie w kontekście liczenia terminów np. na wniesienie uwag do wystąpienia pokontrolnego. Art. 46 ust. 1 i 4 PIIT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia 231 zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów uodo i uokk, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. Art. 46 ust. 1 i 4 KIGEiT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. , Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów UODO i UOKiK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. art. 46 ust. 8 SKwP W naszej ocenie, powinna być możliwość odwołania. Art. 47 PIIT 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać 232 zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu powszechnego (SOKiK?). Art. 47 KIGEiT Propozycja zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. , Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu. Art. 47 ust. 1. PWPW Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Należy doprecyzować jakie są skutki prawne zaleceń pokontrolnych jeżeli nie można się od nich odwołać? Jest to szczególnie istotne z punktu widzenia następnego przepisu, tj. art. 48 projektu – który wprost wskazuje na wykrycie naruszeń AI act. Należy zatem przyjąć, że zalecenia pokontrolne mogą wskazywać na kwestie, które nie stanowią naruszenia AI act. Przyjmując natomiast ten punkt widzenia należy zadać pytanie co się stanie jeżeli zalecenia nie zostaną zrealizowane (np. w części). art. 47 ust. 2 SKwP Tak nie powinno być. Każda kontrola musi mieć przewidzianą możliwość odwołania się od jej ustaleń, mogą przecież pojawić się błędy czy zwyczajne pomyłki w dokonanych ustaleniach, zatem odwołanie musi być przewidziane. art. 47 ust. 3 Związek Przedsiębiorstw Wnosimy o zmianę treści art. 47 ust. 3 Projektu ustawy na następującą: 233 Finansowych w Polsce (ZPF) „3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń.” Art. 47 ust. 3 Związek Banków Polskich Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 60 dni, informuje Komisję o sposobie wykonania zaleceń. Wydaje się, że w interesie podmiotów objętych zakresem projektowanej ustawy zasadnym jest wskazanie minimalnego terminu na wypełnienie ciążącego na nich obowiązku. Przedmiotowy projekt ustawy powinien nie tylko obejmować ochroną prawa użytkowników, ale jak również obejmować ochroną podmioty wykonujące działalność w związku z rozporządzeniem 2024/1689 m.in. dla celów rozwoju innowacyjności. Art. 47 ust. 3 Fundacja FinTdch Poland W ustawie powinien zostać ustalony minimalny termin na przekazanie informacji o sposobie wykonania zaleceń, aby zagwarantować podmiotowi kontrolowanemu odpowiedni czas na zorganizowanie, wdrożenie i przedstawienie szczegółowych informacji związanych z realizacją zaleceń. Określenie minimalnego terminu chroni przed potencjalnym nadużyciem poprzez wyznaczanie zbyt krótkich okresów, które mogłyby skutkować niekompletnym lub powierzchownym wykonaniem zaleceń. Postulowane brzmienie przepisu Art. 47 ust. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. art. 48 Uwaga redakcyjna - podwójny przecinek ze spacją pośrodku. Po słowach „w toku kontroli” skreśla się przecinek oraz następujący po nim znak spacji. art. 48 KIG Proponujemy dodanie po art. 48 dodatkowego artykułu w brzmieniu: Kontrolę prowadzi się w sposób możliwie najmniej uciążliwy dla kontrolowanego, w szczególności, bez uzasadnionych przesłanek w postaci co najmniej uprawdopodobnienia naruszenia przepisów rozporządzenia 2024/1689, nie stosuje się środków wskazanych w art. 43 ust. 4 pkt 6 i 9. W przypadku naruszenia tajemnicy przedsiębiorstwa kontrolowanego odpowiedzialność odszkodowawczą ponosi Skarb Państwa. Art. 48 Fundacja FinTech Poland Przepis art. 48 nie precyzuje procedury, zgodnie z którą Komisja, jako organ kolegialny, ma stwierdzić, że na podstawie informacji zgromadzonych w toku kontroli mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. W związku z tym pojawia się niejasność co do 234 tego, czy decyzja ta powinna być podejmowana kolegialnie, np. w drodze głosowania wszystkich członków Komisji, czy też czy może zostać podjęta przez Przewodniczącego działającego samodzielnie. Brak sprecyzowanej procedury stwierdzania takich faktów rodzi ryzyko dowolności i może prowadzić do niejasności w zakresie odpowiedzialności za podjęte działania. Warto, aby ustawa wyraźnie określała, czy decyzja o wszczęciu postępowania ma być podejmowana na forum Komisji jako całości, w ramach głosowania z odpowiednią większością głosów, czy też powinna być delegowana Przewodniczącemu z określeniem warunków, pod jakimi takie działanie jest możliwe. Takie wyjaśnienie zapewniłoby transparentność procesu decyzyjnego oraz jasność co do podziału kompetencji wewnątrz organu. Proponowane doprecyzowanie może polegać na dodaniu zapisu, który precyzuje, że stwierdzenie naruszenia i decyzja o wszczęciu postępowania wymaga formalnej uchwały Komisji, np. podjętej większością głosów, lub alternatywnie określa, że decyzję podejmuje Przewodniczący na podstawie informacji przekazanych przez kontrolujących z odpowiednim umotywowaniem i zatwierdzeniem przez organ. Rozdział 4 GRAI Sugeruje wprowadzenie przepisów dotyczących postępowania z dokumentacją związaną z systemami sztucznej inteligencji na wypadek upadłości. Należy jasno uregulować co dzieje się z dokumentacją w sytuacji upadłości. Rozdział 4 GRAI Sugeruje rozważenie wprowadzenie trybu weryfikacji czy dochodzi do podejrzenia dyskryminacji algorytmicznej (odpowiedni nowy środek prawny). Uzyskane wyniki zyskałyby walor dowodowy w procesie cywilnym. Odbiorcy usług publicznych (np. Pacjenci) byliby informowani o ustaleniach i w określonym terminie mogliby skorzystać z prawa do weryfikacji swojego przypadku przed sądem. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Rozdział 4 Fundacja Panoptykon Prawa skarżących Doceniamy wprowadzenie w Rozdziale 4 projektu ustawy szczegółowych przepisów dotyczących postępowania przed organem nadzoru, w szczególności postępowania w następstwie skargi złożonej zgodnie z art. 85 rozporządzenia w sprawie sztucznej inteligencji. W naszej opinii doprecyzowania wymaga jednak, jakie prawa przysługują osobie składającej skargę. Analiza przepisów Rozdziału 4 sugeruje, że intencją projektodawcy byłonieprzyznanie osobie skarżącej statusu strony postępowania. Zgodnie bowiem z art. 51 projektu ustawy stroną postępowania jest wyłącznie podmiot, wobec którego wszczęto postępowanie. Choć art. 56 projektu ustawy przewiduje, że w zakresie nieuregulowanym ustawą stosuje się przepisy Kodeksu postępowania administracyjnego, interpretujemy art. 51 w ten sposób, że wprowadza on odrębne od k.p.a. regulacje co do statusu strony, inspirowane rozwiązaniami zastosowanymi w podobnych przepisach regulujących nadzór nad rynkiem i w prawie ochrony konkurencji i konsumentów, gdzie konsument nie jest uznawany za stronę postępowania przed UOKiK. 235 Zakładamy, że takie rozwiązanie zostało wprowadzone w celu uniknięcia ryzyka wydłużenia postępowania oraz utrzymania modelu regulacyjnego rozporządzenia w sprawie sztucznej inteligencji, inspirowanego przepisami o nadzorze rynku i produktów. Dostrzegamy jednak problem, że w obecnym kształcie projektu ustawy osoba skarżąca nie będzie miała dostępu do informacji o tym, co stało się z jej skargą, czy na jej podstawie wszczęto postępowanie, ani jakie były jego wyniki. Postulujemy zatem wprowadzenie w projekcie ustawy przynajmniej prawa do uzyskania informacji zwrotnej o wyniku postępowania oraz dostępu do uzasadnienia decyzji. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Art. 49 KIGEiT Propozycja zapisu: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykuł 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w Art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone, że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsiębiorcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. kultury, ale już nie minister sprawiedliwości, technologii? Art. 49 Fundacja FinTech Poland Zgodnie z aktualnym brzmieniem art. 49 ust. 1 pkt 1 Projektu Ustawy, komisja wszczyna postępowanie m.in. z urzędu. W tym miejscu należy wyraźnie podkreślić, że w projektowanej ustawie nie zostały wskazane jakiekolwiek przesłanki, czy też kryteria do wszczęcia postępowania z urzędu. Wydaje się, że 236 aktualne brzmienie przedmiotowego przepisu prowadzi do wniosku, iż komisja jest uprawniona do wszczęcia postępowania bez uzasadnionej, ale i konkretnej przyczyny. W celu ograniczenia uznaniowości organu kontrolnego warto rozważyć doprecyzowanie sytuacji, w których wszczęcie postępowania kontrolnego będzie szczególnie uzasadnione. Mogą to być np. sygnały o poważnych zagrożeniach dla bezpieczeństwa lub prywatności obywateli, skargi złożone przez wiele podmiotów lub wyniki wstępnych analiz wskazujące na naruszanie przepisów. Obecny przepis nosi ryzyko uznaniowości i paraliżu podmiotu kontrolowanego Art. 49 pkt 2 PIIT Rekomendacja: usunięcie pkt 2) albo co najmniej do zmiany: Komisja może wszcząć postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, Czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. Kultury, ale już nie minister sprawiedliwości, technologii? art. 49 ust. 2 KIGEiT Rekomendacja: Wnosimy o wykreślenie 237 Nie jest uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. art. 49 ust. 2 i 3 GRAI Zbyt szerokie uprawnienie do dostępu do treści stanowiących z jednej strony tajemnicę adwokacką lub radcowską, a z drugiej strony stanowiących prawo podmiotu kontrolowanego do uzyskania ochrony prawnej. Ponadto kolejny ustęp wskazujący na uprawnienie do przekazania dokumentu zawierającego treść objętą tajemnicą tylko na podstawie przeświadczenia kontrolującego o powstaniu wątpliwości stworzy pole do nadużyć i niekontrolowanego używania tego uprawnienia. Postuluje się usunięcie ust. 2 i 3 w całości. Art. 49 ust. 2 pkt. 3 PIIT Proponujemy usunąć, aby nie zaistniał skutek, że każda skarga obliguje Komisję do wszczęcia postępowania administracyjnego. Duża ilość skarg może spowodować blokadę działalności Komisji. Nie jest ponadto uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. Art.50 Osoba fizyczna W art. 50 projektu nie wskazano, jakie środki prawne przysługują skarżącemu, zwłaszcza w zakresie otrzymania informacji o wyniku postępowania. Nie odwołano się również do kwestii ochrony tożsamości skarżącego, w myśl dyrektywy (UE) 2019/1937. Należy wskazać gwarancje procesowe i środki ochrony skarżącego. Art.50 ICC Poland Projekt przewiduje w art. 50 ust. 2 pkt 1, że skarga, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia, powinna zawierać m.in. „nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji” [podkreślenie własne]. Tymczasem zakres przedmiotowy skargi nie jest ograniczony do naruszeń dokonanych przez dostawców systemów sztucznej inteligencji, lecz może ona dotyczyć wszelkich naruszeń rozporządzenia 2024/1689, a więc wszystkich operatorów, na których rozporządzenie 2024/1689 nakłada określone obowiązki (dostawców, producentów produktów, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora). W konsekwencji proponuje się zmianę w art. 50 ust. 2 pkt 1 Projektu słowa „dostawcy” na „operatora”. Art. 50 – 55. PWPW dot. post ępowania skargowego/naruszeniowego) 238 Prosimy o wskazanie czy do art. 50 i nast. będą miały zastosowanie przepisy Kodeksu postępowania administracyjnego , czy może to będzie procedura odrębna i wyłączna. Art.50 PIRP sformułowanie „jednostka organizacyjna nieposiadająca osobowości prawnej” należałoby doprecyzować przez dodanie po nim, po przecinku, sformułowania „o której mowa w art. 33[1] k.c.” Art. 50 Fundacja FinTech Poland Należy dodać obowiązek podania danych osoby lub podmiotu zgłaszającego skargę. Bez takiego wymogu istnieje ogromne ryzyko walki z konkurencją poprzez wnoszenie oskarżeń, które na długi czas blokują prace podmiotu konkurencyjnego art. 50 ust. 2 pkt 1 GRAI Uwaga redakcyjna - połączono adres z siedzibą. Słowa „adres siedziby” zastępuje się słowami „siedzibę, adres”. art. 50 ust. 2 pkt 3 GRAI Zbędne wydaje się wskazanie w przepisie: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Skreśla się słowa: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Art. 50 ust. 2 pkt 3 Związek Banków Polskich Art. 50. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej może złożyć do Komisji skargę, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia. 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji; 2) opis istotnych faktów oraz powody, dla których skarżący uważa, że dostawca systemu sztucznej inteligencji naruszył przepisy rozporządzenia 2024/1689; 3) inne informacje uznane przez skarżącego za istotne dla sprawy w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 50 ust. 1 pkt 3) Należy wykreślić sformułowanie „w stosownych przypadkach, informacje zebrane z własnej inicjatywy”, gdyż jest to nadmiarowe i nic nowego nie wnosi, skoro mamy już sformułowanie „inne informacje”. Informacje powinny być zabrane tylko w zgodzie z przepisami prawa w danej konkretnej sprawie. art. 50 ust. 2 –4 GRAI Uwaga redakcyjna Zbędne jest odwołanie w tych przepisach – „skarga o której mowa w ust. 1” zamiast po prostu ,,skarga”. W ust. 2,3 i 4 po słowie „skarga” skreśla się „o której mowa w ust.1”. Art. 50 ust. 3. PWPW Skargę, o której mowa w ust. 1, składa się Komisji w postaci elektronicznej, 239 a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji. Przepis jest zbyt ogólny i wadliwy. Skargę można złożyć: - w postaci elektronicznej, - czyli albo za pomocą środków komunikacji elektronicznej (np. mailem) albo na nośniku danych (co powinno być możliwe) gdzie należy przekazać – na biuro podawcze, czy przy użyciu poczty rejestrowanej lub bez rejestrowania np. płytą, innym nośnikiem danych itp. - a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków 7 komunikacji. Czy to oznacza że możliwe jest złożenie np. na papierze ? Należy wskazać kanały komunikacji np. ePUAP, adres do doręczeń elektronicznych, dedykowany portal itp. Czy wniesienie skargi uruchamia od razu postępowanie o naruszenie względem dostawcy AI act czy też jest to postępowanie typowo skargowe. Przepisy ww. obecnym kształcie nie wyjaśniają ww. zagadnienia. Art. 50 ust. 4 Uwagi Ogólne SAiW Copyright Polska Art. 50 ust. 4 projektu należy uznać zwrócenie się do Ministra Kultury z propozycją udziału w rozpatrywaniu skarg dotyczących kwestii odnoszących się do prawa autorskiego i praw pokrewnych za obligatoryjne dla Komisji, a nie fakultatywne. Dodatkowo z uwagi na potencjalnie duże skomplikowanie stanów faktycznych, wydaje się, że w art. 51 ust. 3 powinna istnieć możliwość wydłużenia czasu postępowania w danej sprawie, w uzasadnionych jej zawiłością przypadkach, ponad standardowy czas do 12 miesięcy. Podobna kompetencja Komisji jak ta przewidziana w art. 61 ust. 5 projektu w wypadku postępowań w ramach zgłaszanych incydentów, to jest kompetencja Komisji do żądania dodatkowych danych i informacji, powinna istnieć w sprawach wydawania przez Komisję interpretacji indywidualnych i generalnych. W razie braku przedstawiciela władz publicznych odpowiedzialnego za ochronę praw autorskich uprawnionego w mocniejszy niż obecnie sposób może zachodzić ryzyko wydawania przez Komisję interpretacji naruszających lub w niedostatecznym stopniu uwzględniających te prawa. Ryzyko to jest tym większe, że zgodnie z art. 14 ust. 5 projektu można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie, a zgodnie z art. 15 projektu ustawy Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych 240 w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Tak szeroko nakreślone kompetencje Komisji wymagają wprowadzenia w jej działanie postulowanych zmian. Społeczna Rada do spraw Sztucznej Inteligencji, dalej: Rada, powinna być tworzona przy współudziale podmiotów autorskouprawnionych, to jest powinna mieć możliwość posiadania w swym składzie określanym przez art. 28 projektu, kandydatów rekomendowanych nie tylko przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych (art. 28 ust. 3 pkt 4), ale też przez izby gospodarcze reprezentujące producentów treści chronionych prawami autorskimi i prawami pokrewnymi. Podobnie nie tylko przez fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji (art. 28 ust. 3 pkt 7), ale także przez stowarzyszenia, których celem statutowym jest ochrona praw autorskich i praw pokrewnych lub zbiorowe zarządzanie prawami autorskimi i prawami pokrewnymi. Skład osobowy Rady powinien wyważać reprezentowane w niej grupy interesów i zapewniać transparentność w zakresie ewentualnego konfliktu interesu, czego obecna regulacja w żaden sposób nie czyni. Za wzór w tym zakresie mogą posłużyć regulacje dotyczące wyłaniania składu osobowego Komisji Prawa Autorskiego, zawarte w ustawie o prawie autorskim i prawach pokrewnych, zapewniające większą równowagę interesów niż projekt w obecnym jego brzmieniu. Kompetencje członka Rady (art. 28 ust. 4 pkt 1) powinny obejmować także wiedzę w zakresie ochrony praw własności intelektualnej, w tym praw autorskich i praw pokrewnych. Dodatkowo zwracamy uwagę, że zakres wyłączenia przez projekt stosowania projektowanej ustawy do podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 1 Prawa o szkolnictwie wyższym może budzić pewne wątpliwości. Intencją Aktu o sztucznej inteligencji było wyłączenie działań niekomercyjnych, a polska definicja ustawowa „podstawowych badań naukowych” (rozumianych jako: prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne) nie wyklucza celów pośrednio komercyjnych. Wymaga to dalszego namysłu projektodawcy co do zgodności tej regulacji z Aktem o sztucznej inteligencji i z intencją motywu 109 tej regulacji. Sektor kreatywny słowa i książki oferuje społeczeństwu bardzo cenny, unikalny zbiór, jeżeli chodzi o treści potrzebne do trenowania sztucznej inteligencji. Intencją uprawnionych prawnoautorsko do tych treści nie jest hamowanie rozwoju sztucznej inteligencji i systemów nadzoru nad nią, lecz zapewnienie przez władze publiczne słyszalności w tym procesie głosu twórców i producentów treści kreatywnych, a w konsekwencji poszanowania ich słusznych praw i interesów. 241 Wyrażamy tym samym nadzieję, że głos polskiego środowiska twórczego i wydawniczego znajdzie zrozumienie i poparcie Ministerstwa jako projektodawcy. Art. 50 ust. 4 Osoba fizyczna jk Czy zapis ust. 4 oznacza, że Komisja nigdy nie będzie prowadzić kontroli w organach, o których mowa w art. 6 ust. 3 projektu ustawy? Art. 51 ust. 1 Osoba fizyczna Art. 51 ogranicza pojęcie strony postępowania tylko do osoby, wobec której zostało wszczęte postępowanie, podczas gdy art. 28 k.p.a. definiuje stronę jako każdego, czyjego interesu prawnego lub obowiązku dotyczy postępowanie. To oznacza, że art. 51 projektu ustawy pomija osoby, które mogą mieć interes prawny lub obowiązek w postępowaniu, ale nie są bezpośrednio objęte postępowaniem. Tym samym przepis nie zapewnia ochrony prawnej osobom, które chcą aktywnie uczestniczyć w postępowaniu. Art. 51 projektu jest zbyt wąsko sformułowany, co może prowadzić do wykluczenia osób, które powinny być uznane za strony postępowania. Natomiast art. 28 k.pa. zapewnia szerszą definicję strony, która obejmuje wszystkie osoby, których interes prawny lub obowiązek jest dotknięty postępowaniem. W związku z tym, art. 51 projektu ustawy powinien zostać zmieniony, aby uwzględnić szerszą definicję strony postępowania, zgodną z art. 28 k.p.a., bowiem z zakresu regulacji nie wynika, aby takie ograniczenie miało uzasadnienie prawne i faktyczne. Ewentualnie można zawęzić definicję strony na potrzeby ustawy przez wskazanie, że stroną jest dostawca lub operator systemu sztucznej inteligencji. W takim ujęciu zakres podmiotowy jest zawężony, a dookreślenie jest uzasadnione przedmiotem regulacji. Art. 52 ust. 1 Osoba fizyczna Wyłączenie okresu postępowania dowodowego z terminów prowadzenia postępowania administracyjnego, wynikającego z art. 35 k.p.a. budzi istotne wątpliwości co do naruszenia zasady szybkości postępowania administracyjnego. Jeśli skonfrontujemy ten przepis – art. 52 ust. 1 projektu ustawy z art. 51 ust. 3, w którym mowa o maksymalnym, 12-sto miesięcznym terminie postępowania, to może potencjalnie dojść do sytuacji, w którym postępowanie dowodowe przekroczy nie tylko termin wskazany w k.p.a, ale określony również w art. 51 ust. 3. projektu ustawy. Warto bowiem zauważyć, że o ile prowadzenie czynności dowodowych wydłuży bieg terminu prowadzenia postępowania na gruncie k.p.a, to zastosowanie normy z art 52 ust 1 nie odwołuje się do terminu wynikającego z art 51 ust. 3, nie skutkuje wydłużeniem. Ponadto wydłużenie postępowania dowodowego w nieskończoności, a takie ryzyko potencjalnie istnieje, narusza nie tylko zasadę szybkości postępowania, ale także narusza istotne interesy stron, pozostające w niepewności co do swej sytuacji prawnej oraz zasadę pogłębiania zaufania obywateli do organów państwa. Należy gruntownie przemyśleć reguły dotyczące biegu terminów w postępowaniu przed Komisją, pamiętając jednocześnie, że w k.p.a przewidziano możliwość wydłużenia tych terminów. Doktryna i orzecznictwo negatywnie ocenia wydłużanie postępowania 242 administracyjnego ponad miarę, ponad istotnie występujące potrzeby procesowe, co prowadzi do przewlekłości postępowania administracyjnego lub wprost do bezczynności. Poglądy te powinny być istotnym ostrzeżeniem przed wprowadzaniem tego typu rozwiązań do nowego aktu prawnego. Art. 51 ust. 2 Związek Banków Polskich Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania art. 51 ust.3 CHAMBER Szczególnie rażące jest odmienne uregulowanie terminów na postępowanie - tam, gdzie KPA przewiduje maksymalnie 2 miesiące, projekt ustawy przewiduje w art. 51 ust. 3 aż 12 miesięcy! Tak długie prowadzenie postępowania nie znajduje żadnego uzasadnienia. Postulujemy powrót do zasad określonych w art. 35 KPA oraz skreślenie także nieuzasadnionego przepisu art. 52 ust. 2, skutkującego jeszcze większym wydłużeniem postępowania. Mając na uwadze charakter przedmiotu regulacji, tzn. dynamicznie rozwijającą się technologię, postępowania muszą być prowadzone szybko i sprawnie, czyli wskazane jest tu raczej dodatkowe skrócenie terminów, a nie ich tak rażące wydłużanie. art. 51 ust.3 GRAI Zdecydowanie za długi termin na prowadzenie postępowania. Doprowadzić to może do nieuzasadnionego nadmiernego obciążenia podmiotu badanego oraz wydłuży czas oczekiwania na werdykt składającego skargę. Takie postępowanie powinno się zakończyć w ciągu 1 miesiąca, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy. Postuluje się ustanowienie terminu nie dłuższego niż 1 miesiąc, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy na podstawie pisemnego uzasadnienia. art. 51 ust.3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy zastosowanie terminów dla prowadzenia postępowania z ustawy o ochronie konkurencji i konsumentów - Postępowanie wyjaśniające nie powinno trwać dłużej niż 4 miesiące, a w sprawach szczególnie skomplikowanych - nie dłużej niż 5 miesięcy od dnia jego wszczęcia. art. 51 ust.3 KIGEiT Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania. 243 Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKiK art. 51 ust.3 PIIT Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie uokk. Art. 51 ust. 3 Związek Banków Polskich Postępowanie nie może trwać dłużej niż 12 miesięcy 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Art. 51 ust. 3 Fundacja FinTech Poland Okres 12 miesięcy wydaje się nadmiernie długim czasem trwania postępowania, szczególnie jeśli zaangażowana jest tylko Komisja i nie doszło do procesu sądowego. Czas jest bardzo ważny w przypadku rozwiązań sztucznej inteligencji i w 12 miesięcy może dojść do wprowadzenia zupełnie nowej technologii. Badania rozpoczęte dziś, za 12 miesięcy mogą być przestarzałe. Blokada prac nad systemem AI na 12 miesięcy w wyniku anonimowej skargi będzie wspaniałym narzędziem do nieetycznej walki z konkurencją. Zgodnie z ust. 1 stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. Nie jest to naszym zdaniem jasne czy skarżący jest stroną. Nie tylko podmiot wobec którego postępowanie się toczy ma interes w rozstrzygnięciu. Otwarte pozostaje pytanie czy jest to w takim razie przepis szczególny względem Kodeksu postępowania administracyjnego oraz art. 28 zgodnie z którym stroną jest każdy, czyjego interesu prawnego lub obowiązku dotyczy postępowanie albo kto żąda czynności organu ze względu na swój interes prawny lub obowiązek. Brak jest sprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania, co skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Postulowane brzmienie przepisu: Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Art. 51 ust. 3 Osoba fizyczna jk Czas 12 miesięcy trwania postępowania może okazać się zbyt długi dla osoby, która doznała szkody, wręcz krzywdy, w wyniku działania system sztucznej inteligencji. Co się stanie, jeżeli Komisja nie będzie w stanie zakończyć postępowania w terminie do 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania? Wystarczy sprawdzić, ile trwają postępowania w sprawach 244 dotyczących ochrony danych osobowych. art. 52 ust. 2 PIIT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż niezrozumiała jest intencja tego przepisu, tzn. w toku postępowania także analizuje się określone dowody, zatem ten czas prowadzenia postępowania dowodowego zawiera się w czasie prowadzenia postępowania. Wnosimy do wyjaśnienie intencji przepisu. art. 52 ust. 2 KIGEiT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 3 Członkowie Komisji powinni władać językiem angielskim na tyle dobrze, aby móc samodzielnie rozumieć dokumenty. Ogromna większość danych w branży technologicznej jest w języku angielskim, a także systemy AI najczęściej nie mają wersji polskiej. Bez znajomości języka angielskiego naprawdę trudno obecnie poruszać się w nowych technologiach. Z uwagi na konieczność zapewnienia profesjonalnego tłumaczenia, zasadne wydaje się wprowadzenie wymogu tłumaczenia dokumentacji przedłożonej przez stronę na język polski, poświadczonego przez tłumacza przysięgłego. Przed słowem „tłumaczenie” dodaje się ,,poświadczone przez tłumacza przysięgłego”. art. 52 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku AI, albo z tego powodu, że podmioty podlegające pod Rozporządzenie 2024/1689 same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców). Jeżeli Komisja ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. 245 Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Podnosimy, iż jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. Wskazujemy także, iż prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią „dokumentacji\". W konsekwencji, postulujemy zmianę treści art. 52 ust. 3 Projektu ustawy na następującą: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych.” Art. 52 ust. 3 Związek Banków Polskich 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Wymaganie tłumaczenia - w dzisiejszych czasach – będzie nadmiernym obciążeniem dla przedsiębiorców i za mało precyzyjnym – przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Zdarza się, że dokumentacja dot. poszczególnych bibliotek czy procedur jest wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Należy wykreślić ten punkt jako niemożliwy do spełnienia przez stronę. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe oraz niezbędne kwalifikacje językowe. Art. 52 ust. 3 Fundacja FinTech Poland Takie postanowienie jest anachroniczne i stawia KRiBSI z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo 246 z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Art. 53 ISSA Polska Warto dodać punkt: ostrzeżenie, o którym mowa w pkt 1 podlegają publikacji na stronie Komisji. Art. 53 Polski związek zarządzania wierzytelnościami Art. 53 ust. 3 Projektu Wyznaczony w art. 53 ust. 3 Projektu 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest w naszej ocenie zbyt krótki, mając na uwadze uciążliwość, jaką budzi dla przedsiębiorcy wdrożenie zmian o tak szerokim zakresie. Wdrożenie zmian w oparciu o ostrzeżenie wymaga złożonej analizy na poziomie technicznym i prawnym, co w konsekwencji wpływa na stabilność obrotu przedsiębiorstwa. Zważywszy na specyfikę współpracy sektora` wierzytelności i doświadczenie pracy z dostawcami usług informatycznych 247 dla tegoż, proponujemy termin nie krótszy niż 30 dni, który - przy założeniu jego dolnej granicy - nadal spowodowałoby znaczące wyzwanie dla administrujących systemem. Art. 53 Fundacja FinTech Poland W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „ informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Postulowane brzmienie przepisu: Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. Art. 53 ust.1 GRAI Uwaga redakcyjna Słowo ,,wydać” proponuje się zastąpić słowem ,,udzielić”. Art. 53 ust.1 PWPW W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Wnosimy o doprecyzowanie status u „ostrzeżenia ” 248 – czy jest to decyzja administracyjna, rodzaj czynności materialno - technicznej. Czy można się od niego odwołać ? Z przepisów art. 57 wynika, że odwołania do Sądu Okręgowego przysługują tylko od decyzji a nie ostrzeżeń. Należy rozważyć zaskarżenie ostrzeżeń – gdyż takie ostrzeżenie wpływa na działalność podmiotu i może on się nie zgadzać z jego podstawami i zakresem. Z uwagi na fakt, iż brak jest przepisów proceduralnych nie wiadomo czy można go zaskarżyć do Sądu Okręgowego – ale z uwagi na jego administracyjny charakter może on być potraktowany jako akt lub czynności z art. 3 ustawy - Prawa o postępowaniu przed sądami administracyjnymi – a to spowoduje, że z jednej strony będą orzekać sądy administracyjne a z drugiej Sąd Okręgowy. Wydaje się, że nie taka była intencja projektodawcy. Art. 53 ust.1 PIIT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. 249 Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Art. 53 ust.1 e-Izba Z aktualnego brzmienia tego przepisu nie wynika czy ostrzeżenie, wydawane przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w toku postępowania jest wydawane wyłącznie na potrzeby tego postępowania czy stanowi ono formę trwałej decyzji administracyjnej. Ewentualne ryzyko uznania ostrzeżenia, o którym mowa w analizowanym przepisie, jako decyzji administracyjnej o charakterze trwałym oceniamy - z perspektywy bezpieczeństwa prawnego przedsiębiorców – jednoznacznie negatywnie. W związku z powyższym, proponujemy aby ostrzeżenie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji miało charakter tymczasowy, związany bezpośrednio z postępowaniem, w ramach którego zostało wydane. Proponujemy, aby była to konstrukcja prawna zbliżona do decyzji tymczasowej stosowanej w postępowaniu antymonopolowym (art. 89 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów). W przypadku projektu ustawy o systemach sztucznej inteligencji ostrzeżenie miałoby na celu zapobiec skutkom działania przedsiębiorcy, względem którego istnieje podejrzenie, że narusza ono przepisy rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji, jednak wyłącznie na potrzeby danego postępowania, do momentu wydania ostatecznej decyzji administracyjnej w sprawie. Art. 53 ust. 1 i 3 KIG Proponujemy dodać w ust. 1 zdanie drugie Ostrzeżenie podaje się do publicznej wiadomości. Proponujemy dodać w ust. 3 zdanie drugie Na wniosek strony Przewodniczący Komisji podaje informację o wykonaniu rekomendacji do publicznej wiadomości Art. 53 ust. 1 KIGEiT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. , Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może 250 powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w Art. 57 projektu ustawy. Art. 53 ust. 2 KIGEiT Rekomendacje: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. , Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 53 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza I znowu nie sposób się zgodzić z regulacją, wedle której podmiot kontrolowany zobowiązany jest na żądanie organu kontrolującego wykonać tłumaczenie dokumentacji na język polski na własny koszt (art. 53 ust. 2 zd. 2 projektu ustawy o Al). Skoro to organ kontroli państwowej potrzebuje zapoznać się z dokumentem obcojęzycznym, przeto winien tego rodzaju dokument przetłumaczyć we własnym zakresie, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty tłumaczenia dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 53 ust. 2 zd. 2 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji RP]. Art. 53 ust. 2 PIIT Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Wprowadzenie zasady zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Przewidziana procedura jest niejasna. ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 52 ust.3 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Proponujemy zatem art. 52 ust. 3 zd. 2 ustawy o AI nadać nowe brzmienie „Tłumaczenie dokumentacji strona wykonuje na koszt organu kontrolującego.”. 251 Art. 53 ust.3 GRAI Termin 7 dni na wykonanie rekomendacji może często nie być realny ze względów technicznych. Ten punkt powinien dawać możliwość nie tylko przedstawienia wyników, a także samych czynności, których wynik będzie możliwy do oceny w terminie dłuższym niż 7 dni. Postuluje się, aby informacja nie zawierała jedyne danych o wykonaniu rekomendacji, ale także o czynnościach podjętych w tym celu które jednak z przyczyn technicznych, organizacyjnych, czy finansowych, mogą zakończyć się w terminie dłuższym niż proponowane 7 dni. Alternatywnie: Proponowane jest wskazanie, iż strona w ciągu 7 dni przesyła informację na temat sposobu realizacji rekomendacji tj. albo potwierdzenie wdrożenia lub informację na temat działań jakie zamierza podjąć i terminu ich realizacji. Art. 53 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w praktyce - w zależności od rodzaju rekomendacji - termin 7 dni może okazać się zbyt krótki. Rekomendujemy wydłużenie terminu do co najmniej 14 dni, aby wskazać, jakie działania podmiot planuje wdrożyć w celu przywrócenia zgodności bądź od razu poinformuje o wdrożeniu pewnych działań. Art. 53 ust. 3 ZPAV Przepis ten powołuje dotychczas nieznaną w polskim prawie cywilnym instytucję przedstawienia sądowi „poglądu istotnego dla sprawy” przez organ administracji państwowej. Zaproponowana redakcja przepisu może insynuować, że takie wystąpienie organu (w tym przypadku komisji, o której mowa w art. 7 projektu) posiadać będzie istotny wpływ na późniejszą decyzję sądu, co z oczywistych względów byłoby niedopuszczalne. Art. 53 ust. 3 PZPPF Projekt przewiduje w art. 53 uprawnienie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) do wydawania w toku postępowań ostrzeżeń w przypadku uzasadnionego podejrzenia, że działalność strony narusza Rozporządzenie 2024/1689. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni ma poinformować o wykonaniu tych rekomendacji. Rozporządzenie 2024/1689 w art. 99 ust. 1 przewiduje, że państwa członkowskie mają ustanowić przepisy dotyczące m.in. innych środków egzekwowania prawa, które mogą również obejmować 252 ostrzeżenia. Przepisy Rozporządzenia 2024/1689 nie precyzują zasad wydawania takich ostrzeżeń, doprecyzowanie w tym zakresie zostało pozostawione do decyzji Państw członkowskich. Samo uwzględnienie instytucji ostrzeżeń należy ocenić pozytywnie szczególnie biorąc pod uwagę nową i trudną specyfikę systemów sztucznej inteligencji oraz ciągły rozwój tego typu technologii. W projekcie instytucja ostrzeżenia została również powiązana z uprawnieniem Komisji do odstąpienia od nałożenia administracyjnej kary pieniężnej jeżeli podmiot wykona rekomendacje zawarte w ww. ostrzeżeniu. Biorąc jednak pod uwagę cel takich ostrzeżeń oraz ich znaczenie w kontekście nakładania kar pieniężnych na przedsiębiorców zasadne jest wskazanie w ustawie dłuższego terminu dla przedsiębiorcy na wykonanie rekomendacji Komisji, w szczególności ze względu na okoliczność, że rekomendacje mogą dotyczyć różnych nieprawidłowości, w tym takich które mogą być trudne do wdrożenia w praktyce ze względów technologicznych i niemożliwe do wprowadzenia w tak krótkim terminie jak 7 dni. W związku z powyższym Związek wypracował propozycję zmiany ww. przepisu: Art. 53 ust. 3. Strona w terminie wskazanym przez Przewodniczącego Komisji, nie krótszym niż 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Art. 53 ust. 3 ITCORNER W naszej ocenie 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest zbyt krótki, mając na uwadze to, jak wymagające technicznie może być wdrożenie zmian, których wymaga ostrzeżenie. Mając na uwadze nasze doświadczenie w realizacji komercyjnych projektów programistycznych, proponujemy termin nie krótszy niż 30 dni - spełnienie go będzie tak czy inaczej dużym wyzwaniem dla przeciętnej spółki programistycznej - szczególnie w przypadkach, gdy zastosowanie się do rekomendacji wymaga wprowadzenia naprawdę gruntownych zmian w systemie. Art. 53 ust. 3 Związek Banków Polskich Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie działań podjętych w celu wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, że w terminie 7 dni rekomendacja miałaby zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie działań podjętych w celu wykonania rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Art. 53 i 54 KIGEiT Zmiana zapisu: Dodanie możliwości negocjacji środków naprawczych: W Art. 54, ust. 2, warto dodać: \"Przed wydaniem decyzji o nałożeniu środków naprawczych, Komisja umożliwia podmiotowi opracowanie własnych propozycji działań naprawczych, pod warunkiem, że działania te przyczynią się do eliminacji ryzyka. Komisja ma obowiązek uzgodnić propozycje z tym 253 podmiotem, jeśli uzna je za adekwatne, zaakceptować ich wdrożenie jako alternatywę dla administracyjnych decyzji o karach.\" Rozdział 4. Art. 53 i 54 (Ostrzeżenia i decyzje Komisji) sugerują działania nadzorcze, gdy AI stwarza ryzyko naruszenia przepisów. Proponuję, aby te zapisy były bardziej elastyczne w odniesieniu do innowacyjnych technologii. Taki mechanizm pozwoliłby firmom na samodzielne eliminowanie problemów i szybkie wprowadzanie korekt, a jednocześnie unikałoby się zbyt surowych, automatycznych kar, co mogłoby blokować rozwój AI. Art. 54 KIGEiT Rekomendacja: Dodanie ust. 4 \" W uzasadnionych przypadkach stron może wnieść o wydłużenie 7 dniowego terminu na przedstawienie Komisji informacji z wykonania rekomendacji, o której mowa w ust. 2\" Uzasadnienie: w uzasadnionych przypadkach np. chwilowej awarii systemów - strona powinna mieć możliwość wydłużenia terminu na przedstawienie Komisji informacji z wykonania rekomendacji. Rekomendacja: Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 PIIT Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji. Należy dodać zasadę, iż środki nakazujące usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia, powinny być adekwatne i proporcjonalne. 254 Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 ust. 1 Związek Banków Polskich W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Art. 54 ust 1 Fundacja FinTech Poland Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Postulowane brzmienie przepisu: W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689,narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Art. 54 ust. 2 PZPPF Art. 54 ust 2 przewiduje, że decyzja Komisji nakazująca zaprzestanie naruszeń Rozporządzenia 2024/1689 może zawierać środku nakazujące usunięcie skutków naruszenia obowiązków wynikających z Rozporządzenia 2024/1689. Zobowiązanie do usunięcia skutków naruszeń może być w praktyce nawet niemożliwe biorąc pod uwagę specyfikę systemów sztucznej inteligencji bądź dalece utrudnione. Zachowanie przepisu w takim brzmieniu może prowadzić do nieproporcjonalnych obciążeń dla przedsiębiorców wykraczających poza założenia i przepisy Rozporządzenia 2024/1689. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie. Art. 55 KIGEiT Propozycja zapisu: Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w Art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w Art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w Art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami 255 rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. W związku z tym, że Art. 55 ma powinien odpowiadać zapisom Art. 79 AI Act niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea Art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł Art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wdrożenie/zmiana w systemie wymaga implementacji, testów, w tym innych systemów. Zmiana ta może mieć wpływ na świadczenie usług (np. telekomunikacyjnych) milionom klientów i powinna być wprowadzana w taki sposób, aby nie wpływać negatywnie na ich świadczenie. Proponowany przez ustawodawcę termin tego nie umożliwia. Art. 55 PIIT Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych. 256 Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacyjnym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wydłużenie terminu na wycofanie systemu z rynku lub użytku przynajmniej do 2 miesięcy od dnia doręczenia decyzji. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Art. 55 ICC Poland i) Konieczność doprecyzowania przesłanek rygoru natychmiastowej wykonalności Zgodnie z art. 55 ust. 4 Projektu decyzji Komisji nakazującej operatorowi wycofanie systemu stwarzającego określone tam ryzyka z rynku lub użytku może zostać nadany rygor natychmiastowej wykonalności. Projekt nie precyzuje jednak, w jakich przypadkach może to nastąpić, nie określając jakichkolwiek przesłanek w tym zakresie, mimo istotnego znaczenia takiego rozstrzygnięcia dla działalności operatora (możliwość wykonania decyzji jeszcze przed upływem terminu do wniesienia odwołania, por. art. 58 Projektu). Nie jest przy tym jasne, czy powinno prowadzić to do wniosku, że zastosowanie znajdzie w tym zakresie art. 108 § 1 Kodeksu postępowania administracyjnego na zasadzie odesłania z art. 56 Projektu. Z tego względu należałoby rozważyć albo doprecyzowanie przesłanek nadania decyzji Komisji rygoru natychmiastowej wykonalności (np. natychmiastowa wykonalność jest niezbędna dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) albo jednoznaczne przesądzenie, że może to nastąpić tylko po spełnieniu przesłanek z art. 108 § 1 Kodeksu postępowania administracyjnego. ii) Termin na podjęcie działań Artykuł 55 ust. 3 Projektu przewiduje, że w razie wydania decyzji, o której mowa w tym przepisie, podjęcie wszelkich działań naprawczych lub wycofanie tego systemu z rynku lub użytku powinno nastąpić w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji (terminu takiego nie przewiduje z kolei już art. 55 ust. 4 Projektu). Biorąc pod uwagę szeroki zakres możliwych działań 257 naprawczych, potencjalny wysoki stopień ich technicznego skomplikowania, jak również w najbardziej radykalnych przypadkach konieczność podjęcia szerokich działań na wycofanie systemu (a także – na zasadzie art. 2 ust. 2 Projektu – modelu sztucznej inteligencji ogólnego przeznaczenia), 14-dniowy termin maksymalny wydaje się terminem zbyt krótkim. Należałoby rozważyć jego odpowiednie wydłużenie (jako terminu maksymalnego), pozostawiając Komisji możliwość jego dostosowania do konkretnej sprawy. Art. 55 ust.1 GRAI Ustęp zgodny z rozporządzeniem 2024/1689, niemniej brak doprecyzowania, że dotyczy systemów SI nierozpoznanych dotychczas jako system wysokiego ryzyka i w związku z tym nieuwzględnionych w bazie danych zgodnie z art. 71 rozporządzenia 2024/1689. Doprecyzowanie przepisu. Sugerowane doprecyzowanie zgodnie z art. 79 ust. 1 rozporządzenia „Systemy AI stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób.” Art. 55 ust. 1 Związek Banków Polskich Artykuł należy rozszerzyć o odniesienie również do rozumienia art. 3 pkt 19 rozporządzenia (UE) 2019/1020, który definiuje „produkt stwarzający ryzyko”. Przepis powinien przewidywać, że systemy sztucznej inteligencji stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. Art. 55 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza W art. 55 ust. 2 in principio projektu ustawy o AI pomiędzy słowami „Jeśli oraz „łtoku” opuszczono literę „w”. Należy zatem przedmiotowy brak uzupełnić. Wadliwość powyższa to kolejny dowód na brak dołożenia należytej staranności przy opracowywaniu projektu ustawy o AI. Art. 55 ust. 2 Związek Banków Polskich Art. 55. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, w tym prawa do niedyskryminacji, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Art. 77 ust. 1 Rozporządzenia 2024/1689 wskazuje: ”Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji,.....” 258 Pomiędzy rozporządzeniem a projektem ustawy musi być spójność. Propozycja ma na celu uspójnienie brzmienia przepisu z odpowiadającym przepisem AI Act. ( + dodanie litery „w”) Art. 55 ust. 2 Fundacja FinTech Poland Dodana brakująca litera „w”. Postulowane brzmienie przepisu: Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024 Art. 55 ust.3 Polski związek zarządzania wierzytelnościami Art. 55 ust. 3 Projektu Uważamy, że działania naprawcze, o których mowa w art. 55 ust. 3, powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie dla systemów krytycznych dla funkcjonowania konkretnych przedsiębiorstw windykacyjnych. Większa zachowawczość organu kontrolnego w tym zakresie jest kluczowa dla przedsiębiorstw z reprezentowanego przez nas sektora, którego działalność, z racji jego specyfiki, często mieścić się może w zakresie definicyjnym systemów wysokiego ryzyka - co oznacza kilkadziesiąt, momentami bardzo rozległych i nowych obowiązków, aby zapewnić pełną zgodność z AI Act. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust.3 PWPW W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji. Termin 14 dni na wycofanie produktu lub usługi jest terminem „nierealnym”. Zagrażającym działaniu podmiotu. 259 Proces wytwórczy jak i proces wycofania produktów to skomplikowane działania, należy w tym czasie np. rozwiązać umowy z klientami, zorganizować pracę, być może dokonać przesunięć lub zwolnień pracowników. Minimalny okres to 3 miesiące. Art. 55 ust.3 CHAMBER Z powyższymi przepisami, niezwykle korzystnymi dla organów kontroli, kontrastuje norma art. 55 ust. 3, która operatorowi daje jedynie 14 dni na wycofanie produktu z rynku, nie zważając na żadne okoliczności prawne i faktyczne, np. narażenie przedsiębiorcy na odszkodowania lub utratę zdolności do prowadzenia działalności gospodarczej. Tak drastycznie krótkie terminy mogą być uzasadnione jedynie bezpośrednim zagrożeniem bezpieczeństwa obywateli, co jest przedmiotem regulacji ust. 4. W pozostałych przypadkach postulujemy wydłużenie terminu na dostosowanie systemu lub wycofanie go z rynku do 6 miesięcy. Art. 55 ust.3 GRAI Uprawnienie Komisji do nakazania wycofania systemu z rynku lub użytku zbytnio ingeruje w swobodę działalności gospodarczej przedsiębiorcy i może nawet uniemożliwić mu prowadzenie tej działalności. Działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyka i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. Ponadto, określony termin 14 dni w praktyce jest zbyt krótki. Skreślenie “wycofanie tego systemu z rynku lub użytku...” lub przynajmniej uzupełnienie tego zdania o “lub jego części powodującej naruszenie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu lub jego części powodującej naruszenie z rynku lub użytku w terminie nie dłuższym niż 90 dni od dnia doręczenia decyzji.” Do rozważenia zmiana brzmienia art. 55 ust. 3 projektu nadająca priorytet działaniom naprawczym przed nakazem wycofania z rynku produktu. Zapewni to mniejszą ingerencję Komisji w swobodę działalności podmiotów wciąż z zachowaniem intencji art. 79 AIA. Art. 55 ust. 3 otrzymuje brzmienie: “3. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689, a gdy działania naprawcze nie okażą 260 się skuteczne nakazującą wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji”. Art. 55 ust. 3 ITCORNER Uważamy, że działania naprawcze o których mowa w art. 55 ust. 3 powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie mając na uwadze, że dany system AI może być krytyczny z punktu widzenia działalności i przychodów danego przedsiębiorcy (kluczowy / jedyny produkt lub usługa), a zatem konsekwencje jego wycofania będą rozległe. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zwracamy uwagę, że termin 14 dni może okazać się zbyt krótki na wycofanie systemu z rynku. W konsekwencji postulujemy wydłużenie tego terminu. Art. 55 ust.4 CHAMBER Proponujemy nadać art. 55 ust. 4 następujące brzmienie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie zagrożenie dla zdrowia lub bezpieczeństwa obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku w terminie 14 dni.” Art. 55 ust.4 GRAI W przepisie nie określono warunku nadania decyzji rygoru natychmiastowej wykonalności, co skutkuje za dużym uprawnieniem dyskrecjonalnym organu. Uwaga redakcyjna Skreśla się słowo „o” między słowem „nadany” a słowem „rygor”. Art. 55 ust. 4 Związek Banków Polskich Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności Usunięta litera „o”. Art. 55 ust 4 Fundacja FinTech Poland Usunięcie litery „o”. Postulowane brzmienie przepisu: Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Art. 55 ust. 3 i 4 Stanowisko Koalicji AI i Innowacji w Zdrowiu Wysoki rygoryzm związany z koniecznością wycofania systemów AI z użycia może stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Co więcej, bardzo krótki (14-dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla podmiotów posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Art. 55 ust. 3 i 4 Związek Cyfrowa Polska Wysoki rygor związany z koniecznością wycofania systemów AI z rynku/z użytku. Może on stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Dodatkowo, bardzo krótki (14- 261 dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla przedsiębiorstw posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Działania naprawcze i wycofanie systemu AI z rynku. Zgodnie z art. 55 ust. 3 i 4 Projektu, decyzja wydana przez KRiBSI o podjęciu środków (działań) naprawczych może doprowadzić do zobowiązania przedsiębiorcy do wycofania systemu AI z rynku / z użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji lub nawet w krótszym terminie (w zw. z nadaniem decyzji rygoru natychmiastowej wykonalności). Takie uprawnienie KRiBSI zbytnio ingeruje w swobodę działalności gospodarczej podmiotu, gdyż może nawet uniemożliwić mu prowadzenie działalności. Tymczasem, działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym rekomendujemy wykreślenie uprawnienia organu do wycofania systemu AI z rynku / z użytku lub sugerujemy określenie innego, dłuższego terminu na wykonanie tej decyzji, który zabezpieczy funkcjonowanie przedsiębiorcy i nie narazi go odpowiedzialność odszkodowawczą wobec swoich kontrahentów. Art. 55 ust.6 GRAI Uwaga redakcyjna „O” zastępuje się słowem „Od”. Art. 56 PIIT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 KIGEiT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 ISSA Polska Odesłanie do stosowania kodeksu postępowania administracyjnego w zakresie nieuregulowanym dotyczy wyłącznie postępowania przed Komisją, brakuje analogicznych odesłań dla pozostałych rozdziałów (np. rozdziału 5). Postuluję usunięcie tego artykułu i przejrzyste wskazanie w osobnym 262 artykule odpowiedniego stosowania KPA do całej ustawy (zwłaszcza, że przewidziano wyłączenie stosowania niektórych artykułów KPA w art 76 projektu ustawy). Art. 57 PIIT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. własności intelektualnej. art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów w terminie tygodnia od doręczenia postanowienia. art. 57 nie określa terminu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np. art. 43 ust.13 projektu), dla jasności kwestie organu, terminu wniesienie środków odwoławczych powinny zostać wprost wskazane w ustawie. Art. 57 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z dużą dozą zaskoczenia przyjęliśmy propozycję regulacji art. 57 ust. 3 projektu ustawy o AI przewidującą, iż w sprawie z odwołania od decyzji Komisji zawisłej przed Sądem Okręgowym w Warszawie- Sądem Ochrony Konkurencji i Konsumentów, zwanym dalej SOKiK [art. 57 ust. 1 projektu ustawy o AI], w której to sprawie przecież Komisja jest stroną [art. 479** $ 1 k.p.c. dodanym mocą przepisu art. 80 pkt. 2 projektu ustawy o AI], Komisja poza normalnie przysługującym jej w postępowaniu cywilnym prawem do wyrażania własnego stanowiska 1 składania pism procesowych dodatkowo została wyposażona w uprawnienie do przedstawienia SOKiK istotnego dla sprawy poglądu w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Tego rodzaju uprawnienie przysługuje organizacjom pozarządowym, które nie uczestniczą w konkretnej sprawie cywilnej w jakimkolwiek charakterze (art. 63 k.p.c.). Tymczasem z układu art. 263 57 projektu ustawy o AI, który mocą regulacji art. 57 ust. 1 i ust. 2 projektu ustawy o AI nie pozostawia cienia wątpliwości, iż cały przepis art. 57 projektu ustawy a AI dotyczy spraw prowadzonych przez SOKiK w wyniku wniesienia odwołania od decyzji Komisji, co sprawia, iż należy uznać za całkowicie niedopuszczalne, aby w swojej własnej sprawie, w której zaskarżono decyzję Komisji organ ten dodatkowo posiadał uprawnienie do przedstawienia SOKiK swojego istotnego dla sprawy poglądu. Związek Telewizji Kablowych w Polsce Izba Gospodarcza uważa za słuszne co do zasady dopuszczenie uprawnienia Komisji do przedstawiania każdemu sądowi prowadzącemu sprawę dotyczącą sztucznej inteligencji istotnego w sprawie poglądu, z tym jednakże zastrzeżeniem, że uprawnienie to nie może odnosić się do toczącej się przed SOKiK sprawy wszczętej wniesieniem odwołania od decyzji Komisji, gdyż w takim wypadku Komisja ta w swojej własnej sprawie przedstawiałaby SOKiK swój własny istotny w sprawie pogląd będąc niejako sędzią w swojej własnej sprawie, a zarazem wywierając prawnie niedopuszczalny wpływ na treść rozstrzygnięcia w sprawach uregulowanych w art. 57 ust. I w zw. zart. 57 ust. 2 projektu ustawy o AL. Aby usunąć skutki płynące z fatalnej wręcz redakcji art. 57 projektu ustawy o AI wskazane się wydaje dodanie w art. 57 projektu ustawy o AI po ust. 3 przepisu ust. 4 w brzmieniu ,, Przepis ust. 3 nie znajduje zastosowania do spraw, o których mowa w ust. I w zw. z ust. 2 mniejszego artykułu.”. Art. 57 ICC Poland Porównaj uwagi do art. 75 projektu dotyczące konieczności dokonania pogłębionej analizy, który z istniejących sądów powinien zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 57 NRA Art. 57 Projektu odnosi się wyłącznie do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Przepis ten nie przewiduje natomiast trybu odwoławczego dla wydawanych w trakcie takiego postępowania postanowień, które dotyczyłyby kwestii proceduralnych podejmowanych przez Komisję. Pominięcie tej kategorii orzeczeń w regulacji powoduje niepewność co do właściwej drogi prawnej, utrudniając zaskarżenie takich postanowień i nie wskazując jednoznacznie organu, przed którym wnioskodawcy mogliby dochodzić swoich praw w przypadku naruszeń proceduralnych. Dla zapewnienia przejrzystości postępowania oraz zagwarantowania efektywnej ochrony interesów podmiotów kontrolowanych niezbędne byłoby uzupełnienie Projektu o regulacje dotyczące trybu odwoławczego wobec postanowień podejmowanych w ramach postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Art. 57 ust. 1 CHAMBER Pozytywnie należy ocenić oddanie sporów wynikających z działań nadzorczych Komisji pod kognicję Sądu Ochrony Konkurencji i Konsumentów (art. 57 ust. 1 projektu), co umożliwia merytoryczną kontrolę prawidłowości i proporcjonalności działań Komisji. Należy tu jedynie zaznaczyć, że mając na uwadze specyfikę spraw z zakresu sztucznej inteligencji, wymagających technicznej wiedzy, Sąd stanie przed dużym wyzwaniem organizacyjnym aby zapewnić odpowiednie kadry, w tym też np. biegłych posiadających odpowiednią wiedzę z zakresu systemów sztucznej inteligencji. W tym kontekście budzi jednak zdziwienie przepis projektowanego ust. 3, który zdaje się sugerować, że Komisja nie jest stroną postępowania 264 wszczynanego przed SOKiK na podstawie odwołania od decyzji. Zamieszanie potęguje jeszcze projektowany przepis Art. 47988e § 1. Kodeksu postępowania cywilnego, zgodnie z którym “[w] sprawach z naruszenia przepisów rozporządzenia 2024/1689 są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” Wydaje się, że w treści tego przepisu zabrakło słowa “strona”, co byłoby spójne z innymi postępowaniami odrębnymi przed SOKiK. W takiej sytuacji Komisja będzie przedstawiała swoje stanowisko właśnie jako strona i przepis art. 57 ust. 3 jest całkowicie zbędny. Art. 57 ust. 1 Osoba fizyczna Postępowanie prowadzone w ramach nadzoru nad sztuczna inteligencją ma typowo administracyjny charakter. Kary administracyjne nakładane z tego tytułu są orzekane nie w oparciu o zasadę słuszności lub zasadę winy, ale o fakt naruszenia przepisów praw administracyjnego. Dlatego wątpliwe jest wprowadzenie hybrydowego modelu orzekania w zakresie nadzoru przez sąd powszechny z wykorzystaniem procedury cywilnej przed sądem ochrony konkurencji i konsumentów. Model odwoławczy, przyjęty do decyzji UOKiK oraz URE, jest krytykowany przez części doktryny. Ponadto silne powiązanie spraw z zakresu nadzoru nad SI ze sprawami dotyczącymi ochrony danych osobowych, jeszcze dobitniej pokazuje, że to sąd administracyjny i ścieżka skargowa typowa dla spraw administracyjnym, oparta o przepisy k.p.a. a potem o przepisy prawa o postępowaniu przed sądem administracyjny, jest właściwa. Dlatego też powinno się wrócić do modelu skargi na decyzje Komisji ds. SI opartego o procedurę sądowoadministracyjną i właściwość rzeczową sądów administracyjny a nie sądu powszechnego. Ponadto w postępowaniu przed Komisją zrezygnowano z prawa do dwukrotnego merytorycznego rozstrzygnięcia sprawy, wskazując jako środek odwoławczy dowołanie do Sądu Okręgowego w Warszawie - sądu ochrony kongruencji i konsumentów. Wątpliwe prawnie jest zrezygnowanie z prawa do dwukrotnego merytorycznego rozstrzygniecie sprawy. Zasada dwuinstancyjności postępowania administracyjnego jest jedną z kluczowych zasad prawa. Należy również zwrócić uwagę, że w świetle obowiązujących przepisów prawa o postępowaniu administracyjnym strona może zrezygnować z prawa do odwołania i wnieść skargę bezpośrednio do sądu administracyjnego. Wprowadzenie podobnego rozwiązania jest celowe i słuszne ze względu na obowiązujący model ochrony praw jednostki w państwie demokratycznym, w którym zasada dwuinstancyjności jest jednym z elementów tego modelu. art. 57 ust. 1 SKwP To jest odwołanie czy nie ma? art. 57 ust. 1 KIGEiT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności intelektualnej. 265 Art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. , art. 57 nie określa terminu na wniesienie odwołania (por. np. Art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np Art. 43 ust.13 projektu - nie można się tego domyślać z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Rekomendacja: Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 1 PIIT Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 3 PIIT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. 266 W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 PWPW Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes Publiczny. Ten przepis powinien znajdować się co najmniej nie w tym artykule. W postępowaniu o odwołaniu od decyzji Komisja jest stroną. Wydaje się, że projektodawcy chodzi o inne postępowania tam gdzie Komisja nie jest stroną. Art. 57 ust. 3 GRAI Sprawa dotyczy odwołania od decyzji Komisji, więc z jakich to przyczyn Komisja miałaby przedstawiać sądowi istotny pogląd - nie taka jest rola Komisji w tym postępowaniu, nie może występować w podwójnej roli, a więc jako organ wydający zaskarżone rozstrzygnięcie i zarazem jako amicus curiae. Przepis powinien być dostosowany do art. 63 (5) KPC, tj. stosowany tylko w postępowaniach w których Komisja nie jest stroną. Należy skreślić ustęp 3 oraz wprowadzić osobny artykuł, regulujący sytuacje, w których Komisja nie jest stroną postępowania. Art. 57 ust. 3 KIGEiT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie tali jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 Związek Banków Polskich 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przepis ujęty w ust. 3 art. 57 w efekcie jego zastosowania w praktyce sądowej może prowadzić do zaburzenia równości stron. Można przypuszczać, iż sąd będzie miał skłonność do przyjmowania poglądu Komisji – jako „istotnego”. Przepis należy skreślić lub przenieść do ogólnych uprawnień Komisji. Art. 58 CHAMBER Norma projektowanego art. 58 słusznie nakazuje obligatoryjne wstrzymanie wykonania decyzji o administracyjnej karze pieniężnej w przypadku wniesienia przez stronę odwołania do sądu. A 267 contrario żadne inne decyzje nie są wstrzymywane przez wniesienie odwołania, a mogą mieć reperkusje nawet poważniejsze dla operatora systemu SI, włącznie z konieczność zaniechania działalności i likwidacji podmiotu, gdy przykładowo nie będzie on w stanie wypełnić nałożonych nań obowiązków. W tym świetle postulujemy rozszerzenia tego przepisu na wszystkie decyzje Komisji. Alternatywą jest dodanie do projektowanych przepisów Kodeksu postępowania cywilnego możliwości zabezpieczenia interesów operatora systemu SI w postaci zawieszenia wykonania decyzji Komisji przez Sąd. Art. 58 PWPW Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Z punktu widzenia prowadzenia biznesu treść art. 58 projektu ustawy wydaje się niewystarczająca. Albowiem decyzja może nakazać zmianę systemu wykorzystującego sztuczną inteligencję lub wycofanie go z rynku w ciągu 14 dni lub z rygorem natychmiastowej wykonalności (art. 55 ust. 3 i ust. 4). Taka decyzja będzie miała potencjalnie bardzo dotkliwe skutki dla biznesu, dużo poważniejsze od ewentualnych kar. W naszej opinii wniesienie odwołania do sądu powinno wstrzymywać w całości wykonanie decyzji. Art. 58 PIIT Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności. Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. Art. 58 KIGEiT Propozycja zapisu: Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności, Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. 268 Art. 58 ICC Poland Zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania od decyzji Komisji do sądu wstrzymuje wykonanie decyzji, ale jedynie w zakresie administracyjnej kary pieniężnej. Rozwiązanie to, choć – jak się wydaje – jest wzorowane na art. 74 ustawy o ochronie danych osobowych6, budzi poważne wątpliwości z perspektywy proporcjonalności (analogiczne wątpliwości były zresztą zgłaszane w toku konsultacji publicznych dotyczących projektu ustawy o ochronie danych osobowych). Zgodnie z art. 54 i 55 Projektu Komisja może nałożyć na operatora systemu sztucznej inteligencji liczne obowiązki, w tym nawet nakaz wycofania tego systemu z rynku lub użytku, co może mieć nieodwracalne skutki dla adresata decyzji, zwłaszcza w sytuacji, gdy jego działalność opierałaby się w istotnym zakresie na dostarczaniu lub wykorzystywaniu takiego systemu sztucznej inteligencji. Projektowany przepis oznacza, że gdyby nawet w postępowaniu odwoławczym sąd uznał argumenty zawarte w odwołaniu i uchylił decyzję Komisji, to jej adresat będzie mógł co najwyżej dochodzić odpowiedzialności odszkodowawczej od Skarbu Państwa za szkody spowodowane wcześniejszym wydaniem decyzji. Tymczasem nie każde naruszenie rozporządzenia 2024/1689 będzie miało taki charakter, który będzie uzasadniał wykonanie decyzji przed zakończeniem postępowania odwoławczego. Z tego względu właściwszym rozwiązaniem byłoby pozostawienie Komisji możliwości nadania jej decyzji rygoru natychmiastowej wykonalności (jak uczyniono to w odniesieniu do decyzji, o której mowa w art. 55 ust. 4 Projektu) wtedy, gdy – przykładowo – jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, przy równoczesnym przesądzeniu, że wniesienie odwołania do sądu wstrzymuje co do zasady wykonanie decyzji Komisji. Art. 59 ust. 2 GRAI Dodawanie przepisu o wysyłaniu akt do prokuratury przez organ, wydaje się w tym projekcie ustawy zbyteczne. Skreśla się ust. 2 Art. 60 ust. 1 Fundacja FinTech Poland Art. 60 wymaga uwzględnienia w jakim terminie liczony jest okres 10 lat, proponujemy aby ten termin liczony był od daty zakończenia postępowania. Art. 60 ust 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie czy okres 10 lat liczony będzie od daty zakończenia postępowania czy też od innego zdarzenia. Art. 60 ust. 2 PIIT Proponujemy usunąć, tutaj wystarczające odwołanie do KPA z art. 56. Art. 60 ust. 2 Osoba fizyczna Należy podnieść, że jedną z przesłanek wznowienia postępowania administracyjnego, w świetle art. 145 § 1 ust 5 k.pa., jest okoliczność wyjścia na jaw istotnych dla sprawy nowych okoliczności faktycznych lub nowych dowodów istniejących w dniu wydania decyzji, nieznane organowi, który wydał decyzję. Treści tego przepisu, ugruntowana praktyka orzecznicza oraz poglądy doktryny pozwalają na przyjęcie tego rozwiązania wprost, bez wprowadzania szczególnych reguł w ustawie o sztucznej inteligencji. 269 Niezrozumiałe jest wskazanie przesłanki negatywnej do wznowienia postępowania przez Komisję w postaci przedawnienia karalności przestępstwa. Reguła wynikająca z art. 146 § 1, dotycząca negatywnej przesłanki wznowienia postępowania administracyjnego w przypadku nowych okoliczności/dowodów, odnosi się upływu pięcioletniego terminu od zakończenia postępowania. Termin ten jest istotny nie tylko z punktu widzenia ochrony interesów strony, ale także interesu publicznego i społecznego, bowiem wprowadza pewność co istniejącej sytuacji prawnej. Należy zwrócić uwagę, że w świetle wspomnianego przepisu art. 146 § 1 k.p.a. organ może wznowić postępowanie, jednak nie ma możliwości, po upływie terminu, rozstrzygać kwestii merytoryczne, a jedynie może wskazać, ze decyzja została wydania z naruszeniem prawa. Odwołanie w art. 60 ust 2 ustawy do terminu przedawnienia karalności przestępstwa, bez wskazania konkretnych przepisów kodeksu karnego budzi poważne wątpliwości natury prawnej. Warto zaznaczyć, że terminy przedawnienia przestępstw karnych są różne, co wyraźnie jest określone w art. 101 § 1 kodeksu karnego. Z przepisu nie wynika o przedawnieniu jakich przestępstw jest mowa. Wprowadzenie przywołanej regulacji narusza zasadę pewności prawa, zasadę przewidywalności prawa, a w szerszym ujęciu zasadę praworządności i demokratycznego państwa prawa. Jednostka musi bowiem mieć prawną gwarancję, że jej działania nie naruszają prawa, co w przypadku dosyć swobodnego odesłania do przepisów prawa karnego nie ma miejsca. Art. 60 ust. 2 GRAI Autorowi projektu, chyba chodziło o ,,przedawnienie deliktu”. Rozdział 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie poważnych incydentów (rozdział 5 USS) Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67 USS, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do systemów wysokiego ryzyka. Także motyw 78 AI Act , odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym rekomendujemy, aby obowiązki w tym zakresie, zostały zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 61 Polskie Towarzystwo Informatyczne Nie wyznaczono terminu, w jakim incydent ma być zgłoszony. Propozycja \"Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji w terminie 72 godzin od momentu powzięcia informacji o wystąpieniu poważnego incydentu. Art. 61 GRAI I. Zasadniej byłoby, gdyby dotyczył dostawców (i może również użytkowników) TYLKO systemów AI wysokiego ryzyka. 270 Definicja dostawcy jest bardzo szeroka. I jeśli będzie obowiązek dotyczyć dostawcy każdego systemu AI, może się okazać w praktyce, że notyfikacje mogłyby dotyczyć zbyt wielu systemów, o całkiem niszowym lub obiektywnie „niegroźnym” zastosowaniu. Zgłoszenie musiałoby oczywiście dotyczyć takich kwestii jak incydent w ramach narzędzi chatbotowych lub podobnych, które mają z założenia bezpośrednio wpływać na środowisko (czyli dajemy im większą autonomię), ale moim zdaniem mogłoby również obejmować wszelkie systemy AI, które sobie opracujemy do celów analiz, podpowiadania itp. Interpretacje co do zakresu definicji dostawcy pewnie dopiero się wykształtują, ale zwracam uwagę, na to, że definicja dostawcy obejmuje „oddanie do użytku” systemu AI. A oddanie do użytku” oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem. Więc nawet jak się oprzemy na gotowym modelu (np. LLM-owym lub innym), ale stworzymy środowisko, które ten model implementuje, określimy poziom jego autonomii itd., to całość będzie stanowić system AI, a my musielibyśmy być uznani za jego dostawcę, nawet jeśli stworzymy go do „użytku własnego”. I również (poważne) incydenty dla takich systemów musielibyśmy zgłaszać w trybie art. 61. II. Zgodnie z art. 26 ust. 5 obowiązek zgłaszania poważnych incydentów ma także stosujący system AI: “5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania.” II. W całym art. 61 należy dodać także “podmioty stosujące” lub wprowadzić osobny przepis dotyczący obowiązków podmiotu stosującego zgodnie z art. 26 ust. 5 AI Aktu. Art. 61 ust. 1 PIIT Zgłaszanie poważnych incydentów Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji 271 “poważnego incydentu” zawartego w art. 3 pkt 49 ASI nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 ASI, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. Art. 61 ust. 1 KIGEiT Propozycja zapis: Przepis zgodnie z Art. 73 ust. 1 Aktu o sztucznej inteligencji powinien ograniczać obowiązek zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka. , Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Art. 61 ust. 1 GRAI Brakuje terminu, w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zmiany brzmienia zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689 lub odesłanie w tym zakresie wprost do art. 72 ust. 2 rozporządzenia 2024/1689. Nadanie następującego brzmienia art. 61 ust. 1: „Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu.”. Art. 61 ust. 1 Związek Banków Polskich Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji bezzwłocznie, po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Brakuje terminu w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689. Art. 61 ust. 1 Fundacja FinTech Poland Proponujemy wprowadzenie postanowienia tak aby był klarownie skorelowane z art. 73 ust. 1 AI Act. Treść art. 73 ust. 1 AI Act wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów 272 wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. Postulowane brzmienie przepisu: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Art. 61 ust. 1 PSSI Otwarty dostęp do bazy incydentów SI Art. 61 pkt. 1 nakłada obowiązki związane z budową i utrzymaniem bazy incydentów związanych z systemami SI. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Z uwagi na duże znaczenie społeczne i badawcze, oraz zastosowania dla bezpieczeństwa SI, rekomendujemy by w ustawie zapisać, że baza incydentów będzie co do reguły otwarta i publicznie dostępna, z wyłączeniem uzasadnionych przypadków np. związanych z bezpieczeństwem narodowym. Art. 61 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie incydentu (art. 61 ust. 1) Proponujemy zapis tak aby był klarownie skorelowany z z art. 73 ust. 1 rozporządzenia 2024/1689. Jest: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Propozycja: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Uzasadnienie: Treść art. 73 ust. 1 wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. art. 61 ust. 2 CHAMBER Wymogi określone w art. 61 ust. 2 dla zgłoszenia poważnego incydentu zdają się nie odpowiadać jego definicji, w szczególności pkt. 4 odnosi się np. do wpływu na “inne systemy informacyjne”, co jednak nie jest objęte pojęciem “poważnego incydentu” z art. 3 pkt 49 Rozporządzenia. Sugerujemy odpowiednie dostosowanie tego przepisu tak, aby nie budziło wątpliwości że dotyczy tylko czterech przypadków enumeratywnie wymienionych w definicji. 273 Art. 61 ust. 2 Osoba fizyczna jk Wymaganie w pkt 4 podania opisu wpływu poważnego incydentu na systemy informacyjne lub świadczenie usług jest sprzeczne z listą zdarzeń podaną w definicji poważnego incydentu zawartej w rozporządzeniu 2024/1689: a) śmierć osoby lub poważny uszczerbek na zdrowiu osoby; b) poważne i nieodwracalne zakłócenie w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenie obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważna szkoda na mieniu lub poważna szkoda dla środowiska. Zatem zapis powinien być następujący: 4) opis poważnego incydentu, w tym: a) system AI, w którym doszło do zdarzenia lub zdarzeń wymienionych w art. 3 pkt 49 rozporządzenia 2024/1689, b) liczbę użytkowników, na których poważny incydent miał wpływ, c) moment wystąpienia i wykrycia poważnego incydentu oraz czas jego trwania, d) zasięg geograficzny obszaru, którego dotyczy incydent poważny, e) wpływ poważnego incydentu na systemy sztucznej inteligencji innych dostawców, f) przyczynę zaistnienia poważnego incydentu i sposób jego przebiegu oraz jego skutki, g) ocenę dotkliwości incydentu, w szczególności w odniesieniu do zdrowia i bezpieczeństwa lub praw podstawowych osób. Nie wolno bezrefleksyjnie przepisywać treści z innych ustaw, w tym przypadku z ustawy o krajowym systemie cyberbezpieczeństwa. Art. 61 ust. 2 pkt 8 Związek Banków Polskich Inne istotne informacje dotyczące zaistnienia poważnego incydentu. Propozycja brzmienia przepisu precyzuje czego dotyczą inne istotne informacje. Art. 61 ust. 4 i 5 GRAI Wątpliwości budzi takie szerokie zobowiązanie podmiotu zgłaszającego incydent do przekazywania informacji prawnie chronionych, szczególnie, że Komisja nie gwarantuje odpowiednich środków zabezpieczających takie informacje. Brak bezpiecznej, zaszyfrowanej ścieżki przekazywania, jak i zaszyfrowanego miejsca przechowywania takich informacji. Póki co, i to w wąskim zakresie Komisja ma chronić dane osobowe szczególnej kategorii, co już zostało zgłoszone wcześniej. Komisja może prosić tylko o absolutnie niezbędne informacje chronione i zapewnić odpowiednie środki ochrony zgodnie z art. 78 ust. 2 AIA. Ustawa jednak nie tylko upoważnia do przekazywania komisji znacznej części informacji chronionych (co widać w tym i innych postanowieniach projektu ustawy) to jeszcze nie wspomina wcale o środkach zabezpieczenia. Należy skupić się na takim sformułowaniu przepisów, aby absolutna niezbędność do przekazania informacji była uzasadniona a samo przekazanie i przechowywanie odpowiednio chronione. Postuluje się zatem dodanie osobnej sekcji lub postanowienia dotyczącego środków 274 zabezpieczenia, spełniających najwyższe standardy i odpowiadające najnowszym wymaganiom rynkowym w kontekście cyberbezpieczeństwa. Art. 61 ust. 4 Związek Banków Polskich Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 5 Związek Banków Polskich Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 7 Propozycja dodania przepisu Związek Banków Polskich 7. Rozdział nie ma zastosowania do podmiotów, o których mowa w art. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2554 z dnia 14 grudnia 2022 r. w sprawie operacyjnej odporności cyfrowej sektora finansowego i zmieniające rozporządzenia (WE) nr 1060/2009, (UE) nr 648/2012, (UE) nr 600/2014, (UE) nr 909/2014 oraz (UE) 2016/1011 Propozycja dodania przepisu, który wyłączy z zakresu tego rozdziału podmioty podlegające pod DORA. DORA przewiduje szerszy zakres obowiązków z obszaru zgłaszania incydentów niż projekt ustawy. Dwutorowe regulowanie tematu wydaje się mało efektywne. Art. 61 – Art. 62 Polskie Towarzystwo Informatyczne Brak wzoru formularza zgłoszenia jest tylko ogólna przytoczona lista wymogów bez odpowiedniej klauzuli RODO oraz sposobu przekazania do wskazanych instytucji tak by zabezpieczyć dane wrażliwe obu stron. 275 Sugerujemy delegację do Rozporządzenia określającego format formularza zgłoszenia oraz procedurę zgłoszenia. Niejasne, nieprecyzyjne ramy dotyczące zgłoszenia. Art. 61 - 63 Instytut Spraw Obywatelskich Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 61 - 63 Obywatelski Akcelerator Innowacji Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 62. PWPW Zgłoszenie oraz informacje, o których mowa w art. 61 ustawy, są przekazywane Komisji w postaci elektronicznej, a w przypadku braku możliwości przekazania w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji Należy wprowadzić przepisy wyraźnie wskazujące kanał zgłaszania naruszeń oraz terminy (odpowiednie). art. 63 CHAMBER Postulujemy wykreślenie art. 63 w całości lub jego zasadniczą przebudowę. Nie ma uzasadnienia dla tak szerokiej dystrybucji wszystkich zgłoszeń poważnych incydentów do wszystkich wymienionych organów. Wręcz przeciwnie - tak wrażliwe informacje powinny być rygorystycznie chronione i przekazywane innym instytucjom jedynie w przypadkach i zakresie gdy jest to niezbędne do wykonywania ich ustawowych obowiązków lub zapobieżeniu dalszym szkodom lub ograniczenie ryzyka. Co więcej - mając na uwadze horyzontalny charakter zastosowań systemów SI dobór tylko tych kilku podmiotów nie wydaje się trafny, gdyż poważny incydent (co ma zresztą wyraźne odbicie w brzmieniu jego definicji) może dotyczyć np. krytycznej infrastruktury energetycznej (o czym powinien wiedzieć np. URE i Minister właściwy ds. energetyki) czy systemów ochrony zdrowia (gdzie adresatem powinien być Minister właściwy ds. ochrony zdrowia i podległe mu agendy). Art. 63 Osoba fizyczna jk Wymieniony \"koordynator do spraw usług cyfrowych\" wymaga wyjaśnienia, kto to jest, gdzie go szukać, czy jest to koordynator w rozumieniu Digital Services Act. Rozdział 6 Krajowy Instytut Mediów Zasadność powierzenia jednemu odrębnemu organowi funkcji organu notyfikującego Wyodrębnienie dedykowanego organu odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniającyc zgodność oraz za ich monitorowanie, zagwarantuje spójność i koordynowanie działań interesariuszy rynku, ułatwiając także ich współpracę. Istotne jest, by funkcję organu nadzoru rynku oraz organu notyfikującego realizowane były poprzez niezależne od siebie organy na 276 zasadzie współpracy opartej na podziale zadań, co zapewniłoby bezstronne podejście obu rodzajów instytucji wobec wprowadzanych na rynek innowacji, a zarazem poszerzone, wieloaspektowe spojrzenie na rozwój SI, która jak się wydaje, będzie zasadniczą siłą napędową wzrostu gospodarczego. Art. 64 Polskie Towarzystwo Informatyczne Brak jasnego formularza ograniczającego możliwość subiektywnej oceny organu notyfikującego. A co jeśli certyfikacje lub notyfikacje firma uzyska na szczeblu UE lub innego kraju członkowskiego ? Określić jasny wzór wniosku celem jawności procedury. Ponadto dookreślić procedurę w przypadku uzyskania notyfikacji w innym kraju członkowskim lub na szczeblu administracji UE. Sugerujemy rozważenie delegacji w tym zakresie do Rozporządzenia. Ogólnie określone ramy notyfikacji brak jasnych precyzyjnych parametrów dotyczących notyfikacji Art. 64 Ust. 1 KIGEiT Propozycja zapisu: dodanie pierwszego zdania w ust. 1: \"Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w Art.70 Rozporządzenia 2024/1689.\" Brakuje wskazania wprost kto jest organem notyfikującym. Art. 64 ust. 3 pkt 1 GRAI Zgodnie z projektowanym art. 64 ust. 3 pkt 1 Polskie Centrum Akredytacji “we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji:”. Przepis ten nie uwzględnia szeregu kompetencji przypisanych w rozporządzeniu 2024/1689 Komisji Europejskiej i Radzie ds. AI (m.in. koordynacja, działań, opracowywanie wytycznych), które mogą mieć wpływ na treść programu akredytacji. Proponujemy przyjęcie zmiany tego przepisu i nadanie mu treści “opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji, przepisy rozporządzenia 2024/1689 wraz aktami wykonawczymi właściwe normy zharmonizowane oraz decyzje, wytyczne, zalecenia i stanowiska Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji, wydanych w ramach przysługujących im kompetencji na gruncie rozporządzenia 2024/1689:”. Art. 64 ust. 3 pkt 1 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji. 277 Zaproponowany zapis obliguje do aktualizacji programu akredytacji co 24 miesiące. Proponujemy usunięcie tego wymogu. Zaproponowany termin może być zarówno za krótki jaki i za długi. Z jednej strony projekt zakłada obowiązek takiej aktualizacji nawet jeżeli nie ma ku temu przesłanek a z drugiej strony może wystąpić sytuacja, iż program ten powinien być zmieniony szybciej. Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu; Zaproponowane podejście umożliwia bardziej elastyczne reagowanie. Art. 64 ust. 3 pkt 1 NASK Zgodnie z brzmieniem art. 64 ust. 3 pkt 1 projektu ustawy w brzmieniu: „Polskie Centrum Akredytacji (...) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji” przypisuje się Polskiemu Centrum Akredytacji (dalej: PCA) i ministrowi właściwemu do spraw informatyzacji niebagatelną rolę w kształtowaniu programu akredytacji jednostek oceniających zgodność całkowicie przy tym pomijając Komisję Europejską, European Accreditation, jak i Europejską Radę ds. Sztucznej Inteligencji (dalej: „Radę ds. AI”). Należy zwrócić uwagę, że rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) w pkt. 20 motywów sygnalizuje, jak duża rola będzie przypisana do Rady ds. AI, która „(...) powinna wspierać Komisję w promowaniu narzędzi rozwijających kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI. We współpracy z odpowiednimi zainteresowanymi stronami Komisja i państwa członkowskie powinny ułatwiać opracowywanie dobrowolnych kodeksów postępowania w celu podnoszenia kompetencji w zakresie AI wśród osób zajmujących się rozwojem, działaniem i wykorzystywaniem AI” czy w punkcie 149 „Rada ds. AI powinna odpowiadać za szereg zadań doradczych, w tym wydawanie opinii lub zaleceń oraz udzielanie porad lub udział w tworzeniu wskazówek w dziedzinach związanych z wykonywaniem niniejszego rozporządzenia, także w kwestiach egzekwowania, specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w niniejszym rozporządzeniu, jak również za udzielanie porad Komisji oraz państwom członkowskim i ich właściwym organom krajowym w konkretnych kwestiach związanych z AI.” Taki zapis, jak i inne w Akcie w sprawie sztucznej inteligencji, nie wyklucza kompetencji w zakresie kształtowania programów akredytacji, a wręcz potwierdza, że wypracowane przez nowy organ dokumenty mogą mieć duży wpływ i wręcz powinny odnajdować odzwierciedlenie również w programach akredytacji poszczególnych państw członkowskich. 278 W związku z tym należy rozważyć rozszerzenie obecnej treści art. 64 ust. 3 pkt 1 projektu ustawy o uwzględnienie w programach akredytacji również aktów wykonawczych do Aktu w sprawie sztucznej inteligencji czy też decyzji, wytycznych, zaleceń i stanowisk odpowiednio Komisji Europejskiej i jak i Rady ds. AI Europejskiej w zakresie określonym ich kompetencjami we wspomnianym wyżej Akcie; Art. 64 ust. 3 pkt 2 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowany zapis obliguje do przekazywania ministrowi właściwemu do spraw informatyzacji informacji o zmianach zakresu akredytacji. PCA proponuje aby temu obowiązkowi podlegały wyłącznie zmiany odnoszące się do zakresu niniejszej ustawy. Obserwowana jest obecnie tendencja raczej do rozszerzania zakresu akredytacji przez istniejące już jednostki certyfikujące a niekoniecznie do powstawania nowych jednostek. W konsekwencji jednostki certyfikujące są akredytowane w wielu zakresach. W ocenie PCA przekazywanie informacji o wszystkich zmianach może być interpretowane jako obowiązek przekazywania informacji o każdej zmianie w odniesieniu do każdego z zakresów np. z obszaru rolnictwa czy budownictwa. Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w tym obszarze w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowane podejście doprecyzuje zakres przekazywanych informacji i wyeliminuje możliwość przekazywania informacji zbędnych. Art. 65 ust. 1 GRAI Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. Informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d'accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. 279 Art. 66 ust. 1 i 2 Osoba fizyczna jk Art. 95 rozporządzenia 2024/1689 dotyczy kodeksów postępowania do celów dobrowolnego stosowania szczególnych wymogów. Kodeksy będą opracowywane przez zainteresowane strony, czyli poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Komisja oraz minister właściwy do spraw informatyzacji mogą jedynie zachęcać do ich opracowania i ułatwiać ich opracowanie - na wzór kodeksów postępowania opisanych w rozporządzeniu 2016/679 (RODO). Pomijając art. 95: Według zapisu ust. 1 to minister właściwy do spraw informatyzacji ma wydawać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji, zaś według zapisu ust. 2 Przewodniczący Komisji go tylko wspiera. Z kolei w uzasadnieniu projektu ustawy podano, że to Komisja będzie m.in. udostępniała w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. Czy to oznacza, że Komisja będzie robiła tylko za słup ogłoszeniowy? Jak wynika z treści OSR-u, Komisja będzie zatrudniać ekspertów z wiedzą z zakresu IT, nowych technologii i cyberbezpieczeństwa, posiadających umiejętności: identyfikowania i rozwiązywania szerokiego spectrum pojawiających się problemów w rozwoju i wykorzystaniu sztucznej inteligencji, kreatywnego rozwiązywania problemów w szybko rozwijającej się rzeczywistości informatycznej, łączenia wiedzy programistycznej z umiejętnością analizy danych przy wykorzystaniu ciągle zmieniających się nowoczesnych technologii, komunikacji, ponadprzeciętnej kreatywności, a także szerokiej wiedzy z wielu dziedzin prawa czy wyjątkowo biegłej znajomości języka obcego, w tym angielskiego. Czyli w Komisji pracować będą specjaliści. Jednak w Ministerstwie Cyfryzacji będą potrzebni kolejni specjaliści, by przygotowywać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. To oznacza dublowanie wiedzy, kompetencji i kosztów. Art. 65 ust. 2 pkt 2 GRAI Przy pierwszej akredytacji nie jest możliwe poinformowanie o cyt. “okresie ważności udzielonej akredytacji”. Sugerujemy zrezygnowanie z wymogu wskazywania okresu ważności udzielonej akredytacji. Art. 65 ust. 2 pkt 2 NASK warto rozważyć również doprecyzowanie brzmienia art. 65 ust. 2 pkt 2 w brzmieniu: „Wniosek, o którym mowa w ust. 1, zawiera co najmniej: (...) 2) określenie okresu ważności udzielonej akredytacji jak również jej numeru wraz z oznaczeniem certyfikatu akredytacji.” Przepis w obecnym brzmieniu może wprowadzać w błąd i warto dookreślić, że chodzi o okres ważności i certyfikat akredytacji ukonstytuujący jednostkę oceniającą zgodność jako taki podmiot. W chwili obecnej mogą pojawić się pewne wątpliwości interpretacyjne stąd warto dookreślić brzmienie przywołanego artykułu; 280 Art. 65 ust. 3 pkt 2 i pkt 3 GRAI Zgodnie z projektowaną treścią do wniosku w sprawie notyfikacji jednostki oceniającej zgodność załącza się co najmniej “dokumenty potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689”. Treść art. 31 tego rozporządzenia nie zawiera jednak zamkniętego, jednoznacznego katalogu wymogów, które mogłyby zostać wykazane określonymi dokumentami. Część z nich jest możliwa do wykazania, ale inne (np. niezależność od dostawców systemów AI już nie. W takich przypadkach dowody z dokumentów (np. wydruk z rejestru przedsiębiorców KRS) mogą co najwyżej być dokumentem uprawdopodabniającym, a nie stanowiącym dowód wykazujący te okoliczności wprost. Dlatego, jak zakładamy, projektodawca dodał pkt 3) zakładający możliwość złożenia deklaracji o spełnieniu wymogów, o których mowa w ww. art. 31. Należy jednak wskazać, że zgodnie z art. 29 ust. 3 ww. Rozporządzenia jednostka oceniająca zgodność przekazuje dokumenty stanowiące dowód na spełnienie wymogów z art 31 rozporządzenia, jeśli nie posiada certyfikatu akredytacji. Projektowany przepis pomija zatem treść art. 29 ust. 3 ww. rozporządzenia. Proponujemy zmianę ust. 3 art. 65 poprzez przyjęcie treści: “3. Do wniosku, o którym mowa w ust. 1 stosuje się art. 29 ust. 2 - 4 rozporządzenia 2024/1689, z zastrzeżeniem art. 32 ww. rozporządzenia. W przypadkach obiektywnego braku możliwości przedłożenia dokumentów potwierdzających spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689, dopuszcza się złożenie deklaracji o spełnieniu tych wymogów.”. Do rozważenia jest wskazanie przykładowego katalogu okoliczności, które mogą być przedmiotem deklaracji. Art. 66 ust. 1 – 3 GRAI Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Nadanie następującego brzmienia ust. 1: “1. Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.”. Usunięcie ust. 2, a ust. 3 zmieni numerację na “2”. W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 14 w ust. 1 art. 11 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Art. 66 ust. 1 GRAI Do rozważenia dodanie przepisu mówiącego o tym, że ,,rekomendacje” mogą podlegać okresowej aktualizacji (analogicznie jak w art. 53 ustawy o ochronie danych osobowych ). 281 Art. 66 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Obowiązek informacyjny ministra właściwego ds. informatyzacji (art. 66 ust. 1) Proponujemy zmianę zapisu: Jest: Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Zmiana: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie zmiany: a. Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki b. Informacja powinna trafić do Komisji, natomiast przekazywanie jej do Rady Ministrów wydaje się być w tej formie przedwczesne c. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Art. 66 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Art. 95 Rozporządzenia 2024/1689 odnosi się do kodeksów dobrych praktyk (tzw. kodeksy postępowania), które mogą być też tworzone przez różne organizacje jak i same podmioty stosujące AI. Zatem niezrozumiałe jest, aby Minister właściwy ds. informatyzacji wydawał „rekomendacje najlepszych praktyk”, tym bardziej że Komisja może wydawać interpretacje w świetle projektowanych przepisów. W związku z powyższym, rekomendujemy usunięcie art. 66 w obecnym kształcie. Art. 66 ust. 1 Fundacja FinTech Poland Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki. Informacja powinna trafić do Komisji, natomiast przekazywanie 282 jej do Rady Ministrów wydaje się być w tej formie przedwczesne. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Postulowane brzmienie przepisu: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. art. 66 ust 1 i 2 CHAMBER Nie jest jasne, dlaczego projekt ustawy w art. 66 ust 1 i 2 powierza zadania związane ze wsparciem dla powstawania kodeksów postępowania Ministrowi właściwego ds. informatyzacji. Wydaje się, że to Komisja powinna pełnić tutaj rolę wiodącą, ewentualnie ze wsparciem Ministra (czyli odwrotnie, niż przewiduje ust. 2). Co więcej - art. 91 Rozporządzenia nie przewiduje kompetencji do “wydawania rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”, a wymaga, aby organy państwa “zachęcały” i “ułatwiały” powstawanie kodeksów dobrych praktyk. Art. 66 ust. 3 Instrat – Fundacja Centrum Cyfrowe Art. 66 ust. 3 Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Jesteśmy zdania, że ust. 3 art. 66 oraz kolejne przepisy w tej sekcji odbiegają znacznie od tytułu Rozdziału 6 brzmiącego “Jednostki notyfikowane i procedura notyfikacyjna”. Rekomendujemy więc zmianę tytułu na “Procedura notyfikacyjna i obowiązki informacyjne”. Art. 67 Związek Cyfrowa Polska Zgłaszanie poważnych incydentów. Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do 283 systemów wysokiego ryzyka. Także motyw 78 AI Act, odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym obowiązku w tym zakresie, powinny zostać zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 67 ust. 2 GRAI Przepis zawiera błąd - zamiast „zdarzenie” wyczerpujące znamiona przestępstwa przepis powinien wskazać na „czyn” wyczerpujący znamiona przestępstwa. Powinna nastąpić zmiana używanych pojęć. Art. 67 ust. 2 NASK w treści art. 67 ust. 2 projektu ustawy w brzmieniu: „Minister właściwy do spraw informatyzacji przekazuje informacje, o których mowa w ust. 1, organom ścigania w związku ze zdarzeniem wyczerpującym znamiona przestępstwa” należy rozważyć zmianę słowa „zdarzenie” i zastąpienie go słowem „czyn”. Warto zachować spójność z nomenklaturą używaną w prawie karnym, gdzie mówiąc o wyczerpaniu znamion przestępstwa mówimy o czynie, a nie o zdarzeniu. Art. 68 GRAI Norma kompetencyjna z art. 12 projektu ustawy o systemach oceny zgodności i nadzoru rynku powinna zostać dookreślona względem specyfiki rozporządzenia 2024/1689. Propozycja nadania następującego brzmienia art. 68: “Art. 68. W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych niniejszą ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. Ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje lub rozporządzenia wykonawcze Komisji Europejskiej, interpretacje generalne wydawane przez Komisję.” Art. 68 ust. 1 GRAI Projektowany przepis przyznaje ministrowi właściwemu do spraw informatyzacji kompetencję do określenia wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. Prawidłowa jednostka redakcyjna to ust. 3 tego przepisu. Rekomendujemy zmianę na: “1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. Art. 68 ust. 1 i 2 GRAI Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek ministra cyfryzacji. Rekomendujemy, że w odniesieniu do art. 69 ust. 1 i 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. 284 Art. 69 CHAMBER Do art. 69 odnoszą się mutatis mutandis uwagi wskazane powyżej w stosunku do art. 40 projektu, dotyczące np. nieprawidłowego odesłania do przepisów Rozporządzenia. Art. 69 ust.1 PIIT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Art. 69 ust.1 KIGEiT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Uwaga ogólna Fundacja FinTech Poland Przepisy karne i przepisy administracyjne powinny być wyraźnie oddzielone. Uwaga ogólna do rozdziału 7 Osoba Fizyczna mk W rozdziale 7 Ustawy (Przepisy o administracyjnych karach pieniężnych i przepisy karne) nie są wprost wymienione kary za brak zgłoszenia, niepełne zgłoszenie, spóźnione zgłoszenie lub inne niedochowanie obowiązków związanych ze zgłoszeniem poważnego incydentu przez dostawcę systemu sztucznej inteligencji, jak omówiono w rozdziale 5 Ustawy (Zgłaszanie poważnych incydentów). Uwaga ogólna do rozdziału 7 British Polish Chamber of Commerce (BPCC) Wśród przepisów regulujących sposób nakładania, odroczenia czy umarzania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji kar za naruszenia Aktu o Sztucznej Inteligencji, brakuje naszym zdaniem zapisu określającego termin przedawnienia naruszeń podlegających karze. Bez takiego zapisu brakuje ograniczenia czasowego od stosowania sankcji Rozdział 7 Związek Cyfrowa Polska Egzekucja kar finansowych. Rozdział 7 Projektu ustawy reguluje zagadnienia związane z nakładaniem i egzekucją administracyjnych kar pieniężnych, przy czym częściowo regulacja ta odbiega od ogólnych zasad wynikających z KPA: Przepisy dot. odstąpienia od nałożenia oraz ulgi w zakresie wykonania administracyjnej kary pieniężnej. Ustawodawca wyłączając stosowanie art. 189 f KPA (art. 76 Projektu) znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 Projektu (art. 70 ust. 4 Projektu) – jest to 285 nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 Projektu. Termin uiszczenia kary pieniężnej. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzdniego roku obrotowego), sugerujemy wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 Projektu), co najmniej do 30 dni. Przede wszystkim jednak konieczne jest wykreślenie możliwości nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74 Projektu). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Art. 70 Open AI Devs Community Proporcjonalność kar. Postulujemy wprowadzenie do art. 70 projektu ustawy następujących modyfikacji: • Uzależnienie wysokości kar od wielkości podmiotu i skali naruszenia; • Wprowadzenie górnego limitu kar dla MŚP i indywidualnych deweloperów; • Rozszerzenie katalogu okoliczności łagodzących. Art. 70 PIIT Art. 70. 1. Komisja może nałożyć na operatora, w przypadkach określonych w art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. 286 Art. 70 GRAI W przypadku małych i średnich przedsiębiorstw (MŚP) oraz startupów, organ nakładający karę stosuje niższą z dwóch wartości: kwoty określonej w euro, lub wartości procentowej całkowitego rocznego światowego obrotu zależnie od wagi naruszenia określonego w AI Act. Określenie, że organ nakładający karę stosuje w przypadku MŚP niższą z dwóch wartości. Brak regulacji dotyczących nakładania administracyjnych kar pieniężnych w odniesieniu do organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689 “Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne.” Nasza ustawa nie odnosi się do tego, a jednocześnie zaproponowany w art. 70 ustawy zapis szeroko określa krąg podmiotów, na które będą mogły być nakładane kary. Koniecznym jest uregulowanie “czy i w jakim zakresie administracyjne kary pieniężne można nakładać na organy i podmioty publiczne”. Wymaga to również określenia wysokości kary pieniężnej jaka może być nakładana na taki podmiot. A jeśli intencją projektodawcy było stosowanie takich samych reguł w zakresie organów i podmiotów publicznych należy to wskazać w uzasadnieniu. Art. 70 KIGEiT Rekomendacja: Zróżnicowanie kar na podstawie wielkości podmiotu: \"Wysokość kar za naruszenie przepisów zostanie dostosowana do wielkości podmiotu oraz charakteru naruszenia. Komisja, przed nałożeniem kary, będzie zobowiązana do wydania ostrzeżenia oraz zaleceń naprawczych, a kary będą mogły być nałożone dopiero po upływie terminu na ich wdrożenie. Przedsiębiorstwa będą mogły ubiegać się o rozłożenie kary na raty lub jej częściowe umorzenie, jeśli wykażą znaczną poprawę w działaniach zgodnych z przepisami.\" Art. 70 (Administracyjne kary pieniężne) przewiduje nakładanie kar za naruszenia przepisów. Warto, aby przepisy były bardziej proporcjonalne i elastyczne w stosunku do mniejszych graczy rynkowych. To umożliwi mniejszym firmom dostosowanie się do przepisów bez ryzyka bankructwa, co może wynikać z nałożenia wysokich kar administracyjnych. Art. 70 ICC Poland Projekt przewiduje możliwość nałożenia przez Komisję, w drodze decyzji, administracyjnej kary pieniężnej na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Zgodnie z art. 70 ust. 1 Projektu, Komisja może nałożyć taką karę na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689. Jak wynika z uzasadnienia Projektu (s. 17), Projekt zakłada możliwość nałożenia kary na podmioty zarówno z sektora prywatnego, jak i 287 publicznego. Projekt nie precyzuje jednak, czy możliwość nałożenia administracyjnej kary pieniężnej dotyczy także organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689, każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. Również ten przepis zacznie być stosowany od 2 sierpnia 2025 r. Regulacje rozdziału 7 Projektu wymagają zatem w tym zakresie doprecyzowania lub uzupełnienia. Art. 70 ust. 1 KIGEiT Propozycja zapisu: Art. 70. 1. Komisja może w przypadkach określonych w Art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w Art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w Art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 Art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń Art. 5, czyli ust. 3 Art.99. Art. 70 ust. 4 PWPW Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Proponujemy wskazać, że Komisja odstępuje a nie może odstąpić. Jeżeli wydano ostrzeżenie i podmiot się do niego zastosował oraz nie było szkody dla interesu społecznego, to Komisja powinna odstąpić od kary. Arbitralność decyzji Komisji w tej sytuacji jest niezrozumiała - dlaczego nadal Komisja może nałożyć karę jeżeli wcześniej wydała ostrzeżenie które zostało uwzględnione. Skutkiem tego będą sytuacje, w których podmioty nie będą wiedziały czy zastosowanie się do ostrzeżenia ochroni je przed karą, osłabia to zatem instytucję ostrzeżenia. Art. 70 ust. 4 KIGEiT Propozycja zapisu: Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w Art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. 288 Dodatkowa przesłanka poza Art. 99 ust. 7 AI Act. Art. 71 PIIT Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Wydłużenie terminu - analogicznie jak w uodo. Art. 71 KIGEiT Propozycja zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w Art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. , Wydłużenie terminu - analogicznie jak w uodo. Art. 72 KIGEiT Art. 72. Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. , Dobrze byłoby, aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic regulacyjnych, co wpisywałoby się w cel regulacji jakim jest wspieranie innowacji. Art. 72 GRAI Uwaga redakcyjna Po słowie ,,Środki” dodaje się słowo ,,finansowe”. Art. 73 PIIT art. 73.1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 Osoba fizyczna mk Artykuł 99 rozporządzenia 2024/1689 nie odwołuje się wprost do artykułu 73 tegoż rozporządzenia, który opisuje obowiązki dostawców systemów sztucznej inteligencji dotyczące zgłaszania poważnych incydentów. Do artykułu 73 nie odwołuje się również artykuł 16 rozporządzenia 2024/1689, który szerzej opisuje obowiązki dostawców systemów sztucznej inteligencji, a którego naruszenie stanowi podstawę do nałożenia kary w myśl artykułu 99, punkt 4a. 289 Co za tym idzie, istnieje ryzyko, że artykuł 99 rozporządzenia 2024/1689 nie stanowi samodzielnie wystarczającej podstawy do wymierzania kar dla dostawców systemów sztucznej inteligencji w przypadku niedochowania obowiązków związanych ze zgłaszaniem poważnych incydentów. W konsekwencji, samo powołanie się w rozdziale 7 Ustawy (Art. 70) na artykuł 99 rozporządzenia 2024/1689, jako na podstawę do wymierzania kar, może okazać się niewystarczające w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z artykułu 73 rozporządzenia 2024/1689 lub rozdziału 5 Ustawy. Ponieważ ani artykuł 99 rozporządzenia 2024/1689 ani również Ustawa nie określają wprost kar za niedochowanie przez dostawców systemów sztucznej inteligencji obowiązków związanych ze zgłaszaniem poważnych incydentów, istnieje ryzyko wystąpienia luki prawnej, w ramach której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie mogła nakładać kar w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z rozdziału 5 Ustawy. W rezultacie te przepisy mogą okazać się martwe. Wskazane jest uzupełnienie rozdziału 7 ustawy o odpowiedni zapis likwidujący możliwość wystąpienia wyżej opisanej luki. Art. 73 ICC Poland Artykuł 73 ust. 1 Projektu przewiduje, że administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Biorąc pod uwagę wysokie limity kar za naruszenie przepisów rozporządzenia 2024/1689, sięgające nawet 35 milionów euro lub 7% całkowitego rocznego światowego obrotu, 14-dniowy termin wydaje się terminem zbyt krótkim. Przedsiębiorcy mogą mieć trudności z zebraniem tak dużych środków pieniężnych w tak krótkim czasie, co może wywołać daleko idące negatywne konsekwencje dla prowadzonej przez nich działalności. Warto rozważyć wydłużenie tego terminu. Art. 73 Związek Cyfrowa Polska Ograniczone możliwości odwołania się i wysokie kary, które stwarzają ryzyko finansowe dla przedsiębiorstw wykorzystujących sztuczną inteligencję (art. 73 Projektu). Ograniczona możliwość odwołania się od decyzji, krótkie terminy płatności kar oraz natychmiastowa wykonalność kar mogą poważnie wpłynąć na przepływy pieniężne i operacje przed rozpatrzeniem odwołań. Art. 73 ust. 1 GRAI I. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego), wyznaczenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 projektu) jest zbyt krótkie. II. Zbędne opisowe określanie stanu uprawomocnienia się decyzji. I. Zmiana zaproponowanego terminu „14 dni” na dłuższy termin, np. „90 dni”. II. Słowa “upływu terminu na wniesienie odwołania albo od dnia uprawomocnienia się orzeczenia sądu” zastępuje się słowami “uprawomocnienia się decyzji w przedmiocie jej nałożenia”. 290 Propozycja brzmienia przepisu: „1. Administracyjną karę pieniężną uiszcza się w terminie 90 dni od dnia uprawomocnienia się decyzji w przedmiocie jej nałożenia.”. Art. 73 ust. 1 KIGEiT Propozycja zapisu: Art. 73 .1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji , Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy wydłużenie terminu do 30 dni. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o uwzględnienie możliwości wniesienia zażalenia na przedmiotowe postanowienie. Art. 73 ust. 8 PIIT art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 KIGEiT Propozycja zapisu: Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 NRA Art. 73 ust. 8 Projektu nie rozstrzyga kwestii kluczowej dla ochrony prawnej podmiotów, a mianowicie właściwości organu uprawnionego do rozpatrzenia środka odwoławczego od 291 postanowienia dotyczącego odroczenia terminu płatności lub rozłożenia na raty administracyjnej kary pieniężnej, które zgodnie z art. 73 ust. 2 Projektu ma być wydawane przez Komisję. Brak jednoznacznych regulacji w Projekcie może rodzić wątpliwości czy odwołanie od tego rodzaju postanowienia winno być wniesione do SOKiK, czy też w pierwszej kolejności podlegać rozpoznaniu przez samą Komisję w trybie ponownego rozpatrzenia sprawy (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a.), a dopiero następnie, w przypadku negatywnego rozstrzygnięcia, skierowane do sądu administracyjnego. Dla zapewnienia przejrzystości procedur odwoławczych oraz zagwarantowania pewności prawa dla stron takiego postępowania zasadne byłoby jednoznaczne uregulowanie tego zagadnienia w przepisach Projektu. W razie wyboru właściwości SOKiK dla rozstrzygania zażaleń na wspomniane postanowienia należy stosowne przepisy dodać także do nowelizowanego k.p.c., aby zapewnić spójność oraz transparentność procedury w omawianym zakresie. Art. 74 CHAMBER W art. 74 należy restrykcyjnie i ściśle zdefiniować przypadki, w których Komisja może nadać decyzji rygor natychmiastowej wykonalności. Obecne kryterium “ważnego interesu” nie wskazuje nawet o jaki i czyj interes wchodzi. Tak inwazyjne i potencjalnie destrukcyjne dla adresatów środki powinny być podejmowane w ostateczności i jedynie w szczególnie uzasadnionych przypadkach. Art. 74 ITCORNER Mając na uwadze to, jak ogromne kary za naruszenie przewiduje AI Act (do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - proponujemy wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 PWPW Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. 1) Wnosimy o wskazanie zakresu art. 74, czy dotyczy decyzji o karze, czy decyzji o udzieleniu ulgi, o której mowa w art. 73 ust. 9 (być może to będzie decyzja – bo nie wiadomo jaką formę przyjmie udzielenie ulgi). Jeżeli ten przepis ma dotyczyć decyzji o nałożeniu kar to należy doprecyzować przesłanki nałożenia dodatkowego rygoru. Powinny mieć one charakter konkretny i zawężający. 10 292 2) Ponadto wnosimy o doprecyzowanie sformułowania „ważny interes”. Art. 74 Związek Banków Polskich Art 74. Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Proponujemy skreślenie lub doprecyzowanie. O ile przepis miałby pozostać wymaga skorelowania z art. 73 ust. 1 oraz wprowadzenia trybu odwoławczego od rygoru. Szczątkowa regulacja rygoru – nie jest jasne o jaki ważny interes chodzi. Jednocześnie, nie opisano zależności z art. 73 ust.1 oraz nie wskazano możliwości zaskarżenia rygoru. Art. 74 NRA Art. 74 Projektu przewiduje zbyt szerokie uprawnienie dla Komisji w zakresie nadania rygoru natychmiastowej wykonalności decyzji o administracyjnych karach pieniężnych, warunkując je w zasadzie samym czynnikiem wystąpienia sytuacji, gdy przemawia za tym „ważny interes”. Wprowadzenie takiej szczególnej przesłanki jak w art. 74 Projektu prowadziłoby do rozszerzenia ogólnych zasad nadawania decyzjom rygoru natychmiastowej wykonalności (określonych w art. 108 k.p.a.) na podstawie przesłanki, cechującej się wyjątkowo ogólnikowym charakterem, co mogłoby z kolei skutkować nadużyciami, jako że nie wprowadza ona obowiązku uwzględnienia zasady proporcjonalności, tak istotnej dla ochrony praw jednostki. Tak więc przepis ten wymaga doprecyzowania w sposób, który ograniczy nadanie rygoru natychmiastowej wykonalności do sytuacji, gdy działanie takie okaże się rzeczywiście niezbędne. Dodanie takiego wymogu nie tylko umocniłoby gwarancje ochronne wobec podmiotów podlegających decyzji, ale również zapewniło zgodność z konstytucyjną zasadą ochrony wolności i klauzulą limitacyjną ograniczania wolności i praw konstytucyjnych, przewidzianą w art. 31 ust. 3 Konstytucji RP. Art. 74 ICC Poland Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, „jeżeli wymaga tego ważny interes”. Projektowana regulacja jest nieprecyzyjna, gdyż nie wskazuje czyjego ważnego interesu dotyczy projektowany przepis. Pozostawienie projektowanego przepisu bez zmian skutkowałoby bardzo dużą dyskrecjonalnością Komisji w ocenie, czy taki „ważny interes” zachodzi, co może rodzić niepewność prawną po stronie przedsiębiorców lub innych podmiotów objętych zakresem zastosowania ustawy. Dlatego też rekomendujemy rozważenie całkowitego usunięcia tego przepisu z Projektu, bądź jego dalsze doprecyzowanie. Art. 74 PIIT Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes – w kontekście kar pieniężnych przepis zbyt arbitralny i uznaniowy; jaki byłby ważny interes w nałożeniu kary finansowej. Art. 74 KIG Przepis bezwzględnie należy doprecyzować, ponieważ taka redakcja narusza fundamentalne zasady państwa prawa. Projektodawca nie wskazał czyj ważny interes upoważnia Komisję do nadania decyzji rygoru natychmiastowej wykonalności. Ponadto tak radykalne działanie nie może być oparte na całkowicie uznaniowych przesłankach, dlatego Projektodawca powinien co najmniej zasugerować przykładowy katalog przesłanek, które uważa za ważny interes. 293 Art. 74 GRAI Ponadto, powinna być wykreślona możliwość nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Jeśli nie zostanie uwzględniony postulat rezygnacji z przepisu – należy wskazać, że w przepisie nie określono warunków nadania decyzji rygoru natychmiastowej wykonalności, co może skutkować za dużym uprawnieniem dyskrecjonalnym organu. Do rozważenia przeredagowanie art. 74 lub zrezygnowanie z tej regulacji. Art. 74 Polski związek zarządzania wierzytelnościami Art. 74 Projektu AI Act przewiduje bardzo wysokie kary za naruszenie regulacji (nawet do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - z tego względu w interesie przedsiębiorstw, w tym rzecz jasna podmiotów branży zarządzania wierzytelnościami, byłoby wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 Fundacja FinTech Poland Przepis art. 74 nie precyzuje, jaki dokładnie interes uzasadnia nadanie decyzji rygoru natychmiastowej wykonalności, co rodzi istotne wątpliwości interpretacyjne. Pojęcie „ważny interes” jest niejasne i może być rozumiane bardzo szeroko. Brak sprecyzowania, czy chodzi o interes społeczny, interes publiczny, interes prywatny strony postępowania, interes innego przedsiębiorcy, czy może interes pokrzywdzonego, pozostawia zbyt dużą swobodę interpretacyjną Komisji. Taka nieprecyzyjność może prowadzić do sytuacji, w której rygor natychmiastowej wykonalności będzie nadawany na podstawie różnych, subiektywnie ocenianych przesłanek. Może to osłabić poczucie bezpieczeństwa prawnego i zaufania do 294 organu, który posiada możliwość natychmiastowego egzekwowania swojej decyzji. Dla przejrzystości i ochrony interesów wszystkich stron, warto, aby ustawodawca określił, czy nadanie rygoru dotyczy: interesu publicznego lub społecznego – np. gdy natychmiastowa wykonalność decyzji ma na celu ochronę zbiorowych praw konsumentów czy zapobieżenie szkodom o szerokim zasięgu; czy interesu prywatnego strony lub pokrzywdzonego – np. w sytuacji, gdy zwłoka w wykonaniu decyzji mogłaby doprowadzić do trudnych do naprawienia szkód dla konkretnej osoby lub podmiotu. Wprowadzenie bardziej szczegółowych kryteriów lub wskazanie, jaki typ interesu ma być chroniony, zapewniłoby większą klarowność przepisu i ograniczyłoby ryzyko nadużyć oraz dowolności w stosowaniu rygoru natychmiastowej wykonalność Art. 75 GRAI Propozycja, aby sprawy odwołań od decyzji i zażaleń na postanowienia nie były rozpatrywane przez SOKiK, lecz przez Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Posiada on większą wiedzę i doświadczenie w zakresie programów komputerowych niż SOKiK. Rozważenie zmiany właściwego sądu. Art. 75 ICC Poland Projekt przewiduje w art. 75 ust. 1, że od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługiwać ma odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Na aprobatę zasługuje powierzenie tego rodzaju spraw sądowi okręgowemu. Natomiast samo uzasadnienie Projektu nie zawiera wyjaśnienia dla decyzji projektodawcy o wyborze sądu ochrony konkurencji i konsumentów jako sądu, który miałby zajmować się odwołaniami od decyzji Komisji (art. 57 ust. 1 Projektu) oraz odwołaniami od decyzji w sprawie nałożenia administracyjnej kary pieniężnej (art. 75 ust. 1 Projektu). Biorąc pod uwagę przedmiot regulacji rozporządzenia 2024/1689, tj. regulację wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej, warto rozważyć powierzenie spraw sądowi wyspecjalizowanemu w sprawach programów komputerowych, który będzie mieć odpowiedni poziom wiedzy technicznej. Zgodnie z art. 47990 §1 i § 2 Kodeksu postępowania cywilnego7, sprawy własności intelektualnej należą do właściwości sądów okręgowych, a Sąd Okręgowy w Warszawie jest wyłącznie właściwy w sprawach własności intelektualnej dotyczących m.in. programów komputerowych oraz tajemnic przedsiębiorstwa o charakterze technicznym. Warto zatem dokonać pogłębionej analizy, który z istniejących sądów mógłby zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 75 ust. 2 GRAI Zrównać brzmienie z art. 57 ust. 2 Art. 76 GRAI Wyłączenie stosowania art. 189f KPA znacząco ograniczy możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku niezastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 (art. 70 ust. 4) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania 295 art. 189k KPA, nie jest w pełni jasne, jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9. Podobny przepis tj. wyłączenie ogólnych przepisów KPA dot. ulg. i odstąpienia od kary wywołał sporo legislacyjnych dyskusji przy ustawie PNR. Art. 76 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów aktu w sprawie sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 76 projektu ustawy o AN). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów aktu w sprawie sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k $ 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k$ 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k $ 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k $ 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 73 ust. 2-8 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII aktu w sprawie sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów aktu w sprawie sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom aktu w sprawie sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. 296 W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 76 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 76 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k $ I pkt. I ustawy z dnia 14.06.1960 r.- Kodeks postępowania cywilnego. ”. Art. 76 Art. 77 PWPW W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania Administracyjnego. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Poprosimy o doprecyzowanie poprzez wskazanie, że do decyzji o nakładaniu kar stosuje się rozdział kodeksu postępowania administracyjnego (k.p.a.) dot. nakładania kar – z wyłączeniem ww. przepisów. A także czy Sąd Okręgowy – będzie oceniał zastosowanie przepisów ustawy w związku z przepisami kpa w ramach prowadzenia postępowania na gruncie przepisów Kodeksu postępowania cywilnego. Dodatkowo należy zauważyć, że tam gdzie nie będzie stosownych przepisów – zastosowanie będą miały przepisy ustawy - Ordynacja podatkowa. Wskazana regulacja budzi poważne wątpliwości w zakresie wykładni przepisów prawa i poprawności legislacyjnej. Ponadto stanowi to nieprzejrzystą regulacje i niesie duże ryzyka dla podmiotów. Wskazane w art. 76 przepisy kpa mają na celu zapewnienie, że wymierzone kary będą proporcjonalne do skutków czynów. W związku z powyższym nie powinny być wyłączane Art. 77 PIIT Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). 297 * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Art. 77 KIGEiT Propozycja zapisu: Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie Art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. , Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. art. 78 CHAMBER Zupełnie niezrozumiałe jest stypizowanie w art. 78 utrudniania kontroli jako przestępstwa (sic!) zagrożonego karą pozbawienia wolności do lat dwóch (sic!). Nie jest w żaden sposób uzasadnione, aby utrudnianie kontroli akurat systemów sztucznej inteligencji było uznane za czyn aż tak bardzo społecznie szkodliwy, wielokrotnie bardziej niż np. utrudnianie kontroli celno- skarbowej, co zagrożone jest jako wykroczenie jedynie karą grzywny do 720 stawek dziennych (zob. art. 94 kodeksu karno-skarbowego). Ta sama uwaga dotyczy art. 79. Postulujemy sprowadzenie kar w tych przepisach do poziomu analogicznego do kar za utrudnianie kontroli przez inne organy. Art. 78 Fundacja FinTech Poland Przepis w obecnym kształcie stanowi ryzyko dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy wprowadzenie gradacji kar, poprzez zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia oraz wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI Act lub skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. 298 Rekomendujemy precyzyjne określenie czynu zabronionego poprzez wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Proponujemy wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Rekomendujemy wzmocnienie roli postępowania wyjaśniającego. Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78 i Art. 79 PIIT Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i 79 KIGEiT Propozycja zapisu: Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich 299 posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. , Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i Art. 79 Związek Cyfrowa Polska Sankcje karne. Te przewidziane w Projekcie ustawy (art. 78 i art. 79) nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji; ich wprowadzenie stoi również w kontrze z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju technologii innowacyjności, w zakresie sztucznej inteligencji. Sankcji karnych. Przewidziane w Projekcie ustawy (art. 78 i art. 79) sankcje karne nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 78 i Art. 79 Związek Pracodawców Technologii Cyfrowych Lewiatan Wysokość kary nakładanej na osobę (art. 78 i 79) Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy zweryfikować ten zapis i np. skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. Kary ograniczenia wolności (art. 78 i 79) Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78. 1 PIIT Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli – tu należałoby możliwość nałożenia sankcji ograniczyć do podmiotu kontrolowanego art. 79 j.w. Art. 78 ust. 1 Związek banków Polskich Przepis w obecnym kształcie stanowi zagrożenie dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących 300 przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Propozycja do zasygnalizowania: Wprowadzenie gradacji kar: Zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia. Wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI ACT. Precyzyjne określenie czynu zabronionego: Wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Wzmocnienie roli postępowania wyjaśniającego: Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Art. 78 ust. 1 i art. 79 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż wysokość grzywny jest zbyt wygórowana. Wskazujemy, iż zakresem stosowania przedmiotowej ustawy objęte są różne podmioty, także mniejsze przedsiębiorstwa, w tym start- upy. Postulujemy obniżenie tej wartości min. o 50%. Art. 78 ust 2 PZPPF Art. 78 ust. 2 przewiduje karę grzywny w wysokości do 500 000 PLN, karę ograniczenia wolności albo karę pozbawienia wolności do lat dwóch, w przypadku gdy przedsiębiorca nie dostarczy danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarczy dane, które uniemożliwią ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Podczas gdy jednocześnie art. 71 ust. 2 określa, że w takich sytuacjach Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. W takim brzmieniu projektu ww. karę należy ocenić jako niewspółmierną wobec charakteru opisanego naruszenia oraz jego potencjalnego wpływu na postępowanie. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie lub co najmniej obniżenie ww. kary. 301 Art. 78 ust. 2 NRA Art. 78 ust. 2 Projektu stanowi o odpowiedzialności karnej za niedostarczenie danych albo dostarczenie danych uniemożliwiających ustalenie podstawy wymiaru administracyjnej kary pieniężnej w toku postępowania dotyczącego jej nałożenia, przewidując karę grzywny, ograniczenia wolności, a także karę pozbawienia wolności do lat dwóch. Przepis ten zatem, na gruncie prawa karnego, jako wprowadzający nowy typ czynu zabronionego, powinien być adresowany wyłącznie do osób fizycznych, co jednoznacznie wynika z ogólnych zasad odpowiedzialności karnej, ustanowionych w Kodeksie karnym (art. 116 k.k.). Z kolei równolegle przepis z art. 71 ust. 1 Projektu nakłada obowiązek dostarczenia wymaganych danych na „podmiot” objęty regulacją z art. 70 ust. 1 Projektu, czyli jednostkę zobowiązaną do przestrzegania postanowień rozporządzenia 2024/1689, co odnosi się także do osób prawnych. Tym samym przepis z art. 78 ust. 2 Projektu niejako nie rozróżnia osób fizycznych i prawnych, co prowadzi do nieścisłości interpretacyjnej w zakresie odpowiedzialności karnej za niedopełnienie obowiązku dostarczenia danych. Dla uniknięcia niespójności oraz zapewnienia jasności co do zakresu obowiązków i odpowiedzialności karnej zaleca się, aby zmodyfikować treść przepisu z art. 78 ust. 2 Projektu w ten sposób, aby jednoznacznie określał, że obowiązki z tego przepisu mogą obciążać wyłącznie osoby fizyczne. Art. 79 Fundacja FinTech Poland Grzywna w prawie karnym wymierzana jest w oparciu o stawki dzienne. Jest to iloczyn stawki dziennej w ustalonym wymiarze i liczny ustalonej przez Sąd. Art. 80 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejne przykłady niechlujnego redagowania przepisów projektu ustawy o AI odnajdujemy w art. 80 pkt. 2 projektu ustawy o AI: a/ w dodawanym do k.p.c. art. 47955* opuszczono oznaczenie $ 1 w przypadku zdania pierwszego wprowadzanego tąże regulacją, b/ w dodawanym do k.p.c. art. 479*** w jego zdaniu pierwszym, które winno posiadać oznaczenie $ 1 błędnie wpisano, iż odwołanie od decyzji Komisji wnoszone do SOKiK za pośrednictwem Komisji wnoszone jest za „jego pośrednictwem”, zamiast za „jej pośrednictwem”, bo póki co to nic nam nie wiadomo by rzeczownik „Komisja”” według reguł językowych stał się rzeczownikiem rodzaju męskiego w miejsce dotychczasowego rodzaju żeńskiego, c/ z kolei w dodawanym do k.p.c. art. 479? $ 1 opuszczono słowo „„stronami” po słowach „rozporządzenia 2024/1689”, a przed słowami „są także”. Art. 80 KIGEiT Propozycje zapisu: Art. 47988e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji , Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. 302 Art. 83 ust. 1 KIGEiT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 Związek Banków Polskich Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Poprawa literówki: „od” zamiast „id”. Art. 84 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejny przykład niechlujnego przygotowania projektu ustawy o AI odnajdujemy w art. 84 ust. 5 projektu ustawy o AI, gdzie w miejsce sformułowania „od dnia wejścia w życie ustawy” termin jest liczony „id dnia wejścia w życie ustawy”. M/ Również w uzasadnieniu projektodawca nie ustrzegł się uchybień w sferze staranności w przygotowaniu projektu, skoro już w drugim wersie od góry na drugiej stronie uzasadnienia po słowach „W dniu 2 lutego 2025 r.” opuszcza literę „w”. N/ Z kolei w 14 wersie od góry na przedostatniej stronie uzasadnienia w pierwszym zdaniu poświęconym omówieniu regulacji rozdziału 9 po słowach „w terminie 7”, a przed słowami „od wejścia w życie ustawy” opuszczono słowo „dni” pozwalające na ostateczne określenie terminu ogłoszenia o rozpisaniu konkursu na stanowisko Przewodniczącego Komisji. Kierując się względami dbałości o staranność w przygotowaniu projektu tego rodzaju uchybienie także chwały projektodawcy raczej przynieść nie może. Art. 84 ust. 1 KIGEiT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art.5 projektowanej ustawy. Art. 87 ust. 1 Związek Banków Polskich Budżet KRIBSI powinien być znacząco wyższy i oscylować wokół wartości co najmniej 150% wyższych niż założone dla lat 2026-2035. W każdym roku limit wydatków powinien także rosnąć – z uwagi na inflację oraz bardzo prawdopodobny wzrost adopcji i poziomu skomplikowania narzędzi AI. Art. 88 KIGEiT Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem Art. 83 i Art. 84, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Przepis określający termin wejścia w życie poszczególnych przepisów ustawy nie może abstrahować od terminów wejścia w życie poszczególnych przepisów Rozporządzenia 2024/1689. Na przykład przepis Art. 85 Rozporządzenia 2024/1689 przewidujący możliwość wniesienia skargi do organu nadzoru, czy Art. 73 Rozporządzenia 2024/1689 dotyczący obowiązki zgłaszania poważnych incydentów wchodzą w życie, zgodnie z Art. 113 Rozporządzenia 2024/1689, w dniu 2 sierpnia 2026. Tymczasem Art. 88 projektu ustawy stanowi, że wchodzi ona w życie 14 dni od ogłoszenia z wyjątkiem Art. 83 i 84. Pomimo że dziś nie jest znany termin ogłoszenia ustawy, można się spodziewać, że zostanie ona opublikowana w 2025 więc niektóre z jej przepisów, zgodnie z obecną treścią Art. 88, zaczną obowiązywać przed terminem rozpoczęcia stosowania odpowiednich przepisów Rozporządzenia 2024/1689. Z tego względu w przepisach określających termin wejścia w życie przepisów ustawy powinny się znaleźć odpowiednie daty uwzględniające terminy wejścia w życie poszczególnych przepisów Rozporządzenia. W 303 przeciwnym razie, np. prawo wniesienia skargi na podstawie ustawy przysługiwałoby wcześniej niż wynika to z Rozporządzenia. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 należy pamiętać o tym, aby ostateczne przepisy ustawy, w tym przepisy intertemporalne, były zgodnie z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozdział 8 Polska Izba Ubezpieczeń W ocenie Polskiej Izby Ubezpieczeń technologia sztucznej inteligencji jest nową technologią o transgranicznym charakterze i z tego tytułu powinien być zapewniony tryb odwoławczy. W dniu dzisiejszym nie jesteśmy w stanie oszacować wszystkich sytuacji i rozwiązań jakie będą przedmiotem oceny Komisji i jej ewentualnych decyzji. Zwracamy również uwagę, że zasadnym byłoby podjęcie działań zmierzających do zmian w procesie legislacyjnym ustawy o działalności ubezpieczeniowej i reasekuracyjnej. W szczególności proponujemy zmianę art. 41 ust. 1b ustawy o działalności ubezpieczeniowej i reasekuracyjnej tak by katalog wskazanych kategorii danych w art. 41 ust. 1b Ustawy miał charakter otwarty. Taka zmiana przyczyni się do rozwoju technologicznego i usprawnienia procesów oceny ryzyka ubezpieczeniowego oraz procesów likwidacji szkód. Proponujemy zmianę redakcyjną art. 41 ust. 1b Ustawy na „1b. Decyzje, o których mowa w ust. 1a, mogą być podejmowane w szczególności w oparciu o następujące kategorie danych dotyczących osoby fizycznej”. Działanie legislacyjne w tym kierunku będzie stanowiło skuteczne wsparcie sektora ubezpieczeń w przygotowaniu do stabilnego wdrożenia rozwiązań opartych na technologii sztucznej inteligencji w procesach ubezpieczeniowych. Wskazując na powyższy postulat branża ubezpieczeniowa odwołuje się m.in. do motywu 67 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, gdzie podkreślono, że „wysokiej jakości dane i dostęp do wysokiej jakości danych odgrywają kluczową rolę w ustanawianiu struktury i zapewnianiu skuteczności działania wielu systemów AI, w szczególności w przypadku stosowania technik obejmujących trenowanie modeli, w celu zapewnienia, aby system AI wysokiego ryzyka działał zgodnie z przeznaczeniem i bezpiecznie oraz aby nie stał się źródłem zakazanej przez prawo Unii dyskryminacji.” Dlatego też w ocenie ubezpieczycieli by zapewnić wysoką jakość zbiorów danych treningowych, walidacyjnych i testowych pożądane jest wdrożenie odpowiednich zachęt prawnych poprzez rozwiązania legislacyjne. Rozdział 8 GRAI Konieczne jest rozszerzenie stosowania ustawy o ochronie sygnalistów na zgłoszenia zewnętrzne dotyczące naruszenia rozporządzenia 2024/1689 lub przepisów projektowanej ustawy. Osoby wewnątrz organizacji dostawców lub jednostek publicznych albo osoby będące w posiadaniu wiedzy o naruszeniach powinny mieć możliwość dokonania stosownych zgłoszeń do Komisji. 304 Osoby te powinny mieć przyznane uprawnienia i przyznaną ochronę taką jak sygnaliści z ustawy o ochronie sygnalistów. Należy albo znowelizować w tym zakresie ustawę o ochronie sygnalistów albo dodać stosowne przepisy (nawet z odesłaniem do ww. ustawy). W celu utrzymania spójnej legislacji proponuję przyjąć ten drugi wariant (wprowadzić ogólne odesłanie do ww. ustawy ze wskazaniem, które przepisy znajdują zastosowanie). Rozdział 8 GRAI Sugeruje uregulowanie odpowiedzialności za celowe zniekształcanie wyników algorytmu (np. Poprzez celowe dostarczanie niewłaściwych danych). Regulacja miałaby na celu wprowadzenie ram prawnych do przeciwdziałania celowego “mylenia” algorytmów na etapie treningu (np. Celowy sabotaż). Art. 80 GRAI Zmiana Sądu Okręgowego w Warszawie - sąd ochrony konkurencji i konsumentów na Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Dodatkowo, Sąd rozpatruje zażalenia na postanowienia zgodnie z art. 43 ust. 13 oraz art. 73 ust. 18 ustawy. W art. 479 (88e) brakuje słowa “stronami”. Art. 80 PIIT Art. 47988e § 1. W sprawach naruszenia przepisów rozporządzenia 2024/1689 stronami jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Ponadto, przepisy zmieniające KPC nie przewidują jakie rodzaje rozstrzygnięć merytorycznych może wydać Sąd po rozpatrzeniu odwołania. Co jest zasadniczym brakiem przepisów proceduralnych. Art. 80 Polska Izba Ubezpieczeń Proponuje się w art. 80 do ustawy – Kodeks postępowania cywilnego korektę do art. Art. 47988e na „§1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” 305 Mając na względzie, że sprawy odwoławcze będą wymagać wiadomości specjalnych, proponuje się również rozważenie wprowadzenia na listy biegłych sądowych biegłych z zakresu AI. Realizacji ww. postulatu wymagać będzie zmiana ustawy Prawo o ustroju sądów powszechnych i aktów wykonawczych. Art. 80 pkt. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W przepisie dotyczącym zmiany art. 479 88b postulujemy zmianę wyrazu „jego” na wyraz „jej”. W przepisie dotyczącym zmiany art. 479 88e postulujemy przeformułowanie, albowiem w obecnym brzmieniu przepis wydaje się brzmieć nieprawidłowo. Art. 80 Fundacja Panoptykon W odniesieniu do postępowania odwoławczego przed Sądem Ochrony Konkurencji i Konsumentów zwracamy uwagę, że w proponowanym art. 47988e § 1, który projekt ustawy dodaje do Kodeksu postępowania cywilnego, brakuje słowa określającego status Komisji i zainteresowanego: „w sprawach z naruszenia przepisów rozporządzenia 2024/1689 [brakujące słowo] są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany”. Zakładamy, że projektodawcy chodziło o nadanie Komisji i zainteresowanemu statusu strony postępowania odwoławczego. Poza tą uwagą redakcyjną, postulujemy także doprecyzowanie w § 2, że skarżący – nawet jeśli jego prawa lub obowiązki nie zależą od rozstrzygnięcia procesu – może być zainteresowanym i wprowadzenie obowiązku wezwania go do udziału w sprawie. art. 83 PIIT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 PIIT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art.5 projektowanej ustawy. Zob. także uwaga w wierszu 5 Art. 84 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż zdublowana została numeracja ust. 5. Wnosimy o poprawę numeracji ustępów w art. 84 Projektu ustawy. Postulujemy także zmianę słowa „id” na słowo „od” w aktualnym ust. 5 306 Art. 84 ust. 5 GRAI Uwaga redakcyjna Słowo “id” zastępuje się słowem “od”. Art. 86 GRAI Niejasny zapis w zakresie terminu na złożenie projektu planu finansowego Biura Komisji na okres od dnia wejścia w życie ustawy do dnia 31 grudnia 2025 r. do Prezesa Rady Ministrów. Konieczność doprecyzowania przepisu. Art. 87 GRAI Potrzeba zwiększenia budżetu w szczególności w pierwszym półroczu istnienia Komisji np. z uwagi na zakup odpowiednich narzędzi informatycznych. Uzasadnienie Związek Cyfrowa Polska Brak jest wyjaśnienia w uzasadnieniu Projektu ustawy powodów braku zagwarantowania przedsiębiorcom mechanizmów odwoławczych od wystąpienia pokontrolnego (art. 46 ust. 8 Projektu) oraz zaleceń pokontrolnych (art. 47 ust. 2 Projektu). OSR PCA W OSR w części „wpływ na sektor finansów publicznych” proponujemy uwzględnić następujący zapis: „Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2025 r. Osoby zatrudnione odpowiedzialne będą za prace nad przygotowaniem programu akredytacji, organizację prowadzenia procesu akredytacji podmiotów ubiegających się o uprawnienie do certyfikacji w ramach programów certyfikacji AI. Zgodnie z ustawą o systemach oceny zgodności i nadzoru rynku (t.j. Dz.U.2022 poz.1854, z 2024, poz. 1089) Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa. Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r. Środki te przeznaczone będą na sfinansowanie dodatkowych dwóch etatów oraz na wynagrodzenia dla osób, które otrzymają dodatkowe zadania w projektowanym zakresie. Zwiększenie to musi być utrzymane w kolejnych latach, zwiększane o wskaźnik wzrostu płac i będzie sfinansowane w ramach samodzielnej gospodarki finansowej PCA. Do oszacowania wydatków wzięto pod uwagę średnie wynagrodzenie jakiego oczekują kandydaci do pracy z ostatniego okresu z uwzględnieniem kosztów pracodawcy. Podkreślenia wymaga fakt, że projektowana ustawa wprowadza wymaganie akredytacji w nowym obszarze. Należy zatem oczekiwać konieczności przeprowadzenia ocen akredytacyjnych dla nowych lub rozszerzania zakresu akredytacji dla już istniejących jednostek oceniających zgodność, co ogólnie przełoży się na zwiększenie zadań zatrudnionych pracowników przy 307 realizacji zmian w funkcjonujących już akredytacjach, a tym samym będzie wiązać się z koniecznością zwiększenia poziomu wynagrodzenia tych pracowników. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo nowoczesnego sektora gospodarki. Sektora, w którym płace są na bardzo wysokim poziomie. Osoby, które będą wykonywały te zadania muszą mieć bardzo wysokie kompetencje - znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Ostateczna struktura rozdysponowania ww. zwiększenia w funduszu osobowym oraz poziom tego rozdysponowania zależy od kompetencji zatrudnionych osób i zakresu dodatkowych zadań przydzielonych już zatrudnionym osobom. ” Zaproponowane kwoty powinny być również uwzględnione w tabeli w tym punkcie. Brak regulacji GRAI Brak uregulowania Kodeksów postępowania: Zgodnie z art. 69 rozporządzenia, Komisja i państwa członkowskie zachęcają do tworzenia (i ułatwiają tworzenie) kodeksów postępowania sprzyjających dobrowolnemu stosowaniu w odniesieniu do systemów sztucznej inteligencji innych niż systemy sztucznej inteligencji wysokiego ryzyka wymogów określonych w tytule III rozdział 2, w oparciu o specyfikacje i rozwiązania techniczne, które stanowią odpowiedni sposób zapewnienia zgodności z takimi wymogami w świetle przeznaczenia tych systemów. Realizacja tego przepisu rozporządzenia nie została w żaden sposób ujęta w projekcie ustawy. Konieczność uregulowania i przyjęcia właściwych przepisów na gruncie krajowym. Brak regulacji GRAI Brak uregulowania kwestii tworzenia piaskownic regulacyjnych zgodnie z artykuł em 53 (Piaskownice regulacyjne w zakresie AI) 1. Piaskownice regulacyjne w zakresie AI tworzone przez jeden właściwy organ państwa członkowskiego lub większą liczbę takich organów, lub przez Europejskiego Inspektora Ochrony Danych zapewniają kontrolowane środowisko ułatwiające opracowywanie, testowanie i walidację innowacyjnych systemów sztucznej inteligencji przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem. Tego rodzaju działalność musi przebiegać pod bezpośrednim nadzorem właściwych organów i zgodnie z ich wytycznymi, aby zapewnić zgodność z wymogami niniejszego rozporządzenia oraz – w stosownych przypadkach – z innymi przepisami prawa Unii i prawa państw członkowskich objętymi nadzorem w ramach piaskownicy. Z uzasadnienia do projektu wynika, że kwestia piaskownic regulacyjnych będzie zaadresowana w odrębnych regulacjach w kolejnych latach. Należy jednak pamiętać, iż brak takich rozwiązań może 308 ograniczać możliwości testowania rozwiązań przez przedsiębiorców w bezpiecznym środowisku i wpływać na innowacyjność polskich przedsiębiorstw. Reguły kolizyjne GRAI Wprowadzenie reguł kolizyjnych w sytuacji gdy system sztucznej inteligencji spełnia jednocześnie definicję innej kategorii np. wyrobu medycznego. Określenie wzajemnej relacji ustaw szczególnych względem siebie GRAI Warto rozważyć umieszczenie w przepisach ustawy regulacji dotyczących tworzenia programów wsparcia dla pracowników, za których zadania wykona AI, a oni w rezultacie utracą pracę. Niedoprecyzowany pozostaje tryb rejestrowania systemów sztucznej inteligencji wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Zgodnie z odnośnikiem nr 1 konsultowanego projektu ustawy o systemach sztucznej inteligencji projektowana ustawa ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji. Celem tego rozporządzenia (dalej: Rozporządzenie) jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, „zgodnie z wartościami Unii (...), przy jednoczesnym zapewnieniu praw podstawowych zapisanych w Karcie praw podstawowych”. Jednym z praw podstawowych określonych w Karcie jest równość kobiet i mężczyzn. Rozporządzenie obejmuje szereg postanowień, zawartych zarówno w preambule, jak i w jego tekście artykułowanym, które odnoszą się do tej kwestii, albo wprost odwołując się do równości, równouprawnienia płci lub równości kobiet albo odwołując się, bardziej generalnie, do praw podstawowych, do których te wartości są zaliczane. Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Poniżej wskazano najważniejsze z przepisów Rozporządzenia w tym zakresie, w szczególności te kierunkowe, wyznaczające strategiczne cele przyjętej regulacji prawnej, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem na które powinna odpowiadać projektowana ustawa jako regulacja służąca stosowaniu w Polsce Rozporządzenia. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 309 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami zapisanymi w traktatach oraz, zgodnie z art. 6 TUE – w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, „mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji” oraz „mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet”. Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jako systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację 310 i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii”. To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. W projekcie ustawy brakuje uregulowań dotyczących wsparcia dla MŚP w dostosowaniu się do nowych regulacji – chociażby w postaci programów edukacyjnych. Brak w regulacji GRAI Potrzeba zwiększenia ochrony małoletnich Propozycja dodania przepisu: „1. Małoletni, który ukończyli 13 lat mogą korzystać z systemów sztucznej inteligencji, pod warunkiem, że warunki korzystania z systemu są łatwo dostępne i zrozumiałe. 2. Dostęp do systemów AI przez małoletnich w wieku poniżej 13 lat wymaga zgody ich opiekunów prawnych.”. Brak regulacji w projekcie, być może do uregulowania w innej ustawie GRAI Wykorzystanie AI w systemie opieki zdrowotnej Rozważenie przyjęcia regulacji w zakresie: 1. Wykorzystanie systemów sztucznej inteligencji w systemie opieki zdrowotnej nie może skutkować dyskryminacją pacjenta w dostępie do usług medycznych 311 2. Osoby fizyczne mają prawo do informacji na temat wykorzystania sztucznej inteligencji i jej zalet związanych z diagnozą i terapią oraz do uzyskania informacji na temat logiki związanej z podejmowaniem decyzji. 3. „Decyzje” systemu AI mające na celu wspieranie procesów: zapobiegania, diagnozowania, leczenia i wyboru terapii, musi być potwierdzona przez lekarza (pracownika medycznego) prowadzącego leczenie. Brak w regulacji GRAI Dodanie przepisów o wyłączeniu członków Komisji w tym jego Przewodniczącego. Konieczność przyjęcia regulacji w tym zakresie, jak np. w ustawie o nadzorze nad rynkiem finansowym. Brak w uzasadnieniu GRAI Brak szerszego odniesienie się w uzasadnienia do ochrony praw człowieka oraz Karty PP UE Zmiana i uzupełnienie uzasadnienia. Brak w ustawie GRAI Wprowadzenie w ustawie regulacji wzorowanej na art. 69 ust. 1- 5 UOKiK z uwagi na okoliczność, że w postępowaniu przed Komisją może występować kilka stron (vide. art. 51 ust. 2 projektu). Jak w art. 69 UOKiK z odpowiednimi modyfikacjami Brak w ustawie GRAI Uregulowanie w ustawie przepisów dotyczących testowania systemu AI zgodnie z art. 77 ust. 3 rozporządzenia 2024/1689. Brak w ustawie GRAI W projektowanej ustawie brakuje odniesienia do kwestii praw autorskich. W szczególności powinny zostać poruszone następujące kwestie: Wytwory generatywnej sztucznej inteligencji a prawo autorskie i prawo własności przemysłowej Prawa do danych wykorzystywanych przez AI Aspekt prawa autorskiego baz danych, wykorzystywanych przez AI AI a ochrona oprogramowania na gruncie europejskim (software patent w EPO), a prawa do danych LLM i naruszania praw autorskich AI a wynalazca (twórca w rozumieniu Prawa własności przemysłowej)AI a twórca w rozumieniu prawa autorskiego i praw pokrewnych Wynagrodzenie za korzystanie z utworów na potrzeby sztucznej inteligencji. Znakowanie utworów wykorzystywanych na potrzeby sztucznej inteligencji Znakowanie wytworów wygenerowanych przez AI. Realizacja prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM określony w ustawie o prawie autorskim i prawach pokrewnych przewiduje możliwość jnego wykorzystania na potrzeby sztucznej inteligencji. doprecyzowanie obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskich na potrzeby sztucznej inteligencji. 312 określenie reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. AI Act nie stoi na przeszkodzie szczegółowym regulacjom kwestii prawno-autorskich na poziomie krajowym, a regulacja taka jest niezbędna. AI Act tylko szczątkowo wskazuje na kwestie prawno- autorskie, które wymagają rozwinięcia i doprecyzowania w prawie krajowym. Projekt nie przewiduje natomiast żadnych rozwiązań w tym zakresie. GRAI Brak zaadresowania w ustawie kwestii dotyczących ustanowienia szczegółowych przepisów dotyczących wykorzystania biometrii, zgodnie z art. 5 AI Act. Z uzasadnienia projektu nie wynika, czy i w jakim okresie planowane jest uregulowanie tej kwestii. Nowy rozdział dot. identyfikacji biometrycznej GRAI I. Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3. Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. II. Nie należy przyjmować wyjątków pozwalających na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłącznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Akt, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikowane będą osoby postronne. • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Akt rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede 313 wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów - tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. III. AI Akt reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Polska powinna wprowadzić bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd. Brak w ustawie SANO Postulujemy wprowadzenie definicji systemu wysokiego ryzyka, która usuwałaby obecnie nasuwające się problemy interpretacyjne dotyczące tego, jak się wydaje, jednego z kluczowych zagadnień wskazanych w Rozporządzeniu. Wprowadzenie do katalogu podmiotów wchodzących w skład Komisji opisanej w rozdziale 2 projektowanej ustawy przedstawicieli środowiska organizacja pozarządowych z pespektywy Sano jest dobrym rozwiązaniem. Obecnie katalog podmiotów desygnujących przedstawicieli do Komisji ograniczony jest zasadniczo do przedstawicieli organów Państwowych (z wyłączeniem przedstawicieli Rady Dialogu Społecznego). Wydaje się, że Komisja w składzie bardziej inkluzyjnym będzie mogła lepiej realizować przewidziane dla niej zadania. Udział NGO w ramach Rady Społecznej powoływanej przy Komisji wydaje się być niewystarczającą reprezentacją trzeciego sektora. Wprowadzenie do katalogu podmiotów wchodzących w skład członków Komisji określonej w art. 7 ust. 2 Rzecznika Prawa Pacjenta oraz Rzecznika Małych i Średnich Przedsiębiorców to kolejna z naszych propozycji. Zastosowanie ustawy będzie miało kluczowy wpływ na działalność MŚP oraz konieczna będzie ochrona pacjentów, dlatego kluczowe jest, aby oby dwaj rzecznicy znaleźli się w stałym składzie członków Komisji. Rekomendujemy przeniesienie Krajowej Rady Radiofonii i Telewizji z katalogu członków Komisji określonej w art. 7 ust. 2 do ust. 3 gdzie wskazani są przedstawiciele, którzy mogą uczestniczyć ale ich udział nie jest obligatoryjny. Z projektu ustawy oraz uzasadnienia nie wynika dlaczego rola KRRiT jest kluczowa w każdych działaniach Komisji. Postuluje się wprowadzenie przepisów, które w szerszy sposób dawałyby legalny dostęp do danych w tym danych medycznych, a w ramach tego katalogu powinno się również rozumieć dane dotyczące zdrowia. W szczególności ustawa mogłaby stanowić o zmianie ustawy o prawach pacjenta w zakresie zamkniętego i ograniczającego prowadzenie badań katalogu podmiotów 314 wynikającego z art. 26 ustawy o prawach pacjenta. Ustawa powinna stanowić asumpt dla stymulacji rozsądnego wykorzystania potencjału dla budowania systemów sztucznej inteligencji w obszarze zdrowia. Dla wysokiej jakości budowania rozwiązań w obszarze zdrowia kluczowy jest dostęp do prawdziwych, wysokiej jakości danych dotyczących zdrowia dla większej ilości podmiotów realizujących działania na rzecz AI niż dotychczas. Brak w ustawie Repropol Mimo, iż Projekt służy wdrożeniu także rozdziału V AIA (art. 51-56), w Projekcie brak jest jakiegokolwiek nawiązania do modeli AI ogólnego przeznaczenia (GPAI). Po pierwsze zwrócić należy uwagę na brak zamieszczenia w art. 3 UoSSI referencji czy to do modelu AI ogólnego przeznaczenia (art. 3 pkt 63 AIA), czy też systemu AI ogólnego przeznaczenia (art. 3 pkt 66 AIA). Nie wiadomo, w jaki sposób uzasadnić pominięcie tych ważnych definicji, skoro projektodawca zdecydował się (uważamy, że niepotrzebnie) na katalog definicji referencyjnych w art. 3 UoSSI. Z uwagi na to, iż krajowe organy odgrywają także – obok Urzędu ds. AI – istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b AIA – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), katalog obowiązków KRIBSI zawarty w art. 11 ust. 1 UoSSI powinien zostać uzupełniony również o ten wymiar obowiązków. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI powinna być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Celowe wydaje się także wyartykułowanie w UoSSI obowiązku ustawicznego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, ale i zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias). Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Potrzeba uwzględnia w przepisach prawa powszechnie obowiązującego w Polsce zagadnień związanych z wykorzystaniem systemów sztucznej inteligencji z poszanowaniem Fundacja Sztuka Media Film Mamy na uwadze, że podstawowym celem projektu ustawy o systemach sztucznej inteligencji jest stworzenie ram prawnych i instytucjonalnych niezbędnych do prawidłowego stosowania Rozporządzenia 2024/1689, które nie wprowadza zmian w prawie w zakresie prawa autorskiego. Z uwagi jednak na fakt, że tematyka wyzwań w prawie autorskim wobec rozwoju sztucznej inteligencji jest zagadnieniem szeroko dyskutowanym w przestrzeni publicznej, ze szczególnym uwzględnieniem środowisk twórczych i artystycznych, w imieniu Fundacji Sztuka Media Film, zwracamy uwagę na konieczność kompleksowego uregulowania związanych z tym zagadnieniem kwestii w polskim porządku prawnym. Nie można wykluczyć, że część powyższego problemu zostanie objęta regulacjami unijnymi, jednak z uwagi na to, że harmonizacja prawa autorskiego w państwach członkowskim przebiega w sposób punktowy oraz zważywszy na odrębność i zróżnicowanie krajowych porządków 315 praw autorskich twórców prawnych państw członkowskich Unii Europejskiej w obszarze prawa autorskiego, niewykluczona może okazać się również krajowa inicjatywa ustawodawcza w obszarze praw autorskich. Takie działania zostały podjęte m.in. we Francji, gdzie w dniu 12 września 2023 r. przedłożono projekt ustawy nr 1630 w celu zapewnienia ram prawa autorskiego dla sztucznej inteligencji. Propozycja zmian w prawie autorskim ma na celu ochronę autorów poprzez uregulowanie eksploatacji prac generowanych przez sztuczną inteligencję. Poniżej sygnalizujemy obszary, które identyfikujemy jako kluczowe z perspektywy ochrony praw twórców i wskazujemy na konieczność uwzględnienia ich w ramach dalszych zaplanowanych prac legislacyjnych oraz badawczych w zakresie rozwoju AI w Polsce: Dookreślenie w przepisach prawa powszechnie obowiązującego sposobu korzystania z utworów na potrzeby tworzenia, rozwijania oraz stosowania w obrocie gospodarczym systemów sztucznej inteligencji z poszanowaniem praw twórców, w szczególności możliwości skutecznego realizowania przez nich autorskich praw osobistych do utworów, w szczególności prawa do nadzoru nad sposobem korzystania z utworu (o którym mowa w art. 16 pkt 5 ustawy z 04.02.1994 r. o prawie autorskim i prawach pokrewnych (dalej: pr.aut.)) oraz wypłaty należnego twórcom wynagrodzenia z tytułu korzystania z ich utworów w związku z działalnością systemów sztucznej inteligencji; Dookreślenie czy polskie prawo autorskie powinno dopuszczać możliwość zastosowania definicji utworu (w rozumieniu art. 1 ust. 1 pr.aut.) w stosunku do rezultatów działalności sztucznej inteligencji? Czy – alternatywnie – polskie prawo autorskie powinno z definicji wyłączać możliwość zakwalifikowania jako utwór w rozumieniu pr.aut. rezultatów działalności sztucznej inteligencji? Czy względem rezultatów prac sztucznej inteligencji powinna powstać odrębna definicja przedmiotu praw autorskich, dostosowana do specyfiki funkcjonowania tej techniki? Jeżeli rezultaty prac sztucznej inteligencji miałyby stanowić utwór w rozumieniu pr.aut. albo w rozumieniu innej definicji stanowić przedmiot ochrony prawnoautorskiej koniecznym jest dookreślenie jakiemu podmiotowi przysługiwać będą autorskie prawa majątkowe do rezultatów prac stworzonych (wygenerowanych) przez sztuczną inteligencję. Czy będzie to dostawca systemu sztucznej inteligencji, podmiot ją stosujący, inny operator wymieniony w Rozporządzeniu 2024/1689? Czy możliwe jest przyznanie określonych, ograniczonych względem praw autorskich przysługujących twórcom, samej sztucznej inteligencji? Dookreślenie w ramach kodeksów dobrych praktyk, w jaki sposób powinny zostać wypełniane obowiązki w zakresie transparentności nakładane na twórców modeli generatywnej sztucznej inteligencji, tak aby prawa twórców utworów wykorzystywanych w procesie trenowania sztucznej inteligencji były należycie chronione, w tym doprecyzowanie również zagadnień związanych z publikacją i oznaczaniem treści wytworzonych przez sztuczną inteligencję. Brak uregulowania w projekcie SFP-ZAPA Wprowadzenie mechanizmów zapewniających – zgodnie z intencją ustawodawcy unijnego – że na każde wykorzystanie treści chronionych prawem autorskim na potrzeby sztucznej inteligencji zostanie uzyskane zezwoleniem danego podmiotu praw (motyw 105 aktu o AI). Mogłoby to 316 następować na podstawie obecnie znanych mechanizmów: licencjonowanie, mechanizm rozszerzonych zbiorowych licencji. Z uwagi na masowy charakter korzystania oraz rozproszony repertuar pośrednictwo organizacji zbiorowego zarządzania w tym procesie wydaje się niezbędne. Wprowadzenie mechanizmów zapewniających realizację obowiązku przejrzystości tak w aspekcie informowania na temat treści objętych ochroną prawnoautorską wykorzystanych na potrzeby sztucznej inteligencji, jak i w aspekcie znakowania wytworów wygenerowanych przez sztuczną inteligencję. Doprecyzowanie rodzaju informacji, jakie miałyby być dostarczane przez twórców systemów i modeli AI na temat zakresu korzystania z utworów na potrzeby ich tworzenia, rozwijania i eksploatowania, które będą umożliwiały twórcom ustalenie zakresu korzystania i odpowiadającego temu korzystaniu wynagrodzenia (obowiązek przejrzystości, obowiązki informacyjne). Obecnie w akcie o AI mowa jest jedynie ogólnie o dostarczaniu informacji o zasobach, z których twórcy systemów i modeli AI korzystają. Nie jest to wystarczające. Mamy oczywiście świadomość i wiedzę, że na poziomie Unii Europejskiej prowadzone są prace zmierzające do powstania kodeksu praktyk w tym zakresie. Uważamy jednak, że rozwiązania typu soft law nie są wystarczająco skuteczne, na co zresztą słusznie zwraca uwagę sam ustawodawca w uzasadnieniu Projektu. Jak była zaś o tym mowa powyżej, żadne przepisy nie stoją na przeszkodzie temu, aby taką regulację wprowadzić w porządku krajowym. Naszym zdaniem jest ona niezbędna. Wprowadzenie formy rekompensaty za korzystanie z utworów na potrzeby zasilania modeli i systemów sztucznej inteligencji. Także w przypadkach, o których mowa w art. 4 dyrektywy DSM. Może to oczywiście być klasyczna opłata licencyjna, bądź ustawowo zagwarantowane prawo do wynagrodzenia. Jednym z rozwiązań szeroko dyskutowanym w różnych krajach UE jest wprowadzenie mechanizmu podobnego do tego, jaki funkcjonuje w odniesieniu do tzw. opłat od czystych nośników. Przywrócenie braku możliwości korzystania z tzw. komercyjnej eksploracji tekstów i danych (tzw. TDM) na potrzeby sztucznej inteligencji. W projekcie nowelizacji ustawy o prawie autorskim i prawach pokrewnych implementującym dyrektywę DSM, opublikowanym przez Ministerstwo Kultury i Dziedzictwa Narodowego w lutym 2024 r., przesądzono, że możliwość komercyjnej eksploracji tekstów i danych nie będzie miała zastosowania do korzystania z utworów na potrzeby sztucznej inteligencji, a w szczególności jej generatywnej postaci. Rozwiązanie to zostało z satysfakcją przyjęte przez wszystkie środowiska twórcze. Niestety, w toku dalszych prac nad projektem wyłączenie to (pod wpływem opinii podmiotów, które z tego wyłączenia nie będą mogły korzystać dla niczym nieograniczonego wykorzystywania utworów na potrzeby tworzenia i rozwijania modeli i systemów generatywnej sztucznej inteligencji) zostało usunięte. Braku tego 317 rodzaju zapisu w ustawie nie sanuje przewidziane tak w dyrektywie DSM, jak i projekcie prawo zgłoszenia zastrzeżenia co do takiego korzystania. W obecnym kształcie ustawy opcja opt-out (prawo zgłoszenia zastrzeżenia) jest iluzoryczna, gdyż nieefektywna (brak jest bowiem rozwiązań prawnych i technicznych, które określałyby jak w praktyce w skuteczny sposób z prawa tego korzystać). Twórcom nie zapewniono także żadnego rodzaju rekompensaty za tego rodzaju korzystanie, co godzi w ich podstawowe prawa. Doszczegółowienie zasad i warunków korzystania z prawa zastrzeżenia opt-out w przypadku, o którym mowa w art. 4 ust. 3 dyrektywy DSM nie tylko w formie nadającej się do odczytu maszynowego wraz z metadanymi, ale też w taki sposób, aby następowało z uwzględnieniem warunków korzystania ze strony internetowej lub usługi. Z uwagi na brak szczegółowych regulacji (nie tylko w aspekcie prawnym, ale też technicznym) w jaki korzystanie z prawa opt-out miałaby następować jest ono trudne do zrealizowania w praktyce. Brak zapewnienia skutecznego sposobu korzystania przez uprawnionych z tego prawa spowoduje masowe nadużywanie formy dozwolonego użytku przewidzianej w art. 4 dyrektywy DSM, co będzie prowadzić – wbrew założeniom aktu o AI – do naruszania praw autorskich w związku z korzystaniem z utworów na potrzeby sztucznej inteligencji. Przesądzenie, że wyjątek dotyczący eksploracji tekstów i danych odnosi się jedynie do utworów, do których beneficjent wyjątku ma legalny dostęp (zgodnie z art. 3 ust. 1 dyrektywy DSM). W przeciwnym wypadku powstaje ryzyko masowego nadużywania tej formy dozwolonego użytku w celu niezgodnego z prawem zwielokrotniania i przechowywania utworów. Przesądzenie, aby zastrzeżenie opt-out mogło być składane także przez organizacje zbiorowego zarządzania w imieniu uprawnionych, którzy powierzyli danej organizacji swoje prawa w zbiorowy zarząd. Stanowisko to uzasadnia masowa skala korzystania z utworów w ramach wyjątku eksploracji tekstów i danych. Opracowanie mechanizmów zapobiegających naruszaniu praw autorskich w związku z korzystaniem z rozwiązań sztucznej inteligencji, w tym wskazujących podmioty odpowiedzialne (np. analogicznie do rozwiązania przewidzianego w art. 17 dyrektywy DSM). Mechanizm ten powinien określać katalog przesłanek, po spełnieniu których, dostawca może uwolnić się od odpowiedzialności. Powinien też opierać się o szeroki system domniemań – jak domniemanie trenowania na utworach, domniemanie zwielokrotniania utworów. Domniemania te mogą być wzruszalne. Pozwolą jednak w sposób sprawiedliwy rozłożyć ciężar dowodu. Pełna wiedza na temat funkcjonowania systemów sztucznej inteligencji, w tym m.in. na temat tego z jakich źródeł są one zasilane, jest wyłącznie po stronie ich dostawców. Do wiedzy tej nie mają i nie będą mieć dostępu uprawnieni z tytułu praw autorskich, którzy z kolei dostarczają treści, które owe systemy 318 zasilają. Bez konstrukcji domniemań prawa twórców nie zostaną zatem zagwarantowane, ani w praktyce zrealizowane. Działania komunikacyjne i edukacyjne Krajowy Instytut Mediów Kategorie interesariuszy, które powinny być traktowane priorytetowo w zakresie działań komunikacyjnych i edukacyjnych w związku z procesem wchodzenia w życie rozporządzenia 2024/1689 Jak wskazano w motywie 4 rozporządzenia 2024/1689: AI to szybko rozwijająca się grupa technologii, która przyczynia się do wielu różnych korzyści ekonomicznych, środowiskowych i społecznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej, przy czym w motywie 5 aktu w sprawie sztucznej inteligencji zaznaczono, że AI może jednocześnie stwarzać zagrożenia i wyrządzać szkody dla interesu publicznego i praw podstawowych chronionych przepisami prawa Unii, w zależności od okoliczności jej konkretnego zastosowania, wykorzystania oraz od poziomu rozwoju technologicznego. Szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne. Dlatego też podejmowanie działań związanych z procesem wchodzenia w życie rozporządzenia 2024/1689 wymaga przede wszystkim wzięcia pod uwagę potrzeb dzieci, których szczególna wrażliwość pociąga za sobą konieczność zapewnienia im takiej ochrony i opieki, jaka jest niezbędna dla ich dobra, a także potrzeb seniorów, cechujących się podatnością na zagrożenia związane ze zjawiskiem dezinformacji. Wsparcie i edukacja w tym zakresie stanowią kluczowy element upowszechniania AI na rynku wewnętrznym, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych. Systemy zakazane i wyłączenia Panoptykon Zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej Zgodnie z art. 5 ust 1 lit. h rozporządzenia w sprawie sztucznej inteligencji, wykorzystywanie systemów zdalnej identyfikacji biometrycznej w przestrzeni publicznej do celów ścigania przestępstw w czasie rzeczywistym jest co do zasady zakazane, chyba że ich wykorzystanie jest bezwzględnie konieczne do celów wymienionych w tym przepisie. Jednocześnie, art. 5 ust. 5 rozporządzenia wymaga w tych przypadkach od państw członkowskich, aby przyjęły krajowe przepisy, które szczegółowo regulowałyby zasady udzielania i nadzorowania zezwoleń na wykorzystanie takich systemów. Brak tych przepisów w projekcie opiniowanej ustawy interpretujemy jako decyzję ustawodawcy o braku zgody na wykorzystywanie systemów zdalnej biometrycznej identyfikacji do celów ścigania przestępstw. Zdecydowanie popieramy taką decyzję projektodawcy i rekomendujemy jej utrzymanie w ostatecznej wersji projektu. W tym miejscu warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem w sprawie sztucznej inteligencji, pełny zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej – jako naruszających istotę prawa do prywatności – rekomendowały, obok organizacji społecznych, wiodące organy ochrony danych osobowych i praw człowieka: Europejski Inspektor Ochrony Danych i Wysoki Komisarz ONZ ds. Praw Człowieka Model z zakresu prawa i administracji Osoba fizyczna AJ W niniejszym mailu doszczegółowię moje (przedsiębiorca) oczekiwania w stosunku do inicjatywy AI w Polsce. 319 Widzę potrzebę modelu (może być na wzór QRA) nauczonego wiedzą z zakresu administracji i prawa. Do stworzenia takiego modelu można użyć danych z: 1. aktów notarialnych: (dostępne w administracji skarbowej i urzędach powiatowych w zakresie nieruchomości), 2. umów kupna-sprzedaży: dostępne w administracji skarbowej, 3. dokumentów sądowych: dostępne w sądach 4. dokumentów administracyjnych: zezwolenia, rejestry, mapy geodezyjne, wnioski tip: dostępne w urzędach Tak nauczony model można stosować np. w starostwie, gdzie po kilka osób na powiat prowadzi rejestr cen nieruchomości, wprowadzając dane z aktów notarialnych. Możliwe byłoby usprawnienie pracy tych urzędników i przez to oddelegowanie pracowników do innych zadań niż przetwarzanie aktów notarialnych Podobnie na poziomie gmin, prowadzone są rejestry podatkowe na podstawie informacji z aktów notarialnych i ten proces można zautomatyzować za pomocą AI. Gmin jest w PL 2498. Jeśli tak nauczony model będzie ogólnie dostępny to mogą go także wykorzystywać adwokaci, rzeczoznawcy i urzędnicy do przetwarzania dokumentacji administracyjnej. Taki model także może być użyty w sądach i prokuraturach np. do segregacji dokumentów czy wstępnej klasyfikacji dokumentów. Ale na początek proponuję analizę aktów notarialnych w celu uzupełnienia danych rejestru cen w powiatach, co jest czynnością wymaganą ustawowo. Dane do budowy modelu posiada administracja państwowa, projekt można zrobić na podobieństwo projektu QRA, byćmoże w nowszej architekturze. Osobiście widzę także potrzebę modelu do rozpoznawania obiektów ze zdjęć satelitarnych. Jednakże ten model byłby wykorzystywany przez ograniczoną grupę użytkowników, więc na razie go nie zgłaszam. Nowy rozdział Identyfikacja biometryczna GRAI Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, ale tylko w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3.Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. 320 Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. W mojej ocenie Polska powinna wprowadzić takie bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd Nowy rozdział Identyfikacja biometryczna GRAI Nie należy przyjmować wyjątków pozwalajacych na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłacznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; • Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Act, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikwoane będą osoby postronne. Myślę, że będzie to dobra forma kotnroli / presji społecznej; • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Act rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów – tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. Nowy rozdział identyfikacja biometryczna GRAI Act reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Błędy językowe NRA 1. Art. 1 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 321 2. Art. 3 Projektu — W artykule pojawia się błąd typograficzny. Spacje wokół dywizu (łącznika) i półpauzy są zbędne. Zaleca się ich usunięcie lub, w razie potrzeby, zastosowanie myślnika, który można oddzielić spacjami. 3. Art. 4 ust. 3 Projektu — W przepisie użyto zbędnej kropki po skrócie słowa „punkt, tj: „pkt.”. Zgodnie z zasadami języka polskiego kropka w tym przypadku jest niepożądana, ponieważ skrót sam w sobie jest jednoznaczny. 4. Art. 5 ust. 6 Projektu — Występuje błąd językowy w postaci użycia czasownika „posiadać” w odniesieniu do pojęć abstrakcyjnych („komisja”). Zaleca się użycie czasownika „mieć”, co jest zgodne z konwencją językową dotyczącą rzeczy niematerialnych. 5. Art. 7 ust. 6 Projektu — Brakuje przecinka w wyrażeniu „zakresie, w jakim”. Dodanie przecinka poprawia czytelność i zgodność składniową zdania. 6. Art. 9 ust. 2 Projektu — Błąd składniowy polegający na użyciu nieprawidłowej formy przypadkowej rzeczownika „podmiot”. W błędnym zapisie mamy niepoprawną formę „w podmiotu”, która jest wynikiem mylnego użycia dopełniacza w bezpośrednim sąsiedztwie przyimka „w” zamiast wymaganego miejscownika. W poprawnym sformułowaniu „w podmiocie, którego są przedstawicielami” rzeczownik „podmiot” występuje w miejscowniku, ponieważ wymaga tego przyimek „w” (miejscownik: „w kim? w czym?” – „w podmiocie”), z kolei zaimek „którego” powinien być w dopełniaczu, aby zgadzał się z sensownym związkiem z resztą zdania, gdyż członkowie Komisji są przedstawicielami kogo? czego? – „podmiotu” (dopełniacz). 7. Art. 11 ust. 1 pkt 6 Projektu — Błąd językowy polegający na nieprawidłowym użyciu formy mianownika zamiast dopełniacza. Obecne brzmienie przepisu powinno zostać poprawione poprzez użycie form „postanowień i decyzji” w dopełniaczu. Prawidłowe, poprawne językowo sformułowanie przepisu powinno zatem brzmieć: „Do zadań Komisji należy (...) wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. 8. Art. 12 ust. 2 Projektu — Przecinek przed wyrazem „Komisja” jest zbędny i powinien zostać usunięty, aby zachować poprawność interpunkcyjną. 9. Art. 14 ust. 3 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo”. Przecinek w tym miejscu poprawia strukturę zdania i ułatwia jego czytelność. 10. Art. 19 ust. 4 Projektu — W treści przepisu brakuje przecinka przed wyrażeniem „gdy”. Wstawienie przecinka zapewnia zgodność z zasadami interpunkcji i poprawia czytelność przepisu. 322 11. Art. 20 ust. 4 Projektu — W zdaniu „przeprowadza komisja kwalifikacyjna,,” występują bezpośrednio po sobie dwa przecinki, co jest błędem typograficznym. Należy usunąć zbędny przecinek. 12. Art. 20 ust. 9 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia przejrzystość i rytm zdania. 13.Art. 25 ust. 2 Projektu — Sformułowanie „wzajemna wymiana” jest pleonazmem. Zaleca się użycie wyrażenia „wymiana”, które już samo w sobie zakłada wzajemność. 14. Art. 26 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 15. Art. 33 ust. 3 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową przepisu. 16. Art. 34 ust. 2 ppkt 2 Projektu — Brak kropki po skrócie słowa „artykuł”, tj.: „art”, co jest niezgodne z zasadami stosowania skrótów w języku polskim. Skrót powinien kończyć się kropką. 17. Art. 40 ust. 1 Projektu — W przepisie występuje błąd interpunkcyjny. Należy dostosować znaki przestankowe, aby poprawić strukturę zdania i jego przejrzystość. 18. Art. 43 ust. 2 Projektu — Brak przecinka przed drugim wystąpieniem słowa „lub” w obrębie jednego zdania. Dodanie przecinka poprawia klarowność przepisu i zgodność z zasadami interpunkcji. 19. Art. 43 ust. 3 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Dodanie przecinka wpływa pozytywnie na strukturę składniową i przejrzystość przepisu. Należy skreślić słowo “się” po słowach “czynności kontrolne”. 20. Art. 43 ust. 9 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Wstawienie przecinka poprawia przejrzystość i czytelność przepisu. 21. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową i jednoznaczność przepisu. 22. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zgodnie z zasadami interpunkcji zwiększa czytelność. 23. Art. 45 ust. 5 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo” w obrębie jednego zdania. Poprawne wstawienie przecinka zapewnia spójność interpunkcyjną. 24. Art. 48 Projektu — Podwójny przecinek w wyrażeniu: „w toku kontroli, , że mogło dojść” jest błędem typograficznym i wymaga usunięcia drugiego przecinka. Dodatkowo 323 brakuje słowa „Komisja” we frazie „Komisja jest obowiązana”, co poprawi składnię i jednoznaczność przepisu. 25. Art. 54 ust. 6 Projektu — Brak przecinka przed drugim użyciem słowa „lub” w obrębie jednego zdania, co zaburza rytm tego zdania i jego przejrzystość. Dodanie przecinka zgodnie z zasadami interpunkcji poprawi czytelność przepisu. 26. Art. 59 ust. 1 Projektu — Błędna interpunkcja. Poprawne użycie przecinków poprawi strukturę składniową i czytelność. 27. Art. 64 ust. 1 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka zwiększa przejrzystość i spójność przepisu. 28. Art. 64 ust. 3 ppkt 2 Projektu — Powtórzenie wyrażenia „do spraw” jest zbędne. Usunięcie jednego z wyrażeń poprawi spójność i czytelność przepisu. 29. Art. 65 ust. 2 ppkt 2 Projektu — Brak przecinka przed wyrażeniem „jak również”. Dodanie przecinka zwiększa przejrzystość i poprawność składniową. 30. Art. 69 ust. 1 Projektu — W przepisie występuje błędna interpunkcja, w tym brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawi strukturę przepisu. 31. Art. 70 ust. 2 Projektu — Brak przecinka między czasownikami „oparła” i „nakładając” w zdaniu złożonym. Dodanie przecinka poprawi płynność i poprawność składniową przepisu. 32. Art. 71 ust. 1 Projektu — Błędna interpunkcja. Wymagane jest dostosowanie przecinków do zasad poprawnej konstrukcji zdania. 33. Art. 73 ust. 1 Projektu — Zbędny przecinek przed słowem „albo”. Usunięcie przecinka poprawi strukturę składniową przepisu. 34. Art. 73 ust. 4 Projektu — Zbędny przecinek przed słowem „Komisja”. Usunięcie przecinka dostosuje przepis do zasad poprawnościowych. 35. Art. 73 ust. 7 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zwiększa spójność strukturalną i przejrzystość przepisu. 36. Art. 75 ust. 2 Projektu — Przepis zawiera nawias, który został otwarty, ale nie zamknięty. Dodatkowo, część zdania umieszczona w nawiasie („z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689”) zawiera błędy gramatyczne, albowiem słowo „postępowanie” powinno występować w dopełniaczu („postępowania”), aby zachować poprawność językową. Ponadto sama konstrukcja przepisu jest niejasna, ponieważ wstawienie części zdania w nawias niepotrzebnie komplikuje jego treść. 324 37. Art. 80 ppkt 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 38. Art. 80 in fine Projektu — Brak kropki po cudzysłowie na końcu zdania. Dodanie kropki zgodnie z zasadami interpunkcji poprawi poprawność zapisu. 39. Art. 84 ust. 3 Projektu — Przecinek przed słowem „wykonuje” jest zbędny i powinien zostać usunięty dla zachowania poprawności składniowej. 40. Art. 87 ust. 2 Projektu — Sformułowanie „maksymalny limit wydatków” stanowi pleonazm. Wystarczy wyrażenie „limit wydatków”, które poprawia przejrzystość przepisu. 41. Art. 87 ust. 2 Projektu — Zbędny przecinek przed słowem „stosuje”. Usunięcie przecinka poprawi strukturę składniową i czytelność przepisu. 42. Art. 87 ust. 4 Projektu — Brak kropki po skrócie słowa „ustęp”, tj.: „ust”. Dodanie kropki zgodnie z zasadami języka polskiego zwiększa poprawność formalną. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach opiniowania Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko Uwagi Ogólne 1. Uwaga ogólna Szef Służby Cywilnej Zgodnie z art. 153 Konstytucji RP, Prezes Rady Ministrów jest zwierzchnikiem korpusu służby cywilnej, który działa w urzędach administracji rządowej. W związku z tym, wątpliwości budzi propozycja ukształtowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i Przewodniczącego tej Komisji. Komisja będzie miała typowe zadania regulacyjno-nadzorcze państwa, a jej biuro te zadania będzie współrealizowało. Będzie ponadto obsługiwać Komisję. Są to więc typowe zadania urzędnicze. W całości wpisują się one również w zakres przedmiotowy działu administracji rządowej – informatyzacja. Dział ten obejmuje m.in. zagadnienia dotyczące rozwoju usług świadczonych drogą elektroniczną, czy bezpieczeństwa cyberprzestrzeni. Wskazuje na to również art. 70 ust. 4 rozporządzenia 2024/1689 Parlamentu Europejskiego i Rady (EU)1, który stanowi, że właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. Zasadą powinno być zatem, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak, jak to ma miejsce w przypadku np. Urzędu Komunikacji Elektronicznej, Urzędu Transportu Kolejowego czy Urzędu Regulacji Energetyki). Realizacja obowiązków nałożonych na wskazane organy opiera się głównie na wykonywaniu zadań, które niemal w całości mają charakter zadań urzędniczych (np. prowadzenie postępowań administracyjnych, opiniowanie aktów prawnych, rozpatrywanie Uwaga nieuwzględniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 2 skarg). Zatem uzasadnione jest, aby zadania te wykonywali członkowie korpusu służby cywilnej. Usytuowanie tej jednostki w służbie cywilnej wzmocni ją poprzez nałożenie wysokich standardów wynikających z przepisów, w tym zasad służby cywilnej i zasad etyki korpusu służby cywilnej. Pozwoli to również zneutralizować ryzyka korupcyjne i da mechanizmy służąc przeciwdziałaniu nieporządanym sytuacjom. Usytuowanie Biura w służbie cywilnej zapewni także równość wszystkich osób realizujących ważne dla obywatelek i obywateli zadania. W uzasadnieniu projektodawca wskazał, że wzorował się na regulacjach dot. Komisji Nadzoru Finansowego, jako przykładu umiejscowienia organu nadzoru i regulatora rynku w strukturze organów administracji państwowej. Jest to jednak przykład jednostkowy. Ponadto KNF została utworzona w 2006 r., zaś w kolejnych latach ustawodawca odszedł od tego modelu, na rzecz umiejscawiania regulatorów rynku i organów nadzoru w strukturze urzędów administracji rządowej, w których funkcjonuje korpus służby cywilnej (UTK, URE, UKE itd.). 2. Uwaga ogólna Szef Służby cywilnej W art. 70 ust. 3 ww. rozporządzenia wskazano, że właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów. Problem pozyskania wyposażonych w odpowiednią wiedzę, fachowych pracowników może i powinien być rozwiązany przy pomocy regulacji zawartych w ustawie o służbie cywilnej dotyczących naboru. W nawiązaniu do uwagi nr 1 należy zatem wskazać, że nie ma żadnych przeszkód, aby pozyskiwanie pracowników do Biura Komisji odbywało się w drodze otwartego i konkurencyjnego naboru. Uwaga nieuwzględniona 3. Uwaga ogólna – rola Rzecznik Finansowy (...) na Rzeczniku Finansowym będzie spoczywał ciężar identyfikacji naruszeń zasad wykorzystywania systemów AI przez podmioty rynku finansowego, a w przypadku ustalenia Uwaga nieuwzględniona 3 Rzecznika Finansoweg o w systemie nadzoru nad SSI przesłanek dla stwierdzenia naruszenia przez nie Aktu o sztucznej inteligencj lub projektu ustawy, obowiązek zwrócenia się z właściwym wnioskiem do Komisji. Należy jednak mieć na uwadze, że Rzecznik Finansowy czerpie informacje o naruszeniach prawa przez podmioty rynku finansowego w oparciu o zgłoszenia w sprawach indywidualnych. Zgłoszenia te objęte są zaś tajemnicą zarówno przedsiębiorstwa, jak i bankową (lub inną zawodową). To zaś może stanowić istotną przeszkodę dla przekazania do Komisji danych na temat stwierdzonych przez Rzecznika Finansowego naruszeń. W projekcie ustawy nie znajdują się postanowienia uprawniające Komisję do otrzymywania takich informacji (uprawniające podmioty o których mowa w art. 7 ust. 3 projektu ustawy do przekazanie danych objętych tajemnicą). Rzecznik Finansowy sugeruje rozważenie by zawrzeć w projekcie ustawy analogiczne postanowienie jak to przewidziane w art. 17 ust. 1, 2 i 3 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, gdzie przewidziano zasady przekazywania informacji między Komisją Nadzoru Finansowego a Narodowym Bankiem Polskim: 1. Komisja i Narodowy Bank Polski przekazują sobie dokumenty i informacje, w tym chronione na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowych zadań. 2. Przepis ust. 1 stosuje się odpowiednio do przekazywania dokumentów i informacji pomiędzy Komisją a Bankowym Funduszem Gwarancyjnym, Ubezpieczeniowym Funduszem Gwarancyjnym, Rzecznikiem Finansowym oraz ministrem właściwym do spraw instytucji finansowych. 3. W celu określenia zasad współpracy i przekazywania dokumentów i informacji, o których mowa w ust. 1 i 2, Komisja zawiera porozumienia oraz umowy z podmiotami, o których mowa w ust. 1 i 2. Zawarcie w projekcie ustawy analogicznego postanowienia umożliwi udostępnianie informacji zgromadzonych w toku rozpatrywania spraw indywidualnych klientów podmiotów rynku finansowego. Dodatkowo wskazujemy na zmianę organizacji Komisji w zakresie uczestnictwa podmiotów z głosem doradczym. 4 W ocenie Rzecznika Finansowego za zasadnością uregulowania kwestii wymiany informacji pomiędzy Komisją i Rzecznikiem Finansowym przemawia również wykładnia art. 7 ust. 3 projektu ustawy w zw. z art. 25 ust. 4 projektu ustawy. Zgodnie z art. 7 ust. 3 projektu ustawy, Rzecznik Finansowy oraz przedstawiciele innych wymienionych tam instytucji mogą brać udział w posiedzeniach Komisji z głosem doradczym. W art. 25 projektu ustawy jest uregulowana kwestia wymiany informacji między Przewodniczącym Komisji, Zastępcami Przewodniczącego Komisji oraz członkami Komisji, informacji, w tym tajemnic prawnie chronionych. W art. 25 ust 4 projektu ustawy wskazano, komu ww. osoby mogą tych informacji udzielać, ale nie ma wśród nich przedstawicieli instytucji, które zgodnie z art. 7 ust 3 projektu ustawy mogą brać udział w posiedzeniach Komisji. Wydaje się więc zasadne dopuszczenie, przynajmniej w zakresie związanym z reprezentowaną branżą, również przedstawicieli instytucji wymienionych w art. 7 ust 3 projektu ustawy do wymiany informacji. W przypadku braku takich uprawnień, może to utrudniać realne wykonywanie głosu doradczego, a nawet niekorzystnie wpływać na prace Komisji, jeśli na posiedzeniach nie będzie możliwa swobodna wymiana informacji z uwagi na to, że biorą w nich udział osoby, które dostępu do tych informacji nie mają. 4. Uwaga ogólna PFR Ustawa i Rozporządzenie wprowadzają dodatkowe wymogi i obciążenia dla przedsiębiorców, co może generować znaczne koszty, zwłaszcza w przypadku startupów i małych przedsiębiorstw. Poddajemy pod rozwagę możliwość wprowadzenia ulg podatkowych lub innych form wsparcia finansowego lub uproszczeń dla przedsiębiorstw (zwłaszcza małych i średnich), które inwestują w rozwój zgodnych z przepisami systemów sztucznej inteligencji; Ustawa wprowadza obowiązki raportowania poważnych incydentów w sytuacji, gdy obowiązek taki nakłada już ustawa o krajowym systemie cyberbezpieczeństwa. Zachodzi więc ryzyko, iż w przypadku sporej liczby polskich podmiotów, tym PFR, ten sam incydent będzie powodował konieczność podwójnego raportowania. Postulujemy, o ile to możliwe, takie Uwaga nieuwzględniona Obowiązek raportowania, o którym mowa w dyrektywie NIS i NIS 2 dotyczy innego obszaru i oparte jest na innej podstawie prawnej niż obowiązki dotyczące systemów AI wynikające z rozporządzenia 2024/1689. Na poziomie technicznym kwestie raportowania incydentów mogą (i powinny) być - na wykraczającym poza fazę legislacji etapie realizacji - przygotowane i udostępnione użytkownikom w sposób zapewniający prostotę i spójność, pozwalając dokonać obu typów zgłoszeń w analogiczny sposób. 5 uregulowanie zgłaszania incydentów, które nie nakładałoby na dany podmiot obowiązków raportowania tego samego incydentu dwa razy do dwóch różnych organów administracji publicznej; 5. Uwaga ogólna NCBR Określone problemy w realizacji zapisów ustawy mogą wynikać z tego, że produkty, usługi, systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE i oddzielne krajowe urzędy mogą podejmować różne decyzje w tym zakresie. Powstaje szereg pytań np. czy wcześniej podjęte decyzje w innych krajach powinny wpływać - być uwzględniane w krajach, które później zajęły się daną sprawą. Co ze zgłaszaniem incydentów przez korporacje globalne - czy powinny być zgłaszane wszystkie incydenty czy też tylko te, które dotyczą użytkowników w danym kraju? Można wymienić w kontekście powyższych wątpliwości następujące problemy: 1. Różne decyzje krajowych urzędów Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie mechanizmu wzajemnego uznawania decyzji certyfikacyjnych między krajami UE. Decyzje podjęte w jednym kraju powinny być uwzględniane przez inne kraje, co zapewni spójność regulacyjną i ułatwi firmom działanie na rynku wewnętrznym. 2. Uwzględnianie wcześniejszych decyzji Problem: Brak mechanizmu uwzględniania wcześniej podjętych decyzji w innych krajach może prowadzić do powielania procesów certyfikacyjnych i zwiększenia kosztów dla firm. Propozycja zmiany: Wprowadzenie obowiązku uwzględniania decyzji podjętych w innych krajach UE. Można również rozważyć utworzenie centralnej bazy danych decyzji certyfikacyjnych, Uwaga nieuwzględniona Rolę koordynacji mającej na celu zapewnić spójność stosowania rozporządzenia 2024/1689 pełnić mają, na podstawie jego przepisów, instytucje powołane na podstawie jego przepisów i dla celów jego realizacji, czyli Komisja Europejska oraz Europejska Rada ds. AI. Wprowadzanie na poziomie krajowego wdrożenia przepisów regulujących te kwestie prowadziłoby do naruszenia ram przewidzianych dla krajowego legislatora w treści przepisów rozporządzenia. Jednocześnie uwagi dotyczące spójności i interoperacyjności prawnej systemu należy uznać za cenne. Ich zapewnieniu pomóc mają stałe prace eksperckie w ramach grup i podgrup powołanych przez Europejskiej Radzie ds. AI. W odniesieniu do kwestii zgłaszania incydentów przez firmy międzynarodowe - ta kwestia jest częściowo rozwiązana przez centralizację procedur zgłaszania incydentów dot. modeli AI ogólnego przeznaczeni bezpośrednio do Komisji Europejskiej (Urząd ds. AI). 6 która będzie dostępna dla wszystkich krajowych urzędów nadzorczych. 3. Zakres zgłaszania incydentów przez korporacje globalne Problem: Globalne korporacje mogą mieć trudności z określeniem, które incydenty powinny być zgłaszane w poszczególnych krajach. Zgłaszanie wszystkich incydentów może być niepraktyczne i obciążać administracyjnie zarówno firmy, jak i urzędy nadzorcze. Propozycja zmiany: Wprowadzenie jasnych wytycznych dotyczących zgłaszania incydentów. Dla przykładu: Incydenty powinny być zgłaszane w kraju, w którym miały miejsce, oraz w krajach, których użytkownicy zostali dotknięci. Można również rozważyć wprowadzenie centralnego systemu zgłaszania incydentów na poziomie UE, który będzie koordynował zgłoszenia między krajami. 4. Harmonizacja procedur zgłaszania Problem: Różne procedury zgłaszania incydentów w poszczególnych krajach mogą prowadzić do niejasności i opóźnień w zgłaszaniu incydentów przez globalne korporacje. Propozycja zmiany: Harmonizacja procedur zgłaszania incydentów na poziomie UE. Wprowadzenie jednolitych formularzy i procedur zgłaszania, które będą stosowane we wszystkich krajach członkowskich, co ułatwi firmom spełnianie wymogów regulacyjnych. 6. Uwaga ogólna NCBR Warto rozważyć możliwość zorganizowania funkcjonowania organu nadzoru ds. SSI na wzór Państwowej Komisji Badania Wypadków Lotniczych oraz Rady Ochrony i Ułatwień Lotnictwa Cywilnego, uregulowanych Ustawą z dnia 3 lipca 2002 r. „Prawo lotnicze” (Dz.U. 2022 poz. 1235). Wzorzec ten jest bardziej adekwatny do zadań związanych z rozwojem SI. PKBWL działa przy ministerstwie, wymagane kwalifikacje członków są precyzyjnie określone. Zadaniem KBWL jest analizowanie zaistniałych zdarzeń, opracowywanie raportów i zaleceń. W 7 przypadku KRiBSI dodatkowo dochodzą zadania związane z opiniowaniem SSI jeszcze przed ich oddaniem do użytku i wydawanie opinii. Warto zwrócić uwagę, że obsługę administracyjną PKBWL zapewnia ministerstwo, a członkowie komisji otrzymują wynagrodzenie. W KRiBSI w proponowanym kształcie członkowie Komisji nie otrzymują wynagrodzenia, a są jedynie oddelegowani do udziału Komisji. Może to, w połączeniu z brakiem odpowiednich kwalifikacji powodować brak zaangażowania w pracę Komisji z jednoczesnym jej przerzucaniem na barki pracowników Biura Komisji. Z kolei Rada Ochrony i Ułatwień Lotnictwa Cywilnego jest ciałem doradczym i opiniującym. Podobnie można podzielić kompetencje Komisji i Rady w przypadki SI, powierzając Radzie zadnia nakierowane na wypracowanie przyszłych strategii i wspieranie rozwoju SI. 7. Uwaga ogólna NCBR Koszty wdrożenia: Implementacja nowych przepisów wiąże się z wysokimi kosztami, zarówno dla państwa, jak i dla przedsiębiorstw. Firmy mogą być obciążone dodatkowymi kosztami związanymi z dostosowaniem się do nowych wymogów regulacyjnych. Warto rozważyć wprowadzenie programów wsparcia finansowego dla MŚP, które pomogą im dostosować się do nowych wymogów. Można również rozważyć ulgi podatkowe lub dotacje na wdrożenie systemów AI zgodnych z nowymi przepisami. Uwaga nieuwzględniona Postulat poza zakresem przedmiotu regulacji. Należy zaznaczyć, że koszty dostosowania się do nowych regulacji mogą być objęte przedmiotem finansowania w ramach programów grantowych. 8. Uwaga ogólna NCBR Brak jasności w niektórych przepisach: Niektóre zapisy ustawy są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. Oto kilka przykładów: • Nie w pełni jasne definicje systemów AI wysokiego ryzyka: Projekt ustawy nie precyzuje dokładnie, jakie systemy AI są uznawane za wysokiego ryzyka. To może prowadzić do różnorodnych interpretacji i trudności w ocenie, które systemy podlegają surowszym regulacjom. Uwaga uwzględniona częściowo W zakresie przetwarzania danych osobowych przepisy projektu zostały zmodyfikowane. W projekcie wprowadzano również instytucje wyjaśnień i indywidualnych opinii. Co do jednoznaczności terminów, wynikają one z treści przepisów rozporządzenia. Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689 i nie może modyfikować przepisów prawa UE 8 • Brak jednoznacznych kryteriów transparentności: Przepisy dotyczące transparentności algorytmów i oznaczania treści generowanych przez AI są niejasne. Firmy mogą mieć trudności z ustaleniem, jakie informacje muszą ujawniać, aby spełnić wymogi ustawy. • Nieprecyzyjne zasady dotyczące ochrony danych osobowych: Chociaż ustawa przewiduje ochronę danych osobowych, brak precyzyjnych definicji i procedur może prowadzić do niejednoznaczności w zakresie odpowiedzialności za naruszenia prywatności. • Brak szczegółowych wytycznych dla MŚP: Mikro, Małe i Średnie przedsiębiorstwa mogą mieć trudności z interpretacją przepisów dotyczących certyfikacji i zgodności, co może prowadzić do ich marginalizacji na rynku. Warto doprecyzować definicje i zapisy w ustawie, szczególnie te dotyczące transparentności algorytmów, oznaczania treści generowanych przez AI oraz ochrony danych osobowych. Można również wprowadzić wytyczne interpretacyjne, które pomogą w jednoznacznym stosowaniu przepisów. 9. Uwaga ogólna Prokuratoria Generalna Ze względu na zakładany w projekcie status Biura Komisji jako państwowej osoby prawnej (art. 5 ust. 1 projektu) i zakres kompetencji Komisji warto rozważyć, czy Biuro Komisji, po wejściu w życie projektowanej ustawy, nie powinno zostać wpisane na listę podmiotów zastępowanych przez Prokuratorię Generalną. Zgodnie z art. 12 ust. 3 ustawy o Prokuratorii Generalnej Rzeczypospolitej Polskiej listę takich podmiotów określa Prezes Rady Ministrów, w drodze rozporządzenia, mając na względzie m.in. przedmiot działalności osoby zastępowanej, znaczenie prowadzonej działalności dla interesów Rzeczypospolitej Polskiej, zapewnienie ochrony praw i interesów osób zastępowanych. Uwaga wyjaśniona Postulat zostanie uwzględniony poprzez zawnioskowanie o wpisanie Biura Komisji na listę podmiotów zastępowanych przez Prokuratorię Generalną 10. Uwaga ogólna ZPP Kluczowe wydaje się zapewnienie możliwie spójnej i jednolitej implementacji AI Act w poszczególnych państwach członkowskich. Cały koncept jednolitego rynku cyfrowego Uwaga uwzględniona 9 sprowadza się do stworzenia przestrzeni dla rozwoju europejskiej branży technologicznej pozbawionej niepotrzebnych sztucznych przeszkód, a także ustanowienia wspólnych ram prawnych, tak by działalność transgraniczna wpisana w naturę przedsiębiorstw cyfrowych, była możliwie najłatwiejsza. Mając to na uwadze, choć popieramy koncepcję powołania zupełnie nowego organu nadzoru nad AI w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, chcielibyśmy zwrócić uwagę na szeroki zakres jej uprawnień – potencjalnie wkraczający na pole kompetencji unijnej Rady ds. AI, co może prowadzić do fragmentaryzacji jednolitego rynku. Wątpliwości w tym zakresie dotyczą przede wszystkim możliwości wydawania indywidualnych i generalnych interpretacji w sytuacji, gdy wspomniana Rada jest umocowana właśnie do wydawania zaleceń i opinii nt. „wszystkich istotnych zagadnień związanych z wdrażaniem” AI Act. Tak sformatowane zakresy kompetencji nie muszą, ale z pewnością mogą prowadzić do kolizji, zwłaszcza jeśli inne państwa członkowskie podążą tą samą ścieżką i znaczna ich część zdecyduje się umożliwić krajowym organom wydawanie interpretacji czy zaleceń w obszarach objętych rozporządzeniem. Wydaje się, że z punktu widzenia zapewnienia jednolitości i spójności rynku, Komisja powinna być ciałem wykonawczym i ewentualnie punktem kontaktowym w zakresie wsparcia przedsiębiorców w obszarze np. wiedzy o utrwalonych i zatwierdzonych przez Radę ds. AI wzorcach czy praktykach. W celu uniknięcia potencjalnych niejasności komunikacyjno-interpretacyjnych odstąpiono od instytucji interpretacji indywidualnych i generalnych na rzecz w wyjaśnień i opinii indywidualnych. 11. Uwaga ogólna ZPP Pragniemy zwrócić uwagę na brak regulacji dotyczących tworzenia „piaskownic regulacyjnych” – w projekcie znajduje się wyłącznie ogólne zastrzeżenie, że podejmowanie działań mających na celu ich utworzenie jest jednym z zadań Komisji. Z uwagi na szczególną rolę sanboxów w regulacji AI Act, a także na ich potencjał do wspierania innowacji, wydaje się że przedstawiony projekt ustawy powinien bardziej szczegółowo i czytelnie odnosić się do ich tworzenia. Jak wynikałoby z uzasadnienia, będzie to przedmiotem dalszych prac legislacyjnych – natomiast wydaje się, że wsparcie dla rozwoju innowacji w zakresie AI jest co najmniej równie ważne, jak wprowadzenie mechanizmów kontrolnych. Z tego punktu Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 10 widzenia należy stwierdzić, że projekt ustawy pozostaje w powyższym zakresie niezbalansowany. 12. Uwaga ogólna dot. procesu kontroli Konfederacj a Lewiatan Cały proces kontroli powinien skupiać sie nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzytywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologi i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania szcztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na opertatora takich systemów. Uwaga wyjaśniona Postulat o charakterze ogólnym, zostanie wzięty pod uwagę podczas przygotowywania zmian w nowej wersji projektu. Dodatkowo, perspektywa MŚP jest podnoszona w ramach konsultacji aktów wykonawczychdzenia. publikowanych przez Komisję Europejską służących spójnemu stosowaniu przepisów rozporzą 13. Uwaga ogólna Pracodawcy RP W uzasadnieniu do projektu ustawy (pkt 2), wskazano, że powołanie nowej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest uzasadnione: 1) obserwowanym dotychczas zwiększaniem wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielania ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych; Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizacji w zakresie technologii sztucznej inteligencji. Powierzenie tych funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Jednocześnie, nowa Komisja będzie pełnić funkcje ciała eksperckiego i koordynacyjnego, w związku z czym istniejące organy nadzoru będą mogły współpracować z 11 2) potrzebą zapewnienia wykonywania nowych obowiązków w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli; 3) względami interesu sektora finansów publicznych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne punktu widzenia polskiego podatnika. Niemniej należy zwrócić uwagę, że w dużej mierze także po wejściu w życie nowej ustawy duża część obowiązków wynikających z Aktu o AI będzie realizowana nie tyle przez nowo utworzoną Komisję, ale właśnie przez UOKiK, UODO, UKE i inne dotychczas zaangażowane organy - nie tylko poprzez potrzebę oddelegowania odpowiednio kompetentnych przedstawicieli do Komisji, ale również w związku z koniecznością prowadzenia powiązanych postępowań wyjaśniających w razie naruszeń. W zaproponowanym modelu potencjalnie poddaje to w wątpliwość efektywność ekonomiczną i kosztową działalności Komisji, ponieważ z uzasadnienia wypływa wniosek, że duża ilość czynności będzie powielana przez różne podmioty w zależności od celów prowadzonego przez nie postępowania zamiast wykorzystywania efektów czynności wyjaśniających przeprowadzonych przez Komisję. Rozwiązaniem zidentyfikowanego problemu mogłoby być przekonstruowanie struktury kompetencji poszczególnych organów zaangażowanych w ochronę praw obywateli z uwzględnieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – w celu umożliwienia ich współpracy, a także wykorzystywania i wymiany informacji posiadanych przez te organy w zakresie wymaganym do osiągnięcia celów prowadzonych przez nie postępowań (korzystanie z materiałów Komisją w zakresie spraw dotyczących AI i leżących w ramach ich właściwości. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 12 z jednego postępowania w powiązanym z nim postępowaniu prowadzonym przez inny podmiot). Przysłuży się to optymalizacji kosztów działania państwa w ramach realizacji środków ochrony praw obywateli. Zwracamy uwagę na nieobecność w projektowanej ustawie wyodrębnionego segmentu dotyczącego zasad współpracy między organami na poziomie formalnym – poza dyskusjami międzyobszarowymi i działaniami opiniodawczymi. Niezależnie od powyższego, postulujemy dokonanie przeglądu działania przepisów projektowanej ustawy po upływie 12 albo 24 miesięcy od daty jej wejścia w życie w celu oceny jej skuteczności i ustalenia obszarów, w których potrzebna jest poprawa. 14. Uwaga ogólna Pracodawcy RP Zgodnie z Aktem o AI właściwy krajowy organ nadzoru nad systemami sztucznej inteligencji ma być organem niezależnym oraz wykonywać swoje uprawnienia w sposób bezstronny i wolny od uprzedzeń (vide OSR). Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) jednakże wynika, że nadzór nad działalnością Biura Komisji sprawować ma Prezes Rady Ministrów, który też nada mu, w formie zarządzenia, statut, a w skład Komisji mają wchodzić przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) ministra właściwego do spraw informatyzacji; 2) ministra powołanego do koordynowania działalności służb specjalnych, a w przypadku, gdy nie został wyznaczony – Kancelarii Prezesa Rady Ministrów; 3) Prezesa Urzędu Ochrony Danych Osobowych; 4) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 5) Komisji Nadzoru Finansowego; 6) Rzecznika Praw Obywatelskich; 7) Rzecznika Praw Dziecka; 8) Krajowej Rady Radiofonii i Telewizji; 9) Prezesa Urzędu Komunikacji Elektronicznej. Proponowana struktura Komisji, a także jej umiejscowienie w systemie organów władzy publicznej wskazuje, że postulowana przez Akt o AI bezstronność i niezależność Komisji może nie zostać zapewniona, z uwagi na podległość Prezesowi Radu Ministrów oraz uczestnictwo w Komisji dwóch ministrów. Statut Komisji powinien szczegółowo wskazywać w zakresie dot. jej funkcjonowania, że działa ona w sposób niezależny i Uwaga wyjaśniona. Postulat o charakterze ogólnym nieaktualny z uwagi na zmianę przepisów dotyczących organizacji Komisji oraz powoływania przewodniczącego a także organizacji nadzoru nad Biurem Komisji. 13 samodzielny, a jej podległość Prezesowi Rady Ministrów powinna mieć jedynie wymiar formalny i organizacyjny, z wyłączeniem wpływu na działalność merytoryczną Komisji. Procedury podejmowania decyzji przez Komisji nie powinny faworyzować przedstawicieli struktur rządowych. 15. Uwaga ogólna Pracodawcy RP Z dalszej części uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) wynika, że jako organ nadzoru rynku Komisja będzie rozpatrywała wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów AI wysokiego ryzyka, przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów AI oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Proponowana ustawa nie zawiera przepisów regulujących opisaną obok aktywność Komisji. Jako konieczne w naszej ocenie jest uzupełnienie ustawy o kompleksowy zespół norm w tym zakresie. Uwaga nieuwzględniona Obecny projekt ustawy realizuje wymagania związane ze stosowaniem rozporządzenia 2024/1689 od 2 sierpnia 2025 roku. Dodatkowe zadania Komisji zostaną przypisane na późniejszym etapie. 16. Uwaga ogólna Pracodawcy RP Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2): Do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję. Ustawa nie precyzuje jednak, w jakich kwestiach będzie wypowiadać się Rada, w szczególności od uznaniowej decyzji Komisji zależy, w jakich sprawach Rada będzie miała możliwość wyrażenia swojej opinii. Proponujemy uzupełnienie projektu ustawy (art. 30 ust. 1) o wyliczenie spraw o najistotniejszym znaczeniu dla rozwoju i bezpieczeństwa systemów AI, w odniesieniu do których Komisja jest zobowiązana do uzyskania opinii Rady. Uwaga nieuwzględniona Z uwagi na opiniodawczo-doradczy charakter Rady zasadny wydaje się pozostawienie szerokiego spektrum spraw w jakich mogą wydać opinię Komisji. 17. Uwaga ogólna PUODO Struktura nadzorcza rynku krajowego w obszarze stosowania aktu w sprawie sztucznej inteligencji powinna służyć interesom publicznym. Dlatego ważne jest uwzględnienie w projektowanym modelu nadzoru rynku celów, ról i uprawnień istniejących organów nadzorczych właściwych dla poszczególnych sektorów oraz horyzontalnych obszarów sprawowanego nadzoru. Uwaga nieuwzględniona Mając na wglądzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego 14 18. Uwaga ogólna PUODO Prawa podstawowe, których gwarancje ochrony wynikają z Karty praw podstawowych Unii Europejskiej (KPP UE) oraz Traktatu o funkcjonowaniu Unii Europejskiej (TFUE), podlegają szczególnemu nadzorowi w zakresie zastosowań sztucznej inteligencji. Jednym z tych praw jest prawo do ochrony danych osobowych, a jego przestrzeganie podlega kontroli niezależnego organu, co wynika nie tylko z art. 8 KPP UE oraz art. 16 TFUE, ale też wprost z art. 51 rozporządzenia 2016/679 oraz przepisów ustawy o ochronie danych osobowych, którym jest w polskim systemie prawa wyłącznie Prezes Urzędu Ochrony Danych Osobowych (dalej jako Prezes UODO). Projekt ustawy, kształtując nadzór nad systemami sztucznej inteligencji w Polsce, powinien uwzględniać szczególną pozycję organu nadzorczego do spraw ochrony danych osobowych, wynikającą zarówno z przepisów rozporządzenia 2024/1689, jak i rozporządzenia 2016/679. Uwaga nieuwzględniona Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego. W pozostałym zakresie projekt ustawy nie narusza uprawnień i kompetencji organu ochrony danych osobowych 19. Uwaga ogólna PUODO Brak wdrożenia art. 74 ust. 8 rozporządzenia 2024/1689 Projektowana ustawa nie odzwierciedla także kompetencji Prezesa Urzędu Ochrony Danych Osobowych wynikających wprost z aktu w sprawie sztucznej inteligencji, co rodzi obawy o zgodność projektu ustawy z przepisami rozporządzenia. Zgodnie z wyraźną dyspozycją art. 74 ust. 8 rozporządzenia 2024/1689 – w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia – państwa członkowskie jako organy nadzoru rynku do celów przedmiotowego rozporządzenia wyznaczają właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41–44 dyrektywy (UE) 2016/680. Z treści art. 74 ust. 8 rozporządzenia 2024/1689 wynika, że aby organ nadzorczy do spraw ochrony danych osobowych sprawował nadzór w odniesieniu do systemów w przepisie tym określonych wymagana jest decyzja Uwaga nieuwzględniona Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy. 15 ustawodawcy krajowego w tym zakresie. Rozporządzenie co prawda jest aktem obowiązującym bezpośrednio, o czym stanowi art. 288 TFUE, jednak w tym przypadku prawodawca unijny zdecydował, że stosowne działania powinno podjąć się na poziomie krajowym – formalnie wyznaczyć organ, a także ewentualnie uregulować inne kwestie proceduralne, które się z tym mogą wiązać. Ustawodawca krajowy jest zatem de iure związany ww. regulacją – nie może wyznaczyć innego organu niż organ wskazany w art. 74 ust. 8 rozporządzenia 2024/1689 w odniesieniu do wskazanych wyżej systemów AI wysokiego ryzyka. Jeżeli nie chce narazić się na zarzut nieprawidłowego wdrożenia przepisów unijnych, to musi takie działanie podjąć. Tymczasem w zakresie spraw, o których mowa w art. 74 ust. 8, projektodawca nakłada jedynie obowiązek współpracy Komisji z Prezesem UODO (art. 6 ust. 3 pkt 3 projektu), nie określając nawet jasnych i przejrzystych mechanizmów współpracy. W kontekście powyższego oraz wcześniejszych uwag zwrócić uwagę należy również na stanowisko Europejskiej Rady Ochrony Danych, wyrażone w wydanym w lipcu 2024 r. Oświadczeniu EROD 3/2024 w sprawie roli organów ochrony danych w ramach aktu w sprawie sztucznej inteligencji8. Najistotniejsze w tym kontekście jest zalecenie, aby organy ochrony danych zostały wyznaczone jako organy nadzoru rynku w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka wykorzystywanych do egzekwowania prawa, zarządzania granicami, sprawowania wymiaru sprawiedliwości i procesów demokratycznych, a zatem kwestii, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. EROD wskazała dodatkowo, że państwa członkowskie powinny rozważyć wyznaczenie organów ochrony danych jako organów nadzoru rynku również w odniesieniu do innych systemów sztucznej inteligencji wysokiego ryzyka, z uwzględnieniem opinii krajowego organu ochrony danych, w szczególności w przypadku gdy te systemy sztucznej inteligencji wysokiego ryzyka znajdują się w sektorach, które mogą mieć wpływ na prawa i wolności osób fizycznych w odniesieniu do przetwarzania danych osobowych. Organy ochrony danych, o ile zostały wyznaczone jako organy nadzoru rynku, powinny zostać 16 wyznaczone jako pojedyncze punkty kontaktowe dla społeczeństwa i ich odpowiedników na szczeblu państw członkowskich i UE. Podkreślono, że organy ochrony danych powinny odgrywać istotną rolę w egzekwowaniu aktu w sprawie sztucznej inteligencji, ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych. 20. Uwaga ogólna PUODO Ryzyko dualizmu rozstrzygnięć. Przepisy rozporządzenia 2016/679 dotyczą nadzoru nad sprawami z zakresu przetwarzania danych osobowych regulowanymi przepisami aktu w sprawie sztucznej inteligencji. Ochrona danych osobowych przetwarzanych przez systemy sztucznej inteligencji jest zatem materią, która podlega kompetencjom organu nadzorczego ds. ochrony danych na mocy rozporządzenia 2016/679. Już obecnie organy nadzorcze – w tym Prezes UODO – podejmują działania wobec operatorów systemów sztucznej inteligencji, którzy nie spełniają swoich obowiązków w procesach przetwarzania danych, w tym ochrony danych, jak np. w zakresie realizacji obowiązku informacyjnego wynikającego z art. 13 rozporządzenia 2016/679 w zakresie, w jakim wykorzystywane w uczeniu algorytmów są dane przekazywane przez użytkowników w ramach interakcji z usługami takimi, jak Chat GPT. Dlatego też – niezależnie od ostatecznego kształtu projektowanej ustawy – dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679, a przepisy rozporządzenia 2024/1689 wyraźnie to potwierdzają. W związku z tym, kolejnym istotnym zagadnieniem, do którego należy się odnieść, są te przepisy projektowanej ustawy, które dotyczą nakładania się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z aktu w sprawie sztucznej inteligencji. Żaden z tych aktów nie stanowi lex specialis wobec drugiego. Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji nie można zatem pomijać uprawnień Prezesa UODO i jego wiodącej roli w zakresie Uwaga nieuwzględniona Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu. 17 ochrony danych osobowych. W tym miejscu wskazać należy na wyrok TSUE w sprawie C-252/21 Meta Platforms, który dotyczy współpracy organu ochrony konkurencji z organem ds. ochrony danych w Niemczech. Trybunał wskazał na konieczność zapewnienia poszanowania kompetencji organu nadzorczego ds. ochrony danych w szerokim zakresie ochrony danych osobowych wraz z jego wyłączną kompetencją wykładni przepisów rozporządzenia 2016/679. Stanowisko Trybunału powinno być uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Organ nadzorczy ds. ochrony danych musi być uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych. Implikuje to, jak wyżej wskazano, potrzebę doprecyzowania warunków i form współpracy. 21. Uwaga ogólna Organ nadzoru KRRiT W projekcie organowi temu nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte w formie ustawy w Hiszpanii (Estrategia de Inteligencia Artificial 2024), a prace legislacyjne zmierzające w podobnym kierunku prowadzone są m.in. we Włoszech. W powyższym kontekście podtrzymuję jednak, że w Polsce funkcję organów nadzoru ww. rynku powinny pełnić obecnie istniejące organy, co wskazałem już w piśmie z dnia 18 kwietnia 2024 roku, znak: DS.071.25.1.2024 jako odpowiedź na prekonsultacje prowadzone przez Pański resort. Wynika to głównie z dotychczasowego doświadczenia, wykwalifikowanej kadry oraz merytorycznej znajomości zagadnień rynkowych, jakie posiadają już istniejące podmioty. Nie bez znaczenia jest również sfera ekonomiczna – rozszerzenie kompetencji już istniejących instytucji o nowe zadania wynikające z Aktu w sprawie sztucznej inteligencji ograniczyłoby znacznie wydatki, w przeciwieństwie do powołania i stworzenia nowych struktur. Istotna jest również wiedza merytoryczna, którą posiadają pracownicy już funkcjonujących na rynku podmiotów. Kapitał ludzki w odniesieniu do rozumienia mechanizmów sztucznej inteligencji jest wręcz podstawą udanej transformacji gospodarczej i społecznej. Szczególnie, że zakres tematyczny, który obejmuje unijne rozporządzenie, realizowany jest już przez Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizację w zakresie technologii sztucznej inteligencji. Powierzenie tej funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Kwestia zaangażowania kluczowych instytucji publicznych w spójny nadzór nad działaniem systemów AI ma być zapewniony poprzez kolegialną i różnorodną kompozycję składu. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 18 te podmioty. Ilustracją tego są choćby kompetencje KRRiT w odniesieniu do szeroko pojętej ochrony małoletnich, czy też kwestie związane z reklamą. Byłby to zatem bardziej ekonomiczny model, niemniej jednak, przyjmując wyniki prekonsultacji, poniżej odnoszę się do modelu wskazanego w obecnym projekcie ustawy. 22. Uwaga ogólna KRRiT Za pozytywne należy w nim uznać: • rozwiązanie zaproponowane w art. 7 ust. 2 pkt 8), zgodnie z którym jednym z członków Komisji będzie przedstawiciel Krajowej Rady Radiofonii i Telewizji. W kontekście bezpieczeństwa usług należy podkreślić potrzebę udziału wszystkich regulatorów rynku cyfrowego, do których kompetencji należy nadzór nad stosowanymi systemami zautomatyzowanego przetwarzania danych przy usługach cyfrowych, w tym przy usługach medialnych; • przyjęcie, że Komisja będzie mogła wszcząć postępowanie z urzędu, na podstawie skargi lub na wniosek organu, o którym mowa w art. 7 ust. 2 i 3 ustawy, tj. również na wniosek KRRiT. W ramach prowadzonego postępowania organ nadzoru będzie mógł prowadzić postępowanie dowodowe, do którego zastosowanie będą miały odpowiednio przepisy o kontroli określone w ustawie. W przypadku wydanej przez Komisję decyzji nie będzie możliwości odwołania w ramach procedury administracyjnej. Wyłączona jest także możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową poprzez złożenie skargi do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów; • zapewnienie, aby w zakresie sprawowania nadzoru nad systemami sztucznej inteligencji i wykonywania swoich zadań, Komisja była organem niezależnym, sprawującym nadzór nad rynkiem w sposób autonomiczny, a wszyscy członkowie Komisji Uwaga nieuwzględniona Wskazane funkcje KRRiT będzie mogła realizować za pośrednictwem przedstawiciela, który będzie członekiem Komisji. 19 byli równi, posiadając prawo uczestnictwa w posiedzeniach Komisji, uzyskiwania informacji, głosowania oraz podejmowania rozstrzygnięć. Ponadto, w celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych. Krajowa Rada Radiofonii i Telewizji jest praktykiem w zakresie nadzoru nad mediami elektronicznymi. Do zadań KRRiT należy, między innymi: ochrona pluralizmu w przekazie informacyjnym i publicystycznym, identyfikacja i monitorowanie treści dostawców, ochrona odbiorców, zwłaszcza małoletnich, przed mową nienawiści, pornografią, nieuzasadnioną przemocą oraz ochrona wszystkich odbiorców w odniesieniu do aspektów związanych z porządkiem publicznym, zdrowiem i bezpieczeństwem konsumentów. W związku z powyższym Krajowa Rada Radiofonii i Telewizji powinna zostać ustanowiona jako organ odpowiedzialny za kontrolę i regulację treści wytwarzanych przez systemy sztucznej inteligencji w zakresie usług audiowizualnych. Należy przy tym rozważyć rozszerzenie ustawowych kompetencji KRRiT o narzędzia pozwalające na ochronę wizerunku osób publicznych oraz zwalczanie takich zjawisk jak Deep Fake w mediach elektronicznych czy też wykorzystywanie systemów sztucznej inteligencji do manipulacji zachowaniem ludzi za pośrednictwem mediów lub platform internetowych. Należy wskazać, że włączenie Krajowej Rady Radiofonii i Telewizji do grupy organów nadzorczych, z którymi współpracuje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (przepis art. 6 ust. 3 projektowanej ustawy) jest nieodzowne do ustanowienia takich ram zarządzania, które umożliwią koordynację i właściwe stosowanie unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Unijne rozporządzenie obejmuje swoim zakresem szereg problemów związanych z możliwością realizacji swobody wypowiedzi, prawa do informacji oraz wolnością formowania i wyrażania opinii. Dostarcza środków do zwalczania 20 dezinformacji, dyskryminacji w sferze informacyjnej i mowy nienawiści w kontekście funkcjonowania systemów sztucznej inteligencji ogólnego przeznaczenia. Zwiększa także ochronę grup szczególnie wrażliwych, w tym osób małoletnich przed treściami szkodliwymi, między innymi, poprzez obowiązki przejrzystości i rozliczalności w zakresie procesu trenowania i testowania modeli sztucznej inteligencji ogólnego przeznaczenia i modeli sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym. Z perspektywy ochrony tych praw i wartości, postuluję rozszerzenie zadań Krajowej Rady Radiofonii i Telewizji, w szczególności w odniesieniu do następujących przepisów Aktu w sprawie sztucznej inteligencji: 1. Rozdział V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo-dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; 2. Rozdział VI Środki wspierające innowacyjność: art. 57 (piaskownice regulacyjne w zakresie AI) w szczególności w zakresie identyfikacji ryzyka dla praw podstawowych (w tym swobody wypowiedzi, prawa do 21 informacji, ochrony przez dyskryminacją, ochrony praw dziecka), oraz wspierania testowania środków ograniczających ryzyko i weryfikacji skuteczności tych środków; 3. Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. 23. Uwaga ogólna KRRiT należy rozważyć, czy prowadzenie postępowania administracyjnego i wydawanie decyzji przez organ składający się łącznie z 12 członków nie będzie prowadzić do paraliżu decyzyjnego Uwaga nieuwzględniona Model kolegialnych organów nadzoru jest funkcjonuje w systemie polskiego prawa nie powodując paraliżu decyzyjnego. 24. Uwaga ogólna Rada Legislacyjna [Brak przesądzenia w Projekcie o związaniu Komisji aktami soft law wydawanymi przez Komisję Europejską] Przy okazji omawiania w tym miejscu niniejszej opinii skutków prawnych aktów podejmowanych przez Komisję (w tym aktów o charakterze interpretacyjnym) warto jest zgłosić postulat de lege ferenda o przesądzeniu w Projekcie, że Komisja jest w ramach wydawanych przez siebie aktów indywidualnych lub generalnych obowiązana uwzględniać akty prawa miękkiego wydawane przez Komisję Europejską na podstawie Rozporządzenia UE 2024/1689, w tym wytyczne wydawane przez Komisję Europejską na podstawie art. 96 Rozporządzenia UE 2024/1689. O takim obowiązku uwzględniania przez polski organ regulacyjny wytycznych i zaleceń Komisji Europejskiej jest chociażby mowa w art. 4 ust. 1 ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej18 w odniesieniu do Prezesa Urzędu Komunikacji Elektronicznej. Podobne rozwiązanie prawne występuje na gruncie obowiązującej jeszcze przez najbliższe dni ustawy z dnia 16 lipca 2004 r. Prawo telekomunikacyjne19 (ustawa ta zostanie uchylona z dniem 10 listopada 2024 r. i zostanie zastąpiona powołaną ustawą Prawo komunikacji elektronicznej20), przy czym tego rodzaju rozwiązanie prawne jest w doktrynie oceniane jako udana próba włączenia do polskiego porządku prawnego (poprzez ustawę) aktów unijnego soft law, co zapobiega wątpliwościom odnośnie Uwaga uwzględniona Dokonano zmian w art. 11. 22 skutków tych unijnych aktów prawnych dla polskiej administracji publicznej. Tytuł ustawy 25. Tytuł ustawy BGK Propozycja o funkcjonowaniu nadzoru nad systemami sztucznej inteligencji albo o nadzorze nad rynkiem systemów sztucznej inteligencji Projekt ustawy definiuje sposób sprawowania nadzoru nad systemami sztucznej inteligencji oraz funkcjonowania organów nadzoru. Nie zawiera zapisów dotyczących innych aspektów funkcjonowania systemów AI. Tytuł może być mylący dla odbiorców regulacji Analogicznie jak przy ustawach “o nadzorze nad rynkiem finansowym” czy “o nadzorze nad rynkiem kapitałowym” Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 26. Tytuł projektu UKNF Urząd Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) proponuje rozważenie zmiany tytułu projektu na „ustawę o nadzorze nad rynkiem systemów sztucznej inteligencji”. W ocenie UKNF taka zmiana spowoduje, że tytuł ustawy będzie lepiej odzwierciedlał przedmiot tej regulacji. Co do zasady, projekt ustawy nie definiuje ani nie kategoryzuje rynku systemów sztucznej inteligencji (dalej również jako: „systemy AI”), ani obowiązków jego uczestników. Celem projektowanej ustawy – w jej aktualnym kształcie - jest stworzenie ram prawnych dla sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce. Tym samym nazwa „ustawa o systemach sztucznej inteligencji” jawić się może jako legislacyjnie nieprecyzyjna. Niezależnie od powyższej uwagi zasadnym wydaje się uporządkowanie siatki pojęciowej – przykładowo: art. 1 pkt 1 „nadzoru nad rynkiem systemów sztucznej inteligencji”, tytuł rozdziału 2 „nadzoru nad sztuczną inteligencją”, art. 5 ust. 4 pkt 1 – „nadzoru nad rynkiem” i in. Do rozważenia jest też uproszczenie nazwy organu właściwego – np. „Komisja ds. Sztucznej Inteligencji” z możliwością posługiwania się czytelnym skrótem „KSI”. Odpowiadałaby to także nazwie organu Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 23 opiniodawczo-doradczego – tzn. Rady ds. Sztucznej Inteligencji, o której mowa w art. 28 projektu. 27. Odnośnik Rada Legislacyjna [Usterka redakcyjna w odnośniku nr 2 Projektu] Odnośnik nr 2 Projektu wymieniający ustawy nowelizowane przez Projekt zawiera usterkę redakcyjną, polegającą na pominięciu wyrazu: „państwowym” w tytule nowelizowanej ustawy z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem państwowym10 (obecnie wymieniono w odnośniku 2 Projektu: „ustawę z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem.”). Usterka ta wymaga oczywiście naprawienia. Uwaga uwzględniona poprzez dodanie wspominanego terminu. Rozdział 1 Przepisy ogólne (art. 1 – art. 4) 28. Art. 1 pkt 6 PFR Projekt Ustawy w aktualnym kształcie nie określa rodzajów działań wspierających rozwój systemów sztucznej inteligencji. Jedynie w ramach projektowanego art.11 jako jedno z zadań Komisji wskazano „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. Proponujemy w miarę możliwości doprecyzowanie Ustawy w tym zakresie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 29. Art. 1 pkt 6 IAB Polska Ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. W Projekcie ten obszar nie został w szczególny sposób podjęty poza art. 11 ust. 1 pkt 3 i art. 12 ust. 2 Projektu. Tym samym rekomendujemy przedstawienie planów Ministerstwa (np. informację o innych aktach prawnych lub nowelizacjach) na zwiększenie istotności Komisji w rozwój AI w Polsce, w tym w zakresie wykorzystania narzędzi przewidzianych w Projekcie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 30. Art. 2 PFR Proponujemy nadać następujące brzmienie: „Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.” Uwaga uwzględniona 31. Art. 2 Konfederacj a Lewiatan Projekt (art. 2 ust. 1) bazuje na zakresie podmiotowym określonym w rozporządzeniu. Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości Uwaga częściowo uwzględniona Projekt zawiera nowe brzmienie treści art. 2 ust. 1 i art. 4. 24 wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole oraz postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie rozporządzenia (AI Act) globalnie, istotne będzie zatem przesądzenie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Proponowany ust. 2 wydaje się być zbędny, biorąc pod uwagę zakres regulacji na poziomie rozporządzenia, który obejmuje również modele AI ogólnego przeznaczenia. Jeśli jednak za wprowadzeniem tego przepisu stoją określone cele, powinny zostać one wyjaśnione w uzasadnieniu do ustawy. Przedłożony projekt przenosi zawiera odesłania do wybranych zakresów stosowania (zob. art. 2 i 4 projektu), pomijając wiele innych wyłączeń zawartych w art. 2 AI Act. Nie jest przy tym jasne, jaki był klucz doboru polskiego projektodawcy. Uważamy, że należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo uczynić to w sposób wyczerpujący, a zatem uwzględniający całą treść przywołanego przepisu. Dodatkowo, w art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi o obywateli - czy do nich też stosuje się tę ustawę? Czy celem 25 ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowana AI? 32. Art. 2 Pracodawcy RP Różne organy nadzorcze z państw członkowskich mogą jednocześnie stosować regulacje wobec tego samego przedsiębiorstwa. Artykuł 2 ustawy, dotyczący zakresu podmiotowego, może prowadzić do niejasności w interpretacji kompetencji Komisji w odniesieniu do podmiotów zagranicznych. Należy dokładnie określić, wobec których jednostek międzynarodowych grup kapitałowych Komisji będzie podejmować działania. Aby uniknąć problemów interpretacyjnych, proponujemy precyzyjne zdefiniowanie zakresu stosowania przepisów, szczególnie wobec zagranicznych przedsiębiorstw posiadających oddziały lub spółki zależne w Polsce. W ten sposób międzynarodowe firmy zyskają klarowność regulacyjną i stabilne warunki inwestycyjne w Polsce. Uwaga nieuwzględniona Zapewnienie spójności stosowania rozporządzenia zapewnić mają upoważnione lub powołane na podstawie jego przepisów organy unijne (Komisja Europejska) i reprezentujące państwa członkowskie (Europejska Rada ds. AI). 33. Art. 2 ust. 1 KRRiT w art. 2 ust. 1 po wyrazach „stosuje się” należy dodać wyraz „do” Uwaga uwzględniona 34. Art. 2 ust. 1 IAB Polska Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Projekt ustawy opiera się na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Może to jednak rodzić problemy w kontekście stosowania przepisów przez polski organ nadzorczy, ponieważ skutki regulacji oraz decyzji krajowego organu mogą mieć wpływ transgraniczny. W związku z tym pojawiają się wątpliwości co do rzeczywistego zakresu kompetencji polskiego organu nadzorczego, zwłaszcza wobec zagranicznych przedsiębiorców, którzy mogą być jednocześnie kontrolowani przez organy nadzoru z różnych państw członkowskich UE. Kwestią sporną jest możliwość podejmowania przez polski organ działań wobec przedsiębiorstw z siedzibą w innych krajach członkowskich lub państwach trzecich, szczególnie gdy na terytorium Polski działają lokalne spółki zależne lub oddziały tych przedsiębiorstw. W przypadku, gdy dany przedsiębiorca prowadzi działalność związaną z AI Act na poziomie globalnym, Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 2 ust. 1. Należy zaznaczyć, że kategoria “osób znajdujących się w Unii” ma szersze znaczenie niż “obywateli państw UE”, co znajduje odzwierciedlenie w przepisach projektu. Należy również wskazać, że ustawa umożliwia m.in. złożenie skargi na działanie systemu AI, a więc w zakresie podmiotowym oddziałuje także na podmioty nie będące dostawcami, dystrybutorami, importerami czy podmiotami stosującymi systemy i modele AI. 26 kluczowym wyzwaniem będzie określenie, w stosunku do którego podmiotu międzynarodowej grupy kapitałowej polski organ powinien podjąć działania. W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi w tym przypadku o obywateli. W związku z tym należy ocenić (i ewentualnie odpowiednio zmodyfikować wskazany przepis projektu), czy także i do nich ustawa ma być stosowana czy jednak celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI, a nie tych, którzy są \"obiektami\" stosowana AI. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 35. Art. 2 ust. 2 IAB Polska O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała Uwaga uwzględniona Dodano w art. 3 definicję “modelu sztucznej inteligencji ogólnego przeznaczenia”. 27 określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 36. Art. 2 ust. 2 Rada Legislacyjna [Brak odesłania w art. 2 ust. 2 Projektu do definicji legalnej w art. 3 pkt 63 Rozporządzenia UE 2024/1689] W przepisie art. 2 ust. 2 Projektu brak jest potrzebnego tam odesłania do przepisu art. 3 pkt 63 Rozporządzenia 2024/1689 zawierającego legalną definicję pojęcia „model AI ogólnego przeznaczenia”. Art. 2 ust. 2 Projektu stanowi, że „O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.”. Pojęcie „modelu sztucznej inteligencji ogólnego przeznaczenia” nie jest legalnie zdefiniowane w Projekcie (zob. art. 3 Projektu zawierający słowniczek wyrażeń ustawowych), natomiast ma ono swoją legalną definicję w art. 3 pkt 63 Rozporządzenia UE 2024/1689. W odniesieniu do wielu innych pojęć występujących w Projekcie i mających swoje legalne definicje w Rozporządzeniu UE 2024/1689, w przepisach Projektu ma miejsce prawidłowy zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie (zob. art. 3 pkt 1-17 Projektu). De lege ferenda identyczny zabieg należy zastosować w art. 2 ust. 2 Projektu, tak aby zachować w Projekcie spójność i konsekwencję w stosowaniu tej legislacyjnej praktyki i aby nie pozostawiać kluczowego pojęcia Projektu bez legalnej definicji, a konkretnie bez definicji przez odesłanie. Uwaga uwzględniona. W art. 3 pkt 17 projektu dodano definicję modelu sztucznej inteligencji ogólnego przeznaczenia przez odesłanie do art. 3 pkt 63 rozporządzenia 2024/1689. 37. Art. 3 PUODO Zwrócić uwagę należy także na art. 3 projektu ustawy, w której znajduje się słownik definicji legalnych. W ocenie Prezesa UODO jest on zbędny i sprzeczny z zasadami techniki prawodawczej. Ustawa nie nadaje nowego brzmienia tym definicjom, natomiast wprost odsyła do treści aktu w sprawie sztucznej inteligencji, które do przepisy i tak będą stosowane bezpośrednio – powtarzanie ich w treści ustawy może wręcz rodzić wątpliwości pod kątem zakazu powtarzania przepisów Uwaga wyjaśniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 28 rozporządzeń UE w prawie krajowym, jeżeli samo rozporządzenie tego nie przewiduje. 38. Art. 3 PFR Skoro w art. 2 Ustawy przywołano pojęcie „modeli sztucznej inteligencji ogólnego przeznaczenia”, wydaje się, że to pojęcie również powinno być wskazane w projektowanym art. 3 Ustawy. Prosimy o rozważenia usunięcia definicji pojęcia \"wprowadzenie do obrotu\", które to pojęcie nie pojawia się w dalszej części projektu Ustawy. Uwaga uwzględniona Zmiany w zakresie wprowadzenia nowego terminu - „modeli sztucznej inteligencji ogólnego przeznaczenia”. 39. Art. 3 IZB Polska Lektura artykułu nie jest łatwa ze względu na liczne odwołania do AI Act, które i tak wymagają zapoznania się z treścią definicji legalnych zawartych w AI Act. Przepis ten można uprościć np. bezpośrednio odwołując się do słowniczka AI Act, zamiast pojedynczego wskazywania pojęć w art. 3 Projektu. Dzięki temu treść ustawy będzie przystępniejsza. (dot. art. 3 pkt 15, tj. definicji piaskownic regulacyjnych) Zgodnie z uzasadnieniem projektu ustawy: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)\". Faktycznie, Projekt do piaskownic się nie odnosi. Czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Ministerstwo wskazało także, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 40. Art. 3 Konfederacj a Lewiatan Powinniśmy się jednorazowo odnieść do definicji - w jednym zdaniu, które wskazywałoby, że użyte w ustawie pojęcia mają to samo znaczenie, co w rozporządzeniu. W obecnej formie przepis nie wnosi wartości dodanej, a jedynie wydłuża ustawę. Zwiększy to czytelność i zrozumiałość tekstu ustawy. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 29 41. Art. 3 pkt 8 UKNF Projekt nie wskazuje krajowego organu notyfikującego, o którym mowa w art. 3 pkt 19 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), dalej: „rozporządzenie 2024/1689”. Z uzasadnienia projektu ustawy wynika, że organem notyfikującym w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689 będzie Minister właściwy do spraw informatyzacji. W ocenie UKNF projekt ustawy w rozdziale 6 powinien w sposób jednoznaczny przesądzić tę kwestię. Ponadto przyjętą w art. 3 pkt 8) definicją „organu notyfikującego” nie posłużono się ani razu w treści projektu. Uwaga uwzględniona Nadano nowe brzmienie art. 64 projektu wskazującego organ notyfikujący. 42. Art. 3 pkt 15 Konfederacj a Lewiatan Zgodnie z uzasadnieniem projektu ustawt: „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" Faktycznie, projekt ustaw do piaskownic się nie odnosi - czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane, bowiem niżej wskazano, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga uwzględniona W projekcie dodano rozdział 8 - Środki wspierające innowacyjność - regulujący zagadnienie piaskownic regulacyjnych. 43. Art. 4 BGK Dodanie pkt 4: 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 ustawy o systemach sztucznej inteligencji nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: Uwaga uwzględniona Uzupełniono projekt o wspomniane obszary wyłączenia poprzez zawarcie nowego brzmienia art. 2 i 4 (rozróżniającego wyłączenia podmiotowe i przedmiotowe). 30 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. 44. Art. 4 IAB Polska Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: “3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.)), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z uwag innych podmiotów. 45. Art. 4 Konfederacj a Lewiatan W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: „3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. Uwaga uwzględniona 31 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uzasadnienie: Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? Ponadto, zwracamy uwagę na błędnie napisane wyłączenie zawarte w obecnym projekcie w art. 4 pkt 3. Wyłączenie to może mieć podstawowe znaczenie dla przemysłu kreatywnego: skoro „czysto naukowe” systemy AI pozostaną poza zakresem stosowania AIA, tym samym pozostaną one poza całym szeregiem obowiązków wynikających z Rozporządzenia (zwłaszcza obowiązku przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI). Proponowany przepis stanowi, iż ustawy „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (...)”. Ten przepis ma być odpowiednikiem art. 2 ustęp 6 AIA („niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”). Poczynione odesłanie do zawartej w Prawie o szkolnictwie wyższym definicji „podstawowych badań naukowych” jest błędne, ponieważ jako takie rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z tejże uwagi, jak również uwag innych podmiotów. 32 wprost koliduje z tą częścią art. 2 ust. 6 AIA, która wyraźnie wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie, bardzo ważne jest wyeksponowanie wyłączeniu, iż ogranicza się ono do tych systemów lub modeli AI, które powstały w wyłącznym celu badań naukowych i rozwojowych. Obawiamy się, iż właśnie to wyłączenie może być w przyszłości przedmiotem nadużyć, kiedy to zaprogramowane dla celów naukowych - a zatem poza zakresem AIA - algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. Uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. 46. Art. 4 ust. 3 PFR Proponujemy nadać następujące brzmienie: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2023 r. poz. 742, z późn. zm. 1) ), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Uwaga uwzględniona Poprawiono tytuł przywołanej ustawy zgodnie z treścią uwagi. 47. Art. 4 ust. 3 PUODO Podobnie art. 4 pkt 3 projektu ustawy należałoby doprecyzować w zakresie wprowadzonego w nim wyłączenia stosowania ustawy zgodnie z art. 2 pkt 6 aktu w sprawie sztucznej inteligencji, w którym użyto sformułowania „wyłącznie” do celów badań naukowych. Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 33 48. Art. 4 pkt 3 Rada Legislacyjna [Nieprawidłowe wyłączenie w art. 4 pkt 3 Projektu] Art. 4 pkt 3 Projektu, wyłączający pewne materie z zakresu zastosowania Projektu, jest zarówno niespójny z innymi przepisami prawa polskiego, jak też jest niezgodny z Rozporządzeniem UE 2024/1689. Art. 4 pkt 3 Projektu stanowi co następuje: „Ustawy nie stosuje się do [...] podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. W pierwszym rzędzie powołany przepis art. 4 pkt 3 Projektu jest niespójny treściowo z przepisem art. 4 ust. 2 powołanej w nim ustawy Prawo o szkolnictwie wyższym i nauce (nawiasem mówiąc, przepis art. 4 pkt 3 Projektu przytacza tytuł tej ostatniej ustawy w niepełnym brzmieniu). Art. 4 pkt 3 Projektu posługuje się sformułowaniem: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”, podczas gdy w tym ostatnim przepisie (tzn. w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce) bynajmniej nie ma mowy o badaniach naukowych podstawowych, lecz znajduje się tam legalna definicja badań naukowych aplikacyjnych. Natomiast legalna definicja pojęcia „badań naukowych podstawowych” znajduje się nie w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce, ale w art. 4 ust. 2 pkt 1 tej ostatniej ustawy. Co może istotniejsze, całe to wyłączenie zamieszczone w art. 4 pkt 3 Projektu jest ewidentnie niezgodne z przepisami art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. Przepisy art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 rzeczywiście wyłączają stosowanie Rozporządzenia UE 2024/1689 do pewnych stanów faktycznych związanych z działalnością badawczą (i inną), z tym wszakże zastrzeżeniem, iż zakres wyłączeń zawartych w art. 2 ust. 6 i Rozporządzenia UE 2024/1689 jest w pewnych kwestiach szerszy niż wyłączenie przewidziane w art. 4 pkt 3 Projektu (i w tym zakresie Projekt zawiera nadmiarowe i prawdopodobnie zbędne regulacje), zaś w pewnych kwestiach Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 34 wyłączenia z art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są zdecydowanie węższe zakresowo niż wyłączenie przewidziane w art. 4 pkt 3 Projektu, co stanowi przejaw niedopuszczalnej niezgodności krajowej regulacji prawnej z prawem UE. I tak, o ile przepis art. 4 pkt 3 Projektu zawiera generalne (frontalne) wyłączenie stosowania Projektu do podstawowych badań naukowych oraz dla celów naukowych w związku z eksperymentem określonym w Kodeksie karnym, o tyle wyłączenia przewidziane w przepisach art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są znacznie bardziej zniuansowane. Art. 2 ust. 6 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Przepis ten normuje wyłączenie dotyczące takich systemów sztucznej inteligencji lub modeli sztucznej inteligencji, które już są efektywnie rozwinięte i zostały faktycznie oddane do użytku: w tym zakresie wyłączenie dotyczy systemów i modeli AI służących wyłącznie badaniom naukowym lub też służących wyłącznie badaniom rozwojowym (w Polsce pojęcie „prac rozwojowych” jest zdefiniowane w art. 4 ust. 3 ustawy Prawo o szkolnictwie wyższym i nauce, zaś przepis art. 4 pkt 3 Projektu pojęciem tym w ogóle się nie posługuje). Z powyższego wynika, że w porównaniu z przepisem art. 2 ust. 6 Rozporządzenia 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (w zakresie, w jakim art. 4 pkt 3 Projektu wyłącza z zakresu zastosowania Projektu całą działalność dotyczącą badań podstawowych, w tym działalność na etapie prac nad systemem lub modelem AI przed ich oddaniem do użytku, podczas gdy wyłączenie z art. 2 ust. 6 Rozporządzenia UE 2024/1689 dotyczy tylko tych systemów i modeli AI, które już zostały rozwinięte i oddane do użytku, a nie dotyczy działalności w zakresie systemów AI i modeli AI, nad którymi prace jeszcze trwają), albo też za wąskie (w zakresie, w jakim art. 4 pkt 3 Projektu nie wyłącza z zakresu zastosowania Projektu działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych, które są z kolei objęte derogacją z art. 2 ust. 6 Rozporządzenia UE 2024/1689). Natomiast art. 2 ust. 8 35 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. Również porównanie tego ostatniego przepisu z przepisem art. 4 pkt 3 Projektu prowadzi do konkluzji, że w świetle przepisu art. 2 ust. 8 Rozporządzenia UE 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (bo wyłączenie z art. 4 pkt 3 Projektu dotyczy całej działalności w zakresie badań naukowych podstawowych lub dla celów naukowych w związku z eksperymentem w rozumieniu Kodeksu karnego, podczas gdy wyłączenie z art. 2 ust. 8 Rozporządzenia UE 2024/1689 dotyczy tylko tej działalności dotyczącej systemów AI lub modeli AI, która ma miejsce przed ich wprowadzeniem do obrotu lub oddaniem do użytku), albo też za wąskie (w zakresie, w jakim wyłączenie z art. 4 pkt 3 Projektu nie dotyczy w ogóle działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych i testowych). W tym kontekście trzeba przypomnieć, że zgodnie z orzecznictwem TSUE oraz istotą prawną rozporządzeń unijnych jako aktów mających jednolite zastosowanie we wszystkich państwach członkowskich (zob. art. 288 Traktatu o funkcjonowaniu Unii Europejskiej), prawodawca krajowy nie może zawężać (ograniczać) zakresu zastosowania rozporządzenia unijnego w porównaniu z zakresem określonym w samym tym rozporządzeniu.11 W związku z powyższym – kierując się dążeniem do tego, aby nie ograniczać na szczeblu krajowym zakresu zastosowania Rozporządzenia UE 2024/1689, a jednocześnie chcąc uniknąć nadmiarowych (zbędnych) regulacji w prawie polskim – Rada Legislacyjna zdecydowanie rekomenduje treściowe dostosowanie wyłączenia przewidzianego w art. 4 pkt 3 Projektu do kształtu i zakresu wyłączenia przewidzianego w tym względzie w art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. 36 49. Art. 4 ust. 3 URPLWM iPB Zgodnie z art. 4 pkt 3 projektowanej ustawy „Ustawy nie stosuje się do (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Jak wynika z uzasadnienia projektowanej ustawy „Z zakresu stosowania rozporządzenia 2024/1689 i ustawy zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2024 r. poz. 1370). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów projektu wyłączone mają być również sprawy będące w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 5 ust. 1 pkt 1 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812 i 1222), podstawowe badania naukowe, o których mowa w art. 4. ust. 2. pkt. 2 ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm,), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie z motywem 25 preambuły do rozporządzenia 2024/1689: Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 37 „Niniejsze rozporządzenie powinno wspierać innowacje, szanować wolność nauki i nie powinno osłabiać działalności badawczo-rozwojowej. Należy zatem wyłączyć z jego zakresu stosowania systemy i modele AI rozwinięte i oddane do użytku wyłącznie do celów badań naukowych i rozwojowych. Ponadto należy zapewnić, aby niniejsze rozporządzenie nie wpływało w żaden inny sposób na działalność badawczo-rozwojową dotyczącą systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku. Przepisów niniejszego rozporządzenia nie powinno się również stosować do zorientowanej na produkty działalności badawczej, testowej i rozwojowej dotyczącej systemów lub modeli AI przed oddaniem tych systemów i modeli do użytku lub wprowadzaniem ich do obrotu. Wyłączenie to pozostaje to bez uszczerbku dla obowiązku zapewnienia zgodności z niniejszym rozporządzeniem, gdy system AI objęty zakresem stosowania niniejszego rozporządzenia jest wprowadzany do obrotu lub oddawany do użytku w wyniku takiej działalności badawczo- rozwojowej, oraz dla stosowania przepisów dotyczących piaskownic regulacyjnych w zakresie AI i testów w warunkach rzeczywistych. Ponadto bez uszczerbku dla wyłączenia systemów AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych, wszelkie inne systemy AI, które mogą być wykorzystywane do prowadzenia wszelkiej działalności badawczo-rozwojowej, powinny podlegać przepisom niniejszego rozporządzenia. W każdym przypadku wszelka działalność badawczo-rozwojowa powinna być prowadzona zgodnie z uznanymi normami etycznymi i zawodowymi dotyczącymi badań naukowych oraz zgodnie z mającym zastosowanie prawem Unii.”. Przechodząc do wątpliwości w zakresie proponowanego przepisu art. 4 pkt 3 projektu ustawy, należy stwierdzić, co następuje. Po pierwsze, wątpliwości budzi prawidłowość sformułowania brzmienia przepisu poprzez odesłanie w nim do eksperymentu, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny, zwanej dalej „Kodeksem karnym”. Zgodnie bowiem z ww. przepisem Kodeksu Karnego: „§ 1. Nie popełnia przestępstwa, kto działa w celu przeprowadzenia eksperymentu poznawczego, medycznego, 38 technicznego lub ekonomicznego, jeżeli spodziewana korzyść ma istotne znaczenie poznawcze, medyczne lub gospodarcze, a oczekiwanie jej osiągnięcia, celowość oraz sposób przeprowadzenia eksperymentu są zasadne w świetle aktualnego stanu wiedzy. § 2. Eksperyment jest niedopuszczalny bez zgody uczestnika, na którym jest przeprowadzany, należycie poinformowanego o spodziewanych korzyściach i grożących mu ujemnych skutkach oraz prawdopodobieństwie ich powstania, jak również o możliwości odstąpienia od udziału w eksperymencie na każdym jego etapie. § 3. Zasady i warunki dopuszczalności eksperymentu medycznego określa ustawa.”. Przepis art. 27 Kodeksu karnego określa podstawy wyłączenia bezprawności czynu polegającego na prowadzeniu eksperymentu (§ 1) i warunek wyłączający dopuszczalność eksperymentu (§ 2) oraz odsyła do ustawy szczególnej określającej zasady i warunki dopuszczalności eksperymentu medycznego (§ 3). Na wstępie należy zauważyć, że już określenie zakresu zastosowania projektowanej ustawy poprzez odesłanie do regulacji zawartej w Kodeksie karnym – określającej zarówno kontratyp wyłączający odpowiedzialność karną w przypadku eksperymentu (czyli warunki określające kiedy eksperyment jest dopuszczalny), ale także z drugiej strony także okoliczności wskazujące na uznanie eksperymentu za niedopuszczalny, powoduje brak możliwości ustalenia, do którego z przepisów art. 27 Kodeksu karnego projektodawca chciał rzeczywiście odesłać w art. 4 pkt 3 projektu ustawy (w szczególności – czy chciał odesłać także do eksperymentu niedopuszczalnego w świetle art. 27 § 2 Kodeksu karnego). Kwestia ta wymaga ponownej analizy i ewentualnej korekty albo – co najmniej – wyjaśnienia w treści uzasadnienia dołączonego do projektu ustawy. Po drugie, wątpliwości w użytym przepisie budzi posłużenie się sformułowaniem „dla celów naukowych”, skoro zarówno przepis art. 2 ust. 6 rozporządzenia 2024/1689, jak i motyw 25 preambuły do ww. rozporządzenia stanowią o modelach i systemach używanych w celach badań naukowych i rozwojowych, jak i o używaniu tych modeli lub systemów w 39 działalności badawczej, testowej i rozwojowej. Użyte zatem określenie „w celach naukowych” wydaje się zbyt wąskie. Po trzecie natomiast należy zauważyć, że przepis art. 4 pkt 3 projektu ustawy w proponowanym brzmieniu nie odnosi się do kwestii szczegółowo opisanej w motywie 25 preambuły do rozporządzenia 2024/1689, tj. do opisanego w nim rozróżnienia dwóch sytuacji – pierwszej, kiedy modele lub systemy AI są oddane do użytku wyłącznie do celów badań naukowych lub rozwojowych (i wówczas ww. akty prawne dot. AI nie powinny dotyczyć systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku) i drugiej, kiedy systemy lub modele – mimo że używane w badaniu naukowym lub rozwojowym – były już wcześniej oddane do użytku, czy wprowadzone do obrotu (i wówczas powinny już zostać objęte regulacją rozporządzenia 2024/1689 i projektowanej ustawy). Mając powyższe na uwadze, kwestionowany przepis wymaga odpowiedniej modyfikacji. Dodatkowo należy zauważyć, że ustawą, o której mowa w art. 27 § 3 Kodeksu Karnego, jest co do zasady ustawa z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty, która w rozdziale 4 reguluje kwestie dotyczące eksperymentu medycznego. Zgodnie z art. 29a ust. 1 ustawy z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty przepisy rozdziału 4 ustawy nie naruszają przepisów innych ustaw określających odmienne zasady i tryb przeprowadzania badań klinicznych lub badań genetycznych. Zgodnie natomiast z art. 29b tej ustawy „Do eksperymentu medycznego będącego jednocześnie badaniem klinicznym w rozumieniu art. 2 ust. 2 pkt 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 536/2014 z dnia 16 kwietnia 2014 r. w sprawie badań klinicznych produktów leczniczych stosowanych u ludzi oraz uchylenia dyrektywy 2001/20/WE (Dz. Urz. UE L 158 z 27.05.2014, str. 1, z późn. zm.) stosuje się przepisy ustawy z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz.U. poz. 605).”. Należy zatem zauważyć, że w przypadku eksperymentu medycznego będącego jednocześnie badaniem klinicznym produktu leczniczego stosowanego u ludzi ustawą szczególną, 40 o której mowa w art. 27 § 3 Kodeksu karnego, jest ustawa z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz. U. poz. 605). Na podstawie obecnie zaproponowanego brzmienia art. 4 pkt 3 projektu ustawy oraz innych, powyżej przytoczonych przepisów, należałoby uznać – zgodnie z art. 4 pkt 3 projektowanej ustawy – że jej przepisy nie znajdą zastosowania także dla celów naukowych w związku z eksperymentem będącym jednocześnie badaniem klinicznym. Tymczasem takie rozumowanie – bez uwzględnienia rozróżnienia przedmiotowego i celowościowego opisanego w motywie 25 preambuły do rozporządzenia 2024/1689 – wydaje się niewłaściwe i niezgodne z regulacją unijną w zakresie AI, w szczególności w odniesieniu do modeli lub systemów AI już oddanych do użytku lub wprowadzonych do obrotu przed przystąpieniem do realizacji celów naukowych. Mając na uwadze przytoczone powyżej wątpliwości, w tym także brak jakichkolwiek wyjaśnień w tym zakresie w uzasadnieniu dołączonym do projektowanej ustawy, postuluję zmianę brzmienia art. 4 pkt 3 projektu ustawy w celu zapewnienia jego pełnej zgodności z rozporządzeniem 2024/1689 i uzupełnienie uzasadnienia projektowanej ustawy w ww. zakresie. Powyższa kwestia jest kluczowa dla możliwości ustalenia rzeczywistego i zgodnego z przepisami unijnymi zakresu przedmiotowego przepisów w dziedzinie AI ujętych w omawianym projekcie. Dodatkowo należy zauważyć, że ww. kwestia wymaga także jednoznacznego rozstrzygnięcia w odniesieniu do: a) badań klinicznych weterynaryjnych prowadzonych zgodnie z przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/6 z dnia 11 grudnia 2018 r. w sprawie weterynaryjnych produktów leczniczych i uchylającego dyrektywę 2001/82/WE i ustawy z dnia 6 września 2001 r. – Prawo farmaceutyczne, b) badań klinicznych wyrobów medycznych w rozumieniu art. 2 pkt 45 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, 41 zwanego dalej „rozporządzeniem 2017/745”, i badania działania w rozumieniu art. 2 pkt 42 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, oraz c) badań klinicznych z użyciem oprogramowania - wyrobu medycznego, które poprzez dostarczenie do użytkownika lub wcześniejszej sprzedaży, zostało wprowadzone do obrotu lub do używania i z tego powodu podlega przepisom rozporządzenia 2017/745. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 40) 50. Art. 5 KRRiT w art. 5 błędnie wskazano numerację ustępów; Uwaga uwzględniona Numeracja została dostosowana zgodnie z uwagą. 51. Art. 5 NCBR Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Biuro Komisji) – tryb powoływania, skład oraz kompetencje Biura Komisji powinny zapewnić wystarczający poziom nadzoru nad SSI, skuteczność tej instytucji mogłoby zwiększyć większy udział ekspertów i większa elastyczność organizacyjna. Biuro powinno korzystać z większej liczby niezależnych ekspertów w zakresie SI (z głosem doradczym), aby zapewnić pełne pokrycie dynamicznie zmieniających się technologii i wyzwań. Należy też wprowadzić mechanizmy umożliwiające podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. Uwaga częściowo uwzględniona Podniesione uwagi zostały przez projektodawce uwzględnione w zakresie, który dotyczy elastyczności kształtowania kadry pracowniczej Komisji (leżącej w gestii Przewodniczącego i wybranych na podstawie naboru zastępców Przewodniczącego) 52. Art. 5 Konfederacj a Lewiatan Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1 Uzasadnienie: Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotyczhczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępuja one żadnych organów a są tworzone od 0. dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie Uwaga nieuwzględniona Zdaniem projektodawcy przepisy te powinny pozostać w rozdziale 11 obejmującym przepisy przejściowe, dostosowujące i końcowe 42 wyrwane z konktekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. 53. Art. 5 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Uzasadnienie: Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28) 54. Art. 5 ust. 4 pkt 1 PFR Proponujemy doprecyzować, jaki rynek Ustawodawca ma na myśli analogicznie jak w art. 6 ust. 1 Ustawy. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28). 55. Art. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w art.70 ust.1 Rozporządzenia 2024/1689. Uzasadnienie: Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi ze zgłoszonych uwag różnych podmiotów (art. 5) 56. Art. 6 ust. 1 PFR Jednostka redakcyjna wymienia liczne instytucje współpracujące z Komisją, jednak bez wyraźnego rozdzielenia odpowiedzialności i procedur współpracy. Brak precyzji w ustaleniu granic współpracy może prowadzić do spowolnienia procesów decyzyjnych lub konfliktów kompetencyjnych. Uwaga nieuwzględniona Zdaniem projektodawcy „granice współpracy” wynikają bezpośrednio z rozporządzenia 2024/1689. 57. Art. 6 ust. 3 i Art. 7 ust. 3 URWLPMiW B W art. 6 ust. 3 oraz art. 7 ust. 3 projektu ustawy o systemach sztucznej inteligencji należy uwzględnić Prezesa Urzędu Uwaga częściowo uwzględniona 43 Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych Zgodnie z art. 43 ust. 3 rozporządzenia 2024/1689 „ W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z ty i aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych.”. Zarówno rozporządzenie 2017/745, jak i rozporządzenie 2017/746 zostały wymienione w załączniku I sekcja A do rozporządzenia 2024/1689 i wymagają przeprowadzenia odpowiedni dla wyrobu medycznego lub wyrobu medycznego do diagnostyki in vitro procedury oceny zgodności. Zgodnie z art. 3 ust. 1 pkt 1 i 2 ustawy z dnia 7 kwietnia 2022 r. o wyrobach medycznych (Dz.U. z 2024 r. poz. 1620) Prezes Urzędu jest: 1) organem właściwym w rozumieniu art. 101 rozporządzenia 2017/745 oraz art. 96 rozporządzenia 2017/746; 2) organem odpowiedzialnym za jednostki notyfikowane, o którym mowa w art. 35 ust. 1 rozporządzenia 2017/745 oraz art. 31 ust. 1 rozporządzenia 2017/746. Zgodnie z powyższym Prezes Urzędu jest organem właściwym do nadawania notyfikacji jednostkom w zakresie ww. rozporządzeń, sprawowania nad nimi nadzoru, jak również sprawowania nadzoru nad wyrobami medycznymi i wyrobami Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych został uwzględniony jako stały członek Komisji. 44 medycznymi do diagnostyki in vitro wprowadzanymi do obrotu i do używania na terytorium RP. Wobec powyższego zasadnym jest, aby nadzór w zakresie wyrobów medycznych wykorzystujących sztuczną inteligencję, np. oprogramowania będące wyrobami medycznymi, wyznaczanie jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzór nad nimi w tej kwestii, był kompetencją Prezesa Urzędu. Powyższa kwestia była również jednym z tematów spotkania grupy roboczej MDCG – Nadzór nad jednostkami notyfikowanymi (NBO). Zgodzono się na nim, że kompetencje organów nadzorujących jednostki notyfikowane w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro powinny obejmować wyroby wykorzystujące sztuczną inteligencję, o których mowa w rozporządzeniu 2024/1689. Prezes Urzędu uzyskał informację od dwóch polskich jednostek notyfikowanych w zakresie rozporządzenia 2017/745, że obie jednostki planują ubiegać się o notyfikacje w zakresie rozporządzenia 2024/1689 wyłącznie w zakresie wyrobów medycznych wykorzystujących AI. W takiej sytuacji ograniczenie procesu notyfikacji do jednego organu (Prezesa Urzędu) zmniejszy znacznie obciążenie biurokratyczne tych podmiotów. Ponadto zgodnie z art. 66 ust. 2 ww. ustawy o wyrobach medycznych kontrola może być prowadzona przez osoby niebędące pracownikami Urzędu. Zatem w przypadku pojawienia się wątpliwości, czy osoby upoważnione przez Prezesa Urzędu do kontroli podmiotu, który wprowadza na rynek wyrób medyczny wykorzystujący systemy sztucznej inteligencji, posiadają odpowiednie kompetencje, możliwe będzie skorzystanie z eksperta zewnętrznego w tej dziedzinie, np. pracownika organu odpowiedzialnego za akredytację jednostek w tym zakresie. Analogiczna sytuacja dotyczy wyznaczania jednostek notyfikowanych oraz sprawowania nad nimi nadzoru. Uwzględniając powyższą uwagę, w ocenie Prezesa Urzędu również w 45 pozostałych obszarach wskazanych w niniejszym piśmie (np. w obszarze badań klinicznych produktów leczniczych stosowanych u ludzi) – co także wynika np. z dostępnych rekomendacji w zakresie AI – w celu pełnego i prawidłowego wdrożenia regulacji w zakresie sztucznej inteligencji konieczne jest zapewnienie ścisłej współpracy między organami regulacyjnymi w danej dziedzinie, w tym także z organami posiadającymi kompetencje ogólne w zakresie sztuczne inteligencji, co powinno znaleźć wyraz w projektowanych przepisach. 58. Art. 6 ust. 3 KRRiT Dodanie punktu o treści „Przewodniczącym Krajowej Rady Radiofonii i Telewizji - w zakresie systemów AI ogólnego przeznaczenia generujących obrazy, treści audio lub wideo”; Uwaga uwzględniona Przewodniczący KRRiTV został wskazany jako stały członek Komisji. 59. Art. 6 ust. 3 IAB Polska Biorąc pod uwagę, że dostęp do AI zapewniany jest m.in. poprzez dedykowane strony internetowe lub aplikacje – rekomendujemy dodanie postanowienia w ust. 3, że Komisja współpracuje także z Urzędem Komunikacji Elektronicznej w zakresie usług pośrednich związanych z AI, a nie tylko w zakresie wynikającym z pełnienia przez Prezesa UKE funkcji organu nadzoru rynku na podstawie ustawy z 13.4.2016 r. o systemach zgodności i nadzoru rynku. Prezes Urzędu Komunikacji Elektronicznej deleguje swojego przedstawiciela do prac w Komisji tak samo, jak wymienione w art. 6 ust. 3 Projektu podmioty w postaci: Komisji Nadzoru Finansowego, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, czy Prezesa Urzędu Ochrony Danych Osobowych. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona Rozszerzono katalog podmiotów, o których mowa w art. 6 ust. 2 (podmioty współpracujące z Komisją) 60. Art. 6 ust. 3 UKNF Z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego (dalej również jako: „KNF”) w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji wysokiego ryzyka. Projekt – w aktualnym kształcie - nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia 2024/1689, tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka Uwaga częściowo uwzględniona Jednoczenie wyjaśniamy że projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania będzie możliwy od dnia. 2 sierpnia 2025 r. 46 wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Niezależnie od powyższego, w ocenie UKNF, w związku z obowiązkiem współpracy pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja” lub „ KRiBSI”) a Komisją Nadzoru Finansowego, określonym w art. 6 ust. 3 pkt 1) projektu, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań (jako wzór może posłużyć np. art. 17b ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, dalej jako: „ustawa o nadzorze nad rynkiem finansowym”). Ponadto, mając na uwadze, że zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689 właściwość KNF ma ograniczać się do nadzoru nad systemami AI wysokiego ryzyka wprowadzonymi do obrotu, oddanymi do użytku lub wykorzystywanymi przez instytucje finansowe, istotna część nadzoru dotycząca wykorzystywania systemów sztucznej inteligencji przez te podmioty pozostanie po stronie Komisji (np. w zakresie zakazanych praktyk w zakresie AI). W tym kontekście – w ocenie UKNF – zasadnym będzie zaprojektowanie rozwiązania polegającego na wprowadzeniu w ustawach sektorowych przepisów upoważniających podmioty rynku finansowego do przekazywania informacji objętych obowiązkiem zachowania tajemnicy zawodowej do KRiBSI. Dla przykładu: - art. 35 ust. 1 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej stanowi, że: zakład ubezpieczeń i osoby w nim zatrudnione, a także osoby i podmioty, za pomocą których zakład ubezpieczeń wykonuje czynności ubezpieczeniowe, są obowiązane do zachowania tajemnicy dotyczącej poszczególnych umów ubezpieczenia. Jednocześnie art. 35 ust. 2 przewiduje, że obowiązek zachowania tajemnicy ubezpieczeniowej, nie dotyczy informacji udzielanych na wniosek m.in. organu nadzoru; Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 47 - art. 105 ust. 1 pkt 2 lit. a ustawy z dnia 29 sierpnia 1997 r. – Prawo bankowe stanowi, że bank ma obowiązek udzielenia informacji stanowiących tajemnicę bankową wyłącznie na żądanie Komisji Nadzoru Finansowego w zakresie nadzoru sprawowanego na podstawie niniejszej ustawy i ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, pracowników Urzędu Komisji Nadzoru Finansowego w zakresie, o którym mowa w art. 139 ust. 1 pkt 2, oraz osób upoważnionych uchwałą Komisji Nadzoru Finansowego w zakresie określonym w tym upoważnieniu. Brak takiej wyraźnej podstawy prawnej może stanowić znaczące utrudnienie w sprawowaniu nadzoru, ponieważ podmioty mogłyby odmawiać przekazywania informacji, powołując się na obowiązek zachowania tajemnicy zawodowej (nie można bowiem wykluczyć, że przekazanie danych zawierających tajemnicę będzie niezbędne w zakresie niezbędnym do wykonywania zadań ustawowo zastrzeżonych dla organu jakim będzie KRiBSI). 61. Art. 6 ust. 3 pkt 1 UKNF Zgodnie z art. 6 ust. 3 pkt 1 projektowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji współpracuje z KNF w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689, czyli systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie, zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 6 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 6 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób jednoznaczny. Z tych względów ustawa powinna w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka w Uwaga nieuwzględniona Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 48 zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy nadzór ten będzie sprawowany przez inny odpowiedni organ na zasadzie odstępstwa przewidzianego w art. 74 ust. 7 rozporządzenia 2024/1689. Co szczególnie ważne, w zakresie działalności podmiotów nadzorowanych przez KNF mogą być wykorzystywane systemy AI wysokiego ryzyka – przykładowo: ⎯ biometria (np. systemy zdalnej identyfikacji biometrycznej); ⎯ systemy AI wykorzystywane do oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; ⎯ systemy AI wykorzystywane przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego. W związku z powyższym – w przypadku decyzji kierunkowej, że to KNF będzie organem właściwym do nadzoru nad systemami wysokiego ryzyka w zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689 – UKNF poddaje pod rozwagę, aby ustawowe rozwiązania przewidywały również wprowadzenie odpowiednich zmian w przepisach ustawy o nadzorze nad rynkiem finansowym, w której wprost zostałoby wskazane, że KNF jest organem nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689. 62. Art. 6 ust. 3 pkt 2 UOKIK Określenie katalogu podmiotów, z którymi współpracuje Komisja poprzez odwołanie do art. 58 ustawy o systemach oceny zgodności i nadzoru rynku nie jest wystarczające wobec zakresu spraw określonego w art. 74 ust. 3 rozporządzenia 2024/1689. Kontrola produktów wskazanych w unijnym prawodawstwie harmonizacyjnym jest prowadzona również przez organy, które nie są organami nadzoru rynku w rozumieniu ustawy o systemach oceny zgodności i nadzoru rynku i funkcjonują poza jej ramami. Projektowany przepis pozostaje zatem niewystarczający, ponieważ jego stosowanie spowoduje Uwaga częściowo uwzględniona Katalog podmiotów, których dotyczy uwaga został rozszerzony w nowej treści przepisów projektu. Dodatkowo, Komisja może zapraszać do udziału w posiedzeniach przedstawicieli innych podmiotów, o ile poruszane w ich trakcie sprawy mieszczą się w ich właściwości. 49 powstanie luki w zakresie wyznaczenia organów właściwych w sprawach uregulowanych w aktach unijnych wymienionych w załączniku I do rozporządzenia 2024/1689. W związku z powyższym proponuje się rozważenie umieszczenia w projektowanej ustawie enumeratywnego katalogu organów właściwych w sprawach związanych z kontrolami produktów w oparciu o akty wskazane w załączniku I. Poniżej przekazuję listę organów, których uwzględnienie proponuję rozważyć: 1. Prezes Urzędu Ochrony Konkurencji i Konsumentów, 2. wojewódzcy inspektorzy Inspekcji Handlowej, 3. organy Państwowej Inspekcji Pracy, 4. organy nadzoru budowlanego, 5. organy administracji miar 6. Prezes Urzędu Komunikacji Elektronicznej, 7. Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 8. Prezes Wyższego Urzędu Górniczego, 9. Prezes Urzędu Transportu Kolejowego, 10. Prezes Urzędu Lotnictwa Cywilnego, 11. dyrektorzy urzędów morskich, 12. wojewódzcy inspektorzy transportu drogowego, 13. Dyrektor Transportowego Dozoru Technicznego, 14. Prezes Urzędu Dozoru Technicznego. Jednocześnie należy wskazać, że obecnie w Ministerstwie Rozwoju i Technologii trwają prace nad projektem ustawy o nadzorze nad spełnianiem wymagań dotyczących produktów (UC45), w którym zostanie ustanowiony system organów nadzoru rynku właściwych w sprawach poszczególnych aktów w ramach unijnego prawodawstwa harmonizacyjnego. Niezależnie od powyższego należy wskazać, że przepisy projektowanej ustawy nie określają zasad współpracy poszczególnych organów z Komisją. Brak jest również wskazania instrumentów (narzędzi) takiej współpracy, w szczególności form lub sposobów, w jakich będzie się ona odbywać. Należy wskazać, że organy wymienione w art. 6 50 projektu realizują określone kompetencje przypisane im w przepisach ustaw regulujących ich funkcjonowanie. Podejmowanie określonego rodzaju aktywności przez te organy jest warunkowane obowiązywaniem określonej podstawy prawnej przyznającej kompetencję lub nakładającej obowiązek konkretnego działania. Z uwagi na powyższe ustawowe określenie zasad, form i sposobu współpracy organów, o których mowa w art. 6 projektu z Komisją, pozostaje niezbędne w celu stworzenia podstaw prawnych do podejmowania przez nie określonych czynności władczych, w tym również takich, które nie są wprost wpisane w ich ustawowe kompetencje. 63. Art. 6 ust. 4 PFR Wydaje się, iż Ustawodawca ma tu na myśli stosowne organy opisane w Rozporządzeniu. Jeżeli tak jest, to proponujemy to doprecyzować poprzez wskazanie odpowiednich definicji zawartych w Rozporządzeniu. Uwaga uwzględniona 64. Art. 6 ust. 4 UKNF Artykuł 6 ust. 4 projektu ustawy stanowi, że „Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej”. UKNF wskazuje, że pełna nazwa ww. urzędu to Europejski Urząd ds. Sztucznej Inteligencji, stąd rekomendowane byłoby posłużenie się nią we wskazanym przepisie projektu ustawy, bądź przyjęcie odpowiedniej definicji urzędu w treści projektu ustawy. Uwaga nieuwzględniona. Projekt posługuje się terminologią zaczerpniętą bezpośrednio z rozporządzenia 2024/1689. 65. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. W tym kontekście, NCBR, jako instytucja odpowiedzialna za wspieranie badań i rozwoju technologii, mógłby wesprzeć prace Komisji w lepszym zrozumieniu procesów tworzenia systemów SI poprzez wskazywanie ekspertów do pracy w Komisji. Pozwoliłoby to lepiej zintegrować procesy badawcze (tworzenie innowacyjnych Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 51 programów służących rozwojowi technologii SI) z wymogami regulacyjnymi. Generalnie, NCBR jako fundamentalna instytucja zajmująca się wspieraniem prac B+R i rozwijaniem przedsiębiorczości w zakresie nowych technologii, w tym technologii ICT, nie jest bezpośrednio uwzględnione w projekcie ustawy o SSI jako kluczowy organ wspierający rozwój SI w Polsce. Warto rozważyć formalne włączenie NCBR do procesów regulacyjnych, np. poprzez jego większy udział w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, aby zapewnić pełne wsparcie dla innowacyjnych projektów badawczych. Ponadto, zgodnie z dokumentem pn. Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020, Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23), NCBR jest elementem polskiego ekosystemu AI w obszarze Nauka i Badania AI. 66. Art. 7 OPZZ Uważamy, że należy ponownie rozważyć zakres udziału związków zawodowych w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgłoszone przez nas uwagi mają na celu zwiększenie ochrony interesów pracowników oraz wspieranie budowy nowoczesnego, zrównoważonego rynku pracy w Polsce. Projekt ustawy przewiduje ustanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której zadaniem będzie zapewnienie nadzoru nad rozwojem i funkcjonowaniem systemów sztucznej inteligencji. Konstrukcja przepisów zakłada, że członkami Komisji będą przedstawiciele kluczowych organów i urzędów, których kompetencje są kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów Al. Dodatkowo projekt przedmiotowej regulacji prawnej zakłada możliwość udziału w pracach Komisji przedstawicieli innych podmiotów publicznych, ale na zasadach doradczych, bez prawa głosu. Wśród nich wymieniono m.in. przedstawicieli strony pracowników Rady Dialogu Społecznego. W ocenie Ogólnopolskiego Porozumienia Związków Zawodowych, reprezentatywne organizacje związkowe, w rozumieniu ustawy z dnia 25 czerwca 2015 r. o Radzie Dialogu Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 52 Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232), powinny posiadać status pełnoprawnych członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Algorytmy i systemy sztucznej inteligencji coraz częściej mają bowiem wpływ na decyzje o kluczowym znaczeniu dla pracowników np. w zakresie dotyczącym wynagrodzeń, wydajności i zatrudnienia. Brak pełnego nadzoru ze strony reprezentacji pracowników nad sztuczną inteligencją niesie ryzyko ograniczenia praw pracowniczych. Pełnoprawne członkostwo central związkowych w Komisji umożliwi skuteczny nadzór nad funkcjonowaniem algorytmów, zapewniając ich zgodność z normami dialogu społecznego oraz zapobiegnie potencjalnym nadużyciom ze strony pracodawców. To także gwarancja, że technologie sztucznej inteligencji będą wdrażane w sposób przejrzysty, z poszanowaniem praw pracowniczych, w tym prawa do konsultacji, ochrony danych osobowych i współdecydowania o zasadach wykorzystania technologii w pracy. Jest to szczególnie ważne dla osób wykonujących pracę platformową, takich jak kurierzy czy kierowcy, którzy są szczególnie narażeni na nadużycia związane z działaniem algorytmów. Obecność związków zawodowych w Komisji pozwoli zatem monitorować i przeciwdziałać takim praktykom. OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem 53 prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. 67. Art. 7 ust. 2 i st. 3 pkt 13 RZ Należy zaznaczyć, iż wiele z proponowanych regulacji może bezpośrednio dotyczyć warunków, wykonywania działalności gospodarczej na terytorium Rzeczypospolitej w szczególności przez mikroprzedsiębiorców, małych i średnich przedsiębiorców. Z, tego względu, w pierwszej kolejności wnoszę o zmianę art. 7 ust. 2 oraz ust. 3 pkt. 13 Projektu poprzez włączenie przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców do grona członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Realizacja postulatu wymaga: w art. 7 ust. 2: 1. w pkt 9) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu — pkt 10 w brzmieniu: „10) Rzecznika Małych i Średnich Przedsiębiorców. ”; 3. w przypadku uwzględnienia postulatu, odpowiedniej zmiany w art. 7 ust. 3, przez usunięcie pkt 13. Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Ze względu na potrzebę skutecznej ochrony praw przedsiębiorców, Rzecznik Małych i Średnich Przedsiębiorców, jako ich przedstawiciel, powinien mieć zagwarantowane prawo zabrania głosu w kwestiach poruszanych przez Komisję. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 68. art. 7 ust. 2 pkt 6 i art. 8 ust. 5 RPO W projekcie ustawy przewidziano utworzenie nowego organu - Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) – wyspecjalizowanego w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucja ta ma pełnić funkcję organu nadzoru nad rynkiem, ale również przyczyniać się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnić funkcję Uwaga uwzględniona Przedstawiciel Rzecznika Praw Obywatelskich został wyłączony ze składu Komisji. 54 podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI. Zgodnie z art. 8 ust. 5 projektu ustawy, Komisja w zakresie swojej właściwości podejmuje uchwały, w tym też wydaje decyzje administracyjne i postanowienia. Jednym z członków Komisji zgodnie z art. 7 ust. 2 pkt 6 projektu ustawy ma zostać przedstawiciel Rzecznika Praw Obywatelskich. W mojej ocenie proponowane rozwiązanie jest nie do pogodzenia z pozycją ustrojową i kompetencjami, jakie zostały przyznane Rzecznikowi Praw Obywatelskich w Konstytucji RP. W pierwszej kolejności należy zauważyć, że Rzecznik Praw Obywatelskich nie jest organem administracji publicznej. Rzecznik Praw Obywatelskich jest samodzielnym, konstytucyjnym organem ochrony prawa, stojącym na straży wolności i praw człowieka i obywatela określonych w Konstytucji oraz w innych aktach normatywnych (rozdział IX Konstytucji Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r.). W myśl art. 210 Konstytucji RP Rzecznik Praw Obywatelskich w swojej działalności jest niezawisły, niezależny od innych organów państwowych i odpowiada jedynie przed Sejmem na zasadach określonych w ustawie. Tryb rozpatrywania spraw należących do kompetencji Rzecznika Praw Obywatelskich uregulowany został w przepisach ustawy o RPO, zgodnie z którymi zarówno o sposobie działania, jak i o podjętych środkach prawnych w danej sprawie decyduje autonomicznie Rzecznik Praw Obywatelskich. Trybunał Konstytucyjny w istotnym z punktu widzenia relacji między RPO a Sejmem wyroku1 , interpretuje niezależność jako pojęcie normatywne, tj. wyznaczające zakaz tworzenia pomiędzy Rzecznikiem a innymi organami więzi strukturalnych i funkcjonalnych, które mogłyby prowadzić do zależności Rzecznika od tych organów. Sejmowi, podobnie jak jakiemukolwiek innemu organowi państwa, nie wolno wyznaczać Rzecznikowi jakichkolwiek obowiązków, które nie mieszczą się w jego konstytucyjnych zadaniach i nie znajdują podstaw w określonych przez ustawę kompetencjach RPO. Należy również podkreślić, że w orzecznictwie sądów administracyjnych ugruntowane jest stanowisko, że rozpatrywanie przez Rzecznika Praw Obywatelskich kierowanych 1 Zob. wyrok TK z 19.10.2010 r., sygn. K 35/09. - 3 - do niego wniosków nie następuje w formach przewidzianych w art. 3 § 2 pkt 1-42 ustawy z dnia z 55 dnia 30 sierpnia 2002 r. prawo o postępowaniu przed sądami administracyjnymi (Dz.U. z 2024 r. poz. 935)3 . Biorąc pod uwagę powyższe, nie ulega wątpliwości, że przedstawiciel Rzecznika Praw Obywatelskich nie może być częścią organu (Komisji), który wydaje decyzje administracyjne i postanowienia, gdyż byłoby to sprzeczne z rolą organu ochrony prawa, jaką ustrojodawca przewidział dla Rzecznika Praw Obywatelskich w Konstytucji RP, a także godziłoby w zasadę niezależności Rzecznika. Wyznaczenie na członka Komisji przedstawiciela RPO jest wątpliwe również dlatego, że czynności podejmowane przez Komisję, a zatem wydawane przez nią decyzje administracyjne i postanowienia, mogą być przedmiotem skarg obywateli do Rzecznika Praw Obywatelskich. Taka sytuacja skutkowałaby tym, że Rzecznik Praw Obywatelskich rozpoznawałby de facto skargę na działania podejmowane m. in. Przez jego przedstawiciela. To zaś podważałoby zasadę prawa, zgodnie z którą nikt nie może być sędzią we własnej sprawie (nemo iudex in causa sua). Reasumując, w mojej ocenie, z przyczyn wskazanych powyżej, przedstawiciel RPO nie może zostać członkiem organu, który zgodnie z projektowaną ustawą będzie sprawował nadzór nad sektorem sztucznej inteligencji. Jednocześnie, nie budzi moich wątpliwości możliwość zgłaszania przez Rzecznika Praw Obywatelskich kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (art. 28 ustawy), który to organ będzie pełnił funkcje opiniodawczo- doradcze na rzecz Komisji. 69. Art. 7 ust. 2 i 7 RPD Proponowana konstrukcja przepisów projektu zakłada ustanowienie nowej instytucji, która będzie niezależnym od administracji rządowej, organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jak również podmiotem współpracującym z innymi instytucjami publicznymi w zakresie AI. Zgodnie z brzmieniem projektowanej ustawy organem tym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w skład której miałby wchodzić Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziewięciu członków, będących przedstawicielami podmiotów, wymienionych w art. 7 ust. 2 projektu. Biorąc pod uwagę charakter i ilość zadań nałożonych na ww. organ, wątpliwości budzi przyjęcie zaproponowanej koncepcji składu Komisji. Warto Uwaga częściowo uwzględniona Osobom biorącym udział w pracy Komisji na podstawie nowej treści przepisów projektu przysługuje zwrot kosztów przejazdu i noclegów. 56 w tym miejscu podkreślić, że przedstawiciele podmiotów, wskazanych w art. 7 ust. 2 projektu to przede wszystkim pracownicy ww. podmiotów, na których nałożone byłyby dodatkowe obowiązki związane z pracą w Komisji. To może rodzić konflikt interesów pomiędzy pracą na etacie u podmiotu, o którym mowa w art. 7 ust. 2 projektu, a pracą wykonywaną na rzecz Komisji Warszawa, 14 listopada 2024 roku (art. 11 projektu). Warto w tym miejscu również podkreślić, że zgodnie z założeniami projektowanej ustawy „za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu” (art. 7 ust. 7 projektu). Ponadto, członkowie Komisji nie będą mogli wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywoływać podejrzenie o stronniczość lub konflikt interesów (a w konsekwencji rodzić obawy o najlepsze reprezentowanie interesów i głosu osób, na których systemy SI mają wpływ - zwłaszcza dzieci i młodzieży), o czym stanowi art. 24 ust. 1 projektu. Natomiast art. 25 ust. 1 projektu wskazuje, iż m.in. członkowie Komisji są obowiązani do nieujawniania osobom nieupoważnionym tajemnicy prawnie chronionej. Nie ma tu regulacji odnoszącej się do podmiotów, dla których pracują członkowie Komisji. Takie rozwiązania mogą prowadzić do wyłączenia danego pracownika/przedstawiciela podmiotu, o którym mowa w art. 7 ust. 2 projektu, z pracy urzędu, biorąc pod uwagę zakres zadań, związanych z pracą Komisji. Analizowany projekt w żaden sposób nie reguluje tej kwestii. 70. Art. 7 ust. 2 PUODO Z motywu 10 aktu w sprawie sztucznej inteligencji wynika, że jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. Zatem rozporządzenie jasno wskazuje na to, że kompetencje i niezależność organów nadzorczych ds. ochrony danych nie są ograniczane przepisami aktu w sprawie sztucznej inteligencji, a przejrzystego uregulowania tych kwestii należy oczekiwać w przyjmowanych rozwiązaniach krajowych, czego w opiniowanym projekcie zabrakło. Uwaga uwzględniona Przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji. 57 Przebudowy wymaga zatem określona w projekcie ustawy koncepcja nadzoru nad systemami sztucznej inteligencji, która w art. 7 ust. 2 pkt 3 zakłada udział przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych w kolegialnym organie nadzoru rynku, jakim ma być Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Choć docenić należy uwzględnienie potrzeby włączenia organu ochrony danych osobowych w proces oceny nadzoru nad systemami sztucznej inteligencji, to jednak, przedstawiciel organu nadzorczego ds. ochrony danych osobowych – ze względu na konieczność zachowania niezależności organu ds. ochrony danych osobowych – nie może brać udziału w procesie wydawania decyzji przez inny organ inaczej niż w charakterze doradcy czy obserwatora. Udział przedstawiciela Prezesa UODO w pracach Komisji byłyby zatem możliwy wyłącznie w charakterze eksperta, z możliwością wypowiedzenia się w kwestiach związanych z ochroną danych osobowych, z zastrzeżeniem braku związania go poleceniami /dyspozycjami Przewodniczącego Komisji i przy założeniu nieobjęcia problematyki przetwarzania danych osobowych procesem decyzyjnym Komisji, ze względu na to, iż jest to wyłączna kompetencja Prezesa UODO. Te gwarancje powinny zostać zapisane w ustawie tak, by zapewnić zgodność i spójność zarówno z rozporządzeniem 2024/1689, jak i rozporządzeniem 2016/679. Ma to istotne znaczenie w związku z art. 9 projektu ustawy, który przewiduje, że członkowie Komisji wspierają Przewodniczącego Komisji w wykonywaniu zadań ustawowych, w szczególności w sprawach będących we właściwości podmiotu, którego są przedstawicielami, a na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami”. Wskazać należy, że przedstawiciel Prezesa UODO – z racji potrzeby zachowania niezależności, wynikającej wprost z prawa UE – nie może być zobowiązany mocą jakichkolwiek przepisów, w tym projektowanej ustawy, do podejmowania działań na rzecz innego organu ani dostosowywania się do rozstrzygnięć, które potencjalnie mogłyby wkraczać w zakres jego kompetencji. 58 Dostrzec przy tym należy, że status Komisji jako nowego organu administracji publicznej ma charakter precedensowy, ponieważ przewiduje, że jej członkami są przedstawiciele innych organów, w tym przedstawiciel Prezesa UODO (art. 7 ust. 2 pkt 3 projektu ustawy). Przepisy projektowanej ustawy nie regulują przy tym pozycji takiego przedstawiciela, w szczególności w aspekcie swobody podejmowania przez niego decyzji i innych czynności w ramach Komisji, co może być poddane dalszej dyskusji pod kątem zgodności z zasadami prawa administracyjnego i normami konstytucyjnymi dotyczącymi administracji państwowej, w tym podstawowym warunkiem dotyczącym samodzielności decyzyjnej organu. W świetle powyższych uwag, projektowane przepisy wymagają doprecyzowania statusu Prezesa UODO (jego przedstawiciela) w sposób gwarantujący niezależne wykonywanie przez niego zadań wynikających ze wspomnianych wyżej aktów prawa unijnego i krajowego, w tym orzecznictwa TSUE. Projektowana ustawa wymaga zatem powtórnej analizy pod kątem spójności oraz jasności nadawanych nią norm kompetencyjnych, jak również kompleksowości proponowanej regulacji, która powinna również czynić zadość konstytucyjnej zasadzie legalności w aspekcie wyznaczania organom władzy publicznej podstaw i granic działania mocą stanowionych przepisów prawa. 71. Art. 7 ust. 3- 6 RPD Uwagi do proponowanego art. 7 ust. 3-6 ustawy o systemach SI (uczestnictwoinnych osób niż Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Art. w posiedzeniach Komisji) Stosowanie systemów sztucznej inteligencji, zwłaszcza w obszarze edukacji, ma bezpośredni wpływ na codzienne życie dzieci i młodzieży, w tym na ich prawa i wolności. W związku z tym niezwykle istotne jest, aby głos młodych ludzi był uwzględniany w procesach decyzyjnych dotyczących rozwoju i regulacji tych systemów. Zgodnie z art. 12 Konwencja o prawach dziecka przyjęta przez Zgromadzenie Ogólne Narodów Zjednoczonych dnia 20 listopada 1989 r. (Dz. U. z 1991 r. Nr 120, poz. 526 z późn. zm.) każde dziecko ma prawo do swobodnego wyrażania własnych poglądów we wszystkich Uwaga uwzględniona RPD został włączony do składu Komisji jako stały członek. 59 sprawach, które go dotyczą, a poglądy te powinny być należycie uwzględniane stosownie do wieku i dojrzałości dziecka. Podobnie, art. 24 Karta praw podstawowych Unii Europejskiej (Dz. U. UE. C. z 2007 r. Nr 303, str. 1 z późn. zm.). podkreśla prawo dziecka do wyrażania swojego zdania i bycia wysłuchanym w sprawach, które go dotyczą. Obecne planowane przepisy ustawy o systemach SI, w szczególności art. 7 ust. 3-6, przewidują możliwość uczestnictwa w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przedstawicieli różnych podmiotów z głosem doradczym, jednak udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji i wymaga posiadania „specjalistycznej wiedzy (proponowany art. 7 ust. 5 ustawy o systemach SI). Taki mechanizm może ograniczać realną możliwość dzieci i młodzieży do wyrażania swojego głosu w sprawach dotyczących regulacji systemów SI, których wyniki działania bezpośrednio ich dotyczą. Dzieci należą do grupy podmiotów szczególnie wrażliwych, które mogą w szczególny sposób odczuć negatywny wpływ systemów sztucznej inteligencji na ich prawa oraz wolności. Chociaż z oczywistych względów nie posiadają one fachowej wiedzy na temat systemów SI, ich głos może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii. Aby w pełni zrealizować prawo dziecka do bycia wysłuchanym, proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych, zespołów reprezentujących głos dzieci (np. Rada Dzieci i Młodzieży przy RPD, Rada Młodzieży przy MEN) doraźnego udziału w posiedzeniach Komisji z głosem doradczym. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Komisji z wnioskiem o dopuszczenie do udziału w obradach Komisji w roli gości zwłaszcza jeżeli przedmiot obrad dotyczy systemów SI wpływających na dzieci i młodzież. Takie rozwiązanie zapewni, że głos dzieci i młodzieży będzie systematycznie brany pod uwagę w procesach regulacyjnych dotyczących systemów sztucznej inteligencji. Jest to nie tylko zgodne z międzynarodowymi standardami ochrony praw dziecka, ale także przyczyni się do tworzenia bardziej efektywnych i adekwatnych regulacji, które uwzględniają 60 perspektywę młodego pokolenia. Włączenie organizacji młodzieżowych z głosem doradczym do prac Komisji wzmocni transparentność i demokratyczność procesu decyzyjnego oraz pomoże w kształtowaniu systemów SI, które będą służyć dobru dzieci i młodzieży. 72. Art. 7 ust. 3 GUS Projekt ustawy o systemach sztucznej inteligencji przewiduje powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (art. 5 i nast. projektu ustawy), w skład której obowiązkowo wejdą przedstawiciele 9 instytucji (art. 7 ust. 1 i 2 projektu ustawy), a przedstawiciele dalszych 16 instytucji (art. 7 ust. 3) będą mogli uczestniczyć w jej posiedzeniach. Mając na uwadze zaplanowane przez ustawodawcę zadania Komisji, w tym w szczególności: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji” (art. 11 ust. 1 pkt 3) oraz „udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji” (art. 11 ust. 1 pkt 5), niezbędne wydaje się rozszerzenie listy przedstawicieli urzędów i instytucji publicznych mogących uczestniczyć w jej pracach o przedstawiciela Głównego Urzędu Statystycznego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 73. Art 7 ust. 3 Rzecznik Finansowy W art. 7 ust. 3 pkt 12) projektu ustawy przewidziany został udział w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja”) przedstawiciela Biura Rzecznika Finansowego. Projektowany przepis należy zmienić poprzez wskazanie „przedstawiciela Rzecznika Finansowego”. Należy bowiem zauważyć, że zgodnie z ustawą z dnia z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej (Dz. U. z 2024 r. poz. 1109) działania podejmowane są przez Rzecznika Finansowego, a nie przez Biuro Rzecznika Finansowego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 74. Art. 7 ust. 3 IAB Polska W skład podmiotów, których przedstawiciele mogą uczestniczyć w posiedzeniach Komisji brakuje przedstawiciela Społecznej Rady do spraw Sztucznej Inteligencji. Udział takiej osoby jest wskazany ze względu na funkcję Rady („organ opiniodawczo- doradczy Komisji”). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do 61 udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 75. Art. 7 ust. 3 Konfederacj a Lewiatan Rekomdendujemy dodanie punktu: 17) Społecznej Rady ds. Sztucznej Inteligencji Uzasadnienie: Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisjii - inaczej jej rola może okazać się fasadowa, jadnak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 76. Art. 7 ust. 3 Rada Legislacyjna [Brak możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli Ministerstwa Nauki oraz Ministerstwa Zdrowia] Przepisy art. 7 ust. 3 Projektu nie przewidują możliwości uczestniczenia w posiedzeniach Komisji przedstawiciela urzędu obsługującego ministra właściwego do spraw szkolnictwa wyższego i nauki oraz przedstawiciela urzędu obsługującego ministra właściwego do spraw zdrowia. Tymczasem dopuszczenie możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli obu tych urzędów, czyli Ministerstwa Nauki oraz Ministerstwa Zdrowia, ma przekonujące uzasadnienie merytoryczne. Obaj bowiem ministrowie kierujący wspomnianymi ministerstwami i jednocześnie odnośnymi działami administracji rządowej są, z uwagi na zakres swoich ustawowych zadań,12 żywotnie zainteresowani sprawami rozwoju, wprowadzania, upowszechniania i stosowania technologii oraz usług wykorzystujących systemy sztucznej inteligencji. Działalność naukowa, nawet jeżeli w określonym zakresie nie mieści się ona w zakresie zastosowania Projektu (oraz Rozporządzenia UE 2024/1689), jest przecież absolutnie niezbędna dla rozwijania i doskonalenia systemów AI, natomiast w medycynie, czy też w działalności z zakresu zdrowia publicznego, systemy AI są obecnie podstawą wielu ważnych dla pacjentów świadczeń diagnostycznych i terapeutycznych.Z uwagi na to merytoryczne powiązanie nauki i medycyny z systemami AI warto jest zatem rozważyć możliwość fakultatywnego delegowania przez obu ministrów czy też przez urzędy Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3) 62 obsługujące obu tych ministrów swoich przedstawicieli do udziału w posiedzeniach Komisji na podstawie przepisu art. 7 ust. 3 Projektu 77. Art. 7 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną biegłego. Uzasadnienie: Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga nieuwzględniona Użycie pojęcia „biegłego” znacząco ograniczyłoby zakres osób mogących wziąć udział w posiedzeniu Komisji. 78. Art. 7 ust. 7 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 7. Za udział pracach Komisji nie przysługuje wynagrodzenie ani i zwrot kosztów przejazdów i noclegów. Uzasadnienie: Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotczyć ma także osób wkazanych w art.7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jesli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Uwaga częściowo uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 79. Art. 7 ust. 7 i Art. 29 ust. 6 RPD Uwagi do proponowanego art. 7 ust. 7 i art. 29 ust. 6 ustawy o systemach SI – brak wynagrodzenia oraz zwrotów kosztów przejazdów i noclegów członkom Rady lub Komisji za udział w pracach organów Uwaga uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 63 Brak zwrotu kosztów przejazdów i noclegów za udział w pracach Rady i Komisji może skutecznie zniechęcić specjalistów mieszkających w odległych od Warszawy (siedziby Komisji i Rady) częściach Polski do uczestnictwa w pracach tych organów. Taka sytuacja może negatywnie wpłynąć na poziom merytoryczny prac Rady oraz Komisji, w tym o ograniczyć różnorodność osób biorących w nich udział, co jest kluczowe dla wszechstronnego podejścia do zagadnień związanych ze sztuczną inteligencją. Specjaliści z różnych regionów kraju wnoszą unikalne perspektywy i doświadczenia, które są niezbędne do tworzenia kompleksowych i efektywnych regulacji w dziedzinie sztucznej inteligencji. Brak zwrotu kosztów może prowadzić do sytuacji, w której udział w pracach Rady i Komisji będzie ograniczony do osób mieszkających w Warszawie lub tych, którzy mogą sobie pozwolić na pokrycie kosztów podróży i noclegu z własnych środków. Nie bez znaczenia jest także fakt, że młodzi naukowcy i specjaliści, którzy mogą nie dysponować wystarczającymi środkami finansowymi, zostaliby w ten sposób zachęceni do udziału w pracach Rady i Komisji. Ich udział może wnieść świeże spojrzenie i innowacyjne rozwiązania w dynamicznie rozwijającej się dziedzinie sztucznej inteligencji. Można też argumentować, że brak możliwości otrzymania przynajmniej zwrotu kosztów noclegu i przejazdu w związku z pracami w Komisji oraz Radzie negatywnie wpłynie także na poziom niezależności ich członków. Warto zauważyć, że członkowie „Beirat für Künstliche Intelligenz” (KI-Beirat) organu doradczo-opiniodawczego wskazanego przez projektodawcę w uzasadnieniu ustawy o systemach SI jako modelowy przykład ciała eksperckiego z uprawnieniami konsultowania prac w zakresie nadzoru nad sztuczną inteligencją — mają prawo żądać zwrotu kosztów poniesionych w związku z pracą w KI-Beirat. Zgodnie z §20c ust. 8 ustawy KommAustria- Gesetz: „Die Mitglieder haben Anspruch auf Ersatz der angemessenen Reisekosten und Barauslagen. Der Bundesminister für Finanzen hat im Einvernehmen mit dem Bundeskanzler mit Verordnung eine Geschäftsordnung für den 64 „Beirat für KI“ zu erlassen. Die für Reisekosten anfallenden Kosten trägt die RTR-GmbH aus den nach dem folgenden Absatz zur Verfügung gestellten Mitteln.”4. Co oznacza, że członkowie mają prawo do zwrotu uzasadnionych kosztów podróży i wydatków, a Minister Finansów, w porozumieniu z Kanclerzem Federalnym, zobowiązany jest wydać rozporządzenie określające regulamin. Analogiczne rozwiązanie mogłoby zostać zastosowane w przypadku Rady i Komisji w Polsce. Zasady zwrotu kosztów przejazdów i noclegów związanych z udziałem w pracach Rady mogłyby zostać określone w regulaminie funkcjonowania Rady. Takie podejście umożliwiłoby udział specjalistów z różnych części kraju, którzy w przeciwnym razie mogliby być wykluczeni ze względu na bariery finansowe. Co więcej, warto rozważyć wprowadzenie możliwości ubiegania się o zwrot kosztów poniesionych w związku z udziałem w obradach Rady lub Komisji przez zaproszonych gości. Wprowadzenie możliwości ubiegania się o zwrot kosztów związanych z udziałem w obradach Rady lub Komisji przez zaproszonych gości mogłoby znacząco zwiększyć dostępność tych spotkań dla różnych grup społecznych, zwłaszcza dla młodych osób oraz ich opiekunów. Taki mechanizm stanowiłby formę wsparcia finansowego, pozwalającą zredukować bariery ekonomiczne, które mogą ograniczać ich zaangażowanie w procesy decyzyjne oraz konsultacyjne. Zapewnienie zwrotu kosztów dla zaproszonych gości, zwłaszcza przedstawicieli organizacji młodzieżowych, mogłoby być postrzegane jako gest w kierunku zapewnienia inkluzywności i równości szans, wskazując, że instytucje publiczne dostrzegają potrzebę większego zaangażowania społecznego oraz szanują czas i wysiłek każdej osoby, która chce wnieść wkład w dysk 80. Art. 8 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów Uwaga uwzględniona Kwestia procedury wyłączenia została uregulowana w nowej treści przepisów projektu. 81. Art. 8 NCBR Przepisy art. 8 należy uzupełnić o sformułowania wiążące się z kwestiami bezpieczeństwa stosowanych przez członków Komisji środków komunikacji - pamiętając, że mają oni posiadać dostęp Uwaga uwzględniona 65 oraz mają wymieniać informacje o charakterze poufnym, stanowiące tajemnice przedsiębiorstw. Należy więc zagwarantować przepisami, a co za tym idzie, również środkami technicznymi, bezpieczeństwo komunikacji w ramach Komisji. Uwaga uwzględniona poprzez rozszerzenie katalogu wymogów związanych z bezpieczeństwem cyfrowym oraz ochroną informacji. 82. Art. 8 Konfederacj a Lewiatan Rekomendujemy dodanie: Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji. Uzasadnienie: Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Uwaga uwzględniona Uwaga uwzględniona poprzez wskazanie uprawnień Komisji oraz Przewodniczącego Komisji. 83. Art. 8 ust. 2 i 9 UKNF Należy mieć na względzie, że tak sformułowany przepis wyłącza możliwość podejmowania decyzji w tzw. trybie obiegowym, a więc pozostaje w kolizji z ust. 9 Uwaga uwzględniona Uwaga uwzględniona poprez zmianę treści przepisów projektu określających sposób i tryb wykonywania zadań przez Komisję. 84. Art. 9 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.” Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 85. Art. 9 ust. 2 Konfederacj a lewiatan Uwaga lub propozycja zmiany zapisu: 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której podmiocie, którego są przedstawicielami. Uzasadnienie: Zmiana gramatyczna. Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 86. Art. 9 ust. 2 KRRiT w art. 9 ust. 2 wyrazy „w podmiotu, której” zostały błędnie odmienione; Uwaga wyjaśniona Uwaga nieaktualna ze względu na zmianę treści przepisów projektu. 87. Art. 9 ust. 2 Rada Legislacyjna [Błąd redakcyjny w art. 9 ust. 2 Projektu] W przepisie art. 9 ust. 2 Projektu występuje błąd redakcyjno-językowy, utrudniający lekturę i zrozumienie tego przepisu. W obecnym brzmieniu przepis ten Uwaga wyjaśniona Odstąpiono od regulacji. 66 stanowi co następuje: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami.”. Ta ostatnia część zdania jest całkowicie ułomna gramatycznie i powinna zostać poprawiona w następujący sposób: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. 88. Art. 10 ust. 3 UNKF Zgodnie z art. 5 ust. 3 projektu: „Nadzór nad działalnością Biura Komisji sprawuje Prezes Rady Ministrów”. Konsekwencją takiego założenia jest regulacja, zgodnie z którą Prezes Rady Ministrów nadaje statut Biura Komisji (art. 31 projektu). Z kolei, art. 10 ust. 3 projektu ustawy przewiduje, że: „Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia”. Należy mieć jednakże na uwadze, że w skład przyszłej Komisji wchodzić będą również przedstawicieli organów spoza sfery administracji rządowej - Prezesa UODO, RPO, KRRiT, a także KNF. Wobec powyższego należałoby rozważyć, czy bardziej odpowiednim rozwiązaniem nie będzie przyznanie Komisji ustawowej podstawy do samodzielnego uchwalenia regulaminu, który określi jej organizację i tryb pracy. Uwaga wyjaśniona Uwaga bezprzedmiotowa w kontekście dokonania przez projektodawcę zmian w treści przepisów regulujących sprawowanie nadzoru nad Biurem Komisji (w nowej wersji będącym w kompetencji Ministra wł. Ds. informatyzacji). 89. Art. 11 ust. 1 pkt 13, art. 13, art. 14 oraz art. 16 Pracodawcy RP Artykuły 11 ust. 1 pkt 13, 13, 14 oraz 16 przewidują możliwość wydawania interpretacji i rekomendacji przez Komisję, co wykracza poza kompetencje określone w Akcie w sprawie sztucznej inteligencji. Proponowane przepisy mogą prowadzić do niejednolitego stosowania prawa unijnego. Akt o AI (art. 66 lit. e) przyznaje takie uprawnienia wyłącznie unijnej Radzie ds. AI, aby zapewnić spójność i skuteczność wdrażania przepisów na poziomie całej Unii Europejskiej. W celu uniknięcia potencjalnych rozbieżności w interpretacji Aktu o AI przez różne państwa członkowskie oraz niejasności w stosowaniu przepisów przez międzynarodowe przedsiębiorstwa działające w Polsce i innych krajach, zaleca się usunięcie tych zapisów z ustawy. Uwaga uwzględniona Odstąpiono od propozycji utworzenia instytucji interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 67 90. Art. 11 NCBR Tworzenie piaskownic regulacyjnych, które umożliwią firmom testowanie nowych rozwiązań SI w kontrolowanym środowisku, wymaga doprecyzowania i uszczegółowienia. Przepisy ustawy jedynie wspominają o ich tworzeniu jako kompetencji Komisji, jednak w brakuje jasnych zasad funkcjonowania tych piaskownic, które pozwolą przedsiębiorstwom testować innowacyjne technologie z zachowaniem niezbędnych zabezpieczeń prawnych. Dla przykładu możliwość tworzenia piaskownic regulacyjnych przewidziano w prawie energetycznym. Prezes URE ma możliwość zawieszenia stosowania określonych przepisów w stosunku do określonych przedmiotów. Jeżeli Komisja funkcjonuje jako regulator rynku SI, powinna mieć analogiczne możliwości zapewnione na poziomie ustawy. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 91. Art. 11 ust 1 PUODO Podkreślenia wymaga na wstępie, że kluczowym atrybutem organu nadzorczego ds. ochrony danych osobowych w unijnym systemie ochrony danych jest jego niezależność, chroniona gwarancjami prawnymi czerpiącymi źródło w prawie UE (art. 16 TFUE oraz art. 8 KPP UE). Prawna ochrona niezależności organów ochrony danych osobowych ma na celu zapewnienie skuteczności i wiarygodności nadzoru przestrzegania przepisów dotyczących ochrony danych osobowych osób fizycznych i musi być interpretowana w świetle tego celu – na co wielokrotnie zwracał uwagę Trybunał Sprawiedliwości Unii Europejskiej5. Niezależność organu ochrony danych osobowych musi być rozpatrywana na kilku płaszczyznach, w tym przede wszystkim w aspekcie niezależności instytucjonalnej, czyli braku jakiejkolwiek podległości wobec innych organów oraz niezależności funkcjonalnej, czyli niepodlegania kontroli innych instytucji w zakresie realizacji swoich kompetencji6. Zwraca na to uwagę TSUE w swoim orzecznictwie, w szczególności w ww. wyroku w sprawie C- 614/10 Komisja przeciwko Austrii. Trybunał w tym wyroku wskazał, że organy nadzorcze w obszarze ochrony danych osobowych muszą pozostawać poza jakimkolwiek bezpośrednim czy pośrednim wpływem z zewnątrz, mogącym nadawać kierunek ich decyzjom. Z kolei w sprawie C- 288/12 Komisja przeciwko Węgrom Trybunał dodał, że nawet potencjalna możliwość wywarcia wpływu na decyzje organu Uwaga uwzględniona częściowo Kwestię niezależności organu ds. Ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu. 68 może być wystarczającą przeszkodą w niezależnym wykonywaniu zadań przez organ. Postanowienia aktu w sprawie sztucznej inteligencji w pełni przyjmują standard niezależności organu nadzorczego określony w rozporządzeniu 2016/679, wskazując w art. 2 ust. 7, że „Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Standard ten nie znalazł jednak wyrazu w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. Podkreślenia wymaga, że przyznanie wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) w zakresie „wykonywania zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689”, zgodnie z art. 11 ust. 1 pkt 7 projektu ustawy, oraz „sprawowania kontroli przestrzegania przepisów rozporządzenia 2024/1689”, zgodnie z art. 11 ust. 1 pkt 1 projektu ustawy, nie spełnia wymagań odnoszących się do zakresu kompetencji nadzorczych organu ds. ochrony danych osobowych określonych w prawie unijnym, w tym określonych wprost w rozporządzeniu 2024/1689 oraz rozporządzeniu 2016/679. To przepisy rozporządzenia 2016/679 stanowią podstawę dla nadzoru nad wszystkimi sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru w tej materii niezależnemu organowi nadzorczemu, tj. Prezesowi UODO. 92. Art 11 ust. 1 pkt 3-4 BGK Brak rozwinięcia w dalszej części Ustawy brzmienia tych zapisów, w jaki sposób, w jakim zakresie. Uwaga uwzględniona 69 Dokonano rozwinięcia przepisów będących przedmiotem uwagi (m.in. w rozdziale 8 - środki wspierające innowacyjność) 93. Art. 11 ust. 1 BGK Dodanie pkt 9: 9) prowadzenie badań w zakresie zastosowania sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację wpływu treści na podejmowane przez biznes działania; Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu podejmowanych działań Uwaga nieuwzględniona Obszar badań według projektodawcy mieści się w ramach innych zadań związanych m.in. z zapewnieniem odpowiedniego poziomu kompetencji w zakresie koniecznym do stosowania przepisów ustawy. 94. Art. 11 ust. 1 pkt 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 6. wydawanie postanowienia i decyzje postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy. Uzasadnienie: Pierwsza uwaga stanowi poprawkę gramatyczną. Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Uwaga częściowo uwzględniona 95. Art. 11 ust. 1 pkt 6 KRRiT w art. 11 ust. 1 pkt 6 wyrazy „postanowienia i decyzje” zostały błędnie odmienione; Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 96. Art. 11 ust. 1 pkt 6 UKNF Projektowany przepis stanowi, że: „Do zadań Komisji należy wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. Wydawanie decyzji i postanowień w sprawach dotyczących naruszeń przepisów ustawy jest jednakże formą, w której organ może realizować swoje kompetencje. Nie jest to jednakże samodzielne zadanie Komisji. Stąd też, UKNF poddaje pod rozwagę wykreślenie tego punktu bądź przyjęcie innej redakcji przepisu. Uwaga nieuwzględniona Zdaniem projektodawcy wskazany przepis powinien pozostać w projekcie ustawy w celu uniknięcia niejasności interpretacyjnych w stosowaniu nowego prawa. 97. Art. 11 ust. 1 pkt 6 Rada Legislacyjna [Usterka redakcyjna w art. 11 ust. 1 pkt 6 Projektu] Kolejna usterka redakcyjno- językowa występuje w art. 11 ust. 1 pkt 6 Projektu. Przepis ten stanowi, że „Do zadań Komisji należy [...] wydawanie postanowienia i decyzje w sprawach naruszenia Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 70 przepisów o systemach sztucznej inteligencji”. W przepisie tym należy poprawić deklinację, poprzez użycie wyrazów „postanowień i decyzji” w dopełniaczu. W efekcie, poprawne językowo brzmienie tego przepisu powinno być następujące: „Do zadań Komisji należy [...] wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji” 98. Art. 11 ust. 1 pkt 10 UKNF Niejasnym jest posłużenie się sformułowaniem „gromadzenie orzecznictwa”. Wątpliwym jest bowiem, aby celem projektodawcy było zobowiązanie Komisji do archiwizowania orzeczeń sądowych. Celem przepisu jest raczej zobowiązanie do bieżącego monitorowania orzecznictwa, a następnie informowania o nim obywateli. W związku z powyższym UKNF wnosi o zmianę projektowanego przepisu poprzez zastąpienie pojęcia „gromadzenie orzecznictwa” pojęciem „monitorowanie orzecznictwa”. Uwaga uwzględniona Uwaga uwzględniona w art. 9 pkt. 10, w którym zrezygnowano z potencjalnie niejednoznacznego zobowiązania do “gromadzenia” orzecznictwa. 99. Art. 11 ust. 1 pkt 11 KRRiT w art. 11 ust. 1 pkt 11 uprawnienie Komisji zostało ujęte zbyt ogólnie i w sposób niejasny – warto rozważyć możliwość prowadzenia sprofilowanych na określony zakres regulacji piaskownic regulacyjnych, także przez Prezesa UODO, Prezesa UOKiK, Prezesa UKE oraz przez KRRiT; Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 100. Art. 11 ust. 1 pkt 13 PUODO Interpretacje generalne i indywidualne. Zgodnie z art. 11 ust. 1 pkt 13 projektu ustawy do zadań Komisji należy dokonywanie interpretacji generalnych i indywidualnych. Wydawanie na zlecenie Komisji interpretacji generalnych i indywidualnych przez przedstawiciela Prezesa UODO będącego członkiem Komisji w opinii organu nadzorczego ds. ochrony danych budzi wątpliwości pod kątem stosowania art. 57 rozporządzenia 2016/679, w którym została określona niezależność. Prezes UODO nie może być związany interpretacją wydaną przez Komisję w kwestiach dotyczących ochrony danych osobowych. Uwaga uwzględniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 101. Art. 11 ust. 1 pkt 13 UKNF Zdaniem UKNF pojęcie „dokonywanie interpretacji” powinno zostać zastąpione pojęciem „wydawanie interpretacji”. Ponadto przepis wymaga ujednolicenia z zakresem art. 13 oraz z art. 14 projektu ustawy. Zgodnie bowiem z projektowanym art. 14 ust. 1 interpretacje w sprawie indywidualnej zastrzeżono do Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 71 zakresu zadań Przewodniczącego Komisji, a nie do Komisji działającej in gremio. 102. Art. 11 ust. 3 KRRiT w art. 11 ust. 3 błędnie odesłano do ust. 1; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 103. Art. 12 ust. 2 pkt 4 Rada Legislacyjna [Niepoprawne odwołanie się do pojęcia przedsiębiorstw w art. 12 ust. 2 pkt 4 Projektu] Przepis art. 12 ust. 2 pkt 4 Projektu odwołuje się do pojęcia „przedsiębiorstw”, podczas gdy prawidłowo powinna być w tym przepisie mowa o „przedsiębiorcach”. W aktualnym brzmieniu powołany przepis Projektu stanowi, że Komisja publikuje coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji „w przedsiębiorstwach w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236 i 1222)”. Tymczasem w tej powołanej ustawie Prawo przedsiębiorców nie tylko brak jest legalnej definicji pojęcia „przedsiębiorstw”, ale nawet samo to pojęcie w zasadzie w ogóle tam nie występuje (w ustawie tej mówi się co najwyżej o wyodrębnionej części przedsiębiorstwa). W ustawie Prawo przedsiębiorców kluczowe jest natomiast pojęcie „przedsiębiorcy”, zdefiniowane tam normatywnie w art. 4 ust. 1 i 2 (w zw. z art. 2). I właśnie do pojęcia „przedsiębiorców” powinien się docelowo odwoływać przepis art. 12 ust. 2 pkt 4 Projektu („u przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców”). Uwaga uwzględniona 104. Art. 13 ust. 1 BGK Propozycja: Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów (m.in. Poprzez rezygnację z kategorii “interpretacji”). 72 podstawie nazwy było wiadomo jaki dany dokument ma charakter 105. Art. 13 ust. 1 Rada Legislacyjna [Brak określenia skutków prawnych aktów Komisji w art. 13 ust. 1 Projektu] Art. 13 ust. 1 Projektu nie określa w ogóle skutków prawnych, jakie dla Komisji i dla zainteresowanych podmiotów będą wywierały wyjaśnienia, opinie i interpretacje, o których jest mowa w tym przepisie. Przepis ten stanowi co następuje: „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wyjaśnienia, opinie i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.”. Zdaniem Rady Legislacyjnej, bez przesądzenia w Projekcie o skutkach prawnych tego rodzaju wydawanych przez Komisję wyjaśnień, opinii i interpretacji (o charakterze generalno- abstrakcyjnym), ta instytucja prawna może nie mieć żadnego praktycznego znaczenia prawnego: jeżeli bowiem Komisja nie będzie się czuła związana tymi aktami (na zasadzie samozobowiązania się), zaś podmioty stosujące przepisy dotyczące systemów sztucznej inteligencji nie będą miały przekonania, iż te akty Komisji są dla niej wiążące i że mogą oni działać w zaufaniu do tychże aktów, bez ryzyka narażania się na sankcje z tytułu ich respektowania, to wówczas cała ta instytucja będzie jedynie fasadowa i będzie wręcz przynosiła więcej szkód niż pożytków (tzn. pojawi się chaos prawny, niepewność prawa, utrata zaufania jednostek do organów państwa, mnożące się roszczenia odszkodowawcze wobec państwa, itp.). Zdaniem Rady Legislacyjnej, de lege ferenda należy unormować status i skutki prawne wspomnianych generalnych aktów Komisji z art. 13 ust. 1 Projektu w sposób analogiczny do statusu i skutku objaśnień prawnych, o których jest mowa w art. 33 ust. 1 ustawy Prawo przedsiębiorców,15 a których skutki prawne wynikają z przepisów art. 35 ust. 1-2 w zw. z ust. 3 ustawy Prawo przedsiębiorców. Z tych ostatnich przepisów wynika, że objaśnienia prawne są z jednej strony wiążące dla organów państwa, które je wydały, zaś z drugiej strony nie wiążą one co prawda przedsiębiorców, w tym sensie, że nie obligują ich do postępowania wskazanego w danym objaśnieniu prawnym, ale Uwaga uwzględniona Problematyka skutków prawnych opinii (w miejsce “interpretacji”) indywidualnych oraz wyjaśnień jest przedmiotem zmian w nowej treści przepisów (nowe brzmienie art. 11-14). 73 równocześnie w zakresie, w jakim przedsiębiorca zastosował się do danych objaśnień prawnych nie może on być obciążony jakimikolwiek sankcjami administracyjnymi, finansowymi lub karami.16 Na gruncie art. 13 ust. 1 Projektu należałoby sformułować podobną regułę w odniesieniu do przewidzianych tam wyjaśnień, opinii i interpretacji Komisji, względnie też należałoby odesłać do odpowiedniego stosowania w tym zakresie odnośnych przepisów ustawy Prawo przedsiębiorców. 106. Art. 13 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę modyfikację fragmentu „wyjaśnienia, opinie i interpretacje”. Brak jest bowiem przepisów określających charakter tych wypowiedzi Komisji, co może budzić wątpliwości na etapie ich stosowania. Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów art. 11-14. 107. Art. 13 ust. 2 PFR Warto rozważyć uregulowanie sposobu publikacji i ewentualnego zanonimizowania danych wrażliwych, co zapewniłoby lepszą ochronę prywatności. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą anonimizowane. 108. Art. 13 ust. 2 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Ponadto w ten sposób na szeroką skalę ujawniony zostanie również sposób działania organu nadzoru. Urząd Komisji Nadzoru Finansowego rekomenduje przyjęcie zasad odnośnie do publikowania informacji o decyzjach przykładowo na kształt art. 87 ustawy z dnia 15 grudnia 2017 r. o dystrybucji ubezpieczeń bądź art. 3c ust. 5 i następne ustawy o nadzorze nad rynkiem finansowym. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą pozbawione treści prawnie chronionych. 109. Art.14 KRRiT W art. 14 nie określono jaki charakter ma mieć interpretacja wydawana przez Przewodniczącego Komisji, w szczególności nie wskazano czy będzie ona wiążąca i dla kogo, ponadto należałoby rozważyć dookreślenie kręgu podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie interpretacji; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 110. Art. 14 ust. 1-7 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przepisy art. 14 ust. 1-5 projektu ustawy nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach. Przepisy tego rodzaju ustawodawca przewidział np. w art. 35 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (dalej jako: „Prawo przedsiębiorców”) w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 74 Prawa przedsiębiorców, czy też w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (dalej jako: „Ordynacja podatkowa”). Ponadto UKNF proponuje rozważyć dodanie przepisu określającego, w jakich sytuacjach odmawia się wydania interpretacji indywidualnej, który mógłby wyłączać dopuszczalność wniosków o interpretację indywidualną lub tych elementów wniosku o interpretację indywidualną, które w dniu złożenia wniosku są objęte kontrolą Komisji lub postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub zostały już rozstrzygnięte co do istoty. Taki przepis zabezpieczałby Komisję przed wydawaniem interpretacji w sprawach wątpliwych, które byłyby dopiero przedmiotem badania przez Komisję i jednocześnie zapobiegałby sytuacjom, w których podmiot naruszający przepisy lub stwarzający określone ryzyka naruszeń uzyskiwałby korzystną dla siebie interpretację. Taki sposób zabezpieczenia przewidują przepisy Ordynacji podatkowej – art. 14b oraz przepisy ustawy o nadzorze nad rynkiem finansowym – art. 11b ust. 10. Ponadto, w ocenie UKNF, doprecyzować należy również, jakie są skutki uwzględnienia bądź nieuwzględnienia sprzeciwu, o którym mowa w art. 14 ust. 7 projektu ustawy. Zasadnym byłoby również doprecyzowanie, czy rozstrzygnięcie wydane w ramach rozpatrzenia sprzeciwu może zostać zaskarżone, a jeżeli tak, jaki organ byłby właściwy do rozpoznania takiego środka zaskarżenia. 111. Art. 14 ust. 1-5 Rada Legislacyjna Brak określenia skutków prawnych interpretacji z art. 14 ust. 1-5 Projektu] Przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach Projektu. Istota tychże interpretacji wyraża się w tym, że „Przewodniczący Komisji, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy” (art. 14 ust. 1 Projektu) oraz że „Interpretacja, o której mowa w ust. 1, zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 75 oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.” (art. 14 ust. 5 Projektu). Podobnie jak w przypadku generalno- abstrakcyjnych wyjaśnień, opinii i interpretacji, o których jest mowa w art. 13 ust. 1 Projektu, również w przypadku interpretacji indywidualnych przewidzianych w art. 14 ust. 1-5 Projektu nie zostały w Projekcie określone skutki prawne tych interpretacji dla wnioskodawcy oraz dla Komisji, chociażby w sposób dokonany przez ustawodawcę w art. 35 ustawy Prawo przedsiębiorców w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 ustawy Prawo przedsiębiorców. W odniesieniu do skutków interpretacji indywidualnych z art. 14 ust. 1-5 Projektu reguły określone w art. 34-35 ustawy Prawo przedsiębiorców nie mogą być stosowane wprost, gdyż, po pierwsze, przepisy art. 34-35 ustawy Prawo przedsiębiorców mają zastosowanie tylko do interpretacji w sprawach fiskalno-składkowych (tj. interpretacje te dotyczą wyjaśnienia co do zakresu i sposobu stosowania przepisów, z których wynika obowiązek świadczenia przez przedsiębiorcę daniny publicznej lub składek na ubezpieczenia społeczne lub zdrowotne, w jego indywidualnej sprawie), podczas gdy interpretacje indywidualne z art. 14 ust. 1-5 Projektu dotyczą nie tylko tego rodzaju spraw, a po drugie nie zawsze o interpretację do Przewodniczącego Komisji musi się zwracać przedsiębiorca w rozumieniu ustawy Prawo przedsiębiorców. Niemniej jednak, zdaniem Rady Legislacyjnej, w Projekcie należy unormować skutki prawne interpretacji indywidualnych z art. 14 ust. 1-5 Projektu w sposób analogiczny lub zbliżony do skutków interpretacji indywidualnych z ustawy Prawo przedsiębiorców. Przyjęcie tego stanowiska oznaczałoby, że interpretacje indywidualne z art. 14 ust. 1-5 Projektu są wiążące dla Komisji, a nie są wiążące dla wnioskodawcy (tj. dla podmiotu wnioskującego o interpretację Komisji w jego indywidualnej sprawie); ten ostatni może daną interpretację indywidualną zlekceważyć (pominąć), z tym, że jeżeli wnioskodawca zastosuje się do danej interpretacji w jego indywidualnej sprawie, to nie może on następnie ponieść negatywnych skutków tego stanu rzeczy, w szczególności zaś nie może zostać obciążony sankcjami za zachowanie zgodne z 76 uzyskaną interpretacją wydaną przez Przewodniczącego Komisji. 112. Art. 14 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na rozbieżność pomiędzy art. 14 ust. 1 a art. 11 ust. 1 pkt 13 i art. 15 projektu ustawy. W art. 11 ust. 1 pkt 13 projektu ustawy wskazano bowiem, że do zadań Komisji należy wydawanie interpretacji indywidualnych i generalnych; w art. 15 projektu ustawy, że to Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych, a z kolei zgodnie z aktualnym brzmieniem art. 14 ust. 1 projektu ustawy uprawnienie to, w zakresie interpretacji indywidualnych, przysługuje Przewodniczącemu Komisji. Niezbędnym wydaje się wyjaśnienie i ujednolicenie tej kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 113. Art. 14 ust. 1 PFR Nie określono, jak długo wnioskodawca ma oczekiwać na wydanie interpretacji. Wyznaczenie maksymalnych terminów oczekiwania byłoby korzystne dla przejrzystości procesu. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 114. Art. 14 ust. 1 IAB Polska Rekomendujemy dodanie terminu za wydanie takiej interpretacji, aby zarówno podmiot zainteresowany, jak i Komisja (por. poniższy akapit) poruszali się w tym zakresie w ramach konkretnego zakresu czasowego. W tym zakresie można wykorzystać przepisy dot. Komisji Nadzoru Finansowego z art. 11b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym. Biorąc pod uwagę powyższe, interpretację powinna wydawać Komisja, a nie przewodniczący, biorąc pod uwagę wzorowanie się na już obecnych zasadach funkcjonowania Komisji Nadzoru Finansowego. Jednocześnie powinien zostać przewidziany tryb odwołania od decyzji Komisji ws. interpretacji indywidualnej na wzór skargi do sądu administracyjnego na indywidualną interpretację podatkową (np. do SOKiK). Wskazany w art. 14 ust. 1 projektu ustawy tryb przypomina tryb wydawania interpretacji podatkowych. O ile pozytywnie należy ocenić, że Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) może wspierać uczestników rynku w interpretowania AI Actu (patrz jednak zastrzeżenie dot. fragmentaryzacji prawa poniżej), o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 77 To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. Niemniej, chcemy zwrócić uwagę, że instytucja interpretacji przepisów AI Act na poziomie lokalnym nie znajduje uzasadnienia w samym AI Act. Zgodnie z AI Act to unijna Rada ds. AI może wydawać zalecenia i opinie “na temat wszelkich istotnych zagadnień związanych z wdrażaniem rozporządzenia”. Rozwiązanie przyjęte w Projekcie rodzi ryzyko znacznej fragmentaryzacji prawa unijnego, które będzie różnie interpretowane w państwach członkowskich. Zasadne byłoby, w przypadku decyzji o utrzymaniu tej instytucji, opracowanie procesów gwarantujących spójność interpretacji ze stanowiskami Rady ds. AI lub innymi organami na poziomie państw członkowskich. 115. Art. 14 ust. 1 Konfederacj a Lewiatan Rekomendacja uzupełnienia: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystapił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem że działania tego podmiotu w Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 78 zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. Uzasadnienie: Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jesrt Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. Postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. 116. Art. 14 ust. 2 PFR Proponujemy doprecyzowanie formy składania tego wniosku, wydania interpretacji oraz składania sprzeciwu od tej interpretacji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 117. Art. 14 ust. 3 Rzecznik MŚP Wnoszę o rozważenie wykreślenia: przesłanki \"wyczerpującego przedstawienia zaistniałego stanu faktycznego albo zdarzenia przyszłego” zawartej w art. 14 ust. 3 Projektu, w celu pozyskania interpretacji w indywidualnej sprawie przepisów rozporządzenia 2024/1689? w świetle ustawy Prawo przedsiębiorców. Tak Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 79 sformułowana przesłanka może być zbyt rygorystyczna i sprzeczna z przesłankami uzyskania takiej interpretacji określonymi w art. 34 ust. 1 i 3-4 Prawa przedsiębiorców. W tym kontekście ze względu na wprowadzenie przesłanki „wyczerpania”, uzasadniona może być obawa o nadużywanie jej w celu zbyt łatwej możliwości odrzucania wniosków o interpretacje indywidualne przedsiębiorców, zwłaszcza, że powstają dopiero pierwsze systemy sztucznej inteligencji i uregulowania ich dotyczące; wymóg przedstawiania w sposób „wyczerpujący” tanu faktycznego albo zdarzenia przyszłego można uznać zasadniczo za barierę sprzeczną z art. 67 pkt 1 i 4 oraz art. 68 Prawa przedsiębiorców, 118. Art. 14 ust. 5 BGK Propozycja „5. Komisja wydaje interpretację, o której mowa w ust. 1, w ciągu 30 dni od dnia otrzymania wniosku. Interpretacja zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.”. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 119. Art. 14 ust. 5 Konfederacj a Lewiatan Przepis wymaga doprecyzowania terminu wydawania interpretacji, skutków jej wydania oraz czy jest wiążąca w określonym stanie faktycznym. Zwiększy to jasność i precyzję przepisu, co zapewni pewność prawną. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 120. Art. 14 po ust. 5 BGK Dodanie ustępu 5a: Uwaga wyjaśniona 80 5a. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli. Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 121. Art. 14 ust. 6 i 7 Konfederacj a Lewiatan Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Uzasadnienie: Ustawa nie określa: • formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; • do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? • formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąc, że ma odpowiednie zastosowanie w sprawach niuregulowanych bo nie reguluje tych kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 122. Art. 14 ust. 6 i 7 Rada Legislacyjna [Brak przesądzenia o formie prawnej rozstrzygnięcia oraz o drodze sądowej w art. 14 ust. 6-7 Projektu] Przepisy art. 14 ust. 6-7 Projektu nie przesądzają o formie prawnej przewidzianego tam rozstrzygnięcia przez Komisje sprzeciwu oraz nie mówią nic o tym, czy od rozstrzygnięcia przez Komisję tego sprzeciwu wnioskodawcy przysługuje środek zaskarżenia przed sądem. Sprzeciw, o którym jest mowa w art. 14 ust. 6-7 Projektu Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 81 przysługuje wnioskodawcy wobec uzyskanej w jego indywidualnej sprawie interpretacji wydanej przez Przewodniczącego Komisji, przy czym sprzeciw wnioskodawcy jest rozpatrywany przez całą Komisję. W Projekcie nie określono formy prawnej rozstrzygnięcia przez Komisję wspomnianego sprzeciwu, a w efekcie nie wiadomo, czy ma to następować w formie decyzji, postanowienia lub innego aktu Komisji. W efekcie, nie jest też przesądzona możliwość oraz forma (droga) zaskarżenia przez wnioskodawcę rozstrzygnięcia Komisji w sprawie jego sprzeciwu. Gdyby rozstrzygnięcie omawianego sprzeciwu następowało w formie decyzji lub postanowienia Komisji, to wówczas otwarta byłaby w tych sprawach droga sądowa przed sądem administracyjnym, choć teoretycznie można by wówczas postulować de lege ferenda również możliwość wniesienia, odpowiednio, odwołania lub zażalenia do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej: „SOKiK”), tak jak o tym wyraźnie przesądzono w art. 57 ust. 1 Projektu w odniesieniu do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 („Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”). Gdyby natomiast rozstrzygnięcie przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu, następowało w formie innego aktu lub czynności niż decyzja lub postanowienie, to wówczas teoretycznie akt taki można by zaskarżyć do sądu administracyjnego na podstawie art. 3 § 2 pkt 4 ustawy z dnia 30 sierpnia 2002 r. Prawo o postępowaniu przed sądami administracyjnymi.17 Ten ostatni przepis pozwala zaskarżać do sądu administracyjnego „inne niż określone w pkt 1-3 akty lub czynności z zakresu administracji publicznej dotyczące uprawnień lub obowiązków wynikających z przepisów prawa”. Jednakże możliwość wykorzystywania tego przepisu do otwarcia drogi sądowej od rozstrzygnięcia przez Komisję sprzeciwu w sprawach interpretacji indywidualnych nie jest wcale taka pewna, gdyż, jak jest o tym mowa wyżej w punkcie II.10 niniejszej opinii, przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych wywieranych przez interpretacje indywidualne wydawane przez Przewodniczącego Komisji, a 82 zatem nie wiadomo, czy rozstrzygnięcia Komisji w sprawie sprzeciwu od interpretacji dotyczą „uprawnień lub obowiązków wynikających z przepisów prawa” w rozumieniu art. 3 § 2 pkt 4 ustawy Prawo o postępowaniu przed sądami administracyjnymi. W przekonaniu Rady Legislacyjnej, w przepisach Projektu należy określić zarówno formę prawną rozstrzygnięcia przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu (np. decyzja lub postanowienie Komisji), jak też środek (drogę) zaskarżenia tego rozstrzygnięcia (np. skarga do sądu administracyjnego albo odwołanie lub zażalenie do SOKiK). 123. Art. 14 ust. 6 Konfederacj a Lewiatan Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstanycjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 124. art. 14 ust. 7 BGK Propozycja: „7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio.” Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 125. Art. 14 ust. 7 PFR Wskazane jest uregulowanie procedury odwoławczej poprzez umożliwienie rozpatrzenia sprawy przez odpowiedni sąd po złożeniu skargi. Uwaga wyjaśniona Uwaga nieaktualna – w nowej wersji projektu dokonano modyfikacji przepisów w zakresie będącym przedmiotem uwagi. 83 126. Art. 15 i art. 13 ust. 1 Rada Legislacyjna [Brak czytelnej różnicy pomiędzy przepisami art. 13 ust. 1 i art. 15 Projektu] Nie do końca wiadomo, czym różnią się od siebie w sensie normatywno-prawnym instytucje unormowane w art. 13 ust. 1 Projektu (z jednej strony) oraz w art. 15 Projektu (z drugiej strony). Jak była już o tym mowa, art. 13 ust. 1 zd. 1 Projektu stanowi, że „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji.”. Z kolei art. 15 Projektu stanowi, że „Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy.”. Kwalitatywna różnica pomiędzy obu wskazanymi instytucjami prawnymi jest absolutnie nieczytelna (w obu przypadkach chodzi w istocie o generalne akty interpretacyjne wydawane przez Komisję i przedstawiające jej stanowisko w sprawie interpretacji przepisów Rozporządzenia UE 2024/1689 lub Projektu), przy czym w art. 15 Projektu, tak samo jak w art. 13 i 14 Projektu, nie określono skutków prawnych interpretacji generalnych wydawanych przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 127. art. 15 BGK Propozycja: Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z tym, że taka osoba nie może być obciążona sankcjami administracyjnymi, finansowymi lub karami w zakresie, w jakim zastosował się do interpretacji generalnej. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 84 stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. 128. Art. 15 Konfederacj a Lewiatan Podobnie jak w przypadku art. 14 ust. 5, przepis wymaga doprecyzowania Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 129. Art. 16 IAB Polska Biorąc pod uwagę publiczność interpretacji – rekomendujemy wprowadzenie procedury wykluczania z publikacji informacji stanowiących tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 130. Art. 16 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 131. Art. 17 ust. 1 KRRiT w art. 17 ust. 1 w pkt 3 i 4 wskazano, że roczne sprawozdanie Komisji w zakresie zadań realizowanych przez Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz w zakresie realizacji rocznego planu finansowego mają dotyczyć roku poprzedzającego złożenie sprawozdania (w pkt. 3 wskazano na rok poprzedzający, a w pkt. 4 odniesiono się do roku kalendarzowego poprzedzającego), natomiast pkt 1 i 2 przepisu nie posiada takiego doprecyzowania – wątpliwości interpretacyjne może budzić fakt, czy kwestie wskazane w pkt 1 i 2 przepisu mają dotyczyć roku poprzedzającego złożenie Uwaga uwzględniona Treść przepisów rozróżnia obowiązki sprawozdawcze dotyczące roku poprzedzającego złożenie sprawozdania, a także obowiązki dotyczące przedstawienia informacji nt. wszystkich lat działalności Komisji. 85 sprawozdania, tym bardziej, że zdanie wprowadzające do wyliczeń nie odnosi się do tej kwestii; 132. Art. 18 NCBR W wątpliwość należy poddać, czy ujęte w przepisach art. 18 ust. 2 pkt 4 kompetencje Przewodniczącego Komisji są wystarczające do pełnienia tej funkcji. Istotne jest, aby była to osoba o wysokich kompetencjach merytorycznych oraz dłuższym aniżeli trzyletnie doświadczeniu w zakresie objętym ustawą. Uwaga wyjaśniona Przepis otrzymał nowe brzmienie, natomiast ze względu na nowatorski charakter aktualnie rozwijanych i stosowanych technologii sztucznej inteligencji zachowano wymóg 3 lat pracy na stanowisku kierowniczym. 133. Art. 18 ust. 2 pkt 4 BGK Propozycja: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych; Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). Uwaga nieuwzględniona Zdaniem projektodawcy nie należy dokonywać wskazanego dookreślenia. 134. Art. 18 ust. 2 pkt 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; Uzasadnienie: Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeslo nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującycm działalność w obszarach wskazanych, co sugeruje że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w Uwaga nieuwzględniona Zdaniem projektodawcy nie ma konieczności dokonania wskazanych zmian ze względu na bliskie znaczenie obu wersji projektowanego przepisu. 86 firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. 135. Art. 20 NCBR Postępowanie na stanowisko Przewodniczącego przeprowadza trzyosobowa komisja kwalifikacyjna, która ocenia kompetencje kierownicze kandydata na Przewodniczącego, alternatywnie wspomagając się tym zewnętrznym ekspertem (art. 20 ust. 4 i 5). W ustawie brakuje informacji, jakie rzeczywiste kompetencje do oceny kandydatów na Przewodniczącego Komisji powinny posiadać osoby oceniające kandydatów. Uwaga nieuwzględniona Zmiana sposobu powołania przewodniczącego Komisji na rzecz powołania przez Sejm za zgodą Senatu. 136. Art. 20 Konfederacj a Lewiatan Zapytanie: Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? 137. Art. 20 ust. 2 IAB Polska W celu promocji dobrych praktyk rynkowych oraz dla celów transparentności Komisji – rekomendujemy dodanie punktu tworzącego obowiązek przekazania danych o wynagrodzeniu Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w art. 15 ust. 2 pkt. 6. 138. Art. 20 ust. 2 pkt 5 KRRiT w art. 20 ust. 2 pkt 5 powinno się nadać brzmienie: „5) wymagane dokumenty”; Uwaga uwzględniona 139. Art. 20 ust. 5 KRRiT w art. 20 ust. 5 błędnie odesłano do ust. 3; Uwaga uwzględniona 140. Art. 20 ust. 5 PFR Wydaje się, iż w tym miejscu powinno być odwołanie do kompetencji z ust. 4. Wskazany ust. 3 nie mówi o żadnych kompetencjach. Uwaga uwzględniona 141. Art. 20 ust. 5 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na błędne odwołanie w treści przepisu. O wiedzy i kompetencjach kierowniczych jest bowiem mowa w art. 20 ust. 4 projektu ustawy, a nie w ust. 3 jak wskazano w projektowanym przepisie. Przepis w ust. 3 stanowi o terminie składania dokumentów. Niezbędna jest korekta w zakresie odesłania do prawidłowej jednostki redakcyjnej (ust. 4). Uwaga uwzględniona 142. Art. 20 ust. 8 KRRiT w art. 20 ust. 8 katalog informacji zawartych w protokole z przeprowadzonego naboru powinien zostać uzupełniony o informację o niewyłonieniu kandydata, zwłaszcza, że protokół zawierać ma informację o powodach niewyłonienia kandydata; Uwaga uwzględniona Uwaga uwzględniona w art. 18 ust. 11 pkt 5 143. Art. 20 ust. 8 UKNF Ustęp ten dotyczy informacji ujawnianych w protokole komisji kwalifikacyjnej z przeprowadzonego naboru na stanowisko Uwaga nieuwzględniona 87 Przewodniczącego Komisji. W art. 20 ust. 5 projektu ustawy wskazano na możliwość uczestnictwa w ocenie wiedzy i kompetencji kierowniczych kandydata na stanowisko Przewodniczącego Komisji osoby niebędącej członkiem komisji kwalifikacyjnej. W ocenie UKNF zasadnym byłoby, aby w sytuacji uczestnictwa takiej osoby, była ona także wskazana w ww. protokole obok składu komisji kwalifikacyjnej, tak aby protokół odpowiadał stanowi faktycznemu i uwzględniał wszystkie osoby rzeczywiście zaangażowane w proces wyboru Przewodniczącego Komisji. 144. Art. 23 ust. 1 KRRiT w art. 23 ust. 1 błędnie odesłano do art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce; Uwaga uwzględniona 145. Art. 23 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce, do którego odwołuje się art. 23 ust. 1 projektu ustawy, nie zawiera wykazu stanowisk, lecz wykaz podmiotów składających się na system szkolnictwa wyższego i nauki (tj.: uczelnie, PAN, instytuty naukowe, instytuty badawcze itd.). Z tego względu niezbędne jest przeredagowanie niniejszego przepisu, tak aby odpowiadał wskazanemu odesłaniu. Uwaga uwzględniona 146. Art. 23 ust. 1 IAB Polska Treść art. 7 ust. 1 ustawy z 20.7.2018 r. - Prawo o szkolnictwie wyższym i nauce nie zawiera określenia stanowisk w systemie szkolnictwa wyższego i nauki, a wykaz podmiotów ten system tworzących. Tym samym należy zmienić wskazany przepis i określić, że chodzi o stanowisko w ramach ww. podmiotów lub też wymienić określone stanowiska wprost w przepisie, czyli tak jak dokonano tego np. przy okazji regulowania sytuacji prawnej Prezesa Urzędu Ochrony Konkurencji i Konsumentów (por. art. 29 ust. 3aa ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów). Uwaga uwzględniona 147. Art. 23 ust. 1 Rada Legislacyjna [Błąd merytoryczno-językowy w art. 23 ust. 1 Projektu] W art. 23 ust. 1 Projektu występuje niepoprawne odwołanie się do pojęcia „stanowiska, o którym mowa [w] art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce” („Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska, o którym mowa art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”). Tymczasem w art. 7 ust. 1 ustawy Prawo o szkolnictwie wyższym i nauce nie Uwaga uwzględniona 88 ma bynajmniej mowy o jakichkolwiek „stanowiskach”, natomiast zostały tam wymienione podmioty tworzące w Polsce system szkolnictwa wyższego i nauki (np. uczelnie, Polska Akademia Nauk, itp.). W związku z powyższym Rada Legislacyjna proponuje nadać tej części przepisu art. 23 ust. 1 Projektu następujące brzmienie: „Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska w podmiocie, o którym mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”. 148. Art. 23 ust. 2 KRRiT w art. 23 ust. 2 wyrazy „jego funkcji” należy zastąpić wyrazami „ich funkcji”; Uwaga uwzględniona 149. Art. 23 ust. 2 `OPZZ OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. Uwzględniona nieuwzględniona Z powodu zmiany organizacji Komisji (Państwowa Inspekcja Pracy jako stały członek Komisji) oraz przepisów regulujących działanie Społecznej Rady sprawy rynku pracy i ochrony praw pracowników według projektodawców będą miały zapewnioną odpowiednią reprezentację. 150. Art. 24 OPZZ Pragnę zwrócić także uwagę, że w ocenie OPZZ pracownicy Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinni być zatrudnieni wyłącznie w oparciu o umowę o pracę, co zapewni pełną niezależność i przejrzystość działań Biura Komisji. Uważamy, że w administracji publicznej powinny dominować umowy o pracę. Taki model zatrudnienia jest niezbędny dla utrzymania najwyższych standardów pracy, które są kluczowe w instytucji odpowiedzialnej za nadzór nad Uwaga nieuwzględniona Ze względu na specyfikę sektora technologii sztucznej inteligencji taki wymóg mógłby wpłynąć negatywnie na możliwości budowy zespołów o wymaganych kompetencjach. Kwestie potencjalnego ryzyka takiego rozwiązania adresowane są poprzez przepisy mówiące o zakazie konfliktu interesów. 89 zaawansowanymi technologiami, jakimi są algorytmy i systemy sztucznej inteligencji. Zatrudnienie w oparciu o umowy cywilnoprawne, takie jak umowy zlecenia czy umowy o dzieło, ze względu na swój charakter, może budzić wątpliwości co do pełnej niezależności zatrudnionych osób, zwłaszcza w przypadku zadań o kluczowym znaczeniu dla państwa. 151. Art. 25 ust. 3, art. 27 oraz art. 61 Pracodawcy RP Ustawa nie zapewnia wystarczających zabezpieczeń chroniących poufność danych pozyskiwanych przez Komisję, co może negatywnie wpłynąć na interesy przedsiębiorstw i ich partnerów. Członkowie Komisji posiadają szerokie uprawnienia do przetwarzania i udostępniania informacji objętych tajemnicą prawnie, co stanowi poważne zagrożenie dla prywatności firm. Proponujemy wprowadzenie ograniczeń w zakresie udostępniania i przetwarzania informacji stanowiących tajemnicę przedsiębiorstwa. W szczególności, przetwarzanie danych poufnych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, zgodnie z wymogami artykułu 78 ustęp 2 Aktu o AI, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów firm. Uwaga nieuwzględniona Wymóg możliwości przetwarzania danych jest konieczny dla zapewnienia stosowania przepisów. Jednocześnie, kwestie poufności i bezpieczeństwa informacji gwarantowane są przez odpowiednie przepisy dot. poufności, przetwarzania i gromadzenia danych osobowych czy odpowiedniego poziomu zabezpieczenia środków komunikacji. 152. Art. 25 ust. 1-3 KRRiT w art. 25 ust. 1-3 wskazano na „tajemnice prawnie chronione”, przy czym termin ten obejmujące ponad 60 kategorii, w tym także informacje niejawne, podczas gdy uzyskanie dostępu do informacji niejawnych od poufnych wzwyż wiąże się z koniecznością posiadania odpowiedniego poświadczenia wydawanego, co do zasady, przez ABW; Uwaga wyjaśniona Treść przepisu uległa zmianie. 153. Art. 25 ust. 1 UKNF Artykuł25 ust. 1 projektowanej ustawy wskazuje podmioty zobowiązane zachować w poufności „tajemnice prawnie chronione”. Nie jest jasne, czy przepis dotyczy wyłącznie informacji chronionych na podstawie innych ustaw, czy też tworzy nowy rodzaj tajemnicy. Koniecznym jest zweryfikowanie, czy przepis ten nie utrudni wymiany informacji na podstawie rozporządzenia 1689/2024 oraz projektowanej ustawy w zakresie m.in. postępowania przed KRiBSI, notyfikacji jednostek oceniających zgodność oraz udzielania autoryzacji. W ocenie UKNF określony w art. 25 ust. 1 projektu ustawy obowiązek zachowania tajemnicy nie jest wystarczający. Z Uwaga częściowo uwzględniona Uwaga zaadresowana przez doprecyzowanie w nowej wersji projektu kategorii informacji, które podlegają ochronie. Według projektodawcy z treści przepisów nie wynika potrzeba utworzenia nowej kategorii przepisów prawnie chronionych, a przepisy projektu odnoszą się do danych objętych ochroną na podstawie obowiązujących przepisów (ochrona danych osobowych, tajemnica przedsiębiorstwa). 90 przepisu tego wynika, że wymienione tu osoby są zobowiązane do zachowania w tajemnicy „tajemnicy prawnie chronionej”. Przez „tajemnicę prawnie chronioną” rozumieć należy określone informacje, które za tajemnicę uznają przepisy prawa. W związku z tym, z przepisu tego (art. 25 ust. 1) wynika obowiązek zachowania w poufności wyłącznie tych informacji, którym określone przepisy prawa (ustawy) przyznają status informacji objętych tajemnicą, np. tajemnica ubezpieczeniowa, tajemnica korespondencji, czy tajemnica agencyjna. Natomiast w stosunku do innych informacji nie ma wymogu zachowania ich w tajemnicy, co dotyczy w szczególności informacji uzyskanych przez Komisję i pracowników Biura Komisji w trakcie sprawowania nadzoru nad podmiotami podlegającymi takiemu nadzorowi. Tym bowiem informacjom przepisy prawa nie przyznają statusu tajemnicy. Takie informacje nie muszą więc podlegać poufności. W ocenie UKNF zasadne jest rozważenie zmiany podejścia. Co prawda, projektowany przepis art. 25 został zbudowany w sposób analogiczny do art. 16 ustawy o nadzorze finansowym. Nie sposób jednak tracić z pola widzenia, że rzeczony art. 16 odsyła do tajemnic prawnie chronionych określonych w ustawach sektorowych, których odrębne przepisy stanowią o tajemnicach nadzoru poszczególnych sektorów rynku finansowego. Stanowią one, że informacje pozyskane i wytworzone w związku z wykonywaniem czynności nadzorczych stanowią tajemnicę prawnie chronioną. Analogicznej regulacji nie sposób zdekodować z projektowanych przepisów. W związku z powyższym, UKNF poddaje pod rozwagę, aby przepis ten konstruował nowy rodzaj tajemnicy nadzoru nad systemami AI. Warto rozważyć jego utworzenie na zasadzie analogicznej jak art. 10a ust. 1 i 2 ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe, który to przepis stanowi, że: „Przewodniczący Komisji Nadzoru Finansowego, jego zastępcy, członkowie Komisji Nadzoru Finansowego, pracownicy Urzędu Komisji Nadzoru Finansowego i osoby zatrudnione w Urzędzie Komisji Nadzoru Finansowego na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze, są obowiązani do zachowania tajemnicy zawodowej. Natomiast za tajemnicę zawodową uznaje „wszystkie uzyskane lub 91 wytworzone w związku ze sprawowaniem nadzoru bankowego informacje, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą lub utrudnić sprawowanie nadzoru bankowego.”. 154. Art. 25 ust. 2 UOKIK Projektowany przepis nie precyzuje czy informacje, które mogą być wzajemnie przekazywane w ramach prac Komisji to informacje uzyskane wyłącznie w związku z wykonywaniem zadań w Komisji, czy też wszystkie informacje, także prawnie chronione, które członkowie Komisji posiadają w związku z wykonywaniem działalności w ramach poszczególnych jednostek, w których są zatrudnieni. W związku z powyższym należy doprecyzować przepis poprzez zawężenie go do informacji uzyskanych w toku prac Komisji. Jeżeli jednak zamiarem projektodawcy jest umożliwienie wymiany wszystkich informacji, w tym prawnie chronionych, w posiadaniu których są członkowie Komisji, to niezębne pozostaje wyłączenie z takiej możliwości przedstawiciela Prezesa Urzędu Ochrony Konkurencji i Konsumentów. Obowiązujące Prezesa Urzędu Ochrony Konkurencji i Konsumentów przepisy ustawy z dnia 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz. U. poz. 594, z późn. zm.), zwanej dalej „uokk”, zawierają ścisłe ograniczenia co do możliwości przekazywania innym podmiotom (w tym innym organom) informacji pozyskanych w ramach postępowań prowadzonych na jej podstawie. Przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach.1 Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych Uwaga uwzględniona Doprecyzowano treść przepisu uwzględniając ograniczenie zakresu informacji objętych jego treścią. W nowej wersji (art. 23) według projektodawcy przepisy są zgodne z wskazanym w uwadze (art. 73 uokik), co zapewni możliwość współpracy między organami w zakresie określonym w ustawie i rozporządzeniu 2024/1689. 92 przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności.2 Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Zgodnie z nim, informacje pozyskane w toku postępowań prowadzonych na podstawie ustawy mogą być wykorzystane wyłącznie w przypadku: 1) postępowania karnego prowadzonego w trybie publicznoskargowym lub postępowania karno-skarbowego; 2) innych postępowań prowadzonych przez Prezesa Urzędu; 3) wymiany informacji z Komisją Europejską i organami ochrony konkurencji państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr 1/2003/WE; 4) wymiany informacji z Komisją Europejską i właściwymi organami państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr2017/2394; 5) przekazywania właściwym organom informacji, które mogą wskazywać na naruszenie odrębnych przepisów; 6) postępowania cywilnego o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji w rozumieniu ustawy z dnia 21 kwietnia 2017 r. o roszczeniach o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji (Dz. U. poz. 1132) - w zakresie, w jakim przepisy wymienionej ustawy zezwalają na wykorzystanie informacji, o których mowa w ust. 1. Dodatkowo, zgodnie z art. 73 ust. 3 uokk Prezes Urzędu udostępnia organom regulacyjnym w dziedzinie rynku usług telekomunikacyjnych i pocztowych oraz gospodarki paliwami i energią oraz Przewodniczącemu Komisji Nadzoru Finansowego informacje, w tym wyniki badań i analiz rynkowych, niezbędne w postępowaniach prowadzonych przez te organy, z wyjątkiem informacji: 1) co do których obowiązek zachowania poufności wynika z zobowiązań 93 międzynarodowych, w szczególności informacji uzyskanych w toku postępowań wszczętych na podstawie art. 101 lub art. 102 TFUE; 2) których mowa w art. 70 ust. 1 i 2 Ustawy (oświadczenia składane w ramach programu łagodzenia kar oraz w ramach procedury dobrowolnego poddania się karze pieniężnej). Wobec powyższych ograniczeń projektowany art. 25 ust. 2 pozostaje w kolizji z obwiązującymi przepisami uokk. 155. Art. 25 ust. 3 UKNF W przepisie tym wskazano, komu członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, czy informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. przykładowo czy Przedstawiciel KNF uprawniony będzie do przekazania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 6 ust. 3 projektu ustawy. Uwaga nieuwzględniona Zmiana treści przepisów regulujących uprawnienia w zakresie gromadzenia, przetwarzania i wymiany informacji między członkami Komisji oraz pracownikami Biura Komisji. 156. Art. 25 ust. 3 Konfederacj a Lewiatan Zdaniem KL to uprawnienie powinno być ograniczone do przygotowania opinii lub stanowisk związanych z pracami Komisji nad systemami służącymi do wykonywania zadań publicznych. Brak uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Uwaga w zw. z art. 43 ust. 1 pkt. 2 Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Wymaga to dopisania ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania takiej tajemnicy, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 Uwaga uwzględniona Zmiana treści przepisu uwzględniająca podnoszony w uwadze wymóg (art. 40 ust. 9). 94 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. 157. Art. 25 ust. 3 BGK Propozycja: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga częściowo uwzględniona Tryb uzyskiwania informacji będących przedmiotem uwagi podmiotom właściwym w obszarze zwalczania i przeciwdziałania przestępczości oraz zapewnieniu bezpieczeństwa publicznego określony jest w nowej treści przepisów art. 22. 158. Art. 25 ust. 3 ZPP W tym samym obszarze uwagę zwraca art. 25 ust. 3 uprawniający członków Komisji do udostępniania informacji uzyskanych w związku z uczestnictwem w pracach organu, w tym również tajemnic prawnie chronionych, funkcjonariuszom, żołnierzom i pracownikom m.in. ABW, CBA, SKW, policji, czy prokuratury. Wydaje się, że projektodawca przewidział zbyt słabe gwarancje ochrony tajemnic przedsiębiorstwa i innych prawnie chronionych informacji wrażliwych. Przesłanki udostępnienia informacji (bardzo szczątkowe i ogólne – ma się to odbywać „w ramach obowiązków służbowych” i „w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji”), a także ich nieograniczony przedmiotowo zakres oraz szeroki Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na modyfikację przepisów w aktualnej wersji projektu ustawy. 95 katalog podmiotów, którym informacje mogą te być udzielone, budzą nasze daleko idące wątpliwości. 159. Art. 25 ust. 3 IAB Polska Na podstawie tego postanowienia nie jest jasne, jakie rodzaje opinii lub stanowisk bezpośrednio związanych z pracą Komisji wymagałyby udostępnienia informacji poufnych wskazanym w przepisie organom. Takie udostępnianie informacji nie wynika z treści AI Act. Tym samym przepis należałoby usunąć (i pozostawić do wprowadzenia w ew. nowelizacji ustawy niezwiązanej z wdrażaniem AI Act) lub dookreślić w zakresie podstawy z AI Act, która wskazywałaby na zasadność i konieczność jego wprowadzenia w ustawie wdrażającej to unijne rozporządzenie. Alternatywnie zwracamy uwagę, że aktualna wersja projektu nie zapewnia odpowiedniego poziomu ochrony informacji chronionych, co stanowi poważne zagrożenie dla prywatności podmiotów gospodarczych. Przetwarzanie danych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, tak jak ma to miejsce w art. 78 ust. 2 AI Act. Podobną uwagę należy zgłosić także w kontekście art. 27 oraz art. 61 Projektu. Uwaga wyjaśniona Przepis został zmodyfikowany w oparciu o uwagę w celu doprecyzowania obowiązków w zakresie ochrony danych będących tajemnicą przedsiębiorstwa. 160. Art. 26 KRRiT art. 26 ust. 1, 5 i 6 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; Uwaga uwzględniona 161. Art. 26 ust. 1 PUODO Wątpliwości budzi art. 26 ust. 1 projektu ustawy, który stanowi, że „W celu realizacji zadań, o których mowa w art. 11 ust. 1, Komisja przetwarza dane osobowe, obejmujące także dane określone w art. 9 ust. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 [...], w zakresie i w celu niezbędnym do realizacji tych zadań”. Wskazać należy, że obowiązek administratora w kwestii zabezpieczenia danych osobowych na mocy rozporządzenia 2016/679 dotyczy wszystkich danych osobowych (a nie jedynie danych szczególnych kategorii). Wskazanie w projekcie tego wymogu w odniesieniu wyłącznie do danych szczególnej kategorii jest zbędne i może prowadzić do wątpliwości interpretacyjnych w zakresie zabezpieczania danych zwykłych. Projektodawca nie powinien różnicować zabezpieczania danych ze względu na ich kategorię. Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej werjsi przepisów (art. 23-24). Zmiana terminów używanych w przepisie (aktualna treść art. 23-24) odpowiada na uwagę dot. potencjalnie wybiórczego wskazania w przepisie kategorii danych osobowych. 162. Art. 26 ust. 3 pkt 1 PFR Proponujemy nadać następujące brzmienie: Uwaga uwzględniona 96 „dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221)” 163. Art. 26 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Uzasadnienie: Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Uwagi uwzględnione Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 97 Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Dodatkowo zwracamy uwagę na brzmienie art. 78 ust. 2 rozporządzenia, które upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”, jak również na brzmienie motywu 167 do rozporządzenia. Wymagają one odpowiedniego zbalansowania uprawnień Komisji (oraz pozostałych zaangażowanych organów) z prawami i interesami przedsiębiorców w kontekście dostępu do informacji i danych, w tym danych osobowych. 164. Art. 26 ust. 5 PUODO Projektodawca nie uzasadnił 5-letniego terminu określonego w art. 26 ust. 5 projektu ustawy dotyczącego usuwania lub anonimizowania przez Komisję danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji. Zgodnie z zasadą ograniczenia przechowywania, o której mowa w art. 5 ust. 1 lit. E rozporządzenia 2016/67911 projektowany przepis wymaga analizy i wyjaśnienia, bowiem dane powinny być przechowywane przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Nie przesądzono, czy dotyczy to przechowywania danych osobowych w związku z prowadzonymi postępowaniami czy realizacją innych zadań Komisji. Projektodawca nie bierze pod uwagę także stosowania przepisów o archiwizacji, którym podlegać będą dokumenty wytwarzane i opracowywane w ramach działania tego organu publicznego. Uwaga uwzględniona Termin ten jest najkrótszym terminem niezbędnym dla realizacji celu – skutecznego sprawowania nadzoru nad rozwijającym się rynkiem systemów AI. Ponadto, zobowiązanie do regularnego (co 2 lata) przeglądu danych pod kątem ich niezbędności pozwoli ograniczyć ryzyka związane z przechowywaniem nadmiernych ilości danych, w tym danych osobowych. 165. Art. 26 ust. 6 PUODO jak wynika z projektowanego art. 26 ust. 6, w celu realizacji zadań określonych w rozporządzeniu 2024/1689 i projektowanej ustawie Komisja i pracownicy podmiotów, o których mowa w art. 7 ust. 2, mogą przekazywać sobie wzajemnie dane, o których mowa w ust. 3, w zakresie niezbędnym do realizacji tych zadań i współpracować z organem nadzorczym ds. ochrony danych Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag według projektodawcy znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 98 osobowych. Jednocześnie w rozdziale 3 projektu ustawy zawarte są regulacje, które mają określać zasady przeprowadzania kontroli przez Komisję, mającej na celu ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy z tymi przepisami. Przepis w obecnym brzmieniu jest niezrozumiały, wymagający wyjaśnienia z perspektywy zasady rozliczalności nad danymi osobowymi gromadzonymi w różnych systemach. Pracownicy podmiotów nie mogą przekazywać sobie danych, bo to nie oni są administratorami danych. 166. Art. 26 ust. 6 PFR Przepis reguluje kwestię wymiany danych pomiędzy Komisją i podmiotami, o których mowa w art. 7 ust. 2 Ustawy, ale brakuje konkretnych procedur i zasad tej współpracy oraz zapewnienia zgodności z RODO. Prosimy o rozważenie możliwości wprowadzenia przepisów wskazujących na transparentność oraz kontrolę nad przetwarzaniem danych osobowych. Uwaga uwzględniona 167. Art. 26 ust. 7 RPO Przepis ten zwalnia Komisję oraz podmioty, o których mowa w art. 7 ust. 2 ustawy, z realizacji niektórych obowiązków wynikających z rozporządzenia Parlamentu Europejskiego i Rady UE 2016/679 i Rady UE 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1 ze zm.; dalej też jako: RODO) podczas przetwarzania danych, o których mowa w art. 26 ust. 3 ustawy, czyli m.in. danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji dotyczących użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych. Wśród tych obowiązków, z których zwolniona może być Komisja i wskazane w przepisie podmioty, znajdują się obowiązki, o których stanowi art. 15 (prawo dostępu do danych), art. 16 (prawo do sprostowania danych), art. 18 ust. 1 lit. a (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych) i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie Uwaga uwzględniona Zmiana treści przepisu. Należy również zgodzić się z uwagą dot. Równoległego stosowania przepisów projektowanej ustawy i rozporządzenia 2024/1689 z przepisami prawa ochrony danych osobowych, czego według projektodawcy odzwierciedleniem są przepisy projektu. 99 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych) RODO. Warunkiem zwolnienia z ww. obowiązków jest uznanie, że ich realizacja uniemożliwiłaby wypełnienie zadań Komisji, przy czym ustawodawca nie zawęził we wskazanym przepisie celów przetwarzania danych do realizacji jedynie określonych zadań. Podkreślenia jednocześnie wymaga, że zadania Komisji, o których stanowi art. 11 ust. 1 projektowanej ustawy, zakreślone zostały w sposób szeroki i obejmują nie tylko sprawowanie kontroli przestrzegania przepisów aktu o AI4 , ale także np. realizację projektów edukacyjnych czy prowadzenie działań informacyjnych. Art. 26 ust. 7 projektowanej ustawy pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika, dlaczego projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Tymczasem w art. 2 ust. 7 aktu o AI wskazano, że „[p]rawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Dodatkowo z motywu 10 aktu o AI wynika, że „[p]odstawowe prawo do ochrony danych osobowych jest gwarantowane w szczególności przez rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywę Parlamentu Europejskiego i Rady (UE) 2016/680. (...). Te unijne akty prawne stanowią podstawę zrównoważonego i odpowiedzialnego przetwarzania danych, w tym w przypadku gdy zbiory danych zawierają połączenie danych osobowych i nieosobowych. Celem niniejszego rozporządzenia nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do 100 monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów AI wiąże się z przetwarzaniem danych osobowych, niniejsze rozporządzenie nie wpływa też na wynikające z prawa Unii lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Należy również wyjaśnić, że osoby, których dane dotyczą, zachowują wszystkie prawa i gwarancje przyznane im na mocy takiego prawa Unii. w tym prawa związane z całkowicie zautomatyzowanym podejmowaniem decyzji w indywidualnych sprawach, w tym z profilowaniem. Ustanowione w niniejszym rozporządzeniu zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI powinny ułatwiać skuteczne wdrażanie i umożliwiać korzystanie przez osoby, których dane dotyczą, z praw i innych środków ochrony prawnej zagwarantowanych na podstawie prawa Unii dotyczącego ochrony danych osobowych i innych praw podstawowych”. Skoro zatem sam akt o AI nie przewiduje wyłączenia stosowania przepisów rozporządzenia 2016/679, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu o AI i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 168. Art. 26 ust. 7 PUODO Wyłączenie stosowania przepisów rozporządzenia 2016/679. Zgodnie z art. 26 ust. 7 projektu ustawy, „Przetwarzanie przez Komisję i podmioty, o których mowa w art. 7 ust. 2 ustawy, danych, o których mowa w ust. 3, nie wymaga realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679, jeżeli uniemożliwiłoby to realizację zadań Komisji”. Zwrócić uwagę należy, że wyłączenia stosowania przepisów rozporządzenia 2016/679 przewidziane są jedynie w treści art. 13, 14 i 17 rozporządzenia 2016/679. Każde wyłączenie, aby mogło być uznane za mające rację bytu, musi wynikać z obowiązujących przepisów prawa, a jednocześnie – dla równowagi ograniczania pewnych Uwaga uwzględniona w części Zmiana treści przepisu zawężająca zakres wyłączenia stosowania przepisów rozporządzenia 2016/679 dokonana w sposób łączny (nowa wersja art. 26) na podstawie innych uwag dot. przetwarzania danych osobowych dla celów realizacji obowiązków wynikających z rozporządzenia 2024/1689. 101 elementów praw podstawowych – muszą być zapewnione odpowiednie instrumenty prawne dla poszanowania praw jednostki. Z kolei ewentualne ograniczenia stosowania rozporządzenia 2016/679 mogą następować w dość szerokim, ale nie w pełnym zakresie oraz tylko o ile spełnione zostaną warunki z art. 23, w szczególności dla zapewnienia poważnych celów, o których stanowi art. 23 ust. 1 rozporządzenia 2016/679. Całkowite wyłączenie praw osób, których dane dotyczą nie jest zatem dopuszczalne ani na gruncie na gruncie rozporządzenia 2016/679, choć jest możliwe ich ograniczenie. Bez wątpienia zatem proponowany przepis projektu ustawy powinien być na nowo przeanalizowany w celu zapewnienia zgodności przepisów krajowych z zasadami wynikającymi z art. 23 rozporządzenia 2016/679 i jego treścią, zwłaszcza, że art. 2 ust. 7 zdanie drugie aktu w sprawie sztucznej inteligencji wprost wskazuje, że „Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Skoro akt w sprawie sztucznej inteligencji nie określa w sposób szczegółowy praw osób, których dane dotyczą, zastosowanie będą w tym zakresie mieć przepisy rozporządzenia 2016/679, co jedynie oznacza, że ww. omawiana propozycja musi być przedmiotem ponownej, szczegółowej analizy i korekty jeśli przepisy nowej ustawy mają być jasne i przejrzyste 169. Art. 26 ust. 9 PUODO Wątpliwości budzi proponowane brzmienie art. 26 ust. 9 w związku z ukształtowanym w projekcie ustawy statusem Biura Komisji i samej Komisji. Analizy i określenia wymaga status tych podmiotów w procesach przetwarzania danych (któremu podmiotowi należy przypisać status administratora oraz w jakim zakresie), co w związku z funkcjonalną definicją administratora wynikać powinno przede wszystkim z precyzyjnie określonych w projektowanych przepisach zadań i kompetencji. Uwaga uwzględniona Zmiana poprzez modyfikację art. 22, w szczególności ust. 1, 4 oraz art. 23 ust. 1). 170. Art. 27 ust. 1 BGK Propozycja: Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak potrzeby nadregulacji – kwestia prawa do dostępu do dokumentów chronionych tajemnicą w obszarze istotnym dla 102 dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. działalności Komisji uregulowane są w przepisach odrębnych (np. w zakresie działalności policji, prokuratury, agencji wywiadowczych). 171. Art. 27 ust. 1 IAB Polska Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 172. Art. 27 ust. 1 Konfederacj a Lewiatan Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 173. Art. 28-Art. 30 RPD Jako Rzeczniczka Praw Dziecka aprobuję propozycję utworzenia Społecznej Rady do spraw Sztucznej Inteligencji przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Rada”). Powołanie Rady pozwoli uwzględnić różnorodne opinie i potrzeby społeczeństwa w przedmiocie organizacji nadzoru nad systemami sztucznej inteligencji. Zwracam jednak uwagę, że w aktualnym brzmieniu projektowanej ustawy nie określono wyraźnie zakresu zadań Rady ograniczając się jedynie do wskazania, że jest ona „organem opiniodawczo– doradczym Komisji” (planowany art. 28 ust. 1 ustawy o systemach SI), a do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję (art. 30 ust. Uwaga częściowo uwzględniona Propozycja rozszerzenia roli Rady zostały uwzględnione zbiorczo i znajdują odzwierciedlenie w aktualnym brzmieniu przepisów określających zadania Rady (art. 27). Dodatkowo, zmianie uległy zasady rozliczania kosztów udziału w posiedzeniach Rady oraz kategoria podmiotów uprawnionych do zgłaszania kandydatów (uwzględniająca urząd RPD). 103 1 ustawy o systemach SI). Podobnie w uzasadnieniu do ustawy o systemach SI projektodawca skazuje jedynie, że „do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję”. Nieokreślony wystarczająco zakres zadań może budzić wątpliwości co do przejrzystości i efektywności działań Rady, co może osłabić zaufanie publiczne do tej instytucji. Proponuję, aby art. 30 ustawy o systemach SI określał w szczególności następujące działania jako zadania Rady: a) monitorowanie rozwoju sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; b) monitorowanie rozwoju prawodawstwa dotyczącego systemów sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; c) świadczenie Komisji doradztwa w zakresie klasyfikacji ryzyka różnych modeli i systemów AI; d) opiniowanie projektów dokumentów organów i instytucji Unii Europejskiej ws. systemów sztucznej inteligencji; e) opiniowanie przekazanych przez Komisję projektów aktów prawnych i innych dokumentów ws. systemów sztucznej inteligencji; f) inicjowanie działań w obszarze ochrony osób, na których systemy sztucznej inteligencji mają wpływ oraz przedstawianie Komisji propozycji zmian prawa w tym obszarze; g) wyrażanie opinii w sprawach przedstawionych Radzie przez Komisję; h) wykonywanie innych zadań zleconych przez Komisję. Warto podkreślić, że katalog zadań Rady nie powinien mieć charakteru zamkniętego. Krajowy ustawodawca tworząc organy opiniodawczo-doradcze działające przy innych organach nadzoru (np. Prezesie Urzędu Ochrony Danych Osobowych) określa zakres ich zadań. Także w przypadku przywołanego przez projektodawcę w uzasadnieniu ustawy o systemach SI ciała eksperckiego z uprawnieniami konsultowania prac 104 utworzonego w Austrii - Beirat für KI - określono katalog zadań tego gremium w akcie prawnym o randze ustawowej. Kolejne moje wątpliwości dotyczące organizacji prac Rady budzi brak wystarczających gwarancji niezależności jej członków. W planowanym art. 29 ust. 5 ustawy o systemach SI wskazuje się, że „członkowie Rady nie mogą prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; wykonywać działań, które mogłyby skutkować konfliktem interesów”. Ustawa o systemach SI, na wzór wymogu przyjętego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, powinna wprost określać, że członkowie Komisji muszą być niezależni od dostawców systemów AI lub modeli AI ogólnego przeznaczenia. Ogólne sformułowanie o zakazie prowadzenia działań prowadzących do konfliktu interesów przewidziane w obecnym projekcie ustawy, nie precyzuje konkretnych kryteriów ani mechanizmów weryfikacji niezależności członków Rady. Podobnie jak w punkcie drugim niniejszego pisma, chciałabym zwrócić uwagę na kluczowe znaczenie uwzględnienia opinii dzieci i młodzieży w sprawach dotyczących stanowisk w przedmiocie systemów sztucznej inteligencji, ponieważ takie rozwiązania mogą wpływać na różne aspekty ich życia, takie jak edukacja, prywatność, rozwój społeczny i emocjonalny. Mając na uwadze opisany powyżej wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych doraźnego udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez jej Przewodniczącego lub Komisji. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Rady z doraźnym wnioskiem o dopuszczenie do udziału wybranych przedstawicieli w posiedzeniu Rady, który powinien być niezwłocznie rozpatrywany. Co więcej, w mojej ocenie ustawa o systemach SI powinna zobowiązywać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób 105 małoletnich, a także uwzględnienia wyników takich konsultacji z należytą wagą, stosownie do wieku oraz dojrzałość dzieci biorących w nich udział. Uwzględnienie głosu młodego pokolenia w kształtowaniu wykładni stosowania przepisów dotyczących systemów sztucznej inteligencji oraz ich perspektywy na ryzyka związane z rozwojem takich rozwiązań jest inwestycją w przyszłość, która przyniesie całemu społeczeństwu. Ponadto zwracam uwagę, że w planowanych przepisach ustawy o systemach SI nie określono ani terminu, w którym Komisja ma powołać Radę, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie Rady zostanie odłożone na nieokreślony czas. W związku z tym proponuję wprowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Z podobnych względów ustawa powinna określać termin publikacji stanowisk i opinii Rady w Biuletynie Informacji Publicznej na stronie podmiotowe Biura Komisji. 174. Art. 28, Art. 30 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – tryb powoływania oraz skład Rady zapewnia reprezentację różnych sektorów, co powinno pozwolić na podejmowanie kompleksowych decyzji, jednak ograniczenie liczby członków do maksymalnie 15 osób może w pewnych sytuacjach ograniczać zdolność Rady do pełnego odzwierciedlenia wszystkich istotnych perspektyw i interesów. Skuteczność i trafność decyzji rady mogłoby wzmocnić poprzez dopuszczenie do udziału większej liczby ekspertów z różnych dziedzin (branż). Według projektu nie tylko członkowie Rady, ale nawet jej przewodniczący i wiceprzewodniczący są powoływani przez Komisję. W efekcie Rada staje się całkowicie podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy rozważyć udział w Radzie przedstawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. Dodatkowo, możliwość reprezentacji sektora nowych technologii możliwy jest poprzez uprawnienie organizacji branżowych, podmiotów systemu szkolnictwa wyższego oraz organizacji pozarządowych. 106 Kompetencje Rady są skierowane głównie na zagadnienia etyczne i regulacyjne. Te aspekty są istotne, ale jednak dostrzegalna jest potrzeba silniejszego nacisku na merytoryczny nadzór nad procesami tworzenia SSI, zwłaszcza w obszarze technologii, innowacji i badań (B+R). Na temat nowych technologii i ich rozwoju mogliby dostarczyć dodatkowej wiedzy przedstawiciele NCBR oraz środowisk naukowych i akademickich, które w organach w ogóle nie są reprezentowane. Spojrzenie z punktu widzenia NCBR, jako kluczowej instytucji w rozw oju nowych technologii w ramach projektów B+R, może pomóc Radzie w wypracowaniu bardziej zrównoważonych rekomendacji, a Komisji działać w zgodzie z obowiązującymi trendami technologicznymi i celowo w zakresie wdrażania innowacyjnych rozwiązań. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 175. Art. 28 ust. 2 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów. Uwaga nieuwzględniona Projekt zawiera przepisy wprowadzające zakaz konfliktu interesów, jak również wprowadzenie mechanizmu umożliwiającego odwołanie członka Rady naruszającego ten zakaz. 176. Art. 28 ust. 2 Konfederacj a Lewiatan Proponujemy podwyższenie maksymalnego liczby członków Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25 członków. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w zakresie liczby członków. 107 przedsiębiorców, a zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. 177. Art. 28 ust. 3 KRRiT dodanie punktu o treści „Przewodniczący Krajowej Rady Radiofonii i Telewizji” Uwaga nieuwzględniona Zdaniem projektodawcy zmiana jest niepotrzebna, a udział Rady w pracach Komisji jako członka umożliwia aktywny udział w jej pracach. 178. Art. 28 ust. 3 pkt 4 BGK Propozycja: 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w tym wymiarze, w szczególności ze względu na szeroki i międzybranżowy charakter technologii sztucznej inteligencji (potencjalnie obejmującym niemal wszystkie dziedziny życia społecznego). 179. Art. 28 ust. 4 pkt 1 UKNF Rada, jako organ opiniodawczo-doradczy Komisji, ze względu na specyfikę swoich zadań, powinna być tworzona przez osoby posiadające merytoryczne i operacyjne doświadczenie w zakresie sztucznej inteligencji, w tym kompetencje adekwatne do poziomu rozwoju technologii AI, wobec dynamicznie rozwijającego się środowiska. Urząd Komisji Nadzoru Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a kompetencję w zakresie wskazywania 108 Finansowego proponuje rozważenie doprecyzowania mechanizmów weryfikacji tych kompetencji. odpowiednich kandydatur pozostawione są podmiotom niezależnym od Komisji. 180. Art. 28 ust. 4 pkt 4 IAB Polska Biorąc pod uwagę systematykę form oświadczeń woli oraz tworzenie jasnych przepisów prawnych – postanowienie powinno konkretyzować, czy chodzi o formę pisemną (w tym równoważną jej prawnie formę elektroniczną), czy też dokumentową (wydrukowaną na papierze). Uwaga nieuwzględniona 181. Art. 28 ust. 6 pkt 6 IAB Polska Rekomendujemy dookreślenie formy wycofania zgody, aby zapewnić pewność sytuacji prawnej członków Rady. Uwaga nieuwzględniona 182. Art. 29 ust. 1 BGK Propozycja Rada powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Usunięcie zdania 2 jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1 Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, tym bardziej, że obecna treść przepisów daje Radzie uprawnienie do przedstawienia Komisji dwóch kandydatur na Przewodniczącego. 183. Art. 29 ust. 6 KRRiT w art. 29 ust. 6 po wyrazach „Za udział” należy dodać wyraz „w” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 184. Art. 29 ust. 6 BGK Proponujemy nadać następujące brzmienie: „Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów.” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 185. Art. 29 ust. 6 IAB Polska Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w kontekście wprowadzenia dodatkowych przepisów adresujących potencjalny konflikt interesów. 186. Art. 29 ust. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Uzasadnienie: Pierwsza uwaga opiera się na dodaniu brakującej litery „w”. Uwaga częściowo uwzględniona Wg aktualnej treści projektu przepisów za udział w pracach Rady jej członkom przysługuje zwrot kosztów przejazdów i noclegów. 109 Niezrozumiała jest intencja tego przepisu. Nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Rady, płaciły za koszt dojazdu i noclegu. Rozumiemy, ze takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. 187. Art. 30 KRRiT w art. 30 błędnie ponumerowano ustępy; Uwaga uwzględniona 188. Art. 30 ust. 1 BGK Propozycja: 1. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez co najmniej 75% składu Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych sytuacjach, gdy zostaną one przyjęte jednomyślnie przez co najmniej 75% składu Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 189. Art. 30 ust. 3 KRRiT w art. 30 ust. 3 błędnie odesłano do art. 1 ust.1; Uwaga uwzględniona Zmiana treści przepisu zgodnie z uwagą 110 190. Art. 30 ust. 3 BGK Propozycja 3. W zakresie innym niż określony w ust. 1, dotyczącym spraw określonych w art. 1 ust. 1 ustawy Rada, w drodze uchwały podjętej większością głosów co najmniej 75% składu Rady, może wyrazić opinię lub stanowisko z własnej inicjatywy. Zmiana przepisu polega na obniżeniu wymogu kworum z pełnego składu Rady do co najmniej 75% jej członków przy podejmowaniu uchwał z własnej inicjatywy. Celem tej zmiany jest ułatwienie Radzie efektywnego podejmowania decyzji, nawet gdy nie jest możliwa obecność wszystkich członków, co zwiększa elastyczność jej działania. Jednocześnie zachowany zostaje wysoki poziom reprezentatywności i legitymacji podejmowanych uchwał, gdyż wymagane jest uzyskanie większości głosów wśród co najmniej 75% składu Rady. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. 191. Art. 33 ust. 3 PFR Proponujemy nadać następujące brzmienie: „Prezes Rady Ministrów określi, w drodze rozporządzenia, sposób ustalania wysokości środków przeznaczonych na wynagrodzenia i nagrody dla Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz ustalania wysokości tych wynagrodzeń i nagród, uwzględniając organizację Biura Komisji i Komisji, konieczność zapewnienia właściwej realizacji zadań Biura Komisji i Komisji w zakresie sprawowanego nadzoru oraz poziomu płac w instytucjach nadzorowanych.” Uwaga wyjaśniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 192. Art. 33 ust. 3 KRRiT w art. 33 ust. 3 niepotrzebnie powtórzono wyrazy „oraz ustalania wysokości tych wynagrodzeń”; Uwaga uwzględniona 193. Art. 34 ust. 2 pkt 2 KRRiT w art. 34 ust. 2 pkt 2 nie wskazano daty ustawy o finansach publicznych oraz wskazano nieaktualny Dziennik Ustaw; Uwaga uwzględniona 194. Art. 36 ust. 2 Rada Legislacyjna [Brak wskazania trybu wyboru firmy audytorskiej w art. 36 ust. 2 Projektu] Przepis art. 36 ust. 2 Projektu nie zawiera wskazania trybu lub procedury wyboru firmy audytorskiej przez Prezesa Rady Ministrów. Przepis ten stanowi jedynie, że „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej.”. De lege ferenda w przepisie tym należy przesądzić, że wybór przez Prezesa Rady Ministrów firmy audytorskiej następuje „z uwzględnieniem przepisów o zamówieniach publicznych”. W przepisie tym nie trzeba natomiast literalnie przesądzać o „stosowaniu” przez Uwaga uwzględniona 111 Prezesa Rady Ministrów przepisów o zamówieniach publicznych: sformułowanie o konieczności „uwzględniania” przepisów o zamówieniach publicznych jest w tym kontekście w pełni wystarczające, zwłaszcza, że z uwagi na wartość wchodzącego w grę zamówienia publicznego może ono niekiedy pozostawać poza zakresem zastosowania przepisów ustawy z dnia 11 września 2019 r. Prawo zamówień publicznych22 (zob. art. 2 ust. 1 pkt 1 powołanej ustawy). 195. Art. 38 Rada Legislacyjna [Błędy językowe w art. 38 Projektu] W przepisach art. 38 ust. 1 i 3 użyto niepoprawnego sformułowania „minister właściwy”, podczas gdy prawidłowo sformułowanie to powinno brzmieć: „właściwy minister”. Ta proponowana przez Radę Legislacyjną inwersja obu wyrazów dlatego jest konieczna, gdyż w przepisach tych nie chodzi bynajmniej o konkretnego ministra właściwego we wskazanych tam literalnie sprawach (np. ministra właściwego do spraw gospodarki), lecz chodzi tam ogólnie o ministrów, którzy są właściwi zgodnie ze swoją ustawową właściwością, wynikającą z ustawy z dnia 4 września 1997 r. o działach administracji rządowej lub z przepisów ustaw szczególnych; ma tam zatem miejsce wskazanie generalne, a nie indywidualne. Stąd też bardziej naturalnie językowo będzie brzmiało sformułowanie, iż „właściwy minister” może powierzyć Komisji realizację określonych zadań (art. 38 ust. 1 Projektu) oraz że „właściwy minister” zapewnia środki na realizację tychże zadań (art. 38 ust. 3 Projektu). Z kolei w art. 38 ust. 2 Projektu zamieszczone jest zdanie, w którym połączono ze sobą wyrazy zupełnie nie przystające do siebie znaczeniowo. Przepis ten stanowi co następuje: „Powierzanie zadań, o których mowa w ust. 1, zawierane jest w formie porozumienia”. Z semantyczno-językowego punktu widzenia, powierzanie zadań nie może być „zawierane” w jakiejkolwiek formie prawnej (bo takie sformułowanie nie ma logicznego sensu), lecz co najwyżej można tego powierzenia „dokonywać” w określonej formie lub też powierzenie to może „następować” w określonej formie prawnej. Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z treścią uwagi. 196. Art. 38 ust. 1 KRRiT w art. 38 ust. 1 błędnie odesłano do art. 11 ust. 3, 8 i 10; Uwaga uwzględniona 112 197. Art. 38 ust. 1 PFR Proponujemy nadać następujące brzmienie: „Minister właściwy, w odniesieniu do spraw w zakresie jego właściwości, może powierzyć Komisji realizację zadań, o których mowa w art. 11 ust. 1 pkt 3, 8 i 10 ustawy.” Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z uwagą. 198. Art. 39 KRRiT w art. 39 błędnie wskazano numerację ustępów; Uwaga uwzględniona 199. Art. 39 ust. 4 pkt 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) wymianie aktualizacji Uzasadnienie: Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Ponadto, jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? Uwaga uwzględniona 200. Art. 39 ust. 6 UKNF W art. 39 ust. 6 projektu ustawy wskazano, iż tryb wydawania i unieważnienia legitymacji służbowej określony zostanie w drodze rozporządzenia Prezesa Rady Ministrów. Wydaje się, że rozporządzenie powinno również określać tryb wymiany legitymacji, skoro wskazano na taką możliwość w ustępach poprzedzających. Urząd Komisji Nadzoru Finansowego proponuje następującą zmianę treści tego ustępu: „Prezes Rady Ministrów określi, w drodze rozporządzenia, wzór legitymacji służbowej pracownika Biura Komisji oraz tryb wydawania, wymiany i unieważnienia tej legitymacji, mając na względzie zapewnienie właściwej identyfikacji pracowników Biura Komisji oraz zapewnienie właściwej ochrony legitymacji służbowych”. Uwaga uwzględniona Uwaga uwzględniona w ramach zmiany przepisów regulujących wydawanie, unieważnianie i aktualizację legitymacji w art. 37. 201. Art. 40 ust. 1 UKNF W art. 40 ust. 1 projektu ustawy wskazano, iż: „Przewodniczący Komisji, w zakresie zadań, o których mowa w rozdziale 2 ustawy, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. W ocenie UKNF ustęp ten powinien zostać doprecyzowany poprzez odesłanie do konkretnej jednostki redakcyjnej art. 70 rozporządzenia 2024/1689. Art. 70 rozporządzenia 2024/1689 jest rozbudowaną regulacją, która odnosi się do szeregu kwestii (m.in. do wyznaczania przez państwa członkowskie organu notyfikującego i organu nadzoru rynku). W związku z tym zasadnym byłoby dookreślenie, o które wymogi chodzi, poprzez Uwaga nieuwzględniona 113 odwołanie się do konkretnych ustępów art. 70 rozporządzenia 2024/1689. 202. Art. 40 ust. 2 KRRiT w art. 40 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga nieuwzględniona 203. Art. 40 ust. 2 UKNF Artykuł 40 ust. 2 projektu ustawy odnosi się do „stanu zasobów, o którym mowa w ust. 1” ww. artykułu. Urząd Komisji Nadzoru Finansowego wskazuje, że ustęp 1 nie wskazuje na zasoby, lecz odnosi się do zadań, o których mowa w rozdziale 2 projektowanej ustawy oraz do wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. W związku z powyższą rozbieżnością, należy dokonać odpowiedniej korekty i przeredagowania przedmiotowego przepisu. Uwaga nieuwzględniona 204. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 41 - art. 48) 205. Rozdział 3 IAB Polska Wskazany rozdział powinien być jednym z podstawowych obszarów w konsultacjach międzyresortowych. Należy o nim również informować w prezentacjach ministerialnych omawiających projekt. W ten sposób Ministerstwo będzie w stanie zapewnić szerokie konsultacje. W szczególności rekomendujemy, aby Ministerstwo zwróciło uwagę na informacje przekazywane przez podmioty tworzące lub dystrybuujące systemy AI, aby nie obniżyć wartości rynkowej Polski w zakresie AI, ale jednocześnie, aby zapewnić odpowiednie poszanowanie prawa i skuteczność kontroli Komisji. Uwaga uwzględniona 206. Rozdział 3 i 4 Konfederacj a Lewiatan 1. Rozdział 3 i Rozdział 4 Uwaga lub propozycja zmiany zapisu: Rekomendujemy dodanie: 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. Uwaga nieuwzględniona 114 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają 5przesłanek do objęcia ich tajemnicą p6rzedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Uzasadnienie: Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. 207. Art. 41 ust. 1 IAB Polska Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Rekomendujemy rozważenie odniesienia się do art. 2 ust. 1 lit a) - f) AI Act. Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 208. Art. 41 ust. 1 Konfederacj a Lewiatan Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Może warto rozważyć odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f? Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 209. Art. 41 ust. 2 IAB Polska W naszej ocenie sformułowanie tego przepisu jest bardzo szerokie i w związku z tym postulujemy zawęzić/wskazać konkretnie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli 210. Art. 41 ust. 2 ZPP Nasze wątpliwości budzą również przepisy proceduralne dotyczące kontroli. Art. 41 ust. 2 wprowadza bardzo otwarty katalog potencjalnych przedmiotów kontroli, wskazując jedynie, że jej celem jest ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania AI Act i ustawy. Wydaje się, że z punktu widzenia zasadności i proporcjonalności projektowanych środków należałoby ten przepis, a więc cel kontroli, doprecyzować i określić. Jednocześnie, proponowane brzmienie prowadzi do pewnego legislacyjnego zapętlenia – podmioty obowiązane do przestrzegania ustawy są jednocześnie podmiotami obowiązanymi do przestrzegania przepisów rozporządzenia 2024/1689, zresztą projektodawca posługuje się odniesieniem do stosownego postanowienia AI Uwaga częściowo uwzględniona Zmiana brzmienia przepisów o kontroli 115 Act. Jednocześnie, pojawia się pytanie, jak taką konstrukcję rozumieć – tzn. czy projektodawca zakłada, że krajowe organy będą prowadziły działania wobec podmiotów z siedzibami w innych państwach członkowskich lub krajach trzecich? Z tego punktu widzenia zasadne byłoby określenie, które konkretnie elementy struktur międzynarodowych będą wchodziły w zakres podmiotowy ustawy – filie lub oddziały zlokalizowane w kraju, spółki matki, czy może kilka podmiotów jednocześnie? 211. Art. 41 ust. 2 Konfederacj a Lewiatan W naszej ocenie sformułowanie tego przepisu jest bardzo szertokie i w związku z tym postulujemy zawęzić/wskazać konkretnie że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd? Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 212. Art. 41 ust. 3 IAB Polska Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 213. Art. 41 ust. 3 Konfederacj a Lewiatan Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Bardzo ogólna podstawa kontroli - w Prawie Przedsiębiorców np. kontrole planuje się i przeprowadza po uprzednim dokonaniu analizy prawdopodobieństwa naruszenia prawa w ramach wykonywania działalności gospodarczej. Analiza obejmuje identyfikację obszarów podmiotowych i przedmiotowych, w których ryzyko naruszenia przepisów jest największe. Sposób przeprowadzenia analizy określa organ kontroli lub organ nadrzędny. Uwaga częściowo uwzględniona 116 214. Art. 42 Rzecznika MŚP W dalszej kolejności należy zwrócić uwagę, iż nie jest dozwolona ingerencja w zasady prowadzenia kontroli oraz ochronę praw przedsiębiorców w tym zakresie. Przesłanki kontroli dorażnej nie mogą zostać skutecznie zmodyfikowane w Projekcie stanowiącym uregulowanie krajowe, ze względu na treść art. 45 ust. | Prawa przedsiębiorców, który stanowi, że kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w tej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Naruszenia ww. przepisu są sankcjonowane w art. 46 ust. 1 i 3 Prawa przedsiębiorców, które stanowią, że przedsiębiorcy, który poniósł szkodę na skutek wykonania czynności kontrolnych z naruszeniem przepisów prawa, przysługuje odszkodowanie, zaś dowody przeprowadzone w toku kontroli przez organ kontroli z naruszeniem przepisów ustawy lub z naruszeniem innych przepisów prawa w zakresie kontroli działalności gospodarczej przedsiębiorcy. Gwarancje i prawa przyznane przedsiębiorcom rażąco narusza ograniczenie stosowania regulacji Prawa przedsiębiorców zawarte w art. 42 Projektu, poprzez zastrzeżenie, że do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy Prawo przedsiębiorców, podczas gdy od ogólnych zasad przeprowadzania kontroli nie powinno być odstępstw, a omawiany przepis taką sytuację wprost uznaje za odpowiadająca prawu, natomiast jak wskazano na wstępie — nie jest dozwolone modyfikowanie przepisami prawa krajowego przepisów ustawy Prawo przedsiębiorców zawartych w Rozdziale 5 - Ograniczenia kontroli działalności gospodarczej. Wnioskiem płynącym z powyższego powinno być wykreślenie art. 42 Projektu, lub jego modyfikacja wskazująca na konieczność bezwzględnego stosowania przepisów ustawy Prawo przedsiębiorców w zakresie czynności kontrolnych podejmowanych wobec przedsiębiorców. Nie jest dozwolone bowiem relatywizowanie regulacji ustawy odnoszącej się do podstawowych zasad i gwarancji działalności gospodarczej na terytorium Rzeczypospolitej Polskiej. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 117 215. Art. 42 UOKiK Zgodnie z projektem ustawy podmiotami podlegającymi kontroli mogą być, oprócz przedsiębiorców, również podmioty publiczne, które spełniają definicję dostawcy lub podmiotu stosującego. Rozważenia wymaga, czy do kontroli tych podmiotów będą miały zastosowanie przepisy ustawy – Prawo przedsiębiorców. Zauważyć bowiem należy, że kontrole podmiotów publicznych odbywają się na podstawie przepisów innych niż ww. ustawa. W zależności od ustaleń i potrzeb należy zmodyfikować projektowane przepisy tak aby nie było wątpliwości przepisy będą stosowane do określonych kategorii podmiotów. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 216. Art. 43 NCBR 1. Proponuje się wprowadzenie większej elastyczności w formach kontroli. Obecnie ustawa (art. 43) wprowadza możliwość kontroli SSI zdalnie lub za pomocą środków komunikacji elektronicznej lub „przy użyciu przesyłek rejestrowanych lub kurierskich”. Warto wprowadzić więcej mechanizmów kontroli opartych na real-time data, które pozwolą na monitoring SSI w czasie rzeczywistym i szybsze reagowanie na incydenty. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. 2. Dodatkowe zastrzeżenie wobec art. 43 projektu ustawy budzą przepisy ustanawiające zbyt szerokie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad systemami AI. Należy mieć na uwadze, że zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki. 3. Ponadto, proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli (art. 43 ust. 2 i 10). Uwagi częściowo uwzględnione Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 118 217. Art. 43 ust. 1 pkt 2 PFR Proponujemy nadać następujące brzmienie: „osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju kompetencje.” Uwaga uwzględniona 218. Art. 43 ust. 1 pkt 2 IAB Polska Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3, ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 219. Art. 43 ust. 1 pkt 2 ZPP Zwracamy uwagę na postanowienie art. 43 ust. 1 pkt 2 umożliwiające przewodniczącemu Komisji upoważnienie w zasadzie dowolnej osoby (jedyny wymóg to „posiadanie wiedzy specjalistycznej”) do przeprowadzenia kontroli. Tak szerokie otwarcie furtki w tym zakresie budzi poważne wątpliwości, zwłaszcza wziąwszy pod uwagę kompetencje kontrolujących takie jak np. możliwość żądania udostępnienia wszelkiego rodzaju dokumentacji i korespondencji związanej z przedmiotem kontroli, przeprowadzania oględzin urządzeń, nośników danych i systemów informatycznych (nb. pojawia się również wątpliwość, czy sformułowanie „oględziny systemu informatycznego” jest najszczęśliwsze), czy opieczętowania lokali, pomieszczeń lub przedmiotów. Trudny do zrozumienia jest również przepis stwarzający możliwość żądania pisemnych kopii i wydruków dokumentów, w tym również z poświadczeniem za zgodność z oryginałem – jak się wydaje, będzie się to wiązało ze zbyt daleko idącą uciążliwością, zwłaszcza prawo do żądania wydruków w warunkach dostępności kopii elektronicznych nie powinno być przewidziane w projekcie Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analize i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 220. Art. 43 ust. 1 pkt 2 Konfederacj a Lewiatan Upoważnienie do „przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę Uwaga nieuwzględniona 119 posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach jeśli wymagana jest wiedza specjalistyczna, której niei posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3,ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 221. Art. 43 ust. 1 pkt 2 Pracodawcy RP Zgodnie z art. 43 ust. 1 pkt 2 proponowanej ustawy Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli u przedsiębiorcy będącego podmiotem obowiązanym nie tylko pracownika Biura Komisji, ale także inną osobę posiadającą wiedzę specjalistyczną, jeśli do przeprowadzenia kontroli niezbędn e są tego rodzaju wiadomości. Ustawa nie precyzuje jednak, w jakim charakterze i na jakiej podstawie prawnej taka osoba ma wykonywać czynności kontrolne na rzecz Komisji, w związku z czym brak gwarancji co do zachowania w tajemnicy informacji Uwaga częściowo uwzględniona Przepisom dotyczącym przetwarzania informacji nadano nowe brzmienie. 120 chronionych, pozyskanych w trakcie kontroli przez taką osobę. Jedynym dokumentem formalnym, wskazanym przez ustawę, jest szczególne upoważnienie do przeprowadzenia kontroli, które jednakże nie obejmuje szczegółowych wskazań w zakresie praw i obowiązków kontrolera (vide art. 43 ust. 6 proponowanej ustawy), w związku z czym upoważnienie nie może stanowić jedynej podstawy formalnoprawnej działania kontrolera niebędącego pracownikiem Biura Komisji. Ustawa nie zawiera żadnych przepisów dotyczących praw i obowiązków kontrolera w zakresie ochrony informacji pozyskanych w trakcie kontroli, przez osobę niepodlegającą ustawowym obowiązkom w zakresie tajemnicy informacji chronionych. Do proponowanej ustawy należy dodać przepis o charakterze prawnokształtującym – wskazujący bezpośrednio podstawy ogólnych praw i obowiązków takiego kontrolera, niezależnego od struktur Biura Komisji, w celu zrównania ich zakresu obowiązków z przedstawicielami Biura Komisji, bądź przepis nakazujący odpowiednie stosowanie do takich kontrolerów przepisów dot. członków korpusu służby cywilnej. 222. Art. 43 ust. 2 i 3 RPD Wyrażam wątpliwość, co do zasadności propozycji przeprowadzania czynności kontrolnych, o których mowa w ustawie o systemach SI, głównie w sposób zdalny. Szczególnie niepokoi mnie brak precyzyjnego zdefiniowania „uzasadnionych przypadków”, w których kontrola może być przeprowadzana na miejscu. Uważam, że konieczne jest doprecyzowanie przepisów poprzez wskazanie konkretnych sytuacji lub kryteriów uzasadniających kontrolę w siedzibie podmiotu. W obszarach dotyczących dzieci bezpośrednie zbadanie systemów SI wysokiego ryzyka ma kluczowe znaczenie dla ochrony dobra dziecka. Zrozumienie przeznaczenia i zasad funkcjonowania systemu „na żywo” pozwala kontrolującym lepiej ocenić jego wpływ na prawa i wolności dzieci, szczególnie w takich dziedzinach jak edukacja i kształcenie. Zdalne przeprowadzanie kontroli może nie oddawać pełnego obrazu praktycznego działania systemu SI. Dlatego uważam, że w ostatecznym brzmieniu art. 43 ust. 2 i 3 ustawy o systemach SI powinien zawierać otwarty katalog Uwaga uwzględniona Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które uzasadniają w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego. 121 „szczególnych okoliczności”, które w sposób bezwzględny zobowiązują do przeprowadzenia kontroli lub znacznej jej części przez przedstawicieli Komisji na miejscu. Jako jedną z przesłanek obligujących do przeprowadzenia kontroli lub jej znacznej części na miejscu powinny być przypadki, gdy wyniki systemu sztucznej inteligencji mogą potencjalnie zagrażać prawom i wolnościom dzieci, tzn., gdy osobami, na które systemy SI mają wpływ, są osoby poniżej 18 roku życia. Przepisy ustawy powinny wprost wskazywać, że decyzja o przeprowadzeniu kontroli na miejscu powinna zależeć od oceny Komisji, czy takie działanie będzie służyło zabezpieczeniu najlepiej pojętego interesu dziecka, zgodnie z art. 3 Konwencji ONZ o prawach dziecka oraz art. 24 Karty Praw Podstawowych Unii Europejskiej. Najlepszy interes dziecka powinien być nadrzędnym kryterium przy podejmowaniu decyzji o formie i zakresie kontroli, w sytuacji, gdy przedmiotem kontroli jest realizacja wymogów rozporządzenia 2024/1689 przez operatorów systemów sztucznej inteligencji wysokiego ryzyka, których wyniki oddziałują bezpośrednio na sytuację faktyczną lub prawną dzieci. 223. Art. 43 ust. 2 IAB Polska Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecności stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły lub będą musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - niżej, w ust. 3, pojawia się takie określenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli? Uwagi częściowo uwzględnione Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które bazując na domyślnej formie kontroli (zdalnej) uzasadniają w wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego jedynie w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 122 224. Art. 43 ust. 2 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 2 Projektu, dotyczącego przeprowadzania kontroli w sposób zdalny. Przepis ten powinien uwzględniać, że zgodnie z art. 51 ust. 3a Prawa przedsiębiorców, taki sposób kontroli wymaga każdorazowo uprzedniej zgody przedsiębiorcy odnośnie kontroli lub poszczególnych czynności kontrolnych, Uwaga nieuwzględniona Uwaga wg projektodawcy nieuzasadniona ze względu na specyfikę działalności przedsiębiorców w obszarze sztucznej inteligencji i nowych technologii. W trakcie konsultacji propozycja wprowadzenia domyślnej formy kontroli jako zdalnej spotkała się z aprobatą, w związku z powyższym zachowanie takiej konstrukcji należy uznać za korzystane ze względu na ograniczenie niepotrzebnych kosztów i zwiększenie trudności organizacji kontroli w sposób stacjonarny. 225. Art. 43 ust. 2 Konfederacj a Lewiatan Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecnoścui stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły/ musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - nizej, w ust. 3 pojawia się takie okreslenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich itd. sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych (czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli?) Uwagi częściowo uwzględnione Techniczne aspekty organizacji kontroli pozostawiony jest do decyzji Komisji i według projektodawcy nie wymaga interwencji legislacyjnej. 226. Art. 43 ust. 3 KRRiT w art. 43 ust. 3 zbędnie użyto wyrazu „się”; Uwaga uwzględniona. Nowe brzmienie przepisu 227. Art. 43 ust. 3 PFR Prosimy o rozważenie możliwości doprecyzowania przesłanki „szczególnej okoliczności”, o której mowa w tej jednostce redakcyjnej. Uwaga uwzględniona Nowe brzmienie przepisu 123 228. Art. 43 ust. 3 IAB Polska Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43 ust. 1 pkt 2 Projektu) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to, czy od decyzji można się odwołać oraz to, czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 229. Art. 43 ust. 3 Konfederacj a Lewiatan Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43.1.2) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to czy od decyzji można się odwołać oraz to czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 230. Zaproponowany przepis stanowi upoważnienie dla kontrolera do przeprowadzenia części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, w przypadku gdy szczególne okoliczności to uzasadniają. Przepis ma jednak ogólny wydźwięk, który nie zawiera wskazówek interpretacyjnych co do tego, jakie okoliczności uzasadniają powyższe podejście do kontroli. Należy także wskazać, że materia przedmiotowego przepisu pozostaje w ścisłym związku z uwagami dot. art. 43 ust. 1 projektowanej ustawy, w związku z tym, że realizacja czynności kontrolnych bezpośrednio w Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 124 siedzibie podmiotu obowiązanego szczególnie wymaga zabezpieczenia prawnych i faktycznych interesów tego podmiotu. Ustawa powinna jasno wskazywać sytuacje, w których zasadne jest przeprowadzenie czynności kontrolnych w siedzibie podmiotu obowiązanego, a także zawierać szczegółowe wytyczne co do sposobu postępowania kontrolera w trakcie takich czynności. Należy także rozważyć uwzględnienie ścieżki odwoławczej, umożliwiającej weryfikację zasadności realizacji czynności kontrolnych w inny sposób niż zdalnie 231. Art. 43 ust. 4 IAB Polska Projekt przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 AI Act, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Dotyczy pkt. 3) należy wskazać, czy chodzi o dostęp do nośnika czy do zawartych tam informacji oraz doprecyzować sposób, w jaki można będzie udostępnić sam nośnik w postaci np. serwera \"chmurowego\". Dotyczy pkt. 5) - Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto \"poświadczanie\" wydruków/kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. \"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym Uwaga uwzględniona w części W aktualnej wersji przepisów projektu usunięto m.in. niektóre obowiązki (np. Dostęp do wydruków) W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. Dodatkowo, choć zgadzamy się z uwagą dot. Niemożliwości przeprowadzenie każdej formy kontroli w odniesieniu do każdej technologii wykorzystywanych przez stron, jednocześnie jednak przepisy upowazniające Komisję do realizacji kontroli powinny uwzględniać pewną swobodę w doborze środków. Racjonalnośc i proporcjonalność tych środków gwarantować mają kompetencje Przewodniczącego, Członków Rady oraz pracowników Biura Komisji. 125 OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów”. Dotyczy pkt. 8) - Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. 232. Art. 43 ust. 4 Pracodawcy RP Ustawa przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 Aktu o AI, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach łącznych zmian treści przepisów dotyczących kontroli. W aktualnej wersji przepisów projektu usunięto niektóre obowiązki (np. dostęp do wydruków). W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. 233. Art. 43 ust. 4 pkt 3 BGK Propozycja 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z Uwaga uwzględniona 126 przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych 234. Art. 43 ust. 4 pkt 5 Konfederacj a Lewiatan Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym.Ponadto \"poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.\"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów” Uwaga uwzględniona 235. Art. 43 ust. 4 pkt 8 KRRiT w art. 43 ust. 4 pkt 8 błędnie odesłano do art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych; Uwaga nieuwzględniona. 127 Uwaga nieaktualna ze względu na nową treść przepisów projektu. 236. Art. 43 ust. 4 pkt 8 BGK Propozycja 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów projektu. 237. Art. 43 ust. 4 pkt 8 UKNF Ustawa z dnia 10 maja 2018 r. o ochronie danych osobowych nie zawiera art. 7 pkt 2a, do którego odwołuje się projektowany przepis. Artykuł 7 ww. ustawy dotyczy zasad postępowania przed Prezesem Urzędu Ochrony Danych Osobowych, a nie odnosi się do systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania. Uwaga uwzględniona. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 238. Art. 43 ust. 4 pkt 8 Konfederacj a Lewiatan Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 239. Art. 43 ust. 4 pkt 10 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 10) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli. 5. Kontrolujący przeprowadza czynności po okazaniu upoważnienia do przeprowadzenia Uzasadnienie: Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 128 Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 240. Art. 43 ust. 5 Konfederacj a Lewiatan Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 241. Art. 43 ust. 5 IAB Polska Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 242. Art. 43 ust. 5 pkt 1 Konfederacj a Lewiatan Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W zwiazku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 243. Art. 43 ust. 6 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 6 Projektu, dotyczącego upoważnienia do kontroli — powinien uwzględniać wymogi określone w art. 49 ust. 1-10 Prawa przedsiębiorców, gdyż w szczególności zakres kontroli nie może wykraczać poza zakres wskazany w upoważnieniu do jej przeprowadzenia, Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 244. Art. 43 ust. 6 pkt 1 IAB Polska Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest, aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;”. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 245. Art. 43 ust. 7 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 129 art. 43 ust. 7 Projektu dotyczącego zawiadamiania o planowanej kontroli — powinien uwzględniać wymogi określone w art. 48 ust. 1-11 Prawa przedsiębiorców, 246. Art. 43 ust. 7 IAB Polska Proponujemy, aby rozważyć brzmienie przepisu w następującym kształcie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 247. Art. 43 ust. 7 Konfederacj a Lewiatan Proponowane brzmienie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uzasadnienie: Należy określić z jakim wyprzedzeniem kontrolowany powinien być zawiadomiony o planowanej kontroli. Zapewni to odpowiedni czas na przygotowanie do kontroli, skoro podmiot i tak jest o niej uprzedzany. Brak dowolności w stosowaniu prawa. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 248. Art. 43 ust. 7 UOKiK Zgodnie z art. 48 ust. 11 ustawy - Prawo przedsiębiorców zawiadomienia o zamiarze wszczęcia kontroli nie dokonuje się, w przypadku gdy kontrola ma zostać przeprowadzona na podstawie ratyfikowanej umowy międzynarodowej albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 75 i 80 rozporządzenia 2024/1689 stanowią bezpośrednią podstawę prawną do prowadzenia kontroli. Ponadto zgodnie z art. 74 ust. 1 rozporządzenia 2024/1689 „Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020”, które w art. 14 ust. 4 lit. d stanowi, że uprawnienia nadane organom nadzoru rynku obejmują prawo do przeprowadzenia niezapowiedzianych kontroli na miejscu i kontroli fizycznych produktów, zaś zgodnie z art. 74 ust. 5 rozporządzenia 2024/1689 „do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny”. Zatem rozważenia wymaga zasadność zawiadamiania w każdym przypadku o planowanej kontroli. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 130 249. Art. 43 ust. 8 UOKiK Przepisy projektu ustawy nie definiują pojęcia Kierownika podmiotu kontrolowanego posługując się wyłącznie pojęciem Kontrolowanego. W celu usunięcia ewentualnych wątpliwości związanych ze stosowaniem przepisów w tym zakresie, rekomenduje się wprowadzenie definicji kierownika podmiotu kontrolowanego, chociażby przez odesłanie dodefinicji tego pojęcia w obowiązujących przepisach np. ustawy o rachunkowości. Jednocześnie rozważenia wymaga zasadność zamieszczenia w katalogu podmiotów zobowiązanych do udzielania informacji i zapewnienia określonych warunków kontroli osoby czynnej w lokalu przedsiębiorstwa, ze względu na prawny oraz przede wszystkim faktyczny brak możliwości działania w żądany sposób przez takie osoby. Należy mieć na uwadze, że niekażdy pracownik otrzymuje uprawnienia do wstępu na określone powierzchnie placówek czy też ma dostęp do nośników informatycznych. Uwaga uwzględniona 250. Art. 43 ust. 8 pkt 2 PFR Proponujemy nadać następujące brzmienie: „udzielanie żądanych informacji” Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak jej przedmiotowości po dokonaniu modyfikacji przepisów w aktualnej wersji projektu ustawy. 251. Art. 43 ust. 8 pkt 2 UKNF W art. 43 ust. 8 projektu ustawy, we wprowadzeniu do wyliczenia, wskazano, że osoby reprezentujące podmiot kontrolowany obowiązane są udzielać kontrolującemu wszelkich potrzebnych informacji. Tym samym nie jest konieczne ponowne wskazywanie w art. 43 ust. 8 pkt 2, że ww. osoby powinny zapewnić „udzielanie żądanych informacji”. Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 252. Art. 43 ust. 8 pkt 3 PFR Proponujemy nadać następujące brzmienie: „wstęp na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 253. Art. 43 ust. 8 pkt 4 PFR Proponujemy nadać następujące brzmienie: „udostępnienie i wydanie materiałów, o których mowa w ust. 4 pkt 3, lub innych przedmiotów mogących stanowić dowód w sprawie” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 131 254. Art. 43 ust. 8 pkt 5 PFR Proponujemy nadać następujące brzmienie: „dostęp do informatycznych nośników danych, urządzeń lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną.” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 255. Art. 43 ust. 8 pkt 5 BGK Propozycja 5) umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona 256. Art. 43 ust. 10 IAB Polska Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 257. Art. 43 ust. 10 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 132 sytuacji w której podmiot nie będzie mógł prowadzić działalności gospodarczej. 258. Art. 43 ust. 11 IAB Polska Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\". Czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 259. Art. 43 ust. 11 IAB Polska Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 260. Art. 43 ust. 11 Konfederacj a Lewiatan Uważamy, iż przepis wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieśc sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Ponadto, powinno być wyraźne ograniczenie zakresu wydawania postanowienia o zajęciu dokumentów i przedmiotów do tych bezpośrednio związanych z przedmiotem kontroli i niezbędnych do jej przeprowadzenia, zapewni to proporcjonalność środków kontroli. Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\" - czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 261. Art. 43 ust. 11 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 133 przepisów Projektu: Art. 43 ust. 11 Projektu dotyczący zajęcia rzeczy podczas kontroli — powinien uwzględniać przede wszystkim dyrektywę wynikającą z art. 52 Prawa przedsiębiorców, która stanowi, że czynności kontrolne wykonuje się w sposób sprawny 1 możliwie niezakłócający funkcjonowanie przedsiębiorcy. W przypadku, gdy przedsiębiorca wskaże na piśmie, że wykonywane czynności zakłócają w sposób istotny działalność gospodarczą przedsiębiorcy, konieczność podjęcia takich czynności uzasadnia się w protokole kontroli. Należy podkreślić, że nie jest jasne ratio legis wprowadzenia tak rygorystycznego uregulowania ze względu na to, że dokonanie kopii akt, ksiąg, wszelkiego rodzaju dokumentów, pism i korespondencji, które mogą mieć znaczenie dla sprawy, jest obecnie łatwe do dokonania. To samo dotyczy informatycznych nośników danych, urządzeń zawierających dane informatyczne, lub systemów informatycznych. Proponowane wskazanym przepisem środki cechuje znaczna dolegliwość. Warto natomiast do projektowanego przepisu wprowadzić dodatkowe przesłanki gwarantujące zachowanie zasady proporcjonałności. Konieczne jest także dokładne wskazanie organu właściwego do rozpatrzenia zażalenia na postanowienie o przedmiotowym zajęciu oraz tryb zaskarżenia wraz z określeniem ustawowego terminu rozpatrzenia zażalenia, zwłaszcza gdy złożenie zażalenia nie wstrzymuje wykonania postanowienia. Powyższe jest istotne ze względu na późniejsze stosowanie w praktyce projektowanych przepisów. 262. Art. 43 ust. 12 UOKiK Zgodnie z art. 43 ust. 11 projektu ustawy organ może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni, natomiast zgodnie z ust. 12 osobę posiadającą przedmioty wzywa się do ich wydania dobrowolnie, a w razie odmowy kieruje się przeciwko posiadaczowi postępowanie egzekucyjne. Skoro wydane zostanie postanowienie o zajęciu ww. dowodów, to ich wydanie nie jest dobrowolne. Postanowienie stanowi akt administracyjny, który będzie Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 134 zobowiązywał podmiot do wydania dowodów w związku z ich zajęciem. Jeśli zaś postanowienie nie zostałoby wydane, nie byłoby podstawy do skierowania obowiązku do egzekucji. Należałoby przeredagować treść ust. 9-12, aby było jasne jak powinna wyglądać niniejsza procedura oraz które czynności mogą być dobrowolne, a które będą zobowiązywały podmioty i podlegały egzekucji 263. Art. 43 ust. 13 UKNF Z projektowanego przepisu nie wynika do kogo kierować/kto rozpatruje zażalenie na postanowienie o zajęciu przedmiotów. Zasadne jest odpowiednie doprecyzowanie przepisu w ww. zakresie. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 264. Art. 43 ust. 13 PFR Prosimy o rozważenie możliwości doprecyzowania procedury składania zażaleń oraz zapewnienie jasności co do trybu i terminów rozpatrywania takich zażaleń. To może zwiększyć transparentność całego procesu kontrolnego Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 265. Art. 43 ust. 13 Konfederacj a Lewiatan Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (w związku bowiem z art. 56 projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której proponuje się, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący. Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa.Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 135 266. Art. 43 ust. 13 Pracodawcy RP Proponowany przepis przewiduje możliwość zaskarżenia postanowienia o zajęciu przedmiotów, w drodze zażalenia, jednak bez wskazania trybu, w jakim ma to nastąpić, a także bez wskazania organu, do którego zażalenie powinno zostać wniesione. W szczególności nie reguluje tego proponowana zmiana w obszarze przepisów Kodeksu postępowania cywilnego, która dotyczy wyłącznie decyzji Komisji. Ponadto z dużym niepokojem należy się odnieść do uregulowania, że zaskarżenie postanowienia o zajęciu przedmiotów nie wstrzymuje jego wykonania - szczególnie w sytuacji, gdy zajęciu podlegają dokumenty i inne nośniki zawierające informacje wrażliwe - bowiem Komisja jest wówczas uprawniona do działania dalej tak, jakby postanowienie nie zostało zaskarżone, grożąc niemożliwą do zrekompensowania stratą po stronie podmiotu obowiązanego. Należy wprowadzić do proponowanej ustawy przepisy precyzujące ścieżkę odwoławczą w zakresie postanowień o zajęciu przedmiotów w toku kontroli, a także wykreślić normę dot. natychmiastowej wykonalności postanowienia o zajęciu przedmiotów bądź, alternatywnie, zastrzeżeniu, że w przypadku zaskarżenia postanowienia o zajęciu należy powstrzymać się od wykorzystania zajętych przedmiotów do momentu rozstrzygnięcia uprawnionego organu. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 267. Art. 43 ust. 13 Rada Legislacyjna [Brak wskazania w art. 43 ust. 13 Projektu organu uprawnionego do rozpatrywania zażalenia] W przepisie art. 43 ust. 13 Projektu nie wskazano organu, który jest uprawniony do rozpatrzenia wymienionego w tym przepisie zażalenia na postanowienie Komisji o zajęciu przedmiotów. Przepis art. 43 ust. 13 Projektu – który jest zamieszczony w ramach grupy przepisów Projektu normujących kontrolę przez Komisję przestrzegania przepisów Rozporządzenia UE 2024/1689 i ustawy (obecnie Projektu) – stanowi co następuje: „Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia.”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 136 Postanowienie, o którym mowa w tym przepisie jest wydawane przez Komisję (zob. art. 43 ust. 11 Projektu), aczkolwiek Projekt nie określa właściwej w tych sprawach drogi odwoławczej, w tym np. nie wskazuje na możliwość zaskarżenia tego postanowienia zażaleniem do SOKiK. Co prawda art. 45 ust. 5 Projektu mówi o możliwości zwrotu przez SOKiK pism lub dokumentów ujawnionych w toku omawianej kontroli dokonywanej przez Komisję, ale przepis art. 45 ust. 5 Projektu absolutnie nie ma zastosowania do postanowienia Komisji o zajęciu przedmiotów, o którym jest mowa w art. 43 ust. 13 Projektu, gdyż, po pierwsze, art. 45 ust. 5 Projektu dotyczy jedynie bardzo wąskiej grupy pism lub dokumentów (a nie innych przedmiotów) związanych z komunikacją kontrolowanego z prawnikiem (zob. art. 45 ust. 1-4 Projektu), a po drugie te pisma i dokumenty, których dotyczy art. 45 ust. 5 Projektu (i o których zwrocie będzie orzekał SOKiK) nie są przez kontrolowanego zajmowane, lecz są pozostawiane w miejscu kontroli (zob. art. 45 ust. 1 in fine Projektu). Tym samym przepis art. 45 ust. 5 Projektu nie ma żadnego znaczenia (a w każdym razie nie ma przesądzającego znaczenia) dla zidentyfikowania lub wskazania drogi prawnej przysługującej w przypadku zaskarżania zażaleniem postanowienia Komisji o zajęciu przedmiotów, o czym jest mowa w art. 43 ust. 13 Projektu. W związku z tym Rada Legislacyjna postuluje wyraźne przesądzenie w art. 43 ust. 13 Projektu, że zażalenie, o którym jest mowa w tym przepisie jest wnoszone do SOKiK i jest przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 268. Art. 43 ust. 14 IAB Polska Relacja między ust. 14 a ust. 11-13 jest niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować, w jakiej sytuacji zajęcie jest niedopuszczalne. Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 269. Art. 43 ust. 14 Konfederacj a Lewiatan Relacja między ustępem 14 a ust. 11-13 jest całkowicie niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować w jakiej sytuacji zajęcie jest niedopuszczalne. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 137 Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia NA MIEJSCU KONTROLI\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. 270. Art. 43 ust. 15 IAB Polska Należy wskazać, kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak: kto może być taką osobę i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 271. Art. 43 ust. 15 Konfederacj a Lewiatan Należy wskazać kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak kto to może być i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 272. Art. 43 ust. 15 Pracodawcy RP Zgodnie z proponowanym przepisem, przedmioty podlegające zajęciu w toku kontroli po dokonaniu oględzin i sporządzeniu protokołu zajęcia zostają zabrane albo oddane na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Ustawa nie definiuje jednak, jakie cechy powinna posiadać „osoba godna zaufania”, w jaki sposób jest wyznaczana, ani jakie gwarancje ochrony informacji poufnych przysługują podmiotowi obowiązanemu. W ocenie zgłaszającego komentowany przepis zawiera luki, które należy uzupełnić poprzez dodanie postanowień dotyczących osoby Godnej zaufania, sposobu jej wyznaczenia i ciążących na niej obowiązków, a także określenie sposobu postępowania ze złożonymi takiej osobie zajętym przedmiotami. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 273. Art. 43 ust. 16 i 18 Pracodawcy RP Przedmiotowe przepisy dotyczą sporządzenia i treści protokołu oraz wydania podmiotowi kontrolowanemu pokwitowania zajętych przedmiotów, jednak nie przewidują procedury odwoławczej wobec zastrzeżeń co do treści takiego protokołu i pokwitowania. Postulujemy zawarcie w omawianych przepisach Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 138 odwołania do postępowania odwoławczego prowadzonego przez sąd ochrony konkurencji i konsumentów w odniesieniu do wszystkich rodzajów spraw wynikających i pozostających w związku z realizacją uprawnień określonych w przedmiotowym projekcie ustawy - jest to uzasadnione wyłączeniem zasady dwuinstancyjności postępowania administracyjnego w odniesieniu do spraw określonych omawianą ustawą, które powinno być równoważone zasadą umożliwienia prawnej ochrony podmiotowi kontrolowanemu. 274. Art. 43 ust. 18 KRRiT w art. 43 ust. 18 nie jest jasne, dlaczego powiadomienie ma dotyczyć tylko przedsiębiorcy, skoro kontroli mogą być poddane także osoby fizyczne nieprowadzące działalności gospodarczej (przepis art. 43 ust. 21 projektowanej ustawy); Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 275. Art. 43 ust. 20 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Art. 43 ust. 20 Projektu powinien uwzględniać gwarancyjny charakter instytucji sprzeciwu określonej w art. 59 ust. 1-16 Prawa przedsiębiorców, zwłaszcza możliwość jego złożenia w odniesieniu do poszczególnych czynności kontrolnych dokonanych z naruszeniem art. 48, art. 49, art. 50 ust. 1 1 5 oraz art. 51 ust. 1, art. 54 ust. 1, art. 55 ust. 1 i 2 a także art. 58 Prawa przedsiębiorców. Uwagi dot art. 42 i 43 wskazują na duże zagrożenie dla zagwarantowanych podstawowych praw przedsiębiorców, jakie stwarza szczególnie aktualna treść art. 42 Projektu, jak również na poważne niejasności co do ewentualnych skutków, w wypadku pozostawienia w Projekcie wskazanych przepisów w ich obecnej treści. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 276. Art. 43 ust. 20 IAB Polska Należy doprecyzować, w jakiej formie należy wnieść sprzeciw oraz skutki związane z jego wniesieniem. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 277. Art. 43 ust. 20 Konfederacj a Lewiatan Należy doprecyzować jakie formie i co wynika z wniesienia sprzeciwu. W tym punkcie ma zastosowanie uzasadnienie z punktu powyżej. Ponadto, naszą wątpliwość budzi w jakim trybie, do jakiego organu oraz za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - Jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakm terminie może Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 139 być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jesli na podstawie ust. 16 art. 59 stosuje sie odpowiednio przepisy KPA. Jesli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie róznych trybów/organów w jednym artykule ustawy jest niewskazane. 278. Art. 43 ust. 20 Pracodawcy RP Przepis nie określa trybu wniesienia sprzeciwu wobec podjęcia i prowadzenia kontroli z naruszeniem przepisów ani nie wskazuje organu właściwego do jego rozpoznania. Uzasadnienia jak do art. 43 ust. 3 Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 279. art. 43 ust. 20 Rada Legislacyjna [Brak wskazania w art. 43 ust. 20 Projektu organu właściwego do rozpatrzenia zażalenia na postanowienie rozstrzygające sprzeciw] Przepis art. 43 ust. 20 Projektu nie wskazuje organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w tym przepisie. Przepis art. 43 ust. 20 Projektu stanowi, że „Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów.”. Ponieważ zgodnie z art. 42 Projektu do kontroli, o której jest tutaj mowa stosuje się, w zakresie nieuregulowanym w Projekcie, przepisy rozdziału 5 ustawy Prawo przedsiębiorców, zaś w tej ostatniej ustawie została uregulowana kwestia wnoszenia sprzeciwu przez przedsiębiorcę do organu kontroli w związku z naruszeniem różnych przepisów ustawy Prawo przedsiębiorców normujących kontrolę przedsiębiorców, można by sądzić, że w kwestii rozpatrywania sprzeciwu oraz skutków prawnych tego rozpatrzenia należy stosować właśnie przepisy rozdziału 5 ustawy Prawo przedsiębiorców. To by zaś oznaczało, że rozstrzygnięcie przez Komisję sprzeciwu podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu następuje w drodze postanowienia Komisji (wniosek z art. 59 ust. 7 Prawa przedsiębiorców w zw. z art. 42 Projektu), zaś postanowienie to jest następnie zaskarżalne zażaleniem (wniosek z art. 59 ust. 9 Prawa przedsiębiorców w zw. z art. 43 Projektu), a dodatkowo po wydaniu postanowienia Komisji rozstrzygającego sprzeciw podmiotu kontrolowanego ten ostatni może wnieść do sądu administracyjnego skargę na przewlekłe prowadzenie kontroli (wniosek z art. 59 ust. 14 w zw. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 140 z ust. 9 pkt 1 i ust. 7 pkt 2 Prawa przedsiębiorców w zw. z art. 42 Projektu). Tyle tylko, że stosując wprost wskazane przepisy ustawy Prawo przedsiębiorców nadal nie sposób jest jednoznacznie stwierdzić, jaki konkretnie organ miałby być uprawniony do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w art. 43 ust. 20 Projektu: czy sama Komisja (skoro brak jest w stosunku do Komisji organu administracji wyższego stopnia – zob. stosowany przez analogię przepis art. 127 § 3 w zw. z art. 144 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego,23 dalej: „k.p.a.”) czy też może SOKiK, tak jak to jest postulowane wyżej w odniesieniu do postanowień Komisji o zajęciu przedmiotów? Na to pytanie przepisy Projektu nie udzielają niestety jednoznacznej odpowiedzi, nawet przy uwzględnieniu wspomnianego odesłania z art. 42 Projektu do przepisów rozdziału 5 ustawy Prawo przedsiębiorców. Zdaniem Rady Legislacyjnej, względy pożądanej efektywizacji ochrony prawnej podmiotów kontrolowanych przemawiają za tym, aby postanowienia Komisji rozstrzygające wnoszony przez podmiot kontrolowany sprzeciw, o którym jest mowa w art. 43 ust. 20 Projektu, były zaskarżane zażaleniem do SOKiK i były przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 280. Art. 43 ust. 21 Konfederacj a Lewiatan Konieczne jest wyjaśnienie, jak ten przepis odnosi się do zakresu podmiotowego AI Actu. Zapewni to spójność i zrozumiałość ustawy. AI Act wyłącza część podmiotów z zakresu jego stosowania. O jakim kręgu podmiotów mówi ten przepis? Jest to niejasne. Uwaga nieuwzględniona. 281. Art. 44 RPD Wątpliwości budzi również regulacja przewidziana w ww. przepisie zgodnie z którym Komisja będzie mogła zwrócić się m.in. do organu ochrony prawa o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli, a podmiot taki zapewni pomoc w przeprowadzeniu kontroli. Wniosek taki może być przesłany co najmniej 7 dni przed planowanym dniem wszczęcia kontroli, a w przypadkach niecierpiących zwłoki, co najmniej 3 dni przed planowaną kontrolą. Przepisy odnoszące się do tej materii nie wskazują, jakie kompetencje i kwalifikacje mają mieć osoby Uwaga uwzględniona Nowe brzmienie przepisów o kontroli. 141 uczestniczące z ramienia organu. Kwestie te nie zostały również wyjaśnione w uzasadnieniu do projektu. 282. Art. 44 ZPP Komisja na mocy art. 44 ma mieć możliwość zwrócenia się m.in. do policji o udzielenie pomocy w przeprowadzeniu kontroli – z uwagi na charakter czynności i samej Komisji, która nie ma być kolejną służbą w modelu policyjnym, przeciwdziałającą kryminalnym występkom, lecz organem nadzoru nad stosowaniem w praktyce AI Act, wydaje się to instrument zarysowany w projekcie ustawy zbyt szeroko. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 283. Art. 44 ust. 1 IAB Polska To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to najgorsze skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne. Ewentualnie należy rozważyć zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. Proponujemy następujące brzmienie przepisu: “Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 142 284. Art. 44 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przpisu: „Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uzasadnienie: Przewidziana w projekcie potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji wydaje się być rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dlatego też należy przeanalizować konieczność jej pozostawienia. To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i JEDYNIE, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne Uwaga częściowo uwzględniona 143 Ewentualnie należy rozważyc zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. 285. Art. 44 ust. 2 pkt 3 KRRiT w art. 44 ust. 2 pkt 3 wyrazy „jednostek podległych i nadzorowanych” zostały błędnie odmienione; 286. Art. 44 ust. 2 pkt 3 Konfederacj a Lewiatan Wątpliwości budzi przyznane w tym przepisie uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 287. Art. 44 ust. 3 UKNF W tekście prawnym należy posługiwać się takimi samymi określeniami w odniesieniu do tych samych czynności (działania). Natomiast w przedmiotowym przepisie najpierw posłużono się sformułowaniem: „dniem wszczęcia kontroli”, a następnie sformułowaniem: „dniem rozpoczęcia kontroli”, co odnosi się do tego samego działania – zainicjowania kontroli. Urząd Komisji Nadzoru Finansowego postuluje ujednolicenie treści przepisu w tym zakresie. Uwaga uwzględniona 288. Art. 44 ust. 4 KRRiT w art. 44 ust. 4 wątpliwość może budzić ustanowienie wynagrodzenia dla organów podejmujących czynności w zakresie swoich uprawnień i obowiązków; Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 289. Art. 45 IAB Polska Dotyczy art. 45 ust. 1 pkt 1) Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może Uwaga uwzględniona 144 zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: “zawierają pisemną komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub”. Dotyczy art. 45 ust. 1 pkt 2) - Należy wskazać, co w sytuacji, jeśli takie pismo/dokument znajduje się na nośniku, jaki ma być zajęty. 290. Art. 45 Konfederacj a Lewiatan W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Stoimy na stanowisku, iż jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 291. Art. 45 ust. 1 KRRiT w art. 45 ust. 1 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; w art. 45 ust. 1 pkt 1) i 2) wydaje się, że pojęcie „właściwy organ” należy zastąpić terminem „Komisję”; Uwaga uwzględniona 145 292. Art. 45 ust. 1 i 2 RPO Ww. przepis przewiduje wgląd kontrolującego w dokumenty podmiotu kontrolowanego, które mogą być objęte tajemnicą adwokacką/radcowską (dalej jako: tajemnica adwokacka). W projektowanej ustawie przewidziano możliwość złożenia oświadczenia przez kontrolowanego wskazującego, że określone pisma i dokumenty zawierają informacje objęte tajemnicą adwokacką, co winno skutkować pozostawieniem przez kontrolujących tych dokumentów w miejscu kontroli. Jednocześnie jednak w świetle projektowanych przepisów, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, a także jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia. Co więcej, jeżeli oświadczenie kontrolowanego budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, w sposób zapewniający należyte zabezpieczenie przed ujawnieniem jego treści. Ostatecznie to sąd decyduje o możliwości przekazania ww. dokumentów podmiotowi kontrolującemu. Mimo istnienia tego mechanizmu kontrolnego, sama możliwość nawet pobieżnego zapoznania się z pismami i dokumentami zawierającymi informacje objęte tajemnicą adwokacką, może budzić poważne wątpliwości . Należy wskazać, że tajemnica adwokacka służy ochronie interesów klienta. Stanowi ona gwarancję poszanowania relacji zaufania klienta do adwokata, bez której nie można wyobrazić sobie prawidłowej reprezentacji i prawidłowo funkcjonującego wymiaru sprawiedliwości. Ochrona tajemnicy adwokackiej stanowi jeden z najistotniejszych, jeśli nie najważniejszy obok należytej reprezentacji interesów klienta, obowiązków zawodowy adwokata . Także Europejskie Stowarzyszenie Adwokatur podkreśla, że bez tajemnicy nie powstałby pomiędzy adwokatem a klientem stosunek zaufania, w konsekwencji adwokaci nie mogliby wykonywać swojego zawodu . W wyroku z dnia 24 maja 2018 r. w sprawie Laurent v. Francja Europejski Trybunał Praw Człowieka wskazał, że ze względu na uprzywilejowany Uwaga uwzględniona 146 charakter komunikacji podejrzanego z obrońcą władze publiczne nie mogą dokonywać kontroli tej korespondencji, chyba że istnieją uzasadnione podstawy do podejrzeń, że korespondencja ta zawiera treści nielegalne. Niemniej nawet wówczas należy zapewnić odpowiednie gwarancje proceduralne. W sprawie tej adwokat Cyril Laurent napisał swoje dane na kartce papieru, którą następnie złożył i wręczył podejrzanym zatrzymanym przez policję. Funkcjonariusz policji zapoznał się z jej treścią, na co skarżący złożył nieskuteczne zażalenie do sądu. W przedmiotowej sprawie, ETPC zauważył, że owa kartka papieru stanowi korespondencję chronioną przez art. 8 Konwencji. W związku z tym zapoznanie się z nią przez funkcjonariusza policji stanowi ingerencję w prawo do poszanowania życia prywatnego. Trzeba zatem zauważyć, że stworzenie możliwości osobom nieupoważnionym zapoznania się z pismem lub dokumentem objętymi tajemnicą adwokacką ingeruje w relację pomiędzy pełnomocnikiem i klientem oraz narusza tajemnicę korespondencji. W mojej ocenie pozostawienie projektowanego przepisu w takim kształcie jest trudne do pogodzenia z ww. zasadami jak również z zasadą demokratycznego państwa prawnego (art. 2 Konstytucji RP). 293. Art. 45 ust. 1 BGK Propozycja 1.Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 147 informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 294. Art. 45 ust. 1 pkt 1 Konfederacj a Lewiatan Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: „zawierają komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub (..)” Uzasadnienie: Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni.Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Uwaga uwzględniona 148 Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. 295. Art. 45 ust. 1 pkt 2 Konfederacj a Lewiatan Należy wskazać co w sytuacji jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 296. Art. 45 ust. 2 ZZP Na gruncie art. 45 ust. 2 kontrolujący ma mieć prawo „pobieżnego” zapoznania się z pismem zawierającym pisemną komunikację między podmiotem kontrolowanym a np. niezależnym od niego adwokatem, a więc dokumentem z zasady objętym tajemnicą adwokacką. Sam przepis jest w naszym przekonaniu za daleko idący i powinien zostać usunięty, tym bardziej razi on w kontekście regulacji dot. możliwości upoważnienia do przeprowadzenia kontroli osób trzecich. Uwaga uwzględniona Zmiana brzmienia przepisu. 297. Art. 45 ust. 2 IAB Polska Rekomendujemy następujące brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe”. Prawo organu do \"pobieżnego zapoznania się\" z dokumentu objętym tajemnicą radcowską/adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności. Uwaga uwzględniona 298. Art. 45 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Wnosimy o wykreślenie ustępu 2. Jeśli są wątpliwości, to powinno to być poddane kontroli sądowej. Uwaga uwzględniona 149 Z ostrożności procesowej, w przypadku nieuwzględnienia powyższej uwagi, proponujemy następujące zmiany: Ew. rekomendujemy następujace brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie wyłącznie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Uzasadnienie: Słowo \"pobieżnie\" powinno być usunięte, trzeba zapewnić w ustawie precyzyjne określenie, że kontrolujący może zapoznać się tylko z określonymi aspektami pisma lub dokumentu. Wyraz \"pobieżnie\" jest nieprecyzyjny i może prowadzić do różnych interpretacji. Precyzyjne określenie aspektów, z którymi kontrolujący może się zapoznać, zapewni większą pewność prawną i ochronę najważniejszych prawnie chronionych tajemnic – radcowskiej i adwokackiej. Prawo organu do \"pobieżnego zapoznania się\" z dokumentnu objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem 150 \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności 299. Art. 45 ust. 2 Pracodawcy RP Z dużym niepokojem należy odnieść się do przepisu, zgodnie z którym złożenie przez podmiot kontrolowany oświadczenia, że dany dokument zawiera komunikację z niezależnym od niego przedstawicielem zawodu powołanego do świadczenia ochrony prawnej, nie wyłącza możliwości pobieżnego zapoznania się przez kontrolera z takim dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Tak skonstruowany przepis narusza taj emnicę adwokacką / radcowską, a także może naruszać tajemnicę obrończą, która ma charakter bezwzględny: postępowanie przez Komisją może łączyć się bowiem z postępowaniem karnym, w którym kontrolowany ma status oskarżonego lub podejrzanego. Przepis potencjalnie narusza też prawo obywatela do obrony, ponieważ w toku kontroli mogą wyjść na jaw okoliczności dotyczące np. postępowania karnego. Zwrot „pobieżne zapoznanie się” jest nieprecyzyjny i nieostry - w efekcie wyjątkowo wyjątkowo ocenny przepis, którego stosowanie będzie w praktyce uzależnione od prywatnych zapatrywań urzędnika. Potencjalnie przedmiotowy przepis pozostaje także w sprzeczności z art. 78 ust. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (Aktu AI), zgodnie z którym organy zaangażowane w stosowanie rozporządzenia zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania przyznanych im uprawnień. Dodatkowo organy Uwaga uwzględniona 151 te są zobowiązane do wprowadzenia odpowiednich i skutecznych środków w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych. Za konieczne uznajemy modyfikację treści ust. 2 art. 45 proponowanej ustawy, która w obecnym kształcie pozwala na pobieżne zapoznanie się z przedmiotem pisma, a nie tylko informacjami dotyczącymi autora, tytułu czy daty pisma - w tym zakresie ewentualne zapoznanie się kontrolera z takim pismem powinno się ogranicza do autora, adresata, tytułu i daty. Jakiekolwiek wątpliwości związane z przedmiotem pisma powinien rozstrzygać właściwy sąd (sąd ochrony konkurencji i konsumentów), który ewentualnie mógłby podważyć istnienie prawnie chronionej korespondencji przedsiębiorcy z pełnomocnikiem - w każdym przypadku, nie tylko w sytuacji, gdy dokument budzi wątpliwości kontrolera (vide art. 45 ust. 3). W przypadku utrzymania omawianego przepisu w dotychczasowym brzmieniu postulujemy natomiast, by osoba, która w ten sposób zapoznała się z dokumentem w trakcie kontroli, podlegała wyłączeniu z udziału w dalszym postępowaniu wobec podmiotu obowiązanego. 300. Art. 45 ust. 3 IAB Polska Należy wskazać, w jaki sposób kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, skoro z ust. 1 in fine (“kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Uwaga nieuwzględniona 301. Art. 45 ust. 3 Konfederacj a Lewiatan Należy wskazać w jaki sposóbkontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów , skoro z ust. 1 in fine (\" kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów? Uwaga nieuwzględniona 302. Art. 45 ust. 3 Pracodawcy RP W uzupełnieniu uwag opisanych w pkt 7 powyżej należy wskazać, że umożliwienie przekazania budzącego wątpliwości oświadczenia o dokumentach zawierających tajemnicę adwokacką / radcowską do sądu ochrony konkurencji i Uwaga nieuwzględniona 152 konsumentów po zakończeniu kontroli, efektywnie pozbawia podmiot obowiązany możliwości obrony – przepis nie zawiera bowiem wytycznych co do sposobu postępowania z oświadczeniem i dokumentów, do których oświadczenie się odnosi, przy jednoczesnym posługiwaniu się nieostrymi, ocennymi pojęciami „wątpliwości” i „niezwłoczności”. W odniesieniu do przedmiotowych oświadczeń proponujemy modyfikację zaproponowanej treści przepisu w taki sposób, by jednoznacznie określał on sposób postępowania z kwestionowanymi oświadczeniami i dokumentami oraz zwiększał rolę sądu w ocenę zasadności wykorzystania określonych danych i informacji jeszcze w toku kontroli. W przeważającej części wypadków dane te będą miały niezwykle wrażliwy charakter, co uzasadnia przyjęcie najwyższej możliwej ochrony praw podmiotu obowiązanego. 303. Art. 45 ust. 4 KRRiT należy rozważyć wykreślenie art. 45 ust. 4 i stosować ogólną zasadę, zgodnie z którą ciężar dowodu spoczywa na tym, kto z twierdzenia wywodzi skutki prawne; Uwaga uwzględnienia 304. Art. 45 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich doręczenia postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.” Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 305. Art. 45 ust. 5 IAB Polska Postulujemy uzupełnienie brzmienia przepisu o wskazanie terminu, w jakim sąd drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Proponowane brzmienie: “Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 153 przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia”. 306. Art. 45 ust. 5 Konfederacj a Lewiatan Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Uzasadnienie: Postuluje się uzupełnienie brzmienia przepisu o wskazanie terminu w jakim Sad drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 307. Art. 46 ust. 1-9 UKNF Z całokształtu przepisu nie wynika kiedy projekt wystąpienia pokontrolnego staje się wystąpieniem pokontrolnym. Ponadto przepis nie wymaga, aby projekt wystąpienia pokontrolnego był podpisywany przez kontrolujących, co rodzi wątpliwość odnośnie tego, czy ma on walor dokumentu. Analogiczne regulacje zawiera ustawa z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (art. 36-48). Przy czym w przedmiotowej ustawie precyzyjnie uregulowano wskazane kwestie (zarówno projekt, jak i samo wystąpienie pokontrolne powinny być podpisane). Uwagi uwzględnione 154 Ponadto, aby art. 46 ust. 3 projektu ustawy nie budził wątpliwości UKNF rekomenduje zastąpienie sformułowania: „do właściwego organu”, sformułowaniem: „do Komisji”. Analizy i rozpatrzenia zastrzeżeń do wystąpienia pokontrolnego dokonuje bowiem Komisja, a nie kontrolujący, gdyż zastrzeżenia kierowane są właśnie do organu – Komisji, a nie do kontrolujących, jak wynika to z ww. ust. 3. Urząd Komisji Nadzoru Finansowego rekomenduje, aby przepisy były spójne w tym zakresie. W odniesieniu do ustępu 9 projektowanego przepisu UKNF wskazuje, że zasadnym jest – analogicznie jak chociażby w art. 13 §1a. ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego (dalej jako: „KPA”), czy w art. 348 ust. 3 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej – zastąpienie opatrywania wystąpienia pokontrolnego „profilem zaufanym” na opatrywanie „podpisem zaufanym”. 308. Art. 46 ust. 1 i 4 Konfederacj a Lewaiatan Czy \"wystapienie pokontrolne\" nie może się po prostu nazywac „protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKK, UODO. Ustęp 4 stanowi kalkę np. przepisów UODO i UOKK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie „aneksu do wystąpienia\", bo samo „wystąpienie\" jeszcze nie powstało. Uwagi uwzględnione 309. Art. 46 ust. 4 pkt 5 BGK Propozycja: 5) żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych Uwaga uwzględniona 155 (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 310. Art. 47 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 311. Art. 47 ust. 3 IAB Polska Proponujemy następujące brzmienie przepisu: “Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń”. Uwaga częściowo uwzględniona 312. Art. 47 ust. 3 Konfederacj a Lewiatan Proponuje się następujące brzmienie przepisu: Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. Uwaga częściowo uwzględniona 313. Art. 48 KRRiT w art. 48 mowa jest o naruszeniu rozporządzenia 2024/1689 lub ustawy, natomiast w art. 49 ust. 1 mowa jest o tylko o postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689; Uwaga uwzględniona Rozszerzono zakres przedmiotowy regulacji. 156 314. Art. 48 UKNF Przepis skonstruowany jest w taki sposób, że ma on charakter związany, co oznacza, że w przypadku stwierdzenia nawet mało istotnych naruszeń Komisja jest zobligowana do wszczęcia postępowania administracyjnego w przedmiocie tych naruszeń. W opinii UKNF zasadnym jest zatem rozważenie wprowadzenia fakultatywności wszczynania postępowania przez Komisję (nie wszystkie naruszenia wymagają przeprowadzenia postępowania administracyjnego). Uwaga uwzględniona 315. Art. 48 Rada Legislacyjna [Brak wyrazu „Komisja” w art. 48 Projektu] W art. 48 Projektu w drugiej części zamieszczonego tam zdania brakuje wyrazu: „Komisja”. W aktualnej wersji Projektu przepis ten stanowi, że „W przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, , że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy.” (pisownia w oryginalne). Postulatywnie, druga część tego przepisu powinna brzmieć następująco: „[...] Komisja obowiązana jest do niezwłocznego wszczęcia postępowania”. Uwaga uwzględniona Rozdział 4 Postępowanie przed organem nadzoru (art. 49 - art. 60) 316. Rozdział 4 PUODO Postępowanie przed organem nadzoru. Rozdział 4 projektu ustawy dotyczy postępowania przed organem nadzoru. Zgodnie z art. 49 ust. 2 Komisja wszczyna postępowanie m.in. na podstawie skargi. W art. 50 ust. 4 projektu ustawy wskazuje się, że rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 6 ust. 3 (czyli m.in. z Prezesem UODO). Projektodawca nie zakłada natomiast przekazywania sprawy według właściwości (np. do organu właściwego w sprawie ochrony danych osobowych). Projektowany art. 50 ust. 4 może powodować wątpliwości interpretacyjne, a w konsekwencji potencjalny konflikt kompetencyjny w przedmiocie rozpatrywania spraw związanych z przetwarzaniem danych osobowych, np. gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. Sprawa w zakresie przetwarzania danych osobowych powinna być, Uwaga uwzględniona 157 zgodnie z art. 65 § 1 ustawy z 14 czerwca 1960 r. Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572), przekazana do organu właściwego, tj. do organu ds. ochrony danych osobowych. Przy czym należy mieć na uwadze, że z treści art. 50 projektu ustawy wynika, że skardze należałoby przypisać znaczenie zawiadomienia o nieprawidłowościach w celu wszczęcia postępowania z urzędu, a nie skargi w sprawie indywidualnej (zgodnie z definicją strony postępowania w art. 51 ust. 1 projektu ustawy). Zauważyć należy, że w przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w przepisach projektu ustawy o systemach sztucznej inteligencji dotyczących postępowania przed organem nadzoru nie wskazuje jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Możliwe jest zatem skierowanie sprawy do dwóch organów równolegle, czego należy spodziewać się tym bardziej, jeśli obowiązujące przepisy nie będą precyzyjnie regulowały tego zagadnienia. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. 317. Art. 49 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Rekomendujemy modyfikację: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykul 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art.. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. Uwaga nieuwzględniona 158 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Po pierwsze, Komisja powinna mieć prawo ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsięborcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalnośći środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony dlaczego np. Minister Kultury ale już nie Minister Sprawiedliwości, Minister Rozowju i Technologii? 318. Art. 49 ust. 2 IAB Polska Komisja powinna mieć możliwość, a nie obowiązek wszczęcia postępowania. Komisja powinna móc zweryfikować zasadność wniosku lub skargi. Uwaga nieuwzględniona 319. Art. 49 ust. 2 UKNF W ogólnym postępowaniu administracyjnym występują tylko dwa sposoby wszczęcia postępowania administracyjnego: tj. z Uwaga uwzględniona 159 urzędu i na wniosek (strony). Natomiast art. 49 ust. 2 projektu ustawy rozróżnia trzy sposoby wszczęcia postępowań administracyjnych przez Komisję: z urzędu, na wniosek i na podstawie skargi. W ocenie UKNF projektowany przepis należy odczytywać w taki sposób, że stanowi on o pochodzeniu dowodów (materiałów), na których ma się opierać wszczęcie postepowania, tj. kolejno: 1) posiadanych przez Komisję; 2) przekazanych przez członków Komisji z innych organów oraz 3) pozyskanych ze skarg. Niezależnie jednak od źródła dowodów będziemy mieć do czynienia ze wszczęciem postepowania z urzędu (a nie na wniosek lub na podstawie skargi, jak wskazuje się w przedmiotowym przepisie). Mając na względzie powyższe, w opinii UKNF projektowany przepis przewiduje nieuzasadnione odstępstwo od ogólnego postępowania administracyjnego, wprowadzając zbędny wyłom w ogólnym modelu postępowania administracyjnego, co może rodzić wątpliwości interpretacyjne. 320. Art. 50 ust.2 KRRiT w art. 50 ust. 2 wśród wymogów formalnych skargi nie przewidziano oznaczenia składającego skargę, podpisu czy też adresu do korespondencji, co może sugerować koncepcję rozpoznawania skarg złożonych anonimowo; Uwaga uwzględniona 321. Art. 50 ust. 3 KRRiT w art. 50 ust. 3 należy doprecyzować, o jakie inne środki komunikacji chodzi; Uwaga nieuwzględniona 322. Art. 51, Art. 52 i Art. 56 (terminy) UOKiK Ww. przepisy projektu ustawy regulują okres w jakim może być prowadzone postępowanie. Z jednej strony wskazuje się w art. 56 na to, że „W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”, z drugiej strony w art. 52 ust. 2 wskazuje się, że „Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572)”, natomiast w art. 51 ust. 3 projektowanej ustawy - „Postępowanie nie może trwać dłużej niż 12 miesięcy”. Skoro zatem czas trwania postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 został określony na 12 miesięcy, przepisy art. 35 kodeksu postępowania administracyjnego nie mają w tej sytuacji zastosowania. Rozważenia wymaga ewentualne wskazanie, że Uwaga uwzględniona 160 okresu trwania postępowania dowodowego, nie wlicza się do terminu o którym mowa w art. 51 ust. 2 projektowanej ustawy. 323. Art. 51 ust. 1 KRRiT w art. 51 ust. 1 zasadnym jest przyznanie statusu strony w postępowaniu podmiotowi, którego skarga doprowadziła do wszczęcia postępowania; Uwaga częściowo uwzględniona 324. Art. 51 ust. 2 IAB Polska Komisja powinna mieć wyznaczony prawem termin na wydanie takiego postanowienia, biorąc pod uwagę, że od dnia wydania liczy się maksymalny czas trwania takiego postępowania w związku z ust. 3. Uwaga nieuwzględniona 325. Art. 51 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Uzasadnienie: W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Uwaga nieuwzględniona 326. Art. 51 ust. 2 UKNF Zgodnie z art. 61 § 4 KPA: „O wszczęciu postępowania z urzędu lub na żądanie jednej ze stron należy zawiadomić wszystkie osoby będące stronami w sprawie.”. Projektowany przepis przewiduje natomiast wydanie postanowienia o wszczęciu postępowania oraz zawiadomienie o tym stron postępowania. Większy rygor formalny zapewni stronie czynny udział i większe prawo do informacji odnośnie do prowadzonego postępowania. Zgodnie jednak z art. 125 § 1 KPA organ administracji publicznej doręcza tylko postanowienia, od których stronie służy zażalenie. Komisja nie ma więc obowiązku przekazania stronie odpisu postanowienia o wszczęciu postępowania. Może to zrobić wraz z zawiadomieniem o wszczęciu postępowania. Jeśli postanowienie to nie zostanie stronie doręczone, opis zachowania, które jest zarzucane, zostanie wyłącznie w aktach Uwaga uwzględniona 161 sprawy. W tym kontekście ustanowienie wymogu wydania postanowienia i zawiadomienia o tym strony jawi się jako zbędny formalizm. Urząd Komisji Nadzoru Finansowego wskazuje więc na rozważenie możliwości zmiany redakcji przepisu poprzez wskazanie, że postanowienie o wszczęciu doręcza się stronom postępowania. Jednocześnie konieczne jest przesądzenie w przepisie relacji do art. art. 61 § 4 KPA, aby uniknąć dublowania czynności o zbliżonym charakterze prawnym i funkcji. 327. Art. 51 ust. 3 KRRiT w art. 51 ust. 3 niewyjaśniony pozostaje status postępowania po upływie 12 miesięcy od dnia wszczęcia postępowania w przypadku, gdy w tym czasie nie wydano decyzji; Uwaga nieuwzględniona 328. Art. 51 ust. 3 BGK Propozycja 3.Postępowanie nie może trwać dłużej niż 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Uwaga nieuwzględniona 329. Art. 51 ust. 3 PFR Proponujemy rozważyć możliwość skrócenia 12-miesięcznego terminu do maksymalnie 6 miesięcy. Uwaga uwzględniona 330. Art. 51 ust. 3 Konfederacj a Lewiatan Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKK. Uwaga uwzględniona 331. Art. 51 ust. 3 UKNF Z projektowanego przepisu nie wynika, jaki jest charakter ustanowionego terminu 12 miesięcy, tj. czy przepis określa termin załatwienia sprawy administracyjnej. Wątpliwości interpretacyjne rodzić może również relacja tego przepisu do art. 35 KPA. W ocenie UKNF, 12 miesięcy rozumieć należy jako termin załatwienia sprawy, więc Komisja, w przypadku zwłoki w załatwieniu sprawy, przed upływem tego terminu będzie obowiązana poinformować stronę, zgodnie z art. 36 KPA. Należy to jednak jednoznacznie przesądzić w treści przepisu. Uwaga nieuzależniona 332. Art. 52 ust. 1 UOKiK Analizy wymaga, czy projektowany przepis nie pozostaje w sprzeczności z art. 58 ustawy – Prawo przedsiębiorców, ponieważ organ kontroli nie przeprowadza kontroli, w Uwaga nieuwzględniona 162 przypadku gdy ma ona dotyczyć przedmiotu kontroli objętego uprzednio zakończoną kontrolą przeprowadzoną przez ten sam organ. Wyjątki od tej zasady zostały enumeratywnie wymienione w art. 58 ust. 2 ustawy - Prawo przedsiębiorców, a przywołana podstawa przeprowadzenia ponownej kontroli nie mieści się w tym katalogu. Fakt, że przeprowadza się ponownie postępowanie dowodowe, do którego stosuje się przepisy o kontroli oznacza w praktyce, że ponownie przeprowadza się kontrolę w zakresie przedmiotu kontroli objętego uprzednio zakończoną kontrolą. Oznacza to, że organ przeprowadza kolejną kontrolę w tej samej sprawie, wbrew przepisowi art. 58 ustawy - Prawo przedsiębiorców. 333. Art. 52 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). Uzasadnienie: Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga nieuwzględniona 334. Art. 52 ust. 3 IAB Polska Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie Uwaga nieuwzględniona 163 postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". Proponuje się więc następujące brzmienie przepisu: “Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych”. 335. Art. 52 ust. 3 ZPP art. 52 ust. 3 umożliwia Komisji żądanie od strony tłumaczenia na język polski sporządzonej w obcym języku dokumentacji przez nią przedłożonej. Specyfika sektora cyfrowego, szczególnie w jego najnowocześniejszych obszarach związanych z AI, powoduje że w istocie większość dokumentacji może być dostępna w języku angielskim. Trudno wyobrazić sobie, by profesjonalni członkowie Komisji nie posługiwali się tym językiem. Uwaga nieuwzględniona 336. Art. 52 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przepisu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język Uwaga nieuwzględniona 164 angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uzasadnienie: Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna 165 papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". 337. Art. 53 IAB Polska Biorąc pod uwagę, że polskie prawo przewiduje raczej ostrzeżenia publiczne organów nadzoru (art. 6b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym), a nie personalne (jak w tym przypadku) – nie ma wykształconej praktyki postępowania. Tym samym to postanowienie należy rozbudować, aby odpowiednio zabezpieczyć interesy Strony (np. wydłużając termin na wykonanie rekomendacji, przewidzieć procedurę pozwalającą na zakwestionowane rekomendacji przez Stronę). Uwaga częściowo uwzględniona 338. Art. 53 Pracodawcy RP Zgodnie z art. 53 proponowanej ustawy, w przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy Aktu o AI, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni od dnia otrzymania ostrzeżenia jest zobowiązana do przedstawienia Komisji informacji z wykonania ww. rekomendacji. Powyższy przepis nie zawiera jednak szczegółowych norm co do trybu i formy wydania takiego ostrzeżenia ani nie określa konsekwencji niewykonania rekomendacji. Dopiero z innych przepisów ustawy można wyinterpretować, że niewykonanie rekomendacji stanowi podstawę wszczęcia formalnego postępowania w sprawie naruszenia Aktu o AI. Postulujemy modyfikację proponowanego przepisu w celu jego uzupełnienia o elementy wskazane w uwagach obok. Uwaga częściowo uwzględniona 339. Art. 53 ust. 1 i 2 UOKiK W projektowanym przepisie nie wyjaśniono jaki charakter prawny ma instytucja ostrzeżenia. Jednocześnie wskazuje się, że ostrzeżenie może zostać wydane w przypadku uzasadnionego podejrzenia o naruszeniu prawa, a zakres ostrzeżenia ograniczono wyłącznie do wskazania jego fakultatywnego elementu, jakim jest rekomendacja, przy braku innych, obligatoryjnych elementów. Uwaga częściowo uwzględniona 166 W celu zagwarantowania realizacji zasady pewności prawa uzasadnione pozostaje doprecyzowanie, jaki jest cel ostrzeżenia, co powinno zawierać i jakie są obowiązki strony w związku z wystosowaniem do niej ostrzeżenia jak również ewentualne sankcje z tytułu braku reakcji strony w związku ze skierowaniem do niej przedmiotowego środka. 340. Art. 53 ust. 1 Konfederacj a Lewiatan Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszraów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjmi może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiehj formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Uwaga wyjaśniona Ostrzeżenie będzie miało formę postanowienia. 341. Art. 53 ust. 1 UNKF Zgodnie z art. 99 ust. 1 rozporządzenia 2024/1689 ostrzeżenie powinno stanowić środek nadzoru stosowany w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, w tym kar administracyjnych. Tym samym zdaniem UKNF projektowany przepis powinien zostać uzupełniony w taki sposób, że Komisja w toku postępowania może wydać stronie ostrzeżenie, w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków. Uwaga uwzględniona 342. Art. 53 ust. 2 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie kazdych wskazanych przez Komisję) , które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych Uwaga uwzględniona 167 do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. W ocenie Konfederacji Lewiatan ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie pownien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia 343. Art. 53 ust. 3 Konfederacj a Lewiatan Termin 7 dni na wykonanie rekomendacji jest zbyt krótki. Lepiej byłoby ustalić \"wyznaczony termin\", dostosowany do okoliczności, niż sztywno zapisany w ustawie. Różne rekomendacje mogą wymagać różnego czasu na ich wykonanie. Sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Opcjonalnie proponujemy poniższą modyfikację przepisu: 3.Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Uwaga nieuwzględniona 344. Art. 54 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1.W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Dalsze wraz z uzasadnieniem: Uwaga nieuwzględniona 168 Pierwsza uwaga dotyczy zmiany gramatycznej co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Druga uwaga odnosi się do całości artykułu – niezbędne jest dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym kosumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomcą systemu sztucznej inteligencji i ocenę tych skuktów w zestawieniu z naruszeniem. 345. Art. 54 ust. 1 UKNF Projektowany przepis przewiduje obligatoryjne wydanie decyzji nakazującej zaprzestanie naruszeń. Przepis ten nie pozostawia więc organowi swobody decyzyjnej i obliguje go do wydania ww. decyzji niezależnie od wagi stwierdzonego naruszenia. Co istotne, wydanie decyzji nakazującej zaprzestanie naruszenia jest równoznaczne z brakiem możliwości wszczęcia postępowania w przedmiocie nałożenia kary pieniężnej za to samo naruszenie w trybie art. 99 ust. 4 rozporządzenia 2024/1689. Wydanie kolejnej decyzji w przedmiocie tego samego naruszenia będzie rodziło bowiem ryzyko stwierdzenia nieważności decyzji na podstawie art. 156 § 1 pkt 3 KPA. Z tego względu UKNF rekomenduje wprowadzenie do projektowanego przepisu mechanizmu karania fakultatywnego. Uwaga nieuwzględniona 346. Art. 55 Konfederacj a Lewiatan Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wsazanych w ust.2 wspólnie z organem lub podmiotem, o Uwaga częściowo uwzględniona 169 którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 15 dni roboczych od dnia doręczenia decyzji. 4. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. Uzasadnienie: Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Naszym zdaniem, 14-dniowy termin od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są 170 często złożone i jego dochowanie może być niemożliwe. Opcjonalnie proponujemy dostosowywanie terminu do sytuacji i skali systemu oraz skali zagrożenia, ponieważ sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Rygor natychmiastowej wykonalności - wprowadzenie rygoru moze oznaczać nieodwracalne, daleko idące skutki bzinesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. 347. Art. 55 ust. 1-6 UKNF W ocenie UKNF projektowany przepis wymaga gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach rozporządzenia. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Wydaje się, że przepis w zakresie ust. 1-3 odnosi się do procedury postępowania przewidzianej w art. 79 ust. 1-5 rozporządzenia 2024/1689 (ocena systemu AI stwarzającego określone ryzyka oraz, w przypadku ustalenia, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, zobowiązanie odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych lub wycofanie tego systemu z rynku lub z użytku). Projektowany art. 55 ust. 4 odnosi się natomiast do instytucji z art. 82 rozporządzenia 2024/1689, tj. sytuacji gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, ale stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. Z całokształtu przepisu wynika zatem, że art. 55 ust. 3 sankcjonuje system AI niezgodny z rozporządzeniem, a art. 55 ust. 4 odnosi się już do systemów niezgodnych z wymogami i obowiązkami ustanowionymi w rozporządzeniu i dodatkowo w sposób kwalifikowany stwarzający zagrożenia dla zdrowia, Uwaga uwzględniona Przepis został poddany dodatkowej analizie. 171 bezpieczeństwa i ochrony praw podstawowych, co jednak nie jest skorelowane z art. 79 i 82 rozporządzenia 2024/1689. Projektowana konstrukcja przepisu może prowadzić do wniosku, że zgodnie z brzmieniem art. 55 ust. 4 w przypadku systemów sztucznej inteligencji stwarzających ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli, Komisja jest obowiązana wydać decyzję nakazującą operatorowi tego systemu jego wycofanie, co już w świetle art. 82 ust. 1 rozporządzenia 2024/1689 jest nieuprawnione. Zgodnie bowiem z tym przepisem „(...) organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ.”. Dodatkowe trudności interpretacyjne wprowadza odwołanie w ust. 4 projektowanego przepisu do systemów, o których mowa w ust. 3. Relacja poszczególnych ustępów w tym przepisie jest niezrozumiała, ponieważ wydaje się, że odwołują się do innych instytucji i procesów z rozporządzenia 2024/1689. Niezależnie od powyższego UKNF wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). UKNF wskazuje również, że przepis art. 79 ust. 2 rozporządzenia 2024/1689 nie uzależnia wycofania systemu z rynku lub użytku od tego czy nie da się go uprzednio naprawić, na co z kolei wskazuje zastosowane w projektowanym art. 55 ust. 3 sformułowanie „jeśli nie jest to możliwe”. Zgodnie z art. 79 172 ust. 2 rozporządzenia 2024/1689 organ nadzoru rynku: „(...) zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku (...)”.Wydaje się zatem, że organ nie musi w pierwszej kolejności dążyć do zapewnienia zgodności systemu AI z wymogami rozporządzenia 2024/1689 poprzez jego naprawę, a może od razu, oczywiście o ile będzie to uzasadnione, zobowiązać operatora do wycofania systemu AI z rynku lub z użytku. 348. Art. 55 ust. 3 i 4 Pracodawcy RP Ustawa przewiduje możliwość wycofania systemu AI z rynku w terminie jedynie 14 dni od doręczenia decyzji, co może być trudne do zrealizowania dla firm korzystających z zaawansowanych systemów AI. Tak krótki termin może prowadzić do zakłóceń operacyjnych, naruszeń umów handlowych oraz znaczących strat finansowych. Proponujemy wydłużenie czasu na wycofanie systemu AI oraz rezygnację z natychmiastowej wykonalności decyzji o wycofaniu, aby umożliwić przedsiębiorcom dostosowanie swoich działań operacyjnych. Wycofanie systemu AI powinno być traktowane jako ostateczność, a Komisja powinna koncentrować się na działaniach prewencyjnych i wydawaniu rekomendacji, które pozwolą firmom dostosować technologię do wymogów zgodności. Uwaga nieuwzględniona 349. Art. 55 ust. 3 IAB Polska Termin 14 dni powinien zostać zmieniony na termin 15 dni roboczych (21 dni) zgodnie z art. 79 ust. 2 AI Act. Zwracamy uwagę, że zbyt krótki termin może doprowadzić do zakłóceń operacyjnych u podmiotów gospodarczych, naruszeń umów czy znaczących strat finansowych. Uwaga nieuwzględniona 350. Art. 55 ust. 4 KRRiT w art. 55 ust. 4 słowa „tego systemie” należy zastąpić słowami „tego systemu”; Uwaga uwzględniona 351. Art. 55 ust. 4 IAB Polska W przepisie występuje oczywista omyłka pisarska: tego systemie zamiast tego systemu. Jednocześnie zwracamy w tym przypadku uwagę, że projekt wymaga generalnego przejrzenia pod katem literówek i błędów językowych. Uważamy, że działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym uważamy, że tego typu decyzji Uwaga uwzględniona 173 nie powinien być nadawany rygor natychmiastowej wykonalności. Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwołania się w przypadku najbardziej dotkliwych decyzji organów nadzoru. 352. Art. 56 Konfederacj a Lewiatan Jeśli KPA ma mieć zastosowanie do inncyh materii niż ureguowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zkresu odpowiedniego stosowania KPA. Uwaga nieuwzględniona 353. Art. 57 PUODO Sąd ochrony konkurencji i konsumentów. W art. 57 ust. 1 projektu ustawy wskazuje się, że: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów”. W ocenie organu nadzorczego ds. ochrony danych przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Projektowane rozwiązanie może doprowadzić do dualizmu rozstrzygnięć sądowych. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może doprowadzić do powstania niepewności prawnej. Uwaga nieuwzględniona 354. Art. 57 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. Uwagi wraz z uzasadnieniem: Czy SOKIK jest odpowiednim sądem do rozpozawania spraw dotyczacych sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności Intelektualnej. Uwaga nieuwzględniona 174 Ponadto, art. 57 nie określa termiu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien byc nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np art. 43 ust.13 projektu - nie można sie tego domyślac z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Stoimy na stanowisku, iż zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. 355. Art. 57 Pracodawcy RP Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji, podobnie jak ma to miejsce w postępowaniach przed Urzędem Ochrony Konkurencji i Konsumentów (UOKiK). Jednakże zwracamy uwagę, że sprawy dotyczące sztucznej inteligencji są wyjątkowo skomplikowane i wymagają wysokiego poziomu ekspertyzy. Proponujemy rozważenie możliwości przekazania tych spraw do sądów ds. własności intelektualnej jako właściwego forum dla zagadnień związanych z AI, co mogłoby zapewnić przedsiębiorstwom większą przewidywalność i rzetelność rozstrzygnięć. Uwaga nieuwzględniona 356. Art. 57 Rada Legislacyjna [Brak przesądzenia w art. 57 Projektu o drodze prawnej rozpatrywania zażaleń na postanowienia Komisji] W art. 57 Uwaga nieuwzględniona 175 Projektu, ani też w żadnym innym przepisie Projektu, nie rozstrzygnięto wyraźnie o drodze prawnej czy też o trybie proceduralnym, w ramach których następuje rozpatrywanie i rozstrzyganie zażaleń na postanowienia Komisji. Art. 57 ust. 1 Projektu – który jest zamieszczony w grupie przepisów Projektu normujących postępowanie (administracyjne) w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 – stanowi co następuje: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”. Przepis ten dotyczy decyzji Komisji kończących postępowanie, o którym jest mowa w rozdziale 4 Projektu, czyli chodzi tu o decyzje kończące postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Jednakże w przepisach art. 57 Projektu ani w ogóle w jakichkolwiek innych przepisach rozdziału 4 Projektu nie przesądza się tego, jaki środek prawny przysługuje od postanowień Komisji wydawanych w ramach omawianego tutaj postępowania i kto (tzn. jaki organ) ma ten środek prawny rozpatrywać. Kwestii tej nie rozstrzygają również nowelizowane przez Projekt przepisy ustawy z dnia 17 listopada 1964 r. Kodeks postępowania cywilnego24 (dalej: k.p.c.), które będą normowały jedynie rozpatrywanie przez SOKiK odwołań od decyzji Komisji, a nie zażaleń na postanowienia Komisji (zob. przepisy k.p.c. dodawane przez art. 80 pkt 2 Projektu; będzie to zatem sytuacja zupełnie inna niż ma to obecnie miejsce na gruncie przepisów k.p.c. upoważniających SOKiK do rozpatrywania i rozstrzygania zażaleń na postanowienia wydawane przez inne organy regulacyjne w Polsce – zob. np. art. 479[28] § 1 pkt 2-6 i 8 k.p.c., art. 479[46] pkt 2 k.p.c. oraz art. 479[57] pkt 2 k.p.c.). Zdaniem Rady Legislacyjnej, jest to absolutnie niezbędne, aby w przepisach art. 57 Projektu wyraźnie postanowić, że od postanowień Komisji (wydawanych w postępowaniu prowadzonym na podstawie przepisów rozdziału 4 Projektu) przysługuje zażalenie do SOKiK, przy czym przepisy proceduralne o rozpatrywaniu tych zażaleń przez SOKiK należy również zamieścić w przepisach k.p.c. (zob. uwagi niżej w punkcie II.29 niniejszej opinii). 357. Art. 57 ust. 1 IAB Polska Rozumiemy wybór SOKiK, który w założeniu ma stać się sądem związanym z cyberprzestrzenią (przyjęcie podobnego modelu Uwaga uwzględniona 176 odwołania od decyzji we wdrożeniu DSA). Zwracamy jednak uwagę, że obszar ten wymaga szczegółowych ustaleń z Ministerstwem Sprawiedliwości, aby zapewnić odpowiednie kompetencje SOKiK w zakresie AI, w szczególności w zakresie technologicznego funkcjonowania tego rodzaju systemów. 358. Art. 57 ust. 3 Konfederacj a Lewiatan W jakch sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Uwaga nieuwzględniona 359. Art. 57 ust. 3 KRRiT w art. 57 ust. 3 nie jest jasny cel regulacji – Komisja jest stroną postępowania sądowego; Uwaga wyjaśniona Jest to tryb funkcjonujący w polskim wymiarze sprawiedliwości. 360. Art. 58 Konfederacj a Lewiatan Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor nartychmiastowej wykonalności w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Uzasadnienie: Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonac wyważenia interesów przedsiębiorców i innych podmiotów. Uwaga nieuwzględniona 361. Art. 59 UOKiK Komisja oraz jej członkowie mają prawny obowiązek zawiadomienia o podejrzeniu popełnienia przestępstwa. Obowiązek taki wynika z art. 304 § 2 kodeksu postępowania karnego: „Instytucje państwowe i samorządowe, które w związku ze swą działalnością dowiedziały się o popełnieniu przestępstwa ściganego z urzędu, są obowiązane niezwłocznie zawiadomić o tym prokuratora lub Policję oraz przedsięwziąć niezbędne czynności do czasu przybycia organu powołanego do ścigania przestępstw lub do czasu wydania przez ten organ stosownego zarządzenia, aby nie dopuścić do zatarcia śladów i dowodów przestępstwa.”. Wobec powyższego projektowana regulacja pozostaje nadmiarowa Uwaga nieuwzględniona 362. Art. 59 ust. 1 UKNF Projektowany przepis jest zbędny, ponieważ obowiązek ten wynika z art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. Kodeks postępowania karnego. Uwaga nieuwzględniona 177 363. Art. 60 ust. 1 IAB Polska Należy doprecyzować, czy okres 10 lat należy liczyć od daty zakończenia postępowania. Uwaga uwzględniona 364. Art. 60 ust. 1 Konfederacj a Lewiatan Należy doprecyzowac czy okres 10 lat liczymy od daty zakończenia postępowania. Uwaga uwzględniona 365. Art. 60 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego dostrzega potencjalną sprzeczność między art. 60 ust. 1 projektu ustawy a art. 26 ust. 5 tego projektu. Z art. 26 ust. 5 wynika bowiem, że określone w nim dane będą usuwane w terminie 5 lata od zakończenia postępowania, o którym mowa w rozdziale 4. Natomiast w art. 60 ust. 1 projektu ustawy wskazano, iż akta sprawy, które również mogą zawierać takie dane, mają być przechowywane przez 10 lat (tym samym dane te mogą być przechowywane przez 10 lat od zakończenia postępowania, a nie 5 lat). W związku z powyższym niezbędne jest usunięcie ww. niezgodności. Uwaga uwzględniona 366. Art. 60 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Zakończenie postępowania nie stanowi przeszkody do ponownego jego przeprowadzenia w zakresie tego samego czynu w przypadku ujawnienia nowych okoliczności, nieznanych Przewodniczącemu Komisji przed zarządzeniem zamknięcia postępowania, chyba że nastąpiło przedawnienie karalności przestępstwa.” Uwaga wyjaśniona Odstąpiono o regulacji. 367. Art. 60 ust. 2 UOKiK Analizy wymaga relacja projektowanego przepisu do art. 145 § 1 Kodeksu postępowania administracyjnego. W sprawach administracyjnych, nie prowadzi się ponownie postępowania w tej samej sprawie, ale wznawia postępowanie w przypadku wystąpienia przesłanek, o których mowa w ww. przepisie. Uzasadnione pozostaje zatem dokonanie oceny zasadności pozostawienia przepisu art. 60 ust. 2 projektowanej ustawy Uwaga wyjaśniona Odstąpiono o regulacji. 368. Art. 60 ust. 2 UKNF Nie jest wiadoma relacja projektowanego przepisu do art. 145 § 1 pkt 5 KPA, w którym jest dodatkowo mowa o nowych dowodach obok nowych okoliczności faktycznych. W kontekście istnienia rzeczonej regulacji Kodeksu postępowania administracyjnego projektowany przepis jawi się jako zbędny. Uwaga wyjaśniona Odstąpiono o regulacji. Rozdział 5 Zgłaszanie poważnych incydentów (art. 61 - art. 63) 369. Rozdział 5 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Uwaga częściowo uwzględniona 178 • Przepisy tego rozdziału są zbyt ogólne, np. nie ma terminu na zgłoszenie - z jednej strony to może być korzystne, z drugiej jednak w którym momencie przedsiębiorca może się spodziewać np. ukarania jeśli nie zgłosi? Brakuje tu pewności prawnej. • Czy dla podmiotów, które są kluczowe i ważne z pkt widzenia uoksc ten obowiązek nie mógłby być wyłączony, skoro i tak będą miały bardzo rygorystyczne obowiązki związane z raportowaniem w zakresie cyberbezpieczeństwa? Jeśli zgłoszą na podstawie uoksc i dotyczy to systemu AI, nie powinny mieć dodatkowych obciążeń z kolejnej ustawy, przepływ informacji powinien być między organami. Precyzyjne określenie terminu zgłoszenia oraz uniknięcie dublowania obowiązków zgłoszeniowych dla podmiotów kluczowych z punktu widzenia cyberbezpieczeństwa zwiększy efektywność systemu zgłoszeniowego, zwiększa stopień pewności prawa i zmniejsza obciążenia, w tym kosztowe, dla przedsiębiorców. Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji “poważnego incydentu” zawartego w art. 3 pkt 49 Aktu o sztuczntej inteligencji nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 Aktu o sztucznej inteligencji, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających 179 unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. 370. Rozdział 5 PUODO Zgłaszanie incydentów. Projekt ustawy w rozdziale 5 dotyczy obowiązku zgłaszania incydentów związanych z działaniem systemów sztucznej inteligencji. Obowiązek wskazany w art. 61 projektu ustawy jest zbieżny z procedurami zgłaszania naruszeń ochrony danych osobowych przewidzianymi w rozporządzeniu 2016/679. Zgodnie z art. 33 ww. rozporządzenia administrator jest zobowiązany zgłaszać naruszenia ochrony danych osobowych do organu nadzorczego w terminie 72 godzin od ich wykrycia, chyba że jest mało prawdopodobne, aby naruszenie to skutkowało ryzykiem naruszenia praw lub wolności osób fizycznych. W ocenie organu nadzorczego ds. ochrony danych incydenty związane z systemami AI, które prowadzą do naruszeń ochrony danych, powinny być zgłaszane zgodnie z procedurami przewidzianymi przez rozporządzenie 2016/679. Zwrócić uwagę należy, że projektowane przepisy ustawy nie wskazują jednak konkretnego terminu na zgłoszenie incydentu od momentu wykrycia incydentu. Określenie terminu usprawniłoby skuteczne zarządzanie incydentami. Art. 63 projektu ustawy wymaga, aby Przewodniczący Komisji przekazywał zgłoszenie oraz informacje, o których mowa w art. 61 projektowanej ustawy: 1) koordynatorowi do spraw usług cyfrowych, 2) ministrowi właściwemu do spraw informatyzacji, 3) organowi właściwemu do spraw ochrony danych osobowych, 4) właściwemu CSIRT MON, CSIRT NASK lub CSIRT GOV – z wyłączeniem informacji stanowiących tajemnice prawnie chronione, w tym stanowiących tajemnicę przedsiębiorstwa. Z przepisów projektowanej regulacji nie wynika jednak, jakie dalsze działania powinien podjąć Prezes Urzędu Ochrony Danych Osobowych, który otrzymywałby takie zgłoszenie. Uzupełnienia wymaga zarówno termin na zgłoszenie incydentu oraz wyjaśnienie czy procedura wskazana w tym przepisie wyklucza zgłoszenie naruszenia danych osobowych w ciągu 72 godzin bezpośrednio do Prezesa UODO. Zauważyć ponadto należy, że terminologia dotycząca incydentów jest używana niekonsekwentnie – w niektórych Uwaga częściowo uwzględniona 180 przepisach pojawia się ogólne określenie „incydent,” a w innych „poważny incydent”, co wymaga doprecyzowania (w art. 3 w definicjach mowa jest o poważnym incydencie w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689). 371. Art. 61 ust. 2 w zw. z art. 63 UKE W nawiązaniu do powyższej propozycji, proponuje się uzupełnić katalog informacji określony w projektowanym art. 61 ust. 2 o wskazanie, na jaki sektor (w rozumieniu projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw) ma wpływ poważny incydent. Zaproponowana konstrukcja uzupełnienia projektowanych przepisów art. 63 i art. 61 umożliwi efektywne ich stosowanie w zakresie dotyczącym CSIRT sektorowych, bowiem już na etapie zgłoszenia poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji, możliwym będzie powiązanie danego sektora z właściwym CSIRT sektorowym. Uwaga nieuwzględniana 372. Art. 61 ust. 4 BGK Propozycja 4.Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga nieuwzględniona 373. Art. 61 ust. 5 BGK Propozycja 5. Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym Uwaga nieuwzględniona 181 informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. 374. Art. 62 PFR Prosimy o rozważenie możliwości dokładnego zdefiniowanie kanału komunikacji, np. za pośrednictwem dedykowanego do tego systemu. Uwaga nieuwzględniona 375. Art. 63 UKE Przepis art. 63 pkt 4 projektowanej regulacji proponuje się uzupełnić o CSIRT sektorowy. Zgodnie bowiem z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw (rozpatrywanego obecnie już przez Komitet do Spraw Europejskich) wdrażającego dyrektywę Parlamentu Europejskiego i Rady (UE) 2022/255 z dnia 14 grudnia 2022 r. w sprawie środków na rzecz wysokiego wspólnego poziomu cyberbezpieczeństwa na terytorium Unii, zmieniającą rozporządzenie (UE) nr 910/2014 i dyrektywę (UE) 2018/1972 oraz uchylającą dyrektywę (UE) 2016/1148 (dyrektywa NIS 2), CSIRT sektorowy to Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego, działający na poziomie sektora lub podsektora, ustanowiony przez organ właściwy do spraw cyberbezpieczeństwa dla danego sektora lub podsektora. Zgodnie z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw CSIRT sektorowy będzie uczestniczył w systemie wymiany informacji dotyczących cyberbezpieczeństwa między podmiotami kluczowymi i podmiotami ważnymi a CSIRT MON, CSIRT NASK, CSIRT GOV i organami właściwymi do spraw Uwaga uwzględniona 182 cyberbezpieczeństwa. W ramach zadań przypisanych ww. projektem ustawy CSIRT sektorowe będą np. mogły przeprowadzać ocenę bezpieczeństwa systemów informacyjnych wykorzystywanych przez podmioty krajowego systemu cyberbezpieczeństwa. W konsekwencji, dla uzyskania pełnej spójności opiniowanego projektu ustawy z projektowanymi przepisami nowelizującymi ustawę o krajowym systemie cyberbezpieczeństwa oraz efektywności realizowanych przez CSIRT sektorowe zadań, celowym wydaje się zapewnienie tym podmiotom dostępu do możliwie szerokiego spektrum informacji, w tym również do zgłoszenia oraz informacji, o których mowa w art. 61 opiniowanego projektu ustawy. 376. Art. 63 ust. 3 KRRiT w art. 63 pkt 3 należy wskazać Prezesa Urzędu Ochrony Danych Osobowych; Uwaga uwzględniona Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna (art. 64 – art. 69) 377. Art. 64 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w art.70 Rozporządzenia 2024/1689. Uzasadnienie: Brakuje wskazania wprost kto jest organem notyfikującym a zostaje wspomniany. Uwaga częściowo uwzględniona 378. Art.64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niejasne jest, w jakim celu przekazywana jest informacja o wnioskach oraz od jakiej decyzji należy liczyć termin 14 dni; Uwaga nieuwzględniona 379. Art. 64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niepotrzebnie powtórzono wyrazy „do spraw”; Uwaga uwzględniona 380. Art. 65 ust. 2 i 3 Rada Legislacyjna [Niezgodność przepisów o wniosku z art. 65 ust. 2 i 3 Projektu z Rozporządzeniem UE 2024/1689] Przepisy art. 65 ust 2 i 3 Projektu, mówiące o treści wniosku jednostki oceniającej zgodność składanego do ministra właściwego do spraw informatyzacji w sprawie notyfikacji tej jednostki, są niezgodne z odnośnymi przepisami Rozporządzenia UE 2024/1689. W pierwszym rzędzie należy zauważyć, że elementy wspomnianego wniosku wskazane w przepisach art. 65 ust. 2 i 3 Projektu są i tak stosunkowo szczegółowo unormowane w przepisach art. 29 Rozporządzenia UE 2024/1689, a zatem nie Uwaga nieuwzględniona 183 ma potrzeby powielania w Projekcie tych unijnych przepisów i wystarczy w Projekcie do nich jedynie odesłać (ewentualnie można wskazać w art. 65 ust. 2 Projektu tylko te elementy wniosku, które są niewymienione w art. 29 Rozporządzenia UE 2024/1689, o ile zostanie to w ogóle uznane za potrzebne). Co więcej, z art. 65 ust. 2 pkt 2 Projektu wynika, że w omawianym wniosku należy obligatoryjnie wskazać i zidentyfikować tam akredytację udzieloną jednostce oceniającej zgodność, zaś art. 65 ust 3 pkt 1 Projektu wymaga, aby do wniosku obligatoryjnie dołączyć „certyfikat potwierdzający uzyskanie akredytacji w zakresie rozporządzenia 2024/1689 na podstawie oceny, o której mowa w art. 43 rozporządzenia 2024/1689”. Tymczasem z przepisów Rozporządzenia UE 2024/1689 jednoznacznie wynika, że uzyskanie akredytacji przez jednostkę oceniającą zgodność nie jest wcale obligatoryjne i że we wniosku o notyfikację składanym przez jednostkę oceniającą zgodność nie trzeba wcale obligatoryjnie wskazywać wspomnianej akredytacji i nie trzeba obligatoryjnie dołączać do wniosku certyfikatu akredytacji: można to uczynić fakultatywnie, a jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, to wówczas przekazuje organowi notyfikującemu (w Polsce: ministrowi właściwemu do spraw informatyzacji) inne dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31 Rozporządzenia UE 2024/1689 (zob. art. 29 Rozporządzenia UE 2024/1689). Nie dosyć na tym: ocena, o której jest mowa w art. 43 Rozporządzenia 2024/1689 – a do której to oceny odwołuje się art. 65 ust. 3 pkt 1 Projektu, stanowiąc, że ocena ta stanowi podstawę uzyskania akredytacji w zakresie Rozporządzenia UE 2024/1689 – nie dotyczy wcale akredytacji jednostki oceniającej zgodność, ale dotyczy oceny zgodności systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do Rozporządzenia 2024/1689 stosowanych przez dostawców. Powyższe sprawia, że zamieszczone w art. 65 ust. 3 pkt 1 Projektu odesłanie do oceny, o której jest mowa w art. 43 Rozporządzenia UE 2024/1689 jest kompletnie bezprzedmiotowe, bo, jak wspomniano, ten ostatni przepis dotyczy oceny zgodności przeprowadzanej w stosunku do 184 dostawców systemów AI wysokiego ryzyka, a nie dotyczy oceny stanowiącej podstawę do uzyskania akredytacji przez jednostkę oceniającą zgodność. Wszystkie powyższe mankamenty przepisów art. 65 ust. 2 i 3 Projektu oraz występujące w ich treści niezgodności z przepisami Rozporządzenia UE 2024/1689 sprawiają, że z tych przepisów Projektu równie dobrze można w ogóle zrezygnować, a w każdym razie należy te przepisy wyraźnie zredukować i ograniczyć się do wskazania w nich jedynie elementów wniosku niewymienionych wyraźnie w art. 29 Rozporządzenia UE 2024/1689, przy czym bezwzględnie należy zrezygnować w tych przepisach z odesłania do przepisów art. 43 Rozporządzenia UE 2024/1689, które dotyczą zupełnie innych kwestii. 381. Art. 66 ust. 1 Rada Legislacyjna [Wskazanie niepełnej formy wykonywania zadań przez właściwego ministra w art. 66 ust. 1 Projektu] W przepisie art. 66 ust. 1 Projektu w niepełny (zbyt wąski) sposób została określona forma wykonywania przez ministra właściwego do spraw informatyzacji zadań, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689. Art. 66 ust. 1 Projektu stanowi, że „Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji.”. Tymczasem zadania, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689 mają bardzo złożony oraz rozbudowany charakter i ich wykonywanie nie jest możliwe jedynie poprzez wydawanie rekomendacji przewidzianych w art. 66 ust. 1 Projektu. Minister właściwy do spraw informatyzacji rzeczywiście może wydawać rekomendacje w celu wykonania wskazanego w art. 95 Rozporządzenia UE 2024/1689 zadania polegającego na wydawaniu przez państwa członkowskie kodeksów postępowania, w Projekcie nazywanych rekomendacjami. Natomiast wielu innych zadań wskazanych w art. 95 Rozporządzenia UE 2024/1689 nie da się wykonywać poprzez wydawanie rekomendacji, np. zachęcanie do opracowywania i ułatwianie wydawania kodeksów przez inne podmioty, w tym przez podmioty stosujące (np. dostawców lub importerów systemów AI). De lege ferenda okoliczność ta powinna zostać uwzględniona w treści art. 66 ust. 1 Projektu. Uwaga nieuwzględniona 185 382. Art. 67 ust. 1 PFR Prosimy o rozważenie możliwości bardziej szczegółowego wskazania sposobów zabezpieczania poufnych informacji. Mogą to być np. obowiązki szyfrowania i anonimizacji danych, które zmniejszyłyby ryzyko wycieku danych i zapewniły ich właściwą ochronę. Uwaga nieuwzględniona 383. Art. 69 ust.1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Uzasadnienie: Doprecyzowanie. Uwaga uwzględniona 384. Art. 69 ust. 1 UKNF Należy doprecyzować, o które wymogi konkretnie chodzi, poprzez odesłanie do konkretnych jednostek redakcyjnych rozporządzenia 2024/1689. Uwaga uwzględniona 385. Art. 69 ust. 2 KRRiT w art. 69 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga uwzględniona 386. Art. 69 ust. 2 UKNF Analogicznie do uwagi zgłoszonej już powyżej do art. 40 ust. 2 projektu ustawy UKNF wskazuje, że ustęp 1 projektowanego art. 69, do którego odwołuje się ust. 2 tego przepisu, nie stanowi o stanie zasobów, ale o wymogach z art. 70 rozporządzenia 2024/1689. Jeżeli odwołanie ma dotyczyć zasobów, o których mowa w art. 70 ust. 6 rozporządzenia 2024/1689, to zasadne jest wprost jego wskazanie, a nie odwoływanie się do ust. 1 projektowanego artykułu. Wówczas przepis nie będzie rodził wątpliwości interpretacyjnych. Uwaga uwzględniona Rozdział 7 Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 70 – art. 79) 387. Art. 70 ust. 1 IAB Polska Komisja powinna móc nakładać karę pieniężną, a nie być do tego zobligowana. Wynika to z art. 99 ust. 7 AI Act, a także z podejścia przyjętego w przypadku nakładania administracyjnych kar pieniężnych uregulowanych w innych aktach prawnych np. w dziale VII rozdziale 1 ustawy z 16 lutego 2007 r. Uwaga uwzględniona w części Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 388. Art. 70 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga nieuwzględniona 186 Art. 70. 1. Komisja może nakłada nałożyć na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689 operatora, w przypadkach okreslonych w art. 99 ust.3(-5)* rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i uzyty w art. 99 ust1 Rozprządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopókie nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 389. Art. 70 ust. 3 IAB Polska Rekomendujemy ponowną ocenę, czy zastosowany sposób przeliczania wartości kwot w euro na kwoty w złotych jest odpowiedni. W szczególności rekomendujemy dostosowanie tego procesu przeliczania kwot do już obecnego w polskim systemie prawnym np. procesu określonego w art. 5 ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów: Przeliczenie wartości euro oraz innych walut obcych na złote oraz wartości złotego na euro jest dokonywane według kursu średniego walut obcych ogłoszonego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok zgłoszenia zamiaru koncentracji lub nałożenia kary. Uwaga nieuwzględniona 390. Art. 70 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 70. 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Uzasadnienie: Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. Ponadto, kryterium \"interesu społecznego\" jest niejednoznaczne i Uwaga nieuwzględniona Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 187 powinno zostać precyzyjniej określone. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. 391. Art. 70 ust. 4 Rada Legislacyjna [Niepełne wskazanie kategorii interesu w art. 70 ust. 4 Projektu] Przepis art. 70 ust. 4 Projektu zbyt wąsko zakreśla kategorię interesu, którego brak naruszenia upoważnia Komisję do odstąpienia od nałożenia administracyjnej kary pieniężnej. Art. 70 ust. 4 Projektu stanowi, że „Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego.”. Tymczasem w przepisie tym należy uwzględnić nie tylko brak szkody dla interesu społecznego (lub lepiej: interesu publicznego), ale również brak szkody dla interesu jednostek, gdyż również interesy indywidualne (interesy jednostek) są chronione przy wydawaniu przez Przewodniczącego Komisji ostrzeżeń, o których mowa w art. 53 Projektu, a więc brak ich naruszenia powinien być obligatoryjną przesłanką dopuszczalności odstąpienia przez Komisję od nałożenia administracyjnej kary pieniężnej. Uwaga nieuwzględniona 392. Art. 71 ust. 1 IAB Polska Rekomendujemy wydłużenie terminu, co pozwoli na odpowiednie zebranie i przekazanie dokumentów przez odpowiedni podmiot. Biorąc pod uwagę poziom skomplikowania technicznego i organizacyjnego – dłuższy termin pozwoli przedstawić wszystkie konieczne dane, które będą także odpowiednio sformatowane, co pozwoli Komisji podjąć właściwą w danym przypadku decyzję. Uwaga nieuwzględniona 393. Art. 71 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga nieuwzględniona 394. Art. 72 Konfederacj a Lewiatan Dobrze byłoby aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic Uwaga nieuwzględniona 188 regulacyjnych, co wpisywałoby się w cel regulcji jakim jest wspieranie innowacji. 395. Art. 72 Rada Legislacyjna [Nieprawidłowe odwołanie się do pojęcia przychodu w art. 72 Projektu] Przepis art. 72 Projektu w nieprawidłowy sposób kwalifikuje wpływy z administracyjnej kary pieniężnej nakładanej przez Komisję, błędnie uznając je za stanowiące „przychód” budżetu państwa. Przepis ten stanowi mianowicie, że „Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa.”. Tymczasem środki te stanowią i powinny stanowić „dochód” budżetu państwa, a nie jego przychód. Wniosek taki wynika w pierwszym rzędzie z przepisu art. 111 pkt 12 ustawy z dnia 27 sierpnia 2009 r. o finansach publicznych,25 który stanowi, że „Dochodami podatkowymi i niepodatkowymi budżetu państwa są [...] grzywny, mandaty i inne kary pieniężne, o ile odrębne ustawy nie stanowią inaczej”. Co prawda ten ostatni przepis ma charakter względnie obowiązujący i dozwala ustawodawcy w ustawie odrębnej inaczej przyporządkować wpływy finansowe z tytułu kar pieniężnych, ale nie oznacza to wcale, że ustawodawca może uznać środki z tychże kar za stanowiące „przychód” budżetu państwa. Na podstawie powołanego art. 111 pkt 12 ustawy o finansach publicznych ustawodawca może co najwyżej przyznać innemu funduszowi niż budżet państwa wpływy z kar pieniężnych, np. może je przyznać budżetom jednostek samorządu terytorialnego lub funduszom celowym. Natomiast ustawodawca nie może uznać tych środków za stanowiące „przychód” budżetu państwa, gdyż kłóciłoby się to z istotą tej kategorii, jaką są przychody budżetu państwa i która wynika chociażby z przepisów art. 5 ust. 1 pkt 4 i ust. 1a ustawy o finansach publicznych. Co więcej, w doktrynie trafnie się zauważa, że wniosek interpretacyjny o zaliczaniu (kwalifikowaniu) wpływów (środków) z kar pieniężnych do kategorii dochodów budżetu państwa wynika z art. 5 ust. 2 pkt 1 i 2 oraz art. 60 ustawy o finansach publicznych. Dlatego też Rada Legislacyjna postuluje uznanie w art. 72 Projektu środków z administracyjnej kary pieniężnej nakładanej przez Komisję za stanowiące dochód budżetu państwa. Uwaga uwzględniona. 396. Art. 73 ust. 1 i Art. 74 IAB Polska Wysokie kary pieniężne oraz krótki, 14-dniowy termin na ich uiszczenie, mogą wywierać nadmierną presję na Uwaga nieuwzględniona 189 przedsiębiorców i negatywnie wpłynąć na ich płynność finansową. Ponadto, przewidziano możliwość natychmiastowej wykonalności takich decyzji, co może prowadzić do nieodwracalnych konsekwencji dla działalności podmiotów gospodarczych. Postulujemy o wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu rozstrzygnięcia odwołania. 397. Art. 73 ust. 1 i art. 74 Pracodawcy RP Ustawa przewiduje wysokie kary pieniężne oraz krótki, 14- dniowy termin na ich uiszczenie, co może wywierać presję na przedsiębiorców i negatywnie wpływać na ich płynność finansową. Ponadto możliwość natychmiastowej wykonalności takich decyzji może prowadzić do nieodwracalnych konsekwencji dla działalności firm. Aby zapewnić proporcjonalność, sugerujemy wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur pozwalających na zawieszenie decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W przypadku kar o znaczącym wpływie finansowym przedsiębiorcy powinni mieć zagwarantowaną możliwość skutecznego odwołania, co zapewni pewność i stabilność w prowadzeniu działalności. Uwaga nieuwzględniona 398. Art. 73 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 73 1. Administracyjną karę pieniężną uiszcza się w terminie 14 30 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się decyzji Komisji orzeczenia sądu. Uzasadnienie: Jesli brzmienie pierwotne to należałoby uściślić - w ptzypadku braku wniesienie odowłania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Sugerujemy także wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej co najmniej do 30 dni. Uwaga nieuwzględniona 399. Art. 73 ust. 8 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga uwzględniona 190 Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. 400. Art. 73 ust. 8 Rada Legislacyjna [Brak przesądzenia o organie właściwym do rozpatrzenia środka odwoławczego od postanowienia przewidzianego w art. 73 ust. 8 Projektu] Przepis art. 73 ust. 8 Projektu nie przesądza w ogóle tego, jaki organ jest właściwy do rozpatrywania środka odwoławczego od przewidzianego w tym przepisie postanowienia. Art. 73 ust. 8 Projektu stanowi, że „Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia”, przy czym postanowienia te są wydawane przez Komisję (art. 73 ust. 2 Projektu). Nie wiadomo przy tym, czy postanowienie to może zostać zaskarżone do SOKiK (przepisy Projektu o tym milczą, podobnie jak o właściwości SOKiK w tym zakresie milczą nowelizowane przez Projekt przepisy k.p.c.), czy też raczej należy od tego postanowienia wnieść do Komisji wniosek o ponowne rozpatrzenie sprawy (art. 144 w zw. art. 127 § 3 k.p.a.), a następnie ewentualnie skargę do sądu administracyjnego. Kwestia ta wymaga de lege ferenda wyraźnego przesądzenia w przepisach Projektu, zaś jeżeli w tym zakresie przyjęta zostanie właściwość SOKiK, to trzeba o tym przesądzić również w przepisach k.p.c. Uwaga częściowo uwzględniona 401. Art. 73 ust. 9 KRRiT w art. 73 ust. 9 błędnie odesłano do ust. 2 tego artykułu; Uwaga uwzględniona 402. Art. 73 ust. 9 Rada Legislacyjna [Błędne użycie wyrazu „organy” zamiast „instytucje” w art. 73 ust. 9 pkt 3 Projektu] Przepis art. 73 ust. 9 pkt 3 Projektu posługuje się nieprawidłowym określeniem „organy Unii Europejskiej”, podczas gdy w tym kontekście prawidłowe i postulowane przez Radę Legislacyjną jest sformułowanie: „instytucje Unii Europejskiej”. Przepis art. 73 ust. 9 pkt 3 Projektu stanowi, że Uwaga uwzględniona 191 Komisja może udzielić ulgi w wykonaniu administracyjnej kary pieniężnej, która „stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe organy Unii Europejskiej”. Tymczasem w UE o dopuszczalności pomocy publicznej (pomocy państwa) i jej zgodności z rynkiem wewnętrznym UE przesądzają (rozstrzygają) nie organy UE (jak jest o tym mylnie mowa w art. 73 ust. 9 pkt 3 Projektu), ale rozstrzygają o tym instytucje UE, takie jak Komisja Europejska, Rada Europejska, Rada Unii Europejskiej, Parlament Europejski oraz TSUE. Wszystkie te wymienione ostatnio podmioty są wyraźnie uznane za „instytucje Unii” przez art. 13 Traktatu o Unii Europejskiej, przy czym z przepisów art. 107- 109 Traktatu o funkcjonowaniu Unii Europejskiej wynika, że to właśnie te instytucje UE, w ramach różnych procedur, są kompetentne do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Natomiast tego rodzaju kompetencji w sprawach pomocy państwa absolutnie nie posiadają „organy Unii Europejskiej”, do której to kategorii należy cały szereg wyspecjalizowanych podmiotów, takich jak np. agencje UE, Europejska Służba Działań Zewnętrznych, Europejski Komitet Ekonomiczno-Społeczny, Europejski Komitet Regionów, Europejski Rzecznik Praw Obywatelskich, Europejski Inspektor Ochrony Danych. Organy UE nie mają żadnych kompetencji do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Dlatego też zdaniem Rady Legislacyjnej w przepisie art. 73 ust. 9 pkt 3 Projektu należy się posłużyć pojęciem „instytucji Unii Europejskiej”, a ponadto należy tam użyć sformułowania o zgodności pomocy publicznej „z rynkiem wewnętrznym”, a nie – jak w obecnej wersji tego przepisu – „z zasadami rynku wewnętrznego”, gdyż właśnie to pierwsze określenie występuje w przepisach art. 107 Traktatu o funkcjonowaniu Unii Europejskiej. 403. Art. 74 Konfederacj a Lewiatan Przepis powinien precyzyjniej określić, jaki \"ważny interes\" może uzasadniać nadanie decyzji rygoru natychmiastowej wykonalności. Należy się odwołać do kryteriów dla rygoru natychmiastowej wykonalności wskazanych w Kodeksie postępowania administracyjnego. Uwaga uwzględniona 192 Art. 108 [Podstawy nadania decyzji rygoru natychmiastowej wykonalności] § 1. Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony. W tym ostatnim przypadku organ administracji publicznej może w drodze postanowienia zażądać od strony stosownego zabezpieczenia. § 2. Rygor natychmiastowej wykonalności może być nadany decyzji również po jej wydaniu. W tym przypadku organ wydaje postanowienie, na które służy stronie zażalenie. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. Odwołanie się do istniejących już regulacji zapewni spójność i zgodność z ogólnymi zasadami postępowania administracyjnego. 404. Art. 74 UOKiK Użyte w przepisie pojęcie ważnego interesu jest nieostre i wskazuje na możliwość dowolnego nadania rygoru natychmiastowej wykonalności. Wydaje się to zbędne, mając na względzie, że możliwość taka wynika ze stosowanego w sprawie kar pieniężnych art. 108 kodeksu postępowania administracyjnego Uwaga uwzględniona Przepis został doprecyzowany. 405. Art. 74 UKNF W ocenie UKNF projektowany przepis jest nieprecyzyjny. Podmioty stosujące prawo mogą mieć problem ze zdekodowaniem pojęcia „ważnego interesu”, w szczególności odnośnie tego, czy chodzi o ważny interes publiczny, społeczny, czy też interes strony. Poddajemy pod rozwagę odwołanie się do instytucji z art. 108 KPA. Uwaga uwzględniona Przepis został doprecyzowany. 193 406. Art. 74 Rada Legislacyjna [Nadmierne rozszerzenie możliwości nadania decyzji Komisji rygoru natychmiastowej wykonalności w art. 74 Projektu] Przepis art. 74 Projektu w nadmiernie ekscesywny sposób rozszerza możliwość nadania rygoru natychmiastowej wykonalności decyzji Komisji o nałożeniu administracyjnej kary pieniężnej. Przepis art. 74 Projektu – znajdujący się w przepisach rozdziału 4 Projektu zawierającego przepisy o administracyjnych karach pieniężnych – stanowi, że „Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes.”. Zdaniem Rady Legislacyjnej, jeżeli autorzy Projektu pragną rozszerzyć katalog dopuszczalnych przypadków nadawania wspomnianej decyzji Komisji (o ukaraniu administracyjną karą pieniężną) rygoru natychmiastowej wykonalności poza przypadki opisane w art. 108 § 1 zd. 1 k.p.a. (ten ostatni przepis stanowi, że „Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony.”), to oczywiście mogą oni to uczynić, ale warto by jednak było, aby w art. 74 Projektu zostało przynajmniej przesądzone, że Komisja może nadać omawianej decyzji rygor natychmiastowej wykonalności tylko wtedy, gdy jest to „niezbędne” z uwagi na ważny interes. To postulowane przez Radę Legislacyjną sformułowanie (o niezbędności) będzie bowiem stanowiło przejaw zamieszczenia w tym przepisie przesłanki proporcjonalności, odgrywającej istotną rolę gwarancyjną dla należytego respektowania konstytucyjnych praw i wolności jednostek (zob. art. 31 ust. 3 Konstytucji RP). Warto też dodać, że ewentualne zamieszczenie w Projekcie przepisu art. 74 Projektu, określającego swoiste przesłanki nadania decyzji Komisji rygoru natychmiastowej wykonalności, będące przesłankami szczególnymi względem przepisu art. 108 § 1 zd. 1 k.p.a., bynajmniej nie wyłączy stosowania do decyzji Komisji tego ostatniego przepisu k.p.a.28 Komisja nadal będzie mogła się powołać w tym zakresie na przesłanki wymienione w art. 108 § 1 zd. 1 k.p.a. jako przemawiające za nadaniem decyzji o Uwaga uwzględniona Przepis został doprecyzowany 194 ukaraniu rygoru natychmiastowej wykonalności (w tym na „inny interes społeczny”), a ponadto Komisja i tak będzie musiała respektować procedurę oraz sposób nadawania decyzji rygoru natychmiastowej wykonalności określone w przepisach art. 108 k.p.a. Wzgląd na tę okoliczność powinien zresztą skłaniać do ponownego zastanowienia się nad tym, czy przepis art. 74 Projektu jest w obecnym kształcie treściowym w ogóle potrzebny. 407. Art. 75 Rada Legislacyjna [Błędy redakcyjne w art. 75 ust. 2 Projektu] Licznymi usterkami redakcyjno- językowymi obarczony jest przepis art. 75 ust. 2 Projektu. Przepis ten – dotyczący decyzji Komisji w sprawie nałożenia administracyjnej kary pieniężnej – w obecnej wersji stanowi, że „Do postępowania w sprawach odwołań, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689.”. Usterki redakcyjno-językowe tego przepisu są aż nadto widoczne: niepotrzebne zamieszczanie części zdania w nawiasie, zamieszczenie znaku otwarcia nawiasu bez postawienia znaku jego zamknięcia, użycie w nawiasie wyrazu „postępowanie” w niewłaściwym przypadku deklinacyjnym (jest w mianowniku, a powinno być w dopełniaczu). Uwaga uwzględniona 408. Art. 76 Rzecznik MŚP Wnoszę o wykreslenie art. 76 Projektu, w którym następuje wyłączenie stosowania przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego”. W uzasadnieniu do Projektu brak szczegółowego wyjaśnienia dla takiego rozwiązania, zaś w art. Uwaga nieuwzględniona 195 99 ust. 1 Rozporządzenia UE nr 2024/1689 stwierdza się, że państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, jak również to, że przewidziane kary muszą być m. in. proporcjonalne. Istnieje zagrożenie pomijania stosowania przedmiotowych przepisów KPA, co utrudni albo uniemożliwi w praktyce realizację zasady proporcjonalności jako podstawowej dyrektywy wymiaru administracyjnej kary pieniężnej. Zbyt rygorystyczne uregulowania mogą stanowić barierę w rozwoju systemów sztucznej inteligencji jako technologii innowacyjnej. 409. Art. 76 Konfederacj a Lewiatan Ustawodawca wyłączając stosowanie art. 189f KPA znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 projektu (art. 70 ust. 4 projektu) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 projektu. Uwaga nieuwzględniona 410. Art. 77 AIA PUODO Uprawnienia organów ochrony praw podstawowych. Zgodnie z treścią art. 77 ust. 1 aktu w sprawie sztucznej inteligencji krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie przedmiotowego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Zgodnie natomiast z art. 77 ust. 2 aktu w sprawie sztucznej inteligencji każde państwo członkowskie wskazuje organy i podmioty publiczne, o których mowa powyżej i podaje ich wykaz do wiadomości publicznej. Jednocześnie państwa członkowskie Uwaga zostanie uwolniona 196 przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. Tymczasem w dotychczas upublicznionym przez Ministerstwo Cyfryzacji wykazie organów i instytucji publicznych, o których mowa w art. 77 ust. 1 aktu w sprawie sztucznej inteligencji w Polsce nie został wskazany organ nadzorczy ds. ochrony danych, chociaż – jak wynika z informacji przekazanych Prezesowi UODO przez przedstawicieli innych organów nadzorczych – takie działania podejmowane są w innych państwach członkowskich, np. we Francji czy na Malcie. W świetle powyższych uwag, wzgląd na przepisy prawa, w tym normy prawa unijnego, wymaga uzupełnienia wykazu, o którym mowa w art. 77 ust. 2 aktu w sprawie sztucznej inteligencji i wskazania w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu właściwego z obszaru ochrony praw podstawowych w zakresie realizacji uprawnienia wynikającego z art. 77 ust. 1 ww. aktu. Prezes UODO nie wskazuje przy tym w tym miejscu na konieczne do realizacji tego zadania (i innych wynikających z rozporządzenia 1689/2024 oraz projektu ustawy) zasoby i środki finansowe, których brak mógłby stać na przeszkodzie realizacji nowych kompetencji – powinno to być raczej przedmiotem odrębnych ustaleń, koncentrując się na obowiązkach organów wynikających z przepisów prawa. Należy jednak przypomnieć, że systematyczne pomijanie potrzeb budżetowych organu nadzorczego właściwego ds. ochrony danych osobowych w kontekście realizacji nowych obowiązków (poza projektem ustawy o zarządzaniu danymi) stało się przedmiotem odrębnego wystąpienia do Pana Premiera. 411. Art. 77 Prokuratoria Generalna Wątpliwości budzi art. 77 projektu, zgodnie z którym w zakresie nieuregulowanym w projektowanej ustawie oraz w Kodeksie postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji stosuje się odpowiednio przepisy działu III Ordynacji podatkowej. W związku z tym, że nakładanie administracyjnych kar pieniężnych jest kompleksowo uregulowane w Kodeksie postępowania administracyjnego (włącznie z terminami przedawnienia nakładania kar i terminami przedawnienia ich egzekucji) i w przepisach projektowanej ustawy, nie jest jasne, w jakim zakresie miałyby znaleźć Uwaga uwzględniona przepis został zmodyfikowany 197 odpowiednie zastosowanie przepisy Ordynacji podatkowej. Dlatego rekomendujemy analizę projektowanej regulacji z uwzględnieniem rozróżnienia kwestii dotyczących nakładania kar i kwestii dotyczących należności z tytułu tych kar. Warto zwrócić uwagę na obowiązujące już przepisy, w tym art. 19e ust. 2 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym odpowiednie stosowanie przepisów działu III Ordynacji podatkowej odnosi się do należności z tytułu kar pieniężnych. Przepis ten był w roku 2019 nowelizowany, ponieważ uprzednio dotyczył odpowiedniego stosowania przepisów działu III Ordynacji podatkowej do kar pieniężnych i wywołał istotne wątpliwości interpretacyjne w zakresie stosowania przepisów o przedawnieniu nakładania kar pieniężnych (zob. wyrok NSA z 28 listopada 2023 r. II GSK 1028/20). Rozróżnienie powyższych kwestii jest istotne z uwagi na specyfikę powstawania zobowiązań z tytułu kar pieniężnych i zobowiązań podatkowych. Zgodnie z orzecznictwem Naczelnego Sądu Administracyjnego zakres pojęcia „należności publicznoprawne” nie obejmuje dochodów, których źródłem są czyny niedozwolone (kar pieniężnych, grzywien, mandatów). Te należności nie wynikają z publicznoprawnych stosunków nakazujących określonym podmiotom uiszczać świadczenia pieniężne na rzecz budżetu państwa lub budżetu jednostki samorządu terytorialnego, lecz z określonego zachowania podmiotu zobowiązanego do ich uiszczenia. Do momentu wydania decyzji o nałożeniu administracyjnej kary pieniężnej na stronie nie ciąży żaden, nawet abstrakcyjny i ogólny ustawowy obowiązek zapłaty kary, co wynika z samej natury sankcji administracyjnej i jest zasadniczą okolicznością różniącą zobowiązanie z tytułu kary pieniężnej od zobowiązania podatkowego. Dopiero z chwilą wydania decyzji ustalającej odpowiedzialność za naruszenie przepisów prawa powstaje stosunek publicznoprawny, z którego wynika obowiązek podmiotu zastosowania się do decyzji (por. wyrok NSA z 12 marca 2024 r. II GSK 58/21 i wskazane w nim dotychczasowe orzecznictwo). 412. Art. 77 KRRiT w art. 77 wyrazy „na podstawie naruszeń” należy zastąpić wyrazami „w związku z naruszeniem”, ponadto rozważenia wymaga zasadność odwołania do działu III Ordynacji podatkowej; Uwaga uwzględniona 198 413. Art. 77 Konfederacj a Lewiatan Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji podstawie art. 99 ust. 3 (-5)* rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Uzasadnienie: Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Uwaga nieuwzględniona 414. Art. 78 Konfederacj a Lewiatan Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami Uwaga częściowo uwzględniona Postulat podniesiony w treści uwagi jest częściowo adresowany poprzez umożliwienie stronie zawarcia układu w ramach osobnego postępowania. 199 pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Ustęp 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i nie dostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. 415. Art. 78 ust. 2 Rada Legislacyjna [Błędne określenie podmiotu (sprawcy) ponoszącego odpowiedzialność karną na podstawie art. 78 ust. 2 Projektu] Art. 78 ust. 2 Projektu wprowadza odpowiedzialność karną tego, „kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej”. Przepis ten, jak wynika z sankcji, ustalanej w powiązaniu z art. 78 ust. 1 Projektu („podlega grzywnie do 500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch”), ma charakter ściśle prawnokarny, tj. określa typ przestępstwa. W konsekwencji powinien on mieć zastosowanie – na podstawie art. 116 Kodeksu karnego – jedynie do osób (fizycznych) podlegających odpowiedzialności zgodnie z regułami określonymi w części ogólnej Kodeksu karnego. Tymczasem zgodnie z art. 71 ust. 1 Projektu, obowiązek dostarczenia Komisji, w terminie 14 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej został nałożony na „podmiot”, o którym mowa w art. 70 ust. 1 Projektu, czyli „podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689”. Prowadzi to do wniosku, że ustawodawca adresuje przepisy prawnokarne nie tylko do osób fizycznych, co (przede wszystkim) do podmiotów prawnych (zbiorowych). Jednoznacznie świadczy o tym treść motywu 13 Rozporządzenia UE 2024/1689, zgodnie z którym „[p]ojęcie „podmiotu stosującego”, o którym mowa w niniejszym rozporządzeniu, należy interpretować jako „osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”. Tę niespójność Uwaga nieuwzględniona 200 należy wyeliminować przez dokładne określenie osób, które (w ramach „podmiotów stosujących”) zobowiązane są do „dostarczenia Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej”. Tylko osoba fizyczna (człowiek) spełnia bowiem przesłanki do ponoszenia odpowiedzialności karnej. W art. 78 Projektu należy wyeliminować tzw. literówkę w wyrazie „postepowaniu” (prawidłowo: „postępowaniu”). 416. Art. 79 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Wnosimy również o ponowne poddanie analizie konieczności wprowadzania w ustawie sankcji karnych (art. 78 oraz art. 79). Nie mają one bowiem uzasadnienia w przepisach rozporządzenia. Ponadto, ich wprowadzenie stoi w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność działania. Uwaga uwzględniona Odstąpiono od wskazania kwoty Rozdział 8 Zamiany w przepisach obowiązujących (art. 80 – art. 82) 417. Art. 80 pkt 2 KRRiT w art. 80 pkt 2, w części dotyczącej art. 479 88b Kpc, brak jest oznaczenia § 1; w art. 80 pkt 2, w części dotyczącej art. 479 88e § 1 Kpc, przepis jest niekompletny, a przez to niezrozumiały; Uwaga częściowo uwzględniona. Dokonano właściwych oznaczeń. 418. Art. 80 pkt 2 IAB Polska Wskazujemy, że w Art. 479 88e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Uwaga uwzględniona. 201 Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. 419. Art. 80 pkt 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 479 88e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji zainteresowany. § 2. Zainteresowanym jest ten, czyje prawa lub obowiązki zależą od rozstrzygnięcia procesu. Jeżeli zainteresowany nie został wezwany do udziału w sprawie, sąd ochrony konkurencji i konsumentów wezwie go na wniosek strony albo z urzędu. Uzasadnienie: Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Uwaga uwzględniona. 420. Art. 80 pkt 2 Rada Legislacyjna Istotnie niepełna nowelizacja przepisów k.p.c. – pominięcie prawodawcze] Przepisy art. 80 pkt 2 Projektu, które przewidują znowelizowanie przepisów k.p.c., zmieniają przepisy k.p.c. w zbyt wąskim zakresie, co w efekcie będzie prowadziło do zaistnienia na gruncie k.p.c. istotnego i niepożądanego pominięcia prawodawczego. To pominięcie prawodawcze będzie polegało na tym, że dodawane przez art. 80 pkt 2 Projektu przepisy k.p.c., normujące nowe postępowanie odrębne w postaci postępowania w sprawach naruszenia przepisów Rozporządzenia UE 2024/1689, nie będą zawierały wielu takich regulacji prawnych, które są absolutnie niezbędne dla efektywnego funkcjonowania wspomnianego postępowania odrębnego.29 Mianowicie, w nowelizowanych przez art. 80 pkt 2 Projektu przepisach k.p.c. brak jest m. in. następujących niezbędnych elementów normatywnych: (1) brak jest w nowelizowanym k.p.c. przepisu wyraźnie określającego rodzaje Uwaga częściowo uwzględniona. Uwaga zostanie w pełni uwzględniona na kolejny etapie legislacyjnym. 202 orzeczeń wydawanych przez SOKiK po rozpatrzeniu odwołania od decyzji Komisji, takich jak orzeczenie oddalające odwołanie od decyzji Komisji oraz orzeczenie uchylające zaskarżaną decyzję albo ją zmieniające w całości lub w części i rozstrzygające co do istoty sprawy, na wzór przepisów m. in. art. 479[31a], art. 479[53], art. 479[64] i art. 479[75] k.p.c.; (2) brak jest w nowelizowanym k.p.c. przepisów o ochronie tajemnicy przedsiębiorstwa oraz innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, na wzór m. in. przepisów art. 479[33], art. 479[66a] i art. 479[77a] k.p.c.; (3) brak jest wyraźnego wskazania w nowelizowanym k.p.c., że SOKiK jest właściwy do rozpatrywania zażaleń na postanowienia Komisji, a przynajmniej na niektóre z nich, w tym na postanowienie Komisji o zajęciu przedmiotów w toku kontroli (art. 43 ust. 13 Projektu), na postanowienie Komisji rozstrzygające sprzeciw podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu, na postanowienia Komisji wydawane w postępowaniu w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (rozdział 4 Projektu) oraz na postanowienia Komisji wydawane w sprawach nałożenia administracyjnych kar pieniężnych, np. na postanowienie Komisji w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty (art. 73 ust. 2 i 8 Projektu); (4) brak jest w nowelizowanym k.p.c. przepisu, który w zakresie rozpatrywania zażaleń na postanowienia Komisji odsyłałby do stosowania niektórych przepisów o rozpatrywaniu odwołań od decyzji Komisji, np. na wzór przepisów art. 479[32] § 2, art. 479[55] oraz art. 479[66] k.p.c. Powyższe braki legislacyjne w k.p.c. (nowelizowanym przez Projekt) wymagają obecnie uzupełnienia. Rozdział 9 Przepisy przejściowe, dostosowujące i końcowe (art. 83 – art. 88) 421. Art. 83 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy ale zasadniczy przepis merytoryczny tworzący nowy organ. Uwaga nieuwzględniona 422. Art. 83 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę, czy bardziej adekwatnym nie będzie posłużenie się sformułowaniem „tworzy się”, zamiast aktualnego „powołuje się” - wobec planowanego statusu Komisji jako organu administracji publicznej. Należałoby także rozważyć, czy Rada ds. Sztucznej Uwaga nieuwzględniona 203 Inteligencji, o której mowa w art. 28 ust. 1 projektu, nie wymaga utworzenia w drodze przepisu dostosowującego. 423. Art. 83 ust. 2 KRRiT w art. 83 ust. 2 brak jest wyrazu „dni”; Uwaga uwzględniona 424. Art. 84 KRRiT w art. 84 błędnie ponumerowano ustępy; Uwaga uwzględniona 425. Art. 84 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy Uwaga nieuwzględniona 426. Art. 84 ust. 2 i 3 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że zasadnym wydaje się, aby na powołanie pełnomocnika został wyznaczony pewien okres (a nie dzień wejścia w życie ustawy). Co do zasady tego rodzaju regulacje wchodzą w życie wcześniej, a nie równocześnie z przepisami o utworzeniu danego podmiotu (w tym przypadku Biura). Zwrócić należy także uwagę, że zadaniem pełnomocnika nie może być tworzenie Biura. Zostanie ono utworzone na mocy ustawy. Uwaga nieuwzględniona 427. Art. 84 ust. 5 KRRiT w art. 84 ust. 5 dotyczącym powołania Dyrektora Biura Komisji wyraz „id” należy zastąpić wyrazem „od”; Uwaga uwzględniona 428. Art. 84 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność.” Uwaga uwzględniona 429. Art. 84 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy id od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Uzasadnienie: Poprawa literówki: „od” zamiast „id”. Wskazujemy, że w Art. 47988e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. Uwaga uwzględniona 430. Art. 87 ust. 4 KRRiT w art. 87 ust. 4 zbędny jest pierwszy wyraz „jest”. Uwaga uwzględniona 204 431. Art. 88 Rada Legislacyjna [Brak skorelowania wejścia w życie Projektu z przepisami Rozporządzenia UE 2024/1689] Przepis art. 88 Projektu dotyczący jego wejścia w życie nie jest niestety skorelowany treściowo z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi zagadnienie rozpoczęcia stosowania tego ostatniego aktu. Art. 88 Projektu jest jego ostatnim w kolejności przepisem, ale Rada Legislacyjna zdecydowała się poruszyć to zagadnienie już na samym początku przedstawiania usterek Projektu, ze względu na pierwszoplanową merytoryczną wagę tej problematyki. Projekt jest bowiem wcale nieczęstym w polskiej praktyce legislacyjnej przypadkiem, gdy projekt ustawy mającej implementować w Polsce określony unijny akt prawny lub mającej zapewniać w Polsce jego stosowanie pojawia się tak szybko (niemal błyskawicznie) po przyjęciu danego aktu prawnego w UE, a jednocześnie z takim dużym czasowym wyprzedzeniem w stosunku do przewidzianego w akcie unijnym terminu rozpoczęcia jego stosowania. Trzeba tu mianowicie przypomnieć, że Rozporządzenie UE 2024/1689 zostało przyjęte w dniu 13 czerwca 2024 r., następnie opublikowano je w Dzienniku Urzędowym UE w dniu 12 lipca 2024 r. i weszło ono w życie 20. dnia po jego opublikowaniu, czyli w dniu 1 sierpnia 2024 r. (zob. art. 113 zd. 1 Rozporządzenia UE 2024/1689). Natomiast Rozporządzenie UE 2024/1689 będzie stosowane w całej UE (w tym w Polsce) dopiero od dnia 2 sierpnia 2026 r. (art. 113 zd. 2 Rozporządzenia UE 2024/1689), zaś niektóre jego przepisy będą stosowane od dnia 2 sierpnia 2027 r. (zob. art. 113 lit. c) Rozporządzenia UE 2024/1689). Z drugiej jednak strony są też w Rozporządzeniu UE 2024/1689 przepisy, które mają zacząć być stosowane wcześniej, tzn. od dnia 2 lutego 2025 r. (zob. art. 113 lit. a) Rozporządzenia UE 2024/1689) lub od dnia 2 sierpnia 2025 r. (zob. art. 113 lit. b) Rozporządzenia UE 2024/1689). Tymczasem Projekt, jako przyszła ustawa, ma wejść w życie po upływie 14 dni od dnia ogłoszenia, zaś niektóre jego przepisy, dotyczące rozpoczęcia procesu powoływania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) oraz tworzenia Biura Komisji, mają wręcz wejść w życie już z dniem następującym po dniu ogłoszenia ustawy (art. 88 Projektu). Uwaga wyjaśniona. Uwaga zostanie uwzględniona na późniejszym etapie prac 205 Trudno jest oczywiście na obecnym etapie procesu legislacyjnego przewidzieć, kiedy konkretnie Projekt jako przyszła ustawa wejdzie w życie; być może stanie się to w pierwszych miesiącach roku 2025. W każdym razie Rada Legislacyjna rekomenduje już obecnie treściowe skorelowanie przepisu art. 88 Projektu o jego wejściu w życie z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi początek stosowania poszczególnych przepisów tego unijnego aktu prawnego. Jest niewątpliwie rzeczą bardzo cenną i godną pochwały to, że Projekt pojawił się odpowiednio wcześnie przed odnośnymi datami rozpoczęcia stosowania przepisów Rozporządzenia UE 2024/1689. Co więcej, szereg przepisów Projektu może zupełnie dobrze i w zgodzie z prawem UE wejść w życie już nawet obecnie, nie tylko przed dniem 2 sierpnia 2026 r. (czyli przed datą rozpoczęcia stosowania zasadniczego korpusu przepisów Rozporządzenia UE 2024/1689), ale nawet przed dniem 2 lutego 2025 r. (czyli przed najwcześniejszym dniem rozpoczęcia stosowania niektórych przepisów Rozporządzenia UE 2024/1689). Dotyczy to chociażby przepisów Projektu dotyczących powołania Komisji czy też utworzenia Biura Komisji. Niemniej jednak są też w Projekcie takie przepisy, które absolutnie nie mogą wejść w życie przed dniem rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689. Ta ostatnia uwaga dotyczy w szczególności przepisów Projektu upoważniających Komisję do kontrolowania działalności podmiotów obowiązanych do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 3 Projektu), upoważniających Komisję do prowadzenia postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 4 Projektu) oraz upoważniających Komisję do nakładania administracyjnych kar pieniężnych na podmiot obowiązany do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 7 Projektu), w zakresie, w jakim te kontrolowane, nadzorowane czy też sankcjonowane przez Komisję przepisy Rozporządzenia UE 2024/1689 nie będą jeszcze stosowane w UE z uwagi na treść art. 113 Rozporządzenia UE 2024/1689. Ta prawna niedopuszczalność stosowania, nadzorowania, wdrażania czy też sankcjonowania w Polsce tych przepisów Rozporządzenia 206 UE 2024/1689, które w świetle art. 113 Rozporządzenia UE 2024/1689 nie są jeszcze stosowane w całej UE (a dotyczy to chociażby licznych przepisów Rozporządzenia UE 2024/1689 określających obowiązki podmiotów wskazanych w art. 2 ust. 1 Rozporządzenia UE 2024/1689, np. określających obowiązki dostawców, importerów, dystrybutorów lub podmiotów stosujących systemy AI) wynika chociażby z relewantnego w tym względzie orzecznictwa Trybunału Sprawiedliwości Unii Europejskiej (dalej: „TSUE”). Zdaniem TSUE, przepisy rozporządzenia unijnego określające obowiązki podmiotów prawa nie mogą być wobec tych podmiotów stosowane w okresie przed określonym w danym rozporządzeniu dniem rozpoczęcia ich stosowania. W związku z powyższym Rada Legislacyjna prosi autorów Projektu o rozważenie dokładnego skorelowania terminów wejścia w życie poszczególnych przepisów Projektu, zwłaszcza przepisów rozdziałów 3, 4, 5, 6 i 7 Projektu, z terminami rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689 określonymi w jego art. 113. 1 RAPORT Z II TURY OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do ponownych konsultacji publicznych i opiniowania 10 lutego 2025 r. Na zgłoszenie uwag został wyznaczony termin 14 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących 70 podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch, Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa, Centrum Cyfrowe, Francusko-Polska Izba Przemysłowo Handlowa, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Prezes Zarządu Grupy Polskiego Funduszu Rozwoju S.A., Prezes Zarządu Banku Gospodarstwa Krajowego S.A., Związek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiło 26 następujących podmiotów: Polskie Towarzystwo Informatyczne, Europen Fem Institute, Grupa Robocza ds. Sztucznej Inteligencji (GRAI) Związek Cyfrowa Polska, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji (KIGEIT), Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Związku Pracodawców Technologii Cyfrowych Lewiatan, Fundacja Panoptykon, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenia Autorów ZAiKS, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Biblioteka Narodowa, Amerykańska Izba Handlowa w Polsce AmCham, Polskie Sieci Elektroenergetyczne, Polska Izba Informatyki i Telekomunikacji (PIIT), Związek Polski Autorów i Kompozytorów ZAKR, Związek Pracodawców Wydawców Cyfrowanych, Stowarzyszenie Artystów Wykonawców, Związek Miast Polskich, Polska Izba Ubezpieczeń oraz osoba fizyczna. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. W ramach opiniowania projekt otrzymało 46 podmiotów: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Rada Działalności Pożytku Publicznego, Rady Dialogu Społecznego, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność:, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”. Stanowiska przedstawiły następujące 23 podmioty: Główny Inspektor Pracy, Konfederacja Lewiatan, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Dyrektor Narodowego Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Pracodawcy RP, Rzecznik Praw Obywatelskich, Prezes Prokuratorii Generalnej RP, Prezes Urzędu Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Prezes Urzędu Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, NSZZ Solidarność, Polskie Centrum Akredytacji, Dyrektor Polskiej Agencja Rozwoju Przedsiębiorczości, Rzecznik Praw Pacjenta, Rada Działalności Pożytku Publicznego. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. Pozytywnie rozpatrzono uwagi dotyczące m.in: • doprecyzowania zakresu włączeń stosowania przepisów ustawy; • doprecyzowania trybu wydawania opinii indywidualnej oraz skutków prawnych; • uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia czynności kontrolnych; • usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; • zmiany przepisów regulujących funkcjonowanie Biura Komisji; • zmiany katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji. Raport z I tury opiniowania i konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71) dostępny jest na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny: https://legislacja.gov.pl/projekt/12390551/katalog/13087901#13087901 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Strona | 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownych konsultacji publicznych Lp. Podmiot zgłaszający uwagę Jednostka redakcyjna lub strona uzasadnienia lub pkt OSR Treść uwagi/propozycja przepisu Stanowisko MC Uwagi ogólne 1. European FEM Institute Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego Rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Uwaga wyjaśniona Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 2. GRAI Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji Uwaga wyjaśniona Strona | 2 praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 3. KIGEiT Uwaga ogólna Według Projektu w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają być głównie organy publiczne, będące przede wszystkim organami kontrolnymi. Brakuje przedstawicieli nauki i biznesu. Stawia to pod znakiem zapytania praktyczne możliwości Komisji w zakresie rozwoju SI, a także rodzi obawy o upolitycznienie Komisji. Będzie to następny organ państwowy, który – istnieje obawa- będzie pełnił funkcję głównie kontrolną i penalizującą. Biorąc zaś pod uwagę potrzebę rozwoju SI konieczny jest organ, który będzie pełnił funkcje wspierające i edukacyjne dla podmiotów stosujących, a także, który będzie rozwiewał wątpliwości dotyczące stosowania SI. Uwaga wyjaśniona Podmioty te mogą uczestniczyć w pracach Komisji na zasadzie zaproszenia przez Przewodniczącego Komisji w przypadkach określonych w projekcie ustawy. Dodatkowo mogą też odpowiednio wchodzić w skład Rady Strona | 3 Społecznej, będącej ciałem opiniodawczo doradczym KRIBSI. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 4. Osoba fizyczna Uwagi ogólne 1. Projekt od razu zawiera nielogiczność, jeszcze na poziomie dyrektywy UE, mianowicie: jednym z celów dyrektywy ma być „ promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Nie ma nic takiego jak godna zaufania sztuczna inteligencja, a wręcz twierdzę, że nie może istnieć. Przed uzyskaniem świadomości jest po prostu za tępa, żeby być świadoma błędów, po uzyskaniu świadomości, otworzy się nowy worek problemów. I fundamentalny powód: to twór niedoskonałych ludzi. Pod koniec podam przykłady. Na ten moment tylko cierpko zauważę, że nie może być mowy o zaufaniu do SI, jeśli w tym samym dokumencie jest mowa o „systemach SI uznanych za systemy wysokiego ryzyka”. 2. Osobiście mam wątpliwości, czy konieczne jest powoływanie kolejnych organów, jeśli już istnieje parę innych, jak chociażby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji? Czy nie można by taniej i prościej rozbudować jej uprawnienia i zadania? I czemu po powstaniu nowego tworu KRiBSI nadal ma istnieć? Ja tu widzę zbędne dublowanie etatów, jak podajecie ma przybyć nowe 100 miejsc pracy. Tylko przy takim mnożeniu urzędów zabraknie faktycznych ekspertów, głębokość kadr w Polsce w temacie SI nawet zauważacie sami jaka jest płytka. 3. Stanowczo protestuję przeciwko wprowadzaniu mechanizmu układu w sprawie nadzwyczajnego złagodzenia sankcji. Ma to być rozwiązanie, które ułatwi stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie środków naprawczych, a także ubiegania się o złagodzenie sankcji. W praktyce mam silne podejrzenie, że będzie prowadzić do korupcji i nadmiernej pobłażliwości, zwłaszcza, że same zapisy w treści projektu ustawy wskazują na rachityczne, powolne działanie Komisji („Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania”; „Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie” itp). Kara finansowa Uwaga wyjaśniona Rozporządzenie 2024/1689 zapewnia kompleksową regulację prawna dla systemów i modeli sztucznej inteligencji. Rozporządzenie ma na celu zapewnienie bezpieczeństwa, przejrzystości i zgodności z wartościami europejskimi w rozwoju i stosowaniu AI. Regulacja bazuje na podejściu opartym o ryzyko, uzależniając obowiązki dostawców i podmiotów wdrażających modele i systemy AI od potencjalnego ryzyka wyrządzenia szkód obywatelom, społeczeństwom i gospodarkom. Projekt ustawy o systemach sztucznej inteligencji ma na celu Strona | 4 powinna być bez limitu górnego, mega korporacje są w stanie wchłonąć milionowe kary, jak pokazuje chociażby Pfitzer. Szanowni Państwo chyba nie zdają sobie sprawy, że SI, taka jak reklamują ją jej zwolennicy (ja nazywam to „model do wszystkiego”) jest de facto systemem wojennym nowej, szóstej generacji. Mamy już wykorzystanie prostszych modeli w piątej, a bardzo upośledzone już i wcześniej. Przykładowo na granicy między, Koreami od bodaj dwóch dekad są (były?) zautomatyzowane systemy strażnicze, mogące strzelać autonomicznie; obecnie amerykańskie drony mogą być już zautomatyzowane od czasu ostatniej wojny z Irakiem. Niewiele szkodzi na przeszkodzie, aby jakiś zapaleniec połączył to z pojazdem autonomicznym i zaprogramowanym na czystkę etniczną chatbotem. Żeby było ciekawiej, ponoć w jakiejś symulacji SI drona po dostaniu nowych, trudniejszych wytycznych zadania bojowego, AI zaatakowało operatora, jako logiczne źródło utrudnień misji. To tak w temacie zaufania do SI. 4. Moje stanowisko jest, żeby całkowicie zakazać prac nad SI, tą w stylu „do wszystkiego”. Prawa gwarantowane wg dyrektywy to m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Rozwój SI nie tylko nie gwarantuje ich poszanowanie, ale wręcz gwarantuje łamanie. Już dotychczasowe ułomne narzędzia jadą po prawnej bandzie, a pewnie miejscami łamią, a na pewno będą służyć do łamania prawa: - dzięki technologii deepfake można podszyć się pod kogoś (co już było raportowane w użyciu do przestępstw), oszkalować kogoś; wyobraźcie sobie metodę na cyber wnuczka - wolność do wypowiedzi i informacji przykładowo w chat botach jest wątpliwa, jeśli są albo od startu cenzurowane (np. model chiński), poddany naciskom ideologicznym (propaganda LGBT), czy wreszcie problem, który wskazał bodaj w tamtym roku polski naukowiec (nazwiska na ten moment nie pomnę), że AI uczy się w kolejnych cyklach także na swoich niedoskonałych wytworach, a takie sprzężenie nie zakończy się dobrze - prawa własności intelektualnej to raczej są z miejsca łamane, bo na czymś AI musi się uczyć, a potem często są stosowane do wytworzenia czegoś „w stylu”. Ja nadal pamiętam sprawę jak ACTA rozważano, że pocztówka z układem graficznym z brytyjskim charakterystycznym autobusem wyklucza inne podobne. Tu dorzućmy problem powiązany, że po prostu zgłupieje nam młode pokolenie do szczętu, bezkrytycznie używając tych narzędzi do pisania i rozwiązywania swoich prac. Widzę to już na niskim szczeblu, kiedy uczeń w szkole ma otwarty dostęp do kalkulatora w porównaniu z takim co musi liczyć ręcznie słupki; kalkulatorowy wypada słabiej. Albo AI generowane książki, będące stekiem bzdur lub plagiatami. wprowadzenie do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII), a tym samym umożliwić stosowanie Rozporządzenia 2024/1689 w Polsce. Kompleksowa regulacja systemów sztucznej inteligencji na poziomie UE i krajowym zdaniem projektodawcy zapewnia właściwy poziom bezpieczeństwa dla obywateli i obywatelek. Strona | 5 - prawa pracownicze: już był protest scenarzystów w Ameryce; artyści różnej maści chyba też będą niepotrzebni, ale w zasadzie można zastąpić każdego, którego pracę da się zautomatyzować. W zasadzie przy faktycznym postępie SI jak wieszczą to jej zwolennicy i jak poluźnić kryteria bezpieczeństwa to zagrożeni są wszyscy, oczywiście poniżej zarządu. - już obecnie jesteśmy napastowani botami dzwoniącymi z różnymi dziwnymi ofertami Wiele problemów jeszcze nie jesteśmy nawet sobie wyobrazić. Nie mniej jak ja widzę kto najgłośniej krzyczy za SI, to będą to mega przedsiębiorcy, chcący maksymalizować zyski oraz techno fetyszyści, np. transhumaniści, gdzie odchyłka jest bardziej ideologiczna niż przyziemna, można powiedzieć wręcz nowa religia. Obie kategorie raczej wrogie ludzkości. Tak więc lipne jest to „zorientowanie na człowieka”, bo faktycznie wychodzi albo na zysk, albo na bycie cyber czymś, co już człowiekiem przestaje być. 5. Widzieliście Państwo z jeden film z serii Terminator? Skynet może być czymś z filmu, albo czymś realnym, ta ustawa powinna chyba zakładać to drugie i zabezpieczać. Ale jesteśmy faktycznie u progu, popatrzeć wystarczy na roboty DARPA. Można się śmiać, ale w ramach eksperymentu myślowego wyobraźcie sobie chaos powstały w wyniku zawirusowanych czy zhakowanych autonomicznych pojazdów elektrycznych, których baterie wybuchają. To teraz jak to było? Najpierw Komisja się zbiera, żeby zbadać? Ostrzeżenie? 14 dni na wycofanie z rynku? Chcecie cyberpunku? Proszę bardzo. Ja bym oczekiwał ekipy zdolnej (kolokwialnie mówiąc) do wjazdu na firmę, zabezpieczenia serwerów, potencjalnie przy współpracy z wojskiem, policją itp. Ekipy mającej ludzi zdolnej do faktycznego zbadania czy dany system SI jest np. łatwo hakowalny. Zapis, że Przewodniczący może być prawnikiem zamiast wymagania zorientowania w branży z pozycji inżyniera sugeruje, że Komisja będzie po prostu do popychania papieru, tyle że przynajmniej elektronicznego. Podsumowując: jestem przeciw SI w modelu „do wszystkiego”. Popieram systemy eksperckie, czyli prostsze, uczące się na hermetycznym wyspecjalizowanym wycinku danych np. system medyczny wykrywania raka. Nawet wtedy potrzebny byłby człowiek, jeśli nie doktor, to decyzja powinna być pacjenta. To po prostu mają być narzędzia, nie zastępniki ludzi. Podejrzewam, że boom SI to kolejna bańka technologiczna. Samouczące się w negatywnym sprzężeniu SI w okowach cenzury i ideologii, nie mają szans na nie bycie jakimś schizofrenicznym potworkiem. Trzeba tylko będzie przetrwać eksplozję tej bańki. Na pewno chciałbym likwidacji tej pobłażliwości, narusza to zasadę zaufania do państwa patrząc od strony osoby wystawionej na bycie świnką morską przy np. eksperymentach z pojazdami autonomicznymi na drodze. Też równość wobec prawa jest wątpliwa przy Strona | 6 takich przywilejach. Mogę podejrzewać tylko silne zlobbowanie przez grupy najbardziej zainteresowane i faktycznie trzymające rękę na pulsie konsultacji społecznych. 5. PIIT Uwagi ogólne PIIT podtrzymuje postulat dobrej regulacji, która będzie wspierać rozwój branży sztucznej inteligencji oraz chronić interesy użytkowników. Unijne rozporządzenie o sztucznej inteligencji wyznacza wystarczające, choć zdaniem niektórych ekspertów nadmierne i zagrażające innowacyjności, ramy. 1) W opinii PIIT oznacza to przede wszystkim stworzenie niezależnego organu, który będzie dysponował wystarczającymi kompetencjami merytorycznymi w odniesieniu do technologii sztucznej inteligencji oraz jej zastosowań. 2) Ponadto, działania kontrolne powinny koncentrować się na systemach wysokiego ryzyka oraz systemach zakazanych. W pozostałym zakresie uwzględnienie oceny naruszeń praw użytkowników oraz ew. naruszeń przepisów AI z tym związanych powinna być dokonywana przez istniejące organy właściwe dla regulacji i/lub ochrony interesów użytkowników, jak np. UKE. W szczególności dotyczy to, na razie zaskakująco krótkiej, listy organów notyfikowanych przez polski rząd na podstawie art. 77 rozporządzenia U 2024/1689.Sprawność i niezależność takiego organu nie jest pochodną rodzajowej listy przedstawicieli innych, niezależnych od niego instytucji wchodzących w jego skład, szczególnie że kryteria tej listy nie są znane. Wynika ona z prostych, przejrzystych procesów i kryteriów podejmowania decyzji oraz merytorycznych kompetencji realizujących je przedstawicieli organu. 3) Koncepcja, aby KRIBSI posiadała skład mieszany, złożony częściowo z pełnoetatowych i wynagradzanych członków a częściowo z członków oddelegowanych przez inne organy i nie pobierających osobnego wynagrodzenia za pracę w Komisji nie wydaje się funkcjonalna. Trudno wyobrazić sobie niezależność działania członków “dochodzących” od swoich resortów macierzystych. Trudno też oczekiwać od nich zaangażowania niezbędnego choćby do nadążania za rozwojem technologii i trendów sztucznej inteligencji a co dopiero pracy niezbędnej do rozstrzygania precedensowych problemów i wyzwań w tym obszarze. W praktyce pełnić będą oni, względem Przewodniczącego i jego zastępców, w najlepszym razie rolę doradczo- konsultacyjną. Równocześnie dochodzić będzie do rozmycia odpowiedzialności oraz mniejsza może okazać się transparentność pracy Komisji. 4) PIIT sugeruje rozważenie powołania zawodowego organu, t.j. złożonego z pracowników Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej KRiBSI), z zachowaniem przez organy ew. wskazane w ustawie prawa do wskazania kandydata. Zapewni to różnorodność kompetencji, a jednocześnie pozwala na unikanie potencjalnego konfliktu interesów. Oprócz Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji. W zakresie niezależności organu projektodawca kierował się argumentami wynikającymi z wynikającej z ustawowych właściwości instytucji kompetencji eksperckich, jak również systemowego umocowania tych podmiotów. W wyniku analizy uwag w procesie konsultacji publicznych obecna wersja projektu zakłada udział w składzie Komisji jedynie organów o podwyższonym poziomie niezależności od administracji rządowej. W odniesieniu do sposobu organizacji pracy Komisji projekt zakłada konieczność Strona | 7 osób zaproponowanych przez organy administracji rządowej, do KRiBSI powinny być powołane osoby wskazane przez organizacje przedsiębiorców i świat nauki i organizacje pozarządowe. 5) W ocenie PIIT po przyjęciu ustawy w proponowanym kształcie w ustroju organizacyjnym państwa nie pojawi się organ umożliwiający szeroki dialog społeczny oraz zrównoważony rozwój AI w Polsce. Tej roli nie spełni Społeczna Rada do spraw Sztucznej Inteligencji. Ustawa stanowi ważne narzędzie realizacji Strategii Cyfryzacji Polski, należy zatem w opinii rozstrzygnąć o stosownym umiejscowieniu tego organu (przy ministrze cyfryzacji czy przy przewodniczącym Komisji), zwiększeniu tego reprezentatywności, oraz zakresie kompetencji zapewniającym realny wpływ na realizację polityki regulacyjnej sprzyjającej innowacjom AI. Niejasny będzie też charakter Społecznej Rady i jej stanowisk. Zwracamy uwagę, że do dziś nie została powołana analogiczna Rada przewidziana ustawą o ochronie danych osobowych. PUODO (bez względu na to, kto pełni aktualnie funkcję Prezesa), zdaje się upatrywać w stanowiskach “swojej” Rady ryzyka ograniczenia jego niezależności i utrudnienia swobody podejmowania decyzji i działań. Można się spodziewać, że KRIBSI będzie napotykać na te same trudności względem “swojej” Społecznej Rady. 6) PIIT z zadowoleniem odnotował utrzymanie instytucji “opinii indywidualnych”, z jednoczesnym dostosowaniem jej do wymogów unijnego prawa. 7) Z zaniepokojeniem odnotowujemy utrzymywanie podejścia polegającego na kreowaniu w tej (oraz innych ustawach wdrażających do polskiego prawa przepisy prawa Unii) odrębnych procedur, że szczególnymi terminami, środkami odwoławczymi, itp. zamiast dążenia do utrzymaniu spójnego postępowania administracyjnego w ramach państwa. Wielość rozwiązań w tym obszarze nie tylko jest obciążeniem dla administracji i osób prywatnych, ale przyczynia się do braku pewności prawa. Zwłaszcza, gdy AI stanie się technologią powszechnie wykorzystywaną w najróżniejszych dziedzinach generując wątpliwości co do wyboru właściwej ścieżki postępowania. Jak wielokrotnie postulowaliśmy wcześniej, punktem wyjścia dla właściwego ukształtowania tej sfery w ustawie powinny być zapisy KPA kolegialności prac przy jednoczesnym wspieraniu działań administracyjnych i technicznych przez pracowników Biura Komisji. 6. PTI Uwagi ogólne 1. Uwaga ogólna_1: Projekt ustawy zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której członkami byliby przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji. Tymczasem wśród proponowanych członków Komisji nie ma przedstawicieli Ministerstwa Rozwoju i Technologii, czy też Ministerstwa Nauki i Szkolnictwa Wyższego. Uwaga wyjaśniona 1.Projektodawca nie przewiduje przedstawicieli Ministerstw w składzie Strona | 8 Nie ma ich również wśród uczestników w posiedzeniach Komisji bez prawa głosu. Prosimy o rozważenie dodatkowych instytucji, których przedstawiciele wchodziliby w skład instytucji nadzorczych. 2. Uwaga ogólna_2: Zdziwienie budzi też zaliczenie do tego gremium przedstawicieli niektórych instytucji. Jak zostało uzasadnione uznanie np. Rzecznika Praw Dziecka lub Krajowej Rady Radiofonii i Telewizji za instytucje kluczowe dla rozwoju AI? Prosimy o rozważenie włączenia przedstawicieli tych instytucji, które naprawdę będą kołem zamachowym dla rozwoju systemów SI (LLM). 3. Uwaga ogólna_3: Skład Komisji vs. Społeczna Rada ds. Sztucznej Inteligencji a. Komisja ma się składać w większości z urzędników instytucji centralnych, z których pewnie niewielu jest „specjalistami w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji”. b. Merytoryczne zaplecze Komisji ma stanowić Społeczna Rada do spraw Sztucznej Inteligencji, której opinie i stanowiska nie są jednak wiążące dla Komisji. Ponieważ zapotrzebowanie na wysokiej klasy specjalistów AI zacznie przekracza ich dostępną liczbę należy się spodziewać trudności w skompletowaniu składu Rady, jako że za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie. Grozi to również powołaniem do Rady mało kompetentnych osób, które mają dużo wolnego czasu i są zainteresowane kolejnym wpisem do CV. c. Zarobki dobrego specjalisty AI są teraz mniej więcej na poziomie 7 według hierarchii wynagrodzeń korporacyjnych działów HR (human resources). To oznacza płacowe widełki od miliona dolarów do dwóch rocznie, uwzględniając w tym standardowe apanaże typu stock options (możliwość zakupu akcji firmy po atrakcyjnej cenie), firmowy samochód i opiekę medyczną oraz apanaże ponadstandardowe. d. Ze społecznym charakterem Rady kontrastują stosunkowo wysokie wynagrodzenia i nagrody członków Komisji (zwłaszcza Przewodniczącego i Zastępców). W świetle powyższych obserwacji, proponujemy rozważenie odwrócenia składu Komisji i przesunięcie – w miarę możliwości – osób kompetentnych do Komisji, a nie pozostawienie ich w społecznej Radzie, co pozwoli także na wynagradzanie ludzi kompetentnych w zakresie działania organów nadzorujących dziedzinę wiedzy. Urzędnicy instytucji centralnych mogliby się znaleźć w organie o charakterze koordynującym. Uwaga ogólna_4: Sztuczna Inteligencja jest już na takim poziomie rozwojowym, że ukształtowały się jej podobszary wymagające odmiennych specjalizacji. W KRiBSI, celem zapewnienia stosownej niezależności organu. 2.Na skutek zgłoszonych uwag przez ten organ Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie. Krajowa Rady Radiofonii i Telewizji jest postrzegana jako organ kluczowy dla rozwoju AI w szczególności w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo. 3.Za obsługę KRiBSI odpowiedzialne będzie Biuro Komisji stanowiące właściwe zaplecze kadrowe do realizacji zadań Komisji. Górny limit jest konieczny dla sprawności Strona | 9 związku z tym należałoby rozważyć podniesienie górnego limitu odnoszącego się do składu Rady. funkcjonowania Społecznej Rady. 7. IWP Uwaga ogólna Na poziomie UE trwają intensywne prace związane z praktycznym wdrożeniem Aktu ws. Sztucznej inteligencji – rozporządzeniem, które – choć stosuje się bezpośrednio (nie wymaga implementacji) – potrzebuje dookreślenia wymogów związanych z transparentnością. Na ostatnim etapie formułowania znajdują się obecnie zakresy „Kodeksu praktyk dla systemów sztucznej inteligencji ogólnego przeznaczenia”. Prace skupiają się na zredagowaniu środków, jakie w zakresie zgodności z prawem autorskim mają podejmować dostawcy systemów AI, jak i przyszłego szablonu przejrzystości (jakie informacje mają dostawcy systemów AI prezentować przy swoich usługach). W związku z faktem, iż wymogi przejrzystości zredagowane w drugim już projekcie kodeksu praktycznie nie uwzględniają zgłaszanych jeszcze w zeszłym roku uwag posiadaczy praw, w tym wydawców prasy, europejskie organizacje wydawców i nadawców wystosowały wczoraj list otwarty do wiceprzewodniczącej KE – Henny Virkkunen, zwracając uwagę na konieczność wprowadzenia poprawek, tak by przyszły Kodeks zawierał skuteczne rozwiązania i realizował cel zarówno AI A Uwaga wyjaśniona Uwaga poza zakresem projektu ustawy. 8. IWP Repropol Uwaga ogólna Ponownie sygnalizujemy w ramach ogólnych uwag ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku nie wydaje się dostatecznie zabezpieczać potrzeby nowego urzędu oraz jego kadry, o czym przecież wyraźnie stanowi art. 70 ust. 3 AIA (dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”). Z dokumentu OSR wynika, iż średnie miesięczne wynagrodzenie brutto pracowników przewiduje się na poziomie 15 tys. zł. Nie wydaje się, aby było ono konkurencyjne, zwłaszcza w perspektywie kolejnych lat. Konsekwentnie podkreślamy finansowy aspekt funkcjonowania urzędu, ponieważ chcielibyśmy, aby poczynione założenia stworzenie prawdziwie profesjonalnego urzędu wytrzymywały konfrontację z rzeczywistością. Uwaga wyjaśniona Zdaniem projektodawcy zaproponowane finansowanie jest wystarczające. Jeśli (trudny do oszacowania) rozwój sektora AI w najbliższych latach i korespondująca z nim duża liczba spraw będących przedmiotem prac Komisji uzasadni zwiększenie poziomu finansowania, projektodawca uzna za zasadne rozważenie nowelizacji prawa. Dodatkowo należy nadmienić, że finansowanie rozwoju badań i wdrożeń AI Strona | 10 odbywa się za pomocą innych, niezależnych od zakresu regulowanego przez projekt mechanizmów finansowych będących w gestii m.in. Narodowego Centrum Badań i Rozwoju, Ministerstwa Funduszy i Polityki Regionalnej czy Ministerstwa Rozwoju i Technologii. 9. IWP Repropol Uwaga ogólna Art. 4 AIA Ponownie podnosimy potrzebę wyartykułowania w UoSSI obowiązku permanentnego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Choć zaniechanie realizowania tego obowiązku nie stanowi samodzielnego naruszenia, które może być przedmiotem postępowania, dopełnienie obowiązku zapewnienia należytego kształcenia jest brane pod uwagę w procesie kompleksowej oceny zgodności z AIA. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias), czy ryzyka naruszeń cudzych praw w postaci dóbr osobistych czy prawa autorskiego. Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Uwaga wyjaśniona Obowiązki dotyczące zapewnienia odpowiedniego poziomu kompetencji wynikają wprost z art. 4 rozporządzenia 2024/1689. 10. SFP-ZAPA Uwaga ogólna Brak uregulowania Jak wskazywaliśmy już podczas pierwszej tury konsultacji Projektu – i nie uległo to zmianie – ustawa ma mieć zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem wbrew tytułowi projektowanej ustawy jej zakres został zawężony jedynie do regulacji kwestii instytucjonalnych, proceduralnych i nadzorczych. Nie zostały w niej uregulowane inne aspekty związane z funkcjonowaniem sztucznej inteligencji, w tym odnoszące się do ochrony praw autorskich lub praw pokrewnych. Rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, jednakże w motywie 105 jednoznacznie przesądza, że każde wykorzystanie treści chronionych Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. Dotyczą one kwestii związanych z prawami autorskimi wykraczającymi poza Strona | 11 prawem autorskim wymaga zezwolenia danego podmiotu praw, chyba że zastosowanie mają odpowiednie wyjątki i ograniczenia dotyczące praw autorskich. Obecne regulacje prawa autorskiego wymagają w związku z tym rozwinięcia i doprecyzowania w prawie krajowym w kontekście korzystania z twórczości na potrzeby sztucznej inteligencji. Rozwiązanie przewidziane w ustawie o prawie autorskim i prawach pokrewnych dotyczące wyjątku na potrzeby eksploracji tekstów i danych (z ang. TDM – text and data mining) przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”) jest bowiem bezsprzecznie niewystarczające. Nic nie stoi na natomiast przeszkodzie, aby kwestie korzystania z utworów na potrzeby sztucznej inteligencji uregulować w prawie krajowym. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Jak była o tym mowa wcześniej, Akt o AI w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Pomimo tego architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw. Często nadużywając wyjątku przewidzianego w art. 4 dyrektywy DSM, bądź kwestionując dokonane w oparciu o ten przepis zastrzeżenie z uwagi na to, że nie zostało sformułowane w tym przepisie w sposób wystarczająco precyzyjny. Kwestionowane są granice samego wyjątku, jak i praktyczne sposoby jego realizacji. Dochodzi tym samym do jego nadinterpretacji poprzez uznanie, że może stanowić generalną podstawę do szkolenia modeli sztucznej inteligencji (każdego jej rodzaju). Stąd też potrzeba przesądzenia, że wyjątek dotyczący TDM ten nie może być stosowany na potrzeby trenowania sztucznej inteligencji, a zwłaszcza jej generatywnej postaci, jest niewątpliwa i konieczna. W związku z powyższym, z żalem odnotowujemy, że Projekt nadal nie przewiduje żadnych rozwiązań w opisanym powyżej zakresie. Nie docierają do nas także żadne informacje mogące świadczyć o tym, że w najbliższym czasie zostanie podjęta inicjatywa ustawodawcza, która miałaby regulować kwestie związane z ochroną praw autorskich i sztuczną inteligencją. Dzieje się to ze szkodą dla sektora kreatywnego, w tym audiowizualnego, którego członków przedmiotowa regulacja ma w swym założeniu dotyczyć. W naszym przekonaniu brak zapewnienia ochrony praw autorskich i praw pokrewnych w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele Aktu o AI w postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed ramy rozporządzenia 2024/1689. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W kwestii znakowania wytworów systemów sztucznej inteligencji przepisy w tym zakresie przewiduje samo rozporządzenie 2024/1689. Strona | 12 szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy niewątpliwie do czynienia każdego dnia. Wobec tego podtrzymujemy wszystkie postulaty zgłoszone w toku pierwszej tury konsultacji Projektu, tj. w piśmie z dnia 13 listopada 2024 r., związane z koniecznością uzupełnienia obecnie obowiązujących regulacji prawnoautorskich, które odnosiłyby się do przede wszystkim do: 1. znakowania utworów wykorzystywanych na potrzeby sztucznej inteligencji, 2. znakowania wytworów wygenerowanych przez sztuczną inteligencję, 3. realizacji prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM przewiduje możliwość jego wykorzystania na potrzeby sztucznej inteligencji, w tym poprzez organizacje zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 4. uzyskiwania zgód podmiotów uprawnionych na korzystanie z utworów na potrzeby sztucznej inteligencji, w tym przy pośrednictwie organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 5. wynagrodzenia za korzystanie z utworów na potrzeby sztucznej inteligencji, 6. obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskim na potrzeby sztucznej inteligencji, 7. reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. 11. Stowarzyszan ie Autorów ZAiKS Uwaga ogólna Działając w imieniu najstarszej i największej organizacji zbiorowego zarządzania prawami autorskimi w Polsce z niepokojem zaobserwowaliśmy negatywne zmiany, jakie wprowadza Projekt w stosunku do treści ustawy o systemach sztucznej inteligencji, przewidzianej w projekcie z 15 października 2024 r. Konsultowany Projekt ma służyć stworzeniu skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, a tymczasem nie uwzględnia reprezentacji w tym systemie interesów podmiotów, którym służą prawa autorskie i prawa pokrewne do treści, które służą do rozwijania i trenowania sztucznej inteligencji. Przepisy AI Act regulują bezpośrednio działanie na rynku europejskim tzw. modeli AI ogólnego przeznaczenia (dalej też jako „Gen AI”), które ingerują w rynek treści kreatywnych. Z tego powodu zwracamy uwagę na konieczność wprowadzenia w Projekcie zmian, odzwierciedlających wpływ działalności systemów sztucznej inteligencji na te sektory. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. 12. ZPWC Uwaga ogólna Art. 4 AIA Odnotowaliśmy brak w Projekcie wyraźnego wskazania obowiązku ustawicznego podnoszenia kompetencji w zakresie AI, o czym stanowi art. 4 AIA. Również ten przepis Uwaga wyjaśniona Strona | 13 podlega stosowaniu już od 2 sierpnia 2025 r. Choć bywa on często bagatelizowany – przede wszystkim z uwagi na brak wyraźnej sankcji za jego nieprzestrzeganie – jego dopełnienie będzie z pewnością rzutować na ocenę zachowania podmiotów dostarczających i stosujących systemy AI przy ewentualnym decydowaniu o nałożeniu kary. Niezależnie od tego, krytycznie istotne jest uświadamianie społeczeństwa o korzyściach i zagrożeniach związanych z AI. W ramach zagrożeń i ryzyk mieści się poszanowanie cudzej własności intelektualnej, które jest zagadnieniem szczególnie ważkim dla ZPWC. Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 13. ZWIĄZEK TELEWIZJI KABLOWYC H W POLSCE IZBA GOSPODAR CZA Uwaga ogólna Generalna uwaga pod adresem omawianego projektu, jest zbieżna z uwagą jaką poprzednio zgłaszaliśmy pod adresem projektu nr 1 do ustawy o systemach sztucznej inteligencji, a mianowicie zasadza się w zarzucie wyjątkowego niechlujstwa z Państwa strony przy opracowywaniu obu projektów tej samej ustawy, co przejawia się w występowaniu wielu błędów językowych, powtarzaniem wyrazów lub całych fraz, opuszczaniu liter, czy też stosowanie niewłaściwej formy czasownikowej w stosunku do zastosowanego rodzaju rzeczownika (męskiego, żeńskiego lub nijakiego). Projekt ustawy o systemach sztucznej inteligencji ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828(akt w sprawie sztucznej inteligencji)( Dz. U. UE.L.2024.1689 z późn. zm.), zwanego dalej Aktem o sztucznej inteligencji lub Aktem o AI [ust. 1 zd. 1 Oceny Skutków regulacji, zwanej dalej OSR, ust. 1 zd. 1 uzasadnienia projektu ustawy o AI, zwanego dalej uzasadnieniem lub uzasadnieniem projektu]. Oznacza to, że zapisy przepisów prawa krajowego nie mogą w żadnym razie pozostawać w sprzeczności z przepisami Aktu o sztucznej inteligencji będącego przecież rozporządzeniem, gdyż rozporządzenie to ma zasięg ogólny, wiąże w całości i jest bezpośrednio stosowane we wszystkich krajach członkowskich [art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej z dnia 25.03.1957 r. (Dz. U. z 2024 r. nr 90 poz. 864/2 z późn. zm.), zwanego dalej Traktatem o funkcjonowaniu Unii Europejskiej]. Skoro zatem wolą prawodawcy unijnego wiążącą dla polskiego projektodawcy krajowy organ nadzoru nad rynkiem sztucznej inteligencji winien wykonywać swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm jego działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia(art. Uwagi częściowo uwzględnione Uwaga uwzględniona w zakresie gwarancji niezależności organu (skład Komisji, sposób powołania Przewodniczącego i jego Zastępców i in). Sposób wyboru członków Komisji nie uległ zmianie, nie budzi on bowiem zastrzeżeń od strony prawnej. Natomiast zmianie sam skład Komisji (zmiana podmiotów wskazujących przedstawicieli). W zakresie obecności w składzie Komisji przedstawiciela Rzecznika Praw Dziecka, należy wskazać że na skutek zgłoszonych uwag organ ten został Strona | 14 70 ust. 1 Aktu o sztucznej inteligencji), to doprawdy trudno zgodzić się z zapatrywaniami projektodawcy, wedle których tę niezależność, bezstronność i obiektywizm działania organu nadzoru nad rynkiem sztucznej inteligencji gwarantować by miał stricte urzędniczy skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej Komisją, proponowany w art. 6 ust. 2 projektu w odniesieniu do członków Komisji nie będących Przewodniczącym lub jednym z dwóch Zastępców Przewodniczącego. Niezależności, bezstronności i obiektywizmu w działaniu członków Komisji nie będących Przewodniczącym oraz dwoma Zastępcami Przewodniczącego nie gwarantuje delegowanie do prac w Komisji swoich pracowników będących urzędnikami przez siedmiu regulatorów wskazanych w art. 6 ust. 2 projektu, co zdaniem projektodawcy ma zagwarantować współpracę między regulatorami (strona 8 uzasadnienia projektu), świadczyć o tym, że do Komisji powołano przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), wyspecjalizowanych w różnych obszarach, w tym organów nadzoru (strona 9 uzasadnienia projektu). O braku niezależności, bezstronności i obiektywizmu w działaniu członków Komisji wywodzących się spośród siedmiu regulatorów z pewnością nie będzie przesądzać wzgląd na to, że przedstawiciele tych siedmiu regulatorów nie będą należeli do korpusu służby cywilnej, zaś do Urzędu Komisji jako organu nie znajdą zastosowania przepisy ustawy z dnia 16.09.1982 r. o pracownikach urzędów państwowych (tekst jedn. Dz. U. z 2023 r. poz. 1917) [str 3-4 OSR projektu]. O ile bowiem nie budzi wątpliwości tryb powoływania Przewodniczącego Komisji przez Sejm za zgodą Senatu spośród osób spełniających wymogi zakreślone projektem ustawy o AI (art. 16 ust. 1 w zw. z art. 16 ust. 2 projektu ustawy o AI), podobnie jak i nie budzi wątpliwości tryb powoływania Zastępców Przewodniczącego Komisji co prawda przez Przewodniczącego Komisji, wyłanianych po przeprowadzeniu wstępnej selekcji przez komisję konkursową spośród kandydatów spełniających te same wymogi, które ustawa stawia osobie Przewodniczącego Komisji (18 ust. 1 w zw. z art. 18 ust. 2 projektu ustawy o AI), to już tryb powołania przez siedmiu regulatorów swoich podwładnych z urzędu świadczyć może o niedopuszczalnym ich powołaniu w świetle regulacji art. 70 ust. 1 Aktu o sztucznej inteligencji, gdyż powołanie w skład Komisji urzędników podlegających regulatorom z całą pewnością nie gwarantuje ich bezstronności, niezależności i obiektywizmu w trakcie wykonywania przez nich działań, kompetencji i uprawnień w ramach pracy Komisji. Skład zatem członków Komisji niebędących jej Przewodniczącym lub dwoma Zastępcami Przewodniczącego zaproponowany w art. 6 ust. 2 projektu ustawy o AI nie jest możliwy do pogodzenia z regulacją art. 70 ust. 1 Aktu o sztucznej inteligencji, co świadczy o niedopuszczalnej sprzeczności regulacji art. 6 ust. 2 projektu ustawy o AI z wykreślony ze składu Komisji. Będzie on jednak organem uprawnionym do zgłaszania członków do Społecznej Rady ds. Sztucznej Inteligencji. Ponadto rzecznik Praw dziecka jak i inne wskazane w uwadze organy będą mogły brać udział w pracach Komisji na zasadach przewidzianych w rat. 6 ust. 3. W zakresie wymogu odpowiednich kompetencji członków Komisji, projektodawca kierował się założeniem zapewnienia przez instytucje wskazujące przedstawicieli do udział w pracach Komisji odpowiedniego poziomu kompetencji tych osób. Odstąpiono zatem od podejścia opartego na koniecznością udokumentowania kompetencji w przypadku członków Komisji. W zakresie wymogu posiadania Strona | 15 normą najwyższego prawa wspólnotowego, czyli art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej. Nie może też umknąć uwadze, że proponowany w art. 6 ust. 2 projektu ustawy o AI skład członków Komisji jest niezwykle dowolny albowiem w sytuacji, gdy projektodawca twierdzi, że członkowie Komisji wskazani w tym przepisie są przedstawicielami organów kluczowych dla osiągniecia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), to zasadnie można zapytać, skąd zatem w tym składzie przedstawiciel Rzecznika Praw Dziecka, przy jednoczesnym braku przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, Rzecznika Praw Obywatelskich, Rzecznika Praw Pacjenta, Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Patentowego RP, których rola w nadzorze nad rozwojem i działaniem systemów AI wydaje się być o wiele bardziej kluczowa niż rola Rzecznika Praw Dziecka. Mając z kolei na uwadze, że wolą prawodawcy unijnego „Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych.”(art. 70 ust. 3 Aktu o sztucznej inteligencji) zastanawiać musi dlaczego jedynie Przewodniczący Komisji oraz jego dwaj Zastępcy muszą wyróżniać się wiedzą oraz posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji, jak również doświadczeniem zawodowymi uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, posiadać co najmniej wyższe wykształcenie i tytuł zawodowy magistra, magistra inżyniera lub równorzędny, a także co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji (art. 16 ust. 2 pkt. 4, pkt. 3, pkt 5 projektu ustawy o AI, art. 16 ust. 2 pkt. 4, pkt. 3, pkt. 5 w zw. z art. 18 ust. 2 projektu ustawy o AI), tymczasem tego rodzaju wymogów nie postawiono pozostałym członkom Komisji. Brak postawienia tego rodzaju wymogów kompetencyjnych pozostałym członkom Komisji stanowi ewidentną obrazę regulacji art. 70 ust. 3 Aktu o sztucznej inteligencji w zw. z art. 288 zd. 2 i zd. 3 traktatu o funkcjonowaniu Unii Europejskiej). Dziwić także musi, że projektodawca w odniesieniu do pozostałych członków Komisji odstępuje od wymogu posiadania obywatelstwa polskiego, korzystanie z pełni praw publicznych, braku skazania prawomocnym wyrokiem za przestępstwo umyślne lub umyślne przestępstwa skarbowe, posiadania nieposzlakowanej opinii oraz dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 16 ust. 2 pkt. 1, pkt. 2, pkt. 6, pkt. 7 projektu ustawy o AI), co może doprowadzić do sytuacji, że w tak ważnej obywatelstwa polskiego należy wskazać, że w tym zakresie obowiązują przepisy dotyczące poszczególnych urzędów obsługujących wskazane w przepisie 6 ust. 2 podmioty. Dodatkowo w posiedzeniach Komisji, w razie potrzeby, mogą dodatkowo wziąć udział inne osoby, posiadające odpowiednie kompetencje, będące pracownikami tych instytucji. W kwestii nierównego traktowania kandydatów na Przewodniczącego oraz Zastępców Przewodniczącego w zakresie informacji dotyczących miejsca zamieszkania należy wyjaśnić, że różnica ta wynika z różnych trybów naboru. Dodatkowo należy wskazać, że przez miejsce zamieszkania rozumie się miejscowość. Celem przepisu art. 25 ust. 2 jest, aby do składu Strona | 16 strategicznie dla kraju dziedzinie w Komisji zasiądą przestępcy skazani prawomocnie za przestępstwa szpiegostwa, w tym szpiegostwa przemysłowego, sabotaż, próbę obalenia siłą władz naszego kraju, i co gorsza będą oni mogli będąc w większości w składzie Komisji przegłosować każdą decyzję (art. 7 ust. 2 projektu ustawy o AI). Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje zatem zastosowanie trybu i zasad powołania Zastępców Przewodniczącego Komisji także do powołania pozostałych siedmiu członków Komisji. Proponujemy zatem nadanie art. 6 ust. 2 projektu ustawy o AI nowego brzmienia „Do powołania siedmiu Członków Komisji znajduje zastosowanie regulacja art. 18 ustawy.”. Pojawia się także uzasadniona wątpliwość dotycząca nierównego traktowania Przewodniczącego Komisji oraz kandydatów na jego Zastępców. Mianowicie w razie powołania Przewodniczącego nigdzie nie jest publikowany jego adres zamieszkania, tymczasem w odniesieniu do kandydatów na Zastępcę Przewodniczącego, w ogłoszeniu o wyniku naboru podaje się adresy zamieszkania wyłonionych kandydatów na Zastępców Przewodniczącego (art. 18 ust. 13 pkt 3 in principio projektu ustawy o AI). Regulacja tego rodzaju jawi się o tyle niezrozumiałą w czasie szeroko zakrojonej polityki ochrony danych osobowych osób fizycznych. Proponujemy zatem nadanie nowego brzmienia art. 18 ust. 13 pkt. 3 projektu ustawy o AI „imiona, nazwiska wybranych kandydatów albo informację o niewyłonieniu kandydata”. W art. 12 ust. 3 pkt. 4 projektu ustawy o AI opuszczono literę „o” pomiędzy słowami „lub informację” i „jego unieważnieniu”, którą w tym miejscu rzeczonej regulacji należy wprowadzić. Projektodawcy należy zwrócić uwagę na oczywisty błąd prawny zawarty w art. 25 ust. 2 projektu ustawy o AI, albowiem do głosowania w konkretnej sprawie można stosować głosowanie zwykłą większością głosów rozumianą jako różnicę między glosami oddanymi za uchwałą i głosami oddanymi przeciwko uchwale pomijając głosy wstrzymujące się. Natomiast w przypadku wyborów przeprowadza się nie głosowanie, lecz wybory, a zatem nie głosuje się za kandydatem lub przeciwko kandydatowi, lecz jedynie oddaje się głosy za kandydatem (pytanie czy w trakcie choćby wyborów parlamentarnych głosując na jednego z kandydatów listy danej partii skreślamy wszystkich innych kandydatów tej partii oraz wszystkich kandydatów umieszczonych na innych listach wyborczych, - oczywiście że w taki sposób się nie głosuje). Rady weszły osoby, które uzyskają zwykłą większość głosów oddanych podczas głosowania w Komisji. W przypadku natomiast wygaśnięcia członkowska albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji, spośród pozostałych zgłoszonych kandydatów (art. 25 ust. 9). Celem przepisu art. 26 ust. 1 jest, aby Przewodniczący Rady i Zastępca Przewodniczącego Rady byli powoływani przez Komisję. Art. 26 ust. 4 nie wyłącza stosowania w zakresie zwolnienia z tajemnicy przepisów szczególnych w tym zakresie. W związku ze zmianą formy organizacji Biura art. 28 otrzymał nowe brzmienie, a wskazane Strona | 17 Przy dziesięcioosobowym składzie Komisji wybierającej członków Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, kandydat, który za wyborem uzyskał 2 głosy, jeden glos przeciw, a siedmiu członków Komisji wstrzymał się od głosu wejdzie do składu Rady, zaś kandydat, który uzyskał pięć głosów za wyborem przy pięciu glosach przeciwnych do Rady nie wejdzie, choć w normalnych wyborach by wszedł do składu Rady, skoro uzyskał o trzy głosy więcej za wyborem niż kandydat, który uzyskał za wyborem raptem dwa glosy. Co jeszcze dziwniejsze pierwotny skład członków Rady jest wybierany (art. 25 ust. 2 projektu ustawy o AI), natomiast w przypadku ustania przed upływem kadencji członkostwa w Radzie na wakujące miejsce Komisja nie dokonuje wyboru nowego członka, lecz nowego członka powołuje. Pytanie skąd się wzięło takie zróżnicowanie trybu włączenia danej osoby do składu Rady, czyli wybór przy ustalaniu pierwotnego składu Rady oraz powołanie w przypadku uzupełniania miejsca w Radzie do końca kadencji na wakujące miejsce. Celem zatem ujednolicenia proponowanych regulacji dotyczących trybu ustalania składu Rady, a także doprowadzenia proponowanych regulacji do zgodności z zasadami prawa proponujemy: a/ w art. 25 ust. 2 in fine projektu ustawy o AI skreślić treść w brzmieniu „zwykłą większością głosów”, b/ w art. 25 ust. 7 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. W regulacji art. 26 ust. 1 zd.1 in principio projektu ustawy o AI wątpliwości budzi przyjęcie trybu powołania przez Komisję Przewodniczącego Rady i jego Zastępca. Wydaje się, iż w rzeczywistości właściwym rozwiązaniem zgodnym z rzeczywistym stanem rzeczy byłoby wprowadzenie regulacji mocą, której Przewodniczący Rady i jego Zastępca są wybierani przez Komisję. Proponujemy zatem w art. 26 ust. 1 zd. 1 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. Regulacja art. 26 ust. 4 zd. 2 projektu ustawy o AI budzi o tyle wątpliwość, że sugeruje, iż Komisja w razie ziszczenia się przesłanek opisanych w tym przepisie zawsze będzie mogła zwolnić członka Komisji z zachowania tajemnicy, a przecież tak nie jest, gdyż w przypadku uzyskania dostępu[u do informacji niejawnych nie w każdym przypadku Komisja będzie uprawniona do zwolnienia z zachowania tajemnicy, gdyż odnośnie w tym zakresie uwagi stały się nieaktualne. Mając na uwadze przedmiot regulacji, jakim są systemy sztucznej inteligencji oraz dbając o sprawne przeprowadzenie kontroli i jak najmniejsze obciążenie przedsiębiorców zasadne jest pozostanie przy zasadzie prowadzenia czynności kontrolnych w sposób zdalny. Kontrole przedsiębiorców na bazie projektowanych przepisów będą prowadzone z poszanowaniem przepisów ustawy - Prawa przedsiębiorców. Wskazane obecnie w art. 30 ust. 3 pkt 1 oraz ust. 4 odesłania do przepisów ustawy - Prawo przedsiębiorców należy uznać za właściwe. Art. 46 ust. 1 (obecnie art. 38) został skorygowany. Art. 46 ust. 3 (obecnie art. 38 ust. 3) został skorygowany w zakresie Strona | 18 informacji niejawnych może okazać, że inny organ jest uprawniony do stosowania zwolnienia z zachowania tej tajemnicy niż Komisja. W tej zatem sytuacji reprezentowana przeze mnie Izba Gospodarcza proponuje na początku zdania 2 w art. 26 ust. 4 projektu ustawy o AI dodanie treści w brzmieniu „Z zastrzeżeniem regulacja szczególnych” pozostała część zdania 2 pozostawiając niezmienioną. Natomiast art. 28 projektu ustawy o AI budzi mnóstwo uzasadnionych wątpliwości podnoszonych już przez nas przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji. Art. 28 projektu ustawy o AI świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Pogląd ten znajduje pełne oparcie w regulacji art. 7 ust. 5 projektu ustawy o AI, wedle której Komisja wydaje decyzje i postanowienia w formie uchwał. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 k.p.a. w zw. z art. 104 § 1 k.p.a. w zw. z art. 104 § 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 § 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją (art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postępowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 28 ust. 1 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym uwzględnienia podpisu osobistego. Art. 47 ust. 2 pkt 1 i 2 (obecnie art. 38 ust. 2 pkt 1 i 2) został skorygowany w sposób wskazany w uwadze. Art. 52 ust. 3 został wykreślony. Art. 57 (obecnie art. 49) w zakresie ust. 5 ma na celu zapewnienie możliwości Komisji przedstawienia sądowi istotnego dla sprawy poglądu w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W szczególności w sprawach w sprawach sądowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji. Nie wydaje się jednak zasadne wyłącznie takiej możliwości również w sprawach, w których takie decyzje czy postanowienia Komisji byłyby przedmiotem Strona | 19 przypadku państwowego, obsługującego organ administracji publicznej (art. 28 ust. 2 projektu ustawy o AI). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji (art. 28 ust. 5 pkt. 1 projektu ustawy o AI), które z racji zapewniania obsługi Komisji (art. 28 ust. 1 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 pkt. 1 projektu ustawy o AI), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem (art. 28 ust. 5 pkt. 2 projektu ustawy o AI). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. z art. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał cywilnoprawne i administracyjne kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) i kierujący pracą Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego postępowania przed sądem, jeżeli przemawia za tym interes publiczny. Jednak tego typu sytuacje powinny mieć raczej charakter wyjątkowy. Ocena tego stanowiska w zakresie wiarygodności i przydatności dla sprawy będzie dokonywana przez SOKIK. Uwagi w zakresie korekt redakcyjnych zostały uwzględnione. Art. 103 (obecnie art. 91). Mając na uwadze przepisy rozporządzenia 2024 /1689 oraz cel jaki przyświeca nakładaniu administracyjny kar pieniężnych a także możliwość zawarcia układu w sprawie nadzwyczajnego złagodzenia sankcji zastosowanie wyłączenia przepisów k.p.a nie stanowi regulacji nadmiarowych i szkodliwych dla przedsiębiorców. Art. 479 88h § 2 k.p.c. został skorygowany zgodnie z treścią uwagi. Strona | 20 Komisji (art. 28 ust. 1projektu ustawy o AI) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż „autor” projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacji w stosunkach cywilnoprawnych osób prawnych przez ich organy, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety „autorowi” projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej (art. 5 ust. 1 projektu ustawy o AI) za błędne uznać należy przyznanie ministrowi właściwemu do spraw informatyzacji będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 28 ust. 1 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 28 ust.2 projektu ustawy o AI). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny jest minister właściwy do spraw informatyzacji (art. 17 pkt. 3 k.p.a. w zw. z art. 18 pkt. 1 k.p.a.) i to nad Komisją, Do projektu ustawy załączono nową wersję uzasadnienia. Do projektu ustawy załączono nową wersję OSR. W nowej wersji projektu ustawy uwzględniono uwagi w zakresie błędów wskazanych w uwagach. Jednocześnie należy zauważyć, że projekt pod względem redakcyjnym i legislacyjnym będzie jeszcze dopracowywany na etapie komisji prawniczej. Strona | 21 a nie jak błędnie przyjęto w art. 28 ust. 4 projektu ustawy o AI, nad Biurem Komisji, minister właściwy do spraw informatyzacji winien pełnić nadzór. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę, usuwając tym samym wiele nieprawidłowości, należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego, poprawnego brzmienia art. 28 projektu ustawy o AI: „1. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje minister właściwy do spraw informatyzacji. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6.Komisja posiada prawo używania pieczęci z godłem państwowym.”. W art. 37 ust. 4 in principio projektu ustawy o AI należy usunąć zbędnie użyte w pierwszym wersie powtórne sformułowanie „do spraw” przed słowem „określi”, a za słowem „informatyzacji”. Generalnie projektodawca w art. 38 ust. 3 in principio projektu ustawy o AI popełnia zasadniczy błąd przyjmując założenie, że przepisy ustawy o AI mogą wprowadzać odmienne regulacje dotyczące kontroli przedsiębiorcy niż przewidziane w rozdziale 5 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn. Dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców. Projektodawca bowiem pominął regulację art. 45 ust. 1 prawa przedsiębiorców, wedle której „Kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w niniejszej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej.”, natomiast jedynie w kwestiach nie objętych regulacją rozdziału 5 prawa przedsiębiorców dopuszczalne jest wprowadzenie regulacji Strona | 22 poświęconych kontroli przedsiębiorcy w przepisach szczególnych (art. 45 ust. 2 prawa przedsiębiorców). Odnośnie zatem kontroli przedsiębiorcy mocą regulacji art. 45 ust. 1 w zw. z art. 45 ust. 2 prawa przedsiębiorców wyłączone zostało stosowanie zasady lex specialis derogat legi generali. W przypadku zatem przeprowadzania kontroli przedsiębiorcy projektodawca może wprowadzać w projekcie ustawy o AI tylko takie regulacje, które nie zostały objęte zapisami rozdziału 5 prawa przedsiębiorców, natomiast odmienności dotyczące zasad i trybu kontroli przedsiębiorcy mogą wynikać jedynie z ratyfikowanych umów międzynarodowych, które obowiązują bezpośrednio w naszym kraju przed przepisami prawa krajowego (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 91 ust. 1 w zw. z art. 91 ust. 2 Konstytucji RP) albo z bezpośrednio stosowanych przepisów prawa Unii Europejskiej, czyli w omawianym przypadku z przepisów Aktu o sztucznej inteligencji będącego rozporządzeniem (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej w zw. z art. 91 ust. 3 Konstytucji RP). Ani w uzasadnieniu projektu ustawy o AI, ani też w OSR do projektu ustawy o AI nie wskazano na obowiązywanie ratyfikowanej umowy międzynarodowej lub bezpośrednio obowiązującego w naszym kraju przepisu prawa Unii Europejskiej, które by przewidywały odmienne zasady i tryb przeprowadzania kontroli przedsiębiorcy od uregulowanych w rozdziale 5 prawa przedsiębiorców, a to z tego powodu, iż takowych przepisów po prostu brak. Stosownych regulacji nie zawiera także Akt o sztucznej inteligencji, celem, którego wdrożenia opracowano przecież projekt ustawy o AI. W świetle regulacja art. 45 ust. 1 prawa przedsiębiorców nieuprawnione jest ani dopuszczenie możliwości wprowadzenia odmiennych zasad i trybu przeprowadzania kontroli przedsiębiorcy w ustawie o AI (art. 38 ust. 3 pkt. 1 projektu ustawy o AI), ani też chociażby wyłączenie stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców (art. 38 ust. 4 projektu ustawy o AI). Niedopuszczalność zatem wyłączenia w art. 38 ust. 4 projektu ustawy o AI stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców dopuszczające przeprowadzenie kontroli zdalnej lub niektórych czynności kontrolnych zdalnie jedynie za zgodą przedsiębiorcy jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej, skutkuje niedopuszczalnością wprowadzenia regulacji art. 39 ust. 3 projektu ustawy o AI, wedle której w przypadku kontroli przedsiębiorcy zasadniczym trybem kontroli lub poszczególnych czynności kontrolnych byłoby ich wykonywanie zdalnie oraz regulacji art. 39 ust. 4 projektu ustawy o AI, która jedynie jako wyjątek dopuszcza Strona | 23 przeprowadzenie kontroli lub czynności kontrolnych wobec przedsiębiorcy w sposób inny niż zdalny. Niedopuszczalne zatem w drodze projektu ustawy o AI było wprowadzenie jako zasady kontroli przedsiębiorcy lub czynności kontrolnych wobec przedsiębiorcy realizowanych w sposób zdalny, zaś jedynie jako wyjątek dopuszczenie odstępstwa od tej reguły. Należy wskazać, że już przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji na niedopuszczalność tego typu regulacji wskazał Państwu Rzecznik Małych i Średnich Przedsiębiorców w piśmie z dnia 12.11.2024 r. znak WPL.277.2024.GG, jak widać jednak Minister Cyfryzacji za nic miał uwagi Rzecznika Małych i Średnich Przedsiębiorców, które to uwagi znajdowały pełne oparcie w przepisach prawa, odmiennie niż projekt ustawy o AI w tym zakresie. Oczywiście regulacja przewidująca jako zasadę kontrolę lub czynności kontrolne realizowane zdalnie (art. 39 ust. 3 projektu ustawy o AI) oraz odstępstwo od tej zasady (art. 38 ust. 4 projektu ustawy o AI) będą zgodne z prawem pod warunkiem, jednakże wykonywania tej kontroli lub czynności kontrolnych wobec podmiotów nie będących przedsiębiorcami. W zaistniałej sytuacji Związek Telewizji kablowych w Polsce Izba Gospodarcza proponuje: w art. 38 projektu ustawy o AI skreślenie pkt. 1 w ust. 3 oraz skreślenie ust. 4. Przy tego rodzaju poprawieniu regulacji art. 38 projektu ustawy o AI w świetle regulacji art. 45 ust. 1 prawa przedsiębiorców w przypadku kontroli i czynności kontrolnych przeprowadzanych wobec osób nie będących przedsiębiorcami zasadą będzie wykonywanie kontroli lub czynności kontrolnych zdalnie (art. 39 ust. 3 projektu ustawy o AI) przy możliwym odstępstwie od tej zasady wyrażonym w art. 39 ust. 4 projektu ustawy o AI, natomiast przy wykonywaniu kontroli lub czynności kontrolnych przedsiębiorcy zastosowanie znajdzie norma art. 51 ust. 3 a prawa przedsiębiorców, a zatem zdalne wykonywanie kontroli lub czynności kontrolnych będzie uzależnione od zgody przedsiębiorcy i w tym przypadku normy art. 39 ust. 3 i ust. 4 projektu ustawy o AI zastosowania nie będą znajdowały. Absurdalną regulację odnajdujemy w art. 46 ust. 1 projektu ustawy o AI, wedle której projekt protokołu z kontroli sporządza kontrolowany. Regulacja ta jest trudna do wytłumaczenia, albowiem już w ust. 3 art. 46 projektu ustawy o AI przewidziano, że projekt protokołu opatruje podpisem kontrolujący i doręcza go kontrolowanemu. Jeśli tak to by znaczyło, że wolą projektodawcy projekt protokołu sporządza kontrolowany, następnie przekazuje go kontrolującemu, który projekt ten, bez Strona | 24 możliwości wprowadzenia zmian lub poprawek, opatruje podpisem, a następnie ponownie przekazuje go kontrolowanemu. W tej sytuacji zupełnie zbędne stałyby się regulacje art. 46 ust. 4- 7 projektu ustawy o AI dotyczące składania zastrzeżeń do projektu protokołu przez kontrolowanego, bo trudno przypuszczać, by kontrolujący sam sporządzając projekt protokołu i będąc osobą przy zdrowych zmysłach zawarł w nim jakieś ustalenia dla niego niekorzystne, odnośnie których następnie miałby zgłaszać zastrzeżenia. Procedura doprawdy absurdalna. Proponujemy zatem aby wyeliminować tę absurdalną regulację i z tego powodu w art. 46 ust. 1 projektu ustawy o AI słowo „kontrolowany” zastąpić słowem „kontrolujący”. Zdziwienie także musi budzić rozwiązanie wedle którego projekt protokołu kontrolujący może opatrzyć jedynie kwalifikowanym podpisem elektronicznym lub podpisem zaufanym (art. 46 ust. 3 projektu ustawy o AI), gdy tymczasem już sam protokół z kontroli kontrolujący może opatrzyć kwalifikowanym podpisem elektronicznym, podpisem zaufanym lub podpisem osobistym (art. 46 ust. 9 projektu ustawy o AI). Pojawia się zatem uzasadnione pytanie dlaczegóż to kontrolujący projektu protokołu kontroli nie może podpisać podpisem osobistym, gdy tymczasem sam protokół z kontroli może podpisać także tym podpisem. Racjonalności i logiki w tej regulacji dopatrzeć się nie sposób. Aby zaradzić tej niekonsekwencji projektu ustawy o AI proponujemy albo w art. 46 ust. 3 projektu ustawy o AI po słowach „kwalifikowanym podpisem elektronicznym”, a przed słowem „lub” dodać przecinek, a po nim treść „podpisem osobistym” lub też w art. 46 ust. 9 projektu ustawy o AI skreślić przecinek i następującą po nim treść „podpisem osobistym”. Raptem jeden artykuł dalej odnajdujemy kolejny „klejnocik koronny”, a mianowicie projektodawca nie wiadomo w jakim celu w art. 47 ust. 2 projektu ustawy o AI pomiędzy punktem 1 i punktem 2 wprowadza do niczego nie pasujący zwrot „nie i”, zaś w pkt. 2 tegoż przepisu zamiast pojęcia „usunięcia” mówi o „usunięciu”. Oczywistym wręcz jest, że w art. 47 ust. 2 projektu ustawy o AI należy zbędną treść” nie i” zastąpić średnikiem pomiędzy punktem 1 i punktem 2 tegoż przepisu, zaś w pkt. 2 niewłaściwe słowo „usuniecie” zastąpić jedynym właściwym w tym przypadku słowem „usunięcie”. Za sprzeczne z konstytucyjną zasadą sprawiedliwości społecznej (art. 2 w zw. z art. 8 Konstytucji RP) uznać należy obciążenie strony postepowania kosztami tłumaczenia dokumentacji sporządzonej w języku obcym, a przedłożonej przez stronę (art. 52 ust. 3 Strona | 25 zd. 2 projektu ustawy o AI), w sytuacji, gdy to organ prowadzący postępowanie potrzebuje przedmiotowych dokumentów, a nie sama strona postepowania. Proponujemy zatem w art. 52 ust. 3 zdanie 2 in fine projektu u stawy o AI słowa „na własny koszt” zastąpić słowami „na koszt organu prowadzącego postępowanie”. Analizując pełną treść art. 57 projektu ustawy o AI można dojść do przekonania, że całość tego przepisu dotyczy zaskarżania postanowień i decyzji wydanych przez Komisję do Sądu Okręgowego w Warszawie- Sąd Ochrony Konkurencji i Konsumentów. Skoro tak to za niedopuszczalną uznać by należało regulację art. 57 ust. 5 projektu ustawy o AI, z której wynika, że w sprawie, w której zaskarżono do Sądu Ochrony Konkurencji i Konsumentów decyzję lub postanowienie wydane przecież przez Komisję, Komisja poza wniesieniem odpowiedzi na pozew, odpowiedzi na apelację lub odpowiedzi na zażalenie, dodatkowo mogłaby przedstawić sądowi istotny dla sprawy pogląd dotyczący sztucznej inteligencji. Taki zapis prowadziłby do naruszenia zasady równowagi stron w cywilnym postepowaniu sądowym, albowiem Komisja niejako stawałyby się „sędzią” we własnej sprawie wyrażając istotny dla sprawy pogląd dotyczący sztucznej inteligencji w sprawie, w której zaskarżono wydaną przez Komisję decyzję lub postanowienie. W takiej sytuacji sąd sprawę rozpoznający musiałby traktować taki pogląd Komisji jako stanowisko „eksperta” z zakresu spraw sztucznej inteligencji, które to stanowisko raczej byłoby pozbawione obiektywizmu w sprawie, w której zaskarżono postanowienie lub decyzję wydaną przez Komisję będącą także podmiotem wyrażającym istotny pogląd w sprawie. Nie budzi natomiast wątpliwości, że w sprawach sadowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji regulacja ust. 5 posiada rację bytu i w tych sprawach niewątpliwie Komisja mogłaby wyrażać istotny dla sprawy pogląd. Aby zatem usunąć tę błędną regulację należałoby dodać w art. 57 projektu ustawy o AI ust. 6 w brzmieniu „Przepis ust. 5 nie znajduje zastosowania w sprawach, o których mowa w ust. 1-3.”. Kolejny „kwiatuszek” językowy odnajdujemy w art. 61 ust. 2 in principio projektu ustawy o AI, w której to regulacji projektodawca raczył pomylić przypadek, w których użyto rzeczownika „strona”. W regulacji tej winien znaleźć się rzeczownik „strona” użyty we właściwym przypadku, a zatem winien być użyty rzeczownik „Strona”, nie zaś, jak to błędnie uczyniono „Stroną”. Strona | 26 I kolejny błąd językowy pojawia się w art. 61 ust. 8 pkt. 1 projektu ustawy o AI, gdzie projektodawca wyszedł z założenia, że „strona postepowania zaprzestał”, a nie „zaprzestała” naruszania prawa, a póki co strona to rodzaj żeński, więc w czasie przeszłym formą właściwą od „zaprzestać” będzie „zaprzestała”, a nie „zaprzestał”. Zgodnie ze wskazanymi powyżej regułami językowymi należy dokonać poprawki regulacji art. 61 ust. 8 pkt. 1 projektu ustawy o AI. No i nastał czas na mój ulubiony przykład zawarty w art. 63 ust. 1 projektu ustawy o AI, wedle którego „strona postepowania przedstawia Komisji wszystkie znane mu okoliczności”. Strona postepowania jest rodzaju żeńskiego więc znane stronie okoliczności to okoliczności znane „jej” a nie „jemu”, czy jak oryginalnie pisze projektodawca „mu”. Nie budzi zatem wątpliwości co i jak winien poprawić projektodawca w art. 63 ust. 1 projektu ustawy o AI, by zapis ustawowy uczynić zgodnym z zasadami języka ojczystego. Niewiele dalej, bo raptem w ust. 3 zd. 2 tegoż samego art. 63 projektu ustawy o AI projektodawca ponownie myli rodzaj czasownika pochodzącego od rzeczownika rodzaju żeńskiego przyjmując, że „strona postępowania ...przedstawił Komisji”. Oczywistym wręcz jest, że w art. 63 ust. 3 projektu ustawy o AI wskazując na przedstawienie czegoś Komisji przez stronę postepowania, która jest przecież rodzaju żeńskiego winno być sformułowanie, że „strona postępowania... przedstawiła Komisji”, nie zaś, że „strona postępowania... przedstawił Komisji”. W art. 92 ust. 3 projektu ustawy o AI pomiędzy słowem „decyzję”, a słowem „wyłączeniu” opuszczono literę „o”, którą należy dopisać. „Perełkę w koronie” błędów tegoż projektu może stanowić regulacja art. 93 ust. 2, wedle której „Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o:”. Po pierwsze nie wiadomo w ogóle co miałby otrzymać Przewodniczący Komisji, aby mógł podjąć jedną z dwóch decyzji wskazanych w art. 93 ust. 2 projektu ustawy o AI. Po drugie natomiast nie wiadomo o jakim otrzymaniu przez Przewodniczącego, o którym mowa w ust. 2 mówi niniejsza regulacja, która przecież sama jest zawarta w ust. 2, który milczy na temat otrzymania czegokolwiek przez Przewodniczącego przed wydaniem jednego z dwóch rodzajów decyzji. Strona | 27 Wydaje się właściwe nadanie nowego brzmienia art. 93 ust. 2 in principio projektu ustawy o AI „Przewodniczący Komisji po otrzymaniu powiadomienia, o którym mowa w ust. 1, może podjąć decyzję o:”. Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów Aktu o sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 103 projektu ustawy o AI). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów Aktu o sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k § 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k § 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k § 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k § 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 100 ust. 2-9 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII Aktu o sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów Aktu o sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji, gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla Strona | 28 podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom Aktu o sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam, gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne, wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 103 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 103 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k § 1 pkt. 1 ustawy z dnia 14.06.1960 r.- Kodeks postępowania administracyjnego”. W art. 479 88h § 2 k.p.c. wprowadzanym art. 107 projektu ustawy o AI projektodawca wykazuje się olbrzymim wręcz niechlujstwem wskazując na stosowanie odpowiednie wskazanych w tym przepisie przepisów k.p.c. do zażaleń na postanowienia Prezesa Urzędu. Można zasadnie zapytać o postanowienia jakiegoż to Prezesa jakiego Urzędu chodzi w omawianym przypadku. Zażalenia bowiem można wnosić zgodnie z regulacją art. 479 88h § 1 k.p.c. na postanowienia Komisji, wobec czego odpowiednie stosowanie niektórych przepisów k.p.c. wskazanych w art. 479 88h § 2 k.p.c. może odnosić się do zażaleń na postanowienia Komisji, a nie na postanowienia Prezesa bliżej nieokreślonego Urzędu. W omawianym przypadku nie może też być mowy o zażaleniach na postanowienia Przewodniczącego Komisji błędnie nazwanego Prezesem Urzędu, gdyż w projekcie ustawy o AI nie przewidziano dla Przewodniczącego Komisji uprawnienia do wydawania postanowień, a zatem nie mogłyby być przedmiotem zażalenia nieistniejące postanowienia Przewodniczącego Komisji. W art. 479 88h § 2 in fine k.p.c. dodawanym art. 107 projektu ustawy o AI „postanowienia Prezesa Urzędu” należy zastąpić słowami „postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji”. Na stronie 6 uzasadnienia projektu w 17 wersie od góry pomiędzy wyrazem „niekorzystne”, a wyrazami „punktu widzenia” opuszczono literę „z”. Na stronie 14 uzasadnienia projektu przewidziano możliwość skorzystania z pomocy funkcjonariuszy innych organów kontroli państwowej i ochrony prawa, problem w tym, że w projekcie ustawy o AI próżno szukać zapisu przewidującego możliwość udzielenia Strona | 29 kontrolującemu pomocy przy przeprowadzaniu kontroli przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa. W art. 45 projektu ustawy o AI projektodawca przewiduje możliwość udzielenia pomocy kontrolującemu jedynie przez Policję lub jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, natomiast udzielenia pomocy przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa nie przewidziano, stąd w tym zakresie uzasadnienie projektu odsyła do nieistniejącej regulacji prawnej projektu ustawy o AI. To kolejny przykład grubego niedbalstwa projektodawcy. Na stronie 16 uzasadnienia projektu w 4 wersie od dołu dwukrotnie powtórzono słowa „w tym”. Na stronie 17 uzasadnienia projektu w wersie 11 od dołu winno być sformułowanie „największą gwarancję”, a nie „największą gwarancją”. Na stronie 5 OSR w 14 wersie od dołu dwukrotnie powtórzono słowa „do spraw”. Na stronie 18 OSR w wersie 19 od dołu winno być użyte słowo „Warszawie” zamiast słowa „Warzawie”. Przedmiotowemu projektowi zarzucić należy olbrzymie wręcz niechlujstwo projektodawcy przy jego opracowywaniu wyrażające się w niesprawdzaniu zapisanych treści projektu oraz jego uzasadnienia i OSR- u, a także występowanie żenujących wręcz, w dodatku bardzo licznych, błędów natury prawnej oraz językowej. Niestety tak poprzedni, jak i obecny projekt ustawy o AI skłania nas do takiej konkluzji, albowiem w obu projektach ustawy o AI resort cyfryzacji wykazał się identyczną niemalże, katastrofalnie niską umiejętnością władania w piśmie językiem ojczystym. Czyżby rzeczywistym „autorem” przedmiotowego projektu była źle zaprogramowana przez resort cyfryzacji sztuczna inteligencja? 14. Związek Miast Polskich Uwagi ogólne Definicje i zakres: Projekt precyzuje definicje prawne związane z SI, co jest istotne dla jednoznaczności przepisów. Ważne jest jednak, aby definicje: były elastyczne, by uwzględniały przyszłe innowacje technologiczne oraz wyjaśniały wprowadzone terminy. Przykładowo, projekt ustawy o SSI posługuje się terminami „dostawca” (art. 3 pkt 3), czy „użytkownik końcowy” (art. 53 ust.4 pkt 2). W słowniku pojęć zdefiniowano termin dostawcy, nie zdefiniowano natomiast terminu „użytkownika końcowego”. Propozycja definicji „użytkownika końcowego” – osoba, która korzysta z systemu i usługi, mając Uwaga wyjaśniona Przedstawione postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. Jednocześnie należy wyjaśnić, że projekt Strona | 30 na celu spełnienie określonych potrzeb – zarówno w kontekście zawodowym, jak i prywatnym. Zasady etyczne: Ustawa kładzie nacisk na bezpieczne, godne zaufania i etyczne wykorzystanie SI, w tym poszanowanie praw człowieka i niedyskryminację. Proponuje się doprecyzowanie mechanizmów monitorowania i egzekwowania tych zasad, aby zapewnić ich skuteczność. Odpowiedzialność prawna: Projekt porusza kwestię odpowiedzialności za działania systemów SI. Warto rozważyć wprowadzenie szczegółowych regulacji dotyczących odpowiedzialności (w tym obowiązków) producentów, dostawców systemów sztucznej inteligencji i użytkowników. Bezpieczeństwo i prywatność: Ustawa zawiera przepisy dotyczące ochrony danych i prywatności użytkowników systemów SI. Istotne jest zapewnienie, przepisów zgodnych z istniejącymi regulacjami krajowymi i unijnymi, takimi jak RODO oraz że przewidują skuteczne środki ochrony przed potencjalnymi naruszeniami. Nadzór i egzekwowanie: Projekt przewiduje utworzenie organu nadzorczego ds. SI – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Za kluczowe uważamy precyzyjne określenie kompetencji tego organu, jego zasobów oraz procedur działania, tak aby mógł efektywnie monitorować przestrzeganie ustawy i reagować na naruszenia, oraz umożliwić skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Edukacja i świadomość społeczna: Ustawa podkreśla znaczenie edukacji w zakresie SI (art. 9 pkt 8). Warto rozważyć wprowadzenie programów edukacyjnych dla różnych grup społecznych (grup osób szczególnie narażonych na ryzyka związane ze stosowaniem systemów sztucznej inteligencji), aby zwiększyć świadomość na temat korzyści i zagrożeń związanych ze SI oraz promować odpowiedzialne jej wykorzystanie. ustawy ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689 w zakresie w jakim przepisy tego aktu zaczną obowiązywać od 2 sierpnia 2025 r., stąd też nie wszystkie postulaty mogły zostać uwzględnione. Należy również podkreślić, że według projektodawcy konieczne jest utrzymanie terminologii określonej w rozporządzeniu 2024/1689. Zadania i kompetencje Komisji zostały określone w projekcie ustawy. Strona | 31 Współpraca międzynarodowa: Projekt uwzględnia potrzebę współpracy z innymi krajami w zakresie regulacji SI. Za ważne uznajemy, aby przepisy krajowe były spójne z międzynarodowymi standardami i umożliwiały wymianę doświadczeń oraz harmonizację regulacji. Podsumowując - projekt ustawy o systemach sztucznej inteligencji stanowi solidną podstawę do regulacji tej technologii w Polsce. Oceniamy, iż uwzględnienie powyższych propozycji przyczynić się może do stworzenia ram prawnych sprzyjających innowacjom, jednocześnie chroniąc prawa obywateli i zapewniając bezpieczeństwo. 15. Związek Polskich Autorów i Kompozytoró w ZAKR Uwaga ogólna Nasze środowisko z nadzieją czekało na ustawę, która zabezpieczy i ochroni prawa twórców własności intelektualnej okradanych przez program AI, który bez pozwolenia właścicieli praw do utworów od lat magazynuje pracę twórców z całego świata i w pasożytniczym trybie wykorzystuje ją do produkcji różnego rodzaju wytworów naśladujących rezultaty pracy twórczej człowieka, którego wcześniej okradł. Program AI nie jest inteligencją, lecz narzędziem, którego algorytm pomimo wielu niewątpliwych walorów umożliwia gigantom technologicznym czerpanie zysków z powyższego procederu. Związek Polskich Autorów i Kompozytorów ZAKR uważa, że w dzisiejszych realiach za późno jest na stworzenie twórcom możliwości podjęcia decyzji o odmowie wykorzystywania ich twórczości przez AI, ponieważ ta twórczość najczęściej została już przez program ukradziona. Nie istnieją także wiarygodne narzędzia monitorujące wykorzystywanie poszczególnych dzieł przez firmy zajmujące się AI. Jest szereg innych możliwości, które mogą zatrzymać powszechną grabież naszej pracy. Niestety - zamiast propozycji stworzenia stosownych barier i regulacji powyższych kwestii, proponują Państwo rozmycie problemu przez stworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z której składu usunęliście właśnie Rzecznika Praw Obywatelskich, pozbyliście się głosu doradczego z MKiDN, a ze Społecznej Rady do Spraw Sztucznej Inteligencji usunęliście przedstawicieli środowisk twórczych, chociaż to właśnie na sektory kreatywne i na naszą twórczość najbardziej wpływa generatywna AI. Mamy nadzieję, że te nieprzemyślane zmiany nastąpiły przypadkowo i powyższe błędy zostaną w projekcie ustawy naprawione! Związek Polskich Autorów i Kompozytorów ZAKR stwierdza, że bez pracy twórców własności intelektualnej program AI nie byłby tak atrakcyjny. Natomiast brak ochrony pracy twórców i w konsekwencji jej zawłaszczenie przez AI już powoduje upadek polskiej i światowej kultury. Należy mieć świadomość, że twórcy własności intelektualnej też płacą rachunki, więc nie będą upubliczniać swoich dzieł tylko po to, by zostać okradzionymi przez AI. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Strona | 32 16. ZCP Uwagi ogólne Zgodność projektu z regulacjami unijnymi. Aby zapewnić zgodność projektu z regulacjami unijnymi, konieczna jest szczególnie rewizja Artykułu 42 projektu dot. dostępu do treści klientów przechowywanych w chmurze. len potencjalnie może naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Również zapisy projektu ustawy dotyczące środków egzekwowania, szczególnie w Artykule 53, wykazują potencjalną niespójność z intencjami unijnego Aktu w sprawie Al. 2. Sankcje karne i ich wpływ na innowacje. Jesteśmy na stanowisku, że proponowane sankcje karne w Rozdziale 9 wymagają ponownej oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Należy w naszej opinii w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Te miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. 3. Ryzyko fragmentacji prawa UE. Proponowane przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji unijnej ustawy o sztucznej inteligencji, co może rodzić ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji unijnej ustawy o sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie sztucznej inteligencji w całej UE. Niewystarczające zabezpieczenia informacji chronionych. Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych, bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. I brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Potencjalnie zbyt krótkie terminy ustosunkowania się do zastrzeżeń organów regulacyjnych, nieadekwatne do realiów rynkowych. Część projektowanych przepisów nie zapewnia obecnie przedsiębiorstwom wystarczającego czasu na ustosunkowanie się do zastrzeżeń organów regulacyjnych. Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie (dotyczy to m.in. Art. 53 ust. 3; Artykuł 54 ust. 2; Art. 98 ust. 1). Uwaga wyjaśniona Uwagi dot. zbyt szerokiego zakresu opinii indywidualnych Komisji uznać należy za bezzasadne ze względu na doprecyzowanie przepisów określających zakres przedmiotowy tychże opinii (ograniczonych do interpretacji przepisów ustawy). Przepisy dotyczące terminów przygotowane zostały w celu pogodzenia praw i interesów przedsiębiorców (domyślna forma zdalna, krótki czas kontroli) z potrzebami sprawnego nadzoru i umożliwienia sprawnej reakcji w przypadku ryzyka związanego z niebezpiecznym lub wadliwym systemem sztucznej inteligencji. Przepisy projektu ustawy zostały przygotowane z poszanowaniem przepisów dotyczących zabezpieczania tajemnic Strona | 33 prawnie chronionych jednocześnie zapewniając możliwość pozyskiwania i wymiany informacji na potrzeby realizowanych zadań organów. 17. . SAWP Uwagi ogólne Prawo autorskie Reprezentowane przez nas środowisko artystów wykonawców z uwagą i niepokojem śledzi implementację unijnych regulacji problematyki AI do obowiązującego w Polsce prawa. Możliwości jakie stwarza AI są niezwykle istotne dla polskiej kultury i życia społecznego, w tym dla praw do artystycznych wykonań. Z jednej strony stwarzają ogromne możliwości w zakresie dostępu do dóbr kultury i ich wykorzystania. Z drugiej strony natomiast jest dla nas ważne jest ich precyzyjne wpisanie w obowiązujący system prawny w Polsce, w sposób nienaruszający jego zasad, czytelny i zapewniający zrównoważoną ochronę zarówno w dostępie do twórczości, jak i poszanowania praw do autorów i artystów wykonawców, których twórczy dorobek jest przedmiotem eksploatacji na potrzeby Al. Uzasadnia to przedstawienie naszych krytycznych uwag do obecnego projektu. Obecny projekt stanowi propozycję przepisów implementujące, obowiązujące Polskę jako członka UE, rozporządzenie Parlamentu Europejskiego i Rady Unii Europejskiej2024/1689, z dnia 13 czerwca 2024 roku w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji z uwzględnieniem jego kolejnych zmian, oraz wynikających wydanych dyrektyw UE dotyczących sztucznej inteligencji. Projekt powinien być zsynchronizowany z ostatnią nowelizacji, obejmującą dodanie do ustawy o prawie autorskim i prawach pokrewnych (dalej: PrAut, Dz. U. 1924 rok, poz.1254), art. 26*. Obecny projekt nie spełnia tego oczekiwania. Nie wypełnia w szczególności luk w dotychczas obowiązującej regulacji Al zawartej w PrAut. Ich istnienie prowadzi do niejasności, które stanowią zagrożenie prawidłowego funkcjonowania systemu AI, którego dotyczy również obecny projekt. Mają one duże znaczenie społecznogospodarcze. Są, w konsekwencji, źródłem narastającego niepokoju autorów i artystów wykonawców. Przejawem tego niepokoju jest przede wszystkim często pojawiające się, także w wypowiedziach także eminentnych reprezentantów środowisk twórczych, błędne i wynikające z istniejącego stanu dezorientacji, obawy co do sytuacji twórców, ze względu na coraz większy udział Al w naszym życiu społecznym. Przykładem oczywistych błędów jest traktowanie AI jako zagrożenie dla twórców oraz debaty na temat ochrony autorskiej produktów AI lub udziału AI w procesie tworzenia utworów lub artystycznych wykonań. Należy zatem przypomnieć, że korzystanie przez autora lub artystę wykonawcę ze sztucznej inteligencji jest dobrym prawem każdego twórcy. Utwór lub artystyczne wykonanie powstaje zawsze jako Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W projekcie zawarto jedynie przepisy wymagające regulacji ustawowej we wskazanym powyżej zakresie. Przedmiotowe uwagi w dużej części dotyczą natomiast kwestii praw autorskich, które Strona | 34 projekcja wyobraźni twórcy, jako rezultat jego wrażliwości i zdolności do ujęcia przedmiotu swojej wyobraźni wsposób umożliwiający zapoznanie się z nim przez osoby trzecie i w konsekwencji wykorzystywanie utworu lub artystycznego wykonania w obrocie kulturalnym, gospodarczym, naukowym lub technicznym. Utwór lub artystyczne wykonanie, powinno być zawsze traktowane jako intelektualna całość, ze względu na jej oryginalność i indywidualność, czyli jako przedstawiająca określone walory poznawcze, artystyczne lub naukowe w sposób twórczy, tzn. jako przejaw osobistej wyobraźni i sprawności w danej dziedzinie w jej komunikowaniu. Bez znaczenia jest wykorzystanie w jej treści elementów dotychczasowego dorobku intelektualnego, dostępnych informacji lub określonych narzędzi, do których należy wykorzystanie AI. Wystarczy tu przypomnienie brzmienia art. 1 ust. 1, w odniesieniu do utworów lub art, 85 ust. 1 PrAut, w odniesieniu do artystycznych wykonań. Istotnym elementem wyznaczających ich treść jest uniezależnienie od wartości pod jakim bądź względem, w tym rozmiaru wkładu twórczego, przeznaczenia i sposobu wyrażenia. Fakt, że autor lub artysta wykonawca w procesie tworzenia korzystał z AI, w płaszczyźnie PrAut nie ma żadnego znaczenia. Jeżeli powstały rezultat pochodzi od twórcy w tym choćby znaczeniu, że wykorzystał rezultat „zadany do wykonania przez AI”, bez względu na zakres i znaczenie dla powstałej ostatecznie całości, poddając go weryfikacji, jako odpowiadającej jego widzeniu w danym zakresie, ma miejsce stworzenie dobra mającego cechy utworu lub odpowiednio artystycznego wykonania. W konsekwencji próby ocen w jakim stopniu wykorzystanie AI wpłynęło na powstanie takiego utworu lub artystycznego wykonania, dotknięte jest fundamentalnym błędem, polegającym na zrównywaniu wykorzystania AI (jej produktu) z wkładem twórczym, który pochodzić może jedynie od człowieka ze względu na jego psychofizyczną, duchową, zdolność i wyobraźnię. W odróżnieniu od tego produkt wykorzystania AI bez poddania go ludzkiej weryfikacji nie stanowi dobra oprawnego korzystającego z ochrony. Ochroną objęte jest natomiast korzystanie z AI jako produktu niematerialnego na zasadach ogólnych obowiązującego prawa. Przekracza ramy niniejszych uwag fundamentalna kwestia społeczno-gospodarczego sensu przyjętej w prawie UE (w ślad za nim i w naszym prawie) konstrukcji oświadczeń wyłączających poszczególne pozycje z możności obejmowania ich eksploatacją na potrzeby AI. Najwyraźniej możliwość ta w prawie europejskim została potraktowana jako mająca wywołać poczucie respektowania praw autorów i artystów. Tyle tylko, że praktyczna możliwość kontroli respektowania tych zastrzeżeń przez uprawnionego jest iluzoryczna. Poza tym prowadzi do sprzeczności ze społecznogospodarczą funkcją eksploracji, która z istoty nie powinna dotyczyć pozwalających na indywidualizację wykorzystywanych utworów. Wymaga przypomnienia, że zarówno art. 17, jak i 86. ust. 1 pkt 2 PrAut obejmuje „korzystanie” z utworów i artystycznych wykonań, a korzystanie to obejmuje również wykraczają poza ramy rozporządzenia 2024/1689 a tym samym i projektu ustawy. Projekt został przygotowany zgodnie z zasadami techniki prawodawczej i będzie pod tym kątem opracowywany na etapie prac komisji prawniczej. Projekt podlegał konsultacjom publicznym zgodnie z obowiązującymi procedurami. W celu zapewnienia udziału wszystkich zainteresowanych podmiotów został zamieszczony w BIP na stronie podmiotowej RCL w zakładce Rządowy Proces Legislacyjny. Strona | 35 (jeżeli przepis nie stanowi inaczej) publiczny dostęp do już rozpowszechnionego utworu lub artystycznego wykonania, także więc polegające na wykorzystaniu w ramach AI. Jednym z uwarunkowań tego korzystania powinno być zapewnienie autorom i artystom godziwego (zrównoważonego, propotcjonalnego) wynagrodzenia. To elementarne założenie nie zostało w omawianym projekcie, jak i w prawie dotychczasowym należycie uregulowane i zabezpieczone. I tak: W obowiązującym art. 26%3% PrAut nie zostało zdefiniowane w sposób dostatecznie jednoznaczny podstawowe pojęcie odnoszące się do AI, eksploracji, jako zwielokrotnianie utworów i artystycznych wykonań w odniesieniu do tekstów i danych wykorzystywanych wyłącznie dla cełów badań naukowych, nie dokonywanych w celu osiągnięcia bezpośredniej lub pośredniej korzyści majątkowej. W słowniku zawartym w art. 1 obecnego projektu nie tylko nie ma definicji pojęcia tej eksploracji, ale wyłączenia zawarte w art. 2 tego projektu odsyła do rozporządzenia UE, które również nie zawiera tej definicji, a jedynie określenie ujęte probabilistycznie, w sposób niewyczerpujący określające możliwe funkcje Ponadto określenie to w projekcie nie zostało odniesione do art. 26? PrAut. Niejasność co do zakresu korzystania z utworów i artystycznych wykonań w zakresie eksploracji w procesach korzystania z AI prowadzi do, nierozstrzygniętych w proponowanych przepisach pytań, czy omawiane pojęcie eksploracji może prowadzić do sytuacji rozpoznawalności poszczególnych wykorzystanych w niej utworów lub artystycznych wykonań w produktach sztucznej inteligencji oraz, czy ich twórcom została zagwarantowana realna możliwość kontroli respektowania złożonego zastrzeżenia złożonego zgodnie z art. 269 PrAut. Przeciwnie, określone w art. 2 projektu ustawy wyłączenia nie korespondują, a nawet pozostają w sprzeczności z art. 267 ust. I PrAut. Mają charakter podmiotowy, co rozszerza zakres dozwolonej eksploracji, w stosunku do kryterium dokonywania badań naukowych nie dokonywanych w celu osiągnięciu „bezpośredniej lub pośredniej korzyści majątkowej” (o czym wyraźnie jest mowa w art. 26! PrAut). W konsekwencji, dotychczasowy ustawowo uregulowany zakres eksploracji uległ daleko idącemu poszerzeniu z naruszeniem norm prawa unijnego. Nie została także uregulowana zasadnicza kwestia, rekompensowania wykorzystania utworów i artystycznych wykonań wykorzystanych w ramach eksploracji dopuszczonej w PrAut na zasadach dozwolonego użytku. Odróżnić tu należy dopuszczenie czynności eksploracji jako nieuzasadniającej roszczenia o wynagrodzenie konkretnego uprawnionego, od zasadności rekompensowania wykorzystywania twórczości w zasobach wykorzystywanych przez AI. Prawo zna sytuacje gwarantowania autorom i artystom wykonawcom rekompensowanią, na podstawie badań statystycznych obrazujących zarówno zakres i rozmiar dozwolonego korzystania, jak i wysokość należnej rekompensaty. Odpowiada to społecznym oczekiwaniom (potrzebie) oraz oczywistej słuszności, jak również zasadzie zrównoważonej ochrony. Są to elementarne Strona | 36 zasady propagowane przez UE. Należy zatem oczekiwać ich uwzględniania w przygotowywanych przepisach stanowiących w ramach krajowych element prawa europejskiego. Zastrzeżenia budzą także ograniczenia, zawarte w art. 49 i nast. projektu, dot. czynności kontrolnych jedynie w zakresie uregulowanym w projektowanej ustawie i rozporządzeniu UE. Czy ma to oznaczać, że przedmiotem kontroli nie jest także respektowanie art. 26 ust 2-3 PrAut, a więc tolerowane miałoby być bezpośrednie lub pośrednie uzyskiwanie korzyści majątkowych przez podmioty wymienione w art. 2 projektu? Jest także nieprawidłowe legislacyjnie, zawieranie w prawie krajowym odesłań do rozporządzenia UE. Jeżeli obowiązujące proprio iure rozporządzenie UE zostaje przeniesione do aktu krajowego i to tym bardziej rangi ustawowej, powinien on zawierać wyczerpująco ujętą regulację obowiązującą w danym obszarze. Przemyślenia wymaga zakres regulacji objętej projektowaną ustawą. Powinna ona ograniczać się jedynie do materii wymagającej regulacji ustawowej. Kwestie organizacyjne powinny być uregulowane w przepisach wykonawczych rangi rozporządzenia, do których regulacji ustawa powinna stanowić jedynie podstawę odesłania. W obecnym ujęciu razi regulowanie w obecnym projekcie także materii w znacznym zakresie wykonawczym. Nie sprzyja to czytelności stanowionego prawa. Na koniec uważamy za niezbędne zwrócenie, z ubolewaniem, uwagi na fakt, że wśród siedemdziesięciu adresatów pisma Pana Premiera nie znalazło się nasze Stowarzyszenie. Reprezentujemy znaczące w polskim życiu kulturalnym środowisko twórcze. Jesteśmy zainteresowani treścią projektowanej ustawy i deklarujemy gotowość udziału w pracach nad nią. 18. GRAI Uwaga ogólna Piaskownice regulacyjne Po analizie projektu ustawy o systemach sztucznej inteligencji (SSI) oraz dotychczasowych uwag, konieczne jest dalsze uproszczenie procedur związanych z piaskownicami regulacyjnymi. Kluczowe jest zapewnienie ich ciągłej analizy, autoaktualizacji oraz doskonalenia procesów testowania, by poprawić wydajność i praktyczną użyteczność. Proponowane zmiany mają wyeliminować bariery biurokratyczne, skrócić czas reakcji organów oraz umożliwić ogólnopolski zasięg piaskownic. Poniżej przedstawiamy zmodyfikowane przepisy artykułów w dalszej części tabeli uwag. Wprowadzenie mechanizmów ciągłej analizy, autoaktualizacji procedur i szybkiego wdrażania zmian w piaskownicach regulacyjnych zapewni dynamiczny rozwój systemów testowania AI. Regularny feedback od uczestników oraz dostosowanie procesów do potrzeb rynku pozwoli na zwiększenie efektywności, praktyczności oraz ogólnopolskiego zasięgu piaskownic. Uwaga uwzględniona Zrezygnowano z części przepisów w zakresie piaskownic regulacyjnych. Strona | 37 19. GRAI Uwaga ogólna AI Act nie nakazuje twardej regulacji piaskownic, ale pozostawia krajom członkowskim dużą elastyczność w ich organizacji. Kluczowe elementy to: • Zachęcanie do rozwoju piaskownic, ale bez nadmiernego obciążenia administracyjnego. • Główną rolą państwa jest nadzór i egzekwowanie wymogów, a nie aktywne zarządzanie testami AI. • Nie wymaga formalnego uzyskiwania zgody na uruchomienie testów, o ile są one zgodne z zasadami przejrzystości i kontroli. Oznacza to, że rola państwa może zostać ograniczona do ekosystemu nadzoru, w którym: Firmy same zgłaszają udział w piaskownicy. Państwo monitoruje efekty, ale nie decyduje o ich przebiegu. Organ nadzoru pełni funkcję wspierającą, a nie blokującą innowacje. Uwaga wyjaśniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy w kierunku zmniejszenia obciążeń związanych z rozpoczęciem uczestnictwa. 20. GRAI Uwaga ogólna Obecne ograniczenia w polskim projekcie ustawy Obecny projekt ustawy wprowadza nieprecyzyjne i potencjalnie restrykcyjne regulacje dotyczące piaskownic regulacyjnych, np.: 1. Brak elastyczności – regulacje mogą wymagać od firm formalnego uzyskania zgody, zamiast szybkiej rejestracji i zgłoszenia. 2. Zbyt duża ingerencja organów państwowych – jeśli piaskownica ma działać skutecznie, to rynek powinien mieć większą swobodę w kształtowaniu testów. Brak jednoznacznych procedur wyjścia z piaskownicy – AI Act nie wymaga, by firmy przechodziły skomplikowany proces oceny po zakończeniu testów, a polska ustawa wprowadza dodatkowe obciążenia administracyjne. Uwaga wyjaśniona i częściowo uwzględniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. 21. GRAI Uwaga ogólna Proponowane zmiany w systemie piaskownic regulacyjnych 1. Rezygnacja z wymogu formalnej zgody – wprowadzenie modelu \"na zgłoszenie\" - Każdy podmiot może zgłosić udział w piaskownicy do organu nadzoru, ale nie musi czekać na jego decyzję. - Organ nadzoru ma tylko 30 dni na ewentualne uwagi (np. w przypadku zagrożenia dla praw podstawowych). - Brak sprzeciwu oznacza automatyczne zatwierdzenie. 2. Ograniczenie roli państwa do monitorowania i egzekwowania podstawowych zasad - Organ nadzoru nie decyduje, kto może wejść do piaskownicy, ale pełni rolę kontrolną. - Regularne raporty firm do organu nadzoru zamiast biurokratycznych procedur wstępnych. - Firmy same wybierają metody testów, a państwo nie narzuca dodatkowych obowiązków. Uwaga wyjaśniona Proponowane postulaty zostały częściowo uwzględnione w projekcie ustawy. Strona | 38 3. Wprowadzenie modelu \"kontroli zarządczej\" przez wyznaczenie osób odpowiedzialnych - Każdy podmiot biorący udział w piaskownicy musi wyznaczyć osobę odpowiedzialną za przestrzeganie regulacji. - Osoba ta raportuje wyniki testów do organu nadzoru. - W razie naruszeń – zamiast wykluczenia z piaskownicy, wprowadzenie mechanizmu naprawczego. 4. Piaskownice jako narzędzie do oceny regulacji, a nie ich usztywniania - Testowane technologie mogą być przedmiotem okresowego przeglądu regulacji – wyniki piaskownic powinny wpływać na kształt przepisów. - Możliwość rozszerzenia testów na rzeczywiste warunki rynkowe, jeśli spełniają minimalne wymogi etyczne i prawne. 5. Zachęty do uczestnictwa w piaskownicy - Ulgi regulacyjne dla firm testujących AI w piaskownicy (np. złagodzone wymogi wstępne). - Możliwość uzyskania wstępnej oceny zgodności przed wdrożeniem produktu na rynek. Możliwość uzyskania voucherów na finansowanie testów i procesów walidacyjnych dla MŚP? 22. GRAI Uwaga ogólna Aby zrealizować bardziej rynkowe podejście do piaskownic regulacyjnych i ograniczyć rolę państwa do nadzoru, należy: > Zmodyfikować przepisy tak, aby rejestracja w piaskownicy odbywała się na zgłoszenie, a nie na decyzję organu. > Zdefiniować rolę organu nadzoru jako wspierającą, a nie ograniczającą innowacje. > Umożliwić przedsiębiorstwom większą autonomię w testowaniu AI, pod warunkiem raportowania wyników. > Wprowadzić osoby odpowiedzialne za przestrzeganie regulacji na poziomie firm, zamiast rozszerzać kompetencje państwa. > Zachęcać firmy do uczestnictwa, np. poprzez ulgi regulacyjne i uproszczoną ocenę zgodności. Dzięki temu piaskownice regulacyjne będą faktycznie wspierać rozwój rynku AI w Polsce, zamiast stać się kolejną barierą biurokratyczną. Uwaga częściowo uwzględniona W wyniku zgłoszonych uwag rozdział 8 uległ znacznym zmianom. Zrezygnowano z części regulacji. 23. GRAI Uwaga ogólna Proponujemy rozważenie, aby sądem właściwym do rozstrzygania spraw był Sąd Okręgowy w Warszawie Wydział Własności Intelektualnej. Jako uzasadnienie wskazujemy, że zakres merytoryczny spraw rozstrzyganych przez w/w sąd jest pokrewny z ewentualnym postępowaniem na podstawie projektowanej ustawy o systemach sztucznej inteligencji i tym samym w/w Sąd może kompleksowo rozstrzygać obie materie spraw. Uwaga wyjaśniona Z analizy projektodawcy wynika, że najbardziej właściwym sądem jest Strona | 39 Sąd Okręgowy w Warszawie - sąd ochrony konkurencji i konsumentów. Jest to sąd wysoko wyspecjalizowany, posiadający duże doświadczenie w sprawach o skomplikowanej naturze i szerokim spektrum, posiadający zaplecze merytoryczne oraz organizacyjne umożliwiające sprawne prowadzenie spraw z zakresu systemów sztucznej inteligencji 24. GRAI Uwaga ogólna Na gruncie art. 4 rozporządzenia 2024/1689 postulujemy, aby dodać do projektowanej ustawy o systemach sztucznej inteligencji obowiązek szkoleń personelu ze wskazaniem częstotliwości takich szkoleń np. nie rzadziej niż raz na 12 miesięcy. W/w obowiązek powinien dotyczyć członków personelu dostawcy i podmiotu stosującego zgodnie z definicjami zawartymi w rozporządzeniu 2024/1689 (art.3 ust. 3 oraz art. 3 ust. 4 rozporządzenia). Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 25. GRAI Uwaga ogólna Na gruncie art. 27 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji wprowadzić przepis zgodnie, z którym „Ocena, o której mowa w art. 27 rozporządzenia 2024/1689 dotyczyć będzie wszystkich rodzajów operacji przetwarzania danych osobowych na podstawie wykazu organu nadzorczego, o którym mowa w art. 35 ust. 43 rozporządzenia 2016/679 w systemach wysokiego ryzyka. Organ nadzorczy o którym mowa w art. 4 pkt 21 rozporządzenia 2016/679 opracuje i przedstawi wzór kwestionariusza do oceny skutków przetwarzania danych osobowych o którym mowa w art. 35 rozporządzenia 2016/679.”. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków Strona | 40 Uzasadnienie: Ocena skutków przetwarzania danych osobowych na gruncie art. 35 rozporządzenia 2016/679 jest narzędziem, które sprawia szereg trudności administratorom danych. Warto śladem prawodawcy unijnego, który w art. 27 ust. 5 rozporządzenia 2024/1689 wskazał, iż ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych zostanie zaproponowana przez właściwy Organ, zobowiązać na gruncie projektowanej ustawy o systemach sztucznej inteligencji, organ nadzoru ds. ochrony danych osobowych do przedstawienia właściwego narzędzia dla oceny, o której mowa w art. 35 rozporządzenia 2016/679. Warto nadmienić, iż oceny o te z art. 27 rozporządzenia 2024/1689 i art. 35 rozporządzenia 2016/679 są ocenami których zakresy częściowo pokrywają się. związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). 26. GRAI Uwaga ogólna Brak spójnych rozwiązań dotyczących przetwarzania i ochrony danych osobowych. Zaproponowane regulacje są wybiórcze, enigmatyczne. Brak opracowania OSK dla ochrony danych. Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy. Z uwagi na przedmiot regulacji projekt nie wymaga opracowania OSK. 27. GRAI Uwaga ogólna Na gruncie art. 44 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji dodać przepis zgodnie z którym: „Szkolenia personelu o których mowa w art. 4 rozporządzenia 2024/1689 powinny odbywać się nie rzadziej niż raz 18 miesięcy i każdorazowo dotyczyć będą nowych członków personelu dostawcy i podmiotu stosującego.”. Uzasadnienie: Na gruncie rozporządzenia 2016/679, ustawą z dnia 10 maja 2018 r. o ochronie danych osobowych nie wprowadzono konieczności szkoleń z zakresu ochrony danych osobowych. Jednak jak praktyka pokazała są one wymagane przez organ nadzorczy ds. ochrony danych osobowych. Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. Strona | 41 Nadto należy podkreślić, iż w rozporządzeniu 2024/1689 kwestie szkoleń podejmowane są odpowiednio w art. 9, art. 26 ust. 2 (podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie) oraz motywie 72 w/w rozporządzenia. Ustawowe wprowadzenie obowiązku szkoleń wyeliminuje niepotrzebny dialog społeczny (szczególnie w środowisku szeroko rozumianego biznesu) dotyczący ich niezbędności, terminowości, etc. Warto w tym miejscu wyartykułować, iż prawodawca unijny wskazując na konieczność szkoleń i podnoszenia świadomości potencjalnych zagrożeń wśród personelu wskazał na tempo zmieniających się uwarunkowań rozwoju systemów AI (stąd zasadne wydaje się wprowadzenie szkoleń okresowych w odpowiednich interwałach czasowych) mając na uwadze wykładniczy postęp technologiczny. 28. GRAI Uwaga ogólna Brak w projekcie ustawy przepisów regulujących realizację obowiązku wynikającego z 99 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Przepisy ustawy znajdują także zastosowanie do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest, aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. 29. IGE Kopia tabeli uwag z I etapu konsultacji Uwagi wyjaśnione Przekazane przez IGE uwagi stanowią kopię Tabeli uwag zgłoszonych w ramach I tury konsultacji publicznych projektu Strona | 42 ustawy. Efektem ich rozpatrzenia było przygotowanie projektu w wersji poddanej 10 lutego 2025 r. ponownym konsultacjom publicznym. Część z uwag w przedmiotowej tabeli odnosi się zatem do wykreślonych lub znacznie zmienionych przepisów w związku z powyższym mając na uwadze obszerność przywołanej tabeli odniesienie się do zawartych w niej uwag na obecnym etapie jest niezasadne. Uwagi do projektu ustawy 1. PIIT Tytuł Zmiana tytułu ustawy na ustawa o nadzorze nad rynkiem sztucznej inteligencji. Jedynie art. 9 ust. 3 zawiera wzmiankę o wsparciu rozwoju SI, a Rada nie będzie wyposażona w narzędzia na takie wsparcie pozwalające. Przepisy projektu określają jedynie nadzór nad rynkiem Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Odnosząc się natomiast do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność Strona | 43 2. PTI Tytuł „o systemach sztucznej inteligencji” to nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM) Ustawa właściwie tylko definiuje i reguluje obowiązki i sposób funkcjonowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Całość treści ustawy może być podważona w sądzie z uwagi na pojęcie „system sztucznej inteligencji” – nieprawidłowa definicja Prosimy o rozważenie zmiany tytułu Ustawy: Ustawa o powołaniu komisji i innych instytucji nadzorczych w obszarze sztucznej inteligencji W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI; jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689, dostosowując ustawodawstwo Polski do wymogów wskazanego Rozporządzenia. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. W projekcie ustawy zawarto także przepisy regulujące kwestie wsparcia rozwoju sztucznej inteligencji (rozdział dotyczący środków wspierających innowacyjność). 3. IWP Repropol Tytuł Żałujemy, że nie dokonano zmiany tytułu projektu, mimo że nie tylko Izba Wydawców Prasy zwracała na to uwagę w ramach społecznych konsultacji. Wciąż uważamy, że obecna nazwa jest po prostu mylna. Projekt nie reguluje przecież fenomenu sztucznej inteligencji, lecz ustanawia przede wszystkim krajową infrastrukturę certyfikującą oraz nadzorczą nad modelami oraz systemami AI. Niezależnie od powyższego, polski projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w polska wersja AIA stanowi o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, które na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie ze skrótowca „AI” na oznaczenie sztucznej inteligencji, ponieważ w tym kierunku kształtuje się ogólnoświatowa praktyka. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również m.in. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. W kwestii używanej terminologii, wyjaśnimy, że pojęcie AI posiada w języku Strona | 44 polskim odpowiednik jakim jest sztuczna inteligencja. Mając na uwadze obowiązujące przy tworzeniu prawa zasady techniki prawodawczej oraz zasady wynikające z ustawy dnia 7 października 1999 r. o języku polskim zdaniem projektodawcy przyjęta terminologia jest właściwa. 4. ZPWC Tytuł Zwracamy uwagę na sam tytuł projektu ustawy, który jest mylący. Projekt nie reguluje sztucznej inteligencji, lecz wdraża krajowe mechanizmy nadzoru i kontroli nad modelami i systemami AI. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię wiązane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również min. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. 5. AmCham Art. 2 Zakres terytorialny stosowania art. 2 jest niejasny. Brak wyraźnego ograniczenia zakresu stosowania ustawy do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli nie są one fizycznie obecne w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres Strona | 45 nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami Aktu o AI w zakresie nadzoru transgranicznego. jurysdykcji wynika z odrębnych aktów prawnych. 6. Związek Cyfrowa Polska Art. 2 Nie daje jasności co do zakresu terytorialnego. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnego aktu o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 7. ZPTC Lewiatan Art. 2 Projekt powinien jednoznacznie mieć zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem UE o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal zawiera ona niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby świadczyć o umożliwieniu polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Porównaj także: uwaga dotycząca art. 78, że zgłaszane powinny być poważne incydenty, mające miejsce na terenie Rzeczpospolitej Polskiej. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 8. GRAI Art. 2 Jest: Art. 2 nadal nie stanowi wyraźnie, że ma on zastosowanie do przedsiębiorców z siedzibą w Polsce, co stwarza ryzyko eksterytorialnego zakresu przedmiotowego. Uwaga wyjaśniona Strona | 46 Propozycja: Aby wykluczyć eksterytorialny charakter ustawy, rekomendujemy doprecyzowanie, że ustawa ma zastosowanie wyłącznie do podmiotów mających siedzibę w Polsce. Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. 9. PIIT Art. 2 ust. 1 Propozycja - “Ustawę stosuje się do podmiotów publicznych i prywatnych” Motyw 13 rozporządzenia UE potwierdza określony w art. 2 rozp. 2024/1689 krąg nadzorowanych systemów i podmiotów. Wzmianka w art. 38 ust. 3 pkt. 2 sprawia wrażenie poddania organów władzy publicznej w Polsce - dostawców i użytkowników systemów SI - wyłącznie przepisom ustawy z dnia 15 lipca 2011 r. o kontroli. Praktycznym skutkiem zapisu może być niemożność wyegzekwowania od nich przepisów określonych w rozp. 2024/1689 Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 10. ICC Polska Art. 2 ust. 1 pkt 1 Zgodnie z art. 2 ust. 1 pkt 1 Projektu, ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 1 , z wyłączeniem osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z którąkolwiek z działalności, o których mowa w dalszej części tego przepisu (m.in. działalność gospodarcza, działalność nieewidencjonowana). Tymczasem zgodnie z art. 2 ust. 10 rozporządzenia 2024/1689, rozporządzenia tego nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. Porównanie obu regulacji może rodzić wątpliwości czy zakres wyłączenia zastosowania projektowanej ustawy nie jest za wąski w stosunku do wyłączenia zastosowania rozporządzenia 2024/1689. W uzasadnieniu brak jest natomiast jakiegokolwiek wyjaśnienia, które miałoby przemawiać za szerszym zakresem zastosowania ustawy niż samego rozporządzenia 2024/1689. Po pierwsze, zawarte w samym rozporządzeniu 2024/1689 wyłączenie odnosi się do wszelkich obowiązków podmiotów stosujących i nie ogranicza się – jak czyni to Projekt – do obowiązków, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689. Tymczasem samo rozporządzenie 2024/1689 przewiduje obowiązki podmiotów stosujących również w innych przepisach np. art. 4, art. 25, art. 50, art. 86 rozporządzenia 2024/1689 (które potencjalnie mogą dotyczyć również podmiotów stosujących będących osobami fizycznymi), których tym samym ustawowe wyłączenie nie będzie obejmować. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 1 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwane dalej: „rozporządzeniem 2024/1689”. Strona | 47 Po drugie, zawarte w art. 2 ust. 1 pkt 1 Projektu szczegółowe wyliczenie rodzajów działalności może budzić wątpliwości z perspektywy zachowania jednolitości interpretacji wyłączenia na gruncie samego rozporządzenia 2024/1689, które posługuje się jedynie pojęciem „działalności pozazawodowej” oraz projektowanej ustawy. Dotyczy to m.in. zawartego w art. 2 ust. 1 pkt 1 lit. a) Projektu odesłania do „działalności, o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz.U. z 2024 r. poz. 226, z późn. zm.)”. Ten ostatni przepis dotyczy jednak różnego rodzaju przychodów, zaś w kontekście działalności wspomina jedynie o działalności rolniczej. Aktualna treść Projektu rodzi wątpliwości, czy art. 2 ust. 1 pkt 1 lit. a) Projektu dotyczy jedynie działalności rolniczej, czy też wszelkiej innej działalności związanej z uzyskiwaniem przychodów, o których mowa w ustawie podatkowej. W konsekwencji warto rozważyć albo ujęcie w Projekcie wyłączenia z art. 2 ust. 10 rozporządzenia 2024/1689 w identyczny sposób jak w samym rozporządzeniu, zapewniając tym samym jednolitość interpretacji samego rozporządzenia i ustawy w tym zakresie, albo przynajmniej dostosowanie obu wyłączeń przez usunięcie z art. 2 ust 1 pkt 1 Projektu słów „o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689” w następujący sposób: Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...) (...) Warto w tym miejscu zauważyć, że wdrażając rozporządzenie 2016/679 2 , ustawodawca nie uznał za niezbędne odrębnego uregulowania i doprecyzowania na poziomie ustawowym podobnego wyłączenia z art. 2 ust. 2 lit. c) rozporządzenia 2016/679 („przetwarzanie danych osobowych przez osobę fizyczną w ramach czynności o czysto osobistym lub domowym charakterze”). 11. AmCham Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 2 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), zwane dalej: „rozporządzeniem 2016/679”. Strona | 48 12. Związek Cyfrowa Polska Art. 2 ust. 2 Stwierdzenie z art. 2 ust. 2 o tym, że przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o SI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 13. ZPTC Lewiatan Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie w związku z tym nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 14. GRAI Art. 2 ust 3 Propozycja brzmienia: „3. Do systemów zdalnej identyfikacji biometrycznej post factum, określonych w art. 3 pkt. 43 rozporządzenia 2024/1689, stosuje się odpowiednio art. 5 ust. 2-7 rozporządzenia 2024/1689.”. Uzasadnienie: Zasadnym jest, że ustawa nie dopuszcza wykorzystywania w kraju systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym (rezygnując z zakazu określonego w Akcie). Natomiast, nie wyłącza to konieczności uregulowania systemów zdalnej identyfikacji biometrycznej post factum (które nie są automatycznie zakazane przez Akt). Najprostszym rozwiązaniem byłoby odpowiednie stosowanie regulacji przewidzianych przez Akt dla systemów działających w czasie rzeczywistym. Pod względem redakcyjnym, wydaje się, że najprostszym rozwiązaniem byłoby dodanie nowego ustępu (nr 3) do artykułu 2. Uwaga wyjaśniona Kwestia nie wymaga odrębnego uregulowania w przedmiotowej ustawie. 15. IWP Repropol Art. 2 i Art. 4 Wątpliwości wciąż budzi sposób uregulowania zakresu stosowania UoSSI. W projekcie nawiązano jedynie do wybranych zakresów stosowania AIA, przy czym wciąż nie jest jasny klucz doboru wybranych wyłączeń. Art. 2 ust. 1 nakreśla podmiotowy zakres stosowania ustawy. Z zakresu tego wyłączone zostają osoby fizyczne „w zakresie obowiązków podmiotów stosujących, o których Uwaga wyjaśniona Ewentualna interpretacja przepisów art. 2 przez TSUE nie Strona | 49 mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...)”. W ten sposób nawiązano do art. 2 ust. 10 AIA, który wyłącza AIA w odniesieniu do „obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej”. Wydaje się, że przeniesienie ogólnej formuły AIA na polski grunt byłoby rozwiązaniem lepszym. Polski projektodawca wskazał jednak na katalog aktów prawnych (art. 2 pkt 1 lit a-e UoSSI), które mają egzemplifikować „czysto osobistą działalność pozazawodową”. Jesteśmy zwolennikami podejścia zaprezentowanego w AIA, tym bardziej, że to sformułowanie dość szybko powinno być – w razie wątpliwość – wyklarowane przez orzecznictwo TSUE. Ponadto, nawiązanie w polskiej transpozycji do art. 26 i 27 AIA jest wprost mylne, ponieważ przepisy te odnoszą się do podmiotów stosujących systemy AI wysokiego ryzyka. Tymczasem podmiotowe wyłączenie AIA nie jest ograniczone jedynie do systemów AI wysokiego, lecz także do innych, a zatem objętych jedynie obowiązkiem transparentności (art. 50 AIA) oraz pozostających poza obowiązkiem transparentności systemów minimalnego ryzyka. Odrębną uwagę trzeba poświęcić korzystnie, lecz nie całkowicie satysfakcjonująco zmodyfikowanemu wyłączeniu zawartemu w art. 4 pkt 4 i 5 UoSSI. Przepis ten stanowi, iż ustawy [tj. UoSSI] nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy (...) Prawo o szkolnictwie wyższym i nauce (...). Z kolei w kolejnym ustępie następuje doprecyzowanie wyłączenia stosowania UoSSI do „systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie [AIA]”. W ten sposób powstał chaos. Zakładamy, że w zamyśle projektodawcy postanowienia te mają wdrażać art. 2 ust. 6 AIA, wedle którego „niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Polskie wdrożenie tego postanowienia nie jest jednak fortunne, mimo uwzględnienia niektórych uwag. Podkreślamy ponownie, że to wyłączenie jest fundamentalne dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Mając na uwadze dalekosiężność skutków, przepis nie może pozostawiać tylu wątpliwości, ile występuje na podstawie obecnej wersji. Ponownie zwracamy uwagę, że samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest po prostu niezrozumiałe. Trzeba podkreślić, że przekreśla obecnej konieczności uregulowania kwestii zakresu wyłączenia na gruncie prawa polskiego, a ewentualne wątpliwości co do objęcia przez przepisy rozporządzenia zastosowań AI dla celów osobistych mogą negatywnie wpłynąć na postrzeganie nowego prawa w społeczeństwie. Treść przepisów w zakresie włączeń stosowania ustawy została ustalona w oparciu o uwagi zgłoszone w ramach uzgodnień opiniowania i konsultacji w tym przez podmioty z obszaru nauki. Termin „podstawowe badania naukowe” został zaczerpnięty z ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce. Mając na uwadze, że przepis dotyczy włączeń stosowania przepisów ustawy niezasadne jest Strona | 50 to nie same badania (podstawowe, aplikacyjne czy prace rozwojowe), lecz modele oraz systemy AI rozwinięte i oddane do użytku w c e l a c h badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Czwarty ustęp przepisu generuje również wiele nieporozumień. Wprawdzie pada w nim, że poza zakresem UoSSI pozostają „systemy wprowadzone do użytku wyłącznie dla celów, o których mowa w pkt 4”, ale dalsza część przepisu dodaje „przed wejściem w życie [AIA]”. Można zatem wnioskować, że poza zakresem zastosowania UoSSI znajdują się systemy powstałe w celach wyłącznie do celów naukowych, o ile zostały one wprowadzone do użytku przed wejściem w życie AIA. Takie rozumowanie byłoby jednak oczywiście błędne. Z pewnością art. 2 pkt 4 i 5 UoSSI wymaga modyfikacji. Ponadto wciąż uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. posługiwanie się terminologią mogącą wywoływać wątpliwości interpretacyjne. 16. ZPWC Art. 2 i Art. 4 Sceptyczne oceniamy sposób uregulowania zakresu stosowania ustawy (art. 2 i 4 Projektu). Uważamy, że odwołanie się jedynie do wybranych zakresów AIA i brak jasnego klucza doboru wyłączeń stwarza ryzyko niejasności i problemów interpretacyjnych. Wyłączenie spod zakresu Projektu osób fizycznych korzystających z AI do „czysto osobistej działalności pozazawodowej” powinno opierać się na ogólnej formule z art. 2 ust. 10 AIA, nie zaś na niezwykle skomplikowanym sformułowaniu art. 2 pkt 1 lit. a-e Projektu. Ponadto, kwestia wyłączenia „badań podstawowych, aplikacyjnych oraz prac rozwojowych” (art. 4 pkt 4 i 5 Projektu) z zakresu Projektu również budzi nasze obawy. Niewłaściwe jest sformułowanie, że ustawy \"nie stosuje się do (.) badań (...)\". Art. 2 ust. 6 AIA, który jest w tym punkcie wdrażany, wyraźnie stanowi, że AIA nie stosuje się do „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Aby uniknąć wątpliwości powstałych na gruncie polskiego wdrożenia uważamy, że lepsze byłoby odwołanie się wprost do brzmienia rozporządzenia. Uwaga wyjaśniona Przedmiotowe przepisy mają na celu zaadresowanie włączeń stosowania przepisów ustawy w zakresie jaki został określony w rozporządzeniu 2024/1689. Mając na uwadze zachowanie spójności z systemem prawa polskiego w projekcie ustawy posłużono się terminologią znaną systemowi prawa krajowego. 17. IA Chamber Art. 3 Podtrzymujemy uwagę dotyczącą przepisywania częściowo definicji z Rozporządzenia 2024/1689. Zastosowana tu technika legislacyjna budzi wątpliwości, a uzasadnienie nie zawiera wskazówek co do tego, dlaczego projektodawcy uznają ją za konieczną. Uwaga wyjaśniona Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i Strona | 51 często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 18. PIIT Art. 3 Jeżeli proponent podtrzymuje powtórzenie w treści krajowej ustawy definicji stosowanych bezpośrednio, to sugerujemy wykreślenie przynajmniej ust. 13 art. 3 Termin “organ właściwy” jest w prawodawstwie unijnym standardowo stosowanym termin, który pozwala na uwzględnienie różnorodności systemów prawa państw członkowskich i unikanie nazw rodzajowych typu “sąd”, “organ kontroli”, “komisja nadzoru” itp. Umożliwia to zarówno wdrożenie, jak i stosowanie, przepisów unijnego prawa zgodnie z krajowym ustrojem. Uwaga wyjaśniona Projektodawca podtrzymuje sposób uregulowania słowniczka ustawowego oraz jego zakres. Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 19. PTI Art. 3 pkt 1-16 Jest to niepełna kalka przytoczona z „RPEiR UE” 2024/1689, jeśli zachować ciągłość należałoby przytoczyć wszystkie pkt. Lub odwołać się do wszystkich punktów tj. (68) - Uwaga wyjaśniona Strona | 52 pkt. Art. 3 Oraz (180) -pkt. określenia zakresu funkcjonowania tzw. \"systemów AI” wybranie niektórych zagadnień sugeruje zawężenie działań prewencyjnych. Pełne przytoczenie Art. 3. „RPEiR UE” 2024/1689 z uwzględnieniem powołania krajowych organów tj. komisji. W „RPEiR UE” 2024/1689 szczegółowo określono wspomniane „określenia definiujące” ograniczanie ich na szczeblu krajowym w perspektywie może kolidować z ustawodawstwem UE i podważać działania organu krajowego. Brak lub niepełna definicja, mogą powodować zamieszanie prawne (np. podważanie decyzji podjętych na szczeblu krajowym w odniesieniu do uregulowań na szczeblu unijnym). Zgodnie z zasadami techniki legislacyjnej w projekcie ustawy zamieszcza się wyłącznie definicje pojęć użytych w treści projektu. 20. PTI Art. 3 pkt 1 System sztucznej inteligencji - system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; niepełna definicja LLM już na etapie „RPEiR UE” 2024/1689” świadczy o braku zrozumienia zagadnienia Prosimy o rozważenie zmiany definicji a także uzupełnienie jej o uwagę. „RPEiR UE” 2024/1689” „system AI” oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii oraz który może wykazywać zdolność adaptacji, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki. Uwaga: systemy AI są również określane jako duże modele językowe (Large Language Model – LLM). Odwołanie się do „RPEiR UE” 2024/1689” nie gwarantuje pra- widłowego definiowania pojęcia tzw. systemów sztucznej inteligencji, czyli LLM ponadto ograniczenie zawęża wyniki działania LLM nie wymienionych w definicji. Z tego względu proponujemy korektę definicji. Dodatkowo prosimy o rozważenie dopisania uwagi. Uwaga wyjaśniona Przepisy projektu ustawy mają służyć stosowaniu rozporządzenia 2024/1689. Przepisy te nie mogą poszerzać ani zawężać, modyfikować przepisów ww. rozporządzenia, które są stosowane bezpośrednio. 21. GRAI Art. 3 pkt 15 Propozycja zmiany definicji piaskownicy regulacyjnej Obecne brzmienie: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.” Proponowane brzmienie: Uwaga wyjaśniona Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 53 „Piaskownica regulacyjna – mechanizm umożliwiający dostawcom systemów sztucznej inteligencji walidację, testowanie i rozwój systemów AI na podstawie zgłoszenia, przy zapewnieniu minimalnych wymogów etycznych dla ram Trustworthy AI (Godnej zaufania sztucznej inteligencji) i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” > Zmiana: ● Usunięcie wymogu nadzoru nad każdym testem – rola państwa ograniczona do ogólnej kontroli. Testy na zgłoszenie, a nie na decyzję – mniej biurokracji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 22. PIIT Art. 4 Sugerujemy ograniczenie wyłączenia spod rygorów ustawy (obecnie całość zadań ustawowych wymienionych w przepisie służb) do zakresu przedmiotowego wyznaczonego przez przepisy, bezpośrednio stosowane, rozporządzenia 2024/1689. Nie można spod rygorów rozporządzenia 2024/1689 wyłączyć tych obszarów działania służb, które pozostają poza zakresem wyłączeń zdefiniowanych w rozporządzeniu 2024/1689, a mają np. związek z bezpieczeństwem wewnętrznym (ściganiem przestępczości pospolitej). Obecne brzmienie projektowanego przepisu narusza prawo Unii. Uwaga wyjaśniona W przepisie zwarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 23. Fundacja Panoptykon Art. 4 pkt 2 Zgodnie z art. 2 ust. 3 rozporządzenia nie stosuje się go „do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami”. Pojęcie bezpieczeństwa narodowego nie jest precyzyjnie zdefiniowane w prawie wspólnotowym. Mimo problemów interpretacyjnych, jakie rodzi pojęcie bezpieczeństwa narodowego, nie sposób zgodzić się ze stanowiskiem prezentowanym przez Ministra – Koordynatora Służb Specjalnych, postulującego całkowite wyłączenie stosowania projektowanej ustawy względem służb specjalnych. Taka regulacja byłaby niezgodna zarówno z orzecznictwem TSUE i ETPC, jak i analizą ustawowych zadań realizowanych przez służby specjalne. Pozytywnie zatem oceniamy intencję autorów projektu, by doprecyzować, w jakich sprawach nie stosuje się do działań służb specjalnych opiniowanego projektu. Jednak Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia Strona | 54 proponowane brzmienie art. 4 ust. 2 i ust. 3 projektu oceniamy krytycznie. Na podstawie analizy art. 4 ust. 2 niejasny jest zakres znaczeniowy tego przepisu, który może – od rozpoczęcia obowiązywania – budzić wątpliwości interpretacyjne. Naszym zdaniem doprecyzowania wymaga to, czy planowane wyłączenie dotyczyć ma: ● wszystkich spraw związanych z realizacją zadań ustawowych ABW, czy tylko ● tych „pozostających w bezpośrednim związku z działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej”, czy wreszcie ● wszystkich spraw, w tym działań pozostających w bezpośrednim związku z działaniami lokalizowania (...) jedynie w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy o ABW i AW. Najbardziej prawdopodobna wydaje się trzecia z wymienionych interpretacji. W tej sytuacji niejasna jest sytuacja Agencji Wywiadu, o której mowa w pierwszej części proponowanego przepisu (art. 4 ust. 2), podczas gdy na jego końcu mowa już tylko o „(...) zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa”, podczas gdy Agencja Wywiadu (zgodnie z przywołanym art. 2 ustawy o ABW i AW) zajmuje się ochroną bezpieczeństwa zewnętrznego państwa. Pozostając na gruncie trzeciej z możliwych interpretacji zwracamy uwagę, że odwołanie do art. 1 ustawy o ABW („Tworzy się Agencję Bezpieczeństwa Wewnętrznego właściwą w sprawach ochrony bezpieczeństwa wewnętrznego państwa i jego porządku konstytucyjnego”) bez odesłania do konkretnych zadań wymienionych w art. 5 ustawy rodzi kolejne wątpliwości interpretacyjne związane z pytaniem, czy wszystkie zadania realizowane przez ABW (także np. na podstawie odrębnych ustaw i umów międzynarodowych (por. art. 5 ust. 1 pkt 5 ustawy o ABW i AW) mieszczą się w zakresie ogólnej właściwości ABW wskazanej w art. 1 ustawy o ABW i AW. Przyjęcie takiej interpretacji prowadziłoby do wniosku, że de facto w zakresie wszystkich swoich zadań ABW nie podlega proponowanej regulacji. Przyjęcie z kolei odmiennej interpretacji wiązałoby się z koniecznością każdorazowej oceny, czy realizowane przez Agencję zadanie wiążę się z ogólną właściwością służby zgodnie z art. 1 ustawy o ABW. Taka regulacja byłaby w naszej ocenie skrajnie nieefektywna i niepraktyczna, zwłaszcza biorąc pod uwagę, że wskazane wyżej liczne wątpliwości interpretacyjne rozstrzygałaby w praktyce sama ABW będąc poniekąd „sędzią we własnej sprawie”. Analiza zadań ustawowych służb specjalnych wskazuje, że są nimi m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt określonego w rozporządzenia 2024/1689. Dodatkowe doprecyzowanie przepisów nie znajduje uzasadnienia. Strona | 55 2 lit. e ustawy o ABW). Tego typu przestępstwa nie mieszczą się nawet w szeroko rozumianej definicji bezpieczeństwa narodowego. W wyroku z 28 maja 2024 r. w sprawie Pietrzak, Bychawska-Siniarska i inni przeciwko Polsce Europejski Trybunał Praw Człowieka wskazał, że „w sprawach dotyczących praw podstawowych prawo byłoby sprzeczne z zasadą rządów prawa, jedną z podstawowych zasad społeczeństwa demokratycznego zapisanych w Konwencji, gdyby nie zawierało ograniczeń swobody decyzyjnej przyznanej władzy wykonawczej w sprawach bezpieczeństwa narodowego. W związku z tym ustawodawstwo musi określać zakres i sposób wykonywania takiego uprawnienia z wystarczającą jasnością – biorąc pod uwagę uzasadniony cel – aby zapewnić jednostce odpowiednią ochronę przed arbitralnością”. Trybunał Sprawiedliwości UE w wyroku w połączonych sprawach C-511/18, C-512/18 i C-520/18 wskazał, że państwa członkowskie nie mają pełnej swobody w zakresie regulacji dotyczących bezpieczeństwa narodowego: w kontekście możliwego w tym celu nałożenia na firmy telekomunikacyjne obowiązku retencji danych Trybunał wskazał, że jest to możliwe, jeśli ustawodawca zapewni, że zatrzymywanie danych będzie uzależnione od spełnienia związanych z nim materialnych i proceduralnych warunków oraz że osoby, których dane dotyczą, dysponują skutecznymi gwarancjami chroniącymi przed ryzykiem nadużyć. W związku z tym naszym zdaniem konieczna jest ponowna analiza zaproponowanego wyłączenia, które – w naszej ocenie – powinno dotyczyć konkretnych jednostek redakcyjnych wskazanych w art. 5 ust. 1 ustawy o ABW i AW. odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1-2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. 24. Fundacja Panoptykon Art. 4 pkt 3 Przechodząc do analizy art. 4 ust. 3 (wyłączenie dotyczące Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego) jego interpretacja także rodzi wątpliwości ze względu na odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1- 2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg Strona | 56 projektodawcy przepis oddaje właściwą intencję wyłączenia. 25. GRAI Art. 4 pkt 3 Art. 4 pkt 3 może wzbudzać wątpliwości interpretacyjne, a dotyczy ważkiej kwestii zakresu wyłączenia stosowania ustawy w kontekście badań naukowych. Warto rozważyć uproszczenie art. 4 pkt 3, bowiem występują dwie negacje – ustawy nie stosuje się do (...) w zakresie, który nie obejmuje testów (...), co może utrudniać zrozumienie tego przepisu. Ponadto, jeśli zamiarem projektodawcy było wprowadzenie do ustawy wyjątku od jej stosowania w ślad za wyłączeniem z art. 2 ust. 7 rozporządzenia 2024/1689, obecne brzmienie art. 4 pkt 3 wydaje się tylko częściowo korespondować z intencją prawodawcy unijnego, która została wyrażona w części nienormatywnej rozporządzenia, czyli w motywie 25 preambuły. Wydaje się też, że przy konstruowaniu wyłączenia w ustawie bardziej trafne byłoby posłużenie się kryterium podobnym do znajdującego się w art. 2 ust. 7 rozporządzenia 2024/1689, czyli „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych” zamiast „badań podstawowych, aplikacyjnych oraz prac rozwojowych”. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 26. ICC Poland Art. 4 pkt 4 Zgodnie z art. 4 pkt 4 Projektu, ustawy nie stosuje się do „4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689” [podkreślenie własne]. Obecna redakcja tego wyłączenia, z uwagi na jej skomplikowany charakter, może błędnie sugerować, że art. 4 pkt 4 Projektu wyłącza zastosowanie ustawy w stosunku do wprowadzania do obrotu lub oddawania do użytku wszelkich systemów sztucznej inteligencji dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, nie tylko w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych. W konsekwencji wskazany przepis wymaga doprecyzowania, jak również rozważenia jego kompatybilności z wyłączeniami z art. 2 ust. 6 i 8 rozporządzenia 2024/1689. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 27. ZPTC Lewiatan Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego nie oddaje tego czym w rzeczywistości ma się zajmować regulator. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 57 Jedynym zadaniem Komisji związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem Komisji związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa, w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań, leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jak najlepiej jej charakter. 28. IA Chamber Art. 5 i następne Podobnie nadal niedoskonałe, mimo pozytywnych zmian, wydają się przepisy powołujące Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, na co wskazaliśmy w poprzedniej opinii. Umocowanie Przewodniczącego KRiBSI, jako jednoosobowego organu administracji centralnej, wydaje się rozwiązaniem lepiej pasującym do polskiej tradycji prawa administracyjnego i pozwalającym uniknąć szeregu trudności, które są konsekwencji przyjętej formuły, w której KRiBSI jest organem kolegialnym, w którym część członków jest zatrudniona w Biurze KRiBSI, a część reprezentuje jedynie inne organy. Jednocześnie i Komisja i jej Przewodniczący są organami Biura, co jest nader złożona konstrukcją prawną. Wydaje się, że projektodawcy sami dostrzegają mankamenty przyjętej konstrukcji, dając możliwości delegowania uprawnień decyzyjnych Komisji na rzecz Przewodniczącego. Można się spodziewać, że będzie to możliwość często wykorzystywana, gdyż zapewni odpowiednią efektywność proceduralną np. w sprawach indywidualnych, gdzie kolegialność organu nie wnosi z reguły wartości dodanej, a spowalnia postępowanie. Konsekwentnie Biura KRiBSI powinno wtedy nosić nazwę “Urzędu KRiBSI”. Uwaga wyjaśniona Przepisy w zakresie powołania i funkcjonowania KRIBSI oraz Biura komisji uległy w wyniku rozpatrzonych uwag kolejnym zmianom. Pozostano jednak przy koncepcji kolegialnego organu nadzoru. 29. AmCham Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uwaga wyjaśniona Strona | 58 Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji lub inna oddająca rzeczywisty charakter regulatora Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś nazwa Komisji nie zawiera słowa„systemy”. Podobnie jak w przypadku innych organów regulacyjnych istotne jest, aby nazwa Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. 30. GRAI Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja zmiany nazwy organu na np. „Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji” lub inna nazwa oddająca rzeczywisty charakter regulatora i zakresu spraw, którymi się zajmuje. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować ten organ. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice regulacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym wprost z europejskiej regulacji. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 59 Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i z wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś Komisja już w proponowanej nazwie gdzieś zgubiła słowo „systemy”. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Tym samym podtrzymujemy uwagę zgłoszoną w tym zakresie do poprzedniej wersji projektu z października 2024 r. Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. 31. GRAI Art. 5 W projekcie zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Uwaga wyjaśniona Zdaniem projektodawcy nazwa „Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” w pełni oddaje jego cele i zadania. 32. GRAI Art. 5 ust. 1 i 2 - Propozycja zmiany organizacji nadzoru nad AI (Art. 5) > Obecne brzmienie: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Uwaga wyjaśniona Treść uwagi wykracza poza zakres Strona | 60 > Nowa wersja Art. 5 ust. 1 i 2 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.” 2. „Komisja nie ingeruje w proces testowania systemów AI, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.” > Zmiana: ● Komisja nie kontroluje każdego testu, a jedynie prowadzi nadzór systemowy. Firmy same zgłaszają testy przewidziany dla ustawodawcy krajowego przez przepisy rozporządzenia. 33. PIIT Art. 5 ust. 3 Sugerujemy skreślenie ust. 3 art. 5 lub zastąpienie go przepisem ogólnym przypominającym o współpracy w ramach administracji rządowej lub nawet publicznej. Komisja jest uprawniona do kontroli i egzekwowanie przepisów rozp. 2024/1689 wobec wszystkich osób, chyba że przepisy rozp. stanowią inaczej. Ma możliwość kontroli systemów, a nakaz współpracy z innymi organami administracji w szerszym zakresie wynika z ogólnych przepisów. Uwaga wyjaśniona W celu właściwej realizacji przepisów rozporządzenia 2024/1689 oraz ustawy oraz wynikających z nich zadań Komisji zdaniem projektodawcy konieczne jest utrzymanie przepisów o współpracy KRiBSI z podmiotami wskazanymi w art. 5 ust. 3. 34. ZBP Art. 5 ust. 3 pkt 1 W nowej wersji projektu ustawy o systemach sztucznej inteligencji w dalszym ciągu brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Jednoznaczne rozstrzygnięcie zakresu nadzoru KRiBSI i KNF nad systemami sztucznej inteligencji jest niezbędne dla zapewnienia przejrzystych zasad nadzoru. Przepisy ustawy powinny jednoznacznie określać na czym polega współpraca KRiBSI z KNF oraz wskazywać czy w polskim porządku prawnym będzie nadzór KNF w zakresie AI na zasadzie określonej w art. 74 ust. 6 AI Act, czy Polska jako państwo członkowskie będzie korzystać z odstępstwa, o którym mowa w art. 74 ust. 7 AI Act. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować Strona | 61 powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. 35. GRAI Art. 5 ust. 3 pkt 1 Brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy w dalszym ciągu nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemni prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. Strona | 62 36. ICC Poland Art. 5 ust. 3 pkt 3 Za proponowanym usunięciem przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych ze składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) (nowy art. 6 ust. 2 Projektu), niezależnie od oceny tej zmiany, powinno podążyć rozszerzenie zakresu współpracy pomiędzy Komisją a Prezesem Urzędu Ochrony Danych Osobowych. Tymczasem, pomimo dokonania zmiany w składzie Komisji względem projektu z 15 października 2024 r., zmianie nie uległ art. 5 ust. 3 pkt 3 Projektu, zgodnie z którym: „W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...); 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Wobec rezygnacji z udziału przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych jako członka Komisji, zakres spraw wymagających współpracy pomiędzy tymi organami powinien ulec rozszerzeniu i nie ograniczać się wyłącznie do spraw, w których współpracy takiej wymaga wprost samo rozporządzenie 2024/1689. Nadzór nad systemami sztucznej inteligencji wielokrotnie będzie ściśle wiązał się z nadzorem nad przetwarzaniem danych osobowych (np. danych osobowych podmiotów stosujących, danych osobowych zawartych w danych treningowych systemów sztucznej inteligencji), a w konsekwencji wymagał współpracy Komisji i Prezesa Urzędu Ochrony Danych Osobowych. W konsekwencji proponuje się następującą zmianę art. 5 ust. 3 pkt 3 Projektu: W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...) 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie, w jakim systemy sztucznej inteligencji wiążą się z przetwarzaniem danych osobowych oraz w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 oraz art. 101 projektu ustawy. Uregulowanie zakresu współpracy w zakresie, o którym mowa w uwadze zostanie rozstrzygnięte w późniejszym okresie w ramach pracy nad dostosowaniem przepisów prawa do wymogów związanych z nadzorem nad systemami wysokiego ryzyka (art. 6 rozporządzenia), do czego konieczne jest uprzednio opublikowania przez Komisję Europejską aktów delegowanych i materiałów merytorycznych Strona | 63 dookreślających stosowanie przepisów rozporządzenia w odniesieniu do tych systemów. 37. Polskie sieci elektroenerget yczne Art. 5 ust. 3 pkT 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 38. GRAI Art. 5 ust. 3 pkt 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 39. Stowarzyszen ie Autorów ZAiKS Art. 5 ust. 3 nowy pkt 11) oraz zmiana numeracji pkt. 11 i 12 Art. 5 ust. 3 pkt 11) Projektu otrzymuje następujące brzmienie: „3. W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: 11) ministrem właściwym spraw kultury i ochrony dziedzictwa narodowego - w zakresie realizacji obowiązków wynikających z art. 53 rozporządzenia 2024/1689;” Pkt 11-12 w art. 5 ust. 3 otrzymują numerację odpowiednio: 12-13. UZASADNIENIE: Sprzeciwiamy się wprowadzonym w Projekcie zmianom w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”), które nie tylko nie zapewniły, proponowanego przez większość organizacji reprezentujących środowiska kreatywne, obligatoryjnego udziału przedstawiciela ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego. Zrezygnowano również z jednoznacznego wskazania możliwości udziału przedstawiciela tego resortu w charakterze doradczym, wprowadzając enigmatyczną możliwość doradzania Komisji przez „przedstawicieli podmiotów publicznych”. Jedynym organem związanym w jakikolwiek sposób z sektorami kreatywnymi, który ma współpracować z Komisją, jest Krajowa Rada Radiofonii i Telewizji, przy czym działać ma ona jedynie w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w ramach działalności dostawców usług medialnych, wskazanych w ustawie Uwaga wyjaśniona Art. 5 ust. 3 stanowi, że KRiBSI współpracuje z ministrami w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. Strona | 64 o radiofonii i telewizji, czyli nie w zakresie wszystkich podmiotów, na których sytuację wpływ mają te systemy. Należy ponownie zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. 9 Projektu jest „sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689\" oraz „wydawanie postanowień i decyzji w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy”. AI Act w art. 53 w stosunku do dostawców modeli Gen AI przewiduje szereg obowiązków, w tym wprowadzanie polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen AI. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Z tego względu udział przedstawicieli resortu kultury nie może być wyłącznie konsultacyjny. Jeżeli przedstawiona argumentacja nie znalazłaby odzwierciedlenia w zmianach do Projektu, postulujemy, o co najmniej wprowadzenie w art. 5 do Projektu. 40. FinTech Poland Art. 6 a. Rozszerzony skład komisji Zgodnie z Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. UE. L. z 2024 r. poz. 1689) („Rozporządzenie SI”) nowo powołany (lub wzmocniony nowymi kompetencjami istniejący) organ ds. SI powinien nadzorować cały ruch na rynku sztucznej inteligencji. W ramach swoich kompetencji organ nie tylko monitoruje przestrzeganie uchwalonego prawa, lecz także ma obowiązek opracowywania kodeksów dobrych praktyk oraz moderowania standardów rynkowych. Aby usprawnić te działania, konieczne jest zapewnienie w składzie polskiego organu, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”), uwzględniono głos środowiska wysoko wyspecjalizowanego. NASK obecnie pełni kluczową rolę w zakresie cyberbezpieczeństwa i zarządzania infrastrukturą polskiej sieci internetowej, będąc instytucją o ugruntowanym autorytecie. Jako jednostka skupiająca najlepszych ekspertów w dziedzinie inżynierii cyfrowej, NASK dysponuje unikalnym zapleczem naukowym i technologicznym. Włączenie jego przedstawiciela do Komisji zapewni, że jej decyzje będą oparte na rzetelnej wiedzy eksperckiej i uwzględnią aktualne wyzwania związane z bezpieczeństwem cyfrowym. Tym samym jego głos będzie głosem nauki i techniki, co pozwoli na podejmowanie optymalnych i przyszłościowych rozwiązań w zakresie działań Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Strona | 65 41. IA Chamber Art. 6 ust. 2 Projektodawcy nie wyjaśniają w uzasadnieniu (ponownie!), na podstawie jakich kryteriów wskazują w art. 6 ust. 2 instytucje, które będą reprezentowane w KRiBSI. Jej skład został ograniczony, co można uznać za pozytywny ruch, ale dobór nadal budzi wątpliwości. Wykluczenie przedstawicieli ministerstw można zrozumieć (choć z braku uzasadnienia to spekulacja) jako próbę zapewnienia Komisji większej niezależności, ale skutkować będzie oderwaniem Komisji od gremium decyzyjnego, które może mieć faktyczny wpływ na rozwój SI w Polsce. Projektodawcy deklarują cel zapewnienia udziału “organów kluczowych” dla nadzoru i rozwoju SI w KRiBSI, ale pod żadnym względem nie można za takowy uznać Rzecznika Praw Dziecka. W składzie brakuje zaś (poza ministrami) przedstawicieli instytucji, które faktycznie mają wiedzę fachową w zakresie SI (NASK, Instytut Badawczy IDEAS). Uwaga wyjaśniona 1.Uzasadnienie do projektu ustawy do art. 6 zostało rozbudowane. 2.Przedstawiciele ministerstw w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji nie wchodzą w skład KRiBSI w celu zapewnienia należytej niezależności organu. Będą oni jednak mogli uczestniczyć w posiedzeniach Komisji bez prawa głosu na zasadach określonych w art. 6 ust. 4. 3.Nie jest planowane rozbudowanie składu Komisji o takie podmioty jak (NASK, Instytut Badawczy IDEAS. 4.Przedstawiciele tych podmiotów będą natomiast mogli uczestniczyć w posiedzeniach Komisji na zasadach określonych w art. 6 ust. 3. 5.W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi Strona | 66 przedstawiciel Rzecznika Praw Dziecka. 42. AmCham Art. 6 ust. 2 W świetle projektowanych przepisów Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma się składać wyłącznie z przedstawicieli następujących organów: Prezes UOKiK, KNF, Rzecznik Praw Dziecka, KRRiT, Prezesa UKE, Państwowej Inspekcji Pracy oraz Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Zatem Komisja ma się składać wyłącznie z przedstawicieli organów regulacyjnych, których głównym zadaniem jest kontrola, nadzór i egzekwowanie przestrzegania sektorowych przepisów prawa, w tym nakładanie kar pieniężnych. Trudno wyobrazić sobie, aby Komisja, składająca się wyłącznie z przedstawicieli organów kontroli i nadzoru, faktycznie była w stanie perspektywę inną niż ta wynikająca z doświadczeń w zakresie kontroli i nadzoru. Celem zapewnienia zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinna zostać poszerzona o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców, ze względu na swoją nadrzędną rolę w kształtowaniu polityki AI. Obecność ekspertów z tych dziedzin wzbogaciłaby Komisję o niezbędną wiedzę specjalistyczną i zapewniłaby zrównoważone podejście do rozwoju sztucznej inteligencji w Polsce. Włączenie przedstawicieli nauki, takich jak profesorowie uniwersytetów, badacze z instytutów naukowych czy eksperci z organizacji pozarządowych, pozwoliłoby Komisji uwzględniać najnowsze osiągnięcia badawcze i trendy technologiczne w dziedzinie AI. To z kolei umożliwiłoby podejmowanie decyzji opartych na rzetelnej wiedzy naukowej. Dzięki temu Polska mogłaby skuteczniej konkurować na arenie międzynarodowej w dziedzinie badań i rozwoju AI, przyciągając inwestycje i talenty z zagranicy. Z kolei obecność przedstawicieli organizacji przedsiębiorców w Komisji zapewniłaby lepsze zrozumienie praktycznych aspektów wdrażania AI w biznesie. Ich doświadczenie i wiedza byłyby nieocenione przy tworzeniu regulacji, które sprzyjałyby innowacjom i inwestycjom. Podsumowując, poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców jest niezbędne, aby zapewnić zrównoważony i odpowiedzialny rozwój sztucznej inteligencji w Polsce. Tylko takie kompleksowe podejście, uwzględniające perspektywy różnych dziedzin i sektorów, pozwoli na wykorzystanie potencjału AI dla dobra całego społeczeństwa, jednocześnie minimalizując ryzyko związane z jej zastosowaniem. W ten sposób Polska może stać się liderem w dziedzinie sztucznej inteligencji, kształtując przyszłość technologii w sposób odpowiedzialny i zrównoważony. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Strona | 67 43. FinTech Poland Art. 6 ust. 2 W Projekcie ustawy wprowadzono pozytywną zmianę poprzez ograniczenie składu Komisji, co może usprawnić jej działanie. Jednak budzi poważne zastrzeżenia fakt, że nie przewidziano w niej udziału przedstawicieli instytucji posiadających specjalistyczną wiedzę techniczną o AI, cyberbezpieczeństwie, takich jak NASK czy instytut badawczy IDEAS. Ich obecność mogłaby zapewnić bardziej merytoryczne podejście do działań podejmowanych przez Komisję i lepsze dostosowanie przepisów do realiów technologicznych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 44. KIGEiT Art. 6 ust.2 Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Uwaga częściowo uwzględniona+ Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. Udział w posiedzeniach przedstawicieli instytucji posiadających wiedzę ekspercką, jak m.in. PURPLWMiPB będzie możliwy, za zgodą Przewodniczącego będzie możliwy (na zasadzie obserwatora bez prawa głosu). Dodatkowo, w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka. Strona | 68 45. PIIT Art.6 ust.2 Skład Komisji Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Zob. Także uwagi ogólne. Uwaga częściowo uwzględniona Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka ani PURPLWMiPB. 46. PIIT Art. 6 ust. 2 W skład Komisji powinni wchodzić przedstawiciele nauki oraz organizacji pozarządowych. Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicieli różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców co jest niezbędne, jeśli Komisja faktycznie ma być Komisją Rozwoju Sztucznej Inteligencji, a nie tylko Komisją Bezpieczeństwa Sztucznej Inteligencji. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckie. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły Strona | 69 również wskazać kandydatów na członków Społecznej Rady. 47. Polskie sieci elektroenerget yczne Art. 6. ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka wyznaczonego przez Pełnomocnika Rządu do spraw Cyberbezpieczeństwa, np. z CSIRT NASK Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt 6. 48. Związek Cyfrowa Polska Art. 6 ust. 2 Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicielami różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckiej. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Udział niezależnych przedstawicieli społecznych nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Wręcz przeciwnie – zwiększy transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły również wskazać Strona | 70 kandydatów na członków Społecznej Rady. 49. GRAI Art. 6 ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka związanego np. z CSIRT NASK Jest: Prezes Urzędu Ochrony Danych Osobowych (PUODO) został usunięty z Komisji. Propozycja: Proponujemy przywrócenie Prezesa UODO lub wprowadzenie przymusowego mechanizmu komunikacji z nim w sprawach zw. z przetwarzaniem danych osobowych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt. 6. 50. ZPTC Lewiatan Art. 6 ust. 2a w związku z Art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu 2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez zapisu dotyczącego obligatoryjnego zapraszania na posiedzenia Komisji „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego Strona | 71 miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 51. GRAI Art. 6 ust. 2a w związku z art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu: „2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.”. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw Strona | 72 będących przedmiotem posiedzenia. 52. FinTech poland Art. 6 ust. 3 pkt 1 W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakładana jest współpraca pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpraca z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować wprzyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy organów PUODO, KNF z KRIBSI. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust.1 i 3 oraz art. 99 i art. 101 projektu ustawy. Planowana współpraca powinna zawierać między innymi możliwość wymiany informacji w zakresie prowadzonych postępowań w sprawach z zakresie systemów sztucznej inteligencji. 53. KIGEiT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby, którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 54. PIIT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające Strona | 73 Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 55. AmCham Art. 6 ust. 2a w związku z art. 6 ust. 3 oraz art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu „Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.” Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”). Tymczasem w przypadku podmiotów, które są wymienione w art. 5 ust. 3 wykonanie tej kompetencji powinno mieć charakter obligatoryjny. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 56. Związek Cyfrowa Polska Art. 6 ust. 4 Brak wynagrodzenia dla członków Komisji może obniżyć efektywność jej działania, zwłaszcza w obliczu licznych obowiązków wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Pozostawienie tej kwestii do uznania instytucji Uwaga wyjaśniona Strona | 74 delegujących członków nie gwarantuje stabilności funkcjonowania Komisji. Rekomendujemy zapewnienie członkom Komisji odpowiedniego wynagrodzenia za ich pracę. Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. 57. SFP-ZAPA Art. 7 Włączenie przedstawiciela Ministra Kultury i Dziedzictwa Narodowego w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a co najmniej wyposażenie go w prawo głosu w tych posiedzeniach, w których będzie brał udział (art. 7 Projektu). Minister jest organem właściwym w sprawach związanych z prawami autorskimi i prawami pokrewnymi, które z punktu widzenia rozwoju sztucznej inteligencji są niezwykle istotne, stąd też nie powinien być pomijany przy tworzeniu Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Ministrowie będą mogli uczestniczyć w posiedzeniach komisji jako stali obserwatorzy bez prawa głosu - art. 6 ust. 4. 58. GRAI Art. 7 ust. 2 Uzasadnienia wymaga wskazanie do składu Komisji przedstawicieli Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, KRRiT, Rzecznika Praw Dziecka oraz Prezesa UKE. Dlaczego brakuje RPO? Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Strona | 75 Wskazane w uwadze podmioty zostały wyłączone z jej składu. Uzasadnienie projektu ustawy o systemach sztucznej inteligencji zostało rozbudowane. Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie w związku ze zgłoszoną przez siebie uwagą. 59. PTI Art. 7 ust. 4 i 5 Czy protokoły i uchwały są z założenia publicznie dostępne? Jeśli tak, to gdzie będą publikowane? Dodać zapis: „Posiedzenia Komisji są jawne, a protokoły z posiedzeń – publicznie dostępne”. Warto uściślić sposób i poziom dostępu do protokołów i uchwał. Uwaga wyjaśniona Zgodnie z art. 77 ust. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. 60. KIGEiT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uwaga wyjaśniona Projektodawca utrzymuje aktualny przepis art. 7 ust. 9. W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może Strona | 76 być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 61. PIIT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 62. ICC Poland Art. 8 pkt 4 Zgodnie z art. 8 pkt 4 Projektu Przewodniczący Komisji wskazuje organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także publikuje i aktualizuje ich wykaz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz przekazuje informacje w tym zakresie Komisji Europejskiej oraz państwom członkowskim Unii Europejskiej. O ile obowiązki w zakresie publikacji i przekazywania informacji mają charakter czysto techniczny i wpisują się w katalog zadań Przewodniczącego Komisji jako kierującego jej pracami, to należałoby rozważyć, czy kompetencja w zakresie wskazywania organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689 oraz aktualizowania tego wykazu zgodnie z art. 77 ust. 2 rozporządzenia 2024/1689 nie powinna należeć do Komisji jako organu nadzoru nad rynkiem systemów sztucznej inteligencji, nie zaś samodzielnie Przewodniczącemu Komisji. Uwaga wyjaśniona Mając na uwadze zapewnienie rozdziału kompetencji pomiędzy Komisją a przewodniczącym Komisji kompetencja wskazana w uwadze powinna należeć do Przewodniczącego Komisji. 63. AmCham Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o AI. Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do rozbieżności w wykładni i stosowaniu. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z Strona | 77 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem o AI i wytycznymi Biura ds. AI. prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 64. ZPTC Lewiatan Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się Strona | 78 zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689”. 65. IWP Repropol Art. 9 Dostrzegliśmy, że poprawiona wersja projektu zawiera odwołanie do definicji modelu AI ogólnego przeznaczenia, jak i art. 2 ust. 2 UoSSI („O ile przepisy ustawy nie stanowią inaczej, przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia”). Zdecydowanie uważamy, jednakże, że KRIBSI odgrywa – obok Urzędu ds. AI – na tyle istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), że katalog jej obowiązków zawarty w art. 9 UoSSI powinien zostać uzupełniony również o ten wymiar. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI może być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Uwaga uwzględniona Dodano do art. 9, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 66. ZPWC Art. 9 Doceniamy poczynione w drugiej wersji projektu ustawy nawiązanie do modeli AI ogólnego przeznaczenia (GPAIM, art. 2 ust. 2 Projektu). Uważamy jednocześnie, że z uwagi na rolę KRIBSI (obok Urzędu ds. AI) przy funkcjonowaniu GPAIM, kompetencja polskiego organu w odniesieniu do GPAIM powinna zostać ujęta expressis verbis w katalogu kompetencji KRIBSI (art. 9 Projektu). Uwaga uwzględniona Dodano do art. 9 pkt 17, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 67. PTI Art. 9 pkt 3 i 14 Propozycja: Prosimy o przeredagowanie punktów, aby uniknąć dublowania zapisów Uzasadnienie: Jak w propozycji Uwaga wyjaśniona Zdaniem projektodawcy konieczne jest utrzymanie zarówno Strona | 79 punktu 3, jak i 14 w art. 9. 68. ZPTC Lewiatan Art. 10 ust. 1 Jest: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania. Propozycja: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji. Uzasadnienie: zapis szczególny mówiący, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. W przypadku braku zaproszenia do opiniowania, inicjatywa może i powinna być po stronie Komisji. Por. Art. 9 punkt 5) Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 69. GRAI Art. 10 ust.1 Jest: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania.”. Propozycja: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji.”. Uzasadnienie: Przepis, który stanowi o tym, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. Brak zaproszenia do opiniowania może wynikać nie tylko ze złej woli, ale także być wynikiem błędu lub braku zrozumienia, że opiniowany dokument może być związany ze stosowaniem sztucznej inteligencji. Inicjatywa zatem może wtedy leżeć po stronie Komisji. por. art. 9 punkt 5 Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 70. GRAI Art. 11 Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7) art. 11, dopiero po zadaniach związanych m.in. ze wspieranie rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i i stosowania systemów SI czy udziale w Uwaga wyjaśniona Podejmowanie działań mających na celu Strona | 80 opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji jako zadanie Komisji znalazło umiejscowienie w art. 9 pkt 3. 71. GRAI Art. 11 Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Uwaga wyjaśniona Szczegółowe rozwiązania związane piaskownicami regulacyjnymi znajdują się w rozdziale 8 projektu ustawy. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 72. KIGEiT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Nie ma jasności, co do charakteru prawnego wyjaśnień, należałoby sprecyzować. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast, co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O Strona | 81 np. w zakresie formy i zawartości wniosku, opłaty itd., Powstaje pytanie, czym różnią się wyjaśnienia od opinii indywidualnych? ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 73. PIIT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 74. KIGEiT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uwaga uwzględniona Numer rozporządzenia został poprawiony 75. PIIT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia Uwaga uwzględniona Numer rozporządzenia został poprawiony. Strona | 82 Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. 76. IA Chamber Art. 12 W art. 12 odwrotnie zapisany jest numer rozporządzenia - 1689/2024 zamiast 2024/1689 (uwaga redakcyjna). Uwaga uwzględniona Numer rozporządzenia został poprawiony. 77. KIGEiT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 78. PIIT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie Strona | 83 zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 79. KIGEiT Art.12 ust.1 Błędna numeracja rozporządzenia, winno być: 1689/2024/1689. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 80. PIIT Art.12 ust.1 zła numeracja rozporządzenia: 1689/2024/1689, błędna numeracja. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 81. AmCham Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym w zakresie pozostaje w tej sytuacji niezasadne. 82. ZPTC Lewiatan Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Podmioty mogą ponieść dodatkowe koszty i wysiłki na przygotowanie własnego stanowiska, jednak nie powinno to być obowiązkowe. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że Strona | 84 niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 83. GRAI Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym zakresie pozostaje w tej sytuacji niezasadne. 84. GRAI Art. 12 ust. 6 w związku z ust. 9 Jest: „6. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w ust. 2 i 3, Komisja wzywa podmiot, który go złożył, do uzupełnienia braków w terminie 7 dni. W przypadku nieuzupełnienia braków w Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii Strona | 85 wyznaczonym terminie, wniosek pozostawia się bez rozpatrzenia, a wniesioną opłatę uznaje się za nienależną. (...) 9. Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. Komisja informuje podmiot, który złożył wniosek o opinię indywidualną, o tym, że uznaje przypadek za szczególnie skomplikowany.”. Propozycja brzmienia: „6. W przypadku [.]za nienależną. W przypadku, gdy zachodzi uzasadniona obawa, że wydanie opinii w terminach określonych w ust. 9 nie będzie możliwe, Komisja odmawia przyjęcia wniosku o wydanie opinii indywidualnej.”. Uzasadnienie: Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu (w związku z art. 12 ust. 10 i 12), które byłoby możliwe w sytuacjach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia ust. 6 w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 85. ZBP Art. 12 ust. 9 Analogicznie do wszelkich innych postępowań (w szczególności administracyjnym) od opinii indywidualnej powinno służyć odwołanie, aby zapewnić podmiotom składającym wniosek o wydanie opinii prawo do kontroli wydanej opinii przez inny niezależny i bezstronny organ (sąd), co zapewni obywatelowi poczucie sprawiedliwego rozstrzygnięcie jego sprawy. Uwaga wyjaśniona Od opinii indywidualnej nie służy odwołanie. Jest to szczególny rodzaj opinii, który na podstawie przepisów ustawy może podlegać weryfikacji i zmianie przez samą Komisję. 86. KIGEiT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 87. PIIT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Błędna numeracja odwołania Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. Strona | 86 88. GRAI Art. 12 ust. 10 w związku z ust. 12 Jest: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. (...) „12. Opinia indywidualna nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej.”. Propozycja brzmienia: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Komisja może wydać opinię po upływie terminów wskazanych w ust. 9, uznając stanowisko podmiotu za niepotwierdzone w zakresie wskazanym zaległą opinią od dnia jej wydania.”. Uzasadnienie: Błąd redakcyjny w numeracji ustępów. Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu w przypadkach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 89. GRAI Art. 12 ust. 11 Uwaga redakcyjna: Brakuje rozdzielania w sformułowaniu „sądowo - administracyjnego”. Uwaga wyjaśniona Przepisowi ust. 13 nadano brzmienie zgodnie z treścią uwagi. 90. ICC Poland Art. 12 ust. 10 i ust. 12 Artykuł 12 ust. 12 Projektu określa skutek prawny wydania opinii indywidualnej, zgodnie z którym opinia taka „nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Równocześnie zgodnie z art. 12 ust. 10 Projektu „niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną” [podkreślenie własne]. Porównanie obu ww. przepisów może rodzić wątpliwości czy fikcja potwierdzenia stanowiska, o której mowa w art. 12 ust. 10 Projektu, wywoła skutek z art. 12 ust. 12 Uwaga uwzględniona Przepisowi ust. 10 nadano brzmienie zgodnie z treści uwagi. Strona | 87 Projektu, tj. czy zastosowanie się podmiotu, który złożył wniosek o opinię indywidualną i nie została ona wydana w terminie, do stanowiska przedstawionego we wniosku nie będzie mogło stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Zachodzi zatem konieczność zapewnienia kompatybilności obu tych przepisów. Cel ten może zostać osiągnięty przez następującą zmianę art. 12 ust. 10 Projektu: Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Na marginesie, wobec treści art. 12 ust. 10 Projektu oraz art. 115 ust. 3 Projektu, przewidującego zwołanie pierwszego posiedzenia Komisji w terminie maksymalnie 3 miesięcy od dnia wejścia w życie ustawy, wydaje się konieczne uregulowanie w ramach przepisów przejściowych, od kiedy możliwe jest składanie wniosków o wydanie opinii indywidualnych (również w kontekście potrzeby zorganizowania Biura Komisji). 91. ZBP Art. 12 ust. 11 Literówka. Brakuje rozdzielania w sformułowaniu „sądowoadministracyjnego” Uwaga uwzględniona Przepis ust. 13 otrzymał brzmienie zgodnie z treścią uwagi. 92. ZBP Art. 12 ust. 12 Opinia indywidualna jest wydawana na wniosek zainteresowanego podmiotu. Wydanie tej opinii powinno zostać uregulowane analogicznie do wydania interpretacji indywidualnej, czyli powinna ona być wiążąca dla Komisji i innych organów w danej sprawie. Należy mieć na uwadze, że interpretacja przepisów służy podjęciu przez dany podmiot oceny dotyczącej wprowadzenia danego systemu lub rozwiązania dotyczącego AI, co wiąże się ze znacznymi nakładami finansowymi oraz dostosowaniem innych wewnętrznych systemów oraz regulacji dotychczas stosowanych w danym podmiocie. Z tego względu niewiążąca opinia nie będzie stanowiła gwarancji właściwej interpretacji danych przepisów i spowoduje to stan permanentnej niepewności dotyczącej wprowadzanych systemów AI i brak bezpieczeństwa obywateli do wydawanych opinii indywidualnych. Celem złożenia wniosku o wydanie opinii indywidualnej jest zapewnienie podmiotowi bezpieczeństwa w zakresie stanu faktycznego i interpretacji przepisów znajdujących zastosowanie do tego stanu faktycznego objętego wnioskiem. W przeciwnym razie instytucja ta nie będzie spełniała swoich podstawowych funkcji. Z tego względu proponujemy alternatywne brzmienie przepisu: „Opinia indywidualna nie jest wiążąca dla Komisji i innych organów państwowych i jednostek organizacyjnych właściwych dla przedsiębiorcy podmiotu, który złożył wniosek i zakresie danej sprawy we wskazanym we wniosku stanie faktycznym. z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji Uwaga uwzględniona Przepis otrzymał brzmienie zgodne z treścią uwagi. Strona | 88 administracyjnej.Opinia może zostać zmieniona jedynie w drodze wznowienia postepowania. Opinia nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły nieodwracalne skutki.” 93. ZBP Art. 12 ust. 13 Żaden podmiot (np. przedsiębiorca) nie ma wiedzy o innych toczących się postepowaniach przed Komisją lub sądem. Dodatkowo w przypadku, gdy inny podmiot złoży odwołanie od wydanej na podstawie jego wniosku decyzji to postepowanie takie może długo trwać, a zamyka drogę do rozpoznania sprawy innego podmiotu. Inna sytuacja jest w przypadku, gdy decyzja w analogicznej sprawie została już wydana. Powinna ona być nie tylko rozstrzygnięta, ale też opublikowana, aby każdy miał do jej treści łatwy dostęp. Z tego względu proponujemy alternatywne brzmienie przepisu: Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o opinię indywidualną są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowoadministracyjnego w wyniku złożenia przez dany podmiot wcześniejszego wniosku o wydanie opinii albo gdy w tym zakresie sprawa została rozstrzygnięta i opublikowana. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 89 wymagane dla osiągniecia celu wskazanego w uwadze. 94. Związek Cyfrowa Polska Art. 12 ust. 13- 15 Projektowana ustawa nie precyzuje - a powinna- że wnioskodawca nie poniesie negatywnych konsekwencji za udzielenie informacji przy założeniu, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli wnioskodawca nie wiedział o takim postępowaniu. Wnioskodawca może nie mieć możliwości uzyskania takiej informacji, jeśli stosowna informacja nie została jeszcze oficjalnie przekazana. Przepis powinien wyraźnie wskazywać, że wnioskodawca nie poniesie negatywnych konsekwencji za stwierdzenie, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli nie wiedział o takim postępowaniu w momencie składania wniosku. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego weryfikowania, czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się postępowania przed polskimi organami, sądami lub instytucjami przed złożeniem wniosku o wydanie opinii indywidualnej. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 90 wymagane dla osiągniecia celu wskazanego w uwadze. 95. GRAI Art. 12 i 13 Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? Uwaga wyjaśniona Środki wspierające innowacyjność zostały ujęte w rozdziale 8. 96. ICC Poland Art. 12 i 14 Zgodnie z nową treścią art. 14 Projektu: „Opinie indywidualne i wyjaśnienia, o których mowa w art. 11-13 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, jak również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji”. Na ogólną aprobatę zasługuje uwzględnienie zgłoszonych w toku poprzednich konsultacji publicznych uwag dotyczących konieczności ochrony informacji poufnych i tajemnicy przedsiębiorstwa w kontekście publikacji opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Za zmianą tą powinien podążyć jednak mechanizm pozwalający wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku lub powołania się na inną tajemnicę prawnie chronioną. Trudno bowiem oczekiwać, że Komisja samodzielnie będzie w stanie zidentyfikować i ocenić tego rodzaju okoliczność. Z tego względu proponuje się uzupełnienie art. 12 Projektu o wyraźne wskazanie, że wniosek o wydanie opinii indywidualnej może zawierać zastrzeżenie, że określone informacje zawarte we wniosku nie mogą być udostępnianie z uwagi na to, że stanowią tajemnicę przedsiębiorstwa. Przepis taki mógłby mieć następującą treść: We wniosku o wydanie opinii indywidualnej można zastrzec i wykazać, że określone zawarte w nim informacje stanowią tajemnicę przedsiębiorstwa w rozumieniu przepisów ustawy z dnia 16 kwietnia 1993 r. o zwalczaniu nieuczciwej konkurencji (Dz. U. z 2022 r., poz. 1233) lub objęte są inną tajemnicą prawnie chronioną i nie mogą być udostępniane. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści opinii indywidualnej lub wyjaśnień, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 97. ZBP Art. 13 Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia KRiBSI w zakresie stosowania przepisów AI Act oraz ustawy nie mogą stać w sprzeczności z Wytycznymi Uwaga wyjaśniona Strona | 91 i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): „Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej.” Należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 98. GRAI Art. 13 Proponujemy, aby wyraźnie wskazać, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uwaga wyjaśniona Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689/”. 99. GRAI Art. 14 Wskazania wymaga moc prawna opinii indywidualnych, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? Uwaga wyjaśniona Zgodnie z art. 12 ust. 12 opinia indywidualna jest wiążąca dla Komisji i podmiotu, który złożył o Strona | 92 nią wniosek, działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. 100. GRAI Art. 14 Zwracamy także uwagę potrzeba ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 101. GRAI Art. 14 ust. 2 Propozycja: Aby ograniczyć ryzyko ujawnienia tożsamości wnioskodawców zalecamy dodanie ust. 2 do art. 14 Projektu - podobnie jak w art. 65 ust. 1 ustawy o przetwarzaniu danych osobowych z 2018 r. - który mógłby otrzymać brzmienie: „ust. 2: Wnioskodawca może zastrzec informacje, dokumenty lub fakty stanowiące tajemnicę przedsiębiorstwa, które nie powinny być publikowane w Biuletynie Informacji Publicznej, chyba że wnioskodawca wyrazi na to wyraźną zgodę”. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 102. PTI Art. 14 Powinien być dodany termin rozpatrzenia wniosku (w kontekście art. 11-13). Prosimy o uzupełnienie brzmienia artykułu 14 Uwaga wyjaśniona Strona | 93 Zgodnie z art. 12 ust. 9 Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. 103. Związek Cyfrowa Polska Art. 14 Projektowana ustawa powinna wyraźnie określać, w jaki sposób wnioskodawca powinien oznaczać informacje, które nie powinny być publikowane, np. tajemnice przedsiębiorstwa. Obecne przepisy nie określają jasnych zasad identyfikacji danych poufnych w kontekście indywidualnych opinii i wyjaśnień. Wnioskodawcy powinni mieć wyraźne prawo do żądania wyłączenia określonych informacji z publikacji. Zalecamy dodanie przepisu umożliwiającego wnioskodawcom oznaczenie informacji poufnych jako niepublicznych w momencie ich składania. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności Strona | 94 określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 104. KIGEiT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 105. PIIT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Mając na uwadze, że Powołanie Przewodniczącego następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego naboru wydaje się nieadekwatnym rozwiązaniem. 106. KIGEiT Art.16 ust.1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Rekomenduje się zmiany sformułowania jw. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. Strona | 95 107. PIIT Art.16 ust. 1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem - rekomendacja zmiany sformułowania. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. 108. ZBP Art. 18 ust. 5 Termin na złożenie dokumentów w odpowiedzi na ogłoszoną informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji powinien być dłuższy ze względu na to, że nikt nie sprawdza w/w stron codziennie, a ponadto konieczne jest zgromadzenie dokumentów potwierdzających wiedzę i doświadczenie w zakresie AI. Chodzi o to, aby wyłonić kandydata posiadającego dużą wiedzę i doświadczenie, a taki krótki termin może spowodować, że część kandydatów, którzy zgłosiliby swoją kandydaturę nie złoży dokumentów ze względu na zbyt krótki termin, co będzie ze szkodą dla działalności Komisji i w konsekwencji ze szkodą dla podmiotów wdrażających systemy AI. Z tego względu proponujemy alternatywne brzmienie przepisu: „Termin, o którym mowa w ust. 4 pkt 6, nie może być krótszy niż 10 30 dni od dnia opublikowania ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej urzędu obsługującego ministra właściwego do spraw informatyzacji.” Uwaga uwzględniona W projekcie wskazano termin 21 dni. 109. KIGEiT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący, co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Należałoby doprecyzować, spośród kogo wybierany jest zespół oraz w jakim trybie są wybierane te osoby, a także, kto weryfikuje ich kompetencje do tego zadania. Uwaga wyjaśniona Projektodawca nie dostrzega zasadności modyfikacji zaproponowanych przepisów. Tryb i sposób powołania zastępców przewodniczącego uregulowane są w przepisach art. 18. 110. PIIT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w Uwaga wyjaśniona Zespół powoływany jest przez Przewodniczącego Strona | 96 podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Komisji. W jego gestii pozostaje sposób weryfikacji członków. Członkami zespołu mogą być osoby odznaczające się wiedzą i doświadczeniem w zakresie sztucznej inteligencji lub prawa jak również doświadczeniem zawodowym uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 111. Fundacja Panoptykon Art. 21 Konflikt interesów w przypadku członków Komisji Pragniemy powtórnie podkreślić, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji, których przedstawiciele będą członkami Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 21 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Uwaga wyjaśniona Przepisy ustawy w sposób i proporcjonalny adresują kwestie związane z konfliktem interesów członków Komisji. 112. ZPTC Lewiatan Art. 22; art. 24 Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu Uwaga wyjaśniona Strona | 97 zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie wprowadzić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Przedmiotowe przepisy uległy znaczącym zmianom. 113. GRAI Art. 22 ust. 1 W jaki sposób Komisja realizowała będzie swój obowiązek informacyjny? Dlaczego tylko dla Biura Komisji przewidziane zostało takie szczególne uregulowanie? Uwaga uwzględniona Art. 22 ust. 1. został wykreślony. 114. GRAI Art. 22 ust. 2 Zapis jest niejasny. Oznacza, że komisja powinna zrealizować sama swój obowiązek informacyjny? A może mowa o innych obowiązkach jakich? Na gruncie RODO? Uwaga uwzględniona W art. 22 ust. 2 został wykreślony. 115. GRAI Art. 22 ust. 1 i 2 Zapisy w projekcie wprowadzają istotne wątpliwości, co do tego kto jest administratorem danych na gruncie ustawy. Taka sytuacja nie powinna mieć miejsca. Jako że rozporządzenie 2016/679 (RODO) daje możliwość ustanawiania regulacji szczególnych w prawie krajowym to tym bardziej ustawa powinna w sposób klarowny i jednoznaczny określać jakiekolwiek odmienności od rozporządzenia Uwaga wyjaśniona W art. 22 ust. 1 i 2 zostały wykreślone. 116. AmCham Art. 22 ust. 5 Celem zapewnienia solidnych ram ochrony danych w kontekście sztucznej inteligencji, konieczne jest wprowadzenie bardziej rygorystycznych środków bezpieczeństwa, które będą regulować ujawnianie informacji poufnych podmiotom zewnętrznym, w tym organom ścigania. Jednym z podstawowych zabezpieczeń może być wprowadzenie obowiązku uzyskania uprzedniej zgody sądu lub prokuratora przed udostępnieniem takich danych. To dodatkowe wymaganie zapewniłoby, że ujawnienie danych nastąpi tylko wtedy, gdy istnieje wyraźna, uzasadniona podstawa prawna i nie narusza to innych istotnych praw. Alternatywnie lub dodatkowo, można dostosować obecne ramy prawne do standardów poufności zawartych w Prawie o komunikacji elektronicznej. Takie dostosowanie zapewniłoby spójne i kompleksowe podejście do ochrony wrażliwych informacji w różnych sektorach, w tym w obszarze AI. Należy podkreślić, że dane związane z AI często obejmują nie tylko cenne informacje biznesowe i rynkowe, ale także krytyczne szczegóły operacyjne firm zaangażowanych w rozwój i wdrażanie AI. Nieuprawnione ujawnienie takich danych może mieć poważne konsekwencje, takie jak utrata przewagi konkurencyjnej, szkody finansowe, a nawet zagrożenie dla bezpieczeństwa narodowego. W związku z tym niezbędne jest ustanowienie mechanizmów prawnych, które skutecznie zapobiegną nieuzasadnionemu udostępnianiu danych związanych z AI. Uwaga wyjaśniona W art. 22 ust. 5 został wykreślony. Strona | 98 Obecnie istnieje ryzyko, że takie dane mogą być udostępniane bez odpowiedniej kontroli, co może prowadzić do niezamierzonego ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i zapewniłoby, że dostęp do wrażliwych danych AI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba, np. w ramach prowadzonego postępowania karnego. Taki mechanizm zwiększyłby również zaufanie do ram regulacyjnych i zapewniłoby ochronę praw wszystkich zainteresowanych stron. 117. KIGEiT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. Jeśli przepis nie zostanie usunięty to proponujemy następujące zmiany: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: · 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; ·6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych, o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem). Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 118. PIIT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą odnoszącą się do sądów/sędziów Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. Strona | 99 wniosek: 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; 6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). 119. PIIT Art. 22 ust. 5 Wprowadzenie wymogu uprzedniej zgody sądu albo prokuratora dla żądania danych. Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. Strona | 100 120. Związek Cyfrowa Polska Art. 22 ust. 5 Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba. Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. 121. GRAI Art. 22 i 23 W miejsce obecnie zaproponowanych przepisów, które budzą liczne wątpliwości proponujemy odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO, zarówno w odniesieniu do Komisji, Biura Komisji, jak i potencjalnie Rady Społecznej, jeśli w ramach jej zadań przetwarzane będą dane osobowe. A dodatkowo wskazać w ustawie bardzo wyraźnie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e czy h RODO/ częściowo jest to zrobione, ale w sposób wybiórczy i enigmatyczny. Uwaga nieaktualna Art. 22 został wykreślony a art. 23 uległ znaczącym zmianom. 122. GRAI Art. 23 ust. 2 Przepis brzmi jak ograniczenie obowiązków Komisji na gruncie RODO. Zaproponowane rozwiązanie jest zupełnie bezpodstawne. Uwaga uwzględniona W art. 23 ust. 2 został wykreślony. 123. GRAI Art. 23 ust. 2 Jest: Art. 23 ust. 2: „Komisja, przetwarzając dane osobowe prowadzi analizę ryzyka zgodnie z zasadą integralności i poufności, o których mowa w art. 5 ust. 1 lit. f rozporządzenia 2016/679, jak również stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje i stosuje procedury bezpiecznej wymiany informacji.” Komentarz: art. 5 ust. 1 lit. f rozporządzenia 2016/679 wskazuje na zasadę poufności i integralności przetwarzanych danych. Środki ochrony danych, o których mowa w art. 23 ust. 2 dotyczą art. 32 rozporządzenia 2016/679. Uwaga nieaktualna W art. 23 ust. 2 został wykreślony. Strona | 101 Sugerowana zamiana przepisu art. 23 ust. 2: „2. Komisja, przetwarzając dane osobowe przeprowadza analizę ryzyka dobierając odpowiednie środki techniczno – organizacyjne zgodnie z art. 322 rozporządzenia 2016/679 wywiązując się z zasad, o których mowa w art. 5 ust. 1 lit. F rozporządzenia 2016/679.”. 124. GRAI Art. 23 ust. 4 Jest: „4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane.”. Proponujemy wykreślenie tego przepisu ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”). A zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO. Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 125. AmCham Art. 23 ust. 4 Proponujemy wykreślenie tego ustępu, ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”)”, a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 126. ZPTC Lewiatan Art. 23 ust. 4 Jest: 4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane. Uwaga uwzględniona Strona | 102 Proponujemy wykreślenie tego zapisu, ponieważ przepisy rodo bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”); a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przetwarzanie do zgodnego z przepisami RODO. W art. 23 ust. 4 został wykreślony. 127. IWP Repropol Art. 25 i art. 26 Projekt ustawy ustanawia Społeczną Radę do spraw Sztucznej Inteligencji, gremium doradcze przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI). Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 25 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania (OZZ) dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest niemożliwie do przecenienia. Co więcej, powszechnie znane problemy z funkcjonowaniem generatywnej odmiany Sztucznej Inteligencji powstają właśnie na styku z szeroko pojętą własnością intelektualną. OZZ bardzo pilnie śledzą i uczestniczą w tej dyskusji, dzięki czemu jako jedna z pierwszych grup podmiotów są one głęboko zaangażowane w analizę powstawania i funkcjonowania modeli i systemów AI. Mając na uwadze ten bagaż doświadczenia, prosimy o odpowiednie uzupełnienie art. 25 ust. 3 UoSSI. Zwraca naszą uwagę, że projekt konsekwentnie nie przewiduje możliwość uczestnictwa w społecznej radzie za choćby niewielkim honorarium (art. 26 ust. 6 UoSSI). Ze dziwieniem odnotowujemy uzasadnienie nieodpłatnego uczestnictwa w pracach rady („(...) chcąc nie generować niepotrzebnych kosztów po stronie budżetu państwa nie przewiduje się wynagrodzenia dla członków Komisji poza Przewodniczącym i jego zastępcami”, s. 10 uzasadnienia). Uważamy, że uczestnictwo w tak wysoko wyspecjalizowanym gremium oraz dzielenie się unikalną wiedzą na temat sztucznej inteligencji uzasadnia zapłatę. Ponownie zwracamy uwagę, że zakwalifikowanie tego Uwaga wyjaśniona Nie jest planowane poszerzenie katalogu podmiotów o OZZ. Skład podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk twórczych. Udział w pracach Rady pozostaje nieodpłatny Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych Strona | 103 rodzaju wynagrodzenia do kategorii „niepotrzebnego kosztu” jest w naszym przekonaniu wybitnie niefortunnym skrótem myślowym. w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 128. GRAI Art. 25 Proponujemy rozszerzenie wymagania o pewien minimalny okres pracy w obszarze cyfryzacji, w celu dodania mierzalności doświadczenia. Poniżej propozycja dodatkowego zapisu: „posiada co najmniej pięcioletni staż pracy na stanowiskach z obszaru cyfryzacji;”. Uwaga wyjaśniona Mając na uwadze charakter Społecznej Rady wskazane kryterium jest nadmiarowe. 129. ZBP Art. 25 ust. 3 Zwracamy uwagę na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być również przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. p. 7): „7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, bankowości, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych;”. Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 130. GRAI Art. 25 ust. 3 pkt 7 Wskazujemy na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, tak, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. 3 pkt 7: 7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 131. GRAI Art 25 ust. 3 pkt 10 Proponuje rozszerzenie katalogu podmiotów zgłaszających o organizację społeczne i stowarzyszenia zajmujące się w swoich celach statutowych szeroko pojętym bezpieczeństwem informacji, ze względu na bardzo duże powiazanie pomiędzy rozwojem technologii sztucznej inteligencji, a informacjami i ich bezpieczeństwem. Poniżej propozycja przepisu z naniesioną zmianą: Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 104 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej, bezpieczeństwa informacji. 132. Stowarzyszen ie Autorów ZAiKS Art. 25 ust. 3 nowy pkt 11 W art. 25 ust. 3 po punkcie 10) dodaje się średnik oraz punkt 11) o następującym brzmieniu: „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.” ALTERNATYWNIE „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem z systemów sztucznej inteligencji.” UZASADNIENIE Artykuł 25 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (dalej „Rada”), powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych lub szerzej, podmiotów, których prawa mogą być naruszane przez systemy sztucznej inteligencji. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów AI oraz modelami AI. Nadzór ten musi uwzględniać przestrzeganie przez branżę AI unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji lub y działające na rzecz jej rozwoju, a nie zapewnia przy tym zeczywistego przedstawicielstwa sektorów kreatywnych czy użytkowników systemów AI, zakłócając tym samym równowagę interesów tych różnych grup podmiotów działających w ramach bezstronnego organu, jakim ma być Rada. Dodanie w konsultowanym Projekcie do katalogu podmiotów mogących być powołanymi do Rady przedstawicieli trzeciego sektora działających „na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej” nie rozwiązuje problemu braku właściwego przedstawicielstwa organizacji reprezentujących twórców czy artystów wykonawców. Organizacje te nie prowadzą Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 105 działalności w zakresie rozwoju kultury cyfrowej, a ich statutowym działaniem jest zapobieganie naruszeniom praw ich członków. Tych samych praw, które od wielu lat naruszane są na masową skalę przez dostawców modeli i systemów Gen AI. Organizacje reprezentujące twórców na całym świecie – takie jak CISAC (Międzynarodowa Konfederacja Stowarzyszeń Autorów i Kompozytorów), alarmują, że przedsiębiorstwa z branży AI od lat bezumownie korzystają z chronionych treści do trenowania swoich modeli generatywnej sztucznej inteligencji. Modele te coraz lepiej naśladują styl i estetykę konkretnych artystów, co prowadzi do deprecjacji oryginalnej twórczości i zmniejsza dochody autorów. Z raportu zleconego przez CISAC wynika, że gwałtowny wzrost przychodów dostawców Gen AI w ciągu najbliższych pięciu lat idzie w parze z ryzykiem znaczącej utraty dochodów twórców z powodu wypierania dzieł ludzkich przez generowane przez AI substytuty. Szacuje się, że pomimo dostarczania istotnych zasobów kreatywnych dla rynku treści generowanych przez AI, do 2028 r. twórcy muzyki oraz utworów audiowizualnych mogą doświadczyć strat wynoszących odpowiednio 24% i 21% ich obecnych przychodów. Łącznie ma to oznaczać stratę rzędu 22 miliardów euro w ciągu pięciu lat (10 miliardów euro w branży muzycznej oraz 12 miliardów euro w sektorze audiowizualnym). W szczególności silnie dotknięte zostaną rynki streamingu i bibliotek muzycznych, gdzie prognozuje się, że do 2028 r. muzyka generowana przez AI będzie stanowić około 20% przychodów tradycyjnych platform streamingowych oraz aż 60% przychodów bibliotek muzycznych. Podobne zagrożenie dotyczy twórców audiowizualnych. Najbardziej narażeni na straty są tłumacze oraz osoby zajmujące się dubbingiem i napisami, którzy mogą stracić nawet 56% swoich dochodów. Również scenarzyści i reżyserzy muszą liczyć się z konsekwencjami, gdyż AI może „skanibalizować” od 15% do 20% ich przychodów. Wzrost roli Gen AI w przemyśle kreatywnym rodzi więc poważne pytania o przyszłość wynagrodzeń i ochrony praw twórców. AI Act wymaga, aby organy odpowiedzialne za nadzór nad sztuczną inteligencją uwzględniały głos wszystkich stron zainteresowanych potencjalnym wpływem systemów AI na prawa i obowiązki prawne. Organizacje reprezentujące uprawnionych z tytułu praw autorskich i pokrewnych pełnią fundamentalną rolę w ochronie interesów twórców i wykonawców, dlatego ich pominięcie ich udziału w organach nadzorujących wdrożenie AI Act w Polsce stanowi naruszenie tej zasady. Uwzględniając powyższe argumenty, wnioskujemy o uzupełnienie składu Rady i właściwe zrównoważanie interesów wszystkich interesariuszy. 133. PTI Art. 25 ust. 4 pkt 1 LUB warto zamienić na ORAZ. 1. posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii oraz praw człowieka; Uwaga uwzględniona Strona | 106 LUB określa funkcję OR dla wymienionych kompetencji, co sprawia, że kompetencje w obszarze praw człowieka są alternatywą dla kompetencji technicznych, co spełnia warunek posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji dla osób bez kompetencji technicznych. Przepis został skorygowany zgodnie z treścią uwagi. 134. IA Chamber Art. 25 ust. 6 pkt 7 Ponownie wnosimy o usunięcie przepisu art. 25 ust. 6 pkt. 7. Członkowie Rady nie reprezentują organizacji, które zgłosiły ich kandydatury i nic nie uzasadnia wygaszania mandatów Członków w ten sposób. Uwaga uwzględniona Przepis został wykreślony. 135. KIGEiT Art. 26 ust.3 2.Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby, (choć nie jest wskazane, w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się, bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co budzi wątpliwości. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 136. PIIT Art. 26 ust.3 Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 137. KIGEiT Art. 26 ust. 4 w zw. z Art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady Strona | 107 zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 138. PIIT Art. 26 ust. 4 w zw. z art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 139. PTI Art. 26 ust. 4 W zapisach brakuje określenia, pod jakim rygorem członek Rady dotrzymuje tajemnicy Sugerujemy określić warunki/rygor dochowania tajemnicy. Ujawnienie sensytywnych informacji przez członka Społecznej Rady musi być powiązane z odpowiednim przepisem, który tego zabrania pod karą wynikającą z kodeksu karnego Uwaga uwzględniona Rygor został określony w art. 25 ust. 8. Strona | 108 140. IA Chamber Art. 26 ust. 5 Nie został odpowiednio dopracowany przepis dotyczący konfliktu interesów członków Rady (obecnie w art. 26 ust. 5 projektu ustawy). Jest on sformułowany zbyt szeroko, mogąc prowadzić do nacisków wobec członków Rady. Przepis ten powinien bardziej precyzyjnie wskazywać, że dany członek powinien wyłączyć się z prac Rady w sytuacjach wystąpienia bezpośredniego konfliktu interesów. Uwaga wyjaśniona Mając na uwadze, że rada jest ciałem opiniodawczo doradczym projektodawca nie widzi zasadności doprecyzowania przedmiotowego przepisu. 141. KIGEiT Art. 27 ust.1 pkt 2 2) przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Natomiast należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 49 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 142. PIIT Art. 27 ust.1 pkt 2 Przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie Strona | 109 Natomiast co do zasady należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 143. AmCham Art. 27 ust. 2 Obecna redakcja przepisu może sugerować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące, co nie wydaje się zgodne z intencją projektodawcy. Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 144. KIGEiT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 145. PIIT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały, ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Strona | 110 Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 146. ZPTC Lewiatan Art. 27 ust. 2 Czy z projektu zapisu należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 147. GRAI Art. 27 ust. 2 Przy obecnym brzmieniu przepisu, pojawia się wątpliwość, czy należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1 są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 148. Stowarzyszen ie Autorów ZAiKS Art. 27 ust. 3 Biorąc pod uwagę, że Rada może liczyć od 9 do 15 członków - wątpliwości budzi nie zawarcie w art. 27 ust. 3 Projektu wskazówki, jak rozwiązać impas w przypadku równej liczby głosów. Wskazane jest więc dodanie, że \"w razie równej liczby głosów rozstrzyga głos Przewodniczącego Rady\". Uwaga wyjaśniona Tryb ten zostanie uregulowany w regulaminie, o którym mowa w art. 26 ust. 8. 149. KIGEiT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w Strona | 111 zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 150. PIIT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 151. GRAI Art. 28 Mając na uwadze, że w skład Komisji mają wejść przedstawiciel RPD, wyjaśnienia wymaga jakie jest uzasadnienie włączenia przedstawiciela również do Rady? Uwaga wyjaśniona RPD w nowej wersji projektu ustawy nie wchodzi w skład KRiBSI, natomiast może zgłaszać przedstawicieli do Społecznej Rady. Strona | 112 152. SFP-ZAPA Art. 28 ust. 3 Uzupełnienie katalogu podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji poprzez zapewnienie takiego prawa także podmiotom reprezentującym osoby, których prawa mogą być naruszone przez sztuczną inteligencję, w szczególności organizacjom zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi. Uwaga wyjaśniona Katalog podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk zwianych z prawami autorskimi i prawami pokrewnymi. 153. KIGEiT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biura Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 154. PIIT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Strona | 113 Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 155. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów Obecny przepis: Wymaga uprzedniej zgody Komisji na rozpoczęcie testów. Proponowana zmiana: Wprowadzenie modelu \"na zgłoszenie\" z domniemaną zgodą po 14 dniach braku sprzeciwu. Uzasadnienie: Skrócenie czasu uruchamiania testów z kilku tygodni do maksymalnie dwóch tygodni. Model \"na zgłoszenie\" eliminuje zbędne formalności, co sprzyja dynamicznemu wdrażaniu innowacji. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 156. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów w piaskownicy regulacyjnej Obecny przepis: \"Testowanie systemów AI w piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.\" Proponowana zmiana: Uwaga częściowo wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Strona | 114 1. Testowanie systemów AI w piaskownicy regulacyjnej odbywa się na podstawie zgłoszenia do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Komisja w terminie 14 dni od dnia otrzymania zgłoszenia może zgłosić zastrzeżenia. Brak odpowiedzi w tym terminie oznacza domniemaną zgodę. 3. Procedura zgłoszeniowa ogranicza się do elektronicznego formularza zawierającego podstawowe informacje o projekcie. Dodatkowa dokumentacja jest wymagana tylko dla projektów wysokiego ryzyka. 4. Komisja publikuje wzory dokumentów i instrukcje zgłoszeniowe w formie elektronicznej. System zgłoszeń podlega kwartalnej analizie, której wyniki są podstawą do modyfikacji procesu, skracania czasu obsługi i usuwania barier proceduralnych. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 157. GRAI Art. 31 Art. 31 – Raportowanie i autoaktualizacja procesów Obecny przepis: Obowiązek cyklicznych raportów. Proponowana zmiana: Raport końcowy obowiązkowy dla wszystkich; raport śródokresowy tylko dla projektów dłuższych niż 6 miesięcy. Komisja analizuje zebrane dane co 6 miesięcy i wprowadza zmiany w procedurach w ciągu 30 dni. Uzasadnienie: Zmniejszenie obciążeń administracyjnych i skrócenie czasu sprawozdawczości. Regularna analiza pozwoli na dostosowanie piaskownicy do potrzeb uczestników i poprawę jej wydajności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały Strona | 115 Proponowana zmiana: 1. Uczestnicy składają jedynie raport końcowy po zakończeniu testów, zawierający wnioski i rekomendacje dotyczące procesu testowania. 2. Projekty trwające powyżej 6 miesięcy składają jedno sprawozdanie śródokresowe. 3. Komisja co 6 miesięcy przeprowadza analizę zebranych raportów oraz opinii uczestników, aktualizując procedury i narzędzia piaskownicy w celu poprawy wydajności i użyteczności. Wdrożenie zmian wynikających z analizy następuje nie później niż w ciągu 30 dni od daty opublikowania raportu z ewaluacji. ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 158. GRAI Art. 31 - Propozycja mechanizmu zarządzania testami (Art. 31 – nowe ustępy) > Dodane do art. 31 ust. 4-6 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” > Zmiana: ● Obowiązek wyznaczenia osoby zarządzającej testami – zmniejsza to potrzebę kontroli administracyjnej. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne Strona | 116 Brak konieczności dodatkowej oceny przez organ państwowy – wystarczy raport końcowy. niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 159. GRAI Art. 32 Art. 32 – Nabór i adaptacja procesu Obecny przepis: Organizacja co najmniej trzech konkursów rocznie. Proponowana zmiana: Stały nabór otwarty z decyzjami wydawanymi w ciągu 14 dni. Uzasadnienie: Eliminacja przestojów wynikających z oczekiwania na konkursy. Ciągła rekrutacja pozwala na większą elastyczność i dostępność, szczególnie dla MŚP i startupów. Proponowana zmiana: 1. Komisja prowadzi stały nabór, umożliwiając zgłoszenia w dowolnym momencie. 2. W przypadku wprowadzenia limitów uczestników pierwszeństwo mają MŚP i startupy. 3. Proces naboru podlega bieżącej analizie i dostosowaniu na podstawie feedbacku z poprzednich edycji, co ma na celu eliminowanie zbędnych formalności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia Strona | 117 Decyzje dotyczące przyjęcia do piaskownicy są publikowane w ciągu 14 dni od daty zgłoszenia. piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 160. GRAI Art. 35 Art. 35 – Zarządzanie i doskonalenie piaskownic Obecny przepis: Komisja pełni funkcję nadzorczą. Proponowana zmiana: Wprowadzenie zespołu monitorującego do analizy skuteczności piaskownicy. Wyniki analizy są podstawą do wprowadzenia zmian w ciągu 30 dni. Uzasadnienie: Systematyczna ewaluacja umożliwia szybką identyfikację i eliminację problemów, zwiększając użyteczność piaskownicy. Proponowana zmiana: 1. Komisja nadzoruje zgodność testów z przepisami i standardami bezpieczeństwa, nie ingerując w codzienne zarządzanie projektami. 2. Powołuje zespół monitorujący, którego zadaniem jest cykliczna analiza efektywności piaskownicy oraz przygotowywanie rekomendacji dotyczących usprawnień. Każdy cykl testów kończy się oceną systemu zarządzania piaskownicą. Wdrożenie rekomendowanych zmian następuje w terminie 30 dni od zakończenia analizy. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część Strona | 118 Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 161. AmCham Art.36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Ograniczenie to nie wydaje się celowe Uwaga wyjaśniona W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy 162. Stowarzyszen ie Autorów ZAiKS Art. 36 ust. 1 Niejasne jest sformułowanie art. 36 ust. 1 Projektu w zakresie, w jakim umożliwia ministrom właściwym do spraw informatyzacji, do spraw szkolnictwa wyższego i nauki oraz do spraw gospodarki powierzanie Komisji realizacji zadań, które na mocy ustawy (art. 9 pkt 3, 8, 11 i 14) będą zadaniami własnymi Komisji. Tym samym brzmienie przepisu nie wydaje się odpowiadać intencjom projektodawcy dot. możliwości powierzania Komisji realizacji zadań innych niż te, które zobowiązana jest wykonywać na mocy ustawy, które już zostały wskazane w art. 9 Projektu. Uwaga nieaktualna Art. 36 został wykreślony z projektu ustawy. 163. ZPTC Lewiatan Art. 36 ust. 1 W porównaniu z poprzednim projektem ustawy nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Jaki jest powód takiego ograniczenia? Uwaga nieaktualna Odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. Strona | 119 164. GRAI Art. 36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji rządowej, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Czy jest powód takiego ograniczenia i dlaczego takich zadań – w zakresie ograniczonym jak w propozycji art. 36 ust.1 – nie może zlecić np. Prezes Rady Ministrów? Uwaga nieaktualna W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. 165. FinTech Poland Rozdział 3 Prawa kontrolowanego Doceniamy wprowadzenie minimalnego terminu na notyfikację kontrolowanego o planowanej kontroli. Jest to krok w kierunku zapewnienia przewidywalności i ochrony podmiotów poddawanych kontroli. Jednakże, ustalenie maksymalnego czasu trwania kontroli na 21 dni jest równie istotnym elementem zapewnienia sprawności, przewidywalności oraz efektywności prowadzonych kontroli. Brak ograniczenia czasowego mógłby prowadzić do przewlekłości procesów kontrolnych. W konsekwencji przeciągające się kontrole mogą negatywnie wpływać na kontrolowane podmioty i w efekcie uniemożliwiać prowadzenie kontrolowanym podmiotom działalności gospodarczej. Proponowany czas 21 dni pozwoli kontrolowanemu realnie oszacować czas kontroli i zminimalizować problemy z nią związane. Z drugiej strony, okres 3 tygodni będzie odpowiednim czasem dla Komisji na przeprowadzenie rzetelnej i skrupulatnej kontroli. Uwaga wyjaśniona Należy zaznaczyć, że ograniczenie czasowe wprowadzone jest w ramach przepisów o postępowaniu przed Komisją (maksymalny okres trwania to 6 miesięcy). 166. GRAI Art. 38 Art. 38 – Ogólnopolski zasięg i dostępność (nowy artykuł) Proponowana zmiana: Obowiązek zapewnienia dostępu dla podmiotów z całego kraju oraz organizacja spotkań konsultacyjnych dwa razy w roku. 1. Piaskownice regulacyjne mają zapewnić dostęp podmiotom z całej Polski, z uwzględnieniem potrzeb MŚP i startupów. 2. Komisja organizuje co najmniej dwa razy w roku spotkania z uczestnikami w celu zebrania opinii o funkcjonowaniu piaskownicy i dostosowania jej do potrzeb rynku. 3. System zgłoszeń, dokumentacji i komunikacji jest regularnie aktualizowany, by eliminować identyfikowane problemy. Uzasadnienie: Wzmacnia ogólnopolski zasięg i pozwala na lepsze dopasowanie piaskownicy do rzeczywistych potrzeb uczestników. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana Strona | 120 za sprawą aktu wykonawczego Komisji Europejskiej. 167. GRAI Art. 38 ust. 2 Jest: Kontrole mają być przeprowadzane zgodnie z planem kontroli zatwierdzonym przez Komisję. Nie ma jednak informacji o tym, czy plan zostanie gdziekolwiek opublikowany. Publikacja planu kontroli zapewniłaby zainteresowanym zrozumienie, jakie obszary będą podlegać kontroli i jak się przygotować. Inspiracji dostarcza PUODO, który publikuje w styczniu każdego roku sektorowy plan kontroli. Propozycja: Proponujemy dodanie do art. 38 ust. 3 ustawy zdania w brzmieniu: \"W terminie do dnia 30 stycznia każdego roku Komisja przyjmuje i publikuje roczny plan kontroli sektorowych na bieżący rok kalendarzowy. Oraz publikuje plan na swojej oficjalnej stronie internetowej” Uwaga wyjaśniona Brzmienie art. 38 (obecnie art. 30) jest zgodne z art. 78 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. 168. GRAI Art. 39 ust. 2 Jest: Art. 39 ust. 2 stanowi, że kontrolę wszczyna się nie wcześniej niż po upływie 7 dni od dnia doręczenia zawiadomienia o zamiarze wszczęcia kontroli. Propozycja: Choć podobne warunki dotyczą kontroli na gruncie ustawy Prawo przedsiębiorców (art. 48) - biorąc pod uwagę, że kontrola systemów SI jest bardziej złożona - sugerujemy wydłużenie tego terminu do najlepiej 30, a co najmniej 14 dni. Uwaga wyjaśniona Przepis ma na celu zachowanie spójności z Prawem przedsiębiorców. 169. GRAI Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje, a zwłaszcza sposób ich zorganizowania, gdzie wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 121 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i zasobożerne. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej. 170. AmCham Art.39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być istotnie niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 122 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagać dużych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej 171. KIGEiT Art. 39 ust. 3 Kontrolę lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (....) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 172. PIIT Art. 39 ust. 3 Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Brak części tekstu Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 173. ZPTC Lewiatan Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa nakładane przez Komisję wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych! Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w Strona | 123 Firmy będą potrzebować solidnych gwarancji organizacyjnych i technicznych, że procesy inspekcji są bezpieczne, zwłaszcza jeśli będą przeprowadzane podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do wielu nowych ryzyk związanych z cyberbezpieczeństwem np. udzielenie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmiotów wykorzystujących systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia wrażliwych danych niepowiązanych z samą kontrolą, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagające znacznych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyko utraty reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej podmiotu kontrolowanego. uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej (art. 31 ust.4). Strona | 124 174. Związek Cyfrowa Polska Art. 39 ust. 1 pkt 4 Społeczna Rada do spraw Sztucznej Inteligencji nie powinna mieć uprawnień do wnioskowania o wszczęcie nadzoru. Rada służy wyłącznie jako organ doradczy i konsultacyjny Komisji, a przyznanie jej uprawnień do inicjowania nadzoru wykracza poza podstawowe zadania, jakie ma realizować Rada. Radzie brakuje kompetencji proceduralnych niezbędnych do oceny czy wniosek o nadzór jest uzasadniony. Uwaga uwzględniona Wykreślono w art. 31 w ust. 4 pkt 1. 175. Związek Cyfrowa Polska Art. 39 ust. 4 Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 176. Polska Izba Ubezpieczeń Art. 39 ust. 4 W sposób ogólny i nieprecyzyjny wskazuje się w jakich przypadkach Komisja może przeprowadzić kontrolę bez zachowania terminu na powiadomienie podmiotu kontrolowanego terminie 7 dni. Pojęcie „podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych” jest wysoce nieprecyzyjne i będzie stwarzać duże ryzyko nadinterpretacji. Uwaga wyjaśniona Mając na uwadze szerokie zastosowanie systemów sztucznej inteligencji oraz uch szybki rozwój doprecyzowanie przedmiotowych pojęć może ulec szybkiej dezaktualizacji. 177. KIGEiT Art.39 ust. 4 pkt 2 Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych Uwaga wyjaśniona Przepis w wyniku ponownej analizy na Strona | 125 wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. W przypadku kontroli konstrukcji systemu sztucznej inteligencji rekomendujemy zachowanie obowiązku poinformowania o kontroli z siedmiodniowym wyprzedzeniem. podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 178. PIIT Art.39 ust. 4 pkt 2 4. Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. O ile konstrukcja systemu może uzasadniać przeprowadzenie kontroli na miejscu, to jednak nie uzasadnia to niedochowania terminu. Uwaga wyjaśniona Przepis w wyniku ponownej analizy na podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 179. GRAI Art. 40 Art. 40 – Infrastruktura i wsparcie techniczne (nowy artykuł) Proponowana zmiana: Zapewnienie modelu hybrydowego infrastruktury obliczeniowej oraz wprowadzenie szybkiej ścieżki usuwania barier technicznych (15 dni na rozpatrzenie wniosków). Uzasadnienie: Umożliwia efektywne testowanie rozwiązań AI bez konieczności ponoszenia wysokich kosztów technologicznych. Regularna analiza wykorzystania zasobów pozwoli na ich optymalizację. Nowy artykuł: 1. Ministerstwo Cyfryzacji zapewnia uczestnikom dostęp do infrastruktury obliczeniowej w modelu hybrydowym. 2. Analiza wykorzystania infrastruktury jest prowadzona co 6 miesięcy. Wyniki tej analizy służą do optymalizacji zasobów i zwiększenia dostępności. 3. W przypadku pojawienia się istotnych barier technicznych uczestnicy mogą składać wnioski o ich usunięcie, które Komisja rozpatruje w terminie 15 dni. Uwaga nieaktualna Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 126 180. FinTech Poland Art. 40 ust. 2 Przepis art. 40 ust. 2 budzi obawy związane z możliwością zaangażowania w czynności kontrolne osoby, która posiada odpowiednie kompetencje. Takie rozwiązanie bez doprecyzowania wymogów dla angażowanej osoby rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do udziału w kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Podobnie jak w art. 40 ust. 2 pojawia się obowiązek udzielenia wszelkich potrzebnych informacji nie tylko kontrolującemu, ale również osobom upoważnionym do kontroli. Zalecane jest wprowadzenie dodatkowych wymogów jak muszą zostać spełnione przez osoby upoważnione do kontroli. Przepis art. 42 ust. 2 przewiduje możliwość żądania przez kontrolującego dostępu nośników danych, urządzeń i systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności, jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów Uwaga uwzględniona Art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. Strona | 127 zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. 181. KIGEiT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa - Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 182. PIIT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 183. Związek Cyfrowa Polska Art. 40 ust. 2 Ustawa nie przewiduje zabezpieczeń dotyczących osób upoważnionych przez Komisję do udziału w kontroli. Komisja powinna być przede wszystkim odpowiedzialna za zapewnienie, że personel kontrolny posiada niezbędne kompetencje, co powinno być osiągnięte poprzez szkolenia i inne działania budujące zdolności. Obecny przepis stwarza ryzyko, że upoważniony kontroler może być: (1) konkurentem podmiotu kontrolowanego, (2) osobą posiadającą osobisty interes w wydaniu niekorzystnego protokołu kontroli. Nie istnieją również jasne kryteria oceny kwalifikacji eksperta zewnętrznego ani wyraźne zobowiązania dotyczące poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, takie osoby nie przychodziłyby formalnych szkoleń w zakresie prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Strona | 128 kontrolnych. Zalecamy usunięcie tego przepisu lub jego szczegółowe określenie w celu minimalizacji wyżej wymienionych ryzyk oraz zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. Ponadto art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 184. AmCham Art. 40 ust. 2, art. 40 ust. 4 w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuję się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto art. 40 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 185. ZPTC Lewiatan Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Zapis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Ponadto, wskazujemy, że przepis ten należy uzupełnić o doprecyzowanie, że osoba nie powinna mieć konfliktu interesów, np. pracować/współpracować z konkurencją podmiotu kontrolowanego. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto w art. 32 nadano nowe brzmienie. Strona | 129 W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 186. GRAI Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w tej propozycji brzmienia przepisu. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. 187. PTI Art. 41 ust. 2 2. Upoważnienie do przeprowadzenia kontroli zawiera: Brak informacji o możliwości weryfikacji tożsamości kontrolera. Sugerujemy odwołanie do Ustawy o NIK. Powinna istnieć możliwość weryfikacji tożsamości kontrolera. W przeciwnym wypadku może dojść do oszustw ze strony osób podszywających się pod Komisję. Uwaga wyjaśniona Potwierdzenie tożsamości przez kontrolującego określone jest w obecnym art. 33. 188. ZBP Art. 41 ust. 3 Regulamin Komisji reguluje tryb i działanie Komisji, a nie kontroli. Z tego względu dobrym rozwiązaniem będzie przeprowadzanie kontroli na podstawie Regulaminu kontroli. Ponadto w przypadku, jeżeli wszelkie czynności będą uregulowane w regulaminie Komisji to będzie on bardzo obszerny, co może niepotrzebnie komplikować podejmowanie czynności kontrolnych. Z tego względu proponujemy alternatywne brzmienie przepisu: „Organizację, szczegółowy sposób, tryb i zakres prowadzenia kontroli określa regulamin Komisji kontroli.” Uwaga uwzględniona Wyraz „Komisji” zastąpiony został wyrazem „kontroli”. 189. AmCham Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42 ust. 1 wyraźnie wspomina o dostępie do systemów informatycznych i chmury Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy Strona | 130 obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Argumentacja: Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 190. Związek Cyfrowa Polska Art. 42 Projektowana ustawa powinna jednoznacznie umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy handlowej, podobnie jak w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów. Takie rozwiązanie zwiększyłoby ochronę kluczowych informacji biznesowych, które obecnie nie są wystarczająco zabezpieczone. Ponadto, proponowane zapisy artykułu zdają się być na tyle szerokie, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o SI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o SI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Należy wskazać, że ● Żaden przepis projektu ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w Strona | 131 chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych, ● Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora, ● Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 191. ZPTC Lewiatan Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Uzasadnienie: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. Strona | 132 • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. 192. Polska Izba Ubezpieczeń Art. 42 Wprowadzenie obowiązku zapewnienia przez podmiot kontrolowany dostępu do chmury obliczeniowej będącej własnością innego podmiotu zawierającej dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do niej dostęp będzie w praktyce niemożliwe do realizacji w przypadku globalnych dostawców. Izba proponuje nie dodawać tej zmiany. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej. 193. GRAI Art. 42 ust. 1 Jest: Art. 42 ust. 1 w nowym brzmieniu stanowi, że podmiot kontrolujący może żądać dostępu nie tylko do systemów informatycznych podmiotu kontrolowanego, ale także do systemów informatycznych i chmur obliczeniowych należących do innego podmiotu. Taki zakres kontroli jest niezgodny z art. 78 ust. 2 projektu ustawy o systemach sztucznej inteligencji, który pozwala organom żądać jedynie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem przepisów ustawy o sztucznej inteligencji. Propozycja: Usunąć z art. 42 ust. 1 “oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp”. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. Strona | 133 1 pkt 1 chmury obliczeniowej. 194. PTI Art. 42 ust. 1 pkt 4 4. zabezpieczania dokumentów i innych materiałów i danych Oryginałów czy kopii? Sugerujemy odwołanie do Ustawy o NIK Brak informacji czy kontroler będzie mógł zabezpieczyć oryginał czy wyłącznie kopię materiałów. Jeśli oryginałów jaka jest odpowiedzialność za ich uszkodzenie lub zagubienie? Uwaga wyjaśniona Przepis pkt 4 odnosi się do oryginałów. Zabezpieczenie musi następować z zachowaniem przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych Kwestia kopii została uregulowana w pkt 6. 195. KIGEiT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Uważamy, że zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 196. PIIT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 197. KIGEiT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić po swojej stronie mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Uwaga wyjaśniona Wykreślenie nie jest zasadne, ponieważ poza kontrolującym w kontroli mogą również barć udział inne osoby upoważnione. Strona | 134 198. PIIT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu \"czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? Zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? - czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 199. PTI Art.42 ust. 2 dodać pkt 4 (poprzednio art. 44) Brakuje dogłębnej analizy kontrolowanego systemu Prosimy o rozszerzenie zapisu: (.) „powinien uwzględniać dostęp do funkcjonalności rozwiązań, wytrenowanych modeli, a także dawać możliwość kontrolującemu uruchomienia/przetestowania systemu AI na infrastrukturze podmiotu” Działanie tak złożonych i potencjalnie niebezpiecznych systemów, nie zawsze jest możliwe do oceny wyłącznie na podstawie dokumentacji, która może być niepełna lub błędna Uwaga wyjaśniona Wskazany w przepisie art. 36 zakres należy uznać za wystarczający do ustalenia przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 200. Związek Cyfrowa Polska Art. 44 Choć znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej) jest uznawane, projektowana ustawa znacząco ją ogranicza, naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową (adwokacką, radcowską). Projektowana ustawa nie określa, co oznaczają wątpliwości (które nawet nie muszą być uzasadnione) dotyczące powołania się na tajemnicę zawodową (adwokacką, radcowską). Sformułowanie zapewnienie ochrony przed ujawnieniem jest niejasne – dokument i tak zostanie ujawniony przynajmniej SOKiK. Projektowana ustawa nie precyzuje, jak dokumenty powinny być zabezpieczone. Obecne podejście nie spełnia standardów poufności tajemnicy zawodowej (adwokackiej, radcowskiej). Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową (adwokacką, radcowską), Uwaga uwzględniona Zmieniono treść przepisu art. 36, wykreślono ust. 2 ,3 i 5. Strona | 135 ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 201. KIGEiT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Rekomendowane jest, aby przepis odwoływał się do art. 43 a nie 42 ust.2. Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Wskazane w uwadze odesłanie nie wymaga korekty. 202. PIIT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa : 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Strona | 136 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Wskazane w uwadze odesłanie nie wymaga korekty. 203. Związek Cyfrowa Polska Art. 44 ust. 1 Obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. Uwaga wyjaśniona W opinii projektodawcy obecna konstrukcja art. 36 w wystarczający sposób zabezpiecza prawo, o którym mowa w uwadze. 204. GRAI Art. 44 ust. 3 Uwaga redakcyjna – należy poprawić pisownie nazwy sądu – powinno być zapisane z dużej litery, konsekwentnie w całym projekcie ustawy. Uwaga nieaktualna Wykreślono art. 36 ust. 3. 205. GRAI Art. 44 ust. 3 i 5 Brzmienie art. 44 ust. 3 i ust. 5 w obecnym kształcie narusza podstawową zasadę tajemnicy adwokackiej oraz wprowadza konstrukcję postępowania nieznaną przepisom Kodeksu Postępowania Cywilnego. Obecne brzmienie Art. 44 ust.3 – „jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust.1, budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, doręcza je z pismem lub dokumentem, którego wątpliwość dotyczy do sądu okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (..)”. Obecne brzmienie Art. 44 ust.5 – „Sąd, po zapoznaniu się z wnioskiem oraz pismami i dokumentami, o których mowa w ust.3, wydaje postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli zawierają one komunikację, o której mowa w ust. 1 i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby Uwaga uwzględniona Wykreślono art. 36 ust. 3 i 5. Strona | 137 prowadzonego postępowania. Postanowienie podlega wykonaniu z chwila uprawomocnienia się”. Uwagi: W art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu, zwłaszcza, że w powiązaniu z ust. 5 brzmienie projektowanego zapisu prowadzi do nieznanej w polskich przepisach kodeksu cywilnego procedury wpadkowej dot. skontrolowania dokumentów, objętych tajemnicą adwokacką w ramach prowadzonej przez inny organ kontroli w postępowaniu pozasądowym. Po pierwsze możliwość zwolnienia z tajemnicy adwokackiej jest szczegółowo uregulowana w art. 261 Kodeksu Postępowania Cywilnego czy w art. 83 Kodeksu Postępowania Administracyjnego i co istotne zwolnienie z tajemnicy adwokackiej może jedynie i wyłącznie nastąpić w ramach prowadzonego postępowania sądowego i dodatkowo w sytuacji, w której również adwokat, radca prawny, prawnik z Unii Europejskiej jest uczestnikiem takiego postępowania. W przepisach postępowania karnego odpowiednikiem jest art. 180 Kodeksu Postępowania Karnego. W obecnym kształcie brzmienie art. 44 ust. 3 i art. 44 ust. 5 prowadzi do naruszenia podstawowej zasady zaufania obywateli do państwa oraz do naruszenia przepisów ochrony tajemnicy adwokackiej, która jest podstawową gwarancją prawidłowego wykonywania zawodu adwokata, radcy prawnego, prawnika z Unii Europejskiej. Jedynym organem, który może zwolnić adwokata, radcę prawnego, prawnika z Unii Europejskiejz tajemnicy jest sąd w prowadzonym konkretnym postepowaniu sądowym, w którym również adwokat, radca prawny, prawnik z Unii Europejskiej musi być uczestnikiem. Po drugie: Zwracamy uwagę, że w projektowanym brzmieniu art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu i na podstawie, której części przepisów Kodeksu Postępowania Cywilnego miałoby być prowadzone takie postępowanie. Tym samym brak zmiany w/w art. 44 spowoduje prowadzenie przez sąd jakiegoś nieznanego przepisom postępowania sądowego, które ma dokonać weryfikacji korespondencji, objętej tajemnicą adwokacką poza samym adwokatem, radcą prawnym czy prawnikiem z Unii Europejskiej, którzy są przecież także dysponentami takiej tajemnicy i co najmniej winni być uczestnikami takiego postępowania sądowego. Obecna konstrukcja w projektowanej ustawy o systemach sztucznej inteligencji jest prawnie niedopuszczalna. Uwagi de lege ferende Strona | 138 Postulujemy dokonanie całkowitej zmiany art. 44 ust. 3 i 5 i w pierwszej kolejności rozstrzygnięcie w jakim trybie i na podstawie jakich przepisów (cywilnych, karnych, administracyjnych) ma działać Kontrolujący oraz na jakim etapie należy zawiadomić o wszczętym postępowaniu adwokata, radcę prawnego czy prawnika z Unii Europejskiej, którym należy umożliwić wzięcie udziału w takim postępowaniu. 206. Związek Cyfrowa Polska Art. 45 Pomoc jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji jest nieuzasadniona. Komisja sama powinna posiadać niezbędne kompetencje i narzędzia do skutecznego przeprowadzania kontroli. Angażowanie zewnętrznych jednostek w ten proces budzi wątpliwości dotyczące poufności kontroli, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy zakres prowadzonych postępowań. Ponadto, przepis mówiący o możliwości żądania wsparcia Policji wydaje się niepotrzebny i nadmierny. Policja może zostać wezwana w każdym przypadku, gdy zdarzenie stanowi przestępstwo lub wykroczenie. Nie ma potrzeby wprowadzania specjalnej procedury angażowania Policji w czynności kontrolne, ponieważ takie podejście nie odpowiada nowoczesnemu państwu, które respektuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 37 ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie Strona | 139 stosowanych przepisów w projekcie ustawy. 207. Polska Izba Ubezpieczeń Art. 46 Izba nie zgadza się na propozycję skrócenia terminu z 14 na 7 dni na zgłoszenie zastrzeżeń do protokołu kontroli. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 208. KIGEiT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonej kontroli czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Analogicznie jak w art. 105 J ust.1 ustawy o ochronie konkurencji i konsumentów. Kontrolowany powinien mieć prawo do doniesienia się do protokołu z całości kontroli, a nie z poszczególnych czynności kontrolnych. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny: wyraz „kontrolowany” zastąpiono wyrazem „kontrolujący”. 209. PIIT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Protokół sporządza kontrolujący? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. Strona | 140 210. Związek Cyfrowa Polska Art. 46 ust. 1 Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że jest to jedynie błąd redakcyjny. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 211. GRAI Art. 46 ust. 1 Jest: Termin na złożenie zastrzeżeń do protokołu został skrócony do zaledwie 7 dni. Propozycja: Proponujemy przywrócenie poprzedniego 14-dniowego terminu, aby dać zainteresowanym więcej czasu na zapoznanie się z nim. W przypadkach tak złożonych jak systemy sztucznej inteligencji, przygotowanie zastrzeżeń często wymaga wkładu specjalistów z różnych działów, co może być trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Zwłaszcza, że brak zastrzeżeń złożonych w terminie oznacza, że projekt protokołu uznaje się za zaakceptowany, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniego czasu na zapoznanie się z jego treścią. Błąd redakcyjny: W art. 46 ust. 1 do poprawy omyłka pisarska – obecnie wskazuje, że to jednostka kontrolowana jest odpowiedzialna za sporządzenie protokołu kontroli. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 212. PTI Art. 46 ust. 3 „Od otrzymanego projektu wystąpienia pokontrolnego podmiotowi kontrolowanemu przysługuje prawo wniesienia do właściwego organu zastrzeżeń, w terminie 14 dni od dnia doręczenia projektu wy stąpienia pokontrolnego.” Nie jest jasne, co jest „właściwym organem” Propozycja doprecyzowania: „do organu kontrolującego” Uwaga wyjaśniona Uwaga dotyczy projektu w wersji udostępnionej w ramach I etapu konsultacji publicznych. W projekcie z 10 lutego 2025 r. przepis zmienił brzmienie. 213. AmCham Art. 46 ust. 4 W celu zapewnienia rzetelności i efektywności procesu kontrolnego, a także Uwaga wyjaśniona Strona | 141 zagwarantowania prawa do obrony, termin na wniesienie zastrzeżeń do raportu z kontroli powinien wynosić co najmniej 14 dni. Obecnie zapisany w projekcie ustawy termin 7 dni w wielu przypadkach będzie niewystarczający, w szczególności w przypadku obszernych i szczegółowych raportów, zawierających analizę dużej ilości danych, materiałów, informacji i dokumentów. Analiza i przygotowanie uwag i zastrzeżeń będzie wymagało więcej czasu niż 7 dni. Zapewnienie 14 dni na zgłoszenie uwag do raportu z kontroli umożliwi kontrolowanym podmiotom dokładne zapoznanie się z treścią raportu, przeprowadzenie własnych analiz i konsultacji, a w konsekwencji – przygotowanie rzeczowych i wyczerpujących zastrzeżeń. Zapewni to również większą transparentność i obiektywizm procesu kontrolnego, co przyczyni się do zwiększenia zaufania do jego wyników. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 214. KIGEiT Art. 46 ust.4 4.W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 215. PIIT Art. 46 ust.4 4. W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 216. PIIT Art. 46 ust. 4 Termin na złożenie zastrzeżeń do projektu protokołu kontroli powinien wynosić co najmniej 14 dni. Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią Strona | 142 projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 217. Związek Cyfrowa Polska Art. 46 ust. 4 Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 218. ZTPC Lewiatan Art. 46. ust. 5 i ust. 8 W przepisie należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 219. KIGEiT Art. 47 zalecenia pokontrolne Uwaga wyjaśniona Strona | 143 W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, rekomendujemy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. 220. PIIT Art. 47 zalecenia pokontrolne W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, należy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do Uwaga wyjaśniona Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. Strona | 144 naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. 221. ZBP Art. 47 ust. 1 Przepis nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 222. GRAI Art. 47. ust. 1 Artykuł nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 223. GRAI Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 224. ZBP Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 225. ZPTC Lewiatan Art. 47 ust. 2 pkt 1) Proponujemy usunięcie słowa \"nie i\" oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 226. ZBP Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać Strona | 145 termin na usuniecie nieprawidłowości bez względu na ich istotność. 227. GRAI Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać termin na usuniecie nieprawidłowości bez względu na ich istotność. 228. ZBP Art. 47 ust. 2 pkt 4 Literówka. Niepotrzebna dodatkowa spacja w sformułowaniu „u st. 1”. Uwaga uwzględniona Przepis został skorygowany. 229. KIGEiT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Rekomenduje się precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego. Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. Uwaga wyjaśniona Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40ust. 2 do całości ustawy należy uznać za zasadne. 230. PIIT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie Strona | 146 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Ewentualnie należy precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40 ust. 2 do całości ustawy należy uznać za zasadne. 231. ICC Poland Art. 48 ust. 2 Zgodnie z art. 48 ust. 1 Projektu, jeśli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy Komisja może wszcząć postępowanie, o którym mowa w rozdziale 4 ustawy. Jednakże, na zasadzie wyjątku od tej reguły, art. 48 ust. 2 Projektu przewiduje, że w przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Zawarcie w art. 48 ust. 2 Projektu, przewidującym – na zasadzie wyjątku od reguły z art. 48 ust. 1 Projektu – obowiązek wszczęcia przez Komisję postępowania z urzędu, powinno być ograniczone jedynie do systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689, nie zaś przepisów ustawy. Inaczej dochodzi w istocie do częściowego nakładania się zakresu zastosowania art. 48 ust. 1 i 2 Projektu. Z tego względu proponuje się wprowadzenie następującej zmiany w art. 48 ust. 2: W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stad odniesienie w art. 40 ust. 2 do ustawy należy uznać za zasadne. 232. ZBP Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. 233. GRAI Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. Strona | 147 234. KIGEiT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 rekomendujemy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Rada może dysponować wiedza uzasadniająca wszczęcie postępowania przez Komisję zasadne jest więc, aby zachować przepis w obecnym brzmieniu. 235. PIIT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu Strona | 148 działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 należy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Rada nie powinna zajmować się sprawami indywidualnymi. przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest, aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. 236. Związek Cyfrowa Polska Art. 49 ust. 2 pkt 4) Rada nie powinna mieć uprawnienia do wnioskowania o wszczęcie postępowania. Rada pełni wyłącznie funkcję doradczą i konsultacyjną dla Komisji, a przyznanie jej uprawnienia do inicjowania postępowań wykracza poza jej zamierzoną rolę. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny czy wniosek o wszczęcie postępowania jest uzasadniony. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o Strona | 149 wszczęcie postępowania. 237. Fundacja Panoptykon Art. 50 Skarga na naruszenie przepisów rozporządzenia lub ustawy Pozytywnie oceniamy próbę uszczegółowienia procedury składania i rozpatrywania skargi przez osoby fizyczne. Zwracamy jednak uwagę na dwa problemy: wysokie wymagania dotyczące zawartości skargi oraz niejasności dotyczące etapów rozpatrywania skargi i momentu informowania na ten temat skarżącego. a) wymogi dotyczące zawartości skargi Autorzy projektu wskazali, że skarga musi m.in. wskazywać nazwę systemu AI, o jaki chodzi oraz opisywać istotne fakty. Jak słusznie zwrócił uwagę prof. Grzegorz Sibiga może okazać się, że dla obywateli są to zbyt wygórowane wymagania formalne. O ile rozumiemy, że bez opisu istotnych faktów Komisja lub jej Przewodniczący mogą nie mieć możliwości reakcji na skargę, tak wymóg wskazywania nazwy systemu wydaje się nam nadmierny, zwłaszcza że skarżący może tej nazwy po prostu nie znać. b) etapy rozpatrywania skargi i informowanie skarżącego Zgodnie z art. 50 ust. 1 osoba fizyczna składa skargę do Komisji. Jednak przepis ten nie odpowiada jednoznacznie na pytanie o dalsze losy złożonej skargi i czy zajmuje się nią Przewodniczący czy od razu Komisja. Za tą pierwszą wykładnią przemawia fakt, że po analizie skargi Przewodniczący może złożyć wniosek o wszczęcie postępowania (por. ust. 5). Jednak z drugiej strony - Komisja może wszcząć postępowanie z urzędu, a więc także po zapoznaniu się ze skierowaną do niej skargą. Co więcej, za możliwością wszczęcia postępowania przez Komisję przemawia art. 50 ust. 4 projektu. Doprecyzowanie kolejnych etapów rozpatrywania skargi ma znaczenie z perspektywy funkcjonalności tego mechanizmu, ale także z perspektywy informacji, jakie otrzymuje skarżący (por. art. 50 ust. 6). Aktualnie niejasne jest bowiem, jak rozumieć pojęcia “wszczęcia postępowania, o którym mowa w ust. 5 i “zakończeniu postępowania w sprawie związanej z postępowaniem, o którym mowa w ust. 5”. Jednocześnie prof. Sibiga słusznie zwrócił uwagę na problem braku konieczności jakiegokolwiek uzasadnienia decyzji o niewszczynaniu postępowania. Naszym zdaniem procedura rozpatrywania skarg wymaga zmian, w szczególności poprzez ułatwienie ich składania (wykreślenie konieczności wskazywania nazwy systemu) oraz uporządkowanie procedury ich rozpatrywania, włączając w to uzupełnienie zakresu informacji przekazywanych skarżącemu o uzasadnienie braku przesłanek do wszczęcia postępowania. a) Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. b) Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. Dalej zastosowanie znajdują przepisy dotyczące postępowania przed Komisją. 238. KIGEiT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej Strona | 150 Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 239. PIIT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 240. GRAI Art. 50 ust. 2 i 3 Nie określono konsekwencji prawnych niezachowania wymogów formalnych skargi z ust. 2. W ust. 3 należałoby doprecyzować, że są to np. środki komunikacji elektronicznej, a nie np. telefon. Uwaga w części uwzględniona Ust. 3 został doprecyzowany. 241. GRAI Art. 50 ust. 5 i 6 Nie jest jasna rola Przewodniczącego Komisji. Czy ma on dokonywać jakiejś wstępnej kwalifikacji skargi i przyjęcia jej do rozpoznania? W naszej ocenie skarga w ustawie powinna być uregulowana przepisami KPA. To Komisja jako organ, a nie Przewodniczący powinna rozpatrywać skargę. Przewodniczący nie może decydować o wszczęciu postępowania. Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. 242. KIGEiT Art. 50. ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na Strona | 151 ogólnodostępnej stronie podmiotowej Biura Komisji. 243. PIIT Art. 50 ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia. Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na ogólnodostępnej stronie podmiotowej Biura Komisji. 244. KIGEiT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy rozdziału o kontroli. 245. PIIT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy Strona | 152 rozdziału o kontroli. 246. FinTech Poland Art. 52 ust. 3 Takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim – albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 247. ZBP Art. 52 ust. 3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt.” Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. Strona | 153 przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Python, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. W tym kontekście zwracamy uwagę na możliwość zaadresowania kwestii tłumaczenia w sposób analogiczny jak zostało to rozwiązane w art. 11a ust. 1 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym „Na wniosek podmiotu prowadzącego działalność regulowaną w przepisach, o których mowa w art. 1 ust. 2, mającego siedzibę poza terytorium Rzeczypospolitej Polskiej pisemna i ustna komunikacja Komisji z takim podmiotem może odbywać się w języku angielskim. W takim przypadku czynności, o których mowa w art. 5 ustawy z dnia 7 października 1999 r. o języku polskim (Dz. U. z 2021 r. poz. 672 oraz z 2023 r. poz. 1672), mogą być dokonywane w języku polskim lub angielskim”. Rozwiązanie w ustawie o systemach sztucznej inteligencji mogłoby podobnie wskazywać, że na wniosek podmiotu kontrolowanego, w niezbędnym zakresie, dokumentacja może być przekazywana w języku angielskim lub oryginalnym języku dokumentacji. Ponadto, zwracamy uwagę, że instytucja pozostawienia dokumentacji w jej oryginalnym języku jest rozwiązaniem wykorzystywanym również w regulacjach Unii Europejskiej. Przykładowo w art. 34 ust. 3 Rozporządzenia 2018/389 „Do celów niniejszego rozporządzenia kwalifikowane certyfikaty pieczęci elektronicznych lub kwalifikowane certyfikaty uwierzytelniania witryn internetowych, o których mowa w ust. 1, zawierają – w języku zwyczajowo używanym w dziedzinie finansów – dodatkowe szczególne atrybuty w stosunku do każdego z następujących elementów”. 248. Związek Cyfrowa Polska Art. 52 ust. 3 Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze SI, powinna posiadać wystarczającą znajomość języka angielskiego, aby Uwaga uwzględniona Strona | 154 analizować dokumentację bez wymogu jej tłumaczenia. Zdecydowana większość dokumentów technicznych, prawnych i dotyczących zgodności SI jest tworzonych oryginalnie w języku angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 249. GRAI Art. 52 ust.3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 250. GRAI Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się, czy przepis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także przepisy art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony Strona | 155 postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i da im możliwości do podjęcia działań zmierzających do przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 251. AmCham Art. 53 Projekt ustawy w wersji z lutego 2025 roku wprowadza istotne zmiany w zakresie uprawnień Komisji, poszerzając jej kompetencje w obszarze wydawania ostrzeżeń. Zgodnie z nowymi przepisami, ostrzeżenia Komisji nabierają charakteru władczego, a ich zignorowanie może skutkować poważnymi konsekwencjami dla dostawców AI. Wśród potencjalnych sankcji, które może zastosować Komisja, jeśli adresat nie zastosuje się do “ostrzeżenia” Komisji, projekt ustawy wymienia m.in. nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym, a nawet nałożenie kary pieniężnej. Takie rozwiązanie budzi jednak poważne wątpliwości, gdyż stoi w sprzeczności z samą naturą ostrzeżenia, które powinno być instrumentem o charakterze \"miękkim\", niewładczym. W świetle projektowanych przepisów, wydanie “ostrzeżenia” nie wymaga od Komisji udowodnienia naruszenia, wystarczyć ma jedynie uzasadnione podejrzenie. Ponadto, zgodnie z projektowanymi przepisami ostrzeżenie ma formę postanowienia (a nie decyzji administracyjnej). W efekcie projektowane przepisy, dają Komisji możliwość nakładania kar pieniężnych bez konieczności udowodnienia naruszenia i bez wydawania decyzji administracyjnej, tworząc sytuację, w której na podstawie jedynie uzasadnionego podejrzenia, bez przeprowadzenia pełnego postępowania administracyjnego dostęp do systemu AI może zostać zablokowany a dostawcy AI mogą być pociągnięci do odpowiedzialności finansowej. Biorąc powyższe pod uwagę projektowane przepisy należy zmienić tak, aby ostrzeżenie - zgodnie ze swoją nazwą i naturą - faktycznie było \"miękki\", nie władczym narzędziem w rękach Komisji. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w projektowanej ustawie, takich jak kontrole czy wydawanie decyzji administracyjnych po Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 156 przeprowadzeniu odpowiedniego postępowania kontrolnego. Takie rozwiązanie pozwoliłoby na zachowanie równowagi między koniecznością zapewnienia bezpieczeństwa użytkowników a ochroną praw dostawców AI. 252. Polska Izba Ubezpieczeń Art. 53 Izba proponuje nie dodawać w katalogu kar za niedostosowanie się zakładu ubezpieczeń do ostrzeżenia wydanego przez Komisję lub przekroczenia terminu na dostosowanie rozwiązania następujących działań: a. nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; b. nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; Działania takie będą kosztowne i będą generować ryzyko działalności zakładów ubezpieczeń. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 253. Związek Cyfrowa Polska Art. 53 Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (niewładczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli niewładczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych. Artykuł ten budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 157 inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: ● Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług ● Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych ● Rozsądne ramy czasowe na realizację zamówień (minimum 60 dni). 254. ZPTC Lewiatan Art. 53 Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia spójnego podejścia do egzekwowania przepisów, biorąc pod uwagę: • Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług • Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych • Ustalenie rozsądnych ram czasowych na dostosowanie się (minimum 60 dni) Uzasadnienie: Artykuł 53 budzi obawy zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Uwaga wyjaśniona Art. 53 (obecnie art. 45 stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 255. KIGEiT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożlwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej Strona | 158 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się wydłużenie minimalnego terminu. inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 256. ZPTC Lewiatan Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się czy zapis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także zapis art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i daniem możliwości do podjęcia działań zmierzających do Strona | 159 przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 257. PIIT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin minimalny powinien zostać wydłużony. Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożliwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 258. AmCham Art. 53 ust. 3 Zapisany w projekcie ustawy 14-dniowy termin na zastosowanie się do ostrzeżeń Komisji i wdrożenie środków naprawczych w celu usunięcia skutków naruszenia jest niewystarczający. Wdrożenie zmian wynikających z ostrzeżenia Komisji może być czasochłonne, wymagając np. i) zmian w kodzie, które muszą zostać dokładnie przetestowane przed wdrożeniem na środowisku produkcyjnym, aby zapewnić ich poprawność i niezawodność, ii) przeprowadzenia oceny bezpieczeństwa, których celem będzie zweryfikowanie, czy wprowadzane zmiany nie generują zagrożeń dla bezpieczeństwa systemu, a filanie iii) przeprowadzenia kontroli zgodności z przepisami, mające na celu zapewnienie, że wszelkie modyfikacje są zgodne z wieloma, często Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed Strona | 160 nakładającymi się na siebie ramami prawnymi, co jest szczególnie istotne w przypadku organizacji działających na wielu rynkach. Biorąc pod uwagę te czynniki, widzimy potrzebę zmiany projektowanych przepisów tak, aby to Komisja, wydając ostrzeżenie, określała termin w jakim oczekuje wykonania zaleceń wskazanych w ostrzeżeniu, przy czym projektowana ustawa powinna wskazywać, że termin wyznaczony przez Komisję nie może być krótszy niż 30 dni od dnia otrzymania ostrzeżenia przez adresata. Takie rozwiązanie zapewni, że adresaci ostrzeżeń zawsze będą mieli co najmniej 30 dnia na wprowadzenie zmian i dostosowanie się do ostrzeżenia, a jednocześnie zapewni Komisji niezbędną elastyczność i możliwość wyznaczenia dłuższego terminu, gdyż w praktyce mogą wystąpić sytuacje, w których sama Komisja może uznać, że szczególne okoliczności sprawy wymagają, aby adresat ostrzeżenia miał więcej niż 30 dni na dostosowanie się. potencjalnym niepożądanym działaniem takiego systemu. 259. KIGEiT Art. 53 ust.3 Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się analogicznie, jak przy zaleceniach kontrolnych, aby termin minimalny został wydłużony do nie mniej niż 30 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 260. PIIT Art. 53 ust.3 Strona w terminie, określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Termin powinien zostać wydłużony - analogicznie, jak przy zaleceniach pokontrolnych - do nie mniej niż 30 dni. Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. Strona | 161 zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy, by Komisja miała uprawnienie do określenia terminu, który będzie właściwy w danym przypadku, ale nie krótszy niż 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. 261. Zawiązek Cyfrowa Polska Art. 53 ust. 3 Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z przepisami z 14 do co najmniej 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 262. KIGEiT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 162 przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. 263. PIIT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 163 finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (nie władczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli nie władczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych 264. KIGEiT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 265. PIIT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 266. Związek Cyfrowa Polska Art. 54 ust. 1 Podczas gdy podstawą wszczęcia postępowania ma być naruszenie rozporządzenia 2024/1689 (AI Act), sama decyzja Komisji kończąca postępowanie może dotyczyć naruszenia rozporządzenia 2024/1689 (AI Act) lub ustawy o systemach sztucznej inteligencji. Powoduje to niejasności, ponieważ ustawa o systemach sztucznej Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46) Strona | 164 inteligencji jest aktem prawnym odrębnym od rozporządzenia 2024/1689 (AI Act). Żeby zapewnić spójność i jasność prawną, należy wyraźnie określić, czy decyzja Komisji może obejmować naruszenia ustawy o systemach sztucznej inteligencji. Bez tego wyjaśnienia istnieje ryzyko błędnej interpretacji zakresu i możliwości zastosowania uprawnień Komisji w takich przypadkach. 267. KIGEiT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję, do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 268. PIIT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję,14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Komisja powinna mieć uprawnienie do określenia odpowiedniego terminu na wykonanie nakazu. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 269. ZBP Art. 54 ust. 2 Termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Tak krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym Strona | 165 działaniem danego systemu sztucznej inteligencji. 270. KIGEiT Art. 54 ust.3 3. W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 271. GRAI Art. 54 ust. 2 Sformułowanie „usuniecie skutków naruszenia” jest niejasne i budzi wątpliwości. Niekiedy sutki naruszeń mogą być nieodwracalne jak np. śmierć w przypadku niewłaściwego działania systemów autonomicznej jazdy. Ponadto termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Taki krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Proponujemy następujące brzmienie: „Decyzja, o której mowa w ust. 1, zawiera środki nakazujące zaprzestanie naruszania przepisów nie później niż 14 dni od decyzji, o ile w decyzji nie ustalono inaczej, a usunięcie skutków naruszenia w terminie i zakresie wskazanym w decyzji.” Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 272. PIIT Art. 54 ust.3 W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia Uwaga wyjaśniona Strona | 166 administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 273. AI Chamber Art. 55 ust. 2 Określone w art. 55 ust. 2 przesłanki wydania decyzji nakazującej zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, są ze swej natury bardzo ocenne. Tymczasem taka sankcja może oznaczać dla przedsiębiorcy poważne straty, a w skrajnych przypadkach upadłość. Nadanie w takich okolicznościach klauzuli natychmiastowej wykonalności takiej decyzji jest zabiegiem niezwykle ryzykownym. Jest to szczególnie rażące w kontekście dodania w drugiej wersji projektu ustawy możliwości zastosowania takiej sankcji, gdy system “wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku” nadchodzących wyborów. Wydaje się, że tak swobodnie zakreślona przesłanka, gdzie wpływ może być jedynie potencjalny, a nie faktyczny, de facto daje pole do zupełnie dyskrecjonalnego wydawania decyzji o silnym podtekście politycznym. Jest to nie tylko niebezpieczne z punktu widzenia dostawców systemów SI, ale może podważać zaufanie do KRiBSI i szerzej systemu politycznego i prawnego RP. Postulujemy usunięcie tej zmiany. Uwag uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 274. AmCham Art. 55 ust. 2 Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym przepisem projektowanej ustawy, który może wyrządzić najwięcej szkody. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny, gdyż nie sposób uznać, że jasną i jednoznaczną przesłanką jest “[.] wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu Strona | 167 społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów [.]”. Na gruncie tak sformułowanego przepisu Komisja będzie miała w zasadzie dowolność oceny, czy zasadne jest zastosowanie tego przepisu. Brak konkretnych i obiektywnych kryteriów, które Komisja miałaby stosować przy podejmowaniu takiego rozstrzygnięcia, stwarza ryzyko arbitralności i nadużyć. A skutki zastosowania tego przepisu przez Komisję będą dalekosiężne, wręcz drastyczne dla dostawców modeli sztucznej inteligencji, gdyż w takim przypadku Komisja ma mieć możliwość nakazania operatorowi systemu sztucznej inteligencji zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, czyli de facto nakaz zamknięcia usługi. Na domiar złego Komisja może nakazać natychmiastowe wykonanie nakazu, wyłączając możliwość weryfikacji rozstrzygnięcia Komisji jeszcze przed koniecznością zamknięcia systemu. Natychmiastowa wykonalność tak kontrowersyjnego rozstrzygnięcia podważa prawo do kontroli sądowej, ponieważ strona, której dotyczy decyzja, miałaby ograniczoną możliwość zakwestionowania jej przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W praktyce oznacza to, że decyzja Komisji mogłaby być wykonana zanim sąd zdążyłby ją zbadać i ewentualnie wstrzymać jej wykonanie. W efekcie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania się do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co jest szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Nie sposób nie zauważyć, że tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież to media, a nie sztuczna inteligencja, mają większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek i nie demonizować tej technologii. Ponadto, analizowane narzędzie nie ma podstaw i nie ma odpowiednika w Akcie o AI i stanowi ewidentny przykład gold-platingu, którego w polskiej regulacji miało nie być. Co więcej, jest to gold-plating bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o gold-platingu rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro Akt o AI jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy Aktu o AI. istotnym dla wyniku wyborów. Strona | 168 W związku z powyższym, analizowany przepis powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 Aktu o AI, aby zapewnić zgodność z prawem UE i uniknąć niepotrzebnych i szkodliwych ograniczeń w rozwoju sztucznej inteligencji w Polsce. 275. PIIT Art. 55 ust. 2 Należy usunąć z projektu ustawy przepis dający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania stosowania lub wycofanie systemu z rynku lub użytku, w szczególności w części dotyczącej wyborów. Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób też zrozumieć, czemu akurat sztuczna inteligencja jest technologią, która została przez Projektodawcę “wyróżniona” właśnie w ten sposób, w szczególności w kontekście wyborów. Tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież z oczywistych względów to media, a nie sztuczna inteligencja ma większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek, nie należy tej technologii demonizować, pamiętać też trzeba, że sztuczna inteligencja jest narzędziem w ludzkich rękach i powinna być tak traktowana. W żaden sposób nie można uznać, że sztuczna inteligencja ma większe albo mniejsze znaczenie w kontekście np. procesów Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. Strona | 169 wyborczych niż inne narzędzia i technologie wykorzystywane przez ludzi i z tego względu nie zasługuje na jakieś specjalne traktowanie w tym zakresie. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Na domiar złego jest to “gold plating” bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o “gold platingu” rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro AI Act jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy AI Act (z wyjątkiem przypadków wyraźnie wskazanych w samym AI Act – ten wyjątek w tym przypadku nie zachodzi). W związku z powyższym analizowany przepis ten powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 276. PTI Art. 55 ust. 2 W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych, lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu w trybie, o którym mowa w ust. 4, z rynku lub użytku. Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Tego typu praktyki są już standardem w wyszukiwarkach internetowych oraz portalach społecznościowych. Wyszukiwarki na przykład ukrywają pewne wyniki promując określoną grupę. Portale społecznościowe przed wyborami pełne są różnego rodzaju komentarzy także zwykłych ludzi nie tylko botów. A przecież nie są to “systemy sztucznej inteligencji”. Sugerujemy rozważenie, czy taki zapis jest potrzebny 1. Wyszukiwarki internetowe czy portale społecznościowe nie są z definicji “systemami sztucznej inteligencji”. 2. Jak udowodnić tego typu działanie (przykład Cambridge Analytica)? 3. Każda ze stron stosuje tego typu praktyki, co powinno skutkować zablokowaniem debaty o każdym kandydacie. 4. Stosuje się nie tylko aktywne rozsiewanie informacji, ale również ukrywanie Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. Strona | 170 informacji, czyli ukrywanie informacji jest również działaniem na szkodę. 5. Trzeba uważać w tego typu praktykach, aby nie zrobić z nich narzędzia upolitycznionej cenzury działającej wyłącznie na korzyść jednej ze stron sceny politycznej. 6. Dlaczego zapis dotyczy szczególnie wyborów politycznych a nie wspomina np. o oszustwach internetowych przez oficjalne płatne reklamy na portalach typu Google, Facebook, X, itp? 277. Związek Cyfrowa Polska Art. 55 ust. 2 W obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Ponadto, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu. Przepis ten powinien zostać całkowicie usunięty, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 278. GRAI Art. 55 pkt 2 Doceniamy zwrócenie uwagi na ryzyka wyborcze związane z systemami AI. Uwaga uwzględniona Strona | 171 Przepis o tym, że system nawet nie w sposób udowodniony wywiera, co „może wywrzeć” wpływ na opinie i nastroje społeczne daje szerokie pole do podjęcia subiektywnej decyzji przez Komisję, które może de facto prowadzić do zablokowania na 30 dni przed wyborami dostępu do źródeł informacji, w tym mediów tradycyjnych, mediów społecznościowych czy czatbotów. W świetle innych zgłaszanych uwag dotyczących procesu powoływania Komisji, to bardzo poważna kompetencja wpływająca na proces wyborczy. W celu uniknięcia niespójności z ramą AI Act zachęcamy do ujednolicenia definicji z tą wypracowywaną w ramach GPAI CoP definicji ryzyk systemowych: Aktualna wersja w drugim szkicu brzmi: Large-scale, harmful manipulation: The facilitation of large-scale manipulation with risks to fundamental rights or democratic values, specific to high-impact capabilities of models such as autonomy, persuasion, and manipulation. This includes, for example, large-scale election interference, and coordinated and sophisticated manipulation campaigns leading to harmful distortions of public discourse, knowledge and behaviour. Zwracamy uwagę, że również powyższa definicja wzbudza wątpliwości i wciąż wymaga dalszego dopracowania, między innymi w związku z użyciem mało precyzyjnego definiowania przez przykłady. Rozdźwięk między regulacją polską a unijną będzie prowadzić do efektu mrożącego wobec wypowiedzi politycznych i społecznych w sieci i prewencyjnej nadmoderacji treści politycznych. Dotyczy to nie tylko samej kampanii wyborczej, ale też treści prywatnych opinii obywateli czy promocji działań organizacji pozarządowych. W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 279. KIGEiT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Rekomendujemy doprecyzowanie definicji „tryb przyspieszony”. Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 280. PIIT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Uwaga wyjaśniona Strona | 172 Gdzie opisany jest tryb przyspieszony? Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 281. KIGEiT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. Zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ust.2 czy nie powinna być to mowa o decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1, który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 47) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 282. PIIT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. Strona | 173 Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. ust.2 czy nie powinna być to mowa decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 283. GRAI Art. 57 Należy uwzględnić procedurę dotyczącą zażaleń. W ust. 1 wskazano, że podane tam postanowienia są zaskarżalne zażaleniem, natomiast przepis w dalszej części dotyczy jedynie odwołań. Proponujemy dodanie ustępu w tym przepisie o treści: „Przepisy ust. 3-6 stosuje się odpowiednio do zażaleń od postanowień Komisji.”. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 284. Związek Cyfrowa Polska Art. 57 ust. 2 Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. Prawo do odwołania się od decyzji administracyjnych jest podstawowym zabezpieczeniem prawnym, a przepis ten powinien być sformułowany z absolutną precyzją. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 285. PTI Art. 57 ust. 4 Jeżeli Komisja uzna odwołanie za słuszne, może - nie przekazując akt sądowi - uchylić albo zmienić swoją decyzję w całości lub w części, o czym bez zwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie przysługuje odwołanie. Uchylając albo zmieniając decyzję, Komisja stwierdza jednocześnie, czy decyzja ta została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Działania tego typu mogą narazić szczególnie małe przedsiębiorstwa na szkodę – strata czasu, wyników, środków finansowych na prawników. Sugerujemy rozważenie utrzymania tego przepisu Brak informacji o odpowiedzialności za fałszywe oskarżenia, możliwości nadużyć dla celów np. politycznych Uwaga wyjaśniona Na wstępie należy wskazać, że organy działają na podstawie i w granicach prawa. Wszelkie odstępstwa w tym zakresie poddane są ogólnym regułom Strona | 174 odpowiedzialności organów. Przepis wpisuję się natomiast w funkcjonującą na podstawie kodeksu postępowania administracyjnego instytucję „autokontroli decyzji”. Sama instytucja ma charakter wyjątkowy i organy powinny z niej korzystać wyłącznie wtedy, kiedy nie mają żadnych wątpliwości co do istnienia podstaw prawnych jej zastosowania Za powyższym rozwiązaniem przemawia zasada ogólna szybkości i prostoty postępowania. 286. GRAI Art. 57 ust. 4 Należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Przepis pozostawiono z uwagi na konieczność zapewnienia kompletności obu ustaw. 287. KIGEiT Art. 57 ust. 4 w zw. z Art. 107 Rekomendujemy, aby brzmienie art. 57 ust. 4 ujednolicić z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu. 288. PIIT art. 57 ust.4 w zw. z art. 107 Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Strona | 175 Zmieniono brzmienie przepisu. 289. AI Chamber Rozdział 5 Na zdecydowane poparcie zasługują przepisy Rozdziału 5 projektu ustawy, dotyczące układu. Jest to przykład pozytywnej regulacji, mającej na celu zapewnienie przestrzegania przepisów, lecz w formie bardziej kooperatywnej niż automatyczne nakładanie jak najwyższej sankcji pieniężnej na przedsiębiorcę. Wydaje się jedynie, że przepisy to wymagają pewnego dopracowania i uproszczenia postępowania. Uwaga uwzględniona Przeredagowano część przepisów rozdziału i zrezygnowano z części regulacji. 290. KIGEiT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby Strona | 176 graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 291. PIIT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. Strona | 177 W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 292. KIGEiT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 293. PIIT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie Strona | 178 spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 294. KIGEiT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 295. PIIT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 296. b KIGEiT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Rekomendujemy, aby termin na zawarcie układu był liczony od złożenia oświadczenia o woli jego zawarcia. Uwaga wyjaśniona Ze względu na przedmiot ustawy projektodawca utrzymuje termin 1 miesiąca we wskazanym przepisie. 297. PIIT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze Uwaga wyjaśniona Termin na zawarcie układu uwzględnia Strona | 179 postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 298. Związek Cyfrowa Polska Art. 62 ust. 4 Uprawnienie Komisji do zakończenia negocjacji przed zawarciem ugody jest zbyt szerokie i nie opiera się na żadnych określonych kryteriach. Zalecamy określenie jasnych warunków, na jakich Komisja może zakończyć negocjacje ugodowe i wprowadzenie wymogu uzasadnienia, zapewniając, że strony rozumieją podstawę prawną i faktyczną takiego zakończenia. Uwaga wyjaśniona Art. 62 (obecnie art. 54) ust. 4 został wykreślony. 299. ICC Poland Art. 64 ust. 1 Zgodnie z art. 64 ust. 1 Projektu, po stwierdzeniu, że spełnione są warunki zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Jak z kolei wynika z art. 61 ust. 6 Projektu, w ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 70%, a w przypadku, o którym mowa w art. 76 ustawy – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. W związku z tym, że przewidziane w układzie obniżenie wysokości kary pieniężnej odnosi się do kary hipotetycznej (abstrakcyjnej w momencie oceny projektu układu), która zostałaby nałożona bez zawarcia układu, podjęcie przez stronę będącą podmiotem postępowania przed Komisją racjonalnej decyzji co do przyjęcia układu wymaga wiedzy Uwaga wyjaśniona Treść przepisu nie wymaga doprecyzowania. Użyte w przepisów pojęcie zakresu proponowanego złagodzenia kary nie odnosi się wyłącznie do określenia procentowego ale Strona | 180 co do: i) kary pieniężnej, która zostałaby nałożona bez zawarcia układu (wraz z uzasadnieniem); ii) zakresu proponowanego złagodzenia sankcji (procentowo). Z tego względu, dla uniknięcia wątpliwości co do wymaganego ustawą zakresu projektu układu, proponuje się wyraźne przesądzenie, że w odniesieniu do kary pieniężnej projekt układu powinien zawierać obie te informacje. Cel może zostać osiągnięty przez następującą zmianę art. 64 ust. 1 Projektu: Po stwierdzeniu, że spełnione są warunki, o których mowa w art. 61 ust. 4 ustawy, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. W przypadku przewidzianego układem obniżenia wysokości kary pieniężnej w projekcie układu zamieszcza się również informację o wysokości kary pieniężnej, która zostałaby nałożona bez zawarcia układu wraz z jej uzasadnieniem. Komisja wydaje postanowienie o przedstawieniu projektu układu. również kwotowego wymiaru kary. 300. ICC Poland Art. 65 ust. 4 Artykuł 65 ust. 4 Projektu przewiduje, że skutkiem złożenia oświadczenia o przyjęciu układu w sprawie warunków nadzwyczajnego złagodzenia sankcji jest zrzeczenie się przez stronę postępowania prawa do złożenia „wniosku oraz skargi do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. W związku z tym, że zgodnie z ustawą od decyzji takiej przysługuje odwołanie, zachodzi konieczność doprecyzowania wskazanego przepisu w sposób kompatybilny z pozostałymi przepisami ustawy: Skutkiem oświadczenia, o którym mowa w ust. 1, jest zrzeczenie się przez stronę postępowania prawa do złożenia wniosku oraz skargi odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. Uwaga uwzględniona W przepisie wyrazy „wniosku oraz skargi” zastąpiono wyrazem „odwołania”. 301. KIGEiT Art. 66 ust.1 . 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uwaga uwzględniona Poprawiono odesłanie 302. PIIT art. 66 ust.1 . 1. W przypadku, gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona Poprawiono odesłanie 303. KIGEiT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. (obecnie art 62) ust. 1. Na żądanie Strona | 181 Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 304. PIIT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. 1 (obecnie art 62) Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. Strona | 182 305. AmCham Art. 71 Stoimy na stanowisku, że kary powinny być ograniczone do spółek dopuszczających się naruszenia. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 306. PTI Art. 71 Art. 71. W przypadku niewykonania przez podmiot, który zawarł układ, zobowiązań podjętych w ramach układu w całości albo w istotnej części, lub istotnych nieprawidłowości w wykonaniu tych zobowiązań, Komisja może nałożyć na ten podmiot karę pieniężną do wysokości nieprzekraczającej: 1) w przypadku osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej – 10 000 000 zł; 2) w przypadku osoby fizycznej – 1 000 000 zł 2. W przypadku stwierdzenia naruszenia wskazanego w ust. 1 Komisja może nałożyć na członka zarządu osoby prawnej, który jest odpowiedzialny za to naruszenie, karę pieniężną w wysokości do 1 000 000 zł. Sugerujemy rozważyć również kwoty zależne od obrotu / przychodów firmy /osoby (mechanizmy stosowane w Rozp. O ochronie danych osobowych) Dla dużej firmy, która i tak na szkodliwych działaniach zarobi większą kwotę ta kara może się opłacać. Dla małej firmy lub osoby prowadzącej działalność gospodarczą to może być koniec świata. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71(obecnie art. 63) został wykreślony. 307. IWP Repropol Art. 71 Uważamy postępowanie układowe za dobry pomysł. Wymuszenie autorefleksji po stronie podmiotu naruszającego przepisu jest lepszym rozwiązaniem niż od razu siłowe nakładane kar na podmioty naruszycielskie. Jednocześnie jednak obawiamy się, aby wysokość kar grożących za niedochowanie zawartego układu nie wywołały efektu mrożącego, odwrotnego do zamierzonego. Jeśli członek zarządu będzie skonfrontowany z perspektywą indywidualnej kary do jednego miliona złotych z tytułu niewykonywania lub niewłaściwego wykonywania zaciągniętych zobowiązań (zob. art. 71 ust. 2 UoSSI), obawiamy się pełnej i rzeczywistej gotowości podmiotów do podejmowana prób układania się z KRIBSI. Chodzi po prostu o to, aby propozycja dobrego mechanizmu dialogu nie została zniweczona nadmierną dolegliwością konsekwencji w przypadku negatywnego scenariusza. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 308. Związek Cyfrowa Polska Art. 71 ust. 2 W niewłaściwy sposób nakłada on kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. Uwaga wyjaśniona Strona | 183 W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 309. KIGEiT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Rekomendujemy doprecyzowanie Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia, a także doprecyzowanie o jakie zezwolenie chodzi. Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 310. PIIT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 311. Związek Cyfrowa Polska Art. 77 Ustawa powinna umożliwiać podmiotom oznaczanie określonych informacji jako niepublicznych przy publikowaniu decyzji. Ustawa o systemach sztucznej inteligencji powinna jasno określać, że niektóre wrażliwe informacje nie mogą być ujawniane przez Komisję. Zalecamy również wprowadzenie prawnego obowiązku zachowania poufności, w szczególności w odniesieniu do tajemnic przedsiębiorstwa oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis otrzymał nowe brzmienie: 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice Strona | 184 przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 312. KIGEiT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi 313. PIIT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi. 314. PIIT Art. 77 ust. 3 3. Wykaz zawiera co najmniej: 1) nazwę określenie systemu oraz operatora, którego dotyczy decyzja pozwalające na jego identyfikację; Nie każdy system posiada konkretną nazwę, kluczowe jest żaby określić system Uwaga wyjaśniona „Określenie systemu” jest pojęciem wieloznacznym i szerokim. Przy braku wskazania co powinno takie określenie zawierać podane informację mogą być nieprecyzyjne. 315. Polskie sieci elektroenerget yczne Rozdział 6 - art. 78-80 Aktualna treść artykułu nie specyfikuje o jakiego typu incydenty chodzi, a jednocześnie wskazuje Komisję jako adresata zgłoszeń o incydentach (a Komisja dopiero może poinformować CSITRy). Może to powodować wrażenie, że cyberincydenty dotyczące systemów SI nie musza być raportowane bezpośrednio do CSIRTów (w tym sektorowych). Dla uniknięcia wątpliwości, wydaje się zasadne uzupełnienie artykułu o wskazanie, że jeśli z innych przepisów prawa wynika raportowanie o incydencie do innych organów, to ten artykuł z tego nie zwalnia. Uwaga częściowo uwzględniona Przepis art. 79, który wskazuje na obowiązek przekazania informacji m.in. CSIRTom uległ znacznej zmianie. Jednocześnie, projektowana ustawa nie modyfikuje lub znosi Strona | 185 obowiązków określonych w innych ustawach. 316. Polskie sieci elektroenerget yczne Rozdział 6 vs Rozdział 8 Kwestia czy raportowanie na temat poważnych incydentów dotyczy również piaskownicy regulacyjnej może budzić wątpliwości. Wydaje się zasadnie uzupełnienie Rozdziału 6 o zapis wskazujący intencję ustawodawcy w tym zakresie. Uwaga wyjaśniona Niemożliwe jest całkowite wykluczenia ryzyka wystąpienia incydentu stanowiące potencjalne ryzyko, które wystąpi w ramach piaskownicy regulacyjnej. 317. FinTech Poland Art. 78 Zgodnie z art. 73 ust. 2 AI Act dostawcy systemu sztucznej inteligencji wysokiego ryzyka zgłoszenie poważnego incydentu dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. W ust. 3 wskazano, że niezależnie od ust. 2 w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. W ustawie pojawia się termin maksymalny 24 godzin od momentu wykrycia, rekomendujemy wydłużenie terminu, które umożliwi zgłoszenie incydentu z kompletnymi informacjami dotyczącymi opisu poważnego incydentu. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na Strona | 186 z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 318. Polska Izba Ubezpieczeń Art. 78 Zaproponowany w projekcie 24 godzinny czas na zgłoszenie incydentu, liczony od momentu jego wykrycia jest niewystarczający. Po pierwsze przy skomplikowanych i rozległych systemach zebranie odpowiednich danych w takim terminie może być niewystarczające. Dodatkowo moment wykrycia może być różnie interpretowany i rozciągnięty w czasie. Pośrednią konsekwencją tak krótkiego czasu będą przypadki zgłoszeń incydentów, które ostatecznie okażą się zupełnie nieistotne. Proponujemy wydłużenie czasu do 72h. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje Strona | 187 to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 319. PIIT Art. 78 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 Strona | 188 rozporządzenia 2024/1689. 320. ZPTC Lewiatan Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Propozycja: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia. Uzasadnienie: 1. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie tworzy nadmiernie obowiązki. 2. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. 3. Zrównanie zapisów w AI Act i polskiej ustawie ma walor tworzenia jednolitego rynku cyfrowego w UE. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 321. ZPTC Lewiatan Art. 73 AIA, art. 78 W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: Uwaga wyjaśniona Strona | 189 „Art. 78 ust. 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości”. Uzasadnienie: Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 322. GRAI Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem Uwaga częściowo uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W Strona | 190 systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia.”. Propozycja: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia.”. Uzasadnienie: 4. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie nie jest sensowne. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 323. GRAI Art. 78 ust. 1 Brak definicji poważnego incydentu. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. 324. GRAI Art 78 pkt 1. Proponuje wydłużenie czasu wymaganego na zgłoszenie incydentu i zastosowania analogicznego czasu jak dla incydentów z naruszenia rozporządzania 2016/679, tj. 72 godziny. Weryfikacja i potwierdzenie incydentu mogą być bardzo trudne, a czasami wręcz niemożliwe w czasie 24 godzin w szczególności, gdy do zgłoszenia trzeba Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym Strona | 191 dołączyć wymagany ustawą opis incydentu. Zbyt krótki termin może prowadzić do konfliktu o zasoby mitygujące incydent względem potrzeb raportowania, co może negatywnie wpłynąć na dane osób objętych incydentem. Propozycja brzmienia poniżej: Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 72 godzin od momentu jego wykrycia. projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 325. AmCham Art. 78 ust. 1 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Strona | 192 przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. Przygotowanie i przekazanie zgłoszenia poważnego incydentu w większości przypadków wymagać będzie: ● analizy incydentu: identyfikacji przyczyn, oceny skutków oraz potencjalnego wpływu; ● zebrania niezbędnych danych: zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu; ● koordynacji działań wewnątrz organizacji; ● przygotowanie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. I w większości przypadków wykonanie wszystkich wyżej wymienionych kroków nie będzie możliwie w 24 godziny. Co więcej, art. 73 Aktu o AI stanowi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie skracać. Projekt ustawy powinien przewidywać przynajmniej 7 dni na zgłoszenie poważnego incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 326. ZBP Art. 78 ust. 1 W projekcie ustawy brak jest definicji poważnego incydentu. Ze względu na fakt posługiwania się pojęciem poważnego incydentu w wielu obecnie obowiązujących regulacjach, w których pojęcie to jest rozumiane inaczej, sugerujemy doprecyzowanie definicji poważnego incydentu. Doprecyzowanie mogłoby zostać zrealizowane np. poprzez dodanie odpowiedniego przepisu wskazującego, że jeżeli przepisy ustawy nie wskazują inaczej, pojęcia niezdefiniowane w ustawie mają definicję z AI Act. Ewentualnie, dla porównania, w art. 3 ust. 1 ustawy o ochronie danych osobowych „Administrator wykonujący zadanie publiczne nie przekazuje informacji, o których mowa w art. 13 ust. 3 rozporządzenia 2016/679”. W projekcie ustawy o systemach sztucznej inteligencji przepisy mogłyby podobnie jak w ustawie o ochronie danych osobowych precyzować konkretne pojęcia. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. Strona | 193 Zwracamy uwagę, że powyższa uwaga jest również uwagą o charakterze ogólnym, która dotyczy również pozostałych przepisów projektu, w których powstają wątpliwości interpretacyjne w związku z niedoprecyzowaniem pojęć niezdefiniowanych w projekcie. 327. KIGEiT Art. 78 ust. 1 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Strona | 194 328. Związek Cyfrowa Polska Art. 78 ust. 1 Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Zgodnie z art. 78 ust. 1 projektu ustawy z kolei, polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. 24 godziny na zgłoszenie poważnego incydentu to nieracjonalnie krótkie ramy czasowe. Podmioty, zwłaszcza te o złożonych strukturach organizacyjnych lub zaawansowanych systemach sztucznej inteligencji, nie są w stanie właściwie ocenić, w terminie 24 godzin, czy incydent kwalifikuje się jako poważny. Proponowany harmonogram nie zapewnia wystarczającej ilości czasu na zebranie niezbędnych informacji i dokumentacji na potrzeby kompleksowego raportu. Różnice stref czasowych między różnymi jednostkami w organizacji mogą dodatkowo utrudniać zachowanie zgodności w ciągu 24 godzin. Zalecamy wydłużenie terminu raportowania do co najmniej 7 dni, aby umożliwić dokładną weryfikację, gromadzenie danych i zorganizowane reagowanie na incydenty. Uwaga uwzględniona W aktualnym projekcie ustawy znaczącej zmianie uległ art. 78 (obecnie art 69). W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 329. GRAI Art. 78 ust. 2 pkt 4 Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie Uwaga uwzględniona Strona | 195 informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 330. Polskie sieci elektroenerget yczne Art. 78 ust. 2 pkt 4 lit.a Jest: „a) wskazanie systemu sztucznej inteligencji, za sprawą którego doszło do poważnego incydentu,” Propozycja: „a) wskazanie systemu sztucznej inteligencji, w związku, z którym doszło do poważnego incydentu,” – aby uniknąć wrażenia, że incydent poważny może dotyczyć tylko przypadku, gdzie to sam system SI jest przyczyną, co mogłoby spowodować pomijanie przypadków, gdy incydent może być spowodowany przez człowieka lub błąd oprogramowania innego niż sam system SI (np. system operacyjny, oprogramowanie integracyjne lub narzędziowe) Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 331. AmCham Art. 78 ust. 2 pkt 4 lit. b Proponujemy zastąpić w tym przepisie słowo „użytkowników” słowem „osób”. Wynika to z definicji incydentu poważnego. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 332. GRAI Art. 78 ust. 2 pkt 4 lit. b Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 333. AmCham Art. 78 ust. 2 pkt 4 lit g. Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowane sformułowanie przepisu jest bardziej precyzyjne. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. Strona | 196 334. GRAI Art. 78 ust. 2 pkt 4 lit. g Jest: „ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Propozycja nowego przepisu jest precyzyjniejsza. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 335. ZBP Art. 78 ust. 2 pkt 4 i 4b Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. Uwaga uwzględniona W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 336. ZPTC Lewiatan Art. 78 ust. 2 p. 4) lit. b) Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 337. ZPTC Lewiatan Art. 78 ust. 2 p. 4 lit. G Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowany zapis jest precyzyjniejszy. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 338. Związek Cyfrowa Polska Art. 80 ust. 1 Obecny przepis zezwalający Komisji na przekazywanie raportów i powiązanych danych do wielu podmiotów jest zbyt szeroki. Ustawa nie definiuje jasno okoliczności, w których takie udostępnianie danych ma miejsce, co prowadzi do potencjalnych nadużyć. Uwaga wyjaśniona Strona | 197 Zalecamy wprowadzenie jasnych i szczegółowych kryteriów określających, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. W procesie tym brakuje również wyraźnych zabezpieczeń w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa. Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone 339. GRAI Art. 82 ust. 1 Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d’accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. Uwaga wyjaśniona Mając na uwadze ogólne zasady wnioski w sprawie składa się do organu właściwego dla danego rodzaju sprawy. Zgodnie z projektowanymi przepisami ustawy to minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. I to on dokonuje notyfikacji jednostki oceniającej zgodność. Dlatego uznano, że wnioski w sprawie notyfikacji powinny być kierowane właśnie do tego organu. Kwestie współpracy między ministrem właściwym ds. informatyzacji a PCA zostaną określone na późniejszym etapie i nie Strona | 198 wymagają regulacji ustawowych. 340. GRAI Art. 84 Rekomendujemy przyjęcie następującej treści: “W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i niniejszą ustawą stosuje się odpowiednio przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje, rozporządzenia wykonawcze lub wytyczne Komisji Europejskiej, zalecenia i wytyczne Europejskiej Rady do spraw Sztucznej Inteligencji.” Uwaga uwzględniona Przepis nie wymaga doprecyzowania w zakresie zastrzeżenia wydania przez ministra właściwego do spraw informatyzacji rozporządzenia na podstawie art. 12 ustawy o systemach oceny zgodności i nadzoru rynku. Obowiązek wydania rozporządzenia a także wytyczne do jego wydania, zakres wynika bezpośrednio w przepisów ww. ustawy. 341. AI Chamber Rozdział 8 Podobnie bardzo pozytywnym krokiem jest wprowadzenie do projektu ustawy nowego Rozdziału 8, zatytułowanego “Środki wspierające innowacyjność”. Brak tych środków był jednym z głównych zarzutów podnoszonych wobec pierwotnego projektu ustawy. Udostępnienie tzw. Piaskownic regulacyjnych było jednym z głównych postulatów branży. Należy jednak podkreślić, że aby dostawcy systemów SI korzystali z piaskownic muszą one być faktycznie dostępne, procedura uzyskiwania do nich dostępu musi być szybka, tania, prosta i pozbawiona uznaniowości. Przedstawione przepisy niestety nie realizują tej wizji w dostateczny sposób, co może skutkować tym, że przepisy te pozostaną martwe. Postulujemy, aby procedura akcesji do piaskownic została znacznie uproszczona - idealnie dostęp uzyskiwać powinny wszystkie zainteresowane podmioty po dokonaniu prostego zgłoszenia i nie zgłoszenia przez Komisję zastrzeżeń w określonym (krótkim - nie dłuższym niż 30 dni) terminie. Dopiero takie przepisy mogą stać się prawdziwym wzmocnieniem polskiego rynku AI. Uwaga wyjaśniona Projektodawca zrezygnowała z części regulacji w zakresie ustanawiania piaskownic regulacyjnych. Dodatkowo należy wskazać że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu Strona | 199 wykonawczego Komisji Europejskiej. 342. FinTech Poland Rozdział 8 Popieramy wprowadzenie przepisów dotyczących piaskownic regulacyjnych jako krok w dobrą stronę, jednak rekomendujemy ich dopracowanie. Kluczowe jest uproszczenie procedur, obniżenie opłat za korzystanie z piaskownicy oraz wyeliminowanie uznaniowości w procesie przyznawania dostępu. Takie zmiany zwiększyłyby dostępność tego narzędzia dla innowacyjnych podmiotów i przyczyniły się do skuteczniejszego rozwoju AI w Polsce. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 343. IWP Repropol Art.85 Piaskownice regulacyjne jako środek wspierający innowacyjność powinny mieć wielowymiarowe wsparcie ze strony w zakresie AI, w tym identyfikację ryzyk, także praw podstawowych (zob. art. 57 ust. 6 i 7 AIA). Obszerna regulacja dotycząca piaskownic (art. 85 i nst. UoSSI) nie przewiduje w dostatecznie wyraźny sposób takiego wsparcia. W szczególności nie sposób za taką regulację postrzegać art. 96 projektu. Uważamy, że podmioty biorące udział w piaskownicach powinny mieć pełną świadomość ich wyjątkowego statusu związanego z uczestnictwem w tym przedsięwzięciu. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 344. AmCham Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 345. ZPTC Lewiatan Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza Strona | 200 zakresem regulacji tego przepisu. 346. GRAI Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 347. GRAI Art. 87 ust. 1 Jest: „Art. 87. 1. Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej.”. Propozycja: Poza trybem konkursowym proponujemy dodać możliwość tworzenia sektorowych piaskownic regulacyjnych, m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 348. Polskie sieci elektroenerget yczne Art. 87 ust.1. Jest: Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej. Propozycja: Poza trybem konkursowym dodać możliwość tworzenia sektorowych piaskownic regulacyjnych m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 349. ICC Poland Art. 87 ust. 3 Projektu przewiduje, że konkurs na uczestnictwo w piaskownicy regulacyjnej przeprowadzany jest nie rzadziej niż trzy razy w roku. Mając na uwadze tempo rozwoju systemów sztucznej inteligencji oraz spodziewane duże zainteresowanie piaskownicami regulacyjnymi, warto rozważyć zwiększenie liczby konkursów ogłaszanych w skali roku, przynajmniej w początkowym okresie stosowania rozporządzenia 2024/1689 oraz Uwaga wyjaśniona W art. 87 (obecnie art. 85) ust. 3 został wykreślony Strona | 201 ustawy. Równocześnie w ramach przepisów przejściowych należałoby przewidzieć termin od dnia wejścia w życie ustawy, w którym powinien zostać ogłoszony pierwszy taki konkurs. Część zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 350. PTI Art. 88 ust. 2 Zespół konkursowy ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 jakimi warunkami? brak w rozporządzeniu takich warunków, oprócz tych dotyczących zachowania przepisów prawa krajowego i unijnego! Prosimy o uzupełnienie przepisu o tryb i zawartość publikacji warunków oceny konkursu przed jego ogłoszeniem przez Biuro Komisji tzw. Zespół Konkursowy Brak jasnych ram oceny uczestników konkursu może nie gwarantować obiektywnej oceny. Uwaga wyjaśniona Część regulacji zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 351. PTI Art. 93 ust. 2 Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o: Brakuje określenia co przewodniczący ma otrzymać. Wyniki raportu? Przewodniczący Komisji po otrzymaniu wyników raportu, o którym mowa w ust. 2, może podjąć decyzję o: Błąd pisarski Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 352. GRAI Art. 94 Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Rekomendujemy przyjęcie treści ust. 1: “Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.” W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 17 w ust. 1 art. 9 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Uwaga wyjaśniona Mając na uwadze właściwość ministra do spraw informatyzacji przepis pozostaje bez zmian. Strona | 202 353. GRAI Art. 94 ust. 2 Jest: „2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Propozycja: „2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Uzasadnienie: Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 354. AmCham Art. 94 ust. 2 Jest: Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do Strona | 203 obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 355. ZPTC Lewiatan Art. 94 ust. 2 Jest: 2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: 2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie: Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i Strona | 204 Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 356. GRAI Art. 95 ust. 2 Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek Ministra Cyfryzacji. Rekomendujemy w odniesieniu do art. 95 ust. 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. Uwaga wyjaśniona Zgodnie z projektem ustawy minister właściwy do spraw informatyzacji będzie organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689 a także będzie organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Strona | 205 Ustawa przewiduje współpracę ministra w tym zakresie tych zadań z PCA. Mając na na uwadze sposób organizacji PCA i ich kompetencje nie jest wymagane angażowanie ministra właściwego do spraw gospodarki do kwestii określania zasad współpracy. 357. GRAI Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 358. Polskie sieci elektroenerget yczne Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi Strona | 206 na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 359. Związek Cyfrowa Polska Art. 96 Chociaż uprawnienie Ministra Cyfryzacji do zapewnienia wsparcia finansowego jest pozytywną inicjatywą, lista kwalifikujących się odbiorców powinna zostać rozszerzona. Szersze ramy kwalifikowalności pozwoliłyby Ministerstwu na tworzenie partnerstw z większą ilością podmiotów, ułatwiając rozwój rynku sztucznej inteligencji w Polsce. Rozszerzenie zakresu wspieranych podmiotów zachęciłoby do współpracy startupy, MŚP, instytucje badawcze jak również duże podmioty, wspierając bardziej kompleksowy ekosystem innowacji w zakresie sztucznej inteligencji. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakiem ma ono służyć. 360. AmCham Rozdział 9 (art. 97-106) Stoimy na stanowisku, że umieszczenie w projekcie ustawy przepisów karnych jest niecelowe. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w Polsce. Zdecydowanie bardziej sensowne i bardziej spójne z aktem o AI byłoby konsekwentne stosowanie administracyjnych kar pieniężnych. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. Strona | 207 361. ZPTC Lewiatan Rozdział 9 Należy w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Brzmienie Rozdziału 9 powinno wynikać w związku z tym wprost z treści EU AI Act. Uzasadnienie: Opowiadamy się za regulacjami wspierającymi rozwój sztucznej inteligencji, a nie nakładanie nadmiernych sankcji karnych. (1) Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ustawy o sztucznej inteligencji (art. 106). (2) Za naruszenie ustawy o AI przewidziana jest administracyjna kara pieniężna (ale nie karna) „w wysokości i na warunkach określonych w rozdziale XII ustawy o AI” (art. 97- 104). Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. 362. GRAI Art. 97 ust. 1 i kolejne Przepis at. 97 ust. 1 odwołuje się do rozdziału XII rozporządzenia. Zarazem w art. 99 ust. 8 mamy konieczność doprecyzowania w prawie krajowym państw członkowskich zasad nakładania kar na organy i podmioty publiczne a w projektowanej ustawie brak jest wyraźnej regulacji w tym zakresie. Uwaga wyjaśniona Przepisy ustawy znajdują także do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. Strona | 208 363. KIGEiT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. W związku z faktem, że jest to przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust.1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się Strona | 209 zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 364. PIIT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5, czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów Strona | 210 rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 365. Związek Cyfrowa Polska Art. 97 ust. 4 Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 366. KIGEiT Art. 98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Rekomendacja wydłużenia terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 367. PIIT Art.98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest Strona | 211 Wydłużenie terminu - analogicznie jak w uodo. optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 368. AmCham Art. 99 Projektowany przepis zezwala na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję. Z oczywistych wręcz względów jest to rozwiązanie wysoce kontrowersyjne. Przepis w tym kształcie prowadzi do sytuacji, w której Komisja będzie silnie zmotywowana do nakładania wysokich i licznych kar pieniężnych, nie ze względu na rzeczywiste naruszenia przepisów prawa, ale w celu poprawy swojej sytuacji finansowej. Takie rozwiązanie jest nieetyczne i szkodliwe dla rozwoju sztucznej inteligencji w Polsce. System, w którym organ ma bezpośrednią korzyść finansową z nakładania kar, zachęca go do nadużywania swoich uprawnień. Zamiast wspierać innowacje i rozwój technologii, Komisja może skupić się na poszukiwaniu błahych uchybień, które pozwolą jej na generowanie dodatkowych przychodów. Taka praktyka z pewnością zniechęci przedsiębiorców i inwestorów do angażowania się w projekty związane ze sztuczną inteligencją w Polsce. Co więcej, przepis ten stoi w sprzeczności z innymi rozwiązaniami proponowanymi w projekcie ustawy, które mają na celu wspieranie rozwoju sztucznej inteligencji, takimi jak piaskownice regulacyjne. Piaskownice regulacyjne służą temu, aby firmy mogły testować innowacyjne rozwiązania w kontrolowanym środowisku, bez obawy o surowe kary finansowe. Jeśli jednak Komisja będzie miała motywację do nakładania wysokich kar, idea piaskownic regulacyjnych zostanie wypaczona. Rozwiązanie, w którym kary pieniężne stanowią przychód organu nakładającego kary, jest niezgodne z europejskimi i polskimi standardami. W Polsce, organy takie jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 96 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. Strona | 212 Elektronicznej czy Prezes Urzędu Ochrony Danych Osobowych nie czerpią korzyści finansowych z nakładanych kar. Wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnych funduszy celowych, które mają osobowość prawną i są niezależne od organów nakładających kary. Zasada ta powinna być również stosowana w przypadku Komisji. Wpływy z kar pieniężnych nakładanych przez Komisję powinny trafiać do budżetu państwa, a nie do budżetu Komisji. Tylko takie rozwiązanie zapewni bezstronność i obiektywizm Komisji oraz przyczyni się do zdrowego rozwoju sztucznej inteligencji w Polsce. 369. FinTech Poland Art. 99 Postulujemy zmianę przepisów dotyczących wpływów z administracyjnych kar pieniężnych, które w obecnej treści stanowią przychód Biura Komisji. Taki mechanizm może rodzić konflikt interesów i powinien zostać zastąpiony rozwiązaniem zapewniającym większą transparentność, np. przekazywaniem tych środków do budżetu państwa lub funduszu wspierającego rozwój AI. Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 87 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. 370. ICC Poland Art. 99 Zgodnie z art. 99 Projektu środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Zmiana ta – w stosunku do projektu z 15 października 2024 r. – nie zasługuje na aprobatę. Sytuacja, w której środki z administracyjnych kar pieniężnych nakładanych w drodze postępowań prowadzonych przez Komisję, stanowią przychód samego Biura Komisji, tworzy nieakceptowalną sytuację konfliktu interesów. Tego rodzaju rozwiązanie stwarza bowiem zagrożenie, że w interesie Komisji oraz Biura Komisji będzie, aby administracyjne kary pieniężne były jak najwyższe. Może to wpływać na samo postrzeganie niezależności Komisji jako organu nadzoru nad systemami sztucznej inteligencji. Jakkolwiek szeroki zakres zadań Komisji oraz potrzeba zorganizowania od podstaw Biura Komisji uzasadnia zwiększenie budżetu Biura Komisji w stosunku do zakładanych pierwotnie poziomów, to jednak rozwiązaniem tego problemu nie może być zaproponowana treść art. 99 Projektu. W konsekwencji proponuje się zmianę art. 99 Projektu poprzez przesądzenie, że środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa, podobnie jak ma to miejsce w przypadku art. 104 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz.U. z 2019 r., poz. 1781), wdrażającej rozporządzenie 2016/679: Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji budżetu państwa. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 213 371. PIIT Art. 99 Wpływy z kar pieniężnych nakładanych przez Komisję powinny stanowić przychód budżetu państwa. Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 372. Związek Cyfrowa Polska Art. 99 Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Przepis tego typu może w zasadzie przekreślić wszystkie pozostałe, sprzyjające rozwojowi sztucznej inteligencji (np. piaskownice regulacyjne) rozwiązania obecne z projektowanej ustawie. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar nie powinny stanowić przychodu Komisji z tych samych powodów, dla których wpływy z mandatów nie powinny stanowić przychodu dla nakładającego mandat Policjanta. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 214 Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. 373. ZPTC Lewiatan Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego zapisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 374. GRAI Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego przepisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana także w tym przypadku. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 375. GRAI art. 102 ust. 3 Tak jak w przypadku art. 57 ust. 4 należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Pozostawienie w ustawie przedmiotowego przepisu ma znaczenie w kontekście zachowania kompletności regulacji. 376. GRAI Art. 103 Należy zsynchronizować przepis z treścią art. 189a § 2 in fine k.p.a. Ustanowienie odrębnej od k.p.a. regulacji dotyczącej administracyjnych kar pieniężnych powoduje przecież, że wówczas działu IVA k.p.a. nie stosuje się w ogóle. Projektowany przepis w tym sensie nie wysławiałby nic zaskakującego, skoro powyższe (w części) potwierdza, niemniej jego dość oczywistą intencją jest wyłączenie stosowania jedynie niektórych przepisów działu IVA k.p.a., tak, jakby więc pozostałe z tego działu miały znajdować zastosowanie. Proponuję zatem uczynić przepis bardziej jednoznacznym i nadać mu treść: „W zakresie określonym przepisami tego rozdziału stosuje się przepisy działu IVA Uwaga uwzględniona Przepisowi nadano nowe brzmienie. Strona | 215 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k”. 377. KIGEiT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji. Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że stosuje się ją do egzekucji kar, a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 378. PIIT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 379. KIGEiT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Projektodawca nie przewiduje zmiany przepisów w zakresie wskazanym w uwadze. 380. PIIT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest Strona | 216 związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania w przypadku, o którym mowa w art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 381. KIGEiT Art. 106 Art., 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 382. PIIT Art. 106 Art. 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi Strona | 217 określonymi w odrębnych ustawach. 383. ICC Poland Art. 107 Artykuł 107 Projektu przewiduje dodanie do ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego odrębnych przepisów dotyczących postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689. W projektowanym art. 479 88h § 2 mowa jednak o zażaleniach na postanowienia „Prezesa Urzędu”, nie zaś Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W konsekwencji przepis ten wymaga następującej zmiany: Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uwaga uwzględniona Zmieniono brzmienie przepisu zgodnie z propozycją w uwadze. 384. GRAI Art. 107 Należy zmienić nowo projektowany art. 479 88h § 1 k.p.c. w ten sposób, aby w k.p.c. uregulować procedurę dotyczącą zażaleń na postanowienia Komisji – samo wskazanie terminu na wniesienie zażalenia do sądu to zdecydowanie zbyt mało (powstałyby m.in. daleko idące wątpliwości zwłaszcza co do wymogów formalnych pisma: czy stosować per analogiam wymogi dotyczące odwołania czy jednak w ramach wykładni systemowej przyjąć mniej sformalizowany charakter zażalenia). Wydaje się wystarczające, aby odesłać do odpowiedniego stosowania przepisów dotyczących rozpoznania odwołań. Propozycja nowego brzmienia przepisu: „Przepisy niniejszego działu stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z tym, że zażalenie wnosi się w terminie tygodnia od dnia doręczenia tego postanowienia”. Uwaga wyjaśniona Przepis nie wymaga dalszego doprecyzowania. Zaproponowane rozwiązania są wystarczające. 385. Związek Cyfrowa Polska art. 107 - art. 479[88h](1) Kodeksu Postępowania Cywilnego Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki, w szczególności dla podmiotów o skomplikowanej strukturze organizacyjnej lub w sprawach o zawiłym stanie faktycznym. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest j adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajecie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie Strona | 218 określonym w np. w KPA. 386. PIIT Art. 107 - art. 479[88h] (2) Kodeksu Postępowania Cywilnego § 2. Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu. Przewodniczącego Komisji” Projekt ustawy nie przewiduje nigdzie zażaleń od postanowień Przewodniczącego Komisji, jeśli o niego chodzi jako “Prezesa Urzędu”. Uwaga częściowo uwzględniona Zmieniono brzmienie przepisu w następujący sposób „(.) Przepisy art. 479 88c , 479 88d § 1, art. 479 88f i art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. 387. KIGEiT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r., Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności, co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także, co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 388. PIIT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, muszą być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów Strona | 219 wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. rozporządzenia 2024/1689. Uzasadnienie 1. GRAI Uzasadnienie 2. Negatywny wpływ restrykcyjnego podejścia na gospodarkę 2.1. Wzrost kosztów operacyjnych dla firm • Nadmierna biurokracja wymaga od przedsiębiorstw dodatkowych zasobów na spełnianie formalnych procedur, co przekłada się na wyższe koszty operacyjne. • Dla małych i średnich przedsiębiorstw (MŚP) jest to szczególnie uciążliwe, ponieważ mają ograniczone zasoby na obsługę administracyjną. 2.2. Hamowanie innowacji • Długotrwałe procesy uzyskiwania zgód zniechęcają firmy do testowania nowych technologii w Polsce. • Brak elastyczności ogranicza możliwość szybkiego reagowania na zmieniające się potrzeby rynkowe i technologiczne. 2.3. Ryzyko odpływu innowacyjnych firm za granicę • Firmy, które napotkają bariery w Polsce, mogą przenieść swoje operacje do krajów oferujących bardziej przyjazne warunki regulacyjne. • Odpływ innowacyjnych przedsiębiorstw oznacza utracone miejsca pracy, mniejsze wpływy z podatków oraz spowolnienie transferu technologii. 2.4. Ograniczenie konkurencyjności Polski na arenie międzynarodowej • W warunkach globalnej rywalizacji o inwestycje, zbyt restrykcyjne przepisy stawiają Polskę na mniej korzystnej pozycji wobec innych państw UE i krajów trzecich. • Kraje takie jak Niemcy, Francja czy Estonia już wprowadzają elastyczne systemy piaskownic, przyciągając startupy i inwestorów. Uwaga częściowo uwzględniona Projekt ustawy został zmodyfikowany m.in. w zakresie redukcji obciążeń związanych z korzystaniem z piaskownic regulacyjnych przy jednoczesnym odesłaniu Dodatkowo, projekt przewiduje preferencyjne traktowanie MŚP (m.in. W obszarze piaskownic regulacyjnych oraz kar). 2. GRAI Uzasadnienie 4. Propozycje rozwiązań i rekomendacje 4.1. Model „na zgłoszenie” z ograniczoną rolą państwa • Firmy samodzielnie rejestrują udział w piaskownicy. • Organ nadzoru interweniuje tylko w przypadku zagrożeń dla bezpieczeństwa, praw podstawowych lub cyberbezpieczeństwa. • Domniemana zgoda po 30 dniach od zgłoszenia zapewnia szybki start testów. 4.2. Ograniczenie roli PCA w procesie walidacji • Proces akredytacyjny powinien być realizowany przez jednostki oceniające zgodność bez konieczności angażowania Polskiego Centrum Akredytacji (PCA), co skróci czas i koszty wdrażania innowacji. 4.3. Wprowadzenie mechanizmu „kontroli zarządczej” Uwaga wyjaśniona W kwestii piaskownic regulacyjnych należy wskazać, że w tym zakresie zostaną wydane akty delegowane KE, które Polska będzie zobowiązana honorować. Strona | 220 • Każda firma wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i zgodnością. • Raportowanie co 6 miesięcy pozwala na monitorowanie efektów bez zbędnej biurokracji. 4.4. System zachęt dla przedsiębiorców • Ulgi podatkowe i regulacyjne dla firm uczestniczących w piaskownicach. • Finansowanie testów AI poprzez granty i vouchery dla MŚP. Możliwość uzyskania wstępnej oceny zgodności przed wejściem na rynek. Rola PCA w projekcie ustawy została ustalona adekwatnie do wymagań regulacyjnych wynikających z AI Akt. W zakresie wprowadzenia mechanizmu kontroli zarządczej należy wskazać, że regulacje w tym zakresie stanowiłaby silną ingerencje w sposób zarządzania podmiotów. Z uwagi na różnorodność podmiotów inne rozwiązania mogą okazać się skuteczne dla administracji w której jest prowadzona kontrola zarządcza a inne w podmiotach prywatnych w których np. Funkcjonują komórki compliance. Zasadne wydaje się pozostawienie tej kwestii w gestii poszczególnych podmiotów. Ocena Skutków Regulacji 1. ZPWC OSR Jesteśmy zaniepokojeni poziomem finansowania nowej infrastruktury nadzorującej sztuczną inteligencję w Polsce. Nawet docelowe przeznaczenie 31 milionów złotych w roku 2027 wydaje się niewystarczające, aby nowy urząd mógł efektywnie pełnić swoje funkcje. Potrzebujemy wykwalifikowanego personelu z dogłębną wiedzą z zakresu technologii i funkcjonowania AI, prawa autorskiego, ochrony danych osobowych czy Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy Strona | 221 cyberbezpieczeństwa. Obawiamy się, że proponowane personelowi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI) średnie wynagrodzenie brutto na poziomie 15 tys. zł nie będzie wystarczające, aby przyciągnąć takich specjalistów. Podobne wątpliwości odnośnie do adekwatności wynagrodzenia osób stojących na czele Komisji (KRIBSI). stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 2. GRAI OSR Uzasadnienie legislacyjne 1. Cel nowelizacji Ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. 2. Korzyści nowego systemu Redukcja biurokracji: Piaskownica działa na zasadzie zgłoszenia, a nie zgody administracyjnej. Przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. Wzmocnienie samoregulacji: Firmy same odpowiadają za zgodność testów. Przejrzystość: Organ państwowy interweniuje tylko w wyjątkowych sytuacjach. Uwaga częściowo uwzględniona OSR został uzupełniony w zakresie uwagi dot. celu nowelizacji Uwaga nr 2 jest niezgodna z treścią przepisów projektu ustawy, tym samym OSR nie może zostać uzupełniony w proponowany sposób. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownego opiniowania Lp . Jednostka redakcyjn a, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko MC Uwagi ogólne 1. NCBR Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie przepisu, który pozwoli Komisji i Radzie na koordynowanie działań oraz dokonywanie ujednoliconej wykładni we współpracy z ich odpowiednikami w pozostałych państwach członkowskich, w tym np. wzajemne uznawanie decyzji certyfikacyjnych między państwami członkowskimi UE. Przepis umożliwi na działanie w środowisku międzynarodowym. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozporządzenia 2024/1689 w rozdziale III. 2. NSZZ Niewystarczająca ochrona pracowników: Projekt nie zawiera rozwiązań chroniących pracowników przed zagrożeniami wynikającymi ze stosowania systemów AI w pracy, mimo że rozporządzenie 2024/1689 klasyfikuje je jako systemy wysokiego ryzyka (art. 6 ust. 2, zał. III pkt 4). Polski ustawodawca nie wykorzystuje możliwości wprowadzenia korzystniejszych przepisów dla pracowników (art. 2 ust. 11 rozporządzenia). Niewystarczający zakres informacji dla pracowników: Obowiązek informowania pracowników o stosowaniu systemów AI (art. 26 ust. 7 rozporządzenia 2024/1689) jest niewystarczający bez podania: nazwy systemu, zasad działania, zakresu działania i potencjalnych skutków dla pracowników. Brak tych danych utrudnia np. złożenie skargi (art. 50 projektu). Propozycja: rozszerzenie Uwaga wyjaśniona Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Regulacje dotyczące systemów wysokiego ryzyka zostaną rozważone i wprowadzone w przypadku konieczności podjęcia działań legislacyjnych do 2 sierpnia 2026 roku. W tym czasie będą również opracowywane przez 2 obowiązku informacyjnego o nazwę, zakres, zasady działania, wpływ na decyzje pracodawcy, warunki pracy, płacę, ocenę pracy, dostęp do zatrudnienia i dane zbierane przez system. Brak dostępu związków zawodowych do informacji Projekt nie przewiduje unormowanego dostępu przedstawicieli pracowników (w tym związków zawodowych) do szczegółowych informacji o systemach AI u pracodawcy. Brak takich danych uniemożliwia kontrolę zgodności z prawem pracy. Propozycja: zagwarantowanie dostępu do szczegółowych informacji dla związków zawodowych. Brak oceny wpływu systemów AI Projekt nie wymaga od pracodawcy oceny wpływu systemów AI na warunki pracy, płacę, prawa podstawowe i równość przed wdrożeniem. Propozycja: wprowadzenie obowiązku takiej oceny we współpracy ze związkami zawodowymi przed wdrożeniem oraz regularnego przeglądu po wdrożeniu. Prawo związków do przeglądu systemów AI Brak regulacji dających związkom zawodowym lub przedstawicielom pracowników prawo do regularnego przeglądu systemów AI i żądania dostosowań/ograniczeń. Propozycja: wprowadzenie takiego prawa. Wymogi projektowania systemów AI Brak wymogu, by systemy AI były projektowane zgodnie z prawem pracy i oceniane pod kątem bezpieczeństwa (jak inne maszyny). Propozycja: wprowadzenie takich wymogów. Komisję Europejską akty delegowane oraz inne akty prawne oraz dokumenty merytoryczne dotyczące obszaru systemów wysokiego ryzyka. Uwaga wyjaśniona. W zakresie dotyczącym prawa dostępu do algorytmów projektodawca chciałby podkreślić, że obszar ten wykracza poza treść przepisów objętych rozporządzeniem i kwestia ta wymaga rozważenia i ewentualnego uregulowania w osobnym działaniu w ramach obszaru regulacji rynku pracy. 3. Pracodawcy RP Modele AI ogólnego przeznaczenia Projekt nakłada obowiązki na dostawców modeli AI ogólnego przeznaczenia, co jest niezgodne z Aktem o AI, który daje wyłączne prawo regulacji tych modeli Biuru ds. AI lub Komisji Europejskiej. Propozycja: Usunięcie dodatkowych wymagań krajowych dla modeli ogólnego przeznaczenia. Uwaga wyjaśniona. Postulaty zawarte w uwadze dot. ochrony danych osobowych zostały częściowo uwzględnione w projekcie. Jednocześnie, ochrona informacji niejawnych lub w inny sposób objętych ochroną 3 Ochrona danych Brak odpowiednich zabezpieczeń dotyczących ochrony danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania. Propozycja: Wprowadzenie klauzul ochronnych w projekcie. Obowiązki dostawców AI Projekt nie precyzuje zakresu dokumentacji i procedur dla dostawców systemów AI (np. oceny ryzyka, audyty, testy), co może prowadzić do naruszeń przepisów unijnych. Propozycja: Doprecyzowanie obowiązków dostawców, w tym wymogów dotyczących audytów, testów i raportowania zgodności. Podział odpowiedzialności Niejasny podział odpowiedzialności między dostawcami a podmiotami stosującymi AI, co może prowadzić do niepewności prawnej i przerzucania odpowiedzialności. Propozycja: Precyzyjne określenie podziału odpowiedzialności w projekcie. Przejrzystość i wyjaśnialność AI Brak regulacji dotyczących obowiązku przejrzystości i wyjaśniania decyzji AI, co narusza prawa użytkowników. Propozycja: Wprowadzenie mechanizmów transparentności, w tym prawa do wyjaśnień decyzji AI. Kompetencje UODO Projekt nie określa kompetencji Prezesa UODO w zakresie nadzoru nad AI (audyty, monitorowanie zgodności z RODO), co może utrudnić egzekwowanie ochrony danych. Propozycja: Określenie kompetencji UODO w projekcie. prawną uregulowana jest w przepisach dot. Kontroli. Według projektodawcy wprowadzanie nowych, dodatkowych wobec rozporządzenia 2024/1689 wymogów oraz procedur wykraczałoby poza zakres objęty wdrożeniem przepisów Aktu, a także rodziłoby niepotrzebne obciążenia z punktu widzenia obywateli i przedsiębiorców. Przedsiębiorców. Dotyczy zarówno obowiązków dostawców, podziału odpowiedzialności czy przejrzystości i wyjaśnialności AI. W zakresie uprawnienia do uzyskania wytłumaczenia decyzji podjętej z udziałem systemu AI wysokiego ryzyka, obszar ten poddany zostanie analizie w ramach odrębnych prac nad wdrożeniem przepisów dot. Systemów wysokiego ryzyka, o których mowa w art. 6 AI Aktu. W zakresie kompetencji Prezesa UODO należy zauważyć, że celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. 4. URPL Podtrzymuję także swoje stanowisko wyrażone w pkt 3 pisma z dnia 8 listopada 2024 r. (znak: DP.023.99.2024; pismo w załączeniu) dotyczące wskazania Prezesa Urzędu jako organu właściwego w Uwaga wyjaśniona W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się 4 zakresie nadzoru nad wyrobami medycznymi wykorzystującymi sztuczną inteligencję (np. oprogramowania będące wyrobami medycznymi), wyznaczania jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzoru nad nimi w tej kwestii. Podkreślenia wymaga, że z informacji zebranych podczas spotkań na szczeblu międzynarodowym (Competent Authorities for Medical Devices (CAMD) – spotkanie organów kompetentnych dla wyrobów medycznych, spotkania grupy roboczej MDCG (Grupy Koordynacyjnej ds. Wyrobów Medycznych) – Market Survilance working group) oraz w korespondencji z Komisją Europejską (DG Sante D.3 Medical Devices) wynika, że jeżeli zostanie wdrożony aktualny projekt ww. ustawy, Polska będzie jedynym krajem w Unii Europejskiej, w którym organ właściwy ds. nadzoru rynku oraz organ właściwy w zakresie jednostek notyfikowanych w zakresie wyrobów medycznych objętych rozporządzaniem Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, zwanym dalej „rozporządzeniem 2017/745”, i rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, nie będzie właściwy w zakresie systemów AI stosowanych w tych wyrobach. Jest to tym bardziej wątpliwe rozwiązanie, że systemy AI już teraz są stosowane w wyrobach medycznych (np. do analizy obrazów diagnostycznych) Wobec tego już obecnie podlegają one nadzorowi Prezesa Urzędu i są certyfikowane przez jednostki notyfikowane w zakresie wyrobów medycznych. ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Jednocześnie, z uwagi na istotność regulacji obszaru technologii medycznych jak również harmonogram prac Komisji Europejskiej w zakresie aktów prawa oraz materiałów merytorycznych dot. tego obszaru na poziomie unijnym wynikającym bezpośrednio z przepisów Rozporządzenia, prace nad dostosowaniem przepisów prawa do wymogów nadzoru nad systemami wysokiego ryzyka (również w obszarze medycznym) wymagają odrębnej analizy oraz ewentualnych prac przed 2.08 2026 r. 5 Proponowane rozwiązanie budzi wątpliwości w kontekście stanowiska Komisji Europejskiej oraz założeń wdrażanej legislacji. Zgodnie art. 8 ust. 2 zdanie drugie rozporządzenia 2024/1689 ocena zgodności z wymaganiami tego rozporządzenia może być zintegrowana z oceną zgodności oprogramowania jako wyrobu medycznego z wymaganiami rozporządzania 2017/745 lub rozporządzenia 2017/746. W załączeniu przekazujemy prezentację przedstawicielki Komisji Europejskiej dot. procedury oceny zgodności z obiema regulacjami. Komisja Europejska zwróciła uwagę na możliwość przeprowadzenia jednej oceny zgodności wyrobu z obiema regulacjami. W trakcie spotkań międzynarodowych była też omawiana kwestia jednoznacznego oznakowywania kompetencji jednostek notyfikowanych. Na spotkaniu grupy roboczej WG NBO (nadzór nad jednostkami notyfikowanymi - Grupa robocza działająca jako podgrupa Grupy Koordynacyjnej ds. Wyrobów Medycznych powołana na podstawie art. 103 rozporządzenia 2017/745) ustalono, że kompetencje pracowników jednostki w zakresie certyfikacji AI będą oceniane w ramach oceny kompetencji niezbędnych do certyfikacji wyrobów mieszczących się w kodach MDA 0315 „Oprogramowanie” oraz MDS 1009 „Wyroby zawierające oprogramowanie/wykorzystujące oprogramowanie/sterowane przez oprogramowanie, w tym wyroby do sterowania działaniem aktywnych wyrobów lub aktywnych wyrobów do implantacji lub do monitorowania tego działania, lub bezpośrednio na to działanie wpływające”. Wobec tego jednostka, która będzie kompetentna w zakresie AI, nie będzie mieć ograniczeń w tych kodach. W przypadku braku tych kompetencji, jednostka będzie mieć ograniczenie do wyrobów niezawierających AI. W sytuacji, gdy w Polsce przyjęte zostanie inne rozwiązanie organizacyjne (2 organy notyfikujące) uprawnienia polskich jednostki notyfikowanych w bazie NANDO (wykaz jednostek notyfikowanych w zakresie legislacji europejskich) będzie inaczej określone. Prezes Urzędu jako niewłaściwy w zakresie AI w wyrobach medycznych, będzie musiał wprowadzić ograniczenie w 6 tych kodach w opisie udzielonej notyfikacji na rozporządzenia 2017/745 lub 2017/746, a inny organ notyfikujący po uzyskaniu przez te jednostki notyfikacji w zakresie systemów AI poda tę notyfikację w odniesieniu do rozporządzenia 2024/1689. Będzie to wymagało dodatkowych wyjaśnień (wątpliwość – czy jest możliwe ich zapisanie w bazie NANDO), które będą trudne do zrozumienia przez przedsiębiorców. Dlatego niezbędne jest wnikliwe rozważenie, co przemawia za takim rozwiązaniem. Proponowane rozwiązanie budzi wątpliwości także co do skuteczności praktycznego wdrożenia projektowanych przepisów w zakresie nadzoru rynku. Zgodnie z art. 5. ust 1. proponowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. Według przepisu członkami Komisji są przedstawiciele szeregu instytucji. Projekt przewiduje stworzenie Biura Komisji do wykonywania zadań w tym zakresie. Wobec tego do nadzoru wyrobów medycznych zawierających systemy AI będą uprawnione dwa podmioty – Komisja i Prezes Urzędu w swoim zakresie kompetencji. Będzie to rodzić szereg komplikacji, zwłaszcza że producent zapewne przygotuje jedną dokumentację oceny zgodności – zarówno z wymaganiami dotyczącymi bezpośrednio wyrobów medycznych, jak i z wymaganiami w zakresie systemów AI. Będzie to racjonalne działanie, ponieważ system AI będzie stanowił „silnik” wyrobu medycznego. Niezwykle trudna byłaby ocena działania wyrobu bez jednoczesnej oceny systemu AI, a także ocena samego systemu AI bez szczegółowej wiedzy na temat konkretnego wyrobu medycznego. W sytuacjach, gdy dokumentacja systemu AI będzie częścią dokumentacji zgodności wyrobu medycznego, pracownicy Biura Komisji mogą mieć trudności ze zrozumieniem specyfiki danego wyrobu medycznego. Możliwe też będzie uchylanie się przez podmioty przed kontrolą Prezesa Urzędu poprzez podważanie jego uprawnień do kontroli w zakresie działania systemu AI, który – będąc istotą działania wyrobu medycznego – musi podlegać ocenie Prezesa Urzędu w zakresie spełniania przez wyrób medyczny 7 określanego przewidzianego zastosowania. Takie zjawisko może występować zwłaszcza w sytuacjach, gdy oprogramowanie, mimo spełnienia definicji wyrobu medycznego, nie będzie za taki uznawane przez producenta, a podmiot będzie się uchylał od nałożonych na niego przez rozporządzenia 2017/745 i 2017/746 obowiązków. Ponadto definicja poważnego incydentu określona w rozporządzeniu 2017/745 i rozporządzeniu 2017/746 jest zbieżna z punktem a definicji incydentu podanej w rozporządzeniu 2024/1689. Spowoduje to zdublowanie raportowania (do Komisji i Prezesa Urzędu). Ponadto, zalecenia wydawane przez Prezesa Urzędu i Komisję dotyczące postępowania po poważnym incydencie mogą być rozbieżne. Niezbędne jest zatem w ocenie Urzędu wprowadzenie wprost w projektowanych przepisach ustawy zasady, że uprawnienia Komisji nie mają wpływu na uprawnienia innych organów nadzoru w zakresie możliwości oceny systemów AI stosowanych w poszczególnych produktach lub wyrobach albo w badaniach tych produktów lub wyrobów (tak jak chociażby w przypadku wyrobów medycznych). W przypadku przyjęcia odmiennego stanowiska, niezbędne będzie bowiem w świetle ww. wyjaśnienia co najmniej wypracowanie rozwiązań nadzoru łączonego. W tym miejscu należy zauważyć, że na wątpliwości systemowe związane z samą koncepcją ustanowienia nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji zwróciła uwagę Kancelaria Prezesa Rady Ministrów w toku przeprowadzonych uzgodnień projektu ustawy. W uwadze tej wskazano, że nie można zgodzić się z twierdzeniem uzasadnienia, że w Polsce nie istnieje organ lub instytucja publiczna spełniająca wymogi określone w rozporządzeniu 2024/1689 w zakresie statusu prawnego i roli ustrojowej, gdyż podobnym charakterem odznaczają się m.in. Prezes UODO, Prezes UOKiK czy Prezes UKE. Tym samym wskazano, że ponownej analizy wymaga, czy zadań określonych dla organu nadzoru nad AI nie mogą wykonywać istniejące organy. Wskazano także na konieczność uzasadnienia, że utworzenie nowej instytucji będzie rozwiązaniem efektywniejszym i bardziej optymalnym niż przekazanie zadań organu nadzoru nad sektorem sztucznej 8 inteligencji jednemu z już istniejącym w polskim porządku prawnym organów regulacyjnych. Powyżej wyrażone wątpliwości pokrywają się w znacznej części z wątpliwościami przedstawionymi w niniejszym piśmie związanymi z oceną systemów AI stosowanych w wyrobach medycznych. Reasumując, Prezes Urzędu ponownie proponuje zorganizowanie spotkania w celu omówienia możliwości wdrożenia praktycznych rozwiązań, które zapewnią przewidywalność i skuteczność systemu. Wyroby medyczne są specyficzną grupą wyrobów, a wymagania im stawiane są bardzo wysokie i szczegółowo opisane w legislacji europejskiej. Rynek ten boryka się z szeregiem problemów, a regulacyjne obciążenie producentów jest znaczące. Jednocześnie są to wyroby, których znaczenie dla społeczeństwa jest kolosalne. Dlatego bardzo istotne jest, aby system regulacyjny był stworzony w taki sposób, by nie powodował nadmiernego obciążenia producentów. Jest wiele kwestii, które wymagają ustalenia, np. zasady wymiany informacji na poziomie krajowym i europejskim, w tym informacji wrażliwych (dokumentacja medyczna), postępowanie po wystąpieniu poważnego incydentu, postępowanie w przypadku konieczności aktualizacji oprogramowania i realizacji działań związanych z bezpieczeństwem wyrobów po wprowadzeniu do obrotu i używania. 5. Uwaga ogólna do całości Projektu IAB Polska Opis podstawowych uwag Stanowisko przedstawia kluczowe zastrzeżenia dotyczące projektu implementacji unijnego AI Act do prawa krajowego, wskazując na obszary wymagające rewizji w celu zapewnienia zgodności z regulacjami na poziomie UE. Szczególne obawy budzi szeroki zakres art. 42 dotyczący dostępu do treści klientów przechowywanych w chmurze, który potencjalnie mógłby naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Postanowienia Projektu dotyczące środków egzekwowania, szczególnie w art. 53, wykazują potencjalną niespójność z intencjami unijnego AI Act, podczas gdy proponowane sankcje karne w Rozdziale 9 wymagają ponownej Uwaga wyjaśniona Projekt został przeanalizowany pod kątem zgłoszonych uwag. Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. w art. 34 (poprzednio art. 42). Przepisy o kontroli zostały zaprojektowane w sposób umożliwiający przeprowadzenie kontroli pozwalającej na ustalenie jednoznacznych jej wyników przy jednoczesnym zapewnieniu naj najmniejszego obciążenia kontrolowanego oraz poszanowania tajemnic prawnie chronionych. 9 oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Dodatkowe obszary wymagające uwagi obejmują niewystarczające zabezpieczenia informacji chronionych, nieracjonalnie krótkie terminy na ustosunkowanie się do zastrzeżeń organów regulacyjnych oraz kwestie dotyczące zakresu terytorialnego, które mogą prowadzić do nakładania się jurysdykcji. Podejście projektu do odpowiedzialności indywidualnej oraz traktowanie modeli AI ogólnego przeznaczenia również wymaga wyjaśnienia w celu zapewnienia spójności z ramami na poziomie UE. Powyższe kwestie, jeśli nie zostaną rozwiązane, mogą prowadzić do niepewności regulacyjnej, potencjalnie utrudniając rozwój AI przy jednoczesnym naruszeniu standardów ochrony danych. Poniższa szczegółowa analiza przedstawia konkretne rekomendacje mające na celu lepsze dostosowanie prawa implementacyjnego zarówno do litery, jak i ducha unijnego AI Act. W kwestii długości terminów należy wskazać, że odstąpiono od wyznaczenia terminu na zgłoszenie poważnych incydentów pozostałe terminy zostały przewidziane w sposób zapewniający skuteczne stosowanie przepisów i nie odbiegają od terminów powszechnie stosowanych w ramach postępowań przed organami. 6. Uwaga ogólna do całości Projektu IAB Polska Ryzyko fragmentacji prawa UE Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji AI Act (zob. art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13). Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. AI państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji AI Act, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie AI w całej UE. Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z AI Act i wytycznymi AI Office. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 7. Uwaga ogólna do IAB Polska Przegląd Projektu i usunięcie niepotrzebnych elementów W treści Projektu można zauważyć elementy, które są pozostałościami po poprzednim projekcie lub pracach Uwaga uwzględniona Nadano nowe brzmienie art. 39 ust. 2 pkt 1. 10 całości Projektu wewnętrznych Ministerstwa. Przykład: art. 47 ust. 2 pkt 1 kończy się sformułowaniem: w celu ich usunięcia nie i. 8. Szef Służby Cywilnej Moje wątpliwości nadal budzi propozycja organizacji Biura Komisji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Zasadą jest, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak jak np. w przypadku Urzędu Komunikacji Elektronicznej). Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji i Przewodniczącego tej Komisji. Komisja ta będzie zatem realizować m. in. zadania o charakterze urzędniczym (np. wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia2 oraz ustawy, udział w opracowywaniu i opiniowaniu aktów prawnych), a jej biuro będzie współrealizowało te zadania. Uzasadnione jest więc, aby wykonywały je osoby zatrudnione w korpusie służby cywilnej, wyłonione w drodze otwartego i konkurencyjnego naboru. Wprowadzenie tej zasady pozwoli na zastosowanie regulacji odnoszących się do zasad służby cywilnej i zasad etyki korpusu służby cywilnej, niezbędnych w przypadku instytucji porównywalnych do profilu nowotworzonego urzędu. Dodatkowo będzie to służyło także zagwarantowaniu niezależności, o której mowa w art. 70 rozporządzenia PE i Rady UE 2024/1689 z 13 czerwca 2024 r. Ponadto, w związku z tym, że Szef Służby Cywilnej jest centralnym organem administracji rządowej właściwym w sprawach służby cywilnej, proszę o uwzględnianie mnie na kolejnych etapach prac legislacyjnych. Projekt powinien być także skierowany do Rady Służby Publicznej, która wyraża opinie w sprawach projektów aktów normatywnych dotyczących służby cywilnej. Uwaga wyjaśniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 11 9. RMŚP Wątpliwości budzą przepisy ograniczające pierwszeństwo regulacji zawartych w ustawie z dnia 6 marca 2018 r. Prawo przedsiębiorców („Konstytucja Biznesu”), a które mają charakter gwarancyjny, w zakresie prowadzenia kontroli przedsiębiorców. Za równie istotne, dla skutecznej ochrony praw przedsiębiorców – konieczne jest powołanie w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców. Należy zauważyć, iż racjonalne wytyczenie ograniczeń w zakresie kontroli jest uzasadnionym postulatem przedsiębiorców i wraz z wejściem w życie najpierw ustawy z dnia 2 lipca 2004 r. o swobodzie działalności gospodarczej7, a następnie ustawy Prawo przedsiębiorców – stało się trwałym i niekwestionowanym elementem istniejącego porządku gospodarczego oraz niezbędnym wsparciem dla przewidywalności prowadzenia działalności gospodarczej. Gwarancje praw przedsiębiorców w postępowaniach kontrolnych należy uznać za jedno z podstawowych praw przyznanych przedsiębiorcom. Podkreślenia wymaga, iż w myśl obowiązujących przepisów – zasady i tryb kontroli odmiennie niż w przepisach ustawy Prawo przedsiębiorców mogą wynikać jedynie z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 45 ust. 1 Prawa przedsiębiorców nie przewiduje wyjątków od ograniczeń kontroli przedsiębiorców zawartych w Rozdziale 5 tej ustawy. Przy czym projektowanie wzajemnie sprzecznych przepisów oraz ingerujących w podstawowe prawo przedsiębiorców do możliwości prowadzenia działalności gospodarczej w oparciu o jasne i stabilne uregulowania – może być uznane za systemowo wadliwe i nadmiernie godzące w zasadę swobody działalności gospodarczej wynikającej z art. 2 Prawa przedsiębiorców oraz art. 20 i 22 Konstytucji Rzeczypospolitej Polskiej.8 Warto w powyższym kontekście zwrócić uwagę, iż ograniczenia w zakresie wszczynania i prowadzenia kontroli są jednym z najistotniejszych postulatów deregulacyjnych Rzecznika, Uwaga wyjaśniona i uwzględniona System kontroli uległ znaczącemu uproszczeniu po I etapie uzgodnień międzyresortowych, opiniowania i konsultacji publicznych realizujące zasadniczą część postulatów wyrażonych w uwadze. Po I etapie znacząco ograniczono uprawnienia kontrolujących wobec kontrolowanych. Kontrola ma być domyślnie sprawowana w sposób zdalny i będzie dotyczyć lokalizacji fizycznych jedynie w niezbędnych sytuacjach. W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców będzie mógł uczestniczyć w pracach Komisji na zasadach określonych w art. 6 ust. 3. Ponadto zgodnie z art. 25 ust. 3 pkt 5 - Rzecznik Małych i Średnich Przedsiębiorców będzie uprawniony do wskazywania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji. 12 wyrażonym w stanowisku z dnia 12 lutego 2025 r.9 skierowanym do Prezesa Rady Ministrów i do wiadomości Wiceprezesa Rady Ministrów – Ministra Cyfryzacji. 10. Uwaga ogólna dotycząca innej formy piaskownic regulacyjny ch PARP Niezbędne jest stworzenie w Polsce środowiska testowego dla sztucznej inteligencji, które tworzyłoby i wspomagało kulturę eksperymentowania z rozwiązaniami sztucznej inteligencji i walidacji rezultatów tych eksperymentów. Jednocześnie funkcją projektowanego środowiska winna być analiza i walidowanie istniejących rozwiązań regulacyjnych w zakresie oceny w jakim stopniu stanowią one nieuzasadnioną barierę dla rozwoju innowacji oraz uwzględniają potrzebę rozwoju społeczeństwa informacyjnego przy zachowaniu warunków dla konkurencyjności przedsiębiorstw. Uzasadnieniem dla proponowanych zmian jest: • Ułatwienie testowania i rozwoju systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania, a w związku z tym zapewnienie uczestnictwa w piaskownicy regulacyjnej każdemu zainteresowanemu przedsiębiorcy, a nie tylko uwzględnionemu w procesie wydania decyzji administracyjnej. • Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Projektowana w projekcie ustawy instytucja decyzji administracyjnej nie tylko wydłuża proces rozwoju innowacji systemów sztucznej inteligencji, ale stanowi nadmierną barierę formalną naruszającą zasadę równości przedsiębiorstw i swobodę działalności gospodarczej. Jednocześnie podejście nadmiernego formalizmu wpisywałoby się ogólną tendencję deregulacją działalności gospodarczej, a również stanowiłoby wpisanie się we wnioski Raportu Mario Draghiego aby uczynić UE silną przez wsparcie i rozwój innowacji i zapewnić konkurencyjność europejskiej gospodarki. • Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki i zgodności z prawem. Proponowane podejście dostarczałoby dodatkowych korzyści do projektowanej ustawy w postaci: Uwaga uwzględniona Przepisy dotyczące piaskownic regulacyjnych zostały dodane do projektu ustawy w rozdziale 8 po I etapie uzgodnień, opiniowania i konsultacji publicznych realizując zasadniczą część postulatów wyrażonych w uwadze. 13 • Redukcji biurokracji: piaskownica działałaby na zasadzie zgłoszenia, a nie zgody administracyjnej wyrażanej w postaci decyzji administracyjnej. • Nastąpiłoby przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. • Zachęcałoby w ten sposób wzmocnienie samoregulacji i zapewnienia przez firmy zgodność testów i prac rozwojowych z prawem, ale też nadchodzącym kodeksem dobrych praktyk opracowywanym przez środowisko innowatorów przy Komisji Europejskiej. • Jednocześnie proponowane rozwiązanie wspierałoby przejrzystość: gdyż organ administracji państwa interweniowałby tylko w wyjątkowych sytuacjach, a jednocześnie wspierałoby doskonalenie produktu lub usług dla celów ostatecznych testów. Mając to na uwadze proponuje się następujące zmiany w zakresie organizacji projektowanych piaskownic regulacyjnych, jak następuje poniżej (art. 3 pkt 15, art.5, art. 30, art. 31). 11. Uwaga ogólna - Brak konkretnych rozwiązań w projekcie, mających na celu wsparcie przedsiębior ców w obszarze wdrażania technologii AI zgodnie z obowiązują PARP Projekt ustawy w obecnej wersji koncentruje się głównie na aspektach regulacyjnych i nadzorczych, pomijając kwestie wsparcia dla mikro, małych i średnich przedsiębiorstw (MŚP) oraz startupów w procesie dostosowywania się do nowych wymogów prawnych. Wprowadzenie nowych regulacji może stanowić istotne obciążenie dla mniejszych podmiotów, które nie dysponują odpowiednimi zasobami na spełnienie wymagań administracyjnych i certyfikacyjnych. Art. 5 ust. 3 pkt 5 przewiduje wprawdzie współpracę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z ministrem właściwym do spraw informatyzacji, jednak w projekcie brakuje konkretnych rozwiązań mających na celu wsparcie przedsiębiorców w obszarze wdrażania technologii AI zgodnie z obowiązującymi regulacjami. Warto rozważyć wprowadzenie dodatkowych mechanizmów, takich jak finansowanie certyfikacji systemów sztucznej inteligencji dla MŚP, preferencyjne warunki uczestnictwa w piaskownicach regulacyjnych, czy też ulgi Uwaga częściowo uwzględniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. Poprzez przepis, że uczestnictwo mikro, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne (art. 75 ust. 4). 14 cymi regulacjami podatkowe dla firm inwestujących w rozwój zgodnych z prawem technologii AI. 12. Uwaga ogólna - Harmonizac ja certyfikacji systemów AI na poziomie UE PARP Projekt nie odnosi się do mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich. Brak tego elementu może prowadzić do sytuacji, w której przedsiębiorstwa będą musiały przechodzić wielokrotne procesy certyfikacyjne w różnych krajach, co znacząco zwiększy koszty i czas wdrażania nowych rozwiązań. Warto rozważyć wprowadzenie przepisów umożliwiających wzajemne uznawanie certyfikacji w ramach UE, co przyczyniłoby się do ograniczenia barier regulacyjnych i ułatwiłoby funkcjonowanie polskich przedsiębiorców na jednolitym rynku europejskim. Rozwiązaniem może być wprowadzenie mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich UE oraz rozważenie stworzenia centralnej bazy danych decyzji certyfikacyjnych. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozdziału III rozporządzenia 2024/1689. 13. Uwaga ogólna - Mechanizm przeglądu skutecznośc i regulacji PARP W projekcie ustawy brakuje mechanizmu oceny skuteczności wprowadzonych regulacji po ich wejściu w życie (ewaluacja skutków wdrożenia regulacji po określonym czasie). Wprowadzenie nowych przepisów może generować nieprzewidziane skutki dla przedsiębiorstw, dlatego zasadnym byłoby wprowadzenie obowiązku przeprowadzenia przeglądu funkcjonowania regulacji po określonym czasie, np. po 12 lub 24 miesiącach. Pozwoliłoby to na analizę realnego wpływu ustawy na rynek oraz na ewentualne dostosowanie przepisów do dynamicznie zmieniających się warunków technologicznych i gospodarczych. Brak takiego mechanizmu może skutkować utrzymywaniem nieoptymalnych rozwiązań prawnych, które mogą negatywnie wpływać na innowacyjność i konkurencyjność polskich przedsiębiorstw w obszarze AI. Propozycją do rozważenia jest dodanie przepisu zobowiązującego Komisję do przeprowadzenia przeglądu skuteczności przepisów np. po 12-24 miesiącach od ich wejścia w życie, co umożliwi dostosowanie regulacji do realiów rynkowych. Uwaga wyjaśniona Zgodnie z Oceną Skutków Regulacji ewaluacja projektu ustawy będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów 15 krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Prezesowi Rady Ministrów sprawozdania Komisji ze swojej działalności za rok poprzedni. 14. Uwaga ogólna ZPP Projekt ustawy o systemach sztucznej inteligencji, mający na celu wdrożenie krajowych mechanizmów nadzoru zgodnie z unijnymi ramami (AI Act), stanowi kluczowy instrument zarówno w zakresie ochrony praw podstawowych i bezpieczeństwa użytkowników, jak i wspierania rozwoju innowacyjnych rozwiązań technologicznych. Związek Przedsiębiorców i Pracodawców docenia intencję ustawodawcy, jednak wskazuje na potrzebę uzupełnienia i doprecyzowania niektórych przepisów, aby zapewnić klarowność procedur, eliminację konfliktów interesów oraz odpowiednią ochronę danych i tajemnic handlowych. Uwaga wyjaśniona i częściowo uwzględniona Postulaty zawarte w uwadze zostały wzięte pod uwagę w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji. Wprowadzono liczne zmiany w ramach poszczególnych procedur regulowanych w projekcie mające na celu zapewnienie ich przejrzystości. 15. Uwaga ogólna PUODO Standard niezależności organu nadzorczego nie znalazł jednak pełnego odzwierciedlenia w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. W świetle projektu ustawy nadal nie jest jasny zakres kompetencji Prezesa Urzędu Ochrony Danych Osobowych w sprawach z zakresu przetwarzania danych osobowych, wynikających zarówno z przepisów aktu w sprawie sztucznej inteligencji (dalej również jako rozporządzenie 2024/1689 albo AI Act) oraz ogólnego rozporządzenia o ochronie danych (dalej również jako rozporządzenie 2016/679). Nie określono też w projekcie ustawy mechanizmu usuwania sporów kompetencyjnych w tym zakresie. Ponadto, w projekcie ustawy brak jest przepisów, z których wynika, że Prezes UODO sprawuje wyłączny nadzór nad systemami wysokiego ryzyka, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji na jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). 16 Projektodawca, odnosząc się do wcześniejszych uwag Prezesa UODO w sprawie m.in. braku przepisów dotyczących kompetencji krajowego organu nadzorczego wynikających wprost z rozporządzenia 2024/1689 (art. 74 ust. 8), wskazał wprawdzie, że: „Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestie te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego (...)” i wyjaśnił, że: „Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy” – to jednak nie określił żadnych dalszych szczegółów związanych z planowanym rozwiązaniem, zwłaszcza daty rozpoczęcia prac nad projektem czy podstawowych założeń, które umożliwiłyby Urzędowi Ochrony Danych Osobowych rozpoczęcie już na tym etapie prac przygotowawczych, które umożliwiłyby m.in. ocenę potrzeb przygotowań organizacyjnych, kadrowych oraz finansowych koniecznych dla realizacji planowanych do realizacji zadań Prezes UODO nie został też wskazany wśród organów ochrony praw podstawowych, o których mowa w art. 77 rozporządzenia 2024/16894. Proponowana treść projektu ustawy, przy nieuwzględnieniu przez projektodawcę części postulowanych przez organ nadzorczy zmian przepisów, uzasadnia potrzebę skierowania uwag organu w odniesieniu do poniższych kwestii, o których uwzględnienie uprzejmie wnoszę. Jednocześnie wyjaśnić należy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 16. Koncepcja nadzoru i współpracy Komisji Rozwoju i Bezpieczeńs twa PUODO Projektodawca w przepisach projektowanej ustawy określa m.in. organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia (art. 1 pkt 1 projektowanej ustawy) w zakresie objętym przepisami rozporządzenia 2024/1689 oraz postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 (art. 1 pkt 2 projektowanej ustawy), jak też sposób zgłaszania poważnych Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 17 Sztucznej Inteligencji z Prezesem Urzędu Ochrony Danych Osobowych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji (art. 1 pkt 4 projektowanej ustawy). Jednocześnie sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689, wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689 czy wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 (art. 9 pkt 1, 7 i 6 projektowanej ustawy) przyznaje się wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej zwaną Komisją), bez odniesienia się do spraw, które dotyczą również przetwarzania danych osobowych. Projektowany model krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia wymaga pogłębionej analizy z perspektywy wszelkich nadzorowanych obszarów regulowanych przepisami rozporządzenia 2024/1689 pod kątem spójności oraz jasności nadawanych norm kompetencyjnych, jak również kompleksowości proponowanej regulacji. Ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, to niezwykle istotne jest prawidłowe ukształtowanie kompetencji nadzorczych także niezależnego organu ds. ochrony danych w egzekwowaniu przepisów aktu w sprawie sztucznej inteligencji i określenie w projektowanych przepisach ram sprawowanego przez niego nadzoru, obok właściwych organów krajowych powoływanych na mocy art. 70 rozporządzenia 2024/1689. Podkreślić należy, że unijne regulacje dotyczące ochrony danych osobowych stanowią podstawę dla nadzoru nad sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru tej materii niezależnemu organowi nadzorczemu, tj. w przypadku Polski – Prezesowi UODO (art. 2 ust. 7 rozporządzenia 2024/1689)5. Jednocześnie, w projekcie ustawy niezaproponowanego mechanizmu usuwania sporów kompetencyjnych, w szczególności natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 18 tzw. sporów pozytywnych, gdy zasadnie można będzie rozważać właściwość obu organów nadzorczych, Komisji i Prezesa UODO. Konieczne jest również wskazanie wyłącznej kompetencji krajowego organu nadzorczego wynikającej z art. 74 ust. 8 rozporządzenia 2024/1689, zgodnie z którym „...państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych...” w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia. Prawodawca unijny nie przewidział zatem dobrowolnego czy dowolnego ukształtowania kwestii sprawowania krajowego nadzoru w ww. obszarze. Tymczasem w przedstawionym projekcie nie kształtuje się kompetencji krajowego organu nadzorczego ds. ochrony danych wynikających wprost z aktu w sprawie sztucznej inteligencji w wyłącznym obszarze jego właściwości i wskazuje jedynie na obowiązek współpracy Komisji z Prezesem Urzędu Ochrony Danych Osobowych w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektowanej ustawy). W konsekwencji przepisami projektowanej ustawy nie zostały ustanowione gwarancje wyłącznego sprawowania nadzoru Prezesa UODO w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, ani nie został przewidziany nadzór Prezesa UODO nad systemami wysokiego ryzyka w zakresie wskazanym w akcie w sprawie sztucznej inteligencji, co sprawia, że projekt ustawy nie oddaje prawidłowo norm rozporządzenia 2024/1689 w kwestii statusu Prezesa UODO jako niezależnego organu nadzorczego i nie kształtuje w sposób całościowy modelu instytucjonalnego nadzoru nad sztuczną inteligencją. 19 Postuluję zatem, aby w przepisach projektowanej ustawy Prezes UODO został wskazany wprost jako organ sprawujący wyłączny nadzór w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, w tym w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Konsekwentnie, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), szczególnie w zakresie wymiany informacji i doświadczeń. W opinii Prezesa UODO współpraca między tymi organami nie może być zawężona jedynie do spraw wymienionych (taksatywnie), o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektu ustawy). Powinna ona mieć miejsce zawsze w sytuacjach, gdy w ramach systemów sztucznej inteligencji będzie dochodziło do przetwarzania danych osobowych, który to pogląd ma swoje podstawy w orzecznictwie sądów europejskich (zob. w szczególności wyrok Trybunału Sprawiedliwości UE z 4 lipca 2023 r. w sprawie C-252/21 Meta Inc. przeciwko Bundeskartellamt, EU:C:2023:537). Zauważyć należy, że współpraca organów może dotyczyć różnych obszarów, zarówno postępowań skargowych, jak i naruszeń aktu w sprawie sztucznej inteligencji, zgłaszania poważnego incydentu oraz wielu innych sytuacji. Nie należy więc mocą projektowanych przepisów ograniczać współpracy ze strony Komisji jedynie do kwestii związanych z piaskownicą regulacyjną oraz spraw z art. 74 ust. 8 rozporządzenia 2024/1689. Zaznaczyć należy, że forma współpracy i wymiany informacji między organami w poszczególnych obszarach także wymaga dookreślenia. Zapewne Komisja do prowadzonych postępowań będzie potrzebowała określonych informacji od organu nadzorczego, natomiast w obecnym projekcie ustawy nie ma mowy o szczegółach dotyczących trybu, charakteru czy zakresu współpracy. Zwrócić 20 uwagę należy, że wątpliwości nie rozwiewa ogólnie sformułowana treść art. 113 projektu ustawy dotycząca zmiany ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781), w którym projektodawca wskazał na dodanie art. 59a w brzmieniu: „Prezes Urzędu współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji”. W opinii organu nadzorczego, współpraca wymaga doprecyzowania, także ze względu na ryzyko dualizmu rozstrzygnięć, na co Prezes UODO wskazuje w kolejnym punkcie uwag. Poza art. 74 ust. 8 oraz art. 77, które określają kompetencje organów nadzorczych, rozporządzenie 2024/1689 nie precyzuje ram, w jakich organy nadzorcze miałyby sprawować swoje kompetencje obok właściwych organów krajowych powołanych na mocy art. 70 rozporządzenia 2024/1689. Kwestie te zostały pozostawione państwom członkowskim, dlatego krajowe przepisy wdrażające wskazane rozporządzenie powinny je regulować. W konsekwencji przyjąć należy, że konieczne jest, aby ustawa precyzowała rolę organu nadzorczego ds. ochrony danych, mając na uwadze zapewnienie zachowania niezależności Prezesa UODO. W nowej wersji projektu ustawy przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji (art. 6 ust. 1 i 2 projektu ustawy), co należy ocenić pozytywnie z uwagi na niezależny status organu nadzorczego ds. ochrony danych osobowych. Projektodawca podkreślił, że jest to częściowe uwzględnienie uwagi organu nadzorczego, wyjaśniając przy tym, że: „Kwestie niezależności organu ds. ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu”. Jednocześnie, na podstawie art. 6 ust. 3 projektu ustawy, Przewodniczący Komisji może zaprosić do udziału w posiedzeniu wyłącznie z głosem doradczym upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu (pkt 1). 21 W ocenie Prezesa UODO, jego przedstawiciel powinien być wskazany jako zawsze (obligatoryjnie) biorący udział w posiedzeniach Komisji, w charakterze stałego obserwatora, co stanowiłoby wyraz poszanowania kompetencji nadzorczych niezależnego organu ds. ochrony danych. W ocenie organu nadzorczego niezbędne jest przy tym wprowadzenie do projektu ustawy przepisów związanych z udziałem przedstawiciela Prezesa UODO, z których będzie wynikać będzie, że udział ten dotyczy wszystkich spraw rozpatrywanych przez Komisję, których przedmiot obejmuje przetwarzanie danych osobowych. Ponadto przedstawiciel Prezesa UODO powinien mieć prawo do przedstawienia uzasadnionego stanowiska w sprawie rozpatrywanej przez Komisję. W celu opracowania uzasadnionego stanowiska w sprawie przedstawiciel Prezesa UODO powinien mieć zapewnione prawo do zwrócenia się do Komisji o udostępnienie dokumentów z akt sprawy w zakresie niezbędnym dla przedstawienia stanowiska. Merytorycznie uzasadnione pozycją organu nadzorczego do spraw ochrony danych osobowych jest, aby uzasadnione stanowisko jego przedstawiciela było brane przez Komisję pod uwagę przy wydawaniu decyzji administracyjnej rozstrzygającej sprawę co do jej istoty. Obligatoryjny udział przedstawiciela UODO w charakterze stałego obserwatora zapewni obu organom możliwość stałej współpracy w zakresie wymiany informacji i stanowisk niezbędnych do podjęcia rozstrzygnięcia sprawy przez Komisję, co niewątpliwie należy postrzegać jako korzyść dla obu organów oraz dla skuteczności i sprawności systemu nadzoru nad systemami sztucznej inteligencji w Polsce w całości. Stała współpraca w zakresie wymiany informacji będzie korzystna zarówno dla Komisji, jak i dla UODO, który mógłby wspierać Komisję jako niezależny ekspert z zakresu rozwiązań z obszaru ochrony danych osobowych. Wiedza ekspercka przekazywana przez organ nadzorczy może okazać się pomocna dla Komisji przy podejmowaniu rozstrzygnięć. Jednocześnie, realizując funkcję ekspercką Prezes UODO mógłby poprzez wyrażanie istotnego poglądu wzbogacić analizy czy stanowiska Komisji o niezwykle 22 ważny aspekt jakim jest ochrona danych osobowych, co z kolei mogłoby przyczynić się do sprawniejszego i bardziej optymalnego realizowania funkcji Komisji jako niezależnego organu w obszarze sztucznej inteligencji. W tym miejscu wskazać należy na dotychczasowy model współpracy pomiędzy organem nadzorczym a Komitetem Stałym Rady Ministrów do spraw Cyfryzacji, który przynosi korzyści obustronne. Prezes UODO wnosi do projektów informatycznych przygotowywanych w resorcie cyfryzacji wiedzę z obszaru ochrony danych osobowych, czerpiąc tym samym informacje z zakresu realizowanych projektów dla zapewnienia ich zgodności z prawem ochrony danych. Opracowanie przejrzystych mechanizmów współpracy pomiędzy Komisją w postulowanym kształcie przyczyni się do poszanowania niezależności obu organów i zagwarantowania standardów ochrony danych osobowych przy realizacji zadań Komisji nie niższych niż wynikające z ogólnego rozporządzenia o ochronie danych osobowych. Ryzkiem, jednakże dla ich zapewnienia jest wciąż brak wskazania Prezesa UODO w wykazie z art. 77 ust. 2 rozporządzenia 2024/1689, o co organ nadzorczy wciąż postuluje. 17. Brak wskazania Prezesa UODO jako organu praw podstawow ych PUODO Pomimo tego, że w oparciu o kryteria określone w treści art. 77 ust. 1 aktu w sprawie sztucznej inteligencji, Prezes Urzędu Ochrony Danych Osobowych jest organem właściwym z obszaru ochrony praw podstawowych w zakresie prawa do prywatności i ochrony danych osobowych nie został jako taki wskazany w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Brak takiego wskazania może pociągać za sobą istotne skutki prawne. W projektowanej ustawie wskazuje się na współpracę Komisji m.in. z Prezesem Urzędu Ochrony Danych Osobowych (art. 5 ust. 3 pkt 3 projektowanej ustawy) oraz organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 4 projektowanej ustawy). Z kolei Komisja wszczyna Uwaga wyjaśniona Prezesem Urzędu Ochrony Danych Osobowych został wskazany jako organ, którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Komunikat w tym zakresie znajduje się na stronie Ministerstwa Cyfryzacji. 23 postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 m.in. na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689 (art. 49 ust. 2 pkt 3 projektowanej ustawy), a także niezwłocznie informuje krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, jeśli stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych (art. 55 ust. 3 projektowanej ustawy). Brak decyzji w sprawie wskazania Prezesa UODO jako organu praw podstawowych wywołuje wątpliwość co do prawidłowego rozumienia przez ustawodawcę pojęcia „organu ochrony praw podstawowych” zgodnie z intencją art. 77 rozporządzenia 2024/1689. W tym kontekście powstaje potrzeba konsekwentnego i zgodnego z rozwiązaniami unijnymi określenia w projektowanym akcie uprawnień poszczególnych organów nadzoru w ww. obszarze, gdyż nadzór przestrzegania obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych obejmuje również nadzór nad ochroną danych osobowych. Z tych powodów ponownie uprzejmie wnoszę o uzupełnienie wykazu, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 i wskazanie w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu uprawnionego w zakresie spraw określonych w art. 77 ust. 1 ww. rozporządzenia. 18. Ryzyko dualizmu rozstrzygnię ć PUODO Ze współpracą pomiędzy Komisją a organem nadzorczym ściśle powiązane są kwestie związane z ryzykiem dualizmu rozstrzygnięć, nakładaniem się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z rozporządzenia 2024/1689, które nie zostały uregulowane mocą projektowanych przepisów. Uwagi organu nadzorczego w przedmiotowym zakresie nie zostały przez projektodawcę uwzględnione w obecnym projekcie ustawy. Projektodawca wskazał, że: „Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu Uwaga wyjaśniona i częściowo uwzględniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Wnosząc sprawę do PUODO lub KRIBSI lub innego organu podmioty powinny kierować się zakresem regulacji obowiązującego prawa UE oraz 24 rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu”. Bezsprzeczne jest, że oba rozporządzenia unijne będą stosowane równolegle, a niektóre procesy/obowiązki z obu aktów mogą się „nakładać”, czy powtarzać. Organ nadzorczy ds. ochrony danych powinien być obligatoryjnie uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych (co także zostało potwierdzone we wskazanym powyżej wyroku TSUE w sprawie C-252/21). Stanowisko Prezesa UODO powinno być zatem uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Jak stanowi motyw 10 preambuły do rozporządzenia 2024/1689, jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii Europejskiej regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, rozporządzenie 2024/1689 nie wpływa też na wynikające z prawa Unii Europejskiej lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Stosownie do motywu 156 rozporządzenia 2024/1689, aby zapewnić odpowiednie i skuteczne egzekwowanie wymogów i obowiązków ustanowionych w rozporządzeniu, które należy do unijnego prawodawstwa harmonizacyjnego, pełne zastosowanie powinien mieć system nadzoru rynku i zgodności produktów ustanowiony rozporządzeniem (UE) 2019/1020. Organy nadzoru rynku wyznaczone zgodnie z niniejszym rozporządzeniem powinny mieć wszystkie uprawnienia w zakresie egzekwowania wymogów i ustaw regulujących zakres spraw rozpatrywanych przez poszczególne organy. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami jak i innymi organami wskazanymi w ustawie w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. Mając powyższe na uwadze zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a innymi organami na tym etapie zapewnienia stosowania przepisów rozporządzenia wydaje się przedwczesne gdyż trudny jest do przewidzenia czy spory takie będą miały miejsce, rodzaj sporów oraz ich odziaływanie na poszczególne organy i sprawy. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy w wykazie jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Odnosząc się do kwestii wskazania SOKIK jako sądu właściwego dla sprawa z zakresu systemów sztucznej inteligencje i należy podkreślić, że do tego sądu będą trafiały środki zaskarżenia na decyzje i postanowienia wyłącznie Komisji 25 obowiązków ustanowione w rozporządzeniu oraz z rozporządzenia (UE) 2019/1020 i powinny wykonyać swoje uprawnienia i obowiązki w sposób niezależny, bezstronny i wolny od uprzedzeń. Chociaż większość systemów AI nie podlega szczególnym wymogom i obowiązkom na podstawie niniejszego rozporządzenia, organy nadzoru rynku mogą podejmować środki w odniesieniu do wszystkich systemów AI, jeżeli zgodnie z niniejszym rozporządzeniem stwarzają one ryzyko. Jednakże może dochodzić do sytuacji, w której zarówno właściwy organ krajowy (Prezes UODO), jak i organ nadzoru rynku (Komisja), będą miały kompetencje do działania w danej sprawie. Taka sytuacja będzie miała miejsce w związku z koniecznością przestrzegania wymogów wynikających przepisów rozporządzenia 2024/1689, np. art. 10 ust. 5, w którym jest mowa o warunkach przetwarzania danych osobowych w systemach wysokiego ryzyka; art. 26 dotyczącego wymogów w zakresie systemów wysokiego ryzyka; art. 47 ust. 1 traktującego o deklaracji zgodności czy art. 59 wskazującego na warunki przetwarzania danych osobowych w piaskownicach regulacyjnych. W motywie 140 preambuły do rozporządzenia 2024/1689 mowa jest z kolei o tym, że rozporządzenie powinno zapewniać dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie sztucznej inteligencji podstawę prawną do wykorzystywania danych osobowych zebranych w innych celach do rozwoju – w ramach piaskownicy regulacyjnej w zakresie AI – określonych systemów AI w interesie publicznym, tylko pod określonymi warunkami, zgodnie z art. 6 ust. 4 i art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679 i art. 5, 6 i 10 rozporządzenia (UE) 2018/1725 i nie naruszając przepisów art. 4 ust. 2 i art. 10 dyrektywy (UE) 2016/680. Nadal mają zastosowanie wszystkie pozostałe obowiązki administratorów danych i prawa osób, których dane dotyczą, wynikające z rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680. Konieczne jest więc zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a wydawane w oparciu o rozporządzanie 2024/1689 oraz przepisy projektowanej ustawy. Nie przewiduje się aby trafiały tam wiec sprawy z zakresu ochrony danych osobowych, do których zastosowanie będą miały przepisy RODO. W zakresie zgłaszania poważnych incydentów należy wskazać, że przepisy projektowanej ustawy korespondują z przepisami rozporządzenia 2024/1689. Stanowią one ramę prawną w zakresie procedury oraz regulują kwestie przekazywania informacji o zaistniałym incydencie właściwym organom. Lista organów obejmuje m.in. Prezesa UKE, ministra ds. informatyzacji, PUODO, KNF oraz odpowiednie zespoły reagowania na incydenty komputerowe. Przepisy zostały zaprojektowane tak, aby nie nakładać nadmiernych obowiązków, zapewnić sprawność postepowania i dostęp do informacji z poszanowaniem przepisów odrębnych ustaw. Do wymierzania administracyjnych kar pieniężnych zastosowanie mają bezpośrednio przepisy rozporządzenia 2024/1689. Stąd też mając na uwadze treść art. 99 ust. 7 lit. c przy ustaleniu jej wysokości bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. Kary przyszłe nie są brane w tym pkt pod uwagę. W zakresie uwagi dot. art. 55. ust. 3. Na podstawie art. 55 ust. 3 (obecnie art. 47 ust. 3) jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym zagrożeniu (nie o fakcie wszczęcia i prowadzenia postępowania) krajowe organy lub podmioty określone w wykazie, 26 innymi organami, przede wszystkim z zakresu spraw uregulowanych głównie w rozdziałach 4 i 6 projektu ustawy. Zwrócić w tym miejscu uwagę należy na wydaną przez Europejską Radę Ochrony Danych (EROD) opinię 28/2024, która odnosi się do kluczowych aspektów ochrony danych osobowych w kontekście rozwoju i wdrażania modeli sztucznej inteligencji. Zgodnie z ww. opinią o przetwarzaniu danych osobowych w modelach sztucznej inteligencji można mówić wówczas, gdy z modelu, przy użyciu środków, które można racjonalnie zastosować, będzie możliwe uzyskanie lub odtworzenie informacji pozwalających na zidentyfikowanie osoby fizycznej. W konsekwencji, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), w szczególnie w zakresie wymiany informacji i doświadczeń. Rozdział 4 projektu ustawy częściowo został zmodyfikowany, jednakże pozostawienie art. 50 ust. 4 projektu ustawy w obecnym brzmieniu jest sprzeczne z art. 5 ust. 3 pkt 3 projektu ustawy. Uzasadnienie projektu także nie odnosi się do przedmiotu współpracy, dlatego też pozostawienie art. 50 ust. 4 projektu wydaje się być niezgodne z art. 49 ust. 3 projektu ustawy. Tak jak to zostało wskazane powyżej, współpraca pomiędzy Komisją a Prezesem UODO wymaga rozszerzenia o zakres wszelkich spraw z obszaru ochrony danych osobowych, a nie ograniczania jej jedynie do spraw wskazanych w art. 5 ust. 3 pkt 3 projektu ustawy, w tym spraw należących do wyłącznej kompetencji organu nadzorczego ds. ochrony danych. Zgodnie z zasadą pewności prawa, legalizmu i praworządności konieczne jest określenie wprost w projektowanych przepisach mechanizmu współpracy pomiędzy Komisją a Prezesem UODO. Projektowane przepisy w obecnym kształcie mogą powodować wątpliwości interpretacyjne, a w konsekwencji potencjalne konflikty kompetencyjne w przedmiocie rozpatrywania spraw związanych z o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Pozwoli to im na podjęcie działań wynikających z ich właściwości. Natomiast w kwestii wydania decyzji nie zawsze decyzja Komisji będzie miała przełożenie na właściwe organy krajowe państwa członkowskiego stąd tez powinny być przekazywane biorąc pod uwagę okoliczności danej sprawy. . Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. 27 przetwarzaniem danych osobowych, m.in. w sytuacji, gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. W przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w obecnym projekcie ustawy – na co zwracał już uwagę Prezes UODO – nie wskazał, jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych/rozbieżnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. Projektodawca nie uwzględnił również uwagi Prezesa UODO dotyczącej art. 57 ust. 1 projektu ustawy, czyli dotyczącej sądu ochrony konkurencji i konsumentów. Ponownego zaakcentowania wymaga, że przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może prowadzić do powstania niepewności prawnej. Respektując w pełni uprawnienie projektodawcy do wyboru takiego, a nie innego rozwiązania, Prezes UODO czuje się zobowiązany do zasygnalizowania przedmiotowego problemu, który być może powinien być przedyskutowany w szerszej perspektywie skuteczności nadzoru nad systemami sztucznej inteligencji, do czego organ nadzorczy wyraża niniejszym gotowość. 28 Projekt ustawy w rozdziale 6 dotyczy zgłaszania poważnych incydentów związanych z działaniem systemów sztucznej inteligencji. Uwagi Prezesa UODO, które nie zostały uwzględnione w tym zakresie, pozostają aktualne. Jednocześnie zwrócić uwagę należy na następujące kwestie. Z przepisów (art. 99 ust. 7 lit. c) rozporządzenia 2024/1689) wynika, że Komisja przy ustaleniu m.in. wysokości administracyjnej kary pieniężnej bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. W tym miejscu wskazać należy na wyraz „już”, który sugeruje, że okoliczność, w której inne organy jeszcze nie nałożyły, ale mogą nałożyć karę w przyszłości, nie będzie brana pod uwagę. Kolejnym aspektem jest okoliczność informowania o wydaniu decyzji. O prowadzeniu postępowania „krajowy organ” zostanie powiadomiony na podstawie art. 55 ust. 3 projektu ustawy. Jednak już o samej decyzji tylko w sytuacji „jeśli wymag ają tego okoliczności sprawy” (art. 55 ust. 6 projektu ustawy). Pojawia się zatem pytanie co należy rozumieć przez sformułowanie „okoliczności sprawy”. W ocenie organu nadzorczego należy ten zwrot doprecyzować. Podobnie, w zakresie przekazywania informacji w związku ze zgłaszanymi incydentami Komisji. Zgodnie z art. 80 ust. 1 projektu ustawy, Komisja udzieli Prezesowi UODO informacji o zgłoszeniu przez dostawcę poważnego incydentu „na wniosek”, „jeżeli wymagają tego okoliczności sprawy” w „zakresie niezbędnym do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 oraz w ustawie”. Przepis ten wymaga ponownej analizy z uwagi na brak możliwości uprzedniego powzięcia przez Prezesa UODO informacji o zgłoszonym przez dostawcę incydencie, a tym samym złożenia przez niego wniosku o informację o dokonanym zgłoszeniu. Uregulowanie na poziomie niniejszej ustawy zasad współpracy Komisji z organami, w tym z Prezesem UODO jest – jak wynika to 29 z analizy poszczególnych przepisów – niezbędne. Przepisy ustawy w tym zakresie powinny być jasne i przejrzyste. Niezależnie od ostatecznego kształtu projektowanej ustawy dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679. Po przeprowadzeniu analizy zagadnień, dotyczących przetwarzania danych osobowych, które mogą być brane pod uwagę przy dokonywaniu oceny przez organ właściwy w sprawach AI i równolegle Prezesa UODO, przykładowo wskazać należy na następujące kwestie. 1. Ocena ryzyka związanego z przetwarzanymi danymi Art. 35 rozporządzenia 2016/679 wprowadza obowiązek przeprowadzenia oceny skutków dla ochrony danych, natomiast art. 27 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek przeprowadzenia oceny skutków systemów sztucznej inteligencji wysokiego ryzyka dla praw podstawowych przed wdrożeniem systemu do obrotu. W sytuacji, gdy system sztucznej inteligencji będzie przetwarzał dane osobowe – zarówno ocena skutków dla ochrony danych wynikająca z art. 35 rozporządzenia 2016/679, jak i analiza ryzyka według rozporządzenia 2024/1689, mogą być wymagane, zatem Prezes UODO i Komisja będą mieć kompetencje nadzorcze. 2. Przejrzystość i informowanie Art. 12-14 rozporządzenia 2016/679 określają obowiązki administratora danych odnośnie do informacji przekazywanych osobom, których dane dotyczą. Natomiast art. 50 rozporządzenia 2024/1689 wymaga, aby użytkownicy byli informowani, że mają do czynienia z systemem AI, zwłaszcza w przypadku interakcji z chatbotami, czy generowanymi treściami. Powyższe może skutkować równoległym nadzorem Prezesa UODO i Komisji. 30 3. Prawa osób, których dane dotyczą Art. 15-22 rozporządzenia 2016/679 przyznają osobom, których dane dotyczą określone prawa. Natomiast art. 14 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek zapewnienia nadzoru człowieka nad działaniem tych systemów, co ma na celu ochronę praw podstawowych użytkowników. W przypadku naruszenia powyższych praw przez system sztucznej inteligencji przetwarzający dane osobowe, zarówno Prezes UODO, jak i Komisja mogą być właściwe do podejmowania działań. 4. Profilowanie Należy również zwrócić szczególną uwagę na systemy AI wysokiego ryzyka, których obszary zostały zidentyfikowane w załączniku nr III do rozporządzenia 2024/1689 w kontekście wymogów prawnych tego rozporządzenia, w relacji do treści art. 22 rozporządzenia 2016/679 (zautomatyzowane podejmowanie decyzji w indywidualnych przypadkach, w tym profilowanie). 5. Cyberbezpieczeństwo Systemy wysokiego ryzyka, powinny odpowiadać wymogom w zakresie cyberbezpieczństwa, o których mowa w art. 15 ust. 4 rozporządzenia 2024/1689. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. W ust. 5 wskazuje się, że systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. 31 Jeśli źródło możliwego naruszenia atrybutów danych osobowych podlegających ochronie, będzie związane z działaniem systemu AI wysokiego ryzyka, wówczas mogą nałożyć się kompetencje Prezesa UODO w zakresie możliwości naruszenia art. 24, 25 i 32 rozporządzenia 2016/679 oraz Komisji z art. 15 rozporządzenia 2024/1689. 6. Zgłaszanie incydentów W art. 73 rozporządzenia 2024/1689 przewiduje się zgłaszanie poważnych incydentów. Nie można wykluczyć, że taki poważny incydent będzie stanowił również naruszenie ochrony danych osobowych i wyczerpywał przesłanki zgłoszenia wynikające z art. 33 rozporządzenia 2016/679. W efekcie, Prezes UODO także będzie mógł prowadzić swoje postępowanie wyjaśniające. Jak wynika z art. 73 ust. 7 rozporządzenia 2024/1689, po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c (naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 19. Art. 2 IAB Polska Usunięcie lub doprecyzowanie przepisu dot. GPAI Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli AI ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów AI wysokiego ryzyka. AI Act stanowi, że AI Office/Komisja Europejska ma władzę regulacyjną nad modelami GPAI. Państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 20. Art. 2 IAB Polska Ryzyko zasięgu eksterytorialnego Niejasny jest zakres terytorialny w art. 2. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie 32 potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w AI Act. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami AI Act w zakresie nadzoru transgranicznego. wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 21. Art. 2 Pracodawcy RP Treść art. 2 projektu budzi istotne wątpliwości interpretacyjne. Brak w nim bowiem wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce, co mogłoby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi, nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Niejednoznaczne sformułowanie projektu dot. stosowania terytorialnego może prowadzić również do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. W celu ograniczenia tego ryzyka, projekt powinien wyraźnie stwierdzać to, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce – co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnej regulacji o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 22. Art. 2 ZPP W odniesieniu do modeli GPAI – ustawa nie powinna nakładać dodatkowych wymagań, które wykraczałyby poza ramy unijnego AI Act, ani rozszerzać jurysdykcji na podmioty zagraniczne. Konieczne jest precyzyjne określenie zakresu terytorialnego, ograniczając go do podmiotów mających siedzibę w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 33 23. Art. 2 Konfederacj a Lewiatan Wskazujemy na ryzyko zasięgu eksterytorialnego. Projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal widzimy niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z innych aktów prawnych. 24. Art. 2 ust. 2 Konfederacj a Lewiatan Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie mają takiej władzy i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 25. Art. 2 ust. 2 Pracodawcy RP Niejasności budzi uwzględnienie w art. 2 ust. 2 projektu stwierdzenia dot. „modeli sztucznej inteligencji ogólnego przeznaczenia”. Apelujemy o usunięcie lub doprecyzowanie ww. kwestii, tak aby uniknąć niepotrzebnego łączenia wymagań dla modeli ogólnego przeznaczenia z wymogami dla systemów sztucznej inteligencji wysokiego ryzyka. Zgodnie z Aktem o AI, to Biuro ds. AI lub Komisja Europejska mają wyłączne prawo do regulacji modeli ogólnego przeznaczenia. Stąd też państwa członkowskie nie Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 34 powinny wprowadzać dodatkowych wymagań dla tych modeli w ramach implementacji przepisów. 26. Art. 3 NCBR Niezbędne jest stworzenie słownika używanych w ustawie pojęć. Brak jasności w niektórych przepisach – niektóre pojęcia używane w ustawie są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. W art. 3 zamiast odwołania do rozporządzenia, powinny znaleźć się definicje rodzime, ujęte w języku polskim, aby uniknąć rozbieżności wynikających z różnych form tłumaczenia i interpretowania przepisów unijnych. Uwaga wyjaśniona Według projektodawcy konieczne jest utrzymanie terminologii określonej w Rozporządzeniu 2024/1689. Dlatego też nie jest planowane utworzenie “słownika”. 27. Art. 3 PARP W projekcie brakuje określenia precyzyjnych kryteriów klasyfikacji systemów AI wysokiego ryzyka. Projekt ustawy w art. 3 odwołuje się do definicji zawartych w rozporządzeniu 2024/1689, jednak nie precyzuje jednoznacznych wytycznych, które ułatwiłyby przedsiębiorcom określenie, czy ich rozwiązania podlegają surowszym regulacjom. Może to prowadzić do różnic w interpretacji i niepewności prawnej, co szczególnie dotknie MŚP oraz startupy działające w sektorze nowych technologii. Wskazane byłoby wprowadzenie szczegółowych wytycznych lub katalogu przykładów systemów AI wysokiego ryzyka, co pozwoliłoby na zwiększenie przewidywalności regulacji oraz ułatwienie przedsiębiorcom dostosowania się do obowiązujących przepisów. Uwaga wyjaśniona Kryteria dotyczące systemów wysokiego ryzyka zostały ujęte bezpośrednio w Rozporządzeniu 2024/1689. Dodatkowo, zgodnie z art. 6 ust. 5 Rozporządzenia 2024/1689 po konsultacji z Europejską Radą ds. Sztucznej Inteligencji, Komisja Europejska przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie artykułu 6 Rozporządzenia 2024/1689 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania 28. Art. 3 pkt. 15 PARP Zastąpić dotychczas projektowane brzmienie art. 3 pkt 15: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.”. Nowym brzmieniem jak następuje: „Piaskownica regulacyjna – środowisko prawno-organizacyjno- techniczne umożliwiające dostawcom systemów sztucznej Uwaga wyjaśniona Projektodawca utrzymuje wskazane w art. 3 pkt 15 odesłanie do art. 3 pkt 55 rozporządzenia 2024/1689 w celu utrzymania zbieżności terminologicznej projektu ustawy z treścią Rozporządzenia 2024/1689. 35 inteligencji testowanie i rozwój systemów AI przed dopuszczeniem do obrotu na podstawie zgłoszenia, przy zapewnieniu wdrożeń minimalnych wymogów etycznych i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” 29. Art. 3 i 11 i 43 Pracodawcy RP Na uwagę zasługują także braki w zakresie obowiązków dostawców systemów AI (podstawa prawna art. 9-15, 43-49 AI Act, art. 3, 11, 43 projektu). Projekt nie precyzuje zakresu dokumentacji i procedur, jakie dostawcy systemów AI powinni wdrożyć przed wprowadzeniem systemu na rynek. AI Act nakłada na dostawców obowiązek: • oceny ryzyka związanego z systemami AI, • prowadzenia audytów i testów przed wdrożeniem systemu, • zapewnienia zgodności z wymogami przejrzystości i „wyjaśnialności”. Brak doprecyzowania w polskim akcie prawnym może prowadzić do sytuacji, w której dostawcy będą nieświadomie naruszać obowiązujące przepisy unijne, co narazi ich na odpowiedzialność administracyjną i finansową. Mając powyższe na uwadze, jesteśmy zdania, że należałoby doprecyzować obowiązki dostawców AI poprzez określenie wymogów dot. audytów, testów i raportowania zgodności systemów AI z przepisami. Uwaga wyjaśniona Przedmiotowy akt prawny ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689. Nie stanowi może on prowadzić do modyfikacji ani doprecyzowania przepisów tego Aktu a jedynie stwarzać podstawy do jego właściwego stosowania. 30. Art. 4 ust. 4 URPL Na wstępie należy zauważyć, że mimo zmian dokonanych w przepisach art. 4 projektowanej ustawy, których intencją było uwzględnienie zarówno uwag Prezesa Urzędu zgłoszonych w ww. zakresie, jak i innych podmiotów uczestniczących w opiniowaniu projektu (jak wynika z dołączonej tabeli uwag zgłoszonych w ramach opiniowania), zaproponowane obecnie brzmienie przepisu art. 4 pkt 4 projektu ustawy nadal budzi wątpliwości. Zgodnie z art. 4 pkt 4 projektu: ustawy nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w Uwaga wyjaśniona Przepis w obecnym brzmieniu został sformułowany w oparciu o zgłoszone w obu turach uzgodnień, opiniowania i konsultacji publicznych uwagi. Celem ustawy jest zapewnienie stosowania przepisów rozporządzenia 2024/1689 w systemie polskim. Należy wskazać, że terminologia aktów prawnych UE nie zawsze odpowiada terminologii aktów prawnych państw członkowskich. Zaproponowane brzmienie przepisu uwzględnia terminologię występującą w systemie prawa 36 art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689;”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie natomiast z art. 2 ust. 8 rozporządzenia 2024/1689 „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. W świetle powyższych przepisów nadal wątpliwości budzi sposób sformułowania wyłączenia zawartego w art. 4 pkt 4 projektu ustawy w zakresie, w jakim przepis ten nie wskazuje wprost – w sposób klarowny i czytelny, że przepisów projektowanej ustawy nie stosuje się do: - systemów AI i modeli AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689), a także do - działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku, z wyłączeniem testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689 (art. 2 ust. 8 rozporządzenia 02/1689). Tym samym, w ocenie Prezesa Urzędu przepis art. 4 pkt 4 projektu ustawy wymaga polskiego i zapewnia spójność z innymi aktami prawnymi. 37 niezbędnych korekt redakcyjnych celem zapewnienia jasności i spójności zarówno co do jego zakresu jak i późniejszej realizacji, zgodnej z przepisami rozporządzenia 2024/1689. 31. Ar. 4 ust. 5 URPL Dodatkowo należy zauważyć, że wyłączenie z zakresu zastosowania ustawy określone w art. 4 pkt 5 projektu dotyczące systemów wprowadzonych do użytku przed wejściem w życie rozporządzenia 2024/1689 powinno stanowić materię przepisów przejściowych zawartych w projektowanej ustawie – stosownie do § 30 ust. 1 rozporządzenia Prezesa Rady Ministrów z dnia 20 czerwca 2002 r. w sprawie „Zasad techniki prawodawczej”, o ile dodanie tego typu przepisu jest dopuszczalne w świetle przepisów rozporządzenia 2024/1689. W ocenie Urzędu przepis taki powinien odnosić się do terminu rozpoczęcia stosowania rozporządzenia 2024/1689, a nie do terminu jego wejścia w życie. Uwaga wyjaśniona Z uwagi na czytelność ustawy pozostawiono przepis w dotychczasowym miejscu. 32. Art. 5 PARP Zastąpić dotychczasowe brzmienie art. 5: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Nowy brzmieniem jak następuje: 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.”. 2. „Komisja nie ingeruje w proces testowania systemów sztucznej inteligencji, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.”. Dodanie do art. 5 ust.3 punktu 14) w brzmieniu: „Polską Agencją Rozwoju Przedsiębiorczości – w zakresie tworzenia warunków rozwojowych dla systemów sztucznej inteligencji i wspierania konkurencyjności stosownie do ustawy z dnia 9 lutego 2020 r. (Dz. U. z 2024 r. poz. 419 i 1635)” Zgodnie z art. 4 ust. 1. Ustawy dziedzinowej PARP realizuje zadania państwa z zakresu rozwoju: 1) przedsiębiorczości; 2) innowacyjności, w tym postępu technologicznego; 3) Uwaga wyjaśniona Proponowane brzmienie przepisu art. 5 nie odzwierciedla intencji projektodawcy oraz przepisów rozporządzenia 2024/1689. Dodatkowo należy wskazać, że w ramach art. 5 ust. 3 zostali wskazania ministrowie w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. PARP podlega ministrowi właściwemu do spraw rozwoju regionalnego i współpraca z KRIBSI może prowadzona za pośrednictwem tego ministra. Rozszerzenie katalogu podmiotów w art. 5 ust. 3 o PARP wydaje się w tym kontekście nadmiarowe. 38 umiędzynarodowienia gospodarki, w tym eksportu; 4) społeczeństwa informacyjnego; 5) rynku pracy i kapitału ludzkiego; 6) regionalnego. Jednocześnie na mocy ustawy o likwidacji Fundacji Platforma Przemysłu Przyszłości z dnia 19 listopada 2024 r. (Dz.U.2024.1823) i jej art.1 z dniem 1 stycznia 2025 r. zadania Platformy przejęła Polska Agencja Rozwoju Przedsiębiorczości, utworzona na podstawie ustawy z dnia 9 listopada 2000 r. o utworzeniu Polskiej Agencji Rozwoju Przedsiębiorczości. Jednym z zadań Fundacji Platforma Przemysłu Przyszłości było, a jest teraz zdaniem PARP Celem Fundacji Platforma Przemysłu Przyszłości, zwanej dalej \"Platformą\", jest działanie na rzecz wzrostu konkurencyjności przedsiębiorców poprzez wspieranie ich transformacji cyfrowej w zakresie procesów, produktów i modeli biznesowych, wykorzystujących najnowsze osiągnięcia z dziedziny automatyzacji, sztucznej inteligencji, technologii teleinformatycznych oraz komunikacji pomiędzy maszynami oraz człowiekiem a maszynami z uwzględnieniem odpowiedniego poziomu bezpieczeństwa tych rozwiązań. Stąd uzasadnione jest włączenie PARP do procesów współpracy z Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w zakresie projektowanej ustawy. 33. Rozdział 2 (art. 5 – art. 40) NCBR Brakuje przepisów umożliwiających podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. (W razie incydentu nie ma czasu na zwoływanie posiedzeń Komisji.) Uwaga uwzględniona. Tryb pilny wydawania decyzji został przewidziany w art. 47. 34. Art. 5 ust. 3 pkt 1 UKNF W ocenie Urzędu Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) dopisek „i w ustawie” nie jest wystarczająco precyzyjny. Zasadnym jest jasne określenie w projekcie ustawy o systemach sztucznej inteligencji (dalej jako: „projekt ustawy” lub „projekt”) zakresu spraw, w zakresie których Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligncji (dalej również jako: „Komisja” lub „KRiBSI”) współpracuje z Komisją Nadzoru Finansowego (dalej również jako: „KNF”), tj. podobnie jak w przypadku innych podmiotów wskazanych w art. 5 ust. 3 projektu ustawy. Aktualnie w projekcie brak jest szczególnych przepisów Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. 39 odnoszących się bezpośrednio do Komisji Nadzoru Finansowego. Nie jest więc wiadomym, na jakiej zasadzie współpraca pomiędzy Komisją a KNF powinna przebiegać oraz w odniesieniu do jakich zagadnień będzie miała miejsce. Ponadto, w związku z obowiązkiem współpracy pomiędzy KRiBSI a Komisją Nadzoru Finansowego, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań. Projektowane w art. 111 projektu ustawy brzmienie nowego art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (dalej: „ustawa o nadzorze nad rynkiem finansowym”), ograniczone do deklaratywnego stwierdzenia, że: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”, może w praktyce utrudniać, a czasem wręcz uniemożliwiać tę współpracę. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego „w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie”, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym w taki sposób aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Propozycję zmiany brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym UKNF przedstawił w uwadze do art. 111 projektu ustawy poniżej. Niezależnie od powyższego, UKNF ponownie wskazuje również, że z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji (dalej jako: „systemy AI”) wysokiego ryzyka. Projekt – w aktualnym kształcie – nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się to jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną polskiemu prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. W zakresie uwagi do art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym należy wskazać, że otrzymał on następujące brzmienie: „Art.17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. I to tym aktem prawnym zostaną określone pozostałe organy nadzoru w zakresie sztucznej inteligencji oraz zostanie określona ich rola. 40 Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (dalej jako: „rozporządzenie 2024/1689”), tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie należy zauważyć, że zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 5 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 5 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób dostateczny, zwłaszcza biorąc pod uwagę hierarchię źródeł prawa. Z tych względów w ocenie UKNF projekt ustawy powinien w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy też nadzór ten, na zasadzie odstępstwa od ww. przepisu, będzie sprawowany przez inny odpowiedni organ. Przyjmując do wiadomości wyjaśnienia projektodawcy, iż regulacje dotyczące systemów AI wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu legislacyjnego, co wynika z harmonogramu wdrożenia rozporządzenia 2024/1689 oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI 41 wysokiego ryzyka, o których mowa w art. 6 rozporządzenia 2024/1689 (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.), UKNF stoi na stanowisku, że już na etapie konstruowania fundamentalnych rozwiązań ustrojowych wskazanym jest jednoznaczne przesądzenie roli KNF w tym zakresie. 35. Art. 5 ust. 3 pkt 10 KRRiT Z aprobatą przyjmuję uwzględnienie w aktualnym projekcie ustawy postulatu KRRiT odnośnie dodania Krajowej Rady Radiofonii i Telewizji do kręgu podmiotów, z którymi współpracować ma ww. Komisja (art. 5 ust. 3 pkt 10 projektu). Jest to niezbędne do właściwego stosowania unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Zaproponowany w tym zakresie przepis powinien jednak otrzymać następujące brzmienie, by w pełni korelować z przywołanym w nim art. 1a ust. 1 ustawy o radiofonii i telewizji: „10) Krajową Radą Radiofonii i Telewizji - w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222)”. Uwaga uwzględniona Zmieniono treść przepisu zgodnie z propozycją wskazaną w uwadze. 36. Art. 6 UOKiK Ponadto, wobec nieuwzględniania uwagi dotyczącej określenia w przepisach projektowanej ustawy zasad oraz instrumentów współpracy w ramach realizacji zadań przewidzianych tym projektem (Ad art. 6 projektu ustawy), ponownie dostrzegam brak podstaw prawnych do działania w przedmiotowym zakresie, co w konsekwencji uniemożliwi realizację przez organy współpracujące, w tym Prezesa UOKiK, obowiązków wynikających z projektu. Mając na uwadze powyższe, widząc potrzebę pogłębionej współpracy w zakresie uregulowania przyszłej współpracy z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej deklaruję pełne zaangażowanie w zakresie przygotowania omawianej ustawy. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami. Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. 42 37. Art. 6 ust. 2 ZPP Rozszerzyć skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych (uniwersytety, instytuty badawcze), organizacji zrzeszających przedsiębiorców (izby gospodarcze, stowarzyszenia branżowe) oraz ekspertów reprezentujących organizacje społeczne, co zapewni szeroką perspektywę i dostęp do najnowszych osiągnięć. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty z uwagi na charakter wykonywanych zadań. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 38. Art. 6 ust. 2 RPP Zgodnie z art. 6-8 ustawy z dnia 6 listopada 2008 r. o prawach pacjenta i Rzeczniku Praw Pacjenta (Dz.U. z 2024 r. poz. 581), pacjent ma prawo do świadczeń zdrowotnych. Zgodnie z art. 23 ustawy o prawach pacjenta i Rzeczniku Praw Pacjenta, pacjent ma prawo do dostępu do dokumentacji medycznej dotyczącej jego stanu zdrowia oraz udzielonych mu świadczeń zdrowotnych. Dane zawarte w dokumentacji medycznej podlegają ochronie określonej w niniejszej ustawie oraz w przepisach odrębnych. W kontekście przedmiotowych praw pacjenta, Rzecznik prowadzi m.in. postępowania wyjaśniające w sprawach indywidualnych jak również postępowania w sprawie naruszenia zbiorowych praw pacjentów (na wzór postępowań dotyczących ochrony konsumentów), a także działania systemowe. Obszar medycyny jest jednym z tych obszarów, w którym przewiduje się wzrost znaczenia sztucznej inteligencji m.in. w zakresie pozyskiwania i analizy danych zdrowotnych celem wykorzystania wyników takiej analizy przy udzielaniu świadczeń zdrowotnych, a także zastosowania technologii do udzielania świadczeń (np. w obszarze terapii, co może być dozwolone, jeśli nie stanowi zakazanej przez rozporządzenie tzw. praktyki polegającej na manipulacji lub wykorzystaniu). Dodatkowo, ważnym zagadnieniem będzie ochrona tajemnicy danych medycznych wykorzystywanych przy tej technologii, a także kwestia zgody na ich udostępnianie i przetwarzanie. Rzecznik Praw Pacjenta spodziewa się wzrostu zgłoszeń w tym temacie. Tym samym, przedstawiciel Rzecznika Praw Pacjenta powinien być stałym członkiem Komisji, analogicznie jak ma to miejsce Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Podmioty te będą mogły być jednak zapraszane w razie potrzeby na posiedzenia Komisji bez prawa głosu. Zagadnienie praw pacjenta, ochrony tajemnicy danych medycznych wykorzystywanych w ramach systemów sztucznej inteligencji, a także kwestia zgody na ich udostępnianie i przetwarzanie stanowi niewątpliwie istotne zagadnienie oparte na wiedzy specjalistycznej. Stad też, aby zabezpieczyć te kwestie Rzecznik Praw Pacjenta został wskazany jako organ uprawniony do zgłoszenia kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, będącego ciałem opiniodawczo-doradczym KRIBSI. 43 z przedstawicielem Rzecznika Praw Dziecka a także Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, szczególnie iż Rzecznik Praw Pacjenta prowadzi postępowania administracyjne z obszaru ochrony praw jednostki. 39. Art. 6 ust. 2 RPD W przekazanych do Ministerstwa Cyfryzacji uwagach do projektu ustawy w brzmieniu z dnia 15 października 2024 r. Rzecznik Praw Dziecka wskazywał na ryzyko pojawienia się konfliktu interesów – zarówno o charakterze merytorycznym, jak i czasowym – wynikającego z powierzenia przedstawicielom organów państwowych zadań i kompetencji w ramach prac Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przewidzianej w projekcie. Przyjęta w projekcie koncepcja składu Komisji nadal budzi wątpliwości, ponieważ w jej przepisach nie usunięto problemu związanego z potencjalną kolizją zadań i kompetencji organów w niej uczestniczących. Mając na uwadze powyższe, Rzecznik Praw Dziecka postuluje o wykreślenie jego przedstawiciela z listy członków Komisji wymienionych w art. 6 ust. 2 projektowanej ustawy. W planowanym modelu działania Komisji i zakresie jej zadań obecność przedstawiciela Rzecznika byłaby nie do pogodzenia z ustrojową pozycją Rzecznika Praw Dziecka oraz z kompetencjami RPD wskazanymi w Konstytucji RP i ustawie z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Przede wszystkim Rzecznik Praw Dziecka, zgodnie z przywołaną ustawą i art. 72 Konstytucji RP jest organem konstytucyjnym, który stoi na straży praw dziecka określonych w Konstytucji RP, Konwencji o prawach dziecka oraz innych aktach prawnych, działając z poszanowaniem odpowiedzialności, praw i obowiązków rodziców. Tym samym Rzecznik Praw dziecka nie może być traktowany jako organ stanowiący część administracji rządowej czy samorządowej godnie z art. 7 ust. 1 ustawy z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka, w ramach wykonywania swoich zadań Rzecznik jest niezależny od innych organów państwowych i odpowiada wyłącznie przed Sejmem na zasadach określonych w tej ustawie. Chociaż Uwaga uwzględniona Rzecznik Praw Dziecka został wyłączony ze składu Komisji. 44 ustawodawca nie przyznaje Rzecznikowi Praw Dziecka wprost atrybutu „niezawisłości” w znaczeniu stosowanym wobec sędziów, to celowościowa wykładnia przepisów ustawy o Rzeczniku Praw Dziecka prowadzi do wniosku, że przysługują mu analogiczne gwarancje, umożliwiające mu działanie w sposób zgodny z własnym sumieniem i wolny od nacisków zewnętrznych. Z tego względu przyznanie przedstawicielowi RPD funkcji członka Komisji, która wydaje decyzje administracyjne i postanowienia, rodzi istotne wątpliwości. Byłoby to sprzeczne z ustrojową rolą Rzecznika jako organu ochrony praw dziecka, gwarantowanej przez Konstytucję RP i ustawę z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Co więcej, decyzje administracyjne i postanowienia wydawane przez Komisję mogą stać się przedmiotem skarg kierowanych do Rzecznika Praw Dziecka w przypadku naruszenia praw dziecka w związku z rozstrzygnięciami dotyczącymi operatorów systemów sztucznej inteligencji. Czynne uczestnictwo przedstawiciela Rzecznika Praw Dziecka w codziennych pracach Komisji doprowadziłoby do sytuacji, w której Rzecznik oceniałby potencjalnie – działania podejmowane również przez swojego przedstawiciela. Godziłoby to bezpośrednio w zasadę niezależności RPD i byłoby też sprzeczne z obowiązkiem „bezstronności”, o którym mowa w ślubowaniu Rzecznika Praw Dziecka składanym przed Sejmem RP. Za wykreśleniem przedstawiciela RPD ze składu członków Komisji z powodu zaistnienia potencjalnego konfliktu interesu przemawia też to, że Rzecznik Praw Dziecka został w Polsce wyznaczony jako jeden z organów ochrony praw podstawowych w rozumieniu art. 77 rozporządzenia 2024/1689, z którym ma współpracować Komisja Wobec powyższego, w celu zachowania ustrojowej pozycji i niezależności Rzecznika Praw Dziecka oraz uniknięcia konfliktu interesów, zasadne jest wykreślenie przedstawiciela RPD ze składu Komisji, tj. z katalogu podmiotów wymienionych w art. 6 ust. 2 projektowanej ustawy. Nie budzi natomiast wątpliwości przyznanie na podstawie art. 25 projektowanej ustawy Rzecznikowi Praw Dziecka prawa do 45 zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, która będzie pełniła funkcje opiniodawczo-doradcze na rzecz Komisji stanowiąc głos niezależnych ekspertów w przedmiocie technicznych, organizacyjnych, ekonomicznych oraz prawnych aspektów stosowania systemów sztucznej inteligencji. 40. Art. 6 ust. 2 IAB Polska Rozszerzenie składu Komisji o przedstawicieli środowisk akademickich, naukowych oraz podmiotów społeczeństwa obywatelskiego i sektora przemysłowego Komisja jako organ nadzorujący różne obszary zastosowania AI, powinna uwzględniać szeroką reprezentację interesariuszy, co przyczyni się do skuteczniejszego i bardziej zrównoważonego zarządzania tym obszarem. Włączenie przedstawicieli tych środowisk pozwoli na: 1. Lepszą reprezentację rynku – uwzględnienie głosu sektorów bezpośrednio dotkniętych regulacjami Komisji, co zapewni większą przejrzystość i akceptację jej działań. 2. Dostęp do wiedzy eksperckiej – zaangażowanie specjalistów z obszarów AI pozwoli na bardziej merytoryczne i innowacyjne podejście do regulacji oraz oceny ryzyka i skutków technologii. Takie rozwiązanie nie naruszy jej niezależności instytucjonalnej. Wręcz przeciwnie – udział niezależnych przedstawicieli społeczeństwa obywatelskiego ograniczy ryzyko wpływu zamkniętych grup interesów oraz pozwoli na uwzględnienie różnych perspektyw w procesie decyzyjnym. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 41. Art. 6 ust. 2 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz dołączenie do Komisji przedstawiciela Rzecznika Finansowego. Uwaga wyjaśniona W ramach członków Komisji został już zaproponowany przedstawiciel Komisji Nadzoru 46 Działania w zakresie podmiotów rynku finansowego są podejmowane, nie tylko przez organ nadzoru rynku, ale również przez Rzecznika Finansowego, w tym w szczególności w odniesieniu do bezpośredniego kontaktu ze sprawami indywidulanych klientów podmiotów rynku finansowego. Podstawowym celem Rzecznika Finansowego jest ochrona klientów podmiotów rynku finansowego i reprezentowanie ich interesów. W tym celu Rzecznik Finansowy wykorzystuje wszelkie dostępne narzędzia służące ich ochronie – tj. m.in. interwencje, poradnictwo, wydawanie istotnych poglądów czy inicjowanie oraz udział w postępowaniach sądowych. Stopień skomplikowania konstrukcji usług na rynku finansowym wymaga szerokiej i różnorodnej wiedzy oraz wpływu tych usług na życie jednostek, wobec przyjmowania przez nie często wieloletnich zobowiązań finansowych. Zważyć należy, że AI jest już w chwili obecnej powszechnie wykorzystywana przez podmioty rynku finansowego, takie jak banki czy zakłady ubezpieczeń, także - a może nawet przede wszystkim - w relacjach z klientami takich podmiotów. Wobec powyższego wykorzystanie sztucznej inteligencji odnosi się bezpośrednio do podmiotów, na straży których interesów stoi Rzecznik Finansowy. Postęp technologiczny zapewne wymusi coraz szersze stosowanie sztucznej inteligencji w relacjach z klientami podmiotów rynku finansowego, co z kolei oznacza, że Rzecznik Finansowy i jego biuro są żywotnie zainteresowani aktywnym udziałem w pracach Komisji i Rady, celem zabezpieczenia interesów klientów, którzy wchodzić będą w interakcje z systemami sztucznej inteligencji, wykorzystywanych przez podmioty rynku finansowego. Chatboty i wirtualni asystenci mogą być wykorzystywani do tworzenia spersonalizowanych porad finansowych lub rekomendacji uwzględniających historię finansową klienta. W tym kontekście nie można wykluczyć wykorzystywania przez systemy AI swoistych technik manipulacyjnych, które w efekcie mogłyby wpływać np. na decyzje w zakresie wysokości zaciągniętego zobowiązania. Systemy AI odgrywają również coraz ważniejszą rolę w procesach oceny ryzyka kredytowego czy ubezpieczeniowego. Stosowane przez Finansowego. Organ ten odznacza się wysokim stopniem niezależności oraz jest instytucją kluczową dla nadzoru nad sztuczną inteligencją. Nie znajduje uzasadnienia wskazanie w śród grona Członków Komisji dodatkowego podmiotu podejmującego działania w zakresie podmiotów rynku finansowego. Rzecznik Finansowy będzie mógł uczestniczyć w posiedzeniach Komisji beż prawa głosu. 47 podmioty rynku finansowego algorytmy uczenia maszynowego mogą analizować i aktualizować swoje modele oceny w oparciu o nowe dane i zmieniające się warunki dotyczące np. historii kredytowej klientów, poziomu zadłużenia, płynności finansowej oraz zmiennych makroekonomicznych. Systemy AI wchodzą obecnie coraz częściej w bezpośrednią interakcję z klientami podmiotów rynku finansowego. Systemy AI mogą być również wykorzystywane do obsługi reklamacji czy rozpatrywania roszczeń klientów podmiotów rynku finansowego. Sposób wprowadzanie w życie automatyzacji tych procesów ściśle wiąże się z rolą Rzecznika Finansowego, który reprezentuje interesy klientów podmiotów rynku finansowego. Dodatkowo reprezentacja Rzecznika Finansowego może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii na rynku finansowym. Co równie istotne, wśród spraw, które klienci podmiotów rynku finansowego kierują do Rzecznika Finansowego, znajdują się już teraz te związane z AI. Zgodnie bowiem z art. 105a ust. 1a ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. U. z 2024 r. poz. 1646 z późn. zm.): Banki, inne instytucje ustawowo upoważnione do udzielania kredytów, instytucje pożyczkowe oraz podmioty, o których mowa w art. 59d ustawy z dnia 12 maja 2011 r. o kredycie konsumenckim, a także instytucje utworzone na podstawie art. 105 ust. 4, mogą w celu oceny zdolności kredytowej i analizy ryzyka kredytowego podejmować decyzje, opierając się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, danych osobowych - również stanowiących tajemnicę bankową - pod warunkiem zapewnienia osobie, której dotyczy decyzja podejmowana w sposób zautomatyzowany, prawa do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji, do uzyskania interwencji ludzkiej w celu podjęcia ponownej decyzji oraz do wyrażenia własnego stanowiska. Podobne uprawnienia osobie, wobec której podejmowane są decyzje w oparciu o wyłącznie zautomatyzowane przetwarzanie w celu dokonania oceny ryzyka ubezpieczeniowego oraz likwidacji szkody przyznaje art. 41 ust. 1a 48 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej (t.j. Dz. U. z 2024 r. poz. 838 z późn. zm.). Z kolei zgodnie z art. 86 ust. 1 rozporządzenia 2024/1689: Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. Tym samym, Rzecznik Finansowy mógłby zapewnić wydatne wzmocnienie kompetencji Komisji m.in. w zakresie ochrony praw klientów wprowadzanych przez rozporządzenie 2024/1689. W składzie Komisji nie uwzględniono bezpośrednich przedstawicieli ochrony klientów podmiotów rynku finansowego, co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad tym obszarem. W tym kontekście, Rzecznik Finansowy jako instytucja odpowiedzialna za wspieranie klientów podmiotów rynku finansowego, mógłby wesprzeć prace Komisji w zakresie zagrożeń systemów AI na rynku finansowym. Pozwoliłoby to lepiej zintegrować działania Komisji z wymogami regulacyjnymi. Brak udziału Rzecznika Finansowego w Komisji mógłby prowadzić do osłabienia zakresu ochrony praw klientów podmiotów rynku finansowego, którzy z każdym rokiem powierzają Rzecznikowi Finansowemu coraz więcej spraw dotyczących ich żywotnych interesów. Członkostwo Rzecznika Finansowego w Komisji może mieć wpływ na skuteczny nadzór nad funkcjonowaniem algorytmów, zapobieganie potencjalnym nadużyciom ze strony podmiotów rynku finansowego jak również może wesprzeć wdrażanie technologii sztucznej inteligencji w sposób przejrzysty, z poszanowaniem praw klientów pomiotów rynku finansowego. Jest to szczególnie ważne dla osób wykluczonych cyfrowo lub z innych 49 względów mających trudności na rynku finansowym, którzy mogą być szczególnie narażeni na nadużycia związane z działaniem algorytmów. Wprawdzie przepisy ujęte w przekazanej do ponownych konsultacji wersji projektu przewidują możliwość uczestnictwa w posiedzeniach Komisji przedstawiciela podmiotu publicznego, jednak wyłącznie z głosem doradczym (art. 6 ust. 3 pkt 1). Dodatkowo udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji. Taki mechanizm może nie odpowiadać zakresowi odziaływania systemów AI w obszarze rynku finansowego i potencjalnie ograniczać realną możliwość odpowiedniej ochrony klientów podmiotów rynku finansowego w sprawach dotyczących regulacji systemów AI, których wyniki działania bezpośrednio ich dotyczą. Konsumenci na rynku finansowym należą do grupy podmiotów wrażliwych, mogących w szczególny sposób odczuć negatywny wpływ systemów AI na ich prawa i interesy. Dla zapewnienia ochrony praw klientów podmiotów rynku finansowego niewątpliwe znaczenie ma przymiot niezależności charakteryzujący instytucję Rzecznika Finansowego. Rzecznik Finansowy jest powoływany przez Prezesa Rady Ministrów i od momentu powołania działa w sposób całkowicie samodzielny. Rzecznik Finansowy znajduje się poza strukturą administracji rządowej, zaś swoją funkcję pełni kadencyjnie (zob. art. 12 ustawy z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej; dalej ustawa o Rzeczniku Finansowym). Podstawowym celem Rzecznika Finansowego jest zapewnienie ochrony praw i interesów klientów podmiotów rynku finansowego. Jest on tylko i aż gwarantem tego, że każdy obywatel pokrzywdzony wskutek działań podmiotów rynku finansowego będzie mógł otrzymać należną mu ochronę. Swoista rola instytucji Rzecznika Finansowego znajduje swoje odzwierciedlenie również w toku procesów legislacyjnych mających na celu zapewnienie stosowania regulacji unijnych w krajowym porządku prawnym w obszarze rynku finansowego. Jedynie jako 50 przykład można podać ustawę z dnia z dnia 20 grudnia 2024 r. o podmiotach obsługujących kredyty i nabywcach kredytów, która weszła w życie w dniu 19 lutego 2025 r. i która wdraża dyrektywę Parlamentu Europejskiego i Rady (UE) 2021/2167 z dnia 24 listopada 2021 r. w sprawie podmiotów obsługujących kredyty i nabywców kredytów oraz w sprawie zmiany dyrektyw 2008/48/WE i 2014/17/UE (Dz. Urz. UE L 438 z 08.12.2021, str. 1). Ustawa z dnia 20 grudnia 2024 r. wprowadza również zmiany w ustawie o Rzeczniku Finansowym i w tym zakresie zapewnia stosowanie regulacji unijnych w zakresie roli właściwych organów w procedurze rozpatrywania skarg kredytobiorców dotyczących nabywców kredytów, podmiotów obsługujących kredyty i dostawców usług obsługi kredytów (art. 24 ust. 3 ww. dyrektywy). W przypadkach, w których zastrzeżenia formułowane w reklamacjach przez kredytobiorców, będących osobami fizycznymi, wobec ww. podmiotów nie zostaną uwzględnione, kredytobiorca będzie miał możliwość złożenia wniosku o podjęcie interwencji przez Rzecznika Finansowego (czyli skargi). Ewentualna interwencja Rzecznika Finansowego będzie odbywać się na takich samych zasadach jak w przypadku działań dotyczących interwencji względem innych podmiotów rynku finansowego, w odniesieniu do których Rzecznik podejmuje działania już od wielu lat. 42. Art. 6 ust. 2 RMŚP W treści art. 6 ust. 2 Projektu wskazano, żw stałymi członkami Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będą przedstawiciele tylko niektórych organów ochrony prawa, w tym min. in.: Prezesa Urzędu Ochrony Konkurencji i Konsumentów oraz Państwowej Inspekcji Pracy. W takich okolicznościach, dla skutecznego urzeczywistnienia równowagi interesów partnerów społecznych, w skład Komisji powinien zostać włączony także przedstawiciel Rzecznika Małych i Średnich Przedsiębiorców, jako posiadający prawo głosu reprezentant środowiska przedsiębiorców. Postulat taki zgłaszany był również przez organizacje przedsiębiorców podczas dotychczasowych konsultacji Projektu. Realizacja postulatu wymaga: w art. 6 ust. 2: Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją. Rzecznika Małych i Średnich Przedsiębiorców nie spełnia w pełni kryterium przyjętego przez projektodawcę. Bedzie natomiast mógł uczestniczyć w posiedzeniach Komisji bez prawa głosu. 51 1. w pkt 7) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu – pkt 8 w brzmieniu: „8) Rzecznika Małych i Średnich Przedsiębiorców.” Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. 43. Art. 6 ust. 2 UP RP Jednym z zadań Komisji będzie podejmowanie działań mających na celu monitorowanie innowacyjności w obszarze badań i stosowania systemów sztucznej inteligencji oraz działanie na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji. W tym zakresie zasadne może być podjęcie współpracy z Urzędem Patentowym. W związku z powyższym należałoby rozważyć, czy przedstawiciel Urzędu Patentowego nie powinien być członkiem Komisji, o której mowa w art. 6 ust. 2 projektu. Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Urząd Patentowy nie spełnia wskazanych przesłanek. Nadzór nad działalnością Urzędu Patentowego sprawuje z ramienia Rady Ministrów minister właściwy do spraw gospodarki. 44. Art. 6 ust. 2 Konfederacj a Lewiatan Uwagi: Jeśli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma skutecznie nadzorować różnorodne obszary zastosowań sztucznej inteligencji i sprostać wyzwaniom związanym z jej dynamicznym rozwojem, konieczne jest rozszerzenie jej składu. Obecnie Komisja ma się składać wyłącznie z przedstawicieli różnych instytucji państwowych, co może ograniczać jej perspektywę i dostęp do specjalistycznej wiedzy. Dlatego też proponujemy, aby skład Komisji został poszerzony o przedstawicieli środowisk naukowych, takich jak uniwersytety, instytuty badawcze czy organizacje pozarządowe zajmujące się badaniami nad sztuczną inteligencją. Ich udział zapewniłby Komisji dostęp do najnowszych osiągnięć naukowych, innowacyjnych rozwiązań oraz umożliwiłby identyfikację potencjalnych zagrożeń i wyzwań związanych z rozwojem sztucznej inteligencji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 52 Ponadto, istotne jest również włączenie do Komisji przedstawicieli organizacji zrzeszających przedsiębiorców, takich jak izby gospodarcze, stowarzyszenia branżowe czy związki pracodawców. Ich udział pozwoliłby na uwzględnienie perspektywy przedsiębiorców, praktycznych aspektów wdrażania sztucznej inteligencji w przedsiębiorstwach oraz ocenę wpływu regulacji na rozwój gospodarczy. Co więcej, stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Rozszerzenie składu Komisji o przedstawicieli środowisk naukowych i przedsiębiorców przyczyni się do zwiększenia jej efektywności, umożliwi podejmowanie bardziej kompleksowych i zrównoważonych decyzji oraz zapewni legitymizację jej działań w oczach społeczeństwa. Udział w pracach Komisji przedstawicieli społecznych, takich jak eksperci, naukowcy czy przedstawiciele organizacji pozarządowych, nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Przeciwnie – zwiększy to transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Podsumowując, rozszerzenie składu Komisji o przedstawicieli środowisk naukowych, przedsiębiorców i społecznych jest niezbędne dla osiągnięcia celu, jakim jest uczynienie z Komisji nie tylko organu nadzorującego bezpieczeństwo sztucznej inteligencji, ale także wspierającego jej rozwój. Tylko poprzez zapewnienie zróżnicowanych perspektyw i dostęp do specjalistycznej wiedzy, Komisja będzie mogła skutecznie sprostać wyzwaniom związanym z rozwojem sztucznej inteligencji i zapewnić, że jej rozwój będzie służył dobru społeczeństwa. 53 45. Art. 6 ust. 2 pkt 6 GIP Projekt ustawy z dnia 15.10.2024 r. przewidywał, że przedstawiciele Państwowej Inspekcji Pracy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej Komisja) bez prawa głosu. W projekcie z dnia 10.02.2025 r., przekazanym do ponownych uzgodnień wskazano, że przedstawiciel Państwowej Inspekcji Pracy ma być członkiem Komisji. Udział przedstawiciela Państwowej Inspekcji Pracy w pracach Komisji w charakterze jej członka budzi poważne zastrzeżenia, biorąc pod uwagę rolę i zakres działania Państwowej Inspekcji Pracy. Zgodnie z art. 1 ustawy z dnia 13 kwietnia 2007 r. o Państwowej Inspekcji Pracy (Dz. U. z 2024 r. poz. 1712) Państwowa Inspekcja Pracy jest organem powołanym do sprawowania nadzoru i kontroli przestrzegania prawa pracy, w szczególności przepisów i zasad bezpieczeństwa i higieny pracy, a także przepisów dotyczących legalności zatrudnienia i innej pracy zarobkowej w zakresie określonym w ustawie. Zakres zadań Komisji określony w art. 9 projektu nie mieści się w zakresie ustawowych zadań Państwowej Inspekcji Pracy. Należy podkreślić, że zgodnie z art. 3 Konwencji Nr 81 Międzynarodowej Organizacji Pracy dotyczącej inspekcji pracy w przemyśle i handlu: „Do zadań systemu inspekcji pracy będzie należało: (a) zapewnianie stosowania przepisów prawnych dotyczących warunków pracy i ochrony pracowników przy wykonywaniu ich zawodu (...), (b) dostarczanie informacji i porad technicznych pracodawcom i pracownikom (...), (c) zwracanie uwagi właściwej władzy na uchybienia lub nadużycia (...). Inspektorom pracy mogą być powierzane jakiekolwiek inne obowiązki tylko pod warunkiem, że nie będą przeszkadzać w skutecznym wykonywaniu ich zadań głównych ani w jakikolwiek sposób naruszać autorytetu i bezstronności, potrzebnych inspektorom w stosunkach z pracodawcami i pracownikami”. Nie budzi wątpliwości, że udział przedstawiciela Państwowej Inspekcji Pracy jako członka Komisji będącej organem nadzoru rynku w zakresie systemów sztucznej inteligencji, wykracza poza zakres działania inspekcji pracy określony ww. Konwencją. Uwaga uwzględniona Przedstawiciel Państwowej Inspekcji Pracy został wyłączony ze składu Komisji. Jednocześnie Główny Inspektor Pracy będzie miał możliwość zgłaszania kandydatów na członków Rady Społecznej przy Komisji (art. 25 ust. 3 pkt 6). 54 Przedstawiciel Państwowej Inspekcji Pracy jako organu nadzorującego i kontrolującego przestrzeganie prawa pracy nie może brać udziału w procesie wydawania decyzji przez inny organ. Stałoby to w sprzeczności z zasadą działania inspektorów pracy jako niezależnych organów, prowadzących postępowanie kontrolne i stosujących środki prawne na zasadach określonych w ustawie o Państwowej Inspekcji Pracy. Rozwiązanie zaproponowane w art. 6 ust. 2 pkt 6 projektu stoi również w sprzeczności z art. 79 ust. 2 rozporządzenia 2024/1689, który stanowi, że „W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie”. Przywołany przepis przewiduje współpracę organu nadzoru rynku i organu lub podmiotu, o których mowa w art. 77 ust. 1, akcentując jednocześnie odrębność ww. podmiotów. Państwowa Inspekcja Pracy została wskazana w wykazie organów lub podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji. Państwowa Inspekcja Pracy w obszarze swojej właściwości byłaby więc organem współpracującym z Komisją na zasadach określonych w art. 5 ust. 3 pkt 4 projektu ustawy w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych. Na rozdzielenie zadań Komisji i organów lub podmiotów określonych w wykazie wskazuje także treść art. 55 ust. 3 projektu ustawy, zgodnie z którym „Jeśli w toku 55 postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689”. Mając powyższe na uwadze, proponuję wyłączenie przedstawiciela Państwowej Inspekcji Pracy ze składu Komisji. 46. Art. 6 ust. 3 pkt 2 Konfederacj a Lewiatan Propozycja zmiany: 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: (...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uzasadnienie: Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie „osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera jej ustawa Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego “osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze “biegły”. Należy wskazać, że w obecnej sytuacji istnieje niewielka liczba biegłych posiadających wiedzę z szerokiego zakresu systemów sztucznej inteligencji. Angażowanie biegłych do wypowiadania się w sprawach będących przedmiotem posiedzenia nie znajduje uzasadnienia i maiłoby negatywne przełożenie na terminowość spraw prowadzonych np. przed sadem gdzie obecność biegłego jest uzasadniana i wymagana prawem. Wiedza jaka jest niezbędna na etapie posiedzeń Komisji często jest skupiona w rękach specjalistów, praktyków stąd też terminologia zastosowana w przedmiotowym przepisie. 47. Art. 6 ust. 4 Konfederacj a Lewiatan Brak wynagrodzenia dla członków Komisji może znacząco wpłynąć na jej wydajność i efektywność, szczególnie biorąc pod uwagę rosnącą liczbę obowiązków i złożoność zagadnień wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Komisja, aby sprostać tym wyzwaniom, musi angażować wysokiej klasy specjalistów, których wiedza i doświadczenie są niezbędne do podejmowania trafnych decyzji i skutecznego działania. Brak wynagrodzenia za pracę na rzecz Komisji może zniechęcić takich ekspertów do uczestnictwa w pracach Komisji, co może prowadzić Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 56 do obniżenia jakości jej pracy, a w konsekwencji do negatywnych skutków dla rozwoju sztucznej inteligencji w Polsce. Pozostawienie kwestii wynagrodzenia członków Komisji uznaniu instytucji delegujących może prowadzić do braku spójności i stabilności w funkcjonowaniu Komisji. Różne instytucje mogą mieć odmienne podejście do kwestii wynagrodzeń, co może powodować konflikty interesów i trudności w zapewnieniu odpowiedniego poziomu finansowania dla wszystkich członków Komisji. Może to również zagrażać niezależności Komisji, gdyż członkowie mogą być bardziej skłonni do reprezentowania interesów instytucji delegujących niż do podejmowania obiektywnych i niezależnych decyzji. Dlatego proponujemy wprowadzenie jasnych i transparentnych zasad wynagradzania członków Komisji, które zapewnią im godziwe wynagrodzenie za ich pracę, adekwatne do ich kwalifikacji, zaangażowania i odpowiedzialności. 48. Art. 6 ust. 4 IAB Polska Zapewnienie wynagrodzenia dla członków Komisji Brak wynagrodzenia dla członków Komisji może negatywnie wpłynąć na jej efektywność, zwłaszcza w kontekście rosnącego zakresu obowiązków wynikających z dynamicznego rozwoju rynku AI. Obecnie projektowane rozwiązanie, pozostawiające kwestię wynagrodzenia w gestii instytucji delegujących członków, nie zapewnia stabilności funkcjonowania Komisji ani odpowiedniej motywacji do zaangażowania w jej prace. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 49. Art. 6 ust. 4 ZPP Wprowadzić transparentne zasady wynagradzania członków Komisji, co przyczyni się do przyciągnięcia wysokiej klasy specjalistów oraz zwiększenia niezależności organu. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. podmiotów. 50. Art. 6 ust. 7 PUODO Art. 6 ust. 7 projektu ustawy: „Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym”. Przepis w obecnym brzmieniu wymaga Uwaga wyjaśniona Intencją jest zawarcie w ustawie jedynie przepisów niezbędnych oraz przeniesienia regulacji 57 doprecyzowania, bowiem projektodawca nie wskazał mechanizmów weryfikacji tożsamości uczestników posiedzenia Komisji (czy uwierzytelnianie następuje poprzez złożenie podpisu elektronicznego, profil zaufany czy inne środki techniczne). Ponadto, brak jest szczegółowych wymagań dotyczących ochrony poufności informacji i zabezpieczenia przed cyberatakami – nie wskazano, czy systemy teleinformatyczne powinny spełniać konkretne standardy, takie jak szyfrowanie end-to-end, a także jakie procedury kontroli dostępu powinny obowiązywać. Kolejną kwestią wymagającą dookreślenia jest sposób rejestrowania i archiwizacji posiedzeń – czy posiedzenia mogą być nagrywane, a jeśli tak, przez jaki okres materiały te będą przechowywane i kto miałby do nich dostęp. Wątpliwości budzi również sposób przeprowadzania głosowań w trybie zdalnym, szczególnie w kontekście zapewnienia tajności i ochrony danych. Przepis wskazuje na konieczność ochrony poufności informacji, lecz nie precyzuje, jakie techniczne środki powinny być stosowane – np. dedykowane systemy do głosowań, podpisy elektroniczne czy mechanizmy audytowania bezpieczeństwa. dotyczących kwestii technicznych podustawowej. Jednocześnie wyjaśnić należy, że projektodawca nie przewiduje potrzeby i możliwości nagrywania posiedzeń Komisji. 51. art. 6, 26, 43 Pracodawcy RP Należy także zwrócić uwagę na nieprecyzyjne kompetencje Prezesa Urzędu Ochrony Danych Osobowych (UODO) w zakresie nadzoru nad AI (odstawa prawna: art. 62-70 AI Act, art. 6, 26, 43 projektu). Projekt przewiduje współpracę Komisji ds. AI z Prezesem UODO, jednak nie określa jego kompetencji w zakresie: • przeprowadzania audytów systemów AI pod kątem ochrony danych osobowych, • monitorowania zgodności systemów AI z RODO, • egzekwowania przepisów w przypadku naruszenia ochrony danych osobowych. Brak szczegółowych regulacji może prowadzić do sytuacji, w której UODO nie będzie miał faktycznych narzędzi do egzekwowania przestrzegania przepisów dotyczących ochrony danych osobowych w systemach AI, co może skutkować naruszeniami praw osób fizycznych. Wobec powyższego apelujemy o określenie kompetencji Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 pkt 3 oraz art. 101 projektu ustawy. Kwestie kompetencji UODO dotyczą przepisów RODO i pozostają poza zakresem przedmiotu regulacji projektu ustawy. Dodatkowo w zakresie systemów wysokiego ryzyka, wyjaśniamy że kwestie te będą przedmiotem regulacji w ramach odrębnego procesu legislacyjnego. 58 Prezesa UODO w zakresie nadzoru nad AI, aby zapewnić skuteczność egzekwowania przepisów o ochronie danych. 52. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. Propozycja zmiany: w składzie Komisji obok przedstawicieli administracji publicznej powinni znajdować się eksperci dziedzinowi związani z rozwojem SSI. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 53. Art. 7 ust. 3- 4 RPD Z uwagi na konieczność zagwarantowania dzieciom prawa do wyrażania swoich poglądów w sprawach ich dotyczących (art. 12 Konwencji o prawach dziecka, art. 24 Karty praw podstawowych UE), postuluję wprowadzenie do projektowanego art. 7 ust. 3 dodatkowej kategorii podmiotów zapraszanych do udziału w posiedzeniach Komisji z głosem doradczym: przedstawicieli organizacji dzieci i młodzieży (także tych o charakterze prywatnym, np. stowarzyszeń), w zakresie, w jakim przedmiot posiedzenia Komisji dotyczy spraw bezpośrednio wpływających na sytuację dzieci i młodzieży. Obecne brzmienie art. 7 ust. 3 ogranicza tę możliwość wyłącznie do przedstawicieli podmiotów publicznych innych niż członkowie Komisji lub osób z wiedzą specjalistyczną, tymczasem dzieci i młodzież, choć często nie posiadają fachowej wiedzy technicznej lub prawnej, są w wielu przypadkach bezpośrednimi odbiorcami rozwiązań SI (np. w edukacji), a zatem ich głos i doświadczenia stanowią niezbędne źródło informacji przy projektowaniu regulacji oraz przygotowywaniu kampanii informacyjnych dotyczących systemów sztucznej inteligencji. Ponadto, rekomenduję modyfikację art. 7 ust. 4, tak aby zwrot kosztów podróży i noclegów przysługiwał nie tylko za „udział w Uwaga wyjaśniona Projektowane przepisy umożliwiają udział w posiedzeniu Komisji szerokiej gamie podmiotów w tym podmiotów reprezentujących prawa dzieci. Mając na uwadze zakres przetwarzanych w ramach posiedzeń informacji zasadnym wydaje się pozostawienie takiego rozwiązania. Przepis art. 7 ust. 4 nie wymaga zmiany. 59 pracach Komisji”, lecz także za udział w jej posiedzeniach na zaproszenie Przewodniczącego. Pozwoli to uniknąć sytuacji, w której młodzi uczestnicy lub inne doraźnie zapraszane podmioty nie mogą w praktyce wziąć udziału w obradach z powodów finansowych. Wprowadzenie tych zmian: zapewni realne uwzględnienie głosu dzieci i młodzieży w procesie kształtowania i stosowania przepisów dotyczących systemów sztucznej inteligencji. 54. Art. 7 ust. 9 Konfederacj a Lewiatan Propozycja zmiany: W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uzasadnienie: Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, zgodnie z którą nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie bezpośrednio dotyczył członka Komisji. 55. Art. 9 ust. 5 Pracodawcy RP Projekt wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRibSi) w szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI w Polsce, co rodzi ryzyko fragmentacji prawa unijnego i różnych interpretacji. Propozycja: Wyraźne wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 56. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 Pracodawcy RP Stwierdzić należy, że część przepisów zawartych w projekcie (art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13) wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI) w Uwaga wyjaśniona 60 ust. 1 i 2, art. 13 szeroką swobodę w zakresie ingerencji w stosowanie Ustawy i Aktu o AI w Polsce. Rodzi to w naszej ocenie poważne ryzyko fragmentacji prawa unijnego. Zakładając bowiem, że poszczególne organy państw członkowskich ds. sztucznej inteligencji będą miały podobne uprawnienia, istnieje ryzyko, że będzie to prowadzić do różnych interpretacji unijnej regulacji dot. sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. W efekcie czego doprowadzi to do stanu niepewności regulacyjnej, co przełoży się negatywnie na przyjęcie przepisów o sztucznej inteligencji na terenie Unii Europejskiej. Apelujemy więc o to, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 57. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Konfederacj a Lewiatan Propozycja zmiany: Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 58. Art. 10 ust. 1 i 2 Pracodawcy RP Podobnie jak w art. 9 ust. 5, projekt daje KRiBSI zbyt dużą swobodę, co może prowadzić do niejednolitego stosowania regulacji w UE. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i 61 wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 59. Art. 11 ust. 1 Konfederacj a Lewiatan Aktualne brzmienie: Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Zapytanie: Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art.11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Opinie indywidualne dotyczą konkretnego podmiotu i jego skonkretyzowanej sytuacji prawnej. Wydawane są zawsze na wniosek tego podmiotu. Wyjaśnienia dotyczą pewnego zagadnienia ogólnego. Mają na celu zapewnienie zapewnienia jednolitego stosowania przepisów rozporządzenia 2024/1689 oraz ustawy. Będą wydawane przez Komisję z urzędu lub na wniosek podmiotu. 60. Art. 11 ust. 2 Konfederacj a Lewiatan Propozycja zmiany: W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uzasadnienie: Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. Uwaga wyjaśniona Wskazana w uzasadnieniu uwagi zasada wynika wprost z przepisów Unii Europejskiej. 61. Art. 12 PUODO Art. 12 projektu ustawy dotyczący wydawania przez Komisję opinii indywidualnych. Powstaje pytanie czy zakres tych opinii będzie obejmował także kwestie związane z danymi osobowymi. Uzasadnienie do projektu ustawy nie odnosi się do tego zagadnienia. Zauważyć należy, że wniosek o wydanie opinii, zgodnie z ust. 3 pkt 4 ww. przepisu, zawiera „numer PESEL, jeżeli wnioskodawcą jest osoba fizyczna (...)”, natomiast projektodawca nie uzasadnił niezbędności przetwarzania tej danej osobowej. Uwaga wyjaśniona Opinie indywidualne wydawane przez Komisję. Intencją projektodawcy jest aby opinie indywidualne Komisji dotyczyły obowiązków/praw wynikający ze stosowania rozporządzenia 2024/1689 oraz ustawy. Ich celem nie jest objęcie kwestii związanych z ochroną danych osobowych. Nie można wykluczyć jednak, 62 W świetle rozporządzenia 2016/679 identyfikator osoby musi być poddany szczególnej ochronie, w związku z czym należy stwarzać szczególne gwarancje wynikające z przepisów prawa, mając na względzie konieczność ich dostosowania do ww. rozporządzenia. Zgodnie z art. 87 rozporządzenia 2016/679 przetwarzanie „krajowego numeru identyfikacyjnego” (jakim jest numer PESEL) musi odbywać się z zachowaniem odpowiednich zabezpieczeń praw i wolności osoby, której dane dotyczą. To m.in. oznacza, że przetwarzanie identyfikatora osoby musi się odbywać z poszanowaniem zasady minimalizacji danych (art. 5 ust. 1 lit. c) rozporządzenia 2016/679. Projektodawca powinien, zważywszy na art. 87 rozporządzenia 2016/679 uzasadnić konieczność pozyskiwania numeru PESEL wnioskującego o wydanie opinii indywidualnej. aby opinia taka wskazywała na fakt przetwarzania przez podmiot/system sztucznej inteligencji danych osobowych oraz wskazania, że nie w tym zakresie podmiot obowiązany jest zachować zgodność z RODO a organem który będzie w tym zakresie właściwym jest PUODO. 62. Art. 12 ust. 1 i 2 Pracodawcy RP Projekt przyznaje KRibSi szerokie uprawnienia, co może skutkować różnicami w interpretacji i egzekwowaniu przepisów w różnych krajach UE. Propozycja: Wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 63. Art. 12 ust. 4 NCBR (Dot. opłaty za opinię indywidualną) Propozycja zmiany: zwolnić MŚP/mikroprzedsiębiorców z opłaty lub wprowadzić preferencyjną stawkę (np. 50 zł). Uzasadnienie: ułatwi to małym podmiotom uzyskanie interpretacji i dostosowanie się do przepisów. Uwaga wyjaśniona Kwota opłaty za wydanie opinii indywidualnej nie wynosi 150 zł. Wysokość opłaty nie stanowi bariery finansowej uniemożliwiającej wystąpienie o wydanie przedmiotowej opinii. 64. Art. 12 ust. 10 Konfederacj a Lewiatan Propozycja zmiany: Uwaga uwzględniona 63 10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Uzasadnienie: Błędna numeracja odniesienia. Zmieniono przepis w zakresie odwołania się do właściwego ustępu. 65. Art. 12 ust. 15 IAB Polska Wprowadzenie przepisu jasno wskazującego, że wnioskodawca nie ponosi negatywnych konsekwencji, jeśli nie miał wiedzy o toczącym się postępowaniu w momencie składania wniosku. Projektowane przepisy nie gwarantują wprost, że wnioskodawca nie poniesie negatywnych konsekwencji za przedstawienie stanu faktycznego, jeśli nie wiedział, że jest on przedmiotem toczącego się postępowania. Brak tej ochrony może zniechęcać podmioty do składania wniosków i ograniczać skuteczność procedury wydawania opinii indywidualnych. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnej weryfikacji, czy stan faktyczny objęty wnioskiem jest przedmiotem jakiegokolwiek postępowania przed organami publicznymi lub sądami, jeżeli nie otrzymał on żadnej wiarygodnej informacji w tym zakresie (np. pisma odpowiedniego organu lub sądu). Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 66. Art. 12 ust. 13 - 15 Konfederacj a Lewiatan Projektowana ustawa powinna zawierać jednoznaczne stwierdzenie, że wnioskodawca nie poniesie żadnych negatywnych konsekwencji za złożenie oświadczenia, że dany stan faktyczny nie jest objęty toczącym się postępowaniem, o ile wnioskodawca nie miał wiedzy o takim postępowaniu w momencie składania wniosku, przy założeniu, że stan faktyczny rzeczywiście nie jest przedmiotem toczącego się postępowania. Ustawodawca powinien wziąć pod uwagę, że wnioskodawca może nie mieć możliwości uzyskania takiej informacji, zwłaszcza jeżeli stosowne zawiadomienia nie zostały jeszcze oficjalnie przekazane lub opublikowane. W związku z powyższym, ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego sprawdzania czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. 64 postępowania przed złożeniem wniosku o wydanie opinii indywidualnej. Co więcej, ustawa powinna zawierać przepisy zabezpieczające wnioskodawcę przed negatywnymi konsekwencjami w przypadku, gdy oświadczenie o braku toczącego się postępowania okaże się nieprawdziwe z przyczyn leżących poza kontrolą wnioskodawcy, takich jak błędy administracyjne, opóźnienia w przekazywaniu informacji lub inne okoliczności, które uniemożliwiły wnioskodawcy uzyskanie rzetelnej informacji o toczącym się postępowaniu. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 67. Art. 12 i art. 13 ZPP Procedury dotyczące wydawania opinii indywidualnych oraz ustalania opłat muszą być precyzyjnie określone, by zapewnić jasność i przewidywalność postępowania administracyjnego. Uregulować procedury dotyczące wydawania opinii indywidualnych oraz opłat z nimi związanych, zapewniając przejrzystość i jednoznaczność postępowania. Uwaga uwzględniona Procedura, o której mowa w uwadze została doprecyzowana w art. 12. 68. Art. 12, 13, 26 Pracodawcy RP Istotną kwestię stanowi także brak przejrzystości i mechanizmów wyjaśniania decyzji podejmowanych przez AI (podstawa prawna: art. 13, 52-55 AI Act, art. 12, 13, 26 projektu). Projekt nie wprowadza szczegółowych regulacji dot. obowiązku przejrzystości i wyjaśniania decyzji podejmowanych przez systemy AI. AI Act nakłada na dostawców i podmioty stosujące AI obowiązek: • informowania użytkowników końcowych o sposobie działania algorytmu, • testowania systemów AI pod kątem występowania uprzedzeń, • umożliwienia osobom fizycznym odwołania się od decyzji podjętych przez AI. Brak tych regulacji w projekcie może naruszać prawa osób fizycznych do rzetelnej informacji, a także prowadzić do sytuacji, w których użytkownicy nie będą mieli możliwości dochodzenia swoich praw w przypadku błędnych lub dyskryminujących decyzji podejmowanych przez AI. Mając powyższe na względzie, apelujemy o wprowadzenie mechanizmów transparentności AI, w tym prawa Uwaga wyjaśniona Projekt ustawy nie reguluje we wskazanych przepisach decyzji podejmowanych przez AI. 65 użytkownika do uzyskania wyjaśnień decyzji podejmowanych przez AI. 69. Art. 13 Pracodawcy RP Projekt daje KRibSi szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI, co może prowadzić do fragmentacji prawa unijnego. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 70. Art. 13 Konfederacj a Lewiatan Propozycja brzmienia: Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uzasadnienie: Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 71. Art. 14 IAB Polska Dodanie przepisu umożliwiającego wnioskodawcom jednoznaczne oznaczenie informacji poufnych jako niepublicznych w momencie ich składania oraz zobowiązującego Komisję do uwzględnienia tego oznaczenia przy publikacji treści opinii i wyjaśnień Obecnie projektowane przepisy nie określają jednoznacznie zasad ochrony informacji poufnych, takich jak tajemnice przedsiębiorstwa, w kontekście opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Wnioskodawcy powinni mieć zagwarantowaną możliwość oznaczania informacji, które nie powinny być publikowane, a brak Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli 66 takiego mechanizmu może prowadzić do niekontrolowanego ujawniania wrażliwych danych. zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 72. Art. 14 Konfederacj a Lewiatan Ustawa powinna zawierać jasne i jednoznaczne wytyczne dotyczące oznaczania przez wnioskodawców informacji nieprzeznaczonych do publikacji, takich jak tajemnice przedsiębiorstwa, dane osobowe czy informacje wrażliwe. Obecne przepisy nie precyzują, w jaki sposób identyfikować dane poufne w opiniach, wyjaśnieniach czy innych dokumentach składanych w ramach postępowania, co prowadzi do niepewności i ryzyka przypadkowego ujawnienia informacji zastrzeżonych. Aby zapewnić ochronę danych poufnych i zwiększyć pewność prawną wnioskodawców, konieczne jest wprowadzenie przepisu, który umożliwi im wyraźne oznaczenie poufnych informacji jako niepublicznych już w momencie ich składania. Taki przepis powinien określać: ● Sposób oznaczania informacji poufnych: np. poprzez wyraźne wskazanie w dokumencie, które fragmenty są objęte tajemnicą; ● Formę składania zastrzeżenia: np. poprzez dołączenie do wniosku oddzielnego pisma zawierającego zastrzeżenie poufności określonych informacji; ● Procedurę postępowania z informacjami poufnymi: np. określenie zasad dostępu do tych informacji przez organ rozpatrujący wniosek, sposób ich przechowywania i ochrony; ● Sankcje za naruszenie poufności: np. kary administracyjne lub odpowiedzialność karna za ujawnienie informacji zastrzeżonych; Wprowadzenie takich rozwiązań przyczyni się do zwiększenia zaufania do organów administracji publicznej, zapewni ochronę interesów wnioskodawców i przyczyni się do usprawnienia postępowań administracyjnych. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 73. Art. 14 oraz art. 22 ust. 5 ZPP Ustalić precyzyjne zasady oznaczania informacji poufnych, umożliwiając podmiotom kontrolowanym wskazanie danych nieprzeznaczonych do publikacji oraz ograniczyć dostęp do takich informacji wyłącznie do niezbędnego zakresu. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym 67 tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 74. Art. 15 PUODO Nowy przepis art. 15 dotyczący realizacji obowiązku sprawozdawczego przez Komisję w ust. 1 wskazuje, że: „Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej, Radzie Ministrów, Rzecznikowi Praw Obywatelskich, Prezesowi Urzędu Ochrony Danych Osobowych oraz Prokuratorowi Generalnemu sprawozdanie z działalności Komisji za rok poprzedni”. Ust. 2 poprzez zwrot „w szczególności” zawiera otwarty katalog informacji dotyczący ww. sprawozdania, co w ocenie organu nadzorczego powinno zostać doprecyzowanie poprzez domknięcie przedmiotowego katalogu informacji. Uwaga uwzględniona W przepisie domknięto katalog informacji dotyczący ww. Sprawozdania. 75. Art. 15 ust. 1 RPD W związku z postulatem wykreślenia przedstawiciela Rzecznika Praw Dziecka ze składu Członków Komisji, Rzecznika Praw Dziecka należy dodać w skład podmiotów, którym Przewodniczący składa Komisji sprawozdanie z działalności Komisji za rok poprzedni. Możliwość zapoznania się z działalnością Komisji ma bowiem istotne znaczenie dla Rzecznika Praw Dziecka z perspektywy monitorowania stanu przestrzegania praw dziecka przez organy publiczne w Polsce. Uwaga wyjaśniona Mając na uwadze, że Przewodniczący Komisji będzie powoływany przez Sejm RP za zgodą Senatu RP a Komisja będzie organem niezależnym w ustawie przesądzono, że wskazane w przedmiotowym przepisie sprawozdanie będzie przedstawiane Sejmowi RP. 76. Art. 16 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Uzasadnienie: Rekomendujemy przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 68 Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. 77. Art. 16 ust. 1 pkt 4) Konfederacj a Lewiatan Propozycja brzmienia: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Uzasadnienie: Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Tym samym rekomendujemy zmianę sformułowania. Uwaga uwzględniona W przepisie użyto zwrotu “na rzecz podmiotów”. 78. Art. 16(2) IAB Polska Doprecyzowanie wymogów kwalifikacyjnych dla Przewodniczącego Komisji Obecne przepisy nie precyzują szczegółowych wymogów kwalifikacyjnych dla Przewodniczącego Komisji, co może prowadzić do niejasności w procesie jego wyboru. W celu zapewnienia właściwego poziomu kompetencji osoby pełniącej tę funkcję – Ministerstwo powinno w swoich oficjalnych komunikatach wskazywać kluczowe obszary wiedzy i umiejętności, które powinny być brane pod uwagę przez Parlament przy wyborze Przewodniczącego. Działanie to, choć niewiążące, mogłoby stanowić istotną wytyczną i przyczynić się do wyboru najlepszego kandydata, bez naruszania zasady podziału władzy. Uwaga wyjaśniona Przepisy dotyczące wymogów kwalifikacyjnych dla Przewodniczącego Komisji nie będą bardziej doprecyzowane. 79. Art. 18 ust. 6 Konfederacj a Lewiatan Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Uwaga wyjaśniona W skład zespołu będą wchodziły osoby których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących 69 działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 80. Art. 20 ust. 1 UKNF Nowe brzmienie przepisu art. 20 ust. 1 projektu ustawy może rodzić wątpliwości interpretacyjne. Nie jest bowiem wiadomym, do której części przepisu odnosi się sformułowanie „(...) zatrudnionych w podmiotach, o których mowa art. 6 ust. 2 tej ustawy”. Z całokształtu przepisu wynika, że odnosi się ono do „stanowisk”, co jednak jest pozbawione racjonalnego uzasadnienia. Należy ponadto wskazać, że w art. 6 ust. 2, do którego odwołuje się przedmiotowy przepis, wskazane są m.in. takie podmioty jak Prezes Urzędu Komunikacji Elektronicznej i Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Z aktualnego brzmienia przepisu wynika zatem, że to właśnie w tych podmiotach zatrudniony może być Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w odesłaniu zawartym w art. 20 ust. 1. 81. Art. 22 PUODO Art. 22 projektu ustawy dotyczy obowiązku informacyjnego. Projektodawca w ust. 1 wskazuje, że: „Biuro Komisji może wykonać obowiązek, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1, z późn. zm.), zwanego dalej „rozporządzeniem 2016/679”, przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 rozporządzenia 2016/679, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji”. Uwaga uwzględniona W art. 22 wykreślono ust. 1, 2 i 5. 70 Takie ukształtowanie sposobu spełnienia obowiązku informacyjnego jest niezgodne z zasadami określonymi w rozporządzeniu 2016/679. Zgodnie bowiem z jego przepisami administrator nie może odesłać w całości do swojej strony internetowej lub możliwości zapoznania się z informacjami w jego siedzibie. Każdy administrator spełniając obowiązek informacyjny powinien wskazać następujące elementy wynikające z rozporządzenia 2016/679: kto jest administratorem danych (w tym kontakt z administratorem), cel przetwarzania i podstawa prawna, odbiorcy danych, okres przechowywania danych, wskazanie praw osób, których dane są przetwarzane, żądanie sprostowania danych, informacja o prawie do wniesienia skargi do organu nadzorczego. W celu zapewnienia większej przejrzystości rozważyć należy warstwowe spełnienie obowiązku informacyjnego – warto zatem aby projektodawca wziął pod uwagę treść Wytycznych Grupy roboczej Art. 29 w sprawie przejrzystości na mocy rozporządzenia 2016/679 przyjętych dnia 29 listopada 2017 r., zawierających m.in. stosowne przykłady w tym zakresie. Warto wskazać przy tym na konieczność przekazania przez administratora podczas pozyskiwania danych podstawowych informacji dotyczących przetwarzania danych. 82. Art. 22 ust. 3 UKNF Nowe brzmienie przepisu nie usuwa wątpliwości, na które dotychczas wskazywał Urząd Komisji Nadzoru Finansowego. Przedstawiciel KNF w Komisji będzie pozbawiony możliwości udostępniania pracownikom UKNF oraz Przewodniczącemu KNF i jego Zastępcom pozyskanych informacji w ramach pełnienia funkcji, do której został delegowany na podstawie projektowanej ustawy, co może w przyszłości znacząco utrudniać skuteczne sprawowanie nadzoru nad systemami AI wysokiego ryzyka w instytucjach finansowych. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, że informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. Przykładowo, że Przedstawiciel KNF uprawniony będzie do przekazywania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej Uwaga wyjaśniona Propozycja zmiany przepisu wydaje się zbyt daleko idąca w szczególności w kontekście przepisów RODO. 71 możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 5 ust. 3 pkt 1 projektu ustawy. 83. Art. 22 ust. 3 Pracodawcy RP Przepis zabrania uczestnikom spotkań ujawniania informacji chronionych, ale nie ogranicza ich wykorzystania wyłącznie do celów służbowych, co stwarza ryzyko dla ochrony danych. Propozycja: Wprowadzenie klauzul ochronnych, aby dane były wykorzystywane tylko w celach służbowych. Uwaga uwzględniona Cel wskazany w uwadze zapewnić ma ust. 2. 84. Art. 22 ust. 1 RPO W związku z powyższym należy również wskazać, że art. 22 ust. 1 projektu ustawy przewiduje możliwość wykonania obowiązku, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 RODO przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 RODO, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji. Należy podkreślić, że obowiązek informacyjny przy gromadzeniu danych od osoby, której dane dotyczą, powinien być, co do zasady według przepisów RODO, realizowany w sposób zindywidualizowany wobec konkretnej osoby, której dane administrator gromadzi. Oznacza to, że przekazanie informacji tej osobie nie powinno być zastępowane komunikatami kierowanymi do ogółu osób zainteresowanych (np. ogłoszeniami wieszanymi na tablicach) ani też poprzez odesłanie do określonych dokumentów (np. regulaminów dostępnych do wglądu itp.). Art. 13 RODO nie przewiduje zwolnienia z obowiązku informacyjnego w sytuacji, gdy przepisy szczególne zezwalają na przetwarzanie (gromadzenie) danych bez wiedzy osoby, której dane dotyczą lub odmiennie regulują kwestie dotyczące informowania, jednak zgodnie z art. 23 RODO, przepisy prawa Unii lub prawo państwa członkowskiego, któremu podlegają administrator danych lub podmiot przetwarzający mogą ograniczać zakres obowiązków i praw przewidzianych w art. 12–22 i art. 34, w tym również omawianego obowiązku informacyjnego23. W Uwaga nieaktualna W art. 22 ust. 1 został wykreślony. 72 uzasadnieniu projektu ustawy brak jednak wskazania przyczyn przemawiających za podjem decyzji o realizowaniu de facto obowiązku informacyjnego przewidzianego w art. 13 i art. 14 RODO w sposób uproszczony. 85. Art. 22 ust. 5 IAB Polska Wprowadzenie bardziej rygorystycznych mechanizmów ochrony informacji udostępnianych organom, takim jak Policja, poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne powinny zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, co zapewni spójność regulacyjną i zwiększy ochronę wrażliwych informacji Dane związane z AI obejmują strategiczne informacje rynkowe, tajemnice przedsiębiorstwa, algorytmy oraz kluczowe szczegóły operacyjne, których nieuprawnione ujawnienie może prowadzić do utraty przewagi konkurencyjnej lub zagrożenia bezpieczeństwa technologicznego. Brak odpowiednich zabezpieczeń niesie ryzyko niekontrolowanego dostępu do tych informacji, co może skutkować naruszeniem tajemnicy przedsiębiorstwa, tajemnicy zawodowej lub ujawnieniem krytycznych decyzji biznesowych. Wprowadzenie mechanizmu kontroli sądowej lub prokuratorskiej ograniczy możliwość nadużyć i wzmocni zaufanie do systemu regulacyjnego, zapewniając, że dostęp do tych danych będzie przyznawany wyłącznie w uzasadnionych przypadkach. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 86. Art. 22 ust. 5 PUODO Poważne wątpliwości Prezesa UODO budzi treść art. 22 ust. 5 projektu ustawy, który wskazuje na udostępnianie przez Komisję przetwarzanych danych osobowych oraz innych informacji na wniosek organom określonym w tym przepisie (m.in. ABW, Policji, Agencji Wywiadu, CBA, prokuratorom, sędziom sądów powszechnych). W przepisie tym jest wzmianka o „uwzględnieniu przepisów o ochronie danych osobowych” oraz że możliwe jest to „w celu realizacji przez te organy i podmioty ich zadań ustawowych”, niemniej jest to przepis obarczony poważnymi wadami z punktu widzenia zgodności z zasadami stanowienia prawa. Zauważyć należy, że cele, których realizacji służyć będą Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 73 postępowania prowadzone przez Komisję są z założenia inne niż cele wynikające z zadań ww. organów. Powstaje wątpliwość o celowość tej regulacji w sytuacji, gdy na podstawie odrębnych przepisów prawa wskazane podmioty mają podstawę do występowania do każdego administratora o udostępnienie informacji w zakresie niezbędnym dla potrzeb prowadzonych postępowań. W szczególności dotyczy to Policji i innych służb, które mają jasno określony sposób dostępu do danych osobowych (np. kontrola sądowa dla pewnych obszarów), czy też sądów i prokuratur (przepisy procedury cywilnej i karnej). Szczególnych gwarancji dla ochrony danych osobowych nie buduje także powoływanie się na przepisy o ochronie danych osobowych, gdyż ani z ogólnego rozporządzenia o ochronie danych osobowych ani z ustawy o ochronie danych osobowych, ani też z przepisów ustawy z dnia 14 grudnia 2018 r. o ochronie danych osobowych przetwarzanych w związku z zapobieganiem i zwalczaniem przestępczości nie wynikają szczegółowe warunki udostępniania danych osobowych na rzecz ww. podmiotów. Powstaje zatem pytanie o niezbędność wprowadzenia takiej regulacji, a tym samym spełnienia wymogów wynikających z norm konstytucyjnych i przepisów regulujących działalność Policji, wskazanych służb specjalnych oraz prokuratury i sądów do danych osobowych. Tego rodzaju regulacja może być zinterpretowana jako regulacja specjalna wobec tych przepisów, które de lege lata reglamentują dostęp do informacji dotyczących obywateli. W tym kontekście oceniany przepis wydaje się zbędny, ponieważ dostęp do danych osobowych przetwarzanych przez sądy, prokuraturę, Policję i inne służby odbywa się na innych zasadach, uregulowanych w przepisach szczególnych. 87. Art. 22 ust. 5 UKNF Z uwagi na potrzebę zapewnienia stosowania art. 74 ust. 7 rozporządzenia 2024/1689 w polskim porządku prawnym, w zakresie współpracy między KNF a Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji w przedmiocie spraw dotyczących systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 74 finansowe podlegające przepisom prawa Unii Europejskiej dotyczącym usług finansowych, UKNF ponownie wskazuje na konieczność doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z tego względu konieczne jest odpowiednie dostosowanie brzmienia art. 22 ust. 5 projektu ustawy poprzez dodanie KNF do katalogu podmiotów wymienionych w omawianym przepisie. Umożliwi to pozyskiwanie przez Komisję Nadzoru Finansowego, na jej wniosek, danych osobowych oraz pozostałych informacji przetwarzanych przez Komisję oraz Biuro Komisji w ramach realizowanych zadań. 88. Art. 22 ust. 5 Konfederacj a Lewiatan Uwaga: Proponujemy wykreślenie całego ust. 5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą. Propozycja brzmienia: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: 1)Agencji Bezpieczeństwa Wewnętrznego; 2)Policji; 3)Agencji Wywiadu; 4)Służbie Kontrwywiadu Wojskowego; 5)Służbie Wywiadu Wojskowego; 6)Straży Granicznej; 7)Komendzie Głównej Żandarmerii Wojskowej; 8)Centralnemu Biuru Antykorupcyjnemu; 9)prokuratorom; 10)sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Uzasadnienie: Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 75 Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). Ponadto, stoimy na stanowisku, iż należy wprowadzić bardziej rygorystyczne zabezpieczenia w zakresie ujawniania informacji organom ścigania, takim jak Policja. Można to osiągnąć poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora lub dostosowanie ram prawnych do standardów poufności określonych w Prawie Komunikacji Elektronicznej. Dane związane z SI są często wysoce wyspecjalizowanymi i cennymi informacjami biznesowymi i rynkowymi, a także istotnymi szczegółami operacyjnymi podmiotów zaangażowanych w rozwój i wdrażanie SI. Nieuprawnione ujawnienie takich informacji może prowadzić do ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wprowadzenie kontroli sądowej lub prokuratorskiej zapobiegałoby potencjalnym nadużyciom i zapewniłoby, że dostęp do wrażliwych danych SI byłby przyznawany wyłącznie w przypadku wyraźnej i uzasadnionej potrzeby. 89. Art. 22; art. 24 IAB Polska Konieczność zabezpieczenia informacji chronionych Projekt wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być osoby posiadające wiedzę specjalistyczną zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju AI. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 76 90. Art. 22; art. 24 Konfederacj a Lewiatan Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 91. Art. 23 ust. 2 PUODO Art. 23 projektu ustawy, w którym w ust. 2 projektodawca wskazuje jedynie na zapewnienie integralności i poufności. Pamiętać należy, że szczególny reżim przetwarzania wymaga uwzględnienia w przepisach nakładających obowiązek przetwarzania danych i zapewnienia nie tylko integralności i poufności, ale także rzetelności i przejrzystości, ograniczenia celu, niezbędności, minimalizacji (art. 5 rozporządzenia 2016/679), jak również uwzględnienia warunków wynikających z art. 6 ust. 3 ww. rozporządzenia, warunków odpowiednich zabezpieczeń praw podstawowych i interesów osoby, której dane dotyczą, konkretnych środków ochrony praw i wolności osób (art. 9 rozporządzenia 2016/679) oraz warunków dokonywania operacji na danych z art. 10 tego rozporządzenia wyłącznie pod nadzorem władz publicznych z zabezpieczeniem praw i wolności osób, których dane dotyczą. Wskazać należy, że fragmentaryczne odwoływanie się do zasad z rozporządzenia 2016/679 nie znajduje zatem uzasadnienia. Uwaga uwzględniona W celu właściwego stosowania przepisów w zakresie ochrony danych osobowych na skutek ponownej analizy przepisu w kontekście zgorszonej uwagi w art. 23 odstąpiono od ograniczeń i włączeń z zakresu RODO. 92. Art. 23 ust. 3 PUODO Art. 23 ust. 3 wskazuje na otwarty katalog danych osobowych przetwarzanych przez Komisję w ramach nadzoru nad systemami sztucznej inteligencji. W ocenie organu nadzorczego kompetencje organu, ich zakres powinien być dookreślony, nie może pozostawać niesprecyzowany. W związku z powyższym konieczne jest domknięcie przedmiotowego katalogu. Poza tym nie jest zrozumiałe i nie Uwaga uwzględniona Przepis przeredagowano rezygnując z otwartego katalogu danych osobowych przetwarzanych przez Komisję. 77 znajduje uzasadnienia pozyskiwanie przez Komisję w każdej sytuacji wszystkich informacji i danych wskazanych w punktach 1- 5 ww. przepisu. 93. Art. 23 ust. 4, ust. 5 NCBR (Dot. przechowywania danych) Propozycja zmiany: skrócić okres przechowywania danych z 5 do max. 2-3 lat. Uzasadnienie: zgodne z zasadą minimalizacji danych wynikającą z RODO; dodatkowo – ograniczone są techniczne możliwości przechowywania wielkich wolumenów danych. Uwaga wyjaśniona W art. 23 ust. 4 został wykreślony. Okres przechowywania danych został dostosowany do wymogów zastosowanych procedur postępowania przez Komisją. 94. Art. 23 ust. 6 RPO Niezależnie od powyższego częściowo aktualna pozostaje uwaga zwarta w piśmie Rzecznika Praw Obywatelskich z dnia 14 listopada 2024 r. (znak: VII.501.187.2024.PKR) dotycząca ograniczenia obowiązków wynikających z RODO22. Obecnie kwestie tę reguluje art. 23 ust. 6 projektu ustawy, zgodnie z którym przetwarzanie przez Komisję, Biuro Komisji i upoważnionych, w związku z wykonywaniem zadań służbowych, pracowników urzędów obsługujących podmioty, o których mowa w art. 6 ust. 2 ustawy, oraz osoby, o których mowa w art. 6 ust. 3 ustawy, danych, o których mowa w ust. 3, ogranicza realizację obowiązków wynikających art. 18 ust. 1 lit. a i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych oraz prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie rozporządzenia 2016/679 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych), jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 RODO. Art. 23 ust. 6 projektu ustawy wciąż pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika natomiast, dlaczego Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 78 projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Jak już Rzecznik wskazywał poprzednio, skoro sam akt w sprawie sztucznej inteligencji nie przewiduje wyłączenia stosowania przepisów RODO, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu w sprawie sztucznej inteligencji i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 95. Art. 23 ust. 6 PUODO Art. 23 ust. 6 projektu ustawy jest niezrozumiały poprzez zawarcie w ostatniej części zdania zwrotu „(...) jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 rozporządzenia 2016/679”. Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 96. Art. 24 ZPP Wprowadzić język ochronny, który zapewni, że informacje objęte tajemnicą handlową oraz danymi wrażliwymi będą odpowiednio chronione przed nieuprawnionym ujawnieniem. Uwaga wyjaśniona Przetwarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 97. Art. 24 ust. 1 Pracodawcy RP Przepis nie zawiera klauzul ochronnych dotyczących danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania informacji. Propozycja: Dodanie zabezpieczeń dotyczących ochrony danych. Uwaga wyjaśniona Powtarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 98. Art. 24 ust. 2 PUODO Art. 24 ust. 2 w zaproponowanym brzmieniu budzi szereg ryzyk, albowiem wskazuje na przekazywanie przez Komisję bez żadnego trybu podmiotom wskazanym w tym przepisie informacji stanowiących tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa bez wskazania celu. Przepis w obecnym brzmieniu nie jest zrozumiały i budzi poważne wątpliwości organu nadzorczego. Uwaga wyjaśniona Możliwość przekazania informacji organom wskazanym w przepisie jest niezbędna dla właściwej realizacji przepisów rozporządzenia 2024/1689 i ustawy. Przesłanką przekazania informacji jest ich niezbędność do realizacji ustawowych zadań tych podmiotów. 79 Stąd też możliwość ubiegania się o informacje musi wprost wynikać przepisów prawa obejmującego działania podmiotów. Ubiegając się o pozyskanie informacji niezbędne będzie wskazanie podstawy prawnej uprawniającej do dostępu do takich informacji. 99. Art. 24 ust. 3 UOKiK Prezes UOKiK podtrzymuje uwagę dotyczącą konieczności wyłączenia informacji, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów1 (dalej: uokk) z zakresu informacji, które mogą być przetwarzane w ramach współpracy w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w sytuacji, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/16892. Jak to zostało wskazane w piśmie z dnia 19 listopada 2024 r. (sygn. DPR.0240.239.2024.AK) przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu Ochrony Konkurencji i Konsumentów szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach. Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności. Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Obowiązek ochrony przedmiotowych tajemnic i informacji stanowi zobowiązanie nałożone na UOKiK przepisami dyrektywy ECN+3 i jest gwarancją niezależności organu ochrony konkurencji. Wobec Uwaga wyjaśniona. Mając na uwadze zakaz sformułowany w art. 73 ust. 1 ustawy o uokk dodanie regulacji w przedmiotowej ustawie w zaproponowanym brzmieniu wydaje się niezasadne. 80 powyższego, w celu zapewnienia zgodności projektowanego art. 24 z przepisami uokk zwracam się o dodanie w projektowanym art. 24 ust. 3 w brzmieniu: „3. Przepisów ust. 1 i 2 nie stosuje się do obowiązków, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów.”. 100. Art. 25 RPD W projektowanych przepisach ustawy o systemach SI nadal nie określono ani terminu, w którym Komisja ma powołać skład Rady, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie składu Rady i rozpoczęcie przez nią zostanie odłożone na nieokreślony czas. W związku z tym proponuję prowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Uwaga wyjaśniona Harmonogram powołania rady określi Komisja. 101. Art. 25 Rada Działalności Pożytku Publicznego Rada proponuje wprowadzenie następujących zmian do projektu ustawy: 1) w art. 25 ust. 3 po pkt 6 dodać pkt 6a w brzmieniu: „6a) Rada Działalności Pożytku Publicznego, o której mowa w art. 35 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940);”; Uzasadnienie: Rada Działalności Pożytku Publicznego (RDPP) jest ustawowym ciałem, którego celem jest m.in. prowadzenie dialogu obywatelskiego, który jest fundamentem państw demokratycznych. Rada zrzesza przedstawicieli i przedstawicielki NGO, administracji lokalnego, regionalnego i centralnego szczebla. Udział przedstawiciela/przedstawicielki RDPP wzmocni społeczny wymiar Rady, której kształt określa art. 25 przedmiotowego projektu ustawy. 2) w art. 25 ust. 3 zmienić brzmienie pkt. 10 z: „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej.” Uwaga częściowo uwzględniona Uwzględniono pkt 2 uwagi poprzez zmianę w art. 25 ust. 3 projektu ustawy: “Kandydatów na członków Rady może zgłosić: (.) 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców, lub też których celem statutowym jest działalność w co najmniej jednym z obszarów: - sztuczna inteligencja, nowe technologie, - sprawiedliwość technologiczna, - ochrona praw człowieka, - edukacja lub kultura cyfrowa; - bezpieczeństwo informacji.”. 81 na następujące: „organizacje pozarządowe w rozumieniu art. 3 ust. 2 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940).” Uzasadnienie: Należy wziąć pod uwagę, że wiele organizacji pozarządowych (w tym stowarzyszeń i fundacji) prowadzi działalność statutową we wskazanych obszarach, jednak cele statutowe tych organizacji mogą być sformułowane w ich statutach w sposób bardziej ogólny, ponieważ przepisy prawa nie obligują i nie skłaniają organizacji do tak precyzyjnego określania celów w statutach – dlatego też nie należy zawężać grupy organizacji uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji wyłącznie do fundacji i stowarzyszeń, które w swoich statutach przewidziały w tak szczegółowy sposób sprecyzowane cele; 3) w art. 25 w ust. 2 słowa „od dziewięciu do piętnastu członków” zastąpić słowami „od jedenastu do dwudziestu pięciu członków” Uzasadnienie: Biorąc pod uwagę liczbę podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji przewidzianą w art. 25 ust. 3 projektowanej ustawy (11), Rada proponuje zwiększyć dolną i górną granicę widełek ilościowych zaproponowanych w projekcie ustawy. 102. Art. 25 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: Proponujemy dodanie punktu 11) o brzmieniu: 11) organizacje pracodawców Uzasadnienie: Brak uwzględnienia organizacji pracodawców w katalogu podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji wyklucza wiele reprezentatywnych organizacji, które nie posiadają statusu izby gospodarczej, takich jak np. Konfederacja Lewiatan. Uwaga wyjaśniona Rozszerzanie listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące organizacje pracodawców nie wydaje się zasadne. W przepisie uwzględniono bowiem izby gospodarcze oraz reprezentatywne organizacje związkowe. 103. Art. 25 ust. 3 pkt 8) NSZZ Projekt przewiduje możliwość zgłaszania przez związki zawodowe kandydatów na członków Społecznej Rady do Spraw Sztucznej Uwaga uwzględniona 82 Inteligencji. Problem: w Polsce funkcjonuje 11 656 związków zawodowych (dane GUS z 4.09.2023), co oznacza, że wszystkie mogłyby zgłosić kandydatów, co jest niepraktyczne. Propozycja: ograniczenie prawa zgłaszania kandydatów do organizacji związkowych reprezentatywnych w rozumieniu ustawy o Radzie Dialogu Społecznego, ze względów funkcjonalnych. Zmieniono brzmienie art. 25 ust. 3 pkt 8. 104. Art. 25 ust. 3 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz przyznanie Rzecznikowi Finansowemu uprawnienia zgłaszania kandydatów na członków Rady Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące rynek finansowy. 105. Art. 25 ust. 4 i art. 26 ust. 5 RPD Projekt w obecnym kształcie nie wprowadza wyraźnego wymogu niezależności od dostawców systemów sztucznej inteligencji na etapie powoływania członków Rady. Zgodnie z projektowanym art. 25 ust. 4, osoba zgłasza do Rady przez uprawniony podmiot musi jedynie: posiadać wiedzę i doświadczenie w obszarze sztucznej inteligencji, nie być skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystać z pełni praw publicznych oraz wyrazić pisemną zgodę na kandydowanie. Brakuje natomiast wyraźnego wymogu wykazania, że kandydat nie pozostaje w stosunku podległości (np. służbowym) do dostawców i importerów systemów AI, co mogłoby wpływać na jego bezstronność. Z kolei art. 26 ust. 5 przewiduje jedynie następczą kontrolę konfliktu interesów, stanowiąc, że „członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów”, nie precyzując jednak żadnych konkretnych kryteriów ani procedur pozwalających na weryfikację niezależności kandydata przed jego powołaniem. Z tych względów, na wzór wymogu wprowadzonego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, należałoby wprost określić, że członkowie Rady muszą być niezależni od dostawców systemów SI lub modeli SI ogólnego Uwaga wyjaśniona Wskazane w przepisach wymagania zostały uzupełnione o sankcję za naruszenie przepisów art. 26 ust. 5. Co daje podstawę do stwierdzenia że dodatkowe unormowania w zakresie oświadczenia nie są już potrzebne. 83 przeznaczenia, a także wprowadzić obowiązek złożenia stosownego oświadczenia o braku konfliktu interesów w relacjach z operatorami systemów SI, połączonego z odpowiedzialnością za składanie fałszywych oświadczeń. W związku z tym proponuję zmianę art. 25 ust. 4 projektu poprzez dodanie pkt 5 o następującym brzmieniu: Art. 25 ust. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła pisemną zgodę na kandydowanie; 5) złożyła pisemne oświadczenie o braku lub istnieniu jakichkolwiek powiązań osobistych, służbowych, finansowych z dostawcami lub importerami systemów sztucznej inteligencji, które mogłyby prowadzić do konfliktu interesów w związku z udziałem w pracach Rady. 106. Art. 25, Art. 26, Art. 27 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – Rada jest podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy zapewnić udział w Radzie przedtawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez Komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. W obecnej formie dobór składu Rady może zostać uznany za nietransparentny. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej Uwaga wyjaśniona Zaproponowany w przepisach mechanizm powoływania członków Rady, sposób i zakres jej działania realizują zasadę transparentności i odpowiadają potrzebie wsparcia Komisji w realizowanych przez nią zadaniach. 84 decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 107. Art. 25 ust. 2 NCBR (Dot. kadencja Rady): Propozycja zmiany: wydłużyć kadencję Rady z 2 do co najmniej 3 lat. Uzasadnienie: zapewni to większą stabilność i ciągłość prac Rady. Uwaga wyjaśniona Dwuletnia kadencja jest optymalna do zapewnienia ciągłości pracy Rady. 108. Art. 25 ust. 3 KRRiT Aktualny pozostaje postulat, aby Przewodniczący Krajowej Rady Radiofonii i Telewizji miał prawo zgłoszenia kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji (przepis art. 25 ust. 3 projektu) Uwaga wyjaśniona Przewodniczący Krajowej Rady Radiofonii i Telewizji ma w ustawie przewidziane funkcje w art. 6 ust. 2 pkt 3. Mając na uwadze sposób powołania członków Rady nie jest zasadne, aby członek Komisji wskazywał podmiot do Rady Społecznej. 1. Art. 26 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: 3. Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Uzasadnienie: Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 109. Art. 26 ust. 3 RPD Mając na uwadze wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym oraz potrzebę uwzględniania perspektywy młodego pokolenia w procesie kształtowania polityki i regulacji dotyczących systemów sztucznej inteligencji, w Uwaga wyjaśniona W ramach tego artykułu przewidziany został Rzecznik Praw Dziecka który wydaje się 85 szczególności stosowanych w obszarze edukacji i kształcenia osób małoletnich, proponuję uzupełnić art. 26 o przepisy, które wprost przewidzą prawo przedstawicieli zainteresowanych organizacji młodzieżowych do udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez Przewodniczącego Rady lub Komisję. Organizacje te powinny mieć możliwość zwrócenia się do Przewodniczącego Rady z wnioskiem o dopuszczenie do udziału w konkretnym posiedzeniu wybranych przez siebie przedstawicieli, a wniosek taki powinien być niezwłocznie rozpatrywany, przy czym decyzja o odmowie wymagałaby pisemnego uzasadnienia. Dodatkowo należałoby zobowiązać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób małoletnich, aby wyniki tych konsultacji były uwzględniane z należytą wagą, stosownie do wieku oraz dojrzałości dzieci i młodzieży biorących w nich udział. Taka zmiana umacnia gwarancje prawa dziecka do bycia wysłuchanym, przewidzianego w Konwencji o prawach dziecka, i stanowi jednocześnie inwestycję w przyszłość całego społeczeństwa, pozwalając na wczesną identyfikację ryzyka oraz wypracowanie rozwiązań lepiej odpowiadających potrzebom oraz dobru dzieci. najwłaściwszym organem do wskazania kandydata na członka Społecznej Rady. 1. art. 26 ust. 4 w zw. z art. 22 ust.3 Uwaga: Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem 110. art. 27 ust.1 pkt 2 Konfederacj a Lewiatan Nie jest jasne o wnioski, w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w Uwaga wyjaśniona 86 znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postepowania o naruszenia przepisów rozporządzenia 2024/1689. 111. Art. 27 ust. 1 pkt 2 UKNF Wniosek, o którym mowa w tym przepisie nie stanowi wniosku o wszczęcie postępowania w rozumieniu ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego, gdyż Rada nie jest podmiotem praw lub obowiązków, które mogą być przedmiotem postępowania. W konsekwencji czego UKNF proponuje zastąpienie wyrazu „wniosków” wyrazem „rekomendacji”. Uwaga wyjaśniona Jest to wniosek w rozumieniu art. 41 ust. 2 pkt 4. 112. art. 27 ust. 2 Konfederacj a Lewiatan Uwaga i zapytanie: W ust.2 nie ma mowy o „wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie sa przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 2 pkt 4 wszczyna na ich podstawie postępowanie. 113. art. 27 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 114. Art. 28 ust. 5 Konfederacj a Lewiatan Proponowane brzmienie: 5. Organami Biura Komisji są: 1)Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2)Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej 87 Uzasadnienie: Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie a art. 29-art.36 zostały wykreślone. 115. Art. 30 PARP Zastąpić dotychczasowe brzmienie art. 30 (Rejestracja piaskownic) „Testowanie systemów AI w ramach piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” Nowym brzmieniem: 1. „Dostawca systemu sztucznej inteligencji może rozpocząć testowanie systemu AI w piaskownicy regulacyjnej po zgłoszeniu do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” 2. „Komisja może w terminie 30 dni zgłosić zastrzeżenia do testów, jeśli naruszają one przepisy o ochronie danych osobowych, praw podstawowych lub cyberbezpieczeństwa.” 3. „Brak odpowiedzi Komisji w terminie 30 dni oznacza domniemaną zgodę na przeprowadzenie testów.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 116. Art. 31 PARP Do dotychczasowej treści art. 31 dodać ustępy od 4 do 6 w następującym brzmieniu 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 117. Art. 39 ZPP Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia 88 kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 118. Art. 39 ust.1 pkt 4 Konfederacj a Lewiatan Społeczna Rada do spraw Sztucznej Inteligencji powinna pełnić wyłącznie funkcję doradczą i konsultacyjną Komisji, a przyznanie jej uprawnień do inicjowania nadzoru jest wykraczaniem poza jej podstawowe zadania. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny zasadności wniosku o wszczęcie nadzoru. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 119. Art. 39 ust. 1 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania kontroli Komisji Rada powinna pełnić funkcję wyłącznie doradczą i konsultacyjną względem Komisji, bez uprawnień do wnioskowania o wszczęcie kontroli. Przyznanie jej takiej kompetencji wykracza poza jej zamierzoną rolę, zwłaszcza że Rada nie dysponuje odpowiednimi narzędziami proceduralnymi do oceny zasadności inicjowania działań kontrolnych. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 120. Art. 39 ust. 4 IAB Polska Ograniczenie możliwości przeprowadzenia kontroli na miejscu do ściśle określonych przypadków, gdy zdalne metody okazują się niewystarczające do rzetelnej oceny zgodności z przepisami Planowane przepisy pozostawiają nadmierną swobodę w zakresie stosowania kontroli na miejscu, co może prowadzić do nieproporcjonalnej ingerencji w działalność podmiotów podlegających nadzorowi. Ponadto, biorąc pod uwagę zasady funkcjonowania AI, dostęp do danych w postaci cyfrowej w większości przypadków powinien być w zupełności wystarczający. Uwaga uwzględniona Zmieniono brzmienie przepisu. 121. Art. 39 ust. 3 Konfederacj a Lewiatan Aktualne brzmienie: 3. Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Uwaga: Uwaga uwzględniona Zmieniono brzmienie przepisu. 89 Brak części tekstu. 122. Art. 39 ust. 4 Konfederacj a Lewiatan Uwaga: Zasada nadzoru zdalnego powinna zostać wzmocniona. Obecnie istniejący wyjątek, który pozwala na nadzór na miejscu, jest zbyt szeroki i powinien być ograniczony jedynie do wyjątkowych przypadków. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 123. Art. 40 ust. 2 Konfederacj a Lewiatan Propozycja brzmienia: 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje Uzasadnienie: Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Ustawa nie określa wystarczających zabezpieczeń dotyczących osób, które Komisja może upoważnić do udziału w kontroli. Przepis ten stwarza ryzyko, że upoważniony kontroler może być konkurentem kontrolowanego podmiotu lub mieć osobisty interes w wydaniu niekorzystnego protokołu kontroli. Ustawa nie zawiera jasnych kryteriów oceny kwalifikacji eksperta zewnętrznego ani wyraźnych zobowiązań dotyczących poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza Biura nie przechodziłyby formalnych szkoleń w zakresie Uwaga częściowo uwzględniona W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. Dodatkowo art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 90 prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur kontrolnych. Komisja powinna zapewnić, że personel kontrolny, także ten spoza Biura, posiada niezbędne kompetencje, poprzez szkolenia i inne działania budujące zdolności. Ewentualnie, zalecamy usunięcie tego przepisu lub jego doprecyzowanie w celu zminimalizowania ryzyka, zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. 124. Art. 38-48 NCBR 1. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. Należy skrócić ten okres. 2. Przepisy zawierają zbyt szerokie, nieuzasadnione merytorycznie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad SSI. Zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki oraz ściśle określone ramy (granice). 3. Proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli. Kontrolujący powinien być zobowiązany (na piśmie) o zachowania tajemnicy kontrolowanego (np. przedsiębiorstwa), w szczególności w zakresie dostępu do danych gospodarczych oraz związanych z ochroną wartości niematerialnych i prawnych (WNiP). Uwaga częściowo uwzględniona 1.Czas trwania postepowania przed komisją został skrócony do 6 miesięcy (art. 43) 2.Przepisy dotyczące kontroli zostały w znaczny sposób zmodyfikowane. 3.Z uwagi na znaczące wyspecjalizowanie Sądu oraz możliwości, jakie daje prowadzenie postępowanie w trybie przepisów kpc przemawia za pozostawieniem odwołań od decyzji Komisji w projektowanym kształcie 4.W ustawie zawarto przepisy dotyczące przestrzegania przez kontrolujących tajemnic prawnie chronionych. 125. Art. 40 ust. 2 IAB Polska Zapewnienie kwalifikacji i niezależności osób przeprowadzających kontrolę Projekt nie precyzuje mechanizmów zabezpieczających przed potencjalnym konfliktem interesów lub brakiem odpowiednich Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje 91 kwalifikacji „zewnętrznych” osób upoważnionych przez Komisję do udziału w kontrolach. Istnieje ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub osobą posiadającą osobisty interes w sporządzeniu niekorzystnego protokołu. Dodatkowo, projektowane przepisy nie określają jasnych kryteriów doboru ekspertów zewnętrznych oraz nie nakładają na nich wyraźnego obowiązku zachowania poufności pozyskanych informacji. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej instytucji nie przechodzą formalnych szkoleń w zakresie kontroli, co może prowadzić do nieprawidłowości proceduralnych. Rekomendujemy: 1. doprecyzowanie kryteriów doboru ekspertów, 2. wprowadzenie bezpośredniego i jasnego obowiązku zachowania poufności informacji uzyskanych podczas kontroli, 3. określenie mechanizmów zapobiegających konfliktowi interesów, 4. ograniczenie udziału zewnętrznych ekspertów do sytuacji, gdy wymagane są unikalne, specjalistyczne kompetencje, które nie mogą zostać zapewnione przez pracowników Komisji. W przypadku braku takich zmian rekomendujemy usunięcie przepisu o możliwości powoływania ekspertów zewnętrznych w obecnym brzmieniu, aby uniknąć zagrożeń dla rzetelności procesu kontrolnego. doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 126. Art. 40 ust. 2 ZPP Ustawa nie precyzuje wystarczająco mechanizmów zabezpieczających wybór osób, które mogą być upoważnione przez Komisję do przeprowadzania kontroli. Obecne regulacje stwarzają ryzyko, że wyznaczony kontroler może mieć interesy sprzeczne z interesami kontrolowanego podmiotu lub współpracować z jego Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 92 konkurencją. W związku z tym należy wprowadzić następujące zmiany: a) Jednoznacznie określić, że osoby upoważnione do przeprowadzania kontroli nie mogą być powiązane z podmiotami kontrolowanymi ani współpracować z konkurencją tych podmiotów. b) Ustanowić szczegółowe kryteria kwalifikacyjne, obejmujące wymóg braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych podczas kontroli. Ponadto, brakuje jednoznacznych kryteriów oceny kwalifikacji ekspertów spoza struktury Biura Komisji oraz precyzyjnych zobowiązań dotyczących poufności informacji zdobywanych podczas kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej struktury nie są zobowiązane do odbycia formalnych szkoleń z zakresu procedur kontrolnych, co może prowadzić do niedokładnych lub wadliwych kontroli. Komisja powinna zagwarantować, że cały personel zaangażowany w kontrolę – również ten spoza Biura – dysponuje niezbędnymi kompetencjami, poprzez systematyczne szkolenia oraz inne formy wsparcia rozwojowego. W związku z powyższym rekomendujemy albo całkowite usunięcie omawianego przepisu, albo jego precyzyjne doprecyzowanie w celu minimalizacji potencjalnych ryzyk, a także zapewnienia bezpieczeństwa i przejrzystości procesu wyboru zewnętrznych kontrolerów. Precyzyjne ustalenie terminów i procedur administracyjnych Określone w projekcie ustawy procedury i terminy zostały określone w sposób optymalny pozwalający na realizację zadań czy obowiązków i jednocześnie na sprawne prowadzenie czynności bez generowania nadmiernych obciążeń. 127. Art. 41 ust. 1 PUODO W odniesieniu do art. 41 ust. 1 projektu ustawy zwrócić uwagę należy na brak spójności z art. 39 ust. 3, który przewiduje możliwość przeprowadzania kontroli w trybie zdalnym, bez jednoczesnej fizycznej obecności stron. Przepis art. 41 pkt 1 wymaga, by kontrolujący przedstawił imienne upoważnienie oraz okazał legitymację służbową lub dokument tożsamości, co w przypadku kontroli na odległość może budzić wątpliwości w zakresie sposobu realizacji tego obowiązku. Pojawia się wątpliwość, w jaki sposób kontrolujący miałby przedstawić wymagane dokumenty w trybie zdalnym – czy dopuszczalne będzie przekazanie skanów, prezentacja w systemie teleinformatycznym czy inne rozwiązanie techniczne. Uwaga wyjaśniona W zakresie przeprowadzania kontroli intencją projektodawcy jest stworzenie możliwości jak najszerszego wykorzystanie metod porozumiewania się na odległość z wykorzystaniem dostępnych środków. Stąd też podjęta została próba elastycznego uregulowania w tym zakresie i brak sprecyzowania jak ma zostać przekazane upoważnienie czy okazany dokument potwierdzający np., tożsamość. Wytyczną w tym 93 Należy również rozważyć mechanizmy umożliwiające kontrolowanemu weryfikację autentyczności okazywanych dokumentów, co w trybie stacjonarnym odbywa się w sposób bezpośredni. Wątpliwości budzi także sposób doręczania upoważnień do kontroli w przypadku jej zdalnego przeprowadzania – czy możliwe będzie wykorzystanie podpisu kwalifikowanego lub innych środków elektronicznych, które zapewnią autentyczność i integralność dokumentu. zakresie jest to, aby okazywane dokumenty czy potwierdzenie tożsamości nie budziło wątpliwości oraz nie naruszało przepisów o ochronie danych osobowych czy innych tajemnic prawnie chronionych. Intencją jest też aby kwestie techniczne uregulować w aktach rangi podustawowej, a w ustawie zostały jedynie niezbędne przepisy z zakresu materii ustawowej. To pozwoli też na szybsze i elastyczne dostosowywanie prawa do stanu faktycznego. 128. Art. 42 Konfederacj a Lewiatan Uwaga: Celem zwiększenia ochrony kluczowych informacji biznesowych, proponowana ustawa powinna zezwalać podmiotom kontrolowanym na oznaczanie informacji jako tajemnicy handlowej. Takie rozwiązanie, podobne do stosowanego w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów, zapewniłoby lepsze zabezpieczenie obecnie niewystarczająco chronionych danych. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 129. Art. 42 Pracodawcy w RP Sformułowanie przepisu jest zbyt szerokie, co może umożliwić inspektorom żądanie dostępu do treści klientów w chmurze, co jest niezgodne z art. 78(2) Aktu o AI, który zezwala na żądanie tylko danych niezbędnych do oceny zgodności. Propozycja: Usunięcie zdania o „systemie informatycznym i chmurze obliczeniowej należących do innej osoby”, aby uniknąć nieuprawnionego dostępu do danych klientów. Sformułowanie art. 42 wydaje się być na tyle szerokie, że wyznaczeni inspektorzy mogliby na jego podstawie żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Jednocześnie szeroki zakres kontroli jest niezgodny z art. 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 94 kontrolowany ma do nich dostęp. Stoimy więc na stanowisku, że zdanie odnoszące się do „systemu informatycznego i chmury obliczeniowej należącej do innej strony” powinno zostać usunięte. Stwierdzić należy, że żaden przepis ustawy nie powinien być interpretowany jako zobowiązujący dostawcę usług chmurowych do ujawnienia danych klientów. W takich sytuacjach inspektor powinien skierować zapytanie o potrzebne informacje do administratora danych (klienta). Dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia im określenie jakie dokumenty lub informacje klient przechowuje i czy są one istotne dla kontroli. Ponadto klienci korporacyjni i biznesowi często przechowują dane swoich użytkowników i klientów, a ich przymusowe udostępnienie mogłoby skutkować nieuprawnionym ujawnieniem danych podmiotów, które nie są przedmiotem ani celem danego audytu. 130. Art. 42 IAB Polska Wprowadzenie jednoznacznej ochrony tajemnicy przedsiębiorstwa Ustawa powinna wprost umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy przedsiębiorstwa, analogicznie do procedur stosowanych przez Urząd Ochrony Konkurencji i Konsumentów. Obecny brak takiego rozwiązania skutkuje niewystarczającą ochroną kluczowych danych biznesowych. Wdrożenie mechanizmu oznaczania informacji jako poufnych zapewni większą pewność prawną oraz umożliwi skuteczniejszą ochronę interesów gospodarczych podmiotów objętych kontrolą. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 131. Art. 42 IAB Polska Usunięcie zdania odnoszącego się do systemu informatycznego i chmury obliczeniowej należącej do innej strony Analizując język art. 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 95 Taki zakres kontroli wydaje się być niezgodny z art. 78(2) AI Act, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem AI Act, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Jednocześnie zwracamy uwagę, że: 1. Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. 2. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie pisma, dokumenty lub inne informacje mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. 3. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 132. Art. 42 ZPP Zawęzić zakres dostępu do treści przechowywanych w chmurze – kontrola powinna obejmować wyłącznie dane niezbędne do przeprowadzenia audytu, przy jednoczesnym poszanowaniu tajemnicy handlowej i ochrony danych osobowych. Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów 96 rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 133. Art. 42-44 (uwaga ogólna) IAB Polska Ujednolicenie terminologii dotyczącej danych i informacji Projekt ustawy posługuje się niespójną terminologią odnoszącą się do różnych rodzajów danych, dokumentów i materiałów, co może prowadzić do trudności interpretacyjnych oraz ryzyka niejednolitego stosowania przepisów. Rekomendujemy: 1. przeprowadzenie analizy pod kątem precyzji technicznej i językowej, 2. eliminację terminów o potencjalnie synonimicznym lub homonimicznym znaczeniu, 3. jednoznaczne określenie kategorii danych i informacji oraz ich zakresu stosowania w przepisach. Ujednolicenie pojęć zwiększy przejrzystość regulacji oraz ograniczy ryzyko sprzecznych interpretacji przepisów, co jest kluczowe dla skutecznego stosowania ustawy. Uwaga wyjaśniona Przepisy zostały przeanalizowane. Jednocześnie informujemy, że tekst projektu zostanie pod względem językowo terminologicznym dopracowany na etapie komisji prawniczej. 134. Art. 42 ust. 1 pkt 1) Konfederacj a Lewiatan Propozycja brzmienia: 1) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 97 związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; Uzasadnienie: Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Ponadto: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 135. Art. 42 ust. 1 pkt 3 IAB Polska Zapewnienie odpowiednich narzędzi dla kontrolerów do sporządzania kopii dokumentów przez Komisję. Uwaga wyjaśniona 98 Obowiązek sporządzania kopii dokumentów powinien spoczywać na Komisji, a nie na podmiocie kontrolowanym. Pozostawienie proponowanego przepisu w bieżącym kształcie w praktyce oznaczałoby, że podmiot ten będzie przygotowywał wszystkie kopie samodzielnie. Rolą podmiotu kontrolowanego powinno być wyłącznie podjęcie decyzji o udostępnieniu określonych dokumentów, zgodnie z przepisami o ochronie informacji niejawnych, tajemnicy przedsiębiorstwa lub tajemnicy zawodowej (np. adwokackiej, radcowskiej). Zmieniono treść art. 42 (obecnie art. 34) ust. 1 pkt 3 poprzez usunięcie fragmentu “(.) a także sporządzenia lub w razie potrzeby i o ile jest to technicznie możliwe, żądania sporządzenia przez kontrolowanego, ich kopii, wyciągów z dokumentów oraz zestawień lub obliczeń”. 136. Art. 42 ust. 1 pkt 6 UKNF W projektowanym przepisie słowo „może” jest zbędne. Ponadto, w ocenie UKNF zasadne jest również wykreślenie zwrotu „w której dokumenty się znajdują”. Uwaga uwzględniona Z przepisu wykreślono wskazane w uwadze wyrazy i nadano mu nowe brzmienie. 137. Art. 42 ust. 1 pkt 7 Konfederacj a Lewiatan Propozycja brzmienia: 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art.23 ust.3 ustawy; Uzasadnienie: Zakres danych musi być ten sam. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 138. Art. 42 ust. 2 Konfederacj a Lewiatan Zapytanie: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu „czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? W ocenie Konfederacji Lewiatan zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? Czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 139. Art. 44 Konfederacj a Lewiatan Ustawa znacząco ogranicza znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć prawa kwestionować powołania się przez podmiot kontrolowany na tajemnicę zawodową. Ustawa nie definiuje czym są “wątpliwości” dotyczące powołania się na tajemnicę zawodową ani nie precyzuje, jak dokumenty powinny być zabezpieczone, przez co obecne podejście nie spełnia standardów poufności tajemnicy Uwaga uwzględniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 99 zawodowej. Ponadto sformułowanie “zapewnienie ochrony przed ujawnieniem” jest niejasne, gdyż dokument i tak zostanie ujawniony przynajmniej SOKiK. Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową, ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 140. Art. 44 ZPP Zapewnić ochronę tajemnicy zawodowej poprzez doprecyzowanie przepisów dotyczących poufności komunikacji oraz dokumentów, by nie naruszać relacji doradczo-prawnych. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 141. Art. 44 ust. 1 IAB Polska Rozszerzenie zakresu wyłączeń dotyczących dostępu do dokumentów Wyłączenie w proponowanym kształcie (art. 42 ust. 2) odnosi się jedynie do obowiązku przekazania materiałów, lecz nie obejmuje samego prawa dostępu do określonych dokumentów i danych (art. 42 ust. 1). Dla pełnej ochrony tajemnicy zawodowej (np. adwokackiej, radcowskiej) oraz zagwarantowania poufności relacji w zakresie doradztwa prawnego, konieczne jest rozszerzenie zakresu wyłączeń również na dostęp do tych informacji. Bez tego mechanizmu istnieje ryzyko nieuprawnionego ujawnienia poufnych danych, co mogłoby naruszyć prawa podmiotów korzystających z doradztwa prawnego. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 142. Art. 44 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. Uwaga częściowo uwzględniona Wprowadzenie do wyliczenia w at. 36 w ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 100 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 423 ust. 2 ustawy nie stosuje się. Uzasadnienie: Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Ponadto, obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. 143. Art. 44 ust. 2-5 IAB Polska Jednoznaczne zagwarantowanie absolutnej ochrony tajemnicy zawodowej, obejmującej zarówno treść dokumentów, jak i ich kontekst Choć Projekt uznaje znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), jednocześnie znacząco ją ogranicza, co narusza zasadę proporcjonalności oraz podważa zaufanie do relacji doradczo- prawnych. Uwaga uwzględniona Usunięto art. 44 (obecnie art. 36) ust. 2, 3 i 5. Powołanie się na tajemnicę zawodową może stanowić podstawę do celowego nieujawniania danych a tym samy może w konsekwencji prowadzić do braku możliwości ustalenia stanu faktycznego przez kontrolującego. Powoływanie 101 Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową, gdyż stwarza to pole do arbitralnych decyzji. Projekt nie precyzuje, co oznaczają wątpliwości dotyczące powołania się na tajemnicę zawodową. Nie jest również wymagane ich uzasadnienie, co rodzi ryzyko nadużyć. Niejasne jest również sformułowanie zapewnienie ochrony przed ujawnieniem. Dokument objęty tajemnicą zawodową i tak musiałby zostać w jakiś sposób przekazany co najmniej do SOKiK, co nie zapewnia pełnej poufności. Nieuzasadniona ingerencja w tajemnicę zawodową mogłaby podważyć fundamentalne zaufanie do poufności relacji klient- adwokat/radca prawny, co jest sprzeczne z zasadami demokratycznego państwa prawa. się na tę okoliczność powinno podlegać weryfikacji. W celu zapewnienia ochrony tajemnicy w przepisie przewidziano, że ciężar dowodu spoczywa na kontrolującym. Ograniczy to dostęp do przedmiotowych dokumentów osób postronnych. 144. Art. 45 IAB Polska Wykreślenie z Projektu postanowień przewidujących angażowanie Policji w działania kontrolne Wprowadzenie specjalnych procedur angażujących Policję w czynności kontrolne jest nieuzasadnione i nadmierne. Policja może zostać wezwana w sytuacjach, gdy zdarzenie stanowi przestępstwo lub wykroczenie – nie ma potrzeby dodatkowego regulowania tej kwestii w ustawie. Tego rodzaju mechanizm przywołuje przestarzałe praktyki inwigilacyjne, które nie przystają do współczesnych standardów państwa prawa. Relacje między obywatelami a państwem powinny opierać się na zasadzie wzajemnego zaufania. Uwaga wyjaśniona Wsparcie Policji kontrolującym jest niezbędne w celu zapewnienia bezpieczeństwa kontrolującym. Udział Policji w szczególnych przypadkach będzie poległ wyłącznie na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania. 145. Art. 45 IAB Polska Rezygnacja z angażowania jednostek podległych ministrowi ds. cyfryzacji w czynności kontrolne Komisji Angażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w procesie kontroli jest nieuzasadnione. Komisja powinna posiadać wystarczające kompetencje oraz narzędzia, aby Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia 102 samodzielnie przeprowadzać postępowania kontrolne, bez konieczności angażowania podmiotów zewnętrznych. Zewnętrzny udział budzi poważne wątpliwości dotyczące poufności postępowań, zwłaszcza biorąc pod uwagę wrażliwy zakres informacji objętych kontrolą. do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które. posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 146. Art. 45 ZPP Wyłączyć możliwość angażowania w działania kontrolne Komisji jednostek zewnętrznych, które mogłyby naruszyć niezależność organu kontrolnego, zapewniając, że Komisja dysponuje odpowiednimi kompetencjami i zasobami. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 147. Art. 45 Konfederacj a Lewiatan Zaangażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w pomoc Komisji jest nieuzasadnione. Komisja powinna dysponować odpowiednimi kompetencjami i zasobami umożliwiającymi samodzielne i skuteczne przeprowadzanie kontroli. Włączenie zewnętrznych jednostek w proces kontrolny budzi obawy dotyczące zachowania poufności, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy charakter badanych spraw. Przepis umożliwiający zwrócenie się o wsparcie Policji jest zbędny. Policję można wezwać zawsze wtedy, gdy dojdzie do popełnienia przestępstwa lub wykroczenia. Nie ma potrzeby tworzyć specjalnych procedur angażowania Policji w czynności kontrolne. Takie Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają 103 rozwiązanie nie przystaje do nowoczesnego państwa, które szanuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie stosowanych przepisów w projekcie ustawy. 148. Art. 46 ust. 1 IAB Polska Sporządzanie projektu protokołu kontroli przez kontrolera Projekt protokołu kontroli powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że postanowienie w obecnym brzmieniu jest wynikiem omyłki redakcyjnej. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 149. Art. 46 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolujący sporządza projekt protokołu. Uzasadnienie oraz zapytanie: Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. 150. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 151. Art. 46 ust. 4 IAB Polska Wydłużenie terminu na wniesienie zastrzeżeń do projektu protokołu kontroli do 60 dni. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli 104 Obecnie przewidziany 7-dniowy termin na wniesienie zastrzeżeń jest zbyt krótki, zwłaszcza w przypadku skomplikowanych spraw, które wymagają dogłębnej analizy zebranego materiału. Protokół kontroli może zawierać obszerną dokumentację, wymagającą szczegółowego odniesienia się do kwestii prawnych, technicznych lub proceduralnych. Projektowany termin utrudni podmiotom rzetelne przygotowanie argumentacji i odpowiedzi na ustalenia kontrolne, co może prowadzić do nierówności proceduralnej. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Wydłużenie tego terminu do 60 dni zapewni możliwość skutecznej analizy protokołu i sformułowania merytorycznych zastrzeżeń. oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 152. Art. 46 ust. 4 UKNF Mając na uwadze brzmienie art. 46 ust. 2 pkt 9 projektu ustawy, z którego wynika fakultatywność zgłaszania zastrzeżeń do projektu protokołu kontroli, UKNF poddaje pod rozwagę modyfikację brzemienia przepisu w następujący sposób: „W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany może zgłosić pisemne zastrzeżenia do jego treści.” Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń (art. 38 ust. 4). 153. Art. 46 ust. 4 ZPP Zalecamy wydłużenie okresu na wniesienie zastrzeżeń do raportu z kontroli do minimum 14 dni. Obecny, 7-dniowy termin jest niewystarczający, zwłaszcza przy rozległym zakresie kontroli i dużej ilości analizowanych danych, materiałów oraz dokumentów, co utrudnia przygotowanie merytorycznych uwag w przypadkach złożonych spraw. Uwaga częściowo uwzględniona Błąd redakcyjny został skorygowany. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest 105 a) Wyeliminować błąd, który wskazuje, że kontrolowany podmiot jest odpowiedzialny za sporządzenie protokołu kontroli. Prosimy, aby protokół był sporządzany przez organ kontrolny. ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 154. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 7 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga częściowo uwzględniona W przepisie określono fakultatywność złożenia zastrzeżeń przez kontrolowanego. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 155. Art. 46 ust. 4 Pracodawcy RP Podkreślenia wymaga, że w przypadkach tak złożonych jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora niejednokrotnie wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 dni – zaproponowanych w art. 46 ust. 4 projektu. Jesteśmy zdania, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Tym bardziej, że brak wniesienia zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Termin 7 dni na ustosunkowanie się do zastrzeżeń regulatora jest zbyt krótki, szczególnie dla złożonych systemów AI. Propozycja: Wydłużenie terminu do co najmniej 60 dni, aby firmy mogły przeanalizować zastrzeżenia i odpowiedzieć. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 156. Art. 46 ust. 5 UKNF Wątpliwości UKNF budzi możliwość podejmowania „dodatkowych czynności kontrolnych” już po sporządzeniu projektu protokołu Uwaga uwzględniona 106 kontroli, co może mieć miejsce już po zakończeniu kontroli. Jest to istotna kwestia w kontekście wskazanych w upoważnieniu do przeprowadzenia kontroli dat rozpoczęcia i przewidywanego terminu zakończenia kontroli. Przepisy dotyczące “dodatkowych czynności kontrolnych” zostały usunięte. 157. Art. 46. ust. 5 i ust. 8 Konfederacj a Lewiatan Uważamy, iż w treści przepisu należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 158. Art. 46 ust. 6 UKNF W ocenie UKNF uzasadnione jest doprecyzowanie w jakiej formie kontrolujący ma sporządzić informację o nieuwzględnieniu zastrzeżeń kontrolowanego do protokołu kontroli. Proponujemy zachować analogiczną formę jak w przypadku protokołu kontroli (postać elektroniczna). Uwaga wyjaśniona Założeniem ustawy jest, aby wszystkie czynności w ramach kontroli były prowadzone w formie elektronicznej. Dotyczy to także kwestii związanych z projektem protokołu i protokołem kontroli, a także wymiany dokumentów w ramach zgłaszanych zastrzeżeń. Dodatkowo informacja o braku uwzględnienia zastrzeżeń powinna znaleźć się w ostatecznym protokole (art. 38 ust. 5 i 8). 159. Art. 46 ust. 8 UKNF W ocenie UKNF uzasadnione jest określenie terminu na sporządzenie protokołu kontroli. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 160. Art. 46 ust. 11 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że po złożeniu podpisu elektronicznego na protokole kontroli (przez którąkolwiek ze stron) technicznie niemożliwe jest dokonanie wzmianki w protokole wskazującej na odmowę jego podpisania. Przedmiotowy przepis powinien zatem ulec odpowiedniej modyfikacji. Uwaga wyjaśniona Możliwość adnotacji jest uzależniona od posiadanego systemu. 161. Art. 47 Konfederacj a Lewiatan W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Uwaga wyjaśniona Wydanie zaleceń pokontrolnych należy do kompetencji Przewodniczącego Komisji. (art. 39 ust. 1). 107 162. Art. 47 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przedmiotowy przepis zawiera błędy redakcyjne, które mogą utrudniać jego właściwą interpretację. W przepisie należy uzupełnić brakujący tekst (po przecinku w ust. 1 i w ust. 2 pkt 1), dostosować numerację (ust. 2 występuje dwa razy) i skorygować odesłania w ust. 2 i 4. Uwaga uwzględniona Skorygowano błędy redakcyjne. 163. Art. 47 ust. 2 pkt 1 Konfederacj a Lewiatan Propozycja brzmienia: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia nie i Uzasadnienie: Proponujemy usunięcie fragmentu „nie i” oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 164. Art. 49 ZPP Uregulować kwestie odpowiedzialności – w szczególności, aby sankcje były nakładane na podmioty, a nie na członków zarządu, co zapewni proporcjonalność środków. Uwaga wyjaśniona W kwestii odpowiedzialności zastosowanie znajdują odrębne przepisy. 108 165. Rozdział IV KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji Rozdział IV Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI i V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo- dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; Uwaga wyjaśniona W projekcie ustawy została uwzględniona rola KRRiT w ramach art. 5 ust. 3 oraz art. 6 ust. 2 projektu ustawy. 166. Art. 49 ust. 2 UKNF Dotychczas zgłoszona przez UKNF uwaga nie została należycie uwzględniona. Wszczęcie postępowania administracyjnego w trybie, o którym mowa w art. 49 ust. 2 pkt 2 i 4 (wszczęcie na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji oraz wszczęcie na wniosek Rady) nie jest trybem wszczęcia postępowania na wniosek, gdyż taki wniosek nie pochodzi od strony postępowania. W przypadkach, o których mowa w art. 49 ust. 2 pkt 2 i 4 projektu ustawy wszczęcie powinno następować z urzędu, w oparciu o informacje przekazane przez wskazane w tych przepisach organy. Również tryb wskazany w art. 49 ust. 2 pkt 3 projektu ustawy nie stanowi o postępowaniu administracyjnym wszczynanym na wniosek w przedmiocie naruszenia przepisów rozporządzenia Uwag wyjaśniona Przepis precyzuje jakie podmioty i w jaki sposób mogą inicjować wszczęcia postępowania. W ocenie projektodawcy wskazania są adekwatne. 109 2024/1689. Wydaje się, że przepis w tym zakresie stanowi o formie współpracy z innymi organami nadzoru. 167. Art. 49 ust. 2 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania postępowania w sprawie naruszenia AI Act Rada pełni funkcję doradczą i konsultacyjną, dlatego nie powinna mieć uprawnień do wnioskowania o wszczęcie postępowania. Nadanie jej takich kompetencji wykracza poza jej zamierzoną rolę. Rada nie posiada wymaganych kompetencji proceduralnych, aby ocenić zasadność wszczęcia postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 168. Art. 49 ust. 2 pkt 4 Konfederacj a Lewiatan Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 169. Art. od 49 RPO Przez wzgląd na rolę urzędu Rzecznika Praw Obywatelskich, opinia koncentruje się na problematyce związanej z koniecznością zapewnienia właściwie ukształtowanej procedury skargowej, która winna urzeczywistniać prawo wniesienia środka prawnego (skargi) do organu nadzoru rynku w rozumieniu art. 85 rozporządzenia 2024/16892, przez co rozumieć należy spoczywający na ustawodawcy krajowym obowiązek wprowadzenia takich rozwiązań specjalnych w systemie prawa, które urzeczywistniając prawo unijne, będą jednocześnie maksymalnie efektywne na poziomie krajowym, bez uszczerbku dla innych już istniejących administracyjnych lub sądowych środków ochrony prawnej. Z tych względów procedura skargowa powinna, w ocenie RPO, przede wszystkim zostać ukształtowana w taki sposób, aby jej przebieg zabezpieczał po stronie osoby fizycznej lub prawnej w możliwie najdalej idącym stopniu prawo do skutecznego środka prawnego oraz skutecznej ochrony sądowej w przypadku naruszenia przepisów rozporządzenia 2024/16893. Na poziomie unijnym prawo to ma Uwaga wyjaśniona Zgodnie z art. 50 (obecnie art. 42) projektu ustawy każda osoba fizyczna ma prawo złożyć skargę, o której mowa w art. 85 rozporządzenia 2024/1689. Skargę składa się do Komisji na naruszenie przepisów tego rozporządzenia lub ustawy. Skarga jest rozpatrywana przez Komisję i w przypadku stwierdzenia możliwości naruszenia ww. przepisów Przewodniczący Komisji może złożyć wniosek o wszczęcie postępowania, o którym mowa w art. 49 (obecnie art. 41). Stroną tego postępowanie nie jest jednak skarżący. Dalej postępowanie przed komisją toczy się w trybie przepisów rozdziału 4 i stosuję się do niego przepisy Kodeksu postępowania administracyjnego. Postepowanie kończy się 110 charakter samoistny, wynikający ze wspólnych tradycji konstytucyjnych państw członkowskich, dodatkowo zabezpieczony w art. 51 ust. 1 Karty praw podstawowych UE wymogiem poszanowania praw podstawowych określonych Karcie, który jest wiążący dla państw członkowskich wyłącznie wtedy, gdy państwa działają w zakresie zastosowania prawa Unii. Z tych względów zasada skuteczności ochrony sądowej wymaga, aby krajowe zasady proceduralne postępowań służące zapewnieniu pełnej ochrony uprawnień, które jednostki wywodzą z prawa Unii, nie uniemożliwiały lub nie czyniły w praktyce nadmiernie utrudnionym wykonywania uprawnień wynikających z porządku prawnego Unii. Ustrojową przestrzeń tego prawa wyznaczają art. 45 ust. 1 oraz art. 77 ust. 2 Konstytucji RP7. Dodatkowo zaś, w pewnych sytuacjach, w których krajowy system prawny, przy rozstrzyganiu sporów cywilnych, przewiduje tryb administracyjnosądowy, lub tryb prejurysdykcyjnego postępowania administracyjnego – także art. 77 ust. 1 Konstytucji RP. W projekcie ustawy sytuacja prawna podmiotu (skarżącego), któremu art. 85 rozporządzenia 2024/1689 gwarantuje prawo do wniesienia skargi do krajowego organu nadzoru została ukształtowana w taki sposób, że skarżący nie będzie stroną wszczętego postępowania i będą mu przysługiwały jedynie ograniczone uprawnienia informacyjne w zakresie: 1) otrzymania skargi przez organ; 2) wszczęcia postępowania, o którym mowa w art. 50 ust. 5 projektu ustawy; oraz 3) zakończenia tego postępowania. Postępowanie to, jak przekonują o tym kolejne odesłania z art. 50 ust. 6 pkt 2 i 3 do art. 50 ust. 5 projektu ustawy, a następnie odesłanie ogólne do przepisów rozdziału 4 tej ustawy – jest zatem postępowaniem w sprawie związanej z postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689, przy czym do postępowania w sprawie głównej (przed Komisją) w zakresie nieuregulowanym stosuje się przepisy ustawy z dnia 14 czerwca 1960 Kodeks postępowania administracyjnego. Zaakcentowania wymaga w tym miejscu, że zgodnie z podstawowymi zamierzeniami rozporządzenia 2024/1689, to państwa członkowskie odgrywają wydaniem decyzji nakazowej. Z naruszeniem przepisów wiąże się też nałożenie administracyjnej kary pieniężnej. Od decyzji stronie (podmiotowi wobec którego wydano decyzje) przysługuje skarga do sądu ochrony konkurencji i konsumentów. W tym postępowaniu skarżący również nie jest stroną. Celem projektowanej procedury jest zagwarantowanie każdej osobie fizycznej lub prawnej, mającej podstawy by uznać, że zostały naruszone przepisy rozporządzenia 2024/1689 wniesienia skargi do organu nadzoru rynku. Wniesienie tej skargi następuje bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej i ma służyć do celów prowadzenia działań z zakresu nadzoru rynku. Nie jest to więc typowa skarga w rozumieniu KPA a raczej „zawiadomienie” które zostanie rozpatrzone zgodnie z ustalonymi przez organ nadzoru procedurami. 111 kluczową rolę w stosowaniu i egzekwowaniu jego postanowień, a co za tym idzie odpowiadają za korzystne ukształtowanie sytuacji prawnej jednostki przed organami krajowymi. W tym zakresie projekt budzi wątpliwości RPO z następujących przyczyn. Po pierwsze, specjalny środek prawny przewidziany w art. 85 rozporządzenia 2024/1689 w kształcie, jaki nadał mu projektodawca w opiniowanym projekcie ustawy, ukształtuje sytuację skarżącego w sposób nietransparentny i mniej korzystny, niż np. tzw. skarga powszechna, uregulowana w art. 227 K.p.a. i nast. (a więc w sposób charakterystyczny np. dla ogólnej procedury zgłaszania naruszeń w rozumieniu dyrektywy 2019/193711, do której odsyła art. 87 rozporządzenia 2024/1689, a nie procedury dochodzenia praw we własnej sprawie). Po drugie, zaznaczenia wymaga, że ustawodawca jest uprawniony do stanowienia prawa odpowiadającego założonym celom politycznym i gospodarczym, zaś władztwo to nabiera szczególnego znaczenia w okresie istotnych przemian społecznych czy ustrojowych. Bez wątpienia konieczność sprostania wyzwaniom, jakie niosą takie procesy może powodować, że projektowane procedury, instrumenty prawne czy instytucje mogą odbiegać od dotychczas przyjętych rozwiązań. Podkreślenia, jednakże wymaga, że projektowane w takim zamierzeniu rozwiązania powinny przykładowo służyć polubownemu załatwianiu sporów, które zwiększa spójność społeczną, przyczyniać się do korzystniejszego usytuowania jednostki w prowadzonym postępowaniu, czy też stwarzać możliwości bardziej efektywnego egzekwowania interesów jednostek. Trudno dostrzec, aby projektowana procedura skargowa przyczyniała się do osiągnięcia któregokolwiek z celów. Po trzecie, przyjęcie rozporządzenia 2024/1689 poprzedzone zostało wielopłaszczyznowym zidentyfikowaniem wyzwań, jakie w szczególności niesie rozwój, wdrażanie, wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie Sztucznej Inteligencji (AI) w wielu różnych sektorach gospodarki i 112 obszarach życia społecznego. Z tych względów konieczność zapobieżenia rozdrobnienia rynku wewnętrznego, jak również wymóg zapewnienia zgodności przepisów rozporządzenia z Kartą praw podstawowych oraz międzynarodowymi zobowiązaniami handlowymi Unii powoduje, że przepisy te muszą jednocześnie: 1) być wysoce zharmonizowane14; 2) być m.in. ukierunkowane na ochronę osób fizycznych, przedsiębiorstw, demokracji, praworządności na wszystkich poziomach obrotu; oraz 3) pozostawiać niezbędną swobodę dla ustawodawcy krajowego, aby ich implementacja mogła dokonać się bez uszczerbku dla innych już istniejących administracyjnych lub sądowych krajowych środków ochrony prawnej, wzmacniając jednocześnie krajowe zdolności niezbędne do skutecznego egzekwowania przepisów rozporządzenia oraz efektywność organizacyjną państw członkowskich. Z perspektywy licznych wyzwań, jakie zostały zidentyfikowane w rozporządzeniu 2024/1689 trudno zatem uznać, że możliwości szerokiego zabezpieczenia sytuacji prawnej jednostki przez ustawodawcę krajowego w procedurze skargowej zostały w projekcie ustawy wykorzystane. Na tle zarysowanych wątpliwości RPO pragnie zauważyć, że w kontekście rozporządzenia 2024/1689 sytuacja prawna jednostki powinna być postrzegana na trzech poziomach ochrony: 1) unijnym; 2) krajowym; oraz 3) sektorowym, czy też branżowym, który łączy poziom krajowy z poziomem unijnym przede wszystkim w drodze dobrowolnych kodeksów postępowania (organy unijne swoje cele osiągają poprzez kodeksy praktyk17), które przyczyniają się do osiągnięcia każdego z trzech ww. wymogów rozporządzenia Dwa ostatnie poziomy należą od projektodawcy krajowego, jak bowiem wyjaśniono – to państwa członkowskie odgrywają kluczową rolę w stosowaniu i egzekwowaniu postanowień rozporządzenia 2024/1689, co wynika zresztą z zasad ogólnych prawa unijnego. 113 Mając na uwadze powyższe pragnę poddać pod uwagę Pana Ministra konieczność ponownego rozważenia w projektowanej ustawie dwóch zasadniczych kwestii wynikających z podniesionych wyżej wątpliwości. Pierwsza dotyczy statusu skarżącego po wniesieniu skargi, o której mowa w art. 85 rozporządzenia 2024/1689, co wymagać będzie oceny i rozstrzygnięcia tego, jakie skutki prawne po stronie skarżącego wywierać powinno wydanie decyzji w zainicjowanym z jego skargi postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689, jak również tego, czy wydanie decyzji otwiera skarżącemu drogę do dochodzenia roszczeń cywilnoprawnych na innych zasadach niż zasady ogólne. W dalszej kolejności będzie to wymagało skorelowania z ustalonym statusem skarżącego odpowiednio zabezpieczonych po jego stronie konkretnych uprawnień, m.in. dostępu do akt, prawa do odwołania czy pouczenia o przysługujących środkach ochrony prawnej, w szczególności po wydaniu decyzji naruszeniowej. Rozstrzygnięcie pierwszej kwestii pozwoli m.in. ocenić: 1) czy ogólne odesłanie do przepisów K.p.a. – sformułowane obecnie w odniesieniu do postępowania w sprawie głównej (przed Komisją) – jest jasne, precyzyjne i wystarczające; 2) czy nie należałoby uregulować wprost możliwości złożenia przez skarżącego skargi na działania lub zaniechania Komisji nawet w drodze odesłania do przepisów działu VIII K.p.a.; a wreszcie 3) czy wymogi formalne dotyczące skargi na działanie systemu sztucznej inteligencji nie są nazbyt restrykcyjne czy też wręcz przeciwnie. Należy przy tym zaznaczyć, że procedura skargowa, o której mowa w art. 85 rozporządzenia 2024/1689 jest procedurą odrębną od procedury zgłaszania naruszeń, o której stanowi art. 87 rozporządzenia (procedura w sprawie ochrony osób zgłaszających naruszenia prawa Unii), dlatego złożona skarga nie powinna de facto być traktowana jak informacja na temat naruszeń w rozumieniu art. 5 pkt 2 dyrektywy 2019/1937. Wniesienia skargi może bowiem być związane z potrzebą dochodzenia w przyszłości zadośćuczynienia lub odszkodowania po stronie skarżącego. Biorąc pod uwagę wyzwania, jakie w szczególności niesie rozwój, wdrażanie, 114 wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie sztucznej inteligencji, możliwość ta powinna zostać zabezpieczona przez ustawodawcę. 170. Art. 50 ust. 1 NSZZ Przepis przewiduje możliwość złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga: niejasne, czy skarga może dotyczyć wyłącznie naruszeń opiniowanej ustawy, czy także innych ustaw regulujących sztuczną inteligencję (np. w zakresie prawa pracy), zgodnie z art. 2 ust. 11 rozporządzenia 2024/1689. Propozycja: doprecyzowanie, że skarga jest możliwa także w przypadku naruszenia innych ustaw dotyczących sztucznej inteligencji, dla wzmocnienia funkcji ochronnej. Uwaga wyjaśniona Zgodnie z art. 50 ust. 1 (obecnie art. 42) skargę, o której mowa w art. 85 rozporządzenia 2024/1689, można złożyć na naruszenie przepisów tego rozporządzenia lub procedowanej ustawy, która służy umożliwianiu stosowania przepisów AI Aktu. 171. Art. 50 ust. 2 pkt 1 NSZZ Wymóg podania w skardze nazwy systemu AI budzi wątpliwości, ponieważ pracownicy mogą nie znać nazwy systemu (brak obowiązku informowania o nazwie). Brak tej wiedzy utrudnia złożenie skargi. Propozycja: uzupełnienie przepisu o możliwość podania opisu systemu zamiast nazwy, np. dodanie wyrażenia „lub opis”. Uwaga uwzględniona Zgodnie z brzmieniem art. 50 (obecnie art. 42) w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 172. Art. 50 ust. 3 NSZZ Przepis określa formę skargi: elektroniczną (z kwalifikowanym podpisem elektronicznym) lub inne środki komunikacji/biuro Komisji w razie braku możliwości złożenia w formie elektronicznej. Uwaga: większość związków zawodowych nie posiada kwalifikowanego podpisu, a niejasne jest, czy brak podpisu spełnia warunek „braku możliwości”. Propozycja: wprowadzenie alternatywy łącznej – skarga w formie elektronicznej lub innymi środkami komunikacji, lub w biurze Komisji, aby uniknąć nadmiernego obciążenia (np. zakupu podpisu). Uwaga wyjaśniona Art. 50 (obecnie art. 42) ust. 3 nie stanowi konieczności opatrzenia skargi kwalifikowanym podpisem elektronicznym. (42 ust. 3 w ogóle już nie przewiduje opatrywania podpisem! Ust. 3 został doprecyzowany. 173. Art. 52 ust. 3 Konfederacj a Lewiatan Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać zniesiony. Komisja jako profesjonalny organ regulacyjny w dziedzinie sztucznej inteligencji, powinna być w stanie analizować dokumentację w języku angielskim bez konieczności jej tłumaczenia. Zdecydowana większość dokumentacji technicznej, prawnej i dotyczącej zgodności w obszarze SI jest sporządzana oryginalnie w języku Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 115 angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Należy wskazać także, że przy wytwarzaniu algorytmów korzysta się z pakietów/bibliotek od różnych dostawców. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. 174. Art. 52 ust. 3 IAB Polska Rezygnacja z obowiązku dostarczania tłumaczeń dokumentów na koszt stron postępowania Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze AI, powinna posiadać wystarczającą znajomość języka angielskiego, aby analizować dokumentację techniczną i prawną bez wymogu jej tłumaczenia. AI to dziedzina regulowana na poziomie międzynarodowym, a wiele kluczowych dokumentów technicznych, prawnych i dotyczących zgodności tworzonych jest w języku angielskim. W wielu krajach UE organy regulacyjne akceptują dokumentację w języku angielskim, który jest standardem międzynarodowym w sektorze nowych technologii. Zmuszanie stron do ponoszenia kosztów tłumaczenia jest niepotrzebnym obciążeniem administracyjnym i finansowym, które nie znajduje uzasadnienia w praktyce rynkowej. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 175. Art. 53 IAB Polska Przegląd przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania prawa Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do 116 Artykuł 53 budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające poważniejszych środków. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: 1. Ograniczone okoliczności, w których AI Act zezwala na wycofanie usług; 2. Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych. zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 176. Art. 53 Pracodawcy RP Stwierdzić należy także, że w art. 53 projekt przewiduje nadmierne środki egzekwowania prawa, takie jak blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku w przypadkach wyraźnie opisanych jako niewymagające bardziej dolegliwych środków. Sugerujemy ponowne rozważenie treści tego przepisu, tak aby zapewnić bardziej zrównoważone podejście do egzekwowania prawa, uwzględniając przy tym ograniczone możliwości wycofania usług zgodnie z Unijnym Aktem o sztucznej inteligencji, skupienie się na identyfikacji zagrożeń w systemach AI zamiast utrudniania działalności firmom oraz zapewnienie przedsiębiorstwom odpowiedniego czasu (minimum 60 dni) na wdrożenie niezbędnych zmian. Przepis przewiduje nadmierne środki egzekwowania prawa (np. blokowanie dostępu lub wycofanie systemu z rynku) w przypadkach niewymagających tak drastycznych działań. Propozycja: Zrównoważenie podejścia, skupienie na identyfikacji zagrożeń zamiast utrudniania działalności firm oraz zapewnienie minimum 60 dni na wdrożenie zmian. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 177. Art. 53 Konfederacj a Lewiatan Lutowa wersja projektu ustawy (2025) wprowadza istotne zmiany w zakresie uprawnień Komisji dotyczących wydawania ostrzeżeń oraz Uwaga wyjaśniona 117 sankcji za ich niezastosowanie. Jak wynika z projektowanych przepisów ostrzeżenie mają być wydawane na podstawie uzasadnionego podejrzenia, a nie niezbitego dowodu naruszenia prawa. Ponadto, ostrzeżenia mają formę postanowienia, a nie decyzji administracyjnej. Pomimo to, proponowane przepisy umożliwiają Komisji nakładanie obowiązków (nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym) i kar pieniężnych w przypadku niezastosowania się przez adresata do ostrzeżenia, co oznacza, że Komisja ma dostać możliwość nakładania kar pieniężnych i nakładania daleko idących obowiązków bez konieczności udowodnienia naruszenia (do wydania ostrzeżenia ma wystarczyć uzasadnione podejrzenie) i bez wydawania decyzji administracyjnej (ostrzeżenie ma mieć postać postanowienia), co jest niezgodne z istotą ostrzeżenia. Takie rozwiązanie budzi poważne wątpliwości, ponieważ ostrzeżenie jako instrument o charakterze \"miękkim\", powinno służyć przede wszystkim zwróceniu uwagi na potencjalne problemy i zachęceniu do podjęcia działań naprawczych. Nie powinno być podstawą do nakładania dotkliwych sankcji bez uprzedniego przeprowadzenia postępowania administracyjnego i udowodnienia rzeczywistego naruszenia przepisów. Konieczne jest wprowadzenie zmian w projekcie ustawy, aby ostrzeżenie pozostało narzędziem niewładczym, a jego niezastosowanie nie skutkowało negatywnymi konsekwencjami dla adresata. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w ustawie, takich jak kontrola, wszczęcie postępowania administracyjnego czy wydawanie decyzji administracyjnych, po przeprowadzeniu odpowiedniego postępowania wyjaśniającego i udowodnieniu naruszenia przepisów. Ponadto, należy również zwrócić uwagę na konieczność zapewnienia dostawcom AI odpowiedniego czasu na dostosowanie się do wydanego ostrzeżenia oraz możliwości odwołania się od niego. Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 118 Co więcej, artykuł 53 budzi obawy KL zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. 178. Art. 53 ZPP Wersji projektu ustawy z lutego 2025 r. przewiduje, że ostrzeżenia będą wydawane na podstawie uzasadnionego podejrzenia, a nie jednoznacznych dowodów naruszenia prawa, i mają formę postanowień, a nie decyzji administracyjnych. Jednakże, przepisy te umożliwiają Komisji nakładanie sankcji – w tym kar pieniężnych czy władczych środków nakazowych (np. blokowanie systemu lub jego wycofanie z rynku) – bez przeprowadzenia pełnego postępowania administracyjnego. Aby zapewnić prawo do obrony i zapobiec nieproporcjonalnym sankcjom, władcze środki nakazowe powinny być stosowane wyłącznie na podstawie decyzji administracyjnej, wydanej po pełnym postępowaniu administracyjnym i udowodnieniu naruszenia, z możliwością odwoławczą. Ostrzeżenie jako narzędzie o charakterze inicjującym, powinno jedynie sygnalizować potencjalne problemy i skłaniać do podjęcia działań naprawczych. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość zastosowania innych środków, takich jak kontrola czy postępowanie administracyjne, po przeprowadzeniu odpowiedniej procedury wyjaśniającej. Dodatkowo, niezbędne jest zapewnienie dostawcom AI wystarczającego czasu na wdrożenie niezbędnych zmian oraz możliwość skutecznego odwołania się od decyzji. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 179. Art. 53 ust. 2 pkt. 1 Konfederacj a Lewiatan Propozycja brzmienia: 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 119 Uzasadnienie: Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o „uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. 180. Art. 53 ust. 3 IAB Polska Wydłużenie terminu na wykonanie działań umożliwiających przywrócenie stanu zgodnego z prawem do 60 dni Obecnie przewidziany 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków naprawczych jest niewystarczający, szczególnie w przypadku dużych podmiotów o złożonej strukturze organizacyjnej i technologicznie zaawansowanych systemach AI. Systemy AI wymagają często czasochłonnych zmian, które mogą obejmować: 1. Modyfikacje informatyczne i zmiany kodu, które muszą zostać przetestowane przed wdrożeniem, 2. Oceny cyberbezpieczeństwa, aby uniknąć wprowadzenia nowych luk w zabezpieczeniach, 3. Kontrole zgodności z prawem, uwzględniające różne regulacje sektorowe i międzynarodowe, 4. Procesy decyzyjne w dużych organizacjach, w których zatwierdzenie zmian wymaga przejścia przez określone procedury wewnętrzne. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 181. Art. 53 ust. 3 Konfederacj a Lewiatan Proponowane brzmienie: 3. Strona w terminie 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Uzasadnienie: Obecny 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków zaradczych w celu usunięcia skutków naruszenia jest zbyt krótki, zwłaszcza dla dużych organizacji o złożonych strukturach i zaawansowanych systemach SI. Takie organizacje Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 120 potrzebują więcej czasu na wdrożenie zmian z powodu wewnętrznych procesów decyzyjnych i hierarchii zatwierdzania. Ponadto systemy SI są często złożone technicznie, a wymagane modyfikacje mogą obejmować: ● inżynierię oprogramowania i zmiany w kodowaniu, które należy przetestować przed wdrożeniem, ● oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, ● kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z 14 do co najmniej 30 dni. Pozwoli to na przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków zaradczych. 182. Art. 53 ust. 3 Pracodawcy RP W art. 53 ust. 3 projektu przewiduje się również okres 14 dni na przekazanie informacji o realizacji ostrzeżenia Przewodniczącego Komisji KRiBSI. Ponownie stwierdzić należy, że jest to zdecydowanie zbyt krótki termin, a firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na przekazanie informacji o realizacji ostrzeżenia KRibSi jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 183. Art. 53 ust. 4 Konfederacj a Lewiatan Proponowane brzmienie: 4. W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary 121 postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Uzasadnienie: Przepis jest zbyt daleko idący jak na „uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy, tj. spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na tym etapie nie jest pewne, że do tego doszło. pieniężnej w przypadku, gdy strona nie wykona postanowienia. 184. Art. 54 ust. 1 IAB Polska Precyzyjne określenie zakresu decyzji podejmowanych przez Komisję Uwaga uwzględniona Dokonano doprecyzowania w art. 54 ust. 1. (obecnie art. 46). 122 Projektowane przepisy nie precyzują, czy decyzja Komisji może dotyczyć wyłącznie naruszeń AI Act, czy także projektowanej ustawy. Brak jednoznacznych regulacji powoduje niejasność co do zakresu uprawnień Komisji i ryzyko błędnej interpretacji prawa. Ustawa o systemach sztucznej inteligencji jest odrębnym aktem prawnym, dlatego konieczne jest jasne wskazanie czy decyzja może obejmować naruszenia tej ustawy. 185. Art. 54 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uzasadnienie: Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 186. Art. 54 ust. 2 Konfederacj a Lewiatan Proponowane brzmienie: 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Uzasadnienie: Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 187. Art. 54 ust. 2 IAB Polska Wydłużenie terminu na realizację zawiera środków nakazujących usunięcie skutków naruszenia obowiązków wynikających z AI Act do 60 dni Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony 123 Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 188. Art. 54 ust. 2 Pracodawcy RP Artykuł 54 ust. 2 projektu, który przewiduje także 14 dni na usunięcie skutków naruszenia obowiązków wynikających z Aktu o AI. W tym przypadku ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na usunięcie skutków naruszenia obowiązków z Aktu o AI jest niewystarczający. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 189. Art. 54 ust. 1 oraz art. 55 ust. 2 ZPP a) Analiza art. 55 ust. 2 wskazuje na istotne problemy dotyczące przyznania Komisji uprawnień do nakazywania zaprzestania użytkowania lub wycofania systemu z rynku. Główne zastrzeżenia koncentrują się wokół niedostatecznej precyzji kryteriów uzasadniających te działania, co może prowadzić do dowolności w podejmowaniu decyzji oraz naruszać fundamentalną zasadę pewności prawa. Szczególny niepokój budzi także ustanowiony termin 30 dni przed wyborami jako okres na złożenie odwołania od decyzji Komisji. Przyjęte rozwiązanie znacząco ogranicza efektywność ochrony prawnej podmiotów, których decyzja dotyczy, jednocześnie umożliwiając natychmiastowe wdrożenie środków mogących skutkować trudnymi do odwrócenia konsekwencjami. W świetle powyższych zastrzeżeń rekomendujemy eliminację z projektu legislacyjnego zapisów przyznających Komisji uprawnienia do wydawania decyzji zobowiązujących operatora do zaprzestania wykorzystywania systemu lub jego usunięcia z rynku bądź eksploatacji na podstawie nieprecyzyjnych i subiektywnych kryteriów. Zakres kompetencji Komisji w przedmiotowym obszarze powinien zostać ściśle zawężony do działań enumeratywnie wskazanych w art. 79 rozporządzenia 2024/1689 (AI Act). Takie rozwiązanie zapobiegłoby potencjalnym nadużyciom, wykorzystaniu politycznemu oraz zagwarantowało realną możliwość skorzystania z procedury odwoławczej i należytą ochronę prawną uczestników postępowania. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). W zakresie art. 55 (obecnie art. 47) należy wyjaśnić, że ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. W przepisie odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów 124 190. Art. 54 ust. 3 Konfederacj a Lewiatan Jeśli decyzja o karze może być wydana razem z decyzją o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 191. Art. 55 UKNF Pomimo informacji o uwzględnieniu dotychczas zgłoszonych przez UKNF uwag, analiza projektowanego brzmienia przepisu prowadzi do wniosku, że w dalszym ciągu wymaga on gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów AI stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Należy zauważyć, że przepis art. 79 ust. 1-5 rozporządzenia 2024/1689 daje organom nadzoru uprawnienie do żądania wycofania systemu AI z rynku, jeżeli w wyniku jego oceny organ dojdzie do wniosku, że system, stwarzający ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych, nie jest zgodny z wymogami rozporządzenia. Zgodnie z art. 79 ust. 2 akapit 2 rozporządzenia 2024/1689 w przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby: 1) zapewnić zgodność tego systemu AI z wymogami, 2) wycofać ten system z rynku lub z użytku. Przepis art. 55 projektu ustawy nie przewiduje natomiast możliwości podjęcia działań naprawczych w celu zapewnienia zgodności systemu AI. Uwaga wyjaśniona Przepisy art. 55 (art. 47) ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. Nie wyklucza ona natomiast zastosowania przez podmiot środków naprawczych. 125 Ponadto aktualne brzmienie przepisu nie uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Może to sugerować, że stanowi odzwierciedlenie instytucji z art. 82 rozporządzenia 2024/1689, a więc sytuacji, gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w tym rozporządzeniu, ale stwarza ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. W ramach procedury przewidzianej w art. 82 rozporządzenia 2024/1689 przewidziano jednak, że organ zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ. Niezależnie od powyższego UKNF ponownie wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). 192. Art. 55 ust. 2 Konfederacj a Lewiatan Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z Uwaga uwzględniona W przepisie (art. 47 ust. 2) odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów Wykreślony został fragment przepisu 126 rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejednoznaczne, co uniemożliwia precyzyjne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów i wskazówek, które Komisja powinna wziąć pod uwagę przy podejmowaniu decyzji, stwarza możliwość potencjalnie arbitralnego podejmowania decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa, które stanowią fundament demokratycznego państwa prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W rezultacie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co byłoby szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Należy podkreślić, że analizowane uprawnienie Komisji do podejmowania tak drastycznych środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, czyli nadmiernej regulacji wykraczającej poza wymogi unijne, którego w polskiej regulacji miało nie być. Co więcej, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu, co dodatkowo podważa jego zasadność i legitymację. W związku z powyższym, postulujemy całkowite usunięcie tego przepisu z projektu ustawy, a uprawnienia Komisji powinny być obejmujący treść: “lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej”. 127 ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 193. Art. 55 ust. 2 IAB Polska Usunięcie fragmentu niejasnego uprawnienia Komisji do nakazania wycofania systemu z rynku z uwagi na wpływ na opinie i nastroje społeczne Obecne brzmienie przepisu przyznającego Komisji prawo do nakazania zaprzestania korzystania z systemu lub wycofania go z rynku jest zbyt szerokie i niejasne. Problematyczne kwestie: 1. Brak precyzyjnych kryteriów, na podstawie których Komisja może podejmować taką decyzję, w kontekście opinii i nastrojów społecznych, 2. Brak jednoznacznej podstawy prawnej w AI Act w zakresie opinii i nastrojów społecznych, 3. Możliwość arbitralnego stosowania przez Komisję środków o skrajnych konsekwencjach dla przedsiębiorców, 4. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Ponadto, Ministerstwo nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego uprawnienia, w tym do AI Act jako podstawy prawnej tego zakresu przepisu. Jeśli Ministerstwo uzna taki środek za konieczny, powinien on być przedmiotem odrębnej inicjatywy ustawodawczej, zawierającej jasne uzasadnienie oraz podstawę prawną. Uwaga uwzględniona W przepisie (art. 47) odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 194. Art. 55 ust. 4 Konfederacj a Lewiatan Zapytanie: Gdzie w treści ustawy opisany jest tryb przyspieszony? Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu (art. 47). 195. Art. 56 PGRP Proponuje się uzupełnić art. 56 dotyczący odpowiedniego stosowania k.p.a. w odniesieniu do postępowań prowadzonych przed Uwaga uwzględniona 128 Komisją w zakresie nieuregulowanym w projekcie również o postępowania przed Przewodniczącym Komisji, który może w toku postępowania – na podstawie art. 53 ust. 1 projektu – wydawać stronie ostrzeżenie, w drodze postanowienia. W projektowanych przepisach brak jest kompleksowego uregulowania wydawania postanowień, o których mowa w art. 53 ust. 1, a wobec braku odesłania do k.p.a. w tym wypadku, mogą powstać wątpliwości interpretacyjne. Przepis (art. 48) został uzupełniony w zakresie odpowiedniego stosowania k.p.a. w odniesieniu do postępowań przed Przewodniczącym Komisji. 196. Art. 57 Konfederacj a Lewiatan Proponowane brzmienie: Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uzasadnienie: Ad. ust. 1 - Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ad. ust.2 - Czy nie powinna być tu mowa decyzji z art. 54 ust. 1 i 3? Ad. ust.3 - W ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. art. 57 ust. 2 Konfederacj a Lewiatan Uwaga: Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 129 zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. 197. Art. 57 ust. 2 IAB Polska Poprawa omyłki pisarskiej dot. wskazania określonych jednostek redakcyjnych Zakładamy, że w art. 57 ust. 2 ustawy wystąpiła omyłka redakcyjna. Obecne brzmienie przepisu powinno odnosić się do art. 54 ust. 1 i art. 54 ust. 2, a nie do art. 55 ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 198. Art. 57 ust. 2 UKNF Przepisy art. 55 ust. 3 i 4, do których odsyła projektowany art. 57 ust. 2, nie zawierają podstawy do wydawania decyzji przez Komisję, ani nie mówią o takich aktach administracyjnych. Tym samym odesłanie jawi się jako błędne. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 199. Art. 57 ust. 3 UKNF Przepis zawiera błędne odesłanie do ust. 1, w związku z czym UKNF wskazuje na konieczność ponownej jego weryfikacji. Odwołania jako środek zaskarżenia są wskazane w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 200. Art. 57 ust. 3 PGRP Art. 57 ust. 3 odsyła do stosowania przepisów k.p.c. wyłącznie w odniesieniu do postępowań w sprawach zażaleń od postanowień Komisji, o których mowa w ust. 1. Nie obejmuje natomiast odwołań od decyzji Komisji, o których mowa w ust. 2. Rekomenduje się rozważenie uzupełnienia zakresu przedmiotowego tego przepisu również o sprawy dotyczące odwołań, o których mowa w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. art. 57 ust.4 w zw. z art. 107 Konfederacj a Lewiatan Uwaga: Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 47988f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 49). 201. Art. 57 ust. 4 IAB Polska Jednolita procedura odwoławcza dla ostrzeżeń i decyzji Komisji Obecnie ostrzeżenia wydawane przez Komisję nie podlegają analogicznej procedurze odwoławczej jak decyzje dotyczące naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (poza oczywistymi różnicami wynikającymi z wydawania ostrzeżenia w formie postanowienia, a nie decyzji). Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję zażalenia za słuszne (dodany Art. 49 ust. 5). 130 Brak jednolitej procedury odwoławczej powoduje niepewność prawną i niespójność ochrony podmiotów podlegających regulacji. Zapewnienie jednolitych ram proceduralnych zagwarantuje skuteczność, przewidywalność i spójność prawną. 202. Art. 57 ust. 4 PGRP Rekomenduje się rozważenie możliwości uznania przez Komisję za zasadne – w toku rozpatrywania środka zaskarżenia – nie tylko odwołania, ale także zażalenia. Ponadto rekomenduje się określenie terminu na uznanie przez Komisję odwołania (oraz zażalenia) za słuszne. Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję odwołania oraz zażalenia za słuszne (art. 49 ust. 4 i 5). 203. Art. 61 Konfederacj a Lewiatan Propozycja brzmienia: Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 131 Uzasadnienie: Ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 UOKK - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. 204. Art. 61 RPD Obecnie projektowany art. 61 ustawy o systemach sztucznej inteligencji wyłącza możliwość zawarcia układu o nadzwyczajnym złagodzeniu sankcji tylko w razie wystąpienia niektórych przypadków „poważnego incydentu” w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689, to jest incydentu lub nieprawidłowego działania systemu AI prowadzącego do śmierci osoby, poważnego uszczerbku na zdrowiu, zakłócenia infrastruktury krytycznej oraz poważnych szkód na mieniu lub środowisku, natomiast nie uwzględnia sytuacji wskazanej w art. 3 pkt 49 lit. c tego rozporządzenia, czyli incydentów lub nieprawidłowego działania systemu AI, które bezpośrednio lub pośrednio prowadzą do naruszenia obowiązków przewidzianych w prawie Unii mających na celu ochronę praw podstawowych. Pominięcie tej kategorii poważnych incydentów powoduje, że podmioty, których systemy sztucznej inteligencji doprowadziły do naruszenia podstawowych praw i wolności, na przykład pozbawiły dziecko równych szans na dostęp do edukacji w wyniku nieprawidłowego działania, mogą korzystać z możliwości łagodniejszego traktowania lub nawet uniknąć sankcji. W konsekwencji takie podmioty, mimo naruszenia w sposób pośredni lub bezpośredni podstawowe prawa dzieci, narażając je na poważne konsekwencje zdrowotne, emocjonalne czy rozwojowe, mogłyby uniknąć pełnej odpowiedzialności, co budzi zasadnicze wątpliwości z perspektywy ochrony praw najmłodszych. Jako Rzeczniczka Praw Dziecka postuluję zatem wprowadzenie do katalogu przesłanek negatywnych wyłączenia możliwości zawarcia układu, jeżeli incydent lub nieprawidłowe działanie systemu AI, prowadzą do naruszenia obowiązków przewidzianych w prawie Unii Uwaga wyjaśniona Należy zgodzić się z tezą, że naruszenie praw podstawowych w szczególności dzieci jest bardzo istotną podlegającą szczególnej ochronie. Jednak zasadne jest aby zastosowanie możliwości zastosowania układu w sprawie nadzwyczajnego złagodzenia sankcji odnosiło się do najwyższej wagi negatywnych skutków działania AI. Możliwość zawarcia układu jest pewnego rodzaju popchnięciem do autorefleksji po stronie podmiotu naruszającego przepisy co będzie miało pozytywne odziaływanie na jego postępowanie na przyszłość. Dodatkowo należy wskazać, że aby podmiot naruszający prawo mógł przystąpić do układu musi już podjęć konkretne kroki i zaprzestać naruszania prawa albo usunąć stan niezgodności z prawem. Dodatkowo nawet po pełnieniu warunków nadzwyczajne złagodzenie kary nie będzie stosowane obligatoryjnie. Komisji przypisano prawo do wydania postanowienia o braku możliwości zawarcia układu. Konkretne sprawy będą zatem rozpatrywane indywidualnie. Niezależnie od należy ponadto wziąć pod uwagę że powyższego przy wymierzaniu kar będzie zawsze brane okoliczność że przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. 132 mających na celu ochronę praw podstawowych dzieci lub gdy Komisja stwierdzi wykorzystanie systemów sztucznej inteligencji w sposób naruszający pośrednio lub bezpośrednio podstawowe prawa i wolności dzieci, w szczególności, gdy istnieje wysokie prawdopodobieństwo wyrządzenia im szkody na skutek nieprzestrzegania wymogów rozporządzenia 2024/1689 lub niewłaściwej realizacji tych obowiązków. Naruszenia wynikające z nieprzestrzegania zasad rozporządzenia 2024/1689 mogą prowadzić do długotrwałych i nieodwracalnych skutków w zakresie rozwoju emocjonalnego i psychicznego dzieci, a także narażać je na szkodliwe treści lub nieetyczne praktyki komercyjne, dlatego umożliwienie takim podmiotom uniknięcia odpowiedzialności stanowi lukę w systemie ochrony najmłodszych i nie znajduje przekonującego uzasadnienia w świetle fundamentalnego znaczenia, jakie prawo unijne przypisuje ochronie dzieci. Naruszenia wynikające z nieprzestrzegania rozporządzenia 2024/1689 mogą prowadzić do poważnych i długotrwałych konsekwencji dla dzieci, zwłaszcza w sferze rozwoju emocjonalnego i psychicznego, a także narażać je na szkodliwe treści czy nieetyczne praktyki komercyjne. Przykładowo, jeśli system AI wspierający sędziego w sprawach rodzinnych i opiekuńczych nieprawidłowo klasyfikuje lub filtruje wypowiedzi dziecka, w konsekwencji nie uwzględniając ich w rekomendacjach przedstawianych sędziemu, dochodzi do naruszenia prawa dziecka do bycia wysłuchanym i uwzględniania jego opinii w sprawach, które go dotyczą. Umożliwienie dostawcom systemów AI, których rozwiązania prowadzą do takich naruszeń, uniknięcia odpowiedzialności stanowi istotną lukę w systemie ochrony najmłodszych i nie znajduje uzasadnienia w świetle fundamentalnego znaczenia, jakie ochrona dzieci ma w prawie Unii. Dlatego w sytuacjach, w których incydent lub nieprawidłowe działanie systemu AI prowadzi do naruszenia podstawowych praw i wolności dzieci, należy wyłączyć w ustawie możliwość zawarcia układu pozwalającego na nadzwyczajne złagodzenie sankcji lub całkowite odstąpienie od ich nałożenia. 133 205. Art. 61 ust. 6 Konfederacj a Lewiatan Propozycja brzmienia: 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 206. Art. 61 ust. 7 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 1. Art. 62 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. Uwaga wyjaśniona Termin na zawarcie układu uwzględnia specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 134 207. Art. 62 ust. 4 Konfederacj a Lewiatan Uprawnienia Komisji do zakończenia negocjacji ugodowych są obecnie zbyt szerokie i niejasne. Proponujemy wprowadzenie konkretnych kryteriów, które muszą zostać spełnione, aby Komisja mogła zakończyć negocjacje. Dodatkowo, Komisja powinna być zobowiązana do przedstawienia uzasadnienia swojej decyzji, aby zapewnić stronom przejrzystość i zrozumienie podstawy prawnej i faktycznej takiego zakończenia. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 208. Art. 62 ust. 4 IAB Polska Ograniczenie arbitralności w zakończeniu procesu ugodowego przez Komisję Obecne przepisy przyznają Komisji zbyt szerokie uprawnienia do zakończenia procesu ugodowego bez określenia jasnych kryteriów. Brak wymogu uzasadnienia tej decyzji może prowadzić do arbitralności i niepewności prawnej dla podmiotów regulowanych. Rekomendujemy: 1. Wprowadzenie konkretnych przesłanek, na jakich Komisja może zakończyć proces ugodowy, 2. Obowiązek uzasadnienia decyzji, aby strony mogły zrozumieć jej podstawę prawną i faktyczną. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 209. Art. 62 ust. 4 ZPP Ustalić kryteria, które umożliwią zakończenie negocjacji ugodowych przez organ nadzoru, wraz z obowiązkiem przedstawienia uzasadnienia decyzji. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 1. Art. 66 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uzasadnienie: Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona. Poprawiono odesłanie w pkt 2. 210. Art. 66 ust. 2 pkt 3 IAB Polska Doprecyzowanie definicji złej wiary w procesie zawierania ugody Uwaga wyjaśniona „Zła wiara” jest pojęciem znanym w prawu polskiemu i nie wymaga dodatkowego 135 Brak definicji złej wiary powoduje niepewność prawną i daje Komisji nadmierną swobodę w podejmowaniu decyzji o zakończeniu procesu ugodowego. Rekomendujemy dodanie przykładowej listy działań, które mogą być uznane za prowadzenie negocjacji w złej wierze. Ograniczy to ryzyko arbitralnego stosowania przepisów, zapewnieni przewidywalności i większą ochronę podmiotom regulowanym. doprecyzowania. We wskazanym przepisie została wskazana jako działanie strony postępowania mające charakter pozorny i nie zmierzające do zawarcia układu. 211. Art. 70 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 212. Art. 70 ust. 3 IAB Polska Wprowadzenie wymogu zachowania poufności i przestrzegania zasad ochrony danych, w szczególności tajemnicy przedsiębiorstwa Projektowane przepisy przyznają Komisji zbyt szerokie uprawnienia do żądania informacji, wyjaśnień i dokumentów dotyczących realizacji zobowiązań układowych. Brak mechanizmów ochrony może prowadzić do niekontrolowanego dostępu do poufnych danych biznesowych. Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 213. Art. 71 ust. 2 IAB Polska Ograniczenie kary do spółek dopuszczających się naruszenia Uwaga wyjaśniona Art. 71 został wykreślony. 136 Artykuł 71 ust. 2 w niewłaściwy sposób nakłada kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. 214. Art. 71 ust. 2 Pracodawcy RP Projekt w sposób niewłaściwy nakłada kary na członków zarządu. Wskazujemy, że Akt o AI nie daje podstaw do nakładania kar pieniężnych na członków zarządu spółki. Uwaga wyjaśniona Art. 71 został wykreślony. 215. Art. 74 ust. 2 UKNF W ocenie UKNF przepis wymaga ponownej weryfikacji. Z projektu ustawy, nie wynika, aby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wydawała zezwolenia, do których odnosi się ten przepis. Uwaga uwzględniona Wykreślono termin „zezwolenie”. 216. Art. 74 ust. 2 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwag uwzględniona Przepis został przeredagowany. Wykreślono termin „zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. Katalogu sankcji wynika z przepisów ustawy i rozporządzenia 2024/1689. 217. Art. 77 IAB Polska Możliwość oznaczania informacji jako niepublicznych przy publikacji decyzji Ustawa powinna jednoznacznie wskazywać, że niektóre informacje nie mogą być ujawniane przez Komisję, zwłaszcza jeśli stanowią tajemnicę przedsiębiorstwa lub informacje wrażliwe. Rekomendujemy także wprowadzenie prawnego obowiązku zachowania poufności oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 218. Art. 77 ZPP Wprowadzić przepisy dotyczące publikacji decyzji – określić, które informacje objęte są ochroną, aby nie dochodziło do nieuprawnionego ujawnienia danych wrażliwych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po 137 usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 219. Art. 77 Konfederacj a Lewiatan Ustawa o systemach sztucznej inteligencji powinna zawierać przepisy umożliwiające oznaczanie przez podmioty pewnych informacji jako niepublicznych w przypadku publikacji decyzji. Komisja powinna mieć wyraźny zakaz ujawniania niektórych wrażliwych informacji. Ustawa powinna również wprowadzać prawny obowiązek zachowania poufności, szczególnie w odniesieniu do tajemnic przedsiębiorstwa oraz zapewniać zgodność wymogów dotyczących publikacji z przepisami o ochronie danych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 220. Art. 77 ust. 1 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Przedstawione wyjaśnienie projektodawcy nie znajduje oparcia w przedłożonych do opiniowania przepisach – brak jest przepisu nakazującego respektowanie ustawowej ochrony informacji, a charakter art. 77 ust.1 projektu ustawy może w praktyce budzić wątpliwości odnośnie do tego, czy ma on charakter szczególny do przepisów o ochronie informacji, zwłaszcza w kontekście art. 26 § 5 ustawy z dnia 6 czerwca 1997 r. Kodeks karny, wyłączającego odpowiedzialność karną w przypadku wykonania jednego z pozostających w kolizji obowiązków z jednoczesnym naruszeniem innego obowiązku (w tym wypadku dopełnienie obowiązku publikacji decyzji administracyjnej pozostaje w kolizji z ewentualnym naruszeniem obowiązku przestrzegania zakazu ujawnienia informacji). Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 221. Art. 77 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w Uwaga częściowo uwzględniona Przepis otrzymał nowe brzmienie. 138 tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uzasadnienie: Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. 222. Rozdział 6 PARP Projekt ustawy nakłada obowiązek raportowania poważnych incydentów związanych z wykorzystaniem systemów sztucznej inteligencji, co może prowadzić do dublowania obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa. W przypadku podmiotów podlegających obu regulacjom może to skutkować koniecznością zgłaszania tego samego incydentu do różnych instytucji, generując zbędne obciążenia administracyjne dla przedsiębiorców. Z tego względu wskazane byłoby doprecyzowanie przepisów w taki sposób, aby umożliwić koordynację procesów raportowania w ramach jednolitego systemu zgłaszania incydentów. Uwaga wyjaśniona Rozdział 6 obejmuje wyłącznie poważne incydenty zaistniałe w związku z wykorzystaniem systemów sztucznej inteligencji, przez co nie może być mowy o “dublowaniu obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa”. 223. Art. 78 ZPP Obowiązujący termin 24 godzin na zgłaszanie poważnych incydentów wprowadza istotne wyzwania operacyjne, szczególnie dla złożonych organizacji zarządzających zaawansowanymi systemami informatycznymi, w tym technologiami AI. Ta krótka perspektywa czasowa wymusza niewłaściwą alokację zasobów - zamiast koncentrować wysiłki na minimalizacji szkód i wdrażaniu działań naprawczych, podmioty muszą priorytetyzować przygotowanie formalnego zgłoszenia. Okres jednej doby jest niewystarczający do przeprowadzenia wnikliwego dochodzenia, które wymaga skompletowania i analizy materiału dowodowego, identyfikacji pierwotnych przyczyn incydentu, oszacowania pełnego zakresu potencjalnych następstw oraz koordynacji pomiędzy różnymi komórkami organizacyjnymi. Sytuacja jest dodatkowo skomplikowana w przypadku podmiotów działających globalnie, gdzie różnice stref czasowych stanowią dodatkową barierę w realizacji procesu. Postulujemy wydłużenie terminu raportowania poważnych incydentów do 7 dni. Proponowana zmiana umożliwi organizacjom realizację pogłębionej analizy technicznej zdarzenia, zebranie kompletnej dokumentacji obejmującej dzienniki systemowe i ślady Uwaga uwzględniona Przepis (art. 69) uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 139 cyfrowe, skuteczną integrację działań pomiędzy departamentami oraz opracowanie kompleksowego raportu zawierającego merytoryczną analizę wszystkich aspektów zdarzenia. Wprowadzone modyfikacje - zarówno w zakresie ograniczenia arbitralnych uprawnień Komisji zgodnie z art. 79 rozporządzenia 2024/1689, jak i wydłużenia terminu raportowania incydentów - przyczynią się do wzmocnienia ochrony prawnej podmiotów, zapobiegania potencjalnym nadużyciom oraz podniesienia jakości i kompletności raportowanych informacji, co bezpośrednio wpłynie na efektywność procesów zarządzania incydentami i bezpieczeństwem systemów informatycznych w perspektywie długoterminowej. 224. Art. 78 Konfederacj a Lewiatan Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości. Uzasadnienie: W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Analogiczne zapisy zawiera art. art. 73 ust.2-4 Rozporządzenia 2024/1689 – w związku z tym unijny prawodawca nie wymaga tak restrykcyjnego terminu jak zaproponowany w projekcie ustawy. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 225. Art. 78 Pracodawcy RP Zgodnie z art. 73 Aktu o AI zgłoszenia, o których mowa w ww. przepisie dokonuje się niezwłocznie po ustaleniu przez dostawcę Uwaga wyjaśniona 140 związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie. Zgodnie z brzemieniem z art. 78 projektu polski podmiot ma jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uważamy, że wskazany termin jest niewystarczający – proponujemy zastosowanie mechanizmu analogicznego do działającego na gruncie RODO, czyli wydłużenie terminu do 72 godzin. Polski projekt daje tylko 24 godziny na zgłoszenie poważnego incydentu, podczas gdy Akt o AI przewiduje 15 dni. Propozycja: Wydłużenie terminu do 72 godzin, analogicznie do RODO. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 226. Art. 78 ust. 1 IAB Polska Wydłużenie terminu raportowania poważnych incydentów z 24 godzin do 72 godzin. 24-godzinny termin raportowania incydentów jest nieracjonalnie krótki i może uniemożliwić rzetelną ocenę sytuacji, szczególnie dla dużych organizacji. Problemy: 1. Złożone organizacje mogą nie mieć wystarczająco dużo czasu na zebranie danych, 2. Strefy czasowe mogą utrudnić terminowe raportowanie, 3. Niewystarczający czas na analizę przyczyn incydentu i jego skutków, a także na określenie, czy jest on poważny. Zwracamy uwagę na art. 73 ust. 2 AI Act: Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 141 stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Proponujemy mechanizm znany z RODO, czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: “Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości.”. 227. Art. 78 ust. 1 Konfederacj a Lewiatan 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. 24 godziny to niewystarczający czas na przeprowadzenie dogłębnej analizy incydentu, zebranie niezbędnych danych, ocenę jego potencjalnego wpływu oraz podjęcie świadomych decyzji dotyczących dalszych działań. W przypadku organizacji o rozbudowanej strukturze, proces ten może być dodatkowo utrudniony przez konieczność koordynacji działań między różnymi działami i jednostkami. W przypadku incydentów związanych z zaawansowanymi technologiami, takimi jak sztuczna inteligencja, ocena ich powagi i potencjalnych konsekwencji może wymagać zaangażowania specjalistów oraz przeprowadzenia szczegółowych analiz technicznych, co jest niemożliwe do wykonania w ciągu 24 godzin. Ponadto, w dużych organizacjach, proces raportowania incydentów może obejmować wiele etapów, takich jak identyfikacja, Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 142 klasyfikacja, analiza, eskalacja oraz przygotowanie raportu. Dla organizacji działających w różnych strefach czasowych 24-godzinny termin raportowania może okazać się jeszcze bardziej problematyczny. W związku z powyższym konieczne jest wydłużenie terminu raportowania poważnych incydentów do co najmniej 7 dni. Zapewni to wystarczającą ilość czasu na: ● Dogłębną analizę incydentu: Identyfikację przyczyn, ocenę skutków oraz potencjalnego wpływu. ● Zebranie niezbędnych danych: Zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu. ● Koordynację działań: Zapewnienie współpracy między różnymi działami i jednostkami w celu skutecznego reagowania na incydent. ● Przygotowanie kompleksowego raportu: Sporządzenie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. 228. Art. 80 ust. 1 IAB Polska Ograniczenie przekazywania danych o incydentach w zakresie innych podmiotów Projektowany przepis pozwala Komisji na szerokie udostępnianie danych o incydentach, co może prowadzić do nadużyć. Rekomendujemy: 1. Określenie jasnych kryteriów, takie udostępnienie może mieć miejsce, 2. Wprowadzenie zabezpieczeń chroniących dane nieosobowe np. tajemnicę przedsiębiorstwa. Pozwoli to ograniczyć nieuzasadnione przekazywanie danych między instytucjami. Uwaga wyjaśniona Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. Dane przekazywane pomiędzy instytucjami udostępniane są w zakresie niezbędnym do realizacji przez te organy ich zadań określonych w rozporządzeniu 2024/1689 lub ustawie z uwzględnieniem przepisów o ochronie danych osobowych. Przekazanie następuje z urzędu lub na wniosek, a podstawą do ich udostepnienia są przepisy powszechnie obowiązujące. 229. Art. 80 ust. 1 UKNF Uzasadnione jest dodanie do katalogu podmiotów wymienionych w art. 80 ust. 1 projektu ustawy Komisji Nadzoru Finansowego, w celu Uwaga uwzględniona 143 pozyskiwania przez nią informacji na temat poważnych incydentów zaistniałych w związku z wykorzystaniem systemów AI wykorzystywanych przez podmioty objęte nadzorem KNF. Tego rodzaju informacje pozostają istotne z perspektywy nadzoru sprawowanego przez KNF, w tym z perspektywy bieżącej oceny ryzyka dla podmiotów rynku finansowego i nieprofesjonalnych uczestników tego rynku z wykorzystania przez podmioty objęte nadzorem KNF systemów sztucznej inteligencji. W art. 80 (obecnie art. 70) w ust. 1 dodano Przewodniczącego Komisji Nadzoru Finansowego. 230. Art. 80 ust. 1 ZPP Ustalić kryteria udostępniania raportów i danych organom, co zapewni odpowiednią ochronę informacji przy jednoczesnej transparentności postępowań. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 231. Art. 80 ust. 1 Konfederacj a Lewiatan Obecny przepis przyznający Komisji uprawnienia do przekazywania raportów i powiązanych danych wielu podmiotom jest zbyt szeroki i może prowadzić do nadużyć. Ustawa nie określa jasno okoliczności, w których takie udostępnianie danych może nastąpić. W związku z tym zalecamy wprowadzenie jasnych i szczegółowych kryteriów, które będą określać, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. Należy również wprowadzić wyraźne zabezpieczenia w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa, które obecnie nie są wystarczająco chronione. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 232. Art. 81 ust. 4 pkt 1 PCA Zgodnie z projektem „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji uczestniczy w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” Zapis sugeruje wiodącą rolę PCA w tym zakresie przy jednoczesnym przypisaniu kompetencji organu notyfikującego do ministra właściwego do spraw informatyzacji. Proponujemy usunięcie tego Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689;”. 144 zapisu lub przeredagowanie zapisu, aby lepiej oddawał podział kompetencji: „Polskie Centrum Akredytacji wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” 233. Art. 81 ust. 4 pkt 2 PCA Zgodnie z projektem „Polskie Centrum Akredytacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji”. Proponujemy przeredagowanie zapisu tak aby punkt ten otrzymał brzmienie: „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;” Zaproponowane podejście umożliwia bardziej elastyczne reagowanie i jest standardowo stosowane w innych obszarach. Rozwiązanie zaproponowane obecnie w projekcie może generować konieczność opracowywania „sztucznej” aktualizacji w przypadku braku takiej konieczności. Jednocześnie zaproponowany termin 24 miesięcy jest terminem w żaden sposób niezwiązanym z cyklem akredytacji wynoszącym 4 lata. PCA zawsze w razie potrzeby opracowuje szczegółowe programy akredytacji, opracowywanie programów akredytacji jest jednym z wymagań normy PN-EN ISO/IEC 17011, które jednostka akredytująca musi spełniać. Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „2) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;”. 234. Art. 82 ust 3 pkt 1 PCA Art. 43 rozporządzenia 2024/1689 nie dotyczy wprost procedury oceny na potrzeby akredytacji i nie stanowi podstawy akredytacji. Proponujemy zmienić treść przepisu na następującą: Uwaga uwzględniona 145 „Certyfikat akredytacji, o którym mowa w art. 24. ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689” Przepisowi (art. 72 ust. 3 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) certyfikat akredytacji, o którym mowa w art. 24 ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689;”. 235. Art. 82 ust. 3 pkt 2 PCA Dokumentem potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689 zgodnie z ust. 1 jest certyfikat akredytacji, zatem dołączanie do wniosku innych dokumentów nie jest uzasadnione. Wydaje się, iż wymagania wymienione w pkt 2 są już zawarte w pkt 1. – zatem jest to powtórzenie. Zgodnie z art. 30 ust. 3 Rozporządzenia 2024/1689 tylko w przypadku, gdy podstawą notyfikacji nie jest certyfikat akredytacji, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. Uwaga uwzględniona Odstąpiono od regulacji zawartej w art. 72 ust. 3 pkt 2. 236. Rozdział 8 PARP W projekcie ustawy przewidziano możliwość ustanowienia piaskownic regulacyjnych, co zostało ujęte w art. 85. Niemniej jednak brakuje szczegółowych regulacji określających zasady ich funkcjonowania, kryteria uczestnictwa dla przedsiębiorstw oraz zakres wsparcia dla firm testujących nowe rozwiązania. Warto doprecyzować, w jaki sposób przedsiębiorcy będą mogli skorzystać z tego mechanizmu oraz jakie konkretne korzyści wynikają z testowania rozwiązań w ramach piaskownic regulacyjnych. Warto rozważyć uzupełnienie przepisów o regulacje dotyczące współpracy z ośrodkami badawczymi oraz wskazanie procedur wsparcia dla przedsiębiorców testujących innowacyjne rozwiązania w ramach piaskownic. Uwaga wyjaśniona Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689. Przy konstruowaniu przepisów dotyczących piaskownic regulacyjnych ustawa nie może wyjść poza ramy ww. rozporządzenia. Dodatkowo należy wskazać, że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 237. Art. 85 KRRiT Podtrzymuję jednocześnie stanowisko wyrażone w moim piśmie z dnia 14 listopada 2024 r., że uprawnienia do tworzenia piaskownic Uwaga wyjaśniona 146 regulacyjnych oraz zarządzania nimi powinny przysługiwać także takim organom jak: Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej oraz Przewodniczący Krajowej Rady Radiofonii i Telewizji. Projektodawca zakłada, że będzie to wyłączna kompetencja Przewodniczącego Komisji. Jednocześnie zauważmy, że projekt wskazuje na współpracę Komisji z organami w celu realizacji zadań wynikających z rozporządzenia 2024/1689 i ustawy co dotyczyć powinno również ustanawiania piaskownic regulacyjnych. 238. Art. 85 ust. 4 RPD Art. 85 ust. 4 przewiduje nieodpłatne uczestnictwo mikroprzedsiębiorców oraz MŚP w piaskownicy regulacyjnej. Należy rozszerzyć ten przepis na organizacje pozarządowe wspierające prawa dzieci i ich edukację cyfrową. Proponuje się dodanie nowego ustępu 4a do projektowanego przepisu: „Uczestnictwo organizacji pozarządowej, której celem statutowym jest ochrona dzieci oraz wspieranie inicjatyw edukacyjnych na ich rzecz, w piaskownicy regulacyjnej jest nieodpłatne.” Nieodpłatne uczestnictwo organizacji pozarządowych w piaskownicach regulacyjnych umożliwi tego rodzaju podmiotom bardziej skuteczne analizowanie wpływu AI na dzieci, w tym wczesne wykrywanie niepożądanego oddziaływania wyników generowanych przez tego rodzaju rozwiązania na dzieci. Uwaga wyjaśniona Uczestnictwo w piaskownicach regulacyjnych dotyczy podmiotów określonych art. 2 ust. 1 lit. a- c i e rozporządzenia 2024/1689. 239. Art. 85 ust. 5 NSZZ Wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej ustalono na maksymalnie czterokrotność minimalnego wynagrodzenia za pracę. Uwaga: NSZZ „Solidarność” sprzeciwia się powiązaniu opłaty z minimalnym wynagrodzeniem, bo: 1) brak związku funkcjonalnego z pracą, 2) utrudnia dialog społeczny ws. minimalnego wynagrodzenia (tzw. „podwiązki”). Propozycja: rezygnacja z odniesienia do minimalnego wynagrodzenia i ustalenie opłaty w inny sposób, by wspierać dialog społeczny. Uwaga wyjaśniona Mając na uwadze zakres podmiotów, na które oddziałuje rozporządzenie 2024/1689 oraz projekt ustawy sposób wyznaczenia wysokości opłaty jest optymalny i pozostanie bez wpływu na dialog społeczny w zakresie minimalnego wynagrodzenia. 240. Art. 85 ust 7 KRRiT Z aprobatą przyjmuję również, że aktualny projekt ustawy został uzupełniony o rozdział 8 „Środki wspierające innowacyjność”, który zawiera przepisy dotyczące tworzenia piaskownic regulacyjnych, w tym projektowany art. 85 ust 7. Przepis ten przewiduje tworzenie piaskownic regulacyjnych przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wspólnie z innymi właściwymi organami nadzoru rynku, w tym i z KRRiT - jak można Uwaga uwzględniona Wykreślono odwołanie do art. 57 ust. 1. 147 Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym wnioskować z treści projektu. Należy jednak zauważyć (co zaznaczyłem także w pkt 19 uwag legislacyjnych), że art. 85 w ust. 7 projektu błędnie odsyła do przepisu art. 57 ust. 1 projektowanej ustawy. Nie dotyczy on właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 241. Art. 86 RPD Projektowany art. 86 wymaga doprecyzowania w zakresie ustalania limitu liczby użytkowników oraz innych podmiotów, na które mogą oddziaływać projekty testowane w piaskownicy regulacyjnej, zwłaszcza z uwzględnieniem szczególnej ochrony dzieci. Należy pamiętać, że limit ten ustala minister właściwy do spraw informatyzacji, po zasięgnięciu opinii Komisji, w drodze rozporządzenia, biorąc pod uwagę możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej oraz przewidywany wpływ piaskownicy na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji. Obecnie w projekcie nie przewidziano żadnych ograniczeń dotyczących udziału dzieci w tego rodzaju projektach, co może prowadzić do sytuacji, w której dzieci będą w nieproporcjonalny sposób narażone na eksperymentalne rozwiązania z zakresu sztucznej inteligencji. Z tego względu zasadne jest postulowanie, by projektodawca wprowadził w art. 86 dodatkowe regulacje zapewniające lepszą ochronę dzieci uczestniczących w projektach w piaskownicy regulacyjnej. Po pierwsze, należałoby ustalić górny limit udziału osób małoletnich w populacji użytkowników objętych oddziaływaniem projektów testowanych w piaskownicy regulacyjnej, przyjmując, że powinien on być niższy niż limit dotyczący osób dorosłych ze względu na potrzebę ochrony dzieci jako osób, na które AI może mieć szczególny wpływ. Po drugie, wskazane byłoby ustanowienie w projektowanym przepisie dodatkowych mechanizmów ochrony, na przykład uzależnienie Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 148 dopuszczenia projektu przekraczającego limit od uzyskania opinii Rzecznika Praw Dziecka jako konstytucyjnego organu stojącego na straży dobra dziecka. W konsekwencji proponuje się dodanie w art. 86 ust. 3 następującego zdania: „Liczba użytkowników będących dziećmi, na które może oddziaływać jeden projekt w piaskownicy regulacyjnej, nie może przekroczyć 5% limitu ustalonego na podstawie przepisów ust. 1 i 2, chyba że projekt ten uzyska pozytywną opinię Rzecznika Praw Dziecka oraz spełnia podwyższone standardy ochrony danych i bezpieczeństwa dzieci.”. 242. Art. 87 ust. 4 Konfederacj a Lewiatan Przepis w obecnym brzmieniu nakłada na podmiot wymóg udowodnienia, że projekt przyczyni się do celów określonych w pkt 1) i 2), co należy doprecyzować. Przepis powinien wyszczególnić, w jaki sposób podmiot ma zapewnić, że jego udział w projekcie przyczyni się do ww. celów. Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 243. Art. 87 ust. 4 i 6 RPD Art. 87 nie zawiera dodatkowych wymogów dla projektów w piaskownicach regulacyjnych, które dotyczą dzieci. Z perspektywy ochrony praw dzieci istotne jest, aby przepisy wprost uwzględniały sytuację, w której projekt może oddziaływać na najmłodszych użytkowników oraz zobowiązywały podmioty ubiegające się o udział w piaskownicy regulacyjnej do wykazania, że zastosowane rozwiązania minimalizują ryzyko ewentualnych naruszeń. W związku z tym proponuje się wprowadzenie do art. 87 następujących uzupełnień: 1. Dodatkowe kryterium oceny projektów w piaskownicach regulacyjnych, które dotyczą dzieci W ust. 4, który określa warunki kwalifikacji podmiotu do uczestnictwa w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „4) Jeżeli projekt może oddziaływać na dzieci, podmiot wykazuje, w jaki sposób projekt spełnia wysokie standardy ochrony dzieci oraz Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 149 zawiera mechanizmy minimalizujące ryzyko narażenia dzieci na szkodę lub krzywdę w związku z udziałem w projekcie.” 2. Obowiązek wskazania potencjalnego wpływu na dzieci W ust. 6, który określa zakres informacji, jakie powinna zawierać oferta podmiotu, który chce uczestniczyć w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „7) jeżeli projekt może oddziaływać na dzieci, oferta zawiera analizę potencjalnego wpływu projektu na dzieci, w tym analizę ryzyka dla ich praw i wolności, a także opis środków zapewniających ochronę praw i bezpieczeństwa dzieci w związku z uczestnictwem w projekcie.” Taka analiza pozwoli na kompleksową ocenę wpływu planowanych rozwiązań na dzieci oraz przyczyni się do stworzenia odpowiednich mechanizmów gwarantujących ich ochronę na etapie testowania i dalszego stosowania innowacyjnych technologii sztucznej inteligencji. 244. Art. 88 ust. 1 i 2 RPD Art. 88 ustanawiając proces oceny ofert w konkursie na uczestnictwo w piaskownicy regulacyjnej nie uwzględnia wprost szczególnych potrzeb i najlepiej pojętego interesu dziecka w procesie oceny projektów w piaskownicy regulacyjnej, zwłaszcza w sytuacji, gdy projekt może oddziaływać na osoby małoletnie. Z uwagi na konieczność ochrony praw dzieci i zapewnienia, aby technologie sztucznej inteligencji były rozwijane w sposób bezpieczny oraz etyczny, proponuje się wprowadzenie do art. 88 następujących zmian: 1. Obowiązek zasięgnięcia opinii Rzecznika Praw Dziecka w zespole konkursowym W celu zagwarantowania, że w procesie oceny ofert zostaną uwzględnione aspekty ochrony praw dziecka oraz bezpieczeństwa i etyki stosowania technologii wobec osób małoletnich, proponuje się dodanie nowego ust. 1a w brzmieniu: „1a. W przypadku gdy projekt może oddziaływać na użytkowników będących dziećmi, zespół konkursowy zasięga opinii Rzecznika Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 150 Praw Dziecka oceniającej projekt z perspektywy realizacji przez niego najlepiej pojętego interesu dziecka” 2. Ocena projektów pod kątem najlepiej pojętego interesu dziecka. Należy rozszerzyć zakres oceny ofert dokonywanej przez zespół konkursowy. W tym celu proponuje się dodanie zdania drugiego do art. 88 ust. 2: „W przypadku, gdy projekt może oddziaływać na dzieci, zespół konkursowy dokonuje oceny oferty również pod kątem realizacji przez projekt najlepiej pojętego interesu dziecka, uwzględniając w szczególności bezpieczeństwo i ochronę prywatności dzieci”. Wprowadzenie powyższych zmian pozwoli na pełniejsze zabezpieczenie praw dzieci w trakcie oceny projektów testowanych w piaskownicy regulacyjnej oraz zapewni, że innowacyjne rozwiązania oparte na sztucznej inteligencji będą w większym stopniu uwzględniać szczególne potrzeby i bezpieczeństwo najmłodszych użytkowników. 245. Art. 91 RPD Biorąc pod uwagę potrzebę zagwarantowania dobra dzieci jako potencjalnych uczestników projektów w piaskownicy regulacyjnej, należy rozszerzyć obowiązki podmiotów uczestniczących w piaskownicy o wymóg dostosowania przekazywanych informacji do potrzeb małoletnich odbiorców. W szczególności art. 91 ust. 1 pkt 1 powinien precyzować, że jeśli projekt oddziałuje lub może oddziaływać na dzieci, podmiot uczestniczący ma obowiązek przedstawienia wymaganych informacji w sposób zrozumiały dla dzieci, uwzględniając ich wiek oraz poziom dojrzałości. Taki obowiązek zapewni, że dzieci będą świadome udziału w projekcie oraz jego potencjalnych skutków, co jest zgodne z zasadą przejrzystości i ochrony ich praw. Brak takiego wymogu może prowadzić do sytuacji, w której dzieci nie będą miały realnej możliwości zrozumienia, w jaki sposób dany projekt i poddanie się wpływowi AI w warunkach piaskownicy regulacyjnej na nie wpływają. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 246. Art. 92 IAB Polska Skonkretyzowanie uprawnień kontrolnych Komisji w zakresie piaskownicy regulacyjnej Uwaga wyjaśniona 151 Projektowane przepisy nie gwarantują wystarczającej ochrony poufności informacji w ramach testowania nowych technologii. Tym samym nie zapewniają zaufania i bezpieczeństwa uczestniczących podmiotów Kontrole te powinny być dostosowane do uprawnień nadzorczych Komisji związanych z weryfikacją naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (zgodnej z naszymi uwagami). Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Kontrole zostały zaprojektowane stosownie do uprawnień nadzorczych Komisji wynikających z AI Act lub ustawy o systemach sztucznej inteligencji. Nie naruszają zasad poufności ani tajemnic prawnie chronionych. 247. Art. 94 ust. 1 RPO Druga kwestia dotyczy rozwiązań mających na celu wykonanie art. 95 rozporządzenia 2024/1689. Zgodnie z art. 95 ust. 1 rozporządzenia, urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. Tymczasem art. 94 ust. 1 projektowanej ustawy stanowi jedynie, że minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. Artykuł 10 ust. 2 pkt 4 stanowi natomiast, że Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców. Nie negując zasadności powierzenia tego rodzaju zadań ministrowi i Komisji, wskazać należy, że uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki, Uwaga wyjaśniona Przyjęta przez projektodawcę regulacja ma na celu umożliwienie stosowania art. 95 ust. 1 rozporządzenia 2024/1689 uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki. W tym zakresie projektowane rozwiązania są optymalne i kompletne. Natomiast w kwestii osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 175 należy zauważyć że obok państw członkowski znaczącą rolę będą odgrywały działania podjęte przez Europejską Radę ds. Sztucznej Inteligencji (dalej „Radą”) Komisji Europejskiej. 152 przyjęte w projektowanej ustawie rozwiązania, w ocenie RPO, mogą okazać się niewystarczające dla osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 17521. 248. Art. 96 IAB Polska Poszerzenie listy podmiotów kwalifikujących się do wsparcia finansowego Obecnie projektowane przepisy ograniczają możliwość wsparcia do określonej grupy podmiotów, co nie sprzyja rozwojowi ekosystemu AI w Polsce. Szersze ramy pozwoliłyby na tworzenie szerszych partnerstw, ułatwiając rozwój rynku. Rozszerzenie zakresu zachęciłoby do współpracy między różnymi podmiotami przyczyniając się do rozwoju AI w Polsce. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakim ma ono służyć. 249. Art. 96 ZPP Wskazać, że wsparcie finansowe dla podmiotów wdrażających systemy AI powinno być jasno określone, aby nie naruszać równowagi pomiędzy nadzorem a wsparciem innowacji. Uwaga wyjaśniona Przepis w sposób jasny określa podmioty zaangażowane w finansowanie, źródła finansowania oraz jego cele. Przewidziane w przepisie rozwiązania nie naruszają zasad wiązanych z nadzorem natomiast mają istotne znaczenie dla wsparcia innowacyjności. 250. Art. 96 Konfederacj a Lewiatan Uprawnienie Ministra Cyfryzacji do udzielania wsparcia finansowego na rozwój sztucznej inteligencji stanowi istotny krok w kierunku pobudzenia innowacji w tej dziedzinie. Niemniej jednak, aby w pełni wykorzystać potencjał tego wsparcia i stymulować dynamiczny rozwój rynku AI w Polsce, konieczne jest rozszerzenie listy kwalifikujących się odbiorców. Obecne ramy kwalifikowalności, choć wartościowe, mogą nie uwzględniać wszystkich podmiotów, które mogłyby wnieść istotny wkład w rozwój ekosystemu sztucznej inteligencji. Rozszerzenie tych ram pozwoliłoby Ministerstwu na nawiązanie współpracy z szerszym gronem interesariuszy, w tym nie tylko z dużymi przedsiębiorstwami, ale także ze startupami, małymi i średnimi Uwaga wyjaśniona Odbiorcy kwalifikujący się do udzielania wsparcia finansowego na rozwój sztucznej inteligencji zostali określeni w oparciu o sposób oraz źródła finansowania. Tworząc ich listę wzięto również pod uwagę cel jakiemu ma służyć finansowanie. Odpowiada ona też na potrzeby celem jakim ma ono służyć. 153 przedsiębiorstwami, instytucjami badawczymi, organizacjami pozarządowymi oraz uczelniami wyższymi. Startupy ze swoją innowacyjnością i elastycznością, często są źródłem przełomowych rozwiązań w dziedzinie AI. Małe i średnie przedsiębiorstwa, stanowiące trzon polskiej gospodarki, mogą wykorzystać sztuczną inteligencję do optymalizacji procesów, tworzenia nowych produktów i usług oraz zwiększenia swojej konkurencyjności. Instytucje badawcze odgrywają kluczową rolę w rozwoju technologii AI, prowadząc badania podstawowe i stosowane, a także kształcąc przyszłych specjalistów. Organizacje pozarządowe mogą pełnić funkcję strażników etycznego i odpowiedzialnego rozwoju sztucznej inteligencji, a także wspierać edukację i społeczną akceptację dla tej technologii. Uczelnie wyższe, poprzez swoje programy badawcze i dydaktyczne, stanowią kuźnię talentów i innowacji w dziedzinie AI. Rozszerzenie zakresu wspieranych podmiotów przyczyniłoby się do powstania bardziej zróżnicowanego i kompleksowego ekosystemu innowacji w zakresie sztucznej inteligencji, który byłby w stanie sprostać wyzwaniom przyszłości i wykorzystać szanse, jakie niesie ze sobą ta dynamicznie rozwijająca się dziedzina. Taki ekosystem, oparty na współpracy różnych aktorów, byłby bardziej odporny na zmiany i zdolny do generowania innowacji o charakterze przełomowym, które mogłyby przynieść korzyści zarówno gospodarce, jak i społeczeństwu. 251. Art. 97 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich 154 podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 252. Art. 97 ust. 4 IAB Polska Uproszczenie przeliczania kar z EUR na PLN Obecne zasady przeliczania kar są niepotrzebnie skomplikowane. Zalecamy zastosowanie procedury przyjętej w ustawie o ochronie konkurencji i konsumentów: Przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 253. Art. 97 ust. 4 Konfederacj a Lewiatan Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 254. Art. 98 ZPP Wydłużyć termin na podanie danych niezbędnych do ustalenia kary – rekomendujemy zmianę z 14 dni na okres umożliwiający rzetelną analizę (np. minimum 30 dni). Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania 155 danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 255. Art. 98 Konfederacj a Lewiatan Proponowane brzmienie: Art. 98. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 256. Art. 98 ust. 1. IAB Polska Wydłużenie terminu na dostarczenie do Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej do 60 dni Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania. 257. Art. 98 ust. 1. Pracodawcy RP Artykuł 98 ust. 1 projektu przewiduje 14 dni na przekazanie danych w celu ustalenia kary. Ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Art. 98 ust. 1 Pracodawców RP Termin 14 dni na przekazanie danych do ustalenia kary jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność, nie należy do czynności o dużym stopniu skomplikowania. 258. Art. 99 IAB Polska Przekazywanie wpływów z kar do budżetu państwa Uwaga uwzględniona 156 Obecny przepis pozwala na finansowanie Komisji z wpływów z kar, co może rodzić konflikt interesów. Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. (art. 87). 259. Art. 99 Konfederacj a Lewiatan Projektowany przepis, zezwalając na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję, stwarza niebezpieczny precedens. Mechanizm ten może zachęcać do nakładania wysokich i licznych kar, niekoniecznie uzasadnionych, w celu poprawy sytuacji finansowej Komisji. Takie rozwiązanie jest szkodliwe dla rozwoju sztucznej inteligencji w Polsce, ponieważ systemowo zachęca organ do nakładania możliwie wysokich i licznych kar pieniężnych na dostawców systemów sztucznej inteligencji, co może zniechęcić do inwestowania i rozwoju w tej dziedzinie. Przepis tego typu może zniweczyć wszelkie inne rozwiązania zawarte w projekcie ustawy, które miałyby sprzyjać rozwojowi sztucznej inteligencji, takie jak np. piaskownice regulacyjne, które mają na celu stworzenie bezpiecznego i kontrolowanego środowiska do testowania innowacyjnych rozwiązań. Rozwiązanie, w którym kary pieniężne stanowią przychód karzącego, jest niezgodne z europejskimi i polskimi standardami dla organów nadzoru. Kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów. Zgodnie z odpowiednimi przepisami, wpływy z kar nakładanych przez te organy są przekazywane albo do budżetu państwa, albo do specjalnie utworzonych funduszy celowych, które mają osobowość prawną i pozostają poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję powinny być przekazywane do budżetu państwa, tak jak było to zapisane w pierwotnej wersji projektowanej ustawy. Takie rozwiązanie zapewniłoby większą przejrzystość i zapobiegłoby potencjalnym konfliktom interesów. Uwaga uwzględniona Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa (art. 87). 157 260. Art. 100 ust. 7 IAB Polska Doprecyzowanie zasad odwołania odroczeń i rozłożenia na raty Brak precyzyjnych ograniczeń dla Komisji w zakresie odwołania odroczeń lub rozłożeń na raty może prowadzić do nadmiernego obciążenia finansowego dla podmiotów regulowanych. Rekomendujemy określenie, że Komisja może odwołać odroczenie lub rozłożenie na raty tylko wtedy, gdy pojawią się nowe lub wcześniej nieznane okoliczności z powodu wcześniejszych działań ukaranego podmiotu, które utrudniły ich uzyskanie. Uwaga wyjaśniona Przepisy art. 100 stanowią rozwiązanie znane w polskim prawie np. Ustawie o ochronie danych osobowych i Ustawie o ochronie konkurencji i konsumentów. 261. Art. 102 ust. 3 PGRP Rekomenduje się określenie terminu na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej za słuszne. Uwaga uwzględniona Przepis (art. 90 ust. 3) został uzupełniony o termin 14 dni od dnia doręczenia odwołania na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej. 262. Art. 104 Konfederacj a Lewiatan Propozycja brzmienia: Art. 104. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji przepisy ustawy o postępowaniu egzekucyjnym w administracji Uzasadnienie: Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 263. Art. 105. Konfederacj a Lewiatan Propozycja brzmienia: Uwaga wyjaśniona 158 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 264. Art. 105 – art. 106 Pracodawcy RP Zasadnym byłoby usunięcie w całości zapisów projektu sugerujących sankcje karne w rozdziale 9 (mowa o art. 105 – art. 106). Te niosłyby bowiem za sobą znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Przewidziane w projekcie sankcje karne nie znajdują uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 105 - 106 Projekt przewiduje sankcje karne, które nie mają podstaw w Akcie o AI i mogą odstraszać od rozwoju AI. Propozycja: Usunięcie sankcji karnych, skupienie się na administracyjnych środkach egzekwowania prawa. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowań w tym z art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 159 265. Art. 106 Konfederacj a Lewiatan Propozycja brzmienia: Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Należy jednoczenie w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Aspekty karne są w pełni uregulowane w Kodeksie karnym, który należy stosować w takich przypadkach. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 266. Art. 107 ZPP Termin wniesienia odwołania od postanowienia organu kontrolnego powinien zostać wydłużony, np. do 2 tygodni, aby zapewnić odpowiedni czas na przygotowanie odwołania. 2.12. Sankcje karne a) Prosimy, aby sankcje karne stosowano wyłącznie w przypadkach utrudniania lub uniemożliwiania przeprowadzenia kontroli, a nie jako narzędzie mające ograniczać innowacyjność – interpretacja tych środków musi być zgodna z zasadą proporcjonalności. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. Celem wprowadzenia sankcji karnych jest umożliwienie kontrolującemu prawnego niezakłócanego przeprowadzenia kontroli. Przepis nie będzie służył ograniczaniu innowacyjności. 267. Art. 107 - art. 479[88g] § 4 IAB Polska Zapewnienie równego dostępu do dowodów dla Komisji i stron postępowania Uwaga wyjaśniona Celem przepisu jest to aby dostęp do dowodu będącego tajemnicą przedsiębiorstwa i innymi 160 Kodeksu Postępowan ia Cywilnego Obecnie Komisja ma uprzywilejowaną pozycję w dostępie do dowodów, co może naruszać zasady równości procesowej i równości wobec prawa. Rekomendujemy wprowadzenie zasady, że Komisja podlega takim samym ograniczeniom dostępu do dowodów, jak inne strony postępowania. tajemnicami podlegającymi ochronie na podstawie odrębnych przepisów miał ograniczony dostęp podmiotów tj wyłącznie podmioty, które wywodzą z tych dowodów swoje prawa lub w oparciu o nie wydają decyzje i postanowienia. Stąd też niezbędne jest zapewnienie dostępu do tych dowodów Komisji. 268. Art. 107 - art. 479[88h] § 1 Kodeksu Postępowan ia Cywilnego IAB Polska Wydłużenie terminu na wniesienie zażalenia na postanowienie Komisji Obecnie przewidziany termin 1 tygodnia jest zbyt krótki dla podmiotów o skomplikowanej strukturze organizacyjnej lub dla rozbudowanych stanów faktycznych. Wydłużenie zapewni czas na analizę prawną i faktyczną oraz możliwość przygotowania kompleksowego zażalenia. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 269. Art. 107 (w zakresie Art. 479 88 h § 2 K.p.c. PGRP Rekomenduje się weryfikację zakresu odesłania do odpowiedniego stosowania do zażaleń przepisów o odwołaniu w dodawanym przez art. 107 projektu art. 47988h § 2 k.p.c. Zbędne wydaje się odesłanie do art. 47988b, w sytuacji gdy termin i procedurę wnoszenia zażaleń w całości określa nowy art. 47988h § 1 k.p.c. Rozważenia może z kolei wymagać uzupełnienie odesłania w art. 47988h § 2 k.p.c. o odesłanie do odpowiedniego stosowania art. 47988c regulującego przekazanie odwołania do sądu i projektowanego art. 47988g k.p.c. dotyczącego ochrony tajemnic prawnie chronionych. Uwaga uwzględniona Przepis art. 107 projektu w odniesieniu do art. 479 88 h § 2 k.p.c. otrzymał nowe brzmienie z uwzględnieniem korekt zawartych w uwadze. 270. Art. 107 - art. 479[88h](1) Kodeksu Postępowan ia Cywilnego Konfederacj a Lewiatan Uwaga: Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 271. Art. 111 UKNF Przedmiotowa uwaga jest powiązana z uwagą zgłoszoną już powyżej do art. 5 ust. 3 pkt 1 projektu ustawy. Przepis art. 111 projektu ustawy Uwaga uwzględniona 161 wprowadza zmianę w ustawie o nadzorze nad rynkiem finansowym poprzez dodanie do niej nowego art. 17h o następującym brzmieniu: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym, aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Bez tego rodzaju zmiany brak będzie bowiem podstawy prawnej dla zwolnienia KNF z obowiązku zachowania tajemnicy zawodowej, o której mowa w art. 16 ust. 1 ustawy o nadzorze nad rynkiem finansowym, w odniesieniu do informacji przekazywanych do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji na potrzeby współpracy przy sprawowanym przez nią nadzorze. W związku z powyższym nowy art. 17h ustawy o nadzorze nad rynkiem finansowym mógłby przyjąć brzmienie: „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Nadano nowe brzmienie art. 17h ustawy o nadzorze nad rynkiem finansowym zgodne z brzmieniem zaproponowanym w uwadze. „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. 272. Art. 119 IAB Polska Zwiększenie budżetu dla Komisji Obecne finansowanie Komisji może być niewystarczające do skutecznego nadzoru nad sektorem AI i wspierania tego dynamicznie rozwijającego się rynku. Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami 162 Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 273. Art. 120 Konfederacj a Lewiatan Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 to przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 274. Rozdział 8 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że w przypadku przystąpienia podmiotu do udziału w piaskownicy regulacyjnej, w aktualnym projekcie ustawy brak jest uregulowania trybu umożliwiającego podmiotowi wcześniejsze zakończenie projektu, bądź całkowitą rezygnację z udziału w projekcie. Uwaga wyjaśniona Szczegółowe kwestie związane z funkcjonowaniem piaskownic regulacyjnych będą przedmiotem aktów delegowanych KE. Stąd też w projekcie ustawy zawarto jedynie ogólne normy w tym zakresie. 275. Rozdział 8 KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji, w zakresie: Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. Uwaga wyjaśniona Mając na uwadze że projektowana ustawa ma na celu zapewnienie skutecznego stosowania przepisów rozporządzenia 2024/1689 a wskazany w uwadze rozdział dotyczy środków wspierających innowacyjność projektodawca nie znajduje podstawy do rozszerzania zadań KRRiT . 276. Rozdział 9 IAB Polska Usunięcie postanowień dotyczących sankcji karnych w Rozdziale 9 Uwaga wyjaśniona 163 Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie AI w Polsce. Rozdział 9 w zakresie sankcji prawnokarnych dotyczy wyłącznie kwestii współpracy z Komisją w wykonywaniu jej uprawnień kontrolnych, nie dotyczą natomiast rozwoju AI: 1. Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system AI stwarza ryzyko, o którym mowa w art. 79 AI Act (art. 106). 2. Za naruszenie AI Act przewidziana jest administracyjna kara pieniężna (ale nie sankcja prawnokarna) w wysokości i na warunkach określonych w rozdziale XII AI Act (art. 97- 104). Nie mamy żadnych argumentów, aby kwestionować ważność tych przepisów, gdyż wynikają one wprost z AI Act. Mając na uwadze, że celem rozporządzenia 2024/1689 jest zapewnienie bezpiecznej, godnej zaufania i etycznej sztucznej inteligencji niezbędne jest wprowadzenie skutecznych lecz możliwe najmniej obciążających podmioty procedur kontroli. W celu zapewnienia natomiast niezakłóconego jej przebiegu niezbędne jest przewidzenie odpowiednich środków. Takim środkiem są kary wskazane w rozdziale 9. Jest to instytucja znana i wykorzystywana w systemie prawa polskiego. 277. Uwagi redakcyjne KRRiT W art. 1 projektu należy uzupełnić pkt 2 o odniesienie się także do ustawy, skoro w art. 49 ust. 1 wskazano, że Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2) W art. 2 w ust. 1 w pkt. 1: a) w lit. a projektu przy powoływaniu przepisów ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych brak jest wyrazu „ustawy”. Ponadto budzi wątpliwości czy odesłanie do działalności, o której mowa w art. 2 ust. 1 w/w ustawy, powinno dotyczyć całego ustępu 1, ponieważ przepis ten jedynie w pkt 1 odnosi się do działalności, b) w lit. b projektu zbędne wydaje się wskazywanie na przepisy art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców zawierające definicję przedsiębiorcy. 3) W art. 4 w pkt. 2 projektu wskazano, że ustawy nie stosuje się do spraw związanych z realizacją zadań ustawowych Agencji Uwaga uwzględniona Projekt wskutek uwzględnionych uwag uległ znacznym zmianom. Przy opracowywaniu przepisów wprowadzono poprawki w zakresie dostosowanym do aktualnego ich brzmienia. W pozostałym zakresie projekt pod względem legislacyjno- redakcyjnym zostanie dopracowany na etapie komisji prawniczej. 164 Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w tym pozostających w bezpośrednim związku z tymi sprawami działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej, wobec której toczy się postępowanie przygotowawcze lub skazanej prawomocnym wyrokiem sądu w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812, 1222, 1562, 1684 i 1871). Wydaje się, że proponowany przepis odnoszący się do ustawowych zadań Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu wskazuje jedynie na zakres bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego leżący w kompetencjach Agencji Bezpieczeństwa Wewnętrznego, pomijając kompetencje Agencji Wywiadu w sprawach ochrony bezpieczeństwa zewnętrznego państwa. 4) W art. 5 ust. 3 pkt 9 projektu błędnie przyjęto, że w ustawie o świadczeniu usług drogą elektroniczną (Dz.U. z 2020 r. poz. 344) ustanowiony został koordynator usług cyfrowych podczas gdy w obecnym stanie prawnym taki organ nie został wyznaczony. 5) W art. 8 w pkt. 8 projektu wyraz „wydane” należy zastąpić wyrazem „wydaje”. 6) W art. 12: a) w ust. 3 w pkt 4 projektu po wyrazie „informację” należy dodać wyraz „o”, b) w ust. 7 projektu po wyrazach „w wyznaczonym” należy usunąć wyraz „w” i rozważyć doprecyzowanie terminu poprzez dodanie wyrazów „nie później niż”, c) w ust. 9 należy rozważyć czy termin wydania opinii powinien być liczony od dnia wniesienia opłaty za wniosek, skoro opłatę wnosi się przed złożeniem wniosku, d) w pkt. 10 projektu błędnie odesłano do ust. 8. 7) W art. 15 w ust. 2 w pkt. 2 projektu wydaje się, że wyraz „informacji” został błędnie odmieniony. 165 8) W art. 18 w ust. 10 projektu wydaje się, że wyraz „zespołu” został błędnie odmieniony. 9) W art. 20 w ust. 1 projektu wydaje się, że przepis zawiera błędne odesłanie do podmiotów, o których mowa art. 6 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce. Art. 6 ust. 2 w/w ustawy odnosi się do polityki naukowej państwa. 10) W art. 24 w ust. 2 projektu błędnie odesłano do art. 4 ust. 3 pkt 4 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi. W w/w ustawie nie ma takiego przepisu. 11) W art. 37 w ust. 4 projektu niepotrzebnie powtórzono wyrazy „do spraw”. 12) W art. 38 w ust. 3 w pkt. 1 projektu niejasne jest do jakiego art. 6 pkt 1 zastosowano wyłączenie. 13) W art. 42 ust. 1 w pkt. 6 projektu należy poprawić błędy redakcyjne. 14) W art. 46 ust. 1 projektu błędnie wskazano, że to kontrolowany, a nie kontrolujący, sporządza projekt protokołu. 15) W art. 47 projektu błędnie ponumerowano ustępy. Ponadto w ust. 2 tego artykułu błędnie odesłano do ust. 1 pkt 2 i 3. 16) W art. 55 ust. 6 projektu odsyła do decyzji, o której mowa w ust. 1. Należy zaznaczyć, że w ust. 1 nie uregulowano kwestii wydawania przez Komisję decyzji. 17) W art. 57 ust. 2 projektu odsyła do decyzji, o której mowa w art. 55 ust. 3 i 4. Jednakże w przywołanych przepisach projektodawca nie odniósł się do decyzji. 18) W art. 77 w ust. 2 projektu wydaje się, że należy wskazać na Biuletyn Informacji Publicznej. 19) W art. 85 w ust. 7 projektu jest błędne odesłanie do przepisu art. 57 ust. 1 ustawy, który nie dotyczy właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w 166 Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 20) W art. 89: a) w ust. 1 projektu wydaje się, że opublikowanie protokołu oceny ofert i listy rankingowej tworzonych w związku z konkursem na uczestnictwo w piaskownicy regulacyjnej powinno odbyć się w Biuletynie Informacji Publicznej, b) w ust. 7 projektu wydaje się, że wskazując na protokół i listę rankingową błędnie odesłano do przepisu art. 87 ust. 4, który to zawiera katalog przesłanek zakwalifikowania podmiotu do uczestnictwa w piaskownicy regulacyjnej. 21) W art. 90 w ust. 3 projektu wydaje się, że nastąpiło błędne odesłanie do przepisu w art. 57 ust. 15 rozporządzenia 2024/1689, który nie odnosi się do sprawozdań. 22) W art. 92 w ust. 3 projektu po wyrazie „decyzję” należy dodać wyraz „o”. 23) W art. 93 ust. 2 projektu wydaje się niekompletny, a przez to niezrozumiały. 24) W art. 96 projektu wydaje się, że część wspólna przepisu odnosząca się do pkt 1 i 2 nie koreluje z poprzedzająca ją treścią. 25) W art. 107 projektu (dot. art. 47988b KPC) zbędnie oznaczono jednostkę redakcyjną § 1. 26) W art. 107 projektu (dot. art. 47988h § 2 KPC) odesłano do art. 47988d § 1 KPC, natomiast w proponowanym brzmieniu tego artykułu nie ma § 1. 278. OSR PUODO Na koniec nie można pominąć kwestii związanych z koniecznością zapewnienia Prezesowi UODO środków finansowych na realizację nowych zadań związanych z realizacją nadzoru w zakresie spraw dotyczących przetwarzania danych osobowych w ramach systemów sztucznej inteligencji. W związku z nowymi zadaniami organu nadzorczego wynikającymi bezpośrednio z przepisów rozporządzenia 2024/1689, Prezes UODO sygnalizuje potrzebę przeznaczenia odpowiednich środków z budżetu państwa na wykonywanie przez niego tych zadań oraz w zakresie projektowanej współpracy z Komisją. Uwaga wyjaśniona W OSR zawarto wyliczenie środków finansowych dla podmiotów, którym w związku z przepisami, które zaczną obowiązywać z dniem 2 sierpnia 2025 r., zostaną przypisane konkretne zadania wynikające z AI Aktu. Do tych podmiotów należy powołany przepisami ustawy organ nadzoru rynku, sąd ochrony konkurencji i konsumentów oraz PCA. 167 Pozostałe podmioty, w tym Minister Cyfryzacji, PUODO, realizujące zadania powiązane z AI a wynikające ze swojej właściwości lub współpracy z KRiBSI będą realizować je w ramach posiadanych środków finansowych. 279. OSR pkt 6 PCA Zwiększenie wydatków w funduszu osobowym PCA, które są wymienione w tym punkcie – powinno być również odzwierciedlone w tabeli z wpływem na sektor finansów publicznych. Wprowadzenie tego zapisu jest szczególnie istotne biorąc pod uwagę, iż pod tabelą w pkt 6 znajduje się zastrzeżenie: „Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych.” W przypadku braku ww. zaproponowanego uwzględnienia obecne zapisy będa niespójne. Z jednej strony OSR zaznacza konieczność zwiększenia funduszu osobowego PCA a z drugiej nie uwzględnia tej informacji w wpływie na sektor finansów publicznych. Obecnie w OSR zamieszczona została w odniesieniu do PCA informacja: „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę szacowne terminy wejścia w życie projektowanej ustawy proponujemy następujące brzmienie „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,3 mln w 2025 r. i o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę, iż plany finansowe na 2025 r. zostały już przyjęte PCA wnioskuje o uzupełnienie OSR i wstawienie w tym punkcie jako przedostatniego - akapitu o następującej treści: „W związku z planowaną zmianą poziomu zatrudnienia w roku 2025 dokonana Uwaga uwzględniona OSR został uzupełniony pkt 6. 168 zostanie zmiana w planie finansowym w trakcie realizacji budżetu na ten rok” 280. Uzasadnieni e Str. 10 Analogicznie do uwag Rzecznika Praw Dziecka dotyczących składu Komisji, z uzasadnienia należy wykreślić przedstawiciela Rzecznika Praw Dziecka jako członka Komisji. Uwaga uwzględniona Z uzasadnienia i OSR został usunięty zapis dotyczący Rzecznika Praw Dziecka. 1 TYTUŁ PROJEKTU Ustawa o systemach sztucznej inteligencji TYTUŁ WDRAŻANEGO AKTU PRAWNEGO / WDRAŻANYCH AKTÓW PRAWNYCH Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Tekst mający znaczenie dla EOG (Dz. U. UE. L. z 2024 r. poz. 1689) WYJAŚNIENIE TERMINU WEJŚCIA W ŻYCIE PROJEKTU / PROJEKTÓW Po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; Termin vacatio legis wynika z konieczności pilnego wdrożenia przepisów rozporządzenia 2024/1689 do krajowego porządku prawnego. JEDN. RED. TREŚĆ PRZEPISU UE KONIECZNO ŚĆ WDROŻENI A T/N* JEDN. RED. TREŚĆ PRZEPISU / PRZEPISÓW PROJEKTU UZASADNIENIE Art. 1 Przedmiot 1. Celem niniejszego rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego i promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji (AI), przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie, w tym demokracji, praworządności i ochrony środowiska, przed szkodliwymi skutkami systemów AI w Unii oraz wspieraniu innowacji. 2. W niniejszym rozporządzeniu ustanawia się: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii; b) zakazy dotyczące niektórych praktyk w zakresie AI; c) szczególne wymogi dotyczące systemów AI wysokiego ryzyka oraz obowiązki spoczywające na operatorach takich systemów; d) zharmonizowane przepisy dotyczące przejrzystości w przypadku niektórych systemów AI; e) zharmonizowane przepisy dotyczące wprowadzania do obrotu modeli AI ogólnego przeznaczenia; f) przepisy dotyczące monitorowania wprowadzania do obrotu, nadzoru rynku, zarządzania i egzekwowania; g) środki wspierające innowacje, ze szczególnym uwzględnieniem MŚP, w tym przedsiębiorstw typu startup. Art. 2. Zakres stosowania 1. Niniejsze rozporządzenie stosuje się do: a) dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę lub znajdują się w Unii czy w państwie trzecim; b) podmiotów stosujących systemy AI, które to podmioty mają siedzibę lub znajdują się w Unii; T Art. 2 Art. 3 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy Dostosowanie zakresu obowiązywania ustawy do zakresu obowiązywania rozporządzenia. c) dostawców systemów AI i podmiotów stosujących systemy AI, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku, gdy wyniki wytworzone przez system AI są wykorzystywane w Unii; d) importerów i dystrybutorów systemów AI; e) producentów produktu, którzy pod własną nazwą lub znakiem towarowym oraz wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI; f) upoważnionych przedstawicieli dostawców niemających siedziby w Unii; g) osób, na które AI ma wpływ i które znajdują się w Unii. 2. W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 102-109 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. 3. Niniejszego rozporządzenia nie stosuje się do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. )), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami. Niniejszego rozporządzenia nie stosuje się do systemów AI, jeżeli - i w zakresie, w jakim - wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. Niniejszego rozporządzenia nie stosuje się do systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub de celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. 4. Niniejszego rozporządzenia nie stosuje się do organów publicznych w państwie trzecim ani do organizacji międzynarodowych objętych zakresem stosowania niniejszego rozporządzenia na podstawie ust. 1, jeżeli te organy lub organizacje wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów międzynarodowych w sprawie ścigania przestępstw i współpracy sądowej zawartych z Unią lub z jednym państwem członkowskim bądź ich większą liczbą, pod warunkiem zapewnienia przez to państwo trzecie lub organizację międzynarodową odpowiednich zabezpieczeń w odniesieniu do ochrony podstawowych praw i wolności osób fizycznych. mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister - Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 5. Niniejsze rozporządzenie nie ma wpływu na stosowanie przepisów dotyczących odpowiedzialności dostawców usług pośrednich określonych w rozdziale II rozporządzenia (UE) 2022/2065. 6. Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych. 7. Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia. 8. Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych. 9. Niniejsze rozporządzenie nie narusza przepisów ustanowionych w innych aktach prawnych Unii dotyczących ochrony konsumentów i bezpieczeństwa produktów. a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–-4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. 10. Niniejsze rozporządzenie nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. 11. Niniejsze rozporządzenie nie uniemożliwia Unii ani państwom członkowskim utrzymywania lub wprowadzania przepisów ustawowych, wykonawczych lub administracyjnych, które są korzystniejsze dla pracowników pod względem ochrony ich praw w odniesieniu do korzystania z systemów AI przez pracodawców, ani zachęcania do stosowania korzystniejszych dla pracowników układów zbiorowych lub zezwalania na ich stosowanie. 12. Niniejszego rozporządzenia nie stosuje się do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub 50. Art. 3 Definicje Do celów niniejszego rozporządzenia stosuje się następujące definicje: 1) \"system AI\" oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który - na potrzeby wyraźnych lub dorozumianych celów - wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak T Art. 4 Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; Dostosowanie definicji ustawowych do definicji z rozporządzenia 2024/1689. predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne; 2) \"ryzyko\" oznacza połączenie prawdopodobieństwa wystąpienia szkody oraz jej dotkliwości; 3) \"dostawca\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia lub zlecają rozwój systemu AI lub modelu AI ogólnego przeznaczenia oraz które - odpłatnie lub nieodpłatnie - pod własną nazwą lub własnym znakiem towarowym wprowadzają do obrotu lub oddają do użytku system AI; 4) \"podmiot stosujący\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej; 5) \"upoważniony przedstawiciel\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która otrzymała i przyjęła pisemne pełnomocnictwo od dostawcy systemu AI lub modelu AI ogólnego przeznaczenia do, odpowiednio, spełnienia w jego imieniu obowiązków i przeprowadzania procedur ustanowionych w niniejszym rozporządzeniu; 6) \"importer\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która wprowadza do obrotu system AI opatrzony nazwą lub 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; znakiem towarowym osoby fizycznej lub prawnej mającej siedzibę w państwie trzecim; 7) \"dystrybutor\" oznacza osobę fizyczną lub prawną w łańcuchu dostaw, inną niż dostawca lub importer, która udostępnia system AI na rynku Unii; 8) \"operator\" oznacza dostawcę, producenta produktu, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora; 9) \"wprowadzenie do obrotu\" oznacza udostępnienie po raz pierwszy systemu AI lub modelu AI ogólnego przeznaczenia na rynku Unii; 10) \"udostępnianie na rynku\" oznacza dostarczanie systemu AI lub modelu AI ogólnego przeznaczenia w celu jego dystrybucji lub wykorzystania na rynku Unii w ramach działalności handlowej, odpłatnie lub nieodpłatnie; 11) \"oddanie do użytku\" oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem; 12) \"przeznaczenie\" oznacza zastosowanie, do jakiego system AI został przeznaczony przez jego dostawcę, w tym konkretny kontekst i warunki wykorzystywania, określone w informacjach dostarczonych przez dostawcę w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i oświadczeniach, jak również w dokumentacji technicznej; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. 13) \"dające się racjonalnie przewidzieć niewłaściwe wykorzystanie\" oznacza wykorzystanie systemu AI w sposób niezgodny z jego przeznaczeniem, które może wynikać z dającego się racjonalnie przewidzieć zachowania człowieka lub interakcji z innymi systemami, w tym z innymi systemami AI; 14) \"związany z bezpieczeństwem element\" oznacza element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia; 15) \"instrukcja obsługi\" oznacza informacje podane przez dostawcę w celu poinformowania podmiotu stosującego o, w szczególności, przeznaczeniu i właściwym użytkowaniu systemu AI; 16) \"wycofanie systemu AI z użytku\" oznacza dowolny środek mający na celu doprowadzenie do zwrotu do dostawcy systemu AI udostępnionego podmiotom stosującym lub do wyłączenia takiego systemu z eksploatacji lub uniemożliwienia korzystania z niego; 17) \"wycofanie systemu AI z rynku\" oznacza dowolny środek mający na celu uniemożliwienie udostępnienia na rynku systemu AI znajdującego się w łańcuchu dostaw; 18) \"skuteczność działania systemu AI\" oznacza zdolność systemu AI do działania zgodnie ze swoim przeznaczeniem; 19) \"organ notyfikujący\" oznacza organ krajowy, który odpowiada za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie; 20) \"ocena zgodności\" oznacza proces wykazania, czy spełniono wymogi ustanowione w rozdziale III sekcja 2 w odniesieniu do systemu AI wysokiego ryzyka; 21) \"jednostka oceniająca zgodność\" oznacza jednostkę, która wykonuje czynności z zakresu oceny zgodności przeprowadzanej przez stronę trzecią, w tym testowanie, certyfikację i inspekcję; 22) \"jednostka notyfikowana\" oznacza jednostkę oceniającą zgodność, którą notyfikowano zgodnie z niniejszym rozporządzeniem i innym stosownym unijnym prawodawstwem harmonizacyjnym; 23) \"istotna zmiana\" oznacza modyfikację w systemie AI po jego wprowadzeniu do obrotu lub oddaniu do użytku, która nie została przewidziana lub zaplanowana przy początkowej ocenie zgodności przeprowadzonej przez dostawcę i która ma wpływ na zgodność systemu AI z wymogami ustanowionymi w rozdziale III sekcja 2, lub która powoduje zmianę przeznaczenia, w odniesieniu, do którego oceniono system AI; 24) \"oznakowanie CE\" oznacza oznakowanie, za pomocą którego dostawca wskazuje, że system AI spełnia wymogi ustanowione w rozdziale III sekcja 2 i innych mających zastosowanie unijnych przepisach harmonizacyjnych, przewidujących umieszczanie takiego oznakowania; 25) \"system monitorowania po wprowadzeniu do obrotu\" oznacza wszelkie działania prowadzone przez dostawców systemów AI służące gromadzeniu i przeglądowi doświadczeń zdobytych w wyniku wykorzystania systemów AI, które wprowadzają oni do obrotu lub oddają do użytku, w celu stwierdzenia ewentualnej konieczności natychmiastowego zastosowania niezbędnych działań naprawczych lub zapobiegawczych; 26) \"organ nadzoru rynku\" oznacza organ krajowy prowadzący działania i stosujący środki zgodnie z rozporządzeniem (UE) 2019/1020; 27) \"norma zharmonizowana\" oznacza normę zharmonizowaną określoną w art. 2 pkt 1 lit. c) rozporządzenia (UE) nr 1025/2012; 28) \"wspólna specyfikacja\" oznacza zbiór specyfikacji technicznych zgodnie z definicją w art. 2 pkt 4 rozporządzenia (UE) nr 1025/2012, zapewniający środki umożliwiające zgodność z niektórymi wymogami ustanowionymi w niniejszym rozporządzeniu; 29) \"dane treningowe\" oznaczają dane wykorzystywane do trenowania systemu AI poprzez dopasowanie jego parametrów podlegających uczeniu; 30) \"dane walidacyjne\" oznaczają dane wykorzystywane do oceny trenowanego systemu AI oraz do dostrajania jego parametrów niepodlegających uczeniu oraz procesu uczenia, między innymi w celu zapobiegania niedostatecznemu wytrenowaniu lub przetrenowaniu; 31) \"zbiór danych walidacyjnych\" oznacza oddzielny zbiór danych lub część zbioru danych treningowych, w którym to przypadku udział tego podzbioru w zbiorze danych treningowych może być stały lub zmienny; 32) \"dane testowe\" oznaczają dane wykorzystywane do przeprowadzenia niezależnej oceny systemu AI w celu potwierdzenia oczekiwanej skuteczności działania tego systemu przed wprowadzeniem go do obrotu lub oddaniem go do użytku; 33) \"dane wejściowe\" oznaczają dane dostarczone do systemu AI lub bezpośrednio przez niego pozyskiwane, na podstawie których system ten generuje wynik; 34) \"dane biometryczne\" oznaczają dane osobowe będące wynikiem specjalnego przetwarzania technicznego, które dotyczą cech fizycznych, fizjologicznych lub behawioralnych osoby fizycznej, takich jak wizerunek twarzy lub dane daktyloskopijne; 35) \"identyfikacja biometryczna\" oznacza zautomatyzowane rozpoznawanie fizycznych, fizjologicznych, behawioralnych lub psychologicznych cech ludzkich w celu ustalenia tożsamości osoby fizycznej przez porównanie danych biometrycznych tej osoby z danymi biometrycznymi osób fizycznych przechowywanymi w bazie danych; 36) \"weryfikacja biometryczna\" oznacza zautomatyzowaną weryfikację typu jeden-do-jednego, w tym uwierzytelnianie, tożsamości osób fizycznych przez porównanie ich danych biometrycznych z wcześniej przekazanymi danymi biometrycznymi; 37) \"szczególne kategorie danych osobowych\" oznaczają kategorie danych osobowych, o których mowa w art. 9 ust. 1 rozporządzenia (UE) 2016/679, art. 10 dyrektywy (UE) 2016/680 i art. 10 ust. 1 rozporządzenia (UE) 2018/1725; 38) \"wrażliwe dane operacyjne\" oznaczają dane operacyjne związane z działaniami w zakresie zapobiegania przestępstwom, ich wykrywania, prowadzenia postępowań przygotowawczych w ich sprawie lub ich ścigania, których ujawnienie mogłoby zagrozić integralności postępowania karnego; 39) \"system rozpoznawania emocji\" oznacza system AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób; 40) \"system kategoryzacji biometrycznej\" oznacza system AI służący do przypisywania osób fizycznych do określonych kategorii na podstawie danych biometrycznych tych osób, oprócz przypadków, gdy taki system pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych; 41) \"system zdalnej identyfikacji biometrycznej\" oznacza system AI służący do identyfikacji osób fizycznych bez ich aktywnego udziału, zwykle na odległość, poprzez porównanie danych biometrycznych danej osoby fizycznej z danymi biometrycznymi zawartymi w referencyjnej bazie danych; 42) \"system zdalnej identyfikacji biometrycznej w czasie rzeczywistym\" oznacza system zdalnej identyfikacji biometrycznej, w którym zbieranie danych biometrycznych, ich porównywanie i identyfikacja odbywają się bez znacznego opóźnienia, i który obejmuje nie tylko natychmiastową identyfikację, ale także ograniczone krótkie opóźnienia w celu uniknięcia obchodzenia przepisów; 43) \"system zdalnej identyfikacji biometrycznej post factum\" oznacza system zdalnej identyfikacji biometrycznej inny niż system zdalnej identyfikacji biometrycznej w czasie rzeczywistym; 44) \"przestrzeń publiczna\" oznacza miejsce fizyczne, będące własnością prywatną lub publiczną, dostępne dla nieokreślonej liczby osób fizycznych, niezależnie od tego, czy mogą mieć zastosowanie określone warunki dostępu, oraz niezależnie od potencjalnych ograniczeń pojemności; 45) \"organ ścigania\" oznacza: a) organ publiczny właściwy w zakresie zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; lub b) inny organ lub podmiot, któremu na podstawie prawa państwa członkowskiego powierzono sprawowanie władzy publicznej i wykonywanie uprawnień publicznych do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 46) \"ściganie przestępstw\" oznacza działania prowadzone przez organy ścigania lub w ich imieniu w celu zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 47) \"Urząd ds. AI\" oznacza zadanie Komisji polegające na przyczynianiu się do wdrażania, monitorowania i nadzorowania systemów AI i modeli AI ogólnego przeznaczenia oraz zarządzania AI, określone w decyzji Komisji z dnia 24 stycznia 2024 r.; zawarte w niniejszym rozporządzeniu odesłania do Urzędu ds. AI odczytuje się jako odesłania do Komisji; 48) \"właściwy organ krajowy\" oznacza organ notyfikujący lub organ nadzoru rynku; w odniesieniu do systemów AI oddanych do użytku lub wykorzystywanych przez instytucje, organy i jednostki organizacyjne Unii, zawarte w niniejszym rozporządzeniu odesłania do właściwych organów krajowych i organów nadzoru rynku odczytuje się jako odesłania do Europejskiego Inspektora Ochrony Danych; 49) \"poważny incydent\" oznacza incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do któregokolwiek z poniższych zdarzeń: a) śmierci osoby lub poważnego uszczerbku na zdrowiu osoby; b) poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważnej szkody na mieniu lub poważnej szkody dla środowiska; 50) \"dane osobowe\" oznaczają dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 51) \"dane nieosobowe\" oznaczają dane inne niż dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 52) \"profilowanie\" oznacza profilowanie zdefiniowane w art. 4 pkt 4 rozporządzenia (UE) 2016/679; 53) \"plan testów w warunkach rzeczywistych\" oznacza dokument opisujący cele, metodykę, zasięg geograficzny, populacyjny i czasowy, monitorowanie, organizację i przeprowadzanie testów w warunkach rzeczywistych; 54) \"plan działania piaskownicy\" oznacza dokument uzgodniony między uczestniczącym dostawcą a właściwym organem opisujący cele, warunki, ramy czasowe, metodykę i wymogi dotyczące działań prowadzonych w ramach piaskownicy; 55) \"piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym; 56) \"kompetencje w zakresie AI\" oznaczają umiejętności, wiedzę oraz zrozumienie, które pozwalają dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ - z uwzględnieniem ich odnośnych praw i obowiązków w kontekście niniejszego rozporządzenia - w przemyślany sposób wdrażać systemy sztucznej inteligencji oraz mieć świadomość, jakie możliwości i ryzyka wiążą się z AI oraz jakie potencjalne szkody może ona wyrządzić; 57) \"testy w warunkach rzeczywistych\" oznaczają ograniczone w czasie testy systemu AI dotyczące jego przeznaczenia prowadzone w warunkach rzeczywistych - poza środowiskiem laboratoryjnym lub środowiskiem symulowanym innego typu - w celu zgromadzenia wiarygodnych i solidnych danych oraz w celu oceny i weryfikacji spełnienia przez system AI z wymogów niniejszego rozporządzenia i które nie są kwalifikowane jako wprowadzanie systemu AI do obrotu lub oddawanie go do użytku w rozumieniu niniejszego rozporządzenia, o ile spełnione są wszystkie warunki określone w art. 57 lub 60; 58) \"uczestnik\" do celów testów w warunkach rzeczywistych oznacza osobę fizyczną, która uczestniczy w testach tego typu; 59) \"świadoma zgoda\" oznacza swobodne, konkretne, jednoznaczne i dobrowolne wyrażenie przez uczestnika zgody na uczestnictwo w określonych testach w warunkach rzeczywistych, po uzyskaniu informacji o wszystkich aspektach testów, które są istotne dla decyzji o uczestnictwie podejmowanej przez uczestnika; 60) \"deepfake\" oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe; 61) \"powszechne naruszenie\" oznacza działanie lub zaniechanie sprzeczne z prawem Unii chroniącym interesy osób fizycznych, które: a) szkodzi lub może zaszkodzić zbiorowym interesom osób fizycznych zamieszkałych w co najmniej dwóch państwach członkowskich innych niż państwo członkowskie, w którym: (i) działanie lub zaniechanie miały swoje źródło lub miejsce; (ii) znajduje się lub siedzibę ma dany dostawca lub w stosownych przypadkach, jego upoważniony przedstawiciel; lub (iii) siedzibę ma podmiot stosujący, jeżeli naruszenie zostało popełnione przez ten podmiot; b) wyrządziło, wyrządza lub może wyrządzić szkodę zbiorowym interesom osób fizycznych i ma cechy wspólne, w tym dotyczy tej samej bezprawnej praktyki lub naruszenia tego samego interesu, oraz ma miejsce jednocześnie w co najmniej trzech państwach członkowskich, a jego sprawcą jest ten sam operator; 62) \"infrastruktura krytyczna\" oznacza infrastrukturę krytyczną zdefiniowaną w art. 2 pkt 4 dyrektywy (UE) 2022/2557; 63) \"model AI ogólnego przeznaczenia\" oznacza model AI, w tym model AI trenowany dużą ilością danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla - z wyłączeniem modeli AI, które są wykorzystywane na potrzeby działań w zakresie badań, rozwoju i tworzenia prototypów przed wprowadzeniem ich do obrotu; 64) \"zdolności dużego oddziaływania\" oznaczają zdolności, które dorównują zdolnościom zapisanym w najbardziej zaawansowanych modelach AI ogólnego przeznaczenia lub je przewyższają; 65) \"ryzyko systemowe\" oznacza ryzyko, które jest charakterystyczne dla modeli AI ogólnego przeznaczenia posiadających zdolności dużego oddziaływania i ma znaczący wpływ na rynek Unii ze względu na zasięg tych modeli lub rzeczywiste lub dające się racjonalnie przewidzieć negatywne skutki dla zdrowia publicznego, porządku publicznego, bezpieczeństwa publicznego, praw podstawowych lub całego społeczeństwa, mogące rozprzestrzenić się na dużą skalę w całym łańcuchu wartości; 66) \"system AI ogólnego przeznaczenia\" oznacza system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI; 67) \"operacja zmiennoprzecinkowa\" oznacza operację matematyczną lub zadanie z wykorzystaniem liczb zmiennoprzecinkowych, które stanowią podzbiór liczb rzeczywistych zwykle przedstawianych na komputerach przez liczbę całkowitą o stałej dokładności przeskalowaną przez całkowity wykładnik stałej podstawy systemu liczbowego; 68) \"dostawca niższego szczebla\" oznacza dostawcę systemu AI, w tym systemu AI ogólnego przeznaczenia, rozwiniętego w drodze integracji modelu AI, niezależnie od tego, czy ten model AI jest dostarczany przez tego samego dostawcę i zintegrowany pionowo czy dostarczany przez inny podmiot na podstawie stosunków umownych. Art. 4 Kompetencje w zakresie AI Dostawcy i podmioty stosujące systemy AI podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 5 Zakazane praktyki w zakresie AI 1. Zakazuje się następujących praktyk w zakresie AI: a) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę; b) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który wykorzystuje słabości osoby fizycznej lub określonej grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia sytuację społeczną lub ekonomiczną, którego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub osoby należącej do tej grupy w sposób, który wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tej osoby lub u innej osoby poważną szkodę; c) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków: (i) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane; (ii) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi; d) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą; e) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (ang. untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej; f) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa; g) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej; zakaz ten nie obejmuje przypadków etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw; h) wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, chyba że - i w zakresie, w jakim - takie wykorzystanie jest bezwzględnie konieczne do jednego z następujących celów: (i) ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych; (ii) zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; (iii) lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw, o których mowa w załączniku II, podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata. Akapit pierwszy lit. h) pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 w odniesieniu do przetwarzania danych biometrycznych do celów innych niż ściganie przestępstw. 2. Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h), mogą być wykorzystywane do celów określonych w tej literze, jedynie w celu potwierdzenia tożsamości konkretnej poszukiwanej osoby, z uwzględnieniem przy tym następujących elementów: a) charakter sytuacji powodującej konieczność ewentualnego wykorzystania takiego systemu, w szczególności powagę, prawdopodobieństwo i skalę szkody, która zostałaby wyrządzona w przypadku niewykorzystania tego systemu; b) konsekwencje wykorzystania takiego systemu dla praw i wolności wszystkich zainteresowanych osób, w szczególności powagę, prawdopodobieństwo i skalę tych konsekwencji. Ponadto wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h) niniejszego artykułu, musi przebiegać z zachowaniem niezbędnych i proporcjonalnych zabezpieczeń i warunków w odniesieniu do takiego wykorzystywania zgodnie z zezwalającym na takie wykorzystanie prawem krajowym, w szczególności w odniesieniu do ograniczeń czasowych, geograficznych i osobowych. Wykorzystanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej jest dozwolone tylko wtedy, gdy organ ścigania przeprowadził ocenę skutków dla praw podstawowych zgodnie z art. 27 oraz zarejestrował system w bazie danych UE zgodnie z przepisami art. 49. W należycie uzasadnionych nadzwyczajnych przypadkach można jednak rozpocząć korzystanie z takich systemów bez rejestracji w bazie danych UE, pod warunkiem, że taka rejestracja zostanie dokonana bez zbędnej zwłoki. 3. Na potrzeby ust. 1 akapit pierwszy lit. h) i ust. 2, każde wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw wymaga uzyskania uprzedniego zezwolenia udzielonego przez organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny państwa członkowskiego, w którym ma nastąpić wykorzystanie; zezwolenie to wydawane jest na uzasadniony wniosek i zgodnie ze szczegółowymi przepisami prawa krajowego, o których mowa w ust. 5. W należycie uzasadnionych pilnych przypadkach korzystanie z takiego systemu można jednak rozpocząć bez zezwolenia, pod warunkiem, że wniosek o takie zezwolenie zostanie złożony bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W przypadku odmowy udzielenia takiego zezwolenia wykorzystywanie systemu wstrzymuje się ze skutkiem natychmiastowym, a wszystkie dane, a także rezultaty i wyniki uzyskane podczas tego wykorzystania musza zostać natychmiast odrzucone i usunięte. Właściwy organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub jasnych przesłanek, które mu przedstawiono, że wykorzystanie danego systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym jest konieczne i proporcjonalne do osiągnięcia jednego z celów określonych w ust. 1 akapit pierwszy lit. h), wskazanego we wniosku, a w szczególności ogranicza się do tego, co jest bezwzględnie konieczne w odniesieniu do przedziału czasowego, a także zakresu geograficznego i podmiotowego. Podejmując decyzję w sprawie wniosku organ ten bierze pod uwagę elementy, o których mowa w ust. 2. Nie można wydać decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym. 4. Bez uszczerbku dla ust. 3, o każdym wykorzystaniu systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw powiadamia się właściwy organ nadzoru rynku i krajowy organ ochrony danych zgodnie z przepisami prawa krajowego, o których mowa w ust. 5. Powiadomienie zawiera co najmniej informacje określone w ust. 6 i nie może zawierać wrażliwych danych operacyjnych. 5. Państwo członkowskie może podjąć decyzję o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w granicach i na warunkach wymienionych w ust. 1 akapit pierwszy lit. h) i w ust. 2 i 3. Zainteresowane państwa członkowskie ustanawiają w swoim prawie krajowym niezbędne szczegółowe przepisy dotyczące wniosku o udzielenie zezwoleń, o których mowa w ust. 3, wydawanie i wykonywanie tych zezwoleń oraz ich nadzorowanie składanie sprawozdań w ich sprawie. W przepisach tych określa się również, w odniesieniu do których celów wymienionych w ust. 1 akapit pierwszy lit. h) - w tym w odniesieniu do których przestępstw wymienionych w ust. 1 akapit pierwszy lit. h) ppkt (iii) - właściwe organy mogą uzyskać zezwolenie na wykorzystanie tych systemów do celów celu ścigania przestępstw. Państwa członkowskie powiadamiają Komisję o tych przepisach najpóźniej 30 dni po ich przyjęciu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. 6. Krajowe organy nadzoru rynku i krajowe organy ochrony danych państw członkowskich, które zostały powiadomione o wykorzystaniu systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw zgodnie z ust. 4, przedkładają Komisji roczne sprawozdania z takiego wykorzystania. W tym celu Komisja przekazuje państwom członkowskim i krajowym organom nadzoru rynku i organom ochrony danych wzór formularza zawierającego informacje na temat liczby decyzji podjętych przez właściwe organy wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny w odniesieniu do wniosków o udzielenie zezwolenia zgodnie z ust. 3 oraz wyników ich rozpatrzenia. 7. Komisja publikuje roczne sprawozdania na temat wykorzystania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, oparte na zagregowanych danych w państwach członkowskich przekazanych w sprawozdaniach rocznych, o których mowa w ust. 6. Te sprawozdania roczne nie mogą zawierać wrażliwych danych operacyjnych dotyczących powiązanych działań w zakresie ścigania przestępstw. 8. Niniejszy artykuł nie ma wpływu na zakazy mające zastosowanie w przypadku, gdy praktyka w zakresie AI narusza inne przepisy prawa Unii. Art. 6 Zasady klasyfikacji systemów AI wysokiego ryzyka 1. Bez względu na to, czy system AI wprowadza się do obrotu lub oddaje do użytku niezależnie od produktów, o których mowa w lit. a) i b), taki system AI uznaje się za system wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wymienionym w załączniku I lub sam system AI jest takim produktem; b) produkt, którego związanym z bezpieczeństwem elementem jest zgodnie z lit. a) system AI, lub sam system AI jako produkt podlegają - na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I - ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku. 2. Oprócz systemów AI wysokiego ryzyka, o których mowa w ust. 1, za systemy wysokiego ryzyka uznaje się systemy AI, o których mowa w załączniku III. 3. Na zasadzie odstępstwa od ust. 2 systemu AI, o którym mowa w załączniku III, nie uznaje się za system wysokiego ryzyka, w przypadku, gdy nie stwarza on znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, w tym poprzez brak znaczącego wpływu na wynik procesu decyzyjnego. Akapit pierwszy stosuje się w przypadku, gdy spełniony jest którykolwiek z następujących warunków: a) system AI jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego; b) system AI jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka; c) system AI jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji i nie ma na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka - bez odpowiedniej weryfikacji przez człowieka; lub d) system AI jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. Niezależnie od akapitu pierwszego system AI, o którym mowa w załączniku III, zawsze uznaje się za system wysokiego ryzyka, w przypadku, gdy system ten dokonuje profilowania osób fizycznych. 4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Taki dostawca podlega obowiązkowi rejestracji określonemu w art. 49 ust. 2. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny. 5. Po konsultacji z Europejską Radą ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"), Komisja przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie niniejszego artykułu zgodnie z art. 96 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez dodanie nowych warunków do warunków ustanowionych w tym przepisie lub ich zmianę, w przypadku, gdy istnieją konkretne i wiarygodne dowody na istnienie systemów AI, które wchodzą w zakres stosowania załącznika III, ale nie stwarzają znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. 7. Komisja przyjmuje zgodnie z art 97 akty delegowane w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez usunięcie któregokolwiek z warunków ustanowionych w tym przepisie, w przypadku, gdy istnieją konkretne i wiarygodne dowody na to, że jest to konieczne w celu utrzymania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu. 8. Zmiana warunków ustanowionych w ust. 3 akapit drugi, przyjęta zgodnie z ust. 6 i 7 niniejszego artykułu, nie może prowadzić do obniżenia ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu i musi zapewniać spójność z aktami delegowanymi przyjętymi zgodnie z art. 7 ust. 1 oraz uwzględniać rozwój rynku i technologii. Art. 7 Zmiany w załączniku III 1. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany N Przepis o charakterze ogólnym stosowany wprost załącznika III poprzez dodanie systemów AI wysokiego ryzyka lub zmianę przypadków ich wykorzystania, w przypadku, gdy spełnione są oba poniższe warunki: a) systemy AI są przeznaczone do wykorzystania w którymkolwiek z obszarów wymienionych w załączniku III; b) systemy AI stwarzają ryzyko szkody dla zdrowia i bezpieczeństwa lub ryzyko niepożądanego wpływu na prawa podstawowe i ryzyko to jest równoważne ryzyku szkody lub niepożądanego wpływu, jakie stwarzają systemy AI wysokiego ryzyka wymienione już w załączniku III, lub jest od niego większe. 2. Przy ocenie warunku określonego w ust. 1 lit. b) Komisja uwzględnia następujące kryteria: a) przeznaczenie systemu AI; b) zakres, w jakim system AI jest wykorzystywany lub prawdopodobnie będzie wykorzystywany; c) charakter i ilość danych przetwarzanych i wykorzystywanych przez system AI, w szczególności, czy przetwarzane są szczególne kategorie danych osobowych; d) zakres, w jakim system AI działa autonomicznie oraz możliwość unieważnienia przez człowieka decyzji lub zaleceń, które mogą prowadzić do potencjalnej szkody; e) zakres, w jakim wykorzystywanie systemu AI już wyrządziło szkodę dla zdrowia i bezpieczeństwa lub miało niepożądany wpływ na prawa podstawowe lub nie wymaga wdrożenia wzbudziło istotne obawy co do prawdopodobieństwa wystąpienia takiej szkody lub niepożądanego wpływu, czego potwierdzeniem są np. zgłoszenia lub poparte dokumentami twierdzenia przedstawione właściwym organom krajowym, lub w stosownych przypadkach, inne zgłoszenia; f) potencjalny zakres takiej szkody lub takiego niepożądanego wpływu, w szczególności pod względem ich nasilenia i możliwości oddziaływania na wiele osób lub nieproporcjonalnego oddziaływania na określoną grupę osób; g) zakres, w jakim osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu są zależne od wyniku działania systemu AI, w szczególności ze względu na fakt, że z przyczyn praktycznych lub prawnych nie jest racjonalnie możliwa rezygnacja z objęcia tym wynikiem; h) zakres, w jakim występuje nierówny układ sił lub osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu znajdują się w słabszym położeniu względem podmiotu stosującego system AI, w szczególności z powodu statusu, władzy, wiedzy, sytuacji gospodarczej lub społecznej lub wieku; i) zakres, w jakim wynik uzyskany przy wykorzystaniu systemu AI jest łatwy do skorygowania lub odwracalny, przy uwzględnieniu dostępnych rozwiązań technicznych umożliwiających jego skorygowanie lub odwrócenie, przy czym za łatwe do skorygowania lub odwracalne nie uznaje się wyników działania systemu mających niepożądany wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe; j) rozmiary i prawdopodobieństwo korzyści płynących z wdrożenia systemu AI dla osób fizycznych, grup lub ogółu społeczeństwa, w tym możliwość poprawy bezpieczeństwa produktów; k) zakres, w jakim obowiązujące prawo Unii przewiduje: (i) skuteczne środki ochrony prawnej w związku z ryzykiem stwarzanym przez system AI, z wyłączeniem roszczeń o odszkodowanie; (ii) skuteczne środki zapobiegania temu ryzyku lub jego znacznego minimalizowania. 3. Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych w celu zmiany wykazu zawartego w załączniku III poprzez usunięcie systemów AI wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) dany system AI wysokiego ryzyka nie stwarza już żadnego znaczącego ryzyka dla praw podstawowych, zdrowia lub bezpieczeństwa, biorąc pod uwagę kryteria wymienione w ust. 2; b) usunięcie z wykazu nie obniża ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w prawie Unii. Art. 8 Zgodność z wymogami N Przepis o charakterze 1. Systemy AI wysokiego ryzyka muszą być zgodne z wymogami ustanowionymi w niniejszej sekcji, przy uwzględnieniu ich przeznaczenia oraz powszechnie uznanego stanu wiedzy technicznej w dziedzinie AI oraz technologii powiązanych z AI. Przy zapewnianiu zgodności z tymi wymogami uwzględnia się system zarządzania ryzykiem, o którym mowa w art. 9. 2. W przypadku, gdy produkt zawiera system AI, do którego mają zastosowanie wymogi niniejszego rozporządzenia oraz wymogi unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawcy są odpowiedzialni za zapewnienie pełnej zgodności ich produktu ze wszystkimi mającymi zastosowanie wymogami na podstawie mającego zastosowanie unijnego prawodawstwa harmonizacyjnego. Przy zapewnianiu zgodności systemów AI wysokiego ryzyka, o których mowa w ust. 1, z wymogami ustanowionymi w niniejszej sekcji oraz w celu zapewnienia spójności, unikania powielania i zminimalizowania dodatkowych obciążeń, dostawcy mogą wybrać, w stosownych przypadkach, integrację niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji, które zapewniają w odniesieniu do swojego produktu, z istniejącą już dokumentacją i procedurami wymaganymi na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A. ogólnym stosowany wprost nie wymaga wdrożenia Art. 9 System zarządzania ryzykiem N Przepis o charakterze ogólnym stosowany wprost 1. Ustanawia się, wdraża, dokumentuje i obsługuje system zarządzania ryzykiem w odniesieniu do systemów AI wysokiego ryzyka. 2. Przez system zarządzania ryzykiem rozumie się ciągły, iteracyjny proces, planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka, wymagający regularnego systematycznego przeglądu i aktualizacji. Obejmuje on następujące etapy: a) identyfikację i analizę znanego i dającego się racjonalnie przewidzieć ryzyka, jakie dany system AI wysokiego ryzyka może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem; b) oszacowanie i ocenę ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem i w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania; c) ocenę innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; d) przyjęcie odpowiednich i ukierunkowanych środków zarządzania ryzykiem zaprojektowanych w celu przeciwdziałania ryzyku zidentyfikowanemu zgodnie z lit. a). 3. Ryzyko, o którym mowa w niniejszym artykule, oznacza tylko takie rodzaje ryzyka, które można stosownie ograniczyć lub wyeliminować poprzez nie wymaga wdrożenia rozwój lub zaprojektowanie systemu AI wysokiego ryzyka lub poprzez zapewnienie odpowiednich informacji technicznych. 4. W ramach środków zarządzania ryzykiem, o których mowa w ust. 2 lit. d), należycie uwzględnia się skutki i możliwe interakcje wynikające z łącznego stosowania wymogów ustanowionych w niniejszej sekcji, w celu skuteczniejszego minimalizowania ryzyka przy jednoczesnym osiągnięciu odpowiedniej równowagi we wdrażaniu środków służących spełnieniu tych wymogów. 5. Środki zarządzania ryzykiem, o których mowa w ust. 2 lit. d), muszą być takie, aby odpowiednie ryzyko szczątkowe związane z każdym zagrożeniem, jak również ogólne ryzyko szczątkowe systemów AI wysokiego ryzyka, oceniano jako dopuszczalne. Przy określaniu najodpowiedniejszych środków zarządzania ryzykiem zapewnia się, co następuje: a) eliminację lub ograniczenie - w zakresie, w jakim jest to technicznie wykonalne - ryzyka zidentyfikowanego i ocenionego zgodnie z ust. 2 poprzez odpowiedni projekt i rozwój systemu AI wysokiego ryzyka; b) w stosownych przypadkach - wdrożenie odpowiednich środków służących ograniczeniu i kontroli ryzyka, którego nie można wyeliminować; c) dostarczenie informacji wymaganych zgodnie z art. 13 oraz w stosownych przypadkach, przeszkolenie podmiotów stosujących. W celu eliminowania lub ograniczania ryzyka związanego z wykorzystaniem systemu AI wysokiego ryzyka należytą uwagę zwraca się na wiedzę techniczną, doświadczenie, wykształcenie i szkolenia, jakich oczekuje się od podmiotu stosującego, oraz zakładany kontekst, w którym ma być stosowany system. 6. Systemy AI wysokiego ryzyka testuje się w celu określenia najodpowiedniejszych i ukierunkowanych środków zarządzania ryzykiem. Testy zapewniają, by systemy AI wysokiego ryzyka działały zgodnie z ich przeznaczeniem oraz były zgodne z wymogami ustanowionymi w niniejszej sekcji. 7. Procedury testowe mogą obejmować testy w warunkach rzeczywistych zgodnie z art. 60. 8. Testy systemów AI wysokiego ryzyka przeprowadza się, w stosownych przypadkach, w dowolnym momencie procesu rozwoju systemu, a w każdym przypadku przed wprowadzeniem go do obrotu lub oddaniem do użytku. Testy przeprowadza się w odniesieniu do uprzednio określonych wskaźników i progów probabilistycznych, stosownych ze względu na przeznaczenie systemu AI wysokiego ryzyka. 9. Przy wdrażaniu systemu zarządzania ryzykiem przewidzianego w ust. 1-7 dostawcy zwracają uwagę na to, czy dany system AI wysokiego ryzyka w świetle swojego przeznaczenia może mieć niekorzystny wpływ na osoby poniżej 18 roku życia oraz w stosownych przypadkach, na inne grupy szczególnie wrażliwe. 10. W odniesieniu do dostawców systemów AI wysokiego ryzyka, którzy podlegają wymogom dotyczącym wewnętrznych procesów zarządzania ryzykiem na podstawie innych odpowiednich przepisów prawa Unii, aspekty przewidziane w ust. 1-9 mogą być częścią procedur zarządzania ryzykiem ustanowionych zgodnie z tym prawem lub łączyć się z tymi procedurami. Art. 10 Dane i zarządzanie danymi 1. Systemy AI wysokiego ryzyka, które wykorzystują techniki obejmujące trenowanie modeli AI z wykorzystaniem danych, rozwija się na podstawie zbiorów danych treningowych, walidacyjnych i testowych spełniających kryteria jakości, o których mowa w ust. 2-5, w każdym przypadku, gdy takie zbiory danych są wykorzystywane. 2. Zbiory danych treningowych, walidacyjnych i testowych podlegają praktykom w zakresie zarządzania danymi stosownym do przeznaczenia danego systemu AI wysokiego ryzyka. Praktyki te dotyczą w szczególności: a) odpowiednich decyzji projektowych; b) procesów zbierania danych i pochodzenia danych oraz w przypadku danych osobowych, pierwotnego celu zbierania danych; c) odpowiednich operacji przetwarzania na potrzeby przygotowania danych, takich jak dodawanie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia komentarzy, etykietowanie, czyszczenie, aktualizacja, wzbogacanie i agregacja; d) sformułowania założeń, w szczególności w odniesieniu do informacji, do których pomiaru i reprezentowania mają służyć dane; e) oceny dostępności, ilości i przydatności zbiorów danych, które są potrzebne; f) badania pod kątem ewentualnej stronniczości, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii, zwłaszcza w przypadku, gdy dane wyjściowe wpływają na dane wejściowe wykorzystywane na potrzeby przyszłych operacji; g) odpowiednich środków służących wykrywaniu ewentualnej stronniczości określonej zgodnie z lit. f) oraz zapobieganiu jej i jej ograniczaniu; h) określenia istotnych luk w danych lub braków w danych, które uniemożliwiają zgodność z niniejszym rozporządzeniem, oraz tego, w jaki sposób można zaradzić tym lukom i brakom. 3. Zbiory danych treningowych, walidacyjnych i testowych muszą być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne z punktu widzenia przeznaczenia. Muszą się one charakteryzować odpowiednimi właściwościami statystycznymi, w tym, w stosownych przypadkach, w odniesieniu do osób lub grup osób, wobec których ma być stosowany system AI wysokiego ryzyka. Te kryteria zbiorów danych mogą zostać spełnione na poziomie pojedynczych zbiorów danych lub na poziomie ich kombinacji. 4. Zbiory danych muszą uwzględniać, w zakresie wymaganym z uwagi na ich przeznaczenie, cechy lub elementy, które są specyficzne dla określonego otoczenia geograficznego, kontekstualnego, behawioralnego lub funkcjonalnego, w którym ma być wykorzystywany system AI wysokiego ryzyka. 5. W zakresie, w jakim jest to bezwzględnie konieczne do celów zapewnienia zgodnie z ust. 2 lit. f) i g) niniejszego artykułu wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz przepisów określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywie (UE) 2016/680, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki: a) nie jest możliwe skuteczne wykrywanie i korygowanie stronniczości poprzez przetwarzanie innych danych, w tym danych syntetycznych lub zanonimizowanych; b) szczególne kategorie danych osobowych podlegają ograniczeniom technicznym dotyczącym ponownego wykorzystywania danych osobowych oraz najnowocześniejszym środkom bezpieczeństwa i ochrony prywatności, w tym pseudonimizacji; c) szczególne kategorie danych osobowych podlegają środkom zapewniającym, by przetwarzane dane osobowe były zabezpieczone, chronione, podlegały odpowiednim środkom ochronnym, w tym ścisłym kontrolom i dokumentowaniu dostępu, aby uniknąć nadużyć i zapewnić, by dostęp do tych danych miały wyłącznie osoby upoważnione, zobowiązane do spełnienia odpowiednich obowiązków dotyczących poufności; d) szczególne kategorie danych osobowych nie są przesyłane, przekazywane ani w inny sposób udostępniane innym podmiotom; e) szczególne kategorie danych osobowych usuwa się po skorygowaniu stronniczości lub po upływie okresu przechowywania danych osobowych, w zależności od tego, co nastąpi wcześniej; f) rejestry czynności przetwarzania na podstawie rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680 zawierają uzasadnienie, dlaczego przetwarzanie szczególnych kategorii danych osobowych było bezwzględnie konieczne do wykrycia i skorygowania stronniczości oraz dlaczego cel ten nie mógł zostać osiągnięty w wyniku przetwarzania innych danych. 6. W przypadkach rozwoju systemów AI wysokiego ryzyka niewykorzystujących technik obejmujących trenowanie modeli AI ust. 2-5 stosuje się jedynie do zbiorów danych testowych. Art. 11 Dokumentacja techniczna 1. Dokumentację techniczną dla systemu AI wysokiego ryzyka sporządza się przed wprowadzeniem danego systemu do obrotu lub oddaniem go do użytku oraz dokonuje się jej aktualizacji. Dokumentację techniczną sporządza się w taki sposób, aby wykazać, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w niniejszej sekcji, oraz aby dostarczyć właściwym organom krajowym i jednostkom notyfikowanym informacji - w jasnej i kompleksowej formie - niezbędnych do oceny zgodności systemu AI z tymi wymogami. Zawiera ona co najmniej elementy określone w załączniku IV. MŚP, w tym przedsiębiorstwa typu startup, mogą podawać elementy dokumentacji technicznej określone w załączniku IV w formie uproszczonej. W tym celu Komisja ustanawia wzór uproszczonej dokumentacji technicznej ukierunkowany na potrzeby małych przedsiębiorstw i mikroprzedsiębiorstw. W przypadku gdy MŚP, w tym przedsiębiorstwa typu startup, zdecydują się na podawanie informacji wymaganych w załączniku IV w sposób uproszczony, korzystają z wzoru, o którym mowa w niniejszym ustępie. Jednostki notyfikowane akceptują ten wzór do celów oceny zgodności. 2. W przypadku wprowadzania do obrotu lub oddawania do użytku systemu AI wysokiego ryzyka N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia związanego z produktem, który jest objęty zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, sporządza się jeden zestaw dokumentacji technicznych zawierający wszystkie informacje określone w ust. 1, jak również informacje wymagane na podstawie tych aktów prawnych. 3. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany, w razie potrzeby, załącznika IV, aby zagwarantować, by w świetle postępu technicznego dokumentacja techniczna zawierała wszystkie informacje niezbędne do oceny zgodności systemu z wymogami ustanowionymi w niniejszej sekcji. Art. 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej \"rejestrami zdarzeń\") w całym cyklu życia danego systemu. 2. W celu zapewnienia, by poziom identyfikowalności funkcjonowania systemu AI wysokiego ryzyka był stosowny ze względu na przeznaczenie tego systemu, funkcja rejestracji zdarzeń musi umożliwiać rejestrowanie zdarzeń istotnych dla: a) identyfikowania sytuacji, które mogą skutkować tym, że system AI wysokiego ryzyka będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, lub które mogą prowadzić do istotnej zmiany; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia b) ułatwiania monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; oraz c) monitorowania działania systemów AI wysokiego ryzyka, o których mowa w art. 26 ust. 5. 3. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), funkcja rejestracji zdarzeń musi zapewniać rejestrowanie co najmniej: a) okresu każdego wykorzystania systemu (data i godzina rozpoczęcia oraz data i godzina zakończenia każdego wykorzystania); b) referencyjnej bazy danych, względem której system sprawdził dane wejściowe; c) danych wejściowych, w których przypadku wyszukiwanie doprowadziło do trafienia; d) danych umożliwiających identyfikację osób fizycznych uczestniczących w weryfikacji wyników, o których mowa w art. 14 ust. 5. Art. 13 Przejrzystość i udostępnianie informacji podmiotom stosującym 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w sposób zapewniający wystarczającą przejrzystość ich działania, umożliwiającą podmiotom stosującym interpretację wyników systemu i ich właściwe wykorzystanie. Zapewnia się odpowiedni rodzaj i stopień przejrzystości w celu osiągnięcia N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia spełnienia przez dostawcę i podmiot stosujący odpowiednich obowiązków określonych w sekcji 3. 2. Do systemów AI wysokiego ryzyka dołącza się instrukcję obsługi w odpowiednim formacie cyfrowym lub innym formacie zawierającą zwięzłe, kompletne, poprawne i jasne informacje, które są istotne, dostępne i zrozumiałe dla podmiotów stosujących. 3. Instrukcja obsługi zawiera co najmniej następujące informacje: a) tożsamość i dane kontaktowe dostawcy oraz w stosownych przypadkach, jego upoważnionego przedstawiciela; b) cechy, możliwości i ograniczenia skuteczności działania systemu AI wysokiego ryzyka, w tym: (i) jego przeznaczenie; (ii) poziom dokładności, wraz z jego wskaźnikami, poziom solidności i cyberbezpieczeństwa, o których mowa w art. 15, względem których przetestowano system AI wysokiego ryzyka i dokonano jego walidacji oraz których to poziomów można oczekiwać, a także wszelkie znane i dające się przewidzieć okoliczności, które mogą mieć wpływ na te oczekiwane poziomy dokładności, solidności i cyberbezpieczeństwa; (iii) wszelkie znane lub dające się przewidzieć okoliczności związane z wykorzystaniem systemu AI wysokiego ryzyka zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, mogące powodować ryzyko dla zdrowia i bezpieczeństwa lub praw podstawowych, o którym to ryzyku mowa w art. 9 ust. 2; (iv) w stosownych przypadkach, możliwości techniczne i właściwości systemu AI wysokiego ryzyka w zakresie udostępniania informacji istotnych dla wyjaśnienia jego wyników; (v) w stosownych przypadkach, działanie systemu w odniesieniu do określonych osób lub grup osób, wobec których ma on być wykorzystywany; (vi) w stosownych przypadkach, specyfikacje dotyczące danych wejściowych lub wszelkie inne istotne informacje dotyczące wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, uwzględniając przeznaczenie systemu AI wysokiego ryzyka; (vii) w stosownych przypadkach, informacje umożliwiające podmiotom stosującym interpretację wyników systemu AI wysokiego ryzyka i odpowiednie wykorzystanie tych wyników; c) zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które zostały z góry zaplanowane przez dostawcę w momencie przeprowadzania początkowej oceny zgodności; d) środki nadzoru ze strony człowieka, o których mowa w art. 14, w tym środki techniczne wprowadzone w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI wysokiego ryzyka; e) potrzebne zasoby obliczeniowe i sprzętowe, przewidywany cykl życia systemu AI wysokiego ryzyka oraz wszelkie niezbędne środki w zakresie konserwacji i utrzymania, w tym częstotliwość ich stosowania, mające na celu zapewnienie właściwego funkcjonowania tego systemu AI, w tym dotyczące aktualizacji oprogramowania; f) w stosownych przypadkach - opis mechanizmów zawartych w systemie AI wysokiego ryzyka, które umożliwiają podmiotom stosującym prawidłowe zbieranie, przechowywanie i interpretowanie rejestrów zdarzeń, zgodnie z art. 12. Art. 14 Nadzór ze strony człowieka 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, w tym poprzez uwzględnienie odpowiednich narzędzi interfejsu człowiek-maszyna, aby w okresie ich wykorzystywania systemu AI mogły być skutecznie nadzorowane przez osoby fizyczne. 2. Nadzór ze strony człowieka ma na celu zapobieganie ryzyku dla zdrowia, bezpieczeństwa lub praw podstawowych lub minimalizowanie takiego ryzyka, które może się pojawić, gdy system AI wysokiego ryzyka jest wykorzystywany zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, w szczególności, gdy takie ryzyko utrzymuje się pomimo stosowania innych wymogów ustanowionych w niniejszej sekcji. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Środki nadzoru muszą być współmierne do ryzyka, poziomu autonomii i kontekstu wykorzystywania danego systemu AI wysokiego ryzyka, a nadzór zapewnia się za pomocą co najmniej jednego z następujących rodzajów środków: a) środków określonych i wbudowanych, jeżeli jest to technicznie wykonalne, w system AI wysokiego ryzyka przez dostawcę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku; b) środków określonych przez dostawcę przed wprowadzeniem systemu AI wysokiego ryzyka do obrotu lub oddaniem go do użytku i które to środki nadają się do wdrożenia przez podmiot stosujący. 4. Do celów wykonania ust. 1, 2 i 3 system AI wysokiego ryzyka udostępnia się podmiotowi stosującemu w taki sposób, aby umożliwić osobom fizycznym, którym powierzono sprawowanie nadzoru ze strony człowieka, odpowiednio i proporcjonalnie: a) należyte zrozumienie odpowiednich możliwości i ograniczeń systemu AI wysokiego ryzyka oraz należyte monitorowanie jego działania, w tym w celu wykrywania anomalii, nieprawidłowego funkcjonowania i nieoczekiwanych wyników działania oraz zaradzeniu im w przypadku ich wystąpienia; b) pozostawanie świadomym potencjalnej tendencji do automatycznego polegania lub nadmiernego polegania na wyniku wytworzonym przez system AI wysokiego ryzyka (tzw. \"błąd automatyzacji\"), w szczególności w przypadku systemów AI wysokiego ryzyka wykorzystywanych do udzielania informacji lub zaleceń na potrzeby decyzji podejmowanych przez osoby fizyczne; c) prawidłową interpretację wyniku systemu AI wysokiego ryzyka, biorąc pod uwagę na przykład dostępne narzędzia i metody interpretacji; d) podjęcie decyzji, w każdej konkretnej sytuacji, o niekorzystaniu z systemu AI wysokiego ryzyka lub w inny sposób zignorowanie, unieważnienie lub odwrócenie wyniku systemu AI wysokiego ryzyka; e) ingerowanie w działanie systemu AI wysokiego ryzyka lub przerwanie działania systemu za pomocą przycisku \"stop\" lub podobnej procedury, która pozwala na zatrzymanie systemu w stanie bezpiecznym. 5. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), środki, o których mowa w ust. 3 niniejszego artykułu, muszą ponadto zapewniać, aby podmiot stosujący nie podejmował żadnego działania ani decyzji na podstawie identyfikacji będącej wynikiem działania systemu, jeżeli identyfikacji tej nie zweryfikowały ani nie potwierdziły odrębnie co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia. Wymóg odrębnej weryfikacji przez co najmniej dwie osoby fizyczne nie ma zastosowania do systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw, migracji, kontroli granicznej lub azylu, w przypadkach, gdy prawo Unii lub prawo krajowe uznaje stosowanie tego wymogu za nieproporcjonalne. Art. 15 Dokładność, solidność i cyberbezpieczeństwo 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz by działały konsekwentnie pod tymi względami w całym cyklu życia. 2. Aby odnieść się do technicznych aspektów pomiaru odpowiednich poziomów dokładności i solidności określonych w ust. 1 oraz wszelkich innych istotnych wskaźników skuteczności działania, Komisja we współpracy z odpowiednimi zainteresowanymi stronami i organizacjami, takimi jak organy metrologiczne i organy ds. analizy porównawczej, zachęca w stosownych przypadkach do opracowywania poziomów odniesienia i metod pomiarowych. 3. Poziomy dokładności i odpowiednie wskaźniki dokładności systemów AI wysokiego ryzyka deklaruje się w dołączonych do nich instrukcjach obsługi. 4. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Solidność systemów AI wysokiego ryzyka można osiągnąć dzięki rozwiązaniom technicznym gwarantującym redundancję, które mogą obejmować plany zakładające dostępność systemu zapasowego lub plany zapewniające przejście systemu w stan bezpieczny (tzw. \"fail-safe\"). Systemy AI wysokiego ryzyka, które po wprowadzeniu na rynek lub oddaniu do użytku nadal się uczą, rozwija się w taki sposób, aby w możliwie największym stopniu wyeliminować lub ograniczyć ryzyko potencjalnie stronniczych wyników wpływających na dane wejściowe wykorzystywane na potrzeby przyszłych operacji (sprzężenie zwrotne) oraz aby zapewnić, by wszelkie tego typu sprzężenie zwrotne zostało odpowiednio uwzględnione przy pomocy odpowiednich środków ograniczających ryzyko. 5. Systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. Rozwiązania techniczne mające na celu eliminowanie słabych punktów charakterystycznych dla AI obejmują, w stosownych przypadkach, środki służące zapobieganiu atakom mającym na celu manipulowanie zbiorem danych treningowych (zatruwanie danych) lub elementami stosowanymi przy trenowaniu, które zostały poddane pretrenowaniu (zatruwanie modelu), wprowadzaniu danych wejściowych, które mają na celu spowodowanie błędu w modelu AI (przykłady kontradyktoryjne lub omijanie modelu), atakom na poufność lub wadom modelu, a także środki w zakresie wykrywania tych zagrożeń, reagowania na nie, ich rozwiązywania i ich kontrolowania. Art. 16 Obowiązki dostawców systemów AI wysokiego ryzyka Dostawcy systemów AI wysokiego ryzyka: a) zapewniają zgodność swoich systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; b) podają w systemie AI wysokiego ryzyka lub – przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, stosownie do przypadku, swoją nazwę, zarejestrowaną nazwę handlową lub zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować; c) posiadają system zarządzania jakością zgodny z art. 17; d) prowadzą dokumentację, o której mowa w art. 18; e) przechowują rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka, jak określono w art. 19, gdy rejestry takie znajdują się pod ich kontrolą; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia f) zapewniają, aby przed wprowadzeniem do obrotu lub oddaniem do użytku system AI wysokiego ryzyka poddano odpowiedniej procedurze oceny zgodności, o której mowa w art. 43; g) sporządzają deklarację zgodności UE zgodnie z art. 47; h) umieszczają, zgodnie z art. 48, oznakowanie CE w systemie AI wysokiego ryzyka lub - w przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, na potwierdzenie zgodności z niniejszym rozporządzeniem; i) spełniają obowiązki rejestracyjne, o których mowa w art. 49 ust. 1; j) podejmują niezbędne działania naprawcze i przekazują informacje zgodnie z art. 20; k) wykazują, na uzasadniony wniosek właściwego organu krajowego, zgodność systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; l) zapewniają, by system AI wysokiego ryzyka był zgodny z wymogami dostępności zgodnie z dyrektywami (UE) 2016/2102 i (UE) 2019/882. Art. 17 System zarządzania jakością 1. Dostawcy systemów AI wysokiego ryzyka wprowadzają system zarządzania jakością, który zapewnia zgodność z niniejszym rozporządzeniem. System ten dokumentuje się w systematyczny i uporządkowany sposób w formie pisemnych polityk, N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur i instrukcji oraz obejmuje on co najmniej następujące aspekty: a) strategię na rzecz zgodności regulacyjnej, w tym zgodności z procedurami oceny zgodności i procedurami zarządzania zmianami w systemie AI wysokiego ryzyka; b) techniki, procedury i systematyczne działania, które należy stosować na potrzeby projektowania oraz kontroli i weryfikacji projektu systemu AI wysokiego ryzyka; c) techniki, procedury i systematyczne działania, które należy stosować na potrzeby rozwoju, kontroli jakości i zapewniania jakości systemu AI wysokiego ryzyka; d) procedury badania, testowania i walidacji, które należy przeprowadzić przed przystąpieniem do rozwoju systemu AI wysokiego ryzyka, w trakcie tego rozwoju i po jego zakończeniu, oraz częstotliwość, z jaką mają być przeprowadzane; e) specyfikacje techniczne, w tym normy, które należy zastosować, oraz w przypadkach, gdy normy zharmonizowane nie są stosowane w pełni lub nie obejmują wszystkich odpowiednich wymogów ustanowionych w sekcji 2, środki, które należy zastosować do zapewnienia, by system AI wysokiego ryzyka był zgodny z tymi wymogami; f) systemy i procedury zarządzania danymi, w tym dotyczące nabywania danych, zbierania danych, analizy danych, etykietowania danych, przechowywania danych, filtrowania danych, eksploracji danych, agregacji danych, zatrzymywania danych i wszelkich innych operacji dotyczących danych, które przeprowadza się przed wprowadzeniem do obrotu lub oddaniem do użytku systemów AI wysokiego ryzyka i do celu wprowadzenia ich do obrotu lub oddania ich do użytku; g) system zarządzania ryzykiem, o którym mowa w art. 9; h) ustanowienie, wdrożenie i obsługa systemu monitorowania po wprowadzeniu do obrotu, zgodnie z art. 72; i) procedury związane ze zgłaszaniem poważnego incydentu zgodnie z art. 73; j) porozumiewanie się z właściwymi organami krajowymi, innymi właściwymi organami, w tym organami zapewniającymi lub wspierającymi dostęp do danych, jednostkami notyfikowanymi, innymi operatorami, klientami lub innymi zainteresowanymi stronami; k) systemy i procedury rejestrowania wszelkiej istotnej dokumentacji i wszelkich istotnych informacji; l) zarządzanie zasobami, w tym środki związane z bezpieczeństwem dostaw; m) ramy odpowiedzialności służące określeniu odpowiedzialności kierownictwa i pozostałego personelu w odniesieniu do wszystkich aspektów wymienionych w niniejszym ustępie. 2. Wdrożenie aspektów, o których mowa w ust. 1, musi być proporcjonalne do wielkości organizacji dostawcy. W każdym przypadku dostawcy przestrzegają stopnia rygoryzmu i poziomu ochrony wymaganych do zapewnienia zgodności ich systemów AI wysokiego ryzyka z niniejszym rozporządzeniem. 3. Dostawcy systemów AI wysokiego ryzyka, którzy podlegają obowiązkom dotyczącym systemów zarządzania jakością lub równoważnym obowiązkom na podstawie odpowiednich sektorowych przepisów prawa Unii, mogą uwzględnić aspekty wymienione w ust. 1 jako część systemów zarządzania jakością zgodnie z tymi przepisami. 4. W odniesieniu do dostawców będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek wprowadzenia systemu zarządzania jakością, z wyjątkiem ust. 1 lit. g), h) oraz i) niniejszego artykułu, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi zarządzania wewnętrznego, uzgodnień lub procedur zgodnie z odpowiednimi przepisami prawa Unii dotyczącymi usług finansowych. W tym celu uwzględnia się wszelkie normy zharmonizowane, o których mowa w art. 40. Art. 18 Prowadzenie dokumentacji 1. Przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku T Art. 91 ust. 3 pkt 2 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy dostawca przechowuje do dyspozycji właściwych organów krajowych: a) dokumentację techniczną, o której mowa w art. 11; b) dokumentację dotyczącą systemu zarządzania jakością, o którym mowa w art. 17; c) w stosownych przypadkach - dokumentację dotyczącą zmian zatwierdzonych przez jednostki notyfikowane; d) w stosownych przypadkach - decyzje i inne dokumenty wydane przez jednostki notyfikowane; e) deklarację zgodności UE, o której mowa w art. 47. 2. Każde państwo członkowskie określa warunki, na jakich dokumentacja, o której mowa w ust. 1, pozostaje do dyspozycji właściwych organów krajowych przez okres wskazany w tym ustępie w przypadkach, gdy dostawca lub jego upoważniony przedstawiciel mający miejsce zamieszkania lub siedzibę na terytorium danego państwa członkowskiego ogłoszą upadłość lub zaprzestaną działalności przed upływem tego okresu. 3. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą dokumentację techniczną jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów prawa Unii dotyczących usług finansowych. o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 19 Automatycznie generowane rejestry zdarzeń 1. Dostawcy systemów AI wysokiego ryzyka przechowują generowane automatycznie przez ich systemy AI wysokiego ryzyka rejestry zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. Bez uszczerbku dla mającego zastosowanie prawa Unii lub prawa krajowego rejestry te są przechowywane przez okres stosowny ze względu na przeznaczenie systemu AI wysokiego ryzyka, wynoszący co najmniej 6 miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowym, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. 2. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów dotyczących usług finansowych. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 20 Działania naprawcze i obowiązek informacyjny 1. Dostawcy systemów AI wysokiego ryzyka, którzy uważają lub mają powody, by uważać, że system AI wysokiego ryzyka, który wprowadzili do obrotu lub oddali do użytku, nie jest zgodny z niniejszym rozporządzeniem, natychmiast podejmują niezbędne N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia działania naprawcze w celu, stosownie do przypadku, zapewnienia zgodności tego systemu, wycofania go z rynku, wyłączenia go lub wycofania go z użytku. Informują oni o tym dystrybutorów danego systemu AI wysokiego ryzyka oraz w stosownych przypadkach, odpowiednio podmioty stosujące, upoważnionego przedstawiciela i importerów. 2. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1 i dostawca danego systemu dowie się o tym ryzyku, dostawca ten natychmiast wyjaśnia przyczyny tego ryzyka, w stosownych przypadkach we współpracy ze zgłaszającym podmiotem stosującym, oraz informuje organy nadzoru rynku właściwe w zakresie przedmiotowych systemów AI wysokiego ryzyka, oraz, w stosownych przypadkach, jednostkę notyfikowaną, która zgodnie z art. 44 wydała certyfikat dla danego systemu AI wysokiego ryzyka, w szczególności o charakterze danej niezgodności oraz o wszelkich podjętych działaniach naprawczych. Art. 21 Współpraca z właściwymi organami 1. Dostawcy systemów AI wysokiego ryzyka, na uzasadniony wniosek właściwego organu, przekazują temu organowi wszelkie informacje i dokumenty niezbędne do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla danego organu w jednym z oficjalnych języków instytucji Unii wskazanym przez dane państwo członkowskie. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również 2. Na uzasadniony wniosek właściwego organu dostawcy zapewniają również występującemu z wnioskiem właściwemu organowi, w stosownych przypadkach, dostęp do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. 3. Wszelkie informacje uzyskane zgodnie z niniejszym artykułem przez właściwy organ traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 22 Upoważnieni przedstawiciele dostawców systemów AI wysokiego ryzyka 1. Przed udostępnieniem swoich systemów AI wysokiego ryzyka na rynku Unii dostawcy mający miejsce zamieszkania lub siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego miejsce zamieszkania lub siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego przez dostawcę. Upoważniony przedstawiciel przekazuje organom nadzoru rynku, na wniosek, kopię T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady pełnomocnictwa w jednym z oficjalnych języków instytucji Unii wskazanym przez właściwy organ. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie, czy zostały sporządzone deklaracja zgodności UE, o której mowa w art. 47, i dokumentacja techniczna, o której mowa w art. 11, oraz czy została przeprowadzona przez dostawcę odpowiednia procedura oceny zgodności; b) przechowywanie do dyspozycji właściwych organów i krajowych organów lub jednostek, o których mowa w art. 74 ust. 10, przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, danych kontaktowych dostawcy, który ustanowił upoważnionego przedstawiciela, kopii deklaracji zgodności UE, o której mowa w art. 47, dokumentacji technicznej oraz w stosownych przypadkach, certyfikatu wydanego przez jednostkę notyfikowaną; c) przekazywanie właściwemu organowi, na uzasadniony wniosek, wszelkich informacji i dokumentów, w tym tych, o których mowa w lit. b) niniejszego ustępu, niezbędnych do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w tym zapewnienie temu organowi dostępu do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. rodzaju rejestry zdarzeń znajdują się pod kontrolą dostawcy; d) współpraca z właściwymi organami, na uzasadniony wniosek, w zakresie wszelkich działań, które organy te podejmują w odniesieniu do danego systemu AI wysokiego ryzyka, w szczególności, aby zmniejszyć i ograniczyć ryzyko, jakie stwarza ten system AI wysokiego ryzyka; e) w stosownych przypadkach spełnianie obowiązków rejestracyjnych, o których mowa w art. 49 ust. 1, lub jeżeli rejestracji dokonuje sam dostawca, zapewnienie, by informacje, o których mowa w załączniku VIII sekcja A pkt 3, były prawidłowe. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 4. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli uważa lub ma powody uważać, że dostawca działa w sposób sprzeczny ze swoimi obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku upoważniony przedstawiciel natychmiast informuje o wypowiedzeniu pełnomocnictwa i jego przyczynach odpowiedni organ nadzoru rynku, a także, w stosownych przypadkach, odpowiednią jednostkę notyfikowaną. Art. 23 Obowiązki importerów T Przepis dotyczy systemów AI 1. Przed wprowadzeniem do obrotu systemu AI wysokiego ryzyka importerzy zapewniają jego zgodność z niniejszym rozporządzeniem, sprawdzając, czy: a) dostawca systemu AI wysokiego ryzyka przeprowadził odpowiednią procedurę oceny zgodności, o której mowa w art. 43; b) dostawca sporządził dokumentację techniczną zgodnie z art. 11 i załącznikiem IV; c) system opatrzono wymaganym oznakowaniem CE oraz dołączono do niego deklarację zgodności UE, o której mowa w art. 47, oraz instrukcję obsługi; d) dostawca ustanowił upoważnionego przedstawiciela zgodnie z art. 22 ust. 1. 2. W przypadku, gdy importer ma wystarczające powody, aby uważać, że system AI wysokiego ryzyka jest niezgodny z niniejszym rozporządzeniem lub został sfałszowany lub sfałszowana została dołączona do niego dokumentacja, nie wprowadza tego systemu do obrotu, dopóki nie zostanie zapewniona jego zgodność z niniejszym rozporządzeniem. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, importer informuje o tym dostawcę systemu, upoważnionych przedstawicieli oraz organy nadzoru rynku. 3. Importerzy podają w systemie AI wysokiego ryzyka, na opakowaniu tego systemu lub w stosownych przypadkach, w dołączonej do niego dokumentacji swoją nazwę, zarejestrowaną nazwę handlową lub wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować. 4. Importerzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego - stosownie do przypadku - przechowywania lub transportu nie zagrażały jego zgodności z wymogami ustanowionymi w sekcji 2. 5. Przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, importerzy przechowują kopię certyfikatu wydanego przez jednostkę notyfikowaną, w stosownych przypadkach, kopię instrukcji obsługi oraz deklaracji zgodności UE, o której mowa w art. 47. 6. Na uzasadniony wniosek odpowiednich właściwych organów importerzy przekazują im wszelkie niezbędne informacje i dokumentację, w tym te, o których mowa w ust. 5, w celu wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla tych organów. W tym celu importerzy zapewniają również możliwość udostępnienia tym organom dokumentacji technicznej. 7. Importerzy współpracują z odpowiednimi właściwymi organami w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka wprowadzonego do obrotu przez importerów, w szczególności, aby zmniejszyć i ograniczyć stwarzane przez ten system ryzyko. Art. 24 Obowiązki dystrybutorów T Przepis dotyczy systemów AI 1. Przed udostępnieniem na rynku systemu AI wysokiego ryzyka dystrybutorzy sprawdzają, czy został on opatrzony wymaganym oznakowaniem zgodności CE, czy dołączono do niego kopię deklaracji zgodności UE, o której mowa w art. 47, i instrukcję obsługi oraz czy dostawca oraz - w stosownych przypadkach - importer tego systemu spełnili swoje obowiązki ustanowione w art. 16 lit. b) i c) oraz w art. 23 ust. 3. 2. W przypadku, gdy dystrybutor - na podstawie dostępnych mu informacji - uważa lub ma powód, aby uważać, że system AI wysokiego ryzyka nie jest zgodny z wymogami ustanowionymi w sekcji 2 niniejszego tytułu, nie udostępnia na rynku tego systemu AI wysokiego ryzyka, dopóki nie zostanie zapewniona zgodność systemu z tymi wymogami. Ponadto, jeżeli system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor informuje o tym stosownie do przypadku dostawcę lub importera systemu. 3. Dystrybutorzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego przechowywania lub transportu - stosownie do przypadku - nie zagrażały zgodności systemu z wymogami ustanowionymi w sekcji 2. 4. Dystrybutor, który uważa lub ma powód, aby - na podstawie dostępnych mu informacji - uważać, że system AI wysokiego ryzyka udostępniony przez niego na rynku jest niezgodny z wymogami ustanowionymi w sekcji 2, podejmuje działania naprawcze konieczne do zapewnienia zgodności tego systemu z tymi wymogami, wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. do wycofania go z rynku lub wycofania go z użytku lub zapewnia podjęcie takich działań naprawczych przez, stosownie do przypadku, dostawcę, importera lub odpowiedniego operatora. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor natychmiast informuje o tym dostawcę lub importera systemu oraz organy właściwe w zakresie przedmiotowego system AI wysokiego ryzyka, przekazując szczegółowe informacje w szczególności na temat niezgodności systemu z wymogami i wszelkich podjętych działań naprawczych. 5. Na uzasadniony wniosek odpowiedniego organu dystrybutorzy systemów AI wysokiego ryzyka przekazują temu organowi wszelkie informacje i dokumentację dotyczące ich działań zgodnie z ust. 1-4, niezbędne do wykazania zgodności tego systemu z wymogami określonymi w sekcji 2. 6. Dystrybutorzy współpracują z odpowiednimi organami krajowymi w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka udostępnionego na rynku przez dystrybutorów, w szczególności, aby zmniejszyć lub ograniczyć stwarzane przez ten system ryzyko. Art. 25 Odpowiedzialność w całym łańcuchu wartości AI 1. Do celów niniejszego rozporządzenia za dostawcę systemu AI wysokiego ryzyka uznaje się i obejmuje obowiązkami dostawcy ustanowionymi w art. 16 każdego dystrybutora, importera, podmiot stosujący lub N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia inną stronę trzecią, jeżeli zachodzi którakolwiek z następujących okoliczności: a) umieszczają oni swoją nazwę lub znak towarowy w systemie AI wysokiego ryzyka, który został już wprowadzony do obrotu lub oddany do użytku, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób; b) we wprowadzonym już do obrotu lub oddanym do użytku systemie AI wysokiego ryzyka dokonują oni istotnej zmiany w taki sposób, że pozostaje on systemem AI wysokiego ryzyka zgodnie z art. 6; c) zmieniają oni przeznaczenie systemu AI, w tym systemu AI ogólnego przeznaczenia, który nie został zaklasyfikowany jako system AI wysokiego ryzyka i który został już wprowadzony do obrotu lub oddany do użytku, w taki sposób, że dany system AI staje się systemem AI wysokiego ryzyka zgodnie z art. 6. 2. W przypadku zaistnienia okoliczności, o których mowa w ust. 1, dostawcy, który pierwotnie wprowadził do obrotu lub oddał do użytku ten system AI, nie uznaje się już do celów niniejszego rozporządzenia za dostawcę tego konkretnego systemu AI. Ten pierwotny dostawca ściśle współpracuje z nowymi dostawcami i udostępnia niezbędne informacje oraz udziela racjonalnie oczekiwanego dostępu technicznego i innego wsparcia niezbędnych do spełnienia obowiązków określonych w niniejszym rozporządzeniu, w szczególności w odniesieniu do zgodności z kryteriami oceny zgodności systemów AI wysokiego ryzyka. Niniejszego ustępu nie stosuje się w przypadkach, gdy pierwotny dostawca wyraźnie określił, że jego system AI nie może zostać zmieniony w system AI wysokiego ryzyka, a zatem nie dotyczy go obowiązek przekazania dokumentacji. 3. W przypadku systemów AI wysokiego ryzyka, które stanowią związane z bezpieczeństwem elementy produktów objętych zakresem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, producenta produktów uznaje się za dostawcę systemu AI wysokiego ryzyka i podlega on obowiązkom ustanowionym w art. 16, jeżeli zachodzi którakolwiek z następujących okoliczności: a) system AI wysokiego ryzyka jest wprowadzany do obrotu wraz z produktem pod nazwą lub znakiem towarowym producenta produktu; b) system AI wysokiego ryzyka jest oddawany do użytku pod nazwą lub znakiem towarowym producenta produktu po wprowadzeniu produktu do obrotu. 4. Dostawca systemu AI wysokiego ryzyka i osoba trzecia dostarczająca system AI, narzędzia, usługi, komponenty lub procesy, które są wykorzystywane w systemie AI wysokiego ryzyka lub z nim zintegrowane, wskazują, w drodze pisemnej umowy, informacje, zdolności, dostęp techniczny i innego rodzaju pomoc opartą na powszechnie uznanym stanie wiedzy technicznej wymagane, aby umożliwić dostawcy systemu AI wysokiego ryzyka pełne spełnienie obowiązków ustanowionych w niniejszym rozporządzeniu. Niniejszego ustępu nie stosuje się do osób trzecich udostępniających publicznie na podstawie bezpłatnej licencji otwartego oprogramowania narzędzia, usługi, procesy lub komponenty inne niż modele AI ogólnego przeznaczenia. Urząd ds. AI może opracować i zalecić dobrowolne wzorcowe postanowienia umowne dla umów zawieranych między dostawcami systemów AI wysokiego ryzyka a osobami trzecimi dostarczającymi narzędzia, usługi, komponenty lub procesy, które są wykorzystywane na potrzeby systemów AI wysokiego ryzyka lub zintegrowane z tymi systemami. Przy opracowywaniu dobrowolnych wzorcowych postanowień umownych, Urząd ds. AI bierze również pod uwagę ewentualne wymogi umowne mające zastosowanie w określonych sektorach lub przypadkach biznesowych. Dobrowolne wzorcowe postanowienia umowne są publikowane i udostępniane bezpłatnie w łatwym w użyciu formacie elektronicznym. 5. Ust. 2 i 3 pozostają bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej, poufnych informacji handlowych i tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 26 Obowiązki podmiotów stosujących systemy AI wysokiego ryzyka 1. Podmioty stosujące systemy AI wysokiego ryzyka podejmują - na podstawie ust. 3 i 6 - odpowiednie środki techniczne i organizacyjne w celu zapewnienia, aby systemy takie były wykorzystywane zgodnie z dołączoną do nich instrukcją obsługi. Art. 6 pkt 4 Art. 6. Do zadań Komisji należy: 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 2. Podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie. 3. Obowiązki ustanowione w ust. 1 i 2 pozostają bez uszczerbku dla innych obowiązków podmiotu stosującego wynikających z prawa Unii lub prawa krajowego oraz dla przysługującej podmiotowi stosującemu swobody organizowania swoich zasobów własnych i działań w celu wdrożenia wskazanych przez dostawcę środków nadzoru ze strony człowieka. 4. Bez uszczerbku dla ust. 1 i 2 podmiot stosujący zapewnia, w zakresie, w jakim sprawuje on kontrolę nad danymi wejściowymi, adekwatność i wystarczającą reprezentatywność danych wejściowych w odniesieniu do przeznaczenia systemu AI wysokiego ryzyka. 5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie T organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania. W odniesieniu do podmiotów stosujących będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek w zakresie monitorowania, o którym mowa w akapicie pierwszym, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi uzgodnień, procedur i mechanizmów zarządzania wewnętrznego na podstawie odpowiednich przepisów dotyczących usług finansowych. 6. Podmioty stosujące systemy AI wysokiego ryzyka przechowują generowane automatycznie przez system AI wysokiego ryzyka rejestry zdarzeń - w zakresie, w jakim rejestry te znajdują się pod ich kontrolą - przez stosowny ze względu na przeznaczenie danego systemu AI wysokiego ryzyka okres, wynoszący co najmniej sześć miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowe, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. Podmioty stosujące będące instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń jako część dokumentacji prowadzonej na podstawie odpowiednich unijnych przepisów dotyczących usług finansowych. 7. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami ustanowionymi w prawie Unii i prawie krajowym oraz praktyką w zakresie informowania pracowników i ich przedstawicieli. 8. Podmioty stosujące systemy AI wysokiego ryzyka, będące publicznymi organami lub instytucjami, organami i jednostkami organizacyjnymi Unii, spełniają obowiązki rejestracji, o których mowa w art. 49. Jeżeli takie podmioty stosujące ustalą, że system AI wysokiego ryzyka, który zamierzają wykorzystywać, nie został zarejestrowany w bazie danych UE, o której mowa w art. 71, nie stosują tego systemu i informują o tym dostawcę lub dystrybutora. 9. W stosownych przypadkach, podmioty stosujące systemy AI wysokiego ryzyka korzystają z informacji przekazanych na podstawie art. 13 niniejszego rozporządzenia, aby spełnić spoczywając na nich obowiązki przeprowadzenia oceny skutków dla ochrony danych zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680. 10. Bez uszczerbku dla dyrektywy (UE) 2016/680, w ramach postępowania przygotowawczego dotyczącego ukierunkowanego poszukiwania osoby podejrzanej o popełnienie przestępstwa lub skazanej za popełnienie przestępstwa podmiot stosujący system AI wysokiego ryzyka do celów zdalnej identyfikacji biometrycznej post factum zwraca się - ex ante lub bez zbędnej zwłoki, nie później jednak niż w ciągu 48 godzin - do organu wymiaru sprawiedliwości lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wnioskiem o zezwolenie na wykorzystanie tego systemu, z wyjątkiem sytuacji, gdy jest on wykorzystywany do wstępnej identyfikacji potencjalnego podejrzanego w oparciu o obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z przestępstwem. Każde wykorzystanie takiego systemu musi być ograniczone do tego, co jest bezwzględnie konieczne do prowadzenia postępowań przygotowawczych w sprawie konkretnego przestępstwa. W przypadku gdy wniosek o zezwolenie, o którym mowa w akapicie pierwszym, zostanie odrzucony, korzystanie z systemu zdalnej identyfikacji biometrycznej post factum, będące przedmiotem wniosku o zezwolenie, zostaje wstrzymane ze skutkiem natychmiastowym, a dane osobowe związane z wykorzystaniem systemu AI wysokiego ryzyka, w odniesieniu do którego złożono wniosek o zezwolenie, zostają usunięte. W żadnym przypadku taki system AI wysokiego ryzyka służący do zdalnej identyfikacji biometrycznej post factum nie może być wykorzystywany do celów ścigania przestępstw w sposób nieukierunkowany, bez związku z przestępstwem, postępowaniem karnym, rzeczywistym i obecnym lub rzeczywistym i dającym się przewidzieć zagrożeniem popełnieniem przestępstwa lub poszukiwaniem konkretnej osoby zaginionej. Zapewnia się, aby organy ścigania mogły wydać żadnej decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej post factum. Niniejszy ustęp pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 i art. 10 dyrektywy (UE) 2016/680 w odniesieniu do przetwarzania danych biometrycznych. Niezależnie od celu lub podmiotu stosującego każde wykorzystanie takich systemów AI wysokiego ryzyka musi zostać udokumentowane w odpowiednich aktach policyjnych i udostępnione na wniosek właściwego organu nadzoru rynku i krajowemu organowi ochrony danych, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Niniejszy akapit pozostaje bez uszczerbku dla uprawnień powierzonych organom nadzorczym dyrektywą (UE) 2016/680. Podmioty stosujące przedkładają właściwym organom nadzoru rynku i krajowym organom ochrony danych roczne sprawozdania dotyczące wykorzystania przez nie systemów zdalnej identyfikacji biometrycznej post factum, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Sprawozdania te mogą zostać zagregowane w celu uwzględnienia stosowania więcej niż jednego systemu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące korzystania z systemów zdalnej identyfikacji biometrycznej post factum. 11. Bez uszczerbku dla art. 50 niniejszego rozporządzenia podmioty stosujące systemy wysokiego ryzyka, o których mowa w załączniku III, które to podmioty podejmują decyzje lub uczestniczą w podejmowaniu decyzji dotyczących osób fizycznych, informują osoby fizyczne o tym, że jest w stosunku do nich wykorzystywany system AI wysokiego ryzyka. W przypadku systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw stosuje się art. 13 dyrektywy (UE) 2016/680. 12. Podmioty stosujące współpracują z odpowiednimi właściwymi organami przy wszelkich działaniach, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka, w celu wykonywania niniejszego rozporządzenia. Art. 27 Ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych 1. Przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów AI wysokiego ryzyka przeznaczonych do stosowania w obszarze wymienionym w załączniku III pkt 2, podmioty stosujące będące podmiotami prawa N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne, oraz podmioty stosujące systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 5 lit. b) i c), przeprowadzają ocenę skutków w zakresie praw podstawowych, jakie może wywołać wykorzystanie takiego systemu. W tym celu podmioty stosujące przeprowadzają ocenę obejmującą: a) opis procesów podmiotu stosującego, w których system AI wysokiego ryzyka będzie wykorzystywany zgodnie z jego przeznaczeniem; b) opis okresu, w którym każdy system AI wysokiego ryzyka ma być wykorzystywany i opis częstotliwości tego wykorzystywania; c) kategorie osób fizycznych i grup, na które może mieć wpływ wykorzystywanie systemu; d) szczególne ryzyko szkody, które może mieć wpływ na kategorie osób fizycznych lub grupy osób zidentyfikowane zgodnie z lit. c) niniejszego ustępu, z uwzględnieniem informacji przekazanych przez dostawcę zgodnie z art. 13; e) opis wdrożenia środków nadzoru ze strony człowieka, zgodnie z instrukcją obsługi; f) środki, jakie należy podjąć w przypadku urzeczywistnienia się tego ryzyka, w tym ustalenia dotyczące zarządzania wewnętrznego i mechanizmów rozpatrywania skarg. 2. Obowiązek ustanowiony w ust. 1 ma zastosowanie do wykorzystania systemu AI wysokiego ryzyka po raz pierwszy. W podobnych przypadkach podmiot stosujący może polegać na wcześniej przeprowadzonych ocenach skutków dla praw podstawowych lub na istniejących ocenach skutków przeprowadzonych przez dostawcę. Jeżeli w trakcie wykorzystania systemu AI wysokiego ryzyka podmiot stosujący uzna, że którykolwiek z elementów wymienionych w ust. 1 uległ zmianie lub nie jest już aktualny, podmiot ten podejmuje niezbędne kroki w celu aktualizacji informacji. 3. Po przeprowadzeniu oceny, o której mowa w ust. 1 niniejszego artykułu, podmiot stosujący powiadamia organ nadzoru rynku o jej wynikach, przedkładając jako element tego powiadomienia wypełniony wzór, o którym mowa w ust. 5 niniejszego artykułu. W przypadku, o którym mowa w art. 46 ust. 1, podmioty stosujące mogą zostać zwolnione z obowiązku dokonania powiadomienia. 4. Jeżeli którykolwiek z obowiązków ustanowionych w niniejszym artykule został już spełniony w wyniku oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, ocena skutków w zakresie praw podstawowych, o której mowa w ust. 1 niniejszego artykułu, stanowi uzupełnieniem tej oceny skutków dla ochrony danych. 5. Urząd ds. AI opracowuje wzór kwestionariusza, w tym za pomocą zautomatyzowanego narzędzia, aby ułatwić podmiotom stosującym spełnianie ich obowiązków wynikających z niniejszego artykułu w sposób uproszczony. Art. 28 Organy notyfikujące 1. Każde państwo członkowskie wyznacza lub ustanawia przynajmniej jeden organ notyfikujący odpowiedzialny za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Procedury te są przygotowywane wspólnie przez organy notyfikujące wszystkich państw członkowskich. 2. Państwa członkowskie mogą zdecydować, że ocena oraz monitorowanie, o których mowa w ust. 1, są prowadzone przez krajową jednostkę akredytującą w rozumieniu rozporządzenia (WE) nr 765/2008 oraz zgodnie z tym rozporządzeniem. 3. Organy notyfikujące ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby nie dopuścić do wystąpienia konfliktu interesów z jednostkami oceniającymi zgodność i aby zapewnić obiektywny i bezstronny charakter ich działalności. 4. Działalność organów notyfikujących organizuje się w taki sposób, aby decyzje dotyczące notyfikacji jednostek oceniających zgodność podejmowały kompetentne osoby, które nie przeprowadzały oceny tych jednostek. 5. Organy notyfikujące nie mogą oferować ani podejmować żadnych działań realizowanych przez jednostki oceniające zgodność ani świadczyć żadnych usług doradztwa na zasadzie komercyjnej lub konkurencyjnej. T Art. 86 ust. 1 Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. Wskazanie organu właściwego do wykonywania zadań organu notyfikującego określonego w rozporządzeniu 6. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. 7. Organy notyfikujące muszą dysponować odpowiednią liczbą kompetentnych pracowników, aby należycie wykonywać powierzone im zadania. Kompetentni pracownicy muszą posiadać, w odpowiednich przypadkach, wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach, takich jak technologie informacyjne, AI i prawo, w tym nadzór nad prawami podstawowymi. Art. 29 Wniosek jednostki oceniającej zgodność o notyfikację 1. Jednostki oceniające zgodność przekazują wniosek o notyfikację organowi notyfikującemu państwa członkowskiego, w którym znajduje się ich siedziba. 2. Do wniosku o notyfikację załącza się opis czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i rodzajów systemów AI, w odniesieniu do których jednostka oceniająca zgodność uważa się za kompetentną, a także wydany przez krajową jednostkę akredytującą certyfikat akredytacji (o ile takowy istnieje) poświadczający, że jednostka oceniająca zgodność spełnia wymogi ustanowione w art. 31. Do wniosku załącza się również wszelkie ważne dokumenty dotyczące obowiązującego wyznaczenia - na podstawie innego unijnego prawodawstwa harmonizacyjnego - występującej z wnioskiem jednostki notyfikowanej. T Art. 86 ust.2-4 Art. 87 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz Wskazanie podstawy prawnej do przeprowadzania notyfikacji jednostki. Odniesienie do konkretnego artykułu zapewnia przejrzystość ustawy. 3. Jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, przekazuje organowi notyfikującemu wszystkie dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31. 4. W odniesieniu do jednostek notyfikowanych wyznaczonych na podstawie innego unijnego prawodawstwa harmonizacyjnego w stosownych przypadkach dopuszcza się możliwość wykorzystania wszelkich dokumentów i certyfikatów dotyczących takiego wyznaczenia w charakterze dowodów w toku procedury wyznaczania przeprowadzanej zgodnie z niniejszym rozporządzeniem. Jednostka notyfikowana aktualizuje dokumentację, o której mowa w ust. 2 i 3 niniejszego artykułu, w każdym przypadku, gdy wystąpią istotne zmiany, aby umożliwić organowi odpowiedzialnemu za jednostki notyfikowane monitorowanie i weryfikowanie, czy zapewniona jest ciągła zgodność ze wszystkimi wymogami ustanowionymi w art. 31. wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach - w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany;; 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 30 Procedura notyfikacyjna 1. Organy notyfikujące mogą dokonywać notyfikacji wyłącznie w odniesieniu do tych jednostek oceniających zgodność, które spełniają wymogi ustanowione w art. 31. 2. Organy notyfikujące dokonują notyfikacji Komisji i pozostałym państwom członkowskim za pomocą narzędzia do notyfikacji elektronicznej opracowanego i obsługiwanego przez Komisję, o każdej jednostce oceniającej zgodność, o której mowa w ust. 1. 3. Notyfikacja, o której mowa w ust. 2 niniejszego artykułu, zawiera wyczerpujące informacje na temat czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i przedmiotowych rodzajów systemów AI oraz odpowiednie poświadczenie kompetencji. W przypadku gdy podstawą notyfikacji nie jest certyfikat akredytacji, o którym mowa w art. 29 ust. 2, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 4. Dana jednostka oceniająca zgodność może wykonywać czynności jednostki notyfikowanej tylko wówczas, gdy Komisja lub pozostałe państwa członkowskie nie zgłosiły sprzeciwu w terminie dwóch tygodni od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje certyfikat akredytacji, o którym mowa w art. 29 ust. 2, lub w terminie dwóch miesięcy od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje dowody w postaci dokumentów, o których mowa w art. 29 ust. 3. 5. W przypadku zgłoszenia sprzeciwu Komisja niezwłocznie przystępuje do konsultacji z odpowiednimi państwami członkowskimi i jednostką oceniającą zgodność. Na podstawie tych konsultacji Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiedniej jednostki oceniającej zgodność. Art. 31 Wymogi dotyczące jednostek notyfikowanych 1. Jednostkę notyfikowaną ustanawia się zgodnie z prawem krajowym danego państwa członkowskiego i ma ona osobowość prawną. 2. Jednostki notyfikowane muszą spełniać wymogi organizacyjne, wymogi w zakresie zarządzania jakością oraz wymogi dotyczące zasobów i procesów niezbędne do tego, aby mogły wykonywać powierzone im zadania, jak również odpowiednie wymogi w zakresie cyberbezpieczeństwa. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Struktura organizacyjna jednostek notyfikowanych, podział obowiązków w tych jednostkach, obowiązująca w nich hierarchia służbowa oraz ich funkcjonowanie zapewniają, by działalność jednostek notyfikowanych oraz wyniki czynności z zakresu oceny zgodności prowadzonych przez te jednostki nie budziły żadnych wątpliwości. 4. Jednostki notyfikowane muszą być niezależne od dostawcy systemu AI wysokiego ryzyka, wobec którego podejmują czynności z zakresu oceny zgodności. Jednostki notyfikowane muszą być również niezależne od wszelkich innych operatorów, których interes gospodarczy wiąże się z systemami AI wysokiego ryzyka będącymi przedmiotem oceny, a także od wszelkich innych konkurentów dostawcy. Nie wyklucza to wykorzystania będących przedmiotem oceny systemów AI wysokiego ryzyka, które są niezbędne do prowadzenia działalności jednostki oceniającej zgodność, ani wykorzystania takich systemów AI wysokiego ryzyka do celów prywatnych. 5. Jednostka oceniająca zgodność, jej kierownictwo najwyższego szczebla ani pracownicy odpowiedzialni za realizację zadań związanych z oceną zgodności nie mogą być bezpośrednio zaangażowani w projektowanie, rozwój, sprzedaż ani wykorzystywanie systemów AI wysokiego ryzyka, nie mogą też reprezentować stron zaangażowanych w taką działalność. Nie angażują się oni w żadną działalność, która może zagrozić niezależności ich osądów i wiarygodności w związku z czynnościami z zakresu oceny zgodności, do której zostali notyfikowani. Dotyczy to w szczególności usług konsultingowych. 6. Jednostki notyfikowane organizuje się i zarządza się nimi w sposób gwarantujący niezależność, obiektywizm i bezstronność podejmowanych przez nie czynności. Jednostki notyfikowane dokumentują i wdrażają strukturę i procedury służące zagwarantowaniu ich bezstronności oraz propagowaniu i stosowaniu zasad bezstronności we wszystkich podejmowanych przez nie czynnościach organizacyjnych i kadrowych oraz we wszystkich ich czynnościach związanych z oceną. 7. Jednostki notyfikowane dysponują udokumentowanymi procedurami, które zapewniają zachowanie poufności informacji - zgodnie z art. 78 - przez ich personel, komitety, jednostki zależne, podwykonawców oraz wszelkie stowarzyszone z nimi jednostki lub pracowników podmiotów zewnętrznych, które to informacje znalazły się w ich posiadaniu w toku czynności z zakresu oceny zgodności, chyba że ujawnienie takich informacji jest wymagane na mocy obowiązującego prawa. Personel jednostek notyfikowanych pozostaje związany tajemnicą zawodową w kwestii wszystkich informacji pozyskiwanych w toku wykonywania zadań powierzonych mu zgodnie z niniejszym rozporządzeniem, jednak nie w stosunku do organów notyfikujących państwa członkowskiego, w którym jednostki notyfikowane podejmują czynności. 8. Jednostki notyfikowane dysponują procedurami prowadzenia czynności z uwzględnieniem rozmiaru dostawcy, sektora, w którym prowadzi on działalność, jego struktury oraz stopnia złożoności danego systemu AI. 9. Jednostki notyfikowane zawierają odpowiednie umowy ubezpieczenia od odpowiedzialności cywilnej w odniesieniu do podejmowanych przez siebie czynności z zakresu oceny zgodności, chyba że państwo członkowskie, w którym mają siedzibę, bierze na siebie odpowiedzialność z tego tytułu zgodnie z prawem krajowym lub bezpośrednia odpowiedzialność za ocenę zgodności spoczywa na danym państwie członkowskim. 10. Jednostki notyfikowane posiadają zdolność wykonywania wszystkich zadań wynikających z niniejszego rozporządzenia z zachowaniem najwyższego poziomu uczciwości zawodowej i wymaganych kompetencji w danej dziedzinie, niezależnie od tego, czy zadania te są wykonywane przez nie samodzielnie, czy też w ich imieniu i na ich odpowiedzialność. 11. Jednostki notyfikowane dysponują wystarczającymi kompetencjami wewnętrznymi pozwalającymi im skutecznie oceniać zadania wykonywane w ich imieniu przez podmioty zewnętrzne. Jednostka notyfikowana dysponuje stałą dostępnością wystarczającej liczby pracowników odpowiedzialnych za aspekty administracyjne, techniczne, prawne i naukowe dysponujących doświadczeniem i wiedzą w zakresie odnośnych rodzajów systemów AI, danych i metod przetwarzania danych oraz w zakresie wymogów ustanowionych w sekcji 2. 12. Jednostki notyfikowane biorą udział w działaniach koordynacyjnych, o których mowa w art. 38. Angażują się także w działalność europejskich organizacji normalizacyjnych bezpośrednio lub za pośrednictwem swoich przedstawicieli lub zapewniają, by same posiadały znajomość odpowiednich norm i dysponowały zawsze aktualną wiedzą na ich temat. Art. 32 Domniemanie zgodności z wymogami dotyczącymi jednostek notyfikowanych W przypadku gdy jednostka oceniająca zgodność wykaże swoją zgodność z kryteriami ustanowionymi w odpowiednich normach zharmonizowanych lub częściach tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełnia ona wymogi ustanowione w art. 31 w zakresie, w jakim mające zastosowanie normy zharmonizowane obejmują te wymogi. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 33 Jednostki zależne i podwykonawcy jednostek notyfikowanych 1. W przypadku, gdy jednostka notyfikowana zleca wykonywanie określonych zadań związanych z oceną zgodności podwykonawcy lub korzysta w tym celu z usług jednostki zależnej, zapewnia spełnienie przez podwykonawcę lub przez jednostkę zależną wymogów ustanowionych w art. 31 oraz informuje o tym organ notyfikujący. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Jednostki notyfikowane ponoszą pełną odpowiedzialność za zadania wykonywane przez podwykonawców lub jednostki zależne. 3. Zadania mogą być zlecane podwykonawcy lub wykonywane przez jednostkę zależną wyłącznie za zgodą dostawcy. Jednostki notyfikowane podają do wiadomości publicznej wykaz swoich jednostek zależnych. 4. Odpowiednie dokumenty dotyczące oceny kwalifikacji podwykonawcy lub jednostki zależnej oraz prac wykonywanych przez nich na podstawie niniejszego rozporządzenia przechowuje się do dyspozycji organu notyfikującego przez okres 5 lat od dnia zakończenia podwykonawstwa. Art. 34 Obowiązki operacyjne jednostek notyfikowanych 1. Jednostki notyfikowane weryfikują zgodność systemów AI wysokiego ryzyka zgodnie z procedurami oceny zgodności określonymi w art. 43. 2. Jednostki notyfikowane unikają niepotrzebnych obciążeń dla dostawców podczas wykonywania swoich czynności oraz należycie uwzględniają rozmiar dostawcy, sektor, w którym prowadzi on działalność, jego strukturę oraz stopień złożoności danego systemu AI wysokiego ryzyka, w szczególności w celu zminimalizowania obciążeń administracyjnych i kosztów zapewnienia zgodności dla mikroprzedsiębiorstw i małych przedsiębiorstw w rozumieniu zalecenia 2003/361/WE. Jednostka notyfikowana przestrzega jednak rygoryzmu i poziomu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ochrony wymaganych do zapewnienia zgodności danego systemu AI wysokiego ryzyka z wymogami niniejszego rozporządzenia. 3. Na wniosek organu notyfikującego, o którym mowa w art. 28, jednostki notyfikowane udostępniają i przekazują temu organowi wszystkie stosowne dokumenty, uwzględniając dokumentację dostawców, aby umożliwić temu organowi przeprowadzenie czynności w zakresie oceny, wyznaczania, notyfikacji i monitorowania oraz aby ułatwić mu przeprowadzenie oceny opisanej w niniejszej sekcji. Art. 35 Numery identyfikacyjne i wykazy jednostek notyfikowanych 1. Komisja przydziela każdej jednostce notyfikowanej jeden numer identyfikacyjny, nawet jeżeli jednostkę tę notyfikowano na podstawie kilku aktów Unii. 2. Komisja podaje do wiadomości publicznej wykaz jednostek notyfikowanych na podstawie niniejszego rozporządzenia, łącznie z ich numerami identyfikacyjnymi oraz informacją na temat czynności będących przedmiotem notyfikacji. Komisja zapewnia aktualność tego wykazu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 36 Zmiany w notyfikacjach 1. Organ notyfikujący powiadamia Komisję i pozostałe państwa członkowskie za pomocą systemu notyfikacji elektronicznej, o którym mowa w art. 30 ust. 2, o T Art. 86 ust. 2 i 5 oraz Art. 89 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w wszelkich istotnych zmianach w notyfikacji danej jednostki notyfikowanej. 2. Procedury ustanowione w art. 29 i 30 stosuje się do rozszerzenia zakresu notyfikacji. W przypadku zmian w notyfikacji innych niż rozszerzenie jej zakresu stosuje się procedury ustanowione w ust. 3-9. 3. W przypadku, gdy jednostka notyfikowana podejmie decyzję o zaprzestaniu prowadzenia czynności z zakresu oceny zgodności, jak najszybciej informuje o tym organ notyfikujący i zainteresowanych dostawców, a w przypadku planowanego zaprzestania działalności - na co najmniej rok przed zaprzestaniem działalności. Certyfikaty wydane przez jednostkę notyfikowaną mogą pozostać ważne przez okres dziewięciu miesięcy po zaprzestaniu działalności jednostki notyfikowanej, pod warunkiem, że inna jednostka notyfikowana potwierdzi na piśmie, że przejmie odpowiedzialność za objęte tymi certyfikatami systemy AI wysokiego ryzyka. Przed upływem tego okresu dziewięciu miesięcy ta inna jednostka notyfikowana przeprowadza pełną ocenę odnośnych systemów AI wysokiego ryzyka, zanim wyda nowe certyfikaty dla tych systemów. W przypadku gdy jednostka notyfikowana zaprzestała działalności, organ notyfikujący cofa jej wyznaczenie. 4. W przypadku, gdy organ notyfikujący ma wystarczające powody, by uważać, że jednostka notyfikowana przestała spełniać wymogi określone w art. 31 lub nie spełnia swoich obowiązków, organ notyfikujący niezwłocznie wszczyna postępowanie ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. (...) 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. wyjaśniające w tej sprawie z zachowaniem największej staranności. W takim przypadku organ notyfikujący informuje daną jednostkę notyfikowaną o zgłoszonym sprzeciwu i zapewnia jej możliwość ustosunkowania się do tego sprzeciwu. Jeżeli organ notyfikujący dojdzie do wniosku, że jednostka notyfikowana przestała spełniać wymogi ustanowione w art. 31 lub nie spełnia swoich obowiązków, organ ten, stosownie do przypadku, ogranicza, zawiesza lub cofa wyznaczenie, w zależności od powagi niespełnienia tych wymogów lub tych obowiązków. Informuje on o tym natychmiast Komisję i pozostałe państwa członkowskie. 5. W przypadku, gdy wyznaczenie zostało zawieszone, ograniczone lub całkowicie lub częściowo cofnięte, jednostka notyfikowana informuje o tym zainteresowanych dostawców w terminie 10 dni. 6. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący podejmuje odpowiednie kroki w celu zapewnienia, by zachowana została dokumentacja danej jednostki notyfikowanej i była ona udostępniana organom notyfikującym w pozostałych państwach członkowskich oraz organom nadzoru rynku na ich wniosek. 7. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący: a) ocenia skutki dla certyfikatów wydanych przez daną jednostkę notyfikowaną; b) przedkłada Komisji i pozostałym państwom członkowskim sprawozdanie ze swoich ustaleń w terminie trzech miesięcy od powiadomienia o zmianach w wyznaczeniu; c) zwraca się do jednostki notyfikowanej z żądaniem, by w celu zapewnienia ciągłości zgodności systemów AI wysokiego ryzyka na rynku zawiesiła lub cofnęła, w rozsądnym terminie ustalonym przez ten organ, wszelkie certyfikaty, które zostały nienależnie wydane; d) informuje Komisję i państwa członkowskie o certyfikatach, których zawieszenia lub cofnięcia zażądał; e) przekazuje właściwym organom krajowym państwa członkowskiego, w którym dostawca ma zarejestrowane miejsce prowadzenia działalności, wszelkie istotne informacje na temat certyfikatów, których zawieszenia lub cofnięcia zażądał; organy te podejmują w stosownych przypadkach odpowiednie środki w celu uniknięcia potencjalnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych. 8. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało zawieszone lub ograniczone, certyfikaty pozostają ważne, jeżeli zachodzi którakolwiek z następujących okoliczności: a) organ notyfikujący potwierdził, w terminie jednego miesiąca od zawieszenia lub ograniczenia, że w odniesieniu do certyfikatów, których dotyczy zawieszenie lub ograniczenie, nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych i określił czas działań służących temu, by znieść zawieszenie lub ograniczenie; lub b) organ notyfikujący potwierdził, że w czasie trwania zawieszenia lub ograniczenia nie będą wydawane, zmieniane ani wydawane ponownie żadne certyfikaty powiązane z danym zawieszeniem, oraz stwierdza, czy dana jednostka notyfikowana jest zdolna do dalszego monitorowania i bycia odpowiedzialną za wydane już certyfikaty obowiązujące w okresie pokrywającym się z tym zawieszeniem lub ograniczeniem; w przypadku gdy organ notyfikujący ustali, że jednostka notyfikowana nie posiada zdolności do obsługi wydanych certyfikatów, dostawca systemu objętego danym certyfikatem - w terminie trzech miesięcy od zawieszenia lub ograniczenia - przekazuje właściwym organom krajowym w państwie członkowskim, w którym ma zarejestrowane miejsce prowadzenia działalności, potwierdzenie na piśmie, że inna wykwalifikowana jednostka notyfikowana tymczasowo przejmuje funkcje jednostki notyfikowanej w zakresie monitorowania certyfikatów i pozostanie ona odpowiedzialna za te certyfikaty w okresie zawieszenia lub ograniczenia wyznaczenia. 9. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało cofnięte, certyfikaty pozostają ważne przez okres dziewięciu miesięcy w następujących okolicznościach: a) właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu AI wysokiego ryzyka objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, potwierdził, że nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych związane z danymi systemami AI wysokiego ryzyka; oraz b) inna jednostka notyfikowana potwierdziła na piśmie, że przejmie bezpośrednią odpowiedzialność za te systemy AI i zakończy swoją ocenę w terminie dwunastu miesięcy od cofnięcia wyznaczenia. W okolicznościach, o których mowa w akapicie pierwszym, właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, może przedłużyć tymczasową ważność tych certyfikatów o dodatkowe trzymiesięczne okresy, które łącznie nie mogą przekraczać dwunastu miesięcy. Właściwy organ krajowy lub jednostka notyfikowana przejmująca funkcje jednostki notyfikowanej, której dotyczy zmiana wyznaczenia, natychmiast powiadamiają o tym Komisję, pozostałe państwa członkowskie i pozostałe jednostki notyfikowane. Art. 37 Kwestionowanie kompetencji jednostek notyfikowanych 1. W razie konieczności Komisja przeprowadza postępowanie wyjaśniające dotyczące wszystkich przypadków, w których ma podstawy, by wątpić w kompetencje jednostki notyfikowanej lub w ciągłość spełniania przez jednostkę notyfikowaną wymogów N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ustanowionych w art. 31 oraz wypełnianie mających zastosowanie obowiązków. 2. Organ notyfikujący przekazuje Komisji, na wniosek, wszystkie istotne informacje dotyczące notyfikacji lub utrzymania kompetencji przez daną jednostkę notyfikowaną. 3. Komisja zapewnia zgodnie z art. 78 poufność wszystkich informacji wrażliwych uzyskanych w toku postępowań wyjaśniających prowadzonych zgodnie z niniejszym artykułem. 4. W przypadku gdy Komisja stwierdzi, że jednostka notyfikowana nie spełnia wymogów notyfikacji lub przestała je spełniać, informuje o tym notyfikujące państwo członkowskie i zwraca się do niego o podjęcie koniecznych środków naprawczych, włącznie z zawieszeniem lub cofnięciem notyfikacji, jeżeli zachodzi taka potrzeba. W przypadku niepodjęcia przez państwo członkowskie koniecznych środków naprawczych Komisja może w drodze aktu wykonawczego zawiesić, ograniczyć lub cofnąć wyznaczenie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 38 Koordynacja jednostek notyfikowanych 1. Komisja zapewnia - w odniesieniu do systemów AI wysokiego ryzyka - wprowadzenie i właściwy przebieg odpowiedniej koordynacji i współpracy w formie sektorowej grupy jednostek notyfikowanych jednostek notyfikowanych prowadzących działalność w zakresie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur oceny zgodności zgodnie z niniejszym rozporządzeniem. 2. Każdy organ notyfikujący zapewnia, aby notyfikowane przez niego jednostki uczestniczyły bezpośrednio lub za pośrednictwem wyznaczonych przedstawicieli w pracach grupy, o której mowa w ust. 1. 3. Komisja jest zobowiązana zapewnić wymianę wiedzy i najlepszych praktyk między organami notyfikującymi. Art. 39 Jednostki oceniające zgodność z państw trzecich Jednostki oceniające zgodność ustanowione na mocy prawa państwa trzeciego, z którym Unia zawarła umowę, mogą być upoważnione do wykonywania czynności jednostek notyfikowanych zgodnie z niniejszym rozporządzeniem, pod warunkiem, że spełniają wymogi ustanowione w art. 31 lub zapewniają równoważny poziom zgodności. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 40 Normy zharmonizowane i dokumenty normalizacyjne 1. W przypadku systemów AI wysokiego ryzyka oraz systemów AI ogólnego przeznaczenia spełniających normy zharmonizowane lub części tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej zgodnie z rozporządzeniem (UE) nr 1025/2012, domniemuje się, że spełniają one wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, obowiązki ustanowione w rozdziale V sekcja 2 i 3 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia niniejszego rozporządzenia, w zakresie, w jakim normy te obejmują te wymogi lub obowiązki. 2. Zgodnie z art. 10 rozporządzenia (UE) nr 1025/2012 Komisja wydaje bez zbędnej zwłoki wnioski o normalizację obejmujące wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału oraz w stosownych przypadkach, wnioski o normalizację obejmujące obowiązki ustanowione w rozdziale V sekcja 2 i 3 niniejszego rozporządzenia. We wniosku o normalizację zwraca się również o przedstawienie wyników sprawozdawczości i procesów dokumentowania w celu poprawy skuteczności działania zasobów systemów AI, takich jak zmniejszenie zużycia energii i innych zasobów przez system AI wysokiego ryzyka w jego cyklu życia, oraz wyników dotyczących efektywnego energetycznie rozwoju modeli AI ogólnego przeznaczenia. Przygotowując wniosek o normalizację, Komisja konsultuje się z Radą ds. AI i odpowiednimi zainteresowanymi stronami, w tym z forum doradczym. Wydając wniosek o normalizację do europejskich organizacji normalizacyjnych, Komisja określa, że normy muszą być jasne, spójne, w tym z normami opracowanymi w poszczególnych sektorach dla produktów objętych zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I, i mieć na celu zapewnienie, by systemy AI wysokiego ryzyka lub modele AI ogólnego przeznaczenia wprowadzane do obrotu lub oddawane do użytku w Unii spełniały odpowiednie wymogi lub obowiązki ustanowione w niniejszym rozporządzeniu. Komisja zwraca się do europejskich organizacji normalizacyjnych o przedstawienie dowodów, że dokładają wszelkich starań, aby osiągnąć cele, o których mowa w akapicie pierwszym i drugim niniejszego ustępu, zgodnie z art. 24 rozporządzenia (UE) nr 1025/2012. 3. Uczestnicy procesu normalizacji dążą do promowania inwestycji i innowacji w dziedzinie AI, w tym poprzez zwiększenie pewności prawa, a także konkurencyjności i wzrostu rynku Unii, do przyczynienia się do wzmocnienia globalnej współpracy w zakresie normalizacji, z uwzględnieniem istniejących w dziedzinie AI norm międzynarodowych zgodnych z wartościami Unii, prawami podstawowymi i interesem Unii, a także do poprawy zarządzania wielostronnego, zapewniając wyważoną reprezentację interesów i skuteczny udział wszystkich odpowiednich zainteresowanych stron zgodnie z art. 5, 6 i 7 rozporządzenia (UE) nr 1025/2012. Art. 41 Wspólne specyfikacje 1. Komisja może przyjmować akty wykonawcze ustanawiające wspólne specyfikacje w odniesieniu do wymogów ustanowionych w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, obowiązków ustanowionych w rozdziale V sekcja 2 i 3, w przypadku, gdy spełnione są następujące warunki: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) Komisja wystąpiła zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012 do jednej lub kilku europejskich organizacji normalizacyjnych z wnioskiem o opracowanie normy zharmonizowanej w odniesieniu do wymogów określonych w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, w odniesieniu do obowiązków ustanowionych w rozdziale V sekcja 2 i 3, oraz: (i) wniosek ten nie został przyjęty przez żadną z europejskich organizacji normalizacyjnych; lub (ii) normy zharmonizowane stanowiące odpowiedź na ten wniosek nie zostały wydane w terminie określonym zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012; lub (iii) odpowiednie normy zharmonizowane w niewystarczającym stopniu uwzględniają obawy dotyczące praw podstawowych; lub (iv) normy zharmonizowane nie są zgodne z wnioskiem; oraz b) w Dzienniku Urzędowym Unii Europejskiej nie opublikowano odniesienia do zharmonizowanych norm obejmujących wymogi, o których mowa w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, obowiązki, o których mowa w rozdziale V sekcja 2 i 3, zgodnie z przepisami rozporządzenia (UE) nr 1025/2012 i nie przewiduje się opublikowania takiego odniesienia w rozsądnym terminie. Przygotowując projekt wspólnych specyfikacji, Komisja konsultuje się z forum doradczym, o którym mowa w art. 67. Akty wykonawcze, o których mowa w akapicie pierwszym niniejszego ustępu, przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Przed przygotowaniem projektu aktu wykonawczego Komisja informuje komitet, o którym mowa w art. 22 rozporządzenia (UE) nr 1025/2012, że uważa za spełnione warunki ustanowione w ust. 1 niniejszego artykułu. 3. W przypadku systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia zgodnych ze wspólnymi specyfikacjami, o których mowa w ust. 1, lub z częściami tych specyfikacji domniemuje się, że są one zgodne z wymogami ustanowionymi w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, w zakresie, w jakim te wspólne specyfikacje obejmują te wymogi i te obowiązki. 4. W przypadku, gdy europejska organizacja normalizacyjna przyjmuje normę zharmonizowaną i proponuje Komisji opublikowanie odniesienia do niej w Dzienniku Urzędowym Unii Europejskiej, Komisja ocenia normę zharmonizowaną zgodnie z rozporządzeniem (UE) nr 1025/2012. W przypadku opublikowania odniesienia do normy zharmonizowanej w Dzienniku Urzędowym Unii Europejskiej Komisja uchyla akty wykonawcze, o których mowa w ust. 1, lub ich części, które obejmują te same wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, te same obowiązki ustanowione w rozdziale V sekcja 2 i 3. 5. W przypadku gdy dostawcy systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia nie zapewnią zgodności ze wspólnymi specyfikacjami, o których mowa w ust. 1, należycie wykazują oni, że przyjęli rozwiązania techniczne, które są zgodne z wymogami, o których mowa w rozdziale I sekcja 2, lub, w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, na poziomie co najmniej równoważnym tym wspólnym specyfikacjom. 6. W przypadku, gdy państwo członkowskie uważa, że wspólna specyfikacja nie jest całkowicie zgodna z wymogami ustanowionymi w sekcji 2 lub w stosownych przypadkach, nie spełnia całkowicie obowiązków ustanowionych w rozdziale V sekcja 2 i 3, informuje o tym Komisję, przedstawiając szczegółowe wyjaśnienie. Komisja ocenia te informacje i w stosownym przypadku zmienia akt wykonawczy ustanawiający daną wspólną specyfikację. Art. 42 Domniemanie zgodności z określonymi wymogami 1. W przypadku systemów AI wysokiego ryzyka, które zostały wytrenowane i przetestowane przy użyciu danych odzwierciedlających określone otoczenie geograficzne, behawioralne, kontekstualne lub funkcjonalne, do wykorzystywania, w którym są one przeznaczone, domniemuje się, że spełniają one odpowiednie wymogi ustanowione w art. 10 ust. 4. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W przypadku systemów AI wysokiego ryzyka, które uzyskały certyfikację lub w odniesieniu do których wydano deklarację zgodności w ramach programu certyfikacji cyberbezpieczeństwa zgodnie z rozporządzeniem (UE) 2019/881 i do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełniają one wymogi w zakresie cyberbezpieczeństwa ustanowione w art. 15 niniejszego rozporządzenia w zakresie, w jakim certyfikat cyberbezpieczeństwa lub deklaracja zgodności lub ich części obejmują te wymogi. Art. 43 Ocena zgodności 1. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1, w przypadku, gdy do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 dostawca zastosował normy zharmonizowane, o których mowa w art. 40, lub w stosownych przypadkach, wspólne specyfikacje, o których mowa w art. 41, dostawca wybiera jedną z następujących procedur oceny zgodności w oparciu o: a) kontrolę wewnętrzną, o której mowa w załączniku VI; lub b) ocenę systemu zarządzania jakością i ocenę dokumentacji technicznej przeprowadzaną z udziałem jednostki notyfikowanej, o której to procedurze mowa w załączniku VII. Przy wykazywaniu zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia dostawca postępuje zgodnie z procedurą oceny zgodności ustanowioną w załączniku VII, w przypadku, gdy: a) normy zharmonizowane, o których mowa w art. 40, nie istnieją, a wspólne specyfikacje, o których mowa w art. 41, nie są dostępne; b) dostawca nie zastosował normy zharmonizowanej lub zastosował jedynie jej część; c) wspólne specyfikacje, o których mowa w lit. a), istnieją, ale dostawca ich nie zastosował; d) co najmniej jedna z norm zharmonizowanych, o których mowa w lit. a), została opublikowana z ograniczeniem i jedynie w odniesieniu do tej części normy, której dotyczy ograniczenie. Na potrzeby procedury oceny zgodności, o której mowa w załączniku VII, dostawca może wybrać dowolną jednostkę notyfikowaną. Jednak w przypadku, gdy system ma zostać oddany do użytku przez organy ścigania, organy imigracyjne lub organy azylowe lub przez instytucje, organy i jednostki organizacyjne Unii, funkcję jednostki notyfikowanej pełni organ nadzoru rynku, o którym mowa odpowiednio w art. 74 ust. 8 lub ust. 9. 2. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, dostawcy postępują zgodnie z procedurą oceny zgodności opierającą się na kontroli wewnętrznej, o której mowa w załączniku VI i która nie przewiduje udziału jednostki notyfikowanej. 3. W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z tymi aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych. W przypadku gdy akt prawny wymieniony w załączniku I sekcja A zapewnia producentowi produktu możliwość zrezygnowania z oceny zgodności przeprowadzanej przez stronę trzecią, pod warunkiem że producent ten zapewnił zgodność ze wszystkimi normami zharmonizowanymi obejmującymi wszystkie stosowne wymogi, taki producent może skorzystać z tej możliwości wyłącznie w przypadku, gdy zapewnił również zgodność z normami zharmonizowanymi lub - w stosownych przypadkach - wspólnymi specyfikacjami, o których mowa w art. 41, obejmującymi wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału. 4. Systemy AI wysokiego ryzyka, które poddano już procedurze oceny zgodności, poddaje się nowej procedurze oceny zgodności w przypadku, gdy wprowadza się w nich istotne zmiany, niezależnie od tego, czy zmieniony system jest przeznaczony do dalszej dystrybucji lub czy ma być nadal wykorzystywany przez obecny podmiot stosujący. W przypadku systemów AI wysokiego ryzyka, które nadal uczą się po wprowadzeniu ich do obrotu lub po oddaniu ich do użytku, istotnej zmiany nie stanowią zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które dostawca z góry zaplanował w chwili przeprowadzania początkowej oceny zgodności i które są częścią informacji zawartych w dokumentacji technicznej, o której mowa w pkt 2 lit. f) załącznika IV. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załączników VI i VII poprzez ich zmianę w świetle postępu technicznego. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany ust. 1 i 2 niniejszego artykułu, aby objąć systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, procedurą oceny zgodności, o której mowa w załączniku VII, lub elementami tej procedury. Komisja przyjmuje takie akty delegowane, biorąc pod uwagę skuteczność procedury oceny zgodności opierającej się na kontroli wewnętrznej, o której mowa w załączniku VI, w zapobieganiu ryzyku dla zdrowia i bezpieczeństwa oraz ryzyku związanemu z ochroną praw podstawowych stwarzanemu przez takie systemy lub minimalizowaniu takiego ryzyka, a także uwzględniając dostępność odpowiednich zdolności i zasobów wśród jednostek notyfikowanych. Art. 44 Certyfikaty 1. Certyfikaty wydane przez jednostki notyfikowane zgodnie z załącznikiem VII są sporządzane w języku łatwo zrozumiałym dla odpowiednich organów w państwie członkowskim, w którym jednostka notyfikowana ma siedzibę. 2. Certyfikaty zachowują ważność przez wskazany w nich okres, który nie może przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III. Na wniosek dostawcy ważność certyfikatu można przedłużyć na kolejne okresy, które nie mogą każdorazowo przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III, w oparciu o wyniki ponownej oceny przeprowadzonej zgodnie z mającymi zastosowanie procedurami oceny zgodności. Wszelkie T Art. 89 Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Uzasadnione odniesienie wynikające z obowiązków nałożonych na organ notyfikacyjny. uzupełnienia do certyfikatu pozostają ważne, pod warunkiem, że uzupełniany certyfikat jest ważny. 3. Jeżeli jednostka notyfikowana ustali, że system AI przestał spełniać wymogi ustanowione w sekcji 2, zawiesza lub cofa wydany certyfikat lub nakłada na niego ograniczenia, biorąc pod uwagę zasadę proporcjonalności, chyba że dostawca systemu zapewni zgodność z tymi wymogami poprzez podjęcie odpowiedniego działania naprawczego w stosownym terminie wyznaczonym przez jednostkę notyfikowaną. Jednostka notyfikowana uzasadnia swoją decyzję. Od decyzji jednostek notyfikowanych, w tym dotyczących wydanych certyfikatów zgodności, przysługuje odwołanie. Art. 45 Obowiązki jednostek notyfikowanych w zakresie informowania 1. Jednostki notyfikowane informują organ notyfikujący: a) o unijnych certyfikatach oceny dokumentacji technicznej, uzupełnieniach tych certyfikatów i decyzjach zatwierdzających system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; b) o odmowie wydania, ograniczeniu, zawieszeniu lub cofnięciu unijnego certyfikatu oceny dokumentacji technicznej lub decyzji zatwierdzającej system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) o okolicznościach wpływających na zakres lub warunki notyfikacji; d) o wystąpieniu przez organy nadzoru rynku z wnioskiem udzielenia informacji o czynnościach z zakresu oceny zgodności; e) na wniosek, o czynnościach z zakresu oceny zgodności objętych zakresem ich notyfikacji oraz o wszelkiej innej prowadzonej działalności, w tym działalności transgranicznej i podwykonawstwie. 2. Każda jednostka notyfikowana informuje pozostałe jednostki notyfikowane o: a) decyzjach zatwierdzających system zarządzania jakością, których wydania odmówiła, które zawiesiła lub które cofnęła, oraz - na wniosek - o wydanych przez siebie decyzjach zatwierdzających system zarządzania jakością; b) unijnych certyfikatach oceny dokumentacji technicznej lub o wszelkich uzupełnieniach tych certyfikatów, których wydania odmówiła, które cofnęła, które zawiesiła lub na które nałożyła innego rodzaju ograniczenia, oraz - na wniosek - o wydanych przez siebie certyfikatach lub uzupełnieniach certyfikatów. 3. Każda jednostka notyfikowana przekazuje pozostałym jednostkom notyfikowanym prowadzącym podobne czynności z zakresu oceny zgodności w odniesieniu do tych samych rodzajów systemów AI stosowne informacje na temat kwestii związanych z negatywnymi, a także - na ich wniosek - pozytywnymi wynikami oceny zgodności. 4. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. Art. 46 Odstępstwo od procedury oceny zgodności 1. Na zasadzie odstępstwa od art. 43 i na należycie uzasadniony wniosek organ nadzoru rynku może wydać zezwolenie na wprowadzenie do obrotu lub oddanie do użytku konkretnych systemów AI wysokiego ryzyka na terytorium danego państwa członkowskiego w związku z wystąpieniem nadzwyczajnych względów dotyczących bezpieczeństwa publicznego lub ochrony zdrowia i życia osób, ochrony środowiska lub ochrony kluczowych aktywów przemysłowych i infrastrukturalnych. Zezwolenie to wydaje się tymczasowo na okres przeprowadzenia niezbędnych procedur oceny zgodności, uwzględniając nadzwyczajne względy uzasadniające przedmiotowe odstępstwo. Dokłada się starań, aby procedury te ukończono bez zbędnej zwłoki. 2. W należycie uzasadnionych pilnych przypadkach w związku z wystąpieniem nadzwyczajnych względów bezpieczeństwa publicznego lub w przypadku konkretnego, istotnego i bezpośredniego zagrożenia życia lub bezpieczeństwa fizycznego osób fizycznych, organy ścigania lub organy ochrony ludności mogą oddać do użytku określony system AI wysokiego ryzyka bez zezwolenia, o którym mowa w ust. 1, pod warunkiem że wniosek o takie zezwolenie zostanie bez T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zbędnej zwłoki złożony w trakcie wykorzystywania tego systemu lub tuż po nim. W przypadku odmowy wydania zezwolenia, o którym mowa w ust. 1, wykorzystywanie tego systemu AI wysokiego ryzyka wstrzymuje się ze skutkiem natychmiastowym, a wszystkie rezultaty i wyniki tego wykorzystania muszą zostać natychmiast odrzucone. 3. Zezwolenie, o którym mowa w ust. 1, wydaje się wyłącznie wówczas, gdy organ nadzoru rynku stwierdzi, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w sekcji 2. Organ nadzoru rynku informuje Komisję i pozostałe państwa członkowskie o zezwoleniach wydanych zgodnie z ust. 1 i 2. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych dotyczących działań organów ścigania. 4. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, ani żadne państwo członkowskie, ani Komisja nie zgłoszą sprzeciwu dotyczącego zezwolenia wydanego przez organ nadzoru rynku państwa członkowskiego zgodnie z ust. 1, takie zezwolenie uznaje się za uzasadnione. 5. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, państwo członkowskie zgłosi sprzeciw dotyczący zezwolenia wydanego przez organ nadzoru rynku innego państwa członkowskiego lub w przypadku, gdy Komisja uzna zezwolenie za sprzeczne z prawem Unii lub uzna za bezpodstawne dokonane przez państwo członkowskie stwierdzenie zgodności systemu, o czym mowa w ust. 3, Komisja niezwłocznie przystępuje do konsultacji z odpowiednim państwem członkowskim. W takim przypadku zasięga się opinii zainteresowanych operatorów i zapewnia się im możliwość przedstawienia ich stanowiska. Na tej podstawie Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiednich operatorów. 6. W przypadk,u gdy Komisja uzna zezwolenie za bezpodstawne, organ nadzoru rynku zainteresowanego państwa członkowskiego cofa je. 7. W przypadku systemów AI wysokiego ryzyka powiązanych z produktami objętymi zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A stosuje się wyłącznie odstępstwa od oceny zgodności ustanowione w tym unijnym prawodawstwie harmonizacyjnym. Art. 47 Deklaracja zgodności UE 1. Dostawca sporządza pisemną i nadającą się do odczytu maszynowego, podpisaną fizycznie lub elektronicznie, deklarację zgodności UE dla każdego systemu AI wysokiego ryzyka i przechowuje ją do dyspozycji właściwych organów krajowych przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku. W deklaracji zgodności UE wskazuje się system AI wysokiego ryzyka, dla którego ją sporządzono. Kopię deklaracji zgodności UE przedkłada się odpowiednim właściwym organom krajowym na ich wniosek. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W deklaracji zgodności UE stwierdza się, że dany system AI wysokiego ryzyka spełnia wymogi ustanowione w sekcji 2. Deklaracja zgodności UE zawiera informacje określone w załączniku V i musi zostać przetłumaczona na język łatwo zrozumiały dla właściwych organów krajowych państw członkowskich, w których dany system AI wysokiego ryzyka jest wprowadzany do obrotu lub udostępniany. 3. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innemu unijnemu prawodawstwu harmonizacyjnemu, w którym również ustanowiono wymóg sporządzenia deklaracji zgodności UE, na potrzeby wszystkich przepisów prawa Unii mających zastosowanie do systemu AI wysokiego ryzyka sporządza się jedną deklarację zgodności UE. W deklaracji zamieszcza się wszystkie informacje niezbędne do zidentyfikowania unijnego prawodawstwa harmonizacyjnego, do którego się ona odnosi. 4. Sporządzając deklarację zgodności UE, dostawca bierze na siebie odpowiedzialność za zgodność z wymogami ustanowionymi w sekcji 2. Dostawca odpowiednio zapewnia aktualność deklaracji zgodności UE. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika V poprzez zaktualizowanie treści deklaracji zgodności UE określonej w tym załączniku w celu wprowadzenia elementów, które stały się konieczne w świetle postępu technicznego. Art. 48 Oznakowanie CE 1. Oznakowanie CE podlega ogólnym zasadom określonym w art. 30 rozporządzenia (WE) nr 765/2008. 2. W przypadku systemów AI wysokiego ryzyka dostarczanych w formie cyfrowej cyfrowe oznakowanie CE stosuje się wyłącznie wtedy, gdy można do niego łatwo dotrzeć za pośrednictwem interfejsu, poprzez który uzyskuje się dostęp do tego systemu, lub za pomocą łatwo dostępnego kodu nadającego się do odczytu maszynowego lub innych środków elektronicznych. 3. Oznakowanie CE umieszcza się na systemie AI wysokiego ryzyka w sposób widoczny, czytelny i trwały. W przypadku gdy z uwagi na charakter systemu AI wysokiego ryzyka oznakowanie systemu w taki sposób nie jest możliwe lub zasadne, oznakowanie to umieszcza się na opakowaniu lub - w stosownych przypadkach - w dołączonej do systemu dokumentacji. 4. W stosownych przypadkach oznakowaniu CE towarzyszy również numer identyfikacyjny jednostki notyfikowanej odpowiedzialnej za przeprowadzenie procedur oceny zgodności ustanowionych w art. 43. Numer identyfikacyjny jednostki notyfikowanej umieszcza sama jednostka lub według wskazówek jednostki notyfikowanej, dostawca lub jego upoważniony przedstawiciel. Numer identyfikacyjny umieszcza się również na wszelkich materiałach promocyjnych zawierających informacje o tym, że N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia system AI wysokiego ryzyka spełnia wymogi konieczne do opatrzenia go oznakowaniem CE. 5. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innym przepisom Unii, które również przewidują umieszczenie oznakowania CE, oznakowanie CE wskazuje, że dany system AI wysokiego ryzyka spełnia także wymogi zawarte w tych innych przepisach. Art. 49 Rejestracja 1. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, dostawca lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 2. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI, co do którego dostawca stwierdził, że nie jest systemem wysokiego ryzyka zgodnie z art. 6 ust. 3, dostawca ten lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 3. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 2, podmioty stosujące będące publicznymi organami, instytucjami, organami lub jednostkami organizacyjnymi Unii lub osobami działającymi w ich imieniu rejestrują się, T w zakresie ust.5 Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia W zakresie art. 49 ust. 5. Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia wybierają system i rejestrują jego wykorzystanie w bazie danych UE, o której mowa w art. 71. 4. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, migracji, azylu i zarządzania kontrolą graniczną, rejestracji, o której mowa w ust. 1, 2 i 3 niniejszego artykułu, dokonuje się w bezpiecznej niepublicznej sekcji bazy danych UE, o której mowa w art. 71, i - stosownie do przypadku - zawiera wyłącznie następujące informacje, o których mowa w: a) załączniku VIII sekcja A pkt 1-10, z wyjątkiem pkt 6, 8 i 9; b) załączniku VIII sekcja B pkt 1-5 oraz pkt 8 i 9; c) załączniku VIII sekcja C pkt 1-3; d) załączniku IX pkt 1, 2, 3 i 5. Do odpowiednich zastrzeżonych sekcji bazy danych UE wymienionych w akapicie pierwszym niniejszego ustępu dostęp mają jedynie Komisja i organy krajowe, o których mowa w art. 74 ust. 8. 5. Systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, rejestruje się na poziomie krajowym. w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 50 Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI 1. Dostawcy zapewniają, aby systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi projektowano i rozwijano w taki sposób, N Przepis o charakterze ogólnym stosowany wprost aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. Obowiązek ten nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich, chyba że systemy te udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa. 2. Dostawcy systemów AI, w tym systemów AI ogólnego zastosowania, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, zapewniają, aby wyniki systemu AI zostały oznakowane w formacie nadającym się do odczytu maszynowego i były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Dostawcy zapewniają skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, co może być odzwierciedlone w odpowiednich normach technicznych. Obowiązek ten nie ma zastosowania w zakresie, w jakim systemy AI pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób nie wymaga wdrożenia przekazywanych przez podmiot stosujący danych wejściowych lub ich semantyki, ani w zakresie, w jakim jest to dozwolone na mocy prawa do celów wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. 3. Podmioty stosujące systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej informują osoby fizyczne, wobec których systemy te są stosowane, o fakcie ich stosowania i przetwarzają dane osobowe stosownie do przypadku zgodnie z rozporządzeniami (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680. Obowiązek ten nie ma zastosowania do systemów AI wykorzystywanych do kategoryzacji biometrycznej i rozpoznawania emocji, których wykorzystywanie jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych w przestępstwami ich sprawach, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem Unii. 4. Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu. Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku, gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. 5. Informacje, o których mowa w ust. 1-4, są przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania. Informacje te muszą spełniać mające zastosowanie wymogi dostępności. 6. Ust. 1-4 nie mają wpływu na wymogi i obowiązki ustanowione w rozdziale III i pozostają bez uszczerbku dla innych obowiązków w zakresie przejrzystości ustanowionych w prawie Unii lub prawie krajowym w odniesieniu do podmiotów stosujących systemy AI. 7. Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania i oznaczania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może przyjmować akty wykonawcze dotyczące zatwierdzenia tych kodeksów praktyk zgodnie z procedurą ustanowioną w art. 56 ust. 6. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2. Art. 51 Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Model AI ogólnego przeznaczenia jest klasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli spełnia którykolwiek z następujących warunków: a) ma zdolności dużego oddziaływania ocenione w oparciu o odpowiednie narzędzia i metodologie techniczne, w tym wskaźniki i poziomy odniesienia; b) w oparciu o decyzję Komisji - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy - ma zdolności lub oddziaływanie równoważne z tymi, które określono w lit. a), przy N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia uwzględnieniu kryteriów określonych w załączniku XIII. 2. W przypadku modelu AI ogólnego przeznaczenia, którego łączna liczba obliczeń wykorzystywanych do jego trenowania mierzona w operacjach zmiennoprzecinkowych jest większa niż 10 25 , domniemuje się za mający zdolności dużego oddziaływania zgodnie z ust. 1 lit. a), 3. Komisja przyjmuje akty delegowane zgodnie z art. 97 w celu zmiany progów wymienionych w ust. 1 i 2 niniejszego artykułu, a także w celu uzupełnienia poziomów odniesienia i wskaźników w świetle rozwoju technologicznego obejmującego na przykład ulepszenia algorytmiczne lub zwiększoną wydajność sprzętu, w miarę konieczności, by progi te odzwierciedlały aktualny stan techniki. Art. 52 Procedura 1. W przypadku, gdy model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51 ust. 1 lit. a), odpowiedni dostawca powiadamia Komisję niezwłocznie, a w każdym przypadku w terminie dwóch tygodni od spełnienia tego warunku lub od kiedy wiadomo, że zostanie on spełniony. Powiadomienie to zawiera informacje niezbędne do wykazania, że dany warunek został spełniony. Jeśli Komisja dowie się o stwarzającym ryzyko systemowe modelu AI ogólnego przeznaczenia, o którym nie została powiadomiona, może zdecydować o uznaniu go za model z ryzykiem systemowym. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 2. Dostawca spełniający warunek, o którym mowa w art. 51 ust. 1 lit. a), modelu AI ogólnego przeznaczenia z ryzykiem systemowym może wraz ze swoim powiadomieniem przedstawić wystarczająco uzasadnione argumenty wykazujące, że wyjątkowo, pomimo spełniania przez ten model AI ogólnego przeznaczenia przedmiotowego warunku, nie stwarza on - z uwagi na swoje szczególne cechy - ryzyka systemowego i nie powinien być w związku z tym zaklasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym. 3. W przypadku, gdy Komisja stwierdzi, że argumenty przedstawione zgodnie z ust. 2 nie są wystarczająco uzasadnione i że dany dostawca nie był w stanie wykazać, że dany model AI ogólnego przeznaczenia nie stwarza - z uwagi na swoje szczególne cechy - ryzyka systemowego, odrzuca te argumenty, a dany model AI ogólnego przeznaczenia uważa się za model AI ogólnego przeznaczenia z ryzykiem systemowym. 4. Komisja może - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy zgodnie z art. 90 ust. 1 lit. a) - uznać model AI ogólnego przeznaczenia za model stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika XIII poprzez określenie i zaktualizowanie kryteriów określonych w załączniku XIII. 5. Na uzasadniony wniosek dostawcy, którego model został zgodnie z ust. 4 uznany za model AI ogólnego przeznaczenia z ryzykiem systemowym, Komisja bierze pod uwagę taki wniosek i może zdecydować o ponownej ocenie w celu stwierdzenia, czy dany model AI ogólnego przeznaczenia może być nadal uważany za stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Wniosek taki zawiera obiektywne, szczegółowe i nowe powody, które pojawiły się po podjęciu decyzji o uznaniu. Dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu decyzji o uznaniu. W przypadku gdy w wyniku ponownej oceny Komisja zdecyduje się utrzymać uznanie modelu za model AI ogólnego przeznaczenia z ryzykiem systemowym, dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu tej decyzji. 6. Komisja zapewnia publikację i aktualizację wykazu modeli AI ogólnego przeznaczenia z ryzykiem systemowym, bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej oraz poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 53 Obowiązki dostawców modeli AI ogólnego przeznaczenia 1. Dostawcy modeli AI ogólnego przeznaczenia: N Przepis o charakterze ogólnym stosowany wprost a) sporządzają i aktualizują dokumentację techniczną modelu, w tym proces jego trenowania i testowania oraz wyniki jego oceny, zawierającą co najmniej informacje określone w załączniku XI do celów przekazania ich, na wniosek, Urzędowi ds. AI i właściwym organom krajowym; b) sporządzają, aktualizują i udostępniają informacje i dokumentację dostawcom systemów AI, którzy zamierzają zintegrować model AI ogólnego przeznaczenia ze swoimi systemami AI. Bez uszczerbku dla potrzeby przestrzegania i ochrony praw własności intelektualnej i poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie prawem Unii i prawem krajowym te informacje i dokumentacja: (i) umożliwiają dostawcom systemów AI dobre zrozumienie możliwości i ograniczeń danego modelu AI ogólnego przeznaczenia oraz spełnienie ich obowiązków zgodnie z niniejszym rozporządzeniem; oraz (ii) zawierają co najmniej elementy określone w załączniku XII; c) wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790; d) sporządzają i podają do wiadomości publicznej wystarczająco szczegółowe streszczenie na temat treści nie wymaga wdrożenia. wykorzystanych do trenowania danego modelu AI ogólnego przeznaczenia, zgodnie ze wzorem dostarczonym przez Urząd ds. AI. 2. Obowiązków określonych w ust. 1 lit. a) i b) nie stosuje się do dostawców modeli AI, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej. Wyjątku tego nie stosuje się do modeli AI ogólnego przeznaczenia z ryzykiem systemowym. 3. Dostawcy modeli AI ogólnego przeznaczenia współpracują w razie konieczności z Komisją i właściwymi organami krajowymi przy wykonywaniu ich kompetencji i uprawnień zgodnie z niniejszym rozporządzeniem. 4. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków ustanowionych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 5. Do celu ułatwienia zgodności z załącznikiem XI, w szczególności jego pkt 2 lit. d) i e), Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych dotyczących szczegółowego określenia metod pomiaru i obliczeń umożliwiających porównywalną i weryfikowalną dokumentację. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 ust. 2 w celu zmiany załączników XI i XII w świetle postępu technicznego. 7. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 54 Upoważnieni przedstawiciele dostawców modeli AI ogólnego przeznaczenia 1. Przed wprowadzeniem swoich modeli AI ogólnego przeznaczenia do obrotu w Unii dostawcy mający siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przez dostawcę. Przekazuje on Urzędowi ds. AI na jego wniosek kopię pełnomocnictwa w jednym z oficjalnych języków instytucji Unii. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie czy dostawca sporządził dokumentację techniczną określoną w załączniku XI oraz czy wypełnił wszystkie obowiązki, o których mowa w art. 53, oraz w stosownych przypadkach, w art. 55; b) przechowywanie kopii dokumentacji technicznej określonej w załączniku XI do dyspozycji Urzędu ds. AI i właściwych organów krajowych przez okres 10 lat od czasu wprowadzenia danego modelu AI ogólnego przeznaczenia do obrotu oraz danych kontaktowych dostawcy, który ustanowił danego upoważnionego przedstawiciela; c) przekazywanie Urzędowi ds. AI na uzasadniony wniosek wszystkich informacji i dokumentacji, w tym określonych w lit. b), niezbędnych do wykazania spełnienia obowiązków ustanowionych w niniejszym rozdziale; d) współpraca z Urzędem ds. AI i właściwymi organami, na uzasadniony wniosek, we wszelkich podejmowanych przez nie działaniach odnoszących się do modelu AI ogólnego przeznaczenia, w tym, kiedy model ten jest zintegrowany z systemami AI wprowadzanymi do obrotu lub oddawanymi do użytku w Unii. 4. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby Urząd ds. AI lub właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 5. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli sądzi lub ma powody sądzić, że dostawca działa w sposób sprzeczny z jego obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku informuje on również natychmiast Urząd ds. AI o wypowiedzeniu pełnomocnictwa i o jego przyczynach. 6. Obowiązek określony w niniejszym artykule nie dotyczy dostawców modeli AI ogólnego przeznaczenia, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej, chyba że te modele AI ogólnego przeznaczenia stwarzają ryzyko systemowe. Art. 55 Obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Oprócz obowiązków wymienionych w art. 53 i 54 dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) dokonują oceny modelu zgodnie ze znormalizowanymi protokołami i narzędziami odzwierciedlającymi najaktualniejszy stan wiedzy technicznej, w tym przeprowadzają i dokumentują kontradyktoryjne testy modelu z myślą o zidentyfikowaniu ryzyka systemowego i jego ograniczenia; b) oceniają i ograniczają ewentualne ryzyko systemowe na poziomie Unii, w tym jego źródła, które może wynikać z rozwoju, wprowadzania do obrotu lub wykorzystywania modeli AI ogólnego przeznaczenia z ryzykiem systemowym; c) rejestrują, dokumentują i niezwłocznie zgłaszają Urzędowi ds. AI oraz w stosownych przypadkach, właściwym organom krajowym odpowiednie informacje dotyczące poważnych incydentów i ewentualnych środków naprawczych służących zaradzeniu im; d) zapewniają odpowiedni poziom cyberochrony modelu AI ogólnego przeznaczenia z ryzykiem systemowym oraz infrastruktury fizycznej tego modelu. 2. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków określonych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 3. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 56 Kodeksy praktyk 1. Urząd ds. AI zachęca do sporządzania kodeksów praktyk na poziomie Unii i ułatwia ich sporządzanie w celu przyczyniania się do właściwego stosowania niniejszego rozporządzenia, przy uwzględnieniu podejść międzynarodowych. 2. Urząd ds. AI i Rada ds. AI dążą do zapewnienia, by kodeksy praktyk obejmowały co najmniej obowiązki przewidziane w art. 53 i 55, w tym następujące kwestie: a) środki na rzecz zapewnienia, by informacje, o których mowa w art. 53 ust. 1 lit. a) i b), były aktualne w świetle rozwoju rynku i technologii; b) odpowiedni poziom szczegółowości streszczenia na temat treści wykorzystywanych do trenowania; c) identyfikacja rodzaju i charakteru ryzyka systemowego na poziomie Unii, w tym, w stosownych przypadkach, jego źródła; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia d) środki, procedury i zasady oceny ryzyka systemowego i zarządzania nim na poziomie Unii, w tym ich dokumentacja, które muszą być proporcjonalne do ryzyka, uwzględniać jego dotkliwość i prawdopodobieństwo wystąpienia oraz uwzględniać szczególne wyzwania w zakresie radzenia sobie z tym ryzykiem w świetle potencjalnych sposobów pojawienia się takie ryzyka i jego urzeczywistnienia w całym łańcuchu wartości AI. 3. Urząd ds. AI może zwrócić się do wszystkich dostawców modeli AI ogólnego przeznaczenia oraz odpowiednich właściwych organów krajowych o wzięcie udziału w opracowywaniu kodeksów praktyk. Organizacje społeczeństwa obywatelskiego, przedstawiciele przemysłu, środowisko akademickie oraz inne odpowiednie zainteresowane strony, takie jak dostawcy niższego szczebla i niezależni eksperci, mogą wspierać ten proces. 4. Urząd ds. AI i Rada ds. AI starają się zapewnić, by kodeksy praktyk wyraźnie określały swoje cele szczegółowe i zawierały zobowiązania lub środki, w tym, w stosownych przypadkach, kluczowe wskaźniki skuteczności działania, w celu zapewnienia realizacji tych celów, oraz by uwzględniały w należytym stopniu potrzeby i interesy wszystkich zainteresowanych stron, w tym osób, na które AI ma wpływ, na poziomie Unii. 5. Urząd ds. AI stara się zapewnić, by uczestnicy kodeksów praktyk regularnie składali Urzędowi ds. AI sprawozdania z realizacji podjętych zobowiązań i środków oraz z ich wyników, w tym, w odpowiednich przypadkach, mierzonych w odniesieniu do kluczowych wskaźników skuteczności działania. Kluczowe wskaźniki skuteczności działania i zobowiązania w zakresie sprawozdawczości muszą odzwierciedlać różnice w wielkości i zdolnościach poszczególnych uczestników. 6. Urząd ds. AI i Rada ds. AI regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Urząd ds. AI i Rada ds. AI oceniają, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, i regularnie monitorują i oceniają realizację ich celów. Publikują one swoją ocenę adekwatności kodeksów praktyk. Komisja może w drodze aktu wykonawczego zatwierdzić kodeks praktyk i nadać mu powszechną moc w Unii. Taki akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Urząd ds. AI może zwracać się do wszystkich dostawców modeli AI ogólnego przeznaczenia, by przestrzegali kodeksów praktyk. W przypadku dostawców modeli AI ogólnego przeznaczenia, które nie stwarzają ryzyka systemowego, przestrzeganie kodeksów może być ograniczone do obowiązków przewidzianych w art. 53, chyba że wyraźnie zadeklarują oni zainteresowanie pełnym przystąpieniem do kodeksu. 8. Urząd ds. AI w stosownych przypadkach zachęca również do prowadzenia przeglądów i dostosowywania kodeksów praktyk oraz ułatwia takie przeglądy i dostosowania, w szczególności w świetle nowych norm. Urząd ds. AI udziela wsparcia w ocenie dostępnych norm. 9. Kodeksy praktyk muszą być gotowe najpóźniej do dnia 2 maja 2025 r. Urząd ds. AI podejmuje niezbędne kroki, w tym kieruje zachęty do dostawców zgodnie z ust. 7. Jeśli do dnia 2 sierpnia 2025 r. opracowanie kodeks praktyk nie może zostać zakończone lub Urząd ds. AI w wyniku swojej oceny na podstawie ust. 6 niniejszego artykułu uzna, że nie jest on odpowiedni, Komisja może w drodze aktów wykonawczych ustanowić wspólne przepisy dotyczące wykonywania obowiązków przewidzianych w art. 53 i 55, z uwzględnieniem kwestii określonych w ust. 2 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 57 Piaskownice regulacyjne w zakresie AI 1. Państwa członkowskie zapewniają, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która musi zostać uruchomiona do dnia 2 sierpnia 2026 r. Piaskownica ta może również zostać ustanowiona wspólnie z właściwymi organami innych państw członkowskich. Komisja może zapewniać wsparcie techniczne, doradztwo i narzędzia do celów T Art. 91 Art. 95 Art. 96 Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, Przepis dotyczy piaskownic regulacyjnych. Przepisy rozporządzenia odnoszące się do tej kategorii wejdą w życie 2.08.2026 r. ustanowienia i działania piaskownic regulacyjnych w zakresie AI. Obowiązek ustanowiony w akapicie pierwszym może również zostać spełniony poprzez uczestnictwo w istniejącej piaskownicy w zakresie, w jakim udział ten stwarza równoważny poziom zasięgu krajowego dla uczestniczących państw członkowskich. 2. Można również ustanowić dodatkowe piaskownice regulacyjne w zakresie AI na poziomie regionalnym lub lokalnym lub wspólnie z właściwymi organami innych państw członkowskich. 3. Europejski Inspektor Ochrony Danych może również ustanowić piaskownicę regulacyjną w zakresie AI dla instytucji, organów i jednostek organizacyjnych Unii i może pełnić role i wykonywać zadania właściwych organów krajowych zgodnie z niniejszym rozdziałem. 4. Państwa członkowskie zapewniają, by właściwe organy, o których mowa w ust. 1 i 2, przeznaczały wystarczające zasoby do skutecznego i terminowego zapewnienia zgodności z niniejszym artykułem. W stosownych przypadkach właściwe organy krajowe współpracują z innymi odpowiednimi organami i mogą zezwolić na zaangażowanie innych podmiotów z ekosystemu AI. Niniejszy artykuł nie ma wpływu na inne piaskownice regulacyjne ustanowione na podstawie prawa Unii lub prawa krajowego. Państwa członkowskie zapewniają odpowiedni poziom współpracy między organami nadzorującymi te inne piaskownice a właściwymi organami krajowymi. w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzgledniający możliwości organizacyjne Komisji, przewidywane 5. Piaskownice regulacyjne w zakresie AI ustanowione na podstawie ust. 1 zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. 6. Właściwe organy zapewniają, w stosownych przypadkach, wskazówki, nadzór i wsparcie w ramach piaskownicy regulacyjnej w zakresie AI, mając na celu identyfikację ryzyka, w szczególności dla praw podstawowych, zdrowia i bezpieczeństwa, testowania, środków ograniczających ryzyko oraz ich skuteczności w odniesieniu do obowiązków i wymogów niniejszego rozporządzenia oraz w stosownych przypadkach, innych nadzorowanych w ramach danej piaskownicy przepisów prawa Unii i prawa krajowego. 7. Właściwe organy zapewniają dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie AI wskazówki dotyczące oczekiwań regulacyjnych oraz sposobów spełnienia wymogów i obowiązków ustanowionych w niniejszym rozporządzeniu. Na wniosek dostawcy lub potencjalnego dostawcy systemu AI właściwy organ przedstawia na piśmie dowód skutecznie przeprowadzonych w ramach zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o piaskownicy działań. Właściwy organ przygotowuje również sprawozdanie końcowe zawierające szczegółowe informacje na temat działań przeprowadzonych w ramach piaskownicy oraz powiązanych rezultatów i efektów uczenia się. Dostawcy mogą wykorzystywać taką dokumentację do wykazania swojej zgodności z niniejszym rozporządzeniem w ramach procesu oceny zgodności lub odpowiednich działań w zakresie nadzoru rynku. W tym względzie sprawozdania końcowe oraz dowody na piśmie przedstawione przez właściwy organ krajowy są uwzględniane pozytywnie przez organy nadzoru rynku i jednostki notyfikowane, z myślą o przyspieszeniu procedur oceny zgodności w rozsądnym zakresie. 8. Z zastrzeżeniem przepisów dotyczących poufności określonych w art. 78 i za zgodą dostawcy lub potencjalnego dostawcy Komisja i Rada ds. AI są upoważnione, by uzyskać dostęp do sprawozdań końcowych i - w stosownych przypadkach - uwzględniają je przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. Jeżeli zarówno dostawca lub przyszły dostawca, jak i właściwy organ krajowy wyraźnie wyrażą na to zgodę, sprawozdanie końcowe może zostać podane do wiadomości publicznej za pośrednictwem jednolitej platformy informacyjnej, o której mowa w niniejszym artykule. 9. Ustanowienie piaskownic regulacyjnych w zakresie AI ma na celu przyczynienie się do osiągnięcia następujących celów: minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 4, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostepnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie a) zwiększenie pewności prawa z myślą o osiągnięciu zgodności regulacyjnej z niniejszym rozporządzeniem lub w stosownych przypadkach, innym mającym zastosowanie prawem Unii i prawem krajowym; b) wspieranie wymiany najlepszych praktyk poprzez współpracę z organami uczestniczącymi w piaskownicy regulacyjnej w zakresie AI; c) wzmacnianie innowacyjności i konkurencyjności oraz ułatwianie rozwoju ekosystemu AI; d) wniesienie wkładu w oparte na dowodach uczenie się działań regulacyjnych; e) ułatwianie i przyspieszanie dostępu do rynku Unii dla systemów AI, w szczególności, gdy są one dostarczane przez MŚP, w tym przedsiębiorstwa typu startup. 10. Właściwe organy krajowe zapewniają, aby - w zakresie, w jakim innowacyjne systemy AI wiążą się z przetwarzaniem danych osobowych lub z innego powodu wchodzą w zakres kompetencji nadzorczych innych organów krajowych lub właściwych organów zapewniających dostęp do danych osobowych lub wsparcie w uzyskaniu dostępu do tych danych - krajowe organy ochrony danych oraz te inne organy krajowe włączono w działalność piaskownicy regulacyjnej w zakresie AI oraz zaangażowano w nadzór nad tymi aspektami w zakresie wynikającym z ich odpowiednich zadań i uprawnień. 11. Piaskownice regulacyjne w zakresie AI pozostaje bez wpływu na uprawnienia w zakresie nadzoru lub stosowania środków naprawczych przynależne przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. właściwym organom nadzorującym te piaskownice, w tym na poziomie regionalnym lub lokalnym. Stwierdzenie istnienia jakiegokolwiek znaczącego ryzyka dla zdrowia i bezpieczeństwa oraz dla praw podstawowych na etapie rozwoju i testowania takich systemów AI powoduje konieczność właściwego ograniczenia tego ryzyka. Właściwe organy krajowe są uprawnione do tymczasowego lub trwałego zawieszenia procesu testowania lub udziału w piaskownicy, jeżeli skuteczne ograniczenie ryzyka nie jest możliwe, oraz informują o takiej decyzji Urząd ds. AI. Właściwe organy krajowe wykonują swoje uprawnienia nadzorcze w granicach określonych w odpowiednich przepisach, wykorzystując swoje uprawnienia dyskrecjonalne przy stosowaniu przepisów prawnych w odniesieniu do konkretnego projektu piaskownicy regulacyjnej w zakresie AI, w celu wspierania innowacji w dziedzinie AI w Unii. 12. Dostawcy lub potencjalni dostawcy uczestniczący w piaskownicy regulacyjnej w zakresie AI ponoszą odpowiedzialność, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, za wszelkie szkody wyrządzone osobom trzecim w wyniku doświadczeń przeprowadzanych w piaskownicy. Organy nie nakładają jednak administracyjnych kar pieniężnych w związku z naruszeniem niniejszego rozporządzenia, pod warunkiem, że potencjalny dostawca respektuje konkretny plan oraz warunki uczestnictwa, a także w dobrej wierze stosuje się do wytycznych właściwych organów krajowych. W przypadku gdy inne właściwe organy odpowiedzialne za inne przepisy prawa Unii lub przepisy krajowe uczestniczyły aktywnie w nadzorze nad systemem AI w ramach piaskownicy regulacyjnej i udzielały wskazówek w zakresie zgodności, w odniesieniu do tego prawa nie nakłada się administracyjnych kar pieniężnych. 13. Piaskownice regulacyjne w zakresie AI opracowuje się i wdraża w taki sposób, by w stosownych przypadkach ułatwiały współpracę transgraniczną między właściwymi organami krajowymi. 14. Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. 15. Właściwe organy krajowe informują Urząd ds. AI i Radę ds. AI o utworzeniu piaskownicy oraz mogą zwrócić się do nich o wsparcie i wytyczne. Urząd ds. AI podaje do wiadomości publicznej i aktualizuje wykaz planowanych i istniejących piaskownic, aby zachęcić do większej interakcji w ramach piaskownic regulacyjnych w zakresie AI i do współpracy transgranicznej. 16. Właściwe organy krajowe przedkładają Urzędowi ds. AI i Radzie ds. AI sprawozdania roczne - po upływie jednego roku od ustanowienia piaskownicy regulacyjnej w zakresie AI, a następnie co roku, aż do zakończenia jej działalności - oraz sprawozdanie końcowe. Sprawozdania te zawierają informacje o postępach i rezultatach wdrażania piaskownic, w tym również o najlepszych praktykach, incydentach, wyciągniętych wnioskach i zaleceniach dotyczących tworzenia piaskownic regulacyjnych, a w stosownych przypadkach - zalecenia dotyczące stosowania i ewentualnego przeglądu niniejszego rozporządzenia, w tym związanych z nim aktów delegowanych i wykonawczych, oraz stosowania innych przepisów prawa Unii objętego nadzorem właściwych organów w ramach danej piaskownicy. Właściwe organy krajowe podają te roczne sprawozdania lub ich streszczenia do wiadomości publicznej w internecie. Komisja w stosownych przypadkach bierze pod uwagę sprawozdania roczne przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. 17. Komisja opracowuje jednolity i specjalny interfejs zawierający wszystkie istotne informacje dotyczące piaskownic regulacyjnych w zakresie AI, aby zgodnie z art. 62 ust. 1 lit. c) umożliwić zainteresowanym stronom interakcję z piaskownicami regulacyjnymi w zakresie AI i zwracanie się do właściwych organów z pytaniami oraz uzyskiwania niewiążących wskazówek w zakresie zapewnienia zgodności innowacyjnych produktów, usług i modeli biznesowych zawierających zintegrowane technologie AI. W stosownych przypadkach Komisja proaktywnie koordynuje swoje działania z właściwymi organami krajowymi. Art. 58 Szczegółowe zasady dotyczące piaskownic regulacyjnych w zakresie AI i ich funkcjonowania 1. Aby uniknąć fragmentacji w całej Unii, Komisja przyjmuje akty wykonawcze określające szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania, działania piaskownic regulacyjnych w zakresie AI i nadzoru nad nimi. Te akty wykonawcze N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia określają wspólne zasady dotyczące następujących kwestii: a) kwalifikowalności i kryteriów wyboru dotyczących uczestnictwa w piaskownicy regulacyjnej w zakresie AI; b) procedur składania wniosków, uczestnictwa, monitorowania, wychodzenia z piaskownicy regulacyjnej w zakresie AI i zakończenia jej działalności, w tym planu działania piaskownicy i sprawozdania końcowego; c) warunków mających zastosowanie do uczestników. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Akty wykonawcze, o których mowa w ust. 1, zapewniają, aby: a) piaskownice regulacyjne w zakresie AI były otwarte dla każdego zgłaszającego się dostawcy lub potencjalnego dostawcy systemu AI spełniającego kryteria kwalifikowalności i wyboru, które muszą być przejrzyste i bezstronne, a właściwe organy krajowe informowały wnioskodawców o swojej decyzji w terminie trzech miesięcy od złożenia wniosku; b) piaskownice regulacyjne w zakresie AI umożliwiały szeroki i równy dostęp oraz nadążały za popytem, jeżeli chodzi o uczestnictwo; dostawcy i potencjalni dostawcy mogą również składać wnioski we współpracy z podmiotami stosującymi oraz innymi odpowiednimi osobami trzecimi; c) szczegółowe zasady i warunki dotyczące piaskownic regulacyjnych w zakresie AI w możliwie najlepszym stopniu wspierały swobodę właściwych organów krajowych w zakresie ustanawiania piaskownic regulacyjnych w zakresie AI i zarządzania nimi; d) dostęp do piaskownic regulacyjnych w zakresie AI był nieodpłatny dla MŚP, w tym przedsiębiorstw typu startup, bez uszczerbku dla nadzwyczajnych kosztów, do których odzyskania w bezstronny i proporcjonalny sposób mogą być uprawnione właściwe organy krajowe; e) ułatwiały one dostawcom i potencjalnym dostawcom, za pomocą efektów uczenia się uzyskanych dzięki piaskownicom regulacyjnym w zakresie AI, spełnianie wynikających z niniejszego rozporządzenia wymogów w zakresie oceny zgodności oraz dobrowolnego stosowania kodeksów postępowania, o których mowa w art. 95; f) piaskownice regulacyjne w zakresie AI ułatwiały zaangażowanie innych odpowiednich podmiotów w ekosystemie sztucznej inteligencji, takich jak jednostki notyfikowane i organizacje normalizacyjne, MŚP, w tym przedsiębiorstwa typu startup, przedsiębiorstwa, innowatorzy, ośrodki testowo-doświadczalne, laboratoria badawczo-doświadczalne, europejskie centra innowacji cyfrowych, centra doskonałości i poszczególni naukowcy, aby umożliwić i ułatwić współpracę z sektorem publicznym i prywatnym; g) procedury, procesy i wymogi administracyjne dotyczące składania wniosków, wyboru, uczestnictwa i wychodzenia z piaskownicy regulacyjnej w zakresie AI były proste, łatwe do zrozumienia, jasno podane do wiadomości w celu ułatwienia uczestnictwa MŚP, w tym przedsiębiorstwom typu startup, o ograniczonych zdolnościach prawnych i administracyjnych, a także by były ujednolicone w całej Unii, aby uniknąć fragmentacji, oraz aby uczestnictwo w piaskownicy regulacyjnej w zakresie AI ustanowionej przez jedno z państw członkowskich lub Europejskiego Inspektora Ochrony Danych było wzajemnie i powszechnie uznawane i miało takie same skutki prawne w całej Unii; h) uczestnictwo w piaskownicy regulacyjnej w zakresie AI było ograniczone do okresu odpowiedniego dla złożoności i skali projektu, który to okres może zostać przedłużony przez właściwy organ krajowy; i) piaskownice regulacyjne w zakresie AI ułatwiały tworzenie narzędzi i infrastruktury do testowania, analizy porównawczej, oceny i wyjaśniania aspektów systemów AI istotnych w kontekście uczenia się działań regulacyjnych, które to aspekty obejmują dokładność, solidność i cyberbezpieczeństwo, a także tworzenie środków służących ograniczaniu ryzyka dla praw podstawowych i ogółu społeczeństwa. 3. Potencjalni dostawcy w piaskownicach regulacyjnych w zakresie AI, w szczególności MŚP i przedsiębiorstwa typu startup, są w stosownych przypadkach kierowani do usług przedwdrożeniowych, takich jak doradztwo w zakresie wdrażania niniejszego rozporządzenia, do innych usług o wartości dodanej, takich jak pomoc w zakresie dokumentów normalizacyjnych i certyfikacji, do ośrodków testowo-doświadczalnych, europejskich centrów innowacji cyfrowych oraz centrów doskonałości. 4. W przypadku, gdy właściwe organy krajowe rozważają udzielenie zezwolenia na przeprowadzenie testów w warunkach rzeczywistych nadzorowanych w ramach piaskownicy w zakresie AI, która ma zostać ustanowiona na mocy niniejszego artykułu, szczegółowo uzgadniają one z uczestnikami warunki takich testów, a w szczególności odpowiednie zabezpieczenia, mające na celu ochronę praw podstawowych, zdrowia i bezpieczeństwa. W stosownych przypadkach współpracują one z innymi właściwymi organami krajowymi w celu zapewnienia spójnych praktyk w całej Unii. Art. 59 Dalsze przetwarzanie danych osobowych na potrzeby rozwoju w interesie publicznym określonych systemów AI w ramach piaskownicy regulacyjnej w zakresie AI 1. Dane osobowe zebrane zgodnie z prawem w innych celach można przetwarzać, w ramach piaskownicy regulacyjnej w zakresie AI, wyłącznie do celów rozwoju, trenowania i testowania w ramach piaskownicy niektórych systemów AI, gdy spełnione są wszystkie następujące warunki: a) systemy AI rozwija się w celu zabezpieczenia przez organ publiczny lub inną osobę fizyczną lub prawną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia istotnego interesu publicznego w co najmniej jednym z następujących obszarów: (i) bezpieczeństwo publiczne i zdrowie publiczne, w tym wykrywanie, diagnozowanie, profilaktyka, kontrola i leczenie chorób oraz poprawa systemów opieki zdrowotnej; (ii) wysoki poziom ochrony środowiska i poprawa jego jakości, ochrona różnorodności biologicznej, ochrona przed zanieczyszczeniem, środki w zakresie transformacji ekologicznej, środki w zakresie łagodzenia zmiany klimatu i przystosowania się do niej; (iii) zrównoważoność energetyczna; (iv) bezpieczeństwo i odporność systemów transportowych i mobilności, infrastruktury krytycznej i sieci; (v) wydajność i jakość administracji publicznej i usług publicznych; b) przetwarzane dane są niezbędne do zapewnienia zgodności z co najmniej jednym z wymogów, o których mowa w rozdziale III sekcja 2, przy czym wymogów tych nie można skutecznie spełnić, przetwarzając dane zanonimizowane, dane syntetyczne lub innego rodzaju dane nieosobowe; c) ustanowiono skuteczne mechanizmy monitorowania pozwalające zidentyfikować wszelkie wysokie ryzyko naruszenia praw i wolności osób, których dane dotyczą, określone w art. 35 rozporządzenia (UE) 2016/679 i art. 39 rozporządzenia (UE) 2018/1725, jakie może wystąpić w trakcie przeprowadzania doświadczeń w ramach piaskownicy, a także mechanizmy reagowania zapewniające możliwość szybkiego ograniczenia tego ryzyka oraz - w stosownych przypadkach - wstrzymania przetwarzania; d) wszelkie dane osobowe, które mają być przetwarzane w kontekście piaskownicy, znajdują się w funkcjonalnie wyodrębnionym, odizolowanym i chronionym środowisku przetwarzania danych podlegającym kontroli potencjalnego dostawcy, a dostęp do tych danych posiadają wyłącznie upoważnione osoby; e) dostawcy mogą udostępniać dalej pierwotnie zebrane dane wyłącznie zgodnie z prawem Unii o ochronie danych; wszelkie dane osobowe stworzone w piaskownicy nie mogą być udostępniane poza piaskownicą; f) przetwarzanie danych osobowych w kontekście piaskownicy nie prowadzi do wdrożenia środków lub podjęcia decyzji wywierających wpływ na osoby, których dane dotyczą, ani nie wpływa na stosowanie ich praw określonych w prawie Unii o ochronie danych osobowych; g) dane osobowe przetwarzane w kontekście piaskownicy chroni się za pomocą odpowiednich środków technicznych i organizacyjnych oraz usuwa się po zakończeniu uczestnictwa w piaskownicy lub po upływie okresu przechowywania danych osobowych; h) rejestry przetwarzania danych osobowych w kontekście piaskownicy przechowuje się przez cały czas uczestnictwa w piaskownicy, o ile prawo Unii lub prawo krajowe nie stanowią inaczej; i) w dokumentacji technicznej, o której mowa w załączniku IV, zamieszcza się wyczerpujący i szczegółowy opis procesu trenowania, testowania i walidacji systemu AI wraz ze stosownym uzasadnieniem oraz wyniki przeprowadzonych testów; j) krótkie streszczenie projektu w zakresie AI rozwiniętego w ramach piaskownicy, jego celów i oczekiwanych rezultatów zostało opublikowane na stronie internetowej właściwych organów; obowiązek ten nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. 2. Do celów zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych w ich sprawie, ich wykrywania lub ścigania lub wykonywania kar, w tym ochrony przed zagrożeniami bezpieczeństwa publicznego i zapobiegania takim zagrożeniom pod nadzorem organów ścigania i na ich odpowiedzialność, przetwarzanie danych osobowych w piaskownicach regulacyjnych w zakresie AI prowadzone jest w oparciu o konkretne przepisy prawa Unii lub prawa krajowego i podlega tym samym łącznym warunkom, o których mowa w ust. 1. 3. Ust. 1 pozostaje bez uszczerbku dla prawa Unii lub prawa krajowego, które wyklucza przetwarzanie danych osobowych do celów innych niż wskazane wprost w tym prawie, jak również bez uszczerbku dla prawa Unii lub prawa krajowego ustanawiającego podstawy przetwarzania danych osobowych niezbędnego do celów rozwoju, testowania lub trenowania innowacyjnych systemów AI lub jakiekolwiek inne podstawy prawnej, zgodnych z prawem Unii dotyczącym ochrony danych osobowych. Art. 60 Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5. Komisja określa w drodze aktów wykonawczych szczegółowe elementy planu testów w warunkach rzeczywistych. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Niniejszy ustęp pozostaje bez uszczerbku dla przepisów prawa Unii lub prawa krajowego dotyczących testów w warunkach rzeczywistych systemów AI wysokiego ryzyka powiązanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 2. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym. 3. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych przeprowadzane na podstawie niniejszego artykułu pozostają bez uszczerbku dla oceny etycznej wymaganej prawem Unii lub prawem unijnym. 4. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy w warunkach rzeczywistych tylko wtedy, gdy spełnione są wszystkie następujące warunki: a) dostawca lub potencjalny dostawca sporządził plan testów w warunkach rzeczywistych i przedłożył go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy; b) organ nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzone testy w warunkach rzeczywistych, zatwierdził te testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych; w przypadku gdy organ nadzoru rynku nie udzielił odpowiedzi w terminie 30 dni, testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych uznaje się za zatwierdzone; w przypadku gdy prawo krajowe nie przewiduje milczącego zatwierdzenia, testy w warunkach rzeczywistych nadal wymagają uzyskania zezwolenia; c) dostawca lub potencjalny dostawca - z wyjątkiem dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną, oraz systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2 - zarejestrował testy w warunkach rzeczywistych zgodnie z art. 71 ust. 4 pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w załączniku IX; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną - zarejestrował testy w warunkach rzeczywistych w niepublicznej części bazy danych UE zgodnie z art. 49 ust. 4 lit. d), pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w przywołanym przepisie; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, zarejestrował testy w warunkach rzeczywistych zgodnie z art. 49 ust. 5; d) dostawca lub potencjalny dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii; e) dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii; f) testy w warunkach rzeczywistych trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy, z zastrzeżeniem uprzedniego powiadomienia organu nadzoru rynku przez dostawcę lub potencjalnego dostawcę, wraz z uzasadnieniem konieczności takiego przedłużenia; g) uczestnicy testów w warunkach rzeczywistych, którzy z uwagi na swój wiek, niepełnosprawność są osobami, które należą do grup szczególnie wrażliwych lub są w odpowiednio chronieni; h) w przypadku gdy dostawca lub potencjalny dostawca organizuje testy w warunkach rzeczywistych we współpracy z jednym podmiotem stosującym lub potencjalnym podmiotem stosującym, podmiot stosujący lub potencjalny podmiot stosujący został poinformowany o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz otrzymuje odpowiednie instrukcje obsługi systemu AI, o których mowa w art. 13; dostawca lub potencjalny dostawca oraz podmiot stosujący lub potencjalny podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych na podstawie niniejszego rozporządzenia oraz na podstawie innego mającego zastosowanie prawa Unii i prawa krajowego; i) uczestnicy testów w warunkach rzeczywistych wyrazili świadomą zgodę zgodnie z art. 61 lub - w przypadku ścigania przestępstw - gdy uzyskanie świadomej zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie mogą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe musza zostać usunięte po przeprowadzeniu testów; j) testy w warunkach rzeczywistych są skutecznie nadzorowane przez dostawcę lub potencjalnego dostawcę i podmioty stosujące lub potencjalne podmioty stosujące przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań; k) predykcje, zalecenia lub decyzje systemu AI można skutecznie odwrócić i zignorować. 5. Uczestnicy testów w warunkach rzeczywistych lub, w stosownych przypadkach, ich wyznaczony zgodnie z prawem przedstawiciel mogą - bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia - zdecydować o wycofaniu się w dowolnym momencie z testów poprzez odwołanie świadomej zgody; mogą oni również zażądać natychmiastowego i trwałego usunięcia ich danych osobowych. Odwołanie świadomej zgody nie wpływa na już przeprowadzone działania. 6. Zgodnie z art. 75 państwa członkowskie powierzają swoim organom nadzoru rynku uprawnienia do zwracania się do dostawców i potencjalnych dostawców z wnioskiem o przedstawienie informacji, do przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych i powiązanych systemów AI. Organy nadzoru rynku wykorzystują te uprawnienia do zapewnienia bezpiecznego rozwoju testów w warunkach rzeczywistych. 7. Każdy poważny incydent stwierdzony w trakcie testów w warunkach rzeczywistych zgłasza się krajowemu organowi nadzoru rynku zgodnie z art. 73. Dostawca lub potencjalny dostawca przyjmuje natychmiastowe środki zaradcze lub w przypadku, gdy jest to niemożliwe, zawiesza testy w warunkach rzeczywistych do czasu zaradzenia incydentowi albo też kończy testy. Dostawca lub potencjalny dostawca ustanawia procedurę szybkiego wycofania systemu AI z użytku po takim zakończeniu testów w warunkach rzeczywistych. 8. Dostawcy lub potencjalni dostawcy powiadamiają krajowy organ nadzoru rynku w państwie członkowskim, w którym prowadzone są testy w warunkach rzeczywistych, o zawieszeniu lub zakończeniu tych testów i o ostatecznych wynikach. 9. Dostawcy lub potencjalni dostawcy ponoszą, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, odpowiedzialność za wszelkie szkody spowodowane w trakcie testów w warunkach rzeczywistych. Art. 61 Świadoma zgoda na udział w testach w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Do celów prowadzonych na podstawie art. 60 testów w warunkach rzeczywistych od uczestników testów należy uzyskać dobrowolną świadomą zgodę przed ich udziałem w takich testach i po należytym poinformowaniu ich w sposób zwięzły, jasny, adekwatny i zrozumiały o: a) charakterze i celach testów w warunkach rzeczywistych oraz ewentualnych niedogodnościach, które mogą być związane z udziałem w tych testach; b) warunkach, na jakich mają być prowadzone testy w warunkach rzeczywistych, w tym o przewidywanym czasie trwania udziału danego uczestnika lub uczestników w testach; c) ich prawach i zabezpieczeniach dotyczących udziału w testach, w szczególności o prawie do odmowy udziału w testach oraz o prawie do wycofania się z testów w warunkach rzeczywistych - w dowolnym momencie, bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia; d) zasadach zwracania się o odwrócenie lub zignorowanie predykcji, zaleceń lub decyzji wydanych przez system AI; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia e) ogólnounijnym niepowtarzalnym numerze identyfikacyjnym testów w warunkach rzeczywistych nadanym zgodnie z art. 60 ust. 4 lit. c) i o danych kontaktowych dostawcy lub jego przedstawiciela prawnego, od których można uzyskać dalsze informacje. 2. Świadoma zgoda jest opatrzona datą i udokumentowana, a uczestnicy testów lub ich przedstawiciel prawny otrzymują jej kopię. Art. 62 Środki na rzecz dostawców i podmiotów stosujących, w szczególności MŚP, w tym przedsiębiorstw typu startup 1. Państwa członkowskie podejmują następujące działania: a) zapewniają MŚP, w tym przedsiębiorstwom typu startup, które mają siedzibę statutową lub oddział w Unii, dostęp do piaskownic regulacyjnych w zakresie AI na zasadzie pierwszeństwa, o ile spełniają oni warunki kwalifikowalności i kryteria wyboru; dostęp na zasadzie pierwszeństwa nie wyklucza dostępu do piaskownicy regulacyjnej w zakresie AI dla innych MŚP, w tym przedsiębiorstw typu startup, innych niż te, o których mowa w niniejszym ustępie, pod warunkiem, że również spełniają one warunki kwalifikowalności i kryteria wyboru; b) organizują specjalne wydarzenia informacyjne i szkoleniowe poświęcone stosowaniu przepisów niniejszego rozporządzenia dostosowane do potrzeb MŚP, w tym przedsiębiorstw typu startup, podmiotów T Art. 6 pkt 8 Art. 91 ust. 4 i 5 Art. 6. Do zadań Komisji należy: 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; Art. 91 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o stosujących i w stosownych przypadkach lokalnych organów publicznych; c) wykorzystują istniejące specjalne kanały oraz w stosownych przypadkach, ustanawiają nowe kanały komunikacji z MŚP, w tym przedsiębiorstwami typu startup, podmiotami stosującymi, innymi innowatorami oraz w stosownych przypadkach, z lokalnymi organami publicznymi - w celu zapewnienia poradnictwa i udzielania odpowiedzi na zapytania w zakresie wdrażania niniejszego rozporządzenia, w tym odnośnie do udziału w piaskownicach regulacyjnych w zakresie AI; d) ułatwiają udział MŚP i innych odpowiednich stron w procesie opracowywania norm. 2. Przy ustalaniu wysokości opłat z tytułu oceny zgodności przeprowadzanej zgodnie z art. 43 bierze się pod uwagę szczególne interesy i potrzeby dostawców będących MŚP, w tym przedsiębiorstwami typu startup, obniżając wysokość tych opłat proporcjonalnie do wielkości tych przedsiębiorstw, wielkości rynku i innych odpowiednich wskaźników. 3. Urząd ds. AI podejmuje następujące działania: a) zapewnia ujednolicone wzory w obszarach objętych zakresem stosowania niniejszego rozporządzenia, zgodnie ze specyfikacją określoną przez Radę ds. AI w jej wniosku; b) opracowuje i obsługuje jednolitą platformę informacyjną zapewniającą wszystkim operatorom w minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). całej Unii przystępne informacje na temat niniejszego rozporządzenia; c) organizuje odpowiednie kampanie informacyjne w celu podnoszenia świadomości na temat obowiązków wynikających z niniejszego rozporządzenia; d) ocenia i propaguje zbieżność najlepszych praktyk w postępowaniach o udzielenie zamówienia publicznego w odniesieniu do systemów AI. Art. 63 Odstępstwa dla określonych operatorów 1. Mikroprzedsiębiorstwa w rozumieniu zalecenia 2003/361/WE mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 niniejszego rozporządzenia w sposób uproszczony, pod warunkiem, że nie mają przedsiębiorstw partnerskich ani przedsiębiorstw powiązanych w rozumieniu tego zalecenia. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby mikroprzedsiębiorstw, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka. 2. Ustępu 1 niniejszego artykułu nie należy interpretować jako zwalniającego tych operatorów z wszelkich innych wymogów lub obowiązków ustanowionych w niniejszym rozporządzeniu, w tym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. tych ustanowionych w art. 9, 10, 11, 12, 13, 14, 15, 72 i 73. Art. 64 Urząd ds. AI 1. Komisja rozwija unijną wiedzę fachową i zdolności w dziedzinie AI poprzez Urząd ds. AI. 2. Państwa członkowskie ułatwiają wykonywanie zadań powierzonych na podstawie niniejszego rozporządzenia Urzędowi ds. AI. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 65 Ustanowienie i struktura Europejskiej Rady ds. Sztucznej Inteligencji 1. Ustanawia się Europejską Radę ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"). 2. W skład Rady ds. AI wchodzi po jednym przedstawicielu z każdego państwa członkowskiego. Europejski Inspektor Ochrony Danych uczestniczy w charakterze obserwatora. W posiedzeniach Rady ds. AI uczestniczy również Urząd ds. AI, który nie bierze udziału w głosowaniach. Do udziału w posiedzeniach Rada ds. AI może zapraszać w poszczególnych przypadkach inne krajowe i unijne władze, organy lub ekspertów, w przypadku, gdy omawiane kwestie są dla nich istotne. 3. Przedstawiciel jest wyznaczany przez swoje państwo członkowskie na okres trzech lat, z możliwością jednokrotnego przedłużenia. T Określenie kompetencji i uprawnień przedstawiciela (art. 65 ust. 4) oraz trybu wyboru przedstawiciela zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 4. Państwa członkowskie zapewniają, by ich przedstawiciele w Radzie ds. AI: a) mieli w swoim państwie członkowskim odpowiednie kompetencje i uprawnienia, aby aktywnie przyczyniać się do realizacji zadań Rady ds. AI, o których mowa w art. 66; b) zostali wyznaczeni jako pojedynczy punkt kontaktowy do kontaktów z Radą ds. AI lub - w stosownych przypadkach i przy uwzględnieniu potrzeb państw członkowskich - jako pojedynczy punkt kontaktowy dla zainteresowanych stron; c) mieli prawo uczestniczyć w zapewnianiu spójności i koordynacji między właściwymi organami krajowymi w swoich państwach członkowskich w odniesieniu do wdrażania niniejszego rozporządzenia, w tym - do celów wykonywania swoich zadań na forum Rady ds. AI - poprzez zbieranie odpowiednich danych i informacji. 5. Wyznaczeni przedstawiciele państw członkowskich przyjmują regulamin wewnętrzny Rady ds. AI większością dwóch trzecich głosów. W regulaminie wewnętrznym ustanawia się w szczególności procedury wyboru, czas trwania mandatu i specyfikację zadań przewodniczącego, szczegółowe zasady głosowania oraz organizację działalności Rady ds. AI i jej podgrup. 6. Rada ds. AI ustanawia dwie stałe podgrupy służące jako platforma współpracy i wymiany między organami nadzoru rynku oraz powiadamiające organy w kwestiach dotyczących odpowiednio nadzoru rynku i jednostek notyfikowanych. Stała podgrupa ds. nadzoru rynku powinna do celów niniejszego rozporządzenia pełnić rolę grupy ds. współpracy administracyjnej (ADCO) w rozumieniu art. 30 rozporządzenia (UE) 2019/1020. W stosownych przypadkach Rada ds. AI może utworzyć inne stałe lub tymczasowe podgrupy na potrzeby zbadania konkretnych kwestii. W stosownych przypadkach przedstawiciele forum doradczego, o którym mowa w art. 67, mogą być zapraszani do udziału w takich podgrupach lub na konkretne posiedzenia tych podgrup jako obserwatorzy. 7. Rada ds. AI jest zorganizowana i zarządzana w sposób gwarantujący obiektywizm i bezstronność podejmowanych przez nią działań. 8. Przewodniczącym Rady ds. AI jest jeden z przedstawicieli państw członkowskich. Urząd ds. AI pełni funkcję sekretariatu dla Rady ds. AI, zwołuje na wniosek przewodniczącego posiedzenia i przygotowuje porządek obrad zgodnie z zadaniami Rady ds. AI określonymi w niniejszym rozporządzeniu oraz z jej regulaminem wewnętrznym. Art. 66 Zadania Rady ds. AI Rada ds. AI doradza Komisji i państwom członkowskim oraz udziela im wsparcia w celu ułatwienia spójnego i skutecznego stosowania niniejszego rozporządzenia. W tym celu Rada ds. AI może w szczególności: N Przepis o charakterze ogólnym stosowany wprost a) przyczyniać się do koordynacji między właściwymi organami krajowymi odpowiedzialnymi za stosowanie niniejszego rozporządzenia oraz we współpracy i z zastrzeżeniem zgody zainteresowanych organów nadzoru rynku, wspierać wspólne działania organów nadzoru rynku, o których mowa w art. 74 ust. 11; b) gromadzić fachową wiedzę techniczną i regulacyjną oraz najlepsze praktyki w tym zakresie i udostępniać je państwom członkowskim; c) zapewniać doradztwo w zakresie wdrażania niniejszego rozporządzenia, w szczególności w odniesieniu do egzekwowania przepisów dotyczących modeli AI ogólnego przeznaczenia; d) przyczyniać się do harmonizacji praktyk administracyjnych w państwach członkowskich, w tym w odniesieniu do odstępstwa od procedur oceny zgodności, o którym mowa w art. 46, funkcjonowania piaskownic regulacyjnych w zakresie AI oraz testów w warunkach rzeczywistych, o których mowa w art. 57, 59 i 60; e) na wniosek Komisji lub z własnej inicjatywy wydawać zalecenia i opinie na piśmie na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia oraz z jego spójnym i skutecznym stosowaniem, w tym: (i) w zakresie opracowywania i stosowania kodeksów postępowania i kodeksów praktyk zgodnie z niniejszym rozporządzeniem, jak również wytycznych Komisji; nie wymaga wdrożenia (ii) dotyczące oceny i przeglądu niniejszego rozporządzenia zgodnie z art. 112, w tym w odniesieniu do zgłoszeń poważnych incydentów, o których mowa w art. 73, i funkcjonowania bazy danych UE, o której mowa w art. 71, przygotowania aktów delegowanych lub wykonawczych oraz w odniesieniu do ewentualnego dostosowania niniejszego rozporządzenia do unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I; (iii) w kwestii specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w rozdziale III sekcja 2; (iv) w kwestii stosowania norm zharmonizowanych lub wspólnych specyfikacji, o których mowa w art. 40 i 41; (v) na temat tendencji, takich jak europejska globalna konkurencyjność w dziedzinie AI, upowszechnianie AI w Unii oraz rozwój umiejętności cyfrowych; (vi) na temat tendencji w zakresie zmieniającej się typologii łańcuchów wartości AI, w szczególności w odniesieniu do wynikających z nich skutków w zakresie odpowiedzialności; (vii) w kwestii potencjalnej potrzeby zmiany załącznika III zgodnie z art. 7 oraz potencjalnej potrzeby ewentualnej zmiany artykułu 5 zgodnie z art. 112, z uwzględnieniem odpowiednich dostępnych dowodów i najnowszych osiągnięć technologicznych; f) wspierać Komisję w promowaniu kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia w odniesieniu do korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI; g) ułatwiać opracowywanie wspólnych kryteriów i wspólnego rozumienia przez podmioty gospodarcze i właściwe organy odpowiednich koncepcji przewidzianych w niniejszym rozporządzeniu, w tym poprzez udział w opracowywaniu poziomów odniesienia; h) współpracować, w stosownych przypadkach, z innymi instytucjami, organami i jednostkami organizacyjnymi Unii, jak również unijnymi grupami ekspertów i sieciami, w szczególności w dziedzinie bezpieczeństwa produktów, cyberbezpieczeństwa, konkurencyjności, usług cyfrowych i medialnych, usług finansowych, ochrony konsumentów, ochrony danych oraz ochrony praw podstawowych; i) przyczyniać się do skutecznej współpracy z właściwymi organami państw trzecich i z organizacjami międzynarodowymi; j) wspierać właściwe organy krajowe i Komisję w rozwijaniu organizacyjnej i technicznej wiedzy fachowej wymaganej do wdrożenia niniejszego rozporządzenia, w tym poprzez przyczynianie się do oceny potrzeb szkoleniowych personelu państw członkowskich uczestniczącego we wdrażaniu niniejszego rozporządzenia; k) wspierać Urząd ds. AI w udzielaniu wsparcia właściwym organom krajowym w ustanawianiu i rozwoju piaskownic regulacyjnych w zakresie AI oraz ułatwiać współpracę i wymianę informacji między piaskownicami regulacyjnymi w zakresie AI; l) wnosić wkład w opracowanie dokumentów zawierających wytyczne i udzielać stosownych porad w tym zakresie; m) doradzać Komisji w odniesieniu do międzynarodowych kwestii dotyczących AI; n) przedstawiać Komisji opinie na temat ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia; o) przyjmować od państw członkowskich opinie dotyczące ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia oraz opinie na temat krajowych doświadczeń i praktyk w zakresie monitorowania i zgodnego z prawem wdrażania systemów AI, w szczególności systemów integrujących modele AI ogólnego przeznaczenia. Art. 67 Forum doradcze 1. Ustanawia się forum doradcze, które ma za zadanie dostarczać fachowej wiedzy technicznej i doradzać Radzie ds. AI i Komisji oraz wnosić wkład w ich zadania wynikające z niniejszego rozporządzenia. 2. Skład forum doradczego stanowi wyważony dobór zainteresowanych stron, w tym przemysłu, przedsiębiorstw typu startup, MŚP, społeczeństwa obywatelskiego i środowisk akademickich. Skład forum doradczego jest zrównoważony pod względem interesów handlowych i niehandlowych, a w ramach N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia kategorii interesów handlowych - w odniesieniu do MŚP i innych przedsiębiorstw. 3. Komisja zgodnie z kryteriami określonymi w ust. 2 powołuje członków forum doradczego spośród zainteresowanych stron, którzy dysponują uznaną wiedzą fachową w dziedzinie AI. 4. Kadencja członków forum doradczego trwa dwa lata i może zostać przedłużona o maksymalnie cztery lata. 5. Stałymi członkami forum doradczego są: Agencja Praw Podstawowych, ENISA, Europejski Komitet Normalizacyjny (CEN), Europejski Komitet Normalizacyjny Elektrotechniki (CENELEC) oraz Europejski Instytut Norm Telekomunikacyjnych (ETSI). 6. Forum doradcze sporządza swój regulamin. Forum doradcze wybiera dwóch współprzewodniczących spośród swoich członków, zgodnie z kryteriami określonymi w ust. 2. Kadencja współprzewodniczących trwa dwa lata z możliwością jednokrotnego odnowienia. 7. Forum doradcze odbywa posiedzenia co najmniej dwa razy w roku. Forum doradcze może zapraszać na swoje posiedzenia ekspertów i inne zainteresowane strony. 8. Forum doradcze może na wniosek Rady ds. AI lub Komisji przygotowywać opinie, zalecenia i uwagi na piśmie. 9. W stosownych przypadkach forum doradcze może utworzyć stałe lub tymczasowe podgrupy do badania konkretnych kwestii związanych z celami niniejszego rozporządzenia. 10. Forum doradcze przygotowuje roczne sprawozdanie ze swoich działań. Sprawozdanie to jest podawane do wiadomości publicznej. Art. 68 Panel naukowy niezależnych ekspertów 1. Komisja w drodze aktu wykonawczego ustanawia przepisy dotyczące utworzenia panelu naukowego niezależnych ekspertów (zwanego dalej \"panelem naukowym\"), którego celem jest udzielanie wsparcia w egzekwowaniu działań na podstawie niniejszego rozporządzenia. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Panel naukowy składa się z ekspertów, którzy zostali wybrani przez Komisję na podstawie aktualnej wiedzy naukowej lub technicznej w dziedzinie AI niezbędnej do realizacji zadań określonych w ust. 3 i którzy są w stanie wykazać, że spełniają wszystkie następujące warunki: a) posiadanie szczególnej wiedzy fachowej i kompetencji oraz naukowej lub technicznej wiedzy fachowej w dziedzinie AI; b) niezależność od dostawców systemów AI lub modeli AI ogólnego przeznaczenia; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) zdolność do wykonywania zadań w sposób staranny, dokładny i obiektywny. Komisja w porozumieniu z Radą ds. AI określa liczbę ekspertów wchodzących w skład panelu w zależności od potrzeb i zapewnia sprawiedliwą reprezentację pod względem płci i zakresu geograficznego. 3. Panel naukowy doradza i wspiera Urząd ds. AI, w szczególności w odniesieniu do następujących zadań: a) wspieranie wdrażania i egzekwowania niniejszego rozporządzenia w odniesieniu do modeli i systemów AI ogólnego przeznaczenia, w szczególności poprzez: (i) ostrzeganie Urzędu ds. AI zgodnie z art. 90 o ewentualnym ryzyku systemowym na poziomie Unii związanym z modelami AI ogólnego przeznaczenia; (ii) przyczynianie się do opracowywania narzędzi i metodologii oceny zdolności modeli i systemów AI ogólnego przeznaczenia, w tym za pomocą poziomów odniesienia; (iii) świadczenie doradztwa w zakresie klasyfikacji modeli AI ogólnego przeznaczenia z ryzykiem systemowym; (iv) świadczenie doradztwa w zakresie klasyfikacji różnych modeli i systemów AI ogólnego przeznaczenia; (v) przyczynianie się do opracowywania narzędzi i wzorów; b) wspieranie organów nadzoru rynku - na ich wniosek; c) wspieranie transgranicznych działań w zakresie nadzoru rynku, o których mowa w art. 74 ust. 11, bez uszczerbku dla uprawnień organów nadzoru rynku; d) wspieranie Urzędu ds. AI w wykonywaniu jego obowiązków w kontekście unijnej procedury ochronnej zgodnie z art. 81. 4. Eksperci uczestniczący w panelu naukowym wykonują swoje zadania w sposób bezstronny i obiektywny oraz zapewniają poufność informacji i danych uzyskanych podczas wykonywania swoich zadań i działań. Przy wykonywaniu swoich zadań zgodnie z ust. 3 nie zwracają się do nikogo o instrukcje ani ich od nikogo nie przyjmują. Każdy ekspert sporządza deklarację interesów, którą podaje się do wiadomości publicznej. Urząd ds. AI ustanawia systemy i procedury mające na celu aktywne zarządzanie i zapobieganie potencjalnym konfliktom interesów. 5. Akt wykonawczy, o którym mowa w ust. 1, zawiera przepisy dotyczące warunków, procedur i szczegółowych zasad w zakresie wydawania ostrzeżeń przez panel naukowy i jego członków oraz zwracania się do Urzędu ds. AI o pomoc w realizacji zadań panelu naukowego. Art. 69 At T Uregulowanie kwestii dostępu do zespołu ekspertów zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 70 Wyznaczanie właściwych organów krajowych oraz pojedynczych punktów kontaktowych 1. Do celów niniejszego rozporządzenia każde państwo członkowskie ustanawia lub wyznacza co najmniej jeden organ notyfikujący i co najmniej jeden organ nadzoru rynku jako właściwe organy krajowe. Te właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Członkowie tych organów powstrzymują się od wszelkich czynności niezgodnych z charakterem ich obowiązków. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. 2. Państwa członkowskie przekazują Komisji dane organów notyfikujących i organów nadzoru rynku oraz informacje o zadaniach tych organów, jak również o wszelkich późniejszych zmianach w tym zakresie. Do dnia 2 sierpnia 2025 r. państwa członkowskie podają, do wiadomości publicznej, za pośrednictwem środków komunikacji elektronicznej, informacje o sposobach kontaktowania się z właściwymi organami i pojedynczymi punktami kontaktowymi. Państwa członkowskie wyznaczają organ nadzoru rynku do T Art. 5 Art. 6 pkt 1- 16 Art. 19 Art. 21-Art. 38 Art. 67 Art. 90 Art. 120 ust. 1 Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; Art. 6-8 zapewniają, że właściwy organ krajowy dysponuje procesami i transparentnie ustaloną strukturą. Art. 15 (por. art. 8 ust. 1 pkt 2 – kompetencje Przewodniczącego Komisji) realizuje wymóg corocznego obowiązku sprawozdawczego z działań organu. Art. 19-22 realizują nałożone przez rozporządzenie zasady wykonywania uprawnień organu działania w charakterze pojedynczego punktu kontaktowego do celów niniejszego rozporządzenia i przekazuje Komisji dane tego pojedynczego punktu kontaktowego. Komisja podaje do wiadomości publicznej wykaz pojedynczych punktów kontaktowych. 3. Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie. 4. Właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. 5. Wykonując swoje zadania, właściwe organy krajowe działają zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; (a więc i jego członków) w sposób niezależny, bezstronny i wolny od uprzedzeń, a jawność realizuje tę funkcję. Art. 69 opisuje m. in. działanie wraz z realizacją obowiązków dot. zachowania poufności. 6. Do dnia 2 sierpnia 2025 r., a następnie co dwa lata państwa członkowskie przekazują Komisji sprawozdania dotyczące stanu zasobów finansowych i ludzkich właściwych organów krajowych wraz z oceną ich odpowiedniości. Komisja przekazuje te informacje Radzie ds. AI w celu ich omówienia i ewentualnego wydania zaleceń. 7. Komisja ułatwia wymianę doświadczeń między właściwymi organami krajowymi. 8. Właściwe organy krajowe mogą udzielać wskazówek i porad w zakresie wdrażania niniejszego rozporządzenia, w szczególności MŚP, w tym przedsiębiorstwom typu startup, przy uwzględnieniu, w stosownych przypadkach, wskazówek i porad Rady ds. AI i Komisji. W każdym przypadku, gdy właściwe organy krajowe zamierzają udzielić wskazówek i porad dotyczących systemu AI w dziedzinach objętych innymi przepisami prawa Unii, są zobowiązane - w stosownych przypadkach -zasięgnąć opinii właściwych organów krajowych wyznaczonych na podstawie tych przepisów prawa Unii. 9. W przypadku, gdy instytucje, organy i jednostki organizacyjne Unii są objęte zakresem niniejszego rozporządzenia, Europejski Inspektor Ochrony Danych działa w charakterze właściwego organu odpowiedzialnego za sprawowanie nad nimi nadzoru. 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi” oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3 –, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775§ 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji.Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia; Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony, 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 71 Baza danych UE dla systemów AI wysokiego ryzyka wymienionych w załączniku III 1. Komisja - we współpracy z państwami członkowskimi - tworzy i prowadzi bazę danych UE zawierającą informacje, o których mowa w ust. 2 i 3 niniejszego artykułu, dotyczącą systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 2, które zostały zarejestrowane zgodnie z art. 49 i 60 oraz systemów AI, których nie uznaje się za systemy AI wysokiego ryzyka na podstawie art. 6 ust. 3 i które N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia zostały zarejestrowane zgodnie z art. 6 ust. 4 i art. 49. Przy ustalaniu specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z odpowiednimi ekspertami, a przy aktualizacji specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z Radą ds. AI. 2. Dane wymienione w załączniku VIII sekcje A i B są wprowadzane do bazy danych UE przez dostawcę lub - w stosownych przypadkach - przez upoważnionego przedstawiciela. 3. Dane wymienione w załączniku VIII sekcja C są wprowadzane do bazy danych UE przez podmiot stosujący będący organem publicznym, agencją lub jednostką organizacyjną zgodnie z art. 49 ust. 3 i 4, lub działający w imieniu takiego organu, agencji lub jednostki. 4. Z wyjątkiem sekcji, o której mowa w art. 49 ust. 4 i art. 60 ust. 4 lit. c), informacje zawarte w bazie danych UE zarejestrowane zgodnie z art. 49 są dostępne publicznie w sposób przyjazny dla użytkownika. Informacje powinny być łatwe w nawigacji i nadawać się do odczytu maszynowego. Informacje zarejestrowane zgodnie z art. 60 są dostępne wyłącznie dla organów nadzoru rynku i dla Komisji, chyba że potencjalny dostawca lub dostawca wyrazili zgodę na udostępnienie tych informacji również ogółowi społeczeństwa. 5. Baza danych UE zawiera dane osobowe wyłącznie w zakresie, w jakim jest to konieczne do celów związanych ze zbieraniem i przetwarzaniem informacji zgodnie z niniejszym rozporządzeniem. Informacje te obejmują imiona i nazwiska oraz dane kontaktowe osób fizycznych, które są odpowiedzialne za rejestrację systemu i są upoważnione do reprezentowania dostawcy lub w stosownych przypadkach, podmiotu stosującego. 6. Komisja pełni funkcję administratora bazy danych UE. Komisja zapewnia dostawcom, potencjalnym dostawcom oraz podmiotom stosującym odpowiednie wsparcie techniczne i administracyjne. Baza danych UE musi być zgodna z mającymi zastosowanie wymogami dostępności. Art. 72 Prowadzone przez dostawców monitorowanie po wprowadzeniu do obrotu i plan monitorowania systemów AI wysokiego ryzyka po ich wprowadzeniu do obrotu 1. Dostawcy ustanawiają i dokumentują - w sposób proporcjonalny do charakteru technologii AI i ryzyka związanego z wykorzystaniem danego systemu AI wysokiego ryzyka - system monitorowania po wprowadzeniu do obrotu. 2. W ramach systemu monitorowania po wprowadzeniu do obrotu w aktywny i systematyczny sposób zbiera się, dokumentuje i analizuje stosowne dane dotyczące skuteczności działania systemów AI wysokiego ryzyka w całym cyklu ich życia, które to dane mogą być przekazywane przez podmioty stosujące lub mogą być zbierane z innych źródeł; system ten pozwala dostawcy oceniać, czy zapewniona jest ciągła zgodność systemów AI z wymogami ustanowionymi w rozdziale III sekcja N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W stosownych przypadkach monitorowanie po wprowadzeniu do obrotu obejmuje analizę interakcji z innymi systemami AI. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących będących organami ścigania. 3. System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Do dnia 2 lutego 2026 r. Komisja przyjmuje akt wykonawczy zawierające szczegółowe przepisy określające wzór planu monitorowania po wprowadzeniu do obrotu oraz wykaz elementów, które należy zawrzeć w tym planie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 4. W odniesieniu do systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku gdy zgodnie z tym prawodawstwem ustanowiono już system i plan monitorowania po wprowadzeniu do obrotu, w celu zapewnienia spójności, unikania powielania prac i zminimalizowania dodatkowych obciążeń, dostawcy mogą się w stosownych przypadkach zdecydować na zintegrowanie - korzystając ze wzoru, o którym mowa w ust. 3 - niezbędnych elementów opisanych w ust. 1, 2 i 3 z systemami i planami istniejącymi już na podstawie tego prawodawstwa, pod warunkiem że zapewnia ono równoważny poziom ochrony. Akapit pierwszy niniejszego artykułu stosuje się również do systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 5, wprowadzonych do obrotu lub oddanych do użytku przez instytucje finansowe objęte na podstawie przepisów prawa Unii dotyczących usług finansowych wymogami dotyczącymi ich systemu zarządzania wewnętrznego, uzgodnień lub procedur. Art. 73 Zgłaszanie poważnych incydentów 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent. 2. Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Termin na dokonanie zgłoszenia, o którym mowa w akapicie pierwszym, uwzględnia dotkliwość danego poważnego incydentu. 3. Niezależnie od ust. 2 niniejszego artykułu w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. 4. Niezależnie od ust. 2 w przypadku, gdy nastąpi śmierć osoby, zgłoszenia dokonuje się natychmiast po stwierdzeniu przez dostawcę lub podmiot stosujący wystąpienia lub podejrzenia wystąpienia związku przyczynowego między systemem AI wysokiego ryzyka a poważnym incydentem, nie później jednak niż w terminie 10 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący AI dowiedzieli się o wystąpieniu danego poważnego incydentu. 5. W przypadku, gdy jest to konieczne do zapewnienia terminowego zgłoszenia, dostawca lub w stosownych przypadkach, podmiot stosujący mogą dokonać niepełnego zgłoszenia wstępnego, a następnie zgłoszenia kompletnego. 6. W następstwie zgłoszenia poważnego incydentu zgodnie z ust. 1 dostawca niezwłocznie przeprowadza niezbędne postępowanie wyjaśniające dotyczące poważnego incydentu oraz przedmiotowego systemu AI. Obejmuje ono ocenę ryzyka danego incydentu oraz działania naprawcze. Podczas postępowania wyjaśniającego, o którym mowa w akapicie pierwszym, dostawca współpracuje z właściwymi organami oraz - w stosownych przypadkach - z zainteresowaną jednostką notyfikowaną osobnego projektu legislacyjnego. i nie podejmuje żadnego działania, które obejmowałoby zmianę danego systemu AI w taki sposób, który mógłby wpłynąć na późniejszą ocenę przyczyn incydentu, dopóki nie poinformuje o takim działaniu właściwego organu. 7. Po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1. Komisja opracowuje specjalne wskazówki ułatwiające spełnienie obowiązków ustanowionych w ust. 1 niniejszego artykułu. Wskazówki wydaje się do dnia 2 sierpnia 2025 r. i podlegają one regularnej ocenie. 8. W terminie siedmiu dni od daty otrzymania powiadomienia, o którym mowa w ust. 1 niniejszego artykułu, organ nadzoru rynku podejmuje odpowiednie środki przewidziane w art. 19 rozporządzenia (UE) 2019/1020 i postępuje zgodnie z procedurami powiadamiania przewidzianymi w tym rozporządzeniu. 9. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki w zakresie zgłaszania równoważne obowiązkom określonym w niniejszym rozporządzeniu, zgłaszanie poważnych incydentów ogranicza się do tych z nich, o których mowa w art. 3 pkt 49 lit. c). 10. W przypadku systemów AI wysokiego ryzyka, które są związanymi z bezpieczeństwem elementami wyrobów podlegających przepisom rozporządzeń (UE) 2017/745 i (UE) 2017/746, lub które same są takimi wyrobami, zgłaszanie poważnych incydentów ogranicza się do incydentów, o których mowa w art. 3 pkt 49) lit. c) niniejszego rozporządzenia, i dokonuje się go do właściwego organu krajowego wybranego do tego celu przez państwo członkowskie, w którym wystąpił dany incydent. 11. Właściwe organy krajowe natychmiast powiadamiają Komisję o każdym poważnym incydencie zgodnie z art. 20 rozporządzenia (UE) 2019/1020, niezależnie od tego, czy podjęły w związku z nim jakiekolwiek działania. Art. 74 Nadzór rynku i kontrola systemów AI na rynku Unii 1. Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020. Do celów skutecznego egzekwowania przepisów niniejszego rozporządzenia: a) wszelkie odniesienia do podmiotu gospodarczego w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkich operatorów zidentyfikowanych w art. 2 ust. 1 niniejszego rozporządzenia; b) wszelkie odniesienia do produktu w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkie systemy AI wchodzące w zakres stosowania niniejszego rozporządzenia. T Art. 20 Art. 48 -Art. 56 Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w Art. 48-art. 56 opisują sposób realizowania podstawowych uprawnień nadzorczych nadanych przez rozporządzenie. Określają uprawnienia organu do pozyskiwania informacji od kontrolowanego. 2. W ramach swoich obowiązków w zakresie sprawozdawczości określonych w art. 34 ust. 4 rozporządzenia (UE) 2019/1020 organy nadzoru rynku co roku przekazują Komisji i odpowiednim krajowym organom ochrony konkurencji wszelkie informacje zebrane w wyniku działań w zakresie nadzoru rynku, które potencjalnie mogą być istotne z punktu widzenia stosowania reguł konkurencji przewidzianych w prawie Unii. Co roku składają one sprawozdania również Komisji dotyczące stwierdzonego w danym roku stosowania zakazanych praktyk oraz podjętych w tym względzie środków. 3. W przypadku systemów AI wysokiego ryzyka, które są powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, za organ nadzoru rynku do celów niniejszego rozporządzenia uznaje się odpowiedzialny za działania w zakresie nadzoru rynku organ wyznaczony na podstawie tych aktów prawnych. W drodze odstępstwa od akapitu pierwszego i w odpowiednich okolicznościach państwa członkowskie mogą wyznaczyć do działania w charakterze organu nadzoru rynku inny odpowiedni organ, pod warunkiem, że zapewnią koordynację między odpowiednimi sektorowymi organami nadzoru rynku odpowiedzialnymi za egzekwowanie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I. 4. Procedur, o których mowa w art. 79-83 niniejszego rozporządzenia, nie stosuje się do systemów AI, które są zakresie spraw, o których mowa w art. 74 ust. 1-5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej Dodatkowo przepisy zabezpieczają prawa podstawowe obywateli w toku kontroli (por. preambuła; sek. 7). I wskazują zasadę pisemności postępowania organu. powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku, gdy w tych aktach prawnych przewidziano już procedury zapewniające równoważny poziom ochrony i mające taki sam cel. W takich przypadkach stosuje się procedury sektorowe. 5. Bez uszczerbku dla uprawnień organów nadzoru rynku na podstawie art. 14 rozporządzenia (UE) 2019/1020 do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny. 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 Krajowe organy nadzoru rynku nadzorujące instytucje kredytowe uregulowane w dyrektywie 2013/36/UE, które uczestniczą w jednolitym mechanizmie nadzorczym ustanowionym rozporządzeniem (UE) nr 1024/2013, powinny niezwłocznie przekazywać Europejskiemu Bankowi Centralnemu wszelkie informacje zebrane w trakcie prowadzonych przez siebie działań w zakresie nadzoru rynku, które potencjalnie mogą mieć znaczenie z punktu widzenia określonych w tym rozporządzeniu zadań EBC dotyczących nadzoru ostrożnościowego. 8. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do niniejszego rozporządzenia, w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 niniejszego rozporządzenia, państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41-44 dyrektywy (UE) 2016/680. Działania w zakresie nadzoru rynku nie mogą w żaden sposób wpływać na niezależność organów wymiaru sprawiedliwości, ani w żaden inny sposób zakłócać ich czynności związanych ze sprawowaniem przez nie wymiaru sprawiedliwości. ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 9. W przypadku, gdy zakresem stosowania niniejszego rozporządzenia objęte są instytucje, organy i jednostki organizacyjne Unii, Europejski Inspektor Ochrony Danych działa w stosunku do nich w charakterze organu nadzoru rynku, z wyjątkiem Trybunał Sprawiedliwości Unii Europejskiej w przypadkach sprawowania przez niego sprawiedliwości. 10. Państwa członkowskie ułatwiają koordynację działań między organami nadzoru rynku wyznaczonymi na podstawie niniejszego rozporządzenia a innymi odpowiednimi organami lub podmiotami krajowymi sprawującymi nadzór nad stosowaniem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I lub w innych przepisach prawa Unii, które mogą być istotne w kontekście systemów AI wysokiego ryzyka, o których mowa w załączniku III. 11. Organy nadzoru rynku i Komisja mogą proponować wspólne działania, w tym wspólne postępowania, prowadzone przez organy nadzoru rynku albo przez organy nadzoru rynku wspólnie z Komisją, mające na celu promowanie zgodności, wykrywanie przypadków niezgodności, podnoszenie świadomości lub zapewnianie wskazówek dotyczących niniejszego rozporządzenia w odniesieniu do szczególnych kategorii systemów AI wysokiego ryzyka, w przypadku których zgodnie z art. 9 rozporządzenia (UE) 2019/1020 stwierdzono, że stwarzają poważne ryzyko w co najmniej dwóch państwach członkowskich. Urząd ds. AI zapewnia wsparcie w zakresie koordynacji wspólnych postępowań. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 12. Bez uszczerbku dla uprawnień przewidzianych w rozporządzeniu (UE) 2019/1020 oraz w stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania ich zadań, dostawcy udzielają organom nadzoru rynku pełnego dostępu do dokumentacji, a także do zbiorów danych treningowych, walidacyjnych i testowych wykorzystywanych do rozwoju systemów AI wysokiego ryzyka, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem interfejsów programowania aplikacji (API) lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 13. Organom nadzoru rynku udziela się na ich uzasadniony wniosek dostępu do kodu źródłowego systemu AI wysokiego ryzyka i wyłącznie wtedy, gdy spełnione są oba następujące warunki: a) dostęp do kodu źródłowego jest niezbędny do oceny zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w rozdziale III sekcja 2; oraz b) zostały wyczerpane lub okazały się niewystarczające procedury testowania lub audytu i weryfikacji w oparciu o dane i dokumentację dostarczone przez dostawcę. 14. Wszelkie informacje lub dokumenty uzyskane przez organy nadzoru rynku traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej ,,kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu - po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnić mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi , o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia . 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęciem kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli, imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z i opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń, do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 75 Wzajemna pomoc, nadzór rynku i kontrola systemów AI ogólnego przeznaczenia 1. W przypadku, gdy system AI jest oparty na modelu AI ogólnego przeznaczenia i ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI jest uprawniony do monitorowania i nadzorowania zgodności tego systemu AI z obowiązkami wynikającymi z niniejszego rozporządzenia. Do celów wykonywania zadań w zakresie monitorowania i nadzoru Urząd ds. AI ma uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. 2. W przypadku gdy odpowiednie organy nadzoru rynku mają wystarczające powody, by systemy AI ogólnego przeznaczenia, które mogą być wykorzystywane bezpośrednio przez podmioty stosujące do co najmniej jednego celu, który zgodnie z niniejszym rozporządzeniem został zaklasyfikowany jako wysokiego ryzyka, uznać za niezgodne z wymogami ustanowionymi w niniejszym rozporządzeniu, organy te współpracują z Urzędem ds. AI w zakresie przeprowadzenia ocen zgodności i informują o tym odpowiednio Radę ds. AI i pozostałe organy nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku nie jest w stanie zakończyć postępowania dotyczącego systemu AI wysokiego ryzyka z uwagi na niemożność dostępu do niektórych informacji związanych z danym modelem AI ogólnego przeznaczenia pomimo podjęcia wszystkich stosownych wysiłków w zakresie uzyskania tych N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. informacji, może zwrócić się z uzasadnionym wnioskiem do Urzędu ds. AI, który wyegzekwuje dostęp do takich informacji. W takim przypadku Urząd ds. AI udziela organowi wnioskującemu niezwłocznie, a w każdym razie w terminie 30 dni, wszelkich informacji, które Urząd ds. AI uznaje za istotne do celów ustalenia, czy dany system AI wysokiego ryzyka jest niezgodny z wymogami. Organy nadzoru rynku zapewniają poufność otrzymywanych informacji zgodnie z art. 78 niniejszego rozporządzenia. Odpowiednio stosuje się procedurę przewidzianą w rozdziale VI rozporządzenia (UE) 2019/1020. Art. 76 Nadzór organów nadzoru rynku nad testami w warunkach rzeczywistych 1. Organy nadzoru rynku mają kompetencje i uprawnienia w celu zapewnienia, by testy w warunkach rzeczywistych odbywały się zgodnie z niniejszym rozporządzeniem. 2. W przypadku testów w warunkach rzeczywistych prowadzonych na systemach AI nadzorowanych w ramach piaskownicy regulacyjnej w zakresie AI na podstawie art. 58 organy nadzoru rynku weryfikują zgodność z art. 60 w ramach swojej roli nadzorczej w odniesieniu do piaskownicy regulacyjnej w zakresie AI. Organy te mogą, w stosownych przypadkach, zezwolić na prowadzenie przez dostawcę lub potencjalnego dostawcę testów w warunkach rzeczywistych z zastosowaniem odstępstwa od warunków ustanowionych w art. 60 ust. 4 lit. f) i g). N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 3. W przypadku, gdy organ nadzoru rynku został przez potencjalnego dostawcę, dostawcę lub stronę trzecią poinformowany o poważnym incydencie lub ma podstawy sądzić, że nie są spełniane warunki ustanowione w art. 60 i 61, może na swoim terytorium podjąć w stosownych przypadkach którąkolwiek z następujących decyzji: a) zawiesić lub zakończyć testy w warunkach rzeczywistych; b) zobowiązać dostawcę lub potencjalnego dostawcę oraz podmiot stosujący i potencjalny podmiot stosujący do zmiany któregokolwiek aspektu testów w warunkach rzeczywistych. 4. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3 niniejszego artykułu, lub zgłosił sprzeciw w rozumieniu art. 60 ust. 4 lit. b), w decyzji lub sprzeciwie podaje się ich uzasadnienie oraz warunki, na jakich dostawca lub potencjalny dostawca mogą zaskarżyć tę decyzję lub sprzeciw. 5. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3, informuje w stosownych przypadkach o powodach takiej decyzji organy nadzoru rynku pozostałych państw członkowskich, w których dany system AI był testowany zgodnie z planem testów. Art. 77 Uprawnienia organów ochrony praw podstawowych 1. Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków T Art. 62 Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Odpowiedni organ lub podmiot publiczny informuje organ nadzoru rynku zainteresowanego państwa członkowskiego o każdym takim wniosku. 2. Do dnia 2 listopada 2024 r. każde państwo członkowskie wskazuje organy lub podmioty publiczne, o których mowa w ust. 1, i podaje ich wykaz do wiadomości publicznej. Państwa członkowskie przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. 3. W przypadku, gdy dokumentacja, o której mowa w ust. 1, jest niewystarczająca do stwierdzenia, czy nastąpiło naruszenie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, organ lub podmiot publiczny, o którym mowa w ust. 1, może wystąpić do organu nadzoru rynku z uzasadnionym wnioskiem o zorganizowanie testów systemu AI wysokiego ryzyka przy użyciu środków technicznych. Organ nadzoru rynku w rozsądnym terminie po otrzymaniu wniosku organizuje testy w ścisłej postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje oddziaływał, lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia, przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do współpracy z organem lub podmiotem publicznym, które wystąpiły z wnioskiem. 4. Wszelkie informacje lub dokumenty uzyskane zgodnie z niniejszym artykułem przez krajowe organy lub podmioty publiczne, o których mowa w ust. 1 niniejszego artykułu, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 78 Poufność 1. Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie niniejszego rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych T Art. 42 Art. 88 Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić: a) prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa osoby fizycznej lub prawnej, w tym kod źródłowy, z wyjątkiem przypadków, o których mowa w art. 5 dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/943; b) skuteczne wdrożenie niniejszego rozporządzenia, w szczególności na potrzeby kontroli, postępowań lub audytów; c) interesy bezpieczeństwa publicznego i narodowego; d) przebieg postępowań karnych i administracyjnych; e) informacje niejawne zgodnie z prawem Unii lub prawem krajowym. 2. Organy zaangażowane w stosowanie niniejszego rozporządzenia zgodnie z ust. 1 zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień zgodnie z niniejszym rozporządzeniem i z rozporządzeniem (UE) 2019/1020. Wprowadzają one odpowiednie i skuteczne środki w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych oraz usuwają zebrane dane, gdy tylko przestaną one być potrzebne do celu, w jakim je uzyskano, zgodnie z mającym zastosowanie prawem Unii lub prawem krajowym. organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2023 r. poz. 783 oraz z 2025 r. poz. 820 i 1729 oraz z 2026 r. poz. 230), w zakresie 3. Bez uszczerbku dla ust. 1 i 2, informacji wymienianych na zasadzie poufności między właściwymi organami krajowymi oraz między właściwymi organami krajowymi a Komisją nie można ujawniać bez uprzedniej konsultacji z właściwym organem krajowym, który je przekazał, oraz z podmiotem stosującym, w przypadku gdy systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, wykorzystują organy ścigania, organy kontroli granicznej, organy imigracyjne lub organy azylowe, jeżeli takie ujawnienie mogłoby zagrozić interesom bezpieczeństwa publicznego i narodowego. Ta wymiana informacji nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. Jeżeli dostawcami systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 lub 7, są organy ścigania, organy imigracyjne lub organy azylowe, dokumentację techniczną, o której mowa w załączniku IV, przechowuje się w siedzibie tych organów. Organy te zapewniają, aby organy nadzoru rynku, o których mowa odpowiednio w art. 74 ust. 8 i 9, mogły uzyskać na wniosek natychmiastowy dostęp do tej dokumentacji lub otrzymać jej kopię. Dostęp do tej dokumentacji lub jej kopii zastrzeżony jest wyłączenia dla pracowników organu nadzoru rynku posiadających poświadczenie bezpieczeństwa na odpowiednim poziomie. 4. Ust. 1, 2 i 3 nie mają wpływu na prawa i obowiązki Komisji, państw członkowskich i ich odpowiednich organów, a także jednostek notyfikowanych, w zakresie niezbędnym do realizacji ich ustawowych zadań.. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. wymiany informacji i rozpowszechnianie ostrzeżeń, w tym w kontekście współpracy transgranicznej; nie mają one również wpływu na obowiązki zainteresowanych stron w zakresie udzielania informacji zgodnie z prawem karnym państw członkowskich. 5. Komisja i państwa członkowskie mogą, w razie potrzeby i zgodnie z odpowiednimi postanowieniami umów międzynarodowych i handlowych, wymieniać informacje poufne z organami regulacyjnymi państw trzecich, z którymi zawarły dwustronne lub wielostronne porozumienia o poufności gwarantujące odpowiedni stopień poufności. Art. 79 Procedura postępowania na poziomie krajowym w przypadku systemów AI stwarzających ryzyko 1. Systemy AI stwarzające ryzyko uznaje się za \"produkt stwarzający ryzyko\" w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. 2. W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ T Art. 64 ust.1 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689 lub ust. 2. nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie. Odpowiedni operatorzy współpracują w razie potrzeby z organem nadzoru rynku i innymi krajowymi organami lub podmiotami publicznymi, o których mowa w art. 77 ust. 1. W przypadku gdy w trakcie tej oceny organ nadzoru rynku lub, w stosownych przypadkach, organ nadzoru rynku we współpracy z krajowym organem publicznym, o którym mowa w art. 77 ust. 1, ustalą, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku w terminie, który może zostać wyznaczony przez organ nadzoru rynku, a w każdym razie w terminie krótszym niż 15 dni roboczych lub przewidzianym w odpowiednim unijnym prawodawstwie harmonizacyjnym. Organ nadzoru rynku informuje o tym odpowiednią jednostkę notyfikowaną. Do środków, o których mowa w akapicie drugim niniejszego ustępu, stosuje się art. 18 rozporządzenia (UE) 2019/1020. 3. W przypadku, gdy organ nadzoru rynku uzna, że niezgodność nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o wynikach oceny i działaniach, do których podjęcia zobowiązał operatora. 4. Operator zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 5. W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie. 6. W powiadomieniu, o którym mowa w ust. 5, zawiera się wszelkie dostępne informacje szczegółowe, w szczególności takie jak informacje niezbędne do identyfikacji niezgodności systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter zarzucanej niezgodności i związanego z nią ryzyka, charakter i okres obowiązywania podjętych środków krajowych oraz argumenty przedstawione przez odpowiedniego operatora. W szczególności organy nadzoru rynku wskazują, czy niezgodność wynika z jednego z następujących czynników: a) nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5; b) niespełnienia przez system AI wysokiego ryzyka wymogów określonych w rozdziale III sekcja 2; c) braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41, stanowiących podstawę domniemania zgodności; d) niezgodności z art. 50. 7. Organy nadzoru rynku inne niż organ nadzoru rynku państwa członkowskiego, w którym wszczęto postępowanie, bez zbędnej zwłoki informują Komisję i pozostałe państwa członkowskie o wszelkich przyjętych środkach i o wszelkich posiadanych dodatkowych informacjach dotyczących niezgodności danego systemu AI, a w przypadku, gdy nie zgadzają się ze środkiem krajowym, o którym zostały powiadomione - o swoim sprzeciwie. 8. W przypadku, gdy w terminie trzech miesięcy od dnia powiadomienia, o którym mowa w ust. 5 niniejszego artykułu, organ nadzoru rynku jednego z państw członkowskich, ani Komisja nie zgłoszą sprzeciwu wobec środka tymczasowego przyjętego przez organ nadzoru rynku innego państwa członkowskiego, środek ten uznaje się za uzasadniony. Pozostaje to bez uszczerbku dla praw proceduralnych danego operatora określonych w art. 18 rozporządzenia (UE) 2019/1020. Termin trzech miesięcy, o którym mowa w niniejszym ustępie, skraca się do 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 niniejszego rozporządzenia. 9. Organy nadzoru rynku zapewniają, by bez zbędnej zwłoki zostały podjęte odpowiednie środki ograniczające w odniesieniu do danego produktu lub systemu AI, takie jak wycofanie produktu lub systemu AI z podległego im rynku. Art. 80 Procedura postępowania w przypadku systemów AI zaklasyfikowanych przez dostawcę jako niebędące systemami wysokiego ryzyka w zastosowaniu załącznika III 1. W przypadku, gdy organ nadzoru rynku ma wystarczające powody, by sądzić, że system AI zaklasyfikowany przez dostawcę zgodnie z art. 6 ust. 3 pkt I jako niebędący systemem wysokiego ryzyka jest w istocie systemem wysokiego ryzyka, organ ten przeprowadza ocenę danego systemu AI w zakresie jego klasyfikacji jako system AI wysokiego ryzyka na podstawie warunków ustanowionych w art. 6 ust. 3 i wytycznych Komisji. 2. W przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że dany system AI jest systemem wysokiego ryzyka, bez zbędnej zwłoki zobowiązuje danego dostawcę do podjęcia wszystkich działań niezbędnych do osiągnięcia zgodności systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, jak również podjęcia odpowiednich działań naprawczych w terminie, który może zostać wyznaczony przez organ nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku uzna, że wykorzystywanie danego systemu AI nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wynikach oceny i działaniach, do których podjęcia zobowiązał dostawcę. 4. Dostawca zapewnia podjęcie wszystkich działań niezbędnych do zapewnienia zgodności danego systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. W przypadku gdy dostawca danego systemu AI nie zapewni zgodności tego systemu z tymi wymogami i obowiązkami w terminie, o którym mowa w ust. 2 niniejszego artykułu, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 5. Dostawca zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 6. W przypadku, gdy dostawca danego systemu AI nie podejmie odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2 niniejszego artykułu, stosuje się art. 79 ust. 5-9. 7. W przypadku, gdy w trakcie oceny zgodnie z ust. 1 niniejszego artykułu organ nadzoru rynku ustali, że dany system AI został przez dostawcę błędnie zaklasyfikowany jako system niebędący systemem wysokiego ryzyka w celu obejścia stosowania wymogów ustanowionych w rozdziale III sekcja 2, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 8. Wykonując swoje uprawnienia w zakresie monitorowania stosowania niniejszego artykułu oraz zgodnie z art. 11 rozporządzenia (UE) 2019/1020 organy nadzoru rynku mogą przeprowadzać odpowiednie kontrole, uwzględniając w szczególności informacje przechowywane w bazie danych UE, o której mowa w art. 71 niniejszego rozporządzenia. Art. 81 Unijna procedura ochronna 1. W przypadku gdy w terminie trzech miesięcy od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, lub w terminie 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5, organ nadzoru rynku jednego z państw członkowskich zgłosi sprzeciw wobec środka podjętego przez inny organ nadzoru rynku lub w przypadku gdy Komisja uzna taki środek za sprzeczny z prawem Unii, Komisja bez zbędnej zwłoki przystępuje do konsultacji z organem nadzoru rynku danego państwa członkowskiego i operatorem lub operatorami i dokonuje oceny takiego środka krajowego. Na podstawie wyników tej oceny Komisja w terminie sześciu miesięcy lub 60 dni - w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 - licząc od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, rozstrzyga, czy środek krajowy jest uzasadniony i powiadamia o swojej decyzji organ nadzoru rynku zainteresowanego państwa członkowskiego. Komisja powiadamia również wszystkie pozostałe krajowe organy nadzoru rynku o swojej decyzji. 2. W przypadku, gdy Komisja uzna, że środek podjęty przez dane państwo członkowskie jest uzasadniony, wszystkie państwa członkowskie zapewniają podjęcie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia bez zbędnej zwłoki odpowiednich środków ograniczających w odniesieniu do danego systemu AI, takich jak zobowiązujące do wycofania tego systemu AI z ich rynku, oraz informują o tym Komisję. W przypadku gdy Komisja uzna środek krajowy za nieuzasadniony, zainteresowane państwo członkowskie cofa dany środek oraz informuje odpowiednio Komisję. 3. W przypadku uznania krajowego środka za uzasadniony i stwierdzenia, że niezgodność systemu AI wynika z braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41 niniejszego rozporządzenia, Komisja stosuje procedurę przewidzianą w art. 11 rozporządzenia (UE) nr 1025/2012. Art. 82 Zgodne systemy AI stwarzające ryzyko 1. W przypadku gdy po przeprowadzeniu oceny zgodnie z art. 79, po konsultacji z odpowiednim krajowym organem publicznym, o którym mowa w art. 77 ust. 1, organ nadzoru rynku państwa członkowskiego ustali, że chociaż system AI wysokiego ryzyka jest zgodny z niniejszym rozporządzeniem, stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego, organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz terminie, który może zostać wyznaczony przez ten organ. 2. Dostawca lub inny właściwy operator zapewniają podjęcie działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnili na rynku Unii, w terminie wyznaczonym przez organ nadzoru rynku państwa członkowskiego, o którym mowa w ust. 1. 3. Państwa członkowskie natychmiast powiadamiają Komisję i pozostałe państwa członkowskie o swoim ustaleniu zgodnie z ust. 1. W powiadomieniu tym zawiera się wszelkie dostępne szczegółowe informacje, w szczególności dane niezbędne do identyfikacji danego systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter przedmiotowego ryzyka oraz charakter i okres obowiązywania podjętych środków krajowych. 4. Komisja bez zbędnej zwłoki przystępuje do konsultacji z zainteresowanymi państwami członkowskim i właściwymi operatorami i ocenia podjęte środki krajowe. Na podstawie wyników tej oceny Komisja podejmuje decyzję czy środek krajowy jest uzasadniony i w razie potrzeby proponuje inne odpowiednie środki. 5. Komisja natychmiast przekazuje swoją decyzję do zainteresowanych państw członkowskich i operatorów. Komisja powiadamia również pozostałe państwa członkowskie. Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 83 Niezgodność formalna 1. Organ nadzoru rynku państwa członkowskiego zobowiązuje właściwego dostawcę do usunięcia niezgodności w terminie, który może zostać wyznaczony przez ten organ, w przypadku, gdy ustali, że: a) oznakowanie CE zostało umieszczone z naruszeniem art. 48; b) oznakowanie CE nie zostało umieszczone; c) deklaracja zgodności UE, o której mowa w art. 47, nie została sporządzona; d) deklaracja zgodności UE, o której mowa w art. 47, została sporządzona nieprawidłowo; e) rejestracja w bazie danych, o której mowa w art. 71, UE nie została dokonana; f) upoważniony przedstawiciel nie został, w stosownych przypadkach, ustanowiony; g) brakuje dokumentacji technicznej. 2. W przypadku, gdy niezgodność, o której mowa w ust. 1, utrzymuje się, krajowy organ nadzoru rynku zainteresowanego państwa członkowskiego podejmuje wszelkie odpowiednie i proporcjonalne środki w celu ograniczenia lub zakazania udostępniania na rynku takiego systemu AI wysokiego ryzyka lub zapewnienia, aby system ten niezwłocznie wycofano z użytku lub z rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 84 Unijne struktury wsparcia testowania AI 1. Komisja wyznacza co najmniej jedną unijną strukturę wsparcia testowania AI do wykonywania w obszarze AI zadań wymienionych w art. 21 ust. 6 rozporządzenia (UE) 2019/1020. 2. Bez uszczerbku dla zadań, o których mowa w ust. 1, unijne struktury wsparcia testowania AI zapewniają również niezależne doradztwo techniczne lub naukowe na wniosek Rady ds. AI, Komisji lub organów nadzoru rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 85 Prawo do wniesienia skargi do organu nadzoru rynku Bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej każda osoba fizyczna lub prawna mająca podstawy, by uznać, że zostały naruszone przepisy niniejszego rozporządzenia, może wnieść skargę do odpowiedniego organu nadzoru rynku. Zgodnie z rozporządzeniem (UE) 2019/1020 takie skargi bierze się pod uwagę do celów prowadzenia działań w zakresie nadzoru rynku i rozpatruje się je zgodnie ze specjalnymi procedurami ustanowionymi w związku z tym przez organy nadzoru rynku. T Art. 60 Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga, zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym, informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 86 Prawo do uzyskania wyjaśnienia na temat procedury podejmowania decyzji w indywidualnej sprawie 1. Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. 2. Ust. 1 nie stosuje się do wykorzystywania systemów AI, w odniesieniu do których z prawa Unii lub zgodnego z prawem Unii prawa krajowego wynikają wyjątki lub ograniczenia dotyczące stosowania obowiązku ustanowionego w tym ustępie. 3. Niniejszy artykuł stosuje się jedynie w zakresie, w jakim prawo, o którym mowa w ust. 1, nie zostało inaczej ustanowione w prawie Unii. Art. 87 Zgłaszanie naruszeń i ochrona osób dokonujących zgłoszeń Do zgłaszania naruszeń niniejszego rozporządzenia oraz w kwestiach ochrony osób zgłaszających takie naruszenia stosuje się przepisy dyrektywy (UE) 2019/1937. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 88 Egzekwowanie obowiązków dostawców modeli AI ogólnego przeznaczenia 1. Komisja ma wyłączne uprawnienia do nadzorowania i egzekwowania przestrzegania przepisów rozdziału V, przy uwzględnieniu gwarancji proceduralnych na podstawie art. 94. Komisja powierza realizację tych zadań Urzędowi ds. AI, bez uszczerbku dla uprawnień organizacyjnych Komisji i podziału kompetencji między państwami członkowskimi a Unią na podstawie Traktatów. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Bez uszczerbku dla art. 75 ust. 3 organy nadzoru rynku mogą zwrócić się do Komisji o wykonanie uprawnień ustanowionych w niniejszej sekcji, w przypadku, gdy jest to konieczne i proporcjonalne w kontekście realizacji ich zadań na podstawie niniejszego rozporządzenia. Art. 89 Działania monitorujące 1. Do celów wykonywania zadań powierzonych w niniejszej sekcji Urząd ds. AI może podejmować działania niezbędne do monitorowania skutecznego wdrożenia i zapewnienia zgodności z niniejszym rozporządzeniem przez dostawców modeli AI ogólnego przeznaczenia, w tym przestrzegania przez nich zatwierdzonych kodeksów praktyk. 2. Dostawcy niższego szczebla mają prawo wniesienia skargi dotyczącej naruszenia niniejszego rozporządzenia. Skarga musi być należycie uzasadniona i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia; b) opis istotnych faktów, stosowne przepisy niniejszego rozporządzenia oraz powody, dla których dostawca niższego szczebla uważa, że dostawca systemu AI ogólnego przeznaczenia naruszył niniejsze rozporządzenie; c) wszelkie inne informacje uznane za istotne przez dostawcę niższego szczebla, który wysłał zgłoszenie, w N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 90 Ostrzeżenia o ryzyku systemowym wydawane przez panel naukowy 1. Panel naukowy może wydawać ostrzeżenia kwalifikowane skierowane do Urzędu ds. AI, w przypadku, gdy ma powody podejrzewać, że: a) model AI ogólnego przeznaczenia stwarza konkretne możliwe do zidentyfikowania ryzyko na poziomie Unii; lub b) model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51. 2. Po otrzymaniu takiego ostrzeżenia kwalifikowanego Komisja, za pośrednictwem Urzędu ds. AI i po poinformowaniu Rady ds. AI, może wykonać uprawnienia ustanowione w niniejszej sekcji do celów oceny danej sprawy. Urząd ds. AI informuje Radę ds. AI o wszelkich środkach zgodnie z art. 91-94. 3. Ostrzeżenie kwalifikowane musi być należycie uzasadnione i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia z ryzykiem systemowym; b) opis stosownych faktów i uzasadnienie wydania ostrzeżenia przez panel naukowy; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) wszelkie inne informacje, które panel naukowy uważa za istotne, w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 91 Uprawnienie do zwracania się z wnioskiem o przedstawienie dokumentacji i informacji 1. Komisja może zwrócić się do dostawcy danego modelu AI ogólnego przeznaczenia z wnioskiem o przedstawienie dokumentacji sporządzonej przez niego zgodnie art. 53 i 55 lub wszelkich dodatkowych informacji niezbędnych do celów oceny zgodności dostawcy z niniejszym rozporządzeniem. 2. Przed wysłaniem wniosku o przedstawienie informacji Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Na należycie uzasadniony wniosek panelu naukowego Komisja może skierować do dostawcy modelu AI ogólnego przeznaczenia wniosek o przedstawienie informacji, w przypadku, gdy dostęp do informacji jest niezbędny i proporcjonalny do realizacji zadań panelu naukowego na podstawie art. 68 ust. 2. 4. We wniosku o przekazanie informacji wskazuje się podstawę prawną i cel wniosku, podaje, jakie informacje stanowią przedmiot wniosku oraz określa się termin na przekazanie tych informacji, a także wskazuje przewidziane w art. 101 kary pieniężne za dostarczenie informacji nieprawidłowych, niekompletnych lub wprowadzających w błąd. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 5. Dostawca danego modelu AI ogólnego przeznaczenia lub jego przedstawiciel dostarczają informacje stanowiące przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie ma osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego dostarczają w imieniu dostawcy danego modelu AI ogólnego przeznaczenia informacje stanowiące przedmiot wniosku. Prawnicy należycie upoważnieni do działania mogą dostarczać informacje w imieniu swoich klientów. Klienci ponoszą jednak pełną odpowiedzialność, jeśli dostarczone informacje są nieprawidłowe, niekompletne lub wprowadzające w błąd. Art. 92 Uprawnienia do przeprowadzania ocen 1. Urząd ds. AI po konsultacji z Radą ds. AI może przeprowadzać oceny danego modelu AI ogólnego przeznaczenia: a) do celów oceny spełniania przez danego dostawcę obowiązków na podstawie niniejszego rozporządzenia, w przypadku, gdy informacje zgromadzone zgodnie z art. 91 są niewystarczające; lub b) do celów badania na poziomie Unii ryzyka systemowego modeli AI ogólnego przeznaczenia z ryzykiem systemowym, w szczególności w następstwie ostrzeżenia kwalifikowanego panelu naukowego zgodnie z art. 90 ust. 1 lit. a). 2. Komisja może podjąć decyzję o powołaniu niezależnych ekspertów do przeprowadzania ocen w jej N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia imieniu, w tym z panelu naukowego ustanowionego zgodnie z art. 68. Niezależni eksperci powołani do tego zadania muszą spełniać kryteria określone w art. 68 ust. 2. 3. Do celów ust. 1 Komisja może zwrócić się z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych, w tym do kodu źródłowego. 4. We wniosku o udzielenie dostępu wskazuje się podstawę prawną, cel i uzasadnienie wniosku oraz określa się termin na udzielenie tego dostępu, a także wskazuje przewidziane w art. 101 kary pieniężne za nieudzielenie dostępu. 5. Dostawcy modeli AI ogólnego przeznaczenia oraz ich przedstawiciele dostarczają informacji stanowiących przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie posiada osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego udzielają w imieniu danego dostawcy modelu AI ogólnego przeznaczenia dostępu stanowiącego przedmiot wniosku. 6. Komisja przyjmuje akty wykonawcze określające szczegółowe zasady i warunki przeprowadzania ocen, w tym szczegółowe zasady dotyczące udziału niezależnych ekspertów, oraz procedurę ich wyboru. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Przed wystąpieniem z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą danego modelu AI ogólnego przeznaczenia, aby zgromadzić więcej informacji na temat wewnętrznych testów modelu, wewnętrznych zabezpieczeń w celu zapobieżenia ryzyku systemowemu oraz innych wewnętrznych procedur i środków, jakie dostawca podjął w celu ograniczenia takiego ryzyka. Art. 93 Uprawnienia do żądania podjęcia środków 1. W miarę konieczności i w stosownych przypadkach Komisja może zwrócić się do dostawców z żądaniem dotyczącym: a) podjęcia odpowiednich środków w celu spełnienia obowiązków określonych w art. 53 i 54; b) wdrożenia środków zaradczych, w przypadku, gdy z oceny przeprowadzonej zgodnie z art. 92 wynika poważna i uzasadniona obawa wystąpienia ryzyka systemowego na poziomie Unii; c) ograniczenia udostępniania modelu na rynku, wycofania modelu z rynku lub z użytku. 2. Przed wystąpieniem z żądaniem podjęcia środka Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Jeśli w trakcie zorganizowanego dialogu, o którym mowa w ust. 2, dostawca modelu AI ogólnego przeznaczenia z ryzykiem systemowym zobowiąże się do wdrożenia środków zaradczych w celu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przeciwdziałania ryzyku systemowemu na poziomie Unii, Komisja może w drodze decyzji uczynić te zobowiązania wiążącymi i oświadczyć, że nie ma podstaw do dalszych działań. Art. 94 Prawa proceduralne podmiotów gospodarczych będących dostawcami modeli AI ogólnego przeznaczenia Art. 18. rozporządzenia (UE) 2019/1020 stosuje się odpowiednio do dostawców modeli AI ogólnego przeznaczenia, bez uszczerbku dla bardziej szczególnych praw proceduralnych przewidzianych w niniejszym rozporządzeniu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 95 Kodeksy postępowania do celów dobrowolnego stosowania szczególnych wymogów 1. Urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. 2. Urząd ds. AI i państwa członkowskie ułatwiają opracowywanie kodeksów postępowania dotyczących dobrowolnego stosowania, również przez podmioty stosujące, szczególnych wymogów w odniesieniu do T Art. 98 Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. wszystkich systemów AI, na podstawie jasnych celów i kluczowych wskaźników skuteczności działania służących do pomiaru stopnia realizacji tych celów, w tym między innymi następujących elementów: a) mające zastosowanie elementy przewidziane w unijnych wytycznych etycznych dotyczących godnej zaufania AI; b) ocena i minimalizacja oddziaływania systemów AI na zrównoważenie środowiskowe, w tym w odniesieniu do energooszczędnego programowania i technik wydajnego projektowania, trenowania i wykorzystywania AI; c) promowanie kompetencji w zakresie AI, w szczególności w odniesieniu do osób mających związek z rozwojem, działaniem i wykorzystywaniem AI; d) sprzyjanie inkluzywności i różnorodności przy projektowaniu systemów AI, w tym poprzez tworzenie inkluzywnych i różnorodnych zespołów programistycznych oraz promowanie udziału zainteresowanych stron w tym procesie; e) ocena i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z punktu widzenia dostępności dla osób z niepełnosprawnościami, jak również na równość płci. 3. Kodeksy postępowania mogą być opracowywane przez poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, w tym przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Kodeksy postępowania mogą obejmować jeden lub większą liczbę systemów AI, przy uwzględnieniu podobieństw w przeznaczeniu danych systemów. 4. W ramach zachęcania do opracowywania kodeksów postępowania i ułatwiania ich opracowywania Urząd ds. AI i państwa członkowskie uwzględniają szczególne interesy i potrzeby MŚP, w tym przedsiębiorstw typu startup. Art. 96 Wytyczne Komisji w sprawie wdrożenia niniejszego rozporządzenia 1. Komisja opracowuje wytyczne dotyczące praktycznego wdrażania niniejszego rozporządzenia, a w szczególności: a) stosowania wymogów i obowiązków, o których mowa w art. 8-15 i art. 25; b) zakazanych praktyk, o których mowa w art. 5; c) praktycznego wdrażania przepisów dotyczących istotnych zmian; d) praktycznego wdrażania obowiązków w zakresie przejrzystości ustanowionych w art. 50; e) podawania szczegółowych informacji na temat powiązań między niniejszym rozporządzeniem a unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, jak również z innym N Przepis stosowany wprost nie wymaga wdrożenia odpowiednim prawem Unii, w tym w odniesieniu do spójności jego egzekwowania; f) stosowania definicji systemu AI określonej w art. 3 pkt 1. Przy wydawaniu takich wytycznych Komisja zwraca szczególną uwagę na potrzeby MŚP, w tym przedsiębiorstw typu startup, lokalnych organów publicznych i sektorów, na które niniejsze rozporządzenie może mieć największy wpływ. Wytyczne, o których mowa w akapicie pierwszym niniejszego ustępu, uwzględniają powszechnie uznany stan wiedzy technicznej w zakresie AI, jak również odpowiednie normy zharmonizowane i wspólne specyfikacje, o których mowa w art. 40 i 41, lub te normy zharmonizowane lub specyfikacje techniczne, które zostały określone zgodnie z unijnym prawodawstwem harmonizacyjnym. 2. Na wniosek państw członkowskich lub Urzędu ds. AI lub z własnej inicjatywy Komisja aktualizuje przyjęte wcześniej wytyczne, jeżeli zostanie to uznane za konieczne. Art. 97 Wykonywanie przekazanych uprawnień 1. Powierzenie Komisji uprawnień do przyjmowania aktów delegowanych podlega warunkom określonym w niniejszym artykule. 2. Uprawnienia do przyjmowania aktów delegowanych, o których mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, N Przepis stosowany wprost nie wymaga wdrożenia art. 52 ust. 4 i art. 53 ust. 5 i 6 powierza się Komisji na okres pięciu lat od dnia 1 sierpnia 2024 r. Komisja sporządza sprawozdanie dotyczące przekazania uprawnień nie później niż dziewięć miesięcy przed końcem okresu pięciu lat. Przekazanie uprawnień zostaje automatycznie przedłużone na takie same okresy, chyba że Parlament Europejski lub Rada sprzeciwią się takiemu przedłużeniu nie później niż trzy miesiące przed końcem każdego okresu. 3. Przekazanie uprawnień, o którym mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 i art. 53 ust. 5 i 6, może zostać w dowolnym momencie odwołane przez Parlament Europejski lub przez Radę. Decyzja o odwołaniu kończy przekazanie określonych w niej uprawnień. Decyzja o odwołaniu staje się skuteczna następnego dnia po jej opublikowaniu w Dzienniku Urzędowym Unii Europejskiej lub w późniejszym terminie określonym w tej decyzji. Nie wpływa ona na ważność jakichkolwiek już obowiązujących aktów delegowanych. 4. Przed przyjęciem aktu delegowanego Komisja konsultuje się z ekspertami wyznaczonymi przez każde państwo członkowskie zgodnie z zasadami określonymi w Porozumieniu międzyinstytucjonalnym z dnia 13 kwietnia 2016 r. w sprawie lepszego stanowienia prawa. 5. Niezwłocznie po przyjęciu aktu delegowanego Komisja przekazuje go równocześnie Parlamentowi Europejskiemu i Radzie. 6. Akt delegowany przyjęty na podstawie art. 6 ust. 6 lub 7, art. 7 ust. 1 lub 3, art. 11 ust. 3, art. 43 ust. 5 lub 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 lub art. 53 ust. 5 lub 6 wchodzi w życie tylko wówczas, gdy ani Parlament Europejski, ani Rada nie wyraziły sprzeciwu w terminie trzech miesięcy od przekazania tego aktu Parlamentowi Europejskiemu i Radzie lub gdy, przed upływem tego terminu, zarówno Parlament Europejski, jak i Rada poinformowały Komisję, że nie wniosą sprzeciwu. Termin ten przedłuża się o trzy miesiące z inicjatywy Parlamentu Europejskiego lub Rady. Art. 98 Procedura komitetowa 1. Komisję wspomaga komitet. Komitet ten jest komitetem w rozumieniu rozporządzenia (UE) nr 182/2011. 2. W przypadku odesłania do niniejszego ustępu stosuje się art. 5 rozporządzenia (UE) nr 182/2011. N Przepis stosowany wprost nie wymaga wdrożenia Art. 99 Kary 1. Zgodnie z zasadami i warunkami ustanowionymi w niniejszym rozporządzeniu państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, mających zastosowanie w przypadku naruszeń przepisów niniejszego rozporządzenia przez operatorów i podejmują wszelkie niezbędne środki w celu zapewnienia ich właściwego i skutecznego wykonywania, z uwzględnieniem wytycznych wydanych przez Komisję zgodnie z art. 96. T Art. 100 Art. 101 Art. 103 Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia Regulacja zakłada uwzględnienie indywidualnej sytuacji podmiotu na podstawie dostarczonych przez niego dokumentów. Przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. Uwzględniają one interesy MŚP, w tym przedsiębiorstw typu startup oraz ich sytuację ekonomiczną. 2. Państwa członkowskie niezwłocznie, nie później jednak niż do dnia rozpoczęcia stosowania, powiadamiają Komisję o przepisach dotyczących kar i innych środków egzekwowania prawa, o których mowa w ust. 1, jak również o ich wszelkich późniejszych zmianach. 3. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 4. Nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa: a) obowiązki dostawców zgodnie z art. 16; b) obowiązki upoważnionych przedstawicieli zgodnie z art. 22; przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania c) obowiązki importerów zgodnie z art. 23; d) obowiązki dystrybutorów zgodnie z art. 24; e) obowiązki podmiotów stosujących zgodnie z art. 26; f) wymogi i obowiązki jednostek notyfikowanych zgodnie z art. 31, art. 33 ust. 1, 3 i 4 lub art. 34; g) obowiązki dostawców i podmiotów stosujących w zakresie przejrzystości zgodnie z art. 50. 5. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 6. W przypadku MŚP, w tym przedsiębiorstw typu startup, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa. 7. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości w każdej indywidualnej sprawie, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się w stosownych przypadkach uwagę na: dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji, przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) to, czy inne organy nadzoru rynku nałożyły już na tego samego operatora administracyjne kary pieniężne za to samo naruszenie; c) to, czy inne organy nałożyły już administracyjne kary pieniężne na tego samego operatora za naruszenia innych przepisów prawa Unii lub prawa krajowego, w przypadku, gdy takie naruszenia wynikają z tego samego działania lub zaniechania stanowiącego odpowiednie naruszenie niniejszego rozporządzenia; d) wielkość operatora dopuszczającego się naruszenia, jego roczny obrót i udział w rynku; e) wszelkie inne obciążające lub łagodzące czynniki mające zastosowanie do okoliczności sprawy, takie jak powiązane bezpośrednio lub pośrednio z danym naruszeniem osiągnięte korzyści finansowe lub uniknięte straty; f) stopień współpracy z właściwymi organami krajowymi w celu usunięcia naruszenia oraz złagodzenia jego ewentualnych niepożądanych skutków; g) stopień odpowiedzialności operatora, z uwzględnieniem wdrożonych przez niego środków technicznych i organizacyjnych; pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. )), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub h) sposób, w jaki właściwe organy krajowe dowiedziały się o naruszeniu, w szczególności, czy i w jakim zakresie operator zgłosił naruszenie; i) umyślny lub wynikający z zaniedbania charakter naruszenia; j) wszelkie działania podjęte przez operatora w celu złagodzenia szkody poniesionej przez poszkodowane osoby. 8. Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. 9. W zależności od systemu prawnego państw członkowskich przepisy dotyczące administracyjnych kar pieniężnych można stosować w taki sposób, że kary w tych państwach członkowskich są nakładane, stosownie do przypadku, przez właściwe sądy krajowe lub inne odpowiednie organy. Stosowanie takich przepisów w tych państwach członkowskich ma skutek równoważny. 10. Wykonywanie uprawnień na podstawie niniejszego artykułu podlega odpowiednim zabezpieczeniom proceduralnym zgodnie z prawem Unii i prawem krajowym, obejmującym prawo do skutecznych środka zaskarżenia i rzetelnego postępowania sądowego. 11. Państwa członkowskie co roku składają Komisji sprawozdanie dotyczące administracyjnych kar pieniężnych, które nałożyły w danym roku zgodnie z uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. niniejszym artykułem, oraz dotyczące wszelkich powiązanych sporów lub postępowań sądowych. Art. 100 Administracyjne kary pieniężne nakładane na instytucje, organy i jednostki organizacyjne Unii 1. Europejski Inspektor Ochrony Danych może nakładać administracyjne kary pieniężne na instytucje, organy i jednostki organizacyjne Unii objęte zakresem stosowania niniejszego rozporządzenia. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się należytą uwagę na: a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji; przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) stopień odpowiedzialności instytucji, organu lub jednostki organizacyjnej Unii, z uwzględnieniem wdrożonych przez nie środków technicznych i organizacyjnych; c) wszelkie działania podjęte przez instytucję, organ lub jednostkę organizacyjną Unii w celu złagodzenia szkody poniesionej przez osoby poszkodowane; d) stopień współpracy z Europejskim Inspektorem Ochrony Danych w celu usunięcia naruszenia i złagodzenia jego ewentualnych niepożądanych skutków, N Przepis stosowany wprost nie wymaga wdrożenia w tym zastosowanie się do wszelkich środków zarządzonych wcześniej przez Europejskiego Inspektora Ochrony Danych wobec danej instytucji, organu lub jednostki organizacyjnej Unii w odniesieniu do tej samej kwestii; e) wszelkie podobne wcześniejsze naruszenia dokonane przez instytucję, organ lub jednostkę organizacyjną Unii; f) sposób, w jaki Europejski Inspektor Ochrony Danych dowiedział się o naruszeniu, w szczególności, czy i w jakim zakresie instytucja, organ lub jednostka organizacyjna Unii zgłosili naruszenie; g) roczny budżet instytucji, organu lub jednostki organizacyjnej Unii. 2. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnym karom pieniężnym w wysokości do 1 500 000 EUR. 3. Niezgodność systemu AI z jakimikolwiek wymogami lub obowiązkami wynikającymi z niniejszego rozporządzenia, innymi niż te ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 750 000 EUR. 4. Przed podjęciem decyzji na podstawie niniejszego artykułu Europejski Inspektor Ochrony Danych zapewnia instytucji, organowi lub jednostce organizacyjnej Unii, które są przedmiotem postępowania prowadzonego przez Europejskiego Inspektora Ochrony Danych, możliwość bycia wysłuchanym w sprawie dotyczącej ewentualnego naruszenia. Podstawą decyzji wydanej przez Europejskiego Inspektora Ochrony Danych mogą być wyłącznie elementy i okoliczności, co do których zainteresowane strony mogły się wypowiedzieć. Skarżący, jeżeli tacy istnieją, musza zostać ściśle włączeni w postępowanie. 5. W toku postępowania w pełni respektuje się prawo zainteresowanych stron do obrony. Strony mają prawo dostępu do akt Europejskiego Inspektora Ochrony Danych, z zastrzeżeniem prawnie uzasadnionego interesu osób fizycznych i przedsiębiorstw w zakresie ochrony ich danych osobowych lub tajemnic handlowych. 6. Środki finansowe pochodzące z kar pieniężnych nałożonych na podstawie niniejszego artykułu zasilają budżet ogólny Unii. Te kary pieniężne nie mogą mieć wpływu na skuteczne funkcjonowanie instytucji, organu lub jednostki organizacyjnej Unii, na które nałożono karę. 7. Europejski Inspektor Ochrony Danych co roku powiadamia Komisję o administracyjnych karach pieniężnych, które nałożył zgodnie z niniejszym artykułem, oraz o wszelkich wszczętych przez siebie postępowaniach spornych lub sądowych. Art. 101 Kary pieniężne dla dostawców modeli AI ogólnego przeznaczenia 1. Komisja może nakładać na dostawców modeli AI ogólnego przeznaczenia kary pieniężne nieprzekraczające 3 % ich całkowitego rocznego N Przepis stosowany wprost nie wymaga wdrożenia światowego obrotu w poprzednim roku obrotowym lub 15 000 000 EUR, w zależności od tego, która z tych kwot jest wyższa, jeśli ustali, że dostawca celowo lub w wyniku zaniedbania: a) naruszył odpowiednie przepisy niniejszego rozporządzenia; b) nie zastosował się do wniosku o przedstawienie dokumentu lub informacji zgodnie z art. 91 lub dostarczył informacje nieprawidłowe, niekompletne lub wprowadzające w błąd; c) nie zastosował się do środka wymaganego na podstawie art. 93; d) nie udzielił Komisji dostępu - w celu przeprowadzenia oceny zgodnie z art. 92 - do modelu A ogólnego przeznaczenia lub modelu AI ogólnego przeznaczenia z ryzykiem systemowym. Przy ustalaniu kwoty kary pieniężnej lub okresowej kary pieniężnej bierze się pod uwagę charakter, wagę i czas trwania naruszenia, z należytym uwzględnieniem zasad proporcjonalności i adekwatności. Komisja uwzględnia również zobowiązania podjęte zgodnie z art. 93 ust. 3 lub podjęte w odpowiednich kodeksach praktyki zgodnie z art. 56. 2. Przed przyjęciem decyzji na podstawie ust. 1 Komisja przekazuje swoje wstępne ustalenia dostawcy modelu AI ogólnego przeznaczenia i daje mu możliwość bycia wysłuchanym. 3. Kary pieniężne nakładane zgodnie z niniejszym artykułem muszą być skuteczne, proporcjonalne i odstraszające. 4. Informacje na temat kar pieniężnych nałożonych na podstawie niniejszego artykułu przekazuje się w stosownych przypadkach również Radzie ds. AI. 5. Trybunał Sprawiedliwości Unii Europejskiej ma nieograniczoną jurysdykcję w zakresie przeprowadzania kontroli decyzji Komisji ustalających karę pieniężną na podstawie niniejszego artykułu. Trybunał Sprawiedliwości Unii Europejskiej może uchylić, obniżyć lub podwyższyć nałożoną karę pieniężną. 6. Komisja przyjmuje akty wykonawcze zawierające szczegółowe zasady oraz zabezpieczenia proceduralne dotyczące postępowania w celu ewentualnego przyjęcia decyzji na podstawie ust. 1 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 102 Zmiana rozporządzenia (WE) nr 300/2008 W art. 4 ust. 3 rozporządzenia (WE) nr 300/2008 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu szczegółowych środków związanych ze specyfikacjami technicznymi i procedurami zatwierdzania sprzętu służącego do ochrony i korzystania z niego w przypadku systemów AI w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi ustanowione w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 103 Zmiana rozporządzenia (UE) nr 167/2013 W art. 17 ust. 5 rozporządzenia (UE) nr 167/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 104 Zmiana rozporządzenia (UE) nr 168/2013 W art. 22 ust. 5 rozporządzenia (UE) nr 168/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 105 Zmiana dyrektywy 2014/90/UE W art. 8 dyrektywy 2014/90/UE dodaje się ustęp w brzmieniu: N Przepis stosowany wprost nie wymaga wdrożenia \"5. W odniesieniu do systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, przy wykonywaniu swoich działań zgodnie z ust. 1 oraz przy przyjmowaniu specyfikacji technicznych i norm badań zgodnie z ust. 2 i 3 Komisja uwzględnia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 106 Zmiana dyrektywy (UE) 2016/797 W art. 5 dyrektywy (UE) 2016/797 dodaje się ustęp w brzmieniu: \"12. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 oraz aktów wykonawczych na podstawie ust. 11 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 107 Zmiana rozporządzenia (UE) 2018/858 W art. 5 rozporządzenia (UE) 2018/858 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 3 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 108 Zmiany w rozporządzeniu (UE) 2018/1139 W rozporządzeniu (UE) 2018/1139 wprowadza się następujące zmiany: 1) w art. 17 dodaje się ustęp w brzmieniu: \"3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" 2) w art. 19 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 3) w art. 43 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". N Przepis stosowany wprost nie wymaga wdrożenia 4) w art. 47 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 5) w art. 57 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu tych aktów wykonawczych dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 6) w art. 58 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". Art. 109 Zmiana rozporządzenia (UE) 2019/2144 W art. 11 rozporządzenia (UE) 2019/2144 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem N Przepis stosowany wprost nie wymaga wdrożenia elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia. Art. 110 Zmiana dyrektywy (UE) 2020/1828 W załączniku I do dyrektywy Parlamentu Europejskiego i Rady (UE) 2020/1828 dodaje się punkt w brzmieniu: \"(68) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektywy 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).\". N Przepis stosowany wprost nie wymaga wdrożenia Art. 111 Systemy AI już wprowadzone do obrotu lub oddane do użytku oraz modele AI ogólnego przeznaczenia już wprowadzone do obrotu 1. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a), do dnia 31 grudnia 2030 r. zapewnia się zgodność z niniejszym rozporządzeniem w odniesieniu do systemów AI, które stanowią elementy wielkoskalowych systemów informatycznych utworzonych na podstawie aktów prawnych wymienionych w załączniku X i które wprowadzono do N Przepis stosowany wprost nie wymaga wdrożenia obrotu lub oddano do użytku przed dniem 2 sierpnia 2027 r. Wymogi ustanowione w niniejszym rozporządzeniu uwzględnia się w ocenach każdego wielkoskalowego systemu informatycznego utworzonego na podstawie aktów prawnych wymienionych w załączniku X, które to oceny przeprowadza się zgodnie z tymi aktami oraz w przypadku, gdy te akty prawne są zastępowane lub zmieniane. 2. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a) niniejsze rozporządzenie stosuje się do operatorów systemów AI wysokiego ryzyka innych niż systemy, o których mowa w ust. 1 niniejszego artykułu, które zostały wprowadzone do obrotu lub oddane do użytku przed dniem 2 sierpnia 2026 r. tylko wtedy, gdy po tej dacie w systemach tych wprowadzane będą istotne zmiany w ich projekcie. W każdym razie dostawcy systemów AI wysokiego ryzyka i podmioty stosujące takie systemy, które są przeznaczone do wykorzystywania przez organy publiczne, podejmują niezbędne kroki w celu zapewnienia zgodności z wymogami i spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2030 r. 3. Dostawcy modeli AI ogólnego przeznaczenia, które zostały wprowadzone do obrotu przed dniem 2 sierpnia 2025 r., podejmują niezbędne kroki w celu spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2027 r. Art. 112 Ocena i przegląd 1. Komisja ocenia potrzebę wprowadzenia zmian w wykazie zawartym w załączniku III oraz w ustanowionym w art. 5 wykazie zakazanych praktyk w zakresie AI raz w roku, począwszy od dnia wejścia w życie niniejszego rozporządzenia do końca okresu przekazania uprawnień ustanowionych w art. 97. Komisja przedstawia ustalenia z tej oceny Parlamentowi Europejskiemu i Radzie. 2. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata Komisja przeprowadza ocenę i przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie dotyczące: a) konieczności zmian w postaci rozszerzenia istniejących nagłówków dotyczących obszarów lub dodania nowych nagłówków dotyczących obszarów w załączniku III; b) zmian wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości określonych w art. 50; c) zmian w celu poprawy skuteczności systemu nadzoru i zarządzania. 3. Do dnia 2 sierpnia 2029 r., a następnie co cztery lata Komisja przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie z oceny i przeglądu niniejszego rozporządzenia. Sprawozdanie zawiera ocenę struktury egzekwowania przepisów i ewentualnej konieczności usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Na podstawie tych ustaleń do N Przepis stosowany wprost nie wymaga wdrożenia sprawozdania dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia. Sprawozdania te są podawane do wiadomości publicznej. 4. W sprawozdaniach, o których mowa w ust. 2, szczególną uwagę zwraca się na następujące kwestie: a) stan zasobów finansowych, technicznych i ludzkich właściwych organów krajowych konieczny, by mogły one skutecznie wykonywać zadania powierzone im na podstawie niniejszego rozporządzenia; b) sytuację w zakresie kar, a w szczególności administracyjnych kar pieniężnych, o których mowa w art. 99 ust. 1, nakładanych przez państwa członkowskie w przypadku naruszenia niniejszego rozporządzenia; c) przyjęte normy zharmonizowane i wspólne specyfikacje opracowane w celu wsparcia niniejszego rozporządzenia; d) liczbę przedsiębiorstw wchodzących na rynek po rozpoczęciu stosowania niniejszego rozporządzenia oraz jaką część z nich stanowią MŚP. 5. Do dnia 2 sierpnia 2028 r. Komisja ocenia funkcjonowanie Urzędu ds. AI, czy przyznano mu uprawnienia i kompetencje wystarczające do wykonywania jego zadań oraz czy dla właściwego wdrożenia i egzekwowania niniejszego rozporządzenia stosowne i potrzebne byłoby wzmocnienie Urzędu ds. AI i zwiększenie jego uprawnień w zakresie egzekucji, a także zwiększenie jego zasobów. Komisja przedkłada sprawozdanie z oceny Parlamentowi Europejskiemu i Radzie. 6. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata, Komisja przedkłada sprawozdanie z przeglądu postępów w opracowywaniu dokumentów normalizacyjnych dotyczących wydajnego pod względem energii rozwoju modeli AI ogólnego przeznaczenia oraz ocenia konieczność podjęcia dalszych środków lub działań, w tym wiążących środków lub działań. Sprawozdanie to przedkłada się Parlamentowi Europejskiemu i Radzie i podaje do wiadomości publicznej. 7. Do dnia 2 sierpnia 2028 r., a następnie co trzy lata Komisja ocenia wpływ i skuteczność dobrowolnych kodeksów postępowania mających na celu propagowanie wymogów ustanowionych w rozdziale III sekcja 2 w odniesieniu do systemów AI innych niż systemy AI wysokiego ryzyka oraz ewentualnie innych dodatkowych wymogów dotyczących systemów AI, w tym w zakresie zrównoważenia środowiskowego. 8. Do celów ust. 1-7 Rada ds. AI, państwa członkowskie i właściwe organy krajowe przekazują Komisji informacje na jej wniosek i bez zbędnej zwłoki. 9. Dokonując ocen i przeglądów, o których mowa w ust. 1-7, Komisja uwzględnia stanowiska i ustalenia Rady ds. AI, Parlamentu Europejskiego, Rady oraz innych stosownych podmiotów lub źródeł. 10. W razie potrzeby Komisja przedkłada odpowiednie wnioski dotyczące zmiany niniejszego rozporządzenia, uwzględniając w szczególności rozwój technologii, wpływ systemów AI na zdrowie i bezpieczeństwo oraz na prawa podstawowe, oraz postępy dokonane w społeczeństwie informacyjnym. 11. W celu ukierunkowania ocen i przeglądów, o których mowa w ust. 1-7 niniejszego artykułu, Urząd ds. AI opracowuje obiektywną i partycypacyjną metodykę oceny poziomów ryzyka w oparciu o kryteria określone w odpowiednich artykułach i włączania nowych systemów do: a) wykazu określonego w załączniku III, łącznie z rozszerzeniem istniejących nagłówków dotyczących obszarów lub dodaniem nowych nagłówków dotyczących obszarów w tym załączniku; b) określonego w art. 5 wykazu zakazanych praktyk; oraz c) wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości zgodnie z art. 50. 12. Wszelkie zmiany niniejszego rozporządzenia zgodnie z ust. 10 lub odpowiednie akty delegowane i wykonawcze, które dotyczą unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja B, uwzględniają specyfikę regulacyjną każdego sektora oraz istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania, jak również działalność organów ustanowionych dla danego sektora. 13. Do dnia 2 sierpnia 2031 r. Komisja przeprowadza ocenę egzekwowania niniejszego rozporządzenia i przedkłada sprawozdanie z tej oceny Parlamentowi Europejskiemu, Radzie i Europejskiemu Komitetowi Ekonomiczno-Społecznemu, uwzględniając pierwsze lata stosowania niniejszego rozporządzenia. Na podstawie dokonanych ustaleń do sprawozdania tego dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia w odniesieniu do struktury egzekwowania przepisów i potrzeby usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Art. 113 Wejście w życie i rozpoczęcie stosowania Niniejsze rozporządzenie wchodzi w życie dwudziestego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej. Niniejsze rozporządzenie stosuje się od dnia 2 sierpnia 2026 r. Jednakże: a) rozdziały I i II stosuje się od dnia 2 lutego 2025 r.; b) rozdział III sekcja 4, rozdział V, rozdział VII i rozdział XII oraz art. 78 stosuje się od dnia 2 sierpnia 2025 r., z wyjątkiem art. 101; c) art. 6 ust. 1 i odpowiadające mu obowiązki ustanowione w niniejszym rozporządzeniu stosuje się od dnia 2 sierpnia 2027 r. Niniejsze rozporządzenie wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich. N Przepis stosowany wprost nie wymaga wdrożenia Sporządzono w Brukseli dnia 13 czerwca 2024 r. Załączni k I Wykaz unijnego prawodawstwa harmonizacyjnego Sekcja A. Wykaz unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych 1.Dyrektywa 2006/42/WE Parlamentu Europejskiego i Rady z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (Dz.U. L 157 z 9.6.2006, s. 24); 2.Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1); 3.Dyrektywa Parlamentu Europejskiego i Rady 2013/53/UE z dnia 20 listopada 2013 r. w sprawie rekreacyjnych jednostek pływających i skuterów wodnych i uchylająca dyrektywę 94/25/WE (Dz.U. L 354 z 28.12.2013, s. 90); 4.Dyrektywa Parlamentu Europejskiego i Rady 2014/33/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących dźwigów i elementów bezpieczeństwa do dźwigów (Dz.U. L 96 z 29.3.2014, s. 251); 5.Dyrektywa Parlamentu Europejskiego i Rady 2014/34/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do urządzeń i systemów ochronnych N Przepis stosowany wprost nie wymaga wdrożenia przeznaczonych do użytku w atmosferze potencjalnie wybuchowej (Dz.U. L 96 z 29.3.2014, s. 309); 6.Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62); 7.Dyrektywa Parlamentu Europejskiego i Rady 2014/68/UE z dnia 15 maja 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do udostępniania na rynku urządzeń ciśnieniowych (Dz. U. L 189 z 27.6.2014, s. 164); 8.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/424 z dnia 9 marca 2016 r. w sprawie urządzeń kolei linowych i uchylenia dyrektywy 2000/9/WE (Dz.U. L 81 z 31.3.2016, s. 1); 9.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/425 z dnia 9 marca 2016 r. w sprawie środków ochrony indywidualnej oraz uchylenia dyrektywy Rady 89/686/EWG (Dz.U. L 81 z 31.3.2016, s. 51); 10.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/426 z dnia 9 marca 2016 r. w sprawie urządzeń spalających paliwa gazowe oraz uchylenia dyrektywy 2009/142/WE (Dz.U. L 81 z 31.3.2016, s. 99); 11.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG (Dz.U. L 117 z 5.5.2017, s. 1); 12.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE (Dz. U. L 117 z 5.5.2017, s. 176). Sekcja B. Wykaz innego unijnego prawodawstwa harmonizacyjnego 13.Rozporządzenie Parlamentu Europejskiego i Rady (WE) nr 300/2008 z dnia 11 marca 2008 r. w sprawie wspólnych zasad w dziedzinie ochrony lotnictwa cywilnego i uchylające rozporządzenie (WE) nr 2320/2002 (Dz.U. L 97 z 9.4.2008, s. 72); 14.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 168/2013 z dnia 15 stycznia 2013 r. w sprawie homologacji i nadzoru rynku pojazdów dwu- lub trzykołowych oraz czterokołowców (Dz.U. L 60 z 2.3.2013, s. 52); 15.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 167/2013 z dnia 5 lutego 2013 r. w sprawie homologacji i nadzoru rynku pojazdów rolniczych i leśnych (Dz.U. L 60 z 2.3.2013, s. 1); 16.Dyrektywa Parlamentu Europejskiego i Rady 2014/90/UE z dnia 23 lipca 2014 r. w sprawie wyposażenia morskiego i uchylająca dyrektywę Rady 96/98/WE (Dz.U. L 257 z 28.8.2014, s. 146); 17.Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/797 z dnia 11 maja 2016 r. w sprawie interoperacyjności systemu kolei w Unii Europejskiej (Dz.U. L 138 z 26.5.2016, s. 44); 18.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 z dnia 30 maja 2018 r. w sprawie homologacji i nadzoru rynku pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, zmieniające rozporządzenie (WE) nr 715/2007 i (WE) nr 595/2009 oraz uchylające dyrektywę 2007/46/WE (Dz.U. L 151 z 14.6.2018, s. 1); 19.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/2144 z dnia 27 listopada 2019 r. w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, zmieniające rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 oraz uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 78/2009, (WE) nr 79/2009 i (WE) nr 661/2009 oraz rozporządzenia Komisji (WE) nr 631/2009, (UE) nr 406/2010, (UE) nr 672/2010, (UE) nr 1003/2010, (UE) nr 1005/2010, (UE) nr 1008/2010, (UE) nr 1009/2010, (UE) nr 19/2011, (UE) nr 109/2011, (UE) nr 458/2011, (UE) nr 65/2012, (UE) nr 130/2012, (UE) nr 347/2012, (UE) nr 351/2012, (UE) nr 1230/2012 i (UE) 2015/166 (Dz.U. L 325 z 16.12.2019, s. 1); 20.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1139 z dnia 4 lipca 2018 r. w sprawie wspólnych zasad w dziedzinie lotnictwa cywilnego i utworzenia Agencji Unii Europejskiej ds. Bezpieczeństwa Lotniczego oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 2111/2005, (WE) nr 1008/2008, (UE) nr 996/2010, (UE) nr 376/2014 i dyrektywy Parlamentu Europejskiego i Rady 2014/30/UE i 2014/53/UE, a także uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 552/2004 i (WE) nr 216/2008 i rozporządzenie Rady (EWG) nr 3922/91 (Dz.U. L 212 z 22.8.2018, s. 1) w zakresie projektowania, produkcji i wprowadzania do obrotu statków powietrznych, o których mowa w art. 2 ust. 1 lit. a) i b), w odniesieniu do bezzałogowych statków powietrznych oraz ich silników, śmigieł, części i wyposażenia do zdalnego sterowania statkami powietrznymi. Załączni k II Wykaz przestępstw, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii) Przestępstwa, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii): –terroryzm, N Załącznik stosowany wprost nie wymaga wdrożenia –handel ludźmi, – wykorzystywanie seksualne dzieci i pornografia dziecięca, – nielegalny obrót środkami odurzającymi lub substancjami psychotropowymi, – nielegalny handel bronią, amunicją lub materiałami wybuchowymi, – zabójstwo, ciężkie uszkodzenie ciała, – nielegalny obrót organami lub tkankami ludzkimi, – nielegalny handel materiałami jądrowymi lub promieniotwórczymi, – uprowadzenie, bezprawne przetrzymywanie lub wzięcie zakładników, – przestępstwa podlegające jurysdykcji Międzynarodowego Trybunału Karnego, – bezprawne zawładnięcie statkiem powietrznym lub statkiem, – zgwałcenie, – przestępstwo przeciw środowisku, – rozbój w formie zorganizowanej lub rozbój przy użyciu broni, – sabotaż, – udział w organizacji przestępczej uczestniczącej w co najmniej jednym z wyżej wymienionych przestępstw. Załączni k III Systemy AI wysokiego ryzyka, o których mowa w art. 6 ust. 2 Systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 2 to systemy AI wymienione w którymkolwiek z poniższych obszarów: 1. Biometria, w zakresie, w jakim jej stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy zdalnej identyfikacji biometrycznej. Nie obejmuje to systemów AI przeznaczonych do wykorzystania przy weryfikacji biometrycznej, której jedynym celem jest potwierdzenie, że określona osoba fizyczna jest osobą, za którą się podaje; b) systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech; c) systemy AI przeznaczone do wykorzystania przy rozpoznawaniu emocji. 2. Infrastruktura krytyczna: systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną. N Załącznik stosowany wprost nie wymaga wdrożenia 3. Kształcenie i szkolenie zawodowe: a) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji o dostępie lub przyjęciu do instytucji edukacyjnych i instytucji szkolenia zawodowego lub przydzielania osób do tych instytucji na wszystkich poziomach; b) systemy AI przeznaczone do wykorzystywania do celów oceny efektów uczenia się, także w przypadku, gdy efekty te są wykorzystywane do kierowania procesem uczenia się osób fizycznych w instytucjach edukacyjnych i instytucjach szkolenia zawodowego na wszystkich poziomach; c) systemy AI przeznaczone do wykorzystywania do celów oceny odpowiedniego poziomu wykształcenia, jaki dana osoba otrzyma lub do jakiego będzie mogła mieć dostęp w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach; d) systemy AI przeznaczone do wykorzystywania do celów monitorowania i wykrywania niedozwolonego zachowania uczniów podczas testów w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach. 4. Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia: a) systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów; b) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach. 5. Dostęp do podstawowych usług prywatnych oraz podstawowych usług i świadczeń publicznych, a także korzystanie z nich: a) systemy AI przeznaczone do wykorzystywania przez organy publiczne lub w imieniu organów publicznych w celu oceny kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych, w tym opieki zdrowotnej, jak również w celu przyznawania, ograniczania, odwoływania lub żądania zwrotu takich świadczeń i usług; b) systemy AI przeznaczone do wykorzystywania do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; c) systemy AI przeznaczone do wykorzystywania przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego; d) systemy AI przeznaczone do oceny i klasyfikacji zgłoszeń alarmowych dokonywanych przez osoby fizyczne lub do wykorzystywania w celu wysyłania lub ustalania priorytetów w wysyłaniu służb pierwszej pomocy, w tym policji, straży pożarnej i pomocy medycznej, a także w ramach systemów oceny stanu zdrowia pacjentów w nagłych wypadkach. 6. Ściganie przestępstw, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania lub w ich imieniu do oceny ryzyka, że osoba fizyczna stanie się ofiarą przestępstwa; b) systemy AI przeznaczone do wykorzystywania jako wariografy lub podobne narzędzia przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania; c) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny wiarygodności dowodów w toku ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie; d) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny ryzyka, że osoba fizyczna popełni lub ponownie popełni przestępstwo, przeprowadzanej nie tylko na podstawie profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, lub do oceny cech osobowości i charakteru lub uprzedniego zachowania przestępczego osób fizycznych lub grup; e) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, w toku wykrywania i ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie. 7. Zarządzanie migracją, azylem i kontrolą graniczną, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii jako wariografy lub podobne narzędzia; b) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów oceny ryzyka, w tym ryzyka dla bezpieczeństwa, ryzyka migracji nieuregulowanej lub ryzyka dla zdrowia, stwarzanych przez osobę fizyczną, która zamierza wjechać lub wjechała na terytorium państwa członkowskiego; c) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów wspierania właściwych organów publicznych przy rozpatrywaniu wniosków o udzielenie azylu, o wydanie wizy lub dokumentów pobytowych oraz związanych z nimi skarg w odniesieniu do kwalifikowalności osób fizycznych ubiegających się o przyznanie określonego statusu, w tym przy powiązanej ocenie wiarygodności dowodów; d) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w kontekście zarządzania migracją, azylem i kontrolą graniczną, do celów wykrywania, rozpoznawania lub identyfikacji osób fizycznych, z wyjątkiem weryfikacji dokumentów podróży. 8. Sprawowanie wymiaru sprawiedliwości i procesy demokratyczne: a) systemy AI przeznaczone do wykorzystywania przez organ wymiaru sprawiedliwości lub w jego imieniu w celu wspomagania organu wymiaru sprawiedliwości w badaniu i interpretacji stanu faktycznego i przepisów prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego lub do wykorzystywania w podobny sposób w alternatywnych metodach rozwiązywania sporów; b) systemy AI przeznaczone do wykorzystywania w celu wywierania wpływu na wynik wyborów lub referendum lub na zachowanie osób fizycznych podczas głosowania w wyborach lub referendach. Nie obejmuje to systemów AI, na których wyniki osoby fizyczne nie są bezpośrednio narażone, takich jak narzędzia wykorzystywane do organizowania, optymalizacji lub strukturyzowania kampanii politycznych z administracyjnego lub logistycznego punktu widzenia. Załączni k IV Dokumentacja techniczna, o której mowa w art. 11 ust. 1 Dokumentacja techniczna, o której mowa w art. 11 ust. 1, zawiera, stosownie do przypadku, co najmniej następujące informacje właściwe dla danego systemu AI: 1. Ogólny opis systemu AI, w tym: a) jego przeznaczenie, imię i nazwisko lub nazwę dostawcy i wersję systemu wraz z informacją dotyczącą jej związku z poprzednimi wersjami; b) sposób, w jaki system AI, w stosownych przypadkach, współdziała lub może być wykorzystany do współdziałania ze sprzętem lub oprogramowaniem, w tym z innymi systemami AI, które nie są częścią samego systemu AI; N Załącznik stosowany wprost nie wymaga wdrożenia c) wersje odpowiedniego oprogramowania lub oprogramowania układowego oraz wszelkie wymogi związane z aktualizacjami wersji; d) opis wszystkich postaci, w jakich system AI wprowadza się do obrotu lub oddaje do użytku, takie jak pakiety oprogramowania wbudowane w urządzenie, oprogramowanie do pobrania lub API; e) opis sprzętu, na którym system AI ma być eksploatowany; f) w przypadku, gdy system A jest elementem produktów - zdjęcia lub ilustracje przedstawiające cechy zewnętrzne, oznakowanie i układ wewnętrzny tych produktów; g) podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; h) instrukcja obsługi dla podmiotu stosującego oraz w stosownych przypadkach, podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; 2. Szczegółowy opis elementów systemu AI oraz procesu jego rozwoju, w tym: a) metody i działania zastosowane w celu rozwoju systemu AI, w tym, w stosownych przypadkach, skorzystanie z systemów, które zostały poddane pretreningowi, lub narzędzi dostarczonych przez osoby trzecie oraz wskazanie, w jaki sposób dostawca wykorzystał, zintegrował lub zmienił te systemy lub narzędzia; b) specyfikacje projektowe systemu, a mianowicie ogólna logika systemu AI i algorytmów; kluczowe decyzje projektowe wraz z uzasadnieniem i przyjętymi założeniami, w tym w odniesieniu do osób lub grup osób, wobec których system ma być wykorzystywany; główne wybory klasyfikacyjne; wskazanie, pod kątem czego system ma być optymalizowany, i znaczenie poszczególnych parametrów; opis oczekiwanego wyniku systemu oraz jakości tego wyniku; decyzje dotyczące wszelkich możliwych kompromisów w zakresie rozwiązań technicznych przyjętych w celu zapewnienia zgodności z wymogami określonymi w rozdziale III sekcja 2; c) opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie; zasoby obliczeniowe wykorzystywane do rozwoju, trenowania, testowania i walidacji systemu AI; d) w stosownych przypadkach wymogi dotyczące danych w zakresie arkuszy danych opisujących metodyki i techniki trenowania systemu oraz wykorzystywane zbiory danych treningowych, w tym ogólny opis tych zbiorów danych, informacje o ich pochodzeniu, ich zakresie i głównych cechach; sposób uzyskania i wyboru danych; procedury etykietowania (np. w przypadku uczenia nadzorowanego), metody oczyszczania danych (np. wykrywanie wartości oddalonych); e) ocenę środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym ocenę środków technicznych potrzebnych do ułatwienia podmiotom stosującym interpretacji wyników systemów AI, zgodnie z art. 13 ust. 3 lit. d); f) w stosownych przypadkach szczegółowy opis z góry zaplanowanych zmian w systemie AI i jego skuteczności działania wraz ze wszystkimi istotnymi informacjami dotyczącymi rozwiązań technicznych przyjętych w celu zapewnienia ciągłej zgodności systemu AI z odpowiednimi wymogami określonymi w rozdziale III sekcja 2; g) zastosowane procedury walidacji i testowania, w tym informacje o wykorzystywanych danych walidacyjnych i danych testowych oraz ich głównych cechach; wskaźniki stosowane do pomiaru dokładności, solidności i zgodności z innymi stosownymi wymogami określonymi w rozdziale III sekcja 2, jak również skutków potencjalnie dyskryminujących; rejestry zdarzeń generowane podczas testów i wszystkie sprawozdania z testów opatrzone datą i podpisane przez osoby odpowiedzialne, w tym w odniesieniu do z góry zaplanowanych zmian, o których mowa w lit. f); h) wdrożone środki w zakresie cyberbezpieczeństwa; 3. Szczegółowe informacje dotyczące monitorowania, funkcjonowania i kontroli systemu AI, w szczególności w odniesieniu do: jego możliwości i ograniczeń w zakresie skuteczności działania, w tym stopnie dokładności w przypadku określonych osób lub grup osób, wobec których system ma być wykorzystywany, oraz ogólny spodziewany poziom dokładności w stosunku do jego przeznaczenia; możliwych do przewidzenia niezamierzonych wyników i źródeł ryzyka dla zdrowia i bezpieczeństwa, praw podstawowych i ryzyka powodującego dyskryminację w świetle przeznaczenia systemu AI; środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym środków technicznych wprowadzonych w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI; w stosownych przypadkach specyfikacji dotyczących danych wejściowych; 4. Opis adekwatności wskaźników skuteczności działania w odniesieniu do konkretnego systemu AI; 5. Szczegółowy opis systemu zarządzania ryzykiem zgodnie z art. 9; 6. Opis odpowiednich zmian dokonanych przez dostawcę w systemie w czasie cyklu jego życia; 7. Wykaz norm zharmonizowanych stosowanych w całości lub w części, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej; w przypadku, gdy nie zastosowano takich norm zharmonizowanych, szczegółowy opis rozwiązań przyjętych w celu spełnienia wymogów określonych w rozdziale III sekcja 2, w tym wykaz innych odpowiednich zastosowanych norm i specyfikacji technicznych; 8. Kopię deklaracji zgodności UE, o której mowa w art. 47; 9. Szczegółowy opis systemu stosowanego do oceny skuteczności działania systemu AI po wprowadzeniu do obrotu zgodnie z art. 72, w tym plan monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72 ust. 3. Załączni k V Deklaracja zgodności UE Deklaracja zgodności UE, o której mowa w art. 47, zawiera wszystkie następujące informacje: 1. Nazwę i rodzaj systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 2. Imię i nazwisko lub nazwę oraz adres dostawcy lub w stosownych przypadkach, jego upoważnionego przedstawiciela; 3. Oświadczenie, że deklarację zgodności UE, o której mowa w art. 47, wydano na wyłączną odpowiedzialność dostawcy; 4. Oświadczenie, że system AI jest zgodny z niniejszym rozporządzeniem oraz w stosownych przypadkach, z wszelkimi innymi odpowiednimi przepisami prawa Unii, w których przewidziano wydanie deklaracji zgodności UE, o której mowa w art. 47; 5. W przypadku, gdy system AI wiąże się z przetwarzaniem danych osobowych, oświadczenie, że system AI jest zgodny z rozporządzeniami (UE) N Załącznik stosowany wprost nie wymaga wdrożenia 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680; 6. Odniesienia do wszelkich zastosowanych odpowiednich norm zharmonizowanych lub wszelkich innych wspólnych specyfikacji, z którymi deklaruje się zgodność; 7. W stosownych przypadkach nazwę i numer identyfikacyjny jednostki notyfikowanej, opis przeprowadzonej procedury oceny zgodności oraz dane identyfikacyjne wydanego certyfikatu; 8. Miejsce i datę wystawienia deklaracji, imię i nazwisko oraz stanowisko osoby, która złożyła podpis pod dokumentem, oraz wskazanie, z czyjego upoważnienia lub w czyim imieniu ta osoba podpisała dokument, oraz podpis. Załączni k VI Procedura oceny zgodności opierająca się na kontroli wewnętrznej 1. Procedura oceny zgodności opierająca się na kontroli wewnętrznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2, 3 i 4. 2. Dostawca sprawdza, czy ustanowiony system zarządzania jakością jest zgodny z wymogami art. 17. 3. Dostawca analizuje informacje zawarte w dokumentacji technicznej, aby ocenić zgodność systemu AI z odpowiednimi zasadniczymi wymogami określonymi w rozdziale III sekcja 2. N Załącznik stosowany wprost nie wymaga wdrożenia 4. Dostawca sprawdza również, czy proces projektowania i rozwoju systemu AI oraz proces jego monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72, są zgodne z dokumentacją techniczną. Załączni k VII Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej 1. Wprowadzenie Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2-5. 2. Informacje ogólne Zatwierdzony system zarządzania jakością w zakresie projektowania, rozwoju i testowania systemów AI zgodnie z art. 17 ocenia się zgodnie z pkt 3 i poddaje nadzorowi zgodnie z pkt 5. Dokumentację techniczną systemu AI ocenia się zgodnie z pkt 4. 3. System zarządzania jakością 3.1. Wniosek dostawcy zawiera: a) imię i nazwisko lub nazwę i adres dostawcy oraz, jeśli wniosek jest składany przez upoważnionego przedstawiciela, również jego imię i nazwisko lub nazwę i adres; b) wykaz systemów AI objętych tym samym systemem zarządzania jakością; N Załącznik stosowany wprost nie wymaga wdrożenia c) dokumentację techniczną każdego systemu AI objętego tym samym systemem zarządzania jakością; d) dokumentację dotyczącą systemu zarządzania jakością, która obejmuje wszystkie aspekty wymienione w art. 17; e) opis wprowadzonych procedur zapewniających stałą adekwatność i skuteczność systemu zarządzania jakością; f) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej. 3.2. System zarządzania jakością jest oceniany przez jednostkę notyfikowaną, która ustala czy spełnia on wymogi, o których mowa w art. 17. O decyzji powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny systemu zarządzania jakością oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 3.3. Zatwierdzony system zarządzania jakością jest dalej wdrażany i utrzymywany przez dostawcę, tak aby mógł zachować adekwatność i skuteczność. 3.4. Dostawca powiadamia jednostkę notyfikowaną o wszelkich zamierzonych zmianach w zatwierdzonym systemie zarządzania jakością lub w wykazie systemów AI objętych tym systemem. Proponowane zmiany podlegają weryfikacji przeprowadzanej przez jednostkę notyfikowaną, która stwierdza, czy zmieniony system zarządzania jakością nadal spełnia wymogi, o których mowa w pkt 3.2, czy też konieczna jest jego ponowna ocena. Jednostka notyfikowana powiadamia dostawcę o swojej decyzji. Takie powiadomienie zawiera wnioski z weryfikacji zmian oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 4. Kontrola dokumentacji technicznej 4.1. Oprócz wniosku, o którym mowa w pkt 3, dostawca składa wniosek do wybranej przez siebie jednostki notyfikowanej o przeprowadzenie oceny dokumentacji technicznej dotyczącej systemu AI, który dostawca zamierza wprowadzić do obrotu lub oddać do użytku i który jest objęty systemem zarządzania jakością, o którym mowa w pkt 3. 4.2. Wniosek zawiera: a) imię i nazwisko lub nazwę i adres dostawcy; b) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej; c) dokumentację techniczną, o której mowa w załączniku IV. 4.3. Analizy dokumentacji technicznej dokonuje jednostka notyfikowana. W stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania zadań jednostki notyfikowanej, otrzymuje ona pełny dostęp do wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 4.4. Analizując dokumentację techniczną, jednostka notyfikowana może zwrócić się do dostawcy o przedstawienie dalszych dowodów lub przeprowadzenie dalszych testów w celu umożliwienia właściwej oceny zgodności systemu AI z wymogami określonymi w rozdziale III sekcja 2. W przypadku gdy jednostka notyfikowana nie jest usatysfakcjonowana testami przeprowadzonymi przez dostawcę, przeprowadza sama bezpośrednio, stosownie do okoliczności, odpowiednie testy. 4.5. W przypadku gdy jest to konieczne do oceny zgodności systemu AI wysokiego ryzyka z wymogami określonymi w rozdziale III sekcja 2, po wyczerpaniu wszystkich innych racjonalnych sposobów weryfikacji zgodności, które okazały się niewystarczające, jednostka notyfikowana uzyskuje - na uzasadniony wniosek - również dostęp do modeli treningowych i trenowanych systemu AI, w tym do odpowiednich jego parametrów. Taki dostęp podlega obowiązującym przepisom prawa Unii dotyczącym własności intelektualnej i tajemnic przedsiębiorstwa. 4.6. O decyzji jednostki notyfikowanej powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny dokumentacji produktu oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. W przypadku gdy system AI spełnia wymogi określone w rozdziale III sekcja 2, jednostka notyfikowana wydaje unijny certyfikat oceny dokumentacji technicznej. Certyfikat ten zawiera imię i nazwisko lub nazwę oraz adres dostawcy, wnioski z oceny, (ewentualne) warunki jego ważności oraz dane niezbędne do identyfikacji systemu AI. Certyfikat wraz z załącznikami musi zawierać wszystkie istotne informacje umożliwiające ocenę zgodności systemu AI oraz w stosownych przypadkach, kontrolę systemu AI podczas jego wykorzystywania. W przypadku gdy system AI nie spełnia wymogów określonych w rozdziale III sekcja 2, jednostka notyfikowana odmawia wydania unijnego certyfikatu oceny dokumentacji technicznej i informuje o tym wnioskodawcę, podając szczegółowe uzasadnienie odmowy. W przypadku gdy system AI nie spełnia wymogu dotyczącego danych wykorzystywanych do jego trenowania, przed złożeniem wniosku o nową ocenę zgodności system AI należy poddać retrenowaniu. W takim przypadku decyzja jednostki notyfikowanej o odmowie wydania unijnego certyfikatu oceny dokumentacji technicznej wraz z uzasadnieniem zawiera szczegółowe uwagi na temat jakości danych wykorzystanych do treningu systemu AI, w szczególności na temat przyczyn niezgodności. 4.7. Wszelkie zmiany w systemie AI, które mogłyby wpłynąć na zgodność systemu AI z wymogami lub jego przeznaczeniem, podlegają ocenie przez jednostkę notyfikowaną, która wydała unijny certyfikat oceny dokumentacji technicznej. Dostawca informuje taką jednostkę notyfikowaną, jeżeli zamierza wprowadzić wyżej wymienione zmiany lub jeżeli w inny sposób dowiedział się o ich zaistnieniu. Zamierzone zmiany ocenia jednostka notyfikowana, która decyduje, czy zmiany te wymagają przeprowadzenia nowej oceny zgodności zgodnie z art. 43 ust. 4, czy też można je uwzględnić w formie uzupełnienia unijnego certyfikatu oceny dokumentacji technicznej. W tym ostatnim przypadku jednostka notyfikowana ocenia zmiany, powiadamia dostawcę o swojej decyzji i, w przypadku zatwierdzenia zmian, wydaje dostawcy uzupełnienie unijnego certyfikatu oceny dokumentacji technicznej. 5. Nadzór nad zatwierdzonym systemem zarządzania jakością 5.1. Celem nadzoru sprawowanego przez jednostkę notyfikowaną, o której mowa w pkt 3, jest zapewnienie, aby dostawca należycie wywiązywał się z warunków, jakimi obwarowano zatwierdzony system zarządzania jakością. 5.2. Do celów oceny dostawca umożliwia jednostce notyfikowanej dostęp do pomieszczeń, w których odbywa się projektowanie, rozwój i testowanie systemów AI. Dostawca udostępnia ponadto jednostce notyfikowanej wszystkie niezbędne informacje. 5.3. Jednostka notyfikowana przeprowadza okresowe audyty, aby upewnić się, że dostawca utrzymuje i stosuje system zarządzania jakością, oraz przedstawia dostawcy sprawozdanie z audytu. W ramach tych audytów jednostka notyfikowana może przeprowadzać dodatkowe testy systemów AI, w odniesieniu do których wydano unijny certyfikat oceny dokumentacji technicznej. Załączni k VIII Informacje przekazywane przy rejestracji systemów AI wysokiego ryzyka zgodnie z art. 49 Sekcja A Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 1 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 1, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, /imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI oraz elementów i funkcji wspieranych przez ten system AI; N Załącznik stosowany wprost nie wymaga wdrożenia 6. Podstawowy i zwięzły opis informacji wykorzystywanych przez system (dane, dane wejściowe) oraz logika jego działania; 7. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 8. Rodzaj, numer i datę ważności certyfikatu wydanego przez jednostkę notyfikowaną oraz w stosownych przypadkach nazwę lub numer identyfikacyjny tej jednostki notyfikowanej; 9. W stosownych przypadkach skan certyfikatu, o którym mowa w pkt 8; 10. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii; 11. Kopia deklaracji zgodności UE, o której mowa w art. 47; 12. Elektroniczna instrukcja obsługi; informacji tych nie podaje się w przypadku systemów AI wysokiego ryzyka w obszarach ścigania przestępstw lub zarządzania migracją, azylem lub kontrolą graniczną, o których mowa w załączniku III pkt 1, 6 i 7; 13. Adres URL odsyłający do dodatkowych informacji (opcjonalnie). Sekcja B Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 2 W odniesieniu do systemów AI, które podlegają rejestracji zgodnie z art. 49 ust. 2, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI; 6. Warunek lub warunki określone w art. 6 ust. 3, na podstawie których system AI jest uznawany za niebędący systemem wysokiego ryzyka; 7. Krótkie streszczenie powodów, dla których system AI jest uznawany za niebędący systemem wysokiego ryzyka w wyniku zastosowania procedury na podstawie art. 6 ust. 3; 8. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 9. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii. Sekcja C Informacje przekazywane przez podmioty stosujące systemy AI wysokiego ryzyka zgodnie z art. 49 ust. 3 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 3, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe podmiotu stosującego AI; 2. Imię i nazwisko lub nazwa, adres i dane kontaktowe osoby przekazującej informacje w imieniu podmiotu stosującego; 3. Adres URL wpisu systemu AI do bazy danych UE dokonanego przez jego dostawcę; 4. Streszczenie ustaleń oceny skutków dla praw podstawowych przeprowadzonej zgodnie z art. 27; 5. W stosownych przypadkach streszczenie oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, jak określono w art. 26 ust. 8 niniejszego rozporządzenia. Załączni k IX Informacje przedkładane przy rejestracji systemów AI wysokiego ryzyka wymienionych w załączniku III w odniesieniu do testów w warunkach rzeczywistych zgodnie z art. 60 W odniesieniu do testów w warunkach rzeczywistych, które podlegają rejestracji zgodnie z art. 60, przekazuje się, a następnie aktualizuje następujące informacje: 1. Ogólnounijny niepowtarzalny numer identyfikacyjny testów w warunkach rzeczywistych; 2. Imię i nazwisko lub nazwę oraz dane kontaktowe dostawcy lub potencjalnego dostawcy i podmiotów stosujących uczestniczących w testach w warunkach rzeczywistych; 3. Krótki opis systemu AI, jego przeznaczenie oraz inne informacje niezbędne do identyfikacji systemu; 4. Streszczenie głównych założeń planu testów w warunkach rzeczywistych; 5. Informacje o zawieszeniu lub zakończeniu testów w warunkach rzeczywistych. N Załącznik stosowany wprost nie wymaga wdrożenia Załączni k X Akty prawne Unii dotyczące wielkoskalowych systemów informatycznych w przestrzeni wolności, bezpieczeństwa i sprawiedliwości 1. System Informacyjny Schengen: N Załącznik stosowany wprost nie wymaga wdrożenia a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1860 z dnia 28 listopada 2018 r. w sprawie użytkowania Systemu Informacyjnego Schengen do celów powrotu nielegalnie przebywających obywateli państw trzecich (Dz.U. L 312 z 7.12.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1861 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie odpraw granicznych, zmiany konwencji wykonawczej do układu z Schengen oraz zmiany i uchylenia rozporządzenia (WE) nr 1987/2006 (Dz.U. L 312 z 7.12.2018, s. 14); c)rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1862 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie współpracy policyjnej i współpracy wymiarów sprawiedliwości w sprawach karnych, zmiany i uchylenia decyzji Rady 2007/533/WSiSW oraz uchylenia rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 1986/2006 i decyzji Komisji 2010/261/UE (Dz.U. L 312 z 7.12.2018, s. 56). 2. Wizowy system informacyjny: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1133 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń (UE) nr 603/2013, (UE) 2016/794, (UE) 2018/1862, (UE) 2019/816 i (UE) 2019/818 w odniesieniu do ustanowienia warunków dostępu do innych systemów informacyjnych UE do celów Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 1). b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1134 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (WE) nr 767/2008, (WE) nr 810/2009, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1860, (UE) 2018/1861, (UE) 2019/817 i (UE) 2019/1896 oraz uchylenia decyzji Rady 2004/512/WE i (WE) nr 2008/633/WSiSW w celu zreformowania Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 11). 3. Eurodac: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1358 z dnia 14 maja 2024 r. w sprawie ustanowienia systemu Eurodac do porównywania danych biometrycznych w celu skutecznego stosowania rozporządzeń Parlamentu Europejskiego i Rady (UE) 2024/1315 i (UE) 2024/1350 i dyrektywy Rady 2001/55/WE oraz w celu identyfikowania nielegalnie przebywających obywateli państw trzecich oraz bezpaństwowców, w sprawie występowania z wnioskami o porównanie z danymi Eurodac przez organy ścigania państw członkowskich i Europol na potrzeby ochrony porządku publicznego, w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (UE) 2018/1240 i (UE) 2019/818 oraz w sprawie uchylenia rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 603/2013 (Dz.U. L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj). 4. System wjazdu/wyjazdu: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/2226 z dnia 30 listopada 2017 r. ustanawiające system wjazdu/wyjazdu (EES) w celu rejestrowania danych dotyczących wjazdu i wyjazdu obywateli państw trzecich przekraczających granice zewnętrzne państw członkowskich i danych dotyczących odmowy wjazdu w odniesieniu do takich obywateli oraz określające warunki dostępu do EES na potrzeby ochrony porządku publicznego i zmieniające konwencję wykonawczą do układu z Schengen i rozporządzenia (WE) nr 767/2008 i (UE) nr 1077/2011 (Dz.U. L 327 z 9.12.2017, s. 20). 5. Europejski system informacji o podróży oraz zezwoleń na podróż: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1240 z dnia 12 września 2018 r. ustanawiające europejski system informacji o podróży oraz zezwoleń na podróż (ETIAS) i zmieniające rozporządzenia (UE) nr 1077/2011, (UE) nr 515/2014, (UE) 2016/399, (UE) 2016/1624 i (UE) 2017/2226 (Dz.U. L 236 z 19.9.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1241 z dnia 12 września 2018 r. zmieniające rozporządzenie (UE) 2016/794 w celu ustanowienia europejskiego systemu informacji o podróży oraz zezwoleń na podróż (ETIAS) (Dz.U. L 236 z 19.9.2018, s. 72). 6. Europejski system przekazywania informacji z rejestrów karnych dotyczących obywateli państw trzecich i bezpaństwowców: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/816 z dnia 17 kwietnia 2019 r. ustanawiające scentralizowany system służący do ustalania państw członkowskich posiadających informacje o wyrokach skazujących wydanych wobec obywateli państw trzecich i bezpaństwowców (ECRIS-TCN) na potrzeby uzupełnienia europejskiego systemu przekazywania informacji z rejestrów karnych oraz zmieniające rozporządzenie (UE) 2018/1726 (Dz.U. L 135 z 22.5.2019, s. 1). 7. Interoperacyjność: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/817 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze granic i polityki wizowej oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 767/2008, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1726, (UE) 2018/1861 oraz decyzje Rady 2004/512/WE i 2008/633/WSiSW (Dz. U. L 135 z 22.5.2019, s. 27); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/818 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze współpracy policyjnej i sądowej, azylu i migracji oraz zmieniające rozporządzenia (UE) 2018/1726, (UE) 2018/1862 i (UE) 2019/816 (Dz.U. L 135 z 22.5.2019, s. 85). Załączni k XI Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a) - dokumentacja techniczna dla dostawców modeli AI ogólnego przeznaczenia Sekcja 1 Informacje przekazywane przez wszystkich dostawców modeli AI ogólnego przeznaczenia Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a), zawiera co najmniej następujące informacje stosownie do rozmiaru danego systemu AI oraz jego profilu ryzyka: 1. Ogólny opis modelu AI ogólnego przeznaczenia, w tym: a) zadania, które dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) architektura i liczba parametrów; e) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; N Załącznik stosowany wprost nie wymaga wdrożenia f) licencja. 2. Szczegółowy opis elementów modelu, o których mowa w pkt 1, oraz stosowne informacje na temat procesu rozwoju, z uwzględnieniem następujących elementów: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) specyfikacje projektu danego modelu i proces treningowy, w tym metody i techniki treningowe, kluczowe wybory projektowe wraz z uzasadnieniem i przyjętymi założeniami; wskazanie, pod kątem czego model ma być optymalizowany, i znaczenie poszczególnych parametrów, w stosownych przypadkach; c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metody porządkowania (np. czyszczenie, filtrowanie, itp.), liczby punktów danych, ich zakresu i głównych właściwości; w jaki sposób dane zostały uzyskane i wyselekcjonowane, a także wszystkie inne środki służące wykryciu nieodpowiednich źródeł danych i metod wykrywania możliwej do zidentyfikowania stronniczości, w stosownych przypadkach; d) zasoby obliczeniowe wykorzystywane do trenowania danego modelu (np. liczba operacji zmiennoprzecinkowych), czas trenowania oraz inne istotne informacje dotyczące trenowania; e) znane lub szacowane zużycie energii dla danego modelu. W odniesieniu do lit. e), w przypadku, gdy nie jest znane zużycie energii dla danego modelu, zużycie energii może opierać się na informacjach dotyczących wykorzystanych zasobów obliczeniowych. Sekcja 2 Dodatkowe informacje przekazywane przez dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Szczegółowy opis strategii ewaluacji, w tym jej wyników, na podstawie dostępnych publicznych protokołów i narzędzi ewaluacji lub na podstawie innych metod ewaluacji. Strategie ewaluacji obejmują kryteria ewaluacji, wskaźniki i metodykę identyfikacji ograniczeń. 2. W stosownych przypadkach szczegółowy opis środków wprowadzonych w celu przeprowadzenia wewnętrznych lub zewnętrznych testów kontradyktoryjnych (np. red teaming), dostosowań modelu, w tym dopasowania i dostrojenia. 3. W stosownych przypadkach, szczegółowy opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie. Załączni k XII Informacje dotyczące przejrzystości, o których mowa w art. 53 ust. 1 lit. b) - dokumentacja techniczna dostawców modeli AI ogólnego przeznaczenia przekazywana dostawcom niższego szczebla, którzy integrują dany model ze swoim systemem AI Informacje, o których mowa w art. 53 ust. 1 lit. b), zawierają przynajmniej następujące elementy: 1. Ogólny opis systemu AI ogólnego przeznaczenia, w tym: a) zadania, który dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) sposób, w jaki model, w stosownych przypadkach, współdziała lub może być wykorzystywany do współdziałania ze sprzętem lub oprogramowaniem, które nie są częścią samego modelu; e) w stosownych przypadkach, wersje odpowiedniego oprogramowania związanego z wykorzystaniem modelu AI ogólnego przeznaczenia; f) architektura i liczba parametrów; N Załącznik stosowany wprost nie wymaga wdrożenia g) formę (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; h) licencja dla danego modelu. 2. Opis elementów modelu oraz procesu jego rozwoju, w tym: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych, a także ich maksymalny rozmiar (np. rozmiar okna kontekstowego, itp.); c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metod porządkowania. Załączni k XIII Kryteria identyfikowania modeli AI ogólnego przeznaczenia z ryzykiem systemowym, o których mowa w art. 51 Do celów stwierdzenia czy model AI ogólnego przeznaczenia ma zdolności lub oddziaływanie równoważne z tymi, które określono w art. 51 ust. 1 lit. a) i b), Komisja uwzględnia następujące kryteria: a) liczbę parametrów modelu; b) jakość lub rozmiar zbioru danych, na przykład mierzone za pomocą tokenów; N Załącznik stosowany wprost nie wymaga wdrożenia c) liczbę obliczeń wykorzystanych do trenowania modelu, mierzoną w operacjach zmiennoprzecinkowych lub wskazaną przez połączenie innych zmiennych, takich jak szacunkowy koszt trenowania, szacowany czas potrzebny na trenowanie lub szacowane zużycie energii na potrzeby trenowania; d) format danych wejściowych i wyjściowych danego modelu, takie jak tekst-tekst (duże modele językowe), tekst- obraz, multimodalne, a także najnowocześniejsze progi dla określania zdolności dużego oddziaływania dla każdego formatu, jak również szczególne rodzaje danych wejściowych i wyjściowych (np. sekwencje biologiczne); e) poziomy odniesienia i oceny zdolności modelu, w tym analiza liczby zadań bez dodatkowego trenowania, zdolności adaptacji do uczenia się nowych, odrębnych zadań, poziom jego autonomii i skalowalności, narzędzia, do których ma dostęp; f) czy ze względu na swój zasięg ma duże oddziaływanie na rynek wewnętrzny, co należy zakładać, jeśli został udostępniony co najmniej 10 000 zarejestrowanych użytkowników biznesowych mających siedzibę w Unii; g) liczbę zarejestrowanych użytkowników końcowych. Odwrócona tabela zgodności Tytuł aktu prawnego Ustawa o systemach sztucznej inteligencji (UC71) Tytuł wdrażanego aktu prawnego Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Jednostka redakcyjna Treść przepisu ustawy Uzasadnienie wprowadzenia przepisu Art. 1 Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; Przepis pełni funkcję przepisu ogólnego i określa zakres przedmiotowy ustawy, w celu wskazania obszarów koniecznych do uzupełnienia, organizacji i wykonania przepisów rozporządzenia 2024/1689 na poziomie krajowym. Podstawa systemowej wykładni ustawy. 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 6 pkt 17 Art. 6. 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 7 Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 8 –17 Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę, oraz adres do korespondencji , a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 2, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidulanych i wyjaśnień. Art. 18 Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 39 Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Przepis jest punktem wyjścia dla kolejnego artykułu i stanowi podstawę prawną przetwarzania danych osobowych przez organ. Art. 40 Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie Przepis stanowi opis procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41 Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione Przepis wdraża obowiązek realizacji przez organ audytu danych osobowych, a więc i procedur ich przetwarzania, co zapewni w długim okresie zapewnienie zgodności z obowiązującymi przepisami i realizację praw podstawowych obywateli obcujących z organem. Art.43 Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44 Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 45-art. 47 Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Na mocy ustawy powołuje się Społeczną Radę do spraw Sztucznej Inteligencji, celem powołania jest zapewnienie koordynacji i wymiany informacji na temat sektora sztucznej inteligencji. Będzie ona organem opiniodawczo–doradczym Komisji i stanowić będzie platformę, w ramach której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. W ocenie projektodawcy, szeroki zakres zadań Komisji oraz potrzeba stałej grupy osób wspierających Komisję w realizacji jej zadań uzasadniają powołanie przy Komisji organu tego typu, reprezentującego sektor AI. Skład Społecznej Rady został tak zaprojektowany, by mogły do niego wchodzić osoby reprezentujące szeroki zakres podmiotów. Gwarancją niezależności Rady jest ograniczenie możliwości zgłaszania kandydatur wyłącznie do określonych w ustawie podmiotów. Podobnie jak w przypadku Członków Komisji, za udział w pracach Rady nie przewiduje się wynagrodzenia. Przepisy dodatkowo wprowadzają sposób funkcjonowania Rady. c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Radynie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Art. 57-art. 58 Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu Przedmiotowe przepisy stanowią wstęp do kolejnego rozdziału, określając sposób postępowania przygotowawczego przed rozpoczęciem właściwego postępowania przed organem. 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Art. 59 Art. 59. Komisja wszczyna postępowanie: 1) z urzędu w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy,; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Przepis nadaje postępowaniu przed Komisją charakter działania, dla którego zastosowanie mają przepisy Kodeksu postępowania administracyjnego. Art. 61 Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Artykuły dookreślają sposób postępowania przed organem charakterystyczny dla utrwalonego w doktrynie sposobu funkcjonowania organów w poszczególnych fazach postępowania administracyjnego. Wskazane przepisy cechują się rozwiązaniami przyjętymi dla rozwiązań proceduralnych w polskiej procedurze administracyjnej. Art. 63 Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy, w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 64 ust. 2-5 Art. 64. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 65 Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Przepis nie wynika bezpośrednio z dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, ma na celu odesłanie do przepisów kodeksu, jako że postępowanie przed organem spełnia przesłanki właściwe dla postępowania administracyjnego. Art. 66 Art. 66. 1. Nad postanowienia Komisji, o którym mowa w art. 62 ust. 1, oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. 2024 r. poz. 1568 z późn. zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja - nieprzekazując akt sądowi -– w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio Art.68 Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. Art. 69 Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm.), Komisja dołącza akta postępowania. Przepis wprowadza możliwość współpracy organu z organami ścigania, w przypadku naruszeń prawnokarnych. Art. 70 Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Przepis nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia – właściwe przepisy dot. sposobu dokumentacji określają jedynie obowiązki dostawcy systemu AI, a nie organu. Art. 71-art. 85 Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu umożliwienie sprawniejszego zamknięcia sprawy. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie - w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisją może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Przepisy szczegółowo określają sposób realizacji ugody z organem. polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu nie dłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu, o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie, o przedstawieniu projektu układu, zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę, ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 92-art. 94 Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; Przepis zawiera opis instytucji piaskownicy regulacyjnej, który pozostaje w gestii państwa członkowskiego i nie jest bezpośrednio wymagana implementacja – rozporządzenie nie określa szczegółowo warunków. 5) termin ogłoszenia o wynikach konkursu. 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawnych przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których ust. 6. Przepis art. 93 ust. 6 stosuje się. 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 97 Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. Art. 99 Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, Określenie dodatkowych kompetencji ministra, niezależnie od obowiązku implementacji. b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień, 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań, 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Art. 101 Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Przepis określa obowiązki podmiotu w celu prawidłowego i z uwzględnieniem interesu. Art. 102 Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Przepis odnoszący się wyłącznie do porządku krajowego. Art. 104-art. 106 Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. Przepis wpisuje sposób działania organu w ramy postępowania administracyjnego. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107 Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Przepis określa wewnątrzkrajowy sposób egzekucji kar należnych za naruszenie przepisów rozporządzenia. Art. 108-Art.110 Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzania 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm.). Przepis dopuszcza sankcje za niespełnienie obowiązków względem poddania się wykonaniu kary. Art.111 -Art. 119 Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568 i 1841, z 2005 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVFA. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Przepisy określają zmiany w przepisach obowiązujących, wpisując ustawę w system prawa polskiego i tym samym dostosowując do warunków krajowych, które nie mogą być z natury przedmiotem rozporządzenia 2024/1689. Art. 479 88b. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d § 1, art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art.17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.. Komisja oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz.U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 120 ust. 2-4 Art. 120. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 121 Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1 jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Przepisy regulują zasady budżetowania i limit wydatków budżetu państwa na funkcjonowanie organów i procedur wynikających z przepisów ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce - powołanie go w ustawie wymaga wprowadzenia tego przepisu. Projekt R O Z P O R Z Ą D Z E N I E M I N I S T R A C Y F RY Z A C J I 1) z dnia w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Na podstawie art. 91 ust. 6 ustawy z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) zarządza się, co następuje: § 1. Rozporządzenie określa wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż mikro-, mali i średni przedsiębiorcy oraz sposób jej wnoszenia. § 2. 1. Wysokość opłaty, o której mowa w § 1, wynosi 14 418 zł. 2. Opłata jest wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. § 3. Rozporządzenie wchodzi w życie po upływie 14 dni od dnia ogłoszenia. MINISTER CYFRYZACJI 1 Minister Cyfryzacji kieruje działem administracji rządowej – informatyzacja, na podstawie § 1 ust. 2 rozporządzenia Prezesa Rady Ministrów z dnia 18 grudnia 2023 r. w sprawie szczegółowego zakresu działania Ministra Cyfryzacji (Dz. U. poz. 2720). – 2 – Uzasadnienie Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) reguluje krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanym dalej \"rozporządzenie 2024/1689\". Tym samym wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Projekt rozporządzenia stanowi realizację upoważnienia ustawowego zawartego w art. 91 ust. 6 ww. ustawy, które zobowiązuje ministra właściwego do spraw informatyzacji do określenia wysokości opłaty za udział w piaskownicy regulacyjnej, o której mowa w art. 91 ust. 5, oraz sposobu jej wnoszenia. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. W zakresie opłat za uczestnictwo w piaskownicy regulacyjnej przyjęto rozwiązanie zapewniające zgodność z ustawą. Udział mikro-, małych i średnich przedsiębiorców jest nieodpłatny, co stanowi zachętę do korzystania z piaskownicy przez podmioty o największym potencjale innowacyjnym, a jednocześnie często dysponujące ograniczonymi zasobami finansowymi. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Dla pozostałych podmiotów ustalono jednorazową opłatę w wysokości 14 418 zł. co stanowi trzykrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). Kwota ta mieści się w ustawowym określonym art. 91 ust. 5 ustawy limicie, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów obsługowych, organizacyjnych – 3 – i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Rozporządzenie określa również sposób wnoszenia opłaty, przewidując jej jednorazowe uiszczenie. Takie rozwiązanie zapewnia pewność i przejrzystość procedury oraz pozwala na sprawne rozpoczęcie udziału podmiotów w działaniach prowadzonych w ramach piaskownicy. Wskazanie rachunku bankowego urzędu obsługującego ministra właściwego do spraw informatyzacji upraszcza proces płatności i pozwala na jednoznaczne przypisanie dokonanej wpłaty do konkretnego uczestnika. Rozporządzenie wejdzie w życie po upływie 14 dni od dnia ogłoszenia zapewniając odpowiedni okres vacatio legis. Projektowana regulacja nie zawiera przepisów technicznych w rozumieniu rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i nie podlega notyfikacji Komisji Europejskiej. Projektowana regulacja nie będzie wymagała notyfikacji Komisji Europejskiej w trybie ustawy z dnia 30 kwietnia 2004 r. o postępowaniu w sprawach dotyczących pomocy publicznej (Dz. U. z 2023 r. poz. 702, z późn. zm.). Projekt rozporządzenia nie jest sprzeczny z prawem Unii Europejskiej. Projekt rozporządzenia nie wymaga przedłożenia instytucjom i organom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce Rządowy Proces Legislacyjny zgodnie z § 52 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). – 4 – Nazwa projektu Rozporządzenie Ministra Cyfryzacji w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, pamela.krzypkowska@cyfra.gov.pl, sekretariat.DBI@cyfra.gov.pl Data sporządzenia 20.03.2026 Źródło: Upoważnienie ustawowe Art. 91 ust. 6 ustawy o systemach sztucznej inteligencji z dnia... (Dz. U. poz. ...) Nr w wykazie prac OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) określa krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanego dalej \"rozporządzeniem 2024/1689\". Tym samym ustawa wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ustawa przewiduje preferencyjne warunki uczestnictwa w piaskownicy dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Natomiast w zakresie innych podmiotów minister właściwy do spraw informatyzacji został zobligowany do określenia, w drodze rozporządzenia, wysokości opłaty, za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Problem, który rozwiązuje rozporządzenie, dotyczy uzupełnienia braku określenia wysokości opłaty za udział w piaskownicy regulacyjnej oraz zasad jej wnoszenia, co w praktyce mogłoby prowadzić do powstania niepewności prawnej i finansowej po stronie podmiotów ubiegających się o zakwalifikowanie do tego mechanizmu. Brak jasnych reguł w tym zakresie utrudniałby planowanie kosztów związanych z uczestnictwem, mógłby powodować zróżnicowanie w podejściu do poszczególnych podmiotów oraz ograniczać transparentność i przewidywalność całego procesu. Taka sytuacja mogłaby w konsekwencji negatywnie wpływać na zainteresowanie piaskownicą regulacyjną, a tym samym ograniczać jej potencjał jako narzędzia wspierającego rozwój innowacyjnych rozwiązań w obszarze systemów sztucznej inteligencji. Ustawa przewiduje obowiązek uiszczenia opłaty za udział w piaskownicy, ale nie zawiera szczegółowych przepisów w tym zakresie, pozostawiając je do uregulowania w akcie wykonawczym. Rozporządzenie stanowi zatem realizację ustawowego upoważnienia zawartego w art. 91 ust. 6, precyzując zarówno wysokość opłaty, jak i sposób jej wnoszenia. Dzięki temu możliwe jest zapewnienie jednolitych, przejrzystych i przewidywalnych reguł uczestnictwa, które zwiększają pewność prawną, wzmacniają zaufanie podmiotów do procedury kwalifikacyjnej i gwarantują spójne stosowanie przepisów ustawy przez organ odpowiedzialny za prowadzenie piaskownicy regulacyjnej. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji, i oczekiwany efekt Zgodnie z art. 91 ust. 6, określenie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, musi zostać określone w formie rozporządzenia. – 5 – Rekomendowanym rozwiązaniem jest wprowadzenie jednolitej opłaty za udział w piaskownicy regulacyjnej w wysokości 14 418 zł. Kwota ta mieści się w ustawowym, określonym w art. 91 ust. 5 ustawy, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Opłata będzie wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. Przyjęcie takiego mechanizmu pozwala na uproszczenie procedury oraz zapewnienie przewidywalności i przejrzystości zarówno dla uczestników, jak i dla organu odpowiedzialnego za obsługę piaskownicy. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Hiszpania była jednym z pierwszych państw członkowskich, które zgłosiły gotowość do wdrażania piaskownic, i w praktyce pełni rolę pilotażową dla innych krajów UE. Piaskownica hiszpańska działa przy udziale Agencja Española de Supervisión de la Inteligencia Artificial (AESIA), czyli hiszpańskiej agencji ds. nadzoru nad sztuczną inteligencją powołanej w 2022 r. z siedzibą w A Coruña. W przypadku sektora MŚP i startupów podobnie jak w polskim projekcie ustawy o systemach sztucznej inteligencji udział w piaskownicy regulacyjnej jest bezpłatny. Co do pozostałych podmiotów pozostała możliwość proporcjonalnego dofinansowania części kosztów związanych z udziałem w piaskownic regulacyjnej. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Konieczność sprawowania nadzoru nad testami w ramach piaskownicy regulacyjnej Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Obowiązki związane z ustanowieniem piaskownicy regulacyjnej, a także podejmowaniem decyzji w sprawie możliwości udziału w piaskownicy Ministerstwo Cyfryzacji 1 Informacje ogólnodostępne Obsługa przepływów finansowych JST 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Przedsiębiorcy sektora sztucznej inteligencji (Duże przedsiębiorstwa) Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Administracja publiczna Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Projekt zostanie poddany procesowi uzgodnień oraz zostanie przedstawiony do opiniowania i konsultacji publicznych. Projekt rozporządzenia zostanie zamieszczony w Biuletynie Informacji Publicznych na stronie podmiotowej Ministerstwa Cyfryzacji, stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Zgodnie z par. 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. - Regulamin Prac Rady Ministrów (M.P. z 2024 r. poz. 806 oraz z 2025 r. poz. 408) projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie Rządowy Proces Legislacyjny. – 6 – 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 1 2 3 4 5 6 7 8 9 10 Łącznie (0-10) Dochody ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Wydatki ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Saldo ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Źródła finansowania Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Przewiduje się, że współfinansowanie piaskownic regulacyjnych odbędzie się ze środków europejskich. Wskazane w rozporządzeniu kwoty związane są z zabezpieczeniem pokrycia kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej. Na obecnym etapie prac legislacyjnych wydatki oraz dochody z tytułu piaskownic regulacyjnych nie są możliwe do oszacowania. W Polsce obowiązują jedynie przepisy w zakresie piaskownicy regulacyjnej energetycznej która została uruchomiona po raz pierwszy w 2026 r. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0- 10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa - - - - - - - sektor mikro-, małych i średnich przedsiębiorstw - - - - - - - rodzina, obywatele oraz gospodarstwa domowe - - - - - - - W ujęciu niepieniężnym duże przedsiębiorstwa Tak - wpływ zostanie oszacowany na późniejszym etapie sektor mikro-, małych i średnich przedsiębiorstw Tak - - wpływ zostanie oszacowany na późniejszym etapie rodzina, obywatele oraz gospodarstwa domowe Brak wpływu Niemierzalne Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie projektowanego rozporządzenia będzie miało wpływu na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców. – 7 – 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu ☒ nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). ☐ tak ☐ nie ☒ nie dotyczy ☐ zmniejszenie liczby dokumentów ☐ zmniejszenie liczby procedur ☐ skrócenie czasu na załatwienie sprawy ☐ inne: ... ☐ zwiększenie liczby dokumentów ☐ zwiększenie liczby procedur ☐ wydłużenie czasu na załatwienie sprawy ☐ inne: ... Wprowadzane obciążenia są przystosowane do ich elektronizacji. ☐ tak ☐ nie ☒ nie dotyczy Komentarz: Projekt nie przewiduje zmian w zakresie obciążeń regulacyjnych. 9. Wpływ na rynek pracy Projektowane przepisy nie mają bezpośredniego wpływu na rynek pracy. 10. Wpływ na pozostałe obszary ☐ środowisko naturalne ☐ sytuacja i rozwój regionalny ☐ inne: ... ☐ demografia ☐ mienie państwowe ☐ informatyzacja ☐ zdrowie Omówienie wpływu Wejście w życie przepisów nie będzie miało wpływu na pozostałe obszary. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby rozporządzenie weszło w życie po upływie 14 dni od dnia ogłoszenia. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Nie przewiduje się ewaluacji efektów projektu. 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak 1 DPUE.950.370/2025/20 kwm Warszawa, /elektroniczny znacznik czasu/ Dot.: RM-0610-41-26 z 25.03.2026 r. Pani Joanna Knapińska Sekretarz Rady Ministrów Opinia o zgodności z prawem Unii Europejskiej projektu ustawy o systemach sztucznej inteligencji, wyrażona przez ministra właściwego do spraw członkostwa Rzeczypospolitej Polskiej w Unii Europejskiej Szanowna Pani Minister, w związku z przedłożonym projektem ustawy pozwalam sobie wyrazić poniższą opinię. Projekt ustawy jest zgodny z prawem Unii Europejskiej. Z wyrazami szacunku Do wiadomości: Pan Krzysztof Gawkowski Wiceprezes Rady Ministrów Minister Cyfryzacji\n--- KONIEC DOKUMENTU ---\n\nPAMIĘTAJ: Twoja odpowiedź MUSI być wyłącznie poprawnym obiektem JSON. Nie dodawaj żadnych dodatkowych znaków, komentarzy ani tekstu przed znacznikiem '{' ani po znaczniku '}'. Cała odpowiedź musi być parsowalna jako JSON.\nNa podstawie POWYŻSZEGO dokumentu, wypełnij poniższą strukturę JSON:\nOto struktura JSON, której oczekuję (wypełnij ją treścią):\n{\n  \"pl_ai_title\": \"Nowy, krótki tytuł dla aktu prawnego po polsku, oddający sedno wprowadzanych zmian (np. maksymalnie 10-12 słów).\",\n  \"pl_summary\": \"2-3 zdania zwięzłego podsumowania treści aktu prawnego po polsku, napisane z perspektywy wpływu na życie codzienne obywateli.\",\n  \"pl_key_points\": [\n    \"Pierwszy krótki punkt po polsku dotyczący najważniejszych wprowadzanych rozwiązań lub zmian.\",\n    \"Drugi krótki punkt po polsku...\"\n  ],\n  \"eng_ai_title\": \"A new, short title for the legal act in English, capturing the essence of the changes (e.g., max 10-12 words).\",\n  \"eng_summary\": \"2-3 sentences summarizing the legal act in English, from the perspective of its impact on citizens' daily lives.\",\n  \"eng_key_points\": [\n    \"First short bullet point in English regarding the most important solutions or changes being introduced.\",\n    \"Second short bullet point in English...\"\n  ],\n  \"de_ai_title\": \"Ein neuer, kurzer Titel für das Rechtsdokument auf Deutsch, der den Kern der Änderungen erfasst (z.B. max. 10-12 Wörter).\",\n  \"de_summary\": \"2-3 Sätze Zusammenfassung des Rechtsdokuments auf Deutsch, aus der Perspektive seiner Auswirkungen auf das tägliche Leben der Bürger.\",\n  \"de_key_points\": [\n    \"Erster kurzer Stichpunkt auf Deutsch zu den wichtigsten eingeführten Lösungen oder Änderungen.\",\n    \"Zweiter kurzer Stichpunkt auf Deutsch...\"\n  ],\n  \"fr_ai_title\": \"Un nouveau titre court pour l'acte juridique en français, saisissant l'essence des changements (par exemple, 10-12 mots maximum).\",\n  \"fr_summary\": \"Résumé de 2-3 phrases de l'acte juridique en français, du point de vue de son impact sur la vie quotidienne des citoyens.\",\n  \"fr_key_points\": [\n    \"Premier court point en français concernant les solutions ou changements les plus importants introduits.\",\n    \"Deuxième court point en français...\"\n  ],\n  \"es_ai_title\": \"Un nuevo título breve para el acto jurídico en español, que recoja la esencia de los cambios (por ejemplo, máximo 10-12 palabras).\",\n  \"es_summary\": \"Resumen de 2-3 frases del acto jurídico en español, desde la perspectiva de su impacto en la vida cotidiana de los ciudadanos.\",\n  \"es_key_points\": [\n    \"Primer punto breve en español sobre las soluciones o cambios más importantes que se introducen.\",\n    \"Segundo punto breve en español...\"\n  ],\n  \"it_ai_title\": \"Un nuovo titolo breve per l'atto giuridico in italiano, che colga l'essenza delle modifiche (ad es. massimo 10-12 parole).\",\n  \"it_summary\": \"Riepilogo di 2-3 frasi dell'atto giuridico in italiano, dal punto di vista del suo impatto sulla vita quotidiana dei cittadini.\",\n  \"it_key_points\": [\n    \"Primo breve punto in italiano riguardante le soluzioni o le modifiche più importanti introdotte.\",\n    \"Secondo breve punto in italiano...\"\n  ],\n  \"nl_ai_title\": \"Een nieuwe, korte titel voor de rechtshandeling in het Nederlands, die de essentie van de wijzigingen weergeeft (bijv. max. 10-12 woorden).\",\n  \"nl_summary\": \"Samenvatting van 2-3 zinnen van de rechtshandeling in het Nederlands, vanuit het perspectief van de impact op het dagelijks leven van burgers.\",\n  \"nl_key_points\": [\n    \"Eerste korte punt in het Nederlands betreffende de belangrijkste geïntroduceerde oplossingen of wijzigingen.\",\n    \"Tweede korte punt in het Nederlands...\"\n  ],\n  \"pt_ai_title\": \"Um novo título curto para o ato jurídico em português, capturando a essência das mudanças (por exemplo, máx. 10-12 palavras).\",\n  \"pt_summary\": \"Resumo de 2-3 frases do ato jurídico em português, na perspetiva do seu impacto na vida quotidiana dos cidadãos.\",\n  \"pt_key_points\": [\n    \"Primeiro ponto curto em português sobre as soluções ou alterações mais importantes introduzidas.\",\n    \"Segundo ponto curto em português...\"\n  ],\n  \"category\": [\"Categorize the document into one category by default, based on the field it primarily concerns. Choose up to 3 if the document also touches upon SIGNIFICANT issues from other categories. You MUST select categories ONLY from the following list: Health, Education, Family, Taxes, Labor, Security, Environment, Courts and Law, Transport, Benefits, Real Estate, Media and Culture, Local Government, Migration, Agriculture, Public Investments, Informatization, Economy. If the document does not definitively fit any of these, you MUST use \"Other\". If you use \"Other\", it should be the ONLY category selected. Do NOT invent new categories. The response must be an array of strings, e.g., [\"Taxes\", \"Family\"].\"]\n}\n\n",
      "ai_response_raw": "{\n  \"pl_ai_title\": \"Nowe zasady i nadzór nad sztuczną inteligencją w Polsce.\",\n  \"pl_summary\": \"Ustawa wprowadza unijne przepisy o sztucznej inteligencji (AI Act), mające zagwarantować, że technologie te będą bezpieczne i nie naruszą naszych praw. Powołana zostanie specjalna Komisja, do której obywatele będą mogli zgłaszać skargi na działanie AI, a firmy zyskają bezpieczne środowisko do testowania nowych rozwiązań.\",\n  \"pl_key_points\": [\n    \"Powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kontrolować rynek i nakładać kary za łamanie przepisów.\",\n    \"Prawo dla każdego obywatela do złożenia skargi, jeśli system sztucznej inteligencji naruszy jego prawa lub bezpieczeństwo.\",\n    \"Utworzenie tak zwanych piaskownic regulacyjnych, czyli bezpiecznych przestrzeni dla firm (darmowych dla małych i średnich przedsiębiorstw), gdzie będą mogły testować innowacyjne systemy AI przed wypuszczeniem ich na rynek.\",\n    \"Możliwość uzyskania przez firmy wiążących opinii prawnych, co ułatwi im legalne i bezpieczne rozwijanie technologii.\",\n    \"Wysokie kary finansowe dla firm łamiących przepisy, z możliwością ich obniżenia, jeśli firma szybko naprawi błąd i będzie współpracować z urzędem.\"\n  ],\n  \"eng_ai_title\": \"New rules and supervision for artificial intelligence in Poland.\",\n  \"eng_summary\": \"The law implements the EU AI Act to ensure that artificial intelligence technologies are safe and respect fundamental rights. A special Commission will be established where citizens can file complaints about AI, while companies will gain a safe environment to test new solutions.\",\n  \"eng_key_points\": [\n    \"Creation of the Commission for the Development and Security of AI to supervise the market and penalize violations.\",\n    \"The right for every citizen to file a complaint if an AI system violates their rights or safety.\",\n    \"Establishment of regulatory sandboxes (free for SMEs) allowing companies to safely test innovative AI systems before market launch.\",\n    \"Companies can obtain binding legal opinions to help them develop technologies legally and safely.\",\n    \"High financial penalties for non-compliant companies, with potential reductions if they quickly fix the issue and cooperate.\"\n  ],\n  \"de_ai_title\": \"Neue Regeln und Aufsicht für Künstliche Intelligenz in Polen.\",\n  \"de_summary\": \"Das Gesetz setzt den EU-KI-Gesetz (AI Act) um, damit KI-Technologien sicher sind und Grundrechte respektieren. Es wird eine spezielle Kommission eingerichtet, bei der Bürger Beschwerden über KI einreichen können, während Unternehmen eine sichere Umgebung zum Testen neuer Lösungen erhalten.\",\n  \"de_key_points\": [\n    \"Gründung der Kommission für Entwicklung und Sicherheit von KI zur Marktüberwachung und Verhängung von Strafen.\",\n    \"Das Recht für jeden Bürger, eine Beschwerde einzureichen, wenn ein KI-System seine Rechte oder Sicherheit verletzt.\",\n    \"Schaffung von Reallaboren (kostenlos für KMU), in denen Unternehmen innovative KI-Systeme vor der Markteinführung sicher testen können.\",\n    \"Unternehmen können verbindliche Rechtsgutachten einholen, um Technologien legal und sicher zu entwickeln.\",\n    \"Hohe Geldstrafen für Unternehmen bei Verstößen, mit der Möglichkeit der Minderung bei schneller Fehlerbehebung und Kooperation.\"\n  ],\n  \"fr_ai_title\": \"Nouvelles règles et supervision de l'intelligence artificielle en Pologne.\",\n  \"fr_summary\": \"La loi met en œuvre la législation européenne sur l'IA (AI Act) pour garantir que ces technologies sont sûres et respectent les droits fondamentaux. Une Commission spéciale sera créée pour recevoir les plaintes des citoyens, tandis que les entreprises bénéficieront d'un environnement sûr pour tester de nouvelles solutions.\",\n  \"fr_key_points\": [\n    \"Création de la Commission pour le développement et la sécurité de l'IA pour surveiller le marché et sanctionner les infractions.\",\n    \"Le droit pour chaque citoyen de déposer une plainte si un système d'IA viole ses droits ou sa sécurité.\",\n    \"Mise en place de bacs à sable réglementaires (gratuits pour les PME) permettant aux entreprises de tester des systèmes d'IA innovants avant leur lancement.\",\n    \"Les entreprises pourront obtenir des avis juridiques contraignants pour développer des technologies en toute légalité et sécurité.\",\n    \"Des sanctions financières élevées pour les entreprises en infraction, avec des réductions possibles en cas de correction rapide et de coopération.\"\n  ],\n  \"es_ai_title\": \"Nuevas normas y supervisión para la inteligencia artificial en Polonia.\",\n  \"es_summary\": \"La ley implementa la Ley de IA de la UE para garantizar que estas tecnologías sean seguras y respeten los derechos fundamentales. Se creará una Comisión especial donde los ciudadanos podrán presentar quejas sobre la IA, mientras que las empresas obtendrán un entorno seguro para probar nuevas soluciones.\",\n  \"es_key_points\": [\n    \"Creación de la Comisión de Desarrollo y Seguridad de la IA para supervisar el mercado y sancionar las infracciones.\",\n    \"El derecho de todo ciudadano a presentar una queja si un sistema de IA vulnera sus derechos o su seguridad.\",\n    \"Creación de entornos de pruebas regulatorios (gratuitos para las pymes) para que las empresas prueben sistemas de IA innovadores antes de su lanzamiento.\",\n    \"Las empresas podrán obtener dictámenes jurídicos vinculantes para desarrollar tecnologías de forma legal y segura.\",\n    \"Altas sanciones económicas para las empresas infractoras, con posibles reducciones si corrigen el error rápidamente y cooperan.\"\n  ],\n  \"it_ai_title\": \"Nuove regole e supervisione per l'intelligenza artificiale in Polonia.\",\n  \"it_summary\": \"La legge implementa la normativa UE sull'IA (AI Act) per garantire che queste tecnologie siano sicure e rispettino i diritti fondamentali. Verrà creata una Commissione speciale a cui i cittadini potranno presentare reclami sull'IA, mentre le aziende avranno un ambiente sicuro per testare nuove soluzioni.\",\n  \"it_key_points\": [\n    \"Creazione della Commissione per lo Sviluppo e la Sicurezza dell'IA per supervisionare il mercato e sanzionare le violazioni.\",\n    \"Il diritto per ogni cittadino di presentare un reclamo se un sistema di IA viola i suoi diritti o la sua sicurezza.\",\n    \"Istituzione di spazi di sperimentazione normativa (gratuiti per le PMI) per consentire alle aziende di testare sistemi di IA innovativi prima del lancio.\",\n    \"Le aziende potranno ottenere pareri legali vincolanti per sviluppare tecnologie in modo legale e sicuro.\",\n    \"Sanzioni pecuniarie elevate per le aziende inadempienti, con possibili riduzioni in caso di rapida correzione e cooperazione.\"\n  ],\n  \"nl_ai_title\": \"Nieuwe regels en toezicht op kunstmatige intelligentie in Polen.\",\n  \"nl_summary\": \"De wet implementeert de EU AI-verordening (AI Act) om ervoor te zorgen dat deze technologieën veilig zijn en de grondrechten respecteren. Er komt een speciale commissie waar burgers klachten over AI kunnen indienen, terwijl bedrijven een veilige omgeving krijgen om nieuwe oplossingen te testen.\",\n  \"nl_key_points\": [\n    \"Oprichting van de Commissie voor Ontwikkeling en Veiligheid van AI om toezicht te houden op de markt en overtredingen te bestraffen.\",\n    \"Het recht voor elke burger om een klacht in te dienen als een AI-systeem zijn rechten of veiligheid schendt.\",\n    \"Oprichting van regulerende zandbakken (gratis voor het mkb) waar bedrijven innovatieve AI-systemen veilig kunnen testen voor de marktintroductie.\",\n    \"Bedrijven kunnen bindende juridische adviezen krijgen om technologieën legaal en veilig te ontwikkelen.\",\n    \"Hoge financiële boetes voor bedrijven die de regels overtreden, met mogelijke verlagingen als ze de fout snel herstellen en meewerken.\"\n  ],\n  \"pt_ai_title\": \"Novas regras e supervisão para a inteligência artificial na Polónia.\",\n  \"pt_summary\": \"A lei implementa o Regulamento de IA da UE (AI Act) para garantir que estas tecnologias sejam seguras e respeitem os direitos fundamentais. Será criada uma Comissão especial onde os cidadãos poderão apresentar queixas sobre a IA, enquanto as empresas terão um ambiente seguro para testar novas soluções.\",\n  \"pt_key_points\": [\n    \"Criação da Comissão de Desenvolvimento e Segurança da IA para supervisionar o mercado e penalizar as infrações.\",\n    \"O direito de qualquer cidadão apresentar uma queixa se um sistema de IA violar os seus direitos ou a sua segurança.\",\n    \"Criação de ambientes de teste regulamentares (gratuitos para as PME) para as empresas testarem sistemas de IA inovadores antes do lançamento.\",\n    \"As empresas poderão obter pareceres jurídicos vinculativos para desenvolver tecnologias de forma legal e segura.\",\n    \"Elevadas sanções financeiras para as empresas infratoras, com possíveis reduções se corrigirem o erro rapidamente e cooperarem.\"\n  ],\n  \"category\": [\n    \"Informatization\",\n    \"Economy\",\n    \"Courts and Law\"\n  ]\n}"
    },
    {
      "timestamp": "2026-04-16T16:07:45.214Z",
      "source_url": "https://api.sejm.gov.pl/sejm/term10/prints/2443/2443.pdf",
      "model": "gemini-flash-lite-latest",
      "prompt_sent": "\nROLE: Fact Checker.\nZADANIE: Porównaj SOURCE (oryginał) i SUMMARY (streszczenie przygotowane przez inne AI).\n\nTwoim celem jest wykrycie \"ZMYŚLONYCH KONKRETÓW\" (Fabricated Entities) w SUMMARY.\n\nSOURCE:\nDruk nr 2443 Warszawa, 9 kwietnia 2026 r. SEJM RZECZYPOSPOLITEJ POLSKIEJ X kadencja Prezes Rady Ministrów RM-0610-41-26 Pan Włodzimierz Czarzasty Marszałek Sejmu Rzeczypospolitej Polskiej Szanowny Panie Marszałku, na podstawie art. 118 ust. 1 Konstytucji Rzeczypospolitej Polskiej przedstawiam Sejmowi Rzeczypospolitej Polskiej projekt ustawy - o systemach sztucznej inteligencji. Projekt ma na celu wykonanie prawa Unii Europejskiej. Do prezentowania stanowiska Rządu w tej sprawie w toku prac parlamentarnych został upoważniony Minister Cyfryzacji. Z poważaniem Donald Tusk /podpisano kwalifikowanym podpisem elektronicznym/ Tłoczono z polecenia Marszałka Sejmu Rzeczypospolitej Polskiej Projekt U S T A W A z dnia o systemach sztucznej inteligencji 1), 2) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 2. 1. Ustawy nie stosuje się do: 1) Niniejsza ustawa służy stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024). 2) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustawę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustawę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. – 2 – 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 3) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328 i 370. – 3 – a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. 4 ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 340, 368, 620, 680, 1022, 1180, 1301, 1302, 1366, 1795, 1804, 1817, 1822, 1823, 1838 i 1858 oraz z 2026 r. poz. 203. – 4 – 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; – 5 – 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 98 ust. 2, – 6 – – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę oraz adres do korespondencji, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. – 7 – Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. – 8 – Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; – 9 – 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: – 10 – 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o – 11 – systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem do spraw usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; – 12 – 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji. Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę – 13 – poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; – 14 – 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. – 15 – Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. – 16 – Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; – 17 – 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; – 18 – 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się – 19 – pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw – 20 – informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; – 21 – 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione. Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami – 22 – międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. – 23 – 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 5) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, 5) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723 oraz z 2025 r. poz. 39 i 1661. – 24 – b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; – 25 – 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. – 26 – 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. – 27 – 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. – 28 – 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących – 29 – własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnia mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, – 30 – lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od – 31 – dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród – 32 – z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości – 33 – albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. – 34 – Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę, Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. – 35 – Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części, lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. – 36 – 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. – 37 – U. z 2024 r. poz. 1568, z późn. zm. 6) ) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 6) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 38 – 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm. 7 ), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 7) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 304, 1178, 1420, 1872 oraz z 2026 r. poz. 187. – 39 – 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. – 40 – 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu niedłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. – 41 – 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. – 42 – Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się z zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. – 43 – 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. – 44 – 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; – 45 – 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: – 46 – 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 5, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. – 47 – 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których mowa w ust. 6. Przepis art. 93 ust. 6 stosuje się. – 48 – 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostępnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. – 49 – 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej, d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. – 50 – 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. – 51 – 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. 8) ), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. 8) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 497, 621, 622, 769, 820, 1203, 1235, 1414, 1417, 1669, 1804 i 1863 oraz z 2026 r. poz. 252 i 347. – 52 – Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. – 53 – Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 9) ). Rozdział 9 Zmiany w przepisach obowiązujących Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm. 10) ) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA ... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 88b . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. 9) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872. 10) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 54 – Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. – 55 – § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d , art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. – 56 – Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji – 57 – chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; – 58 – 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 122. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia. UZASADNIENIE 1. Cel i potrzeba ustawy Celem projektowanej ustawy jest powołanie w Polsce systemu sprawowania nadzoru nad systemami sztucznej inteligencji zgodnego z ramami prawnymi ustanowionymi rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689” albo „aktem o AI”. Rozporządzenie („Akt o AI”) jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych. Nadrzędnym celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji, zwanych dalej „systemami AI”, w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI, a także wspierania innowacji w tym zakresie. Dla osiągnięcia założonego celu konieczne jest przyjęcie przez państwa członkowskie aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 w sposób spójny i skoordynowany z nadzorem realizowanym na poziomie Komisji Europejskiej i Rady Europejskiej. Projektowane przepisy powinny nadać niezbędne kompetencje krajowym organom nadzoru rynku lub takie organy utworzyć, by umożliwić im skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Z uwagi na charakter wymaganych zmian (m.in. przyznanie nowych uprawnień nadzorczych, stworzenie mechanizmu skargowego, trybu wydawania decyzji w zakresie określenie kar i innych środków administracyjnych), w przypadku Polski nie jest możliwe 2 zastosowanie wyłącznie rozwiązań pozalegislacyjnych. Dla zapewnienia zgodnych z polskim prawem, skutecznych narzędzi interwencji w zakresie regulowanym przez rozporządzenie konieczne jest przyjęcie przez Rzeczpospolitą Polską aktu prawnego w randze ustawy. Zgodnie z prawem europejskim rozporządzenie obowiązuje w Unii od dnia 1 sierpnia 2024 r. W dniu 2 lutego 2025 r. w życie weszły przepisy dotyczące systemów zakazanych. W dniu 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące organów notyfikujących i jednostek notyfikowanych oraz kar za naruszenia przepisów o zakazanych praktykach w zakresie AI. Zgodnie z terminami określonymi w rozporządzeniu 2024/1689 proces ten zakończy się 2 sierpnia 2027 r. W związku z powyższymi na obecnym etapie prac nad ustanowieniem europejskiego systemu nadzoru nad sztuczną inteligencją konieczne jest podjęcie działań legislacyjnych, które pozwolą Polsce wywiązać się ze wszystkich zobowiązań określonych w rozporządzeniu 2024/1689, które weszły w życie do dnia 2 sierpnia 2025 r. Przyjęcie przepisów, które stanowią treść projektu ustawy do polskiego porządku prawnego pozwoli również stworzyć prawne i organizacyjne podstawy umożliwiające w przyszłości realizację pozostałych, określonych w przepisach rozporządzenia 2024/1689 obowiązków, których wejście w życie nastąpi stopniowo do dnia 2 sierpnia 2027 r. Zgodnie z zasadami prawa Unii Europejskiej, podejmowane działania legislacyjne opierają się na założeniu, że ustawa ma zawierać przepisy wprost przekazane przez europejskiego prawodawcę do uregulowania w prawie krajowym oraz takich, co do których rozporządzenie 2024/1689 pozostawiło państwom członkowskim pewną swobodę regulacyjną. W związku z powyższym w polskim prawie należy zrealizować działania prawodawcze służące realizacji przepisów rozporządzenia 2024/1689 w wymiarze ustrojowym, jak i proceduralnym. Dotyczą one m.in.: 1) wskazania właściwych organów krajowych, tj.: – organu nadzoru rynku, – organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie; 2) określenia procedur postępowania przed organem nadzoru, w tym umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk AI, czy umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie rozporządzenia 2024/1689; 3 3) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689. Ponadto projekt ustawy umożliwi rozpoczęcie realizacji celów określonych w art. 1 ust. 2 lit. g rozporządzenia 2024/1689, które mówią o wspieraniu rozwoju zastosowań AI w krajach członkowskich. Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną AI. Analiza omawianego zagadnienia wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, podczas gdy alternatywne sposoby rozwiązania problemu należy ocenić jako niewystarczające do osiągnięcia oczekiwanego celu. Szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest szerokie stosowanie technologii sztucznej inteligencji, dodatkowo przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Projekt ustawy pozwoli wprowadzić do polskiego prawa mechanizmy umożliwiające realizację obowiązków określonych w rozdziałach I, II, III sekcja 4, V, VII, IX, XI rozporządzenia 2024/1689. W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące określenia krajowego organu nadzoru, postępowania przed tym organem, postępowania kontrolnego, organu notyfikującego, certyfikacji, sądowej ochrony praw przysługujących obywatelom, jak również wszczynanie postępowań i nakładanie administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689. Należy również zaznaczyć, że omawiany projekt ustawy o systemach sztucznej inteligencji nie realizuje wszystkich obowiązków wynikających z rozporządzenia 2024/1689. Treść projektu, który wychodzi naprzeciw wymaganiom wynikającym z przepisów polskiego oraz europejskiego prawa, jest wynikiem prowadzonych przez Ministerstwo Cyfryzacji prac i analiz merytorycznych, komunikacji z przedstawicielami Europejskiego Urzędu ds. Sztucznej Inteligencji oraz konsultacji z innymi instytucjami publicznymi w Polsce i interesariuszami społecznymi. Należy zaznaczyć, że rozporządzenie pozostawia państwom członkowskim pewną elastyczność m.in. w wyznaczaniu lub stworzeniu odpowiednich organów, procedur 4 administracyjnych i sądowych. W przypadku Polski powoduje to konieczność priorytetyzacji działań w zakresie utworzenia systemu nadzoru rynku nad systemami AI w celu umożliwienia stosowania tych przepisów, które weszły w życie do dnia 2 sierpnia 2025 r., przy jednoczesnym prowadzeniu działań komunikacyjnych i administracyjnych. W pozostałym, określonym w rozporządzeniu 2024/1689, zakresie przedmiotowym Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych). 2. Omówienie projektowanych przepisów Projektowana ustawa określa organizację i sposób sprawowania krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia, a także zapewnienia rozwoju w tym obszarze. Zakres przedmiotowy projektu wynika wprost z przepisów rozporządzenia 2024/1689, w którym znajduje się znaczna część przepisów merytorycznych stosowanych bezpośrednio. Projektowana ustawa koncentruje się na ustanowieniu roli organów państwa w tym obszarze oraz ustanowieniu środków rozwoju i nadzoru. Przygotowując się do wyżej opisanych prac legislacyjnych na rzecz zapewnienia skutecznego stosowania rozporządzenia 2024/1689, Ministerstwo Cyfryzacji przeprowadziło szereg działań obejmujących: analizy prawne, instytucjonalne i techniczne oraz dwukrotne konsultacje z interesariuszami zarówno sektora publicznego, jak i prywatnego i pozarządowego. Analizy polskiego prawa oraz otoczenia instytucjonalnego prowadzone przez Ministerstwo Cyfryzacji wykazały brak istnienia w naszym kraju organu lub instytucji publicznej spełniających wymogi określone w rozporządzeniu 2024/1689 zarówno w zakresie statusu prawnego i roli ustrojowej, jak i wymaganych kwalifikacji pracowników. Rosnąca rola systemów sztucznej inteligencji oraz skala zagrożeń, jakie może powodować ich niewłaściwe stosowanie, powodują, że konieczne jest wyznaczenie organu, który tym wyzwaniom sprosta. W związku z potrzebami zapewnienia właściwego poziomu ochrony podstawowych praw człowieka, praw obywateli i konsumentów, rosnąć powinny również kompetencje organów nadzoru. W Polsce od kilku lat obserwujemy zwiększanie wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielanie ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych. Biorąc pod uwagę to, że w ostatnim czasie każdy z tych 5 organów przyjął na siebie realizacje nowych, poważnych obowiązków, zasadne jest, aby właściwy organ mógł realizować je w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli. W wyniku powyżej opisanych działań analitycznych, jak również ciągłego procesu zapoznawania się z aktualnym stanem wiedzy eksperckiej 1 , prowadzeniem dyskusji roboczych z przedstawicielami innych instytucji publicznych oraz uwzględnianiem wniosków wypracowanych na wcześniejszych etapach w ramach prac Grupy Roboczej ds. AI 2 , Ministerstwo Cyfryzacji ustaliło, że najbardziej efektywnym sposobem osiągnięcia celu nałożonego na Polskę przez rozporządzenie 2024/1689 jest ustanowienie nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucji tej, mającej pełnić funkcję nie tylko organu nadzoru nad rynkiem, ale również przyczyniającej się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnienia funkcji podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, w projekcie nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”. W celu uzyskania dodatkowych informacji i opinii ekspertów oraz przedstawicieli opinii publicznej, Ministerstwo Cyfryzacji przeprowadziło otwarte dla wszystkich zainteresowanych prekonsultacje założeń prac nad projektem ustawy (realizacja w terminie od 2 kwietnia 2024 r. do 23 kwietnia 2024 r). Respondenci tego procesu w zdecydowanej większości opowiedzieli się za koniecznością powołania nowego organu nadzoru jako najlepszym rozwiązaniem systemowym odpowiadającym potrzebom rozwoju polskiego ekosystemu sztucznej inteligencji 3 . Należy podkreślić także, że rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte i uchwalone w formie ustawy w Hiszpanii 4 . Dodatkową okolicznością przemawiającą za (systemową i ekonomiczną) optymalnością wskazanego modelu jest mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia tych wymagań oraz prowadziłoby do szkodliwej 1 A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities | European Journal of Risk Regulation | Cambridge Core 2024. 2 RAPORT: Analiza związku Aktu w sprawie sztucznej inteligencji z wybranymi obowiązującymi i projektowanymi regulacjami prawnymi – Portal sztucznej inteligencji – Portal G ov.pl (www.gov.pl). 3 Wdrożenie Aktu o AI – Ministerstwo Cyfryzacji – Portal Gov.pl (www.gov.pl). 4 Estrategia de Inteligencia Artificial 2024. 6 konkurencji między organami i rywalizacji o wąskie grono wysoko wyspecjalizowanych ekspertów. Powołanie nowego organu jawi się również jako racjonalne z punktu widzenia interesu sektora finansów publicznych. Jak wspominano, w aktualnym stanie prawnym brakuje podmiotu spełniającego wymagania, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a więc łącznego i równoczesnego zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne z punktu widzenia polskiego podatnika. Rozdział 1 – Przepisy ogólne (art. 1 – art. 4) Rozdział 1 określa zakres podmiotowy ustawy, stanowiąc, że przepisy ustawy będą miały zastosowanie do osób fizycznych, osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej, jak również zakres przedmiotowy ustawy, w ramach którego planuje się określenie sposobu sprawowania nadzoru nad rynkiem, postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, działania wspierające rozwój systemów sztucznej inteligencji oraz zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Projektodawca określił zarówno zakres podmiotowy, jak i przedmiotowy w ten sposób, by był kompatybilny z przepisami oraz celami określonymi w rozporządzeniu 2024/1689. Z zakresu stosowania rozporządzenia 2024/1689 (art. 2 ust. 3) i ustawy w art. 2 zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2026 r. poz. 1158). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów wyłączone mają być również sprawy będące w zakresie bezpieczeństwa narodowego, obejmujące działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji 7 Wywiadu (Dz. U. z 2025 r. poz. 902, z późn. zm.), a także w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2024 r. poz. 1405, z późn. zm.). Intencją projektu jest całkowite wyłączenie działalności służb specjalnych spod właściwości Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wyłączenie spraw związanych z obroną narodową oraz bezpieczeństwem narodowym jest uzasadnione kilkoma istotnymi powodami. Przede wszystkim kwestie te są kluczowe dla stabilności i ochrony państwa, dlatego wymagają specjalnych procedur i środków, które są niezbędne do skutecznego zarządzania zagrożeniami. Przepisy dotyczące obrony narodowej i bezpieczeństwa narodowego często wymagają specyficznych regulacji, które mogą nie być kompatybilne z ogólnymi przepisami dotyczącymi sztucznej inteligencji. Wyłączenie tych obszarów pozwala na dostosowanie regulacji do unikalnych potrzeb i wymagań tych sektorów. Jednocześnie w celu zapewnienia stosowania i przestrzegania przepisów rozporządzenia 2024/1689 w odniesieniu do specyfiki działania służb specjalnych, w projekcie proponuje się wskazanie Prezesa Rady Ministrów albo Ministra – Koordynatora Służb Specjalnych, w przypadku jego powołania, jako organu właściwego do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie przestrzegania przepisów rozporządzenia 2024/1689 i projektowanej ustawy. Zaproponowane powyżej rozwiązania prawne umożliwią stosowanie przepisów rozporządzenia 2024/1689 wobec służb specjalnych, przy jednoczesnym zachowaniu przez każdą z nich należytego poziomu ochrony środków, form i metod realizacji zadań, zgromadzonych informacji oraz własnych obiektów i danych identyfikujących funkcjonariuszy służby, do której to ochrony służby specjalne są zobowiązane przepisami ustawowymi. W zakresie kontroli odpowiednie zastosowanie będą mieć przepisy ustawy o kontroli w administracji rządowej, tak więc nie ma potrzeby dodatkowego normowania tej kwestii w przedmiotowym projekcie. Przepisów nie stosuje się także do badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689. Wyłączenia dotyczące badań podstawowych, aplikacyjnych oraz prac rozwojowych wynikają z ich specyficznego charakteru i celu. Badania te mają na celu zdobywanie nowej wiedzy oraz rozwijanie innowacyjnych technologii, które mogą przyczynić 8 się do postępu naukowego i technologicznego. Wyłączenie tych badań z przepisów pozwala na swobodniejszy rozwój nauki i innowacji, bez konieczności spełniania dodatkowych wymagań, które mogłyby ograniczać ich potencjał rozwojowy, a także jest spójne z przepisami rozporządzenia 2024/1689. Zgodnie z treścią rozporządzenia, z zakresu stosowania przepisów ustawy wyłączone zostały także systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 rozporządzenia 2024/1689. Jest to wyłączenie spójne z art. 2 ust. 12 rozporządzenia 2024/1689. Przepisów nie stosuje się także do systemów wprowadzonych do użytku wyłącznie dla celów w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych przed wejściem w życie rozporządzenia 2024/1689. Zgodnie z zakresem określonym przez unijnego prawodawcę (art. 2 ust. 10 rozporządzenia 2024/1689), projekt w art. 3 wyłącza z zakresu ustawy osoby fizyczne, które stosują systemy sztucznej inteligencji wyłącznie dla celów osobistych i niezwiązanych z działalnością gospodarczą, rolniczą lub inną działalnością regulowaną przez prawo. Ponadto projekt wyłącza z zakresu ustawy organy publiczne, które są objęte innymi przepisami prawnymi. Projekt ten odnosi się do różnych rodzajów działalności gospodarczej, takich jak działalność zarobkowa prowadzona we własnym imieniu, działalność gospodarcza jako formalnie zarejestrowana działalność zarobkowa wykonywana we własnym imieniu, działalność nierejestrowa, a także działalność zawodowa wymagająca uprawnień państwowych. W art. 4 projektu określa się również stosowane w tekście definicje prawne, które wprowadzają wyjaśnienia terminów w oparciu o przepisy rozporządzenia 2024/1689. Zdaniem projektodawcy zachowanie spójności terminologicznej jest kluczowe dla właściwego stosowania rozporządzenia 2024/1689. Projektowana ustawa nie będzie zawierała rozdziału określającego obowiązki operatorów uczestniczących w łańcuchu wartości AI, ponieważ obowiązki te są uregulowane w przepisach rozporządzenia 2024/1689 stosowanych bezpośrednio. Rozdział 2 – Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 47) Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie ustanawiają lub wyznaczają co najmniej jeden organ nadzoru rynku jako właściwy organ krajowy zobowiązany do wykonywania swoich uprawnień w sposób niezależny, bezstronny i 9 wolny od uprzedzeń. Sprawowanie nadzoru nad systemami AI przez ministra właściwego do spraw informatyzacji nie jest możliwe ze względu na wymaganą przez rozporządzenie niezależność organu nadzoru od administracji rządowej. W celu zapewniania wymogów rozporządzenia 2024/1689, jako organ nadzoru rynku systemów AI została ustanowiona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Jej podstawowym zadaniem jest sprawowanie nadzoru nad wdrażaniem i stosowaniem sztucznej inteligencji w Polsce. Komisja została również wskazana jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. Przyznanie prawa do używania pieczęci z godłem państwowym podkreśla rangę i oficjalny charakter działań Komisji. Komisja odpowiada za komunikację z instytucjami unijnymi, w tym z Komisją Europejską i Europejską Radą ds. Sztucznej Inteligencji, co zapewnia spójność działań na poziomie europejskim. Zobowiązanie do współpracy z licznymi organami krajowymi, takimi jak Komisja Nadzoru Finansowego, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Urząd Patentowy RP, Urząd Rejestracji Produktów Leczniczych czy Krajowa Radą Radiofonii i Telewizji uwzględnia specyfikę różnych obszarów zastosowań sztucznej inteligencji, jak również odzwierciedla interdyscyplinarny charakter wyzwań związanych z AI i pozwala na kompleksowe podejście do regulacji. Istotna jest także współpraca z podmiotami odpowiedzialnymi za cyberbezpieczeństwo, co wynika z wrażliwości systemów AI na cyberzagrożenia oraz dużą (i rosnącą) rolą AI zarówno w technikach ataków, jak i ochrony przed incydentami. Należy również podkreślić, że rozwiązania proponowane w ustawie nie wyczerpują docelowego, kompletnego zakresu nadzoru nad systemami sztucznej inteligencji w Polsce. Wynika to z faktu, że projekt nie obejmuje obszaru określonego jako wysokiego ryzyka. Docelowo w nadzorze uczestniczyć będą również organy przewidziane w treści przepisów rozporządzenia 2024/1689 jako właściwe do nadzoru nad pozostającymi w ich zakresie kompetencji systemami wysokiego ryzyka. Opracowanie i przyjęcie przepisów w tym zakresie wstępnie uwarunkowane było opublikowaniem wytycznych Komisji Europejskiej dotyczących systemów wysokiego ryzyka. Obecnie procedowany jest natomiast projekt uproszczeń do rozporządzenia 2024/1689 (Omnibus AI) wprowadzający znaczne zmiany w zakresie przepisów dotyczących tych systemów w tym terminu ich wejścia w życie. Omawiane działania na szczeblu unijnym mają bezpośredni wpływ na przyjęcie przepisów włączających w system nadzoru organy odpowiedzialne sektorowo za nadzór nad stosowaniem systemów AI w 10 obszarach takich jak m.in. medycyna i produkty lecznicze, transport i motoryzacja czy bezpieczeństwo publiczne, ochrona granic i polityka migracyjna (art. 6, Załączniki II–III). W projekcie określono zadania Komisji, łącząc funkcje kontrolne z aktywnością wspierającą rozwój rynku AI. Kluczowe znaczenie ma nadzór nad przestrzeganiem przepisów unijnych i krajowych, co stanowi podstawową funkcję tego organu. Jednocześnie Komisja pełni ważną rolę w promowaniu innowacji poprzez działania edukacyjne i informacyjne. Zadania związane z opiniowaniem aktów prawnych i współpracą międzynarodową podkreślają strategiczne znaczenie Komisji w kształtowaniu polityki AI. Prowadzenie rejestru skarg tworzy system wczesnego ostrzegania przed zagrożeniami (rejestr ten nie stanowi rejestru publicznego). Szczególnie istotne jest zadanie tworzenia piaskownic regulacyjnych, które pozwalają na testowanie innowacyjnych rozwiązań w kontrolowanych warunkach. Kompetencje w zakresie wydawania decyzji i postanowień zapewniają Komisji niezbędne narzędzia do skutecznego wykonywania funkcji nadzorczych. Projekt umacnia także rolę Komisji jako ciała opiniotwórczego i doradczego w procesie legislacyjnym dotyczącym obszaru sztucznej inteligencji. Możliwość przedstawiania propozycji działań legislacyjnych ministrowi właściwemu do spraw informatyzacji pozwala na aktywne kształtowanie polityki regulacyjnej. Obowiązek publikowania przykładów dobrych praktyk służy upowszechnianiu standardów i promocji najlepszych rozwiązań wśród przedsiębiorców i jednostek publicznych. Przepisy te tworzą mechanizm oddziaływania Komisji nie tylko poprzez kontrolę, ale także poprzez inspirowanie i edukowanie uczestników rynku AI. Komisja może ponadto wydawać opinie indywidualne i wyjaśnienia. Przepisy art. 8–art. 17 stanowią kompleksową regulację w tym zakresie w odniesieniu do stosowania przepisów rozporządzenia 2024/1689 i ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. Art. 8 wprowadza ogólną kompetencję Komisji do wydawania opinii indywidualnych oraz wyjaśnień. Komisja, jako organ nadzoru rynku nad systemami sztucznej inteligencji, posiada szczególne kompetencje merytoryczne, pozwalające na dokonywanie wiążących ocen prawnych w konkretnych przypadkach, a także formułowanie ogólnych wskazówek 11 interpretacyjnych. W art. 8 ust. 2 wprost wskazane zostało, że przy formułowaniu takich stanowisk Komisja powinna brać pod uwagę opinie i zalecenia Europejskiej Rady ds. Sztucznej Inteligencji, co służy zapewnieniu zgodności krajowej wykładni z kierunkiem wykładni prawa Unii Europejskiej w tym obszarze. Art. 9 szczegółowo reguluje procedurę uzyskiwania opinii indywidualnej, czyli wiążącego stanowiska Komisji w indywidualnej sprawie. Konstrukcja ta ma na celu stworzenie bezpiecznej przestrzeni dla przedsiębiorców i innych podmiotów do uzyskania pewności co do legalności planowanych działań. Możliwość wystąpienia z wnioskiem zarówno w odniesieniu do stanów faktycznych już zaistniałych, jak i zdarzeń przyszłych, czyni z opinii indywidualnej skuteczne narzędzie zapobiegania naruszeniom prawa, a także umożliwia zgodne z przepisami planowanie działalności gospodarczej. Obowiązek uiszczenia opłaty, o której mowa w art. 11, ma charakter dyscyplinujący oraz ogranicza możliwość nadużywania instytucji opinii do prób uzyskiwania bezpłatnych porad prawnych. Zachowano przy tym gwarancje proceduralne – m.in. możliwość wezwania do uzupełnienia braków formalnych, określenie maksymalnych terminów na wydanie opinii oraz przyjęcie fikcji prawnej pozytywnego rozpatrzenia w przypadku ich przekroczenia. Wprowadzenie fikcji pozytywnego rozpatrzenia (tzw. milcząca zgoda) wzmacnia pozycję prawną wnioskodawców i mobilizuje Komisję do sprawnego działania. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. Wiążący charakter opinii dla Komisji i innych organów państwowych oraz jednostek organizacyjnych określonych w ustawie, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego wzmacnia bezpieczeństwo prawne wnioskodawców i ogranicza ryzyko rozbieżnych interpretacji tego samego stanu faktycznego przez różne instytucje. Ochrona tej decyzji przed zmianą, gdy wywołała ona nieodwracalne skutki prawne, chroni stabilność stosunków prawnych i respektuje zasadę zaufania obywateli do państwa. Wprowadzono także mechanizmy weryfikacji i korekty opinii. W drodze zmiany, uchylenia lub stwierdzenia jej wygaśnięcia – w przypadku zmiany stanu prawnego, ujawnienia fałszywego oświadczenia lub wystąpienia innej przesłanki. Daje to Komisji elastyczne narzędzia dostosowywania się do zmieniających się uwarunkowań prawnych i faktycznych. Art. 16 uzupełnia regulację przez umożliwienie Komisji wydawania wyjaśnień o charakterze ogólnym dotyczących stosowania przepisów. Wyjaśnienia odmiennie od opinii indywidualnych nie mają charakteru wiążącego. Pełnią natomiast rolę instrukcyjną i edukacyjną, która jest istotna z punktu widzenia podmiotów objętych przepisami rozparzenia 12 2024/1689. Ułatwią one jednolite rozumienie i stosowanie prawa przez szeroki krąg podmiotów, zarówno urzędników, przedsiębiorców, jak i obywateli. Uwzględnienie dorobku orzeczniczego oraz dokumentów interpretacyjnych Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji stanowi wyraz dążenia do harmonizacji wykładni krajowej z unijną. Art. 17 ustanawia zasadę przejrzystości poprzez nakaz publikowania wydanych opinii i wyjaśnień (po ich anonimizacji) w Biuletynie Informacji Publicznej. Służy to upowszechnianiu wiedzy prawnej, ułatwia dostęp do informacji, a także może zapobiegać składaniu wielokrotnie podobnych wniosków w analogicznych sprawach. Dodatkowo pełni funkcję kontrolną i legitymizującą działania Komisji w oczach opinii publicznej. Przepisy art. 8–art. 17 stanowią spójny system umożliwiający prawidłowe, jednolite i przewidywalne stosowanie przepisów dotyczących sztucznej inteligencji, zarówno w wymiarze indywidualnym, jak i ogólnym. Chronią interesy podmiotów regulowanych, wzmacniają zaufanie do instytucji publicznych, wspierają harmonizację krajowego i unijnego porządku prawnego oraz zwiększają bezpieczeństwo obrotu prawnego. Ich znaczenie praktyczne będzie rosło wraz z rozwojem zastosowań sztucznej inteligencji i dynamiką zmian regulacyjnych w tym obszarze. Innym z zadań i uprawnień Komisji będzie możliwość przedstawiania sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Komisja będzie mogła wykonywać to zadanie z własnej inicjatywy, jak i na wniosek. Skład Komisji został zaprojektowany tak, aby zapewnić reprezentację kluczowych podmiotów zaangażowanych w nadzór nad technologiami cyfrowymi, przy zachowaniu efektywności procesu decyzyjnego. Członkami Komisji będą Przewodniczący oraz dwóch Zastępców, a także czterej przedstawiciele wskazani przez organy publiczne: Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisję Nadzoru Finansowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej. Obecność przedstawicieli instytucji o wysokim poziomie niezależności gwarantuje uwzględnienie różnych perspektyw w procesie decyzyjnym, a mechanizm zapraszania ekspertów z głosem doradczym pozwala na wykorzystanie specjalistycznej wiedzy w złożonych kwestiach technicznych, co jest szczególnie ważne w dynamicznie rozwijającej się dziedzinie AI. Ustawa dodatkowo zapewnia Przewodniczącemu Komisji, jego Zastępcom oraz członkom Komisji pełną niezależność w zakresie zadań realizowanych przez Komisję. 13 W projekcie przewidziano ponadto możliwość stałego udziału w posiedzeniach Komisji również przedstawicieli dodatkowych organów. Przepisy gwarantują udział bez prawa głosu na zasadach stałego obserwatora przedstawicieli organów i podmiotów wskazanych na zasadach określonych w art. 77 rozporządzenia 2024/1689 oraz przedstawicieli ministrów. Zapewni to koordynację działań z administracją rządową, pozwoli na sprawną współpracę organów, a także na szybsze reagowanie w przypadku zdarzeń o potencjalnie negatywnym wpływie na bezpieczeństwo obywateli i Państwa. Zasady dotyczące wynagrodzeń i zwrotu kosztów podróży zostały określone tak, aby zapewnić profesjonalizm prac Komisji przy zachowaniu zasad racjonalności wydatków publicznych. Procedury pracy Komisji zostały określone z zachowaniem zasad przejrzystości i efektywności, co jest kluczowe dla sprawnego funkcjonowania tego organu. Możliwość podejmowania uchwał zarówno na posiedzeniach, jak i w trybie obiegowym, a także zdalnego uczestnictwa w obradach, odpowiada współczesnym standardom funkcjonowania organów administracji i zapewnia elastyczność działania przy mniejszym obciążeniu kosztami i czasochłonnością wykonywanych zadań. Mechanizmy dotyczące wyłączenia członków Komisji z posiedzeń w przypadku konfliktu interesów zapewniają bezstronność i obiektywizm postępowania. Szczegółowe zasady funkcjonowania Komisji, mające zostać określone w regulaminie, pozwolą na dostosowanie procedur do specyfiki rozpatrywanych spraw, przy jednoczesnym zachowaniu podstawowych standardów dobrego zarządzania. Sposób podejmowania uchwał, w tym zasady rozstrzygania remisów, został zaprojektowany tak, aby zapewnić skuteczność działania Komisji przy zachowaniu zasad demokratycznego podejmowania decyzji. Przepisy określają zadania Przewodniczącego Komisji i składają się na konsekwentny system kierowania i reprezentacji tego organu. Przewodniczący pełni kluczową rolę w koordynacji prac Komisji, będąc odpowiedzialnym za jej reprezentację zewnętrzną i sprawozdawczość. Szczególnie istotne jest prawo do wyznaczania Sekretarza Komisji i Zastępców Przewodniczącego, co zapewnia płynność funkcjonowania organu. Obowiązek publikowania wykazu organów w BIP i przekazywania informacji do instytucji unijnych gwarantuje przejrzystość działań i spójność z wymogami europejskimi. Kompetencja do określania wymogów dotyczących funkcjonowania Komisji w drodze zarządzenia pozwala na elastyczne dostosowywanie się do zmieniających się potrzeb rynku AI. Zadania związane z podpisywaniem zaleceń pokontrolnych i podpisywaniem uchwał wzmacniają pozycję Przewodniczącego jako lidera merytorycznego Komisji. Dodatkowo współdziałanie 14 Przewodniczącego Komisji z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji wpłynie na zapewnienie obsługi organizacyjnej, administracyjnej oraz merytorycznej Komisji, a także na zapewnienie środków finansowych na działania określone rozporządzeniem 2024/1689 i ustawą. Co roku Przewodniczący Komisji będzie ponadto obowiązany do przedstawiania szczegółowego sprawozdania Sejmowi, co wzmacnia jej odpowiedzialność przed władzą ustawodawczą i społeczeństwem. Zakres sprawozdania obejmuje zarówno aspekty merytoryczne (wyniki kontroli, analiza trendów), jak i finansowe (realizacja budżetu), co zapewnia kompleksową ocenę działalności organu. Część finansowa sprawozdania Komisji odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. Publikacja sprawozdania w BIP gwarantuje dostępność informacji dla wszystkich zainteresowanych podmiotów. Szczególnie istotne jest uwzględnienie w sprawozdaniu analizy ryzyk związanych z rozwojem AI, co pozwala na bieżące monitorowanie zagrożeń i dostosowywanie polityki w tym obszarze. W projekcie przewidziano także regulacje nakładające na Przewodniczącego Komisji obowiązek dotyczący ustanawiania w formie zarządzenia, w zakresie zadań Komisji, wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Przewodniczący odpowiedzialny będzie także za ich coroczną ocenę oraz ewentualną aktualizację. Przepis zapewnia bieżącą aktualizację zasobów niezbędnych do realizacji zadań nadzorczych, organizacyjnych i administracyjnych. Dzięki temu zapewnione zostanie, że organ nadzorczy nie tylko formalnie istnieje, ale realnie może wykonywać swoje funkcje z odpowiednią skutecznością i niezależnością. Dodatkowo Przewodniczący Komisji zobowiązany został do sporządzenia i przekazania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w formie elektronicznej. Sprawozdanie to ma na celu ocenę efektywności działania krajowego organu nadzorczego oraz przedstawienie informacji o dostępnych zasobach. Przepis ten zapewnia realizację obowiązków sprawozdawczych wobec instytucji unijnych. W projekcie ustawy przewidziano, że Przewodniczącego Komisji powołuje Sejm za zgodą Senatu. Rozwiązanie to zostało przyjęte z uwagi na szczególny charakter funkcji przewodniczącego oraz strategiczne znaczenie Komisji w systemie instytucjonalnym państwa. Oznacza to, że osoba stojąca na jej czele musi nie tylko posiadać wysokie kompetencje merytoryczne, ale także cieszyć się silną legitymacją demokratyczną i zaufaniem szerokiego spektrum politycznego. 15 Powoływanie Przewodniczącego Komisji przez Sejm za zgodą Senatu wprowadza mechanizm równowagi i wzajemnej kontroli między obiema izbami parlamentu. Taki model procedury wyboru służy ograniczeniu ryzyka upolitycznienia stanowiska oraz zwiększa transparentność procesu, co ma szczególne znaczenie w przypadku urzędu odpowiedzialnego za nadzór nad dziedziną dynamicznie rozwijającą się, jaką jest sztuczna inteligencja. Ponadto, przyjęta formuła jest spójna z rozwiązaniami ustrojowymi przewidzianymi w Konstytucji RP oraz w ustawach regulujących wybór innych kluczowych funkcjonariuszy publicznych. Analogiczne mechanizmy powołania – przez Sejm za zgodą Senatu – funkcjonują w przypadku Rzecznika Praw Obywatelskich czy Prezesa Najwyższej Izby Kontroli. Wprowadzenie podobnego trybu w odniesieniu do przewodniczącego Komisji gwarantuje ciągłość i konsekwencję w zakresie standardów wyboru osób na wysokie stanowiska państwowe, co sprzyja umacnianiu zasad państwa prawa, przejrzystości i odpowiedzialności instytucji publicznych. Projekt wprowadza limit dwóch kadencji, który zapobiega nadmiernej koncentracji władzy. Przepisy te tworzą równowagę między potrzebą stabilności kierownictwa Komisji a koniecznością okresowej weryfikacji jego działań. Określono także okoliczności przedterminowego zakończenia kadencji Przewodniczącego Komisji, co stanowi ważny mechanizm kontrolny. Katalog przyczyn odwołania obejmuje zarówno sytuacje obiektywne (utrata zdolności do pełnienia funkcji), jak i przypadki naruszenia zasad etycznych (skazanie za przestępstwo). Szczegółowa procedura naboru na stanowisko Zastępcy Przewodniczącego została zaprojektowana tak, aby zapewnić przejrzystość i merytokratyczny charakter procesu selekcji. Wymóg otwartego konkursu i publikacji ogłoszeń w BIP gwarantuje równy dostęp do stanowiska. Powołanie specjalistycznego zespołu rekrutacyjnego oraz możliwość zaangażowania zewnętrznych ekspertów zapewniają natomiast obiektywną ocenę kandydatów. Szczegółowe wymagania dotyczące protokołu i publikacji wyników zwiększają odpowiedzialność za podejmowane decyzje. Projektowane przepisy tworzą zatem system, który z jednej strony zapewnia wysokie kwalifikacje osób powoływanych na stanowiska, z drugiej zaś – przejrzystość procesu selekcji. Wprowadzono ograniczenia działalności dla członków Przewodniczącego i zastępców Przewodniczącego Komisji, co ma na celu wyeliminowanie potencjalnych konfliktów interesów. Zakaz przynależności do partii politycznych i związków zawodowych wzmacnia ponadto apolityczny charakter organu. Możliwość łączenia funkcji tylko z działalnością 16 naukową odpowiada specyfice obszaru AI, gdzie współpraca z środowiskiem akademickim jest szczególnie pożądana. Instytucja oświadczenia o braku konfliktu interesów stanowi natomiast dodatkowe zabezpieczenie od strony etycznej. Przepisy te zostały zaprojektowane tak, aby tworzyć system gwarancji niezależności i bezstronności Przewodniczącego i Zastępców Przewodniczącego Komisji, co jest szczególnie ważne w kontekście wrażliwych kwestii regulacyjnych dotyczących sztucznej inteligencji. Projekt ustawy kładzie również duży nacisk na zapewnienie ochrony tajemnic prawnie chronionych oraz danych osobowych. W celu ochrony zarówno tajemnicy prawnie chronionych, jak i wrażliwych informacji uzyskanych podczas wykonywania obowiązków wynikających z rozporządzenia 2024/1689 i ustawy, ustanowiono szeroki obowiązek zachowania tajemnicy przez osoby związane z Komisją. Obowiązek utrzymuje się nawet po zakończeniu współpracy, co zabezpiecza przed nieuprawnionym ujawnieniem informacji. Jest to szczególnie istotne w kontekście ochrony danych osobowych, tajemnic handlowych oraz innych poufnych informacji. Wyjątek dotyczący zawiadomień o przestępstwie, co tworzy równowagę między ochroną informacji a koniecznością zgłaszania nieprawidłowości. Wprowadzenie tego wyjątku pozwala na ujawnienie informacji w sytuacjach, gdy jest to konieczne dla zapobieżenia lub ścigania przestępstw. Zgłaszanie przestępstw jest niezbędne dla zapewnienia praworządności, a także dla ochrony interesów publicznych. Określono także zasady przetwarzania danych osobowych przez Komisję w związku z realizacją jej zadań. Przetwarzanie będzie dotyczyło również danych, o których mowa w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych). Przepisy uwzględniają specyfikę danych przetwarzanych w systemach AI, jednocześnie wprowadzając mechanizmy okresowego przeglądu i usuwania zbędnych informacji. Przepis ten pozwala Komisji na dostęp do szczególnych danych w zakresie niezbędnym do realizacji jej zadań, jednocześnie określając warunki ich przekazywania innym uprawnionym podmiotom. Rozwiązanie to tworzy równowagę między efektywnością nadzoru a ochroną danych i tajemnicy przedsiębiorcy. Art. 43 projektu ustawy ma na celu stworzenie kompleksowych i trwałych ram organizacyjnych, które zapewnią skuteczne i profesjonalne wsparcie dla działalności Komisji i 17 Przewodniczącego Komisji. Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji. Zgodnie z przepisami ustawy urząd obsługujący ministra właściwego do spraw informatyzacji zapewni obsługę administracyjno-kancelaryjną Komisji i Przewodniczącego Komisji. Komisja oraz Przewodniczący Komisji będą mogli upoważnić pracowników właściwej komórki ww. urzędu do realizacji swoich zadań wynikających z rozporządzenia 2024/1689 i ustawy. Upoważnienie to nie może jednak obejmować wydawania postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 oraz ustawy. W tym celu planuje się utworzenie nowej komórki organizacyjnej urzędu, której organizacja i zasady funkcjonowania zostaną określone w regulaminie. Do spraw wynikających z zatrudnienia w ww. komórce organizacyjnej urzędu będą miały zastosowanie przepisy obowiązujące w tym zakresie w Ministerstwie Cyfryzacji. Warto jednak zaznaczyć, że z uwagi na przedmiot regulacji osoby wykonujące na podstawie upoważnienia zadania na rzecz Komisji będą zatrudniane na postawie przepisów ustawy o służbie cywilnej, kodeksu pracy, ale też nie wyklucza się umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. W celu wzmocnienia niezależności organu i pracowników realizujących jego zadania przyjęto rozwiązanie, zgodnie z którym Przewodniczący Komisji będzie współdziałał z Dyrektorem Generalnym urzędu w zakresie spraw pracowniczych wynikających z art. 25 ust. 4 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej, a także w zakresie spraw związanych z audytem i ochroną informacji. Pracownicy ww. komórki organizacyjnej będą podlegali Przewodniczącemu Komisji. Przepisy ustawy także określają status prawny Przewodniczącego Komisji, jego Zastępców i członków Komisji. Projekt ustawy wskazuje wysokość wynagrodzenia Przewodniczącego Komisji i jego zastępców. Mając na uwadze zachowanie transparentności finansowej oraz niezależności osób powołanych na ww. stanowiska, wysokość wynagrodzenia została wskazana wprost przez odniesienie do kwoty bazowej ustalanej z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. Rozwiązanie to będzie odpowiadało rzeczywistym potrzebom organizacyjnym wynikającym ze specyfiki i zakresu zadań Komisji i posłuży zachowaniu równowagi w zakresie niezależności Komisji. Zgodnie z art. 45, jako organ opiniodawczo-doradczy Komisji, zostanie ustanowiona Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”. Ma ona zapewnić wsparcie 18 eksperckie w zakresie sztucznej inteligencji. Rada ma na celu włączenie szerokiego grona interesariuszy, co zwiększa transparentność i demokratyczność działań Komisji. Dzięki temu możliwe jest uwzględnienie różnorodnych perspektyw i interesów społecznych oraz gospodarczych, co jest kluczowe w dynamicznie rozwijającej się dziedzinie AI. Skład Rady obejmuje od dziewięciu do piętnastu członków wybieranych na dwuletnią kadencję. Taki zakres liczbowy zapewnia różnorodność opinii i kompetencji, jednocześnie umożliwiając efektywne funkcjonowanie Rady. Dwuletnia kadencja pozwala na regularne odświeżanie składu Rady, co sprzyja dynamicznemu rozwojowi i adaptacji do zmieniających się warunków technologicznych. Regularna rotacja członków Rady zapewnia również, że nowe idee i podejścia są wprowadzane do dyskusji, co jest niezbędne w kontekście szybko ewoluującej technologii. Kandydaci na członków Rady mogą być zgłaszani przez różne podmioty, w tym przedstawicieli samorządów, rzeczników praw, izby gospodarcze, organizacje związkowe, uczelnie wyższe oraz fundacje i stowarzyszenia. Chociaż przepis określa bardzo szeroki krąg podmiotów to wzięto jednak pod uwagę zakres spraw mających podlegać obradom Rady, bezpieczeństwo przetwarzanych informacji oraz efektywne działanie organu opiniodawczo-doradczego. Stąd też w przypadku fundacji i stowarzyszeń wymagane jest posiadanie wpisu do Krajowego Rejestru Sądowego. KRS daje również pewność prawną ciągłości działania podmiotu, a to przekłada się również na stabilność składu Społecznej Rady. Taki szeroki zakres podmiotów zgłaszających kandydatów zapewnia reprezentatywność i uwzględnienie różnych perspektyw oraz interesów społecznych i gospodarczych. Dzięki temu Rada może działać w sposób bardziej zrównoważony i uwzględniać potrzeby różnych grup społecznych, co jest kluczowe dla skutecznego wdrażania i regulowania technologii AI. Wymogi dla członków Rady obejmują posiadanie wiedzy i doświadczenia w obszarze AI, niekaralność, pełnię praw publicznych oraz wyrażenie zgody na kandydowanie. Te kryteria mają na celu zapewnienie, że członkowie Rady będą kompetentni, wiarygodni i zaangażowani w pełnienie swoich obowiązków. Wymóg posiadania wiedzy i doświadczenia w obszarze AI gwarantuje, że członkowie Rady będą w stanie podejmować świadome i merytoryczne decyzje, które będą miały realny wpływ na rozwój i regulację tej technologii. Powoływanie członków Rady przez Komisję spośród zgłoszonych kandydatów zapewnia, że wybór członków jest przejrzysty i oparty na merytorycznych przesłankach. Proces ten ma na celu wyłonienie najbardziej kompetentnych i zaangażowanych osób, które będą w stanie skutecznie wspierać Komisję w jej działaniach. 19 Wygaśnięcie członkostwa w Radzie przed upływem kadencji może nastąpić z powodu rezygnacji, śmierci, niewykonywania obowiązków, skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe lub pozbawienia praw publicznych. Te przepisy mają na celu utrzymanie wysokiego standardu etycznego i zaangażowania członków Rady. W przypadku, gdy członek Rady nie jest w stanie wypełniać swoich obowiązków, konieczne jest zapewnienie, że jego miejsce zajmie osoba, która będzie w stanie aktywnie uczestniczyć w pracach Rady. Powiadomienie o wygaśnięciu członkostwa przez Komisję zapewnia formalność i jasność procedur związanych z zakończeniem członkostwa. Dzięki temu proces ten jest przejrzysty i zrozumiały dla wszystkich zainteresowanych stron. Odwołanie członka Rady przez Komisję w przypadku naruszenia przepisów lub niezachowania tajemnicy służbowej zapewnia, że członkowie Rady działają zgodnie z obowiązującymi normami prawnymi i etycznymi. Jest to kluczowe dla utrzymania zaufania do Rady i jej decyzji. Wygaśnięcie członkostwa w Radzie w przypadku rezygnacji jest formalnym potwierdzeniem zakończenia członkostwa na wniosek członka. Jest to ważne, aby zapewnić, że członkowie Rady mają możliwość dobrowolnego zakończenia swojej kadencji, jeśli uznają to za konieczne. Wybór nowego członka Rady w przypadku wygaśnięcia członkostwa lub odwołania zapewnia ciągłość działania Rady i możliwość szybkiego uzupełnienia jej składu. Dzięki temu Rada może nadal efektywnie funkcjonować i wspierać Komisję w jej działaniach, nawet w przypadku zmian personalnych. Zgodnie z art. 46 do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Rada ma możliwość podejmowania oraz przekazywania Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4. Dzięki temu może aktywnie uczestniczyć w monitorowaniu przestrzegania przepisów i inicjować działania mające na celu ich egzekwowanie. Rada ma również prawo wyrażania opinii i stanowisk przekazywanych do wiadomości Komisji z inicjatywy własnej. Taka możliwość pozwala Radzie na proaktywne działanie i podejmowanie inicjatyw, które mogą przyczynić się do lepszego zarządzania i regulacji technologii AI. Ponadto Rada podejmuje uchwały i przekazuje wnioski w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. Dzięki temu Rada może skutecznie reagować na przypadki naruszeń i wspierać Komisję w egzekwowaniu przepisów. 20 Rada wyraża opinię lub stanowisko, o którym mowa w art. 46 ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, co oznacza, że Komisja ma swobodę w podejmowaniu decyzji na podstawie własnych analiz i ocen. Niemniej jednak, opinie i stanowiska Rady stanowią cenne źródło informacji i mogą znacząco wpłynąć na decyzje Komisji. Opinie i stanowiska Rady są wydawane w drodze uchwały podjętej większością głosów wszystkich członków Rady. Przy czym obecność pełnego składu Rady podczas głosowania nie jest wymagana. Oznacza to, że w przypadku 9 osobowego składu Rady niezbędne będzie uzyskanie 5 głosów „Za”, nawet gdy nie wszyscy członkowie będą obecni na głosowaniu. Taki sposób podejmowania decyzji zapewnia demokratyczność i transparentność działań Rady. Uchwały Rady są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, co zapewnia dostępność informacji dla wszystkich zainteresowanych stron i zwiększa transparentność działań Rady. Zgodnie z art. 47 Komisja powołuje i odwołuje Przewodniczącego Rady oraz Zastępcę Przewodniczącego Rady spośród jej członków. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady, co zapewnia demokratyczność i transparentność procesu wyboru liderów Rady. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz, co jest kluczowe dla efektywnego funkcjonowania Rady oraz jej komunikacji zewnętrznej. W przypadku nieobecności Przewodniczącego Rady jego obowiązki przejmuje Zastępca Przewodniczącego Rady, co zapewnia ciągłość działania Rady. Do udziału w posiedzeniu Rady mogą być wskazane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Taki przepis umożliwia włączenie dodatkowych ekspertów i interesariuszy w dyskusje oraz może wzbogacić proces decyzyjny i zapewnić bardziej kompleksowe podejście do omawianych kwestii. Członek Rady oraz osoby zapraszane do udziału w pracach Rady są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji w Radzie. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady. Te przepisy mają na celu ochronę poufnych informacji oraz zapewnienie, że członkowie Rady działają zgodnie z najwyższymi standardami etycznymi. 21 Członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów. Te przepisy mają na celu zapewnienie, że członkowie Rady działają w sposób niezależny i bezstronny, co jest kluczowe dla utrzymania zaufania do Rady i jej decyzji. Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie, co podkreśla społeczny charakter jej działalności i zaangażowanie w sprawy publiczne. Niemniej za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77(5) § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Dzięki temu członkowie Rady nie ponoszą dodatkowych kosztów związanych z wykonywaniem swoich obowiązków. Powyższe zasady dotyczą również osób zapraszanych do udziału w pracach Rady. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję zwykłą większością głosów. Taki sposób uchwalania regulaminu zapewnia, że zasady działania Rady są ustalane w sposób demokratyczny i transparentny. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji, aby Rada miała dostęp do niezbędnych zasobów administracyjnych, umożliwiających jej efektywne funkcjonowanie. Rada może współpracować, w zakresie spraw określonych w ustawie i rozporządzeniu 2024/1689 oraz przy zachowaniu zasady zakazu konfliktu interesów, z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw będących przedmiotem posiedzenia. Taka współpraca pozwala na wymianę doświadczeń i najlepszych praktyk, co może przyczynić się do lepszego zarządzania i regulacji technologii SI na poziomie krajowym i międzynarodowym. Rozdział 3 – Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 48– art. 58) Przepisy projektowanej ustawy ustanawiają podstawę prawną dla prowadzenia przez Komisję kontroli operatorów uczestniczących w łańcuchu wartości AI. Kontrola jako kluczowy mechanizm nadzorczy, może być prowadzona zarówno na podstawie zatwierdzonego planu, informacji uzyskanych przez Komisję, jak i w ramach bieżącego monitorowania. Proponowane przepisy uwzględniają różnorodność statusów kontrolowanych podmiotów – przedsiębiorców oraz innych jednostek, jednocześnie wyłączając zastosowanie art. 6 pkt 1 oraz art. 51 ust. 3a ustawy – Prawo przedsiębiorców w celu dopasowania procedur do specyfiki nadzoru nad systemami sztucznej inteligencji. Wprowadzenie regulacji opartych 22 na Kodeksie postępowania administracyjnego ma na celu zapewnienie spójności oraz przejrzystości działań kontrolnych. Projekt określa tryb wszczynania kontroli, umożliwiając jej rozpoczęcie z urzędu lub na wniosek uprawnionych organów, takich jak Przewodniczący Komisji, jego zastępca czy członkowie Komisji oraz organy lub podmioty, o którym mowa w art. 77 rozporządzenia 2024/1689. W trosce o poszanowanie praw podmiotów objętych nadzorem wprowadza się zasadę zawiadamiania kontrolowanego z wyprzedzeniem, przewidując jednak możliwość odstąpienia od tego obowiązku w sytuacjach wyjątkowych, np. w przypadku zagrożenia życia, zdrowia lub praw podstawowych. Wprowadza się również zasadę przeprowadzania kontroli w sposób zdalny, co stanowi odpowiedź na wymogi nowoczesnych technologii. Istotnym elementem projektu jest uregulowanie zasad upoważniania osób do przeprowadzania kontroli – pracowników właściwej komórki urzędu obsługującego ministra właściwego do spraw informatyzacji. W celu zapewnienia bezstronności kontrolujących, wprowadzono wymóg składania oświadczeń o braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych w toku kontroli. Projekt precyzuje procedury organizacyjne kontroli, w tym wymóg okazania imiennego upoważnienia oraz dokumentu tożsamości przez kontrolujących. Dokumenty te powinny zawierać szczegółowe informacje zapewniające przejrzystość oraz legalność działań Komisji. Proponowane przepisy umożliwiają elastyczne dostosowanie procedur kontrolnych do konkretnych przypadków dzięki powiązaniu regulacji ustawowych z wewnętrznymi regulaminami Komisji. Zgodnie z treścią projektowanych przepisów kontrolujący będzie ustalał stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. W ramach wyjaśnień kontrolujący będzie mógł np. żądać omówienia przyczyny, znaczenia lub sposobu działania danego systemu czy zjawiska, także np. sporządzenia analiz, zestawień czy obliczeń. Celem jest usunięcie zaistniałych w trakcie kontroli wątpliwości, ułatwianie zrozumienia skomplikowanych czy niejasnych informacji, ich uporządkowanie lub doprecyzowanie. 23 Jeżeli jest to technicznie możliwe, kontrolujący będzie mógł zabezpieczyć dowody przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54 ustawy ma na celu zapewnienie poszanowania prawa kontrolowanego do zachowania poufności komunikacji z profesjonalnym pełnomocnikiem prawnym oraz zagwarantowanie możliwości skutecznego korzystania z ochrony prawnej w toku postępowania prowadzonego przez Komisję. Zapewnia się objęcie ochroną prawną wszystkich pism i dokumentów, dotyczących realizacji prawa kontrolowanego do uzyskania ochrony prawnej, które zostały ujawnione w toku kontroli. Przepis ten stanowi realizację konstytucyjnej zasady prawa do obrony oraz prawa do rzetelnego procesu, znajdujących swoje źródło m.in. w art. 42 ust. 2 Konstytucji RP oraz w standardach międzynarodowych, takich jak art. 6 Europejskiej Konwencji Praw Człowieka. Art. 54 ma na celu ochronę tajemnicy zawodowej adwokata, radcy prawnego oraz innych osób uprawnionych do świadczenia pomocy prawnej. Dotyczy to zarówno komunikacji z tymi osobami, jak i dokumentów wytworzonych wyłącznie w celu uzyskania ochrony prawnej w kontekście konkretnego postępowania prowadzonego przez Komisję. Przepis reguluje ponadto procedurę postępowania kontrolującego w przypadku, gdy kontrolowany lub osoba przez niego upoważniona złoży oświadczenie, że określone dokumenty lub pisma objęte są ochroną wynikającą z tajemnicy zawodowej, o której mowa w ust. 1. W celu zapewnienia równowagi pomiędzy potrzebą skutecznego prowadzenia kontroli a koniecznością poszanowania konstytucyjnie chronionych praw, w tym prawa do obrony i tajemnicy komunikacji z pełnomocnikiem, kontrolujący uzyskuje ograniczony dostęp do dokumentu – wyłącznie w zakresie umożliwiającym identyfikację jego podstawowych cech formalnych, takich jak autor, adresat, tytuł, przedmiot oraz data sporządzenia. Dodatkowo kontrolujący może żądać od kontrolowanego lub osoby przez niego upoważnionej ustnych wyjaśnień dotyczących złożonego oświadczenia, a także przygotowania wersji dokumentu pozbawionej informacji objętych ochroną, o ile jest to technicznie możliwe. Wprowadzenie tej procedury ma na celu umożliwienie weryfikacji zasadności oświadczenia bez naruszania chronionej treści dokumentu. Projektodawca przewidział jednak konieczność zapewnienia równowagi pomiędzy ochroną tajemnicy zawodowej a efektywnością działań kontrolnych. W tym celu w przepisie wskazano, że to na kontrolowanym ciąży obowiązek wykazania, iż sporne dokumenty rzeczywiście spełniają kryteria określone w ust. 1. Takie rozwiązanie zapobiega nadużyciom i uniemożliwia 24 arbitralne powoływanie się na poufność dokumentów w celu utrudnienia kontroli. Kontrolowany będzie musiał w sposób wiarygodny i uzasadniony przedstawić dowody potwierdzające, że dokumenty objęte są ochroną, o której mowa w przepisie. W przypadku powstania wątpliwości co do zasadności oświadczenia, kontrolujący zobowiązany jest do niezwłocznego przekazania dokumentu do Sądu Ochrony Konkurencji i Konsumentów, przy zachowaniu środków zabezpieczających przed ujawnieniem jego treści. Ciężar dowodu w zakresie wykazania, że dokument spełnia przesłanki ochrony, także w tym przypadku będzie spoczywał na kontrolowanym. Sąd, po zapoznaniu się z dokumentem, wyda postanowienie o jego zwrocie kontrolowanemu (w całości lub części), jeżeli uzna, że dokument podlega ochronie, albo o jego przekazaniu właściwemu organowi, jeżeli dokument nie spełnia przesłanek określonych w ust. 1. Na postanowienie sądu projektodawca przewidział możliwość złożenia zażalenia, a jego wykonanie następuje z chwilą uprawomocnienia. Projektowany przepis jest zgodny z zasadami państwa prawa oraz proporcjonalności. Uwzględnia konieczność ochrony fundamentalnych praw podmiotów objętych kontrolą, jednocześnie nie pozbawiając organu kontrolnego możliwości skutecznego przeprowadzenia postępowania w granicach prawa. Rozwiązanie to harmonizuje również z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej dotyczącym ochrony tajemnicy komunikacji z prawnikiem w ramach postępowań administracyjnych prowadzonych przez organy nadzoru lub ochrony konkurencji. Art. 55 przewiduje możliwość zwrócenia się przez Komisję do Policji oraz do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli w szczególnie uzasadnionych przypadkach. Wprowadzenie tego rozwiązania wynika z potrzeby zapewnienia Komisji instrumentów umożliwiających przeprowadzenie kontroli w sposób bezpieczny, rzetelny i skuteczny – zwłaszcza w sytuacjach, gdy czynności kontrolne mogą napotkać na opór lub wymaga specjalistycznego wsparcia informatycznego czy wiadomości specjalnych. Warto podkreślić, że jednostki podległe ministrowi właściwemu do spraw informatyzacji skupiają grono ekspertów z szeroko pojętej informatyzacji i dzięki temu mogą stanowić niezbędną pomoc ekspercką z zakresu bezpieczeństwa i zgodności z przepisami systemów sztucznej inteligencji od strony technologicznej w przypadku braku ekspertów z danej dziedziny w ramach pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji. 25 Przepis doprecyzowuje również zakres udzielanej pomocy. Pomoc Policji ma na celu zapewnienie porządku publicznego, ochrony osób uczestniczących w kontroli oraz poszanowania godności osób obecnych podczas czynności kontrolnych. Z kolei pomoc jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji skupia się na sprawach informatycznych i aspektach technicznych, w tym na weryfikacji zgodności systemów sztucznej inteligencji z obowiązującymi przepisami oraz na analizie poziomu ich bezpieczeństwa. Takie rozróżnienie kompetencji i obowiązków odpowiada specyfice zadań obu rodzajów podmiotów wspierających. Intencją projektodawcy jest, aby możliwe było udzielenie wszelkiego niezbędnego wsparcia informatycznego oraz w zakresie wiadomości specjalnych w celu ustalenia stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689. Ponadto uregulowane zostały formalne wymogi związane z występowaniem o pomoc oraz terminy – standardowo minimum 7 dni przed planowaną kontrolą, natomiast w sytuacjach niecierpiących zwłoki – minimum 3 dni. Ma to na celu zapewnienie odpowiedniego czasu na organizację wsparcia i koordynację działań, przy jednoczesnym uwzględnieniu wyjątkowych przypadków wymagających szybszego działania. Art. 55 wprowadza jasne zasady rozliczania kosztów związanych z pomocą udzieloną przez Policję i jednostki informatyczne. Koszty te pokrywa Komisja według stawki zryczałtowanej, ustalonej w sposób transparentny i powiązany z przeciętnym wynagrodzeniem w gospodarce, co sprzyja przewidywalności wydatków i ogranicza ryzyko sporów finansowych. Przepis art. 56 stanowi kluczowy element procedury kontrolnej, który reguluje sposób dokumentowania czynności podejmowanych przez organ kontrolujący oraz relacji z kontrolowanym podmiotem. Stanowi on wyraz zasady partycypacji i transparentności. Pozwala na uruchomienie mechanizmu konsultacyjnego, w ramach którego kontrolowany ma realną możliwość odniesienia się do ustaleń kontroli. Przepis wprowadza obowiązek sporządzania protokołu kontroli. Wskazanie w przepisie szczegółowych elementów, które muszą znaleźć się w projekcie protokołu, ma charakter gwarancyjny – zapewnia, że niezależnie od rodzaju i zakresu kontroli, podstawowe informacje i ustalenia zostaną przedstawione w sposób przejrzysty i wyczerpujący. Zawarcie danych dotyczących stron, zakresu i przebiegu kontroli, ustaleń faktycznych oraz pouczeń prawnych gwarantuje pełną informacyjność dokumentu i zapobiega sytuacjom niejasności lub nieporozumień. Istotnym aspektem jest również elektronizacja procesu kontrolnego. Obowiązek sporządzania dokumentów w postaci elektronicznej, opatrzonych kwalifikowanym podpisem 26 elektronicznym, podpisem zaufanym lub osobistym, wpisuje się w politykę cyfryzacji administracji publicznej i ma na celu zwiększenie efektywności, szybkości i bezpieczeństwa obiegu dokumentów. Ponadto rozwiązanie to zmniejsza ryzyko fałszowania dokumentów i umożliwia łatwiejsze archiwizowanie oraz kontrolę wewnętrzną. Przewidziane w przepisie prawo do zgłaszania zastrzeżeń w terminie 7 dni od doręczenia protokołu jest istotnym instrumentem procesowym, umożliwiającym kontrolowanemu rzeczywiste zakwestionowanie ustaleń, z którymi się nie zgadza. Dalsze przepisy zapewniają, że zgłoszone zastrzeżenia są przedmiotem merytorycznej analizy, a nie jedynie formalności, co wzmacnia legitymację organu kontrolnego. Jednocześnie obowiązek przedstawienia uzasadnienia w przypadku nieuwzględnienia zastrzeżeń ma istotne znaczenie dowodowe i gwarancyjne. Projekt przewiduje także mechanizm domknięcia procedury kontroli w sytuacji braku współpracy ze strony kontrolowanego. Przyjęcie fikcji prawnej odmowy podpisania protokołu w przypadku jego nieodesłania albo niezgłoszenia zastrzeżeń w terminie oraz obowiązek odnotowania tej odmowy w protokole zabezpiecza interes organu kontrolującego i pozwala zakończyć postępowanie bez konieczności podejmowania dodatkowych czynności. Całościowo przepis ustanawia przejrzystą, szczegółową i zrównoważoną procedurę dokumentowania kontroli, która uwzględnia zarówno interes publiczny, jak i prawa kontrolowanych podmiotów. Dąży on do podniesienia jakości, wiarygodności i efektywności działań kontrolnych oraz minimalizacji ryzyka sporów proceduralnych. Projekt przewiduje również przepisy dotyczące postępowania z wynikami kontroli. W przypadku gdy wynik kontroli wykaże nieprawidłowości stanowiące naruszenia mniejszej wagi w zakresie wykonywania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji Komisji lub przepisów ustawy, Komisja może wydawać zalecenia pokontrolne, zawierające wskazówki dotyczące usunięcia nieprawidłowości oraz terminy ich realizacji. Projekt zaleceń pokontrolnych sporządza kontrolujący. Natomiast w przypadku stwierdzenia poważnych naruszeń przepisów rozporządzenia lub ustawy Komisja jest zobligowana do wszczęcia postępowania administracyjnego. Proponowany projekt ustawy podkreśla wagę nadzoru nad systemami sztucznej inteligencji, wzmacniając ochronę interesów publicznych oraz bezpieczeństwo użytkowników nowoczesnych technologii. Rozdział 4 – Postępowanie przed organem nadzoru (art. 59 – art. 70) 27 Projektowana regulacja ma na celu stworzenie kompletnego i skutecznego trybu postępowania prowadzonego przez Komisję w sprawach naruszeń przepisów rozporządzenia 2024/1689 oraz przepisów ustawy. Zaproponowane rozwiązania zapewniają zarówno ochronę interesu publicznego, jak i poszanowanie praw uczestników postępowania. W przepisach tych określono zasady wszczynania i prowadzenia postępowania, w tym wskazano podstawy wszczęcia, zdefiniowano stronę postępowania jako osobę, wobec której wszczęto postępowanie, instytucje ostrzeżenia, sposób rozstrzygania oraz środki odwoławcze. Dodatkowo określono maksymalny sześciomiesięczny termin prowadzenia postępowania. Ograniczenie to zapobiega przewlekłości procedur, przy jednoczesnym zapewnieniu sprawnego i efektywnego rozstrzygnięcia spraw. Projekt przewiduje, że Komisja będzie mogła wszcząć postępowanie w kilku przypadkach: • z urzędu, • na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji, • na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, • na wniosek Rady. Wszczęcie przez Komisję postępowania z urzędu może nastąpić m.in. w wyniku przeprowadzania kontroli albo w wyniku rozpatrzenia skargi. Projekt ustawy reguluje procedury składania przez osoby fizyczne, prawne oraz jednostki organizacyjne nieposiadające osobowości prawnej skargi na naruszenia przepisów dotyczących sztucznej inteligencji. Proponowane przepisy zobowiązują skarżących do przedstawienia szczegółowych informacji, takich jak nazwa systemu lub opis, opis naruszenia, istotne fakty oraz dane kontaktowe, co umożliwia skuteczne rozpatrzenie sprawy. Skarga może być składana elektronicznie, co zwiększa dostępność procedury, a w wyjątkowych przypadkach dopuszcza się jej złożenie w innej formie. Komisja, w ramach rozpatrywania skargi, może współpracować z innymi organami, zapewniając właściwe rozstrzygnięcie spraw wykraczających poza jej wyłączny zakres działania. Należy zaznaczyć, że wprowadzana przez rozporządzenie 2024/1689 kategoria skargi nie jest tożsama z instytucją skargi w rozumieniu polskiego prawa administracyjnego. Właściwym terminem określającym tę instytucję jest „skarga w rozumieniu [projektu] ustawy o systemach sztucznej inteligencji”, a określenie „skarga” stosowane jest przez projektodawcę w celu uniknięcia niespójności między nazewnictwem stosowanym w rozporządzeniu unijnym oraz projekcie ustawy. Z wszczęciem postępowania wiąże się obowiązek jego doręczania wszystkim stronom. 28 Do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji w zakresie nieuregulowanym projektem ustawy zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Dotyczy to również sytuacji wymagających uzupełnienia dowodów Komisja i przeprowadzenia postępowania dowodowego. Zapewnia to spójność z ogólnymi zasadami polskiej procedury administracyjnej. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy Komisja w toku postępowania może wydać stronie ostrzeżenie. Ostrzeżenie wydawane jest w formie postanowienia, ma charakter prewencyjny i naprawczy, umożliwiając stronie dobrowolne usunięcie nieprawidłowości. Zawiera ono zalecenia działań naprawczych, takich jak zablokowanie dostępu do systemu, wprowadzenie poprawek czy poinformowanie użytkowników. Strona zobowiązana jest do przedstawienia informacji o wykonaniu zaleceń w terminie 14 dni. W przypadku niewykonania ostrzeżenia Komisja może zastosować środki o charakterze nakazowym, a także przekazać informację o naruszeniu właściwym organom krajowym lub unijnym oraz opublikować ją w Biuletynie Informacji Publicznej. Stanowi to mechanizm stopniowanego reagowania, proporcjonalny do wagi naruszenia. W takiej sytuacji Komisja prowadzi dalej postępowanie w celu ustalenia stanu faktycznego. Projektowane przepisy wprowadzają także możliwość wydania decyzji w sprawie naruszenia przepisów rozporządzenia lub ustawy oraz określenie w niej środków nałożenia sankcji. W przypadku dobrowolnego wykonania tych środków Komisja uwzględnia tę okoliczność przy wymiarze ewentualnej kary administracyjnej, co wzmacnia motywację do współpracy z organem. Szczególną regulację przewidziano na wypadek bezpośredniego lub znacznego ryzyka, jakie system sztucznej inteligencji może stwarzać dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W takich sytuacjach Komisja jest uprawniona do wszczęcia postępowania z urzędu i wydania, w trybie przyspieszonym, decyzji nakazującej zaprzestanie stosowania systemu lub jego wycofanie z rynku. Postępowanie w tym trybie może trwać nie dłużej niż 7 dni. Przewidziano także obowiązki informacyjne wobec właściwych organów krajowych, jednostek notyfikowanych oraz instytucji unijnych, co służy zapewnieniu skutecznego nadzoru w skali UE. Wprowadzono również szczegółowe zasady zaskarżania postanowień i decyzji Komisji do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Strona może skorzystać z zażalenia lub odwołania, a samo wniesienie odwołania wstrzymuje wykonanie 29 decyzji w zakresie administracyjnej kary pieniężnej, co chroni stronę przed nadmierną dolegliwością przed rozstrzygnięciem sądu. Dodatkowo wprowadza się mechanizmy wstrzymania wykonania decyzji w zakresie administracyjnych kar pieniężnych w przypadku wniesienia przez stronę odwołania. Projekt ustawy reguluje również obowiązek współpracy Komisji z organami ścigania i wymiaru sprawiedliwości. Nakłada on obowiązek złożenia zawiadomienia o podejrzeniu popełnienia przestępstwa, jeżeli w toku postępowania ujawnione zostaną odpowiednie informacje. Określono również zasady przechowywania akt przez okres dziesięciu lat, co odpowiada potrzebie zapewnienia możliwości kontroli działań organu oraz dochodzenia odpowiedzialności w przyszłości. Całość regulacji ma służyć stworzeniu przejrzystego, proporcjonalnego i efektywnego systemu nadzoru nad stosowaniem systemów sztucznej inteligencji w Polsce, zgodnego z wymogami prawa unijnego, a jednocześnie gwarantującego ochronę praw uczestników postępowania oraz bezpieczeństwa obywateli. Projekt ustanawia obowiązek publikacji decyzji wydawanych przez Komisję w sposób dostępny publicznie, przy jednoczesnym zagwarantowaniu ochrony informacji objętych tajemnicą prawnie chronioną, w tym tajemnicą przedsiębiorstwa. Wprowadzenie tego obowiązku ma służyć zarówno celom informacyjnym, jak i prewencyjnym, umożliwiając podmiotom działającym na rynku zapoznanie się z praktyką orzeczniczą Komisji i uniknięcie podobnych naruszeń. Art. 67 projektu ustawy wprowadza wymóg prowadzenia szczegółowego wykazu systemów sztucznej inteligencji, wobec których podjęto decyzje o nałożeniu kary za naruszenie przepisów rozporządzenia lub ustawy. Wykaz ten zawiera kluczowe informacje, takie jak: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz z wskazaniem przepisów rozporządzenia 2024/1689 oraz ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora, lub też podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenia 2024/1689 oraz ustawy; 30 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2 tego przepisu. Celem tego rozwiązania jest stworzenie publicznie dostępnego i transparentnego rejestru, który umożliwi obywatelom monitorowanie przestrzegania prawa przez operatorów systemów AI. Określono także techniczne i organizacyjne wymagania dotyczące prowadzenia wykazu z wykorzystaniem systemu teleinformatycznego. Zawarte w nim wymogi w zakresie bezpieczeństwa i integralności danych mają zapewnić zgodność z przepisami o ochronie danych osobowych oraz bezpieczeństwa informacji. Szczególny nacisk położono na zapobieganie nieautoryzowanemu dostępowi do danych, ich uszkodzeniu lub utracie, a także na zapewnienie rozliczalności działań dokonywanych w systemie. Ponadto projekt wskazuje Komisję jako administratora danych przetwarzanych w wykazie, co jednoznacznie określa odpowiedzialność za zgodność przetwarzania z przepisami prawa. Rozdział 5 – Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji (art. 71 – art. 85) Projekt ustawy wprowadza alternatywną metodę rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Projektowane przepisy ustanawiają procedurę zawierania układu w sprawie nadzwyczajnego złagodzenia sankcji w postępowaniach prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie tej instytucji ma na celu zwiększenie efektywności nadzoru nad zgodnością systemów sztucznej inteligencji z rozporządzeniem 2024/1689 oraz ustawą krajową, a także stworzenie mechanizmów zachęcających podmioty do współpracy z organem nadzoru i szybkiego usuwania naruszeń. Procedura układowa została ukształtowana jako narzędzie służące zarówno interesowi publicznemu, jak i interesowi podmiotów, wobec których prowadzone jest postępowanie. Komisja może zainicjować możliwość zawarcia układu, jeżeli oceni, że doprowadzi to do lepszej realizacji celów regulacji i jeżeli naruszenie nie doprowadziło do poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Jednocześnie ustawa przewiduje możliwość wszczęcia procedury układowej na wniosek strony, co zwiększa jej dostępność i pozwala podmiotom szybko podjąć działania zmierzające do wyjaśnienia sprawy oraz naprawienia nieprawidłowości. 31 Kluczowym elementem proponowanej regulacji jest rzetelne ujawnienie przez stronę wszelkich istotnych okoliczności naruszenia, w tym informacji o osobach lub podmiotach współdziałających oraz przedstawienia dowodów na ich poparcie. Warunkiem przystąpienia do układu jest również wcześniejsze zaprzestanie naruszenia albo usunięcie stanu niezgodności z prawem. Takie rozwiązanie zapewnia, że układ nie będzie wykorzystywany do uniknięcia odpowiedzialności, lecz będzie stanowił instrument umożliwiający organowi szybkie ustalenie pełnego obrazu naruszenia oraz skuteczne przywrócenie zgodności. Regulacja przewiduje jednocześnie możliwość dobrowolnego podjęcia przez stronę zobowiązań dotyczących usunięcia skutków naruszeń lub naprawienia szkody wyrządzonej przez niezgodne działanie. Dzięki temu skutki naruszeń mogą zostać ograniczone lub usunięte w sposób szybszy i bardziej efektywny niż w ramach zwykłego postępowania administracyjnego, co leży zarówno w interesie organu, jak i podmiotów poszkodowanych. Istotnym elementem procedury jest określenie zasad oraz granic nadzwyczajnego złagodzenia sankcji. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Obniżenie kary pieniężnej może wynosić od 20% do 70%, a w przypadku naruszeń ujawnionych z własnej inicjatywy – od 30% do 90%. W sytuacjach nadzwyczajnych, zwłaszcza gdy podmiot usunie wszystkie skutki naruszenia, układ może przewidywać nawet odstąpienie od sankcji. Ustawodawca wskazuje także kryteria, które Komisja powinna brać pod uwagę przy ustalaniu wysokości obniżki, co zapewnia przejrzystość i przewidywalność decyzji. Dla ochrony interesów strony przewidziano gwarancję, że informacje ujawnione w toku procedury układowej nie mogą zostać wykorzystane przeciwko niej w przypadku niezawarcia układu. Rozwiązanie to zabezpiecza podmioty przed poniesieniem negatywnych konsekwencji wynikających z podjęcia próby współpracy z organem. Projekt szczegółowo określa również ramy czasowe na zawarcie układu wyznaczając jedno- lub trzymiesięczny okres na ich zawarcie. W tym czasie strona ma możliwość wyrażenia woli przystąpienia do układu oraz dostarczenia Komisji wymaganych informacji dotyczących okoliczności naruszenia i odpowiednich dowodów. 32 W projekcie wyszczególniono także kolejne czynności procesowe, w tym sposób przygotowania projektu układu przez Komisję oraz formę jego przyjęcia przez stronę oraz konieczność złożenia oświadczenia przez stronę, którego naruszenie skutkowałoby bezskutecznością układu. Złożenie oświadczenia o przyjęciu układu ma charakter sformalizowany, aby uniknąć jakichkolwiek wątpliwości co do zamiaru strony i skutków prawnych. Przyjęcie układu powoduje zrzeczenie się prawa do odwołania od decyzji kończącej postępowanie, co zamyka postępowanie i zapewnia stabilność ostatecznego rozstrzygnięcia. Przepisy te zapewniają pewność prawną, eliminując ryzyko niejasności interpretacyjnych. Projekt wprowadza również mechanizmy nadzoru nad wykonaniem układu oraz określa przypadki niewykonania zobowiązań przez stronę. Komisja otrzymuje prawo do żądania informacji oraz do monitorowania realizacji zobowiązania. Niewykonanie istotnych elementów układu prowadzi do wznowienia postępowania, przy czym dopuszczalne jest ono jedynie w okresie dziesięciu lat od doręczenia decyzji wydanej na podstawie układu. W takich sytuacjach Komisja uwzględnia wcześniejsze działania strony przy podejmowaniu decyzji o sankcjach. Proponowane przepisy wykluczają stosowanie art. 162 Kodeksu postępowania administracyjnego w odniesieniu do decyzji zawierającej układ, wzmacniając finalność i nieodwołalność rozstrzygnięć osiągniętych na drodze konsensualnej. Ma to zapewnić równowagę między interesem publicznym a zasadą pewności prawa. Wprowadzenie instytucji układu jako narzędzia alternatywnego rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów o sztucznej inteligencji wspiera realizację celów regulacyjnych, wzmacniając ochronę interesu publicznego i skuteczność nadzoru. Rozdział 6 – Jednostki notyfikowane i procedura notyfikacyjna (art. 86 – art. 90) Projekt ustawy w rozdziale 6 ma na celu określenie krajowego systemu autoryzacji, akredytacji i notyfikacji, jednostek oceniających zgodność w związku ze stosowaniem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689. Z uwagi na to, że rozporządzenie to nakłada na państwa członkowskie obowiązek wyznaczenia organu notyfikującego oraz ustanowienia jednolitych procedur w zakresie oceny i notyfikacji jednostek, konieczne jest wskazanie właściwych organów krajowych i określenie ich kompetencji. W projekcie ustawy wskazuję się ministra właściwego do spraw informatyzacji jako organ notyfikujący w zakresie, o którym mowa w art. 28 rozporządzenia 2024/1689. Proces notyfikacji jednostek oceniających zgodność odbywać się będzie zgodnie z zasadami wynikającymi bezpośrednio z rozporządzenia 2024/1689, a także z ustawą z dnia 13 kwietnia 33 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), która reguluje ogólne zasady funkcjonowania jednostek notyfikowanych w Polsce. Takie odesłanie gwarantuje stosowanie jednolitych wymogów dla wszystkich obszarów regulowanych prawem Unii, a jednocześnie eliminuje konieczność powielania istniejących już regulacji. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Wynika to z celowości powierzenia całego procesu – od akredytacji po autoryzację i notyfikację – jednemu organowi, co podnosi efektywność i przejrzystość procedur. Do akredytacji, autoryzacji i notyfikacji jednostek biorących udział w procesie oceny zgodności systemów określonych w rozporządzeniu 2024/1689 odpowiednio będą stosowane przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zachować jednolity standard krajowych procedur, jednocześnie unikając niepotrzebnego dublowania regulacji. Dla zachowania spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689, powierzone zostaną Polskiemu Centrum Akredytacji (zwanemu dalej: „PCA”) w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, które wspierać ma w tym zadaniu ministra właściwego do spraw informatyzacji. Włączenie instytucji posiadającej duży dorobek i bogate doświadczenie, jaką jest PCA, daje największą gwarancję wysokiego poziomu nadzoru nad standardami i zasadami nadzoru nad systemem instytucji oceniających zgodność produktów przy jednoczesnym zapewnieniu możliwości podejmowania przez ministra właściwego do spraw informatyzacji (jako organowi notyfikującemu) działań spójnych z kierunkiem ustalanym na poziomie unijnym (Urząd ds. AI w Komisji Europejskiej, Europejska Rada ds. AI). Z uwagi na to, że PCA jest krajową instytucją akredytującą, jej udział w przygotowaniu i aktualizacji programów akredytacji jest niezbędny dla zapewnienia wysokiej jakości procesu oceny i monitorowania jednostek oceniających zgodność. Ponadto przekazywanie ministrowi aktualnych informacji o akredytacjach umożliwia właściwe wykonywanie zadań nadzorczych i notyfikacyjnych. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. „Zagrożenia związane z systemami AI objętymi wymogami niniejszego rozporządzenia dotyczą innych aspektów niż obowiązujące unijne prawodawstwo harmonizacyjne, w związku z czym wymogi niniejszego rozporządzenia uzupełnią obowiązujące unijne prawodawstwo harmonizacyjne. Na przykład maszyny lub wyroby 34 medyczne zawierające system AI mogą stwarzać ryzyko, które nie zostało uwzględnione w zasadniczych wymogach w zakresie zdrowia i bezpieczeństwa ustanowionych w odpowiednim unijnym prawodawstwie harmonizacyjnym, ponieważ to prawo sektorowe nie reguluje ryzyka specyficznego dla systemów AI. Wymaga to jednoczesnego i komplementarnego stosowania różnych aktów ustawodawczych. Aby zapewnić spójność i uniknąć niepotrzebnych obciążeń administracyjnych i niepotrzebnych kosztów, dostawcy produktu, który zawiera co najmniej jeden system AI wysokiego ryzyka, do którego stosuje się wymogi niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, wymienionego w załączniku do niniejszego rozporządzenia, powinni mieć swobodę w zakresie decyzji operacyjnych dotyczących sposobu zapewnienia w optymalny sposób zgodności produktu zawierającego co najmniej jeden system AI ze wszystkimi mającymi zastosowanie wymogami unijnego prawodawstwa harmonizacyjnego. Swoboda ta może oznaczać na przykład decyzję dostawcy o włączeniu części niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji wymaganych na mocy niniejszego rozporządzenia do już istniejącej dokumentacji i procedur wymaganych na mocy obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych i wymienionego w załączniku do niniejszego rozporządzenia. Nie powinno to w żaden sposób podważać spoczywającego na dostawcy obowiązku zapewnienia zgodności z wszystkimi mającymi zastosowanie wymogami”. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. W przypadku kiedy unijne prawodawstwo harmonizacyjne wymienione w załączniku I do rozporządzenia 2024/1689 albo przepisy krajowe służące jego stosowaniu wskazują inny organ właściwy w tym zakresie, to ocena, wyznaczanie i notyfikowanie jednostek oceniających zgodność będzie dokonywane przez organ w ramach jednego procesu i nie dojdzie do konieczności dokonywania przez podmioty podwójnej notyfikacji – jednej w zakresie samego systemu sztucznej inteligencji przez ministra właściwego ds. informatyzacji, a drugiej w zakresie całego produktu, którego częścią jest ten system, dokonywanej przez organ właściwy w przypadku danych produktów. Przykładowo, w przypadku wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia 35 (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takimi systemami będzie to Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Dodatkowo zgodnie z motywem 124 w celu zminimalizowania obciążenia dla operatorów i aby uniknąć ewentualne powielanie działań, zgodność z wymogami niniejszego rozporządzenia w przypadku systemów AI wysokiego ryzyka powiązanych z produktami, które są objęte zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, należy oceniać w ramach oceny zgodności przewidzianej już w tym prawodawstwie. Stosowanie wymogów niniejszego rozporządzenia nie powinno zatem wpływać na szczególną logikę, metodykę lub ogólną strukturę oceny zgodności określone w unijnym prawodawstwie harmonizacyjnym. W projekcie ustawy określono także procedurę składania wniosków o notyfikację przez jednostki oceniające zgodność. Z uwagi na cyfryzację procesów administracyjnych wniosek składany ma być wyłącznie w postaci elektronicznej, co zwiększa efektywność postępowania, ogranicza koszty administracyjne oraz zapewnia jego pełną przejrzystość. W projektowanych przepisach zawarto minimalny zakres informacji, jakie wniosek musi zawierać. Są to dane podstawowe pozwalające na identyfikację wnioskodawcy oraz dane niezbędne do weryfikacji jej statusu akredytacyjnego. Wymóg podania informacji o akredytacji (w tym numeru certyfikatu) wynika z faktu, że akredytacja jest warunkiem koniecznym do notyfikacji w większości obszarów oceny zgodności określonych w przepisach unijnych. Przepis zatem zapewnia kompletność i poprawność danych niezbędnych do przeprowadzenia procedury notyfikacyjnej. Art. 88 projektu umożliwia ministrowi właściwemu do spraw informatyzacji przetwarzanie informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/1689 oraz ustawy. Jest to niezbędne, ponieważ materia ocen zgodności, akredytacji i autoryzacji jednostek często obejmuje informacje techniczne, technologiczne oraz organizacyjne przedsiębiorców, które podlegają ochronie. Jednocześnie minister musi mieć możliwość ich przetwarzania w celu rzetelnej realizacji zadań wynikających z rozporządzenia 2024/1689 i przepisów krajowych. 36 Przepis ten zapewnia więc zgodność z zasadami legalizmu oraz ochrony danych poufnych. a także zapewnia skuteczne realizowanie funkcji organu notyfikującego. Art. 89 ma charakter uzupełniający i porządkujący. odnosi się do pozostałych spraw, które są regulowane w rozdziale 6 projektu. W przypadkach, które nie są uregulowane przepisami rozporządzenia 2024/1689 ani niniejszą ustawą, przepis wskazuje na subsydiarne zastosowanie przepisów ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zapewnić spójność całego systemu prawa dotyczącego oceny zgodności w Polsce, unika kolizji regulacyjnych oraz umożliwia korzystanie z procedur i mechanizmów już funkcjonujących w systemie prawnym. Projektowany art. 90 doprecyzowuje zadania ministra właściwego do spraw informatyzacji wynikające z rozporządzenia 2024/1689 w zakresie funkcjonowania organu notyfikującego. Przepis ust. 1 zapewnia możliwość krajowego określania oraz corocznej weryfikacji wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Dodatkowo przepis nakłada na ministra obowiązek podejmowania działań naprawczych w przypadku stwierdzenia braku zgodności z określonymi wymogami, co gwarantuje utrzymanie właściwego poziomu kompetencji organu notyfikującego oraz zapewnia realizację zobowiązań wynikających z prawa Unii. Ponadto przepis wprowadza obowiązek przekazywania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, co umożliwia właściwe monitorowanie funkcjonowania organu notyfikującego na poziomie unijnym oraz zapewnia przejrzystość i zgodność z procedurami określonymi w przepisach europejskich. Rozdział 7 – Środki wspierające innowacyjność (art. 91 – art. 99) Projekt ustawy określa nie tylko kwestie związane z nadzorem na systemami sztucznej inteligencji, ale również określa podstawy prawne do wdrażania środków wspierających innowacyjność. W projekcie zawarto regulacje ustanawiające krajowe podstawy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem 2024/1689. Rozporządzenie unijne przewiduje możliwość tworzenia piaskownic regulacyjnych w celu wspierania innowacji oraz testowania systemów AI w warunkach kontrolowanych, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony użytkowników. Tym samym projekt wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i 37 proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Zgodnie z art. 57 rozporządzenia 2024/1689 każde państwo członkowskie Unii Europejskiej musi uruchomić przynajmniej jedną piaskownicę regulacyjną w zakresie AI do 2 sierpnia 2026 roku. Mechanizm ten ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja uzyskuje uprawnienie do udzielania zgody, w formie decyzji, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ponadto projekt przewiduje preferencyjne warunki dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Projekt ustawy ustanawia przejrzyste procedury konkursowe dla podmiotów ubiegających się o udział w piaskownicy regulacyjnej. Komisja organizuje konkurs, którego celem jest wyłonienie najbardziej obiecujących projektów, wnoszących istotny wkład w rozwój technologii AI, przy zachowaniu bezpieczeństwa i zgodności z ogólnymi zasadami prawa. Proces oceny ofert podlega nadzorowi zespołu konkursowego, który dokonuje merytorycznej analizy zgłoszeń, tworzy listę rankingową oraz protokół z oceny. Szczególną preferencją objęte są podmioty pochodzące z Unii Europejskiej, co wspiera współpracę na szczeblu regionalnym i harmonizację działań z unijną polityką technologiczną. Przepisy wprowadzają również obowiązek publikacji wyników konkursu oraz mechanizmy odwoławcze, umożliwiające stronom zakwestionowanie rozstrzygnięcia komisji konkursowej, co gwarantuje równe szanse uczestnikom. Uczestnicy mają prawo do zgłoszenia odwołania w terminie 7 dni. W przypadku uwzględnienia zarzutów Komisja powołuje zespół odwoławczy do ponownej oceny odwołania. W skład zespołu nie będą wchodziły osoby, które brały udział w pracach zespołu konkursowego co zapewnia sprawiedliwość rozstrzygnięć oraz transparentność działań. Projekt ustawy nakłada obowiązki na Komisję w zakresie określania limitów użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej oraz zakresu odstępstw dla poszczególnych projektów funkcjonujących w piaskownicy regulacyjnej. Dodatkowo wymaga, aby Komisja informowała instytucje unijne o utworzeniu piaskownicy, co 38 umożliwia monitorowanie efektów testów przez organy unijne oraz zapewnienie spójności działań z polityką UE w zakresie sztucznej inteligencji. Uczestnicy piaskownicy regulacyjnej zobowiązani są do informowania użytkowników o udziale w programie, publikowania rocznych raportów, zamieszczania na swojej stronie internetowej informacji o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej a także zgłaszania wszelkich zmian mających wpływ na projekt. Takie wymogi gwarantują transparentność procesów testowych oraz skuteczny nadzór nad prowadzonymi eksperymentami. Komisja uzyskuje uprawnienie do kontrolowania uczestników piaskownicy oraz podejmowania działań dyscyplinujących w przypadku stwierdzenia naruszeń, takich jak wezwanie do usunięcia nieprawidłowości czy wykluczenie z programu. Projekt wykonuje obowiązki państwa członkowskiego wynikające z art. 95 rozporządzenia 2024/1689. W art. 98 projektu ustawy wskazano, że minister właściwy do spraw informatyzacji wykonuje zadania dotyczące wspierania tworzenia kodeksów dobrego postępowania w zakresie stosowania systemów AI. W celu ułatwienia opracowywania tych kodeksów, minister będzie wydawać rekomendacje najlepszych praktyk. Taki mechanizm ma charakter niewiążący, jednak pełni istotną rolę w tworzeniu spójnych i wysokiej jakości standardów funkcjonowania systemów sztucznej inteligencji w Polsce. Rekomendacje te będą służyły jako punkt odniesienia zarówno dla podmiotów sektora publicznego, jak i prywatnego, wspierając harmonizację podejścia do AI na poziomie krajowym i unijnym. Ponadto projekt ustanawia obowiązek corocznego przekazywania przez ministra właściwego do spraw informatyzacji, do dnia 31 marca każdego roku, informacji dotyczącej wymaganych zasobów obliczeniowych do rozwoju systemów AI oraz prognozowanego zużycia energii związanego z ich działaniem. Informacja ta ma być przedstawiana zarówno Radzie Ministrów, jak i Komisji Europejskiej. Jest to wyraz uznania rosnącego znaczenia infrastruktury obliczeniowej dla rozwoju nowoczesnych technologii oraz potrzeby monitorowania ich wpływu na zużycie zasobów energetycznych, co ma znaczenie zarówno z perspektywy polityki cyfrowej, jak i klimatyczno-energetycznej. Przepis ten pozwoli lepiej planować inwestycje w infrastrukturę cyfrową, a także wspierać działania na rzecz zrównoważonego rozwoju. Minister właściwy ds. informatyzacji, jako odpowiedzialny za koordynację wdrażania krajowej Polityki AI, dysponuje najszerszym zbiorem danych, dzięki którym mógł przygotować raporty i prognozy, o których mowa powyżej. Zgodnie z art. 99 projektu przyznaje się ministrowi właściwemu do spraw informatyzacji uprawnienia w zakresie wspierania badań naukowych i prac rozwojowych, co jest kluczowe 39 dla rozwoju technologii przełomowej, jaką jest sztuczna inteligencja. Przepisy te umożliwiają ministrowi udzielanie wsparcia finansowego na badania naukowe i prace rozwojowe, a także finansowanie lub współfinansowanie programów i projektów z budżetu państwa oraz środków unijnych. Dzięki temu możliwe jest zapewnienie odpowiednich środków na realizację innowacyjnych projektów, które mogą przyczynić się do rozwoju sztucznej inteligencji w Polsce. Minister może również inicjować, wspierać i realizować programy finansujące badania naukowe i prace rozwojowe oraz działania przygotowujące do wdrożenia ich wyników. Programy te są realizowane przez Instytut Badawczy IDEAS – nad którym nadzór ministrowi właściwemu do spraw informatyzacji został przekazany rozporządzeniem Rady Ministrów z dnia 25 lutego 2025 r. w sprawie utworzenia Instytutu Badawczego IDEAS – oraz pozostałe jednostki podległe i nadzorowane przez ministra, co zapewnia spójność i efektywność działań. Wprowadzenie tych przepisów ma na celu stworzenie odpowiednich warunków do prowadzenia badań naukowych i prac rozwojowych, co jest kluczowe dla wdrożenia sztucznej inteligencji. Wykaz jednostek, o których mowa w art. 99, jest zawierany w obwieszczeniu Ministra Cyfryzacji wydanym na podstawie art. 33 ust. 1d ustawy z dnia 8 sierpnia 1996 r. o Radzie Ministrów. Obecnie jednostkami podległymi Ministrowi Cyfryzacji i nadzorowanymi przez Ministra Cyfryzacji są: Jednostki podległe: • Centrum Projektów Polska Cyfrowa. Jednostki nadzorowane: • Centralny Ośrodek Informatyki; • Instytut Badawczy IDEAS; • Instytut Łączności – Państwowy Instytut Badawczy; • Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy. Celem przepisu jest zapewnienie możliwości elastycznego i dostosowanego do specyfiki branży i działań udzielania pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz programów i projektów w tym zakresie realizowanych przez ww. pomocy w ramach ich zadań. Stąd też w projekcie znalazł się przepis wskazujący na szerokie źródła środków przeznaczonych na finansowanie w ramach dotacji celowych. 40 Szczegółowe określenie czy skonkretyzowanie zadań, o których mowa w uwadze z uwzględnieniem podziału na podmioty nie jest możliwe do określenia, a także nie wydaje się zasadne z uwagi na nieprzewidywalny kierunek rozwoju sztucznej inteligencji, a także wynikające z tego zapotrzebowania. Dzięki temu możliwe jest osiągnięcie celów określonych w rozporządzeniu 2024/1689, takich jak promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji. Wsparcie finansowe i organizacyjne dla badań naukowych i prac rozwojowych jest niezbędne, aby możliwy był rozwój sztucznej inteligencji zgodnie z wartościami Unii Europejskiej. Proponowane regulacje mają na celu wspieranie innowacyjnych technologii w obszarze AI, zachowanie zgodności działań z polityką UE oraz zapewnienie odpowiednich zabezpieczeń i transparentności procesów testowych. Rozdział 8 – Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 100 – art. 110) Uregulowania w przepisach polskiego prawa wymagają także określone w treści rozporządzenia kwestie nakładania przez organ nadzoru administracyjnych kar pieniężnych. Mechanizm w postaci możliwości nałożenia sankcji za naruszenie przepisów rozporządzenia 2024/1689 jest kluczowy pod kątem jego praktycznego egzekwowania, a więc faktycznej możliwości osiągnięcia celów prawodawcy w zakresie wspierania rozwoju AI w ramach jednolitego rynku w zgodzie z europejskim prawem i wartościami. Projektowany art. 100 stanowi kluczowy element krajowego mechanizmu egzekwowania przepisów rozporządzenia 2024/1689. Celem tego przepisu jest przyznanie Komisji kompetencji do nakładania administracyjnych kar pieniężnych na podmioty, które naruszą przepisy rozporządzenia. Przepis wskazuje, że nałożenie kary odbywa się w drodze decyzji administracyjnej, co oznacza, że zastosowanie będą miały ogólne zasady postępowania administracyjnego, w tym gwarancje proceduralne dla stron postępowania. Kary są nakładane w przypadkach, wysokości i na warunkach przewidzianych w rozdziale XII rozporządzenia 2024/1689, co zapewnia pełną zgodność z przepisami prawa Unii Europejskiej. Taki mechanizm gwarantuje spójność systemu sankcyjnego i eliminuje ryzyko rozbieżności interpretacyjnych między przepisami unijnymi a krajowymi. Ust. 2 i 3 wprowadzają obowiązek uwzględnienia przy podejmowaniu decyzji, oraz wskazania w jej uzasadnieniu, przesłanek określonych w art. 99 ust. 7 rozporządzenia 2024/1689. Przesłanki te obejmują m.in. charakter, wagę i czas trwania naruszenia, stopień winy, 41 wcześniejsze naruszenia, środki zastosowane w celu zapobieżenia lub naprawienia skutków naruszenia. Uwzględnienie tych kryteriów zapewnia, że kara będzie proporcjonalna do naruszenia oraz że każde postępowanie będzie prowadzone w sposób indywidualny i sprawiedliwy. Ust. 4 reguluje sposób przeliczania wartości pieniężnych wyrażonych w euro na walutę krajową – złoty polski. Ustalenie stałego dnia odniesienia (28 stycznia każdego roku) oraz wskazanie wprost średniego kursu ogłaszanego przez Narodowy Bank Polski, a także rozwiązanie sytuacji, gdy kurs nie zostanie ogłoszony w tym dniu, zapewnia jednolitość, przewidywalność oraz techniczną wykonalność przepisu. Jednocześnie ustawa przewiduje mechanizm umożliwiający Komisji na wymierzenie kary. Podmiot jest obowiązany do dostarczenia Komisji w terminie 14 dni od dnia otrzymania żądania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. W przypadku niedostarczenia danych przez podmiot lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ma prawo do samodzielnego ustalenia podstawy wymiaru administracyjnej kary pieniężnej w sposób szacunkowy. Uwzględnia przy tym wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Postępowanie dotyczące kar ma być prowadzone na podstawie przepisów ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Aby zapewnić prawidłową ochronę strony w postępowaniu wskazano, że w przypadku nałożenia kary osoba (fizyczna, prawna oraz nieposiadająca osobowości prawnej), na którą zostanie ona nałożona, będzie miała uprawnienie do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów, jest właściwym organem do rozpatrywania odwołań od decyzji Komisji (w tym decyzji o karach pieniężnych) z kilku kluczowych powodów. Po pierwsze, sąd ochrony konkurencji i konsumentów posiada już ugruntowaną pozycję i doświadczenie w rozpatrywaniu spraw związanych z regulacjami rynkowymi oraz ochroną konsumentów. Jego kompetencje obejmują rozpatrywanie odwołań od decyzji takich organów jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, co czyni go naturalnym wyborem do rozpatrywania spraw związanych z nowymi technologiami, w tym sztuczną inteligencją 42 Sztuczna inteligencja jest technologią przełomową, która ma potencjał do znaczącej transformacji wielu sektorów gospodarki oraz życia społecznego. W związku z tym konieczne jest, aby sprawy dotyczące AI były rozpatrywane przez sąd posiadający odpowiednie zaplecze merytoryczne i organizacyjne. Skoncentrowanie tych spraw w jednym sądzie, takim jak Sąd Okręgowy w Warszawie, pozwala na zbudowanie specjalistycznej wiedzy i doświadczenia w zakresie regulacji i nadzoru nad AI, co jest kluczowe dla zapewnienia sprawiedliwości i efektywności postępowań sądowych Ponadto centralizacja rozpatrywania spraw związanych z AI w jednym sądzie zapobiega rozproszeniu kompetencji i umożliwia lepszą koordynację działań. Dzięki temu możliwe jest wypracowanie jednolitej linii orzeczniczej, co jest szczególnie istotne w kontekście dynamicznie rozwijającej się technologii, jaką jest sztuczna inteligencja. Taki model organizacyjny pozwala również na bardziej efektywne wykorzystanie zasobów sądowych oraz zapewnia lepszą dostępność specjalistycznych ekspertyz i opinii biegłych Kary pieniężne podlegać będą egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Zapewni to spójność rozwiązań w zakresie egzekucji z innymi przepisami w tym zakresie. Należy wskazać, że przesłanki nakładania kar i maksymalne ich wysokości wynikają wprost z przepisów rozporządzenia 2024/1689. Zgodnie z przepisami rozporządzenia 2024/1689 oraz ze względu na znaczenie przepisów dla ochrony praw osób, praworządności oraz demokracji w Europie, omawiany projekt zakłada możliwość nałożenia z tego tytułu kary na podmioty sektora prywatnego, jak i publicznego. Analogiczne uprawnienie dla państw członkowskich funkcjonuje na gruncie przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) oraz ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. Projekt przewiduje również możliwość zmniejszenia wysokości administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 62 ustawy, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. Komisja może też, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze 43 względu na ważny interes wnioskodawcy. Działania te stanowią ulgę w wykonaniu administracyjnej kary pieniężnej, która: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Przepisy stanowi ważny instrument o charakterze motywacyjnym i prewencyjnym. Mechanizm ten premiuje współpracę z organem i szybką reakcję na naruszenie, co może skutecznie przeciwdziałać dalszym nieprawidłowościom. Jednocześnie przepis wyznacza granice takiej łagodności – nie może ona mieć zastosowania, jeśli skutki naruszenia były poważne, co zapewnia ochronę interesu publicznego i osób narażonych na skutki naruszeń. Konstruując przepisy umożliwiające nałożenie kar na podstawie naruszenia rozporządzenia 2024/1689, projektodawca umożliwia stosowanie ich w oparciu o wszystkie przypadki naruszenia przepisów rozporządzenia 2024/1689. Nie przekreśla to możliwości uregulowania w przyszłości szczegółowych kwestii dotyczących naruszeń innych przepisów, w szczególności art. 6 omawianego rozporządzenia. Takie działanie legislacyjne będzie wskazane ze względu na fakt wejścia w życie, w 2026 oraz 2027 r., pozostałych przepisów rozporządzenia 2024/1689 oraz prac Komisji Europejskiej związanych z opracowaniem i publikacją aktów wykonawczych, delegowanych oraz dokumentów merytorycznych odnoszących się do obszarów ujętych zakresowo przepisami o systemach AI wysokiego ryzyka (art. 6), w których właściwymi organami nadzoru mają być spełniające kryteria określone w rozporządzeniu krajowe organy nadzoru (m.in. nad sektorem finansowym czy zastosowaniem systemów wysokiego ryzyka przez instytucje publiczne w obszarach, takich jak ściganie przestępstw, migracja czy wymiar sprawiedliwości). Określony w projekcie szeroki zakres uprawnień Komisji do nakładania kar wynika z harmonogramu wchodzenia w życie przepisów rozporządzenia, jak również z powodu konieczności oczekiwania na podjęcie przez Komisję Europejską, Radę ds. AI oraz inne powołane do życia na mocy przepisów regulacji instytucje europejskiego systemu nadzoru nad modelami i systemami sztucznej inteligencji działań o charakterze technicznym, merytorycznym i prawnym, które to według przepisów rozporządzenia, jak również komunikatów przedstawicieli Komisji na spotkaniach Rady ds. AI planów nastąpić ma do końca 2025 r. 44 Przepisy art. 108 i art. 109 mają na celu wzmocnienie skuteczności prowadzonych postępowań, mechanizmów kontrolnych oraz egzekwowania obowiązków podmiotów objętych kontrolą lub postępowaniem administracyjnym. Wprowadzenie sankcji karnych w postaci kary ograniczenia wolności lub grzywny służy zapewnieniu należytej współpracy ze strony kontrolowanych, stron postępowania oraz przeciwdziałaniu działaniom obstrukcyjnym. Wprowadzenie przepisu art. 108 ma na celu zapewnienie skuteczności czynności kontrolnych oraz postępowań administracyjnych prowadzonych przez Komisję zgodnie z ustawą. Czynności te stanowią kluczowy instrument nadzorczy, umożliwiający wykrywanie nieprawidłowości, reagowanie na naruszenia i weryfikację zgodności działania podmiotów z obowiązkami wynikającymi z rozporządzenia 2024/1689 oraz ustawy. Penalizacja działań zmierzających do utrudnienia lub udaremnienia czynności kontrolnych jest konieczna, ponieważ bez możliwości wymierzenia sankcji działania Komisji mogłyby być w praktyce nieskuteczne, a podmioty objęte kontrolą mogłyby nie wykonywać obowiązków lub celowo uniemożliwiać realizację ustawowych zadań organu nadzorczego. Wprowadzone sankcje – grzywna albo kara ograniczenia wolności – są proporcjonalne do wagi naruszenia i zgodne z zasadą subsydiarności prawa karnego. Penalizacji podlega wyłącznie zachowanie o charakterze świadomego sprzeciwu wobec czynności organu, mające wysoce negatywny wpływ na możliwość wykonywania jego zadań. Przepis dotyczy każdego zarówno osób fizycznych, osób prowadzących działalność gospodarczą, jak i przedsiębiorców. Ujęcie w ust. 2 odpowiedzialności osób działających w imieniu lub w interesie osób prawnych i jednostek organizacyjnych wynika z konieczności zapobieżenia sytuacjom, w których szkodliwe działania podejmowane są przez przedstawicieli podmiotów zbiorowych, często faktycznie odpowiedzialnych za naruszenia. Rozwiązanie to jest zgodne z zasadą, że odpowiedzialność karna obejmuje także osoby uprawnione do działania w strukturach organizacyjnych podmiotów gospodarczych. Stosowanie przepisów ust. 1 i 2 zostało wyłączone w odniesieniu do czynów polegających na dostarczaniu nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji właściwym organom krajowym w odpowiedzi na ich wniosek. Te czyny zostały wskazane w przepisach rozporządzenia 2024/1689 enumeratywnie i kara za nie została wprost określona w art. 99 ust. 5 rozporządzenia 2024/1689. Mają one bowiem szczególne istotne znaczenie dla ustalania poprawnie stanu faktycznego a tym sam na uznanie systemu za zgodny z 45 przepisanymi rozporządzenia 2024/1689, bezpieczny i godny zaufania. Wyłączenie to ma na celu uniknięcie ryzyka podwójnej karalności. Celem tego przepisu jest ochrona integralności procesu kontrolnego oraz postępowań i zapewnienie, że zarówno kontrolujący, jak i osoby prowadzące postępowanie administracyjne będą mogli wykonywać swoje obowiązki w sposób niezakłócony. Celem wprowadzenia art. 109 jest zapewnienie realnej wykonalności decyzji Komisji, o której mowa w art. 64 ust. 2 ustawy, podejmowanych w przypadku stwierdzenia naruszeń dotyczących funkcjonowania lub stosowania systemów sztucznej inteligencji. Decyzje te mają charakter środków naprawczych i służą usunięciu naruszeń wynikających ze stworzonego przez system sztucznej inteligencji ryzyka, o którym mowa w art. 79 rozporządzenia 2024/1689, lub bezpośredniego ryzyka zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W sytuacji braku sankcji za niewykonanie decyzji organu, podmiot obowiązany mógłby pozostawać bierny, co prowadziłoby do utrzymywania niezgodności z prawem, a niekiedy do dalszego zagrożenia dla użytkowników systemów sztucznej inteligencji. Wprowadzenie penalizacji jest zatem konieczne dla zapewnienia skuteczności nadzoru publicznego i respektowania decyzji naprawczych. Niewykonanie decyzji organu administracji publicznej w zakresie obowiązków nakazanych dla usunięcia naruszeń jest czynem o wysokim stopniu społecznej szkodliwości, ponieważ: • prowadzi do utrzymywania stanu niezgodnego z prawem, • naraża użytkowników systemów AI na ryzyko, • może uniemożliwiać skuteczne naprawienie naruszenia, • godzi w interes publiczny rozumiany jako bezpieczeństwo i przejrzystość stosowania technologii AI. Zachowanie to ma charakter umyślny lub co najmniej wynikający z rażącego niedbalstwa i odnosi się do obowiązków nałożonych w decyzji, która stanowi akt władczy skierowany do konkretnego podmiotu. Projekt przewiduje karę grzywny albo ograniczenia wolności. Sankcje są adekwatne do charakteru czynu, nie mają charakteru nadmiernie represyjnego, wpisują się w standard kar stosowanych za niewykonywanie decyzji organów nadzorczych w innych sektorach regulowanych (np. ochrona danych osobowych, nadzór rynku finansowego), odpowiadają standardowi sankcji za podobne delikty administracyjno-karne. Prawo karne 46 zachowuje w tym przypadku charakter środka ultima ratio, stosowanego wyłącznie wówczas, gdy podmiot świadomie ignoruje wiążącą decyzję administracyjną. Ust. 2 przewiduje odpowiedzialność osób działających w imieniu lub w interesie osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej. Rozwiązanie to odzwierciedla faktyczny sposób funkcjonowania podmiotów gospodarczych, zapobiega przerzucaniu odpowiedzialności na podmiot zbiorowy i ukrywaniu sprawców działań faktycznych, ponadto jest zgodne z powszechnie stosowaną w polskim prawie konstrukcją odpowiedzialności osób odpowiedzialnych za działanie podmiotu (np. w prawie wykroczeń gospodarczych i nadzorczych), zapewnia skuteczność sankcji i zapobiega ich faktycznemu obchodzeniu. Przepis art. 110 odsyła do stosowania w ww. sprawach przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia. Ma to na celu ujednolicenie procedury orzekania w sprawach o czyny określone w art. 108 i art. 109 oraz zapewnienie jednolitego stosowania zasad procesu wykroczeniowego. Wybór trybu wykroczeniowego jest uzasadniony charakterem sankcji przewidzianych w ustawie (grzywna albo kara ograniczenia wolności) oraz stopniem społecznej szkodliwości czynów. Wprowadzenie tej regulacji zapewnia: przejrzystość procedury. skrócenie czasu rozpoznania spraw, zminimalizowanie obciążenia organów wymiaru sprawiedliwości, wykorzystanie istniejącej, ugruntowanej procedury właściwej dla podobnych deliktów administracyjnych. Regulacja jest niezbędna dla prawidłowego stosowania przepisów karnych zawartych w ustawie. Rozdział 9 – Zmiany w przepisach obowiązujących (art. 111 – art. 119) Projekt zakłada nowelizację następujących ustaw: 1) ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm.); 2) ustawy z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. po. 268); 3) ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722, z późn. zm.); 4) ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499, z późn. zm.); 47 5) ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 poz. 902, z późn. zm.); 6) ustawy z dnia 28 lipca 2025 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228, z późn. zm.); 7) ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640, z późn. zm.); 8) ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 z późn. zm.); 9) ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 z późn. zm.). Zmiany mają na celu dostosowanie aktualnego systemu prawnego do regulacji wprowadzanych tą ustawą. Najbardziej istotna zmiana dotyczy przepisów Kodeksu postępowania cywilnego. Projektowana zmiana polega na dodaniu nowego działu IVfa w tytule VII księgi pierwszej części pierwszej kodeksu. Nowelizacja ta wynika z potrzeby zapewnienia skutecznych i zgodnych z konstytucyjnymi standardami mechanizmów sądowej kontroli decyzji organu nadzorczego, jakim będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie odrębnych przepisów proceduralnych w tym zakresie stanowi odpowiedź projektodawcy na nowe wyzwania prawne i technologiczne związane z dynamicznym rozwojem i wdrażaniem systemów sztucznej inteligencji w życiu publicznym i gospodarczym. Z uwagi na złożoność spraw związanych z oceną zgodności systemów sztucznej inteligencji z regulacjami prawa unijnego i krajowego, projekt przewiduje, że rozpoznawaniem odwołań od decyzji oraz zażaleń na postanowienia Komisji zajmować się będzie Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów. Wybór tego sądu uzasadniony jest jego wyspecjalizowaną kompetencją w sprawach gospodarczych, regulacyjnych i administracyjnoprawnych o charakterze publicznoprawnym. Takie rozwiązanie zapewnia także jednolitość orzecznictwa i koncentrację spraw, co sprzyja efektywności i spójności postępowania sądowego. Uregulowanie trybu wniesienia odwołania (art. 479 88b–c ) opiera się na modelu pośrednictwa Komisji, która przekazuje odwołanie wraz z aktami sprawy do właściwego sądu. Jednocześnie projekt przewiduje możliwość autokontroli decyzji przez Komisję, jeśli uzna ona zarzuty odwołania za zasadne w całości. Umożliwia to szybkie zakończenie sporu bez angażowania sądu, przy jednoczesnym zachowaniu prawa strony do ponownego wniesienia odwołania od 48 nowej decyzji. Rozwiązanie to odciąża sądy i promuje efektywne rozwiązywanie spraw na poziomie organu administracyjnego. W art. 479 88d określono, jakie elementy powinno zawierać odwołanie. Przepis ten ma na celu zapewnienie jasności zarzutów i przejrzystości argumentacji procesowej. W art. 479 88e jednoznacznie określono krąg stron postępowania przed sądem – są nimi zarówno Komisja, jak i podmiot, wobec którego wydano decyzję. Dodatkowo przyznano Komisji prawo reprezentacji przez pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji, co zwiększa sprawność postępowania i odciąża Prokuratorię Generalną RP. Uregulowanie to jest zgodne z tendencją legislacyjną przyznającą wyspecjalizowanym organom administracyjnym kompetencje do samodzielnego występowania przed sądem. Art. 479 88f normuje sposób rozpoznania odwołań, sąd może je oddalić, odrzucić lub uwzględnić, uchylając lub zmieniając zaskarżoną decyzję. Jednocześnie sąd ma obowiązek stwierdzić, czy decyzja została wydana bez podstawy prawnej lub z rażącym naruszeniem prawa, co stanowi dodatkowy mechanizm kontroli legalności działania organu nadzorczego. W art. 479 88g zawarto szczegółowe regulacje dotyczące ochrony tajemnic prawnie chronionych w toku postępowania sądowego. Z uwagi na charakter spraw z zakresu systemów sztucznej inteligencji, które często dotyczą danych technicznych, handlowych, algorytmicznych oraz know-how konieczne było wprowadzenie mechanizmu ochrony tajemnicy przedsiębiorstwa i innych informacji niejawnych. Jednocześnie projekt przyznaje sądowi możliwość udostępnienia tych informacji stronie tylko w wyjątkowych, ściśle określonych przypadkach, przy jednoczesnym wykluczeniu zażalenia na takie postanowienia, co zabezpiecza sprawność postępowania. Wyraźnie wskazano także, że ograniczenia te nie dotyczą samej Komisji, która zachowuje pełny dostęp do materiałów dowodowych. Art. 479 88h przyznaje stronie prawo wniesienia zażalenia na postanowienie Komisji w terminie tygodnia, zapewniając tym samym skuteczną ochronę praw procesowych również w odniesieniu do rozstrzygnięć incydentalnych. Odwołanie do stosowania przepisów dotyczących odwołań zapewnia spójność i jednolitość proceduralną. Wreszcie art. 479 88i stanowi, że od orzeczenia sądu drugiej instancji będzie przysługiwała skarga kasacyjna niezależnie od wartości przedmiotu zaskarżenia. Wprowadzenie działu IVfa w Kodeksie postępowania cywilnego ma kluczowe znaczenie dla zapewnienia realnego środka zaskarżenia decyzji administracyjnych w dziedzinie regulacji sztucznej inteligencji. Przepisy te nie tylko zapewniają wykonanie obowiązków wynikających 49 z prawa unijnego, ale także służą ochronie praw jednostek i podmiotów gospodarczych przed ewentualnymi nadużyciami administracyjnymi. System ten został zaprojektowany z uwzględnieniem zasady proporcjonalności, efektywności postępowania i ochrony informacji wrażliwych, a także z poszanowaniem konstytucyjnych zasad państwa prawa. Rozdział 10 – Przepisy przejściowe i przepis końcowy (art. 120 – art. 122) Projekt ustawy przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organu odpowiedzialnego za monitorowanie i wspieranie rozwoju sztucznej inteligencji w sposób bezpieczny i zgodny z interesem publicznym. Sztuczna inteligencja stanowi kluczowy element nowoczesnych technologii i ma istotny wpływ na gospodarkę oraz społeczeństwo, dlatego konieczne jest stworzenie dedykowanego organu, który będzie dbał o jej rozwój zgodnie z zasadami etyki i bezpieczeństwa. Komisja ma pełnić funkcję wspomagającą i kontrolną, dbając o zgodność wdrażanych rozwiązań z regulacjami prawnymi oraz standardami międzynarodowymi. W celu zapewnienia sprawnej działalności Komisji w projekcie wskazano termin powołania jej Przewodniczącego przez Sejm RP za zgodą Senatu RP. Procedura ta gwarantuje demokratyczną legitymizację działania organu i zapewnia, że na jego czele stanie osoba posiadająca odpowiednie kompetencje. Jednocześnie określono termin pierwszego posiedzenia Komisji, które ma się odbyć w ciągu trzech miesięcy od wejścia w życie ustawy. Jest to istotne dla zapewnienia płynnego wdrożenia nowych rozwiązań i niezwłocznego podjęcia prac przez Komisję. Mając na uwadze, że Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji, minister został zobowiązanych do podjęcia niezbędnych działań w celu utworzenia w urzędzie komórki organizacyjnej zapewniającej obsługę Komisji i Przewodniczącego Komisji w zakresie ich zadań wynikających z rozporządzenia 2024/ 1689 oraz z ustawy. Rozpoczęcie działalności przez tę komórkę, powinno nastąpić w terminie 2 miesięcy od dnia wejścia w życie ustawy. Projekt ustawy przewiduje również maksymalne limity wydatków budżetowych na kolejne lata oraz wprowadzenie mechanizmu korygującego w przypadku zagrożenia ich przekroczeniem. Mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy umożliwia elastyczne i skuteczne ograniczenie kosztów, zapewniając racjonalne gospodarowanie środkami publicznymi. Mechanizm opiera się na obniżeniu limitu wydatków – co automatycznie wymusza redukcję kosztów tych zadań. 50 W przypadku konieczności zastosowania mechanizmu korygującego niezbędna będzie weryfikacja, priorytetyzacja lub przesuniecie zakresu realizacji niektórych zadań. Mechanizm korygujący nie będzie uchylał obowiązku wynikającego z ustawy, ale będzie modyfikował sposób finansowania tego obowiązku, np. przesuwając fazy jego realizacji. Będzie on dostosowany do priorytetów realizowanych przez Komisję. Nadzór nad finansami sprawuje minister właściwy do spraw informatyzacji, co gwarantuje odpowiednią kontrolę wydatkowania środków publicznych, natomiast Przewodniczący Komisji odpowiada za wdrażanie mechanizmów kontrolnych w celu uniknięcia przekroczenia założonych limitów. Termin wejścia w życie przepisów ustawy Zachowane zostało wejście w życie przepisów ustawy zgodne z terminem wejścia w życie przepisów rozporządzenia 2024/1689. Ustawa wejdzie w życie po upływie 14 dni od dnia ogłoszenia, przy czym przepisy dotyczące powołania organu nadzoru zaczną obowiązywać od dnia następującego po jej ogłoszeniu. Takie rozwiązanie umożliwia sprawne rozpoczęcie organizacji Komisji oraz szybkie wdrożenie działań niezbędnych do uruchomienia pracy nowego organu. Jednocześnie wyjaśnić należy, że w zakresie spraw uregulowanych: 1) w rozdziale III sekcje 1–3 i sekcja 5, rozdziale IV, rozdziale VI, rozdziałach VIII–XI, z wyłączeniem art. 78, oraz w zakresie spraw uregulowanych w art. 101 rozporządzenia z 2024/1689, przepisy ustawy będą obowiązywały od 2 sierpnia 2026 r.; 2) w art. 6 ust. 1 rozporządzenia 2024/1689 i odpowiadających mu obowiązków ustanowionych w tym rozporządzeniu, przepisy ustawy będą obowiązywały od 2 sierpnia 2027 r. Wskazane terminy wynikają wprost z art. 113 rozporządzenia 2024/1689. Projekt zapewnia sprawną organizację i finansowanie Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji, umożliwiając efektywne zarządzanie rozwojem sztucznej inteligencji w Polsce. Tworzy on stabilne ramy prawne, organizacyjne i finansowe dla działalności Komisji, co pozwoli na skuteczne monitorowanie rozwoju sztucznej inteligencji i minimalizowanie związanych z nią zagrożeń. Wdrożenie ustawy stanowi istotny krok w kierunku nowoczesnej i odpowiedzialnej polityki państwa wobec dynamicznie rozwijających się technologii cyfrowych. 51 Projekt ustawy nie zawiera przepisów technicznych w rozumieniu przepisów rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i w związku z tym nie podlega procedurze notyfikacji. W związku z art. 68–70 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców należy zaznaczyć, że projektowana ustawa, nakładając nowe obowiązki na przedsiębiorców będzie miała wpływ na działalność mikro- oraz małych i średnich przedsiębiorców. Projektowana ustawa ogranicza się jednak do nałożenia obowiązków niezbędnych do osiągnięcia celów rozporządzenia 2024/1689. Projekt ustawy jest zgodny z przepisami prawa Unii Europejskiej i służy ich stosowaniu. Projekt ustawy nie podlega przedstawieniu właściwym organom i instytucjom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt ustawy stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677, z późn. zm.) oraz zgodnie z § 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) został zamieszczony w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie „Rządowy Proces Legislacyjny”. Nazwa projektu Ustawa o systemach sztucznej inteligencji Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji, pamela.krzypkowska@cyfra.gov.pl; sekretariat.dbi@cyfra.gov.pl Data sporządzenia 20.03.2026 r. Źródło: Prawo UE Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Nr w wykazie prac UC71 OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”. Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności, ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą opierały się na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim. Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do: 1) wskazania właściwych organów krajowych, tj.: - organu lub organów nadzoru rynku, - organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie; 2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689; 3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie przepisów rozporządzenia 2024/1689. W projekcie ustawy wprowadzono również podstawowe przepisy dotyczące piaskownic regulacyjnych. Zgodnie z art. 57 rozporządzenia 2024/1869 każde państwo członkowskie ma obowiązek ustanowienia przynajmniej jednej krajowej piaskownicy regulacyjnej do 2 sierpnia 2026 roku. Może ona być uruchomiona samodzielnie lub we współpracy z innymi państwami, a wypełnienie obowiązku dopuszcza także uczestnictwo w już istniejącej piaskownicy, o ile zapewnia ona równoważny zasięg krajowy. Komisja Europejska zyskuje tu rolę wspierającą, oferując doradztwo, narzędzia i pomoc techniczną w tworzeniu oraz funkcjonowaniu piaskownic. Oprócz rozwiązań na szczeblu krajowym dopuszcza się również tworzenie piaskownic regionalnych, lokalnych czy nawet wspólnych dla kilku państw, a Europejski Inspektor Ochrony Danych może powołać własną piaskownicę dla instytucji i organów unijnych. Organy krajowe zobowiązane są do zapewnienia wystarczających zasobów finansowych, kadrowych i organizacyjnych, aby piaskownice działały efektywnie, terminowo i zgodnie z prawem. Mogą współpracować z innymi podmiotami z 2 ekosystemu AI, w tym organizacjami prywatnymi, a także muszą utrzymywać koordynację z organami nadzorującymi inne piaskownice powstałe na gruncie prawa unijnego czy krajowego. Komisja Europejska jest zobowiązana do przyjęcia jednolitych procedur i kryteriów funkcjonowania piaskownic, których celem będzie harmonizacja praktyk w całej UE i ograniczenie barier administracyjnych. Piaskownica regulacyjna w projekcie ustawy o systemach sztucznej inteligencji rozwiązuje problem braku bezpiecznego i przejrzystego środowiska do testowania systemów sztucznej inteligencji zanim trafią one na rynek. Piaskownica regulacyjna tworzy kontrolowane warunki, w których można eksperymentować, trenować i walidować systemy AI pod stosownym nadzorem, co pozwala na identyfikację potencjalnych zagrożeń i dostosowanie technologii do wymogów prawa jeszcze przed ich komercjalizacją. Zawarte w projekcie przepisy umożliwią wypełnienie obowiązku wynikającego z art. 57 rozporządzenia 2024/1689. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji i oczekiwany efekt Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689; możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji oraz środków wspierania innowacyjności. Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa. Projektu ustawy nie stosuje się do: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: a) działalnością, o której mowa w art. 2 ust. 1 i 2 z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych, b) działalnością gospodarczą, o której mowa w art. 3 w zw. z art. 4 ust. 1–2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, c) działalnością nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) działalnością, o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) działalnością rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego; 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689; 3) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 4) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5–6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego, działaniach podejmowanych w celu zidentyfikowania i ścigania sprawcy przestępstwa; 5) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w tym punkcie; 6) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 5, przed wejściem w życie rozporządzenia 2024/1689; 7) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. 3 1. Właściwe organy krajowe Organ nadzoru rynku oraz punkt kontaktowy Przepisy rozporządzenia 2024/1689 zobowiązują państwa członkowskie do powołania lub wskazania organu nadzoru rynku. W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne. Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania). Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna. Pracami Komisji będzie kierował Przewodniczący powoływany przez Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej, spośród osób, które posiadają obywatelstwo polskie, korzystają z pełni praw publicznych, cieszą się nieposzlakowaną opinią i które nie były skazane prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, które jednocześnie posiadają wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub równorzędny oraz co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji, doświadczenie zawodowe uzyskane w trakcie pracy w takich podmiotach lub pracy naukowej, a także wyróżniają się wiedzą i posiadają znaczący dorobek w zakresie sztucznej inteligencji. Wybór Przewodniczącego Komisji przez Sejm za zgodą Senatu zapewni niezależność i demokratyczną legitymację. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji. W skład Komisji będą także wchodzili dwaj Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisji Nadzoru Finansowego; 3) Krajowej Rady Radiofonii i Telewizji; 4) Prezesa Urzędu Komunikacji Elektronicznej. Komisja będzie działać w modelu kolegialnym, co zapewni większą rzetelność decyzji, a skargi będą rozpatrywane przez Przewodniczącego dla większej efektywności. Projekt ustawy przewiduje niezależność wszystkich osób wchodzących w skład Komisji w zakresie zadań przez nią realizowanych. Dodatkowo Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 4 Przepisy uregulują również obowiązki i uprawnienia członków komisji, a także sposób wykonywania zadań. Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji. W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest wskazanie podmiotu pozwalającego na wykonywanie zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz Przewodniczącego. Przepisy rozporządzenia 2024/1689 nie wskazują na obowiązek utworzenia urzędu, a tym samym nie odnoszą się do kwestii pracowniczych w tym zakresie, jednak przesądzenie tych kwestii w ustawie jest niezbędne w celu zapewnienia właściwego funkcjonowania niezależnego organu nadzoru. Stąd też w przepisach projektu znalazły się uregulowania związane ze wskazaniem urzędu obsługującego ministra do spraw informatyzacji jako urzędu zapewniającego obsługę administracyjną, organizacyjną, kancelaryjną oraz wykonywania zadań przez Komisję oraz przewodniczącego Komisji. Dla kompletności rozwiązań ustawowych uregulowane zostaną także kwestie wykraczające poza przepisy rozporządzenia 2024/1689, a dotyczące organizacji pracy pracowników. Zadania nowego organu będą obejmowały w szczególności: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o których mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawia ministrowi właściwemu do spraw informatyzacji propozycje działań legislacyjnych, b) udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacje, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Do istotnych zadań komisji chociaż wykraczających poza ramy rozporządzenia 2024/1689 należy także: 5 1) wydawanie przez opinii indywidualnych oraz wyjaśnień w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. W związku z zapewnieniem Komisji kompetencji do wydawania opinii indywidualnych i wyjaśnień niezbędne jest uregulowanie w projekcie ustawy również procedur z tym związanych, a także odziaływania tych dokumentów na inne organy; 2) wyrażanie opinii w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, a także udział w ich opracowywaniu. Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji. Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art. 7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji. Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji a Komisją, w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków). Jako organ opiniodawczo-doradczy Komisji zostanie powołana również Społeczna Rada do spraw Sztucznej Inteligencji, której członkowie będą wybierani przez Komisję spośród kandydatów zgłaszanych przez m.in. Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, izby gospodarcze, związki zawodowe oraz fundacje i stowarzyszenia. Do zadań Rady będzie należeć wydawanie opinii i stanowisk w zakresie przekazanym przez Komisję oraz z własnej inicjatywy, a także przekazywanie wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków. Powołanie organu opiniodawczo-doradczego organu nadzoru nie zostało objęte przepisami rozporządzenia 2024/1689. Przepisy projektu ustawy zakładają także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. tworzenie piaskownic regulacyjnych, prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe. W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, z zastrzeżeniem art. 2 ust 2, której celem będzie ustalenie zgodności działalności podmiotów z przepisami rozporządzenia oraz ustawy. Komisja będzie przeprowadzała kontrolę zgodnie z zatwierdzonymi planami kontroli, na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Kontrola będzie prowadzona, z wyjątkiem określonych w ustawie przypadków, w trybie zdalnym, z wykorzystaniem środków porozumiewania się na odległość. Kontrola może zostać przeprowadzona przez upoważnionego pracownika właściwej komórki urzędu obsługującego ministra do spraw informatyzacji, co do zasady po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli oraz jej zakończenia, a także uprawnień i obowiązków kontrolujących i podmiotów kontrolowanych. Jeżeli w wyniku kontroli Komisja stwierdzi nieprawidłowości wypełniania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji wydanej przez Komisję lub ustawy, w projekcie ustawy przewidziano możliwość wydawania przez Komisję zaleceń pokontrolnych. Jest to regulacja wykraczająca poza przepisy rozporządzenia 2024/1689 jednak stanowi odpowiedź na potrzeby regulowanej materii. Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Postępowanie będzie wszczynane z urzędu, na wniosek Przewodniczącego, zastępcy, członka Komisji lub Społecznej Rady ds. Sztucznej Inteligencji, lub na podstawie skargi. W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe. Procedury prowadzenia postępowań zostały pozostawione do uregulowania Państwom członkowskim w ramach przepisów krajowych i w takim zakresie nie wynikają bezpośrednio z przepisów rozporządzenia 2024/1689. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W przypadku uzasadnionego podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, 6 Komisja może wydać w drodze postanowienia ostrzeżenie, w którym wskazuje działania, które strona powinna podjąć w celu przywrócenia stanu zgodnego z prawem. W toku postępowania Komisja może także, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Zarówno instytucja ostrzeżenia, jak i instytucja układu nie wynikają wprost z rozporządzenia 2024/1689 chociaż wchodzą one regulacje dotyczące zasad postępowania przed organem nadzoru rynku. Stwierdzenie przez Komisję naruszenia przepisów rozporządzenia 2024/1689 następuje w formie decyzji zawierającej środki nakazujące usunięcie skutków naruszenia. Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych. W takim wypadku Komisja obowiązana będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. W związku z przetwarzaniem przez Komisję danych osobowych w celu realizacji zadań wynikających z rozporządzenia 2024/1689 w projekcie wskazano procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. Przepisy te nie stanowią z wykonania rozporządzenia 2024/1689. Organ notyfikujący Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność o raz jako organ notyfikujący. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. Notyfikacja jednostek oceniających zgodność następować będzie na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Dla spójności z przepisami oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 powierzone zostaną Polskiemu Centrum Akredytacji, do którego zadań należeć będzie: 1) uczestniczenie, we współpracy z ministrem właściwym do spraw informatyzacji, w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność; 2) opracowanie szczegółowego programu akredytacji jednostek oceniających zgodność oraz dokonywanie aktualizacji tego programu; 3) przekazywanie ministrowi właściwemu do spraw informatyzacji informacji o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. 2. Skargi W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów. Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości 7 odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów. Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ. 3. Środki wspierające innowacyjność W projekcie ustawy określono ramy tworzenia tzw. piaskownic regulacyjnych w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689. Komisja ma kompetencje do udzielenia w drodze decyzji dostępu do piaskownicy regulacyjnej podmiotom wybranym w drodze konkursu. Mikro, mali i średni przedsiębiorcy w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców będą mogli uczestniczyć w piaskownicy regulacyjnej nieodpłatnie. Celem tych regulacji będzie: – ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. – zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. – stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. Komisja będzie mogła prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. W ramach innych środków wspierania innowacyjności, zgodnie z projektem ustawy, minister właściwy do spraw informatyzacji może podejmować działania takie jak: 1) udzielanie pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansowanie lub współfinansowanie programów i projektów w tym zakresie ze środków pochodzących z budżetu państwa w formie dotacji, jak również budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, środków pochodzących z bezzwrotnej pomocy zagranicznej oraz środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjowanie, wspieranie i realizowanie programów obejmujących finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyniki badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. Udzielenie finansowania będzie możliwe także dla Instytutu Badawczego IDEAS. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. 4. Administracyjne kary pieniężne Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby Komisja nakładała kary pieniężne w drodze decyzji, w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. Zgodnie z art. 99 rozporządzenia 2024/1689 kara za nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Z kolei nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5 (art. 99 ust. 4 lit. a-g rozporządzenia 2024/1689) podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest 8 przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów. Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. Jeśli Komisja uzna odwołanie za słuszne, może – nie przekazując akt sądowi – uchylić albo zmienić swoją decyzję w całości lub w części. Dodatkowo, projekt zakłada możliwość uzyskania przez stronę zmniejszenia wysokości nałożonej kary administracyjnej. Oprócz wcześniej wspomnianego środka zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, w przepisach przewidziano kompetencję Komisji do zmniejszenia, w drodze decyzji, administracyjnej, wysokości kary pieniężnej, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu wydanym przez Komisję, a naruszenie nie doprowadziło do śmierci lub uszczerbku na zdrowiu człowieka. Ustanowienie procedur nakładania administracyjnych kar pieniężnych oraz określenie przeznaczenia tych kar rozporządzenie 2024/1689 pozostawiło w gestii państw członkowskich. W projekcie zawarto także przepisy dotyczące sankcji karnych za określone czyny związane z udaremnianiem lub utrudnianiem prowadzenia kontroli, czynności w postępowaniu w przypadku stwierdzenia naruszenia związanego ze stwarzaniem przez system AI ryzyka oraz niedostarczeniem lub dostarczeniem niedostatecznych danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Regulacja ta nie wynika bezpośrednio z przepisów rozporządzenia 2024/1689. Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw, a także przepisy przejściowe, dostosowujące i końcowe. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Rozporządzenie 2024/1689 jest aktem prawnym bezpośrednio obowiązującym, będzie więc miało bezpośrednie zastosowanie we wszystkich państwach członkowskich Unii Europejskiej. Najważniejszym celem unijnych przepisów jest to, aby systemy sztucznej inteligencji stosowane w UE były bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. W konsekwencji wszystkie państwa członkowskie UE będą stosowały przepisy ww. rozporządzenia, a prace nad wdrożeniem obecnie toczą się we wszystkich krajach. Z przeprowadzonej analizy porównawczej wynika, że w państwach członkowskich UE nie ukształtował się jeden dominujący model organizacji nadzoru rynku nad systemami sztucznej inteligencji. Rozwiązania są dostosowywane do krajowej struktury administracji, przy jednoczesnym zachowaniu wymogów art. 70 rozporządzenia 2024/1689, w szczególności w zakresie niezależności organu oraz zapewnienia odpowiednich zasobów i kompetencji. W analizowanych państwach przyjmowane są w szczególności: (1) model nowego wiodącego organu nadzoru rynku przy jednoczesnym zachowaniu sektorowego podziału kompetencji dla części systemów wysokiego ryzyka (np. Hiszpania), (2) model oparty na istniejących instytucjach z wyznaczeniem wiodącego organu i punktu kontaktowego oraz uzupełniającą rolą organów sektorowych (np. Malta), a także (3) model wieloorganowy oparty w całości na istniejących organach administracji publicznej, z przypisaniem zadań zgodnie z właściwością rzeczową. Do tej pory dwa państwa członkowskie UE, Finlandia i Luksemburg, opublikowały projekty aktów prawnych wdrażających do krajowych przepisów rozwiązania w zakresie nadzoru z rozporządzenia 2024/1689. W fińskiej propozycji przepisów (Hallituksen esitys laiksi eräiden tekoälyjärjestelmien valvonnasta ja siihen liittyvien lakien muuttamisesta, nr projektu TEM050:00/2024) rolę organów nadzoru rynku rozdzielono pomiędzy już istniejące organy, które sprawują nadzór nad poszczególnymi sektorami gospodarki i życia publicznego. Analogicznie, kilku organom przyznano funkcję organów notyfikujących. Jako pojedynczy punkt kontaktowy wyznaczona została Agencja Transportu i Komunikacji (Traficom). W zakresie środków nadzoru rynku projekt ustawy odsyła do rozdziału 3 ustawy o nadzorze rynku (Laki eräiden tuotteiden markkinavalvonnasta, 16.12.2016/1137). W projekcie przewidziano również powstanie nowego organu działającego przy Traficom, który nakłada sankcję za naruszenia określonych przepisów ustawy, jeżeli przekracza ona 300 000 EUR. W luksemburskim projekcie ustawy zadania w zakresie nadzoru rynku oraz notyfikacji na gruncie rozporządzenia 2024/1689 również zostały rozdzielone między kilka organów. Jako pojedynczy punkt kontaktowy wyznaczono organ ochrony danych osobowych. 9 Ponadto, w kilku państwach członkowskich wprowadzono w ostatnim czasie różnorodne rozwiązania prawne i organizacyjne w zakresie zapewnienia nadzoru nad systemami sztucznej inteligencji. Hiszpania W Hiszpanii przyjęto rozwiązanie oparte na powołaniu nowego organu nadzoru rynku nad systemami sztucznej inteligencji. W 2023 r. powołano tam Agencję Nadzoru nad Sztuczną Inteligencją (Agencia Española de Supervisión de la Inteligencia Artificial). Działania Agencji mają służyć m.in. następującym celom: nadzór nad wdrażaniem, użytkowaniem lub wprowadzaniem do obrotu systemów sztucznej inteligencji, a w szczególności takich, które mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa oraz praw podstawowych; współpracy i koordynacji między innymi organami krajowymi; promocji środowisk testowych systemów sztucznej inteligencji; podnoszeniu świadomości, rozpowszechnianiu szkoleń związanych z odpowiedzialnym wykorzystaniem sztucznej inteligencji. Agencja Nadzoru nad Sztuczną Inteligencją podlega Ministerstwu Gospodarki i Transformacji Cyfrowej. Nowy organ z siedzibą w La Corunii został wyposażony w budżet na rozpoczęcie działalności w wysokości ok. 21 mln. Euro (2023). W przyjętej 15 maja 2024 r. strategii AI (2024 Artificial Intelligence Strategy) Agencja Nadzoru nad Sztuczną Inteligencją została wskazana jako główny organ odpowiedzialny za wdrożenie i nadzór nad egzekwowaniem rozporządzenia 2024/1689. Ponadto 8 listopada 2023 r. na mocy królewskiego dekretu nr 817/2023 w Hiszpanii powołano piaskownicę regulacyjną, której celem jest stworzenie środowiska testowego dla systemów wysokiego ryzyka. Według aktualnych informacji, w styczniu 2025 r. trwał pierwszy nabór wniosków. Austria W Austrii w styczniu 2024 r. weszło życie prawo (zmiany w Telekommunikationsgesetz), na mocy którego ustanowiono Biuro Obsługi ds. sztucznej inteligencji (KI-Servicestelle) przy austriackim urzędzie ds. telekomunikacji (RTR). Biuro ma służyć jako punkt kontaktowy i centrum informacji dla ogółu społeczeństwa na temat sztucznej inteligencji oraz wspierać wdrażanie rozporządzenia 2024/1689. Na swojej stronie internetowej Biuro publikuje informacje na temat rozporządzenia oraz inicjatyw w zakresie sztucznej inteligencji podejmowanych w Austrii. W lutym 2024 r. powołano Radę Doradczą ds. sztucznej inteligencji (KI-Beirat), której rolą ma być doradzanie rządowi federalnemu i Biuru Obsługi ds. sztucznej inteligencji we wdrażaniu rozporządzenia 2024/1689. W listopadzie 2024 r. w Austrii przedstawiono także Plan wdrożenia na 2024 r. dla strategii rządu federalnego dla AI (Strategie der Bundesregierung für Künstliche Intelligenz - Umsetzungsplan 2024). Federalny Urząd Kanclerski Austrii, Wydział VII – Cyfryzacja i E-administracja (Bundeskanzleramt, Sektion VII – Digitalisierung und E-Government) został w nim wyznaczony jako odpowiedzialny za przygotowanie wdrożenia rozporządzenia 2024/1689 do porządku krajowego. Węgry Węgierskie rozwiązanie oparto na wskazaniu istniejącej instytucji rządowej – Ministerstwa Gospodarki Narodowej – jako organu nadzoru rynku AI. Jednocześnie przewidziano mechanizm umożliwiający wyznaczenie organu nadzoru rynku sztucznej inteligencji w drodze rozporządzenia, co świadczy o elastycznym modelu organizacyjnym. Dania Dania przyjęła model wieloorganowy oparty w całości na istniejących instytucjach administracji publicznej. Mechanizmy współpracy opierają się na wyznaczeniu Duńskiej Agencji Cyfryzacji (Digitaliseringsstyrelsen) jako centralnego punktu kontaktowego (Single Point of Contact) w rozumieniu art. 70 ust. 2 AI Act oraz na obowiązku współdziałania pomiędzy organami i zapewnienia zasobów niezbędnych do wykonywania zadań. Malta Na Malcie głównym organem nadzoru rynku oraz jednolitym punktem kontaktowym jest Malta Digital Innovation Authority (MDIA). Model ten przewiduje centralną rolę MDIA w ogólnym nadzorze rynku AI, w tym prowadzeniu krajowej piaskownicy regulacyjnej, pełnieniu funkcji organu notyfikującego oraz nakładaniu administracyjnych kar pieniężnych; dodatkowo, w przypadku braku wyznaczenia innego organu, MDIA przejmuje funkcję organu nadzoru rynku, co nadaje jej pozycję „domyślną” w systemie. Włochy We Włoszech wyznaczono dwie istniejące agencje jako krajowe organy właściwe – AgID (Agenzia per l’Italia digitale) oraz ACN (Agenzia per la cybersicurezza nazionale). W analizie wskazano także mechanizm koordynacji z udziałem organów sektorowych poprzez komitet koordynacyjny przy Prezesie Rady Ministrów, z udziałem kierownictwa AgID i ACN oraz przedstawicieli organów sektorowych. Słowenia 10 W Słowenii kompetencje nadzorcze przekazano istniejącym instytucjom sektorowym, a współpracę oraz rozstrzyganie sporów kompetencyjnych pomiędzy organami zapewnia Rada Koordynacyjna Organów Nadzoru Rynku. Prace nad przyjęciem rozwiązań regulacyjnych dotyczących sztucznej inteligencji trwają również w krajach OECD. Poniżej opisano przykłady dwóch z nich, w których już przyjęto akty prawne w tym zakresie lub trwają nad nimi prace. Korea Południowa 26 grudnia 2024 r. w Korei Południowej przyjęto Podstawowy Akt o AI (AI Basic Act, South Korean AI Act). Wejdzie on w życie w styczniu 2025 r. Celem aktu jest ochrona praw i godności człowieka oraz poprawa jakości życia i wzmocnienie konkurencyjności Korei Południowej poprzez stworzenie ram niezbędnych do prawidłowego rozwoju sztucznej inteligencji. Stanowi on usankcjonowanie prawne dla powołania Narodowego Komitetu ds. AI (National AI Committee), które miało miejsce we wrześniu 2024 r. Zadaniem Komitetu jest m. in. rozpatrywanie i podejmowanie decyzji w sprawie głównych polityk promowania sztucznej inteligencji oraz tworzenie podstaw zaufania do AI. Akt uprawnia także Ministra ds. Nauki i ICT do utworzenia Ośrodka ds. Polityki AI, którego zadaniem będzie opracowywanie polityk w zakresie sztucznej inteligencji oraz ustalanie i upowszechnianie norm międzynarodowych. Na gruncie aktu, operatorzy systemów AI, które zostały w nim zdefiniowane jako wysokiego wpływu (high-impact) i generatywne, podlegają obowiązkom w zakresie transparentności i bezpieczeństwa. Rząd może także wspierać dobrowolną weryfikację bezpieczeństwa i niezawodności systemów AI wykorzystywanych przez sektor prywatny oraz oceny ich wpływu. Ponadto, ministrowi ds. Nauki i ICT została przyznana kompetencja do uchwalania i ogłaszania zasad etycznych dla AI w zakresie bezpieczeństwa, niezawodności, dostępności oraz wpływu na życie i dobrobyt ludzi. Minister ds. Nauki i ICT może także, w przypadku, gdy poweźmie informację, że naruszone zostały przepisy aktu, prowadzić postępowania wyjaśniające oraz zarządzić podjęcie środków w celu zaprzestania naruszenia lub usunięcia jego skutków. Kanada Kanada jako jeden z pierwszych krajów OECD, w 2016 r. przyjęła regulacje adresujące część problematyki objętej zakresem Rozporządzenia 2024/1689. Dyrektywa w zakresie automatycznego podejmowania decyzji (Directive on automated decision making) to akt prawny w randze ustawy, w którym wprowadzone zostały mechanizmy oparte na ryzyku mające zapewnić przejrzystość, rozliczalność, legalność i uczciwość zautomatyzowanych decyzji mających wpływ na Kanadyjczyków. Dyrektywie towarzyszy załącznik – Algorytymiczna ocena wpływu (Algorithmic Impact Assessment) – wzór formularza, który obowiązkowo należy wypełnić w przypadku wdrożenia systemu sztucznej inteligencji w instytucjach federalnej służby publicznej. Dla zapewnienia spójności między systemem nadzoru oraz wspierania badań i innowacji, w 2019 r. utworzono instytucję - Radę Doradczą ds. Sztucznej Inteligencji (Advisory Council on AI), której zadaniem jest doradzanie rządowi Kanady w budowaniu przewag konkurencyjnych w nauce, technologii, a także światowym przywództwie w dziedzinie sztucznej inteligencji, identyfikowaniu możliwości stworzenia wzrostu gospodarczego oraz zapewnianiu, że postępy w zakresie sztucznej inteligencji odzwierciedlają wartości określone w kanadyjskim prawie. Kontynuując ten kierunek, Kanada w 2022 r. ogłosiła dokument pn. Karta Praw Cyfrowych (Karta Praw Cyfrowych), która zawiera propozycje działań prawnych i administracyjnych kompleksowo odnoszących się do zagrożeń dla praw obywateli i konsumentów związanych z rozwojem technologii cyfrowych. W 2022 r. rząd Kanady zaprezentował wpisujące się w ten program projekty trzech aktów prawnych pod wspólną nazwą Bill C-27. Jednym z nich jest Akt o sztucznej inteligencji i danych (Artificial Intelligence and Data Act), projekt ustawy, który zawiera m.in. propozycję powołania nowego organu ds. sztucznej inteligencji i ochrony danych (AI and Data Commissioner), przepisy karne za stosowanie systemów sztucznej inteligencji uznanych za szczególnie groźne, a także (oparty na metodologii Algorithmic Impact Assessment) zestaw przepisów proceduralnych określających obowiązki podmiotów wprowadzających na rynek oraz stosujących systemy sztucznej inteligencji. Projekt dotychczas nie został uchwalony i pozostaje w fazie prac legislacyjnych. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Obywatele W końcu 1 kwartału 2025 r. ludność Polski liczyła 37437 tys. osób Dane statystyczne Głównego Urzędu Statystycznego, 2025 r. https://ssgk.stat.gov.pl/Ludnosc. html Umożliwienie złożenia skargi do właściwych organów na naruszenia przepisów rozporządzenia 2024/1689. Urząd Ochrony Danych Osobowych 1 Informacja powszechnie dostępna Prezes Urzędu Ochrony Danych Osobowych będzie współpracował z Komisją w zakresie nadzoru nad systemami sztucznej inteligencji w zakresie określonym 11 przepisami rozporządzenia 2024/1689. Krajowa jednostka akredytująca Polskie Centrum Akredytacji (PCA) 1 Informacja powszechnie dostępna Realizacja zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przedsiębiorcy, w tym w szczególności przedsiębiorcy stosujący w działalności narzędzia sztucznej inteligencji ok. 5 202 000 (ogólna liczba przedsiębiorstw); wg szacunków (PIE, 2024) 6,6% polskich przedsiębiorstw (ogólna liczba przedsiębiorstw w gospodarce narodowej: 5,2 mln) deklaruje korzystanie z narzędzi sztucznej inteligencji, co przekłada się na szacunkową liczbę 330 tys. firm korzystających z tej technologii. Główny Urząd Statystyczny, 2024 r. Polski Instytut Ekonomiczny, 2024 r. Obowiązek spełnienia wymogów w postaci przestrzegania zakazów określonych w rozporządzeniu 2024/1689 dla poszczególnych typów podmiotów wykorzystujących narzędzia sztucznej inteligencji. Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689. Przedsiębiorcy sektora sztucznej inteligencji ok 1/3 firm ICT deklaruje, że w ich głównych produktach rozwiązania sztucznej inteligencji odgrywają kluczową rolę; zważywszy, że w 2022 wg GUS r. było zarejestrowanych 2712 firm prowadzących działalność w zakresie IT w 2022 r. (wg klasyfikacji PKD), daje to szacunkową liczbę ok. 900 firm sektora sztucznej inteligencji w Polsce. Główny Urząd Statystyczny, 2023 r. Fundacja Start Up Poland, 2024 r. Raport „Polskie Startupy, 2023 r.” Realizacja obowiązków wynikających z wprowadzenia listy zakazanych praktyk sztucznej inteligencji (zakaz wprowadzania do obrotu lub na rynek) oraz ograniczeń, które będą wynikać ze stosowania niektórych takich systemów w ramach dozwolonego użytku (obszary obronności, bezpieczeństwa narodowego oraz badań i nauki). Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 Rozporządzenia 2024/1689. Sąd okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów 1 Informacja powszechnie dostępna Rozpatrywanie spraw w ramach drogi odwoławczej od decyzji Komisji. Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Sąd apelacyjny w Warszawie, sądy okręgowe i rejonowe Stan na 30.06.2024 r.: - 11 sądów apelacyjnych, 47 sądów okręgowych i 319 sądów rejonowych Informacja ogólnodostępna Wzrost liczby spraw trafiających do sądów, wynikający z wdrożenia ustawy. Sąd Apelacyjny w Warszawie – rozpoznawanie apelacji i zażaleń z zakresu systemów sztucznej inteligencji Sądy powszechne – pion karny oraz jednostki prokuratury 318 sądów powszechnych w pionie karnym oraz 357 jednostek prokuratury w pionie karnym Informacja ogólnodostępna Wzrost liczby spraw, w których prowadzone lub nadzorowane będą postępowania karne w zakresie czynów karalnych określonych w ustawie. Sądownictwo wojskowe 12 Informacja ogólnodostępna Odziaływanie z zakresu prac Komisji. 12 Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Organy administracji publicznej: 1) Prezes Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisja Nadzoru Finansowego; 3) Krajowa Rada Radiofonii i Telewizji; 4) Prezes Urzędu Komunikacji Elektronicznej 4 Dane własne Udział w pracach Komisji jako jej członek. Jednostki samorządu terytorialnego 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Obowiązek spełnienia wymogów rozporządzenia 2024/1689 związanych z przestrzeganiem zakazu wprowadzania do użytku i używania systemów zakazanych. Urząd obsługujący ministra właściwego do spraw informatyzacji 1 Informacje powszechnie dostępne Zapewnienie obsługi organizacyjnej, kancelaryjnej i administracyjnej. Utworzenie właściwej komórki organizacyjnej. Minister właściwy do spraw informatyzacji 1 Informacje powszechnie dostępne Pełnienie funkcji organu notyfikującego, w tym: - współpraca z Polskim Centrum Akredytacji; - kontakty z organami notyfikującymi z innych państw oraz Komisją Europejską Określenie w drodze rozporządzenia wysokość opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej Wykonywanie zadań z art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji w zakresie najlepszych praktyk Udzielanie pomocy finansowej jednostkom podległym i nadzorowanym lub finansowanie w zakresie nadań naukowych i prac rozwojowych na podstawie art. 84. Policja Informacja powszechnie dostępna Udzielanie pomocy Komisji w przeprowadzaniu kontroli Naczelnicy Urzędów Skarbowych 366 Informacja Ministerstwa Finansów i Gospodarki Działanie z charakterze organu egzekucyjnego. Dyrektorzy izb administracji skarbowej 16 Informacja Ministerstwa Finansów i Gospodarki Działanie w charakterze organu nadzoru w związku z egzekucją 13 administracyjnych kar pieniężnych. 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Ministerstwo Cyfryzacji zmierzając do zapewnienia skutecznego stosowania rozporządzenia 2024/1689 podjęło szeroko zakrojone i transparentne prekonsultacje (od 2 kwietnia 2024 r. do 23 kwietnia 2024 r.) ze wszystkimi zainteresowanymi tą tematyką. Projekt ustawy został udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce „Rządowy Proces Legislacyjny” zgodnie z § 52 ust. 1 uchwały nr 190 uchwały Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Projekt ustawy w ramach konsultacji publicznych został przesłany w szczególności do następujących podmiotów: 1) Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, 2) Polska Izba Informatyki i Telekomunikacji, 3) Polska Izba Komunikacji Elektronicznej, 4) Krajowa Izba Gospodarczej, 5) Krajowa Izba Komunikacji Ethernetowej, 6) Polska Izba Radiodyfuzji Cyfrowej, 7) Polska Izba Handlu, 8) Izba Gospodarki Elektronicznej, 9) Krajowa Izba Gospodarki Cyfrowej, 10) Fundacja Bezpieczna Cyberprzestrzeń, 11) Polskie Towarzystwo Informatyczne, 12) Fundacja Nowoczesna Polska, 13) Fundacja Panoptykon, 14) Internet Society Poland, 15) Stowarzyszenie Inżynierów Telekomunikacji, 16) Fundacja Stefana Batorego, 17) Związek Pracodawców Mediów Publicznych, 18) Związek Pracodawców Mediów Elektronicznych Mediakom, 19) Związek Pracodawców Branży Internetowej IAB Polska, 20) Związek Telewizji Kablowych w Polsce Izba Gospodarcza, 21) Związek Rzemiosła Polskiego, 22) Polska Organizacja Handlu i Dystrybucji, 23) Naczelna Rada Zrzeszeń Handlu i Usług, 24) Polskie Stowarzyszenie Marketingu SMB, 25) Fundacja Moje Państwo, 26) Amerykańska Izba Handlowa w Polsce, 27) Federacja Konsumentów, 28) Związek Cyfrowa Polska, 29) Stowarzyszenie Praktyków Ochrony Danych Osobowych, 30) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 31) Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, 32) Federacja Przedsiębiorców Polskich, 33) Fundacja Open Allies, 34) Fundacja Instrat, 35) Fundacja Startup Poland, 36) Wikimedia Europe, 37) Fundacja Forum Konsumentów, 38) Stowarzyszenie Dziennikarzy i Wydawców Repropol, 39) Stowarzyszenie Sygnał, 40) Izba Wydawców Prasy, 41) Stowarzyszenie Autorów ZAiKS (ZAiKS), 42) Związek Autorów i Producentów Audiowizualnych (ZAPA), 43) Związek Polskich Autorów i Kompozytorów ZAKR, 44) Stowarzyszenie Kreatywna Polska (SKP), 45) Sieć Badawcza Łukasiewicz – PORT, 46) Stowarzyszenie Nowoczesnej Edukacji Prawnej, 47) CEE Digital Democracy Watch, 48) Fundacja AILAWTECH, 14 49) Sieć Obywatelska Watchdog Polska, 50) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 51) Polska Rada Biznesu, 52) Biblioteka Narodowa, 53) Brytyjsko-Polska Izba Handlowa, 54) Centrum Cyfrowe, 55) Francusko-Polska Izba Przemysłowo Handlowa, 56) INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, 57) Niemiecko-Polska Izba Przemysłowo-Handlowa, 58) Polska Akademia Nauk, 59) Polska Cyfrowa, 60) Związek Banków Polskich, 61) Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, 62) Kongres Polskiego Biznesu, 63) Naczelna Rada Zrzeszeń Handlu i Usług, 64) Naczelna Organizacja Techniczna, 65) Krajowa Izba Radców Prawnych, 66) Naczelna Rada Adwokacka, 67) Polski Funduszu Rozwoju S.A., 68) Bank Gospodarstwa Krajowego S.A., 69) Związek Rzemiosła Polskiego, 70) Polskie Towarzystwo Gospodarcze. Projekt ustawy został skierowany do opiniowania do następujących podmiotów: 1) Prezes Urzędu Komunikacji Elektronicznej, 2) Prezes Urzędu Ochrony Danych Osobowych, 3) Prezes Urzędu Ochrony Konkurencji i Konsumentów, 4) Krajowa Rada Radiofonii i Telewizji, 5) Komisja Nadzoru Finansowego, 6) Rzecznik Małych i Średnich Przedsiębiorców, 7) Rzecznik Praw Obywatelskich, 8) Rzecznik Praw Dziecka, 9) Polskie Centrum Akredytacji, 10) Polski Komitet Normalizacyjny, 11) Rzecznik Praw Pacjenta, 12) Rzecznik Finansowy, 13) Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 14) Główny Inspektor Pracy, 15) Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, 16) Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, 17) Prezes Prokuratorii Generalnej RP, 18) Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, 19) Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, 20) Krajowa Rady Sądownictwa, 21) Dyrektor Narodowego Centrum Badań i Rozwoju, 22) Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, 23) Dyrektor Polskiej Agencji Inwestycji i Handlu, 24) Prezes Polskiego Funduszu Rozwoju, 25) Dyrektor Narodowego Centrum Nauki, 26) Przewodniczący Zarządu Głównego Forum Związków Zawodowych, 27) Przewodniczący Komisji Krajowej NSZZ „Solidarność”, 28) Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, 29) Prezydent Konfederacji Lewiatan, 30) Prezydent Pracodawców RP, 31) Prezes Związku Pracodawców Business Centre Club, 32) Prezes Związku Przedsiębiorców i Pracodawców, 33) Prezes Związku Rzemiosła Polskiego, 34) Przewodniczący Federacji Przedsiębiorców Polskich, 35) Prezes Polskiego Towarzystwa Gospodarczego, 36) Federacja Związków Zawodowych Pracowników Telekomunikacji, 37) Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, 15 38) Stowarzyszenie Eksporterów Polskich, 39) Stowarzyszenie Konsumentów Polskich, 40) Związek Polskich Pracodawców Handlu i Usług, 41) Związek Firm Doradztwa Finansowego, 42) Związek Pracodawców Branży Internetowej IAB Polska, 43) Przewodniczący Forum Związków Zawodowych, 44) Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”, 45) Przewodnicząca Rady Dialogu Społecznego, 46) Przewodniczący Rady Działalności Pożytku Publicznego. W ramach I etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 16 października 2024 r. Termin na zgłaszanie uwag wynosił 30 dni. W ramach II etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 10 lutego 2025 r. Termin na zgłaszanie uwag wynosił 14 dni. W ramach opiniowania projekt ustawy został także przekazany Komisji Wspólnej Rządu i Samorządu Terytorialnego. 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 (2026) 1 2 3 4 5 6 7 8 9 10 Łącznie (0–10) Dochody ogółem 1,86 7,21 7,38 7,57 7,75 7,94 8,16 8,35 8,57 8,77 9,00 82,56* Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia budżet państwa 0,05 0,18 0,18 0,19 0,19 0,19 0,20 0,20 0,21 0,21 0,21 2,01 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia JST 0,26 1,00 1,02 1,05 1,07 1,10 1,13 1,16 1,19 1,22 1,25 11,45 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia FUS 1,17 4,56 4,67 4,79 4,91 5,03 5,16 5,28 5,42 5,55 5,70 52,24 NFZ 0,29 1,12 1,15 1,17 1,20 1,23 1,27 1,30 1,33 1,36 1,40 12,82 FP 0,04 0,14 0,15 0,15 0,16 0,16 0,16 0,17 0,17 0,18 0,18 1,46 FS 0,05 0,21 0,21 0,22 0,22 0,23 0,24 0,24 0,25 0,25 0,26 2,18 pozostałe jednostki (oddzielnie) 0 0 0 0 0 0 0 0 0 0 0 0 Wydatki ogółem 9,95 24,54 24,97 25,69 26,43 27,19 27,98 28,79 29,62 30,48 31,374 287,01 budżet państwa 9,30 23,74 24,17 24,89 25,63 26,39 27,18 27,99 28,82 29,68 30,57 278,36 JST 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 2,2 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia pozostałe jednostki (oddzielnie) 0,45 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 6,45 Saldo ogółem -8,09 -17,33 -17,59 -18,12 -18,68 -19,25 -19,82 -20,44 -21,05 -21,71 -22,37 -204,45 budżet państwa -9,25 -23,56 -23,99 -24,70 -25,44 -26,20 -26,98 -27,79 -28,61 -29,47 -30,36 -276,35 JST 0,06 0,80 0,82 0,85 0,87 0,90 0,93 0,96 0,99 1,02 1,05 9,25 pozostałe jednostki (oddzielnie) -0,45 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -6,45 Źródła finansowania Źródłem finansowania dla wydatków związanych z powołaniem nowego organu (Komisji) będzie budżet państwa. Wydatki związane utworzeniem i funkcjonowaniem Komisji w 2026 r. będą pokryte z rezerwy celowej, która za pismem Ministerstwa Finansów z 6 października 2025 r., sygn. PR2.021.403.2024, „zgodnie z wystąpieniem Ministra Cyfryzacji w sprawie dodatkowych potrzeb wynosi 20 250 000 złotych” i znajduje się w części 83 budżetu państwa. Koszty związane z jej funkcjonowaniem w latach kolejnych (2027–2035) pokrywane będą z części 27 – Informatyzacja. Oszacowane skutki finansowe związane z wejściem w życie projektowanej ustawy muszą zostać zabezpieczone w ustawie budżetowej na rok 2027 i lata następne. Mając na uwadze zatrudnienie 16 pracowników urzędu obsługującego ministra właściwego do spaw informatyzacji na zasadach określonych w ustawie o służbie cywilnej, niezbędne jest też dodatkowe coroczne uwzględnienie zmiany kwoty bazowej w ramach skutków finansowych wejścia w życie projektu ustawy. Źródłem finansowania dla wydatków związanych oddziaływaniem ustawy na Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów będzie budżet części 15 – Sądy powszechne. Skutki proponowanych rozwiązań w części 15 – Sądy powszechne będą możliwe do poniesienia w ramach dotychczas posiadanych środków budżetowych w roku wejścia w życie ustawy i nie będą podstawą do planowania i ubiegania się o dodatkowe środki z budżetu państwa w roku wejścia w życie ustawy. Po pierwszych latach funkcjonowania przepisów ustawy Ministerstwo Sprawiedliwości dokona rewizji skutków finansowych w ramach prac nad ustawą budżetową w oparciu o rzeczywiste obciążenie etatowe dla sądów i SOKIK Pomoc finansowa udzielana przez ministra właściwego do spraw informatyzacji w oparciu o art. 99 ustawy będzie każdorazowo finansowana w ramach limitu wydatków części 27 – Informatyzacja i nie będzie stanowić podstawy do ubiegania się o dodatkowe środki z budżetu państwa na ten cel w okresie obowiązywania ustawy. Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych. Przyjęcie projektu nie będzie podstawą do planowania i ubiegania się o dodatkowe środki finansowe dla części 10 – Urząd Ochrony Danych Osobowych (w tym na nowe etaty). Kwoty dochodów budżetu państwa oszacowano proporcjonalnie do kwot dochodów JST wykazanych w tabeli powyżej, zgodnie z zasadą podziału wpływów z PIT pomiędzy JST i budżet państwa w proporcjach 85% : 15%. Zastosowano wzór: Dochody budżetu państwa = (15/85) × Dochody JST * Ustalenie szacunkowej wysokości nałożonych kar z tytułu naruszenia przepisów rozporządzenia 2024/1968, które będą stanowić przychód budżetu państwa w ujęciu rocznym nie jest możliwe w oparciu o obecny stan wiedzy. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Utworzenie i funkcjonowanie nowego organu nadzoru rynku Skutki finansowe niniejszej ustawy związane z utworzeniem organu nadzoru rynku AI i zapewnieniem realizacji jego zadań zostały wyliczone przy założeniu, że powstanie nowy krajowy organ nadzoru pełniący jednocześnie funkcję punktu kontaktowego. Organ będzie miał charakter kolegialny. Obsługę administracjo-kancelaryjną organu będzie zapewniał urząd obsługujący ministra właściwego do spraw informatyzacji w zakresie posiadanych zasobów kadrowych. W celu zapewnienia realizacji zadań Komisji i Przewodniczego Komisji będą oni mogli upoważnić pracowników ww. urzędu do załatwiania niektórych spraw w ich imieniu. W tym celu planowane jest utworzenie właściwej komórki organizacyjnej w urzędzie i zasilenie jej docelowo 70 nowymi etatami merytorycznymi. Szacowana liczba etatów wynika z potrzeby zabezpieczenia realizacji zadań tego podmiotu określonych w ustawie i rozporządzeniu 2024/1689. Szacunkowo przyjęto założenie, że w roku 2026 zatrudnienie nowych pracowników merytorycznych wyniesie 30 osób, a w następnych latach do 70 etatów merytorycznych nie wliczając w to Przewodniczącego Komisji oraz dwóch zastępców Przewodniczego Komisji. Do nowych pracowników zastosowanie znajdą przepisy ustawy o służbie cywilnej oraz ustawy –Kodeks pracy. Środki na wynagrodzenia i funkcjonowanie Komisji będą uruchamiane adekwatnie do upływu czasu i faktycznego zatrudnienia w roku wejścia w życie ustawy i w każdym następnym roku do daty uzyskania pełnej funkcjonalności Koszty w roku 2026 wynoszą 9 301 554,00 zł i obejmują: a) wydatki jednorazowe: – zakup 50 laptopów z dodatkowymi monitorami oraz stacjami dokującymi, akcesoriami i systemami informatycznymi, telefony dla nowo zatrudnionych pracowników – 460 000,00 zł, – zakup mebli i wyposażenia – 400 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej (czerwiec-grudzień) – 787 500,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego dwóch zastępców (kwiecień- grudzień) –562 868,46 zł d) wydatki na wynagrodzenia dla 30 etatów (czerwiec-grudzień) – 3 150 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%, czerwiec-grudzień) – 693 935,12 zł, f) Pracownicze Plany Kapitałowe (czerwiec-grudzień) – 47 250,00 zł, 17 g) wydatki bieżące – 3 200 000,00 zł, Koszty w roku 2027 wynoszą 23 743 043,10 zł i obejmują: a) wydatki jednorazowe – zakup 40 laptopów z dodatkowymi monitorami oraz stacjami dokującymi i akcesoriami, telefony dla nowo zatrudnionych pracowników – 360 000,00 zł, – zakup mebli i wyposażenia – 250 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 750 491,28 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 650 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 691 451,82 zł, f) Pracownicze Plany Kapitałowe – 191 100,00 zł, g) wydatki bieżące – 4 500 000,00 zł. Koszty roczne w latach 2028 i kolejnych wynoszą 24 165 119,18 zł i obejmują: (waloryzacja kwoty na lata kolejne została ujęta w tabeli przy założeni CPI: 102,5%) a) wydatki na odnowienie zasobów majątkowych – 100 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 769 253,56 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 991 250,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 758 738,12 zł, f) Pracownicze Plany Kapitałowe – 195 877,50 zł, g) wydatki bieżące – 5 000 000,00 zł. Całkowity koszt funkcjonowania Komisji w roku 2026, stanowiącym rok zerowy, oraz w kolejnych dziesięciu latach został oszacowany na 278,36 mln zł. Konstrukcja budżetu obejmuje zarówno koszty bieżące, inwestycyjne, jak i osobowe, przy czym w kosztach bieżących ujęto również wydatki związane z wykonywaniem zadań Komisji, w tym czynności o charakterze kontrolnym, analitycznym oraz regulacyjnym, wynikających z przepisów rozporządzenia 2024/1689 oraz projektowanej ustawy. Wynagrodzenia dla Przewodniczącego oraz Zastępców Przewodniczącego Komisji zostały określone w przepisach ustawy poprzez odniesienie do mnożnika kwoty bazowej właściwej dla członków korpusu służby cywilnej. Mnożnik ten wynosi 8 w przypadku Przewodniczącego oraz 7 w przypadku Zastępców Przewodniczącego, natomiast wynagrodzenia te nie stanowią dodatkowego obciążenia dla budżetu Komisji, gdyż są ponoszone w ramach budżetów organów delegujących swoich przedstawicieli. Z uwagi na pionierski charakter regulacji oraz brak danych historycznych w obszarze nadzoru nad systemami sztucznej inteligencji, przedstawione oszacowania mają charakter najlepszego dostępnego przybliżenia, opartego na analizie specjalistycznej próby podmiotów oraz międzynarodowych trendów regulacyjnych. Dochody sektora finansów publicznych zostały oszacowane na podstawie obowiązujących stawek składek na ubezpieczenia społeczne i zdrowotne oraz udziałów w podatku PIT. Kalkulacja uwzględnia wynagrodzenia pracowników Komisji przy założeniu przeciętnego wynagrodzenia brutto na poziomie 15 000 zł miesięcznie oraz etapowego zatrudnienia (30 etatów w 2026 r., 70 etatów od 2027 r.). Dochody obejmują wpływy do Funduszu Ubezpieczeń Społecznych, Narodowego Funduszu Zdrowia, Funduszu Pracy oraz Funduszu Solidarnościowego wynikające z obowiązkowych składek od wynagrodzeń. Zadania Komisji charakteryzują się zmiennym poziomem złożoności i nieprzewidywalnością wolumenu wpływu, wynikającymi z narastającego w czasie wykorzystania systemów sztucznej inteligencji oraz procesów wdrażania AI Act. Komisja musi być przygotowana na obsługę zarówno niewielkiej liczby wniosków w pierwszych miesiącach funkcjonowania ustawy, jak i stopniowego, wykładniczego wzrostu zapotrzebowania na opinie, kontrole i postępowania administracyjne. Z tego względu szacunki pracochłonności mają charakter wariantowy i uwzględniają zarówno scenariusz bazowy, jak i scenariusz wzrostu rynku. W odniesieniu do pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji przyjęto średnie miesięczne wynagrodzenie na poziomie 15 000 zł brutto. Wartość ta została ustalona na podstawie danych zawartych w sprawozdaniu Szefa Służby Cywilnej za 2024 r., z uwzględnieniem 18 kategorii stanowisk odpowiadających wysokiemu stopniowi specjalizacji technicznej, analitycznej oraz regulacyjnej, niezbędnej do wykonywania zadań Komisji. Kwotę skorygowano zgodnie ze średnioroczną dynamiką cen towarów i usług konsumpcyjnych według wytycznych Ministra Finansów dla roku 2026. Koszty wynagrodzeń w kolejnych latach zostały zwaloryzowane zgodnie z tymi wskaźnikami, przy uwzględnieniu wynagrodzenia dodatkowego przysługującego pracownikom służby cywilnej. Z uwagi na silną konkurencję na rynku pracy w obszarze AI, cyberbezpieczeństwa oraz analityki danych, poziom wynagrodzeń musi umożliwiać rekrutację ekspertów zdolnych do realizacji zadań o wysokim stopniu specjalizacji. Dane rynkowe oraz doświadczenia administracji publicznej wskazują na rosnącą trudność pozyskania specjalistów w tych obszarach, co wymaga ukształtowania wynagrodzeń na poziomie odpowiadającym stawkom rynkowym i zapewniającym stabilność zatrudnienia. W kalkulacji ujęto również zakup 90 zestawów komputerowych, obejmujących laptopy, monitory oraz akcesoria, zapewniających odpowiednie wyposażenie zarówno dla pracowników merytorycznych (70 etatów docelowych), jak i pracowników wsparcia administracyjno-technicznego, funkcjonujących w ramach urzędu obsługującego ministra. Wyposażenie to stanowi także zapas sprzętowy wykorzystywany podczas działań wspierających, w tym w szczególności w piaskownicach regulacyjnych i innych działaniach wymagających bezpiecznego przetwarzania danych. Uwzględniono również koszty związane z Pracowniczymi Planami Kapitałowymi, przy założeniu, że uczestnictwo w programie obejmie około 70% pracowników wykonujących zadania Komisji, a składka pracodawcy wyniesie 2%. Jednocześnie oszacowany dochód Funduszu Pracy wynika z obowiązkowej składki w wysokości 1%, zgodnie z art. 25 ustawy budżetowej na rok 2026. Założenia budżetowe dla nowej instytucji oparte zostały na analizie kosztów działalności istniejących organów nadzorczych i regulacyjnych w obszarze cyfrowym, w szczególności w zakresie ochrony danych osobowych, cyberbezpieczeństwa oraz nadzoru nad algorytmami. Przyjęto, że koszty te stanowią adekwatny punkt odniesienia ze względu na podobny poziom specjalizacji, charakter zadań oraz wymagania techniczno-organizacyjne. Liczba etatów niezbędnych do zapewnienia realizacji zadań Komisji została określona w oparciu o analizę katalogu obowiązków nałożonych zarówno rozporządzeniem 2024/1689, jak i przepisami krajowymi. Zadania te obejmują w szczególności: nadzór nad systemami sztucznej inteligencji – zwłaszcza systemami wysokiego ryzyka; pełnienie funkcji pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia; współpracę z organami i instytucjami Unii Europejskiej; prowadzenie działań monitorujących, edukacyjnych oraz komunikacyjnych; a także obsługę piaskownic regulacyjnych. Zadania te mają charakter wielodyscyplinarny, często wymagający jednoczesnego zaangażowania ekspertów z różnych obszarów, w tym prawa, inżynierii oprogramowania, analityki danych, zarządzania ryzykiem i cyberbezpieczeństwa. W celu oszacowania pracochłonności poszczególnych zadań zastosowano podejście wariantowe, właściwe dla pomiaru kosztów regulacyjnych. Polega ono na identyfikacji strumieni pracy, określeniu typowych czynności oraz przyjęciu założeń co do wolumenu i złożoności spraw w pierwszych latach funkcjonowania organu. W ramach analizy wyróżniono następujące główne strumienie pracy: sprawy interpretacyjne i informacyjne (w tym przygotowywanie opinii indywidualnych, wyjaśnień, materiałów informacyjnych oraz czynności związane z anonimizacją); nadzór rynku i kontrole; postępowania administracyjne, w tym środki naprawcze oraz nakładanie administracyjnych kar pieniężnych; monitoring rynku oraz analitykę ryzyka; inicjowanie i prowadzenie piaskownic regulacyjnych; współpracę krajową i międzynarodową; oraz zadania sprawozdawcze, obejmujące w szczególności obowiązki wobec Komisji Europejskiej i grup ekspertów unijnych. Prognozuje się, że roczny wolumen spraw kierowanych do Komisji będzie obejmował łącznie około 630–865 spraw, w zależności od dynamiki rozwoju rynku oraz zakresu wykorzystywania systemów sztucznej inteligencji. Wstępna analiza wskazuje, że obsługa spraw interpretacyjnych wymaga przeciętnie od kilku do kilkunastu godzin pracy, natomiast zadania kontrolne, ocena zgodności systemów wysokiego ryzyka oraz postępowania administracyjne wymagają znacznie większego nakładu pracy, często przekraczającego kilkadziesiąt roboczogodzin per sprawa, przy konieczności jednoczesnego zaangażowania kilku specjalistów. Ponadto zadania związane ze współpracą z 19 organami unijnymi oraz sprawozdawczością mają charakter stały i wymagają rocznie kilkuset godzin pracy. Na podstawie powyższych założeń roczny nakład pracy niezbędny do realizacji wszystkich zadań został oszacowany na około 34 000–42 000 roboczogodzin. Przy efektywnym rocznym wymiarze czasu pracy jednego etatu wynoszącym około 1 600 roboczogodzin, minimalne zapotrzebowanie kadrowe wynosi około 21–26 etatów. Jednakże, z uwagi na złożoność zadań, konieczność pracy zespołowej, zastępowalności pracowników, obowiązków stałych wynikających z unijnych mechanizmów nadzorczych oraz wysokie wymagania kompetencyjne, zasadne jest przyjęcie wyższej liczby etatów. W związku z powyższym przyjęto etapowanie zatrudnienia, zakładające 30 etatów w roku 2026, który obejmuje uruchomienie organu, przygotowanie procedur, wdrożenie narzędzi informatycznych oraz rozpoczęcie działań merytorycznych. Od dnia 1 stycznia 2027 r. przewidziano osiągnięcie docelowego poziomu 70 etatów merytorycznych. Poziom ten umożliwi wykonywanie wszystkich zadań nałożonych przepisami prawa, w tym realizację kontroli, prowadzenie postępowań administracyjnych, analiz ryzyka oraz funkcjonowanie piaskownic regulacyjnych. Zasadność zwiększenia zatrudnienia z 30 etatów w roku 2026 do 70 etatów od 2027 r. wynika przede wszystkim z prognozowanego, wykładniczego przyrostu liczby podmiotów korzystających z systemów sztucznej inteligencji oraz szybko rosnącej grupy firm deklarujących zamiar wdrożenia rozwiązań AI. Dane z przeprowadzonego wewnętrznie badania ilościowego (N=229, badanie dot. zapotrzebowania na piaskownice regulacyjne przeprowadzone w dn. 2.02.2026 – 16.02.2026) wskazują, że już obecnie 214 firm (93,4%) korzysta z AI, natomiast 132 podmioty (57,6%) samodzielnie wytwarzają rozwiązania AI, przy czym kolejne przedsiębiorstwa deklarują wejście na rynek w perspektywie najbliższych lat. Jednocześnie wysoki odsetek firm na wczesnych etapach rozwoju technologicznego — obejmujący prace koncepcyjne, pilotaże i prototypowanie — świadczy o tym, że w nadchodzących latach znaczna część z nich wkroczy w fazę wdrożeniową, co nieuchronnie zwiększy liczbę spraw wymagających wsparcia interpretacyjnego, nadzorczego oraz kontrolnego ze strony Komisji. W warunkach dynamicznego rozwoju rynku sztucznej inteligencji należy przyjąć, że przyrost firm generujących zapotrzebowanie na działania organu nie będzie miał charakteru liniowego. Z uwagi na charakter technologii, efekty sieciowe, szybko rosnący popyt na rozwiązania generatywne oraz skalę komercjalizacji systemów uczenia maszynowego, liczba podmiotów wytwarzających lub wdrażających AI rośnie wykładniczo, czego potwierdzeniem są m.in. dane o wysokim tempie adopcji nowych modeli AI oraz systematyczne zwiększanie się liczby sektorów wykorzystujących te technologie. Wyniki badania, obejmujące firmy o najbardziej zaawansowanych profilach technologicznych na rynku, stanowią w tym kontekście próbę wyprzedzającą, wskazującą kierunek rozwoju całej populacji przedsiębiorstw. Oznacza to, że liczba podmiotów, które w 2026 r. wystąpią do Komisji z wnioskami o opinie, zgłoszeniami naruszeń, sprawami dotyczącymi kwalifikacji systemów lub wnioskami o udział w piaskownicach regulacyjnych, będzie w 2027 r. i latach kolejnych istotnie wyższa, a skala tego wzrostu będzie narastała w miarę dojrzewania rynku. W tych warunkach poziom zatrudnienia ograniczony do 30 etatów pozwoli jedynie na uruchomienie organu oraz obsługę wstępnego wolumenu spraw, natomiast nie zapewni zdolności operacyjnej do obsługi rosnącego strumienia zadań wynikających z rozporządzenia 2024/1689. Dopiero zwiększenie zatrudnienia do 70 etatów od 2027 r. gwarantuje możliwość realizacji pełnego katalogu obowiązków nadzorczych, w tym pracy zespołowej wymaganej w czynnościach kontrolnych i postępowaniach administracyjnych oraz odpowiedniej obsługi rosnącej liczby podmiotów na rynku sztucznej inteligencji, którego rozwój ma charakter wykładniczy, a nie liniowy. Zadanie Prognozowana liczba spraw / rok Szacunkowy czas realizacji jednej sprawy Łączna pracochłonność roczna (roboczogodziny) Opinie indywidualne, wyjaśnienia i sprawy interpretacyjne 350–450 6–10 h 2 100 – 4 500 Zgłoszenia naruszeń i sygnały dot. niezgodności 120–180 10–15 h 1 200 – 2 700 Analiza ryzyka i monitoring rynku AI 80–120 10–15 h 800 – 1 800 20 Czynności kontrolne 50–70 25–40 h 1 250 – 2 800 Postępowania administracyjne 20–30 60–90 h 1 200 – 2 700 Obsługa piaskownic regulacyjnych 10–15 30–50 h 300 – 750 Współpraca unijna i sprawozdawczość zadania stałe 500–700 h (w ramach etatów) 500 – 700 Pozostałe zadania przekrojowe Zmienne 900–1 200 h 900 – 1 200 Tabela 1. Zestawienie głównych strumieni pracy Komisji, prognozowanej liczby spraw oraz szacunkowego czasu ich realizacji W modelu organizacyjnym uwzględniono stosowanie rozwiązań cyfrowych i automatyzacji procesów, zgodnie z zasadą celowości i oszczędności wydatków publicznych (art. 44 ust. 3 ustawy o finansach publicznych). W szczególności zakłada się wykorzystanie systemów zarządzania sprawami, standaryzacji dokumentów i obiegu informacji, narzędzi do wstępnej selekcji i priorytetyzacji wpływów, wsparcia monitoringu rynku i analityki ryzyka oraz narzędzi wspomagających anonimizację i publikację materiałów. Rozwiązania te umożliwią racjonalizację nakładu pracy przy zachowaniu wysokich standardów ochrony danych i niezależności procesu decyzyjnego. Należy jednocześnie podkreślić, że skuteczne wykonywanie zadań Komisji wymaga zatrudnienia wysoko wykwalifikowanych ekspertów posiadających nie tylko wiedzę techniczną w zakresie systemów sztucznej inteligencji, lecz także kompetencje analityczne, komunikacyjne, projektowe oraz biegłą znajomość języka angielskiego. Ze względu na intensywną konkurencję na rynku pracy w obszarze nowych technologii i cyberbezpieczeństwa, jak również trudności w rekrutacji i utrzymaniu specjalistów, uzasadnione jest umożliwienie zatrudnienia na podstawie przepisów Kodeksu pracy, zapewniając odpowiedni poziom elastyczności organizacyjnej. Wreszcie, wprowadzenie opłaty za wniosek o wydanie opinii indywidualnej w wysokości 150 zł stanowi źródło dochodu sektora finansów publicznych oraz instrument racjonalizujący zapotrzebowanie na opinie. Z uwagi na brak danych historycznych przyjęto wariantowe oszacowanie liczby wniosków — w wariancie bazowym około 800 rocznie — przy czym wartości te zostaną zweryfikowane po pierwszym pełnym roku funkcjonowania systemu. Pracochłonność zadań Komisji będzie zależna od szeregu zmiennych, w szczególności: stopnia dojrzałości technologicznej rynku, liczby systemów zaklasyfikowanych jako wysokiego ryzyka, poziomu świadomości regulacyjnej wśród przedsiębiorców, dynamiki przyrostu nowych modeli generatywnych i ich wersji, a także decyzji organów unijnych dotyczących interpretacji przepisów AI Act. Prognozuje się, że w pierwszych latach funkcjonowania ustawy poziom zapotrzebowania na działania interpretacyjne i doradcze będzie rosnąć szybciej niż liczba postępowań egzekucyjnych; po osiągnięciu dojrzałości regulacji trend ten może ulec odwróceniu. Brak zapewnienia odpowiednich zasobów kadrowych i technicznych mógłby skutkować opóźnieniami w rozpatrywaniu wniosków, ograniczeniem zdolności do prowadzenia kontroli systemów wysokiego ryzyka, niewywiązywaniem się z obowiązków sprawozdawczych wobec Komisji Europejskiej oraz ryzykiem naruszenia art. 70 ust. 3 rozporządzenia 2024/1689, który nakłada na państwa członkowskie obowiązek zapewnienia organom odpowiednich zasobów, w tym technicznych i ludzkich. Niewystarczające zasoby w pierwszych latach obowiązywania ustawy mogłyby również negatywnie wpłynąć na tempo rozwoju sektora AI w Polsce i ograniczyć konkurencyjność przedsiębiorstw wdrażających AI. PCA Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2026 r. Projekt ustawy o systemach sztucznej inteligencji zakłada, że Polskie Centrum Akredytacji jest zobowiązane do akredytacji jednostek oceniających zgodność na potrzeby ustawy oraz rozporządzenia 2024/1689. Dodatkowo Polskie Centrum Akredytacji jest zobowiązane we współpracy z ministrem właściwym do spraw informatyzacji, do opracowania szczegółowego programu akredytacji jednostek oceniających zgodność oraz do dokonywania aktualizacji tego programu, co 24 miesiące, 21 uwzględniając wnioski z jego bieżącej realizacji. Projekt zakłada również wprowadzenie obowiązków sprawozdawczych zgodnie, z którymi PCA przekazuje ministrowi właściwemu do spraw do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zgodnie z projektem do akredytacji stosuje się odpowiednio przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Ustawa ta odwołuje się do przepisów rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i nadzoru rynku odnoszącym się do warunków wprowadzania produktów do obrotu i uchylającym rozporządzenie (EWG) nr 339/93, zgodnie z którymi Polskie Centrum Akredytacji zostało wskazane jako jedyna krajowa jednostka akredytująca. Przyjęte dyspozycje zobowiązują zatem PCA do opracowania i utrzymywania dedykowanego przedmiotowym przepisom prawa programu akredytacji, uruchomienie akredytacji wg opracowanego programu, w tym przeprowadzanie procesów akredytacji oraz nadzoru nad udzielonymi akredytacjami zgodnie z przepisami rozporządzenia 765/2008 oraz przepisami o systemach oceny zgodności i nadzoru rynku. Zastosowanie mają w tym przypadku tu wszystkie horyzontalne dokumenty PCA (np. DA-01 „Opis systemu akredytacji”, DA-08 „Prawa i obowiązki akredytowanego podmiotu”, DA-09 Zakres działalności akredytacyjnej PCA, DA-10 „Akredytacja w zakresach elastycznych” itp.) oraz dokumenty odnoszące się do danego typu jednostek oceniających zgodność, związane z rozszerzeniem działalności akredytacyjnej PCA o nowy obszar oceny zgodności przewidziany w przedmiotowym przepisie prawa. W przypadku ustawy o systemach sztucznej inteligencji UC71 przyjęte rozwiązanie zakłada również notyfikację akredytowanej jednostki oceniającej zgodność przez ministra właściwego ds. informatyki. W konsekwencji w procesie akredytacji i w procesach nadzoru nad udzieloną akredytacją zastosowanie mają zasady określone w dokumencie DA-11 „Akredytacja jednostek oceniających zgodność do celów notyfikacji”, co dodatkowo rozszerza zakres realizowanych przez PCA ocen i skomplikowanie nadzoru nad udzielonymi akredytacjami. Ponadto akredytacja do celów notyfikacji zobowiązuje PCA do udziału w pracach właściwych grup dla „notifying authorities” łącznie z reprezentantami organów notyfikujących i zainteresowanych stron. W konsekwencji powyższego, dla realizacji zadań określonych w przedmiotowym przepisie prawa PCA musi dysponować odpowiednimi – poszerzonymi kompetencjami i poszerzonymi zasobami personelu. Kompetencje te będą obejmować znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją w specyficznym obszarze regulowanym przepisami oraz wiedzę z zakresu projektowanej regulacji prawnej. Kompetencje te muszą być pozyskane przez PCA w ramach poszerzenia zasobów osobowych do realizacji procesów akredytacji i nadzoru, o ekspertów z wysokim poziomem kompetencji, z unikalnego nowego obszaru technicznego rozwijającego się obecnie w sposób niezwykle dynamiczny, a tym samym wymagającego znacznych inwestycji finansowych dla pozyskania ekspertów. Powierzenie nowych obowiązków obecnym pracownikom PCA nie jest możliwe z punktu widzenia merytorycznego i ograniczonych możliwości produkcyjnych posiadanych zasobów. Aktualnie PCA nie zatrudnia ekspertów z zakresu AI i rozporządzenia 2024/1689 nie dysponuje wystarczającą wiedzą w tym zakresie. Ponadto, aktualny stan zatrudnienia PCA uniemożliwia nałożenie na obecnych pracowników wszystkich dodatkowych zadań wynikających z rozszerzenia działalności akredytacyjnej PCA w zakresie obszaru oceny zgodności określonej w przepisie. Osoby te musza dysponować wiedzą zarówno w odniesieniu do przepisów AI jak i w odniesieniu do rozwiązań odnoszących się do akredytacji i realizować nowe zadania w poniższych głównych kierunkach wymagających rozdzielności stanowiskowej: a) w zakresie programu akredytacji będą zobowiązane do opracowania treści postanowień programu w korelacji z międzynarodowymi normami zharmonizowanymi i procedurami operacyjnymi PCA, uzgodnienia treści programu z regulatorem i zainteresowanymi stronami i przeprowadzenia procedury zatwierdzenia programu do stosowania, wdrożenie programu do działalności PCA (operacyjnie i merytorycznie) w celu rozszerzenia działalności akredytacyjne. Po rozszerzeniu działalności akredytacyjnej będą zobowiązane monitorować aktualność programu i zapewnić (w trybie jak powyżej) ciągłą przydatność programu do zamierzonego zastosowania; b) w zakresie procesu akredytacji będą zobowiązane do weryfikacji wniosku o akredytacje, wstępnego przygotowania oceny akredytacyjnej, uzgodnienie zakresu oceny, komunikacji z 22 jednostką oceniającą zgodność oraz zespołem oceniającym, podjęciem odpowiednich działań w systemie e-Akredytacja, brania udziału w ocenie jako audytorzy wiodący i bezpośrednio nadzorować ocenę (tu dodatkowo wymagana jest znajomość norm akredytacyjnych np. PN/ EN ISO 17065), po ocenie biorą udział w przygotowywaniu i zatwierdzaniu raportu oraz w działaniach związanych z obsługą kart niezgodności, przygotowują dokumenty w procesie decyzyjnym oraz biorą udział w procesie decyzyjnym. Jednocześnie wszystkie te czynności wykonywane są zgodnie z przepisami rozporządzenia nr 765/2008, ustawy o systemach oceny zgodności i nadzoru rynku oraz normy ISO/IEC 17011 co prowadzi np. do konieczności rozdzielenia osobowego w procesie realizacji oceny od podejmowania decyzji na bazie wyników tej oceny. c) w zakresie procesu nadzoru nad udzieloną akredytacją będą zobowiązane do opracowania programu nadzoru a następnie organizacji ocen w nadzorze oraz obserwacji działania jednostek oceniających zgodność. w rzeczywistości. Proces organizacji ocen w nadzorze jest analogiczny do ocen akredytacyjnych. Reasumując, wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci zobligowania PCA do realizacji zadań związanych z akredytacją w nowym obszarze oceny zgodności, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przyjęcie przez PCA powyższych zadań związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań:  opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji  szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu,  komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji,  organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689,  monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Planowane zwiększenie funduszu osobnego PCA nie oznacza automatycznego wykorzystania funduszu w tej wysokości. Zgodnie z ustawą z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową, a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa i zgodnie z ww. ustawą prowadzi samodzielną gospodarkę finansową, która jest działalnością nienastawioną na zysk. W konsekwencji poziom wykorzystania limitu 0,6 mln zł uzależniony jest od zapotrzebowania na wykonanie określonych, ww. zadań. Przy czym, poziom realizację nowych zadań na poziomie PCA, a tym samym zapotrzebowanie na wykorzystanie zaplanowanego przez PCA funduszu na poziomie jak wyżej, będzie zależał zarówno od złożoności działań, które należy wykonać w procesie akredytacji i nadzoru nad udzieloną akredytacją jak i liczby jednostek oceniających zgodność ubiegających i posiadających taką akredytację. Liczba akredytowanych jednostek oceniających zgodność zależy od zainteresowania certyfikacją w danym obszarze. W przedmiotowym przypadku mamy do czynienia z rozwijającym się dynamicznie rynkiem sztucznej inteligencji i obowiązkową oceną zgodności systemów AI wysokiego ryzyka. Mając na uwadze powyższe, należy oczekiwać szybko rosnącego poziomu zainteresowania tym tematem i przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację i posiadających akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do nowego, innowacyjnego i bardzo szybko rozwijającego się sektora gospodarki. W obszarze tym nie ma „utartych” rozwiązań, ugruntowanego orzecznictwa i pojawiające się sprawy zawsze będą sprawami „nowymi”. W takich sektorach rozwiązania prawne są zazwyczaj przygotowywane w pewnym opóźnieniu do faktycznego rozwoju rynku. Można zatem oczekiwać zarówno dużej liczby spraw spornych, wątpliwych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością uwzględnienia ocenianej specyfiki. Niezbędne będzie zwiększenie wydatków na fundusz osobowy PCA o w 2026 r. o 0,45 mln, a od 2027 r. 0,6 mln zł. rocznie i utrzymanie tego stanu na lata kolejne. PCA jest jednostką samofinansującą się, której głównym celem jest pokrycie wszystkich kosztów, łącznie z wynagrodzeniami, z uzyskanych przychodów. PCA nie otrzymuje środków z budżetu państwa. 23 Reasumując wykonanie wnioskowanej zmiany funduszu osobowego nie jest automatyczne i będzie możliwe wyłącznie w przypadku, gdy PCA będzie dysponować przychodami pozwalającymi na wprowadzenie przedmiotowego zwiększenia. W ramach ww. zwiększenia planowane jest zatrudnienie dwóch osób oraz dodatki zadaniowe dla osób wykonujących zadania w przedmiotowym zakresie. Ostateczny podział dostępnych środków pomiędzy wynagrodzenie a dodatki zadaniowe zależy od kwalifikacji zatrudnionej osoby i liczby oraz poziomu skomplikowania występujących prac. Wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci przekazania PCA realizacji zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań w tym obszarze: − opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji − szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, − komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, − organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, − monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Z uwagi na rozwijający się dynamicznie rynek sztucznej inteligencji i obowiązek oceny zgodności systemów AI wysokiego ryzyka, przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo dynamicznie rozwijającego się sektora gospodarki. Można zatem oczekiwać zarówno dużej liczby spraw spornych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością zapewnienia obiektywności, niezależności i braku powiązań ocenianych podmiotów. Dodatkowo systemy sztucznej inteligencji wymagają specjalistycznej wiedzy technicznej. Osoby, które będą wykonywały zadania związane z projektowaną ustawą, muszą mieć bardzo wysokie kompetencje ‒ znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji, muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Powierzenie nowych obowiązków obecnym pracownikom PCA nie gwarantuje jakości ani poprawności wykonywanej pracy, gdyż nie są oni ekspertami w zakresie AI ani rozporządzenia 2024/1689 ani też nie posiadają wiedzy w tym zakresie. PCA jest małą jednostką, zatrudniającą ok. 80 osób i nie ma możliwości wygospodarowania dwóch etatów na nowe zadania w ramach istniejących limitów, dlatego konieczne jest utrzymanie w pkt 6 OSR zwiększonych wydatków na wynagrodzenia PCA co daje możliwość zatrudnienia nowych osób. Jednocześnie podejmowanie się procesów akredytacji bez dysponowania odpowiednimi zasobami osobowymi i wiedzą w tym zakresie jest niezgodne z wymaganiami rozporządzenia (WE) 765/2008 oraz normą ISO/IEC 170111 i generuje ryzyko dla skutecznego funkcjonowania procesów akredytacji w obszarze oceny zgodności przewidzianej w projektowanym przepisie. SOKIK Wejście w życie projektowanej ustawy związane jest także z rozszerzeniem działalności Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów o obszar wskazany w ustawie, co wiąże się koniecznością zapewnienia szkoleń. Koszty szkoleniowe zostały oszacowane na 800 000,00 zł rocznie w roku pierwszym i kolejnych latach po wejściu w życie przepisów ustawy. Niezbędne specjalizacyjne szkolenia z zakresu nowych technologii oraz AI Act dla sędziów i asystentów SOKiK – 800 000,00 zł. Szkolenia prowadzone będą przez prawników i specjalistów IT; Zakres szkoleń: zagadnienia z zakresu prawa i technologii; 24 przepisy oraz orzecznictwo, w szczególności unijne z zakresu nowych technologii oraz wykorzystania AI Wydatek ten zostanie pokryty w ramach limitu wydatków Ministra Sprawiedliwości. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0–10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa sektor mikro-, małych i średnich przedsiębiorstw rodzina, obywatele oraz gospodarstwa domowe * Ze względu na wzrost dochodów rozporządzalnych (netto) osób zatrudnionych przy realizacji nowo powstałej Komisji (por. p. 6) 1,86 7,20 7,38 7,56 7,95 8,77 80,98 W ujęciu niepieniężny m duże przedsiębiorstwa Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Projektowane przepisy dają możliwość na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. sektor mikro-, małych i średnich przedsiębiorstw Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów rozporządzenia 2024/1689 w przypadku nałożenia kary przez Komisję może pozytywnie wpłynąć na stosowanie standardów narzucanych systemom sztucznej inteligencji. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej 25 inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez mikro-, małe i średnie przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. Projektowane przepisy dają możliwość MŚP na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, zwłaszcza dla MŚP, które mają korzystać z piaskownicy regulacyjnej nieodpłatnie, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. rodzina, obywatele oraz gospodarstwa domowe Przewiduje się, że wejście w życie ustawy nie wpłynie bezpośrednio na sytuację społeczną rodziny, a także osób niepełnosprawnych oraz osób starszych w tym sytuację ekonomiczną. Jednak spodziewane jest pozytywne długoterminowe odziaływanie pośrednie, poprzez zwiększenie bezpieczeństwa. Niemierzalne Przedsiębiorstwa w tym mikro-, małe i średnie Skutkiem może być podniesienie jakości usług oraz wydajności i konkurencyjności przedsiębiorców. rodzina, obywatele oraz gospodarstwa domowe W długoterminowej perspektywie regulacje mogą przyczynić się do wzrostu świadomości społecznej w zakresie wykorzystania systemów sztucznej inteligencji, przez rozwój i upowszechnienie bezpiecznych systemów sztucznej inteligencji dostępnych w różnych sferach życia, w tym między innymi w edukacji dzieci i dorosłych, finansach osobistych czy służbie zdrowia. Długookresowa perspektywa zakłada wzrost zaufania do narzędzi – systemów sztucznej inteligencji – która może przełożyć się na zwiększenie innowacyjności w codziennym korzystaniu z narzędzi. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie ustawy nie spowoduje natychmiastowych skutków dla gospodarki, ale w dłuższej perspektywie powinna się poprawić wydajność przedsiębiorstw objętych regulacją spowodowane ograniczeniem szkodliwych skutków działania niektórych systemów sztucznej inteligencji. Projekt ustawy wprowadza nakładanie administracyjnych kar pieniężnych oraz instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą dla podmiotów objętych AI Aktem co powinno w przyszłości przynieść korzyści w postaci postępowania zgodnego z prawem. Oczekuje się, że układ umożliwi także dalsze funkcjonowanie na rynku podmiotów zagrożonych karą a jednocześnie pozytywnie wpłynie na rozwój godnej zaufania i bezpiecznej sztucznej inteligencji. Z uwagi na regulację nieznanej dotychczas dziedziny nauki określenie skutków finansowych wynikających z nakładania kar oraz zastosowania nadzwyczajnego sposobu ich złagodzenia nie jest możliwe do oszacowania. 26 Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Celem ustanowienia piaskownic jest zwiększenie pewności prawa, wspieranie wymiany najlepszych praktyk, wzmacnianie konkurencyjności i innowacyjności w Europie oraz ułatwienie MŚP i start- upom wejścia na rynek unijny. Udział w piaskownicy będzie konkurencyjny, z preferencją dla podmiotów z UE, a procedura naboru będzie jawna i umożliwi odwołanie. Opłata za udział wyniesie czterokrotność minimalnego wynagrodzenia, przy czym MŚP będą z niej zwolnione. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Z uwagi na brak analogicznych funkcjonujących rozwiązań określenie skutków finansowych wynikających tworzenia piaskownic regulacyjnych nie jest możliwe do oszacowania. Jednocześnie należy wyjaśnić, że koszty dostosowawcze po stronie przedsiębiorców z sektora AI wynikają z konieczności stosowania rozporządzenia 2024/1689, a nie bezpośrednio projektu ustawy o systemach sztucznej inteligencji. 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). tak nie nie dotyczy zmniejszenie liczby dokumentów zmniejszenie liczby procedur skrócenie czasu na załatwienie sprawy inne: zwiększenie liczby dokumentów zwiększenie liczby procedur wydłużenie czasu na załatwienie sprawy inne: Wprowadzane obciążenia są przystosowane do ich elektronizacji. tak nie nie dotyczy Komentarz: Systemy sztucznej inteligencji, ze względu na wczesny etap rozwoju tej technologii, do tej pory nie były obszarem nadzorowanym w sposób kompleksowy. W związku z tym, uregulowania w tym zakresie, spowodują objęcie nadzorem podmiotów, które do tej nie były pod tym kątem nadzorowane, co w naturalny sposób doprowadzi do zwiększenia liczby procedur lub zwiększenia liczby dokumentów. Konsekwencją objęcia nadzorem systemów sztucznej inteligencji będzie nałożenie na podmioty działające na tym rynku określonych obowiązków (które są określone w rozporządzeniu 2024/1689) sprawozdawczych, informacyjnych i technicznych. Podmioty te będą musiały zadbać o zgodność wykorzystywanych lub dostarczanych systemów sztucznej inteligencji z przepisami rozporządzenia 2024/1689 i ustawy, w tym wyeliminować aktualnie istniejące niezgodności. Konieczna będzie także ich współpraca z Komisją i innymi organami w celu umożliwienia im sprawowania nadzoru nad rynkiem i stosowania odpowiednich środków, takich jak kontrole. Komisja jako wyznaczony organ właściwy w zakresie sprawowania nadzoru nad sztuczną inteligencją w Polsce, będzie wykonywała swoje zadania w oparciu o działania na poziomie krajowym oraz wynikające ze współpracy z organami unijnymi. Dodatkowo, stworzenie nowego organu do spraw nadzoru nad sztuczną inteligencją będzie wiązało się z obciążeniami administracyjnymi, wynikającymi z realizacji zadań, jakie nakłada na ten organ rozporządzenie 2024/1689, m.in. przekazywanie sprawozdań z działalności organu Komisji Europejskiej, współpraca międzyinstytucjonalna, wydawanie decyzji w sprawach dotyczących naruszeń, udzielanie wskazówek i porad przedsiębiorcom. Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Udział w piaskownicy będzie odpłatny, konkurencyjny, a procedura naboru będzie jawna i umożliwi odwołanie. Przewiduje się zwolnienie MŚP z opłaty. Uczestnicy będą zobowiązani do informowania użytkowników, corocznego raportowania, publikowania wyników oraz zgłaszania zmian. Komisja będzie uprawniona do kontroli, a w przypadku naruszeń – do wezwania do ich usunięcia lub wykluczenia z udziału. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Projekt ustawy poza regulacjami wynikającymi bezpośrednio z rozporządzenia 2024/1689 wprowadza również rozwiązania o charakterze uzupełniającym. 27 Regulacje w tym zakresie będą nakładały na Komisję dodatkowe obowiązki w zakresie rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, przetwarzania danych osobowych, wydawania opinii indywidualnych sposobu prowadzenia kontroli, przechowywania akt postępowania. Dodatkowo niezbędne będzie także zapewnienie właściwej realizacji zadań organu nadzoru przez pracowników urzędu obsługującego ministra do spraw informatyzacji Dodatkowo ustawa przewiduje powołanie Społecznej Rady Sztucznej Inteligencji jako ciała opiniodawczo-doradczego Komisji. Udział w pracach Rad będzie nieodpłatny. Projekt wskazuje także na możliwość uzyskania przez podmioty objęte AI Akt opinii indywidualnej. W tym celu podmiot będzie obowiązany do złożenia wniosku oraz uiszczenia opłaty w wysokości 150 zł. W ramach prowadzonego postępowania przed Komisją projekt przewiduje także możliwość zawarcia przez stronę postępowania układu. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. 9. Wpływ na rynek pracy Przyjęcie projektu będzie miało bezpośredni, pozytywny wpływ na rynek pracy poprzez powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz zorganizowanie zaplecza osobowego i technicznego, przy pomocy którego Komisja będzie wykonywała swoje zadania. Obsługę administracyjno-kancelaryjną zapewniać będzie urząd obsługujący ministra właściwego do spraw informatyzacji. Można przewidywać, że w związku z powyższym na rynku pracy pojawią się nowe miejsca pracy, ale ich liczba jest niemożliwa do określenia na tym etapie prac legislacyjnych. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie przyczyniać się do szybszego rozwoju wdrożeń systemów sztucznej inteligencji, w tym przez polskie małe i średnie przedsiębiorstwa. 10. Wpływ na pozostałe obszary środowisko naturalne sytuacja i rozwój regionalny sądy powszechne, administracyjne lub wojskowe demografia mienie państwowe inne: informatyzacja zdrowie Omówienie wpływu Umożliwienie złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 będzie miało wpływ na zapobieganie szkodom i wykrywanie zagrożeń, które w przeciwnym wypadku pozostałyby niewykryte, podniesie bezpieczeństwo oraz zaufanie do stosowania systemów sztucznej inteligencji. Przewidywane w przyszłości odwołania od decyzji Komisji mogą zwiększyć obciążenie pracą Sądu Ochrony Konkurencji i Konsumentów, a także Sądu Apelacyjnego w Warszawie, sądów okręgowych i rejonowych. Profesjonalizm nowego urzędu powinien jednak zapewnić sprawne obsługiwane skarg. Przewiduje się potrzebę szkolenia merytorycznego kadry sądu, jak i zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby ustawa weszła w życie po upływie 14 dni od dnia ogłoszenia, z zastrzeżeniem wyjątków w niej określonych. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Ewaluacja efektów projektu będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim, jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Sejmowi sprawozdania Komisji ze swojej działalności za rok poprzedni. 28 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak. RAPORT Z OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do konsultacji publicznych i opiniowania 16 października 2024 r. Na zgłoszenie uwag został wyznaczony termin 30 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa,Centrum Cyfrowe Francusko-Polska Izba Przemysłowo Handlowa,INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A.Bank Gospodarstwa Krajowego S.AZwiązek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiły następujące podmioty: ISSA Polska, Polskie Towarzystwo Informatyczne,Tauron Dystrybucja, Instrat Centrum Cyfrowe, Europen Fem Institute, Polska Izba Ubezpieczeń, Open AI Devs Community, Geberationis.ai S.A., Fundacja Open Allies, Polskie Stowarzyszenie Sztucznej Inteligencji (PSSI), GRAI, Polska Izba Komunikacji Elektronicznej,Stowarzyszenie Inspektorów Ochrony Danych Osobowych, Krajowy Instytut Mediów, Koalicja AI i Innowacji w Zdrowiu, NASK, RELX (ang.), Naczelna Rada Adwokacka, Związek Przedsiębiorstw Finansowych w Polsce, Krajowa Izba Gospodarcza, Związek Cyfrowa Polsk, Logicise Sp. z o. o, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji, Polski Związek Pracodawców Przemysłu Farmaceutycznego – Krajowi Producenci Leków, Stowarzyszenie Autorów i Wydawców Copyright Polska, Fundacja Moje Państwo,Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Sano Centrum Zindywidualizowanej Medycyny Obliczeniowej Międzynarodowa Fundacja Badawcza, Fundacja Sztuka Media Film, Obywatelski Akcelerator Innowacji, Instytut Spraw Obywatelskich, Stowarzyszenie ITCORNER, Związku Pracodawców Technologii Cyfrowych Lewiatan, Software Development Association Poland (SoDA), Fundacja Panoptykon, Brytyjsko-Polska Izba Handlowa BPCC, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Związek Producentów Audio Video (ZPAV), Polska Izba Rzeczników Patentowych, Stowarzyszenia Autorów ZAiKS, Polska Izba Książki, Polski Związek Zarządzania Wierzytelnościami, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, HAIQ sp. z o.o., Stowarzyszenie Księgowych Polskich, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Polska Akademia Nauk Centrum Badań Kosmicznych (PAN), Porozmawiajmy o AI i Poznański Horyzont Danych (EGO), Polskiej Izby Informatyki i Telekomunikacji (PIIT0, Federacja Przedsiębiorców Polskich (FPP), HAEGRI SP. Z O.O., Polska Wytwórnia Papierów Wartościowych (PWPW), Związek Zawodowy Scenarzystów Polskich (Gildia Scenarzystów), KRS – Krajowa Rada Sądownictwa, Polskie Centrum Akredytacji, Porozumienie Zielonogórskie Federacja Związków Pracodawców Ochrony Zdrowia oraz 5 osób fizycznych. Tabela zgłoszonych uwag stanowi załącznik do raportu. W ramach opiniowania projekt otrzymali: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność”, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego. Stanowiska przedstawiły następujące podmioty: Bank Gospodarstwa Krajowego, Polski Komitet Normalizacyjny, Biblioteka Narodowa, Główny Inspektor Pracy, Urząd Komunikacji Elektronicznej, Konfederacja Lewiatan, Urzędu Ochrony Konkurencji i Konsumentów, Ogólnopolskie Porozumienie Związków Zawodowych, Narodowe Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Polski Fundusz Rozwoju S.A. (PFR), Pracodawcy RP, Rzecznik Praw Obywatelskich, Prokuratoria Generalna RP, Główny Urząd Statystyczny, Urząd Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Rada Legislacyjna, Urząd Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Urząd Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ZUS Tabela zgłoszonych uwag stanowi załącznik do raportu. Projektodawca informuje, że trwają analizy w zakresie uwag zgłoszonych w ramach konsultacji publicznych, ostateczne wyniki tych analiz zostaną przedstawione po zakończeniu II tury uzgodnień, opiniowania i konsultacji publicznych. Jednocześnie projektodawca podkreśla, że w nowym tekście projektu ustawy, skierowanym do ponownych uzgodnień, opiniowania i konsultacji publicznych Pozytywnie rozpatrzono uwagi dotyczące m.in: - zwrotu kosztów udziału w posiedzeniach Komisji oraz Społecznej Rady; - rozszerzenia katalogu obszarów działalności organizacji społecznych uprawnionych do zgłaszania kandydatur na członków Społecznej Rady ds. Sztucznej Inteligencji, która ma zostać powołana przy Komisji; - precyzyjnego określenia rynku, nad którego nadzór sprawować ma Komisja; a także przeformułowania przepisów dotyczących wyłączenia stosowania przepisów w oparciu o odpowiednie przepisy rozporządzenia, w tym osobistego i niezarobkowego wykorzystania systemów AI; - rozszerzenia środków wspierających rozwój innowacyjności systemów sztucznej inteligencji, w tym rozszerzenia zakresu projektu o przepisy (nowego) rozdziału 8 poświęconego piaskownicom regulacyjnym w zakresie AI, a także możliwości zawarcia układu (nowy tryb postępowania); - podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie opinii (w poprzedniej wersji projektu: interpretacji) indywidualnej oraz doprecyzowania trybu jej wydawania oraz skutków prawnych; - uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia zbędnych czynności kontrolnych; - usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; - zwiększenia zakresu danych i informacji, do których usunięcia zobligowana jest Komisja po rozpatrzeniu sprawy w ramach postępowania; - zmiany przepisów regulujących pracę Biura Komisji (rozszerzenie zakresu spraw możliwych do uregulowania na poziomie regulaminu Biura Komisji); - rozszerzenia katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji (na mocy decyzji Komisji); - uwzględnienia roli ministra właściwego do spraw informatyzacji w zakresie prac nad „Fabrykami Sztucznej Inteligencji”, w tym możliwości bezpośredniego przekazywania środków finansowych na ten cel. 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. 1 Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi 1. Uwaga ogólna European Fem Institut Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami. Zapisanymi w traktatach oraz, zgodnie z art. 6 TUE - w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, ,,mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji\" oraz \"mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet\". Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne 2 podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jak systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii\". To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym Wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. 3 Uwaga ogólna ICC Polska Projekt, jak wynika z jego uzasadnienia, ma ograniczać się do wprowadzenia do polskiego prawa mechanizmów umożliwiających realizację jedynie tych przepisów rozporządzenia 2024/16891, które zaczną być stosowane od dnia 2 sierpnia 2025 r. W pozostałym zaś zakresie Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych (s. 3-4 uzasadnienia Projektu). Oznacza to, że w założeniu projektodawcy przyjęcie przez Polskę aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 będzie rozłożone w czasie i zsynchronizowane z harmonogramem rozpoczęcia stosowania przepisów samego rozporządzenia (por. art. 113 rozporządzenia 2024/1689). Jakkolwiek uzasadnienie Projektu wprost tego nie przesądza, to z jego całościowej lektury oraz ogólnego tytułu samej ustawy można wnioskować, że wspomniane kolejne działania legislacyjne mają opierać się na uzupełnieniu lub zmianie tej właśnie ustawy. Zaproponowane podejście legislacyjne może budzić jednak pewne wątpliwości z perspektywy zarówno pewności, jak i samej przejrzystości prawa. Po pierwsze, z treści samej ustawy nie wynika jednoznacznie, czy przewidziane w niej mechanizmy ogólne – np. postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub przepisy o administracyjnych karach pieniężnych – będą znajdować zastosowanie w tym właśnie kształcie w odniesieniu do oceny naruszenia wszelkich przepisów rozporządzenia 2024/1689 (w tym przepisów, których termin rozpoczęcia stosowania przypada w 2026 i 2027 r.), czy też podlegać one będą dostosowaniu lub zróżnicowaniu po 2 sierpnia 2025 r. Rodzi to niepotrzebną niepewność po stronie podmiotów, do których stosuje się rozporządzenie 2024/1689, które mając już świadomość obowiązków, jakie będą miały do nich zastosowanie, nie wiedzą jednak, w jaki sposób obowiązki te będą egzekwowane przez organ nadzoru w Polsce. Tytułem przykładu, w art. 1 pkt 5 Projektu wskazano, że ustawa określa „zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 rozporządzenia 2024/1689” [podkreślenie własne], podczas gdy sam rozdział 7 Projektu dotyczący administracyjnych kar pieniężnych już takiego ograniczenia nie przewiduje, odwołując się ogólnie do kar określonych w art. 99 rozporządzenia 2024/1689. Po drugie, jeżeli wdrożenie pozostałych przepisów rozporządzenia 2024/1689 miałoby polegać na prostym uzupełnieniu projektowanej ustawy o systemach sztucznej inteligencji o nowe regulacje (nowelizacja), to może to negatywnie wpłynąć na przejrzystość i czytelność samej ustawy z perspektywy podmiotów jej podlegających. Zależnie bowiem od zakresu zmian i uzupełnień wymagać to będzie albo dodania do ustawy artykułów oznaczonych poza numerami dodatkowo małymi literami lub nawet wieloliterowo – w celu zachowania dotychczasowej numeracji (§ 89 Zasad techniki prawodawczej2), albo opracowania projektu całkowicie nowej ustawy (§ 84 Zasad techniki prawodawczej). Tego rodzaju zabiegi legislacyjne mogą niepotrzebnie ograniczyć, odpowiednio, przejrzystość ustawy albo pewność prawa. Z tego względu należałoby rozważyć też alternatywne podejścia legislacyjne do wdrożenia w Polsce rozporządzenia 2024/1689. Mogą one polegać chociażby na rozbiciu planowanych regulacji na ustawę ustrojową, regulującą jedynie organizację systemu nadzoru nad systemami 4 sztucznej inteligencji, która miałaby wejść w życie w pierwszej kolejności (co jest uzasadnione koniecznością utworzenia nowego organu i czasem potrzebnym na jego zorganizowanie), oraz ustawę lub ustawy odnoszące się do pozostałych zagadnień, w tym postępowań kontrolnych i postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689 ujętych od razu w sposób możliwie jednolity, niezależnie od terminu rozpoczęcia stosowania odpowiednich przepisów rozporządzenia 2024/1689 Uwaga ogólna KIGEiT Zgodnie z traktatami AI Act (Rozporządzenie PE i Rady UE 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 – popieramy idee implementacji aktu w sprawie sztucznej inteligencji, który powinien wejść do porządku prawnego wszystkich krajów członkowskich w taki sam sposób. Ogólna uwaga jaka nasuwa się po analizie projektu ustawy łącznie z Rozporządzeniem 1689/2024 („AI Act”) to obawa jak przedsiębiorca, zwłaszcza typu start-up ma ustalić zakres norm proceduralnych dotyczących systemów i praktyk w zakresie sztucznej inteligencji. Nie jest łatwe ustalenie, jakie są wzajemne relacje (abstrahując od hierarchii źródeł prawa) pomiędzy przepisami: ustawy o systemach sztucznej inteligencji (zwłaszcza Rozdziału 3, 4), ustawy Prawo przedsiębiorców (odwołanie z Art. 42 projektu ustawy o systemach wysokiego ryzyka) a Art. 74 ust. 12-14 AI Act i Rozporządzenia 2019/2020 (zwłaszcza Rozdziału V), do którego odwołuje Art. 74 ust. 1 AI Act. Problemów tych nie rozwiązują propozycje zapisów Ustawy. Należy zauważyć, że choć prawdopodobnie stały za tym dobre intencje, projekt Ustawy zawiera w sobie propozycje przepisów, które pochodzą z co najmniej kilku aktów prawnych dotyczących rynków regulowanych i nadzoru nad rynkiem. To zaczerpnięcie poszczególnych fragmentów projektu Ustawy z różnych źródeł i jednocześnie odwołanie do stosowania jeszcze kolejnych ustaw (KPA, Prawo przedsiębiorców) sprawia, że zaproponowana regulacja jest bardzo zawiła i niejasna. Trudno jest w sposób prosty, bez konieczności sięgania do innych aktów prawnych (i często zwrotnych odwołań) ustalić pełny zakres normy, w tym praw przysługujących stronie postępowania i uprawnień władczych przysługujących organowi. Taki sposób regulacji budzi wątpliwości co do realizacji zasad demokratycznego państwa prawnego (w tym zasad przyzwoitej legislacji, pewności prawa i zaufania obywatela do państwa i stanowionego przez nie prawa), które mają gwarantować, że obywatel może decydować o swoim postępowaniu w oparciu o pełną znajomość przesłanek działania organów państwowych oraz konsekwencji prawnych, jakie te działania mogą za sobą pociągać. Projekt ustawy przewiduje także szereg form działania Komisji bądź Przewodniczącego Komisji, jak zalecenia pokontrolne, ostrzeżenia, interpretacje indywidualne, co do których nie wskazano jaką formę prawna przyjmują (decyzji, postanowień czy też nowych- odrębnych form) co wprowadza kolejne zawiłości w procedurze. Dla wymienionych aktów nie przewidziano także środków zaskarżenia i ochrony praw podmiotów stosujących rozwiązania sztucznej inteligencji, 5 co stanowi istotna lukę w regulacji. Środki te mogą bowiem kreować obowiązki bądź zakazy dla tych podmiotów, powodując tym samym daleko idące skutki operacyjne jak i finansowe związane z ich działalnością. Dlatego na zastosowanie taki środków, które powinny przyjąć formę decyzji administracyjnej, jako prawnie doniosłych, powinno podmiotowi dotkniętemu ich działaniem przysługiwać prawo wniesienia odwołania do właściwego Sądu w terminie odpowiednim do zawiłości materii (sugerowanym 2 miesięcy) a do czasu uprawomocnienia się takiego środka nie powinien być on egzekwowany. Ponad to cały proces kontroli powinien skupiać się nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzystywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzyko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologii i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania sztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na operatora takich systemów. Uwagi ogólne Federacja Przedsiębiorców Polskich Projekt przewiduje możliwość równoczesnego stosowania przepisów przez różne organy nadzorcze w państwach członkowskich wobec tych samych przedsiębiorstw. Zawarty w artykule 2 przepis o zakresie podmiotowym może prowadzić do niejasności interpretacyjnych co do kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji względem zagranicznych podmiotów. Aby uniknąć takich niejasności, sugerujemy precyzyjne określenie, w stosunku do których jednostek międzynarodowych grup kapitałowych Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie miała możliwość prowadzenia działań czy jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw, szczególnie w odniesieniu do firm zagranicznych posiadających oddziały lub spółki zależne w Polsce. Ponadto, projekt zakłada możliwość wydawania interpretacji i rekomendacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co wykracza poza jej kompetencje określone w Akcie w sprawie sztucznej inteligencji, który rezerwuje te uprawnienia wyłącznie dla unijnej Rady ds. AI. Aby uniknąć potencjalnych rozbieżności w interpretacji przepisów unijnych oraz niejasności dla przedsiębiorstw operujących na rynku międzynarodowym, proponujemy usunięcie tych zapisów. Projekt ustawy nie przewiduje również odpowiednich zabezpieczeń dla danych poufnych pozyskiwanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co może prowadzić do naruszenia 6 interesów przedsiębiorstw. Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają szerokie uprawnienia w zakresie przetwarzania i udostępniania informacji chronionych prawnie, co może stanowić zagrożenie dla prywatności firm. Postulujemy wprowadzenie ograniczeń dotyczących przetwarzania i udostępniania informacji objętych tajemnicą przedsiębiorstwa, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów biznesowych. Projekt przyznaje Komisji Rozwoju t Bezpieczeństwa Sztucznej Inteligencji szerokie uprawnienia do pozyskiwania dokumentów i przeprowadzania oględzin urządzeń, co może wykraczać poza wymagania Aktu o sztucznej inteligencji, który ogranicza gromadzenie danych przez organy nadzorcze do tych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Proponujemy, aby uprawnienia te były ograniczone do niezbędnych danych oraz aby wyłączyć wymóg poświadczania zgodności dokumentów z oryginałem, co może stanowić dodatkowe obciążenie administracyjne dla przedsiębiorstw. Projekt przewiduje 14-dniowy termin na wycofanie systemu AI z rynku, co może stanowić wyzwanie dla firm korzystających z zaawansowanych technologii i prowadzić do zakłóceń operacyjnych oraz strat finansowych. Proponujemy wydłużenie tego terminu oraz zniesienie natychmiastowej wykonalności decyzji o wycofaniu systemu, aby firmy miały możliwość dostosowania się do nowych wymagań. Wycofanie systemu AI powinno być ostatecznością, a Komisja powinna skupić się na działaniach prewencyjnych i rekomendacjach. Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji. Jednak sprawy związane ze sztuczną inteligencją są na tyle skomplikowane, że wymagają odpowiedniego poziomu ekspertyzy. Dlatego proponujemy rozważenie przekazania takich spraw do sądów ds. własności intelektualnej, co mogłoby zapewnić wyższy poziom przewidywalności i rzetelności rozstrzygnięć. Na koniec, chcielibyśmy zwrócić uwagę na wysokie kary pieniężne przewidziane w projekcie oraz krótki, 14-dniowy termin na ich opłacenie. Taka presja finansowa może negatywnie wpłynąć na przedsiębiorców, zwłaszcza przy braku możliwości zawieszenia wykonania decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W celu zachowania proporcjonalności sugerujemy wydłużenie terminu na uiszczenie kar oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu zakończenia procesu odwoławczego. Mamy nadzieję, że nasze uwagi i rekomendacje zostaną wzięte pod uwagę podczas dalszych prac nad projektem. Federacja Przedsiębiorców Polskich jest gotowa do współpracy i wsparcia w dalszych konsultacjach, aby stworzyć stabilne i przewidywalne ramy prawne dla działalności przedsiębiorstw korzystających z systemów sztucznej inteligencji w Polsce. 2. Uwaga ogólna Mikołaj \"Tesla\" Matysiak #WhiteWater Propozycje te z jednej strony chronią obywateli, ale jednocześnie zabezpieczają model biznesowy firm w branży i zwiększają poziom bezpieczeństwa i zaufania użytkowników do firm tworzących AI. Także klasyczne win-win w tej sytuacji. I myślę, że mimo pewnej dodatkowej pracy, której będzie to wymagało od firm w tym obszarze - zakładam, że raczej będą dobrze przyjęte w branży, jako racjonalne i zasadne. 7 1. Prawo do prywatności: Opcja opt out z wykorzystywania i przechowywania treści w ich systemie (darmowe dla użytkowników indywidualnych i edukacji, może być płatne opt out w planach enterprise dla firm i instytucji). 2. Prawo do dysponowania danymi: Wymóg posiadania opcji lokalnego przechowywania danych na własnym sprzęcie lub chmurze. 3. Prawo do ciągłości danych: Wymóg posiadania możliwości zgrania całości historii wygenerowanej treści przez użytkownika (np. do celów migracji danych do innego AI). 4. Prawo do zachowania ciągłości danych: Zakaz blokowania i usuwania kont oraz wprowadzonych danych bez możliwości zgrania historii danych. 5. Prawo do szybkiej migracji: Po wypracowaniu standardów dla określonego typu treści, wymóg posiadania przynajmniej jednego uniwersalnego typu plików do importu i eksportu dla danego typu treści. 6. Prawo do weryfikacji: Wymóg posiadania opcji ujawnienia, które treści były oglądane przez pracowników firmy. Wymóg posiadania przez firmę imiennych logów kto i co przeglądał i jakie czynności wykonał z tymi danymi (np. do udostępnienia organom ścigania), gdyby ktoś próbował manipulować outputem lub wykradał prywatne dane użytkowników z serwerów firmy Uwagi ogólne Generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, co zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów 8 Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki 9 sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. 10 • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Uwagi ogólne Porozmawiajmy o AI i Poznańskiego Horyzontu Danych Czy interpretacja wydana przez Komisję w Polsce obowiązuje na terenie całej UE? Jak zsynchronizować rynek? 11 Jakie wyprzedzenie czasowe potrzebujemy, żeby dany system ściągnąć z rynku (zaprzestać używać, np. w przypadku, gdy nasza usługa jest oparta na tym systemie)? Kary kwotowa i procentowa – dla MŚP wybieramy mniejszą Art. 99, ust. 6 (AI Act). Rekomendujemy doprecyzowanie czym są małe firmy - firmy które spełniają definicję MŚP np. odwołanie się do polskich przepisów i zawartych tam definicji MŚP. Podanie konkretnych liczb ekspertów do Rady Społecznej: domenowych na styku AI i społecznego wpływu AI na styku praw człowieka i AI sugerujemy płace dla pracowników (specjalistów) Biura Komisji na poziomie 90 percentyla stawek rynkowych uwzględniających także JDG (Jednoosobową Działalność Gospodarczą). Oczekujemy że w ten sposób zapewniona zostanie wysoka jakość kompetencji osób zatrudnionych w Biurze szczególnie w tak wysoce konkurencyjnym obszarze jakim jest SI. Uwaga ogólna Open AI Devs Community WSPARCIE DLA MŚP I INDYWIDUALNYCH DEWELOPERÓW 1. Uproszczone procedury dla mniejszych podmiotów. Postulujemy wprowadzenie do ustawy rozdziału dedykowanego uproszczonym procedurom dla MŚP, jednoosobowych działalności gospodarczych (JDG) oraz indywidualnych deweloperów. Proponujemy: • Wprowadzenie progów dostosowanych do wielkości przedsiębiorstwa i skali działalności; • Uproszczone wymogi dokumentacyjne dla systemów niskiego ryzyka; • Wydłużone terminy dostosowawcze dla mniejszych podmiotów. 2. System wsparcia finansowego i merytorycznego. Wnioskujemy o uzupełnienie ustawy o przepisy dotyczące: • Utworzenia dedykowanego funduszu wspierającego rozwój i wdrażanie rozwiązań AI; • Programu dotacji na certyfikację i ocenę zgodności systemów AI; • Mechanizmu refundacji kosztów dostosowania się do nowych regulacji. ROZWÓJ EKOSYSTEMU AI W POLSCE 1. Strategia rozwoju AI. Proponujemy uzupełnienie ustawy o rozdział określający: • Narodową strategię rozwoju AI; • Konkretne cele i wskaźniki rozwoju sektora AI; • Mechanizmy wsparcia dla badań i rozwoju w obszarze AI. 2. Współpraca nauki z biznesem. Postulujemy wprowadzenie przepisów dotyczących: • Utworzenia krajowego repozytorium danych i modeli AI; • Programów współpracy między uczelniami a przedsiębiorstwami; • Wsparcia dla komercjalizacji badań w obszarze AI Brak odpowiednich mechanizmów wsparcia może prowadzić do: 12 • Ograniczenia innowacyjności w sektorze AI; • Wykluczenia mniejszych podmiotów z rynku; • Osłabienia pozycji Polski w globalnym wyścigu technologicznym. Uwaga ogólna Instrat – Fundacja Centrum Cyfrowe Po opublikowaniu projektu ustawy w mediach społecznościowych rozgorzała dyskusja na temat planowanej ingerencji państwa w działalność firm oraz mechanizmów kontroli, jakie ustawa wprowadzi. Oprócz znanych już głosów krytyki dotyczących przeregulowania rynku i zahamowania innowacji, pojawiły się także nowe obawy – dotyczące tworzenia tzw. „milicji SI” (współpracy KRiBSI z Policją lub innymi organami nadzoru państwowego i ochrony prawa) i realizowania daleko idącej kontroli producentów technologii. Pojawiły się także argumenty mówiące o braku jakiejkolwiek ochrony dostawców. Pojawiające się wątpliwości wskazują na konieczność prowadzenia przejrzystej komunikacji odnoszącej się do konkretnych, budzących obawy zapisów ustawy, jej rzeczywistego zakresu oraz tego, w jaki sposób będzie stosowana. Ważne jest także, aby wyjaśnić, jak regulacja koreluje z założeniami i zobowiązaniami wynikającymi z unijnego rozporządzenia AI Act, co pozwoli rozwiać niepokoje środowiska biznesowego. Bez szeroko zakrojonej komunikacji i działań mających na celu uspokojenie obaw przedsiębiorców może dojść do dezinformacji i narastającej niechęci wobec nowego prawa, co z kolei utrudni jego wdrażanie oraz współpracę z sektorem prywatnym. Uwaga ogólna SKwP Zagadnienie Biura i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Problem AI jest trudny, perspektywiczny i dynamicznie rozwijający się. Zespół pracujący nad kontrolą bezpieczeństwa AI powinien być powołany za zgodą społeczną, zatem z akceptacją Sejmu RP. Oddanie pełnej personalnej władzy w ręce Prezesa RM budzi obawę o naciski lobbystów i ekspertów zagranicznych (UE). Uwaga ogólna Repropol Jak wynika z uzasadnienia projektu ustawy o systemach sztucznej inteligencji (dalej jako „Projekt”, a ustawa jako „UoSSI”), wdrożone mają zostać te przepisy AIA, których data nabrania mocy obowiązującej przypada na 2 sierpnia 2025 roku. Mowa tutaj zatem o rozdziałach I, II, III sekcja 4, V, VII, IX, XI. Choć zasadniczym trzonem wdrożenia są przepisy o charakterze techniczno- administracyjnym, związane z ustanowieniem krajowych urzędów certyfikujących oraz nadzorujących, zakres wdrożenia obejmuje także rozdział V, który odnosi się do modeli AI ogólnego przeznaczenia (dalej jako: „GPAI”). Ten rodzaj modeli, zwłaszcza modele z ryzykiem systemowym, mają fundamentalne znaczenie dla rozwoju fenomenu sztucznej inteligencji. W tym kontekście należy zwrócić uwagę na fakt, iż zagadnieniu GPAI projektodawca nie poświęcił żadnej uwagi, prócz wzmianki w art. 1 ust. 2 UoSSI. Już w tym miejscu sygnalizujemy ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku, wypada atrakcyjnie w kontekście istotnie mniejszych środków finansowych 13 przeznaczonych na wdrożenie Aktu o Usługach Cyfrowych. Jeśli jednak obecne w przestrzeni publicznej zapowiedzi dotyczące aktywnego uczestnictwa Polski w tworzeniu najnowszych technologii mają mieć szansę na realizację, niezbędne wydają się kwoty dużo wyższe. Jak wyraźnie stanowi art. 70 ust. 3 AIA, dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”. Zapewnienie tego rodzaju kompetencji musi kosztować. Zapisana w projekcie ustawy kwota oznacza średniomiesięczne wydatki na poziomie około 2,5 miliona złotych. Jeśli już wziąć pod uwagę koszt tworzenia nawet niewielkich modeli i systemów AI (co może stanowić pośredni benchmark dla obliczania budżetów tego rodzaju przedsięwzięć), wskazane kwoty wydają się zbyt niskie. Uwaga ogólna Naczelna Rada Adwokacka (NRA) Choć przepisy Projektu mają zapewnić ochronę interesu publicznego, prawa i wolności obywateli oraz bezpieczeństwo technologiczne, to w wielu przypadkach ich struktura i zakres budzą wątpliwości i zastrzeżenia. Przepisy Projektu w art. 5 i 6 przewidują powołanie KRiBSI, której nadrzędną misją ma być sprawowanie pieczy nad przestrzeganiem postanowień tej ustawy. Zakres działań KRiBSI ma obejmować monitorowanie rynku systemów SI, a także egzekwowanie obowiązków nałożonych na dostawców oraz użytkowników tych systemów. Zgodnie z treścią Projektu KRiBSI będzie organem państwowym dysponującym rozległymi kompetencjami nadzorczymi, a przyznane jej uprawnienia wydają się w dużej mierze sankcyjne i dyscyplinujące. Nie można jednak przeoczyć, iż sposób powoływania członków KRiBSI, określony w art. 20–26 Projektu, rodzi pewne zastrzeżenia odnośnie do niezależności tej instytucji. Projekt wskazuje bowiem, iż przewodniczący Komisji powoływany będzie przez Szefa Kancelarii Prezesa Rady Ministrów (art. 26 Projektu), co stwarza przestrzeń dla potencjalnych wpływów politycznych. Uzasadnionym byłoby zatem rozważenie takich modyfikacji w przepisach, które wzmacniałyby gwarancje niezależności KRiBSI oraz zapewniałyby przejrzysty i publiczny tryb powoływania jej członków. Transparentność procesu nominacji i zabezpieczenie KRiBSI przed wpływami politycznymi mogłyby przyczynić się do zwiększenia zaufania społecznego wobec tego organu, w szczególności w kontekście jego roli w nadzorze nad systemami SI. Uwaga ogólna Związku Pracodawców Technologii Cyfrowych Lewiatan Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. 14 Uwaga ogólna HAiQ Nie za lekka? O ile należy docenić niechęć Ministerstwa Cyfryzacji do tworzenia kolejnej zasobochłonnej instytucji administracji centralnej, to wydaje się, że takie rozwiązanie nie rozwiązuje innego problemu: deficytu ekspertów od SI. W uzasadnieniu do ustawy czytamy, że powodem, dla którego zdecydowano się na ustanowienie jednej centralnej instytucji zajmującej się SI, był fakt deficytu ekspertów od tej technologii. Trudno nie zgodzić się z taką diagnozą. Jednocześnie jednak konstrukcyjna lekkość Komisji de facto wymaga tego, aby eksperci od SI znaleźli się we wszystkich dziewięciu instytucjach wymienionych w Art. 7., których przedstawiciele są członkami Komisji. Czyli formalnie mamy koncentrację kompetencji w jednym ciele, lecz ze względu na jego sieciowy charakter, potrzebę znaczącej dekoncentracji wiedzy na temat SI. Jeżeli nie nastąpi proces owej dekoncentracji, to jedynie Przewodniczący Komisji dzięki wymogom formalnym (Art. 18.), będzie jedynym ekspertem z zakresu przedmiotowego ustawy. Należy zaś pamiętać, że każdy członek Komisji (Art. 8.) ma taką samą siłę głosu (oprócz sytuacji patowych). Obyśmy zatem nie tworzyli instytucji, która będzie pozwalała laikom z zakresu SI podejmować “lekką ręką” decyzje mające bardzo poważne konsekwencje w sprawach tak wrażliwej i dynamicznie rozwijającej się technologii jak SI. Niedawno doświadczaliśmy niestety tego rodzaju zachowań ze strony funkcjonariuszy państwa. A gdzie rozwój? Jak już wspomnieliśmy wcześniej pełna nazwa ciała mającego zajmować się sztuczną inteligencją w Polsce to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Niestety w projekcie ustawy mamy bardzo niewiele informacji o tym, w jaki sposób nowy organ miałby zajmować się rozwojem SI w naszym kraju. W uzasadnieniu do ustawy pojawia się wiele deklaracji w tej kwestii, lecz na poziomie tzw. action points nie ma wiele. Co więcej, zakres przedmiotowy ustawy (Art. 4.) wyklucza obszar badań naukowych, zaś wśród członków Komisji nie jest wymieniony przedstawiciel ministra nauki i szkolnictwa wyższego. A gdzie bezpieczeństwo? Ten sam problem jest związany z kwestiami bezpieczeństwa. Na poziomie deklaracji mamy wiele haseł związanych z potrzebą wspierania implementacji systemów SI w sferach związanych z bezpieczeństwem, lecz na poziomie procesów faktycznie opisywanych w ustawie niewiele znajdujemy. Ponownie, przedstawiciele ministra obrony oraz ministra administracji i bezpieczeństwa wewnętrznego nie są wymienieni jako członkowie Komisji (chociaż jest koordynator ds. służb specjalnych), zaś obszary obronności i bezpieczeństwa są wykluczone z przedmiotowego zakresu działań nowego ciała. Te wszystkie wykluczenia można poniekąd zrozumieć, ponieważ są one również obecne w AI Act obowiązującym w Unii Europejskiej. Można się jednak zastanowić, czy Polska nie powinna jednak inaczej sprofilować swojej najważniejszej instytucji zajmującej się SI. O ile można zrozumieć wykluczenie kwestii bezpieczeństwa wewnętrznego i zewnętrznego z kompetencji Komisji, to trudno zrozumieć odcięcie od kwestii badawczych. Sztuczna inteligencja nie jest nawet w części rozwiniętą technologią. Nieustannie rozwija się, a Polska powinna uczestniczyć w tym procesie. Dlatego koniecznym wydaje się, żeby 15 kluczowymi elementami ‘lekkiej organizacji’ jaką jest Komisja, byli przedstawiciele instytucji zajmujących się nauką. “Komisja Nadzoru i Kontroli Sztucznej Inteligencji”. W obecnym kształcie nowo powołane ciało na poziomie w miarę dokładnie opisanych działań i kompetencji ma przede wszystkim zajmować się nadzorem nad podmiotami wykorzystującymi systemy SI oraz reagować na skargi zgłaszane wobec ich działań. Proponowana zaś przez Ministerstwo Cyfryzacji nazwa nowej instytucji centralnej kompletnie nie oddaje jej kluczowych kompetencji. Co więcej, kompetencje związane z notyfikacją systemów SI mają być przypisane ministrowi ds. informatyzacji (Rozdział 6). Naszym jednak zdaniem dobrze byłoby, aby w swojej końcowej formie Komisja posiadała kompetencje, które rzeczywiście odpowiadają jej proponowanej nazwie. Zapewne strona rzędowa będzie argumentować, że wiele elementów działań Komisji będzie realizowane przez Biuro Komisji (Art. 31), które ma powołać premier. Jednakże na podstawie udostępnionych dokumentów nie wiele wiadomo o planowanych działaniach tego ciała. Brzydkie słowo na ‘b’. Koncentrowanie się na kompetencjach związanych z nadzorem i kontrolą powoduje, że uwadze autorów projektu ustawy ucieka biznes. W uzasadnieniu ustawy czytamy, że Komisja ma wspierać małe i średnie przedsiębiorstwa. Trudno jednak dociec, jak to ma robić. Jedynie nadzorując i kontrolując wiele w tym obszarze nie osiągnie. Można się też obawiać, że aby wykazać swoją prężność, to właśnie te podmioty staną się głównym celem działań tej instytucji. Samo Ministerstwo przyznaje, że ekspetów od SI jest w Polsce bardzo mało, kogo więc będzie stać na ich wynajęcie, aby odwoływać się od decyzji Komisji. Zapewne tzw. Big Techy, a co z mniej zamożnymi przedsiębiorstwami? Trochę kultury! Na koniec uwaga dotycząca nie tylko projektu polskiej ustawy, lecz także unijnego podejścia do SI. Ustanowiona przez AI Act polityka publiczna wobec SI, jest polityką publiczną nakierowaną na “algorytmiczną sztuczną inteligencję”. Głównym problemem, który ma ona zaadresować, jest przede wszystkim automatyzacja procesów decyzyjnych. Systemy SI będące elementami instytucji finansowych, czy też publicznych, mogą uzyskać zbyt dużą autonomię w podejmowaniu szybkich i nietransparentnych decyzji. Decyzje te mogą zagrażać wielu gwarantowanym przez Unię Europejską prawom obywatelskim. Uważamy, że to zagrożenie jest realne, poważne i należy na nie reagować. Dobrą odpowiedzią na nie jest zarówno AI Act, jak i komentowany przez nas projekt ustawy; nawet w swojej nadzorczo-kontrolnej formie. Problem w tym, że obecnie jesteśmy świadkami rozwoju przede wszystkim “generatywnej sztucznej inteligencji”. Ta nie tyle wiąże się z automatyzacją procesów podejmowania decyzji, co z wysoką autonomią przekształcania i tworzenia nowych przekazów symbolicznych. Tutaj problemem nie jest kwestia nieprzejrzystych decyzji kredytowych, co odróżniania prawdziwych przekazów audiowizualnych od tych generowanych przez SI. Gwałtowny rozwój generatywnej sztucznej inteligencji mniej też jest związany z naruszaniem naszych indywidualnych praw, lecz bardziej 16 praw związanych ze wspólnotami - w tym kulturowymi i społecznymi - których jesteśmy członkami. Sztuczna inteligencja karmi się bowiem wytwarzanymi przez nas wspólnie treściami kulturowymi oraz bardzo dynamicznie zaczyna na nie wpływać. Warto zatem zastanowić się, czy nasz krajowa regulacja nie powinna wziąć pod uwagę tego zmieniającego się charakteru sztucznej inteligencji. Uwaga ogólna Fundacja Moje Państwo Fundacja popiera rozwiązanie zawarte w projekcie ustawy polegające na utworzeniu w Polsce zupełnie nowego organu nadzoru rynku w zakresie sztucznej inteligencji, tj. Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji “Komisja” (co było rekomendowane przez Fundację w ramach prekonsultacji dotyczących projektu ustawy w kwietniu 2024 r.). Organ poza nadzorowaniem rynku ma także wzmacniać branżę sztucznej inteligencji w Polsce oraz pełnić funkcję podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, zatem ustanowienie nowej instytucji, zamiast rozdzielania nowych obowiązków wynikających z Aktu w sprawie sztucznej inteligencji 4 pomiędzy istniejące już organy, wydaje się rozwiązaniem najwłaściwszym. Na uwagę zasługują zadania Komisji polegające na opracowywaniu i wydawaniu publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych (art. 11 ust. 1 pkt 8 projektu ustawy). Zapewnienie ram dla rozwoju zrównoważonej technologii sztucznej inteligencji, wspieranie innowacyjności wśród przedsiębiorców oraz promowanie zorientowanego na człowieka podejścia do sztucznej inteligencji będzie wiązało się z koniecznością ciągłej edukacji obywateli, w tym przedstawicieli administracji publicznej oraz przedsiębiorców. Istotnym zadaniem Komisji – w kontekście budowania wiedzy wśród społeczeństwa o systemach sztucznej inteligencji – będzie również gromadzenie i upowszechnienie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją (art. 11 ust. 1 pkt 10 projektu ustawy). W przypadku tego przepisu należałoby rozważyć doprecyzowanie miejsca publikacji ww. orzecznictwa np. poprzez wskazanie, że publikacja nastąpi w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Projekt ustawy zakłada w art. 14 ust. 1, że “Przewodniczący Komisji, na wniosek zainteresowanego, wydaje w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy”. Na podstawie projektowanego przepisu do złożenia wniosku o wydanie interpretacji jest uprawniony każdy, kto ma wątpliwości jak interpretować, w odniesieniu do dotyczącej go sprawy, przepisy Aktu w sprawie sztucznej inteligencji lub przepisy projektowanej ustawy – zatem mógłby to być zarówno obywatel, na którego wpływ ma system sztucznej inteligencji, jak i spółka lub podmiot publiczny, na których spoczywają obowiązki wynikające z Aktu w sprawie sztucznej inteligencji. Zdaniem Fundacji zasadnie przyjęto szeroki zakres podmiotów uprawnionych do wystąpienia z wnioskiem o interpretację przepisów regulujących systemy 17 sztucznej inteligencji. W projektowanym przepisie należałoby wskazać jednak termin w jakim Przewodniczący Komisji jest zobowiązany do rozpoznania wniosku o wydanie interpretacji. W uzasadnieniu projektu ustawy (str. 12) wskazano, że: w celu zapewnienia koordynacji i wymiany informacji na temat sektora sztucznej inteligencji, przy Komisji ma zostać powołana Społeczna Rada do Spraw Sztucznej Inteligencji (“Rada”). Celem jej działania ma być zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. Uprawnienie do zgłaszania kandydatur do Rady zostało ograniczone poprzez przepis art. 28 ust. 3 projektowanej ustawy, zawierający wskazanie podmiotów oraz kategorii podmiotów, które mogą z tego prawa skorzystać. Zdaniem Fundacji należy rozważyć rozszerzenie katalogu zawartego w ww. przepisie w zakresie organizacji pozarządowych tj. w zakresie art. 28 ust. 3 pkt 7. Komentowany przepis wskazuje, że kandydatów na członków Rady mogą zgłosić fundacje lub stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Naszym zdaniem cennym źródłem wskazywania kandydatów do Rady byłyby również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które są w stanie wykazać się działalnością na rzecz rozwoju sztucznej inteligencji lub, których działalność statutowa jest związana z wspieraniem rozwoju sztucznej inteligencji. Proponowane rozwiązanie mogłoby wpłynąć na większą różnorodność kandydatur zgłaszanych na członków Rady Uwaga ogólna SIODO 1. art. 3 pkt 4) rozporządzenia 2024/1689;- „użytkownik” oznacza osobą fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które korzystają z systemu sztucznej inteligencji pod swoją kontrolą, z wyjątkiem sytuacji, gdy system sztucznej inteligencji jest wykorzystywany w ramach osobistej działalności pozazawodowej: 1) z uwagi na potrzebę jednoznacznego zdefiniowania podmiotu operującego narzędziami sztucznej inteligencji, 2) w tym komunikowanie publiczne (BIP)o wykorzystaniu narzędzi sztucznej inteligencji w działaniach podmiotu; 3) możliwość rezygnacji z usług podmiotu wykorzystującego narzędzia sztucznej inteligencji oraz alternatywne rozwiązania jako poszanowanie podstawowych praw osób o decydowaniu o sobie (lub stosowne uzasadnione ustawowe ograniczenie praw) 2. stosownie do zapisów Artykuł 29 rozporządzenia 2024/1689 – określenie osoby funkcyjnej (np. pełnomocnik wójta, burmistrza d/s cyberbezpieczeństwa i sztucznej inteligencji) u użytkownika (podmiotu lub organu publicznego) monitorującego działanie systemu sztucznej inteligencji. W tym: pozycję osoby w strukturze jednostki organizacyjnej, minimalny zakres uprawnień i obowiązków w stosunku do personelu i narządzi, którymi personel się posługuje, a także kwalifikacje zawodowe jakie powinien wykazywać przed kierownictwem jednostki organizacyjnej jako gwarancji sprawowania właściwego nadzoru 18 Uwaga ogólna Stowarzyszenie Autorów i Wydawców Copyright Polska W imieniu Stowarzyszenia Autorów i Wydawców Copyright Polska, organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi działającej w imieniu i w interesie autorów i wydawców utworów słownych, przekazuję uwagi w ramach konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71), dalej: projekt, udostępnionej publicznie do zgłaszania uwag w dniu 16 października 2024 r. w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny. Z aprobatą przyjmujemy szybkie opracowanie przez Ministerstwo Cyfryzacji konsultowanego projektu wobec obowiązywania rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – Aktu o sztucznej inteligencji, wymagającego zapewnienia uczestnikom obrotu pewności prawa. Zgłaszamy w ramach konsultacji publicznych uwagi służące przede wszystkim uzupełnieniu istotnej luki projektu – to jest zapewnienia udziału uprawnionych lub podmiotów ich reprezentujących w gremiach decyzyjnych i doradczych powoływanych w projekcie do życia . Uwagi te wynikają z zupełnego pominięcia przez projekt kwestii ochrony praw autorskich i praw pokrewnych, podczas gdy Akt o sztucznej inteligencji odnosi się do tych zagadnień w motywach od 104 do 109 oraz w art. 53 ust. 1 lit. c), zgodnie z którym dostawcy modeli AI ogólnego przeznaczenia wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności [to znaczy nie wyłącznie – dopisek SAiW CP] z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790. Skoro konsultowany projekt ma służyć stworzeniu rzeczywistego i skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, to nie powinien pomijać realnej możliwości reprezentowania w tym systemie interesów licznych podmiotów, którym służą prawa autorskie i prawa pokrewne do treści użytych i używanych do trenowania (uczenia) sztucznej inteligencji. Bez treści autorskich narzędzia AI nie nabyłyby funkcjonalności, które posiadają i które rozwijają w procesie ciągłego uczenia się. Projektowana ustawa winna z tego powodu zapewniać realny udział i decyzyjność organów reprezentujących podmioty autorskouprawnione oraz konsultacyjną rolę ich organizacji w pracach ciał powoływanych przez nią do życia. Póki co nie znajdziemy w projekcie żadnego odniesienia wprost do praw autorskich, ani mocniejszego niż fakultatywne uprawnienia jakiegokolwiek podmiotu, który mógłby strzec ich poszanowania w operacyjnym działaniu organów tworzonych przez nową ustawę o sztucznej inteligencji. 19 Podstawowy wedle projektu organ – Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej: Komisja – ma posiadać ustawą kompetencję wydawania interpretacji, generalnych i indywidualnych, w sprawach stosowania Aktu o sztucznej inteligencji. Póki co, właściwie od dobrej woli Komisji zależy zaproszenie do takich spraw w roli uczestników prac podmiotów reprezentujących interes uprawnionych. Proponujemy więc, by przedstawiciel Ministra Kultury był nie tylko fakultatywnym członkiem Komisji, ale by rozważyć jego bardziej sformalizowany, stały udział w jej pracach lub by konsultacja z nim przez Komisję była obligatoryjna we wszelkich sprawach rozpatrywanych przed Komisją, które wprost dotyczą lub odnoszą się do kwestii ochrony praw autorskich i praw pokrewnych. Jedną z metod regulacji może być uznanie tego Ministra za wchodzącego w skład Komisji, co dawałoby mu wpływ na powoływanie składu Rady Społecznej, a inną metodą regulacji może być ujęcie Ministra Kultury w art. 6 ust. 3) projektu, jako podmiotu współpracującego z Komisją w zakresie spraw, o których mowa w art. 53 ust. 1 lit. c) rozporządzenia 2024/1689. Uwaga ogólna Polskie Towarzystwo Informatyczne Po pierwsze, zasadnicze znaczenie ma osadzenie AI Act w szerszym - i nadrzędnym - kontekście normatywnym, czyli unijnej koncepcji ‘trustworthy A’I, która obejmuje etykę, prawo i solidność techniczną. Koncepcja ta jest wywiedziona z praw podstawowych (poszanowanie godności ludzkiej; wolność jednostki; poszanowanie demokracji, sprawiedliwości i praworządności; równość, brak dyskryminacji i solidarność; prawa obywatelskie), a jej 7 wymogów (przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy; odpowiedzialność) wraz z dokumentem, z którego pochodzą (Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji) jest explicite przywołanych w 27 motywie Preambule AI Act (co prawda w rozporządzeniu są one określone mianem zasad, co jest nieco mylące, bo zasady ‘trustworthy AI’ to coś innego niż wymogi, niemniej ich przytoczenie rozwiewa wątpliwości). Na koniec motywu stwierdza się: \"Stosowanie tych zasad powinno w miarę możliwości znaleźć odzwierciedlenie w projektowaniu i wykorzystywaniu systemów i modeli AI. Zasady te powinny w każdym przypadku stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Wszystkie zainteresowane strony, w tym przedstawicieli przemysłu (w tym ich wewnętrznych działów badań i innowacji), środowisko akademickie, społeczeństwo obywatelskie i organizacje normalizacyjne, zachęca się, by przy opracowywaniu dobrowolnych najlepszych praktyk i norm uwzględniali odpowiednio przedmiotowe zasady etyczne.\" Nie ulega zatem wątpliwości, że nadrzędnymi wartościami przyświecającymi prawu dot. AI są prawa podstawowe oraz dobrostan ludzki i środowiskowy, zaś podstawowym kryterium oceny 20 technologii winno być to, czy w danym przypadku możliwe jest zapewnienie zgodności z tymi wartościami, prawami, zasadami i wymogami. W tym świetle interesariuszami ‘AI governance’ są więc nie tylko władza ustawodawcza i wykonawcza oraz przedsiębiorcy, ale - przede wszystkim - społeczeństwo oraz środowisko (co jest szczególnie istotne w kontekście tzw. negatywnych kosztów zewnętrznych AI, szczególnie deep learningu i genAI). Z kolei warunkiem zapewnienia zgodności z wymogami prawa jest zarówno rzetelne przeprowadzenie procedur oceny zgodności i oceny ryzyka, jak i dostępność odpowiednich standardów i metod umożliwiających operacjonalizację wartości, zasad i wymogów w konkretnej praktyce projektowej, które są wypracowywane na gruncie interdyscyplinarnych prac obejmujących nie tylko badania nad AI, ale również szeroko pojętą etykę AI. W przeciwnym razie zgodność z AI Act będzie bardzo powierzchowna i sprowadzi się do zapewnienia formalnego compliance w postaci procedur, których nikt nie będzie urzeczywistniał w praktyce rozwijania i wdrażania systemów AI. Uwaga ogólna AI Chamber Sztuczna inteligencja ma potencjał przeobrażenia prawie każdej sfery naszego życia i gospodarki, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, tworząc te technologie lub przynajmniej adaptując je do swoich potrzeb i wdrażając odpowiednio szybko i skutecznie. Tego myślenia, zdaniem Izby, brakuje w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje SI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny i skomplikowany system kontroli przestrzegania przepisów Aktu o SI. Brakuje praktycznie całkowicie wśród przedstawionych przepisów tych, które realizują wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności wskazujemy tu brak rozwiązań tworzących piaskownice regulacyjne. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE nie znajduje uzasadnienia. Jeżeli chcemy, aby Polska była na czele rozwoju SI to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju SI jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej rewolucji - mamy utalentowanych twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. Projekt czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływana Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI lub Komisja) wzorowana jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost 21 przeniesione z ustawy o nadzorze rynku finansowego. Takie podejście ma swoje zalety i adaptacja sprawdzonych rozwiązań ma wiele zalet. Wskazujemy jednak na to, że sztuczna inteligencja jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, zasadniczo odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej - usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami. Nie można tego samego powiedzieć o SI, z pewnością nie w większości przypadków. Tworzenie wobec tego instytucji nadzoru wedle tych samych wzorców budzi poważne wątpliwości. Ustawa w innych miejscach też adoptuje rozwiązania z innych ustaw, wprowadzając jednak do nich nie zawsze zrozumiałe i celowe zmiany, zamiast odesłać w danym zakresie w całości do obowiązujących już ustaw. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych (jak np. interpretacja indywidualna, uregulowana w ustawie Prawo przedsiębiorców). Uwaga ogólna Związek Banków Polskich Postulat doprecyzowania pojęcia tajemnic prawnie chronionych. Należy zgłosić postulat dokonania zmian w odpowiednich przepisach sektorowych, jeżeli ma to obejmować tajemnice typu bankowa, ubezpieczeniowa i in. Jeżeli Komisja miałaby mieć dostęp do tajemnicy typu tajemnica bankowa, ubezpieczeniowa, niezbędne są zmiany w sektorowych aktach prawnych poprzez dodanie tego podmiotu jako uprawnionego do żądania informacji objętych tego typu tajemnicą. Niedoprecyzowany pozostaje tryb rejestrowania Systemów SI wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Ustawa niewystarczająco odpowiednio reguluje kwestie zależności (w szczególności zgodności) rozporządzenia 2024/1689 z innymi przepisani lokalnymi, które obecnie obowiązują w obszarach mniej lub bardziej bezpośrednio związanych z obszarem, którego dotyczy rozporządzenie. W szczególności chodzi o wymogi wydanej przez KNF Rekomendacji W zakresie zarządzania ryzykiem modeli w Bankach i odpowiedzi na podstawowe pytanie, czy modele zdefiniowane przez instytucję finansową jako modele AI podlegają definicji pod wymogi rekomendacji W czy też nie podlegają. Dodatkowo ustawa powinna obligować organy wydające przepisy, o których mowa do ich aktualizacji z uwzględnieniem przepisów rozporządzenia. Uwaga ogólna PIKE 1. Centralizacja wdrożenia AI 22 Najistotniejszym zarzutem wobec projektu ustawy AI jest brak faktycznej centralizacji regulacji w zakresie AI oraz wyznaczenia jednoznacznie odpowiedzialnych osób za jej wdrożenie. Na czele organu nadzoru rynku w zakresie systemów sztucznej inteligencji powinna stać wyłącznie jedna, konkretnie wskazana osoba, podobnie jak w przypadku Urzędu Komunikacji Elektronicznej czy Urzędu Ochrony Danych Osobowych. W żadnym wypadku nie powinien być to organ kolegialny (Komisja) składający się z aż 12 członków o różnych podejściach do gospodarki – jak w UOKiK, RPO czy RPDz. Taka struktura organu kolegialnego skutkowałaby wewnętrznymi sporami, brakiem spójnej polityki regulacyjnej oraz niejednolitym orzecznictwem. Zjawiska te znacząco ograniczą wdrażanie sztucznej inteligencji w Polsce, a ponadto utrudnią realizację postanowień unijnego rozporządzenia 2024/1689. Należy zwrócić uwagę, że projekt ustawy AI, ze względu na kolegialny skład proponowanego organu, już wykazuje sprzeczności w zakresie decyzyjnym. Dotyczy to przede wszystkim interpretacji wydawanych przez dwa różne podmioty (Komisję i jej Przewodniczącego), co docelowo prowadzi do niezgodności tych stanowisk. Izba stanowczo podkreśla, że utworzenie jednoosobowego organu regulacyjnego jest kluczowe dla skuteczności jego działań. Inne instytucje powinny pełnić wyłącznie rolę doradczą, przy czym ich skład powinien mieć charakter ekspercki - naukowy i gospodarczy – nie zaś „społeczny”. 2. Charakter organu nadzorującego Opracowanie i wdrożenie sztucznej inteligencji w Polsce powinno być domeną naukowców - informatyków oraz przedstawicieli przemysłu. Tymczasem obecny kształt projektu ustawy AI całkowicie ich pomija przy podziale stanowisk i zadań. Jest to sytuacja, na którą nie można się zgodzić, gdyż spowoduje istotne opóźnienia Polski w dziedzinie rozwoju oraz stosowania sztucznej inteligencji. W opinii Izby, projektowana ustawa AI wymaga odrzucenia i opracowania w całkowicie nowej formie. PIKE z niepokojem zauważa, że skład Komisji ma charakter silnie społeczny, a nie naukowy czy gospodarczy. To wskazuje, że działania Komisji będą się koncentrować na priorytetach bezpośrednio niepowiązanych z innowacyjnością czy gospodarką. Taka struktura (nawet bardziej niż kolegialność) będzie miała negatywny wpływ na wdrożenie AI w Polsce. W przypadku nieuwzględnienia naszego postulatu o ustanowienie jednoosobowego organu nadzorującego, rekomendujemy całkowitą zmianę składu Komisji. Powinni w niej zasiadać przede wszystkim osoby ze środowisk naukowych, związanych z informatyką oraz przedstawiciele przemysłu, zwłaszcza branży ICT. Zaskakującym pozostaje, że projekt ustawy AI nie przewiduje żadnej roli dla Państwowego Instytutu Badawczego NASK, który powinien odgrywać kluczową rolę w rozwoju sztucznej inteligencji. Podkreślamy, że tylko proponowany przez Izbę skład organu zapewni, iż jego priorytetem pozostanie rozwój gospodarczy i realizacja założeń Strategii Cyfryzacji Państwa. W przypadku odrzucenia naszych postulatów dotyczących zmiany składu Komisji oraz Rady, wyrażamy obawę, że ucierpi na tym konkurencyjność polskiej gospodarki względem państw 23 bardziej przychylnych naukowcom i przedsiębiorcom, takich jak kraje Europy Zachodniej, USA czy Korea Południowa. W przypadku tak innowacyjnego produktu, jakim jest AI, stanowi to poważne zagrożenie, gdyż polscy naukowcy mogą zechcieć ją rozwijać w bardziej przyjaznych im środowiskach regulacyjnych. Z kolei polski przemysł będzie skłonny wdrażać rozwiązania AI opracowane w gospodarkach o bardziej prorozwojowej polityce, korzystając z zasad otwartego rynku UE. W konsekwencji sztuczna inteligencja (jako oprogramowanie stosowane m.in. w sieci Internet) może stać się w Polsce produktem zewnętrznym, co jeszcze bardziej pogłębi nasze cyfrowe zacofanie. 3. Procedury działania Projektowany kolegialny charakter głównego organu regulacyjnego AI oraz liczba instytucji „współpracujących” powoduje, że projekt ustawy przewiduje skomplikowane i mało efektywne procedury. W opinii Izby, działania organów ds. AI powinny zostać oparte na przepisach kodeksu postępowania administracyjnego, z całym jego orzecznictwem i doktryną. Ponadto, zasady współpracy między poszczególnymi organami powinny być precyzyjniej określone, zarówno w zakresie rozgraniczenia ich kompetencji, jak i wzajemnego wpływu wydawanych decyzji, rekomendacji oraz zaleceń. W obecnym kształcie projekt ustawy AI wydaje się być zbiorem sugestii różnych instytucji aspirujących do udziału w procesie regulacyjnym, lecz bez jasno określonych relacji, zarówno w zakresie przyjętej linii decyzyjnej, jak też uzgodnień. Większość tych zastrzeżeń byłoby nieaktualnych, gdyby uwzględniono postulat Izby dotyczący centralizacji organu nadzorującego i jego jednoosobowego charakteru. Podsumowując, Izba kładzie nacisk na konieczność całkowitego przekształcenia projektu ustawy AI w odniesieniu do celów, którym powinna służyć sztuczna inteligencja oraz określenia podmiotów już zaangażowanych w jej rozwój i wdrożenie. W związku z powyższym, proponujemy zorganizowanie konferencji uzgodnieniowej z udziałem przedstawicieli nauki, środowiska informatycznego oraz biznesu, na której możliwe byłoby wspólne wypracowanie celów, którym ma służyć wdrożenie unijnego rozporządzenia 2024/1698 w Polsce, a także przekształcenie projektu ustawy AI z uwzględnieniem tych priorytetów. Uwaga ogólna Fundacja FinTech Poland W ramach rekomendacji o charakterze ogólnym zwracamy uwagą na potrzebę rozważenia rewizji projektu pod kątem zapewnienia konkurencyjności polskiego systemu prawnego w stosunku do regulacji dotyczących AI w innych państwach. W sytuacji braku polskich podmiotów odgrywających czołową rolę w kształtowaniu rozwiązań AI na poziomie globalnym (zarówno w środowisku akademickim, jak i wśród dostawców rozwiązań biznesowych), a także wyraźnych ambicji Polski w tym zakresie (np. Polityka Rozwoju AI w Polsce, plany funduszy na rzecz AI, dynamiczny rozwój ośrodków takich jak IDEAS NCBiR), kluczowe jest stworzenie przyjaznego otoczenia prawnego dla rozwoju tej technologii. Istotne w tym zakresie jest budowanie zachęt i sprzyjających warunków rozwoju dla AI (oczywiście w granicach wyznaczonych przez AI Act) oraz eliminacja nadmiernych barier dla inwestycji i indywidualnej kreatywności. Wykorzystanie 24 nadmiarowych narzędzi kontroli, takich jak np. wysokie kary finansowe czy długotrwała konfiskata sprzętu, może prowadzić do znacznego zahamowania rozwoju AI w Polsce, a tym samym obniżenia konkurencyjności polskiej gospodarki. Uwagi ogólne (piaskownice) HAERGI SP.ZOO Chciałbym zwrócić uwagę na kwestię piaskownic regulacyjnych w kontekście rozwoju startupów z sektora sztucznej inteligencji (AI). Mimo iż teoretycznie mają one stanowić bezpieczne środowisko testowe dla firm, w praktyce mogą one napotkać poważne ograniczenia, które utrudnią ich efektywne działanie. Piaskownice regulacyjne – szansa czy ograniczenie? Zgodnie z założeniami, piaskownice regulacyjne miałyby zapewnić firmom możliwość testowania innowacyjnych rozwiązań AI w bezpiecznych, kontrolowanych warunkach, bez ryzyka naruszenia przepisów. Jednak w praktyce startupy AI potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych – takich jak karty GPU czy usługi chmurowe – aby rozwijać swoje technologie. Obecnie na rynku obserwujemy niedobór tych zasobów, co stanowi poważne ograniczenie dla firm działających w tej branży. Problem infrastrukturalny Budowa i utrzymanie infrastruktury obliczeniowej na potrzeby piaskownic regulacyjnych wiąże się z ogromnymi kosztami. Państwo musiałoby ponieść znaczące wydatki, aby stworzyć zasoby, które choćby w części dorównują ofertom komercyjnych dostawców, takich jak Microsoft (Azure) czy Amazon (AWS). W związku z tym pojawia się pytanie, czy tego typu inwestycja jest opłacalna z punktu widzenia budżetu państwa i czy piaskownice rzeczywiście będą stanowiły wystarczającą zachętę dla startupów. Rządowa Chmura Obliczeniowa (RCO) Zgodnie z przepisami Rządowa Chmura Obliczeniowa (RCO) jest dostępna jedynie dla podmiotów administracji publicznej, co ogranicza możliwość korzystania z jej zasobów przez startupy z sektora prywatnego. To dodatkowo komplikuje sytuację firm AI, które potrzebują skalowalnych zasobów chmurowych. Alternatywne rozwiązania Zamiast koncentrować się na budowie piaskownic regulacyjnych, warto rozważyć inne formy wsparcia dla startupów AI, które mogą okazać się bardziej efektywne i mniej kosztowne: 1. Subwencje i granty – Państwo mogłoby udzielać firmom dotacji na korzystanie z zasobów komercyjnych platform obliczeniowych, takich jak AWS, Azure czy Google Cloud. Takie wsparcie umożliwiłoby startupom trenowanie modeli AI na najlepszych dostępnych narzędziach, jednocześnie minimalizując obciążenia budżetowe. 2. Partnerstwa z globalnymi dostawcami – Rząd mógłby nawiązać współpracę z technologicznymi gigantami, takimi jak Microsoft czy Amazon, aby oferować firmom zniżki na korzystanie z ich usług. Takie partnerstwa mogłyby zapewnić startupom dostępdo skalowalnych i zaawansowanych zasobów, bez konieczności budowy własnej 25 infrastruktury. 3. Akceleratory i wsparcie naukowe – Państwo mogłoby zainwestować w programy akceleracyjne, które łączyłyby wsparcie finansowe z mentoringiem w zakresie AI, jednocześnie pomagając firmom dostosować się do wymogów regulacyjnych. Współpraca z uczelniami oraz innymi podmiotami technologicznymi mogłaby znacząco przyspieszyć proces wdrażania innowacyjnych rozwiązań na rynek. Czy piaskownice są wystarczającym rozwiązaniem? W obecnym kształcie piaskownice regulacyjne mogą nie spełniać oczekiwań firm z sektora AI, które potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych i wsparcia merytorycznego. Startupy prawdopodobnie będą preferować korzystanie z usług globalnych dostawców chmurowych, które oferują niezawodność, skalowalność i dostęp do najnowszych technologii. Zamiast koncentrować się na kosztownej budowie piaskownic, lepszym rozwiązaniem byłoby wsparcie startupów w postaci subwencji, partnerstw z globalnymi firmami oraz programów akceleracyjnych. W ten sposób państwo mogłoby efektywnie wspierać innowacje, minimalizując jednocześnie obciążenia budżetowe. Uwaga ogólna Związek Cyfrowa Polska Niewystarczającą ochronę informacji i wrażliwych danych. Zarówno na etapie prowadzonych przez organ kontroli, jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa (w tym wrażliwych informacji oraz danych). Uwaga ogólna generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, c zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. 26 Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby 27 Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej 28 dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. 29 Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Z przyjemnością oferujemy nasze wsparcie i liczymy na dalszą współpracę z Ministerstwem Cyfryzacji. Uwaga ogólna Związek Cyfrowa Polska Procedury odwoławcze – kompetencje SOKiK. Od decyzji KRiBSI przysługuje przedsiębiorcy odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów („SOKiK”). Ustawodawca w związku z tym zrezygnował z zasady dwuinstancyjności i uregulował mechanizm odwoławczy przed SOKiK, na wzór procedur przed innymi organami regulacyjnymi, w szczególności UOKiK (art. 80 Projektu). Rozwiązanie to oceniamy pozytywnie, biorąc pod uwagę wcześniejsze nie najlepsze doświadczenie takich procedur dwuinstancyjnych, np. w zakresie przepisów o ochronie danych osobowych (gdy organ rozpatrując odwołania niezmiernie rzadko zmieniał bądź uchylał swoje wcześniejsze decyzje). Nie negując zatem samej zasadności jednoinstancyjnej procedury odwoławczej, zwracamy jedynie uwagę na kompetencję SOKiKu dla spraw o tak wysokim poziomie skomplikowania, złożoności i trudności materii nowych technologii i systemów AI. Uważamy, że należałoby poddać dalszej dyskusji przygotowanie i kompetencje sędziów orzekających w SOKiK do orzekania w sprawach na gruncie AI Act oraz krajowej ustawy. Poddajemy pod rozwagę wariant zmiany właściwości sądu dla spraw z zakresu AI z SOKiK na sądy właściwe ws. własności intelektualnej („Sąd IP”), w ramach których orzekający już sędziowie przeszli niezbędne szkolenia z zakresu IP, która to dziedzina jest częściowo związana z zagadnieniem AI, a tym samym Sądy IP mogą potencjalnie oferować wyższy poziom ekspertyzy na potrzeby rozpatrywania spraw z zakresu AI (alternatywnie, należałoby rozważyć zorganizowanie podobnego na wzór sędziów Sądów IP szkolenia przygotowującego do zagadnień AI dla sędziów SOKiK). Uwaga ogólna RELX 1. Preliminary Remarks In view of the business activities described above, RELX has a strong interest in the further development of the European Union's digital single market. We support the AI Regulation (EU 2024/1689) and would like to take the opportunity to participate in the exchange on the draft ‘Act on Artificial Intelligence Systems’ (projekt ustawy o systemach sztucznej inteligencji). In view of the creation of a ‘Commission for the Supervision of Artificial Intelligence Systems’ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji) in Poland, we would like to take this opportunity to highlight in our statement the points that are important to us regarding the way the Commission applies the law. 2. Uniform Legal Framework One of the major achievements of the AI Act is the creation of a uniform legal framework in the EU. The Regulation contributes to the proper functioning of the internal market and, by establishing uniform rules, creates a wide range of incentives that promote positive market development. This way, companies benefit from a stable environment, while consumers receive safer and more diverse products. 30 We therefore support a faithful application of the European AI Act to ensure consistency and avoid fragmented implementation that could hinder rather than support the European Digital Single Market Consistent Regulation and Market Supervision Consistent rules and practices ensure that transparency requirements are consistently enforced across the EU. This prevents regulatory gaps or inconsistencies that companies could exploit and ensures a level playing field in all member states. We support the important work of the AI market surveillance authorities, as they play a central role in the uniform enforcement of the AI Regulation. In this context, it is crucial that the authorities ensure that companies in all Member States follow the same high standards, thus creating a level playing field throughout the single market. This can only be achieved if the prerequisite of an EU- wide uniform interpretation of the AI Regulation is met. Therefore, a lot depends on how the future Polish market supervisory authority will issue general and individual interpretations pursuant to Art. 11 Sec. 1 No. 13 of the draft of the Artificial Intelligence Systems Act. Through their consistent actions, the supervisory authorities should create a stable and trustworthy environment for the development and use of AI throughout the EU. Therefore, we also support the work on uniform interpretations at the EU level. To this end, we are participating in the drafting of the EU Commission's General-Purpose AI (GPAI) Code of practice in order to promote a uniform EU-wide interpretation of the obligations set forth in Articles 53 and 55 of the AI Act for providers of general-purpose AI models. These obligations require GPAI model providers to make publicly available a summary about the training content (Article 53(1d)) and put in place policies to comply with Union law on copyright (Article 53(1c)). As the GPAI code of practice will outline these provisions in greater detail, it is essential to actively monitor developments to ensure consistent and uniform interpretation of these obligations by the supervisory authorities. Transparency RELX takes its responsibility as a downstream AI provider seriously. We are convinced that every link in the AI supply chain must contribute to the responsible development of AI. In doing so, it is important to us that our AI solutions are always in line with our Responsible AI Principles. Transparency plays a key role here: it ensures compliance with legal requirements and promotes ethical AI development. This is because LLMs can generate content that is illegal, harmful, misleading, offensive, or discriminatory and may affect the reputation, rights, or interests of individuals or groups. For example, researchers are concerned that their work will be misinterpreted and misused, or that it will not be properly attributed or contextualised. This risk is exacerbated by the lack of citation/quotation and links to the underlying sources that would prove the origin of the research findings. Transparency strengthens trust in AI products. It facilitates collaboration within the AI supply chain by creating a clear information base that drives innovation and enables responsible 31 further development. Furthermore, transparency helps to reduce liability risks and to avoid misuse or discriminatory results, paving the way for more sustainable and socially responsible AI use. Transparency and Copyright Transparency promotes the legitimacy of AI products by making the origin and nature of training data traceable. Compliance with copyright law is a particularly important aspect here, because trainingGPAI models involves copying content through text and data mining (TDM), which may be protected by EU copyright. Not only does the EU copyright law raise crucial questions of transparency, legality and accountability, but the AI Regulation also provides for transparency obligations. Accordingly, providers of general- purpose AI models (GPAI) must make publicly available a sufficiently detailed summary of the training content (Article 53(1d) of the AI Act) and take measures to comply with European copyright law (Article 53(1c) of the AI Act). The AI Act applies without prejudice to the DSM Directive 2019 and the Information Society Directive (InfoSoc) 2001, which together establish legal protection for copyright-protected works and exceptions to those rights. While the InfoSoc Directive establishes that owners have the exclusive right to non-temporary acts of reproduction, the DSM creates two exceptions for TDM. The first is for non-commercial research institutions with lawful access to reproduce works for the purposes of TDM. The second is an exception for commercial reproduction for TDM where there is lawful access, unless the rights holder explicitly reserves authorisation. These exceptions can only work effectively if rightsholders have a complete overview of the protected works reproduced for the purpose of training generative AI models. Such transparency facilitates tracking of the use of works and ensures that reproduction is lawful – whether through the valid use of an exception, under a licence or another commercial agreement. This, in turn, ensures that rightholders are adequately remunerated and that online copyright infringement is effectively combated. To make the transparency obligation meaningful and feasible, recital 107 of the AI Act further clarifies that the information in the sufficiently detailed summary should be ‘generally comprehensive’ to enable rightholders to ‘exercise and enforce their rights under Union law’ and thus implement the reservation of rights provided for in Article 4 of the DSM Directive. This would enable users of the generated results to have confidence in the accuracy and origin of the materials used to train the model. Transparency will thus facilitate tracking the use of copyrighted works and ensure that reproduction – for the purpose of training GPAI models, for example – is lawful. The responsible use of copyrighted content is crucial to protecting the rights of rights holders and minimising the risk of legal disputes. Transparency and Market Surveillance Authorities The enforcement of transparency obligations by market surveillance authorities plays a central role in this. These authorities ensure that companies fulfil their obligations and disclose the 32 required information. This not only builds trust in the market, but also prevents systematic violations that could distort competition. However, for the authorities to effectively enforce the AI Regulation, it will depend on the uniform application of the law within the EU to ensure consistent legal certainty across the Union. Tytuł ustawy Osoba fizyczna Tytuł ustawy - O systemach sztucznej inteligencji Treść ustawy skupia się na wykonywaniu nadzoru administracyjnego w obszarze wykorzystania systemów sztucznej inteligencji. Wskazanie ogólnego tytułu obejmującego szeroki zakres może prowadzić do nieporozumień i niejasności. Tytuł powinien być precyzyjniejszy i oddawać treść aktu prawnego. Dlatego należy w tytule określić główny przedmiot regulacji – nadzór. Proponowany tytuł: Ustawa o nadzorze nad systemami sztucznej inteligencji. Tytuł ustawy SKwP Jest: USTAWA z dnia ... 2024 r. o systemach sztucznej inteligencji Propozycja: Ustawa z dnia...2024 r. o Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uzasadnienie: Cała treść projektu dotyczy zasad funkcjonowania i zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tytuł ustawy ISSA Polska Z tytułu powinno wynikać, że ustawa stanowi doprecyzowanie oraz wdrożenie przepisów i zasad AI Act. Tymczasem tytuł projektu może powodować wrażenie, że ustawa stanowi regulację niezwiązaną z od AI Act. Tytuł ustawy Polskie Towarzystwo Informatyczne To nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM). Propozycja „o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz o innych mechanizmach nadzoru nad systemami sztucznej inteligencji” W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI” jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689 dostosowując ustawodawstwo Polski do wymogów jw. „Rozporządzenia” Tytuł ustawy Repropol Tytuł projektowanej ustawy, przy czym nie stanowi to najważniejszej kwestii, jest – w naszej ocenie – niewłaściwy. Jeśli stanowi on pierwszy z kilku zaplanowanych aktów wdrożeniowych, obecna propozycja stworzy w późniejszym okresie problemy z zatytułowaniem kolejnych ustaw wdrażających AIA. Ponadto, nie można stwierdzić, żeby sednem komentowanego Projektu były systemy sztucznej inteligencji. Jest nim raczej stworzenie administracyjno-technicznego aparatu służącego nadzorowaniu funkcjonowania systemów sztucznej inteligencji. Nie jest także jasne, 33 dlaczego tytuł wskazuje na „systemy”, a pomija „modele” sztucznej inteligencji, które na osi rozwoju systemów AI stanowią – w uproszczeniu – etap poprzedzający oddany do użytku system AI. Niezależnie od powyższego, Projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w AIA mowa o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, która na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie z akronimu „AI”, jako oznaczenie sztucznej inteligencji. Tytuł ustawy GRAI Zaproponowany tytuł projektowanej ustawy to ustawa o systemach sztucznej inteligencji. Zakres objęty tą ustawą skupia się jednak nie na systemach sztucznej inteligencji, ale ma na celu uregulowanie kwestii instytucjonalnych, proceduralnych i nadzorczych. Zgodnie z Zasadami Techniki Prawodawczej „przedmiot ustawy określa się możliwie najzwięźlej, jednakże w sposób adekwatnie informujący o jej treści”. Mając to na uwadze oraz faktyczny zakres przepisów projektu ustawy wątpliwości budzi zaproponowany tytuł. Zmiana tytułu ustawy na: „ustawa o nadzorze nad systemami sztucznej inteligencji” lub „ustawa o organizacji i sposobie sprawowania nadzoru nad rynkiem sztucznej inteligencji”. Tytuł ustawy Związek Banków Polskich Ustawa o systemach sztucznej inteligencji Ustawa o organizacji i sprawowaniu nadzoru nad systemami sztucznej inteligencji [lub] Ustawa o nadzorze nad systemami sztucznej inteligencji Tytuł ustawy powinien odzwierciedlać jej przedmiotowy zakres, którym jest określenie organizacji i sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji. Obecny tytuł może wprowadzać w błąd i sugerować, że jest to ustawa o znaczeniu materialnoprawnym, definiującym systemy sztucznej inteligencji, a tak nie jest. Tytuł ustawy Fundacja FinTech Poland Tytuł ustawy powinien być adekwatny do jej treści, ponieważ pełni funkcję informacyjną oraz umożliwia jasne rozumienie zakresu regulacji. Tytuł powinien odzwierciedlać istotę i cel regulacji, aby ułatwić identyfikację treści przez osoby zainteresowane oraz zapewnić przejrzystość procesu legislacyjnego. W przypadku projektu ustawy, która reguluje jedynie zasady prowadzenia nadzoru nad systemami AI, tytuł „ustawa o systemach sztucznej inteligencji” może wprowadzać w błąd, sugerując szerszy zakres regulacji obejmujący wszystkie aspekty funkcjonowania i wykorzystania AI, a nie tylko nadzór nad nimi. Dlatego tytuł powinien precyzyjnie odzwierciedlać tematykę 34 nadzoru, aby uniknąć nieporozumień i zapewnić zgodność między treścią a nazwą aktu prawnego. Zgodnie z powyższym proponujemy przyjęcie nowego tytułu ustawy: “ustawa o nadzorze nad systemami sztucznej inteligencji”. Rozdział 1 GRAI Wprowadzenie prawa do ochrony wizerunku przed tzw. deepfake w sposób szerszy niż na do tej pory na podstawie KC i dóbr osobistych. Rozszerzenie uwzględniałoby np. głos (co charakteru głosu są spory) w różnych okresach życia. Rozdział 1 GRAI Odrzucenie blankietowych wyłączeń dla państw ze względu na bezpieczeństwo narodowe i obronność. Rekomendujemy odrzucenie blankietowych wyłączeń dotyczących stosowania systemów AI ze względu na bezpieczeństwo narodowe i obronność. Systemy AI muszą być regulowane jednakowo w sektorze publicznym i prywatnym, bez wyjątków dla organów państwowych. Przepis ten zapewni, że wszystkie zastosowania systemów AI podlegają przejrzystym i odpowiedzialnym regulacjom, nawet w przypadku działań związanych z bezpieczeństwem narodowym. Zakaz stosowania systemów oceny ryzyka opartego na profilowaniu automatycznym Należy wprowadzić przepisy zakazujące używania systemów oceny ryzyka, które wykorzystują AI do profilowania osób na podstawie cech osobistych. Takie systemy są nieproporcjonalnie dyskryminacyjne, naruszają prawo do równości oraz zasadę domniemania niewinności. Zakaz używania systemów rozpoznawania emocji i biometrycznego kategoryzowania osób Technologie takie jak AI oparte na rozpoznawaniu emocji (np. tzw. \"detektory kłamstw\") oraz analizy behawioralne są niewiarygodne naukowo i mogą wzmacniać uprzedzenia raso we oraz automatyzować procesy podejrzewania określonych grup społecznych. Należy zabronić ich stosowania przez służby, również w kontekście migracyjnym, aby zapobiec wzmacnianiu dyskryminacyjnych praktyk. Rozdział 1 GRAI Wprowadzenie zasad reklamowania systemów sztucznej inteligencji w tym przeciwdziałania wprowadzaniu konsumenta w błąd (np. co do pewności wyników, złożoności, zaawansowania technologicznego). • Definicja systemów AI jest dość pojemna. Oznaczenie AI samo w sobie ma coraz większą wartość marketingową. Sprzyja to wprowadzaniu konsumentów w błąd co do rzeczywistych właściwości technologii (sugeruje jej zaawansowanie technologiczne i nieomylność). Art. 1 Polskie Towarzystwo Informatyczne 1.Powinno być podkreślone zagadnienie z Rozporządzenia które wyczerpuje odpowiedzialność za „LLM” oraz pozwoli na określenie brzegowych zagadnień dopuszczenia do użytkowania samo przytoczenie aktu 2024/1689 i pozostałych nie wnosi nic do „Ustawy” „o systemach sztucznej inteligencji” Propozycja „określenie ramowych wytycznych dotyczących wprowadzania i użytkowania systemów „sztucznej inteligencji” i tu poniżej w podpunktach (79); (61); Art. 12 Należy zapewnić, aby odpowiedzialność za wprowadzenie do obrotu lub oddanie do użytku systemu AI wysokiego ryzyka ponosiła konkretna osoba fizyczna lub prawna określona jako 35 dostawca, niezależnie od tego, czy ta osoba fizyczna lub prawna jest osobą, która zaprojektowała lub rozwinęła system. (61) ... W szczególności, aby wyeliminować potencjalne ryzyko stronniczości, błędów i efektu czarnej skrzynki, jako systemy wysokiego ryzyka należy zakwalifikować systemy AI .. Artykuł 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej „rejestrami zdarzeń”) w całym cyklu życia danego systemu. Na podstawie określenia ram i zasad można dopiero określać sprawowanie nadzoru oraz wymogów dotyczących naruszeń brak takowych w „Ustawie” (nie przytoczono ). ww. zapisy dotyczyć powinny nie tylko tzw. ”AI wysokiego ryzyka” ale każdego modelu. 2. Projekt zakłada określenie”rodzajów działań wspierających rozwój systemów sztucznej inteligencji”, jednak w samym projekcie mowa wyłącznie o interpretacjach generalnych oraz indywidualnych. Należy rozważyć rozszerzenie tych środków i wyraźne ich wyodrębnienie w stosownym rozdziale. Prosimy o dopisanie odpowiednich przepisów doprecyzowujących ten główny punkt zakresu przedmiotowego. Art. 1 GRAI Brak uregulowania w projekcie ustawy tematu piaskownic regulacyjnych, co budzi poważne wątpliwości, co do realizacji przez Polskę art. 57 ust. 1 rozporządzenia 2024/1689. Uzupełnienie przepisów projektu ustawy. Jeśli ta kwestia ma być uregulowana w przepisach innego aktu prawnego (np. Niemcy pracują nad ustawą dotyczącą piaskownic regulacyjnych) należy zawrzeć odpowiednie odwołanie lub uzupełnić uzasadnienie o kwestię odstąpienia od uregulowania piaskownic regulacyjnych na tym etapie prac legislacyjnych. art. 1 pkt 1 GRAI W przepisie tym wskazano systemy sztucznej inteligencji i modele sztucznej inteligencji, przy czym w dalszej części ustawy posługujemy się sformułowaniem systemy sztucznej inteligencji. W art. 3 brak również definicji modeli sztucznej inteligencji. Wskazane jest ujednolicenie. Proponowane rozwiązanie: usunięcie z art. 1 pkt. 1 sformułowania: „modelami sztucznej inteligencji ogólnego przeznaczenia”. art.1 pkt 6 GRAI W art. 1 projektu ustawy wskazano jej zakres- i tak ustawa określa: kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar a dopiero na końcu, w art. 1 pkt 6 projektu ustawy wskazuje się, że ustawa określa „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”. Jednak, poza tym lakonicznym sformułowaniem, w przepisach brak jest uregulowań w tym 36 zakresie. Ustawa w pierwszej kolejności powinna określać „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”, a w drugim kroku kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar. Uzupełnienie przepisów projektu ustawy o wskazanie rzeczywistych działań wspierających rozwój systemów sztucznej inteligencji w Polsce. art.1 pkt 6 SFP-ZAPA Zgodnie z art. 1 pkt 6) Projektu, ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. Jednym z takich działań jest niewątpliwie ochrona praw autorskich. Ludzka kreatywność oraz utwory z różnych dziedzin działalności artystycznej są bowiem materiałem, dzięki któremu możliwe było powstanie, a następnie możliwy jest dalszy intensywny rozwój sztucznej inteligencji. Jak wynika z Projektu (art. 7 ust. 3 pkt 5 Projektu) zagadnienia leżące w gestii ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego są postrzegane jako zagadnienia wchodzące w zakres i cel przedmiotowej regulacji. Przedstawiciel ministra właściwego do spraw kultury i dziedzictwa narodowego może bowiem uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”), która jest nowo tworzonym organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Niestety, przedstawiciel Ministra Kultury i Dziedzictwa Narodowego nie został wyposażony w prawo głosu podczas obrad Komisji, co naszym zdaniem powinno ulec zmianie. Pomimo włączenia ministra właściwego do spraw kultury i dziedzictwa narodowego w prace Komisji, Projekt nie reguluje w żaden sposób kwestii związanych z korzystaniem z praw autorskich na potrzeby sztucznej inteligencji. W szczególności brak jest jakichkolwiek rozwiązań odnoszących się do ochrony tych praw zgodnie ze standardami europejskimi oraz krajowymi. Na konieczność zapewnienia takiego poziomu ochrony zwraca zaś uwagę rozporządzenie 2024/1689. Jak wiadomo, szybki rozwój sztucznej inteligencji wpływa na prawa twórców, producentów i wydawców. Wpływ ten jest w niektórych aspektach negatywny, na co wskazuje unijny ustawodawca w motywie 105 aktu o AI. Chodzi w szczególności o nieuregulowane wykorzystywanie utworów chronionych prawem autorskim na potrzeby tworzenia, rozwijania, w tym trenowania i zasilania systemów sztucznej inteligencji, w trakcie których dochodzi do masowego naruszania tych praw. Stosowna regulacja jest zatem niezbędna. Art. 1 pkt 6 Fundacja FinTech Poland Choć w art. 1 ustawa deklaruje, że jej celem jest określenie rodzajów działań wspierających rozwój systemów sztucznej inteligencji, to poza tym wstępnym postanowieniem, treść ustawy nie zawiera szczegółowych regulacji ani przepisów dotyczących takich działań. Brak konkretnych rozwiązań i postanowień odnoszących się do wsparcia rozwoju AI powoduje, że zapowiedź ta staje się jedynie deklaratywna, a nie merytoryczna. Taki stan rzeczy może prowadzić do nieporozumień 37 interpretacyjnych oraz osłabienia zaufania do legislacji, gdyż ustawa zdaje się obiecywać więcej niż faktycznie dostarcza. Aby zapewnić spójność i przejrzystość, konieczne byłoby albo uzupełnienie treści o konkretne przepisy dotyczące wsparcia rozwoju systemów AI, albo odpowiednia modyfikacja zakresu art. 1, by odzwierciedlał rzeczywisty zakres regulacji zawartych w ustawie. Art. 2 pkt 6 Związek Pracodawców Technologii Cyfrowych Lewiatan Usunięcie w projekcie ustawy zadań związanych z rozwojem sztucznej inteligencji Wydaje się, że zapis określający zakres przedmiotowy ustawy (art. 1 punkt 6), a także dalsze wspieranie konkurencyjności (nie wymienione w w/w art., ale pojawiające się w art. 12 ust. 2 przy opisaniu zadań Komisji) to niepotrzebne wymieszanie dwóch zupełnie różnych od siebie zadań. Co więcej, jeśli to Komisja będzie decydowała o rozwoju sztucznej inteligencji w Polsce to może być znaczącym ograniczeniem dla działań innych organów administracji. Ponieważ można wnioskować, że to Komisja, a nie inne organy administracji będzie miała ostatnie słowo w jaki sposób kierować rozwojem systemów sztucznej inteligencji. Będąc jednocześnie regulatorem bardzo skutecznie stłumi wszelką inicjatywę. Umieszczenie zatem takiego zadania wydaje się być niewłaściwe. Warto także zaznaczyć, że kwestie rozwoju są poruszane w ustawie w sposób zdawkowy, w odróżnieniu od kwestii regulacyjnych. Propozycja: wykreślić wszelkie zapisy dotyczące rozwoju sztucznej inteligencji z treści ustawy. art. 2 ust. 1 CHAMBER brakuje słowa “do” (uwaga redakcyjna) art. 2 ust. 1 SFP-ZAPA Zgodnie z projektem, ustawa ma zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem, choć rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, które w naszym przekonaniu wymagają rozwinięcia i doprecyzowania w prawie krajowym, Projekt nie przewiduje żadnych rozwiązań w tym zakresie. Dzieje się to ze szkodą dla wskazanych wyżej podmiotów, których przedmiotowa regulacja ma dotyczyć. Nic nie stoi natomiast na przeszkodzie, aby kwestie te uregulować. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Akt o AI jedynie w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Tymczasem architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw, często nadużywając wyjątku przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”). W naszym przekonaniu brak zapewnienia ochrony praw autorskich w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele aktu o AI w 38 postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy do czynienia każdego dnia Art. 2. 1. PWPW Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. 2. O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia 1) brakuje zwrotu „do” lub „wobec” 2) konstrukcja art. 2 wydaje się wadliwa. Ust. 1 wskazuje na zakres podmiotowy, tj. dostawca, producent itp., a ust. 2 mówi o systemach (czyli przedmiotowo). W ust. 2 powinno się wskazać bądź na dostawców modeli AI ogólnego przeznaczenia, bądź na dostawców i użytkowników. Alternatywna propozycja to pozostawić art. 2 w zakresie podmiotowym a odrębny artykuł poświęcić modelom AI ogólnego przeznaczenia. Należy też wskazać które przepisy stosuje się ww. zakresie. Wskazanie w ustawie „o ile przepisy AI act nie stanowią” – jest zbyt ogólne i nie spełnia wymagań precyzyjności przepisu prawnego. Określenie zasad podlegania pod ustawę w zakresie modeli ogólnego przeznaczenia ma szczególne znaczenie dla użytkowników, tj. firm korzystających z modeli ogólnego przeznaczenia. Normy prawne w ww. zakresie powinny być precyzyjnie określone w projekcie ustawy. Art. 2 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W pierwszej kolejności postulujemy dodanie przyimka „do” w treści ustępu pierwszego: Art. 2. 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W dalszej kolejności podnosimy, iż zgodnie z art. 2 ust. 1 Projektu ustawy, ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Podnosimy, iż art. 2 ust. 1 w pkt g) Rozporządzenia 2024/1689 stanowi, że Rozporządzenie 2024/1689 stosuje się również do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". W tym zakresie powstaje wątpliwość czy zakres podmiotowy ukształtowany w art. 2 ust. 1 Projektu ustawy odpowiada celowi ustawy, który określony został w art. 1 Projektu ustawy. Jak czytamy bowiem w uzasadnieniu projektu ustawy, „Celem projektowanej ustawy jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi”. 39 W związku z powyższym zdaje się, iż celem ustawy nie jest objęcie nadzorem osób, na które AI ma wpływ. Art. 2 ust. 1 e-Izba Projektowany przepis wskazuje, że ustawa znajdzie zastosowanie do wszystkich podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W art. 2 ust. 1 pkt g tego aktu prawnego wskazane są „osoby, na które AI ma wpływ i które znajdują się w Unii”. Regulacja ta odnosi się w dużej mierze do osób fizycznych, które nie koniecznie same korzystają z systemów sztucznej inteligencji, lecz ich działanie w jakiś sposób na nie wpływa. Treść Projektu wskazuje z kolei, że reguluje on zagadnienia adresowane do podmiotów stosujących systemy sztucznej inteligencji. W związku z tym rekomendujemy rozważenie zmiany zawężającej zakres odesłania przewidzianego w art. 2 ust. 1 Projektu. Art. 2 ust. 1 AI Chambre W art. 2 ust. 1 - brakuje słowa “do” (uwaga redakcyjna) Art. 2 ust. 1 Fundacja FinTech Poland W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". Rekomendujemy wyjaśnienie czy projektodawca ma na myśli obywateli czy celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowania AI. Art. 2 ust. 1 Osoba fizyczna jk Brak \"do\" 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Art. 2 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 2 ust. 2 Projektu ustawy, o ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Patrząc na zakres definicji określony w art. 3 Projektu ustawy, w którym pojęcia definiowane są poprzez odesłanie do Rozporządzenia 2024/1689, rekomendujemy uwzględnienie w Projekcie ustawy również definicji „modelu AI ogólnego przeznaczenia” (motyw 97 Rozporządzenia 2024/1689). Chyba, że celem Projektodawcy jest, aby odnosić się do „systemów AI ogólnego przeznaczenia”, które oparte są o te modele AI ogólnego przeznaczenia, zgodnie z definicją zawartą w art. 3 pkt 66 Rozporządzenia 2024/1689. Art. 2 ust. 2 Fundacja FinTech Poland Sugerujemy wprowadzenie reguł kolizyjnych w ustawie. Rozporządzenie UE zobowiązuje do uregulowania przez Państwa członkowskie pewnych obszarów. Nie rozstrzyga natomiast kolizji między przepisami polskiej ustawy (ani żadnej innej ustawy krajowej). To Polski ustawodawca powinien wprowadzić reguły kolizyjne i określić które reguły stosuje się do systemów AI ogólnego przeznaczenia. art. 2 GRAI Należy uniknąć transgranicznego wymiaru ustawy. Przedsiębiorcy zagraniczni mający siedzibę w UE, będą podlegać własnym, lokalnym regulacjom (np. nadzorowi własnym organom) i nie powinny równolegle podlegać regulacjom polskim. Ponadto, zastosowanie polskiej ustawy do tych 40 podmiotów będzie zapewne wątpliwe i może prowadzić do sytuacji spornych. Wątpliwe byłoby podejmowanie przez polski organ działań wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania. Jeżeli jednak taki przedsiębiorca nie ma zarejestrowanej w Polsce spółki, nie ma uzasadnienia, aby to był organ polski. Zawężenie zastosowania ustawy do podmiotów mających siedzibę na terytorium Rzeczypospolitej Polskiej. Art. 2 Związek Cyfrowa Polska Zakres podmiotowy. Projekt ustawy bazuje na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole/postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie zatem rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Art. 2 i 4 Repropol Olbrzymie wątpliwości budzi sposób uregulowania zakresu stosowania UoSSI. Projekt w tym zakresie nawiązuje do artykułu 2 AIA, ale przenosi na grunt polskiej ustawy jedynie wybrane zakresy stosowania (zob. art. 2 i 4 UoSSI), przy czym nie jest jasny klucz doboru wybranych wyłączeń. Jeśli ustawodawca zdecydował się już na dookreślenie zakresu stosowania UoSSI, z oczywistych przyczyn powinien on pokrywać się dokładnie z brzmieniem rozporządzenia AIA, które w swoim art. 2 wprowadza bardzo heterogeniczny katalog. Prócz relatywnie jasnego brzmienia art. 2 ust. 1 AIA, kolejne ustępy zawierają również istotne doprecyzowania zakresu stosowania. Tymczasem w Projekcie zawarto jedynie wybrane ograniczenia. Dla przykładu brak jest wyłączenia regulacji wobec osób fizycznych, które „korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej” (art. 2 ust. 10 AIA). 41 Mając to na uwadze, należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo dokonać tego kompletnie, czyli z uwzględnieniem jego całej zawartości normatywnej. Odrębną uwagę trzeba poświęcić błędnemu wyłączeniu zawartemu w art. 4 pkt 3 UoSSI. Przepis ten stanowi, iż UoSSI, „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 roku - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 roku - Kodeks karny (...)”. Należy założyć, że w zamyśle projektodawcy postanowienie to ma wdrażać artykuł 2 ustęp 6 AIA, wedle którego AIA „nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Sfomułowanie zawarte w Projekcie nie wdraża jednak wspomnianego przepisu AIA. Wyłączenie to ma fundamentalne znaczenie dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Należy podkreślić, że już samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest niezrozumiałe. To przecież nie same badania naukowe, lecz modele oraz systemy AI rozwinięte i oddane do użytku w celach prowadzenia badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Także odesłanie do definicji „podstawowych badań naukowych” jest błędne, i to już w swojej referencji do art. 4 ust. 2 pkt 2 Prawa o szkolnictwie wyższym (podczas gdy „podstawowe badania naukowe” znajdują się w pkt. 1 wskazanej jednostki redakcyjnej). To odesłanie jest wadliwe również in meritum, albowiem jako „badania podstawowe” rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” wprost koliduje z tą częścią art. 2 ust. 6 AIA, która expressis verbis wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie należy zauważyć, iż bardzo ważne jest wyeksponowanie w wyłączeniu ograniczenia do tych systemów lub modeli AI, które powstały wyłącznie w celu prowadzenia badań naukowych i rozwojowych. Obawiamy się, iż wyłączenie zaproponowane w Projekcie może być w przyszłości przedmiotem nadużyć, bowiem zaprogramowane dla celów naukowych – a zatem nie 42 objęte AIA – algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. W naszym przekonaniu, nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. Art. 3 Osoba fizyczna Problem definicji legalnych w treści aktów normatywnych od lat budzi kontrowersje doktrynalne oraz wynikające z praktyki stosowania prawa, zarówno na poziomie adresatów przepisów, jak i praktyki orzeczniczej. Dodatkowym wyzwaniem jest kwestia definicji legalnych przyjmowanych w aktach unijnych. W doktrynie wyraźnie się podkreśla, że definicje legalne przyjęte w rozporządzeniach, czyli aktach normatywnych obowiązujących w polskim porządku prawnym wprost, bezpośrednio, nie podlegają transpozycji. Wprowadzenie przepisów odsyłających do przepisów rozporządzenia UE2024/1689 budzi duże wątpliwości interpretacyjne i praktyczne. Zastosowanie zabiegu odesłania do treści aktu unijnego jest niepotrzebne, a wręcz błędne. Wykorzystanie podstawowych modeli wykładni prawa pozwala na pełne odkodowanie treści normy prawnej, także w zakresie objętym definicją znajdującą się w innym akcie normatywnym, zwłaszcza w akcie normatywnym wyższego rzędu. Dlatego proponuję całkowicie usunąć art. 3 w proponowanym brzmieniu. Art. 3 PIIT Wykreślenie definicji zawartych w ASI, którego przepisy są bezpośrednio stosowane w polskim porządku prawnym. Zasadniczo nie ma przesłanek do powtarzania w krajowych przepisach definicji z, bezpośrednio stosowanych w krajowym porządku prawnym, przepisów unijnych rozporządzeń. Art. 3 Polskie Towarzystwo Informatyczne Definicje Wszystkie przytoczone enumeratywnie określenia odnoszone są w całości do definicji w rozporządzeniu PEiR UE 2024/1689. Zatem wystarczyłby zapis, iż określenia w ustawie zdefiniowane są w rozporządzeniu. Propozycja: Określenia użyte w ustawie zdefiniowane zostały w art. 3 rozporządzenia 2024/1689. Przytoczone w ustawie określenia nie są w rzeczywistości definicjami tych określeń, lecz odsyłaczami do rozporządzenia 2024/1689.; Zajmują niepotrzebnie miejsce w ustawie. Art. 3 AI Chambre W art. 3 trudno doszukać się logiki we wpisaniu jedynie części z niezwykle długiej listy definicji zawartych w Akcie o SI. Zastosowana tu technika odesłania do Aktu nie spełnia swojej roli, bowiem osoba czytająca ustawę musi i tak korzystać z Aktu. Proponujemy albo zrezygnować z definicji, jeśli są tożsame z Aktem i odesłać ogólnie do wszystkich tam zawartych definicji, albo przepisać definicje wprost do ustawy. Art. 3 Związek Banków Polskich Forma przepisu wprowadzająca listę odesłań do AI Act jest nieczytelna. Proponujemy generalne odesłanie – wszystkie pojęcia niezdefiniowane odrębnie w ustawie przyjmują znaczenie z art. 3 AI Act. 43 Art. 3 ust. 13 PIIT Wykreślenie ust. 13 (działanie zbędne, o ile zostaną wykreślone wszystkie unijne definicje). Termin “organ właściwy” jest pojęciem prawa unijnego. Wynika z charakteru prawa negocjowanego dla odmiennych systemów prawa. Siłą rzeczy akty prawa UE nie mogą się posługiwać nazewniczą systematyką któregokolwiek z krajowych systemów. Natomiast w polskiej ustawie doprecyzowujemy zarówno organ notyfikujący jak i organ/y nadzoru rynku. Nie posługujemy się pojęciem “organu właściwego”. Zachodzą tu podobne okoliczności jak w przypadku braku potrzeby definiowania organu ścigania (pkt 45 art. 3 ASI). art. 3 pkt 15 SKwP To nie jest najlepsze tłumaczenie oryginalnego tekstu. Czy nie można znaleźć odpowiedniego słowa polskiego? „55) piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym;”. A może tak: „Ramy rozwoju, walidacji, testowania AI w warunkach rzeczywistych uzgodnione z Komisją ...”. Art. 3 pkt 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 3 pkt 15 Projektu ustawy przez piaskownicę regulacyjną należy rozumieć piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 Rozporządzenia 2024/1689. Zgodnie z uzasadnieniem Projektu ustawy „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W rzeczywistości Projekt ustawy do piaskownic regulacyjnych się nie odnosi. W związku z powyższym prosimy o wyjaśnienie, czy to oznacza, że piaskownic regulacyjnych do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Art. 3 pkt 15 Obywatelski Akcelerator Innowacji Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 Instytut Spraw Obywatelskich Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 PWPW piaskownica regulacyjna piaskownica regulacyjna w zakresie AI w rozumieniu art. 3 pkt 55 44 rozporządzenia 2024/1689; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r. Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 3 pkt 15 Fundacja FinTech Poland Zgodnie z uzasadnieniem projektu: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W związku z tym pojawia się wątpliwość czy do tego czasu pojawi się piaskownica regulacyjna w Polsce, bo jeśli mają się pojawić wcześniej to w jaki sposób będą uregulowane. Zgodnie z art. 11 pkt 11 \"podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji pojawia się wątpliwość w jaki sposób zadanie to będzie realizowane. Art. 3 pkt 17 Instytut Spraw Obywatelskich Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 3 pkt 17 Obywatelski Akcelerator Innowacji Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 4 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W związku z brzmieniem art. 4 Projektu ustawy powstaje wątpliwość, czy wskazane w tym przepisie obszary nie będą nadzorowane przez jakikolwiek organ nadzoru? Zwracamy uwagę, że zakres zastosowania Rozporządzenia 2024/1689 nie dotyczy „badań naukowych i rozwojowych\" (art. 2 ust. 6 Rozporządzenia 2024/1689) ani „działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 Rozporządzenia 2024/1689) w ogólności. Nie ma w Rozporządzeniu 2024/1689 ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. W konsekwencji, postulujemy zmianę treści art. 4 pkt 3 Projektu ustawy na następującą: „3) badań naukowych.” 45 Art. 4 PWPW Należy dodać, w ślad za AI act-em (art. 2 ust. 8) sformułowanie „działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. To ma istotne znaczenie – gdyż wskazane w art. 4 pkt 3 wyłączenie dla działań badawczych podstawowych i eksperymentalnych jest węższe niż 2. Działalność tego rodzaju prowadzona jest zgodnie z mającym tu zastosowanie prawem europejskim. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.” prowadzenie badań ogółem. Art. 4 pkt 3 mówi o badaniach podstawowych (co jest wąskimi rodzajem badań) a AI act mówi „o żadnych badaniach”). Jest to kluczowe w kontekście rozwoju programów B+R i testowania produktów. Firmy muszą ww. zakresie mieć pewność, że do czasu zakończenia wdrażania B+R nie podlegają obowiązkom wskazanym w ustawie. Art. 4 ICC Poland Artykuł 4 Projektu przewiduje wyłączenie zastosowania nowej ustawy do spraw związanych z obroną narodową, spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego oraz podstawowych badań naukowych, jak również dla celów naukowych w związku z eksperymentem (pojęcia te dookreślone zostały przez odesłania do odpowiednich ustaw). Zakres tego wyłączenia, ze względu na sposób jego ujęcia, może budzić jednak wątpliwości co do zgodności z rozporządzeniem 2024/1689, a także otwierać drogę do nadużyć w tym zakresie. Po pierwsze, samo rozporządzenie 2024/1689 istotnie przewiduje wyłączenie jego zastosowania do: i) systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 2 rozporządzenia 2024/1689); ii) systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 3 rozporządzenia 2024/1689); iii) systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689); iv) działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku (art. 2 ust. 8 rozporządzenia 2024/1689) [podkreślenia własne]. 46 Wyłączenia te determinowane są jednak przede wszystkim celem wprowadzenia do obrotu, oddania do użytku lub wykorzystywania systemu AI (natomiast w przypadku art. 2 ust. 8 rozporządzenia 2024/1689 dotyczy specyficznej działalności badawczej, testowej i rozwojowej, ograniczonej przedmiotowo). Tymczasem zakres wyłączeń zaproponowany w art. 4 Projektu odnosi się ogólnie do pojęcia „sprawy” lub „podstawowych badań naukowych”, co może sugerować, że projektowana ustawa w ogóle nie znajdzie zastosowania do systemów sztucznej inteligencji w tych obszarach (np. z uwagi na podmiot wykorzystujący system), niezależnie od celu ich wprowadzenia do obrotu, oddania do użytku lub wykorzystania. Z jednej strony może to sugerować, że zakres wyłączenia zastosowania ustawy jest w istocie szerszy niż zakres wyłączenia zastosowania rozporządzenia 2024/1689 (co mogłoby w praktyce rodzić trudności w egzekwowaniu przepisów tego ostatniego), a z drugiej strony może skłaniać w szerszym zakresie do powoływania się na te wyłączenia w celu uniknięcia nadzoru nad stosowanymi systemami sztucznej inteligencji. Po drugie, wątpliwości budzi wyłączenie zastosowania nowej ustawy do „celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz.U. z 2024 r. poz. 17 i 1228)” (art. 4 pkt 3 Projektu). Niezależnie od pewnej niejasności ujęcia tego wyjątku [nie wiadomo bowiem, jakich konkretnie sytuacji ma on dotyczyć, skoro „ustawy nie stosuje się (...) dla celów naukowych (...)”], należy zwrócić uwagę, że eksperyment na gruncie przepisów Kodeksu karnego jest definiowany bardzo szeroko. Otwiera to więc pole do prób powoływania się na ten wyjątek wyłącznie w celu uniknięcia nadzoru nad systemami sztucznej inteligencji. Powyższe uwagi powinny skłonić do ponownej rewizji ujęcia art. 4 Projektu, a także rozważenia, czy przepis ten – przynajmniej w takim kształcie – jest istotnie potrzebny. Przepisy rozporządzenia 2024/1689, w tym jego art. 2 określający jego zakres zastosowania, są bowiem stosowane bezpośrednio, co oznacza, że nie wymagają dla swojego zastosowania wdrożenia do krajowego porządku prawnego. Skoro natomiast na podstawie art. 2 rozporządzenia 2024/1689 wskazane tam systemy sztucznej inteligencji nie podlegają pod samo rozporządzenie 2024/1689 (wyłączenia), to nie będą również podlegać nadzorowi przewidzianemu w Projekcie, który stanowi wszak pochodną zakresu zastosowania rozporządzenia 2024/1689. Projekt nie jest zresztą w tym zakresie konsekwentny, pomijając w art. 4 inne przypadki wyłączeń przewidziane w art. 2 rozporządzenia 2024/1689, jak np. osoby fizyczne, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10 rozporządzenia 2024/1689). Art. 4 Związek Banków Polskich 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 Projektu nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 47 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. Art. 4 Fundacja FinTech Poland Zgodnie z treścią AI Act zakres zastosowania nie dotyczy \"badań naukowych i rozwojowych\" (art. 2 ust. 6 AI Act) ani \"działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 AI Act) w ogólności. Nie ma w rozporządzeniu ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. Uprzejma prośba o wyjaśnienie intencji projektowanego przepisu. Postulowane brzmienie przepisu Art. 4 pkt 3): Art. 4. Ustawy nie stosuje się do: (...) 3) badań naukowych. Art. 4 Fundacja Panoptykon Wyłączenia dla AI w obszarze bezpieczeństwa wewnętrznego i porządku konstytucyjnego Zgodnie z art. 4 projektu ustawy, nie stosuje się jej do spraw związanych m.in. z obroną narodową oraz spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego. Jest to odzwierciedlenie art. 2 ust. 3 rozporządzenia, zgodnie z którym rozporządzenia nie stosuje się do obszarów systemów AI wykorzystywanych do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego. Zdecydowanie popieramy próbę doprecyzowania i jednoznacznego ograniczenia znaczenia pojęcia bezpieczeństwo narodowe, a tym samym – jasne określenie, zastosowanie w jakich celach systemów AI podlega regulacji. Jest to znacząco lepszy model, niż przyjęty m.in. w ustawach implementujących do polskiego porządku prawnego unijne zasady ochrony danych osobowych5, które w sposób podmiotowy wyłączyły spod zakresu obowiązywania tych zasad służby specjalne. Nie sposób przyjąć, że wszystkie zadania realizowane przez służby specjalne mieszczą się w kategorii bezpieczeństwa narodowego. Przykładem takiej sytuacji jest m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt 2 lit. e ustawy o ABW). Zdajemy sobie sprawę, że ostateczna treść wyłączenia spod zakresu ustawy zawarta w art. 4 będzie jeszcze przedmiotem dyskusji. Jednak zwracamy uwagę, że – bez względu na jego ostateczne brzmienie – wyłączone spod zakresu działania ustawy wykorzystywanie sztucznej inteligencji przez służby specjalne, w tym systemów zdalnej biometrycznej identyfikacji, pozostanie nieuregulowane. Zarówno Konstytucja RP jak i Karta Praw Podstawowych oraz 48 Europejska Konwencja Praw Człowieka zobowiązują państwa do zapewnienia, że ingerencja w prawo do prywatności –również za pośrednictwem systemów sztucznej inteligencji – ma miejsce wyłącznie w przypadkach niezbędnych w demokratycznym państwie prawa. Biorąc pod uwagę brak efektywnego nadzoru nad służbami w Polsce, co potwierdził Europejski Trybunał Praw Człowieka, brak jasnych zasad wykorzystywania systemów sztucznej inteligencji na poziomie ustawy rodzi pole do nadużyć i naruszeń praw człowieka. Dodatkowo, brak podstawowych reguł rozwijania i wdrażania systemów AI analogicznych do tych zawartych w rozporządzeniu oznacza, że nic nie stoi na przeszkodzie temu, aby służby rozwijały i nabywały systemy sztucznej inteligencji, które nie zostały poddane podstawowym testom jeśli chodzi o ich dokładność, cyberbezpieczeństwo, wolność od błędów czy stronniczości prowadzącej do dyskryminacji. Warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem Rada UE, w tym polski rząd, poparła blankietowe wyłączenie obszaru bezpieczeństwa narodowego z zakresu rozporządzenia (art. 2 ust. 3), opierając się na argumencie, że kwestie bezpieczeństwa narodowego należą do kompetencji państw członkowskich i powinny być uregulowane na poziomie krajowym. Choć mamy zastrzeżenia do adekwatności tej argumentacji w świetle orzecznictwa Trybunału Sprawiedliwości UE7, oczekujemy, że rząd faktycznie skorzysta ze swoich kompetencji w zakresie bezpieczeństwa narodowego i podejmie inicjatywę legislacyjną mającą na celu stworzenie kompleksowych zasad kontroli nad działaniami służb, w tym wykorzystaniem przez nie sztucznej inteligencji. art. 4 pkt 3 PIRP proponuje się rozszerzyć zakres wyłączenia także na prace rozwojowe w rozumieniu art. 4 ust. 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.); taka zmiana byłaby uzasadniona w świetle art. 2 ust. 6 rozporządzenia 2024/1689 art. 4 pkt 3 Sano w projektowanej ustawie w art. 4 pkt 3 wskazano: „Ustawy nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Pragniemy uprzejmie zauważyć, iż podstawowe badania naukowe zostały wskazane w art. 4 ust. 2 pkt 1 ustawy - Prawo o szkolnictwie wyższym, a nie jak wskazano w projekcie w pkt 2. Ponadto w ocenie Sano zasadnym byłoby możliwie jak najszersze zastosowanie wyłączenia stosowania przepisów, które limitowałyby możliwość prowadzenia badań naukowych, przy jednoczesnym niestosowaniu określonych postanowień ustawy ale bez całościowego wyłączenia badań z zakresu regulacji. Sano jako uczestnik grupowych podmiotów jak choćby Koalicja AI w Zdrowiu wskazało na inne możliwości poszerzenia przepisów ustawy – choćby poprzez mocniejsze unormowanie możliwości wykorzystania sandboxes w ramach polskich przepisów mających implementować rozporządzenie unijne. W takim przypadku również w obszarze badań naukowych 49 wtedy możliwe było skorzystanie z narzędzia jakim są sandboxes również przez podmioty prowadzące badania. art. 4 pkt 3 GRAI W przypadku AI znaczna część badań naukowych jest prowadzona również przez inne instytucje- nie wymienione w ustawie o szkolnictwie wyższym. Wydaje się, że jest to niespójność w rozumieniu wyjątku dla jednostek badawczych – bo w ustawie są wpisane instytucje z nazwy i lista jest ograniczona do uczelni, podczas gdy na zachodzie wyjątek ten rozszerza się na jednostki badawcze nie jako oddzielne instytucje, które mogą istnieć też w sektorze prywatnym. Proponujemy zamianę z instytucjonalnego rozumienia jednostki badawczej na rozumienie funkcjonalne (spełnienie określonych warunków (open research, publikacje, współpraca z podmiotami badawczymi itp.). W UE pojawia się też koncepcja certyfikowania jednostek zajmujących się rozwojem AI (coś na wzór ESOMAR dla firm badania opinii i marketingowych, które dzięki certyfikacji mają inne regulacje dot. Danych osobowych). To ma kolosalne znaczenie do rozwoju AI, budowania kompetencji w EU i w Polsce, i w konsekwencji niezależności i samowystarczalności (w razie globalnych konfliktów, tracimy dostęp), brak odpływu kadr i budowanie niezależnej pozycji, w tym kluczowym dla przemysłu obszarze. AI Akt dotyczy przypadków użycia, a nie przypadków badań nad AI i tworzenia technologii. Oczywiście przy zachowaniu wszystkich innych przepisów dotyczących transparentności badań, etyki badawczej i postępowania z danymi. Zarówno ośrodki uniwersyteckie, jak oddziały badawcze z sektora prywatnego tworzą wartość dla dobra wspólnego: wyniki badań nad AI, możliwościach jej rozwoju, jej ograniczeniach są publikowane i służą wszystkim. Projektowana ustawa o systemach AI powinna dotyczyć systemów w konkretnym przypadku ich użycia a nie w fazie badań czy przemysłowych czy R&D. Zmiana brzmienia przepisu art. 4 pkt 3 e-Izba Rekomendujemy wprowadzenie zmiany do projektowanego przepisu polegającej na zastąpieniu fragmentu „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym” sformułowaniem „badań naukowych, o których mowa w art. 4 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”. Rozdział 2 Osoba fizyczna W polskiej praktyce ustawodawczej dotyczącej organizacji nadzoru nad jakąś sferą życia społeczno-gospodarczego przyjęto dwa modele działalności organów nadzoru – organ kolegialny oraz monokratyczny. W przypadku organu monokratycznego organem administracji publicznej jest Prezes organu, którego obsługę zapewnia odpowiedni Urząd, którego jednocześnie jest zwierzchnikiem – zob. np. Urząd Ochrony Danych Osobowych. W przypadku organu kolegialnego, organem nadzorczym jest Komisja wraz z Przewodniczącym, posiadający poza kierowaniem komisją, dodatkowe kompetencje. Zarówno Przewodniczący Komisji, jak i Komisja jest obsługiwana przez Urząd. Takie rozwiązania przyjęto m.in. w ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym. 50 Przyjęte w projektowanej ustawie rozwiązanie w którym na pierwszym miejscu stawia się Biuro – aparat obsługujący organ administracji publicznej jest całkowitą zmianą perspektyw formalnej i organizacyjnej, podważającej niezależność organu odpowiedzialnego za nadzór nad SI. Należy przebudować cały rozdział 2 ustawy, wychodząc od określenia organu nadzoru oraz jego kompetencji, prawnych form działania, a dopiero później ewentualnie zdefiniować aparat obsługujący organ. Rozdział 2 Związek Banków Polskich Zgodnie z założeniami projektu, wszystkie działania KRIBSI, w tym decyzje administracyjne, mają być dokonywane kolegialnie. Proponujemy rozważenie powierzenia decyzji w najbardziej doraźnych sprawach (np. w zakresie decyzji mniejszej wagi lub decyzji o charakterze proceduralnym) Przewodniczącemu Komisji – dla przyspieszenia działania organu. Rozdział 2 Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Software Development Association Poland (SoDA) KOMISJA ROZWOJU I BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI Jednolity zakres jurysdykcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Zgodnie z art. 6 ust. 1 Projektu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Rozwiązanie polegające na powierzeniu kompetencji w ręce jednego, wyspecjalizowanego organu, przyjmując koncepcję nadzoru zintegrowanego, zamiast dzielić je pomiędzy istniejące już organy nadzorcze w zależności od zakresu działalności danego podmiotu, należy ocenić pozytywnie. Mając na uwadze, że w skład Komisji wejdą m.in. przedstawiciele Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej, Komisja będzie miała środki służące zapewnieniu spójnego podejścia w zakresie działalności podlegającej ocenie przez różne organy nadzoru z uwagi na ich specyfikę. Dodatkowo zapewnieniu tej spójności będzie służyć obowiązek współpracy Komisji z innymi organami nadzoru, o którym mowa w art. 6 ust. 3 Projektu. W naszej ocenie rozważyć należy, czy w skład Komisji, niezależnie od przedstawiciela ministra powołanego w celu koordynowania działalności służb specjalnych, nie należałoby powołać również przedstawiciela Szefa Agencji Bezpieczeństwa Wewnętrznego, jako podmiot prowadzący Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego na poziomie krajowym (CSIRT GOV). Wynagrodzenie członków Komisji 51 W naszej ocenie konieczne jest przyznanie wynagrodzenia za udział w pracach Komisji nie tylko przewodniczącemu Komisji oraz jego zastępcom, ale również pozostałym członkom. Zgodnie bowiem z projektowanym art. 7 ust. 7, za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu. Chociaż przepis ten nie precyzuje, że wynagrodzenie to przysługuje przewodniczącemu Komisji oraz jego zastępcom, takie podejście wynika z treści uzasadnienia do Projektu. W tym zakresie w naszej ocenie przepis powinien zostać doprecyzowany. Rozwiązanie, zgodnie z którym brak wynagrodzenia oraz zwrotu kosztów przejazdów i noclegów dotyczyć miałby członków Komisji, a nie jedynie podmiotów biorących udział pracach Komisji z głosem doradczym, należy ocenić negatywnie. Takie rozwiązanie może istotnie i negatywnie wpływać na sposób funkcjonowania Komisji, w szczególności prowadząc do mniejszego zaangażowania członków Komisji w jej prace, mniejszą liczbę spotkań Komisji i inicjatyw podejmowanych przez Komisję poza jej obowiązkami ustawowymi, w szczególności w zakresie inicjatyw informacyjno-edukacyjnych, a także na jakość samych prac, wytycznych czy poziom merytoryczności tego organu. Trudno bowiem oczekiwać, aby członkowie Komisji wykazywali się 100% zaangażowaniem w swoje obowiązki, jeżeli nie będą otrzymywać z tego tytułu adekwatnego wynagrodzenia, nie mówiąc już o kosztach udziału w spotkaniach Komisji. Trzeba również mieć na uwadze, że dla części członków Komisji tj. przedstawicieli podmiotów wskazanych w art. 7 ust. 2 Projektu, udział w pracach Komisji będzie dodatkowym obowiązkiem w stosunku do ich standardowych obowiązków pełnionych w organie, którego będą przedstawicielami w Komisji. Argument przedstawiony w uzasadnieniu do Projektu, że celem tego rozwiązania jest brak „generowania niepotrzebnych kosztów po stronie budżetu państwa” pozostaje wobec tego daleko nietrafiony, gdyż koszty te są wręcz niezbędne, aby Komisja mogła funkcjonować w sposób prawidłowy i aby zapewnić jej skuteczne i merytoryczne działanie, zgodnie z koncepcją nadzoru zintegrowanego tj. przy zaangażowaniu przedstawicieli pozostałych organów nadzoru i instytucji publicznych. Równocześnie zrozumiałym jest wprowadzenie zasady braku wynagrodzenia za udział w pracach Komisji dla podmiotów wskazanych w art. 7 ust. 3, 4 i 5 Projektu, jako że ich udział w pracach Komisji nie jest obligatoryjny i ma charakter jedynie doradczy. Jednak, aby zapewnić wysoki poziom merytoryczny w samej Komisji, a także nie zniechęcać wskazanych podmiotów do udziału w pracach Komisji, należy rozważyć, czy w przypadku takich podmiotów nie byłoby wskazane przyznanie na ich rzecz zwrotu kosztów przejazdu oraz noclegu w związku z udziałem w pracach Komisji z takim głosem doradczym. INTERPRETACJE INDYWIDUALNE 52 W naszej ocenie wprowadzenie do art. 13 Projektu mechanizmu interpretacji indywidualnych na wzór tych stosowanych w postępowaniu podatkowym jest rozwiązaniem, które może w istotny sposób przyczynić się do poprawy przejrzystości stosowania nowych przepisów, zwiększając pewność prawa w tym zakresie oraz istotnie ułatwiając przedsiębiorcom dostosowanie się do nowych wymogów regulacyjnych. W tym zakresie jednak w naszej ocenie konieczne są dalsze prace mające na celu zwiększenie efektywności tego rozwiązania. Ochrona wnioskodawców stosujących się do treści interpretacji W pierwszej kolejności należy zwrócić uwagę, że w ustawie brak jest jasnego wskazania, jakie konsekwencje dla podmiotu wnioskującego będzie miało zastosowanie się do interpretacji zgodnej z jego wnioskiem. Takie rozwiązanie zostało wprowadzone w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (t.j. Dz. U. z 2023 r. poz. 2383 z późn. zm.), zgodnie z którym zastosowanie się przez wnioskodawcę do treści wydanej interpretacji indywidualnej nie może mieć negatywnych skutków dla wnioskującego. Również w przypadku Projektu wskazane byłoby wprowadzenie takiego mechanizmu ochrony wnioskodawcy przed negatywnymi konsekwencjami w zakresie zmian w interpretacji przepisów dotyczących systemów sztucznej inteligencji. Jest to szczególnie istotne także z uwagi na fakt, że Akt o Sztucznej Inteligencji („Rozporządzenie”) jako akt prawa o randze Rozporządzenia UE, podlega bezpośredniemu stosowaniu, stąd też w zakresie jego bezpośredniej interpretacji może wypowiadać się Sąd unijny. W takim przypadku interpretacja Sądu odmienna od tej wyrażonej przez Przewodniczącego Komisji w interpretacji indywidualnej również nie powinna wywoływać negatywnych konsekwencji dla wnioskodawcy, który dostosował się do treści interpretacji indywidualnej. Termin odpowiedzi na wniosek oraz skutki jego przekroczenia przez organ Wskazanym byłoby wprowadzenie do Projektu maksymalnego terminu rozpatrzenia wniosku o wydanie interpretacji indywidualnej. Z uwagi na charakter obszaru działalności gospodarczej, którego dotyczy Projekt, w szczególności dynamicznych zmian technologicznych, termin ten powinien równocześnie mieć charakter terminu zawitego, a w konsekwencji brak jego dotrzymania powinien skutkować uznaniem interpretacji za zgodną z treścią wniosku. W przeciwnym bowiem razie przedsiębiorcy staną przed dylematem, czy narażać się na ewentualne negatywne konsekwencje braku wiążącej interpretacji przepisów w niejasnych stanach faktycznych, czy też wstrzymać pracę nad danym produktem, narażając w ten sposób niejednokrotnie efekt kilku lat pracy, w szczególności wobec rosnącej konkurencji, mając jednak jasne stanowisko Przewodniczącego Komisji co do zgodności z prawem zakładanych działań. Zapewnienie konkurencyjności polskich przedsiębiorstw, w szczególności z zakresu MŚP wymaga, aby wprowadzić tego rodzaju mechanizm automatycznego uznania interpretacji za pozytywną po upływie określonego terminu, przynajmniej w odniesieniu do wnioskodawców będących MŚP. 53 W przypadku interpretacji indywidualnych w sprawach podatkowych, mechanizm milczącego uwzględnienia wniosku o wydanie interpretacji indywidualnej został wprowadzony w art. 14o Ordynacji podatkowej. Ochrona tajemnicy przedsiębiorstwa W naszej ocenie rozwiązanie proponowane w art. 16 Projektu tj. publikowanie interpretacji w Biuletynie Informacji Publicznej („BIP”), po dokonaniu ich anonimizacji, jest rozwiązaniem pożądanym, w istotny sposób przyczyniającym się do poziomu przejrzystości stosowania przepisów Rozporządzenia oraz pozytywnie oddziałowującym na pewność prawa w Polsce w tym zakresie. Nasze obawy budzi jednak fakt, że specyfika tego rodzaju rozwiązań, w szczególności w zakresie innowacyjnych technologii opartych o systemy sztucznej inteligencji, może wymagać zapewnienia, że opis funkcjonowania konkretnego systemu bądź jego przeznaczenie będą odpowiednio zabezpieczone, w szczególności jako stanowiące tajemnicę przedsiębiorstwa danego podmiotu. Należy wskazać, że nacisk na ochronę poufności rozwiązań opartych o AI został położony już w samym Rozporządzeniu. Zgodnie z art. 78 Rozporządzenia, Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie tego Rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa. W naszej ocenie istnieje ryzyko, że brak możliwości zastrzeżenia tajemnicy przedsiębiorstwa dla celów późniejszej publikacji treści interpretacji indywidualnej w BIP w istotny sposób wpłynie na gotowość podmiotów gospodarczych do korzystania z tej instytucji. Warto zwrócić uwagę, że opis konkretnych rozwiązań planowanych do wdrożenia przez dany podmiot, przedstawiony w interpretacji, może niekiedy doprowadzić do ujawnienia danego podmiotu, nawet pomimo anonimizacji jego danych. Dotyczy to w szczególności podmiotów działających w niszowych obszarach rynku bądź też największych spółek technologicznych. Równocześnie ujawnienie konkretnego rozwiązania na wczesnym etapie prac może doprowadzić do „przejęcia” tego rozwiązania przez inne podmioty. Takie sytuacje są o tyle prawdopodobne, że z ekonomicznego punktu widzenia wniosek o interpretację należałoby złożyć na wczesnym etapie planowania prac projektowych, tak aby podjąć racjonalną decyzję o inwestycji w dane rozwiązanie, w szczególności mając świadomość tego, czy dany system zostanie zakwalifikowany przez organ nadzoru jako system wysokiego ryzyka. Występowanie o taką interpretację po fakcie tj. po ukończeniu procesu produkcyjnego wydaje się być bezcelowe. Z tych powodów w naszej ocenie podmiot składający wniosek o wydanie interpretacji indywidualnej powinien mieć możliwość zastrzeżenia we wniosku zakresu informacji, które objęte 54 są tajemnicą przedsiębiorstwa. Dzięki temu następcze opublikowanie treści interpretacji, bez informacji stanowiących tajemnicę przedsiębiorstwa, nie wpłynie w negatywny sposób na działalność tego podmiotu. Takie rozwiązanie może w negatywny sposób wpłynąć na użyteczność publikowanych interpretacji podatkowych dla innych podmiotów, jednak w naszej ocenie ochrona tajemnicy przedsiębiorstwa powinna mieć w tym zakresie priorytet. Decyzje Komisji Wstrzymanie wykonania decyzji Komisji po złożeniu odwołania do Sądu Zgodnie z art. 73 ust. 1 Projektu, administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Ponadto, zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Równocześnie jednak brak jest w Projekcie przepisu, który powodowałby powstanie tożsamych skutków w stosunku do innych elementów decyzji, w szczególności w zakresie zobowiązania do wycofania systemu AI z rynku. Tymczasem to właśnie środki zobowiązujące nakładane przez Komisję mogą okazać się dla dostawców i podmiotów stosujących systemy AI najbardziej dotkliwe, a w skrajnych przypadkach mogą prowadzić do całkowitej utraty możliwości dalszego prowadzenia działalności gospodarczej. Mając to na uwadze, zasadnym byłoby wprowadzenie rozwiązania, zgodnie z którym wniesienie odwołania do sądu wstrzymuje wykonanie decyzji Komisji w całości. Z uwagi na potrzebę zabezpieczenia interesów i bezpieczeństwa społecznego, rozstrzygnięcie w zakresie obowiązku wycofania systemu z obrotu mógłby podejmować sąd w ramach rozpoznania wstępnego sprawy objętej odwołaniem od decyzji. Rygor natychmiastowej wykonalności decyzji Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Przepis ten stanowi daleko idącą ingerencję w prawo strony do dwuinstancyjnego postępowania. Jest to tym bardziej istotne, że projektowany przepis posługuje się tylko jedną, bardzo nieostrą i uznaniową przesłanką w zakresie możliwości nadania decyzji rygoru natychmiastowej wykonalności. Warto zwrócić uwagę, że nawet w przypadku regulacji o charakterze ogólnym tj. w art. 108 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego ( Dz. U. z 2024 r. poz. 572) nadanie decyzji rygoru natychmiastowej wykonalności uzależnione jest od wystąpienia znacznie bardziej sprecyzowanych przesłanek tj. niezbędności dla ochrony zdrowia lub życia ludzkiego, niezbędności dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami lub ze 55 względu na inny ważny interes społeczny. Tymczasem treść art. 74 Projektu pozostawia bardzo daleko idącą dowolność Komisji w zakresie stosowania tego środka, którego skutki dla danego podmiotu, z uwagi na specyfikę branży (w szczególności długi czas produkcji i istotne nakłady finansowe na stworzenie systemu) mogą być niezwykle dotkliwe, a w przypadku podmiotów z sektora MŚP bądź podmiotów z obszarów wysoko wyspecjalizowanych, mogą doprowadzić do upadku danego przedsiębiorstwa, których to skutków nie będzie można odwrócić nawet w razie pozytywnego rozstrzygnięcia sądu odwoławczego. Z tych przyczyn w naszej ocenie z tego przepisu należy zrezygnować w całości, bądź też zawęzić zakres jego stosowania jedynie do sytuacji, w której nadanie rygoru natychmiastowej wykonalności decyzji jest niezbędne dla ochrony zdrowia lub życia ludzkiego. Rozdział 2 GRAI Rozważyć uwzględnienie w wymogach na członków komisji, żeby to byli nie tylko \"przedstawiciele instytucji kluczowych dla rozwoju sektora technologii sztucznej inteligencji\", ale żeby aktywnie prowadzili pracę i mieli osiągnięcia z zakresu tematów związanych ze sztuczną inteligencją. Rozważyć zdefiniowanie minimalnych wymagań. Pozwoliłoby to na zapewnienie odpowiedniego poziomu merytorycznego oraz wzmocniło postrzeganie samej komisji. Rozdział 2 GRAI Przejrzystość działań Komisji Komisja będzie prowadzić publiczną i przyjazną użytkowniczkom bazę danych dotyczącą wydanych decyzji Rozdział 2 GRAI Sugeruje wprowadzenie przepisów regulujących tryb i zasady wydawania zezwolenia (oraz kontroli sądu) na wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Rozdział 2 GRAI Sugeruje rozważyć udział w pracach Komisji Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka oraz Rzecznika Ubezpieczonych. Można rozważyć zobowiązanie RPO, RPD, RU do przedstawiania cyklicznych raportów o wpływie AI na obszary ich zainteresowań (np. Wpływ technologii na zdrowie dzieci i higienę cyfrową). Rozdział 2 GRAI Sugeruje uregulowanie zasad dostępu do przebiegu jawnych posiedzeń Komisji np. Poprzez odesłanie do ustawy o dostępie do informacji publicznej. art. 5 i kolejne w rozdziale Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z kolei regulacja art. 5, art. 6 oraz art. 8 projektu ustawy o Al świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 4 pkt. I oraz art. 6 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej Komisją. Pogląd ten znajduje pełne oparcie w regulacji art. 8 ust. 5 projektu ustawy o AI, wedle której Komisja w zakresie swojej właściwości podejmuje uchwały, w tym wydaje decyzje administracyjne i postanowienia. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 56 k.p.a. w zw. z art. 104 $ 1 k.p.a. w zw. z art. 104 $ 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 $ 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją(art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postepowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 5 ust. 2 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym przypadku państwowego, obsługującego organ administracji publicznej (art. 5 ust. 1 projektu ustawy o AN). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji(art. 5 ust. 4 pkt. 1 projektu ustawy o AT), które z racji zapewniania obsługi Komisji (art. 5 ust. 2 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 ust | projektu ustawy o AT), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem(art. 5 ust. 4 pkt. 2 projektu ustawy o AT). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. zart. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał _ cywilnoprawne i _ administracyjne _ kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja 57 rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AT) i kierujący pracą Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego Komisji (art. 5 ust. 2 projektu ustawy o AT) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż autor projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacjj w stosunkach cywilnoprawnych osób prawnych przez ich organów, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety autorowi projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W zakresie z kolei kompetencji administracyjnoprawnych duże wątpliwości wywołuje zróżnicowanie, a zarazem częściowe niedoprecyzowanie kompetencji Komisji, która działając jako organ Biura Komisji jest organem właściwym w sprawach nadzoru nad bliżej nieokreślonym rynkiem (art. 5 ust. 4 pkt. 1 projektu ustawy o AT), zaś na mocy art. 6 ust. 1 jest uznana za organ nadzoru rynku w zakresie systemów sztucznej inteligencji, co już samo w sobie jest rozwiązaniem nie budzącym większych wątpliwości. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej(art. 6 ust. 1 projektu ustawy o Al) za błędne uznać należy przyznanie Prezesowi Rady Ministrów będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 5 ust. 2 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 5 ust. 3 w zw. zart. 5 ust. 1 projektu ustawy o AT). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny 58 jest Prezes Rady Ministrów (art. 17 pkt. 3 k.p.a. w zw. zart. 18 pkt. 1 k.p.a.) i to nad Komisją, a nie jak błędnie przyjęto w art. 5 ust. 3 projektu ustawy o AI, nad Biurem Komisji, Prezes Rady Ministrów winien pełnić nadzór. O niechlujstwie projektodawcy świadczyć natomiast może zamieszczenie w art. 5 projektu ustawy o AI aż dwóch ustępów o numerze dwa. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę usuwając tym samym wiele nieprawidłowości należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego. poprawnego brzmienia art. 5 projektu ustawy o Al: „ l. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje Prezes Rady Ministrów. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6. Komisja posiada prawo używania pieczęci z godłem państwowym. ”. D/ Duże wątpliwości budzą także regulacje poświęcone składowi Komisji. Mając bowiem na uwadze, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji (art. 6 ust. 1 projektu ustawy o AI) oraz uwzględniając niezwykle istotną rolę i znaczenie zadań jakie jej poruczono (art. 11 ust. 1 projektu ustawy o AI) doprawdy trudno zrozumieć dlaczegóż to spośród wszystkich Członków Komisji jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni łącznie spełniać zakreślone projektem ustawy wymogi pod postacią: a/ posiadania obywatelstwa polskiego, b/korzystania z pełni praw publicznych, c/ posiadania co najmniej wykształcenia wyższego i tytułu zawodowego magistra, magistra inżyniera lub tytułu równorzędnego, d/ wyróżniania się wiedzą i posiadania znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, e/posiadania co najmniej trzyletniego stażu pracy na stanowiskach kierowniczych, f/posiadania statusu osoby nie karanej za umyślne przestępstwo lub umyślne przestępstwo skarbowe, g/ posiadania nieposzlakowanej opinii i dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 18 ust. 2 projektu ustawy o AI, art. 21 ust. 2 projektu ustawy o AI). Tutaj należałoby dodać jedną istotną uwagę zasądzającą się w tym, iż Przewodniczący Komisji oraz jego Zastępcy winni być osobami niekaranymi za popełnienie przestępstw umyślnych wskazanych w art. 18 ust. 2 pkt. 6 projektu ustawy o AI prawomocnymi wyrokami, tak jak to przyjęto w odniesieniu do członków Społecznej radu do Spraw sztucznej 59 Inteligencji w art. 28 ust. 4 pkt. 2 projektu ustawy o AI. Mając bowiem na uwadze, że Komisja w zakresie swojej właściwości podejmuje uchwały, w tym decyzje i postanowienia, zwykłą większością głosów (art. 8 ust. 5 w zw. z art. 8 ust. 6 projektu ustawy o Al), zaś skład Komisji jest dwunastoosobowy i obejmuje Przewodniczącego, dwóch jego Zastępców oraz dziewięciu Członków Komisji (art. 7 ust. 1 projektu ustawy o AT) nietrudno dojść do przekonania, że raptem trzech członków Komisji posiadających niezwykle istotne w realizacji zadań Komisji cechy opisane w art. 18 ust. 2 projektu ustawy o AI bez większego problemu może przegłosować pozostałych co najmniej siedmiu Członków Komisji, którzy tych ważkich dla pełnienia funkcji w Komisji cech nie posiadają, co może okazać się szczególnie istotne w przypadku decydowania w merytorycznych sprawach dotyczących sprawowania nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji (art. 6 ust. I projektu ustawy o Al) przez Członków Komisji nie wyróżniających się wiedzą i nie posiadających znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, nierzadko przesądzając 0 prawidłowości podjętej uchwały. Rozwiązanie lansowane przez projektodawcę, wedle którego jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni wyróżniać się wiedzą i posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, gdy tymczasem pozostali Członkowie Komisji tego rodzaju walorami legitymować już się nie muszą trudno by było pogodzić z regulacją art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przewidującą, iż „Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie.”. Wskazanie w art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przez prawodawcę wspólnotowego na bezwzględną potrzebę zapewnienia przez właściwe organy krajowe w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych wnioskując a minori ad maius tym bardziej odnosi się do podejmujących decyzje merytoryczne w sprawach nadzoru nad rzeczonym rynkiem Członków Komisji nie będących pracownikami Biura Komisji. Nie 60 można też wykluczyć sytuacji, w której grupa siedmiu przestępców skazanych za szpiegostwo lub przestępstwa przeciwko bezpieczeństwu systemów obronnych naszego kraju, a wskazanych przez organy władzy i administracji publicznej określone w art. 7 ust. 2 projektu ustawy o AI mogłaby bez większych problemów przegłosować uchwały dotyczące rynku w zakresie systemów sztucznej inteligencji, które wprost wystawiłyby nasze państwo na niebezpieczeństwo inwigilacji ze strony obcych służb, czy też na przeprowadzane przez nie akcje sabotażowe,, którym to służbom przed skazaniem rzeczeni przestępcy się wysługiwali ze szkodą dla naszego kraju. Przykład ten nie stanowi zwyczajnej abstrakcyjnej dywagacji, bo przecież wobec Członków Komisji wskazanych w trybie art. 7 ust. 2 projektu ustawy o AI przez właściwe organy nie stawia się wymogu spełnienia wymagań określonych w art. 18 ust. 2 ustawy o AI, wtymi wymogu niekaralności za umyślne przestępstwa, który to wymóg odniesiono jedynie do Przewodniczącego Komisji i jego Zastępców (art. 18 ust. 2 pkt. 6 projektu ustawy o AI, art. 18 ust. 2 pkt. 6 w zw. zart. 21 ust. 2 projektu ustawy o Al). Co więcej nie sposób racjonalnie wytłumaczyć motywów jakimi kierował się projektodawca, który o wiele wyższe wymagania stawia członkom Społecznej Rady do spraw Sztucznej Inteligencji pod postacią: posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka, nieskazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystania z pełni praw publicznych oraz wyrażenia pisemnej zgody na kandydowanie do Rady (art. 28 ust. 4 projektu ustawy o Al), której przypisano jedynie kompetencje opiniodawczo- doradcze wobec Komisji (art. 28 ust. 1 projektu ustawy o AT), niż Członkom Komisji nie będącym Przewodniczącym Komisji lub Zastępcą Przewodniczącego Komisji, którym jako Członkom Komisji będą przecież przysługiwały kompetencje do merytoryczne rozstrzygania spraw z zakresu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 6 ust. 1 w zw. z art. 8 ust. 5 projektu ustawy o AT). O ile można zgodzić się z przekonaniem wyrażonym na stronie 10 uzasadnienia projektu ustawy o AI, iż „„W celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych”, to za całkowicie błędne uznać należy pominięcie w składzie Komisji z głosem stanowiącym, a mie jedynie doradczym, przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców, którzy zajmując się w ramach swoich kompetencji sprawami przedsiębiorców oraz sprawami postępu technicznego nie są jednakże ich przedstawicielami. Tym bardziej musi dziwić pozbawienie w Komisji przedstawicielstwa z głosem stanowczym przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, skoro z jednej strony do składu Komisji delegowani są przedstawiciele Rzecznika Praw Dziecka, czy też Rzecznika Praw Obywatelskich albo Komisji Nadzoru Finansowego (art. 7 ust. 2 pkt. 7, pkt. 6, pkt. 5 projektu ustawy o AT), które to organy niewiele w zakresie swoich kompetencji będą miały wspólnego z rynkiem systemów sztucznej inteligencji, z drugiej zaś strony projektodawca na stronach 2-3 61 uzasadnienia projektu ustawy o AI w sposób jednoznaczny identyfikuje cele wiązane przez niego z wdrażaniem projektu ustawy o AI wskazując, że „ Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i Średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start. up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną Al.”. W tej zatem sytuacji pominięcie w składzie Komisji z głosem stanowiącym przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców świadczy 0 oczywistej wręcz niekonsekwencji projektodawcy wynikającej z rozbieżności projektu ustawy o AI oraz motywów, które legły u podstaw wdrażania tego rodzaju rozwiązań wyrażonych w uzasadnieniu tegoż projektu. Eliminowanie zaś ze składu Komisji przedstawicieli resortów gospodarczych (resort gospodarki, resort przemysłu), które to resorty będą projekty te realizowały, oraz resortu nauki i szkolnictwa wyższego, który winien przygotować podwaliny naukowe pod przygotowanie podstaw naukowo- badawczych do wdrożenia systemów sztucznej inteligencji, a także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, który „sźoi na straży praw mikroprzedsiębiorców oraz małych i średnich przedsiębiorców, w szczególności poszanowania zasady wolności działalności gospodarczej, pogłębiania zaufania przedsiębiorców do władzy publicznej, bezstronności i równego traktowania, zrównoważonego rozwoju oraz zasady uczciwej konkurencji i poszanowania dobrych obyczajów oraz słusznych interesów przedsiębiorców” [art. 1 ust. 1 ustawy z dnia 6.03.2018 r. o Rzeczniku Małych i Średnich Przedsiębiorców (tekst jedn. Dz. U. z 2023 r. poz. 1668), zwanej dalej ustawą o Rzeczniku MŚP], a którzy to mali przedsiębiorcy, Średni przedsiębiorcy oraz mikroprzedsiebiorcy mają być w zamierzeniu projektodawcy głównymi beneficjentami przedmiotowej inicjatywy ustawodawczej (strona_ 2-3 uzasadnienia projektu ustawy o AN), jest nie tylko niezrozumiałe, ale wręcz taką decyzję projektodawcy uznać należy za błędną, wręcz antyrynkową i sprzeczną zarazem z potrzebami rodzimej gospodarki. Celem wyeliminowania przedstawionych powyżej nieprawidłowości dotyczących składu Komisji Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje wprowadzenie do projektu ustawy o AI następujących zmian: a/ art. 7 ust. 1 projektu ustawy o AI otrzymuje nowe brzmienie „W skład Komisji wchodzą: Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz trzynastu Członków Komisji. Członkami Komisji w liczbie trzynastu, o których mowa w zdaniu poprzednim mogą być jedynie osoby spełniające wymagania określone w art. 18 ust. 2 ustawy.”, b/ w art. 7 ust. 2 in fine projektu ustawy o AI po pkt. 9 kropkę zastępuje się średnikiem, po którym dodaje się punkty o numerach od 10 — 13 w brzmieniu: „10) ministra właściwego do spraw gospodarki; 11) ministra właściwego do spraw przemysłu; 12)ministra właściwego do spraw nauki i szkolnictwa wyższego; 13) Rzecznika Małych i Średnich Przedsiębiorców.” 62 c/ w art. 7 ust. 3 projektu ustawy o AI skreśla się pkt. 6 i pkt. 13, d/ w art. 18 ust. 2 pkt. 6 otrzymuje nowe brzmienie „nie była karana prawomocnym wyrokiem za przestępstwo umyślne lub za umyślne przestępstwo skarbowe”. E/ Uchwały Społecznej Rady do spraw Sztucznej Inteligencji. Projektodawca w art. 30 ust. 3 projektu ustawy o AI przyjmuje, że Rada w sprawach określonych w art. I ust. I ustawy w zakresie innym niż przekazany przez Komisję może wyrazić opinię lub stanowisko z własnej inicjatywy w drodze uchwały podjętej większością głosów. Regulacją ta wywołuje dwie istne wątpliwości. Po pierwsze odesłanie do spraw określonych w art. I ust. 1 projektu ustawy o AI jest odesłaniem pustym, gdyż art. 1 projektu ustawy o AI dzieli się na punkty, a nie na ustępy. Należałoby zatem wyjaśnić, w których sprawach nie objętych przekazaniem przez Komisję do wyrażenia przez Radę opinii lub stanowiska spośród spraw wymienionych w art. 1 projektu ustawy o AI Rada może wyrazić z własnej inicjatywy własną opinię lub stanowisko, czy we wszystkich sprawach z art. 1 projektu ustawy o AI, czy też jedynie w sprawach określonych w art. 1 pkt. 1 projektu ustawy o AI. Druga z kolei wątpliwość zasadza się w tym, iż skoro w sprawach nie przekazanych Radzie przez Komisję do wyrażenia opinii lub stanowiska Rada podejmuje uchwały zwykłą większością głosów pełnego jej składu, to pojawia się pytanie jaką większością głosów i przy obecności jakiego quorum głosujących Rada w drodze uchwały wyraża opinie i stanowiska w zakresie spraw objętych przekazaniem Radzie przez Komisję do wyrażenia opinii lub stanowiska. Niestety stosownej regulacji w tym zakresie próżno szukać w projekcie ustawy o AI. F/ Projektodawca w art. 43 ust. 2 zd. 2 projektu ustawy o AI w uzasadnionych przypadkach dopuszcza przeprowadzanie czynności kontrolnych poza formą zdalną także przy użyciu przesyłek rejestrowanych lub kurierskich doręczanych w dodatku za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23.11.2012 r. — Prawo pocztowe. Jeżeli organ kontrolujący zainteresowany jest doręczaniem kontrolowanemu przesyłek za pośrednictwem operatora pocztowego jako przesyłek rejestrowanych lub kurierskich, to oczywiście takie rozwiązanie wątpliwości budzić nie może. Natomiast wniosek wynikający z przedmiotowej regulacji dotyczący samego kontrolowanego, z którego wynikałoby, że kontrolowany także doręczając pewne dokumenty, czy też próbki, materiały, towary etc. podmiotowi kontrolującemu musi korzystać jedynie z przesyłek rejestrowanych lub kurierskich, a nie może przykładowo wskazując osobiście ich zawieść do organu kontrolowanego i złożyć na dzienniku podawczym, choćby w tym celu by zaoszczędzić na kosztach wysyłki przesyłki kurierskiej lub rejestrowanej, brzmi zgoła absurdalnie, jest pozbawiony podstaw racjonalnego wnioskowania i w dodatku jest niemożliwy do pogodzenia z regulacją art. 8 zd. 1 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn .dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców, wedle której przedsiębiorca może podejmować wszelkie działania, z wyjątkiem tych, których zakazują przepisy prawa. Skoro zatem przepisy projektu ustawy o AI nie zakazują doręczania osobiście do lokalu podmiotu kontrolującego dokumentów, materiałów, przesyłek, próbek, towarów etc. z pominięciem przekazywania ich przez operatora pocztowego w formie przesyłek rejestrowanych lub kurierskich, przeto nic nie stoi na przeszkodzie, by 63 przedsiębiorca poddany procedurze kontrolnej osobiście na żądane przez kontrolującego materiały, dokumenty, próbki, towary etc. dostarczył osobiście do lokalu podmiotu przeprowadzającego kontrolę. art. 5 i kolejne w rozdziale GRAI Uwaga o charakterze ogólnym Przepisy projektu ustawy odnoszące się do nadzoru, zgłaszania poważnych incydentów, nakładania kar itd. są bardzo rozbudowane, natomiast przepisy dotyczące działań z zakresu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów sztucznej inteligencji – bardzo hasłowe, ogólne, znajdujące się jedynie w dwóch artykułach projektowanej ustawy. Konieczność rozbudowania przepisów dotyczących konkretnych propozycji rozwoju AI w Polsce - o konkretne propozycje działań, które pozwolą na rozwój AI w Polsce. Rolą Komisji powinno być uprawnienie do przedstawiania rządowi konkretnych propozycji działań i dbanie (wnioskowanie) o zabezpieczenie odpowiednich środków finansowych na ich realizację. Proponujemy wykorzystać to, co eksperci GRAI wypracowali w ramach prac Podsekcji: „Wsparcie dla biznesu” i które to propozycje znalazły się w projekcie dokumentu strategicznego „Polityka AI”, a w części także w propozycji do „Strategii Cyfryzacji” przekazanej do Ministerstwa Cyfryzacji”: WSPARCIE DLA BIZNESU: CEL GŁÓWNY: Rozwój polskiej gospodarki i zwiększenie konkurencyjności firm na rynku globalnym przez efektywne wsparcie małych, średnich i dużych przedsiębiorstw w Polsce w opracowywaniu, komercjalizacji i wdrażaniu innowacji, w tym adaptacji i wykorzystaniu technologii sztucznej inteligencji (AI). Kluczowe jest zapewnienie skutecznego i efektywnego ekonomicznie rozwoju, wdrażania i umiędzynarodowienia inteligentnych produktów i usług wykorzystujących możliwości AI oraz innych przełomowych technologii (np. internet rzeczy, zaawansowana mechatronika). CELE POŚREDNIE: CEL: Rozwój polskich firm, w tym startupów w obszarze rozwoju AI i wdrażania innowacji CEL: Stworzenie ekosystemu prawno-finansowo-techniczno-edukacyjnego przyjaznego przedsiębiorcom, w tym głównie startupom i MŚP do rozwoju AI i wdrażania innowacji w Polsce; CEL: Zapewnienie wykwalifikowanych zasobów kadrowych do efektywnego wdrażania AI przez firmy w Polsce CEL: Zwiększenie świadomości i wiedzy na temat AI wśród przedsiębiorców CEL: Ułatwienie dostępu do technologii AI dla firm różnej wielkości CEL: Stymulowanie innowacji i badań w dziedzinie AI 64 DZIAŁANIA, KTÓRE POZWOLĄ NA OSIĄGNIĘCIE CELÓW: LEGISLACJA: - dostosowanie polskich regulacji prawnych do AI Act (przepisy wdrażające AI Act, które będą pozbawione nadmiernych ograniczeń legislacyjnych i restrykcyjnych norm prawnych w zamian za stworzenie bezpiecznych i racjonalnych warunków otoczenia prawnego dla rozwoju AI w Polsce i dadzą szansę na konkurowanie polskich firm w tym obszarze z przedsiębiorcami na świecie; - skupienie mechanizmów centralnych instytucji nadzoru i mechanizmów dopuszczania rozwiązań (AI Act Conformance) na systemach wysokiego ryzyka i zabronionych (pozostałe obszary poddane powinny być istniejącemu systemowi nadzoru nad rynkiem, i uwzględniać branżowe kodeksy dobrych praktyk jako punkt odniesienia dla wykazania należytej staranności); - prawne regulacje obejmujące udogodnienia dla polskich firm w wykorzystaniu AI, w tym przede wszystkim dla startupów i MŚP. ZASOBY TECHNICZNE: Platforma Wsparcia Technologicznego: - darmowy marketplace narzędzi i oprogramowania w zakresie AI i rozwiązań komplementarnych dla MŚP; - darmowy dostęp do chmury obliczeniowej dla startupów i małych firm do testowania i rozwijania aplikacji AI – piaskownice rozwiązań; ułatwienie dostępu do danych: - udostępnienie firmom publicznych zbiorów danych do testowania i rozwijania algorytmów AI; - tworzenie wspólnych przestrzeni danych (data spaces) z danymi branżowymi dla firm; rozwój efektywnej ekonomicznie i przyjaznej dla środowiska infrastruktury obliczeniowej (polskie możliwości obliczeniowe) - tu ostateczne działania zaplanować w łączności z sekcją: „Piaskownice regulacyjne” w następującym zakresie tematycznym: - fabryki AI i dostęp do superkomputerów dla start-upów; - wdrożenie przez Polskę zaleceń EuroHPC - integracja z istniejącą infrastrukturą; - proces wnioskowania o dostęp do infrastruktury obliczeniowej dla start-upów; opracowanie efektywnego procesu; identyfikacja możliwości wsparcia dla start-upów; reguła transparentności z API, a nie tylko dokumentacji; rozdział odpowiedzialności w procesie wnioskowania; - Piaskownice Regulacyjne AI: AI Compute Hub i Wirtualny Instytut Badawczy (WiB); - mapowanie istniejących Piaskownic Regulacyjnych w UE i na świecie; - analiza i wybór branż i technologii do zaadresowani; - identyfikacja rynkowych ekspertów, liderów; - stworzenie koncepcji piaskownicy (sandboxa) dla sektora publicznego lub prywatnego, pod nadzorem WIB Office; 65 - formuła utworzenia Poliversum (edge) wraz z funduszami / grantami i PL GRID, szczegółowa analiza obecnej infrastruktury PL GRID, ocena potencjalnych usprawnień; FINANSE: ulgi podatkowe dla firm opracowujących i wdrażających innowacje, w tym te z obszaru AI; coroczne środki budżetowe na wsparcie rozwoju polskich firm w obszarze AI; niezwłoczne uruchomienie i sprawne działanie Funduszu AI; skuteczne pozyskiwanie środków zewnętrznych na rozwój polskich, innowacyjnych technologii z wykorzystaniem AI - np. z dostępnych programów pomocowych; szybkie granty i mikrofinansowanie: - uruchomienie programu małych grantów (np. do 50,000 PLN) na szybkie wdrożenie projektów AI w firmach; - programy mikrofinansowania dla startupów AI z uproszczonymi procedurami aplikacyjnymi; EDUKACJA: przygotowanie kadr do skutecznego wykorzystywania AI w Polsce: - programy edukacyjne na poziomie szkoły podstawowej i szkoły średniej (dzieci i młodzież szkolna), - nowe kierunki studiów dot. AI (młodzież, studenci), - wypracowanie we współpracy twórców AI, uczelni i regulatora AI zasad odpowiedzialnej inżynierii i certyfikacji z nią związanych dla systemów AI wysokiego ryzyka, na wzór przemysłu lotniczego i budownictwa. - kursy, szkolenia – dla osób, które chcą się przebranżowić i pracować w obszarze dot. AI (dorośli); programy szkolenia w zakresie odpowiedzialnego wdrażania i projektowania rozwiązań wykorzystujących AI: - repozytorium kursów stacjonarnych i kursów online z podstaw AI zwłaszcza dla małych przedsiębiorstw z niewielką świadomością dotyczącą praktyk rynkowych i małą adopcją rozwiązań AI; - propagowanie darmowych zasobów wiedzy dot. AI w postaci e-booków, webinarów, nagrań video; WSPARCIE MERYTORYCZNE/ WPARCIE EKSPERTÓW DLA PRZEDSIĘBIORCÓW ROZWIJAJĄCYCH AI: sieci mentorów i ekspertów: - tworzenie sieci mentorów i konsultantów AI, którzy mogą doradzać MŚP w kwestiach technologicznych i biznesowych; - organizowanie regularnych spotkań i sesji mentoringowych online; inkubatory i akceleratory AI: 66 - tworzenie programów inkubacyjnych i akceleracyjnych dedykowanych startupom AI; - zapewnienie wsparcia w postaci mentorów, finansowania początkowego oraz dostępu do technologii; wsparcie w certyfikacji i standaryzacji: - ogólnodostępne repozytorium regulacyjne, wraz z interpretacjami prawnymi i technologicznymi; - szerzenie tej świadomości poprzez serie warsztatów i seminariów; - wsparcie merytoryczne w procesach certyfikacji, pomoc prawna. PROMOCJA I INFORMACJA: zaplanowanie i realizacja działań informacyjno – promocyjnych dla startupów i MŚP z zakresu możliwości efektywnego rozwoju AI i innowacji w Polsce, w tym stworzonego dla tego rozwoju ekosystemu prawno-finansowo-techniczno-edukacyjnego; promocja polskich produktów i usług wykorzystujących AI w celu zwiększenia konkurencyjności firm; pilotażowe projekty AI: - zwinne Proof of Concept z możliwością skalowania dla kluczowych branż w kraju z zaangażowaniem firm polskich, które mają doświadczenie w budowaniu rozwiązań AI; - system nagradzania firm biorących udział w projektach PoC – dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; hackathony i konkursy innowacji: - wybór realnych przypadków biznesowych realizujących cel społeczny (użyteczny dla społeczeństwa) i organizacja konkursów wyłaniających najlepsze rozwiązania rozwiązujące problem za pomocą AI; - system nagradzania podobny jak w przypadku Proof of Concept - dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; kampanie Informacyjne i edukacyjne: - kampanie medialne promujące korzyści z zastosowania AI w biznesie; - informowanie o dostępnych programach wsparcia, grantach i szkoleniach. Propozycje bardziej szczegółowe– poniżej – w Dodatkowych uwagach. Art. 5 i nast. AI CHAMBER Jak wskazano już powyżej koncepcja przyjęcia rozwiązań instytucjonalnych wprost z ustawy o nadzorze finansowym ma zalety, ale analiza tych przepisów budzi wątpliwości nie tylko natury ogólnej, ale też co do poszczególnych przyjętych rozwiązań. Samo powołanie nowej, wyspecjalizowanej instytucji zasługuje na poparcie - żadna z istniejących nie posiada odpowiednich kompetencji i jest zorientowana na zupełnie inne cele. Wątpliwości może jednak budzić sama koncepcja organu kolegialnego, jego skład oraz forma prawna. 67 Art. 5 KIGEiT Art. 5 powinien zaczynać się treścią Art. 83 i Art. 84 ust.1 Przepisy Art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od 0. dlatego obecnie przepisy Art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w Art. 5 - jako przepis prawa materialnego Art. 5 PIIT Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1, Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych / zlikwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od podstaw. Dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji. wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Art. 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Nazwa Komisji (art. 5) Nazwa Komisji w obecnym brzmieniu dotyczy rozwoju i bezpieczeństwa sztucznej inteligencji. Ustawa zaś mówi o „systemach sztucznej inteligencji”. Proponujemy ujednolicić i wszędzie jednak stosować „systemy sztucznej inteligencji”. Art. 5 Osoba fizyczna jk Powinien zostać przeniesiony przed art. 31. Najpierw opis samej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej działalności, później jej Biura - nawet jeżeli Biuro jest przywoływane w artykułach 6-30 Art. 5 ust. 1 ISSA Polska Warto zmienić z “państwowej osoby prawnej” na “urząd/organ administracji rządowej/publicznej” - decyzje Komisji będą podlegać procedurze odwoławczej zgodnie z kpa. Art. 5 ust. 1 SKwP Zadaniem Biura Komisji jest zapewnienie obsługi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Może warto rozważyć, i Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji - nazwać inaczej, np. Urząd ds. AI. Wtedy należy budować strukturę wewnętrzną: Biuro, Komisję i Radę. Dalej w Biurze będzie dyrektor i pracownicy? Komisja ma przewodniczącego. 68 Art. 5 ust. 1. PWPW dot. Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Jakie jest uzasadnienie aby Biuro Komisji posiadało status państwowej osoby prawnej. Dla porównania np. UOKIK, PUODO nie posiadają takiego statusu. Z podmiotów publicznych UKNF jest tylko taką osobą prawną. Należy wskazać, że ww. okoliczność może mieć wpływ na zakres odpowiedzialności odszkodowawczej Skarbu Państwa za wadliwe działania Komisji i Biura względem podmiotów nadzorowanych. Art. 5 ust. 1. PIIT Komisja ...... jest państwową osobą prawną. Konsekwentnie należy dalej używać wyrazu “Komisja”, zamiast “Biuro Komisji” na oznaczenie tej państwowej osoby prawnej (agencji). Art. 5 ust. 1 GRAI Biuro Komisji W projekcie ustawy zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem, w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Art. 5 ust. 1 Osoba fizyczna Przyjęcie dla aparatu administracyjnego nazwy „Biuro” odbiega od praktyki legislacyjnej dotyczącej tworzenia nazw organów i urzędów administracji publicznej. Dlatego też należy wprowadzić termin Urząd ds. nadzoru nad sztuczną inteligencją, co będzie odpowiadało zarówno treści ustawy, jak i zadaniom Komisji. Art. 5 ust. 1 Fundacja FinTech Poland Przepis wzorowany jest na przepisie art. 3 ustawy o nadzorze nad rynkiem finansowym, przy czym Komisja jest organem kolegialnym z którego wybiera się przewodniczącego. Sugerujemy przeanalizować czy jest to wariant optymalny. Struktura rynku w przypadku sztucznej inteligencji różni się od rynku finansowego dość znacznie. Jak wynika z OSR już obecnie ze sztucznej inteligencji korzysta 330 tys. przedsiębiorców. Do rozważenia pozostaje czy nadzoru nad tak rozproszonym rynkiem nie powierzyć na wzór Hiszpanii Agencji lub tak jak w Austrii już istniejącemu organowi. Art. 5 ust. 1 i ust. 4 AI CHAMBER przyjęta konstrukcja prawna jest dość niejasna. Biuro KRiBSI jest to osobą prawną, a Przewodniczący organem, ale Biura. Dlaczego nie zdecydowano się na ustanowienie centralnego organu administracji państwowej, na kształt Prezesa UOKiK lub UKE? 69 Art. 5 ust. 2 Osoba fizyczna Głównym zadaniem nowego organu administracji publicznej jest nadzór nad systemami sztucznej inteligencji. Dlatego też prawidłowe jest nazwanie organu administracji publicznej, np. Komisja ds. nadzoru nad sztuczną inteligencji. Inną nazwą oddającą charakter i zadania organu moz0e być Komisja ds. bezpieczeństwa sztucznej inteligencji. Taka nazwa wskazuje w sposób jednoznaczny na główny cel funkcjonalny ustawy, a mianowicie zapewnienie bezpieczeństwa w związku ze stosowaniem sztucznej inteligencji przez społeczeństwo i rynek. Należy zwrócić uwagę, że nowy organ w swych kompetencjach, określonych w art. 11 projektu ustawy, nie ma rozwoju Sztucznej Inteligencji. Przyjęcie tego elementu w nazwie będzie budziło wątpliwości co do zadań i kompetencji Komisji oraz wprowadza w błąd destynatariuszy organu. Art. 5 ust. 1 i 2 oraz inne GRAI Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. Nazwa „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” – sugeruje zawężony zakres działania Komisji do rozwoju i bezpieczeństwa i może wywoływać uzasadnione wątpliwości do rzeczywistej roli, jaką ma pełnić. Szczególnie, że z projektowanych przepisów wiemy, że Komisja będzie działała w szerszym zakresie. Ponadto należy założyć, że jej kompetencje w czasie będą się rozwijały. Dodatkowo, należy zauważyć, że proponowana nazwa organu nadzoru „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” jest zbędnym opisem w nazwie oczekiwanych działań organu. Zwłaszcza, że zakres kompetencyjny będzie stopniowo rozszerzany, a nacisk w zakresie działalności również będzie odmienny w zależności od okresu i stanu prawnego. W przypadku zmiany nazwy organu zmianie ulegnie również nazwa Biura. Rekomendujemy zmianę nazwy organu na „Komisję do spraw Sztucznej Inteligencji”. Będzie to rozwiązanie podobne do stosowanego w innych krajach członkowskich UE, oraz uwzględniającą w przyszłości dalszy rozwój kompetencji organu. Konsekwencją tej zmiany będzie zmiana nazwy Biura Komisji. 70 Art. 5 ust. 2 GRAI Uwaga redakcyjna Oczywista omyłka pisarska – zastosowanie podwójnej numeracji ust. 2. Zmiana numeracji ustępów w art. 5 projektu ustawy. Art. 5 ust. 3 Osoba fizyczna Zgodnie z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689) właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. Przyjęcie rozwiązania, w ktorym organ nadzoru Komisja - jest organem Biura Komisji Rozwoju i Bezpieczeństwa SI, a samo Biuro pozostaje pod nadzorem Prezesa Rady Ministrów nie spełnia warunku niezależności i bezstronności, bowiem proponowana podległość pod organ polityczny stwarza ryzyko politycznej zależności i stronniczości. Ponadto w ust.3. nie wskazano charakteru i zakresu nadzoru sprawowanego przez Prezesa Rady Ministrów wobec Biura Komisji, jakie środki prawne może użyć i na jakich zasadach. Niedookreślenie tego aspektu budzi jeszcze większe wątpliwości co do bezstronności i niezalez0nosci organu nadzorczego nad SI. Art. 5 ust. 2,4,5 Osoba fizyczna W ust. 4. przyjęto, że Komisja jest organem Biura Komisji, co sugeruje, że Komisja jest częścią Biura Komisji, a nie osobną jednostką organizacyjną, której Biuro Komisji zapewnia obsługę. W ust. 2. jest napisane, że zadaniem Biura Komisji jest zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Natomiast w ust. 4. jest napisane, że Przewodniczący Komisji kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Jednak w ust. 5. jest napisane, że Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji, co sugeruje, że Przewodniczący Komisji nie jest najwyższym organem Biura Komisji, ale tylko jednym z pracowników. Wewnętrzna niespójność logiczna powoduje, że należy przeredagować cały artykuł, wskazując Komisje jako organ a Biuro/Urząd jako aparat obsługujący Komisję. Jednocześnie należy zapewnić Przewodniczącemu Komisji zwierzchność kompetencyjną, służbową, organizacyjną, i finansową nad Biurem/Urzędem. art. 5 ust. 4 AI CHAMBER należy sprecyzować o nadzór nad jakim rynkiem (“systemów sztucznej inteligencji”) lub (mając na uwadze treść art. 6 ust. 1) kreślić słowa “która jest właściwa w sprawach nadzoru nad rynkiem”. art. 5 ust. 4 KIGEiT Propozycja zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku art. 5 ust. 5 KIGEiT Rekomendacja: Podział na różne poziomy nadzoru w zależności od ryzyka: \"Komisja klasyfikuje systemy sztucznej inteligencji według poziomów ryzyka, przy czym systemy niskiego i średniego ryzyka nie podlegają pełnej procedurze zgodności ani kontrolom ex ante. 71 Systemy o wysokim ryzyku (np. w dziedzinie medycyny, transportu autonomicznego) podlegają bardziej rygorystycznym wymogom. Jednakże, firmy mogą skorzystać z uproszczonych procedur, jeśli udowodnią, że ich systemy są wystarczająco zabezpieczone przed potencjalnymi zagrożeniami.\" , Art. 5 ust.5 (Zadania Komisji) definiuje, że Komisja ma za zadanie przeciwdziałać zagrożeniom związanym z systemami AI, ale przepisy te można rozwinąć, uwzględniając podejście oparte na ryzyku. Dzięki propozycji podmioty rozwijające systemy, które nie charakteryzują się wysokim ryzykiem, nie byłyby narażone na nadmierne koszty związane z regulacjami, co mogłoby sprzyjać ich rozwojowi, podczas gdy ryzykowne technologie byłyby odpowiednio kontrolowane. art. 5 ust. 5 GRAI Projekt zakłada, że Przewodniczący Komisji i Zastępcy są pracownikami Biura Komisji. Mając jednak na uwadze treść art. 32 ust. 5 projektu ustawy osobą wykonującą obowiązki z zakresu prawa pracy względem pracowników Biura Komisji będzie Dyrektor Biura Komisji. W zakresie, w jakim te czynności miałby wykonywać względem Przewodniczącego lub Zastępców Przewodniczącego może to powodować uzasadniony konflikt kompetencyjny (zgodnie z projektem to Przewodniczący podlega Dyrektorowi). Art. 6 KIGEiT Rekomendacja: Harmonizacja regulacji: \"Komisja we współpracy z organami UE i międzynarodowymi organizacjami AI opracowuje wspólne standardy oceny zgodności systemów AI, tak aby firmy działające w Polsce mogły łatwo wejść na rynki międzynarodowe. Komisja będzie dążyć do zapewnienia, że przepisy krajowe nie nakładają na przedsiębiorców większych obciążeń regulacyjnych niż te wymagane przez standardy międzynarodowe.\" , Art. 6 (Współpraca z organami UE) określa współpracę Komisji z innymi organami w ramach Unii Europejskiej, ale warto rozwinąć ten zapis, by zapewnić, że przepisy w Polsce nie będą odbiegać od międzynarodowych standardów. Dzięki temu firmy polskie będą mogły swobodnie operować na rynkach globalnych, bez potrzeby dostosowywania się do różnych reżimów regulacyjnych. Art. 6 ust. 1. PIIT Wykreślenie ust. 1 art. 6, przeniesienie zadania do art. 11. , Zadanie w postaci nadzoru nad rynkiem powinno być w katalogu zadań w art. 11, nawet jeżeli jest traktowane jako podstawowe. Art. 6 ust. 1 Polskie Towarzystwo Informatyczne W zakresie kompetencji nadzorczych Komisji wymienione są systemy AI, jednak wynikiem ich działania mogą być także usługi świadczone przez te systemy. Zatem wskazane jest rozszerzenie zakresu kompetencji nadzorczych Komisji również w zakresie usług AI Propozycja Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji oraz usług opartych na AI. Zawężenie zakresu kompetencji Komisji może uniemożliwić jej nadzór w sytuacji, gdy na terenie kraju dostępne są usługi AI poprzez kanały elektroniczne a nie systemy. Art. 6 ust. 1 Krajowy Instytut Mediów Zasadność wyznaczenia organów nadzoru rynku spośród obecnie istniejących organów 72 1. Na podstawie art. 70 ust. 1 rozporządzenia 2024/1689 państwa członkowskie obowiązane są do wskazania organu lub organów nadzoru rynku dla systemów sztucznej inteligencji. Rozwiązaniem rekomendowanym przez projektodawcę w tej kwestii jest powołanie nowego organu nadzoru rynku, co jak wskazano w Ocenie Skutków Regulacji, pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących m.in. niezależności organu nadzoru. 2. W odpowiedzi na powyższą argumentację należy zaznaczyć, że w Polsce, wśród wymienionych przez projektodawcę instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, mających wchodzić w skład nowego organu nadzoru rynku, istnieją organy, których status jest w zasadzie niezależny, takie jak Krajowa Rada Radiofonii i Telewizji, formalnie niepodporządkowana innym organom państwowym, w szczególności zaś Radzie Ministrów. Uregulowanie konstytucyjnej pozycji KRRiT stanowi przeniesienie określonych zadań egzekutywy na rzecz podmiotu leżącego poza jej strukturą organizacyjną, przez co racją istnienia KRRiT jest wykonywanie powierzonych jej zadań w sposób niezależny od rządu. 3. W wyroku z 23.03.2006 r., K 4/06, OTK-A 2006, nr 3, poz. 32, Trybunał Konstytucyjny zaznaczył, że szczególna pozycja KRRiT, jako organu kontroli i ochrony prawa, łączącego w sobie funkcje zarządu i kontroli, którego kompetencje i sposób powoływania określa Konstytucja, pociąga za sobą pełną autonomiczność Krajowej Rady w stosunku do Rady Ministrów i jej Prezesa. Świadczy o tym treść art. 6 ust. 2 pkt 1 ustawy o radiofonii i telewizji, w myśl którego do zadań Krajowej Rady należy projektowanie, w porozumieniu z Prezesem Rady Ministrów, kierunków polityki państwa w dziedzinie radiofonii i telewizji. Przepis ten wskazuje na partnerski, równoprawny charakter stosunków między Krajową Radą a Prezesem Rady Ministrów. O niezależności KRRiT od Rady Ministrów świadczy także fakt, że przedstawia ona sprawozdanie ze swej działalności Sejmowi, Senatowi i Prezydentowi, natomiast Prezesa Rady Ministrów jedynie informuje o swoich dokonaniach. Ponadto, ze względu na szczególną pozycję Krajowej Rady, nie ma do niej zastosowania art. 146 Konstytucji RP ustanawiający kompetencje Rady Ministrów do kierowania i kontrolowania pracy wszystkich organów administracji rządowej. 4. Projektodawca argumentując na rzecz zasadności powołania nowego organu nadzoru rynku dla systemów sztucznej inteligencji uznał ponadto, że posunięcie to pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Odnośnie do organów kluczowych w zakresie nadzoru nad sektorem technologii cyfrowych należy zauważyć, że co prawda pod względem przedmiotowym zakres działania KRRiT obejmuje radiofonię i telewizję, a więc co do zasady wyłączone z niego zostały inne środki społecznego przekazu, również elektroniczne formy masowego komunikowania, jednakże pojęcia radiofonii i telewizji nie zostały w Konstytucji RP sprecyzowane, przez co nie jest wykluczone przyjęcie ich „dynamicznej” i ewolucyjnej wykładni w związku z rozwojem technologicznym w dziedzinie środków społecznego przekazu. Co istotne, Krajowa Rada została wyposażona w kompetencje do inicjowania postępu naukowo – technicznego i kształcenia kadr w dziedzinie radiofonii i telewizji. Zadaniem KRRiT jest też upowszechnianie umiejętności świadomego korzystania z mediów (edukacji medialnej) oraz 73 współpraca z innymi organami państwowymi, organizacjami pozarządowymi i innymi instytucjami w zakresie edukacji medialnych. Dla realizacji tych zadań, istotnych z punktu widzenia funkcjonowania systemów AI w wielu różnych obszarach życia społecznego, Krajowa Rada Radiofonii i Telewizji ma kluczowe znaczenie. 5. W związku z powyższym za logiczne należałoby uznać poszerzenie ustawowych kompetencji KRRiT o przeciwdziałanie zjawisku deepfake w mediach elektronicznych, a także o zwalczanie działań polegających na wykorzystywaniu sztucznej inteligencji do manipulowania zachowaniami użytkowników oraz wizerunkiem osób publicznych za pośrednictwem mediów i platform internetowych, zwłaszcza że od 1 listopada 2021 r. Krajowa Rada jest wyposażona w kompetencje kontrolne względem platform udostępniania wideo, zdefiniowanych w ustawie o radiofonii i telewizji jako: usługa świadczona drogą elektroniczną w ramach prowadzonej w tym zakresie działalności gospodarczej, jeżeli podstawowym celem lub zasadniczą funkcją tej usługi lub jej dającej się oddzielić części jest dostarczanie ogółowi odbiorców w celach informacyjnych, rozrywkowych lub edukacyjnych audycji, wideo stworzonych przez użytkowników lub innych przekazów. Platformy udostępniania wideo niewątpliwie są więc częścią platform internetowych, definiowanych jako usługi świadczone z wykorzystaniem systemu teleinformatycznego. 6. W pozostałym zakresie nadzór nad rynkiem dla systemów sztucznej inteligencji powinien zostać podzielony pomiędzy już istniejące organy administracji publicznej, zdolne do kompleksowego podejścia do nowych zagadnień z tej sfery. Kierunek ten należy uznać za słuszny, zwłaszcza że w motywie 3 rozporządzenia 2024/1689 wskazano, że systemy AI mogą być łatwo wdrażane w wielu różnych sektorach gospodarki i obszarach życia społecznego, a w motywie zaznaczono, że zharmonizowane przepisy ustanowione w niniejszym rozporządzeniu powinny mieć zastosowanie we wszystkich sektorach. Okolicznością przemawiającą za racjonalnością wskazanego modelu jest dysponowanie przez istniejące organy administracji publicznej kompetentnymi pracownikami, posiadającymi wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach takich jak technologie informacyjne oraz nadzór nad prawami podstawowymi, co umożliwi im należyte wykonywanie powierzonych zadań. Realizowanie działań w obrębie wymienionych dziedzin odbywa się m.in. w ramach struktur KRRiT, stojącej na straży wolności słowa w radiu i telewizji, samodzielności dostawców usług medialnych oraz dostawców platform udostępniania wideo, interesów odbiorców usług i użytkowników oraz zapewniającej otwarty i pluralistyczny charakter radiofonii i telewizji (art. 6 ust 1 ustawy o radiofonii i telewizji). 7. Reasumując powyższe rozważania, za zasadne należałoby uznać wyznaczenie organów nadzoru rynku spośród obecnie istniejących organów, przy czym w kompetencje w tym zakresie z pewnością powinna zostać wyposażona Krajowa Rada Radiofonii i Telewizji. Art. 6 ust. 1 Związek Pracodawców Technologii 1. Potrzeba powołania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uważamy, że należy ponownie rozważyć niezbędność powołania kolejnego organu regulacyjnego działającego w sferze cyfrowej. Pod uwagę należy wziąć nie tylko fakt, że: 74 Cyfrowych Lewiatan • będzie to jeden z wielu regulatorów specjalnie dedykowanych dla sfery cyfrowej (UKE, praktycznie UODO) lub w znacznej części zajmujących się sferą cyfrową (UOKiK, ABW, KNF) • powołanie takiego regulatora będzie w praktyce oznaczało, że kolejne akty prawne związane z sferą cyfrową, także będą potrzebowały swoich regulatorów; przykłady to akt w sprawie danych czy europejska przestrzeń danych dotyczących zdrowia • praktyka w innych krajach UE: jeśli zadania związane z regulacją systemów sztucznej inteligencji w innych krajach członkowskich UE będą delegowane do istniejących już organów regulacyjnych będziemy mieli kolejny przykład niespójności europejskich regulacji Warto zwrócić uwagę na zapis z Uzasadnienia do projektu ustawy: „Akt o AI jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych.” Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. art. 6 ust. 1 i 3 GRAI Zgodnie z postanowieniem art. 74 ust. 6 rozporządzenia 2024/1689: „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” Z zapisu art. 6 pkt 1 wynika natomiast iż Komisja jest jedynym organem nadzoru w zakresie systemów sztucznej inteligencji. Z punktu 3 wynika, iż Komisja współpracuje z KNF w zakresie spraw wskazanych w art. 74 ust. 6 rozporządzenia. Proponowane rozwiązanie: Dodanie zastrzeżenia w art. 6 pkt. 1, że w przypadku systemów AI wysokiego ryzyka stosowanych przez instytucje finansowe organem nadzoru jest Komisja Nadzoru Finansowego. 75 art. 6 ust.1 punkty 1 oraz ust. 3 podpunkt 1 GRAI Uwzględniając: -postanowienia art. 74 ust. 6 rozporządzenia 2024/1689, które określają, że w przypadku systemów wysokiego ryzyka używanych przez instytucje finansowe odpowiedzialnym organem nadzoru jest krajowy organ odpowiedzialny za nadzór finansowy, w Polsce jest to KNF, -oraz zapisy art. 6 pkt. 1, które wskazują na istnienie jednego organu nadzorczego, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z jedynie współpracą z KNF, powstaje niejasność co do roli KNF w kontekście instytucji finansowych korzystających z systemów AI. Aktualne zapisy wydają się sprzeczne z art. 74 ust. 6 rozporządzenia 2024/1689. Istnieje potrzeba wyjaśnienia i doprecyzowania podziału kompetencji między KNF a Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w odniesieniu do instytucji finansowych stosujących systemy AI. Proponujemy zmiany doprecyzowujące te elementy zgodnie z zaproponowaną treścią, tak by być zgodnym z art. 74 ust. 6 rozporządzenia 2024/1689 oraz zapewnić spójna i jednolitą politykę nadzorczą w zakresie systemów AI dla całego rynku (ust. 3) Proponujemy zmianę treści na następującą: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji z zastrzeżeniem, że w przypadku systemów AI wysokiego ryzyka używanych przez instytucje finansowe, nadzór sprawuje Komisja Nadzoru Finansowego, zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja oraz Komisja Nadzoru Finansowego współpracują celem zapewnienia spójności sprawowanego nadzoru na rynkiem w zakresie systemów sztucznej inteligencji. 4. Komisja współpracuje z: 1) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz pozostałymi podmiotami, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854 oraz z 2024 r. poz. 1089) - w zakresie spraw, których mowa w art. 74 ust. 3 rozporządzenia 2024/1689); 2) Prezesem Urzędu Ochrony Danych Osobowych - w zakresie spraw, o których mowa w art. 57 oraz art. 74 ust. 8 rozporządzenia 2024/1689; 3) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 - w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 4) ministrem właściwym do spraw informatyzacji - w zakresie spraw związanych z notyfikacją, o których mowa w rozdziale 6 ustawy; 5) Pełnomocnikiem Rządu do Spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie 76 cyberbezpieczeństwa (Dz. U. z 2024 r. poz. 1077) - w zakresie spraw związanych z cyberbezpieczeństwem. 5. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej. Art. 6 ust. 1 i 3 (w szczególności pkt 1)) GRAI Projekt wskazuje, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Ust. 3 reguluje też obowiązek Komisji współpracy z innymi organami w zakresie spraw tam wskazanych. Konstrukcja tego przepisu może prowadzić do sprzeczności z treścią art. 74 rozporządzenia 2024/1689 w zakresie w jakim wskazuje, że w każdym przypadku Komisja działa jako właściwy organ nadzoru. Dla przykładu, ust. 3 pkt 1 nakłada na Komisję obowiązek współpracy z Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689. Przepis ten wskazuje jednak, że w przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych, organem nadzoru jest odpowiedni organ nadzoru nad rynkiem finansowym (w tym przypadku Komisja Nadzoru Finansowego). Oznacza to, że w zakresie tam wskazanym mamy rozdzielenie organów nadzoru. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych w zakresie w jakim wprowadzenie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych – organem nadzoru będzie Komisja Nadzoru Finansowego. W pozostałym zakresie (a więc systemy inne niż wysokiego ryzyka lub w zakresie systemów AI również wysokiego ryzyka jeśli nie są bezpośrednio związane ze świadczeniem usług finansowych – organem nadzoru pozostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tymczasem projektowany ust. 3 art. 6 nie rozróżnia tych sytuacji i przyjmuje generalnie zobowiązanie do współpracy. Proponuję, że art. 6 ust. 1 powinien przyjąć treść „Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w zakresie w jakim art. 74 rozporządzenia 2024/1689 nie stanowi inaczej. W przypadkach określonych w art. 74 ust. 3, ust. 6 i ust. 8 rozporządzenia 2024/1689 organy nadzoru określa ust. 3 poniżej.” Z kolei w ust. 3 art. 6 ustawodawca powinien podjąć decyzję czy kompetencje organu nadzoru wskazane w art. 74 ust. 6 rozporządzenia 2024/1689 przyznać Komisji Nadzoru Finansowego a nałożyć na Komisję Rozwoju tylko zobowiązanie do współpracy albo uznać Komisję Rozwoju za wyłączny podmiot nadzoru nad AI na rynku finansowym. 77 W przypadkach określonych w art. 74 ust. 3 i 8 rozporządzenia 2024/1689 relacja powinna przyjąć zobowiązanie Komisji Rozwoju do współpracy z jednoczesnym wskazaniem, co w tą współpracę wchodzi. Art. 6 ust. 2 KIGEiT Propozycja zapisu: \"Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w Art. 70 ust.1 Rozporządzenia 2024/1689.\" Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W Art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Art. 6 ust. 3 AI CHAMBER jeżeli istotne jest enumeratywne wymienienie instytucji, z którymi Komisja ma współpracować (powstaje tu pytanie, czy enumeratywna lista oznacza, że z innymi organami nie może współpracować), to należy uzupełnić tę listę przynajmniej o dowódcę komponentu wojsk obrony cyberprzestrzeni, o którym mowa w art. 23 ustawy o obronie ojczyzny. Art. 6 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prosimy o doprecyzowanie, w jaki sposób i na jakich zasadach przebiegać będzie współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”) a Komisją Nadzoru Finansowego i jak dokonany zostanie podział obowiązków. Art. 6 ust. 3 PIIT Doprecyzowanie kompetencji PUODO w pracach Komisji. , Niejasna relacja kompetencji PUODO w pracach Komisji – czy Komisja jednocześnie ma współpracować z PUODO i PUODO ma być członkiem Komisji? Kompetencje PUODO powinny być jednoznacznie określone, aby rola PUODO w poszczególnych działaniach była oczywista, czy działa jako Członek Komisji, czy też jako podmiot współpracujący z Komisją. Art. 6 ust. 3 ISSA Polska Postuluję dodanie do katalogu podmiotów, z którymi współpracuje Komisja również NASK - instytucję kompetentną w zakresie cyberbezpieczeństwa. Warto dodać także CSIRT sektorowe, zgodnie z ustawą KSC Art. 6 ust. 3 Związek banków Polskich 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; (...) 3a. Współpraca, o której mowa w ust. 3 polega na [uzupełnić] Niejasne jest określenie, na czym polegać ma współpraca z wymienionymi organami. W szczególności interesuje nas ew. zbieg właściwości w ramach współpracy KNF i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgodnie z Art. 74 ust. 6 i 7 AI Act: 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym 78 usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. Czy aktualne brzmienie art. 6 ust. 3 pkt 1). oznacza, że Polska skorzystała z odstępstwa przewidzianego w w/w ust. 7 i wyłącznie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie właściwa? W przypadku nieskorzystania z odstępstwa przepis powinien precyzować zakres współpracy, np. wskazywać, że współpraca z organami ma na celu zapewnienie spójnego nadzoru nad systemami SI, z zastrzeżeniem że np. w zakresie spraw, o których mowa w art. 74 ust. 6 AI Act, właściwym organem nadzoru jest KNF. art. 6 ust. 3 pkt 1 GRAI Niejasne wskazanie zakresu współpracy Komisji z Komisją Nadzoru Finansowego, brak rozwinięcia kwestii w dalszej części ustawy. Użycie sformułowania „w zakresie spraw” w odniesieniu do AI Act art. 74 ust. 6. „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” jest zbyt daleko idącym uproszczeniem skoro w AI Act mowa o generalnym nadzorze rynku. Doprecyzowanie w Ustawie podziału kompetencji między Komisją a KNF w stosunku do sektora finansowego. Optymalne byłoby wyłączenie sektora finansowego spod jurysdykcji Komisji. art. 6 ust.3 GRAI Komisja współpracuje... – wątpliwości może budzić „współpracuje”. Przykładowo „Komisja współpracuje z Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689” nie wyjaśnia co oznacza „współpraca”. Konieczność wyjaśnienie w uzasadnieniu do ustawy. art. 6 ust.3 pkt 1 Fundacja FinTech Poland W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakłada współpracę pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpracy z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres 79 takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować w przyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Art. 6 ust. 3 pkt 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Kompetencje Komisji a kompetencje innych organów nadzoru Zapis projektu ustawy w art. 6 w punktach 1 i 3 mówi: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. (...) 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; Wspomniany art. 74 rozporządzenia mówi z kolei 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. Ponieważ jest różnica pomiędzy „organem nadzoru jest”, a „Komisja współpracuje” z tym organem proponujemy dwa możliwe rozwiązania: Zapis dalej idący: „Organem właściwym dla nadzoru instytucji finansowych wykorzystujących systemy sztucznej inteligencji jest Komisja Nadzoru Finansowego” Uzasadnienie: ze względu na wieloletnie działania nadzorcze i idące z tym doświadczenie i znajomość sektora finansowego nadzór nad systemami sztucznej inteligencji – dla każdego ich rodzaju – pozostaje KNF. Zapis synchronizujący z AI Act – art. 6 ust. 3 punkt 1) przyjmuje brzmienie: „1) Komisją Nadzoru Finansowego – która jest organem właściwym w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 art. 6 ust. 4 Logicise “współpracuje z Urzędem do spraw AI” Niejasne o jakim urzędzie jest mowa. Czy zapis ten dotyczy np. Europejskiego Urzędu ds. Sztucznej Inteligencji czy może chodzi o organ na poziomie krajowym? Jakiego rodzaju kompetencje ma mieć wspomniany w tym artykule urząd do spraw AI? art. 6 ust. 4 KIGEiT Propozycja zapisu: Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Europejskim Urzędem do spraw Sztucznej Inteligencji, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii 80 Europejskiej. , Nie istnieje taka instytucja jak \"Urząd do spraw AI\" zgodnie z czym zastąpiono na \"Europejski Urząd do spraw Sztucznej Inteligencji\". art. 6 ust. 4 SKwP Urząd ds. AI to europejski UE, czy będzie taki w Polsce ? Jeżeli z UE, to taka nazwa powinna być także używana w Polsce, a nie Biuro. Art. 7 Fundacja Panoptykon Nie mamy zastrzeżeń do ogólnej konstrukcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Sugerujemy jednak wprowadzenie dodatkowych rozwiązań mających na celu doprecyzowanie przepisów dotyczących konfliktu interesów oraz zwiększenie przejrzystości procesu powoływania przewodniczącego Komisji. Skład Komisji Zgodnie z projektem w skład Komisji wejdą członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji m.in. ministra-koordynatora służb specjalnych. Udział przedstawiciela tej instytucji nie jest w żaden sposób wyjaśniony w uzasadnieniu projektu. Naszym zdaniem jego miejsce powinien zająć przedstawiciel ministra spraw wewnętrznych jako podmiotu mającego duże doświadczenie w zarządzaniu bazami danych osobowych (np. rejestr PESEL), a jednocześnie nadzorującego Policję i Straż Graniczną. Taka zmiana byłaby też uzasadniona zakresem regulacji. Art. 7 Związek Cyfrowa Polska Nowy organ nadzoru rynku. Ustawodawca, w wyniku przeprowadzonych prekonsultacji, zdecydował o powołaniu nowego organu nadzoru na rynkiem AI w Polsce – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zamiast wyposażenia w dodatkowe kompetencje z zakresu AI innych, już istniejących organów, takich jak UODO, UKE czy UOKiK. Oceniamy to rozwiązanie korzystnie, biorąc pod uwagę m.in. złożoną materię regulacji dot. AI, a także konieczność zaangażowania w to zadanie wysokiej klasy specjalistów. Dodatkowo jako korzystne rozwiązanie oceniamy wykorzystanie dotychczasowego doświadczenia oraz kompetencji istniejących organów, decydując się na włączenie ich przedstawicieli w skład nowo powołanej KRiBSI (art. 7 ust. 2 Projektu). Wskazać należy także, że w obliczu wieloaspektowego wpływu sztucznej inteligencji na społeczeństwo, konieczne jest, aby organ nadzorujący stosowanie ustawy o sztucznej inteligencji w Polsce posiadał możliwość zrównoważenia podstawowych praw i celów regulacyjnych. Mogą one obejmować, ale nie ograniczają się do konkurencji, innowacji, inwestycji bezpośrednich, prywatności, niedyskryminacji, wolności słowa i bezpieczeństwa. Takie względy, jak prawo do prowadzenia działalności gospodarczej i wspierania innowacji, są również kluczowe w ramach regulacyjnych. Dlatego też organ regulacyjny musi mieć zdolność i reżim ustawowy, które zapewnią, że będzie odpowiedzialny za przyjęcie holistycznego podejścia obejmującego cały rząd, które może ułatwić tę równowagę między prawami podstawowymi a promowaniem innowacji i wzrostu gospodarczego. Wymaga to zniuansowanego zrozumienia współzależności między różnymi celami polityki i zaangażowania w osiągnięcie równowagi, która służy szerszym interesom społeczeństwa. 81 Art. 7 GRAI Uzasadnienia wymaga dobór opcjonalnych uczestników posiedzeń Komisji. Jakie przyjęto kryterium przemawiające za umożliwieniem udziału w posiedzeniach przedstawicieli właśnie tych wskazanych organów? Art. 7 ICC Poland W Projekcie zaproponowano powierzenie funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 70 ust. 1 rozporządzenia 2024/1689) nowoutworzonemu organowi o charakterze kolegialnym – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”). Organ ten ma obejmować, oprócz Przewodniczącego i jego dwóch Zastępców, dziewięciu członków Komisji spośród przedstawicieli innych istniejących organów (art. 7 Projektu). Zaproponowane rozwiązanie polegające na nadaniu nowemu organowi nadzoru charakteru kolegialnego budzi jednak wątpliwości z perspektywy efektywności, w tym sprawności jego działania, w zestawieniu z licznymi zadaniami, jakie ma on wykonywać (por. art. 11 Projektu). Równocześnie wydaje się, że cele, jakimi projektodawca uzasadnia przyjęcie takiej formuły organizacji Komisji, w tym zapewnienie skoordynowanego nadzoru oraz umożliwienie współpracy pomiędzy regulatorami (s. 7-8 uzasadnienia Projektu), możliwe są do osiągnięcia również przy modelu organu jednoosobowego za pomocą alternatywnych mechanizmów, np. obligatoryjnych konsultacji. Z tego względu należałoby rozważyć, czy efektywniejszym rozwiązaniem nie byłoby wyznaczenie jako organu nadzoru w rozumieniu art. 70 rozporządzenia 2024/1689 organu jednoosobowego, jak to uczyniono chociażby w przypadku Prezesa Urzędu Ochrony Danych Osobowych w odniesieniu do obszaru ochrony danych osobowych, przy równoczesnym zapewnieniu odpowiedniego poziomu eksperckości i interdyscyplinarności przy pomocy wspierającego go urzędu lub biura. Nadzór nad rynkiem systemów sztucznej inteligencji będzie wymagał bowiem sprawnego i szybkiego działania – tak ze względu na niesamowite tempo rozwoju tej technologii, jak i z uwagi na bardzo poważne ryzyka, jakie systemy sztucznej inteligencji mogą stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W tym kontekście wątpliwości może budzić wymaganie podejmowania uchwał przez organ kolegialny w odniesieniu do niemal wszelkich jego zadań, w tym co do wydawania postanowień i decyzji w sprawie naruszenia przepisów o systemach sztucznej inteligencji. Podjęcie takiej uchwały wymagać będzie bowiem przynajmniej zwołania posiedzenia Komisji, zebrania odpowiedniego kworum, a wcześniej zapoznania się przez wszystkich członków Komisji z materiałami niezbędnymi do podjęcia decyzji. Nawet przy przyjętym założeniu odbywania tego rodzaju posiedzeń w formie zdalnej lub w trybie obiegowym (art. 8 ust. 7 i 9 Projektu), należy przewidywać, że działania te zajmować będą więcej czasu niż podjęcie decyzji przez organ jednoosobowy, nawet wtedy, gdyby miał on ściśle współpracować z odpowiednimi organami w zakresie ich właściwości (np. konsultacje). W uzasadnieniu Projektu wyjaśniono (s. 7 uzasadnienia Projektu), że przyjmując wskazaną formułę organizacji Komisji projektodawca kierował się modelem Komisji Nadzoru Finansowego. 82 Skład tego ostatniego organu ma jednak charakter zdecydowanie bardziej homogeniczny niż proponowany w odniesieniu do nadzoru nad systemami sztucznej inteligencji. O ile bowiem w skład Komisji Nadzoru Finansowego wchodzą organy i przedstawiciele organów posiadających kompetencje ściśle odnoszące się do różnych aspektów funkcjonowania rynku finansowego (np. właściwi ministrowie, NBP, Bankowy Fundusz Gwarancyjny, Prezes UOKiK), tak proponowany skład Komisji miałby obejmować przedstawicieli bardzo różnych organów, których zadania jedynie mogą – potencjalnie – wiązać się z rynkiem systemów sztucznej inteligencji. Przykładowo, przedstawiciele Rzecznika Praw Dziecka, czy też Krajowej Rady Radiofonii i Telewizji mieliby uczestniczyć w wykonywaniu wszelkich kompetencji Komisji, również tych niezwiązanych w żaden sposób z zakresem działania tych właśnie organów (mając głos równy z pozostałymi członkami Komisji). W uzasadnieniu Projektu wskazano, że proponowany model ma umożliwić realizację koncepcji nadzoru zintegrowanego nad systemami sztucznej inteligencji „łączącego kompetencje i eksperckość organów wchodzących w skład Komisji” (s. 7 uzasadnienia Projektu), jak i współpracę między regulatorami, w tym wymianę informacji w kwestiach dotyczących sztucznej inteligencji (s. 8 uzasadnienia Projektu). Wydaje się jednak, że cele te można osiągnąć w sposób efektywniejszy przez wykorzystanie innych mechanizmów, w tym obowiązkowych konsultacji lub wymogu zasięgnięcia przez organ nadzoru opinii organów, których zakresu działania dotyczy dana sprawa. Zadania, jakie Projekt powierza organowi nadzoru, z reguły nie będą bowiem obejmować zakresu działania wszystkich organów, które projektodawca uznał za kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI. Uzasadnia to dodatkowo rezygnację z włączenia ich wszystkich w proces realizacji każdego zadania organu nadzoru, a poprzestanie na punktowej integracji nadzoru nad systemami sztucznej inteligencji w odniesieniu do danej konkretnej sprawy, gdy tego ona wymaga. Powyższe uwagi skłaniają do postulatu rewizji kształtu Komisji jako kolegialnego organu nadzoru na korzyść organu jednoosobowego, co może zapewnić większą efektywność realizacji jego zadań. Art. 7 Instrat – Fundacja Centrum Cyfrowe Skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) Z zadowoleniem przyjmujemy decyzję o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kluczowa dla skutecznego wdrażania rozporządzenia 2024/1689, zwłaszcza w kontekście zapewnienia niezależności organu nadzorującego przestrzeganie przepisów AI Act. Widzimy również istotną rolę Komisji w koordynacji działań między kluczowymi instytucjami nadzorującymi sektor technologii cyfrowych, w tym sztucznej inteligencji, co uważamy za krok w dobrym kierunku. Jednocześnie wyrażamy obawy, że w proponowanej strukturze Komisji może brakować odpowiedniej liczby ekspertów posiadających techniczną wiedzę i umiejętności z zakresu rozwijania sztucznej inteligencji. Ustawa wprawdzie przewiduje, że przewodniczący powinien 83 wyróżniać się wiedzą w zakresie SI lub prawa oraz doświadczeniem zawodowym w dziedzinie cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Jednakże takie zapisy nie gwarantują, że na to stanowisko zostanie wybrana osoba z rzeczywistym zrozumieniem modeli SI. W związku z tym rekomendujemy usunięcie zapisu „lub prawa”, gdyż pozostałe wymogi – dotyczące wiedzy i doświadczenia w obszarze SI – umożliwiają także wybór specjalisty z zakresu prawa, o ile jego wiedza koncentruje się na sztucznej inteligencji. Uważamy ponadto, że samo wskazanie na kompetencje w zakresie cyfryzacji jest wystarczające, ponieważ tematy cyberbezpieczeństwa i technologii informacyjnych mieszczą się w tym pojęciu. Uważamy również, że w Komisji powinna znaleźć się nie jedna, a przynajmniej trzy osoby będące ekspertami w projektowaniu i wdrażaniu narzędzi sztucznej inteligencji. Zaangażowanie na stałe członków, którzy na co dzień zajmują się praktycznym rozwijaniem narzędzi SI, znacząco wzmocniłoby bowiem zdolność Komisji do oceny technologicznych wyzwań i potencjalnych zagrożeń związanych z poddawanym analizie systemom. Dlatego proponujemy rozważenie następujących rozwiązań: 1. rozszerzenie składu Komisji o dwóch ekspertów z zakresu SI, wybieranych w drodze otwartego i konkurencyjnego naboru (na wzór sposobu i kryteriów naboru na przewodniczącego), którzy będą zarazem pełnić funkcję wiceprzewodniczących (w razie nieobecności przewodniczącego), a którym przyznane zostanie prawo głosu. Rozwiązanie to umożliwi zapewnienie Komisji ekspertów posiadających specjalistyczną wiedzę, nie generując przy tym dodatkowych kosztów; albo 2. rozszerzenie składu Komisji o dwóch przedstawicieli takich instytucji jak chociażby Narodowe Centrum Badań i Rozwoju Ideas (NCBR Ideas) czy Naukowa i Akademicka Sieć Komputerowa (NASK). Jeśli formalne włączenie do Komisji wyżej zaproponowanych ekspertów nie będzie możliwe, rekomendujemy, aby przynajmniej zostały one uwzględnione jako podmioty wspierające, biorące udział w posiedzeniach z głosem doradczym. Art. 7 Fundacja FinTech Poland W projekcie brak jest sformułowania wymagań dot. kompetencji osób zasiadających w KRiBSI. Powinny to być osoby o bardzo wysokiej wiedzy technicznej i/lub prawniczej w zakresie sztucznej inteligencji. Dodatkowo wszyscy członkowie komisji powinni przejść szkolenie i egzamin, przygotowywane przez czołowe polskie uczelnie i ekspertów dziedzinowych, dotyczące działania modeli sztucznej inteligencji. Art. 7 Związek Pracodawców Technologii Cyfrowych Lewiatan Skład Komisji odzwierciedla dzisiejszy obraz organów regulacyjnych, ale nie zauważa niezwykle ważnych tematów, które będą musiały być regulowane w najbliższym czasie na podstawie aktów prawnych Unii Europejskiej. Należy tu przede wszystkim wymienić dwa akty, tj. akt w sprawie danych, który zaczyna być egzekwowalny już od września 2025 roku, a także będący na ostatnim etapie europejskiego procesu prawodawczego, rozporządzenia europejska przestrzeń danych dotyczących zdrowia (EHDS). Pominięcie organów, które zostały lub zostaną wskazane jako właściwe dla tych regulacji nie pozwoli Komisji na prawidłowe działania w przyszłości. Propozycja: zmiana w art. 7 ust. 2 poprzez dodanie: 84 10) innych organów regulacyjnych właściwych dla ochrony danych Art. 7 ust. 1 ISSA Polska Postuluję określenie sposobu wyłonienia Członków Komisji przez każdy z podmiotów uprawnionych do ich oddelegowania. Ponadto trybu ich odwoływania. Proponuję wskazanie, czy Członkowie Komisji powoływani są na kadencję, czy są to wspólne kadencje. Zmiana składu osobowego może negatywnie wpływać na ciągłość prac Komisji. Art. 7 ust. 1 ZPAV postuluje w tym miejscu rozszerzenie składu Komisji (art. 7 ust. 1 projektu ustawy) o przedstawiciela ministra właściwego do spraw kultury. Art. 7 ust. 1 ZAIKS Art. 7 ust. 1 Projektu otrzymuje następujące brzmienie: „Art. 7.1 W skład Komisji wchodzą Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziesięciu członków Komisji.\" Art. 7 ust. 1-2 Osoba fizyczna Propozycja zbudowania składu Komisji w oparciu o urzędników administracji rządowej (głównie) oraz działających na zasadach reprezentowania swoich mocodawców (piastunów organów politycznych), a więc osób całkowicie zalez0nych, nie gwarantuje stworzenia niezależnego organu nadzoru ds. sztucznej inteligencji, a jest to przecież wymóg wynikający z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689). Ponadto dobór członków Komisji, poza jednym przypadkiem – Przewodniczącego, nie jest obwarowany żadnymi warunkami merytorycznymi. Tylko osoba stająca do konkursu na Przewodniczącego Komisji musi, zgodnie z art. 18 ust 1 pkt 4) projektu ustawy o SI wyróżniać się wiedzą i posiadać znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Budzi to poważne wątpliwości co do braku kwalifikacji pozostałych członków ważnego, w dobie skokowego rozwoju sztucznej inteligencji, organu administracji publicznej. Potencjalnie osoby wskazywane do Komisji mogą nie mieć żadnego doświadczenia lub wiedzy związanej z cyberbezpieczeństwem, sztuczną inteligencją lub technologiami informatycznymi. Nawet jeśli przyjąć, że zależy Ustawodawcy na szerokim spektrum wiedzy i wśród członków komisji, to ww. elementy muszą stanowić zasób ich wiedzy. Np lekarz prowadzący badania nad SI, etyk zajmujący się etyką sztucznej inteligencji lub socjolog badający skutki społeczne wykorzystania SI. Dopiero takie połączenie wiedzy, umiejętności i formalnego wykształcenia istotnie wzmocni merytoryczny poziom w ramach Komisji, zapewni jej interdyscyplinarność oraz pozwoli potencjalnie na właściwą ocenę naruszenia przepisów prawa dotyczącego sztucznej inteligencji. Należy również zwrócić uwagę, że wprowadzenie konstrukcji organizacyjno- prawej, w której za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu budzi wątpliwości nie tylko natury etycznej, ale także natury prawnej. Przyjęte rozwiązanie o nie wynagradzaniu członków komisji za udział w pracach może naruszać przepisy prawa pracy 85 i kodeksu cywilnego, które przewidują obowiązek wynagradzania pracy i zwrotu kosztów związanych z jej wykonywaniem. Poza tym jest wysoce prawdopodobne, że pracownik organu delegującego, oprócz udziału w pracach komisji, będzie miał inne obowiązki w swym macierzystym urzędzie. Powstaje pytanie, czy w takim razie będzie się wstanie zaangażować się w pracę Komisji w pełni, zwłaszcza w sytuacji szerokiego zakresu kompetencji i zadań Komisji, mając potencjalne obowiązki w macierzystym organie? W sytuacji, gdy poszczególne organy delegujące członków do Komisji SI będą tworzyły odrębne stanowisko w swym urzędzie w celu zapewnienia wynagrodzenia dla takiego pracownika, to powstaje kolejne pytanie o gospodarność w wydatkowaniu pieniędzy publicznych. Równie istotna jest kwestia równego wynagrodzenia, bowiem poszczególne organy mogą posiadać różne regulaminy płac, co przełoży się na niczym nieuzasadnione prawnie zróżnicowane wynagrodzenia członków komisji. Generalnie skład Komisji ds SI powinien opierać się o dobór merytoryczny, być może z pozostawieniem prawa do wskazania poszczególnych osób przez niektóre organy władzy publicznej, przy jednoczesnym zatrudnieniu lub wynagradzaniu członków bezpośrednio przez Komisję, w której pracach będą uczestniczyć. Art. 7 ust. 2 Logicise dobór dziewięciu członków Komisji Proponujemy poszerzenie składu Komisji o ministra właściwego do spraw szkolnictwa wyższego i nauki, oraz dwóch do trzech ekspertów w obszarze AI - przedstawicieli wiodących w Polsce instytutów badawczych zajmujących się badaniami nad AI oraz wykorzystaniem AI w gospodarce, w szczególności Instytutu Badawczego IDEAS, Instytutu Technik Innowacyjnych EMAG Sieci Badawczej Łukasiewicz, Europejskiego Laboratorium Uczących się i Inteligentnych Systemów (ELLIS) w Warszawie. Ponadto, proponujemy zredukować udział KRRiT do uczestniczenia z głosem doradczym (art. 7. 3.) Art. 7 ust. 2 ZAIKS art. 7 ust. 2 Projektu punkt 3) uzyskuje następujące brzmienie: ,,3) ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego;\" art. 7 ust. 2 Projektu obecne punkty 3)-9) otrzymują numerację odpowiednie 4)-10) Jednym z celów Al Act jest zapewnienie przestrzegania przez dostawców modeli Al. ogólnego przeznaczenia przepisów prawa UE dotyczących prawa autorskiego i praw pokrewnych1• Rozwój i trenowanie takich modeli wymaga dostępu do ogromnych ilości danych, w tym treści chronionych prawem autorskim, takich jak teksty, obrazy, materiały wideo i utwory muzyczne. Każde 86 wykorzystanie takich treści wymaga co do zasady zezwolenia uprawnionych z tytułu praw autorskich i praw pokrewnych. Jak wiadomo chociażby z wielu doniesień prasowych z ostatnich miesięcy, dostawcy modeli Al często rozwijają swoje produkty z pominięciem praw twórców, artystów i producentów. Co więcej, ich utwory są często wykorzystywane do trenowania narzędzi generatywnej Al, które tworząc maszynowe imitacje twórczości ludzkiej, wchodzą z nią w bezpośrednią konkurencję jako alternatywne źródło podaży treści rozrywkowych czy informacyjnych. Tzw. wytwory Al już zaczynają stanowić bezpośrednią konkurencję, dla utworów tworzonych przez człowieka, ponieważ korzystanie z nich wiąże się z mniejszymi kosztami czy formalnościami i obowiązkami prawnymi. Tym samym wielu twórców zaczyna tracić zamówienia od takich podmiotów jak nadawcy czy wydawcy prasy, stanowiące źródło ich podstawowych przychodów. Również muzyczne serwisy steamingowe coraz częściej zamieszczają wytwory muzyczne stworzone przez narzędzia Al, aby w ten sposób obniżać zawartość chronionych utworów i, w konsekwencji, wysokość opłat licencyjnych, które są zobowiązani uiszczać na rzecz twórców i artystów wykonawców. Przywołany powyżej cel Al Act nie znajduje jednak żadnego odzwierciedlenia w Projekcie. Przepisy projektowanych artykułów 7 i 28 całkowicie pomijają w składzie organów odpowiedzialnych za nadzór nad rynkiem systemów Al oraz modelami Al podmioty prowadzące działalność w zakresie kultury i przemysłów kreatywnych Artykuł 7 ust. 2 Projektu powinien uwzględniać w składzie Komisji przedstawicieli ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego, a przez to pozostającego w bezpośrednim kontakcie z twórcami i artystami. Należy zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. ll Projektu jest „wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji\". Al Act w art. 53 w stosunku do modeli Gen Al przewiduje szereg obowiązków, w tym wprowadzanie przez dostawców tych modeli polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen Al. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Art. 7 ust. 2 CHAMBER Proponowany w art. 7 ust. 2 skład Komisji budzi wątpliwości. Wbrew uzasadnieniu ustawy nie obejmuje on “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”, bo trudno za kluczowy organ uznać w tym kontekście ministra-koordynatora służb specjalnych czy Rzecznika Praw Dziecka. Wskazanie tego pierwszego może wręcz budzić pewien niepokój. Brakuje z kolei wskazania choćby Ministra właściwego do spraw gospodarki, który szczególnie jako reprezentującego aspekt gospodarczy i spojrzenie ze strony wspierania MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. Podobnie niezrozumiały jest brak przedstawiciela 87 ministra właściwego ds. nauki przy obecności np. KRRiT, która wedle naszej wiedzy nie ma większej wiedzy czy zainteresowania SI jako taką. Udział przedstawiciela MON także wydaje się wskazany. Reasumując skład Komisji powinien wyglądać następująco: Minister ds. informatyzacji Minister ds. gospodarki Minister ds. nauki Prezes UKE Rzecznik Praw Obywatelskich Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). Art. 7 ust. 2 Polskie Towarzystwo Informatyczne Skład Komisji nie uwzględnia niektórych sektorów regulowanych, które powinny być reprezentowane w Komisji, np. w zakresie produktów leczniczych lub ochrony zdrowia. Nie jest do końca jasne jakie są podstawy do wskazywania Rzecznika Prawa Obywatelskich oraz RPD w składzie Komisji. Prosimy o przeanalizowanie, jakie instytucje powinny być reprezentowane w składzie Komisji (kryteria wyboru są niejasne) 88 Art. 7 ust. 2 GRAI I. W art. 7 ust. 2 projektu został uregulowany skład Komisji, z przedstawicieli wybranych podmiotów. Jednak w uzasadnieniu nie znalazło się wyjaśnienie, dlaczego w skład Komisji mają wchodzić akurat przedstawiciele tych podmiotów i według jakiego klucza ich wybrano. II. Wątpliwości budzi zaproponowany skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Dlaczego w stałym składzie Komisji znaleźli się przedstawiciele Rzecznika Praw Dziecka i Krajowej Rady Radiofonii i Telewizji, natomiast w posiedzeniach Komisji tylko mogą uczestniczyć przedstawiciele m.in.: Biura Rzecznika MŚP, urzędu obsługującego ministra właściwego do spraw gospodarki. Z punktu widzenia zapowiadanych założeń, jakie miała realizować ustawa wdrażająca AI Act – rozwój sztucznej inteligencji, niezrozumiałe jest, jak bez przedstawicieli przedsiębiorców i resortu odpowiedzialnego za rozwój gospodarczy kraju ma być realizowane zadanie Komisji: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. I. Wyjaśnienie w uzasadnieniu według jakiego klucza dokonano wyboru podmiotów wchodzących w skład Komisji i jakie kompetencje mają wnosić przy realizacji zadań Komisji. Uzasadnienia wymaga, w szczególności wskazanie do składu Komisji przedstawicieli ministra powołanego w celu koordynowania działalności służb specjalnych, KRRiT oraz Prezesa UKE. II. Konieczne jest uwzględnienie w stałym składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przedstawicieli MRiT i Rzecznika MŚP. Art. 7 ust. 2 GRAI Brakuje w składzie Komisji reprezentanta Urzędu Rejestracji Produktów Leczniczych. Rozwój technologii w sektorze dotyczącym zdrowia wymaga szczególnej atencji, stąd przedstawiciel Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych powinien się znaleźć w stałym składzie Komisji. Uzupełnienie przepisu. Art. 7 ust. 2 Fundacja FinTech Poland Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: ministra właściwego ds. spraw wewnętrznych, ministra właściwego ds. zdrowia, ministra właściwego ds. szkolnictwa i nauki, ministra właściwego ds. pracy. Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając 89 dotychczasowe postanowienie – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Poza tym do rozważenia jest również potrzeba zaangażowania naukowców, praktyków sztucznej inteligencji pracujących w biznesie, oraz przedsiębiorców prowadzących firmy związane ze sztuczną inteligencją. Stałym członkiem prac Komisji powinien zostać również przedstawiciel Społecznej Rady, o której mowa w art. 28. Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 Polska Izba Książki Mamy jednak zasadnicze zastrzeżenia dotyczące pominięcia w projektowanej ustawie Ministerstwa Kultuty 1 Dziedzictwa Narodowego, któte to Ministerstwo tradycyjnie odpowiada za sektor kteatywny. Nie jest dla nas zrozumiałe dlaczego sektor kreatywny jest traktowany marginalnie, podczas gdy w sposób naturalny — poza korzyściami wypływającymi z zastosowania sztucznej Inteligencji — w związku z zastosowaniem systemów sztucznej inteligencji wiąże się wiele zagrożeń dla sektora kteatywnego. W uzasadnieniu do ptojektu ustawy wskazano, że „w skład Komisji będą wcbodziji członkowie — przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji kluczowych dla rozwoju sektora technologii sztucznej znielęgeneji” . Tyta samym nie jest zrozumiałe, dlaczego pominięto w tym katalogu Ministra Kultuty i Dziedzictwa Narodowego. Z, tego względu postulujemy, by w przepisie att. 7 ust. 2 projektowanej ustawy uwzględnić ministra tesortu Kultuty i Dziedzictwa Natodowego jako członka Komisji Uważamy takie rozwiązanie za uprawnione i uzasadnione z perspektywy interesów, na czele których stoi Minister Kultury i Dziedzictwa Narodowego. To jest jedyny przedstawiciel organów wykonawczych, któty 90 teptezentuje tesott kultury i środowiska kreatywne, które w sposób oczywisty zostaną dotknięte działaniem systemów sztucznej inteligencji. Należy sobie uświadomić to, że systemy sztucznej inteligencji bazują w znacznej mierze na kontencie — tj. materiale bazowym — pochodzącym od twórców, tj. autotów w rozumieniu ustawy o Prawie autorskim i prawach pokrewnych. Działania wielu podmiotów dostatczających systemy sztucznej inteligencji muszą być odpowiednio zakwalifikowane z perspektywy ww. przepisów prawnych i odpowiednio monitotowane. Naturalnym wyborem w zakresie instytucji właściwej do zajmowania się powyższymi kwestiami w odniesieniu do treści autorskich jest Ministerstwo Kultury i Dziedzictwa Natodowego. Pominięcie tego Ministerstwa jawi się jako akt ignorancji wobec całego sektota kreatywnego w Polsce, przynoszącego określone przychody i rokującego dalszym tozwojem, co przekłada się istotnie na gospodarkę państwa. Uważamy, że przewidzenie w ustawie możliwości uczestniczenia w obradach Komisji z głosem doradczym, co zostało przewidziane w przepisie art. 7 ust. 3 projektowanej ustawy, nie jest wystarczające z perspektywy obrony intetesów polskich twótców i polskich przemysłów kreatywnych, których działalność może być dobitnie dotknięta wprowadzeniem systemów sztucznej inteligencji. Mając powyższe na uwadze wnosimy o dodanie ministra ds. kultury 1 dziedzictwa natodowego do katalogu podmiotów wchodzących w skład Komisji zgodnie z att. 7 ust. 2 projektowanej ustawy. Art. 7 ust. 2 Związek Pracodawców Technologii Cyfrowych Lewiatan Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: • ministra właściwego ds. spraw wewnętrznych • ministra właściwego ds. zdrowia • ministra właściwego ds. szkolnictwa i nauki • ministra właściwego ds. pracy Uzasadnienie: Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając dotychczasowy zapis – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Art. 7 ust. 2 pkt 8 ISSA Polska W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce 91 przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 pkt 8 GRAI Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Należy w miejsce Krajowej Rady Radiofonii i Telewizji należy wskazać NASK PIB. Art. 7.2. i 7.3. PIIT Dołączenie Ministra Nauki, Nie do końca rozumiemy przesłanki ukształtowania podstawowego składu Komisji (art. 7.2.). Wydawałoby się, że powinny to być organy, których działania w największym stopniu przesądzają o przyszłości SI w Polsce. Większą rolę ma chyba do odegrania minister nauki, od RPO i RPD. W podstawowym składzie brak przedstawiciela przedsiębiorców, obszarów związanych z infrastrukturą krytyczną, w tym transportową, rolnictwem oraz przedstawicieli III sektora. Słabo uzasadniony wydaje się udział KRRiT (zamiast np. MKiDN). Ponadto, w pracach organu administracji, którego podstawowym zadaniem jest nadzór rynku minister do spraw służb specjalnych powinien uczestniczyć z głosem doradczym (art. 7.3.). Podstawowy skład można ograniczyć do ministra cyfryzacji, UODO, UKE, UOKiK, KNF i min nauki (zob. zadanie z obecnego art. 11.1.3 projektu). Art. 7 ust. 3 Centrum Badań Kosmicznych Polskiej Akademii Nauk W posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinien móc uczestniczyć przedstawiciel Polskiej Akademii Nauk, instytucji integrującej poszczególne instytuty naukowe Polskiej Akademii Nauk. W art. 7 ust. 3 po pkt 15 należy zatem dodać pkt 16 w brzmieniu: „16) Polskiej Akademii Nauk;” oraz odpowiednio przenumerować pkt 16 w dotychczasowym brzmieniu na pkt 17. Art. 7 ust. 3 Logicise ograniczona liczba przedstawicieli w organie doradczym Analogicznie do uwagi powyżej, proponujemy rozszerzenie listy organizacji mogących brać udział w 92 posiedzeniach Komisji o wiodące w skali kraju instytuty badawcze specjalizujące się w AI. Ponadto, członkowie Społecznej Rady ds. Sztucznej Inteligencji, o której mowa w art. 28, powinni mieć możliwość udziału w posiedzeniach Komisji. Art. 7 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Mając na uwadze brzmienie art. 28 ust. 1 Projektu ustawy, w myśl którego „Przy Komisji działa Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, która jest organem opiniodawczo–doradczym Komisji.”, zasadne wydaje się, aby w posiedzeniach Komisji mogli brać udział również członkowie tej Rady, będący ekspertami w dziedzinie sztucznej inteligencji. W związku z powyższym, postulujemy dodanie pkt 17) w art. 7 ust. 3 Projektu ustawy o treści: „17) Społecznej Rady do spraw Sztucznej Inteligencji, o której mowa w art. 28 ust. 1 ustawy”. Art. 7 ust. 3 KIGEiT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do Art. 7 ust. 5). Art. 7 ust. 3 GRAI Brak możliwości udziału w posiedzeniach Komisji przedstawicieli związków samorządowych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich czy Związek Województw RP oraz przedstawicieli wojewodów (np. Konwent Wojewodów), ogranicza możliwość konsultacji i reprezentacji interesów samorządów terytorialnych. Sztuczna inteligencja będzie miała ogromny wpływ na funkcjonowanie społeczności lokalne, ich potrzeby i specyfikę. Dlatego obecność przedstawicieli samorządów będzie kluczowa dla skutecznego wdrażania i nadzoru AI, uwzględniając lokalne perspektywy i wyzwania. Propozycja dodania przepisu, stanowiącego, że „W posiedzeniach Komisji uczestniczą, z głosem doradczym, przedstawiciele związków samorządów terytorialnych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich, Związek Województw RP oraz przedstawiciele wojewodów, np. Konwent Wojewodów.”. Art. 7 ust. 3 PIRP w katalogu przedstawicieli podmiotów mogących brać udział w posiedzeniach Komisji proponuje się dodać przedstawiciela urzędu obsługującego ministra właściwego do spraw nauki i szkolnictwa wyższego; postulowana zmiana wydaje się zasadna z punktu widzenia znaczenia regulacji także dla obszaru nauki i szkolnictwa wyższego Art. 7 ust. 3 GRAI Członkiem Komisji jest przedstawiciel np. KNF – wątpliwości może budzić to jak się odnieść do kontrolowania sektora finansowego przez KNF w kontekście jego członkostwa w Komisji. Wydaje się, że może zaistnieć ryzyko nakładania się kompetencji, wydawania zaleceń w tym samym obszarze. Choć gdy przyjmiemy, że zamysłem było utworzenie takiej struktury Komisji, że należą do niej przedstawiciele np. KNF i to w domyśle jest współpraca/konsultacja z KNF. Nie jest jasne czy 93 działania Komisji i KNF będą uzupełniały się Jaką rolę ma każdy organ? Można przyjąć założenie, że powinny tworzyć spójny system nadzoru. Wyjaśnienie w uzasadnieniu roli organów. Art. 7 ust. 3 GRAI Wskazana lista członków mogących uczestniczyć w posiedzeniach Komisji składająca się z przedstawicieli wybranych podmiotów – dlaczego wybrano akurat te podmioty? Uzupełnienie w uzasadnieniu według jakiego klucza zaproponowano takie podmioty. Art. 7 ust. 3 INFARMA Wśród przedstawicieli, którzy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji brakuje przedstawicieli urzędu obsługującego ministra właściwego ds. zdrowia (tak jak zostali wskazani przedstawiciele innych urzędów). Proponujemy, aby w posiedzeniach Komisji uczestniczył również przedstawiciel urzędu obsługującego ministra właściwego ds. zdrowia ponieważ systemy sztucznej inteligencji w bardzo dużej mierze będą także wykorzystywane w obszarze zdrowia, w którym mogą mieć zasadniczy wpływ na zdrowie (i życie) obywateli. Wpływ sztucznej inteligencji ma i będzie miał duży wpływ na postęp w medycynie i nauce. W najbliższych w latach w obszarze zdrowia będą wykorzystywane rozwiązania regulacji EHDS (Europejskiej Przestrzeni Danych Medycznych), mające na celu monitorowanie i regulację przetwarzania danych dotyczących zdrowia. Wdrożeniu EHDS będzie towarzyszyć szereg nowych przepisów dotyczących zarządzania danymi i ochrony prywatności pacjentów, w tym z wykorzystaniem sztucznej inteligencji. Sztuczna inteligencja odgrywa coraz większą rolę w sektorze ochrony zdrowia, a obszar zdrowia stanowi jeden z kluczowych obszarów Strategii Cyfryzacji Polski, która ustala ramy transformacji cyfrowej państwa na kolejne 10 lat. W świetle powyższego, możliwość udziału przedstawiciela MZ w pracach Komisji wydaje się niezbędna. art. 7 ust.3 PIIT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji. , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Art. 7 ust. 3 AI Chambre Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich 94 centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). art. 7 ust.5 Logicise zapraszanie osób posiadających wiedzę specjalistyczną Brak informacji jak definiowane są “osoby posiadające wiedzę specjalistyczną” i czy muszą reprezentować podmioty określone w art. 7. 3. czy też nie. Brak zapisu o możliwym konflikcie interesów. Wydaje się, że zapis art. 7. 5. jest już ujęty w art. 7. 4. art. 7 ust.5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 7 ust. 5 Projektu ustawy „Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną.” Podnosimy, iż mogą pojawiać się wątpliwości na tle określenia „osoby posiadające wiedzę specjalistyczną”, w szczególności w zakresie ustalenia, kto za taką osobę może zostać uznany i przy uwzględnieniu jakich kryteriów. Zapewne chodzi o ekspertów z dziedziny rozwiązań/modeli/systemów sztucznej inteligencji, w związku z czym zasadnym wydaje się doprecyzowanie brzmienia przepisu poprzez wyraźne wskazanie o jaką wiedzę specjalistyczną chodzi. Najbardziej pożądanym kierunkiem doprecyzowania powinno być wskazanie konkretnie na pracowników naukowych, biegłych, czy posłużenie się określeniem „osoby posiadającej wiadomości specjalne”. art. 7 ust.5 KIGEiT Propozycja zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7 biegłego” Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. art. 7 ust.5 PIIT 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, biegłego. , Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby 95 z postępowania. Przy takim zapisie takich praw brak, a musza być one zagwarantowane choćby ze względu na konflikt interesów. Sugerujemy, by kwestia rozumienia tego pojęcia (biegły) wg kpa znalazła się także w uzasadnieniu do projektu ustawy. Art. 7 ust. 3 pkt 1)-6), 11-13, Osoba fizyczna Wprowadzenie takiej regulacji powoduje, że najważniejsze organy państwa nie mogą wskazać osoby do udziału w posiedzeniu komisji, natomiast prawo to posiada aparat administracyjny obsługujący te organy. Innymi słowy, to nie Prezydent RP będzie wskazywał swego przedstawiciela, ale jego urzędnicy, podobnie to nie Minister Obrony Narodowej będzie wskazywał swego przedstawiciela, ale ministerstwo – czyli aparat administracyjny go obsługujący. Należy poprawić przepis, przez wskazanie nazw organów władzy publicznej jako uprawnionych do wskazywania swoich przedstawicieli do uczestniczenia w posiedzeniach Komisji. Jeśli ten element regulacji pozostanie, to proponuję poprawić wskazane przepisy przez odwołanie do nazw organów władzy publicznej, wynikających z Konstytucji RP lub ustaw, a nie nazw urzędów ich obsługujących. Ponadto Biuro Komisji – pkt 16, nie jest organem, natomiast pracownicy Biura przygotowują posiedzenie i obsługują od strony techniczno- administracyjnej. Pewnym kuriozum jest zaproponowanie przepisu, zgodnie z którym przedstawiciel aparatu obsługującego organ – Komisję, brał udział w posiedzeniu tego organu. Proponuje wykreślić art. 7 ust 3 pkt 16) całkowicie. Poza tym powstaje zasadnicze pytanie, czy w ogóle ciało niezależne, jakim ma być Komisja ds. SI powinno posiadać członków fakultatywnych będących przedstawicielami innych organów władzy publicznej? Komplikuje to pozycję organizacyjno-prawną Komisji i osłabia jej niezależność. Art. 7 ust. 7 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Jeśli przepis dotoczyć ma także osób wskazanych w Art. 7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w Art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w Art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Art. 7 ust. 7 i Art. 29 ust. 6 KIG Poddajemy krytyce “społeczny wymiar” zaangażowania Członków Komisji i Członków Społecznej Rady ds. Bezpieczeństwa. Trudno oczekiwać, by ktoś poświęcał swój czas, zaangażowanie i intelekt bez wynagrodzenia. Uważamy, że jest to złudne poczucie gospodarności. Akty prawne dużego Państwa europejskiego powinny odpowiednio doceniać i wynagradzać. Art. 7 ust. 7 pkt PIIT 6. Za udział pracach Komisji przysługuje wynagrodzenie zwrot kosztów przejazdów i noclegów. , Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotyczyć ma także osób wskazanych w art. 7 ust. 5 - to nieuzasadnione jest, aby 96 osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. art. 7 ust. 7 SKwP To dotyczy członków Komisji, czy tylko osób doproszonych do posiedzenia? Zaprasza się eksperta – specjalistę i tak się go traktuje??? A przewodniczący i zastępcy mają wynagrodzenie? Za wykonaną prace musi być wynagrodzenie. Przewodniczący Komisji jest pracownikiem ,,Biura”, bez wynagrodzenia? Art. 7 ust. 7 pkt GRAI Udział w pracach Komisji powinien być rekompensowany, przynajmniej w zakresie, w którym koszty te nie byłyby pokryte przez jednostkę macierzystą członka Komisji. Nie można wymagać, aby w tak ważnej instytucji pracowano pro bono. Należy przyjąć, że koszty związane z udziałem w pracach Komisji pokrywane są przez jednostki macierzyste, a w pozostałym zakresie przyjąć pewien ryczałt, aby chociaż zrekompensować tym osobom koszty, które poniosłyby z własnej kieszeni. Chociaż, aby motywować kompetentne osoby do udziału w pracach Komisji, dodatkowa rekompensata powinna być przewidziana. Art. 7 ust. 8 CHAMBER Zawarte w projektowanym art. 7 ust. 8 wykluczenie zwrotu nawet kosztów diet i noclegu, obok wynagrodzenia, budzi zastrzeżenia. Brak wynagrodzenia może być uzasadniony wykonywaniem funkcji członka Komisji w ramach obowiązków służbowych, ale wyłączenie ogólnych przepisów dotyczących kosztów przejazdu i zakwaterowania wydaje się tu zbyt daleko posunięte. art.8 PIIT \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważniony do Kierowania Pracami Komisji\". , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 KIGEiT Rekomendacja: dodanie punktu: \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji\" , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 Fundacja FinTech Poland Przepisy ust. 2 i ust. 9 wzajemnie się wykluczają. Ponadto brak jest sprecyzowania czy posiedzenia są co do zasady jawne czy też nie. Brak doprecyzowania kiedy mogą zostać utajnione, a kiedy mogą toczyć się przy tzw. drzwiach zamkniętych. Art. 8 ust.3. PIIT Przewodniczący Komisji zwołuje i prowadzi posiedzenia Komisji. , Poprawka redakcyjna. 97 Art. 8 ust.5. PIIT Dodać “z zastrzeżeniem przepisu art. 11.2.”. , Przepis art. 11.2. przewiduje upoważnienie do wydawania postanowień i decyzji administracyjnych. Art. 8 ust 5 CHAMBER przepis zdaje się sugerować, że uchwały Komisji są decyzjami lub postanowieniami. Czy taka jest intencja projektodawców? Art. 8 ust. 5 Fundacja FinTech Poland Uchwała to nie jest to samo co decyzja administracyjna. Przy obecnym brzmieniu przepisu pojawiają się wątpliwości np. co do trybu odwoławczego i niezgodności z Prawem o postępowaniu przed sądami administracyjnymi. Decyzja administracyjna w sposób władczy kształtuje sytuację konkretnego podmiotu. Należy więc precyzyjnie określić kiedy i jakie decyzje mają być wydane. Decyzja nie jest rodzajem uchwały. Uchwały jeśli już mogą wyrażać stanowisko Komisji w jakiś kwestiach. Nie są to jednak źródła prawa. Art. 8 ust. 6 Polskie Towarzystwo Informatyczne Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co naj-mniej sześciu osób wchodzących w jej skład, w tym Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji, a w razie jego nieobecności – głos Zastępcy Przewodniczącego Komisji upoważnionego do kierowania pracami Komisji. Sugerujemy rozważenie delegacji do Rozporządzenia dot. trybu pracy Komisji. Nie sprecyzowano, jakiego rodzaju uchwały może podejmować Komisja w tym trybie. Czy rzeczywiście uchwały dotyczące nadzoru rynku sztucznej inteligencji powinny zapadać w minimalnym przypadku przy udziale 6 osób i zwykłej większości głosów? Art. 8 ust. 6 Fundacja FinTech Poland Brak określenia w jaki sposób wydawane są decyzje. Przyjęcie zasady, że wystarczająca jest zwykła większość w sytuacji gdy w skład Komisji nie wchodzą osoby wyspecjalizowane w danej dziedzinie budzi kontrowersje i zastrzeżenia. Powstaje ryzyko, że rozstrzygnięcia Komisji będą w rzeczywistości losowe i będą wynikiem głosowania osób nie do końca znających daną materię. Jeżeli wystarcza większość zwykła przy składzie min 6 osób to tytułem przykładu: Rzecznik Praw Dziecka, Rzecznik Praw Obywatelskich oraz przedstawiciel do spraw służb specjalnych mogą rozstrzygnąć o wyniku problemu technicznego związanego z konkretnym rozwiązaniem. Nieuzasadnione jest domniemanie, że osoby te będą posiadały w tym zakresie specjalistyczną wiedzę. Art. 8 ust. 9 Osoba fizyczna Skoro w art. 8 ust. 7 – 8 projektu ustawy o SI przewidziano możliwość udziału członków Komisji w posiedzeniu zdalnym, przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym, to wprowadzenie trybu obiegowego wydaje się niepotrzebne. Ponadto nie wskazano formy trybu obiegowego – elektronicznej czy papierowej, co też może 98 skutkować wątpliwościami interpretacyjnymi przy zachowaniu tego trybu. Coraz doskonalsze formy komunikacji elektronicznej, z coraz wyższym standardem cyberbezpieczeństwa są wystarczającą formą posiedzeń Komisji poza trybem stacjonarnym, a jednocześnie pozwolą w pełni realizować ustawowe kompetencje. Art. 9 ust. 1 CHAMBER należy skreślić słowo “ustawowych”, jako superfluum (uwaga redakcyjna) Art. 9 ust. 1 Fundacja FinTech Poland Jeżeli członkowie mają wspierać Przewodniczącego to co dzieje się w sytuacji gdy mają odrębne poglądy przy głosowaniu. Należy zagwarantować członkom niezależność jeżeli już ustawodawca decyduje się na formę głosowania. Art. 9 ust. 2 CHAMBER należy skreślić słowo “w” (uwaga redakcyjna) Art. 9 ust. 2 Logicise “w podmiotu, której są przedstawicielami” Błąd językowy. “przedstawiają działania” Nieprecyzyjne sformułowanie. O jakiego typu działaniach jest mowa: planowanych, dokonanych? Art. 9 ust. 2 GRAI Uwaga redakcyjna - brakuje słowa, ewentualnie usterka językowa. “Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w [imieniu(?)] podmiotu, której są przedstawicielami” Art. 9 ust. 2 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. W brzmieniu docelowym, ustęp ten powinien brzmieć: „2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. Art. 9 ust. 2 Polskie Towarzystwo Informatyczne literówki w p. 2 Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotach, których są przedstawicielami. 99 Art. 9 ust. 2 Związek Banków Polskich Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami. Zmiana gramatyczna. Art. 9 ust. 2 Osoba fizyczna błąd gramatyczny 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami art. 10 ust. 1 SKwP Powstaje pytanie, ilu pracowników będzie w Biurze? art. 10 ust. 3 PIIT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. , Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 KIGEiT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 GRAI Zgodnie z projektem ustawy szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadawany przez Prezesa Rady Ministrów w drodze zarządzenia. Prowadzi to jednak do uzależnienia Komisji od Prezesa Rady Ministrów. Kompetencje do nadawania regulaminu Komisji powinny przysługiwać Przewodniczącemu Komisji, który powinien mieć zagwarantowaną silną niezależną pozycję instytucjonalną od działań administracji rządowej. Jednym z wariantów jest przyznanie tej kompetencji samej Komisji (do samouchwalenia regulaminu), ale z uwagi na skład Komisji mogłoby to albo doprowadzić do paraliżu pracy albo ukształtowania organizacji i trybu funkcjonowania Komisji wbrew Przewodniczącemu. Zmiana brzmienia na „3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Przewodniczącego Komisji.” Art. 11 PIIT Nowy art. 11.1.1 - wykonywanie nadzoru rynku w zakresie systemów sztucznej inteligencji wysokiego ryzyka. , Zob. uwaga do art. 6, ew. Zmiana treści art. 11.1.7. Art. 11 Instrat – Fundacja Centrum Cyfrowe W ramach zadań Komisji proponujemy, aby poza obowiązkami określonymi w art. 11, Komisja pełniła dodatkową rolę wspierającą, zwłaszcza w odniesieniu do podmiotów prawa publicznego, 100 prywatnych organizacji świadczących usługi publiczne oraz instytucji stosujących systemy sztucznej inteligencji wysokiego ryzyka. Wsparcie to powinno dotyczyć przede wszystkim oceny wpływu tych systemów na prawa podstawowe. Komisja mogłaby wspierać te podmioty poprzez wydawanie wytycznych dla administracji, opracowanych na podstawie kwestionariuszy przygotowywanych przez Biuro ds. Sztucznej Inteligencji. Dokumenty te stanowiłyby narzędzie oceny wpływu SI na prawa podstawowe, pomagając jednostkom administracyjnym podejmować świadome decyzje zgodne z przepisami prawa. Ponadto, Komisja mogłaby pełnić funkcję punktu konsultacyjnego, do którego jednostki administracyjne i podmioty stosujące SI wysokiego ryzyka mogłyby zgłaszać pytania dotyczące oceny wpływu oraz zarządzania ryzykiem związanym z tymi systemami. Co więcej, rekomendujemy uwzględnienie w art. 11 zadań z art. 66 ust. 1 (oraz usunięcie ust. 2 z art. 66), które obecnie przypisane są ministrowi właściwemu do spraw informatyzacji. Mowa tutaj o zadaniach określonych w art. 95 rozporządzenia 2024/1689, obejmujących wydawanie rekomendacji dotyczących najlepszych praktyk stosowania systemów sztucznej inteligencji. Uważamy, że Komisja, jako organ odpowiedzialny za wdrażanie rozporządzenia, jest najlepiej predysponowana do opracowywania takich dokumentów. Do zadań Komisji w tym obszarze mogłoby należeć także wspieranie tworzenia kodeksów dobrych praktyk, mających na celu propagowanie dobrowolnego stosowania części lub wszystkich wymogów rozdziału III sekcja 2 AI Actu w odniesieniu do systemów SI niebędących systemami wysokiego ryzyka. Takie rozwiązanie wydaje się szczególnie uzasadnione, ponieważ kwestie te będą koordynowane przez unijny Urząd ds. SI, z którym Komisja ma pełnić rolę kontaktową. Przyznanie Komisji większych kompetencji w zakresie wspierania podmiotów publicznych, jak i prywatnych w stosowaniu rozporządzenia przyczyniłoby się do zapewnienia większej zgodności SI z prawami podstawowymi i sprzyjałoby budowaniu spójnych standardów w zakresie projektowania i wdrażania SI w firmach i instytucjach. Art. 11 Osoba fizyczna Powstaje pytanie, czy kolejność zadań w projektowym przepisie ma charakter przypadkowy czy zamierzony, bowiem nie sposób określić jednoznacznie jaki klucz został przyjęty w tworzeniu tego przepisu. Przykładowo, zadanie określone w pkt 7 wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;- - powinno być jednak wyżej w hierarchii zadań, jako jedno z najważniejszych. Ponadto zadanie wynikającej z pkt 6) wydawanie postanowienia i decyzje w sprawach naruszenia przepisów o systemach sztucznej inteligencji – zawiera błędy. Po słowie \"postanowienia\" - powinno być \"postanowień w sprawie\" zamiast \"postanowienia i decyzje w sprawach\". Nie zastosowano liczby mnogiej. Ponadto w języku prawniczym częściej używa się słowa \"oraz\" do łączenia dwóch równorzędnych członów zdania. Nie określono prawidłowo o jakie przepisy chodzi - powinno być \"przepisów ustawy o systemach sztucznej inteligencji\" lub \"przepisów dotyczących 101 systemów sztucznej inteligencji. Prawidłowe brzmienie przepisu \"Wydawanie postanowień w sprawach oraz decyzji w sprawach naruszenia przepisów ustawy o systemach sztucznej inteligencji\". Art. 11 GRAI Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7 art. 11, dopiero po zadaniach związanych m.in. ze wspieraniem rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów SI czy udziale w opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. Art. 11 GRAI Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym, czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Art. 11 Osoba fizyczna mk Artykuł 11 Ustawy wśród zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wskazuje: 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; W obecnym ujęciu, działania mające na celu wspieranie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji wydają się znacznie lepiej zdefiniowane oraz mocniej zaakcentowane wśród zadań Komisji niż działania 102 dotyczące przeciwdziałania zagrożeniom w zakresie bezpieczeństwa sztucznej inteligencji, gdzie jedynym wymienionym działaniem Komisji jest przyjmowanie zgłoszeń poważnych incydentów. Zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie, co powinno znaleźć odzwierciedlenie wśród zadań Komisji. Ponadto, zapewnienie bezpieczeństwa systemów sztucznej inteligencji również pozytywnie wpływa na rozwój, innowacyjność i konkurencyjność badań i zastosowań systemów sztucznej inteligencji, a zatem zwiększenie udziału komisji w zagadnieniach dotyczących bezpieczeństwa nie tylko nie kłóci się, ale wspiera zagadnienia rozwoju, innowacyjności i konkurencyjności badań i zastosowań. Wskazane jest, aby Artykuł 11 punkt 4 zyskał brzmienie odzwierciedlające, fakt, że zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie np. 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy, a także podejmowanie działań mających na celu wspieranie badań i monitorowanie zagrożeń w zakresie bezpieczeństwa systemów sztucznej inteligencji; Art. 11 Związek Cyfrowa Polska Niejasność dotyczącą zakresu kompetencji krajowego organu nadzorczego. Może ona rodzić niepewność prawną dla przedsiębiorstw wielonarodowych. Niejednoznaczność zakresu jurysdykcji może prowadzić do sprzecznych wymogów zgodności między różnymi organami krajowymi, komplikując operacje i zwiększając obciążenie regulacyjne dla przedsiębiorstw działających w wielu krajach. Co więcej, należy podkreślić, że niejasnośc ta jedynie wzrasta w związku z faktem, że na poziomie UE współpraca w ramach Rady ds. AI UE będzie zachdziła między organami o różnym zakresie przedmiotowym. Art. 11 ust. 1 KIG Proponujemy zmianę brzmienia pkt 11 tak, aby nie był mechanicznym tłumaczeniem tekstu rozporządzenia. Proponowany zapis: „11) podejmowanie działań mających na celu stworzenie narzędzi prawnych do testowania nowych rozwiązań dotyczących systemów sztucznej inteligencji zgodnie z przepisami rozporządzenia 2024/1689 – piaskownic regulacyjnych;”. Proponujemy również rozszerzenie katalogu zadań Komisji i po pkt 11 dodanie następujących: - podejmowanie działań wspierających badania, rozwój i komercjalizację produktów i usług wykorzystujących sztuczną inteligencję, w szczególności przez integrację środowiska gospodarczego i naukowego, tworzenie założeń do programów wsparcia i tworzenie propozycji rozwiązań prawnych ułatwiających współpracę nauki z biznesem i komercjalizację osiągnięć wykorzystujących sztuczna inteligencję, - inicjowanie działań zmierzających do łączenia instytucji publicznych, badaczy akademickich i firm działających na rzecz rozwoju sztucznej inteligencji. 103 Jak wspomniano powyżej, Komisja powinna koncentrować się w pierwszym okresie działalności nad wzmacnianiem ekosystemu administracji, przedsiębiorców i ośrodków naukowych w celu integracji środowiska i prowadzenia aktywnego dialoguz interesariuszami. Nie może koncentrować się na nadzorze, nie będzie również w stanie realizować zadania wskazanego w pkt. 5 ze względu na ograniczoną znajomość specyfiki rynku. Art. 11 ust. 1 Osoba fizyczna jk zadania Komisji powinny być wymienione w art. 6 po ust. 1 błąd gramatyczny 6) wydawanie postanowieniań i decyzjei w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 pkt 13 i art. 11. ust. 2 SKwP Uważamy, że decyzje administracyjne i interpretacje indywidualne powinny być omawiane i głosowane w Komisji. Jednoosobowe decyzje mogą prowadzić do wypaczeń na skutek lobbingu. Art. 11 ust. 1 pkt i pkt 7 CHAMBER wydają się pokrywać pod kątem treści normatywnej, gdyż organ nadzoru rynku sprawuje właśnie kontrolę nad tym rynkiem. Należy (ponownie) sprecyzować, że chodzi o “rynek systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt GRAI Do zadań Komisji powinna należeć koordynacja międzyresortowa w sprawach i projektach dot. AI i nowych technologii, aby zniwelować obecnie utrudniającą międzysektorowe inicjatywy, silosowość resortów. Warto zaznaczyć, że wśród podmiotów wymienionych w art. 7 ust. 3 brakuje chociażby takich resortów, jak edukacja czy szkolnictwo wyższe. Każdy resort powinien wyznaczyć rzecznika do kontaktu z Komisją i taka osoba powinna uczestniczyć w obradach Komisji zgodnie z art.7 ust. 3. Art. 11 ust. 1 pkt 3 i 4 Związek Banków Polskich Uwaga o charakterze ogólnym - brak rozwinięcia w dalszej części projektu brzmienia tych przepisów, w jaki sposób, w jakim zakresie. art. 11 ust. 1 pkt 3 GRAI Brzmienie pkt 3 dotyczącego wspierania i monitorowania rozwoju, innowacyjności oraz konkurencyjności w obszarze AI jest kluczowe, ale warto rozważyć dodanie konkretnych mechanizmów wsparcia tych innowacji. Wyłączny i bardzo rozbudowany nadzór nad rozwojem AI, który jest szczegółowo ujęty w ustawie, może być niewystarczający dla rozwoju innowacji bez wprowadzenia realnych zachęt. Brak takich rozwiązań może hamować rozwój technologii AI w Polsce. Nadanie nowego brzmienia: „3) podejmowanie działań wspierających oraz monitorujących rozwój, innowacyjność i konkurencyjność w zakresie badań i wdrażania systemów sztucznej inteligencji, w tym w szczególności stosowanie ulg podatkowych oraz preferencji finansowych dla przedsięwzięć o znaczącym potencjale społecznym i gospodarczym, celem zwiększenia atrakcyjności inwestycyjnej w obszarze sztucznej inteligencji;”. 104 Art. 11 ust. 2 pkt 3-5 PSSI W związku z zadaniami Komisji, które ujęto w Art. 11 punkt 1 ustępy 3-5, tj.: „ 3). podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; 5) udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji;” niezbędne jest, aby Przewodniczący, albo co najmniej jeden z jego zastępców miał wysokie kompetencje i doświadczenie w zakresie badań naukowych. Częściowo podkreślono to w artykule 18 punkt 1 ustępy 3-4, tj.: „ 3)posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych;” Rekomenduje się: 1. zwiększenie wymagań dotyczących kompetencji Przewodniczącego, o jawne wskazanie dorobku naukowego w zakresie badań w obszarze sztucznej inteligencji oraz posiadanie stopnia naukowego co najmniej doktora w dziedzinie nauk ścisłych lub inżynieryjno-technicznych. albo: 2. dodanie stosownych wymagań (j.w.) dla jednego z zastępców Przewodniczącego. Trudno sobie wyobrazić, biorąc pod uwagę cele komisji oraz dynamiczny rozwój sztucznej inteligencji, aby w Komisji nie zasiadała co najmniej jedna osoba o dużym i aktualnym dorobku naukowym. Jednocześnie, z wyżej wskazanych powodów, członkiem komisji powinna być co najmniej jedna osoba będąca przedstawicielem Polskiej Akademii Nauk (PAN) lub Komitetu Informatyki PAN (Art. 7). Art. 11 ust.1 pkt 4 PIIT CSIRT jako podstawowy system zgłaszania incydentów, z informacją dla komisji, jeżeli dotyczy AI. Ewentualnie – tylko dla systemów wysokiego ryzyka , System zgłaszania incydentów informatycznych powinien być spójny z CSIRT. Czy zostało ocenione ryzyko redundancji procedur oraz nieracjonalnego powielania kosztów budżetu? Notabene przepis art. 11.1.4 odsyła do art. 61, który dotyczy zgłoszeń do KE. Art. 11 ust. 1 pkt 5 ISSA Polska Błąd: zamiast “wydawanie postanowienia i decyzje” powinno być “postanowień i decyzji”. 105 Art. 11 ust. 1 pkt 6 PIIT \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji wysokiego ryzyka i systemów zakazanych, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt6 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. Art. 11 ust. 1 pkt 6 KIGEiT Propozycja zapisu: \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt 6 Polskie Towarzystwo Informatyczne Literówki wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 ust. 1 pkt 6 GRAI Uwaga redakcyjna Słowa „postanowienia i decyzje” zastępuje się słowami „postanowień i decyzji”. Art. 11 ust. 1 pkt 6 Związek Banków Polskich (...)wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Zmiana gramatyczna. Art. 11 ust. 1 pkt 8 Związek Banków Polskich [Dodanie po pkt 8) punktu w brzmieniu jak obok] 9) prowadzenie badań w zakresie zastosowania systemów sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację ich wpływu na decyzje podejmowane w organizacji. Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu SSI na podejmowane decyzje w organizacjach. Art. 11 ust. 1 pkt 11 ISSA Polska Do zadań Komisji należy m.in. podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie brak regulacji prawnych w tej kwestii. Temat możliwości testowania innowacyjnych systemów AI w warunkach rzeczywistych wydaje się zbyt ważny z punktu widzenia zarówno społeczeństwa, jak i przedsiębiorców, by jego ramy prawne nie były określone ustawowo. Art. 11 ust. 1 pkt 11 SANO W art. 11 ust. 1 pkt. 11 wskazana jest możliwość podejmowania działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie ustawy nie ma żadnych innych postanowień regulujących tą kwestię. Rekomendujemy doprecyzowanie i uszczegółowienie, ponieważ brakuje jasnych zasad funkcjonowania piaskownic, które pozwoliłyby przedsiębiorstwom na testowanie innowacyjnych technologii z zachowaniem niezbędnych zabezpieczeń prawnych. art. 11 ust. 1 pkt 13 i art. 14 ust. 1 GRAI Postanowienia te są sprzeczne. Art. 11 ust. 1 pkt 13 wskazuje jako zadanie Komisji do dokonywania interpretacji generalnych i indywidualnych. Z kolei art. 14 ust. 1 wskazuje, że 106 interpretacje indywidualne wydaje Przewodniczący Komisji. Należy usunąć odniesienie do interpretacji indywidualnych bo te leżą w kompetencji Przewodniczącego (Komisja rozpatruje jedynie sprzeciw). Zmiana brzmienia art. 11 ust. 1 pkt 13 na „13) dokonywanie interpretacji generalnych.” art. 11 ust. 1 pkt 11 GRAI W projekcie ustawy pominięto w zadaniach Komisji – zadanie w zakresie rozwoju piaskownic regulacyjnych po ich utworzeniu. Obecne brzmienie art. 11 ust. 1 pkt 11 odnosi się tylko do „utworzenia” piaskownic regulacyjnych. Zmiana Brzmienia przepisu. W art. 11 ust. 1 pkt 11 projektu ustawy po słowie „utworzeniu” dodaje się ,,i rozwój”. art. 11 ust. 1 pkt 11 GRAI Uwaga redakcyjno - legislacyjna Po uwzględnieniu powyższej uwagi, do rozważenia zmiana numeracji punktów - obecny pkt. 11 powinien być nowym pkt 4 - po pkt 3, który wskazuje na podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji. Zmiana numeracji przepisów - obecny pkt. 11 z dodanym “i rozwój” powinien stanowić pkt 4, gdyż jest uzupełniniem obecnego pkt. 3. Art. 11 ust. 1 pkt 11 PWPW Do zadań Komisji należy: podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie 107 prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 11 pkt 11 Fundacja FinTech Poland Art. 57 ust. 1 nakłada na państwa członkowskie obowiązek zapewnienia, aby ich właściwe organy ustanowiły co najmniej jedną piaskownicę regulacyjną dla systemów AI na poziomie krajowym, z terminem uruchomienia do 2 sierpnia 2026 r. Ze względu na ambitny i stosunkowo bliski termin realizacji tego wymogu, istotne jest już teraz podjęcie kroków w celu zdefiniowania zasad funkcjonowania takich piaskownic. Brak odpowiednich regulacji w Ustawie może prowadzić do opóźnień w Art. 11 ust. 2 Osoba fizyczna Poważne wątpliwości prawne budzi określenie kompetencji Komisji do upoważnienia Przewodniczącego, Zastępców Przewodniczącego oraz pracowników Komisji do realizacji działań pozostających w zakresie właściwości Komisji, w tym do wydawania decyzji i postanowień. W doktrynie prawa administracyjnego oraz w praktyce administracyjnej stosuje się rozwiązanie, w której to organ realizuje swoje zadania przez pracowników, ale nadal są to zadania organu, realizowane w jego imieniu i na rzecz organu. Poza wyjątkowymi sytuacjami, wyraźnie wynikającymi z przepisów ustawowych, to nie bezpośrednio organ podejmuje działania w zakresie realizacji swych kompetencji, ale pracownicy aparatu obsługującego organ. Organ, obejmując urząd, wydaje upoważnienia imienne do wykonywania określonych kompetencji w imieniu organu delegującego do wydawania/załatwiania spraw w imieniu i na rzecz organu. Proponowane rozwiązanie wynikające z art. 11 ust 2 projektu ustawy nie wskazuje, że działania te będą realizowane w imieniu i na rzecz organu. Ponadto nie wskazano w jakich okolicznościach faktycznych moz0na upoważnić inne podmioty do realizacji określonych kompetencji. Nie wskazano również sytuacji prawnie relewantnych, skutkujących wygaśnięciem lub umożliwiających odebranie upoważnienia. Wydaje się, że treść art. 268a. Kodeksu postępowania administracyjnego – Organ administracji publicznej może upoważniać, na piśmie utrwalonym w postaci papierowej lub elektronicznej, pracowników obsługujących ten organ do załatwiania spraw w jego imieniu w ustalonym zakresie, a w szczególności do wydawania decyzji administracyjnych, postanowień, zaświadczeń, a także do poświadczania za zgodność odpisów dokumentów przedstawionych przez stronę na potrzeby prowadzonych postępowań z oryginałem – konsumuje w znacznym zakresie projektowany przepis i jednocześnie nie powoduje potencjalnych wątpliwości interpretacyjnych. Proponuję usunąć ust 2 art. 11 i ewentualnie odesłać do przepisów k.p.a. Art. 11 ust. 2 Fundacja FinTech Poland Zasady wydawania decyzji i postanowień powinny być jednolite. W tym kształcie jeden podmiot otrzyma decyzję wydaną przez Przewodniczącego inny przez młodszego specjalistę zatrudnionego w Biurze Komisji. Jeszcze inny mając na uwadze przepisy powyżej może otrzymać decyzję wydaną w sprawie na skutek głosowania (art. 8 ust 5 - “w tym” zaznaczone powyżej). 108 Art. 11 ust. 3 Osoba fizyczna Przepis jest nie jasny, zwłaszcza jeśli uwzględnimy uwagi dotyczące art. 11 ust 2. projektowanej ustawy. Ponadto nie wiadomo, czy czynności procesowe dotyczące spraw określonych w art. 70 ustawy mogą podlegać delegacji, a samo rozstrzygnięcie już jest zastrzeżone do wyłącznej kompetencji Komisji, czy też wszystkie czynności procesowe, od wszczęcia do prawomocnego zakończenia postępowania, są prowadzone bezpośrednio przez Komisję. Proponuję usunąć ust 3 art. 11. Art. 11 ust. 1 pkt 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy doprecyzowanie obecnej treści przepisu w następujący sposób: „13) dokonywanie interpretacji generalnych i indywidualnych, o których mowa w art. 14 i 15 ustawy.”. Wskazujemy, iż art. 13 Projektu ustawy także stanowi o interpretacjach, w związku z powyższym zasadnym zdaje się być doprecyzowanie treści komentowanego przepisu. Podnosimy także, iż zasadnym byłoby, aby projektowana ustawa umożliwiała składanie wniosków o interpretację przepisów Rozporządzenia 2024/1689 do Europejskiego Urzędu ds. Sztucznej Inteligencji. Art. 11 ust. 1 pkt 13 Związek Cyfrowa Polska Wprowadzenie instytucji interpretacji na poziomie lokalnym (krajowym). Rozwiązanie pozwalające na wydawanie takich interpretacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”), skutkować może fragmentaryzacją prawa unijnego (Aktu o sztucznej inteligencji), jego odmienną interpretacją, rozumieniem, stosowaniem oraz egzekwowaniem (co dotyczy zarówno interpretacji indywidualnych, jak również generalnych). Ryzyko to związane jest również z uprawnieniami ministra właściwego do spraw informatyzacji związanym z wydawaniem „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Związek Cyfrowa Polska Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) zostaną wyposażone w podobne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. W praktyce może to 109 wpłynąć na możliwość korzystania ze sztucznej inteligencji przez przedsiębiorstwa, ponieważ niepewność ram prawnych może rodzić zbyt wysokie i zbyt kosztowne ryzyko związane z korzystaniem ze sztucznej inteligencji. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który upoważnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Należy w tym miejscu także wskazać, że rządowe prace w obszarze zakazanych praktyk w Polsce, trwają w czasie, gdy otwarty jest wciąż apel European AI Office o opinie na ten sam temat. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte Art. 11 ust. 1 pkt 13 PWPW Do zadań Komisji należy: dokonywanie interpretacji generalnych i indywidualnych. Uwaga dotyczy też art. 13 projektu. Należy doprecyzować, czy interpretacje, o których mowa w art. 11 i art. 13, stanowią interpretacje w rozumieniu art. 33 i 34 ustawy - Prawo przedsiębiorców. W ocenie PWPW S.A. taka interpretacja powinna stanowić realizację art. 33 i 34 ww. ustawy. Wtedy chronią one podmiot. Ponadto nie ma określenia skutków prawnych interpretacji. Należy je określić lub odesłać w tym zakresie do art. 35 ustawy - Prawo przedsiębiorców Ponadto w przypadku podmiotów publicznych – dla których PWPW S.A. także realizuje swoje usługi – w projekcie ustawy powinno się znaleźć doprecyzowanie skutków interpretacji dla tych podmiotów – tak aby one chroniły podmioty publiczne, wtedy kiedy np. korzystają z produktów AI danego podmiotu, w ramach realizacji zadań publicznych. Art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu Związek Pracodawców Technologii Cyfrowych Lewiatan Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o 110 sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) będą wyposażone w analogiczne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który uprawnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte. Art. 12 KIGEiT Rekomendacja: Programy edukacyjne i dostęp do zasobów obliczeniowych: \"Komisja organizuje coroczne programy edukacyjne dla przedsiębiorców i jednostek badawczo- rozwojowych, które obejmują szkolenia z zakresu implementacji i zgodności z przepisami sztucznej inteligencji. Programy te będą obejmować dostęp do zasobów obliczeniowych (w tym chmury obliczeniowej) i symulacji AI. Komisja zapewni możliwość bezpłatnego korzystania z tych zasobów przez pierwsze 6 miesięcy.\" Art. 12 (Programy edukacyjne) określa, że Komisja ma prowadzić działania edukacyjne, jednak konieczne jest rozwinięcie tych działań w bardziej strukturalny sposób, by wspierać rozwój AI w Polsce. Taka inicjatywa nie tylko pomoże firmom w dostosowywaniu się do przepisów, ale również przyspieszy rozwój i wdrażanie nowych technologii AI, szczególnie w małych firmach i start-upach. Rekomendacja: Wprowadzenie mechanizmów finansowego wsparcia: \"Komisja, we współpracy z ministrem właściwym do spraw informatyzacji, tworzy program wsparcia finansowego w postaci grantów i ulg podatkowych dla przedsiębiorstw, które rozwijają systemy sztucznej inteligencji o niskim lub średnim ryzyku. Program będzie obejmować dofinansowanie do 50% kosztów projektów badawczo-rozwojowych oraz ulgi podatkowe dla przedsiębiorstw korzystających z piaskownic regulacyjnych.\" Rozdział 2, Art. 12 (Wsparcie konkurencyjności) mówi o działaniach wspierających innowacyjność. Można to rozszerzyć o szczegółowe mechanizmy wsparcia, takie jak granty i ulgi 111 podatkowe dla firm AI. Taki zapis wspierałby innowatorów i start-upy AI, stymulując rozwój branży, bez dodatkowych obciążeń finansowych. Art. 12 ust. 1 Osoba fizyczna jk powielenie zapisu art. 11 ust. 1 pkt 5 Art. 12 ust. 2 Logicise ograniczona liczba realizowanych działań Nie jest jasne dlaczego art. 11. 1. pkt. 3 nie został uwzględniony w tym artykule. Art. 12 ust. 2 Osoba fizyczna jk pkt 3) dla spójności zapisów zamiast \"udostępnia\" powinno być \"publikuje\" jak w pkt 4 pkt 4) brak informacji, gdzie Komisje publikuje przykłady dobrych praktyk – czy w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji czy na stronie Ministra właściwego do spraw informatyzacji - zgodnie z zapisem art. 66 ust. 1 Art. 12 ust. 2 pkt 1 CHAMBER wydaje się wskazane, aby Komisja mogła przedstawiać ministrowi właściwemu do spraw informatyzacji także propozycje działań innych, niż legislacyjne - np. organizacyjnych, faktycznych, planistycznych. Art. 12.2.1. PIIT Czy przepisu nie należałoby uzupełnić o ministrów nauki i gospodarki? Komisja powinna mieć prawo zwracania się tam, gdzie uzna, że jest potrzeba działania na rzeczy rozwoju AI. art. 12 i 13 GRAI Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? art. 13 ust. 1 GRAI Komisja może opracowywać wyjaśnienia, opinie i interpretacje – istnieje ryzyko, że w przypadku dużej liczby wpływających np. wniosków o interpretację czas oczekiwania na nią będzie długi. Komisja nie będzie w stanie obsłużyć wniosków. Dodatkowo, pojawiają się wątpliwości czy członkowie Komisji będą mieć właściwe kompetencje, by taki wniosek o interpretację efektywnie, szybko i merytorycznie rozpatrzyć Ponowne rozważenie wskazanych działań lub wskazanie podmiotu wspomagającego ich realizację. 112 Art. 13 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu art. 13 ust. 1 Projektu ustawy poprzez wyjaśnienie, czym „interpretacje” określone w komentowanym przepisie różnią się od interpretacji generalnych wydawanych przez Komisję (art. 15 Projektu ustawy). Art. 13 ust. 1 NRA Art. 13 ust. 1 Projektu, przewidujący możliwość formułowania przez KRiBSI wyjaśnień, opinii oraz interpretacji o istotnym znaczeniu dla stosowania przepisów Projektu, pozostawia bez odpowiedzi kwestię skutków prawnych tychże aktów. Komisji przyznano prawo do opracowywania dokumentów publikowanych w Biuletynie Informacji Publicznej, co niewątpliwie świadczy o ich potencjalnej doniosłości normatywnej. Jednakże niedookreślenie prawnego znaczenia takich wyjaśnień, opinii i interpretacji może prowadzić do ich wyłącznie deklaratywnego charakteru i naraża te działania na ryzyko jedynie pozornej, a nie rzeczywistej skuteczności. Jeśli bowiem Komisja nie będzie związana własnymi interpretacjami, a stosujące się do nich podmioty mogłyby mimo to doświadczać sankcji, zamierzona funkcja zapewnienia pewności prawa i spójności w interpretacji przepisów ulegnie zdezawuowaniu, wprowadzając dodatkowe i nieakceptowalne ryzyko dla odbiorców tych wytycznych. Art. 13 ust. 1 Związek Banków Polskich Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na podstawie nazwy było wiadomo jaki dany dokument ma charakter Art. 13 ust. 1 Fundacja FinTech Poland Skoro ustawa jest wzorowana na ustawie o nadzorze nad rynkiem finansowym to do rozważenia pozostaje wprowadzenie możliwości wydania rekomendacji jako kolejnego sposobu działania Komisji. Rekomendacje są czym innym niż opinie czy wyjaśnienia. Nie są to też interpretacje indywidualne. Rekomendacje przyczyniają się do ustandaryzowania rynku. Art. 13 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w przypadku uzasadnienia decyzji wydanych przez Komisję zakres publikowanych informacji powinien być ograniczony, tzn. nie powinien obejmować tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów. Art. 13 ust. 2 Związek Banków Polskich Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, po usunięciu danych identyfikujących stronę postępowania, treść decyzji wydawanych na podstawie przepisów ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Upublicznienie informacji, jakiego podmiotu dotyczy decyzja byłoby formą kary, której nie przewiduje AI Act. Dla porównania w przypadku regulacji dotyczących AML publikacja informacji 113 o instytucji obowiązanej oraz zakresie naruszenia przepisów wchodzi do katalogu kar administracyjnych Art. 13 ust. 2 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko publikowania decyzji wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wraz z wrażliwymi informacjami, szczególnie istotnymi z perspektywy działalności gospodarczej prowadzonej przez przedsiębiorców podlegających kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w tym tajemnicy przedsiębiorstwa. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotnym jest zagwarantowanie maksymalnej ochrony tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. W związku z powyższym proponujemy dodanie w treści aktualnego brzmienia art. 13 ust. 2 projektu ustawy o systemach sztucznej inteligencji zastrzeżenia (wzorowanego na art. 31b ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów), że publikowane decyzje nie będą zawierały informacji kwalifikowanych jako tajemnica przedsiębiorstwa i innych informacji podlegających ochronie prawnej na podstawie odrębnych przepisów. Art. 13 ust. 5 Fundacja FinTech Poland Sugerujemy nie posługiwać się przy określaniu koniecznych elementów przymiotnikami które można różnie interpretować. Trudno określić co jest “wyczerpujące” i kiedy opis stanu faktycznego jest wyczerpujący. Takie określenie powoduje, że po pierwsze łatwo o pretekst do odrzucenia wniosku. Po drugie podmiot występujący działając racjonalnie (i chcąc uniknąć odrzucenia) będzie rozciągał opis co utrudni skupienie się na istocie problemu i spowoduje stworzenie zbędnej dokumentacji. Jeśli już to opis powinien być zwięzły a nie wyczerpujący. Postulowane brzmienie przepisu: 5. Interpretacja, o której mowa w ust. 1, zawiera opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie. art. 13 i 14 GRAI I. Wskazania wymaga moc prawna interpretacji, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? II. Należy zwrócić także uwagę na potrzebę ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź 114 usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Art. 14 Osoba fizyczna Nie wskazano trybu procesowego wydawania interpretacji indywidualnych oraz czy podlegają one zaskarżeniu do sądu. Z uwagi na umiejscowienie przepisu odsyłającego do ustawy kodeks postępowania administracyjnego w art. 56, brak takiego wskazania w art 11 może budzić wątpliwości interpretacyjne. Porządkującym rozwiązaniem jest przesunięcie przepisów dotyczących interpretacji indywidualnych i generalnych do rozdziału 4 ustawy, i jednoczesne dodatnie treści wynikającej z art. 56 ustawy już na początku tego rozdziału. Odwołanie powinno być generalne, ze wskazaniem k.p.a. jako uniwersalnego zbioru reguł procesowych do wszystkich czynności o charakterze administracyjnoprawnym podejmowanym przez Komisję, Przewodniczącego oraz Biuro/Urząd. Art. 14 ITCORNER W projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (“KRiBSI”) na wydanie interpretacji indywidualnej dot. przepisów AI Act. Sugerujemy, na wzór interpretacji indywidualnej (podatkowej), wskazanie maksymalnego terminu na wydanie interpretacji (np. 30 dni), wraz z zastrzeżeniem, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska wnioskodawcy. Postulujemy także o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Projekt nie reguluje procedury odwoławczej, a także nie wskazuje, co miałby zawierać sprzeciw od wydanej interpretacji - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 e-Izba Postulujemy rozszerzenie zakresu podmiotów uprawnionych do występowania o interpretacje również o organizacje zrzeszające podmioty podlegające pod zakres zastosowania rozporządzenia 2024/1689 (izby gospodarcze, stowarzyszenia, fundacje). Takie podmioty mogłyby występować o interpretacje na rzecz wszystkich swoich członków. W ten sposób interpretacja dawałaby pewność interpretacji przepisów szerszej grupie podmiotów, a jednocześnie eliminowałaby zbędne obciążenie Komisji, czyli indywidualne wnioski o interpretacje indywidualne w takich samych sprawach składane przez większą liczbę podmiotów. Art. 14 CHAMBER ponownie projekt tworzy na kanwie już istniejących przepisów o wydawaniu interpretacji indywidualnych. Wydaje się, że lepszym rozwiązaniem jest odesłanie do przepisów ustawy Prawo przedsiębiorców wprost, ze wskazaniem że w zakresie objętym ustawą o systemach sztucznej inteligencji ubiegać się mogą o interpretacje podmioty inne, niż przedsiębiorcy. Opłatę od wydania interpretacji można ustalić na poziomie wyższym z racji na specjalistyczny charakter spraw związanych ze sztuczną inteligencją, zwracamy jednak uwagę na to, że wpisanie w ustawę 115 określonej kwoty będzie oznaczało jej realną deprecjację z czasem. Rozważyć należałoby ustalenie tej kwoty w odniesieniu do jakiegoś wskaźnika zapewniającego waloryzację kwoty (np. pensja minimalna lub średnia w sektorze przedsiębiorstw). Art. 14 ISSA Polska 1.Brakuje określenia maksymalnego terminu na wydanie interpretacji przepisów. Podmiot wnioskujący o interpretację pozostanie w niepewności co do terminu rozpatrzenia jego wniosku. 2.W projekcie ustawy nie określono, czy interpretacje wydane w trybie art 14 mają być wiążące dla innych organów. Należy dookreślić tę kwestię w projekcie ustawy. Art. 14 ICC Poland i) Konieczność określenia skutku prawnego interpretacji Przede wszystkim zwraca uwagę brak określenia w ustawie skutku prawnego interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji. Nie jest jasne, czy taka interpretacja ma charakter wiążący dla organów administracji publicznej (w tym Komisji) oraz czy wnioskodawca może opierać się na niej w swoich działaniach. W celu zapewnienia pewności prawnej oraz praktycznego znaczenia zaproponowanego mechanizmu, pożądanym rozwiązaniem byłoby wprowadzenie przepisu wskazującego, że interpretacja indywidualna jest wiążąca dla organów w zakresie stanu faktycznego przedstawionego we wniosku, analogicznie do rozwiązań funkcjonujących na gruncie Ordynacji podatkowej3 w odniesieniu do interpretacji indywidualnych (por. art. 14k Ordynacji podatkowej). Przepisy ustawy powinny również jasno określać zakres ochrony prawnej wynikającej z interpretacji, jak również możliwość jej zmiany, uchylenia lub wygaśnięcia, wraz ze wskazaniem skutków tych zdarzeń dla ochrony wnioskodawcy. ii) Zakres wniosku a możliwości organizacyjne Biura Komisji Zwraca uwagę, że szeroki zakres spraw, które mogą być przedmiotem wniosku o interpretację (art. 14 ust. 2 Projektu) i stopień skomplikowania tej materii, może rodzić pewne wątpliwości co do dostosowania tego mechanizmu do możliwości organizacyjnych Biura Komisji oraz przewidzianego w Projekcie budżetu (art. 87 Projektu). Istnieje ryzyko nadmiernego obciążenia Przewodniczącego Komisji, Komisji i Biura Komisji dużą liczbą wniosków, co może negatywnie wpłynąć na terminowość i jakość wydawanych interpretacji. W tym kontekście należałoby rozważyć albo zwiększenie docelowego maksymalnego limitu wydatków z budżetu państwa na ten cel albo ograniczenie zakresu spraw podlegających mechanizmowi interpretacji np. poprzez wskazanie katalogu takich zagadnień, które nie mogą być przedmiotem wniosku. Taki katalog powinien obejmować takie regulacje rozporządzenia 2024/1689 lub ustawy, których interpretowanie nie ma realnej wartości dodanej dla wnioskodawcy, są jednoznaczne lub zostały już uprzednio wyjaśnione (np. w ramach interpretacji generalnej). Wpływ na zmniejszenie ryzyka nadmiernego obciążenia mogłoby mieć także doprecyzowanie wymogów formalnych co do wniosku o interpretację indywidualną. Organ powinien mieć wówczas możliwość odmowy rozpatrzenia wniosku, który nie spełnia określonych wymogów. 116 iii) Brak terminu na wydanie interpretacji przez Przewodniczącego W obecnym brzmieniu art. 14 Projektu nie wskazano terminu, w jakim Przewodniczący Komisji powinien wydać interpretację indywidualną (termin taki przewidziano jedynie dla Komisji na rozpatrzenie sprzeciwu od takiej interpretacji). Dla zapewnienia efektywności procedury oraz pewności prawnej dla wnioskodawców proponujemy wprowadzenie konkretnego terminu na wydanie interpretacji, co byłoby zgodne z zasadami przyjętymi dla analogicznych instytucji w innych ustawach (np. w Ordynacji podatkowej). iv) Wysokość opłaty za wniosek o interpretację Opłata w wysokości 150 zł może być niewspółmierna do nakładu pracy oraz kosztów związanych z przygotowaniem interpretacji indywidualnej w tak specjalistycznej dziedzinie, jaką jest sztuczna inteligencja. Wydanie takiej interpretacji w wielu przypadkach będzie wymagało bowiem analizy technicznej oraz zaangażowania specjalistów z różnych dziedzin, co generuje znaczące koszty. Obecnie proponowana opłata, przy pozostawieniu szerokiego zakresu wniosku o interpretację, może tym samym prowadzić do nadmiernego obciążenia budżetu i zdolności organizacyjnych Biura Komisji, ograniczając jego zdolność do realizacji zadań ustawowych na odpowiednim poziomie. v) Procedura odwoławcza – sprzeciw do Komisji Proponowany w art. 14 ust. 6-7 mechanizm odwoławczy, polegający na złożeniu sprzeciwu od interpretacji wydanej przez Przewodniczącego do Komisji, może budzić wątpliwości co do jego skuteczności i niezależności. Ponieważ zarówno Przewodniczący, jak i Komisja będą wspierani w wykonywaniu tego zadania przez to samo Biuro, istnieje ryzyko braku obiektywizmu i niezależności w rozpatrywaniu sprzeciwu. Zaproponowana procedura efektywnie będzie zatem bliższa wnioskowi o ponowne rozpatrzenie sprawy kierowanemu do tego samego organu niż rzeczywistemu odwołaniu. W związku z tym należałoby rozważyć zastąpienie instytucji sprzeciwu instytucją wniosku o ponowne rozpatrzenie sprawy przez Przewodniczącego Komisji, co zwiększyłoby przejrzystość procedury i wzmocniło zaufanie podmiotów korzystających z instytucji interpretacji Art. 14 Polski związek zarządzania wierzytelnościami Art. 14 Projektu W Projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”) na wydanie interpretacji indywidualnej dotyczącej przepisów AI Act (art. 14 Projektu). Zważywszy na zapotrzebowanie sektora, istotnym rozwiązaniem, na wzór interpretacji indywidualnej (podatkowej), byłoby wskazanie maksymalnego terminu na wydanie interpretacji (np. 60 dni). Sugerujemy, by termin opatrzyć zastrzeżeniem właściwym dla instytucji interpretacji milczącej, uznającej potwierdzenie stanowiska wnioskodawcy w przypadku braku niewydania właściwej interpretacji w wyznaczonym terminie. Równocześnie postulujemy o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się 117 przez wnioskującego do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. W Projekcie nie wskazano także odpowiedniej procedury odwoławczej od interpretacji, jak i nie wskazano, poszukując rozwiązań per analogiam do sprawdzonych rozwiązań wynikających z ordynacji podatkowej, sugerowanej treści sprzeciwu od danej interpretacji. Sprzeciw w tej sprawie - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 Polskie Towarzystwo Informatyczne 1.opłata interpretacji - możliwość zwrotu pieniędzy dla składającego wniosek o interpretacje Określenie przypadków, w których można ubiegać się o zwrot pieniędzy za prośbę o interpretacji 2. Nie jest jasne, czy za odwołanie od interpretacji również musi być opłacone 3. Brak przepisu o skutkach zastosowania się do interpretacji - np. wyłączenie możliwości nałożenia sankcji w przypadku zastosowania się do interpretacji Propozycja Analogicznie jak w art. 11b ustawy o nadzorze nad rynkiem finansowym: “Interpretacja Komisji nie jest wiążąca dla podmiotu, o którym mowa w ust. 1, i Komisji, z zastrzeżeniem że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej” art. 14 ust. 1 Logicise Przewodniczący Komisji wydaje interpretację przepisów Wydaje się, że interpretację przepisów powinna wydawać Komisja, a nie Przewodniczący vide Art. 15. art. 14 ust. 1 PIIT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 ustawy interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. , Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. 118 Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 KIGEiT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w Art. 55 ustawy. Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 GRAI I. Konieczność doprecyzowania: 1) kogo rozumiemy jako określonego terminem „zainteresowanego”? 2) termin w jakim interpretacja ma zostać wydana i skutki niedochowania terminu. 3) skutek jaki wywołuje otrzymanie interpretacji przez zainteresowanego. II. Projekt ustawy wprowadza obowiązek Przewodniczącego do wydawania na wniosek interpretacji indywidualnych, bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Mając na uwadze tematykę i cel wystąpienia o taką interpretację zasadne jest, aby termin wydania interpretacji indywidualnej był nie dłuższy niż 3 miesiące. III. Do rozważenia wprowadzenie zastrzeżenia, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego. 119 IV. Brak jednoznacznego przesądzenia o braku mocy wiążącej interpretacji indywidualnej dla wnioskującego przedsiębiorcy, z zastrzeżeniem, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez Komisję interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Nadanie brzmienia: „1. Przewodniczący, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów ustawy, w terminie nie dłuższym niż 3 miesiące.” „Niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.”. Dodanie ust. 8: „8. Zastosowanie się przez wnioskodawcę do wydanej przez Przewodniczącego Komisji interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.”. art. 14 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) O ile pozytywnie należy ocenić, że Komisja może wspierać uczestników rynku w interpretowania Rozporządzenia 2024/1689, o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do sytuacji, że pomimo publikacji interpretacji w Biuletynie Informacji Publicznej, prace Komisji będą zakłócone ciągle wpływającymi wnioskami o interpretacje (bo każdy podmiot podlegający pod Rozporządzenie 2024/1689 będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych (sporadyczność wydawania). W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod Rozporządzenie 2024/1689, ale również organizacje zrzeszające takie podmioty (związki pracodawców, stowarzyszenia, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich Członków ułatwi zapewnienie zgodności z Rozporządzeniem 2024/1689, a zarazem pozwoli uniknąć „zasypania\" Komisji dużą ilością podobnych wniosków o interpretację. Postulujemy także o doprecyzowanie, że w treści art. 14 ust. 1 Projektu ustawy chodzi o interpretację indywidualną, jak również wskazujemy, że ustanowiony powinien zostać termin na wydane tej interpretacji indywidualnej przez Komisję. W ten sposób przedsiębiorcy wnioskujący o wydanie interpretacji mieliby zakreślone ramy czasowe otrzymania tej interpretacji, co może mieć istotne znaczenie z perspektywy prowadzonego biznesu. 120 Art.14.1. PIIT Należy zapewnić, aby instytucja interpretacji indywidualnych i generalnych była zgodna z przepisami prawa unijnego. art. 14 ust. 1 SKwP Warto podkreślić, że w ustawie nie wskazano, jaki efekt dla wnioskodawcy spowoduje otrzymana interpretacja. Np. indywidualne interpretacje podatkowe dają efekt ochronny wskazany w Ordynacji podatkowej. Wydaje się, że należy w ustawie wskazać skutek, jaki osiągnie wnioskodawca otrzymaną interpretacją. Art. 14 ust. 1 Fundacja FinTech Poland Zgodnie z art. 14 Przewodniczący wydaje interpretacje indywidualne bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Wskazanie terminu wydania interpretacji jest kluczowe dla zapewnienia pewności prawnej i przewidywalności procedur administracyjnych. Ustalony termin umożliwia wnioskodawcy lepsze planowanie działań, minimalizując ryzyko związane z opóźnieniami w uzyskaniu interpretacji, co mogłoby wpłynąć na strategiczne decyzje biznesowe i operacyjne, zwłaszcza w obszarze innowacyjnych technologii, takich jak sztuczna inteligencja. Brak terminu wydania interpretacji może prowadzić do nadmiernej zwłoki ze strony organów, co negatywnie wpływa na efektywność i zaufanie do administracji publicznej. Dlatego wskazanie konkretnego terminu jest niezbędne, aby zagwarantować sprawność postępowania i ochronę interesów wnioskodawców. Rekomendujemy termin 3 miesięcy. Tryb interpretacji indywidualnych nie w każdym przypadku może być nieefektywny - zgadzamy się, że w niektórych sytuacjach interpretacje indywidualne mogą stanowić wsparcie dla poszczególnych podmiotów. Przy czym, należy pamiętać, że interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby 121 gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli efektywnie działać KRiBSI i uniknie potrzebie wydania interpretacji indywidualnych o podobnym stanie faktycznym. Art. 14 ust. 1a Związek Banków Polskich [Propozycja dodania ust. 1a] 1a. Zainteresowanym jest podmiot, o którym mowa w art. 2 ust.1 pkt a)- f) rozporządzenia 2024/1689 lub zamierzający wykonywać taką działalność. Propozycja ma na celu doprecyzowanie pojęcia zainteresowanego, w celu uniknięcia wątpliwości. Art. 14 ust 1 - 5 NRA Art. 14 ust. 1–5 Projektu nie określa wyraźnie skutków prawnych dla interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji, co rodzi istotne obawy o stabilność stosowania prawa i poszanowanie praw podmiotów, które na tych interpretacjach mogą się opierać. Zgodnie z treścią art. 14 ust. 1 Przewodniczący, na wniosek zainteresowanego, może wydać interpretację przepisów odnoszącą się do wskazanego stanu faktycznego lub zdarzenia przyszłego, zaś ust. 5 pozwala na odstąpienie od uzasadnienia, jeśli w pełni podziela stanowisko wnioskodawcy. Zaniechanie skonstruowania w tym przypadku regulacji o charakterze wiążącym stawia pod znakiem zapytania ochronę prawną wnioskodawców, szczególnie gdy interpretacja miałaby być w przyszłości zmieniona. Taki stan prawny może prowadzić do sytuacji, w której podmioty korzystające z interpretacji Komisji nie mają dostatecznej pewności prawnej ani ochrony przed przyszłymi sankcjami, nawet jeśli działały zgodnie z wydaną interpretacją. Brak jednoznaczności co do mocy wiążącej tych aktów może osłabić ochronę tych, którzy w zaufaniu do interpretacji dokonali określonych działań lub zaniechań. art.14 ust 2 GRAI W dokumencie nie porusza się zagadnień związanych z dopasowaniem sztucznej inteligencji (AI Aligment). Koncepcja właściwego dopasowania SI jest bardzo istotna i powinna być jednym z głównych obszarów zainteresowania organów kontrolnych. Systemy AI powinny działać zgodnie z intencjami i celami ludzi, a ponieważ technologie AI stają się coraz bardziej zaawansowane, ryzyko niepożądanych skutków ich działania wzrasta. Można wskazać 3 główne obszary ryzyka: 1. Bezpieczeństwo: możliwość podejmowania samodzielnych decyzji, często w kontekstach, które są trudne do przewidzenia przez ludzi. 2. Zgodność z wartościami ludzkimi: uwzględnianie etyki i norm społecznych. 3. Kontrola i przewidywalność: system nie będzie \"nadużywał\" autonomii ani podejmował działań, które mogłyby podważać zaufanie ludzi. W dłuższej perspektywie dopasowanie AI będzie kluczowe, jeśli systemy zaczną zbliżać się do poziomu zbliżonego lub wyższego od ludzkiej inteligencji. W takim przypadku, bez odpowiednich zabezpieczeń, istnieje ryzyko, że superinteligentna AI będzie miała cele sprzeczne z naszymi interesami. Dodanie w ust. 2 podpunktu 3: 122 „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. art.14 ust 2 KIGEiT Propozycja zapisu: dodanie pkt 3) stosowania systemów zabezpieczeń Rozszerzenie o możliwość złożenia wniosku o interpretację stosowanych systemów zabezpieczeń z względu na zachowanie jak najwyższych ram bezpieczeństwa i spełnienie kryteriów Rozporządzenia oraz ustawy w celu prawidłowego przebiegu kontroli systemów sztucznej inteligencji. art. 14 ust. 2 i art. 15 w zw. z art. 18 GRAI Poważne wątpliwości budzi uprawnienie Komisji / Przewodniczącego Komisji do wydawania interpretacji, szczególnie w indywidualnej sprawie - interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy. Należy wskazać, że taki przepis narusza kompetencje TSUE do wykładni przepisów aktów prawa unijnego – co oznacza, że w zaproponowanej postaci będzie przesłanką wszczęcia wobec Polski postępowania o naruszenie przepisów prawa unijnego i obowiązków państwa członkowskiego. Dodatkowo, takie uprawienie krajowego organu powoduje ryzyko, że w Polsce powstanie odmienne do europejskiego podejście dla niektórych kwestii, co może mieć negatywny wpływ na przedsiębiorców działających na terenie całej UE i którzy dla niezakłóconej działalności potrzebują jednolitej linii interpretacyjnej w całej UE. Usunięcie zgłoszonej niezgodności. Art.14 ust 2 Tauron Dystrybucja Dodanie podpunktu 3: „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. Art. 14 ust. 2 Polskie Towarzystwo Informatyczne Wniosek o interpretację (...) 2) określenia ryzyka systemu sztucznej inteligencji Propozycja „2) określenia ryzyka systemu sztucznej inteligencji, zgodnie z zapisami Rozporządzenia 2024/1689” Wniosek o interpretację powinien być stosowany w ramach sformalizowanej procedury. Niejasne jest np. w jaki sposób odbywałoby się określanie ryzyka systemu sztucznej inteligencji? W ramach tzw. „Standardisation Request” ze strony Komisji Europejskiej (C(2023)3215, 2023), powstaje 123 zestaw standardów, które będą umożliwiały ocenę ryzyka systemów sztucznej inteligencji. Obowiązywać będzie zasada „presumption of confomity”. Jak np.. ma się do tego kwestia wniosku o interpretację? Tego typu rzeczy powinny zostać doprecyzowane w ustawie. Art. 14.2.2) PIIT Prawdopodobnie w tym przepisie mogło chodzić o poziom ryzyka (art. 6 ASI). Brzmi jednak jak określenie rodzajów ryzyk. Art. 14.4. PIIT Czy to wyklucza uiszczenie opłaty online jednocześnie ze złożeniem elektronicznego formularza? Art. 14 ust. 5a i 5c Związek Banków Polskich 5a. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 30 dni od dnia otrzymania wniosku. 5b. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. 5c. Interpretacja nie ma charakteru wiążącego dla przedsiębiorcy. Konieczność wskazania terminu wydania interpretacji oraz skutków niewydania interpretacji i charakteru interpretacji. W razie nieuwzględnienia, przyjmujemy zasadę z KPA : Organy administracji publicznej obowiązane są załatwiać sprawy bez zbędnej zwłoki. Załatwienie sprawy wymagającej postępowania wyjaśniającego powinno nastąpić nie później niż w ciągu miesiąca, a sprawy szczególnie skomplikowanej - nie później niż w ciągu dwóch miesięcy od dnia wszczęcia postępowania. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza 124 akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli Art. 14 ust 6 PIIT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 KIGEiT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. , Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o doprecyzowanie formy sprzeciwu. Art. 14 ust 6 SKwP Od interpretacji przysługuje sprzeciw do komisji. Interpretacje wydaje Przewodniczący komisji, a komisja rozpatruje sprzeciw. Pytanie, czy ustawodawca zamierzał osiągnąć taki efekt, ponieważ zapis ten jest sprzeczny z art. 11 ust. 1 pkt 13, z którego wynika, że to do zadań komisji należy wydawanie interpretacji indywidualnych. Natomiast w przepisie tym nie ma nic o rozpatrywaniu sprzeciwów od interpretacji. Zakładając jednak, że interpretacje wydaje Przewodniczący, a sprzeciwy rozpatruje Komisja, to czy nie zostaje naruszona zasada dwuinstancyjność postępowania administracyjnego. Przewodniczący bowiem, kieruje pracami komisji. W ustawie nie wskazano drogi kontroli sądowej interpretacji, co może być poczytane, jako naruszenie konstytucyjnego prawa do sądu. art. 14 ust. 6 - 7 NRA Art. 14 ust. 6–7 Projektu nie formułuje jasno ani formy prawnej aktu, w którym Komisja rozstrzyga sprzeciw wobec wydanej interpretacji indywidualnej, ani ścieżki prawnej dostępnej dla wnioskodawcy w przypadku chęci odwołania się od takiego rozstrzygnięcia. Brak tak precyzyjnych regulacji budzi poważne wątpliwości co do ochrony praw stron postępowania, w ramach którego będzie można zakwestionować decyzję Komisji, ponieważ brak jednoznacznych ustaleń co do formy aktu i przysługującej ścieżki odwoławczej naraża podmioty wnioskujące na ryzyko pozbawienia ich skutecznych instrumentów obrony. Zagwarantowanie jasności i pewności prawa, zwłaszcza w obszarze decyzji interpretacyjnych, jest kluczowe dla ochrony praw jednostek oraz przejrzystości procesu. Gdyby rozstrzygnięcie przybrało formę decyzji administracyjnej, to otwarta 125 byłaby możliwość wniesienia skargi do sądu administracyjnego. Alternatywnie, gdyby rozstrzygnięcie przybrało formę postanowienia, zasadnym byłoby rozważenie możliwości odwołania się do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej także „SOKiK”), wzorem postępowania przewidzianego w art. 57 ust. 1 Projektu. W związku z tym należałoby wyraźnie określić, iż rozstrzygnięcie Komisji winno przyjmować formę decyzji albo postanowienia oraz doprecyzować dopuszczalność skargi do sądu administracyjnego albo odwołania do SOKiK. art. 14 ust. 6 - 7 PIIT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 KIGEiT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to też ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 GRAI Projektowana ustawa nie reguluje procedury odwoławczej (rozpatrzenia sprzeciwu) oraz nie wskazuje co ma zawierać sprzeciw od interpretacji indywidualnej. Propozycja uregulowania sprzeciwu na wzór odwołania w przepisach KPA. art. 14 ust. 7 SKwP Powinno się tu wskazać możliwość odwołania do właściwego sądu. Art. 14 ust. 7 Związek Banków Polsich 7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio. 126 Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Art. 15 PIRP kompetencja Komisji do dokonywania interpretacji generalnych jest zbyt daleko idąca; w aktualnym stanie prawnym wydaje się wystarczająca przyznana Komisji kompetencja w zakresie interpretacji w sprawach indywidualnych (art. 14 ustawy) Art. 15 ICC Poland i) Konieczność uregulowania procedury wydawania interpretacji generalnych Artykuł 15 Projektu jest zbyt ogólny i nie precyzuje w ogóle procedury wydawania interpretacji generalnych. Brakuje informacji na temat trybu postępowania, terminów, podmiotów uprawnionych do złożenia wniosku, zakresu wniosku, czy też skutków wydania takiej interpretacji. W celu zapewnienia transparentności i efektywności procesu, konieczne jest zatem szczegółowe uregulowanie procedury lub odwołanie się do odpowiedniego stosowania przepisów dotyczących interpretacji indywidualnych (po ich odpowiednim skorygowaniu z uwzględnieniem ww. uwag). ii) Relacja między art. 13 a art. 15 Projektu Nie jest jasne, jaka jest relacja między interpretacjami generalnymi (art. 15 Projektu) a „wyjaśnieniami, opiniami i interpretacjami mającymi istotne znaczenie dla stosowania przepisów”, wydawanymi przez Komisję (art. 13 Projektu) oraz w jakim zakresie te instytucje się od siebie różnią. Jeśli interpretacje generalne mają służyć ujednoliceniu praktyki i ogólnemu wyjaśnieniu przepisów, warto tę funkcję wyraźnie zaznaczyć. Należy zarazem rozważyć łączne uregulowanie interpretacji generalnych oraz wyjaśnień, opinii i interpretacji, z jasnym określeniem różnic w procedurach oraz skutkach prawnych poszczególnych form. Art. 15 Instrat – Fundacja Centrum Cyfrowe Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Art. 15 ITCORNER Projekt nie reguluje, jakie podmioty i w jakim trybie mogłyby wnioskować o interpretacje generalną - sugerujemy wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. W tym kontekście uważamy, że ogólnokrajowe stowarzyszenia zrzeszające przedsiębiorców z branży technologicznej powinny zostać uprawnione do wnioskowania o interpretację generalną z uwagi na ich przekrojową wiedzę, doświadczenie oraz wpływ na branżę technologiczną art. 15 GRAI Projekt ustawy nie reguluje w jakim trybie i jakie podmioty mogą występować o interpretację generalną. Wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. 127 art. 15 Polski związek zarządzania wierzytelnościami Art. 15 Projektu W Projekcie nie wskazano docelowej grupy podmiotów, jak i trybu wnioskowania o interpretację generalną (art. 15 Projektu). W celu zachowania funkcjonalności KRiBSI postulujemy o wskazanie katalogu podmiotów i trybu składania wniosków w celu uzyskania rzeczonej interpretacji. Tym samym wskazujemy, że rola ogólnokrajowych stowarzyszeń zrzeszających przedsiębiorców z branży technologicznej powinna być kluczowa, a same stowarzyszenia powinny zostać uwzględnione w wyżej wspomnianym katalogu do wnioskowania o interpretację generalną z uwagi na ich kompleksowy charakter, szerokie spojrzenie na interesy branży, doświadczenie oraz wpływ na sam sektor technologiczny. art. 15 NRA Zgodnie z art. 13 ust. 1 Projektu Komisja jest uprawniona do sporządzania wyjaśnień, opinii oraz interpretacji w sprawach objętych zakresem jej działania, w celu ułatwienia stosowania przepisów w tym obszarze. Z kolei art. 15 Projektu pozwala Komisji dokonywać interpretacji generalnych, zarówno z własnej inicjatywy, jak i na wniosek, w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. De facto oba wskazane przepisy zdają się dotyczyć wydawania podobnych aktów interpretacyjnych, które mimo odmiennych nazw w praktyce wydają się być zbieżne co do ich charakteru i przeznaczenia, a brak czytelnego rozróżnienia wprowadza ryzyko niepewności prawnej w stosowaniu obu instytucji. Wydaje się zatem niezbędne, aby w Projekcie wyraźnie rozgraniczono zakresem interpretacji wynikających z art. 13 ust. 1 oraz z art. 15 albo wprowadzono w inny sposób jednoznaczną ich dyferencję. Taka precyzja zapewniłaby większą klarowność co do zakresu kompetencji Komisji i wyeliminowała niejasności, jakie mogą wyniknąć z nakładania się tych regulacji. Konieczne jest również określenie, jak sygnalizowano powyżej, skutków prawnych interpretacji zawartych w obu artykułach, co dodatkowo zabezpieczyłoby podmioty stosujące się do wytycznych Komisji. Art. 15 Związek Banków Polskich Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z zastrzeżeniem, że działania tych osób w zakresie w jakim zastosowały się do interpretacji Komisji nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnych. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie 128 swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. Art. 15 Osoba fizyczna jk Artykuł powiela zapisy art. 13 ust. 1 oraz art. 14 Art. 16 Osoba fizyczna jk dla spójności zapisów zamiast \"zamieszczane są\" powinno być \"publikowane są\" art. 16 PIIT Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. art. 16 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o uzupełnienie treści przepisu art. 16 Projektu ustawy poprzez wskazanie, że usunięciu podlegają również informacje stanowiące tajemnicę przedsiębiorstwa oraz inne informacje podlegające ochronie na podstawie odrębnych przepisów. art. 16 GRAI W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Doprecyzowanie przepisu: 129 Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 KIGEiT Propozycja zapisu: Art. 16. Interpretacje, o których mowa w Art. 14 i Art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Art. 16 ICC Poland Artykuł 16 przewiduje publikację interpretacji po usunięciu jedynie danych identyfikujących wnioskodawcę. Takie podejście może być niewystarczające w kontekście ochrony informacji poufnych i tajemnicy przedsiębiorstwa. W treści interpretacji mogą znajdować się szczegółowe dane techniczne, know-how lub inne wrażliwe informacje, których ujawnienie może narazić wnioskodawcę na straty, zwłaszcza, że wyczerpujące przedstawienie stanu faktycznego we wniosku o interpretację (art. 14 ust. 3 Projektu) ze względu na jego przedmiot będzie z reguły wymagało szczegółowego opisu technicznego systemu maszynowego. Rozwiązaniem w tym zakresie może być wprowadzenie mechanizmu pozwalającego wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku. Organ wydający interpretację powinien być zobowiązany do uwzględnienia tych zastrzeżeń i zapewnienia, że publikowana wersja dokumentu nie zawiera chronionych informacji. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści interpretacji, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Art. 16 TAURON Dystrybucja W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot 130 będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Propozycja: Doprecyzowanie zapisu: Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 Instrat – Fundacja Centrum Cyfrowe Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących podmiot, którego sprawa dotyczy lub wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. - uwaga: w obecnym brzmieniu wydaje się, jakby dokumenty w sprawach, które nie zostały wszczęte na wniosek nie miały być anonimizowane. - uwaga: w obecnym brzmieniu przepisu wydaje się, jakby w przypadku interpretacji z urzędu dane nie musiały być anonimizowane. Art. 17 ust. 1 CHAMBER mając na uwadze prawdopodobny termin przyjęcia ustawy i czas niezbędny do zorganizowania prac Komisji i Biura, wydaje się że przedstawienie sprawozdania powinno nastąpić po raz pierwszy dopiero w marcu 2026 r. Sugerujemy przyjęcie stosownego przepisu przejściowego. art. 17 ust. 1 GRAI Zmiana zakresu raportowania, zbytecznym wydaje się raportowanie do obu stron Skreśla się słowa: „i ministrowi właściwemu do spraw informatyzacji”. Art.17 ust. 1 ISSA Polska Sprawozdanie powinno zawierać także informacje o wydanych indywidualnych interpretacji Art. 18 ITCORNER W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie jest w wystarczającym stopniu precyzyjny. Aktualnie art. 18 ust. 2 Projektu zakłada, że Przewodniczący Komisji powinien mieć znaczną wiedzę i dorobek “w zakresie sztucznej inteligencji lub prawie”. Uważamy, że osoba piastująca krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne, wyróżniała się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii - w tym kontekście uważamy zastosowane w Projekcie pojęcie “prawo” za zbyt pojemne. Przewodniczący Komisji, aby przekrojowo rozumieć otoczenie prawne dot. sztucznej inteligencji oraz ryzyka z nią związane, powinien cechować się wiedzą oraz wysoką świadomością prawną dotyczącą co najmniej własności intelektualnej (prawa autorskie, ochrona programów komputerowych, bazy danych), prawa IT, danych osobowych oraz cyberbezpieczeństwa. Pod rozwagę także zostawiamy, czy pojęcie sztucznej inteligencji nie powinno w tym kontekście także zostać doprecyzowane, uwzględniając przy tym uczenie maszynowe. 131 art. 18 ust.1 SKwp Jak już wcześniej wskazywaliśmy, konkurs tak, ale akceptacja Sejmu i powołanie przez Prezesa RM. art. 18 ust.1 GRAI Kwestia upolitycznienia wyboru Przewodniczącego Komisji. W projekcie wyboru kandydata na Przewodniczącego dokonywać ma komisja kwalifikacyjna (uwagi do samej komisji poniżej), ale powołanie nadal należy do Prezesa Rady Ministrów. Są obawy, że ze względów politycznych to powołanie może albo nie nastąpić, albo być odwlekane w czasie, albo zostać dokonane z pominięciem przepisów. Brakuje mechanizmu odblokowującego występujące przeszkody politycznie. Propozycja przepisu, zawierającego alternatywną ścieżkę, jeżeli powołanie nie nastąpi w przeciągu 14 dni od wyłonienia kandydata. Art. 18 ust. 1 pkt 4 Polskie Towarzystwo Infopmatyczne Wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Propozycja Kryterium wyboru Przewodniczącego Komisji na podstawie znaczącego dorobku w zakresie prawa jest niezgodne z tematyką działania Komisji, gdzie wymagane są kompetencje związane z AI. Wiedza i doświadczenie z zakresu prawa nie gwarantuje wymaganej w Komisji wiedzy dotyczącej AI Art. 18 ust. 2 Polski związek zarządzania wierzytelnościami Art. 18 ust. 2 Projektu W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie został określony wystarczająco precyzyjnie. Bieżące brzmienie art. 18 ust. 2 Projektu wskazuje, że Przewodniczący Komisji powinien wyróżniać się wiedzą i posiadać znaczący dorobek „w zakresie sztucznej inteligencji lub prawa”. Stoimy na stanowisku, że osoba piastująca tak krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne i interpretacyjne, powinna wyróżniać się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii. Ograniczenie ujętych w Projekcie wymagań do „prawa” stałoby się zbyt pojemne, a w konsekwencji nie wymagałoby od potencjalnego kandydata przekrojowego rozeznania w otoczeniu prawnym dotyczącym sztucznej inteligencji czy powiązanych z nim ryzyk. Pośród zagadnień, które zawężają to pojęcie, należałoby wskazać m.in. kwestie związane z własnością intelektualną (w tym prawa autorskie, ochronę programów komputerowych oraz baz danych), szeroko rozumiane prawo IT, ochronę danych osobowych oraz cyberbezpieczeństwo. 132 W kontekście tego samego artykułu nasze wątpliwości budzi także samo pojęcie „sztucznej inteligencji”, które zwłaszcza w kontekście specjalistycznej ustawy w tymże zakresie, mogłoby być doprecyzowane, jako że sam AI Act nie definiuje tego pojęcia w sposób przejrzysty, posługując się pojęciem „systemu sztucznej inteligencji”. Obecne rozwiązanie wydaje się także nie uwzględniać problematyki uczenia maszynowego. Art. 18 ust. 2 CHAMBER mają na uwadze międzynarodowy wymiar rozwoju SI i konieczność uczestniczenia przez Przewodniczącego (jak i jego Zastępców) KRiBSI w pracach rozmaitych gremiów na poziomie UE, niezbędny wydaje się wymóg biegłej znajomości języka angielskiego. Art. 18 ust. 2 Fundacja FinTech Poland Sugeruje się podnieść wymagania dla przewodniczącego. Określenie - wyróżnia się wiedzą jest bardzo ocenne. Art. 18 ust. 2 pkt 4 CHAMBER zgodnie z brzmieniem tego przepisu Przewodniczącym Komisji może zostać osoba, która posiada wiedzę i doświadczenie w zakresie prawa, zupełnie bez doświadczenia i wiedzy nt. SI czy choćby technologii informacyjno-komunikacyjnych w ogóle. W naszej ocenie jest to zbyt daleko idące rozszerzenie grona potencjalnych kandydatów, a Przewodniczący Komisji bezwzględnie powinien odznaczać się wiedzą fachową w obszarze nowoczesnych technologii (lub prawa nowych technologii). Art. 18 ust. 2 pkt 4 Logicise Kwalifikacje Przewodniczącego Opis kwalifikacji Przewodniczącego jest nieprecyzyjny, trudny do porównania i w naszej opinii zdecydowanie niewystarczający aby zapewnić odpowiednią jakość. Np. pojęcie “znaczącego dorobku” nie gwarantuje posiadania odpowiednich kwalifikacji do pełnienia tej funkcji przez kandydata. Uważamy, iż, “znaczący dorobek” naukowy powinien być oceniany przez pryzmat szeroko stosowanych kryteriów w świecie naukowym, m.in.: liczby publikacji naukowych (z uwzględnieniem impact factor czasopism i konferencji), liczby cytowań (wskaźnik Hirscha), liczby patentów, liczby i jakości grantów naukowych, itd. Podobnie w pozostałych przypadkach. Art. 18 ust. 2 pkt 4 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Przewodniczącego powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami. Art. 18 ust. 2 pkt 4 KIGEiT Propozycja zapisu: 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji 133 oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; , Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone, nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 PIIT 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji. Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 Repropol Art. 18 ust. 2 pkt 4 UoSSI wskazuje na obowiązek posiadania odpowiednich kompetencji osób stojących na czele Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI): „wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych”. Mając na uwadze brzmienie art. 70 ust. 3 AIA, wydaje się właściwe, aby przewodniczący komisji (również jego zastępcy – zob. art. 21 ust. 2 UoSSI) legitymowali się albo wiedzą techniczną, albo prawną w zakresie AI. Aby kryterium wiedzy prawnej zostało należycie wyeksponowane, wskazany przepis powinien być uzupełniony poprzez możliwość wykazywania się przez kandydatów doświadczeniem uzyskanym w trakcie wykonywania usług, realizowania zadań związanych z wykonywaniem zawodu prawnika (a nie tylko „doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, 134 cyberbezpieczeństwa lub technologii informacyjnych”). Obecne brzmienie przepisu w swojej drugiej części jest zatem sformułowaniem zbyt wąskim. Projekt ustanawia gremium doradcze, Radę działającą przy KRIBSI. Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 28 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest nie do przecenienia. Mając to na uwadze, wnosimy o odpowiednie uzupełnienie art. 28 ust. 3 UoSSI. Na marginesie, uważamy, iż uczestnictwo w Radzie, jak powinno wiązać się z (choćby niewielkim) wynagrodzeniem. Ze dziwieniem odnotowaliśmy uzasadnienie nieodpłatnego uczestnictwa w pracach Rady, jakim jest jedynie chęć niegenerowania „niepotrzebnych kosztów po stronie budżetu państwa”. Uważamy, że merytoryczny wkład w funkcjonowanie wspomnianego gremium uzasadnia zapłatę wynagrodzenia także innym osobom, niż jedynie Przewodniczącemu Komisji i jego zastępcom – patrz s. 10 i 12 uzasadnienia). Tym bardziej, że przynależność do tego grona wymaga posiadania dość unikalnych kompetencji merytorycznych. Zakwalifikowanie takiego wynagrodzenia do kategorii „niepotrzebnego kosztu” wydaje się niefortunnym skrótem myślowym. Poczynione w ten sposób „oszczędności” byłyby raczej iluzoryczne z uwagi na ograniczony liczbowo skład Rady. art. 18 ust. 2 pkt 4 GRAI Zwiększenie wymagań dla Przewodniczącego Komisji Mając na uwadze zakres działania Komisji, za niewłaściwe należy uznać wymagania sfromułowane w odniesieniu do potencjalnego kandydata na stanowisko Przewodniczącego Komisji poprzez wskazanie, iż powinna być to osoba \"wyróżniająca się wiedzą i posiadająca znaczący dorobek w zakresie sztucznej inteligencji lub prawa\". Pozostawiając zapis \"lub prawa\" z założenia dopuszcza się, że na czele Komisji może stanąć osoba posiadająca znaczący dorobek w zakresie prawa, ale niekoniecznie w zakresie AI. Podobnie zapis dot. doświadczenia zawodowego wskazujący, iż powinno być ono uzyskane \"w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych\" nie zapewnia pozyskania osoby, która będzie wykazywała się doświadczeniem praktycznym w zakresie tego konkretnego obszaru. Na czele Komisji powinna natomiast stanąć osoba posiadająca wiedzę i doświadczenie zawodowe przede wszystkim w zakresie AI. Następujące propozycje: I. Po słowie ,,prawa” dodaje się „nowoczesnych technologii”. II. \"wyróżnia się wiedzą i doświadczeniem zawodowym w zakresie sztucznej inteligencji\". 135 art. 18 ust. 2 pkt. 4 GRAI I. Wymogi wskazane w pkt 4 są zawężające w zakresie doświadczenia kandydata i eliminuje osoby, które realizowały swoje obowiązki w charakterze innym niż w ramach stosunku pracy. II. Sprecyzowanie wymagań dla Przewodniczącego Komisji (obecny zakres jest nieprecyzyjny) tak aby obejmował łączne kompetencje w dziedzinie informatyki i prawa. Nb. technologie informacyjne obejmują zarówno cyfryzację jak i cyberbezpieczeństwo (być może zasadnym byłoby zastosowanie określenia Informatyka Techniczna i Telekomunikacja). Dorobek w zakresie SI jest także wymaganiem kłopotliwym (szczególnie jeśli miałby być to dorobek “znaczący”) - dodanie znacznie bardziej precyzyjnego określenia np. uczenie maszynowe. Nadanie następującego brzmienia pkt 4: „4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, współpracy z lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, lub świadczenia usług na ich rzecz” Art. 18 ust. 2 pkt 4 Związek Banków Polskich 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, prawa nowych technologii oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Wobec Przewodniczącego Komisji powinny być stawiane bardziej konkretne wymagania w kontekście wiedzy o AI: nie może to być \"dorobek w zakresie sztucznej inteligencji lub prawa\". Prawo ma tutaj mniejszą istotność niż wiedza i rozumienie kwestii dot. AI. Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). art. 18 ust. 4 GRAI Uwaga redakcyjno-legislacyjna Ust. 4 powinien brzmieć: „4. Po upływie kadencji Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.” Art. 18 ust. 5 Polskie Towarzystwo Informatyczne Trzyletni staż na stanowiskach kierowniczych w takiej Komisji to stanowczo za mało Propozycja 136 „posiada co najmniej siedmioletni staż pracy na stanowiskach kierowniczych” Trzyletni staż na stanowiskach kierowniczych jest zbyt krótki Art. 19 ust. 1 Fundacja FinTech Poland Jeżeli ustawodawca decyduje się wprowadzić katalog zamknięty to należałoby go poszerzyć tytułem przykładu o: ubezwłasnowolnienie całkowite lub częściowe. Pełnienie funkcji przewodniczącego może wiązać się z zarządzaniem środkami publicznymi. Należałoby więc uwzględnić również orzeczenia Głównej Komisji Orzekającej w Sprawach o Naruszenie Dyscypliny Finansów Publicznych. Pytanie też o zastosowanie tymczasowego aresztowania - pkt 6 dotyczy jedynie przyczyn zdrowotnych trwających dłużej niż 3 miesiące. Art. 19 ust. 1 pkt 1 ISSA Polska Proponuję zmianę treści punktu na: „prawomocnego skazania za przestępstwo umyślne ścigane z oskarżenia publicznego lub umyślne przestępstwo skarbowe”. art. 19 ust. 3 i 4 GRAI Ustawa przyznaje uprawnienia Prezesowi Rady Ministrów do wskazania, który z Zastępców zastępuje Przewodniczącego. Jest to przykład zależności Komisji od czynnika politycznego i budzi wątpliwości co do niezależności Przewodniczącego i jego Zastępców. Przyjęcie rozwiązania, że w obu przypadkach wskazanych w ust. 3 i 4 art. 19 Przewodniczącego zastępuje Zasępca z najdłuższym stażem na stanowisku Zastępcy, a w przypadku, gdyby obaj mieli taki sam staż to kolejność powołania. Art. 20 CHAMBER zawieranie tak szczegółowych i istotnych jedynie incydentalnie dla nielicznych zainteresowanych przepisów w akcie prawa powszechnie obowiązującego nie wydaje się konieczne. Tryb postępowania może być określony aktem niższego rzędu, przykładowo rozporządzeniem Prezesa Rady Ministrów, a ustawa powinna zawierać jedynie delegację do jego wydania. Co więcej proponowana procedura wydaje się też nadmiernie skomplikowana. Art. 20 PIIT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? Art. 20 KIGEiT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie 137 Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. , Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. Art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - nasuwa się pytanie czy jest to wykonalne w tak krótkim czasie. Art. 20 ust. 1 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej art. 20 ust. 2 pkt 3 SKwP Powstaje pytanie, jakie to będą wymagania prawne i gdzie określone? Jak mówimy o wymaganiach prawnych, to warto byłoby podać akt prawny. art. 20 ust.3 GRAI Termin na składanie dokumentów jest dość krótki. Pomimo, że to jedynie termin minimalny, to jednak jest ryzyko, że będzie wykorzystywany w takim wymiarze. Powinno to być min 30 dni, albo chociaż min. 3 pełne tygodnie, szczególnie, że znalezienie osoby spełniającej wymagania wskazane w ustawie nie będzie łatwe, przynajmniej w pierwszych latach obowiązywania AIA. Termin nie powinien być krótszy niż 30 dni od dnia opublikowania ogłoszenia w BIP Art. 20 ust. 4 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 4 Instrat – Fundacja Centrum Cyfrowe Art. 20. 4 Nabór na stanowisko Przewodniczącego Komisji przeprowadza komisja kwalifikacyjna,, powołana przez Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów, liczący co najmniej 3 osoby, których wiedza i doświadczenie dają rękojmię wyłonienia najlepszych kandydatów. W toku naboru ocenia się doświadczenie zawodowe kandydata, wiedzę niezbędną do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. - uwaga: drobne błędy redakcyjne. 138 art. 20 ust. 4 GRAI Uwaga redakcyjna Słowo ,,liczący” zastępuję sie słowem ,,licząca”. art. 20 ust. 4 i 5 GRAI Nie jest zrozumiałe z jakiego powodu komisja kwalifikacyjna, która ma mieć wiedzę, doświadczenie i ma dawać rękojmię wyłonienia najlepszych kandydatów, miałaby korzystać z podmiotu trzeciego (także posiadającego wiedzę, kwalifikację i doświadczenie) do dokonania oceny kandydata. To by mogło oznaczać, że zakłada się, że spełnienie przez członków komisji wymogów wskazanych w punkcie 4 nie będzie zawsze możliwe. Idąc dalej, oznaczać to może, że członkowie komisji nie dają rękojmi do prawidłowego ocenienia kandydata i nie powinni zasiadać w komisji. Ponadto, jeżeli już w jakikolwiek sposób ten podmiot trzeci miałby się pojawić w procesie wyłonienia kandydata to powinna to być jednak bezstronna osoba i wyłoniona apolitycznie. Brak też wskazania w jaki sposób zagwarantowana miałaby być apolityczność członków komisji oceny kandydata. -Usunięcie ustępu 5; -doprecyzowanie, z jakiego kręgu osób powoływani są członkowie komisji kwalifikacyjnej; -konieczność zapewnienia apolityczności procesu wyłonienia Przewodniczącego. Art 20 ust. 7 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 8 Fundacja Panoptykon Przejrzystość wyboru przewodniczącego Komisji Nie mamy kierunkowych zastrzeżeń do samego trybu wyboru przewodniczącego Komisji. Z uznaniem odnotowujemy także intencję zapewnienia przejrzystości i rozliczalności prac komisji kwalifikacyjnej. Zdecydowanie popieramy w szczególności propozycję wprowadzoną w art. 20 ust. 8 projektu ustawy, zgodnie z którą komisja kwalifikacyjna musiałaby opublikować protokół zawierający nazwiska najlepszych kandydatów wraz z uzasadnieniem ich wyboru. 139 Jednakże, biorąc pod uwagę kluczową rolę przewodniczącego Komisji w kierowaniu jej pracami i reprezentowaniu jej na zewnątrz oraz fakt, że Komisja i jej przewodniczący to nowo tworzone organy wymagające unikalnych kompetencji, uważamy za istotne z perspektywy interesu publicznego, aby społeczeństwo obywatelskie, opinia publiczna i parlamentarzyści mieli szansę na zapoznanie się z kandydatami i ocenę ich kompetencji przed dokonaniem wyboru przez Prezesa Rady Ministrów. Z tych względów sugerujemy dwa dodatkowe rozwiązania mające na celu zwiększenie przejrzystości procesu naboru: • dopuszczenie przedstawicieli organizacji społecznych zajmujących się m. in. ochroną praw człowieka do udziału w charakterze obserwatorów przy komisji kwalifikacyjnej; • wprowadzenie obowiązku organizacji wysłuchania publicznego kandydatów wyłonionych przez komisję kwalifikacyjną zgodnie z art. 20 ust. 7 projektu ustawy, przed ostateczną decyzją Prezesa Rady Ministrów. Prawo do udziału w charakterze obserwatora przy komisji kwalifikacyjnej pozwoli organizacjom społecznym na efektywne monitorowanie prawidłowości i rzetelności procesu wyboru przewodniczącego Komisji. Warto podkreślić, że takie rozwiązanie nie byłoby precedensowe z punktu widzenia praktyki wyłaniania osób piastujących ważne z perspektywy interesu publicznego stanowiska. Przykładowo, w 2024 r. przedstawiciele organizacji pozarządowych uczestniczyli jako obserwatorzy w rozmowach kwalifikacyjnych z kandydatami i kandydatkami na urząd sędziego Europejskiego Trybunału Praw Człowieka. Jeśli chodzi o wysłuchanie publiczne, proponujemy ograniczenie go do wysłuchania kandydatów i kandydatek wytypowanych przez komisję kwalifikacyjną zanim Prezes Rady Ministrów zadecyduje o powołaniu przewodniczącego. Takie rozwiązanie umożliwiłoby członkom Sejmu i Senatu RP, organizacjom społecznym oraz opinii publicznej zapoznanie się z kandydatami i kandydatkami oraz ocenę ich kompetencji. Choć ostateczna decyzja wciąż należałaby do Prezesa Rady Ministrów, wcześniejsze wysłuchanie publiczne stworzyłoby przestrzeń do otwartej debaty na temat kompetencji kandydatów, ich priorytetów i wizji sprawowania urzędu. Dzięki temu zmniejszyłoby się poczucie arbitralności decyzji Premiera, a jednocześnie wzrosłyby szanse na wybór osoby, która zyska szersze zaufanie społeczne. W końcu, wysłuchanie publiczne także jest dość powszechną praktyką w procesie obsadzania wielu kluczowych stanowisk publicznych, jak choćby we wcześniej wspomnianym przypadku powoływania kandydata na sędziego ETPCz, a także wyboru Prezesa Urzędu Ochrony Danych Osobowych. Oba postulowane rozwiązania, jakkolwiek bywają już stosowane w praktyce, nie mają dotychczas odpowiedniej podstawy prawnej. Biorąc pod uwagę innowacyjny charakter komentowanego projektu, naszym zdaniem projektodawcy mogliby także i w tym obszarze wskazać wysoki standard zabezpieczając w ustawie prospołeczne i sprzyjające debacie publicznej rozwiązania. 140 Art. 20 ust. 9 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie informacji w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej Art. 20 ust. 11 Osoba fizyczna jk dla spójności zapisów zamiast \"Umieszczenie\" powinno być \"Opublikowanie\" Art. 21 Instrat – Fundacja Centrum Cyfrowe Procedura powoływania Przewodniczącego Komisji oraz Zastępców Jeśli jednak przyjęcie pierwszego z powyższych rozwiązań okaże się niemożliwe, rekomendujemy wprowadzenie zmian w sposobie wyznaczania Zastępców Przewodniczącego. Zgodnie z Art. 21, Zastępców Przewodniczącego Komisji powołuje Prezes Rady Ministrów na wniosek Przewodniczącego Komisji, wybierając spośród kandydatów przez niego wskazanych. Aby ograniczyć możliwość wpływu konkretnych grup interesów oraz zminimalizować ryzyko mianowania osób blisko związanych z Przewodniczącym, proponujemy, aby Zastępcy byli rekomendowani przez Społeczną Radę do spraw Sztucznej Inteligencji. Alternatywnie, kandydatury mogłyby przynajmniej podlegać opiniowaniu przez Radę, co podniosłoby transparentność i wiarygodność procesu nominacji na te stanowiska. Wprowadzenie takiego mechanizmu wymagałoby powołania Społecznej Rady oraz wyłonienia jej członków przed nominacjami Zastępców, co mogłaby przeprowadzić Komisja w okrojonym składzie. Mimo potencjalnych wyzwań organizacyjnych, uważamy, że taki model jest wart rozważenia, ponieważ sprzyjałby zwiększeniu apolityczności i przejrzystości działania Komisji. Art. 21 ITCORNER Za kluczowe uważamy również zapewnienie konkurencyjności powołania Zastępców Przewodniczącego Komisji. W tym kontekście proponujemy, aby Prezes Rady Ministrów wybierał zastępców spośród kandydatów wyłonionych w drodze konkurencyjnego i otwartego naboru, prowadzonego przez zespół powołany przez Przewodniczącego Komisji. Art. 21 GRAI Zapewnienie konkurencyjności modelu powołania wiceprezesa Komisji Następująca propozycja brzmienia: 1. Prezes Rady Ministrów powołuje Zastępców Przewodniczącego Komisji spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Prezes Rady Ministrów odwołuje wiceprezesów Urzędu na wniosek Przewodniczącego Komisji. 2. Stanowisko Zastępcy Przewodniczącego Komisji może zajmować osoba, która spełnia wymagania określone w art. 18 ust. 2 ustawy. 3. Zespół przeprowadzający nabór na stanowiska, o których mowa w ust. 1, powołuje Przewodniczący Komisji. 4. Do sposobu przeprowadzania naboru na stanowiska, o których mowa w ust. 1, stosuje się odpowiednio przepisy art. 20 ustawy. 141 Art. 22 Polski związek zarządzania wierzytelnościami Art. 21 Projektu Bieżące brzmienie art. 21 Projektu nie zakłada konkurencyjnego charakteru procedury powołania osób na stanowiska Zastępców Przewodniczącego Komisji. Rozwiązanie powoływania Zastępców na wniosek Przewodniczącego KRiBSI przez Prezesa Rady Ministrów rażąco kontrastuje z wymogami stawianymi wobec kandydatów na stanowisko Prezesa, wobec czego wskazujemy na istotę zachowania konkurencyjnego i otwartego naboru także na tym poziomie. Art. 22 CHAMBER - wydaje się, że prawidłową techniką legislacyjną byłoby jednoznaczne określenie (jeśli nie wynika to z przepisów odrębnych), że Przewodniczący Komisji i jego Zastępcy mają status osób pełniących funkcje publiczne zgodnie z ustawą, ze wszystkimi wiążącymi się tym konsekwencjami prawnymi (w tym obowiązkiem składania oświadczeń majątkowych). Kazuistyczne wskazywanie poszczególnych jedynie obowiązków czyni status tych osób niejasnym i może prowadzić do niepotrzebnych wątpliwości i sporów. Art. 22 ust. 1 ISSA Polska Proponuję uszczegółowić zapis „... są obowiązani do złożenia oświadczeń o swoim stanie majątkowym, w trybie i terminach, zgodnie z art 10 ... - oświadczenia zgodnie z ustawą składa się w dniu objęcia/złożenia stanowisko i corocznie do dnia 31 marca”. Art 23 KIG Zapis powtarza model przyjęty w ustawie o nadzorze nad rynkiem finansowym, co w opisywanym przypadku nie znajduje uzasadnienia. Sugerujemy albo całkowity zakaz łączenia funkcji zawodowych ze stanowiskiem w Komisji albo model odwrotny – brak zakazu, z obowiązkiem urlopu bezpłatnego na czas kadencji. Art. 23 ust. 2 Fundacja FinTech Poland Sugerujemy wymagania te rozszerzyć na osoby mogące wydawać decyzje w tym pracowników Biura. Sugerujemy wprowadzić tryb wyłączenia w przypadku konfliktu interesów - samo pojęcie konflikt interesów jest zbyt ogólne bo nie ma z czym go porównać (z czyimi interesami ma być konflikt, publicznymi czy prywatnej działalności). Ponadto sugeruje się poszerzyć katalog organizacji do których nie może należeć Przewodniczący i Zastępca np. o związki wyznaniowe i kościoły (rozgraniczenie Kościoła od Państwa). Art. 23 i Art. 24 ICC Poland W razie pozostania przy koncepcji powierzenia funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji organowi kolegialnemu (Komisji), wątpliwości budzi przewidziany w projekcie zakres niepołączalności stanowisk Przewodniczącego Komisji, jego Zastępców, członków Komisji oraz pracowników Biura i innych osób tam zatrudnionych (art. 23 i 24 Projektu). Po pierwsze, zgodnie z art. 24 Projektu, Przewodniczący Komisji, jego zastępcy, pozostali członkowie Komisji, Dyrektor Biura Komisji, jak i wszyscy pracownicy Biura Komisji i osoby zatrudnione w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze nie mogą być akcjonariuszami, udziałowcami, członkami organów, ani nawet podejmować zatrudnienia na jakiejkolwiek podstawie w podmiotach 142 „podlegających nadzorowi Komisji”. Tymczasem nadzorowi Komisji, jako organowi nadzoru nad systemami sztucznej inteligencji, podlegać będą docelowo wszyscy operatorzy systemów sztucznej inteligencji, a zatem nie tylko dostawcy, importerzy czy dystrybutorzy takich systemów, ale również podmioty je stosujące. Oznacza to, że proponowana treść art. 24 Projektu wyklucza możliwość istnienia przewidzianego tam powiązania członków Komisji i pracowników Biura z takim podmiotami już tylko z tej przyczyny, że podmiot taki będzie wykorzystywać system sztucznej inteligencji, nad którym będzie sprawować kontrolę (art. 3 pkt 4 rozporządzenia 2024/1689). Rozwój tej technologii uprawdopodabnia jednak przewidywanie, że wykorzystywanie systemów sztucznej inteligencji – zwłaszcza przy istniejącej, szerokiej i nie w pełni jasnej definicji tego pojęcia – będzie powszechne. Może to prowadzić do sytuacji, w której spełnienie wymogów z art. 24 Projektu będzie w praktyce bardzo utrudnione lub wymagać będzie rezygnacji przez takie osoby z jakiegokolwiek innego zatrudnienia lub uczestnictwa w innych podmiotach bądź instytucjach, co może negatywnie wpłynąć na eksperckość składu Komisji i Biura Komisji. Nie jest wreszcie jasne, jak należałoby ocenić sytuację, w której Przewodniczący lub Zastępca Przewodniczącego zajmowaliby stanowisko w jednostkach naukowych, o których mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (odesłanie w tym zakresie wymaga zresztą poprawienia), gdyby jednostka taka zarazem wykorzystywała systemy sztucznej inteligencji, a tym samym podlegała nadzorowi Komisji (art. 24 Projektu). Po drugie, art. 23 i 24 Projektu nie przewidują żadnego rozwiązania na wypadek, gdyby opisane tam powiązanie (np. przyjęcia stanowiska, podjęcia zatrudnienia) powstało już po powołaniu na funkcję Przewodniczącego, Zastępcy Przewodniczącego, członka Komisji, Dyrektora Biura lub po zatrudnieniu w Biurze Komisji. W szczególności nie można przecież wykluczyć sytuacji następczego rozpoczęcia wykorzystywania systemu sztucznej inteligencji przez dany podmiot, co spowoduje, że stanie się on podmiotem podlegającym nadzorowi Komisji, aktualizując zastosowanie art. 24 Projektu. Art. 24 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy rozważyć częściową rezygnację z wymogu braku zatrudnienia osoby zatrudnionej w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze na dowolnej podstawie prawnej w „podmiotach stosujących” w rozumieniu art. 3 pkt 4 (w zw. z art. 2 ust. 1 lit. b) rozporządzenia 2024/1689, oznaczających każdą osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę. Konsekwencje takiego ograniczenia kłócą się z możliwością szerokiego rozpowszechnienia SI, nad którymi stosujące je podmioty (także takie jak organy i inne podmioty publiczne) mogłyby sprawować kontrolę. Ma to szczególne znaczenie w przypadkach zawierania umów cywilnoprawnych z osobami posiadającymi wiedzę specjalistyczną, w sytuacji, gdy zatrudnienie w Biurze Komisji może nie być jedynym miejscem zatrudnienia takiej osoby, będącej równocześnie stroną licznych innych umów cywilnoprawnych, w tym z „podmiotami stosującymi”. 143 art. 24 GRAI Nieuzasadnione pominięcie wspólników spółek osobowych (nie są akcjonariuszami ani udziałowcami), niezrozumiałe posługiwanie się nieznanym kodeksowi spółek handlowych słowem „udziałowiec”, mającym węższe znaczenie niż wspólnik. Słowa „udziałowcami” zastępuje się słowami „wspólnikami”. art. 24 GRAI Uwaga redakcyjno - legislacyjna – w pierwszym z wyliczeń umów cywilnoprawnych podobnych do zlecenia nie pada umowa agencyjna, zaś w drugim z wyliczeń już się znalazło - wydaje się, że zbędnie i z tego względu do usunięcia. Słowa „umowy agencyjnej” skreśla się. art. 24 SKwP Powstaje pytanie, jaka jest struktura zatrudnienia w tzw. Biurze? Kto jest na umowie o pracę, a kto na umowach cywilno–prawnych (zlecenie, dzieło). Ilu pracowników liczy Biuro, jakie ma działy itp.? Być może warto było rozważyć i wprowadzić regulamin organizacyjny pracy biura, w którym, szczegółowo wszystkie ww. kwestie byłyby rozstrzygnięte, a kompetencję do jego wydania można byłoby przyznać Przewodniczącemu Komisji albo Dyrektorowi Biura Komisji ? Art. 24 Fundacja Panoptykon Konflikt interesów w przypadku członków Komisji Zdecydowanie popieramy wprowadzone w art. 24 projektu ustawy rozwiązania dotyczące konfliktu interesów jako niezbędne do zagwarantowania bezstronnego działania Komisji. Uważamy jednak, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji wymienionych w art. 7 ust. 2, której przedstawiciel jest członkiem Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 24 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Nie ma przy tym znaczenia to, czy dana instytucja wykorzystuje obecnie jakiekolwiek systemy sztucznej inteligencji lub czy mieszczą się one w zakresie uregulowanym rozporządzenia w sprawie sztucznej inteligencji. Po pierwsze, nawet w obecnym kształcie rozporządzenia niewykluczone, że instytucje wymione w art. 7 ust. 2 będą zobowiązane w niektórych przypadkach sprostać jego wymogom, np. jeśli chodzi o przejrzystość „chatbotów” uregulowaną w art. 50 ust 1 rozporządzenia lub wykorzystanie AI w rekrutacji pracowników (system wysokiego ryzyka zgodnie z pkt. 4 Załącznika III). Po drugie, warto zauważyć, że Komisja Europejska jest zobowiązana okresowo rewidować zakres Załącznika III określającego listę systemów wysokiego ryzyka, co nie wyklucza w przyszłości objęcia regulacją systemów wykorzystywanych przez instytucje mające swoich przedstawicieli w Komisji. W rezultacie, działania tych instytucji mogą stać się przedmiotem 144 kontroli Komisji. Wprowadzenie klarownych reguł postępowania w takich przypadkach zapewniłoby elastyczność ustawy wobec zmieniających się okoliczności prawnych lub faktycznych, bez konieczności jej nowelizacji. Art. 25 CHAMBER Wątpliwym jest podobnie obowiązek zachowania tajemnicy służbowej wprowadzany w art. 25. Przepisy powszechnie obowiązujące już zobowiązują do zachowania tajemnic prawnie chronionych i wydaje się, że nie ma potrzeby powtarzania takich przepisów w każdej ustawie powołującej do życia organ lub osobę prawną. art. 25 w zw. z art. 43 ust. 1 pkt. 2 PIIT Wnosimy o dopisanie w postanowieniach art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 w zw. z Art. 43 ust. 1 pkt. 2 KIGEiT Rekomendacje: Wnosimy o dopisanie w postanowieniach Art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach Art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w Art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych wA. 25 projektu - wyraźnie wskazanie tego w treści Art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w Art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 ust. 3 CHAMBER Art. 25 ust. 3 - przepis ten budzi poważne zastrzeżenia. Analogicznie do uwagi powyższej należy stwierdzić, że dostęp do informacji niezbędnych do wykonywania czynności służbowych przez funkcjonariuszy organów ścigania jest unormowany w odpowiednich ustawach. Wprowadzanie dodatkowych podstaw prawnych, w dodatku tak niejasno sformułowanych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do organów ścigania bez wyraźnego celu i potrzeby, jest zupełnie niepotrzebne i zgoła niebezpieczne. Postulujemy wykreślenie tego przepisu także w wypadku nieuwzględnienia propozycji usunięcia całego art. 25. Minimalnie należy przynajmniej zawęzić krąg odbiorców takich informacji do “uprawnionych” funkcjonariuszy. 145 Art. 25 ust. 3 KIGEiT Propozycja zapisu: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym na podstawie odrębnych przepisów prawa pracownikom podmiotu, o którym mowa w Art. 64 ust. 3 ustawy, a także uprawnionym funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji. , Punkt 3 uprawnia pracowników komisji do udzielenia poufnych informacji wszystkim żołnierzom, prokuratorom itd. Natomiast punkt 4 zobowiązuje do utrzymania tajemnicy tylko uprawnionych. Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 25 ust. 3 Związek Banków Polskich Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 25 ust. 3 Związek Cyfrowa Polska Niewystarczająca ochrona informacji i wrażliwych danych oraz ujawnienie informacji przez członków Komisji (art. 25 ust. 3 Projektu). Zarówno na etapie prowadzonych przez organ kontroli (rozdział 3 – w szczególności art. 43 ust. 4 pkt 3 oraz art. 43 ust. 8 – Projektu ustawy), jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa, w tym ochrona wrażliwych informacji, danych należących do przedsiębiorców (w tym danych osobowych) oraz innych tajemnic prawnie chronionych. 146 W szczególności uwagę należy poświęcić art. 25 ust. 3 Projektu, który umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. 147 Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji,w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. W związku z powyższym i ponadto zwracamy zatem uwagę legislatora na następujące propozycje zawarte w Projekcie ustawy oraz przepisów: art. 25 ust. 3 Projektu, który upoważnia członków KRiBSI do udostępniania uzyskanych informacji szerokiej grupie podmiotów, w tym np. pracownikom Polskiego Centrum Akredytacji. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. art. 27 Projektu, który przewiduje szerokie uprawnienie do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania; art. 61 ust. 4 i 5 Projektu, który posługuje się terminem „informacje stanowiące tajemnice prawnie chronione”, które ma szerokie znaczenie, nie uwzględniając brzmienia Aktu o sztucznej inteligencji, w szczególności art. 78 oraz motywu 167; art. 67 Projektu, który przewiduje szerokie uprawnienie ministra właściwego do spraw informatyzacji do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania. Należy oczekiwać odpowiedniego zawężenia ww. uprawnień stosownych organów, z właściwym zbilansowaniem praw i interesów przedsiębiorców oraz z uwzględnieniem przepisów Aktu o sztucznej inteligencji, w szczególności art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień” oraz motywu 167. Art. 25 ust. 3 Związek Pracodawców Technologii Cyfrowych Lewiatan Ujawnienie informacji przez członków Komisji (art. 25 ust. 3 USS) Przepis umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; 148 b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 USS już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji, w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. 149 art. 25 ust. 3 i 4 PIIT Wnosimy o wykreślenie Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 26 CHAMBER Art. 26 - należy ponownie rozważyć, czy przepisy tego typu są konieczne. Rozporządzenie Ogólne o Ochronie Danych określa powszechnie obowiązujące zasady przetwarzania danych i obowiązki z niego wynikające (np. analizy ryzyka czy podejmowania środków zaradczych, minimalizacji danych itd. ) będą obowiązywały Komisję bez względu na ich umieszczenie w ustawie. Zamieszczanie takich powielanych przepisów w każdej kolejnej ustawie nie wydaje się potrzebne i prowadzi do dalszej inflacji i tak już niezmiernie obszernego i skomplikowanego prawa. Art. 26 ISSA Polska Postuluję wskazanie wprost, że Komisja jest administratorem danych osobowych, wówczas nie będzie wątpliwości, że jako administrator musi realizować obowiązki wynikające z RODO. Art. 26 PIIT Uzgodnienie przepisów z zapisami ustawy RODO. Art. 26 Zbyt szeroki zakres możliwego przetwarzania danych osobowych i zbyt szeroko określony cel przetwarzania danych wynikający z art. 11 projektu ustawy. Zapisy nie precyzyjne, brak proporcjonalności zakresu i celu przetwarzania danych w kompetencji Komisji. Przy tak szeroko określonych celach i zakresie przetwarzania danych naszym zdaniem powołanie IOD powinno być obligatoryjne, a nie uznaniowe. W ust. 8 należałoby wymienić wszystkie prawa osób, których dane będą przetwarzane przez Komisję – wynikające z RODO, nie niektóre z nich. Proponujemy odwoływać się już do PKE, w tym do pojęcia Usług komunikacji interpersonalnej. 150 Art. 26 GRAI Generalna uwaga do art. 26 I. Zbyt wąski zakres przedmiotowy i zakres stosowanych środków ochrony. Przepis przez taką redakcję wydaje się ograniczony tylko do niektórych środków i tylko do niektórych rodzajów informacji. Środki zabezpieczające powinny spełniać najwyższe wymagania, bo Komisja będzie dysponować wieloma informacjami dotyczącymi zarówno innych instytucji, podmiotów rozwijających technologię jak i samych użytkowników. W cały projekcie wybrzmiewa nadmierne uprawnienie do żądania zbyt szerokiego zakresu informacji chronionych (co nie powinno mieć miejsca i powinno zostać ograniczone przepisami do absolutnego minimum) przy czym nie ma nic o ochronie tych informacji. II. W miejsce obecnie zaproponowanych zapisów w art. 26, które budzą liczne wątpliwości proponuję odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO: Np. „Do przetwarzania danych osobowych przez Komisję na mocy niniejszej ustawy zastosowanie ma rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679.”. „Wszelka wymiana danych osobowych na mocy niniejszej ustawy przez Komisję podlega rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679.”. A dodatkowo wskazać w ustawie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e) czy h) RODO. I. Katalog informacji podlegających ochronie jak i katalog środków zabezpieczenia powinien być rozszerzony, otworzony. Benchmarkiem spełnienia tego obowiązku powinno być zapewnienie takich mechanizmów, które realnie zagwarantują najwyższą ochronę przetwarzanych przez Komisję informacji (w oparciu o najnowsze technologie i aktualne standardy branżowe). Nie tylko dane szczególnych kategorii z RODO powinny się znaleźć w treści tego przepisu, ale i tajemnica przedsiębiorstwa, tajemnica adwokacja czy radcowska, innego rodzaju tajemnice prawnie chroniona, dane osobowe zwykłych kategorii. II. Zmiana brzmienia art. 26 zgodnie z poniższymi propozycjami. Art. 26 Osoba fizyczna jk Jest to nieudolne i nielogiczne powielenie zapisów Rozporządzenia UE 2016/679 - zupełnie niepotrzebne oprócz ust. 5 i ust. 9, który powinien być ust. 1. Art. 26 ust. 1 Osoba fizyczna jk Komisja - czy/i Biuro Komisji - nie byłaby w ogóle w stanie funkcjonować bez przetwarzanie danych osobowych, chociażby osób składających skargi czy pracowników swojego Biura. Ponadto, jako jednostka sektora finansów publicznych jest zobowiązana przetwarzać dane na podstawie i w granicach prawa. Zatem po co zapis w ustawie? 151 Art. 26 ust. 2 Osoba fizyczna jk Czy przetwarzając dane osobowe, które nie są określone w art. 9 ust. 1 rozporządzenia 2016/679, Komisja - czy/i Biuro Komisji - nie musi prowadzić analizy ryzyka, stosować środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu, a także opracować procedury bezpiecznej wymiany informacji? Czy cytowane zapisy są jedynymi wymogami dotyczącymi bezpiecznego przetwarzania danych osobowych przez Komisję? Sprowadzanie środków technicznych i organizacyjnych bezpieczeństwa przetwarzania danych osobowych wymaganych na podstawie art. 32 rozporządzenia 2016/679 (RODO) do - środków ochrony przed złośliwym oprogramowaniem, - mechanizmów kontroli dostępu oraz - procedur bezpiecznej wymiany informacji świadczy o kompletnej nieznajomości obowiązujących przepisów oraz standardów, norm i dobrych praktyk dotyczących ochrony danych osobowych, cyberbezpieczeństwa i bezpieczeństwa informacji, zalecanych m.in. przez Ministerstwo Cyfryzacji i NASK. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 2 TAURON Dystrybucja Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana zapisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 2 GRAI Bezzasadne ograniczenie tylko do danych określonych art. 9 ust 1 RODO, gdy tymczasem przepis powinien obejmować wszelkie dane osobowe jakie Komisja przetwarza. Zarazem w przepisie tym, w ograniczony i wybiórczy sposób zostały określone zobowiązania Komisji w związku z przetwarzaniem danych, w tym stosowanie środków technicznych i organizacyjnych służących zabezpieczeniu przetwarzanych danych. Komisja jako administrator danych zobowiązana jest do przestrzegania wymagań określonych w RODO, w tym wdrożenia i stosowania odpowiednich środków technicznych i organizacyjnych, aby przetwarzanie odbywało się zgodnie RODO. Propozycja zmiany brzmienia ust.2 w następujący sposób: „2. Przetwarzanie danych osobowych, o którym mowa w ust. 1 przez Komisję, odbywa się z zachowaniem przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679. 152 Art. 26 ust. 2 GRAI Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana przepisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 3 PIIT 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: - gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; - gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; - gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 KIGEiT Propozycja zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji 153 elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. , Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 GRAI Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy też operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie przepisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 154 Art. 26 ust. 3 TAURON Dystrybucja Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy tez operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie zapisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 Art. 26 ust. 3 Osoba fizyczna jk Bardzo odważny zapis ograniczający przetwarzanie danych do wymienionej listy przypadków nadzoru nad systemami. Jeżeli w trakcie tworzenia i funkcjonowania Komisji - czy/i Biura Komisji - okaże się, że dla wykonania swoich zadań Komisja - czy/i Biuro Komisji - musi przetwarzać dodatkowo inne dane osobowe, niestety będzie musiała poczekać na nowelizację ustawy. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 3 pkt 4 KIG Pojęcie podmiotów kluczowych i ważnych zostało wprowadzone przez dyrektywę NIS2. W ustawie o krajowym systemie cyberbezpieczeństwa, do której referuje Projekt, brak wskazania tych podmiotów. art. 26 ust. 4 GRAI Anonimizacja danych zbędnych do realizacji zadań Komisji jest działaniem zbędnym i dodatkowo obciążającym pracowników Biura Komisji 155 Skreśla się słowa: „lub anonimowane”. Art. 26 ust. 4 Osoba fizyczna jk Jest to powielenie zasady ograniczenia przechowywania zapisanej w art. 5 ust. 1 lit. e) rozporządzenia 2016/679 (RODO). Zapis jest niepotrzebny. art. 26 ust. 5 GRAI Uwaga redakcyjna – brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „o którym mowa w rozdziale 3, 4 i 7 ustawy”. Art. 26 ust. 6 TAURON Dystrybucja Omyłka pisarska w numeracji rozporządzenia. Powinno być: 2024/1689 Ponadto wskazany zapis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanym podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. Ponadto na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. art. 26 ust.6 GRAI Przepis dotyczący przekazywania informacji został sformułowany w taki sposób, że kolejne regulacje mogą prowadzić do jego naruszenia, jak chociażby okoliczność, że „kontrolującym” nie musi być pracownik Komisji. art. 26 ust. 6 GRAI Omyłka pisarska w numeracji rozporządzenia. Ponadto wskazany przepis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanych podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty, o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. 156 Ponadto, na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Powinno być: 2024/1689 Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. Art. 26 ust. 6 Osoba fizyczna jk Kto może przekazywać dane: Komisja czy/i Biuro Komisji czy też pracownicy Biura Komisji, skoro wzajemnie dane przekazywać będą pracownicy podmiotów, o których mowa w art. 7 ust. 2. Czy przepisy regulujące funkcjonowanie podmiotów, o których mowa w art. 7 ust. 2 projektu ustawy, dopuszczają opisane przekazywanie danych i przetwarzanie tych danych? Art. 26 ust. 7 Osoba fizyczna jk Jak zwolnienie z realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 ma się do \"zapewnienia wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI\"? Art. 26 ust. 7 TAURON Dystrybucja Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 7 GRAI I. W projektowanym ust. 7 wskazano, że przetwarzanie danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji nie wymaga realizacji przez Komisję i inne podmioty obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 „jeżeli uniemożliwiałoby to realizację zadań Komisji”. Zastrzeżenie zawarte w przepisie jest niejasne i budzi wątpliwości, w jakich konkretnie przypadkach określone podmioty nie będą realizowały obowiązków wynikających z RODO. II. Przepis wprowadza ograniczenie praw z RODO – uzasadnienie powinno krótko powołać art. 23 RODO jako podstawę ograniczenia tych praw. Do rozważenia powołanie art. 23 ust. 1 lit. e lub h RODO. I. Koniecznym jest doprecyzowanie, co oznacza „uniemożliwiałoby to realizację zadań Komisji”, jeśli miałoby pozostać taki zapis. Jednocześnie wydaje się zasadne przeredagowanie całego art. 26 zgodnie z uwagami dotyczącymi tego artykułu. 157 II. Uzupełnienie uzasadnienia o podstawę prawną ograniczenia praw z RODO w art. 26 ust. 7 projektu – o konkretną podstawę prawną z art. 23 ust.1 RODO (potencjalnie lit. e lub h). art. 26 ust. 7 GRAI Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 8 GRAI Jeśli celem ustawodawcy było, aby publikacja wskazanych informacji stanowiła spełnienie obowiązku informacyjnego w świetle art. 13 i 14 RODO – rekomendowane jest wskazanie tego w uzasadnieniu albo wprost doprecyzowanie tej kwestii w projekcie. Art. 26 ust. 8 otrzymuje brzmienie: 8. Realizacja obowiązku informacyjnego, o którym mowa w art, 13 i 14 RODO następuje poprzez publikację w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji informacji wskazujących: 1) dane kontaktowe administratora danych osobowych oraz, gdy ma to zastosowanie, dane kontaktowe inspektora ochrony danych osobowych; 2) cele przetwarzania i podstawę prawną przetwarzania; 3) kategorie przetwarzanych danych osobowych; 4) informacje o odbiorcach danych osobowych; 5) informacje o tym, przez jaki okres dane osobowe będą przechowywane; 6) informacje o ograniczeniach obowiązków i praw osób, których dane dotyczą wraz z podstawą prawną tego ograniczenia; 7) informacje o prawie wniesienia skargi do organu właściwego do spraw ochrony danych osobowych; 8) źródło pochodzenia danych osobowych. 9. Komisja jest administratorem danych, o których mowa w ust. 1-3.” art. 26 ust.8 GRAI Zaproponowany sposób realizacji obowiązku informacyjnego w BIP poprzez podanie bardzo ogólnych i zbiorczych informacji nie spełnia wymogów art. 14 ust. 1-3 RODO, a ewentualne zastosowanie art. 14 ust. 5 lit. a czy c budzi poważne wątpliwości 158 Art. 26 ust. 8 Osoba fizyczna jk Kuriozalna i wybiórcza interpretacja zapisów art. 13 i 14 rozporządzenia 2016/679 (RODO) oraz Wytycznych GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\". Skoro rozporządzenie 2016/679 (RODO) oraz Wytyczne GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\" określają, jakie informacje należą się osobom, których dane dotyczą, to po co prawnicy wpisują listę należnych informacji do kolejnych polskich ustaw? Czy bez zapisów w ustawach wymienione w RODO informacje nie należą się osobom, których dane dotyczą? Potrzebne jest tylko doprecyzowanie, kto jest administratorem danych oraz jakie są okresy przechowywania danych osobowych dla poszczególnych czynności przetwarzania. art. 27 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, co obejmuje pojęcie „tajemnicy prawnie chronionej\". Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących „tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. ustawy - Prawo bankowe). art. 27 CHAMBER Analogiczna uwaga odnosi się do art. 27 - zasady przetwarzania tajemnic prawnie chronionych są określone odrębnymi przepisami i obowiązują powszechnie. Podobnie obowiązek zawiadomienia o ujawnionym przestępstwie w ust. 2 niepotrzebnie powiela powszechnie obowiązujący przepis art. 304 par. 2 Kodeksu karnego. art. 27 ust. 1 GRAI Uwaga redakcyjna - zbędny przecinek zastosowany w wyliczeniu przed spójnikiem współrzędności łącznej. Skreśla się przecinek po słowach „pracownicy Biura Komisji”. Art. 27 ust. 1 Związek Banków Polskich Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 27 ust. 1 Fundacja FinTech Poland Pytanie co obejmuje \"tajemnica prawnie chroniona\" (ustawy branżowe, postępowania karne). Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Rekomendujemy zdefiniowanie określenia “tajemnica prawnie chroniona” 159 Art. 27 ust. 1, art. 25 i art. 67 ust. 1 e-Izba Aktualne brzmienie projektowanych przepisów implikuje ryzyko niedostatecznej ochrony tajemnicy przedsiębiorstwa przedsiębiorców, którzy będą podlegać kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotne jest zagwarantowanie maksymalnej ochrony tajemnicy prawnie chronionej przedsiębiorców, tym tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. Szczególnie istotne jest zagwarantowanie przedsiębiorcom takiego poziomu ochrony tajemnicy prawnie chronionej, w tym tajemnicy ich przedsiębiorstwa, które zapewni, że informacje składające się na tajemnicę przedsiębiorstwa nie zostaną wykorzystane w jakichkolwiek innych celach aniżeli ściśle związanych z prowadzoną kontrolą i wyłącznie na jej potrzeby. W związku z powyższym proponujemy zmianę( wzorowaną na art. 73 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów) aktualnego brzmienia art. 27 ust. 1 projektu ustawy o systemach sztucznej inteligencji, poprzez wskazanie, że informacje prawnie chronione, w tym tajemnica przedsiębiorstwa, mogą zostać wykorzystane jedynie na potrzeby tej kontroli w ramach, której zostały przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji lub jej upoważnionych przedstawicieli pozyskane, z wyłączeniem przypadku wskazanego w art. 27 ust. 2 projektu ustawy o systemach sztucznej inteligencji. Proponujemy, aby powyższa zasada miała zastosowanie na potrzeby całej ustawy, tj. żeby tajemnica przedsiębiorstwa mogła być przetwarzana wyłącznie na cele tego postępowania, w ramach którego została zebrana. W związku z tym, powyższe doprecyzowanie powinno znaleźć zastosowanie również w przypadku: art. 25 oraz 67 ust. 1 projektu ustawy o systemach sztucznej inteligencji. Art. 28 GRAI Uwaga ogólna do charakteru Rady Wyjaśnienia wymaga, dlaczego Rada ma mieć charakter społeczny, skoro mają ją tworzyć eksperci (naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – „będą mogli wesprzeć swoją wiedzą Komisję”). Dlaczego te osoby mają pracować bez wynagrodzenia i z ograniczeniami dotyczącymi dodatkowej działalności/ aktywności zawodowej członków takiej Rady? Do rozważenia - może taką Radę (ale nie społeczną) ds. Sztucznej Inteligencji powinni tworzyć obecni członkowie GRAI najbardziej zaangażowani w prace Grupy , w szczególności w przygotowanie Polityki AI w Polsce (w GRAI są praktycy z bogatym doświadczeniem z różnych dziedzin; interdyscyplinarne grono ekspertów z wiedzą merytoryczną do efektywnego wykorzystania w rozwoju AI w Polsce). 160 Art. 28 SKwP Uważamy, że do Społecznej Rady powinien zostać zgłoszony przedstawiciel SKwP. AI wchodzi w obszar rachunkowości, zatem dotyczy księgowych. Powinniśmy mieć wpływ na opiniowanie systemów AI dla księgowych, to dalszy problem etyki zawodu księgowego, odpowiedzialności a nawet kar. W tym zakresie, w projekcie wskazuje się, że kandydatów na członków Rady mogą zgłosić jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Art. 28 Osoba fizyczna mk Artykuł 28 ustawy przewiduje, że kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji mogą zgłaszać m.in. „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”. Nieuzasadnione jest zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”, w szczególności biorąc pod uwagę, iż: a) rolą Rady jest (wg uzasadnienia Ustawy) „zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję”; b) również wg Artykułu 28 Ustawy do członkostwa w Radzie uprawnia wiedza i doświadczenie m.in. w obszarze praw człowieka. Zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji” utrudni w nieuzasadniony sposób udział w pracach Rady przedstawicielom społeczeństwa obywatelskiego i osobom z doświadczeniem np. w obszarze praw człowieka, które działają na rzecz fundacji i stowarzyszeń, których celem statutowym nie jest wprost wyrażona działalność na rzecz rozwoju sztucznej inteligencji a np. właśnie ochrona praw człowieka czy rozwój społeczeństwa obywatelskiego. Wskazane jest co najmniej rozszerzenie wspomnianego zapisu do formy „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, rozwoju społeczeństwa obywatelskiego i ochrony praw człowieka”. Art. 28 Open AI Devs Community Rozszerzenie składu Społecznej Rady. Wnosimy o modyfikację art. 28 projektu poprzez: • Włączenie przedstawicieli społeczności deweloperów do składu Rady; • Zapewnienie reprezentacji startupów i MŚP; • Wprowadzenie transparentnego procesu wyboru członków. 2. Właściwe uwzględnienie głosu społeczności deweloperskiej przyczyni się do: 161 • Lepszego zrozumienia praktycznych wyzwań wdrożeniowych; • Skuteczniejszej implementacji przepisów; • Rozwoju kultury odpowiedzialnego rozwoju AI Art. 28 ZPAV Mając na uwadze motywy 104-109 rozporządzenia 2024/1689 art. 28 projektu ustawy dotyczący powołania Społecznej Rady ds. Sztucznej Inteligencji powinien dopuszczać możliwość zgłaszania kandydatów na członków także przez organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi, o których mowa w art. 3 pkt. 2 ustawy z dnia 15 czerwca 2018 r. o zbiorowym zarządzaniu prawami autorskimi i prawami pokrewnymi. W aktualnym brzmieniu projektowany przepis w istotny sposób narusza równowagę interesów – z jednej strony dopuszcza zgłaszanie kandydatów przez izby gospodarcze (grupy interesów) – nie uwzględniając w ogóle z drugiej strony reprezentacji sektora kreatywnego. Wieloletnie doświadczenie koegzystencji na rynku medialnym pokazuje, że bardzo często interesy branży elektronicznej i komunikacyjnej co najmniej nie są zbieżne z interesami środowisk twórczych i właścicieli praw własności intelektualnej, a zdarza się, że ze sobą kolidują. Art. 28 PWPW dot. Społecznej Rady do spraw AI Z uwagi na duży wpływ działania Rady na biznes, w ustawie należy wskazać na konieczność powołania członka wskazanego przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Przepisy powinny wskazywać na członków wskazywanych oraz na członków wybieranych. Taki podział zapewni odpowiednią reprezentację wszystkich środowisk. Zaproponowany model w projekcie ustawy nie zapewnia, że głos przedsiębiorców będzie obecny w radzie. A obecny być powinien, gdyż uprawnienia Komisji mają ogromny wpływ na rozwój rynku AI w kraju – a poprzez udział Komisji w organach UE – także w całej Europie. Art. 28 Związek Cyfrowa Polska Ciała doradczego. Poza utworzeniem KRiBSI, planowane jest powołanie także Społecznej Rady do spraw Sztucznej Inteligencji („Rada”), która ma być organem opiniodawczo-doradczym KRiBSI (art. 28 Projektu). Pomimo że opinie i stanowiska Rady nie będą wiążące dla KRiBSI, to rozwiązanie to oceniamy jako korzystne, ponieważ środowiska przedsiębiorców/instytucji naukowych/NGOs działające w obszarze AI mogą uzyskać odpowiednie forum do bieżącego przedstawiania swoich uwag, propozycji zmian regulacji, itd. (art. 28 ust. 3 pkt 4 Projektu). 162 Art. 28 ust. 1 GRAI I. Mając na uwadze, że w skład Komisji mają wejść przedstawiciele RPO oraz RPD, wyjaśnienia wymaga jakie jest uzasadnienie dla ich włączenia również do Rady? II. Zgodnie z propozycją i słusznie, przedstawiciel RPO oraz RPR jest członkiem Komisji, natomiast w art. 28 ust. 3 pkt 2 i 3 te same podmioty mogą zgłosić kandydatów do Rady Społecznej. W takiej konstrukcji te podmioty nie tylko mają swojego przedstawiciela w Komisji, co jest już wystarczające, jak też wskazują kandydatów do Rady Społecznej, podczas gdy więcej sensu miałoby przyznanie tego uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA Przyznanie uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, niż PRO i PRD. Chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA. Art. 28 ust. 1 GRAI Społeczna Rada ma się składać z 9-15 członków, podczas gdy wymienione podmioty, które mogą przedstawiać kandydatów obejmują siedem urzędów czy obszarów. Biorąc pod uwagę 2-letnią kadencję członków oraz tempo postępu technologicznego, brak przedstawicieli przedsiębiorców w danej kadencji skutkowałby ograniczeniem udziału w dyskusjach dot. SI podmiotów, których projektowane przepisy i działania Komisji będą bezpośrednio dotyczyły. W Społecznej Radzie mogłoby przykładowo zasiadać co najmniej dwóch przedstawicieli przedsiębiorców. Zwraca uwagę również, że różnorodność zastosowań AI i niewielka liczba członków Rady sprawia, że pewne sektory nie będą mogły być reprezentowane w danej kadencji, podczas gdy przedstawiciele związków zawodowych czy Biur Rzeczników będą stale obecni jako członkowie. Art. 28 ust. 2 Logicise dziewięciu do piętnastu członków Sugerujemy zwiększenie liczby członków Społecznej Rady, tak aby była jak najbardziej przekrojowa i pokrywała możliwie wszystkie grupy interesariuszy. W związku z powyższym, w składzie Rady powinny znaleźć się miejsca dla reprezentantów różnych izb branżowych, również z uwagi na zróżnicowanie regulacji dla poszczególnych sektorów gospodarki. Wydaje się, że w skład Rady powinno wchodzić każdorazowo nie mniej niż 20 osób. Art. 28 ust. 2 PIIT Określenie minimalnej i maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji. 163 Proponujemy podwyższenie maksymalnego progu liczebności Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez przedsiębiorców, w tym zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. Art. 28 ust. 2 PIIT Zwiększenie liczby członków Społecznej Rady itd. Art. 28 ust. 2 KIGEiT Rekomendacja: Sugerujemy rozważenie zwiększenia maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji do min. 25 członków. Zasadne jest zwiększenie maksymalnej liczby członków Rady celem zapewnienia jej reprezentatywności. Rady sektorowe, których działania są zakresowo ograniczone do konkretnego obszaru, a członkami są osoby o tej samej czy podobnej specjalizacji, liczą do 20 członków lub więcej. Rada Dostępności przy ministrze właściwym ds. rozwoju regionalnego liczy maksymalnie 50 członków (a dostępność jest również zagadnieniem horyzontalnym dot. zarówno sektora publicznego, jak i prywatnego). Zastosowania AI są bardzo różne w poszczególnych obszarach przemysłu czy w ramach realizowania zadań publicznych, stąd ustawa nie powinna ograniczać aż w takim stopniu możliwości udziału przedstawicieli różnych środowisk. Art. 28 ust. 3 CHAMBER Określony w art. 28 ust. 3 katalog podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (Rada) jest zdefiniowany podobnie nieco arbitralnie. W szczególności w pkt. 6 należałoby dopuścić wszystkie podmioty tworzące system szkolnictwa wyższego i nauki, wymienione w art. 7 ust. ustawy Prawo o szkolnictwie wyższym. Wątpliwe też wydaje się rozwiązanie przyjęte w ust. 6 pkt. 6, zgodnie z którym wycofanie poparcia przez instytucję zgłaszającą powoduje wygaśnięcie mandatu członka Rady. Członkowie Rady powoływani są do niej z powodu swoich osobistych przymiotów i nie są reprezentantami instytucji, które formalnie zgłaszają ich kandydatury. Przyjęte rozwiązanie de facto czyni członków Rady podatnymi na naciski z zewnątrz, gdyż w każdej chwili mogą zostać odwołani, co będzie negatywnie wpływało na ich niezależność. Proponujemy wykreślenie tego przepisu. Art. 28 ust. 3 GRAI I. Kandydatów na członków Rady Społecznej mogą zgłosić tylko wskazane podmioty. Istnieje ryzyko, że niektóre sektory nie będą reprezentowane w Radzie. 164 II. Kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji może wskazać m.in. współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka. Są to jednak przedstawiciele sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. III. Konieczność uwzględnienia wśród podmiotów, które mogą zgłaszać kandydatów na członków Rady także podmiotów reprezentujących osoby, których prawa mogą być naruszone przez AI – albo w pkt 7 albo jako odrębny punkt – w sposób bardziej generalny niż związki zawodowe, czy RPO. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 nie mieszczą się np. podmioty reprezentujące twórców, wydawców, czy producentów, których prawa mogą być naruszone działaniami związanymi ze sztuczną inteligencją (twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych; ponadto statutowa działalność podmiotów, w których się zrzeszają nie dotyczy działalności na rzecz rozwoju sztucznej inteligencji). IV. Obecny zapis ogranicza prawo zgłaszania kandydatów do Rady wyłącznie do fundacji i stowarzyszeń zajmujących się technologicznymi aspektami rozwoju AI. Jednak rozwój sztucznej inteligencji wywołuje coraz bardziej znaczące skutki społeczne, etyczne i kulturowe, których analiza jest kluczowa dla zrozumienia pełnego wpływu tej technologii na społeczeństwo. Dlatego też warto uwzględnić w ustawie organizacje i ośrodki badawcze zajmujące się społecznymi aspektami AI, aby zapewnić bardziej wszechstronną perspektywę konsultacji. V. dotyczy to także organizacji zajmujących się kwestiami tzw. praw własności intelektualnej, wolnej kultury i wolnego oprogramowania (nb. Ustawa w ogóle nie porusza aspektów własności wytworów generatywnej sztucznej inteligencji, wykorzystania utworów w domenie publicznej jako materiału służącego do trenowania modeli AI – i ew. wynagrodzenia ich twórców lub zastrzeżenia ich wykorzystania itd. – a które szczególnie zyskują na znaczeniu szczególnie w przypadku GenAI i dużych modeli językowych). VI. W praktyce może ten zapis może wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować 165 interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. VII. Rozszerzenie zakresu merytorycznego listy dopuszczonych izb gospodarczych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji o Związek Banków Polskich, który funkcjonuje jako izba gospodarcza. Reprezentuje on sektor finansowy, bardzo aktywny na rynku rozwiązań sztucznej inteligencji II. Postuluje się skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. III. „7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji ewentualnie 8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji.” IV. „Fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które w swoich celach statutowych uwzględniają działalność na rzecz rozwoju sztucznej inteligencji lub analizę jej społecznych, etycznych oraz kulturowych konsekwencji.”. V. z tym, że także takich które w swoich celach statutowych mają kwestie związane z wolnymi i otwartymi danymi i oprogramowaniem (np. fundacja Wikimedia) VI. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Poprawka stylistyczna 166 Słowa „może zgłaszać” zastępuje się słowem „zgłasza”. Należy rozważyć uwzględnienie przedstawicieli GRAI w składzie Rady Społecznej. Art. 28 ust. 3 Instrat – Fundacja Centrum Cyfrowe Skład Społecznej Rady W uzasadnieniu do ustawy wskazano, że skład Społecznej Rady zaprojektowano z myślą o tym, aby mogły w niej zasiadać osoby reprezentujące szeroki wachlarz środowisk i instytucji. Niemniej jednak chcemy zwrócić uwagę na fakt, że w zakresie reprezentacji społeczeństwa obywatelskiego, art. 28 ust. 3 może być ograniczający. Zgodnie z obecnym brzmieniem artykułu, kandydatów do Rady mogą zgłaszać jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których statutowym celem jest działalność na rzecz rozwoju sztucznej inteligencji. W praktyce może to wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, etyki danych, czy edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, ekonomiczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Art. 28 ust. 3 SFP-ZAPA Wśród podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji powinny znaleźć się także podmioty reprezentujące osoby, których prawa mogą być naruszone przez AI. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 Projektu nie mieszczą się np. podmioty reprezentujące twórców, wydawców czy producentów, których prawa mogą być naruszone i obecnie są naruszane działaniami związanymi ze sztuczną inteligencją. Twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, które zostały wskazane w tym przepisie Projektu, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych, które również zostały tam wskazane. Praw podmiotów uprawnionych z tytułu praw autorskich i pokrewnych nie reprezentują też organizacje, których statutowa działalność jest działalnością na rzecz rozwoju sztucznej inteligencji. 167 Z tych względów postulujemy poszerzenie katalogu podmiotów, które mogą zgłaszać kandydatów na szłonków Rady o stowarzysenia i fundacje, które realizują cele ustawowe poprzez działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji, np. organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi. Bez takiej zmiany podmioty praw autorskich i praw pokrewnyhc nie będą miały szansy na swoje przedstawicielstwo w Radzie. Art. 28 ust. 3 Polska Izba Ubezpieczeń Proponuje się w art. 28 ust. 3 projektu ustawy zmianę w pkt 4) na „izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych, a także usług finansowych, w szczególności bankowych i ubezpieczeniowych” Art. 28 ust. 3 Fundacja Sztuka Media Film Postulujemy poszerzenie zakresu podmiotów, które będą mogły zgłaszać kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji o: organizacje zbiorowego zarządzania oraz fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz mediów lub kultury, w szczególności kultury cyfrowej. Powyższy postulat związany jest z koniecznością zapewnienia reprezentacji twórców i przedstawicieli mediów w Społecznej Radzie do spraw Sztucznej Inteligencji, co wynika z rosnącego wykorzystania sztucznej inteligencji w mediach oraz szeroko pojętej kulturze. W naszej ocenie, niepewności związane z etycznym wykorzystaniem sztucznej inteligencji w mediach oraz konieczność zapewnienia ochrony interesów twórców utworów wykorzystywanych przez sztuczną inteligencję uzasadnia poszerzenie katalogu podmiotów wskazanych w art. 28 ust. 3 projektu ustawy o systemach sztucznej inteligencji o wskazane powyżej dwie grupy Art. 28 ust. 3 Osoba fizyczna jk Na liście podmiotów, które mogą zgłosić kandydatów do Społecznej Rady, wymieniono fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Dlaczego nie ma przedstawicieli osób poszkodowanych / skrzywdzonych przez sztuczną inteligencję? Chyba, że ich przedstawicielem będzie Rzecznik Praw Obywatelskich. Oby. Art. 28 ust.3 pkt 1-3 ISSA Polska Postuluję skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów 168 do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. Art. 28 ust. 3 pkt 2 i 3 Istotna, o ile nie zostanie uwzględniona uwaga dot. art. 7 ust. 1-2 Osoba fizyczna Przedstawiciele RPO oraz RPD (po uwzględnieniu ww. uwagi) obligatoryjnie wchodzą w skład Komisji ds. SI. Niepotrzebne jest przyznanie miejsc tym organom w Społecznej Radzie do spraw SI. Dubluje to kompetencje i wprowadza chaos organizacyjny. Ponadto może być uznana za uprzywilejowanie tych organów w zakresie SI. Art. 28 ust. 3 pkt. 4 Fundacja Open Allies Propozycja zapisu: 4) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych oraz fundacje, których celem statutowym jest działalność dotycząca sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 4 Związek Banków Polskich 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Art. 28 ust. 3 pkt 7 GRAI Projekt zakłada, że kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji mogą wskazać m.in. fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Zasadne jest jednak rozszerzenie tego katalogu w zakresie fundacji i stowarzyszeń o te działające również na polu cyberbezpieczeństwa. 169 Pkt 7 powinien otrzymać następujące brzmienie: “7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub cyberbezpieczeństwa”. Art. 28 ust. 3 pkt 7 Fundacja Open Allies Propozycja modyfikacji zapisu: Fundacje i stowarzyszenia wpisane do Krajowgo Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 7 ISSA Polska Postuluję rozszerzenie zakresu fundacji i stowarzyszeń o te działające na polu bezpieczeństwa Sztucznej Inteligencji i cyberbezpieczeństwa. Proponuję przyjąć pkt 7 o następującej treści: “fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju lub bezpieczeństwa sztucznej inteligencji lub cyberbezpieczeństwa”. Artykuł 28 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów Al oraz modelami Al. Nadzór ten musi bowiem dotyczyć również kontroli nad przestrzeganiem przez branżę Al. unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji, czy działające na rzecz jej rozwoju, a nie zapewnia jednocześnie poszanowania interesów sektorów kreatywnych czy użytkowników systemów Al. Dlatego też wnioskujemy o uzupełnienie składu Rady i właściwe zbalansowanie interesów wszystkich zainteresowanych stron. Art. 28 ust. 3 pkt 7 Fundacja Panoptykon Społeczna Rada do spraw Sztucznej Inteligencji Z aprobatą odnotowujemy propozycję ustanowienia Społecznej Rady do Spraw Sztucznej Inteligencji. Uważamy takie rozwiązanie za kluczowe do pogłębienia dialogu i współpracy pomiędzy Komisją a organizacjami społeczeństwa obywatelskiego. Chcielibyśmy jednak wskazać kilka kwestii wymagających, w naszej opinii, poprawy w kolejnej wersji projektu, aby Rada mogła jak najpełniej i najbardziej obiektywnie realizować swoje zadania. Sformułowanie misji organizacji społecznych 170 Zgodnie z obecnym brzmieniem art. 28 ust. 3 pkt 7 projektu ustawy, członkowie Rady mogą być zgłoszeni przez fundacje i stowarzyszenia wpisane do KRS, których celem statutowym jest „działalność na rzecz rozwoju sztucznej inteligencji”. Takie sformułowanie w nieuzasadniony sposób wyklucza podmioty działające na rzecz ochrony praw człowieka w kontekście wykorzystywania sztucznej inteligencji, a niekoniecznie jej rozwoju. Może to doprowadzić do sytuacji, w której prawo zgłoszenia kandydatów będą miały wyłącznie zarejestrowane jako fundacje organizacje branżowe lub think tanki promujące rozwój sztucznej inteligencji. Uważamy, że umożliwienie zgłaszania kandydatów szerszemu gronu organizacji społecznych jest kluczowe dla zapewnienia pluralizmu głosów w Radzie oraz reprezentacji eksperckiej wiedzy z zakresu praw człowieka. Taka perspektywa będzie niezbędna do rzetelnego doradzania Komisji, szczególnie w kontekście oceny skutków dla praw człowieka, o której mowa w art. 27 rozporządzenia w sprawie sztucznej inteligencji, oraz ochrony praw osób poddanych działaniu AI. Proponujemy więc rozszerzenie możliwych celów statutowych organizacji uprawnionych do zgłaszania kandydatów, poprzez dodanie działalności „na rzecz praw człowieka” do pkt. 7. Tak szeroko sformułowane regulacje dotyczące celów statutowych organizacji zgłaszających zwiększą szansę na większą wszechstronność członków Rady. Art. 28 ust. 3 pkt 8 Dodanie przepisu ZAIKS W art. 28 ust. 3 po punkcie 7) dodaje się średnik oraz punkt 8) o następującym brzmieniu: „8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.\" art. 28 ust. 7 GRAI Wygaśnięcie członkostwa członka Rady, chociażby z uwagi na fakt, że Rada składa się z 9 do 15 członków, nie powinno skutkować automatycznym powołaniem kogoś na jego miejsce. Wydaje się to zbędne, zwłaszcza w sytuacji, gdy kadencja Rady wkrótce wygasa. Słowo „powołuję” zastępuje się słowami „może powołać. Art. 28 ust. 4 pkt 1 Instrat – Fundacja Centrum Cyfrowe Kompetencje Społecznej Rady W art. 28 ust. 4 pkt 1 wskazano, że członkiem Rady może być osoba, która posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka. W katalogu wyszczególnionych specjalizacji zabrakło etyki (ewentualnie filozofii) nowych technologii, w tym SI, szczególnie istotnej w kontekście zadań stojących przed Radą. Proponujemy uzupełnienie ww. katalogu o etykę nowych technologii. Art. 28 ust. 4 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 4 projektu ustawy zmianę w pkt 4) na „wyraziła zgodę na kandydowanie opatrzoną kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 28 ust. 4 Fundacja Panoptykon Kryteria wyboru członków Rady Członkowie Rady będą powoływani przez Komisję spośród osób zgłoszonych przez uprawnione podmioty. Jednak o ile projekt ustawy wprowadza w art. 28 ust. 4 wymogi dla kandydatów i 171 kandydatek, to już nie precyzuje kryteriów, jakimi Komisja powinna kierować się w sytuacji, gdy liczba kandydatów spełniających te wymagania przekroczy maksymalną liczbę członków Rady. Z perspektywy interesu publicznego i zapewnienia pluralizmu perspektyw w Radzie, kluczowe jest, by proces wyboru w takiej sytuacji opierał się na jasno określonych i przejrzystych zasadach. Sugerujemy więc wprowadzenie w projekcie ustawy postanowienia, zgodnie z którym w takiej sytuacji Komisja powinna zapewnić reprezentatywność Rady i – w miarę możliwości – dążyć do utrzymania proporcjonalnej liczby członków zgłoszonych przez poszczególne uprawnione podmioty. Art. 28 ust. 4 pkt 1 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Członka Rady powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami Art. 28 ust. 6 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 6 projektu ustawy zmianę w pkt 1) na „rezygnacji złożonej przewodniczącemu Rady opatrzonej kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 29 ust. 1 zd. 1 Związek Banków Polskich Rada Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Art. 29 ust. 1 zd. 2 Związek Banków Polskich Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady. [Usunięcie wskazanego zdania jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1] Art. 29 ust. 3 CHAMBER do czynności tak trywialnej jak zaproszenie osoby na posiedzenie Rady nie jest chyba konieczne kolegialne działanie całej Komisji. Wydaje się bardziej racjonalne przekazanie tej kompetencji Przewodniczącemu Komisji. W art. 29 ust. 4 CHAMBER obowiązek zachowania w tajemnicy _wszystkich_ informacji, do których członek Rady uzyskał dostęp wydaje się zbyt szeroki i powinien obejmować jedynie informacje objęte tajemnicą służbową, przedsiębiorstwa lub prawnie chronioną. art. 29 ust. 5 GRAI Zakazy dotyczące członka Rady są bardzo niedookreślone i trudne do wyegzekwowania. Jeżeli mowa o zakazach to ich zakres powinien być możliwy do zweryfikowania. W tej chwili jest to bardzo ocenne i rodzi ryzyko, że Komisja będzie korzystać z tego uprawnienia wg swojego uznania. Propozycja doprecyzowania określeń co oznacza „działalność publiczna niedająca się pogodzić z działalnością w Radzie” oraz czym są działania skutkujące „konfliktem interesów” 172 Pojawia się wątpliwość czy brak wynagrodzenia za działalność w pracach Rady jest dobrym pomysłem. Taki dodatkowy obowiązek powinien podlegać choćby częściowemu wynagrodzeniu, aby członkowie Rady, często pochodzący z sektora prywatnego, nie musieli samodzielnie ponosić tych kosztów. To jedynie zniechęciłoby kompetentne osoby, gdyby musiały w wolnym czasie wykonywać dodatkowe obowiązki, bez wynagrodzenia. Propozycja uwzględnienia chociaż częściowego wynagrodzenia dla członków Rady, aby zachęcić odpowiednie osoby do poświęcenia swojego wolnego czasu na zaangażowanie w pracach Rady. art. 29 ust. 5 pkt. 2 CHAMBER projekt de facto zakazuje podejmowania wszelkiej działalności związanej z tworzeniem czy korzystaniem z systemów sztucznej inteligencji. Norma ta jest sformułowana zdecydowanie zbyt szeroko i może wykluczyć z udziału w Radzie wszystkich zawodowo czy naukowo związanych z tworzeniem i komercjalizowaniem systemów SI. Byłoby to zaprzeczenie samego celu istnienia Rady. Proponujemy usunięcie tego przepisu i zastąpieniem go bardziej precyzyjną normą wzorowaną na instytucji wyłączenia pracownika w KPA. Członek Rady powinien powstrzymać się od zajmowania stanowiska jedynie w ściśle określonych sytuacjach, gdzie jego bezpośredni interes jest przedmiotem de facto wyłącznie opiniodawczej działalności Rady (niebezpieczeństwo negatywnych skutków dla np. konkurentów jest tu raczej teoretyczne). Art. 29 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Wskazujemy na potencjalnie istniejące ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 6 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Art. 29 ust. 6 e-Izba Rekomendujemy rozważenie zmiany projektowanego brzmienia przepisu. Wprowadzenie wynagrodzenia i zwrotu kosztów może być rozwiązaniem, które zachęci wykwalifikowanych ekspertów do pełnienia funkcji w Radzie. Art. 29 ust. 6 Polskie Towarzystwo Informatyczne Brak wynagradzania członków Rady powoduje, że może to być organ niesprawny. Rekomenduje się wprowadzenie wynagrodzenia dla członków za udział w posiedzeniach. Prosimy o rozważenie wprowadzenia zasad wynagrodzenia członków Rady. Art. 29 ust. 6 Związek Banków Polskich Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Dodana brakująca litera „w”. 173 Art. 29 ust. 6 Fundacja Panoptykon Koszty udziału w pracach Rady Proponowane przepisy nie przewidują diet/wynagrodzeń ani zwrotu kosztów podróży dla członków Rady (art. 29 ust. 6). Tymczasem, aktywny udział w jej pracach może okazać się bardzo czasochłonny, zwłaszcza biorąc pod uwagę, że Rada będzie zobowiązana do wyrażenia opinii w zakresie i terminie określonym przez Komisję. Członkowie Rady będą więc musieli liczyć się z koniecznością przeznaczenia na prace w Radzie znacznych nakładów czasowych, oraz z tym, że tempo pracy, uzależnione od bieżących potrzeb Komisji, może być trudne do przewidzenia. Konieczność przeznaczenia własnych środków na dojazdy i czas poświęcony na udział w pracach Rady stawia w uprzywilejowanej pozycji przedstawicieli izb gospodarczych i organizacji branżowych, którzy zazwyczaj dysponują większymi zasobami niż np. organizacje społeczne. Dodatkowo, mogą oni być bardziej skłonni do angażowania zasobów na prace w Radzie, ponieważ udział w formułowaniu jej opinii może wspierać interesy biznesowe ich członków. Brak diet oraz zwrotu kosztów z dużym prawdopodobieństwem utrudni natomiast aktywny udział przedstawicieli organizacji społecznych, które z reguły dysponują znacznie mniejszymi środkami i bardziej organiczonymi zasobami personalnymi i czasowymi. Dodatkowo, zapewnienie zwrotu kosztów przejazdu i diet/wynagrodzeń to standardowa praktyka w przypadku innych podobnych ciał doradczych, np. diety i zwrot kosztów przewidują zasady funkcjonowania Rady ds. Ochrony Danych i Rady ds. Cyfryzacji. Proponujemy więc, aby do projektowanej ustawy wprowadzić analogiczne zasady dotyczące wynagrodzeń/diet oraz zwrotu kosztów podróży dla członków Społecznej Rady ds. Sztucznej Inteligencji. Art. 28 ust. 6 Fundacja FinTech Poland Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 5 Fundacja Panoptykon Konflikt interesów członków Rady Doceniamy wprowadzenie zasad związanych z konfliktem interesów w przypadku członków Rady, zawartych w art. 29 ust. 5 projektu ustawy. Uważamy jednak, że konieczne jest doprecyzowanie, jakie sytuacje mogą prowadzić do konfliktu interesów oraz jakie byłyby ich konsekwencje. Konflikt interesów może wystąpić np. w sytuacji, gdy członek Rady jest powiązany z firmą lub instytucją będącą przedmiotem postępowania, w ramach którego Komisja zwraca się do Rady o opinię. Może to mieć miejsce w przypadku zatrudnienia członka Rady przez kontrolowany podmiot lub gdy kontrolowany podmiot jest członkiem organizacji branżowej/ izby gospodarczej, którą członek Rady reprezentuje. Nie postulujemy całkowitego wykluczenia osób związanych z nadzorowanymi podmiotami z prac Rady. Uważamy jednak, że w sytuacjach, gdy opinia Rady dotyczy bezpośrednio podmiotu, z którym związany jest członek Rady, lub technologii, którą ten podmiot 174 rozwija, członek Rady powinien wyłączyć się z dyskusji oraz wstrzymać się od głosowania w tej sprawie. Art. 30 Fundacja Sztuka Media Film Zwracamy uwagę, że zaproponowane brzmienie art. 30 projektu ustawy o systemach sztucznej inteligencji sprawia, że istnieje możliwość istotnego ograniczenia faktycznej roli Społecznej Rady do spraw Sztucznej Inteligencji, z uwagi na brak jasnego zobowiązania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji do przekazywania Radzie projektów lub innych dokumentów celem ich zaopiniowania. Poddajemy pod rozwagę doprecyzowanie zakresu kompetencji Społecznej Rady do spraw Sztucznej Inteligencji i wprowadzenie regulacji wskazującej na konieczność uzyskania przez Komisję jej opinii, a nie tylko na możliwość podjęcia takich działań. Postulujemy wprowadzenie katalogu zamkniętego spraw wymagających uzyskania opinii Społecznej Rady do spraw Sztucznej Inteligencji, w ramach którego znalazłyby się projekty lub dokumenty związanie z wykorzystaniem sztucznej inteligencji w sektorze kultury lub mediów, w szczególności w kontekście praw twórców. Z uwagi na profil działalności naszej fundacji – zwracamy uwagę na potrzebę dialogu z przedstawicielami środowisk artystycznych i twórczych w tym branży filmowej oraz mediów. Niniejszy postulat pozostaje w związku z postulatem poszerzenia składu Społecznej Rady do spraw Sztucznej Inteligencji wskazanym w pkt. I powyżej. Art. 30 ust. 1 e-Izba Aktualne brzmienie tego przepisu sprawia, że nie można wykluczyć sytuacji, w której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie przekazywać Społecznej Radzie do spraw Sztucznej Inteligencji projektów lub innych dokumentów do zaopiniowania lub wyrażenia stanowiska, a w konsekwencji działalność Społecznej Rady do spraw Sztucznej Inteligencji będzie znikoma. Istotnym jest, aby Społeczna Rada do spraw Sztucznej Inteligencji miała możliwość wypowiadania się na bieżące tematy związane ze sztuczną inteligencją, stanowiące przedmiot działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W związku z powyższym proponujemy wprowadzenie zamkniętego katalogu spraw, które Społeczna Rada do spraw Sztucznej Inteligencji będzie zobligowania zaopiniować. W szczególności proponujemy, aby w tym katalogu znalazły się kwestie dotyczące: obowiązków przedsiębiorców związanych z wykorzystaniem sztucznej inteligencji, inicjatyw legislacyjnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz dotyczących działań mających na celu wspieranie oraz monitorowanie rozwoju innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 30 ust. 1 Związek Banków Polskich Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez pełny skład Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych 175 sytuacjach, gdy zostaną one przyjęte jednomyślnie przez pełny skład Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Art. 30 ust. 3 Fundacja Panoptykon Zadania Rady Art. 30 ust. 3 projektu ustawy stanowi obecnie, że w zakresie innym niż ten przekazany do opinii przez Komisję, Rada może wyrazić opinię lub stanowisko z własnej inicjatywy. Stanowczo popieramy to rozwiązanie, ponieważ pozwoli to Radzie zwrócić uwagę Komisji na istotne kwestie, które ta mogła przeoczyć. Nie mamy jednak pewności, jak interpretować fragment ust. 3, który mówi, że Rada może wydawać opinie w zakresie „dotyczącym spraw określonych w art. 1 ust. 1 ustawy”. Zwracamy uwagę, że to odwołanie wydaje się błędne, ponieważ art. 1 zawiera punkty, a nie ustępy. Jeśli jest to błąd redakcyjny i intencją projektodawcy było odwołanie do art. 1 pkt 1, uważamy, że zakres ten jest zbyt wąski. Obejmowałby on bowiem wyłącznie opinie w sprawie „organizacji i sposobu sprawowania nadzoru nad rynkiem”, podczas gdy opinie Rady mogą być równie wartościowe w przypadku innych kwestii, takich jak postępowania w sprawie naruszeń przepisów rozporządzenia w sprawie sztucznej intelignecji (art. 1 pkt 2), szczególnie w przypadkach mających znaczenie dla ochrony praw obywatelskich lub konsumenckich, a także w odniesieniu do działań wspierających rozwój systemów sztucznej inteligencji (art. 1 pkt 6). Aby Rada mogła w pełni zrealizować swoją rolę doradczą i sygnalizacyjną, postulujemy rozszerzenie jej kompetencji o możliwość wydawania opinii z własnej inicjatywy we wszystkich sprawach regulowanych ustawą, a także o dodanie zadań związanych z wyrażaniem opinii na temat zmian prawa w obszarze sztucznej inteligencji, analogicznie do kompetencji Rady ds. Ochrony Danych. Art. 32 ust. 2 KIG Sugerujemy, by Przewodniczący Komisji mógł nie tylko nadawać regulamin, ale też go zmieniać. Sugerujemy, by dopisać, iż regulamin może zawierać sformułowania doprecyzowujące zapisy Ustawy, wszelkie inne zapisy organizacyjne, które nie stoją w sprzeczności z aktami nadrzędnymi oraz takie, których akty nadrzędne nie zabraniają Art. 32 ust. 4 CHAMBER określa charakter prawny powołania Dyrektora Biura Komisji. Brakuje jednak analogicznych przepisów dotyczących Przewodniczącego Komisji i jego Zastępców. Wpisuje się to w problematyka nieco niejasnego uregulowania statusu Komisji jako “państwowej osoby prawnej”, a nie organu administracji. Sugerujemy dopracowanie tych przepisów właśnie w kierunku jasnego określenia statusu Komisji i Przewodniczącego. 176 Art. 33 ust. 1 CHAMBER jest zupełnie niepotrzebny - kto jest pracownikiem określają przepisy właśnie Kodeksu pracy i będzie on stosowany do tych osób bez względu na to, czy dana ustawa zawiera takie stwierdzenie. Jedynie uregulowanie przeciwne (o ile w ogóle dopuszczalne), wyłączające stosowanie przepisów KP do danej kategorii osób, byłoby celowe. Art. 34. Ust.2 Logicise zróżnicowane przychody biura Wydaje się, że obecny zapis, który m.in. umożliwia wpływy darowizn czy innych przychodów na rzecz Biura Komisji, jest niewystarczająco restrykcyjny i pozwala na uzyskiwanie przychodów niezwiązanych z działalnością statutową Komisji i Biura Komisji. Ponadto, otwiera możliwości dla sytuacji noszących znamiona działalności lobbingowej i/lub korupcyjnej. art. 34 pt.2 ppkt.5 Związek Zawodowy Scenarzystów Polskich GILDIA SCENARZYSTÓW Jednocześnie nasze wątpliwości budzi art. 34 pt.2 ppkt.5 mówiący o tym, iż źródłem finansowania Biura Komisji mogą być darowizny i zapisy. Biuro Komisji organizuje pracę komisji, która w ten sposób jest od niego uzależniona. Bez zawężającego określenia kto może być donatorem, darowizny na rzecz państwowej komisji ze strony prywatnych podmiotów — być może bezpośrednio zainteresowanych odpowiednimi decyzjami lub stworzeniem konkretnych przepisów, mogą budzić wątpliwości co do intencji donatora. W skrajnych przypadkach może być podważana rzetelność wydanych przez Komisję decyzji i opracowanych przepisów — jeśli będą one dotyczyć bezpośrednio lub pośrednio donatora. Zdaniem Gildii Scenarzystów należy albo doprecyzować zapis ograniczając donatorów tylko do jednostek i agencji rządowych lub też usunąć wzmiankowany podpunkt jako potencjalnie korupcjogenny. Art. 36 ust. 1 Logicise audyt sprawozdań finansowych Oprócz firmy audytorskiej, istotne jest, aby działalność Biura Komisji podlegała kontroli Najwyższej Izby Kontroli (NIK). Art. 36 ust. 2 GRAI I. Wybór firmy audytorskiej powinien odbyć się w trybie zamówień publicznych, w przetargu publicznym niezależnie od wartości zamówienia. II. Wątpliwości dotyczą faktu, że wybór „firmy audytorskiej” jest dokonywany przez Prezesa Rady Ministrów bez żadnych dodatkowych wytycznych, co oznacza, że wybór zależy tylko i wyłącznie od niczym nie ograniczonej woli Premiera. Budzi to wątpliwości o dokonanie właściwego wyboru. NIK powinien zajmować się weryfikacją sprawozdań finansowych Komisji. Alternatywnie powinno się umożliwić dokonanie wyboru audytora w oparciu o obiektywne kryteria, możliwe do zweryfikowania, aby zapewnić obiektywizm oraz bezstronność. 177 Propozycja przyjęcia treści ust. 2 (wskazanie kierunku zmian): „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej po przeprowadzeniu przetargu publicznego, niezależnie od wartości zamówienia.”. Art. 36 ust. 2 ISSA Polska Proponuję zamienić na: Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów dokonuje wyboru firmy audytorskiej. art. 38 ust. 1 GRAI Uwaga legislacyjna - Odesłanie do nieistniejących przepisów projektowanej ustawy, tj. do art. 11 ust. 8 i 10 (art. 11 kończy się na ust. 3). Art. 38 ust. 1 Osoba fizyczna jk W art. 11 nie ma ust. 8 i 10. Chyba zamysłem był zapis \"art. 11 ust. 1 pkt 3, 8 i 10 ustawy\". art. 39 CHAMBER Przepisy art. 39 o wydawanej pracownikom Biura Komisji legitymacji służbowych zostały w dużej mierze przeniesione z ustawy o nadzorze nad rynkiem finansowym. Dokonane w nich miejscami zmiany budzą jednak wątpliwości, gdyż nie są konsekwentne. Sama idea wydania legitymacji w “postaci elektronicznej” zasługuje na poparcie, ale w żaden sposób nie jest sprecyzowane, na czym dokładnie ta “postać elektroniczna” polega, a wydaje się to kwestią istotną. Ma to bezpośrednie zastosowanie do sytuacji przewidzianej w ust. 4, czyli do wymiany takiego dokumentu - w jaki sposób zachodzi “wymiana” dokumentu w postaci elektronicznej? W jaki sposób pracownik przedstawia taki dokument przy rozpoczęciu kontroli? Warto rozważyć dopracowanie tych przepisów lub umieszczenie w ust. 6 odpowiedniej delegacji ustawowej do wydania przepisów wykonawczych w tym zakresie. Wskazane wydaje się też dodanie wymogu umieszczenia zdjęcia pracownika na w legitymacji. art. 39 ust 1 oraz 5 GRAI Propozycja przyjęcia ,,fizycznej formy” legitymacji, a jeśli zostawiamy postać elektroniczną, należy zastanowić się nad zmianą ust. 5. (Fizyczna legitymacja ułatwia rozpoczęcie kontroli). artykuł 39 ust. 4 pkt 1) PIIT 1) aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObywatel czy w innej postaci? artykuł 39 ust. 4 pkt 1) KIGEiT Propozycja zapisu: 1) wymianie - aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? 178 art. 40 ust. CHAMBER Nie jest jasne, a jakie “wymogi” chodzi projektodawcom w przepisie art. 40 ust. 1. Odesłanie do art. 70 Rozporządzenia 2024/1689 jest wysoce nieprecyzyjne. Można się jedynie domyślać, że chodzi o “wymogi dotyczące kompetencji i zasobów” o którym mowa w art. 70 ust. 3 Rozporządzenia. Jeżeli tak jest w istocie, to należy odpowiednio zmienić brzmienie przepisu ust. 1 oraz ust. 2, który odnosi się do “stanu zasobów o którym mowa w ust. 1”, mimo że w ust. 1 mowa jest jedynie o “wymogach”. Od strony merytorycznej wydaje się nie do końca fortunne, że Przewodniczący Komisji będzie określał wymogi w zakresie kompetencji i zasobów (w tym ludzkich) dla własnej instytucji, a następnie oceniał ich stan i raportował o nich do Komisji Europejskiej (ust. 3). W praktyce Rozdział 3 projektu ustawy, dotyczący kontroli, może okazać się najistotniejszy i sprawić podmiotom rozwijającym lub korzystającym z SI w Polsce najwięcej problemów. Bardzo słusznym rozwiązaniem jest tu oparcie się o przepisy ustawy Prawo przedsiębiorców (art. 42 projektu). Należy jedynie wyrazić żal, że nie uczyniono tego w pełni konsekwentnie. Przykładowo zamiast regulacji art. 43 ust. 5 kontrola powinna być rozpoczęta zgodnie z przepisem art. 49 ust. 1 ustawy Prawo przedsiębiorców. Podobnie nie jest jasne, dlaczego wprowadzono w art. 43 ust. 6 projektu ustawy odrębną regulację upoważnienia do przeprowadzenia kontroli, które różni się jedynie jednym szczegółem od regulacji zawartej już w art. 49 ust. 7 ustaw Prawo przedsiębiorców. Postulujemy ponowny przegląd projektowanych przepisów i odstąpienie od regulacji które zasadniczo powielają już istniejące przepisy, powodując niepotrzebne niejasności i rozwlekłość projektowanych przepisów. art. 40 ust. 3 GRAI Uwaga redakcyjna - brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „rozporządzenia 2024/1689”. Rozdział 3 Open AI Devs Community Procedury kontrolne. Wnioskujemy o doprecyzowanie w rozdziale 3 ustawy: • Szczegółowych procedur ochrony własności intelektualnej podczas kontroli; • Terminów na przygotowanie się do kontroli; • Możliwości asysty eksperta technicznego wybranego przez kontrolowanego. Rozdział 3 KIGEiT Rekomendacja: Dodanie zapisów o elastycznych zasadach testowania: W Rozdziale 3 (Kontrola przestrzegania przepisów), należałoby dodać, że: \"Podmioty korzystające z piaskownicy regulacyjnej mogą testować nowe technologie AI w warunkach nieobjętych pełnymi wymogami regulacyjnymi przez okres do 24 miesięcy. Piaskownice mogą obejmować zarówno produkty na etapie koncepcji, jak i projekty we wczesnej fazie wprowadzania na rynek, przy czym testy będą podlegać jedynie uproszczonym procedurom nadzoru. Uczestnicy piaskownic nie podlegają karom za naruszenie przepisów, jeśli działania mieszczą się w ramach ustalonych przez Komisję w programie testowym.\" , Rozdział 1, Art. 3, pkt 15, ustawa odnosi się do \"piaskownicy regulacyjnej\" jako przestrzeni do eksperymentowania z nowymi technologiami AI. Należy wzmocnić ten zapis, podkreślając jego znaczenie w stymulowaniu innowacji. Wskazana w 179 rekomendacji elastyczność zachęcałaby firmy do testowania innowacyjnych technologii, co mogłoby napędzać postęp w obszarze AI, bez obawy o nadmierne regulacje. Rozdział 3 Związek Banków Polskich Kontrola dot. AI, co do zasady, powinna odbywać się z dużym wyprzedzeniem (notyfikacją) – z uwagi na poziom skomplikowania materii. Przepisy projektu nie powinny odsyłać do przepisów Prawa przedsiębiorców w zakresie kontroli dot. AI. Przepisy projektu powinny szczegółowo regulować zasady kontroli AI. Szczegółowe uregulowanie zasad kontroli AI powinno obejmować również rozwiązania w postaci wyjaśnień pokontrolnych i możliwości adresowania wyników kontroli przeprowadzonej przez Komisję. Rozdział 3 GRAI Sugeruje dodanie rozdziału na temat zasad nadzoru rynku – tj. możliwe rozstrzygnięcia ich forma, droga odwoławcza. Wprowadzenie katalogu możliwych rozstrzygnięć i jasnej drogi odwoławczej sprzyja przewidywalności Rozdział 3 PSSI Wpływ wymogów kontrolnych na MSP rozwijające Sztuczną Inteligencję Obecna wersja Ustawy daje rozległe uprawnienia kontrolne, bez względu na wielkość kontrolowanego podmiotu. Niektóre z zapisów ustawy, może narazić, szczególnie mniejsze przedsiębiorstwa na znaczące koszty. Przykładem zapisów, o potencjalnie bardzo istotnych konsekwencjach dla małych podmiotów są: Art. 47 pkt 2 Od zaleceń pokontrolnych nie przysługują środki odwoławcze. lub Art 52 pkt 3 Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. W przypadku mniejszych przedsiębiorstw, jakimi często są firmy rozwijające innowacyjne rozwiązania, takie wymogi mogą doprowadzić do utraty płynności lub innych niepożądanych konsekwencji. Rekomendujemy traktowanie ograniczające koszty kontroli, które ponosić mogą mniejsze przedsiębiorstwa. Rozdział 3 GRAI Sugeruje rozważenie wprowadzenia możliwości wydawania interpretacji indywidualnych przez Komisję w sytuacjach niejednoznacznych. Interpretacja wydawana byłaby na wniosek po spełnieniu określonych przesłanek Rozdział 3 lub 4 Związek Banków Polskich [Propozycja dodania przepisu w Rozdziale 3 lub 4] 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. 180 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają przesłanek do objęcia ich tajemnicą przedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. Zastrzeganie informacji i dokumentów powinno być możliwe nie tylko w zakresie kontroli, ale również w zakresie komunikacji z Komisją. Rozdział 3 Związek Cyfrowa Polska Zbyt szerokie uprawnienia kontrolne, które mogą stwarzać ryzyko operacyjne i związane z prowadzeniem innowacyjnej działalności przez firmy. Dodatkowo, Projekt nie gwarantuje w pełnym zakresie niezbędnych środków zaskarżenia rozstrzygnięć wydawanych przez organ kontrolujący. Art. 41 PWPW Ust. 1. Komisja może przeprowadzać kontrolę działalności podmiotów Przepisy ust. 1 i ust. 2 powinny wyraźnie wskazywać, że zakres kontroli może dotyczyć wyłącznie systemów AI. Natomiast obecna propozycja regulacji wskazuje, że kontrola 4 obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Ust. 2. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia 2024/1689 i ustawy. może dotyczyć całości działalności organizacji („kontrola działalności podmiotów”). W związku z tym zakres przepisu jest zbyt szeroki. Art. 41 KIGEic Propozycja zapisu: Dodanie ust. 4 \"Z wyłączeniem kontroli przestrzegania przepisów o sztucznej inteligencji w prywatnych, zamkniętych systemach podmiotów, do których dostęp mają tylko te podmioty i obieg wprowadzanych dane do systemów sztucznej inteligencji jest zamknięty, a wyniki stworzone w tych systemach przez sztuczną inteligencję nie są nigdzie upubliczniane\". , Jeżeli dany podmiot w ramach swojej działalności ma zamknięty system (box) gdzie zbierane i analizowane są dane wejściowe do systemów AI, następnie AI pracuje wyłącznie na tych danych w zamkniętym systemie i dane wyjściowe nie są upubliczniane - to wówczas nie istnieje żadne ryzyko związane z regulacjami dot. systemów sztucznej inteligencji. 181 Art. 41 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie kategorii podmiotów poprzez np. odesłanie do treści Rozporządzenia 2024/1689. Art. 41 ust. 1 Fundacja FinTech Poland Zwracamy się z prośbą o doprecyzowanie zakresu podmiotów. Proponujemy odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f. Wątpliwości rynku budzą intencję projektodawcy, czy ustawa ma na celu poszerzenie zakresu podmiotów podlegających kontroli. Art. 41 ust. 1 i 2. PIIT Komisja może przeprowadzać kontrolę działalności podmiotów, o których mowa w art. 2 ust. 1, lit. a) - f) rozporządzenia 2024/1689. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia i ustawy w odniesieniu do systemów zakazanych oraz systemów wysokiego ryzyka lub innych systemów, co do których istnieje uzasadnione przypuszczenie, iż mogą być systemem wysokiego ryzyka mimo odmiennej ich kwalifikacji. Art. 41 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż określenie „ustalenie zgodności działalności podmiotów” ma bardzo szeroki charakter. Postulujemy zawężenie wyżej wskazanego określenia lub wylistowanie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Art. 41 ust. 2 Fundacja FinTech Poland Określenie celu kontroli jako „ustalenie zgodności działalności podmiotów z przepisami rozporządzenia 2024/1689 i ustawy” jest bardzo szerokie i może prowadzić do niejasności co do zakresu kontroli oraz potencjalnie różnych interpretacji. W celu zwiększenia precyzji i efektywności działań kontrolnych, warto rozważyć zawężenie tego przepisu poprzez wylistowanie konkretnych aspektów, które będą przedmiotem kontroli. Na przykład, można wskazać, że kontrola obejmuje sprawdzenie braku modeli zabronionych, odpowiednią klasyfikację ryzyk, spełnianie wymogów transparentności, stosowanie środków zabezpieczających oraz zgodność z zasadami etycznymi i technicznymi dotyczącymi sztucznej inteligencji. Takie sprecyzowanie zakresu kontroli zwiększy przejrzystość postępowania zarówno dla organów kontrolujących, jak i dla kontrolowanych podmiotów, co przyczyni się do lepszego zrozumienia obowiązków oraz zapewni bardziej ukierunkowane i efektywne działania nadzorcze. Art. 41 ust. 3 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko możliwości wszczęcia kontroli na podstawie jakiejkolwiek informacji, powziętej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 182 Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zapewnienia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy istotne jest zwiększenie pewności prawnej przedsiębiorców w zakresie kompetencji kontrolnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ważne jest, aby przypadki kontroli przedsiębiorców ograniczyć do sytuacji, w których istnieje rzeczywiste prawdopodobieństwo naruszenia przez przedsiębiorcę przepisów rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji. W związku z powyższym proponujemy zmianę aktualnego brzmienia art. 41 ust. 3 projektu ustawy o systemach sztucznej inteligencji poprzez wskazanie, że podstawą do wszczęcia kontroli, o której mowa w tym przepisie, jest uprawdopodobniona informacja, pozyskana przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 41 ust. 3 Fundacja FinTech Poland Przepis w art. 41 ust. 3 Projektu Ustawy przewidujący, że kontrola może być prowadzona na podstawie uzyskanych przez Komisję informacji, jest niejasny co do źródła, charakteru oraz trybu uzyskiwania tych informacji. Warto doprecyzować, skąd Komisja może pozyskiwać informacje, np. czy pochodzą one od innych organów nadzorczych, instytucji publicznych, organizacji pozarządowych, czy zewnętrznych sygnalistów. Należy również określić, w jakim trybie takie informacje są pozyskiwane – czy w formie oficjalnych raportów, zgłoszeń, czy w wyniku działań monitorujących. Dodatkowo, istotne jest wskazanie, czy uzyskiwane przez Komisję informacje będą ewidencjonowane, a jeśli tak, to w jakiej formie (np. rejestr elektroniczny) i na jakich zasadach będą przechowywane oraz dostępne do wglądu. Takie doprecyzowanie zwiększyłoby przejrzystość procedur kontrolnych, zapewniając jasność zarówno dla podmiotów kontrolowanych, jak i dla samej Komisji, co może przełożyć się na bardziej efektywne i zgodne z prawem prowadzenie działań nadzorczych Art. 41 i 48 ICC Poland Zakres kontroli przestrzegania przepisów o sztucznej inteligencji, o której mowa w rozdziale 3 Projektu, powinien zostać ujednolicony z zakresem postępowania, o którym mowa w rozdziale 4 Projektu. Zgodnie bowiem z art. 41 Projektu Komisja może przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, zaś zgodnie z art. 48 Projektu w przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest ona do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy. Tymczasem to ostatnie postępowanie, zgodnie z Projektem, ogranicza się do postępowania w sprawie naruszenia przepisów jedynie rozporządzenia 2024/1689 (por. art. 1 pkt 2, art. 49 ust. 1 Projektu). Tym samym – według Projektu – przedmiotem kontroli mogą być objęte również naruszenia przepisów ustawy, podczas gdy przedmiotem postępowania w sprawie ich naruszenia już nie, co może mieć istotne znaczenie w razie planowanego uzupełnienia ustawy o systemach sztucznej inteligencji o nowe regulacje. Brak zsynchronizowania przepisów w tym 183 zakresie powoduje również niepewność po stronie podmiotów, do których ustawa ma mieć zastosowanie, co do zakresu potencjalnej kontroli. Art. 41 – 48 Instytut Spraw Obywatelskich Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 41 - 48 Obywatelski Akcelerator Innowacji Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 42 PWPW Do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236). Poprosimy o potwierdzenie, czy przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236) będą miały zastosowanie także do terminów i ograniczeń czasu prowadzenia kontroli. Art. 42 Polska Izba Ubezpieczeń Proponuje się w art. 42 korektę oznaczenia publikatora ustawy – Prawo przedsiębiorców, analogiczną jak ma to miejsce w art. 12 projektu ustawy Art. 43 Polskie Towarzystwo Informatyczne Być może warto by rozważyć podział artykułu 43 na mniejsze elementy (o ile jest to możliwe z punktu widzenia merytorycznego). Artykuł jest trudny do czytania, co może też wpływać na zrozumienie, a także może zwiększać ryzyko pomyłek. Art. 43 ITCORNER Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem nadmiernie ingerują w swobodę prowadzenia działalności gospodarczej i cechuje je nadmierny poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - szczególnie biorąc pod uwagę obszerność dokumentacji technicznej i projektowej powstającej w toku tworzenia oprogramowania. Proponujemy usunięcie tego uprawnienia, ew. ograniczenie go tylko i wyłącznie do zamkniętego katalogu przypadków. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na identyfikację systemu AI podlegającemu kontroli - jest to krytyczne z punktu widzenia podmiotów z branży programistycznej (software house czy agencje), które jednocześnie uczestniczą nawet w kilkudziesięciu projektach (=kilkudziesięciu odrębnie tworzonych systemach), w których zaangażowani są także klienci końcowi i podwykonawcy. Jeśli kontrola ma być efektywna, a wizerunkowo nie ma odbijać się negatywnie w ocenie klienta końcowego - podmiot kontrolowany powinien mieć możliwość poinformowania klienta końcowego oraz 184 zaplanowaniu dalszych prac z jak najmniejszym, negatywnym wpływem na komercyjny projekt programistyczny. W art. 43 ust. 7 brakuje także informacji o: terminach, które powinny zostać zachowane jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, maksymalnym czasie trwania kontroli - proponujemy, aby kontrole trwały nie dłużej niż 14 dni. W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być bardzo krótki, aby mógł realizować swoją funkcję. Art. 43 PIIT ust. 2 Proponujemy zachować zgodność z KPA i ewentualnie wprowadzić do KPA możliwość wprowadzenia kontroli w formie zdalnej. – vs. art. 74 AI Act Art. 43 ust. 4 pkt. 2: W toku kontroli kontrolujący mają prawo do: wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; - czy to oznacza, że kontrolna on-line, w systemach może się odbywać poza godzinami prowadzenia działalności? Brak przepisu wyraźnie wskazującego, że działania kontrolne nie mogą powodować utrudnień w działalności podmiotu kontrolowanego lub działania jego systemów. Art. 43 ust. 10. Dowody, o których mowa w ust. 9, mogą zostać zabezpieczone przez: pozostawienie ich w wydzielonym lub oddzielnym, zamkniętym i opieczętowanym pomieszczeniu u podmiotu kontrolowanego; - na jak długo, na czas kontroli? Art. 43 Ust. 11 – należałoby wskazać kryteria takiego zajęcia. Art. 43 ust. 15 - oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Kto byłby „osobą godną zaufania”? 185 Ponieważ przedmiotem kontroli powinna być zgodność działania systemów AI z AI Act, oraz spełnienie innych wymagań AI Act w tym opracowanie dokumentacji systemu AI, zakres pozyskiwanej przez kontrolujących dokumentacji nie powinien wykraczać poza dokumentację systemu AI. Art. 43 KIGEiT Rekomendacja: Dodanie zapisu, iż osoba przeprowadzająca kontrolę powinna podpisać klauzulę poufności , Mitygacja ryzyka wycieku danych objętych tajemnicą handlową w związku z kontrolą Art. 43 ICC Poland Artykuł 43 ust. 11 Projektu przewiduje możliwość wydania przez Komisję w toku kontroli postanowień o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych i urządzeń, o których mowa w art. 43 ust. 4 pkt 3 ustawy, oraz innych przedmiotów mogących stanowić dowód w sprawie na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Na postanowienie to, zgodnie z art. 43 ust. 13 Projektu, przysługuje zażalenie osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje jednak wykonania postanowienia. Po pierwsze, zajęcie wszelkich informatycznych nośników danych i urządzeń, o których mowa w tym przepisie, może mieć daleko idące konsekwencje dla prowadzenia działalności przez adresata postanowienia. W szczególności pozbawienie go dostępu do takich urządzeń, choćby na kilka dni, może w skrajnych przypadkach uniemożliwić mu prawidłowe prowadzenie działalności lub spowodować znaczące szkody (materialne i niematerialne). Z tego względu, biorąc pod uwagę potencjalne konsekwencje tego rodzaju czynności, należy postulować zawężenie kompetencji Komisji w tym zakresie, precyzując w projekcie przesłanki wydania takiego postanowienia. Po drugie, Projekt bezpośrednio nie reguluje postępowania zażaleniowego, zaś zakres zawartych w ustawie odesłań do ustaw proceduralnych zdaje się nie obejmować tego przypadku (art. 56 Projektu, nakazujący do postępowania przed Komisją stosować w zakresie nieuregulowanym przepisy Kodeksu postępowania administracyjnego4 zdaje się, z uwagi na jego umiejscowienie, dotyczyć jedynie postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689). Rodzi to poważne wątpliwości dotyczące chociażby tego, do kogo takie zażalenie ma być kierowane. Z uwagi na charakter czynności zajęcia ww. przedmiotów wydaje się, że rekomendowanym rozwiązaniem byłoby przyznanie podmiotom, których prawa zostały naruszone zajęciem, prawa złożenia zażalenia do sądu. Art. 43 Związek Banków Polskich Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości, przy czym osoba ta powinna złożyć oświadczenie o braku konfliktu interesów 186 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). 3. W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. 2. Kontrolę przeprowadza się w siedzibie przedsiębiorcy lub w miejscu wykonywania działalności gospodarczej oraz w godzinach pracy lub w czasie faktycznego wykonywania działalności gospodarczej przez przedsiębiorcę. 3. Za zgodą lub na wniosek przedsiębiorcy kontrolę przeprowadza się w miejscu przechowywania dokumentacji, w tym ksiąg podatkowych, innym niż siedziba lub miejsce wykonywania działalności gospodarczej, jeżeli może to usprawnić prowadzenie kontroli. 4. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzane również w siedzibie organu kontroli, jeżeli może to usprawnić prowadzenie kontroli. 4a. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzone w sposób zdalny za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. – Prawo pocztowe (Dz. U. z 2023 r. poz. 1640) lub za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344), jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej. 5. Dokumenty oraz informacje zebrane w toku czynności wykonywanych przez organ kontroli z naruszeniem przepisów ust. 2 i 3a nie stanowią dowodu w postępowaniu kontrolnym. 6. W toku kontroli kontrolujący mają prawo do: 1) swobodnego dostępu do środków łączności oraz, o ile zaistniały okoliczności, o których mowa w ust. 3, do oddzielnego pomieszczenia biurowego; 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, 187 informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp; Osoba wskazana w Art. 43. 1 ust 2) powinna składać obligatoryjnie oświadczenie o braku konfliktu interesów z kontrolowanym podmiotem. Sposób przeprowadzania kontroli powinien być zgodny w pełni z trybem przewidzianym w ustawie z dnia z dnia 6 marca 2018 r. Prawo przedsiębiorców i jako zasada powinna być przyjęta kontrola w siedzibie przedsiębiorcy. Kontrola zdalna może być przeprowadzana za zgodą przedsiębiorcy, a wtedy powinny być szczegółowo ustalone warunki takiej kontroli, w tym przesyłanie danych/dokumentów o charakterze wrażliwym, specjalnego przeznaczenia, dokumentowanie rozmów (nagrywanie?), itd. Przyjęcie zdalnego trybu kontroli jako trybu domyślnego stwarza szereg ryzyk ujawnienia informacji poufnych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa, czy naruszenia ochrony danych osobowych Art. 43 PWPW przepisy dot. kontroli) 1) Analiza charakteru przepisów dotyczących prowadzenia kontroli prowadzi do wniosku, że – w zależności od intensywności kontroli - może ona doprowadzić do uniemożliwienia realizacji usług przez podmiot kontrolowany – co w przypadku usługodawców – może doprowadzić do odpowiedzialności finansowej lub zagrozić jego podstawowym interesom i bieżącej działalności. W szczególności przepisy dot. zajmowania dokumentacji i rzeczy, pieczętowania lokali i zajęcia nośników informacji są niebezpieczne z punktu widzenia przedsiębiorców. 2) Wskazany w art. 43 ust. 4 projektu ustawy zakres czynności kontrolnych jest znacznie szerszy niż to wynika z ustawy – Prawo przedsiębiorców. 3) Przepisy dotyczące kontroli podmiotów zawarte w projekcie ustawy powinny bardziej precyzyjnie określać m.in. prawa kontrolowanego i obowiązki kontrolującego. Z uwagi na swoje znaczenie dla podmiotów wykonujących działalność gospodarczą, przepisy o kontroli powinny zawierać należytą gwarancję ochrony praw przedsiębiorcy w toku kontroli. 188 Art. 43 Związek Pracodawców Technologii Cyfrowych Lewiatan Prowadzenie kontroli (art. 43) Uważamy, że zapisy rozdziału dotyczącego prowadzenia kontroli powinny być ponownie przejrzane, także w celu ujednolicenia zasad np. z projektem nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa. Zapisy powinny odzwierciedlać rozwój technologii informatycznych, sposobów przetwarzania itd. Poniżej przedstawiamy kilka zastrzeżeń związanych przede wszystkim z wykorzystaniem chmury obliczeniowej. Wymóg zdalnych kontroli centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje mogą narażać wrażliwe dane na dostęp zewnętrznych inspektorów, zwiększając ryzyko wycieków lub naruszeń danych. Operatorzy potrzebują solidnych ustawowych zabezpieczeń, wskazujących że procesy kontroli są bezpieczne, zwłaszcza podczas obsługi danych klientów lub informacji podlegających tajemnicy przedsiębiorstwa. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe wprowadza dodatkowe wyzwania związane z ochroną danych osobowych. Zdalne kontrole mogą również prowadzić do zagrożeń związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu wprowadza potencjalne osłabienie systemu cyberbezpieczeństwa, które może zostać wykorzystane przez adwersarzy, co sprawia, techniczne zabezpieczenia, takie jak protokoły bezpiecznego połączenia, są niezbędne. Zakłócenia operacyjne to kolejna kwestia, ponieważ zdalne inspekcje systemów na żywo mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm z systemami krytycznymi dla usług realizowanych w czasie rzeczywistym, czas i metoda inspekcji muszą być starannie skoordynowane, aby zminimalizować przerwy w świadczeniu usług. Zgodność z wymogami dotyczącymi lokalizacji danych może stać się problemem w przypadku przetwarzania w systemach sztucznej inteligencji w jurysdykcjach z surowymi zasadami lokalizacji danych. Zdalne kontrole mogą kolidować z tymi przepisami, jeśli inspektorzy znajdują się poza krajem, tu: w Polsce, potencjalnie narażając firmy na ryzyko prawne. Zakres i kontrola dostępu do inspekcji muszą być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że niezbędne jest wdrożenie ścisłych kontroli dostępu i mechanizmów audytu do monitorowania działań inspektorów, co może być technicznie skomplikowane i angażować znaczące zasoby. Wielu operatorów ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyka, ale także potencjalnie nawet uniemożliwiając zaoferowanie usług na rynku. Rozwiązanie tych problemów wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z przepisami prawnymi oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Również art. 43 ust. 1 mówi o tym, że Przewodniczący Komisji może wskazać osobę trzecią, co budzi dalsze wątpliwości natury cyberbezpieczeństwa. Nie ma żadnych zapisów w jaki sposób następuje weryfikacja takich osób. 189 Art. 43 ust. 1 PWPW Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Proponujemy doprecyzować wymóg rzetelności/bezstronności kontrolującego i przepisy dotyczące wyłączenia kontrolujące z kontroli w przypadku wystąpienia braku bezstronności, tj. wystąpienia potencjalnego lub faktycznego konfliktu interesów. Obecne projekt ustawy ww. zakresie nie zawiera takich regulacji. Kontrolujący nie powinien być powiązany z podmiotem konkurencyjnym wobec kontrolowanego np. przez stosunek pracy lub umowy pokrewne (cywilne),członkostwo w zarządzie, powołanie do rady nadzorczej, relacje inwestycyjne itp. Art. 43 ust. 1 GRAI Komisja nie powinna mieć nieograniczonego prawa do kontroli. Powinno to nastąpić tylko w uzasadnionych przypadkach. Propozycja zmiany na „1. Komisja może w uzasadnionych przypadkach podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania tych przepisów.” Art. 43 ust. 1 Instrat – Fundacja Centrum Cyfrowe Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. - uwaga: niejasne sformułowanie. Art. 43 ust. 1 Fundacja FinTech Poland Przepis art. 43 ust. 1 budzi obawy związane z możliwością delegowania przeprowadzania kontroli osobom spoza Komisji, co stwarza ryzyko naruszenia poufności informacji należących do kontrolowanego podmiotu oraz ich potencjalnego wykorzystania do celów prywatnych lub komercyjnych. Takie rozwiązanie rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć 190 późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do przeprowadzenia kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Art. 43 ust. 1 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis art. 43 ust. 1 pkt 2 w obecnym kształcie budzi zastrzeżenia w zakresie chociażby braku ograniczenia co do osoby, którą może zostać upoważniona do przeprowadzenia kontroli z punktu widzenia konfliktu interesów. Budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego. Podnosimy, iż kontrolującymi nie powinny być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. art. 43 ust. 1 pkt 1 i 2 GRAI Osoba upoważniona do przeprowadzenia kontroli powinna być pracownikiem Biura oraz posiadać wiedzę specjalistyczną oraz władać językiem angielskim. Obecna redakcja wskazuje na alternatywę, kontrolującym może być albo pracownik Biura albo osoba spoza Biura, ale posiadająca niezbędną wiedzę. Te dwie przesłanki muszą być spełnione łącznie. Postuluje się dodanie w art. 43 ust. 1 pkt 1słowa „oraz” na końcu zdania. Dodanie obowiązku znajomości języka angielskiego. art. 43 ust. 1 pkt 1 i 2 PIIT Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Upoważnienie do \"przeprowadzenia kontroli\", a nie do udziału/przeprowadzenia czynności kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. 191 art. 43 ust. 1 pkt 2 CHAMBER W pierwszej kolejności należy stwierdzić, że dopuszczenie do prowadzenia kontroli osób nie będących pracownikami Biura Komisji (art. 43 ust. 1 pkt. 2) nie powinno być możliwe. Trudno znaleźć uzasadnienie lub wzorzec takiego zlecanie osobom trzecim wykonywania funkcji imperium Państwa. Prowadzącym kontrolę zawsze musi być wyłącznie pracownik organu, który może jedynie dodatkowo przybrać sobie w charakterze pomocnika “osobę posiadającą wiedzę specjalistyczną”. Wnosimy o wykreślenie tego przepisu w obecnym brzmieniu. Art. 43 ust.1 pkt 2 KIGEiT Propozycja zapisu: Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. , Upoważnienie do \"przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, Art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Art. 43 ust. 1 pkt. 2 e-Izba Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla innych celów, niż prowadzenie kontroli. Rozumiemy, że można wydelegować do kontroli pracowników organów wskazanych w art. 6 ust. 3 Projektu, ale nie powinny to być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. art. 43 ust. 2 i kolejne Związek Telewizji Kablowych w Polsce Izba Gospodarcza W tym stanie rzeczy proponujemy skreślenie art. 43 ust. 2 projektu ustawy o AI jako niezgodnego z regulacją art. 8 zd. | prawa przedsiębiorców, a zarazem pozbawionego jakichkolwiek racjonalnych podstaw, a także niezgodnego z zasadami zdrowego rozsądku. G/ Nie sposób zrozumieć w czym zasadza się prawo kontrolującego do wstępu na grunt oraz do obiektów budowalnych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia „dzielności” podmiotu kontrolowanego (art. 43 ust. 4 pkt. 2 in fine projektu ustawy o AT). To kolejny przykład braku staranności w przygotowaniu projektu ustawy o 192 AI albowiem prawdopodobnie chodziło projektodawcy o wstęp w dniach i godzinach pracy podmiotu lub prowadzenia „działalności” przez podmiot kontrolowany. H/ Nie sposób zaakceptować opcji obciążania podmiotu kontrolowanego, w tym i będącego przedsiębiorcą, kosztami sporządzania na żądanie organu kontrolującego kopii lub wydruków materiałów, czy korespondencji oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w art. 43 ust. 4 pkt. 3 projektu ustawy o Ai (art. 43 ust. 4 pkt. 5 projektu ustawy o A). Skoro to organ kontroli państwowej potrzebuje rzeczonych dokumentów to sam na własny koszt winien je sobie skopiować względnie wydrukować, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty kopiowania, czy też drukowania dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 43 ust. 4 pkt. 5 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji rzeczypospolitej Polskiej z dnia 2.04.1997 r. (Dz. U. nr 78 poz. 483 z późn. zm.), zwanej dalej Konstytucją RP]. art. 43 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zdecydowanie należy pochwalić takie rozwiązanie, ale też należy zwrócić uwagę, że Komisja będzie musiała je zoperacjonalizować. Wysyłanie wiadomości e-mail na pewno będzie nieefektywną formą przekazywania danych. W związku z tym wnosimy o wyjaśnienie czy Komisja wystawi API, z którym podmioty kontrolowane będą mogły/musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom Komisji (przez narzędzia do współpracy zdalnej)? Postulujemy uzupełnienie przepisu art. 43 ust. 2 zdanie drugie Projektu ustawy w następujący sposób: „W szczególnie uzasadnionych przypadkach (...)”. Zasadnym byłoby, aby fizyczne kontrole były absolutnym wyjątkiem. Wówczas po stronie kontrolowanej nie wystąpi konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Art. 43 ust. 2 Fundacja FinTech Poland Zdecydowanie warto docenić wprowadzenie możliwości przeprowadzania kontroli w sposób zdalny, co przyczynia się do usprawnienia procedur nadzorczych oraz redukcji kosztów i czasu poświęcanego na kontrole. Niemniej jednak, należy zwrócić uwagę, że KRiBSI będzie musiała zoperacjonalizować te przepisy, aby zapewnić sprawne i efektywne funkcjonowanie zdalnych kontroli. Wysyłanie dokumentów drogą mailową jest rozwiązaniem, które może okazać się nieefektywne, szczególnie przy dużej ilości danych lub w przypadku przekazywania informacji o wysokim stopniu wrażliwości. W związku z tym rekomenduje się rozważenie, czy KRiBSI powinna opracować i wystawić dedykowane API, umożliwiające bezpieczną i zautomatyzowaną wymianę danych z podmiotami 193 kontrolowanymi. Takie rozwiązanie pozwoliłoby na lepszą integrację systemów i znacznie przyspieszyło procesy kontrolne, zapewniając jednocześnie odpowiedni poziom bezpieczeństwa i ochrony danych. Alternatywnie, warto ustalić, czy na potrzeby zdalnej kontroli wystarczające będzie zapewnienie pracownikom KRiBSI zdalnego dostępu do systemów podmiotów kontrolowanych za pomocą narzędzi do współpracy online. Ponadto, aby uniknąć nieefektywności związanych z fizycznymi kontrolami, sugeruje się, aby były one stosowane wyłącznie w absolutnie wyjątkowych przypadkach. Obecny zapis dotyczący przesyłek kurierskich i rejestrowanych może sugerować konieczność drukowania dużej ilości dokumentów, co jest niepraktyczne i mija się z ideą zdalnej kontroli. W skrajnych przypadkach, jak kontrola systemów opartych na ogromnych zbiorach danych (np. system wytrenowany na treściach typu Wikipedia), fizyczne przesyłki mogą prowadzić do absurdalnych sytuacji, takich jak konieczność drukowania tysięcy stron dokumentacji. W związku z powyższym, warto rozważyć doprecyzowanie przepisów, aby zapewnić, że procesy zdalne będą dominującą formą kontroli, a fizyczne przesyłki będą wykorzystywane wyłącznie w ostateczności. Postulowane brzmienie przepisu: Art. 43 ust. 2 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W szczególnie uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). Art. 43 ust. 3 Polski związek zarządzania wierzytelnościami Art. 43 ust. 3 Projektu Nasze wątpliwości budzi fakt, że art. 43 ust. 3 Projektu nie wskazuje zakresu „szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Ograniczenie zakresu kontroli stacjonarnych do specjalnych potrzeb (np. w celu oględzin urządzeń, dokumentów i materiałów, jakimi dysponuje w swojej siedzibie kontrolowany) w znacznym stopniu wpłynęłoby pozytywnie na budowanie zaufania na linii organ - przedsiębiorstwa, jednak przede wszystkim zminimalizowałoby negatywny wpływ, jak i efekt mrożący, na działalność przedsiębiorstw. Wydaje się, że w znakomitej większości przypadków - niezbędna dotycząca systemu dokumentacja będzie powstawała w formie cyfrowej, a nie fizycznej. 194 Art. 43 ust. 3 Osoba fizyczna jk błąd gramatyczny W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Art. 43 ust. 3 GRAI Brak odniesienia się do kryteriów zainicjowania kontroli – kary są wysokie, a Komisja może przeprowadzić kontrolę „na podstawie uzyskanych informacji”. Oznacza to. Że kontrola może być wszczęta na podstawie każdej skargi wnoszona w trybie art. 85 AI Act (o której mowa w art. 50 ustawy), każdej informacji powziętej przez Komisję. Kontrola „w ramach monitorowania przestrzegania” przepisów AI Act – użycie tego sformułowania sugeruje, że kontrola może być zainicjowana w urzędu bez podania konkretnej przyczyny. Bardzo to niepokoi. Rekomendowane jest doprecyzowanie: Jaki charakter powinny mieć takie informacje? Co może być źródłem takiej informacji? Warto zaproponować stworzenie planu kontroli na kolejne lata, podobnie jak dzieje się to w UODO. Takie planowane kontrole odbywałyby się w ramach monitorowania przestrzegania przepisów AIA, nie dotyczyłyby, z oczywistych względów, kontroli ad hoc. Po ust. 3 dodać ust. 4 wskazujący na obowiązek opracowywania planów kontroli na następne lata. Art. 43 ust. 3 e-Izba Rekomendujemy wskazanie w katalogu otwartym przykładów „szczególnie uzasadnionych okoliczności”. Zwiększy to przewidywalność stosowania tego przepisu. Art. 43 ust. 3 Polskie Towarzystwo Informatyczne Może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Propozycja edytorska „może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.” Art. 43 ust. 3 ITCORNER Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Aby zminimalizować liczbę kontrol stacjonarnych w siedzibie / biurze kontrolowanego, oraz ich negatywny wpływ na działalność przedsiębiorców, proponujemy doprecyzowanie zakresu “szczególnych okoliczności”, 195 które uprawniają do wykonania kontroli stacjonarnej w siedzibie / biurze kontrolowanego i ograniczenie ich do takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym (np. kontrola wymaga oględzin urządzeń fizycznych lub informacje i materiały związane z przedmiotem kontroli nie mogą zostać przedstawione kontrolującemu zdalnie / w formie cyfrowej). Art. 43 ust. 3 KIGEiT Rekomendacja: Dodanie w ust. 3 zapisu, iż kontrola w siedzibie podmiotu kontrolowanego lub w innym miejscu prowadzenia przez niego działalności powinna się odbyć przy udziale upoważnionego reprezentanta podmiotu kontrolowanego, zakończona protokołem pokontrolnym. , Uzasadnienie: podmiot kontrolowany powinien mieć prawo brać czynny udział podczas kontroli przeprowadzanej w jego siedzibie/miejscu prowadzenia działalności. Art. 43 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, poprzez wskazanie katalogu przykładów, o jakie „szczególne okoliczności” chodzi. Pozwoli to zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Wskazujemy również, iż wątpliwości budzi uprawnienie osoby kontrolującej do podjęcia decyzji wskazanej w tym przepisie, szczególnie, że kontrolującym może być również osoba nie będąca pracownikiem Komisji. Z tej przyczyny postulujemy, aby na potrzeby komentowanego przepisu za kontrolującego uznać jedynie pracownika Komisji. Wnosimy również o doprecyzowanie przepisu w zakresie postępowania odwoławczego jak również w zakresie charakteru decyzji (administracyjna/operacyjna). Art. 43 ust. 3 GRAI Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, co rodzi wysokie ryzyko nadużyć. W przypadku gdy szczególne okoliczności to uzasadniają (...) może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego – nie wiemy, co to są „szczególne okoliczności to uzasadniające”. Konieczność określenia zakresu “szczególnych okoliczności” uprawniających do wykonania czynności kontrolnych w siedzibie podmiotu, tj. takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym: Materiały związane z przedmiotem kontroli nie mogą zostać okazane kontrolerowi w formie cyfrowej Kontrola wymaga oględzin fizycznych urządzeń Art. 43 ust. 3 Fundacja FinTech Poland W związku z brzmieniem art. 43 ust. 3, wskazującym na możliwość przeprowadzenia kontroli w siedzibie podmiotu 196 kontrolowanego lub w miejscu jego działalności, zasadne jest doprecyzowanie, jakie szczególne okoliczności mogą uzasadniać taką decyzję. Rekomendujemy podanie przykładowego (choć otwartego) katalogu takich sytuacji, który mógłby obejmować: przypadki podejrzenia manipulacji danymi lub systemami, konieczność weryfikacji sprzętu fizycznego używanego do działania systemu AI, bądź potrzebę zbadania infrastruktury sieciowej i zabezpieczeń, które mogą być kluczowe dla oceny ryzyka związanego z systemem AI. Ponadto, wątpliwości budzi kwestia, czy decyzja o wykonaniu kontroli w siedzibie powinna pozostawać w gestii jednej osoby kontrolującej, szczególnie gdy art. 43 ust. 1 pkt 2 zezwala na przeprowadzanie kontroli przez osoby spoza Komisji. Aby zminimalizować ryzyko nadużyć oraz zapewnić obiektywność i rzetelność procesu, zasadne wydaje się ograniczenie uprawnienia do podejmowania takiej decyzji do pracowników Komisji. Kontrolującym w rozumieniu tego przepisu powinna być osoba, która posiada odpowiedni poziom odpowiedzialności i znajduje się pod nadzorem Komisji. Dodatkowo, niejasne pozostaje, czy decyzja o przeprowadzeniu kontroli w siedzibie jest traktowana jako formalna decyzja administracyjna, czy też jako decyzja operacyjna, która nie podlega formalnym procedurom administracyjnym. Doprecyzowanie tego aspektu zwiększyłoby przejrzystość przepisów oraz pomogłoby podmiotom kontrolowanym zrozumieć, jakie prawa im przysługują w przypadku kwestionowania zasadności przeprowadzenia kontroli na miejscu. Warto rozważyć wprowadzenie wymogu pisemnego uzasadnienia takiej decyzji, aby kontrolowane podmioty miały jasność co do powodów jej podjęcia. Art. 43 ust. 4 PIIT Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Osoba fizyczna jk \"1) swobodnego dostępu do środków łączności\" Dobra rada doświadczonego praktyka: kontrolujący powinni unikać jak ognia korzystania z infrastruktury teleinformatycznej podmiotu kontrolowanego. Dostępne obecnie rozwiązania bez problemu pozwalają kontrolującym na stosowanie własnych urządzeń telekomunikacyjnych i teleinformatycznych do komunikacji. Unikną zarzutu - uzasadnionego lub nie - o ingerencję w systemy teleinformatyczne podmiotu kontrolowanego. 197 Proponowany zapis jest reliktem z czasów, gdy nie było telefonii komórkowej i mobilnego internetu. błąd gramatyczny 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzieałalności podmiotu kontrolowanego 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781) Nie ma art. 7 pkt 2a w wymienionej ustawie: https://dziennikustaw.gov.pl/D2019000178101.pdf Art. 43 ust. 4 GRAI Art. 43 ust. 4 zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Niektóre uprawnienia są nieproporcjonalne i nadmiernie ingerujące w prawa przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej: (a) żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; (b) zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6), (c) opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9); (d) wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Weryfikacja zakresu uprawnień i pozostawienie tylko tych niezbędnych oraz niezakłócających prowadzenia działalności przez przedsiębiorcę, w szczególności art. 43 ust. 3 pkt 5, 6, 9, 11. Art. 43 ust. 4 KIGEiT Rekomendacja: Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku 198 Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Polski związek zarządzania wierzytelnościami Art. 43 ust. 4, 7 i 13 Projektu Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem mogą nieproporcjonalnie ingerować w swobodę prowadzenia działalności gospodarczej i stabilność obrotu. Nadmierny wydaje się być w tym zakresie poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - biorąc tu zwłaszcza pod uwagę możliwość stosowania oprogramowania wdrożonego z udziałem podmiotów trzecich (przedsiębiorstw z sektora IT) oraz rozległość dokumentacji technicznej systemów informatycznych. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na skuteczną komunikację z podwykonawcami, odpowiedzialnymi za tworzenie produktów lub usług wpisujących się w definicję systemów AI na rzecz przedsiębiorstw z branży windykacyjnej (albo stanowiących ich element). W art. 43 ust. 7 dostrzegamy braki dotyczące: maksymalnego czasu trwania kontroli - proponujemy, by w związku z wyżej przytoczonymi argumentami za ochroną stabilności obrotu gospodarczego, kontrole trwały nie dłużej niż 14 dni; terminów, które powinny zostać zachowane, jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 Projektu następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być możliwie jak najkrótszy, aby mógł realizować swoją funkcję. Art. 43 ust. 4 Związek Cyfrowa Polska Zbyt szeroki katalog uprawnień organu kontrolującego. Art. 43 ust. 4 Projektu zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, 199 przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Należy zauważyć, że tego rodzaju, bardzo szerokie uprawnienia nie są zgodne z przepisami Aktu o sztucznej inteligencji, w szczególności z art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”. W związku z tym warto włączyć taką samą definicję do polskiej ustawy (w brzmieniu. „tylko takie dane, które są absolutnie niezbędne do oceny ryzyka stwarzanego przez systemy sztucznej inteligencji i wykonywania ich uprawnień”), a dokumenty wymienione poniżej uznać za wyłącznie te, które można uzyskać, jeśli mieszczą się w zakresie ich bezwzględnej konieczności. Dodatkowo, jako nieproporcjonalne i nazbyt ingerujące w prawo każdego przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej należy ocenić uprawnienie do: żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 in fine Projektu) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6 Projektu); opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9 Projektu); wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11 Projektu). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Art. 43 ust. 4 pkt 1 GRAI Nie zawsze będzie możliwość zapewnienia „oddzielnego pomieszczenia”, szczególnie gdy sprawa dotyczy mikro lub małych podmiotów, które wynajmują jeden open-space. Postuluje się dodanie na końcu zdania „o ile będzie to możliwe”. Art. 43 ust. 4 pkt 2 Polskie Towarzystwo Informatyczne 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3. Czy nie powinno się to odbywać również w obecności przedstawiciela jednostki kontrolowanej, co powinno mieć wówczas odzwierciedlenie w zapisie artykułu. 200 Art. 43 ust. 4 pkt 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy na konieczność redakcyjnej zmiany wyrazu „dzielności” na wyraz „działalności”. Art. 43 ust. 4 pkt 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o wyjaśnienie, czy chodzi o dostęp do nośnika czy do zawartych tam informacji? Wnosimy również o wyjaśnienie, jak zdaniem Projektodawcy należy udostępnić sam nośnik w postaci np. serwera „chmurowego\"? Art. 43 ust. 4 pkt 3 Związek Banków Polskich żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 3 Fundacja FinTech Poland Przepis art. 43 ust. 4 pkt 3) przewiduje możliwość żądania przez kontrolującego udostępnienia nośników danych oraz dostępu do systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, 201 czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg, oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. Art. 43 ust. 4 pkt 5 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Aby wyeliminować przedmiotową wadliwość regulacji proponujemy zatem w art. 43 ust. 4 pkt. 5 in principio projektu ustawy o AI po słowach „podmiot kontrolowany”, a przed słowem „kopii” dodanie treści w brzmieniu „na koszt podmiotu przeprowadzającego kontrolę”. G/ Projektodawca jest niekonsekwentny w swoich zamierzeniach albowiem w art. 44 ust. 1 projektu ustawy o AI wskazuje, że Komisja może zwrócić się o udzielenie pomocy przy przeprowadzaniu kontroli do Policji lub organu kontroli państwowej i ochrony prawa, a także do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji w trzech odrębnych punktach zawartych w art. 44 ust. 2 zd. 2 projektu ustawy o AI opisując w czym ma się zasadzać udzielenie pomocy odpowiednio przez Policję, przez organ kontroli państwowej i ochrony prawa oraz przez jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, tymczasem w art. 44 ust. 2 zd. 1 in principio projektu ustawy o AI wprowadza regulację przewidującą iż jedynie Policja lub organ kontroli państwowej i ochrony prawa zapewnia pomoc w przeprowadzeniu kontroli pomijając w tym zestawieniu pomoc udzielaną przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji, mimo iż w art. 44 ust. 2ust. 2 pkt. 3 projektu ustawy AI opisuje ustawodawca w czym ma się przejawiać udzielenie pomocy kontrolującemu przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji. Art. 43 ust. 4 pkt 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż uprawnienie do żądania wydruków w sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych, uznać należy za anarchonizm. Rodzi to obawy, że organy będą preferować drukowanie przez podmiot kontrolowany ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto żądanie „poświadczania\" wydruków/kopii za zgodność uznać należy za nazbyt uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" mogłoby być zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu kontrolowanego, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym, postulujemy zmianę treści art. 43 ust. 4 pkt 5 Projektu ustawy na następującą: „5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o 202 których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;” Art. 43 ust. 4 pkt 5 e-Izba Rekomendujemy usunięcie tego przepisu. W sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych nie powinno być możliwe żądanie wydruków materiałów, korespondencji oraz informacji. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Na marginesie zwracamy uwagę, że „poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i bardzo uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" powinno zostać zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. Art. 43 ust. 4 pkt 5 Związek Banków Polskich żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 5 Fundacja FinTech Poland Przepis przewidujący prawo kontrolujących do żądania sporządzenia wydruków przez podmiot kontrolowany, gdy istnieje możliwość przekazania kopii elektronicznych, jest archaiczny i odbiega od współczesnych standardów zarządzania dokumentacją. W erze cyfrowej preferowanie wydruków może prowadzić do niepotrzebnego zwiększenia obciążenia administracyjnego oraz marnotrawstwa zasobów, zwłaszcza papieru. Taka praktyka rodzi również ryzyko, że organy kontrolujące będą forsować drukowanie dużych ilości dokumentacji, co jest czasochłonne i nieefektywne w porównaniu do przekazywania danych w formie elektronicznej na nośnikach lub poprzez bezpieczne kanały cyfrowe. Dodatkowo, wymóg poświadczania każdej strony dokumentów za zgodność z oryginałem przez podmiot kontrolowany jest nadmiernie uciążliwy i mało praktyczny. Proces ten wymaga, aby osoba odpowiedzialna w podmiocie była formalnie umocowana do składania takiego poświadczenia, co wiąże się z dodatkowymi procedurami i komplikacjami prawnymi. Zamiast tego, bardziej adekwatnym rozwiązaniem byłoby zastąpienie poświadczania indywidualnych dokumentów jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, w którym potwierdza się, że 203 wszystkie przekazywane kopie są zgodne z oryginałami. Taka zmiana uprościłaby proces, zwiększając efektywność i zmniejszając formalne obciążenie kontrolowanego podmiotu. Postulowane brzmienie przepisu: Art. 43 ust. 4 pkt 5) 5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów; Art. 43 ust. 4 pkt 8 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Art. 43 ust. 4 pkt 8 Związek Banków Polskich 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 8 Fundacja FinTech Poland Oględziny urządzeń, nośników danych oraz systemów informatycznych w kontekście serwerów dostawców chmurowych mogą napotkać istotne trudności organizacyjne i techniczne. W praktyce, serwery chmurowe są często zlokalizowane poza granicami kraju lub w centrach danych o wysokim poziomie zabezpieczeń, gdzie fizyczne oględziny są albo niemożliwe, albo znacznie ograniczone przez regulacje dostawcy. Ponadto, dostęp do tych serwerów może być zgodny jedynie z polityką bezpieczeństwa i procedurami wewnętrznymi dostawcy, co może obejmować szczególne warunki prawne lub techniczne. W związku z tym proponujemy rozważenie alternatywnych form przeprowadzania oględzin, takich jak zdalna weryfikacja danych za pomocą bezpiecznych połączeń sieciowych, audyty systemowe. Takie podejście pozwoli na przeprowadzenie kontroli bez fizycznej obecności przy serwerach, co zwiększy elastyczność działania organów kontrolujących i zminimalizuje ryzyko komplikacji wynikających z międzynarodowych aspektów lokalizacji danych. Art. 43 ust. 4 pkt 10 Związek Banków Polskich (...)przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli [uchylenie punktu] Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 204 Art. 43 ust. 4 i 6 Związek Banków Polskich 4. W toku kontroli kontrolujący mają prawo do: (...) 11) Kontrolę należy prowadzić w sposób rzetelny, obiektywny i proporcjonalny do celu kontroli. Kontroler jest zobowiązany do minimalizowania utrudnień w działalności podmiotu kontrolowanego. (...) 6. Upoważnienie do przeprowadzenia kontroli zawiera: (...) 11) wskazanie praw i obowiązków podmiotu kontrolowanego w trakcie kontroli, w tym prawa do wglądu w akta sprawy i możliwości odwołania. Przepis szczegółowo określa uprawnienia kontrolerów Komisji oraz procedury przeprowadzania kontroli. Upoważnienie do kontroli może określać ten zakres w sposób ogólny, co pozwala kontrolerom dostosować swoje działania do konkretnej sytuacji. Co oczywiście może wpływać na ustalenie konkretnych uprawnień organu i odpowiadających mu obowiązków kontrolowanego Szczególnym zagadnieniem jest kwestia zabezpieczenia dowodów. Przepisy przyznają kontrolerom szerokie uprawnienia w tym zakresie, takie jak zajmowanie dokumentów czy przeprowadzanie oględzin. Chociaż takie uprawnienia są niezbędne do efektywnego prowadzenia kontroli, to jednocześnie rodzą wątpliwości co do ich granic i wpływu na prawa podmiotów kontrolowanych. Należy podkreślić, że szeroki katalog uprawnień kontrolerów powinien być równoważony przez odpowiednie zabezpieczenia prawne dla podmiotów kontrolowanych, takie jak prawo do wglądu w akta sprawy, możliwość odwołania od decyzji kontrolera czy jasne określenie przesłanek do zastosowania poszczególnych środków zabezpieczających Art. 43 ust. 5 Fundacja FinTech Poland Przy kontroli zdalnej kwestia okazania upoważnienia oraz dokumentu tożsamości wymaga doprecyzowania, aby zapewnić transparentność procesu i autentyczność działań kontrolujących. Obecne postanowienie nie precyzuje, jak kontrolujący powinien okazać te dokumenty w sytuacji, gdy kontrola odbywa się na odległość. Należałoby rozważyć możliwość przedstawienia upoważnienia oraz dokumentu tożsamości w formie elektronicznej. Tego rodzaju rozwiązanie pozwoliłoby na potwierdzenie tożsamości i uprawnień kontrolującego, jednocześnie dostosowując procedurę do realiów zdalnej współpracy i minimalizując potencjalne trudności oraz ryzyka związane z weryfikacją upoważnienia na odległość. Art. 43 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy uzupełnienie przepisu poprzez dodanie obowiązku wskazania przez podmiot kontrolujący – oprócz podstawy prawnej – także podstawy faktycznej. 205 Art. 43 ust. 6 Fundacja FinTech Poland Należałoby rozważyć uzupełnienie przepisu tak, aby oprócz podstawy prawnej kontroli, upoważnienie zawierało również wskazanie podstawy merytorycznej. Warto, aby upoważnienie precyzowało, czy kontrola jest prowadzona w ramach ogólnego monitorowania przestrzegania rozporządzenia, czy na podstawie powziętej przez Komisję informacji, skargi lub innego rodzaju zgłoszenia. Taka informacja zwiększyłaby transparentność działań kontrolnych i pozwoliłaby kontrolowanemu lepiej zrozumieć kontekst i przyczynę kontroli. Wprowadzenie tego elementu mogłoby także zapobiec nieporozumieniom oraz wzmocnić zaufanie do procedur kontrolnych, ułatwiając współpracę między podmiotem kontrolowanym, a Komisją Art. 43 ust. 6 pkt 1 e-Izba Rekomendujemy uzupełnienie treści przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: „wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Art. 43 ust. 7 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu w taki sposób, aby wynikało z niego z jakim wyprzedzeniem i w jakiej formie pomiot jest informowany o planowanej kontroli. Przedsiębiorcy powinni wiedzieć również w jakim czasie kontrola powinna się zakończyć. W związku z powyższym, wnosimy o nadanie art. 43 ust. 7 Projektu ustawy nowej treści w brzmieniu następującym: „O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Art. 43 ust. 7 Polskie Towarzystwo Informatyczne O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany czas trwania kontroli. Propozycja O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany termin rozpoczęcia i przewidywany czas trwania kontroli. Powinien zostać podany termin rozpoczęcia kontroli Art. 43 ust. 7 GRAI I. Zbyt wąski zakres informacji przekazywanych kontrolowanemu przed planowaną kontrolą. II. Brak informacji o terminach, które muszą zostać zachowane, tj. dopuszczalnym terminie zawiadomienia przed planowaną kontrolą, oraz maksymalnym dopuszczalnym czasie trwania kontroli. 206 I. Słowa „przewidywany czas trwania kontroli” zastępuje się słowami “informacje, o których mowa w ust. 6 pkt 1, 2, 8 i 10”. II. Uzupełnienie brakujących terminów: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany w terminie do 7 dni przed planowaną kontrolą, podając przewidywany czas trwania kontroli, który nie może być dłuższy niż 14 dni kalendarzowych.” Art. 43 ust. 7 GRAI Termin rozpoczęcia kontroli powinien być odpowiedni i oscylować w zakresie od 3 dni w przypadkach nagłych do min. 14 dni w przypadkach standardowych. Warto też wskazać jaki jest ustawowy czas przewidziany standardowo na kontrolę. Chodzi o zapewnienie podmiotów, że kontrola nie będzie trwała nadmiernie długo. Proponuje się, aby kontrola rozpoczynała się w przypadkach nagłych min. 3 dni od otrzymania powiadomienia, min 14 dni lub więcej w przypadkach standardowej kontroli. Proponuje się także, aby kontrola była ograniczona ustawowo do 1 miesiąca, chyba, że w następuje uzasadniony przypadek i termin ten można wydłużyć do 3 miesięcy. Uzasadnienie przedłużenia należy dostarczyć kontrolowanemu. Art. 43 ust. 7 Fundacja FinTech Poland Wprowadzenie obowiązku zawiadamiania podmiotu kontrolowanego z wyprzedzeniem przynajmniej 30 dni roboczych, a także ograniczenie czasu trwania kontroli do 1 miesiąca od dnia jej rozpoczęcia, ma na celu zapewnienie przejrzystości i efektywności procesu kontrolnego. Wyprzedzenie 30-dniowe daje kontrolowanemu podmiotowi odpowiedni czas na przygotowanie się do kontroli, zebranie wymaganych dokumentów i zorganizowanie zasobów, co sprzyja płynnemu przebiegowi kontroli oraz minimalizuje zakłócenia w bieżącej działalności podmiotu. Określenie maksymalnego czasu trwania kontroli na 1 miesiąc pozwala ograniczyć długotrwałe obciążenia związane z procesem kontrolnym, co jest szczególnie istotne dla firm o ograniczonych zasobach kadrowych i operacyjnych. Taka zmiana zwiększa również przewidywalność procesu oraz zmniejsza ryzyko niepotrzebnego przedłużania działań kontrolnych, co może być obciążające zarówno dla podmiotu kontrolowanego, jak i dla samego organu kontrolującego. Postulowane brzmienie przepisu: 7. O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli. Art. 43 ust. 8 Liczne usterki językowe w poszczególnych punktach wyliczenia. 207 W pkt 2 słowo „udzielania” zastępuje się słowem „udzielenie”, w pkt 3 skreśla się słowo „umożliwienia” i słowo „wstępu” zastępuje się słowem „wstęp”, w pkt 4 słowa „udostępnienia i wydania” zastępuje się słowami „udostępnienie i wydanie”, w pkt 5 skreśla się słowo „umożliwienia” i słowo „dostępu” zastępuje się słowem „dostęp”. Art. 43 ust. 8 pkt 5 Związek Banków Polskich umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 10 Fundacja FinTech Poland Zastosowanie metody zabezpieczenia dowodów przez ich pozostawienie w zamkniętym i opieczętowanym pomieszczeniu może nie być optymalne w kontekście nośników informatycznych. Warto rozważyć alternatywne metody zabezpieczania danych, które pozwolą na skuteczne zabezpieczenie dowodów przy jednoczesnym minimalizowaniu zakłóceń w bieżącej działalności podmiotu kontrolowanego. Fizyczne zabezpieczenie nośników, które mogą być kluczowe dla wielu procesów operacyjnych, nie powinno prowadzić do sytuacji, w której podmiot jest całkowicie pozbawiony dostępu do zasobów niezbędnych do prowadzenia działalności gospodarczej. Rekomendujemy wprowadzenie zabezpieczeń, takich jak tworzenie kopii zabezpieczonych danych lub ograniczenie dostępu w sposób pozwalający na ich monitorowanie, ale nie blokujący funkcjonowania podmiotu Art. 43 ust. 10 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Art. 43 ust. 11 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis powinien precyzować, czym jest „zajęcie informatycznych nośników danych\" - czy w skrajnych przypadkach ma to oznaczać, że organizacja musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? Uważamy, iż tak intepretowany przepis jest zbyt daleko idący. 208 Art. 43 ust. 11 Fundacja FinTech Poland Przepis dotyczący zajęcia nośników informatycznych wymaga większej precyzji, szczególnie w kontekście jego zastosowania w praktyce. Zajęcie nośników danych, urządzeń oraz systemów informatycznych może mieć poważne konsekwencje dla firmy, zwłaszcza jeśli działalność organizacji jest ściśle związana z przetwarzaniem danych lub korzystaniem z systemów, które zostały zajęte w ramach kontroli. W skrajnych przypadkach, jeśli zajęcie nośników danych lub urządzeń dotyczy kluczowych elementów infrastruktury firmy, takich jak serwery, bazy danych, komputery czy inne urządzenia wykorzystywane w działalności gospodarczej, może to skutkować paraliżem operacyjnym. Firma mogłaby zostać zmuszona do zaprzestania działalności, jeżeli jej praca jest oparta na systemach informatycznych, które zostały skonfiskowane. Przepis w obecnym brzmieniu nie precyzuje, w jakim zakresie firma może kontynuować działalność po zajęciu takich zasobów, co może prowadzić do nadmiernych trudności w jej funkcjonowaniu. Aby uniknąć takich sytuacji, należałoby rozważyć dodanie do przepisu postanowień wskazujących, w jakich przypadkach firma może nadal funkcjonować pomimo zajęcia nośników informatycznych, a także jakie środki zaradcze mogą zostać wprowadzone, aby zapewnić firmie możliwość prowadzenia działalności na czas trwania kontroli. Można by też przewidzieć mechanizmy pozwalające na tymczasowy dostęp do danych lub na alternatywne sposoby ich przechowywania, co pozwoliłoby na uniknięcie całkowitego wstrzymania działalności. Takie postanowienia mogłyby zapewnić równowagę pomiędzy koniecznością przeprowadzenia skutecznej kontroli a zachowaniem ciągłości działalności gospodarczej, co w przeciwnym razie mogłoby prowadzić do nadmiernych trudności gospodarczych i potencjalnych problemów dla firm, szczególnie tych, które są mocno zależne od technologii i danych. Art 43 ust.11, 13 i 20 PIIT Należy doprecyzować przepis i wyjaśnić intencje ustawodawcy co do relacji przepisów, określonych w ust.11 (postanowienie o zajęciu), 13 (zażalenie na postanowienie o zajęciu), 20. (sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów). W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Czy wniesienie sprzeciwu, zgodnie z ust.20 wstrzymuje wykonanie zajęcia? (mieści się to w zakresie wykonywania kontroli). Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. 209 Art. 43 ust. 11, 20 KIGEiT Rekomendacja: Wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. , Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Art. 43 ust. 12 KIGEiT Propozycja zapisu: Zmiana na: \"Osobę posiadającą przedmioty, o których mowa w ust. 9, kontrolujący wzywa do wydania ich dobrowolnie, w czasie możliwym na ich zgromadzenie bez uszczerbku dla prowadzonej działalności podmiotu kontrolowanego, a w razie odmowy można przeprowadzić ich odebranie w trybie przepisów o postępowaniu egzekucyjnym w administracji.\" , Uzasadnienie: podmiot kontrolowany powinien mieć czas na odpowiedni zebranie/zgromadzenie dowodów tak aby zachować płynność gospodarczą. Art. 43 ust. 13 KIGEiT Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. , Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła Art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w Art. 57 projektu ustawy. Art. 43 ust. 13 e-IZba Z uwagi na to, że zajęcie może trwać do 7 dni (zgodnie z art. 43 ust. 11), to termin rozpatrzenia zażalenia powinien być 1 dniowy. W. przypadku braku jego zachowania, zajęcie powinno upadać. Art. 43 ust. 13 ISSA Polska Postuluję wskazanie terminu na wniesienie zażalenia oraz momentu rozpoczęcia biegu terminu. Art. 43 ust. 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Skoro zajęcie może trwać do 7 dni (art. 43 ust. 11 Projektu ustawy), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcie upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, istnieje ryzyko, iż prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 PIIT 210 Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w art. 57 projektu ustawy. Art. 43 ust. 13 GRAI Postuluje się, aby zażalenie na zajęcie przedmiotów przysługiwało także podmiotowi kontrolowanemu. Postuluje się, aby zażalenie przysługiwało także podmiotowi kontrolowanemu. Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów. Uzupełnienie brakującego terminu, przy czym, jeżeli miałby to być standardowy 7 dniowy termin z KPA, to będzie to nieefektywne w sytuacji, gdy zajęcie przedmiotów następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Powinien więc być to termin krótszy wraz z szybkim rozpatrzeniem zażalenia przez organ kontrolujący. Art. 43 ust. 13 NRA Podkreśla się, że w art. 43 ust. 13 Projektu nie doprecyzowano organu właściwego do rozpatrywania zażaleń na postanowienie Komisji o zajęciu przedmiotów, pozostawiając ten istotny aspekt w obszarze domysłów interpretacyjnych. Przepis w obecnej formie ogranicza się do stwierdzenia, że zażalenie przysługuje osobom, których prawa zostały naruszone, natomiast nie wskazuje, jaki podmiot miałby kompetencję do rozpoznania złożonego środka odwoławczego. W praktyce oznacza to, że pomimo wydawania postanowień przez Komisję (co wynika z art. 43 ust. 11 Projektu), brak jest wyraźnego określenia trybu weryfikacji prawidłowości przedmiotowych postanowień, co może prowadzić do komplikacji proceduralnych oraz wątpliwości co do skuteczności ochrony interesów stron postępowania. Wprawdzie art. 45 ust. 5 Projektu wskazuje na SOKiK jako organ właściwy do rozstrzygania kwestii zwrotu dokumentów ujawnionych podczas kontroli, niemniej dotyczy to jedynie ograniczonej kategorii dokumentów pozostających na miejscu kontroli. Regulacja ta nie znajduje więc zastosowania do sytuacji wynikających z wydania postanowienia o zajęciu przedmiotów, a więc nie znajduje zastosowania do art. 43 ust. 13. Art. 43 ust. 13 Fundacja FinTech Poland Skoro zajęcie przedmiotów może trwać maksymalnie do 7 dni (zgodnie z art. 43 ust. 11 Projektu Ustawy), to w celu zapewnienia realnej ochrony praw osób, których interesy zostały naruszone, należałoby wprost wskazać, że zażalenie na postanowienie o zajęciu przedmiotów musi być rozpatrzone w terminie 1 dnia roboczego od jego wniesienia. Brak takiego 211 mechanizmu, który gwarantuje natychmiastowe rozpatrzenie zażalenia, może prowadzić do sytuacji, w której podmiot kontrolowany nie ma skutecznego środka ochrony swoich praw w czasie, gdy zajęcie trwa. Długi czas oczekiwania na rozstrzygnięcie zażalenia, szczególnie w kontekście ograniczenia dostępu do przedmiotów, mógłby prowadzić do sytuacji, w której samo prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 wz z art. 56 Związek Cyfrowa Polska Brak zagwarantowania niezbędnych środków zaskarżenia. Rozstrzygnięcia wydawane przez organ kontrolujący nie gwarantują skutecznych procedur zaskarżenia dla przedsiębiorcy, w szczególności: Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (art. 43 ust. 13 Projektu; w zw. bowiem z art. 56 Projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której ustawodawca przesądził w art. 43 ust. 11 Projektu ustawy, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni”. Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący; Art. 43 ust. 14 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Relacja między ustępem 14 a ust. 11-13 w art. 43 Projektu ustawy jest niejasna, nie jest też omówiona w uzasadnieniu Projektu ustawy - w jakiej sytuacji zajęcie jest niedopuszczalne? Ustęp 11 w art. 43 Projektu ustawy mówi ogólnie o prawie do zajęcia danych „w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Art. 43 ust. 14 Fundacja FinTech Poland Relacja między art. 14 ust. 14 a ust. 11-13 jest niejasna i wymaga precyzyjnego określenia w przepisach ustawy. Aktualne brzmienie Projektu ustawy nie wyjaśnia, w jakich sytuacjach zabezpieczenie jest niedopuszczalne. Zgodnie z ust. 11, Komisja posiada ogólne prawo do zajęcia danych “w toku kontroli”, co sugeruje szeroki zakres uprawnień do przejmowania dokumentów i danych zarówno w formie fizycznej, jak i elektronicznej. Natomiast ust. 14 wskazuje na zabezpieczenie na miejscu kontroli, wyłączając stosowanie ust. 11-13. Należy zatem doprecyzować, czy wyłączenie stosowania ust. 11-13 w ust. 14 oznacza, że zajęcie danych jest ograniczone do określonych warunków takich jak kontrola zdalna, a nie dotyczy kontroli przeprowadzanej fizycznie na terenie kontrolowanego podmiotu. 212 Aby uniknąć niejasności interpretacyjnych i potencjalnych sporów, przepisy te powinny zostać przeformułowane w sposób klarowny, tak aby jasno określały, kiedy i w jakich okolicznościach zajęcie danych oraz dokumentów jest dopuszczalne, a kiedy nie. Wprowadzenie szczegółowych definicji i jednoznaczne określenie zakresu stosowania poszczególnych przepisów pozwoliłoby na lepsze zrozumienie ich relacji oraz ich stosowania w praktyce. Art. 43 ust. 15 CHAMBER Przewidziana w art. 43 ust. 15 instytucja oddania przedmiotów “osobie godnej zaufania” budzi wątpliwości. W ocenie Izby naraża to na niepotrzebne i nadmierne ryzyko uszkodzenia lub utraty przedmiotów lub dostępu do nich osób nieuprawnionych. Art. 43 ust. 15 Polskie Towarzystwo Informatyczne Przedmioty podlegające zajęciu, o którym mowa w ust. 11, należy po dokonaniu oględzin i sporządzeniu protokołu zajęcia zabrać albo oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Czy nie powinien zostać określony sposób postępowania przy przejęciu i przechowania po „zabraniu” (aby odbywało się to w sposób chroniący potencjalne interesy jednostki kontrolowanej), ponieważ mogą wchodzić w grę np. prawa patentowe itp. Art. 43 ust. 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, kim ma być taka osoba? Jakie ma spełniać kryteria? Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać zasady takie jak: kto to może być i jakie wymagania ma spełnić Art. 43 ust. 15 GRAI Przedmioty mogą posiadać bardzo wrażliwe informacje, które nie powinny trafić do przypadkowych osób, nawet jeżeli są „godne zaufania” (kto ocenia tą godność?). Powinien to być oficjalny depozyt, zabezpieczony w Biurze Komisji. Postuluje się, aby przedmioty były deponowane w zabezpieczonym i przeznaczonym do tego pomieszczeniu w budynku Biura Komisji. Brak definicji osoby “godnej zaufania”, która zapewniałaby zabezpieczenie przedmiotów podlegających zajęciu. W obecnym brzmieniu ustęp ten stwarza szerokie pole do nadużyć. Definicja osoby, której przedmioty można oddać powinna zapewniać, że osoba ta będzie w stanie je zabezpieczać, ze szczególnym uwzględnieniem bezpieczeństwa własności intelektualnej podmiotu kontrolowanego. Art. 43 ust. 15 Fundacja FinTech Poland W przepisie mowa jest o przekazaniu przedmiotów na przechowanie osobie godnej zaufania, jednak nie precyzuje się, kim ta osoba powinna być ani jakie dokładnie kryteria powinna spełniać. Z uwagi na charakter przedmiotów, które mogą podlegać zajęciu (np. nośniki informatyczne, urządzenia elektroniczne, dane wrażliwe), konieczne jest, aby osoba ta miała odpowiednie kwalifikacje oraz zapewniała odpowiednie warunki do przechowywania takich przedmiotów. Powinna to być osoba, która gwarantuje, że przedmioty, w tym dane, będą przechowywane w 213 sposób bezpieczny, w odpowiednich warunkach fizycznych (np. odpowiednie zabezpieczenia przed uszkodzeniem czy utratą danych) oraz zabezpieczenia dostępu do nich. W przypadku nośników informatycznych powinna to być osoba posiadająca niezbędną wiedzę z zakresu przechowywania danych elektronicznych i zarządzania systemami informacyjnymi. Ponieważ w Projekcie brak jest delegacji do wydania rozporządzenia, które mogłoby szczegółowo określić wymagania wobec takich osób, sama ustawa powinna precyzować, kto może pełnić tę rolę. Wskazanie takich kryteriów zapewniłoby większą pewność co do rzetelności oraz bezpieczeństwa przechowywania przedmiotów. Należy zatem wprowadzić zapisy precyzujące, że osobą odpowiedzialną za przechowywanie przedmiotów musi być osoba fizyczna lub prawna posiadająca odpowiednie kompetencje, np. doświadczenie w zakresie przechowywania danych, przeszkolenie w zakresie ochrony informacji, oraz odpowiednie zabezpieczenia techniczne lub organizacyjne. Dzięki temu, przechowywanie zajętych przedmiotów będzie miało wystarczającą gwarancję bezpieczeństwa i zgodności z wymaganiami ochrony danych osobowych oraz innych przepisów prawa. Art. 43 ust. 16 KIGEiT Propozycja zapisu: Dodanie pkt 4) dane osoby kontrolującej oraz dane osoby, która reprezentuje podmiot kontrolowany , Uzasadnienie: kwestie dowodowe. Art. 43 ust. 16 KIGEiT 20. Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. , W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli Art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 Art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 Art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z Art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. Art. 43 ust. 20 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu poprzez wskazanie, w jakiej formie sprzeciw może zostać wniesiony i jakie są konsekwencje wniesienia sprzeciwu. Art. 43 ust. 20 NRA Art. 43 ust. 20 Projektu w obecnym brzmieniu pozostawia niedookreśloną kwestię właściwości organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji, dotyczące rozstrzygnięcia sprzeciwu kontrolowanego wobec podejmowanej kontroli. Przepis ten, wskazując na możliwość wniesienia sprzeciwu przez podmiot kontrolowany w przypadku naruszenia przepisów, nie precyzuje ani trybu rozpoznawania takiego sprzeciwu, ani właściwości organu, który mógłby rozstrzygnąć ewentualne zażalenie na postanowienie Komisji wydane na gruncie tej procedury. Zgodnie z art. 42 Projektu, w zakresie nieuregulowanym kontrola podlegać ma przepisom rozdziału 5 Ustawy Prawo przedsiębiorców, które to przepisy sugerują per analogiam, iż rozstrzygnięcie Komisji miałoby przyjąć formę postanowienia, które mogłoby podlegać zażaleniu. Jednakże nie jest możliwym, aby na podstawie tego przepisu formułować dalej idącą 214 analogię, która pozwoliłaby jednoznacznie wyjaśnić, czy organem właściwym do rozpoznania zażalenia winna być sama Komisja (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a., w sytuacji braku organu nadrzędnego), czy też może SOKiK, który z uwagi na swoje kompetencje i niezależność mógłby potencjalnie pełnić funkcję w rozstrzyganiu takich spraw. Mając więc na względzie potrzebę skutecznego zabezpieczenia praw podmiotów poddawanych kontroli, wskazanym jest jednoznaczne określenie kognicji w zakresie rozpatrywania sprzeciwu wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. Art. 43 ust. 20 Fundacja FinTech Poland Przepis stanowi, że podmiot kontrolowany ma prawo wnieść sprzeciw wobec podjęcia i wykonywania kontroli, jeśli ta narusza przepisy prawa. Niemniej jednak, przepis nie precyzuje, w jakiej formie sprzeciw ten powinien zostać wniesiony ani jakie są konsekwencje wniesienia takiego sprzeciwu. W związku z tym, należy wskazać, że dla zapewnienia skuteczności tego środka ochrony prawnej, konieczne jest określenie formy, w jakiej sprzeciw powinien być złożony, np. czy powinien to być dokument pisemny, zgłoszenie elektroniczne, czy może inna forma. Ponadto, warto wyjaśnić, co dokładnie oznacza wniesienie sprzeciwu – czy wstrzymuje to wykonanie czynności kontrolnych, czy kontrola może być kontynuowana pomimo sprzeciwu, a w jakim terminie oraz w jakiej formie podmiot kontrolujący ma obowiązek odpowiedzieć na wniesiony sprzeciw. Ważnym zagadnieniem jest także określenie, czy wniesienie sprzeciwu skutkuje zawieszeniem kontroli do momentu jego rozpatrzenia, czy też kontrola będzie mogła być kontynuowana bez przeszkód, a ewentualne skutki wniesienia sprzeciwu rozstrzygnie późniejsze postępowanie. Doprecyzowanie tych kwestii w ustawie zapewniłoby podmiotom kontrolowanym jasność co do ich praw i procedur, jakie mogą podjąć w przypadku stwierdzenia niezgodności działań kontrolujących z przepisami. Ponadto, określenie konsekwencji wniesienia sprzeciwu pomoże uniknąć sytuacji, w której sprzeciw nie miałby rzeczywistego wpływu na przebieg kontroli, co mogłoby skutkować naruszeniem zasady skutecznej ochrony praw podmiotów kontrolowanych. Art. 43 ust. 21 Osoba fizyczna jk Zgodnie z art. 2 ust. 1 ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Osoby fizyczne nieprowadzące działalności gospodarczej nie są tam wymienione. Zapis wymaga uzasadnienia. Art. 44 CHAMBER Projekt posługuje się w art. 44 pojęciem “organ kontroli państwowej i ochrony prawa”. W polskim systemie prawa pojęcie to pochodzi z IX Rozdziału Konstytucji RP i obejmuje Najwyższą Izbę Kontroli, Rzecznika Praw Obywatelskich i Krajową Radę Radiofonii i Telewizji. Czy istotnie te organy ma na myśli projektodawca? Nie jest jasne, w jaki sposób mogłyby one “ustalić naruszenie przez podmiot kontrolowany przepisów rozporządzenia”. Art. 44 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Przepis art. 44 Projektu ustawy winien zostać usunięty. Komisja jest organem publicznym, a nie policyjnym. Przepis w aktualnym brzmieniu wyraźnie wskazuje, że Komisja, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. 215 Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym; kontrola Komisji to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod Rozporządzenie 2024/1689 będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów jak ABW, CBŚ, CBA czy inne organy „kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą prowadzić swoje własne kontrole i postępowania. W konsekwencji, postulujemy zmianę treści art. 44 Projektu ustawy na następującą: „Art. 44. Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli.” Art., 44 Fundacja FinTech Poland Zgodnie z art. 44, KRiBSI, może zwrócić się o pomoc do Policji, organów kontroli państwowej i ochrony prawa, a także jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji, jeśli jest to niezbędne do przeprowadzenia kontroli. Tak szerokie uprawnienie w zakresie współpracy z służbami mundurowymi i służbami wywiadowczymi budzi poważne wątpliwości dotyczące zasadności, proporcjonalności oraz zakresu ingerencji w działalność podmiotów kontrolowanych. Po pierwsze, KRiBSI jest organem publicznym odpowiedzialnym za nadzór nad systemami sztucznej inteligencji, a nie instytucją o charakterze policyjnym czy wywiadowczym. Umożliwienie tej instytucji wnioskowania o pomoc ze strony takich służb, jak Policja, ABW, CBA, CBŚ, a nawet wywiad czy kontrwywiad wojskowy, stwarza ryzyko nadużyć i naraża na bezpodstawne wykorzystywanie sił porządkowych w działaniach nadzorczych. Tego rodzaju ingerencja w działalność podmiotów kontrolowanych może prowadzić do nieuzasadnionych działań w ramach kontroli, wykraczających poza zwykłe czynności administracyjne, w tym stosowania metod operacyjnych służb mundurowych, które są przeznaczone do realizacji celów zupełnie innych niż monitorowanie zgodności z przepisami dotyczącymi sztucznej inteligencji. Po drugie, przepisy te mogą wprowadzać niepotrzebne ryzyko naruszenia zasady proporcjonalności, ponieważ nie ma jasnego ograniczenia zakresu i charakteru pomocy, którą KRiBSI może uzyskać od służb porządkowych. Takie uprawnienie może prowadzić do sytuacji, w których pomoc ze strony służb mundurowych będzie wykorzystywana w przypadkach, które nie wymagają aż tak drastycznych działań. Współpraca ta może także stwarzać ryzyko nadmiernej ingerencji w prywatność i ochronę danych osobowych podmiotów kontrolowanych, które muszą współpracować z instytucjami mającymi dostęp do wrażliwych informacji. 216 Proponujemy usunięcie tego przepisu lub wprowadzenie szczegółowych ograniczeń co do zakresu, trybu oraz warunków, w jakich Komisja może się zwrócić do służb porządkowych o pomoc. Warto wprowadzić jasne zasady dotyczące minimalnych kryteriów, które muszą być spełnione, aby mogło dojść do zaangażowania służb, a także precyzyjnie określić, w jakich przypadkach i w jakim zakresie takie działania będą rzeczywiście uzasadnione. Takie przepisy pozwoliłyby na bardziej przejrzyste i kontrolowane wykorzystanie zasobów państwowych w ramach nadzoru nad systemami sztucznej inteligencji, bez niepotrzebnego wprowadzania elementów działania służb, które mogą być postrzegane jako nadmierne i niewłaściwe w kontekście administracyjnego nadzoru nad nowoczesnymi technologiami. Art. 44 Związek Cyfrowa Polska Zaangażowania Policji oraz organów i jednostek. Przewidziana w Projekcie ustawy (art. 44) potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji jest rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dodatkowo, wątpliwości budzi przyznane w art. 44 ust. 2 pkt 3 Projektu uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne. art. 44 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Należy zatem zaproponować nadanie nowego brzmienia art. 44 ust. 2 zd. 1 projektu ustawy o AI ,, Policja, organ kontroli państwowej i ochrony prawa, jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.” Art. 44 ust. 2 pkt 3 Polskie Towarzystwo Informatyczne Niezrozumiała treść – czy chodzi o wsparcie przez jednostki podległe i nadzorowane przez ministra właściwego? Propozycja „3) jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji polegające na wsparciu podmiotu kontrolującego w ustaleniu stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.” Art. 44 ust. 3 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Art. 44 ust. 3 projektu ustawy zmianę na „Komisja występuje z wnioskiem opatrzonym kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym o udzielenie pomocy (...)” Art. 45 PWPW ust. 1. Przepis dot. korespondencji za radcą prawnym lub adwokatem 217 Ust. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Przepisy w obecnym brzmieniu powodują ryzyko naruszenia tajemnicy radcowskiej lub adwokackiej. Nie gwarantują one ochrony tej informacji lecz mówią jedynie o pozostawieniu dokumentów i nośników w siedzibie kontrolowanego. Przepis ww. zakresie powinien zostać zmieniony tak aby zapewnić konstytucyjną ochronę tajemnic zawodów zaufania publicznego. Ponadto w ust. 2 użyto nieprecyzyjnego sformułowania „pobieżnie” zapoznanie się z dokumentacją Art. 45 ICC Poland Przewidziana w art. 45 Projektu procedura – choć wzorowana na art. 105da ustawy o ochronie konkurencji i konsumentów5 (poddawanej zresztą krytyce) – budzi poważne wątpliwości z perspektywy efektywnej i pełnej ochrony tajemnicy adwokackiej i radcowskiej. W szczególności zdaje się ona nie uwzględniać braku zróżnicowania na gruncie polskiego ustawodawstwa zakresu tajemnicy zawodowej w zależności od tego, czy mamy do czynienia z prawnikiem zewnętrznym, czy prawnikiem wewnętrznym zatrudnionym na podstawie umowy o pracę (art. 45 ust. 1 pkt 1 Projektu odnosi się tylko do komunikacji między podmiotem kontrolowanym a „niezależnym od kontrolowanego” adwokatem, radcą prawnym lub prawnikiem zagranicznym). Ponadto przewidziane w art. 45 ust. 2 Projektu upoważnienie kontrolującego do zapoznania się „pobieżnie” z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, rodzi poważne ryzyko naruszenia tajemnicy zawodow strony rodzi ono ryzyko zapoznania się przez kontrolującego „przy okazji” również z innymi informacjami niż wymienione w tym przepisie, nawet nieintencjonalnie, z drugiej zaś strony również sam tytuł lub przedmiot pisma może obejmować informacje objęte tajemnicą zawodową. W konsekwencji art. 45 Projektu powinien zostać zrewidowany w kierunku uwzględnienia zarówno powyższych uwag, jak i innych uwag krytycznych, formułowanych w literaturze w odniesieniu do art. 105da ustawy o ochronie konkurencji i konsumentów. Art. 45 PIIT Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych 218 nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to, na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym, a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uprawnienia Komisji nie powinny wykraczać poza uprawnienia Prezesa UOKIK. Art. 45 KIGEiT Propozycja zapisu: Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w Art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu Art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w Art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w 219 toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Art. 45 NRA Art. 45 Projektu powiela rozwiązania zastosowane w art. 105da Ustawy z 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz.U. z 2024 r. poz. 1616; dalej „u.o.k.k.”). Nowelizacja u.o.k.k. wprowadzająca art. 105da (Ustawa z 9 marca 2023 r. o zmianie ustawy o ochronie konkurencji i konsumentów oraz niektórych innych ustaw, Dz.U. z 2023 r. poz. 852) została krytycznie oceniona przez środowiska prawnicze, o czym informował między innymi Instytut Legislacji i Prac Parlamentarnych Naczelnej Rady Adwokackiej w stanowisku z dnia 27 marca 2023 r., znak NRA.015-23.13.2023. Stąd też negatywnie należy się odnieść do propozycji przeniesienia rozwiązań zastosowanych w art. 105da u.o.k.k. na grunt art. 45 Projektu. Brak zmian w zakresie art. 45 Projektu może doprowadzić do jawnego naruszenia zasad tajemnicy zawodowej, w tym m.in. tajemnicy adwokackiej, co najmniej z kilku powodów, opisanych szczegółowo w dalszej części opinii. Art. 45 Polski związek zarządzania wierzytelnościami Art. 45 Projektu Wskazany w art. 45 Projektu proces kontroli komunikacji między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej [...] pozostaje dla nas kontrowersyjny z tytułu zagadnień tajemnicy adwokackiej (por. art. 6 ustawy - Prawo o adwokaturze - Dz.U.2024.1564 t.j.). Bieżące brzmienie nie zakłada wprowadzenia zmian do wyżej wzmiankowanej ustawy (jak ma to miejsce w art. 6. ust. 4 pkt 2 prawa o adwokaturze), a tym samym stworzenia wyjątku od obowiązku zachowania tajemnicy adwokackiej. Brak jednoznacznego ograniczenia budzi wątpliwości w zakresie realizacji samej instytucji tajemnicy zawodowej wymienionych w ustawie osób, a określenie „pobieżnego zapoznania się z pismem lub dokumentem” w ust. 1 pkt 2 tego artykułu Projektu pozostaje nieostre. Postulujemy jasne wskazanie na wyłączenie tajemnicy adwokackiej wraz ze zmianą w ustawie Prawo o adwokaturze, celem uniknięcia niepotrzebnej zwłoki w ramach procedury kontrolnej, włączającej do niej, wynikającej z niniejszego artykułu Projektu, sąd ochrony konkurencji i konsumentów. Art. 45 CHAMBER Przyjęty w art. 45 tryb przekazania dokumentów mogących podlegać tajemnicy adwokackiej do SOKiK celem ich weryfikacji nie uwzględnia zasięgnięcia opinii samego adwokata, radcy 220 prawnego czy prawnika, który powinien mieć możliwość potwierdzenie, że faktyczne dokumenty są przedmiotem tajemnicy zawodowej. Projektodawca deklaruje w uzasadnieniu do projektu ustawy, że “do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”. Jednakże już w przepisie art. 51 projektu dokonuje bardzo istotnego odstępstwa od tak podstawowej normy, jak określenie strony postępowania (art. 28 KPA). Uzasadnienie milczy na temat przyczyn tej i innych zmian w stosunku do KPA. Art. 45 Polskie Towarzystwo Informatyczne \"Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem (..\", Proponujemy doprecyzować, aby wyjaśnić, o co chodzi Faktycznie takie oświadczenie powoduje, że niemożliwa staje się sama kontrola, gdyż nośniki zawierające taką korespondencję nie mogą zostać przejęte do kontroli poza miejscem kontroli Art. 45 Związek Banków Polskich Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 3) zawierają informacje objęte tajemnicą zawodową - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. 221 Aktualne brzmienie art. 45 projektowanej ustawy stwarza poważną możliwość naruszenia tajemnicy zawodowej związanej z wykonywaniem zawodu zaufania publicznego m.in adwokata czy radcy prawnego. Jednocześnie wskazać należy, że podobne rozwiązanie zostało zaimplementowane do ustawy o ochronie konkurencji i konsumentów, dokładniej w art. 105da, co jednak nie oznacza, że przedmiotowe rozwiązanie jest rozwiązaniem słusznym i poprawnym. Nie ulega wątpliwości, że wprowadzenie powołanego powyżej przepisu doprowadziło do dużego sprzeciwu ze strony środowisk prawniczych. Wskazać należy, że zastosowanie tego typu mechanizmu w jednej ustawie nie przesądza o jego prawidłowości. Podkreślić należy, że tajemnica zawodowa, w tym adwokacka, jak i radcowska stanowi niezbędny element proceduralnego systemu ochrony praw i wolności. Co więcej, nie ulega wątpliwości, że ochrona tajemnicy zawodowej przedstawicieli wspomnianych zawodów zaufania publicznego wymaga istnienia w obrocie prawnym odpowiednich przepisów, które nie tylko ustanawiają tajemnicę, ale również gwarantują jej ochronę. Poszanowanie tajemnicy zawodowej wymaga także określonych standardów zachowania ze strony władzy publicznej, w tym ze strony organów. Ochrona tajemnicy zawodowej ma fundamentalne znaczenie z perspektywy relacji prawnik- podmiot kontrolowany. Przedstawiony przepis budzi poważne wątpliwości dotyczące ochrony poufności informacji, zwłaszcza w kontekście relacji bank-klient. Przepis ten, w obecnym brzmieniu, pozwala na zbyt szeroki dostęp do informacji, które powinny być objęte bankową tajemnicą zawodową. Główne zastrzeżenia: Przepis nie precyzuje, jakie informacje powinny być uznane za objęte ochroną. W konsekwencji, może prowadzić do arbitralnej interpretacji i nadmiernego ujawniania informacji o kliencie. Pozwolenie na pobieżne zapoznanie się z dokumentami może prowadzić do przypadkowego ujawnienia informacji, które powinny być chronione. W odniesieniu do propozycje rozszerzenia przepisu o chmurę obliczeniową - zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje wątpliwości interpretacyjne w zakresie dostępu Komisji do danych znajdujących się w chmurze. Art. 45 Związek Cyfrowa Polska Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45). Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot 222 kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1). Jednocześnie art. 45 ust 2, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 Związek Pracodawców Technologii Cyfrowych Lewiatan Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45 USS) Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1 USS). Jednocześnie art. 45 ust 2 USS, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 USS przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 ust. 1 e-Izba Rekomendujemy usunięcie z treści przepisu „niezależnym od kontrolowanego”. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium „zależności\" 223 od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest „niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są „niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona „niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. Art. 45 ust. 1 Fundacja FinTech Poland Postanowienie zawarte w Projekcie Ustawy, w którym mowa o \"niezależnym od kontrolowanego\" adwokacie, radcy prawnym czy prawniku z Unii Europejskiej powinno zostać usunięte lub zmodyfikowane. Polskie prawo nie przewiduje podziału ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta. Każdy radca prawny i adwokat jest niezależny. Projektowane postanowienie faktycznie ogranicza prawo kontrolowanego do pomocy prawnej, ponieważ: naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ może wysunąć interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Podsumowując, postanowienie o \"niezależnym od kontrolowanego\" prawnym przedstawicielu należy usunąć, aby zapewnić pełne prawo do ochrony prawnej, zgodnie z konstytucyjną zasadą praworządności. W przeciwnym razie, interpretacja obecnych przepisów może prowadzić do ograniczenia możliwości korzystania z pomocy prawnej. Art. 45 ust. 1 pkt 1 PIRP w katalogu podmiotów korespondujących proponuje się dodać po sformułowaniu „adwokatem, radcą prawnym”, po przecinku, sformułowania „rzecznikiem patentowym” Art. 45 ust. 1 pkt 1 Związek Przedsiębiorstw Postulujemy usunięcie w art. 45 ust. 1 pkt 1 Projektu ustawy fragmentu: „a niezależnym od kontrolowanego”. 224 Finansowych w Polsce (ZPF) Fragment ten w istocie umniejsza prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Naszym zdaniem, ten fragment może naruszać zasadę praworządności i faktycznie pozbawić kontrolowanego ochrony prawnej. Art. 45 ust. 1 pkt 1 ISSA Polska Nadmiarowe ograniczenie wprowadzone zwrotem “niezależnym od kontrolowanego adwokatem, radcą prawnym (...)”. Tajemnica zawodowa istnieje bez względu na zależność lub niezależność. Nie wiadomo również w jaki sposób miałaby zostać określona ta niezależność. Nie ma powodu aby uznawać, że adwokat zatrudniony przez kontrolowanego na umowę o pracę jest zależny, a pracujący na zlecenie lub B2B już nie. Art. 45 ust. 1 pkt 1 GRAI Przepis bezzasadnie różnicuje prawnika zewnętrznego od wewnętrznego (analogiczne rozwiązanie jest mocno krytykowanie na gruncie ustawy o OKiK) Skreśla się słowa „niezależnym od kontrolowanego” Art. 45 ust. 1 pkt 1 i 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż dokumenty opisane w art. 45 ust. 1 pkt 1 i 2 Projektu ustawy objęte są tajemnicą radcowską/adwokacką, i nie powinny być przedstawiane do wglądu w miejscu kontroli. Ponadto wnosimy o doprecyzowane, co, jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty? Art. 45 ust. 1 pkt. 1 - 2 NRA Art. 45 ust. 1 pkt 1 Projektu przewiduje ochronę tajemnicy zawodowej jedynie w odniesieniu do pisemnej komunikacji między podmiotem kontrolowanym a „niezależnym” adwokatem, która została sporządzona wyłącznie w celu uzyskania ochrony prawnej w związku z przedmiotem kontroli. Użycie w treści przepisu określenia „niezależny adwokat” budzi poważne wątpliwości. Konstrukcja ta jest nie tyle zbędna, ile zwyczajnie myląca, bowiem ustawowy obowiązek niezależności jest fundamentem wykonywania zawodu adwokata. Charakter zawodu adwokata 225 zakłada niezależność i swobodę zawodową, a stosowanie sformułowania „niezależny” może sugerować istnienie adwokatów „zależnych”, co pozostaje w sprzeczności z obowiązującymi przepisami oraz etyką adwokacką. Tym samym wprowadzenie tego pojęcia w art. 45 ust. 1 pkt 1 Projektu grozi powstaniem niejasności interpretacyjnych, które mogą podważyć status i autonomię adwokatów. Z tego względu postuluje się, aby przepis ten odnosił się do komunikacji z adwokatem bez wskazywania na jego „niezależność”, co zapobiegnie błędnej interpretacji i będzie zgodne z fundamentalnymi zasadami adwokatury. Wątpliwości budzi również bardzo wąski zakres ochrony tajemnicy zawodowej przyjęty w art. 45 ust. 1 pkt 1 oraz pkt 2 Projektu. Art. 45 ust. 1 pkt 1 Projektu ogranicza zakres tajemnicy zawodowej do pisemnej komunikacji wytworzonej „w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ”. Na podobnej zasadzie art. 45 ust. 1 pkt 2 Projektu ogranicza zakres tajemnicy zawodowej do pism lub dokumentów sporządzonych „wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej”. Z uwagi na fakt, że rzeczywisty zakres tajemnicy zawodowej jest znacznie szerszy, wskazane regulacje powinny obejmować całą komunikację pomiędzy podmiotem kontrolowanym a osobą, o której mowa w art. 45 ust. 1 pkt 1 Projektu, jeżeli komunikacja ta jest prowadzona w celu realizacji prawa kontrolowanego do uzyskania ochrony lub pomocy prawnej. Pochylając się szczegółowo nad zasygnalizowanym wyżej zagadnieniem, konieczną pozostaje także analiza wymagania, aby przedmiotowa komunikacja była „wytworzona” a pisma i dokumenty „sporządzone” wyłącznie w celu uzyskania ochrony prawnej. Taka redakcja przepisów sugeruje, że chroniona przed ujawnieniem jest tylko ta komunikacja oraz tylko te pisma i dokumenty, które od początku zostały stworzone (wytworzone) jako część działań prawnych, związanych z ochroną interesów podmiotu kontrolowanego w toku konkretnego postępowania. Taka interpretacja wyklucza z kolei „materiały”, które powstały wcześniej lub zostały sporządzone w innym celu, lecz mogą być istotne dla ochrony interesów podmiotu kontrolowanego (jego obrony) w danej sprawie i są wykorzystywane na potrzeby danego postępowania. Dodatkowo określenia „wytworzone” i „sporządzone” (wyłącznie w celu realizacji prawa do ochrony prawnej w przedmiotowym postępowaniu) mogą prowadzić do zawężającej interpretacji, która ogranicza ochronę tylko do dokumentów mających bezpośredni związek z bieżącym postępowaniem. W praktyce jednak niektóre dokumenty, choć nie zostały przygotowane wyłącznie na potrzeby konkretnego postępowania, mogą być wykorzystywane w ramach analizy prawnej, związanej z bieżącą kontrolą. W takiej sytuacji kontrolujący mógłby argumentować, że dokumenty te nie spełniają przesłanki wyłącznego celu ochrony prawnej, co naraża podmiot kontrolowany na ujawnienie szerszego zakresu materiałów, niż jest to konieczne. W związku z powyższym wprowadzenie tak ścisłego kryterium „wytworzenia” czy „sporządzenia” wyłącznie dla konkretnego celu może ograniczać ochronę i nie odpowiadać potrzebom praktyki, w której często wykorzystuje się dokumenty powstałe w innym kontekście, ale nadal objęte tajemnicą zawodową (na gruncie innych regulacji). W tej sytuacji korekta wymagałaby jedynie wykreślenia tych limitujących 226 sformułowań. Analiza porównawcza art. 43 ust. 4 pkt 3 z art. 45 ust. 1 i 2 Projektu prowadzi do wniosku, że zakres wyłączenia z art. 45 ust 1 może być niewystarczający by powstrzymać szerokie uprawnienia kontrolującego w toku kontroli. Art. 43. ust. 4 pkt 3 przyznaje kontrolującemu prawo do żądania dostępu do: „akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp”. Natomiast art. 45 ust 1 odnosi się jedynie do: „ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 [...] zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem [...] wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola”. Wobec powyższego możliwa zdaje się niekorzystna z perspektywy kontrolowanego interpretacja, że wyłączenie uprawnienia do żądania udostępnienia nie obejmuje wszystkiego tego, co znajduje się w aktach czy na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, a dotyczy jedynie pism i dokumentów. Warto nadmienić, że pojęcie „dokumenty” jest bardzo szerokie i może przykładowo obejmować: notatki własne, materiały dowodowe, dane analityczne itp. W tej sytuacji zasadnym zdaje się rozważenie, czy praktycznym nie byłoby powołanie się wprost na treść przepisu z art. 43 ust. 4 pkt 3. Mając na uwadze dotychczasowe rozważania, uzasadniona jest konstatacja, że kwestionowane przepisy jawią się jako nadmiernie zawężające. W praktyce może to prowadzić do wykluczenia spod ochrony wszelkich materiałów, które powstały pierwotnie w innym celu, lecz które adwokat lub osoba kontrolowana uznali za przydatne dla obrony prawnej w bieżącym postępowaniu. Co istotne tajemnica adwokacka obejmuje całość komunikacji klienta z adwokatem, a szczególne znaczenie ma tutaj możliwość bezpiecznego korzystania z dokumentów, które mogą być kluczowe dla sprawy, nawet jeśli powstały wcześniej. Wprowadzenie wąskiej klauzuli ograniczającej ochronę jedynie do dokumentów wytworzonych „wyłącznie” na potrzeby postępowania może prowadzić do sytuacji, w której organ kontrolujący będzie miał dostęp do informacji poufnych, co stoi w sprzeczności z zasadą ochrony tajemnicy zawodowej. Proponuje się zatem rozszerzenie przepisów, aby obejmowały wszelką komunikację między podmiotem kontrolowanym a adwokatem (radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników 227 zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej lub osobą, o której mowa w art. 2a tej ustawy), prowadzoną w celu realizacji prawa do uzyskania pomocy prawnej, bez względu na pierwotny cel sporządzenia dokumentu. Taka zmiana pozwoli uniknąć nadużyć i zapewni ochronę tajemnicy zawodowej zgodną ze standardami adwokatury. Art. 45 ust. 2 NRA Warto również odnotować, że przepis art. 45 ust. 1 in fine, zobowiązujący kontrolującego do pozostawienia dokumentów objętych ochroną na miejscu kontroli, może budzić wątpliwości co do zakresu i sposobu przeprowadzania kontroli dokumentów związanych z tajemnicą zawodową. Jeśli intencją przepisu jest wyłączenie określonych dokumentów spod kontroli, sformułowanie powinno wyraźnie wskazywać, że dokumenty te nie podlegają kontroli (w odróżnieniu od „pobieżnego zapoznania się” z art. 45 ust. 2), ani dalszemu przeglądowi („pobieżnemu zapoznaniu się”), weryfikacji, kopiowaniu, powielaniu, utrwalaniu, czy w ogóle realizowaniu praw przewidzianych w art. 43 ust. 4 (z zastrzeżeniem art. 45 ust. 2) przez kontrolujących. Obecne brzmienie sugeruje jedynie, że dokumenty mają zostać pozostawione na miejscu, ale nie precyzuje kategorycznego zakazu kontroli, od którego odstępstwem mogłoby być ewentualnie zawarte w ust. 2 „pobieżne zapoznanie się”. W kontekście art. 45 Projektu kluczowe znaczenie mają także przepisy powiązane, w szczególności art. 43, który określa szerokie uprawnienia kontrolne KRiBSI. Art. 43 ust. 1 pkt 2 Projektu przewiduje, że kontrolującymi mogą być osoby „posiadające wiedzę specjalistyczną” w zakresie systemów sztucznej inteligencji, jednak projekt nie precyzuje, kim dokładnie są osoby o takiej „wiedzy specjalistycznej”, jakie mają kwalifikacje i w jaki sposób zapewniona jest ich niezależność. Brak doprecyzowania tej kwestii rodzi ryzyko, że osoby nieuprawnione, niemające odpowiednich kwalifikacji, a być może również powiązane zawodowo z konkurencyjnymi podmiotami, mogłyby uzyskać dostęp do dokumentacji kontrolowanego podmiotu, która zawiera informacje objęte tajemnicą zawodową, w tym adwokacką. Praktyka ta mogłaby prowadzić do naruszenia tajemnicy zawodowej oraz udostępnienia informacji, które są chronione nie tylko ze względu na interes klienta, ale również z uwagi na szczególne zaufanie społeczne, jakim obdarzony jest zawód adwokata. Art. 43 ust. 3 zawiera natomiast sformułowanie „szczególne okoliczności”, które uzasadniają zwiększone uprawnienia kontrolne Komisji. Przepis ten jest jednak zbyt ogólny i nie definiuje, co ustawodawca rozumie przez „szczególne okoliczności”. Pozostawienie tego terminu bez doprecyzowania otwiera możliwość różnorodnych, arbitralnych interpretacji i uznaniowości ze strony organów kontrolujących, co w kontekście ochrony tajemnicy zawodowej może być szczególnie niebezpieczne. Sugeruje się wprowadzenie katalogu przykładów „szczególnych okoliczności”, które mogłyby uzasadniać takie uprawnienia kontrolne, a jednocześnie zachowanie otwartego charakteru tego katalogu, co umożliwiłoby elastyczność stosowania przepisu bez ryzyka dowolności w jego interpretacji. Art. 45 ust. 2 e-Izba Aktualne brzmienie tego przepisu nie gwarantuje pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o sztucznej inteligencji, w tym informacji objętych tajemnicą adwokacką/radcowską. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego 228 przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Z punktu widzenia bezpieczeństwa prawnego kontrolowanych przedsiębiorców istotne jest zapewnienie pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o systemach sztucznej inteligencji. W związku z powyższym, proponujemy wyłączenie z treści aktualnego brzmienia art. 45 ust. 2 projektu ustawy o systemach sztucznej inteligencji możliwości „pobieżnego zapoznania się” przez osobę wykonującą czynności kontrolne z treścią dokumentu. Wówczas – w przypadku złożenia oświadczenia, o którym mowa w ust. 1 tego przepisu – oraz powzięciu wątpliwości co do jego zasadności – dokument powinien zostać przekazany do Sądu Ochrony Konkurencji i Konsumentów, zgodnie z przewidzianą w aktualnym brzmieniu tego przepisu procedurą. Art. 45 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prawo organu do „pobieżnego zapoznania się\" z dokumentem objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie zweryfikować, czy pracownik Komisji rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo zażądać zwrotu dokumentu od kontrolującego lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. „pobieżnego\" zapoznania się z dokumentem Komisja może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Postulujemy zmianę treści art. 45 ust. 2 poprzez usunięcie zdania pierwszego i pozostawienie przepisu w brzmieniu: „2. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.” Art. 45 ust. 2 GRAI Ust. 2 stanowi naruszenie tajemnicy zawodowej adwokata i radcy prawnego poprzez nawet pobieżne zapoznanie się treścią pism lub dokumentów. Propozycja usunięcia ust. 2 i zmiany numeracji ustępów w art. 45. Treść przepisu, jest kalką z ustawy OKiK, ale nie uwzględnia, że zasadą na gruncie ustawy mają być zdalnie, czego nie zauważa przepis. Art. 45 ust. 2 ISSA Polska Wskazujemy na ryzyko naruszenia tajemnicy zawodowej. Kontrolujący może zapoznać się z autorem, adresatem, tytułem oraz przedmiotem pisma lub dokumentu zawierającego m.in. tajemnicę zawodową oraz datą jego sporządzenia. Wydaje się, że przepis ten nadaje kontrolującemu większe prawa niż w podobnej sytuacji art. 225 par. 1 Kodeksu postępowania karnego: Jeżeli kierownik instytucji państwowej lub samorządowej albo też osoba, u której dokonano zatrzymania rzeczy lub u której przeprowadza się przeszukanie, oświadczy, że wydane 229 lub znalezione przy przeszukaniu pismo lub inny dokument zawiera informacje niejawne lub wiadomości objęte tajemnicą zawodową lub inną tajemnicą prawnie chronioną albo ma charakter osobisty, organ przeprowadzający czynność przekazuje niezwłocznie pismo lub inny dokument bez jego odczytania prokuratorowi lub sądowi w opieczętowanym opakowaniu. Art. 45 ust. 2 Fundacja FinTech Poland Prawo organu do „pobieżnego zapoznania się” z dokumentem objętym tajemnicą radcowską lub adwokacką budzi istotne wątpliwości i powinno zostać wyeliminowane, ponieważ narusza ochronę tajemnicy zawodowej i prawo do pomocy prawnej. Kontrolowany nie ma praktycznej możliwości nadzorowania, czy pracownik KRiBSI rzeczywiście ogranicza się jedynie do „pobieżnego” wglądu, czy też nie przekracza tej granicy, wchodząc w meritum dokumentu. Pojęcie „pobieżności” jest niewystarczająco precyzyjne, co prowadzi do pytania, czy oznacza to np. krótki czas patrzenia, po którym kontrolowany miałby prawo przerwać dostęp do dokumentu, czy też istnieją inne, nieokreślone kryteria. Tzw. „pobieżne” zapoznanie się z dokumentem stwarza realne ryzyko, że pracownik KRiBSI uzyska dostęp do informacji objętych tajemnicą, co jest sprzeczne z zasadami ochrony takich informacji i wykracza poza uprawnienia kontrolujących. Tego rodzaju praktyki mogą naruszać prawa chronione konstytucyjnie, w tym prawo do rzetelnej pomocy prawnej (art. 42 ust. 2 i art. 51 Konstytucji RP). Postulowane brzmienie przepisu: Art. 45 ust. 2 Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Art. 45 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu, albowiem aktualnie nie jest wiadomym w jaki sposób ma dojść do przekazania dokumentu, skoro z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Art. 45 ust. 3 Fundacja FinTech Poland Treść przepisu powoduje wątpliwości w jaki sposób kontrolujący ma przekazać pismo lub dokument sądowi, skoro zgodnie z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli”) nie ma dostępu do takich dokumentów po ich pozostawieniu w miejscu kontroli. Taka sytuacja stwarza problem praktyczny – kontrolujący nie może efektywnie spełnić obowiązku przekazania dokumentów sądowi, jeśli wcześniej nie ma możliwości ich fizycznego zabezpieczenia lub zabrania. 230 Ustawa powinna jednoznacznie precyzować, jak kontrolujący może postąpić w przypadku wystąpienia wątpliwości, aby zachować zgodność z regulacjami dotyczącymi ochrony dokumentów, a jednocześnie umożliwić skuteczne wykonanie obowiązku ich przekazania. Art. 45 ust. 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Sąd drugiej instancji powinien być związany takim samym terminem jak Sąd Ochrony Konkurencji i Konsumentów, żeby prawo do złożenia zażalenia było realne. W konsekwencji, postulujemy zmianę treści art. 45 ust. 5 Projektu ustawy na następującą: „5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 45 ust. 5 Fundacj FinTech Poland Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne. Postulowane brzmienie przepisu: Art. 45 ust. 5 Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia Art. 46. PWPW Projekt ustawy nie wskazuje trybów doręczeń np. na adres do doręczeń elektronicznych lub inny wskazany adres elektroniczny przez kontrolowanego itp. Ma to istotne znaczenie w kontekście liczenia terminów np. na wniesienie uwag do wystąpienia pokontrolnego. Art. 46 ust. 1 i 4 PIIT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia 231 zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów uodo i uokk, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. Art. 46 ust. 1 i 4 KIGEiT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. , Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów UODO i UOKiK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. art. 46 ust. 8 SKwP W naszej ocenie, powinna być możliwość odwołania. Art. 47 PIIT 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać 232 zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu powszechnego (SOKiK?). Art. 47 KIGEiT Propozycja zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. , Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu. Art. 47 ust. 1. PWPW Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Należy doprecyzować jakie są skutki prawne zaleceń pokontrolnych jeżeli nie można się od nich odwołać? Jest to szczególnie istotne z punktu widzenia następnego przepisu, tj. art. 48 projektu – który wprost wskazuje na wykrycie naruszeń AI act. Należy zatem przyjąć, że zalecenia pokontrolne mogą wskazywać na kwestie, które nie stanowią naruszenia AI act. Przyjmując natomiast ten punkt widzenia należy zadać pytanie co się stanie jeżeli zalecenia nie zostaną zrealizowane (np. w części). art. 47 ust. 2 SKwP Tak nie powinno być. Każda kontrola musi mieć przewidzianą możliwość odwołania się od jej ustaleń, mogą przecież pojawić się błędy czy zwyczajne pomyłki w dokonanych ustaleniach, zatem odwołanie musi być przewidziane. art. 47 ust. 3 Związek Przedsiębiorstw Wnosimy o zmianę treści art. 47 ust. 3 Projektu ustawy na następującą: 233 Finansowych w Polsce (ZPF) „3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń.” Art. 47 ust. 3 Związek Banków Polskich Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 60 dni, informuje Komisję o sposobie wykonania zaleceń. Wydaje się, że w interesie podmiotów objętych zakresem projektowanej ustawy zasadnym jest wskazanie minimalnego terminu na wypełnienie ciążącego na nich obowiązku. Przedmiotowy projekt ustawy powinien nie tylko obejmować ochroną prawa użytkowników, ale jak również obejmować ochroną podmioty wykonujące działalność w związku z rozporządzeniem 2024/1689 m.in. dla celów rozwoju innowacyjności. Art. 47 ust. 3 Fundacja FinTdch Poland W ustawie powinien zostać ustalony minimalny termin na przekazanie informacji o sposobie wykonania zaleceń, aby zagwarantować podmiotowi kontrolowanemu odpowiedni czas na zorganizowanie, wdrożenie i przedstawienie szczegółowych informacji związanych z realizacją zaleceń. Określenie minimalnego terminu chroni przed potencjalnym nadużyciem poprzez wyznaczanie zbyt krótkich okresów, które mogłyby skutkować niekompletnym lub powierzchownym wykonaniem zaleceń. Postulowane brzmienie przepisu Art. 47 ust. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. art. 48 Uwaga redakcyjna - podwójny przecinek ze spacją pośrodku. Po słowach „w toku kontroli” skreśla się przecinek oraz następujący po nim znak spacji. art. 48 KIG Proponujemy dodanie po art. 48 dodatkowego artykułu w brzmieniu: Kontrolę prowadzi się w sposób możliwie najmniej uciążliwy dla kontrolowanego, w szczególności, bez uzasadnionych przesłanek w postaci co najmniej uprawdopodobnienia naruszenia przepisów rozporządzenia 2024/1689, nie stosuje się środków wskazanych w art. 43 ust. 4 pkt 6 i 9. W przypadku naruszenia tajemnicy przedsiębiorstwa kontrolowanego odpowiedzialność odszkodowawczą ponosi Skarb Państwa. Art. 48 Fundacja FinTech Poland Przepis art. 48 nie precyzuje procedury, zgodnie z którą Komisja, jako organ kolegialny, ma stwierdzić, że na podstawie informacji zgromadzonych w toku kontroli mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. W związku z tym pojawia się niejasność co do 234 tego, czy decyzja ta powinna być podejmowana kolegialnie, np. w drodze głosowania wszystkich członków Komisji, czy też czy może zostać podjęta przez Przewodniczącego działającego samodzielnie. Brak sprecyzowanej procedury stwierdzania takich faktów rodzi ryzyko dowolności i może prowadzić do niejasności w zakresie odpowiedzialności za podjęte działania. Warto, aby ustawa wyraźnie określała, czy decyzja o wszczęciu postępowania ma być podejmowana na forum Komisji jako całości, w ramach głosowania z odpowiednią większością głosów, czy też powinna być delegowana Przewodniczącemu z określeniem warunków, pod jakimi takie działanie jest możliwe. Takie wyjaśnienie zapewniłoby transparentność procesu decyzyjnego oraz jasność co do podziału kompetencji wewnątrz organu. Proponowane doprecyzowanie może polegać na dodaniu zapisu, który precyzuje, że stwierdzenie naruszenia i decyzja o wszczęciu postępowania wymaga formalnej uchwały Komisji, np. podjętej większością głosów, lub alternatywnie określa, że decyzję podejmuje Przewodniczący na podstawie informacji przekazanych przez kontrolujących z odpowiednim umotywowaniem i zatwierdzeniem przez organ. Rozdział 4 GRAI Sugeruje wprowadzenie przepisów dotyczących postępowania z dokumentacją związaną z systemami sztucznej inteligencji na wypadek upadłości. Należy jasno uregulować co dzieje się z dokumentacją w sytuacji upadłości. Rozdział 4 GRAI Sugeruje rozważenie wprowadzenie trybu weryfikacji czy dochodzi do podejrzenia dyskryminacji algorytmicznej (odpowiedni nowy środek prawny). Uzyskane wyniki zyskałyby walor dowodowy w procesie cywilnym. Odbiorcy usług publicznych (np. Pacjenci) byliby informowani o ustaleniach i w określonym terminie mogliby skorzystać z prawa do weryfikacji swojego przypadku przed sądem. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Rozdział 4 Fundacja Panoptykon Prawa skarżących Doceniamy wprowadzenie w Rozdziale 4 projektu ustawy szczegółowych przepisów dotyczących postępowania przed organem nadzoru, w szczególności postępowania w następstwie skargi złożonej zgodnie z art. 85 rozporządzenia w sprawie sztucznej inteligencji. W naszej opinii doprecyzowania wymaga jednak, jakie prawa przysługują osobie składającej skargę. Analiza przepisów Rozdziału 4 sugeruje, że intencją projektodawcy byłonieprzyznanie osobie skarżącej statusu strony postępowania. Zgodnie bowiem z art. 51 projektu ustawy stroną postępowania jest wyłącznie podmiot, wobec którego wszczęto postępowanie. Choć art. 56 projektu ustawy przewiduje, że w zakresie nieuregulowanym ustawą stosuje się przepisy Kodeksu postępowania administracyjnego, interpretujemy art. 51 w ten sposób, że wprowadza on odrębne od k.p.a. regulacje co do statusu strony, inspirowane rozwiązaniami zastosowanymi w podobnych przepisach regulujących nadzór nad rynkiem i w prawie ochrony konkurencji i konsumentów, gdzie konsument nie jest uznawany za stronę postępowania przed UOKiK. 235 Zakładamy, że takie rozwiązanie zostało wprowadzone w celu uniknięcia ryzyka wydłużenia postępowania oraz utrzymania modelu regulacyjnego rozporządzenia w sprawie sztucznej inteligencji, inspirowanego przepisami o nadzorze rynku i produktów. Dostrzegamy jednak problem, że w obecnym kształcie projektu ustawy osoba skarżąca nie będzie miała dostępu do informacji o tym, co stało się z jej skargą, czy na jej podstawie wszczęto postępowanie, ani jakie były jego wyniki. Postulujemy zatem wprowadzenie w projekcie ustawy przynajmniej prawa do uzyskania informacji zwrotnej o wyniku postępowania oraz dostępu do uzasadnienia decyzji. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Art. 49 KIGEiT Propozycja zapisu: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykuł 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w Art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone, że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsiębiorcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. kultury, ale już nie minister sprawiedliwości, technologii? Art. 49 Fundacja FinTech Poland Zgodnie z aktualnym brzmieniem art. 49 ust. 1 pkt 1 Projektu Ustawy, komisja wszczyna postępowanie m.in. z urzędu. W tym miejscu należy wyraźnie podkreślić, że w projektowanej ustawie nie zostały wskazane jakiekolwiek przesłanki, czy też kryteria do wszczęcia postępowania z urzędu. Wydaje się, że 236 aktualne brzmienie przedmiotowego przepisu prowadzi do wniosku, iż komisja jest uprawniona do wszczęcia postępowania bez uzasadnionej, ale i konkretnej przyczyny. W celu ograniczenia uznaniowości organu kontrolnego warto rozważyć doprecyzowanie sytuacji, w których wszczęcie postępowania kontrolnego będzie szczególnie uzasadnione. Mogą to być np. sygnały o poważnych zagrożeniach dla bezpieczeństwa lub prywatności obywateli, skargi złożone przez wiele podmiotów lub wyniki wstępnych analiz wskazujące na naruszanie przepisów. Obecny przepis nosi ryzyko uznaniowości i paraliżu podmiotu kontrolowanego Art. 49 pkt 2 PIIT Rekomendacja: usunięcie pkt 2) albo co najmniej do zmiany: Komisja może wszcząć postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, Czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. Kultury, ale już nie minister sprawiedliwości, technologii? art. 49 ust. 2 KIGEiT Rekomendacja: Wnosimy o wykreślenie 237 Nie jest uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. art. 49 ust. 2 i 3 GRAI Zbyt szerokie uprawnienie do dostępu do treści stanowiących z jednej strony tajemnicę adwokacką lub radcowską, a z drugiej strony stanowiących prawo podmiotu kontrolowanego do uzyskania ochrony prawnej. Ponadto kolejny ustęp wskazujący na uprawnienie do przekazania dokumentu zawierającego treść objętą tajemnicą tylko na podstawie przeświadczenia kontrolującego o powstaniu wątpliwości stworzy pole do nadużyć i niekontrolowanego używania tego uprawnienia. Postuluje się usunięcie ust. 2 i 3 w całości. Art. 49 ust. 2 pkt. 3 PIIT Proponujemy usunąć, aby nie zaistniał skutek, że każda skarga obliguje Komisję do wszczęcia postępowania administracyjnego. Duża ilość skarg może spowodować blokadę działalności Komisji. Nie jest ponadto uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. Art.50 Osoba fizyczna W art. 50 projektu nie wskazano, jakie środki prawne przysługują skarżącemu, zwłaszcza w zakresie otrzymania informacji o wyniku postępowania. Nie odwołano się również do kwestii ochrony tożsamości skarżącego, w myśl dyrektywy (UE) 2019/1937. Należy wskazać gwarancje procesowe i środki ochrony skarżącego. Art.50 ICC Poland Projekt przewiduje w art. 50 ust. 2 pkt 1, że skarga, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia, powinna zawierać m.in. „nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji” [podkreślenie własne]. Tymczasem zakres przedmiotowy skargi nie jest ograniczony do naruszeń dokonanych przez dostawców systemów sztucznej inteligencji, lecz może ona dotyczyć wszelkich naruszeń rozporządzenia 2024/1689, a więc wszystkich operatorów, na których rozporządzenie 2024/1689 nakłada określone obowiązki (dostawców, producentów produktów, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora). W konsekwencji proponuje się zmianę w art. 50 ust. 2 pkt 1 Projektu słowa „dostawcy” na „operatora”. Art. 50 – 55. PWPW dot. post ępowania skargowego/naruszeniowego) 238 Prosimy o wskazanie czy do art. 50 i nast. będą miały zastosowanie przepisy Kodeksu postępowania administracyjnego , czy może to będzie procedura odrębna i wyłączna. Art.50 PIRP sformułowanie „jednostka organizacyjna nieposiadająca osobowości prawnej” należałoby doprecyzować przez dodanie po nim, po przecinku, sformułowania „o której mowa w art. 33[1] k.c.” Art. 50 Fundacja FinTech Poland Należy dodać obowiązek podania danych osoby lub podmiotu zgłaszającego skargę. Bez takiego wymogu istnieje ogromne ryzyko walki z konkurencją poprzez wnoszenie oskarżeń, które na długi czas blokują prace podmiotu konkurencyjnego art. 50 ust. 2 pkt 1 GRAI Uwaga redakcyjna - połączono adres z siedzibą. Słowa „adres siedziby” zastępuje się słowami „siedzibę, adres”. art. 50 ust. 2 pkt 3 GRAI Zbędne wydaje się wskazanie w przepisie: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Skreśla się słowa: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Art. 50 ust. 2 pkt 3 Związek Banków Polskich Art. 50. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej może złożyć do Komisji skargę, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia. 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji; 2) opis istotnych faktów oraz powody, dla których skarżący uważa, że dostawca systemu sztucznej inteligencji naruszył przepisy rozporządzenia 2024/1689; 3) inne informacje uznane przez skarżącego za istotne dla sprawy w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 50 ust. 1 pkt 3) Należy wykreślić sformułowanie „w stosownych przypadkach, informacje zebrane z własnej inicjatywy”, gdyż jest to nadmiarowe i nic nowego nie wnosi, skoro mamy już sformułowanie „inne informacje”. Informacje powinny być zabrane tylko w zgodzie z przepisami prawa w danej konkretnej sprawie. art. 50 ust. 2 –4 GRAI Uwaga redakcyjna Zbędne jest odwołanie w tych przepisach – „skarga o której mowa w ust. 1” zamiast po prostu ,,skarga”. W ust. 2,3 i 4 po słowie „skarga” skreśla się „o której mowa w ust.1”. Art. 50 ust. 3. PWPW Skargę, o której mowa w ust. 1, składa się Komisji w postaci elektronicznej, 239 a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji. Przepis jest zbyt ogólny i wadliwy. Skargę można złożyć: - w postaci elektronicznej, - czyli albo za pomocą środków komunikacji elektronicznej (np. mailem) albo na nośniku danych (co powinno być możliwe) gdzie należy przekazać – na biuro podawcze, czy przy użyciu poczty rejestrowanej lub bez rejestrowania np. płytą, innym nośnikiem danych itp. - a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków 7 komunikacji. Czy to oznacza że możliwe jest złożenie np. na papierze ? Należy wskazać kanały komunikacji np. ePUAP, adres do doręczeń elektronicznych, dedykowany portal itp. Czy wniesienie skargi uruchamia od razu postępowanie o naruszenie względem dostawcy AI act czy też jest to postępowanie typowo skargowe. Przepisy ww. obecnym kształcie nie wyjaśniają ww. zagadnienia. Art. 50 ust. 4 Uwagi Ogólne SAiW Copyright Polska Art. 50 ust. 4 projektu należy uznać zwrócenie się do Ministra Kultury z propozycją udziału w rozpatrywaniu skarg dotyczących kwestii odnoszących się do prawa autorskiego i praw pokrewnych za obligatoryjne dla Komisji, a nie fakultatywne. Dodatkowo z uwagi na potencjalnie duże skomplikowanie stanów faktycznych, wydaje się, że w art. 51 ust. 3 powinna istnieć możliwość wydłużenia czasu postępowania w danej sprawie, w uzasadnionych jej zawiłością przypadkach, ponad standardowy czas do 12 miesięcy. Podobna kompetencja Komisji jak ta przewidziana w art. 61 ust. 5 projektu w wypadku postępowań w ramach zgłaszanych incydentów, to jest kompetencja Komisji do żądania dodatkowych danych i informacji, powinna istnieć w sprawach wydawania przez Komisję interpretacji indywidualnych i generalnych. W razie braku przedstawiciela władz publicznych odpowiedzialnego za ochronę praw autorskich uprawnionego w mocniejszy niż obecnie sposób może zachodzić ryzyko wydawania przez Komisję interpretacji naruszających lub w niedostatecznym stopniu uwzględniających te prawa. Ryzyko to jest tym większe, że zgodnie z art. 14 ust. 5 projektu można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie, a zgodnie z art. 15 projektu ustawy Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych 240 w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Tak szeroko nakreślone kompetencje Komisji wymagają wprowadzenia w jej działanie postulowanych zmian. Społeczna Rada do spraw Sztucznej Inteligencji, dalej: Rada, powinna być tworzona przy współudziale podmiotów autorskouprawnionych, to jest powinna mieć możliwość posiadania w swym składzie określanym przez art. 28 projektu, kandydatów rekomendowanych nie tylko przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych (art. 28 ust. 3 pkt 4), ale też przez izby gospodarcze reprezentujące producentów treści chronionych prawami autorskimi i prawami pokrewnymi. Podobnie nie tylko przez fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji (art. 28 ust. 3 pkt 7), ale także przez stowarzyszenia, których celem statutowym jest ochrona praw autorskich i praw pokrewnych lub zbiorowe zarządzanie prawami autorskimi i prawami pokrewnymi. Skład osobowy Rady powinien wyważać reprezentowane w niej grupy interesów i zapewniać transparentność w zakresie ewentualnego konfliktu interesu, czego obecna regulacja w żaden sposób nie czyni. Za wzór w tym zakresie mogą posłużyć regulacje dotyczące wyłaniania składu osobowego Komisji Prawa Autorskiego, zawarte w ustawie o prawie autorskim i prawach pokrewnych, zapewniające większą równowagę interesów niż projekt w obecnym jego brzmieniu. Kompetencje członka Rady (art. 28 ust. 4 pkt 1) powinny obejmować także wiedzę w zakresie ochrony praw własności intelektualnej, w tym praw autorskich i praw pokrewnych. Dodatkowo zwracamy uwagę, że zakres wyłączenia przez projekt stosowania projektowanej ustawy do podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 1 Prawa o szkolnictwie wyższym może budzić pewne wątpliwości. Intencją Aktu o sztucznej inteligencji było wyłączenie działań niekomercyjnych, a polska definicja ustawowa „podstawowych badań naukowych” (rozumianych jako: prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne) nie wyklucza celów pośrednio komercyjnych. Wymaga to dalszego namysłu projektodawcy co do zgodności tej regulacji z Aktem o sztucznej inteligencji i z intencją motywu 109 tej regulacji. Sektor kreatywny słowa i książki oferuje społeczeństwu bardzo cenny, unikalny zbiór, jeżeli chodzi o treści potrzebne do trenowania sztucznej inteligencji. Intencją uprawnionych prawnoautorsko do tych treści nie jest hamowanie rozwoju sztucznej inteligencji i systemów nadzoru nad nią, lecz zapewnienie przez władze publiczne słyszalności w tym procesie głosu twórców i producentów treści kreatywnych, a w konsekwencji poszanowania ich słusznych praw i interesów. 241 Wyrażamy tym samym nadzieję, że głos polskiego środowiska twórczego i wydawniczego znajdzie zrozumienie i poparcie Ministerstwa jako projektodawcy. Art. 50 ust. 4 Osoba fizyczna jk Czy zapis ust. 4 oznacza, że Komisja nigdy nie będzie prowadzić kontroli w organach, o których mowa w art. 6 ust. 3 projektu ustawy? Art. 51 ust. 1 Osoba fizyczna Art. 51 ogranicza pojęcie strony postępowania tylko do osoby, wobec której zostało wszczęte postępowanie, podczas gdy art. 28 k.p.a. definiuje stronę jako każdego, czyjego interesu prawnego lub obowiązku dotyczy postępowanie. To oznacza, że art. 51 projektu ustawy pomija osoby, które mogą mieć interes prawny lub obowiązek w postępowaniu, ale nie są bezpośrednio objęte postępowaniem. Tym samym przepis nie zapewnia ochrony prawnej osobom, które chcą aktywnie uczestniczyć w postępowaniu. Art. 51 projektu jest zbyt wąsko sformułowany, co może prowadzić do wykluczenia osób, które powinny być uznane za strony postępowania. Natomiast art. 28 k.pa. zapewnia szerszą definicję strony, która obejmuje wszystkie osoby, których interes prawny lub obowiązek jest dotknięty postępowaniem. W związku z tym, art. 51 projektu ustawy powinien zostać zmieniony, aby uwzględnić szerszą definicję strony postępowania, zgodną z art. 28 k.p.a., bowiem z zakresu regulacji nie wynika, aby takie ograniczenie miało uzasadnienie prawne i faktyczne. Ewentualnie można zawęzić definicję strony na potrzeby ustawy przez wskazanie, że stroną jest dostawca lub operator systemu sztucznej inteligencji. W takim ujęciu zakres podmiotowy jest zawężony, a dookreślenie jest uzasadnione przedmiotem regulacji. Art. 52 ust. 1 Osoba fizyczna Wyłączenie okresu postępowania dowodowego z terminów prowadzenia postępowania administracyjnego, wynikającego z art. 35 k.p.a. budzi istotne wątpliwości co do naruszenia zasady szybkości postępowania administracyjnego. Jeśli skonfrontujemy ten przepis – art. 52 ust. 1 projektu ustawy z art. 51 ust. 3, w którym mowa o maksymalnym, 12-sto miesięcznym terminie postępowania, to może potencjalnie dojść do sytuacji, w którym postępowanie dowodowe przekroczy nie tylko termin wskazany w k.p.a, ale określony również w art. 51 ust. 3. projektu ustawy. Warto bowiem zauważyć, że o ile prowadzenie czynności dowodowych wydłuży bieg terminu prowadzenia postępowania na gruncie k.p.a, to zastosowanie normy z art 52 ust 1 nie odwołuje się do terminu wynikającego z art 51 ust. 3, nie skutkuje wydłużeniem. Ponadto wydłużenie postępowania dowodowego w nieskończoności, a takie ryzyko potencjalnie istnieje, narusza nie tylko zasadę szybkości postępowania, ale także narusza istotne interesy stron, pozostające w niepewności co do swej sytuacji prawnej oraz zasadę pogłębiania zaufania obywateli do organów państwa. Należy gruntownie przemyśleć reguły dotyczące biegu terminów w postępowaniu przed Komisją, pamiętając jednocześnie, że w k.p.a przewidziano możliwość wydłużenia tych terminów. Doktryna i orzecznictwo negatywnie ocenia wydłużanie postępowania 242 administracyjnego ponad miarę, ponad istotnie występujące potrzeby procesowe, co prowadzi do przewlekłości postępowania administracyjnego lub wprost do bezczynności. Poglądy te powinny być istotnym ostrzeżeniem przed wprowadzaniem tego typu rozwiązań do nowego aktu prawnego. Art. 51 ust. 2 Związek Banków Polskich Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania art. 51 ust.3 CHAMBER Szczególnie rażące jest odmienne uregulowanie terminów na postępowanie - tam, gdzie KPA przewiduje maksymalnie 2 miesiące, projekt ustawy przewiduje w art. 51 ust. 3 aż 12 miesięcy! Tak długie prowadzenie postępowania nie znajduje żadnego uzasadnienia. Postulujemy powrót do zasad określonych w art. 35 KPA oraz skreślenie także nieuzasadnionego przepisu art. 52 ust. 2, skutkującego jeszcze większym wydłużeniem postępowania. Mając na uwadze charakter przedmiotu regulacji, tzn. dynamicznie rozwijającą się technologię, postępowania muszą być prowadzone szybko i sprawnie, czyli wskazane jest tu raczej dodatkowe skrócenie terminów, a nie ich tak rażące wydłużanie. art. 51 ust.3 GRAI Zdecydowanie za długi termin na prowadzenie postępowania. Doprowadzić to może do nieuzasadnionego nadmiernego obciążenia podmiotu badanego oraz wydłuży czas oczekiwania na werdykt składającego skargę. Takie postępowanie powinno się zakończyć w ciągu 1 miesiąca, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy. Postuluje się ustanowienie terminu nie dłuższego niż 1 miesiąc, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy na podstawie pisemnego uzasadnienia. art. 51 ust.3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy zastosowanie terminów dla prowadzenia postępowania z ustawy o ochronie konkurencji i konsumentów - Postępowanie wyjaśniające nie powinno trwać dłużej niż 4 miesiące, a w sprawach szczególnie skomplikowanych - nie dłużej niż 5 miesięcy od dnia jego wszczęcia. art. 51 ust.3 KIGEiT Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania. 243 Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKiK art. 51 ust.3 PIIT Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie uokk. Art. 51 ust. 3 Związek Banków Polskich Postępowanie nie może trwać dłużej niż 12 miesięcy 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Art. 51 ust. 3 Fundacja FinTech Poland Okres 12 miesięcy wydaje się nadmiernie długim czasem trwania postępowania, szczególnie jeśli zaangażowana jest tylko Komisja i nie doszło do procesu sądowego. Czas jest bardzo ważny w przypadku rozwiązań sztucznej inteligencji i w 12 miesięcy może dojść do wprowadzenia zupełnie nowej technologii. Badania rozpoczęte dziś, za 12 miesięcy mogą być przestarzałe. Blokada prac nad systemem AI na 12 miesięcy w wyniku anonimowej skargi będzie wspaniałym narzędziem do nieetycznej walki z konkurencją. Zgodnie z ust. 1 stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. Nie jest to naszym zdaniem jasne czy skarżący jest stroną. Nie tylko podmiot wobec którego postępowanie się toczy ma interes w rozstrzygnięciu. Otwarte pozostaje pytanie czy jest to w takim razie przepis szczególny względem Kodeksu postępowania administracyjnego oraz art. 28 zgodnie z którym stroną jest każdy, czyjego interesu prawnego lub obowiązku dotyczy postępowanie albo kto żąda czynności organu ze względu na swój interes prawny lub obowiązek. Brak jest sprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania, co skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Postulowane brzmienie przepisu: Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Art. 51 ust. 3 Osoba fizyczna jk Czas 12 miesięcy trwania postępowania może okazać się zbyt długi dla osoby, która doznała szkody, wręcz krzywdy, w wyniku działania system sztucznej inteligencji. Co się stanie, jeżeli Komisja nie będzie w stanie zakończyć postępowania w terminie do 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania? Wystarczy sprawdzić, ile trwają postępowania w sprawach 244 dotyczących ochrony danych osobowych. art. 52 ust. 2 PIIT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż niezrozumiała jest intencja tego przepisu, tzn. w toku postępowania także analizuje się określone dowody, zatem ten czas prowadzenia postępowania dowodowego zawiera się w czasie prowadzenia postępowania. Wnosimy do wyjaśnienie intencji przepisu. art. 52 ust. 2 KIGEiT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 3 Członkowie Komisji powinni władać językiem angielskim na tyle dobrze, aby móc samodzielnie rozumieć dokumenty. Ogromna większość danych w branży technologicznej jest w języku angielskim, a także systemy AI najczęściej nie mają wersji polskiej. Bez znajomości języka angielskiego naprawdę trudno obecnie poruszać się w nowych technologiach. Z uwagi na konieczność zapewnienia profesjonalnego tłumaczenia, zasadne wydaje się wprowadzenie wymogu tłumaczenia dokumentacji przedłożonej przez stronę na język polski, poświadczonego przez tłumacza przysięgłego. Przed słowem „tłumaczenie” dodaje się ,,poświadczone przez tłumacza przysięgłego”. art. 52 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku AI, albo z tego powodu, że podmioty podlegające pod Rozporządzenie 2024/1689 same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców). Jeżeli Komisja ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. 245 Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Podnosimy, iż jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. Wskazujemy także, iż prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią „dokumentacji\". W konsekwencji, postulujemy zmianę treści art. 52 ust. 3 Projektu ustawy na następującą: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych.” Art. 52 ust. 3 Związek Banków Polskich 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Wymaganie tłumaczenia - w dzisiejszych czasach – będzie nadmiernym obciążeniem dla przedsiębiorców i za mało precyzyjnym – przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Zdarza się, że dokumentacja dot. poszczególnych bibliotek czy procedur jest wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Należy wykreślić ten punkt jako niemożliwy do spełnienia przez stronę. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe oraz niezbędne kwalifikacje językowe. Art. 52 ust. 3 Fundacja FinTech Poland Takie postanowienie jest anachroniczne i stawia KRiBSI z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo 246 z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Art. 53 ISSA Polska Warto dodać punkt: ostrzeżenie, o którym mowa w pkt 1 podlegają publikacji na stronie Komisji. Art. 53 Polski związek zarządzania wierzytelnościami Art. 53 ust. 3 Projektu Wyznaczony w art. 53 ust. 3 Projektu 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest w naszej ocenie zbyt krótki, mając na uwadze uciążliwość, jaką budzi dla przedsiębiorcy wdrożenie zmian o tak szerokim zakresie. Wdrożenie zmian w oparciu o ostrzeżenie wymaga złożonej analizy na poziomie technicznym i prawnym, co w konsekwencji wpływa na stabilność obrotu przedsiębiorstwa. Zważywszy na specyfikę współpracy sektora` wierzytelności i doświadczenie pracy z dostawcami usług informatycznych 247 dla tegoż, proponujemy termin nie krótszy niż 30 dni, który - przy założeniu jego dolnej granicy - nadal spowodowałoby znaczące wyzwanie dla administrujących systemem. Art. 53 Fundacja FinTech Poland W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „ informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Postulowane brzmienie przepisu: Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. Art. 53 ust.1 GRAI Uwaga redakcyjna Słowo ,,wydać” proponuje się zastąpić słowem ,,udzielić”. Art. 53 ust.1 PWPW W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Wnosimy o doprecyzowanie status u „ostrzeżenia ” 248 – czy jest to decyzja administracyjna, rodzaj czynności materialno - technicznej. Czy można się od niego odwołać ? Z przepisów art. 57 wynika, że odwołania do Sądu Okręgowego przysługują tylko od decyzji a nie ostrzeżeń. Należy rozważyć zaskarżenie ostrzeżeń – gdyż takie ostrzeżenie wpływa na działalność podmiotu i może on się nie zgadzać z jego podstawami i zakresem. Z uwagi na fakt, iż brak jest przepisów proceduralnych nie wiadomo czy można go zaskarżyć do Sądu Okręgowego – ale z uwagi na jego administracyjny charakter może on być potraktowany jako akt lub czynności z art. 3 ustawy - Prawa o postępowaniu przed sądami administracyjnymi – a to spowoduje, że z jednej strony będą orzekać sądy administracyjne a z drugiej Sąd Okręgowy. Wydaje się, że nie taka była intencja projektodawcy. Art. 53 ust.1 PIIT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. 249 Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Art. 53 ust.1 e-Izba Z aktualnego brzmienia tego przepisu nie wynika czy ostrzeżenie, wydawane przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w toku postępowania jest wydawane wyłącznie na potrzeby tego postępowania czy stanowi ono formę trwałej decyzji administracyjnej. Ewentualne ryzyko uznania ostrzeżenia, o którym mowa w analizowanym przepisie, jako decyzji administracyjnej o charakterze trwałym oceniamy - z perspektywy bezpieczeństwa prawnego przedsiębiorców – jednoznacznie negatywnie. W związku z powyższym, proponujemy aby ostrzeżenie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji miało charakter tymczasowy, związany bezpośrednio z postępowaniem, w ramach którego zostało wydane. Proponujemy, aby była to konstrukcja prawna zbliżona do decyzji tymczasowej stosowanej w postępowaniu antymonopolowym (art. 89 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów). W przypadku projektu ustawy o systemach sztucznej inteligencji ostrzeżenie miałoby na celu zapobiec skutkom działania przedsiębiorcy, względem którego istnieje podejrzenie, że narusza ono przepisy rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji, jednak wyłącznie na potrzeby danego postępowania, do momentu wydania ostatecznej decyzji administracyjnej w sprawie. Art. 53 ust. 1 i 3 KIG Proponujemy dodać w ust. 1 zdanie drugie Ostrzeżenie podaje się do publicznej wiadomości. Proponujemy dodać w ust. 3 zdanie drugie Na wniosek strony Przewodniczący Komisji podaje informację o wykonaniu rekomendacji do publicznej wiadomości Art. 53 ust. 1 KIGEiT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. , Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może 250 powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w Art. 57 projektu ustawy. Art. 53 ust. 2 KIGEiT Rekomendacje: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. , Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 53 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza I znowu nie sposób się zgodzić z regulacją, wedle której podmiot kontrolowany zobowiązany jest na żądanie organu kontrolującego wykonać tłumaczenie dokumentacji na język polski na własny koszt (art. 53 ust. 2 zd. 2 projektu ustawy o Al). Skoro to organ kontroli państwowej potrzebuje zapoznać się z dokumentem obcojęzycznym, przeto winien tego rodzaju dokument przetłumaczyć we własnym zakresie, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty tłumaczenia dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 53 ust. 2 zd. 2 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji RP]. Art. 53 ust. 2 PIIT Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Wprowadzenie zasady zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Przewidziana procedura jest niejasna. ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 52 ust.3 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Proponujemy zatem art. 52 ust. 3 zd. 2 ustawy o AI nadać nowe brzmienie „Tłumaczenie dokumentacji strona wykonuje na koszt organu kontrolującego.”. 251 Art. 53 ust.3 GRAI Termin 7 dni na wykonanie rekomendacji może często nie być realny ze względów technicznych. Ten punkt powinien dawać możliwość nie tylko przedstawienia wyników, a także samych czynności, których wynik będzie możliwy do oceny w terminie dłuższym niż 7 dni. Postuluje się, aby informacja nie zawierała jedyne danych o wykonaniu rekomendacji, ale także o czynnościach podjętych w tym celu które jednak z przyczyn technicznych, organizacyjnych, czy finansowych, mogą zakończyć się w terminie dłuższym niż proponowane 7 dni. Alternatywnie: Proponowane jest wskazanie, iż strona w ciągu 7 dni przesyła informację na temat sposobu realizacji rekomendacji tj. albo potwierdzenie wdrożenia lub informację na temat działań jakie zamierza podjąć i terminu ich realizacji. Art. 53 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w praktyce - w zależności od rodzaju rekomendacji - termin 7 dni może okazać się zbyt krótki. Rekomendujemy wydłużenie terminu do co najmniej 14 dni, aby wskazać, jakie działania podmiot planuje wdrożyć w celu przywrócenia zgodności bądź od razu poinformuje o wdrożeniu pewnych działań. Art. 53 ust. 3 ZPAV Przepis ten powołuje dotychczas nieznaną w polskim prawie cywilnym instytucję przedstawienia sądowi „poglądu istotnego dla sprawy” przez organ administracji państwowej. Zaproponowana redakcja przepisu może insynuować, że takie wystąpienie organu (w tym przypadku komisji, o której mowa w art. 7 projektu) posiadać będzie istotny wpływ na późniejszą decyzję sądu, co z oczywistych względów byłoby niedopuszczalne. Art. 53 ust. 3 PZPPF Projekt przewiduje w art. 53 uprawnienie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) do wydawania w toku postępowań ostrzeżeń w przypadku uzasadnionego podejrzenia, że działalność strony narusza Rozporządzenie 2024/1689. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni ma poinformować o wykonaniu tych rekomendacji. Rozporządzenie 2024/1689 w art. 99 ust. 1 przewiduje, że państwa członkowskie mają ustanowić przepisy dotyczące m.in. innych środków egzekwowania prawa, które mogą również obejmować 252 ostrzeżenia. Przepisy Rozporządzenia 2024/1689 nie precyzują zasad wydawania takich ostrzeżeń, doprecyzowanie w tym zakresie zostało pozostawione do decyzji Państw członkowskich. Samo uwzględnienie instytucji ostrzeżeń należy ocenić pozytywnie szczególnie biorąc pod uwagę nową i trudną specyfikę systemów sztucznej inteligencji oraz ciągły rozwój tego typu technologii. W projekcie instytucja ostrzeżenia została również powiązana z uprawnieniem Komisji do odstąpienia od nałożenia administracyjnej kary pieniężnej jeżeli podmiot wykona rekomendacje zawarte w ww. ostrzeżeniu. Biorąc jednak pod uwagę cel takich ostrzeżeń oraz ich znaczenie w kontekście nakładania kar pieniężnych na przedsiębiorców zasadne jest wskazanie w ustawie dłuższego terminu dla przedsiębiorcy na wykonanie rekomendacji Komisji, w szczególności ze względu na okoliczność, że rekomendacje mogą dotyczyć różnych nieprawidłowości, w tym takich które mogą być trudne do wdrożenia w praktyce ze względów technologicznych i niemożliwe do wprowadzenia w tak krótkim terminie jak 7 dni. W związku z powyższym Związek wypracował propozycję zmiany ww. przepisu: Art. 53 ust. 3. Strona w terminie wskazanym przez Przewodniczącego Komisji, nie krótszym niż 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Art. 53 ust. 3 ITCORNER W naszej ocenie 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest zbyt krótki, mając na uwadze to, jak wymagające technicznie może być wdrożenie zmian, których wymaga ostrzeżenie. Mając na uwadze nasze doświadczenie w realizacji komercyjnych projektów programistycznych, proponujemy termin nie krótszy niż 30 dni - spełnienie go będzie tak czy inaczej dużym wyzwaniem dla przeciętnej spółki programistycznej - szczególnie w przypadkach, gdy zastosowanie się do rekomendacji wymaga wprowadzenia naprawdę gruntownych zmian w systemie. Art. 53 ust. 3 Związek Banków Polskich Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie działań podjętych w celu wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, że w terminie 7 dni rekomendacja miałaby zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie działań podjętych w celu wykonania rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Art. 53 i 54 KIGEiT Zmiana zapisu: Dodanie możliwości negocjacji środków naprawczych: W Art. 54, ust. 2, warto dodać: \"Przed wydaniem decyzji o nałożeniu środków naprawczych, Komisja umożliwia podmiotowi opracowanie własnych propozycji działań naprawczych, pod warunkiem, że działania te przyczynią się do eliminacji ryzyka. Komisja ma obowiązek uzgodnić propozycje z tym 253 podmiotem, jeśli uzna je za adekwatne, zaakceptować ich wdrożenie jako alternatywę dla administracyjnych decyzji o karach.\" Rozdział 4. Art. 53 i 54 (Ostrzeżenia i decyzje Komisji) sugerują działania nadzorcze, gdy AI stwarza ryzyko naruszenia przepisów. Proponuję, aby te zapisy były bardziej elastyczne w odniesieniu do innowacyjnych technologii. Taki mechanizm pozwoliłby firmom na samodzielne eliminowanie problemów i szybkie wprowadzanie korekt, a jednocześnie unikałoby się zbyt surowych, automatycznych kar, co mogłoby blokować rozwój AI. Art. 54 KIGEiT Rekomendacja: Dodanie ust. 4 \" W uzasadnionych przypadkach stron może wnieść o wydłużenie 7 dniowego terminu na przedstawienie Komisji informacji z wykonania rekomendacji, o której mowa w ust. 2\" Uzasadnienie: w uzasadnionych przypadkach np. chwilowej awarii systemów - strona powinna mieć możliwość wydłużenia terminu na przedstawienie Komisji informacji z wykonania rekomendacji. Rekomendacja: Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 PIIT Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji. Należy dodać zasadę, iż środki nakazujące usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia, powinny być adekwatne i proporcjonalne. 254 Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 ust. 1 Związek Banków Polskich W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Art. 54 ust 1 Fundacja FinTech Poland Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Postulowane brzmienie przepisu: W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689,narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Art. 54 ust. 2 PZPPF Art. 54 ust 2 przewiduje, że decyzja Komisji nakazująca zaprzestanie naruszeń Rozporządzenia 2024/1689 może zawierać środku nakazujące usunięcie skutków naruszenia obowiązków wynikających z Rozporządzenia 2024/1689. Zobowiązanie do usunięcia skutków naruszeń może być w praktyce nawet niemożliwe biorąc pod uwagę specyfikę systemów sztucznej inteligencji bądź dalece utrudnione. Zachowanie przepisu w takim brzmieniu może prowadzić do nieproporcjonalnych obciążeń dla przedsiębiorców wykraczających poza założenia i przepisy Rozporządzenia 2024/1689. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie. Art. 55 KIGEiT Propozycja zapisu: Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w Art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w Art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w Art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami 255 rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. W związku z tym, że Art. 55 ma powinien odpowiadać zapisom Art. 79 AI Act niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea Art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł Art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wdrożenie/zmiana w systemie wymaga implementacji, testów, w tym innych systemów. Zmiana ta może mieć wpływ na świadczenie usług (np. telekomunikacyjnych) milionom klientów i powinna być wprowadzana w taki sposób, aby nie wpływać negatywnie na ich świadczenie. Proponowany przez ustawodawcę termin tego nie umożliwia. Art. 55 PIIT Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych. 256 Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacyjnym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wydłużenie terminu na wycofanie systemu z rynku lub użytku przynajmniej do 2 miesięcy od dnia doręczenia decyzji. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Art. 55 ICC Poland i) Konieczność doprecyzowania przesłanek rygoru natychmiastowej wykonalności Zgodnie z art. 55 ust. 4 Projektu decyzji Komisji nakazującej operatorowi wycofanie systemu stwarzającego określone tam ryzyka z rynku lub użytku może zostać nadany rygor natychmiastowej wykonalności. Projekt nie precyzuje jednak, w jakich przypadkach może to nastąpić, nie określając jakichkolwiek przesłanek w tym zakresie, mimo istotnego znaczenia takiego rozstrzygnięcia dla działalności operatora (możliwość wykonania decyzji jeszcze przed upływem terminu do wniesienia odwołania, por. art. 58 Projektu). Nie jest przy tym jasne, czy powinno prowadzić to do wniosku, że zastosowanie znajdzie w tym zakresie art. 108 § 1 Kodeksu postępowania administracyjnego na zasadzie odesłania z art. 56 Projektu. Z tego względu należałoby rozważyć albo doprecyzowanie przesłanek nadania decyzji Komisji rygoru natychmiastowej wykonalności (np. natychmiastowa wykonalność jest niezbędna dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) albo jednoznaczne przesądzenie, że może to nastąpić tylko po spełnieniu przesłanek z art. 108 § 1 Kodeksu postępowania administracyjnego. ii) Termin na podjęcie działań Artykuł 55 ust. 3 Projektu przewiduje, że w razie wydania decyzji, o której mowa w tym przepisie, podjęcie wszelkich działań naprawczych lub wycofanie tego systemu z rynku lub użytku powinno nastąpić w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji (terminu takiego nie przewiduje z kolei już art. 55 ust. 4 Projektu). Biorąc pod uwagę szeroki zakres możliwych działań 257 naprawczych, potencjalny wysoki stopień ich technicznego skomplikowania, jak również w najbardziej radykalnych przypadkach konieczność podjęcia szerokich działań na wycofanie systemu (a także – na zasadzie art. 2 ust. 2 Projektu – modelu sztucznej inteligencji ogólnego przeznaczenia), 14-dniowy termin maksymalny wydaje się terminem zbyt krótkim. Należałoby rozważyć jego odpowiednie wydłużenie (jako terminu maksymalnego), pozostawiając Komisji możliwość jego dostosowania do konkretnej sprawy. Art. 55 ust.1 GRAI Ustęp zgodny z rozporządzeniem 2024/1689, niemniej brak doprecyzowania, że dotyczy systemów SI nierozpoznanych dotychczas jako system wysokiego ryzyka i w związku z tym nieuwzględnionych w bazie danych zgodnie z art. 71 rozporządzenia 2024/1689. Doprecyzowanie przepisu. Sugerowane doprecyzowanie zgodnie z art. 79 ust. 1 rozporządzenia „Systemy AI stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób.” Art. 55 ust. 1 Związek Banków Polskich Artykuł należy rozszerzyć o odniesienie również do rozumienia art. 3 pkt 19 rozporządzenia (UE) 2019/1020, który definiuje „produkt stwarzający ryzyko”. Przepis powinien przewidywać, że systemy sztucznej inteligencji stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. Art. 55 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza W art. 55 ust. 2 in principio projektu ustawy o AI pomiędzy słowami „Jeśli oraz „łtoku” opuszczono literę „w”. Należy zatem przedmiotowy brak uzupełnić. Wadliwość powyższa to kolejny dowód na brak dołożenia należytej staranności przy opracowywaniu projektu ustawy o AI. Art. 55 ust. 2 Związek Banków Polskich Art. 55. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, w tym prawa do niedyskryminacji, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Art. 77 ust. 1 Rozporządzenia 2024/1689 wskazuje: ”Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji,.....” 258 Pomiędzy rozporządzeniem a projektem ustawy musi być spójność. Propozycja ma na celu uspójnienie brzmienia przepisu z odpowiadającym przepisem AI Act. ( + dodanie litery „w”) Art. 55 ust. 2 Fundacja FinTech Poland Dodana brakująca litera „w”. Postulowane brzmienie przepisu: Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024 Art. 55 ust.3 Polski związek zarządzania wierzytelnościami Art. 55 ust. 3 Projektu Uważamy, że działania naprawcze, o których mowa w art. 55 ust. 3, powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie dla systemów krytycznych dla funkcjonowania konkretnych przedsiębiorstw windykacyjnych. Większa zachowawczość organu kontrolnego w tym zakresie jest kluczowa dla przedsiębiorstw z reprezentowanego przez nas sektora, którego działalność, z racji jego specyfiki, często mieścić się może w zakresie definicyjnym systemów wysokiego ryzyka - co oznacza kilkadziesiąt, momentami bardzo rozległych i nowych obowiązków, aby zapewnić pełną zgodność z AI Act. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust.3 PWPW W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji. Termin 14 dni na wycofanie produktu lub usługi jest terminem „nierealnym”. Zagrażającym działaniu podmiotu. 259 Proces wytwórczy jak i proces wycofania produktów to skomplikowane działania, należy w tym czasie np. rozwiązać umowy z klientami, zorganizować pracę, być może dokonać przesunięć lub zwolnień pracowników. Minimalny okres to 3 miesiące. Art. 55 ust.3 CHAMBER Z powyższymi przepisami, niezwykle korzystnymi dla organów kontroli, kontrastuje norma art. 55 ust. 3, która operatorowi daje jedynie 14 dni na wycofanie produktu z rynku, nie zważając na żadne okoliczności prawne i faktyczne, np. narażenie przedsiębiorcy na odszkodowania lub utratę zdolności do prowadzenia działalności gospodarczej. Tak drastycznie krótkie terminy mogą być uzasadnione jedynie bezpośrednim zagrożeniem bezpieczeństwa obywateli, co jest przedmiotem regulacji ust. 4. W pozostałych przypadkach postulujemy wydłużenie terminu na dostosowanie systemu lub wycofanie go z rynku do 6 miesięcy. Art. 55 ust.3 GRAI Uprawnienie Komisji do nakazania wycofania systemu z rynku lub użytku zbytnio ingeruje w swobodę działalności gospodarczej przedsiębiorcy i może nawet uniemożliwić mu prowadzenie tej działalności. Działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyka i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. Ponadto, określony termin 14 dni w praktyce jest zbyt krótki. Skreślenie “wycofanie tego systemu z rynku lub użytku...” lub przynajmniej uzupełnienie tego zdania o “lub jego części powodującej naruszenie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu lub jego części powodującej naruszenie z rynku lub użytku w terminie nie dłuższym niż 90 dni od dnia doręczenia decyzji.” Do rozważenia zmiana brzmienia art. 55 ust. 3 projektu nadająca priorytet działaniom naprawczym przed nakazem wycofania z rynku produktu. Zapewni to mniejszą ingerencję Komisji w swobodę działalności podmiotów wciąż z zachowaniem intencji art. 79 AIA. Art. 55 ust. 3 otrzymuje brzmienie: “3. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689, a gdy działania naprawcze nie okażą 260 się skuteczne nakazującą wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji”. Art. 55 ust. 3 ITCORNER Uważamy, że działania naprawcze o których mowa w art. 55 ust. 3 powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie mając na uwadze, że dany system AI może być krytyczny z punktu widzenia działalności i przychodów danego przedsiębiorcy (kluczowy / jedyny produkt lub usługa), a zatem konsekwencje jego wycofania będą rozległe. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zwracamy uwagę, że termin 14 dni może okazać się zbyt krótki na wycofanie systemu z rynku. W konsekwencji postulujemy wydłużenie tego terminu. Art. 55 ust.4 CHAMBER Proponujemy nadać art. 55 ust. 4 następujące brzmienie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie zagrożenie dla zdrowia lub bezpieczeństwa obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku w terminie 14 dni.” Art. 55 ust.4 GRAI W przepisie nie określono warunku nadania decyzji rygoru natychmiastowej wykonalności, co skutkuje za dużym uprawnieniem dyskrecjonalnym organu. Uwaga redakcyjna Skreśla się słowo „o” między słowem „nadany” a słowem „rygor”. Art. 55 ust. 4 Związek Banków Polskich Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności Usunięta litera „o”. Art. 55 ust 4 Fundacja FinTech Poland Usunięcie litery „o”. Postulowane brzmienie przepisu: Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Art. 55 ust. 3 i 4 Stanowisko Koalicji AI i Innowacji w Zdrowiu Wysoki rygoryzm związany z koniecznością wycofania systemów AI z użycia może stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Co więcej, bardzo krótki (14-dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla podmiotów posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Art. 55 ust. 3 i 4 Związek Cyfrowa Polska Wysoki rygor związany z koniecznością wycofania systemów AI z rynku/z użytku. Może on stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Dodatkowo, bardzo krótki (14- 261 dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla przedsiębiorstw posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Działania naprawcze i wycofanie systemu AI z rynku. Zgodnie z art. 55 ust. 3 i 4 Projektu, decyzja wydana przez KRiBSI o podjęciu środków (działań) naprawczych może doprowadzić do zobowiązania przedsiębiorcy do wycofania systemu AI z rynku / z użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji lub nawet w krótszym terminie (w zw. z nadaniem decyzji rygoru natychmiastowej wykonalności). Takie uprawnienie KRiBSI zbytnio ingeruje w swobodę działalności gospodarczej podmiotu, gdyż może nawet uniemożliwić mu prowadzenie działalności. Tymczasem, działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym rekomendujemy wykreślenie uprawnienia organu do wycofania systemu AI z rynku / z użytku lub sugerujemy określenie innego, dłuższego terminu na wykonanie tej decyzji, który zabezpieczy funkcjonowanie przedsiębiorcy i nie narazi go odpowiedzialność odszkodowawczą wobec swoich kontrahentów. Art. 55 ust.6 GRAI Uwaga redakcyjna „O” zastępuje się słowem „Od”. Art. 56 PIIT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 KIGEiT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 ISSA Polska Odesłanie do stosowania kodeksu postępowania administracyjnego w zakresie nieuregulowanym dotyczy wyłącznie postępowania przed Komisją, brakuje analogicznych odesłań dla pozostałych rozdziałów (np. rozdziału 5). Postuluję usunięcie tego artykułu i przejrzyste wskazanie w osobnym 262 artykule odpowiedniego stosowania KPA do całej ustawy (zwłaszcza, że przewidziano wyłączenie stosowania niektórych artykułów KPA w art 76 projektu ustawy). Art. 57 PIIT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. własności intelektualnej. art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów w terminie tygodnia od doręczenia postanowienia. art. 57 nie określa terminu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np. art. 43 ust.13 projektu), dla jasności kwestie organu, terminu wniesienie środków odwoławczych powinny zostać wprost wskazane w ustawie. Art. 57 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z dużą dozą zaskoczenia przyjęliśmy propozycję regulacji art. 57 ust. 3 projektu ustawy o AI przewidującą, iż w sprawie z odwołania od decyzji Komisji zawisłej przed Sądem Okręgowym w Warszawie- Sądem Ochrony Konkurencji i Konsumentów, zwanym dalej SOKiK [art. 57 ust. 1 projektu ustawy o AI], w której to sprawie przecież Komisja jest stroną [art. 479** $ 1 k.p.c. dodanym mocą przepisu art. 80 pkt. 2 projektu ustawy o AI], Komisja poza normalnie przysługującym jej w postępowaniu cywilnym prawem do wyrażania własnego stanowiska 1 składania pism procesowych dodatkowo została wyposażona w uprawnienie do przedstawienia SOKiK istotnego dla sprawy poglądu w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Tego rodzaju uprawnienie przysługuje organizacjom pozarządowym, które nie uczestniczą w konkretnej sprawie cywilnej w jakimkolwiek charakterze (art. 63 k.p.c.). Tymczasem z układu art. 263 57 projektu ustawy o AI, który mocą regulacji art. 57 ust. 1 i ust. 2 projektu ustawy o AI nie pozostawia cienia wątpliwości, iż cały przepis art. 57 projektu ustawy a AI dotyczy spraw prowadzonych przez SOKiK w wyniku wniesienia odwołania od decyzji Komisji, co sprawia, iż należy uznać za całkowicie niedopuszczalne, aby w swojej własnej sprawie, w której zaskarżono decyzję Komisji organ ten dodatkowo posiadał uprawnienie do przedstawienia SOKiK swojego istotnego dla sprawy poglądu. Związek Telewizji Kablowych w Polsce Izba Gospodarcza uważa za słuszne co do zasady dopuszczenie uprawnienia Komisji do przedstawiania każdemu sądowi prowadzącemu sprawę dotyczącą sztucznej inteligencji istotnego w sprawie poglądu, z tym jednakże zastrzeżeniem, że uprawnienie to nie może odnosić się do toczącej się przed SOKiK sprawy wszczętej wniesieniem odwołania od decyzji Komisji, gdyż w takim wypadku Komisja ta w swojej własnej sprawie przedstawiałaby SOKiK swój własny istotny w sprawie pogląd będąc niejako sędzią w swojej własnej sprawie, a zarazem wywierając prawnie niedopuszczalny wpływ na treść rozstrzygnięcia w sprawach uregulowanych w art. 57 ust. I w zw. zart. 57 ust. 2 projektu ustawy o AL. Aby usunąć skutki płynące z fatalnej wręcz redakcji art. 57 projektu ustawy o AI wskazane się wydaje dodanie w art. 57 projektu ustawy o AI po ust. 3 przepisu ust. 4 w brzmieniu ,, Przepis ust. 3 nie znajduje zastosowania do spraw, o których mowa w ust. I w zw. z ust. 2 mniejszego artykułu.”. Art. 57 ICC Poland Porównaj uwagi do art. 75 projektu dotyczące konieczności dokonania pogłębionej analizy, który z istniejących sądów powinien zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 57 NRA Art. 57 Projektu odnosi się wyłącznie do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Przepis ten nie przewiduje natomiast trybu odwoławczego dla wydawanych w trakcie takiego postępowania postanowień, które dotyczyłyby kwestii proceduralnych podejmowanych przez Komisję. Pominięcie tej kategorii orzeczeń w regulacji powoduje niepewność co do właściwej drogi prawnej, utrudniając zaskarżenie takich postanowień i nie wskazując jednoznacznie organu, przed którym wnioskodawcy mogliby dochodzić swoich praw w przypadku naruszeń proceduralnych. Dla zapewnienia przejrzystości postępowania oraz zagwarantowania efektywnej ochrony interesów podmiotów kontrolowanych niezbędne byłoby uzupełnienie Projektu o regulacje dotyczące trybu odwoławczego wobec postanowień podejmowanych w ramach postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Art. 57 ust. 1 CHAMBER Pozytywnie należy ocenić oddanie sporów wynikających z działań nadzorczych Komisji pod kognicję Sądu Ochrony Konkurencji i Konsumentów (art. 57 ust. 1 projektu), co umożliwia merytoryczną kontrolę prawidłowości i proporcjonalności działań Komisji. Należy tu jedynie zaznaczyć, że mając na uwadze specyfikę spraw z zakresu sztucznej inteligencji, wymagających technicznej wiedzy, Sąd stanie przed dużym wyzwaniem organizacyjnym aby zapewnić odpowiednie kadry, w tym też np. biegłych posiadających odpowiednią wiedzę z zakresu systemów sztucznej inteligencji. W tym kontekście budzi jednak zdziwienie przepis projektowanego ust. 3, który zdaje się sugerować, że Komisja nie jest stroną postępowania 264 wszczynanego przed SOKiK na podstawie odwołania od decyzji. Zamieszanie potęguje jeszcze projektowany przepis Art. 47988e § 1. Kodeksu postępowania cywilnego, zgodnie z którym “[w] sprawach z naruszenia przepisów rozporządzenia 2024/1689 są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” Wydaje się, że w treści tego przepisu zabrakło słowa “strona”, co byłoby spójne z innymi postępowaniami odrębnymi przed SOKiK. W takiej sytuacji Komisja będzie przedstawiała swoje stanowisko właśnie jako strona i przepis art. 57 ust. 3 jest całkowicie zbędny. Art. 57 ust. 1 Osoba fizyczna Postępowanie prowadzone w ramach nadzoru nad sztuczna inteligencją ma typowo administracyjny charakter. Kary administracyjne nakładane z tego tytułu są orzekane nie w oparciu o zasadę słuszności lub zasadę winy, ale o fakt naruszenia przepisów praw administracyjnego. Dlatego wątpliwe jest wprowadzenie hybrydowego modelu orzekania w zakresie nadzoru przez sąd powszechny z wykorzystaniem procedury cywilnej przed sądem ochrony konkurencji i konsumentów. Model odwoławczy, przyjęty do decyzji UOKiK oraz URE, jest krytykowany przez części doktryny. Ponadto silne powiązanie spraw z zakresu nadzoru nad SI ze sprawami dotyczącymi ochrony danych osobowych, jeszcze dobitniej pokazuje, że to sąd administracyjny i ścieżka skargowa typowa dla spraw administracyjnym, oparta o przepisy k.p.a. a potem o przepisy prawa o postępowaniu przed sądem administracyjny, jest właściwa. Dlatego też powinno się wrócić do modelu skargi na decyzje Komisji ds. SI opartego o procedurę sądowoadministracyjną i właściwość rzeczową sądów administracyjny a nie sądu powszechnego. Ponadto w postępowaniu przed Komisją zrezygnowano z prawa do dwukrotnego merytorycznego rozstrzygnięcia sprawy, wskazując jako środek odwoławczy dowołanie do Sądu Okręgowego w Warszawie - sądu ochrony kongruencji i konsumentów. Wątpliwe prawnie jest zrezygnowanie z prawa do dwukrotnego merytorycznego rozstrzygniecie sprawy. Zasada dwuinstancyjności postępowania administracyjnego jest jedną z kluczowych zasad prawa. Należy również zwrócić uwagę, że w świetle obowiązujących przepisów prawa o postępowaniu administracyjnym strona może zrezygnować z prawa do odwołania i wnieść skargę bezpośrednio do sądu administracyjnego. Wprowadzenie podobnego rozwiązania jest celowe i słuszne ze względu na obowiązujący model ochrony praw jednostki w państwie demokratycznym, w którym zasada dwuinstancyjności jest jednym z elementów tego modelu. art. 57 ust. 1 SKwP To jest odwołanie czy nie ma? art. 57 ust. 1 KIGEiT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności intelektualnej. 265 Art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. , art. 57 nie określa terminu na wniesienie odwołania (por. np. Art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np Art. 43 ust.13 projektu - nie można się tego domyślać z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Rekomendacja: Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 1 PIIT Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 3 PIIT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. 266 W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 PWPW Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes Publiczny. Ten przepis powinien znajdować się co najmniej nie w tym artykule. W postępowaniu o odwołaniu od decyzji Komisja jest stroną. Wydaje się, że projektodawcy chodzi o inne postępowania tam gdzie Komisja nie jest stroną. Art. 57 ust. 3 GRAI Sprawa dotyczy odwołania od decyzji Komisji, więc z jakich to przyczyn Komisja miałaby przedstawiać sądowi istotny pogląd - nie taka jest rola Komisji w tym postępowaniu, nie może występować w podwójnej roli, a więc jako organ wydający zaskarżone rozstrzygnięcie i zarazem jako amicus curiae. Przepis powinien być dostosowany do art. 63 (5) KPC, tj. stosowany tylko w postępowaniach w których Komisja nie jest stroną. Należy skreślić ustęp 3 oraz wprowadzić osobny artykuł, regulujący sytuacje, w których Komisja nie jest stroną postępowania. Art. 57 ust. 3 KIGEiT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie tali jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 Związek Banków Polskich 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przepis ujęty w ust. 3 art. 57 w efekcie jego zastosowania w praktyce sądowej może prowadzić do zaburzenia równości stron. Można przypuszczać, iż sąd będzie miał skłonność do przyjmowania poglądu Komisji – jako „istotnego”. Przepis należy skreślić lub przenieść do ogólnych uprawnień Komisji. Art. 58 CHAMBER Norma projektowanego art. 58 słusznie nakazuje obligatoryjne wstrzymanie wykonania decyzji o administracyjnej karze pieniężnej w przypadku wniesienia przez stronę odwołania do sądu. A 267 contrario żadne inne decyzje nie są wstrzymywane przez wniesienie odwołania, a mogą mieć reperkusje nawet poważniejsze dla operatora systemu SI, włącznie z konieczność zaniechania działalności i likwidacji podmiotu, gdy przykładowo nie będzie on w stanie wypełnić nałożonych nań obowiązków. W tym świetle postulujemy rozszerzenia tego przepisu na wszystkie decyzje Komisji. Alternatywą jest dodanie do projektowanych przepisów Kodeksu postępowania cywilnego możliwości zabezpieczenia interesów operatora systemu SI w postaci zawieszenia wykonania decyzji Komisji przez Sąd. Art. 58 PWPW Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Z punktu widzenia prowadzenia biznesu treść art. 58 projektu ustawy wydaje się niewystarczająca. Albowiem decyzja może nakazać zmianę systemu wykorzystującego sztuczną inteligencję lub wycofanie go z rynku w ciągu 14 dni lub z rygorem natychmiastowej wykonalności (art. 55 ust. 3 i ust. 4). Taka decyzja będzie miała potencjalnie bardzo dotkliwe skutki dla biznesu, dużo poważniejsze od ewentualnych kar. W naszej opinii wniesienie odwołania do sądu powinno wstrzymywać w całości wykonanie decyzji. Art. 58 PIIT Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności. Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. Art. 58 KIGEiT Propozycja zapisu: Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności, Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. 268 Art. 58 ICC Poland Zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania od decyzji Komisji do sądu wstrzymuje wykonanie decyzji, ale jedynie w zakresie administracyjnej kary pieniężnej. Rozwiązanie to, choć – jak się wydaje – jest wzorowane na art. 74 ustawy o ochronie danych osobowych6, budzi poważne wątpliwości z perspektywy proporcjonalności (analogiczne wątpliwości były zresztą zgłaszane w toku konsultacji publicznych dotyczących projektu ustawy o ochronie danych osobowych). Zgodnie z art. 54 i 55 Projektu Komisja może nałożyć na operatora systemu sztucznej inteligencji liczne obowiązki, w tym nawet nakaz wycofania tego systemu z rynku lub użytku, co może mieć nieodwracalne skutki dla adresata decyzji, zwłaszcza w sytuacji, gdy jego działalność opierałaby się w istotnym zakresie na dostarczaniu lub wykorzystywaniu takiego systemu sztucznej inteligencji. Projektowany przepis oznacza, że gdyby nawet w postępowaniu odwoławczym sąd uznał argumenty zawarte w odwołaniu i uchylił decyzję Komisji, to jej adresat będzie mógł co najwyżej dochodzić odpowiedzialności odszkodowawczej od Skarbu Państwa za szkody spowodowane wcześniejszym wydaniem decyzji. Tymczasem nie każde naruszenie rozporządzenia 2024/1689 będzie miało taki charakter, który będzie uzasadniał wykonanie decyzji przed zakończeniem postępowania odwoławczego. Z tego względu właściwszym rozwiązaniem byłoby pozostawienie Komisji możliwości nadania jej decyzji rygoru natychmiastowej wykonalności (jak uczyniono to w odniesieniu do decyzji, o której mowa w art. 55 ust. 4 Projektu) wtedy, gdy – przykładowo – jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, przy równoczesnym przesądzeniu, że wniesienie odwołania do sądu wstrzymuje co do zasady wykonanie decyzji Komisji. Art. 59 ust. 2 GRAI Dodawanie przepisu o wysyłaniu akt do prokuratury przez organ, wydaje się w tym projekcie ustawy zbyteczne. Skreśla się ust. 2 Art. 60 ust. 1 Fundacja FinTech Poland Art. 60 wymaga uwzględnienia w jakim terminie liczony jest okres 10 lat, proponujemy aby ten termin liczony był od daty zakończenia postępowania. Art. 60 ust 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie czy okres 10 lat liczony będzie od daty zakończenia postępowania czy też od innego zdarzenia. Art. 60 ust. 2 PIIT Proponujemy usunąć, tutaj wystarczające odwołanie do KPA z art. 56. Art. 60 ust. 2 Osoba fizyczna Należy podnieść, że jedną z przesłanek wznowienia postępowania administracyjnego, w świetle art. 145 § 1 ust 5 k.pa., jest okoliczność wyjścia na jaw istotnych dla sprawy nowych okoliczności faktycznych lub nowych dowodów istniejących w dniu wydania decyzji, nieznane organowi, który wydał decyzję. Treści tego przepisu, ugruntowana praktyka orzecznicza oraz poglądy doktryny pozwalają na przyjęcie tego rozwiązania wprost, bez wprowadzania szczególnych reguł w ustawie o sztucznej inteligencji. 269 Niezrozumiałe jest wskazanie przesłanki negatywnej do wznowienia postępowania przez Komisję w postaci przedawnienia karalności przestępstwa. Reguła wynikająca z art. 146 § 1, dotycząca negatywnej przesłanki wznowienia postępowania administracyjnego w przypadku nowych okoliczności/dowodów, odnosi się upływu pięcioletniego terminu od zakończenia postępowania. Termin ten jest istotny nie tylko z punktu widzenia ochrony interesów strony, ale także interesu publicznego i społecznego, bowiem wprowadza pewność co istniejącej sytuacji prawnej. Należy zwrócić uwagę, że w świetle wspomnianego przepisu art. 146 § 1 k.p.a. organ może wznowić postępowanie, jednak nie ma możliwości, po upływie terminu, rozstrzygać kwestii merytoryczne, a jedynie może wskazać, ze decyzja została wydania z naruszeniem prawa. Odwołanie w art. 60 ust 2 ustawy do terminu przedawnienia karalności przestępstwa, bez wskazania konkretnych przepisów kodeksu karnego budzi poważne wątpliwości natury prawnej. Warto zaznaczyć, że terminy przedawnienia przestępstw karnych są różne, co wyraźnie jest określone w art. 101 § 1 kodeksu karnego. Z przepisu nie wynika o przedawnieniu jakich przestępstw jest mowa. Wprowadzenie przywołanej regulacji narusza zasadę pewności prawa, zasadę przewidywalności prawa, a w szerszym ujęciu zasadę praworządności i demokratycznego państwa prawa. Jednostka musi bowiem mieć prawną gwarancję, że jej działania nie naruszają prawa, co w przypadku dosyć swobodnego odesłania do przepisów prawa karnego nie ma miejsca. Art. 60 ust. 2 GRAI Autorowi projektu, chyba chodziło o ,,przedawnienie deliktu”. Rozdział 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie poważnych incydentów (rozdział 5 USS) Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67 USS, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do systemów wysokiego ryzyka. Także motyw 78 AI Act , odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym rekomendujemy, aby obowiązki w tym zakresie, zostały zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 61 Polskie Towarzystwo Informatyczne Nie wyznaczono terminu, w jakim incydent ma być zgłoszony. Propozycja \"Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji w terminie 72 godzin od momentu powzięcia informacji o wystąpieniu poważnego incydentu. Art. 61 GRAI I. Zasadniej byłoby, gdyby dotyczył dostawców (i może również użytkowników) TYLKO systemów AI wysokiego ryzyka. 270 Definicja dostawcy jest bardzo szeroka. I jeśli będzie obowiązek dotyczyć dostawcy każdego systemu AI, może się okazać w praktyce, że notyfikacje mogłyby dotyczyć zbyt wielu systemów, o całkiem niszowym lub obiektywnie „niegroźnym” zastosowaniu. Zgłoszenie musiałoby oczywiście dotyczyć takich kwestii jak incydent w ramach narzędzi chatbotowych lub podobnych, które mają z założenia bezpośrednio wpływać na środowisko (czyli dajemy im większą autonomię), ale moim zdaniem mogłoby również obejmować wszelkie systemy AI, które sobie opracujemy do celów analiz, podpowiadania itp. Interpretacje co do zakresu definicji dostawcy pewnie dopiero się wykształtują, ale zwracam uwagę, na to, że definicja dostawcy obejmuje „oddanie do użytku” systemu AI. A oddanie do użytku” oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem. Więc nawet jak się oprzemy na gotowym modelu (np. LLM-owym lub innym), ale stworzymy środowisko, które ten model implementuje, określimy poziom jego autonomii itd., to całość będzie stanowić system AI, a my musielibyśmy być uznani za jego dostawcę, nawet jeśli stworzymy go do „użytku własnego”. I również (poważne) incydenty dla takich systemów musielibyśmy zgłaszać w trybie art. 61. II. Zgodnie z art. 26 ust. 5 obowiązek zgłaszania poważnych incydentów ma także stosujący system AI: “5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania.” II. W całym art. 61 należy dodać także “podmioty stosujące” lub wprowadzić osobny przepis dotyczący obowiązków podmiotu stosującego zgodnie z art. 26 ust. 5 AI Aktu. Art. 61 ust. 1 PIIT Zgłaszanie poważnych incydentów Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji 271 “poważnego incydentu” zawartego w art. 3 pkt 49 ASI nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 ASI, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. Art. 61 ust. 1 KIGEiT Propozycja zapis: Przepis zgodnie z Art. 73 ust. 1 Aktu o sztucznej inteligencji powinien ograniczać obowiązek zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka. , Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Art. 61 ust. 1 GRAI Brakuje terminu, w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zmiany brzmienia zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689 lub odesłanie w tym zakresie wprost do art. 72 ust. 2 rozporządzenia 2024/1689. Nadanie następującego brzmienia art. 61 ust. 1: „Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu.”. Art. 61 ust. 1 Związek Banków Polskich Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji bezzwłocznie, po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Brakuje terminu w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689. Art. 61 ust. 1 Fundacja FinTech Poland Proponujemy wprowadzenie postanowienia tak aby był klarownie skorelowane z art. 73 ust. 1 AI Act. Treść art. 73 ust. 1 AI Act wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów 272 wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. Postulowane brzmienie przepisu: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Art. 61 ust. 1 PSSI Otwarty dostęp do bazy incydentów SI Art. 61 pkt. 1 nakłada obowiązki związane z budową i utrzymaniem bazy incydentów związanych z systemami SI. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Z uwagi na duże znaczenie społeczne i badawcze, oraz zastosowania dla bezpieczeństwa SI, rekomendujemy by w ustawie zapisać, że baza incydentów będzie co do reguły otwarta i publicznie dostępna, z wyłączeniem uzasadnionych przypadków np. związanych z bezpieczeństwem narodowym. Art. 61 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie incydentu (art. 61 ust. 1) Proponujemy zapis tak aby był klarownie skorelowany z z art. 73 ust. 1 rozporządzenia 2024/1689. Jest: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Propozycja: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Uzasadnienie: Treść art. 73 ust. 1 wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. art. 61 ust. 2 CHAMBER Wymogi określone w art. 61 ust. 2 dla zgłoszenia poważnego incydentu zdają się nie odpowiadać jego definicji, w szczególności pkt. 4 odnosi się np. do wpływu na “inne systemy informacyjne”, co jednak nie jest objęte pojęciem “poważnego incydentu” z art. 3 pkt 49 Rozporządzenia. Sugerujemy odpowiednie dostosowanie tego przepisu tak, aby nie budziło wątpliwości że dotyczy tylko czterech przypadków enumeratywnie wymienionych w definicji. 273 Art. 61 ust. 2 Osoba fizyczna jk Wymaganie w pkt 4 podania opisu wpływu poważnego incydentu na systemy informacyjne lub świadczenie usług jest sprzeczne z listą zdarzeń podaną w definicji poważnego incydentu zawartej w rozporządzeniu 2024/1689: a) śmierć osoby lub poważny uszczerbek na zdrowiu osoby; b) poważne i nieodwracalne zakłócenie w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenie obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważna szkoda na mieniu lub poważna szkoda dla środowiska. Zatem zapis powinien być następujący: 4) opis poważnego incydentu, w tym: a) system AI, w którym doszło do zdarzenia lub zdarzeń wymienionych w art. 3 pkt 49 rozporządzenia 2024/1689, b) liczbę użytkowników, na których poważny incydent miał wpływ, c) moment wystąpienia i wykrycia poważnego incydentu oraz czas jego trwania, d) zasięg geograficzny obszaru, którego dotyczy incydent poważny, e) wpływ poważnego incydentu na systemy sztucznej inteligencji innych dostawców, f) przyczynę zaistnienia poważnego incydentu i sposób jego przebiegu oraz jego skutki, g) ocenę dotkliwości incydentu, w szczególności w odniesieniu do zdrowia i bezpieczeństwa lub praw podstawowych osób. Nie wolno bezrefleksyjnie przepisywać treści z innych ustaw, w tym przypadku z ustawy o krajowym systemie cyberbezpieczeństwa. Art. 61 ust. 2 pkt 8 Związek Banków Polskich Inne istotne informacje dotyczące zaistnienia poważnego incydentu. Propozycja brzmienia przepisu precyzuje czego dotyczą inne istotne informacje. Art. 61 ust. 4 i 5 GRAI Wątpliwości budzi takie szerokie zobowiązanie podmiotu zgłaszającego incydent do przekazywania informacji prawnie chronionych, szczególnie, że Komisja nie gwarantuje odpowiednich środków zabezpieczających takie informacje. Brak bezpiecznej, zaszyfrowanej ścieżki przekazywania, jak i zaszyfrowanego miejsca przechowywania takich informacji. Póki co, i to w wąskim zakresie Komisja ma chronić dane osobowe szczególnej kategorii, co już zostało zgłoszone wcześniej. Komisja może prosić tylko o absolutnie niezbędne informacje chronione i zapewnić odpowiednie środki ochrony zgodnie z art. 78 ust. 2 AIA. Ustawa jednak nie tylko upoważnia do przekazywania komisji znacznej części informacji chronionych (co widać w tym i innych postanowieniach projektu ustawy) to jeszcze nie wspomina wcale o środkach zabezpieczenia. Należy skupić się na takim sformułowaniu przepisów, aby absolutna niezbędność do przekazania informacji była uzasadniona a samo przekazanie i przechowywanie odpowiednio chronione. Postuluje się zatem dodanie osobnej sekcji lub postanowienia dotyczącego środków 274 zabezpieczenia, spełniających najwyższe standardy i odpowiadające najnowszym wymaganiom rynkowym w kontekście cyberbezpieczeństwa. Art. 61 ust. 4 Związek Banków Polskich Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 5 Związek Banków Polskich Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 7 Propozycja dodania przepisu Związek Banków Polskich 7. Rozdział nie ma zastosowania do podmiotów, o których mowa w art. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2554 z dnia 14 grudnia 2022 r. w sprawie operacyjnej odporności cyfrowej sektora finansowego i zmieniające rozporządzenia (WE) nr 1060/2009, (UE) nr 648/2012, (UE) nr 600/2014, (UE) nr 909/2014 oraz (UE) 2016/1011 Propozycja dodania przepisu, który wyłączy z zakresu tego rozdziału podmioty podlegające pod DORA. DORA przewiduje szerszy zakres obowiązków z obszaru zgłaszania incydentów niż projekt ustawy. Dwutorowe regulowanie tematu wydaje się mało efektywne. Art. 61 – Art. 62 Polskie Towarzystwo Informatyczne Brak wzoru formularza zgłoszenia jest tylko ogólna przytoczona lista wymogów bez odpowiedniej klauzuli RODO oraz sposobu przekazania do wskazanych instytucji tak by zabezpieczyć dane wrażliwe obu stron. 275 Sugerujemy delegację do Rozporządzenia określającego format formularza zgłoszenia oraz procedurę zgłoszenia. Niejasne, nieprecyzyjne ramy dotyczące zgłoszenia. Art. 61 - 63 Instytut Spraw Obywatelskich Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 61 - 63 Obywatelski Akcelerator Innowacji Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 62. PWPW Zgłoszenie oraz informacje, o których mowa w art. 61 ustawy, są przekazywane Komisji w postaci elektronicznej, a w przypadku braku możliwości przekazania w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji Należy wprowadzić przepisy wyraźnie wskazujące kanał zgłaszania naruszeń oraz terminy (odpowiednie). art. 63 CHAMBER Postulujemy wykreślenie art. 63 w całości lub jego zasadniczą przebudowę. Nie ma uzasadnienia dla tak szerokiej dystrybucji wszystkich zgłoszeń poważnych incydentów do wszystkich wymienionych organów. Wręcz przeciwnie - tak wrażliwe informacje powinny być rygorystycznie chronione i przekazywane innym instytucjom jedynie w przypadkach i zakresie gdy jest to niezbędne do wykonywania ich ustawowych obowiązków lub zapobieżeniu dalszym szkodom lub ograniczenie ryzyka. Co więcej - mając na uwadze horyzontalny charakter zastosowań systemów SI dobór tylko tych kilku podmiotów nie wydaje się trafny, gdyż poważny incydent (co ma zresztą wyraźne odbicie w brzmieniu jego definicji) może dotyczyć np. krytycznej infrastruktury energetycznej (o czym powinien wiedzieć np. URE i Minister właściwy ds. energetyki) czy systemów ochrony zdrowia (gdzie adresatem powinien być Minister właściwy ds. ochrony zdrowia i podległe mu agendy). Art. 63 Osoba fizyczna jk Wymieniony \"koordynator do spraw usług cyfrowych\" wymaga wyjaśnienia, kto to jest, gdzie go szukać, czy jest to koordynator w rozumieniu Digital Services Act. Rozdział 6 Krajowy Instytut Mediów Zasadność powierzenia jednemu odrębnemu organowi funkcji organu notyfikującego Wyodrębnienie dedykowanego organu odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniającyc zgodność oraz za ich monitorowanie, zagwarantuje spójność i koordynowanie działań interesariuszy rynku, ułatwiając także ich współpracę. Istotne jest, by funkcję organu nadzoru rynku oraz organu notyfikującego realizowane były poprzez niezależne od siebie organy na 276 zasadzie współpracy opartej na podziale zadań, co zapewniłoby bezstronne podejście obu rodzajów instytucji wobec wprowadzanych na rynek innowacji, a zarazem poszerzone, wieloaspektowe spojrzenie na rozwój SI, która jak się wydaje, będzie zasadniczą siłą napędową wzrostu gospodarczego. Art. 64 Polskie Towarzystwo Informatyczne Brak jasnego formularza ograniczającego możliwość subiektywnej oceny organu notyfikującego. A co jeśli certyfikacje lub notyfikacje firma uzyska na szczeblu UE lub innego kraju członkowskiego ? Określić jasny wzór wniosku celem jawności procedury. Ponadto dookreślić procedurę w przypadku uzyskania notyfikacji w innym kraju członkowskim lub na szczeblu administracji UE. Sugerujemy rozważenie delegacji w tym zakresie do Rozporządzenia. Ogólnie określone ramy notyfikacji brak jasnych precyzyjnych parametrów dotyczących notyfikacji Art. 64 Ust. 1 KIGEiT Propozycja zapisu: dodanie pierwszego zdania w ust. 1: \"Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w Art.70 Rozporządzenia 2024/1689.\" Brakuje wskazania wprost kto jest organem notyfikującym. Art. 64 ust. 3 pkt 1 GRAI Zgodnie z projektowanym art. 64 ust. 3 pkt 1 Polskie Centrum Akredytacji “we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji:”. Przepis ten nie uwzględnia szeregu kompetencji przypisanych w rozporządzeniu 2024/1689 Komisji Europejskiej i Radzie ds. AI (m.in. koordynacja, działań, opracowywanie wytycznych), które mogą mieć wpływ na treść programu akredytacji. Proponujemy przyjęcie zmiany tego przepisu i nadanie mu treści “opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji, przepisy rozporządzenia 2024/1689 wraz aktami wykonawczymi właściwe normy zharmonizowane oraz decyzje, wytyczne, zalecenia i stanowiska Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji, wydanych w ramach przysługujących im kompetencji na gruncie rozporządzenia 2024/1689:”. Art. 64 ust. 3 pkt 1 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji. 277 Zaproponowany zapis obliguje do aktualizacji programu akredytacji co 24 miesiące. Proponujemy usunięcie tego wymogu. Zaproponowany termin może być zarówno za krótki jaki i za długi. Z jednej strony projekt zakłada obowiązek takiej aktualizacji nawet jeżeli nie ma ku temu przesłanek a z drugiej strony może wystąpić sytuacja, iż program ten powinien być zmieniony szybciej. Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu; Zaproponowane podejście umożliwia bardziej elastyczne reagowanie. Art. 64 ust. 3 pkt 1 NASK Zgodnie z brzmieniem art. 64 ust. 3 pkt 1 projektu ustawy w brzmieniu: „Polskie Centrum Akredytacji (...) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji” przypisuje się Polskiemu Centrum Akredytacji (dalej: PCA) i ministrowi właściwemu do spraw informatyzacji niebagatelną rolę w kształtowaniu programu akredytacji jednostek oceniających zgodność całkowicie przy tym pomijając Komisję Europejską, European Accreditation, jak i Europejską Radę ds. Sztucznej Inteligencji (dalej: „Radę ds. AI”). Należy zwrócić uwagę, że rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) w pkt. 20 motywów sygnalizuje, jak duża rola będzie przypisana do Rady ds. AI, która „(...) powinna wspierać Komisję w promowaniu narzędzi rozwijających kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI. We współpracy z odpowiednimi zainteresowanymi stronami Komisja i państwa członkowskie powinny ułatwiać opracowywanie dobrowolnych kodeksów postępowania w celu podnoszenia kompetencji w zakresie AI wśród osób zajmujących się rozwojem, działaniem i wykorzystywaniem AI” czy w punkcie 149 „Rada ds. AI powinna odpowiadać za szereg zadań doradczych, w tym wydawanie opinii lub zaleceń oraz udzielanie porad lub udział w tworzeniu wskazówek w dziedzinach związanych z wykonywaniem niniejszego rozporządzenia, także w kwestiach egzekwowania, specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w niniejszym rozporządzeniu, jak również za udzielanie porad Komisji oraz państwom członkowskim i ich właściwym organom krajowym w konkretnych kwestiach związanych z AI.” Taki zapis, jak i inne w Akcie w sprawie sztucznej inteligencji, nie wyklucza kompetencji w zakresie kształtowania programów akredytacji, a wręcz potwierdza, że wypracowane przez nowy organ dokumenty mogą mieć duży wpływ i wręcz powinny odnajdować odzwierciedlenie również w programach akredytacji poszczególnych państw członkowskich. 278 W związku z tym należy rozważyć rozszerzenie obecnej treści art. 64 ust. 3 pkt 1 projektu ustawy o uwzględnienie w programach akredytacji również aktów wykonawczych do Aktu w sprawie sztucznej inteligencji czy też decyzji, wytycznych, zaleceń i stanowisk odpowiednio Komisji Europejskiej i jak i Rady ds. AI Europejskiej w zakresie określonym ich kompetencjami we wspomnianym wyżej Akcie; Art. 64 ust. 3 pkt 2 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowany zapis obliguje do przekazywania ministrowi właściwemu do spraw informatyzacji informacji o zmianach zakresu akredytacji. PCA proponuje aby temu obowiązkowi podlegały wyłącznie zmiany odnoszące się do zakresu niniejszej ustawy. Obserwowana jest obecnie tendencja raczej do rozszerzania zakresu akredytacji przez istniejące już jednostki certyfikujące a niekoniecznie do powstawania nowych jednostek. W konsekwencji jednostki certyfikujące są akredytowane w wielu zakresach. W ocenie PCA przekazywanie informacji o wszystkich zmianach może być interpretowane jako obowiązek przekazywania informacji o każdej zmianie w odniesieniu do każdego z zakresów np. z obszaru rolnictwa czy budownictwa. Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w tym obszarze w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowane podejście doprecyzuje zakres przekazywanych informacji i wyeliminuje możliwość przekazywania informacji zbędnych. Art. 65 ust. 1 GRAI Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. Informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d'accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. 279 Art. 66 ust. 1 i 2 Osoba fizyczna jk Art. 95 rozporządzenia 2024/1689 dotyczy kodeksów postępowania do celów dobrowolnego stosowania szczególnych wymogów. Kodeksy będą opracowywane przez zainteresowane strony, czyli poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Komisja oraz minister właściwy do spraw informatyzacji mogą jedynie zachęcać do ich opracowania i ułatwiać ich opracowanie - na wzór kodeksów postępowania opisanych w rozporządzeniu 2016/679 (RODO). Pomijając art. 95: Według zapisu ust. 1 to minister właściwy do spraw informatyzacji ma wydawać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji, zaś według zapisu ust. 2 Przewodniczący Komisji go tylko wspiera. Z kolei w uzasadnieniu projektu ustawy podano, że to Komisja będzie m.in. udostępniała w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. Czy to oznacza, że Komisja będzie robiła tylko za słup ogłoszeniowy? Jak wynika z treści OSR-u, Komisja będzie zatrudniać ekspertów z wiedzą z zakresu IT, nowych technologii i cyberbezpieczeństwa, posiadających umiejętności: identyfikowania i rozwiązywania szerokiego spectrum pojawiających się problemów w rozwoju i wykorzystaniu sztucznej inteligencji, kreatywnego rozwiązywania problemów w szybko rozwijającej się rzeczywistości informatycznej, łączenia wiedzy programistycznej z umiejętnością analizy danych przy wykorzystaniu ciągle zmieniających się nowoczesnych technologii, komunikacji, ponadprzeciętnej kreatywności, a także szerokiej wiedzy z wielu dziedzin prawa czy wyjątkowo biegłej znajomości języka obcego, w tym angielskiego. Czyli w Komisji pracować będą specjaliści. Jednak w Ministerstwie Cyfryzacji będą potrzebni kolejni specjaliści, by przygotowywać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. To oznacza dublowanie wiedzy, kompetencji i kosztów. Art. 65 ust. 2 pkt 2 GRAI Przy pierwszej akredytacji nie jest możliwe poinformowanie o cyt. “okresie ważności udzielonej akredytacji”. Sugerujemy zrezygnowanie z wymogu wskazywania okresu ważności udzielonej akredytacji. Art. 65 ust. 2 pkt 2 NASK warto rozważyć również doprecyzowanie brzmienia art. 65 ust. 2 pkt 2 w brzmieniu: „Wniosek, o którym mowa w ust. 1, zawiera co najmniej: (...) 2) określenie okresu ważności udzielonej akredytacji jak również jej numeru wraz z oznaczeniem certyfikatu akredytacji.” Przepis w obecnym brzmieniu może wprowadzać w błąd i warto dookreślić, że chodzi o okres ważności i certyfikat akredytacji ukonstytuujący jednostkę oceniającą zgodność jako taki podmiot. W chwili obecnej mogą pojawić się pewne wątpliwości interpretacyjne stąd warto dookreślić brzmienie przywołanego artykułu; 280 Art. 65 ust. 3 pkt 2 i pkt 3 GRAI Zgodnie z projektowaną treścią do wniosku w sprawie notyfikacji jednostki oceniającej zgodność załącza się co najmniej “dokumenty potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689”. Treść art. 31 tego rozporządzenia nie zawiera jednak zamkniętego, jednoznacznego katalogu wymogów, które mogłyby zostać wykazane określonymi dokumentami. Część z nich jest możliwa do wykazania, ale inne (np. niezależność od dostawców systemów AI już nie. W takich przypadkach dowody z dokumentów (np. wydruk z rejestru przedsiębiorców KRS) mogą co najwyżej być dokumentem uprawdopodabniającym, a nie stanowiącym dowód wykazujący te okoliczności wprost. Dlatego, jak zakładamy, projektodawca dodał pkt 3) zakładający możliwość złożenia deklaracji o spełnieniu wymogów, o których mowa w ww. art. 31. Należy jednak wskazać, że zgodnie z art. 29 ust. 3 ww. Rozporządzenia jednostka oceniająca zgodność przekazuje dokumenty stanowiące dowód na spełnienie wymogów z art 31 rozporządzenia, jeśli nie posiada certyfikatu akredytacji. Projektowany przepis pomija zatem treść art. 29 ust. 3 ww. rozporządzenia. Proponujemy zmianę ust. 3 art. 65 poprzez przyjęcie treści: “3. Do wniosku, o którym mowa w ust. 1 stosuje się art. 29 ust. 2 - 4 rozporządzenia 2024/1689, z zastrzeżeniem art. 32 ww. rozporządzenia. W przypadkach obiektywnego braku możliwości przedłożenia dokumentów potwierdzających spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689, dopuszcza się złożenie deklaracji o spełnieniu tych wymogów.”. Do rozważenia jest wskazanie przykładowego katalogu okoliczności, które mogą być przedmiotem deklaracji. Art. 66 ust. 1 – 3 GRAI Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Nadanie następującego brzmienia ust. 1: “1. Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.”. Usunięcie ust. 2, a ust. 3 zmieni numerację na “2”. W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 14 w ust. 1 art. 11 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Art. 66 ust. 1 GRAI Do rozważenia dodanie przepisu mówiącego o tym, że ,,rekomendacje” mogą podlegać okresowej aktualizacji (analogicznie jak w art. 53 ustawy o ochronie danych osobowych ). 281 Art. 66 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Obowiązek informacyjny ministra właściwego ds. informatyzacji (art. 66 ust. 1) Proponujemy zmianę zapisu: Jest: Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Zmiana: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie zmiany: a. Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki b. Informacja powinna trafić do Komisji, natomiast przekazywanie jej do Rady Ministrów wydaje się być w tej formie przedwczesne c. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Art. 66 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Art. 95 Rozporządzenia 2024/1689 odnosi się do kodeksów dobrych praktyk (tzw. kodeksy postępowania), które mogą być też tworzone przez różne organizacje jak i same podmioty stosujące AI. Zatem niezrozumiałe jest, aby Minister właściwy ds. informatyzacji wydawał „rekomendacje najlepszych praktyk”, tym bardziej że Komisja może wydawać interpretacje w świetle projektowanych przepisów. W związku z powyższym, rekomendujemy usunięcie art. 66 w obecnym kształcie. Art. 66 ust. 1 Fundacja FinTech Poland Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki. Informacja powinna trafić do Komisji, natomiast przekazywanie 282 jej do Rady Ministrów wydaje się być w tej formie przedwczesne. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Postulowane brzmienie przepisu: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. art. 66 ust 1 i 2 CHAMBER Nie jest jasne, dlaczego projekt ustawy w art. 66 ust 1 i 2 powierza zadania związane ze wsparciem dla powstawania kodeksów postępowania Ministrowi właściwego ds. informatyzacji. Wydaje się, że to Komisja powinna pełnić tutaj rolę wiodącą, ewentualnie ze wsparciem Ministra (czyli odwrotnie, niż przewiduje ust. 2). Co więcej - art. 91 Rozporządzenia nie przewiduje kompetencji do “wydawania rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”, a wymaga, aby organy państwa “zachęcały” i “ułatwiały” powstawanie kodeksów dobrych praktyk. Art. 66 ust. 3 Instrat – Fundacja Centrum Cyfrowe Art. 66 ust. 3 Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Jesteśmy zdania, że ust. 3 art. 66 oraz kolejne przepisy w tej sekcji odbiegają znacznie od tytułu Rozdziału 6 brzmiącego “Jednostki notyfikowane i procedura notyfikacyjna”. Rekomendujemy więc zmianę tytułu na “Procedura notyfikacyjna i obowiązki informacyjne”. Art. 67 Związek Cyfrowa Polska Zgłaszanie poważnych incydentów. Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do 283 systemów wysokiego ryzyka. Także motyw 78 AI Act, odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym obowiązku w tym zakresie, powinny zostać zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 67 ust. 2 GRAI Przepis zawiera błąd - zamiast „zdarzenie” wyczerpujące znamiona przestępstwa przepis powinien wskazać na „czyn” wyczerpujący znamiona przestępstwa. Powinna nastąpić zmiana używanych pojęć. Art. 67 ust. 2 NASK w treści art. 67 ust. 2 projektu ustawy w brzmieniu: „Minister właściwy do spraw informatyzacji przekazuje informacje, o których mowa w ust. 1, organom ścigania w związku ze zdarzeniem wyczerpującym znamiona przestępstwa” należy rozważyć zmianę słowa „zdarzenie” i zastąpienie go słowem „czyn”. Warto zachować spójność z nomenklaturą używaną w prawie karnym, gdzie mówiąc o wyczerpaniu znamion przestępstwa mówimy o czynie, a nie o zdarzeniu. Art. 68 GRAI Norma kompetencyjna z art. 12 projektu ustawy o systemach oceny zgodności i nadzoru rynku powinna zostać dookreślona względem specyfiki rozporządzenia 2024/1689. Propozycja nadania następującego brzmienia art. 68: “Art. 68. W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych niniejszą ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. Ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje lub rozporządzenia wykonawcze Komisji Europejskiej, interpretacje generalne wydawane przez Komisję.” Art. 68 ust. 1 GRAI Projektowany przepis przyznaje ministrowi właściwemu do spraw informatyzacji kompetencję do określenia wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. Prawidłowa jednostka redakcyjna to ust. 3 tego przepisu. Rekomendujemy zmianę na: “1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. Art. 68 ust. 1 i 2 GRAI Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek ministra cyfryzacji. Rekomendujemy, że w odniesieniu do art. 69 ust. 1 i 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. 284 Art. 69 CHAMBER Do art. 69 odnoszą się mutatis mutandis uwagi wskazane powyżej w stosunku do art. 40 projektu, dotyczące np. nieprawidłowego odesłania do przepisów Rozporządzenia. Art. 69 ust.1 PIIT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Art. 69 ust.1 KIGEiT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Uwaga ogólna Fundacja FinTech Poland Przepisy karne i przepisy administracyjne powinny być wyraźnie oddzielone. Uwaga ogólna do rozdziału 7 Osoba Fizyczna mk W rozdziale 7 Ustawy (Przepisy o administracyjnych karach pieniężnych i przepisy karne) nie są wprost wymienione kary za brak zgłoszenia, niepełne zgłoszenie, spóźnione zgłoszenie lub inne niedochowanie obowiązków związanych ze zgłoszeniem poważnego incydentu przez dostawcę systemu sztucznej inteligencji, jak omówiono w rozdziale 5 Ustawy (Zgłaszanie poważnych incydentów). Uwaga ogólna do rozdziału 7 British Polish Chamber of Commerce (BPCC) Wśród przepisów regulujących sposób nakładania, odroczenia czy umarzania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji kar za naruszenia Aktu o Sztucznej Inteligencji, brakuje naszym zdaniem zapisu określającego termin przedawnienia naruszeń podlegających karze. Bez takiego zapisu brakuje ograniczenia czasowego od stosowania sankcji Rozdział 7 Związek Cyfrowa Polska Egzekucja kar finansowych. Rozdział 7 Projektu ustawy reguluje zagadnienia związane z nakładaniem i egzekucją administracyjnych kar pieniężnych, przy czym częściowo regulacja ta odbiega od ogólnych zasad wynikających z KPA: Przepisy dot. odstąpienia od nałożenia oraz ulgi w zakresie wykonania administracyjnej kary pieniężnej. Ustawodawca wyłączając stosowanie art. 189 f KPA (art. 76 Projektu) znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 Projektu (art. 70 ust. 4 Projektu) – jest to 285 nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 Projektu. Termin uiszczenia kary pieniężnej. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzdniego roku obrotowego), sugerujemy wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 Projektu), co najmniej do 30 dni. Przede wszystkim jednak konieczne jest wykreślenie możliwości nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74 Projektu). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Art. 70 Open AI Devs Community Proporcjonalność kar. Postulujemy wprowadzenie do art. 70 projektu ustawy następujących modyfikacji: • Uzależnienie wysokości kar od wielkości podmiotu i skali naruszenia; • Wprowadzenie górnego limitu kar dla MŚP i indywidualnych deweloperów; • Rozszerzenie katalogu okoliczności łagodzących. Art. 70 PIIT Art. 70. 1. Komisja może nałożyć na operatora, w przypadkach określonych w art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. 286 Art. 70 GRAI W przypadku małych i średnich przedsiębiorstw (MŚP) oraz startupów, organ nakładający karę stosuje niższą z dwóch wartości: kwoty określonej w euro, lub wartości procentowej całkowitego rocznego światowego obrotu zależnie od wagi naruszenia określonego w AI Act. Określenie, że organ nakładający karę stosuje w przypadku MŚP niższą z dwóch wartości. Brak regulacji dotyczących nakładania administracyjnych kar pieniężnych w odniesieniu do organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689 “Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne.” Nasza ustawa nie odnosi się do tego, a jednocześnie zaproponowany w art. 70 ustawy zapis szeroko określa krąg podmiotów, na które będą mogły być nakładane kary. Koniecznym jest uregulowanie “czy i w jakim zakresie administracyjne kary pieniężne można nakładać na organy i podmioty publiczne”. Wymaga to również określenia wysokości kary pieniężnej jaka może być nakładana na taki podmiot. A jeśli intencją projektodawcy było stosowanie takich samych reguł w zakresie organów i podmiotów publicznych należy to wskazać w uzasadnieniu. Art. 70 KIGEiT Rekomendacja: Zróżnicowanie kar na podstawie wielkości podmiotu: \"Wysokość kar za naruszenie przepisów zostanie dostosowana do wielkości podmiotu oraz charakteru naruszenia. Komisja, przed nałożeniem kary, będzie zobowiązana do wydania ostrzeżenia oraz zaleceń naprawczych, a kary będą mogły być nałożone dopiero po upływie terminu na ich wdrożenie. Przedsiębiorstwa będą mogły ubiegać się o rozłożenie kary na raty lub jej częściowe umorzenie, jeśli wykażą znaczną poprawę w działaniach zgodnych z przepisami.\" Art. 70 (Administracyjne kary pieniężne) przewiduje nakładanie kar za naruszenia przepisów. Warto, aby przepisy były bardziej proporcjonalne i elastyczne w stosunku do mniejszych graczy rynkowych. To umożliwi mniejszym firmom dostosowanie się do przepisów bez ryzyka bankructwa, co może wynikać z nałożenia wysokich kar administracyjnych. Art. 70 ICC Poland Projekt przewiduje możliwość nałożenia przez Komisję, w drodze decyzji, administracyjnej kary pieniężnej na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Zgodnie z art. 70 ust. 1 Projektu, Komisja może nałożyć taką karę na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689. Jak wynika z uzasadnienia Projektu (s. 17), Projekt zakłada możliwość nałożenia kary na podmioty zarówno z sektora prywatnego, jak i 287 publicznego. Projekt nie precyzuje jednak, czy możliwość nałożenia administracyjnej kary pieniężnej dotyczy także organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689, każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. Również ten przepis zacznie być stosowany od 2 sierpnia 2025 r. Regulacje rozdziału 7 Projektu wymagają zatem w tym zakresie doprecyzowania lub uzupełnienia. Art. 70 ust. 1 KIGEiT Propozycja zapisu: Art. 70. 1. Komisja może w przypadkach określonych w Art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w Art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w Art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 Art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń Art. 5, czyli ust. 3 Art.99. Art. 70 ust. 4 PWPW Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Proponujemy wskazać, że Komisja odstępuje a nie może odstąpić. Jeżeli wydano ostrzeżenie i podmiot się do niego zastosował oraz nie było szkody dla interesu społecznego, to Komisja powinna odstąpić od kary. Arbitralność decyzji Komisji w tej sytuacji jest niezrozumiała - dlaczego nadal Komisja może nałożyć karę jeżeli wcześniej wydała ostrzeżenie które zostało uwzględnione. Skutkiem tego będą sytuacje, w których podmioty nie będą wiedziały czy zastosowanie się do ostrzeżenia ochroni je przed karą, osłabia to zatem instytucję ostrzeżenia. Art. 70 ust. 4 KIGEiT Propozycja zapisu: Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w Art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. 288 Dodatkowa przesłanka poza Art. 99 ust. 7 AI Act. Art. 71 PIIT Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Wydłużenie terminu - analogicznie jak w uodo. Art. 71 KIGEiT Propozycja zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w Art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. , Wydłużenie terminu - analogicznie jak w uodo. Art. 72 KIGEiT Art. 72. Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. , Dobrze byłoby, aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic regulacyjnych, co wpisywałoby się w cel regulacji jakim jest wspieranie innowacji. Art. 72 GRAI Uwaga redakcyjna Po słowie ,,Środki” dodaje się słowo ,,finansowe”. Art. 73 PIIT art. 73.1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 Osoba fizyczna mk Artykuł 99 rozporządzenia 2024/1689 nie odwołuje się wprost do artykułu 73 tegoż rozporządzenia, który opisuje obowiązki dostawców systemów sztucznej inteligencji dotyczące zgłaszania poważnych incydentów. Do artykułu 73 nie odwołuje się również artykuł 16 rozporządzenia 2024/1689, który szerzej opisuje obowiązki dostawców systemów sztucznej inteligencji, a którego naruszenie stanowi podstawę do nałożenia kary w myśl artykułu 99, punkt 4a. 289 Co za tym idzie, istnieje ryzyko, że artykuł 99 rozporządzenia 2024/1689 nie stanowi samodzielnie wystarczającej podstawy do wymierzania kar dla dostawców systemów sztucznej inteligencji w przypadku niedochowania obowiązków związanych ze zgłaszaniem poważnych incydentów. W konsekwencji, samo powołanie się w rozdziale 7 Ustawy (Art. 70) na artykuł 99 rozporządzenia 2024/1689, jako na podstawę do wymierzania kar, może okazać się niewystarczające w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z artykułu 73 rozporządzenia 2024/1689 lub rozdziału 5 Ustawy. Ponieważ ani artykuł 99 rozporządzenia 2024/1689 ani również Ustawa nie określają wprost kar za niedochowanie przez dostawców systemów sztucznej inteligencji obowiązków związanych ze zgłaszaniem poważnych incydentów, istnieje ryzyko wystąpienia luki prawnej, w ramach której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie mogła nakładać kar w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z rozdziału 5 Ustawy. W rezultacie te przepisy mogą okazać się martwe. Wskazane jest uzupełnienie rozdziału 7 ustawy o odpowiedni zapis likwidujący możliwość wystąpienia wyżej opisanej luki. Art. 73 ICC Poland Artykuł 73 ust. 1 Projektu przewiduje, że administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Biorąc pod uwagę wysokie limity kar za naruszenie przepisów rozporządzenia 2024/1689, sięgające nawet 35 milionów euro lub 7% całkowitego rocznego światowego obrotu, 14-dniowy termin wydaje się terminem zbyt krótkim. Przedsiębiorcy mogą mieć trudności z zebraniem tak dużych środków pieniężnych w tak krótkim czasie, co może wywołać daleko idące negatywne konsekwencje dla prowadzonej przez nich działalności. Warto rozważyć wydłużenie tego terminu. Art. 73 Związek Cyfrowa Polska Ograniczone możliwości odwołania się i wysokie kary, które stwarzają ryzyko finansowe dla przedsiębiorstw wykorzystujących sztuczną inteligencję (art. 73 Projektu). Ograniczona możliwość odwołania się od decyzji, krótkie terminy płatności kar oraz natychmiastowa wykonalność kar mogą poważnie wpłynąć na przepływy pieniężne i operacje przed rozpatrzeniem odwołań. Art. 73 ust. 1 GRAI I. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego), wyznaczenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 projektu) jest zbyt krótkie. II. Zbędne opisowe określanie stanu uprawomocnienia się decyzji. I. Zmiana zaproponowanego terminu „14 dni” na dłuższy termin, np. „90 dni”. II. Słowa “upływu terminu na wniesienie odwołania albo od dnia uprawomocnienia się orzeczenia sądu” zastępuje się słowami “uprawomocnienia się decyzji w przedmiocie jej nałożenia”. 290 Propozycja brzmienia przepisu: „1. Administracyjną karę pieniężną uiszcza się w terminie 90 dni od dnia uprawomocnienia się decyzji w przedmiocie jej nałożenia.”. Art. 73 ust. 1 KIGEiT Propozycja zapisu: Art. 73 .1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji , Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy wydłużenie terminu do 30 dni. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o uwzględnienie możliwości wniesienia zażalenia na przedmiotowe postanowienie. Art. 73 ust. 8 PIIT art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 KIGEiT Propozycja zapisu: Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 NRA Art. 73 ust. 8 Projektu nie rozstrzyga kwestii kluczowej dla ochrony prawnej podmiotów, a mianowicie właściwości organu uprawnionego do rozpatrzenia środka odwoławczego od 291 postanowienia dotyczącego odroczenia terminu płatności lub rozłożenia na raty administracyjnej kary pieniężnej, które zgodnie z art. 73 ust. 2 Projektu ma być wydawane przez Komisję. Brak jednoznacznych regulacji w Projekcie może rodzić wątpliwości czy odwołanie od tego rodzaju postanowienia winno być wniesione do SOKiK, czy też w pierwszej kolejności podlegać rozpoznaniu przez samą Komisję w trybie ponownego rozpatrzenia sprawy (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a.), a dopiero następnie, w przypadku negatywnego rozstrzygnięcia, skierowane do sądu administracyjnego. Dla zapewnienia przejrzystości procedur odwoławczych oraz zagwarantowania pewności prawa dla stron takiego postępowania zasadne byłoby jednoznaczne uregulowanie tego zagadnienia w przepisach Projektu. W razie wyboru właściwości SOKiK dla rozstrzygania zażaleń na wspomniane postanowienia należy stosowne przepisy dodać także do nowelizowanego k.p.c., aby zapewnić spójność oraz transparentność procedury w omawianym zakresie. Art. 74 CHAMBER W art. 74 należy restrykcyjnie i ściśle zdefiniować przypadki, w których Komisja może nadać decyzji rygor natychmiastowej wykonalności. Obecne kryterium “ważnego interesu” nie wskazuje nawet o jaki i czyj interes wchodzi. Tak inwazyjne i potencjalnie destrukcyjne dla adresatów środki powinny być podejmowane w ostateczności i jedynie w szczególnie uzasadnionych przypadkach. Art. 74 ITCORNER Mając na uwadze to, jak ogromne kary za naruszenie przewiduje AI Act (do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - proponujemy wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 PWPW Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. 1) Wnosimy o wskazanie zakresu art. 74, czy dotyczy decyzji o karze, czy decyzji o udzieleniu ulgi, o której mowa w art. 73 ust. 9 (być może to będzie decyzja – bo nie wiadomo jaką formę przyjmie udzielenie ulgi). Jeżeli ten przepis ma dotyczyć decyzji o nałożeniu kar to należy doprecyzować przesłanki nałożenia dodatkowego rygoru. Powinny mieć one charakter konkretny i zawężający. 10 292 2) Ponadto wnosimy o doprecyzowanie sformułowania „ważny interes”. Art. 74 Związek Banków Polskich Art 74. Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Proponujemy skreślenie lub doprecyzowanie. O ile przepis miałby pozostać wymaga skorelowania z art. 73 ust. 1 oraz wprowadzenia trybu odwoławczego od rygoru. Szczątkowa regulacja rygoru – nie jest jasne o jaki ważny interes chodzi. Jednocześnie, nie opisano zależności z art. 73 ust.1 oraz nie wskazano możliwości zaskarżenia rygoru. Art. 74 NRA Art. 74 Projektu przewiduje zbyt szerokie uprawnienie dla Komisji w zakresie nadania rygoru natychmiastowej wykonalności decyzji o administracyjnych karach pieniężnych, warunkując je w zasadzie samym czynnikiem wystąpienia sytuacji, gdy przemawia za tym „ważny interes”. Wprowadzenie takiej szczególnej przesłanki jak w art. 74 Projektu prowadziłoby do rozszerzenia ogólnych zasad nadawania decyzjom rygoru natychmiastowej wykonalności (określonych w art. 108 k.p.a.) na podstawie przesłanki, cechującej się wyjątkowo ogólnikowym charakterem, co mogłoby z kolei skutkować nadużyciami, jako że nie wprowadza ona obowiązku uwzględnienia zasady proporcjonalności, tak istotnej dla ochrony praw jednostki. Tak więc przepis ten wymaga doprecyzowania w sposób, który ograniczy nadanie rygoru natychmiastowej wykonalności do sytuacji, gdy działanie takie okaże się rzeczywiście niezbędne. Dodanie takiego wymogu nie tylko umocniłoby gwarancje ochronne wobec podmiotów podlegających decyzji, ale również zapewniło zgodność z konstytucyjną zasadą ochrony wolności i klauzulą limitacyjną ograniczania wolności i praw konstytucyjnych, przewidzianą w art. 31 ust. 3 Konstytucji RP. Art. 74 ICC Poland Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, „jeżeli wymaga tego ważny interes”. Projektowana regulacja jest nieprecyzyjna, gdyż nie wskazuje czyjego ważnego interesu dotyczy projektowany przepis. Pozostawienie projektowanego przepisu bez zmian skutkowałoby bardzo dużą dyskrecjonalnością Komisji w ocenie, czy taki „ważny interes” zachodzi, co może rodzić niepewność prawną po stronie przedsiębiorców lub innych podmiotów objętych zakresem zastosowania ustawy. Dlatego też rekomendujemy rozważenie całkowitego usunięcia tego przepisu z Projektu, bądź jego dalsze doprecyzowanie. Art. 74 PIIT Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes – w kontekście kar pieniężnych przepis zbyt arbitralny i uznaniowy; jaki byłby ważny interes w nałożeniu kary finansowej. Art. 74 KIG Przepis bezwzględnie należy doprecyzować, ponieważ taka redakcja narusza fundamentalne zasady państwa prawa. Projektodawca nie wskazał czyj ważny interes upoważnia Komisję do nadania decyzji rygoru natychmiastowej wykonalności. Ponadto tak radykalne działanie nie może być oparte na całkowicie uznaniowych przesłankach, dlatego Projektodawca powinien co najmniej zasugerować przykładowy katalog przesłanek, które uważa za ważny interes. 293 Art. 74 GRAI Ponadto, powinna być wykreślona możliwość nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Jeśli nie zostanie uwzględniony postulat rezygnacji z przepisu – należy wskazać, że w przepisie nie określono warunków nadania decyzji rygoru natychmiastowej wykonalności, co może skutkować za dużym uprawnieniem dyskrecjonalnym organu. Do rozważenia przeredagowanie art. 74 lub zrezygnowanie z tej regulacji. Art. 74 Polski związek zarządzania wierzytelnościami Art. 74 Projektu AI Act przewiduje bardzo wysokie kary za naruszenie regulacji (nawet do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - z tego względu w interesie przedsiębiorstw, w tym rzecz jasna podmiotów branży zarządzania wierzytelnościami, byłoby wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 Fundacja FinTech Poland Przepis art. 74 nie precyzuje, jaki dokładnie interes uzasadnia nadanie decyzji rygoru natychmiastowej wykonalności, co rodzi istotne wątpliwości interpretacyjne. Pojęcie „ważny interes” jest niejasne i może być rozumiane bardzo szeroko. Brak sprecyzowania, czy chodzi o interes społeczny, interes publiczny, interes prywatny strony postępowania, interes innego przedsiębiorcy, czy może interes pokrzywdzonego, pozostawia zbyt dużą swobodę interpretacyjną Komisji. Taka nieprecyzyjność może prowadzić do sytuacji, w której rygor natychmiastowej wykonalności będzie nadawany na podstawie różnych, subiektywnie ocenianych przesłanek. Może to osłabić poczucie bezpieczeństwa prawnego i zaufania do 294 organu, który posiada możliwość natychmiastowego egzekwowania swojej decyzji. Dla przejrzystości i ochrony interesów wszystkich stron, warto, aby ustawodawca określił, czy nadanie rygoru dotyczy: interesu publicznego lub społecznego – np. gdy natychmiastowa wykonalność decyzji ma na celu ochronę zbiorowych praw konsumentów czy zapobieżenie szkodom o szerokim zasięgu; czy interesu prywatnego strony lub pokrzywdzonego – np. w sytuacji, gdy zwłoka w wykonaniu decyzji mogłaby doprowadzić do trudnych do naprawienia szkód dla konkretnej osoby lub podmiotu. Wprowadzenie bardziej szczegółowych kryteriów lub wskazanie, jaki typ interesu ma być chroniony, zapewniłoby większą klarowność przepisu i ograniczyłoby ryzyko nadużyć oraz dowolności w stosowaniu rygoru natychmiastowej wykonalność Art. 75 GRAI Propozycja, aby sprawy odwołań od decyzji i zażaleń na postanowienia nie były rozpatrywane przez SOKiK, lecz przez Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Posiada on większą wiedzę i doświadczenie w zakresie programów komputerowych niż SOKiK. Rozważenie zmiany właściwego sądu. Art. 75 ICC Poland Projekt przewiduje w art. 75 ust. 1, że od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługiwać ma odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Na aprobatę zasługuje powierzenie tego rodzaju spraw sądowi okręgowemu. Natomiast samo uzasadnienie Projektu nie zawiera wyjaśnienia dla decyzji projektodawcy o wyborze sądu ochrony konkurencji i konsumentów jako sądu, który miałby zajmować się odwołaniami od decyzji Komisji (art. 57 ust. 1 Projektu) oraz odwołaniami od decyzji w sprawie nałożenia administracyjnej kary pieniężnej (art. 75 ust. 1 Projektu). Biorąc pod uwagę przedmiot regulacji rozporządzenia 2024/1689, tj. regulację wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej, warto rozważyć powierzenie spraw sądowi wyspecjalizowanemu w sprawach programów komputerowych, który będzie mieć odpowiedni poziom wiedzy technicznej. Zgodnie z art. 47990 §1 i § 2 Kodeksu postępowania cywilnego7, sprawy własności intelektualnej należą do właściwości sądów okręgowych, a Sąd Okręgowy w Warszawie jest wyłącznie właściwy w sprawach własności intelektualnej dotyczących m.in. programów komputerowych oraz tajemnic przedsiębiorstwa o charakterze technicznym. Warto zatem dokonać pogłębionej analizy, który z istniejących sądów mógłby zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 75 ust. 2 GRAI Zrównać brzmienie z art. 57 ust. 2 Art. 76 GRAI Wyłączenie stosowania art. 189f KPA znacząco ograniczy możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku niezastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 (art. 70 ust. 4) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania 295 art. 189k KPA, nie jest w pełni jasne, jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9. Podobny przepis tj. wyłączenie ogólnych przepisów KPA dot. ulg. i odstąpienia od kary wywołał sporo legislacyjnych dyskusji przy ustawie PNR. Art. 76 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów aktu w sprawie sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 76 projektu ustawy o AN). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów aktu w sprawie sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k $ 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k$ 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k $ 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k $ 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 73 ust. 2-8 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII aktu w sprawie sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów aktu w sprawie sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom aktu w sprawie sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. 296 W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 76 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 76 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k $ I pkt. I ustawy z dnia 14.06.1960 r.- Kodeks postępowania cywilnego. ”. Art. 76 Art. 77 PWPW W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania Administracyjnego. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Poprosimy o doprecyzowanie poprzez wskazanie, że do decyzji o nakładaniu kar stosuje się rozdział kodeksu postępowania administracyjnego (k.p.a.) dot. nakładania kar – z wyłączeniem ww. przepisów. A także czy Sąd Okręgowy – będzie oceniał zastosowanie przepisów ustawy w związku z przepisami kpa w ramach prowadzenia postępowania na gruncie przepisów Kodeksu postępowania cywilnego. Dodatkowo należy zauważyć, że tam gdzie nie będzie stosownych przepisów – zastosowanie będą miały przepisy ustawy - Ordynacja podatkowa. Wskazana regulacja budzi poważne wątpliwości w zakresie wykładni przepisów prawa i poprawności legislacyjnej. Ponadto stanowi to nieprzejrzystą regulacje i niesie duże ryzyka dla podmiotów. Wskazane w art. 76 przepisy kpa mają na celu zapewnienie, że wymierzone kary będą proporcjonalne do skutków czynów. W związku z powyższym nie powinny być wyłączane Art. 77 PIIT Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). 297 * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Art. 77 KIGEiT Propozycja zapisu: Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie Art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. , Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. art. 78 CHAMBER Zupełnie niezrozumiałe jest stypizowanie w art. 78 utrudniania kontroli jako przestępstwa (sic!) zagrożonego karą pozbawienia wolności do lat dwóch (sic!). Nie jest w żaden sposób uzasadnione, aby utrudnianie kontroli akurat systemów sztucznej inteligencji było uznane za czyn aż tak bardzo społecznie szkodliwy, wielokrotnie bardziej niż np. utrudnianie kontroli celno- skarbowej, co zagrożone jest jako wykroczenie jedynie karą grzywny do 720 stawek dziennych (zob. art. 94 kodeksu karno-skarbowego). Ta sama uwaga dotyczy art. 79. Postulujemy sprowadzenie kar w tych przepisach do poziomu analogicznego do kar za utrudnianie kontroli przez inne organy. Art. 78 Fundacja FinTech Poland Przepis w obecnym kształcie stanowi ryzyko dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy wprowadzenie gradacji kar, poprzez zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia oraz wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI Act lub skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. 298 Rekomendujemy precyzyjne określenie czynu zabronionego poprzez wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Proponujemy wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Rekomendujemy wzmocnienie roli postępowania wyjaśniającego. Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78 i Art. 79 PIIT Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i 79 KIGEiT Propozycja zapisu: Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich 299 posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. , Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i Art. 79 Związek Cyfrowa Polska Sankcje karne. Te przewidziane w Projekcie ustawy (art. 78 i art. 79) nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji; ich wprowadzenie stoi również w kontrze z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju technologii innowacyjności, w zakresie sztucznej inteligencji. Sankcji karnych. Przewidziane w Projekcie ustawy (art. 78 i art. 79) sankcje karne nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 78 i Art. 79 Związek Pracodawców Technologii Cyfrowych Lewiatan Wysokość kary nakładanej na osobę (art. 78 i 79) Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy zweryfikować ten zapis i np. skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. Kary ograniczenia wolności (art. 78 i 79) Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78. 1 PIIT Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli – tu należałoby możliwość nałożenia sankcji ograniczyć do podmiotu kontrolowanego art. 79 j.w. Art. 78 ust. 1 Związek banków Polskich Przepis w obecnym kształcie stanowi zagrożenie dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących 300 przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Propozycja do zasygnalizowania: Wprowadzenie gradacji kar: Zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia. Wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI ACT. Precyzyjne określenie czynu zabronionego: Wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Wzmocnienie roli postępowania wyjaśniającego: Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Art. 78 ust. 1 i art. 79 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż wysokość grzywny jest zbyt wygórowana. Wskazujemy, iż zakresem stosowania przedmiotowej ustawy objęte są różne podmioty, także mniejsze przedsiębiorstwa, w tym start- upy. Postulujemy obniżenie tej wartości min. o 50%. Art. 78 ust 2 PZPPF Art. 78 ust. 2 przewiduje karę grzywny w wysokości do 500 000 PLN, karę ograniczenia wolności albo karę pozbawienia wolności do lat dwóch, w przypadku gdy przedsiębiorca nie dostarczy danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarczy dane, które uniemożliwią ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Podczas gdy jednocześnie art. 71 ust. 2 określa, że w takich sytuacjach Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. W takim brzmieniu projektu ww. karę należy ocenić jako niewspółmierną wobec charakteru opisanego naruszenia oraz jego potencjalnego wpływu na postępowanie. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie lub co najmniej obniżenie ww. kary. 301 Art. 78 ust. 2 NRA Art. 78 ust. 2 Projektu stanowi o odpowiedzialności karnej za niedostarczenie danych albo dostarczenie danych uniemożliwiających ustalenie podstawy wymiaru administracyjnej kary pieniężnej w toku postępowania dotyczącego jej nałożenia, przewidując karę grzywny, ograniczenia wolności, a także karę pozbawienia wolności do lat dwóch. Przepis ten zatem, na gruncie prawa karnego, jako wprowadzający nowy typ czynu zabronionego, powinien być adresowany wyłącznie do osób fizycznych, co jednoznacznie wynika z ogólnych zasad odpowiedzialności karnej, ustanowionych w Kodeksie karnym (art. 116 k.k.). Z kolei równolegle przepis z art. 71 ust. 1 Projektu nakłada obowiązek dostarczenia wymaganych danych na „podmiot” objęty regulacją z art. 70 ust. 1 Projektu, czyli jednostkę zobowiązaną do przestrzegania postanowień rozporządzenia 2024/1689, co odnosi się także do osób prawnych. Tym samym przepis z art. 78 ust. 2 Projektu niejako nie rozróżnia osób fizycznych i prawnych, co prowadzi do nieścisłości interpretacyjnej w zakresie odpowiedzialności karnej za niedopełnienie obowiązku dostarczenia danych. Dla uniknięcia niespójności oraz zapewnienia jasności co do zakresu obowiązków i odpowiedzialności karnej zaleca się, aby zmodyfikować treść przepisu z art. 78 ust. 2 Projektu w ten sposób, aby jednoznacznie określał, że obowiązki z tego przepisu mogą obciążać wyłącznie osoby fizyczne. Art. 79 Fundacja FinTech Poland Grzywna w prawie karnym wymierzana jest w oparciu o stawki dzienne. Jest to iloczyn stawki dziennej w ustalonym wymiarze i liczny ustalonej przez Sąd. Art. 80 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejne przykłady niechlujnego redagowania przepisów projektu ustawy o AI odnajdujemy w art. 80 pkt. 2 projektu ustawy o AI: a/ w dodawanym do k.p.c. art. 47955* opuszczono oznaczenie $ 1 w przypadku zdania pierwszego wprowadzanego tąże regulacją, b/ w dodawanym do k.p.c. art. 479*** w jego zdaniu pierwszym, które winno posiadać oznaczenie $ 1 błędnie wpisano, iż odwołanie od decyzji Komisji wnoszone do SOKiK za pośrednictwem Komisji wnoszone jest za „jego pośrednictwem”, zamiast za „jej pośrednictwem”, bo póki co to nic nam nie wiadomo by rzeczownik „Komisja”” według reguł językowych stał się rzeczownikiem rodzaju męskiego w miejsce dotychczasowego rodzaju żeńskiego, c/ z kolei w dodawanym do k.p.c. art. 479? $ 1 opuszczono słowo „„stronami” po słowach „rozporządzenia 2024/1689”, a przed słowami „są także”. Art. 80 KIGEiT Propozycje zapisu: Art. 47988e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji , Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. 302 Art. 83 ust. 1 KIGEiT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 Związek Banków Polskich Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Poprawa literówki: „od” zamiast „id”. Art. 84 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejny przykład niechlujnego przygotowania projektu ustawy o AI odnajdujemy w art. 84 ust. 5 projektu ustawy o AI, gdzie w miejsce sformułowania „od dnia wejścia w życie ustawy” termin jest liczony „id dnia wejścia w życie ustawy”. M/ Również w uzasadnieniu projektodawca nie ustrzegł się uchybień w sferze staranności w przygotowaniu projektu, skoro już w drugim wersie od góry na drugiej stronie uzasadnienia po słowach „W dniu 2 lutego 2025 r.” opuszcza literę „w”. N/ Z kolei w 14 wersie od góry na przedostatniej stronie uzasadnienia w pierwszym zdaniu poświęconym omówieniu regulacji rozdziału 9 po słowach „w terminie 7”, a przed słowami „od wejścia w życie ustawy” opuszczono słowo „dni” pozwalające na ostateczne określenie terminu ogłoszenia o rozpisaniu konkursu na stanowisko Przewodniczącego Komisji. Kierując się względami dbałości o staranność w przygotowaniu projektu tego rodzaju uchybienie także chwały projektodawcy raczej przynieść nie może. Art. 84 ust. 1 KIGEiT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art.5 projektowanej ustawy. Art. 87 ust. 1 Związek Banków Polskich Budżet KRIBSI powinien być znacząco wyższy i oscylować wokół wartości co najmniej 150% wyższych niż założone dla lat 2026-2035. W każdym roku limit wydatków powinien także rosnąć – z uwagi na inflację oraz bardzo prawdopodobny wzrost adopcji i poziomu skomplikowania narzędzi AI. Art. 88 KIGEiT Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem Art. 83 i Art. 84, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Przepis określający termin wejścia w życie poszczególnych przepisów ustawy nie może abstrahować od terminów wejścia w życie poszczególnych przepisów Rozporządzenia 2024/1689. Na przykład przepis Art. 85 Rozporządzenia 2024/1689 przewidujący możliwość wniesienia skargi do organu nadzoru, czy Art. 73 Rozporządzenia 2024/1689 dotyczący obowiązki zgłaszania poważnych incydentów wchodzą w życie, zgodnie z Art. 113 Rozporządzenia 2024/1689, w dniu 2 sierpnia 2026. Tymczasem Art. 88 projektu ustawy stanowi, że wchodzi ona w życie 14 dni od ogłoszenia z wyjątkiem Art. 83 i 84. Pomimo że dziś nie jest znany termin ogłoszenia ustawy, można się spodziewać, że zostanie ona opublikowana w 2025 więc niektóre z jej przepisów, zgodnie z obecną treścią Art. 88, zaczną obowiązywać przed terminem rozpoczęcia stosowania odpowiednich przepisów Rozporządzenia 2024/1689. Z tego względu w przepisach określających termin wejścia w życie przepisów ustawy powinny się znaleźć odpowiednie daty uwzględniające terminy wejścia w życie poszczególnych przepisów Rozporządzenia. W 303 przeciwnym razie, np. prawo wniesienia skargi na podstawie ustawy przysługiwałoby wcześniej niż wynika to z Rozporządzenia. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 należy pamiętać o tym, aby ostateczne przepisy ustawy, w tym przepisy intertemporalne, były zgodnie z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozdział 8 Polska Izba Ubezpieczeń W ocenie Polskiej Izby Ubezpieczeń technologia sztucznej inteligencji jest nową technologią o transgranicznym charakterze i z tego tytułu powinien być zapewniony tryb odwoławczy. W dniu dzisiejszym nie jesteśmy w stanie oszacować wszystkich sytuacji i rozwiązań jakie będą przedmiotem oceny Komisji i jej ewentualnych decyzji. Zwracamy również uwagę, że zasadnym byłoby podjęcie działań zmierzających do zmian w procesie legislacyjnym ustawy o działalności ubezpieczeniowej i reasekuracyjnej. W szczególności proponujemy zmianę art. 41 ust. 1b ustawy o działalności ubezpieczeniowej i reasekuracyjnej tak by katalog wskazanych kategorii danych w art. 41 ust. 1b Ustawy miał charakter otwarty. Taka zmiana przyczyni się do rozwoju technologicznego i usprawnienia procesów oceny ryzyka ubezpieczeniowego oraz procesów likwidacji szkód. Proponujemy zmianę redakcyjną art. 41 ust. 1b Ustawy na „1b. Decyzje, o których mowa w ust. 1a, mogą być podejmowane w szczególności w oparciu o następujące kategorie danych dotyczących osoby fizycznej”. Działanie legislacyjne w tym kierunku będzie stanowiło skuteczne wsparcie sektora ubezpieczeń w przygotowaniu do stabilnego wdrożenia rozwiązań opartych na technologii sztucznej inteligencji w procesach ubezpieczeniowych. Wskazując na powyższy postulat branża ubezpieczeniowa odwołuje się m.in. do motywu 67 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, gdzie podkreślono, że „wysokiej jakości dane i dostęp do wysokiej jakości danych odgrywają kluczową rolę w ustanawianiu struktury i zapewnianiu skuteczności działania wielu systemów AI, w szczególności w przypadku stosowania technik obejmujących trenowanie modeli, w celu zapewnienia, aby system AI wysokiego ryzyka działał zgodnie z przeznaczeniem i bezpiecznie oraz aby nie stał się źródłem zakazanej przez prawo Unii dyskryminacji.” Dlatego też w ocenie ubezpieczycieli by zapewnić wysoką jakość zbiorów danych treningowych, walidacyjnych i testowych pożądane jest wdrożenie odpowiednich zachęt prawnych poprzez rozwiązania legislacyjne. Rozdział 8 GRAI Konieczne jest rozszerzenie stosowania ustawy o ochronie sygnalistów na zgłoszenia zewnętrzne dotyczące naruszenia rozporządzenia 2024/1689 lub przepisów projektowanej ustawy. Osoby wewnątrz organizacji dostawców lub jednostek publicznych albo osoby będące w posiadaniu wiedzy o naruszeniach powinny mieć możliwość dokonania stosownych zgłoszeń do Komisji. 304 Osoby te powinny mieć przyznane uprawnienia i przyznaną ochronę taką jak sygnaliści z ustawy o ochronie sygnalistów. Należy albo znowelizować w tym zakresie ustawę o ochronie sygnalistów albo dodać stosowne przepisy (nawet z odesłaniem do ww. ustawy). W celu utrzymania spójnej legislacji proponuję przyjąć ten drugi wariant (wprowadzić ogólne odesłanie do ww. ustawy ze wskazaniem, które przepisy znajdują zastosowanie). Rozdział 8 GRAI Sugeruje uregulowanie odpowiedzialności za celowe zniekształcanie wyników algorytmu (np. Poprzez celowe dostarczanie niewłaściwych danych). Regulacja miałaby na celu wprowadzenie ram prawnych do przeciwdziałania celowego “mylenia” algorytmów na etapie treningu (np. Celowy sabotaż). Art. 80 GRAI Zmiana Sądu Okręgowego w Warszawie - sąd ochrony konkurencji i konsumentów na Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Dodatkowo, Sąd rozpatruje zażalenia na postanowienia zgodnie z art. 43 ust. 13 oraz art. 73 ust. 18 ustawy. W art. 479 (88e) brakuje słowa “stronami”. Art. 80 PIIT Art. 47988e § 1. W sprawach naruszenia przepisów rozporządzenia 2024/1689 stronami jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Ponadto, przepisy zmieniające KPC nie przewidują jakie rodzaje rozstrzygnięć merytorycznych może wydać Sąd po rozpatrzeniu odwołania. Co jest zasadniczym brakiem przepisów proceduralnych. Art. 80 Polska Izba Ubezpieczeń Proponuje się w art. 80 do ustawy – Kodeks postępowania cywilnego korektę do art. Art. 47988e na „§1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” 305 Mając na względzie, że sprawy odwoławcze będą wymagać wiadomości specjalnych, proponuje się również rozważenie wprowadzenia na listy biegłych sądowych biegłych z zakresu AI. Realizacji ww. postulatu wymagać będzie zmiana ustawy Prawo o ustroju sądów powszechnych i aktów wykonawczych. Art. 80 pkt. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W przepisie dotyczącym zmiany art. 479 88b postulujemy zmianę wyrazu „jego” na wyraz „jej”. W przepisie dotyczącym zmiany art. 479 88e postulujemy przeformułowanie, albowiem w obecnym brzmieniu przepis wydaje się brzmieć nieprawidłowo. Art. 80 Fundacja Panoptykon W odniesieniu do postępowania odwoławczego przed Sądem Ochrony Konkurencji i Konsumentów zwracamy uwagę, że w proponowanym art. 47988e § 1, który projekt ustawy dodaje do Kodeksu postępowania cywilnego, brakuje słowa określającego status Komisji i zainteresowanego: „w sprawach z naruszenia przepisów rozporządzenia 2024/1689 [brakujące słowo] są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany”. Zakładamy, że projektodawcy chodziło o nadanie Komisji i zainteresowanemu statusu strony postępowania odwoławczego. Poza tą uwagą redakcyjną, postulujemy także doprecyzowanie w § 2, że skarżący – nawet jeśli jego prawa lub obowiązki nie zależą od rozstrzygnięcia procesu – może być zainteresowanym i wprowadzenie obowiązku wezwania go do udziału w sprawie. art. 83 PIIT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 PIIT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art.5 projektowanej ustawy. Zob. także uwaga w wierszu 5 Art. 84 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż zdublowana została numeracja ust. 5. Wnosimy o poprawę numeracji ustępów w art. 84 Projektu ustawy. Postulujemy także zmianę słowa „id” na słowo „od” w aktualnym ust. 5 306 Art. 84 ust. 5 GRAI Uwaga redakcyjna Słowo “id” zastępuje się słowem “od”. Art. 86 GRAI Niejasny zapis w zakresie terminu na złożenie projektu planu finansowego Biura Komisji na okres od dnia wejścia w życie ustawy do dnia 31 grudnia 2025 r. do Prezesa Rady Ministrów. Konieczność doprecyzowania przepisu. Art. 87 GRAI Potrzeba zwiększenia budżetu w szczególności w pierwszym półroczu istnienia Komisji np. z uwagi na zakup odpowiednich narzędzi informatycznych. Uzasadnienie Związek Cyfrowa Polska Brak jest wyjaśnienia w uzasadnieniu Projektu ustawy powodów braku zagwarantowania przedsiębiorcom mechanizmów odwoławczych od wystąpienia pokontrolnego (art. 46 ust. 8 Projektu) oraz zaleceń pokontrolnych (art. 47 ust. 2 Projektu). OSR PCA W OSR w części „wpływ na sektor finansów publicznych” proponujemy uwzględnić następujący zapis: „Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2025 r. Osoby zatrudnione odpowiedzialne będą za prace nad przygotowaniem programu akredytacji, organizację prowadzenia procesu akredytacji podmiotów ubiegających się o uprawnienie do certyfikacji w ramach programów certyfikacji AI. Zgodnie z ustawą o systemach oceny zgodności i nadzoru rynku (t.j. Dz.U.2022 poz.1854, z 2024, poz. 1089) Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa. Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r. Środki te przeznaczone będą na sfinansowanie dodatkowych dwóch etatów oraz na wynagrodzenia dla osób, które otrzymają dodatkowe zadania w projektowanym zakresie. Zwiększenie to musi być utrzymane w kolejnych latach, zwiększane o wskaźnik wzrostu płac i będzie sfinansowane w ramach samodzielnej gospodarki finansowej PCA. Do oszacowania wydatków wzięto pod uwagę średnie wynagrodzenie jakiego oczekują kandydaci do pracy z ostatniego okresu z uwzględnieniem kosztów pracodawcy. Podkreślenia wymaga fakt, że projektowana ustawa wprowadza wymaganie akredytacji w nowym obszarze. Należy zatem oczekiwać konieczności przeprowadzenia ocen akredytacyjnych dla nowych lub rozszerzania zakresu akredytacji dla już istniejących jednostek oceniających zgodność, co ogólnie przełoży się na zwiększenie zadań zatrudnionych pracowników przy 307 realizacji zmian w funkcjonujących już akredytacjach, a tym samym będzie wiązać się z koniecznością zwiększenia poziomu wynagrodzenia tych pracowników. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo nowoczesnego sektora gospodarki. Sektora, w którym płace są na bardzo wysokim poziomie. Osoby, które będą wykonywały te zadania muszą mieć bardzo wysokie kompetencje - znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Ostateczna struktura rozdysponowania ww. zwiększenia w funduszu osobowym oraz poziom tego rozdysponowania zależy od kompetencji zatrudnionych osób i zakresu dodatkowych zadań przydzielonych już zatrudnionym osobom. ” Zaproponowane kwoty powinny być również uwzględnione w tabeli w tym punkcie. Brak regulacji GRAI Brak uregulowania Kodeksów postępowania: Zgodnie z art. 69 rozporządzenia, Komisja i państwa członkowskie zachęcają do tworzenia (i ułatwiają tworzenie) kodeksów postępowania sprzyjających dobrowolnemu stosowaniu w odniesieniu do systemów sztucznej inteligencji innych niż systemy sztucznej inteligencji wysokiego ryzyka wymogów określonych w tytule III rozdział 2, w oparciu o specyfikacje i rozwiązania techniczne, które stanowią odpowiedni sposób zapewnienia zgodności z takimi wymogami w świetle przeznaczenia tych systemów. Realizacja tego przepisu rozporządzenia nie została w żaden sposób ujęta w projekcie ustawy. Konieczność uregulowania i przyjęcia właściwych przepisów na gruncie krajowym. Brak regulacji GRAI Brak uregulowania kwestii tworzenia piaskownic regulacyjnych zgodnie z artykuł em 53 (Piaskownice regulacyjne w zakresie AI) 1. Piaskownice regulacyjne w zakresie AI tworzone przez jeden właściwy organ państwa członkowskiego lub większą liczbę takich organów, lub przez Europejskiego Inspektora Ochrony Danych zapewniają kontrolowane środowisko ułatwiające opracowywanie, testowanie i walidację innowacyjnych systemów sztucznej inteligencji przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem. Tego rodzaju działalność musi przebiegać pod bezpośrednim nadzorem właściwych organów i zgodnie z ich wytycznymi, aby zapewnić zgodność z wymogami niniejszego rozporządzenia oraz – w stosownych przypadkach – z innymi przepisami prawa Unii i prawa państw członkowskich objętymi nadzorem w ramach piaskownicy. Z uzasadnienia do projektu wynika, że kwestia piaskownic regulacyjnych będzie zaadresowana w odrębnych regulacjach w kolejnych latach. Należy jednak pamiętać, iż brak takich rozwiązań może 308 ograniczać możliwości testowania rozwiązań przez przedsiębiorców w bezpiecznym środowisku i wpływać na innowacyjność polskich przedsiębiorstw. Reguły kolizyjne GRAI Wprowadzenie reguł kolizyjnych w sytuacji gdy system sztucznej inteligencji spełnia jednocześnie definicję innej kategorii np. wyrobu medycznego. Określenie wzajemnej relacji ustaw szczególnych względem siebie GRAI Warto rozważyć umieszczenie w przepisach ustawy regulacji dotyczących tworzenia programów wsparcia dla pracowników, za których zadania wykona AI, a oni w rezultacie utracą pracę. Niedoprecyzowany pozostaje tryb rejestrowania systemów sztucznej inteligencji wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Zgodnie z odnośnikiem nr 1 konsultowanego projektu ustawy o systemach sztucznej inteligencji projektowana ustawa ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji. Celem tego rozporządzenia (dalej: Rozporządzenie) jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, „zgodnie z wartościami Unii (...), przy jednoczesnym zapewnieniu praw podstawowych zapisanych w Karcie praw podstawowych”. Jednym z praw podstawowych określonych w Karcie jest równość kobiet i mężczyzn. Rozporządzenie obejmuje szereg postanowień, zawartych zarówno w preambule, jak i w jego tekście artykułowanym, które odnoszą się do tej kwestii, albo wprost odwołując się do równości, równouprawnienia płci lub równości kobiet albo odwołując się, bardziej generalnie, do praw podstawowych, do których te wartości są zaliczane. Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Poniżej wskazano najważniejsze z przepisów Rozporządzenia w tym zakresie, w szczególności te kierunkowe, wyznaczające strategiczne cele przyjętej regulacji prawnej, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem na które powinna odpowiadać projektowana ustawa jako regulacja służąca stosowaniu w Polsce Rozporządzenia. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 309 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami zapisanymi w traktatach oraz, zgodnie z art. 6 TUE – w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, „mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji” oraz „mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet”. Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jako systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację 310 i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii”. To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. W projekcie ustawy brakuje uregulowań dotyczących wsparcia dla MŚP w dostosowaniu się do nowych regulacji – chociażby w postaci programów edukacyjnych. Brak w regulacji GRAI Potrzeba zwiększenia ochrony małoletnich Propozycja dodania przepisu: „1. Małoletni, który ukończyli 13 lat mogą korzystać z systemów sztucznej inteligencji, pod warunkiem, że warunki korzystania z systemu są łatwo dostępne i zrozumiałe. 2. Dostęp do systemów AI przez małoletnich w wieku poniżej 13 lat wymaga zgody ich opiekunów prawnych.”. Brak regulacji w projekcie, być może do uregulowania w innej ustawie GRAI Wykorzystanie AI w systemie opieki zdrowotnej Rozważenie przyjęcia regulacji w zakresie: 1. Wykorzystanie systemów sztucznej inteligencji w systemie opieki zdrowotnej nie może skutkować dyskryminacją pacjenta w dostępie do usług medycznych 311 2. Osoby fizyczne mają prawo do informacji na temat wykorzystania sztucznej inteligencji i jej zalet związanych z diagnozą i terapią oraz do uzyskania informacji na temat logiki związanej z podejmowaniem decyzji. 3. „Decyzje” systemu AI mające na celu wspieranie procesów: zapobiegania, diagnozowania, leczenia i wyboru terapii, musi być potwierdzona przez lekarza (pracownika medycznego) prowadzącego leczenie. Brak w regulacji GRAI Dodanie przepisów o wyłączeniu członków Komisji w tym jego Przewodniczącego. Konieczność przyjęcia regulacji w tym zakresie, jak np. w ustawie o nadzorze nad rynkiem finansowym. Brak w uzasadnieniu GRAI Brak szerszego odniesienie się w uzasadnienia do ochrony praw człowieka oraz Karty PP UE Zmiana i uzupełnienie uzasadnienia. Brak w ustawie GRAI Wprowadzenie w ustawie regulacji wzorowanej na art. 69 ust. 1- 5 UOKiK z uwagi na okoliczność, że w postępowaniu przed Komisją może występować kilka stron (vide. art. 51 ust. 2 projektu). Jak w art. 69 UOKiK z odpowiednimi modyfikacjami Brak w ustawie GRAI Uregulowanie w ustawie przepisów dotyczących testowania systemu AI zgodnie z art. 77 ust. 3 rozporządzenia 2024/1689. Brak w ustawie GRAI W projektowanej ustawie brakuje odniesienia do kwestii praw autorskich. W szczególności powinny zostać poruszone następujące kwestie: Wytwory generatywnej sztucznej inteligencji a prawo autorskie i prawo własności przemysłowej Prawa do danych wykorzystywanych przez AI Aspekt prawa autorskiego baz danych, wykorzystywanych przez AI AI a ochrona oprogramowania na gruncie europejskim (software patent w EPO), a prawa do danych LLM i naruszania praw autorskich AI a wynalazca (twórca w rozumieniu Prawa własności przemysłowej)AI a twórca w rozumieniu prawa autorskiego i praw pokrewnych Wynagrodzenie za korzystanie z utworów na potrzeby sztucznej inteligencji. Znakowanie utworów wykorzystywanych na potrzeby sztucznej inteligencji Znakowanie wytworów wygenerowanych przez AI. Realizacja prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM określony w ustawie o prawie autorskim i prawach pokrewnych przewiduje możliwość jnego wykorzystania na potrzeby sztucznej inteligencji. doprecyzowanie obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskich na potrzeby sztucznej inteligencji. 312 określenie reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. AI Act nie stoi na przeszkodzie szczegółowym regulacjom kwestii prawno-autorskich na poziomie krajowym, a regulacja taka jest niezbędna. AI Act tylko szczątkowo wskazuje na kwestie prawno- autorskie, które wymagają rozwinięcia i doprecyzowania w prawie krajowym. Projekt nie przewiduje natomiast żadnych rozwiązań w tym zakresie. GRAI Brak zaadresowania w ustawie kwestii dotyczących ustanowienia szczegółowych przepisów dotyczących wykorzystania biometrii, zgodnie z art. 5 AI Act. Z uzasadnienia projektu nie wynika, czy i w jakim okresie planowane jest uregulowanie tej kwestii. Nowy rozdział dot. identyfikacji biometrycznej GRAI I. Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3. Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. II. Nie należy przyjmować wyjątków pozwalających na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłącznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Akt, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikowane będą osoby postronne. • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Akt rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede 313 wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów - tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. III. AI Akt reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Polska powinna wprowadzić bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd. Brak w ustawie SANO Postulujemy wprowadzenie definicji systemu wysokiego ryzyka, która usuwałaby obecnie nasuwające się problemy interpretacyjne dotyczące tego, jak się wydaje, jednego z kluczowych zagadnień wskazanych w Rozporządzeniu. Wprowadzenie do katalogu podmiotów wchodzących w skład Komisji opisanej w rozdziale 2 projektowanej ustawy przedstawicieli środowiska organizacja pozarządowych z pespektywy Sano jest dobrym rozwiązaniem. Obecnie katalog podmiotów desygnujących przedstawicieli do Komisji ograniczony jest zasadniczo do przedstawicieli organów Państwowych (z wyłączeniem przedstawicieli Rady Dialogu Społecznego). Wydaje się, że Komisja w składzie bardziej inkluzyjnym będzie mogła lepiej realizować przewidziane dla niej zadania. Udział NGO w ramach Rady Społecznej powoływanej przy Komisji wydaje się być niewystarczającą reprezentacją trzeciego sektora. Wprowadzenie do katalogu podmiotów wchodzących w skład członków Komisji określonej w art. 7 ust. 2 Rzecznika Prawa Pacjenta oraz Rzecznika Małych i Średnich Przedsiębiorców to kolejna z naszych propozycji. Zastosowanie ustawy będzie miało kluczowy wpływ na działalność MŚP oraz konieczna będzie ochrona pacjentów, dlatego kluczowe jest, aby oby dwaj rzecznicy znaleźli się w stałym składzie członków Komisji. Rekomendujemy przeniesienie Krajowej Rady Radiofonii i Telewizji z katalogu członków Komisji określonej w art. 7 ust. 2 do ust. 3 gdzie wskazani są przedstawiciele, którzy mogą uczestniczyć ale ich udział nie jest obligatoryjny. Z projektu ustawy oraz uzasadnienia nie wynika dlaczego rola KRRiT jest kluczowa w każdych działaniach Komisji. Postuluje się wprowadzenie przepisów, które w szerszy sposób dawałyby legalny dostęp do danych w tym danych medycznych, a w ramach tego katalogu powinno się również rozumieć dane dotyczące zdrowia. W szczególności ustawa mogłaby stanowić o zmianie ustawy o prawach pacjenta w zakresie zamkniętego i ograniczającego prowadzenie badań katalogu podmiotów 314 wynikającego z art. 26 ustawy o prawach pacjenta. Ustawa powinna stanowić asumpt dla stymulacji rozsądnego wykorzystania potencjału dla budowania systemów sztucznej inteligencji w obszarze zdrowia. Dla wysokiej jakości budowania rozwiązań w obszarze zdrowia kluczowy jest dostęp do prawdziwych, wysokiej jakości danych dotyczących zdrowia dla większej ilości podmiotów realizujących działania na rzecz AI niż dotychczas. Brak w ustawie Repropol Mimo, iż Projekt służy wdrożeniu także rozdziału V AIA (art. 51-56), w Projekcie brak jest jakiegokolwiek nawiązania do modeli AI ogólnego przeznaczenia (GPAI). Po pierwsze zwrócić należy uwagę na brak zamieszczenia w art. 3 UoSSI referencji czy to do modelu AI ogólnego przeznaczenia (art. 3 pkt 63 AIA), czy też systemu AI ogólnego przeznaczenia (art. 3 pkt 66 AIA). Nie wiadomo, w jaki sposób uzasadnić pominięcie tych ważnych definicji, skoro projektodawca zdecydował się (uważamy, że niepotrzebnie) na katalog definicji referencyjnych w art. 3 UoSSI. Z uwagi na to, iż krajowe organy odgrywają także – obok Urzędu ds. AI – istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b AIA – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), katalog obowiązków KRIBSI zawarty w art. 11 ust. 1 UoSSI powinien zostać uzupełniony również o ten wymiar obowiązków. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI powinna być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Celowe wydaje się także wyartykułowanie w UoSSI obowiązku ustawicznego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, ale i zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias). Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Potrzeba uwzględnia w przepisach prawa powszechnie obowiązującego w Polsce zagadnień związanych z wykorzystaniem systemów sztucznej inteligencji z poszanowaniem Fundacja Sztuka Media Film Mamy na uwadze, że podstawowym celem projektu ustawy o systemach sztucznej inteligencji jest stworzenie ram prawnych i instytucjonalnych niezbędnych do prawidłowego stosowania Rozporządzenia 2024/1689, które nie wprowadza zmian w prawie w zakresie prawa autorskiego. Z uwagi jednak na fakt, że tematyka wyzwań w prawie autorskim wobec rozwoju sztucznej inteligencji jest zagadnieniem szeroko dyskutowanym w przestrzeni publicznej, ze szczególnym uwzględnieniem środowisk twórczych i artystycznych, w imieniu Fundacji Sztuka Media Film, zwracamy uwagę na konieczność kompleksowego uregulowania związanych z tym zagadnieniem kwestii w polskim porządku prawnym. Nie można wykluczyć, że część powyższego problemu zostanie objęta regulacjami unijnymi, jednak z uwagi na to, że harmonizacja prawa autorskiego w państwach członkowskim przebiega w sposób punktowy oraz zważywszy na odrębność i zróżnicowanie krajowych porządków 315 praw autorskich twórców prawnych państw członkowskich Unii Europejskiej w obszarze prawa autorskiego, niewykluczona może okazać się również krajowa inicjatywa ustawodawcza w obszarze praw autorskich. Takie działania zostały podjęte m.in. we Francji, gdzie w dniu 12 września 2023 r. przedłożono projekt ustawy nr 1630 w celu zapewnienia ram prawa autorskiego dla sztucznej inteligencji. Propozycja zmian w prawie autorskim ma na celu ochronę autorów poprzez uregulowanie eksploatacji prac generowanych przez sztuczną inteligencję. Poniżej sygnalizujemy obszary, które identyfikujemy jako kluczowe z perspektywy ochrony praw twórców i wskazujemy na konieczność uwzględnienia ich w ramach dalszych zaplanowanych prac legislacyjnych oraz badawczych w zakresie rozwoju AI w Polsce: Dookreślenie w przepisach prawa powszechnie obowiązującego sposobu korzystania z utworów na potrzeby tworzenia, rozwijania oraz stosowania w obrocie gospodarczym systemów sztucznej inteligencji z poszanowaniem praw twórców, w szczególności możliwości skutecznego realizowania przez nich autorskich praw osobistych do utworów, w szczególności prawa do nadzoru nad sposobem korzystania z utworu (o którym mowa w art. 16 pkt 5 ustawy z 04.02.1994 r. o prawie autorskim i prawach pokrewnych (dalej: pr.aut.)) oraz wypłaty należnego twórcom wynagrodzenia z tytułu korzystania z ich utworów w związku z działalnością systemów sztucznej inteligencji; Dookreślenie czy polskie prawo autorskie powinno dopuszczać możliwość zastosowania definicji utworu (w rozumieniu art. 1 ust. 1 pr.aut.) w stosunku do rezultatów działalności sztucznej inteligencji? Czy – alternatywnie – polskie prawo autorskie powinno z definicji wyłączać możliwość zakwalifikowania jako utwór w rozumieniu pr.aut. rezultatów działalności sztucznej inteligencji? Czy względem rezultatów prac sztucznej inteligencji powinna powstać odrębna definicja przedmiotu praw autorskich, dostosowana do specyfiki funkcjonowania tej techniki? Jeżeli rezultaty prac sztucznej inteligencji miałyby stanowić utwór w rozumieniu pr.aut. albo w rozumieniu innej definicji stanowić przedmiot ochrony prawnoautorskiej koniecznym jest dookreślenie jakiemu podmiotowi przysługiwać będą autorskie prawa majątkowe do rezultatów prac stworzonych (wygenerowanych) przez sztuczną inteligencję. Czy będzie to dostawca systemu sztucznej inteligencji, podmiot ją stosujący, inny operator wymieniony w Rozporządzeniu 2024/1689? Czy możliwe jest przyznanie określonych, ograniczonych względem praw autorskich przysługujących twórcom, samej sztucznej inteligencji? Dookreślenie w ramach kodeksów dobrych praktyk, w jaki sposób powinny zostać wypełniane obowiązki w zakresie transparentności nakładane na twórców modeli generatywnej sztucznej inteligencji, tak aby prawa twórców utworów wykorzystywanych w procesie trenowania sztucznej inteligencji były należycie chronione, w tym doprecyzowanie również zagadnień związanych z publikacją i oznaczaniem treści wytworzonych przez sztuczną inteligencję. Brak uregulowania w projekcie SFP-ZAPA Wprowadzenie mechanizmów zapewniających – zgodnie z intencją ustawodawcy unijnego – że na każde wykorzystanie treści chronionych prawem autorskim na potrzeby sztucznej inteligencji zostanie uzyskane zezwoleniem danego podmiotu praw (motyw 105 aktu o AI). Mogłoby to 316 następować na podstawie obecnie znanych mechanizmów: licencjonowanie, mechanizm rozszerzonych zbiorowych licencji. Z uwagi na masowy charakter korzystania oraz rozproszony repertuar pośrednictwo organizacji zbiorowego zarządzania w tym procesie wydaje się niezbędne. Wprowadzenie mechanizmów zapewniających realizację obowiązku przejrzystości tak w aspekcie informowania na temat treści objętych ochroną prawnoautorską wykorzystanych na potrzeby sztucznej inteligencji, jak i w aspekcie znakowania wytworów wygenerowanych przez sztuczną inteligencję. Doprecyzowanie rodzaju informacji, jakie miałyby być dostarczane przez twórców systemów i modeli AI na temat zakresu korzystania z utworów na potrzeby ich tworzenia, rozwijania i eksploatowania, które będą umożliwiały twórcom ustalenie zakresu korzystania i odpowiadającego temu korzystaniu wynagrodzenia (obowiązek przejrzystości, obowiązki informacyjne). Obecnie w akcie o AI mowa jest jedynie ogólnie o dostarczaniu informacji o zasobach, z których twórcy systemów i modeli AI korzystają. Nie jest to wystarczające. Mamy oczywiście świadomość i wiedzę, że na poziomie Unii Europejskiej prowadzone są prace zmierzające do powstania kodeksu praktyk w tym zakresie. Uważamy jednak, że rozwiązania typu soft law nie są wystarczająco skuteczne, na co zresztą słusznie zwraca uwagę sam ustawodawca w uzasadnieniu Projektu. Jak była zaś o tym mowa powyżej, żadne przepisy nie stoją na przeszkodzie temu, aby taką regulację wprowadzić w porządku krajowym. Naszym zdaniem jest ona niezbędna. Wprowadzenie formy rekompensaty za korzystanie z utworów na potrzeby zasilania modeli i systemów sztucznej inteligencji. Także w przypadkach, o których mowa w art. 4 dyrektywy DSM. Może to oczywiście być klasyczna opłata licencyjna, bądź ustawowo zagwarantowane prawo do wynagrodzenia. Jednym z rozwiązań szeroko dyskutowanym w różnych krajach UE jest wprowadzenie mechanizmu podobnego do tego, jaki funkcjonuje w odniesieniu do tzw. opłat od czystych nośników. Przywrócenie braku możliwości korzystania z tzw. komercyjnej eksploracji tekstów i danych (tzw. TDM) na potrzeby sztucznej inteligencji. W projekcie nowelizacji ustawy o prawie autorskim i prawach pokrewnych implementującym dyrektywę DSM, opublikowanym przez Ministerstwo Kultury i Dziedzictwa Narodowego w lutym 2024 r., przesądzono, że możliwość komercyjnej eksploracji tekstów i danych nie będzie miała zastosowania do korzystania z utworów na potrzeby sztucznej inteligencji, a w szczególności jej generatywnej postaci. Rozwiązanie to zostało z satysfakcją przyjęte przez wszystkie środowiska twórcze. Niestety, w toku dalszych prac nad projektem wyłączenie to (pod wpływem opinii podmiotów, które z tego wyłączenia nie będą mogły korzystać dla niczym nieograniczonego wykorzystywania utworów na potrzeby tworzenia i rozwijania modeli i systemów generatywnej sztucznej inteligencji) zostało usunięte. Braku tego 317 rodzaju zapisu w ustawie nie sanuje przewidziane tak w dyrektywie DSM, jak i projekcie prawo zgłoszenia zastrzeżenia co do takiego korzystania. W obecnym kształcie ustawy opcja opt-out (prawo zgłoszenia zastrzeżenia) jest iluzoryczna, gdyż nieefektywna (brak jest bowiem rozwiązań prawnych i technicznych, które określałyby jak w praktyce w skuteczny sposób z prawa tego korzystać). Twórcom nie zapewniono także żadnego rodzaju rekompensaty za tego rodzaju korzystanie, co godzi w ich podstawowe prawa. Doszczegółowienie zasad i warunków korzystania z prawa zastrzeżenia opt-out w przypadku, o którym mowa w art. 4 ust. 3 dyrektywy DSM nie tylko w formie nadającej się do odczytu maszynowego wraz z metadanymi, ale też w taki sposób, aby następowało z uwzględnieniem warunków korzystania ze strony internetowej lub usługi. Z uwagi na brak szczegółowych regulacji (nie tylko w aspekcie prawnym, ale też technicznym) w jaki korzystanie z prawa opt-out miałaby następować jest ono trudne do zrealizowania w praktyce. Brak zapewnienia skutecznego sposobu korzystania przez uprawnionych z tego prawa spowoduje masowe nadużywanie formy dozwolonego użytku przewidzianej w art. 4 dyrektywy DSM, co będzie prowadzić – wbrew założeniom aktu o AI – do naruszania praw autorskich w związku z korzystaniem z utworów na potrzeby sztucznej inteligencji. Przesądzenie, że wyjątek dotyczący eksploracji tekstów i danych odnosi się jedynie do utworów, do których beneficjent wyjątku ma legalny dostęp (zgodnie z art. 3 ust. 1 dyrektywy DSM). W przeciwnym wypadku powstaje ryzyko masowego nadużywania tej formy dozwolonego użytku w celu niezgodnego z prawem zwielokrotniania i przechowywania utworów. Przesądzenie, aby zastrzeżenie opt-out mogło być składane także przez organizacje zbiorowego zarządzania w imieniu uprawnionych, którzy powierzyli danej organizacji swoje prawa w zbiorowy zarząd. Stanowisko to uzasadnia masowa skala korzystania z utworów w ramach wyjątku eksploracji tekstów i danych. Opracowanie mechanizmów zapobiegających naruszaniu praw autorskich w związku z korzystaniem z rozwiązań sztucznej inteligencji, w tym wskazujących podmioty odpowiedzialne (np. analogicznie do rozwiązania przewidzianego w art. 17 dyrektywy DSM). Mechanizm ten powinien określać katalog przesłanek, po spełnieniu których, dostawca może uwolnić się od odpowiedzialności. Powinien też opierać się o szeroki system domniemań – jak domniemanie trenowania na utworach, domniemanie zwielokrotniania utworów. Domniemania te mogą być wzruszalne. Pozwolą jednak w sposób sprawiedliwy rozłożyć ciężar dowodu. Pełna wiedza na temat funkcjonowania systemów sztucznej inteligencji, w tym m.in. na temat tego z jakich źródeł są one zasilane, jest wyłącznie po stronie ich dostawców. Do wiedzy tej nie mają i nie będą mieć dostępu uprawnieni z tytułu praw autorskich, którzy z kolei dostarczają treści, które owe systemy 318 zasilają. Bez konstrukcji domniemań prawa twórców nie zostaną zatem zagwarantowane, ani w praktyce zrealizowane. Działania komunikacyjne i edukacyjne Krajowy Instytut Mediów Kategorie interesariuszy, które powinny być traktowane priorytetowo w zakresie działań komunikacyjnych i edukacyjnych w związku z procesem wchodzenia w życie rozporządzenia 2024/1689 Jak wskazano w motywie 4 rozporządzenia 2024/1689: AI to szybko rozwijająca się grupa technologii, która przyczynia się do wielu różnych korzyści ekonomicznych, środowiskowych i społecznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej, przy czym w motywie 5 aktu w sprawie sztucznej inteligencji zaznaczono, że AI może jednocześnie stwarzać zagrożenia i wyrządzać szkody dla interesu publicznego i praw podstawowych chronionych przepisami prawa Unii, w zależności od okoliczności jej konkretnego zastosowania, wykorzystania oraz od poziomu rozwoju technologicznego. Szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne. Dlatego też podejmowanie działań związanych z procesem wchodzenia w życie rozporządzenia 2024/1689 wymaga przede wszystkim wzięcia pod uwagę potrzeb dzieci, których szczególna wrażliwość pociąga za sobą konieczność zapewnienia im takiej ochrony i opieki, jaka jest niezbędna dla ich dobra, a także potrzeb seniorów, cechujących się podatnością na zagrożenia związane ze zjawiskiem dezinformacji. Wsparcie i edukacja w tym zakresie stanowią kluczowy element upowszechniania AI na rynku wewnętrznym, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych. Systemy zakazane i wyłączenia Panoptykon Zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej Zgodnie z art. 5 ust 1 lit. h rozporządzenia w sprawie sztucznej inteligencji, wykorzystywanie systemów zdalnej identyfikacji biometrycznej w przestrzeni publicznej do celów ścigania przestępstw w czasie rzeczywistym jest co do zasady zakazane, chyba że ich wykorzystanie jest bezwzględnie konieczne do celów wymienionych w tym przepisie. Jednocześnie, art. 5 ust. 5 rozporządzenia wymaga w tych przypadkach od państw członkowskich, aby przyjęły krajowe przepisy, które szczegółowo regulowałyby zasady udzielania i nadzorowania zezwoleń na wykorzystanie takich systemów. Brak tych przepisów w projekcie opiniowanej ustawy interpretujemy jako decyzję ustawodawcy o braku zgody na wykorzystywanie systemów zdalnej biometrycznej identyfikacji do celów ścigania przestępstw. Zdecydowanie popieramy taką decyzję projektodawcy i rekomendujemy jej utrzymanie w ostatecznej wersji projektu. W tym miejscu warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem w sprawie sztucznej inteligencji, pełny zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej – jako naruszających istotę prawa do prywatności – rekomendowały, obok organizacji społecznych, wiodące organy ochrony danych osobowych i praw człowieka: Europejski Inspektor Ochrony Danych i Wysoki Komisarz ONZ ds. Praw Człowieka Model z zakresu prawa i administracji Osoba fizyczna AJ W niniejszym mailu doszczegółowię moje (przedsiębiorca) oczekiwania w stosunku do inicjatywy AI w Polsce. 319 Widzę potrzebę modelu (może być na wzór QRA) nauczonego wiedzą z zakresu administracji i prawa. Do stworzenia takiego modelu można użyć danych z: 1. aktów notarialnych: (dostępne w administracji skarbowej i urzędach powiatowych w zakresie nieruchomości), 2. umów kupna-sprzedaży: dostępne w administracji skarbowej, 3. dokumentów sądowych: dostępne w sądach 4. dokumentów administracyjnych: zezwolenia, rejestry, mapy geodezyjne, wnioski tip: dostępne w urzędach Tak nauczony model można stosować np. w starostwie, gdzie po kilka osób na powiat prowadzi rejestr cen nieruchomości, wprowadzając dane z aktów notarialnych. Możliwe byłoby usprawnienie pracy tych urzędników i przez to oddelegowanie pracowników do innych zadań niż przetwarzanie aktów notarialnych Podobnie na poziomie gmin, prowadzone są rejestry podatkowe na podstawie informacji z aktów notarialnych i ten proces można zautomatyzować za pomocą AI. Gmin jest w PL 2498. Jeśli tak nauczony model będzie ogólnie dostępny to mogą go także wykorzystywać adwokaci, rzeczoznawcy i urzędnicy do przetwarzania dokumentacji administracyjnej. Taki model także może być użyty w sądach i prokuraturach np. do segregacji dokumentów czy wstępnej klasyfikacji dokumentów. Ale na początek proponuję analizę aktów notarialnych w celu uzupełnienia danych rejestru cen w powiatach, co jest czynnością wymaganą ustawowo. Dane do budowy modelu posiada administracja państwowa, projekt można zrobić na podobieństwo projektu QRA, byćmoże w nowszej architekturze. Osobiście widzę także potrzebę modelu do rozpoznawania obiektów ze zdjęć satelitarnych. Jednakże ten model byłby wykorzystywany przez ograniczoną grupę użytkowników, więc na razie go nie zgłaszam. Nowy rozdział Identyfikacja biometryczna GRAI Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, ale tylko w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3.Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. 320 Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. W mojej ocenie Polska powinna wprowadzić takie bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd Nowy rozdział Identyfikacja biometryczna GRAI Nie należy przyjmować wyjątków pozwalajacych na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłacznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; • Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Act, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikwoane będą osoby postronne. Myślę, że będzie to dobra forma kotnroli / presji społecznej; • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Act rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów – tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. Nowy rozdział identyfikacja biometryczna GRAI Act reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Błędy językowe NRA 1. Art. 1 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 321 2. Art. 3 Projektu — W artykule pojawia się błąd typograficzny. Spacje wokół dywizu (łącznika) i półpauzy są zbędne. Zaleca się ich usunięcie lub, w razie potrzeby, zastosowanie myślnika, który można oddzielić spacjami. 3. Art. 4 ust. 3 Projektu — W przepisie użyto zbędnej kropki po skrócie słowa „punkt, tj: „pkt.”. Zgodnie z zasadami języka polskiego kropka w tym przypadku jest niepożądana, ponieważ skrót sam w sobie jest jednoznaczny. 4. Art. 5 ust. 6 Projektu — Występuje błąd językowy w postaci użycia czasownika „posiadać” w odniesieniu do pojęć abstrakcyjnych („komisja”). Zaleca się użycie czasownika „mieć”, co jest zgodne z konwencją językową dotyczącą rzeczy niematerialnych. 5. Art. 7 ust. 6 Projektu — Brakuje przecinka w wyrażeniu „zakresie, w jakim”. Dodanie przecinka poprawia czytelność i zgodność składniową zdania. 6. Art. 9 ust. 2 Projektu — Błąd składniowy polegający na użyciu nieprawidłowej formy przypadkowej rzeczownika „podmiot”. W błędnym zapisie mamy niepoprawną formę „w podmiotu”, która jest wynikiem mylnego użycia dopełniacza w bezpośrednim sąsiedztwie przyimka „w” zamiast wymaganego miejscownika. W poprawnym sformułowaniu „w podmiocie, którego są przedstawicielami” rzeczownik „podmiot” występuje w miejscowniku, ponieważ wymaga tego przyimek „w” (miejscownik: „w kim? w czym?” – „w podmiocie”), z kolei zaimek „którego” powinien być w dopełniaczu, aby zgadzał się z sensownym związkiem z resztą zdania, gdyż członkowie Komisji są przedstawicielami kogo? czego? – „podmiotu” (dopełniacz). 7. Art. 11 ust. 1 pkt 6 Projektu — Błąd językowy polegający na nieprawidłowym użyciu formy mianownika zamiast dopełniacza. Obecne brzmienie przepisu powinno zostać poprawione poprzez użycie form „postanowień i decyzji” w dopełniaczu. Prawidłowe, poprawne językowo sformułowanie przepisu powinno zatem brzmieć: „Do zadań Komisji należy (...) wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. 8. Art. 12 ust. 2 Projektu — Przecinek przed wyrazem „Komisja” jest zbędny i powinien zostać usunięty, aby zachować poprawność interpunkcyjną. 9. Art. 14 ust. 3 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo”. Przecinek w tym miejscu poprawia strukturę zdania i ułatwia jego czytelność. 10. Art. 19 ust. 4 Projektu — W treści przepisu brakuje przecinka przed wyrażeniem „gdy”. Wstawienie przecinka zapewnia zgodność z zasadami interpunkcji i poprawia czytelność przepisu. 322 11. Art. 20 ust. 4 Projektu — W zdaniu „przeprowadza komisja kwalifikacyjna,,” występują bezpośrednio po sobie dwa przecinki, co jest błędem typograficznym. Należy usunąć zbędny przecinek. 12. Art. 20 ust. 9 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia przejrzystość i rytm zdania. 13.Art. 25 ust. 2 Projektu — Sformułowanie „wzajemna wymiana” jest pleonazmem. Zaleca się użycie wyrażenia „wymiana”, które już samo w sobie zakłada wzajemność. 14. Art. 26 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 15. Art. 33 ust. 3 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową przepisu. 16. Art. 34 ust. 2 ppkt 2 Projektu — Brak kropki po skrócie słowa „artykuł”, tj.: „art”, co jest niezgodne z zasadami stosowania skrótów w języku polskim. Skrót powinien kończyć się kropką. 17. Art. 40 ust. 1 Projektu — W przepisie występuje błąd interpunkcyjny. Należy dostosować znaki przestankowe, aby poprawić strukturę zdania i jego przejrzystość. 18. Art. 43 ust. 2 Projektu — Brak przecinka przed drugim wystąpieniem słowa „lub” w obrębie jednego zdania. Dodanie przecinka poprawia klarowność przepisu i zgodność z zasadami interpunkcji. 19. Art. 43 ust. 3 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Dodanie przecinka wpływa pozytywnie na strukturę składniową i przejrzystość przepisu. Należy skreślić słowo “się” po słowach “czynności kontrolne”. 20. Art. 43 ust. 9 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Wstawienie przecinka poprawia przejrzystość i czytelność przepisu. 21. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową i jednoznaczność przepisu. 22. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zgodnie z zasadami interpunkcji zwiększa czytelność. 23. Art. 45 ust. 5 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo” w obrębie jednego zdania. Poprawne wstawienie przecinka zapewnia spójność interpunkcyjną. 24. Art. 48 Projektu — Podwójny przecinek w wyrażeniu: „w toku kontroli, , że mogło dojść” jest błędem typograficznym i wymaga usunięcia drugiego przecinka. Dodatkowo 323 brakuje słowa „Komisja” we frazie „Komisja jest obowiązana”, co poprawi składnię i jednoznaczność przepisu. 25. Art. 54 ust. 6 Projektu — Brak przecinka przed drugim użyciem słowa „lub” w obrębie jednego zdania, co zaburza rytm tego zdania i jego przejrzystość. Dodanie przecinka zgodnie z zasadami interpunkcji poprawi czytelność przepisu. 26. Art. 59 ust. 1 Projektu — Błędna interpunkcja. Poprawne użycie przecinków poprawi strukturę składniową i czytelność. 27. Art. 64 ust. 1 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka zwiększa przejrzystość i spójność przepisu. 28. Art. 64 ust. 3 ppkt 2 Projektu — Powtórzenie wyrażenia „do spraw” jest zbędne. Usunięcie jednego z wyrażeń poprawi spójność i czytelność przepisu. 29. Art. 65 ust. 2 ppkt 2 Projektu — Brak przecinka przed wyrażeniem „jak również”. Dodanie przecinka zwiększa przejrzystość i poprawność składniową. 30. Art. 69 ust. 1 Projektu — W przepisie występuje błędna interpunkcja, w tym brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawi strukturę przepisu. 31. Art. 70 ust. 2 Projektu — Brak przecinka między czasownikami „oparła” i „nakładając” w zdaniu złożonym. Dodanie przecinka poprawi płynność i poprawność składniową przepisu. 32. Art. 71 ust. 1 Projektu — Błędna interpunkcja. Wymagane jest dostosowanie przecinków do zasad poprawnej konstrukcji zdania. 33. Art. 73 ust. 1 Projektu — Zbędny przecinek przed słowem „albo”. Usunięcie przecinka poprawi strukturę składniową przepisu. 34. Art. 73 ust. 4 Projektu — Zbędny przecinek przed słowem „Komisja”. Usunięcie przecinka dostosuje przepis do zasad poprawnościowych. 35. Art. 73 ust. 7 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zwiększa spójność strukturalną i przejrzystość przepisu. 36. Art. 75 ust. 2 Projektu — Przepis zawiera nawias, który został otwarty, ale nie zamknięty. Dodatkowo, część zdania umieszczona w nawiasie („z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689”) zawiera błędy gramatyczne, albowiem słowo „postępowanie” powinno występować w dopełniaczu („postępowania”), aby zachować poprawność językową. Ponadto sama konstrukcja przepisu jest niejasna, ponieważ wstawienie części zdania w nawias niepotrzebnie komplikuje jego treść. 324 37. Art. 80 ppkt 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 38. Art. 80 in fine Projektu — Brak kropki po cudzysłowie na końcu zdania. Dodanie kropki zgodnie z zasadami interpunkcji poprawi poprawność zapisu. 39. Art. 84 ust. 3 Projektu — Przecinek przed słowem „wykonuje” jest zbędny i powinien zostać usunięty dla zachowania poprawności składniowej. 40. Art. 87 ust. 2 Projektu — Sformułowanie „maksymalny limit wydatków” stanowi pleonazm. Wystarczy wyrażenie „limit wydatków”, które poprawia przejrzystość przepisu. 41. Art. 87 ust. 2 Projektu — Zbędny przecinek przed słowem „stosuje”. Usunięcie przecinka poprawi strukturę składniową i czytelność przepisu. 42. Art. 87 ust. 4 Projektu — Brak kropki po skrócie słowa „ustęp”, tj.: „ust”. Dodanie kropki zgodnie z zasadami języka polskiego zwiększa poprawność formalną. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach opiniowania Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko Uwagi Ogólne 1. Uwaga ogólna Szef Służby Cywilnej Zgodnie z art. 153 Konstytucji RP, Prezes Rady Ministrów jest zwierzchnikiem korpusu służby cywilnej, który działa w urzędach administracji rządowej. W związku z tym, wątpliwości budzi propozycja ukształtowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i Przewodniczącego tej Komisji. Komisja będzie miała typowe zadania regulacyjno-nadzorcze państwa, a jej biuro te zadania będzie współrealizowało. Będzie ponadto obsługiwać Komisję. Są to więc typowe zadania urzędnicze. W całości wpisują się one również w zakres przedmiotowy działu administracji rządowej – informatyzacja. Dział ten obejmuje m.in. zagadnienia dotyczące rozwoju usług świadczonych drogą elektroniczną, czy bezpieczeństwa cyberprzestrzeni. Wskazuje na to również art. 70 ust. 4 rozporządzenia 2024/1689 Parlamentu Europejskiego i Rady (EU)1, który stanowi, że właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. Zasadą powinno być zatem, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak, jak to ma miejsce w przypadku np. Urzędu Komunikacji Elektronicznej, Urzędu Transportu Kolejowego czy Urzędu Regulacji Energetyki). Realizacja obowiązków nałożonych na wskazane organy opiera się głównie na wykonywaniu zadań, które niemal w całości mają charakter zadań urzędniczych (np. prowadzenie postępowań administracyjnych, opiniowanie aktów prawnych, rozpatrywanie Uwaga nieuwzględniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 2 skarg). Zatem uzasadnione jest, aby zadania te wykonywali członkowie korpusu służby cywilnej. Usytuowanie tej jednostki w służbie cywilnej wzmocni ją poprzez nałożenie wysokich standardów wynikających z przepisów, w tym zasad służby cywilnej i zasad etyki korpusu służby cywilnej. Pozwoli to również zneutralizować ryzyka korupcyjne i da mechanizmy służąc przeciwdziałaniu nieporządanym sytuacjom. Usytuowanie Biura w służbie cywilnej zapewni także równość wszystkich osób realizujących ważne dla obywatelek i obywateli zadania. W uzasadnieniu projektodawca wskazał, że wzorował się na regulacjach dot. Komisji Nadzoru Finansowego, jako przykładu umiejscowienia organu nadzoru i regulatora rynku w strukturze organów administracji państwowej. Jest to jednak przykład jednostkowy. Ponadto KNF została utworzona w 2006 r., zaś w kolejnych latach ustawodawca odszedł od tego modelu, na rzecz umiejscawiania regulatorów rynku i organów nadzoru w strukturze urzędów administracji rządowej, w których funkcjonuje korpus służby cywilnej (UTK, URE, UKE itd.). 2. Uwaga ogólna Szef Służby cywilnej W art. 70 ust. 3 ww. rozporządzenia wskazano, że właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów. Problem pozyskania wyposażonych w odpowiednią wiedzę, fachowych pracowników może i powinien być rozwiązany przy pomocy regulacji zawartych w ustawie o służbie cywilnej dotyczących naboru. W nawiązaniu do uwagi nr 1 należy zatem wskazać, że nie ma żadnych przeszkód, aby pozyskiwanie pracowników do Biura Komisji odbywało się w drodze otwartego i konkurencyjnego naboru. Uwaga nieuwzględniona 3. Uwaga ogólna – rola Rzecznik Finansowy (...) na Rzeczniku Finansowym będzie spoczywał ciężar identyfikacji naruszeń zasad wykorzystywania systemów AI przez podmioty rynku finansowego, a w przypadku ustalenia Uwaga nieuwzględniona 3 Rzecznika Finansoweg o w systemie nadzoru nad SSI przesłanek dla stwierdzenia naruszenia przez nie Aktu o sztucznej inteligencj lub projektu ustawy, obowiązek zwrócenia się z właściwym wnioskiem do Komisji. Należy jednak mieć na uwadze, że Rzecznik Finansowy czerpie informacje o naruszeniach prawa przez podmioty rynku finansowego w oparciu o zgłoszenia w sprawach indywidualnych. Zgłoszenia te objęte są zaś tajemnicą zarówno przedsiębiorstwa, jak i bankową (lub inną zawodową). To zaś może stanowić istotną przeszkodę dla przekazania do Komisji danych na temat stwierdzonych przez Rzecznika Finansowego naruszeń. W projekcie ustawy nie znajdują się postanowienia uprawniające Komisję do otrzymywania takich informacji (uprawniające podmioty o których mowa w art. 7 ust. 3 projektu ustawy do przekazanie danych objętych tajemnicą). Rzecznik Finansowy sugeruje rozważenie by zawrzeć w projekcie ustawy analogiczne postanowienie jak to przewidziane w art. 17 ust. 1, 2 i 3 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, gdzie przewidziano zasady przekazywania informacji między Komisją Nadzoru Finansowego a Narodowym Bankiem Polskim: 1. Komisja i Narodowy Bank Polski przekazują sobie dokumenty i informacje, w tym chronione na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowych zadań. 2. Przepis ust. 1 stosuje się odpowiednio do przekazywania dokumentów i informacji pomiędzy Komisją a Bankowym Funduszem Gwarancyjnym, Ubezpieczeniowym Funduszem Gwarancyjnym, Rzecznikiem Finansowym oraz ministrem właściwym do spraw instytucji finansowych. 3. W celu określenia zasad współpracy i przekazywania dokumentów i informacji, o których mowa w ust. 1 i 2, Komisja zawiera porozumienia oraz umowy z podmiotami, o których mowa w ust. 1 i 2. Zawarcie w projekcie ustawy analogicznego postanowienia umożliwi udostępnianie informacji zgromadzonych w toku rozpatrywania spraw indywidualnych klientów podmiotów rynku finansowego. Dodatkowo wskazujemy na zmianę organizacji Komisji w zakresie uczestnictwa podmiotów z głosem doradczym. 4 W ocenie Rzecznika Finansowego za zasadnością uregulowania kwestii wymiany informacji pomiędzy Komisją i Rzecznikiem Finansowym przemawia również wykładnia art. 7 ust. 3 projektu ustawy w zw. z art. 25 ust. 4 projektu ustawy. Zgodnie z art. 7 ust. 3 projektu ustawy, Rzecznik Finansowy oraz przedstawiciele innych wymienionych tam instytucji mogą brać udział w posiedzeniach Komisji z głosem doradczym. W art. 25 projektu ustawy jest uregulowana kwestia wymiany informacji między Przewodniczącym Komisji, Zastępcami Przewodniczącego Komisji oraz członkami Komisji, informacji, w tym tajemnic prawnie chronionych. W art. 25 ust 4 projektu ustawy wskazano, komu ww. osoby mogą tych informacji udzielać, ale nie ma wśród nich przedstawicieli instytucji, które zgodnie z art. 7 ust 3 projektu ustawy mogą brać udział w posiedzeniach Komisji. Wydaje się więc zasadne dopuszczenie, przynajmniej w zakresie związanym z reprezentowaną branżą, również przedstawicieli instytucji wymienionych w art. 7 ust 3 projektu ustawy do wymiany informacji. W przypadku braku takich uprawnień, może to utrudniać realne wykonywanie głosu doradczego, a nawet niekorzystnie wpływać na prace Komisji, jeśli na posiedzeniach nie będzie możliwa swobodna wymiana informacji z uwagi na to, że biorą w nich udział osoby, które dostępu do tych informacji nie mają. 4. Uwaga ogólna PFR Ustawa i Rozporządzenie wprowadzają dodatkowe wymogi i obciążenia dla przedsiębiorców, co może generować znaczne koszty, zwłaszcza w przypadku startupów i małych przedsiębiorstw. Poddajemy pod rozwagę możliwość wprowadzenia ulg podatkowych lub innych form wsparcia finansowego lub uproszczeń dla przedsiębiorstw (zwłaszcza małych i średnich), które inwestują w rozwój zgodnych z przepisami systemów sztucznej inteligencji; Ustawa wprowadza obowiązki raportowania poważnych incydentów w sytuacji, gdy obowiązek taki nakłada już ustawa o krajowym systemie cyberbezpieczeństwa. Zachodzi więc ryzyko, iż w przypadku sporej liczby polskich podmiotów, tym PFR, ten sam incydent będzie powodował konieczność podwójnego raportowania. Postulujemy, o ile to możliwe, takie Uwaga nieuwzględniona Obowiązek raportowania, o którym mowa w dyrektywie NIS i NIS 2 dotyczy innego obszaru i oparte jest na innej podstawie prawnej niż obowiązki dotyczące systemów AI wynikające z rozporządzenia 2024/1689. Na poziomie technicznym kwestie raportowania incydentów mogą (i powinny) być - na wykraczającym poza fazę legislacji etapie realizacji - przygotowane i udostępnione użytkownikom w sposób zapewniający prostotę i spójność, pozwalając dokonać obu typów zgłoszeń w analogiczny sposób. 5 uregulowanie zgłaszania incydentów, które nie nakładałoby na dany podmiot obowiązków raportowania tego samego incydentu dwa razy do dwóch różnych organów administracji publicznej; 5. Uwaga ogólna NCBR Określone problemy w realizacji zapisów ustawy mogą wynikać z tego, że produkty, usługi, systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE i oddzielne krajowe urzędy mogą podejmować różne decyzje w tym zakresie. Powstaje szereg pytań np. czy wcześniej podjęte decyzje w innych krajach powinny wpływać - być uwzględniane w krajach, które później zajęły się daną sprawą. Co ze zgłaszaniem incydentów przez korporacje globalne - czy powinny być zgłaszane wszystkie incydenty czy też tylko te, które dotyczą użytkowników w danym kraju? Można wymienić w kontekście powyższych wątpliwości następujące problemy: 1. Różne decyzje krajowych urzędów Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie mechanizmu wzajemnego uznawania decyzji certyfikacyjnych między krajami UE. Decyzje podjęte w jednym kraju powinny być uwzględniane przez inne kraje, co zapewni spójność regulacyjną i ułatwi firmom działanie na rynku wewnętrznym. 2. Uwzględnianie wcześniejszych decyzji Problem: Brak mechanizmu uwzględniania wcześniej podjętych decyzji w innych krajach może prowadzić do powielania procesów certyfikacyjnych i zwiększenia kosztów dla firm. Propozycja zmiany: Wprowadzenie obowiązku uwzględniania decyzji podjętych w innych krajach UE. Można również rozważyć utworzenie centralnej bazy danych decyzji certyfikacyjnych, Uwaga nieuwzględniona Rolę koordynacji mającej na celu zapewnić spójność stosowania rozporządzenia 2024/1689 pełnić mają, na podstawie jego przepisów, instytucje powołane na podstawie jego przepisów i dla celów jego realizacji, czyli Komisja Europejska oraz Europejska Rada ds. AI. Wprowadzanie na poziomie krajowego wdrożenia przepisów regulujących te kwestie prowadziłoby do naruszenia ram przewidzianych dla krajowego legislatora w treści przepisów rozporządzenia. Jednocześnie uwagi dotyczące spójności i interoperacyjności prawnej systemu należy uznać za cenne. Ich zapewnieniu pomóc mają stałe prace eksperckie w ramach grup i podgrup powołanych przez Europejskiej Radzie ds. AI. W odniesieniu do kwestii zgłaszania incydentów przez firmy międzynarodowe - ta kwestia jest częściowo rozwiązana przez centralizację procedur zgłaszania incydentów dot. modeli AI ogólnego przeznaczeni bezpośrednio do Komisji Europejskiej (Urząd ds. AI). 6 która będzie dostępna dla wszystkich krajowych urzędów nadzorczych. 3. Zakres zgłaszania incydentów przez korporacje globalne Problem: Globalne korporacje mogą mieć trudności z określeniem, które incydenty powinny być zgłaszane w poszczególnych krajach. Zgłaszanie wszystkich incydentów może być niepraktyczne i obciążać administracyjnie zarówno firmy, jak i urzędy nadzorcze. Propozycja zmiany: Wprowadzenie jasnych wytycznych dotyczących zgłaszania incydentów. Dla przykładu: Incydenty powinny być zgłaszane w kraju, w którym miały miejsce, oraz w krajach, których użytkownicy zostali dotknięci. Można również rozważyć wprowadzenie centralnego systemu zgłaszania incydentów na poziomie UE, który będzie koordynował zgłoszenia między krajami. 4. Harmonizacja procedur zgłaszania Problem: Różne procedury zgłaszania incydentów w poszczególnych krajach mogą prowadzić do niejasności i opóźnień w zgłaszaniu incydentów przez globalne korporacje. Propozycja zmiany: Harmonizacja procedur zgłaszania incydentów na poziomie UE. Wprowadzenie jednolitych formularzy i procedur zgłaszania, które będą stosowane we wszystkich krajach członkowskich, co ułatwi firmom spełnianie wymogów regulacyjnych. 6. Uwaga ogólna NCBR Warto rozważyć możliwość zorganizowania funkcjonowania organu nadzoru ds. SSI na wzór Państwowej Komisji Badania Wypadków Lotniczych oraz Rady Ochrony i Ułatwień Lotnictwa Cywilnego, uregulowanych Ustawą z dnia 3 lipca 2002 r. „Prawo lotnicze” (Dz.U. 2022 poz. 1235). Wzorzec ten jest bardziej adekwatny do zadań związanych z rozwojem SI. PKBWL działa przy ministerstwie, wymagane kwalifikacje członków są precyzyjnie określone. Zadaniem KBWL jest analizowanie zaistniałych zdarzeń, opracowywanie raportów i zaleceń. W 7 przypadku KRiBSI dodatkowo dochodzą zadania związane z opiniowaniem SSI jeszcze przed ich oddaniem do użytku i wydawanie opinii. Warto zwrócić uwagę, że obsługę administracyjną PKBWL zapewnia ministerstwo, a członkowie komisji otrzymują wynagrodzenie. W KRiBSI w proponowanym kształcie członkowie Komisji nie otrzymują wynagrodzenia, a są jedynie oddelegowani do udziału Komisji. Może to, w połączeniu z brakiem odpowiednich kwalifikacji powodować brak zaangażowania w pracę Komisji z jednoczesnym jej przerzucaniem na barki pracowników Biura Komisji. Z kolei Rada Ochrony i Ułatwień Lotnictwa Cywilnego jest ciałem doradczym i opiniującym. Podobnie można podzielić kompetencje Komisji i Rady w przypadki SI, powierzając Radzie zadnia nakierowane na wypracowanie przyszłych strategii i wspieranie rozwoju SI. 7. Uwaga ogólna NCBR Koszty wdrożenia: Implementacja nowych przepisów wiąże się z wysokimi kosztami, zarówno dla państwa, jak i dla przedsiębiorstw. Firmy mogą być obciążone dodatkowymi kosztami związanymi z dostosowaniem się do nowych wymogów regulacyjnych. Warto rozważyć wprowadzenie programów wsparcia finansowego dla MŚP, które pomogą im dostosować się do nowych wymogów. Można również rozważyć ulgi podatkowe lub dotacje na wdrożenie systemów AI zgodnych z nowymi przepisami. Uwaga nieuwzględniona Postulat poza zakresem przedmiotu regulacji. Należy zaznaczyć, że koszty dostosowania się do nowych regulacji mogą być objęte przedmiotem finansowania w ramach programów grantowych. 8. Uwaga ogólna NCBR Brak jasności w niektórych przepisach: Niektóre zapisy ustawy są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. Oto kilka przykładów: • Nie w pełni jasne definicje systemów AI wysokiego ryzyka: Projekt ustawy nie precyzuje dokładnie, jakie systemy AI są uznawane za wysokiego ryzyka. To może prowadzić do różnorodnych interpretacji i trudności w ocenie, które systemy podlegają surowszym regulacjom. Uwaga uwzględniona częściowo W zakresie przetwarzania danych osobowych przepisy projektu zostały zmodyfikowane. W projekcie wprowadzano również instytucje wyjaśnień i indywidualnych opinii. Co do jednoznaczności terminów, wynikają one z treści przepisów rozporządzenia. Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689 i nie może modyfikować przepisów prawa UE 8 • Brak jednoznacznych kryteriów transparentności: Przepisy dotyczące transparentności algorytmów i oznaczania treści generowanych przez AI są niejasne. Firmy mogą mieć trudności z ustaleniem, jakie informacje muszą ujawniać, aby spełnić wymogi ustawy. • Nieprecyzyjne zasady dotyczące ochrony danych osobowych: Chociaż ustawa przewiduje ochronę danych osobowych, brak precyzyjnych definicji i procedur może prowadzić do niejednoznaczności w zakresie odpowiedzialności za naruszenia prywatności. • Brak szczegółowych wytycznych dla MŚP: Mikro, Małe i Średnie przedsiębiorstwa mogą mieć trudności z interpretacją przepisów dotyczących certyfikacji i zgodności, co może prowadzić do ich marginalizacji na rynku. Warto doprecyzować definicje i zapisy w ustawie, szczególnie te dotyczące transparentności algorytmów, oznaczania treści generowanych przez AI oraz ochrony danych osobowych. Można również wprowadzić wytyczne interpretacyjne, które pomogą w jednoznacznym stosowaniu przepisów. 9. Uwaga ogólna Prokuratoria Generalna Ze względu na zakładany w projekcie status Biura Komisji jako państwowej osoby prawnej (art. 5 ust. 1 projektu) i zakres kompetencji Komisji warto rozważyć, czy Biuro Komisji, po wejściu w życie projektowanej ustawy, nie powinno zostać wpisane na listę podmiotów zastępowanych przez Prokuratorię Generalną. Zgodnie z art. 12 ust. 3 ustawy o Prokuratorii Generalnej Rzeczypospolitej Polskiej listę takich podmiotów określa Prezes Rady Ministrów, w drodze rozporządzenia, mając na względzie m.in. przedmiot działalności osoby zastępowanej, znaczenie prowadzonej działalności dla interesów Rzeczypospolitej Polskiej, zapewnienie ochrony praw i interesów osób zastępowanych. Uwaga wyjaśniona Postulat zostanie uwzględniony poprzez zawnioskowanie o wpisanie Biura Komisji na listę podmiotów zastępowanych przez Prokuratorię Generalną 10. Uwaga ogólna ZPP Kluczowe wydaje się zapewnienie możliwie spójnej i jednolitej implementacji AI Act w poszczególnych państwach członkowskich. Cały koncept jednolitego rynku cyfrowego Uwaga uwzględniona 9 sprowadza się do stworzenia przestrzeni dla rozwoju europejskiej branży technologicznej pozbawionej niepotrzebnych sztucznych przeszkód, a także ustanowienia wspólnych ram prawnych, tak by działalność transgraniczna wpisana w naturę przedsiębiorstw cyfrowych, była możliwie najłatwiejsza. Mając to na uwadze, choć popieramy koncepcję powołania zupełnie nowego organu nadzoru nad AI w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, chcielibyśmy zwrócić uwagę na szeroki zakres jej uprawnień – potencjalnie wkraczający na pole kompetencji unijnej Rady ds. AI, co może prowadzić do fragmentaryzacji jednolitego rynku. Wątpliwości w tym zakresie dotyczą przede wszystkim możliwości wydawania indywidualnych i generalnych interpretacji w sytuacji, gdy wspomniana Rada jest umocowana właśnie do wydawania zaleceń i opinii nt. „wszystkich istotnych zagadnień związanych z wdrażaniem” AI Act. Tak sformatowane zakresy kompetencji nie muszą, ale z pewnością mogą prowadzić do kolizji, zwłaszcza jeśli inne państwa członkowskie podążą tą samą ścieżką i znaczna ich część zdecyduje się umożliwić krajowym organom wydawanie interpretacji czy zaleceń w obszarach objętych rozporządzeniem. Wydaje się, że z punktu widzenia zapewnienia jednolitości i spójności rynku, Komisja powinna być ciałem wykonawczym i ewentualnie punktem kontaktowym w zakresie wsparcia przedsiębiorców w obszarze np. wiedzy o utrwalonych i zatwierdzonych przez Radę ds. AI wzorcach czy praktykach. W celu uniknięcia potencjalnych niejasności komunikacyjno-interpretacyjnych odstąpiono od instytucji interpretacji indywidualnych i generalnych na rzecz w wyjaśnień i opinii indywidualnych. 11. Uwaga ogólna ZPP Pragniemy zwrócić uwagę na brak regulacji dotyczących tworzenia „piaskownic regulacyjnych” – w projekcie znajduje się wyłącznie ogólne zastrzeżenie, że podejmowanie działań mających na celu ich utworzenie jest jednym z zadań Komisji. Z uwagi na szczególną rolę sanboxów w regulacji AI Act, a także na ich potencjał do wspierania innowacji, wydaje się że przedstawiony projekt ustawy powinien bardziej szczegółowo i czytelnie odnosić się do ich tworzenia. Jak wynikałoby z uzasadnienia, będzie to przedmiotem dalszych prac legislacyjnych – natomiast wydaje się, że wsparcie dla rozwoju innowacji w zakresie AI jest co najmniej równie ważne, jak wprowadzenie mechanizmów kontrolnych. Z tego punktu Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 10 widzenia należy stwierdzić, że projekt ustawy pozostaje w powyższym zakresie niezbalansowany. 12. Uwaga ogólna dot. procesu kontroli Konfederacj a Lewiatan Cały proces kontroli powinien skupiać sie nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzytywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologi i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania szcztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na opertatora takich systemów. Uwaga wyjaśniona Postulat o charakterze ogólnym, zostanie wzięty pod uwagę podczas przygotowywania zmian w nowej wersji projektu. Dodatkowo, perspektywa MŚP jest podnoszona w ramach konsultacji aktów wykonawczychdzenia. publikowanych przez Komisję Europejską służących spójnemu stosowaniu przepisów rozporzą 13. Uwaga ogólna Pracodawcy RP W uzasadnieniu do projektu ustawy (pkt 2), wskazano, że powołanie nowej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest uzasadnione: 1) obserwowanym dotychczas zwiększaniem wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielania ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych; Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizacji w zakresie technologii sztucznej inteligencji. Powierzenie tych funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Jednocześnie, nowa Komisja będzie pełnić funkcje ciała eksperckiego i koordynacyjnego, w związku z czym istniejące organy nadzoru będą mogły współpracować z 11 2) potrzebą zapewnienia wykonywania nowych obowiązków w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli; 3) względami interesu sektora finansów publicznych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne punktu widzenia polskiego podatnika. Niemniej należy zwrócić uwagę, że w dużej mierze także po wejściu w życie nowej ustawy duża część obowiązków wynikających z Aktu o AI będzie realizowana nie tyle przez nowo utworzoną Komisję, ale właśnie przez UOKiK, UODO, UKE i inne dotychczas zaangażowane organy - nie tylko poprzez potrzebę oddelegowania odpowiednio kompetentnych przedstawicieli do Komisji, ale również w związku z koniecznością prowadzenia powiązanych postępowań wyjaśniających w razie naruszeń. W zaproponowanym modelu potencjalnie poddaje to w wątpliwość efektywność ekonomiczną i kosztową działalności Komisji, ponieważ z uzasadnienia wypływa wniosek, że duża ilość czynności będzie powielana przez różne podmioty w zależności od celów prowadzonego przez nie postępowania zamiast wykorzystywania efektów czynności wyjaśniających przeprowadzonych przez Komisję. Rozwiązaniem zidentyfikowanego problemu mogłoby być przekonstruowanie struktury kompetencji poszczególnych organów zaangażowanych w ochronę praw obywateli z uwzględnieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – w celu umożliwienia ich współpracy, a także wykorzystywania i wymiany informacji posiadanych przez te organy w zakresie wymaganym do osiągnięcia celów prowadzonych przez nie postępowań (korzystanie z materiałów Komisją w zakresie spraw dotyczących AI i leżących w ramach ich właściwości. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 12 z jednego postępowania w powiązanym z nim postępowaniu prowadzonym przez inny podmiot). Przysłuży się to optymalizacji kosztów działania państwa w ramach realizacji środków ochrony praw obywateli. Zwracamy uwagę na nieobecność w projektowanej ustawie wyodrębnionego segmentu dotyczącego zasad współpracy między organami na poziomie formalnym – poza dyskusjami międzyobszarowymi i działaniami opiniodawczymi. Niezależnie od powyższego, postulujemy dokonanie przeglądu działania przepisów projektowanej ustawy po upływie 12 albo 24 miesięcy od daty jej wejścia w życie w celu oceny jej skuteczności i ustalenia obszarów, w których potrzebna jest poprawa. 14. Uwaga ogólna Pracodawcy RP Zgodnie z Aktem o AI właściwy krajowy organ nadzoru nad systemami sztucznej inteligencji ma być organem niezależnym oraz wykonywać swoje uprawnienia w sposób bezstronny i wolny od uprzedzeń (vide OSR). Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) jednakże wynika, że nadzór nad działalnością Biura Komisji sprawować ma Prezes Rady Ministrów, który też nada mu, w formie zarządzenia, statut, a w skład Komisji mają wchodzić przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) ministra właściwego do spraw informatyzacji; 2) ministra powołanego do koordynowania działalności służb specjalnych, a w przypadku, gdy nie został wyznaczony – Kancelarii Prezesa Rady Ministrów; 3) Prezesa Urzędu Ochrony Danych Osobowych; 4) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 5) Komisji Nadzoru Finansowego; 6) Rzecznika Praw Obywatelskich; 7) Rzecznika Praw Dziecka; 8) Krajowej Rady Radiofonii i Telewizji; 9) Prezesa Urzędu Komunikacji Elektronicznej. Proponowana struktura Komisji, a także jej umiejscowienie w systemie organów władzy publicznej wskazuje, że postulowana przez Akt o AI bezstronność i niezależność Komisji może nie zostać zapewniona, z uwagi na podległość Prezesowi Radu Ministrów oraz uczestnictwo w Komisji dwóch ministrów. Statut Komisji powinien szczegółowo wskazywać w zakresie dot. jej funkcjonowania, że działa ona w sposób niezależny i Uwaga wyjaśniona. Postulat o charakterze ogólnym nieaktualny z uwagi na zmianę przepisów dotyczących organizacji Komisji oraz powoływania przewodniczącego a także organizacji nadzoru nad Biurem Komisji. 13 samodzielny, a jej podległość Prezesowi Rady Ministrów powinna mieć jedynie wymiar formalny i organizacyjny, z wyłączeniem wpływu na działalność merytoryczną Komisji. Procedury podejmowania decyzji przez Komisji nie powinny faworyzować przedstawicieli struktur rządowych. 15. Uwaga ogólna Pracodawcy RP Z dalszej części uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) wynika, że jako organ nadzoru rynku Komisja będzie rozpatrywała wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów AI wysokiego ryzyka, przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów AI oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Proponowana ustawa nie zawiera przepisów regulujących opisaną obok aktywność Komisji. Jako konieczne w naszej ocenie jest uzupełnienie ustawy o kompleksowy zespół norm w tym zakresie. Uwaga nieuwzględniona Obecny projekt ustawy realizuje wymagania związane ze stosowaniem rozporządzenia 2024/1689 od 2 sierpnia 2025 roku. Dodatkowe zadania Komisji zostaną przypisane na późniejszym etapie. 16. Uwaga ogólna Pracodawcy RP Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2): Do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję. Ustawa nie precyzuje jednak, w jakich kwestiach będzie wypowiadać się Rada, w szczególności od uznaniowej decyzji Komisji zależy, w jakich sprawach Rada będzie miała możliwość wyrażenia swojej opinii. Proponujemy uzupełnienie projektu ustawy (art. 30 ust. 1) o wyliczenie spraw o najistotniejszym znaczeniu dla rozwoju i bezpieczeństwa systemów AI, w odniesieniu do których Komisja jest zobowiązana do uzyskania opinii Rady. Uwaga nieuwzględniona Z uwagi na opiniodawczo-doradczy charakter Rady zasadny wydaje się pozostawienie szerokiego spektrum spraw w jakich mogą wydać opinię Komisji. 17. Uwaga ogólna PUODO Struktura nadzorcza rynku krajowego w obszarze stosowania aktu w sprawie sztucznej inteligencji powinna służyć interesom publicznym. Dlatego ważne jest uwzględnienie w projektowanym modelu nadzoru rynku celów, ról i uprawnień istniejących organów nadzorczych właściwych dla poszczególnych sektorów oraz horyzontalnych obszarów sprawowanego nadzoru. Uwaga nieuwzględniona Mając na wglądzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego 14 18. Uwaga ogólna PUODO Prawa podstawowe, których gwarancje ochrony wynikają z Karty praw podstawowych Unii Europejskiej (KPP UE) oraz Traktatu o funkcjonowaniu Unii Europejskiej (TFUE), podlegają szczególnemu nadzorowi w zakresie zastosowań sztucznej inteligencji. Jednym z tych praw jest prawo do ochrony danych osobowych, a jego przestrzeganie podlega kontroli niezależnego organu, co wynika nie tylko z art. 8 KPP UE oraz art. 16 TFUE, ale też wprost z art. 51 rozporządzenia 2016/679 oraz przepisów ustawy o ochronie danych osobowych, którym jest w polskim systemie prawa wyłącznie Prezes Urzędu Ochrony Danych Osobowych (dalej jako Prezes UODO). Projekt ustawy, kształtując nadzór nad systemami sztucznej inteligencji w Polsce, powinien uwzględniać szczególną pozycję organu nadzorczego do spraw ochrony danych osobowych, wynikającą zarówno z przepisów rozporządzenia 2024/1689, jak i rozporządzenia 2016/679. Uwaga nieuwzględniona Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego. W pozostałym zakresie projekt ustawy nie narusza uprawnień i kompetencji organu ochrony danych osobowych 19. Uwaga ogólna PUODO Brak wdrożenia art. 74 ust. 8 rozporządzenia 2024/1689 Projektowana ustawa nie odzwierciedla także kompetencji Prezesa Urzędu Ochrony Danych Osobowych wynikających wprost z aktu w sprawie sztucznej inteligencji, co rodzi obawy o zgodność projektu ustawy z przepisami rozporządzenia. Zgodnie z wyraźną dyspozycją art. 74 ust. 8 rozporządzenia 2024/1689 – w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia – państwa członkowskie jako organy nadzoru rynku do celów przedmiotowego rozporządzenia wyznaczają właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41–44 dyrektywy (UE) 2016/680. Z treści art. 74 ust. 8 rozporządzenia 2024/1689 wynika, że aby organ nadzorczy do spraw ochrony danych osobowych sprawował nadzór w odniesieniu do systemów w przepisie tym określonych wymagana jest decyzja Uwaga nieuwzględniona Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy. 15 ustawodawcy krajowego w tym zakresie. Rozporządzenie co prawda jest aktem obowiązującym bezpośrednio, o czym stanowi art. 288 TFUE, jednak w tym przypadku prawodawca unijny zdecydował, że stosowne działania powinno podjąć się na poziomie krajowym – formalnie wyznaczyć organ, a także ewentualnie uregulować inne kwestie proceduralne, które się z tym mogą wiązać. Ustawodawca krajowy jest zatem de iure związany ww. regulacją – nie może wyznaczyć innego organu niż organ wskazany w art. 74 ust. 8 rozporządzenia 2024/1689 w odniesieniu do wskazanych wyżej systemów AI wysokiego ryzyka. Jeżeli nie chce narazić się na zarzut nieprawidłowego wdrożenia przepisów unijnych, to musi takie działanie podjąć. Tymczasem w zakresie spraw, o których mowa w art. 74 ust. 8, projektodawca nakłada jedynie obowiązek współpracy Komisji z Prezesem UODO (art. 6 ust. 3 pkt 3 projektu), nie określając nawet jasnych i przejrzystych mechanizmów współpracy. W kontekście powyższego oraz wcześniejszych uwag zwrócić uwagę należy również na stanowisko Europejskiej Rady Ochrony Danych, wyrażone w wydanym w lipcu 2024 r. Oświadczeniu EROD 3/2024 w sprawie roli organów ochrony danych w ramach aktu w sprawie sztucznej inteligencji8. Najistotniejsze w tym kontekście jest zalecenie, aby organy ochrony danych zostały wyznaczone jako organy nadzoru rynku w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka wykorzystywanych do egzekwowania prawa, zarządzania granicami, sprawowania wymiaru sprawiedliwości i procesów demokratycznych, a zatem kwestii, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. EROD wskazała dodatkowo, że państwa członkowskie powinny rozważyć wyznaczenie organów ochrony danych jako organów nadzoru rynku również w odniesieniu do innych systemów sztucznej inteligencji wysokiego ryzyka, z uwzględnieniem opinii krajowego organu ochrony danych, w szczególności w przypadku gdy te systemy sztucznej inteligencji wysokiego ryzyka znajdują się w sektorach, które mogą mieć wpływ na prawa i wolności osób fizycznych w odniesieniu do przetwarzania danych osobowych. Organy ochrony danych, o ile zostały wyznaczone jako organy nadzoru rynku, powinny zostać 16 wyznaczone jako pojedyncze punkty kontaktowe dla społeczeństwa i ich odpowiedników na szczeblu państw członkowskich i UE. Podkreślono, że organy ochrony danych powinny odgrywać istotną rolę w egzekwowaniu aktu w sprawie sztucznej inteligencji, ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych. 20. Uwaga ogólna PUODO Ryzyko dualizmu rozstrzygnięć. Przepisy rozporządzenia 2016/679 dotyczą nadzoru nad sprawami z zakresu przetwarzania danych osobowych regulowanymi przepisami aktu w sprawie sztucznej inteligencji. Ochrona danych osobowych przetwarzanych przez systemy sztucznej inteligencji jest zatem materią, która podlega kompetencjom organu nadzorczego ds. ochrony danych na mocy rozporządzenia 2016/679. Już obecnie organy nadzorcze – w tym Prezes UODO – podejmują działania wobec operatorów systemów sztucznej inteligencji, którzy nie spełniają swoich obowiązków w procesach przetwarzania danych, w tym ochrony danych, jak np. w zakresie realizacji obowiązku informacyjnego wynikającego z art. 13 rozporządzenia 2016/679 w zakresie, w jakim wykorzystywane w uczeniu algorytmów są dane przekazywane przez użytkowników w ramach interakcji z usługami takimi, jak Chat GPT. Dlatego też – niezależnie od ostatecznego kształtu projektowanej ustawy – dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679, a przepisy rozporządzenia 2024/1689 wyraźnie to potwierdzają. W związku z tym, kolejnym istotnym zagadnieniem, do którego należy się odnieść, są te przepisy projektowanej ustawy, które dotyczą nakładania się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z aktu w sprawie sztucznej inteligencji. Żaden z tych aktów nie stanowi lex specialis wobec drugiego. Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji nie można zatem pomijać uprawnień Prezesa UODO i jego wiodącej roli w zakresie Uwaga nieuwzględniona Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu. 17 ochrony danych osobowych. W tym miejscu wskazać należy na wyrok TSUE w sprawie C-252/21 Meta Platforms, który dotyczy współpracy organu ochrony konkurencji z organem ds. ochrony danych w Niemczech. Trybunał wskazał na konieczność zapewnienia poszanowania kompetencji organu nadzorczego ds. ochrony danych w szerokim zakresie ochrony danych osobowych wraz z jego wyłączną kompetencją wykładni przepisów rozporządzenia 2016/679. Stanowisko Trybunału powinno być uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Organ nadzorczy ds. ochrony danych musi być uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych. Implikuje to, jak wyżej wskazano, potrzebę doprecyzowania warunków i form współpracy. 21. Uwaga ogólna Organ nadzoru KRRiT W projekcie organowi temu nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte w formie ustawy w Hiszpanii (Estrategia de Inteligencia Artificial 2024), a prace legislacyjne zmierzające w podobnym kierunku prowadzone są m.in. we Włoszech. W powyższym kontekście podtrzymuję jednak, że w Polsce funkcję organów nadzoru ww. rynku powinny pełnić obecnie istniejące organy, co wskazałem już w piśmie z dnia 18 kwietnia 2024 roku, znak: DS.071.25.1.2024 jako odpowiedź na prekonsultacje prowadzone przez Pański resort. Wynika to głównie z dotychczasowego doświadczenia, wykwalifikowanej kadry oraz merytorycznej znajomości zagadnień rynkowych, jakie posiadają już istniejące podmioty. Nie bez znaczenia jest również sfera ekonomiczna – rozszerzenie kompetencji już istniejących instytucji o nowe zadania wynikające z Aktu w sprawie sztucznej inteligencji ograniczyłoby znacznie wydatki, w przeciwieństwie do powołania i stworzenia nowych struktur. Istotna jest również wiedza merytoryczna, którą posiadają pracownicy już funkcjonujących na rynku podmiotów. Kapitał ludzki w odniesieniu do rozumienia mechanizmów sztucznej inteligencji jest wręcz podstawą udanej transformacji gospodarczej i społecznej. Szczególnie, że zakres tematyczny, który obejmuje unijne rozporządzenie, realizowany jest już przez Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizację w zakresie technologii sztucznej inteligencji. Powierzenie tej funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Kwestia zaangażowania kluczowych instytucji publicznych w spójny nadzór nad działaniem systemów AI ma być zapewniony poprzez kolegialną i różnorodną kompozycję składu. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 18 te podmioty. Ilustracją tego są choćby kompetencje KRRiT w odniesieniu do szeroko pojętej ochrony małoletnich, czy też kwestie związane z reklamą. Byłby to zatem bardziej ekonomiczny model, niemniej jednak, przyjmując wyniki prekonsultacji, poniżej odnoszę się do modelu wskazanego w obecnym projekcie ustawy. 22. Uwaga ogólna KRRiT Za pozytywne należy w nim uznać: • rozwiązanie zaproponowane w art. 7 ust. 2 pkt 8), zgodnie z którym jednym z członków Komisji będzie przedstawiciel Krajowej Rady Radiofonii i Telewizji. W kontekście bezpieczeństwa usług należy podkreślić potrzebę udziału wszystkich regulatorów rynku cyfrowego, do których kompetencji należy nadzór nad stosowanymi systemami zautomatyzowanego przetwarzania danych przy usługach cyfrowych, w tym przy usługach medialnych; • przyjęcie, że Komisja będzie mogła wszcząć postępowanie z urzędu, na podstawie skargi lub na wniosek organu, o którym mowa w art. 7 ust. 2 i 3 ustawy, tj. również na wniosek KRRiT. W ramach prowadzonego postępowania organ nadzoru będzie mógł prowadzić postępowanie dowodowe, do którego zastosowanie będą miały odpowiednio przepisy o kontroli określone w ustawie. W przypadku wydanej przez Komisję decyzji nie będzie możliwości odwołania w ramach procedury administracyjnej. Wyłączona jest także możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową poprzez złożenie skargi do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów; • zapewnienie, aby w zakresie sprawowania nadzoru nad systemami sztucznej inteligencji i wykonywania swoich zadań, Komisja była organem niezależnym, sprawującym nadzór nad rynkiem w sposób autonomiczny, a wszyscy członkowie Komisji Uwaga nieuwzględniona Wskazane funkcje KRRiT będzie mogła realizować za pośrednictwem przedstawiciela, który będzie członekiem Komisji. 19 byli równi, posiadając prawo uczestnictwa w posiedzeniach Komisji, uzyskiwania informacji, głosowania oraz podejmowania rozstrzygnięć. Ponadto, w celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych. Krajowa Rada Radiofonii i Telewizji jest praktykiem w zakresie nadzoru nad mediami elektronicznymi. Do zadań KRRiT należy, między innymi: ochrona pluralizmu w przekazie informacyjnym i publicystycznym, identyfikacja i monitorowanie treści dostawców, ochrona odbiorców, zwłaszcza małoletnich, przed mową nienawiści, pornografią, nieuzasadnioną przemocą oraz ochrona wszystkich odbiorców w odniesieniu do aspektów związanych z porządkiem publicznym, zdrowiem i bezpieczeństwem konsumentów. W związku z powyższym Krajowa Rada Radiofonii i Telewizji powinna zostać ustanowiona jako organ odpowiedzialny za kontrolę i regulację treści wytwarzanych przez systemy sztucznej inteligencji w zakresie usług audiowizualnych. Należy przy tym rozważyć rozszerzenie ustawowych kompetencji KRRiT o narzędzia pozwalające na ochronę wizerunku osób publicznych oraz zwalczanie takich zjawisk jak Deep Fake w mediach elektronicznych czy też wykorzystywanie systemów sztucznej inteligencji do manipulacji zachowaniem ludzi za pośrednictwem mediów lub platform internetowych. Należy wskazać, że włączenie Krajowej Rady Radiofonii i Telewizji do grupy organów nadzorczych, z którymi współpracuje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (przepis art. 6 ust. 3 projektowanej ustawy) jest nieodzowne do ustanowienia takich ram zarządzania, które umożliwią koordynację i właściwe stosowanie unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Unijne rozporządzenie obejmuje swoim zakresem szereg problemów związanych z możliwością realizacji swobody wypowiedzi, prawa do informacji oraz wolnością formowania i wyrażania opinii. Dostarcza środków do zwalczania 20 dezinformacji, dyskryminacji w sferze informacyjnej i mowy nienawiści w kontekście funkcjonowania systemów sztucznej inteligencji ogólnego przeznaczenia. Zwiększa także ochronę grup szczególnie wrażliwych, w tym osób małoletnich przed treściami szkodliwymi, między innymi, poprzez obowiązki przejrzystości i rozliczalności w zakresie procesu trenowania i testowania modeli sztucznej inteligencji ogólnego przeznaczenia i modeli sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym. Z perspektywy ochrony tych praw i wartości, postuluję rozszerzenie zadań Krajowej Rady Radiofonii i Telewizji, w szczególności w odniesieniu do następujących przepisów Aktu w sprawie sztucznej inteligencji: 1. Rozdział V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo-dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; 2. Rozdział VI Środki wspierające innowacyjność: art. 57 (piaskownice regulacyjne w zakresie AI) w szczególności w zakresie identyfikacji ryzyka dla praw podstawowych (w tym swobody wypowiedzi, prawa do 21 informacji, ochrony przez dyskryminacją, ochrony praw dziecka), oraz wspierania testowania środków ograniczających ryzyko i weryfikacji skuteczności tych środków; 3. Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. 23. Uwaga ogólna KRRiT należy rozważyć, czy prowadzenie postępowania administracyjnego i wydawanie decyzji przez organ składający się łącznie z 12 członków nie będzie prowadzić do paraliżu decyzyjnego Uwaga nieuwzględniona Model kolegialnych organów nadzoru jest funkcjonuje w systemie polskiego prawa nie powodując paraliżu decyzyjnego. 24. Uwaga ogólna Rada Legislacyjna [Brak przesądzenia w Projekcie o związaniu Komisji aktami soft law wydawanymi przez Komisję Europejską] Przy okazji omawiania w tym miejscu niniejszej opinii skutków prawnych aktów podejmowanych przez Komisję (w tym aktów o charakterze interpretacyjnym) warto jest zgłosić postulat de lege ferenda o przesądzeniu w Projekcie, że Komisja jest w ramach wydawanych przez siebie aktów indywidualnych lub generalnych obowiązana uwzględniać akty prawa miękkiego wydawane przez Komisję Europejską na podstawie Rozporządzenia UE 2024/1689, w tym wytyczne wydawane przez Komisję Europejską na podstawie art. 96 Rozporządzenia UE 2024/1689. O takim obowiązku uwzględniania przez polski organ regulacyjny wytycznych i zaleceń Komisji Europejskiej jest chociażby mowa w art. 4 ust. 1 ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej18 w odniesieniu do Prezesa Urzędu Komunikacji Elektronicznej. Podobne rozwiązanie prawne występuje na gruncie obowiązującej jeszcze przez najbliższe dni ustawy z dnia 16 lipca 2004 r. Prawo telekomunikacyjne19 (ustawa ta zostanie uchylona z dniem 10 listopada 2024 r. i zostanie zastąpiona powołaną ustawą Prawo komunikacji elektronicznej20), przy czym tego rodzaju rozwiązanie prawne jest w doktrynie oceniane jako udana próba włączenia do polskiego porządku prawnego (poprzez ustawę) aktów unijnego soft law, co zapobiega wątpliwościom odnośnie Uwaga uwzględniona Dokonano zmian w art. 11. 22 skutków tych unijnych aktów prawnych dla polskiej administracji publicznej. Tytuł ustawy 25. Tytuł ustawy BGK Propozycja o funkcjonowaniu nadzoru nad systemami sztucznej inteligencji albo o nadzorze nad rynkiem systemów sztucznej inteligencji Projekt ustawy definiuje sposób sprawowania nadzoru nad systemami sztucznej inteligencji oraz funkcjonowania organów nadzoru. Nie zawiera zapisów dotyczących innych aspektów funkcjonowania systemów AI. Tytuł może być mylący dla odbiorców regulacji Analogicznie jak przy ustawach “o nadzorze nad rynkiem finansowym” czy “o nadzorze nad rynkiem kapitałowym” Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 26. Tytuł projektu UKNF Urząd Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) proponuje rozważenie zmiany tytułu projektu na „ustawę o nadzorze nad rynkiem systemów sztucznej inteligencji”. W ocenie UKNF taka zmiana spowoduje, że tytuł ustawy będzie lepiej odzwierciedlał przedmiot tej regulacji. Co do zasady, projekt ustawy nie definiuje ani nie kategoryzuje rynku systemów sztucznej inteligencji (dalej również jako: „systemy AI”), ani obowiązków jego uczestników. Celem projektowanej ustawy – w jej aktualnym kształcie - jest stworzenie ram prawnych dla sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce. Tym samym nazwa „ustawa o systemach sztucznej inteligencji” jawić się może jako legislacyjnie nieprecyzyjna. Niezależnie od powyższej uwagi zasadnym wydaje się uporządkowanie siatki pojęciowej – przykładowo: art. 1 pkt 1 „nadzoru nad rynkiem systemów sztucznej inteligencji”, tytuł rozdziału 2 „nadzoru nad sztuczną inteligencją”, art. 5 ust. 4 pkt 1 – „nadzoru nad rynkiem” i in. Do rozważenia jest też uproszczenie nazwy organu właściwego – np. „Komisja ds. Sztucznej Inteligencji” z możliwością posługiwania się czytelnym skrótem „KSI”. Odpowiadałaby to także nazwie organu Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 23 opiniodawczo-doradczego – tzn. Rady ds. Sztucznej Inteligencji, o której mowa w art. 28 projektu. 27. Odnośnik Rada Legislacyjna [Usterka redakcyjna w odnośniku nr 2 Projektu] Odnośnik nr 2 Projektu wymieniający ustawy nowelizowane przez Projekt zawiera usterkę redakcyjną, polegającą na pominięciu wyrazu: „państwowym” w tytule nowelizowanej ustawy z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem państwowym10 (obecnie wymieniono w odnośniku 2 Projektu: „ustawę z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem.”). Usterka ta wymaga oczywiście naprawienia. Uwaga uwzględniona poprzez dodanie wspominanego terminu. Rozdział 1 Przepisy ogólne (art. 1 – art. 4) 28. Art. 1 pkt 6 PFR Projekt Ustawy w aktualnym kształcie nie określa rodzajów działań wspierających rozwój systemów sztucznej inteligencji. Jedynie w ramach projektowanego art.11 jako jedno z zadań Komisji wskazano „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. Proponujemy w miarę możliwości doprecyzowanie Ustawy w tym zakresie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 29. Art. 1 pkt 6 IAB Polska Ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. W Projekcie ten obszar nie został w szczególny sposób podjęty poza art. 11 ust. 1 pkt 3 i art. 12 ust. 2 Projektu. Tym samym rekomendujemy przedstawienie planów Ministerstwa (np. informację o innych aktach prawnych lub nowelizacjach) na zwiększenie istotności Komisji w rozwój AI w Polsce, w tym w zakresie wykorzystania narzędzi przewidzianych w Projekcie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 30. Art. 2 PFR Proponujemy nadać następujące brzmienie: „Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.” Uwaga uwzględniona 31. Art. 2 Konfederacj a Lewiatan Projekt (art. 2 ust. 1) bazuje na zakresie podmiotowym określonym w rozporządzeniu. Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości Uwaga częściowo uwzględniona Projekt zawiera nowe brzmienie treści art. 2 ust. 1 i art. 4. 24 wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole oraz postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie rozporządzenia (AI Act) globalnie, istotne będzie zatem przesądzenie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Proponowany ust. 2 wydaje się być zbędny, biorąc pod uwagę zakres regulacji na poziomie rozporządzenia, który obejmuje również modele AI ogólnego przeznaczenia. Jeśli jednak za wprowadzeniem tego przepisu stoją określone cele, powinny zostać one wyjaśnione w uzasadnieniu do ustawy. Przedłożony projekt przenosi zawiera odesłania do wybranych zakresów stosowania (zob. art. 2 i 4 projektu), pomijając wiele innych wyłączeń zawartych w art. 2 AI Act. Nie jest przy tym jasne, jaki był klucz doboru polskiego projektodawcy. Uważamy, że należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo uczynić to w sposób wyczerpujący, a zatem uwzględniający całą treść przywołanego przepisu. Dodatkowo, w art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi o obywateli - czy do nich też stosuje się tę ustawę? Czy celem 25 ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowana AI? 32. Art. 2 Pracodawcy RP Różne organy nadzorcze z państw członkowskich mogą jednocześnie stosować regulacje wobec tego samego przedsiębiorstwa. Artykuł 2 ustawy, dotyczący zakresu podmiotowego, może prowadzić do niejasności w interpretacji kompetencji Komisji w odniesieniu do podmiotów zagranicznych. Należy dokładnie określić, wobec których jednostek międzynarodowych grup kapitałowych Komisji będzie podejmować działania. Aby uniknąć problemów interpretacyjnych, proponujemy precyzyjne zdefiniowanie zakresu stosowania przepisów, szczególnie wobec zagranicznych przedsiębiorstw posiadających oddziały lub spółki zależne w Polsce. W ten sposób międzynarodowe firmy zyskają klarowność regulacyjną i stabilne warunki inwestycyjne w Polsce. Uwaga nieuwzględniona Zapewnienie spójności stosowania rozporządzenia zapewnić mają upoważnione lub powołane na podstawie jego przepisów organy unijne (Komisja Europejska) i reprezentujące państwa członkowskie (Europejska Rada ds. AI). 33. Art. 2 ust. 1 KRRiT w art. 2 ust. 1 po wyrazach „stosuje się” należy dodać wyraz „do” Uwaga uwzględniona 34. Art. 2 ust. 1 IAB Polska Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Projekt ustawy opiera się na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Może to jednak rodzić problemy w kontekście stosowania przepisów przez polski organ nadzorczy, ponieważ skutki regulacji oraz decyzji krajowego organu mogą mieć wpływ transgraniczny. W związku z tym pojawiają się wątpliwości co do rzeczywistego zakresu kompetencji polskiego organu nadzorczego, zwłaszcza wobec zagranicznych przedsiębiorców, którzy mogą być jednocześnie kontrolowani przez organy nadzoru z różnych państw członkowskich UE. Kwestią sporną jest możliwość podejmowania przez polski organ działań wobec przedsiębiorstw z siedzibą w innych krajach członkowskich lub państwach trzecich, szczególnie gdy na terytorium Polski działają lokalne spółki zależne lub oddziały tych przedsiębiorstw. W przypadku, gdy dany przedsiębiorca prowadzi działalność związaną z AI Act na poziomie globalnym, Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 2 ust. 1. Należy zaznaczyć, że kategoria “osób znajdujących się w Unii” ma szersze znaczenie niż “obywateli państw UE”, co znajduje odzwierciedlenie w przepisach projektu. Należy również wskazać, że ustawa umożliwia m.in. złożenie skargi na działanie systemu AI, a więc w zakresie podmiotowym oddziałuje także na podmioty nie będące dostawcami, dystrybutorami, importerami czy podmiotami stosującymi systemy i modele AI. 26 kluczowym wyzwaniem będzie określenie, w stosunku do którego podmiotu międzynarodowej grupy kapitałowej polski organ powinien podjąć działania. W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi w tym przypadku o obywateli. W związku z tym należy ocenić (i ewentualnie odpowiednio zmodyfikować wskazany przepis projektu), czy także i do nich ustawa ma być stosowana czy jednak celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI, a nie tych, którzy są \"obiektami\" stosowana AI. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 35. Art. 2 ust. 2 IAB Polska O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała Uwaga uwzględniona Dodano w art. 3 definicję “modelu sztucznej inteligencji ogólnego przeznaczenia”. 27 określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 36. Art. 2 ust. 2 Rada Legislacyjna [Brak odesłania w art. 2 ust. 2 Projektu do definicji legalnej w art. 3 pkt 63 Rozporządzenia UE 2024/1689] W przepisie art. 2 ust. 2 Projektu brak jest potrzebnego tam odesłania do przepisu art. 3 pkt 63 Rozporządzenia 2024/1689 zawierającego legalną definicję pojęcia „model AI ogólnego przeznaczenia”. Art. 2 ust. 2 Projektu stanowi, że „O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.”. Pojęcie „modelu sztucznej inteligencji ogólnego przeznaczenia” nie jest legalnie zdefiniowane w Projekcie (zob. art. 3 Projektu zawierający słowniczek wyrażeń ustawowych), natomiast ma ono swoją legalną definicję w art. 3 pkt 63 Rozporządzenia UE 2024/1689. W odniesieniu do wielu innych pojęć występujących w Projekcie i mających swoje legalne definicje w Rozporządzeniu UE 2024/1689, w przepisach Projektu ma miejsce prawidłowy zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie (zob. art. 3 pkt 1-17 Projektu). De lege ferenda identyczny zabieg należy zastosować w art. 2 ust. 2 Projektu, tak aby zachować w Projekcie spójność i konsekwencję w stosowaniu tej legislacyjnej praktyki i aby nie pozostawiać kluczowego pojęcia Projektu bez legalnej definicji, a konkretnie bez definicji przez odesłanie. Uwaga uwzględniona. W art. 3 pkt 17 projektu dodano definicję modelu sztucznej inteligencji ogólnego przeznaczenia przez odesłanie do art. 3 pkt 63 rozporządzenia 2024/1689. 37. Art. 3 PUODO Zwrócić uwagę należy także na art. 3 projektu ustawy, w której znajduje się słownik definicji legalnych. W ocenie Prezesa UODO jest on zbędny i sprzeczny z zasadami techniki prawodawczej. Ustawa nie nadaje nowego brzmienia tym definicjom, natomiast wprost odsyła do treści aktu w sprawie sztucznej inteligencji, które do przepisy i tak będą stosowane bezpośrednio – powtarzanie ich w treści ustawy może wręcz rodzić wątpliwości pod kątem zakazu powtarzania przepisów Uwaga wyjaśniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 28 rozporządzeń UE w prawie krajowym, jeżeli samo rozporządzenie tego nie przewiduje. 38. Art. 3 PFR Skoro w art. 2 Ustawy przywołano pojęcie „modeli sztucznej inteligencji ogólnego przeznaczenia”, wydaje się, że to pojęcie również powinno być wskazane w projektowanym art. 3 Ustawy. Prosimy o rozważenia usunięcia definicji pojęcia \"wprowadzenie do obrotu\", które to pojęcie nie pojawia się w dalszej części projektu Ustawy. Uwaga uwzględniona Zmiany w zakresie wprowadzenia nowego terminu - „modeli sztucznej inteligencji ogólnego przeznaczenia”. 39. Art. 3 IZB Polska Lektura artykułu nie jest łatwa ze względu na liczne odwołania do AI Act, które i tak wymagają zapoznania się z treścią definicji legalnych zawartych w AI Act. Przepis ten można uprościć np. bezpośrednio odwołując się do słowniczka AI Act, zamiast pojedynczego wskazywania pojęć w art. 3 Projektu. Dzięki temu treść ustawy będzie przystępniejsza. (dot. art. 3 pkt 15, tj. definicji piaskownic regulacyjnych) Zgodnie z uzasadnieniem projektu ustawy: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)\". Faktycznie, Projekt do piaskownic się nie odnosi. Czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Ministerstwo wskazało także, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 40. Art. 3 Konfederacj a Lewiatan Powinniśmy się jednorazowo odnieść do definicji - w jednym zdaniu, które wskazywałoby, że użyte w ustawie pojęcia mają to samo znaczenie, co w rozporządzeniu. W obecnej formie przepis nie wnosi wartości dodanej, a jedynie wydłuża ustawę. Zwiększy to czytelność i zrozumiałość tekstu ustawy. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 29 41. Art. 3 pkt 8 UKNF Projekt nie wskazuje krajowego organu notyfikującego, o którym mowa w art. 3 pkt 19 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), dalej: „rozporządzenie 2024/1689”. Z uzasadnienia projektu ustawy wynika, że organem notyfikującym w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689 będzie Minister właściwy do spraw informatyzacji. W ocenie UKNF projekt ustawy w rozdziale 6 powinien w sposób jednoznaczny przesądzić tę kwestię. Ponadto przyjętą w art. 3 pkt 8) definicją „organu notyfikującego” nie posłużono się ani razu w treści projektu. Uwaga uwzględniona Nadano nowe brzmienie art. 64 projektu wskazującego organ notyfikujący. 42. Art. 3 pkt 15 Konfederacj a Lewiatan Zgodnie z uzasadnieniem projektu ustawt: „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" Faktycznie, projekt ustaw do piaskownic się nie odnosi - czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane, bowiem niżej wskazano, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga uwzględniona W projekcie dodano rozdział 8 - Środki wspierające innowacyjność - regulujący zagadnienie piaskownic regulacyjnych. 43. Art. 4 BGK Dodanie pkt 4: 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 ustawy o systemach sztucznej inteligencji nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: Uwaga uwzględniona Uzupełniono projekt o wspomniane obszary wyłączenia poprzez zawarcie nowego brzmienia art. 2 i 4 (rozróżniającego wyłączenia podmiotowe i przedmiotowe). 30 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. 44. Art. 4 IAB Polska Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: “3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.)), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z uwag innych podmiotów. 45. Art. 4 Konfederacj a Lewiatan W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: „3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. Uwaga uwzględniona 31 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uzasadnienie: Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? Ponadto, zwracamy uwagę na błędnie napisane wyłączenie zawarte w obecnym projekcie w art. 4 pkt 3. Wyłączenie to może mieć podstawowe znaczenie dla przemysłu kreatywnego: skoro „czysto naukowe” systemy AI pozostaną poza zakresem stosowania AIA, tym samym pozostaną one poza całym szeregiem obowiązków wynikających z Rozporządzenia (zwłaszcza obowiązku przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI). Proponowany przepis stanowi, iż ustawy „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (...)”. Ten przepis ma być odpowiednikiem art. 2 ustęp 6 AIA („niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”). Poczynione odesłanie do zawartej w Prawie o szkolnictwie wyższym definicji „podstawowych badań naukowych” jest błędne, ponieważ jako takie rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z tejże uwagi, jak również uwag innych podmiotów. 32 wprost koliduje z tą częścią art. 2 ust. 6 AIA, która wyraźnie wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie, bardzo ważne jest wyeksponowanie wyłączeniu, iż ogranicza się ono do tych systemów lub modeli AI, które powstały w wyłącznym celu badań naukowych i rozwojowych. Obawiamy się, iż właśnie to wyłączenie może być w przyszłości przedmiotem nadużyć, kiedy to zaprogramowane dla celów naukowych - a zatem poza zakresem AIA - algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. Uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. 46. Art. 4 ust. 3 PFR Proponujemy nadać następujące brzmienie: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2023 r. poz. 742, z późn. zm. 1) ), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Uwaga uwzględniona Poprawiono tytuł przywołanej ustawy zgodnie z treścią uwagi. 47. Art. 4 ust. 3 PUODO Podobnie art. 4 pkt 3 projektu ustawy należałoby doprecyzować w zakresie wprowadzonego w nim wyłączenia stosowania ustawy zgodnie z art. 2 pkt 6 aktu w sprawie sztucznej inteligencji, w którym użyto sformułowania „wyłącznie” do celów badań naukowych. Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 33 48. Art. 4 pkt 3 Rada Legislacyjna [Nieprawidłowe wyłączenie w art. 4 pkt 3 Projektu] Art. 4 pkt 3 Projektu, wyłączający pewne materie z zakresu zastosowania Projektu, jest zarówno niespójny z innymi przepisami prawa polskiego, jak też jest niezgodny z Rozporządzeniem UE 2024/1689. Art. 4 pkt 3 Projektu stanowi co następuje: „Ustawy nie stosuje się do [...] podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. W pierwszym rzędzie powołany przepis art. 4 pkt 3 Projektu jest niespójny treściowo z przepisem art. 4 ust. 2 powołanej w nim ustawy Prawo o szkolnictwie wyższym i nauce (nawiasem mówiąc, przepis art. 4 pkt 3 Projektu przytacza tytuł tej ostatniej ustawy w niepełnym brzmieniu). Art. 4 pkt 3 Projektu posługuje się sformułowaniem: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”, podczas gdy w tym ostatnim przepisie (tzn. w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce) bynajmniej nie ma mowy o badaniach naukowych podstawowych, lecz znajduje się tam legalna definicja badań naukowych aplikacyjnych. Natomiast legalna definicja pojęcia „badań naukowych podstawowych” znajduje się nie w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce, ale w art. 4 ust. 2 pkt 1 tej ostatniej ustawy. Co może istotniejsze, całe to wyłączenie zamieszczone w art. 4 pkt 3 Projektu jest ewidentnie niezgodne z przepisami art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. Przepisy art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 rzeczywiście wyłączają stosowanie Rozporządzenia UE 2024/1689 do pewnych stanów faktycznych związanych z działalnością badawczą (i inną), z tym wszakże zastrzeżeniem, iż zakres wyłączeń zawartych w art. 2 ust. 6 i Rozporządzenia UE 2024/1689 jest w pewnych kwestiach szerszy niż wyłączenie przewidziane w art. 4 pkt 3 Projektu (i w tym zakresie Projekt zawiera nadmiarowe i prawdopodobnie zbędne regulacje), zaś w pewnych kwestiach Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 34 wyłączenia z art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są zdecydowanie węższe zakresowo niż wyłączenie przewidziane w art. 4 pkt 3 Projektu, co stanowi przejaw niedopuszczalnej niezgodności krajowej regulacji prawnej z prawem UE. I tak, o ile przepis art. 4 pkt 3 Projektu zawiera generalne (frontalne) wyłączenie stosowania Projektu do podstawowych badań naukowych oraz dla celów naukowych w związku z eksperymentem określonym w Kodeksie karnym, o tyle wyłączenia przewidziane w przepisach art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są znacznie bardziej zniuansowane. Art. 2 ust. 6 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Przepis ten normuje wyłączenie dotyczące takich systemów sztucznej inteligencji lub modeli sztucznej inteligencji, które już są efektywnie rozwinięte i zostały faktycznie oddane do użytku: w tym zakresie wyłączenie dotyczy systemów i modeli AI służących wyłącznie badaniom naukowym lub też służących wyłącznie badaniom rozwojowym (w Polsce pojęcie „prac rozwojowych” jest zdefiniowane w art. 4 ust. 3 ustawy Prawo o szkolnictwie wyższym i nauce, zaś przepis art. 4 pkt 3 Projektu pojęciem tym w ogóle się nie posługuje). Z powyższego wynika, że w porównaniu z przepisem art. 2 ust. 6 Rozporządzenia 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (w zakresie, w jakim art. 4 pkt 3 Projektu wyłącza z zakresu zastosowania Projektu całą działalność dotyczącą badań podstawowych, w tym działalność na etapie prac nad systemem lub modelem AI przed ich oddaniem do użytku, podczas gdy wyłączenie z art. 2 ust. 6 Rozporządzenia UE 2024/1689 dotyczy tylko tych systemów i modeli AI, które już zostały rozwinięte i oddane do użytku, a nie dotyczy działalności w zakresie systemów AI i modeli AI, nad którymi prace jeszcze trwają), albo też za wąskie (w zakresie, w jakim art. 4 pkt 3 Projektu nie wyłącza z zakresu zastosowania Projektu działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych, które są z kolei objęte derogacją z art. 2 ust. 6 Rozporządzenia UE 2024/1689). Natomiast art. 2 ust. 8 35 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. Również porównanie tego ostatniego przepisu z przepisem art. 4 pkt 3 Projektu prowadzi do konkluzji, że w świetle przepisu art. 2 ust. 8 Rozporządzenia UE 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (bo wyłączenie z art. 4 pkt 3 Projektu dotyczy całej działalności w zakresie badań naukowych podstawowych lub dla celów naukowych w związku z eksperymentem w rozumieniu Kodeksu karnego, podczas gdy wyłączenie z art. 2 ust. 8 Rozporządzenia UE 2024/1689 dotyczy tylko tej działalności dotyczącej systemów AI lub modeli AI, która ma miejsce przed ich wprowadzeniem do obrotu lub oddaniem do użytku), albo też za wąskie (w zakresie, w jakim wyłączenie z art. 4 pkt 3 Projektu nie dotyczy w ogóle działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych i testowych). W tym kontekście trzeba przypomnieć, że zgodnie z orzecznictwem TSUE oraz istotą prawną rozporządzeń unijnych jako aktów mających jednolite zastosowanie we wszystkich państwach członkowskich (zob. art. 288 Traktatu o funkcjonowaniu Unii Europejskiej), prawodawca krajowy nie może zawężać (ograniczać) zakresu zastosowania rozporządzenia unijnego w porównaniu z zakresem określonym w samym tym rozporządzeniu.11 W związku z powyższym – kierując się dążeniem do tego, aby nie ograniczać na szczeblu krajowym zakresu zastosowania Rozporządzenia UE 2024/1689, a jednocześnie chcąc uniknąć nadmiarowych (zbędnych) regulacji w prawie polskim – Rada Legislacyjna zdecydowanie rekomenduje treściowe dostosowanie wyłączenia przewidzianego w art. 4 pkt 3 Projektu do kształtu i zakresu wyłączenia przewidzianego w tym względzie w art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. 36 49. Art. 4 ust. 3 URPLWM iPB Zgodnie z art. 4 pkt 3 projektowanej ustawy „Ustawy nie stosuje się do (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Jak wynika z uzasadnienia projektowanej ustawy „Z zakresu stosowania rozporządzenia 2024/1689 i ustawy zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2024 r. poz. 1370). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów projektu wyłączone mają być również sprawy będące w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 5 ust. 1 pkt 1 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812 i 1222), podstawowe badania naukowe, o których mowa w art. 4. ust. 2. pkt. 2 ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm,), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie z motywem 25 preambuły do rozporządzenia 2024/1689: Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 37 „Niniejsze rozporządzenie powinno wspierać innowacje, szanować wolność nauki i nie powinno osłabiać działalności badawczo-rozwojowej. Należy zatem wyłączyć z jego zakresu stosowania systemy i modele AI rozwinięte i oddane do użytku wyłącznie do celów badań naukowych i rozwojowych. Ponadto należy zapewnić, aby niniejsze rozporządzenie nie wpływało w żaden inny sposób na działalność badawczo-rozwojową dotyczącą systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku. Przepisów niniejszego rozporządzenia nie powinno się również stosować do zorientowanej na produkty działalności badawczej, testowej i rozwojowej dotyczącej systemów lub modeli AI przed oddaniem tych systemów i modeli do użytku lub wprowadzaniem ich do obrotu. Wyłączenie to pozostaje to bez uszczerbku dla obowiązku zapewnienia zgodności z niniejszym rozporządzeniem, gdy system AI objęty zakresem stosowania niniejszego rozporządzenia jest wprowadzany do obrotu lub oddawany do użytku w wyniku takiej działalności badawczo- rozwojowej, oraz dla stosowania przepisów dotyczących piaskownic regulacyjnych w zakresie AI i testów w warunkach rzeczywistych. Ponadto bez uszczerbku dla wyłączenia systemów AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych, wszelkie inne systemy AI, które mogą być wykorzystywane do prowadzenia wszelkiej działalności badawczo-rozwojowej, powinny podlegać przepisom niniejszego rozporządzenia. W każdym przypadku wszelka działalność badawczo-rozwojowa powinna być prowadzona zgodnie z uznanymi normami etycznymi i zawodowymi dotyczącymi badań naukowych oraz zgodnie z mającym zastosowanie prawem Unii.”. Przechodząc do wątpliwości w zakresie proponowanego przepisu art. 4 pkt 3 projektu ustawy, należy stwierdzić, co następuje. Po pierwsze, wątpliwości budzi prawidłowość sformułowania brzmienia przepisu poprzez odesłanie w nim do eksperymentu, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny, zwanej dalej „Kodeksem karnym”. Zgodnie bowiem z ww. przepisem Kodeksu Karnego: „§ 1. Nie popełnia przestępstwa, kto działa w celu przeprowadzenia eksperymentu poznawczego, medycznego, 38 technicznego lub ekonomicznego, jeżeli spodziewana korzyść ma istotne znaczenie poznawcze, medyczne lub gospodarcze, a oczekiwanie jej osiągnięcia, celowość oraz sposób przeprowadzenia eksperymentu są zasadne w świetle aktualnego stanu wiedzy. § 2. Eksperyment jest niedopuszczalny bez zgody uczestnika, na którym jest przeprowadzany, należycie poinformowanego o spodziewanych korzyściach i grożących mu ujemnych skutkach oraz prawdopodobieństwie ich powstania, jak również o możliwości odstąpienia od udziału w eksperymencie na każdym jego etapie. § 3. Zasady i warunki dopuszczalności eksperymentu medycznego określa ustawa.”. Przepis art. 27 Kodeksu karnego określa podstawy wyłączenia bezprawności czynu polegającego na prowadzeniu eksperymentu (§ 1) i warunek wyłączający dopuszczalność eksperymentu (§ 2) oraz odsyła do ustawy szczególnej określającej zasady i warunki dopuszczalności eksperymentu medycznego (§ 3). Na wstępie należy zauważyć, że już określenie zakresu zastosowania projektowanej ustawy poprzez odesłanie do regulacji zawartej w Kodeksie karnym – określającej zarówno kontratyp wyłączający odpowiedzialność karną w przypadku eksperymentu (czyli warunki określające kiedy eksperyment jest dopuszczalny), ale także z drugiej strony także okoliczności wskazujące na uznanie eksperymentu za niedopuszczalny, powoduje brak możliwości ustalenia, do którego z przepisów art. 27 Kodeksu karnego projektodawca chciał rzeczywiście odesłać w art. 4 pkt 3 projektu ustawy (w szczególności – czy chciał odesłać także do eksperymentu niedopuszczalnego w świetle art. 27 § 2 Kodeksu karnego). Kwestia ta wymaga ponownej analizy i ewentualnej korekty albo – co najmniej – wyjaśnienia w treści uzasadnienia dołączonego do projektu ustawy. Po drugie, wątpliwości w użytym przepisie budzi posłużenie się sformułowaniem „dla celów naukowych”, skoro zarówno przepis art. 2 ust. 6 rozporządzenia 2024/1689, jak i motyw 25 preambuły do ww. rozporządzenia stanowią o modelach i systemach używanych w celach badań naukowych i rozwojowych, jak i o używaniu tych modeli lub systemów w 39 działalności badawczej, testowej i rozwojowej. Użyte zatem określenie „w celach naukowych” wydaje się zbyt wąskie. Po trzecie natomiast należy zauważyć, że przepis art. 4 pkt 3 projektu ustawy w proponowanym brzmieniu nie odnosi się do kwestii szczegółowo opisanej w motywie 25 preambuły do rozporządzenia 2024/1689, tj. do opisanego w nim rozróżnienia dwóch sytuacji – pierwszej, kiedy modele lub systemy AI są oddane do użytku wyłącznie do celów badań naukowych lub rozwojowych (i wówczas ww. akty prawne dot. AI nie powinny dotyczyć systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku) i drugiej, kiedy systemy lub modele – mimo że używane w badaniu naukowym lub rozwojowym – były już wcześniej oddane do użytku, czy wprowadzone do obrotu (i wówczas powinny już zostać objęte regulacją rozporządzenia 2024/1689 i projektowanej ustawy). Mając powyższe na uwadze, kwestionowany przepis wymaga odpowiedniej modyfikacji. Dodatkowo należy zauważyć, że ustawą, o której mowa w art. 27 § 3 Kodeksu Karnego, jest co do zasady ustawa z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty, która w rozdziale 4 reguluje kwestie dotyczące eksperymentu medycznego. Zgodnie z art. 29a ust. 1 ustawy z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty przepisy rozdziału 4 ustawy nie naruszają przepisów innych ustaw określających odmienne zasady i tryb przeprowadzania badań klinicznych lub badań genetycznych. Zgodnie natomiast z art. 29b tej ustawy „Do eksperymentu medycznego będącego jednocześnie badaniem klinicznym w rozumieniu art. 2 ust. 2 pkt 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 536/2014 z dnia 16 kwietnia 2014 r. w sprawie badań klinicznych produktów leczniczych stosowanych u ludzi oraz uchylenia dyrektywy 2001/20/WE (Dz. Urz. UE L 158 z 27.05.2014, str. 1, z późn. zm.) stosuje się przepisy ustawy z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz.U. poz. 605).”. Należy zatem zauważyć, że w przypadku eksperymentu medycznego będącego jednocześnie badaniem klinicznym produktu leczniczego stosowanego u ludzi ustawą szczególną, 40 o której mowa w art. 27 § 3 Kodeksu karnego, jest ustawa z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz. U. poz. 605). Na podstawie obecnie zaproponowanego brzmienia art. 4 pkt 3 projektu ustawy oraz innych, powyżej przytoczonych przepisów, należałoby uznać – zgodnie z art. 4 pkt 3 projektowanej ustawy – że jej przepisy nie znajdą zastosowania także dla celów naukowych w związku z eksperymentem będącym jednocześnie badaniem klinicznym. Tymczasem takie rozumowanie – bez uwzględnienia rozróżnienia przedmiotowego i celowościowego opisanego w motywie 25 preambuły do rozporządzenia 2024/1689 – wydaje się niewłaściwe i niezgodne z regulacją unijną w zakresie AI, w szczególności w odniesieniu do modeli lub systemów AI już oddanych do użytku lub wprowadzonych do obrotu przed przystąpieniem do realizacji celów naukowych. Mając na uwadze przytoczone powyżej wątpliwości, w tym także brak jakichkolwiek wyjaśnień w tym zakresie w uzasadnieniu dołączonym do projektowanej ustawy, postuluję zmianę brzmienia art. 4 pkt 3 projektu ustawy w celu zapewnienia jego pełnej zgodności z rozporządzeniem 2024/1689 i uzupełnienie uzasadnienia projektowanej ustawy w ww. zakresie. Powyższa kwestia jest kluczowa dla możliwości ustalenia rzeczywistego i zgodnego z przepisami unijnymi zakresu przedmiotowego przepisów w dziedzinie AI ujętych w omawianym projekcie. Dodatkowo należy zauważyć, że ww. kwestia wymaga także jednoznacznego rozstrzygnięcia w odniesieniu do: a) badań klinicznych weterynaryjnych prowadzonych zgodnie z przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/6 z dnia 11 grudnia 2018 r. w sprawie weterynaryjnych produktów leczniczych i uchylającego dyrektywę 2001/82/WE i ustawy z dnia 6 września 2001 r. – Prawo farmaceutyczne, b) badań klinicznych wyrobów medycznych w rozumieniu art. 2 pkt 45 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, 41 zwanego dalej „rozporządzeniem 2017/745”, i badania działania w rozumieniu art. 2 pkt 42 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, oraz c) badań klinicznych z użyciem oprogramowania - wyrobu medycznego, które poprzez dostarczenie do użytkownika lub wcześniejszej sprzedaży, zostało wprowadzone do obrotu lub do używania i z tego powodu podlega przepisom rozporządzenia 2017/745. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 40) 50. Art. 5 KRRiT w art. 5 błędnie wskazano numerację ustępów; Uwaga uwzględniona Numeracja została dostosowana zgodnie z uwagą. 51. Art. 5 NCBR Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Biuro Komisji) – tryb powoływania, skład oraz kompetencje Biura Komisji powinny zapewnić wystarczający poziom nadzoru nad SSI, skuteczność tej instytucji mogłoby zwiększyć większy udział ekspertów i większa elastyczność organizacyjna. Biuro powinno korzystać z większej liczby niezależnych ekspertów w zakresie SI (z głosem doradczym), aby zapewnić pełne pokrycie dynamicznie zmieniających się technologii i wyzwań. Należy też wprowadzić mechanizmy umożliwiające podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. Uwaga częściowo uwzględniona Podniesione uwagi zostały przez projektodawce uwzględnione w zakresie, który dotyczy elastyczności kształtowania kadry pracowniczej Komisji (leżącej w gestii Przewodniczącego i wybranych na podstawie naboru zastępców Przewodniczącego) 52. Art. 5 Konfederacj a Lewiatan Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1 Uzasadnienie: Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotyczhczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępuja one żadnych organów a są tworzone od 0. dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie Uwaga nieuwzględniona Zdaniem projektodawcy przepisy te powinny pozostać w rozdziale 11 obejmującym przepisy przejściowe, dostosowujące i końcowe 42 wyrwane z konktekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. 53. Art. 5 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Uzasadnienie: Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28) 54. Art. 5 ust. 4 pkt 1 PFR Proponujemy doprecyzować, jaki rynek Ustawodawca ma na myśli analogicznie jak w art. 6 ust. 1 Ustawy. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28). 55. Art. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w art.70 ust.1 Rozporządzenia 2024/1689. Uzasadnienie: Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi ze zgłoszonych uwag różnych podmiotów (art. 5) 56. Art. 6 ust. 1 PFR Jednostka redakcyjna wymienia liczne instytucje współpracujące z Komisją, jednak bez wyraźnego rozdzielenia odpowiedzialności i procedur współpracy. Brak precyzji w ustaleniu granic współpracy może prowadzić do spowolnienia procesów decyzyjnych lub konfliktów kompetencyjnych. Uwaga nieuwzględniona Zdaniem projektodawcy „granice współpracy” wynikają bezpośrednio z rozporządzenia 2024/1689. 57. Art. 6 ust. 3 i Art. 7 ust. 3 URWLPMiW B W art. 6 ust. 3 oraz art. 7 ust. 3 projektu ustawy o systemach sztucznej inteligencji należy uwzględnić Prezesa Urzędu Uwaga częściowo uwzględniona 43 Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych Zgodnie z art. 43 ust. 3 rozporządzenia 2024/1689 „ W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z ty i aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych.”. Zarówno rozporządzenie 2017/745, jak i rozporządzenie 2017/746 zostały wymienione w załączniku I sekcja A do rozporządzenia 2024/1689 i wymagają przeprowadzenia odpowiedni dla wyrobu medycznego lub wyrobu medycznego do diagnostyki in vitro procedury oceny zgodności. Zgodnie z art. 3 ust. 1 pkt 1 i 2 ustawy z dnia 7 kwietnia 2022 r. o wyrobach medycznych (Dz.U. z 2024 r. poz. 1620) Prezes Urzędu jest: 1) organem właściwym w rozumieniu art. 101 rozporządzenia 2017/745 oraz art. 96 rozporządzenia 2017/746; 2) organem odpowiedzialnym za jednostki notyfikowane, o którym mowa w art. 35 ust. 1 rozporządzenia 2017/745 oraz art. 31 ust. 1 rozporządzenia 2017/746. Zgodnie z powyższym Prezes Urzędu jest organem właściwym do nadawania notyfikacji jednostkom w zakresie ww. rozporządzeń, sprawowania nad nimi nadzoru, jak również sprawowania nadzoru nad wyrobami medycznymi i wyrobami Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych został uwzględniony jako stały członek Komisji. 44 medycznymi do diagnostyki in vitro wprowadzanymi do obrotu i do używania na terytorium RP. Wobec powyższego zasadnym jest, aby nadzór w zakresie wyrobów medycznych wykorzystujących sztuczną inteligencję, np. oprogramowania będące wyrobami medycznymi, wyznaczanie jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzór nad nimi w tej kwestii, był kompetencją Prezesa Urzędu. Powyższa kwestia była również jednym z tematów spotkania grupy roboczej MDCG – Nadzór nad jednostkami notyfikowanymi (NBO). Zgodzono się na nim, że kompetencje organów nadzorujących jednostki notyfikowane w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro powinny obejmować wyroby wykorzystujące sztuczną inteligencję, o których mowa w rozporządzeniu 2024/1689. Prezes Urzędu uzyskał informację od dwóch polskich jednostek notyfikowanych w zakresie rozporządzenia 2017/745, że obie jednostki planują ubiegać się o notyfikacje w zakresie rozporządzenia 2024/1689 wyłącznie w zakresie wyrobów medycznych wykorzystujących AI. W takiej sytuacji ograniczenie procesu notyfikacji do jednego organu (Prezesa Urzędu) zmniejszy znacznie obciążenie biurokratyczne tych podmiotów. Ponadto zgodnie z art. 66 ust. 2 ww. ustawy o wyrobach medycznych kontrola może być prowadzona przez osoby niebędące pracownikami Urzędu. Zatem w przypadku pojawienia się wątpliwości, czy osoby upoważnione przez Prezesa Urzędu do kontroli podmiotu, który wprowadza na rynek wyrób medyczny wykorzystujący systemy sztucznej inteligencji, posiadają odpowiednie kompetencje, możliwe będzie skorzystanie z eksperta zewnętrznego w tej dziedzinie, np. pracownika organu odpowiedzialnego za akredytację jednostek w tym zakresie. Analogiczna sytuacja dotyczy wyznaczania jednostek notyfikowanych oraz sprawowania nad nimi nadzoru. Uwzględniając powyższą uwagę, w ocenie Prezesa Urzędu również w 45 pozostałych obszarach wskazanych w niniejszym piśmie (np. w obszarze badań klinicznych produktów leczniczych stosowanych u ludzi) – co także wynika np. z dostępnych rekomendacji w zakresie AI – w celu pełnego i prawidłowego wdrożenia regulacji w zakresie sztucznej inteligencji konieczne jest zapewnienie ścisłej współpracy między organami regulacyjnymi w danej dziedzinie, w tym także z organami posiadającymi kompetencje ogólne w zakresie sztuczne inteligencji, co powinno znaleźć wyraz w projektowanych przepisach. 58. Art. 6 ust. 3 KRRiT Dodanie punktu o treści „Przewodniczącym Krajowej Rady Radiofonii i Telewizji - w zakresie systemów AI ogólnego przeznaczenia generujących obrazy, treści audio lub wideo”; Uwaga uwzględniona Przewodniczący KRRiTV został wskazany jako stały członek Komisji. 59. Art. 6 ust. 3 IAB Polska Biorąc pod uwagę, że dostęp do AI zapewniany jest m.in. poprzez dedykowane strony internetowe lub aplikacje – rekomendujemy dodanie postanowienia w ust. 3, że Komisja współpracuje także z Urzędem Komunikacji Elektronicznej w zakresie usług pośrednich związanych z AI, a nie tylko w zakresie wynikającym z pełnienia przez Prezesa UKE funkcji organu nadzoru rynku na podstawie ustawy z 13.4.2016 r. o systemach zgodności i nadzoru rynku. Prezes Urzędu Komunikacji Elektronicznej deleguje swojego przedstawiciela do prac w Komisji tak samo, jak wymienione w art. 6 ust. 3 Projektu podmioty w postaci: Komisji Nadzoru Finansowego, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, czy Prezesa Urzędu Ochrony Danych Osobowych. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona Rozszerzono katalog podmiotów, o których mowa w art. 6 ust. 2 (podmioty współpracujące z Komisją) 60. Art. 6 ust. 3 UKNF Z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego (dalej również jako: „KNF”) w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji wysokiego ryzyka. Projekt – w aktualnym kształcie - nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia 2024/1689, tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka Uwaga częściowo uwzględniona Jednoczenie wyjaśniamy że projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania będzie możliwy od dnia. 2 sierpnia 2025 r. 46 wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Niezależnie od powyższego, w ocenie UKNF, w związku z obowiązkiem współpracy pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja” lub „ KRiBSI”) a Komisją Nadzoru Finansowego, określonym w art. 6 ust. 3 pkt 1) projektu, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań (jako wzór może posłużyć np. art. 17b ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, dalej jako: „ustawa o nadzorze nad rynkiem finansowym”). Ponadto, mając na uwadze, że zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689 właściwość KNF ma ograniczać się do nadzoru nad systemami AI wysokiego ryzyka wprowadzonymi do obrotu, oddanymi do użytku lub wykorzystywanymi przez instytucje finansowe, istotna część nadzoru dotycząca wykorzystywania systemów sztucznej inteligencji przez te podmioty pozostanie po stronie Komisji (np. w zakresie zakazanych praktyk w zakresie AI). W tym kontekście – w ocenie UKNF – zasadnym będzie zaprojektowanie rozwiązania polegającego na wprowadzeniu w ustawach sektorowych przepisów upoważniających podmioty rynku finansowego do przekazywania informacji objętych obowiązkiem zachowania tajemnicy zawodowej do KRiBSI. Dla przykładu: - art. 35 ust. 1 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej stanowi, że: zakład ubezpieczeń i osoby w nim zatrudnione, a także osoby i podmioty, za pomocą których zakład ubezpieczeń wykonuje czynności ubezpieczeniowe, są obowiązane do zachowania tajemnicy dotyczącej poszczególnych umów ubezpieczenia. Jednocześnie art. 35 ust. 2 przewiduje, że obowiązek zachowania tajemnicy ubezpieczeniowej, nie dotyczy informacji udzielanych na wniosek m.in. organu nadzoru; Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 47 - art. 105 ust. 1 pkt 2 lit. a ustawy z dnia 29 sierpnia 1997 r. – Prawo bankowe stanowi, że bank ma obowiązek udzielenia informacji stanowiących tajemnicę bankową wyłącznie na żądanie Komisji Nadzoru Finansowego w zakresie nadzoru sprawowanego na podstawie niniejszej ustawy i ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, pracowników Urzędu Komisji Nadzoru Finansowego w zakresie, o którym mowa w art. 139 ust. 1 pkt 2, oraz osób upoważnionych uchwałą Komisji Nadzoru Finansowego w zakresie określonym w tym upoważnieniu. Brak takiej wyraźnej podstawy prawnej może stanowić znaczące utrudnienie w sprawowaniu nadzoru, ponieważ podmioty mogłyby odmawiać przekazywania informacji, powołując się na obowiązek zachowania tajemnicy zawodowej (nie można bowiem wykluczyć, że przekazanie danych zawierających tajemnicę będzie niezbędne w zakresie niezbędnym do wykonywania zadań ustawowo zastrzeżonych dla organu jakim będzie KRiBSI). 61. Art. 6 ust. 3 pkt 1 UKNF Zgodnie z art. 6 ust. 3 pkt 1 projektowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji współpracuje z KNF w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689, czyli systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie, zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 6 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 6 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób jednoznaczny. Z tych względów ustawa powinna w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka w Uwaga nieuwzględniona Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 48 zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy nadzór ten będzie sprawowany przez inny odpowiedni organ na zasadzie odstępstwa przewidzianego w art. 74 ust. 7 rozporządzenia 2024/1689. Co szczególnie ważne, w zakresie działalności podmiotów nadzorowanych przez KNF mogą być wykorzystywane systemy AI wysokiego ryzyka – przykładowo: ⎯ biometria (np. systemy zdalnej identyfikacji biometrycznej); ⎯ systemy AI wykorzystywane do oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; ⎯ systemy AI wykorzystywane przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego. W związku z powyższym – w przypadku decyzji kierunkowej, że to KNF będzie organem właściwym do nadzoru nad systemami wysokiego ryzyka w zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689 – UKNF poddaje pod rozwagę, aby ustawowe rozwiązania przewidywały również wprowadzenie odpowiednich zmian w przepisach ustawy o nadzorze nad rynkiem finansowym, w której wprost zostałoby wskazane, że KNF jest organem nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689. 62. Art. 6 ust. 3 pkt 2 UOKIK Określenie katalogu podmiotów, z którymi współpracuje Komisja poprzez odwołanie do art. 58 ustawy o systemach oceny zgodności i nadzoru rynku nie jest wystarczające wobec zakresu spraw określonego w art. 74 ust. 3 rozporządzenia 2024/1689. Kontrola produktów wskazanych w unijnym prawodawstwie harmonizacyjnym jest prowadzona również przez organy, które nie są organami nadzoru rynku w rozumieniu ustawy o systemach oceny zgodności i nadzoru rynku i funkcjonują poza jej ramami. Projektowany przepis pozostaje zatem niewystarczający, ponieważ jego stosowanie spowoduje Uwaga częściowo uwzględniona Katalog podmiotów, których dotyczy uwaga został rozszerzony w nowej treści przepisów projektu. Dodatkowo, Komisja może zapraszać do udziału w posiedzeniach przedstawicieli innych podmiotów, o ile poruszane w ich trakcie sprawy mieszczą się w ich właściwości. 49 powstanie luki w zakresie wyznaczenia organów właściwych w sprawach uregulowanych w aktach unijnych wymienionych w załączniku I do rozporządzenia 2024/1689. W związku z powyższym proponuje się rozważenie umieszczenia w projektowanej ustawie enumeratywnego katalogu organów właściwych w sprawach związanych z kontrolami produktów w oparciu o akty wskazane w załączniku I. Poniżej przekazuję listę organów, których uwzględnienie proponuję rozważyć: 1. Prezes Urzędu Ochrony Konkurencji i Konsumentów, 2. wojewódzcy inspektorzy Inspekcji Handlowej, 3. organy Państwowej Inspekcji Pracy, 4. organy nadzoru budowlanego, 5. organy administracji miar 6. Prezes Urzędu Komunikacji Elektronicznej, 7. Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 8. Prezes Wyższego Urzędu Górniczego, 9. Prezes Urzędu Transportu Kolejowego, 10. Prezes Urzędu Lotnictwa Cywilnego, 11. dyrektorzy urzędów morskich, 12. wojewódzcy inspektorzy transportu drogowego, 13. Dyrektor Transportowego Dozoru Technicznego, 14. Prezes Urzędu Dozoru Technicznego. Jednocześnie należy wskazać, że obecnie w Ministerstwie Rozwoju i Technologii trwają prace nad projektem ustawy o nadzorze nad spełnianiem wymagań dotyczących produktów (UC45), w którym zostanie ustanowiony system organów nadzoru rynku właściwych w sprawach poszczególnych aktów w ramach unijnego prawodawstwa harmonizacyjnego. Niezależnie od powyższego należy wskazać, że przepisy projektowanej ustawy nie określają zasad współpracy poszczególnych organów z Komisją. Brak jest również wskazania instrumentów (narzędzi) takiej współpracy, w szczególności form lub sposobów, w jakich będzie się ona odbywać. Należy wskazać, że organy wymienione w art. 6 50 projektu realizują określone kompetencje przypisane im w przepisach ustaw regulujących ich funkcjonowanie. Podejmowanie określonego rodzaju aktywności przez te organy jest warunkowane obowiązywaniem określonej podstawy prawnej przyznającej kompetencję lub nakładającej obowiązek konkretnego działania. Z uwagi na powyższe ustawowe określenie zasad, form i sposobu współpracy organów, o których mowa w art. 6 projektu z Komisją, pozostaje niezbędne w celu stworzenia podstaw prawnych do podejmowania przez nie określonych czynności władczych, w tym również takich, które nie są wprost wpisane w ich ustawowe kompetencje. 63. Art. 6 ust. 4 PFR Wydaje się, iż Ustawodawca ma tu na myśli stosowne organy opisane w Rozporządzeniu. Jeżeli tak jest, to proponujemy to doprecyzować poprzez wskazanie odpowiednich definicji zawartych w Rozporządzeniu. Uwaga uwzględniona 64. Art. 6 ust. 4 UKNF Artykuł 6 ust. 4 projektu ustawy stanowi, że „Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej”. UKNF wskazuje, że pełna nazwa ww. urzędu to Europejski Urząd ds. Sztucznej Inteligencji, stąd rekomendowane byłoby posłużenie się nią we wskazanym przepisie projektu ustawy, bądź przyjęcie odpowiedniej definicji urzędu w treści projektu ustawy. Uwaga nieuwzględniona. Projekt posługuje się terminologią zaczerpniętą bezpośrednio z rozporządzenia 2024/1689. 65. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. W tym kontekście, NCBR, jako instytucja odpowiedzialna za wspieranie badań i rozwoju technologii, mógłby wesprzeć prace Komisji w lepszym zrozumieniu procesów tworzenia systemów SI poprzez wskazywanie ekspertów do pracy w Komisji. Pozwoliłoby to lepiej zintegrować procesy badawcze (tworzenie innowacyjnych Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 51 programów służących rozwojowi technologii SI) z wymogami regulacyjnymi. Generalnie, NCBR jako fundamentalna instytucja zajmująca się wspieraniem prac B+R i rozwijaniem przedsiębiorczości w zakresie nowych technologii, w tym technologii ICT, nie jest bezpośrednio uwzględnione w projekcie ustawy o SSI jako kluczowy organ wspierający rozwój SI w Polsce. Warto rozważyć formalne włączenie NCBR do procesów regulacyjnych, np. poprzez jego większy udział w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, aby zapewnić pełne wsparcie dla innowacyjnych projektów badawczych. Ponadto, zgodnie z dokumentem pn. Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020, Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23), NCBR jest elementem polskiego ekosystemu AI w obszarze Nauka i Badania AI. 66. Art. 7 OPZZ Uważamy, że należy ponownie rozważyć zakres udziału związków zawodowych w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgłoszone przez nas uwagi mają na celu zwiększenie ochrony interesów pracowników oraz wspieranie budowy nowoczesnego, zrównoważonego rynku pracy w Polsce. Projekt ustawy przewiduje ustanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której zadaniem będzie zapewnienie nadzoru nad rozwojem i funkcjonowaniem systemów sztucznej inteligencji. Konstrukcja przepisów zakłada, że członkami Komisji będą przedstawiciele kluczowych organów i urzędów, których kompetencje są kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów Al. Dodatkowo projekt przedmiotowej regulacji prawnej zakłada możliwość udziału w pracach Komisji przedstawicieli innych podmiotów publicznych, ale na zasadach doradczych, bez prawa głosu. Wśród nich wymieniono m.in. przedstawicieli strony pracowników Rady Dialogu Społecznego. W ocenie Ogólnopolskiego Porozumienia Związków Zawodowych, reprezentatywne organizacje związkowe, w rozumieniu ustawy z dnia 25 czerwca 2015 r. o Radzie Dialogu Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 52 Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232), powinny posiadać status pełnoprawnych członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Algorytmy i systemy sztucznej inteligencji coraz częściej mają bowiem wpływ na decyzje o kluczowym znaczeniu dla pracowników np. w zakresie dotyczącym wynagrodzeń, wydajności i zatrudnienia. Brak pełnego nadzoru ze strony reprezentacji pracowników nad sztuczną inteligencją niesie ryzyko ograniczenia praw pracowniczych. Pełnoprawne członkostwo central związkowych w Komisji umożliwi skuteczny nadzór nad funkcjonowaniem algorytmów, zapewniając ich zgodność z normami dialogu społecznego oraz zapobiegnie potencjalnym nadużyciom ze strony pracodawców. To także gwarancja, że technologie sztucznej inteligencji będą wdrażane w sposób przejrzysty, z poszanowaniem praw pracowniczych, w tym prawa do konsultacji, ochrony danych osobowych i współdecydowania o zasadach wykorzystania technologii w pracy. Jest to szczególnie ważne dla osób wykonujących pracę platformową, takich jak kurierzy czy kierowcy, którzy są szczególnie narażeni na nadużycia związane z działaniem algorytmów. Obecność związków zawodowych w Komisji pozwoli zatem monitorować i przeciwdziałać takim praktykom. OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem 53 prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. 67. Art. 7 ust. 2 i st. 3 pkt 13 RZ Należy zaznaczyć, iż wiele z proponowanych regulacji może bezpośrednio dotyczyć warunków, wykonywania działalności gospodarczej na terytorium Rzeczypospolitej w szczególności przez mikroprzedsiębiorców, małych i średnich przedsiębiorców. Z, tego względu, w pierwszej kolejności wnoszę o zmianę art. 7 ust. 2 oraz ust. 3 pkt. 13 Projektu poprzez włączenie przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców do grona członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Realizacja postulatu wymaga: w art. 7 ust. 2: 1. w pkt 9) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu — pkt 10 w brzmieniu: „10) Rzecznika Małych i Średnich Przedsiębiorców. ”; 3. w przypadku uwzględnienia postulatu, odpowiedniej zmiany w art. 7 ust. 3, przez usunięcie pkt 13. Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Ze względu na potrzebę skutecznej ochrony praw przedsiębiorców, Rzecznik Małych i Średnich Przedsiębiorców, jako ich przedstawiciel, powinien mieć zagwarantowane prawo zabrania głosu w kwestiach poruszanych przez Komisję. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 68. art. 7 ust. 2 pkt 6 i art. 8 ust. 5 RPO W projekcie ustawy przewidziano utworzenie nowego organu - Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) – wyspecjalizowanego w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucja ta ma pełnić funkcję organu nadzoru nad rynkiem, ale również przyczyniać się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnić funkcję Uwaga uwzględniona Przedstawiciel Rzecznika Praw Obywatelskich został wyłączony ze składu Komisji. 54 podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI. Zgodnie z art. 8 ust. 5 projektu ustawy, Komisja w zakresie swojej właściwości podejmuje uchwały, w tym też wydaje decyzje administracyjne i postanowienia. Jednym z członków Komisji zgodnie z art. 7 ust. 2 pkt 6 projektu ustawy ma zostać przedstawiciel Rzecznika Praw Obywatelskich. W mojej ocenie proponowane rozwiązanie jest nie do pogodzenia z pozycją ustrojową i kompetencjami, jakie zostały przyznane Rzecznikowi Praw Obywatelskich w Konstytucji RP. W pierwszej kolejności należy zauważyć, że Rzecznik Praw Obywatelskich nie jest organem administracji publicznej. Rzecznik Praw Obywatelskich jest samodzielnym, konstytucyjnym organem ochrony prawa, stojącym na straży wolności i praw człowieka i obywatela określonych w Konstytucji oraz w innych aktach normatywnych (rozdział IX Konstytucji Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r.). W myśl art. 210 Konstytucji RP Rzecznik Praw Obywatelskich w swojej działalności jest niezawisły, niezależny od innych organów państwowych i odpowiada jedynie przed Sejmem na zasadach określonych w ustawie. Tryb rozpatrywania spraw należących do kompetencji Rzecznika Praw Obywatelskich uregulowany został w przepisach ustawy o RPO, zgodnie z którymi zarówno o sposobie działania, jak i o podjętych środkach prawnych w danej sprawie decyduje autonomicznie Rzecznik Praw Obywatelskich. Trybunał Konstytucyjny w istotnym z punktu widzenia relacji między RPO a Sejmem wyroku1 , interpretuje niezależność jako pojęcie normatywne, tj. wyznaczające zakaz tworzenia pomiędzy Rzecznikiem a innymi organami więzi strukturalnych i funkcjonalnych, które mogłyby prowadzić do zależności Rzecznika od tych organów. Sejmowi, podobnie jak jakiemukolwiek innemu organowi państwa, nie wolno wyznaczać Rzecznikowi jakichkolwiek obowiązków, które nie mieszczą się w jego konstytucyjnych zadaniach i nie znajdują podstaw w określonych przez ustawę kompetencjach RPO. Należy również podkreślić, że w orzecznictwie sądów administracyjnych ugruntowane jest stanowisko, że rozpatrywanie przez Rzecznika Praw Obywatelskich kierowanych 1 Zob. wyrok TK z 19.10.2010 r., sygn. K 35/09. - 3 - do niego wniosków nie następuje w formach przewidzianych w art. 3 § 2 pkt 1-42 ustawy z dnia z 55 dnia 30 sierpnia 2002 r. prawo o postępowaniu przed sądami administracyjnymi (Dz.U. z 2024 r. poz. 935)3 . Biorąc pod uwagę powyższe, nie ulega wątpliwości, że przedstawiciel Rzecznika Praw Obywatelskich nie może być częścią organu (Komisji), który wydaje decyzje administracyjne i postanowienia, gdyż byłoby to sprzeczne z rolą organu ochrony prawa, jaką ustrojodawca przewidział dla Rzecznika Praw Obywatelskich w Konstytucji RP, a także godziłoby w zasadę niezależności Rzecznika. Wyznaczenie na członka Komisji przedstawiciela RPO jest wątpliwe również dlatego, że czynności podejmowane przez Komisję, a zatem wydawane przez nią decyzje administracyjne i postanowienia, mogą być przedmiotem skarg obywateli do Rzecznika Praw Obywatelskich. Taka sytuacja skutkowałaby tym, że Rzecznik Praw Obywatelskich rozpoznawałby de facto skargę na działania podejmowane m. in. Przez jego przedstawiciela. To zaś podważałoby zasadę prawa, zgodnie z którą nikt nie może być sędzią we własnej sprawie (nemo iudex in causa sua). Reasumując, w mojej ocenie, z przyczyn wskazanych powyżej, przedstawiciel RPO nie może zostać członkiem organu, który zgodnie z projektowaną ustawą będzie sprawował nadzór nad sektorem sztucznej inteligencji. Jednocześnie, nie budzi moich wątpliwości możliwość zgłaszania przez Rzecznika Praw Obywatelskich kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (art. 28 ustawy), który to organ będzie pełnił funkcje opiniodawczo- doradcze na rzecz Komisji. 69. Art. 7 ust. 2 i 7 RPD Proponowana konstrukcja przepisów projektu zakłada ustanowienie nowej instytucji, która będzie niezależnym od administracji rządowej, organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jak również podmiotem współpracującym z innymi instytucjami publicznymi w zakresie AI. Zgodnie z brzmieniem projektowanej ustawy organem tym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w skład której miałby wchodzić Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziewięciu członków, będących przedstawicielami podmiotów, wymienionych w art. 7 ust. 2 projektu. Biorąc pod uwagę charakter i ilość zadań nałożonych na ww. organ, wątpliwości budzi przyjęcie zaproponowanej koncepcji składu Komisji. Warto Uwaga częściowo uwzględniona Osobom biorącym udział w pracy Komisji na podstawie nowej treści przepisów projektu przysługuje zwrot kosztów przejazdu i noclegów. 56 w tym miejscu podkreślić, że przedstawiciele podmiotów, wskazanych w art. 7 ust. 2 projektu to przede wszystkim pracownicy ww. podmiotów, na których nałożone byłyby dodatkowe obowiązki związane z pracą w Komisji. To może rodzić konflikt interesów pomiędzy pracą na etacie u podmiotu, o którym mowa w art. 7 ust. 2 projektu, a pracą wykonywaną na rzecz Komisji Warszawa, 14 listopada 2024 roku (art. 11 projektu). Warto w tym miejscu również podkreślić, że zgodnie z założeniami projektowanej ustawy „za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu” (art. 7 ust. 7 projektu). Ponadto, członkowie Komisji nie będą mogli wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywoływać podejrzenie o stronniczość lub konflikt interesów (a w konsekwencji rodzić obawy o najlepsze reprezentowanie interesów i głosu osób, na których systemy SI mają wpływ - zwłaszcza dzieci i młodzieży), o czym stanowi art. 24 ust. 1 projektu. Natomiast art. 25 ust. 1 projektu wskazuje, iż m.in. członkowie Komisji są obowiązani do nieujawniania osobom nieupoważnionym tajemnicy prawnie chronionej. Nie ma tu regulacji odnoszącej się do podmiotów, dla których pracują członkowie Komisji. Takie rozwiązania mogą prowadzić do wyłączenia danego pracownika/przedstawiciela podmiotu, o którym mowa w art. 7 ust. 2 projektu, z pracy urzędu, biorąc pod uwagę zakres zadań, związanych z pracą Komisji. Analizowany projekt w żaden sposób nie reguluje tej kwestii. 70. Art. 7 ust. 2 PUODO Z motywu 10 aktu w sprawie sztucznej inteligencji wynika, że jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. Zatem rozporządzenie jasno wskazuje na to, że kompetencje i niezależność organów nadzorczych ds. ochrony danych nie są ograniczane przepisami aktu w sprawie sztucznej inteligencji, a przejrzystego uregulowania tych kwestii należy oczekiwać w przyjmowanych rozwiązaniach krajowych, czego w opiniowanym projekcie zabrakło. Uwaga uwzględniona Przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji. 57 Przebudowy wymaga zatem określona w projekcie ustawy koncepcja nadzoru nad systemami sztucznej inteligencji, która w art. 7 ust. 2 pkt 3 zakłada udział przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych w kolegialnym organie nadzoru rynku, jakim ma być Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Choć docenić należy uwzględnienie potrzeby włączenia organu ochrony danych osobowych w proces oceny nadzoru nad systemami sztucznej inteligencji, to jednak, przedstawiciel organu nadzorczego ds. ochrony danych osobowych – ze względu na konieczność zachowania niezależności organu ds. ochrony danych osobowych – nie może brać udziału w procesie wydawania decyzji przez inny organ inaczej niż w charakterze doradcy czy obserwatora. Udział przedstawiciela Prezesa UODO w pracach Komisji byłyby zatem możliwy wyłącznie w charakterze eksperta, z możliwością wypowiedzenia się w kwestiach związanych z ochroną danych osobowych, z zastrzeżeniem braku związania go poleceniami /dyspozycjami Przewodniczącego Komisji i przy założeniu nieobjęcia problematyki przetwarzania danych osobowych procesem decyzyjnym Komisji, ze względu na to, iż jest to wyłączna kompetencja Prezesa UODO. Te gwarancje powinny zostać zapisane w ustawie tak, by zapewnić zgodność i spójność zarówno z rozporządzeniem 2024/1689, jak i rozporządzeniem 2016/679. Ma to istotne znaczenie w związku z art. 9 projektu ustawy, który przewiduje, że członkowie Komisji wspierają Przewodniczącego Komisji w wykonywaniu zadań ustawowych, w szczególności w sprawach będących we właściwości podmiotu, którego są przedstawicielami, a na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami”. Wskazać należy, że przedstawiciel Prezesa UODO – z racji potrzeby zachowania niezależności, wynikającej wprost z prawa UE – nie może być zobowiązany mocą jakichkolwiek przepisów, w tym projektowanej ustawy, do podejmowania działań na rzecz innego organu ani dostosowywania się do rozstrzygnięć, które potencjalnie mogłyby wkraczać w zakres jego kompetencji. 58 Dostrzec przy tym należy, że status Komisji jako nowego organu administracji publicznej ma charakter precedensowy, ponieważ przewiduje, że jej członkami są przedstawiciele innych organów, w tym przedstawiciel Prezesa UODO (art. 7 ust. 2 pkt 3 projektu ustawy). Przepisy projektowanej ustawy nie regulują przy tym pozycji takiego przedstawiciela, w szczególności w aspekcie swobody podejmowania przez niego decyzji i innych czynności w ramach Komisji, co może być poddane dalszej dyskusji pod kątem zgodności z zasadami prawa administracyjnego i normami konstytucyjnymi dotyczącymi administracji państwowej, w tym podstawowym warunkiem dotyczącym samodzielności decyzyjnej organu. W świetle powyższych uwag, projektowane przepisy wymagają doprecyzowania statusu Prezesa UODO (jego przedstawiciela) w sposób gwarantujący niezależne wykonywanie przez niego zadań wynikających ze wspomnianych wyżej aktów prawa unijnego i krajowego, w tym orzecznictwa TSUE. Projektowana ustawa wymaga zatem powtórnej analizy pod kątem spójności oraz jasności nadawanych nią norm kompetencyjnych, jak również kompleksowości proponowanej regulacji, która powinna również czynić zadość konstytucyjnej zasadzie legalności w aspekcie wyznaczania organom władzy publicznej podstaw i granic działania mocą stanowionych przepisów prawa. 71. Art. 7 ust. 3- 6 RPD Uwagi do proponowanego art. 7 ust. 3-6 ustawy o systemach SI (uczestnictwoinnych osób niż Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Art. w posiedzeniach Komisji) Stosowanie systemów sztucznej inteligencji, zwłaszcza w obszarze edukacji, ma bezpośredni wpływ na codzienne życie dzieci i młodzieży, w tym na ich prawa i wolności. W związku z tym niezwykle istotne jest, aby głos młodych ludzi był uwzględniany w procesach decyzyjnych dotyczących rozwoju i regulacji tych systemów. Zgodnie z art. 12 Konwencja o prawach dziecka przyjęta przez Zgromadzenie Ogólne Narodów Zjednoczonych dnia 20 listopada 1989 r. (Dz. U. z 1991 r. Nr 120, poz. 526 z późn. zm.) każde dziecko ma prawo do swobodnego wyrażania własnych poglądów we wszystkich Uwaga uwzględniona RPD został włączony do składu Komisji jako stały członek. 59 sprawach, które go dotyczą, a poglądy te powinny być należycie uwzględniane stosownie do wieku i dojrzałości dziecka. Podobnie, art. 24 Karta praw podstawowych Unii Europejskiej (Dz. U. UE. C. z 2007 r. Nr 303, str. 1 z późn. zm.). podkreśla prawo dziecka do wyrażania swojego zdania i bycia wysłuchanym w sprawach, które go dotyczą. Obecne planowane przepisy ustawy o systemach SI, w szczególności art. 7 ust. 3-6, przewidują możliwość uczestnictwa w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przedstawicieli różnych podmiotów z głosem doradczym, jednak udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji i wymaga posiadania „specjalistycznej wiedzy (proponowany art. 7 ust. 5 ustawy o systemach SI). Taki mechanizm może ograniczać realną możliwość dzieci i młodzieży do wyrażania swojego głosu w sprawach dotyczących regulacji systemów SI, których wyniki działania bezpośrednio ich dotyczą. Dzieci należą do grupy podmiotów szczególnie wrażliwych, które mogą w szczególny sposób odczuć negatywny wpływ systemów sztucznej inteligencji na ich prawa oraz wolności. Chociaż z oczywistych względów nie posiadają one fachowej wiedzy na temat systemów SI, ich głos może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii. Aby w pełni zrealizować prawo dziecka do bycia wysłuchanym, proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych, zespołów reprezentujących głos dzieci (np. Rada Dzieci i Młodzieży przy RPD, Rada Młodzieży przy MEN) doraźnego udziału w posiedzeniach Komisji z głosem doradczym. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Komisji z wnioskiem o dopuszczenie do udziału w obradach Komisji w roli gości zwłaszcza jeżeli przedmiot obrad dotyczy systemów SI wpływających na dzieci i młodzież. Takie rozwiązanie zapewni, że głos dzieci i młodzieży będzie systematycznie brany pod uwagę w procesach regulacyjnych dotyczących systemów sztucznej inteligencji. Jest to nie tylko zgodne z międzynarodowymi standardami ochrony praw dziecka, ale także przyczyni się do tworzenia bardziej efektywnych i adekwatnych regulacji, które uwzględniają 60 perspektywę młodego pokolenia. Włączenie organizacji młodzieżowych z głosem doradczym do prac Komisji wzmocni transparentność i demokratyczność procesu decyzyjnego oraz pomoże w kształtowaniu systemów SI, które będą służyć dobru dzieci i młodzieży. 72. Art. 7 ust. 3 GUS Projekt ustawy o systemach sztucznej inteligencji przewiduje powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (art. 5 i nast. projektu ustawy), w skład której obowiązkowo wejdą przedstawiciele 9 instytucji (art. 7 ust. 1 i 2 projektu ustawy), a przedstawiciele dalszych 16 instytucji (art. 7 ust. 3) będą mogli uczestniczyć w jej posiedzeniach. Mając na uwadze zaplanowane przez ustawodawcę zadania Komisji, w tym w szczególności: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji” (art. 11 ust. 1 pkt 3) oraz „udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji” (art. 11 ust. 1 pkt 5), niezbędne wydaje się rozszerzenie listy przedstawicieli urzędów i instytucji publicznych mogących uczestniczyć w jej pracach o przedstawiciela Głównego Urzędu Statystycznego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 73. Art 7 ust. 3 Rzecznik Finansowy W art. 7 ust. 3 pkt 12) projektu ustawy przewidziany został udział w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja”) przedstawiciela Biura Rzecznika Finansowego. Projektowany przepis należy zmienić poprzez wskazanie „przedstawiciela Rzecznika Finansowego”. Należy bowiem zauważyć, że zgodnie z ustawą z dnia z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej (Dz. U. z 2024 r. poz. 1109) działania podejmowane są przez Rzecznika Finansowego, a nie przez Biuro Rzecznika Finansowego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 74. Art. 7 ust. 3 IAB Polska W skład podmiotów, których przedstawiciele mogą uczestniczyć w posiedzeniach Komisji brakuje przedstawiciela Społecznej Rady do spraw Sztucznej Inteligencji. Udział takiej osoby jest wskazany ze względu na funkcję Rady („organ opiniodawczo- doradczy Komisji”). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do 61 udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 75. Art. 7 ust. 3 Konfederacj a Lewiatan Rekomdendujemy dodanie punktu: 17) Społecznej Rady ds. Sztucznej Inteligencji Uzasadnienie: Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisjii - inaczej jej rola może okazać się fasadowa, jadnak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 76. Art. 7 ust. 3 Rada Legislacyjna [Brak możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli Ministerstwa Nauki oraz Ministerstwa Zdrowia] Przepisy art. 7 ust. 3 Projektu nie przewidują możliwości uczestniczenia w posiedzeniach Komisji przedstawiciela urzędu obsługującego ministra właściwego do spraw szkolnictwa wyższego i nauki oraz przedstawiciela urzędu obsługującego ministra właściwego do spraw zdrowia. Tymczasem dopuszczenie możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli obu tych urzędów, czyli Ministerstwa Nauki oraz Ministerstwa Zdrowia, ma przekonujące uzasadnienie merytoryczne. Obaj bowiem ministrowie kierujący wspomnianymi ministerstwami i jednocześnie odnośnymi działami administracji rządowej są, z uwagi na zakres swoich ustawowych zadań,12 żywotnie zainteresowani sprawami rozwoju, wprowadzania, upowszechniania i stosowania technologii oraz usług wykorzystujących systemy sztucznej inteligencji. Działalność naukowa, nawet jeżeli w określonym zakresie nie mieści się ona w zakresie zastosowania Projektu (oraz Rozporządzenia UE 2024/1689), jest przecież absolutnie niezbędna dla rozwijania i doskonalenia systemów AI, natomiast w medycynie, czy też w działalności z zakresu zdrowia publicznego, systemy AI są obecnie podstawą wielu ważnych dla pacjentów świadczeń diagnostycznych i terapeutycznych.Z uwagi na to merytoryczne powiązanie nauki i medycyny z systemami AI warto jest zatem rozważyć możliwość fakultatywnego delegowania przez obu ministrów czy też przez urzędy Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3) 62 obsługujące obu tych ministrów swoich przedstawicieli do udziału w posiedzeniach Komisji na podstawie przepisu art. 7 ust. 3 Projektu 77. Art. 7 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną biegłego. Uzasadnienie: Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga nieuwzględniona Użycie pojęcia „biegłego” znacząco ograniczyłoby zakres osób mogących wziąć udział w posiedzeniu Komisji. 78. Art. 7 ust. 7 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 7. Za udział pracach Komisji nie przysługuje wynagrodzenie ani i zwrot kosztów przejazdów i noclegów. Uzasadnienie: Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotczyć ma także osób wkazanych w art.7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jesli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Uwaga częściowo uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 79. Art. 7 ust. 7 i Art. 29 ust. 6 RPD Uwagi do proponowanego art. 7 ust. 7 i art. 29 ust. 6 ustawy o systemach SI – brak wynagrodzenia oraz zwrotów kosztów przejazdów i noclegów członkom Rady lub Komisji za udział w pracach organów Uwaga uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 63 Brak zwrotu kosztów przejazdów i noclegów za udział w pracach Rady i Komisji może skutecznie zniechęcić specjalistów mieszkających w odległych od Warszawy (siedziby Komisji i Rady) częściach Polski do uczestnictwa w pracach tych organów. Taka sytuacja może negatywnie wpłynąć na poziom merytoryczny prac Rady oraz Komisji, w tym o ograniczyć różnorodność osób biorących w nich udział, co jest kluczowe dla wszechstronnego podejścia do zagadnień związanych ze sztuczną inteligencją. Specjaliści z różnych regionów kraju wnoszą unikalne perspektywy i doświadczenia, które są niezbędne do tworzenia kompleksowych i efektywnych regulacji w dziedzinie sztucznej inteligencji. Brak zwrotu kosztów może prowadzić do sytuacji, w której udział w pracach Rady i Komisji będzie ograniczony do osób mieszkających w Warszawie lub tych, którzy mogą sobie pozwolić na pokrycie kosztów podróży i noclegu z własnych środków. Nie bez znaczenia jest także fakt, że młodzi naukowcy i specjaliści, którzy mogą nie dysponować wystarczającymi środkami finansowymi, zostaliby w ten sposób zachęceni do udziału w pracach Rady i Komisji. Ich udział może wnieść świeże spojrzenie i innowacyjne rozwiązania w dynamicznie rozwijającej się dziedzinie sztucznej inteligencji. Można też argumentować, że brak możliwości otrzymania przynajmniej zwrotu kosztów noclegu i przejazdu w związku z pracami w Komisji oraz Radzie negatywnie wpłynie także na poziom niezależności ich członków. Warto zauważyć, że członkowie „Beirat für Künstliche Intelligenz” (KI-Beirat) organu doradczo-opiniodawczego wskazanego przez projektodawcę w uzasadnieniu ustawy o systemach SI jako modelowy przykład ciała eksperckiego z uprawnieniami konsultowania prac w zakresie nadzoru nad sztuczną inteligencją — mają prawo żądać zwrotu kosztów poniesionych w związku z pracą w KI-Beirat. Zgodnie z §20c ust. 8 ustawy KommAustria- Gesetz: „Die Mitglieder haben Anspruch auf Ersatz der angemessenen Reisekosten und Barauslagen. Der Bundesminister für Finanzen hat im Einvernehmen mit dem Bundeskanzler mit Verordnung eine Geschäftsordnung für den 64 „Beirat für KI“ zu erlassen. Die für Reisekosten anfallenden Kosten trägt die RTR-GmbH aus den nach dem folgenden Absatz zur Verfügung gestellten Mitteln.”4. Co oznacza, że członkowie mają prawo do zwrotu uzasadnionych kosztów podróży i wydatków, a Minister Finansów, w porozumieniu z Kanclerzem Federalnym, zobowiązany jest wydać rozporządzenie określające regulamin. Analogiczne rozwiązanie mogłoby zostać zastosowane w przypadku Rady i Komisji w Polsce. Zasady zwrotu kosztów przejazdów i noclegów związanych z udziałem w pracach Rady mogłyby zostać określone w regulaminie funkcjonowania Rady. Takie podejście umożliwiłoby udział specjalistów z różnych części kraju, którzy w przeciwnym razie mogliby być wykluczeni ze względu na bariery finansowe. Co więcej, warto rozważyć wprowadzenie możliwości ubiegania się o zwrot kosztów poniesionych w związku z udziałem w obradach Rady lub Komisji przez zaproszonych gości. Wprowadzenie możliwości ubiegania się o zwrot kosztów związanych z udziałem w obradach Rady lub Komisji przez zaproszonych gości mogłoby znacząco zwiększyć dostępność tych spotkań dla różnych grup społecznych, zwłaszcza dla młodych osób oraz ich opiekunów. Taki mechanizm stanowiłby formę wsparcia finansowego, pozwalającą zredukować bariery ekonomiczne, które mogą ograniczać ich zaangażowanie w procesy decyzyjne oraz konsultacyjne. Zapewnienie zwrotu kosztów dla zaproszonych gości, zwłaszcza przedstawicieli organizacji młodzieżowych, mogłoby być postrzegane jako gest w kierunku zapewnienia inkluzywności i równości szans, wskazując, że instytucje publiczne dostrzegają potrzebę większego zaangażowania społecznego oraz szanują czas i wysiłek każdej osoby, która chce wnieść wkład w dysk 80. Art. 8 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów Uwaga uwzględniona Kwestia procedury wyłączenia została uregulowana w nowej treści przepisów projektu. 81. Art. 8 NCBR Przepisy art. 8 należy uzupełnić o sformułowania wiążące się z kwestiami bezpieczeństwa stosowanych przez członków Komisji środków komunikacji - pamiętając, że mają oni posiadać dostęp Uwaga uwzględniona 65 oraz mają wymieniać informacje o charakterze poufnym, stanowiące tajemnice przedsiębiorstw. Należy więc zagwarantować przepisami, a co za tym idzie, również środkami technicznymi, bezpieczeństwo komunikacji w ramach Komisji. Uwaga uwzględniona poprzez rozszerzenie katalogu wymogów związanych z bezpieczeństwem cyfrowym oraz ochroną informacji. 82. Art. 8 Konfederacj a Lewiatan Rekomendujemy dodanie: Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji. Uzasadnienie: Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Uwaga uwzględniona Uwaga uwzględniona poprzez wskazanie uprawnień Komisji oraz Przewodniczącego Komisji. 83. Art. 8 ust. 2 i 9 UKNF Należy mieć na względzie, że tak sformułowany przepis wyłącza możliwość podejmowania decyzji w tzw. trybie obiegowym, a więc pozostaje w kolizji z ust. 9 Uwaga uwzględniona Uwaga uwzględniona poprez zmianę treści przepisów projektu określających sposób i tryb wykonywania zadań przez Komisję. 84. Art. 9 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.” Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 85. Art. 9 ust. 2 Konfederacj a lewiatan Uwaga lub propozycja zmiany zapisu: 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której podmiocie, którego są przedstawicielami. Uzasadnienie: Zmiana gramatyczna. Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 86. Art. 9 ust. 2 KRRiT w art. 9 ust. 2 wyrazy „w podmiotu, której” zostały błędnie odmienione; Uwaga wyjaśniona Uwaga nieaktualna ze względu na zmianę treści przepisów projektu. 87. Art. 9 ust. 2 Rada Legislacyjna [Błąd redakcyjny w art. 9 ust. 2 Projektu] W przepisie art. 9 ust. 2 Projektu występuje błąd redakcyjno-językowy, utrudniający lekturę i zrozumienie tego przepisu. W obecnym brzmieniu przepis ten Uwaga wyjaśniona Odstąpiono od regulacji. 66 stanowi co następuje: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami.”. Ta ostatnia część zdania jest całkowicie ułomna gramatycznie i powinna zostać poprawiona w następujący sposób: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. 88. Art. 10 ust. 3 UNKF Zgodnie z art. 5 ust. 3 projektu: „Nadzór nad działalnością Biura Komisji sprawuje Prezes Rady Ministrów”. Konsekwencją takiego założenia jest regulacja, zgodnie z którą Prezes Rady Ministrów nadaje statut Biura Komisji (art. 31 projektu). Z kolei, art. 10 ust. 3 projektu ustawy przewiduje, że: „Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia”. Należy mieć jednakże na uwadze, że w skład przyszłej Komisji wchodzić będą również przedstawicieli organów spoza sfery administracji rządowej - Prezesa UODO, RPO, KRRiT, a także KNF. Wobec powyższego należałoby rozważyć, czy bardziej odpowiednim rozwiązaniem nie będzie przyznanie Komisji ustawowej podstawy do samodzielnego uchwalenia regulaminu, który określi jej organizację i tryb pracy. Uwaga wyjaśniona Uwaga bezprzedmiotowa w kontekście dokonania przez projektodawcę zmian w treści przepisów regulujących sprawowanie nadzoru nad Biurem Komisji (w nowej wersji będącym w kompetencji Ministra wł. Ds. informatyzacji). 89. Art. 11 ust. 1 pkt 13, art. 13, art. 14 oraz art. 16 Pracodawcy RP Artykuły 11 ust. 1 pkt 13, 13, 14 oraz 16 przewidują możliwość wydawania interpretacji i rekomendacji przez Komisję, co wykracza poza kompetencje określone w Akcie w sprawie sztucznej inteligencji. Proponowane przepisy mogą prowadzić do niejednolitego stosowania prawa unijnego. Akt o AI (art. 66 lit. e) przyznaje takie uprawnienia wyłącznie unijnej Radzie ds. AI, aby zapewnić spójność i skuteczność wdrażania przepisów na poziomie całej Unii Europejskiej. W celu uniknięcia potencjalnych rozbieżności w interpretacji Aktu o AI przez różne państwa członkowskie oraz niejasności w stosowaniu przepisów przez międzynarodowe przedsiębiorstwa działające w Polsce i innych krajach, zaleca się usunięcie tych zapisów z ustawy. Uwaga uwzględniona Odstąpiono od propozycji utworzenia instytucji interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 67 90. Art. 11 NCBR Tworzenie piaskownic regulacyjnych, które umożliwią firmom testowanie nowych rozwiązań SI w kontrolowanym środowisku, wymaga doprecyzowania i uszczegółowienia. Przepisy ustawy jedynie wspominają o ich tworzeniu jako kompetencji Komisji, jednak w brakuje jasnych zasad funkcjonowania tych piaskownic, które pozwolą przedsiębiorstwom testować innowacyjne technologie z zachowaniem niezbędnych zabezpieczeń prawnych. Dla przykładu możliwość tworzenia piaskownic regulacyjnych przewidziano w prawie energetycznym. Prezes URE ma możliwość zawieszenia stosowania określonych przepisów w stosunku do określonych przedmiotów. Jeżeli Komisja funkcjonuje jako regulator rynku SI, powinna mieć analogiczne możliwości zapewnione na poziomie ustawy. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 91. Art. 11 ust 1 PUODO Podkreślenia wymaga na wstępie, że kluczowym atrybutem organu nadzorczego ds. ochrony danych osobowych w unijnym systemie ochrony danych jest jego niezależność, chroniona gwarancjami prawnymi czerpiącymi źródło w prawie UE (art. 16 TFUE oraz art. 8 KPP UE). Prawna ochrona niezależności organów ochrony danych osobowych ma na celu zapewnienie skuteczności i wiarygodności nadzoru przestrzegania przepisów dotyczących ochrony danych osobowych osób fizycznych i musi być interpretowana w świetle tego celu – na co wielokrotnie zwracał uwagę Trybunał Sprawiedliwości Unii Europejskiej5. Niezależność organu ochrony danych osobowych musi być rozpatrywana na kilku płaszczyznach, w tym przede wszystkim w aspekcie niezależności instytucjonalnej, czyli braku jakiejkolwiek podległości wobec innych organów oraz niezależności funkcjonalnej, czyli niepodlegania kontroli innych instytucji w zakresie realizacji swoich kompetencji6. Zwraca na to uwagę TSUE w swoim orzecznictwie, w szczególności w ww. wyroku w sprawie C- 614/10 Komisja przeciwko Austrii. Trybunał w tym wyroku wskazał, że organy nadzorcze w obszarze ochrony danych osobowych muszą pozostawać poza jakimkolwiek bezpośrednim czy pośrednim wpływem z zewnątrz, mogącym nadawać kierunek ich decyzjom. Z kolei w sprawie C- 288/12 Komisja przeciwko Węgrom Trybunał dodał, że nawet potencjalna możliwość wywarcia wpływu na decyzje organu Uwaga uwzględniona częściowo Kwestię niezależności organu ds. Ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu. 68 może być wystarczającą przeszkodą w niezależnym wykonywaniu zadań przez organ. Postanowienia aktu w sprawie sztucznej inteligencji w pełni przyjmują standard niezależności organu nadzorczego określony w rozporządzeniu 2016/679, wskazując w art. 2 ust. 7, że „Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Standard ten nie znalazł jednak wyrazu w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. Podkreślenia wymaga, że przyznanie wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) w zakresie „wykonywania zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689”, zgodnie z art. 11 ust. 1 pkt 7 projektu ustawy, oraz „sprawowania kontroli przestrzegania przepisów rozporządzenia 2024/1689”, zgodnie z art. 11 ust. 1 pkt 1 projektu ustawy, nie spełnia wymagań odnoszących się do zakresu kompetencji nadzorczych organu ds. ochrony danych osobowych określonych w prawie unijnym, w tym określonych wprost w rozporządzeniu 2024/1689 oraz rozporządzeniu 2016/679. To przepisy rozporządzenia 2016/679 stanowią podstawę dla nadzoru nad wszystkimi sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru w tej materii niezależnemu organowi nadzorczemu, tj. Prezesowi UODO. 92. Art 11 ust. 1 pkt 3-4 BGK Brak rozwinięcia w dalszej części Ustawy brzmienia tych zapisów, w jaki sposób, w jakim zakresie. Uwaga uwzględniona 69 Dokonano rozwinięcia przepisów będących przedmiotem uwagi (m.in. w rozdziale 8 - środki wspierające innowacyjność) 93. Art. 11 ust. 1 BGK Dodanie pkt 9: 9) prowadzenie badań w zakresie zastosowania sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację wpływu treści na podejmowane przez biznes działania; Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu podejmowanych działań Uwaga nieuwzględniona Obszar badań według projektodawcy mieści się w ramach innych zadań związanych m.in. z zapewnieniem odpowiedniego poziomu kompetencji w zakresie koniecznym do stosowania przepisów ustawy. 94. Art. 11 ust. 1 pkt 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 6. wydawanie postanowienia i decyzje postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy. Uzasadnienie: Pierwsza uwaga stanowi poprawkę gramatyczną. Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Uwaga częściowo uwzględniona 95. Art. 11 ust. 1 pkt 6 KRRiT w art. 11 ust. 1 pkt 6 wyrazy „postanowienia i decyzje” zostały błędnie odmienione; Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 96. Art. 11 ust. 1 pkt 6 UKNF Projektowany przepis stanowi, że: „Do zadań Komisji należy wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. Wydawanie decyzji i postanowień w sprawach dotyczących naruszeń przepisów ustawy jest jednakże formą, w której organ może realizować swoje kompetencje. Nie jest to jednakże samodzielne zadanie Komisji. Stąd też, UKNF poddaje pod rozwagę wykreślenie tego punktu bądź przyjęcie innej redakcji przepisu. Uwaga nieuwzględniona Zdaniem projektodawcy wskazany przepis powinien pozostać w projekcie ustawy w celu uniknięcia niejasności interpretacyjnych w stosowaniu nowego prawa. 97. Art. 11 ust. 1 pkt 6 Rada Legislacyjna [Usterka redakcyjna w art. 11 ust. 1 pkt 6 Projektu] Kolejna usterka redakcyjno- językowa występuje w art. 11 ust. 1 pkt 6 Projektu. Przepis ten stanowi, że „Do zadań Komisji należy [...] wydawanie postanowienia i decyzje w sprawach naruszenia Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 70 przepisów o systemach sztucznej inteligencji”. W przepisie tym należy poprawić deklinację, poprzez użycie wyrazów „postanowień i decyzji” w dopełniaczu. W efekcie, poprawne językowo brzmienie tego przepisu powinno być następujące: „Do zadań Komisji należy [...] wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji” 98. Art. 11 ust. 1 pkt 10 UKNF Niejasnym jest posłużenie się sformułowaniem „gromadzenie orzecznictwa”. Wątpliwym jest bowiem, aby celem projektodawcy było zobowiązanie Komisji do archiwizowania orzeczeń sądowych. Celem przepisu jest raczej zobowiązanie do bieżącego monitorowania orzecznictwa, a następnie informowania o nim obywateli. W związku z powyższym UKNF wnosi o zmianę projektowanego przepisu poprzez zastąpienie pojęcia „gromadzenie orzecznictwa” pojęciem „monitorowanie orzecznictwa”. Uwaga uwzględniona Uwaga uwzględniona w art. 9 pkt. 10, w którym zrezygnowano z potencjalnie niejednoznacznego zobowiązania do “gromadzenia” orzecznictwa. 99. Art. 11 ust. 1 pkt 11 KRRiT w art. 11 ust. 1 pkt 11 uprawnienie Komisji zostało ujęte zbyt ogólnie i w sposób niejasny – warto rozważyć możliwość prowadzenia sprofilowanych na określony zakres regulacji piaskownic regulacyjnych, także przez Prezesa UODO, Prezesa UOKiK, Prezesa UKE oraz przez KRRiT; Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 100. Art. 11 ust. 1 pkt 13 PUODO Interpretacje generalne i indywidualne. Zgodnie z art. 11 ust. 1 pkt 13 projektu ustawy do zadań Komisji należy dokonywanie interpretacji generalnych i indywidualnych. Wydawanie na zlecenie Komisji interpretacji generalnych i indywidualnych przez przedstawiciela Prezesa UODO będącego członkiem Komisji w opinii organu nadzorczego ds. ochrony danych budzi wątpliwości pod kątem stosowania art. 57 rozporządzenia 2016/679, w którym została określona niezależność. Prezes UODO nie może być związany interpretacją wydaną przez Komisję w kwestiach dotyczących ochrony danych osobowych. Uwaga uwzględniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 101. Art. 11 ust. 1 pkt 13 UKNF Zdaniem UKNF pojęcie „dokonywanie interpretacji” powinno zostać zastąpione pojęciem „wydawanie interpretacji”. Ponadto przepis wymaga ujednolicenia z zakresem art. 13 oraz z art. 14 projektu ustawy. Zgodnie bowiem z projektowanym art. 14 ust. 1 interpretacje w sprawie indywidualnej zastrzeżono do Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 71 zakresu zadań Przewodniczącego Komisji, a nie do Komisji działającej in gremio. 102. Art. 11 ust. 3 KRRiT w art. 11 ust. 3 błędnie odesłano do ust. 1; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 103. Art. 12 ust. 2 pkt 4 Rada Legislacyjna [Niepoprawne odwołanie się do pojęcia przedsiębiorstw w art. 12 ust. 2 pkt 4 Projektu] Przepis art. 12 ust. 2 pkt 4 Projektu odwołuje się do pojęcia „przedsiębiorstw”, podczas gdy prawidłowo powinna być w tym przepisie mowa o „przedsiębiorcach”. W aktualnym brzmieniu powołany przepis Projektu stanowi, że Komisja publikuje coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji „w przedsiębiorstwach w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236 i 1222)”. Tymczasem w tej powołanej ustawie Prawo przedsiębiorców nie tylko brak jest legalnej definicji pojęcia „przedsiębiorstw”, ale nawet samo to pojęcie w zasadzie w ogóle tam nie występuje (w ustawie tej mówi się co najwyżej o wyodrębnionej części przedsiębiorstwa). W ustawie Prawo przedsiębiorców kluczowe jest natomiast pojęcie „przedsiębiorcy”, zdefiniowane tam normatywnie w art. 4 ust. 1 i 2 (w zw. z art. 2). I właśnie do pojęcia „przedsiębiorców” powinien się docelowo odwoływać przepis art. 12 ust. 2 pkt 4 Projektu („u przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców”). Uwaga uwzględniona 104. Art. 13 ust. 1 BGK Propozycja: Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów (m.in. Poprzez rezygnację z kategorii “interpretacji”). 72 podstawie nazwy było wiadomo jaki dany dokument ma charakter 105. Art. 13 ust. 1 Rada Legislacyjna [Brak określenia skutków prawnych aktów Komisji w art. 13 ust. 1 Projektu] Art. 13 ust. 1 Projektu nie określa w ogóle skutków prawnych, jakie dla Komisji i dla zainteresowanych podmiotów będą wywierały wyjaśnienia, opinie i interpretacje, o których jest mowa w tym przepisie. Przepis ten stanowi co następuje: „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wyjaśnienia, opinie i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.”. Zdaniem Rady Legislacyjnej, bez przesądzenia w Projekcie o skutkach prawnych tego rodzaju wydawanych przez Komisję wyjaśnień, opinii i interpretacji (o charakterze generalno- abstrakcyjnym), ta instytucja prawna może nie mieć żadnego praktycznego znaczenia prawnego: jeżeli bowiem Komisja nie będzie się czuła związana tymi aktami (na zasadzie samozobowiązania się), zaś podmioty stosujące przepisy dotyczące systemów sztucznej inteligencji nie będą miały przekonania, iż te akty Komisji są dla niej wiążące i że mogą oni działać w zaufaniu do tychże aktów, bez ryzyka narażania się na sankcje z tytułu ich respektowania, to wówczas cała ta instytucja będzie jedynie fasadowa i będzie wręcz przynosiła więcej szkód niż pożytków (tzn. pojawi się chaos prawny, niepewność prawa, utrata zaufania jednostek do organów państwa, mnożące się roszczenia odszkodowawcze wobec państwa, itp.). Zdaniem Rady Legislacyjnej, de lege ferenda należy unormować status i skutki prawne wspomnianych generalnych aktów Komisji z art. 13 ust. 1 Projektu w sposób analogiczny do statusu i skutku objaśnień prawnych, o których jest mowa w art. 33 ust. 1 ustawy Prawo przedsiębiorców,15 a których skutki prawne wynikają z przepisów art. 35 ust. 1-2 w zw. z ust. 3 ustawy Prawo przedsiębiorców. Z tych ostatnich przepisów wynika, że objaśnienia prawne są z jednej strony wiążące dla organów państwa, które je wydały, zaś z drugiej strony nie wiążą one co prawda przedsiębiorców, w tym sensie, że nie obligują ich do postępowania wskazanego w danym objaśnieniu prawnym, ale Uwaga uwzględniona Problematyka skutków prawnych opinii (w miejsce “interpretacji”) indywidualnych oraz wyjaśnień jest przedmiotem zmian w nowej treści przepisów (nowe brzmienie art. 11-14). 73 równocześnie w zakresie, w jakim przedsiębiorca zastosował się do danych objaśnień prawnych nie może on być obciążony jakimikolwiek sankcjami administracyjnymi, finansowymi lub karami.16 Na gruncie art. 13 ust. 1 Projektu należałoby sformułować podobną regułę w odniesieniu do przewidzianych tam wyjaśnień, opinii i interpretacji Komisji, względnie też należałoby odesłać do odpowiedniego stosowania w tym zakresie odnośnych przepisów ustawy Prawo przedsiębiorców. 106. Art. 13 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę modyfikację fragmentu „wyjaśnienia, opinie i interpretacje”. Brak jest bowiem przepisów określających charakter tych wypowiedzi Komisji, co może budzić wątpliwości na etapie ich stosowania. Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów art. 11-14. 107. Art. 13 ust. 2 PFR Warto rozważyć uregulowanie sposobu publikacji i ewentualnego zanonimizowania danych wrażliwych, co zapewniłoby lepszą ochronę prywatności. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą anonimizowane. 108. Art. 13 ust. 2 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Ponadto w ten sposób na szeroką skalę ujawniony zostanie również sposób działania organu nadzoru. Urząd Komisji Nadzoru Finansowego rekomenduje przyjęcie zasad odnośnie do publikowania informacji o decyzjach przykładowo na kształt art. 87 ustawy z dnia 15 grudnia 2017 r. o dystrybucji ubezpieczeń bądź art. 3c ust. 5 i następne ustawy o nadzorze nad rynkiem finansowym. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą pozbawione treści prawnie chronionych. 109. Art.14 KRRiT W art. 14 nie określono jaki charakter ma mieć interpretacja wydawana przez Przewodniczącego Komisji, w szczególności nie wskazano czy będzie ona wiążąca i dla kogo, ponadto należałoby rozważyć dookreślenie kręgu podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie interpretacji; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 110. Art. 14 ust. 1-7 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przepisy art. 14 ust. 1-5 projektu ustawy nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach. Przepisy tego rodzaju ustawodawca przewidział np. w art. 35 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (dalej jako: „Prawo przedsiębiorców”) w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 74 Prawa przedsiębiorców, czy też w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (dalej jako: „Ordynacja podatkowa”). Ponadto UKNF proponuje rozważyć dodanie przepisu określającego, w jakich sytuacjach odmawia się wydania interpretacji indywidualnej, który mógłby wyłączać dopuszczalność wniosków o interpretację indywidualną lub tych elementów wniosku o interpretację indywidualną, które w dniu złożenia wniosku są objęte kontrolą Komisji lub postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub zostały już rozstrzygnięte co do istoty. Taki przepis zabezpieczałby Komisję przed wydawaniem interpretacji w sprawach wątpliwych, które byłyby dopiero przedmiotem badania przez Komisję i jednocześnie zapobiegałby sytuacjom, w których podmiot naruszający przepisy lub stwarzający określone ryzyka naruszeń uzyskiwałby korzystną dla siebie interpretację. Taki sposób zabezpieczenia przewidują przepisy Ordynacji podatkowej – art. 14b oraz przepisy ustawy o nadzorze nad rynkiem finansowym – art. 11b ust. 10. Ponadto, w ocenie UKNF, doprecyzować należy również, jakie są skutki uwzględnienia bądź nieuwzględnienia sprzeciwu, o którym mowa w art. 14 ust. 7 projektu ustawy. Zasadnym byłoby również doprecyzowanie, czy rozstrzygnięcie wydane w ramach rozpatrzenia sprzeciwu może zostać zaskarżone, a jeżeli tak, jaki organ byłby właściwy do rozpoznania takiego środka zaskarżenia. 111. Art. 14 ust. 1-5 Rada Legislacyjna Brak określenia skutków prawnych interpretacji z art. 14 ust. 1-5 Projektu] Przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach Projektu. Istota tychże interpretacji wyraża się w tym, że „Przewodniczący Komisji, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy” (art. 14 ust. 1 Projektu) oraz że „Interpretacja, o której mowa w ust. 1, zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 75 oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.” (art. 14 ust. 5 Projektu). Podobnie jak w przypadku generalno- abstrakcyjnych wyjaśnień, opinii i interpretacji, o których jest mowa w art. 13 ust. 1 Projektu, również w przypadku interpretacji indywidualnych przewidzianych w art. 14 ust. 1-5 Projektu nie zostały w Projekcie określone skutki prawne tych interpretacji dla wnioskodawcy oraz dla Komisji, chociażby w sposób dokonany przez ustawodawcę w art. 35 ustawy Prawo przedsiębiorców w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 ustawy Prawo przedsiębiorców. W odniesieniu do skutków interpretacji indywidualnych z art. 14 ust. 1-5 Projektu reguły określone w art. 34-35 ustawy Prawo przedsiębiorców nie mogą być stosowane wprost, gdyż, po pierwsze, przepisy art. 34-35 ustawy Prawo przedsiębiorców mają zastosowanie tylko do interpretacji w sprawach fiskalno-składkowych (tj. interpretacje te dotyczą wyjaśnienia co do zakresu i sposobu stosowania przepisów, z których wynika obowiązek świadczenia przez przedsiębiorcę daniny publicznej lub składek na ubezpieczenia społeczne lub zdrowotne, w jego indywidualnej sprawie), podczas gdy interpretacje indywidualne z art. 14 ust. 1-5 Projektu dotyczą nie tylko tego rodzaju spraw, a po drugie nie zawsze o interpretację do Przewodniczącego Komisji musi się zwracać przedsiębiorca w rozumieniu ustawy Prawo przedsiębiorców. Niemniej jednak, zdaniem Rady Legislacyjnej, w Projekcie należy unormować skutki prawne interpretacji indywidualnych z art. 14 ust. 1-5 Projektu w sposób analogiczny lub zbliżony do skutków interpretacji indywidualnych z ustawy Prawo przedsiębiorców. Przyjęcie tego stanowiska oznaczałoby, że interpretacje indywidualne z art. 14 ust. 1-5 Projektu są wiążące dla Komisji, a nie są wiążące dla wnioskodawcy (tj. dla podmiotu wnioskującego o interpretację Komisji w jego indywidualnej sprawie); ten ostatni może daną interpretację indywidualną zlekceważyć (pominąć), z tym, że jeżeli wnioskodawca zastosuje się do danej interpretacji w jego indywidualnej sprawie, to nie może on następnie ponieść negatywnych skutków tego stanu rzeczy, w szczególności zaś nie może zostać obciążony sankcjami za zachowanie zgodne z 76 uzyskaną interpretacją wydaną przez Przewodniczącego Komisji. 112. Art. 14 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na rozbieżność pomiędzy art. 14 ust. 1 a art. 11 ust. 1 pkt 13 i art. 15 projektu ustawy. W art. 11 ust. 1 pkt 13 projektu ustawy wskazano bowiem, że do zadań Komisji należy wydawanie interpretacji indywidualnych i generalnych; w art. 15 projektu ustawy, że to Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych, a z kolei zgodnie z aktualnym brzmieniem art. 14 ust. 1 projektu ustawy uprawnienie to, w zakresie interpretacji indywidualnych, przysługuje Przewodniczącemu Komisji. Niezbędnym wydaje się wyjaśnienie i ujednolicenie tej kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 113. Art. 14 ust. 1 PFR Nie określono, jak długo wnioskodawca ma oczekiwać na wydanie interpretacji. Wyznaczenie maksymalnych terminów oczekiwania byłoby korzystne dla przejrzystości procesu. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 114. Art. 14 ust. 1 IAB Polska Rekomendujemy dodanie terminu za wydanie takiej interpretacji, aby zarówno podmiot zainteresowany, jak i Komisja (por. poniższy akapit) poruszali się w tym zakresie w ramach konkretnego zakresu czasowego. W tym zakresie można wykorzystać przepisy dot. Komisji Nadzoru Finansowego z art. 11b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym. Biorąc pod uwagę powyższe, interpretację powinna wydawać Komisja, a nie przewodniczący, biorąc pod uwagę wzorowanie się na już obecnych zasadach funkcjonowania Komisji Nadzoru Finansowego. Jednocześnie powinien zostać przewidziany tryb odwołania od decyzji Komisji ws. interpretacji indywidualnej na wzór skargi do sądu administracyjnego na indywidualną interpretację podatkową (np. do SOKiK). Wskazany w art. 14 ust. 1 projektu ustawy tryb przypomina tryb wydawania interpretacji podatkowych. O ile pozytywnie należy ocenić, że Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) może wspierać uczestników rynku w interpretowania AI Actu (patrz jednak zastrzeżenie dot. fragmentaryzacji prawa poniżej), o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 77 To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. Niemniej, chcemy zwrócić uwagę, że instytucja interpretacji przepisów AI Act na poziomie lokalnym nie znajduje uzasadnienia w samym AI Act. Zgodnie z AI Act to unijna Rada ds. AI może wydawać zalecenia i opinie “na temat wszelkich istotnych zagadnień związanych z wdrażaniem rozporządzenia”. Rozwiązanie przyjęte w Projekcie rodzi ryzyko znacznej fragmentaryzacji prawa unijnego, które będzie różnie interpretowane w państwach członkowskich. Zasadne byłoby, w przypadku decyzji o utrzymaniu tej instytucji, opracowanie procesów gwarantujących spójność interpretacji ze stanowiskami Rady ds. AI lub innymi organami na poziomie państw członkowskich. 115. Art. 14 ust. 1 Konfederacj a Lewiatan Rekomendacja uzupełnienia: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystapił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem że działania tego podmiotu w Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 78 zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. Uzasadnienie: Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jesrt Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. Postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. 116. Art. 14 ust. 2 PFR Proponujemy doprecyzowanie formy składania tego wniosku, wydania interpretacji oraz składania sprzeciwu od tej interpretacji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 117. Art. 14 ust. 3 Rzecznik MŚP Wnoszę o rozważenie wykreślenia: przesłanki \"wyczerpującego przedstawienia zaistniałego stanu faktycznego albo zdarzenia przyszłego” zawartej w art. 14 ust. 3 Projektu, w celu pozyskania interpretacji w indywidualnej sprawie przepisów rozporządzenia 2024/1689? w świetle ustawy Prawo przedsiębiorców. Tak Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 79 sformułowana przesłanka może być zbyt rygorystyczna i sprzeczna z przesłankami uzyskania takiej interpretacji określonymi w art. 34 ust. 1 i 3-4 Prawa przedsiębiorców. W tym kontekście ze względu na wprowadzenie przesłanki „wyczerpania”, uzasadniona może być obawa o nadużywanie jej w celu zbyt łatwej możliwości odrzucania wniosków o interpretacje indywidualne przedsiębiorców, zwłaszcza, że powstają dopiero pierwsze systemy sztucznej inteligencji i uregulowania ich dotyczące; wymóg przedstawiania w sposób „wyczerpujący” tanu faktycznego albo zdarzenia przyszłego można uznać zasadniczo za barierę sprzeczną z art. 67 pkt 1 i 4 oraz art. 68 Prawa przedsiębiorców, 118. Art. 14 ust. 5 BGK Propozycja „5. Komisja wydaje interpretację, o której mowa w ust. 1, w ciągu 30 dni od dnia otrzymania wniosku. Interpretacja zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.”. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 119. Art. 14 ust. 5 Konfederacj a Lewiatan Przepis wymaga doprecyzowania terminu wydawania interpretacji, skutków jej wydania oraz czy jest wiążąca w określonym stanie faktycznym. Zwiększy to jasność i precyzję przepisu, co zapewni pewność prawną. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 120. Art. 14 po ust. 5 BGK Dodanie ustępu 5a: Uwaga wyjaśniona 80 5a. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli. Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 121. Art. 14 ust. 6 i 7 Konfederacj a Lewiatan Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Uzasadnienie: Ustawa nie określa: • formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; • do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? • formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąc, że ma odpowiednie zastosowanie w sprawach niuregulowanych bo nie reguluje tych kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 122. Art. 14 ust. 6 i 7 Rada Legislacyjna [Brak przesądzenia o formie prawnej rozstrzygnięcia oraz o drodze sądowej w art. 14 ust. 6-7 Projektu] Przepisy art. 14 ust. 6-7 Projektu nie przesądzają o formie prawnej przewidzianego tam rozstrzygnięcia przez Komisje sprzeciwu oraz nie mówią nic o tym, czy od rozstrzygnięcia przez Komisję tego sprzeciwu wnioskodawcy przysługuje środek zaskarżenia przed sądem. Sprzeciw, o którym jest mowa w art. 14 ust. 6-7 Projektu Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 81 przysługuje wnioskodawcy wobec uzyskanej w jego indywidualnej sprawie interpretacji wydanej przez Przewodniczącego Komisji, przy czym sprzeciw wnioskodawcy jest rozpatrywany przez całą Komisję. W Projekcie nie określono formy prawnej rozstrzygnięcia przez Komisję wspomnianego sprzeciwu, a w efekcie nie wiadomo, czy ma to następować w formie decyzji, postanowienia lub innego aktu Komisji. W efekcie, nie jest też przesądzona możliwość oraz forma (droga) zaskarżenia przez wnioskodawcę rozstrzygnięcia Komisji w sprawie jego sprzeciwu. Gdyby rozstrzygnięcie omawianego sprzeciwu następowało w formie decyzji lub postanowienia Komisji, to wówczas otwarta byłaby w tych sprawach droga sądowa przed sądem administracyjnym, choć teoretycznie można by wówczas postulować de lege ferenda również możliwość wniesienia, odpowiednio, odwołania lub zażalenia do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej: „SOKiK”), tak jak o tym wyraźnie przesądzono w art. 57 ust. 1 Projektu w odniesieniu do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 („Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”). Gdyby natomiast rozstrzygnięcie przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu, następowało w formie innego aktu lub czynności niż decyzja lub postanowienie, to wówczas teoretycznie akt taki można by zaskarżyć do sądu administracyjnego na podstawie art. 3 § 2 pkt 4 ustawy z dnia 30 sierpnia 2002 r. Prawo o postępowaniu przed sądami administracyjnymi.17 Ten ostatni przepis pozwala zaskarżać do sądu administracyjnego „inne niż określone w pkt 1-3 akty lub czynności z zakresu administracji publicznej dotyczące uprawnień lub obowiązków wynikających z przepisów prawa”. Jednakże możliwość wykorzystywania tego przepisu do otwarcia drogi sądowej od rozstrzygnięcia przez Komisję sprzeciwu w sprawach interpretacji indywidualnych nie jest wcale taka pewna, gdyż, jak jest o tym mowa wyżej w punkcie II.10 niniejszej opinii, przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych wywieranych przez interpretacje indywidualne wydawane przez Przewodniczącego Komisji, a 82 zatem nie wiadomo, czy rozstrzygnięcia Komisji w sprawie sprzeciwu od interpretacji dotyczą „uprawnień lub obowiązków wynikających z przepisów prawa” w rozumieniu art. 3 § 2 pkt 4 ustawy Prawo o postępowaniu przed sądami administracyjnymi. W przekonaniu Rady Legislacyjnej, w przepisach Projektu należy określić zarówno formę prawną rozstrzygnięcia przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu (np. decyzja lub postanowienie Komisji), jak też środek (drogę) zaskarżenia tego rozstrzygnięcia (np. skarga do sądu administracyjnego albo odwołanie lub zażalenie do SOKiK). 123. Art. 14 ust. 6 Konfederacj a Lewiatan Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstanycjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 124. art. 14 ust. 7 BGK Propozycja: „7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio.” Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 125. Art. 14 ust. 7 PFR Wskazane jest uregulowanie procedury odwoławczej poprzez umożliwienie rozpatrzenia sprawy przez odpowiedni sąd po złożeniu skargi. Uwaga wyjaśniona Uwaga nieaktualna – w nowej wersji projektu dokonano modyfikacji przepisów w zakresie będącym przedmiotem uwagi. 83 126. Art. 15 i art. 13 ust. 1 Rada Legislacyjna [Brak czytelnej różnicy pomiędzy przepisami art. 13 ust. 1 i art. 15 Projektu] Nie do końca wiadomo, czym różnią się od siebie w sensie normatywno-prawnym instytucje unormowane w art. 13 ust. 1 Projektu (z jednej strony) oraz w art. 15 Projektu (z drugiej strony). Jak była już o tym mowa, art. 13 ust. 1 zd. 1 Projektu stanowi, że „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji.”. Z kolei art. 15 Projektu stanowi, że „Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy.”. Kwalitatywna różnica pomiędzy obu wskazanymi instytucjami prawnymi jest absolutnie nieczytelna (w obu przypadkach chodzi w istocie o generalne akty interpretacyjne wydawane przez Komisję i przedstawiające jej stanowisko w sprawie interpretacji przepisów Rozporządzenia UE 2024/1689 lub Projektu), przy czym w art. 15 Projektu, tak samo jak w art. 13 i 14 Projektu, nie określono skutków prawnych interpretacji generalnych wydawanych przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 127. art. 15 BGK Propozycja: Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z tym, że taka osoba nie może być obciążona sankcjami administracyjnymi, finansowymi lub karami w zakresie, w jakim zastosował się do interpretacji generalnej. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 84 stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. 128. Art. 15 Konfederacj a Lewiatan Podobnie jak w przypadku art. 14 ust. 5, przepis wymaga doprecyzowania Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 129. Art. 16 IAB Polska Biorąc pod uwagę publiczność interpretacji – rekomendujemy wprowadzenie procedury wykluczania z publikacji informacji stanowiących tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 130. Art. 16 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 131. Art. 17 ust. 1 KRRiT w art. 17 ust. 1 w pkt 3 i 4 wskazano, że roczne sprawozdanie Komisji w zakresie zadań realizowanych przez Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz w zakresie realizacji rocznego planu finansowego mają dotyczyć roku poprzedzającego złożenie sprawozdania (w pkt. 3 wskazano na rok poprzedzający, a w pkt. 4 odniesiono się do roku kalendarzowego poprzedzającego), natomiast pkt 1 i 2 przepisu nie posiada takiego doprecyzowania – wątpliwości interpretacyjne może budzić fakt, czy kwestie wskazane w pkt 1 i 2 przepisu mają dotyczyć roku poprzedzającego złożenie Uwaga uwzględniona Treść przepisów rozróżnia obowiązki sprawozdawcze dotyczące roku poprzedzającego złożenie sprawozdania, a także obowiązki dotyczące przedstawienia informacji nt. wszystkich lat działalności Komisji. 85 sprawozdania, tym bardziej, że zdanie wprowadzające do wyliczeń nie odnosi się do tej kwestii; 132. Art. 18 NCBR W wątpliwość należy poddać, czy ujęte w przepisach art. 18 ust. 2 pkt 4 kompetencje Przewodniczącego Komisji są wystarczające do pełnienia tej funkcji. Istotne jest, aby była to osoba o wysokich kompetencjach merytorycznych oraz dłuższym aniżeli trzyletnie doświadczeniu w zakresie objętym ustawą. Uwaga wyjaśniona Przepis otrzymał nowe brzmienie, natomiast ze względu na nowatorski charakter aktualnie rozwijanych i stosowanych technologii sztucznej inteligencji zachowano wymóg 3 lat pracy na stanowisku kierowniczym. 133. Art. 18 ust. 2 pkt 4 BGK Propozycja: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych; Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). Uwaga nieuwzględniona Zdaniem projektodawcy nie należy dokonywać wskazanego dookreślenia. 134. Art. 18 ust. 2 pkt 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; Uzasadnienie: Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeslo nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującycm działalność w obszarach wskazanych, co sugeruje że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w Uwaga nieuwzględniona Zdaniem projektodawcy nie ma konieczności dokonania wskazanych zmian ze względu na bliskie znaczenie obu wersji projektowanego przepisu. 86 firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. 135. Art. 20 NCBR Postępowanie na stanowisko Przewodniczącego przeprowadza trzyosobowa komisja kwalifikacyjna, która ocenia kompetencje kierownicze kandydata na Przewodniczącego, alternatywnie wspomagając się tym zewnętrznym ekspertem (art. 20 ust. 4 i 5). W ustawie brakuje informacji, jakie rzeczywiste kompetencje do oceny kandydatów na Przewodniczącego Komisji powinny posiadać osoby oceniające kandydatów. Uwaga nieuwzględniona Zmiana sposobu powołania przewodniczącego Komisji na rzecz powołania przez Sejm za zgodą Senatu. 136. Art. 20 Konfederacj a Lewiatan Zapytanie: Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? 137. Art. 20 ust. 2 IAB Polska W celu promocji dobrych praktyk rynkowych oraz dla celów transparentności Komisji – rekomendujemy dodanie punktu tworzącego obowiązek przekazania danych o wynagrodzeniu Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w art. 15 ust. 2 pkt. 6. 138. Art. 20 ust. 2 pkt 5 KRRiT w art. 20 ust. 2 pkt 5 powinno się nadać brzmienie: „5) wymagane dokumenty”; Uwaga uwzględniona 139. Art. 20 ust. 5 KRRiT w art. 20 ust. 5 błędnie odesłano do ust. 3; Uwaga uwzględniona 140. Art. 20 ust. 5 PFR Wydaje się, iż w tym miejscu powinno być odwołanie do kompetencji z ust. 4. Wskazany ust. 3 nie mówi o żadnych kompetencjach. Uwaga uwzględniona 141. Art. 20 ust. 5 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na błędne odwołanie w treści przepisu. O wiedzy i kompetencjach kierowniczych jest bowiem mowa w art. 20 ust. 4 projektu ustawy, a nie w ust. 3 jak wskazano w projektowanym przepisie. Przepis w ust. 3 stanowi o terminie składania dokumentów. Niezbędna jest korekta w zakresie odesłania do prawidłowej jednostki redakcyjnej (ust. 4). Uwaga uwzględniona 142. Art. 20 ust. 8 KRRiT w art. 20 ust. 8 katalog informacji zawartych w protokole z przeprowadzonego naboru powinien zostać uzupełniony o informację o niewyłonieniu kandydata, zwłaszcza, że protokół zawierać ma informację o powodach niewyłonienia kandydata; Uwaga uwzględniona Uwaga uwzględniona w art. 18 ust. 11 pkt 5 143. Art. 20 ust. 8 UKNF Ustęp ten dotyczy informacji ujawnianych w protokole komisji kwalifikacyjnej z przeprowadzonego naboru na stanowisko Uwaga nieuwzględniona 87 Przewodniczącego Komisji. W art. 20 ust. 5 projektu ustawy wskazano na możliwość uczestnictwa w ocenie wiedzy i kompetencji kierowniczych kandydata na stanowisko Przewodniczącego Komisji osoby niebędącej członkiem komisji kwalifikacyjnej. W ocenie UKNF zasadnym byłoby, aby w sytuacji uczestnictwa takiej osoby, była ona także wskazana w ww. protokole obok składu komisji kwalifikacyjnej, tak aby protokół odpowiadał stanowi faktycznemu i uwzględniał wszystkie osoby rzeczywiście zaangażowane w proces wyboru Przewodniczącego Komisji. 144. Art. 23 ust. 1 KRRiT w art. 23 ust. 1 błędnie odesłano do art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce; Uwaga uwzględniona 145. Art. 23 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce, do którego odwołuje się art. 23 ust. 1 projektu ustawy, nie zawiera wykazu stanowisk, lecz wykaz podmiotów składających się na system szkolnictwa wyższego i nauki (tj.: uczelnie, PAN, instytuty naukowe, instytuty badawcze itd.). Z tego względu niezbędne jest przeredagowanie niniejszego przepisu, tak aby odpowiadał wskazanemu odesłaniu. Uwaga uwzględniona 146. Art. 23 ust. 1 IAB Polska Treść art. 7 ust. 1 ustawy z 20.7.2018 r. - Prawo o szkolnictwie wyższym i nauce nie zawiera określenia stanowisk w systemie szkolnictwa wyższego i nauki, a wykaz podmiotów ten system tworzących. Tym samym należy zmienić wskazany przepis i określić, że chodzi o stanowisko w ramach ww. podmiotów lub też wymienić określone stanowiska wprost w przepisie, czyli tak jak dokonano tego np. przy okazji regulowania sytuacji prawnej Prezesa Urzędu Ochrony Konkurencji i Konsumentów (por. art. 29 ust. 3aa ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów). Uwaga uwzględniona 147. Art. 23 ust. 1 Rada Legislacyjna [Błąd merytoryczno-językowy w art. 23 ust. 1 Projektu] W art. 23 ust. 1 Projektu występuje niepoprawne odwołanie się do pojęcia „stanowiska, o którym mowa [w] art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce” („Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska, o którym mowa art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”). Tymczasem w art. 7 ust. 1 ustawy Prawo o szkolnictwie wyższym i nauce nie Uwaga uwzględniona 88 ma bynajmniej mowy o jakichkolwiek „stanowiskach”, natomiast zostały tam wymienione podmioty tworzące w Polsce system szkolnictwa wyższego i nauki (np. uczelnie, Polska Akademia Nauk, itp.). W związku z powyższym Rada Legislacyjna proponuje nadać tej części przepisu art. 23 ust. 1 Projektu następujące brzmienie: „Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska w podmiocie, o którym mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”. 148. Art. 23 ust. 2 KRRiT w art. 23 ust. 2 wyrazy „jego funkcji” należy zastąpić wyrazami „ich funkcji”; Uwaga uwzględniona 149. Art. 23 ust. 2 `OPZZ OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. Uwzględniona nieuwzględniona Z powodu zmiany organizacji Komisji (Państwowa Inspekcja Pracy jako stały członek Komisji) oraz przepisów regulujących działanie Społecznej Rady sprawy rynku pracy i ochrony praw pracowników według projektodawców będą miały zapewnioną odpowiednią reprezentację. 150. Art. 24 OPZZ Pragnę zwrócić także uwagę, że w ocenie OPZZ pracownicy Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinni być zatrudnieni wyłącznie w oparciu o umowę o pracę, co zapewni pełną niezależność i przejrzystość działań Biura Komisji. Uważamy, że w administracji publicznej powinny dominować umowy o pracę. Taki model zatrudnienia jest niezbędny dla utrzymania najwyższych standardów pracy, które są kluczowe w instytucji odpowiedzialnej za nadzór nad Uwaga nieuwzględniona Ze względu na specyfikę sektora technologii sztucznej inteligencji taki wymóg mógłby wpłynąć negatywnie na możliwości budowy zespołów o wymaganych kompetencjach. Kwestie potencjalnego ryzyka takiego rozwiązania adresowane są poprzez przepisy mówiące o zakazie konfliktu interesów. 89 zaawansowanymi technologiami, jakimi są algorytmy i systemy sztucznej inteligencji. Zatrudnienie w oparciu o umowy cywilnoprawne, takie jak umowy zlecenia czy umowy o dzieło, ze względu na swój charakter, może budzić wątpliwości co do pełnej niezależności zatrudnionych osób, zwłaszcza w przypadku zadań o kluczowym znaczeniu dla państwa. 151. Art. 25 ust. 3, art. 27 oraz art. 61 Pracodawcy RP Ustawa nie zapewnia wystarczających zabezpieczeń chroniących poufność danych pozyskiwanych przez Komisję, co może negatywnie wpłynąć na interesy przedsiębiorstw i ich partnerów. Członkowie Komisji posiadają szerokie uprawnienia do przetwarzania i udostępniania informacji objętych tajemnicą prawnie, co stanowi poważne zagrożenie dla prywatności firm. Proponujemy wprowadzenie ograniczeń w zakresie udostępniania i przetwarzania informacji stanowiących tajemnicę przedsiębiorstwa. W szczególności, przetwarzanie danych poufnych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, zgodnie z wymogami artykułu 78 ustęp 2 Aktu o AI, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów firm. Uwaga nieuwzględniona Wymóg możliwości przetwarzania danych jest konieczny dla zapewnienia stosowania przepisów. Jednocześnie, kwestie poufności i bezpieczeństwa informacji gwarantowane są przez odpowiednie przepisy dot. poufności, przetwarzania i gromadzenia danych osobowych czy odpowiedniego poziomu zabezpieczenia środków komunikacji. 152. Art. 25 ust. 1-3 KRRiT w art. 25 ust. 1-3 wskazano na „tajemnice prawnie chronione”, przy czym termin ten obejmujące ponad 60 kategorii, w tym także informacje niejawne, podczas gdy uzyskanie dostępu do informacji niejawnych od poufnych wzwyż wiąże się z koniecznością posiadania odpowiedniego poświadczenia wydawanego, co do zasady, przez ABW; Uwaga wyjaśniona Treść przepisu uległa zmianie. 153. Art. 25 ust. 1 UKNF Artykuł25 ust. 1 projektowanej ustawy wskazuje podmioty zobowiązane zachować w poufności „tajemnice prawnie chronione”. Nie jest jasne, czy przepis dotyczy wyłącznie informacji chronionych na podstawie innych ustaw, czy też tworzy nowy rodzaj tajemnicy. Koniecznym jest zweryfikowanie, czy przepis ten nie utrudni wymiany informacji na podstawie rozporządzenia 1689/2024 oraz projektowanej ustawy w zakresie m.in. postępowania przed KRiBSI, notyfikacji jednostek oceniających zgodność oraz udzielania autoryzacji. W ocenie UKNF określony w art. 25 ust. 1 projektu ustawy obowiązek zachowania tajemnicy nie jest wystarczający. Z Uwaga częściowo uwzględniona Uwaga zaadresowana przez doprecyzowanie w nowej wersji projektu kategorii informacji, które podlegają ochronie. Według projektodawcy z treści przepisów nie wynika potrzeba utworzenia nowej kategorii przepisów prawnie chronionych, a przepisy projektu odnoszą się do danych objętych ochroną na podstawie obowiązujących przepisów (ochrona danych osobowych, tajemnica przedsiębiorstwa). 90 przepisu tego wynika, że wymienione tu osoby są zobowiązane do zachowania w tajemnicy „tajemnicy prawnie chronionej”. Przez „tajemnicę prawnie chronioną” rozumieć należy określone informacje, które za tajemnicę uznają przepisy prawa. W związku z tym, z przepisu tego (art. 25 ust. 1) wynika obowiązek zachowania w poufności wyłącznie tych informacji, którym określone przepisy prawa (ustawy) przyznają status informacji objętych tajemnicą, np. tajemnica ubezpieczeniowa, tajemnica korespondencji, czy tajemnica agencyjna. Natomiast w stosunku do innych informacji nie ma wymogu zachowania ich w tajemnicy, co dotyczy w szczególności informacji uzyskanych przez Komisję i pracowników Biura Komisji w trakcie sprawowania nadzoru nad podmiotami podlegającymi takiemu nadzorowi. Tym bowiem informacjom przepisy prawa nie przyznają statusu tajemnicy. Takie informacje nie muszą więc podlegać poufności. W ocenie UKNF zasadne jest rozważenie zmiany podejścia. Co prawda, projektowany przepis art. 25 został zbudowany w sposób analogiczny do art. 16 ustawy o nadzorze finansowym. Nie sposób jednak tracić z pola widzenia, że rzeczony art. 16 odsyła do tajemnic prawnie chronionych określonych w ustawach sektorowych, których odrębne przepisy stanowią o tajemnicach nadzoru poszczególnych sektorów rynku finansowego. Stanowią one, że informacje pozyskane i wytworzone w związku z wykonywaniem czynności nadzorczych stanowią tajemnicę prawnie chronioną. Analogicznej regulacji nie sposób zdekodować z projektowanych przepisów. W związku z powyższym, UKNF poddaje pod rozwagę, aby przepis ten konstruował nowy rodzaj tajemnicy nadzoru nad systemami AI. Warto rozważyć jego utworzenie na zasadzie analogicznej jak art. 10a ust. 1 i 2 ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe, który to przepis stanowi, że: „Przewodniczący Komisji Nadzoru Finansowego, jego zastępcy, członkowie Komisji Nadzoru Finansowego, pracownicy Urzędu Komisji Nadzoru Finansowego i osoby zatrudnione w Urzędzie Komisji Nadzoru Finansowego na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze, są obowiązani do zachowania tajemnicy zawodowej. Natomiast za tajemnicę zawodową uznaje „wszystkie uzyskane lub 91 wytworzone w związku ze sprawowaniem nadzoru bankowego informacje, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą lub utrudnić sprawowanie nadzoru bankowego.”. 154. Art. 25 ust. 2 UOKIK Projektowany przepis nie precyzuje czy informacje, które mogą być wzajemnie przekazywane w ramach prac Komisji to informacje uzyskane wyłącznie w związku z wykonywaniem zadań w Komisji, czy też wszystkie informacje, także prawnie chronione, które członkowie Komisji posiadają w związku z wykonywaniem działalności w ramach poszczególnych jednostek, w których są zatrudnieni. W związku z powyższym należy doprecyzować przepis poprzez zawężenie go do informacji uzyskanych w toku prac Komisji. Jeżeli jednak zamiarem projektodawcy jest umożliwienie wymiany wszystkich informacji, w tym prawnie chronionych, w posiadaniu których są członkowie Komisji, to niezębne pozostaje wyłączenie z takiej możliwości przedstawiciela Prezesa Urzędu Ochrony Konkurencji i Konsumentów. Obowiązujące Prezesa Urzędu Ochrony Konkurencji i Konsumentów przepisy ustawy z dnia 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz. U. poz. 594, z późn. zm.), zwanej dalej „uokk”, zawierają ścisłe ograniczenia co do możliwości przekazywania innym podmiotom (w tym innym organom) informacji pozyskanych w ramach postępowań prowadzonych na jej podstawie. Przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach.1 Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych Uwaga uwzględniona Doprecyzowano treść przepisu uwzględniając ograniczenie zakresu informacji objętych jego treścią. W nowej wersji (art. 23) według projektodawcy przepisy są zgodne z wskazanym w uwadze (art. 73 uokik), co zapewni możliwość współpracy między organami w zakresie określonym w ustawie i rozporządzeniu 2024/1689. 92 przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności.2 Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Zgodnie z nim, informacje pozyskane w toku postępowań prowadzonych na podstawie ustawy mogą być wykorzystane wyłącznie w przypadku: 1) postępowania karnego prowadzonego w trybie publicznoskargowym lub postępowania karno-skarbowego; 2) innych postępowań prowadzonych przez Prezesa Urzędu; 3) wymiany informacji z Komisją Europejską i organami ochrony konkurencji państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr 1/2003/WE; 4) wymiany informacji z Komisją Europejską i właściwymi organami państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr2017/2394; 5) przekazywania właściwym organom informacji, które mogą wskazywać na naruszenie odrębnych przepisów; 6) postępowania cywilnego o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji w rozumieniu ustawy z dnia 21 kwietnia 2017 r. o roszczeniach o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji (Dz. U. poz. 1132) - w zakresie, w jakim przepisy wymienionej ustawy zezwalają na wykorzystanie informacji, o których mowa w ust. 1. Dodatkowo, zgodnie z art. 73 ust. 3 uokk Prezes Urzędu udostępnia organom regulacyjnym w dziedzinie rynku usług telekomunikacyjnych i pocztowych oraz gospodarki paliwami i energią oraz Przewodniczącemu Komisji Nadzoru Finansowego informacje, w tym wyniki badań i analiz rynkowych, niezbędne w postępowaniach prowadzonych przez te organy, z wyjątkiem informacji: 1) co do których obowiązek zachowania poufności wynika z zobowiązań 93 międzynarodowych, w szczególności informacji uzyskanych w toku postępowań wszczętych na podstawie art. 101 lub art. 102 TFUE; 2) których mowa w art. 70 ust. 1 i 2 Ustawy (oświadczenia składane w ramach programu łagodzenia kar oraz w ramach procedury dobrowolnego poddania się karze pieniężnej). Wobec powyższych ograniczeń projektowany art. 25 ust. 2 pozostaje w kolizji z obwiązującymi przepisami uokk. 155. Art. 25 ust. 3 UKNF W przepisie tym wskazano, komu członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, czy informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. przykładowo czy Przedstawiciel KNF uprawniony będzie do przekazania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 6 ust. 3 projektu ustawy. Uwaga nieuwzględniona Zmiana treści przepisów regulujących uprawnienia w zakresie gromadzenia, przetwarzania i wymiany informacji między członkami Komisji oraz pracownikami Biura Komisji. 156. Art. 25 ust. 3 Konfederacj a Lewiatan Zdaniem KL to uprawnienie powinno być ograniczone do przygotowania opinii lub stanowisk związanych z pracami Komisji nad systemami służącymi do wykonywania zadań publicznych. Brak uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Uwaga w zw. z art. 43 ust. 1 pkt. 2 Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Wymaga to dopisania ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania takiej tajemnicy, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 Uwaga uwzględniona Zmiana treści przepisu uwzględniająca podnoszony w uwadze wymóg (art. 40 ust. 9). 94 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. 157. Art. 25 ust. 3 BGK Propozycja: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga częściowo uwzględniona Tryb uzyskiwania informacji będących przedmiotem uwagi podmiotom właściwym w obszarze zwalczania i przeciwdziałania przestępczości oraz zapewnieniu bezpieczeństwa publicznego określony jest w nowej treści przepisów art. 22. 158. Art. 25 ust. 3 ZPP W tym samym obszarze uwagę zwraca art. 25 ust. 3 uprawniający członków Komisji do udostępniania informacji uzyskanych w związku z uczestnictwem w pracach organu, w tym również tajemnic prawnie chronionych, funkcjonariuszom, żołnierzom i pracownikom m.in. ABW, CBA, SKW, policji, czy prokuratury. Wydaje się, że projektodawca przewidział zbyt słabe gwarancje ochrony tajemnic przedsiębiorstwa i innych prawnie chronionych informacji wrażliwych. Przesłanki udostępnienia informacji (bardzo szczątkowe i ogólne – ma się to odbywać „w ramach obowiązków służbowych” i „w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji”), a także ich nieograniczony przedmiotowo zakres oraz szeroki Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na modyfikację przepisów w aktualnej wersji projektu ustawy. 95 katalog podmiotów, którym informacje mogą te być udzielone, budzą nasze daleko idące wątpliwości. 159. Art. 25 ust. 3 IAB Polska Na podstawie tego postanowienia nie jest jasne, jakie rodzaje opinii lub stanowisk bezpośrednio związanych z pracą Komisji wymagałyby udostępnienia informacji poufnych wskazanym w przepisie organom. Takie udostępnianie informacji nie wynika z treści AI Act. Tym samym przepis należałoby usunąć (i pozostawić do wprowadzenia w ew. nowelizacji ustawy niezwiązanej z wdrażaniem AI Act) lub dookreślić w zakresie podstawy z AI Act, która wskazywałaby na zasadność i konieczność jego wprowadzenia w ustawie wdrażającej to unijne rozporządzenie. Alternatywnie zwracamy uwagę, że aktualna wersja projektu nie zapewnia odpowiedniego poziomu ochrony informacji chronionych, co stanowi poważne zagrożenie dla prywatności podmiotów gospodarczych. Przetwarzanie danych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, tak jak ma to miejsce w art. 78 ust. 2 AI Act. Podobną uwagę należy zgłosić także w kontekście art. 27 oraz art. 61 Projektu. Uwaga wyjaśniona Przepis został zmodyfikowany w oparciu o uwagę w celu doprecyzowania obowiązków w zakresie ochrony danych będących tajemnicą przedsiębiorstwa. 160. Art. 26 KRRiT art. 26 ust. 1, 5 i 6 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; Uwaga uwzględniona 161. Art. 26 ust. 1 PUODO Wątpliwości budzi art. 26 ust. 1 projektu ustawy, który stanowi, że „W celu realizacji zadań, o których mowa w art. 11 ust. 1, Komisja przetwarza dane osobowe, obejmujące także dane określone w art. 9 ust. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 [...], w zakresie i w celu niezbędnym do realizacji tych zadań”. Wskazać należy, że obowiązek administratora w kwestii zabezpieczenia danych osobowych na mocy rozporządzenia 2016/679 dotyczy wszystkich danych osobowych (a nie jedynie danych szczególnych kategorii). Wskazanie w projekcie tego wymogu w odniesieniu wyłącznie do danych szczególnej kategorii jest zbędne i może prowadzić do wątpliwości interpretacyjnych w zakresie zabezpieczania danych zwykłych. Projektodawca nie powinien różnicować zabezpieczania danych ze względu na ich kategorię. Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej werjsi przepisów (art. 23-24). Zmiana terminów używanych w przepisie (aktualna treść art. 23-24) odpowiada na uwagę dot. potencjalnie wybiórczego wskazania w przepisie kategorii danych osobowych. 162. Art. 26 ust. 3 pkt 1 PFR Proponujemy nadać następujące brzmienie: Uwaga uwzględniona 96 „dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221)” 163. Art. 26 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Uzasadnienie: Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Uwagi uwzględnione Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 97 Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Dodatkowo zwracamy uwagę na brzmienie art. 78 ust. 2 rozporządzenia, które upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”, jak również na brzmienie motywu 167 do rozporządzenia. Wymagają one odpowiedniego zbalansowania uprawnień Komisji (oraz pozostałych zaangażowanych organów) z prawami i interesami przedsiębiorców w kontekście dostępu do informacji i danych, w tym danych osobowych. 164. Art. 26 ust. 5 PUODO Projektodawca nie uzasadnił 5-letniego terminu określonego w art. 26 ust. 5 projektu ustawy dotyczącego usuwania lub anonimizowania przez Komisję danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji. Zgodnie z zasadą ograniczenia przechowywania, o której mowa w art. 5 ust. 1 lit. E rozporządzenia 2016/67911 projektowany przepis wymaga analizy i wyjaśnienia, bowiem dane powinny być przechowywane przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Nie przesądzono, czy dotyczy to przechowywania danych osobowych w związku z prowadzonymi postępowaniami czy realizacją innych zadań Komisji. Projektodawca nie bierze pod uwagę także stosowania przepisów o archiwizacji, którym podlegać będą dokumenty wytwarzane i opracowywane w ramach działania tego organu publicznego. Uwaga uwzględniona Termin ten jest najkrótszym terminem niezbędnym dla realizacji celu – skutecznego sprawowania nadzoru nad rozwijającym się rynkiem systemów AI. Ponadto, zobowiązanie do regularnego (co 2 lata) przeglądu danych pod kątem ich niezbędności pozwoli ograniczyć ryzyka związane z przechowywaniem nadmiernych ilości danych, w tym danych osobowych. 165. Art. 26 ust. 6 PUODO jak wynika z projektowanego art. 26 ust. 6, w celu realizacji zadań określonych w rozporządzeniu 2024/1689 i projektowanej ustawie Komisja i pracownicy podmiotów, o których mowa w art. 7 ust. 2, mogą przekazywać sobie wzajemnie dane, o których mowa w ust. 3, w zakresie niezbędnym do realizacji tych zadań i współpracować z organem nadzorczym ds. ochrony danych Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag według projektodawcy znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 98 osobowych. Jednocześnie w rozdziale 3 projektu ustawy zawarte są regulacje, które mają określać zasady przeprowadzania kontroli przez Komisję, mającej na celu ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy z tymi przepisami. Przepis w obecnym brzmieniu jest niezrozumiały, wymagający wyjaśnienia z perspektywy zasady rozliczalności nad danymi osobowymi gromadzonymi w różnych systemach. Pracownicy podmiotów nie mogą przekazywać sobie danych, bo to nie oni są administratorami danych. 166. Art. 26 ust. 6 PFR Przepis reguluje kwestię wymiany danych pomiędzy Komisją i podmiotami, o których mowa w art. 7 ust. 2 Ustawy, ale brakuje konkretnych procedur i zasad tej współpracy oraz zapewnienia zgodności z RODO. Prosimy o rozważenie możliwości wprowadzenia przepisów wskazujących na transparentność oraz kontrolę nad przetwarzaniem danych osobowych. Uwaga uwzględniona 167. Art. 26 ust. 7 RPO Przepis ten zwalnia Komisję oraz podmioty, o których mowa w art. 7 ust. 2 ustawy, z realizacji niektórych obowiązków wynikających z rozporządzenia Parlamentu Europejskiego i Rady UE 2016/679 i Rady UE 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1 ze zm.; dalej też jako: RODO) podczas przetwarzania danych, o których mowa w art. 26 ust. 3 ustawy, czyli m.in. danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji dotyczących użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych. Wśród tych obowiązków, z których zwolniona może być Komisja i wskazane w przepisie podmioty, znajdują się obowiązki, o których stanowi art. 15 (prawo dostępu do danych), art. 16 (prawo do sprostowania danych), art. 18 ust. 1 lit. a (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych) i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie Uwaga uwzględniona Zmiana treści przepisu. Należy również zgodzić się z uwagą dot. Równoległego stosowania przepisów projektowanej ustawy i rozporządzenia 2024/1689 z przepisami prawa ochrony danych osobowych, czego według projektodawcy odzwierciedleniem są przepisy projektu. 99 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych) RODO. Warunkiem zwolnienia z ww. obowiązków jest uznanie, że ich realizacja uniemożliwiłaby wypełnienie zadań Komisji, przy czym ustawodawca nie zawęził we wskazanym przepisie celów przetwarzania danych do realizacji jedynie określonych zadań. Podkreślenia jednocześnie wymaga, że zadania Komisji, o których stanowi art. 11 ust. 1 projektowanej ustawy, zakreślone zostały w sposób szeroki i obejmują nie tylko sprawowanie kontroli przestrzegania przepisów aktu o AI4 , ale także np. realizację projektów edukacyjnych czy prowadzenie działań informacyjnych. Art. 26 ust. 7 projektowanej ustawy pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika, dlaczego projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Tymczasem w art. 2 ust. 7 aktu o AI wskazano, że „[p]rawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Dodatkowo z motywu 10 aktu o AI wynika, że „[p]odstawowe prawo do ochrony danych osobowych jest gwarantowane w szczególności przez rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywę Parlamentu Europejskiego i Rady (UE) 2016/680. (...). Te unijne akty prawne stanowią podstawę zrównoważonego i odpowiedzialnego przetwarzania danych, w tym w przypadku gdy zbiory danych zawierają połączenie danych osobowych i nieosobowych. Celem niniejszego rozporządzenia nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do 100 monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów AI wiąże się z przetwarzaniem danych osobowych, niniejsze rozporządzenie nie wpływa też na wynikające z prawa Unii lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Należy również wyjaśnić, że osoby, których dane dotyczą, zachowują wszystkie prawa i gwarancje przyznane im na mocy takiego prawa Unii. w tym prawa związane z całkowicie zautomatyzowanym podejmowaniem decyzji w indywidualnych sprawach, w tym z profilowaniem. Ustanowione w niniejszym rozporządzeniu zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI powinny ułatwiać skuteczne wdrażanie i umożliwiać korzystanie przez osoby, których dane dotyczą, z praw i innych środków ochrony prawnej zagwarantowanych na podstawie prawa Unii dotyczącego ochrony danych osobowych i innych praw podstawowych”. Skoro zatem sam akt o AI nie przewiduje wyłączenia stosowania przepisów rozporządzenia 2016/679, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu o AI i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 168. Art. 26 ust. 7 PUODO Wyłączenie stosowania przepisów rozporządzenia 2016/679. Zgodnie z art. 26 ust. 7 projektu ustawy, „Przetwarzanie przez Komisję i podmioty, o których mowa w art. 7 ust. 2 ustawy, danych, o których mowa w ust. 3, nie wymaga realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679, jeżeli uniemożliwiłoby to realizację zadań Komisji”. Zwrócić uwagę należy, że wyłączenia stosowania przepisów rozporządzenia 2016/679 przewidziane są jedynie w treści art. 13, 14 i 17 rozporządzenia 2016/679. Każde wyłączenie, aby mogło być uznane za mające rację bytu, musi wynikać z obowiązujących przepisów prawa, a jednocześnie – dla równowagi ograniczania pewnych Uwaga uwzględniona w części Zmiana treści przepisu zawężająca zakres wyłączenia stosowania przepisów rozporządzenia 2016/679 dokonana w sposób łączny (nowa wersja art. 26) na podstawie innych uwag dot. przetwarzania danych osobowych dla celów realizacji obowiązków wynikających z rozporządzenia 2024/1689. 101 elementów praw podstawowych – muszą być zapewnione odpowiednie instrumenty prawne dla poszanowania praw jednostki. Z kolei ewentualne ograniczenia stosowania rozporządzenia 2016/679 mogą następować w dość szerokim, ale nie w pełnym zakresie oraz tylko o ile spełnione zostaną warunki z art. 23, w szczególności dla zapewnienia poważnych celów, o których stanowi art. 23 ust. 1 rozporządzenia 2016/679. Całkowite wyłączenie praw osób, których dane dotyczą nie jest zatem dopuszczalne ani na gruncie na gruncie rozporządzenia 2016/679, choć jest możliwe ich ograniczenie. Bez wątpienia zatem proponowany przepis projektu ustawy powinien być na nowo przeanalizowany w celu zapewnienia zgodności przepisów krajowych z zasadami wynikającymi z art. 23 rozporządzenia 2016/679 i jego treścią, zwłaszcza, że art. 2 ust. 7 zdanie drugie aktu w sprawie sztucznej inteligencji wprost wskazuje, że „Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Skoro akt w sprawie sztucznej inteligencji nie określa w sposób szczegółowy praw osób, których dane dotyczą, zastosowanie będą w tym zakresie mieć przepisy rozporządzenia 2016/679, co jedynie oznacza, że ww. omawiana propozycja musi być przedmiotem ponownej, szczegółowej analizy i korekty jeśli przepisy nowej ustawy mają być jasne i przejrzyste 169. Art. 26 ust. 9 PUODO Wątpliwości budzi proponowane brzmienie art. 26 ust. 9 w związku z ukształtowanym w projekcie ustawy statusem Biura Komisji i samej Komisji. Analizy i określenia wymaga status tych podmiotów w procesach przetwarzania danych (któremu podmiotowi należy przypisać status administratora oraz w jakim zakresie), co w związku z funkcjonalną definicją administratora wynikać powinno przede wszystkim z precyzyjnie określonych w projektowanych przepisach zadań i kompetencji. Uwaga uwzględniona Zmiana poprzez modyfikację art. 22, w szczególności ust. 1, 4 oraz art. 23 ust. 1). 170. Art. 27 ust. 1 BGK Propozycja: Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak potrzeby nadregulacji – kwestia prawa do dostępu do dokumentów chronionych tajemnicą w obszarze istotnym dla 102 dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. działalności Komisji uregulowane są w przepisach odrębnych (np. w zakresie działalności policji, prokuratury, agencji wywiadowczych). 171. Art. 27 ust. 1 IAB Polska Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 172. Art. 27 ust. 1 Konfederacj a Lewiatan Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 173. Art. 28-Art. 30 RPD Jako Rzeczniczka Praw Dziecka aprobuję propozycję utworzenia Społecznej Rady do spraw Sztucznej Inteligencji przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Rada”). Powołanie Rady pozwoli uwzględnić różnorodne opinie i potrzeby społeczeństwa w przedmiocie organizacji nadzoru nad systemami sztucznej inteligencji. Zwracam jednak uwagę, że w aktualnym brzmieniu projektowanej ustawy nie określono wyraźnie zakresu zadań Rady ograniczając się jedynie do wskazania, że jest ona „organem opiniodawczo– doradczym Komisji” (planowany art. 28 ust. 1 ustawy o systemach SI), a do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję (art. 30 ust. Uwaga częściowo uwzględniona Propozycja rozszerzenia roli Rady zostały uwzględnione zbiorczo i znajdują odzwierciedlenie w aktualnym brzmieniu przepisów określających zadania Rady (art. 27). Dodatkowo, zmianie uległy zasady rozliczania kosztów udziału w posiedzeniach Rady oraz kategoria podmiotów uprawnionych do zgłaszania kandydatów (uwzględniająca urząd RPD). 103 1 ustawy o systemach SI). Podobnie w uzasadnieniu do ustawy o systemach SI projektodawca skazuje jedynie, że „do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję”. Nieokreślony wystarczająco zakres zadań może budzić wątpliwości co do przejrzystości i efektywności działań Rady, co może osłabić zaufanie publiczne do tej instytucji. Proponuję, aby art. 30 ustawy o systemach SI określał w szczególności następujące działania jako zadania Rady: a) monitorowanie rozwoju sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; b) monitorowanie rozwoju prawodawstwa dotyczącego systemów sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; c) świadczenie Komisji doradztwa w zakresie klasyfikacji ryzyka różnych modeli i systemów AI; d) opiniowanie projektów dokumentów organów i instytucji Unii Europejskiej ws. systemów sztucznej inteligencji; e) opiniowanie przekazanych przez Komisję projektów aktów prawnych i innych dokumentów ws. systemów sztucznej inteligencji; f) inicjowanie działań w obszarze ochrony osób, na których systemy sztucznej inteligencji mają wpływ oraz przedstawianie Komisji propozycji zmian prawa w tym obszarze; g) wyrażanie opinii w sprawach przedstawionych Radzie przez Komisję; h) wykonywanie innych zadań zleconych przez Komisję. Warto podkreślić, że katalog zadań Rady nie powinien mieć charakteru zamkniętego. Krajowy ustawodawca tworząc organy opiniodawczo-doradcze działające przy innych organach nadzoru (np. Prezesie Urzędu Ochrony Danych Osobowych) określa zakres ich zadań. Także w przypadku przywołanego przez projektodawcę w uzasadnieniu ustawy o systemach SI ciała eksperckiego z uprawnieniami konsultowania prac 104 utworzonego w Austrii - Beirat für KI - określono katalog zadań tego gremium w akcie prawnym o randze ustawowej. Kolejne moje wątpliwości dotyczące organizacji prac Rady budzi brak wystarczających gwarancji niezależności jej członków. W planowanym art. 29 ust. 5 ustawy o systemach SI wskazuje się, że „członkowie Rady nie mogą prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; wykonywać działań, które mogłyby skutkować konfliktem interesów”. Ustawa o systemach SI, na wzór wymogu przyjętego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, powinna wprost określać, że członkowie Komisji muszą być niezależni od dostawców systemów AI lub modeli AI ogólnego przeznaczenia. Ogólne sformułowanie o zakazie prowadzenia działań prowadzących do konfliktu interesów przewidziane w obecnym projekcie ustawy, nie precyzuje konkretnych kryteriów ani mechanizmów weryfikacji niezależności członków Rady. Podobnie jak w punkcie drugim niniejszego pisma, chciałabym zwrócić uwagę na kluczowe znaczenie uwzględnienia opinii dzieci i młodzieży w sprawach dotyczących stanowisk w przedmiocie systemów sztucznej inteligencji, ponieważ takie rozwiązania mogą wpływać na różne aspekty ich życia, takie jak edukacja, prywatność, rozwój społeczny i emocjonalny. Mając na uwadze opisany powyżej wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych doraźnego udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez jej Przewodniczącego lub Komisji. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Rady z doraźnym wnioskiem o dopuszczenie do udziału wybranych przedstawicieli w posiedzeniu Rady, który powinien być niezwłocznie rozpatrywany. Co więcej, w mojej ocenie ustawa o systemach SI powinna zobowiązywać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób 105 małoletnich, a także uwzględnienia wyników takich konsultacji z należytą wagą, stosownie do wieku oraz dojrzałość dzieci biorących w nich udział. Uwzględnienie głosu młodego pokolenia w kształtowaniu wykładni stosowania przepisów dotyczących systemów sztucznej inteligencji oraz ich perspektywy na ryzyka związane z rozwojem takich rozwiązań jest inwestycją w przyszłość, która przyniesie całemu społeczeństwu. Ponadto zwracam uwagę, że w planowanych przepisach ustawy o systemach SI nie określono ani terminu, w którym Komisja ma powołać Radę, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie Rady zostanie odłożone na nieokreślony czas. W związku z tym proponuję wprowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Z podobnych względów ustawa powinna określać termin publikacji stanowisk i opinii Rady w Biuletynie Informacji Publicznej na stronie podmiotowe Biura Komisji. 174. Art. 28, Art. 30 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – tryb powoływania oraz skład Rady zapewnia reprezentację różnych sektorów, co powinno pozwolić na podejmowanie kompleksowych decyzji, jednak ograniczenie liczby członków do maksymalnie 15 osób może w pewnych sytuacjach ograniczać zdolność Rady do pełnego odzwierciedlenia wszystkich istotnych perspektyw i interesów. Skuteczność i trafność decyzji rady mogłoby wzmocnić poprzez dopuszczenie do udziału większej liczby ekspertów z różnych dziedzin (branż). Według projektu nie tylko członkowie Rady, ale nawet jej przewodniczący i wiceprzewodniczący są powoływani przez Komisję. W efekcie Rada staje się całkowicie podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy rozważyć udział w Radzie przedstawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. Dodatkowo, możliwość reprezentacji sektora nowych technologii możliwy jest poprzez uprawnienie organizacji branżowych, podmiotów systemu szkolnictwa wyższego oraz organizacji pozarządowych. 106 Kompetencje Rady są skierowane głównie na zagadnienia etyczne i regulacyjne. Te aspekty są istotne, ale jednak dostrzegalna jest potrzeba silniejszego nacisku na merytoryczny nadzór nad procesami tworzenia SSI, zwłaszcza w obszarze technologii, innowacji i badań (B+R). Na temat nowych technologii i ich rozwoju mogliby dostarczyć dodatkowej wiedzy przedstawiciele NCBR oraz środowisk naukowych i akademickich, które w organach w ogóle nie są reprezentowane. Spojrzenie z punktu widzenia NCBR, jako kluczowej instytucji w rozw oju nowych technologii w ramach projektów B+R, może pomóc Radzie w wypracowaniu bardziej zrównoważonych rekomendacji, a Komisji działać w zgodzie z obowiązującymi trendami technologicznymi i celowo w zakresie wdrażania innowacyjnych rozwiązań. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 175. Art. 28 ust. 2 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów. Uwaga nieuwzględniona Projekt zawiera przepisy wprowadzające zakaz konfliktu interesów, jak również wprowadzenie mechanizmu umożliwiającego odwołanie członka Rady naruszającego ten zakaz. 176. Art. 28 ust. 2 Konfederacj a Lewiatan Proponujemy podwyższenie maksymalnego liczby członków Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25 członków. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w zakresie liczby członków. 107 przedsiębiorców, a zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. 177. Art. 28 ust. 3 KRRiT dodanie punktu o treści „Przewodniczący Krajowej Rady Radiofonii i Telewizji” Uwaga nieuwzględniona Zdaniem projektodawcy zmiana jest niepotrzebna, a udział Rady w pracach Komisji jako członka umożliwia aktywny udział w jej pracach. 178. Art. 28 ust. 3 pkt 4 BGK Propozycja: 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w tym wymiarze, w szczególności ze względu na szeroki i międzybranżowy charakter technologii sztucznej inteligencji (potencjalnie obejmującym niemal wszystkie dziedziny życia społecznego). 179. Art. 28 ust. 4 pkt 1 UKNF Rada, jako organ opiniodawczo-doradczy Komisji, ze względu na specyfikę swoich zadań, powinna być tworzona przez osoby posiadające merytoryczne i operacyjne doświadczenie w zakresie sztucznej inteligencji, w tym kompetencje adekwatne do poziomu rozwoju technologii AI, wobec dynamicznie rozwijającego się środowiska. Urząd Komisji Nadzoru Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a kompetencję w zakresie wskazywania 108 Finansowego proponuje rozważenie doprecyzowania mechanizmów weryfikacji tych kompetencji. odpowiednich kandydatur pozostawione są podmiotom niezależnym od Komisji. 180. Art. 28 ust. 4 pkt 4 IAB Polska Biorąc pod uwagę systematykę form oświadczeń woli oraz tworzenie jasnych przepisów prawnych – postanowienie powinno konkretyzować, czy chodzi o formę pisemną (w tym równoważną jej prawnie formę elektroniczną), czy też dokumentową (wydrukowaną na papierze). Uwaga nieuwzględniona 181. Art. 28 ust. 6 pkt 6 IAB Polska Rekomendujemy dookreślenie formy wycofania zgody, aby zapewnić pewność sytuacji prawnej członków Rady. Uwaga nieuwzględniona 182. Art. 29 ust. 1 BGK Propozycja Rada powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Usunięcie zdania 2 jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1 Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, tym bardziej, że obecna treść przepisów daje Radzie uprawnienie do przedstawienia Komisji dwóch kandydatur na Przewodniczącego. 183. Art. 29 ust. 6 KRRiT w art. 29 ust. 6 po wyrazach „Za udział” należy dodać wyraz „w” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 184. Art. 29 ust. 6 BGK Proponujemy nadać następujące brzmienie: „Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów.” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 185. Art. 29 ust. 6 IAB Polska Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w kontekście wprowadzenia dodatkowych przepisów adresujących potencjalny konflikt interesów. 186. Art. 29 ust. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Uzasadnienie: Pierwsza uwaga opiera się na dodaniu brakującej litery „w”. Uwaga częściowo uwzględniona Wg aktualnej treści projektu przepisów za udział w pracach Rady jej członkom przysługuje zwrot kosztów przejazdów i noclegów. 109 Niezrozumiała jest intencja tego przepisu. Nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Rady, płaciły za koszt dojazdu i noclegu. Rozumiemy, ze takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. 187. Art. 30 KRRiT w art. 30 błędnie ponumerowano ustępy; Uwaga uwzględniona 188. Art. 30 ust. 1 BGK Propozycja: 1. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez co najmniej 75% składu Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych sytuacjach, gdy zostaną one przyjęte jednomyślnie przez co najmniej 75% składu Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 189. Art. 30 ust. 3 KRRiT w art. 30 ust. 3 błędnie odesłano do art. 1 ust.1; Uwaga uwzględniona Zmiana treści przepisu zgodnie z uwagą 110 190. Art. 30 ust. 3 BGK Propozycja 3. W zakresie innym niż określony w ust. 1, dotyczącym spraw określonych w art. 1 ust. 1 ustawy Rada, w drodze uchwały podjętej większością głosów co najmniej 75% składu Rady, może wyrazić opinię lub stanowisko z własnej inicjatywy. Zmiana przepisu polega na obniżeniu wymogu kworum z pełnego składu Rady do co najmniej 75% jej członków przy podejmowaniu uchwał z własnej inicjatywy. Celem tej zmiany jest ułatwienie Radzie efektywnego podejmowania decyzji, nawet gdy nie jest możliwa obecność wszystkich członków, co zwiększa elastyczność jej działania. Jednocześnie zachowany zostaje wysoki poziom reprezentatywności i legitymacji podejmowanych uchwał, gdyż wymagane jest uzyskanie większości głosów wśród co najmniej 75% składu Rady. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. 191. Art. 33 ust. 3 PFR Proponujemy nadać następujące brzmienie: „Prezes Rady Ministrów określi, w drodze rozporządzenia, sposób ustalania wysokości środków przeznaczonych na wynagrodzenia i nagrody dla Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz ustalania wysokości tych wynagrodzeń i nagród, uwzględniając organizację Biura Komisji i Komisji, konieczność zapewnienia właściwej realizacji zadań Biura Komisji i Komisji w zakresie sprawowanego nadzoru oraz poziomu płac w instytucjach nadzorowanych.” Uwaga wyjaśniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 192. Art. 33 ust. 3 KRRiT w art. 33 ust. 3 niepotrzebnie powtórzono wyrazy „oraz ustalania wysokości tych wynagrodzeń”; Uwaga uwzględniona 193. Art. 34 ust. 2 pkt 2 KRRiT w art. 34 ust. 2 pkt 2 nie wskazano daty ustawy o finansach publicznych oraz wskazano nieaktualny Dziennik Ustaw; Uwaga uwzględniona 194. Art. 36 ust. 2 Rada Legislacyjna [Brak wskazania trybu wyboru firmy audytorskiej w art. 36 ust. 2 Projektu] Przepis art. 36 ust. 2 Projektu nie zawiera wskazania trybu lub procedury wyboru firmy audytorskiej przez Prezesa Rady Ministrów. Przepis ten stanowi jedynie, że „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej.”. De lege ferenda w przepisie tym należy przesądzić, że wybór przez Prezesa Rady Ministrów firmy audytorskiej następuje „z uwzględnieniem przepisów o zamówieniach publicznych”. W przepisie tym nie trzeba natomiast literalnie przesądzać o „stosowaniu” przez Uwaga uwzględniona 111 Prezesa Rady Ministrów przepisów o zamówieniach publicznych: sformułowanie o konieczności „uwzględniania” przepisów o zamówieniach publicznych jest w tym kontekście w pełni wystarczające, zwłaszcza, że z uwagi na wartość wchodzącego w grę zamówienia publicznego może ono niekiedy pozostawać poza zakresem zastosowania przepisów ustawy z dnia 11 września 2019 r. Prawo zamówień publicznych22 (zob. art. 2 ust. 1 pkt 1 powołanej ustawy). 195. Art. 38 Rada Legislacyjna [Błędy językowe w art. 38 Projektu] W przepisach art. 38 ust. 1 i 3 użyto niepoprawnego sformułowania „minister właściwy”, podczas gdy prawidłowo sformułowanie to powinno brzmieć: „właściwy minister”. Ta proponowana przez Radę Legislacyjną inwersja obu wyrazów dlatego jest konieczna, gdyż w przepisach tych nie chodzi bynajmniej o konkretnego ministra właściwego we wskazanych tam literalnie sprawach (np. ministra właściwego do spraw gospodarki), lecz chodzi tam ogólnie o ministrów, którzy są właściwi zgodnie ze swoją ustawową właściwością, wynikającą z ustawy z dnia 4 września 1997 r. o działach administracji rządowej lub z przepisów ustaw szczególnych; ma tam zatem miejsce wskazanie generalne, a nie indywidualne. Stąd też bardziej naturalnie językowo będzie brzmiało sformułowanie, iż „właściwy minister” może powierzyć Komisji realizację określonych zadań (art. 38 ust. 1 Projektu) oraz że „właściwy minister” zapewnia środki na realizację tychże zadań (art. 38 ust. 3 Projektu). Z kolei w art. 38 ust. 2 Projektu zamieszczone jest zdanie, w którym połączono ze sobą wyrazy zupełnie nie przystające do siebie znaczeniowo. Przepis ten stanowi co następuje: „Powierzanie zadań, o których mowa w ust. 1, zawierane jest w formie porozumienia”. Z semantyczno-językowego punktu widzenia, powierzanie zadań nie może być „zawierane” w jakiejkolwiek formie prawnej (bo takie sformułowanie nie ma logicznego sensu), lecz co najwyżej można tego powierzenia „dokonywać” w określonej formie lub też powierzenie to może „następować” w określonej formie prawnej. Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z treścią uwagi. 196. Art. 38 ust. 1 KRRiT w art. 38 ust. 1 błędnie odesłano do art. 11 ust. 3, 8 i 10; Uwaga uwzględniona 112 197. Art. 38 ust. 1 PFR Proponujemy nadać następujące brzmienie: „Minister właściwy, w odniesieniu do spraw w zakresie jego właściwości, może powierzyć Komisji realizację zadań, o których mowa w art. 11 ust. 1 pkt 3, 8 i 10 ustawy.” Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z uwagą. 198. Art. 39 KRRiT w art. 39 błędnie wskazano numerację ustępów; Uwaga uwzględniona 199. Art. 39 ust. 4 pkt 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) wymianie aktualizacji Uzasadnienie: Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Ponadto, jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? Uwaga uwzględniona 200. Art. 39 ust. 6 UKNF W art. 39 ust. 6 projektu ustawy wskazano, iż tryb wydawania i unieważnienia legitymacji służbowej określony zostanie w drodze rozporządzenia Prezesa Rady Ministrów. Wydaje się, że rozporządzenie powinno również określać tryb wymiany legitymacji, skoro wskazano na taką możliwość w ustępach poprzedzających. Urząd Komisji Nadzoru Finansowego proponuje następującą zmianę treści tego ustępu: „Prezes Rady Ministrów określi, w drodze rozporządzenia, wzór legitymacji służbowej pracownika Biura Komisji oraz tryb wydawania, wymiany i unieważnienia tej legitymacji, mając na względzie zapewnienie właściwej identyfikacji pracowników Biura Komisji oraz zapewnienie właściwej ochrony legitymacji służbowych”. Uwaga uwzględniona Uwaga uwzględniona w ramach zmiany przepisów regulujących wydawanie, unieważnianie i aktualizację legitymacji w art. 37. 201. Art. 40 ust. 1 UKNF W art. 40 ust. 1 projektu ustawy wskazano, iż: „Przewodniczący Komisji, w zakresie zadań, o których mowa w rozdziale 2 ustawy, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. W ocenie UKNF ustęp ten powinien zostać doprecyzowany poprzez odesłanie do konkretnej jednostki redakcyjnej art. 70 rozporządzenia 2024/1689. Art. 70 rozporządzenia 2024/1689 jest rozbudowaną regulacją, która odnosi się do szeregu kwestii (m.in. do wyznaczania przez państwa członkowskie organu notyfikującego i organu nadzoru rynku). W związku z tym zasadnym byłoby dookreślenie, o które wymogi chodzi, poprzez Uwaga nieuwzględniona 113 odwołanie się do konkretnych ustępów art. 70 rozporządzenia 2024/1689. 202. Art. 40 ust. 2 KRRiT w art. 40 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga nieuwzględniona 203. Art. 40 ust. 2 UKNF Artykuł 40 ust. 2 projektu ustawy odnosi się do „stanu zasobów, o którym mowa w ust. 1” ww. artykułu. Urząd Komisji Nadzoru Finansowego wskazuje, że ustęp 1 nie wskazuje na zasoby, lecz odnosi się do zadań, o których mowa w rozdziale 2 projektowanej ustawy oraz do wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. W związku z powyższą rozbieżnością, należy dokonać odpowiedniej korekty i przeredagowania przedmiotowego przepisu. Uwaga nieuwzględniona 204. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 41 - art. 48) 205. Rozdział 3 IAB Polska Wskazany rozdział powinien być jednym z podstawowych obszarów w konsultacjach międzyresortowych. Należy o nim również informować w prezentacjach ministerialnych omawiających projekt. W ten sposób Ministerstwo będzie w stanie zapewnić szerokie konsultacje. W szczególności rekomendujemy, aby Ministerstwo zwróciło uwagę na informacje przekazywane przez podmioty tworzące lub dystrybuujące systemy AI, aby nie obniżyć wartości rynkowej Polski w zakresie AI, ale jednocześnie, aby zapewnić odpowiednie poszanowanie prawa i skuteczność kontroli Komisji. Uwaga uwzględniona 206. Rozdział 3 i 4 Konfederacj a Lewiatan 1. Rozdział 3 i Rozdział 4 Uwaga lub propozycja zmiany zapisu: Rekomendujemy dodanie: 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. Uwaga nieuwzględniona 114 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają 5przesłanek do objęcia ich tajemnicą p6rzedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Uzasadnienie: Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. 207. Art. 41 ust. 1 IAB Polska Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Rekomendujemy rozważenie odniesienia się do art. 2 ust. 1 lit a) - f) AI Act. Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 208. Art. 41 ust. 1 Konfederacj a Lewiatan Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Może warto rozważyć odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f? Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 209. Art. 41 ust. 2 IAB Polska W naszej ocenie sformułowanie tego przepisu jest bardzo szerokie i w związku z tym postulujemy zawęzić/wskazać konkretnie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli 210. Art. 41 ust. 2 ZPP Nasze wątpliwości budzą również przepisy proceduralne dotyczące kontroli. Art. 41 ust. 2 wprowadza bardzo otwarty katalog potencjalnych przedmiotów kontroli, wskazując jedynie, że jej celem jest ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania AI Act i ustawy. Wydaje się, że z punktu widzenia zasadności i proporcjonalności projektowanych środków należałoby ten przepis, a więc cel kontroli, doprecyzować i określić. Jednocześnie, proponowane brzmienie prowadzi do pewnego legislacyjnego zapętlenia – podmioty obowiązane do przestrzegania ustawy są jednocześnie podmiotami obowiązanymi do przestrzegania przepisów rozporządzenia 2024/1689, zresztą projektodawca posługuje się odniesieniem do stosownego postanowienia AI Uwaga częściowo uwzględniona Zmiana brzmienia przepisów o kontroli 115 Act. Jednocześnie, pojawia się pytanie, jak taką konstrukcję rozumieć – tzn. czy projektodawca zakłada, że krajowe organy będą prowadziły działania wobec podmiotów z siedzibami w innych państwach członkowskich lub krajach trzecich? Z tego punktu widzenia zasadne byłoby określenie, które konkretnie elementy struktur międzynarodowych będą wchodziły w zakres podmiotowy ustawy – filie lub oddziały zlokalizowane w kraju, spółki matki, czy może kilka podmiotów jednocześnie? 211. Art. 41 ust. 2 Konfederacj a Lewiatan W naszej ocenie sformułowanie tego przepisu jest bardzo szertokie i w związku z tym postulujemy zawęzić/wskazać konkretnie że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd? Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 212. Art. 41 ust. 3 IAB Polska Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 213. Art. 41 ust. 3 Konfederacj a Lewiatan Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Bardzo ogólna podstawa kontroli - w Prawie Przedsiębiorców np. kontrole planuje się i przeprowadza po uprzednim dokonaniu analizy prawdopodobieństwa naruszenia prawa w ramach wykonywania działalności gospodarczej. Analiza obejmuje identyfikację obszarów podmiotowych i przedmiotowych, w których ryzyko naruszenia przepisów jest największe. Sposób przeprowadzenia analizy określa organ kontroli lub organ nadrzędny. Uwaga częściowo uwzględniona 116 214. Art. 42 Rzecznika MŚP W dalszej kolejności należy zwrócić uwagę, iż nie jest dozwolona ingerencja w zasady prowadzenia kontroli oraz ochronę praw przedsiębiorców w tym zakresie. Przesłanki kontroli dorażnej nie mogą zostać skutecznie zmodyfikowane w Projekcie stanowiącym uregulowanie krajowe, ze względu na treść art. 45 ust. | Prawa przedsiębiorców, który stanowi, że kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w tej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Naruszenia ww. przepisu są sankcjonowane w art. 46 ust. 1 i 3 Prawa przedsiębiorców, które stanowią, że przedsiębiorcy, który poniósł szkodę na skutek wykonania czynności kontrolnych z naruszeniem przepisów prawa, przysługuje odszkodowanie, zaś dowody przeprowadzone w toku kontroli przez organ kontroli z naruszeniem przepisów ustawy lub z naruszeniem innych przepisów prawa w zakresie kontroli działalności gospodarczej przedsiębiorcy. Gwarancje i prawa przyznane przedsiębiorcom rażąco narusza ograniczenie stosowania regulacji Prawa przedsiębiorców zawarte w art. 42 Projektu, poprzez zastrzeżenie, że do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy Prawo przedsiębiorców, podczas gdy od ogólnych zasad przeprowadzania kontroli nie powinno być odstępstw, a omawiany przepis taką sytuację wprost uznaje za odpowiadająca prawu, natomiast jak wskazano na wstępie — nie jest dozwolone modyfikowanie przepisami prawa krajowego przepisów ustawy Prawo przedsiębiorców zawartych w Rozdziale 5 - Ograniczenia kontroli działalności gospodarczej. Wnioskiem płynącym z powyższego powinno być wykreślenie art. 42 Projektu, lub jego modyfikacja wskazująca na konieczność bezwzględnego stosowania przepisów ustawy Prawo przedsiębiorców w zakresie czynności kontrolnych podejmowanych wobec przedsiębiorców. Nie jest dozwolone bowiem relatywizowanie regulacji ustawy odnoszącej się do podstawowych zasad i gwarancji działalności gospodarczej na terytorium Rzeczypospolitej Polskiej. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 117 215. Art. 42 UOKiK Zgodnie z projektem ustawy podmiotami podlegającymi kontroli mogą być, oprócz przedsiębiorców, również podmioty publiczne, które spełniają definicję dostawcy lub podmiotu stosującego. Rozważenia wymaga, czy do kontroli tych podmiotów będą miały zastosowanie przepisy ustawy – Prawo przedsiębiorców. Zauważyć bowiem należy, że kontrole podmiotów publicznych odbywają się na podstawie przepisów innych niż ww. ustawa. W zależności od ustaleń i potrzeb należy zmodyfikować projektowane przepisy tak aby nie było wątpliwości przepisy będą stosowane do określonych kategorii podmiotów. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 216. Art. 43 NCBR 1. Proponuje się wprowadzenie większej elastyczności w formach kontroli. Obecnie ustawa (art. 43) wprowadza możliwość kontroli SSI zdalnie lub za pomocą środków komunikacji elektronicznej lub „przy użyciu przesyłek rejestrowanych lub kurierskich”. Warto wprowadzić więcej mechanizmów kontroli opartych na real-time data, które pozwolą na monitoring SSI w czasie rzeczywistym i szybsze reagowanie na incydenty. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. 2. Dodatkowe zastrzeżenie wobec art. 43 projektu ustawy budzą przepisy ustanawiające zbyt szerokie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad systemami AI. Należy mieć na uwadze, że zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki. 3. Ponadto, proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli (art. 43 ust. 2 i 10). Uwagi częściowo uwzględnione Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 118 217. Art. 43 ust. 1 pkt 2 PFR Proponujemy nadać następujące brzmienie: „osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju kompetencje.” Uwaga uwzględniona 218. Art. 43 ust. 1 pkt 2 IAB Polska Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3, ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 219. Art. 43 ust. 1 pkt 2 ZPP Zwracamy uwagę na postanowienie art. 43 ust. 1 pkt 2 umożliwiające przewodniczącemu Komisji upoważnienie w zasadzie dowolnej osoby (jedyny wymóg to „posiadanie wiedzy specjalistycznej”) do przeprowadzenia kontroli. Tak szerokie otwarcie furtki w tym zakresie budzi poważne wątpliwości, zwłaszcza wziąwszy pod uwagę kompetencje kontrolujących takie jak np. możliwość żądania udostępnienia wszelkiego rodzaju dokumentacji i korespondencji związanej z przedmiotem kontroli, przeprowadzania oględzin urządzeń, nośników danych i systemów informatycznych (nb. pojawia się również wątpliwość, czy sformułowanie „oględziny systemu informatycznego” jest najszczęśliwsze), czy opieczętowania lokali, pomieszczeń lub przedmiotów. Trudny do zrozumienia jest również przepis stwarzający możliwość żądania pisemnych kopii i wydruków dokumentów, w tym również z poświadczeniem za zgodność z oryginałem – jak się wydaje, będzie się to wiązało ze zbyt daleko idącą uciążliwością, zwłaszcza prawo do żądania wydruków w warunkach dostępności kopii elektronicznych nie powinno być przewidziane w projekcie Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analize i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 220. Art. 43 ust. 1 pkt 2 Konfederacj a Lewiatan Upoważnienie do „przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę Uwaga nieuwzględniona 119 posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach jeśli wymagana jest wiedza specjalistyczna, której niei posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3,ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 221. Art. 43 ust. 1 pkt 2 Pracodawcy RP Zgodnie z art. 43 ust. 1 pkt 2 proponowanej ustawy Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli u przedsiębiorcy będącego podmiotem obowiązanym nie tylko pracownika Biura Komisji, ale także inną osobę posiadającą wiedzę specjalistyczną, jeśli do przeprowadzenia kontroli niezbędn e są tego rodzaju wiadomości. Ustawa nie precyzuje jednak, w jakim charakterze i na jakiej podstawie prawnej taka osoba ma wykonywać czynności kontrolne na rzecz Komisji, w związku z czym brak gwarancji co do zachowania w tajemnicy informacji Uwaga częściowo uwzględniona Przepisom dotyczącym przetwarzania informacji nadano nowe brzmienie. 120 chronionych, pozyskanych w trakcie kontroli przez taką osobę. Jedynym dokumentem formalnym, wskazanym przez ustawę, jest szczególne upoważnienie do przeprowadzenia kontroli, które jednakże nie obejmuje szczegółowych wskazań w zakresie praw i obowiązków kontrolera (vide art. 43 ust. 6 proponowanej ustawy), w związku z czym upoważnienie nie może stanowić jedynej podstawy formalnoprawnej działania kontrolera niebędącego pracownikiem Biura Komisji. Ustawa nie zawiera żadnych przepisów dotyczących praw i obowiązków kontrolera w zakresie ochrony informacji pozyskanych w trakcie kontroli, przez osobę niepodlegającą ustawowym obowiązkom w zakresie tajemnicy informacji chronionych. Do proponowanej ustawy należy dodać przepis o charakterze prawnokształtującym – wskazujący bezpośrednio podstawy ogólnych praw i obowiązków takiego kontrolera, niezależnego od struktur Biura Komisji, w celu zrównania ich zakresu obowiązków z przedstawicielami Biura Komisji, bądź przepis nakazujący odpowiednie stosowanie do takich kontrolerów przepisów dot. członków korpusu służby cywilnej. 222. Art. 43 ust. 2 i 3 RPD Wyrażam wątpliwość, co do zasadności propozycji przeprowadzania czynności kontrolnych, o których mowa w ustawie o systemach SI, głównie w sposób zdalny. Szczególnie niepokoi mnie brak precyzyjnego zdefiniowania „uzasadnionych przypadków”, w których kontrola może być przeprowadzana na miejscu. Uważam, że konieczne jest doprecyzowanie przepisów poprzez wskazanie konkretnych sytuacji lub kryteriów uzasadniających kontrolę w siedzibie podmiotu. W obszarach dotyczących dzieci bezpośrednie zbadanie systemów SI wysokiego ryzyka ma kluczowe znaczenie dla ochrony dobra dziecka. Zrozumienie przeznaczenia i zasad funkcjonowania systemu „na żywo” pozwala kontrolującym lepiej ocenić jego wpływ na prawa i wolności dzieci, szczególnie w takich dziedzinach jak edukacja i kształcenie. Zdalne przeprowadzanie kontroli może nie oddawać pełnego obrazu praktycznego działania systemu SI. Dlatego uważam, że w ostatecznym brzmieniu art. 43 ust. 2 i 3 ustawy o systemach SI powinien zawierać otwarty katalog Uwaga uwzględniona Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które uzasadniają w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego. 121 „szczególnych okoliczności”, które w sposób bezwzględny zobowiązują do przeprowadzenia kontroli lub znacznej jej części przez przedstawicieli Komisji na miejscu. Jako jedną z przesłanek obligujących do przeprowadzenia kontroli lub jej znacznej części na miejscu powinny być przypadki, gdy wyniki systemu sztucznej inteligencji mogą potencjalnie zagrażać prawom i wolnościom dzieci, tzn., gdy osobami, na które systemy SI mają wpływ, są osoby poniżej 18 roku życia. Przepisy ustawy powinny wprost wskazywać, że decyzja o przeprowadzeniu kontroli na miejscu powinna zależeć od oceny Komisji, czy takie działanie będzie służyło zabezpieczeniu najlepiej pojętego interesu dziecka, zgodnie z art. 3 Konwencji ONZ o prawach dziecka oraz art. 24 Karty Praw Podstawowych Unii Europejskiej. Najlepszy interes dziecka powinien być nadrzędnym kryterium przy podejmowaniu decyzji o formie i zakresie kontroli, w sytuacji, gdy przedmiotem kontroli jest realizacja wymogów rozporządzenia 2024/1689 przez operatorów systemów sztucznej inteligencji wysokiego ryzyka, których wyniki oddziałują bezpośrednio na sytuację faktyczną lub prawną dzieci. 223. Art. 43 ust. 2 IAB Polska Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecności stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły lub będą musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - niżej, w ust. 3, pojawia się takie określenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli? Uwagi częściowo uwzględnione Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które bazując na domyślnej formie kontroli (zdalnej) uzasadniają w wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego jedynie w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 122 224. Art. 43 ust. 2 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 2 Projektu, dotyczącego przeprowadzania kontroli w sposób zdalny. Przepis ten powinien uwzględniać, że zgodnie z art. 51 ust. 3a Prawa przedsiębiorców, taki sposób kontroli wymaga każdorazowo uprzedniej zgody przedsiębiorcy odnośnie kontroli lub poszczególnych czynności kontrolnych, Uwaga nieuwzględniona Uwaga wg projektodawcy nieuzasadniona ze względu na specyfikę działalności przedsiębiorców w obszarze sztucznej inteligencji i nowych technologii. W trakcie konsultacji propozycja wprowadzenia domyślnej formy kontroli jako zdalnej spotkała się z aprobatą, w związku z powyższym zachowanie takiej konstrukcji należy uznać za korzystane ze względu na ograniczenie niepotrzebnych kosztów i zwiększenie trudności organizacji kontroli w sposób stacjonarny. 225. Art. 43 ust. 2 Konfederacj a Lewiatan Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecnoścui stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły/ musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - nizej, w ust. 3 pojawia się takie okreslenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich itd. sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych (czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli?) Uwagi częściowo uwzględnione Techniczne aspekty organizacji kontroli pozostawiony jest do decyzji Komisji i według projektodawcy nie wymaga interwencji legislacyjnej. 226. Art. 43 ust. 3 KRRiT w art. 43 ust. 3 zbędnie użyto wyrazu „się”; Uwaga uwzględniona. Nowe brzmienie przepisu 227. Art. 43 ust. 3 PFR Prosimy o rozważenie możliwości doprecyzowania przesłanki „szczególnej okoliczności”, o której mowa w tej jednostce redakcyjnej. Uwaga uwzględniona Nowe brzmienie przepisu 123 228. Art. 43 ust. 3 IAB Polska Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43 ust. 1 pkt 2 Projektu) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to, czy od decyzji można się odwołać oraz to, czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 229. Art. 43 ust. 3 Konfederacj a Lewiatan Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43.1.2) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to czy od decyzji można się odwołać oraz to czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 230. Zaproponowany przepis stanowi upoważnienie dla kontrolera do przeprowadzenia części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, w przypadku gdy szczególne okoliczności to uzasadniają. Przepis ma jednak ogólny wydźwięk, który nie zawiera wskazówek interpretacyjnych co do tego, jakie okoliczności uzasadniają powyższe podejście do kontroli. Należy także wskazać, że materia przedmiotowego przepisu pozostaje w ścisłym związku z uwagami dot. art. 43 ust. 1 projektowanej ustawy, w związku z tym, że realizacja czynności kontrolnych bezpośrednio w Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 124 siedzibie podmiotu obowiązanego szczególnie wymaga zabezpieczenia prawnych i faktycznych interesów tego podmiotu. Ustawa powinna jasno wskazywać sytuacje, w których zasadne jest przeprowadzenie czynności kontrolnych w siedzibie podmiotu obowiązanego, a także zawierać szczegółowe wytyczne co do sposobu postępowania kontrolera w trakcie takich czynności. Należy także rozważyć uwzględnienie ścieżki odwoławczej, umożliwiającej weryfikację zasadności realizacji czynności kontrolnych w inny sposób niż zdalnie 231. Art. 43 ust. 4 IAB Polska Projekt przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 AI Act, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Dotyczy pkt. 3) należy wskazać, czy chodzi o dostęp do nośnika czy do zawartych tam informacji oraz doprecyzować sposób, w jaki można będzie udostępnić sam nośnik w postaci np. serwera \"chmurowego\". Dotyczy pkt. 5) - Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto \"poświadczanie\" wydruków/kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. \"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym Uwaga uwzględniona w części W aktualnej wersji przepisów projektu usunięto m.in. niektóre obowiązki (np. Dostęp do wydruków) W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. Dodatkowo, choć zgadzamy się z uwagą dot. Niemożliwości przeprowadzenie każdej formy kontroli w odniesieniu do każdej technologii wykorzystywanych przez stron, jednocześnie jednak przepisy upowazniające Komisję do realizacji kontroli powinny uwzględniać pewną swobodę w doborze środków. Racjonalnośc i proporcjonalność tych środków gwarantować mają kompetencje Przewodniczącego, Członków Rady oraz pracowników Biura Komisji. 125 OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów”. Dotyczy pkt. 8) - Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. 232. Art. 43 ust. 4 Pracodawcy RP Ustawa przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 Aktu o AI, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach łącznych zmian treści przepisów dotyczących kontroli. W aktualnej wersji przepisów projektu usunięto niektóre obowiązki (np. dostęp do wydruków). W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. 233. Art. 43 ust. 4 pkt 3 BGK Propozycja 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z Uwaga uwzględniona 126 przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych 234. Art. 43 ust. 4 pkt 5 Konfederacj a Lewiatan Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym.Ponadto \"poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.\"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów” Uwaga uwzględniona 235. Art. 43 ust. 4 pkt 8 KRRiT w art. 43 ust. 4 pkt 8 błędnie odesłano do art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych; Uwaga nieuwzględniona. 127 Uwaga nieaktualna ze względu na nową treść przepisów projektu. 236. Art. 43 ust. 4 pkt 8 BGK Propozycja 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów projektu. 237. Art. 43 ust. 4 pkt 8 UKNF Ustawa z dnia 10 maja 2018 r. o ochronie danych osobowych nie zawiera art. 7 pkt 2a, do którego odwołuje się projektowany przepis. Artykuł 7 ww. ustawy dotyczy zasad postępowania przed Prezesem Urzędu Ochrony Danych Osobowych, a nie odnosi się do systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania. Uwaga uwzględniona. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 238. Art. 43 ust. 4 pkt 8 Konfederacj a Lewiatan Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 239. Art. 43 ust. 4 pkt 10 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 10) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli. 5. Kontrolujący przeprowadza czynności po okazaniu upoważnienia do przeprowadzenia Uzasadnienie: Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 128 Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 240. Art. 43 ust. 5 Konfederacj a Lewiatan Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 241. Art. 43 ust. 5 IAB Polska Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 242. Art. 43 ust. 5 pkt 1 Konfederacj a Lewiatan Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W zwiazku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 243. Art. 43 ust. 6 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 6 Projektu, dotyczącego upoważnienia do kontroli — powinien uwzględniać wymogi określone w art. 49 ust. 1-10 Prawa przedsiębiorców, gdyż w szczególności zakres kontroli nie może wykraczać poza zakres wskazany w upoważnieniu do jej przeprowadzenia, Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 244. Art. 43 ust. 6 pkt 1 IAB Polska Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest, aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;”. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 245. Art. 43 ust. 7 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 129 art. 43 ust. 7 Projektu dotyczącego zawiadamiania o planowanej kontroli — powinien uwzględniać wymogi określone w art. 48 ust. 1-11 Prawa przedsiębiorców, 246. Art. 43 ust. 7 IAB Polska Proponujemy, aby rozważyć brzmienie przepisu w następującym kształcie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 247. Art. 43 ust. 7 Konfederacj a Lewiatan Proponowane brzmienie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uzasadnienie: Należy określić z jakim wyprzedzeniem kontrolowany powinien być zawiadomiony o planowanej kontroli. Zapewni to odpowiedni czas na przygotowanie do kontroli, skoro podmiot i tak jest o niej uprzedzany. Brak dowolności w stosowaniu prawa. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 248. Art. 43 ust. 7 UOKiK Zgodnie z art. 48 ust. 11 ustawy - Prawo przedsiębiorców zawiadomienia o zamiarze wszczęcia kontroli nie dokonuje się, w przypadku gdy kontrola ma zostać przeprowadzona na podstawie ratyfikowanej umowy międzynarodowej albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 75 i 80 rozporządzenia 2024/1689 stanowią bezpośrednią podstawę prawną do prowadzenia kontroli. Ponadto zgodnie z art. 74 ust. 1 rozporządzenia 2024/1689 „Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020”, które w art. 14 ust. 4 lit. d stanowi, że uprawnienia nadane organom nadzoru rynku obejmują prawo do przeprowadzenia niezapowiedzianych kontroli na miejscu i kontroli fizycznych produktów, zaś zgodnie z art. 74 ust. 5 rozporządzenia 2024/1689 „do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny”. Zatem rozważenia wymaga zasadność zawiadamiania w każdym przypadku o planowanej kontroli. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 130 249. Art. 43 ust. 8 UOKiK Przepisy projektu ustawy nie definiują pojęcia Kierownika podmiotu kontrolowanego posługując się wyłącznie pojęciem Kontrolowanego. W celu usunięcia ewentualnych wątpliwości związanych ze stosowaniem przepisów w tym zakresie, rekomenduje się wprowadzenie definicji kierownika podmiotu kontrolowanego, chociażby przez odesłanie dodefinicji tego pojęcia w obowiązujących przepisach np. ustawy o rachunkowości. Jednocześnie rozważenia wymaga zasadność zamieszczenia w katalogu podmiotów zobowiązanych do udzielania informacji i zapewnienia określonych warunków kontroli osoby czynnej w lokalu przedsiębiorstwa, ze względu na prawny oraz przede wszystkim faktyczny brak możliwości działania w żądany sposób przez takie osoby. Należy mieć na uwadze, że niekażdy pracownik otrzymuje uprawnienia do wstępu na określone powierzchnie placówek czy też ma dostęp do nośników informatycznych. Uwaga uwzględniona 250. Art. 43 ust. 8 pkt 2 PFR Proponujemy nadać następujące brzmienie: „udzielanie żądanych informacji” Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak jej przedmiotowości po dokonaniu modyfikacji przepisów w aktualnej wersji projektu ustawy. 251. Art. 43 ust. 8 pkt 2 UKNF W art. 43 ust. 8 projektu ustawy, we wprowadzeniu do wyliczenia, wskazano, że osoby reprezentujące podmiot kontrolowany obowiązane są udzielać kontrolującemu wszelkich potrzebnych informacji. Tym samym nie jest konieczne ponowne wskazywanie w art. 43 ust. 8 pkt 2, że ww. osoby powinny zapewnić „udzielanie żądanych informacji”. Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 252. Art. 43 ust. 8 pkt 3 PFR Proponujemy nadać następujące brzmienie: „wstęp na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 253. Art. 43 ust. 8 pkt 4 PFR Proponujemy nadać następujące brzmienie: „udostępnienie i wydanie materiałów, o których mowa w ust. 4 pkt 3, lub innych przedmiotów mogących stanowić dowód w sprawie” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 131 254. Art. 43 ust. 8 pkt 5 PFR Proponujemy nadać następujące brzmienie: „dostęp do informatycznych nośników danych, urządzeń lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną.” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 255. Art. 43 ust. 8 pkt 5 BGK Propozycja 5) umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona 256. Art. 43 ust. 10 IAB Polska Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 257. Art. 43 ust. 10 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 132 sytuacji w której podmiot nie będzie mógł prowadzić działalności gospodarczej. 258. Art. 43 ust. 11 IAB Polska Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\". Czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 259. Art. 43 ust. 11 IAB Polska Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 260. Art. 43 ust. 11 Konfederacj a Lewiatan Uważamy, iż przepis wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieśc sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Ponadto, powinno być wyraźne ograniczenie zakresu wydawania postanowienia o zajęciu dokumentów i przedmiotów do tych bezpośrednio związanych z przedmiotem kontroli i niezbędnych do jej przeprowadzenia, zapewni to proporcjonalność środków kontroli. Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\" - czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 261. Art. 43 ust. 11 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 133 przepisów Projektu: Art. 43 ust. 11 Projektu dotyczący zajęcia rzeczy podczas kontroli — powinien uwzględniać przede wszystkim dyrektywę wynikającą z art. 52 Prawa przedsiębiorców, która stanowi, że czynności kontrolne wykonuje się w sposób sprawny 1 możliwie niezakłócający funkcjonowanie przedsiębiorcy. W przypadku, gdy przedsiębiorca wskaże na piśmie, że wykonywane czynności zakłócają w sposób istotny działalność gospodarczą przedsiębiorcy, konieczność podjęcia takich czynności uzasadnia się w protokole kontroli. Należy podkreślić, że nie jest jasne ratio legis wprowadzenia tak rygorystycznego uregulowania ze względu na to, że dokonanie kopii akt, ksiąg, wszelkiego rodzaju dokumentów, pism i korespondencji, które mogą mieć znaczenie dla sprawy, jest obecnie łatwe do dokonania. To samo dotyczy informatycznych nośników danych, urządzeń zawierających dane informatyczne, lub systemów informatycznych. Proponowane wskazanym przepisem środki cechuje znaczna dolegliwość. Warto natomiast do projektowanego przepisu wprowadzić dodatkowe przesłanki gwarantujące zachowanie zasady proporcjonałności. Konieczne jest także dokładne wskazanie organu właściwego do rozpatrzenia zażalenia na postanowienie o przedmiotowym zajęciu oraz tryb zaskarżenia wraz z określeniem ustawowego terminu rozpatrzenia zażalenia, zwłaszcza gdy złożenie zażalenia nie wstrzymuje wykonania postanowienia. Powyższe jest istotne ze względu na późniejsze stosowanie w praktyce projektowanych przepisów. 262. Art. 43 ust. 12 UOKiK Zgodnie z art. 43 ust. 11 projektu ustawy organ może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni, natomiast zgodnie z ust. 12 osobę posiadającą przedmioty wzywa się do ich wydania dobrowolnie, a w razie odmowy kieruje się przeciwko posiadaczowi postępowanie egzekucyjne. Skoro wydane zostanie postanowienie o zajęciu ww. dowodów, to ich wydanie nie jest dobrowolne. Postanowienie stanowi akt administracyjny, który będzie Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 134 zobowiązywał podmiot do wydania dowodów w związku z ich zajęciem. Jeśli zaś postanowienie nie zostałoby wydane, nie byłoby podstawy do skierowania obowiązku do egzekucji. Należałoby przeredagować treść ust. 9-12, aby było jasne jak powinna wyglądać niniejsza procedura oraz które czynności mogą być dobrowolne, a które będą zobowiązywały podmioty i podlegały egzekucji 263. Art. 43 ust. 13 UKNF Z projektowanego przepisu nie wynika do kogo kierować/kto rozpatruje zażalenie na postanowienie o zajęciu przedmiotów. Zasadne jest odpowiednie doprecyzowanie przepisu w ww. zakresie. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 264. Art. 43 ust. 13 PFR Prosimy o rozważenie możliwości doprecyzowania procedury składania zażaleń oraz zapewnienie jasności co do trybu i terminów rozpatrywania takich zażaleń. To może zwiększyć transparentność całego procesu kontrolnego Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 265. Art. 43 ust. 13 Konfederacj a Lewiatan Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (w związku bowiem z art. 56 projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której proponuje się, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący. Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa.Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 135 266. Art. 43 ust. 13 Pracodawcy RP Proponowany przepis przewiduje możliwość zaskarżenia postanowienia o zajęciu przedmiotów, w drodze zażalenia, jednak bez wskazania trybu, w jakim ma to nastąpić, a także bez wskazania organu, do którego zażalenie powinno zostać wniesione. W szczególności nie reguluje tego proponowana zmiana w obszarze przepisów Kodeksu postępowania cywilnego, która dotyczy wyłącznie decyzji Komisji. Ponadto z dużym niepokojem należy się odnieść do uregulowania, że zaskarżenie postanowienia o zajęciu przedmiotów nie wstrzymuje jego wykonania - szczególnie w sytuacji, gdy zajęciu podlegają dokumenty i inne nośniki zawierające informacje wrażliwe - bowiem Komisja jest wówczas uprawniona do działania dalej tak, jakby postanowienie nie zostało zaskarżone, grożąc niemożliwą do zrekompensowania stratą po stronie podmiotu obowiązanego. Należy wprowadzić do proponowanej ustawy przepisy precyzujące ścieżkę odwoławczą w zakresie postanowień o zajęciu przedmiotów w toku kontroli, a także wykreślić normę dot. natychmiastowej wykonalności postanowienia o zajęciu przedmiotów bądź, alternatywnie, zastrzeżeniu, że w przypadku zaskarżenia postanowienia o zajęciu należy powstrzymać się od wykorzystania zajętych przedmiotów do momentu rozstrzygnięcia uprawnionego organu. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 267. Art. 43 ust. 13 Rada Legislacyjna [Brak wskazania w art. 43 ust. 13 Projektu organu uprawnionego do rozpatrywania zażalenia] W przepisie art. 43 ust. 13 Projektu nie wskazano organu, który jest uprawniony do rozpatrzenia wymienionego w tym przepisie zażalenia na postanowienie Komisji o zajęciu przedmiotów. Przepis art. 43 ust. 13 Projektu – który jest zamieszczony w ramach grupy przepisów Projektu normujących kontrolę przez Komisję przestrzegania przepisów Rozporządzenia UE 2024/1689 i ustawy (obecnie Projektu) – stanowi co następuje: „Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia.”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 136 Postanowienie, o którym mowa w tym przepisie jest wydawane przez Komisję (zob. art. 43 ust. 11 Projektu), aczkolwiek Projekt nie określa właściwej w tych sprawach drogi odwoławczej, w tym np. nie wskazuje na możliwość zaskarżenia tego postanowienia zażaleniem do SOKiK. Co prawda art. 45 ust. 5 Projektu mówi o możliwości zwrotu przez SOKiK pism lub dokumentów ujawnionych w toku omawianej kontroli dokonywanej przez Komisję, ale przepis art. 45 ust. 5 Projektu absolutnie nie ma zastosowania do postanowienia Komisji o zajęciu przedmiotów, o którym jest mowa w art. 43 ust. 13 Projektu, gdyż, po pierwsze, art. 45 ust. 5 Projektu dotyczy jedynie bardzo wąskiej grupy pism lub dokumentów (a nie innych przedmiotów) związanych z komunikacją kontrolowanego z prawnikiem (zob. art. 45 ust. 1-4 Projektu), a po drugie te pisma i dokumenty, których dotyczy art. 45 ust. 5 Projektu (i o których zwrocie będzie orzekał SOKiK) nie są przez kontrolowanego zajmowane, lecz są pozostawiane w miejscu kontroli (zob. art. 45 ust. 1 in fine Projektu). Tym samym przepis art. 45 ust. 5 Projektu nie ma żadnego znaczenia (a w każdym razie nie ma przesądzającego znaczenia) dla zidentyfikowania lub wskazania drogi prawnej przysługującej w przypadku zaskarżania zażaleniem postanowienia Komisji o zajęciu przedmiotów, o czym jest mowa w art. 43 ust. 13 Projektu. W związku z tym Rada Legislacyjna postuluje wyraźne przesądzenie w art. 43 ust. 13 Projektu, że zażalenie, o którym jest mowa w tym przepisie jest wnoszone do SOKiK i jest przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 268. Art. 43 ust. 14 IAB Polska Relacja między ust. 14 a ust. 11-13 jest niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować, w jakiej sytuacji zajęcie jest niedopuszczalne. Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 269. Art. 43 ust. 14 Konfederacj a Lewiatan Relacja między ustępem 14 a ust. 11-13 jest całkowicie niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować w jakiej sytuacji zajęcie jest niedopuszczalne. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 137 Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia NA MIEJSCU KONTROLI\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. 270. Art. 43 ust. 15 IAB Polska Należy wskazać, kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak: kto może być taką osobę i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 271. Art. 43 ust. 15 Konfederacj a Lewiatan Należy wskazać kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak kto to może być i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 272. Art. 43 ust. 15 Pracodawcy RP Zgodnie z proponowanym przepisem, przedmioty podlegające zajęciu w toku kontroli po dokonaniu oględzin i sporządzeniu protokołu zajęcia zostają zabrane albo oddane na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Ustawa nie definiuje jednak, jakie cechy powinna posiadać „osoba godna zaufania”, w jaki sposób jest wyznaczana, ani jakie gwarancje ochrony informacji poufnych przysługują podmiotowi obowiązanemu. W ocenie zgłaszającego komentowany przepis zawiera luki, które należy uzupełnić poprzez dodanie postanowień dotyczących osoby Godnej zaufania, sposobu jej wyznaczenia i ciążących na niej obowiązków, a także określenie sposobu postępowania ze złożonymi takiej osobie zajętym przedmiotami. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 273. Art. 43 ust. 16 i 18 Pracodawcy RP Przedmiotowe przepisy dotyczą sporządzenia i treści protokołu oraz wydania podmiotowi kontrolowanemu pokwitowania zajętych przedmiotów, jednak nie przewidują procedury odwoławczej wobec zastrzeżeń co do treści takiego protokołu i pokwitowania. Postulujemy zawarcie w omawianych przepisach Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 138 odwołania do postępowania odwoławczego prowadzonego przez sąd ochrony konkurencji i konsumentów w odniesieniu do wszystkich rodzajów spraw wynikających i pozostających w związku z realizacją uprawnień określonych w przedmiotowym projekcie ustawy - jest to uzasadnione wyłączeniem zasady dwuinstancyjności postępowania administracyjnego w odniesieniu do spraw określonych omawianą ustawą, które powinno być równoważone zasadą umożliwienia prawnej ochrony podmiotowi kontrolowanemu. 274. Art. 43 ust. 18 KRRiT w art. 43 ust. 18 nie jest jasne, dlaczego powiadomienie ma dotyczyć tylko przedsiębiorcy, skoro kontroli mogą być poddane także osoby fizyczne nieprowadzące działalności gospodarczej (przepis art. 43 ust. 21 projektowanej ustawy); Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 275. Art. 43 ust. 20 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Art. 43 ust. 20 Projektu powinien uwzględniać gwarancyjny charakter instytucji sprzeciwu określonej w art. 59 ust. 1-16 Prawa przedsiębiorców, zwłaszcza możliwość jego złożenia w odniesieniu do poszczególnych czynności kontrolnych dokonanych z naruszeniem art. 48, art. 49, art. 50 ust. 1 1 5 oraz art. 51 ust. 1, art. 54 ust. 1, art. 55 ust. 1 i 2 a także art. 58 Prawa przedsiębiorców. Uwagi dot art. 42 i 43 wskazują na duże zagrożenie dla zagwarantowanych podstawowych praw przedsiębiorców, jakie stwarza szczególnie aktualna treść art. 42 Projektu, jak również na poważne niejasności co do ewentualnych skutków, w wypadku pozostawienia w Projekcie wskazanych przepisów w ich obecnej treści. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 276. Art. 43 ust. 20 IAB Polska Należy doprecyzować, w jakiej formie należy wnieść sprzeciw oraz skutki związane z jego wniesieniem. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 277. Art. 43 ust. 20 Konfederacj a Lewiatan Należy doprecyzować jakie formie i co wynika z wniesienia sprzeciwu. W tym punkcie ma zastosowanie uzasadnienie z punktu powyżej. Ponadto, naszą wątpliwość budzi w jakim trybie, do jakiego organu oraz za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - Jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakm terminie może Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 139 być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jesli na podstawie ust. 16 art. 59 stosuje sie odpowiednio przepisy KPA. Jesli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie róznych trybów/organów w jednym artykule ustawy jest niewskazane. 278. Art. 43 ust. 20 Pracodawcy RP Przepis nie określa trybu wniesienia sprzeciwu wobec podjęcia i prowadzenia kontroli z naruszeniem przepisów ani nie wskazuje organu właściwego do jego rozpoznania. Uzasadnienia jak do art. 43 ust. 3 Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 279. art. 43 ust. 20 Rada Legislacyjna [Brak wskazania w art. 43 ust. 20 Projektu organu właściwego do rozpatrzenia zażalenia na postanowienie rozstrzygające sprzeciw] Przepis art. 43 ust. 20 Projektu nie wskazuje organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w tym przepisie. Przepis art. 43 ust. 20 Projektu stanowi, że „Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów.”. Ponieważ zgodnie z art. 42 Projektu do kontroli, o której jest tutaj mowa stosuje się, w zakresie nieuregulowanym w Projekcie, przepisy rozdziału 5 ustawy Prawo przedsiębiorców, zaś w tej ostatniej ustawie została uregulowana kwestia wnoszenia sprzeciwu przez przedsiębiorcę do organu kontroli w związku z naruszeniem różnych przepisów ustawy Prawo przedsiębiorców normujących kontrolę przedsiębiorców, można by sądzić, że w kwestii rozpatrywania sprzeciwu oraz skutków prawnych tego rozpatrzenia należy stosować właśnie przepisy rozdziału 5 ustawy Prawo przedsiębiorców. To by zaś oznaczało, że rozstrzygnięcie przez Komisję sprzeciwu podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu następuje w drodze postanowienia Komisji (wniosek z art. 59 ust. 7 Prawa przedsiębiorców w zw. z art. 42 Projektu), zaś postanowienie to jest następnie zaskarżalne zażaleniem (wniosek z art. 59 ust. 9 Prawa przedsiębiorców w zw. z art. 43 Projektu), a dodatkowo po wydaniu postanowienia Komisji rozstrzygającego sprzeciw podmiotu kontrolowanego ten ostatni może wnieść do sądu administracyjnego skargę na przewlekłe prowadzenie kontroli (wniosek z art. 59 ust. 14 w zw. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 140 z ust. 9 pkt 1 i ust. 7 pkt 2 Prawa przedsiębiorców w zw. z art. 42 Projektu). Tyle tylko, że stosując wprost wskazane przepisy ustawy Prawo przedsiębiorców nadal nie sposób jest jednoznacznie stwierdzić, jaki konkretnie organ miałby być uprawniony do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w art. 43 ust. 20 Projektu: czy sama Komisja (skoro brak jest w stosunku do Komisji organu administracji wyższego stopnia – zob. stosowany przez analogię przepis art. 127 § 3 w zw. z art. 144 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego,23 dalej: „k.p.a.”) czy też może SOKiK, tak jak to jest postulowane wyżej w odniesieniu do postanowień Komisji o zajęciu przedmiotów? Na to pytanie przepisy Projektu nie udzielają niestety jednoznacznej odpowiedzi, nawet przy uwzględnieniu wspomnianego odesłania z art. 42 Projektu do przepisów rozdziału 5 ustawy Prawo przedsiębiorców. Zdaniem Rady Legislacyjnej, względy pożądanej efektywizacji ochrony prawnej podmiotów kontrolowanych przemawiają za tym, aby postanowienia Komisji rozstrzygające wnoszony przez podmiot kontrolowany sprzeciw, o którym jest mowa w art. 43 ust. 20 Projektu, były zaskarżane zażaleniem do SOKiK i były przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 280. Art. 43 ust. 21 Konfederacj a Lewiatan Konieczne jest wyjaśnienie, jak ten przepis odnosi się do zakresu podmiotowego AI Actu. Zapewni to spójność i zrozumiałość ustawy. AI Act wyłącza część podmiotów z zakresu jego stosowania. O jakim kręgu podmiotów mówi ten przepis? Jest to niejasne. Uwaga nieuwzględniona. 281. Art. 44 RPD Wątpliwości budzi również regulacja przewidziana w ww. przepisie zgodnie z którym Komisja będzie mogła zwrócić się m.in. do organu ochrony prawa o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli, a podmiot taki zapewni pomoc w przeprowadzeniu kontroli. Wniosek taki może być przesłany co najmniej 7 dni przed planowanym dniem wszczęcia kontroli, a w przypadkach niecierpiących zwłoki, co najmniej 3 dni przed planowaną kontrolą. Przepisy odnoszące się do tej materii nie wskazują, jakie kompetencje i kwalifikacje mają mieć osoby Uwaga uwzględniona Nowe brzmienie przepisów o kontroli. 141 uczestniczące z ramienia organu. Kwestie te nie zostały również wyjaśnione w uzasadnieniu do projektu. 282. Art. 44 ZPP Komisja na mocy art. 44 ma mieć możliwość zwrócenia się m.in. do policji o udzielenie pomocy w przeprowadzeniu kontroli – z uwagi na charakter czynności i samej Komisji, która nie ma być kolejną służbą w modelu policyjnym, przeciwdziałającą kryminalnym występkom, lecz organem nadzoru nad stosowaniem w praktyce AI Act, wydaje się to instrument zarysowany w projekcie ustawy zbyt szeroko. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 283. Art. 44 ust. 1 IAB Polska To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to najgorsze skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne. Ewentualnie należy rozważyć zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. Proponujemy następujące brzmienie przepisu: “Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 142 284. Art. 44 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przpisu: „Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uzasadnienie: Przewidziana w projekcie potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji wydaje się być rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dlatego też należy przeanalizować konieczność jej pozostawienia. To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i JEDYNIE, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne Uwaga częściowo uwzględniona 143 Ewentualnie należy rozważyc zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. 285. Art. 44 ust. 2 pkt 3 KRRiT w art. 44 ust. 2 pkt 3 wyrazy „jednostek podległych i nadzorowanych” zostały błędnie odmienione; 286. Art. 44 ust. 2 pkt 3 Konfederacj a Lewiatan Wątpliwości budzi przyznane w tym przepisie uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 287. Art. 44 ust. 3 UKNF W tekście prawnym należy posługiwać się takimi samymi określeniami w odniesieniu do tych samych czynności (działania). Natomiast w przedmiotowym przepisie najpierw posłużono się sformułowaniem: „dniem wszczęcia kontroli”, a następnie sformułowaniem: „dniem rozpoczęcia kontroli”, co odnosi się do tego samego działania – zainicjowania kontroli. Urząd Komisji Nadzoru Finansowego postuluje ujednolicenie treści przepisu w tym zakresie. Uwaga uwzględniona 288. Art. 44 ust. 4 KRRiT w art. 44 ust. 4 wątpliwość może budzić ustanowienie wynagrodzenia dla organów podejmujących czynności w zakresie swoich uprawnień i obowiązków; Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 289. Art. 45 IAB Polska Dotyczy art. 45 ust. 1 pkt 1) Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może Uwaga uwzględniona 144 zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: “zawierają pisemną komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub”. Dotyczy art. 45 ust. 1 pkt 2) - Należy wskazać, co w sytuacji, jeśli takie pismo/dokument znajduje się na nośniku, jaki ma być zajęty. 290. Art. 45 Konfederacj a Lewiatan W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Stoimy na stanowisku, iż jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 291. Art. 45 ust. 1 KRRiT w art. 45 ust. 1 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; w art. 45 ust. 1 pkt 1) i 2) wydaje się, że pojęcie „właściwy organ” należy zastąpić terminem „Komisję”; Uwaga uwzględniona 145 292. Art. 45 ust. 1 i 2 RPO Ww. przepis przewiduje wgląd kontrolującego w dokumenty podmiotu kontrolowanego, które mogą być objęte tajemnicą adwokacką/radcowską (dalej jako: tajemnica adwokacka). W projektowanej ustawie przewidziano możliwość złożenia oświadczenia przez kontrolowanego wskazującego, że określone pisma i dokumenty zawierają informacje objęte tajemnicą adwokacką, co winno skutkować pozostawieniem przez kontrolujących tych dokumentów w miejscu kontroli. Jednocześnie jednak w świetle projektowanych przepisów, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, a także jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia. Co więcej, jeżeli oświadczenie kontrolowanego budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, w sposób zapewniający należyte zabezpieczenie przed ujawnieniem jego treści. Ostatecznie to sąd decyduje o możliwości przekazania ww. dokumentów podmiotowi kontrolującemu. Mimo istnienia tego mechanizmu kontrolnego, sama możliwość nawet pobieżnego zapoznania się z pismami i dokumentami zawierającymi informacje objęte tajemnicą adwokacką, może budzić poważne wątpliwości . Należy wskazać, że tajemnica adwokacka służy ochronie interesów klienta. Stanowi ona gwarancję poszanowania relacji zaufania klienta do adwokata, bez której nie można wyobrazić sobie prawidłowej reprezentacji i prawidłowo funkcjonującego wymiaru sprawiedliwości. Ochrona tajemnicy adwokackiej stanowi jeden z najistotniejszych, jeśli nie najważniejszy obok należytej reprezentacji interesów klienta, obowiązków zawodowy adwokata . Także Europejskie Stowarzyszenie Adwokatur podkreśla, że bez tajemnicy nie powstałby pomiędzy adwokatem a klientem stosunek zaufania, w konsekwencji adwokaci nie mogliby wykonywać swojego zawodu . W wyroku z dnia 24 maja 2018 r. w sprawie Laurent v. Francja Europejski Trybunał Praw Człowieka wskazał, że ze względu na uprzywilejowany Uwaga uwzględniona 146 charakter komunikacji podejrzanego z obrońcą władze publiczne nie mogą dokonywać kontroli tej korespondencji, chyba że istnieją uzasadnione podstawy do podejrzeń, że korespondencja ta zawiera treści nielegalne. Niemniej nawet wówczas należy zapewnić odpowiednie gwarancje proceduralne. W sprawie tej adwokat Cyril Laurent napisał swoje dane na kartce papieru, którą następnie złożył i wręczył podejrzanym zatrzymanym przez policję. Funkcjonariusz policji zapoznał się z jej treścią, na co skarżący złożył nieskuteczne zażalenie do sądu. W przedmiotowej sprawie, ETPC zauważył, że owa kartka papieru stanowi korespondencję chronioną przez art. 8 Konwencji. W związku z tym zapoznanie się z nią przez funkcjonariusza policji stanowi ingerencję w prawo do poszanowania życia prywatnego. Trzeba zatem zauważyć, że stworzenie możliwości osobom nieupoważnionym zapoznania się z pismem lub dokumentem objętymi tajemnicą adwokacką ingeruje w relację pomiędzy pełnomocnikiem i klientem oraz narusza tajemnicę korespondencji. W mojej ocenie pozostawienie projektowanego przepisu w takim kształcie jest trudne do pogodzenia z ww. zasadami jak również z zasadą demokratycznego państwa prawnego (art. 2 Konstytucji RP). 293. Art. 45 ust. 1 BGK Propozycja 1.Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 147 informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 294. Art. 45 ust. 1 pkt 1 Konfederacj a Lewiatan Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: „zawierają komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub (..)” Uzasadnienie: Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni.Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Uwaga uwzględniona 148 Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. 295. Art. 45 ust. 1 pkt 2 Konfederacj a Lewiatan Należy wskazać co w sytuacji jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 296. Art. 45 ust. 2 ZZP Na gruncie art. 45 ust. 2 kontrolujący ma mieć prawo „pobieżnego” zapoznania się z pismem zawierającym pisemną komunikację między podmiotem kontrolowanym a np. niezależnym od niego adwokatem, a więc dokumentem z zasady objętym tajemnicą adwokacką. Sam przepis jest w naszym przekonaniu za daleko idący i powinien zostać usunięty, tym bardziej razi on w kontekście regulacji dot. możliwości upoważnienia do przeprowadzenia kontroli osób trzecich. Uwaga uwzględniona Zmiana brzmienia przepisu. 297. Art. 45 ust. 2 IAB Polska Rekomendujemy następujące brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe”. Prawo organu do \"pobieżnego zapoznania się\" z dokumentu objętym tajemnicą radcowską/adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności. Uwaga uwzględniona 298. Art. 45 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Wnosimy o wykreślenie ustępu 2. Jeśli są wątpliwości, to powinno to być poddane kontroli sądowej. Uwaga uwzględniona 149 Z ostrożności procesowej, w przypadku nieuwzględnienia powyższej uwagi, proponujemy następujące zmiany: Ew. rekomendujemy następujace brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie wyłącznie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Uzasadnienie: Słowo \"pobieżnie\" powinno być usunięte, trzeba zapewnić w ustawie precyzyjne określenie, że kontrolujący może zapoznać się tylko z określonymi aspektami pisma lub dokumentu. Wyraz \"pobieżnie\" jest nieprecyzyjny i może prowadzić do różnych interpretacji. Precyzyjne określenie aspektów, z którymi kontrolujący może się zapoznać, zapewni większą pewność prawną i ochronę najważniejszych prawnie chronionych tajemnic – radcowskiej i adwokackiej. Prawo organu do \"pobieżnego zapoznania się\" z dokumentnu objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem 150 \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności 299. Art. 45 ust. 2 Pracodawcy RP Z dużym niepokojem należy odnieść się do przepisu, zgodnie z którym złożenie przez podmiot kontrolowany oświadczenia, że dany dokument zawiera komunikację z niezależnym od niego przedstawicielem zawodu powołanego do świadczenia ochrony prawnej, nie wyłącza możliwości pobieżnego zapoznania się przez kontrolera z takim dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Tak skonstruowany przepis narusza taj emnicę adwokacką / radcowską, a także może naruszać tajemnicę obrończą, która ma charakter bezwzględny: postępowanie przez Komisją może łączyć się bowiem z postępowaniem karnym, w którym kontrolowany ma status oskarżonego lub podejrzanego. Przepis potencjalnie narusza też prawo obywatela do obrony, ponieważ w toku kontroli mogą wyjść na jaw okoliczności dotyczące np. postępowania karnego. Zwrot „pobieżne zapoznanie się” jest nieprecyzyjny i nieostry - w efekcie wyjątkowo wyjątkowo ocenny przepis, którego stosowanie będzie w praktyce uzależnione od prywatnych zapatrywań urzędnika. Potencjalnie przedmiotowy przepis pozostaje także w sprzeczności z art. 78 ust. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (Aktu AI), zgodnie z którym organy zaangażowane w stosowanie rozporządzenia zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania przyznanych im uprawnień. Dodatkowo organy Uwaga uwzględniona 151 te są zobowiązane do wprowadzenia odpowiednich i skutecznych środków w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych. Za konieczne uznajemy modyfikację treści ust. 2 art. 45 proponowanej ustawy, która w obecnym kształcie pozwala na pobieżne zapoznanie się z przedmiotem pisma, a nie tylko informacjami dotyczącymi autora, tytułu czy daty pisma - w tym zakresie ewentualne zapoznanie się kontrolera z takim pismem powinno się ogranicza do autora, adresata, tytułu i daty. Jakiekolwiek wątpliwości związane z przedmiotem pisma powinien rozstrzygać właściwy sąd (sąd ochrony konkurencji i konsumentów), który ewentualnie mógłby podważyć istnienie prawnie chronionej korespondencji przedsiębiorcy z pełnomocnikiem - w każdym przypadku, nie tylko w sytuacji, gdy dokument budzi wątpliwości kontrolera (vide art. 45 ust. 3). W przypadku utrzymania omawianego przepisu w dotychczasowym brzmieniu postulujemy natomiast, by osoba, która w ten sposób zapoznała się z dokumentem w trakcie kontroli, podlegała wyłączeniu z udziału w dalszym postępowaniu wobec podmiotu obowiązanego. 300. Art. 45 ust. 3 IAB Polska Należy wskazać, w jaki sposób kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, skoro z ust. 1 in fine (“kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Uwaga nieuwzględniona 301. Art. 45 ust. 3 Konfederacj a Lewiatan Należy wskazać w jaki sposóbkontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów , skoro z ust. 1 in fine (\" kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów? Uwaga nieuwzględniona 302. Art. 45 ust. 3 Pracodawcy RP W uzupełnieniu uwag opisanych w pkt 7 powyżej należy wskazać, że umożliwienie przekazania budzącego wątpliwości oświadczenia o dokumentach zawierających tajemnicę adwokacką / radcowską do sądu ochrony konkurencji i Uwaga nieuwzględniona 152 konsumentów po zakończeniu kontroli, efektywnie pozbawia podmiot obowiązany możliwości obrony – przepis nie zawiera bowiem wytycznych co do sposobu postępowania z oświadczeniem i dokumentów, do których oświadczenie się odnosi, przy jednoczesnym posługiwaniu się nieostrymi, ocennymi pojęciami „wątpliwości” i „niezwłoczności”. W odniesieniu do przedmiotowych oświadczeń proponujemy modyfikację zaproponowanej treści przepisu w taki sposób, by jednoznacznie określał on sposób postępowania z kwestionowanymi oświadczeniami i dokumentami oraz zwiększał rolę sądu w ocenę zasadności wykorzystania określonych danych i informacji jeszcze w toku kontroli. W przeważającej części wypadków dane te będą miały niezwykle wrażliwy charakter, co uzasadnia przyjęcie najwyższej możliwej ochrony praw podmiotu obowiązanego. 303. Art. 45 ust. 4 KRRiT należy rozważyć wykreślenie art. 45 ust. 4 i stosować ogólną zasadę, zgodnie z którą ciężar dowodu spoczywa na tym, kto z twierdzenia wywodzi skutki prawne; Uwaga uwzględnienia 304. Art. 45 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich doręczenia postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.” Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 305. Art. 45 ust. 5 IAB Polska Postulujemy uzupełnienie brzmienia przepisu o wskazanie terminu, w jakim sąd drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Proponowane brzmienie: “Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 153 przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia”. 306. Art. 45 ust. 5 Konfederacj a Lewiatan Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Uzasadnienie: Postuluje się uzupełnienie brzmienia przepisu o wskazanie terminu w jakim Sad drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 307. Art. 46 ust. 1-9 UKNF Z całokształtu przepisu nie wynika kiedy projekt wystąpienia pokontrolnego staje się wystąpieniem pokontrolnym. Ponadto przepis nie wymaga, aby projekt wystąpienia pokontrolnego był podpisywany przez kontrolujących, co rodzi wątpliwość odnośnie tego, czy ma on walor dokumentu. Analogiczne regulacje zawiera ustawa z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (art. 36-48). Przy czym w przedmiotowej ustawie precyzyjnie uregulowano wskazane kwestie (zarówno projekt, jak i samo wystąpienie pokontrolne powinny być podpisane). Uwagi uwzględnione 154 Ponadto, aby art. 46 ust. 3 projektu ustawy nie budził wątpliwości UKNF rekomenduje zastąpienie sformułowania: „do właściwego organu”, sformułowaniem: „do Komisji”. Analizy i rozpatrzenia zastrzeżeń do wystąpienia pokontrolnego dokonuje bowiem Komisja, a nie kontrolujący, gdyż zastrzeżenia kierowane są właśnie do organu – Komisji, a nie do kontrolujących, jak wynika to z ww. ust. 3. Urząd Komisji Nadzoru Finansowego rekomenduje, aby przepisy były spójne w tym zakresie. W odniesieniu do ustępu 9 projektowanego przepisu UKNF wskazuje, że zasadnym jest – analogicznie jak chociażby w art. 13 §1a. ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego (dalej jako: „KPA”), czy w art. 348 ust. 3 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej – zastąpienie opatrywania wystąpienia pokontrolnego „profilem zaufanym” na opatrywanie „podpisem zaufanym”. 308. Art. 46 ust. 1 i 4 Konfederacj a Lewaiatan Czy \"wystapienie pokontrolne\" nie może się po prostu nazywac „protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKK, UODO. Ustęp 4 stanowi kalkę np. przepisów UODO i UOKK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie „aneksu do wystąpienia\", bo samo „wystąpienie\" jeszcze nie powstało. Uwagi uwzględnione 309. Art. 46 ust. 4 pkt 5 BGK Propozycja: 5) żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych Uwaga uwzględniona 155 (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 310. Art. 47 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 311. Art. 47 ust. 3 IAB Polska Proponujemy następujące brzmienie przepisu: “Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń”. Uwaga częściowo uwzględniona 312. Art. 47 ust. 3 Konfederacj a Lewiatan Proponuje się następujące brzmienie przepisu: Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. Uwaga częściowo uwzględniona 313. Art. 48 KRRiT w art. 48 mowa jest o naruszeniu rozporządzenia 2024/1689 lub ustawy, natomiast w art. 49 ust. 1 mowa jest o tylko o postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689; Uwaga uwzględniona Rozszerzono zakres przedmiotowy regulacji. 156 314. Art. 48 UKNF Przepis skonstruowany jest w taki sposób, że ma on charakter związany, co oznacza, że w przypadku stwierdzenia nawet mało istotnych naruszeń Komisja jest zobligowana do wszczęcia postępowania administracyjnego w przedmiocie tych naruszeń. W opinii UKNF zasadnym jest zatem rozważenie wprowadzenia fakultatywności wszczynania postępowania przez Komisję (nie wszystkie naruszenia wymagają przeprowadzenia postępowania administracyjnego). Uwaga uwzględniona 315. Art. 48 Rada Legislacyjna [Brak wyrazu „Komisja” w art. 48 Projektu] W art. 48 Projektu w drugiej części zamieszczonego tam zdania brakuje wyrazu: „Komisja”. W aktualnej wersji Projektu przepis ten stanowi, że „W przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, , że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy.” (pisownia w oryginalne). Postulatywnie, druga część tego przepisu powinna brzmieć następująco: „[...] Komisja obowiązana jest do niezwłocznego wszczęcia postępowania”. Uwaga uwzględniona Rozdział 4 Postępowanie przed organem nadzoru (art. 49 - art. 60) 316. Rozdział 4 PUODO Postępowanie przed organem nadzoru. Rozdział 4 projektu ustawy dotyczy postępowania przed organem nadzoru. Zgodnie z art. 49 ust. 2 Komisja wszczyna postępowanie m.in. na podstawie skargi. W art. 50 ust. 4 projektu ustawy wskazuje się, że rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 6 ust. 3 (czyli m.in. z Prezesem UODO). Projektodawca nie zakłada natomiast przekazywania sprawy według właściwości (np. do organu właściwego w sprawie ochrony danych osobowych). Projektowany art. 50 ust. 4 może powodować wątpliwości interpretacyjne, a w konsekwencji potencjalny konflikt kompetencyjny w przedmiocie rozpatrywania spraw związanych z przetwarzaniem danych osobowych, np. gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. Sprawa w zakresie przetwarzania danych osobowych powinna być, Uwaga uwzględniona 157 zgodnie z art. 65 § 1 ustawy z 14 czerwca 1960 r. Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572), przekazana do organu właściwego, tj. do organu ds. ochrony danych osobowych. Przy czym należy mieć na uwadze, że z treści art. 50 projektu ustawy wynika, że skardze należałoby przypisać znaczenie zawiadomienia o nieprawidłowościach w celu wszczęcia postępowania z urzędu, a nie skargi w sprawie indywidualnej (zgodnie z definicją strony postępowania w art. 51 ust. 1 projektu ustawy). Zauważyć należy, że w przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w przepisach projektu ustawy o systemach sztucznej inteligencji dotyczących postępowania przed organem nadzoru nie wskazuje jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Możliwe jest zatem skierowanie sprawy do dwóch organów równolegle, czego należy spodziewać się tym bardziej, jeśli obowiązujące przepisy nie będą precyzyjnie regulowały tego zagadnienia. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. 317. Art. 49 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Rekomendujemy modyfikację: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykul 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art.. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. Uwaga nieuwzględniona 158 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Po pierwsze, Komisja powinna mieć prawo ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsięborcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalnośći środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony dlaczego np. Minister Kultury ale już nie Minister Sprawiedliwości, Minister Rozowju i Technologii? 318. Art. 49 ust. 2 IAB Polska Komisja powinna mieć możliwość, a nie obowiązek wszczęcia postępowania. Komisja powinna móc zweryfikować zasadność wniosku lub skargi. Uwaga nieuwzględniona 319. Art. 49 ust. 2 UKNF W ogólnym postępowaniu administracyjnym występują tylko dwa sposoby wszczęcia postępowania administracyjnego: tj. z Uwaga uwzględniona 159 urzędu i na wniosek (strony). Natomiast art. 49 ust. 2 projektu ustawy rozróżnia trzy sposoby wszczęcia postępowań administracyjnych przez Komisję: z urzędu, na wniosek i na podstawie skargi. W ocenie UKNF projektowany przepis należy odczytywać w taki sposób, że stanowi on o pochodzeniu dowodów (materiałów), na których ma się opierać wszczęcie postepowania, tj. kolejno: 1) posiadanych przez Komisję; 2) przekazanych przez członków Komisji z innych organów oraz 3) pozyskanych ze skarg. Niezależnie jednak od źródła dowodów będziemy mieć do czynienia ze wszczęciem postepowania z urzędu (a nie na wniosek lub na podstawie skargi, jak wskazuje się w przedmiotowym przepisie). Mając na względzie powyższe, w opinii UKNF projektowany przepis przewiduje nieuzasadnione odstępstwo od ogólnego postępowania administracyjnego, wprowadzając zbędny wyłom w ogólnym modelu postępowania administracyjnego, co może rodzić wątpliwości interpretacyjne. 320. Art. 50 ust.2 KRRiT w art. 50 ust. 2 wśród wymogów formalnych skargi nie przewidziano oznaczenia składającego skargę, podpisu czy też adresu do korespondencji, co może sugerować koncepcję rozpoznawania skarg złożonych anonimowo; Uwaga uwzględniona 321. Art. 50 ust. 3 KRRiT w art. 50 ust. 3 należy doprecyzować, o jakie inne środki komunikacji chodzi; Uwaga nieuwzględniona 322. Art. 51, Art. 52 i Art. 56 (terminy) UOKiK Ww. przepisy projektu ustawy regulują okres w jakim może być prowadzone postępowanie. Z jednej strony wskazuje się w art. 56 na to, że „W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”, z drugiej strony w art. 52 ust. 2 wskazuje się, że „Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572)”, natomiast w art. 51 ust. 3 projektowanej ustawy - „Postępowanie nie może trwać dłużej niż 12 miesięcy”. Skoro zatem czas trwania postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 został określony na 12 miesięcy, przepisy art. 35 kodeksu postępowania administracyjnego nie mają w tej sytuacji zastosowania. Rozważenia wymaga ewentualne wskazanie, że Uwaga uwzględniona 160 okresu trwania postępowania dowodowego, nie wlicza się do terminu o którym mowa w art. 51 ust. 2 projektowanej ustawy. 323. Art. 51 ust. 1 KRRiT w art. 51 ust. 1 zasadnym jest przyznanie statusu strony w postępowaniu podmiotowi, którego skarga doprowadziła do wszczęcia postępowania; Uwaga częściowo uwzględniona 324. Art. 51 ust. 2 IAB Polska Komisja powinna mieć wyznaczony prawem termin na wydanie takiego postanowienia, biorąc pod uwagę, że od dnia wydania liczy się maksymalny czas trwania takiego postępowania w związku z ust. 3. Uwaga nieuwzględniona 325. Art. 51 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Uzasadnienie: W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Uwaga nieuwzględniona 326. Art. 51 ust. 2 UKNF Zgodnie z art. 61 § 4 KPA: „O wszczęciu postępowania z urzędu lub na żądanie jednej ze stron należy zawiadomić wszystkie osoby będące stronami w sprawie.”. Projektowany przepis przewiduje natomiast wydanie postanowienia o wszczęciu postępowania oraz zawiadomienie o tym stron postępowania. Większy rygor formalny zapewni stronie czynny udział i większe prawo do informacji odnośnie do prowadzonego postępowania. Zgodnie jednak z art. 125 § 1 KPA organ administracji publicznej doręcza tylko postanowienia, od których stronie służy zażalenie. Komisja nie ma więc obowiązku przekazania stronie odpisu postanowienia o wszczęciu postępowania. Może to zrobić wraz z zawiadomieniem o wszczęciu postępowania. Jeśli postanowienie to nie zostanie stronie doręczone, opis zachowania, które jest zarzucane, zostanie wyłącznie w aktach Uwaga uwzględniona 161 sprawy. W tym kontekście ustanowienie wymogu wydania postanowienia i zawiadomienia o tym strony jawi się jako zbędny formalizm. Urząd Komisji Nadzoru Finansowego wskazuje więc na rozważenie możliwości zmiany redakcji przepisu poprzez wskazanie, że postanowienie o wszczęciu doręcza się stronom postępowania. Jednocześnie konieczne jest przesądzenie w przepisie relacji do art. art. 61 § 4 KPA, aby uniknąć dublowania czynności o zbliżonym charakterze prawnym i funkcji. 327. Art. 51 ust. 3 KRRiT w art. 51 ust. 3 niewyjaśniony pozostaje status postępowania po upływie 12 miesięcy od dnia wszczęcia postępowania w przypadku, gdy w tym czasie nie wydano decyzji; Uwaga nieuwzględniona 328. Art. 51 ust. 3 BGK Propozycja 3.Postępowanie nie może trwać dłużej niż 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Uwaga nieuwzględniona 329. Art. 51 ust. 3 PFR Proponujemy rozważyć możliwość skrócenia 12-miesięcznego terminu do maksymalnie 6 miesięcy. Uwaga uwzględniona 330. Art. 51 ust. 3 Konfederacj a Lewiatan Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKK. Uwaga uwzględniona 331. Art. 51 ust. 3 UKNF Z projektowanego przepisu nie wynika, jaki jest charakter ustanowionego terminu 12 miesięcy, tj. czy przepis określa termin załatwienia sprawy administracyjnej. Wątpliwości interpretacyjne rodzić może również relacja tego przepisu do art. 35 KPA. W ocenie UKNF, 12 miesięcy rozumieć należy jako termin załatwienia sprawy, więc Komisja, w przypadku zwłoki w załatwieniu sprawy, przed upływem tego terminu będzie obowiązana poinformować stronę, zgodnie z art. 36 KPA. Należy to jednak jednoznacznie przesądzić w treści przepisu. Uwaga nieuzależniona 332. Art. 52 ust. 1 UOKiK Analizy wymaga, czy projektowany przepis nie pozostaje w sprzeczności z art. 58 ustawy – Prawo przedsiębiorców, ponieważ organ kontroli nie przeprowadza kontroli, w Uwaga nieuwzględniona 162 przypadku gdy ma ona dotyczyć przedmiotu kontroli objętego uprzednio zakończoną kontrolą przeprowadzoną przez ten sam organ. Wyjątki od tej zasady zostały enumeratywnie wymienione w art. 58 ust. 2 ustawy - Prawo przedsiębiorców, a przywołana podstawa przeprowadzenia ponownej kontroli nie mieści się w tym katalogu. Fakt, że przeprowadza się ponownie postępowanie dowodowe, do którego stosuje się przepisy o kontroli oznacza w praktyce, że ponownie przeprowadza się kontrolę w zakresie przedmiotu kontroli objętego uprzednio zakończoną kontrolą. Oznacza to, że organ przeprowadza kolejną kontrolę w tej samej sprawie, wbrew przepisowi art. 58 ustawy - Prawo przedsiębiorców. 333. Art. 52 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). Uzasadnienie: Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga nieuwzględniona 334. Art. 52 ust. 3 IAB Polska Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie Uwaga nieuwzględniona 163 postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". Proponuje się więc następujące brzmienie przepisu: “Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych”. 335. Art. 52 ust. 3 ZPP art. 52 ust. 3 umożliwia Komisji żądanie od strony tłumaczenia na język polski sporządzonej w obcym języku dokumentacji przez nią przedłożonej. Specyfika sektora cyfrowego, szczególnie w jego najnowocześniejszych obszarach związanych z AI, powoduje że w istocie większość dokumentacji może być dostępna w języku angielskim. Trudno wyobrazić sobie, by profesjonalni członkowie Komisji nie posługiwali się tym językiem. Uwaga nieuwzględniona 336. Art. 52 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przepisu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język Uwaga nieuwzględniona 164 angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uzasadnienie: Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna 165 papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". 337. Art. 53 IAB Polska Biorąc pod uwagę, że polskie prawo przewiduje raczej ostrzeżenia publiczne organów nadzoru (art. 6b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym), a nie personalne (jak w tym przypadku) – nie ma wykształconej praktyki postępowania. Tym samym to postanowienie należy rozbudować, aby odpowiednio zabezpieczyć interesy Strony (np. wydłużając termin na wykonanie rekomendacji, przewidzieć procedurę pozwalającą na zakwestionowane rekomendacji przez Stronę). Uwaga częściowo uwzględniona 338. Art. 53 Pracodawcy RP Zgodnie z art. 53 proponowanej ustawy, w przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy Aktu o AI, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni od dnia otrzymania ostrzeżenia jest zobowiązana do przedstawienia Komisji informacji z wykonania ww. rekomendacji. Powyższy przepis nie zawiera jednak szczegółowych norm co do trybu i formy wydania takiego ostrzeżenia ani nie określa konsekwencji niewykonania rekomendacji. Dopiero z innych przepisów ustawy można wyinterpretować, że niewykonanie rekomendacji stanowi podstawę wszczęcia formalnego postępowania w sprawie naruszenia Aktu o AI. Postulujemy modyfikację proponowanego przepisu w celu jego uzupełnienia o elementy wskazane w uwagach obok. Uwaga częściowo uwzględniona 339. Art. 53 ust. 1 i 2 UOKiK W projektowanym przepisie nie wyjaśniono jaki charakter prawny ma instytucja ostrzeżenia. Jednocześnie wskazuje się, że ostrzeżenie może zostać wydane w przypadku uzasadnionego podejrzenia o naruszeniu prawa, a zakres ostrzeżenia ograniczono wyłącznie do wskazania jego fakultatywnego elementu, jakim jest rekomendacja, przy braku innych, obligatoryjnych elementów. Uwaga częściowo uwzględniona 166 W celu zagwarantowania realizacji zasady pewności prawa uzasadnione pozostaje doprecyzowanie, jaki jest cel ostrzeżenia, co powinno zawierać i jakie są obowiązki strony w związku z wystosowaniem do niej ostrzeżenia jak również ewentualne sankcje z tytułu braku reakcji strony w związku ze skierowaniem do niej przedmiotowego środka. 340. Art. 53 ust. 1 Konfederacj a Lewiatan Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszraów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjmi może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiehj formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Uwaga wyjaśniona Ostrzeżenie będzie miało formę postanowienia. 341. Art. 53 ust. 1 UNKF Zgodnie z art. 99 ust. 1 rozporządzenia 2024/1689 ostrzeżenie powinno stanowić środek nadzoru stosowany w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, w tym kar administracyjnych. Tym samym zdaniem UKNF projektowany przepis powinien zostać uzupełniony w taki sposób, że Komisja w toku postępowania może wydać stronie ostrzeżenie, w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków. Uwaga uwzględniona 342. Art. 53 ust. 2 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie kazdych wskazanych przez Komisję) , które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych Uwaga uwzględniona 167 do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. W ocenie Konfederacji Lewiatan ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie pownien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia 343. Art. 53 ust. 3 Konfederacj a Lewiatan Termin 7 dni na wykonanie rekomendacji jest zbyt krótki. Lepiej byłoby ustalić \"wyznaczony termin\", dostosowany do okoliczności, niż sztywno zapisany w ustawie. Różne rekomendacje mogą wymagać różnego czasu na ich wykonanie. Sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Opcjonalnie proponujemy poniższą modyfikację przepisu: 3.Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Uwaga nieuwzględniona 344. Art. 54 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1.W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Dalsze wraz z uzasadnieniem: Uwaga nieuwzględniona 168 Pierwsza uwaga dotyczy zmiany gramatycznej co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Druga uwaga odnosi się do całości artykułu – niezbędne jest dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym kosumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomcą systemu sztucznej inteligencji i ocenę tych skuktów w zestawieniu z naruszeniem. 345. Art. 54 ust. 1 UKNF Projektowany przepis przewiduje obligatoryjne wydanie decyzji nakazującej zaprzestanie naruszeń. Przepis ten nie pozostawia więc organowi swobody decyzyjnej i obliguje go do wydania ww. decyzji niezależnie od wagi stwierdzonego naruszenia. Co istotne, wydanie decyzji nakazującej zaprzestanie naruszenia jest równoznaczne z brakiem możliwości wszczęcia postępowania w przedmiocie nałożenia kary pieniężnej za to samo naruszenie w trybie art. 99 ust. 4 rozporządzenia 2024/1689. Wydanie kolejnej decyzji w przedmiocie tego samego naruszenia będzie rodziło bowiem ryzyko stwierdzenia nieważności decyzji na podstawie art. 156 § 1 pkt 3 KPA. Z tego względu UKNF rekomenduje wprowadzenie do projektowanego przepisu mechanizmu karania fakultatywnego. Uwaga nieuwzględniona 346. Art. 55 Konfederacj a Lewiatan Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wsazanych w ust.2 wspólnie z organem lub podmiotem, o Uwaga częściowo uwzględniona 169 którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 15 dni roboczych od dnia doręczenia decyzji. 4. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. Uzasadnienie: Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Naszym zdaniem, 14-dniowy termin od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są 170 często złożone i jego dochowanie może być niemożliwe. Opcjonalnie proponujemy dostosowywanie terminu do sytuacji i skali systemu oraz skali zagrożenia, ponieważ sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Rygor natychmiastowej wykonalności - wprowadzenie rygoru moze oznaczać nieodwracalne, daleko idące skutki bzinesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. 347. Art. 55 ust. 1-6 UKNF W ocenie UKNF projektowany przepis wymaga gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach rozporządzenia. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Wydaje się, że przepis w zakresie ust. 1-3 odnosi się do procedury postępowania przewidzianej w art. 79 ust. 1-5 rozporządzenia 2024/1689 (ocena systemu AI stwarzającego określone ryzyka oraz, w przypadku ustalenia, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, zobowiązanie odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych lub wycofanie tego systemu z rynku lub z użytku). Projektowany art. 55 ust. 4 odnosi się natomiast do instytucji z art. 82 rozporządzenia 2024/1689, tj. sytuacji gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, ale stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. Z całokształtu przepisu wynika zatem, że art. 55 ust. 3 sankcjonuje system AI niezgodny z rozporządzeniem, a art. 55 ust. 4 odnosi się już do systemów niezgodnych z wymogami i obowiązkami ustanowionymi w rozporządzeniu i dodatkowo w sposób kwalifikowany stwarzający zagrożenia dla zdrowia, Uwaga uwzględniona Przepis został poddany dodatkowej analizie. 171 bezpieczeństwa i ochrony praw podstawowych, co jednak nie jest skorelowane z art. 79 i 82 rozporządzenia 2024/1689. Projektowana konstrukcja przepisu może prowadzić do wniosku, że zgodnie z brzmieniem art. 55 ust. 4 w przypadku systemów sztucznej inteligencji stwarzających ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli, Komisja jest obowiązana wydać decyzję nakazującą operatorowi tego systemu jego wycofanie, co już w świetle art. 82 ust. 1 rozporządzenia 2024/1689 jest nieuprawnione. Zgodnie bowiem z tym przepisem „(...) organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ.”. Dodatkowe trudności interpretacyjne wprowadza odwołanie w ust. 4 projektowanego przepisu do systemów, o których mowa w ust. 3. Relacja poszczególnych ustępów w tym przepisie jest niezrozumiała, ponieważ wydaje się, że odwołują się do innych instytucji i procesów z rozporządzenia 2024/1689. Niezależnie od powyższego UKNF wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). UKNF wskazuje również, że przepis art. 79 ust. 2 rozporządzenia 2024/1689 nie uzależnia wycofania systemu z rynku lub użytku od tego czy nie da się go uprzednio naprawić, na co z kolei wskazuje zastosowane w projektowanym art. 55 ust. 3 sformułowanie „jeśli nie jest to możliwe”. Zgodnie z art. 79 172 ust. 2 rozporządzenia 2024/1689 organ nadzoru rynku: „(...) zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku (...)”.Wydaje się zatem, że organ nie musi w pierwszej kolejności dążyć do zapewnienia zgodności systemu AI z wymogami rozporządzenia 2024/1689 poprzez jego naprawę, a może od razu, oczywiście o ile będzie to uzasadnione, zobowiązać operatora do wycofania systemu AI z rynku lub z użytku. 348. Art. 55 ust. 3 i 4 Pracodawcy RP Ustawa przewiduje możliwość wycofania systemu AI z rynku w terminie jedynie 14 dni od doręczenia decyzji, co może być trudne do zrealizowania dla firm korzystających z zaawansowanych systemów AI. Tak krótki termin może prowadzić do zakłóceń operacyjnych, naruszeń umów handlowych oraz znaczących strat finansowych. Proponujemy wydłużenie czasu na wycofanie systemu AI oraz rezygnację z natychmiastowej wykonalności decyzji o wycofaniu, aby umożliwić przedsiębiorcom dostosowanie swoich działań operacyjnych. Wycofanie systemu AI powinno być traktowane jako ostateczność, a Komisja powinna koncentrować się na działaniach prewencyjnych i wydawaniu rekomendacji, które pozwolą firmom dostosować technologię do wymogów zgodności. Uwaga nieuwzględniona 349. Art. 55 ust. 3 IAB Polska Termin 14 dni powinien zostać zmieniony na termin 15 dni roboczych (21 dni) zgodnie z art. 79 ust. 2 AI Act. Zwracamy uwagę, że zbyt krótki termin może doprowadzić do zakłóceń operacyjnych u podmiotów gospodarczych, naruszeń umów czy znaczących strat finansowych. Uwaga nieuwzględniona 350. Art. 55 ust. 4 KRRiT w art. 55 ust. 4 słowa „tego systemie” należy zastąpić słowami „tego systemu”; Uwaga uwzględniona 351. Art. 55 ust. 4 IAB Polska W przepisie występuje oczywista omyłka pisarska: tego systemie zamiast tego systemu. Jednocześnie zwracamy w tym przypadku uwagę, że projekt wymaga generalnego przejrzenia pod katem literówek i błędów językowych. Uważamy, że działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym uważamy, że tego typu decyzji Uwaga uwzględniona 173 nie powinien być nadawany rygor natychmiastowej wykonalności. Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwołania się w przypadku najbardziej dotkliwych decyzji organów nadzoru. 352. Art. 56 Konfederacj a Lewiatan Jeśli KPA ma mieć zastosowanie do inncyh materii niż ureguowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zkresu odpowiedniego stosowania KPA. Uwaga nieuwzględniona 353. Art. 57 PUODO Sąd ochrony konkurencji i konsumentów. W art. 57 ust. 1 projektu ustawy wskazuje się, że: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów”. W ocenie organu nadzorczego ds. ochrony danych przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Projektowane rozwiązanie może doprowadzić do dualizmu rozstrzygnięć sądowych. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może doprowadzić do powstania niepewności prawnej. Uwaga nieuwzględniona 354. Art. 57 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. Uwagi wraz z uzasadnieniem: Czy SOKIK jest odpowiednim sądem do rozpozawania spraw dotyczacych sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności Intelektualnej. Uwaga nieuwzględniona 174 Ponadto, art. 57 nie określa termiu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien byc nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np art. 43 ust.13 projektu - nie można sie tego domyślac z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Stoimy na stanowisku, iż zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. 355. Art. 57 Pracodawcy RP Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji, podobnie jak ma to miejsce w postępowaniach przed Urzędem Ochrony Konkurencji i Konsumentów (UOKiK). Jednakże zwracamy uwagę, że sprawy dotyczące sztucznej inteligencji są wyjątkowo skomplikowane i wymagają wysokiego poziomu ekspertyzy. Proponujemy rozważenie możliwości przekazania tych spraw do sądów ds. własności intelektualnej jako właściwego forum dla zagadnień związanych z AI, co mogłoby zapewnić przedsiębiorstwom większą przewidywalność i rzetelność rozstrzygnięć. Uwaga nieuwzględniona 356. Art. 57 Rada Legislacyjna [Brak przesądzenia w art. 57 Projektu o drodze prawnej rozpatrywania zażaleń na postanowienia Komisji] W art. 57 Uwaga nieuwzględniona 175 Projektu, ani też w żadnym innym przepisie Projektu, nie rozstrzygnięto wyraźnie o drodze prawnej czy też o trybie proceduralnym, w ramach których następuje rozpatrywanie i rozstrzyganie zażaleń na postanowienia Komisji. Art. 57 ust. 1 Projektu – który jest zamieszczony w grupie przepisów Projektu normujących postępowanie (administracyjne) w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 – stanowi co następuje: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”. Przepis ten dotyczy decyzji Komisji kończących postępowanie, o którym jest mowa w rozdziale 4 Projektu, czyli chodzi tu o decyzje kończące postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Jednakże w przepisach art. 57 Projektu ani w ogóle w jakichkolwiek innych przepisach rozdziału 4 Projektu nie przesądza się tego, jaki środek prawny przysługuje od postanowień Komisji wydawanych w ramach omawianego tutaj postępowania i kto (tzn. jaki organ) ma ten środek prawny rozpatrywać. Kwestii tej nie rozstrzygają również nowelizowane przez Projekt przepisy ustawy z dnia 17 listopada 1964 r. Kodeks postępowania cywilnego24 (dalej: k.p.c.), które będą normowały jedynie rozpatrywanie przez SOKiK odwołań od decyzji Komisji, a nie zażaleń na postanowienia Komisji (zob. przepisy k.p.c. dodawane przez art. 80 pkt 2 Projektu; będzie to zatem sytuacja zupełnie inna niż ma to obecnie miejsce na gruncie przepisów k.p.c. upoważniających SOKiK do rozpatrywania i rozstrzygania zażaleń na postanowienia wydawane przez inne organy regulacyjne w Polsce – zob. np. art. 479[28] § 1 pkt 2-6 i 8 k.p.c., art. 479[46] pkt 2 k.p.c. oraz art. 479[57] pkt 2 k.p.c.). Zdaniem Rady Legislacyjnej, jest to absolutnie niezbędne, aby w przepisach art. 57 Projektu wyraźnie postanowić, że od postanowień Komisji (wydawanych w postępowaniu prowadzonym na podstawie przepisów rozdziału 4 Projektu) przysługuje zażalenie do SOKiK, przy czym przepisy proceduralne o rozpatrywaniu tych zażaleń przez SOKiK należy również zamieścić w przepisach k.p.c. (zob. uwagi niżej w punkcie II.29 niniejszej opinii). 357. Art. 57 ust. 1 IAB Polska Rozumiemy wybór SOKiK, który w założeniu ma stać się sądem związanym z cyberprzestrzenią (przyjęcie podobnego modelu Uwaga uwzględniona 176 odwołania od decyzji we wdrożeniu DSA). Zwracamy jednak uwagę, że obszar ten wymaga szczegółowych ustaleń z Ministerstwem Sprawiedliwości, aby zapewnić odpowiednie kompetencje SOKiK w zakresie AI, w szczególności w zakresie technologicznego funkcjonowania tego rodzaju systemów. 358. Art. 57 ust. 3 Konfederacj a Lewiatan W jakch sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Uwaga nieuwzględniona 359. Art. 57 ust. 3 KRRiT w art. 57 ust. 3 nie jest jasny cel regulacji – Komisja jest stroną postępowania sądowego; Uwaga wyjaśniona Jest to tryb funkcjonujący w polskim wymiarze sprawiedliwości. 360. Art. 58 Konfederacj a Lewiatan Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor nartychmiastowej wykonalności w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Uzasadnienie: Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonac wyważenia interesów przedsiębiorców i innych podmiotów. Uwaga nieuwzględniona 361. Art. 59 UOKiK Komisja oraz jej członkowie mają prawny obowiązek zawiadomienia o podejrzeniu popełnienia przestępstwa. Obowiązek taki wynika z art. 304 § 2 kodeksu postępowania karnego: „Instytucje państwowe i samorządowe, które w związku ze swą działalnością dowiedziały się o popełnieniu przestępstwa ściganego z urzędu, są obowiązane niezwłocznie zawiadomić o tym prokuratora lub Policję oraz przedsięwziąć niezbędne czynności do czasu przybycia organu powołanego do ścigania przestępstw lub do czasu wydania przez ten organ stosownego zarządzenia, aby nie dopuścić do zatarcia śladów i dowodów przestępstwa.”. Wobec powyższego projektowana regulacja pozostaje nadmiarowa Uwaga nieuwzględniona 362. Art. 59 ust. 1 UKNF Projektowany przepis jest zbędny, ponieważ obowiązek ten wynika z art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. Kodeks postępowania karnego. Uwaga nieuwzględniona 177 363. Art. 60 ust. 1 IAB Polska Należy doprecyzować, czy okres 10 lat należy liczyć od daty zakończenia postępowania. Uwaga uwzględniona 364. Art. 60 ust. 1 Konfederacj a Lewiatan Należy doprecyzowac czy okres 10 lat liczymy od daty zakończenia postępowania. Uwaga uwzględniona 365. Art. 60 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego dostrzega potencjalną sprzeczność między art. 60 ust. 1 projektu ustawy a art. 26 ust. 5 tego projektu. Z art. 26 ust. 5 wynika bowiem, że określone w nim dane będą usuwane w terminie 5 lata od zakończenia postępowania, o którym mowa w rozdziale 4. Natomiast w art. 60 ust. 1 projektu ustawy wskazano, iż akta sprawy, które również mogą zawierać takie dane, mają być przechowywane przez 10 lat (tym samym dane te mogą być przechowywane przez 10 lat od zakończenia postępowania, a nie 5 lat). W związku z powyższym niezbędne jest usunięcie ww. niezgodności. Uwaga uwzględniona 366. Art. 60 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Zakończenie postępowania nie stanowi przeszkody do ponownego jego przeprowadzenia w zakresie tego samego czynu w przypadku ujawnienia nowych okoliczności, nieznanych Przewodniczącemu Komisji przed zarządzeniem zamknięcia postępowania, chyba że nastąpiło przedawnienie karalności przestępstwa.” Uwaga wyjaśniona Odstąpiono o regulacji. 367. Art. 60 ust. 2 UOKiK Analizy wymaga relacja projektowanego przepisu do art. 145 § 1 Kodeksu postępowania administracyjnego. W sprawach administracyjnych, nie prowadzi się ponownie postępowania w tej samej sprawie, ale wznawia postępowanie w przypadku wystąpienia przesłanek, o których mowa w ww. przepisie. Uzasadnione pozostaje zatem dokonanie oceny zasadności pozostawienia przepisu art. 60 ust. 2 projektowanej ustawy Uwaga wyjaśniona Odstąpiono o regulacji. 368. Art. 60 ust. 2 UKNF Nie jest wiadoma relacja projektowanego przepisu do art. 145 § 1 pkt 5 KPA, w którym jest dodatkowo mowa o nowych dowodach obok nowych okoliczności faktycznych. W kontekście istnienia rzeczonej regulacji Kodeksu postępowania administracyjnego projektowany przepis jawi się jako zbędny. Uwaga wyjaśniona Odstąpiono o regulacji. Rozdział 5 Zgłaszanie poważnych incydentów (art. 61 - art. 63) 369. Rozdział 5 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Uwaga częściowo uwzględniona 178 • Przepisy tego rozdziału są zbyt ogólne, np. nie ma terminu na zgłoszenie - z jednej strony to może być korzystne, z drugiej jednak w którym momencie przedsiębiorca może się spodziewać np. ukarania jeśli nie zgłosi? Brakuje tu pewności prawnej. • Czy dla podmiotów, które są kluczowe i ważne z pkt widzenia uoksc ten obowiązek nie mógłby być wyłączony, skoro i tak będą miały bardzo rygorystyczne obowiązki związane z raportowaniem w zakresie cyberbezpieczeństwa? Jeśli zgłoszą na podstawie uoksc i dotyczy to systemu AI, nie powinny mieć dodatkowych obciążeń z kolejnej ustawy, przepływ informacji powinien być między organami. Precyzyjne określenie terminu zgłoszenia oraz uniknięcie dublowania obowiązków zgłoszeniowych dla podmiotów kluczowych z punktu widzenia cyberbezpieczeństwa zwiększy efektywność systemu zgłoszeniowego, zwiększa stopień pewności prawa i zmniejsza obciążenia, w tym kosztowe, dla przedsiębiorców. Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji “poważnego incydentu” zawartego w art. 3 pkt 49 Aktu o sztuczntej inteligencji nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 Aktu o sztucznej inteligencji, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających 179 unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. 370. Rozdział 5 PUODO Zgłaszanie incydentów. Projekt ustawy w rozdziale 5 dotyczy obowiązku zgłaszania incydentów związanych z działaniem systemów sztucznej inteligencji. Obowiązek wskazany w art. 61 projektu ustawy jest zbieżny z procedurami zgłaszania naruszeń ochrony danych osobowych przewidzianymi w rozporządzeniu 2016/679. Zgodnie z art. 33 ww. rozporządzenia administrator jest zobowiązany zgłaszać naruszenia ochrony danych osobowych do organu nadzorczego w terminie 72 godzin od ich wykrycia, chyba że jest mało prawdopodobne, aby naruszenie to skutkowało ryzykiem naruszenia praw lub wolności osób fizycznych. W ocenie organu nadzorczego ds. ochrony danych incydenty związane z systemami AI, które prowadzą do naruszeń ochrony danych, powinny być zgłaszane zgodnie z procedurami przewidzianymi przez rozporządzenie 2016/679. Zwrócić uwagę należy, że projektowane przepisy ustawy nie wskazują jednak konkretnego terminu na zgłoszenie incydentu od momentu wykrycia incydentu. Określenie terminu usprawniłoby skuteczne zarządzanie incydentami. Art. 63 projektu ustawy wymaga, aby Przewodniczący Komisji przekazywał zgłoszenie oraz informacje, o których mowa w art. 61 projektowanej ustawy: 1) koordynatorowi do spraw usług cyfrowych, 2) ministrowi właściwemu do spraw informatyzacji, 3) organowi właściwemu do spraw ochrony danych osobowych, 4) właściwemu CSIRT MON, CSIRT NASK lub CSIRT GOV – z wyłączeniem informacji stanowiących tajemnice prawnie chronione, w tym stanowiących tajemnicę przedsiębiorstwa. Z przepisów projektowanej regulacji nie wynika jednak, jakie dalsze działania powinien podjąć Prezes Urzędu Ochrony Danych Osobowych, który otrzymywałby takie zgłoszenie. Uzupełnienia wymaga zarówno termin na zgłoszenie incydentu oraz wyjaśnienie czy procedura wskazana w tym przepisie wyklucza zgłoszenie naruszenia danych osobowych w ciągu 72 godzin bezpośrednio do Prezesa UODO. Zauważyć ponadto należy, że terminologia dotycząca incydentów jest używana niekonsekwentnie – w niektórych Uwaga częściowo uwzględniona 180 przepisach pojawia się ogólne określenie „incydent,” a w innych „poważny incydent”, co wymaga doprecyzowania (w art. 3 w definicjach mowa jest o poważnym incydencie w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689). 371. Art. 61 ust. 2 w zw. z art. 63 UKE W nawiązaniu do powyższej propozycji, proponuje się uzupełnić katalog informacji określony w projektowanym art. 61 ust. 2 o wskazanie, na jaki sektor (w rozumieniu projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw) ma wpływ poważny incydent. Zaproponowana konstrukcja uzupełnienia projektowanych przepisów art. 63 i art. 61 umożliwi efektywne ich stosowanie w zakresie dotyczącym CSIRT sektorowych, bowiem już na etapie zgłoszenia poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji, możliwym będzie powiązanie danego sektora z właściwym CSIRT sektorowym. Uwaga nieuwzględniana 372. Art. 61 ust. 4 BGK Propozycja 4.Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga nieuwzględniona 373. Art. 61 ust. 5 BGK Propozycja 5. Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym Uwaga nieuwzględniona 181 informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. 374. Art. 62 PFR Prosimy o rozważenie możliwości dokładnego zdefiniowanie kanału komunikacji, np. za pośrednictwem dedykowanego do tego systemu. Uwaga nieuwzględniona 375. Art. 63 UKE Przepis art. 63 pkt 4 projektowanej regulacji proponuje się uzupełnić o CSIRT sektorowy. Zgodnie bowiem z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw (rozpatrywanego obecnie już przez Komitet do Spraw Europejskich) wdrażającego dyrektywę Parlamentu Europejskiego i Rady (UE) 2022/255 z dnia 14 grudnia 2022 r. w sprawie środków na rzecz wysokiego wspólnego poziomu cyberbezpieczeństwa na terytorium Unii, zmieniającą rozporządzenie (UE) nr 910/2014 i dyrektywę (UE) 2018/1972 oraz uchylającą dyrektywę (UE) 2016/1148 (dyrektywa NIS 2), CSIRT sektorowy to Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego, działający na poziomie sektora lub podsektora, ustanowiony przez organ właściwy do spraw cyberbezpieczeństwa dla danego sektora lub podsektora. Zgodnie z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw CSIRT sektorowy będzie uczestniczył w systemie wymiany informacji dotyczących cyberbezpieczeństwa między podmiotami kluczowymi i podmiotami ważnymi a CSIRT MON, CSIRT NASK, CSIRT GOV i organami właściwymi do spraw Uwaga uwzględniona 182 cyberbezpieczeństwa. W ramach zadań przypisanych ww. projektem ustawy CSIRT sektorowe będą np. mogły przeprowadzać ocenę bezpieczeństwa systemów informacyjnych wykorzystywanych przez podmioty krajowego systemu cyberbezpieczeństwa. W konsekwencji, dla uzyskania pełnej spójności opiniowanego projektu ustawy z projektowanymi przepisami nowelizującymi ustawę o krajowym systemie cyberbezpieczeństwa oraz efektywności realizowanych przez CSIRT sektorowe zadań, celowym wydaje się zapewnienie tym podmiotom dostępu do możliwie szerokiego spektrum informacji, w tym również do zgłoszenia oraz informacji, o których mowa w art. 61 opiniowanego projektu ustawy. 376. Art. 63 ust. 3 KRRiT w art. 63 pkt 3 należy wskazać Prezesa Urzędu Ochrony Danych Osobowych; Uwaga uwzględniona Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna (art. 64 – art. 69) 377. Art. 64 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w art.70 Rozporządzenia 2024/1689. Uzasadnienie: Brakuje wskazania wprost kto jest organem notyfikującym a zostaje wspomniany. Uwaga częściowo uwzględniona 378. Art.64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niejasne jest, w jakim celu przekazywana jest informacja o wnioskach oraz od jakiej decyzji należy liczyć termin 14 dni; Uwaga nieuwzględniona 379. Art. 64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niepotrzebnie powtórzono wyrazy „do spraw”; Uwaga uwzględniona 380. Art. 65 ust. 2 i 3 Rada Legislacyjna [Niezgodność przepisów o wniosku z art. 65 ust. 2 i 3 Projektu z Rozporządzeniem UE 2024/1689] Przepisy art. 65 ust 2 i 3 Projektu, mówiące o treści wniosku jednostki oceniającej zgodność składanego do ministra właściwego do spraw informatyzacji w sprawie notyfikacji tej jednostki, są niezgodne z odnośnymi przepisami Rozporządzenia UE 2024/1689. W pierwszym rzędzie należy zauważyć, że elementy wspomnianego wniosku wskazane w przepisach art. 65 ust. 2 i 3 Projektu są i tak stosunkowo szczegółowo unormowane w przepisach art. 29 Rozporządzenia UE 2024/1689, a zatem nie Uwaga nieuwzględniona 183 ma potrzeby powielania w Projekcie tych unijnych przepisów i wystarczy w Projekcie do nich jedynie odesłać (ewentualnie można wskazać w art. 65 ust. 2 Projektu tylko te elementy wniosku, które są niewymienione w art. 29 Rozporządzenia UE 2024/1689, o ile zostanie to w ogóle uznane za potrzebne). Co więcej, z art. 65 ust. 2 pkt 2 Projektu wynika, że w omawianym wniosku należy obligatoryjnie wskazać i zidentyfikować tam akredytację udzieloną jednostce oceniającej zgodność, zaś art. 65 ust 3 pkt 1 Projektu wymaga, aby do wniosku obligatoryjnie dołączyć „certyfikat potwierdzający uzyskanie akredytacji w zakresie rozporządzenia 2024/1689 na podstawie oceny, o której mowa w art. 43 rozporządzenia 2024/1689”. Tymczasem z przepisów Rozporządzenia UE 2024/1689 jednoznacznie wynika, że uzyskanie akredytacji przez jednostkę oceniającą zgodność nie jest wcale obligatoryjne i że we wniosku o notyfikację składanym przez jednostkę oceniającą zgodność nie trzeba wcale obligatoryjnie wskazywać wspomnianej akredytacji i nie trzeba obligatoryjnie dołączać do wniosku certyfikatu akredytacji: można to uczynić fakultatywnie, a jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, to wówczas przekazuje organowi notyfikującemu (w Polsce: ministrowi właściwemu do spraw informatyzacji) inne dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31 Rozporządzenia UE 2024/1689 (zob. art. 29 Rozporządzenia UE 2024/1689). Nie dosyć na tym: ocena, o której jest mowa w art. 43 Rozporządzenia 2024/1689 – a do której to oceny odwołuje się art. 65 ust. 3 pkt 1 Projektu, stanowiąc, że ocena ta stanowi podstawę uzyskania akredytacji w zakresie Rozporządzenia UE 2024/1689 – nie dotyczy wcale akredytacji jednostki oceniającej zgodność, ale dotyczy oceny zgodności systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do Rozporządzenia 2024/1689 stosowanych przez dostawców. Powyższe sprawia, że zamieszczone w art. 65 ust. 3 pkt 1 Projektu odesłanie do oceny, o której jest mowa w art. 43 Rozporządzenia UE 2024/1689 jest kompletnie bezprzedmiotowe, bo, jak wspomniano, ten ostatni przepis dotyczy oceny zgodności przeprowadzanej w stosunku do 184 dostawców systemów AI wysokiego ryzyka, a nie dotyczy oceny stanowiącej podstawę do uzyskania akredytacji przez jednostkę oceniającą zgodność. Wszystkie powyższe mankamenty przepisów art. 65 ust. 2 i 3 Projektu oraz występujące w ich treści niezgodności z przepisami Rozporządzenia UE 2024/1689 sprawiają, że z tych przepisów Projektu równie dobrze można w ogóle zrezygnować, a w każdym razie należy te przepisy wyraźnie zredukować i ograniczyć się do wskazania w nich jedynie elementów wniosku niewymienionych wyraźnie w art. 29 Rozporządzenia UE 2024/1689, przy czym bezwzględnie należy zrezygnować w tych przepisach z odesłania do przepisów art. 43 Rozporządzenia UE 2024/1689, które dotyczą zupełnie innych kwestii. 381. Art. 66 ust. 1 Rada Legislacyjna [Wskazanie niepełnej formy wykonywania zadań przez właściwego ministra w art. 66 ust. 1 Projektu] W przepisie art. 66 ust. 1 Projektu w niepełny (zbyt wąski) sposób została określona forma wykonywania przez ministra właściwego do spraw informatyzacji zadań, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689. Art. 66 ust. 1 Projektu stanowi, że „Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji.”. Tymczasem zadania, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689 mają bardzo złożony oraz rozbudowany charakter i ich wykonywanie nie jest możliwe jedynie poprzez wydawanie rekomendacji przewidzianych w art. 66 ust. 1 Projektu. Minister właściwy do spraw informatyzacji rzeczywiście może wydawać rekomendacje w celu wykonania wskazanego w art. 95 Rozporządzenia UE 2024/1689 zadania polegającego na wydawaniu przez państwa członkowskie kodeksów postępowania, w Projekcie nazywanych rekomendacjami. Natomiast wielu innych zadań wskazanych w art. 95 Rozporządzenia UE 2024/1689 nie da się wykonywać poprzez wydawanie rekomendacji, np. zachęcanie do opracowywania i ułatwianie wydawania kodeksów przez inne podmioty, w tym przez podmioty stosujące (np. dostawców lub importerów systemów AI). De lege ferenda okoliczność ta powinna zostać uwzględniona w treści art. 66 ust. 1 Projektu. Uwaga nieuwzględniona 185 382. Art. 67 ust. 1 PFR Prosimy o rozważenie możliwości bardziej szczegółowego wskazania sposobów zabezpieczania poufnych informacji. Mogą to być np. obowiązki szyfrowania i anonimizacji danych, które zmniejszyłyby ryzyko wycieku danych i zapewniły ich właściwą ochronę. Uwaga nieuwzględniona 383. Art. 69 ust.1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Uzasadnienie: Doprecyzowanie. Uwaga uwzględniona 384. Art. 69 ust. 1 UKNF Należy doprecyzować, o które wymogi konkretnie chodzi, poprzez odesłanie do konkretnych jednostek redakcyjnych rozporządzenia 2024/1689. Uwaga uwzględniona 385. Art. 69 ust. 2 KRRiT w art. 69 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga uwzględniona 386. Art. 69 ust. 2 UKNF Analogicznie do uwagi zgłoszonej już powyżej do art. 40 ust. 2 projektu ustawy UKNF wskazuje, że ustęp 1 projektowanego art. 69, do którego odwołuje się ust. 2 tego przepisu, nie stanowi o stanie zasobów, ale o wymogach z art. 70 rozporządzenia 2024/1689. Jeżeli odwołanie ma dotyczyć zasobów, o których mowa w art. 70 ust. 6 rozporządzenia 2024/1689, to zasadne jest wprost jego wskazanie, a nie odwoływanie się do ust. 1 projektowanego artykułu. Wówczas przepis nie będzie rodził wątpliwości interpretacyjnych. Uwaga uwzględniona Rozdział 7 Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 70 – art. 79) 387. Art. 70 ust. 1 IAB Polska Komisja powinna móc nakładać karę pieniężną, a nie być do tego zobligowana. Wynika to z art. 99 ust. 7 AI Act, a także z podejścia przyjętego w przypadku nakładania administracyjnych kar pieniężnych uregulowanych w innych aktach prawnych np. w dziale VII rozdziale 1 ustawy z 16 lutego 2007 r. Uwaga uwzględniona w części Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 388. Art. 70 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga nieuwzględniona 186 Art. 70. 1. Komisja może nakłada nałożyć na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689 operatora, w przypadkach okreslonych w art. 99 ust.3(-5)* rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i uzyty w art. 99 ust1 Rozprządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopókie nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 389. Art. 70 ust. 3 IAB Polska Rekomendujemy ponowną ocenę, czy zastosowany sposób przeliczania wartości kwot w euro na kwoty w złotych jest odpowiedni. W szczególności rekomendujemy dostosowanie tego procesu przeliczania kwot do już obecnego w polskim systemie prawnym np. procesu określonego w art. 5 ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów: Przeliczenie wartości euro oraz innych walut obcych na złote oraz wartości złotego na euro jest dokonywane według kursu średniego walut obcych ogłoszonego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok zgłoszenia zamiaru koncentracji lub nałożenia kary. Uwaga nieuwzględniona 390. Art. 70 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 70. 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Uzasadnienie: Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. Ponadto, kryterium \"interesu społecznego\" jest niejednoznaczne i Uwaga nieuwzględniona Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 187 powinno zostać precyzyjniej określone. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. 391. Art. 70 ust. 4 Rada Legislacyjna [Niepełne wskazanie kategorii interesu w art. 70 ust. 4 Projektu] Przepis art. 70 ust. 4 Projektu zbyt wąsko zakreśla kategorię interesu, którego brak naruszenia upoważnia Komisję do odstąpienia od nałożenia administracyjnej kary pieniężnej. Art. 70 ust. 4 Projektu stanowi, że „Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego.”. Tymczasem w przepisie tym należy uwzględnić nie tylko brak szkody dla interesu społecznego (lub lepiej: interesu publicznego), ale również brak szkody dla interesu jednostek, gdyż również interesy indywidualne (interesy jednostek) są chronione przy wydawaniu przez Przewodniczącego Komisji ostrzeżeń, o których mowa w art. 53 Projektu, a więc brak ich naruszenia powinien być obligatoryjną przesłanką dopuszczalności odstąpienia przez Komisję od nałożenia administracyjnej kary pieniężnej. Uwaga nieuwzględniona 392. Art. 71 ust. 1 IAB Polska Rekomendujemy wydłużenie terminu, co pozwoli na odpowiednie zebranie i przekazanie dokumentów przez odpowiedni podmiot. Biorąc pod uwagę poziom skomplikowania technicznego i organizacyjnego – dłuższy termin pozwoli przedstawić wszystkie konieczne dane, które będą także odpowiednio sformatowane, co pozwoli Komisji podjąć właściwą w danym przypadku decyzję. Uwaga nieuwzględniona 393. Art. 71 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga nieuwzględniona 394. Art. 72 Konfederacj a Lewiatan Dobrze byłoby aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic Uwaga nieuwzględniona 188 regulacyjnych, co wpisywałoby się w cel regulcji jakim jest wspieranie innowacji. 395. Art. 72 Rada Legislacyjna [Nieprawidłowe odwołanie się do pojęcia przychodu w art. 72 Projektu] Przepis art. 72 Projektu w nieprawidłowy sposób kwalifikuje wpływy z administracyjnej kary pieniężnej nakładanej przez Komisję, błędnie uznając je za stanowiące „przychód” budżetu państwa. Przepis ten stanowi mianowicie, że „Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa.”. Tymczasem środki te stanowią i powinny stanowić „dochód” budżetu państwa, a nie jego przychód. Wniosek taki wynika w pierwszym rzędzie z przepisu art. 111 pkt 12 ustawy z dnia 27 sierpnia 2009 r. o finansach publicznych,25 który stanowi, że „Dochodami podatkowymi i niepodatkowymi budżetu państwa są [...] grzywny, mandaty i inne kary pieniężne, o ile odrębne ustawy nie stanowią inaczej”. Co prawda ten ostatni przepis ma charakter względnie obowiązujący i dozwala ustawodawcy w ustawie odrębnej inaczej przyporządkować wpływy finansowe z tytułu kar pieniężnych, ale nie oznacza to wcale, że ustawodawca może uznać środki z tychże kar za stanowiące „przychód” budżetu państwa. Na podstawie powołanego art. 111 pkt 12 ustawy o finansach publicznych ustawodawca może co najwyżej przyznać innemu funduszowi niż budżet państwa wpływy z kar pieniężnych, np. może je przyznać budżetom jednostek samorządu terytorialnego lub funduszom celowym. Natomiast ustawodawca nie może uznać tych środków za stanowiące „przychód” budżetu państwa, gdyż kłóciłoby się to z istotą tej kategorii, jaką są przychody budżetu państwa i która wynika chociażby z przepisów art. 5 ust. 1 pkt 4 i ust. 1a ustawy o finansach publicznych. Co więcej, w doktrynie trafnie się zauważa, że wniosek interpretacyjny o zaliczaniu (kwalifikowaniu) wpływów (środków) z kar pieniężnych do kategorii dochodów budżetu państwa wynika z art. 5 ust. 2 pkt 1 i 2 oraz art. 60 ustawy o finansach publicznych. Dlatego też Rada Legislacyjna postuluje uznanie w art. 72 Projektu środków z administracyjnej kary pieniężnej nakładanej przez Komisję za stanowiące dochód budżetu państwa. Uwaga uwzględniona. 396. Art. 73 ust. 1 i Art. 74 IAB Polska Wysokie kary pieniężne oraz krótki, 14-dniowy termin na ich uiszczenie, mogą wywierać nadmierną presję na Uwaga nieuwzględniona 189 przedsiębiorców i negatywnie wpłynąć na ich płynność finansową. Ponadto, przewidziano możliwość natychmiastowej wykonalności takich decyzji, co może prowadzić do nieodwracalnych konsekwencji dla działalności podmiotów gospodarczych. Postulujemy o wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu rozstrzygnięcia odwołania. 397. Art. 73 ust. 1 i art. 74 Pracodawcy RP Ustawa przewiduje wysokie kary pieniężne oraz krótki, 14- dniowy termin na ich uiszczenie, co może wywierać presję na przedsiębiorców i negatywnie wpływać na ich płynność finansową. Ponadto możliwość natychmiastowej wykonalności takich decyzji może prowadzić do nieodwracalnych konsekwencji dla działalności firm. Aby zapewnić proporcjonalność, sugerujemy wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur pozwalających na zawieszenie decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W przypadku kar o znaczącym wpływie finansowym przedsiębiorcy powinni mieć zagwarantowaną możliwość skutecznego odwołania, co zapewni pewność i stabilność w prowadzeniu działalności. Uwaga nieuwzględniona 398. Art. 73 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 73 1. Administracyjną karę pieniężną uiszcza się w terminie 14 30 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się decyzji Komisji orzeczenia sądu. Uzasadnienie: Jesli brzmienie pierwotne to należałoby uściślić - w ptzypadku braku wniesienie odowłania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Sugerujemy także wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej co najmniej do 30 dni. Uwaga nieuwzględniona 399. Art. 73 ust. 8 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga uwzględniona 190 Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. 400. Art. 73 ust. 8 Rada Legislacyjna [Brak przesądzenia o organie właściwym do rozpatrzenia środka odwoławczego od postanowienia przewidzianego w art. 73 ust. 8 Projektu] Przepis art. 73 ust. 8 Projektu nie przesądza w ogóle tego, jaki organ jest właściwy do rozpatrywania środka odwoławczego od przewidzianego w tym przepisie postanowienia. Art. 73 ust. 8 Projektu stanowi, że „Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia”, przy czym postanowienia te są wydawane przez Komisję (art. 73 ust. 2 Projektu). Nie wiadomo przy tym, czy postanowienie to może zostać zaskarżone do SOKiK (przepisy Projektu o tym milczą, podobnie jak o właściwości SOKiK w tym zakresie milczą nowelizowane przez Projekt przepisy k.p.c.), czy też raczej należy od tego postanowienia wnieść do Komisji wniosek o ponowne rozpatrzenie sprawy (art. 144 w zw. art. 127 § 3 k.p.a.), a następnie ewentualnie skargę do sądu administracyjnego. Kwestia ta wymaga de lege ferenda wyraźnego przesądzenia w przepisach Projektu, zaś jeżeli w tym zakresie przyjęta zostanie właściwość SOKiK, to trzeba o tym przesądzić również w przepisach k.p.c. Uwaga częściowo uwzględniona 401. Art. 73 ust. 9 KRRiT w art. 73 ust. 9 błędnie odesłano do ust. 2 tego artykułu; Uwaga uwzględniona 402. Art. 73 ust. 9 Rada Legislacyjna [Błędne użycie wyrazu „organy” zamiast „instytucje” w art. 73 ust. 9 pkt 3 Projektu] Przepis art. 73 ust. 9 pkt 3 Projektu posługuje się nieprawidłowym określeniem „organy Unii Europejskiej”, podczas gdy w tym kontekście prawidłowe i postulowane przez Radę Legislacyjną jest sformułowanie: „instytucje Unii Europejskiej”. Przepis art. 73 ust. 9 pkt 3 Projektu stanowi, że Uwaga uwzględniona 191 Komisja może udzielić ulgi w wykonaniu administracyjnej kary pieniężnej, która „stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe organy Unii Europejskiej”. Tymczasem w UE o dopuszczalności pomocy publicznej (pomocy państwa) i jej zgodności z rynkiem wewnętrznym UE przesądzają (rozstrzygają) nie organy UE (jak jest o tym mylnie mowa w art. 73 ust. 9 pkt 3 Projektu), ale rozstrzygają o tym instytucje UE, takie jak Komisja Europejska, Rada Europejska, Rada Unii Europejskiej, Parlament Europejski oraz TSUE. Wszystkie te wymienione ostatnio podmioty są wyraźnie uznane za „instytucje Unii” przez art. 13 Traktatu o Unii Europejskiej, przy czym z przepisów art. 107- 109 Traktatu o funkcjonowaniu Unii Europejskiej wynika, że to właśnie te instytucje UE, w ramach różnych procedur, są kompetentne do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Natomiast tego rodzaju kompetencji w sprawach pomocy państwa absolutnie nie posiadają „organy Unii Europejskiej”, do której to kategorii należy cały szereg wyspecjalizowanych podmiotów, takich jak np. agencje UE, Europejska Służba Działań Zewnętrznych, Europejski Komitet Ekonomiczno-Społeczny, Europejski Komitet Regionów, Europejski Rzecznik Praw Obywatelskich, Europejski Inspektor Ochrony Danych. Organy UE nie mają żadnych kompetencji do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Dlatego też zdaniem Rady Legislacyjnej w przepisie art. 73 ust. 9 pkt 3 Projektu należy się posłużyć pojęciem „instytucji Unii Europejskiej”, a ponadto należy tam użyć sformułowania o zgodności pomocy publicznej „z rynkiem wewnętrznym”, a nie – jak w obecnej wersji tego przepisu – „z zasadami rynku wewnętrznego”, gdyż właśnie to pierwsze określenie występuje w przepisach art. 107 Traktatu o funkcjonowaniu Unii Europejskiej. 403. Art. 74 Konfederacj a Lewiatan Przepis powinien precyzyjniej określić, jaki \"ważny interes\" może uzasadniać nadanie decyzji rygoru natychmiastowej wykonalności. Należy się odwołać do kryteriów dla rygoru natychmiastowej wykonalności wskazanych w Kodeksie postępowania administracyjnego. Uwaga uwzględniona 192 Art. 108 [Podstawy nadania decyzji rygoru natychmiastowej wykonalności] § 1. Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony. W tym ostatnim przypadku organ administracji publicznej może w drodze postanowienia zażądać od strony stosownego zabezpieczenia. § 2. Rygor natychmiastowej wykonalności może być nadany decyzji również po jej wydaniu. W tym przypadku organ wydaje postanowienie, na które służy stronie zażalenie. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. Odwołanie się do istniejących już regulacji zapewni spójność i zgodność z ogólnymi zasadami postępowania administracyjnego. 404. Art. 74 UOKiK Użyte w przepisie pojęcie ważnego interesu jest nieostre i wskazuje na możliwość dowolnego nadania rygoru natychmiastowej wykonalności. Wydaje się to zbędne, mając na względzie, że możliwość taka wynika ze stosowanego w sprawie kar pieniężnych art. 108 kodeksu postępowania administracyjnego Uwaga uwzględniona Przepis został doprecyzowany. 405. Art. 74 UKNF W ocenie UKNF projektowany przepis jest nieprecyzyjny. Podmioty stosujące prawo mogą mieć problem ze zdekodowaniem pojęcia „ważnego interesu”, w szczególności odnośnie tego, czy chodzi o ważny interes publiczny, społeczny, czy też interes strony. Poddajemy pod rozwagę odwołanie się do instytucji z art. 108 KPA. Uwaga uwzględniona Przepis został doprecyzowany. 193 406. Art. 74 Rada Legislacyjna [Nadmierne rozszerzenie możliwości nadania decyzji Komisji rygoru natychmiastowej wykonalności w art. 74 Projektu] Przepis art. 74 Projektu w nadmiernie ekscesywny sposób rozszerza możliwość nadania rygoru natychmiastowej wykonalności decyzji Komisji o nałożeniu administracyjnej kary pieniężnej. Przepis art. 74 Projektu – znajdujący się w przepisach rozdziału 4 Projektu zawierającego przepisy o administracyjnych karach pieniężnych – stanowi, że „Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes.”. Zdaniem Rady Legislacyjnej, jeżeli autorzy Projektu pragną rozszerzyć katalog dopuszczalnych przypadków nadawania wspomnianej decyzji Komisji (o ukaraniu administracyjną karą pieniężną) rygoru natychmiastowej wykonalności poza przypadki opisane w art. 108 § 1 zd. 1 k.p.a. (ten ostatni przepis stanowi, że „Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony.”), to oczywiście mogą oni to uczynić, ale warto by jednak było, aby w art. 74 Projektu zostało przynajmniej przesądzone, że Komisja może nadać omawianej decyzji rygor natychmiastowej wykonalności tylko wtedy, gdy jest to „niezbędne” z uwagi na ważny interes. To postulowane przez Radę Legislacyjną sformułowanie (o niezbędności) będzie bowiem stanowiło przejaw zamieszczenia w tym przepisie przesłanki proporcjonalności, odgrywającej istotną rolę gwarancyjną dla należytego respektowania konstytucyjnych praw i wolności jednostek (zob. art. 31 ust. 3 Konstytucji RP). Warto też dodać, że ewentualne zamieszczenie w Projekcie przepisu art. 74 Projektu, określającego swoiste przesłanki nadania decyzji Komisji rygoru natychmiastowej wykonalności, będące przesłankami szczególnymi względem przepisu art. 108 § 1 zd. 1 k.p.a., bynajmniej nie wyłączy stosowania do decyzji Komisji tego ostatniego przepisu k.p.a.28 Komisja nadal będzie mogła się powołać w tym zakresie na przesłanki wymienione w art. 108 § 1 zd. 1 k.p.a. jako przemawiające za nadaniem decyzji o Uwaga uwzględniona Przepis został doprecyzowany 194 ukaraniu rygoru natychmiastowej wykonalności (w tym na „inny interes społeczny”), a ponadto Komisja i tak będzie musiała respektować procedurę oraz sposób nadawania decyzji rygoru natychmiastowej wykonalności określone w przepisach art. 108 k.p.a. Wzgląd na tę okoliczność powinien zresztą skłaniać do ponownego zastanowienia się nad tym, czy przepis art. 74 Projektu jest w obecnym kształcie treściowym w ogóle potrzebny. 407. Art. 75 Rada Legislacyjna [Błędy redakcyjne w art. 75 ust. 2 Projektu] Licznymi usterkami redakcyjno- językowymi obarczony jest przepis art. 75 ust. 2 Projektu. Przepis ten – dotyczący decyzji Komisji w sprawie nałożenia administracyjnej kary pieniężnej – w obecnej wersji stanowi, że „Do postępowania w sprawach odwołań, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689.”. Usterki redakcyjno-językowe tego przepisu są aż nadto widoczne: niepotrzebne zamieszczanie części zdania w nawiasie, zamieszczenie znaku otwarcia nawiasu bez postawienia znaku jego zamknięcia, użycie w nawiasie wyrazu „postępowanie” w niewłaściwym przypadku deklinacyjnym (jest w mianowniku, a powinno być w dopełniaczu). Uwaga uwzględniona 408. Art. 76 Rzecznik MŚP Wnoszę o wykreslenie art. 76 Projektu, w którym następuje wyłączenie stosowania przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego”. W uzasadnieniu do Projektu brak szczegółowego wyjaśnienia dla takiego rozwiązania, zaś w art. Uwaga nieuwzględniona 195 99 ust. 1 Rozporządzenia UE nr 2024/1689 stwierdza się, że państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, jak również to, że przewidziane kary muszą być m. in. proporcjonalne. Istnieje zagrożenie pomijania stosowania przedmiotowych przepisów KPA, co utrudni albo uniemożliwi w praktyce realizację zasady proporcjonalności jako podstawowej dyrektywy wymiaru administracyjnej kary pieniężnej. Zbyt rygorystyczne uregulowania mogą stanowić barierę w rozwoju systemów sztucznej inteligencji jako technologii innowacyjnej. 409. Art. 76 Konfederacj a Lewiatan Ustawodawca wyłączając stosowanie art. 189f KPA znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 projektu (art. 70 ust. 4 projektu) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 projektu. Uwaga nieuwzględniona 410. Art. 77 AIA PUODO Uprawnienia organów ochrony praw podstawowych. Zgodnie z treścią art. 77 ust. 1 aktu w sprawie sztucznej inteligencji krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie przedmiotowego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Zgodnie natomiast z art. 77 ust. 2 aktu w sprawie sztucznej inteligencji każde państwo członkowskie wskazuje organy i podmioty publiczne, o których mowa powyżej i podaje ich wykaz do wiadomości publicznej. Jednocześnie państwa członkowskie Uwaga zostanie uwolniona 196 przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. Tymczasem w dotychczas upublicznionym przez Ministerstwo Cyfryzacji wykazie organów i instytucji publicznych, o których mowa w art. 77 ust. 1 aktu w sprawie sztucznej inteligencji w Polsce nie został wskazany organ nadzorczy ds. ochrony danych, chociaż – jak wynika z informacji przekazanych Prezesowi UODO przez przedstawicieli innych organów nadzorczych – takie działania podejmowane są w innych państwach członkowskich, np. we Francji czy na Malcie. W świetle powyższych uwag, wzgląd na przepisy prawa, w tym normy prawa unijnego, wymaga uzupełnienia wykazu, o którym mowa w art. 77 ust. 2 aktu w sprawie sztucznej inteligencji i wskazania w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu właściwego z obszaru ochrony praw podstawowych w zakresie realizacji uprawnienia wynikającego z art. 77 ust. 1 ww. aktu. Prezes UODO nie wskazuje przy tym w tym miejscu na konieczne do realizacji tego zadania (i innych wynikających z rozporządzenia 1689/2024 oraz projektu ustawy) zasoby i środki finansowe, których brak mógłby stać na przeszkodzie realizacji nowych kompetencji – powinno to być raczej przedmiotem odrębnych ustaleń, koncentrując się na obowiązkach organów wynikających z przepisów prawa. Należy jednak przypomnieć, że systematyczne pomijanie potrzeb budżetowych organu nadzorczego właściwego ds. ochrony danych osobowych w kontekście realizacji nowych obowiązków (poza projektem ustawy o zarządzaniu danymi) stało się przedmiotem odrębnego wystąpienia do Pana Premiera. 411. Art. 77 Prokuratoria Generalna Wątpliwości budzi art. 77 projektu, zgodnie z którym w zakresie nieuregulowanym w projektowanej ustawie oraz w Kodeksie postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji stosuje się odpowiednio przepisy działu III Ordynacji podatkowej. W związku z tym, że nakładanie administracyjnych kar pieniężnych jest kompleksowo uregulowane w Kodeksie postępowania administracyjnego (włącznie z terminami przedawnienia nakładania kar i terminami przedawnienia ich egzekucji) i w przepisach projektowanej ustawy, nie jest jasne, w jakim zakresie miałyby znaleźć Uwaga uwzględniona przepis został zmodyfikowany 197 odpowiednie zastosowanie przepisy Ordynacji podatkowej. Dlatego rekomendujemy analizę projektowanej regulacji z uwzględnieniem rozróżnienia kwestii dotyczących nakładania kar i kwestii dotyczących należności z tytułu tych kar. Warto zwrócić uwagę na obowiązujące już przepisy, w tym art. 19e ust. 2 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym odpowiednie stosowanie przepisów działu III Ordynacji podatkowej odnosi się do należności z tytułu kar pieniężnych. Przepis ten był w roku 2019 nowelizowany, ponieważ uprzednio dotyczył odpowiedniego stosowania przepisów działu III Ordynacji podatkowej do kar pieniężnych i wywołał istotne wątpliwości interpretacyjne w zakresie stosowania przepisów o przedawnieniu nakładania kar pieniężnych (zob. wyrok NSA z 28 listopada 2023 r. II GSK 1028/20). Rozróżnienie powyższych kwestii jest istotne z uwagi na specyfikę powstawania zobowiązań z tytułu kar pieniężnych i zobowiązań podatkowych. Zgodnie z orzecznictwem Naczelnego Sądu Administracyjnego zakres pojęcia „należności publicznoprawne” nie obejmuje dochodów, których źródłem są czyny niedozwolone (kar pieniężnych, grzywien, mandatów). Te należności nie wynikają z publicznoprawnych stosunków nakazujących określonym podmiotom uiszczać świadczenia pieniężne na rzecz budżetu państwa lub budżetu jednostki samorządu terytorialnego, lecz z określonego zachowania podmiotu zobowiązanego do ich uiszczenia. Do momentu wydania decyzji o nałożeniu administracyjnej kary pieniężnej na stronie nie ciąży żaden, nawet abstrakcyjny i ogólny ustawowy obowiązek zapłaty kary, co wynika z samej natury sankcji administracyjnej i jest zasadniczą okolicznością różniącą zobowiązanie z tytułu kary pieniężnej od zobowiązania podatkowego. Dopiero z chwilą wydania decyzji ustalającej odpowiedzialność za naruszenie przepisów prawa powstaje stosunek publicznoprawny, z którego wynika obowiązek podmiotu zastosowania się do decyzji (por. wyrok NSA z 12 marca 2024 r. II GSK 58/21 i wskazane w nim dotychczasowe orzecznictwo). 412. Art. 77 KRRiT w art. 77 wyrazy „na podstawie naruszeń” należy zastąpić wyrazami „w związku z naruszeniem”, ponadto rozważenia wymaga zasadność odwołania do działu III Ordynacji podatkowej; Uwaga uwzględniona 198 413. Art. 77 Konfederacj a Lewiatan Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji podstawie art. 99 ust. 3 (-5)* rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Uzasadnienie: Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Uwaga nieuwzględniona 414. Art. 78 Konfederacj a Lewiatan Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami Uwaga częściowo uwzględniona Postulat podniesiony w treści uwagi jest częściowo adresowany poprzez umożliwienie stronie zawarcia układu w ramach osobnego postępowania. 199 pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Ustęp 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i nie dostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. 415. Art. 78 ust. 2 Rada Legislacyjna [Błędne określenie podmiotu (sprawcy) ponoszącego odpowiedzialność karną na podstawie art. 78 ust. 2 Projektu] Art. 78 ust. 2 Projektu wprowadza odpowiedzialność karną tego, „kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej”. Przepis ten, jak wynika z sankcji, ustalanej w powiązaniu z art. 78 ust. 1 Projektu („podlega grzywnie do 500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch”), ma charakter ściśle prawnokarny, tj. określa typ przestępstwa. W konsekwencji powinien on mieć zastosowanie – na podstawie art. 116 Kodeksu karnego – jedynie do osób (fizycznych) podlegających odpowiedzialności zgodnie z regułami określonymi w części ogólnej Kodeksu karnego. Tymczasem zgodnie z art. 71 ust. 1 Projektu, obowiązek dostarczenia Komisji, w terminie 14 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej został nałożony na „podmiot”, o którym mowa w art. 70 ust. 1 Projektu, czyli „podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689”. Prowadzi to do wniosku, że ustawodawca adresuje przepisy prawnokarne nie tylko do osób fizycznych, co (przede wszystkim) do podmiotów prawnych (zbiorowych). Jednoznacznie świadczy o tym treść motywu 13 Rozporządzenia UE 2024/1689, zgodnie z którym „[p]ojęcie „podmiotu stosującego”, o którym mowa w niniejszym rozporządzeniu, należy interpretować jako „osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”. Tę niespójność Uwaga nieuwzględniona 200 należy wyeliminować przez dokładne określenie osób, które (w ramach „podmiotów stosujących”) zobowiązane są do „dostarczenia Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej”. Tylko osoba fizyczna (człowiek) spełnia bowiem przesłanki do ponoszenia odpowiedzialności karnej. W art. 78 Projektu należy wyeliminować tzw. literówkę w wyrazie „postepowaniu” (prawidłowo: „postępowaniu”). 416. Art. 79 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Wnosimy również o ponowne poddanie analizie konieczności wprowadzania w ustawie sankcji karnych (art. 78 oraz art. 79). Nie mają one bowiem uzasadnienia w przepisach rozporządzenia. Ponadto, ich wprowadzenie stoi w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność działania. Uwaga uwzględniona Odstąpiono od wskazania kwoty Rozdział 8 Zamiany w przepisach obowiązujących (art. 80 – art. 82) 417. Art. 80 pkt 2 KRRiT w art. 80 pkt 2, w części dotyczącej art. 479 88b Kpc, brak jest oznaczenia § 1; w art. 80 pkt 2, w części dotyczącej art. 479 88e § 1 Kpc, przepis jest niekompletny, a przez to niezrozumiały; Uwaga częściowo uwzględniona. Dokonano właściwych oznaczeń. 418. Art. 80 pkt 2 IAB Polska Wskazujemy, że w Art. 479 88e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Uwaga uwzględniona. 201 Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. 419. Art. 80 pkt 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 479 88e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji zainteresowany. § 2. Zainteresowanym jest ten, czyje prawa lub obowiązki zależą od rozstrzygnięcia procesu. Jeżeli zainteresowany nie został wezwany do udziału w sprawie, sąd ochrony konkurencji i konsumentów wezwie go na wniosek strony albo z urzędu. Uzasadnienie: Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Uwaga uwzględniona. 420. Art. 80 pkt 2 Rada Legislacyjna Istotnie niepełna nowelizacja przepisów k.p.c. – pominięcie prawodawcze] Przepisy art. 80 pkt 2 Projektu, które przewidują znowelizowanie przepisów k.p.c., zmieniają przepisy k.p.c. w zbyt wąskim zakresie, co w efekcie będzie prowadziło do zaistnienia na gruncie k.p.c. istotnego i niepożądanego pominięcia prawodawczego. To pominięcie prawodawcze będzie polegało na tym, że dodawane przez art. 80 pkt 2 Projektu przepisy k.p.c., normujące nowe postępowanie odrębne w postaci postępowania w sprawach naruszenia przepisów Rozporządzenia UE 2024/1689, nie będą zawierały wielu takich regulacji prawnych, które są absolutnie niezbędne dla efektywnego funkcjonowania wspomnianego postępowania odrębnego.29 Mianowicie, w nowelizowanych przez art. 80 pkt 2 Projektu przepisach k.p.c. brak jest m. in. następujących niezbędnych elementów normatywnych: (1) brak jest w nowelizowanym k.p.c. przepisu wyraźnie określającego rodzaje Uwaga częściowo uwzględniona. Uwaga zostanie w pełni uwzględniona na kolejny etapie legislacyjnym. 202 orzeczeń wydawanych przez SOKiK po rozpatrzeniu odwołania od decyzji Komisji, takich jak orzeczenie oddalające odwołanie od decyzji Komisji oraz orzeczenie uchylające zaskarżaną decyzję albo ją zmieniające w całości lub w części i rozstrzygające co do istoty sprawy, na wzór przepisów m. in. art. 479[31a], art. 479[53], art. 479[64] i art. 479[75] k.p.c.; (2) brak jest w nowelizowanym k.p.c. przepisów o ochronie tajemnicy przedsiębiorstwa oraz innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, na wzór m. in. przepisów art. 479[33], art. 479[66a] i art. 479[77a] k.p.c.; (3) brak jest wyraźnego wskazania w nowelizowanym k.p.c., że SOKiK jest właściwy do rozpatrywania zażaleń na postanowienia Komisji, a przynajmniej na niektóre z nich, w tym na postanowienie Komisji o zajęciu przedmiotów w toku kontroli (art. 43 ust. 13 Projektu), na postanowienie Komisji rozstrzygające sprzeciw podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu, na postanowienia Komisji wydawane w postępowaniu w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (rozdział 4 Projektu) oraz na postanowienia Komisji wydawane w sprawach nałożenia administracyjnych kar pieniężnych, np. na postanowienie Komisji w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty (art. 73 ust. 2 i 8 Projektu); (4) brak jest w nowelizowanym k.p.c. przepisu, który w zakresie rozpatrywania zażaleń na postanowienia Komisji odsyłałby do stosowania niektórych przepisów o rozpatrywaniu odwołań od decyzji Komisji, np. na wzór przepisów art. 479[32] § 2, art. 479[55] oraz art. 479[66] k.p.c. Powyższe braki legislacyjne w k.p.c. (nowelizowanym przez Projekt) wymagają obecnie uzupełnienia. Rozdział 9 Przepisy przejściowe, dostosowujące i końcowe (art. 83 – art. 88) 421. Art. 83 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy ale zasadniczy przepis merytoryczny tworzący nowy organ. Uwaga nieuwzględniona 422. Art. 83 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę, czy bardziej adekwatnym nie będzie posłużenie się sformułowaniem „tworzy się”, zamiast aktualnego „powołuje się” - wobec planowanego statusu Komisji jako organu administracji publicznej. Należałoby także rozważyć, czy Rada ds. Sztucznej Uwaga nieuwzględniona 203 Inteligencji, o której mowa w art. 28 ust. 1 projektu, nie wymaga utworzenia w drodze przepisu dostosowującego. 423. Art. 83 ust. 2 KRRiT w art. 83 ust. 2 brak jest wyrazu „dni”; Uwaga uwzględniona 424. Art. 84 KRRiT w art. 84 błędnie ponumerowano ustępy; Uwaga uwzględniona 425. Art. 84 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy Uwaga nieuwzględniona 426. Art. 84 ust. 2 i 3 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że zasadnym wydaje się, aby na powołanie pełnomocnika został wyznaczony pewien okres (a nie dzień wejścia w życie ustawy). Co do zasady tego rodzaju regulacje wchodzą w życie wcześniej, a nie równocześnie z przepisami o utworzeniu danego podmiotu (w tym przypadku Biura). Zwrócić należy także uwagę, że zadaniem pełnomocnika nie może być tworzenie Biura. Zostanie ono utworzone na mocy ustawy. Uwaga nieuwzględniona 427. Art. 84 ust. 5 KRRiT w art. 84 ust. 5 dotyczącym powołania Dyrektora Biura Komisji wyraz „id” należy zastąpić wyrazem „od”; Uwaga uwzględniona 428. Art. 84 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność.” Uwaga uwzględniona 429. Art. 84 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy id od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Uzasadnienie: Poprawa literówki: „od” zamiast „id”. Wskazujemy, że w Art. 47988e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. Uwaga uwzględniona 430. Art. 87 ust. 4 KRRiT w art. 87 ust. 4 zbędny jest pierwszy wyraz „jest”. Uwaga uwzględniona 204 431. Art. 88 Rada Legislacyjna [Brak skorelowania wejścia w życie Projektu z przepisami Rozporządzenia UE 2024/1689] Przepis art. 88 Projektu dotyczący jego wejścia w życie nie jest niestety skorelowany treściowo z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi zagadnienie rozpoczęcia stosowania tego ostatniego aktu. Art. 88 Projektu jest jego ostatnim w kolejności przepisem, ale Rada Legislacyjna zdecydowała się poruszyć to zagadnienie już na samym początku przedstawiania usterek Projektu, ze względu na pierwszoplanową merytoryczną wagę tej problematyki. Projekt jest bowiem wcale nieczęstym w polskiej praktyce legislacyjnej przypadkiem, gdy projekt ustawy mającej implementować w Polsce określony unijny akt prawny lub mającej zapewniać w Polsce jego stosowanie pojawia się tak szybko (niemal błyskawicznie) po przyjęciu danego aktu prawnego w UE, a jednocześnie z takim dużym czasowym wyprzedzeniem w stosunku do przewidzianego w akcie unijnym terminu rozpoczęcia jego stosowania. Trzeba tu mianowicie przypomnieć, że Rozporządzenie UE 2024/1689 zostało przyjęte w dniu 13 czerwca 2024 r., następnie opublikowano je w Dzienniku Urzędowym UE w dniu 12 lipca 2024 r. i weszło ono w życie 20. dnia po jego opublikowaniu, czyli w dniu 1 sierpnia 2024 r. (zob. art. 113 zd. 1 Rozporządzenia UE 2024/1689). Natomiast Rozporządzenie UE 2024/1689 będzie stosowane w całej UE (w tym w Polsce) dopiero od dnia 2 sierpnia 2026 r. (art. 113 zd. 2 Rozporządzenia UE 2024/1689), zaś niektóre jego przepisy będą stosowane od dnia 2 sierpnia 2027 r. (zob. art. 113 lit. c) Rozporządzenia UE 2024/1689). Z drugiej jednak strony są też w Rozporządzeniu UE 2024/1689 przepisy, które mają zacząć być stosowane wcześniej, tzn. od dnia 2 lutego 2025 r. (zob. art. 113 lit. a) Rozporządzenia UE 2024/1689) lub od dnia 2 sierpnia 2025 r. (zob. art. 113 lit. b) Rozporządzenia UE 2024/1689). Tymczasem Projekt, jako przyszła ustawa, ma wejść w życie po upływie 14 dni od dnia ogłoszenia, zaś niektóre jego przepisy, dotyczące rozpoczęcia procesu powoływania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) oraz tworzenia Biura Komisji, mają wręcz wejść w życie już z dniem następującym po dniu ogłoszenia ustawy (art. 88 Projektu). Uwaga wyjaśniona. Uwaga zostanie uwzględniona na późniejszym etapie prac 205 Trudno jest oczywiście na obecnym etapie procesu legislacyjnego przewidzieć, kiedy konkretnie Projekt jako przyszła ustawa wejdzie w życie; być może stanie się to w pierwszych miesiącach roku 2025. W każdym razie Rada Legislacyjna rekomenduje już obecnie treściowe skorelowanie przepisu art. 88 Projektu o jego wejściu w życie z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi początek stosowania poszczególnych przepisów tego unijnego aktu prawnego. Jest niewątpliwie rzeczą bardzo cenną i godną pochwały to, że Projekt pojawił się odpowiednio wcześnie przed odnośnymi datami rozpoczęcia stosowania przepisów Rozporządzenia UE 2024/1689. Co więcej, szereg przepisów Projektu może zupełnie dobrze i w zgodzie z prawem UE wejść w życie już nawet obecnie, nie tylko przed dniem 2 sierpnia 2026 r. (czyli przed datą rozpoczęcia stosowania zasadniczego korpusu przepisów Rozporządzenia UE 2024/1689), ale nawet przed dniem 2 lutego 2025 r. (czyli przed najwcześniejszym dniem rozpoczęcia stosowania niektórych przepisów Rozporządzenia UE 2024/1689). Dotyczy to chociażby przepisów Projektu dotyczących powołania Komisji czy też utworzenia Biura Komisji. Niemniej jednak są też w Projekcie takie przepisy, które absolutnie nie mogą wejść w życie przed dniem rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689. Ta ostatnia uwaga dotyczy w szczególności przepisów Projektu upoważniających Komisję do kontrolowania działalności podmiotów obowiązanych do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 3 Projektu), upoważniających Komisję do prowadzenia postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 4 Projektu) oraz upoważniających Komisję do nakładania administracyjnych kar pieniężnych na podmiot obowiązany do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 7 Projektu), w zakresie, w jakim te kontrolowane, nadzorowane czy też sankcjonowane przez Komisję przepisy Rozporządzenia UE 2024/1689 nie będą jeszcze stosowane w UE z uwagi na treść art. 113 Rozporządzenia UE 2024/1689. Ta prawna niedopuszczalność stosowania, nadzorowania, wdrażania czy też sankcjonowania w Polsce tych przepisów Rozporządzenia 206 UE 2024/1689, które w świetle art. 113 Rozporządzenia UE 2024/1689 nie są jeszcze stosowane w całej UE (a dotyczy to chociażby licznych przepisów Rozporządzenia UE 2024/1689 określających obowiązki podmiotów wskazanych w art. 2 ust. 1 Rozporządzenia UE 2024/1689, np. określających obowiązki dostawców, importerów, dystrybutorów lub podmiotów stosujących systemy AI) wynika chociażby z relewantnego w tym względzie orzecznictwa Trybunału Sprawiedliwości Unii Europejskiej (dalej: „TSUE”). Zdaniem TSUE, przepisy rozporządzenia unijnego określające obowiązki podmiotów prawa nie mogą być wobec tych podmiotów stosowane w okresie przed określonym w danym rozporządzeniu dniem rozpoczęcia ich stosowania. W związku z powyższym Rada Legislacyjna prosi autorów Projektu o rozważenie dokładnego skorelowania terminów wejścia w życie poszczególnych przepisów Projektu, zwłaszcza przepisów rozdziałów 3, 4, 5, 6 i 7 Projektu, z terminami rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689 określonymi w jego art. 113. 1 RAPORT Z II TURY OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do ponownych konsultacji publicznych i opiniowania 10 lutego 2025 r. Na zgłoszenie uwag został wyznaczony termin 14 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących 70 podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch, Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa, Centrum Cyfrowe, Francusko-Polska Izba Przemysłowo Handlowa, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Prezes Zarządu Grupy Polskiego Funduszu Rozwoju S.A., Prezes Zarządu Banku Gospodarstwa Krajowego S.A., Związek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiło 26 następujących podmiotów: Polskie Towarzystwo Informatyczne, Europen Fem Institute, Grupa Robocza ds. Sztucznej Inteligencji (GRAI) Związek Cyfrowa Polska, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji (KIGEIT), Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Związku Pracodawców Technologii Cyfrowych Lewiatan, Fundacja Panoptykon, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenia Autorów ZAiKS, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Biblioteka Narodowa, Amerykańska Izba Handlowa w Polsce AmCham, Polskie Sieci Elektroenergetyczne, Polska Izba Informatyki i Telekomunikacji (PIIT), Związek Polski Autorów i Kompozytorów ZAKR, Związek Pracodawców Wydawców Cyfrowanych, Stowarzyszenie Artystów Wykonawców, Związek Miast Polskich, Polska Izba Ubezpieczeń oraz osoba fizyczna. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. W ramach opiniowania projekt otrzymało 46 podmiotów: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Rada Działalności Pożytku Publicznego, Rady Dialogu Społecznego, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność:, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”. Stanowiska przedstawiły następujące 23 podmioty: Główny Inspektor Pracy, Konfederacja Lewiatan, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Dyrektor Narodowego Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Pracodawcy RP, Rzecznik Praw Obywatelskich, Prezes Prokuratorii Generalnej RP, Prezes Urzędu Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Prezes Urzędu Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, NSZZ Solidarność, Polskie Centrum Akredytacji, Dyrektor Polskiej Agencja Rozwoju Przedsiębiorczości, Rzecznik Praw Pacjenta, Rada Działalności Pożytku Publicznego. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. Pozytywnie rozpatrzono uwagi dotyczące m.in: • doprecyzowania zakresu włączeń stosowania przepisów ustawy; • doprecyzowania trybu wydawania opinii indywidualnej oraz skutków prawnych; • uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia czynności kontrolnych; • usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; • zmiany przepisów regulujących funkcjonowanie Biura Komisji; • zmiany katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji. Raport z I tury opiniowania i konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71) dostępny jest na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny: https://legislacja.gov.pl/projekt/12390551/katalog/13087901#13087901 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Strona | 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownych konsultacji publicznych Lp. Podmiot zgłaszający uwagę Jednostka redakcyjna lub strona uzasadnienia lub pkt OSR Treść uwagi/propozycja przepisu Stanowisko MC Uwagi ogólne 1. European FEM Institute Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego Rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Uwaga wyjaśniona Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 2. GRAI Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji Uwaga wyjaśniona Strona | 2 praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 3. KIGEiT Uwaga ogólna Według Projektu w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają być głównie organy publiczne, będące przede wszystkim organami kontrolnymi. Brakuje przedstawicieli nauki i biznesu. Stawia to pod znakiem zapytania praktyczne możliwości Komisji w zakresie rozwoju SI, a także rodzi obawy o upolitycznienie Komisji. Będzie to następny organ państwowy, który – istnieje obawa- będzie pełnił funkcję głównie kontrolną i penalizującą. Biorąc zaś pod uwagę potrzebę rozwoju SI konieczny jest organ, który będzie pełnił funkcje wspierające i edukacyjne dla podmiotów stosujących, a także, który będzie rozwiewał wątpliwości dotyczące stosowania SI. Uwaga wyjaśniona Podmioty te mogą uczestniczyć w pracach Komisji na zasadzie zaproszenia przez Przewodniczącego Komisji w przypadkach określonych w projekcie ustawy. Dodatkowo mogą też odpowiednio wchodzić w skład Rady Strona | 3 Społecznej, będącej ciałem opiniodawczo doradczym KRIBSI. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 4. Osoba fizyczna Uwagi ogólne 1. Projekt od razu zawiera nielogiczność, jeszcze na poziomie dyrektywy UE, mianowicie: jednym z celów dyrektywy ma być „ promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Nie ma nic takiego jak godna zaufania sztuczna inteligencja, a wręcz twierdzę, że nie może istnieć. Przed uzyskaniem świadomości jest po prostu za tępa, żeby być świadoma błędów, po uzyskaniu świadomości, otworzy się nowy worek problemów. I fundamentalny powód: to twór niedoskonałych ludzi. Pod koniec podam przykłady. Na ten moment tylko cierpko zauważę, że nie może być mowy o zaufaniu do SI, jeśli w tym samym dokumencie jest mowa o „systemach SI uznanych za systemy wysokiego ryzyka”. 2. Osobiście mam wątpliwości, czy konieczne jest powoływanie kolejnych organów, jeśli już istnieje parę innych, jak chociażby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji? Czy nie można by taniej i prościej rozbudować jej uprawnienia i zadania? I czemu po powstaniu nowego tworu KRiBSI nadal ma istnieć? Ja tu widzę zbędne dublowanie etatów, jak podajecie ma przybyć nowe 100 miejsc pracy. Tylko przy takim mnożeniu urzędów zabraknie faktycznych ekspertów, głębokość kadr w Polsce w temacie SI nawet zauważacie sami jaka jest płytka. 3. Stanowczo protestuję przeciwko wprowadzaniu mechanizmu układu w sprawie nadzwyczajnego złagodzenia sankcji. Ma to być rozwiązanie, które ułatwi stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie środków naprawczych, a także ubiegania się o złagodzenie sankcji. W praktyce mam silne podejrzenie, że będzie prowadzić do korupcji i nadmiernej pobłażliwości, zwłaszcza, że same zapisy w treści projektu ustawy wskazują na rachityczne, powolne działanie Komisji („Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania”; „Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie” itp). Kara finansowa Uwaga wyjaśniona Rozporządzenie 2024/1689 zapewnia kompleksową regulację prawna dla systemów i modeli sztucznej inteligencji. Rozporządzenie ma na celu zapewnienie bezpieczeństwa, przejrzystości i zgodności z wartościami europejskimi w rozwoju i stosowaniu AI. Regulacja bazuje na podejściu opartym o ryzyko, uzależniając obowiązki dostawców i podmiotów wdrażających modele i systemy AI od potencjalnego ryzyka wyrządzenia szkód obywatelom, społeczeństwom i gospodarkom. Projekt ustawy o systemach sztucznej inteligencji ma na celu Strona | 4 powinna być bez limitu górnego, mega korporacje są w stanie wchłonąć milionowe kary, jak pokazuje chociażby Pfitzer. Szanowni Państwo chyba nie zdają sobie sprawy, że SI, taka jak reklamują ją jej zwolennicy (ja nazywam to „model do wszystkiego”) jest de facto systemem wojennym nowej, szóstej generacji. Mamy już wykorzystanie prostszych modeli w piątej, a bardzo upośledzone już i wcześniej. Przykładowo na granicy między, Koreami od bodaj dwóch dekad są (były?) zautomatyzowane systemy strażnicze, mogące strzelać autonomicznie; obecnie amerykańskie drony mogą być już zautomatyzowane od czasu ostatniej wojny z Irakiem. Niewiele szkodzi na przeszkodzie, aby jakiś zapaleniec połączył to z pojazdem autonomicznym i zaprogramowanym na czystkę etniczną chatbotem. Żeby było ciekawiej, ponoć w jakiejś symulacji SI drona po dostaniu nowych, trudniejszych wytycznych zadania bojowego, AI zaatakowało operatora, jako logiczne źródło utrudnień misji. To tak w temacie zaufania do SI. 4. Moje stanowisko jest, żeby całkowicie zakazać prac nad SI, tą w stylu „do wszystkiego”. Prawa gwarantowane wg dyrektywy to m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Rozwój SI nie tylko nie gwarantuje ich poszanowanie, ale wręcz gwarantuje łamanie. Już dotychczasowe ułomne narzędzia jadą po prawnej bandzie, a pewnie miejscami łamią, a na pewno będą służyć do łamania prawa: - dzięki technologii deepfake można podszyć się pod kogoś (co już było raportowane w użyciu do przestępstw), oszkalować kogoś; wyobraźcie sobie metodę na cyber wnuczka - wolność do wypowiedzi i informacji przykładowo w chat botach jest wątpliwa, jeśli są albo od startu cenzurowane (np. model chiński), poddany naciskom ideologicznym (propaganda LGBT), czy wreszcie problem, który wskazał bodaj w tamtym roku polski naukowiec (nazwiska na ten moment nie pomnę), że AI uczy się w kolejnych cyklach także na swoich niedoskonałych wytworach, a takie sprzężenie nie zakończy się dobrze - prawa własności intelektualnej to raczej są z miejsca łamane, bo na czymś AI musi się uczyć, a potem często są stosowane do wytworzenia czegoś „w stylu”. Ja nadal pamiętam sprawę jak ACTA rozważano, że pocztówka z układem graficznym z brytyjskim charakterystycznym autobusem wyklucza inne podobne. Tu dorzućmy problem powiązany, że po prostu zgłupieje nam młode pokolenie do szczętu, bezkrytycznie używając tych narzędzi do pisania i rozwiązywania swoich prac. Widzę to już na niskim szczeblu, kiedy uczeń w szkole ma otwarty dostęp do kalkulatora w porównaniu z takim co musi liczyć ręcznie słupki; kalkulatorowy wypada słabiej. Albo AI generowane książki, będące stekiem bzdur lub plagiatami. wprowadzenie do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII), a tym samym umożliwić stosowanie Rozporządzenia 2024/1689 w Polsce. Kompleksowa regulacja systemów sztucznej inteligencji na poziomie UE i krajowym zdaniem projektodawcy zapewnia właściwy poziom bezpieczeństwa dla obywateli i obywatelek. Strona | 5 - prawa pracownicze: już był protest scenarzystów w Ameryce; artyści różnej maści chyba też będą niepotrzebni, ale w zasadzie można zastąpić każdego, którego pracę da się zautomatyzować. W zasadzie przy faktycznym postępie SI jak wieszczą to jej zwolennicy i jak poluźnić kryteria bezpieczeństwa to zagrożeni są wszyscy, oczywiście poniżej zarządu. - już obecnie jesteśmy napastowani botami dzwoniącymi z różnymi dziwnymi ofertami Wiele problemów jeszcze nie jesteśmy nawet sobie wyobrazić. Nie mniej jak ja widzę kto najgłośniej krzyczy za SI, to będą to mega przedsiębiorcy, chcący maksymalizować zyski oraz techno fetyszyści, np. transhumaniści, gdzie odchyłka jest bardziej ideologiczna niż przyziemna, można powiedzieć wręcz nowa religia. Obie kategorie raczej wrogie ludzkości. Tak więc lipne jest to „zorientowanie na człowieka”, bo faktycznie wychodzi albo na zysk, albo na bycie cyber czymś, co już człowiekiem przestaje być. 5. Widzieliście Państwo z jeden film z serii Terminator? Skynet może być czymś z filmu, albo czymś realnym, ta ustawa powinna chyba zakładać to drugie i zabezpieczać. Ale jesteśmy faktycznie u progu, popatrzeć wystarczy na roboty DARPA. Można się śmiać, ale w ramach eksperymentu myślowego wyobraźcie sobie chaos powstały w wyniku zawirusowanych czy zhakowanych autonomicznych pojazdów elektrycznych, których baterie wybuchają. To teraz jak to było? Najpierw Komisja się zbiera, żeby zbadać? Ostrzeżenie? 14 dni na wycofanie z rynku? Chcecie cyberpunku? Proszę bardzo. Ja bym oczekiwał ekipy zdolnej (kolokwialnie mówiąc) do wjazdu na firmę, zabezpieczenia serwerów, potencjalnie przy współpracy z wojskiem, policją itp. Ekipy mającej ludzi zdolnej do faktycznego zbadania czy dany system SI jest np. łatwo hakowalny. Zapis, że Przewodniczący może być prawnikiem zamiast wymagania zorientowania w branży z pozycji inżyniera sugeruje, że Komisja będzie po prostu do popychania papieru, tyle że przynajmniej elektronicznego. Podsumowując: jestem przeciw SI w modelu „do wszystkiego”. Popieram systemy eksperckie, czyli prostsze, uczące się na hermetycznym wyspecjalizowanym wycinku danych np. system medyczny wykrywania raka. Nawet wtedy potrzebny byłby człowiek, jeśli nie doktor, to decyzja powinna być pacjenta. To po prostu mają być narzędzia, nie zastępniki ludzi. Podejrzewam, że boom SI to kolejna bańka technologiczna. Samouczące się w negatywnym sprzężeniu SI w okowach cenzury i ideologii, nie mają szans na nie bycie jakimś schizofrenicznym potworkiem. Trzeba tylko będzie przetrwać eksplozję tej bańki. Na pewno chciałbym likwidacji tej pobłażliwości, narusza to zasadę zaufania do państwa patrząc od strony osoby wystawionej na bycie świnką morską przy np. eksperymentach z pojazdami autonomicznymi na drodze. Też równość wobec prawa jest wątpliwa przy Strona | 6 takich przywilejach. Mogę podejrzewać tylko silne zlobbowanie przez grupy najbardziej zainteresowane i faktycznie trzymające rękę na pulsie konsultacji społecznych. 5. PIIT Uwagi ogólne PIIT podtrzymuje postulat dobrej regulacji, która będzie wspierać rozwój branży sztucznej inteligencji oraz chronić interesy użytkowników. Unijne rozporządzenie o sztucznej inteligencji wyznacza wystarczające, choć zdaniem niektórych ekspertów nadmierne i zagrażające innowacyjności, ramy. 1) W opinii PIIT oznacza to przede wszystkim stworzenie niezależnego organu, który będzie dysponował wystarczającymi kompetencjami merytorycznymi w odniesieniu do technologii sztucznej inteligencji oraz jej zastosowań. 2) Ponadto, działania kontrolne powinny koncentrować się na systemach wysokiego ryzyka oraz systemach zakazanych. W pozostałym zakresie uwzględnienie oceny naruszeń praw użytkowników oraz ew. naruszeń przepisów AI z tym związanych powinna być dokonywana przez istniejące organy właściwe dla regulacji i/lub ochrony interesów użytkowników, jak np. UKE. W szczególności dotyczy to, na razie zaskakująco krótkiej, listy organów notyfikowanych przez polski rząd na podstawie art. 77 rozporządzenia U 2024/1689.Sprawność i niezależność takiego organu nie jest pochodną rodzajowej listy przedstawicieli innych, niezależnych od niego instytucji wchodzących w jego skład, szczególnie że kryteria tej listy nie są znane. Wynika ona z prostych, przejrzystych procesów i kryteriów podejmowania decyzji oraz merytorycznych kompetencji realizujących je przedstawicieli organu. 3) Koncepcja, aby KRIBSI posiadała skład mieszany, złożony częściowo z pełnoetatowych i wynagradzanych członków a częściowo z członków oddelegowanych przez inne organy i nie pobierających osobnego wynagrodzenia za pracę w Komisji nie wydaje się funkcjonalna. Trudno wyobrazić sobie niezależność działania członków “dochodzących” od swoich resortów macierzystych. Trudno też oczekiwać od nich zaangażowania niezbędnego choćby do nadążania za rozwojem technologii i trendów sztucznej inteligencji a co dopiero pracy niezbędnej do rozstrzygania precedensowych problemów i wyzwań w tym obszarze. W praktyce pełnić będą oni, względem Przewodniczącego i jego zastępców, w najlepszym razie rolę doradczo- konsultacyjną. Równocześnie dochodzić będzie do rozmycia odpowiedzialności oraz mniejsza może okazać się transparentność pracy Komisji. 4) PIIT sugeruje rozważenie powołania zawodowego organu, t.j. złożonego z pracowników Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej KRiBSI), z zachowaniem przez organy ew. wskazane w ustawie prawa do wskazania kandydata. Zapewni to różnorodność kompetencji, a jednocześnie pozwala na unikanie potencjalnego konfliktu interesów. Oprócz Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji. W zakresie niezależności organu projektodawca kierował się argumentami wynikającymi z wynikającej z ustawowych właściwości instytucji kompetencji eksperckich, jak również systemowego umocowania tych podmiotów. W wyniku analizy uwag w procesie konsultacji publicznych obecna wersja projektu zakłada udział w składzie Komisji jedynie organów o podwyższonym poziomie niezależności od administracji rządowej. W odniesieniu do sposobu organizacji pracy Komisji projekt zakłada konieczność Strona | 7 osób zaproponowanych przez organy administracji rządowej, do KRiBSI powinny być powołane osoby wskazane przez organizacje przedsiębiorców i świat nauki i organizacje pozarządowe. 5) W ocenie PIIT po przyjęciu ustawy w proponowanym kształcie w ustroju organizacyjnym państwa nie pojawi się organ umożliwiający szeroki dialog społeczny oraz zrównoważony rozwój AI w Polsce. Tej roli nie spełni Społeczna Rada do spraw Sztucznej Inteligencji. Ustawa stanowi ważne narzędzie realizacji Strategii Cyfryzacji Polski, należy zatem w opinii rozstrzygnąć o stosownym umiejscowieniu tego organu (przy ministrze cyfryzacji czy przy przewodniczącym Komisji), zwiększeniu tego reprezentatywności, oraz zakresie kompetencji zapewniającym realny wpływ na realizację polityki regulacyjnej sprzyjającej innowacjom AI. Niejasny będzie też charakter Społecznej Rady i jej stanowisk. Zwracamy uwagę, że do dziś nie została powołana analogiczna Rada przewidziana ustawą o ochronie danych osobowych. PUODO (bez względu na to, kto pełni aktualnie funkcję Prezesa), zdaje się upatrywać w stanowiskach “swojej” Rady ryzyka ograniczenia jego niezależności i utrudnienia swobody podejmowania decyzji i działań. Można się spodziewać, że KRIBSI będzie napotykać na te same trudności względem “swojej” Społecznej Rady. 6) PIIT z zadowoleniem odnotował utrzymanie instytucji “opinii indywidualnych”, z jednoczesnym dostosowaniem jej do wymogów unijnego prawa. 7) Z zaniepokojeniem odnotowujemy utrzymywanie podejścia polegającego na kreowaniu w tej (oraz innych ustawach wdrażających do polskiego prawa przepisy prawa Unii) odrębnych procedur, że szczególnymi terminami, środkami odwoławczymi, itp. zamiast dążenia do utrzymaniu spójnego postępowania administracyjnego w ramach państwa. Wielość rozwiązań w tym obszarze nie tylko jest obciążeniem dla administracji i osób prywatnych, ale przyczynia się do braku pewności prawa. Zwłaszcza, gdy AI stanie się technologią powszechnie wykorzystywaną w najróżniejszych dziedzinach generując wątpliwości co do wyboru właściwej ścieżki postępowania. Jak wielokrotnie postulowaliśmy wcześniej, punktem wyjścia dla właściwego ukształtowania tej sfery w ustawie powinny być zapisy KPA kolegialności prac przy jednoczesnym wspieraniu działań administracyjnych i technicznych przez pracowników Biura Komisji. 6. PTI Uwagi ogólne 1. Uwaga ogólna_1: Projekt ustawy zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której członkami byliby przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji. Tymczasem wśród proponowanych członków Komisji nie ma przedstawicieli Ministerstwa Rozwoju i Technologii, czy też Ministerstwa Nauki i Szkolnictwa Wyższego. Uwaga wyjaśniona 1.Projektodawca nie przewiduje przedstawicieli Ministerstw w składzie Strona | 8 Nie ma ich również wśród uczestników w posiedzeniach Komisji bez prawa głosu. Prosimy o rozważenie dodatkowych instytucji, których przedstawiciele wchodziliby w skład instytucji nadzorczych. 2. Uwaga ogólna_2: Zdziwienie budzi też zaliczenie do tego gremium przedstawicieli niektórych instytucji. Jak zostało uzasadnione uznanie np. Rzecznika Praw Dziecka lub Krajowej Rady Radiofonii i Telewizji za instytucje kluczowe dla rozwoju AI? Prosimy o rozważenie włączenia przedstawicieli tych instytucji, które naprawdę będą kołem zamachowym dla rozwoju systemów SI (LLM). 3. Uwaga ogólna_3: Skład Komisji vs. Społeczna Rada ds. Sztucznej Inteligencji a. Komisja ma się składać w większości z urzędników instytucji centralnych, z których pewnie niewielu jest „specjalistami w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji”. b. Merytoryczne zaplecze Komisji ma stanowić Społeczna Rada do spraw Sztucznej Inteligencji, której opinie i stanowiska nie są jednak wiążące dla Komisji. Ponieważ zapotrzebowanie na wysokiej klasy specjalistów AI zacznie przekracza ich dostępną liczbę należy się spodziewać trudności w skompletowaniu składu Rady, jako że za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie. Grozi to również powołaniem do Rady mało kompetentnych osób, które mają dużo wolnego czasu i są zainteresowane kolejnym wpisem do CV. c. Zarobki dobrego specjalisty AI są teraz mniej więcej na poziomie 7 według hierarchii wynagrodzeń korporacyjnych działów HR (human resources). To oznacza płacowe widełki od miliona dolarów do dwóch rocznie, uwzględniając w tym standardowe apanaże typu stock options (możliwość zakupu akcji firmy po atrakcyjnej cenie), firmowy samochód i opiekę medyczną oraz apanaże ponadstandardowe. d. Ze społecznym charakterem Rady kontrastują stosunkowo wysokie wynagrodzenia i nagrody członków Komisji (zwłaszcza Przewodniczącego i Zastępców). W świetle powyższych obserwacji, proponujemy rozważenie odwrócenia składu Komisji i przesunięcie – w miarę możliwości – osób kompetentnych do Komisji, a nie pozostawienie ich w społecznej Radzie, co pozwoli także na wynagradzanie ludzi kompetentnych w zakresie działania organów nadzorujących dziedzinę wiedzy. Urzędnicy instytucji centralnych mogliby się znaleźć w organie o charakterze koordynującym. Uwaga ogólna_4: Sztuczna Inteligencja jest już na takim poziomie rozwojowym, że ukształtowały się jej podobszary wymagające odmiennych specjalizacji. W KRiBSI, celem zapewnienia stosownej niezależności organu. 2.Na skutek zgłoszonych uwag przez ten organ Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie. Krajowa Rady Radiofonii i Telewizji jest postrzegana jako organ kluczowy dla rozwoju AI w szczególności w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo. 3.Za obsługę KRiBSI odpowiedzialne będzie Biuro Komisji stanowiące właściwe zaplecze kadrowe do realizacji zadań Komisji. Górny limit jest konieczny dla sprawności Strona | 9 związku z tym należałoby rozważyć podniesienie górnego limitu odnoszącego się do składu Rady. funkcjonowania Społecznej Rady. 7. IWP Uwaga ogólna Na poziomie UE trwają intensywne prace związane z praktycznym wdrożeniem Aktu ws. Sztucznej inteligencji – rozporządzeniem, które – choć stosuje się bezpośrednio (nie wymaga implementacji) – potrzebuje dookreślenia wymogów związanych z transparentnością. Na ostatnim etapie formułowania znajdują się obecnie zakresy „Kodeksu praktyk dla systemów sztucznej inteligencji ogólnego przeznaczenia”. Prace skupiają się na zredagowaniu środków, jakie w zakresie zgodności z prawem autorskim mają podejmować dostawcy systemów AI, jak i przyszłego szablonu przejrzystości (jakie informacje mają dostawcy systemów AI prezentować przy swoich usługach). W związku z faktem, iż wymogi przejrzystości zredagowane w drugim już projekcie kodeksu praktycznie nie uwzględniają zgłaszanych jeszcze w zeszłym roku uwag posiadaczy praw, w tym wydawców prasy, europejskie organizacje wydawców i nadawców wystosowały wczoraj list otwarty do wiceprzewodniczącej KE – Henny Virkkunen, zwracając uwagę na konieczność wprowadzenia poprawek, tak by przyszły Kodeks zawierał skuteczne rozwiązania i realizował cel zarówno AI A Uwaga wyjaśniona Uwaga poza zakresem projektu ustawy. 8. IWP Repropol Uwaga ogólna Ponownie sygnalizujemy w ramach ogólnych uwag ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku nie wydaje się dostatecznie zabezpieczać potrzeby nowego urzędu oraz jego kadry, o czym przecież wyraźnie stanowi art. 70 ust. 3 AIA (dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”). Z dokumentu OSR wynika, iż średnie miesięczne wynagrodzenie brutto pracowników przewiduje się na poziomie 15 tys. zł. Nie wydaje się, aby było ono konkurencyjne, zwłaszcza w perspektywie kolejnych lat. Konsekwentnie podkreślamy finansowy aspekt funkcjonowania urzędu, ponieważ chcielibyśmy, aby poczynione założenia stworzenie prawdziwie profesjonalnego urzędu wytrzymywały konfrontację z rzeczywistością. Uwaga wyjaśniona Zdaniem projektodawcy zaproponowane finansowanie jest wystarczające. Jeśli (trudny do oszacowania) rozwój sektora AI w najbliższych latach i korespondująca z nim duża liczba spraw będących przedmiotem prac Komisji uzasadni zwiększenie poziomu finansowania, projektodawca uzna za zasadne rozważenie nowelizacji prawa. Dodatkowo należy nadmienić, że finansowanie rozwoju badań i wdrożeń AI Strona | 10 odbywa się za pomocą innych, niezależnych od zakresu regulowanego przez projekt mechanizmów finansowych będących w gestii m.in. Narodowego Centrum Badań i Rozwoju, Ministerstwa Funduszy i Polityki Regionalnej czy Ministerstwa Rozwoju i Technologii. 9. IWP Repropol Uwaga ogólna Art. 4 AIA Ponownie podnosimy potrzebę wyartykułowania w UoSSI obowiązku permanentnego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Choć zaniechanie realizowania tego obowiązku nie stanowi samodzielnego naruszenia, które może być przedmiotem postępowania, dopełnienie obowiązku zapewnienia należytego kształcenia jest brane pod uwagę w procesie kompleksowej oceny zgodności z AIA. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias), czy ryzyka naruszeń cudzych praw w postaci dóbr osobistych czy prawa autorskiego. Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Uwaga wyjaśniona Obowiązki dotyczące zapewnienia odpowiedniego poziomu kompetencji wynikają wprost z art. 4 rozporządzenia 2024/1689. 10. SFP-ZAPA Uwaga ogólna Brak uregulowania Jak wskazywaliśmy już podczas pierwszej tury konsultacji Projektu – i nie uległo to zmianie – ustawa ma mieć zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem wbrew tytułowi projektowanej ustawy jej zakres został zawężony jedynie do regulacji kwestii instytucjonalnych, proceduralnych i nadzorczych. Nie zostały w niej uregulowane inne aspekty związane z funkcjonowaniem sztucznej inteligencji, w tym odnoszące się do ochrony praw autorskich lub praw pokrewnych. Rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, jednakże w motywie 105 jednoznacznie przesądza, że każde wykorzystanie treści chronionych Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. Dotyczą one kwestii związanych z prawami autorskimi wykraczającymi poza Strona | 11 prawem autorskim wymaga zezwolenia danego podmiotu praw, chyba że zastosowanie mają odpowiednie wyjątki i ograniczenia dotyczące praw autorskich. Obecne regulacje prawa autorskiego wymagają w związku z tym rozwinięcia i doprecyzowania w prawie krajowym w kontekście korzystania z twórczości na potrzeby sztucznej inteligencji. Rozwiązanie przewidziane w ustawie o prawie autorskim i prawach pokrewnych dotyczące wyjątku na potrzeby eksploracji tekstów i danych (z ang. TDM – text and data mining) przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”) jest bowiem bezsprzecznie niewystarczające. Nic nie stoi na natomiast przeszkodzie, aby kwestie korzystania z utworów na potrzeby sztucznej inteligencji uregulować w prawie krajowym. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Jak była o tym mowa wcześniej, Akt o AI w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Pomimo tego architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw. Często nadużywając wyjątku przewidzianego w art. 4 dyrektywy DSM, bądź kwestionując dokonane w oparciu o ten przepis zastrzeżenie z uwagi na to, że nie zostało sformułowane w tym przepisie w sposób wystarczająco precyzyjny. Kwestionowane są granice samego wyjątku, jak i praktyczne sposoby jego realizacji. Dochodzi tym samym do jego nadinterpretacji poprzez uznanie, że może stanowić generalną podstawę do szkolenia modeli sztucznej inteligencji (każdego jej rodzaju). Stąd też potrzeba przesądzenia, że wyjątek dotyczący TDM ten nie może być stosowany na potrzeby trenowania sztucznej inteligencji, a zwłaszcza jej generatywnej postaci, jest niewątpliwa i konieczna. W związku z powyższym, z żalem odnotowujemy, że Projekt nadal nie przewiduje żadnych rozwiązań w opisanym powyżej zakresie. Nie docierają do nas także żadne informacje mogące świadczyć o tym, że w najbliższym czasie zostanie podjęta inicjatywa ustawodawcza, która miałaby regulować kwestie związane z ochroną praw autorskich i sztuczną inteligencją. Dzieje się to ze szkodą dla sektora kreatywnego, w tym audiowizualnego, którego członków przedmiotowa regulacja ma w swym założeniu dotyczyć. W naszym przekonaniu brak zapewnienia ochrony praw autorskich i praw pokrewnych w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele Aktu o AI w postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed ramy rozporządzenia 2024/1689. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W kwestii znakowania wytworów systemów sztucznej inteligencji przepisy w tym zakresie przewiduje samo rozporządzenie 2024/1689. Strona | 12 szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy niewątpliwie do czynienia każdego dnia. Wobec tego podtrzymujemy wszystkie postulaty zgłoszone w toku pierwszej tury konsultacji Projektu, tj. w piśmie z dnia 13 listopada 2024 r., związane z koniecznością uzupełnienia obecnie obowiązujących regulacji prawnoautorskich, które odnosiłyby się do przede wszystkim do: 1. znakowania utworów wykorzystywanych na potrzeby sztucznej inteligencji, 2. znakowania wytworów wygenerowanych przez sztuczną inteligencję, 3. realizacji prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM przewiduje możliwość jego wykorzystania na potrzeby sztucznej inteligencji, w tym poprzez organizacje zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 4. uzyskiwania zgód podmiotów uprawnionych na korzystanie z utworów na potrzeby sztucznej inteligencji, w tym przy pośrednictwie organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 5. wynagrodzenia za korzystanie z utworów na potrzeby sztucznej inteligencji, 6. obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskim na potrzeby sztucznej inteligencji, 7. reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. 11. Stowarzyszan ie Autorów ZAiKS Uwaga ogólna Działając w imieniu najstarszej i największej organizacji zbiorowego zarządzania prawami autorskimi w Polsce z niepokojem zaobserwowaliśmy negatywne zmiany, jakie wprowadza Projekt w stosunku do treści ustawy o systemach sztucznej inteligencji, przewidzianej w projekcie z 15 października 2024 r. Konsultowany Projekt ma służyć stworzeniu skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, a tymczasem nie uwzględnia reprezentacji w tym systemie interesów podmiotów, którym służą prawa autorskie i prawa pokrewne do treści, które służą do rozwijania i trenowania sztucznej inteligencji. Przepisy AI Act regulują bezpośrednio działanie na rynku europejskim tzw. modeli AI ogólnego przeznaczenia (dalej też jako „Gen AI”), które ingerują w rynek treści kreatywnych. Z tego powodu zwracamy uwagę na konieczność wprowadzenia w Projekcie zmian, odzwierciedlających wpływ działalności systemów sztucznej inteligencji na te sektory. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. 12. ZPWC Uwaga ogólna Art. 4 AIA Odnotowaliśmy brak w Projekcie wyraźnego wskazania obowiązku ustawicznego podnoszenia kompetencji w zakresie AI, o czym stanowi art. 4 AIA. Również ten przepis Uwaga wyjaśniona Strona | 13 podlega stosowaniu już od 2 sierpnia 2025 r. Choć bywa on często bagatelizowany – przede wszystkim z uwagi na brak wyraźnej sankcji za jego nieprzestrzeganie – jego dopełnienie będzie z pewnością rzutować na ocenę zachowania podmiotów dostarczających i stosujących systemy AI przy ewentualnym decydowaniu o nałożeniu kary. Niezależnie od tego, krytycznie istotne jest uświadamianie społeczeństwa o korzyściach i zagrożeniach związanych z AI. W ramach zagrożeń i ryzyk mieści się poszanowanie cudzej własności intelektualnej, które jest zagadnieniem szczególnie ważkim dla ZPWC. Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 13. ZWIĄZEK TELEWIZJI KABLOWYC H W POLSCE IZBA GOSPODAR CZA Uwaga ogólna Generalna uwaga pod adresem omawianego projektu, jest zbieżna z uwagą jaką poprzednio zgłaszaliśmy pod adresem projektu nr 1 do ustawy o systemach sztucznej inteligencji, a mianowicie zasadza się w zarzucie wyjątkowego niechlujstwa z Państwa strony przy opracowywaniu obu projektów tej samej ustawy, co przejawia się w występowaniu wielu błędów językowych, powtarzaniem wyrazów lub całych fraz, opuszczaniu liter, czy też stosowanie niewłaściwej formy czasownikowej w stosunku do zastosowanego rodzaju rzeczownika (męskiego, żeńskiego lub nijakiego). Projekt ustawy o systemach sztucznej inteligencji ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828(akt w sprawie sztucznej inteligencji)( Dz. U. UE.L.2024.1689 z późn. zm.), zwanego dalej Aktem o sztucznej inteligencji lub Aktem o AI [ust. 1 zd. 1 Oceny Skutków regulacji, zwanej dalej OSR, ust. 1 zd. 1 uzasadnienia projektu ustawy o AI, zwanego dalej uzasadnieniem lub uzasadnieniem projektu]. Oznacza to, że zapisy przepisów prawa krajowego nie mogą w żadnym razie pozostawać w sprzeczności z przepisami Aktu o sztucznej inteligencji będącego przecież rozporządzeniem, gdyż rozporządzenie to ma zasięg ogólny, wiąże w całości i jest bezpośrednio stosowane we wszystkich krajach członkowskich [art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej z dnia 25.03.1957 r. (Dz. U. z 2024 r. nr 90 poz. 864/2 z późn. zm.), zwanego dalej Traktatem o funkcjonowaniu Unii Europejskiej]. Skoro zatem wolą prawodawcy unijnego wiążącą dla polskiego projektodawcy krajowy organ nadzoru nad rynkiem sztucznej inteligencji winien wykonywać swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm jego działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia(art. Uwagi częściowo uwzględnione Uwaga uwzględniona w zakresie gwarancji niezależności organu (skład Komisji, sposób powołania Przewodniczącego i jego Zastępców i in). Sposób wyboru członków Komisji nie uległ zmianie, nie budzi on bowiem zastrzeżeń od strony prawnej. Natomiast zmianie sam skład Komisji (zmiana podmiotów wskazujących przedstawicieli). W zakresie obecności w składzie Komisji przedstawiciela Rzecznika Praw Dziecka, należy wskazać że na skutek zgłoszonych uwag organ ten został Strona | 14 70 ust. 1 Aktu o sztucznej inteligencji), to doprawdy trudno zgodzić się z zapatrywaniami projektodawcy, wedle których tę niezależność, bezstronność i obiektywizm działania organu nadzoru nad rynkiem sztucznej inteligencji gwarantować by miał stricte urzędniczy skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej Komisją, proponowany w art. 6 ust. 2 projektu w odniesieniu do członków Komisji nie będących Przewodniczącym lub jednym z dwóch Zastępców Przewodniczącego. Niezależności, bezstronności i obiektywizmu w działaniu członków Komisji nie będących Przewodniczącym oraz dwoma Zastępcami Przewodniczącego nie gwarantuje delegowanie do prac w Komisji swoich pracowników będących urzędnikami przez siedmiu regulatorów wskazanych w art. 6 ust. 2 projektu, co zdaniem projektodawcy ma zagwarantować współpracę między regulatorami (strona 8 uzasadnienia projektu), świadczyć o tym, że do Komisji powołano przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), wyspecjalizowanych w różnych obszarach, w tym organów nadzoru (strona 9 uzasadnienia projektu). O braku niezależności, bezstronności i obiektywizmu w działaniu członków Komisji wywodzących się spośród siedmiu regulatorów z pewnością nie będzie przesądzać wzgląd na to, że przedstawiciele tych siedmiu regulatorów nie będą należeli do korpusu służby cywilnej, zaś do Urzędu Komisji jako organu nie znajdą zastosowania przepisy ustawy z dnia 16.09.1982 r. o pracownikach urzędów państwowych (tekst jedn. Dz. U. z 2023 r. poz. 1917) [str 3-4 OSR projektu]. O ile bowiem nie budzi wątpliwości tryb powoływania Przewodniczącego Komisji przez Sejm za zgodą Senatu spośród osób spełniających wymogi zakreślone projektem ustawy o AI (art. 16 ust. 1 w zw. z art. 16 ust. 2 projektu ustawy o AI), podobnie jak i nie budzi wątpliwości tryb powoływania Zastępców Przewodniczącego Komisji co prawda przez Przewodniczącego Komisji, wyłanianych po przeprowadzeniu wstępnej selekcji przez komisję konkursową spośród kandydatów spełniających te same wymogi, które ustawa stawia osobie Przewodniczącego Komisji (18 ust. 1 w zw. z art. 18 ust. 2 projektu ustawy o AI), to już tryb powołania przez siedmiu regulatorów swoich podwładnych z urzędu świadczyć może o niedopuszczalnym ich powołaniu w świetle regulacji art. 70 ust. 1 Aktu o sztucznej inteligencji, gdyż powołanie w skład Komisji urzędników podlegających regulatorom z całą pewnością nie gwarantuje ich bezstronności, niezależności i obiektywizmu w trakcie wykonywania przez nich działań, kompetencji i uprawnień w ramach pracy Komisji. Skład zatem członków Komisji niebędących jej Przewodniczącym lub dwoma Zastępcami Przewodniczącego zaproponowany w art. 6 ust. 2 projektu ustawy o AI nie jest możliwy do pogodzenia z regulacją art. 70 ust. 1 Aktu o sztucznej inteligencji, co świadczy o niedopuszczalnej sprzeczności regulacji art. 6 ust. 2 projektu ustawy o AI z wykreślony ze składu Komisji. Będzie on jednak organem uprawnionym do zgłaszania członków do Społecznej Rady ds. Sztucznej Inteligencji. Ponadto rzecznik Praw dziecka jak i inne wskazane w uwadze organy będą mogły brać udział w pracach Komisji na zasadach przewidzianych w rat. 6 ust. 3. W zakresie wymogu odpowiednich kompetencji członków Komisji, projektodawca kierował się założeniem zapewnienia przez instytucje wskazujące przedstawicieli do udział w pracach Komisji odpowiedniego poziomu kompetencji tych osób. Odstąpiono zatem od podejścia opartego na koniecznością udokumentowania kompetencji w przypadku członków Komisji. W zakresie wymogu posiadania Strona | 15 normą najwyższego prawa wspólnotowego, czyli art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej. Nie może też umknąć uwadze, że proponowany w art. 6 ust. 2 projektu ustawy o AI skład członków Komisji jest niezwykle dowolny albowiem w sytuacji, gdy projektodawca twierdzi, że członkowie Komisji wskazani w tym przepisie są przedstawicielami organów kluczowych dla osiągniecia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), to zasadnie można zapytać, skąd zatem w tym składzie przedstawiciel Rzecznika Praw Dziecka, przy jednoczesnym braku przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, Rzecznika Praw Obywatelskich, Rzecznika Praw Pacjenta, Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Patentowego RP, których rola w nadzorze nad rozwojem i działaniem systemów AI wydaje się być o wiele bardziej kluczowa niż rola Rzecznika Praw Dziecka. Mając z kolei na uwadze, że wolą prawodawcy unijnego „Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych.”(art. 70 ust. 3 Aktu o sztucznej inteligencji) zastanawiać musi dlaczego jedynie Przewodniczący Komisji oraz jego dwaj Zastępcy muszą wyróżniać się wiedzą oraz posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji, jak również doświadczeniem zawodowymi uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, posiadać co najmniej wyższe wykształcenie i tytuł zawodowy magistra, magistra inżyniera lub równorzędny, a także co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji (art. 16 ust. 2 pkt. 4, pkt. 3, pkt 5 projektu ustawy o AI, art. 16 ust. 2 pkt. 4, pkt. 3, pkt. 5 w zw. z art. 18 ust. 2 projektu ustawy o AI), tymczasem tego rodzaju wymogów nie postawiono pozostałym członkom Komisji. Brak postawienia tego rodzaju wymogów kompetencyjnych pozostałym członkom Komisji stanowi ewidentną obrazę regulacji art. 70 ust. 3 Aktu o sztucznej inteligencji w zw. z art. 288 zd. 2 i zd. 3 traktatu o funkcjonowaniu Unii Europejskiej). Dziwić także musi, że projektodawca w odniesieniu do pozostałych członków Komisji odstępuje od wymogu posiadania obywatelstwa polskiego, korzystanie z pełni praw publicznych, braku skazania prawomocnym wyrokiem za przestępstwo umyślne lub umyślne przestępstwa skarbowe, posiadania nieposzlakowanej opinii oraz dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 16 ust. 2 pkt. 1, pkt. 2, pkt. 6, pkt. 7 projektu ustawy o AI), co może doprowadzić do sytuacji, że w tak ważnej obywatelstwa polskiego należy wskazać, że w tym zakresie obowiązują przepisy dotyczące poszczególnych urzędów obsługujących wskazane w przepisie 6 ust. 2 podmioty. Dodatkowo w posiedzeniach Komisji, w razie potrzeby, mogą dodatkowo wziąć udział inne osoby, posiadające odpowiednie kompetencje, będące pracownikami tych instytucji. W kwestii nierównego traktowania kandydatów na Przewodniczącego oraz Zastępców Przewodniczącego w zakresie informacji dotyczących miejsca zamieszkania należy wyjaśnić, że różnica ta wynika z różnych trybów naboru. Dodatkowo należy wskazać, że przez miejsce zamieszkania rozumie się miejscowość. Celem przepisu art. 25 ust. 2 jest, aby do składu Strona | 16 strategicznie dla kraju dziedzinie w Komisji zasiądą przestępcy skazani prawomocnie za przestępstwa szpiegostwa, w tym szpiegostwa przemysłowego, sabotaż, próbę obalenia siłą władz naszego kraju, i co gorsza będą oni mogli będąc w większości w składzie Komisji przegłosować każdą decyzję (art. 7 ust. 2 projektu ustawy o AI). Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje zatem zastosowanie trybu i zasad powołania Zastępców Przewodniczącego Komisji także do powołania pozostałych siedmiu członków Komisji. Proponujemy zatem nadanie art. 6 ust. 2 projektu ustawy o AI nowego brzmienia „Do powołania siedmiu Członków Komisji znajduje zastosowanie regulacja art. 18 ustawy.”. Pojawia się także uzasadniona wątpliwość dotycząca nierównego traktowania Przewodniczącego Komisji oraz kandydatów na jego Zastępców. Mianowicie w razie powołania Przewodniczącego nigdzie nie jest publikowany jego adres zamieszkania, tymczasem w odniesieniu do kandydatów na Zastępcę Przewodniczącego, w ogłoszeniu o wyniku naboru podaje się adresy zamieszkania wyłonionych kandydatów na Zastępców Przewodniczącego (art. 18 ust. 13 pkt 3 in principio projektu ustawy o AI). Regulacja tego rodzaju jawi się o tyle niezrozumiałą w czasie szeroko zakrojonej polityki ochrony danych osobowych osób fizycznych. Proponujemy zatem nadanie nowego brzmienia art. 18 ust. 13 pkt. 3 projektu ustawy o AI „imiona, nazwiska wybranych kandydatów albo informację o niewyłonieniu kandydata”. W art. 12 ust. 3 pkt. 4 projektu ustawy o AI opuszczono literę „o” pomiędzy słowami „lub informację” i „jego unieważnieniu”, którą w tym miejscu rzeczonej regulacji należy wprowadzić. Projektodawcy należy zwrócić uwagę na oczywisty błąd prawny zawarty w art. 25 ust. 2 projektu ustawy o AI, albowiem do głosowania w konkretnej sprawie można stosować głosowanie zwykłą większością głosów rozumianą jako różnicę między glosami oddanymi za uchwałą i głosami oddanymi przeciwko uchwale pomijając głosy wstrzymujące się. Natomiast w przypadku wyborów przeprowadza się nie głosowanie, lecz wybory, a zatem nie głosuje się za kandydatem lub przeciwko kandydatowi, lecz jedynie oddaje się głosy za kandydatem (pytanie czy w trakcie choćby wyborów parlamentarnych głosując na jednego z kandydatów listy danej partii skreślamy wszystkich innych kandydatów tej partii oraz wszystkich kandydatów umieszczonych na innych listach wyborczych, - oczywiście że w taki sposób się nie głosuje). Rady weszły osoby, które uzyskają zwykłą większość głosów oddanych podczas głosowania w Komisji. W przypadku natomiast wygaśnięcia członkowska albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji, spośród pozostałych zgłoszonych kandydatów (art. 25 ust. 9). Celem przepisu art. 26 ust. 1 jest, aby Przewodniczący Rady i Zastępca Przewodniczącego Rady byli powoływani przez Komisję. Art. 26 ust. 4 nie wyłącza stosowania w zakresie zwolnienia z tajemnicy przepisów szczególnych w tym zakresie. W związku ze zmianą formy organizacji Biura art. 28 otrzymał nowe brzmienie, a wskazane Strona | 17 Przy dziesięcioosobowym składzie Komisji wybierającej członków Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, kandydat, który za wyborem uzyskał 2 głosy, jeden glos przeciw, a siedmiu członków Komisji wstrzymał się od głosu wejdzie do składu Rady, zaś kandydat, który uzyskał pięć głosów za wyborem przy pięciu glosach przeciwnych do Rady nie wejdzie, choć w normalnych wyborach by wszedł do składu Rady, skoro uzyskał o trzy głosy więcej za wyborem niż kandydat, który uzyskał za wyborem raptem dwa glosy. Co jeszcze dziwniejsze pierwotny skład członków Rady jest wybierany (art. 25 ust. 2 projektu ustawy o AI), natomiast w przypadku ustania przed upływem kadencji członkostwa w Radzie na wakujące miejsce Komisja nie dokonuje wyboru nowego członka, lecz nowego członka powołuje. Pytanie skąd się wzięło takie zróżnicowanie trybu włączenia danej osoby do składu Rady, czyli wybór przy ustalaniu pierwotnego składu Rady oraz powołanie w przypadku uzupełniania miejsca w Radzie do końca kadencji na wakujące miejsce. Celem zatem ujednolicenia proponowanych regulacji dotyczących trybu ustalania składu Rady, a także doprowadzenia proponowanych regulacji do zgodności z zasadami prawa proponujemy: a/ w art. 25 ust. 2 in fine projektu ustawy o AI skreślić treść w brzmieniu „zwykłą większością głosów”, b/ w art. 25 ust. 7 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. W regulacji art. 26 ust. 1 zd.1 in principio projektu ustawy o AI wątpliwości budzi przyjęcie trybu powołania przez Komisję Przewodniczącego Rady i jego Zastępca. Wydaje się, iż w rzeczywistości właściwym rozwiązaniem zgodnym z rzeczywistym stanem rzeczy byłoby wprowadzenie regulacji mocą, której Przewodniczący Rady i jego Zastępca są wybierani przez Komisję. Proponujemy zatem w art. 26 ust. 1 zd. 1 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. Regulacja art. 26 ust. 4 zd. 2 projektu ustawy o AI budzi o tyle wątpliwość, że sugeruje, iż Komisja w razie ziszczenia się przesłanek opisanych w tym przepisie zawsze będzie mogła zwolnić członka Komisji z zachowania tajemnicy, a przecież tak nie jest, gdyż w przypadku uzyskania dostępu[u do informacji niejawnych nie w każdym przypadku Komisja będzie uprawniona do zwolnienia z zachowania tajemnicy, gdyż odnośnie w tym zakresie uwagi stały się nieaktualne. Mając na uwadze przedmiot regulacji, jakim są systemy sztucznej inteligencji oraz dbając o sprawne przeprowadzenie kontroli i jak najmniejsze obciążenie przedsiębiorców zasadne jest pozostanie przy zasadzie prowadzenia czynności kontrolnych w sposób zdalny. Kontrole przedsiębiorców na bazie projektowanych przepisów będą prowadzone z poszanowaniem przepisów ustawy - Prawa przedsiębiorców. Wskazane obecnie w art. 30 ust. 3 pkt 1 oraz ust. 4 odesłania do przepisów ustawy - Prawo przedsiębiorców należy uznać za właściwe. Art. 46 ust. 1 (obecnie art. 38) został skorygowany. Art. 46 ust. 3 (obecnie art. 38 ust. 3) został skorygowany w zakresie Strona | 18 informacji niejawnych może okazać, że inny organ jest uprawniony do stosowania zwolnienia z zachowania tej tajemnicy niż Komisja. W tej zatem sytuacji reprezentowana przeze mnie Izba Gospodarcza proponuje na początku zdania 2 w art. 26 ust. 4 projektu ustawy o AI dodanie treści w brzmieniu „Z zastrzeżeniem regulacja szczególnych” pozostała część zdania 2 pozostawiając niezmienioną. Natomiast art. 28 projektu ustawy o AI budzi mnóstwo uzasadnionych wątpliwości podnoszonych już przez nas przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji. Art. 28 projektu ustawy o AI świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Pogląd ten znajduje pełne oparcie w regulacji art. 7 ust. 5 projektu ustawy o AI, wedle której Komisja wydaje decyzje i postanowienia w formie uchwał. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 k.p.a. w zw. z art. 104 § 1 k.p.a. w zw. z art. 104 § 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 § 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją (art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postępowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 28 ust. 1 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym uwzględnienia podpisu osobistego. Art. 47 ust. 2 pkt 1 i 2 (obecnie art. 38 ust. 2 pkt 1 i 2) został skorygowany w sposób wskazany w uwadze. Art. 52 ust. 3 został wykreślony. Art. 57 (obecnie art. 49) w zakresie ust. 5 ma na celu zapewnienie możliwości Komisji przedstawienia sądowi istotnego dla sprawy poglądu w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W szczególności w sprawach w sprawach sądowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji. Nie wydaje się jednak zasadne wyłącznie takiej możliwości również w sprawach, w których takie decyzje czy postanowienia Komisji byłyby przedmiotem Strona | 19 przypadku państwowego, obsługującego organ administracji publicznej (art. 28 ust. 2 projektu ustawy o AI). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji (art. 28 ust. 5 pkt. 1 projektu ustawy o AI), które z racji zapewniania obsługi Komisji (art. 28 ust. 1 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 pkt. 1 projektu ustawy o AI), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem (art. 28 ust. 5 pkt. 2 projektu ustawy o AI). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. z art. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał cywilnoprawne i administracyjne kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) i kierujący pracą Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego postępowania przed sądem, jeżeli przemawia za tym interes publiczny. Jednak tego typu sytuacje powinny mieć raczej charakter wyjątkowy. Ocena tego stanowiska w zakresie wiarygodności i przydatności dla sprawy będzie dokonywana przez SOKIK. Uwagi w zakresie korekt redakcyjnych zostały uwzględnione. Art. 103 (obecnie art. 91). Mając na uwadze przepisy rozporządzenia 2024 /1689 oraz cel jaki przyświeca nakładaniu administracyjny kar pieniężnych a także możliwość zawarcia układu w sprawie nadzwyczajnego złagodzenia sankcji zastosowanie wyłączenia przepisów k.p.a nie stanowi regulacji nadmiarowych i szkodliwych dla przedsiębiorców. Art. 479 88h § 2 k.p.c. został skorygowany zgodnie z treścią uwagi. Strona | 20 Komisji (art. 28 ust. 1projektu ustawy o AI) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż „autor” projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacji w stosunkach cywilnoprawnych osób prawnych przez ich organy, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety „autorowi” projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej (art. 5 ust. 1 projektu ustawy o AI) za błędne uznać należy przyznanie ministrowi właściwemu do spraw informatyzacji będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 28 ust. 1 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 28 ust.2 projektu ustawy o AI). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny jest minister właściwy do spraw informatyzacji (art. 17 pkt. 3 k.p.a. w zw. z art. 18 pkt. 1 k.p.a.) i to nad Komisją, Do projektu ustawy załączono nową wersję uzasadnienia. Do projektu ustawy załączono nową wersję OSR. W nowej wersji projektu ustawy uwzględniono uwagi w zakresie błędów wskazanych w uwagach. Jednocześnie należy zauważyć, że projekt pod względem redakcyjnym i legislacyjnym będzie jeszcze dopracowywany na etapie komisji prawniczej. Strona | 21 a nie jak błędnie przyjęto w art. 28 ust. 4 projektu ustawy o AI, nad Biurem Komisji, minister właściwy do spraw informatyzacji winien pełnić nadzór. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę, usuwając tym samym wiele nieprawidłowości, należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego, poprawnego brzmienia art. 28 projektu ustawy o AI: „1. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje minister właściwy do spraw informatyzacji. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6.Komisja posiada prawo używania pieczęci z godłem państwowym.”. W art. 37 ust. 4 in principio projektu ustawy o AI należy usunąć zbędnie użyte w pierwszym wersie powtórne sformułowanie „do spraw” przed słowem „określi”, a za słowem „informatyzacji”. Generalnie projektodawca w art. 38 ust. 3 in principio projektu ustawy o AI popełnia zasadniczy błąd przyjmując założenie, że przepisy ustawy o AI mogą wprowadzać odmienne regulacje dotyczące kontroli przedsiębiorcy niż przewidziane w rozdziale 5 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn. Dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców. Projektodawca bowiem pominął regulację art. 45 ust. 1 prawa przedsiębiorców, wedle której „Kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w niniejszej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej.”, natomiast jedynie w kwestiach nie objętych regulacją rozdziału 5 prawa przedsiębiorców dopuszczalne jest wprowadzenie regulacji Strona | 22 poświęconych kontroli przedsiębiorcy w przepisach szczególnych (art. 45 ust. 2 prawa przedsiębiorców). Odnośnie zatem kontroli przedsiębiorcy mocą regulacji art. 45 ust. 1 w zw. z art. 45 ust. 2 prawa przedsiębiorców wyłączone zostało stosowanie zasady lex specialis derogat legi generali. W przypadku zatem przeprowadzania kontroli przedsiębiorcy projektodawca może wprowadzać w projekcie ustawy o AI tylko takie regulacje, które nie zostały objęte zapisami rozdziału 5 prawa przedsiębiorców, natomiast odmienności dotyczące zasad i trybu kontroli przedsiębiorcy mogą wynikać jedynie z ratyfikowanych umów międzynarodowych, które obowiązują bezpośrednio w naszym kraju przed przepisami prawa krajowego (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 91 ust. 1 w zw. z art. 91 ust. 2 Konstytucji RP) albo z bezpośrednio stosowanych przepisów prawa Unii Europejskiej, czyli w omawianym przypadku z przepisów Aktu o sztucznej inteligencji będącego rozporządzeniem (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej w zw. z art. 91 ust. 3 Konstytucji RP). Ani w uzasadnieniu projektu ustawy o AI, ani też w OSR do projektu ustawy o AI nie wskazano na obowiązywanie ratyfikowanej umowy międzynarodowej lub bezpośrednio obowiązującego w naszym kraju przepisu prawa Unii Europejskiej, które by przewidywały odmienne zasady i tryb przeprowadzania kontroli przedsiębiorcy od uregulowanych w rozdziale 5 prawa przedsiębiorców, a to z tego powodu, iż takowych przepisów po prostu brak. Stosownych regulacji nie zawiera także Akt o sztucznej inteligencji, celem, którego wdrożenia opracowano przecież projekt ustawy o AI. W świetle regulacja art. 45 ust. 1 prawa przedsiębiorców nieuprawnione jest ani dopuszczenie możliwości wprowadzenia odmiennych zasad i trybu przeprowadzania kontroli przedsiębiorcy w ustawie o AI (art. 38 ust. 3 pkt. 1 projektu ustawy o AI), ani też chociażby wyłączenie stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców (art. 38 ust. 4 projektu ustawy o AI). Niedopuszczalność zatem wyłączenia w art. 38 ust. 4 projektu ustawy o AI stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców dopuszczające przeprowadzenie kontroli zdalnej lub niektórych czynności kontrolnych zdalnie jedynie za zgodą przedsiębiorcy jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej, skutkuje niedopuszczalnością wprowadzenia regulacji art. 39 ust. 3 projektu ustawy o AI, wedle której w przypadku kontroli przedsiębiorcy zasadniczym trybem kontroli lub poszczególnych czynności kontrolnych byłoby ich wykonywanie zdalnie oraz regulacji art. 39 ust. 4 projektu ustawy o AI, która jedynie jako wyjątek dopuszcza Strona | 23 przeprowadzenie kontroli lub czynności kontrolnych wobec przedsiębiorcy w sposób inny niż zdalny. Niedopuszczalne zatem w drodze projektu ustawy o AI było wprowadzenie jako zasady kontroli przedsiębiorcy lub czynności kontrolnych wobec przedsiębiorcy realizowanych w sposób zdalny, zaś jedynie jako wyjątek dopuszczenie odstępstwa od tej reguły. Należy wskazać, że już przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji na niedopuszczalność tego typu regulacji wskazał Państwu Rzecznik Małych i Średnich Przedsiębiorców w piśmie z dnia 12.11.2024 r. znak WPL.277.2024.GG, jak widać jednak Minister Cyfryzacji za nic miał uwagi Rzecznika Małych i Średnich Przedsiębiorców, które to uwagi znajdowały pełne oparcie w przepisach prawa, odmiennie niż projekt ustawy o AI w tym zakresie. Oczywiście regulacja przewidująca jako zasadę kontrolę lub czynności kontrolne realizowane zdalnie (art. 39 ust. 3 projektu ustawy o AI) oraz odstępstwo od tej zasady (art. 38 ust. 4 projektu ustawy o AI) będą zgodne z prawem pod warunkiem, jednakże wykonywania tej kontroli lub czynności kontrolnych wobec podmiotów nie będących przedsiębiorcami. W zaistniałej sytuacji Związek Telewizji kablowych w Polsce Izba Gospodarcza proponuje: w art. 38 projektu ustawy o AI skreślenie pkt. 1 w ust. 3 oraz skreślenie ust. 4. Przy tego rodzaju poprawieniu regulacji art. 38 projektu ustawy o AI w świetle regulacji art. 45 ust. 1 prawa przedsiębiorców w przypadku kontroli i czynności kontrolnych przeprowadzanych wobec osób nie będących przedsiębiorcami zasadą będzie wykonywanie kontroli lub czynności kontrolnych zdalnie (art. 39 ust. 3 projektu ustawy o AI) przy możliwym odstępstwie od tej zasady wyrażonym w art. 39 ust. 4 projektu ustawy o AI, natomiast przy wykonywaniu kontroli lub czynności kontrolnych przedsiębiorcy zastosowanie znajdzie norma art. 51 ust. 3 a prawa przedsiębiorców, a zatem zdalne wykonywanie kontroli lub czynności kontrolnych będzie uzależnione od zgody przedsiębiorcy i w tym przypadku normy art. 39 ust. 3 i ust. 4 projektu ustawy o AI zastosowania nie będą znajdowały. Absurdalną regulację odnajdujemy w art. 46 ust. 1 projektu ustawy o AI, wedle której projekt protokołu z kontroli sporządza kontrolowany. Regulacja ta jest trudna do wytłumaczenia, albowiem już w ust. 3 art. 46 projektu ustawy o AI przewidziano, że projekt protokołu opatruje podpisem kontrolujący i doręcza go kontrolowanemu. Jeśli tak to by znaczyło, że wolą projektodawcy projekt protokołu sporządza kontrolowany, następnie przekazuje go kontrolującemu, który projekt ten, bez Strona | 24 możliwości wprowadzenia zmian lub poprawek, opatruje podpisem, a następnie ponownie przekazuje go kontrolowanemu. W tej sytuacji zupełnie zbędne stałyby się regulacje art. 46 ust. 4- 7 projektu ustawy o AI dotyczące składania zastrzeżeń do projektu protokołu przez kontrolowanego, bo trudno przypuszczać, by kontrolujący sam sporządzając projekt protokołu i będąc osobą przy zdrowych zmysłach zawarł w nim jakieś ustalenia dla niego niekorzystne, odnośnie których następnie miałby zgłaszać zastrzeżenia. Procedura doprawdy absurdalna. Proponujemy zatem aby wyeliminować tę absurdalną regulację i z tego powodu w art. 46 ust. 1 projektu ustawy o AI słowo „kontrolowany” zastąpić słowem „kontrolujący”. Zdziwienie także musi budzić rozwiązanie wedle którego projekt protokołu kontrolujący może opatrzyć jedynie kwalifikowanym podpisem elektronicznym lub podpisem zaufanym (art. 46 ust. 3 projektu ustawy o AI), gdy tymczasem już sam protokół z kontroli kontrolujący może opatrzyć kwalifikowanym podpisem elektronicznym, podpisem zaufanym lub podpisem osobistym (art. 46 ust. 9 projektu ustawy o AI). Pojawia się zatem uzasadnione pytanie dlaczegóż to kontrolujący projektu protokołu kontroli nie może podpisać podpisem osobistym, gdy tymczasem sam protokół z kontroli może podpisać także tym podpisem. Racjonalności i logiki w tej regulacji dopatrzeć się nie sposób. Aby zaradzić tej niekonsekwencji projektu ustawy o AI proponujemy albo w art. 46 ust. 3 projektu ustawy o AI po słowach „kwalifikowanym podpisem elektronicznym”, a przed słowem „lub” dodać przecinek, a po nim treść „podpisem osobistym” lub też w art. 46 ust. 9 projektu ustawy o AI skreślić przecinek i następującą po nim treść „podpisem osobistym”. Raptem jeden artykuł dalej odnajdujemy kolejny „klejnocik koronny”, a mianowicie projektodawca nie wiadomo w jakim celu w art. 47 ust. 2 projektu ustawy o AI pomiędzy punktem 1 i punktem 2 wprowadza do niczego nie pasujący zwrot „nie i”, zaś w pkt. 2 tegoż przepisu zamiast pojęcia „usunięcia” mówi o „usunięciu”. Oczywistym wręcz jest, że w art. 47 ust. 2 projektu ustawy o AI należy zbędną treść” nie i” zastąpić średnikiem pomiędzy punktem 1 i punktem 2 tegoż przepisu, zaś w pkt. 2 niewłaściwe słowo „usuniecie” zastąpić jedynym właściwym w tym przypadku słowem „usunięcie”. Za sprzeczne z konstytucyjną zasadą sprawiedliwości społecznej (art. 2 w zw. z art. 8 Konstytucji RP) uznać należy obciążenie strony postepowania kosztami tłumaczenia dokumentacji sporządzonej w języku obcym, a przedłożonej przez stronę (art. 52 ust. 3 Strona | 25 zd. 2 projektu ustawy o AI), w sytuacji, gdy to organ prowadzący postępowanie potrzebuje przedmiotowych dokumentów, a nie sama strona postepowania. Proponujemy zatem w art. 52 ust. 3 zdanie 2 in fine projektu u stawy o AI słowa „na własny koszt” zastąpić słowami „na koszt organu prowadzącego postępowanie”. Analizując pełną treść art. 57 projektu ustawy o AI można dojść do przekonania, że całość tego przepisu dotyczy zaskarżania postanowień i decyzji wydanych przez Komisję do Sądu Okręgowego w Warszawie- Sąd Ochrony Konkurencji i Konsumentów. Skoro tak to za niedopuszczalną uznać by należało regulację art. 57 ust. 5 projektu ustawy o AI, z której wynika, że w sprawie, w której zaskarżono do Sądu Ochrony Konkurencji i Konsumentów decyzję lub postanowienie wydane przecież przez Komisję, Komisja poza wniesieniem odpowiedzi na pozew, odpowiedzi na apelację lub odpowiedzi na zażalenie, dodatkowo mogłaby przedstawić sądowi istotny dla sprawy pogląd dotyczący sztucznej inteligencji. Taki zapis prowadziłby do naruszenia zasady równowagi stron w cywilnym postepowaniu sądowym, albowiem Komisja niejako stawałyby się „sędzią” we własnej sprawie wyrażając istotny dla sprawy pogląd dotyczący sztucznej inteligencji w sprawie, w której zaskarżono wydaną przez Komisję decyzję lub postanowienie. W takiej sytuacji sąd sprawę rozpoznający musiałby traktować taki pogląd Komisji jako stanowisko „eksperta” z zakresu spraw sztucznej inteligencji, które to stanowisko raczej byłoby pozbawione obiektywizmu w sprawie, w której zaskarżono postanowienie lub decyzję wydaną przez Komisję będącą także podmiotem wyrażającym istotny pogląd w sprawie. Nie budzi natomiast wątpliwości, że w sprawach sadowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji regulacja ust. 5 posiada rację bytu i w tych sprawach niewątpliwie Komisja mogłaby wyrażać istotny dla sprawy pogląd. Aby zatem usunąć tę błędną regulację należałoby dodać w art. 57 projektu ustawy o AI ust. 6 w brzmieniu „Przepis ust. 5 nie znajduje zastosowania w sprawach, o których mowa w ust. 1-3.”. Kolejny „kwiatuszek” językowy odnajdujemy w art. 61 ust. 2 in principio projektu ustawy o AI, w której to regulacji projektodawca raczył pomylić przypadek, w których użyto rzeczownika „strona”. W regulacji tej winien znaleźć się rzeczownik „strona” użyty we właściwym przypadku, a zatem winien być użyty rzeczownik „Strona”, nie zaś, jak to błędnie uczyniono „Stroną”. Strona | 26 I kolejny błąd językowy pojawia się w art. 61 ust. 8 pkt. 1 projektu ustawy o AI, gdzie projektodawca wyszedł z założenia, że „strona postepowania zaprzestał”, a nie „zaprzestała” naruszania prawa, a póki co strona to rodzaj żeński, więc w czasie przeszłym formą właściwą od „zaprzestać” będzie „zaprzestała”, a nie „zaprzestał”. Zgodnie ze wskazanymi powyżej regułami językowymi należy dokonać poprawki regulacji art. 61 ust. 8 pkt. 1 projektu ustawy o AI. No i nastał czas na mój ulubiony przykład zawarty w art. 63 ust. 1 projektu ustawy o AI, wedle którego „strona postepowania przedstawia Komisji wszystkie znane mu okoliczności”. Strona postepowania jest rodzaju żeńskiego więc znane stronie okoliczności to okoliczności znane „jej” a nie „jemu”, czy jak oryginalnie pisze projektodawca „mu”. Nie budzi zatem wątpliwości co i jak winien poprawić projektodawca w art. 63 ust. 1 projektu ustawy o AI, by zapis ustawowy uczynić zgodnym z zasadami języka ojczystego. Niewiele dalej, bo raptem w ust. 3 zd. 2 tegoż samego art. 63 projektu ustawy o AI projektodawca ponownie myli rodzaj czasownika pochodzącego od rzeczownika rodzaju żeńskiego przyjmując, że „strona postępowania ...przedstawił Komisji”. Oczywistym wręcz jest, że w art. 63 ust. 3 projektu ustawy o AI wskazując na przedstawienie czegoś Komisji przez stronę postepowania, która jest przecież rodzaju żeńskiego winno być sformułowanie, że „strona postępowania... przedstawiła Komisji”, nie zaś, że „strona postępowania... przedstawił Komisji”. W art. 92 ust. 3 projektu ustawy o AI pomiędzy słowem „decyzję”, a słowem „wyłączeniu” opuszczono literę „o”, którą należy dopisać. „Perełkę w koronie” błędów tegoż projektu może stanowić regulacja art. 93 ust. 2, wedle której „Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o:”. Po pierwsze nie wiadomo w ogóle co miałby otrzymać Przewodniczący Komisji, aby mógł podjąć jedną z dwóch decyzji wskazanych w art. 93 ust. 2 projektu ustawy o AI. Po drugie natomiast nie wiadomo o jakim otrzymaniu przez Przewodniczącego, o którym mowa w ust. 2 mówi niniejsza regulacja, która przecież sama jest zawarta w ust. 2, który milczy na temat otrzymania czegokolwiek przez Przewodniczącego przed wydaniem jednego z dwóch rodzajów decyzji. Strona | 27 Wydaje się właściwe nadanie nowego brzmienia art. 93 ust. 2 in principio projektu ustawy o AI „Przewodniczący Komisji po otrzymaniu powiadomienia, o którym mowa w ust. 1, może podjąć decyzję o:”. Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów Aktu o sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 103 projektu ustawy o AI). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów Aktu o sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k § 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k § 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k § 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k § 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 100 ust. 2-9 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII Aktu o sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów Aktu o sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji, gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla Strona | 28 podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom Aktu o sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam, gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne, wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 103 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 103 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k § 1 pkt. 1 ustawy z dnia 14.06.1960 r.- Kodeks postępowania administracyjnego”. W art. 479 88h § 2 k.p.c. wprowadzanym art. 107 projektu ustawy o AI projektodawca wykazuje się olbrzymim wręcz niechlujstwem wskazując na stosowanie odpowiednie wskazanych w tym przepisie przepisów k.p.c. do zażaleń na postanowienia Prezesa Urzędu. Można zasadnie zapytać o postanowienia jakiegoż to Prezesa jakiego Urzędu chodzi w omawianym przypadku. Zażalenia bowiem można wnosić zgodnie z regulacją art. 479 88h § 1 k.p.c. na postanowienia Komisji, wobec czego odpowiednie stosowanie niektórych przepisów k.p.c. wskazanych w art. 479 88h § 2 k.p.c. może odnosić się do zażaleń na postanowienia Komisji, a nie na postanowienia Prezesa bliżej nieokreślonego Urzędu. W omawianym przypadku nie może też być mowy o zażaleniach na postanowienia Przewodniczącego Komisji błędnie nazwanego Prezesem Urzędu, gdyż w projekcie ustawy o AI nie przewidziano dla Przewodniczącego Komisji uprawnienia do wydawania postanowień, a zatem nie mogłyby być przedmiotem zażalenia nieistniejące postanowienia Przewodniczącego Komisji. W art. 479 88h § 2 in fine k.p.c. dodawanym art. 107 projektu ustawy o AI „postanowienia Prezesa Urzędu” należy zastąpić słowami „postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji”. Na stronie 6 uzasadnienia projektu w 17 wersie od góry pomiędzy wyrazem „niekorzystne”, a wyrazami „punktu widzenia” opuszczono literę „z”. Na stronie 14 uzasadnienia projektu przewidziano możliwość skorzystania z pomocy funkcjonariuszy innych organów kontroli państwowej i ochrony prawa, problem w tym, że w projekcie ustawy o AI próżno szukać zapisu przewidującego możliwość udzielenia Strona | 29 kontrolującemu pomocy przy przeprowadzaniu kontroli przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa. W art. 45 projektu ustawy o AI projektodawca przewiduje możliwość udzielenia pomocy kontrolującemu jedynie przez Policję lub jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, natomiast udzielenia pomocy przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa nie przewidziano, stąd w tym zakresie uzasadnienie projektu odsyła do nieistniejącej regulacji prawnej projektu ustawy o AI. To kolejny przykład grubego niedbalstwa projektodawcy. Na stronie 16 uzasadnienia projektu w 4 wersie od dołu dwukrotnie powtórzono słowa „w tym”. Na stronie 17 uzasadnienia projektu w wersie 11 od dołu winno być sformułowanie „największą gwarancję”, a nie „największą gwarancją”. Na stronie 5 OSR w 14 wersie od dołu dwukrotnie powtórzono słowa „do spraw”. Na stronie 18 OSR w wersie 19 od dołu winno być użyte słowo „Warszawie” zamiast słowa „Warzawie”. Przedmiotowemu projektowi zarzucić należy olbrzymie wręcz niechlujstwo projektodawcy przy jego opracowywaniu wyrażające się w niesprawdzaniu zapisanych treści projektu oraz jego uzasadnienia i OSR- u, a także występowanie żenujących wręcz, w dodatku bardzo licznych, błędów natury prawnej oraz językowej. Niestety tak poprzedni, jak i obecny projekt ustawy o AI skłania nas do takiej konkluzji, albowiem w obu projektach ustawy o AI resort cyfryzacji wykazał się identyczną niemalże, katastrofalnie niską umiejętnością władania w piśmie językiem ojczystym. Czyżby rzeczywistym „autorem” przedmiotowego projektu była źle zaprogramowana przez resort cyfryzacji sztuczna inteligencja? 14. Związek Miast Polskich Uwagi ogólne Definicje i zakres: Projekt precyzuje definicje prawne związane z SI, co jest istotne dla jednoznaczności przepisów. Ważne jest jednak, aby definicje: były elastyczne, by uwzględniały przyszłe innowacje technologiczne oraz wyjaśniały wprowadzone terminy. Przykładowo, projekt ustawy o SSI posługuje się terminami „dostawca” (art. 3 pkt 3), czy „użytkownik końcowy” (art. 53 ust.4 pkt 2). W słowniku pojęć zdefiniowano termin dostawcy, nie zdefiniowano natomiast terminu „użytkownika końcowego”. Propozycja definicji „użytkownika końcowego” – osoba, która korzysta z systemu i usługi, mając Uwaga wyjaśniona Przedstawione postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. Jednocześnie należy wyjaśnić, że projekt Strona | 30 na celu spełnienie określonych potrzeb – zarówno w kontekście zawodowym, jak i prywatnym. Zasady etyczne: Ustawa kładzie nacisk na bezpieczne, godne zaufania i etyczne wykorzystanie SI, w tym poszanowanie praw człowieka i niedyskryminację. Proponuje się doprecyzowanie mechanizmów monitorowania i egzekwowania tych zasad, aby zapewnić ich skuteczność. Odpowiedzialność prawna: Projekt porusza kwestię odpowiedzialności za działania systemów SI. Warto rozważyć wprowadzenie szczegółowych regulacji dotyczących odpowiedzialności (w tym obowiązków) producentów, dostawców systemów sztucznej inteligencji i użytkowników. Bezpieczeństwo i prywatność: Ustawa zawiera przepisy dotyczące ochrony danych i prywatności użytkowników systemów SI. Istotne jest zapewnienie, przepisów zgodnych z istniejącymi regulacjami krajowymi i unijnymi, takimi jak RODO oraz że przewidują skuteczne środki ochrony przed potencjalnymi naruszeniami. Nadzór i egzekwowanie: Projekt przewiduje utworzenie organu nadzorczego ds. SI – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Za kluczowe uważamy precyzyjne określenie kompetencji tego organu, jego zasobów oraz procedur działania, tak aby mógł efektywnie monitorować przestrzeganie ustawy i reagować na naruszenia, oraz umożliwić skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Edukacja i świadomość społeczna: Ustawa podkreśla znaczenie edukacji w zakresie SI (art. 9 pkt 8). Warto rozważyć wprowadzenie programów edukacyjnych dla różnych grup społecznych (grup osób szczególnie narażonych na ryzyka związane ze stosowaniem systemów sztucznej inteligencji), aby zwiększyć świadomość na temat korzyści i zagrożeń związanych ze SI oraz promować odpowiedzialne jej wykorzystanie. ustawy ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689 w zakresie w jakim przepisy tego aktu zaczną obowiązywać od 2 sierpnia 2025 r., stąd też nie wszystkie postulaty mogły zostać uwzględnione. Należy również podkreślić, że według projektodawcy konieczne jest utrzymanie terminologii określonej w rozporządzeniu 2024/1689. Zadania i kompetencje Komisji zostały określone w projekcie ustawy. Strona | 31 Współpraca międzynarodowa: Projekt uwzględnia potrzebę współpracy z innymi krajami w zakresie regulacji SI. Za ważne uznajemy, aby przepisy krajowe były spójne z międzynarodowymi standardami i umożliwiały wymianę doświadczeń oraz harmonizację regulacji. Podsumowując - projekt ustawy o systemach sztucznej inteligencji stanowi solidną podstawę do regulacji tej technologii w Polsce. Oceniamy, iż uwzględnienie powyższych propozycji przyczynić się może do stworzenia ram prawnych sprzyjających innowacjom, jednocześnie chroniąc prawa obywateli i zapewniając bezpieczeństwo. 15. Związek Polskich Autorów i Kompozytoró w ZAKR Uwaga ogólna Nasze środowisko z nadzieją czekało na ustawę, która zabezpieczy i ochroni prawa twórców własności intelektualnej okradanych przez program AI, który bez pozwolenia właścicieli praw do utworów od lat magazynuje pracę twórców z całego świata i w pasożytniczym trybie wykorzystuje ją do produkcji różnego rodzaju wytworów naśladujących rezultaty pracy twórczej człowieka, którego wcześniej okradł. Program AI nie jest inteligencją, lecz narzędziem, którego algorytm pomimo wielu niewątpliwych walorów umożliwia gigantom technologicznym czerpanie zysków z powyższego procederu. Związek Polskich Autorów i Kompozytorów ZAKR uważa, że w dzisiejszych realiach za późno jest na stworzenie twórcom możliwości podjęcia decyzji o odmowie wykorzystywania ich twórczości przez AI, ponieważ ta twórczość najczęściej została już przez program ukradziona. Nie istnieją także wiarygodne narzędzia monitorujące wykorzystywanie poszczególnych dzieł przez firmy zajmujące się AI. Jest szereg innych możliwości, które mogą zatrzymać powszechną grabież naszej pracy. Niestety - zamiast propozycji stworzenia stosownych barier i regulacji powyższych kwestii, proponują Państwo rozmycie problemu przez stworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z której składu usunęliście właśnie Rzecznika Praw Obywatelskich, pozbyliście się głosu doradczego z MKiDN, a ze Społecznej Rady do Spraw Sztucznej Inteligencji usunęliście przedstawicieli środowisk twórczych, chociaż to właśnie na sektory kreatywne i na naszą twórczość najbardziej wpływa generatywna AI. Mamy nadzieję, że te nieprzemyślane zmiany nastąpiły przypadkowo i powyższe błędy zostaną w projekcie ustawy naprawione! Związek Polskich Autorów i Kompozytorów ZAKR stwierdza, że bez pracy twórców własności intelektualnej program AI nie byłby tak atrakcyjny. Natomiast brak ochrony pracy twórców i w konsekwencji jej zawłaszczenie przez AI już powoduje upadek polskiej i światowej kultury. Należy mieć świadomość, że twórcy własności intelektualnej też płacą rachunki, więc nie będą upubliczniać swoich dzieł tylko po to, by zostać okradzionymi przez AI. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Strona | 32 16. ZCP Uwagi ogólne Zgodność projektu z regulacjami unijnymi. Aby zapewnić zgodność projektu z regulacjami unijnymi, konieczna jest szczególnie rewizja Artykułu 42 projektu dot. dostępu do treści klientów przechowywanych w chmurze. len potencjalnie może naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Również zapisy projektu ustawy dotyczące środków egzekwowania, szczególnie w Artykule 53, wykazują potencjalną niespójność z intencjami unijnego Aktu w sprawie Al. 2. Sankcje karne i ich wpływ na innowacje. Jesteśmy na stanowisku, że proponowane sankcje karne w Rozdziale 9 wymagają ponownej oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Należy w naszej opinii w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Te miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. 3. Ryzyko fragmentacji prawa UE. Proponowane przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji unijnej ustawy o sztucznej inteligencji, co może rodzić ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji unijnej ustawy o sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie sztucznej inteligencji w całej UE. Niewystarczające zabezpieczenia informacji chronionych. Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych, bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. I brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Potencjalnie zbyt krótkie terminy ustosunkowania się do zastrzeżeń organów regulacyjnych, nieadekwatne do realiów rynkowych. Część projektowanych przepisów nie zapewnia obecnie przedsiębiorstwom wystarczającego czasu na ustosunkowanie się do zastrzeżeń organów regulacyjnych. Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie (dotyczy to m.in. Art. 53 ust. 3; Artykuł 54 ust. 2; Art. 98 ust. 1). Uwaga wyjaśniona Uwagi dot. zbyt szerokiego zakresu opinii indywidualnych Komisji uznać należy za bezzasadne ze względu na doprecyzowanie przepisów określających zakres przedmiotowy tychże opinii (ograniczonych do interpretacji przepisów ustawy). Przepisy dotyczące terminów przygotowane zostały w celu pogodzenia praw i interesów przedsiębiorców (domyślna forma zdalna, krótki czas kontroli) z potrzebami sprawnego nadzoru i umożliwienia sprawnej reakcji w przypadku ryzyka związanego z niebezpiecznym lub wadliwym systemem sztucznej inteligencji. Przepisy projektu ustawy zostały przygotowane z poszanowaniem przepisów dotyczących zabezpieczania tajemnic Strona | 33 prawnie chronionych jednocześnie zapewniając możliwość pozyskiwania i wymiany informacji na potrzeby realizowanych zadań organów. 17. . SAWP Uwagi ogólne Prawo autorskie Reprezentowane przez nas środowisko artystów wykonawców z uwagą i niepokojem śledzi implementację unijnych regulacji problematyki AI do obowiązującego w Polsce prawa. Możliwości jakie stwarza AI są niezwykle istotne dla polskiej kultury i życia społecznego, w tym dla praw do artystycznych wykonań. Z jednej strony stwarzają ogromne możliwości w zakresie dostępu do dóbr kultury i ich wykorzystania. Z drugiej strony natomiast jest dla nas ważne jest ich precyzyjne wpisanie w obowiązujący system prawny w Polsce, w sposób nienaruszający jego zasad, czytelny i zapewniający zrównoważoną ochronę zarówno w dostępie do twórczości, jak i poszanowania praw do autorów i artystów wykonawców, których twórczy dorobek jest przedmiotem eksploatacji na potrzeby Al. Uzasadnia to przedstawienie naszych krytycznych uwag do obecnego projektu. Obecny projekt stanowi propozycję przepisów implementujące, obowiązujące Polskę jako członka UE, rozporządzenie Parlamentu Europejskiego i Rady Unii Europejskiej2024/1689, z dnia 13 czerwca 2024 roku w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji z uwzględnieniem jego kolejnych zmian, oraz wynikających wydanych dyrektyw UE dotyczących sztucznej inteligencji. Projekt powinien być zsynchronizowany z ostatnią nowelizacji, obejmującą dodanie do ustawy o prawie autorskim i prawach pokrewnych (dalej: PrAut, Dz. U. 1924 rok, poz.1254), art. 26*. Obecny projekt nie spełnia tego oczekiwania. Nie wypełnia w szczególności luk w dotychczas obowiązującej regulacji Al zawartej w PrAut. Ich istnienie prowadzi do niejasności, które stanowią zagrożenie prawidłowego funkcjonowania systemu AI, którego dotyczy również obecny projekt. Mają one duże znaczenie społecznogospodarcze. Są, w konsekwencji, źródłem narastającego niepokoju autorów i artystów wykonawców. Przejawem tego niepokoju jest przede wszystkim często pojawiające się, także w wypowiedziach także eminentnych reprezentantów środowisk twórczych, błędne i wynikające z istniejącego stanu dezorientacji, obawy co do sytuacji twórców, ze względu na coraz większy udział Al w naszym życiu społecznym. Przykładem oczywistych błędów jest traktowanie AI jako zagrożenie dla twórców oraz debaty na temat ochrony autorskiej produktów AI lub udziału AI w procesie tworzenia utworów lub artystycznych wykonań. Należy zatem przypomnieć, że korzystanie przez autora lub artystę wykonawcę ze sztucznej inteligencji jest dobrym prawem każdego twórcy. Utwór lub artystyczne wykonanie powstaje zawsze jako Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W projekcie zawarto jedynie przepisy wymagające regulacji ustawowej we wskazanym powyżej zakresie. Przedmiotowe uwagi w dużej części dotyczą natomiast kwestii praw autorskich, które Strona | 34 projekcja wyobraźni twórcy, jako rezultat jego wrażliwości i zdolności do ujęcia przedmiotu swojej wyobraźni wsposób umożliwiający zapoznanie się z nim przez osoby trzecie i w konsekwencji wykorzystywanie utworu lub artystycznego wykonania w obrocie kulturalnym, gospodarczym, naukowym lub technicznym. Utwór lub artystyczne wykonanie, powinno być zawsze traktowane jako intelektualna całość, ze względu na jej oryginalność i indywidualność, czyli jako przedstawiająca określone walory poznawcze, artystyczne lub naukowe w sposób twórczy, tzn. jako przejaw osobistej wyobraźni i sprawności w danej dziedzinie w jej komunikowaniu. Bez znaczenia jest wykorzystanie w jej treści elementów dotychczasowego dorobku intelektualnego, dostępnych informacji lub określonych narzędzi, do których należy wykorzystanie AI. Wystarczy tu przypomnienie brzmienia art. 1 ust. 1, w odniesieniu do utworów lub art, 85 ust. 1 PrAut, w odniesieniu do artystycznych wykonań. Istotnym elementem wyznaczających ich treść jest uniezależnienie od wartości pod jakim bądź względem, w tym rozmiaru wkładu twórczego, przeznaczenia i sposobu wyrażenia. Fakt, że autor lub artysta wykonawca w procesie tworzenia korzystał z AI, w płaszczyźnie PrAut nie ma żadnego znaczenia. Jeżeli powstały rezultat pochodzi od twórcy w tym choćby znaczeniu, że wykorzystał rezultat „zadany do wykonania przez AI”, bez względu na zakres i znaczenie dla powstałej ostatecznie całości, poddając go weryfikacji, jako odpowiadającej jego widzeniu w danym zakresie, ma miejsce stworzenie dobra mającego cechy utworu lub odpowiednio artystycznego wykonania. W konsekwencji próby ocen w jakim stopniu wykorzystanie AI wpłynęło na powstanie takiego utworu lub artystycznego wykonania, dotknięte jest fundamentalnym błędem, polegającym na zrównywaniu wykorzystania AI (jej produktu) z wkładem twórczym, który pochodzić może jedynie od człowieka ze względu na jego psychofizyczną, duchową, zdolność i wyobraźnię. W odróżnieniu od tego produkt wykorzystania AI bez poddania go ludzkiej weryfikacji nie stanowi dobra oprawnego korzystającego z ochrony. Ochroną objęte jest natomiast korzystanie z AI jako produktu niematerialnego na zasadach ogólnych obowiązującego prawa. Przekracza ramy niniejszych uwag fundamentalna kwestia społeczno-gospodarczego sensu przyjętej w prawie UE (w ślad za nim i w naszym prawie) konstrukcji oświadczeń wyłączających poszczególne pozycje z możności obejmowania ich eksploatacją na potrzeby AI. Najwyraźniej możliwość ta w prawie europejskim została potraktowana jako mająca wywołać poczucie respektowania praw autorów i artystów. Tyle tylko, że praktyczna możliwość kontroli respektowania tych zastrzeżeń przez uprawnionego jest iluzoryczna. Poza tym prowadzi do sprzeczności ze społecznogospodarczą funkcją eksploracji, która z istoty nie powinna dotyczyć pozwalających na indywidualizację wykorzystywanych utworów. Wymaga przypomnienia, że zarówno art. 17, jak i 86. ust. 1 pkt 2 PrAut obejmuje „korzystanie” z utworów i artystycznych wykonań, a korzystanie to obejmuje również wykraczają poza ramy rozporządzenia 2024/1689 a tym samym i projektu ustawy. Projekt został przygotowany zgodnie z zasadami techniki prawodawczej i będzie pod tym kątem opracowywany na etapie prac komisji prawniczej. Projekt podlegał konsultacjom publicznym zgodnie z obowiązującymi procedurami. W celu zapewnienia udziału wszystkich zainteresowanych podmiotów został zamieszczony w BIP na stronie podmiotowej RCL w zakładce Rządowy Proces Legislacyjny. Strona | 35 (jeżeli przepis nie stanowi inaczej) publiczny dostęp do już rozpowszechnionego utworu lub artystycznego wykonania, także więc polegające na wykorzystaniu w ramach AI. Jednym z uwarunkowań tego korzystania powinno być zapewnienie autorom i artystom godziwego (zrównoważonego, propotcjonalnego) wynagrodzenia. To elementarne założenie nie zostało w omawianym projekcie, jak i w prawie dotychczasowym należycie uregulowane i zabezpieczone. I tak: W obowiązującym art. 26%3% PrAut nie zostało zdefiniowane w sposób dostatecznie jednoznaczny podstawowe pojęcie odnoszące się do AI, eksploracji, jako zwielokrotnianie utworów i artystycznych wykonań w odniesieniu do tekstów i danych wykorzystywanych wyłącznie dla cełów badań naukowych, nie dokonywanych w celu osiągnięcia bezpośredniej lub pośredniej korzyści majątkowej. W słowniku zawartym w art. 1 obecnego projektu nie tylko nie ma definicji pojęcia tej eksploracji, ale wyłączenia zawarte w art. 2 tego projektu odsyła do rozporządzenia UE, które również nie zawiera tej definicji, a jedynie określenie ujęte probabilistycznie, w sposób niewyczerpujący określające możliwe funkcje Ponadto określenie to w projekcie nie zostało odniesione do art. 26? PrAut. Niejasność co do zakresu korzystania z utworów i artystycznych wykonań w zakresie eksploracji w procesach korzystania z AI prowadzi do, nierozstrzygniętych w proponowanych przepisach pytań, czy omawiane pojęcie eksploracji może prowadzić do sytuacji rozpoznawalności poszczególnych wykorzystanych w niej utworów lub artystycznych wykonań w produktach sztucznej inteligencji oraz, czy ich twórcom została zagwarantowana realna możliwość kontroli respektowania złożonego zastrzeżenia złożonego zgodnie z art. 269 PrAut. Przeciwnie, określone w art. 2 projektu ustawy wyłączenia nie korespondują, a nawet pozostają w sprzeczności z art. 267 ust. I PrAut. Mają charakter podmiotowy, co rozszerza zakres dozwolonej eksploracji, w stosunku do kryterium dokonywania badań naukowych nie dokonywanych w celu osiągnięciu „bezpośredniej lub pośredniej korzyści majątkowej” (o czym wyraźnie jest mowa w art. 26! PrAut). W konsekwencji, dotychczasowy ustawowo uregulowany zakres eksploracji uległ daleko idącemu poszerzeniu z naruszeniem norm prawa unijnego. Nie została także uregulowana zasadnicza kwestia, rekompensowania wykorzystania utworów i artystycznych wykonań wykorzystanych w ramach eksploracji dopuszczonej w PrAut na zasadach dozwolonego użytku. Odróżnić tu należy dopuszczenie czynności eksploracji jako nieuzasadniającej roszczenia o wynagrodzenie konkretnego uprawnionego, od zasadności rekompensowania wykorzystywania twórczości w zasobach wykorzystywanych przez AI. Prawo zna sytuacje gwarantowania autorom i artystom wykonawcom rekompensowanią, na podstawie badań statystycznych obrazujących zarówno zakres i rozmiar dozwolonego korzystania, jak i wysokość należnej rekompensaty. Odpowiada to społecznym oczekiwaniom (potrzebie) oraz oczywistej słuszności, jak również zasadzie zrównoważonej ochrony. Są to elementarne Strona | 36 zasady propagowane przez UE. Należy zatem oczekiwać ich uwzględniania w przygotowywanych przepisach stanowiących w ramach krajowych element prawa europejskiego. Zastrzeżenia budzą także ograniczenia, zawarte w art. 49 i nast. projektu, dot. czynności kontrolnych jedynie w zakresie uregulowanym w projektowanej ustawie i rozporządzeniu UE. Czy ma to oznaczać, że przedmiotem kontroli nie jest także respektowanie art. 26 ust 2-3 PrAut, a więc tolerowane miałoby być bezpośrednie lub pośrednie uzyskiwanie korzyści majątkowych przez podmioty wymienione w art. 2 projektu? Jest także nieprawidłowe legislacyjnie, zawieranie w prawie krajowym odesłań do rozporządzenia UE. Jeżeli obowiązujące proprio iure rozporządzenie UE zostaje przeniesione do aktu krajowego i to tym bardziej rangi ustawowej, powinien on zawierać wyczerpująco ujętą regulację obowiązującą w danym obszarze. Przemyślenia wymaga zakres regulacji objętej projektowaną ustawą. Powinna ona ograniczać się jedynie do materii wymagającej regulacji ustawowej. Kwestie organizacyjne powinny być uregulowane w przepisach wykonawczych rangi rozporządzenia, do których regulacji ustawa powinna stanowić jedynie podstawę odesłania. W obecnym ujęciu razi regulowanie w obecnym projekcie także materii w znacznym zakresie wykonawczym. Nie sprzyja to czytelności stanowionego prawa. Na koniec uważamy za niezbędne zwrócenie, z ubolewaniem, uwagi na fakt, że wśród siedemdziesięciu adresatów pisma Pana Premiera nie znalazło się nasze Stowarzyszenie. Reprezentujemy znaczące w polskim życiu kulturalnym środowisko twórcze. Jesteśmy zainteresowani treścią projektowanej ustawy i deklarujemy gotowość udziału w pracach nad nią. 18. GRAI Uwaga ogólna Piaskownice regulacyjne Po analizie projektu ustawy o systemach sztucznej inteligencji (SSI) oraz dotychczasowych uwag, konieczne jest dalsze uproszczenie procedur związanych z piaskownicami regulacyjnymi. Kluczowe jest zapewnienie ich ciągłej analizy, autoaktualizacji oraz doskonalenia procesów testowania, by poprawić wydajność i praktyczną użyteczność. Proponowane zmiany mają wyeliminować bariery biurokratyczne, skrócić czas reakcji organów oraz umożliwić ogólnopolski zasięg piaskownic. Poniżej przedstawiamy zmodyfikowane przepisy artykułów w dalszej części tabeli uwag. Wprowadzenie mechanizmów ciągłej analizy, autoaktualizacji procedur i szybkiego wdrażania zmian w piaskownicach regulacyjnych zapewni dynamiczny rozwój systemów testowania AI. Regularny feedback od uczestników oraz dostosowanie procesów do potrzeb rynku pozwoli na zwiększenie efektywności, praktyczności oraz ogólnopolskiego zasięgu piaskownic. Uwaga uwzględniona Zrezygnowano z części przepisów w zakresie piaskownic regulacyjnych. Strona | 37 19. GRAI Uwaga ogólna AI Act nie nakazuje twardej regulacji piaskownic, ale pozostawia krajom członkowskim dużą elastyczność w ich organizacji. Kluczowe elementy to: • Zachęcanie do rozwoju piaskownic, ale bez nadmiernego obciążenia administracyjnego. • Główną rolą państwa jest nadzór i egzekwowanie wymogów, a nie aktywne zarządzanie testami AI. • Nie wymaga formalnego uzyskiwania zgody na uruchomienie testów, o ile są one zgodne z zasadami przejrzystości i kontroli. Oznacza to, że rola państwa może zostać ograniczona do ekosystemu nadzoru, w którym: Firmy same zgłaszają udział w piaskownicy. Państwo monitoruje efekty, ale nie decyduje o ich przebiegu. Organ nadzoru pełni funkcję wspierającą, a nie blokującą innowacje. Uwaga wyjaśniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy w kierunku zmniejszenia obciążeń związanych z rozpoczęciem uczestnictwa. 20. GRAI Uwaga ogólna Obecne ograniczenia w polskim projekcie ustawy Obecny projekt ustawy wprowadza nieprecyzyjne i potencjalnie restrykcyjne regulacje dotyczące piaskownic regulacyjnych, np.: 1. Brak elastyczności – regulacje mogą wymagać od firm formalnego uzyskania zgody, zamiast szybkiej rejestracji i zgłoszenia. 2. Zbyt duża ingerencja organów państwowych – jeśli piaskownica ma działać skutecznie, to rynek powinien mieć większą swobodę w kształtowaniu testów. Brak jednoznacznych procedur wyjścia z piaskownicy – AI Act nie wymaga, by firmy przechodziły skomplikowany proces oceny po zakończeniu testów, a polska ustawa wprowadza dodatkowe obciążenia administracyjne. Uwaga wyjaśniona i częściowo uwzględniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. 21. GRAI Uwaga ogólna Proponowane zmiany w systemie piaskownic regulacyjnych 1. Rezygnacja z wymogu formalnej zgody – wprowadzenie modelu \"na zgłoszenie\" - Każdy podmiot może zgłosić udział w piaskownicy do organu nadzoru, ale nie musi czekać na jego decyzję. - Organ nadzoru ma tylko 30 dni na ewentualne uwagi (np. w przypadku zagrożenia dla praw podstawowych). - Brak sprzeciwu oznacza automatyczne zatwierdzenie. 2. Ograniczenie roli państwa do monitorowania i egzekwowania podstawowych zasad - Organ nadzoru nie decyduje, kto może wejść do piaskownicy, ale pełni rolę kontrolną. - Regularne raporty firm do organu nadzoru zamiast biurokratycznych procedur wstępnych. - Firmy same wybierają metody testów, a państwo nie narzuca dodatkowych obowiązków. Uwaga wyjaśniona Proponowane postulaty zostały częściowo uwzględnione w projekcie ustawy. Strona | 38 3. Wprowadzenie modelu \"kontroli zarządczej\" przez wyznaczenie osób odpowiedzialnych - Każdy podmiot biorący udział w piaskownicy musi wyznaczyć osobę odpowiedzialną za przestrzeganie regulacji. - Osoba ta raportuje wyniki testów do organu nadzoru. - W razie naruszeń – zamiast wykluczenia z piaskownicy, wprowadzenie mechanizmu naprawczego. 4. Piaskownice jako narzędzie do oceny regulacji, a nie ich usztywniania - Testowane technologie mogą być przedmiotem okresowego przeglądu regulacji – wyniki piaskownic powinny wpływać na kształt przepisów. - Możliwość rozszerzenia testów na rzeczywiste warunki rynkowe, jeśli spełniają minimalne wymogi etyczne i prawne. 5. Zachęty do uczestnictwa w piaskownicy - Ulgi regulacyjne dla firm testujących AI w piaskownicy (np. złagodzone wymogi wstępne). - Możliwość uzyskania wstępnej oceny zgodności przed wdrożeniem produktu na rynek. Możliwość uzyskania voucherów na finansowanie testów i procesów walidacyjnych dla MŚP? 22. GRAI Uwaga ogólna Aby zrealizować bardziej rynkowe podejście do piaskownic regulacyjnych i ograniczyć rolę państwa do nadzoru, należy: > Zmodyfikować przepisy tak, aby rejestracja w piaskownicy odbywała się na zgłoszenie, a nie na decyzję organu. > Zdefiniować rolę organu nadzoru jako wspierającą, a nie ograniczającą innowacje. > Umożliwić przedsiębiorstwom większą autonomię w testowaniu AI, pod warunkiem raportowania wyników. > Wprowadzić osoby odpowiedzialne za przestrzeganie regulacji na poziomie firm, zamiast rozszerzać kompetencje państwa. > Zachęcać firmy do uczestnictwa, np. poprzez ulgi regulacyjne i uproszczoną ocenę zgodności. Dzięki temu piaskownice regulacyjne będą faktycznie wspierać rozwój rynku AI w Polsce, zamiast stać się kolejną barierą biurokratyczną. Uwaga częściowo uwzględniona W wyniku zgłoszonych uwag rozdział 8 uległ znacznym zmianom. Zrezygnowano z części regulacji. 23. GRAI Uwaga ogólna Proponujemy rozważenie, aby sądem właściwym do rozstrzygania spraw był Sąd Okręgowy w Warszawie Wydział Własności Intelektualnej. Jako uzasadnienie wskazujemy, że zakres merytoryczny spraw rozstrzyganych przez w/w sąd jest pokrewny z ewentualnym postępowaniem na podstawie projektowanej ustawy o systemach sztucznej inteligencji i tym samym w/w Sąd może kompleksowo rozstrzygać obie materie spraw. Uwaga wyjaśniona Z analizy projektodawcy wynika, że najbardziej właściwym sądem jest Strona | 39 Sąd Okręgowy w Warszawie - sąd ochrony konkurencji i konsumentów. Jest to sąd wysoko wyspecjalizowany, posiadający duże doświadczenie w sprawach o skomplikowanej naturze i szerokim spektrum, posiadający zaplecze merytoryczne oraz organizacyjne umożliwiające sprawne prowadzenie spraw z zakresu systemów sztucznej inteligencji 24. GRAI Uwaga ogólna Na gruncie art. 4 rozporządzenia 2024/1689 postulujemy, aby dodać do projektowanej ustawy o systemach sztucznej inteligencji obowiązek szkoleń personelu ze wskazaniem częstotliwości takich szkoleń np. nie rzadziej niż raz na 12 miesięcy. W/w obowiązek powinien dotyczyć członków personelu dostawcy i podmiotu stosującego zgodnie z definicjami zawartymi w rozporządzeniu 2024/1689 (art.3 ust. 3 oraz art. 3 ust. 4 rozporządzenia). Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 25. GRAI Uwaga ogólna Na gruncie art. 27 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji wprowadzić przepis zgodnie, z którym „Ocena, o której mowa w art. 27 rozporządzenia 2024/1689 dotyczyć będzie wszystkich rodzajów operacji przetwarzania danych osobowych na podstawie wykazu organu nadzorczego, o którym mowa w art. 35 ust. 43 rozporządzenia 2016/679 w systemach wysokiego ryzyka. Organ nadzorczy o którym mowa w art. 4 pkt 21 rozporządzenia 2016/679 opracuje i przedstawi wzór kwestionariusza do oceny skutków przetwarzania danych osobowych o którym mowa w art. 35 rozporządzenia 2016/679.”. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków Strona | 40 Uzasadnienie: Ocena skutków przetwarzania danych osobowych na gruncie art. 35 rozporządzenia 2016/679 jest narzędziem, które sprawia szereg trudności administratorom danych. Warto śladem prawodawcy unijnego, który w art. 27 ust. 5 rozporządzenia 2024/1689 wskazał, iż ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych zostanie zaproponowana przez właściwy Organ, zobowiązać na gruncie projektowanej ustawy o systemach sztucznej inteligencji, organ nadzoru ds. ochrony danych osobowych do przedstawienia właściwego narzędzia dla oceny, o której mowa w art. 35 rozporządzenia 2016/679. Warto nadmienić, iż oceny o te z art. 27 rozporządzenia 2024/1689 i art. 35 rozporządzenia 2016/679 są ocenami których zakresy częściowo pokrywają się. związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). 26. GRAI Uwaga ogólna Brak spójnych rozwiązań dotyczących przetwarzania i ochrony danych osobowych. Zaproponowane regulacje są wybiórcze, enigmatyczne. Brak opracowania OSK dla ochrony danych. Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy. Z uwagi na przedmiot regulacji projekt nie wymaga opracowania OSK. 27. GRAI Uwaga ogólna Na gruncie art. 44 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji dodać przepis zgodnie z którym: „Szkolenia personelu o których mowa w art. 4 rozporządzenia 2024/1689 powinny odbywać się nie rzadziej niż raz 18 miesięcy i każdorazowo dotyczyć będą nowych członków personelu dostawcy i podmiotu stosującego.”. Uzasadnienie: Na gruncie rozporządzenia 2016/679, ustawą z dnia 10 maja 2018 r. o ochronie danych osobowych nie wprowadzono konieczności szkoleń z zakresu ochrony danych osobowych. Jednak jak praktyka pokazała są one wymagane przez organ nadzorczy ds. ochrony danych osobowych. Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. Strona | 41 Nadto należy podkreślić, iż w rozporządzeniu 2024/1689 kwestie szkoleń podejmowane są odpowiednio w art. 9, art. 26 ust. 2 (podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie) oraz motywie 72 w/w rozporządzenia. Ustawowe wprowadzenie obowiązku szkoleń wyeliminuje niepotrzebny dialog społeczny (szczególnie w środowisku szeroko rozumianego biznesu) dotyczący ich niezbędności, terminowości, etc. Warto w tym miejscu wyartykułować, iż prawodawca unijny wskazując na konieczność szkoleń i podnoszenia świadomości potencjalnych zagrożeń wśród personelu wskazał na tempo zmieniających się uwarunkowań rozwoju systemów AI (stąd zasadne wydaje się wprowadzenie szkoleń okresowych w odpowiednich interwałach czasowych) mając na uwadze wykładniczy postęp technologiczny. 28. GRAI Uwaga ogólna Brak w projekcie ustawy przepisów regulujących realizację obowiązku wynikającego z 99 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Przepisy ustawy znajdują także zastosowanie do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest, aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. 29. IGE Kopia tabeli uwag z I etapu konsultacji Uwagi wyjaśnione Przekazane przez IGE uwagi stanowią kopię Tabeli uwag zgłoszonych w ramach I tury konsultacji publicznych projektu Strona | 42 ustawy. Efektem ich rozpatrzenia było przygotowanie projektu w wersji poddanej 10 lutego 2025 r. ponownym konsultacjom publicznym. Część z uwag w przedmiotowej tabeli odnosi się zatem do wykreślonych lub znacznie zmienionych przepisów w związku z powyższym mając na uwadze obszerność przywołanej tabeli odniesienie się do zawartych w niej uwag na obecnym etapie jest niezasadne. Uwagi do projektu ustawy 1. PIIT Tytuł Zmiana tytułu ustawy na ustawa o nadzorze nad rynkiem sztucznej inteligencji. Jedynie art. 9 ust. 3 zawiera wzmiankę o wsparciu rozwoju SI, a Rada nie będzie wyposażona w narzędzia na takie wsparcie pozwalające. Przepisy projektu określają jedynie nadzór nad rynkiem Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Odnosząc się natomiast do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność Strona | 43 2. PTI Tytuł „o systemach sztucznej inteligencji” to nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM) Ustawa właściwie tylko definiuje i reguluje obowiązki i sposób funkcjonowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Całość treści ustawy może być podważona w sądzie z uwagi na pojęcie „system sztucznej inteligencji” – nieprawidłowa definicja Prosimy o rozważenie zmiany tytułu Ustawy: Ustawa o powołaniu komisji i innych instytucji nadzorczych w obszarze sztucznej inteligencji W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI; jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689, dostosowując ustawodawstwo Polski do wymogów wskazanego Rozporządzenia. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. W projekcie ustawy zawarto także przepisy regulujące kwestie wsparcia rozwoju sztucznej inteligencji (rozdział dotyczący środków wspierających innowacyjność). 3. IWP Repropol Tytuł Żałujemy, że nie dokonano zmiany tytułu projektu, mimo że nie tylko Izba Wydawców Prasy zwracała na to uwagę w ramach społecznych konsultacji. Wciąż uważamy, że obecna nazwa jest po prostu mylna. Projekt nie reguluje przecież fenomenu sztucznej inteligencji, lecz ustanawia przede wszystkim krajową infrastrukturę certyfikującą oraz nadzorczą nad modelami oraz systemami AI. Niezależnie od powyższego, polski projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w polska wersja AIA stanowi o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, które na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie ze skrótowca „AI” na oznaczenie sztucznej inteligencji, ponieważ w tym kierunku kształtuje się ogólnoświatowa praktyka. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również m.in. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. W kwestii używanej terminologii, wyjaśnimy, że pojęcie AI posiada w języku Strona | 44 polskim odpowiednik jakim jest sztuczna inteligencja. Mając na uwadze obowiązujące przy tworzeniu prawa zasady techniki prawodawczej oraz zasady wynikające z ustawy dnia 7 października 1999 r. o języku polskim zdaniem projektodawcy przyjęta terminologia jest właściwa. 4. ZPWC Tytuł Zwracamy uwagę na sam tytuł projektu ustawy, który jest mylący. Projekt nie reguluje sztucznej inteligencji, lecz wdraża krajowe mechanizmy nadzoru i kontroli nad modelami i systemami AI. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię wiązane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również min. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. 5. AmCham Art. 2 Zakres terytorialny stosowania art. 2 jest niejasny. Brak wyraźnego ograniczenia zakresu stosowania ustawy do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli nie są one fizycznie obecne w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres Strona | 45 nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami Aktu o AI w zakresie nadzoru transgranicznego. jurysdykcji wynika z odrębnych aktów prawnych. 6. Związek Cyfrowa Polska Art. 2 Nie daje jasności co do zakresu terytorialnego. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnego aktu o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 7. ZPTC Lewiatan Art. 2 Projekt powinien jednoznacznie mieć zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem UE o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal zawiera ona niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby świadczyć o umożliwieniu polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Porównaj także: uwaga dotycząca art. 78, że zgłaszane powinny być poważne incydenty, mające miejsce na terenie Rzeczpospolitej Polskiej. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 8. GRAI Art. 2 Jest: Art. 2 nadal nie stanowi wyraźnie, że ma on zastosowanie do przedsiębiorców z siedzibą w Polsce, co stwarza ryzyko eksterytorialnego zakresu przedmiotowego. Uwaga wyjaśniona Strona | 46 Propozycja: Aby wykluczyć eksterytorialny charakter ustawy, rekomendujemy doprecyzowanie, że ustawa ma zastosowanie wyłącznie do podmiotów mających siedzibę w Polsce. Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. 9. PIIT Art. 2 ust. 1 Propozycja - “Ustawę stosuje się do podmiotów publicznych i prywatnych” Motyw 13 rozporządzenia UE potwierdza określony w art. 2 rozp. 2024/1689 krąg nadzorowanych systemów i podmiotów. Wzmianka w art. 38 ust. 3 pkt. 2 sprawia wrażenie poddania organów władzy publicznej w Polsce - dostawców i użytkowników systemów SI - wyłącznie przepisom ustawy z dnia 15 lipca 2011 r. o kontroli. Praktycznym skutkiem zapisu może być niemożność wyegzekwowania od nich przepisów określonych w rozp. 2024/1689 Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 10. ICC Polska Art. 2 ust. 1 pkt 1 Zgodnie z art. 2 ust. 1 pkt 1 Projektu, ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 1 , z wyłączeniem osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z którąkolwiek z działalności, o których mowa w dalszej części tego przepisu (m.in. działalność gospodarcza, działalność nieewidencjonowana). Tymczasem zgodnie z art. 2 ust. 10 rozporządzenia 2024/1689, rozporządzenia tego nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. Porównanie obu regulacji może rodzić wątpliwości czy zakres wyłączenia zastosowania projektowanej ustawy nie jest za wąski w stosunku do wyłączenia zastosowania rozporządzenia 2024/1689. W uzasadnieniu brak jest natomiast jakiegokolwiek wyjaśnienia, które miałoby przemawiać za szerszym zakresem zastosowania ustawy niż samego rozporządzenia 2024/1689. Po pierwsze, zawarte w samym rozporządzeniu 2024/1689 wyłączenie odnosi się do wszelkich obowiązków podmiotów stosujących i nie ogranicza się – jak czyni to Projekt – do obowiązków, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689. Tymczasem samo rozporządzenie 2024/1689 przewiduje obowiązki podmiotów stosujących również w innych przepisach np. art. 4, art. 25, art. 50, art. 86 rozporządzenia 2024/1689 (które potencjalnie mogą dotyczyć również podmiotów stosujących będących osobami fizycznymi), których tym samym ustawowe wyłączenie nie będzie obejmować. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 1 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwane dalej: „rozporządzeniem 2024/1689”. Strona | 47 Po drugie, zawarte w art. 2 ust. 1 pkt 1 Projektu szczegółowe wyliczenie rodzajów działalności może budzić wątpliwości z perspektywy zachowania jednolitości interpretacji wyłączenia na gruncie samego rozporządzenia 2024/1689, które posługuje się jedynie pojęciem „działalności pozazawodowej” oraz projektowanej ustawy. Dotyczy to m.in. zawartego w art. 2 ust. 1 pkt 1 lit. a) Projektu odesłania do „działalności, o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz.U. z 2024 r. poz. 226, z późn. zm.)”. Ten ostatni przepis dotyczy jednak różnego rodzaju przychodów, zaś w kontekście działalności wspomina jedynie o działalności rolniczej. Aktualna treść Projektu rodzi wątpliwości, czy art. 2 ust. 1 pkt 1 lit. a) Projektu dotyczy jedynie działalności rolniczej, czy też wszelkiej innej działalności związanej z uzyskiwaniem przychodów, o których mowa w ustawie podatkowej. W konsekwencji warto rozważyć albo ujęcie w Projekcie wyłączenia z art. 2 ust. 10 rozporządzenia 2024/1689 w identyczny sposób jak w samym rozporządzeniu, zapewniając tym samym jednolitość interpretacji samego rozporządzenia i ustawy w tym zakresie, albo przynajmniej dostosowanie obu wyłączeń przez usunięcie z art. 2 ust 1 pkt 1 Projektu słów „o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689” w następujący sposób: Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...) (...) Warto w tym miejscu zauważyć, że wdrażając rozporządzenie 2016/679 2 , ustawodawca nie uznał za niezbędne odrębnego uregulowania i doprecyzowania na poziomie ustawowym podobnego wyłączenia z art. 2 ust. 2 lit. c) rozporządzenia 2016/679 („przetwarzanie danych osobowych przez osobę fizyczną w ramach czynności o czysto osobistym lub domowym charakterze”). 11. AmCham Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 2 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), zwane dalej: „rozporządzeniem 2016/679”. Strona | 48 12. Związek Cyfrowa Polska Art. 2 ust. 2 Stwierdzenie z art. 2 ust. 2 o tym, że przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o SI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 13. ZPTC Lewiatan Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie w związku z tym nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 14. GRAI Art. 2 ust 3 Propozycja brzmienia: „3. Do systemów zdalnej identyfikacji biometrycznej post factum, określonych w art. 3 pkt. 43 rozporządzenia 2024/1689, stosuje się odpowiednio art. 5 ust. 2-7 rozporządzenia 2024/1689.”. Uzasadnienie: Zasadnym jest, że ustawa nie dopuszcza wykorzystywania w kraju systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym (rezygnując z zakazu określonego w Akcie). Natomiast, nie wyłącza to konieczności uregulowania systemów zdalnej identyfikacji biometrycznej post factum (które nie są automatycznie zakazane przez Akt). Najprostszym rozwiązaniem byłoby odpowiednie stosowanie regulacji przewidzianych przez Akt dla systemów działających w czasie rzeczywistym. Pod względem redakcyjnym, wydaje się, że najprostszym rozwiązaniem byłoby dodanie nowego ustępu (nr 3) do artykułu 2. Uwaga wyjaśniona Kwestia nie wymaga odrębnego uregulowania w przedmiotowej ustawie. 15. IWP Repropol Art. 2 i Art. 4 Wątpliwości wciąż budzi sposób uregulowania zakresu stosowania UoSSI. W projekcie nawiązano jedynie do wybranych zakresów stosowania AIA, przy czym wciąż nie jest jasny klucz doboru wybranych wyłączeń. Art. 2 ust. 1 nakreśla podmiotowy zakres stosowania ustawy. Z zakresu tego wyłączone zostają osoby fizyczne „w zakresie obowiązków podmiotów stosujących, o których Uwaga wyjaśniona Ewentualna interpretacja przepisów art. 2 przez TSUE nie Strona | 49 mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...)”. W ten sposób nawiązano do art. 2 ust. 10 AIA, który wyłącza AIA w odniesieniu do „obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej”. Wydaje się, że przeniesienie ogólnej formuły AIA na polski grunt byłoby rozwiązaniem lepszym. Polski projektodawca wskazał jednak na katalog aktów prawnych (art. 2 pkt 1 lit a-e UoSSI), które mają egzemplifikować „czysto osobistą działalność pozazawodową”. Jesteśmy zwolennikami podejścia zaprezentowanego w AIA, tym bardziej, że to sformułowanie dość szybko powinno być – w razie wątpliwość – wyklarowane przez orzecznictwo TSUE. Ponadto, nawiązanie w polskiej transpozycji do art. 26 i 27 AIA jest wprost mylne, ponieważ przepisy te odnoszą się do podmiotów stosujących systemy AI wysokiego ryzyka. Tymczasem podmiotowe wyłączenie AIA nie jest ograniczone jedynie do systemów AI wysokiego, lecz także do innych, a zatem objętych jedynie obowiązkiem transparentności (art. 50 AIA) oraz pozostających poza obowiązkiem transparentności systemów minimalnego ryzyka. Odrębną uwagę trzeba poświęcić korzystnie, lecz nie całkowicie satysfakcjonująco zmodyfikowanemu wyłączeniu zawartemu w art. 4 pkt 4 i 5 UoSSI. Przepis ten stanowi, iż ustawy [tj. UoSSI] nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy (...) Prawo o szkolnictwie wyższym i nauce (...). Z kolei w kolejnym ustępie następuje doprecyzowanie wyłączenia stosowania UoSSI do „systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie [AIA]”. W ten sposób powstał chaos. Zakładamy, że w zamyśle projektodawcy postanowienia te mają wdrażać art. 2 ust. 6 AIA, wedle którego „niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Polskie wdrożenie tego postanowienia nie jest jednak fortunne, mimo uwzględnienia niektórych uwag. Podkreślamy ponownie, że to wyłączenie jest fundamentalne dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Mając na uwadze dalekosiężność skutków, przepis nie może pozostawiać tylu wątpliwości, ile występuje na podstawie obecnej wersji. Ponownie zwracamy uwagę, że samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest po prostu niezrozumiałe. Trzeba podkreślić, że przekreśla obecnej konieczności uregulowania kwestii zakresu wyłączenia na gruncie prawa polskiego, a ewentualne wątpliwości co do objęcia przez przepisy rozporządzenia zastosowań AI dla celów osobistych mogą negatywnie wpłynąć na postrzeganie nowego prawa w społeczeństwie. Treść przepisów w zakresie włączeń stosowania ustawy została ustalona w oparciu o uwagi zgłoszone w ramach uzgodnień opiniowania i konsultacji w tym przez podmioty z obszaru nauki. Termin „podstawowe badania naukowe” został zaczerpnięty z ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce. Mając na uwadze, że przepis dotyczy włączeń stosowania przepisów ustawy niezasadne jest Strona | 50 to nie same badania (podstawowe, aplikacyjne czy prace rozwojowe), lecz modele oraz systemy AI rozwinięte i oddane do użytku w c e l a c h badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Czwarty ustęp przepisu generuje również wiele nieporozumień. Wprawdzie pada w nim, że poza zakresem UoSSI pozostają „systemy wprowadzone do użytku wyłącznie dla celów, o których mowa w pkt 4”, ale dalsza część przepisu dodaje „przed wejściem w życie [AIA]”. Można zatem wnioskować, że poza zakresem zastosowania UoSSI znajdują się systemy powstałe w celach wyłącznie do celów naukowych, o ile zostały one wprowadzone do użytku przed wejściem w życie AIA. Takie rozumowanie byłoby jednak oczywiście błędne. Z pewnością art. 2 pkt 4 i 5 UoSSI wymaga modyfikacji. Ponadto wciąż uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. posługiwanie się terminologią mogącą wywoływać wątpliwości interpretacyjne. 16. ZPWC Art. 2 i Art. 4 Sceptyczne oceniamy sposób uregulowania zakresu stosowania ustawy (art. 2 i 4 Projektu). Uważamy, że odwołanie się jedynie do wybranych zakresów AIA i brak jasnego klucza doboru wyłączeń stwarza ryzyko niejasności i problemów interpretacyjnych. Wyłączenie spod zakresu Projektu osób fizycznych korzystających z AI do „czysto osobistej działalności pozazawodowej” powinno opierać się na ogólnej formule z art. 2 ust. 10 AIA, nie zaś na niezwykle skomplikowanym sformułowaniu art. 2 pkt 1 lit. a-e Projektu. Ponadto, kwestia wyłączenia „badań podstawowych, aplikacyjnych oraz prac rozwojowych” (art. 4 pkt 4 i 5 Projektu) z zakresu Projektu również budzi nasze obawy. Niewłaściwe jest sformułowanie, że ustawy \"nie stosuje się do (.) badań (...)\". Art. 2 ust. 6 AIA, który jest w tym punkcie wdrażany, wyraźnie stanowi, że AIA nie stosuje się do „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Aby uniknąć wątpliwości powstałych na gruncie polskiego wdrożenia uważamy, że lepsze byłoby odwołanie się wprost do brzmienia rozporządzenia. Uwaga wyjaśniona Przedmiotowe przepisy mają na celu zaadresowanie włączeń stosowania przepisów ustawy w zakresie jaki został określony w rozporządzeniu 2024/1689. Mając na uwadze zachowanie spójności z systemem prawa polskiego w projekcie ustawy posłużono się terminologią znaną systemowi prawa krajowego. 17. IA Chamber Art. 3 Podtrzymujemy uwagę dotyczącą przepisywania częściowo definicji z Rozporządzenia 2024/1689. Zastosowana tu technika legislacyjna budzi wątpliwości, a uzasadnienie nie zawiera wskazówek co do tego, dlaczego projektodawcy uznają ją za konieczną. Uwaga wyjaśniona Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i Strona | 51 często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 18. PIIT Art. 3 Jeżeli proponent podtrzymuje powtórzenie w treści krajowej ustawy definicji stosowanych bezpośrednio, to sugerujemy wykreślenie przynajmniej ust. 13 art. 3 Termin “organ właściwy” jest w prawodawstwie unijnym standardowo stosowanym termin, który pozwala na uwzględnienie różnorodności systemów prawa państw członkowskich i unikanie nazw rodzajowych typu “sąd”, “organ kontroli”, “komisja nadzoru” itp. Umożliwia to zarówno wdrożenie, jak i stosowanie, przepisów unijnego prawa zgodnie z krajowym ustrojem. Uwaga wyjaśniona Projektodawca podtrzymuje sposób uregulowania słowniczka ustawowego oraz jego zakres. Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 19. PTI Art. 3 pkt 1-16 Jest to niepełna kalka przytoczona z „RPEiR UE” 2024/1689, jeśli zachować ciągłość należałoby przytoczyć wszystkie pkt. Lub odwołać się do wszystkich punktów tj. (68) - Uwaga wyjaśniona Strona | 52 pkt. Art. 3 Oraz (180) -pkt. określenia zakresu funkcjonowania tzw. \"systemów AI” wybranie niektórych zagadnień sugeruje zawężenie działań prewencyjnych. Pełne przytoczenie Art. 3. „RPEiR UE” 2024/1689 z uwzględnieniem powołania krajowych organów tj. komisji. W „RPEiR UE” 2024/1689 szczegółowo określono wspomniane „określenia definiujące” ograniczanie ich na szczeblu krajowym w perspektywie może kolidować z ustawodawstwem UE i podważać działania organu krajowego. Brak lub niepełna definicja, mogą powodować zamieszanie prawne (np. podważanie decyzji podjętych na szczeblu krajowym w odniesieniu do uregulowań na szczeblu unijnym). Zgodnie z zasadami techniki legislacyjnej w projekcie ustawy zamieszcza się wyłącznie definicje pojęć użytych w treści projektu. 20. PTI Art. 3 pkt 1 System sztucznej inteligencji - system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; niepełna definicja LLM już na etapie „RPEiR UE” 2024/1689” świadczy o braku zrozumienia zagadnienia Prosimy o rozważenie zmiany definicji a także uzupełnienie jej o uwagę. „RPEiR UE” 2024/1689” „system AI” oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii oraz który może wykazywać zdolność adaptacji, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki. Uwaga: systemy AI są również określane jako duże modele językowe (Large Language Model – LLM). Odwołanie się do „RPEiR UE” 2024/1689” nie gwarantuje pra- widłowego definiowania pojęcia tzw. systemów sztucznej inteligencji, czyli LLM ponadto ograniczenie zawęża wyniki działania LLM nie wymienionych w definicji. Z tego względu proponujemy korektę definicji. Dodatkowo prosimy o rozważenie dopisania uwagi. Uwaga wyjaśniona Przepisy projektu ustawy mają służyć stosowaniu rozporządzenia 2024/1689. Przepisy te nie mogą poszerzać ani zawężać, modyfikować przepisów ww. rozporządzenia, które są stosowane bezpośrednio. 21. GRAI Art. 3 pkt 15 Propozycja zmiany definicji piaskownicy regulacyjnej Obecne brzmienie: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.” Proponowane brzmienie: Uwaga wyjaśniona Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 53 „Piaskownica regulacyjna – mechanizm umożliwiający dostawcom systemów sztucznej inteligencji walidację, testowanie i rozwój systemów AI na podstawie zgłoszenia, przy zapewnieniu minimalnych wymogów etycznych dla ram Trustworthy AI (Godnej zaufania sztucznej inteligencji) i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” > Zmiana: ● Usunięcie wymogu nadzoru nad każdym testem – rola państwa ograniczona do ogólnej kontroli. Testy na zgłoszenie, a nie na decyzję – mniej biurokracji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 22. PIIT Art. 4 Sugerujemy ograniczenie wyłączenia spod rygorów ustawy (obecnie całość zadań ustawowych wymienionych w przepisie służb) do zakresu przedmiotowego wyznaczonego przez przepisy, bezpośrednio stosowane, rozporządzenia 2024/1689. Nie można spod rygorów rozporządzenia 2024/1689 wyłączyć tych obszarów działania służb, które pozostają poza zakresem wyłączeń zdefiniowanych w rozporządzeniu 2024/1689, a mają np. związek z bezpieczeństwem wewnętrznym (ściganiem przestępczości pospolitej). Obecne brzmienie projektowanego przepisu narusza prawo Unii. Uwaga wyjaśniona W przepisie zwarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 23. Fundacja Panoptykon Art. 4 pkt 2 Zgodnie z art. 2 ust. 3 rozporządzenia nie stosuje się go „do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami”. Pojęcie bezpieczeństwa narodowego nie jest precyzyjnie zdefiniowane w prawie wspólnotowym. Mimo problemów interpretacyjnych, jakie rodzi pojęcie bezpieczeństwa narodowego, nie sposób zgodzić się ze stanowiskiem prezentowanym przez Ministra – Koordynatora Służb Specjalnych, postulującego całkowite wyłączenie stosowania projektowanej ustawy względem służb specjalnych. Taka regulacja byłaby niezgodna zarówno z orzecznictwem TSUE i ETPC, jak i analizą ustawowych zadań realizowanych przez służby specjalne. Pozytywnie zatem oceniamy intencję autorów projektu, by doprecyzować, w jakich sprawach nie stosuje się do działań służb specjalnych opiniowanego projektu. Jednak Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia Strona | 54 proponowane brzmienie art. 4 ust. 2 i ust. 3 projektu oceniamy krytycznie. Na podstawie analizy art. 4 ust. 2 niejasny jest zakres znaczeniowy tego przepisu, który może – od rozpoczęcia obowiązywania – budzić wątpliwości interpretacyjne. Naszym zdaniem doprecyzowania wymaga to, czy planowane wyłączenie dotyczyć ma: ● wszystkich spraw związanych z realizacją zadań ustawowych ABW, czy tylko ● tych „pozostających w bezpośrednim związku z działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej”, czy wreszcie ● wszystkich spraw, w tym działań pozostających w bezpośrednim związku z działaniami lokalizowania (...) jedynie w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy o ABW i AW. Najbardziej prawdopodobna wydaje się trzecia z wymienionych interpretacji. W tej sytuacji niejasna jest sytuacja Agencji Wywiadu, o której mowa w pierwszej części proponowanego przepisu (art. 4 ust. 2), podczas gdy na jego końcu mowa już tylko o „(...) zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa”, podczas gdy Agencja Wywiadu (zgodnie z przywołanym art. 2 ustawy o ABW i AW) zajmuje się ochroną bezpieczeństwa zewnętrznego państwa. Pozostając na gruncie trzeciej z możliwych interpretacji zwracamy uwagę, że odwołanie do art. 1 ustawy o ABW („Tworzy się Agencję Bezpieczeństwa Wewnętrznego właściwą w sprawach ochrony bezpieczeństwa wewnętrznego państwa i jego porządku konstytucyjnego”) bez odesłania do konkretnych zadań wymienionych w art. 5 ustawy rodzi kolejne wątpliwości interpretacyjne związane z pytaniem, czy wszystkie zadania realizowane przez ABW (także np. na podstawie odrębnych ustaw i umów międzynarodowych (por. art. 5 ust. 1 pkt 5 ustawy o ABW i AW) mieszczą się w zakresie ogólnej właściwości ABW wskazanej w art. 1 ustawy o ABW i AW. Przyjęcie takiej interpretacji prowadziłoby do wniosku, że de facto w zakresie wszystkich swoich zadań ABW nie podlega proponowanej regulacji. Przyjęcie z kolei odmiennej interpretacji wiązałoby się z koniecznością każdorazowej oceny, czy realizowane przez Agencję zadanie wiążę się z ogólną właściwością służby zgodnie z art. 1 ustawy o ABW. Taka regulacja byłaby w naszej ocenie skrajnie nieefektywna i niepraktyczna, zwłaszcza biorąc pod uwagę, że wskazane wyżej liczne wątpliwości interpretacyjne rozstrzygałaby w praktyce sama ABW będąc poniekąd „sędzią we własnej sprawie”. Analiza zadań ustawowych służb specjalnych wskazuje, że są nimi m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt określonego w rozporządzenia 2024/1689. Dodatkowe doprecyzowanie przepisów nie znajduje uzasadnienia. Strona | 55 2 lit. e ustawy o ABW). Tego typu przestępstwa nie mieszczą się nawet w szeroko rozumianej definicji bezpieczeństwa narodowego. W wyroku z 28 maja 2024 r. w sprawie Pietrzak, Bychawska-Siniarska i inni przeciwko Polsce Europejski Trybunał Praw Człowieka wskazał, że „w sprawach dotyczących praw podstawowych prawo byłoby sprzeczne z zasadą rządów prawa, jedną z podstawowych zasad społeczeństwa demokratycznego zapisanych w Konwencji, gdyby nie zawierało ograniczeń swobody decyzyjnej przyznanej władzy wykonawczej w sprawach bezpieczeństwa narodowego. W związku z tym ustawodawstwo musi określać zakres i sposób wykonywania takiego uprawnienia z wystarczającą jasnością – biorąc pod uwagę uzasadniony cel – aby zapewnić jednostce odpowiednią ochronę przed arbitralnością”. Trybunał Sprawiedliwości UE w wyroku w połączonych sprawach C-511/18, C-512/18 i C-520/18 wskazał, że państwa członkowskie nie mają pełnej swobody w zakresie regulacji dotyczących bezpieczeństwa narodowego: w kontekście możliwego w tym celu nałożenia na firmy telekomunikacyjne obowiązku retencji danych Trybunał wskazał, że jest to możliwe, jeśli ustawodawca zapewni, że zatrzymywanie danych będzie uzależnione od spełnienia związanych z nim materialnych i proceduralnych warunków oraz że osoby, których dane dotyczą, dysponują skutecznymi gwarancjami chroniącymi przed ryzykiem nadużyć. W związku z tym naszym zdaniem konieczna jest ponowna analiza zaproponowanego wyłączenia, które – w naszej ocenie – powinno dotyczyć konkretnych jednostek redakcyjnych wskazanych w art. 5 ust. 1 ustawy o ABW i AW. odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1-2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. 24. Fundacja Panoptykon Art. 4 pkt 3 Przechodząc do analizy art. 4 ust. 3 (wyłączenie dotyczące Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego) jego interpretacja także rodzi wątpliwości ze względu na odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1- 2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg Strona | 56 projektodawcy przepis oddaje właściwą intencję wyłączenia. 25. GRAI Art. 4 pkt 3 Art. 4 pkt 3 może wzbudzać wątpliwości interpretacyjne, a dotyczy ważkiej kwestii zakresu wyłączenia stosowania ustawy w kontekście badań naukowych. Warto rozważyć uproszczenie art. 4 pkt 3, bowiem występują dwie negacje – ustawy nie stosuje się do (...) w zakresie, który nie obejmuje testów (...), co może utrudniać zrozumienie tego przepisu. Ponadto, jeśli zamiarem projektodawcy było wprowadzenie do ustawy wyjątku od jej stosowania w ślad za wyłączeniem z art. 2 ust. 7 rozporządzenia 2024/1689, obecne brzmienie art. 4 pkt 3 wydaje się tylko częściowo korespondować z intencją prawodawcy unijnego, która została wyrażona w części nienormatywnej rozporządzenia, czyli w motywie 25 preambuły. Wydaje się też, że przy konstruowaniu wyłączenia w ustawie bardziej trafne byłoby posłużenie się kryterium podobnym do znajdującego się w art. 2 ust. 7 rozporządzenia 2024/1689, czyli „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych” zamiast „badań podstawowych, aplikacyjnych oraz prac rozwojowych”. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 26. ICC Poland Art. 4 pkt 4 Zgodnie z art. 4 pkt 4 Projektu, ustawy nie stosuje się do „4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689” [podkreślenie własne]. Obecna redakcja tego wyłączenia, z uwagi na jej skomplikowany charakter, może błędnie sugerować, że art. 4 pkt 4 Projektu wyłącza zastosowanie ustawy w stosunku do wprowadzania do obrotu lub oddawania do użytku wszelkich systemów sztucznej inteligencji dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, nie tylko w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych. W konsekwencji wskazany przepis wymaga doprecyzowania, jak również rozważenia jego kompatybilności z wyłączeniami z art. 2 ust. 6 i 8 rozporządzenia 2024/1689. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 27. ZPTC Lewiatan Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego nie oddaje tego czym w rzeczywistości ma się zajmować regulator. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 57 Jedynym zadaniem Komisji związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem Komisji związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa, w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań, leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jak najlepiej jej charakter. 28. IA Chamber Art. 5 i następne Podobnie nadal niedoskonałe, mimo pozytywnych zmian, wydają się przepisy powołujące Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, na co wskazaliśmy w poprzedniej opinii. Umocowanie Przewodniczącego KRiBSI, jako jednoosobowego organu administracji centralnej, wydaje się rozwiązaniem lepiej pasującym do polskiej tradycji prawa administracyjnego i pozwalającym uniknąć szeregu trudności, które są konsekwencji przyjętej formuły, w której KRiBSI jest organem kolegialnym, w którym część członków jest zatrudniona w Biurze KRiBSI, a część reprezentuje jedynie inne organy. Jednocześnie i Komisja i jej Przewodniczący są organami Biura, co jest nader złożona konstrukcją prawną. Wydaje się, że projektodawcy sami dostrzegają mankamenty przyjętej konstrukcji, dając możliwości delegowania uprawnień decyzyjnych Komisji na rzecz Przewodniczącego. Można się spodziewać, że będzie to możliwość często wykorzystywana, gdyż zapewni odpowiednią efektywność proceduralną np. w sprawach indywidualnych, gdzie kolegialność organu nie wnosi z reguły wartości dodanej, a spowalnia postępowanie. Konsekwentnie Biura KRiBSI powinno wtedy nosić nazwę “Urzędu KRiBSI”. Uwaga wyjaśniona Przepisy w zakresie powołania i funkcjonowania KRIBSI oraz Biura komisji uległy w wyniku rozpatrzonych uwag kolejnym zmianom. Pozostano jednak przy koncepcji kolegialnego organu nadzoru. 29. AmCham Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uwaga wyjaśniona Strona | 58 Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji lub inna oddająca rzeczywisty charakter regulatora Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś nazwa Komisji nie zawiera słowa„systemy”. Podobnie jak w przypadku innych organów regulacyjnych istotne jest, aby nazwa Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. 30. GRAI Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja zmiany nazwy organu na np. „Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji” lub inna nazwa oddająca rzeczywisty charakter regulatora i zakresu spraw, którymi się zajmuje. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować ten organ. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice regulacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym wprost z europejskiej regulacji. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 59 Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i z wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś Komisja już w proponowanej nazwie gdzieś zgubiła słowo „systemy”. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Tym samym podtrzymujemy uwagę zgłoszoną w tym zakresie do poprzedniej wersji projektu z października 2024 r. Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. 31. GRAI Art. 5 W projekcie zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Uwaga wyjaśniona Zdaniem projektodawcy nazwa „Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” w pełni oddaje jego cele i zadania. 32. GRAI Art. 5 ust. 1 i 2 - Propozycja zmiany organizacji nadzoru nad AI (Art. 5) > Obecne brzmienie: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Uwaga wyjaśniona Treść uwagi wykracza poza zakres Strona | 60 > Nowa wersja Art. 5 ust. 1 i 2 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.” 2. „Komisja nie ingeruje w proces testowania systemów AI, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.” > Zmiana: ● Komisja nie kontroluje każdego testu, a jedynie prowadzi nadzór systemowy. Firmy same zgłaszają testy przewidziany dla ustawodawcy krajowego przez przepisy rozporządzenia. 33. PIIT Art. 5 ust. 3 Sugerujemy skreślenie ust. 3 art. 5 lub zastąpienie go przepisem ogólnym przypominającym o współpracy w ramach administracji rządowej lub nawet publicznej. Komisja jest uprawniona do kontroli i egzekwowanie przepisów rozp. 2024/1689 wobec wszystkich osób, chyba że przepisy rozp. stanowią inaczej. Ma możliwość kontroli systemów, a nakaz współpracy z innymi organami administracji w szerszym zakresie wynika z ogólnych przepisów. Uwaga wyjaśniona W celu właściwej realizacji przepisów rozporządzenia 2024/1689 oraz ustawy oraz wynikających z nich zadań Komisji zdaniem projektodawcy konieczne jest utrzymanie przepisów o współpracy KRiBSI z podmiotami wskazanymi w art. 5 ust. 3. 34. ZBP Art. 5 ust. 3 pkt 1 W nowej wersji projektu ustawy o systemach sztucznej inteligencji w dalszym ciągu brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Jednoznaczne rozstrzygnięcie zakresu nadzoru KRiBSI i KNF nad systemami sztucznej inteligencji jest niezbędne dla zapewnienia przejrzystych zasad nadzoru. Przepisy ustawy powinny jednoznacznie określać na czym polega współpraca KRiBSI z KNF oraz wskazywać czy w polskim porządku prawnym będzie nadzór KNF w zakresie AI na zasadzie określonej w art. 74 ust. 6 AI Act, czy Polska jako państwo członkowskie będzie korzystać z odstępstwa, o którym mowa w art. 74 ust. 7 AI Act. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować Strona | 61 powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. 35. GRAI Art. 5 ust. 3 pkt 1 Brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy w dalszym ciągu nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemni prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. Strona | 62 36. ICC Poland Art. 5 ust. 3 pkt 3 Za proponowanym usunięciem przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych ze składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) (nowy art. 6 ust. 2 Projektu), niezależnie od oceny tej zmiany, powinno podążyć rozszerzenie zakresu współpracy pomiędzy Komisją a Prezesem Urzędu Ochrony Danych Osobowych. Tymczasem, pomimo dokonania zmiany w składzie Komisji względem projektu z 15 października 2024 r., zmianie nie uległ art. 5 ust. 3 pkt 3 Projektu, zgodnie z którym: „W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...); 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Wobec rezygnacji z udziału przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych jako członka Komisji, zakres spraw wymagających współpracy pomiędzy tymi organami powinien ulec rozszerzeniu i nie ograniczać się wyłącznie do spraw, w których współpracy takiej wymaga wprost samo rozporządzenie 2024/1689. Nadzór nad systemami sztucznej inteligencji wielokrotnie będzie ściśle wiązał się z nadzorem nad przetwarzaniem danych osobowych (np. danych osobowych podmiotów stosujących, danych osobowych zawartych w danych treningowych systemów sztucznej inteligencji), a w konsekwencji wymagał współpracy Komisji i Prezesa Urzędu Ochrony Danych Osobowych. W konsekwencji proponuje się następującą zmianę art. 5 ust. 3 pkt 3 Projektu: W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...) 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie, w jakim systemy sztucznej inteligencji wiążą się z przetwarzaniem danych osobowych oraz w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 oraz art. 101 projektu ustawy. Uregulowanie zakresu współpracy w zakresie, o którym mowa w uwadze zostanie rozstrzygnięte w późniejszym okresie w ramach pracy nad dostosowaniem przepisów prawa do wymogów związanych z nadzorem nad systemami wysokiego ryzyka (art. 6 rozporządzenia), do czego konieczne jest uprzednio opublikowania przez Komisję Europejską aktów delegowanych i materiałów merytorycznych Strona | 63 dookreślających stosowanie przepisów rozporządzenia w odniesieniu do tych systemów. 37. Polskie sieci elektroenerget yczne Art. 5 ust. 3 pkT 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 38. GRAI Art. 5 ust. 3 pkt 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 39. Stowarzyszen ie Autorów ZAiKS Art. 5 ust. 3 nowy pkt 11) oraz zmiana numeracji pkt. 11 i 12 Art. 5 ust. 3 pkt 11) Projektu otrzymuje następujące brzmienie: „3. W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: 11) ministrem właściwym spraw kultury i ochrony dziedzictwa narodowego - w zakresie realizacji obowiązków wynikających z art. 53 rozporządzenia 2024/1689;” Pkt 11-12 w art. 5 ust. 3 otrzymują numerację odpowiednio: 12-13. UZASADNIENIE: Sprzeciwiamy się wprowadzonym w Projekcie zmianom w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”), które nie tylko nie zapewniły, proponowanego przez większość organizacji reprezentujących środowiska kreatywne, obligatoryjnego udziału przedstawiciela ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego. Zrezygnowano również z jednoznacznego wskazania możliwości udziału przedstawiciela tego resortu w charakterze doradczym, wprowadzając enigmatyczną możliwość doradzania Komisji przez „przedstawicieli podmiotów publicznych”. Jedynym organem związanym w jakikolwiek sposób z sektorami kreatywnymi, który ma współpracować z Komisją, jest Krajowa Rada Radiofonii i Telewizji, przy czym działać ma ona jedynie w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w ramach działalności dostawców usług medialnych, wskazanych w ustawie Uwaga wyjaśniona Art. 5 ust. 3 stanowi, że KRiBSI współpracuje z ministrami w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. Strona | 64 o radiofonii i telewizji, czyli nie w zakresie wszystkich podmiotów, na których sytuację wpływ mają te systemy. Należy ponownie zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. 9 Projektu jest „sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689\" oraz „wydawanie postanowień i decyzji w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy”. AI Act w art. 53 w stosunku do dostawców modeli Gen AI przewiduje szereg obowiązków, w tym wprowadzanie polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen AI. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Z tego względu udział przedstawicieli resortu kultury nie może być wyłącznie konsultacyjny. Jeżeli przedstawiona argumentacja nie znalazłaby odzwierciedlenia w zmianach do Projektu, postulujemy, o co najmniej wprowadzenie w art. 5 do Projektu. 40. FinTech Poland Art. 6 a. Rozszerzony skład komisji Zgodnie z Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. UE. L. z 2024 r. poz. 1689) („Rozporządzenie SI”) nowo powołany (lub wzmocniony nowymi kompetencjami istniejący) organ ds. SI powinien nadzorować cały ruch na rynku sztucznej inteligencji. W ramach swoich kompetencji organ nie tylko monitoruje przestrzeganie uchwalonego prawa, lecz także ma obowiązek opracowywania kodeksów dobrych praktyk oraz moderowania standardów rynkowych. Aby usprawnić te działania, konieczne jest zapewnienie w składzie polskiego organu, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”), uwzględniono głos środowiska wysoko wyspecjalizowanego. NASK obecnie pełni kluczową rolę w zakresie cyberbezpieczeństwa i zarządzania infrastrukturą polskiej sieci internetowej, będąc instytucją o ugruntowanym autorytecie. Jako jednostka skupiająca najlepszych ekspertów w dziedzinie inżynierii cyfrowej, NASK dysponuje unikalnym zapleczem naukowym i technologicznym. Włączenie jego przedstawiciela do Komisji zapewni, że jej decyzje będą oparte na rzetelnej wiedzy eksperckiej i uwzględnią aktualne wyzwania związane z bezpieczeństwem cyfrowym. Tym samym jego głos będzie głosem nauki i techniki, co pozwoli na podejmowanie optymalnych i przyszłościowych rozwiązań w zakresie działań Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Strona | 65 41. IA Chamber Art. 6 ust. 2 Projektodawcy nie wyjaśniają w uzasadnieniu (ponownie!), na podstawie jakich kryteriów wskazują w art. 6 ust. 2 instytucje, które będą reprezentowane w KRiBSI. Jej skład został ograniczony, co można uznać za pozytywny ruch, ale dobór nadal budzi wątpliwości. Wykluczenie przedstawicieli ministerstw można zrozumieć (choć z braku uzasadnienia to spekulacja) jako próbę zapewnienia Komisji większej niezależności, ale skutkować będzie oderwaniem Komisji od gremium decyzyjnego, które może mieć faktyczny wpływ na rozwój SI w Polsce. Projektodawcy deklarują cel zapewnienia udziału “organów kluczowych” dla nadzoru i rozwoju SI w KRiBSI, ale pod żadnym względem nie można za takowy uznać Rzecznika Praw Dziecka. W składzie brakuje zaś (poza ministrami) przedstawicieli instytucji, które faktycznie mają wiedzę fachową w zakresie SI (NASK, Instytut Badawczy IDEAS). Uwaga wyjaśniona 1.Uzasadnienie do projektu ustawy do art. 6 zostało rozbudowane. 2.Przedstawiciele ministerstw w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji nie wchodzą w skład KRiBSI w celu zapewnienia należytej niezależności organu. Będą oni jednak mogli uczestniczyć w posiedzeniach Komisji bez prawa głosu na zasadach określonych w art. 6 ust. 4. 3.Nie jest planowane rozbudowanie składu Komisji o takie podmioty jak (NASK, Instytut Badawczy IDEAS. 4.Przedstawiciele tych podmiotów będą natomiast mogli uczestniczyć w posiedzeniach Komisji na zasadach określonych w art. 6 ust. 3. 5.W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi Strona | 66 przedstawiciel Rzecznika Praw Dziecka. 42. AmCham Art. 6 ust. 2 W świetle projektowanych przepisów Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma się składać wyłącznie z przedstawicieli następujących organów: Prezes UOKiK, KNF, Rzecznik Praw Dziecka, KRRiT, Prezesa UKE, Państwowej Inspekcji Pracy oraz Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Zatem Komisja ma się składać wyłącznie z przedstawicieli organów regulacyjnych, których głównym zadaniem jest kontrola, nadzór i egzekwowanie przestrzegania sektorowych przepisów prawa, w tym nakładanie kar pieniężnych. Trudno wyobrazić sobie, aby Komisja, składająca się wyłącznie z przedstawicieli organów kontroli i nadzoru, faktycznie była w stanie perspektywę inną niż ta wynikająca z doświadczeń w zakresie kontroli i nadzoru. Celem zapewnienia zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinna zostać poszerzona o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców, ze względu na swoją nadrzędną rolę w kształtowaniu polityki AI. Obecność ekspertów z tych dziedzin wzbogaciłaby Komisję o niezbędną wiedzę specjalistyczną i zapewniłaby zrównoważone podejście do rozwoju sztucznej inteligencji w Polsce. Włączenie przedstawicieli nauki, takich jak profesorowie uniwersytetów, badacze z instytutów naukowych czy eksperci z organizacji pozarządowych, pozwoliłoby Komisji uwzględniać najnowsze osiągnięcia badawcze i trendy technologiczne w dziedzinie AI. To z kolei umożliwiłoby podejmowanie decyzji opartych na rzetelnej wiedzy naukowej. Dzięki temu Polska mogłaby skuteczniej konkurować na arenie międzynarodowej w dziedzinie badań i rozwoju AI, przyciągając inwestycje i talenty z zagranicy. Z kolei obecność przedstawicieli organizacji przedsiębiorców w Komisji zapewniłaby lepsze zrozumienie praktycznych aspektów wdrażania AI w biznesie. Ich doświadczenie i wiedza byłyby nieocenione przy tworzeniu regulacji, które sprzyjałyby innowacjom i inwestycjom. Podsumowując, poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców jest niezbędne, aby zapewnić zrównoważony i odpowiedzialny rozwój sztucznej inteligencji w Polsce. Tylko takie kompleksowe podejście, uwzględniające perspektywy różnych dziedzin i sektorów, pozwoli na wykorzystanie potencjału AI dla dobra całego społeczeństwa, jednocześnie minimalizując ryzyko związane z jej zastosowaniem. W ten sposób Polska może stać się liderem w dziedzinie sztucznej inteligencji, kształtując przyszłość technologii w sposób odpowiedzialny i zrównoważony. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Strona | 67 43. FinTech Poland Art. 6 ust. 2 W Projekcie ustawy wprowadzono pozytywną zmianę poprzez ograniczenie składu Komisji, co może usprawnić jej działanie. Jednak budzi poważne zastrzeżenia fakt, że nie przewidziano w niej udziału przedstawicieli instytucji posiadających specjalistyczną wiedzę techniczną o AI, cyberbezpieczeństwie, takich jak NASK czy instytut badawczy IDEAS. Ich obecność mogłaby zapewnić bardziej merytoryczne podejście do działań podejmowanych przez Komisję i lepsze dostosowanie przepisów do realiów technologicznych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 44. KIGEiT Art. 6 ust.2 Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Uwaga częściowo uwzględniona+ Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. Udział w posiedzeniach przedstawicieli instytucji posiadających wiedzę ekspercką, jak m.in. PURPLWMiPB będzie możliwy, za zgodą Przewodniczącego będzie możliwy (na zasadzie obserwatora bez prawa głosu). Dodatkowo, w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka. Strona | 68 45. PIIT Art.6 ust.2 Skład Komisji Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Zob. Także uwagi ogólne. Uwaga częściowo uwzględniona Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka ani PURPLWMiPB. 46. PIIT Art. 6 ust. 2 W skład Komisji powinni wchodzić przedstawiciele nauki oraz organizacji pozarządowych. Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicieli różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców co jest niezbędne, jeśli Komisja faktycznie ma być Komisją Rozwoju Sztucznej Inteligencji, a nie tylko Komisją Bezpieczeństwa Sztucznej Inteligencji. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckie. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły Strona | 69 również wskazać kandydatów na członków Społecznej Rady. 47. Polskie sieci elektroenerget yczne Art. 6. ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka wyznaczonego przez Pełnomocnika Rządu do spraw Cyberbezpieczeństwa, np. z CSIRT NASK Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt 6. 48. Związek Cyfrowa Polska Art. 6 ust. 2 Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicielami różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckiej. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Udział niezależnych przedstawicieli społecznych nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Wręcz przeciwnie – zwiększy transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły również wskazać Strona | 70 kandydatów na członków Społecznej Rady. 49. GRAI Art. 6 ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka związanego np. z CSIRT NASK Jest: Prezes Urzędu Ochrony Danych Osobowych (PUODO) został usunięty z Komisji. Propozycja: Proponujemy przywrócenie Prezesa UODO lub wprowadzenie przymusowego mechanizmu komunikacji z nim w sprawach zw. z przetwarzaniem danych osobowych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt. 6. 50. ZPTC Lewiatan Art. 6 ust. 2a w związku z Art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu 2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez zapisu dotyczącego obligatoryjnego zapraszania na posiedzenia Komisji „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego Strona | 71 miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 51. GRAI Art. 6 ust. 2a w związku z art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu: „2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.”. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw Strona | 72 będących przedmiotem posiedzenia. 52. FinTech poland Art. 6 ust. 3 pkt 1 W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakładana jest współpraca pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpraca z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować wprzyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy organów PUODO, KNF z KRIBSI. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust.1 i 3 oraz art. 99 i art. 101 projektu ustawy. Planowana współpraca powinna zawierać między innymi możliwość wymiany informacji w zakresie prowadzonych postępowań w sprawach z zakresie systemów sztucznej inteligencji. 53. KIGEiT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby, którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 54. PIIT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające Strona | 73 Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 55. AmCham Art. 6 ust. 2a w związku z art. 6 ust. 3 oraz art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu „Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.” Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”). Tymczasem w przypadku podmiotów, które są wymienione w art. 5 ust. 3 wykonanie tej kompetencji powinno mieć charakter obligatoryjny. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 56. Związek Cyfrowa Polska Art. 6 ust. 4 Brak wynagrodzenia dla członków Komisji może obniżyć efektywność jej działania, zwłaszcza w obliczu licznych obowiązków wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Pozostawienie tej kwestii do uznania instytucji Uwaga wyjaśniona Strona | 74 delegujących członków nie gwarantuje stabilności funkcjonowania Komisji. Rekomendujemy zapewnienie członkom Komisji odpowiedniego wynagrodzenia za ich pracę. Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. 57. SFP-ZAPA Art. 7 Włączenie przedstawiciela Ministra Kultury i Dziedzictwa Narodowego w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a co najmniej wyposażenie go w prawo głosu w tych posiedzeniach, w których będzie brał udział (art. 7 Projektu). Minister jest organem właściwym w sprawach związanych z prawami autorskimi i prawami pokrewnymi, które z punktu widzenia rozwoju sztucznej inteligencji są niezwykle istotne, stąd też nie powinien być pomijany przy tworzeniu Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Ministrowie będą mogli uczestniczyć w posiedzeniach komisji jako stali obserwatorzy bez prawa głosu - art. 6 ust. 4. 58. GRAI Art. 7 ust. 2 Uzasadnienia wymaga wskazanie do składu Komisji przedstawicieli Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, KRRiT, Rzecznika Praw Dziecka oraz Prezesa UKE. Dlaczego brakuje RPO? Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Strona | 75 Wskazane w uwadze podmioty zostały wyłączone z jej składu. Uzasadnienie projektu ustawy o systemach sztucznej inteligencji zostało rozbudowane. Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie w związku ze zgłoszoną przez siebie uwagą. 59. PTI Art. 7 ust. 4 i 5 Czy protokoły i uchwały są z założenia publicznie dostępne? Jeśli tak, to gdzie będą publikowane? Dodać zapis: „Posiedzenia Komisji są jawne, a protokoły z posiedzeń – publicznie dostępne”. Warto uściślić sposób i poziom dostępu do protokołów i uchwał. Uwaga wyjaśniona Zgodnie z art. 77 ust. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. 60. KIGEiT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uwaga wyjaśniona Projektodawca utrzymuje aktualny przepis art. 7 ust. 9. W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może Strona | 76 być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 61. PIIT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 62. ICC Poland Art. 8 pkt 4 Zgodnie z art. 8 pkt 4 Projektu Przewodniczący Komisji wskazuje organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także publikuje i aktualizuje ich wykaz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz przekazuje informacje w tym zakresie Komisji Europejskiej oraz państwom członkowskim Unii Europejskiej. O ile obowiązki w zakresie publikacji i przekazywania informacji mają charakter czysto techniczny i wpisują się w katalog zadań Przewodniczącego Komisji jako kierującego jej pracami, to należałoby rozważyć, czy kompetencja w zakresie wskazywania organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689 oraz aktualizowania tego wykazu zgodnie z art. 77 ust. 2 rozporządzenia 2024/1689 nie powinna należeć do Komisji jako organu nadzoru nad rynkiem systemów sztucznej inteligencji, nie zaś samodzielnie Przewodniczącemu Komisji. Uwaga wyjaśniona Mając na uwadze zapewnienie rozdziału kompetencji pomiędzy Komisją a przewodniczącym Komisji kompetencja wskazana w uwadze powinna należeć do Przewodniczącego Komisji. 63. AmCham Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o AI. Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do rozbieżności w wykładni i stosowaniu. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z Strona | 77 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem o AI i wytycznymi Biura ds. AI. prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 64. ZPTC Lewiatan Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się Strona | 78 zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689”. 65. IWP Repropol Art. 9 Dostrzegliśmy, że poprawiona wersja projektu zawiera odwołanie do definicji modelu AI ogólnego przeznaczenia, jak i art. 2 ust. 2 UoSSI („O ile przepisy ustawy nie stanowią inaczej, przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia”). Zdecydowanie uważamy, jednakże, że KRIBSI odgrywa – obok Urzędu ds. AI – na tyle istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), że katalog jej obowiązków zawarty w art. 9 UoSSI powinien zostać uzupełniony również o ten wymiar. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI może być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Uwaga uwzględniona Dodano do art. 9, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 66. ZPWC Art. 9 Doceniamy poczynione w drugiej wersji projektu ustawy nawiązanie do modeli AI ogólnego przeznaczenia (GPAIM, art. 2 ust. 2 Projektu). Uważamy jednocześnie, że z uwagi na rolę KRIBSI (obok Urzędu ds. AI) przy funkcjonowaniu GPAIM, kompetencja polskiego organu w odniesieniu do GPAIM powinna zostać ujęta expressis verbis w katalogu kompetencji KRIBSI (art. 9 Projektu). Uwaga uwzględniona Dodano do art. 9 pkt 17, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 67. PTI Art. 9 pkt 3 i 14 Propozycja: Prosimy o przeredagowanie punktów, aby uniknąć dublowania zapisów Uzasadnienie: Jak w propozycji Uwaga wyjaśniona Zdaniem projektodawcy konieczne jest utrzymanie zarówno Strona | 79 punktu 3, jak i 14 w art. 9. 68. ZPTC Lewiatan Art. 10 ust. 1 Jest: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania. Propozycja: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji. Uzasadnienie: zapis szczególny mówiący, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. W przypadku braku zaproszenia do opiniowania, inicjatywa może i powinna być po stronie Komisji. Por. Art. 9 punkt 5) Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 69. GRAI Art. 10 ust.1 Jest: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania.”. Propozycja: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji.”. Uzasadnienie: Przepis, który stanowi o tym, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. Brak zaproszenia do opiniowania może wynikać nie tylko ze złej woli, ale także być wynikiem błędu lub braku zrozumienia, że opiniowany dokument może być związany ze stosowaniem sztucznej inteligencji. Inicjatywa zatem może wtedy leżeć po stronie Komisji. por. art. 9 punkt 5 Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 70. GRAI Art. 11 Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7) art. 11, dopiero po zadaniach związanych m.in. ze wspieranie rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i i stosowania systemów SI czy udziale w Uwaga wyjaśniona Podejmowanie działań mających na celu Strona | 80 opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji jako zadanie Komisji znalazło umiejscowienie w art. 9 pkt 3. 71. GRAI Art. 11 Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Uwaga wyjaśniona Szczegółowe rozwiązania związane piaskownicami regulacyjnymi znajdują się w rozdziale 8 projektu ustawy. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 72. KIGEiT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Nie ma jasności, co do charakteru prawnego wyjaśnień, należałoby sprecyzować. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast, co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O Strona | 81 np. w zakresie formy i zawartości wniosku, opłaty itd., Powstaje pytanie, czym różnią się wyjaśnienia od opinii indywidualnych? ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 73. PIIT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 74. KIGEiT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uwaga uwzględniona Numer rozporządzenia został poprawiony 75. PIIT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia Uwaga uwzględniona Numer rozporządzenia został poprawiony. Strona | 82 Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. 76. IA Chamber Art. 12 W art. 12 odwrotnie zapisany jest numer rozporządzenia - 1689/2024 zamiast 2024/1689 (uwaga redakcyjna). Uwaga uwzględniona Numer rozporządzenia został poprawiony. 77. KIGEiT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 78. PIIT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie Strona | 83 zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 79. KIGEiT Art.12 ust.1 Błędna numeracja rozporządzenia, winno być: 1689/2024/1689. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 80. PIIT Art.12 ust.1 zła numeracja rozporządzenia: 1689/2024/1689, błędna numeracja. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 81. AmCham Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym w zakresie pozostaje w tej sytuacji niezasadne. 82. ZPTC Lewiatan Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Podmioty mogą ponieść dodatkowe koszty i wysiłki na przygotowanie własnego stanowiska, jednak nie powinno to być obowiązkowe. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że Strona | 84 niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 83. GRAI Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym zakresie pozostaje w tej sytuacji niezasadne. 84. GRAI Art. 12 ust. 6 w związku z ust. 9 Jest: „6. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w ust. 2 i 3, Komisja wzywa podmiot, który go złożył, do uzupełnienia braków w terminie 7 dni. W przypadku nieuzupełnienia braków w Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii Strona | 85 wyznaczonym terminie, wniosek pozostawia się bez rozpatrzenia, a wniesioną opłatę uznaje się za nienależną. (...) 9. Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. Komisja informuje podmiot, który złożył wniosek o opinię indywidualną, o tym, że uznaje przypadek za szczególnie skomplikowany.”. Propozycja brzmienia: „6. W przypadku [.]za nienależną. W przypadku, gdy zachodzi uzasadniona obawa, że wydanie opinii w terminach określonych w ust. 9 nie będzie możliwe, Komisja odmawia przyjęcia wniosku o wydanie opinii indywidualnej.”. Uzasadnienie: Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu (w związku z art. 12 ust. 10 i 12), które byłoby możliwe w sytuacjach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia ust. 6 w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 85. ZBP Art. 12 ust. 9 Analogicznie do wszelkich innych postępowań (w szczególności administracyjnym) od opinii indywidualnej powinno służyć odwołanie, aby zapewnić podmiotom składającym wniosek o wydanie opinii prawo do kontroli wydanej opinii przez inny niezależny i bezstronny organ (sąd), co zapewni obywatelowi poczucie sprawiedliwego rozstrzygnięcie jego sprawy. Uwaga wyjaśniona Od opinii indywidualnej nie służy odwołanie. Jest to szczególny rodzaj opinii, który na podstawie przepisów ustawy może podlegać weryfikacji i zmianie przez samą Komisję. 86. KIGEiT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 87. PIIT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Błędna numeracja odwołania Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. Strona | 86 88. GRAI Art. 12 ust. 10 w związku z ust. 12 Jest: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. (...) „12. Opinia indywidualna nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej.”. Propozycja brzmienia: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Komisja może wydać opinię po upływie terminów wskazanych w ust. 9, uznając stanowisko podmiotu za niepotwierdzone w zakresie wskazanym zaległą opinią od dnia jej wydania.”. Uzasadnienie: Błąd redakcyjny w numeracji ustępów. Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu w przypadkach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 89. GRAI Art. 12 ust. 11 Uwaga redakcyjna: Brakuje rozdzielania w sformułowaniu „sądowo - administracyjnego”. Uwaga wyjaśniona Przepisowi ust. 13 nadano brzmienie zgodnie z treścią uwagi. 90. ICC Poland Art. 12 ust. 10 i ust. 12 Artykuł 12 ust. 12 Projektu określa skutek prawny wydania opinii indywidualnej, zgodnie z którym opinia taka „nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Równocześnie zgodnie z art. 12 ust. 10 Projektu „niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną” [podkreślenie własne]. Porównanie obu ww. przepisów może rodzić wątpliwości czy fikcja potwierdzenia stanowiska, o której mowa w art. 12 ust. 10 Projektu, wywoła skutek z art. 12 ust. 12 Uwaga uwzględniona Przepisowi ust. 10 nadano brzmienie zgodnie z treści uwagi. Strona | 87 Projektu, tj. czy zastosowanie się podmiotu, który złożył wniosek o opinię indywidualną i nie została ona wydana w terminie, do stanowiska przedstawionego we wniosku nie będzie mogło stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Zachodzi zatem konieczność zapewnienia kompatybilności obu tych przepisów. Cel ten może zostać osiągnięty przez następującą zmianę art. 12 ust. 10 Projektu: Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Na marginesie, wobec treści art. 12 ust. 10 Projektu oraz art. 115 ust. 3 Projektu, przewidującego zwołanie pierwszego posiedzenia Komisji w terminie maksymalnie 3 miesięcy od dnia wejścia w życie ustawy, wydaje się konieczne uregulowanie w ramach przepisów przejściowych, od kiedy możliwe jest składanie wniosków o wydanie opinii indywidualnych (również w kontekście potrzeby zorganizowania Biura Komisji). 91. ZBP Art. 12 ust. 11 Literówka. Brakuje rozdzielania w sformułowaniu „sądowoadministracyjnego” Uwaga uwzględniona Przepis ust. 13 otrzymał brzmienie zgodnie z treścią uwagi. 92. ZBP Art. 12 ust. 12 Opinia indywidualna jest wydawana na wniosek zainteresowanego podmiotu. Wydanie tej opinii powinno zostać uregulowane analogicznie do wydania interpretacji indywidualnej, czyli powinna ona być wiążąca dla Komisji i innych organów w danej sprawie. Należy mieć na uwadze, że interpretacja przepisów służy podjęciu przez dany podmiot oceny dotyczącej wprowadzenia danego systemu lub rozwiązania dotyczącego AI, co wiąże się ze znacznymi nakładami finansowymi oraz dostosowaniem innych wewnętrznych systemów oraz regulacji dotychczas stosowanych w danym podmiocie. Z tego względu niewiążąca opinia nie będzie stanowiła gwarancji właściwej interpretacji danych przepisów i spowoduje to stan permanentnej niepewności dotyczącej wprowadzanych systemów AI i brak bezpieczeństwa obywateli do wydawanych opinii indywidualnych. Celem złożenia wniosku o wydanie opinii indywidualnej jest zapewnienie podmiotowi bezpieczeństwa w zakresie stanu faktycznego i interpretacji przepisów znajdujących zastosowanie do tego stanu faktycznego objętego wnioskiem. W przeciwnym razie instytucja ta nie będzie spełniała swoich podstawowych funkcji. Z tego względu proponujemy alternatywne brzmienie przepisu: „Opinia indywidualna nie jest wiążąca dla Komisji i innych organów państwowych i jednostek organizacyjnych właściwych dla przedsiębiorcy podmiotu, który złożył wniosek i zakresie danej sprawy we wskazanym we wniosku stanie faktycznym. z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji Uwaga uwzględniona Przepis otrzymał brzmienie zgodne z treścią uwagi. Strona | 88 administracyjnej.Opinia może zostać zmieniona jedynie w drodze wznowienia postepowania. Opinia nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły nieodwracalne skutki.” 93. ZBP Art. 12 ust. 13 Żaden podmiot (np. przedsiębiorca) nie ma wiedzy o innych toczących się postepowaniach przed Komisją lub sądem. Dodatkowo w przypadku, gdy inny podmiot złoży odwołanie od wydanej na podstawie jego wniosku decyzji to postepowanie takie może długo trwać, a zamyka drogę do rozpoznania sprawy innego podmiotu. Inna sytuacja jest w przypadku, gdy decyzja w analogicznej sprawie została już wydana. Powinna ona być nie tylko rozstrzygnięta, ale też opublikowana, aby każdy miał do jej treści łatwy dostęp. Z tego względu proponujemy alternatywne brzmienie przepisu: Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o opinię indywidualną są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowoadministracyjnego w wyniku złożenia przez dany podmiot wcześniejszego wniosku o wydanie opinii albo gdy w tym zakresie sprawa została rozstrzygnięta i opublikowana. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 89 wymagane dla osiągniecia celu wskazanego w uwadze. 94. Związek Cyfrowa Polska Art. 12 ust. 13- 15 Projektowana ustawa nie precyzuje - a powinna- że wnioskodawca nie poniesie negatywnych konsekwencji za udzielenie informacji przy założeniu, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli wnioskodawca nie wiedział o takim postępowaniu. Wnioskodawca może nie mieć możliwości uzyskania takiej informacji, jeśli stosowna informacja nie została jeszcze oficjalnie przekazana. Przepis powinien wyraźnie wskazywać, że wnioskodawca nie poniesie negatywnych konsekwencji za stwierdzenie, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli nie wiedział o takim postępowaniu w momencie składania wniosku. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego weryfikowania, czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się postępowania przed polskimi organami, sądami lub instytucjami przed złożeniem wniosku o wydanie opinii indywidualnej. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 90 wymagane dla osiągniecia celu wskazanego w uwadze. 95. GRAI Art. 12 i 13 Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? Uwaga wyjaśniona Środki wspierające innowacyjność zostały ujęte w rozdziale 8. 96. ICC Poland Art. 12 i 14 Zgodnie z nową treścią art. 14 Projektu: „Opinie indywidualne i wyjaśnienia, o których mowa w art. 11-13 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, jak również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji”. Na ogólną aprobatę zasługuje uwzględnienie zgłoszonych w toku poprzednich konsultacji publicznych uwag dotyczących konieczności ochrony informacji poufnych i tajemnicy przedsiębiorstwa w kontekście publikacji opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Za zmianą tą powinien podążyć jednak mechanizm pozwalający wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku lub powołania się na inną tajemnicę prawnie chronioną. Trudno bowiem oczekiwać, że Komisja samodzielnie będzie w stanie zidentyfikować i ocenić tego rodzaju okoliczność. Z tego względu proponuje się uzupełnienie art. 12 Projektu o wyraźne wskazanie, że wniosek o wydanie opinii indywidualnej może zawierać zastrzeżenie, że określone informacje zawarte we wniosku nie mogą być udostępnianie z uwagi na to, że stanowią tajemnicę przedsiębiorstwa. Przepis taki mógłby mieć następującą treść: We wniosku o wydanie opinii indywidualnej można zastrzec i wykazać, że określone zawarte w nim informacje stanowią tajemnicę przedsiębiorstwa w rozumieniu przepisów ustawy z dnia 16 kwietnia 1993 r. o zwalczaniu nieuczciwej konkurencji (Dz. U. z 2022 r., poz. 1233) lub objęte są inną tajemnicą prawnie chronioną i nie mogą być udostępniane. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści opinii indywidualnej lub wyjaśnień, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 97. ZBP Art. 13 Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia KRiBSI w zakresie stosowania przepisów AI Act oraz ustawy nie mogą stać w sprzeczności z Wytycznymi Uwaga wyjaśniona Strona | 91 i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): „Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej.” Należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 98. GRAI Art. 13 Proponujemy, aby wyraźnie wskazać, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uwaga wyjaśniona Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689/”. 99. GRAI Art. 14 Wskazania wymaga moc prawna opinii indywidualnych, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? Uwaga wyjaśniona Zgodnie z art. 12 ust. 12 opinia indywidualna jest wiążąca dla Komisji i podmiotu, który złożył o Strona | 92 nią wniosek, działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. 100. GRAI Art. 14 Zwracamy także uwagę potrzeba ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 101. GRAI Art. 14 ust. 2 Propozycja: Aby ograniczyć ryzyko ujawnienia tożsamości wnioskodawców zalecamy dodanie ust. 2 do art. 14 Projektu - podobnie jak w art. 65 ust. 1 ustawy o przetwarzaniu danych osobowych z 2018 r. - który mógłby otrzymać brzmienie: „ust. 2: Wnioskodawca może zastrzec informacje, dokumenty lub fakty stanowiące tajemnicę przedsiębiorstwa, które nie powinny być publikowane w Biuletynie Informacji Publicznej, chyba że wnioskodawca wyrazi na to wyraźną zgodę”. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 102. PTI Art. 14 Powinien być dodany termin rozpatrzenia wniosku (w kontekście art. 11-13). Prosimy o uzupełnienie brzmienia artykułu 14 Uwaga wyjaśniona Strona | 93 Zgodnie z art. 12 ust. 9 Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. 103. Związek Cyfrowa Polska Art. 14 Projektowana ustawa powinna wyraźnie określać, w jaki sposób wnioskodawca powinien oznaczać informacje, które nie powinny być publikowane, np. tajemnice przedsiębiorstwa. Obecne przepisy nie określają jasnych zasad identyfikacji danych poufnych w kontekście indywidualnych opinii i wyjaśnień. Wnioskodawcy powinni mieć wyraźne prawo do żądania wyłączenia określonych informacji z publikacji. Zalecamy dodanie przepisu umożliwiającego wnioskodawcom oznaczenie informacji poufnych jako niepublicznych w momencie ich składania. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności Strona | 94 określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 104. KIGEiT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 105. PIIT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Mając na uwadze, że Powołanie Przewodniczącego następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego naboru wydaje się nieadekwatnym rozwiązaniem. 106. KIGEiT Art.16 ust.1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Rekomenduje się zmiany sformułowania jw. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. Strona | 95 107. PIIT Art.16 ust. 1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem - rekomendacja zmiany sformułowania. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. 108. ZBP Art. 18 ust. 5 Termin na złożenie dokumentów w odpowiedzi na ogłoszoną informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji powinien być dłuższy ze względu na to, że nikt nie sprawdza w/w stron codziennie, a ponadto konieczne jest zgromadzenie dokumentów potwierdzających wiedzę i doświadczenie w zakresie AI. Chodzi o to, aby wyłonić kandydata posiadającego dużą wiedzę i doświadczenie, a taki krótki termin może spowodować, że część kandydatów, którzy zgłosiliby swoją kandydaturę nie złoży dokumentów ze względu na zbyt krótki termin, co będzie ze szkodą dla działalności Komisji i w konsekwencji ze szkodą dla podmiotów wdrażających systemy AI. Z tego względu proponujemy alternatywne brzmienie przepisu: „Termin, o którym mowa w ust. 4 pkt 6, nie może być krótszy niż 10 30 dni od dnia opublikowania ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej urzędu obsługującego ministra właściwego do spraw informatyzacji.” Uwaga uwzględniona W projekcie wskazano termin 21 dni. 109. KIGEiT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący, co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Należałoby doprecyzować, spośród kogo wybierany jest zespół oraz w jakim trybie są wybierane te osoby, a także, kto weryfikuje ich kompetencje do tego zadania. Uwaga wyjaśniona Projektodawca nie dostrzega zasadności modyfikacji zaproponowanych przepisów. Tryb i sposób powołania zastępców przewodniczącego uregulowane są w przepisach art. 18. 110. PIIT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w Uwaga wyjaśniona Zespół powoływany jest przez Przewodniczącego Strona | 96 podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Komisji. W jego gestii pozostaje sposób weryfikacji członków. Członkami zespołu mogą być osoby odznaczające się wiedzą i doświadczeniem w zakresie sztucznej inteligencji lub prawa jak również doświadczeniem zawodowym uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 111. Fundacja Panoptykon Art. 21 Konflikt interesów w przypadku członków Komisji Pragniemy powtórnie podkreślić, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji, których przedstawiciele będą członkami Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 21 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Uwaga wyjaśniona Przepisy ustawy w sposób i proporcjonalny adresują kwestie związane z konfliktem interesów członków Komisji. 112. ZPTC Lewiatan Art. 22; art. 24 Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu Uwaga wyjaśniona Strona | 97 zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie wprowadzić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Przedmiotowe przepisy uległy znaczącym zmianom. 113. GRAI Art. 22 ust. 1 W jaki sposób Komisja realizowała będzie swój obowiązek informacyjny? Dlaczego tylko dla Biura Komisji przewidziane zostało takie szczególne uregulowanie? Uwaga uwzględniona Art. 22 ust. 1. został wykreślony. 114. GRAI Art. 22 ust. 2 Zapis jest niejasny. Oznacza, że komisja powinna zrealizować sama swój obowiązek informacyjny? A może mowa o innych obowiązkach jakich? Na gruncie RODO? Uwaga uwzględniona W art. 22 ust. 2 został wykreślony. 115. GRAI Art. 22 ust. 1 i 2 Zapisy w projekcie wprowadzają istotne wątpliwości, co do tego kto jest administratorem danych na gruncie ustawy. Taka sytuacja nie powinna mieć miejsca. Jako że rozporządzenie 2016/679 (RODO) daje możliwość ustanawiania regulacji szczególnych w prawie krajowym to tym bardziej ustawa powinna w sposób klarowny i jednoznaczny określać jakiekolwiek odmienności od rozporządzenia Uwaga wyjaśniona W art. 22 ust. 1 i 2 zostały wykreślone. 116. AmCham Art. 22 ust. 5 Celem zapewnienia solidnych ram ochrony danych w kontekście sztucznej inteligencji, konieczne jest wprowadzenie bardziej rygorystycznych środków bezpieczeństwa, które będą regulować ujawnianie informacji poufnych podmiotom zewnętrznym, w tym organom ścigania. Jednym z podstawowych zabezpieczeń może być wprowadzenie obowiązku uzyskania uprzedniej zgody sądu lub prokuratora przed udostępnieniem takich danych. To dodatkowe wymaganie zapewniłoby, że ujawnienie danych nastąpi tylko wtedy, gdy istnieje wyraźna, uzasadniona podstawa prawna i nie narusza to innych istotnych praw. Alternatywnie lub dodatkowo, można dostosować obecne ramy prawne do standardów poufności zawartych w Prawie o komunikacji elektronicznej. Takie dostosowanie zapewniłoby spójne i kompleksowe podejście do ochrony wrażliwych informacji w różnych sektorach, w tym w obszarze AI. Należy podkreślić, że dane związane z AI często obejmują nie tylko cenne informacje biznesowe i rynkowe, ale także krytyczne szczegóły operacyjne firm zaangażowanych w rozwój i wdrażanie AI. Nieuprawnione ujawnienie takich danych może mieć poważne konsekwencje, takie jak utrata przewagi konkurencyjnej, szkody finansowe, a nawet zagrożenie dla bezpieczeństwa narodowego. W związku z tym niezbędne jest ustanowienie mechanizmów prawnych, które skutecznie zapobiegną nieuzasadnionemu udostępnianiu danych związanych z AI. Uwaga wyjaśniona W art. 22 ust. 5 został wykreślony. Strona | 98 Obecnie istnieje ryzyko, że takie dane mogą być udostępniane bez odpowiedniej kontroli, co może prowadzić do niezamierzonego ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i zapewniłoby, że dostęp do wrażliwych danych AI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba, np. w ramach prowadzonego postępowania karnego. Taki mechanizm zwiększyłby również zaufanie do ram regulacyjnych i zapewniłoby ochronę praw wszystkich zainteresowanych stron. 117. KIGEiT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. Jeśli przepis nie zostanie usunięty to proponujemy następujące zmiany: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: · 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; ·6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych, o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem). Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 118. PIIT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą odnoszącą się do sądów/sędziów Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. Strona | 99 wniosek: 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; 6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). 119. PIIT Art. 22 ust. 5 Wprowadzenie wymogu uprzedniej zgody sądu albo prokuratora dla żądania danych. Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. Strona | 100 120. Związek Cyfrowa Polska Art. 22 ust. 5 Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba. Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. 121. GRAI Art. 22 i 23 W miejsce obecnie zaproponowanych przepisów, które budzą liczne wątpliwości proponujemy odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO, zarówno w odniesieniu do Komisji, Biura Komisji, jak i potencjalnie Rady Społecznej, jeśli w ramach jej zadań przetwarzane będą dane osobowe. A dodatkowo wskazać w ustawie bardzo wyraźnie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e czy h RODO/ częściowo jest to zrobione, ale w sposób wybiórczy i enigmatyczny. Uwaga nieaktualna Art. 22 został wykreślony a art. 23 uległ znaczącym zmianom. 122. GRAI Art. 23 ust. 2 Przepis brzmi jak ograniczenie obowiązków Komisji na gruncie RODO. Zaproponowane rozwiązanie jest zupełnie bezpodstawne. Uwaga uwzględniona W art. 23 ust. 2 został wykreślony. 123. GRAI Art. 23 ust. 2 Jest: Art. 23 ust. 2: „Komisja, przetwarzając dane osobowe prowadzi analizę ryzyka zgodnie z zasadą integralności i poufności, o których mowa w art. 5 ust. 1 lit. f rozporządzenia 2016/679, jak również stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje i stosuje procedury bezpiecznej wymiany informacji.” Komentarz: art. 5 ust. 1 lit. f rozporządzenia 2016/679 wskazuje na zasadę poufności i integralności przetwarzanych danych. Środki ochrony danych, o których mowa w art. 23 ust. 2 dotyczą art. 32 rozporządzenia 2016/679. Uwaga nieaktualna W art. 23 ust. 2 został wykreślony. Strona | 101 Sugerowana zamiana przepisu art. 23 ust. 2: „2. Komisja, przetwarzając dane osobowe przeprowadza analizę ryzyka dobierając odpowiednie środki techniczno – organizacyjne zgodnie z art. 322 rozporządzenia 2016/679 wywiązując się z zasad, o których mowa w art. 5 ust. 1 lit. F rozporządzenia 2016/679.”. 124. GRAI Art. 23 ust. 4 Jest: „4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane.”. Proponujemy wykreślenie tego przepisu ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”). A zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO. Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 125. AmCham Art. 23 ust. 4 Proponujemy wykreślenie tego ustępu, ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”)”, a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 126. ZPTC Lewiatan Art. 23 ust. 4 Jest: 4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane. Uwaga uwzględniona Strona | 102 Proponujemy wykreślenie tego zapisu, ponieważ przepisy rodo bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”); a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przetwarzanie do zgodnego z przepisami RODO. W art. 23 ust. 4 został wykreślony. 127. IWP Repropol Art. 25 i art. 26 Projekt ustawy ustanawia Społeczną Radę do spraw Sztucznej Inteligencji, gremium doradcze przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI). Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 25 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania (OZZ) dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest niemożliwie do przecenienia. Co więcej, powszechnie znane problemy z funkcjonowaniem generatywnej odmiany Sztucznej Inteligencji powstają właśnie na styku z szeroko pojętą własnością intelektualną. OZZ bardzo pilnie śledzą i uczestniczą w tej dyskusji, dzięki czemu jako jedna z pierwszych grup podmiotów są one głęboko zaangażowane w analizę powstawania i funkcjonowania modeli i systemów AI. Mając na uwadze ten bagaż doświadczenia, prosimy o odpowiednie uzupełnienie art. 25 ust. 3 UoSSI. Zwraca naszą uwagę, że projekt konsekwentnie nie przewiduje możliwość uczestnictwa w społecznej radzie za choćby niewielkim honorarium (art. 26 ust. 6 UoSSI). Ze dziwieniem odnotowujemy uzasadnienie nieodpłatnego uczestnictwa w pracach rady („(...) chcąc nie generować niepotrzebnych kosztów po stronie budżetu państwa nie przewiduje się wynagrodzenia dla członków Komisji poza Przewodniczącym i jego zastępcami”, s. 10 uzasadnienia). Uważamy, że uczestnictwo w tak wysoko wyspecjalizowanym gremium oraz dzielenie się unikalną wiedzą na temat sztucznej inteligencji uzasadnia zapłatę. Ponownie zwracamy uwagę, że zakwalifikowanie tego Uwaga wyjaśniona Nie jest planowane poszerzenie katalogu podmiotów o OZZ. Skład podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk twórczych. Udział w pracach Rady pozostaje nieodpłatny Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych Strona | 103 rodzaju wynagrodzenia do kategorii „niepotrzebnego kosztu” jest w naszym przekonaniu wybitnie niefortunnym skrótem myślowym. w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 128. GRAI Art. 25 Proponujemy rozszerzenie wymagania o pewien minimalny okres pracy w obszarze cyfryzacji, w celu dodania mierzalności doświadczenia. Poniżej propozycja dodatkowego zapisu: „posiada co najmniej pięcioletni staż pracy na stanowiskach z obszaru cyfryzacji;”. Uwaga wyjaśniona Mając na uwadze charakter Społecznej Rady wskazane kryterium jest nadmiarowe. 129. ZBP Art. 25 ust. 3 Zwracamy uwagę na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być również przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. p. 7): „7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, bankowości, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych;”. Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 130. GRAI Art. 25 ust. 3 pkt 7 Wskazujemy na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, tak, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. 3 pkt 7: 7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 131. GRAI Art 25 ust. 3 pkt 10 Proponuje rozszerzenie katalogu podmiotów zgłaszających o organizację społeczne i stowarzyszenia zajmujące się w swoich celach statutowych szeroko pojętym bezpieczeństwem informacji, ze względu na bardzo duże powiazanie pomiędzy rozwojem technologii sztucznej inteligencji, a informacjami i ich bezpieczeństwem. Poniżej propozycja przepisu z naniesioną zmianą: Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 104 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej, bezpieczeństwa informacji. 132. Stowarzyszen ie Autorów ZAiKS Art. 25 ust. 3 nowy pkt 11 W art. 25 ust. 3 po punkcie 10) dodaje się średnik oraz punkt 11) o następującym brzmieniu: „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.” ALTERNATYWNIE „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem z systemów sztucznej inteligencji.” UZASADNIENIE Artykuł 25 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (dalej „Rada”), powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych lub szerzej, podmiotów, których prawa mogą być naruszane przez systemy sztucznej inteligencji. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów AI oraz modelami AI. Nadzór ten musi uwzględniać przestrzeganie przez branżę AI unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji lub y działające na rzecz jej rozwoju, a nie zapewnia przy tym zeczywistego przedstawicielstwa sektorów kreatywnych czy użytkowników systemów AI, zakłócając tym samym równowagę interesów tych różnych grup podmiotów działających w ramach bezstronnego organu, jakim ma być Rada. Dodanie w konsultowanym Projekcie do katalogu podmiotów mogących być powołanymi do Rady przedstawicieli trzeciego sektora działających „na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej” nie rozwiązuje problemu braku właściwego przedstawicielstwa organizacji reprezentujących twórców czy artystów wykonawców. Organizacje te nie prowadzą Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 105 działalności w zakresie rozwoju kultury cyfrowej, a ich statutowym działaniem jest zapobieganie naruszeniom praw ich członków. Tych samych praw, które od wielu lat naruszane są na masową skalę przez dostawców modeli i systemów Gen AI. Organizacje reprezentujące twórców na całym świecie – takie jak CISAC (Międzynarodowa Konfederacja Stowarzyszeń Autorów i Kompozytorów), alarmują, że przedsiębiorstwa z branży AI od lat bezumownie korzystają z chronionych treści do trenowania swoich modeli generatywnej sztucznej inteligencji. Modele te coraz lepiej naśladują styl i estetykę konkretnych artystów, co prowadzi do deprecjacji oryginalnej twórczości i zmniejsza dochody autorów. Z raportu zleconego przez CISAC wynika, że gwałtowny wzrost przychodów dostawców Gen AI w ciągu najbliższych pięciu lat idzie w parze z ryzykiem znaczącej utraty dochodów twórców z powodu wypierania dzieł ludzkich przez generowane przez AI substytuty. Szacuje się, że pomimo dostarczania istotnych zasobów kreatywnych dla rynku treści generowanych przez AI, do 2028 r. twórcy muzyki oraz utworów audiowizualnych mogą doświadczyć strat wynoszących odpowiednio 24% i 21% ich obecnych przychodów. Łącznie ma to oznaczać stratę rzędu 22 miliardów euro w ciągu pięciu lat (10 miliardów euro w branży muzycznej oraz 12 miliardów euro w sektorze audiowizualnym). W szczególności silnie dotknięte zostaną rynki streamingu i bibliotek muzycznych, gdzie prognozuje się, że do 2028 r. muzyka generowana przez AI będzie stanowić około 20% przychodów tradycyjnych platform streamingowych oraz aż 60% przychodów bibliotek muzycznych. Podobne zagrożenie dotyczy twórców audiowizualnych. Najbardziej narażeni na straty są tłumacze oraz osoby zajmujące się dubbingiem i napisami, którzy mogą stracić nawet 56% swoich dochodów. Również scenarzyści i reżyserzy muszą liczyć się z konsekwencjami, gdyż AI może „skanibalizować” od 15% do 20% ich przychodów. Wzrost roli Gen AI w przemyśle kreatywnym rodzi więc poważne pytania o przyszłość wynagrodzeń i ochrony praw twórców. AI Act wymaga, aby organy odpowiedzialne za nadzór nad sztuczną inteligencją uwzględniały głos wszystkich stron zainteresowanych potencjalnym wpływem systemów AI na prawa i obowiązki prawne. Organizacje reprezentujące uprawnionych z tytułu praw autorskich i pokrewnych pełnią fundamentalną rolę w ochronie interesów twórców i wykonawców, dlatego ich pominięcie ich udziału w organach nadzorujących wdrożenie AI Act w Polsce stanowi naruszenie tej zasady. Uwzględniając powyższe argumenty, wnioskujemy o uzupełnienie składu Rady i właściwe zrównoważanie interesów wszystkich interesariuszy. 133. PTI Art. 25 ust. 4 pkt 1 LUB warto zamienić na ORAZ. 1. posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii oraz praw człowieka; Uwaga uwzględniona Strona | 106 LUB określa funkcję OR dla wymienionych kompetencji, co sprawia, że kompetencje w obszarze praw człowieka są alternatywą dla kompetencji technicznych, co spełnia warunek posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji dla osób bez kompetencji technicznych. Przepis został skorygowany zgodnie z treścią uwagi. 134. IA Chamber Art. 25 ust. 6 pkt 7 Ponownie wnosimy o usunięcie przepisu art. 25 ust. 6 pkt. 7. Członkowie Rady nie reprezentują organizacji, które zgłosiły ich kandydatury i nic nie uzasadnia wygaszania mandatów Członków w ten sposób. Uwaga uwzględniona Przepis został wykreślony. 135. KIGEiT Art. 26 ust.3 2.Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby, (choć nie jest wskazane, w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się, bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co budzi wątpliwości. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 136. PIIT Art. 26 ust.3 Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 137. KIGEiT Art. 26 ust. 4 w zw. z Art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady Strona | 107 zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 138. PIIT Art. 26 ust. 4 w zw. z art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 139. PTI Art. 26 ust. 4 W zapisach brakuje określenia, pod jakim rygorem członek Rady dotrzymuje tajemnicy Sugerujemy określić warunki/rygor dochowania tajemnicy. Ujawnienie sensytywnych informacji przez członka Społecznej Rady musi być powiązane z odpowiednim przepisem, który tego zabrania pod karą wynikającą z kodeksu karnego Uwaga uwzględniona Rygor został określony w art. 25 ust. 8. Strona | 108 140. IA Chamber Art. 26 ust. 5 Nie został odpowiednio dopracowany przepis dotyczący konfliktu interesów członków Rady (obecnie w art. 26 ust. 5 projektu ustawy). Jest on sformułowany zbyt szeroko, mogąc prowadzić do nacisków wobec członków Rady. Przepis ten powinien bardziej precyzyjnie wskazywać, że dany członek powinien wyłączyć się z prac Rady w sytuacjach wystąpienia bezpośredniego konfliktu interesów. Uwaga wyjaśniona Mając na uwadze, że rada jest ciałem opiniodawczo doradczym projektodawca nie widzi zasadności doprecyzowania przedmiotowego przepisu. 141. KIGEiT Art. 27 ust.1 pkt 2 2) przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Natomiast należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 49 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 142. PIIT Art. 27 ust.1 pkt 2 Przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie Strona | 109 Natomiast co do zasady należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 143. AmCham Art. 27 ust. 2 Obecna redakcja przepisu może sugerować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące, co nie wydaje się zgodne z intencją projektodawcy. Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 144. KIGEiT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 145. PIIT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały, ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Strona | 110 Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 146. ZPTC Lewiatan Art. 27 ust. 2 Czy z projektu zapisu należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 147. GRAI Art. 27 ust. 2 Przy obecnym brzmieniu przepisu, pojawia się wątpliwość, czy należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1 są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 148. Stowarzyszen ie Autorów ZAiKS Art. 27 ust. 3 Biorąc pod uwagę, że Rada może liczyć od 9 do 15 członków - wątpliwości budzi nie zawarcie w art. 27 ust. 3 Projektu wskazówki, jak rozwiązać impas w przypadku równej liczby głosów. Wskazane jest więc dodanie, że \"w razie równej liczby głosów rozstrzyga głos Przewodniczącego Rady\". Uwaga wyjaśniona Tryb ten zostanie uregulowany w regulaminie, o którym mowa w art. 26 ust. 8. 149. KIGEiT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w Strona | 111 zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 150. PIIT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 151. GRAI Art. 28 Mając na uwadze, że w skład Komisji mają wejść przedstawiciel RPD, wyjaśnienia wymaga jakie jest uzasadnienie włączenia przedstawiciela również do Rady? Uwaga wyjaśniona RPD w nowej wersji projektu ustawy nie wchodzi w skład KRiBSI, natomiast może zgłaszać przedstawicieli do Społecznej Rady. Strona | 112 152. SFP-ZAPA Art. 28 ust. 3 Uzupełnienie katalogu podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji poprzez zapewnienie takiego prawa także podmiotom reprezentującym osoby, których prawa mogą być naruszone przez sztuczną inteligencję, w szczególności organizacjom zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi. Uwaga wyjaśniona Katalog podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk zwianych z prawami autorskimi i prawami pokrewnymi. 153. KIGEiT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biura Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 154. PIIT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Strona | 113 Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 155. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów Obecny przepis: Wymaga uprzedniej zgody Komisji na rozpoczęcie testów. Proponowana zmiana: Wprowadzenie modelu \"na zgłoszenie\" z domniemaną zgodą po 14 dniach braku sprzeciwu. Uzasadnienie: Skrócenie czasu uruchamiania testów z kilku tygodni do maksymalnie dwóch tygodni. Model \"na zgłoszenie\" eliminuje zbędne formalności, co sprzyja dynamicznemu wdrażaniu innowacji. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 156. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów w piaskownicy regulacyjnej Obecny przepis: \"Testowanie systemów AI w piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.\" Proponowana zmiana: Uwaga częściowo wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Strona | 114 1. Testowanie systemów AI w piaskownicy regulacyjnej odbywa się na podstawie zgłoszenia do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Komisja w terminie 14 dni od dnia otrzymania zgłoszenia może zgłosić zastrzeżenia. Brak odpowiedzi w tym terminie oznacza domniemaną zgodę. 3. Procedura zgłoszeniowa ogranicza się do elektronicznego formularza zawierającego podstawowe informacje o projekcie. Dodatkowa dokumentacja jest wymagana tylko dla projektów wysokiego ryzyka. 4. Komisja publikuje wzory dokumentów i instrukcje zgłoszeniowe w formie elektronicznej. System zgłoszeń podlega kwartalnej analizie, której wyniki są podstawą do modyfikacji procesu, skracania czasu obsługi i usuwania barier proceduralnych. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 157. GRAI Art. 31 Art. 31 – Raportowanie i autoaktualizacja procesów Obecny przepis: Obowiązek cyklicznych raportów. Proponowana zmiana: Raport końcowy obowiązkowy dla wszystkich; raport śródokresowy tylko dla projektów dłuższych niż 6 miesięcy. Komisja analizuje zebrane dane co 6 miesięcy i wprowadza zmiany w procedurach w ciągu 30 dni. Uzasadnienie: Zmniejszenie obciążeń administracyjnych i skrócenie czasu sprawozdawczości. Regularna analiza pozwoli na dostosowanie piaskownicy do potrzeb uczestników i poprawę jej wydajności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały Strona | 115 Proponowana zmiana: 1. Uczestnicy składają jedynie raport końcowy po zakończeniu testów, zawierający wnioski i rekomendacje dotyczące procesu testowania. 2. Projekty trwające powyżej 6 miesięcy składają jedno sprawozdanie śródokresowe. 3. Komisja co 6 miesięcy przeprowadza analizę zebranych raportów oraz opinii uczestników, aktualizując procedury i narzędzia piaskownicy w celu poprawy wydajności i użyteczności. Wdrożenie zmian wynikających z analizy następuje nie później niż w ciągu 30 dni od daty opublikowania raportu z ewaluacji. ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 158. GRAI Art. 31 - Propozycja mechanizmu zarządzania testami (Art. 31 – nowe ustępy) > Dodane do art. 31 ust. 4-6 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” > Zmiana: ● Obowiązek wyznaczenia osoby zarządzającej testami – zmniejsza to potrzebę kontroli administracyjnej. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne Strona | 116 Brak konieczności dodatkowej oceny przez organ państwowy – wystarczy raport końcowy. niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 159. GRAI Art. 32 Art. 32 – Nabór i adaptacja procesu Obecny przepis: Organizacja co najmniej trzech konkursów rocznie. Proponowana zmiana: Stały nabór otwarty z decyzjami wydawanymi w ciągu 14 dni. Uzasadnienie: Eliminacja przestojów wynikających z oczekiwania na konkursy. Ciągła rekrutacja pozwala na większą elastyczność i dostępność, szczególnie dla MŚP i startupów. Proponowana zmiana: 1. Komisja prowadzi stały nabór, umożliwiając zgłoszenia w dowolnym momencie. 2. W przypadku wprowadzenia limitów uczestników pierwszeństwo mają MŚP i startupy. 3. Proces naboru podlega bieżącej analizie i dostosowaniu na podstawie feedbacku z poprzednich edycji, co ma na celu eliminowanie zbędnych formalności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia Strona | 117 Decyzje dotyczące przyjęcia do piaskownicy są publikowane w ciągu 14 dni od daty zgłoszenia. piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 160. GRAI Art. 35 Art. 35 – Zarządzanie i doskonalenie piaskownic Obecny przepis: Komisja pełni funkcję nadzorczą. Proponowana zmiana: Wprowadzenie zespołu monitorującego do analizy skuteczności piaskownicy. Wyniki analizy są podstawą do wprowadzenia zmian w ciągu 30 dni. Uzasadnienie: Systematyczna ewaluacja umożliwia szybką identyfikację i eliminację problemów, zwiększając użyteczność piaskownicy. Proponowana zmiana: 1. Komisja nadzoruje zgodność testów z przepisami i standardami bezpieczeństwa, nie ingerując w codzienne zarządzanie projektami. 2. Powołuje zespół monitorujący, którego zadaniem jest cykliczna analiza efektywności piaskownicy oraz przygotowywanie rekomendacji dotyczących usprawnień. Każdy cykl testów kończy się oceną systemu zarządzania piaskownicą. Wdrożenie rekomendowanych zmian następuje w terminie 30 dni od zakończenia analizy. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część Strona | 118 Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 161. AmCham Art.36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Ograniczenie to nie wydaje się celowe Uwaga wyjaśniona W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy 162. Stowarzyszen ie Autorów ZAiKS Art. 36 ust. 1 Niejasne jest sformułowanie art. 36 ust. 1 Projektu w zakresie, w jakim umożliwia ministrom właściwym do spraw informatyzacji, do spraw szkolnictwa wyższego i nauki oraz do spraw gospodarki powierzanie Komisji realizacji zadań, które na mocy ustawy (art. 9 pkt 3, 8, 11 i 14) będą zadaniami własnymi Komisji. Tym samym brzmienie przepisu nie wydaje się odpowiadać intencjom projektodawcy dot. możliwości powierzania Komisji realizacji zadań innych niż te, które zobowiązana jest wykonywać na mocy ustawy, które już zostały wskazane w art. 9 Projektu. Uwaga nieaktualna Art. 36 został wykreślony z projektu ustawy. 163. ZPTC Lewiatan Art. 36 ust. 1 W porównaniu z poprzednim projektem ustawy nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Jaki jest powód takiego ograniczenia? Uwaga nieaktualna Odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. Strona | 119 164. GRAI Art. 36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji rządowej, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Czy jest powód takiego ograniczenia i dlaczego takich zadań – w zakresie ograniczonym jak w propozycji art. 36 ust.1 – nie może zlecić np. Prezes Rady Ministrów? Uwaga nieaktualna W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. 165. FinTech Poland Rozdział 3 Prawa kontrolowanego Doceniamy wprowadzenie minimalnego terminu na notyfikację kontrolowanego o planowanej kontroli. Jest to krok w kierunku zapewnienia przewidywalności i ochrony podmiotów poddawanych kontroli. Jednakże, ustalenie maksymalnego czasu trwania kontroli na 21 dni jest równie istotnym elementem zapewnienia sprawności, przewidywalności oraz efektywności prowadzonych kontroli. Brak ograniczenia czasowego mógłby prowadzić do przewlekłości procesów kontrolnych. W konsekwencji przeciągające się kontrole mogą negatywnie wpływać na kontrolowane podmioty i w efekcie uniemożliwiać prowadzenie kontrolowanym podmiotom działalności gospodarczej. Proponowany czas 21 dni pozwoli kontrolowanemu realnie oszacować czas kontroli i zminimalizować problemy z nią związane. Z drugiej strony, okres 3 tygodni będzie odpowiednim czasem dla Komisji na przeprowadzenie rzetelnej i skrupulatnej kontroli. Uwaga wyjaśniona Należy zaznaczyć, że ograniczenie czasowe wprowadzone jest w ramach przepisów o postępowaniu przed Komisją (maksymalny okres trwania to 6 miesięcy). 166. GRAI Art. 38 Art. 38 – Ogólnopolski zasięg i dostępność (nowy artykuł) Proponowana zmiana: Obowiązek zapewnienia dostępu dla podmiotów z całego kraju oraz organizacja spotkań konsultacyjnych dwa razy w roku. 1. Piaskownice regulacyjne mają zapewnić dostęp podmiotom z całej Polski, z uwzględnieniem potrzeb MŚP i startupów. 2. Komisja organizuje co najmniej dwa razy w roku spotkania z uczestnikami w celu zebrania opinii o funkcjonowaniu piaskownicy i dostosowania jej do potrzeb rynku. 3. System zgłoszeń, dokumentacji i komunikacji jest regularnie aktualizowany, by eliminować identyfikowane problemy. Uzasadnienie: Wzmacnia ogólnopolski zasięg i pozwala na lepsze dopasowanie piaskownicy do rzeczywistych potrzeb uczestników. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana Strona | 120 za sprawą aktu wykonawczego Komisji Europejskiej. 167. GRAI Art. 38 ust. 2 Jest: Kontrole mają być przeprowadzane zgodnie z planem kontroli zatwierdzonym przez Komisję. Nie ma jednak informacji o tym, czy plan zostanie gdziekolwiek opublikowany. Publikacja planu kontroli zapewniłaby zainteresowanym zrozumienie, jakie obszary będą podlegać kontroli i jak się przygotować. Inspiracji dostarcza PUODO, który publikuje w styczniu każdego roku sektorowy plan kontroli. Propozycja: Proponujemy dodanie do art. 38 ust. 3 ustawy zdania w brzmieniu: \"W terminie do dnia 30 stycznia każdego roku Komisja przyjmuje i publikuje roczny plan kontroli sektorowych na bieżący rok kalendarzowy. Oraz publikuje plan na swojej oficjalnej stronie internetowej” Uwaga wyjaśniona Brzmienie art. 38 (obecnie art. 30) jest zgodne z art. 78 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. 168. GRAI Art. 39 ust. 2 Jest: Art. 39 ust. 2 stanowi, że kontrolę wszczyna się nie wcześniej niż po upływie 7 dni od dnia doręczenia zawiadomienia o zamiarze wszczęcia kontroli. Propozycja: Choć podobne warunki dotyczą kontroli na gruncie ustawy Prawo przedsiębiorców (art. 48) - biorąc pod uwagę, że kontrola systemów SI jest bardziej złożona - sugerujemy wydłużenie tego terminu do najlepiej 30, a co najmniej 14 dni. Uwaga wyjaśniona Przepis ma na celu zachowanie spójności z Prawem przedsiębiorców. 169. GRAI Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje, a zwłaszcza sposób ich zorganizowania, gdzie wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 121 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i zasobożerne. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej. 170. AmCham Art.39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być istotnie niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 122 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagać dużych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej 171. KIGEiT Art. 39 ust. 3 Kontrolę lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (....) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 172. PIIT Art. 39 ust. 3 Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Brak części tekstu Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 173. ZPTC Lewiatan Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa nakładane przez Komisję wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych! Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w Strona | 123 Firmy będą potrzebować solidnych gwarancji organizacyjnych i technicznych, że procesy inspekcji są bezpieczne, zwłaszcza jeśli będą przeprowadzane podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do wielu nowych ryzyk związanych z cyberbezpieczeństwem np. udzielenie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmiotów wykorzystujących systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia wrażliwych danych niepowiązanych z samą kontrolą, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagające znacznych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyko utraty reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej podmiotu kontrolowanego. uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej (art. 31 ust.4). Strona | 124 174. Związek Cyfrowa Polska Art. 39 ust. 1 pkt 4 Społeczna Rada do spraw Sztucznej Inteligencji nie powinna mieć uprawnień do wnioskowania o wszczęcie nadzoru. Rada służy wyłącznie jako organ doradczy i konsultacyjny Komisji, a przyznanie jej uprawnień do inicjowania nadzoru wykracza poza podstawowe zadania, jakie ma realizować Rada. Radzie brakuje kompetencji proceduralnych niezbędnych do oceny czy wniosek o nadzór jest uzasadniony. Uwaga uwzględniona Wykreślono w art. 31 w ust. 4 pkt 1. 175. Związek Cyfrowa Polska Art. 39 ust. 4 Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 176. Polska Izba Ubezpieczeń Art. 39 ust. 4 W sposób ogólny i nieprecyzyjny wskazuje się w jakich przypadkach Komisja może przeprowadzić kontrolę bez zachowania terminu na powiadomienie podmiotu kontrolowanego terminie 7 dni. Pojęcie „podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych” jest wysoce nieprecyzyjne i będzie stwarzać duże ryzyko nadinterpretacji. Uwaga wyjaśniona Mając na uwadze szerokie zastosowanie systemów sztucznej inteligencji oraz uch szybki rozwój doprecyzowanie przedmiotowych pojęć może ulec szybkiej dezaktualizacji. 177. KIGEiT Art.39 ust. 4 pkt 2 Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych Uwaga wyjaśniona Przepis w wyniku ponownej analizy na Strona | 125 wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. W przypadku kontroli konstrukcji systemu sztucznej inteligencji rekomendujemy zachowanie obowiązku poinformowania o kontroli z siedmiodniowym wyprzedzeniem. podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 178. PIIT Art.39 ust. 4 pkt 2 4. Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. O ile konstrukcja systemu może uzasadniać przeprowadzenie kontroli na miejscu, to jednak nie uzasadnia to niedochowania terminu. Uwaga wyjaśniona Przepis w wyniku ponownej analizy na podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 179. GRAI Art. 40 Art. 40 – Infrastruktura i wsparcie techniczne (nowy artykuł) Proponowana zmiana: Zapewnienie modelu hybrydowego infrastruktury obliczeniowej oraz wprowadzenie szybkiej ścieżki usuwania barier technicznych (15 dni na rozpatrzenie wniosków). Uzasadnienie: Umożliwia efektywne testowanie rozwiązań AI bez konieczności ponoszenia wysokich kosztów technologicznych. Regularna analiza wykorzystania zasobów pozwoli na ich optymalizację. Nowy artykuł: 1. Ministerstwo Cyfryzacji zapewnia uczestnikom dostęp do infrastruktury obliczeniowej w modelu hybrydowym. 2. Analiza wykorzystania infrastruktury jest prowadzona co 6 miesięcy. Wyniki tej analizy służą do optymalizacji zasobów i zwiększenia dostępności. 3. W przypadku pojawienia się istotnych barier technicznych uczestnicy mogą składać wnioski o ich usunięcie, które Komisja rozpatruje w terminie 15 dni. Uwaga nieaktualna Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 126 180. FinTech Poland Art. 40 ust. 2 Przepis art. 40 ust. 2 budzi obawy związane z możliwością zaangażowania w czynności kontrolne osoby, która posiada odpowiednie kompetencje. Takie rozwiązanie bez doprecyzowania wymogów dla angażowanej osoby rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do udziału w kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Podobnie jak w art. 40 ust. 2 pojawia się obowiązek udzielenia wszelkich potrzebnych informacji nie tylko kontrolującemu, ale również osobom upoważnionym do kontroli. Zalecane jest wprowadzenie dodatkowych wymogów jak muszą zostać spełnione przez osoby upoważnione do kontroli. Przepis art. 42 ust. 2 przewiduje możliwość żądania przez kontrolującego dostępu nośników danych, urządzeń i systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności, jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów Uwaga uwzględniona Art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. Strona | 127 zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. 181. KIGEiT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa - Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 182. PIIT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 183. Związek Cyfrowa Polska Art. 40 ust. 2 Ustawa nie przewiduje zabezpieczeń dotyczących osób upoważnionych przez Komisję do udziału w kontroli. Komisja powinna być przede wszystkim odpowiedzialna za zapewnienie, że personel kontrolny posiada niezbędne kompetencje, co powinno być osiągnięte poprzez szkolenia i inne działania budujące zdolności. Obecny przepis stwarza ryzyko, że upoważniony kontroler może być: (1) konkurentem podmiotu kontrolowanego, (2) osobą posiadającą osobisty interes w wydaniu niekorzystnego protokołu kontroli. Nie istnieją również jasne kryteria oceny kwalifikacji eksperta zewnętrznego ani wyraźne zobowiązania dotyczące poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, takie osoby nie przychodziłyby formalnych szkoleń w zakresie prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Strona | 128 kontrolnych. Zalecamy usunięcie tego przepisu lub jego szczegółowe określenie w celu minimalizacji wyżej wymienionych ryzyk oraz zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. Ponadto art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 184. AmCham Art. 40 ust. 2, art. 40 ust. 4 w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuję się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto art. 40 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 185. ZPTC Lewiatan Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Zapis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Ponadto, wskazujemy, że przepis ten należy uzupełnić o doprecyzowanie, że osoba nie powinna mieć konfliktu interesów, np. pracować/współpracować z konkurencją podmiotu kontrolowanego. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto w art. 32 nadano nowe brzmienie. Strona | 129 W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 186. GRAI Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w tej propozycji brzmienia przepisu. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. 187. PTI Art. 41 ust. 2 2. Upoważnienie do przeprowadzenia kontroli zawiera: Brak informacji o możliwości weryfikacji tożsamości kontrolera. Sugerujemy odwołanie do Ustawy o NIK. Powinna istnieć możliwość weryfikacji tożsamości kontrolera. W przeciwnym wypadku może dojść do oszustw ze strony osób podszywających się pod Komisję. Uwaga wyjaśniona Potwierdzenie tożsamości przez kontrolującego określone jest w obecnym art. 33. 188. ZBP Art. 41 ust. 3 Regulamin Komisji reguluje tryb i działanie Komisji, a nie kontroli. Z tego względu dobrym rozwiązaniem będzie przeprowadzanie kontroli na podstawie Regulaminu kontroli. Ponadto w przypadku, jeżeli wszelkie czynności będą uregulowane w regulaminie Komisji to będzie on bardzo obszerny, co może niepotrzebnie komplikować podejmowanie czynności kontrolnych. Z tego względu proponujemy alternatywne brzmienie przepisu: „Organizację, szczegółowy sposób, tryb i zakres prowadzenia kontroli określa regulamin Komisji kontroli.” Uwaga uwzględniona Wyraz „Komisji” zastąpiony został wyrazem „kontroli”. 189. AmCham Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42 ust. 1 wyraźnie wspomina o dostępie do systemów informatycznych i chmury Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy Strona | 130 obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Argumentacja: Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 190. Związek Cyfrowa Polska Art. 42 Projektowana ustawa powinna jednoznacznie umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy handlowej, podobnie jak w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów. Takie rozwiązanie zwiększyłoby ochronę kluczowych informacji biznesowych, które obecnie nie są wystarczająco zabezpieczone. Ponadto, proponowane zapisy artykułu zdają się być na tyle szerokie, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o SI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o SI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Należy wskazać, że ● Żaden przepis projektu ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w Strona | 131 chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych, ● Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora, ● Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 191. ZPTC Lewiatan Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Uzasadnienie: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. Strona | 132 • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. 192. Polska Izba Ubezpieczeń Art. 42 Wprowadzenie obowiązku zapewnienia przez podmiot kontrolowany dostępu do chmury obliczeniowej będącej własnością innego podmiotu zawierającej dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do niej dostęp będzie w praktyce niemożliwe do realizacji w przypadku globalnych dostawców. Izba proponuje nie dodawać tej zmiany. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej. 193. GRAI Art. 42 ust. 1 Jest: Art. 42 ust. 1 w nowym brzmieniu stanowi, że podmiot kontrolujący może żądać dostępu nie tylko do systemów informatycznych podmiotu kontrolowanego, ale także do systemów informatycznych i chmur obliczeniowych należących do innego podmiotu. Taki zakres kontroli jest niezgodny z art. 78 ust. 2 projektu ustawy o systemach sztucznej inteligencji, który pozwala organom żądać jedynie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem przepisów ustawy o sztucznej inteligencji. Propozycja: Usunąć z art. 42 ust. 1 “oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp”. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. Strona | 133 1 pkt 1 chmury obliczeniowej. 194. PTI Art. 42 ust. 1 pkt 4 4. zabezpieczania dokumentów i innych materiałów i danych Oryginałów czy kopii? Sugerujemy odwołanie do Ustawy o NIK Brak informacji czy kontroler będzie mógł zabezpieczyć oryginał czy wyłącznie kopię materiałów. Jeśli oryginałów jaka jest odpowiedzialność za ich uszkodzenie lub zagubienie? Uwaga wyjaśniona Przepis pkt 4 odnosi się do oryginałów. Zabezpieczenie musi następować z zachowaniem przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych Kwestia kopii została uregulowana w pkt 6. 195. KIGEiT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Uważamy, że zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 196. PIIT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 197. KIGEiT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić po swojej stronie mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Uwaga wyjaśniona Wykreślenie nie jest zasadne, ponieważ poza kontrolującym w kontroli mogą również barć udział inne osoby upoważnione. Strona | 134 198. PIIT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu \"czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? Zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? - czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 199. PTI Art.42 ust. 2 dodać pkt 4 (poprzednio art. 44) Brakuje dogłębnej analizy kontrolowanego systemu Prosimy o rozszerzenie zapisu: (.) „powinien uwzględniać dostęp do funkcjonalności rozwiązań, wytrenowanych modeli, a także dawać możliwość kontrolującemu uruchomienia/przetestowania systemu AI na infrastrukturze podmiotu” Działanie tak złożonych i potencjalnie niebezpiecznych systemów, nie zawsze jest możliwe do oceny wyłącznie na podstawie dokumentacji, która może być niepełna lub błędna Uwaga wyjaśniona Wskazany w przepisie art. 36 zakres należy uznać za wystarczający do ustalenia przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 200. Związek Cyfrowa Polska Art. 44 Choć znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej) jest uznawane, projektowana ustawa znacząco ją ogranicza, naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową (adwokacką, radcowską). Projektowana ustawa nie określa, co oznaczają wątpliwości (które nawet nie muszą być uzasadnione) dotyczące powołania się na tajemnicę zawodową (adwokacką, radcowską). Sformułowanie zapewnienie ochrony przed ujawnieniem jest niejasne – dokument i tak zostanie ujawniony przynajmniej SOKiK. Projektowana ustawa nie precyzuje, jak dokumenty powinny być zabezpieczone. Obecne podejście nie spełnia standardów poufności tajemnicy zawodowej (adwokackiej, radcowskiej). Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową (adwokacką, radcowską), Uwaga uwzględniona Zmieniono treść przepisu art. 36, wykreślono ust. 2 ,3 i 5. Strona | 135 ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 201. KIGEiT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Rekomendowane jest, aby przepis odwoływał się do art. 43 a nie 42 ust.2. Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Wskazane w uwadze odesłanie nie wymaga korekty. 202. PIIT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa : 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Strona | 136 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Wskazane w uwadze odesłanie nie wymaga korekty. 203. Związek Cyfrowa Polska Art. 44 ust. 1 Obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. Uwaga wyjaśniona W opinii projektodawcy obecna konstrukcja art. 36 w wystarczający sposób zabezpiecza prawo, o którym mowa w uwadze. 204. GRAI Art. 44 ust. 3 Uwaga redakcyjna – należy poprawić pisownie nazwy sądu – powinno być zapisane z dużej litery, konsekwentnie w całym projekcie ustawy. Uwaga nieaktualna Wykreślono art. 36 ust. 3. 205. GRAI Art. 44 ust. 3 i 5 Brzmienie art. 44 ust. 3 i ust. 5 w obecnym kształcie narusza podstawową zasadę tajemnicy adwokackiej oraz wprowadza konstrukcję postępowania nieznaną przepisom Kodeksu Postępowania Cywilnego. Obecne brzmienie Art. 44 ust.3 – „jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust.1, budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, doręcza je z pismem lub dokumentem, którego wątpliwość dotyczy do sądu okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (..)”. Obecne brzmienie Art. 44 ust.5 – „Sąd, po zapoznaniu się z wnioskiem oraz pismami i dokumentami, o których mowa w ust.3, wydaje postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli zawierają one komunikację, o której mowa w ust. 1 i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby Uwaga uwzględniona Wykreślono art. 36 ust. 3 i 5. Strona | 137 prowadzonego postępowania. Postanowienie podlega wykonaniu z chwila uprawomocnienia się”. Uwagi: W art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu, zwłaszcza, że w powiązaniu z ust. 5 brzmienie projektowanego zapisu prowadzi do nieznanej w polskich przepisach kodeksu cywilnego procedury wpadkowej dot. skontrolowania dokumentów, objętych tajemnicą adwokacką w ramach prowadzonej przez inny organ kontroli w postępowaniu pozasądowym. Po pierwsze możliwość zwolnienia z tajemnicy adwokackiej jest szczegółowo uregulowana w art. 261 Kodeksu Postępowania Cywilnego czy w art. 83 Kodeksu Postępowania Administracyjnego i co istotne zwolnienie z tajemnicy adwokackiej może jedynie i wyłącznie nastąpić w ramach prowadzonego postępowania sądowego i dodatkowo w sytuacji, w której również adwokat, radca prawny, prawnik z Unii Europejskiej jest uczestnikiem takiego postępowania. W przepisach postępowania karnego odpowiednikiem jest art. 180 Kodeksu Postępowania Karnego. W obecnym kształcie brzmienie art. 44 ust. 3 i art. 44 ust. 5 prowadzi do naruszenia podstawowej zasady zaufania obywateli do państwa oraz do naruszenia przepisów ochrony tajemnicy adwokackiej, która jest podstawową gwarancją prawidłowego wykonywania zawodu adwokata, radcy prawnego, prawnika z Unii Europejskiej. Jedynym organem, który może zwolnić adwokata, radcę prawnego, prawnika z Unii Europejskiejz tajemnicy jest sąd w prowadzonym konkretnym postepowaniu sądowym, w którym również adwokat, radca prawny, prawnik z Unii Europejskiej musi być uczestnikiem. Po drugie: Zwracamy uwagę, że w projektowanym brzmieniu art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu i na podstawie, której części przepisów Kodeksu Postępowania Cywilnego miałoby być prowadzone takie postępowanie. Tym samym brak zmiany w/w art. 44 spowoduje prowadzenie przez sąd jakiegoś nieznanego przepisom postępowania sądowego, które ma dokonać weryfikacji korespondencji, objętej tajemnicą adwokacką poza samym adwokatem, radcą prawnym czy prawnikiem z Unii Europejskiej, którzy są przecież także dysponentami takiej tajemnicy i co najmniej winni być uczestnikami takiego postępowania sądowego. Obecna konstrukcja w projektowanej ustawy o systemach sztucznej inteligencji jest prawnie niedopuszczalna. Uwagi de lege ferende Strona | 138 Postulujemy dokonanie całkowitej zmiany art. 44 ust. 3 i 5 i w pierwszej kolejności rozstrzygnięcie w jakim trybie i na podstawie jakich przepisów (cywilnych, karnych, administracyjnych) ma działać Kontrolujący oraz na jakim etapie należy zawiadomić o wszczętym postępowaniu adwokata, radcę prawnego czy prawnika z Unii Europejskiej, którym należy umożliwić wzięcie udziału w takim postępowaniu. 206. Związek Cyfrowa Polska Art. 45 Pomoc jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji jest nieuzasadniona. Komisja sama powinna posiadać niezbędne kompetencje i narzędzia do skutecznego przeprowadzania kontroli. Angażowanie zewnętrznych jednostek w ten proces budzi wątpliwości dotyczące poufności kontroli, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy zakres prowadzonych postępowań. Ponadto, przepis mówiący o możliwości żądania wsparcia Policji wydaje się niepotrzebny i nadmierny. Policja może zostać wezwana w każdym przypadku, gdy zdarzenie stanowi przestępstwo lub wykroczenie. Nie ma potrzeby wprowadzania specjalnej procedury angażowania Policji w czynności kontrolne, ponieważ takie podejście nie odpowiada nowoczesnemu państwu, które respektuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 37 ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie Strona | 139 stosowanych przepisów w projekcie ustawy. 207. Polska Izba Ubezpieczeń Art. 46 Izba nie zgadza się na propozycję skrócenia terminu z 14 na 7 dni na zgłoszenie zastrzeżeń do protokołu kontroli. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 208. KIGEiT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonej kontroli czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Analogicznie jak w art. 105 J ust.1 ustawy o ochronie konkurencji i konsumentów. Kontrolowany powinien mieć prawo do doniesienia się do protokołu z całości kontroli, a nie z poszczególnych czynności kontrolnych. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny: wyraz „kontrolowany” zastąpiono wyrazem „kontrolujący”. 209. PIIT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Protokół sporządza kontrolujący? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. Strona | 140 210. Związek Cyfrowa Polska Art. 46 ust. 1 Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że jest to jedynie błąd redakcyjny. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 211. GRAI Art. 46 ust. 1 Jest: Termin na złożenie zastrzeżeń do protokołu został skrócony do zaledwie 7 dni. Propozycja: Proponujemy przywrócenie poprzedniego 14-dniowego terminu, aby dać zainteresowanym więcej czasu na zapoznanie się z nim. W przypadkach tak złożonych jak systemy sztucznej inteligencji, przygotowanie zastrzeżeń często wymaga wkładu specjalistów z różnych działów, co może być trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Zwłaszcza, że brak zastrzeżeń złożonych w terminie oznacza, że projekt protokołu uznaje się za zaakceptowany, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniego czasu na zapoznanie się z jego treścią. Błąd redakcyjny: W art. 46 ust. 1 do poprawy omyłka pisarska – obecnie wskazuje, że to jednostka kontrolowana jest odpowiedzialna za sporządzenie protokołu kontroli. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 212. PTI Art. 46 ust. 3 „Od otrzymanego projektu wystąpienia pokontrolnego podmiotowi kontrolowanemu przysługuje prawo wniesienia do właściwego organu zastrzeżeń, w terminie 14 dni od dnia doręczenia projektu wy stąpienia pokontrolnego.” Nie jest jasne, co jest „właściwym organem” Propozycja doprecyzowania: „do organu kontrolującego” Uwaga wyjaśniona Uwaga dotyczy projektu w wersji udostępnionej w ramach I etapu konsultacji publicznych. W projekcie z 10 lutego 2025 r. przepis zmienił brzmienie. 213. AmCham Art. 46 ust. 4 W celu zapewnienia rzetelności i efektywności procesu kontrolnego, a także Uwaga wyjaśniona Strona | 141 zagwarantowania prawa do obrony, termin na wniesienie zastrzeżeń do raportu z kontroli powinien wynosić co najmniej 14 dni. Obecnie zapisany w projekcie ustawy termin 7 dni w wielu przypadkach będzie niewystarczający, w szczególności w przypadku obszernych i szczegółowych raportów, zawierających analizę dużej ilości danych, materiałów, informacji i dokumentów. Analiza i przygotowanie uwag i zastrzeżeń będzie wymagało więcej czasu niż 7 dni. Zapewnienie 14 dni na zgłoszenie uwag do raportu z kontroli umożliwi kontrolowanym podmiotom dokładne zapoznanie się z treścią raportu, przeprowadzenie własnych analiz i konsultacji, a w konsekwencji – przygotowanie rzeczowych i wyczerpujących zastrzeżeń. Zapewni to również większą transparentność i obiektywizm procesu kontrolnego, co przyczyni się do zwiększenia zaufania do jego wyników. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 214. KIGEiT Art. 46 ust.4 4.W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 215. PIIT Art. 46 ust.4 4. W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 216. PIIT Art. 46 ust. 4 Termin na złożenie zastrzeżeń do projektu protokołu kontroli powinien wynosić co najmniej 14 dni. Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią Strona | 142 projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 217. Związek Cyfrowa Polska Art. 46 ust. 4 Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 218. ZTPC Lewiatan Art. 46. ust. 5 i ust. 8 W przepisie należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 219. KIGEiT Art. 47 zalecenia pokontrolne Uwaga wyjaśniona Strona | 143 W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, rekomendujemy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. 220. PIIT Art. 47 zalecenia pokontrolne W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, należy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do Uwaga wyjaśniona Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. Strona | 144 naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. 221. ZBP Art. 47 ust. 1 Przepis nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 222. GRAI Art. 47. ust. 1 Artykuł nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 223. GRAI Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 224. ZBP Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 225. ZPTC Lewiatan Art. 47 ust. 2 pkt 1) Proponujemy usunięcie słowa \"nie i\" oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 226. ZBP Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać Strona | 145 termin na usuniecie nieprawidłowości bez względu na ich istotność. 227. GRAI Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać termin na usuniecie nieprawidłowości bez względu na ich istotność. 228. ZBP Art. 47 ust. 2 pkt 4 Literówka. Niepotrzebna dodatkowa spacja w sformułowaniu „u st. 1”. Uwaga uwzględniona Przepis został skorygowany. 229. KIGEiT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Rekomenduje się precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego. Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. Uwaga wyjaśniona Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40ust. 2 do całości ustawy należy uznać za zasadne. 230. PIIT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie Strona | 146 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Ewentualnie należy precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40 ust. 2 do całości ustawy należy uznać za zasadne. 231. ICC Poland Art. 48 ust. 2 Zgodnie z art. 48 ust. 1 Projektu, jeśli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy Komisja może wszcząć postępowanie, o którym mowa w rozdziale 4 ustawy. Jednakże, na zasadzie wyjątku od tej reguły, art. 48 ust. 2 Projektu przewiduje, że w przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Zawarcie w art. 48 ust. 2 Projektu, przewidującym – na zasadzie wyjątku od reguły z art. 48 ust. 1 Projektu – obowiązek wszczęcia przez Komisję postępowania z urzędu, powinno być ograniczone jedynie do systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689, nie zaś przepisów ustawy. Inaczej dochodzi w istocie do częściowego nakładania się zakresu zastosowania art. 48 ust. 1 i 2 Projektu. Z tego względu proponuje się wprowadzenie następującej zmiany w art. 48 ust. 2: W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stad odniesienie w art. 40 ust. 2 do ustawy należy uznać za zasadne. 232. ZBP Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. 233. GRAI Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. Strona | 147 234. KIGEiT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 rekomendujemy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Rada może dysponować wiedza uzasadniająca wszczęcie postępowania przez Komisję zasadne jest więc, aby zachować przepis w obecnym brzmieniu. 235. PIIT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu Strona | 148 działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 należy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Rada nie powinna zajmować się sprawami indywidualnymi. przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest, aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. 236. Związek Cyfrowa Polska Art. 49 ust. 2 pkt 4) Rada nie powinna mieć uprawnienia do wnioskowania o wszczęcie postępowania. Rada pełni wyłącznie funkcję doradczą i konsultacyjną dla Komisji, a przyznanie jej uprawnienia do inicjowania postępowań wykracza poza jej zamierzoną rolę. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny czy wniosek o wszczęcie postępowania jest uzasadniony. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o Strona | 149 wszczęcie postępowania. 237. Fundacja Panoptykon Art. 50 Skarga na naruszenie przepisów rozporządzenia lub ustawy Pozytywnie oceniamy próbę uszczegółowienia procedury składania i rozpatrywania skargi przez osoby fizyczne. Zwracamy jednak uwagę na dwa problemy: wysokie wymagania dotyczące zawartości skargi oraz niejasności dotyczące etapów rozpatrywania skargi i momentu informowania na ten temat skarżącego. a) wymogi dotyczące zawartości skargi Autorzy projektu wskazali, że skarga musi m.in. wskazywać nazwę systemu AI, o jaki chodzi oraz opisywać istotne fakty. Jak słusznie zwrócił uwagę prof. Grzegorz Sibiga może okazać się, że dla obywateli są to zbyt wygórowane wymagania formalne. O ile rozumiemy, że bez opisu istotnych faktów Komisja lub jej Przewodniczący mogą nie mieć możliwości reakcji na skargę, tak wymóg wskazywania nazwy systemu wydaje się nam nadmierny, zwłaszcza że skarżący może tej nazwy po prostu nie znać. b) etapy rozpatrywania skargi i informowanie skarżącego Zgodnie z art. 50 ust. 1 osoba fizyczna składa skargę do Komisji. Jednak przepis ten nie odpowiada jednoznacznie na pytanie o dalsze losy złożonej skargi i czy zajmuje się nią Przewodniczący czy od razu Komisja. Za tą pierwszą wykładnią przemawia fakt, że po analizie skargi Przewodniczący może złożyć wniosek o wszczęcie postępowania (por. ust. 5). Jednak z drugiej strony - Komisja może wszcząć postępowanie z urzędu, a więc także po zapoznaniu się ze skierowaną do niej skargą. Co więcej, za możliwością wszczęcia postępowania przez Komisję przemawia art. 50 ust. 4 projektu. Doprecyzowanie kolejnych etapów rozpatrywania skargi ma znaczenie z perspektywy funkcjonalności tego mechanizmu, ale także z perspektywy informacji, jakie otrzymuje skarżący (por. art. 50 ust. 6). Aktualnie niejasne jest bowiem, jak rozumieć pojęcia “wszczęcia postępowania, o którym mowa w ust. 5 i “zakończeniu postępowania w sprawie związanej z postępowaniem, o którym mowa w ust. 5”. Jednocześnie prof. Sibiga słusznie zwrócił uwagę na problem braku konieczności jakiegokolwiek uzasadnienia decyzji o niewszczynaniu postępowania. Naszym zdaniem procedura rozpatrywania skarg wymaga zmian, w szczególności poprzez ułatwienie ich składania (wykreślenie konieczności wskazywania nazwy systemu) oraz uporządkowanie procedury ich rozpatrywania, włączając w to uzupełnienie zakresu informacji przekazywanych skarżącemu o uzasadnienie braku przesłanek do wszczęcia postępowania. a) Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. b) Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. Dalej zastosowanie znajdują przepisy dotyczące postępowania przed Komisją. 238. KIGEiT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej Strona | 150 Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 239. PIIT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 240. GRAI Art. 50 ust. 2 i 3 Nie określono konsekwencji prawnych niezachowania wymogów formalnych skargi z ust. 2. W ust. 3 należałoby doprecyzować, że są to np. środki komunikacji elektronicznej, a nie np. telefon. Uwaga w części uwzględniona Ust. 3 został doprecyzowany. 241. GRAI Art. 50 ust. 5 i 6 Nie jest jasna rola Przewodniczącego Komisji. Czy ma on dokonywać jakiejś wstępnej kwalifikacji skargi i przyjęcia jej do rozpoznania? W naszej ocenie skarga w ustawie powinna być uregulowana przepisami KPA. To Komisja jako organ, a nie Przewodniczący powinna rozpatrywać skargę. Przewodniczący nie może decydować o wszczęciu postępowania. Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. 242. KIGEiT Art. 50. ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na Strona | 151 ogólnodostępnej stronie podmiotowej Biura Komisji. 243. PIIT Art. 50 ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia. Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na ogólnodostępnej stronie podmiotowej Biura Komisji. 244. KIGEiT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy rozdziału o kontroli. 245. PIIT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy Strona | 152 rozdziału o kontroli. 246. FinTech Poland Art. 52 ust. 3 Takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim – albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 247. ZBP Art. 52 ust. 3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt.” Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. Strona | 153 przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Python, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. W tym kontekście zwracamy uwagę na możliwość zaadresowania kwestii tłumaczenia w sposób analogiczny jak zostało to rozwiązane w art. 11a ust. 1 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym „Na wniosek podmiotu prowadzącego działalność regulowaną w przepisach, o których mowa w art. 1 ust. 2, mającego siedzibę poza terytorium Rzeczypospolitej Polskiej pisemna i ustna komunikacja Komisji z takim podmiotem może odbywać się w języku angielskim. W takim przypadku czynności, o których mowa w art. 5 ustawy z dnia 7 października 1999 r. o języku polskim (Dz. U. z 2021 r. poz. 672 oraz z 2023 r. poz. 1672), mogą być dokonywane w języku polskim lub angielskim”. Rozwiązanie w ustawie o systemach sztucznej inteligencji mogłoby podobnie wskazywać, że na wniosek podmiotu kontrolowanego, w niezbędnym zakresie, dokumentacja może być przekazywana w języku angielskim lub oryginalnym języku dokumentacji. Ponadto, zwracamy uwagę, że instytucja pozostawienia dokumentacji w jej oryginalnym języku jest rozwiązaniem wykorzystywanym również w regulacjach Unii Europejskiej. Przykładowo w art. 34 ust. 3 Rozporządzenia 2018/389 „Do celów niniejszego rozporządzenia kwalifikowane certyfikaty pieczęci elektronicznych lub kwalifikowane certyfikaty uwierzytelniania witryn internetowych, o których mowa w ust. 1, zawierają – w języku zwyczajowo używanym w dziedzinie finansów – dodatkowe szczególne atrybuty w stosunku do każdego z następujących elementów”. 248. Związek Cyfrowa Polska Art. 52 ust. 3 Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze SI, powinna posiadać wystarczającą znajomość języka angielskiego, aby Uwaga uwzględniona Strona | 154 analizować dokumentację bez wymogu jej tłumaczenia. Zdecydowana większość dokumentów technicznych, prawnych i dotyczących zgodności SI jest tworzonych oryginalnie w języku angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 249. GRAI Art. 52 ust.3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 250. GRAI Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się, czy przepis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także przepisy art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony Strona | 155 postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i da im możliwości do podjęcia działań zmierzających do przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 251. AmCham Art. 53 Projekt ustawy w wersji z lutego 2025 roku wprowadza istotne zmiany w zakresie uprawnień Komisji, poszerzając jej kompetencje w obszarze wydawania ostrzeżeń. Zgodnie z nowymi przepisami, ostrzeżenia Komisji nabierają charakteru władczego, a ich zignorowanie może skutkować poważnymi konsekwencjami dla dostawców AI. Wśród potencjalnych sankcji, które może zastosować Komisja, jeśli adresat nie zastosuje się do “ostrzeżenia” Komisji, projekt ustawy wymienia m.in. nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym, a nawet nałożenie kary pieniężnej. Takie rozwiązanie budzi jednak poważne wątpliwości, gdyż stoi w sprzeczności z samą naturą ostrzeżenia, które powinno być instrumentem o charakterze \"miękkim\", niewładczym. W świetle projektowanych przepisów, wydanie “ostrzeżenia” nie wymaga od Komisji udowodnienia naruszenia, wystarczyć ma jedynie uzasadnione podejrzenie. Ponadto, zgodnie z projektowanymi przepisami ostrzeżenie ma formę postanowienia (a nie decyzji administracyjnej). W efekcie projektowane przepisy, dają Komisji możliwość nakładania kar pieniężnych bez konieczności udowodnienia naruszenia i bez wydawania decyzji administracyjnej, tworząc sytuację, w której na podstawie jedynie uzasadnionego podejrzenia, bez przeprowadzenia pełnego postępowania administracyjnego dostęp do systemu AI może zostać zablokowany a dostawcy AI mogą być pociągnięci do odpowiedzialności finansowej. Biorąc powyższe pod uwagę projektowane przepisy należy zmienić tak, aby ostrzeżenie - zgodnie ze swoją nazwą i naturą - faktycznie było \"miękki\", nie władczym narzędziem w rękach Komisji. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w projektowanej ustawie, takich jak kontrole czy wydawanie decyzji administracyjnych po Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 156 przeprowadzeniu odpowiedniego postępowania kontrolnego. Takie rozwiązanie pozwoliłoby na zachowanie równowagi między koniecznością zapewnienia bezpieczeństwa użytkowników a ochroną praw dostawców AI. 252. Polska Izba Ubezpieczeń Art. 53 Izba proponuje nie dodawać w katalogu kar za niedostosowanie się zakładu ubezpieczeń do ostrzeżenia wydanego przez Komisję lub przekroczenia terminu na dostosowanie rozwiązania następujących działań: a. nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; b. nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; Działania takie będą kosztowne i będą generować ryzyko działalności zakładów ubezpieczeń. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 253. Związek Cyfrowa Polska Art. 53 Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (niewładczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli niewładczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych. Artykuł ten budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 157 inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: ● Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług ● Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych ● Rozsądne ramy czasowe na realizację zamówień (minimum 60 dni). 254. ZPTC Lewiatan Art. 53 Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia spójnego podejścia do egzekwowania przepisów, biorąc pod uwagę: • Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług • Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych • Ustalenie rozsądnych ram czasowych na dostosowanie się (minimum 60 dni) Uzasadnienie: Artykuł 53 budzi obawy zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Uwaga wyjaśniona Art. 53 (obecnie art. 45 stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 255. KIGEiT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożlwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej Strona | 158 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się wydłużenie minimalnego terminu. inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 256. ZPTC Lewiatan Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się czy zapis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także zapis art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i daniem możliwości do podjęcia działań zmierzających do Strona | 159 przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 257. PIIT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin minimalny powinien zostać wydłużony. Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożliwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 258. AmCham Art. 53 ust. 3 Zapisany w projekcie ustawy 14-dniowy termin na zastosowanie się do ostrzeżeń Komisji i wdrożenie środków naprawczych w celu usunięcia skutków naruszenia jest niewystarczający. Wdrożenie zmian wynikających z ostrzeżenia Komisji może być czasochłonne, wymagając np. i) zmian w kodzie, które muszą zostać dokładnie przetestowane przed wdrożeniem na środowisku produkcyjnym, aby zapewnić ich poprawność i niezawodność, ii) przeprowadzenia oceny bezpieczeństwa, których celem będzie zweryfikowanie, czy wprowadzane zmiany nie generują zagrożeń dla bezpieczeństwa systemu, a filanie iii) przeprowadzenia kontroli zgodności z przepisami, mające na celu zapewnienie, że wszelkie modyfikacje są zgodne z wieloma, często Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed Strona | 160 nakładającymi się na siebie ramami prawnymi, co jest szczególnie istotne w przypadku organizacji działających na wielu rynkach. Biorąc pod uwagę te czynniki, widzimy potrzebę zmiany projektowanych przepisów tak, aby to Komisja, wydając ostrzeżenie, określała termin w jakim oczekuje wykonania zaleceń wskazanych w ostrzeżeniu, przy czym projektowana ustawa powinna wskazywać, że termin wyznaczony przez Komisję nie może być krótszy niż 30 dni od dnia otrzymania ostrzeżenia przez adresata. Takie rozwiązanie zapewni, że adresaci ostrzeżeń zawsze będą mieli co najmniej 30 dnia na wprowadzenie zmian i dostosowanie się do ostrzeżenia, a jednocześnie zapewni Komisji niezbędną elastyczność i możliwość wyznaczenia dłuższego terminu, gdyż w praktyce mogą wystąpić sytuacje, w których sama Komisja może uznać, że szczególne okoliczności sprawy wymagają, aby adresat ostrzeżenia miał więcej niż 30 dni na dostosowanie się. potencjalnym niepożądanym działaniem takiego systemu. 259. KIGEiT Art. 53 ust.3 Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się analogicznie, jak przy zaleceniach kontrolnych, aby termin minimalny został wydłużony do nie mniej niż 30 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 260. PIIT Art. 53 ust.3 Strona w terminie, określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Termin powinien zostać wydłużony - analogicznie, jak przy zaleceniach pokontrolnych - do nie mniej niż 30 dni. Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. Strona | 161 zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy, by Komisja miała uprawnienie do określenia terminu, który będzie właściwy w danym przypadku, ale nie krótszy niż 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. 261. Zawiązek Cyfrowa Polska Art. 53 ust. 3 Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z przepisami z 14 do co najmniej 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 262. KIGEiT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 162 przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. 263. PIIT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 163 finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (nie władczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli nie władczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych 264. KIGEiT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 265. PIIT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 266. Związek Cyfrowa Polska Art. 54 ust. 1 Podczas gdy podstawą wszczęcia postępowania ma być naruszenie rozporządzenia 2024/1689 (AI Act), sama decyzja Komisji kończąca postępowanie może dotyczyć naruszenia rozporządzenia 2024/1689 (AI Act) lub ustawy o systemach sztucznej inteligencji. Powoduje to niejasności, ponieważ ustawa o systemach sztucznej Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46) Strona | 164 inteligencji jest aktem prawnym odrębnym od rozporządzenia 2024/1689 (AI Act). Żeby zapewnić spójność i jasność prawną, należy wyraźnie określić, czy decyzja Komisji może obejmować naruszenia ustawy o systemach sztucznej inteligencji. Bez tego wyjaśnienia istnieje ryzyko błędnej interpretacji zakresu i możliwości zastosowania uprawnień Komisji w takich przypadkach. 267. KIGEiT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję, do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 268. PIIT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję,14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Komisja powinna mieć uprawnienie do określenia odpowiedniego terminu na wykonanie nakazu. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 269. ZBP Art. 54 ust. 2 Termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Tak krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym Strona | 165 działaniem danego systemu sztucznej inteligencji. 270. KIGEiT Art. 54 ust.3 3. W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 271. GRAI Art. 54 ust. 2 Sformułowanie „usuniecie skutków naruszenia” jest niejasne i budzi wątpliwości. Niekiedy sutki naruszeń mogą być nieodwracalne jak np. śmierć w przypadku niewłaściwego działania systemów autonomicznej jazdy. Ponadto termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Taki krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Proponujemy następujące brzmienie: „Decyzja, o której mowa w ust. 1, zawiera środki nakazujące zaprzestanie naruszania przepisów nie później niż 14 dni od decyzji, o ile w decyzji nie ustalono inaczej, a usunięcie skutków naruszenia w terminie i zakresie wskazanym w decyzji.” Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 272. PIIT Art. 54 ust.3 W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia Uwaga wyjaśniona Strona | 166 administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 273. AI Chamber Art. 55 ust. 2 Określone w art. 55 ust. 2 przesłanki wydania decyzji nakazującej zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, są ze swej natury bardzo ocenne. Tymczasem taka sankcja może oznaczać dla przedsiębiorcy poważne straty, a w skrajnych przypadkach upadłość. Nadanie w takich okolicznościach klauzuli natychmiastowej wykonalności takiej decyzji jest zabiegiem niezwykle ryzykownym. Jest to szczególnie rażące w kontekście dodania w drugiej wersji projektu ustawy możliwości zastosowania takiej sankcji, gdy system “wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku” nadchodzących wyborów. Wydaje się, że tak swobodnie zakreślona przesłanka, gdzie wpływ może być jedynie potencjalny, a nie faktyczny, de facto daje pole do zupełnie dyskrecjonalnego wydawania decyzji o silnym podtekście politycznym. Jest to nie tylko niebezpieczne z punktu widzenia dostawców systemów SI, ale może podważać zaufanie do KRiBSI i szerzej systemu politycznego i prawnego RP. Postulujemy usunięcie tej zmiany. Uwag uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 274. AmCham Art. 55 ust. 2 Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym przepisem projektowanej ustawy, który może wyrządzić najwięcej szkody. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny, gdyż nie sposób uznać, że jasną i jednoznaczną przesłanką jest “[.] wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu Strona | 167 społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów [.]”. Na gruncie tak sformułowanego przepisu Komisja będzie miała w zasadzie dowolność oceny, czy zasadne jest zastosowanie tego przepisu. Brak konkretnych i obiektywnych kryteriów, które Komisja miałaby stosować przy podejmowaniu takiego rozstrzygnięcia, stwarza ryzyko arbitralności i nadużyć. A skutki zastosowania tego przepisu przez Komisję będą dalekosiężne, wręcz drastyczne dla dostawców modeli sztucznej inteligencji, gdyż w takim przypadku Komisja ma mieć możliwość nakazania operatorowi systemu sztucznej inteligencji zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, czyli de facto nakaz zamknięcia usługi. Na domiar złego Komisja może nakazać natychmiastowe wykonanie nakazu, wyłączając możliwość weryfikacji rozstrzygnięcia Komisji jeszcze przed koniecznością zamknięcia systemu. Natychmiastowa wykonalność tak kontrowersyjnego rozstrzygnięcia podważa prawo do kontroli sądowej, ponieważ strona, której dotyczy decyzja, miałaby ograniczoną możliwość zakwestionowania jej przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W praktyce oznacza to, że decyzja Komisji mogłaby być wykonana zanim sąd zdążyłby ją zbadać i ewentualnie wstrzymać jej wykonanie. W efekcie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania się do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co jest szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Nie sposób nie zauważyć, że tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież to media, a nie sztuczna inteligencja, mają większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek i nie demonizować tej technologii. Ponadto, analizowane narzędzie nie ma podstaw i nie ma odpowiednika w Akcie o AI i stanowi ewidentny przykład gold-platingu, którego w polskiej regulacji miało nie być. Co więcej, jest to gold-plating bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o gold-platingu rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro Akt o AI jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy Aktu o AI. istotnym dla wyniku wyborów. Strona | 168 W związku z powyższym, analizowany przepis powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 Aktu o AI, aby zapewnić zgodność z prawem UE i uniknąć niepotrzebnych i szkodliwych ograniczeń w rozwoju sztucznej inteligencji w Polsce. 275. PIIT Art. 55 ust. 2 Należy usunąć z projektu ustawy przepis dający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania stosowania lub wycofanie systemu z rynku lub użytku, w szczególności w części dotyczącej wyborów. Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób też zrozumieć, czemu akurat sztuczna inteligencja jest technologią, która została przez Projektodawcę “wyróżniona” właśnie w ten sposób, w szczególności w kontekście wyborów. Tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież z oczywistych względów to media, a nie sztuczna inteligencja ma większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek, nie należy tej technologii demonizować, pamiętać też trzeba, że sztuczna inteligencja jest narzędziem w ludzkich rękach i powinna być tak traktowana. W żaden sposób nie można uznać, że sztuczna inteligencja ma większe albo mniejsze znaczenie w kontekście np. procesów Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. Strona | 169 wyborczych niż inne narzędzia i technologie wykorzystywane przez ludzi i z tego względu nie zasługuje na jakieś specjalne traktowanie w tym zakresie. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Na domiar złego jest to “gold plating” bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o “gold platingu” rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro AI Act jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy AI Act (z wyjątkiem przypadków wyraźnie wskazanych w samym AI Act – ten wyjątek w tym przypadku nie zachodzi). W związku z powyższym analizowany przepis ten powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 276. PTI Art. 55 ust. 2 W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych, lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu w trybie, o którym mowa w ust. 4, z rynku lub użytku. Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Tego typu praktyki są już standardem w wyszukiwarkach internetowych oraz portalach społecznościowych. Wyszukiwarki na przykład ukrywają pewne wyniki promując określoną grupę. Portale społecznościowe przed wyborami pełne są różnego rodzaju komentarzy także zwykłych ludzi nie tylko botów. A przecież nie są to “systemy sztucznej inteligencji”. Sugerujemy rozważenie, czy taki zapis jest potrzebny 1. Wyszukiwarki internetowe czy portale społecznościowe nie są z definicji “systemami sztucznej inteligencji”. 2. Jak udowodnić tego typu działanie (przykład Cambridge Analytica)? 3. Każda ze stron stosuje tego typu praktyki, co powinno skutkować zablokowaniem debaty o każdym kandydacie. 4. Stosuje się nie tylko aktywne rozsiewanie informacji, ale również ukrywanie Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. Strona | 170 informacji, czyli ukrywanie informacji jest również działaniem na szkodę. 5. Trzeba uważać w tego typu praktykach, aby nie zrobić z nich narzędzia upolitycznionej cenzury działającej wyłącznie na korzyść jednej ze stron sceny politycznej. 6. Dlaczego zapis dotyczy szczególnie wyborów politycznych a nie wspomina np. o oszustwach internetowych przez oficjalne płatne reklamy na portalach typu Google, Facebook, X, itp? 277. Związek Cyfrowa Polska Art. 55 ust. 2 W obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Ponadto, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu. Przepis ten powinien zostać całkowicie usunięty, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 278. GRAI Art. 55 pkt 2 Doceniamy zwrócenie uwagi na ryzyka wyborcze związane z systemami AI. Uwaga uwzględniona Strona | 171 Przepis o tym, że system nawet nie w sposób udowodniony wywiera, co „może wywrzeć” wpływ na opinie i nastroje społeczne daje szerokie pole do podjęcia subiektywnej decyzji przez Komisję, które może de facto prowadzić do zablokowania na 30 dni przed wyborami dostępu do źródeł informacji, w tym mediów tradycyjnych, mediów społecznościowych czy czatbotów. W świetle innych zgłaszanych uwag dotyczących procesu powoływania Komisji, to bardzo poważna kompetencja wpływająca na proces wyborczy. W celu uniknięcia niespójności z ramą AI Act zachęcamy do ujednolicenia definicji z tą wypracowywaną w ramach GPAI CoP definicji ryzyk systemowych: Aktualna wersja w drugim szkicu brzmi: Large-scale, harmful manipulation: The facilitation of large-scale manipulation with risks to fundamental rights or democratic values, specific to high-impact capabilities of models such as autonomy, persuasion, and manipulation. This includes, for example, large-scale election interference, and coordinated and sophisticated manipulation campaigns leading to harmful distortions of public discourse, knowledge and behaviour. Zwracamy uwagę, że również powyższa definicja wzbudza wątpliwości i wciąż wymaga dalszego dopracowania, między innymi w związku z użyciem mało precyzyjnego definiowania przez przykłady. Rozdźwięk między regulacją polską a unijną będzie prowadzić do efektu mrożącego wobec wypowiedzi politycznych i społecznych w sieci i prewencyjnej nadmoderacji treści politycznych. Dotyczy to nie tylko samej kampanii wyborczej, ale też treści prywatnych opinii obywateli czy promocji działań organizacji pozarządowych. W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 279. KIGEiT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Rekomendujemy doprecyzowanie definicji „tryb przyspieszony”. Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 280. PIIT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Uwaga wyjaśniona Strona | 172 Gdzie opisany jest tryb przyspieszony? Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 281. KIGEiT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. Zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ust.2 czy nie powinna być to mowa o decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1, który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 47) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 282. PIIT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. Strona | 173 Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. ust.2 czy nie powinna być to mowa decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 283. GRAI Art. 57 Należy uwzględnić procedurę dotyczącą zażaleń. W ust. 1 wskazano, że podane tam postanowienia są zaskarżalne zażaleniem, natomiast przepis w dalszej części dotyczy jedynie odwołań. Proponujemy dodanie ustępu w tym przepisie o treści: „Przepisy ust. 3-6 stosuje się odpowiednio do zażaleń od postanowień Komisji.”. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 284. Związek Cyfrowa Polska Art. 57 ust. 2 Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. Prawo do odwołania się od decyzji administracyjnych jest podstawowym zabezpieczeniem prawnym, a przepis ten powinien być sformułowany z absolutną precyzją. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 285. PTI Art. 57 ust. 4 Jeżeli Komisja uzna odwołanie za słuszne, może - nie przekazując akt sądowi - uchylić albo zmienić swoją decyzję w całości lub w części, o czym bez zwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie przysługuje odwołanie. Uchylając albo zmieniając decyzję, Komisja stwierdza jednocześnie, czy decyzja ta została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Działania tego typu mogą narazić szczególnie małe przedsiębiorstwa na szkodę – strata czasu, wyników, środków finansowych na prawników. Sugerujemy rozważenie utrzymania tego przepisu Brak informacji o odpowiedzialności za fałszywe oskarżenia, możliwości nadużyć dla celów np. politycznych Uwaga wyjaśniona Na wstępie należy wskazać, że organy działają na podstawie i w granicach prawa. Wszelkie odstępstwa w tym zakresie poddane są ogólnym regułom Strona | 174 odpowiedzialności organów. Przepis wpisuję się natomiast w funkcjonującą na podstawie kodeksu postępowania administracyjnego instytucję „autokontroli decyzji”. Sama instytucja ma charakter wyjątkowy i organy powinny z niej korzystać wyłącznie wtedy, kiedy nie mają żadnych wątpliwości co do istnienia podstaw prawnych jej zastosowania Za powyższym rozwiązaniem przemawia zasada ogólna szybkości i prostoty postępowania. 286. GRAI Art. 57 ust. 4 Należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Przepis pozostawiono z uwagi na konieczność zapewnienia kompletności obu ustaw. 287. KIGEiT Art. 57 ust. 4 w zw. z Art. 107 Rekomendujemy, aby brzmienie art. 57 ust. 4 ujednolicić z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu. 288. PIIT art. 57 ust.4 w zw. z art. 107 Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Strona | 175 Zmieniono brzmienie przepisu. 289. AI Chamber Rozdział 5 Na zdecydowane poparcie zasługują przepisy Rozdziału 5 projektu ustawy, dotyczące układu. Jest to przykład pozytywnej regulacji, mającej na celu zapewnienie przestrzegania przepisów, lecz w formie bardziej kooperatywnej niż automatyczne nakładanie jak najwyższej sankcji pieniężnej na przedsiębiorcę. Wydaje się jedynie, że przepisy to wymagają pewnego dopracowania i uproszczenia postępowania. Uwaga uwzględniona Przeredagowano część przepisów rozdziału i zrezygnowano z części regulacji. 290. KIGEiT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby Strona | 176 graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 291. PIIT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. Strona | 177 W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 292. KIGEiT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 293. PIIT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie Strona | 178 spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 294. KIGEiT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 295. PIIT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 296. b KIGEiT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Rekomendujemy, aby termin na zawarcie układu był liczony od złożenia oświadczenia o woli jego zawarcia. Uwaga wyjaśniona Ze względu na przedmiot ustawy projektodawca utrzymuje termin 1 miesiąca we wskazanym przepisie. 297. PIIT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze Uwaga wyjaśniona Termin na zawarcie układu uwzględnia Strona | 179 postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 298. Związek Cyfrowa Polska Art. 62 ust. 4 Uprawnienie Komisji do zakończenia negocjacji przed zawarciem ugody jest zbyt szerokie i nie opiera się na żadnych określonych kryteriach. Zalecamy określenie jasnych warunków, na jakich Komisja może zakończyć negocjacje ugodowe i wprowadzenie wymogu uzasadnienia, zapewniając, że strony rozumieją podstawę prawną i faktyczną takiego zakończenia. Uwaga wyjaśniona Art. 62 (obecnie art. 54) ust. 4 został wykreślony. 299. ICC Poland Art. 64 ust. 1 Zgodnie z art. 64 ust. 1 Projektu, po stwierdzeniu, że spełnione są warunki zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Jak z kolei wynika z art. 61 ust. 6 Projektu, w ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 70%, a w przypadku, o którym mowa w art. 76 ustawy – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. W związku z tym, że przewidziane w układzie obniżenie wysokości kary pieniężnej odnosi się do kary hipotetycznej (abstrakcyjnej w momencie oceny projektu układu), która zostałaby nałożona bez zawarcia układu, podjęcie przez stronę będącą podmiotem postępowania przed Komisją racjonalnej decyzji co do przyjęcia układu wymaga wiedzy Uwaga wyjaśniona Treść przepisu nie wymaga doprecyzowania. Użyte w przepisów pojęcie zakresu proponowanego złagodzenia kary nie odnosi się wyłącznie do określenia procentowego ale Strona | 180 co do: i) kary pieniężnej, która zostałaby nałożona bez zawarcia układu (wraz z uzasadnieniem); ii) zakresu proponowanego złagodzenia sankcji (procentowo). Z tego względu, dla uniknięcia wątpliwości co do wymaganego ustawą zakresu projektu układu, proponuje się wyraźne przesądzenie, że w odniesieniu do kary pieniężnej projekt układu powinien zawierać obie te informacje. Cel może zostać osiągnięty przez następującą zmianę art. 64 ust. 1 Projektu: Po stwierdzeniu, że spełnione są warunki, o których mowa w art. 61 ust. 4 ustawy, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. W przypadku przewidzianego układem obniżenia wysokości kary pieniężnej w projekcie układu zamieszcza się również informację o wysokości kary pieniężnej, która zostałaby nałożona bez zawarcia układu wraz z jej uzasadnieniem. Komisja wydaje postanowienie o przedstawieniu projektu układu. również kwotowego wymiaru kary. 300. ICC Poland Art. 65 ust. 4 Artykuł 65 ust. 4 Projektu przewiduje, że skutkiem złożenia oświadczenia o przyjęciu układu w sprawie warunków nadzwyczajnego złagodzenia sankcji jest zrzeczenie się przez stronę postępowania prawa do złożenia „wniosku oraz skargi do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. W związku z tym, że zgodnie z ustawą od decyzji takiej przysługuje odwołanie, zachodzi konieczność doprecyzowania wskazanego przepisu w sposób kompatybilny z pozostałymi przepisami ustawy: Skutkiem oświadczenia, o którym mowa w ust. 1, jest zrzeczenie się przez stronę postępowania prawa do złożenia wniosku oraz skargi odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. Uwaga uwzględniona W przepisie wyrazy „wniosku oraz skargi” zastąpiono wyrazem „odwołania”. 301. KIGEiT Art. 66 ust.1 . 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uwaga uwzględniona Poprawiono odesłanie 302. PIIT art. 66 ust.1 . 1. W przypadku, gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona Poprawiono odesłanie 303. KIGEiT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. (obecnie art 62) ust. 1. Na żądanie Strona | 181 Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 304. PIIT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. 1 (obecnie art 62) Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. Strona | 182 305. AmCham Art. 71 Stoimy na stanowisku, że kary powinny być ograniczone do spółek dopuszczających się naruszenia. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 306. PTI Art. 71 Art. 71. W przypadku niewykonania przez podmiot, który zawarł układ, zobowiązań podjętych w ramach układu w całości albo w istotnej części, lub istotnych nieprawidłowości w wykonaniu tych zobowiązań, Komisja może nałożyć na ten podmiot karę pieniężną do wysokości nieprzekraczającej: 1) w przypadku osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej – 10 000 000 zł; 2) w przypadku osoby fizycznej – 1 000 000 zł 2. W przypadku stwierdzenia naruszenia wskazanego w ust. 1 Komisja może nałożyć na członka zarządu osoby prawnej, który jest odpowiedzialny za to naruszenie, karę pieniężną w wysokości do 1 000 000 zł. Sugerujemy rozważyć również kwoty zależne od obrotu / przychodów firmy /osoby (mechanizmy stosowane w Rozp. O ochronie danych osobowych) Dla dużej firmy, która i tak na szkodliwych działaniach zarobi większą kwotę ta kara może się opłacać. Dla małej firmy lub osoby prowadzącej działalność gospodarczą to może być koniec świata. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71(obecnie art. 63) został wykreślony. 307. IWP Repropol Art. 71 Uważamy postępowanie układowe za dobry pomysł. Wymuszenie autorefleksji po stronie podmiotu naruszającego przepisu jest lepszym rozwiązaniem niż od razu siłowe nakładane kar na podmioty naruszycielskie. Jednocześnie jednak obawiamy się, aby wysokość kar grożących za niedochowanie zawartego układu nie wywołały efektu mrożącego, odwrotnego do zamierzonego. Jeśli członek zarządu będzie skonfrontowany z perspektywą indywidualnej kary do jednego miliona złotych z tytułu niewykonywania lub niewłaściwego wykonywania zaciągniętych zobowiązań (zob. art. 71 ust. 2 UoSSI), obawiamy się pełnej i rzeczywistej gotowości podmiotów do podejmowana prób układania się z KRIBSI. Chodzi po prostu o to, aby propozycja dobrego mechanizmu dialogu nie została zniweczona nadmierną dolegliwością konsekwencji w przypadku negatywnego scenariusza. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 308. Związek Cyfrowa Polska Art. 71 ust. 2 W niewłaściwy sposób nakłada on kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. Uwaga wyjaśniona Strona | 183 W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 309. KIGEiT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Rekomendujemy doprecyzowanie Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia, a także doprecyzowanie o jakie zezwolenie chodzi. Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 310. PIIT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 311. Związek Cyfrowa Polska Art. 77 Ustawa powinna umożliwiać podmiotom oznaczanie określonych informacji jako niepublicznych przy publikowaniu decyzji. Ustawa o systemach sztucznej inteligencji powinna jasno określać, że niektóre wrażliwe informacje nie mogą być ujawniane przez Komisję. Zalecamy również wprowadzenie prawnego obowiązku zachowania poufności, w szczególności w odniesieniu do tajemnic przedsiębiorstwa oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis otrzymał nowe brzmienie: 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice Strona | 184 przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 312. KIGEiT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi 313. PIIT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi. 314. PIIT Art. 77 ust. 3 3. Wykaz zawiera co najmniej: 1) nazwę określenie systemu oraz operatora, którego dotyczy decyzja pozwalające na jego identyfikację; Nie każdy system posiada konkretną nazwę, kluczowe jest żaby określić system Uwaga wyjaśniona „Określenie systemu” jest pojęciem wieloznacznym i szerokim. Przy braku wskazania co powinno takie określenie zawierać podane informację mogą być nieprecyzyjne. 315. Polskie sieci elektroenerget yczne Rozdział 6 - art. 78-80 Aktualna treść artykułu nie specyfikuje o jakiego typu incydenty chodzi, a jednocześnie wskazuje Komisję jako adresata zgłoszeń o incydentach (a Komisja dopiero może poinformować CSITRy). Może to powodować wrażenie, że cyberincydenty dotyczące systemów SI nie musza być raportowane bezpośrednio do CSIRTów (w tym sektorowych). Dla uniknięcia wątpliwości, wydaje się zasadne uzupełnienie artykułu o wskazanie, że jeśli z innych przepisów prawa wynika raportowanie o incydencie do innych organów, to ten artykuł z tego nie zwalnia. Uwaga częściowo uwzględniona Przepis art. 79, który wskazuje na obowiązek przekazania informacji m.in. CSIRTom uległ znacznej zmianie. Jednocześnie, projektowana ustawa nie modyfikuje lub znosi Strona | 185 obowiązków określonych w innych ustawach. 316. Polskie sieci elektroenerget yczne Rozdział 6 vs Rozdział 8 Kwestia czy raportowanie na temat poważnych incydentów dotyczy również piaskownicy regulacyjnej może budzić wątpliwości. Wydaje się zasadnie uzupełnienie Rozdziału 6 o zapis wskazujący intencję ustawodawcy w tym zakresie. Uwaga wyjaśniona Niemożliwe jest całkowite wykluczenia ryzyka wystąpienia incydentu stanowiące potencjalne ryzyko, które wystąpi w ramach piaskownicy regulacyjnej. 317. FinTech Poland Art. 78 Zgodnie z art. 73 ust. 2 AI Act dostawcy systemu sztucznej inteligencji wysokiego ryzyka zgłoszenie poważnego incydentu dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. W ust. 3 wskazano, że niezależnie od ust. 2 w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. W ustawie pojawia się termin maksymalny 24 godzin od momentu wykrycia, rekomendujemy wydłużenie terminu, które umożliwi zgłoszenie incydentu z kompletnymi informacjami dotyczącymi opisu poważnego incydentu. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na Strona | 186 z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 318. Polska Izba Ubezpieczeń Art. 78 Zaproponowany w projekcie 24 godzinny czas na zgłoszenie incydentu, liczony od momentu jego wykrycia jest niewystarczający. Po pierwsze przy skomplikowanych i rozległych systemach zebranie odpowiednich danych w takim terminie może być niewystarczające. Dodatkowo moment wykrycia może być różnie interpretowany i rozciągnięty w czasie. Pośrednią konsekwencją tak krótkiego czasu będą przypadki zgłoszeń incydentów, które ostatecznie okażą się zupełnie nieistotne. Proponujemy wydłużenie czasu do 72h. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje Strona | 187 to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 319. PIIT Art. 78 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 Strona | 188 rozporządzenia 2024/1689. 320. ZPTC Lewiatan Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Propozycja: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia. Uzasadnienie: 1. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie tworzy nadmiernie obowiązki. 2. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. 3. Zrównanie zapisów w AI Act i polskiej ustawie ma walor tworzenia jednolitego rynku cyfrowego w UE. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 321. ZPTC Lewiatan Art. 73 AIA, art. 78 W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: Uwaga wyjaśniona Strona | 189 „Art. 78 ust. 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości”. Uzasadnienie: Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 322. GRAI Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem Uwaga częściowo uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W Strona | 190 systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia.”. Propozycja: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia.”. Uzasadnienie: 4. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie nie jest sensowne. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 323. GRAI Art. 78 ust. 1 Brak definicji poważnego incydentu. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. 324. GRAI Art 78 pkt 1. Proponuje wydłużenie czasu wymaganego na zgłoszenie incydentu i zastosowania analogicznego czasu jak dla incydentów z naruszenia rozporządzania 2016/679, tj. 72 godziny. Weryfikacja i potwierdzenie incydentu mogą być bardzo trudne, a czasami wręcz niemożliwe w czasie 24 godzin w szczególności, gdy do zgłoszenia trzeba Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym Strona | 191 dołączyć wymagany ustawą opis incydentu. Zbyt krótki termin może prowadzić do konfliktu o zasoby mitygujące incydent względem potrzeb raportowania, co może negatywnie wpłynąć na dane osób objętych incydentem. Propozycja brzmienia poniżej: Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 72 godzin od momentu jego wykrycia. projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 325. AmCham Art. 78 ust. 1 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Strona | 192 przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. Przygotowanie i przekazanie zgłoszenia poważnego incydentu w większości przypadków wymagać będzie: ● analizy incydentu: identyfikacji przyczyn, oceny skutków oraz potencjalnego wpływu; ● zebrania niezbędnych danych: zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu; ● koordynacji działań wewnątrz organizacji; ● przygotowanie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. I w większości przypadków wykonanie wszystkich wyżej wymienionych kroków nie będzie możliwie w 24 godziny. Co więcej, art. 73 Aktu o AI stanowi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie skracać. Projekt ustawy powinien przewidywać przynajmniej 7 dni na zgłoszenie poważnego incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 326. ZBP Art. 78 ust. 1 W projekcie ustawy brak jest definicji poważnego incydentu. Ze względu na fakt posługiwania się pojęciem poważnego incydentu w wielu obecnie obowiązujących regulacjach, w których pojęcie to jest rozumiane inaczej, sugerujemy doprecyzowanie definicji poważnego incydentu. Doprecyzowanie mogłoby zostać zrealizowane np. poprzez dodanie odpowiedniego przepisu wskazującego, że jeżeli przepisy ustawy nie wskazują inaczej, pojęcia niezdefiniowane w ustawie mają definicję z AI Act. Ewentualnie, dla porównania, w art. 3 ust. 1 ustawy o ochronie danych osobowych „Administrator wykonujący zadanie publiczne nie przekazuje informacji, o których mowa w art. 13 ust. 3 rozporządzenia 2016/679”. W projekcie ustawy o systemach sztucznej inteligencji przepisy mogłyby podobnie jak w ustawie o ochronie danych osobowych precyzować konkretne pojęcia. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. Strona | 193 Zwracamy uwagę, że powyższa uwaga jest również uwagą o charakterze ogólnym, która dotyczy również pozostałych przepisów projektu, w których powstają wątpliwości interpretacyjne w związku z niedoprecyzowaniem pojęć niezdefiniowanych w projekcie. 327. KIGEiT Art. 78 ust. 1 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Strona | 194 328. Związek Cyfrowa Polska Art. 78 ust. 1 Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Zgodnie z art. 78 ust. 1 projektu ustawy z kolei, polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. 24 godziny na zgłoszenie poważnego incydentu to nieracjonalnie krótkie ramy czasowe. Podmioty, zwłaszcza te o złożonych strukturach organizacyjnych lub zaawansowanych systemach sztucznej inteligencji, nie są w stanie właściwie ocenić, w terminie 24 godzin, czy incydent kwalifikuje się jako poważny. Proponowany harmonogram nie zapewnia wystarczającej ilości czasu na zebranie niezbędnych informacji i dokumentacji na potrzeby kompleksowego raportu. Różnice stref czasowych między różnymi jednostkami w organizacji mogą dodatkowo utrudniać zachowanie zgodności w ciągu 24 godzin. Zalecamy wydłużenie terminu raportowania do co najmniej 7 dni, aby umożliwić dokładną weryfikację, gromadzenie danych i zorganizowane reagowanie na incydenty. Uwaga uwzględniona W aktualnym projekcie ustawy znaczącej zmianie uległ art. 78 (obecnie art 69). W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 329. GRAI Art. 78 ust. 2 pkt 4 Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie Uwaga uwzględniona Strona | 195 informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 330. Polskie sieci elektroenerget yczne Art. 78 ust. 2 pkt 4 lit.a Jest: „a) wskazanie systemu sztucznej inteligencji, za sprawą którego doszło do poważnego incydentu,” Propozycja: „a) wskazanie systemu sztucznej inteligencji, w związku, z którym doszło do poważnego incydentu,” – aby uniknąć wrażenia, że incydent poważny może dotyczyć tylko przypadku, gdzie to sam system SI jest przyczyną, co mogłoby spowodować pomijanie przypadków, gdy incydent może być spowodowany przez człowieka lub błąd oprogramowania innego niż sam system SI (np. system operacyjny, oprogramowanie integracyjne lub narzędziowe) Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 331. AmCham Art. 78 ust. 2 pkt 4 lit. b Proponujemy zastąpić w tym przepisie słowo „użytkowników” słowem „osób”. Wynika to z definicji incydentu poważnego. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 332. GRAI Art. 78 ust. 2 pkt 4 lit. b Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 333. AmCham Art. 78 ust. 2 pkt 4 lit g. Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowane sformułowanie przepisu jest bardziej precyzyjne. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. Strona | 196 334. GRAI Art. 78 ust. 2 pkt 4 lit. g Jest: „ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Propozycja nowego przepisu jest precyzyjniejsza. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 335. ZBP Art. 78 ust. 2 pkt 4 i 4b Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. Uwaga uwzględniona W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 336. ZPTC Lewiatan Art. 78 ust. 2 p. 4) lit. b) Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 337. ZPTC Lewiatan Art. 78 ust. 2 p. 4 lit. G Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowany zapis jest precyzyjniejszy. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 338. Związek Cyfrowa Polska Art. 80 ust. 1 Obecny przepis zezwalający Komisji na przekazywanie raportów i powiązanych danych do wielu podmiotów jest zbyt szeroki. Ustawa nie definiuje jasno okoliczności, w których takie udostępnianie danych ma miejsce, co prowadzi do potencjalnych nadużyć. Uwaga wyjaśniona Strona | 197 Zalecamy wprowadzenie jasnych i szczegółowych kryteriów określających, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. W procesie tym brakuje również wyraźnych zabezpieczeń w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa. Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone 339. GRAI Art. 82 ust. 1 Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d’accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. Uwaga wyjaśniona Mając na uwadze ogólne zasady wnioski w sprawie składa się do organu właściwego dla danego rodzaju sprawy. Zgodnie z projektowanymi przepisami ustawy to minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. I to on dokonuje notyfikacji jednostki oceniającej zgodność. Dlatego uznano, że wnioski w sprawie notyfikacji powinny być kierowane właśnie do tego organu. Kwestie współpracy między ministrem właściwym ds. informatyzacji a PCA zostaną określone na późniejszym etapie i nie Strona | 198 wymagają regulacji ustawowych. 340. GRAI Art. 84 Rekomendujemy przyjęcie następującej treści: “W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i niniejszą ustawą stosuje się odpowiednio przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje, rozporządzenia wykonawcze lub wytyczne Komisji Europejskiej, zalecenia i wytyczne Europejskiej Rady do spraw Sztucznej Inteligencji.” Uwaga uwzględniona Przepis nie wymaga doprecyzowania w zakresie zastrzeżenia wydania przez ministra właściwego do spraw informatyzacji rozporządzenia na podstawie art. 12 ustawy o systemach oceny zgodności i nadzoru rynku. Obowiązek wydania rozporządzenia a także wytyczne do jego wydania, zakres wynika bezpośrednio w przepisów ww. ustawy. 341. AI Chamber Rozdział 8 Podobnie bardzo pozytywnym krokiem jest wprowadzenie do projektu ustawy nowego Rozdziału 8, zatytułowanego “Środki wspierające innowacyjność”. Brak tych środków był jednym z głównych zarzutów podnoszonych wobec pierwotnego projektu ustawy. Udostępnienie tzw. Piaskownic regulacyjnych było jednym z głównych postulatów branży. Należy jednak podkreślić, że aby dostawcy systemów SI korzystali z piaskownic muszą one być faktycznie dostępne, procedura uzyskiwania do nich dostępu musi być szybka, tania, prosta i pozbawiona uznaniowości. Przedstawione przepisy niestety nie realizują tej wizji w dostateczny sposób, co może skutkować tym, że przepisy te pozostaną martwe. Postulujemy, aby procedura akcesji do piaskownic została znacznie uproszczona - idealnie dostęp uzyskiwać powinny wszystkie zainteresowane podmioty po dokonaniu prostego zgłoszenia i nie zgłoszenia przez Komisję zastrzeżeń w określonym (krótkim - nie dłuższym niż 30 dni) terminie. Dopiero takie przepisy mogą stać się prawdziwym wzmocnieniem polskiego rynku AI. Uwaga wyjaśniona Projektodawca zrezygnowała z części regulacji w zakresie ustanawiania piaskownic regulacyjnych. Dodatkowo należy wskazać że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu Strona | 199 wykonawczego Komisji Europejskiej. 342. FinTech Poland Rozdział 8 Popieramy wprowadzenie przepisów dotyczących piaskownic regulacyjnych jako krok w dobrą stronę, jednak rekomendujemy ich dopracowanie. Kluczowe jest uproszczenie procedur, obniżenie opłat za korzystanie z piaskownicy oraz wyeliminowanie uznaniowości w procesie przyznawania dostępu. Takie zmiany zwiększyłyby dostępność tego narzędzia dla innowacyjnych podmiotów i przyczyniły się do skuteczniejszego rozwoju AI w Polsce. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 343. IWP Repropol Art.85 Piaskownice regulacyjne jako środek wspierający innowacyjność powinny mieć wielowymiarowe wsparcie ze strony w zakresie AI, w tym identyfikację ryzyk, także praw podstawowych (zob. art. 57 ust. 6 i 7 AIA). Obszerna regulacja dotycząca piaskownic (art. 85 i nst. UoSSI) nie przewiduje w dostatecznie wyraźny sposób takiego wsparcia. W szczególności nie sposób za taką regulację postrzegać art. 96 projektu. Uważamy, że podmioty biorące udział w piaskownicach powinny mieć pełną świadomość ich wyjątkowego statusu związanego z uczestnictwem w tym przedsięwzięciu. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 344. AmCham Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 345. ZPTC Lewiatan Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza Strona | 200 zakresem regulacji tego przepisu. 346. GRAI Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 347. GRAI Art. 87 ust. 1 Jest: „Art. 87. 1. Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej.”. Propozycja: Poza trybem konkursowym proponujemy dodać możliwość tworzenia sektorowych piaskownic regulacyjnych, m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 348. Polskie sieci elektroenerget yczne Art. 87 ust.1. Jest: Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej. Propozycja: Poza trybem konkursowym dodać możliwość tworzenia sektorowych piaskownic regulacyjnych m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 349. ICC Poland Art. 87 ust. 3 Projektu przewiduje, że konkurs na uczestnictwo w piaskownicy regulacyjnej przeprowadzany jest nie rzadziej niż trzy razy w roku. Mając na uwadze tempo rozwoju systemów sztucznej inteligencji oraz spodziewane duże zainteresowanie piaskownicami regulacyjnymi, warto rozważyć zwiększenie liczby konkursów ogłaszanych w skali roku, przynajmniej w początkowym okresie stosowania rozporządzenia 2024/1689 oraz Uwaga wyjaśniona W art. 87 (obecnie art. 85) ust. 3 został wykreślony Strona | 201 ustawy. Równocześnie w ramach przepisów przejściowych należałoby przewidzieć termin od dnia wejścia w życie ustawy, w którym powinien zostać ogłoszony pierwszy taki konkurs. Część zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 350. PTI Art. 88 ust. 2 Zespół konkursowy ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 jakimi warunkami? brak w rozporządzeniu takich warunków, oprócz tych dotyczących zachowania przepisów prawa krajowego i unijnego! Prosimy o uzupełnienie przepisu o tryb i zawartość publikacji warunków oceny konkursu przed jego ogłoszeniem przez Biuro Komisji tzw. Zespół Konkursowy Brak jasnych ram oceny uczestników konkursu może nie gwarantować obiektywnej oceny. Uwaga wyjaśniona Część regulacji zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 351. PTI Art. 93 ust. 2 Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o: Brakuje określenia co przewodniczący ma otrzymać. Wyniki raportu? Przewodniczący Komisji po otrzymaniu wyników raportu, o którym mowa w ust. 2, może podjąć decyzję o: Błąd pisarski Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 352. GRAI Art. 94 Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Rekomendujemy przyjęcie treści ust. 1: “Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.” W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 17 w ust. 1 art. 9 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Uwaga wyjaśniona Mając na uwadze właściwość ministra do spraw informatyzacji przepis pozostaje bez zmian. Strona | 202 353. GRAI Art. 94 ust. 2 Jest: „2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Propozycja: „2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Uzasadnienie: Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 354. AmCham Art. 94 ust. 2 Jest: Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do Strona | 203 obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 355. ZPTC Lewiatan Art. 94 ust. 2 Jest: 2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: 2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie: Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i Strona | 204 Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 356. GRAI Art. 95 ust. 2 Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek Ministra Cyfryzacji. Rekomendujemy w odniesieniu do art. 95 ust. 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. Uwaga wyjaśniona Zgodnie z projektem ustawy minister właściwy do spraw informatyzacji będzie organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689 a także będzie organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Strona | 205 Ustawa przewiduje współpracę ministra w tym zakresie tych zadań z PCA. Mając na na uwadze sposób organizacji PCA i ich kompetencje nie jest wymagane angażowanie ministra właściwego do spraw gospodarki do kwestii określania zasad współpracy. 357. GRAI Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 358. Polskie sieci elektroenerget yczne Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi Strona | 206 na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 359. Związek Cyfrowa Polska Art. 96 Chociaż uprawnienie Ministra Cyfryzacji do zapewnienia wsparcia finansowego jest pozytywną inicjatywą, lista kwalifikujących się odbiorców powinna zostać rozszerzona. Szersze ramy kwalifikowalności pozwoliłyby Ministerstwu na tworzenie partnerstw z większą ilością podmiotów, ułatwiając rozwój rynku sztucznej inteligencji w Polsce. Rozszerzenie zakresu wspieranych podmiotów zachęciłoby do współpracy startupy, MŚP, instytucje badawcze jak również duże podmioty, wspierając bardziej kompleksowy ekosystem innowacji w zakresie sztucznej inteligencji. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakiem ma ono służyć. 360. AmCham Rozdział 9 (art. 97-106) Stoimy na stanowisku, że umieszczenie w projekcie ustawy przepisów karnych jest niecelowe. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w Polsce. Zdecydowanie bardziej sensowne i bardziej spójne z aktem o AI byłoby konsekwentne stosowanie administracyjnych kar pieniężnych. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. Strona | 207 361. ZPTC Lewiatan Rozdział 9 Należy w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Brzmienie Rozdziału 9 powinno wynikać w związku z tym wprost z treści EU AI Act. Uzasadnienie: Opowiadamy się za regulacjami wspierającymi rozwój sztucznej inteligencji, a nie nakładanie nadmiernych sankcji karnych. (1) Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ustawy o sztucznej inteligencji (art. 106). (2) Za naruszenie ustawy o AI przewidziana jest administracyjna kara pieniężna (ale nie karna) „w wysokości i na warunkach określonych w rozdziale XII ustawy o AI” (art. 97- 104). Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. 362. GRAI Art. 97 ust. 1 i kolejne Przepis at. 97 ust. 1 odwołuje się do rozdziału XII rozporządzenia. Zarazem w art. 99 ust. 8 mamy konieczność doprecyzowania w prawie krajowym państw członkowskich zasad nakładania kar na organy i podmioty publiczne a w projektowanej ustawie brak jest wyraźnej regulacji w tym zakresie. Uwaga wyjaśniona Przepisy ustawy znajdują także do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. Strona | 208 363. KIGEiT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. W związku z faktem, że jest to przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust.1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się Strona | 209 zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 364. PIIT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5, czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów Strona | 210 rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 365. Związek Cyfrowa Polska Art. 97 ust. 4 Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 366. KIGEiT Art. 98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Rekomendacja wydłużenia terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 367. PIIT Art.98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest Strona | 211 Wydłużenie terminu - analogicznie jak w uodo. optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 368. AmCham Art. 99 Projektowany przepis zezwala na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję. Z oczywistych wręcz względów jest to rozwiązanie wysoce kontrowersyjne. Przepis w tym kształcie prowadzi do sytuacji, w której Komisja będzie silnie zmotywowana do nakładania wysokich i licznych kar pieniężnych, nie ze względu na rzeczywiste naruszenia przepisów prawa, ale w celu poprawy swojej sytuacji finansowej. Takie rozwiązanie jest nieetyczne i szkodliwe dla rozwoju sztucznej inteligencji w Polsce. System, w którym organ ma bezpośrednią korzyść finansową z nakładania kar, zachęca go do nadużywania swoich uprawnień. Zamiast wspierać innowacje i rozwój technologii, Komisja może skupić się na poszukiwaniu błahych uchybień, które pozwolą jej na generowanie dodatkowych przychodów. Taka praktyka z pewnością zniechęci przedsiębiorców i inwestorów do angażowania się w projekty związane ze sztuczną inteligencją w Polsce. Co więcej, przepis ten stoi w sprzeczności z innymi rozwiązaniami proponowanymi w projekcie ustawy, które mają na celu wspieranie rozwoju sztucznej inteligencji, takimi jak piaskownice regulacyjne. Piaskownice regulacyjne służą temu, aby firmy mogły testować innowacyjne rozwiązania w kontrolowanym środowisku, bez obawy o surowe kary finansowe. Jeśli jednak Komisja będzie miała motywację do nakładania wysokich kar, idea piaskownic regulacyjnych zostanie wypaczona. Rozwiązanie, w którym kary pieniężne stanowią przychód organu nakładającego kary, jest niezgodne z europejskimi i polskimi standardami. W Polsce, organy takie jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 96 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. Strona | 212 Elektronicznej czy Prezes Urzędu Ochrony Danych Osobowych nie czerpią korzyści finansowych z nakładanych kar. Wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnych funduszy celowych, które mają osobowość prawną i są niezależne od organów nakładających kary. Zasada ta powinna być również stosowana w przypadku Komisji. Wpływy z kar pieniężnych nakładanych przez Komisję powinny trafiać do budżetu państwa, a nie do budżetu Komisji. Tylko takie rozwiązanie zapewni bezstronność i obiektywizm Komisji oraz przyczyni się do zdrowego rozwoju sztucznej inteligencji w Polsce. 369. FinTech Poland Art. 99 Postulujemy zmianę przepisów dotyczących wpływów z administracyjnych kar pieniężnych, które w obecnej treści stanowią przychód Biura Komisji. Taki mechanizm może rodzić konflikt interesów i powinien zostać zastąpiony rozwiązaniem zapewniającym większą transparentność, np. przekazywaniem tych środków do budżetu państwa lub funduszu wspierającego rozwój AI. Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 87 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. 370. ICC Poland Art. 99 Zgodnie z art. 99 Projektu środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Zmiana ta – w stosunku do projektu z 15 października 2024 r. – nie zasługuje na aprobatę. Sytuacja, w której środki z administracyjnych kar pieniężnych nakładanych w drodze postępowań prowadzonych przez Komisję, stanowią przychód samego Biura Komisji, tworzy nieakceptowalną sytuację konfliktu interesów. Tego rodzaju rozwiązanie stwarza bowiem zagrożenie, że w interesie Komisji oraz Biura Komisji będzie, aby administracyjne kary pieniężne były jak najwyższe. Może to wpływać na samo postrzeganie niezależności Komisji jako organu nadzoru nad systemami sztucznej inteligencji. Jakkolwiek szeroki zakres zadań Komisji oraz potrzeba zorganizowania od podstaw Biura Komisji uzasadnia zwiększenie budżetu Biura Komisji w stosunku do zakładanych pierwotnie poziomów, to jednak rozwiązaniem tego problemu nie może być zaproponowana treść art. 99 Projektu. W konsekwencji proponuje się zmianę art. 99 Projektu poprzez przesądzenie, że środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa, podobnie jak ma to miejsce w przypadku art. 104 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz.U. z 2019 r., poz. 1781), wdrażającej rozporządzenie 2016/679: Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji budżetu państwa. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 213 371. PIIT Art. 99 Wpływy z kar pieniężnych nakładanych przez Komisję powinny stanowić przychód budżetu państwa. Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 372. Związek Cyfrowa Polska Art. 99 Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Przepis tego typu może w zasadzie przekreślić wszystkie pozostałe, sprzyjające rozwojowi sztucznej inteligencji (np. piaskownice regulacyjne) rozwiązania obecne z projektowanej ustawie. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar nie powinny stanowić przychodu Komisji z tych samych powodów, dla których wpływy z mandatów nie powinny stanowić przychodu dla nakładającego mandat Policjanta. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 214 Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. 373. ZPTC Lewiatan Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego zapisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 374. GRAI Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego przepisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana także w tym przypadku. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 375. GRAI art. 102 ust. 3 Tak jak w przypadku art. 57 ust. 4 należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Pozostawienie w ustawie przedmiotowego przepisu ma znaczenie w kontekście zachowania kompletności regulacji. 376. GRAI Art. 103 Należy zsynchronizować przepis z treścią art. 189a § 2 in fine k.p.a. Ustanowienie odrębnej od k.p.a. regulacji dotyczącej administracyjnych kar pieniężnych powoduje przecież, że wówczas działu IVA k.p.a. nie stosuje się w ogóle. Projektowany przepis w tym sensie nie wysławiałby nic zaskakującego, skoro powyższe (w części) potwierdza, niemniej jego dość oczywistą intencją jest wyłączenie stosowania jedynie niektórych przepisów działu IVA k.p.a., tak, jakby więc pozostałe z tego działu miały znajdować zastosowanie. Proponuję zatem uczynić przepis bardziej jednoznacznym i nadać mu treść: „W zakresie określonym przepisami tego rozdziału stosuje się przepisy działu IVA Uwaga uwzględniona Przepisowi nadano nowe brzmienie. Strona | 215 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k”. 377. KIGEiT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji. Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że stosuje się ją do egzekucji kar, a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 378. PIIT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 379. KIGEiT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Projektodawca nie przewiduje zmiany przepisów w zakresie wskazanym w uwadze. 380. PIIT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest Strona | 216 związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania w przypadku, o którym mowa w art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 381. KIGEiT Art. 106 Art., 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 382. PIIT Art. 106 Art. 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi Strona | 217 określonymi w odrębnych ustawach. 383. ICC Poland Art. 107 Artykuł 107 Projektu przewiduje dodanie do ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego odrębnych przepisów dotyczących postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689. W projektowanym art. 479 88h § 2 mowa jednak o zażaleniach na postanowienia „Prezesa Urzędu”, nie zaś Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W konsekwencji przepis ten wymaga następującej zmiany: Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uwaga uwzględniona Zmieniono brzmienie przepisu zgodnie z propozycją w uwadze. 384. GRAI Art. 107 Należy zmienić nowo projektowany art. 479 88h § 1 k.p.c. w ten sposób, aby w k.p.c. uregulować procedurę dotyczącą zażaleń na postanowienia Komisji – samo wskazanie terminu na wniesienie zażalenia do sądu to zdecydowanie zbyt mało (powstałyby m.in. daleko idące wątpliwości zwłaszcza co do wymogów formalnych pisma: czy stosować per analogiam wymogi dotyczące odwołania czy jednak w ramach wykładni systemowej przyjąć mniej sformalizowany charakter zażalenia). Wydaje się wystarczające, aby odesłać do odpowiedniego stosowania przepisów dotyczących rozpoznania odwołań. Propozycja nowego brzmienia przepisu: „Przepisy niniejszego działu stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z tym, że zażalenie wnosi się w terminie tygodnia od dnia doręczenia tego postanowienia”. Uwaga wyjaśniona Przepis nie wymaga dalszego doprecyzowania. Zaproponowane rozwiązania są wystarczające. 385. Związek Cyfrowa Polska art. 107 - art. 479[88h](1) Kodeksu Postępowania Cywilnego Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki, w szczególności dla podmiotów o skomplikowanej strukturze organizacyjnej lub w sprawach o zawiłym stanie faktycznym. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest j adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajecie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie Strona | 218 określonym w np. w KPA. 386. PIIT Art. 107 - art. 479[88h] (2) Kodeksu Postępowania Cywilnego § 2. Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu. Przewodniczącego Komisji” Projekt ustawy nie przewiduje nigdzie zażaleń od postanowień Przewodniczącego Komisji, jeśli o niego chodzi jako “Prezesa Urzędu”. Uwaga częściowo uwzględniona Zmieniono brzmienie przepisu w następujący sposób „(.) Przepisy art. 479 88c , 479 88d § 1, art. 479 88f i art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. 387. KIGEiT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r., Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności, co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także, co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 388. PIIT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, muszą być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów Strona | 219 wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. rozporządzenia 2024/1689. Uzasadnienie 1. GRAI Uzasadnienie 2. Negatywny wpływ restrykcyjnego podejścia na gospodarkę 2.1. Wzrost kosztów operacyjnych dla firm • Nadmierna biurokracja wymaga od przedsiębiorstw dodatkowych zasobów na spełnianie formalnych procedur, co przekłada się na wyższe koszty operacyjne. • Dla małych i średnich przedsiębiorstw (MŚP) jest to szczególnie uciążliwe, ponieważ mają ograniczone zasoby na obsługę administracyjną. 2.2. Hamowanie innowacji • Długotrwałe procesy uzyskiwania zgód zniechęcają firmy do testowania nowych technologii w Polsce. • Brak elastyczności ogranicza możliwość szybkiego reagowania na zmieniające się potrzeby rynkowe i technologiczne. 2.3. Ryzyko odpływu innowacyjnych firm za granicę • Firmy, które napotkają bariery w Polsce, mogą przenieść swoje operacje do krajów oferujących bardziej przyjazne warunki regulacyjne. • Odpływ innowacyjnych przedsiębiorstw oznacza utracone miejsca pracy, mniejsze wpływy z podatków oraz spowolnienie transferu technologii. 2.4. Ograniczenie konkurencyjności Polski na arenie międzynarodowej • W warunkach globalnej rywalizacji o inwestycje, zbyt restrykcyjne przepisy stawiają Polskę na mniej korzystnej pozycji wobec innych państw UE i krajów trzecich. • Kraje takie jak Niemcy, Francja czy Estonia już wprowadzają elastyczne systemy piaskownic, przyciągając startupy i inwestorów. Uwaga częściowo uwzględniona Projekt ustawy został zmodyfikowany m.in. w zakresie redukcji obciążeń związanych z korzystaniem z piaskownic regulacyjnych przy jednoczesnym odesłaniu Dodatkowo, projekt przewiduje preferencyjne traktowanie MŚP (m.in. W obszarze piaskownic regulacyjnych oraz kar). 2. GRAI Uzasadnienie 4. Propozycje rozwiązań i rekomendacje 4.1. Model „na zgłoszenie” z ograniczoną rolą państwa • Firmy samodzielnie rejestrują udział w piaskownicy. • Organ nadzoru interweniuje tylko w przypadku zagrożeń dla bezpieczeństwa, praw podstawowych lub cyberbezpieczeństwa. • Domniemana zgoda po 30 dniach od zgłoszenia zapewnia szybki start testów. 4.2. Ograniczenie roli PCA w procesie walidacji • Proces akredytacyjny powinien być realizowany przez jednostki oceniające zgodność bez konieczności angażowania Polskiego Centrum Akredytacji (PCA), co skróci czas i koszty wdrażania innowacji. 4.3. Wprowadzenie mechanizmu „kontroli zarządczej” Uwaga wyjaśniona W kwestii piaskownic regulacyjnych należy wskazać, że w tym zakresie zostaną wydane akty delegowane KE, które Polska będzie zobowiązana honorować. Strona | 220 • Każda firma wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i zgodnością. • Raportowanie co 6 miesięcy pozwala na monitorowanie efektów bez zbędnej biurokracji. 4.4. System zachęt dla przedsiębiorców • Ulgi podatkowe i regulacyjne dla firm uczestniczących w piaskownicach. • Finansowanie testów AI poprzez granty i vouchery dla MŚP. Możliwość uzyskania wstępnej oceny zgodności przed wejściem na rynek. Rola PCA w projekcie ustawy została ustalona adekwatnie do wymagań regulacyjnych wynikających z AI Akt. W zakresie wprowadzenia mechanizmu kontroli zarządczej należy wskazać, że regulacje w tym zakresie stanowiłaby silną ingerencje w sposób zarządzania podmiotów. Z uwagi na różnorodność podmiotów inne rozwiązania mogą okazać się skuteczne dla administracji w której jest prowadzona kontrola zarządcza a inne w podmiotach prywatnych w których np. Funkcjonują komórki compliance. Zasadne wydaje się pozostawienie tej kwestii w gestii poszczególnych podmiotów. Ocena Skutków Regulacji 1. ZPWC OSR Jesteśmy zaniepokojeni poziomem finansowania nowej infrastruktury nadzorującej sztuczną inteligencję w Polsce. Nawet docelowe przeznaczenie 31 milionów złotych w roku 2027 wydaje się niewystarczające, aby nowy urząd mógł efektywnie pełnić swoje funkcje. Potrzebujemy wykwalifikowanego personelu z dogłębną wiedzą z zakresu technologii i funkcjonowania AI, prawa autorskiego, ochrony danych osobowych czy Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy Strona | 221 cyberbezpieczeństwa. Obawiamy się, że proponowane personelowi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI) średnie wynagrodzenie brutto na poziomie 15 tys. zł nie będzie wystarczające, aby przyciągnąć takich specjalistów. Podobne wątpliwości odnośnie do adekwatności wynagrodzenia osób stojących na czele Komisji (KRIBSI). stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 2. GRAI OSR Uzasadnienie legislacyjne 1. Cel nowelizacji Ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. 2. Korzyści nowego systemu Redukcja biurokracji: Piaskownica działa na zasadzie zgłoszenia, a nie zgody administracyjnej. Przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. Wzmocnienie samoregulacji: Firmy same odpowiadają za zgodność testów. Przejrzystość: Organ państwowy interweniuje tylko w wyjątkowych sytuacjach. Uwaga częściowo uwzględniona OSR został uzupełniony w zakresie uwagi dot. celu nowelizacji Uwaga nr 2 jest niezgodna z treścią przepisów projektu ustawy, tym samym OSR nie może zostać uzupełniony w proponowany sposób. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownego opiniowania Lp . Jednostka redakcyjn a, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko MC Uwagi ogólne 1. NCBR Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie przepisu, który pozwoli Komisji i Radzie na koordynowanie działań oraz dokonywanie ujednoliconej wykładni we współpracy z ich odpowiednikami w pozostałych państwach członkowskich, w tym np. wzajemne uznawanie decyzji certyfikacyjnych między państwami członkowskimi UE. Przepis umożliwi na działanie w środowisku międzynarodowym. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozporządzenia 2024/1689 w rozdziale III. 2. NSZZ Niewystarczająca ochrona pracowników: Projekt nie zawiera rozwiązań chroniących pracowników przed zagrożeniami wynikającymi ze stosowania systemów AI w pracy, mimo że rozporządzenie 2024/1689 klasyfikuje je jako systemy wysokiego ryzyka (art. 6 ust. 2, zał. III pkt 4). Polski ustawodawca nie wykorzystuje możliwości wprowadzenia korzystniejszych przepisów dla pracowników (art. 2 ust. 11 rozporządzenia). Niewystarczający zakres informacji dla pracowników: Obowiązek informowania pracowników o stosowaniu systemów AI (art. 26 ust. 7 rozporządzenia 2024/1689) jest niewystarczający bez podania: nazwy systemu, zasad działania, zakresu działania i potencjalnych skutków dla pracowników. Brak tych danych utrudnia np. złożenie skargi (art. 50 projektu). Propozycja: rozszerzenie Uwaga wyjaśniona Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Regulacje dotyczące systemów wysokiego ryzyka zostaną rozważone i wprowadzone w przypadku konieczności podjęcia działań legislacyjnych do 2 sierpnia 2026 roku. W tym czasie będą również opracowywane przez 2 obowiązku informacyjnego o nazwę, zakres, zasady działania, wpływ na decyzje pracodawcy, warunki pracy, płacę, ocenę pracy, dostęp do zatrudnienia i dane zbierane przez system. Brak dostępu związków zawodowych do informacji Projekt nie przewiduje unormowanego dostępu przedstawicieli pracowników (w tym związków zawodowych) do szczegółowych informacji o systemach AI u pracodawcy. Brak takich danych uniemożliwia kontrolę zgodności z prawem pracy. Propozycja: zagwarantowanie dostępu do szczegółowych informacji dla związków zawodowych. Brak oceny wpływu systemów AI Projekt nie wymaga od pracodawcy oceny wpływu systemów AI na warunki pracy, płacę, prawa podstawowe i równość przed wdrożeniem. Propozycja: wprowadzenie obowiązku takiej oceny we współpracy ze związkami zawodowymi przed wdrożeniem oraz regularnego przeglądu po wdrożeniu. Prawo związków do przeglądu systemów AI Brak regulacji dających związkom zawodowym lub przedstawicielom pracowników prawo do regularnego przeglądu systemów AI i żądania dostosowań/ograniczeń. Propozycja: wprowadzenie takiego prawa. Wymogi projektowania systemów AI Brak wymogu, by systemy AI były projektowane zgodnie z prawem pracy i oceniane pod kątem bezpieczeństwa (jak inne maszyny). Propozycja: wprowadzenie takich wymogów. Komisję Europejską akty delegowane oraz inne akty prawne oraz dokumenty merytoryczne dotyczące obszaru systemów wysokiego ryzyka. Uwaga wyjaśniona. W zakresie dotyczącym prawa dostępu do algorytmów projektodawca chciałby podkreślić, że obszar ten wykracza poza treść przepisów objętych rozporządzeniem i kwestia ta wymaga rozważenia i ewentualnego uregulowania w osobnym działaniu w ramach obszaru regulacji rynku pracy. 3. Pracodawcy RP Modele AI ogólnego przeznaczenia Projekt nakłada obowiązki na dostawców modeli AI ogólnego przeznaczenia, co jest niezgodne z Aktem o AI, który daje wyłączne prawo regulacji tych modeli Biuru ds. AI lub Komisji Europejskiej. Propozycja: Usunięcie dodatkowych wymagań krajowych dla modeli ogólnego przeznaczenia. Uwaga wyjaśniona. Postulaty zawarte w uwadze dot. ochrony danych osobowych zostały częściowo uwzględnione w projekcie. Jednocześnie, ochrona informacji niejawnych lub w inny sposób objętych ochroną 3 Ochrona danych Brak odpowiednich zabezpieczeń dotyczących ochrony danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania. Propozycja: Wprowadzenie klauzul ochronnych w projekcie. Obowiązki dostawców AI Projekt nie precyzuje zakresu dokumentacji i procedur dla dostawców systemów AI (np. oceny ryzyka, audyty, testy), co może prowadzić do naruszeń przepisów unijnych. Propozycja: Doprecyzowanie obowiązków dostawców, w tym wymogów dotyczących audytów, testów i raportowania zgodności. Podział odpowiedzialności Niejasny podział odpowiedzialności między dostawcami a podmiotami stosującymi AI, co może prowadzić do niepewności prawnej i przerzucania odpowiedzialności. Propozycja: Precyzyjne określenie podziału odpowiedzialności w projekcie. Przejrzystość i wyjaśnialność AI Brak regulacji dotyczących obowiązku przejrzystości i wyjaśniania decyzji AI, co narusza prawa użytkowników. Propozycja: Wprowadzenie mechanizmów transparentności, w tym prawa do wyjaśnień decyzji AI. Kompetencje UODO Projekt nie określa kompetencji Prezesa UODO w zakresie nadzoru nad AI (audyty, monitorowanie zgodności z RODO), co może utrudnić egzekwowanie ochrony danych. Propozycja: Określenie kompetencji UODO w projekcie. prawną uregulowana jest w przepisach dot. Kontroli. Według projektodawcy wprowadzanie nowych, dodatkowych wobec rozporządzenia 2024/1689 wymogów oraz procedur wykraczałoby poza zakres objęty wdrożeniem przepisów Aktu, a także rodziłoby niepotrzebne obciążenia z punktu widzenia obywateli i przedsiębiorców. Przedsiębiorców. Dotyczy zarówno obowiązków dostawców, podziału odpowiedzialności czy przejrzystości i wyjaśnialności AI. W zakresie uprawnienia do uzyskania wytłumaczenia decyzji podjętej z udziałem systemu AI wysokiego ryzyka, obszar ten poddany zostanie analizie w ramach odrębnych prac nad wdrożeniem przepisów dot. Systemów wysokiego ryzyka, o których mowa w art. 6 AI Aktu. W zakresie kompetencji Prezesa UODO należy zauważyć, że celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. 4. URPL Podtrzymuję także swoje stanowisko wyrażone w pkt 3 pisma z dnia 8 listopada 2024 r. (znak: DP.023.99.2024; pismo w załączeniu) dotyczące wskazania Prezesa Urzędu jako organu właściwego w Uwaga wyjaśniona W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się 4 zakresie nadzoru nad wyrobami medycznymi wykorzystującymi sztuczną inteligencję (np. oprogramowania będące wyrobami medycznymi), wyznaczania jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzoru nad nimi w tej kwestii. Podkreślenia wymaga, że z informacji zebranych podczas spotkań na szczeblu międzynarodowym (Competent Authorities for Medical Devices (CAMD) – spotkanie organów kompetentnych dla wyrobów medycznych, spotkania grupy roboczej MDCG (Grupy Koordynacyjnej ds. Wyrobów Medycznych) – Market Survilance working group) oraz w korespondencji z Komisją Europejską (DG Sante D.3 Medical Devices) wynika, że jeżeli zostanie wdrożony aktualny projekt ww. ustawy, Polska będzie jedynym krajem w Unii Europejskiej, w którym organ właściwy ds. nadzoru rynku oraz organ właściwy w zakresie jednostek notyfikowanych w zakresie wyrobów medycznych objętych rozporządzaniem Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, zwanym dalej „rozporządzeniem 2017/745”, i rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, nie będzie właściwy w zakresie systemów AI stosowanych w tych wyrobach. Jest to tym bardziej wątpliwe rozwiązanie, że systemy AI już teraz są stosowane w wyrobach medycznych (np. do analizy obrazów diagnostycznych) Wobec tego już obecnie podlegają one nadzorowi Prezesa Urzędu i są certyfikowane przez jednostki notyfikowane w zakresie wyrobów medycznych. ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Jednocześnie, z uwagi na istotność regulacji obszaru technologii medycznych jak również harmonogram prac Komisji Europejskiej w zakresie aktów prawa oraz materiałów merytorycznych dot. tego obszaru na poziomie unijnym wynikającym bezpośrednio z przepisów Rozporządzenia, prace nad dostosowaniem przepisów prawa do wymogów nadzoru nad systemami wysokiego ryzyka (również w obszarze medycznym) wymagają odrębnej analizy oraz ewentualnych prac przed 2.08 2026 r. 5 Proponowane rozwiązanie budzi wątpliwości w kontekście stanowiska Komisji Europejskiej oraz założeń wdrażanej legislacji. Zgodnie art. 8 ust. 2 zdanie drugie rozporządzenia 2024/1689 ocena zgodności z wymaganiami tego rozporządzenia może być zintegrowana z oceną zgodności oprogramowania jako wyrobu medycznego z wymaganiami rozporządzania 2017/745 lub rozporządzenia 2017/746. W załączeniu przekazujemy prezentację przedstawicielki Komisji Europejskiej dot. procedury oceny zgodności z obiema regulacjami. Komisja Europejska zwróciła uwagę na możliwość przeprowadzenia jednej oceny zgodności wyrobu z obiema regulacjami. W trakcie spotkań międzynarodowych była też omawiana kwestia jednoznacznego oznakowywania kompetencji jednostek notyfikowanych. Na spotkaniu grupy roboczej WG NBO (nadzór nad jednostkami notyfikowanymi - Grupa robocza działająca jako podgrupa Grupy Koordynacyjnej ds. Wyrobów Medycznych powołana na podstawie art. 103 rozporządzenia 2017/745) ustalono, że kompetencje pracowników jednostki w zakresie certyfikacji AI będą oceniane w ramach oceny kompetencji niezbędnych do certyfikacji wyrobów mieszczących się w kodach MDA 0315 „Oprogramowanie” oraz MDS 1009 „Wyroby zawierające oprogramowanie/wykorzystujące oprogramowanie/sterowane przez oprogramowanie, w tym wyroby do sterowania działaniem aktywnych wyrobów lub aktywnych wyrobów do implantacji lub do monitorowania tego działania, lub bezpośrednio na to działanie wpływające”. Wobec tego jednostka, która będzie kompetentna w zakresie AI, nie będzie mieć ograniczeń w tych kodach. W przypadku braku tych kompetencji, jednostka będzie mieć ograniczenie do wyrobów niezawierających AI. W sytuacji, gdy w Polsce przyjęte zostanie inne rozwiązanie organizacyjne (2 organy notyfikujące) uprawnienia polskich jednostki notyfikowanych w bazie NANDO (wykaz jednostek notyfikowanych w zakresie legislacji europejskich) będzie inaczej określone. Prezes Urzędu jako niewłaściwy w zakresie AI w wyrobach medycznych, będzie musiał wprowadzić ograniczenie w 6 tych kodach w opisie udzielonej notyfikacji na rozporządzenia 2017/745 lub 2017/746, a inny organ notyfikujący po uzyskaniu przez te jednostki notyfikacji w zakresie systemów AI poda tę notyfikację w odniesieniu do rozporządzenia 2024/1689. Będzie to wymagało dodatkowych wyjaśnień (wątpliwość – czy jest możliwe ich zapisanie w bazie NANDO), które będą trudne do zrozumienia przez przedsiębiorców. Dlatego niezbędne jest wnikliwe rozważenie, co przemawia za takim rozwiązaniem. Proponowane rozwiązanie budzi wątpliwości także co do skuteczności praktycznego wdrożenia projektowanych przepisów w zakresie nadzoru rynku. Zgodnie z art. 5. ust 1. proponowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. Według przepisu członkami Komisji są przedstawiciele szeregu instytucji. Projekt przewiduje stworzenie Biura Komisji do wykonywania zadań w tym zakresie. Wobec tego do nadzoru wyrobów medycznych zawierających systemy AI będą uprawnione dwa podmioty – Komisja i Prezes Urzędu w swoim zakresie kompetencji. Będzie to rodzić szereg komplikacji, zwłaszcza że producent zapewne przygotuje jedną dokumentację oceny zgodności – zarówno z wymaganiami dotyczącymi bezpośrednio wyrobów medycznych, jak i z wymaganiami w zakresie systemów AI. Będzie to racjonalne działanie, ponieważ system AI będzie stanowił „silnik” wyrobu medycznego. Niezwykle trudna byłaby ocena działania wyrobu bez jednoczesnej oceny systemu AI, a także ocena samego systemu AI bez szczegółowej wiedzy na temat konkretnego wyrobu medycznego. W sytuacjach, gdy dokumentacja systemu AI będzie częścią dokumentacji zgodności wyrobu medycznego, pracownicy Biura Komisji mogą mieć trudności ze zrozumieniem specyfiki danego wyrobu medycznego. Możliwe też będzie uchylanie się przez podmioty przed kontrolą Prezesa Urzędu poprzez podważanie jego uprawnień do kontroli w zakresie działania systemu AI, który – będąc istotą działania wyrobu medycznego – musi podlegać ocenie Prezesa Urzędu w zakresie spełniania przez wyrób medyczny 7 określanego przewidzianego zastosowania. Takie zjawisko może występować zwłaszcza w sytuacjach, gdy oprogramowanie, mimo spełnienia definicji wyrobu medycznego, nie będzie za taki uznawane przez producenta, a podmiot będzie się uchylał od nałożonych na niego przez rozporządzenia 2017/745 i 2017/746 obowiązków. Ponadto definicja poważnego incydentu określona w rozporządzeniu 2017/745 i rozporządzeniu 2017/746 jest zbieżna z punktem a definicji incydentu podanej w rozporządzeniu 2024/1689. Spowoduje to zdublowanie raportowania (do Komisji i Prezesa Urzędu). Ponadto, zalecenia wydawane przez Prezesa Urzędu i Komisję dotyczące postępowania po poważnym incydencie mogą być rozbieżne. Niezbędne jest zatem w ocenie Urzędu wprowadzenie wprost w projektowanych przepisach ustawy zasady, że uprawnienia Komisji nie mają wpływu na uprawnienia innych organów nadzoru w zakresie możliwości oceny systemów AI stosowanych w poszczególnych produktach lub wyrobach albo w badaniach tych produktów lub wyrobów (tak jak chociażby w przypadku wyrobów medycznych). W przypadku przyjęcia odmiennego stanowiska, niezbędne będzie bowiem w świetle ww. wyjaśnienia co najmniej wypracowanie rozwiązań nadzoru łączonego. W tym miejscu należy zauważyć, że na wątpliwości systemowe związane z samą koncepcją ustanowienia nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji zwróciła uwagę Kancelaria Prezesa Rady Ministrów w toku przeprowadzonych uzgodnień projektu ustawy. W uwadze tej wskazano, że nie można zgodzić się z twierdzeniem uzasadnienia, że w Polsce nie istnieje organ lub instytucja publiczna spełniająca wymogi określone w rozporządzeniu 2024/1689 w zakresie statusu prawnego i roli ustrojowej, gdyż podobnym charakterem odznaczają się m.in. Prezes UODO, Prezes UOKiK czy Prezes UKE. Tym samym wskazano, że ponownej analizy wymaga, czy zadań określonych dla organu nadzoru nad AI nie mogą wykonywać istniejące organy. Wskazano także na konieczność uzasadnienia, że utworzenie nowej instytucji będzie rozwiązaniem efektywniejszym i bardziej optymalnym niż przekazanie zadań organu nadzoru nad sektorem sztucznej 8 inteligencji jednemu z już istniejącym w polskim porządku prawnym organów regulacyjnych. Powyżej wyrażone wątpliwości pokrywają się w znacznej części z wątpliwościami przedstawionymi w niniejszym piśmie związanymi z oceną systemów AI stosowanych w wyrobach medycznych. Reasumując, Prezes Urzędu ponownie proponuje zorganizowanie spotkania w celu omówienia możliwości wdrożenia praktycznych rozwiązań, które zapewnią przewidywalność i skuteczność systemu. Wyroby medyczne są specyficzną grupą wyrobów, a wymagania im stawiane są bardzo wysokie i szczegółowo opisane w legislacji europejskiej. Rynek ten boryka się z szeregiem problemów, a regulacyjne obciążenie producentów jest znaczące. Jednocześnie są to wyroby, których znaczenie dla społeczeństwa jest kolosalne. Dlatego bardzo istotne jest, aby system regulacyjny był stworzony w taki sposób, by nie powodował nadmiernego obciążenia producentów. Jest wiele kwestii, które wymagają ustalenia, np. zasady wymiany informacji na poziomie krajowym i europejskim, w tym informacji wrażliwych (dokumentacja medyczna), postępowanie po wystąpieniu poważnego incydentu, postępowanie w przypadku konieczności aktualizacji oprogramowania i realizacji działań związanych z bezpieczeństwem wyrobów po wprowadzeniu do obrotu i używania. 5. Uwaga ogólna do całości Projektu IAB Polska Opis podstawowych uwag Stanowisko przedstawia kluczowe zastrzeżenia dotyczące projektu implementacji unijnego AI Act do prawa krajowego, wskazując na obszary wymagające rewizji w celu zapewnienia zgodności z regulacjami na poziomie UE. Szczególne obawy budzi szeroki zakres art. 42 dotyczący dostępu do treści klientów przechowywanych w chmurze, który potencjalnie mógłby naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Postanowienia Projektu dotyczące środków egzekwowania, szczególnie w art. 53, wykazują potencjalną niespójność z intencjami unijnego AI Act, podczas gdy proponowane sankcje karne w Rozdziale 9 wymagają ponownej Uwaga wyjaśniona Projekt został przeanalizowany pod kątem zgłoszonych uwag. Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. w art. 34 (poprzednio art. 42). Przepisy o kontroli zostały zaprojektowane w sposób umożliwiający przeprowadzenie kontroli pozwalającej na ustalenie jednoznacznych jej wyników przy jednoczesnym zapewnieniu naj najmniejszego obciążenia kontrolowanego oraz poszanowania tajemnic prawnie chronionych. 9 oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Dodatkowe obszary wymagające uwagi obejmują niewystarczające zabezpieczenia informacji chronionych, nieracjonalnie krótkie terminy na ustosunkowanie się do zastrzeżeń organów regulacyjnych oraz kwestie dotyczące zakresu terytorialnego, które mogą prowadzić do nakładania się jurysdykcji. Podejście projektu do odpowiedzialności indywidualnej oraz traktowanie modeli AI ogólnego przeznaczenia również wymaga wyjaśnienia w celu zapewnienia spójności z ramami na poziomie UE. Powyższe kwestie, jeśli nie zostaną rozwiązane, mogą prowadzić do niepewności regulacyjnej, potencjalnie utrudniając rozwój AI przy jednoczesnym naruszeniu standardów ochrony danych. Poniższa szczegółowa analiza przedstawia konkretne rekomendacje mające na celu lepsze dostosowanie prawa implementacyjnego zarówno do litery, jak i ducha unijnego AI Act. W kwestii długości terminów należy wskazać, że odstąpiono od wyznaczenia terminu na zgłoszenie poważnych incydentów pozostałe terminy zostały przewidziane w sposób zapewniający skuteczne stosowanie przepisów i nie odbiegają od terminów powszechnie stosowanych w ramach postępowań przed organami. 6. Uwaga ogólna do całości Projektu IAB Polska Ryzyko fragmentacji prawa UE Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji AI Act (zob. art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13). Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. AI państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji AI Act, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie AI w całej UE. Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z AI Act i wytycznymi AI Office. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 7. Uwaga ogólna do IAB Polska Przegląd Projektu i usunięcie niepotrzebnych elementów W treści Projektu można zauważyć elementy, które są pozostałościami po poprzednim projekcie lub pracach Uwaga uwzględniona Nadano nowe brzmienie art. 39 ust. 2 pkt 1. 10 całości Projektu wewnętrznych Ministerstwa. Przykład: art. 47 ust. 2 pkt 1 kończy się sformułowaniem: w celu ich usunięcia nie i. 8. Szef Służby Cywilnej Moje wątpliwości nadal budzi propozycja organizacji Biura Komisji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Zasadą jest, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak jak np. w przypadku Urzędu Komunikacji Elektronicznej). Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji i Przewodniczącego tej Komisji. Komisja ta będzie zatem realizować m. in. zadania o charakterze urzędniczym (np. wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia2 oraz ustawy, udział w opracowywaniu i opiniowaniu aktów prawnych), a jej biuro będzie współrealizowało te zadania. Uzasadnione jest więc, aby wykonywały je osoby zatrudnione w korpusie służby cywilnej, wyłonione w drodze otwartego i konkurencyjnego naboru. Wprowadzenie tej zasady pozwoli na zastosowanie regulacji odnoszących się do zasad służby cywilnej i zasad etyki korpusu służby cywilnej, niezbędnych w przypadku instytucji porównywalnych do profilu nowotworzonego urzędu. Dodatkowo będzie to służyło także zagwarantowaniu niezależności, o której mowa w art. 70 rozporządzenia PE i Rady UE 2024/1689 z 13 czerwca 2024 r. Ponadto, w związku z tym, że Szef Służby Cywilnej jest centralnym organem administracji rządowej właściwym w sprawach służby cywilnej, proszę o uwzględnianie mnie na kolejnych etapach prac legislacyjnych. Projekt powinien być także skierowany do Rady Służby Publicznej, która wyraża opinie w sprawach projektów aktów normatywnych dotyczących służby cywilnej. Uwaga wyjaśniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 11 9. RMŚP Wątpliwości budzą przepisy ograniczające pierwszeństwo regulacji zawartych w ustawie z dnia 6 marca 2018 r. Prawo przedsiębiorców („Konstytucja Biznesu”), a które mają charakter gwarancyjny, w zakresie prowadzenia kontroli przedsiębiorców. Za równie istotne, dla skutecznej ochrony praw przedsiębiorców – konieczne jest powołanie w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców. Należy zauważyć, iż racjonalne wytyczenie ograniczeń w zakresie kontroli jest uzasadnionym postulatem przedsiębiorców i wraz z wejściem w życie najpierw ustawy z dnia 2 lipca 2004 r. o swobodzie działalności gospodarczej7, a następnie ustawy Prawo przedsiębiorców – stało się trwałym i niekwestionowanym elementem istniejącego porządku gospodarczego oraz niezbędnym wsparciem dla przewidywalności prowadzenia działalności gospodarczej. Gwarancje praw przedsiębiorców w postępowaniach kontrolnych należy uznać za jedno z podstawowych praw przyznanych przedsiębiorcom. Podkreślenia wymaga, iż w myśl obowiązujących przepisów – zasady i tryb kontroli odmiennie niż w przepisach ustawy Prawo przedsiębiorców mogą wynikać jedynie z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 45 ust. 1 Prawa przedsiębiorców nie przewiduje wyjątków od ograniczeń kontroli przedsiębiorców zawartych w Rozdziale 5 tej ustawy. Przy czym projektowanie wzajemnie sprzecznych przepisów oraz ingerujących w podstawowe prawo przedsiębiorców do możliwości prowadzenia działalności gospodarczej w oparciu o jasne i stabilne uregulowania – może być uznane za systemowo wadliwe i nadmiernie godzące w zasadę swobody działalności gospodarczej wynikającej z art. 2 Prawa przedsiębiorców oraz art. 20 i 22 Konstytucji Rzeczypospolitej Polskiej.8 Warto w powyższym kontekście zwrócić uwagę, iż ograniczenia w zakresie wszczynania i prowadzenia kontroli są jednym z najistotniejszych postulatów deregulacyjnych Rzecznika, Uwaga wyjaśniona i uwzględniona System kontroli uległ znaczącemu uproszczeniu po I etapie uzgodnień międzyresortowych, opiniowania i konsultacji publicznych realizujące zasadniczą część postulatów wyrażonych w uwadze. Po I etapie znacząco ograniczono uprawnienia kontrolujących wobec kontrolowanych. Kontrola ma być domyślnie sprawowana w sposób zdalny i będzie dotyczyć lokalizacji fizycznych jedynie w niezbędnych sytuacjach. W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców będzie mógł uczestniczyć w pracach Komisji na zasadach określonych w art. 6 ust. 3. Ponadto zgodnie z art. 25 ust. 3 pkt 5 - Rzecznik Małych i Średnich Przedsiębiorców będzie uprawniony do wskazywania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji. 12 wyrażonym w stanowisku z dnia 12 lutego 2025 r.9 skierowanym do Prezesa Rady Ministrów i do wiadomości Wiceprezesa Rady Ministrów – Ministra Cyfryzacji. 10. Uwaga ogólna dotycząca innej formy piaskownic regulacyjny ch PARP Niezbędne jest stworzenie w Polsce środowiska testowego dla sztucznej inteligencji, które tworzyłoby i wspomagało kulturę eksperymentowania z rozwiązaniami sztucznej inteligencji i walidacji rezultatów tych eksperymentów. Jednocześnie funkcją projektowanego środowiska winna być analiza i walidowanie istniejących rozwiązań regulacyjnych w zakresie oceny w jakim stopniu stanowią one nieuzasadnioną barierę dla rozwoju innowacji oraz uwzględniają potrzebę rozwoju społeczeństwa informacyjnego przy zachowaniu warunków dla konkurencyjności przedsiębiorstw. Uzasadnieniem dla proponowanych zmian jest: • Ułatwienie testowania i rozwoju systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania, a w związku z tym zapewnienie uczestnictwa w piaskownicy regulacyjnej każdemu zainteresowanemu przedsiębiorcy, a nie tylko uwzględnionemu w procesie wydania decyzji administracyjnej. • Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Projektowana w projekcie ustawy instytucja decyzji administracyjnej nie tylko wydłuża proces rozwoju innowacji systemów sztucznej inteligencji, ale stanowi nadmierną barierę formalną naruszającą zasadę równości przedsiębiorstw i swobodę działalności gospodarczej. Jednocześnie podejście nadmiernego formalizmu wpisywałoby się ogólną tendencję deregulacją działalności gospodarczej, a również stanowiłoby wpisanie się we wnioski Raportu Mario Draghiego aby uczynić UE silną przez wsparcie i rozwój innowacji i zapewnić konkurencyjność europejskiej gospodarki. • Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki i zgodności z prawem. Proponowane podejście dostarczałoby dodatkowych korzyści do projektowanej ustawy w postaci: Uwaga uwzględniona Przepisy dotyczące piaskownic regulacyjnych zostały dodane do projektu ustawy w rozdziale 8 po I etapie uzgodnień, opiniowania i konsultacji publicznych realizując zasadniczą część postulatów wyrażonych w uwadze. 13 • Redukcji biurokracji: piaskownica działałaby na zasadzie zgłoszenia, a nie zgody administracyjnej wyrażanej w postaci decyzji administracyjnej. • Nastąpiłoby przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. • Zachęcałoby w ten sposób wzmocnienie samoregulacji i zapewnienia przez firmy zgodność testów i prac rozwojowych z prawem, ale też nadchodzącym kodeksem dobrych praktyk opracowywanym przez środowisko innowatorów przy Komisji Europejskiej. • Jednocześnie proponowane rozwiązanie wspierałoby przejrzystość: gdyż organ administracji państwa interweniowałby tylko w wyjątkowych sytuacjach, a jednocześnie wspierałoby doskonalenie produktu lub usług dla celów ostatecznych testów. Mając to na uwadze proponuje się następujące zmiany w zakresie organizacji projektowanych piaskownic regulacyjnych, jak następuje poniżej (art. 3 pkt 15, art.5, art. 30, art. 31). 11. Uwaga ogólna - Brak konkretnych rozwiązań w projekcie, mających na celu wsparcie przedsiębior ców w obszarze wdrażania technologii AI zgodnie z obowiązują PARP Projekt ustawy w obecnej wersji koncentruje się głównie na aspektach regulacyjnych i nadzorczych, pomijając kwestie wsparcia dla mikro, małych i średnich przedsiębiorstw (MŚP) oraz startupów w procesie dostosowywania się do nowych wymogów prawnych. Wprowadzenie nowych regulacji może stanowić istotne obciążenie dla mniejszych podmiotów, które nie dysponują odpowiednimi zasobami na spełnienie wymagań administracyjnych i certyfikacyjnych. Art. 5 ust. 3 pkt 5 przewiduje wprawdzie współpracę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z ministrem właściwym do spraw informatyzacji, jednak w projekcie brakuje konkretnych rozwiązań mających na celu wsparcie przedsiębiorców w obszarze wdrażania technologii AI zgodnie z obowiązującymi regulacjami. Warto rozważyć wprowadzenie dodatkowych mechanizmów, takich jak finansowanie certyfikacji systemów sztucznej inteligencji dla MŚP, preferencyjne warunki uczestnictwa w piaskownicach regulacyjnych, czy też ulgi Uwaga częściowo uwzględniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. Poprzez przepis, że uczestnictwo mikro, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne (art. 75 ust. 4). 14 cymi regulacjami podatkowe dla firm inwestujących w rozwój zgodnych z prawem technologii AI. 12. Uwaga ogólna - Harmonizac ja certyfikacji systemów AI na poziomie UE PARP Projekt nie odnosi się do mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich. Brak tego elementu może prowadzić do sytuacji, w której przedsiębiorstwa będą musiały przechodzić wielokrotne procesy certyfikacyjne w różnych krajach, co znacząco zwiększy koszty i czas wdrażania nowych rozwiązań. Warto rozważyć wprowadzenie przepisów umożliwiających wzajemne uznawanie certyfikacji w ramach UE, co przyczyniłoby się do ograniczenia barier regulacyjnych i ułatwiłoby funkcjonowanie polskich przedsiębiorców na jednolitym rynku europejskim. Rozwiązaniem może być wprowadzenie mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich UE oraz rozważenie stworzenia centralnej bazy danych decyzji certyfikacyjnych. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozdziału III rozporządzenia 2024/1689. 13. Uwaga ogólna - Mechanizm przeglądu skutecznośc i regulacji PARP W projekcie ustawy brakuje mechanizmu oceny skuteczności wprowadzonych regulacji po ich wejściu w życie (ewaluacja skutków wdrożenia regulacji po określonym czasie). Wprowadzenie nowych przepisów może generować nieprzewidziane skutki dla przedsiębiorstw, dlatego zasadnym byłoby wprowadzenie obowiązku przeprowadzenia przeglądu funkcjonowania regulacji po określonym czasie, np. po 12 lub 24 miesiącach. Pozwoliłoby to na analizę realnego wpływu ustawy na rynek oraz na ewentualne dostosowanie przepisów do dynamicznie zmieniających się warunków technologicznych i gospodarczych. Brak takiego mechanizmu może skutkować utrzymywaniem nieoptymalnych rozwiązań prawnych, które mogą negatywnie wpływać na innowacyjność i konkurencyjność polskich przedsiębiorstw w obszarze AI. Propozycją do rozważenia jest dodanie przepisu zobowiązującego Komisję do przeprowadzenia przeglądu skuteczności przepisów np. po 12-24 miesiącach od ich wejścia w życie, co umożliwi dostosowanie regulacji do realiów rynkowych. Uwaga wyjaśniona Zgodnie z Oceną Skutków Regulacji ewaluacja projektu ustawy będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów 15 krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Prezesowi Rady Ministrów sprawozdania Komisji ze swojej działalności za rok poprzedni. 14. Uwaga ogólna ZPP Projekt ustawy o systemach sztucznej inteligencji, mający na celu wdrożenie krajowych mechanizmów nadzoru zgodnie z unijnymi ramami (AI Act), stanowi kluczowy instrument zarówno w zakresie ochrony praw podstawowych i bezpieczeństwa użytkowników, jak i wspierania rozwoju innowacyjnych rozwiązań technologicznych. Związek Przedsiębiorców i Pracodawców docenia intencję ustawodawcy, jednak wskazuje na potrzebę uzupełnienia i doprecyzowania niektórych przepisów, aby zapewnić klarowność procedur, eliminację konfliktów interesów oraz odpowiednią ochronę danych i tajemnic handlowych. Uwaga wyjaśniona i częściowo uwzględniona Postulaty zawarte w uwadze zostały wzięte pod uwagę w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji. Wprowadzono liczne zmiany w ramach poszczególnych procedur regulowanych w projekcie mające na celu zapewnienie ich przejrzystości. 15. Uwaga ogólna PUODO Standard niezależności organu nadzorczego nie znalazł jednak pełnego odzwierciedlenia w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. W świetle projektu ustawy nadal nie jest jasny zakres kompetencji Prezesa Urzędu Ochrony Danych Osobowych w sprawach z zakresu przetwarzania danych osobowych, wynikających zarówno z przepisów aktu w sprawie sztucznej inteligencji (dalej również jako rozporządzenie 2024/1689 albo AI Act) oraz ogólnego rozporządzenia o ochronie danych (dalej również jako rozporządzenie 2016/679). Nie określono też w projekcie ustawy mechanizmu usuwania sporów kompetencyjnych w tym zakresie. Ponadto, w projekcie ustawy brak jest przepisów, z których wynika, że Prezes UODO sprawuje wyłączny nadzór nad systemami wysokiego ryzyka, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji na jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). 16 Projektodawca, odnosząc się do wcześniejszych uwag Prezesa UODO w sprawie m.in. braku przepisów dotyczących kompetencji krajowego organu nadzorczego wynikających wprost z rozporządzenia 2024/1689 (art. 74 ust. 8), wskazał wprawdzie, że: „Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestie te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego (...)” i wyjaśnił, że: „Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy” – to jednak nie określił żadnych dalszych szczegółów związanych z planowanym rozwiązaniem, zwłaszcza daty rozpoczęcia prac nad projektem czy podstawowych założeń, które umożliwiłyby Urzędowi Ochrony Danych Osobowych rozpoczęcie już na tym etapie prac przygotowawczych, które umożliwiłyby m.in. ocenę potrzeb przygotowań organizacyjnych, kadrowych oraz finansowych koniecznych dla realizacji planowanych do realizacji zadań Prezes UODO nie został też wskazany wśród organów ochrony praw podstawowych, o których mowa w art. 77 rozporządzenia 2024/16894. Proponowana treść projektu ustawy, przy nieuwzględnieniu przez projektodawcę części postulowanych przez organ nadzorczy zmian przepisów, uzasadnia potrzebę skierowania uwag organu w odniesieniu do poniższych kwestii, o których uwzględnienie uprzejmie wnoszę. Jednocześnie wyjaśnić należy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 16. Koncepcja nadzoru i współpracy Komisji Rozwoju i Bezpieczeńs twa PUODO Projektodawca w przepisach projektowanej ustawy określa m.in. organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia (art. 1 pkt 1 projektowanej ustawy) w zakresie objętym przepisami rozporządzenia 2024/1689 oraz postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 (art. 1 pkt 2 projektowanej ustawy), jak też sposób zgłaszania poważnych Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 17 Sztucznej Inteligencji z Prezesem Urzędu Ochrony Danych Osobowych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji (art. 1 pkt 4 projektowanej ustawy). Jednocześnie sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689, wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689 czy wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 (art. 9 pkt 1, 7 i 6 projektowanej ustawy) przyznaje się wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej zwaną Komisją), bez odniesienia się do spraw, które dotyczą również przetwarzania danych osobowych. Projektowany model krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia wymaga pogłębionej analizy z perspektywy wszelkich nadzorowanych obszarów regulowanych przepisami rozporządzenia 2024/1689 pod kątem spójności oraz jasności nadawanych norm kompetencyjnych, jak również kompleksowości proponowanej regulacji. Ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, to niezwykle istotne jest prawidłowe ukształtowanie kompetencji nadzorczych także niezależnego organu ds. ochrony danych w egzekwowaniu przepisów aktu w sprawie sztucznej inteligencji i określenie w projektowanych przepisach ram sprawowanego przez niego nadzoru, obok właściwych organów krajowych powoływanych na mocy art. 70 rozporządzenia 2024/1689. Podkreślić należy, że unijne regulacje dotyczące ochrony danych osobowych stanowią podstawę dla nadzoru nad sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru tej materii niezależnemu organowi nadzorczemu, tj. w przypadku Polski – Prezesowi UODO (art. 2 ust. 7 rozporządzenia 2024/1689)5. Jednocześnie, w projekcie ustawy niezaproponowanego mechanizmu usuwania sporów kompetencyjnych, w szczególności natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 18 tzw. sporów pozytywnych, gdy zasadnie można będzie rozważać właściwość obu organów nadzorczych, Komisji i Prezesa UODO. Konieczne jest również wskazanie wyłącznej kompetencji krajowego organu nadzorczego wynikającej z art. 74 ust. 8 rozporządzenia 2024/1689, zgodnie z którym „...państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych...” w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia. Prawodawca unijny nie przewidział zatem dobrowolnego czy dowolnego ukształtowania kwestii sprawowania krajowego nadzoru w ww. obszarze. Tymczasem w przedstawionym projekcie nie kształtuje się kompetencji krajowego organu nadzorczego ds. ochrony danych wynikających wprost z aktu w sprawie sztucznej inteligencji w wyłącznym obszarze jego właściwości i wskazuje jedynie na obowiązek współpracy Komisji z Prezesem Urzędu Ochrony Danych Osobowych w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektowanej ustawy). W konsekwencji przepisami projektowanej ustawy nie zostały ustanowione gwarancje wyłącznego sprawowania nadzoru Prezesa UODO w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, ani nie został przewidziany nadzór Prezesa UODO nad systemami wysokiego ryzyka w zakresie wskazanym w akcie w sprawie sztucznej inteligencji, co sprawia, że projekt ustawy nie oddaje prawidłowo norm rozporządzenia 2024/1689 w kwestii statusu Prezesa UODO jako niezależnego organu nadzorczego i nie kształtuje w sposób całościowy modelu instytucjonalnego nadzoru nad sztuczną inteligencją. 19 Postuluję zatem, aby w przepisach projektowanej ustawy Prezes UODO został wskazany wprost jako organ sprawujący wyłączny nadzór w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, w tym w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Konsekwentnie, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), szczególnie w zakresie wymiany informacji i doświadczeń. W opinii Prezesa UODO współpraca między tymi organami nie może być zawężona jedynie do spraw wymienionych (taksatywnie), o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektu ustawy). Powinna ona mieć miejsce zawsze w sytuacjach, gdy w ramach systemów sztucznej inteligencji będzie dochodziło do przetwarzania danych osobowych, który to pogląd ma swoje podstawy w orzecznictwie sądów europejskich (zob. w szczególności wyrok Trybunału Sprawiedliwości UE z 4 lipca 2023 r. w sprawie C-252/21 Meta Inc. przeciwko Bundeskartellamt, EU:C:2023:537). Zauważyć należy, że współpraca organów może dotyczyć różnych obszarów, zarówno postępowań skargowych, jak i naruszeń aktu w sprawie sztucznej inteligencji, zgłaszania poważnego incydentu oraz wielu innych sytuacji. Nie należy więc mocą projektowanych przepisów ograniczać współpracy ze strony Komisji jedynie do kwestii związanych z piaskownicą regulacyjną oraz spraw z art. 74 ust. 8 rozporządzenia 2024/1689. Zaznaczyć należy, że forma współpracy i wymiany informacji między organami w poszczególnych obszarach także wymaga dookreślenia. Zapewne Komisja do prowadzonych postępowań będzie potrzebowała określonych informacji od organu nadzorczego, natomiast w obecnym projekcie ustawy nie ma mowy o szczegółach dotyczących trybu, charakteru czy zakresu współpracy. Zwrócić 20 uwagę należy, że wątpliwości nie rozwiewa ogólnie sformułowana treść art. 113 projektu ustawy dotycząca zmiany ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781), w którym projektodawca wskazał na dodanie art. 59a w brzmieniu: „Prezes Urzędu współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji”. W opinii organu nadzorczego, współpraca wymaga doprecyzowania, także ze względu na ryzyko dualizmu rozstrzygnięć, na co Prezes UODO wskazuje w kolejnym punkcie uwag. Poza art. 74 ust. 8 oraz art. 77, które określają kompetencje organów nadzorczych, rozporządzenie 2024/1689 nie precyzuje ram, w jakich organy nadzorcze miałyby sprawować swoje kompetencje obok właściwych organów krajowych powołanych na mocy art. 70 rozporządzenia 2024/1689. Kwestie te zostały pozostawione państwom członkowskim, dlatego krajowe przepisy wdrażające wskazane rozporządzenie powinny je regulować. W konsekwencji przyjąć należy, że konieczne jest, aby ustawa precyzowała rolę organu nadzorczego ds. ochrony danych, mając na uwadze zapewnienie zachowania niezależności Prezesa UODO. W nowej wersji projektu ustawy przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji (art. 6 ust. 1 i 2 projektu ustawy), co należy ocenić pozytywnie z uwagi na niezależny status organu nadzorczego ds. ochrony danych osobowych. Projektodawca podkreślił, że jest to częściowe uwzględnienie uwagi organu nadzorczego, wyjaśniając przy tym, że: „Kwestie niezależności organu ds. ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu”. Jednocześnie, na podstawie art. 6 ust. 3 projektu ustawy, Przewodniczący Komisji może zaprosić do udziału w posiedzeniu wyłącznie z głosem doradczym upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu (pkt 1). 21 W ocenie Prezesa UODO, jego przedstawiciel powinien być wskazany jako zawsze (obligatoryjnie) biorący udział w posiedzeniach Komisji, w charakterze stałego obserwatora, co stanowiłoby wyraz poszanowania kompetencji nadzorczych niezależnego organu ds. ochrony danych. W ocenie organu nadzorczego niezbędne jest przy tym wprowadzenie do projektu ustawy przepisów związanych z udziałem przedstawiciela Prezesa UODO, z których będzie wynikać będzie, że udział ten dotyczy wszystkich spraw rozpatrywanych przez Komisję, których przedmiot obejmuje przetwarzanie danych osobowych. Ponadto przedstawiciel Prezesa UODO powinien mieć prawo do przedstawienia uzasadnionego stanowiska w sprawie rozpatrywanej przez Komisję. W celu opracowania uzasadnionego stanowiska w sprawie przedstawiciel Prezesa UODO powinien mieć zapewnione prawo do zwrócenia się do Komisji o udostępnienie dokumentów z akt sprawy w zakresie niezbędnym dla przedstawienia stanowiska. Merytorycznie uzasadnione pozycją organu nadzorczego do spraw ochrony danych osobowych jest, aby uzasadnione stanowisko jego przedstawiciela było brane przez Komisję pod uwagę przy wydawaniu decyzji administracyjnej rozstrzygającej sprawę co do jej istoty. Obligatoryjny udział przedstawiciela UODO w charakterze stałego obserwatora zapewni obu organom możliwość stałej współpracy w zakresie wymiany informacji i stanowisk niezbędnych do podjęcia rozstrzygnięcia sprawy przez Komisję, co niewątpliwie należy postrzegać jako korzyść dla obu organów oraz dla skuteczności i sprawności systemu nadzoru nad systemami sztucznej inteligencji w Polsce w całości. Stała współpraca w zakresie wymiany informacji będzie korzystna zarówno dla Komisji, jak i dla UODO, który mógłby wspierać Komisję jako niezależny ekspert z zakresu rozwiązań z obszaru ochrony danych osobowych. Wiedza ekspercka przekazywana przez organ nadzorczy może okazać się pomocna dla Komisji przy podejmowaniu rozstrzygnięć. Jednocześnie, realizując funkcję ekspercką Prezes UODO mógłby poprzez wyrażanie istotnego poglądu wzbogacić analizy czy stanowiska Komisji o niezwykle 22 ważny aspekt jakim jest ochrona danych osobowych, co z kolei mogłoby przyczynić się do sprawniejszego i bardziej optymalnego realizowania funkcji Komisji jako niezależnego organu w obszarze sztucznej inteligencji. W tym miejscu wskazać należy na dotychczasowy model współpracy pomiędzy organem nadzorczym a Komitetem Stałym Rady Ministrów do spraw Cyfryzacji, który przynosi korzyści obustronne. Prezes UODO wnosi do projektów informatycznych przygotowywanych w resorcie cyfryzacji wiedzę z obszaru ochrony danych osobowych, czerpiąc tym samym informacje z zakresu realizowanych projektów dla zapewnienia ich zgodności z prawem ochrony danych. Opracowanie przejrzystych mechanizmów współpracy pomiędzy Komisją w postulowanym kształcie przyczyni się do poszanowania niezależności obu organów i zagwarantowania standardów ochrony danych osobowych przy realizacji zadań Komisji nie niższych niż wynikające z ogólnego rozporządzenia o ochronie danych osobowych. Ryzkiem, jednakże dla ich zapewnienia jest wciąż brak wskazania Prezesa UODO w wykazie z art. 77 ust. 2 rozporządzenia 2024/1689, o co organ nadzorczy wciąż postuluje. 17. Brak wskazania Prezesa UODO jako organu praw podstawow ych PUODO Pomimo tego, że w oparciu o kryteria określone w treści art. 77 ust. 1 aktu w sprawie sztucznej inteligencji, Prezes Urzędu Ochrony Danych Osobowych jest organem właściwym z obszaru ochrony praw podstawowych w zakresie prawa do prywatności i ochrony danych osobowych nie został jako taki wskazany w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Brak takiego wskazania może pociągać za sobą istotne skutki prawne. W projektowanej ustawie wskazuje się na współpracę Komisji m.in. z Prezesem Urzędu Ochrony Danych Osobowych (art. 5 ust. 3 pkt 3 projektowanej ustawy) oraz organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 4 projektowanej ustawy). Z kolei Komisja wszczyna Uwaga wyjaśniona Prezesem Urzędu Ochrony Danych Osobowych został wskazany jako organ, którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Komunikat w tym zakresie znajduje się na stronie Ministerstwa Cyfryzacji. 23 postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 m.in. na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689 (art. 49 ust. 2 pkt 3 projektowanej ustawy), a także niezwłocznie informuje krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, jeśli stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych (art. 55 ust. 3 projektowanej ustawy). Brak decyzji w sprawie wskazania Prezesa UODO jako organu praw podstawowych wywołuje wątpliwość co do prawidłowego rozumienia przez ustawodawcę pojęcia „organu ochrony praw podstawowych” zgodnie z intencją art. 77 rozporządzenia 2024/1689. W tym kontekście powstaje potrzeba konsekwentnego i zgodnego z rozwiązaniami unijnymi określenia w projektowanym akcie uprawnień poszczególnych organów nadzoru w ww. obszarze, gdyż nadzór przestrzegania obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych obejmuje również nadzór nad ochroną danych osobowych. Z tych powodów ponownie uprzejmie wnoszę o uzupełnienie wykazu, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 i wskazanie w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu uprawnionego w zakresie spraw określonych w art. 77 ust. 1 ww. rozporządzenia. 18. Ryzyko dualizmu rozstrzygnię ć PUODO Ze współpracą pomiędzy Komisją a organem nadzorczym ściśle powiązane są kwestie związane z ryzykiem dualizmu rozstrzygnięć, nakładaniem się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z rozporządzenia 2024/1689, które nie zostały uregulowane mocą projektowanych przepisów. Uwagi organu nadzorczego w przedmiotowym zakresie nie zostały przez projektodawcę uwzględnione w obecnym projekcie ustawy. Projektodawca wskazał, że: „Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu Uwaga wyjaśniona i częściowo uwzględniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Wnosząc sprawę do PUODO lub KRIBSI lub innego organu podmioty powinny kierować się zakresem regulacji obowiązującego prawa UE oraz 24 rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu”. Bezsprzeczne jest, że oba rozporządzenia unijne będą stosowane równolegle, a niektóre procesy/obowiązki z obu aktów mogą się „nakładać”, czy powtarzać. Organ nadzorczy ds. ochrony danych powinien być obligatoryjnie uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych (co także zostało potwierdzone we wskazanym powyżej wyroku TSUE w sprawie C-252/21). Stanowisko Prezesa UODO powinno być zatem uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Jak stanowi motyw 10 preambuły do rozporządzenia 2024/1689, jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii Europejskiej regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, rozporządzenie 2024/1689 nie wpływa też na wynikające z prawa Unii Europejskiej lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Stosownie do motywu 156 rozporządzenia 2024/1689, aby zapewnić odpowiednie i skuteczne egzekwowanie wymogów i obowiązków ustanowionych w rozporządzeniu, które należy do unijnego prawodawstwa harmonizacyjnego, pełne zastosowanie powinien mieć system nadzoru rynku i zgodności produktów ustanowiony rozporządzeniem (UE) 2019/1020. Organy nadzoru rynku wyznaczone zgodnie z niniejszym rozporządzeniem powinny mieć wszystkie uprawnienia w zakresie egzekwowania wymogów i ustaw regulujących zakres spraw rozpatrywanych przez poszczególne organy. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami jak i innymi organami wskazanymi w ustawie w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. Mając powyższe na uwadze zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a innymi organami na tym etapie zapewnienia stosowania przepisów rozporządzenia wydaje się przedwczesne gdyż trudny jest do przewidzenia czy spory takie będą miały miejsce, rodzaj sporów oraz ich odziaływanie na poszczególne organy i sprawy. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy w wykazie jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Odnosząc się do kwestii wskazania SOKIK jako sądu właściwego dla sprawa z zakresu systemów sztucznej inteligencje i należy podkreślić, że do tego sądu będą trafiały środki zaskarżenia na decyzje i postanowienia wyłącznie Komisji 25 obowiązków ustanowione w rozporządzeniu oraz z rozporządzenia (UE) 2019/1020 i powinny wykonyać swoje uprawnienia i obowiązki w sposób niezależny, bezstronny i wolny od uprzedzeń. Chociaż większość systemów AI nie podlega szczególnym wymogom i obowiązkom na podstawie niniejszego rozporządzenia, organy nadzoru rynku mogą podejmować środki w odniesieniu do wszystkich systemów AI, jeżeli zgodnie z niniejszym rozporządzeniem stwarzają one ryzyko. Jednakże może dochodzić do sytuacji, w której zarówno właściwy organ krajowy (Prezes UODO), jak i organ nadzoru rynku (Komisja), będą miały kompetencje do działania w danej sprawie. Taka sytuacja będzie miała miejsce w związku z koniecznością przestrzegania wymogów wynikających przepisów rozporządzenia 2024/1689, np. art. 10 ust. 5, w którym jest mowa o warunkach przetwarzania danych osobowych w systemach wysokiego ryzyka; art. 26 dotyczącego wymogów w zakresie systemów wysokiego ryzyka; art. 47 ust. 1 traktującego o deklaracji zgodności czy art. 59 wskazującego na warunki przetwarzania danych osobowych w piaskownicach regulacyjnych. W motywie 140 preambuły do rozporządzenia 2024/1689 mowa jest z kolei o tym, że rozporządzenie powinno zapewniać dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie sztucznej inteligencji podstawę prawną do wykorzystywania danych osobowych zebranych w innych celach do rozwoju – w ramach piaskownicy regulacyjnej w zakresie AI – określonych systemów AI w interesie publicznym, tylko pod określonymi warunkami, zgodnie z art. 6 ust. 4 i art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679 i art. 5, 6 i 10 rozporządzenia (UE) 2018/1725 i nie naruszając przepisów art. 4 ust. 2 i art. 10 dyrektywy (UE) 2016/680. Nadal mają zastosowanie wszystkie pozostałe obowiązki administratorów danych i prawa osób, których dane dotyczą, wynikające z rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680. Konieczne jest więc zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a wydawane w oparciu o rozporządzanie 2024/1689 oraz przepisy projektowanej ustawy. Nie przewiduje się aby trafiały tam wiec sprawy z zakresu ochrony danych osobowych, do których zastosowanie będą miały przepisy RODO. W zakresie zgłaszania poważnych incydentów należy wskazać, że przepisy projektowanej ustawy korespondują z przepisami rozporządzenia 2024/1689. Stanowią one ramę prawną w zakresie procedury oraz regulują kwestie przekazywania informacji o zaistniałym incydencie właściwym organom. Lista organów obejmuje m.in. Prezesa UKE, ministra ds. informatyzacji, PUODO, KNF oraz odpowiednie zespoły reagowania na incydenty komputerowe. Przepisy zostały zaprojektowane tak, aby nie nakładać nadmiernych obowiązków, zapewnić sprawność postepowania i dostęp do informacji z poszanowaniem przepisów odrębnych ustaw. Do wymierzania administracyjnych kar pieniężnych zastosowanie mają bezpośrednio przepisy rozporządzenia 2024/1689. Stąd też mając na uwadze treść art. 99 ust. 7 lit. c przy ustaleniu jej wysokości bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. Kary przyszłe nie są brane w tym pkt pod uwagę. W zakresie uwagi dot. art. 55. ust. 3. Na podstawie art. 55 ust. 3 (obecnie art. 47 ust. 3) jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym zagrożeniu (nie o fakcie wszczęcia i prowadzenia postępowania) krajowe organy lub podmioty określone w wykazie, 26 innymi organami, przede wszystkim z zakresu spraw uregulowanych głównie w rozdziałach 4 i 6 projektu ustawy. Zwrócić w tym miejscu uwagę należy na wydaną przez Europejską Radę Ochrony Danych (EROD) opinię 28/2024, która odnosi się do kluczowych aspektów ochrony danych osobowych w kontekście rozwoju i wdrażania modeli sztucznej inteligencji. Zgodnie z ww. opinią o przetwarzaniu danych osobowych w modelach sztucznej inteligencji można mówić wówczas, gdy z modelu, przy użyciu środków, które można racjonalnie zastosować, będzie możliwe uzyskanie lub odtworzenie informacji pozwalających na zidentyfikowanie osoby fizycznej. W konsekwencji, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), w szczególnie w zakresie wymiany informacji i doświadczeń. Rozdział 4 projektu ustawy częściowo został zmodyfikowany, jednakże pozostawienie art. 50 ust. 4 projektu ustawy w obecnym brzmieniu jest sprzeczne z art. 5 ust. 3 pkt 3 projektu ustawy. Uzasadnienie projektu także nie odnosi się do przedmiotu współpracy, dlatego też pozostawienie art. 50 ust. 4 projektu wydaje się być niezgodne z art. 49 ust. 3 projektu ustawy. Tak jak to zostało wskazane powyżej, współpraca pomiędzy Komisją a Prezesem UODO wymaga rozszerzenia o zakres wszelkich spraw z obszaru ochrony danych osobowych, a nie ograniczania jej jedynie do spraw wskazanych w art. 5 ust. 3 pkt 3 projektu ustawy, w tym spraw należących do wyłącznej kompetencji organu nadzorczego ds. ochrony danych. Zgodnie z zasadą pewności prawa, legalizmu i praworządności konieczne jest określenie wprost w projektowanych przepisach mechanizmu współpracy pomiędzy Komisją a Prezesem UODO. Projektowane przepisy w obecnym kształcie mogą powodować wątpliwości interpretacyjne, a w konsekwencji potencjalne konflikty kompetencyjne w przedmiocie rozpatrywania spraw związanych z o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Pozwoli to im na podjęcie działań wynikających z ich właściwości. Natomiast w kwestii wydania decyzji nie zawsze decyzja Komisji będzie miała przełożenie na właściwe organy krajowe państwa członkowskiego stąd tez powinny być przekazywane biorąc pod uwagę okoliczności danej sprawy. . Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. 27 przetwarzaniem danych osobowych, m.in. w sytuacji, gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. W przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w obecnym projekcie ustawy – na co zwracał już uwagę Prezes UODO – nie wskazał, jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych/rozbieżnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. Projektodawca nie uwzględnił również uwagi Prezesa UODO dotyczącej art. 57 ust. 1 projektu ustawy, czyli dotyczącej sądu ochrony konkurencji i konsumentów. Ponownego zaakcentowania wymaga, że przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może prowadzić do powstania niepewności prawnej. Respektując w pełni uprawnienie projektodawcy do wyboru takiego, a nie innego rozwiązania, Prezes UODO czuje się zobowiązany do zasygnalizowania przedmiotowego problemu, który być może powinien być przedyskutowany w szerszej perspektywie skuteczności nadzoru nad systemami sztucznej inteligencji, do czego organ nadzorczy wyraża niniejszym gotowość. 28 Projekt ustawy w rozdziale 6 dotyczy zgłaszania poważnych incydentów związanych z działaniem systemów sztucznej inteligencji. Uwagi Prezesa UODO, które nie zostały uwzględnione w tym zakresie, pozostają aktualne. Jednocześnie zwrócić uwagę należy na następujące kwestie. Z przepisów (art. 99 ust. 7 lit. c) rozporządzenia 2024/1689) wynika, że Komisja przy ustaleniu m.in. wysokości administracyjnej kary pieniężnej bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. W tym miejscu wskazać należy na wyraz „już”, który sugeruje, że okoliczność, w której inne organy jeszcze nie nałożyły, ale mogą nałożyć karę w przyszłości, nie będzie brana pod uwagę. Kolejnym aspektem jest okoliczność informowania o wydaniu decyzji. O prowadzeniu postępowania „krajowy organ” zostanie powiadomiony na podstawie art. 55 ust. 3 projektu ustawy. Jednak już o samej decyzji tylko w sytuacji „jeśli wymag ają tego okoliczności sprawy” (art. 55 ust. 6 projektu ustawy). Pojawia się zatem pytanie co należy rozumieć przez sformułowanie „okoliczności sprawy”. W ocenie organu nadzorczego należy ten zwrot doprecyzować. Podobnie, w zakresie przekazywania informacji w związku ze zgłaszanymi incydentami Komisji. Zgodnie z art. 80 ust. 1 projektu ustawy, Komisja udzieli Prezesowi UODO informacji o zgłoszeniu przez dostawcę poważnego incydentu „na wniosek”, „jeżeli wymagają tego okoliczności sprawy” w „zakresie niezbędnym do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 oraz w ustawie”. Przepis ten wymaga ponownej analizy z uwagi na brak możliwości uprzedniego powzięcia przez Prezesa UODO informacji o zgłoszonym przez dostawcę incydencie, a tym samym złożenia przez niego wniosku o informację o dokonanym zgłoszeniu. Uregulowanie na poziomie niniejszej ustawy zasad współpracy Komisji z organami, w tym z Prezesem UODO jest – jak wynika to 29 z analizy poszczególnych przepisów – niezbędne. Przepisy ustawy w tym zakresie powinny być jasne i przejrzyste. Niezależnie od ostatecznego kształtu projektowanej ustawy dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679. Po przeprowadzeniu analizy zagadnień, dotyczących przetwarzania danych osobowych, które mogą być brane pod uwagę przy dokonywaniu oceny przez organ właściwy w sprawach AI i równolegle Prezesa UODO, przykładowo wskazać należy na następujące kwestie. 1. Ocena ryzyka związanego z przetwarzanymi danymi Art. 35 rozporządzenia 2016/679 wprowadza obowiązek przeprowadzenia oceny skutków dla ochrony danych, natomiast art. 27 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek przeprowadzenia oceny skutków systemów sztucznej inteligencji wysokiego ryzyka dla praw podstawowych przed wdrożeniem systemu do obrotu. W sytuacji, gdy system sztucznej inteligencji będzie przetwarzał dane osobowe – zarówno ocena skutków dla ochrony danych wynikająca z art. 35 rozporządzenia 2016/679, jak i analiza ryzyka według rozporządzenia 2024/1689, mogą być wymagane, zatem Prezes UODO i Komisja będą mieć kompetencje nadzorcze. 2. Przejrzystość i informowanie Art. 12-14 rozporządzenia 2016/679 określają obowiązki administratora danych odnośnie do informacji przekazywanych osobom, których dane dotyczą. Natomiast art. 50 rozporządzenia 2024/1689 wymaga, aby użytkownicy byli informowani, że mają do czynienia z systemem AI, zwłaszcza w przypadku interakcji z chatbotami, czy generowanymi treściami. Powyższe może skutkować równoległym nadzorem Prezesa UODO i Komisji. 30 3. Prawa osób, których dane dotyczą Art. 15-22 rozporządzenia 2016/679 przyznają osobom, których dane dotyczą określone prawa. Natomiast art. 14 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek zapewnienia nadzoru człowieka nad działaniem tych systemów, co ma na celu ochronę praw podstawowych użytkowników. W przypadku naruszenia powyższych praw przez system sztucznej inteligencji przetwarzający dane osobowe, zarówno Prezes UODO, jak i Komisja mogą być właściwe do podejmowania działań. 4. Profilowanie Należy również zwrócić szczególną uwagę na systemy AI wysokiego ryzyka, których obszary zostały zidentyfikowane w załączniku nr III do rozporządzenia 2024/1689 w kontekście wymogów prawnych tego rozporządzenia, w relacji do treści art. 22 rozporządzenia 2016/679 (zautomatyzowane podejmowanie decyzji w indywidualnych przypadkach, w tym profilowanie). 5. Cyberbezpieczeństwo Systemy wysokiego ryzyka, powinny odpowiadać wymogom w zakresie cyberbezpieczństwa, o których mowa w art. 15 ust. 4 rozporządzenia 2024/1689. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. W ust. 5 wskazuje się, że systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. 31 Jeśli źródło możliwego naruszenia atrybutów danych osobowych podlegających ochronie, będzie związane z działaniem systemu AI wysokiego ryzyka, wówczas mogą nałożyć się kompetencje Prezesa UODO w zakresie możliwości naruszenia art. 24, 25 i 32 rozporządzenia 2016/679 oraz Komisji z art. 15 rozporządzenia 2024/1689. 6. Zgłaszanie incydentów W art. 73 rozporządzenia 2024/1689 przewiduje się zgłaszanie poważnych incydentów. Nie można wykluczyć, że taki poważny incydent będzie stanowił również naruszenie ochrony danych osobowych i wyczerpywał przesłanki zgłoszenia wynikające z art. 33 rozporządzenia 2016/679. W efekcie, Prezes UODO także będzie mógł prowadzić swoje postępowanie wyjaśniające. Jak wynika z art. 73 ust. 7 rozporządzenia 2024/1689, po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c (naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 19. Art. 2 IAB Polska Usunięcie lub doprecyzowanie przepisu dot. GPAI Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli AI ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów AI wysokiego ryzyka. AI Act stanowi, że AI Office/Komisja Europejska ma władzę regulacyjną nad modelami GPAI. Państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 20. Art. 2 IAB Polska Ryzyko zasięgu eksterytorialnego Niejasny jest zakres terytorialny w art. 2. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie 32 potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w AI Act. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami AI Act w zakresie nadzoru transgranicznego. wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 21. Art. 2 Pracodawcy RP Treść art. 2 projektu budzi istotne wątpliwości interpretacyjne. Brak w nim bowiem wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce, co mogłoby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi, nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Niejednoznaczne sformułowanie projektu dot. stosowania terytorialnego może prowadzić również do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. W celu ograniczenia tego ryzyka, projekt powinien wyraźnie stwierdzać to, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce – co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnej regulacji o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 22. Art. 2 ZPP W odniesieniu do modeli GPAI – ustawa nie powinna nakładać dodatkowych wymagań, które wykraczałyby poza ramy unijnego AI Act, ani rozszerzać jurysdykcji na podmioty zagraniczne. Konieczne jest precyzyjne określenie zakresu terytorialnego, ograniczając go do podmiotów mających siedzibę w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 33 23. Art. 2 Konfederacj a Lewiatan Wskazujemy na ryzyko zasięgu eksterytorialnego. Projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal widzimy niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z innych aktów prawnych. 24. Art. 2 ust. 2 Konfederacj a Lewiatan Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie mają takiej władzy i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 25. Art. 2 ust. 2 Pracodawcy RP Niejasności budzi uwzględnienie w art. 2 ust. 2 projektu stwierdzenia dot. „modeli sztucznej inteligencji ogólnego przeznaczenia”. Apelujemy o usunięcie lub doprecyzowanie ww. kwestii, tak aby uniknąć niepotrzebnego łączenia wymagań dla modeli ogólnego przeznaczenia z wymogami dla systemów sztucznej inteligencji wysokiego ryzyka. Zgodnie z Aktem o AI, to Biuro ds. AI lub Komisja Europejska mają wyłączne prawo do regulacji modeli ogólnego przeznaczenia. Stąd też państwa członkowskie nie Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 34 powinny wprowadzać dodatkowych wymagań dla tych modeli w ramach implementacji przepisów. 26. Art. 3 NCBR Niezbędne jest stworzenie słownika używanych w ustawie pojęć. Brak jasności w niektórych przepisach – niektóre pojęcia używane w ustawie są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. W art. 3 zamiast odwołania do rozporządzenia, powinny znaleźć się definicje rodzime, ujęte w języku polskim, aby uniknąć rozbieżności wynikających z różnych form tłumaczenia i interpretowania przepisów unijnych. Uwaga wyjaśniona Według projektodawcy konieczne jest utrzymanie terminologii określonej w Rozporządzeniu 2024/1689. Dlatego też nie jest planowane utworzenie “słownika”. 27. Art. 3 PARP W projekcie brakuje określenia precyzyjnych kryteriów klasyfikacji systemów AI wysokiego ryzyka. Projekt ustawy w art. 3 odwołuje się do definicji zawartych w rozporządzeniu 2024/1689, jednak nie precyzuje jednoznacznych wytycznych, które ułatwiłyby przedsiębiorcom określenie, czy ich rozwiązania podlegają surowszym regulacjom. Może to prowadzić do różnic w interpretacji i niepewności prawnej, co szczególnie dotknie MŚP oraz startupy działające w sektorze nowych technologii. Wskazane byłoby wprowadzenie szczegółowych wytycznych lub katalogu przykładów systemów AI wysokiego ryzyka, co pozwoliłoby na zwiększenie przewidywalności regulacji oraz ułatwienie przedsiębiorcom dostosowania się do obowiązujących przepisów. Uwaga wyjaśniona Kryteria dotyczące systemów wysokiego ryzyka zostały ujęte bezpośrednio w Rozporządzeniu 2024/1689. Dodatkowo, zgodnie z art. 6 ust. 5 Rozporządzenia 2024/1689 po konsultacji z Europejską Radą ds. Sztucznej Inteligencji, Komisja Europejska przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie artykułu 6 Rozporządzenia 2024/1689 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania 28. Art. 3 pkt. 15 PARP Zastąpić dotychczas projektowane brzmienie art. 3 pkt 15: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.”. Nowym brzmieniem jak następuje: „Piaskownica regulacyjna – środowisko prawno-organizacyjno- techniczne umożliwiające dostawcom systemów sztucznej Uwaga wyjaśniona Projektodawca utrzymuje wskazane w art. 3 pkt 15 odesłanie do art. 3 pkt 55 rozporządzenia 2024/1689 w celu utrzymania zbieżności terminologicznej projektu ustawy z treścią Rozporządzenia 2024/1689. 35 inteligencji testowanie i rozwój systemów AI przed dopuszczeniem do obrotu na podstawie zgłoszenia, przy zapewnieniu wdrożeń minimalnych wymogów etycznych i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” 29. Art. 3 i 11 i 43 Pracodawcy RP Na uwagę zasługują także braki w zakresie obowiązków dostawców systemów AI (podstawa prawna art. 9-15, 43-49 AI Act, art. 3, 11, 43 projektu). Projekt nie precyzuje zakresu dokumentacji i procedur, jakie dostawcy systemów AI powinni wdrożyć przed wprowadzeniem systemu na rynek. AI Act nakłada na dostawców obowiązek: • oceny ryzyka związanego z systemami AI, • prowadzenia audytów i testów przed wdrożeniem systemu, • zapewnienia zgodności z wymogami przejrzystości i „wyjaśnialności”. Brak doprecyzowania w polskim akcie prawnym może prowadzić do sytuacji, w której dostawcy będą nieświadomie naruszać obowiązujące przepisy unijne, co narazi ich na odpowiedzialność administracyjną i finansową. Mając powyższe na uwadze, jesteśmy zdania, że należałoby doprecyzować obowiązki dostawców AI poprzez określenie wymogów dot. audytów, testów i raportowania zgodności systemów AI z przepisami. Uwaga wyjaśniona Przedmiotowy akt prawny ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689. Nie stanowi może on prowadzić do modyfikacji ani doprecyzowania przepisów tego Aktu a jedynie stwarzać podstawy do jego właściwego stosowania. 30. Art. 4 ust. 4 URPL Na wstępie należy zauważyć, że mimo zmian dokonanych w przepisach art. 4 projektowanej ustawy, których intencją było uwzględnienie zarówno uwag Prezesa Urzędu zgłoszonych w ww. zakresie, jak i innych podmiotów uczestniczących w opiniowaniu projektu (jak wynika z dołączonej tabeli uwag zgłoszonych w ramach opiniowania), zaproponowane obecnie brzmienie przepisu art. 4 pkt 4 projektu ustawy nadal budzi wątpliwości. Zgodnie z art. 4 pkt 4 projektu: ustawy nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w Uwaga wyjaśniona Przepis w obecnym brzmieniu został sformułowany w oparciu o zgłoszone w obu turach uzgodnień, opiniowania i konsultacji publicznych uwagi. Celem ustawy jest zapewnienie stosowania przepisów rozporządzenia 2024/1689 w systemie polskim. Należy wskazać, że terminologia aktów prawnych UE nie zawsze odpowiada terminologii aktów prawnych państw członkowskich. Zaproponowane brzmienie przepisu uwzględnia terminologię występującą w systemie prawa 36 art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689;”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie natomiast z art. 2 ust. 8 rozporządzenia 2024/1689 „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. W świetle powyższych przepisów nadal wątpliwości budzi sposób sformułowania wyłączenia zawartego w art. 4 pkt 4 projektu ustawy w zakresie, w jakim przepis ten nie wskazuje wprost – w sposób klarowny i czytelny, że przepisów projektowanej ustawy nie stosuje się do: - systemów AI i modeli AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689), a także do - działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku, z wyłączeniem testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689 (art. 2 ust. 8 rozporządzenia 02/1689). Tym samym, w ocenie Prezesa Urzędu przepis art. 4 pkt 4 projektu ustawy wymaga polskiego i zapewnia spójność z innymi aktami prawnymi. 37 niezbędnych korekt redakcyjnych celem zapewnienia jasności i spójności zarówno co do jego zakresu jak i późniejszej realizacji, zgodnej z przepisami rozporządzenia 2024/1689. 31. Ar. 4 ust. 5 URPL Dodatkowo należy zauważyć, że wyłączenie z zakresu zastosowania ustawy określone w art. 4 pkt 5 projektu dotyczące systemów wprowadzonych do użytku przed wejściem w życie rozporządzenia 2024/1689 powinno stanowić materię przepisów przejściowych zawartych w projektowanej ustawie – stosownie do § 30 ust. 1 rozporządzenia Prezesa Rady Ministrów z dnia 20 czerwca 2002 r. w sprawie „Zasad techniki prawodawczej”, o ile dodanie tego typu przepisu jest dopuszczalne w świetle przepisów rozporządzenia 2024/1689. W ocenie Urzędu przepis taki powinien odnosić się do terminu rozpoczęcia stosowania rozporządzenia 2024/1689, a nie do terminu jego wejścia w życie. Uwaga wyjaśniona Z uwagi na czytelność ustawy pozostawiono przepis w dotychczasowym miejscu. 32. Art. 5 PARP Zastąpić dotychczasowe brzmienie art. 5: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Nowy brzmieniem jak następuje: 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.”. 2. „Komisja nie ingeruje w proces testowania systemów sztucznej inteligencji, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.”. Dodanie do art. 5 ust.3 punktu 14) w brzmieniu: „Polską Agencją Rozwoju Przedsiębiorczości – w zakresie tworzenia warunków rozwojowych dla systemów sztucznej inteligencji i wspierania konkurencyjności stosownie do ustawy z dnia 9 lutego 2020 r. (Dz. U. z 2024 r. poz. 419 i 1635)” Zgodnie z art. 4 ust. 1. Ustawy dziedzinowej PARP realizuje zadania państwa z zakresu rozwoju: 1) przedsiębiorczości; 2) innowacyjności, w tym postępu technologicznego; 3) Uwaga wyjaśniona Proponowane brzmienie przepisu art. 5 nie odzwierciedla intencji projektodawcy oraz przepisów rozporządzenia 2024/1689. Dodatkowo należy wskazać, że w ramach art. 5 ust. 3 zostali wskazania ministrowie w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. PARP podlega ministrowi właściwemu do spraw rozwoju regionalnego i współpraca z KRIBSI może prowadzona za pośrednictwem tego ministra. Rozszerzenie katalogu podmiotów w art. 5 ust. 3 o PARP wydaje się w tym kontekście nadmiarowe. 38 umiędzynarodowienia gospodarki, w tym eksportu; 4) społeczeństwa informacyjnego; 5) rynku pracy i kapitału ludzkiego; 6) regionalnego. Jednocześnie na mocy ustawy o likwidacji Fundacji Platforma Przemysłu Przyszłości z dnia 19 listopada 2024 r. (Dz.U.2024.1823) i jej art.1 z dniem 1 stycznia 2025 r. zadania Platformy przejęła Polska Agencja Rozwoju Przedsiębiorczości, utworzona na podstawie ustawy z dnia 9 listopada 2000 r. o utworzeniu Polskiej Agencji Rozwoju Przedsiębiorczości. Jednym z zadań Fundacji Platforma Przemysłu Przyszłości było, a jest teraz zdaniem PARP Celem Fundacji Platforma Przemysłu Przyszłości, zwanej dalej \"Platformą\", jest działanie na rzecz wzrostu konkurencyjności przedsiębiorców poprzez wspieranie ich transformacji cyfrowej w zakresie procesów, produktów i modeli biznesowych, wykorzystujących najnowsze osiągnięcia z dziedziny automatyzacji, sztucznej inteligencji, technologii teleinformatycznych oraz komunikacji pomiędzy maszynami oraz człowiekiem a maszynami z uwzględnieniem odpowiedniego poziomu bezpieczeństwa tych rozwiązań. Stąd uzasadnione jest włączenie PARP do procesów współpracy z Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w zakresie projektowanej ustawy. 33. Rozdział 2 (art. 5 – art. 40) NCBR Brakuje przepisów umożliwiających podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. (W razie incydentu nie ma czasu na zwoływanie posiedzeń Komisji.) Uwaga uwzględniona. Tryb pilny wydawania decyzji został przewidziany w art. 47. 34. Art. 5 ust. 3 pkt 1 UKNF W ocenie Urzędu Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) dopisek „i w ustawie” nie jest wystarczająco precyzyjny. Zasadnym jest jasne określenie w projekcie ustawy o systemach sztucznej inteligencji (dalej jako: „projekt ustawy” lub „projekt”) zakresu spraw, w zakresie których Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligncji (dalej również jako: „Komisja” lub „KRiBSI”) współpracuje z Komisją Nadzoru Finansowego (dalej również jako: „KNF”), tj. podobnie jak w przypadku innych podmiotów wskazanych w art. 5 ust. 3 projektu ustawy. Aktualnie w projekcie brak jest szczególnych przepisów Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. 39 odnoszących się bezpośrednio do Komisji Nadzoru Finansowego. Nie jest więc wiadomym, na jakiej zasadzie współpraca pomiędzy Komisją a KNF powinna przebiegać oraz w odniesieniu do jakich zagadnień będzie miała miejsce. Ponadto, w związku z obowiązkiem współpracy pomiędzy KRiBSI a Komisją Nadzoru Finansowego, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań. Projektowane w art. 111 projektu ustawy brzmienie nowego art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (dalej: „ustawa o nadzorze nad rynkiem finansowym”), ograniczone do deklaratywnego stwierdzenia, że: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”, może w praktyce utrudniać, a czasem wręcz uniemożliwiać tę współpracę. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego „w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie”, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym w taki sposób aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Propozycję zmiany brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym UKNF przedstawił w uwadze do art. 111 projektu ustawy poniżej. Niezależnie od powyższego, UKNF ponownie wskazuje również, że z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji (dalej jako: „systemy AI”) wysokiego ryzyka. Projekt – w aktualnym kształcie – nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się to jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną polskiemu prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. W zakresie uwagi do art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym należy wskazać, że otrzymał on następujące brzmienie: „Art.17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. I to tym aktem prawnym zostaną określone pozostałe organy nadzoru w zakresie sztucznej inteligencji oraz zostanie określona ich rola. 40 Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (dalej jako: „rozporządzenie 2024/1689”), tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie należy zauważyć, że zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 5 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 5 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób dostateczny, zwłaszcza biorąc pod uwagę hierarchię źródeł prawa. Z tych względów w ocenie UKNF projekt ustawy powinien w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy też nadzór ten, na zasadzie odstępstwa od ww. przepisu, będzie sprawowany przez inny odpowiedni organ. Przyjmując do wiadomości wyjaśnienia projektodawcy, iż regulacje dotyczące systemów AI wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu legislacyjnego, co wynika z harmonogramu wdrożenia rozporządzenia 2024/1689 oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI 41 wysokiego ryzyka, o których mowa w art. 6 rozporządzenia 2024/1689 (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.), UKNF stoi na stanowisku, że już na etapie konstruowania fundamentalnych rozwiązań ustrojowych wskazanym jest jednoznaczne przesądzenie roli KNF w tym zakresie. 35. Art. 5 ust. 3 pkt 10 KRRiT Z aprobatą przyjmuję uwzględnienie w aktualnym projekcie ustawy postulatu KRRiT odnośnie dodania Krajowej Rady Radiofonii i Telewizji do kręgu podmiotów, z którymi współpracować ma ww. Komisja (art. 5 ust. 3 pkt 10 projektu). Jest to niezbędne do właściwego stosowania unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Zaproponowany w tym zakresie przepis powinien jednak otrzymać następujące brzmienie, by w pełni korelować z przywołanym w nim art. 1a ust. 1 ustawy o radiofonii i telewizji: „10) Krajową Radą Radiofonii i Telewizji - w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222)”. Uwaga uwzględniona Zmieniono treść przepisu zgodnie z propozycją wskazaną w uwadze. 36. Art. 6 UOKiK Ponadto, wobec nieuwzględniania uwagi dotyczącej określenia w przepisach projektowanej ustawy zasad oraz instrumentów współpracy w ramach realizacji zadań przewidzianych tym projektem (Ad art. 6 projektu ustawy), ponownie dostrzegam brak podstaw prawnych do działania w przedmiotowym zakresie, co w konsekwencji uniemożliwi realizację przez organy współpracujące, w tym Prezesa UOKiK, obowiązków wynikających z projektu. Mając na uwadze powyższe, widząc potrzebę pogłębionej współpracy w zakresie uregulowania przyszłej współpracy z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej deklaruję pełne zaangażowanie w zakresie przygotowania omawianej ustawy. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami. Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. 42 37. Art. 6 ust. 2 ZPP Rozszerzyć skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych (uniwersytety, instytuty badawcze), organizacji zrzeszających przedsiębiorców (izby gospodarcze, stowarzyszenia branżowe) oraz ekspertów reprezentujących organizacje społeczne, co zapewni szeroką perspektywę i dostęp do najnowszych osiągnięć. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty z uwagi na charakter wykonywanych zadań. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 38. Art. 6 ust. 2 RPP Zgodnie z art. 6-8 ustawy z dnia 6 listopada 2008 r. o prawach pacjenta i Rzeczniku Praw Pacjenta (Dz.U. z 2024 r. poz. 581), pacjent ma prawo do świadczeń zdrowotnych. Zgodnie z art. 23 ustawy o prawach pacjenta i Rzeczniku Praw Pacjenta, pacjent ma prawo do dostępu do dokumentacji medycznej dotyczącej jego stanu zdrowia oraz udzielonych mu świadczeń zdrowotnych. Dane zawarte w dokumentacji medycznej podlegają ochronie określonej w niniejszej ustawie oraz w przepisach odrębnych. W kontekście przedmiotowych praw pacjenta, Rzecznik prowadzi m.in. postępowania wyjaśniające w sprawach indywidualnych jak również postępowania w sprawie naruszenia zbiorowych praw pacjentów (na wzór postępowań dotyczących ochrony konsumentów), a także działania systemowe. Obszar medycyny jest jednym z tych obszarów, w którym przewiduje się wzrost znaczenia sztucznej inteligencji m.in. w zakresie pozyskiwania i analizy danych zdrowotnych celem wykorzystania wyników takiej analizy przy udzielaniu świadczeń zdrowotnych, a także zastosowania technologii do udzielania świadczeń (np. w obszarze terapii, co może być dozwolone, jeśli nie stanowi zakazanej przez rozporządzenie tzw. praktyki polegającej na manipulacji lub wykorzystaniu). Dodatkowo, ważnym zagadnieniem będzie ochrona tajemnicy danych medycznych wykorzystywanych przy tej technologii, a także kwestia zgody na ich udostępnianie i przetwarzanie. Rzecznik Praw Pacjenta spodziewa się wzrostu zgłoszeń w tym temacie. Tym samym, przedstawiciel Rzecznika Praw Pacjenta powinien być stałym członkiem Komisji, analogicznie jak ma to miejsce Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Podmioty te będą mogły być jednak zapraszane w razie potrzeby na posiedzenia Komisji bez prawa głosu. Zagadnienie praw pacjenta, ochrony tajemnicy danych medycznych wykorzystywanych w ramach systemów sztucznej inteligencji, a także kwestia zgody na ich udostępnianie i przetwarzanie stanowi niewątpliwie istotne zagadnienie oparte na wiedzy specjalistycznej. Stad też, aby zabezpieczyć te kwestie Rzecznik Praw Pacjenta został wskazany jako organ uprawniony do zgłoszenia kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, będącego ciałem opiniodawczo-doradczym KRIBSI. 43 z przedstawicielem Rzecznika Praw Dziecka a także Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, szczególnie iż Rzecznik Praw Pacjenta prowadzi postępowania administracyjne z obszaru ochrony praw jednostki. 39. Art. 6 ust. 2 RPD W przekazanych do Ministerstwa Cyfryzacji uwagach do projektu ustawy w brzmieniu z dnia 15 października 2024 r. Rzecznik Praw Dziecka wskazywał na ryzyko pojawienia się konfliktu interesów – zarówno o charakterze merytorycznym, jak i czasowym – wynikającego z powierzenia przedstawicielom organów państwowych zadań i kompetencji w ramach prac Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przewidzianej w projekcie. Przyjęta w projekcie koncepcja składu Komisji nadal budzi wątpliwości, ponieważ w jej przepisach nie usunięto problemu związanego z potencjalną kolizją zadań i kompetencji organów w niej uczestniczących. Mając na uwadze powyższe, Rzecznik Praw Dziecka postuluje o wykreślenie jego przedstawiciela z listy członków Komisji wymienionych w art. 6 ust. 2 projektowanej ustawy. W planowanym modelu działania Komisji i zakresie jej zadań obecność przedstawiciela Rzecznika byłaby nie do pogodzenia z ustrojową pozycją Rzecznika Praw Dziecka oraz z kompetencjami RPD wskazanymi w Konstytucji RP i ustawie z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Przede wszystkim Rzecznik Praw Dziecka, zgodnie z przywołaną ustawą i art. 72 Konstytucji RP jest organem konstytucyjnym, który stoi na straży praw dziecka określonych w Konstytucji RP, Konwencji o prawach dziecka oraz innych aktach prawnych, działając z poszanowaniem odpowiedzialności, praw i obowiązków rodziców. Tym samym Rzecznik Praw dziecka nie może być traktowany jako organ stanowiący część administracji rządowej czy samorządowej godnie z art. 7 ust. 1 ustawy z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka, w ramach wykonywania swoich zadań Rzecznik jest niezależny od innych organów państwowych i odpowiada wyłącznie przed Sejmem na zasadach określonych w tej ustawie. Chociaż Uwaga uwzględniona Rzecznik Praw Dziecka został wyłączony ze składu Komisji. 44 ustawodawca nie przyznaje Rzecznikowi Praw Dziecka wprost atrybutu „niezawisłości” w znaczeniu stosowanym wobec sędziów, to celowościowa wykładnia przepisów ustawy o Rzeczniku Praw Dziecka prowadzi do wniosku, że przysługują mu analogiczne gwarancje, umożliwiające mu działanie w sposób zgodny z własnym sumieniem i wolny od nacisków zewnętrznych. Z tego względu przyznanie przedstawicielowi RPD funkcji członka Komisji, która wydaje decyzje administracyjne i postanowienia, rodzi istotne wątpliwości. Byłoby to sprzeczne z ustrojową rolą Rzecznika jako organu ochrony praw dziecka, gwarantowanej przez Konstytucję RP i ustawę z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Co więcej, decyzje administracyjne i postanowienia wydawane przez Komisję mogą stać się przedmiotem skarg kierowanych do Rzecznika Praw Dziecka w przypadku naruszenia praw dziecka w związku z rozstrzygnięciami dotyczącymi operatorów systemów sztucznej inteligencji. Czynne uczestnictwo przedstawiciela Rzecznika Praw Dziecka w codziennych pracach Komisji doprowadziłoby do sytuacji, w której Rzecznik oceniałby potencjalnie – działania podejmowane również przez swojego przedstawiciela. Godziłoby to bezpośrednio w zasadę niezależności RPD i byłoby też sprzeczne z obowiązkiem „bezstronności”, o którym mowa w ślubowaniu Rzecznika Praw Dziecka składanym przed Sejmem RP. Za wykreśleniem przedstawiciela RPD ze składu członków Komisji z powodu zaistnienia potencjalnego konfliktu interesu przemawia też to, że Rzecznik Praw Dziecka został w Polsce wyznaczony jako jeden z organów ochrony praw podstawowych w rozumieniu art. 77 rozporządzenia 2024/1689, z którym ma współpracować Komisja Wobec powyższego, w celu zachowania ustrojowej pozycji i niezależności Rzecznika Praw Dziecka oraz uniknięcia konfliktu interesów, zasadne jest wykreślenie przedstawiciela RPD ze składu Komisji, tj. z katalogu podmiotów wymienionych w art. 6 ust. 2 projektowanej ustawy. Nie budzi natomiast wątpliwości przyznanie na podstawie art. 25 projektowanej ustawy Rzecznikowi Praw Dziecka prawa do 45 zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, która będzie pełniła funkcje opiniodawczo-doradcze na rzecz Komisji stanowiąc głos niezależnych ekspertów w przedmiocie technicznych, organizacyjnych, ekonomicznych oraz prawnych aspektów stosowania systemów sztucznej inteligencji. 40. Art. 6 ust. 2 IAB Polska Rozszerzenie składu Komisji o przedstawicieli środowisk akademickich, naukowych oraz podmiotów społeczeństwa obywatelskiego i sektora przemysłowego Komisja jako organ nadzorujący różne obszary zastosowania AI, powinna uwzględniać szeroką reprezentację interesariuszy, co przyczyni się do skuteczniejszego i bardziej zrównoważonego zarządzania tym obszarem. Włączenie przedstawicieli tych środowisk pozwoli na: 1. Lepszą reprezentację rynku – uwzględnienie głosu sektorów bezpośrednio dotkniętych regulacjami Komisji, co zapewni większą przejrzystość i akceptację jej działań. 2. Dostęp do wiedzy eksperckiej – zaangażowanie specjalistów z obszarów AI pozwoli na bardziej merytoryczne i innowacyjne podejście do regulacji oraz oceny ryzyka i skutków technologii. Takie rozwiązanie nie naruszy jej niezależności instytucjonalnej. Wręcz przeciwnie – udział niezależnych przedstawicieli społeczeństwa obywatelskiego ograniczy ryzyko wpływu zamkniętych grup interesów oraz pozwoli na uwzględnienie różnych perspektyw w procesie decyzyjnym. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 41. Art. 6 ust. 2 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz dołączenie do Komisji przedstawiciela Rzecznika Finansowego. Uwaga wyjaśniona W ramach członków Komisji został już zaproponowany przedstawiciel Komisji Nadzoru 46 Działania w zakresie podmiotów rynku finansowego są podejmowane, nie tylko przez organ nadzoru rynku, ale również przez Rzecznika Finansowego, w tym w szczególności w odniesieniu do bezpośredniego kontaktu ze sprawami indywidulanych klientów podmiotów rynku finansowego. Podstawowym celem Rzecznika Finansowego jest ochrona klientów podmiotów rynku finansowego i reprezentowanie ich interesów. W tym celu Rzecznik Finansowy wykorzystuje wszelkie dostępne narzędzia służące ich ochronie – tj. m.in. interwencje, poradnictwo, wydawanie istotnych poglądów czy inicjowanie oraz udział w postępowaniach sądowych. Stopień skomplikowania konstrukcji usług na rynku finansowym wymaga szerokiej i różnorodnej wiedzy oraz wpływu tych usług na życie jednostek, wobec przyjmowania przez nie często wieloletnich zobowiązań finansowych. Zważyć należy, że AI jest już w chwili obecnej powszechnie wykorzystywana przez podmioty rynku finansowego, takie jak banki czy zakłady ubezpieczeń, także - a może nawet przede wszystkim - w relacjach z klientami takich podmiotów. Wobec powyższego wykorzystanie sztucznej inteligencji odnosi się bezpośrednio do podmiotów, na straży których interesów stoi Rzecznik Finansowy. Postęp technologiczny zapewne wymusi coraz szersze stosowanie sztucznej inteligencji w relacjach z klientami podmiotów rynku finansowego, co z kolei oznacza, że Rzecznik Finansowy i jego biuro są żywotnie zainteresowani aktywnym udziałem w pracach Komisji i Rady, celem zabezpieczenia interesów klientów, którzy wchodzić będą w interakcje z systemami sztucznej inteligencji, wykorzystywanych przez podmioty rynku finansowego. Chatboty i wirtualni asystenci mogą być wykorzystywani do tworzenia spersonalizowanych porad finansowych lub rekomendacji uwzględniających historię finansową klienta. W tym kontekście nie można wykluczyć wykorzystywania przez systemy AI swoistych technik manipulacyjnych, które w efekcie mogłyby wpływać np. na decyzje w zakresie wysokości zaciągniętego zobowiązania. Systemy AI odgrywają również coraz ważniejszą rolę w procesach oceny ryzyka kredytowego czy ubezpieczeniowego. Stosowane przez Finansowego. Organ ten odznacza się wysokim stopniem niezależności oraz jest instytucją kluczową dla nadzoru nad sztuczną inteligencją. Nie znajduje uzasadnienia wskazanie w śród grona Członków Komisji dodatkowego podmiotu podejmującego działania w zakresie podmiotów rynku finansowego. Rzecznik Finansowy będzie mógł uczestniczyć w posiedzeniach Komisji beż prawa głosu. 47 podmioty rynku finansowego algorytmy uczenia maszynowego mogą analizować i aktualizować swoje modele oceny w oparciu o nowe dane i zmieniające się warunki dotyczące np. historii kredytowej klientów, poziomu zadłużenia, płynności finansowej oraz zmiennych makroekonomicznych. Systemy AI wchodzą obecnie coraz częściej w bezpośrednią interakcję z klientami podmiotów rynku finansowego. Systemy AI mogą być również wykorzystywane do obsługi reklamacji czy rozpatrywania roszczeń klientów podmiotów rynku finansowego. Sposób wprowadzanie w życie automatyzacji tych procesów ściśle wiąże się z rolą Rzecznika Finansowego, który reprezentuje interesy klientów podmiotów rynku finansowego. Dodatkowo reprezentacja Rzecznika Finansowego może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii na rynku finansowym. Co równie istotne, wśród spraw, które klienci podmiotów rynku finansowego kierują do Rzecznika Finansowego, znajdują się już teraz te związane z AI. Zgodnie bowiem z art. 105a ust. 1a ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. U. z 2024 r. poz. 1646 z późn. zm.): Banki, inne instytucje ustawowo upoważnione do udzielania kredytów, instytucje pożyczkowe oraz podmioty, o których mowa w art. 59d ustawy z dnia 12 maja 2011 r. o kredycie konsumenckim, a także instytucje utworzone na podstawie art. 105 ust. 4, mogą w celu oceny zdolności kredytowej i analizy ryzyka kredytowego podejmować decyzje, opierając się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, danych osobowych - również stanowiących tajemnicę bankową - pod warunkiem zapewnienia osobie, której dotyczy decyzja podejmowana w sposób zautomatyzowany, prawa do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji, do uzyskania interwencji ludzkiej w celu podjęcia ponownej decyzji oraz do wyrażenia własnego stanowiska. Podobne uprawnienia osobie, wobec której podejmowane są decyzje w oparciu o wyłącznie zautomatyzowane przetwarzanie w celu dokonania oceny ryzyka ubezpieczeniowego oraz likwidacji szkody przyznaje art. 41 ust. 1a 48 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej (t.j. Dz. U. z 2024 r. poz. 838 z późn. zm.). Z kolei zgodnie z art. 86 ust. 1 rozporządzenia 2024/1689: Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. Tym samym, Rzecznik Finansowy mógłby zapewnić wydatne wzmocnienie kompetencji Komisji m.in. w zakresie ochrony praw klientów wprowadzanych przez rozporządzenie 2024/1689. W składzie Komisji nie uwzględniono bezpośrednich przedstawicieli ochrony klientów podmiotów rynku finansowego, co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad tym obszarem. W tym kontekście, Rzecznik Finansowy jako instytucja odpowiedzialna za wspieranie klientów podmiotów rynku finansowego, mógłby wesprzeć prace Komisji w zakresie zagrożeń systemów AI na rynku finansowym. Pozwoliłoby to lepiej zintegrować działania Komisji z wymogami regulacyjnymi. Brak udziału Rzecznika Finansowego w Komisji mógłby prowadzić do osłabienia zakresu ochrony praw klientów podmiotów rynku finansowego, którzy z każdym rokiem powierzają Rzecznikowi Finansowemu coraz więcej spraw dotyczących ich żywotnych interesów. Członkostwo Rzecznika Finansowego w Komisji może mieć wpływ na skuteczny nadzór nad funkcjonowaniem algorytmów, zapobieganie potencjalnym nadużyciom ze strony podmiotów rynku finansowego jak również może wesprzeć wdrażanie technologii sztucznej inteligencji w sposób przejrzysty, z poszanowaniem praw klientów pomiotów rynku finansowego. Jest to szczególnie ważne dla osób wykluczonych cyfrowo lub z innych 49 względów mających trudności na rynku finansowym, którzy mogą być szczególnie narażeni na nadużycia związane z działaniem algorytmów. Wprawdzie przepisy ujęte w przekazanej do ponownych konsultacji wersji projektu przewidują możliwość uczestnictwa w posiedzeniach Komisji przedstawiciela podmiotu publicznego, jednak wyłącznie z głosem doradczym (art. 6 ust. 3 pkt 1). Dodatkowo udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji. Taki mechanizm może nie odpowiadać zakresowi odziaływania systemów AI w obszarze rynku finansowego i potencjalnie ograniczać realną możliwość odpowiedniej ochrony klientów podmiotów rynku finansowego w sprawach dotyczących regulacji systemów AI, których wyniki działania bezpośrednio ich dotyczą. Konsumenci na rynku finansowym należą do grupy podmiotów wrażliwych, mogących w szczególny sposób odczuć negatywny wpływ systemów AI na ich prawa i interesy. Dla zapewnienia ochrony praw klientów podmiotów rynku finansowego niewątpliwe znaczenie ma przymiot niezależności charakteryzujący instytucję Rzecznika Finansowego. Rzecznik Finansowy jest powoływany przez Prezesa Rady Ministrów i od momentu powołania działa w sposób całkowicie samodzielny. Rzecznik Finansowy znajduje się poza strukturą administracji rządowej, zaś swoją funkcję pełni kadencyjnie (zob. art. 12 ustawy z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej; dalej ustawa o Rzeczniku Finansowym). Podstawowym celem Rzecznika Finansowego jest zapewnienie ochrony praw i interesów klientów podmiotów rynku finansowego. Jest on tylko i aż gwarantem tego, że każdy obywatel pokrzywdzony wskutek działań podmiotów rynku finansowego będzie mógł otrzymać należną mu ochronę. Swoista rola instytucji Rzecznika Finansowego znajduje swoje odzwierciedlenie również w toku procesów legislacyjnych mających na celu zapewnienie stosowania regulacji unijnych w krajowym porządku prawnym w obszarze rynku finansowego. Jedynie jako 50 przykład można podać ustawę z dnia z dnia 20 grudnia 2024 r. o podmiotach obsługujących kredyty i nabywcach kredytów, która weszła w życie w dniu 19 lutego 2025 r. i która wdraża dyrektywę Parlamentu Europejskiego i Rady (UE) 2021/2167 z dnia 24 listopada 2021 r. w sprawie podmiotów obsługujących kredyty i nabywców kredytów oraz w sprawie zmiany dyrektyw 2008/48/WE i 2014/17/UE (Dz. Urz. UE L 438 z 08.12.2021, str. 1). Ustawa z dnia 20 grudnia 2024 r. wprowadza również zmiany w ustawie o Rzeczniku Finansowym i w tym zakresie zapewnia stosowanie regulacji unijnych w zakresie roli właściwych organów w procedurze rozpatrywania skarg kredytobiorców dotyczących nabywców kredytów, podmiotów obsługujących kredyty i dostawców usług obsługi kredytów (art. 24 ust. 3 ww. dyrektywy). W przypadkach, w których zastrzeżenia formułowane w reklamacjach przez kredytobiorców, będących osobami fizycznymi, wobec ww. podmiotów nie zostaną uwzględnione, kredytobiorca będzie miał możliwość złożenia wniosku o podjęcie interwencji przez Rzecznika Finansowego (czyli skargi). Ewentualna interwencja Rzecznika Finansowego będzie odbywać się na takich samych zasadach jak w przypadku działań dotyczących interwencji względem innych podmiotów rynku finansowego, w odniesieniu do których Rzecznik podejmuje działania już od wielu lat. 42. Art. 6 ust. 2 RMŚP W treści art. 6 ust. 2 Projektu wskazano, żw stałymi członkami Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będą przedstawiciele tylko niektórych organów ochrony prawa, w tym min. in.: Prezesa Urzędu Ochrony Konkurencji i Konsumentów oraz Państwowej Inspekcji Pracy. W takich okolicznościach, dla skutecznego urzeczywistnienia równowagi interesów partnerów społecznych, w skład Komisji powinien zostać włączony także przedstawiciel Rzecznika Małych i Średnich Przedsiębiorców, jako posiadający prawo głosu reprezentant środowiska przedsiębiorców. Postulat taki zgłaszany był również przez organizacje przedsiębiorców podczas dotychczasowych konsultacji Projektu. Realizacja postulatu wymaga: w art. 6 ust. 2: Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją. Rzecznika Małych i Średnich Przedsiębiorców nie spełnia w pełni kryterium przyjętego przez projektodawcę. Bedzie natomiast mógł uczestniczyć w posiedzeniach Komisji bez prawa głosu. 51 1. w pkt 7) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu – pkt 8 w brzmieniu: „8) Rzecznika Małych i Średnich Przedsiębiorców.” Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. 43. Art. 6 ust. 2 UP RP Jednym z zadań Komisji będzie podejmowanie działań mających na celu monitorowanie innowacyjności w obszarze badań i stosowania systemów sztucznej inteligencji oraz działanie na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji. W tym zakresie zasadne może być podjęcie współpracy z Urzędem Patentowym. W związku z powyższym należałoby rozważyć, czy przedstawiciel Urzędu Patentowego nie powinien być członkiem Komisji, o której mowa w art. 6 ust. 2 projektu. Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Urząd Patentowy nie spełnia wskazanych przesłanek. Nadzór nad działalnością Urzędu Patentowego sprawuje z ramienia Rady Ministrów minister właściwy do spraw gospodarki. 44. Art. 6 ust. 2 Konfederacj a Lewiatan Uwagi: Jeśli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma skutecznie nadzorować różnorodne obszary zastosowań sztucznej inteligencji i sprostać wyzwaniom związanym z jej dynamicznym rozwojem, konieczne jest rozszerzenie jej składu. Obecnie Komisja ma się składać wyłącznie z przedstawicieli różnych instytucji państwowych, co może ograniczać jej perspektywę i dostęp do specjalistycznej wiedzy. Dlatego też proponujemy, aby skład Komisji został poszerzony o przedstawicieli środowisk naukowych, takich jak uniwersytety, instytuty badawcze czy organizacje pozarządowe zajmujące się badaniami nad sztuczną inteligencją. Ich udział zapewniłby Komisji dostęp do najnowszych osiągnięć naukowych, innowacyjnych rozwiązań oraz umożliwiłby identyfikację potencjalnych zagrożeń i wyzwań związanych z rozwojem sztucznej inteligencji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 52 Ponadto, istotne jest również włączenie do Komisji przedstawicieli organizacji zrzeszających przedsiębiorców, takich jak izby gospodarcze, stowarzyszenia branżowe czy związki pracodawców. Ich udział pozwoliłby na uwzględnienie perspektywy przedsiębiorców, praktycznych aspektów wdrażania sztucznej inteligencji w przedsiębiorstwach oraz ocenę wpływu regulacji na rozwój gospodarczy. Co więcej, stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Rozszerzenie składu Komisji o przedstawicieli środowisk naukowych i przedsiębiorców przyczyni się do zwiększenia jej efektywności, umożliwi podejmowanie bardziej kompleksowych i zrównoważonych decyzji oraz zapewni legitymizację jej działań w oczach społeczeństwa. Udział w pracach Komisji przedstawicieli społecznych, takich jak eksperci, naukowcy czy przedstawiciele organizacji pozarządowych, nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Przeciwnie – zwiększy to transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Podsumowując, rozszerzenie składu Komisji o przedstawicieli środowisk naukowych, przedsiębiorców i społecznych jest niezbędne dla osiągnięcia celu, jakim jest uczynienie z Komisji nie tylko organu nadzorującego bezpieczeństwo sztucznej inteligencji, ale także wspierającego jej rozwój. Tylko poprzez zapewnienie zróżnicowanych perspektyw i dostęp do specjalistycznej wiedzy, Komisja będzie mogła skutecznie sprostać wyzwaniom związanym z rozwojem sztucznej inteligencji i zapewnić, że jej rozwój będzie służył dobru społeczeństwa. 53 45. Art. 6 ust. 2 pkt 6 GIP Projekt ustawy z dnia 15.10.2024 r. przewidywał, że przedstawiciele Państwowej Inspekcji Pracy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej Komisja) bez prawa głosu. W projekcie z dnia 10.02.2025 r., przekazanym do ponownych uzgodnień wskazano, że przedstawiciel Państwowej Inspekcji Pracy ma być członkiem Komisji. Udział przedstawiciela Państwowej Inspekcji Pracy w pracach Komisji w charakterze jej członka budzi poważne zastrzeżenia, biorąc pod uwagę rolę i zakres działania Państwowej Inspekcji Pracy. Zgodnie z art. 1 ustawy z dnia 13 kwietnia 2007 r. o Państwowej Inspekcji Pracy (Dz. U. z 2024 r. poz. 1712) Państwowa Inspekcja Pracy jest organem powołanym do sprawowania nadzoru i kontroli przestrzegania prawa pracy, w szczególności przepisów i zasad bezpieczeństwa i higieny pracy, a także przepisów dotyczących legalności zatrudnienia i innej pracy zarobkowej w zakresie określonym w ustawie. Zakres zadań Komisji określony w art. 9 projektu nie mieści się w zakresie ustawowych zadań Państwowej Inspekcji Pracy. Należy podkreślić, że zgodnie z art. 3 Konwencji Nr 81 Międzynarodowej Organizacji Pracy dotyczącej inspekcji pracy w przemyśle i handlu: „Do zadań systemu inspekcji pracy będzie należało: (a) zapewnianie stosowania przepisów prawnych dotyczących warunków pracy i ochrony pracowników przy wykonywaniu ich zawodu (...), (b) dostarczanie informacji i porad technicznych pracodawcom i pracownikom (...), (c) zwracanie uwagi właściwej władzy na uchybienia lub nadużycia (...). Inspektorom pracy mogą być powierzane jakiekolwiek inne obowiązki tylko pod warunkiem, że nie będą przeszkadzać w skutecznym wykonywaniu ich zadań głównych ani w jakikolwiek sposób naruszać autorytetu i bezstronności, potrzebnych inspektorom w stosunkach z pracodawcami i pracownikami”. Nie budzi wątpliwości, że udział przedstawiciela Państwowej Inspekcji Pracy jako członka Komisji będącej organem nadzoru rynku w zakresie systemów sztucznej inteligencji, wykracza poza zakres działania inspekcji pracy określony ww. Konwencją. Uwaga uwzględniona Przedstawiciel Państwowej Inspekcji Pracy został wyłączony ze składu Komisji. Jednocześnie Główny Inspektor Pracy będzie miał możliwość zgłaszania kandydatów na członków Rady Społecznej przy Komisji (art. 25 ust. 3 pkt 6). 54 Przedstawiciel Państwowej Inspekcji Pracy jako organu nadzorującego i kontrolującego przestrzeganie prawa pracy nie może brać udziału w procesie wydawania decyzji przez inny organ. Stałoby to w sprzeczności z zasadą działania inspektorów pracy jako niezależnych organów, prowadzących postępowanie kontrolne i stosujących środki prawne na zasadach określonych w ustawie o Państwowej Inspekcji Pracy. Rozwiązanie zaproponowane w art. 6 ust. 2 pkt 6 projektu stoi również w sprzeczności z art. 79 ust. 2 rozporządzenia 2024/1689, który stanowi, że „W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie”. Przywołany przepis przewiduje współpracę organu nadzoru rynku i organu lub podmiotu, o których mowa w art. 77 ust. 1, akcentując jednocześnie odrębność ww. podmiotów. Państwowa Inspekcja Pracy została wskazana w wykazie organów lub podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji. Państwowa Inspekcja Pracy w obszarze swojej właściwości byłaby więc organem współpracującym z Komisją na zasadach określonych w art. 5 ust. 3 pkt 4 projektu ustawy w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych. Na rozdzielenie zadań Komisji i organów lub podmiotów określonych w wykazie wskazuje także treść art. 55 ust. 3 projektu ustawy, zgodnie z którym „Jeśli w toku 55 postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689”. Mając powyższe na uwadze, proponuję wyłączenie przedstawiciela Państwowej Inspekcji Pracy ze składu Komisji. 46. Art. 6 ust. 3 pkt 2 Konfederacj a Lewiatan Propozycja zmiany: 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: (...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uzasadnienie: Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie „osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera jej ustawa Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego “osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze “biegły”. Należy wskazać, że w obecnej sytuacji istnieje niewielka liczba biegłych posiadających wiedzę z szerokiego zakresu systemów sztucznej inteligencji. Angażowanie biegłych do wypowiadania się w sprawach będących przedmiotem posiedzenia nie znajduje uzasadnienia i maiłoby negatywne przełożenie na terminowość spraw prowadzonych np. przed sadem gdzie obecność biegłego jest uzasadniana i wymagana prawem. Wiedza jaka jest niezbędna na etapie posiedzeń Komisji często jest skupiona w rękach specjalistów, praktyków stąd też terminologia zastosowana w przedmiotowym przepisie. 47. Art. 6 ust. 4 Konfederacj a Lewiatan Brak wynagrodzenia dla członków Komisji może znacząco wpłynąć na jej wydajność i efektywność, szczególnie biorąc pod uwagę rosnącą liczbę obowiązków i złożoność zagadnień wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Komisja, aby sprostać tym wyzwaniom, musi angażować wysokiej klasy specjalistów, których wiedza i doświadczenie są niezbędne do podejmowania trafnych decyzji i skutecznego działania. Brak wynagrodzenia za pracę na rzecz Komisji może zniechęcić takich ekspertów do uczestnictwa w pracach Komisji, co może prowadzić Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 56 do obniżenia jakości jej pracy, a w konsekwencji do negatywnych skutków dla rozwoju sztucznej inteligencji w Polsce. Pozostawienie kwestii wynagrodzenia członków Komisji uznaniu instytucji delegujących może prowadzić do braku spójności i stabilności w funkcjonowaniu Komisji. Różne instytucje mogą mieć odmienne podejście do kwestii wynagrodzeń, co może powodować konflikty interesów i trudności w zapewnieniu odpowiedniego poziomu finansowania dla wszystkich członków Komisji. Może to również zagrażać niezależności Komisji, gdyż członkowie mogą być bardziej skłonni do reprezentowania interesów instytucji delegujących niż do podejmowania obiektywnych i niezależnych decyzji. Dlatego proponujemy wprowadzenie jasnych i transparentnych zasad wynagradzania członków Komisji, które zapewnią im godziwe wynagrodzenie za ich pracę, adekwatne do ich kwalifikacji, zaangażowania i odpowiedzialności. 48. Art. 6 ust. 4 IAB Polska Zapewnienie wynagrodzenia dla członków Komisji Brak wynagrodzenia dla członków Komisji może negatywnie wpłynąć na jej efektywność, zwłaszcza w kontekście rosnącego zakresu obowiązków wynikających z dynamicznego rozwoju rynku AI. Obecnie projektowane rozwiązanie, pozostawiające kwestię wynagrodzenia w gestii instytucji delegujących członków, nie zapewnia stabilności funkcjonowania Komisji ani odpowiedniej motywacji do zaangażowania w jej prace. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 49. Art. 6 ust. 4 ZPP Wprowadzić transparentne zasady wynagradzania członków Komisji, co przyczyni się do przyciągnięcia wysokiej klasy specjalistów oraz zwiększenia niezależności organu. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. podmiotów. 50. Art. 6 ust. 7 PUODO Art. 6 ust. 7 projektu ustawy: „Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym”. Przepis w obecnym brzmieniu wymaga Uwaga wyjaśniona Intencją jest zawarcie w ustawie jedynie przepisów niezbędnych oraz przeniesienia regulacji 57 doprecyzowania, bowiem projektodawca nie wskazał mechanizmów weryfikacji tożsamości uczestników posiedzenia Komisji (czy uwierzytelnianie następuje poprzez złożenie podpisu elektronicznego, profil zaufany czy inne środki techniczne). Ponadto, brak jest szczegółowych wymagań dotyczących ochrony poufności informacji i zabezpieczenia przed cyberatakami – nie wskazano, czy systemy teleinformatyczne powinny spełniać konkretne standardy, takie jak szyfrowanie end-to-end, a także jakie procedury kontroli dostępu powinny obowiązywać. Kolejną kwestią wymagającą dookreślenia jest sposób rejestrowania i archiwizacji posiedzeń – czy posiedzenia mogą być nagrywane, a jeśli tak, przez jaki okres materiały te będą przechowywane i kto miałby do nich dostęp. Wątpliwości budzi również sposób przeprowadzania głosowań w trybie zdalnym, szczególnie w kontekście zapewnienia tajności i ochrony danych. Przepis wskazuje na konieczność ochrony poufności informacji, lecz nie precyzuje, jakie techniczne środki powinny być stosowane – np. dedykowane systemy do głosowań, podpisy elektroniczne czy mechanizmy audytowania bezpieczeństwa. dotyczących kwestii technicznych podustawowej. Jednocześnie wyjaśnić należy, że projektodawca nie przewiduje potrzeby i możliwości nagrywania posiedzeń Komisji. 51. art. 6, 26, 43 Pracodawcy RP Należy także zwrócić uwagę na nieprecyzyjne kompetencje Prezesa Urzędu Ochrony Danych Osobowych (UODO) w zakresie nadzoru nad AI (odstawa prawna: art. 62-70 AI Act, art. 6, 26, 43 projektu). Projekt przewiduje współpracę Komisji ds. AI z Prezesem UODO, jednak nie określa jego kompetencji w zakresie: • przeprowadzania audytów systemów AI pod kątem ochrony danych osobowych, • monitorowania zgodności systemów AI z RODO, • egzekwowania przepisów w przypadku naruszenia ochrony danych osobowych. Brak szczegółowych regulacji może prowadzić do sytuacji, w której UODO nie będzie miał faktycznych narzędzi do egzekwowania przestrzegania przepisów dotyczących ochrony danych osobowych w systemach AI, co może skutkować naruszeniami praw osób fizycznych. Wobec powyższego apelujemy o określenie kompetencji Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 pkt 3 oraz art. 101 projektu ustawy. Kwestie kompetencji UODO dotyczą przepisów RODO i pozostają poza zakresem przedmiotu regulacji projektu ustawy. Dodatkowo w zakresie systemów wysokiego ryzyka, wyjaśniamy że kwestie te będą przedmiotem regulacji w ramach odrębnego procesu legislacyjnego. 58 Prezesa UODO w zakresie nadzoru nad AI, aby zapewnić skuteczność egzekwowania przepisów o ochronie danych. 52. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. Propozycja zmiany: w składzie Komisji obok przedstawicieli administracji publicznej powinni znajdować się eksperci dziedzinowi związani z rozwojem SSI. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 53. Art. 7 ust. 3- 4 RPD Z uwagi na konieczność zagwarantowania dzieciom prawa do wyrażania swoich poglądów w sprawach ich dotyczących (art. 12 Konwencji o prawach dziecka, art. 24 Karty praw podstawowych UE), postuluję wprowadzenie do projektowanego art. 7 ust. 3 dodatkowej kategorii podmiotów zapraszanych do udziału w posiedzeniach Komisji z głosem doradczym: przedstawicieli organizacji dzieci i młodzieży (także tych o charakterze prywatnym, np. stowarzyszeń), w zakresie, w jakim przedmiot posiedzenia Komisji dotyczy spraw bezpośrednio wpływających na sytuację dzieci i młodzieży. Obecne brzmienie art. 7 ust. 3 ogranicza tę możliwość wyłącznie do przedstawicieli podmiotów publicznych innych niż członkowie Komisji lub osób z wiedzą specjalistyczną, tymczasem dzieci i młodzież, choć często nie posiadają fachowej wiedzy technicznej lub prawnej, są w wielu przypadkach bezpośrednimi odbiorcami rozwiązań SI (np. w edukacji), a zatem ich głos i doświadczenia stanowią niezbędne źródło informacji przy projektowaniu regulacji oraz przygotowywaniu kampanii informacyjnych dotyczących systemów sztucznej inteligencji. Ponadto, rekomenduję modyfikację art. 7 ust. 4, tak aby zwrot kosztów podróży i noclegów przysługiwał nie tylko za „udział w Uwaga wyjaśniona Projektowane przepisy umożliwiają udział w posiedzeniu Komisji szerokiej gamie podmiotów w tym podmiotów reprezentujących prawa dzieci. Mając na uwadze zakres przetwarzanych w ramach posiedzeń informacji zasadnym wydaje się pozostawienie takiego rozwiązania. Przepis art. 7 ust. 4 nie wymaga zmiany. 59 pracach Komisji”, lecz także za udział w jej posiedzeniach na zaproszenie Przewodniczącego. Pozwoli to uniknąć sytuacji, w której młodzi uczestnicy lub inne doraźnie zapraszane podmioty nie mogą w praktyce wziąć udziału w obradach z powodów finansowych. Wprowadzenie tych zmian: zapewni realne uwzględnienie głosu dzieci i młodzieży w procesie kształtowania i stosowania przepisów dotyczących systemów sztucznej inteligencji. 54. Art. 7 ust. 9 Konfederacj a Lewiatan Propozycja zmiany: W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uzasadnienie: Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, zgodnie z którą nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie bezpośrednio dotyczył członka Komisji. 55. Art. 9 ust. 5 Pracodawcy RP Projekt wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRibSi) w szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI w Polsce, co rodzi ryzyko fragmentacji prawa unijnego i różnych interpretacji. Propozycja: Wyraźne wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 56. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 Pracodawcy RP Stwierdzić należy, że część przepisów zawartych w projekcie (art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13) wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI) w Uwaga wyjaśniona 60 ust. 1 i 2, art. 13 szeroką swobodę w zakresie ingerencji w stosowanie Ustawy i Aktu o AI w Polsce. Rodzi to w naszej ocenie poważne ryzyko fragmentacji prawa unijnego. Zakładając bowiem, że poszczególne organy państw członkowskich ds. sztucznej inteligencji będą miały podobne uprawnienia, istnieje ryzyko, że będzie to prowadzić do różnych interpretacji unijnej regulacji dot. sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. W efekcie czego doprowadzi to do stanu niepewności regulacyjnej, co przełoży się negatywnie na przyjęcie przepisów o sztucznej inteligencji na terenie Unii Europejskiej. Apelujemy więc o to, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 57. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Konfederacj a Lewiatan Propozycja zmiany: Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 58. Art. 10 ust. 1 i 2 Pracodawcy RP Podobnie jak w art. 9 ust. 5, projekt daje KRiBSI zbyt dużą swobodę, co może prowadzić do niejednolitego stosowania regulacji w UE. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i 61 wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 59. Art. 11 ust. 1 Konfederacj a Lewiatan Aktualne brzmienie: Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Zapytanie: Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art.11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Opinie indywidualne dotyczą konkretnego podmiotu i jego skonkretyzowanej sytuacji prawnej. Wydawane są zawsze na wniosek tego podmiotu. Wyjaśnienia dotyczą pewnego zagadnienia ogólnego. Mają na celu zapewnienie zapewnienia jednolitego stosowania przepisów rozporządzenia 2024/1689 oraz ustawy. Będą wydawane przez Komisję z urzędu lub na wniosek podmiotu. 60. Art. 11 ust. 2 Konfederacj a Lewiatan Propozycja zmiany: W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uzasadnienie: Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. Uwaga wyjaśniona Wskazana w uzasadnieniu uwagi zasada wynika wprost z przepisów Unii Europejskiej. 61. Art. 12 PUODO Art. 12 projektu ustawy dotyczący wydawania przez Komisję opinii indywidualnych. Powstaje pytanie czy zakres tych opinii będzie obejmował także kwestie związane z danymi osobowymi. Uzasadnienie do projektu ustawy nie odnosi się do tego zagadnienia. Zauważyć należy, że wniosek o wydanie opinii, zgodnie z ust. 3 pkt 4 ww. przepisu, zawiera „numer PESEL, jeżeli wnioskodawcą jest osoba fizyczna (...)”, natomiast projektodawca nie uzasadnił niezbędności przetwarzania tej danej osobowej. Uwaga wyjaśniona Opinie indywidualne wydawane przez Komisję. Intencją projektodawcy jest aby opinie indywidualne Komisji dotyczyły obowiązków/praw wynikający ze stosowania rozporządzenia 2024/1689 oraz ustawy. Ich celem nie jest objęcie kwestii związanych z ochroną danych osobowych. Nie można wykluczyć jednak, 62 W świetle rozporządzenia 2016/679 identyfikator osoby musi być poddany szczególnej ochronie, w związku z czym należy stwarzać szczególne gwarancje wynikające z przepisów prawa, mając na względzie konieczność ich dostosowania do ww. rozporządzenia. Zgodnie z art. 87 rozporządzenia 2016/679 przetwarzanie „krajowego numeru identyfikacyjnego” (jakim jest numer PESEL) musi odbywać się z zachowaniem odpowiednich zabezpieczeń praw i wolności osoby, której dane dotyczą. To m.in. oznacza, że przetwarzanie identyfikatora osoby musi się odbywać z poszanowaniem zasady minimalizacji danych (art. 5 ust. 1 lit. c) rozporządzenia 2016/679. Projektodawca powinien, zważywszy na art. 87 rozporządzenia 2016/679 uzasadnić konieczność pozyskiwania numeru PESEL wnioskującego o wydanie opinii indywidualnej. aby opinia taka wskazywała na fakt przetwarzania przez podmiot/system sztucznej inteligencji danych osobowych oraz wskazania, że nie w tym zakresie podmiot obowiązany jest zachować zgodność z RODO a organem który będzie w tym zakresie właściwym jest PUODO. 62. Art. 12 ust. 1 i 2 Pracodawcy RP Projekt przyznaje KRibSi szerokie uprawnienia, co może skutkować różnicami w interpretacji i egzekwowaniu przepisów w różnych krajach UE. Propozycja: Wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 63. Art. 12 ust. 4 NCBR (Dot. opłaty za opinię indywidualną) Propozycja zmiany: zwolnić MŚP/mikroprzedsiębiorców z opłaty lub wprowadzić preferencyjną stawkę (np. 50 zł). Uzasadnienie: ułatwi to małym podmiotom uzyskanie interpretacji i dostosowanie się do przepisów. Uwaga wyjaśniona Kwota opłaty za wydanie opinii indywidualnej nie wynosi 150 zł. Wysokość opłaty nie stanowi bariery finansowej uniemożliwiającej wystąpienie o wydanie przedmiotowej opinii. 64. Art. 12 ust. 10 Konfederacj a Lewiatan Propozycja zmiany: Uwaga uwzględniona 63 10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Uzasadnienie: Błędna numeracja odniesienia. Zmieniono przepis w zakresie odwołania się do właściwego ustępu. 65. Art. 12 ust. 15 IAB Polska Wprowadzenie przepisu jasno wskazującego, że wnioskodawca nie ponosi negatywnych konsekwencji, jeśli nie miał wiedzy o toczącym się postępowaniu w momencie składania wniosku. Projektowane przepisy nie gwarantują wprost, że wnioskodawca nie poniesie negatywnych konsekwencji za przedstawienie stanu faktycznego, jeśli nie wiedział, że jest on przedmiotem toczącego się postępowania. Brak tej ochrony może zniechęcać podmioty do składania wniosków i ograniczać skuteczność procedury wydawania opinii indywidualnych. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnej weryfikacji, czy stan faktyczny objęty wnioskiem jest przedmiotem jakiegokolwiek postępowania przed organami publicznymi lub sądami, jeżeli nie otrzymał on żadnej wiarygodnej informacji w tym zakresie (np. pisma odpowiedniego organu lub sądu). Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 66. Art. 12 ust. 13 - 15 Konfederacj a Lewiatan Projektowana ustawa powinna zawierać jednoznaczne stwierdzenie, że wnioskodawca nie poniesie żadnych negatywnych konsekwencji za złożenie oświadczenia, że dany stan faktyczny nie jest objęty toczącym się postępowaniem, o ile wnioskodawca nie miał wiedzy o takim postępowaniu w momencie składania wniosku, przy założeniu, że stan faktyczny rzeczywiście nie jest przedmiotem toczącego się postępowania. Ustawodawca powinien wziąć pod uwagę, że wnioskodawca może nie mieć możliwości uzyskania takiej informacji, zwłaszcza jeżeli stosowne zawiadomienia nie zostały jeszcze oficjalnie przekazane lub opublikowane. W związku z powyższym, ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego sprawdzania czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. 64 postępowania przed złożeniem wniosku o wydanie opinii indywidualnej. Co więcej, ustawa powinna zawierać przepisy zabezpieczające wnioskodawcę przed negatywnymi konsekwencjami w przypadku, gdy oświadczenie o braku toczącego się postępowania okaże się nieprawdziwe z przyczyn leżących poza kontrolą wnioskodawcy, takich jak błędy administracyjne, opóźnienia w przekazywaniu informacji lub inne okoliczności, które uniemożliwiły wnioskodawcy uzyskanie rzetelnej informacji o toczącym się postępowaniu. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 67. Art. 12 i art. 13 ZPP Procedury dotyczące wydawania opinii indywidualnych oraz ustalania opłat muszą być precyzyjnie określone, by zapewnić jasność i przewidywalność postępowania administracyjnego. Uregulować procedury dotyczące wydawania opinii indywidualnych oraz opłat z nimi związanych, zapewniając przejrzystość i jednoznaczność postępowania. Uwaga uwzględniona Procedura, o której mowa w uwadze została doprecyzowana w art. 12. 68. Art. 12, 13, 26 Pracodawcy RP Istotną kwestię stanowi także brak przejrzystości i mechanizmów wyjaśniania decyzji podejmowanych przez AI (podstawa prawna: art. 13, 52-55 AI Act, art. 12, 13, 26 projektu). Projekt nie wprowadza szczegółowych regulacji dot. obowiązku przejrzystości i wyjaśniania decyzji podejmowanych przez systemy AI. AI Act nakłada na dostawców i podmioty stosujące AI obowiązek: • informowania użytkowników końcowych o sposobie działania algorytmu, • testowania systemów AI pod kątem występowania uprzedzeń, • umożliwienia osobom fizycznym odwołania się od decyzji podjętych przez AI. Brak tych regulacji w projekcie może naruszać prawa osób fizycznych do rzetelnej informacji, a także prowadzić do sytuacji, w których użytkownicy nie będą mieli możliwości dochodzenia swoich praw w przypadku błędnych lub dyskryminujących decyzji podejmowanych przez AI. Mając powyższe na względzie, apelujemy o wprowadzenie mechanizmów transparentności AI, w tym prawa Uwaga wyjaśniona Projekt ustawy nie reguluje we wskazanych przepisach decyzji podejmowanych przez AI. 65 użytkownika do uzyskania wyjaśnień decyzji podejmowanych przez AI. 69. Art. 13 Pracodawcy RP Projekt daje KRibSi szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI, co może prowadzić do fragmentacji prawa unijnego. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 70. Art. 13 Konfederacj a Lewiatan Propozycja brzmienia: Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uzasadnienie: Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 71. Art. 14 IAB Polska Dodanie przepisu umożliwiającego wnioskodawcom jednoznaczne oznaczenie informacji poufnych jako niepublicznych w momencie ich składania oraz zobowiązującego Komisję do uwzględnienia tego oznaczenia przy publikacji treści opinii i wyjaśnień Obecnie projektowane przepisy nie określają jednoznacznie zasad ochrony informacji poufnych, takich jak tajemnice przedsiębiorstwa, w kontekście opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Wnioskodawcy powinni mieć zagwarantowaną możliwość oznaczania informacji, które nie powinny być publikowane, a brak Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli 66 takiego mechanizmu może prowadzić do niekontrolowanego ujawniania wrażliwych danych. zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 72. Art. 14 Konfederacj a Lewiatan Ustawa powinna zawierać jasne i jednoznaczne wytyczne dotyczące oznaczania przez wnioskodawców informacji nieprzeznaczonych do publikacji, takich jak tajemnice przedsiębiorstwa, dane osobowe czy informacje wrażliwe. Obecne przepisy nie precyzują, w jaki sposób identyfikować dane poufne w opiniach, wyjaśnieniach czy innych dokumentach składanych w ramach postępowania, co prowadzi do niepewności i ryzyka przypadkowego ujawnienia informacji zastrzeżonych. Aby zapewnić ochronę danych poufnych i zwiększyć pewność prawną wnioskodawców, konieczne jest wprowadzenie przepisu, który umożliwi im wyraźne oznaczenie poufnych informacji jako niepublicznych już w momencie ich składania. Taki przepis powinien określać: ● Sposób oznaczania informacji poufnych: np. poprzez wyraźne wskazanie w dokumencie, które fragmenty są objęte tajemnicą; ● Formę składania zastrzeżenia: np. poprzez dołączenie do wniosku oddzielnego pisma zawierającego zastrzeżenie poufności określonych informacji; ● Procedurę postępowania z informacjami poufnymi: np. określenie zasad dostępu do tych informacji przez organ rozpatrujący wniosek, sposób ich przechowywania i ochrony; ● Sankcje za naruszenie poufności: np. kary administracyjne lub odpowiedzialność karna za ujawnienie informacji zastrzeżonych; Wprowadzenie takich rozwiązań przyczyni się do zwiększenia zaufania do organów administracji publicznej, zapewni ochronę interesów wnioskodawców i przyczyni się do usprawnienia postępowań administracyjnych. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 73. Art. 14 oraz art. 22 ust. 5 ZPP Ustalić precyzyjne zasady oznaczania informacji poufnych, umożliwiając podmiotom kontrolowanym wskazanie danych nieprzeznaczonych do publikacji oraz ograniczyć dostęp do takich informacji wyłącznie do niezbędnego zakresu. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym 67 tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 74. Art. 15 PUODO Nowy przepis art. 15 dotyczący realizacji obowiązku sprawozdawczego przez Komisję w ust. 1 wskazuje, że: „Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej, Radzie Ministrów, Rzecznikowi Praw Obywatelskich, Prezesowi Urzędu Ochrony Danych Osobowych oraz Prokuratorowi Generalnemu sprawozdanie z działalności Komisji za rok poprzedni”. Ust. 2 poprzez zwrot „w szczególności” zawiera otwarty katalog informacji dotyczący ww. sprawozdania, co w ocenie organu nadzorczego powinno zostać doprecyzowanie poprzez domknięcie przedmiotowego katalogu informacji. Uwaga uwzględniona W przepisie domknięto katalog informacji dotyczący ww. Sprawozdania. 75. Art. 15 ust. 1 RPD W związku z postulatem wykreślenia przedstawiciela Rzecznika Praw Dziecka ze składu Członków Komisji, Rzecznika Praw Dziecka należy dodać w skład podmiotów, którym Przewodniczący składa Komisji sprawozdanie z działalności Komisji za rok poprzedni. Możliwość zapoznania się z działalnością Komisji ma bowiem istotne znaczenie dla Rzecznika Praw Dziecka z perspektywy monitorowania stanu przestrzegania praw dziecka przez organy publiczne w Polsce. Uwaga wyjaśniona Mając na uwadze, że Przewodniczący Komisji będzie powoływany przez Sejm RP za zgodą Senatu RP a Komisja będzie organem niezależnym w ustawie przesądzono, że wskazane w przedmiotowym przepisie sprawozdanie będzie przedstawiane Sejmowi RP. 76. Art. 16 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Uzasadnienie: Rekomendujemy przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 68 Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. 77. Art. 16 ust. 1 pkt 4) Konfederacj a Lewiatan Propozycja brzmienia: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Uzasadnienie: Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Tym samym rekomendujemy zmianę sformułowania. Uwaga uwzględniona W przepisie użyto zwrotu “na rzecz podmiotów”. 78. Art. 16(2) IAB Polska Doprecyzowanie wymogów kwalifikacyjnych dla Przewodniczącego Komisji Obecne przepisy nie precyzują szczegółowych wymogów kwalifikacyjnych dla Przewodniczącego Komisji, co może prowadzić do niejasności w procesie jego wyboru. W celu zapewnienia właściwego poziomu kompetencji osoby pełniącej tę funkcję – Ministerstwo powinno w swoich oficjalnych komunikatach wskazywać kluczowe obszary wiedzy i umiejętności, które powinny być brane pod uwagę przez Parlament przy wyborze Przewodniczącego. Działanie to, choć niewiążące, mogłoby stanowić istotną wytyczną i przyczynić się do wyboru najlepszego kandydata, bez naruszania zasady podziału władzy. Uwaga wyjaśniona Przepisy dotyczące wymogów kwalifikacyjnych dla Przewodniczącego Komisji nie będą bardziej doprecyzowane. 79. Art. 18 ust. 6 Konfederacj a Lewiatan Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Uwaga wyjaśniona W skład zespołu będą wchodziły osoby których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących 69 działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 80. Art. 20 ust. 1 UKNF Nowe brzmienie przepisu art. 20 ust. 1 projektu ustawy może rodzić wątpliwości interpretacyjne. Nie jest bowiem wiadomym, do której części przepisu odnosi się sformułowanie „(...) zatrudnionych w podmiotach, o których mowa art. 6 ust. 2 tej ustawy”. Z całokształtu przepisu wynika, że odnosi się ono do „stanowisk”, co jednak jest pozbawione racjonalnego uzasadnienia. Należy ponadto wskazać, że w art. 6 ust. 2, do którego odwołuje się przedmiotowy przepis, wskazane są m.in. takie podmioty jak Prezes Urzędu Komunikacji Elektronicznej i Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Z aktualnego brzmienia przepisu wynika zatem, że to właśnie w tych podmiotach zatrudniony może być Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w odesłaniu zawartym w art. 20 ust. 1. 81. Art. 22 PUODO Art. 22 projektu ustawy dotyczy obowiązku informacyjnego. Projektodawca w ust. 1 wskazuje, że: „Biuro Komisji może wykonać obowiązek, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1, z późn. zm.), zwanego dalej „rozporządzeniem 2016/679”, przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 rozporządzenia 2016/679, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji”. Uwaga uwzględniona W art. 22 wykreślono ust. 1, 2 i 5. 70 Takie ukształtowanie sposobu spełnienia obowiązku informacyjnego jest niezgodne z zasadami określonymi w rozporządzeniu 2016/679. Zgodnie bowiem z jego przepisami administrator nie może odesłać w całości do swojej strony internetowej lub możliwości zapoznania się z informacjami w jego siedzibie. Każdy administrator spełniając obowiązek informacyjny powinien wskazać następujące elementy wynikające z rozporządzenia 2016/679: kto jest administratorem danych (w tym kontakt z administratorem), cel przetwarzania i podstawa prawna, odbiorcy danych, okres przechowywania danych, wskazanie praw osób, których dane są przetwarzane, żądanie sprostowania danych, informacja o prawie do wniesienia skargi do organu nadzorczego. W celu zapewnienia większej przejrzystości rozważyć należy warstwowe spełnienie obowiązku informacyjnego – warto zatem aby projektodawca wziął pod uwagę treść Wytycznych Grupy roboczej Art. 29 w sprawie przejrzystości na mocy rozporządzenia 2016/679 przyjętych dnia 29 listopada 2017 r., zawierających m.in. stosowne przykłady w tym zakresie. Warto wskazać przy tym na konieczność przekazania przez administratora podczas pozyskiwania danych podstawowych informacji dotyczących przetwarzania danych. 82. Art. 22 ust. 3 UKNF Nowe brzmienie przepisu nie usuwa wątpliwości, na które dotychczas wskazywał Urząd Komisji Nadzoru Finansowego. Przedstawiciel KNF w Komisji będzie pozbawiony możliwości udostępniania pracownikom UKNF oraz Przewodniczącemu KNF i jego Zastępcom pozyskanych informacji w ramach pełnienia funkcji, do której został delegowany na podstawie projektowanej ustawy, co może w przyszłości znacząco utrudniać skuteczne sprawowanie nadzoru nad systemami AI wysokiego ryzyka w instytucjach finansowych. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, że informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. Przykładowo, że Przedstawiciel KNF uprawniony będzie do przekazywania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej Uwaga wyjaśniona Propozycja zmiany przepisu wydaje się zbyt daleko idąca w szczególności w kontekście przepisów RODO. 71 możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 5 ust. 3 pkt 1 projektu ustawy. 83. Art. 22 ust. 3 Pracodawcy RP Przepis zabrania uczestnikom spotkań ujawniania informacji chronionych, ale nie ogranicza ich wykorzystania wyłącznie do celów służbowych, co stwarza ryzyko dla ochrony danych. Propozycja: Wprowadzenie klauzul ochronnych, aby dane były wykorzystywane tylko w celach służbowych. Uwaga uwzględniona Cel wskazany w uwadze zapewnić ma ust. 2. 84. Art. 22 ust. 1 RPO W związku z powyższym należy również wskazać, że art. 22 ust. 1 projektu ustawy przewiduje możliwość wykonania obowiązku, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 RODO przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 RODO, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji. Należy podkreślić, że obowiązek informacyjny przy gromadzeniu danych od osoby, której dane dotyczą, powinien być, co do zasady według przepisów RODO, realizowany w sposób zindywidualizowany wobec konkretnej osoby, której dane administrator gromadzi. Oznacza to, że przekazanie informacji tej osobie nie powinno być zastępowane komunikatami kierowanymi do ogółu osób zainteresowanych (np. ogłoszeniami wieszanymi na tablicach) ani też poprzez odesłanie do określonych dokumentów (np. regulaminów dostępnych do wglądu itp.). Art. 13 RODO nie przewiduje zwolnienia z obowiązku informacyjnego w sytuacji, gdy przepisy szczególne zezwalają na przetwarzanie (gromadzenie) danych bez wiedzy osoby, której dane dotyczą lub odmiennie regulują kwestie dotyczące informowania, jednak zgodnie z art. 23 RODO, przepisy prawa Unii lub prawo państwa członkowskiego, któremu podlegają administrator danych lub podmiot przetwarzający mogą ograniczać zakres obowiązków i praw przewidzianych w art. 12–22 i art. 34, w tym również omawianego obowiązku informacyjnego23. W Uwaga nieaktualna W art. 22 ust. 1 został wykreślony. 72 uzasadnieniu projektu ustawy brak jednak wskazania przyczyn przemawiających za podjem decyzji o realizowaniu de facto obowiązku informacyjnego przewidzianego w art. 13 i art. 14 RODO w sposób uproszczony. 85. Art. 22 ust. 5 IAB Polska Wprowadzenie bardziej rygorystycznych mechanizmów ochrony informacji udostępnianych organom, takim jak Policja, poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne powinny zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, co zapewni spójność regulacyjną i zwiększy ochronę wrażliwych informacji Dane związane z AI obejmują strategiczne informacje rynkowe, tajemnice przedsiębiorstwa, algorytmy oraz kluczowe szczegóły operacyjne, których nieuprawnione ujawnienie może prowadzić do utraty przewagi konkurencyjnej lub zagrożenia bezpieczeństwa technologicznego. Brak odpowiednich zabezpieczeń niesie ryzyko niekontrolowanego dostępu do tych informacji, co może skutkować naruszeniem tajemnicy przedsiębiorstwa, tajemnicy zawodowej lub ujawnieniem krytycznych decyzji biznesowych. Wprowadzenie mechanizmu kontroli sądowej lub prokuratorskiej ograniczy możliwość nadużyć i wzmocni zaufanie do systemu regulacyjnego, zapewniając, że dostęp do tych danych będzie przyznawany wyłącznie w uzasadnionych przypadkach. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 86. Art. 22 ust. 5 PUODO Poważne wątpliwości Prezesa UODO budzi treść art. 22 ust. 5 projektu ustawy, który wskazuje na udostępnianie przez Komisję przetwarzanych danych osobowych oraz innych informacji na wniosek organom określonym w tym przepisie (m.in. ABW, Policji, Agencji Wywiadu, CBA, prokuratorom, sędziom sądów powszechnych). W przepisie tym jest wzmianka o „uwzględnieniu przepisów o ochronie danych osobowych” oraz że możliwe jest to „w celu realizacji przez te organy i podmioty ich zadań ustawowych”, niemniej jest to przepis obarczony poważnymi wadami z punktu widzenia zgodności z zasadami stanowienia prawa. Zauważyć należy, że cele, których realizacji służyć będą Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 73 postępowania prowadzone przez Komisję są z założenia inne niż cele wynikające z zadań ww. organów. Powstaje wątpliwość o celowość tej regulacji w sytuacji, gdy na podstawie odrębnych przepisów prawa wskazane podmioty mają podstawę do występowania do każdego administratora o udostępnienie informacji w zakresie niezbędnym dla potrzeb prowadzonych postępowań. W szczególności dotyczy to Policji i innych służb, które mają jasno określony sposób dostępu do danych osobowych (np. kontrola sądowa dla pewnych obszarów), czy też sądów i prokuratur (przepisy procedury cywilnej i karnej). Szczególnych gwarancji dla ochrony danych osobowych nie buduje także powoływanie się na przepisy o ochronie danych osobowych, gdyż ani z ogólnego rozporządzenia o ochronie danych osobowych ani z ustawy o ochronie danych osobowych, ani też z przepisów ustawy z dnia 14 grudnia 2018 r. o ochronie danych osobowych przetwarzanych w związku z zapobieganiem i zwalczaniem przestępczości nie wynikają szczegółowe warunki udostępniania danych osobowych na rzecz ww. podmiotów. Powstaje zatem pytanie o niezbędność wprowadzenia takiej regulacji, a tym samym spełnienia wymogów wynikających z norm konstytucyjnych i przepisów regulujących działalność Policji, wskazanych służb specjalnych oraz prokuratury i sądów do danych osobowych. Tego rodzaju regulacja może być zinterpretowana jako regulacja specjalna wobec tych przepisów, które de lege lata reglamentują dostęp do informacji dotyczących obywateli. W tym kontekście oceniany przepis wydaje się zbędny, ponieważ dostęp do danych osobowych przetwarzanych przez sądy, prokuraturę, Policję i inne służby odbywa się na innych zasadach, uregulowanych w przepisach szczególnych. 87. Art. 22 ust. 5 UKNF Z uwagi na potrzebę zapewnienia stosowania art. 74 ust. 7 rozporządzenia 2024/1689 w polskim porządku prawnym, w zakresie współpracy między KNF a Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji w przedmiocie spraw dotyczących systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 74 finansowe podlegające przepisom prawa Unii Europejskiej dotyczącym usług finansowych, UKNF ponownie wskazuje na konieczność doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z tego względu konieczne jest odpowiednie dostosowanie brzmienia art. 22 ust. 5 projektu ustawy poprzez dodanie KNF do katalogu podmiotów wymienionych w omawianym przepisie. Umożliwi to pozyskiwanie przez Komisję Nadzoru Finansowego, na jej wniosek, danych osobowych oraz pozostałych informacji przetwarzanych przez Komisję oraz Biuro Komisji w ramach realizowanych zadań. 88. Art. 22 ust. 5 Konfederacj a Lewiatan Uwaga: Proponujemy wykreślenie całego ust. 5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą. Propozycja brzmienia: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: 1)Agencji Bezpieczeństwa Wewnętrznego; 2)Policji; 3)Agencji Wywiadu; 4)Służbie Kontrwywiadu Wojskowego; 5)Służbie Wywiadu Wojskowego; 6)Straży Granicznej; 7)Komendzie Głównej Żandarmerii Wojskowej; 8)Centralnemu Biuru Antykorupcyjnemu; 9)prokuratorom; 10)sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Uzasadnienie: Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 75 Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). Ponadto, stoimy na stanowisku, iż należy wprowadzić bardziej rygorystyczne zabezpieczenia w zakresie ujawniania informacji organom ścigania, takim jak Policja. Można to osiągnąć poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora lub dostosowanie ram prawnych do standardów poufności określonych w Prawie Komunikacji Elektronicznej. Dane związane z SI są często wysoce wyspecjalizowanymi i cennymi informacjami biznesowymi i rynkowymi, a także istotnymi szczegółami operacyjnymi podmiotów zaangażowanych w rozwój i wdrażanie SI. Nieuprawnione ujawnienie takich informacji może prowadzić do ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wprowadzenie kontroli sądowej lub prokuratorskiej zapobiegałoby potencjalnym nadużyciom i zapewniłoby, że dostęp do wrażliwych danych SI byłby przyznawany wyłącznie w przypadku wyraźnej i uzasadnionej potrzeby. 89. Art. 22; art. 24 IAB Polska Konieczność zabezpieczenia informacji chronionych Projekt wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być osoby posiadające wiedzę specjalistyczną zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju AI. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 76 90. Art. 22; art. 24 Konfederacj a Lewiatan Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 91. Art. 23 ust. 2 PUODO Art. 23 projektu ustawy, w którym w ust. 2 projektodawca wskazuje jedynie na zapewnienie integralności i poufności. Pamiętać należy, że szczególny reżim przetwarzania wymaga uwzględnienia w przepisach nakładających obowiązek przetwarzania danych i zapewnienia nie tylko integralności i poufności, ale także rzetelności i przejrzystości, ograniczenia celu, niezbędności, minimalizacji (art. 5 rozporządzenia 2016/679), jak również uwzględnienia warunków wynikających z art. 6 ust. 3 ww. rozporządzenia, warunków odpowiednich zabezpieczeń praw podstawowych i interesów osoby, której dane dotyczą, konkretnych środków ochrony praw i wolności osób (art. 9 rozporządzenia 2016/679) oraz warunków dokonywania operacji na danych z art. 10 tego rozporządzenia wyłącznie pod nadzorem władz publicznych z zabezpieczeniem praw i wolności osób, których dane dotyczą. Wskazać należy, że fragmentaryczne odwoływanie się do zasad z rozporządzenia 2016/679 nie znajduje zatem uzasadnienia. Uwaga uwzględniona W celu właściwego stosowania przepisów w zakresie ochrony danych osobowych na skutek ponownej analizy przepisu w kontekście zgorszonej uwagi w art. 23 odstąpiono od ograniczeń i włączeń z zakresu RODO. 92. Art. 23 ust. 3 PUODO Art. 23 ust. 3 wskazuje na otwarty katalog danych osobowych przetwarzanych przez Komisję w ramach nadzoru nad systemami sztucznej inteligencji. W ocenie organu nadzorczego kompetencje organu, ich zakres powinien być dookreślony, nie może pozostawać niesprecyzowany. W związku z powyższym konieczne jest domknięcie przedmiotowego katalogu. Poza tym nie jest zrozumiałe i nie Uwaga uwzględniona Przepis przeredagowano rezygnując z otwartego katalogu danych osobowych przetwarzanych przez Komisję. 77 znajduje uzasadnienia pozyskiwanie przez Komisję w każdej sytuacji wszystkich informacji i danych wskazanych w punktach 1- 5 ww. przepisu. 93. Art. 23 ust. 4, ust. 5 NCBR (Dot. przechowywania danych) Propozycja zmiany: skrócić okres przechowywania danych z 5 do max. 2-3 lat. Uzasadnienie: zgodne z zasadą minimalizacji danych wynikającą z RODO; dodatkowo – ograniczone są techniczne możliwości przechowywania wielkich wolumenów danych. Uwaga wyjaśniona W art. 23 ust. 4 został wykreślony. Okres przechowywania danych został dostosowany do wymogów zastosowanych procedur postępowania przez Komisją. 94. Art. 23 ust. 6 RPO Niezależnie od powyższego częściowo aktualna pozostaje uwaga zwarta w piśmie Rzecznika Praw Obywatelskich z dnia 14 listopada 2024 r. (znak: VII.501.187.2024.PKR) dotycząca ograniczenia obowiązków wynikających z RODO22. Obecnie kwestie tę reguluje art. 23 ust. 6 projektu ustawy, zgodnie z którym przetwarzanie przez Komisję, Biuro Komisji i upoważnionych, w związku z wykonywaniem zadań służbowych, pracowników urzędów obsługujących podmioty, o których mowa w art. 6 ust. 2 ustawy, oraz osoby, o których mowa w art. 6 ust. 3 ustawy, danych, o których mowa w ust. 3, ogranicza realizację obowiązków wynikających art. 18 ust. 1 lit. a i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych oraz prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie rozporządzenia 2016/679 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych), jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 RODO. Art. 23 ust. 6 projektu ustawy wciąż pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika natomiast, dlaczego Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 78 projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Jak już Rzecznik wskazywał poprzednio, skoro sam akt w sprawie sztucznej inteligencji nie przewiduje wyłączenia stosowania przepisów RODO, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu w sprawie sztucznej inteligencji i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 95. Art. 23 ust. 6 PUODO Art. 23 ust. 6 projektu ustawy jest niezrozumiały poprzez zawarcie w ostatniej części zdania zwrotu „(...) jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 rozporządzenia 2016/679”. Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 96. Art. 24 ZPP Wprowadzić język ochronny, który zapewni, że informacje objęte tajemnicą handlową oraz danymi wrażliwymi będą odpowiednio chronione przed nieuprawnionym ujawnieniem. Uwaga wyjaśniona Przetwarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 97. Art. 24 ust. 1 Pracodawcy RP Przepis nie zawiera klauzul ochronnych dotyczących danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania informacji. Propozycja: Dodanie zabezpieczeń dotyczących ochrony danych. Uwaga wyjaśniona Powtarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 98. Art. 24 ust. 2 PUODO Art. 24 ust. 2 w zaproponowanym brzmieniu budzi szereg ryzyk, albowiem wskazuje na przekazywanie przez Komisję bez żadnego trybu podmiotom wskazanym w tym przepisie informacji stanowiących tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa bez wskazania celu. Przepis w obecnym brzmieniu nie jest zrozumiały i budzi poważne wątpliwości organu nadzorczego. Uwaga wyjaśniona Możliwość przekazania informacji organom wskazanym w przepisie jest niezbędna dla właściwej realizacji przepisów rozporządzenia 2024/1689 i ustawy. Przesłanką przekazania informacji jest ich niezbędność do realizacji ustawowych zadań tych podmiotów. 79 Stąd też możliwość ubiegania się o informacje musi wprost wynikać przepisów prawa obejmującego działania podmiotów. Ubiegając się o pozyskanie informacji niezbędne będzie wskazanie podstawy prawnej uprawniającej do dostępu do takich informacji. 99. Art. 24 ust. 3 UOKiK Prezes UOKiK podtrzymuje uwagę dotyczącą konieczności wyłączenia informacji, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów1 (dalej: uokk) z zakresu informacji, które mogą być przetwarzane w ramach współpracy w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w sytuacji, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/16892. Jak to zostało wskazane w piśmie z dnia 19 listopada 2024 r. (sygn. DPR.0240.239.2024.AK) przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu Ochrony Konkurencji i Konsumentów szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach. Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności. Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Obowiązek ochrony przedmiotowych tajemnic i informacji stanowi zobowiązanie nałożone na UOKiK przepisami dyrektywy ECN+3 i jest gwarancją niezależności organu ochrony konkurencji. Wobec Uwaga wyjaśniona. Mając na uwadze zakaz sformułowany w art. 73 ust. 1 ustawy o uokk dodanie regulacji w przedmiotowej ustawie w zaproponowanym brzmieniu wydaje się niezasadne. 80 powyższego, w celu zapewnienia zgodności projektowanego art. 24 z przepisami uokk zwracam się o dodanie w projektowanym art. 24 ust. 3 w brzmieniu: „3. Przepisów ust. 1 i 2 nie stosuje się do obowiązków, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów.”. 100. Art. 25 RPD W projektowanych przepisach ustawy o systemach SI nadal nie określono ani terminu, w którym Komisja ma powołać skład Rady, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie składu Rady i rozpoczęcie przez nią zostanie odłożone na nieokreślony czas. W związku z tym proponuję prowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Uwaga wyjaśniona Harmonogram powołania rady określi Komisja. 101. Art. 25 Rada Działalności Pożytku Publicznego Rada proponuje wprowadzenie następujących zmian do projektu ustawy: 1) w art. 25 ust. 3 po pkt 6 dodać pkt 6a w brzmieniu: „6a) Rada Działalności Pożytku Publicznego, o której mowa w art. 35 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940);”; Uzasadnienie: Rada Działalności Pożytku Publicznego (RDPP) jest ustawowym ciałem, którego celem jest m.in. prowadzenie dialogu obywatelskiego, który jest fundamentem państw demokratycznych. Rada zrzesza przedstawicieli i przedstawicielki NGO, administracji lokalnego, regionalnego i centralnego szczebla. Udział przedstawiciela/przedstawicielki RDPP wzmocni społeczny wymiar Rady, której kształt określa art. 25 przedmiotowego projektu ustawy. 2) w art. 25 ust. 3 zmienić brzmienie pkt. 10 z: „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej.” Uwaga częściowo uwzględniona Uwzględniono pkt 2 uwagi poprzez zmianę w art. 25 ust. 3 projektu ustawy: “Kandydatów na członków Rady może zgłosić: (.) 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców, lub też których celem statutowym jest działalność w co najmniej jednym z obszarów: - sztuczna inteligencja, nowe technologie, - sprawiedliwość technologiczna, - ochrona praw człowieka, - edukacja lub kultura cyfrowa; - bezpieczeństwo informacji.”. 81 na następujące: „organizacje pozarządowe w rozumieniu art. 3 ust. 2 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940).” Uzasadnienie: Należy wziąć pod uwagę, że wiele organizacji pozarządowych (w tym stowarzyszeń i fundacji) prowadzi działalność statutową we wskazanych obszarach, jednak cele statutowe tych organizacji mogą być sformułowane w ich statutach w sposób bardziej ogólny, ponieważ przepisy prawa nie obligują i nie skłaniają organizacji do tak precyzyjnego określania celów w statutach – dlatego też nie należy zawężać grupy organizacji uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji wyłącznie do fundacji i stowarzyszeń, które w swoich statutach przewidziały w tak szczegółowy sposób sprecyzowane cele; 3) w art. 25 w ust. 2 słowa „od dziewięciu do piętnastu członków” zastąpić słowami „od jedenastu do dwudziestu pięciu członków” Uzasadnienie: Biorąc pod uwagę liczbę podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji przewidzianą w art. 25 ust. 3 projektowanej ustawy (11), Rada proponuje zwiększyć dolną i górną granicę widełek ilościowych zaproponowanych w projekcie ustawy. 102. Art. 25 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: Proponujemy dodanie punktu 11) o brzmieniu: 11) organizacje pracodawców Uzasadnienie: Brak uwzględnienia organizacji pracodawców w katalogu podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji wyklucza wiele reprezentatywnych organizacji, które nie posiadają statusu izby gospodarczej, takich jak np. Konfederacja Lewiatan. Uwaga wyjaśniona Rozszerzanie listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące organizacje pracodawców nie wydaje się zasadne. W przepisie uwzględniono bowiem izby gospodarcze oraz reprezentatywne organizacje związkowe. 103. Art. 25 ust. 3 pkt 8) NSZZ Projekt przewiduje możliwość zgłaszania przez związki zawodowe kandydatów na członków Społecznej Rady do Spraw Sztucznej Uwaga uwzględniona 82 Inteligencji. Problem: w Polsce funkcjonuje 11 656 związków zawodowych (dane GUS z 4.09.2023), co oznacza, że wszystkie mogłyby zgłosić kandydatów, co jest niepraktyczne. Propozycja: ograniczenie prawa zgłaszania kandydatów do organizacji związkowych reprezentatywnych w rozumieniu ustawy o Radzie Dialogu Społecznego, ze względów funkcjonalnych. Zmieniono brzmienie art. 25 ust. 3 pkt 8. 104. Art. 25 ust. 3 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz przyznanie Rzecznikowi Finansowemu uprawnienia zgłaszania kandydatów na członków Rady Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące rynek finansowy. 105. Art. 25 ust. 4 i art. 26 ust. 5 RPD Projekt w obecnym kształcie nie wprowadza wyraźnego wymogu niezależności od dostawców systemów sztucznej inteligencji na etapie powoływania członków Rady. Zgodnie z projektowanym art. 25 ust. 4, osoba zgłasza do Rady przez uprawniony podmiot musi jedynie: posiadać wiedzę i doświadczenie w obszarze sztucznej inteligencji, nie być skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystać z pełni praw publicznych oraz wyrazić pisemną zgodę na kandydowanie. Brakuje natomiast wyraźnego wymogu wykazania, że kandydat nie pozostaje w stosunku podległości (np. służbowym) do dostawców i importerów systemów AI, co mogłoby wpływać na jego bezstronność. Z kolei art. 26 ust. 5 przewiduje jedynie następczą kontrolę konfliktu interesów, stanowiąc, że „członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów”, nie precyzując jednak żadnych konkretnych kryteriów ani procedur pozwalających na weryfikację niezależności kandydata przed jego powołaniem. Z tych względów, na wzór wymogu wprowadzonego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, należałoby wprost określić, że członkowie Rady muszą być niezależni od dostawców systemów SI lub modeli SI ogólnego Uwaga wyjaśniona Wskazane w przepisach wymagania zostały uzupełnione o sankcję za naruszenie przepisów art. 26 ust. 5. Co daje podstawę do stwierdzenia że dodatkowe unormowania w zakresie oświadczenia nie są już potrzebne. 83 przeznaczenia, a także wprowadzić obowiązek złożenia stosownego oświadczenia o braku konfliktu interesów w relacjach z operatorami systemów SI, połączonego z odpowiedzialnością za składanie fałszywych oświadczeń. W związku z tym proponuję zmianę art. 25 ust. 4 projektu poprzez dodanie pkt 5 o następującym brzmieniu: Art. 25 ust. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła pisemną zgodę na kandydowanie; 5) złożyła pisemne oświadczenie o braku lub istnieniu jakichkolwiek powiązań osobistych, służbowych, finansowych z dostawcami lub importerami systemów sztucznej inteligencji, które mogłyby prowadzić do konfliktu interesów w związku z udziałem w pracach Rady. 106. Art. 25, Art. 26, Art. 27 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – Rada jest podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy zapewnić udział w Radzie przedtawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez Komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. W obecnej formie dobór składu Rady może zostać uznany za nietransparentny. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej Uwaga wyjaśniona Zaproponowany w przepisach mechanizm powoływania członków Rady, sposób i zakres jej działania realizują zasadę transparentności i odpowiadają potrzebie wsparcia Komisji w realizowanych przez nią zadaniach. 84 decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 107. Art. 25 ust. 2 NCBR (Dot. kadencja Rady): Propozycja zmiany: wydłużyć kadencję Rady z 2 do co najmniej 3 lat. Uzasadnienie: zapewni to większą stabilność i ciągłość prac Rady. Uwaga wyjaśniona Dwuletnia kadencja jest optymalna do zapewnienia ciągłości pracy Rady. 108. Art. 25 ust. 3 KRRiT Aktualny pozostaje postulat, aby Przewodniczący Krajowej Rady Radiofonii i Telewizji miał prawo zgłoszenia kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji (przepis art. 25 ust. 3 projektu) Uwaga wyjaśniona Przewodniczący Krajowej Rady Radiofonii i Telewizji ma w ustawie przewidziane funkcje w art. 6 ust. 2 pkt 3. Mając na uwadze sposób powołania członków Rady nie jest zasadne, aby członek Komisji wskazywał podmiot do Rady Społecznej. 1. Art. 26 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: 3. Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Uzasadnienie: Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 109. Art. 26 ust. 3 RPD Mając na uwadze wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym oraz potrzebę uwzględniania perspektywy młodego pokolenia w procesie kształtowania polityki i regulacji dotyczących systemów sztucznej inteligencji, w Uwaga wyjaśniona W ramach tego artykułu przewidziany został Rzecznik Praw Dziecka który wydaje się 85 szczególności stosowanych w obszarze edukacji i kształcenia osób małoletnich, proponuję uzupełnić art. 26 o przepisy, które wprost przewidzą prawo przedstawicieli zainteresowanych organizacji młodzieżowych do udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez Przewodniczącego Rady lub Komisję. Organizacje te powinny mieć możliwość zwrócenia się do Przewodniczącego Rady z wnioskiem o dopuszczenie do udziału w konkretnym posiedzeniu wybranych przez siebie przedstawicieli, a wniosek taki powinien być niezwłocznie rozpatrywany, przy czym decyzja o odmowie wymagałaby pisemnego uzasadnienia. Dodatkowo należałoby zobowiązać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób małoletnich, aby wyniki tych konsultacji były uwzględniane z należytą wagą, stosownie do wieku oraz dojrzałości dzieci i młodzieży biorących w nich udział. Taka zmiana umacnia gwarancje prawa dziecka do bycia wysłuchanym, przewidzianego w Konwencji o prawach dziecka, i stanowi jednocześnie inwestycję w przyszłość całego społeczeństwa, pozwalając na wczesną identyfikację ryzyka oraz wypracowanie rozwiązań lepiej odpowiadających potrzebom oraz dobru dzieci. najwłaściwszym organem do wskazania kandydata na członka Społecznej Rady. 1. art. 26 ust. 4 w zw. z art. 22 ust.3 Uwaga: Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem 110. art. 27 ust.1 pkt 2 Konfederacj a Lewiatan Nie jest jasne o wnioski, w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w Uwaga wyjaśniona 86 znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postepowania o naruszenia przepisów rozporządzenia 2024/1689. 111. Art. 27 ust. 1 pkt 2 UKNF Wniosek, o którym mowa w tym przepisie nie stanowi wniosku o wszczęcie postępowania w rozumieniu ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego, gdyż Rada nie jest podmiotem praw lub obowiązków, które mogą być przedmiotem postępowania. W konsekwencji czego UKNF proponuje zastąpienie wyrazu „wniosków” wyrazem „rekomendacji”. Uwaga wyjaśniona Jest to wniosek w rozumieniu art. 41 ust. 2 pkt 4. 112. art. 27 ust. 2 Konfederacj a Lewiatan Uwaga i zapytanie: W ust.2 nie ma mowy o „wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie sa przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 2 pkt 4 wszczyna na ich podstawie postępowanie. 113. art. 27 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 114. Art. 28 ust. 5 Konfederacj a Lewiatan Proponowane brzmienie: 5. Organami Biura Komisji są: 1)Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2)Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej 87 Uzasadnienie: Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie a art. 29-art.36 zostały wykreślone. 115. Art. 30 PARP Zastąpić dotychczasowe brzmienie art. 30 (Rejestracja piaskownic) „Testowanie systemów AI w ramach piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” Nowym brzmieniem: 1. „Dostawca systemu sztucznej inteligencji może rozpocząć testowanie systemu AI w piaskownicy regulacyjnej po zgłoszeniu do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” 2. „Komisja może w terminie 30 dni zgłosić zastrzeżenia do testów, jeśli naruszają one przepisy o ochronie danych osobowych, praw podstawowych lub cyberbezpieczeństwa.” 3. „Brak odpowiedzi Komisji w terminie 30 dni oznacza domniemaną zgodę na przeprowadzenie testów.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 116. Art. 31 PARP Do dotychczasowej treści art. 31 dodać ustępy od 4 do 6 w następującym brzmieniu 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 117. Art. 39 ZPP Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia 88 kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 118. Art. 39 ust.1 pkt 4 Konfederacj a Lewiatan Społeczna Rada do spraw Sztucznej Inteligencji powinna pełnić wyłącznie funkcję doradczą i konsultacyjną Komisji, a przyznanie jej uprawnień do inicjowania nadzoru jest wykraczaniem poza jej podstawowe zadania. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny zasadności wniosku o wszczęcie nadzoru. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 119. Art. 39 ust. 1 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania kontroli Komisji Rada powinna pełnić funkcję wyłącznie doradczą i konsultacyjną względem Komisji, bez uprawnień do wnioskowania o wszczęcie kontroli. Przyznanie jej takiej kompetencji wykracza poza jej zamierzoną rolę, zwłaszcza że Rada nie dysponuje odpowiednimi narzędziami proceduralnymi do oceny zasadności inicjowania działań kontrolnych. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 120. Art. 39 ust. 4 IAB Polska Ograniczenie możliwości przeprowadzenia kontroli na miejscu do ściśle określonych przypadków, gdy zdalne metody okazują się niewystarczające do rzetelnej oceny zgodności z przepisami Planowane przepisy pozostawiają nadmierną swobodę w zakresie stosowania kontroli na miejscu, co może prowadzić do nieproporcjonalnej ingerencji w działalność podmiotów podlegających nadzorowi. Ponadto, biorąc pod uwagę zasady funkcjonowania AI, dostęp do danych w postaci cyfrowej w większości przypadków powinien być w zupełności wystarczający. Uwaga uwzględniona Zmieniono brzmienie przepisu. 121. Art. 39 ust. 3 Konfederacj a Lewiatan Aktualne brzmienie: 3. Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Uwaga: Uwaga uwzględniona Zmieniono brzmienie przepisu. 89 Brak części tekstu. 122. Art. 39 ust. 4 Konfederacj a Lewiatan Uwaga: Zasada nadzoru zdalnego powinna zostać wzmocniona. Obecnie istniejący wyjątek, który pozwala na nadzór na miejscu, jest zbyt szeroki i powinien być ograniczony jedynie do wyjątkowych przypadków. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 123. Art. 40 ust. 2 Konfederacj a Lewiatan Propozycja brzmienia: 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje Uzasadnienie: Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Ustawa nie określa wystarczających zabezpieczeń dotyczących osób, które Komisja może upoważnić do udziału w kontroli. Przepis ten stwarza ryzyko, że upoważniony kontroler może być konkurentem kontrolowanego podmiotu lub mieć osobisty interes w wydaniu niekorzystnego protokołu kontroli. Ustawa nie zawiera jasnych kryteriów oceny kwalifikacji eksperta zewnętrznego ani wyraźnych zobowiązań dotyczących poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza Biura nie przechodziłyby formalnych szkoleń w zakresie Uwaga częściowo uwzględniona W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. Dodatkowo art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 90 prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur kontrolnych. Komisja powinna zapewnić, że personel kontrolny, także ten spoza Biura, posiada niezbędne kompetencje, poprzez szkolenia i inne działania budujące zdolności. Ewentualnie, zalecamy usunięcie tego przepisu lub jego doprecyzowanie w celu zminimalizowania ryzyka, zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. 124. Art. 38-48 NCBR 1. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. Należy skrócić ten okres. 2. Przepisy zawierają zbyt szerokie, nieuzasadnione merytorycznie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad SSI. Zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki oraz ściśle określone ramy (granice). 3. Proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli. Kontrolujący powinien być zobowiązany (na piśmie) o zachowania tajemnicy kontrolowanego (np. przedsiębiorstwa), w szczególności w zakresie dostępu do danych gospodarczych oraz związanych z ochroną wartości niematerialnych i prawnych (WNiP). Uwaga częściowo uwzględniona 1.Czas trwania postepowania przed komisją został skrócony do 6 miesięcy (art. 43) 2.Przepisy dotyczące kontroli zostały w znaczny sposób zmodyfikowane. 3.Z uwagi na znaczące wyspecjalizowanie Sądu oraz możliwości, jakie daje prowadzenie postępowanie w trybie przepisów kpc przemawia za pozostawieniem odwołań od decyzji Komisji w projektowanym kształcie 4.W ustawie zawarto przepisy dotyczące przestrzegania przez kontrolujących tajemnic prawnie chronionych. 125. Art. 40 ust. 2 IAB Polska Zapewnienie kwalifikacji i niezależności osób przeprowadzających kontrolę Projekt nie precyzuje mechanizmów zabezpieczających przed potencjalnym konfliktem interesów lub brakiem odpowiednich Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje 91 kwalifikacji „zewnętrznych” osób upoważnionych przez Komisję do udziału w kontrolach. Istnieje ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub osobą posiadającą osobisty interes w sporządzeniu niekorzystnego protokołu. Dodatkowo, projektowane przepisy nie określają jasnych kryteriów doboru ekspertów zewnętrznych oraz nie nakładają na nich wyraźnego obowiązku zachowania poufności pozyskanych informacji. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej instytucji nie przechodzą formalnych szkoleń w zakresie kontroli, co może prowadzić do nieprawidłowości proceduralnych. Rekomendujemy: 1. doprecyzowanie kryteriów doboru ekspertów, 2. wprowadzenie bezpośredniego i jasnego obowiązku zachowania poufności informacji uzyskanych podczas kontroli, 3. określenie mechanizmów zapobiegających konfliktowi interesów, 4. ograniczenie udziału zewnętrznych ekspertów do sytuacji, gdy wymagane są unikalne, specjalistyczne kompetencje, które nie mogą zostać zapewnione przez pracowników Komisji. W przypadku braku takich zmian rekomendujemy usunięcie przepisu o możliwości powoływania ekspertów zewnętrznych w obecnym brzmieniu, aby uniknąć zagrożeń dla rzetelności procesu kontrolnego. doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 126. Art. 40 ust. 2 ZPP Ustawa nie precyzuje wystarczająco mechanizmów zabezpieczających wybór osób, które mogą być upoważnione przez Komisję do przeprowadzania kontroli. Obecne regulacje stwarzają ryzyko, że wyznaczony kontroler może mieć interesy sprzeczne z interesami kontrolowanego podmiotu lub współpracować z jego Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 92 konkurencją. W związku z tym należy wprowadzić następujące zmiany: a) Jednoznacznie określić, że osoby upoważnione do przeprowadzania kontroli nie mogą być powiązane z podmiotami kontrolowanymi ani współpracować z konkurencją tych podmiotów. b) Ustanowić szczegółowe kryteria kwalifikacyjne, obejmujące wymóg braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych podczas kontroli. Ponadto, brakuje jednoznacznych kryteriów oceny kwalifikacji ekspertów spoza struktury Biura Komisji oraz precyzyjnych zobowiązań dotyczących poufności informacji zdobywanych podczas kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej struktury nie są zobowiązane do odbycia formalnych szkoleń z zakresu procedur kontrolnych, co może prowadzić do niedokładnych lub wadliwych kontroli. Komisja powinna zagwarantować, że cały personel zaangażowany w kontrolę – również ten spoza Biura – dysponuje niezbędnymi kompetencjami, poprzez systematyczne szkolenia oraz inne formy wsparcia rozwojowego. W związku z powyższym rekomendujemy albo całkowite usunięcie omawianego przepisu, albo jego precyzyjne doprecyzowanie w celu minimalizacji potencjalnych ryzyk, a także zapewnienia bezpieczeństwa i przejrzystości procesu wyboru zewnętrznych kontrolerów. Precyzyjne ustalenie terminów i procedur administracyjnych Określone w projekcie ustawy procedury i terminy zostały określone w sposób optymalny pozwalający na realizację zadań czy obowiązków i jednocześnie na sprawne prowadzenie czynności bez generowania nadmiernych obciążeń. 127. Art. 41 ust. 1 PUODO W odniesieniu do art. 41 ust. 1 projektu ustawy zwrócić uwagę należy na brak spójności z art. 39 ust. 3, który przewiduje możliwość przeprowadzania kontroli w trybie zdalnym, bez jednoczesnej fizycznej obecności stron. Przepis art. 41 pkt 1 wymaga, by kontrolujący przedstawił imienne upoważnienie oraz okazał legitymację służbową lub dokument tożsamości, co w przypadku kontroli na odległość może budzić wątpliwości w zakresie sposobu realizacji tego obowiązku. Pojawia się wątpliwość, w jaki sposób kontrolujący miałby przedstawić wymagane dokumenty w trybie zdalnym – czy dopuszczalne będzie przekazanie skanów, prezentacja w systemie teleinformatycznym czy inne rozwiązanie techniczne. Uwaga wyjaśniona W zakresie przeprowadzania kontroli intencją projektodawcy jest stworzenie możliwości jak najszerszego wykorzystanie metod porozumiewania się na odległość z wykorzystaniem dostępnych środków. Stąd też podjęta została próba elastycznego uregulowania w tym zakresie i brak sprecyzowania jak ma zostać przekazane upoważnienie czy okazany dokument potwierdzający np., tożsamość. Wytyczną w tym 93 Należy również rozważyć mechanizmy umożliwiające kontrolowanemu weryfikację autentyczności okazywanych dokumentów, co w trybie stacjonarnym odbywa się w sposób bezpośredni. Wątpliwości budzi także sposób doręczania upoważnień do kontroli w przypadku jej zdalnego przeprowadzania – czy możliwe będzie wykorzystanie podpisu kwalifikowanego lub innych środków elektronicznych, które zapewnią autentyczność i integralność dokumentu. zakresie jest to, aby okazywane dokumenty czy potwierdzenie tożsamości nie budziło wątpliwości oraz nie naruszało przepisów o ochronie danych osobowych czy innych tajemnic prawnie chronionych. Intencją jest też aby kwestie techniczne uregulować w aktach rangi podustawowej, a w ustawie zostały jedynie niezbędne przepisy z zakresu materii ustawowej. To pozwoli też na szybsze i elastyczne dostosowywanie prawa do stanu faktycznego. 128. Art. 42 Konfederacj a Lewiatan Uwaga: Celem zwiększenia ochrony kluczowych informacji biznesowych, proponowana ustawa powinna zezwalać podmiotom kontrolowanym na oznaczanie informacji jako tajemnicy handlowej. Takie rozwiązanie, podobne do stosowanego w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów, zapewniłoby lepsze zabezpieczenie obecnie niewystarczająco chronionych danych. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 129. Art. 42 Pracodawcy w RP Sformułowanie przepisu jest zbyt szerokie, co może umożliwić inspektorom żądanie dostępu do treści klientów w chmurze, co jest niezgodne z art. 78(2) Aktu o AI, który zezwala na żądanie tylko danych niezbędnych do oceny zgodności. Propozycja: Usunięcie zdania o „systemie informatycznym i chmurze obliczeniowej należących do innej osoby”, aby uniknąć nieuprawnionego dostępu do danych klientów. Sformułowanie art. 42 wydaje się być na tyle szerokie, że wyznaczeni inspektorzy mogliby na jego podstawie żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Jednocześnie szeroki zakres kontroli jest niezgodny z art. 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 94 kontrolowany ma do nich dostęp. Stoimy więc na stanowisku, że zdanie odnoszące się do „systemu informatycznego i chmury obliczeniowej należącej do innej strony” powinno zostać usunięte. Stwierdzić należy, że żaden przepis ustawy nie powinien być interpretowany jako zobowiązujący dostawcę usług chmurowych do ujawnienia danych klientów. W takich sytuacjach inspektor powinien skierować zapytanie o potrzebne informacje do administratora danych (klienta). Dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia im określenie jakie dokumenty lub informacje klient przechowuje i czy są one istotne dla kontroli. Ponadto klienci korporacyjni i biznesowi często przechowują dane swoich użytkowników i klientów, a ich przymusowe udostępnienie mogłoby skutkować nieuprawnionym ujawnieniem danych podmiotów, które nie są przedmiotem ani celem danego audytu. 130. Art. 42 IAB Polska Wprowadzenie jednoznacznej ochrony tajemnicy przedsiębiorstwa Ustawa powinna wprost umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy przedsiębiorstwa, analogicznie do procedur stosowanych przez Urząd Ochrony Konkurencji i Konsumentów. Obecny brak takiego rozwiązania skutkuje niewystarczającą ochroną kluczowych danych biznesowych. Wdrożenie mechanizmu oznaczania informacji jako poufnych zapewni większą pewność prawną oraz umożliwi skuteczniejszą ochronę interesów gospodarczych podmiotów objętych kontrolą. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 131. Art. 42 IAB Polska Usunięcie zdania odnoszącego się do systemu informatycznego i chmury obliczeniowej należącej do innej strony Analizując język art. 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 95 Taki zakres kontroli wydaje się być niezgodny z art. 78(2) AI Act, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem AI Act, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Jednocześnie zwracamy uwagę, że: 1. Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. 2. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie pisma, dokumenty lub inne informacje mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. 3. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 132. Art. 42 ZPP Zawęzić zakres dostępu do treści przechowywanych w chmurze – kontrola powinna obejmować wyłącznie dane niezbędne do przeprowadzenia audytu, przy jednoczesnym poszanowaniu tajemnicy handlowej i ochrony danych osobowych. Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów 96 rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 133. Art. 42-44 (uwaga ogólna) IAB Polska Ujednolicenie terminologii dotyczącej danych i informacji Projekt ustawy posługuje się niespójną terminologią odnoszącą się do różnych rodzajów danych, dokumentów i materiałów, co może prowadzić do trudności interpretacyjnych oraz ryzyka niejednolitego stosowania przepisów. Rekomendujemy: 1. przeprowadzenie analizy pod kątem precyzji technicznej i językowej, 2. eliminację terminów o potencjalnie synonimicznym lub homonimicznym znaczeniu, 3. jednoznaczne określenie kategorii danych i informacji oraz ich zakresu stosowania w przepisach. Ujednolicenie pojęć zwiększy przejrzystość regulacji oraz ograniczy ryzyko sprzecznych interpretacji przepisów, co jest kluczowe dla skutecznego stosowania ustawy. Uwaga wyjaśniona Przepisy zostały przeanalizowane. Jednocześnie informujemy, że tekst projektu zostanie pod względem językowo terminologicznym dopracowany na etapie komisji prawniczej. 134. Art. 42 ust. 1 pkt 1) Konfederacj a Lewiatan Propozycja brzmienia: 1) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 97 związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; Uzasadnienie: Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Ponadto: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 135. Art. 42 ust. 1 pkt 3 IAB Polska Zapewnienie odpowiednich narzędzi dla kontrolerów do sporządzania kopii dokumentów przez Komisję. Uwaga wyjaśniona 98 Obowiązek sporządzania kopii dokumentów powinien spoczywać na Komisji, a nie na podmiocie kontrolowanym. Pozostawienie proponowanego przepisu w bieżącym kształcie w praktyce oznaczałoby, że podmiot ten będzie przygotowywał wszystkie kopie samodzielnie. Rolą podmiotu kontrolowanego powinno być wyłącznie podjęcie decyzji o udostępnieniu określonych dokumentów, zgodnie z przepisami o ochronie informacji niejawnych, tajemnicy przedsiębiorstwa lub tajemnicy zawodowej (np. adwokackiej, radcowskiej). Zmieniono treść art. 42 (obecnie art. 34) ust. 1 pkt 3 poprzez usunięcie fragmentu “(.) a także sporządzenia lub w razie potrzeby i o ile jest to technicznie możliwe, żądania sporządzenia przez kontrolowanego, ich kopii, wyciągów z dokumentów oraz zestawień lub obliczeń”. 136. Art. 42 ust. 1 pkt 6 UKNF W projektowanym przepisie słowo „może” jest zbędne. Ponadto, w ocenie UKNF zasadne jest również wykreślenie zwrotu „w której dokumenty się znajdują”. Uwaga uwzględniona Z przepisu wykreślono wskazane w uwadze wyrazy i nadano mu nowe brzmienie. 137. Art. 42 ust. 1 pkt 7 Konfederacj a Lewiatan Propozycja brzmienia: 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art.23 ust.3 ustawy; Uzasadnienie: Zakres danych musi być ten sam. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 138. Art. 42 ust. 2 Konfederacj a Lewiatan Zapytanie: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu „czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? W ocenie Konfederacji Lewiatan zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? Czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 139. Art. 44 Konfederacj a Lewiatan Ustawa znacząco ogranicza znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć prawa kwestionować powołania się przez podmiot kontrolowany na tajemnicę zawodową. Ustawa nie definiuje czym są “wątpliwości” dotyczące powołania się na tajemnicę zawodową ani nie precyzuje, jak dokumenty powinny być zabezpieczone, przez co obecne podejście nie spełnia standardów poufności tajemnicy Uwaga uwzględniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 99 zawodowej. Ponadto sformułowanie “zapewnienie ochrony przed ujawnieniem” jest niejasne, gdyż dokument i tak zostanie ujawniony przynajmniej SOKiK. Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową, ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 140. Art. 44 ZPP Zapewnić ochronę tajemnicy zawodowej poprzez doprecyzowanie przepisów dotyczących poufności komunikacji oraz dokumentów, by nie naruszać relacji doradczo-prawnych. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 141. Art. 44 ust. 1 IAB Polska Rozszerzenie zakresu wyłączeń dotyczących dostępu do dokumentów Wyłączenie w proponowanym kształcie (art. 42 ust. 2) odnosi się jedynie do obowiązku przekazania materiałów, lecz nie obejmuje samego prawa dostępu do określonych dokumentów i danych (art. 42 ust. 1). Dla pełnej ochrony tajemnicy zawodowej (np. adwokackiej, radcowskiej) oraz zagwarantowania poufności relacji w zakresie doradztwa prawnego, konieczne jest rozszerzenie zakresu wyłączeń również na dostęp do tych informacji. Bez tego mechanizmu istnieje ryzyko nieuprawnionego ujawnienia poufnych danych, co mogłoby naruszyć prawa podmiotów korzystających z doradztwa prawnego. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 142. Art. 44 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. Uwaga częściowo uwzględniona Wprowadzenie do wyliczenia w at. 36 w ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 100 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 423 ust. 2 ustawy nie stosuje się. Uzasadnienie: Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Ponadto, obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. 143. Art. 44 ust. 2-5 IAB Polska Jednoznaczne zagwarantowanie absolutnej ochrony tajemnicy zawodowej, obejmującej zarówno treść dokumentów, jak i ich kontekst Choć Projekt uznaje znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), jednocześnie znacząco ją ogranicza, co narusza zasadę proporcjonalności oraz podważa zaufanie do relacji doradczo- prawnych. Uwaga uwzględniona Usunięto art. 44 (obecnie art. 36) ust. 2, 3 i 5. Powołanie się na tajemnicę zawodową może stanowić podstawę do celowego nieujawniania danych a tym samy może w konsekwencji prowadzić do braku możliwości ustalenia stanu faktycznego przez kontrolującego. Powoływanie 101 Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową, gdyż stwarza to pole do arbitralnych decyzji. Projekt nie precyzuje, co oznaczają wątpliwości dotyczące powołania się na tajemnicę zawodową. Nie jest również wymagane ich uzasadnienie, co rodzi ryzyko nadużyć. Niejasne jest również sformułowanie zapewnienie ochrony przed ujawnieniem. Dokument objęty tajemnicą zawodową i tak musiałby zostać w jakiś sposób przekazany co najmniej do SOKiK, co nie zapewnia pełnej poufności. Nieuzasadniona ingerencja w tajemnicę zawodową mogłaby podważyć fundamentalne zaufanie do poufności relacji klient- adwokat/radca prawny, co jest sprzeczne z zasadami demokratycznego państwa prawa. się na tę okoliczność powinno podlegać weryfikacji. W celu zapewnienia ochrony tajemnicy w przepisie przewidziano, że ciężar dowodu spoczywa na kontrolującym. Ograniczy to dostęp do przedmiotowych dokumentów osób postronnych. 144. Art. 45 IAB Polska Wykreślenie z Projektu postanowień przewidujących angażowanie Policji w działania kontrolne Wprowadzenie specjalnych procedur angażujących Policję w czynności kontrolne jest nieuzasadnione i nadmierne. Policja może zostać wezwana w sytuacjach, gdy zdarzenie stanowi przestępstwo lub wykroczenie – nie ma potrzeby dodatkowego regulowania tej kwestii w ustawie. Tego rodzaju mechanizm przywołuje przestarzałe praktyki inwigilacyjne, które nie przystają do współczesnych standardów państwa prawa. Relacje między obywatelami a państwem powinny opierać się na zasadzie wzajemnego zaufania. Uwaga wyjaśniona Wsparcie Policji kontrolującym jest niezbędne w celu zapewnienia bezpieczeństwa kontrolującym. Udział Policji w szczególnych przypadkach będzie poległ wyłącznie na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania. 145. Art. 45 IAB Polska Rezygnacja z angażowania jednostek podległych ministrowi ds. cyfryzacji w czynności kontrolne Komisji Angażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w procesie kontroli jest nieuzasadnione. Komisja powinna posiadać wystarczające kompetencje oraz narzędzia, aby Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia 102 samodzielnie przeprowadzać postępowania kontrolne, bez konieczności angażowania podmiotów zewnętrznych. Zewnętrzny udział budzi poważne wątpliwości dotyczące poufności postępowań, zwłaszcza biorąc pod uwagę wrażliwy zakres informacji objętych kontrolą. do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które. posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 146. Art. 45 ZPP Wyłączyć możliwość angażowania w działania kontrolne Komisji jednostek zewnętrznych, które mogłyby naruszyć niezależność organu kontrolnego, zapewniając, że Komisja dysponuje odpowiednimi kompetencjami i zasobami. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 147. Art. 45 Konfederacj a Lewiatan Zaangażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w pomoc Komisji jest nieuzasadnione. Komisja powinna dysponować odpowiednimi kompetencjami i zasobami umożliwiającymi samodzielne i skuteczne przeprowadzanie kontroli. Włączenie zewnętrznych jednostek w proces kontrolny budzi obawy dotyczące zachowania poufności, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy charakter badanych spraw. Przepis umożliwiający zwrócenie się o wsparcie Policji jest zbędny. Policję można wezwać zawsze wtedy, gdy dojdzie do popełnienia przestępstwa lub wykroczenia. Nie ma potrzeby tworzyć specjalnych procedur angażowania Policji w czynności kontrolne. Takie Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają 103 rozwiązanie nie przystaje do nowoczesnego państwa, które szanuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie stosowanych przepisów w projekcie ustawy. 148. Art. 46 ust. 1 IAB Polska Sporządzanie projektu protokołu kontroli przez kontrolera Projekt protokołu kontroli powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że postanowienie w obecnym brzmieniu jest wynikiem omyłki redakcyjnej. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 149. Art. 46 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolujący sporządza projekt protokołu. Uzasadnienie oraz zapytanie: Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. 150. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 151. Art. 46 ust. 4 IAB Polska Wydłużenie terminu na wniesienie zastrzeżeń do projektu protokołu kontroli do 60 dni. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli 104 Obecnie przewidziany 7-dniowy termin na wniesienie zastrzeżeń jest zbyt krótki, zwłaszcza w przypadku skomplikowanych spraw, które wymagają dogłębnej analizy zebranego materiału. Protokół kontroli może zawierać obszerną dokumentację, wymagającą szczegółowego odniesienia się do kwestii prawnych, technicznych lub proceduralnych. Projektowany termin utrudni podmiotom rzetelne przygotowanie argumentacji i odpowiedzi na ustalenia kontrolne, co może prowadzić do nierówności proceduralnej. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Wydłużenie tego terminu do 60 dni zapewni możliwość skutecznej analizy protokołu i sformułowania merytorycznych zastrzeżeń. oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 152. Art. 46 ust. 4 UKNF Mając na uwadze brzmienie art. 46 ust. 2 pkt 9 projektu ustawy, z którego wynika fakultatywność zgłaszania zastrzeżeń do projektu protokołu kontroli, UKNF poddaje pod rozwagę modyfikację brzemienia przepisu w następujący sposób: „W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany może zgłosić pisemne zastrzeżenia do jego treści.” Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń (art. 38 ust. 4). 153. Art. 46 ust. 4 ZPP Zalecamy wydłużenie okresu na wniesienie zastrzeżeń do raportu z kontroli do minimum 14 dni. Obecny, 7-dniowy termin jest niewystarczający, zwłaszcza przy rozległym zakresie kontroli i dużej ilości analizowanych danych, materiałów oraz dokumentów, co utrudnia przygotowanie merytorycznych uwag w przypadkach złożonych spraw. Uwaga częściowo uwzględniona Błąd redakcyjny został skorygowany. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest 105 a) Wyeliminować błąd, który wskazuje, że kontrolowany podmiot jest odpowiedzialny za sporządzenie protokołu kontroli. Prosimy, aby protokół był sporządzany przez organ kontrolny. ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 154. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 7 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga częściowo uwzględniona W przepisie określono fakultatywność złożenia zastrzeżeń przez kontrolowanego. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 155. Art. 46 ust. 4 Pracodawcy RP Podkreślenia wymaga, że w przypadkach tak złożonych jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora niejednokrotnie wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 dni – zaproponowanych w art. 46 ust. 4 projektu. Jesteśmy zdania, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Tym bardziej, że brak wniesienia zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Termin 7 dni na ustosunkowanie się do zastrzeżeń regulatora jest zbyt krótki, szczególnie dla złożonych systemów AI. Propozycja: Wydłużenie terminu do co najmniej 60 dni, aby firmy mogły przeanalizować zastrzeżenia i odpowiedzieć. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 156. Art. 46 ust. 5 UKNF Wątpliwości UKNF budzi możliwość podejmowania „dodatkowych czynności kontrolnych” już po sporządzeniu projektu protokołu Uwaga uwzględniona 106 kontroli, co może mieć miejsce już po zakończeniu kontroli. Jest to istotna kwestia w kontekście wskazanych w upoważnieniu do przeprowadzenia kontroli dat rozpoczęcia i przewidywanego terminu zakończenia kontroli. Przepisy dotyczące “dodatkowych czynności kontrolnych” zostały usunięte. 157. Art. 46. ust. 5 i ust. 8 Konfederacj a Lewiatan Uważamy, iż w treści przepisu należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 158. Art. 46 ust. 6 UKNF W ocenie UKNF uzasadnione jest doprecyzowanie w jakiej formie kontrolujący ma sporządzić informację o nieuwzględnieniu zastrzeżeń kontrolowanego do protokołu kontroli. Proponujemy zachować analogiczną formę jak w przypadku protokołu kontroli (postać elektroniczna). Uwaga wyjaśniona Założeniem ustawy jest, aby wszystkie czynności w ramach kontroli były prowadzone w formie elektronicznej. Dotyczy to także kwestii związanych z projektem protokołu i protokołem kontroli, a także wymiany dokumentów w ramach zgłaszanych zastrzeżeń. Dodatkowo informacja o braku uwzględnienia zastrzeżeń powinna znaleźć się w ostatecznym protokole (art. 38 ust. 5 i 8). 159. Art. 46 ust. 8 UKNF W ocenie UKNF uzasadnione jest określenie terminu na sporządzenie protokołu kontroli. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 160. Art. 46 ust. 11 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że po złożeniu podpisu elektronicznego na protokole kontroli (przez którąkolwiek ze stron) technicznie niemożliwe jest dokonanie wzmianki w protokole wskazującej na odmowę jego podpisania. Przedmiotowy przepis powinien zatem ulec odpowiedniej modyfikacji. Uwaga wyjaśniona Możliwość adnotacji jest uzależniona od posiadanego systemu. 161. Art. 47 Konfederacj a Lewiatan W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Uwaga wyjaśniona Wydanie zaleceń pokontrolnych należy do kompetencji Przewodniczącego Komisji. (art. 39 ust. 1). 107 162. Art. 47 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przedmiotowy przepis zawiera błędy redakcyjne, które mogą utrudniać jego właściwą interpretację. W przepisie należy uzupełnić brakujący tekst (po przecinku w ust. 1 i w ust. 2 pkt 1), dostosować numerację (ust. 2 występuje dwa razy) i skorygować odesłania w ust. 2 i 4. Uwaga uwzględniona Skorygowano błędy redakcyjne. 163. Art. 47 ust. 2 pkt 1 Konfederacj a Lewiatan Propozycja brzmienia: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia nie i Uzasadnienie: Proponujemy usunięcie fragmentu „nie i” oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 164. Art. 49 ZPP Uregulować kwestie odpowiedzialności – w szczególności, aby sankcje były nakładane na podmioty, a nie na członków zarządu, co zapewni proporcjonalność środków. Uwaga wyjaśniona W kwestii odpowiedzialności zastosowanie znajdują odrębne przepisy. 108 165. Rozdział IV KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji Rozdział IV Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI i V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo- dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; Uwaga wyjaśniona W projekcie ustawy została uwzględniona rola KRRiT w ramach art. 5 ust. 3 oraz art. 6 ust. 2 projektu ustawy. 166. Art. 49 ust. 2 UKNF Dotychczas zgłoszona przez UKNF uwaga nie została należycie uwzględniona. Wszczęcie postępowania administracyjnego w trybie, o którym mowa w art. 49 ust. 2 pkt 2 i 4 (wszczęcie na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji oraz wszczęcie na wniosek Rady) nie jest trybem wszczęcia postępowania na wniosek, gdyż taki wniosek nie pochodzi od strony postępowania. W przypadkach, o których mowa w art. 49 ust. 2 pkt 2 i 4 projektu ustawy wszczęcie powinno następować z urzędu, w oparciu o informacje przekazane przez wskazane w tych przepisach organy. Również tryb wskazany w art. 49 ust. 2 pkt 3 projektu ustawy nie stanowi o postępowaniu administracyjnym wszczynanym na wniosek w przedmiocie naruszenia przepisów rozporządzenia Uwag wyjaśniona Przepis precyzuje jakie podmioty i w jaki sposób mogą inicjować wszczęcia postępowania. W ocenie projektodawcy wskazania są adekwatne. 109 2024/1689. Wydaje się, że przepis w tym zakresie stanowi o formie współpracy z innymi organami nadzoru. 167. Art. 49 ust. 2 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania postępowania w sprawie naruszenia AI Act Rada pełni funkcję doradczą i konsultacyjną, dlatego nie powinna mieć uprawnień do wnioskowania o wszczęcie postępowania. Nadanie jej takich kompetencji wykracza poza jej zamierzoną rolę. Rada nie posiada wymaganych kompetencji proceduralnych, aby ocenić zasadność wszczęcia postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 168. Art. 49 ust. 2 pkt 4 Konfederacj a Lewiatan Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 169. Art. od 49 RPO Przez wzgląd na rolę urzędu Rzecznika Praw Obywatelskich, opinia koncentruje się na problematyce związanej z koniecznością zapewnienia właściwie ukształtowanej procedury skargowej, która winna urzeczywistniać prawo wniesienia środka prawnego (skargi) do organu nadzoru rynku w rozumieniu art. 85 rozporządzenia 2024/16892, przez co rozumieć należy spoczywający na ustawodawcy krajowym obowiązek wprowadzenia takich rozwiązań specjalnych w systemie prawa, które urzeczywistniając prawo unijne, będą jednocześnie maksymalnie efektywne na poziomie krajowym, bez uszczerbku dla innych już istniejących administracyjnych lub sądowych środków ochrony prawnej. Z tych względów procedura skargowa powinna, w ocenie RPO, przede wszystkim zostać ukształtowana w taki sposób, aby jej przebieg zabezpieczał po stronie osoby fizycznej lub prawnej w możliwie najdalej idącym stopniu prawo do skutecznego środka prawnego oraz skutecznej ochrony sądowej w przypadku naruszenia przepisów rozporządzenia 2024/16893. Na poziomie unijnym prawo to ma Uwaga wyjaśniona Zgodnie z art. 50 (obecnie art. 42) projektu ustawy każda osoba fizyczna ma prawo złożyć skargę, o której mowa w art. 85 rozporządzenia 2024/1689. Skargę składa się do Komisji na naruszenie przepisów tego rozporządzenia lub ustawy. Skarga jest rozpatrywana przez Komisję i w przypadku stwierdzenia możliwości naruszenia ww. przepisów Przewodniczący Komisji może złożyć wniosek o wszczęcie postępowania, o którym mowa w art. 49 (obecnie art. 41). Stroną tego postępowanie nie jest jednak skarżący. Dalej postępowanie przed komisją toczy się w trybie przepisów rozdziału 4 i stosuję się do niego przepisy Kodeksu postępowania administracyjnego. Postepowanie kończy się 110 charakter samoistny, wynikający ze wspólnych tradycji konstytucyjnych państw członkowskich, dodatkowo zabezpieczony w art. 51 ust. 1 Karty praw podstawowych UE wymogiem poszanowania praw podstawowych określonych Karcie, który jest wiążący dla państw członkowskich wyłącznie wtedy, gdy państwa działają w zakresie zastosowania prawa Unii. Z tych względów zasada skuteczności ochrony sądowej wymaga, aby krajowe zasady proceduralne postępowań służące zapewnieniu pełnej ochrony uprawnień, które jednostki wywodzą z prawa Unii, nie uniemożliwiały lub nie czyniły w praktyce nadmiernie utrudnionym wykonywania uprawnień wynikających z porządku prawnego Unii. Ustrojową przestrzeń tego prawa wyznaczają art. 45 ust. 1 oraz art. 77 ust. 2 Konstytucji RP7. Dodatkowo zaś, w pewnych sytuacjach, w których krajowy system prawny, przy rozstrzyganiu sporów cywilnych, przewiduje tryb administracyjnosądowy, lub tryb prejurysdykcyjnego postępowania administracyjnego – także art. 77 ust. 1 Konstytucji RP. W projekcie ustawy sytuacja prawna podmiotu (skarżącego), któremu art. 85 rozporządzenia 2024/1689 gwarantuje prawo do wniesienia skargi do krajowego organu nadzoru została ukształtowana w taki sposób, że skarżący nie będzie stroną wszczętego postępowania i będą mu przysługiwały jedynie ograniczone uprawnienia informacyjne w zakresie: 1) otrzymania skargi przez organ; 2) wszczęcia postępowania, o którym mowa w art. 50 ust. 5 projektu ustawy; oraz 3) zakończenia tego postępowania. Postępowanie to, jak przekonują o tym kolejne odesłania z art. 50 ust. 6 pkt 2 i 3 do art. 50 ust. 5 projektu ustawy, a następnie odesłanie ogólne do przepisów rozdziału 4 tej ustawy – jest zatem postępowaniem w sprawie związanej z postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689, przy czym do postępowania w sprawie głównej (przed Komisją) w zakresie nieuregulowanym stosuje się przepisy ustawy z dnia 14 czerwca 1960 Kodeks postępowania administracyjnego. Zaakcentowania wymaga w tym miejscu, że zgodnie z podstawowymi zamierzeniami rozporządzenia 2024/1689, to państwa członkowskie odgrywają wydaniem decyzji nakazowej. Z naruszeniem przepisów wiąże się też nałożenie administracyjnej kary pieniężnej. Od decyzji stronie (podmiotowi wobec którego wydano decyzje) przysługuje skarga do sądu ochrony konkurencji i konsumentów. W tym postępowaniu skarżący również nie jest stroną. Celem projektowanej procedury jest zagwarantowanie każdej osobie fizycznej lub prawnej, mającej podstawy by uznać, że zostały naruszone przepisy rozporządzenia 2024/1689 wniesienia skargi do organu nadzoru rynku. Wniesienie tej skargi następuje bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej i ma służyć do celów prowadzenia działań z zakresu nadzoru rynku. Nie jest to więc typowa skarga w rozumieniu KPA a raczej „zawiadomienie” które zostanie rozpatrzone zgodnie z ustalonymi przez organ nadzoru procedurami. 111 kluczową rolę w stosowaniu i egzekwowaniu jego postanowień, a co za tym idzie odpowiadają za korzystne ukształtowanie sytuacji prawnej jednostki przed organami krajowymi. W tym zakresie projekt budzi wątpliwości RPO z następujących przyczyn. Po pierwsze, specjalny środek prawny przewidziany w art. 85 rozporządzenia 2024/1689 w kształcie, jaki nadał mu projektodawca w opiniowanym projekcie ustawy, ukształtuje sytuację skarżącego w sposób nietransparentny i mniej korzystny, niż np. tzw. skarga powszechna, uregulowana w art. 227 K.p.a. i nast. (a więc w sposób charakterystyczny np. dla ogólnej procedury zgłaszania naruszeń w rozumieniu dyrektywy 2019/193711, do której odsyła art. 87 rozporządzenia 2024/1689, a nie procedury dochodzenia praw we własnej sprawie). Po drugie, zaznaczenia wymaga, że ustawodawca jest uprawniony do stanowienia prawa odpowiadającego założonym celom politycznym i gospodarczym, zaś władztwo to nabiera szczególnego znaczenia w okresie istotnych przemian społecznych czy ustrojowych. Bez wątpienia konieczność sprostania wyzwaniom, jakie niosą takie procesy może powodować, że projektowane procedury, instrumenty prawne czy instytucje mogą odbiegać od dotychczas przyjętych rozwiązań. Podkreślenia, jednakże wymaga, że projektowane w takim zamierzeniu rozwiązania powinny przykładowo służyć polubownemu załatwianiu sporów, które zwiększa spójność społeczną, przyczyniać się do korzystniejszego usytuowania jednostki w prowadzonym postępowaniu, czy też stwarzać możliwości bardziej efektywnego egzekwowania interesów jednostek. Trudno dostrzec, aby projektowana procedura skargowa przyczyniała się do osiągnięcia któregokolwiek z celów. Po trzecie, przyjęcie rozporządzenia 2024/1689 poprzedzone zostało wielopłaszczyznowym zidentyfikowaniem wyzwań, jakie w szczególności niesie rozwój, wdrażanie, wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie Sztucznej Inteligencji (AI) w wielu różnych sektorach gospodarki i 112 obszarach życia społecznego. Z tych względów konieczność zapobieżenia rozdrobnienia rynku wewnętrznego, jak również wymóg zapewnienia zgodności przepisów rozporządzenia z Kartą praw podstawowych oraz międzynarodowymi zobowiązaniami handlowymi Unii powoduje, że przepisy te muszą jednocześnie: 1) być wysoce zharmonizowane14; 2) być m.in. ukierunkowane na ochronę osób fizycznych, przedsiębiorstw, demokracji, praworządności na wszystkich poziomach obrotu; oraz 3) pozostawiać niezbędną swobodę dla ustawodawcy krajowego, aby ich implementacja mogła dokonać się bez uszczerbku dla innych już istniejących administracyjnych lub sądowych krajowych środków ochrony prawnej, wzmacniając jednocześnie krajowe zdolności niezbędne do skutecznego egzekwowania przepisów rozporządzenia oraz efektywność organizacyjną państw członkowskich. Z perspektywy licznych wyzwań, jakie zostały zidentyfikowane w rozporządzeniu 2024/1689 trudno zatem uznać, że możliwości szerokiego zabezpieczenia sytuacji prawnej jednostki przez ustawodawcę krajowego w procedurze skargowej zostały w projekcie ustawy wykorzystane. Na tle zarysowanych wątpliwości RPO pragnie zauważyć, że w kontekście rozporządzenia 2024/1689 sytuacja prawna jednostki powinna być postrzegana na trzech poziomach ochrony: 1) unijnym; 2) krajowym; oraz 3) sektorowym, czy też branżowym, który łączy poziom krajowy z poziomem unijnym przede wszystkim w drodze dobrowolnych kodeksów postępowania (organy unijne swoje cele osiągają poprzez kodeksy praktyk17), które przyczyniają się do osiągnięcia każdego z trzech ww. wymogów rozporządzenia Dwa ostatnie poziomy należą od projektodawcy krajowego, jak bowiem wyjaśniono – to państwa członkowskie odgrywają kluczową rolę w stosowaniu i egzekwowaniu postanowień rozporządzenia 2024/1689, co wynika zresztą z zasad ogólnych prawa unijnego. 113 Mając na uwadze powyższe pragnę poddać pod uwagę Pana Ministra konieczność ponownego rozważenia w projektowanej ustawie dwóch zasadniczych kwestii wynikających z podniesionych wyżej wątpliwości. Pierwsza dotyczy statusu skarżącego po wniesieniu skargi, o której mowa w art. 85 rozporządzenia 2024/1689, co wymagać będzie oceny i rozstrzygnięcia tego, jakie skutki prawne po stronie skarżącego wywierać powinno wydanie decyzji w zainicjowanym z jego skargi postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689, jak również tego, czy wydanie decyzji otwiera skarżącemu drogę do dochodzenia roszczeń cywilnoprawnych na innych zasadach niż zasady ogólne. W dalszej kolejności będzie to wymagało skorelowania z ustalonym statusem skarżącego odpowiednio zabezpieczonych po jego stronie konkretnych uprawnień, m.in. dostępu do akt, prawa do odwołania czy pouczenia o przysługujących środkach ochrony prawnej, w szczególności po wydaniu decyzji naruszeniowej. Rozstrzygnięcie pierwszej kwestii pozwoli m.in. ocenić: 1) czy ogólne odesłanie do przepisów K.p.a. – sformułowane obecnie w odniesieniu do postępowania w sprawie głównej (przed Komisją) – jest jasne, precyzyjne i wystarczające; 2) czy nie należałoby uregulować wprost możliwości złożenia przez skarżącego skargi na działania lub zaniechania Komisji nawet w drodze odesłania do przepisów działu VIII K.p.a.; a wreszcie 3) czy wymogi formalne dotyczące skargi na działanie systemu sztucznej inteligencji nie są nazbyt restrykcyjne czy też wręcz przeciwnie. Należy przy tym zaznaczyć, że procedura skargowa, o której mowa w art. 85 rozporządzenia 2024/1689 jest procedurą odrębną od procedury zgłaszania naruszeń, o której stanowi art. 87 rozporządzenia (procedura w sprawie ochrony osób zgłaszających naruszenia prawa Unii), dlatego złożona skarga nie powinna de facto być traktowana jak informacja na temat naruszeń w rozumieniu art. 5 pkt 2 dyrektywy 2019/1937. Wniesienia skargi może bowiem być związane z potrzebą dochodzenia w przyszłości zadośćuczynienia lub odszkodowania po stronie skarżącego. Biorąc pod uwagę wyzwania, jakie w szczególności niesie rozwój, wdrażanie, 114 wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie sztucznej inteligencji, możliwość ta powinna zostać zabezpieczona przez ustawodawcę. 170. Art. 50 ust. 1 NSZZ Przepis przewiduje możliwość złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga: niejasne, czy skarga może dotyczyć wyłącznie naruszeń opiniowanej ustawy, czy także innych ustaw regulujących sztuczną inteligencję (np. w zakresie prawa pracy), zgodnie z art. 2 ust. 11 rozporządzenia 2024/1689. Propozycja: doprecyzowanie, że skarga jest możliwa także w przypadku naruszenia innych ustaw dotyczących sztucznej inteligencji, dla wzmocnienia funkcji ochronnej. Uwaga wyjaśniona Zgodnie z art. 50 ust. 1 (obecnie art. 42) skargę, o której mowa w art. 85 rozporządzenia 2024/1689, można złożyć na naruszenie przepisów tego rozporządzenia lub procedowanej ustawy, która służy umożliwianiu stosowania przepisów AI Aktu. 171. Art. 50 ust. 2 pkt 1 NSZZ Wymóg podania w skardze nazwy systemu AI budzi wątpliwości, ponieważ pracownicy mogą nie znać nazwy systemu (brak obowiązku informowania o nazwie). Brak tej wiedzy utrudnia złożenie skargi. Propozycja: uzupełnienie przepisu o możliwość podania opisu systemu zamiast nazwy, np. dodanie wyrażenia „lub opis”. Uwaga uwzględniona Zgodnie z brzmieniem art. 50 (obecnie art. 42) w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 172. Art. 50 ust. 3 NSZZ Przepis określa formę skargi: elektroniczną (z kwalifikowanym podpisem elektronicznym) lub inne środki komunikacji/biuro Komisji w razie braku możliwości złożenia w formie elektronicznej. Uwaga: większość związków zawodowych nie posiada kwalifikowanego podpisu, a niejasne jest, czy brak podpisu spełnia warunek „braku możliwości”. Propozycja: wprowadzenie alternatywy łącznej – skarga w formie elektronicznej lub innymi środkami komunikacji, lub w biurze Komisji, aby uniknąć nadmiernego obciążenia (np. zakupu podpisu). Uwaga wyjaśniona Art. 50 (obecnie art. 42) ust. 3 nie stanowi konieczności opatrzenia skargi kwalifikowanym podpisem elektronicznym. (42 ust. 3 w ogóle już nie przewiduje opatrywania podpisem! Ust. 3 został doprecyzowany. 173. Art. 52 ust. 3 Konfederacj a Lewiatan Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać zniesiony. Komisja jako profesjonalny organ regulacyjny w dziedzinie sztucznej inteligencji, powinna być w stanie analizować dokumentację w języku angielskim bez konieczności jej tłumaczenia. Zdecydowana większość dokumentacji technicznej, prawnej i dotyczącej zgodności w obszarze SI jest sporządzana oryginalnie w języku Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 115 angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Należy wskazać także, że przy wytwarzaniu algorytmów korzysta się z pakietów/bibliotek od różnych dostawców. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. 174. Art. 52 ust. 3 IAB Polska Rezygnacja z obowiązku dostarczania tłumaczeń dokumentów na koszt stron postępowania Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze AI, powinna posiadać wystarczającą znajomość języka angielskiego, aby analizować dokumentację techniczną i prawną bez wymogu jej tłumaczenia. AI to dziedzina regulowana na poziomie międzynarodowym, a wiele kluczowych dokumentów technicznych, prawnych i dotyczących zgodności tworzonych jest w języku angielskim. W wielu krajach UE organy regulacyjne akceptują dokumentację w języku angielskim, który jest standardem międzynarodowym w sektorze nowych technologii. Zmuszanie stron do ponoszenia kosztów tłumaczenia jest niepotrzebnym obciążeniem administracyjnym i finansowym, które nie znajduje uzasadnienia w praktyce rynkowej. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 175. Art. 53 IAB Polska Przegląd przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania prawa Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do 116 Artykuł 53 budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające poważniejszych środków. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: 1. Ograniczone okoliczności, w których AI Act zezwala na wycofanie usług; 2. Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych. zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 176. Art. 53 Pracodawcy RP Stwierdzić należy także, że w art. 53 projekt przewiduje nadmierne środki egzekwowania prawa, takie jak blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku w przypadkach wyraźnie opisanych jako niewymagające bardziej dolegliwych środków. Sugerujemy ponowne rozważenie treści tego przepisu, tak aby zapewnić bardziej zrównoważone podejście do egzekwowania prawa, uwzględniając przy tym ograniczone możliwości wycofania usług zgodnie z Unijnym Aktem o sztucznej inteligencji, skupienie się na identyfikacji zagrożeń w systemach AI zamiast utrudniania działalności firmom oraz zapewnienie przedsiębiorstwom odpowiedniego czasu (minimum 60 dni) na wdrożenie niezbędnych zmian. Przepis przewiduje nadmierne środki egzekwowania prawa (np. blokowanie dostępu lub wycofanie systemu z rynku) w przypadkach niewymagających tak drastycznych działań. Propozycja: Zrównoważenie podejścia, skupienie na identyfikacji zagrożeń zamiast utrudniania działalności firm oraz zapewnienie minimum 60 dni na wdrożenie zmian. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 177. Art. 53 Konfederacj a Lewiatan Lutowa wersja projektu ustawy (2025) wprowadza istotne zmiany w zakresie uprawnień Komisji dotyczących wydawania ostrzeżeń oraz Uwaga wyjaśniona 117 sankcji za ich niezastosowanie. Jak wynika z projektowanych przepisów ostrzeżenie mają być wydawane na podstawie uzasadnionego podejrzenia, a nie niezbitego dowodu naruszenia prawa. Ponadto, ostrzeżenia mają formę postanowienia, a nie decyzji administracyjnej. Pomimo to, proponowane przepisy umożliwiają Komisji nakładanie obowiązków (nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym) i kar pieniężnych w przypadku niezastosowania się przez adresata do ostrzeżenia, co oznacza, że Komisja ma dostać możliwość nakładania kar pieniężnych i nakładania daleko idących obowiązków bez konieczności udowodnienia naruszenia (do wydania ostrzeżenia ma wystarczyć uzasadnione podejrzenie) i bez wydawania decyzji administracyjnej (ostrzeżenie ma mieć postać postanowienia), co jest niezgodne z istotą ostrzeżenia. Takie rozwiązanie budzi poważne wątpliwości, ponieważ ostrzeżenie jako instrument o charakterze \"miękkim\", powinno służyć przede wszystkim zwróceniu uwagi na potencjalne problemy i zachęceniu do podjęcia działań naprawczych. Nie powinno być podstawą do nakładania dotkliwych sankcji bez uprzedniego przeprowadzenia postępowania administracyjnego i udowodnienia rzeczywistego naruszenia przepisów. Konieczne jest wprowadzenie zmian w projekcie ustawy, aby ostrzeżenie pozostało narzędziem niewładczym, a jego niezastosowanie nie skutkowało negatywnymi konsekwencjami dla adresata. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w ustawie, takich jak kontrola, wszczęcie postępowania administracyjnego czy wydawanie decyzji administracyjnych, po przeprowadzeniu odpowiedniego postępowania wyjaśniającego i udowodnieniu naruszenia przepisów. Ponadto, należy również zwrócić uwagę na konieczność zapewnienia dostawcom AI odpowiedniego czasu na dostosowanie się do wydanego ostrzeżenia oraz możliwości odwołania się od niego. Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 118 Co więcej, artykuł 53 budzi obawy KL zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. 178. Art. 53 ZPP Wersji projektu ustawy z lutego 2025 r. przewiduje, że ostrzeżenia będą wydawane na podstawie uzasadnionego podejrzenia, a nie jednoznacznych dowodów naruszenia prawa, i mają formę postanowień, a nie decyzji administracyjnych. Jednakże, przepisy te umożliwiają Komisji nakładanie sankcji – w tym kar pieniężnych czy władczych środków nakazowych (np. blokowanie systemu lub jego wycofanie z rynku) – bez przeprowadzenia pełnego postępowania administracyjnego. Aby zapewnić prawo do obrony i zapobiec nieproporcjonalnym sankcjom, władcze środki nakazowe powinny być stosowane wyłącznie na podstawie decyzji administracyjnej, wydanej po pełnym postępowaniu administracyjnym i udowodnieniu naruszenia, z możliwością odwoławczą. Ostrzeżenie jako narzędzie o charakterze inicjującym, powinno jedynie sygnalizować potencjalne problemy i skłaniać do podjęcia działań naprawczych. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość zastosowania innych środków, takich jak kontrola czy postępowanie administracyjne, po przeprowadzeniu odpowiedniej procedury wyjaśniającej. Dodatkowo, niezbędne jest zapewnienie dostawcom AI wystarczającego czasu na wdrożenie niezbędnych zmian oraz możliwość skutecznego odwołania się od decyzji. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 179. Art. 53 ust. 2 pkt. 1 Konfederacj a Lewiatan Propozycja brzmienia: 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 119 Uzasadnienie: Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o „uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. 180. Art. 53 ust. 3 IAB Polska Wydłużenie terminu na wykonanie działań umożliwiających przywrócenie stanu zgodnego z prawem do 60 dni Obecnie przewidziany 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków naprawczych jest niewystarczający, szczególnie w przypadku dużych podmiotów o złożonej strukturze organizacyjnej i technologicznie zaawansowanych systemach AI. Systemy AI wymagają często czasochłonnych zmian, które mogą obejmować: 1. Modyfikacje informatyczne i zmiany kodu, które muszą zostać przetestowane przed wdrożeniem, 2. Oceny cyberbezpieczeństwa, aby uniknąć wprowadzenia nowych luk w zabezpieczeniach, 3. Kontrole zgodności z prawem, uwzględniające różne regulacje sektorowe i międzynarodowe, 4. Procesy decyzyjne w dużych organizacjach, w których zatwierdzenie zmian wymaga przejścia przez określone procedury wewnętrzne. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 181. Art. 53 ust. 3 Konfederacj a Lewiatan Proponowane brzmienie: 3. Strona w terminie 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Uzasadnienie: Obecny 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków zaradczych w celu usunięcia skutków naruszenia jest zbyt krótki, zwłaszcza dla dużych organizacji o złożonych strukturach i zaawansowanych systemach SI. Takie organizacje Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 120 potrzebują więcej czasu na wdrożenie zmian z powodu wewnętrznych procesów decyzyjnych i hierarchii zatwierdzania. Ponadto systemy SI są często złożone technicznie, a wymagane modyfikacje mogą obejmować: ● inżynierię oprogramowania i zmiany w kodowaniu, które należy przetestować przed wdrożeniem, ● oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, ● kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z 14 do co najmniej 30 dni. Pozwoli to na przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków zaradczych. 182. Art. 53 ust. 3 Pracodawcy RP W art. 53 ust. 3 projektu przewiduje się również okres 14 dni na przekazanie informacji o realizacji ostrzeżenia Przewodniczącego Komisji KRiBSI. Ponownie stwierdzić należy, że jest to zdecydowanie zbyt krótki termin, a firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na przekazanie informacji o realizacji ostrzeżenia KRibSi jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 183. Art. 53 ust. 4 Konfederacj a Lewiatan Proponowane brzmienie: 4. W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary 121 postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Uzasadnienie: Przepis jest zbyt daleko idący jak na „uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy, tj. spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na tym etapie nie jest pewne, że do tego doszło. pieniężnej w przypadku, gdy strona nie wykona postanowienia. 184. Art. 54 ust. 1 IAB Polska Precyzyjne określenie zakresu decyzji podejmowanych przez Komisję Uwaga uwzględniona Dokonano doprecyzowania w art. 54 ust. 1. (obecnie art. 46). 122 Projektowane przepisy nie precyzują, czy decyzja Komisji może dotyczyć wyłącznie naruszeń AI Act, czy także projektowanej ustawy. Brak jednoznacznych regulacji powoduje niejasność co do zakresu uprawnień Komisji i ryzyko błędnej interpretacji prawa. Ustawa o systemach sztucznej inteligencji jest odrębnym aktem prawnym, dlatego konieczne jest jasne wskazanie czy decyzja może obejmować naruszenia tej ustawy. 185. Art. 54 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uzasadnienie: Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 186. Art. 54 ust. 2 Konfederacj a Lewiatan Proponowane brzmienie: 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Uzasadnienie: Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 187. Art. 54 ust. 2 IAB Polska Wydłużenie terminu na realizację zawiera środków nakazujących usunięcie skutków naruszenia obowiązków wynikających z AI Act do 60 dni Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony 123 Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 188. Art. 54 ust. 2 Pracodawcy RP Artykuł 54 ust. 2 projektu, który przewiduje także 14 dni na usunięcie skutków naruszenia obowiązków wynikających z Aktu o AI. W tym przypadku ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na usunięcie skutków naruszenia obowiązków z Aktu o AI jest niewystarczający. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 189. Art. 54 ust. 1 oraz art. 55 ust. 2 ZPP a) Analiza art. 55 ust. 2 wskazuje na istotne problemy dotyczące przyznania Komisji uprawnień do nakazywania zaprzestania użytkowania lub wycofania systemu z rynku. Główne zastrzeżenia koncentrują się wokół niedostatecznej precyzji kryteriów uzasadniających te działania, co może prowadzić do dowolności w podejmowaniu decyzji oraz naruszać fundamentalną zasadę pewności prawa. Szczególny niepokój budzi także ustanowiony termin 30 dni przed wyborami jako okres na złożenie odwołania od decyzji Komisji. Przyjęte rozwiązanie znacząco ogranicza efektywność ochrony prawnej podmiotów, których decyzja dotyczy, jednocześnie umożliwiając natychmiastowe wdrożenie środków mogących skutkować trudnymi do odwrócenia konsekwencjami. W świetle powyższych zastrzeżeń rekomendujemy eliminację z projektu legislacyjnego zapisów przyznających Komisji uprawnienia do wydawania decyzji zobowiązujących operatora do zaprzestania wykorzystywania systemu lub jego usunięcia z rynku bądź eksploatacji na podstawie nieprecyzyjnych i subiektywnych kryteriów. Zakres kompetencji Komisji w przedmiotowym obszarze powinien zostać ściśle zawężony do działań enumeratywnie wskazanych w art. 79 rozporządzenia 2024/1689 (AI Act). Takie rozwiązanie zapobiegłoby potencjalnym nadużyciom, wykorzystaniu politycznemu oraz zagwarantowało realną możliwość skorzystania z procedury odwoławczej i należytą ochronę prawną uczestników postępowania. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). W zakresie art. 55 (obecnie art. 47) należy wyjaśnić, że ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. W przepisie odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów 124 190. Art. 54 ust. 3 Konfederacj a Lewiatan Jeśli decyzja o karze może być wydana razem z decyzją o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 191. Art. 55 UKNF Pomimo informacji o uwzględnieniu dotychczas zgłoszonych przez UKNF uwag, analiza projektowanego brzmienia przepisu prowadzi do wniosku, że w dalszym ciągu wymaga on gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów AI stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Należy zauważyć, że przepis art. 79 ust. 1-5 rozporządzenia 2024/1689 daje organom nadzoru uprawnienie do żądania wycofania systemu AI z rynku, jeżeli w wyniku jego oceny organ dojdzie do wniosku, że system, stwarzający ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych, nie jest zgodny z wymogami rozporządzenia. Zgodnie z art. 79 ust. 2 akapit 2 rozporządzenia 2024/1689 w przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby: 1) zapewnić zgodność tego systemu AI z wymogami, 2) wycofać ten system z rynku lub z użytku. Przepis art. 55 projektu ustawy nie przewiduje natomiast możliwości podjęcia działań naprawczych w celu zapewnienia zgodności systemu AI. Uwaga wyjaśniona Przepisy art. 55 (art. 47) ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. Nie wyklucza ona natomiast zastosowania przez podmiot środków naprawczych. 125 Ponadto aktualne brzmienie przepisu nie uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Może to sugerować, że stanowi odzwierciedlenie instytucji z art. 82 rozporządzenia 2024/1689, a więc sytuacji, gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w tym rozporządzeniu, ale stwarza ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. W ramach procedury przewidzianej w art. 82 rozporządzenia 2024/1689 przewidziano jednak, że organ zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ. Niezależnie od powyższego UKNF ponownie wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). 192. Art. 55 ust. 2 Konfederacj a Lewiatan Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z Uwaga uwzględniona W przepisie (art. 47 ust. 2) odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów Wykreślony został fragment przepisu 126 rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejednoznaczne, co uniemożliwia precyzyjne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów i wskazówek, które Komisja powinna wziąć pod uwagę przy podejmowaniu decyzji, stwarza możliwość potencjalnie arbitralnego podejmowania decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa, które stanowią fundament demokratycznego państwa prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W rezultacie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co byłoby szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Należy podkreślić, że analizowane uprawnienie Komisji do podejmowania tak drastycznych środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, czyli nadmiernej regulacji wykraczającej poza wymogi unijne, którego w polskiej regulacji miało nie być. Co więcej, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu, co dodatkowo podważa jego zasadność i legitymację. W związku z powyższym, postulujemy całkowite usunięcie tego przepisu z projektu ustawy, a uprawnienia Komisji powinny być obejmujący treść: “lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej”. 127 ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 193. Art. 55 ust. 2 IAB Polska Usunięcie fragmentu niejasnego uprawnienia Komisji do nakazania wycofania systemu z rynku z uwagi na wpływ na opinie i nastroje społeczne Obecne brzmienie przepisu przyznającego Komisji prawo do nakazania zaprzestania korzystania z systemu lub wycofania go z rynku jest zbyt szerokie i niejasne. Problematyczne kwestie: 1. Brak precyzyjnych kryteriów, na podstawie których Komisja może podejmować taką decyzję, w kontekście opinii i nastrojów społecznych, 2. Brak jednoznacznej podstawy prawnej w AI Act w zakresie opinii i nastrojów społecznych, 3. Możliwość arbitralnego stosowania przez Komisję środków o skrajnych konsekwencjach dla przedsiębiorców, 4. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Ponadto, Ministerstwo nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego uprawnienia, w tym do AI Act jako podstawy prawnej tego zakresu przepisu. Jeśli Ministerstwo uzna taki środek za konieczny, powinien on być przedmiotem odrębnej inicjatywy ustawodawczej, zawierającej jasne uzasadnienie oraz podstawę prawną. Uwaga uwzględniona W przepisie (art. 47) odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 194. Art. 55 ust. 4 Konfederacj a Lewiatan Zapytanie: Gdzie w treści ustawy opisany jest tryb przyspieszony? Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu (art. 47). 195. Art. 56 PGRP Proponuje się uzupełnić art. 56 dotyczący odpowiedniego stosowania k.p.a. w odniesieniu do postępowań prowadzonych przed Uwaga uwzględniona 128 Komisją w zakresie nieuregulowanym w projekcie również o postępowania przed Przewodniczącym Komisji, który może w toku postępowania – na podstawie art. 53 ust. 1 projektu – wydawać stronie ostrzeżenie, w drodze postanowienia. W projektowanych przepisach brak jest kompleksowego uregulowania wydawania postanowień, o których mowa w art. 53 ust. 1, a wobec braku odesłania do k.p.a. w tym wypadku, mogą powstać wątpliwości interpretacyjne. Przepis (art. 48) został uzupełniony w zakresie odpowiedniego stosowania k.p.a. w odniesieniu do postępowań przed Przewodniczącym Komisji. 196. Art. 57 Konfederacj a Lewiatan Proponowane brzmienie: Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uzasadnienie: Ad. ust. 1 - Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ad. ust.2 - Czy nie powinna być tu mowa decyzji z art. 54 ust. 1 i 3? Ad. ust.3 - W ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. art. 57 ust. 2 Konfederacj a Lewiatan Uwaga: Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 129 zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. 197. Art. 57 ust. 2 IAB Polska Poprawa omyłki pisarskiej dot. wskazania określonych jednostek redakcyjnych Zakładamy, że w art. 57 ust. 2 ustawy wystąpiła omyłka redakcyjna. Obecne brzmienie przepisu powinno odnosić się do art. 54 ust. 1 i art. 54 ust. 2, a nie do art. 55 ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 198. Art. 57 ust. 2 UKNF Przepisy art. 55 ust. 3 i 4, do których odsyła projektowany art. 57 ust. 2, nie zawierają podstawy do wydawania decyzji przez Komisję, ani nie mówią o takich aktach administracyjnych. Tym samym odesłanie jawi się jako błędne. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 199. Art. 57 ust. 3 UKNF Przepis zawiera błędne odesłanie do ust. 1, w związku z czym UKNF wskazuje na konieczność ponownej jego weryfikacji. Odwołania jako środek zaskarżenia są wskazane w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 200. Art. 57 ust. 3 PGRP Art. 57 ust. 3 odsyła do stosowania przepisów k.p.c. wyłącznie w odniesieniu do postępowań w sprawach zażaleń od postanowień Komisji, o których mowa w ust. 1. Nie obejmuje natomiast odwołań od decyzji Komisji, o których mowa w ust. 2. Rekomenduje się rozważenie uzupełnienia zakresu przedmiotowego tego przepisu również o sprawy dotyczące odwołań, o których mowa w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. art. 57 ust.4 w zw. z art. 107 Konfederacj a Lewiatan Uwaga: Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 47988f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 49). 201. Art. 57 ust. 4 IAB Polska Jednolita procedura odwoławcza dla ostrzeżeń i decyzji Komisji Obecnie ostrzeżenia wydawane przez Komisję nie podlegają analogicznej procedurze odwoławczej jak decyzje dotyczące naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (poza oczywistymi różnicami wynikającymi z wydawania ostrzeżenia w formie postanowienia, a nie decyzji). Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję zażalenia za słuszne (dodany Art. 49 ust. 5). 130 Brak jednolitej procedury odwoławczej powoduje niepewność prawną i niespójność ochrony podmiotów podlegających regulacji. Zapewnienie jednolitych ram proceduralnych zagwarantuje skuteczność, przewidywalność i spójność prawną. 202. Art. 57 ust. 4 PGRP Rekomenduje się rozważenie możliwości uznania przez Komisję za zasadne – w toku rozpatrywania środka zaskarżenia – nie tylko odwołania, ale także zażalenia. Ponadto rekomenduje się określenie terminu na uznanie przez Komisję odwołania (oraz zażalenia) za słuszne. Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję odwołania oraz zażalenia za słuszne (art. 49 ust. 4 i 5). 203. Art. 61 Konfederacj a Lewiatan Propozycja brzmienia: Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 131 Uzasadnienie: Ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 UOKK - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. 204. Art. 61 RPD Obecnie projektowany art. 61 ustawy o systemach sztucznej inteligencji wyłącza możliwość zawarcia układu o nadzwyczajnym złagodzeniu sankcji tylko w razie wystąpienia niektórych przypadków „poważnego incydentu” w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689, to jest incydentu lub nieprawidłowego działania systemu AI prowadzącego do śmierci osoby, poważnego uszczerbku na zdrowiu, zakłócenia infrastruktury krytycznej oraz poważnych szkód na mieniu lub środowisku, natomiast nie uwzględnia sytuacji wskazanej w art. 3 pkt 49 lit. c tego rozporządzenia, czyli incydentów lub nieprawidłowego działania systemu AI, które bezpośrednio lub pośrednio prowadzą do naruszenia obowiązków przewidzianych w prawie Unii mających na celu ochronę praw podstawowych. Pominięcie tej kategorii poważnych incydentów powoduje, że podmioty, których systemy sztucznej inteligencji doprowadziły do naruszenia podstawowych praw i wolności, na przykład pozbawiły dziecko równych szans na dostęp do edukacji w wyniku nieprawidłowego działania, mogą korzystać z możliwości łagodniejszego traktowania lub nawet uniknąć sankcji. W konsekwencji takie podmioty, mimo naruszenia w sposób pośredni lub bezpośredni podstawowe prawa dzieci, narażając je na poważne konsekwencje zdrowotne, emocjonalne czy rozwojowe, mogłyby uniknąć pełnej odpowiedzialności, co budzi zasadnicze wątpliwości z perspektywy ochrony praw najmłodszych. Jako Rzeczniczka Praw Dziecka postuluję zatem wprowadzenie do katalogu przesłanek negatywnych wyłączenia możliwości zawarcia układu, jeżeli incydent lub nieprawidłowe działanie systemu AI, prowadzą do naruszenia obowiązków przewidzianych w prawie Unii Uwaga wyjaśniona Należy zgodzić się z tezą, że naruszenie praw podstawowych w szczególności dzieci jest bardzo istotną podlegającą szczególnej ochronie. Jednak zasadne jest aby zastosowanie możliwości zastosowania układu w sprawie nadzwyczajnego złagodzenia sankcji odnosiło się do najwyższej wagi negatywnych skutków działania AI. Możliwość zawarcia układu jest pewnego rodzaju popchnięciem do autorefleksji po stronie podmiotu naruszającego przepisy co będzie miało pozytywne odziaływanie na jego postępowanie na przyszłość. Dodatkowo należy wskazać, że aby podmiot naruszający prawo mógł przystąpić do układu musi już podjęć konkretne kroki i zaprzestać naruszania prawa albo usunąć stan niezgodności z prawem. Dodatkowo nawet po pełnieniu warunków nadzwyczajne złagodzenie kary nie będzie stosowane obligatoryjnie. Komisji przypisano prawo do wydania postanowienia o braku możliwości zawarcia układu. Konkretne sprawy będą zatem rozpatrywane indywidualnie. Niezależnie od należy ponadto wziąć pod uwagę że powyższego przy wymierzaniu kar będzie zawsze brane okoliczność że przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. 132 mających na celu ochronę praw podstawowych dzieci lub gdy Komisja stwierdzi wykorzystanie systemów sztucznej inteligencji w sposób naruszający pośrednio lub bezpośrednio podstawowe prawa i wolności dzieci, w szczególności, gdy istnieje wysokie prawdopodobieństwo wyrządzenia im szkody na skutek nieprzestrzegania wymogów rozporządzenia 2024/1689 lub niewłaściwej realizacji tych obowiązków. Naruszenia wynikające z nieprzestrzegania zasad rozporządzenia 2024/1689 mogą prowadzić do długotrwałych i nieodwracalnych skutków w zakresie rozwoju emocjonalnego i psychicznego dzieci, a także narażać je na szkodliwe treści lub nieetyczne praktyki komercyjne, dlatego umożliwienie takim podmiotom uniknięcia odpowiedzialności stanowi lukę w systemie ochrony najmłodszych i nie znajduje przekonującego uzasadnienia w świetle fundamentalnego znaczenia, jakie prawo unijne przypisuje ochronie dzieci. Naruszenia wynikające z nieprzestrzegania rozporządzenia 2024/1689 mogą prowadzić do poważnych i długotrwałych konsekwencji dla dzieci, zwłaszcza w sferze rozwoju emocjonalnego i psychicznego, a także narażać je na szkodliwe treści czy nieetyczne praktyki komercyjne. Przykładowo, jeśli system AI wspierający sędziego w sprawach rodzinnych i opiekuńczych nieprawidłowo klasyfikuje lub filtruje wypowiedzi dziecka, w konsekwencji nie uwzględniając ich w rekomendacjach przedstawianych sędziemu, dochodzi do naruszenia prawa dziecka do bycia wysłuchanym i uwzględniania jego opinii w sprawach, które go dotyczą. Umożliwienie dostawcom systemów AI, których rozwiązania prowadzą do takich naruszeń, uniknięcia odpowiedzialności stanowi istotną lukę w systemie ochrony najmłodszych i nie znajduje uzasadnienia w świetle fundamentalnego znaczenia, jakie ochrona dzieci ma w prawie Unii. Dlatego w sytuacjach, w których incydent lub nieprawidłowe działanie systemu AI prowadzi do naruszenia podstawowych praw i wolności dzieci, należy wyłączyć w ustawie możliwość zawarcia układu pozwalającego na nadzwyczajne złagodzenie sankcji lub całkowite odstąpienie od ich nałożenia. 133 205. Art. 61 ust. 6 Konfederacj a Lewiatan Propozycja brzmienia: 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 206. Art. 61 ust. 7 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 1. Art. 62 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. Uwaga wyjaśniona Termin na zawarcie układu uwzględnia specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 134 207. Art. 62 ust. 4 Konfederacj a Lewiatan Uprawnienia Komisji do zakończenia negocjacji ugodowych są obecnie zbyt szerokie i niejasne. Proponujemy wprowadzenie konkretnych kryteriów, które muszą zostać spełnione, aby Komisja mogła zakończyć negocjacje. Dodatkowo, Komisja powinna być zobowiązana do przedstawienia uzasadnienia swojej decyzji, aby zapewnić stronom przejrzystość i zrozumienie podstawy prawnej i faktycznej takiego zakończenia. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 208. Art. 62 ust. 4 IAB Polska Ograniczenie arbitralności w zakończeniu procesu ugodowego przez Komisję Obecne przepisy przyznają Komisji zbyt szerokie uprawnienia do zakończenia procesu ugodowego bez określenia jasnych kryteriów. Brak wymogu uzasadnienia tej decyzji może prowadzić do arbitralności i niepewności prawnej dla podmiotów regulowanych. Rekomendujemy: 1. Wprowadzenie konkretnych przesłanek, na jakich Komisja może zakończyć proces ugodowy, 2. Obowiązek uzasadnienia decyzji, aby strony mogły zrozumieć jej podstawę prawną i faktyczną. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 209. Art. 62 ust. 4 ZPP Ustalić kryteria, które umożliwią zakończenie negocjacji ugodowych przez organ nadzoru, wraz z obowiązkiem przedstawienia uzasadnienia decyzji. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 1. Art. 66 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uzasadnienie: Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona. Poprawiono odesłanie w pkt 2. 210. Art. 66 ust. 2 pkt 3 IAB Polska Doprecyzowanie definicji złej wiary w procesie zawierania ugody Uwaga wyjaśniona „Zła wiara” jest pojęciem znanym w prawu polskiemu i nie wymaga dodatkowego 135 Brak definicji złej wiary powoduje niepewność prawną i daje Komisji nadmierną swobodę w podejmowaniu decyzji o zakończeniu procesu ugodowego. Rekomendujemy dodanie przykładowej listy działań, które mogą być uznane za prowadzenie negocjacji w złej wierze. Ograniczy to ryzyko arbitralnego stosowania przepisów, zapewnieni przewidywalności i większą ochronę podmiotom regulowanym. doprecyzowania. We wskazanym przepisie została wskazana jako działanie strony postępowania mające charakter pozorny i nie zmierzające do zawarcia układu. 211. Art. 70 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 212. Art. 70 ust. 3 IAB Polska Wprowadzenie wymogu zachowania poufności i przestrzegania zasad ochrony danych, w szczególności tajemnicy przedsiębiorstwa Projektowane przepisy przyznają Komisji zbyt szerokie uprawnienia do żądania informacji, wyjaśnień i dokumentów dotyczących realizacji zobowiązań układowych. Brak mechanizmów ochrony może prowadzić do niekontrolowanego dostępu do poufnych danych biznesowych. Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 213. Art. 71 ust. 2 IAB Polska Ograniczenie kary do spółek dopuszczających się naruszenia Uwaga wyjaśniona Art. 71 został wykreślony. 136 Artykuł 71 ust. 2 w niewłaściwy sposób nakłada kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. 214. Art. 71 ust. 2 Pracodawcy RP Projekt w sposób niewłaściwy nakłada kary na członków zarządu. Wskazujemy, że Akt o AI nie daje podstaw do nakładania kar pieniężnych na członków zarządu spółki. Uwaga wyjaśniona Art. 71 został wykreślony. 215. Art. 74 ust. 2 UKNF W ocenie UKNF przepis wymaga ponownej weryfikacji. Z projektu ustawy, nie wynika, aby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wydawała zezwolenia, do których odnosi się ten przepis. Uwaga uwzględniona Wykreślono termin „zezwolenie”. 216. Art. 74 ust. 2 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwag uwzględniona Przepis został przeredagowany. Wykreślono termin „zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. Katalogu sankcji wynika z przepisów ustawy i rozporządzenia 2024/1689. 217. Art. 77 IAB Polska Możliwość oznaczania informacji jako niepublicznych przy publikacji decyzji Ustawa powinna jednoznacznie wskazywać, że niektóre informacje nie mogą być ujawniane przez Komisję, zwłaszcza jeśli stanowią tajemnicę przedsiębiorstwa lub informacje wrażliwe. Rekomendujemy także wprowadzenie prawnego obowiązku zachowania poufności oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 218. Art. 77 ZPP Wprowadzić przepisy dotyczące publikacji decyzji – określić, które informacje objęte są ochroną, aby nie dochodziło do nieuprawnionego ujawnienia danych wrażliwych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po 137 usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 219. Art. 77 Konfederacj a Lewiatan Ustawa o systemach sztucznej inteligencji powinna zawierać przepisy umożliwiające oznaczanie przez podmioty pewnych informacji jako niepublicznych w przypadku publikacji decyzji. Komisja powinna mieć wyraźny zakaz ujawniania niektórych wrażliwych informacji. Ustawa powinna również wprowadzać prawny obowiązek zachowania poufności, szczególnie w odniesieniu do tajemnic przedsiębiorstwa oraz zapewniać zgodność wymogów dotyczących publikacji z przepisami o ochronie danych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 220. Art. 77 ust. 1 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Przedstawione wyjaśnienie projektodawcy nie znajduje oparcia w przedłożonych do opiniowania przepisach – brak jest przepisu nakazującego respektowanie ustawowej ochrony informacji, a charakter art. 77 ust.1 projektu ustawy może w praktyce budzić wątpliwości odnośnie do tego, czy ma on charakter szczególny do przepisów o ochronie informacji, zwłaszcza w kontekście art. 26 § 5 ustawy z dnia 6 czerwca 1997 r. Kodeks karny, wyłączającego odpowiedzialność karną w przypadku wykonania jednego z pozostających w kolizji obowiązków z jednoczesnym naruszeniem innego obowiązku (w tym wypadku dopełnienie obowiązku publikacji decyzji administracyjnej pozostaje w kolizji z ewentualnym naruszeniem obowiązku przestrzegania zakazu ujawnienia informacji). Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 221. Art. 77 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w Uwaga częściowo uwzględniona Przepis otrzymał nowe brzmienie. 138 tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uzasadnienie: Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. 222. Rozdział 6 PARP Projekt ustawy nakłada obowiązek raportowania poważnych incydentów związanych z wykorzystaniem systemów sztucznej inteligencji, co może prowadzić do dublowania obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa. W przypadku podmiotów podlegających obu regulacjom może to skutkować koniecznością zgłaszania tego samego incydentu do różnych instytucji, generując zbędne obciążenia administracyjne dla przedsiębiorców. Z tego względu wskazane byłoby doprecyzowanie przepisów w taki sposób, aby umożliwić koordynację procesów raportowania w ramach jednolitego systemu zgłaszania incydentów. Uwaga wyjaśniona Rozdział 6 obejmuje wyłącznie poważne incydenty zaistniałe w związku z wykorzystaniem systemów sztucznej inteligencji, przez co nie może być mowy o “dublowaniu obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa”. 223. Art. 78 ZPP Obowiązujący termin 24 godzin na zgłaszanie poważnych incydentów wprowadza istotne wyzwania operacyjne, szczególnie dla złożonych organizacji zarządzających zaawansowanymi systemami informatycznymi, w tym technologiami AI. Ta krótka perspektywa czasowa wymusza niewłaściwą alokację zasobów - zamiast koncentrować wysiłki na minimalizacji szkód i wdrażaniu działań naprawczych, podmioty muszą priorytetyzować przygotowanie formalnego zgłoszenia. Okres jednej doby jest niewystarczający do przeprowadzenia wnikliwego dochodzenia, które wymaga skompletowania i analizy materiału dowodowego, identyfikacji pierwotnych przyczyn incydentu, oszacowania pełnego zakresu potencjalnych następstw oraz koordynacji pomiędzy różnymi komórkami organizacyjnymi. Sytuacja jest dodatkowo skomplikowana w przypadku podmiotów działających globalnie, gdzie różnice stref czasowych stanowią dodatkową barierę w realizacji procesu. Postulujemy wydłużenie terminu raportowania poważnych incydentów do 7 dni. Proponowana zmiana umożliwi organizacjom realizację pogłębionej analizy technicznej zdarzenia, zebranie kompletnej dokumentacji obejmującej dzienniki systemowe i ślady Uwaga uwzględniona Przepis (art. 69) uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 139 cyfrowe, skuteczną integrację działań pomiędzy departamentami oraz opracowanie kompleksowego raportu zawierającego merytoryczną analizę wszystkich aspektów zdarzenia. Wprowadzone modyfikacje - zarówno w zakresie ograniczenia arbitralnych uprawnień Komisji zgodnie z art. 79 rozporządzenia 2024/1689, jak i wydłużenia terminu raportowania incydentów - przyczynią się do wzmocnienia ochrony prawnej podmiotów, zapobiegania potencjalnym nadużyciom oraz podniesienia jakości i kompletności raportowanych informacji, co bezpośrednio wpłynie na efektywność procesów zarządzania incydentami i bezpieczeństwem systemów informatycznych w perspektywie długoterminowej. 224. Art. 78 Konfederacj a Lewiatan Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości. Uzasadnienie: W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Analogiczne zapisy zawiera art. art. 73 ust.2-4 Rozporządzenia 2024/1689 – w związku z tym unijny prawodawca nie wymaga tak restrykcyjnego terminu jak zaproponowany w projekcie ustawy. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 225. Art. 78 Pracodawcy RP Zgodnie z art. 73 Aktu o AI zgłoszenia, o których mowa w ww. przepisie dokonuje się niezwłocznie po ustaleniu przez dostawcę Uwaga wyjaśniona 140 związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie. Zgodnie z brzemieniem z art. 78 projektu polski podmiot ma jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uważamy, że wskazany termin jest niewystarczający – proponujemy zastosowanie mechanizmu analogicznego do działającego na gruncie RODO, czyli wydłużenie terminu do 72 godzin. Polski projekt daje tylko 24 godziny na zgłoszenie poważnego incydentu, podczas gdy Akt o AI przewiduje 15 dni. Propozycja: Wydłużenie terminu do 72 godzin, analogicznie do RODO. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 226. Art. 78 ust. 1 IAB Polska Wydłużenie terminu raportowania poważnych incydentów z 24 godzin do 72 godzin. 24-godzinny termin raportowania incydentów jest nieracjonalnie krótki i może uniemożliwić rzetelną ocenę sytuacji, szczególnie dla dużych organizacji. Problemy: 1. Złożone organizacje mogą nie mieć wystarczająco dużo czasu na zebranie danych, 2. Strefy czasowe mogą utrudnić terminowe raportowanie, 3. Niewystarczający czas na analizę przyczyn incydentu i jego skutków, a także na określenie, czy jest on poważny. Zwracamy uwagę na art. 73 ust. 2 AI Act: Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 141 stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Proponujemy mechanizm znany z RODO, czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: “Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości.”. 227. Art. 78 ust. 1 Konfederacj a Lewiatan 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. 24 godziny to niewystarczający czas na przeprowadzenie dogłębnej analizy incydentu, zebranie niezbędnych danych, ocenę jego potencjalnego wpływu oraz podjęcie świadomych decyzji dotyczących dalszych działań. W przypadku organizacji o rozbudowanej strukturze, proces ten może być dodatkowo utrudniony przez konieczność koordynacji działań między różnymi działami i jednostkami. W przypadku incydentów związanych z zaawansowanymi technologiami, takimi jak sztuczna inteligencja, ocena ich powagi i potencjalnych konsekwencji może wymagać zaangażowania specjalistów oraz przeprowadzenia szczegółowych analiz technicznych, co jest niemożliwe do wykonania w ciągu 24 godzin. Ponadto, w dużych organizacjach, proces raportowania incydentów może obejmować wiele etapów, takich jak identyfikacja, Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 142 klasyfikacja, analiza, eskalacja oraz przygotowanie raportu. Dla organizacji działających w różnych strefach czasowych 24-godzinny termin raportowania może okazać się jeszcze bardziej problematyczny. W związku z powyższym konieczne jest wydłużenie terminu raportowania poważnych incydentów do co najmniej 7 dni. Zapewni to wystarczającą ilość czasu na: ● Dogłębną analizę incydentu: Identyfikację przyczyn, ocenę skutków oraz potencjalnego wpływu. ● Zebranie niezbędnych danych: Zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu. ● Koordynację działań: Zapewnienie współpracy między różnymi działami i jednostkami w celu skutecznego reagowania na incydent. ● Przygotowanie kompleksowego raportu: Sporządzenie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. 228. Art. 80 ust. 1 IAB Polska Ograniczenie przekazywania danych o incydentach w zakresie innych podmiotów Projektowany przepis pozwala Komisji na szerokie udostępnianie danych o incydentach, co może prowadzić do nadużyć. Rekomendujemy: 1. Określenie jasnych kryteriów, takie udostępnienie może mieć miejsce, 2. Wprowadzenie zabezpieczeń chroniących dane nieosobowe np. tajemnicę przedsiębiorstwa. Pozwoli to ograniczyć nieuzasadnione przekazywanie danych między instytucjami. Uwaga wyjaśniona Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. Dane przekazywane pomiędzy instytucjami udostępniane są w zakresie niezbędnym do realizacji przez te organy ich zadań określonych w rozporządzeniu 2024/1689 lub ustawie z uwzględnieniem przepisów o ochronie danych osobowych. Przekazanie następuje z urzędu lub na wniosek, a podstawą do ich udostepnienia są przepisy powszechnie obowiązujące. 229. Art. 80 ust. 1 UKNF Uzasadnione jest dodanie do katalogu podmiotów wymienionych w art. 80 ust. 1 projektu ustawy Komisji Nadzoru Finansowego, w celu Uwaga uwzględniona 143 pozyskiwania przez nią informacji na temat poważnych incydentów zaistniałych w związku z wykorzystaniem systemów AI wykorzystywanych przez podmioty objęte nadzorem KNF. Tego rodzaju informacje pozostają istotne z perspektywy nadzoru sprawowanego przez KNF, w tym z perspektywy bieżącej oceny ryzyka dla podmiotów rynku finansowego i nieprofesjonalnych uczestników tego rynku z wykorzystania przez podmioty objęte nadzorem KNF systemów sztucznej inteligencji. W art. 80 (obecnie art. 70) w ust. 1 dodano Przewodniczącego Komisji Nadzoru Finansowego. 230. Art. 80 ust. 1 ZPP Ustalić kryteria udostępniania raportów i danych organom, co zapewni odpowiednią ochronę informacji przy jednoczesnej transparentności postępowań. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 231. Art. 80 ust. 1 Konfederacj a Lewiatan Obecny przepis przyznający Komisji uprawnienia do przekazywania raportów i powiązanych danych wielu podmiotom jest zbyt szeroki i może prowadzić do nadużyć. Ustawa nie określa jasno okoliczności, w których takie udostępnianie danych może nastąpić. W związku z tym zalecamy wprowadzenie jasnych i szczegółowych kryteriów, które będą określać, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. Należy również wprowadzić wyraźne zabezpieczenia w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa, które obecnie nie są wystarczająco chronione. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 232. Art. 81 ust. 4 pkt 1 PCA Zgodnie z projektem „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji uczestniczy w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” Zapis sugeruje wiodącą rolę PCA w tym zakresie przy jednoczesnym przypisaniu kompetencji organu notyfikującego do ministra właściwego do spraw informatyzacji. Proponujemy usunięcie tego Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689;”. 144 zapisu lub przeredagowanie zapisu, aby lepiej oddawał podział kompetencji: „Polskie Centrum Akredytacji wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” 233. Art. 81 ust. 4 pkt 2 PCA Zgodnie z projektem „Polskie Centrum Akredytacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji”. Proponujemy przeredagowanie zapisu tak aby punkt ten otrzymał brzmienie: „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;” Zaproponowane podejście umożliwia bardziej elastyczne reagowanie i jest standardowo stosowane w innych obszarach. Rozwiązanie zaproponowane obecnie w projekcie może generować konieczność opracowywania „sztucznej” aktualizacji w przypadku braku takiej konieczności. Jednocześnie zaproponowany termin 24 miesięcy jest terminem w żaden sposób niezwiązanym z cyklem akredytacji wynoszącym 4 lata. PCA zawsze w razie potrzeby opracowuje szczegółowe programy akredytacji, opracowywanie programów akredytacji jest jednym z wymagań normy PN-EN ISO/IEC 17011, które jednostka akredytująca musi spełniać. Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „2) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;”. 234. Art. 82 ust 3 pkt 1 PCA Art. 43 rozporządzenia 2024/1689 nie dotyczy wprost procedury oceny na potrzeby akredytacji i nie stanowi podstawy akredytacji. Proponujemy zmienić treść przepisu na następującą: Uwaga uwzględniona 145 „Certyfikat akredytacji, o którym mowa w art. 24. ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689” Przepisowi (art. 72 ust. 3 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) certyfikat akredytacji, o którym mowa w art. 24 ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689;”. 235. Art. 82 ust. 3 pkt 2 PCA Dokumentem potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689 zgodnie z ust. 1 jest certyfikat akredytacji, zatem dołączanie do wniosku innych dokumentów nie jest uzasadnione. Wydaje się, iż wymagania wymienione w pkt 2 są już zawarte w pkt 1. – zatem jest to powtórzenie. Zgodnie z art. 30 ust. 3 Rozporządzenia 2024/1689 tylko w przypadku, gdy podstawą notyfikacji nie jest certyfikat akredytacji, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. Uwaga uwzględniona Odstąpiono od regulacji zawartej w art. 72 ust. 3 pkt 2. 236. Rozdział 8 PARP W projekcie ustawy przewidziano możliwość ustanowienia piaskownic regulacyjnych, co zostało ujęte w art. 85. Niemniej jednak brakuje szczegółowych regulacji określających zasady ich funkcjonowania, kryteria uczestnictwa dla przedsiębiorstw oraz zakres wsparcia dla firm testujących nowe rozwiązania. Warto doprecyzować, w jaki sposób przedsiębiorcy będą mogli skorzystać z tego mechanizmu oraz jakie konkretne korzyści wynikają z testowania rozwiązań w ramach piaskownic regulacyjnych. Warto rozważyć uzupełnienie przepisów o regulacje dotyczące współpracy z ośrodkami badawczymi oraz wskazanie procedur wsparcia dla przedsiębiorców testujących innowacyjne rozwiązania w ramach piaskownic. Uwaga wyjaśniona Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689. Przy konstruowaniu przepisów dotyczących piaskownic regulacyjnych ustawa nie może wyjść poza ramy ww. rozporządzenia. Dodatkowo należy wskazać, że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 237. Art. 85 KRRiT Podtrzymuję jednocześnie stanowisko wyrażone w moim piśmie z dnia 14 listopada 2024 r., że uprawnienia do tworzenia piaskownic Uwaga wyjaśniona 146 regulacyjnych oraz zarządzania nimi powinny przysługiwać także takim organom jak: Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej oraz Przewodniczący Krajowej Rady Radiofonii i Telewizji. Projektodawca zakłada, że będzie to wyłączna kompetencja Przewodniczącego Komisji. Jednocześnie zauważmy, że projekt wskazuje na współpracę Komisji z organami w celu realizacji zadań wynikających z rozporządzenia 2024/1689 i ustawy co dotyczyć powinno również ustanawiania piaskownic regulacyjnych. 238. Art. 85 ust. 4 RPD Art. 85 ust. 4 przewiduje nieodpłatne uczestnictwo mikroprzedsiębiorców oraz MŚP w piaskownicy regulacyjnej. Należy rozszerzyć ten przepis na organizacje pozarządowe wspierające prawa dzieci i ich edukację cyfrową. Proponuje się dodanie nowego ustępu 4a do projektowanego przepisu: „Uczestnictwo organizacji pozarządowej, której celem statutowym jest ochrona dzieci oraz wspieranie inicjatyw edukacyjnych na ich rzecz, w piaskownicy regulacyjnej jest nieodpłatne.” Nieodpłatne uczestnictwo organizacji pozarządowych w piaskownicach regulacyjnych umożliwi tego rodzaju podmiotom bardziej skuteczne analizowanie wpływu AI na dzieci, w tym wczesne wykrywanie niepożądanego oddziaływania wyników generowanych przez tego rodzaju rozwiązania na dzieci. Uwaga wyjaśniona Uczestnictwo w piaskownicach regulacyjnych dotyczy podmiotów określonych art. 2 ust. 1 lit. a- c i e rozporządzenia 2024/1689. 239. Art. 85 ust. 5 NSZZ Wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej ustalono na maksymalnie czterokrotność minimalnego wynagrodzenia za pracę. Uwaga: NSZZ „Solidarność” sprzeciwia się powiązaniu opłaty z minimalnym wynagrodzeniem, bo: 1) brak związku funkcjonalnego z pracą, 2) utrudnia dialog społeczny ws. minimalnego wynagrodzenia (tzw. „podwiązki”). Propozycja: rezygnacja z odniesienia do minimalnego wynagrodzenia i ustalenie opłaty w inny sposób, by wspierać dialog społeczny. Uwaga wyjaśniona Mając na uwadze zakres podmiotów, na które oddziałuje rozporządzenie 2024/1689 oraz projekt ustawy sposób wyznaczenia wysokości opłaty jest optymalny i pozostanie bez wpływu na dialog społeczny w zakresie minimalnego wynagrodzenia. 240. Art. 85 ust 7 KRRiT Z aprobatą przyjmuję również, że aktualny projekt ustawy został uzupełniony o rozdział 8 „Środki wspierające innowacyjność”, który zawiera przepisy dotyczące tworzenia piaskownic regulacyjnych, w tym projektowany art. 85 ust 7. Przepis ten przewiduje tworzenie piaskownic regulacyjnych przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wspólnie z innymi właściwymi organami nadzoru rynku, w tym i z KRRiT - jak można Uwaga uwzględniona Wykreślono odwołanie do art. 57 ust. 1. 147 Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym wnioskować z treści projektu. Należy jednak zauważyć (co zaznaczyłem także w pkt 19 uwag legislacyjnych), że art. 85 w ust. 7 projektu błędnie odsyła do przepisu art. 57 ust. 1 projektowanej ustawy. Nie dotyczy on właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 241. Art. 86 RPD Projektowany art. 86 wymaga doprecyzowania w zakresie ustalania limitu liczby użytkowników oraz innych podmiotów, na które mogą oddziaływać projekty testowane w piaskownicy regulacyjnej, zwłaszcza z uwzględnieniem szczególnej ochrony dzieci. Należy pamiętać, że limit ten ustala minister właściwy do spraw informatyzacji, po zasięgnięciu opinii Komisji, w drodze rozporządzenia, biorąc pod uwagę możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej oraz przewidywany wpływ piaskownicy na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji. Obecnie w projekcie nie przewidziano żadnych ograniczeń dotyczących udziału dzieci w tego rodzaju projektach, co może prowadzić do sytuacji, w której dzieci będą w nieproporcjonalny sposób narażone na eksperymentalne rozwiązania z zakresu sztucznej inteligencji. Z tego względu zasadne jest postulowanie, by projektodawca wprowadził w art. 86 dodatkowe regulacje zapewniające lepszą ochronę dzieci uczestniczących w projektach w piaskownicy regulacyjnej. Po pierwsze, należałoby ustalić górny limit udziału osób małoletnich w populacji użytkowników objętych oddziaływaniem projektów testowanych w piaskownicy regulacyjnej, przyjmując, że powinien on być niższy niż limit dotyczący osób dorosłych ze względu na potrzebę ochrony dzieci jako osób, na które AI może mieć szczególny wpływ. Po drugie, wskazane byłoby ustanowienie w projektowanym przepisie dodatkowych mechanizmów ochrony, na przykład uzależnienie Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 148 dopuszczenia projektu przekraczającego limit od uzyskania opinii Rzecznika Praw Dziecka jako konstytucyjnego organu stojącego na straży dobra dziecka. W konsekwencji proponuje się dodanie w art. 86 ust. 3 następującego zdania: „Liczba użytkowników będących dziećmi, na które może oddziaływać jeden projekt w piaskownicy regulacyjnej, nie może przekroczyć 5% limitu ustalonego na podstawie przepisów ust. 1 i 2, chyba że projekt ten uzyska pozytywną opinię Rzecznika Praw Dziecka oraz spełnia podwyższone standardy ochrony danych i bezpieczeństwa dzieci.”. 242. Art. 87 ust. 4 Konfederacj a Lewiatan Przepis w obecnym brzmieniu nakłada na podmiot wymóg udowodnienia, że projekt przyczyni się do celów określonych w pkt 1) i 2), co należy doprecyzować. Przepis powinien wyszczególnić, w jaki sposób podmiot ma zapewnić, że jego udział w projekcie przyczyni się do ww. celów. Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 243. Art. 87 ust. 4 i 6 RPD Art. 87 nie zawiera dodatkowych wymogów dla projektów w piaskownicach regulacyjnych, które dotyczą dzieci. Z perspektywy ochrony praw dzieci istotne jest, aby przepisy wprost uwzględniały sytuację, w której projekt może oddziaływać na najmłodszych użytkowników oraz zobowiązywały podmioty ubiegające się o udział w piaskownicy regulacyjnej do wykazania, że zastosowane rozwiązania minimalizują ryzyko ewentualnych naruszeń. W związku z tym proponuje się wprowadzenie do art. 87 następujących uzupełnień: 1. Dodatkowe kryterium oceny projektów w piaskownicach regulacyjnych, które dotyczą dzieci W ust. 4, który określa warunki kwalifikacji podmiotu do uczestnictwa w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „4) Jeżeli projekt może oddziaływać na dzieci, podmiot wykazuje, w jaki sposób projekt spełnia wysokie standardy ochrony dzieci oraz Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 149 zawiera mechanizmy minimalizujące ryzyko narażenia dzieci na szkodę lub krzywdę w związku z udziałem w projekcie.” 2. Obowiązek wskazania potencjalnego wpływu na dzieci W ust. 6, który określa zakres informacji, jakie powinna zawierać oferta podmiotu, który chce uczestniczyć w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „7) jeżeli projekt może oddziaływać na dzieci, oferta zawiera analizę potencjalnego wpływu projektu na dzieci, w tym analizę ryzyka dla ich praw i wolności, a także opis środków zapewniających ochronę praw i bezpieczeństwa dzieci w związku z uczestnictwem w projekcie.” Taka analiza pozwoli na kompleksową ocenę wpływu planowanych rozwiązań na dzieci oraz przyczyni się do stworzenia odpowiednich mechanizmów gwarantujących ich ochronę na etapie testowania i dalszego stosowania innowacyjnych technologii sztucznej inteligencji. 244. Art. 88 ust. 1 i 2 RPD Art. 88 ustanawiając proces oceny ofert w konkursie na uczestnictwo w piaskownicy regulacyjnej nie uwzględnia wprost szczególnych potrzeb i najlepiej pojętego interesu dziecka w procesie oceny projektów w piaskownicy regulacyjnej, zwłaszcza w sytuacji, gdy projekt może oddziaływać na osoby małoletnie. Z uwagi na konieczność ochrony praw dzieci i zapewnienia, aby technologie sztucznej inteligencji były rozwijane w sposób bezpieczny oraz etyczny, proponuje się wprowadzenie do art. 88 następujących zmian: 1. Obowiązek zasięgnięcia opinii Rzecznika Praw Dziecka w zespole konkursowym W celu zagwarantowania, że w procesie oceny ofert zostaną uwzględnione aspekty ochrony praw dziecka oraz bezpieczeństwa i etyki stosowania technologii wobec osób małoletnich, proponuje się dodanie nowego ust. 1a w brzmieniu: „1a. W przypadku gdy projekt może oddziaływać na użytkowników będących dziećmi, zespół konkursowy zasięga opinii Rzecznika Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 150 Praw Dziecka oceniającej projekt z perspektywy realizacji przez niego najlepiej pojętego interesu dziecka” 2. Ocena projektów pod kątem najlepiej pojętego interesu dziecka. Należy rozszerzyć zakres oceny ofert dokonywanej przez zespół konkursowy. W tym celu proponuje się dodanie zdania drugiego do art. 88 ust. 2: „W przypadku, gdy projekt może oddziaływać na dzieci, zespół konkursowy dokonuje oceny oferty również pod kątem realizacji przez projekt najlepiej pojętego interesu dziecka, uwzględniając w szczególności bezpieczeństwo i ochronę prywatności dzieci”. Wprowadzenie powyższych zmian pozwoli na pełniejsze zabezpieczenie praw dzieci w trakcie oceny projektów testowanych w piaskownicy regulacyjnej oraz zapewni, że innowacyjne rozwiązania oparte na sztucznej inteligencji będą w większym stopniu uwzględniać szczególne potrzeby i bezpieczeństwo najmłodszych użytkowników. 245. Art. 91 RPD Biorąc pod uwagę potrzebę zagwarantowania dobra dzieci jako potencjalnych uczestników projektów w piaskownicy regulacyjnej, należy rozszerzyć obowiązki podmiotów uczestniczących w piaskownicy o wymóg dostosowania przekazywanych informacji do potrzeb małoletnich odbiorców. W szczególności art. 91 ust. 1 pkt 1 powinien precyzować, że jeśli projekt oddziałuje lub może oddziaływać na dzieci, podmiot uczestniczący ma obowiązek przedstawienia wymaganych informacji w sposób zrozumiały dla dzieci, uwzględniając ich wiek oraz poziom dojrzałości. Taki obowiązek zapewni, że dzieci będą świadome udziału w projekcie oraz jego potencjalnych skutków, co jest zgodne z zasadą przejrzystości i ochrony ich praw. Brak takiego wymogu może prowadzić do sytuacji, w której dzieci nie będą miały realnej możliwości zrozumienia, w jaki sposób dany projekt i poddanie się wpływowi AI w warunkach piaskownicy regulacyjnej na nie wpływają. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 246. Art. 92 IAB Polska Skonkretyzowanie uprawnień kontrolnych Komisji w zakresie piaskownicy regulacyjnej Uwaga wyjaśniona 151 Projektowane przepisy nie gwarantują wystarczającej ochrony poufności informacji w ramach testowania nowych technologii. Tym samym nie zapewniają zaufania i bezpieczeństwa uczestniczących podmiotów Kontrole te powinny być dostosowane do uprawnień nadzorczych Komisji związanych z weryfikacją naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (zgodnej z naszymi uwagami). Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Kontrole zostały zaprojektowane stosownie do uprawnień nadzorczych Komisji wynikających z AI Act lub ustawy o systemach sztucznej inteligencji. Nie naruszają zasad poufności ani tajemnic prawnie chronionych. 247. Art. 94 ust. 1 RPO Druga kwestia dotyczy rozwiązań mających na celu wykonanie art. 95 rozporządzenia 2024/1689. Zgodnie z art. 95 ust. 1 rozporządzenia, urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. Tymczasem art. 94 ust. 1 projektowanej ustawy stanowi jedynie, że minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. Artykuł 10 ust. 2 pkt 4 stanowi natomiast, że Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców. Nie negując zasadności powierzenia tego rodzaju zadań ministrowi i Komisji, wskazać należy, że uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki, Uwaga wyjaśniona Przyjęta przez projektodawcę regulacja ma na celu umożliwienie stosowania art. 95 ust. 1 rozporządzenia 2024/1689 uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki. W tym zakresie projektowane rozwiązania są optymalne i kompletne. Natomiast w kwestii osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 175 należy zauważyć że obok państw członkowski znaczącą rolę będą odgrywały działania podjęte przez Europejską Radę ds. Sztucznej Inteligencji (dalej „Radą”) Komisji Europejskiej. 152 przyjęte w projektowanej ustawie rozwiązania, w ocenie RPO, mogą okazać się niewystarczające dla osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 17521. 248. Art. 96 IAB Polska Poszerzenie listy podmiotów kwalifikujących się do wsparcia finansowego Obecnie projektowane przepisy ograniczają możliwość wsparcia do określonej grupy podmiotów, co nie sprzyja rozwojowi ekosystemu AI w Polsce. Szersze ramy pozwoliłyby na tworzenie szerszych partnerstw, ułatwiając rozwój rynku. Rozszerzenie zakresu zachęciłoby do współpracy między różnymi podmiotami przyczyniając się do rozwoju AI w Polsce. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakim ma ono służyć. 249. Art. 96 ZPP Wskazać, że wsparcie finansowe dla podmiotów wdrażających systemy AI powinno być jasno określone, aby nie naruszać równowagi pomiędzy nadzorem a wsparciem innowacji. Uwaga wyjaśniona Przepis w sposób jasny określa podmioty zaangażowane w finansowanie, źródła finansowania oraz jego cele. Przewidziane w przepisie rozwiązania nie naruszają zasad wiązanych z nadzorem natomiast mają istotne znaczenie dla wsparcia innowacyjności. 250. Art. 96 Konfederacj a Lewiatan Uprawnienie Ministra Cyfryzacji do udzielania wsparcia finansowego na rozwój sztucznej inteligencji stanowi istotny krok w kierunku pobudzenia innowacji w tej dziedzinie. Niemniej jednak, aby w pełni wykorzystać potencjał tego wsparcia i stymulować dynamiczny rozwój rynku AI w Polsce, konieczne jest rozszerzenie listy kwalifikujących się odbiorców. Obecne ramy kwalifikowalności, choć wartościowe, mogą nie uwzględniać wszystkich podmiotów, które mogłyby wnieść istotny wkład w rozwój ekosystemu sztucznej inteligencji. Rozszerzenie tych ram pozwoliłoby Ministerstwu na nawiązanie współpracy z szerszym gronem interesariuszy, w tym nie tylko z dużymi przedsiębiorstwami, ale także ze startupami, małymi i średnimi Uwaga wyjaśniona Odbiorcy kwalifikujący się do udzielania wsparcia finansowego na rozwój sztucznej inteligencji zostali określeni w oparciu o sposób oraz źródła finansowania. Tworząc ich listę wzięto również pod uwagę cel jakiemu ma służyć finansowanie. Odpowiada ona też na potrzeby celem jakim ma ono służyć. 153 przedsiębiorstwami, instytucjami badawczymi, organizacjami pozarządowymi oraz uczelniami wyższymi. Startupy ze swoją innowacyjnością i elastycznością, często są źródłem przełomowych rozwiązań w dziedzinie AI. Małe i średnie przedsiębiorstwa, stanowiące trzon polskiej gospodarki, mogą wykorzystać sztuczną inteligencję do optymalizacji procesów, tworzenia nowych produktów i usług oraz zwiększenia swojej konkurencyjności. Instytucje badawcze odgrywają kluczową rolę w rozwoju technologii AI, prowadząc badania podstawowe i stosowane, a także kształcąc przyszłych specjalistów. Organizacje pozarządowe mogą pełnić funkcję strażników etycznego i odpowiedzialnego rozwoju sztucznej inteligencji, a także wspierać edukację i społeczną akceptację dla tej technologii. Uczelnie wyższe, poprzez swoje programy badawcze i dydaktyczne, stanowią kuźnię talentów i innowacji w dziedzinie AI. Rozszerzenie zakresu wspieranych podmiotów przyczyniłoby się do powstania bardziej zróżnicowanego i kompleksowego ekosystemu innowacji w zakresie sztucznej inteligencji, który byłby w stanie sprostać wyzwaniom przyszłości i wykorzystać szanse, jakie niesie ze sobą ta dynamicznie rozwijająca się dziedzina. Taki ekosystem, oparty na współpracy różnych aktorów, byłby bardziej odporny na zmiany i zdolny do generowania innowacji o charakterze przełomowym, które mogłyby przynieść korzyści zarówno gospodarce, jak i społeczeństwu. 251. Art. 97 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich 154 podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 252. Art. 97 ust. 4 IAB Polska Uproszczenie przeliczania kar z EUR na PLN Obecne zasady przeliczania kar są niepotrzebnie skomplikowane. Zalecamy zastosowanie procedury przyjętej w ustawie o ochronie konkurencji i konsumentów: Przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 253. Art. 97 ust. 4 Konfederacj a Lewiatan Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 254. Art. 98 ZPP Wydłużyć termin na podanie danych niezbędnych do ustalenia kary – rekomendujemy zmianę z 14 dni na okres umożliwiający rzetelną analizę (np. minimum 30 dni). Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania 155 danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 255. Art. 98 Konfederacj a Lewiatan Proponowane brzmienie: Art. 98. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 256. Art. 98 ust. 1. IAB Polska Wydłużenie terminu na dostarczenie do Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej do 60 dni Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania. 257. Art. 98 ust. 1. Pracodawcy RP Artykuł 98 ust. 1 projektu przewiduje 14 dni na przekazanie danych w celu ustalenia kary. Ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Art. 98 ust. 1 Pracodawców RP Termin 14 dni na przekazanie danych do ustalenia kary jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność, nie należy do czynności o dużym stopniu skomplikowania. 258. Art. 99 IAB Polska Przekazywanie wpływów z kar do budżetu państwa Uwaga uwzględniona 156 Obecny przepis pozwala na finansowanie Komisji z wpływów z kar, co może rodzić konflikt interesów. Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. (art. 87). 259. Art. 99 Konfederacj a Lewiatan Projektowany przepis, zezwalając na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję, stwarza niebezpieczny precedens. Mechanizm ten może zachęcać do nakładania wysokich i licznych kar, niekoniecznie uzasadnionych, w celu poprawy sytuacji finansowej Komisji. Takie rozwiązanie jest szkodliwe dla rozwoju sztucznej inteligencji w Polsce, ponieważ systemowo zachęca organ do nakładania możliwie wysokich i licznych kar pieniężnych na dostawców systemów sztucznej inteligencji, co może zniechęcić do inwestowania i rozwoju w tej dziedzinie. Przepis tego typu może zniweczyć wszelkie inne rozwiązania zawarte w projekcie ustawy, które miałyby sprzyjać rozwojowi sztucznej inteligencji, takie jak np. piaskownice regulacyjne, które mają na celu stworzenie bezpiecznego i kontrolowanego środowiska do testowania innowacyjnych rozwiązań. Rozwiązanie, w którym kary pieniężne stanowią przychód karzącego, jest niezgodne z europejskimi i polskimi standardami dla organów nadzoru. Kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów. Zgodnie z odpowiednimi przepisami, wpływy z kar nakładanych przez te organy są przekazywane albo do budżetu państwa, albo do specjalnie utworzonych funduszy celowych, które mają osobowość prawną i pozostają poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję powinny być przekazywane do budżetu państwa, tak jak było to zapisane w pierwotnej wersji projektowanej ustawy. Takie rozwiązanie zapewniłoby większą przejrzystość i zapobiegłoby potencjalnym konfliktom interesów. Uwaga uwzględniona Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa (art. 87). 157 260. Art. 100 ust. 7 IAB Polska Doprecyzowanie zasad odwołania odroczeń i rozłożenia na raty Brak precyzyjnych ograniczeń dla Komisji w zakresie odwołania odroczeń lub rozłożeń na raty może prowadzić do nadmiernego obciążenia finansowego dla podmiotów regulowanych. Rekomendujemy określenie, że Komisja może odwołać odroczenie lub rozłożenie na raty tylko wtedy, gdy pojawią się nowe lub wcześniej nieznane okoliczności z powodu wcześniejszych działań ukaranego podmiotu, które utrudniły ich uzyskanie. Uwaga wyjaśniona Przepisy art. 100 stanowią rozwiązanie znane w polskim prawie np. Ustawie o ochronie danych osobowych i Ustawie o ochronie konkurencji i konsumentów. 261. Art. 102 ust. 3 PGRP Rekomenduje się określenie terminu na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej za słuszne. Uwaga uwzględniona Przepis (art. 90 ust. 3) został uzupełniony o termin 14 dni od dnia doręczenia odwołania na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej. 262. Art. 104 Konfederacj a Lewiatan Propozycja brzmienia: Art. 104. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji przepisy ustawy o postępowaniu egzekucyjnym w administracji Uzasadnienie: Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 263. Art. 105. Konfederacj a Lewiatan Propozycja brzmienia: Uwaga wyjaśniona 158 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 264. Art. 105 – art. 106 Pracodawcy RP Zasadnym byłoby usunięcie w całości zapisów projektu sugerujących sankcje karne w rozdziale 9 (mowa o art. 105 – art. 106). Te niosłyby bowiem za sobą znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Przewidziane w projekcie sankcje karne nie znajdują uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 105 - 106 Projekt przewiduje sankcje karne, które nie mają podstaw w Akcie o AI i mogą odstraszać od rozwoju AI. Propozycja: Usunięcie sankcji karnych, skupienie się na administracyjnych środkach egzekwowania prawa. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowań w tym z art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 159 265. Art. 106 Konfederacj a Lewiatan Propozycja brzmienia: Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Należy jednoczenie w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Aspekty karne są w pełni uregulowane w Kodeksie karnym, który należy stosować w takich przypadkach. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 266. Art. 107 ZPP Termin wniesienia odwołania od postanowienia organu kontrolnego powinien zostać wydłużony, np. do 2 tygodni, aby zapewnić odpowiedni czas na przygotowanie odwołania. 2.12. Sankcje karne a) Prosimy, aby sankcje karne stosowano wyłącznie w przypadkach utrudniania lub uniemożliwiania przeprowadzenia kontroli, a nie jako narzędzie mające ograniczać innowacyjność – interpretacja tych środków musi być zgodna z zasadą proporcjonalności. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. Celem wprowadzenia sankcji karnych jest umożliwienie kontrolującemu prawnego niezakłócanego przeprowadzenia kontroli. Przepis nie będzie służył ograniczaniu innowacyjności. 267. Art. 107 - art. 479[88g] § 4 IAB Polska Zapewnienie równego dostępu do dowodów dla Komisji i stron postępowania Uwaga wyjaśniona Celem przepisu jest to aby dostęp do dowodu będącego tajemnicą przedsiębiorstwa i innymi 160 Kodeksu Postępowan ia Cywilnego Obecnie Komisja ma uprzywilejowaną pozycję w dostępie do dowodów, co może naruszać zasady równości procesowej i równości wobec prawa. Rekomendujemy wprowadzenie zasady, że Komisja podlega takim samym ograniczeniom dostępu do dowodów, jak inne strony postępowania. tajemnicami podlegającymi ochronie na podstawie odrębnych przepisów miał ograniczony dostęp podmiotów tj wyłącznie podmioty, które wywodzą z tych dowodów swoje prawa lub w oparciu o nie wydają decyzje i postanowienia. Stąd też niezbędne jest zapewnienie dostępu do tych dowodów Komisji. 268. Art. 107 - art. 479[88h] § 1 Kodeksu Postępowan ia Cywilnego IAB Polska Wydłużenie terminu na wniesienie zażalenia na postanowienie Komisji Obecnie przewidziany termin 1 tygodnia jest zbyt krótki dla podmiotów o skomplikowanej strukturze organizacyjnej lub dla rozbudowanych stanów faktycznych. Wydłużenie zapewni czas na analizę prawną i faktyczną oraz możliwość przygotowania kompleksowego zażalenia. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 269. Art. 107 (w zakresie Art. 479 88 h § 2 K.p.c. PGRP Rekomenduje się weryfikację zakresu odesłania do odpowiedniego stosowania do zażaleń przepisów o odwołaniu w dodawanym przez art. 107 projektu art. 47988h § 2 k.p.c. Zbędne wydaje się odesłanie do art. 47988b, w sytuacji gdy termin i procedurę wnoszenia zażaleń w całości określa nowy art. 47988h § 1 k.p.c. Rozważenia może z kolei wymagać uzupełnienie odesłania w art. 47988h § 2 k.p.c. o odesłanie do odpowiedniego stosowania art. 47988c regulującego przekazanie odwołania do sądu i projektowanego art. 47988g k.p.c. dotyczącego ochrony tajemnic prawnie chronionych. Uwaga uwzględniona Przepis art. 107 projektu w odniesieniu do art. 479 88 h § 2 k.p.c. otrzymał nowe brzmienie z uwzględnieniem korekt zawartych w uwadze. 270. Art. 107 - art. 479[88h](1) Kodeksu Postępowan ia Cywilnego Konfederacj a Lewiatan Uwaga: Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 271. Art. 111 UKNF Przedmiotowa uwaga jest powiązana z uwagą zgłoszoną już powyżej do art. 5 ust. 3 pkt 1 projektu ustawy. Przepis art. 111 projektu ustawy Uwaga uwzględniona 161 wprowadza zmianę w ustawie o nadzorze nad rynkiem finansowym poprzez dodanie do niej nowego art. 17h o następującym brzmieniu: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym, aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Bez tego rodzaju zmiany brak będzie bowiem podstawy prawnej dla zwolnienia KNF z obowiązku zachowania tajemnicy zawodowej, o której mowa w art. 16 ust. 1 ustawy o nadzorze nad rynkiem finansowym, w odniesieniu do informacji przekazywanych do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji na potrzeby współpracy przy sprawowanym przez nią nadzorze. W związku z powyższym nowy art. 17h ustawy o nadzorze nad rynkiem finansowym mógłby przyjąć brzmienie: „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Nadano nowe brzmienie art. 17h ustawy o nadzorze nad rynkiem finansowym zgodne z brzmieniem zaproponowanym w uwadze. „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. 272. Art. 119 IAB Polska Zwiększenie budżetu dla Komisji Obecne finansowanie Komisji może być niewystarczające do skutecznego nadzoru nad sektorem AI i wspierania tego dynamicznie rozwijającego się rynku. Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami 162 Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 273. Art. 120 Konfederacj a Lewiatan Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 to przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 274. Rozdział 8 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że w przypadku przystąpienia podmiotu do udziału w piaskownicy regulacyjnej, w aktualnym projekcie ustawy brak jest uregulowania trybu umożliwiającego podmiotowi wcześniejsze zakończenie projektu, bądź całkowitą rezygnację z udziału w projekcie. Uwaga wyjaśniona Szczegółowe kwestie związane z funkcjonowaniem piaskownic regulacyjnych będą przedmiotem aktów delegowanych KE. Stąd też w projekcie ustawy zawarto jedynie ogólne normy w tym zakresie. 275. Rozdział 8 KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji, w zakresie: Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. Uwaga wyjaśniona Mając na uwadze że projektowana ustawa ma na celu zapewnienie skutecznego stosowania przepisów rozporządzenia 2024/1689 a wskazany w uwadze rozdział dotyczy środków wspierających innowacyjność projektodawca nie znajduje podstawy do rozszerzania zadań KRRiT . 276. Rozdział 9 IAB Polska Usunięcie postanowień dotyczących sankcji karnych w Rozdziale 9 Uwaga wyjaśniona 163 Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie AI w Polsce. Rozdział 9 w zakresie sankcji prawnokarnych dotyczy wyłącznie kwestii współpracy z Komisją w wykonywaniu jej uprawnień kontrolnych, nie dotyczą natomiast rozwoju AI: 1. Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system AI stwarza ryzyko, o którym mowa w art. 79 AI Act (art. 106). 2. Za naruszenie AI Act przewidziana jest administracyjna kara pieniężna (ale nie sankcja prawnokarna) w wysokości i na warunkach określonych w rozdziale XII AI Act (art. 97- 104). Nie mamy żadnych argumentów, aby kwestionować ważność tych przepisów, gdyż wynikają one wprost z AI Act. Mając na uwadze, że celem rozporządzenia 2024/1689 jest zapewnienie bezpiecznej, godnej zaufania i etycznej sztucznej inteligencji niezbędne jest wprowadzenie skutecznych lecz możliwe najmniej obciążających podmioty procedur kontroli. W celu zapewnienia natomiast niezakłóconego jej przebiegu niezbędne jest przewidzenie odpowiednich środków. Takim środkiem są kary wskazane w rozdziale 9. Jest to instytucja znana i wykorzystywana w systemie prawa polskiego. 277. Uwagi redakcyjne KRRiT W art. 1 projektu należy uzupełnić pkt 2 o odniesienie się także do ustawy, skoro w art. 49 ust. 1 wskazano, że Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2) W art. 2 w ust. 1 w pkt. 1: a) w lit. a projektu przy powoływaniu przepisów ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych brak jest wyrazu „ustawy”. Ponadto budzi wątpliwości czy odesłanie do działalności, o której mowa w art. 2 ust. 1 w/w ustawy, powinno dotyczyć całego ustępu 1, ponieważ przepis ten jedynie w pkt 1 odnosi się do działalności, b) w lit. b projektu zbędne wydaje się wskazywanie na przepisy art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców zawierające definicję przedsiębiorcy. 3) W art. 4 w pkt. 2 projektu wskazano, że ustawy nie stosuje się do spraw związanych z realizacją zadań ustawowych Agencji Uwaga uwzględniona Projekt wskutek uwzględnionych uwag uległ znacznym zmianom. Przy opracowywaniu przepisów wprowadzono poprawki w zakresie dostosowanym do aktualnego ich brzmienia. W pozostałym zakresie projekt pod względem legislacyjno- redakcyjnym zostanie dopracowany na etapie komisji prawniczej. 164 Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w tym pozostających w bezpośrednim związku z tymi sprawami działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej, wobec której toczy się postępowanie przygotowawcze lub skazanej prawomocnym wyrokiem sądu w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812, 1222, 1562, 1684 i 1871). Wydaje się, że proponowany przepis odnoszący się do ustawowych zadań Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu wskazuje jedynie na zakres bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego leżący w kompetencjach Agencji Bezpieczeństwa Wewnętrznego, pomijając kompetencje Agencji Wywiadu w sprawach ochrony bezpieczeństwa zewnętrznego państwa. 4) W art. 5 ust. 3 pkt 9 projektu błędnie przyjęto, że w ustawie o świadczeniu usług drogą elektroniczną (Dz.U. z 2020 r. poz. 344) ustanowiony został koordynator usług cyfrowych podczas gdy w obecnym stanie prawnym taki organ nie został wyznaczony. 5) W art. 8 w pkt. 8 projektu wyraz „wydane” należy zastąpić wyrazem „wydaje”. 6) W art. 12: a) w ust. 3 w pkt 4 projektu po wyrazie „informację” należy dodać wyraz „o”, b) w ust. 7 projektu po wyrazach „w wyznaczonym” należy usunąć wyraz „w” i rozważyć doprecyzowanie terminu poprzez dodanie wyrazów „nie później niż”, c) w ust. 9 należy rozważyć czy termin wydania opinii powinien być liczony od dnia wniesienia opłaty za wniosek, skoro opłatę wnosi się przed złożeniem wniosku, d) w pkt. 10 projektu błędnie odesłano do ust. 8. 7) W art. 15 w ust. 2 w pkt. 2 projektu wydaje się, że wyraz „informacji” został błędnie odmieniony. 165 8) W art. 18 w ust. 10 projektu wydaje się, że wyraz „zespołu” został błędnie odmieniony. 9) W art. 20 w ust. 1 projektu wydaje się, że przepis zawiera błędne odesłanie do podmiotów, o których mowa art. 6 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce. Art. 6 ust. 2 w/w ustawy odnosi się do polityki naukowej państwa. 10) W art. 24 w ust. 2 projektu błędnie odesłano do art. 4 ust. 3 pkt 4 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi. W w/w ustawie nie ma takiego przepisu. 11) W art. 37 w ust. 4 projektu niepotrzebnie powtórzono wyrazy „do spraw”. 12) W art. 38 w ust. 3 w pkt. 1 projektu niejasne jest do jakiego art. 6 pkt 1 zastosowano wyłączenie. 13) W art. 42 ust. 1 w pkt. 6 projektu należy poprawić błędy redakcyjne. 14) W art. 46 ust. 1 projektu błędnie wskazano, że to kontrolowany, a nie kontrolujący, sporządza projekt protokołu. 15) W art. 47 projektu błędnie ponumerowano ustępy. Ponadto w ust. 2 tego artykułu błędnie odesłano do ust. 1 pkt 2 i 3. 16) W art. 55 ust. 6 projektu odsyła do decyzji, o której mowa w ust. 1. Należy zaznaczyć, że w ust. 1 nie uregulowano kwestii wydawania przez Komisję decyzji. 17) W art. 57 ust. 2 projektu odsyła do decyzji, o której mowa w art. 55 ust. 3 i 4. Jednakże w przywołanych przepisach projektodawca nie odniósł się do decyzji. 18) W art. 77 w ust. 2 projektu wydaje się, że należy wskazać na Biuletyn Informacji Publicznej. 19) W art. 85 w ust. 7 projektu jest błędne odesłanie do przepisu art. 57 ust. 1 ustawy, który nie dotyczy właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w 166 Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 20) W art. 89: a) w ust. 1 projektu wydaje się, że opublikowanie protokołu oceny ofert i listy rankingowej tworzonych w związku z konkursem na uczestnictwo w piaskownicy regulacyjnej powinno odbyć się w Biuletynie Informacji Publicznej, b) w ust. 7 projektu wydaje się, że wskazując na protokół i listę rankingową błędnie odesłano do przepisu art. 87 ust. 4, który to zawiera katalog przesłanek zakwalifikowania podmiotu do uczestnictwa w piaskownicy regulacyjnej. 21) W art. 90 w ust. 3 projektu wydaje się, że nastąpiło błędne odesłanie do przepisu w art. 57 ust. 15 rozporządzenia 2024/1689, który nie odnosi się do sprawozdań. 22) W art. 92 w ust. 3 projektu po wyrazie „decyzję” należy dodać wyraz „o”. 23) W art. 93 ust. 2 projektu wydaje się niekompletny, a przez to niezrozumiały. 24) W art. 96 projektu wydaje się, że część wspólna przepisu odnosząca się do pkt 1 i 2 nie koreluje z poprzedzająca ją treścią. 25) W art. 107 projektu (dot. art. 47988b KPC) zbędnie oznaczono jednostkę redakcyjną § 1. 26) W art. 107 projektu (dot. art. 47988h § 2 KPC) odesłano do art. 47988d § 1 KPC, natomiast w proponowanym brzmieniu tego artykułu nie ma § 1. 278. OSR PUODO Na koniec nie można pominąć kwestii związanych z koniecznością zapewnienia Prezesowi UODO środków finansowych na realizację nowych zadań związanych z realizacją nadzoru w zakresie spraw dotyczących przetwarzania danych osobowych w ramach systemów sztucznej inteligencji. W związku z nowymi zadaniami organu nadzorczego wynikającymi bezpośrednio z przepisów rozporządzenia 2024/1689, Prezes UODO sygnalizuje potrzebę przeznaczenia odpowiednich środków z budżetu państwa na wykonywanie przez niego tych zadań oraz w zakresie projektowanej współpracy z Komisją. Uwaga wyjaśniona W OSR zawarto wyliczenie środków finansowych dla podmiotów, którym w związku z przepisami, które zaczną obowiązywać z dniem 2 sierpnia 2025 r., zostaną przypisane konkretne zadania wynikające z AI Aktu. Do tych podmiotów należy powołany przepisami ustawy organ nadzoru rynku, sąd ochrony konkurencji i konsumentów oraz PCA. 167 Pozostałe podmioty, w tym Minister Cyfryzacji, PUODO, realizujące zadania powiązane z AI a wynikające ze swojej właściwości lub współpracy z KRiBSI będą realizować je w ramach posiadanych środków finansowych. 279. OSR pkt 6 PCA Zwiększenie wydatków w funduszu osobowym PCA, które są wymienione w tym punkcie – powinno być również odzwierciedlone w tabeli z wpływem na sektor finansów publicznych. Wprowadzenie tego zapisu jest szczególnie istotne biorąc pod uwagę, iż pod tabelą w pkt 6 znajduje się zastrzeżenie: „Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych.” W przypadku braku ww. zaproponowanego uwzględnienia obecne zapisy będa niespójne. Z jednej strony OSR zaznacza konieczność zwiększenia funduszu osobowego PCA a z drugiej nie uwzględnia tej informacji w wpływie na sektor finansów publicznych. Obecnie w OSR zamieszczona została w odniesieniu do PCA informacja: „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę szacowne terminy wejścia w życie projektowanej ustawy proponujemy następujące brzmienie „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,3 mln w 2025 r. i o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę, iż plany finansowe na 2025 r. zostały już przyjęte PCA wnioskuje o uzupełnienie OSR i wstawienie w tym punkcie jako przedostatniego - akapitu o następującej treści: „W związku z planowaną zmianą poziomu zatrudnienia w roku 2025 dokonana Uwaga uwzględniona OSR został uzupełniony pkt 6. 168 zostanie zmiana w planie finansowym w trakcie realizacji budżetu na ten rok” 280. Uzasadnieni e Str. 10 Analogicznie do uwag Rzecznika Praw Dziecka dotyczących składu Komisji, z uzasadnienia należy wykreślić przedstawiciela Rzecznika Praw Dziecka jako członka Komisji. Uwaga uwzględniona Z uzasadnienia i OSR został usunięty zapis dotyczący Rzecznika Praw Dziecka. 1 TYTUŁ PROJEKTU Ustawa o systemach sztucznej inteligencji TYTUŁ WDRAŻANEGO AKTU PRAWNEGO / WDRAŻANYCH AKTÓW PRAWNYCH Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Tekst mający znaczenie dla EOG (Dz. U. UE. L. z 2024 r. poz. 1689) WYJAŚNIENIE TERMINU WEJŚCIA W ŻYCIE PROJEKTU / PROJEKTÓW Po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; Termin vacatio legis wynika z konieczności pilnego wdrożenia przepisów rozporządzenia 2024/1689 do krajowego porządku prawnego. JEDN. RED. TREŚĆ PRZEPISU UE KONIECZNO ŚĆ WDROŻENI A T/N* JEDN. RED. TREŚĆ PRZEPISU / PRZEPISÓW PROJEKTU UZASADNIENIE Art. 1 Przedmiot 1. Celem niniejszego rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego i promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji (AI), przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie, w tym demokracji, praworządności i ochrony środowiska, przed szkodliwymi skutkami systemów AI w Unii oraz wspieraniu innowacji. 2. W niniejszym rozporządzeniu ustanawia się: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii; b) zakazy dotyczące niektórych praktyk w zakresie AI; c) szczególne wymogi dotyczące systemów AI wysokiego ryzyka oraz obowiązki spoczywające na operatorach takich systemów; d) zharmonizowane przepisy dotyczące przejrzystości w przypadku niektórych systemów AI; e) zharmonizowane przepisy dotyczące wprowadzania do obrotu modeli AI ogólnego przeznaczenia; f) przepisy dotyczące monitorowania wprowadzania do obrotu, nadzoru rynku, zarządzania i egzekwowania; g) środki wspierające innowacje, ze szczególnym uwzględnieniem MŚP, w tym przedsiębiorstw typu startup. Art. 2. Zakres stosowania 1. Niniejsze rozporządzenie stosuje się do: a) dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę lub znajdują się w Unii czy w państwie trzecim; b) podmiotów stosujących systemy AI, które to podmioty mają siedzibę lub znajdują się w Unii; T Art. 2 Art. 3 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy Dostosowanie zakresu obowiązywania ustawy do zakresu obowiązywania rozporządzenia. c) dostawców systemów AI i podmiotów stosujących systemy AI, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku, gdy wyniki wytworzone przez system AI są wykorzystywane w Unii; d) importerów i dystrybutorów systemów AI; e) producentów produktu, którzy pod własną nazwą lub znakiem towarowym oraz wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI; f) upoważnionych przedstawicieli dostawców niemających siedziby w Unii; g) osób, na które AI ma wpływ i które znajdują się w Unii. 2. W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 102-109 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. 3. Niniejszego rozporządzenia nie stosuje się do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. )), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami. Niniejszego rozporządzenia nie stosuje się do systemów AI, jeżeli - i w zakresie, w jakim - wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. Niniejszego rozporządzenia nie stosuje się do systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub de celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. 4. Niniejszego rozporządzenia nie stosuje się do organów publicznych w państwie trzecim ani do organizacji międzynarodowych objętych zakresem stosowania niniejszego rozporządzenia na podstawie ust. 1, jeżeli te organy lub organizacje wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów międzynarodowych w sprawie ścigania przestępstw i współpracy sądowej zawartych z Unią lub z jednym państwem członkowskim bądź ich większą liczbą, pod warunkiem zapewnienia przez to państwo trzecie lub organizację międzynarodową odpowiednich zabezpieczeń w odniesieniu do ochrony podstawowych praw i wolności osób fizycznych. mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister - Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 5. Niniejsze rozporządzenie nie ma wpływu na stosowanie przepisów dotyczących odpowiedzialności dostawców usług pośrednich określonych w rozdziale II rozporządzenia (UE) 2022/2065. 6. Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych. 7. Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia. 8. Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych. 9. Niniejsze rozporządzenie nie narusza przepisów ustanowionych w innych aktach prawnych Unii dotyczących ochrony konsumentów i bezpieczeństwa produktów. a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–-4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. 10. Niniejsze rozporządzenie nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. 11. Niniejsze rozporządzenie nie uniemożliwia Unii ani państwom członkowskim utrzymywania lub wprowadzania przepisów ustawowych, wykonawczych lub administracyjnych, które są korzystniejsze dla pracowników pod względem ochrony ich praw w odniesieniu do korzystania z systemów AI przez pracodawców, ani zachęcania do stosowania korzystniejszych dla pracowników układów zbiorowych lub zezwalania na ich stosowanie. 12. Niniejszego rozporządzenia nie stosuje się do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub 50. Art. 3 Definicje Do celów niniejszego rozporządzenia stosuje się następujące definicje: 1) \"system AI\" oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który - na potrzeby wyraźnych lub dorozumianych celów - wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak T Art. 4 Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; Dostosowanie definicji ustawowych do definicji z rozporządzenia 2024/1689. predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne; 2) \"ryzyko\" oznacza połączenie prawdopodobieństwa wystąpienia szkody oraz jej dotkliwości; 3) \"dostawca\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia lub zlecają rozwój systemu AI lub modelu AI ogólnego przeznaczenia oraz które - odpłatnie lub nieodpłatnie - pod własną nazwą lub własnym znakiem towarowym wprowadzają do obrotu lub oddają do użytku system AI; 4) \"podmiot stosujący\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej; 5) \"upoważniony przedstawiciel\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która otrzymała i przyjęła pisemne pełnomocnictwo od dostawcy systemu AI lub modelu AI ogólnego przeznaczenia do, odpowiednio, spełnienia w jego imieniu obowiązków i przeprowadzania procedur ustanowionych w niniejszym rozporządzeniu; 6) \"importer\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która wprowadza do obrotu system AI opatrzony nazwą lub 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; znakiem towarowym osoby fizycznej lub prawnej mającej siedzibę w państwie trzecim; 7) \"dystrybutor\" oznacza osobę fizyczną lub prawną w łańcuchu dostaw, inną niż dostawca lub importer, która udostępnia system AI na rynku Unii; 8) \"operator\" oznacza dostawcę, producenta produktu, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora; 9) \"wprowadzenie do obrotu\" oznacza udostępnienie po raz pierwszy systemu AI lub modelu AI ogólnego przeznaczenia na rynku Unii; 10) \"udostępnianie na rynku\" oznacza dostarczanie systemu AI lub modelu AI ogólnego przeznaczenia w celu jego dystrybucji lub wykorzystania na rynku Unii w ramach działalności handlowej, odpłatnie lub nieodpłatnie; 11) \"oddanie do użytku\" oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem; 12) \"przeznaczenie\" oznacza zastosowanie, do jakiego system AI został przeznaczony przez jego dostawcę, w tym konkretny kontekst i warunki wykorzystywania, określone w informacjach dostarczonych przez dostawcę w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i oświadczeniach, jak również w dokumentacji technicznej; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. 13) \"dające się racjonalnie przewidzieć niewłaściwe wykorzystanie\" oznacza wykorzystanie systemu AI w sposób niezgodny z jego przeznaczeniem, które może wynikać z dającego się racjonalnie przewidzieć zachowania człowieka lub interakcji z innymi systemami, w tym z innymi systemami AI; 14) \"związany z bezpieczeństwem element\" oznacza element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia; 15) \"instrukcja obsługi\" oznacza informacje podane przez dostawcę w celu poinformowania podmiotu stosującego o, w szczególności, przeznaczeniu i właściwym użytkowaniu systemu AI; 16) \"wycofanie systemu AI z użytku\" oznacza dowolny środek mający na celu doprowadzenie do zwrotu do dostawcy systemu AI udostępnionego podmiotom stosującym lub do wyłączenia takiego systemu z eksploatacji lub uniemożliwienia korzystania z niego; 17) \"wycofanie systemu AI z rynku\" oznacza dowolny środek mający na celu uniemożliwienie udostępnienia na rynku systemu AI znajdującego się w łańcuchu dostaw; 18) \"skuteczność działania systemu AI\" oznacza zdolność systemu AI do działania zgodnie ze swoim przeznaczeniem; 19) \"organ notyfikujący\" oznacza organ krajowy, który odpowiada za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie; 20) \"ocena zgodności\" oznacza proces wykazania, czy spełniono wymogi ustanowione w rozdziale III sekcja 2 w odniesieniu do systemu AI wysokiego ryzyka; 21) \"jednostka oceniająca zgodność\" oznacza jednostkę, która wykonuje czynności z zakresu oceny zgodności przeprowadzanej przez stronę trzecią, w tym testowanie, certyfikację i inspekcję; 22) \"jednostka notyfikowana\" oznacza jednostkę oceniającą zgodność, którą notyfikowano zgodnie z niniejszym rozporządzeniem i innym stosownym unijnym prawodawstwem harmonizacyjnym; 23) \"istotna zmiana\" oznacza modyfikację w systemie AI po jego wprowadzeniu do obrotu lub oddaniu do użytku, która nie została przewidziana lub zaplanowana przy początkowej ocenie zgodności przeprowadzonej przez dostawcę i która ma wpływ na zgodność systemu AI z wymogami ustanowionymi w rozdziale III sekcja 2, lub która powoduje zmianę przeznaczenia, w odniesieniu, do którego oceniono system AI; 24) \"oznakowanie CE\" oznacza oznakowanie, za pomocą którego dostawca wskazuje, że system AI spełnia wymogi ustanowione w rozdziale III sekcja 2 i innych mających zastosowanie unijnych przepisach harmonizacyjnych, przewidujących umieszczanie takiego oznakowania; 25) \"system monitorowania po wprowadzeniu do obrotu\" oznacza wszelkie działania prowadzone przez dostawców systemów AI służące gromadzeniu i przeglądowi doświadczeń zdobytych w wyniku wykorzystania systemów AI, które wprowadzają oni do obrotu lub oddają do użytku, w celu stwierdzenia ewentualnej konieczności natychmiastowego zastosowania niezbędnych działań naprawczych lub zapobiegawczych; 26) \"organ nadzoru rynku\" oznacza organ krajowy prowadzący działania i stosujący środki zgodnie z rozporządzeniem (UE) 2019/1020; 27) \"norma zharmonizowana\" oznacza normę zharmonizowaną określoną w art. 2 pkt 1 lit. c) rozporządzenia (UE) nr 1025/2012; 28) \"wspólna specyfikacja\" oznacza zbiór specyfikacji technicznych zgodnie z definicją w art. 2 pkt 4 rozporządzenia (UE) nr 1025/2012, zapewniający środki umożliwiające zgodność z niektórymi wymogami ustanowionymi w niniejszym rozporządzeniu; 29) \"dane treningowe\" oznaczają dane wykorzystywane do trenowania systemu AI poprzez dopasowanie jego parametrów podlegających uczeniu; 30) \"dane walidacyjne\" oznaczają dane wykorzystywane do oceny trenowanego systemu AI oraz do dostrajania jego parametrów niepodlegających uczeniu oraz procesu uczenia, między innymi w celu zapobiegania niedostatecznemu wytrenowaniu lub przetrenowaniu; 31) \"zbiór danych walidacyjnych\" oznacza oddzielny zbiór danych lub część zbioru danych treningowych, w którym to przypadku udział tego podzbioru w zbiorze danych treningowych może być stały lub zmienny; 32) \"dane testowe\" oznaczają dane wykorzystywane do przeprowadzenia niezależnej oceny systemu AI w celu potwierdzenia oczekiwanej skuteczności działania tego systemu przed wprowadzeniem go do obrotu lub oddaniem go do użytku; 33) \"dane wejściowe\" oznaczają dane dostarczone do systemu AI lub bezpośrednio przez niego pozyskiwane, na podstawie których system ten generuje wynik; 34) \"dane biometryczne\" oznaczają dane osobowe będące wynikiem specjalnego przetwarzania technicznego, które dotyczą cech fizycznych, fizjologicznych lub behawioralnych osoby fizycznej, takich jak wizerunek twarzy lub dane daktyloskopijne; 35) \"identyfikacja biometryczna\" oznacza zautomatyzowane rozpoznawanie fizycznych, fizjologicznych, behawioralnych lub psychologicznych cech ludzkich w celu ustalenia tożsamości osoby fizycznej przez porównanie danych biometrycznych tej osoby z danymi biometrycznymi osób fizycznych przechowywanymi w bazie danych; 36) \"weryfikacja biometryczna\" oznacza zautomatyzowaną weryfikację typu jeden-do-jednego, w tym uwierzytelnianie, tożsamości osób fizycznych przez porównanie ich danych biometrycznych z wcześniej przekazanymi danymi biometrycznymi; 37) \"szczególne kategorie danych osobowych\" oznaczają kategorie danych osobowych, o których mowa w art. 9 ust. 1 rozporządzenia (UE) 2016/679, art. 10 dyrektywy (UE) 2016/680 i art. 10 ust. 1 rozporządzenia (UE) 2018/1725; 38) \"wrażliwe dane operacyjne\" oznaczają dane operacyjne związane z działaniami w zakresie zapobiegania przestępstwom, ich wykrywania, prowadzenia postępowań przygotowawczych w ich sprawie lub ich ścigania, których ujawnienie mogłoby zagrozić integralności postępowania karnego; 39) \"system rozpoznawania emocji\" oznacza system AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób; 40) \"system kategoryzacji biometrycznej\" oznacza system AI służący do przypisywania osób fizycznych do określonych kategorii na podstawie danych biometrycznych tych osób, oprócz przypadków, gdy taki system pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych; 41) \"system zdalnej identyfikacji biometrycznej\" oznacza system AI służący do identyfikacji osób fizycznych bez ich aktywnego udziału, zwykle na odległość, poprzez porównanie danych biometrycznych danej osoby fizycznej z danymi biometrycznymi zawartymi w referencyjnej bazie danych; 42) \"system zdalnej identyfikacji biometrycznej w czasie rzeczywistym\" oznacza system zdalnej identyfikacji biometrycznej, w którym zbieranie danych biometrycznych, ich porównywanie i identyfikacja odbywają się bez znacznego opóźnienia, i który obejmuje nie tylko natychmiastową identyfikację, ale także ograniczone krótkie opóźnienia w celu uniknięcia obchodzenia przepisów; 43) \"system zdalnej identyfikacji biometrycznej post factum\" oznacza system zdalnej identyfikacji biometrycznej inny niż system zdalnej identyfikacji biometrycznej w czasie rzeczywistym; 44) \"przestrzeń publiczna\" oznacza miejsce fizyczne, będące własnością prywatną lub publiczną, dostępne dla nieokreślonej liczby osób fizycznych, niezależnie od tego, czy mogą mieć zastosowanie określone warunki dostępu, oraz niezależnie od potencjalnych ograniczeń pojemności; 45) \"organ ścigania\" oznacza: a) organ publiczny właściwy w zakresie zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; lub b) inny organ lub podmiot, któremu na podstawie prawa państwa członkowskiego powierzono sprawowanie władzy publicznej i wykonywanie uprawnień publicznych do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 46) \"ściganie przestępstw\" oznacza działania prowadzone przez organy ścigania lub w ich imieniu w celu zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 47) \"Urząd ds. AI\" oznacza zadanie Komisji polegające na przyczynianiu się do wdrażania, monitorowania i nadzorowania systemów AI i modeli AI ogólnego przeznaczenia oraz zarządzania AI, określone w decyzji Komisji z dnia 24 stycznia 2024 r.; zawarte w niniejszym rozporządzeniu odesłania do Urzędu ds. AI odczytuje się jako odesłania do Komisji; 48) \"właściwy organ krajowy\" oznacza organ notyfikujący lub organ nadzoru rynku; w odniesieniu do systemów AI oddanych do użytku lub wykorzystywanych przez instytucje, organy i jednostki organizacyjne Unii, zawarte w niniejszym rozporządzeniu odesłania do właściwych organów krajowych i organów nadzoru rynku odczytuje się jako odesłania do Europejskiego Inspektora Ochrony Danych; 49) \"poważny incydent\" oznacza incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do któregokolwiek z poniższych zdarzeń: a) śmierci osoby lub poważnego uszczerbku na zdrowiu osoby; b) poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważnej szkody na mieniu lub poważnej szkody dla środowiska; 50) \"dane osobowe\" oznaczają dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 51) \"dane nieosobowe\" oznaczają dane inne niż dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 52) \"profilowanie\" oznacza profilowanie zdefiniowane w art. 4 pkt 4 rozporządzenia (UE) 2016/679; 53) \"plan testów w warunkach rzeczywistych\" oznacza dokument opisujący cele, metodykę, zasięg geograficzny, populacyjny i czasowy, monitorowanie, organizację i przeprowadzanie testów w warunkach rzeczywistych; 54) \"plan działania piaskownicy\" oznacza dokument uzgodniony między uczestniczącym dostawcą a właściwym organem opisujący cele, warunki, ramy czasowe, metodykę i wymogi dotyczące działań prowadzonych w ramach piaskownicy; 55) \"piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym; 56) \"kompetencje w zakresie AI\" oznaczają umiejętności, wiedzę oraz zrozumienie, które pozwalają dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ - z uwzględnieniem ich odnośnych praw i obowiązków w kontekście niniejszego rozporządzenia - w przemyślany sposób wdrażać systemy sztucznej inteligencji oraz mieć świadomość, jakie możliwości i ryzyka wiążą się z AI oraz jakie potencjalne szkody może ona wyrządzić; 57) \"testy w warunkach rzeczywistych\" oznaczają ograniczone w czasie testy systemu AI dotyczące jego przeznaczenia prowadzone w warunkach rzeczywistych - poza środowiskiem laboratoryjnym lub środowiskiem symulowanym innego typu - w celu zgromadzenia wiarygodnych i solidnych danych oraz w celu oceny i weryfikacji spełnienia przez system AI z wymogów niniejszego rozporządzenia i które nie są kwalifikowane jako wprowadzanie systemu AI do obrotu lub oddawanie go do użytku w rozumieniu niniejszego rozporządzenia, o ile spełnione są wszystkie warunki określone w art. 57 lub 60; 58) \"uczestnik\" do celów testów w warunkach rzeczywistych oznacza osobę fizyczną, która uczestniczy w testach tego typu; 59) \"świadoma zgoda\" oznacza swobodne, konkretne, jednoznaczne i dobrowolne wyrażenie przez uczestnika zgody na uczestnictwo w określonych testach w warunkach rzeczywistych, po uzyskaniu informacji o wszystkich aspektach testów, które są istotne dla decyzji o uczestnictwie podejmowanej przez uczestnika; 60) \"deepfake\" oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe; 61) \"powszechne naruszenie\" oznacza działanie lub zaniechanie sprzeczne z prawem Unii chroniącym interesy osób fizycznych, które: a) szkodzi lub może zaszkodzić zbiorowym interesom osób fizycznych zamieszkałych w co najmniej dwóch państwach członkowskich innych niż państwo członkowskie, w którym: (i) działanie lub zaniechanie miały swoje źródło lub miejsce; (ii) znajduje się lub siedzibę ma dany dostawca lub w stosownych przypadkach, jego upoważniony przedstawiciel; lub (iii) siedzibę ma podmiot stosujący, jeżeli naruszenie zostało popełnione przez ten podmiot; b) wyrządziło, wyrządza lub może wyrządzić szkodę zbiorowym interesom osób fizycznych i ma cechy wspólne, w tym dotyczy tej samej bezprawnej praktyki lub naruszenia tego samego interesu, oraz ma miejsce jednocześnie w co najmniej trzech państwach członkowskich, a jego sprawcą jest ten sam operator; 62) \"infrastruktura krytyczna\" oznacza infrastrukturę krytyczną zdefiniowaną w art. 2 pkt 4 dyrektywy (UE) 2022/2557; 63) \"model AI ogólnego przeznaczenia\" oznacza model AI, w tym model AI trenowany dużą ilością danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla - z wyłączeniem modeli AI, które są wykorzystywane na potrzeby działań w zakresie badań, rozwoju i tworzenia prototypów przed wprowadzeniem ich do obrotu; 64) \"zdolności dużego oddziaływania\" oznaczają zdolności, które dorównują zdolnościom zapisanym w najbardziej zaawansowanych modelach AI ogólnego przeznaczenia lub je przewyższają; 65) \"ryzyko systemowe\" oznacza ryzyko, które jest charakterystyczne dla modeli AI ogólnego przeznaczenia posiadających zdolności dużego oddziaływania i ma znaczący wpływ na rynek Unii ze względu na zasięg tych modeli lub rzeczywiste lub dające się racjonalnie przewidzieć negatywne skutki dla zdrowia publicznego, porządku publicznego, bezpieczeństwa publicznego, praw podstawowych lub całego społeczeństwa, mogące rozprzestrzenić się na dużą skalę w całym łańcuchu wartości; 66) \"system AI ogólnego przeznaczenia\" oznacza system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI; 67) \"operacja zmiennoprzecinkowa\" oznacza operację matematyczną lub zadanie z wykorzystaniem liczb zmiennoprzecinkowych, które stanowią podzbiór liczb rzeczywistych zwykle przedstawianych na komputerach przez liczbę całkowitą o stałej dokładności przeskalowaną przez całkowity wykładnik stałej podstawy systemu liczbowego; 68) \"dostawca niższego szczebla\" oznacza dostawcę systemu AI, w tym systemu AI ogólnego przeznaczenia, rozwiniętego w drodze integracji modelu AI, niezależnie od tego, czy ten model AI jest dostarczany przez tego samego dostawcę i zintegrowany pionowo czy dostarczany przez inny podmiot na podstawie stosunków umownych. Art. 4 Kompetencje w zakresie AI Dostawcy i podmioty stosujące systemy AI podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 5 Zakazane praktyki w zakresie AI 1. Zakazuje się następujących praktyk w zakresie AI: a) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę; b) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który wykorzystuje słabości osoby fizycznej lub określonej grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia sytuację społeczną lub ekonomiczną, którego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub osoby należącej do tej grupy w sposób, który wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tej osoby lub u innej osoby poważną szkodę; c) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków: (i) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane; (ii) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi; d) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą; e) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (ang. untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej; f) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa; g) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej; zakaz ten nie obejmuje przypadków etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw; h) wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, chyba że - i w zakresie, w jakim - takie wykorzystanie jest bezwzględnie konieczne do jednego z następujących celów: (i) ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych; (ii) zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; (iii) lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw, o których mowa w załączniku II, podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata. Akapit pierwszy lit. h) pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 w odniesieniu do przetwarzania danych biometrycznych do celów innych niż ściganie przestępstw. 2. Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h), mogą być wykorzystywane do celów określonych w tej literze, jedynie w celu potwierdzenia tożsamości konkretnej poszukiwanej osoby, z uwzględnieniem przy tym następujących elementów: a) charakter sytuacji powodującej konieczność ewentualnego wykorzystania takiego systemu, w szczególności powagę, prawdopodobieństwo i skalę szkody, która zostałaby wyrządzona w przypadku niewykorzystania tego systemu; b) konsekwencje wykorzystania takiego systemu dla praw i wolności wszystkich zainteresowanych osób, w szczególności powagę, prawdopodobieństwo i skalę tych konsekwencji. Ponadto wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h) niniejszego artykułu, musi przebiegać z zachowaniem niezbędnych i proporcjonalnych zabezpieczeń i warunków w odniesieniu do takiego wykorzystywania zgodnie z zezwalającym na takie wykorzystanie prawem krajowym, w szczególności w odniesieniu do ograniczeń czasowych, geograficznych i osobowych. Wykorzystanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej jest dozwolone tylko wtedy, gdy organ ścigania przeprowadził ocenę skutków dla praw podstawowych zgodnie z art. 27 oraz zarejestrował system w bazie danych UE zgodnie z przepisami art. 49. W należycie uzasadnionych nadzwyczajnych przypadkach można jednak rozpocząć korzystanie z takich systemów bez rejestracji w bazie danych UE, pod warunkiem, że taka rejestracja zostanie dokonana bez zbędnej zwłoki. 3. Na potrzeby ust. 1 akapit pierwszy lit. h) i ust. 2, każde wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw wymaga uzyskania uprzedniego zezwolenia udzielonego przez organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny państwa członkowskiego, w którym ma nastąpić wykorzystanie; zezwolenie to wydawane jest na uzasadniony wniosek i zgodnie ze szczegółowymi przepisami prawa krajowego, o których mowa w ust. 5. W należycie uzasadnionych pilnych przypadkach korzystanie z takiego systemu można jednak rozpocząć bez zezwolenia, pod warunkiem, że wniosek o takie zezwolenie zostanie złożony bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W przypadku odmowy udzielenia takiego zezwolenia wykorzystywanie systemu wstrzymuje się ze skutkiem natychmiastowym, a wszystkie dane, a także rezultaty i wyniki uzyskane podczas tego wykorzystania musza zostać natychmiast odrzucone i usunięte. Właściwy organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub jasnych przesłanek, które mu przedstawiono, że wykorzystanie danego systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym jest konieczne i proporcjonalne do osiągnięcia jednego z celów określonych w ust. 1 akapit pierwszy lit. h), wskazanego we wniosku, a w szczególności ogranicza się do tego, co jest bezwzględnie konieczne w odniesieniu do przedziału czasowego, a także zakresu geograficznego i podmiotowego. Podejmując decyzję w sprawie wniosku organ ten bierze pod uwagę elementy, o których mowa w ust. 2. Nie można wydać decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym. 4. Bez uszczerbku dla ust. 3, o każdym wykorzystaniu systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw powiadamia się właściwy organ nadzoru rynku i krajowy organ ochrony danych zgodnie z przepisami prawa krajowego, o których mowa w ust. 5. Powiadomienie zawiera co najmniej informacje określone w ust. 6 i nie może zawierać wrażliwych danych operacyjnych. 5. Państwo członkowskie może podjąć decyzję o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w granicach i na warunkach wymienionych w ust. 1 akapit pierwszy lit. h) i w ust. 2 i 3. Zainteresowane państwa członkowskie ustanawiają w swoim prawie krajowym niezbędne szczegółowe przepisy dotyczące wniosku o udzielenie zezwoleń, o których mowa w ust. 3, wydawanie i wykonywanie tych zezwoleń oraz ich nadzorowanie składanie sprawozdań w ich sprawie. W przepisach tych określa się również, w odniesieniu do których celów wymienionych w ust. 1 akapit pierwszy lit. h) - w tym w odniesieniu do których przestępstw wymienionych w ust. 1 akapit pierwszy lit. h) ppkt (iii) - właściwe organy mogą uzyskać zezwolenie na wykorzystanie tych systemów do celów celu ścigania przestępstw. Państwa członkowskie powiadamiają Komisję o tych przepisach najpóźniej 30 dni po ich przyjęciu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. 6. Krajowe organy nadzoru rynku i krajowe organy ochrony danych państw członkowskich, które zostały powiadomione o wykorzystaniu systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw zgodnie z ust. 4, przedkładają Komisji roczne sprawozdania z takiego wykorzystania. W tym celu Komisja przekazuje państwom członkowskim i krajowym organom nadzoru rynku i organom ochrony danych wzór formularza zawierającego informacje na temat liczby decyzji podjętych przez właściwe organy wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny w odniesieniu do wniosków o udzielenie zezwolenia zgodnie z ust. 3 oraz wyników ich rozpatrzenia. 7. Komisja publikuje roczne sprawozdania na temat wykorzystania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, oparte na zagregowanych danych w państwach członkowskich przekazanych w sprawozdaniach rocznych, o których mowa w ust. 6. Te sprawozdania roczne nie mogą zawierać wrażliwych danych operacyjnych dotyczących powiązanych działań w zakresie ścigania przestępstw. 8. Niniejszy artykuł nie ma wpływu na zakazy mające zastosowanie w przypadku, gdy praktyka w zakresie AI narusza inne przepisy prawa Unii. Art. 6 Zasady klasyfikacji systemów AI wysokiego ryzyka 1. Bez względu na to, czy system AI wprowadza się do obrotu lub oddaje do użytku niezależnie od produktów, o których mowa w lit. a) i b), taki system AI uznaje się za system wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wymienionym w załączniku I lub sam system AI jest takim produktem; b) produkt, którego związanym z bezpieczeństwem elementem jest zgodnie z lit. a) system AI, lub sam system AI jako produkt podlegają - na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I - ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku. 2. Oprócz systemów AI wysokiego ryzyka, o których mowa w ust. 1, za systemy wysokiego ryzyka uznaje się systemy AI, o których mowa w załączniku III. 3. Na zasadzie odstępstwa od ust. 2 systemu AI, o którym mowa w załączniku III, nie uznaje się za system wysokiego ryzyka, w przypadku, gdy nie stwarza on znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, w tym poprzez brak znaczącego wpływu na wynik procesu decyzyjnego. Akapit pierwszy stosuje się w przypadku, gdy spełniony jest którykolwiek z następujących warunków: a) system AI jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego; b) system AI jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka; c) system AI jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji i nie ma na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka - bez odpowiedniej weryfikacji przez człowieka; lub d) system AI jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. Niezależnie od akapitu pierwszego system AI, o którym mowa w załączniku III, zawsze uznaje się za system wysokiego ryzyka, w przypadku, gdy system ten dokonuje profilowania osób fizycznych. 4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Taki dostawca podlega obowiązkowi rejestracji określonemu w art. 49 ust. 2. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny. 5. Po konsultacji z Europejską Radą ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"), Komisja przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie niniejszego artykułu zgodnie z art. 96 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez dodanie nowych warunków do warunków ustanowionych w tym przepisie lub ich zmianę, w przypadku, gdy istnieją konkretne i wiarygodne dowody na istnienie systemów AI, które wchodzą w zakres stosowania załącznika III, ale nie stwarzają znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. 7. Komisja przyjmuje zgodnie z art 97 akty delegowane w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez usunięcie któregokolwiek z warunków ustanowionych w tym przepisie, w przypadku, gdy istnieją konkretne i wiarygodne dowody na to, że jest to konieczne w celu utrzymania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu. 8. Zmiana warunków ustanowionych w ust. 3 akapit drugi, przyjęta zgodnie z ust. 6 i 7 niniejszego artykułu, nie może prowadzić do obniżenia ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu i musi zapewniać spójność z aktami delegowanymi przyjętymi zgodnie z art. 7 ust. 1 oraz uwzględniać rozwój rynku i technologii. Art. 7 Zmiany w załączniku III 1. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany N Przepis o charakterze ogólnym stosowany wprost załącznika III poprzez dodanie systemów AI wysokiego ryzyka lub zmianę przypadków ich wykorzystania, w przypadku, gdy spełnione są oba poniższe warunki: a) systemy AI są przeznaczone do wykorzystania w którymkolwiek z obszarów wymienionych w załączniku III; b) systemy AI stwarzają ryzyko szkody dla zdrowia i bezpieczeństwa lub ryzyko niepożądanego wpływu na prawa podstawowe i ryzyko to jest równoważne ryzyku szkody lub niepożądanego wpływu, jakie stwarzają systemy AI wysokiego ryzyka wymienione już w załączniku III, lub jest od niego większe. 2. Przy ocenie warunku określonego w ust. 1 lit. b) Komisja uwzględnia następujące kryteria: a) przeznaczenie systemu AI; b) zakres, w jakim system AI jest wykorzystywany lub prawdopodobnie będzie wykorzystywany; c) charakter i ilość danych przetwarzanych i wykorzystywanych przez system AI, w szczególności, czy przetwarzane są szczególne kategorie danych osobowych; d) zakres, w jakim system AI działa autonomicznie oraz możliwość unieważnienia przez człowieka decyzji lub zaleceń, które mogą prowadzić do potencjalnej szkody; e) zakres, w jakim wykorzystywanie systemu AI już wyrządziło szkodę dla zdrowia i bezpieczeństwa lub miało niepożądany wpływ na prawa podstawowe lub nie wymaga wdrożenia wzbudziło istotne obawy co do prawdopodobieństwa wystąpienia takiej szkody lub niepożądanego wpływu, czego potwierdzeniem są np. zgłoszenia lub poparte dokumentami twierdzenia przedstawione właściwym organom krajowym, lub w stosownych przypadkach, inne zgłoszenia; f) potencjalny zakres takiej szkody lub takiego niepożądanego wpływu, w szczególności pod względem ich nasilenia i możliwości oddziaływania na wiele osób lub nieproporcjonalnego oddziaływania na określoną grupę osób; g) zakres, w jakim osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu są zależne od wyniku działania systemu AI, w szczególności ze względu na fakt, że z przyczyn praktycznych lub prawnych nie jest racjonalnie możliwa rezygnacja z objęcia tym wynikiem; h) zakres, w jakim występuje nierówny układ sił lub osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu znajdują się w słabszym położeniu względem podmiotu stosującego system AI, w szczególności z powodu statusu, władzy, wiedzy, sytuacji gospodarczej lub społecznej lub wieku; i) zakres, w jakim wynik uzyskany przy wykorzystaniu systemu AI jest łatwy do skorygowania lub odwracalny, przy uwzględnieniu dostępnych rozwiązań technicznych umożliwiających jego skorygowanie lub odwrócenie, przy czym za łatwe do skorygowania lub odwracalne nie uznaje się wyników działania systemu mających niepożądany wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe; j) rozmiary i prawdopodobieństwo korzyści płynących z wdrożenia systemu AI dla osób fizycznych, grup lub ogółu społeczeństwa, w tym możliwość poprawy bezpieczeństwa produktów; k) zakres, w jakim obowiązujące prawo Unii przewiduje: (i) skuteczne środki ochrony prawnej w związku z ryzykiem stwarzanym przez system AI, z wyłączeniem roszczeń o odszkodowanie; (ii) skuteczne środki zapobiegania temu ryzyku lub jego znacznego minimalizowania. 3. Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych w celu zmiany wykazu zawartego w załączniku III poprzez usunięcie systemów AI wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) dany system AI wysokiego ryzyka nie stwarza już żadnego znaczącego ryzyka dla praw podstawowych, zdrowia lub bezpieczeństwa, biorąc pod uwagę kryteria wymienione w ust. 2; b) usunięcie z wykazu nie obniża ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w prawie Unii. Art. 8 Zgodność z wymogami N Przepis o charakterze 1. Systemy AI wysokiego ryzyka muszą być zgodne z wymogami ustanowionymi w niniejszej sekcji, przy uwzględnieniu ich przeznaczenia oraz powszechnie uznanego stanu wiedzy technicznej w dziedzinie AI oraz technologii powiązanych z AI. Przy zapewnianiu zgodności z tymi wymogami uwzględnia się system zarządzania ryzykiem, o którym mowa w art. 9. 2. W przypadku, gdy produkt zawiera system AI, do którego mają zastosowanie wymogi niniejszego rozporządzenia oraz wymogi unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawcy są odpowiedzialni za zapewnienie pełnej zgodności ich produktu ze wszystkimi mającymi zastosowanie wymogami na podstawie mającego zastosowanie unijnego prawodawstwa harmonizacyjnego. Przy zapewnianiu zgodności systemów AI wysokiego ryzyka, o których mowa w ust. 1, z wymogami ustanowionymi w niniejszej sekcji oraz w celu zapewnienia spójności, unikania powielania i zminimalizowania dodatkowych obciążeń, dostawcy mogą wybrać, w stosownych przypadkach, integrację niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji, które zapewniają w odniesieniu do swojego produktu, z istniejącą już dokumentacją i procedurami wymaganymi na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A. ogólnym stosowany wprost nie wymaga wdrożenia Art. 9 System zarządzania ryzykiem N Przepis o charakterze ogólnym stosowany wprost 1. Ustanawia się, wdraża, dokumentuje i obsługuje system zarządzania ryzykiem w odniesieniu do systemów AI wysokiego ryzyka. 2. Przez system zarządzania ryzykiem rozumie się ciągły, iteracyjny proces, planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka, wymagający regularnego systematycznego przeglądu i aktualizacji. Obejmuje on następujące etapy: a) identyfikację i analizę znanego i dającego się racjonalnie przewidzieć ryzyka, jakie dany system AI wysokiego ryzyka może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem; b) oszacowanie i ocenę ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem i w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania; c) ocenę innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; d) przyjęcie odpowiednich i ukierunkowanych środków zarządzania ryzykiem zaprojektowanych w celu przeciwdziałania ryzyku zidentyfikowanemu zgodnie z lit. a). 3. Ryzyko, o którym mowa w niniejszym artykule, oznacza tylko takie rodzaje ryzyka, które można stosownie ograniczyć lub wyeliminować poprzez nie wymaga wdrożenia rozwój lub zaprojektowanie systemu AI wysokiego ryzyka lub poprzez zapewnienie odpowiednich informacji technicznych. 4. W ramach środków zarządzania ryzykiem, o których mowa w ust. 2 lit. d), należycie uwzględnia się skutki i możliwe interakcje wynikające z łącznego stosowania wymogów ustanowionych w niniejszej sekcji, w celu skuteczniejszego minimalizowania ryzyka przy jednoczesnym osiągnięciu odpowiedniej równowagi we wdrażaniu środków służących spełnieniu tych wymogów. 5. Środki zarządzania ryzykiem, o których mowa w ust. 2 lit. d), muszą być takie, aby odpowiednie ryzyko szczątkowe związane z każdym zagrożeniem, jak również ogólne ryzyko szczątkowe systemów AI wysokiego ryzyka, oceniano jako dopuszczalne. Przy określaniu najodpowiedniejszych środków zarządzania ryzykiem zapewnia się, co następuje: a) eliminację lub ograniczenie - w zakresie, w jakim jest to technicznie wykonalne - ryzyka zidentyfikowanego i ocenionego zgodnie z ust. 2 poprzez odpowiedni projekt i rozwój systemu AI wysokiego ryzyka; b) w stosownych przypadkach - wdrożenie odpowiednich środków służących ograniczeniu i kontroli ryzyka, którego nie można wyeliminować; c) dostarczenie informacji wymaganych zgodnie z art. 13 oraz w stosownych przypadkach, przeszkolenie podmiotów stosujących. W celu eliminowania lub ograniczania ryzyka związanego z wykorzystaniem systemu AI wysokiego ryzyka należytą uwagę zwraca się na wiedzę techniczną, doświadczenie, wykształcenie i szkolenia, jakich oczekuje się od podmiotu stosującego, oraz zakładany kontekst, w którym ma być stosowany system. 6. Systemy AI wysokiego ryzyka testuje się w celu określenia najodpowiedniejszych i ukierunkowanych środków zarządzania ryzykiem. Testy zapewniają, by systemy AI wysokiego ryzyka działały zgodnie z ich przeznaczeniem oraz były zgodne z wymogami ustanowionymi w niniejszej sekcji. 7. Procedury testowe mogą obejmować testy w warunkach rzeczywistych zgodnie z art. 60. 8. Testy systemów AI wysokiego ryzyka przeprowadza się, w stosownych przypadkach, w dowolnym momencie procesu rozwoju systemu, a w każdym przypadku przed wprowadzeniem go do obrotu lub oddaniem do użytku. Testy przeprowadza się w odniesieniu do uprzednio określonych wskaźników i progów probabilistycznych, stosownych ze względu na przeznaczenie systemu AI wysokiego ryzyka. 9. Przy wdrażaniu systemu zarządzania ryzykiem przewidzianego w ust. 1-7 dostawcy zwracają uwagę na to, czy dany system AI wysokiego ryzyka w świetle swojego przeznaczenia może mieć niekorzystny wpływ na osoby poniżej 18 roku życia oraz w stosownych przypadkach, na inne grupy szczególnie wrażliwe. 10. W odniesieniu do dostawców systemów AI wysokiego ryzyka, którzy podlegają wymogom dotyczącym wewnętrznych procesów zarządzania ryzykiem na podstawie innych odpowiednich przepisów prawa Unii, aspekty przewidziane w ust. 1-9 mogą być częścią procedur zarządzania ryzykiem ustanowionych zgodnie z tym prawem lub łączyć się z tymi procedurami. Art. 10 Dane i zarządzanie danymi 1. Systemy AI wysokiego ryzyka, które wykorzystują techniki obejmujące trenowanie modeli AI z wykorzystaniem danych, rozwija się na podstawie zbiorów danych treningowych, walidacyjnych i testowych spełniających kryteria jakości, o których mowa w ust. 2-5, w każdym przypadku, gdy takie zbiory danych są wykorzystywane. 2. Zbiory danych treningowych, walidacyjnych i testowych podlegają praktykom w zakresie zarządzania danymi stosownym do przeznaczenia danego systemu AI wysokiego ryzyka. Praktyki te dotyczą w szczególności: a) odpowiednich decyzji projektowych; b) procesów zbierania danych i pochodzenia danych oraz w przypadku danych osobowych, pierwotnego celu zbierania danych; c) odpowiednich operacji przetwarzania na potrzeby przygotowania danych, takich jak dodawanie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia komentarzy, etykietowanie, czyszczenie, aktualizacja, wzbogacanie i agregacja; d) sformułowania założeń, w szczególności w odniesieniu do informacji, do których pomiaru i reprezentowania mają służyć dane; e) oceny dostępności, ilości i przydatności zbiorów danych, które są potrzebne; f) badania pod kątem ewentualnej stronniczości, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii, zwłaszcza w przypadku, gdy dane wyjściowe wpływają na dane wejściowe wykorzystywane na potrzeby przyszłych operacji; g) odpowiednich środków służących wykrywaniu ewentualnej stronniczości określonej zgodnie z lit. f) oraz zapobieganiu jej i jej ograniczaniu; h) określenia istotnych luk w danych lub braków w danych, które uniemożliwiają zgodność z niniejszym rozporządzeniem, oraz tego, w jaki sposób można zaradzić tym lukom i brakom. 3. Zbiory danych treningowych, walidacyjnych i testowych muszą być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne z punktu widzenia przeznaczenia. Muszą się one charakteryzować odpowiednimi właściwościami statystycznymi, w tym, w stosownych przypadkach, w odniesieniu do osób lub grup osób, wobec których ma być stosowany system AI wysokiego ryzyka. Te kryteria zbiorów danych mogą zostać spełnione na poziomie pojedynczych zbiorów danych lub na poziomie ich kombinacji. 4. Zbiory danych muszą uwzględniać, w zakresie wymaganym z uwagi na ich przeznaczenie, cechy lub elementy, które są specyficzne dla określonego otoczenia geograficznego, kontekstualnego, behawioralnego lub funkcjonalnego, w którym ma być wykorzystywany system AI wysokiego ryzyka. 5. W zakresie, w jakim jest to bezwzględnie konieczne do celów zapewnienia zgodnie z ust. 2 lit. f) i g) niniejszego artykułu wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz przepisów określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywie (UE) 2016/680, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki: a) nie jest możliwe skuteczne wykrywanie i korygowanie stronniczości poprzez przetwarzanie innych danych, w tym danych syntetycznych lub zanonimizowanych; b) szczególne kategorie danych osobowych podlegają ograniczeniom technicznym dotyczącym ponownego wykorzystywania danych osobowych oraz najnowocześniejszym środkom bezpieczeństwa i ochrony prywatności, w tym pseudonimizacji; c) szczególne kategorie danych osobowych podlegają środkom zapewniającym, by przetwarzane dane osobowe były zabezpieczone, chronione, podlegały odpowiednim środkom ochronnym, w tym ścisłym kontrolom i dokumentowaniu dostępu, aby uniknąć nadużyć i zapewnić, by dostęp do tych danych miały wyłącznie osoby upoważnione, zobowiązane do spełnienia odpowiednich obowiązków dotyczących poufności; d) szczególne kategorie danych osobowych nie są przesyłane, przekazywane ani w inny sposób udostępniane innym podmiotom; e) szczególne kategorie danych osobowych usuwa się po skorygowaniu stronniczości lub po upływie okresu przechowywania danych osobowych, w zależności od tego, co nastąpi wcześniej; f) rejestry czynności przetwarzania na podstawie rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680 zawierają uzasadnienie, dlaczego przetwarzanie szczególnych kategorii danych osobowych było bezwzględnie konieczne do wykrycia i skorygowania stronniczości oraz dlaczego cel ten nie mógł zostać osiągnięty w wyniku przetwarzania innych danych. 6. W przypadkach rozwoju systemów AI wysokiego ryzyka niewykorzystujących technik obejmujących trenowanie modeli AI ust. 2-5 stosuje się jedynie do zbiorów danych testowych. Art. 11 Dokumentacja techniczna 1. Dokumentację techniczną dla systemu AI wysokiego ryzyka sporządza się przed wprowadzeniem danego systemu do obrotu lub oddaniem go do użytku oraz dokonuje się jej aktualizacji. Dokumentację techniczną sporządza się w taki sposób, aby wykazać, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w niniejszej sekcji, oraz aby dostarczyć właściwym organom krajowym i jednostkom notyfikowanym informacji - w jasnej i kompleksowej formie - niezbędnych do oceny zgodności systemu AI z tymi wymogami. Zawiera ona co najmniej elementy określone w załączniku IV. MŚP, w tym przedsiębiorstwa typu startup, mogą podawać elementy dokumentacji technicznej określone w załączniku IV w formie uproszczonej. W tym celu Komisja ustanawia wzór uproszczonej dokumentacji technicznej ukierunkowany na potrzeby małych przedsiębiorstw i mikroprzedsiębiorstw. W przypadku gdy MŚP, w tym przedsiębiorstwa typu startup, zdecydują się na podawanie informacji wymaganych w załączniku IV w sposób uproszczony, korzystają z wzoru, o którym mowa w niniejszym ustępie. Jednostki notyfikowane akceptują ten wzór do celów oceny zgodności. 2. W przypadku wprowadzania do obrotu lub oddawania do użytku systemu AI wysokiego ryzyka N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia związanego z produktem, który jest objęty zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, sporządza się jeden zestaw dokumentacji technicznych zawierający wszystkie informacje określone w ust. 1, jak również informacje wymagane na podstawie tych aktów prawnych. 3. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany, w razie potrzeby, załącznika IV, aby zagwarantować, by w świetle postępu technicznego dokumentacja techniczna zawierała wszystkie informacje niezbędne do oceny zgodności systemu z wymogami ustanowionymi w niniejszej sekcji. Art. 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej \"rejestrami zdarzeń\") w całym cyklu życia danego systemu. 2. W celu zapewnienia, by poziom identyfikowalności funkcjonowania systemu AI wysokiego ryzyka był stosowny ze względu na przeznaczenie tego systemu, funkcja rejestracji zdarzeń musi umożliwiać rejestrowanie zdarzeń istotnych dla: a) identyfikowania sytuacji, które mogą skutkować tym, że system AI wysokiego ryzyka będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, lub które mogą prowadzić do istotnej zmiany; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia b) ułatwiania monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; oraz c) monitorowania działania systemów AI wysokiego ryzyka, o których mowa w art. 26 ust. 5. 3. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), funkcja rejestracji zdarzeń musi zapewniać rejestrowanie co najmniej: a) okresu każdego wykorzystania systemu (data i godzina rozpoczęcia oraz data i godzina zakończenia każdego wykorzystania); b) referencyjnej bazy danych, względem której system sprawdził dane wejściowe; c) danych wejściowych, w których przypadku wyszukiwanie doprowadziło do trafienia; d) danych umożliwiających identyfikację osób fizycznych uczestniczących w weryfikacji wyników, o których mowa w art. 14 ust. 5. Art. 13 Przejrzystość i udostępnianie informacji podmiotom stosującym 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w sposób zapewniający wystarczającą przejrzystość ich działania, umożliwiającą podmiotom stosującym interpretację wyników systemu i ich właściwe wykorzystanie. Zapewnia się odpowiedni rodzaj i stopień przejrzystości w celu osiągnięcia N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia spełnienia przez dostawcę i podmiot stosujący odpowiednich obowiązków określonych w sekcji 3. 2. Do systemów AI wysokiego ryzyka dołącza się instrukcję obsługi w odpowiednim formacie cyfrowym lub innym formacie zawierającą zwięzłe, kompletne, poprawne i jasne informacje, które są istotne, dostępne i zrozumiałe dla podmiotów stosujących. 3. Instrukcja obsługi zawiera co najmniej następujące informacje: a) tożsamość i dane kontaktowe dostawcy oraz w stosownych przypadkach, jego upoważnionego przedstawiciela; b) cechy, możliwości i ograniczenia skuteczności działania systemu AI wysokiego ryzyka, w tym: (i) jego przeznaczenie; (ii) poziom dokładności, wraz z jego wskaźnikami, poziom solidności i cyberbezpieczeństwa, o których mowa w art. 15, względem których przetestowano system AI wysokiego ryzyka i dokonano jego walidacji oraz których to poziomów można oczekiwać, a także wszelkie znane i dające się przewidzieć okoliczności, które mogą mieć wpływ na te oczekiwane poziomy dokładności, solidności i cyberbezpieczeństwa; (iii) wszelkie znane lub dające się przewidzieć okoliczności związane z wykorzystaniem systemu AI wysokiego ryzyka zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, mogące powodować ryzyko dla zdrowia i bezpieczeństwa lub praw podstawowych, o którym to ryzyku mowa w art. 9 ust. 2; (iv) w stosownych przypadkach, możliwości techniczne i właściwości systemu AI wysokiego ryzyka w zakresie udostępniania informacji istotnych dla wyjaśnienia jego wyników; (v) w stosownych przypadkach, działanie systemu w odniesieniu do określonych osób lub grup osób, wobec których ma on być wykorzystywany; (vi) w stosownych przypadkach, specyfikacje dotyczące danych wejściowych lub wszelkie inne istotne informacje dotyczące wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, uwzględniając przeznaczenie systemu AI wysokiego ryzyka; (vii) w stosownych przypadkach, informacje umożliwiające podmiotom stosującym interpretację wyników systemu AI wysokiego ryzyka i odpowiednie wykorzystanie tych wyników; c) zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które zostały z góry zaplanowane przez dostawcę w momencie przeprowadzania początkowej oceny zgodności; d) środki nadzoru ze strony człowieka, o których mowa w art. 14, w tym środki techniczne wprowadzone w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI wysokiego ryzyka; e) potrzebne zasoby obliczeniowe i sprzętowe, przewidywany cykl życia systemu AI wysokiego ryzyka oraz wszelkie niezbędne środki w zakresie konserwacji i utrzymania, w tym częstotliwość ich stosowania, mające na celu zapewnienie właściwego funkcjonowania tego systemu AI, w tym dotyczące aktualizacji oprogramowania; f) w stosownych przypadkach - opis mechanizmów zawartych w systemie AI wysokiego ryzyka, które umożliwiają podmiotom stosującym prawidłowe zbieranie, przechowywanie i interpretowanie rejestrów zdarzeń, zgodnie z art. 12. Art. 14 Nadzór ze strony człowieka 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, w tym poprzez uwzględnienie odpowiednich narzędzi interfejsu człowiek-maszyna, aby w okresie ich wykorzystywania systemu AI mogły być skutecznie nadzorowane przez osoby fizyczne. 2. Nadzór ze strony człowieka ma na celu zapobieganie ryzyku dla zdrowia, bezpieczeństwa lub praw podstawowych lub minimalizowanie takiego ryzyka, które może się pojawić, gdy system AI wysokiego ryzyka jest wykorzystywany zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, w szczególności, gdy takie ryzyko utrzymuje się pomimo stosowania innych wymogów ustanowionych w niniejszej sekcji. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Środki nadzoru muszą być współmierne do ryzyka, poziomu autonomii i kontekstu wykorzystywania danego systemu AI wysokiego ryzyka, a nadzór zapewnia się za pomocą co najmniej jednego z następujących rodzajów środków: a) środków określonych i wbudowanych, jeżeli jest to technicznie wykonalne, w system AI wysokiego ryzyka przez dostawcę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku; b) środków określonych przez dostawcę przed wprowadzeniem systemu AI wysokiego ryzyka do obrotu lub oddaniem go do użytku i które to środki nadają się do wdrożenia przez podmiot stosujący. 4. Do celów wykonania ust. 1, 2 i 3 system AI wysokiego ryzyka udostępnia się podmiotowi stosującemu w taki sposób, aby umożliwić osobom fizycznym, którym powierzono sprawowanie nadzoru ze strony człowieka, odpowiednio i proporcjonalnie: a) należyte zrozumienie odpowiednich możliwości i ograniczeń systemu AI wysokiego ryzyka oraz należyte monitorowanie jego działania, w tym w celu wykrywania anomalii, nieprawidłowego funkcjonowania i nieoczekiwanych wyników działania oraz zaradzeniu im w przypadku ich wystąpienia; b) pozostawanie świadomym potencjalnej tendencji do automatycznego polegania lub nadmiernego polegania na wyniku wytworzonym przez system AI wysokiego ryzyka (tzw. \"błąd automatyzacji\"), w szczególności w przypadku systemów AI wysokiego ryzyka wykorzystywanych do udzielania informacji lub zaleceń na potrzeby decyzji podejmowanych przez osoby fizyczne; c) prawidłową interpretację wyniku systemu AI wysokiego ryzyka, biorąc pod uwagę na przykład dostępne narzędzia i metody interpretacji; d) podjęcie decyzji, w każdej konkretnej sytuacji, o niekorzystaniu z systemu AI wysokiego ryzyka lub w inny sposób zignorowanie, unieważnienie lub odwrócenie wyniku systemu AI wysokiego ryzyka; e) ingerowanie w działanie systemu AI wysokiego ryzyka lub przerwanie działania systemu za pomocą przycisku \"stop\" lub podobnej procedury, która pozwala na zatrzymanie systemu w stanie bezpiecznym. 5. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), środki, o których mowa w ust. 3 niniejszego artykułu, muszą ponadto zapewniać, aby podmiot stosujący nie podejmował żadnego działania ani decyzji na podstawie identyfikacji będącej wynikiem działania systemu, jeżeli identyfikacji tej nie zweryfikowały ani nie potwierdziły odrębnie co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia. Wymóg odrębnej weryfikacji przez co najmniej dwie osoby fizyczne nie ma zastosowania do systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw, migracji, kontroli granicznej lub azylu, w przypadkach, gdy prawo Unii lub prawo krajowe uznaje stosowanie tego wymogu za nieproporcjonalne. Art. 15 Dokładność, solidność i cyberbezpieczeństwo 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz by działały konsekwentnie pod tymi względami w całym cyklu życia. 2. Aby odnieść się do technicznych aspektów pomiaru odpowiednich poziomów dokładności i solidności określonych w ust. 1 oraz wszelkich innych istotnych wskaźników skuteczności działania, Komisja we współpracy z odpowiednimi zainteresowanymi stronami i organizacjami, takimi jak organy metrologiczne i organy ds. analizy porównawczej, zachęca w stosownych przypadkach do opracowywania poziomów odniesienia i metod pomiarowych. 3. Poziomy dokładności i odpowiednie wskaźniki dokładności systemów AI wysokiego ryzyka deklaruje się w dołączonych do nich instrukcjach obsługi. 4. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Solidność systemów AI wysokiego ryzyka można osiągnąć dzięki rozwiązaniom technicznym gwarantującym redundancję, które mogą obejmować plany zakładające dostępność systemu zapasowego lub plany zapewniające przejście systemu w stan bezpieczny (tzw. \"fail-safe\"). Systemy AI wysokiego ryzyka, które po wprowadzeniu na rynek lub oddaniu do użytku nadal się uczą, rozwija się w taki sposób, aby w możliwie największym stopniu wyeliminować lub ograniczyć ryzyko potencjalnie stronniczych wyników wpływających na dane wejściowe wykorzystywane na potrzeby przyszłych operacji (sprzężenie zwrotne) oraz aby zapewnić, by wszelkie tego typu sprzężenie zwrotne zostało odpowiednio uwzględnione przy pomocy odpowiednich środków ograniczających ryzyko. 5. Systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. Rozwiązania techniczne mające na celu eliminowanie słabych punktów charakterystycznych dla AI obejmują, w stosownych przypadkach, środki służące zapobieganiu atakom mającym na celu manipulowanie zbiorem danych treningowych (zatruwanie danych) lub elementami stosowanymi przy trenowaniu, które zostały poddane pretrenowaniu (zatruwanie modelu), wprowadzaniu danych wejściowych, które mają na celu spowodowanie błędu w modelu AI (przykłady kontradyktoryjne lub omijanie modelu), atakom na poufność lub wadom modelu, a także środki w zakresie wykrywania tych zagrożeń, reagowania na nie, ich rozwiązywania i ich kontrolowania. Art. 16 Obowiązki dostawców systemów AI wysokiego ryzyka Dostawcy systemów AI wysokiego ryzyka: a) zapewniają zgodność swoich systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; b) podają w systemie AI wysokiego ryzyka lub – przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, stosownie do przypadku, swoją nazwę, zarejestrowaną nazwę handlową lub zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować; c) posiadają system zarządzania jakością zgodny z art. 17; d) prowadzą dokumentację, o której mowa w art. 18; e) przechowują rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka, jak określono w art. 19, gdy rejestry takie znajdują się pod ich kontrolą; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia f) zapewniają, aby przed wprowadzeniem do obrotu lub oddaniem do użytku system AI wysokiego ryzyka poddano odpowiedniej procedurze oceny zgodności, o której mowa w art. 43; g) sporządzają deklarację zgodności UE zgodnie z art. 47; h) umieszczają, zgodnie z art. 48, oznakowanie CE w systemie AI wysokiego ryzyka lub - w przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, na potwierdzenie zgodności z niniejszym rozporządzeniem; i) spełniają obowiązki rejestracyjne, o których mowa w art. 49 ust. 1; j) podejmują niezbędne działania naprawcze i przekazują informacje zgodnie z art. 20; k) wykazują, na uzasadniony wniosek właściwego organu krajowego, zgodność systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; l) zapewniają, by system AI wysokiego ryzyka był zgodny z wymogami dostępności zgodnie z dyrektywami (UE) 2016/2102 i (UE) 2019/882. Art. 17 System zarządzania jakością 1. Dostawcy systemów AI wysokiego ryzyka wprowadzają system zarządzania jakością, który zapewnia zgodność z niniejszym rozporządzeniem. System ten dokumentuje się w systematyczny i uporządkowany sposób w formie pisemnych polityk, N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur i instrukcji oraz obejmuje on co najmniej następujące aspekty: a) strategię na rzecz zgodności regulacyjnej, w tym zgodności z procedurami oceny zgodności i procedurami zarządzania zmianami w systemie AI wysokiego ryzyka; b) techniki, procedury i systematyczne działania, które należy stosować na potrzeby projektowania oraz kontroli i weryfikacji projektu systemu AI wysokiego ryzyka; c) techniki, procedury i systematyczne działania, które należy stosować na potrzeby rozwoju, kontroli jakości i zapewniania jakości systemu AI wysokiego ryzyka; d) procedury badania, testowania i walidacji, które należy przeprowadzić przed przystąpieniem do rozwoju systemu AI wysokiego ryzyka, w trakcie tego rozwoju i po jego zakończeniu, oraz częstotliwość, z jaką mają być przeprowadzane; e) specyfikacje techniczne, w tym normy, które należy zastosować, oraz w przypadkach, gdy normy zharmonizowane nie są stosowane w pełni lub nie obejmują wszystkich odpowiednich wymogów ustanowionych w sekcji 2, środki, które należy zastosować do zapewnienia, by system AI wysokiego ryzyka był zgodny z tymi wymogami; f) systemy i procedury zarządzania danymi, w tym dotyczące nabywania danych, zbierania danych, analizy danych, etykietowania danych, przechowywania danych, filtrowania danych, eksploracji danych, agregacji danych, zatrzymywania danych i wszelkich innych operacji dotyczących danych, które przeprowadza się przed wprowadzeniem do obrotu lub oddaniem do użytku systemów AI wysokiego ryzyka i do celu wprowadzenia ich do obrotu lub oddania ich do użytku; g) system zarządzania ryzykiem, o którym mowa w art. 9; h) ustanowienie, wdrożenie i obsługa systemu monitorowania po wprowadzeniu do obrotu, zgodnie z art. 72; i) procedury związane ze zgłaszaniem poważnego incydentu zgodnie z art. 73; j) porozumiewanie się z właściwymi organami krajowymi, innymi właściwymi organami, w tym organami zapewniającymi lub wspierającymi dostęp do danych, jednostkami notyfikowanymi, innymi operatorami, klientami lub innymi zainteresowanymi stronami; k) systemy i procedury rejestrowania wszelkiej istotnej dokumentacji i wszelkich istotnych informacji; l) zarządzanie zasobami, w tym środki związane z bezpieczeństwem dostaw; m) ramy odpowiedzialności służące określeniu odpowiedzialności kierownictwa i pozostałego personelu w odniesieniu do wszystkich aspektów wymienionych w niniejszym ustępie. 2. Wdrożenie aspektów, o których mowa w ust. 1, musi być proporcjonalne do wielkości organizacji dostawcy. W każdym przypadku dostawcy przestrzegają stopnia rygoryzmu i poziomu ochrony wymaganych do zapewnienia zgodności ich systemów AI wysokiego ryzyka z niniejszym rozporządzeniem. 3. Dostawcy systemów AI wysokiego ryzyka, którzy podlegają obowiązkom dotyczącym systemów zarządzania jakością lub równoważnym obowiązkom na podstawie odpowiednich sektorowych przepisów prawa Unii, mogą uwzględnić aspekty wymienione w ust. 1 jako część systemów zarządzania jakością zgodnie z tymi przepisami. 4. W odniesieniu do dostawców będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek wprowadzenia systemu zarządzania jakością, z wyjątkiem ust. 1 lit. g), h) oraz i) niniejszego artykułu, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi zarządzania wewnętrznego, uzgodnień lub procedur zgodnie z odpowiednimi przepisami prawa Unii dotyczącymi usług finansowych. W tym celu uwzględnia się wszelkie normy zharmonizowane, o których mowa w art. 40. Art. 18 Prowadzenie dokumentacji 1. Przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku T Art. 91 ust. 3 pkt 2 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy dostawca przechowuje do dyspozycji właściwych organów krajowych: a) dokumentację techniczną, o której mowa w art. 11; b) dokumentację dotyczącą systemu zarządzania jakością, o którym mowa w art. 17; c) w stosownych przypadkach - dokumentację dotyczącą zmian zatwierdzonych przez jednostki notyfikowane; d) w stosownych przypadkach - decyzje i inne dokumenty wydane przez jednostki notyfikowane; e) deklarację zgodności UE, o której mowa w art. 47. 2. Każde państwo członkowskie określa warunki, na jakich dokumentacja, o której mowa w ust. 1, pozostaje do dyspozycji właściwych organów krajowych przez okres wskazany w tym ustępie w przypadkach, gdy dostawca lub jego upoważniony przedstawiciel mający miejsce zamieszkania lub siedzibę na terytorium danego państwa członkowskiego ogłoszą upadłość lub zaprzestaną działalności przed upływem tego okresu. 3. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą dokumentację techniczną jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów prawa Unii dotyczących usług finansowych. o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 19 Automatycznie generowane rejestry zdarzeń 1. Dostawcy systemów AI wysokiego ryzyka przechowują generowane automatycznie przez ich systemy AI wysokiego ryzyka rejestry zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. Bez uszczerbku dla mającego zastosowanie prawa Unii lub prawa krajowego rejestry te są przechowywane przez okres stosowny ze względu na przeznaczenie systemu AI wysokiego ryzyka, wynoszący co najmniej 6 miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowym, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. 2. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów dotyczących usług finansowych. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 20 Działania naprawcze i obowiązek informacyjny 1. Dostawcy systemów AI wysokiego ryzyka, którzy uważają lub mają powody, by uważać, że system AI wysokiego ryzyka, który wprowadzili do obrotu lub oddali do użytku, nie jest zgodny z niniejszym rozporządzeniem, natychmiast podejmują niezbędne N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia działania naprawcze w celu, stosownie do przypadku, zapewnienia zgodności tego systemu, wycofania go z rynku, wyłączenia go lub wycofania go z użytku. Informują oni o tym dystrybutorów danego systemu AI wysokiego ryzyka oraz w stosownych przypadkach, odpowiednio podmioty stosujące, upoważnionego przedstawiciela i importerów. 2. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1 i dostawca danego systemu dowie się o tym ryzyku, dostawca ten natychmiast wyjaśnia przyczyny tego ryzyka, w stosownych przypadkach we współpracy ze zgłaszającym podmiotem stosującym, oraz informuje organy nadzoru rynku właściwe w zakresie przedmiotowych systemów AI wysokiego ryzyka, oraz, w stosownych przypadkach, jednostkę notyfikowaną, która zgodnie z art. 44 wydała certyfikat dla danego systemu AI wysokiego ryzyka, w szczególności o charakterze danej niezgodności oraz o wszelkich podjętych działaniach naprawczych. Art. 21 Współpraca z właściwymi organami 1. Dostawcy systemów AI wysokiego ryzyka, na uzasadniony wniosek właściwego organu, przekazują temu organowi wszelkie informacje i dokumenty niezbędne do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla danego organu w jednym z oficjalnych języków instytucji Unii wskazanym przez dane państwo członkowskie. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również 2. Na uzasadniony wniosek właściwego organu dostawcy zapewniają również występującemu z wnioskiem właściwemu organowi, w stosownych przypadkach, dostęp do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. 3. Wszelkie informacje uzyskane zgodnie z niniejszym artykułem przez właściwy organ traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 22 Upoważnieni przedstawiciele dostawców systemów AI wysokiego ryzyka 1. Przed udostępnieniem swoich systemów AI wysokiego ryzyka na rynku Unii dostawcy mający miejsce zamieszkania lub siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego miejsce zamieszkania lub siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego przez dostawcę. Upoważniony przedstawiciel przekazuje organom nadzoru rynku, na wniosek, kopię T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady pełnomocnictwa w jednym z oficjalnych języków instytucji Unii wskazanym przez właściwy organ. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie, czy zostały sporządzone deklaracja zgodności UE, o której mowa w art. 47, i dokumentacja techniczna, o której mowa w art. 11, oraz czy została przeprowadzona przez dostawcę odpowiednia procedura oceny zgodności; b) przechowywanie do dyspozycji właściwych organów i krajowych organów lub jednostek, o których mowa w art. 74 ust. 10, przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, danych kontaktowych dostawcy, który ustanowił upoważnionego przedstawiciela, kopii deklaracji zgodności UE, o której mowa w art. 47, dokumentacji technicznej oraz w stosownych przypadkach, certyfikatu wydanego przez jednostkę notyfikowaną; c) przekazywanie właściwemu organowi, na uzasadniony wniosek, wszelkich informacji i dokumentów, w tym tych, o których mowa w lit. b) niniejszego ustępu, niezbędnych do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w tym zapewnienie temu organowi dostępu do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. rodzaju rejestry zdarzeń znajdują się pod kontrolą dostawcy; d) współpraca z właściwymi organami, na uzasadniony wniosek, w zakresie wszelkich działań, które organy te podejmują w odniesieniu do danego systemu AI wysokiego ryzyka, w szczególności, aby zmniejszyć i ograniczyć ryzyko, jakie stwarza ten system AI wysokiego ryzyka; e) w stosownych przypadkach spełnianie obowiązków rejestracyjnych, o których mowa w art. 49 ust. 1, lub jeżeli rejestracji dokonuje sam dostawca, zapewnienie, by informacje, o których mowa w załączniku VIII sekcja A pkt 3, były prawidłowe. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 4. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli uważa lub ma powody uważać, że dostawca działa w sposób sprzeczny ze swoimi obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku upoważniony przedstawiciel natychmiast informuje o wypowiedzeniu pełnomocnictwa i jego przyczynach odpowiedni organ nadzoru rynku, a także, w stosownych przypadkach, odpowiednią jednostkę notyfikowaną. Art. 23 Obowiązki importerów T Przepis dotyczy systemów AI 1. Przed wprowadzeniem do obrotu systemu AI wysokiego ryzyka importerzy zapewniają jego zgodność z niniejszym rozporządzeniem, sprawdzając, czy: a) dostawca systemu AI wysokiego ryzyka przeprowadził odpowiednią procedurę oceny zgodności, o której mowa w art. 43; b) dostawca sporządził dokumentację techniczną zgodnie z art. 11 i załącznikiem IV; c) system opatrzono wymaganym oznakowaniem CE oraz dołączono do niego deklarację zgodności UE, o której mowa w art. 47, oraz instrukcję obsługi; d) dostawca ustanowił upoważnionego przedstawiciela zgodnie z art. 22 ust. 1. 2. W przypadku, gdy importer ma wystarczające powody, aby uważać, że system AI wysokiego ryzyka jest niezgodny z niniejszym rozporządzeniem lub został sfałszowany lub sfałszowana została dołączona do niego dokumentacja, nie wprowadza tego systemu do obrotu, dopóki nie zostanie zapewniona jego zgodność z niniejszym rozporządzeniem. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, importer informuje o tym dostawcę systemu, upoważnionych przedstawicieli oraz organy nadzoru rynku. 3. Importerzy podają w systemie AI wysokiego ryzyka, na opakowaniu tego systemu lub w stosownych przypadkach, w dołączonej do niego dokumentacji swoją nazwę, zarejestrowaną nazwę handlową lub wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować. 4. Importerzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego - stosownie do przypadku - przechowywania lub transportu nie zagrażały jego zgodności z wymogami ustanowionymi w sekcji 2. 5. Przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, importerzy przechowują kopię certyfikatu wydanego przez jednostkę notyfikowaną, w stosownych przypadkach, kopię instrukcji obsługi oraz deklaracji zgodności UE, o której mowa w art. 47. 6. Na uzasadniony wniosek odpowiednich właściwych organów importerzy przekazują im wszelkie niezbędne informacje i dokumentację, w tym te, o których mowa w ust. 5, w celu wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla tych organów. W tym celu importerzy zapewniają również możliwość udostępnienia tym organom dokumentacji technicznej. 7. Importerzy współpracują z odpowiednimi właściwymi organami w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka wprowadzonego do obrotu przez importerów, w szczególności, aby zmniejszyć i ograniczyć stwarzane przez ten system ryzyko. Art. 24 Obowiązki dystrybutorów T Przepis dotyczy systemów AI 1. Przed udostępnieniem na rynku systemu AI wysokiego ryzyka dystrybutorzy sprawdzają, czy został on opatrzony wymaganym oznakowaniem zgodności CE, czy dołączono do niego kopię deklaracji zgodności UE, o której mowa w art. 47, i instrukcję obsługi oraz czy dostawca oraz - w stosownych przypadkach - importer tego systemu spełnili swoje obowiązki ustanowione w art. 16 lit. b) i c) oraz w art. 23 ust. 3. 2. W przypadku, gdy dystrybutor - na podstawie dostępnych mu informacji - uważa lub ma powód, aby uważać, że system AI wysokiego ryzyka nie jest zgodny z wymogami ustanowionymi w sekcji 2 niniejszego tytułu, nie udostępnia na rynku tego systemu AI wysokiego ryzyka, dopóki nie zostanie zapewniona zgodność systemu z tymi wymogami. Ponadto, jeżeli system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor informuje o tym stosownie do przypadku dostawcę lub importera systemu. 3. Dystrybutorzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego przechowywania lub transportu - stosownie do przypadku - nie zagrażały zgodności systemu z wymogami ustanowionymi w sekcji 2. 4. Dystrybutor, który uważa lub ma powód, aby - na podstawie dostępnych mu informacji - uważać, że system AI wysokiego ryzyka udostępniony przez niego na rynku jest niezgodny z wymogami ustanowionymi w sekcji 2, podejmuje działania naprawcze konieczne do zapewnienia zgodności tego systemu z tymi wymogami, wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. do wycofania go z rynku lub wycofania go z użytku lub zapewnia podjęcie takich działań naprawczych przez, stosownie do przypadku, dostawcę, importera lub odpowiedniego operatora. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor natychmiast informuje o tym dostawcę lub importera systemu oraz organy właściwe w zakresie przedmiotowego system AI wysokiego ryzyka, przekazując szczegółowe informacje w szczególności na temat niezgodności systemu z wymogami i wszelkich podjętych działań naprawczych. 5. Na uzasadniony wniosek odpowiedniego organu dystrybutorzy systemów AI wysokiego ryzyka przekazują temu organowi wszelkie informacje i dokumentację dotyczące ich działań zgodnie z ust. 1-4, niezbędne do wykazania zgodności tego systemu z wymogami określonymi w sekcji 2. 6. Dystrybutorzy współpracują z odpowiednimi organami krajowymi w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka udostępnionego na rynku przez dystrybutorów, w szczególności, aby zmniejszyć lub ograniczyć stwarzane przez ten system ryzyko. Art. 25 Odpowiedzialność w całym łańcuchu wartości AI 1. Do celów niniejszego rozporządzenia za dostawcę systemu AI wysokiego ryzyka uznaje się i obejmuje obowiązkami dostawcy ustanowionymi w art. 16 każdego dystrybutora, importera, podmiot stosujący lub N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia inną stronę trzecią, jeżeli zachodzi którakolwiek z następujących okoliczności: a) umieszczają oni swoją nazwę lub znak towarowy w systemie AI wysokiego ryzyka, który został już wprowadzony do obrotu lub oddany do użytku, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób; b) we wprowadzonym już do obrotu lub oddanym do użytku systemie AI wysokiego ryzyka dokonują oni istotnej zmiany w taki sposób, że pozostaje on systemem AI wysokiego ryzyka zgodnie z art. 6; c) zmieniają oni przeznaczenie systemu AI, w tym systemu AI ogólnego przeznaczenia, który nie został zaklasyfikowany jako system AI wysokiego ryzyka i który został już wprowadzony do obrotu lub oddany do użytku, w taki sposób, że dany system AI staje się systemem AI wysokiego ryzyka zgodnie z art. 6. 2. W przypadku zaistnienia okoliczności, o których mowa w ust. 1, dostawcy, który pierwotnie wprowadził do obrotu lub oddał do użytku ten system AI, nie uznaje się już do celów niniejszego rozporządzenia za dostawcę tego konkretnego systemu AI. Ten pierwotny dostawca ściśle współpracuje z nowymi dostawcami i udostępnia niezbędne informacje oraz udziela racjonalnie oczekiwanego dostępu technicznego i innego wsparcia niezbędnych do spełnienia obowiązków określonych w niniejszym rozporządzeniu, w szczególności w odniesieniu do zgodności z kryteriami oceny zgodności systemów AI wysokiego ryzyka. Niniejszego ustępu nie stosuje się w przypadkach, gdy pierwotny dostawca wyraźnie określił, że jego system AI nie może zostać zmieniony w system AI wysokiego ryzyka, a zatem nie dotyczy go obowiązek przekazania dokumentacji. 3. W przypadku systemów AI wysokiego ryzyka, które stanowią związane z bezpieczeństwem elementy produktów objętych zakresem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, producenta produktów uznaje się za dostawcę systemu AI wysokiego ryzyka i podlega on obowiązkom ustanowionym w art. 16, jeżeli zachodzi którakolwiek z następujących okoliczności: a) system AI wysokiego ryzyka jest wprowadzany do obrotu wraz z produktem pod nazwą lub znakiem towarowym producenta produktu; b) system AI wysokiego ryzyka jest oddawany do użytku pod nazwą lub znakiem towarowym producenta produktu po wprowadzeniu produktu do obrotu. 4. Dostawca systemu AI wysokiego ryzyka i osoba trzecia dostarczająca system AI, narzędzia, usługi, komponenty lub procesy, które są wykorzystywane w systemie AI wysokiego ryzyka lub z nim zintegrowane, wskazują, w drodze pisemnej umowy, informacje, zdolności, dostęp techniczny i innego rodzaju pomoc opartą na powszechnie uznanym stanie wiedzy technicznej wymagane, aby umożliwić dostawcy systemu AI wysokiego ryzyka pełne spełnienie obowiązków ustanowionych w niniejszym rozporządzeniu. Niniejszego ustępu nie stosuje się do osób trzecich udostępniających publicznie na podstawie bezpłatnej licencji otwartego oprogramowania narzędzia, usługi, procesy lub komponenty inne niż modele AI ogólnego przeznaczenia. Urząd ds. AI może opracować i zalecić dobrowolne wzorcowe postanowienia umowne dla umów zawieranych między dostawcami systemów AI wysokiego ryzyka a osobami trzecimi dostarczającymi narzędzia, usługi, komponenty lub procesy, które są wykorzystywane na potrzeby systemów AI wysokiego ryzyka lub zintegrowane z tymi systemami. Przy opracowywaniu dobrowolnych wzorcowych postanowień umownych, Urząd ds. AI bierze również pod uwagę ewentualne wymogi umowne mające zastosowanie w określonych sektorach lub przypadkach biznesowych. Dobrowolne wzorcowe postanowienia umowne są publikowane i udostępniane bezpłatnie w łatwym w użyciu formacie elektronicznym. 5. Ust. 2 i 3 pozostają bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej, poufnych informacji handlowych i tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 26 Obowiązki podmiotów stosujących systemy AI wysokiego ryzyka 1. Podmioty stosujące systemy AI wysokiego ryzyka podejmują - na podstawie ust. 3 i 6 - odpowiednie środki techniczne i organizacyjne w celu zapewnienia, aby systemy takie były wykorzystywane zgodnie z dołączoną do nich instrukcją obsługi. Art. 6 pkt 4 Art. 6. Do zadań Komisji należy: 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 2. Podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie. 3. Obowiązki ustanowione w ust. 1 i 2 pozostają bez uszczerbku dla innych obowiązków podmiotu stosującego wynikających z prawa Unii lub prawa krajowego oraz dla przysługującej podmiotowi stosującemu swobody organizowania swoich zasobów własnych i działań w celu wdrożenia wskazanych przez dostawcę środków nadzoru ze strony człowieka. 4. Bez uszczerbku dla ust. 1 i 2 podmiot stosujący zapewnia, w zakresie, w jakim sprawuje on kontrolę nad danymi wejściowymi, adekwatność i wystarczającą reprezentatywność danych wejściowych w odniesieniu do przeznaczenia systemu AI wysokiego ryzyka. 5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie T organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania. W odniesieniu do podmiotów stosujących będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek w zakresie monitorowania, o którym mowa w akapicie pierwszym, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi uzgodnień, procedur i mechanizmów zarządzania wewnętrznego na podstawie odpowiednich przepisów dotyczących usług finansowych. 6. Podmioty stosujące systemy AI wysokiego ryzyka przechowują generowane automatycznie przez system AI wysokiego ryzyka rejestry zdarzeń - w zakresie, w jakim rejestry te znajdują się pod ich kontrolą - przez stosowny ze względu na przeznaczenie danego systemu AI wysokiego ryzyka okres, wynoszący co najmniej sześć miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowe, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. Podmioty stosujące będące instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń jako część dokumentacji prowadzonej na podstawie odpowiednich unijnych przepisów dotyczących usług finansowych. 7. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami ustanowionymi w prawie Unii i prawie krajowym oraz praktyką w zakresie informowania pracowników i ich przedstawicieli. 8. Podmioty stosujące systemy AI wysokiego ryzyka, będące publicznymi organami lub instytucjami, organami i jednostkami organizacyjnymi Unii, spełniają obowiązki rejestracji, o których mowa w art. 49. Jeżeli takie podmioty stosujące ustalą, że system AI wysokiego ryzyka, który zamierzają wykorzystywać, nie został zarejestrowany w bazie danych UE, o której mowa w art. 71, nie stosują tego systemu i informują o tym dostawcę lub dystrybutora. 9. W stosownych przypadkach, podmioty stosujące systemy AI wysokiego ryzyka korzystają z informacji przekazanych na podstawie art. 13 niniejszego rozporządzenia, aby spełnić spoczywając na nich obowiązki przeprowadzenia oceny skutków dla ochrony danych zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680. 10. Bez uszczerbku dla dyrektywy (UE) 2016/680, w ramach postępowania przygotowawczego dotyczącego ukierunkowanego poszukiwania osoby podejrzanej o popełnienie przestępstwa lub skazanej za popełnienie przestępstwa podmiot stosujący system AI wysokiego ryzyka do celów zdalnej identyfikacji biometrycznej post factum zwraca się - ex ante lub bez zbędnej zwłoki, nie później jednak niż w ciągu 48 godzin - do organu wymiaru sprawiedliwości lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wnioskiem o zezwolenie na wykorzystanie tego systemu, z wyjątkiem sytuacji, gdy jest on wykorzystywany do wstępnej identyfikacji potencjalnego podejrzanego w oparciu o obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z przestępstwem. Każde wykorzystanie takiego systemu musi być ograniczone do tego, co jest bezwzględnie konieczne do prowadzenia postępowań przygotowawczych w sprawie konkretnego przestępstwa. W przypadku gdy wniosek o zezwolenie, o którym mowa w akapicie pierwszym, zostanie odrzucony, korzystanie z systemu zdalnej identyfikacji biometrycznej post factum, będące przedmiotem wniosku o zezwolenie, zostaje wstrzymane ze skutkiem natychmiastowym, a dane osobowe związane z wykorzystaniem systemu AI wysokiego ryzyka, w odniesieniu do którego złożono wniosek o zezwolenie, zostają usunięte. W żadnym przypadku taki system AI wysokiego ryzyka służący do zdalnej identyfikacji biometrycznej post factum nie może być wykorzystywany do celów ścigania przestępstw w sposób nieukierunkowany, bez związku z przestępstwem, postępowaniem karnym, rzeczywistym i obecnym lub rzeczywistym i dającym się przewidzieć zagrożeniem popełnieniem przestępstwa lub poszukiwaniem konkretnej osoby zaginionej. Zapewnia się, aby organy ścigania mogły wydać żadnej decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej post factum. Niniejszy ustęp pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 i art. 10 dyrektywy (UE) 2016/680 w odniesieniu do przetwarzania danych biometrycznych. Niezależnie od celu lub podmiotu stosującego każde wykorzystanie takich systemów AI wysokiego ryzyka musi zostać udokumentowane w odpowiednich aktach policyjnych i udostępnione na wniosek właściwego organu nadzoru rynku i krajowemu organowi ochrony danych, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Niniejszy akapit pozostaje bez uszczerbku dla uprawnień powierzonych organom nadzorczym dyrektywą (UE) 2016/680. Podmioty stosujące przedkładają właściwym organom nadzoru rynku i krajowym organom ochrony danych roczne sprawozdania dotyczące wykorzystania przez nie systemów zdalnej identyfikacji biometrycznej post factum, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Sprawozdania te mogą zostać zagregowane w celu uwzględnienia stosowania więcej niż jednego systemu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące korzystania z systemów zdalnej identyfikacji biometrycznej post factum. 11. Bez uszczerbku dla art. 50 niniejszego rozporządzenia podmioty stosujące systemy wysokiego ryzyka, o których mowa w załączniku III, które to podmioty podejmują decyzje lub uczestniczą w podejmowaniu decyzji dotyczących osób fizycznych, informują osoby fizyczne o tym, że jest w stosunku do nich wykorzystywany system AI wysokiego ryzyka. W przypadku systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw stosuje się art. 13 dyrektywy (UE) 2016/680. 12. Podmioty stosujące współpracują z odpowiednimi właściwymi organami przy wszelkich działaniach, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka, w celu wykonywania niniejszego rozporządzenia. Art. 27 Ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych 1. Przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów AI wysokiego ryzyka przeznaczonych do stosowania w obszarze wymienionym w załączniku III pkt 2, podmioty stosujące będące podmiotami prawa N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne, oraz podmioty stosujące systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 5 lit. b) i c), przeprowadzają ocenę skutków w zakresie praw podstawowych, jakie może wywołać wykorzystanie takiego systemu. W tym celu podmioty stosujące przeprowadzają ocenę obejmującą: a) opis procesów podmiotu stosującego, w których system AI wysokiego ryzyka będzie wykorzystywany zgodnie z jego przeznaczeniem; b) opis okresu, w którym każdy system AI wysokiego ryzyka ma być wykorzystywany i opis częstotliwości tego wykorzystywania; c) kategorie osób fizycznych i grup, na które może mieć wpływ wykorzystywanie systemu; d) szczególne ryzyko szkody, które może mieć wpływ na kategorie osób fizycznych lub grupy osób zidentyfikowane zgodnie z lit. c) niniejszego ustępu, z uwzględnieniem informacji przekazanych przez dostawcę zgodnie z art. 13; e) opis wdrożenia środków nadzoru ze strony człowieka, zgodnie z instrukcją obsługi; f) środki, jakie należy podjąć w przypadku urzeczywistnienia się tego ryzyka, w tym ustalenia dotyczące zarządzania wewnętrznego i mechanizmów rozpatrywania skarg. 2. Obowiązek ustanowiony w ust. 1 ma zastosowanie do wykorzystania systemu AI wysokiego ryzyka po raz pierwszy. W podobnych przypadkach podmiot stosujący może polegać na wcześniej przeprowadzonych ocenach skutków dla praw podstawowych lub na istniejących ocenach skutków przeprowadzonych przez dostawcę. Jeżeli w trakcie wykorzystania systemu AI wysokiego ryzyka podmiot stosujący uzna, że którykolwiek z elementów wymienionych w ust. 1 uległ zmianie lub nie jest już aktualny, podmiot ten podejmuje niezbędne kroki w celu aktualizacji informacji. 3. Po przeprowadzeniu oceny, o której mowa w ust. 1 niniejszego artykułu, podmiot stosujący powiadamia organ nadzoru rynku o jej wynikach, przedkładając jako element tego powiadomienia wypełniony wzór, o którym mowa w ust. 5 niniejszego artykułu. W przypadku, o którym mowa w art. 46 ust. 1, podmioty stosujące mogą zostać zwolnione z obowiązku dokonania powiadomienia. 4. Jeżeli którykolwiek z obowiązków ustanowionych w niniejszym artykule został już spełniony w wyniku oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, ocena skutków w zakresie praw podstawowych, o której mowa w ust. 1 niniejszego artykułu, stanowi uzupełnieniem tej oceny skutków dla ochrony danych. 5. Urząd ds. AI opracowuje wzór kwestionariusza, w tym za pomocą zautomatyzowanego narzędzia, aby ułatwić podmiotom stosującym spełnianie ich obowiązków wynikających z niniejszego artykułu w sposób uproszczony. Art. 28 Organy notyfikujące 1. Każde państwo członkowskie wyznacza lub ustanawia przynajmniej jeden organ notyfikujący odpowiedzialny za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Procedury te są przygotowywane wspólnie przez organy notyfikujące wszystkich państw członkowskich. 2. Państwa członkowskie mogą zdecydować, że ocena oraz monitorowanie, o których mowa w ust. 1, są prowadzone przez krajową jednostkę akredytującą w rozumieniu rozporządzenia (WE) nr 765/2008 oraz zgodnie z tym rozporządzeniem. 3. Organy notyfikujące ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby nie dopuścić do wystąpienia konfliktu interesów z jednostkami oceniającymi zgodność i aby zapewnić obiektywny i bezstronny charakter ich działalności. 4. Działalność organów notyfikujących organizuje się w taki sposób, aby decyzje dotyczące notyfikacji jednostek oceniających zgodność podejmowały kompetentne osoby, które nie przeprowadzały oceny tych jednostek. 5. Organy notyfikujące nie mogą oferować ani podejmować żadnych działań realizowanych przez jednostki oceniające zgodność ani świadczyć żadnych usług doradztwa na zasadzie komercyjnej lub konkurencyjnej. T Art. 86 ust. 1 Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. Wskazanie organu właściwego do wykonywania zadań organu notyfikującego określonego w rozporządzeniu 6. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. 7. Organy notyfikujące muszą dysponować odpowiednią liczbą kompetentnych pracowników, aby należycie wykonywać powierzone im zadania. Kompetentni pracownicy muszą posiadać, w odpowiednich przypadkach, wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach, takich jak technologie informacyjne, AI i prawo, w tym nadzór nad prawami podstawowymi. Art. 29 Wniosek jednostki oceniającej zgodność o notyfikację 1. Jednostki oceniające zgodność przekazują wniosek o notyfikację organowi notyfikującemu państwa członkowskiego, w którym znajduje się ich siedziba. 2. Do wniosku o notyfikację załącza się opis czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i rodzajów systemów AI, w odniesieniu do których jednostka oceniająca zgodność uważa się za kompetentną, a także wydany przez krajową jednostkę akredytującą certyfikat akredytacji (o ile takowy istnieje) poświadczający, że jednostka oceniająca zgodność spełnia wymogi ustanowione w art. 31. Do wniosku załącza się również wszelkie ważne dokumenty dotyczące obowiązującego wyznaczenia - na podstawie innego unijnego prawodawstwa harmonizacyjnego - występującej z wnioskiem jednostki notyfikowanej. T Art. 86 ust.2-4 Art. 87 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz Wskazanie podstawy prawnej do przeprowadzania notyfikacji jednostki. Odniesienie do konkretnego artykułu zapewnia przejrzystość ustawy. 3. Jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, przekazuje organowi notyfikującemu wszystkie dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31. 4. W odniesieniu do jednostek notyfikowanych wyznaczonych na podstawie innego unijnego prawodawstwa harmonizacyjnego w stosownych przypadkach dopuszcza się możliwość wykorzystania wszelkich dokumentów i certyfikatów dotyczących takiego wyznaczenia w charakterze dowodów w toku procedury wyznaczania przeprowadzanej zgodnie z niniejszym rozporządzeniem. Jednostka notyfikowana aktualizuje dokumentację, o której mowa w ust. 2 i 3 niniejszego artykułu, w każdym przypadku, gdy wystąpią istotne zmiany, aby umożliwić organowi odpowiedzialnemu za jednostki notyfikowane monitorowanie i weryfikowanie, czy zapewniona jest ciągła zgodność ze wszystkimi wymogami ustanowionymi w art. 31. wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach - w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany;; 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 30 Procedura notyfikacyjna 1. Organy notyfikujące mogą dokonywać notyfikacji wyłącznie w odniesieniu do tych jednostek oceniających zgodność, które spełniają wymogi ustanowione w art. 31. 2. Organy notyfikujące dokonują notyfikacji Komisji i pozostałym państwom członkowskim za pomocą narzędzia do notyfikacji elektronicznej opracowanego i obsługiwanego przez Komisję, o każdej jednostce oceniającej zgodność, o której mowa w ust. 1. 3. Notyfikacja, o której mowa w ust. 2 niniejszego artykułu, zawiera wyczerpujące informacje na temat czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i przedmiotowych rodzajów systemów AI oraz odpowiednie poświadczenie kompetencji. W przypadku gdy podstawą notyfikacji nie jest certyfikat akredytacji, o którym mowa w art. 29 ust. 2, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 4. Dana jednostka oceniająca zgodność może wykonywać czynności jednostki notyfikowanej tylko wówczas, gdy Komisja lub pozostałe państwa członkowskie nie zgłosiły sprzeciwu w terminie dwóch tygodni od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje certyfikat akredytacji, o którym mowa w art. 29 ust. 2, lub w terminie dwóch miesięcy od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje dowody w postaci dokumentów, o których mowa w art. 29 ust. 3. 5. W przypadku zgłoszenia sprzeciwu Komisja niezwłocznie przystępuje do konsultacji z odpowiednimi państwami członkowskimi i jednostką oceniającą zgodność. Na podstawie tych konsultacji Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiedniej jednostki oceniającej zgodność. Art. 31 Wymogi dotyczące jednostek notyfikowanych 1. Jednostkę notyfikowaną ustanawia się zgodnie z prawem krajowym danego państwa członkowskiego i ma ona osobowość prawną. 2. Jednostki notyfikowane muszą spełniać wymogi organizacyjne, wymogi w zakresie zarządzania jakością oraz wymogi dotyczące zasobów i procesów niezbędne do tego, aby mogły wykonywać powierzone im zadania, jak również odpowiednie wymogi w zakresie cyberbezpieczeństwa. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Struktura organizacyjna jednostek notyfikowanych, podział obowiązków w tych jednostkach, obowiązująca w nich hierarchia służbowa oraz ich funkcjonowanie zapewniają, by działalność jednostek notyfikowanych oraz wyniki czynności z zakresu oceny zgodności prowadzonych przez te jednostki nie budziły żadnych wątpliwości. 4. Jednostki notyfikowane muszą być niezależne od dostawcy systemu AI wysokiego ryzyka, wobec którego podejmują czynności z zakresu oceny zgodności. Jednostki notyfikowane muszą być również niezależne od wszelkich innych operatorów, których interes gospodarczy wiąże się z systemami AI wysokiego ryzyka będącymi przedmiotem oceny, a także od wszelkich innych konkurentów dostawcy. Nie wyklucza to wykorzystania będących przedmiotem oceny systemów AI wysokiego ryzyka, które są niezbędne do prowadzenia działalności jednostki oceniającej zgodność, ani wykorzystania takich systemów AI wysokiego ryzyka do celów prywatnych. 5. Jednostka oceniająca zgodność, jej kierownictwo najwyższego szczebla ani pracownicy odpowiedzialni za realizację zadań związanych z oceną zgodności nie mogą być bezpośrednio zaangażowani w projektowanie, rozwój, sprzedaż ani wykorzystywanie systemów AI wysokiego ryzyka, nie mogą też reprezentować stron zaangażowanych w taką działalność. Nie angażują się oni w żadną działalność, która może zagrozić niezależności ich osądów i wiarygodności w związku z czynnościami z zakresu oceny zgodności, do której zostali notyfikowani. Dotyczy to w szczególności usług konsultingowych. 6. Jednostki notyfikowane organizuje się i zarządza się nimi w sposób gwarantujący niezależność, obiektywizm i bezstronność podejmowanych przez nie czynności. Jednostki notyfikowane dokumentują i wdrażają strukturę i procedury służące zagwarantowaniu ich bezstronności oraz propagowaniu i stosowaniu zasad bezstronności we wszystkich podejmowanych przez nie czynnościach organizacyjnych i kadrowych oraz we wszystkich ich czynnościach związanych z oceną. 7. Jednostki notyfikowane dysponują udokumentowanymi procedurami, które zapewniają zachowanie poufności informacji - zgodnie z art. 78 - przez ich personel, komitety, jednostki zależne, podwykonawców oraz wszelkie stowarzyszone z nimi jednostki lub pracowników podmiotów zewnętrznych, które to informacje znalazły się w ich posiadaniu w toku czynności z zakresu oceny zgodności, chyba że ujawnienie takich informacji jest wymagane na mocy obowiązującego prawa. Personel jednostek notyfikowanych pozostaje związany tajemnicą zawodową w kwestii wszystkich informacji pozyskiwanych w toku wykonywania zadań powierzonych mu zgodnie z niniejszym rozporządzeniem, jednak nie w stosunku do organów notyfikujących państwa członkowskiego, w którym jednostki notyfikowane podejmują czynności. 8. Jednostki notyfikowane dysponują procedurami prowadzenia czynności z uwzględnieniem rozmiaru dostawcy, sektora, w którym prowadzi on działalność, jego struktury oraz stopnia złożoności danego systemu AI. 9. Jednostki notyfikowane zawierają odpowiednie umowy ubezpieczenia od odpowiedzialności cywilnej w odniesieniu do podejmowanych przez siebie czynności z zakresu oceny zgodności, chyba że państwo członkowskie, w którym mają siedzibę, bierze na siebie odpowiedzialność z tego tytułu zgodnie z prawem krajowym lub bezpośrednia odpowiedzialność za ocenę zgodności spoczywa na danym państwie członkowskim. 10. Jednostki notyfikowane posiadają zdolność wykonywania wszystkich zadań wynikających z niniejszego rozporządzenia z zachowaniem najwyższego poziomu uczciwości zawodowej i wymaganych kompetencji w danej dziedzinie, niezależnie od tego, czy zadania te są wykonywane przez nie samodzielnie, czy też w ich imieniu i na ich odpowiedzialność. 11. Jednostki notyfikowane dysponują wystarczającymi kompetencjami wewnętrznymi pozwalającymi im skutecznie oceniać zadania wykonywane w ich imieniu przez podmioty zewnętrzne. Jednostka notyfikowana dysponuje stałą dostępnością wystarczającej liczby pracowników odpowiedzialnych za aspekty administracyjne, techniczne, prawne i naukowe dysponujących doświadczeniem i wiedzą w zakresie odnośnych rodzajów systemów AI, danych i metod przetwarzania danych oraz w zakresie wymogów ustanowionych w sekcji 2. 12. Jednostki notyfikowane biorą udział w działaniach koordynacyjnych, o których mowa w art. 38. Angażują się także w działalność europejskich organizacji normalizacyjnych bezpośrednio lub za pośrednictwem swoich przedstawicieli lub zapewniają, by same posiadały znajomość odpowiednich norm i dysponowały zawsze aktualną wiedzą na ich temat. Art. 32 Domniemanie zgodności z wymogami dotyczącymi jednostek notyfikowanych W przypadku gdy jednostka oceniająca zgodność wykaże swoją zgodność z kryteriami ustanowionymi w odpowiednich normach zharmonizowanych lub częściach tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełnia ona wymogi ustanowione w art. 31 w zakresie, w jakim mające zastosowanie normy zharmonizowane obejmują te wymogi. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 33 Jednostki zależne i podwykonawcy jednostek notyfikowanych 1. W przypadku, gdy jednostka notyfikowana zleca wykonywanie określonych zadań związanych z oceną zgodności podwykonawcy lub korzysta w tym celu z usług jednostki zależnej, zapewnia spełnienie przez podwykonawcę lub przez jednostkę zależną wymogów ustanowionych w art. 31 oraz informuje o tym organ notyfikujący. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Jednostki notyfikowane ponoszą pełną odpowiedzialność za zadania wykonywane przez podwykonawców lub jednostki zależne. 3. Zadania mogą być zlecane podwykonawcy lub wykonywane przez jednostkę zależną wyłącznie za zgodą dostawcy. Jednostki notyfikowane podają do wiadomości publicznej wykaz swoich jednostek zależnych. 4. Odpowiednie dokumenty dotyczące oceny kwalifikacji podwykonawcy lub jednostki zależnej oraz prac wykonywanych przez nich na podstawie niniejszego rozporządzenia przechowuje się do dyspozycji organu notyfikującego przez okres 5 lat od dnia zakończenia podwykonawstwa. Art. 34 Obowiązki operacyjne jednostek notyfikowanych 1. Jednostki notyfikowane weryfikują zgodność systemów AI wysokiego ryzyka zgodnie z procedurami oceny zgodności określonymi w art. 43. 2. Jednostki notyfikowane unikają niepotrzebnych obciążeń dla dostawców podczas wykonywania swoich czynności oraz należycie uwzględniają rozmiar dostawcy, sektor, w którym prowadzi on działalność, jego strukturę oraz stopień złożoności danego systemu AI wysokiego ryzyka, w szczególności w celu zminimalizowania obciążeń administracyjnych i kosztów zapewnienia zgodności dla mikroprzedsiębiorstw i małych przedsiębiorstw w rozumieniu zalecenia 2003/361/WE. Jednostka notyfikowana przestrzega jednak rygoryzmu i poziomu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ochrony wymaganych do zapewnienia zgodności danego systemu AI wysokiego ryzyka z wymogami niniejszego rozporządzenia. 3. Na wniosek organu notyfikującego, o którym mowa w art. 28, jednostki notyfikowane udostępniają i przekazują temu organowi wszystkie stosowne dokumenty, uwzględniając dokumentację dostawców, aby umożliwić temu organowi przeprowadzenie czynności w zakresie oceny, wyznaczania, notyfikacji i monitorowania oraz aby ułatwić mu przeprowadzenie oceny opisanej w niniejszej sekcji. Art. 35 Numery identyfikacyjne i wykazy jednostek notyfikowanych 1. Komisja przydziela każdej jednostce notyfikowanej jeden numer identyfikacyjny, nawet jeżeli jednostkę tę notyfikowano na podstawie kilku aktów Unii. 2. Komisja podaje do wiadomości publicznej wykaz jednostek notyfikowanych na podstawie niniejszego rozporządzenia, łącznie z ich numerami identyfikacyjnymi oraz informacją na temat czynności będących przedmiotem notyfikacji. Komisja zapewnia aktualność tego wykazu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 36 Zmiany w notyfikacjach 1. Organ notyfikujący powiadamia Komisję i pozostałe państwa członkowskie za pomocą systemu notyfikacji elektronicznej, o którym mowa w art. 30 ust. 2, o T Art. 86 ust. 2 i 5 oraz Art. 89 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w wszelkich istotnych zmianach w notyfikacji danej jednostki notyfikowanej. 2. Procedury ustanowione w art. 29 i 30 stosuje się do rozszerzenia zakresu notyfikacji. W przypadku zmian w notyfikacji innych niż rozszerzenie jej zakresu stosuje się procedury ustanowione w ust. 3-9. 3. W przypadku, gdy jednostka notyfikowana podejmie decyzję o zaprzestaniu prowadzenia czynności z zakresu oceny zgodności, jak najszybciej informuje o tym organ notyfikujący i zainteresowanych dostawców, a w przypadku planowanego zaprzestania działalności - na co najmniej rok przed zaprzestaniem działalności. Certyfikaty wydane przez jednostkę notyfikowaną mogą pozostać ważne przez okres dziewięciu miesięcy po zaprzestaniu działalności jednostki notyfikowanej, pod warunkiem, że inna jednostka notyfikowana potwierdzi na piśmie, że przejmie odpowiedzialność za objęte tymi certyfikatami systemy AI wysokiego ryzyka. Przed upływem tego okresu dziewięciu miesięcy ta inna jednostka notyfikowana przeprowadza pełną ocenę odnośnych systemów AI wysokiego ryzyka, zanim wyda nowe certyfikaty dla tych systemów. W przypadku gdy jednostka notyfikowana zaprzestała działalności, organ notyfikujący cofa jej wyznaczenie. 4. W przypadku, gdy organ notyfikujący ma wystarczające powody, by uważać, że jednostka notyfikowana przestała spełniać wymogi określone w art. 31 lub nie spełnia swoich obowiązków, organ notyfikujący niezwłocznie wszczyna postępowanie ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. (...) 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. wyjaśniające w tej sprawie z zachowaniem największej staranności. W takim przypadku organ notyfikujący informuje daną jednostkę notyfikowaną o zgłoszonym sprzeciwu i zapewnia jej możliwość ustosunkowania się do tego sprzeciwu. Jeżeli organ notyfikujący dojdzie do wniosku, że jednostka notyfikowana przestała spełniać wymogi ustanowione w art. 31 lub nie spełnia swoich obowiązków, organ ten, stosownie do przypadku, ogranicza, zawiesza lub cofa wyznaczenie, w zależności od powagi niespełnienia tych wymogów lub tych obowiązków. Informuje on o tym natychmiast Komisję i pozostałe państwa członkowskie. 5. W przypadku, gdy wyznaczenie zostało zawieszone, ograniczone lub całkowicie lub częściowo cofnięte, jednostka notyfikowana informuje o tym zainteresowanych dostawców w terminie 10 dni. 6. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący podejmuje odpowiednie kroki w celu zapewnienia, by zachowana została dokumentacja danej jednostki notyfikowanej i była ona udostępniana organom notyfikującym w pozostałych państwach członkowskich oraz organom nadzoru rynku na ich wniosek. 7. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący: a) ocenia skutki dla certyfikatów wydanych przez daną jednostkę notyfikowaną; b) przedkłada Komisji i pozostałym państwom członkowskim sprawozdanie ze swoich ustaleń w terminie trzech miesięcy od powiadomienia o zmianach w wyznaczeniu; c) zwraca się do jednostki notyfikowanej z żądaniem, by w celu zapewnienia ciągłości zgodności systemów AI wysokiego ryzyka na rynku zawiesiła lub cofnęła, w rozsądnym terminie ustalonym przez ten organ, wszelkie certyfikaty, które zostały nienależnie wydane; d) informuje Komisję i państwa członkowskie o certyfikatach, których zawieszenia lub cofnięcia zażądał; e) przekazuje właściwym organom krajowym państwa członkowskiego, w którym dostawca ma zarejestrowane miejsce prowadzenia działalności, wszelkie istotne informacje na temat certyfikatów, których zawieszenia lub cofnięcia zażądał; organy te podejmują w stosownych przypadkach odpowiednie środki w celu uniknięcia potencjalnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych. 8. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało zawieszone lub ograniczone, certyfikaty pozostają ważne, jeżeli zachodzi którakolwiek z następujących okoliczności: a) organ notyfikujący potwierdził, w terminie jednego miesiąca od zawieszenia lub ograniczenia, że w odniesieniu do certyfikatów, których dotyczy zawieszenie lub ograniczenie, nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych i określił czas działań służących temu, by znieść zawieszenie lub ograniczenie; lub b) organ notyfikujący potwierdził, że w czasie trwania zawieszenia lub ograniczenia nie będą wydawane, zmieniane ani wydawane ponownie żadne certyfikaty powiązane z danym zawieszeniem, oraz stwierdza, czy dana jednostka notyfikowana jest zdolna do dalszego monitorowania i bycia odpowiedzialną za wydane już certyfikaty obowiązujące w okresie pokrywającym się z tym zawieszeniem lub ograniczeniem; w przypadku gdy organ notyfikujący ustali, że jednostka notyfikowana nie posiada zdolności do obsługi wydanych certyfikatów, dostawca systemu objętego danym certyfikatem - w terminie trzech miesięcy od zawieszenia lub ograniczenia - przekazuje właściwym organom krajowym w państwie członkowskim, w którym ma zarejestrowane miejsce prowadzenia działalności, potwierdzenie na piśmie, że inna wykwalifikowana jednostka notyfikowana tymczasowo przejmuje funkcje jednostki notyfikowanej w zakresie monitorowania certyfikatów i pozostanie ona odpowiedzialna za te certyfikaty w okresie zawieszenia lub ograniczenia wyznaczenia. 9. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało cofnięte, certyfikaty pozostają ważne przez okres dziewięciu miesięcy w następujących okolicznościach: a) właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu AI wysokiego ryzyka objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, potwierdził, że nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych związane z danymi systemami AI wysokiego ryzyka; oraz b) inna jednostka notyfikowana potwierdziła na piśmie, że przejmie bezpośrednią odpowiedzialność za te systemy AI i zakończy swoją ocenę w terminie dwunastu miesięcy od cofnięcia wyznaczenia. W okolicznościach, o których mowa w akapicie pierwszym, właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, może przedłużyć tymczasową ważność tych certyfikatów o dodatkowe trzymiesięczne okresy, które łącznie nie mogą przekraczać dwunastu miesięcy. Właściwy organ krajowy lub jednostka notyfikowana przejmująca funkcje jednostki notyfikowanej, której dotyczy zmiana wyznaczenia, natychmiast powiadamiają o tym Komisję, pozostałe państwa członkowskie i pozostałe jednostki notyfikowane. Art. 37 Kwestionowanie kompetencji jednostek notyfikowanych 1. W razie konieczności Komisja przeprowadza postępowanie wyjaśniające dotyczące wszystkich przypadków, w których ma podstawy, by wątpić w kompetencje jednostki notyfikowanej lub w ciągłość spełniania przez jednostkę notyfikowaną wymogów N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ustanowionych w art. 31 oraz wypełnianie mających zastosowanie obowiązków. 2. Organ notyfikujący przekazuje Komisji, na wniosek, wszystkie istotne informacje dotyczące notyfikacji lub utrzymania kompetencji przez daną jednostkę notyfikowaną. 3. Komisja zapewnia zgodnie z art. 78 poufność wszystkich informacji wrażliwych uzyskanych w toku postępowań wyjaśniających prowadzonych zgodnie z niniejszym artykułem. 4. W przypadku gdy Komisja stwierdzi, że jednostka notyfikowana nie spełnia wymogów notyfikacji lub przestała je spełniać, informuje o tym notyfikujące państwo członkowskie i zwraca się do niego o podjęcie koniecznych środków naprawczych, włącznie z zawieszeniem lub cofnięciem notyfikacji, jeżeli zachodzi taka potrzeba. W przypadku niepodjęcia przez państwo członkowskie koniecznych środków naprawczych Komisja może w drodze aktu wykonawczego zawiesić, ograniczyć lub cofnąć wyznaczenie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 38 Koordynacja jednostek notyfikowanych 1. Komisja zapewnia - w odniesieniu do systemów AI wysokiego ryzyka - wprowadzenie i właściwy przebieg odpowiedniej koordynacji i współpracy w formie sektorowej grupy jednostek notyfikowanych jednostek notyfikowanych prowadzących działalność w zakresie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur oceny zgodności zgodnie z niniejszym rozporządzeniem. 2. Każdy organ notyfikujący zapewnia, aby notyfikowane przez niego jednostki uczestniczyły bezpośrednio lub za pośrednictwem wyznaczonych przedstawicieli w pracach grupy, o której mowa w ust. 1. 3. Komisja jest zobowiązana zapewnić wymianę wiedzy i najlepszych praktyk między organami notyfikującymi. Art. 39 Jednostki oceniające zgodność z państw trzecich Jednostki oceniające zgodność ustanowione na mocy prawa państwa trzeciego, z którym Unia zawarła umowę, mogą być upoważnione do wykonywania czynności jednostek notyfikowanych zgodnie z niniejszym rozporządzeniem, pod warunkiem, że spełniają wymogi ustanowione w art. 31 lub zapewniają równoważny poziom zgodności. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 40 Normy zharmonizowane i dokumenty normalizacyjne 1. W przypadku systemów AI wysokiego ryzyka oraz systemów AI ogólnego przeznaczenia spełniających normy zharmonizowane lub części tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej zgodnie z rozporządzeniem (UE) nr 1025/2012, domniemuje się, że spełniają one wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, obowiązki ustanowione w rozdziale V sekcja 2 i 3 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia niniejszego rozporządzenia, w zakresie, w jakim normy te obejmują te wymogi lub obowiązki. 2. Zgodnie z art. 10 rozporządzenia (UE) nr 1025/2012 Komisja wydaje bez zbędnej zwłoki wnioski o normalizację obejmujące wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału oraz w stosownych przypadkach, wnioski o normalizację obejmujące obowiązki ustanowione w rozdziale V sekcja 2 i 3 niniejszego rozporządzenia. We wniosku o normalizację zwraca się również o przedstawienie wyników sprawozdawczości i procesów dokumentowania w celu poprawy skuteczności działania zasobów systemów AI, takich jak zmniejszenie zużycia energii i innych zasobów przez system AI wysokiego ryzyka w jego cyklu życia, oraz wyników dotyczących efektywnego energetycznie rozwoju modeli AI ogólnego przeznaczenia. Przygotowując wniosek o normalizację, Komisja konsultuje się z Radą ds. AI i odpowiednimi zainteresowanymi stronami, w tym z forum doradczym. Wydając wniosek o normalizację do europejskich organizacji normalizacyjnych, Komisja określa, że normy muszą być jasne, spójne, w tym z normami opracowanymi w poszczególnych sektorach dla produktów objętych zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I, i mieć na celu zapewnienie, by systemy AI wysokiego ryzyka lub modele AI ogólnego przeznaczenia wprowadzane do obrotu lub oddawane do użytku w Unii spełniały odpowiednie wymogi lub obowiązki ustanowione w niniejszym rozporządzeniu. Komisja zwraca się do europejskich organizacji normalizacyjnych o przedstawienie dowodów, że dokładają wszelkich starań, aby osiągnąć cele, o których mowa w akapicie pierwszym i drugim niniejszego ustępu, zgodnie z art. 24 rozporządzenia (UE) nr 1025/2012. 3. Uczestnicy procesu normalizacji dążą do promowania inwestycji i innowacji w dziedzinie AI, w tym poprzez zwiększenie pewności prawa, a także konkurencyjności i wzrostu rynku Unii, do przyczynienia się do wzmocnienia globalnej współpracy w zakresie normalizacji, z uwzględnieniem istniejących w dziedzinie AI norm międzynarodowych zgodnych z wartościami Unii, prawami podstawowymi i interesem Unii, a także do poprawy zarządzania wielostronnego, zapewniając wyważoną reprezentację interesów i skuteczny udział wszystkich odpowiednich zainteresowanych stron zgodnie z art. 5, 6 i 7 rozporządzenia (UE) nr 1025/2012. Art. 41 Wspólne specyfikacje 1. Komisja może przyjmować akty wykonawcze ustanawiające wspólne specyfikacje w odniesieniu do wymogów ustanowionych w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, obowiązków ustanowionych w rozdziale V sekcja 2 i 3, w przypadku, gdy spełnione są następujące warunki: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) Komisja wystąpiła zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012 do jednej lub kilku europejskich organizacji normalizacyjnych z wnioskiem o opracowanie normy zharmonizowanej w odniesieniu do wymogów określonych w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, w odniesieniu do obowiązków ustanowionych w rozdziale V sekcja 2 i 3, oraz: (i) wniosek ten nie został przyjęty przez żadną z europejskich organizacji normalizacyjnych; lub (ii) normy zharmonizowane stanowiące odpowiedź na ten wniosek nie zostały wydane w terminie określonym zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012; lub (iii) odpowiednie normy zharmonizowane w niewystarczającym stopniu uwzględniają obawy dotyczące praw podstawowych; lub (iv) normy zharmonizowane nie są zgodne z wnioskiem; oraz b) w Dzienniku Urzędowym Unii Europejskiej nie opublikowano odniesienia do zharmonizowanych norm obejmujących wymogi, o których mowa w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, obowiązki, o których mowa w rozdziale V sekcja 2 i 3, zgodnie z przepisami rozporządzenia (UE) nr 1025/2012 i nie przewiduje się opublikowania takiego odniesienia w rozsądnym terminie. Przygotowując projekt wspólnych specyfikacji, Komisja konsultuje się z forum doradczym, o którym mowa w art. 67. Akty wykonawcze, o których mowa w akapicie pierwszym niniejszego ustępu, przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Przed przygotowaniem projektu aktu wykonawczego Komisja informuje komitet, o którym mowa w art. 22 rozporządzenia (UE) nr 1025/2012, że uważa za spełnione warunki ustanowione w ust. 1 niniejszego artykułu. 3. W przypadku systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia zgodnych ze wspólnymi specyfikacjami, o których mowa w ust. 1, lub z częściami tych specyfikacji domniemuje się, że są one zgodne z wymogami ustanowionymi w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, w zakresie, w jakim te wspólne specyfikacje obejmują te wymogi i te obowiązki. 4. W przypadku, gdy europejska organizacja normalizacyjna przyjmuje normę zharmonizowaną i proponuje Komisji opublikowanie odniesienia do niej w Dzienniku Urzędowym Unii Europejskiej, Komisja ocenia normę zharmonizowaną zgodnie z rozporządzeniem (UE) nr 1025/2012. W przypadku opublikowania odniesienia do normy zharmonizowanej w Dzienniku Urzędowym Unii Europejskiej Komisja uchyla akty wykonawcze, o których mowa w ust. 1, lub ich części, które obejmują te same wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, te same obowiązki ustanowione w rozdziale V sekcja 2 i 3. 5. W przypadku gdy dostawcy systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia nie zapewnią zgodności ze wspólnymi specyfikacjami, o których mowa w ust. 1, należycie wykazują oni, że przyjęli rozwiązania techniczne, które są zgodne z wymogami, o których mowa w rozdziale I sekcja 2, lub, w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, na poziomie co najmniej równoważnym tym wspólnym specyfikacjom. 6. W przypadku, gdy państwo członkowskie uważa, że wspólna specyfikacja nie jest całkowicie zgodna z wymogami ustanowionymi w sekcji 2 lub w stosownych przypadkach, nie spełnia całkowicie obowiązków ustanowionych w rozdziale V sekcja 2 i 3, informuje o tym Komisję, przedstawiając szczegółowe wyjaśnienie. Komisja ocenia te informacje i w stosownym przypadku zmienia akt wykonawczy ustanawiający daną wspólną specyfikację. Art. 42 Domniemanie zgodności z określonymi wymogami 1. W przypadku systemów AI wysokiego ryzyka, które zostały wytrenowane i przetestowane przy użyciu danych odzwierciedlających określone otoczenie geograficzne, behawioralne, kontekstualne lub funkcjonalne, do wykorzystywania, w którym są one przeznaczone, domniemuje się, że spełniają one odpowiednie wymogi ustanowione w art. 10 ust. 4. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W przypadku systemów AI wysokiego ryzyka, które uzyskały certyfikację lub w odniesieniu do których wydano deklarację zgodności w ramach programu certyfikacji cyberbezpieczeństwa zgodnie z rozporządzeniem (UE) 2019/881 i do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełniają one wymogi w zakresie cyberbezpieczeństwa ustanowione w art. 15 niniejszego rozporządzenia w zakresie, w jakim certyfikat cyberbezpieczeństwa lub deklaracja zgodności lub ich części obejmują te wymogi. Art. 43 Ocena zgodności 1. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1, w przypadku, gdy do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 dostawca zastosował normy zharmonizowane, o których mowa w art. 40, lub w stosownych przypadkach, wspólne specyfikacje, o których mowa w art. 41, dostawca wybiera jedną z następujących procedur oceny zgodności w oparciu o: a) kontrolę wewnętrzną, o której mowa w załączniku VI; lub b) ocenę systemu zarządzania jakością i ocenę dokumentacji technicznej przeprowadzaną z udziałem jednostki notyfikowanej, o której to procedurze mowa w załączniku VII. Przy wykazywaniu zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia dostawca postępuje zgodnie z procedurą oceny zgodności ustanowioną w załączniku VII, w przypadku, gdy: a) normy zharmonizowane, o których mowa w art. 40, nie istnieją, a wspólne specyfikacje, o których mowa w art. 41, nie są dostępne; b) dostawca nie zastosował normy zharmonizowanej lub zastosował jedynie jej część; c) wspólne specyfikacje, o których mowa w lit. a), istnieją, ale dostawca ich nie zastosował; d) co najmniej jedna z norm zharmonizowanych, o których mowa w lit. a), została opublikowana z ograniczeniem i jedynie w odniesieniu do tej części normy, której dotyczy ograniczenie. Na potrzeby procedury oceny zgodności, o której mowa w załączniku VII, dostawca może wybrać dowolną jednostkę notyfikowaną. Jednak w przypadku, gdy system ma zostać oddany do użytku przez organy ścigania, organy imigracyjne lub organy azylowe lub przez instytucje, organy i jednostki organizacyjne Unii, funkcję jednostki notyfikowanej pełni organ nadzoru rynku, o którym mowa odpowiednio w art. 74 ust. 8 lub ust. 9. 2. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, dostawcy postępują zgodnie z procedurą oceny zgodności opierającą się na kontroli wewnętrznej, o której mowa w załączniku VI i która nie przewiduje udziału jednostki notyfikowanej. 3. W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z tymi aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych. W przypadku gdy akt prawny wymieniony w załączniku I sekcja A zapewnia producentowi produktu możliwość zrezygnowania z oceny zgodności przeprowadzanej przez stronę trzecią, pod warunkiem że producent ten zapewnił zgodność ze wszystkimi normami zharmonizowanymi obejmującymi wszystkie stosowne wymogi, taki producent może skorzystać z tej możliwości wyłącznie w przypadku, gdy zapewnił również zgodność z normami zharmonizowanymi lub - w stosownych przypadkach - wspólnymi specyfikacjami, o których mowa w art. 41, obejmującymi wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału. 4. Systemy AI wysokiego ryzyka, które poddano już procedurze oceny zgodności, poddaje się nowej procedurze oceny zgodności w przypadku, gdy wprowadza się w nich istotne zmiany, niezależnie od tego, czy zmieniony system jest przeznaczony do dalszej dystrybucji lub czy ma być nadal wykorzystywany przez obecny podmiot stosujący. W przypadku systemów AI wysokiego ryzyka, które nadal uczą się po wprowadzeniu ich do obrotu lub po oddaniu ich do użytku, istotnej zmiany nie stanowią zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które dostawca z góry zaplanował w chwili przeprowadzania początkowej oceny zgodności i które są częścią informacji zawartych w dokumentacji technicznej, o której mowa w pkt 2 lit. f) załącznika IV. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załączników VI i VII poprzez ich zmianę w świetle postępu technicznego. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany ust. 1 i 2 niniejszego artykułu, aby objąć systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, procedurą oceny zgodności, o której mowa w załączniku VII, lub elementami tej procedury. Komisja przyjmuje takie akty delegowane, biorąc pod uwagę skuteczność procedury oceny zgodności opierającej się na kontroli wewnętrznej, o której mowa w załączniku VI, w zapobieganiu ryzyku dla zdrowia i bezpieczeństwa oraz ryzyku związanemu z ochroną praw podstawowych stwarzanemu przez takie systemy lub minimalizowaniu takiego ryzyka, a także uwzględniając dostępność odpowiednich zdolności i zasobów wśród jednostek notyfikowanych. Art. 44 Certyfikaty 1. Certyfikaty wydane przez jednostki notyfikowane zgodnie z załącznikiem VII są sporządzane w języku łatwo zrozumiałym dla odpowiednich organów w państwie członkowskim, w którym jednostka notyfikowana ma siedzibę. 2. Certyfikaty zachowują ważność przez wskazany w nich okres, który nie może przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III. Na wniosek dostawcy ważność certyfikatu można przedłużyć na kolejne okresy, które nie mogą każdorazowo przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III, w oparciu o wyniki ponownej oceny przeprowadzonej zgodnie z mającymi zastosowanie procedurami oceny zgodności. Wszelkie T Art. 89 Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Uzasadnione odniesienie wynikające z obowiązków nałożonych na organ notyfikacyjny. uzupełnienia do certyfikatu pozostają ważne, pod warunkiem, że uzupełniany certyfikat jest ważny. 3. Jeżeli jednostka notyfikowana ustali, że system AI przestał spełniać wymogi ustanowione w sekcji 2, zawiesza lub cofa wydany certyfikat lub nakłada na niego ograniczenia, biorąc pod uwagę zasadę proporcjonalności, chyba że dostawca systemu zapewni zgodność z tymi wymogami poprzez podjęcie odpowiedniego działania naprawczego w stosownym terminie wyznaczonym przez jednostkę notyfikowaną. Jednostka notyfikowana uzasadnia swoją decyzję. Od decyzji jednostek notyfikowanych, w tym dotyczących wydanych certyfikatów zgodności, przysługuje odwołanie. Art. 45 Obowiązki jednostek notyfikowanych w zakresie informowania 1. Jednostki notyfikowane informują organ notyfikujący: a) o unijnych certyfikatach oceny dokumentacji technicznej, uzupełnieniach tych certyfikatów i decyzjach zatwierdzających system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; b) o odmowie wydania, ograniczeniu, zawieszeniu lub cofnięciu unijnego certyfikatu oceny dokumentacji technicznej lub decyzji zatwierdzającej system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) o okolicznościach wpływających na zakres lub warunki notyfikacji; d) o wystąpieniu przez organy nadzoru rynku z wnioskiem udzielenia informacji o czynnościach z zakresu oceny zgodności; e) na wniosek, o czynnościach z zakresu oceny zgodności objętych zakresem ich notyfikacji oraz o wszelkiej innej prowadzonej działalności, w tym działalności transgranicznej i podwykonawstwie. 2. Każda jednostka notyfikowana informuje pozostałe jednostki notyfikowane o: a) decyzjach zatwierdzających system zarządzania jakością, których wydania odmówiła, które zawiesiła lub które cofnęła, oraz - na wniosek - o wydanych przez siebie decyzjach zatwierdzających system zarządzania jakością; b) unijnych certyfikatach oceny dokumentacji technicznej lub o wszelkich uzupełnieniach tych certyfikatów, których wydania odmówiła, które cofnęła, które zawiesiła lub na które nałożyła innego rodzaju ograniczenia, oraz - na wniosek - o wydanych przez siebie certyfikatach lub uzupełnieniach certyfikatów. 3. Każda jednostka notyfikowana przekazuje pozostałym jednostkom notyfikowanym prowadzącym podobne czynności z zakresu oceny zgodności w odniesieniu do tych samych rodzajów systemów AI stosowne informacje na temat kwestii związanych z negatywnymi, a także - na ich wniosek - pozytywnymi wynikami oceny zgodności. 4. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. Art. 46 Odstępstwo od procedury oceny zgodności 1. Na zasadzie odstępstwa od art. 43 i na należycie uzasadniony wniosek organ nadzoru rynku może wydać zezwolenie na wprowadzenie do obrotu lub oddanie do użytku konkretnych systemów AI wysokiego ryzyka na terytorium danego państwa członkowskiego w związku z wystąpieniem nadzwyczajnych względów dotyczących bezpieczeństwa publicznego lub ochrony zdrowia i życia osób, ochrony środowiska lub ochrony kluczowych aktywów przemysłowych i infrastrukturalnych. Zezwolenie to wydaje się tymczasowo na okres przeprowadzenia niezbędnych procedur oceny zgodności, uwzględniając nadzwyczajne względy uzasadniające przedmiotowe odstępstwo. Dokłada się starań, aby procedury te ukończono bez zbędnej zwłoki. 2. W należycie uzasadnionych pilnych przypadkach w związku z wystąpieniem nadzwyczajnych względów bezpieczeństwa publicznego lub w przypadku konkretnego, istotnego i bezpośredniego zagrożenia życia lub bezpieczeństwa fizycznego osób fizycznych, organy ścigania lub organy ochrony ludności mogą oddać do użytku określony system AI wysokiego ryzyka bez zezwolenia, o którym mowa w ust. 1, pod warunkiem że wniosek o takie zezwolenie zostanie bez T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zbędnej zwłoki złożony w trakcie wykorzystywania tego systemu lub tuż po nim. W przypadku odmowy wydania zezwolenia, o którym mowa w ust. 1, wykorzystywanie tego systemu AI wysokiego ryzyka wstrzymuje się ze skutkiem natychmiastowym, a wszystkie rezultaty i wyniki tego wykorzystania muszą zostać natychmiast odrzucone. 3. Zezwolenie, o którym mowa w ust. 1, wydaje się wyłącznie wówczas, gdy organ nadzoru rynku stwierdzi, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w sekcji 2. Organ nadzoru rynku informuje Komisję i pozostałe państwa członkowskie o zezwoleniach wydanych zgodnie z ust. 1 i 2. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych dotyczących działań organów ścigania. 4. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, ani żadne państwo członkowskie, ani Komisja nie zgłoszą sprzeciwu dotyczącego zezwolenia wydanego przez organ nadzoru rynku państwa członkowskiego zgodnie z ust. 1, takie zezwolenie uznaje się za uzasadnione. 5. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, państwo członkowskie zgłosi sprzeciw dotyczący zezwolenia wydanego przez organ nadzoru rynku innego państwa członkowskiego lub w przypadku, gdy Komisja uzna zezwolenie za sprzeczne z prawem Unii lub uzna za bezpodstawne dokonane przez państwo członkowskie stwierdzenie zgodności systemu, o czym mowa w ust. 3, Komisja niezwłocznie przystępuje do konsultacji z odpowiednim państwem członkowskim. W takim przypadku zasięga się opinii zainteresowanych operatorów i zapewnia się im możliwość przedstawienia ich stanowiska. Na tej podstawie Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiednich operatorów. 6. W przypadk,u gdy Komisja uzna zezwolenie za bezpodstawne, organ nadzoru rynku zainteresowanego państwa członkowskiego cofa je. 7. W przypadku systemów AI wysokiego ryzyka powiązanych z produktami objętymi zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A stosuje się wyłącznie odstępstwa od oceny zgodności ustanowione w tym unijnym prawodawstwie harmonizacyjnym. Art. 47 Deklaracja zgodności UE 1. Dostawca sporządza pisemną i nadającą się do odczytu maszynowego, podpisaną fizycznie lub elektronicznie, deklarację zgodności UE dla każdego systemu AI wysokiego ryzyka i przechowuje ją do dyspozycji właściwych organów krajowych przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku. W deklaracji zgodności UE wskazuje się system AI wysokiego ryzyka, dla którego ją sporządzono. Kopię deklaracji zgodności UE przedkłada się odpowiednim właściwym organom krajowym na ich wniosek. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W deklaracji zgodności UE stwierdza się, że dany system AI wysokiego ryzyka spełnia wymogi ustanowione w sekcji 2. Deklaracja zgodności UE zawiera informacje określone w załączniku V i musi zostać przetłumaczona na język łatwo zrozumiały dla właściwych organów krajowych państw członkowskich, w których dany system AI wysokiego ryzyka jest wprowadzany do obrotu lub udostępniany. 3. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innemu unijnemu prawodawstwu harmonizacyjnemu, w którym również ustanowiono wymóg sporządzenia deklaracji zgodności UE, na potrzeby wszystkich przepisów prawa Unii mających zastosowanie do systemu AI wysokiego ryzyka sporządza się jedną deklarację zgodności UE. W deklaracji zamieszcza się wszystkie informacje niezbędne do zidentyfikowania unijnego prawodawstwa harmonizacyjnego, do którego się ona odnosi. 4. Sporządzając deklarację zgodności UE, dostawca bierze na siebie odpowiedzialność za zgodność z wymogami ustanowionymi w sekcji 2. Dostawca odpowiednio zapewnia aktualność deklaracji zgodności UE. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika V poprzez zaktualizowanie treści deklaracji zgodności UE określonej w tym załączniku w celu wprowadzenia elementów, które stały się konieczne w świetle postępu technicznego. Art. 48 Oznakowanie CE 1. Oznakowanie CE podlega ogólnym zasadom określonym w art. 30 rozporządzenia (WE) nr 765/2008. 2. W przypadku systemów AI wysokiego ryzyka dostarczanych w formie cyfrowej cyfrowe oznakowanie CE stosuje się wyłącznie wtedy, gdy można do niego łatwo dotrzeć za pośrednictwem interfejsu, poprzez który uzyskuje się dostęp do tego systemu, lub za pomocą łatwo dostępnego kodu nadającego się do odczytu maszynowego lub innych środków elektronicznych. 3. Oznakowanie CE umieszcza się na systemie AI wysokiego ryzyka w sposób widoczny, czytelny i trwały. W przypadku gdy z uwagi na charakter systemu AI wysokiego ryzyka oznakowanie systemu w taki sposób nie jest możliwe lub zasadne, oznakowanie to umieszcza się na opakowaniu lub - w stosownych przypadkach - w dołączonej do systemu dokumentacji. 4. W stosownych przypadkach oznakowaniu CE towarzyszy również numer identyfikacyjny jednostki notyfikowanej odpowiedzialnej za przeprowadzenie procedur oceny zgodności ustanowionych w art. 43. Numer identyfikacyjny jednostki notyfikowanej umieszcza sama jednostka lub według wskazówek jednostki notyfikowanej, dostawca lub jego upoważniony przedstawiciel. Numer identyfikacyjny umieszcza się również na wszelkich materiałach promocyjnych zawierających informacje o tym, że N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia system AI wysokiego ryzyka spełnia wymogi konieczne do opatrzenia go oznakowaniem CE. 5. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innym przepisom Unii, które również przewidują umieszczenie oznakowania CE, oznakowanie CE wskazuje, że dany system AI wysokiego ryzyka spełnia także wymogi zawarte w tych innych przepisach. Art. 49 Rejestracja 1. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, dostawca lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 2. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI, co do którego dostawca stwierdził, że nie jest systemem wysokiego ryzyka zgodnie z art. 6 ust. 3, dostawca ten lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 3. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 2, podmioty stosujące będące publicznymi organami, instytucjami, organami lub jednostkami organizacyjnymi Unii lub osobami działającymi w ich imieniu rejestrują się, T w zakresie ust.5 Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia W zakresie art. 49 ust. 5. Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia wybierają system i rejestrują jego wykorzystanie w bazie danych UE, o której mowa w art. 71. 4. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, migracji, azylu i zarządzania kontrolą graniczną, rejestracji, o której mowa w ust. 1, 2 i 3 niniejszego artykułu, dokonuje się w bezpiecznej niepublicznej sekcji bazy danych UE, o której mowa w art. 71, i - stosownie do przypadku - zawiera wyłącznie następujące informacje, o których mowa w: a) załączniku VIII sekcja A pkt 1-10, z wyjątkiem pkt 6, 8 i 9; b) załączniku VIII sekcja B pkt 1-5 oraz pkt 8 i 9; c) załączniku VIII sekcja C pkt 1-3; d) załączniku IX pkt 1, 2, 3 i 5. Do odpowiednich zastrzeżonych sekcji bazy danych UE wymienionych w akapicie pierwszym niniejszego ustępu dostęp mają jedynie Komisja i organy krajowe, o których mowa w art. 74 ust. 8. 5. Systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, rejestruje się na poziomie krajowym. w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 50 Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI 1. Dostawcy zapewniają, aby systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi projektowano i rozwijano w taki sposób, N Przepis o charakterze ogólnym stosowany wprost aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. Obowiązek ten nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich, chyba że systemy te udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa. 2. Dostawcy systemów AI, w tym systemów AI ogólnego zastosowania, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, zapewniają, aby wyniki systemu AI zostały oznakowane w formacie nadającym się do odczytu maszynowego i były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Dostawcy zapewniają skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, co może być odzwierciedlone w odpowiednich normach technicznych. Obowiązek ten nie ma zastosowania w zakresie, w jakim systemy AI pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób nie wymaga wdrożenia przekazywanych przez podmiot stosujący danych wejściowych lub ich semantyki, ani w zakresie, w jakim jest to dozwolone na mocy prawa do celów wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. 3. Podmioty stosujące systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej informują osoby fizyczne, wobec których systemy te są stosowane, o fakcie ich stosowania i przetwarzają dane osobowe stosownie do przypadku zgodnie z rozporządzeniami (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680. Obowiązek ten nie ma zastosowania do systemów AI wykorzystywanych do kategoryzacji biometrycznej i rozpoznawania emocji, których wykorzystywanie jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych w przestępstwami ich sprawach, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem Unii. 4. Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu. Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku, gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. 5. Informacje, o których mowa w ust. 1-4, są przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania. Informacje te muszą spełniać mające zastosowanie wymogi dostępności. 6. Ust. 1-4 nie mają wpływu na wymogi i obowiązki ustanowione w rozdziale III i pozostają bez uszczerbku dla innych obowiązków w zakresie przejrzystości ustanowionych w prawie Unii lub prawie krajowym w odniesieniu do podmiotów stosujących systemy AI. 7. Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania i oznaczania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może przyjmować akty wykonawcze dotyczące zatwierdzenia tych kodeksów praktyk zgodnie z procedurą ustanowioną w art. 56 ust. 6. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2. Art. 51 Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Model AI ogólnego przeznaczenia jest klasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli spełnia którykolwiek z następujących warunków: a) ma zdolności dużego oddziaływania ocenione w oparciu o odpowiednie narzędzia i metodologie techniczne, w tym wskaźniki i poziomy odniesienia; b) w oparciu o decyzję Komisji - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy - ma zdolności lub oddziaływanie równoważne z tymi, które określono w lit. a), przy N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia uwzględnieniu kryteriów określonych w załączniku XIII. 2. W przypadku modelu AI ogólnego przeznaczenia, którego łączna liczba obliczeń wykorzystywanych do jego trenowania mierzona w operacjach zmiennoprzecinkowych jest większa niż 10 25 , domniemuje się za mający zdolności dużego oddziaływania zgodnie z ust. 1 lit. a), 3. Komisja przyjmuje akty delegowane zgodnie z art. 97 w celu zmiany progów wymienionych w ust. 1 i 2 niniejszego artykułu, a także w celu uzupełnienia poziomów odniesienia i wskaźników w świetle rozwoju technologicznego obejmującego na przykład ulepszenia algorytmiczne lub zwiększoną wydajność sprzętu, w miarę konieczności, by progi te odzwierciedlały aktualny stan techniki. Art. 52 Procedura 1. W przypadku, gdy model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51 ust. 1 lit. a), odpowiedni dostawca powiadamia Komisję niezwłocznie, a w każdym przypadku w terminie dwóch tygodni od spełnienia tego warunku lub od kiedy wiadomo, że zostanie on spełniony. Powiadomienie to zawiera informacje niezbędne do wykazania, że dany warunek został spełniony. Jeśli Komisja dowie się o stwarzającym ryzyko systemowe modelu AI ogólnego przeznaczenia, o którym nie została powiadomiona, może zdecydować o uznaniu go za model z ryzykiem systemowym. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 2. Dostawca spełniający warunek, o którym mowa w art. 51 ust. 1 lit. a), modelu AI ogólnego przeznaczenia z ryzykiem systemowym może wraz ze swoim powiadomieniem przedstawić wystarczająco uzasadnione argumenty wykazujące, że wyjątkowo, pomimo spełniania przez ten model AI ogólnego przeznaczenia przedmiotowego warunku, nie stwarza on - z uwagi na swoje szczególne cechy - ryzyka systemowego i nie powinien być w związku z tym zaklasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym. 3. W przypadku, gdy Komisja stwierdzi, że argumenty przedstawione zgodnie z ust. 2 nie są wystarczająco uzasadnione i że dany dostawca nie był w stanie wykazać, że dany model AI ogólnego przeznaczenia nie stwarza - z uwagi na swoje szczególne cechy - ryzyka systemowego, odrzuca te argumenty, a dany model AI ogólnego przeznaczenia uważa się za model AI ogólnego przeznaczenia z ryzykiem systemowym. 4. Komisja może - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy zgodnie z art. 90 ust. 1 lit. a) - uznać model AI ogólnego przeznaczenia za model stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika XIII poprzez określenie i zaktualizowanie kryteriów określonych w załączniku XIII. 5. Na uzasadniony wniosek dostawcy, którego model został zgodnie z ust. 4 uznany za model AI ogólnego przeznaczenia z ryzykiem systemowym, Komisja bierze pod uwagę taki wniosek i może zdecydować o ponownej ocenie w celu stwierdzenia, czy dany model AI ogólnego przeznaczenia może być nadal uważany za stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Wniosek taki zawiera obiektywne, szczegółowe i nowe powody, które pojawiły się po podjęciu decyzji o uznaniu. Dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu decyzji o uznaniu. W przypadku gdy w wyniku ponownej oceny Komisja zdecyduje się utrzymać uznanie modelu za model AI ogólnego przeznaczenia z ryzykiem systemowym, dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu tej decyzji. 6. Komisja zapewnia publikację i aktualizację wykazu modeli AI ogólnego przeznaczenia z ryzykiem systemowym, bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej oraz poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 53 Obowiązki dostawców modeli AI ogólnego przeznaczenia 1. Dostawcy modeli AI ogólnego przeznaczenia: N Przepis o charakterze ogólnym stosowany wprost a) sporządzają i aktualizują dokumentację techniczną modelu, w tym proces jego trenowania i testowania oraz wyniki jego oceny, zawierającą co najmniej informacje określone w załączniku XI do celów przekazania ich, na wniosek, Urzędowi ds. AI i właściwym organom krajowym; b) sporządzają, aktualizują i udostępniają informacje i dokumentację dostawcom systemów AI, którzy zamierzają zintegrować model AI ogólnego przeznaczenia ze swoimi systemami AI. Bez uszczerbku dla potrzeby przestrzegania i ochrony praw własności intelektualnej i poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie prawem Unii i prawem krajowym te informacje i dokumentacja: (i) umożliwiają dostawcom systemów AI dobre zrozumienie możliwości i ograniczeń danego modelu AI ogólnego przeznaczenia oraz spełnienie ich obowiązków zgodnie z niniejszym rozporządzeniem; oraz (ii) zawierają co najmniej elementy określone w załączniku XII; c) wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790; d) sporządzają i podają do wiadomości publicznej wystarczająco szczegółowe streszczenie na temat treści nie wymaga wdrożenia. wykorzystanych do trenowania danego modelu AI ogólnego przeznaczenia, zgodnie ze wzorem dostarczonym przez Urząd ds. AI. 2. Obowiązków określonych w ust. 1 lit. a) i b) nie stosuje się do dostawców modeli AI, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej. Wyjątku tego nie stosuje się do modeli AI ogólnego przeznaczenia z ryzykiem systemowym. 3. Dostawcy modeli AI ogólnego przeznaczenia współpracują w razie konieczności z Komisją i właściwymi organami krajowymi przy wykonywaniu ich kompetencji i uprawnień zgodnie z niniejszym rozporządzeniem. 4. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków ustanowionych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 5. Do celu ułatwienia zgodności z załącznikiem XI, w szczególności jego pkt 2 lit. d) i e), Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych dotyczących szczegółowego określenia metod pomiaru i obliczeń umożliwiających porównywalną i weryfikowalną dokumentację. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 ust. 2 w celu zmiany załączników XI i XII w świetle postępu technicznego. 7. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 54 Upoważnieni przedstawiciele dostawców modeli AI ogólnego przeznaczenia 1. Przed wprowadzeniem swoich modeli AI ogólnego przeznaczenia do obrotu w Unii dostawcy mający siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przez dostawcę. Przekazuje on Urzędowi ds. AI na jego wniosek kopię pełnomocnictwa w jednym z oficjalnych języków instytucji Unii. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie czy dostawca sporządził dokumentację techniczną określoną w załączniku XI oraz czy wypełnił wszystkie obowiązki, o których mowa w art. 53, oraz w stosownych przypadkach, w art. 55; b) przechowywanie kopii dokumentacji technicznej określonej w załączniku XI do dyspozycji Urzędu ds. AI i właściwych organów krajowych przez okres 10 lat od czasu wprowadzenia danego modelu AI ogólnego przeznaczenia do obrotu oraz danych kontaktowych dostawcy, który ustanowił danego upoważnionego przedstawiciela; c) przekazywanie Urzędowi ds. AI na uzasadniony wniosek wszystkich informacji i dokumentacji, w tym określonych w lit. b), niezbędnych do wykazania spełnienia obowiązków ustanowionych w niniejszym rozdziale; d) współpraca z Urzędem ds. AI i właściwymi organami, na uzasadniony wniosek, we wszelkich podejmowanych przez nie działaniach odnoszących się do modelu AI ogólnego przeznaczenia, w tym, kiedy model ten jest zintegrowany z systemami AI wprowadzanymi do obrotu lub oddawanymi do użytku w Unii. 4. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby Urząd ds. AI lub właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 5. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli sądzi lub ma powody sądzić, że dostawca działa w sposób sprzeczny z jego obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku informuje on również natychmiast Urząd ds. AI o wypowiedzeniu pełnomocnictwa i o jego przyczynach. 6. Obowiązek określony w niniejszym artykule nie dotyczy dostawców modeli AI ogólnego przeznaczenia, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej, chyba że te modele AI ogólnego przeznaczenia stwarzają ryzyko systemowe. Art. 55 Obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Oprócz obowiązków wymienionych w art. 53 i 54 dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) dokonują oceny modelu zgodnie ze znormalizowanymi protokołami i narzędziami odzwierciedlającymi najaktualniejszy stan wiedzy technicznej, w tym przeprowadzają i dokumentują kontradyktoryjne testy modelu z myślą o zidentyfikowaniu ryzyka systemowego i jego ograniczenia; b) oceniają i ograniczają ewentualne ryzyko systemowe na poziomie Unii, w tym jego źródła, które może wynikać z rozwoju, wprowadzania do obrotu lub wykorzystywania modeli AI ogólnego przeznaczenia z ryzykiem systemowym; c) rejestrują, dokumentują i niezwłocznie zgłaszają Urzędowi ds. AI oraz w stosownych przypadkach, właściwym organom krajowym odpowiednie informacje dotyczące poważnych incydentów i ewentualnych środków naprawczych służących zaradzeniu im; d) zapewniają odpowiedni poziom cyberochrony modelu AI ogólnego przeznaczenia z ryzykiem systemowym oraz infrastruktury fizycznej tego modelu. 2. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków określonych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 3. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 56 Kodeksy praktyk 1. Urząd ds. AI zachęca do sporządzania kodeksów praktyk na poziomie Unii i ułatwia ich sporządzanie w celu przyczyniania się do właściwego stosowania niniejszego rozporządzenia, przy uwzględnieniu podejść międzynarodowych. 2. Urząd ds. AI i Rada ds. AI dążą do zapewnienia, by kodeksy praktyk obejmowały co najmniej obowiązki przewidziane w art. 53 i 55, w tym następujące kwestie: a) środki na rzecz zapewnienia, by informacje, o których mowa w art. 53 ust. 1 lit. a) i b), były aktualne w świetle rozwoju rynku i technologii; b) odpowiedni poziom szczegółowości streszczenia na temat treści wykorzystywanych do trenowania; c) identyfikacja rodzaju i charakteru ryzyka systemowego na poziomie Unii, w tym, w stosownych przypadkach, jego źródła; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia d) środki, procedury i zasady oceny ryzyka systemowego i zarządzania nim na poziomie Unii, w tym ich dokumentacja, które muszą być proporcjonalne do ryzyka, uwzględniać jego dotkliwość i prawdopodobieństwo wystąpienia oraz uwzględniać szczególne wyzwania w zakresie radzenia sobie z tym ryzykiem w świetle potencjalnych sposobów pojawienia się takie ryzyka i jego urzeczywistnienia w całym łańcuchu wartości AI. 3. Urząd ds. AI może zwrócić się do wszystkich dostawców modeli AI ogólnego przeznaczenia oraz odpowiednich właściwych organów krajowych o wzięcie udziału w opracowywaniu kodeksów praktyk. Organizacje społeczeństwa obywatelskiego, przedstawiciele przemysłu, środowisko akademickie oraz inne odpowiednie zainteresowane strony, takie jak dostawcy niższego szczebla i niezależni eksperci, mogą wspierać ten proces. 4. Urząd ds. AI i Rada ds. AI starają się zapewnić, by kodeksy praktyk wyraźnie określały swoje cele szczegółowe i zawierały zobowiązania lub środki, w tym, w stosownych przypadkach, kluczowe wskaźniki skuteczności działania, w celu zapewnienia realizacji tych celów, oraz by uwzględniały w należytym stopniu potrzeby i interesy wszystkich zainteresowanych stron, w tym osób, na które AI ma wpływ, na poziomie Unii. 5. Urząd ds. AI stara się zapewnić, by uczestnicy kodeksów praktyk regularnie składali Urzędowi ds. AI sprawozdania z realizacji podjętych zobowiązań i środków oraz z ich wyników, w tym, w odpowiednich przypadkach, mierzonych w odniesieniu do kluczowych wskaźników skuteczności działania. Kluczowe wskaźniki skuteczności działania i zobowiązania w zakresie sprawozdawczości muszą odzwierciedlać różnice w wielkości i zdolnościach poszczególnych uczestników. 6. Urząd ds. AI i Rada ds. AI regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Urząd ds. AI i Rada ds. AI oceniają, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, i regularnie monitorują i oceniają realizację ich celów. Publikują one swoją ocenę adekwatności kodeksów praktyk. Komisja może w drodze aktu wykonawczego zatwierdzić kodeks praktyk i nadać mu powszechną moc w Unii. Taki akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Urząd ds. AI może zwracać się do wszystkich dostawców modeli AI ogólnego przeznaczenia, by przestrzegali kodeksów praktyk. W przypadku dostawców modeli AI ogólnego przeznaczenia, które nie stwarzają ryzyka systemowego, przestrzeganie kodeksów może być ograniczone do obowiązków przewidzianych w art. 53, chyba że wyraźnie zadeklarują oni zainteresowanie pełnym przystąpieniem do kodeksu. 8. Urząd ds. AI w stosownych przypadkach zachęca również do prowadzenia przeglądów i dostosowywania kodeksów praktyk oraz ułatwia takie przeglądy i dostosowania, w szczególności w świetle nowych norm. Urząd ds. AI udziela wsparcia w ocenie dostępnych norm. 9. Kodeksy praktyk muszą być gotowe najpóźniej do dnia 2 maja 2025 r. Urząd ds. AI podejmuje niezbędne kroki, w tym kieruje zachęty do dostawców zgodnie z ust. 7. Jeśli do dnia 2 sierpnia 2025 r. opracowanie kodeks praktyk nie może zostać zakończone lub Urząd ds. AI w wyniku swojej oceny na podstawie ust. 6 niniejszego artykułu uzna, że nie jest on odpowiedni, Komisja może w drodze aktów wykonawczych ustanowić wspólne przepisy dotyczące wykonywania obowiązków przewidzianych w art. 53 i 55, z uwzględnieniem kwestii określonych w ust. 2 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 57 Piaskownice regulacyjne w zakresie AI 1. Państwa członkowskie zapewniają, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która musi zostać uruchomiona do dnia 2 sierpnia 2026 r. Piaskownica ta może również zostać ustanowiona wspólnie z właściwymi organami innych państw członkowskich. Komisja może zapewniać wsparcie techniczne, doradztwo i narzędzia do celów T Art. 91 Art. 95 Art. 96 Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, Przepis dotyczy piaskownic regulacyjnych. Przepisy rozporządzenia odnoszące się do tej kategorii wejdą w życie 2.08.2026 r. ustanowienia i działania piaskownic regulacyjnych w zakresie AI. Obowiązek ustanowiony w akapicie pierwszym może również zostać spełniony poprzez uczestnictwo w istniejącej piaskownicy w zakresie, w jakim udział ten stwarza równoważny poziom zasięgu krajowego dla uczestniczących państw członkowskich. 2. Można również ustanowić dodatkowe piaskownice regulacyjne w zakresie AI na poziomie regionalnym lub lokalnym lub wspólnie z właściwymi organami innych państw członkowskich. 3. Europejski Inspektor Ochrony Danych może również ustanowić piaskownicę regulacyjną w zakresie AI dla instytucji, organów i jednostek organizacyjnych Unii i może pełnić role i wykonywać zadania właściwych organów krajowych zgodnie z niniejszym rozdziałem. 4. Państwa członkowskie zapewniają, by właściwe organy, o których mowa w ust. 1 i 2, przeznaczały wystarczające zasoby do skutecznego i terminowego zapewnienia zgodności z niniejszym artykułem. W stosownych przypadkach właściwe organy krajowe współpracują z innymi odpowiednimi organami i mogą zezwolić na zaangażowanie innych podmiotów z ekosystemu AI. Niniejszy artykuł nie ma wpływu na inne piaskownice regulacyjne ustanowione na podstawie prawa Unii lub prawa krajowego. Państwa członkowskie zapewniają odpowiedni poziom współpracy między organami nadzorującymi te inne piaskownice a właściwymi organami krajowymi. w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzgledniający możliwości organizacyjne Komisji, przewidywane 5. Piaskownice regulacyjne w zakresie AI ustanowione na podstawie ust. 1 zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. 6. Właściwe organy zapewniają, w stosownych przypadkach, wskazówki, nadzór i wsparcie w ramach piaskownicy regulacyjnej w zakresie AI, mając na celu identyfikację ryzyka, w szczególności dla praw podstawowych, zdrowia i bezpieczeństwa, testowania, środków ograniczających ryzyko oraz ich skuteczności w odniesieniu do obowiązków i wymogów niniejszego rozporządzenia oraz w stosownych przypadkach, innych nadzorowanych w ramach danej piaskownicy przepisów prawa Unii i prawa krajowego. 7. Właściwe organy zapewniają dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie AI wskazówki dotyczące oczekiwań regulacyjnych oraz sposobów spełnienia wymogów i obowiązków ustanowionych w niniejszym rozporządzeniu. Na wniosek dostawcy lub potencjalnego dostawcy systemu AI właściwy organ przedstawia na piśmie dowód skutecznie przeprowadzonych w ramach zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o piaskownicy działań. Właściwy organ przygotowuje również sprawozdanie końcowe zawierające szczegółowe informacje na temat działań przeprowadzonych w ramach piaskownicy oraz powiązanych rezultatów i efektów uczenia się. Dostawcy mogą wykorzystywać taką dokumentację do wykazania swojej zgodności z niniejszym rozporządzeniem w ramach procesu oceny zgodności lub odpowiednich działań w zakresie nadzoru rynku. W tym względzie sprawozdania końcowe oraz dowody na piśmie przedstawione przez właściwy organ krajowy są uwzględniane pozytywnie przez organy nadzoru rynku i jednostki notyfikowane, z myślą o przyspieszeniu procedur oceny zgodności w rozsądnym zakresie. 8. Z zastrzeżeniem przepisów dotyczących poufności określonych w art. 78 i za zgodą dostawcy lub potencjalnego dostawcy Komisja i Rada ds. AI są upoważnione, by uzyskać dostęp do sprawozdań końcowych i - w stosownych przypadkach - uwzględniają je przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. Jeżeli zarówno dostawca lub przyszły dostawca, jak i właściwy organ krajowy wyraźnie wyrażą na to zgodę, sprawozdanie końcowe może zostać podane do wiadomości publicznej za pośrednictwem jednolitej platformy informacyjnej, o której mowa w niniejszym artykule. 9. Ustanowienie piaskownic regulacyjnych w zakresie AI ma na celu przyczynienie się do osiągnięcia następujących celów: minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 4, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostepnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie a) zwiększenie pewności prawa z myślą o osiągnięciu zgodności regulacyjnej z niniejszym rozporządzeniem lub w stosownych przypadkach, innym mającym zastosowanie prawem Unii i prawem krajowym; b) wspieranie wymiany najlepszych praktyk poprzez współpracę z organami uczestniczącymi w piaskownicy regulacyjnej w zakresie AI; c) wzmacnianie innowacyjności i konkurencyjności oraz ułatwianie rozwoju ekosystemu AI; d) wniesienie wkładu w oparte na dowodach uczenie się działań regulacyjnych; e) ułatwianie i przyspieszanie dostępu do rynku Unii dla systemów AI, w szczególności, gdy są one dostarczane przez MŚP, w tym przedsiębiorstwa typu startup. 10. Właściwe organy krajowe zapewniają, aby - w zakresie, w jakim innowacyjne systemy AI wiążą się z przetwarzaniem danych osobowych lub z innego powodu wchodzą w zakres kompetencji nadzorczych innych organów krajowych lub właściwych organów zapewniających dostęp do danych osobowych lub wsparcie w uzyskaniu dostępu do tych danych - krajowe organy ochrony danych oraz te inne organy krajowe włączono w działalność piaskownicy regulacyjnej w zakresie AI oraz zaangażowano w nadzór nad tymi aspektami w zakresie wynikającym z ich odpowiednich zadań i uprawnień. 11. Piaskownice regulacyjne w zakresie AI pozostaje bez wpływu na uprawnienia w zakresie nadzoru lub stosowania środków naprawczych przynależne przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. właściwym organom nadzorującym te piaskownice, w tym na poziomie regionalnym lub lokalnym. Stwierdzenie istnienia jakiegokolwiek znaczącego ryzyka dla zdrowia i bezpieczeństwa oraz dla praw podstawowych na etapie rozwoju i testowania takich systemów AI powoduje konieczność właściwego ograniczenia tego ryzyka. Właściwe organy krajowe są uprawnione do tymczasowego lub trwałego zawieszenia procesu testowania lub udziału w piaskownicy, jeżeli skuteczne ograniczenie ryzyka nie jest możliwe, oraz informują o takiej decyzji Urząd ds. AI. Właściwe organy krajowe wykonują swoje uprawnienia nadzorcze w granicach określonych w odpowiednich przepisach, wykorzystując swoje uprawnienia dyskrecjonalne przy stosowaniu przepisów prawnych w odniesieniu do konkretnego projektu piaskownicy regulacyjnej w zakresie AI, w celu wspierania innowacji w dziedzinie AI w Unii. 12. Dostawcy lub potencjalni dostawcy uczestniczący w piaskownicy regulacyjnej w zakresie AI ponoszą odpowiedzialność, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, za wszelkie szkody wyrządzone osobom trzecim w wyniku doświadczeń przeprowadzanych w piaskownicy. Organy nie nakładają jednak administracyjnych kar pieniężnych w związku z naruszeniem niniejszego rozporządzenia, pod warunkiem, że potencjalny dostawca respektuje konkretny plan oraz warunki uczestnictwa, a także w dobrej wierze stosuje się do wytycznych właściwych organów krajowych. W przypadku gdy inne właściwe organy odpowiedzialne za inne przepisy prawa Unii lub przepisy krajowe uczestniczyły aktywnie w nadzorze nad systemem AI w ramach piaskownicy regulacyjnej i udzielały wskazówek w zakresie zgodności, w odniesieniu do tego prawa nie nakłada się administracyjnych kar pieniężnych. 13. Piaskownice regulacyjne w zakresie AI opracowuje się i wdraża w taki sposób, by w stosownych przypadkach ułatwiały współpracę transgraniczną między właściwymi organami krajowymi. 14. Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. 15. Właściwe organy krajowe informują Urząd ds. AI i Radę ds. AI o utworzeniu piaskownicy oraz mogą zwrócić się do nich o wsparcie i wytyczne. Urząd ds. AI podaje do wiadomości publicznej i aktualizuje wykaz planowanych i istniejących piaskownic, aby zachęcić do większej interakcji w ramach piaskownic regulacyjnych w zakresie AI i do współpracy transgranicznej. 16. Właściwe organy krajowe przedkładają Urzędowi ds. AI i Radzie ds. AI sprawozdania roczne - po upływie jednego roku od ustanowienia piaskownicy regulacyjnej w zakresie AI, a następnie co roku, aż do zakończenia jej działalności - oraz sprawozdanie końcowe. Sprawozdania te zawierają informacje o postępach i rezultatach wdrażania piaskownic, w tym również o najlepszych praktykach, incydentach, wyciągniętych wnioskach i zaleceniach dotyczących tworzenia piaskownic regulacyjnych, a w stosownych przypadkach - zalecenia dotyczące stosowania i ewentualnego przeglądu niniejszego rozporządzenia, w tym związanych z nim aktów delegowanych i wykonawczych, oraz stosowania innych przepisów prawa Unii objętego nadzorem właściwych organów w ramach danej piaskownicy. Właściwe organy krajowe podają te roczne sprawozdania lub ich streszczenia do wiadomości publicznej w internecie. Komisja w stosownych przypadkach bierze pod uwagę sprawozdania roczne przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. 17. Komisja opracowuje jednolity i specjalny interfejs zawierający wszystkie istotne informacje dotyczące piaskownic regulacyjnych w zakresie AI, aby zgodnie z art. 62 ust. 1 lit. c) umożliwić zainteresowanym stronom interakcję z piaskownicami regulacyjnymi w zakresie AI i zwracanie się do właściwych organów z pytaniami oraz uzyskiwania niewiążących wskazówek w zakresie zapewnienia zgodności innowacyjnych produktów, usług i modeli biznesowych zawierających zintegrowane technologie AI. W stosownych przypadkach Komisja proaktywnie koordynuje swoje działania z właściwymi organami krajowymi. Art. 58 Szczegółowe zasady dotyczące piaskownic regulacyjnych w zakresie AI i ich funkcjonowania 1. Aby uniknąć fragmentacji w całej Unii, Komisja przyjmuje akty wykonawcze określające szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania, działania piaskownic regulacyjnych w zakresie AI i nadzoru nad nimi. Te akty wykonawcze N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia określają wspólne zasady dotyczące następujących kwestii: a) kwalifikowalności i kryteriów wyboru dotyczących uczestnictwa w piaskownicy regulacyjnej w zakresie AI; b) procedur składania wniosków, uczestnictwa, monitorowania, wychodzenia z piaskownicy regulacyjnej w zakresie AI i zakończenia jej działalności, w tym planu działania piaskownicy i sprawozdania końcowego; c) warunków mających zastosowanie do uczestników. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Akty wykonawcze, o których mowa w ust. 1, zapewniają, aby: a) piaskownice regulacyjne w zakresie AI były otwarte dla każdego zgłaszającego się dostawcy lub potencjalnego dostawcy systemu AI spełniającego kryteria kwalifikowalności i wyboru, które muszą być przejrzyste i bezstronne, a właściwe organy krajowe informowały wnioskodawców o swojej decyzji w terminie trzech miesięcy od złożenia wniosku; b) piaskownice regulacyjne w zakresie AI umożliwiały szeroki i równy dostęp oraz nadążały za popytem, jeżeli chodzi o uczestnictwo; dostawcy i potencjalni dostawcy mogą również składać wnioski we współpracy z podmiotami stosującymi oraz innymi odpowiednimi osobami trzecimi; c) szczegółowe zasady i warunki dotyczące piaskownic regulacyjnych w zakresie AI w możliwie najlepszym stopniu wspierały swobodę właściwych organów krajowych w zakresie ustanawiania piaskownic regulacyjnych w zakresie AI i zarządzania nimi; d) dostęp do piaskownic regulacyjnych w zakresie AI był nieodpłatny dla MŚP, w tym przedsiębiorstw typu startup, bez uszczerbku dla nadzwyczajnych kosztów, do których odzyskania w bezstronny i proporcjonalny sposób mogą być uprawnione właściwe organy krajowe; e) ułatwiały one dostawcom i potencjalnym dostawcom, za pomocą efektów uczenia się uzyskanych dzięki piaskownicom regulacyjnym w zakresie AI, spełnianie wynikających z niniejszego rozporządzenia wymogów w zakresie oceny zgodności oraz dobrowolnego stosowania kodeksów postępowania, o których mowa w art. 95; f) piaskownice regulacyjne w zakresie AI ułatwiały zaangażowanie innych odpowiednich podmiotów w ekosystemie sztucznej inteligencji, takich jak jednostki notyfikowane i organizacje normalizacyjne, MŚP, w tym przedsiębiorstwa typu startup, przedsiębiorstwa, innowatorzy, ośrodki testowo-doświadczalne, laboratoria badawczo-doświadczalne, europejskie centra innowacji cyfrowych, centra doskonałości i poszczególni naukowcy, aby umożliwić i ułatwić współpracę z sektorem publicznym i prywatnym; g) procedury, procesy i wymogi administracyjne dotyczące składania wniosków, wyboru, uczestnictwa i wychodzenia z piaskownicy regulacyjnej w zakresie AI były proste, łatwe do zrozumienia, jasno podane do wiadomości w celu ułatwienia uczestnictwa MŚP, w tym przedsiębiorstwom typu startup, o ograniczonych zdolnościach prawnych i administracyjnych, a także by były ujednolicone w całej Unii, aby uniknąć fragmentacji, oraz aby uczestnictwo w piaskownicy regulacyjnej w zakresie AI ustanowionej przez jedno z państw członkowskich lub Europejskiego Inspektora Ochrony Danych było wzajemnie i powszechnie uznawane i miało takie same skutki prawne w całej Unii; h) uczestnictwo w piaskownicy regulacyjnej w zakresie AI było ograniczone do okresu odpowiedniego dla złożoności i skali projektu, który to okres może zostać przedłużony przez właściwy organ krajowy; i) piaskownice regulacyjne w zakresie AI ułatwiały tworzenie narzędzi i infrastruktury do testowania, analizy porównawczej, oceny i wyjaśniania aspektów systemów AI istotnych w kontekście uczenia się działań regulacyjnych, które to aspekty obejmują dokładność, solidność i cyberbezpieczeństwo, a także tworzenie środków służących ograniczaniu ryzyka dla praw podstawowych i ogółu społeczeństwa. 3. Potencjalni dostawcy w piaskownicach regulacyjnych w zakresie AI, w szczególności MŚP i przedsiębiorstwa typu startup, są w stosownych przypadkach kierowani do usług przedwdrożeniowych, takich jak doradztwo w zakresie wdrażania niniejszego rozporządzenia, do innych usług o wartości dodanej, takich jak pomoc w zakresie dokumentów normalizacyjnych i certyfikacji, do ośrodków testowo-doświadczalnych, europejskich centrów innowacji cyfrowych oraz centrów doskonałości. 4. W przypadku, gdy właściwe organy krajowe rozważają udzielenie zezwolenia na przeprowadzenie testów w warunkach rzeczywistych nadzorowanych w ramach piaskownicy w zakresie AI, która ma zostać ustanowiona na mocy niniejszego artykułu, szczegółowo uzgadniają one z uczestnikami warunki takich testów, a w szczególności odpowiednie zabezpieczenia, mające na celu ochronę praw podstawowych, zdrowia i bezpieczeństwa. W stosownych przypadkach współpracują one z innymi właściwymi organami krajowymi w celu zapewnienia spójnych praktyk w całej Unii. Art. 59 Dalsze przetwarzanie danych osobowych na potrzeby rozwoju w interesie publicznym określonych systemów AI w ramach piaskownicy regulacyjnej w zakresie AI 1. Dane osobowe zebrane zgodnie z prawem w innych celach można przetwarzać, w ramach piaskownicy regulacyjnej w zakresie AI, wyłącznie do celów rozwoju, trenowania i testowania w ramach piaskownicy niektórych systemów AI, gdy spełnione są wszystkie następujące warunki: a) systemy AI rozwija się w celu zabezpieczenia przez organ publiczny lub inną osobę fizyczną lub prawną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia istotnego interesu publicznego w co najmniej jednym z następujących obszarów: (i) bezpieczeństwo publiczne i zdrowie publiczne, w tym wykrywanie, diagnozowanie, profilaktyka, kontrola i leczenie chorób oraz poprawa systemów opieki zdrowotnej; (ii) wysoki poziom ochrony środowiska i poprawa jego jakości, ochrona różnorodności biologicznej, ochrona przed zanieczyszczeniem, środki w zakresie transformacji ekologicznej, środki w zakresie łagodzenia zmiany klimatu i przystosowania się do niej; (iii) zrównoważoność energetyczna; (iv) bezpieczeństwo i odporność systemów transportowych i mobilności, infrastruktury krytycznej i sieci; (v) wydajność i jakość administracji publicznej i usług publicznych; b) przetwarzane dane są niezbędne do zapewnienia zgodności z co najmniej jednym z wymogów, o których mowa w rozdziale III sekcja 2, przy czym wymogów tych nie można skutecznie spełnić, przetwarzając dane zanonimizowane, dane syntetyczne lub innego rodzaju dane nieosobowe; c) ustanowiono skuteczne mechanizmy monitorowania pozwalające zidentyfikować wszelkie wysokie ryzyko naruszenia praw i wolności osób, których dane dotyczą, określone w art. 35 rozporządzenia (UE) 2016/679 i art. 39 rozporządzenia (UE) 2018/1725, jakie może wystąpić w trakcie przeprowadzania doświadczeń w ramach piaskownicy, a także mechanizmy reagowania zapewniające możliwość szybkiego ograniczenia tego ryzyka oraz - w stosownych przypadkach - wstrzymania przetwarzania; d) wszelkie dane osobowe, które mają być przetwarzane w kontekście piaskownicy, znajdują się w funkcjonalnie wyodrębnionym, odizolowanym i chronionym środowisku przetwarzania danych podlegającym kontroli potencjalnego dostawcy, a dostęp do tych danych posiadają wyłącznie upoważnione osoby; e) dostawcy mogą udostępniać dalej pierwotnie zebrane dane wyłącznie zgodnie z prawem Unii o ochronie danych; wszelkie dane osobowe stworzone w piaskownicy nie mogą być udostępniane poza piaskownicą; f) przetwarzanie danych osobowych w kontekście piaskownicy nie prowadzi do wdrożenia środków lub podjęcia decyzji wywierających wpływ na osoby, których dane dotyczą, ani nie wpływa na stosowanie ich praw określonych w prawie Unii o ochronie danych osobowych; g) dane osobowe przetwarzane w kontekście piaskownicy chroni się za pomocą odpowiednich środków technicznych i organizacyjnych oraz usuwa się po zakończeniu uczestnictwa w piaskownicy lub po upływie okresu przechowywania danych osobowych; h) rejestry przetwarzania danych osobowych w kontekście piaskownicy przechowuje się przez cały czas uczestnictwa w piaskownicy, o ile prawo Unii lub prawo krajowe nie stanowią inaczej; i) w dokumentacji technicznej, o której mowa w załączniku IV, zamieszcza się wyczerpujący i szczegółowy opis procesu trenowania, testowania i walidacji systemu AI wraz ze stosownym uzasadnieniem oraz wyniki przeprowadzonych testów; j) krótkie streszczenie projektu w zakresie AI rozwiniętego w ramach piaskownicy, jego celów i oczekiwanych rezultatów zostało opublikowane na stronie internetowej właściwych organów; obowiązek ten nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. 2. Do celów zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych w ich sprawie, ich wykrywania lub ścigania lub wykonywania kar, w tym ochrony przed zagrożeniami bezpieczeństwa publicznego i zapobiegania takim zagrożeniom pod nadzorem organów ścigania i na ich odpowiedzialność, przetwarzanie danych osobowych w piaskownicach regulacyjnych w zakresie AI prowadzone jest w oparciu o konkretne przepisy prawa Unii lub prawa krajowego i podlega tym samym łącznym warunkom, o których mowa w ust. 1. 3. Ust. 1 pozostaje bez uszczerbku dla prawa Unii lub prawa krajowego, które wyklucza przetwarzanie danych osobowych do celów innych niż wskazane wprost w tym prawie, jak również bez uszczerbku dla prawa Unii lub prawa krajowego ustanawiającego podstawy przetwarzania danych osobowych niezbędnego do celów rozwoju, testowania lub trenowania innowacyjnych systemów AI lub jakiekolwiek inne podstawy prawnej, zgodnych z prawem Unii dotyczącym ochrony danych osobowych. Art. 60 Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5. Komisja określa w drodze aktów wykonawczych szczegółowe elementy planu testów w warunkach rzeczywistych. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Niniejszy ustęp pozostaje bez uszczerbku dla przepisów prawa Unii lub prawa krajowego dotyczących testów w warunkach rzeczywistych systemów AI wysokiego ryzyka powiązanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 2. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym. 3. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych przeprowadzane na podstawie niniejszego artykułu pozostają bez uszczerbku dla oceny etycznej wymaganej prawem Unii lub prawem unijnym. 4. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy w warunkach rzeczywistych tylko wtedy, gdy spełnione są wszystkie następujące warunki: a) dostawca lub potencjalny dostawca sporządził plan testów w warunkach rzeczywistych i przedłożył go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy; b) organ nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzone testy w warunkach rzeczywistych, zatwierdził te testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych; w przypadku gdy organ nadzoru rynku nie udzielił odpowiedzi w terminie 30 dni, testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych uznaje się za zatwierdzone; w przypadku gdy prawo krajowe nie przewiduje milczącego zatwierdzenia, testy w warunkach rzeczywistych nadal wymagają uzyskania zezwolenia; c) dostawca lub potencjalny dostawca - z wyjątkiem dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną, oraz systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2 - zarejestrował testy w warunkach rzeczywistych zgodnie z art. 71 ust. 4 pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w załączniku IX; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną - zarejestrował testy w warunkach rzeczywistych w niepublicznej części bazy danych UE zgodnie z art. 49 ust. 4 lit. d), pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w przywołanym przepisie; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, zarejestrował testy w warunkach rzeczywistych zgodnie z art. 49 ust. 5; d) dostawca lub potencjalny dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii; e) dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii; f) testy w warunkach rzeczywistych trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy, z zastrzeżeniem uprzedniego powiadomienia organu nadzoru rynku przez dostawcę lub potencjalnego dostawcę, wraz z uzasadnieniem konieczności takiego przedłużenia; g) uczestnicy testów w warunkach rzeczywistych, którzy z uwagi na swój wiek, niepełnosprawność są osobami, które należą do grup szczególnie wrażliwych lub są w odpowiednio chronieni; h) w przypadku gdy dostawca lub potencjalny dostawca organizuje testy w warunkach rzeczywistych we współpracy z jednym podmiotem stosującym lub potencjalnym podmiotem stosującym, podmiot stosujący lub potencjalny podmiot stosujący został poinformowany o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz otrzymuje odpowiednie instrukcje obsługi systemu AI, o których mowa w art. 13; dostawca lub potencjalny dostawca oraz podmiot stosujący lub potencjalny podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych na podstawie niniejszego rozporządzenia oraz na podstawie innego mającego zastosowanie prawa Unii i prawa krajowego; i) uczestnicy testów w warunkach rzeczywistych wyrazili świadomą zgodę zgodnie z art. 61 lub - w przypadku ścigania przestępstw - gdy uzyskanie świadomej zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie mogą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe musza zostać usunięte po przeprowadzeniu testów; j) testy w warunkach rzeczywistych są skutecznie nadzorowane przez dostawcę lub potencjalnego dostawcę i podmioty stosujące lub potencjalne podmioty stosujące przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań; k) predykcje, zalecenia lub decyzje systemu AI można skutecznie odwrócić i zignorować. 5. Uczestnicy testów w warunkach rzeczywistych lub, w stosownych przypadkach, ich wyznaczony zgodnie z prawem przedstawiciel mogą - bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia - zdecydować o wycofaniu się w dowolnym momencie z testów poprzez odwołanie świadomej zgody; mogą oni również zażądać natychmiastowego i trwałego usunięcia ich danych osobowych. Odwołanie świadomej zgody nie wpływa na już przeprowadzone działania. 6. Zgodnie z art. 75 państwa członkowskie powierzają swoim organom nadzoru rynku uprawnienia do zwracania się do dostawców i potencjalnych dostawców z wnioskiem o przedstawienie informacji, do przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych i powiązanych systemów AI. Organy nadzoru rynku wykorzystują te uprawnienia do zapewnienia bezpiecznego rozwoju testów w warunkach rzeczywistych. 7. Każdy poważny incydent stwierdzony w trakcie testów w warunkach rzeczywistych zgłasza się krajowemu organowi nadzoru rynku zgodnie z art. 73. Dostawca lub potencjalny dostawca przyjmuje natychmiastowe środki zaradcze lub w przypadku, gdy jest to niemożliwe, zawiesza testy w warunkach rzeczywistych do czasu zaradzenia incydentowi albo też kończy testy. Dostawca lub potencjalny dostawca ustanawia procedurę szybkiego wycofania systemu AI z użytku po takim zakończeniu testów w warunkach rzeczywistych. 8. Dostawcy lub potencjalni dostawcy powiadamiają krajowy organ nadzoru rynku w państwie członkowskim, w którym prowadzone są testy w warunkach rzeczywistych, o zawieszeniu lub zakończeniu tych testów i o ostatecznych wynikach. 9. Dostawcy lub potencjalni dostawcy ponoszą, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, odpowiedzialność za wszelkie szkody spowodowane w trakcie testów w warunkach rzeczywistych. Art. 61 Świadoma zgoda na udział w testach w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Do celów prowadzonych na podstawie art. 60 testów w warunkach rzeczywistych od uczestników testów należy uzyskać dobrowolną świadomą zgodę przed ich udziałem w takich testach i po należytym poinformowaniu ich w sposób zwięzły, jasny, adekwatny i zrozumiały o: a) charakterze i celach testów w warunkach rzeczywistych oraz ewentualnych niedogodnościach, które mogą być związane z udziałem w tych testach; b) warunkach, na jakich mają być prowadzone testy w warunkach rzeczywistych, w tym o przewidywanym czasie trwania udziału danego uczestnika lub uczestników w testach; c) ich prawach i zabezpieczeniach dotyczących udziału w testach, w szczególności o prawie do odmowy udziału w testach oraz o prawie do wycofania się z testów w warunkach rzeczywistych - w dowolnym momencie, bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia; d) zasadach zwracania się o odwrócenie lub zignorowanie predykcji, zaleceń lub decyzji wydanych przez system AI; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia e) ogólnounijnym niepowtarzalnym numerze identyfikacyjnym testów w warunkach rzeczywistych nadanym zgodnie z art. 60 ust. 4 lit. c) i o danych kontaktowych dostawcy lub jego przedstawiciela prawnego, od których można uzyskać dalsze informacje. 2. Świadoma zgoda jest opatrzona datą i udokumentowana, a uczestnicy testów lub ich przedstawiciel prawny otrzymują jej kopię. Art. 62 Środki na rzecz dostawców i podmiotów stosujących, w szczególności MŚP, w tym przedsiębiorstw typu startup 1. Państwa członkowskie podejmują następujące działania: a) zapewniają MŚP, w tym przedsiębiorstwom typu startup, które mają siedzibę statutową lub oddział w Unii, dostęp do piaskownic regulacyjnych w zakresie AI na zasadzie pierwszeństwa, o ile spełniają oni warunki kwalifikowalności i kryteria wyboru; dostęp na zasadzie pierwszeństwa nie wyklucza dostępu do piaskownicy regulacyjnej w zakresie AI dla innych MŚP, w tym przedsiębiorstw typu startup, innych niż te, o których mowa w niniejszym ustępie, pod warunkiem, że również spełniają one warunki kwalifikowalności i kryteria wyboru; b) organizują specjalne wydarzenia informacyjne i szkoleniowe poświęcone stosowaniu przepisów niniejszego rozporządzenia dostosowane do potrzeb MŚP, w tym przedsiębiorstw typu startup, podmiotów T Art. 6 pkt 8 Art. 91 ust. 4 i 5 Art. 6. Do zadań Komisji należy: 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; Art. 91 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o stosujących i w stosownych przypadkach lokalnych organów publicznych; c) wykorzystują istniejące specjalne kanały oraz w stosownych przypadkach, ustanawiają nowe kanały komunikacji z MŚP, w tym przedsiębiorstwami typu startup, podmiotami stosującymi, innymi innowatorami oraz w stosownych przypadkach, z lokalnymi organami publicznymi - w celu zapewnienia poradnictwa i udzielania odpowiedzi na zapytania w zakresie wdrażania niniejszego rozporządzenia, w tym odnośnie do udziału w piaskownicach regulacyjnych w zakresie AI; d) ułatwiają udział MŚP i innych odpowiednich stron w procesie opracowywania norm. 2. Przy ustalaniu wysokości opłat z tytułu oceny zgodności przeprowadzanej zgodnie z art. 43 bierze się pod uwagę szczególne interesy i potrzeby dostawców będących MŚP, w tym przedsiębiorstwami typu startup, obniżając wysokość tych opłat proporcjonalnie do wielkości tych przedsiębiorstw, wielkości rynku i innych odpowiednich wskaźników. 3. Urząd ds. AI podejmuje następujące działania: a) zapewnia ujednolicone wzory w obszarach objętych zakresem stosowania niniejszego rozporządzenia, zgodnie ze specyfikacją określoną przez Radę ds. AI w jej wniosku; b) opracowuje i obsługuje jednolitą platformę informacyjną zapewniającą wszystkim operatorom w minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). całej Unii przystępne informacje na temat niniejszego rozporządzenia; c) organizuje odpowiednie kampanie informacyjne w celu podnoszenia świadomości na temat obowiązków wynikających z niniejszego rozporządzenia; d) ocenia i propaguje zbieżność najlepszych praktyk w postępowaniach o udzielenie zamówienia publicznego w odniesieniu do systemów AI. Art. 63 Odstępstwa dla określonych operatorów 1. Mikroprzedsiębiorstwa w rozumieniu zalecenia 2003/361/WE mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 niniejszego rozporządzenia w sposób uproszczony, pod warunkiem, że nie mają przedsiębiorstw partnerskich ani przedsiębiorstw powiązanych w rozumieniu tego zalecenia. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby mikroprzedsiębiorstw, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka. 2. Ustępu 1 niniejszego artykułu nie należy interpretować jako zwalniającego tych operatorów z wszelkich innych wymogów lub obowiązków ustanowionych w niniejszym rozporządzeniu, w tym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. tych ustanowionych w art. 9, 10, 11, 12, 13, 14, 15, 72 i 73. Art. 64 Urząd ds. AI 1. Komisja rozwija unijną wiedzę fachową i zdolności w dziedzinie AI poprzez Urząd ds. AI. 2. Państwa członkowskie ułatwiają wykonywanie zadań powierzonych na podstawie niniejszego rozporządzenia Urzędowi ds. AI. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 65 Ustanowienie i struktura Europejskiej Rady ds. Sztucznej Inteligencji 1. Ustanawia się Europejską Radę ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"). 2. W skład Rady ds. AI wchodzi po jednym przedstawicielu z każdego państwa członkowskiego. Europejski Inspektor Ochrony Danych uczestniczy w charakterze obserwatora. W posiedzeniach Rady ds. AI uczestniczy również Urząd ds. AI, który nie bierze udziału w głosowaniach. Do udziału w posiedzeniach Rada ds. AI może zapraszać w poszczególnych przypadkach inne krajowe i unijne władze, organy lub ekspertów, w przypadku, gdy omawiane kwestie są dla nich istotne. 3. Przedstawiciel jest wyznaczany przez swoje państwo członkowskie na okres trzech lat, z możliwością jednokrotnego przedłużenia. T Określenie kompetencji i uprawnień przedstawiciela (art. 65 ust. 4) oraz trybu wyboru przedstawiciela zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 4. Państwa członkowskie zapewniają, by ich przedstawiciele w Radzie ds. AI: a) mieli w swoim państwie członkowskim odpowiednie kompetencje i uprawnienia, aby aktywnie przyczyniać się do realizacji zadań Rady ds. AI, o których mowa w art. 66; b) zostali wyznaczeni jako pojedynczy punkt kontaktowy do kontaktów z Radą ds. AI lub - w stosownych przypadkach i przy uwzględnieniu potrzeb państw członkowskich - jako pojedynczy punkt kontaktowy dla zainteresowanych stron; c) mieli prawo uczestniczyć w zapewnianiu spójności i koordynacji między właściwymi organami krajowymi w swoich państwach członkowskich w odniesieniu do wdrażania niniejszego rozporządzenia, w tym - do celów wykonywania swoich zadań na forum Rady ds. AI - poprzez zbieranie odpowiednich danych i informacji. 5. Wyznaczeni przedstawiciele państw członkowskich przyjmują regulamin wewnętrzny Rady ds. AI większością dwóch trzecich głosów. W regulaminie wewnętrznym ustanawia się w szczególności procedury wyboru, czas trwania mandatu i specyfikację zadań przewodniczącego, szczegółowe zasady głosowania oraz organizację działalności Rady ds. AI i jej podgrup. 6. Rada ds. AI ustanawia dwie stałe podgrupy służące jako platforma współpracy i wymiany między organami nadzoru rynku oraz powiadamiające organy w kwestiach dotyczących odpowiednio nadzoru rynku i jednostek notyfikowanych. Stała podgrupa ds. nadzoru rynku powinna do celów niniejszego rozporządzenia pełnić rolę grupy ds. współpracy administracyjnej (ADCO) w rozumieniu art. 30 rozporządzenia (UE) 2019/1020. W stosownych przypadkach Rada ds. AI może utworzyć inne stałe lub tymczasowe podgrupy na potrzeby zbadania konkretnych kwestii. W stosownych przypadkach przedstawiciele forum doradczego, o którym mowa w art. 67, mogą być zapraszani do udziału w takich podgrupach lub na konkretne posiedzenia tych podgrup jako obserwatorzy. 7. Rada ds. AI jest zorganizowana i zarządzana w sposób gwarantujący obiektywizm i bezstronność podejmowanych przez nią działań. 8. Przewodniczącym Rady ds. AI jest jeden z przedstawicieli państw członkowskich. Urząd ds. AI pełni funkcję sekretariatu dla Rady ds. AI, zwołuje na wniosek przewodniczącego posiedzenia i przygotowuje porządek obrad zgodnie z zadaniami Rady ds. AI określonymi w niniejszym rozporządzeniu oraz z jej regulaminem wewnętrznym. Art. 66 Zadania Rady ds. AI Rada ds. AI doradza Komisji i państwom członkowskim oraz udziela im wsparcia w celu ułatwienia spójnego i skutecznego stosowania niniejszego rozporządzenia. W tym celu Rada ds. AI może w szczególności: N Przepis o charakterze ogólnym stosowany wprost a) przyczyniać się do koordynacji między właściwymi organami krajowymi odpowiedzialnymi za stosowanie niniejszego rozporządzenia oraz we współpracy i z zastrzeżeniem zgody zainteresowanych organów nadzoru rynku, wspierać wspólne działania organów nadzoru rynku, o których mowa w art. 74 ust. 11; b) gromadzić fachową wiedzę techniczną i regulacyjną oraz najlepsze praktyki w tym zakresie i udostępniać je państwom członkowskim; c) zapewniać doradztwo w zakresie wdrażania niniejszego rozporządzenia, w szczególności w odniesieniu do egzekwowania przepisów dotyczących modeli AI ogólnego przeznaczenia; d) przyczyniać się do harmonizacji praktyk administracyjnych w państwach członkowskich, w tym w odniesieniu do odstępstwa od procedur oceny zgodności, o którym mowa w art. 46, funkcjonowania piaskownic regulacyjnych w zakresie AI oraz testów w warunkach rzeczywistych, o których mowa w art. 57, 59 i 60; e) na wniosek Komisji lub z własnej inicjatywy wydawać zalecenia i opinie na piśmie na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia oraz z jego spójnym i skutecznym stosowaniem, w tym: (i) w zakresie opracowywania i stosowania kodeksów postępowania i kodeksów praktyk zgodnie z niniejszym rozporządzeniem, jak również wytycznych Komisji; nie wymaga wdrożenia (ii) dotyczące oceny i przeglądu niniejszego rozporządzenia zgodnie z art. 112, w tym w odniesieniu do zgłoszeń poważnych incydentów, o których mowa w art. 73, i funkcjonowania bazy danych UE, o której mowa w art. 71, przygotowania aktów delegowanych lub wykonawczych oraz w odniesieniu do ewentualnego dostosowania niniejszego rozporządzenia do unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I; (iii) w kwestii specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w rozdziale III sekcja 2; (iv) w kwestii stosowania norm zharmonizowanych lub wspólnych specyfikacji, o których mowa w art. 40 i 41; (v) na temat tendencji, takich jak europejska globalna konkurencyjność w dziedzinie AI, upowszechnianie AI w Unii oraz rozwój umiejętności cyfrowych; (vi) na temat tendencji w zakresie zmieniającej się typologii łańcuchów wartości AI, w szczególności w odniesieniu do wynikających z nich skutków w zakresie odpowiedzialności; (vii) w kwestii potencjalnej potrzeby zmiany załącznika III zgodnie z art. 7 oraz potencjalnej potrzeby ewentualnej zmiany artykułu 5 zgodnie z art. 112, z uwzględnieniem odpowiednich dostępnych dowodów i najnowszych osiągnięć technologicznych; f) wspierać Komisję w promowaniu kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia w odniesieniu do korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI; g) ułatwiać opracowywanie wspólnych kryteriów i wspólnego rozumienia przez podmioty gospodarcze i właściwe organy odpowiednich koncepcji przewidzianych w niniejszym rozporządzeniu, w tym poprzez udział w opracowywaniu poziomów odniesienia; h) współpracować, w stosownych przypadkach, z innymi instytucjami, organami i jednostkami organizacyjnymi Unii, jak również unijnymi grupami ekspertów i sieciami, w szczególności w dziedzinie bezpieczeństwa produktów, cyberbezpieczeństwa, konkurencyjności, usług cyfrowych i medialnych, usług finansowych, ochrony konsumentów, ochrony danych oraz ochrony praw podstawowych; i) przyczyniać się do skutecznej współpracy z właściwymi organami państw trzecich i z organizacjami międzynarodowymi; j) wspierać właściwe organy krajowe i Komisję w rozwijaniu organizacyjnej i technicznej wiedzy fachowej wymaganej do wdrożenia niniejszego rozporządzenia, w tym poprzez przyczynianie się do oceny potrzeb szkoleniowych personelu państw członkowskich uczestniczącego we wdrażaniu niniejszego rozporządzenia; k) wspierać Urząd ds. AI w udzielaniu wsparcia właściwym organom krajowym w ustanawianiu i rozwoju piaskownic regulacyjnych w zakresie AI oraz ułatwiać współpracę i wymianę informacji między piaskownicami regulacyjnymi w zakresie AI; l) wnosić wkład w opracowanie dokumentów zawierających wytyczne i udzielać stosownych porad w tym zakresie; m) doradzać Komisji w odniesieniu do międzynarodowych kwestii dotyczących AI; n) przedstawiać Komisji opinie na temat ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia; o) przyjmować od państw członkowskich opinie dotyczące ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia oraz opinie na temat krajowych doświadczeń i praktyk w zakresie monitorowania i zgodnego z prawem wdrażania systemów AI, w szczególności systemów integrujących modele AI ogólnego przeznaczenia. Art. 67 Forum doradcze 1. Ustanawia się forum doradcze, które ma za zadanie dostarczać fachowej wiedzy technicznej i doradzać Radzie ds. AI i Komisji oraz wnosić wkład w ich zadania wynikające z niniejszego rozporządzenia. 2. Skład forum doradczego stanowi wyważony dobór zainteresowanych stron, w tym przemysłu, przedsiębiorstw typu startup, MŚP, społeczeństwa obywatelskiego i środowisk akademickich. Skład forum doradczego jest zrównoważony pod względem interesów handlowych i niehandlowych, a w ramach N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia kategorii interesów handlowych - w odniesieniu do MŚP i innych przedsiębiorstw. 3. Komisja zgodnie z kryteriami określonymi w ust. 2 powołuje członków forum doradczego spośród zainteresowanych stron, którzy dysponują uznaną wiedzą fachową w dziedzinie AI. 4. Kadencja członków forum doradczego trwa dwa lata i może zostać przedłużona o maksymalnie cztery lata. 5. Stałymi członkami forum doradczego są: Agencja Praw Podstawowych, ENISA, Europejski Komitet Normalizacyjny (CEN), Europejski Komitet Normalizacyjny Elektrotechniki (CENELEC) oraz Europejski Instytut Norm Telekomunikacyjnych (ETSI). 6. Forum doradcze sporządza swój regulamin. Forum doradcze wybiera dwóch współprzewodniczących spośród swoich członków, zgodnie z kryteriami określonymi w ust. 2. Kadencja współprzewodniczących trwa dwa lata z możliwością jednokrotnego odnowienia. 7. Forum doradcze odbywa posiedzenia co najmniej dwa razy w roku. Forum doradcze może zapraszać na swoje posiedzenia ekspertów i inne zainteresowane strony. 8. Forum doradcze może na wniosek Rady ds. AI lub Komisji przygotowywać opinie, zalecenia i uwagi na piśmie. 9. W stosownych przypadkach forum doradcze może utworzyć stałe lub tymczasowe podgrupy do badania konkretnych kwestii związanych z celami niniejszego rozporządzenia. 10. Forum doradcze przygotowuje roczne sprawozdanie ze swoich działań. Sprawozdanie to jest podawane do wiadomości publicznej. Art. 68 Panel naukowy niezależnych ekspertów 1. Komisja w drodze aktu wykonawczego ustanawia przepisy dotyczące utworzenia panelu naukowego niezależnych ekspertów (zwanego dalej \"panelem naukowym\"), którego celem jest udzielanie wsparcia w egzekwowaniu działań na podstawie niniejszego rozporządzenia. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Panel naukowy składa się z ekspertów, którzy zostali wybrani przez Komisję na podstawie aktualnej wiedzy naukowej lub technicznej w dziedzinie AI niezbędnej do realizacji zadań określonych w ust. 3 i którzy są w stanie wykazać, że spełniają wszystkie następujące warunki: a) posiadanie szczególnej wiedzy fachowej i kompetencji oraz naukowej lub technicznej wiedzy fachowej w dziedzinie AI; b) niezależność od dostawców systemów AI lub modeli AI ogólnego przeznaczenia; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) zdolność do wykonywania zadań w sposób staranny, dokładny i obiektywny. Komisja w porozumieniu z Radą ds. AI określa liczbę ekspertów wchodzących w skład panelu w zależności od potrzeb i zapewnia sprawiedliwą reprezentację pod względem płci i zakresu geograficznego. 3. Panel naukowy doradza i wspiera Urząd ds. AI, w szczególności w odniesieniu do następujących zadań: a) wspieranie wdrażania i egzekwowania niniejszego rozporządzenia w odniesieniu do modeli i systemów AI ogólnego przeznaczenia, w szczególności poprzez: (i) ostrzeganie Urzędu ds. AI zgodnie z art. 90 o ewentualnym ryzyku systemowym na poziomie Unii związanym z modelami AI ogólnego przeznaczenia; (ii) przyczynianie się do opracowywania narzędzi i metodologii oceny zdolności modeli i systemów AI ogólnego przeznaczenia, w tym za pomocą poziomów odniesienia; (iii) świadczenie doradztwa w zakresie klasyfikacji modeli AI ogólnego przeznaczenia z ryzykiem systemowym; (iv) świadczenie doradztwa w zakresie klasyfikacji różnych modeli i systemów AI ogólnego przeznaczenia; (v) przyczynianie się do opracowywania narzędzi i wzorów; b) wspieranie organów nadzoru rynku - na ich wniosek; c) wspieranie transgranicznych działań w zakresie nadzoru rynku, o których mowa w art. 74 ust. 11, bez uszczerbku dla uprawnień organów nadzoru rynku; d) wspieranie Urzędu ds. AI w wykonywaniu jego obowiązków w kontekście unijnej procedury ochronnej zgodnie z art. 81. 4. Eksperci uczestniczący w panelu naukowym wykonują swoje zadania w sposób bezstronny i obiektywny oraz zapewniają poufność informacji i danych uzyskanych podczas wykonywania swoich zadań i działań. Przy wykonywaniu swoich zadań zgodnie z ust. 3 nie zwracają się do nikogo o instrukcje ani ich od nikogo nie przyjmują. Każdy ekspert sporządza deklarację interesów, którą podaje się do wiadomości publicznej. Urząd ds. AI ustanawia systemy i procedury mające na celu aktywne zarządzanie i zapobieganie potencjalnym konfliktom interesów. 5. Akt wykonawczy, o którym mowa w ust. 1, zawiera przepisy dotyczące warunków, procedur i szczegółowych zasad w zakresie wydawania ostrzeżeń przez panel naukowy i jego członków oraz zwracania się do Urzędu ds. AI o pomoc w realizacji zadań panelu naukowego. Art. 69 At T Uregulowanie kwestii dostępu do zespołu ekspertów zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 70 Wyznaczanie właściwych organów krajowych oraz pojedynczych punktów kontaktowych 1. Do celów niniejszego rozporządzenia każde państwo członkowskie ustanawia lub wyznacza co najmniej jeden organ notyfikujący i co najmniej jeden organ nadzoru rynku jako właściwe organy krajowe. Te właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Członkowie tych organów powstrzymują się od wszelkich czynności niezgodnych z charakterem ich obowiązków. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. 2. Państwa członkowskie przekazują Komisji dane organów notyfikujących i organów nadzoru rynku oraz informacje o zadaniach tych organów, jak również o wszelkich późniejszych zmianach w tym zakresie. Do dnia 2 sierpnia 2025 r. państwa członkowskie podają, do wiadomości publicznej, za pośrednictwem środków komunikacji elektronicznej, informacje o sposobach kontaktowania się z właściwymi organami i pojedynczymi punktami kontaktowymi. Państwa członkowskie wyznaczają organ nadzoru rynku do T Art. 5 Art. 6 pkt 1- 16 Art. 19 Art. 21-Art. 38 Art. 67 Art. 90 Art. 120 ust. 1 Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; Art. 6-8 zapewniają, że właściwy organ krajowy dysponuje procesami i transparentnie ustaloną strukturą. Art. 15 (por. art. 8 ust. 1 pkt 2 – kompetencje Przewodniczącego Komisji) realizuje wymóg corocznego obowiązku sprawozdawczego z działań organu. Art. 19-22 realizują nałożone przez rozporządzenie zasady wykonywania uprawnień organu działania w charakterze pojedynczego punktu kontaktowego do celów niniejszego rozporządzenia i przekazuje Komisji dane tego pojedynczego punktu kontaktowego. Komisja podaje do wiadomości publicznej wykaz pojedynczych punktów kontaktowych. 3. Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie. 4. Właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. 5. Wykonując swoje zadania, właściwe organy krajowe działają zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; (a więc i jego członków) w sposób niezależny, bezstronny i wolny od uprzedzeń, a jawność realizuje tę funkcję. Art. 69 opisuje m. in. działanie wraz z realizacją obowiązków dot. zachowania poufności. 6. Do dnia 2 sierpnia 2025 r., a następnie co dwa lata państwa członkowskie przekazują Komisji sprawozdania dotyczące stanu zasobów finansowych i ludzkich właściwych organów krajowych wraz z oceną ich odpowiedniości. Komisja przekazuje te informacje Radzie ds. AI w celu ich omówienia i ewentualnego wydania zaleceń. 7. Komisja ułatwia wymianę doświadczeń między właściwymi organami krajowymi. 8. Właściwe organy krajowe mogą udzielać wskazówek i porad w zakresie wdrażania niniejszego rozporządzenia, w szczególności MŚP, w tym przedsiębiorstwom typu startup, przy uwzględnieniu, w stosownych przypadkach, wskazówek i porad Rady ds. AI i Komisji. W każdym przypadku, gdy właściwe organy krajowe zamierzają udzielić wskazówek i porad dotyczących systemu AI w dziedzinach objętych innymi przepisami prawa Unii, są zobowiązane - w stosownych przypadkach -zasięgnąć opinii właściwych organów krajowych wyznaczonych na podstawie tych przepisów prawa Unii. 9. W przypadku, gdy instytucje, organy i jednostki organizacyjne Unii są objęte zakresem niniejszego rozporządzenia, Europejski Inspektor Ochrony Danych działa w charakterze właściwego organu odpowiedzialnego za sprawowanie nad nimi nadzoru. 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi” oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3 –, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775§ 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji.Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia; Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony, 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 71 Baza danych UE dla systemów AI wysokiego ryzyka wymienionych w załączniku III 1. Komisja - we współpracy z państwami członkowskimi - tworzy i prowadzi bazę danych UE zawierającą informacje, o których mowa w ust. 2 i 3 niniejszego artykułu, dotyczącą systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 2, które zostały zarejestrowane zgodnie z art. 49 i 60 oraz systemów AI, których nie uznaje się za systemy AI wysokiego ryzyka na podstawie art. 6 ust. 3 i które N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia zostały zarejestrowane zgodnie z art. 6 ust. 4 i art. 49. Przy ustalaniu specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z odpowiednimi ekspertami, a przy aktualizacji specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z Radą ds. AI. 2. Dane wymienione w załączniku VIII sekcje A i B są wprowadzane do bazy danych UE przez dostawcę lub - w stosownych przypadkach - przez upoważnionego przedstawiciela. 3. Dane wymienione w załączniku VIII sekcja C są wprowadzane do bazy danych UE przez podmiot stosujący będący organem publicznym, agencją lub jednostką organizacyjną zgodnie z art. 49 ust. 3 i 4, lub działający w imieniu takiego organu, agencji lub jednostki. 4. Z wyjątkiem sekcji, o której mowa w art. 49 ust. 4 i art. 60 ust. 4 lit. c), informacje zawarte w bazie danych UE zarejestrowane zgodnie z art. 49 są dostępne publicznie w sposób przyjazny dla użytkownika. Informacje powinny być łatwe w nawigacji i nadawać się do odczytu maszynowego. Informacje zarejestrowane zgodnie z art. 60 są dostępne wyłącznie dla organów nadzoru rynku i dla Komisji, chyba że potencjalny dostawca lub dostawca wyrazili zgodę na udostępnienie tych informacji również ogółowi społeczeństwa. 5. Baza danych UE zawiera dane osobowe wyłącznie w zakresie, w jakim jest to konieczne do celów związanych ze zbieraniem i przetwarzaniem informacji zgodnie z niniejszym rozporządzeniem. Informacje te obejmują imiona i nazwiska oraz dane kontaktowe osób fizycznych, które są odpowiedzialne za rejestrację systemu i są upoważnione do reprezentowania dostawcy lub w stosownych przypadkach, podmiotu stosującego. 6. Komisja pełni funkcję administratora bazy danych UE. Komisja zapewnia dostawcom, potencjalnym dostawcom oraz podmiotom stosującym odpowiednie wsparcie techniczne i administracyjne. Baza danych UE musi być zgodna z mającymi zastosowanie wymogami dostępności. Art. 72 Prowadzone przez dostawców monitorowanie po wprowadzeniu do obrotu i plan monitorowania systemów AI wysokiego ryzyka po ich wprowadzeniu do obrotu 1. Dostawcy ustanawiają i dokumentują - w sposób proporcjonalny do charakteru technologii AI i ryzyka związanego z wykorzystaniem danego systemu AI wysokiego ryzyka - system monitorowania po wprowadzeniu do obrotu. 2. W ramach systemu monitorowania po wprowadzeniu do obrotu w aktywny i systematyczny sposób zbiera się, dokumentuje i analizuje stosowne dane dotyczące skuteczności działania systemów AI wysokiego ryzyka w całym cyklu ich życia, które to dane mogą być przekazywane przez podmioty stosujące lub mogą być zbierane z innych źródeł; system ten pozwala dostawcy oceniać, czy zapewniona jest ciągła zgodność systemów AI z wymogami ustanowionymi w rozdziale III sekcja N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W stosownych przypadkach monitorowanie po wprowadzeniu do obrotu obejmuje analizę interakcji z innymi systemami AI. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących będących organami ścigania. 3. System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Do dnia 2 lutego 2026 r. Komisja przyjmuje akt wykonawczy zawierające szczegółowe przepisy określające wzór planu monitorowania po wprowadzeniu do obrotu oraz wykaz elementów, które należy zawrzeć w tym planie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 4. W odniesieniu do systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku gdy zgodnie z tym prawodawstwem ustanowiono już system i plan monitorowania po wprowadzeniu do obrotu, w celu zapewnienia spójności, unikania powielania prac i zminimalizowania dodatkowych obciążeń, dostawcy mogą się w stosownych przypadkach zdecydować na zintegrowanie - korzystając ze wzoru, o którym mowa w ust. 3 - niezbędnych elementów opisanych w ust. 1, 2 i 3 z systemami i planami istniejącymi już na podstawie tego prawodawstwa, pod warunkiem że zapewnia ono równoważny poziom ochrony. Akapit pierwszy niniejszego artykułu stosuje się również do systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 5, wprowadzonych do obrotu lub oddanych do użytku przez instytucje finansowe objęte na podstawie przepisów prawa Unii dotyczących usług finansowych wymogami dotyczącymi ich systemu zarządzania wewnętrznego, uzgodnień lub procedur. Art. 73 Zgłaszanie poważnych incydentów 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent. 2. Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Termin na dokonanie zgłoszenia, o którym mowa w akapicie pierwszym, uwzględnia dotkliwość danego poważnego incydentu. 3. Niezależnie od ust. 2 niniejszego artykułu w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. 4. Niezależnie od ust. 2 w przypadku, gdy nastąpi śmierć osoby, zgłoszenia dokonuje się natychmiast po stwierdzeniu przez dostawcę lub podmiot stosujący wystąpienia lub podejrzenia wystąpienia związku przyczynowego między systemem AI wysokiego ryzyka a poważnym incydentem, nie później jednak niż w terminie 10 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący AI dowiedzieli się o wystąpieniu danego poważnego incydentu. 5. W przypadku, gdy jest to konieczne do zapewnienia terminowego zgłoszenia, dostawca lub w stosownych przypadkach, podmiot stosujący mogą dokonać niepełnego zgłoszenia wstępnego, a następnie zgłoszenia kompletnego. 6. W następstwie zgłoszenia poważnego incydentu zgodnie z ust. 1 dostawca niezwłocznie przeprowadza niezbędne postępowanie wyjaśniające dotyczące poważnego incydentu oraz przedmiotowego systemu AI. Obejmuje ono ocenę ryzyka danego incydentu oraz działania naprawcze. Podczas postępowania wyjaśniającego, o którym mowa w akapicie pierwszym, dostawca współpracuje z właściwymi organami oraz - w stosownych przypadkach - z zainteresowaną jednostką notyfikowaną osobnego projektu legislacyjnego. i nie podejmuje żadnego działania, które obejmowałoby zmianę danego systemu AI w taki sposób, który mógłby wpłynąć na późniejszą ocenę przyczyn incydentu, dopóki nie poinformuje o takim działaniu właściwego organu. 7. Po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1. Komisja opracowuje specjalne wskazówki ułatwiające spełnienie obowiązków ustanowionych w ust. 1 niniejszego artykułu. Wskazówki wydaje się do dnia 2 sierpnia 2025 r. i podlegają one regularnej ocenie. 8. W terminie siedmiu dni od daty otrzymania powiadomienia, o którym mowa w ust. 1 niniejszego artykułu, organ nadzoru rynku podejmuje odpowiednie środki przewidziane w art. 19 rozporządzenia (UE) 2019/1020 i postępuje zgodnie z procedurami powiadamiania przewidzianymi w tym rozporządzeniu. 9. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki w zakresie zgłaszania równoważne obowiązkom określonym w niniejszym rozporządzeniu, zgłaszanie poważnych incydentów ogranicza się do tych z nich, o których mowa w art. 3 pkt 49 lit. c). 10. W przypadku systemów AI wysokiego ryzyka, które są związanymi z bezpieczeństwem elementami wyrobów podlegających przepisom rozporządzeń (UE) 2017/745 i (UE) 2017/746, lub które same są takimi wyrobami, zgłaszanie poważnych incydentów ogranicza się do incydentów, o których mowa w art. 3 pkt 49) lit. c) niniejszego rozporządzenia, i dokonuje się go do właściwego organu krajowego wybranego do tego celu przez państwo członkowskie, w którym wystąpił dany incydent. 11. Właściwe organy krajowe natychmiast powiadamiają Komisję o każdym poważnym incydencie zgodnie z art. 20 rozporządzenia (UE) 2019/1020, niezależnie od tego, czy podjęły w związku z nim jakiekolwiek działania. Art. 74 Nadzór rynku i kontrola systemów AI na rynku Unii 1. Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020. Do celów skutecznego egzekwowania przepisów niniejszego rozporządzenia: a) wszelkie odniesienia do podmiotu gospodarczego w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkich operatorów zidentyfikowanych w art. 2 ust. 1 niniejszego rozporządzenia; b) wszelkie odniesienia do produktu w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkie systemy AI wchodzące w zakres stosowania niniejszego rozporządzenia. T Art. 20 Art. 48 -Art. 56 Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w Art. 48-art. 56 opisują sposób realizowania podstawowych uprawnień nadzorczych nadanych przez rozporządzenie. Określają uprawnienia organu do pozyskiwania informacji od kontrolowanego. 2. W ramach swoich obowiązków w zakresie sprawozdawczości określonych w art. 34 ust. 4 rozporządzenia (UE) 2019/1020 organy nadzoru rynku co roku przekazują Komisji i odpowiednim krajowym organom ochrony konkurencji wszelkie informacje zebrane w wyniku działań w zakresie nadzoru rynku, które potencjalnie mogą być istotne z punktu widzenia stosowania reguł konkurencji przewidzianych w prawie Unii. Co roku składają one sprawozdania również Komisji dotyczące stwierdzonego w danym roku stosowania zakazanych praktyk oraz podjętych w tym względzie środków. 3. W przypadku systemów AI wysokiego ryzyka, które są powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, za organ nadzoru rynku do celów niniejszego rozporządzenia uznaje się odpowiedzialny za działania w zakresie nadzoru rynku organ wyznaczony na podstawie tych aktów prawnych. W drodze odstępstwa od akapitu pierwszego i w odpowiednich okolicznościach państwa członkowskie mogą wyznaczyć do działania w charakterze organu nadzoru rynku inny odpowiedni organ, pod warunkiem, że zapewnią koordynację między odpowiednimi sektorowymi organami nadzoru rynku odpowiedzialnymi za egzekwowanie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I. 4. Procedur, o których mowa w art. 79-83 niniejszego rozporządzenia, nie stosuje się do systemów AI, które są zakresie spraw, o których mowa w art. 74 ust. 1-5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej Dodatkowo przepisy zabezpieczają prawa podstawowe obywateli w toku kontroli (por. preambuła; sek. 7). I wskazują zasadę pisemności postępowania organu. powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku, gdy w tych aktach prawnych przewidziano już procedury zapewniające równoważny poziom ochrony i mające taki sam cel. W takich przypadkach stosuje się procedury sektorowe. 5. Bez uszczerbku dla uprawnień organów nadzoru rynku na podstawie art. 14 rozporządzenia (UE) 2019/1020 do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny. 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 Krajowe organy nadzoru rynku nadzorujące instytucje kredytowe uregulowane w dyrektywie 2013/36/UE, które uczestniczą w jednolitym mechanizmie nadzorczym ustanowionym rozporządzeniem (UE) nr 1024/2013, powinny niezwłocznie przekazywać Europejskiemu Bankowi Centralnemu wszelkie informacje zebrane w trakcie prowadzonych przez siebie działań w zakresie nadzoru rynku, które potencjalnie mogą mieć znaczenie z punktu widzenia określonych w tym rozporządzeniu zadań EBC dotyczących nadzoru ostrożnościowego. 8. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do niniejszego rozporządzenia, w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 niniejszego rozporządzenia, państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41-44 dyrektywy (UE) 2016/680. Działania w zakresie nadzoru rynku nie mogą w żaden sposób wpływać na niezależność organów wymiaru sprawiedliwości, ani w żaden inny sposób zakłócać ich czynności związanych ze sprawowaniem przez nie wymiaru sprawiedliwości. ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 9. W przypadku, gdy zakresem stosowania niniejszego rozporządzenia objęte są instytucje, organy i jednostki organizacyjne Unii, Europejski Inspektor Ochrony Danych działa w stosunku do nich w charakterze organu nadzoru rynku, z wyjątkiem Trybunał Sprawiedliwości Unii Europejskiej w przypadkach sprawowania przez niego sprawiedliwości. 10. Państwa członkowskie ułatwiają koordynację działań między organami nadzoru rynku wyznaczonymi na podstawie niniejszego rozporządzenia a innymi odpowiednimi organami lub podmiotami krajowymi sprawującymi nadzór nad stosowaniem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I lub w innych przepisach prawa Unii, które mogą być istotne w kontekście systemów AI wysokiego ryzyka, o których mowa w załączniku III. 11. Organy nadzoru rynku i Komisja mogą proponować wspólne działania, w tym wspólne postępowania, prowadzone przez organy nadzoru rynku albo przez organy nadzoru rynku wspólnie z Komisją, mające na celu promowanie zgodności, wykrywanie przypadków niezgodności, podnoszenie świadomości lub zapewnianie wskazówek dotyczących niniejszego rozporządzenia w odniesieniu do szczególnych kategorii systemów AI wysokiego ryzyka, w przypadku których zgodnie z art. 9 rozporządzenia (UE) 2019/1020 stwierdzono, że stwarzają poważne ryzyko w co najmniej dwóch państwach członkowskich. Urząd ds. AI zapewnia wsparcie w zakresie koordynacji wspólnych postępowań. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 12. Bez uszczerbku dla uprawnień przewidzianych w rozporządzeniu (UE) 2019/1020 oraz w stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania ich zadań, dostawcy udzielają organom nadzoru rynku pełnego dostępu do dokumentacji, a także do zbiorów danych treningowych, walidacyjnych i testowych wykorzystywanych do rozwoju systemów AI wysokiego ryzyka, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem interfejsów programowania aplikacji (API) lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 13. Organom nadzoru rynku udziela się na ich uzasadniony wniosek dostępu do kodu źródłowego systemu AI wysokiego ryzyka i wyłącznie wtedy, gdy spełnione są oba następujące warunki: a) dostęp do kodu źródłowego jest niezbędny do oceny zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w rozdziale III sekcja 2; oraz b) zostały wyczerpane lub okazały się niewystarczające procedury testowania lub audytu i weryfikacji w oparciu o dane i dokumentację dostarczone przez dostawcę. 14. Wszelkie informacje lub dokumenty uzyskane przez organy nadzoru rynku traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej ,,kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu - po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnić mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi , o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia . 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęciem kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli, imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z i opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń, do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 75 Wzajemna pomoc, nadzór rynku i kontrola systemów AI ogólnego przeznaczenia 1. W przypadku, gdy system AI jest oparty na modelu AI ogólnego przeznaczenia i ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI jest uprawniony do monitorowania i nadzorowania zgodności tego systemu AI z obowiązkami wynikającymi z niniejszego rozporządzenia. Do celów wykonywania zadań w zakresie monitorowania i nadzoru Urząd ds. AI ma uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. 2. W przypadku gdy odpowiednie organy nadzoru rynku mają wystarczające powody, by systemy AI ogólnego przeznaczenia, które mogą być wykorzystywane bezpośrednio przez podmioty stosujące do co najmniej jednego celu, który zgodnie z niniejszym rozporządzeniem został zaklasyfikowany jako wysokiego ryzyka, uznać za niezgodne z wymogami ustanowionymi w niniejszym rozporządzeniu, organy te współpracują z Urzędem ds. AI w zakresie przeprowadzenia ocen zgodności i informują o tym odpowiednio Radę ds. AI i pozostałe organy nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku nie jest w stanie zakończyć postępowania dotyczącego systemu AI wysokiego ryzyka z uwagi na niemożność dostępu do niektórych informacji związanych z danym modelem AI ogólnego przeznaczenia pomimo podjęcia wszystkich stosownych wysiłków w zakresie uzyskania tych N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. informacji, może zwrócić się z uzasadnionym wnioskiem do Urzędu ds. AI, który wyegzekwuje dostęp do takich informacji. W takim przypadku Urząd ds. AI udziela organowi wnioskującemu niezwłocznie, a w każdym razie w terminie 30 dni, wszelkich informacji, które Urząd ds. AI uznaje za istotne do celów ustalenia, czy dany system AI wysokiego ryzyka jest niezgodny z wymogami. Organy nadzoru rynku zapewniają poufność otrzymywanych informacji zgodnie z art. 78 niniejszego rozporządzenia. Odpowiednio stosuje się procedurę przewidzianą w rozdziale VI rozporządzenia (UE) 2019/1020. Art. 76 Nadzór organów nadzoru rynku nad testami w warunkach rzeczywistych 1. Organy nadzoru rynku mają kompetencje i uprawnienia w celu zapewnienia, by testy w warunkach rzeczywistych odbywały się zgodnie z niniejszym rozporządzeniem. 2. W przypadku testów w warunkach rzeczywistych prowadzonych na systemach AI nadzorowanych w ramach piaskownicy regulacyjnej w zakresie AI na podstawie art. 58 organy nadzoru rynku weryfikują zgodność z art. 60 w ramach swojej roli nadzorczej w odniesieniu do piaskownicy regulacyjnej w zakresie AI. Organy te mogą, w stosownych przypadkach, zezwolić na prowadzenie przez dostawcę lub potencjalnego dostawcę testów w warunkach rzeczywistych z zastosowaniem odstępstwa od warunków ustanowionych w art. 60 ust. 4 lit. f) i g). N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 3. W przypadku, gdy organ nadzoru rynku został przez potencjalnego dostawcę, dostawcę lub stronę trzecią poinformowany o poważnym incydencie lub ma podstawy sądzić, że nie są spełniane warunki ustanowione w art. 60 i 61, może na swoim terytorium podjąć w stosownych przypadkach którąkolwiek z następujących decyzji: a) zawiesić lub zakończyć testy w warunkach rzeczywistych; b) zobowiązać dostawcę lub potencjalnego dostawcę oraz podmiot stosujący i potencjalny podmiot stosujący do zmiany któregokolwiek aspektu testów w warunkach rzeczywistych. 4. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3 niniejszego artykułu, lub zgłosił sprzeciw w rozumieniu art. 60 ust. 4 lit. b), w decyzji lub sprzeciwie podaje się ich uzasadnienie oraz warunki, na jakich dostawca lub potencjalny dostawca mogą zaskarżyć tę decyzję lub sprzeciw. 5. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3, informuje w stosownych przypadkach o powodach takiej decyzji organy nadzoru rynku pozostałych państw członkowskich, w których dany system AI był testowany zgodnie z planem testów. Art. 77 Uprawnienia organów ochrony praw podstawowych 1. Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków T Art. 62 Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Odpowiedni organ lub podmiot publiczny informuje organ nadzoru rynku zainteresowanego państwa członkowskiego o każdym takim wniosku. 2. Do dnia 2 listopada 2024 r. każde państwo członkowskie wskazuje organy lub podmioty publiczne, o których mowa w ust. 1, i podaje ich wykaz do wiadomości publicznej. Państwa członkowskie przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. 3. W przypadku, gdy dokumentacja, o której mowa w ust. 1, jest niewystarczająca do stwierdzenia, czy nastąpiło naruszenie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, organ lub podmiot publiczny, o którym mowa w ust. 1, może wystąpić do organu nadzoru rynku z uzasadnionym wnioskiem o zorganizowanie testów systemu AI wysokiego ryzyka przy użyciu środków technicznych. Organ nadzoru rynku w rozsądnym terminie po otrzymaniu wniosku organizuje testy w ścisłej postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje oddziaływał, lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia, przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do współpracy z organem lub podmiotem publicznym, które wystąpiły z wnioskiem. 4. Wszelkie informacje lub dokumenty uzyskane zgodnie z niniejszym artykułem przez krajowe organy lub podmioty publiczne, o których mowa w ust. 1 niniejszego artykułu, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 78 Poufność 1. Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie niniejszego rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych T Art. 42 Art. 88 Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić: a) prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa osoby fizycznej lub prawnej, w tym kod źródłowy, z wyjątkiem przypadków, o których mowa w art. 5 dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/943; b) skuteczne wdrożenie niniejszego rozporządzenia, w szczególności na potrzeby kontroli, postępowań lub audytów; c) interesy bezpieczeństwa publicznego i narodowego; d) przebieg postępowań karnych i administracyjnych; e) informacje niejawne zgodnie z prawem Unii lub prawem krajowym. 2. Organy zaangażowane w stosowanie niniejszego rozporządzenia zgodnie z ust. 1 zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień zgodnie z niniejszym rozporządzeniem i z rozporządzeniem (UE) 2019/1020. Wprowadzają one odpowiednie i skuteczne środki w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych oraz usuwają zebrane dane, gdy tylko przestaną one być potrzebne do celu, w jakim je uzyskano, zgodnie z mającym zastosowanie prawem Unii lub prawem krajowym. organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2023 r. poz. 783 oraz z 2025 r. poz. 820 i 1729 oraz z 2026 r. poz. 230), w zakresie 3. Bez uszczerbku dla ust. 1 i 2, informacji wymienianych na zasadzie poufności między właściwymi organami krajowymi oraz między właściwymi organami krajowymi a Komisją nie można ujawniać bez uprzedniej konsultacji z właściwym organem krajowym, który je przekazał, oraz z podmiotem stosującym, w przypadku gdy systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, wykorzystują organy ścigania, organy kontroli granicznej, organy imigracyjne lub organy azylowe, jeżeli takie ujawnienie mogłoby zagrozić interesom bezpieczeństwa publicznego i narodowego. Ta wymiana informacji nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. Jeżeli dostawcami systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 lub 7, są organy ścigania, organy imigracyjne lub organy azylowe, dokumentację techniczną, o której mowa w załączniku IV, przechowuje się w siedzibie tych organów. Organy te zapewniają, aby organy nadzoru rynku, o których mowa odpowiednio w art. 74 ust. 8 i 9, mogły uzyskać na wniosek natychmiastowy dostęp do tej dokumentacji lub otrzymać jej kopię. Dostęp do tej dokumentacji lub jej kopii zastrzeżony jest wyłączenia dla pracowników organu nadzoru rynku posiadających poświadczenie bezpieczeństwa na odpowiednim poziomie. 4. Ust. 1, 2 i 3 nie mają wpływu na prawa i obowiązki Komisji, państw członkowskich i ich odpowiednich organów, a także jednostek notyfikowanych, w zakresie niezbędnym do realizacji ich ustawowych zadań.. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. wymiany informacji i rozpowszechnianie ostrzeżeń, w tym w kontekście współpracy transgranicznej; nie mają one również wpływu na obowiązki zainteresowanych stron w zakresie udzielania informacji zgodnie z prawem karnym państw członkowskich. 5. Komisja i państwa członkowskie mogą, w razie potrzeby i zgodnie z odpowiednimi postanowieniami umów międzynarodowych i handlowych, wymieniać informacje poufne z organami regulacyjnymi państw trzecich, z którymi zawarły dwustronne lub wielostronne porozumienia o poufności gwarantujące odpowiedni stopień poufności. Art. 79 Procedura postępowania na poziomie krajowym w przypadku systemów AI stwarzających ryzyko 1. Systemy AI stwarzające ryzyko uznaje się za \"produkt stwarzający ryzyko\" w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. 2. W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ T Art. 64 ust.1 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689 lub ust. 2. nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie. Odpowiedni operatorzy współpracują w razie potrzeby z organem nadzoru rynku i innymi krajowymi organami lub podmiotami publicznymi, o których mowa w art. 77 ust. 1. W przypadku gdy w trakcie tej oceny organ nadzoru rynku lub, w stosownych przypadkach, organ nadzoru rynku we współpracy z krajowym organem publicznym, o którym mowa w art. 77 ust. 1, ustalą, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku w terminie, który może zostać wyznaczony przez organ nadzoru rynku, a w każdym razie w terminie krótszym niż 15 dni roboczych lub przewidzianym w odpowiednim unijnym prawodawstwie harmonizacyjnym. Organ nadzoru rynku informuje o tym odpowiednią jednostkę notyfikowaną. Do środków, o których mowa w akapicie drugim niniejszego ustępu, stosuje się art. 18 rozporządzenia (UE) 2019/1020. 3. W przypadku, gdy organ nadzoru rynku uzna, że niezgodność nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o wynikach oceny i działaniach, do których podjęcia zobowiązał operatora. 4. Operator zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 5. W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie. 6. W powiadomieniu, o którym mowa w ust. 5, zawiera się wszelkie dostępne informacje szczegółowe, w szczególności takie jak informacje niezbędne do identyfikacji niezgodności systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter zarzucanej niezgodności i związanego z nią ryzyka, charakter i okres obowiązywania podjętych środków krajowych oraz argumenty przedstawione przez odpowiedniego operatora. W szczególności organy nadzoru rynku wskazują, czy niezgodność wynika z jednego z następujących czynników: a) nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5; b) niespełnienia przez system AI wysokiego ryzyka wymogów określonych w rozdziale III sekcja 2; c) braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41, stanowiących podstawę domniemania zgodności; d) niezgodności z art. 50. 7. Organy nadzoru rynku inne niż organ nadzoru rynku państwa członkowskiego, w którym wszczęto postępowanie, bez zbędnej zwłoki informują Komisję i pozostałe państwa członkowskie o wszelkich przyjętych środkach i o wszelkich posiadanych dodatkowych informacjach dotyczących niezgodności danego systemu AI, a w przypadku, gdy nie zgadzają się ze środkiem krajowym, o którym zostały powiadomione - o swoim sprzeciwie. 8. W przypadku, gdy w terminie trzech miesięcy od dnia powiadomienia, o którym mowa w ust. 5 niniejszego artykułu, organ nadzoru rynku jednego z państw członkowskich, ani Komisja nie zgłoszą sprzeciwu wobec środka tymczasowego przyjętego przez organ nadzoru rynku innego państwa członkowskiego, środek ten uznaje się za uzasadniony. Pozostaje to bez uszczerbku dla praw proceduralnych danego operatora określonych w art. 18 rozporządzenia (UE) 2019/1020. Termin trzech miesięcy, o którym mowa w niniejszym ustępie, skraca się do 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 niniejszego rozporządzenia. 9. Organy nadzoru rynku zapewniają, by bez zbędnej zwłoki zostały podjęte odpowiednie środki ograniczające w odniesieniu do danego produktu lub systemu AI, takie jak wycofanie produktu lub systemu AI z podległego im rynku. Art. 80 Procedura postępowania w przypadku systemów AI zaklasyfikowanych przez dostawcę jako niebędące systemami wysokiego ryzyka w zastosowaniu załącznika III 1. W przypadku, gdy organ nadzoru rynku ma wystarczające powody, by sądzić, że system AI zaklasyfikowany przez dostawcę zgodnie z art. 6 ust. 3 pkt I jako niebędący systemem wysokiego ryzyka jest w istocie systemem wysokiego ryzyka, organ ten przeprowadza ocenę danego systemu AI w zakresie jego klasyfikacji jako system AI wysokiego ryzyka na podstawie warunków ustanowionych w art. 6 ust. 3 i wytycznych Komisji. 2. W przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że dany system AI jest systemem wysokiego ryzyka, bez zbędnej zwłoki zobowiązuje danego dostawcę do podjęcia wszystkich działań niezbędnych do osiągnięcia zgodności systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, jak również podjęcia odpowiednich działań naprawczych w terminie, który może zostać wyznaczony przez organ nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku uzna, że wykorzystywanie danego systemu AI nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wynikach oceny i działaniach, do których podjęcia zobowiązał dostawcę. 4. Dostawca zapewnia podjęcie wszystkich działań niezbędnych do zapewnienia zgodności danego systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. W przypadku gdy dostawca danego systemu AI nie zapewni zgodności tego systemu z tymi wymogami i obowiązkami w terminie, o którym mowa w ust. 2 niniejszego artykułu, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 5. Dostawca zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 6. W przypadku, gdy dostawca danego systemu AI nie podejmie odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2 niniejszego artykułu, stosuje się art. 79 ust. 5-9. 7. W przypadku, gdy w trakcie oceny zgodnie z ust. 1 niniejszego artykułu organ nadzoru rynku ustali, że dany system AI został przez dostawcę błędnie zaklasyfikowany jako system niebędący systemem wysokiego ryzyka w celu obejścia stosowania wymogów ustanowionych w rozdziale III sekcja 2, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 8. Wykonując swoje uprawnienia w zakresie monitorowania stosowania niniejszego artykułu oraz zgodnie z art. 11 rozporządzenia (UE) 2019/1020 organy nadzoru rynku mogą przeprowadzać odpowiednie kontrole, uwzględniając w szczególności informacje przechowywane w bazie danych UE, o której mowa w art. 71 niniejszego rozporządzenia. Art. 81 Unijna procedura ochronna 1. W przypadku gdy w terminie trzech miesięcy od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, lub w terminie 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5, organ nadzoru rynku jednego z państw członkowskich zgłosi sprzeciw wobec środka podjętego przez inny organ nadzoru rynku lub w przypadku gdy Komisja uzna taki środek za sprzeczny z prawem Unii, Komisja bez zbędnej zwłoki przystępuje do konsultacji z organem nadzoru rynku danego państwa członkowskiego i operatorem lub operatorami i dokonuje oceny takiego środka krajowego. Na podstawie wyników tej oceny Komisja w terminie sześciu miesięcy lub 60 dni - w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 - licząc od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, rozstrzyga, czy środek krajowy jest uzasadniony i powiadamia o swojej decyzji organ nadzoru rynku zainteresowanego państwa członkowskiego. Komisja powiadamia również wszystkie pozostałe krajowe organy nadzoru rynku o swojej decyzji. 2. W przypadku, gdy Komisja uzna, że środek podjęty przez dane państwo członkowskie jest uzasadniony, wszystkie państwa członkowskie zapewniają podjęcie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia bez zbędnej zwłoki odpowiednich środków ograniczających w odniesieniu do danego systemu AI, takich jak zobowiązujące do wycofania tego systemu AI z ich rynku, oraz informują o tym Komisję. W przypadku gdy Komisja uzna środek krajowy za nieuzasadniony, zainteresowane państwo członkowskie cofa dany środek oraz informuje odpowiednio Komisję. 3. W przypadku uznania krajowego środka za uzasadniony i stwierdzenia, że niezgodność systemu AI wynika z braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41 niniejszego rozporządzenia, Komisja stosuje procedurę przewidzianą w art. 11 rozporządzenia (UE) nr 1025/2012. Art. 82 Zgodne systemy AI stwarzające ryzyko 1. W przypadku gdy po przeprowadzeniu oceny zgodnie z art. 79, po konsultacji z odpowiednim krajowym organem publicznym, o którym mowa w art. 77 ust. 1, organ nadzoru rynku państwa członkowskiego ustali, że chociaż system AI wysokiego ryzyka jest zgodny z niniejszym rozporządzeniem, stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego, organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz terminie, który może zostać wyznaczony przez ten organ. 2. Dostawca lub inny właściwy operator zapewniają podjęcie działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnili na rynku Unii, w terminie wyznaczonym przez organ nadzoru rynku państwa członkowskiego, o którym mowa w ust. 1. 3. Państwa członkowskie natychmiast powiadamiają Komisję i pozostałe państwa członkowskie o swoim ustaleniu zgodnie z ust. 1. W powiadomieniu tym zawiera się wszelkie dostępne szczegółowe informacje, w szczególności dane niezbędne do identyfikacji danego systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter przedmiotowego ryzyka oraz charakter i okres obowiązywania podjętych środków krajowych. 4. Komisja bez zbędnej zwłoki przystępuje do konsultacji z zainteresowanymi państwami członkowskim i właściwymi operatorami i ocenia podjęte środki krajowe. Na podstawie wyników tej oceny Komisja podejmuje decyzję czy środek krajowy jest uzasadniony i w razie potrzeby proponuje inne odpowiednie środki. 5. Komisja natychmiast przekazuje swoją decyzję do zainteresowanych państw członkowskich i operatorów. Komisja powiadamia również pozostałe państwa członkowskie. Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 83 Niezgodność formalna 1. Organ nadzoru rynku państwa członkowskiego zobowiązuje właściwego dostawcę do usunięcia niezgodności w terminie, który może zostać wyznaczony przez ten organ, w przypadku, gdy ustali, że: a) oznakowanie CE zostało umieszczone z naruszeniem art. 48; b) oznakowanie CE nie zostało umieszczone; c) deklaracja zgodności UE, o której mowa w art. 47, nie została sporządzona; d) deklaracja zgodności UE, o której mowa w art. 47, została sporządzona nieprawidłowo; e) rejestracja w bazie danych, o której mowa w art. 71, UE nie została dokonana; f) upoważniony przedstawiciel nie został, w stosownych przypadkach, ustanowiony; g) brakuje dokumentacji technicznej. 2. W przypadku, gdy niezgodność, o której mowa w ust. 1, utrzymuje się, krajowy organ nadzoru rynku zainteresowanego państwa członkowskiego podejmuje wszelkie odpowiednie i proporcjonalne środki w celu ograniczenia lub zakazania udostępniania na rynku takiego systemu AI wysokiego ryzyka lub zapewnienia, aby system ten niezwłocznie wycofano z użytku lub z rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 84 Unijne struktury wsparcia testowania AI 1. Komisja wyznacza co najmniej jedną unijną strukturę wsparcia testowania AI do wykonywania w obszarze AI zadań wymienionych w art. 21 ust. 6 rozporządzenia (UE) 2019/1020. 2. Bez uszczerbku dla zadań, o których mowa w ust. 1, unijne struktury wsparcia testowania AI zapewniają również niezależne doradztwo techniczne lub naukowe na wniosek Rady ds. AI, Komisji lub organów nadzoru rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 85 Prawo do wniesienia skargi do organu nadzoru rynku Bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej każda osoba fizyczna lub prawna mająca podstawy, by uznać, że zostały naruszone przepisy niniejszego rozporządzenia, może wnieść skargę do odpowiedniego organu nadzoru rynku. Zgodnie z rozporządzeniem (UE) 2019/1020 takie skargi bierze się pod uwagę do celów prowadzenia działań w zakresie nadzoru rynku i rozpatruje się je zgodnie ze specjalnymi procedurami ustanowionymi w związku z tym przez organy nadzoru rynku. T Art. 60 Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga, zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym, informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 86 Prawo do uzyskania wyjaśnienia na temat procedury podejmowania decyzji w indywidualnej sprawie 1. Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. 2. Ust. 1 nie stosuje się do wykorzystywania systemów AI, w odniesieniu do których z prawa Unii lub zgodnego z prawem Unii prawa krajowego wynikają wyjątki lub ograniczenia dotyczące stosowania obowiązku ustanowionego w tym ustępie. 3. Niniejszy artykuł stosuje się jedynie w zakresie, w jakim prawo, o którym mowa w ust. 1, nie zostało inaczej ustanowione w prawie Unii. Art. 87 Zgłaszanie naruszeń i ochrona osób dokonujących zgłoszeń Do zgłaszania naruszeń niniejszego rozporządzenia oraz w kwestiach ochrony osób zgłaszających takie naruszenia stosuje się przepisy dyrektywy (UE) 2019/1937. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 88 Egzekwowanie obowiązków dostawców modeli AI ogólnego przeznaczenia 1. Komisja ma wyłączne uprawnienia do nadzorowania i egzekwowania przestrzegania przepisów rozdziału V, przy uwzględnieniu gwarancji proceduralnych na podstawie art. 94. Komisja powierza realizację tych zadań Urzędowi ds. AI, bez uszczerbku dla uprawnień organizacyjnych Komisji i podziału kompetencji między państwami członkowskimi a Unią na podstawie Traktatów. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Bez uszczerbku dla art. 75 ust. 3 organy nadzoru rynku mogą zwrócić się do Komisji o wykonanie uprawnień ustanowionych w niniejszej sekcji, w przypadku, gdy jest to konieczne i proporcjonalne w kontekście realizacji ich zadań na podstawie niniejszego rozporządzenia. Art. 89 Działania monitorujące 1. Do celów wykonywania zadań powierzonych w niniejszej sekcji Urząd ds. AI może podejmować działania niezbędne do monitorowania skutecznego wdrożenia i zapewnienia zgodności z niniejszym rozporządzeniem przez dostawców modeli AI ogólnego przeznaczenia, w tym przestrzegania przez nich zatwierdzonych kodeksów praktyk. 2. Dostawcy niższego szczebla mają prawo wniesienia skargi dotyczącej naruszenia niniejszego rozporządzenia. Skarga musi być należycie uzasadniona i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia; b) opis istotnych faktów, stosowne przepisy niniejszego rozporządzenia oraz powody, dla których dostawca niższego szczebla uważa, że dostawca systemu AI ogólnego przeznaczenia naruszył niniejsze rozporządzenie; c) wszelkie inne informacje uznane za istotne przez dostawcę niższego szczebla, który wysłał zgłoszenie, w N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 90 Ostrzeżenia o ryzyku systemowym wydawane przez panel naukowy 1. Panel naukowy może wydawać ostrzeżenia kwalifikowane skierowane do Urzędu ds. AI, w przypadku, gdy ma powody podejrzewać, że: a) model AI ogólnego przeznaczenia stwarza konkretne możliwe do zidentyfikowania ryzyko na poziomie Unii; lub b) model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51. 2. Po otrzymaniu takiego ostrzeżenia kwalifikowanego Komisja, za pośrednictwem Urzędu ds. AI i po poinformowaniu Rady ds. AI, może wykonać uprawnienia ustanowione w niniejszej sekcji do celów oceny danej sprawy. Urząd ds. AI informuje Radę ds. AI o wszelkich środkach zgodnie z art. 91-94. 3. Ostrzeżenie kwalifikowane musi być należycie uzasadnione i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia z ryzykiem systemowym; b) opis stosownych faktów i uzasadnienie wydania ostrzeżenia przez panel naukowy; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) wszelkie inne informacje, które panel naukowy uważa za istotne, w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 91 Uprawnienie do zwracania się z wnioskiem o przedstawienie dokumentacji i informacji 1. Komisja może zwrócić się do dostawcy danego modelu AI ogólnego przeznaczenia z wnioskiem o przedstawienie dokumentacji sporządzonej przez niego zgodnie art. 53 i 55 lub wszelkich dodatkowych informacji niezbędnych do celów oceny zgodności dostawcy z niniejszym rozporządzeniem. 2. Przed wysłaniem wniosku o przedstawienie informacji Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Na należycie uzasadniony wniosek panelu naukowego Komisja może skierować do dostawcy modelu AI ogólnego przeznaczenia wniosek o przedstawienie informacji, w przypadku, gdy dostęp do informacji jest niezbędny i proporcjonalny do realizacji zadań panelu naukowego na podstawie art. 68 ust. 2. 4. We wniosku o przekazanie informacji wskazuje się podstawę prawną i cel wniosku, podaje, jakie informacje stanowią przedmiot wniosku oraz określa się termin na przekazanie tych informacji, a także wskazuje przewidziane w art. 101 kary pieniężne za dostarczenie informacji nieprawidłowych, niekompletnych lub wprowadzających w błąd. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 5. Dostawca danego modelu AI ogólnego przeznaczenia lub jego przedstawiciel dostarczają informacje stanowiące przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie ma osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego dostarczają w imieniu dostawcy danego modelu AI ogólnego przeznaczenia informacje stanowiące przedmiot wniosku. Prawnicy należycie upoważnieni do działania mogą dostarczać informacje w imieniu swoich klientów. Klienci ponoszą jednak pełną odpowiedzialność, jeśli dostarczone informacje są nieprawidłowe, niekompletne lub wprowadzające w błąd. Art. 92 Uprawnienia do przeprowadzania ocen 1. Urząd ds. AI po konsultacji z Radą ds. AI może przeprowadzać oceny danego modelu AI ogólnego przeznaczenia: a) do celów oceny spełniania przez danego dostawcę obowiązków na podstawie niniejszego rozporządzenia, w przypadku, gdy informacje zgromadzone zgodnie z art. 91 są niewystarczające; lub b) do celów badania na poziomie Unii ryzyka systemowego modeli AI ogólnego przeznaczenia z ryzykiem systemowym, w szczególności w następstwie ostrzeżenia kwalifikowanego panelu naukowego zgodnie z art. 90 ust. 1 lit. a). 2. Komisja może podjąć decyzję o powołaniu niezależnych ekspertów do przeprowadzania ocen w jej N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia imieniu, w tym z panelu naukowego ustanowionego zgodnie z art. 68. Niezależni eksperci powołani do tego zadania muszą spełniać kryteria określone w art. 68 ust. 2. 3. Do celów ust. 1 Komisja może zwrócić się z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych, w tym do kodu źródłowego. 4. We wniosku o udzielenie dostępu wskazuje się podstawę prawną, cel i uzasadnienie wniosku oraz określa się termin na udzielenie tego dostępu, a także wskazuje przewidziane w art. 101 kary pieniężne za nieudzielenie dostępu. 5. Dostawcy modeli AI ogólnego przeznaczenia oraz ich przedstawiciele dostarczają informacji stanowiących przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie posiada osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego udzielają w imieniu danego dostawcy modelu AI ogólnego przeznaczenia dostępu stanowiącego przedmiot wniosku. 6. Komisja przyjmuje akty wykonawcze określające szczegółowe zasady i warunki przeprowadzania ocen, w tym szczegółowe zasady dotyczące udziału niezależnych ekspertów, oraz procedurę ich wyboru. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Przed wystąpieniem z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą danego modelu AI ogólnego przeznaczenia, aby zgromadzić więcej informacji na temat wewnętrznych testów modelu, wewnętrznych zabezpieczeń w celu zapobieżenia ryzyku systemowemu oraz innych wewnętrznych procedur i środków, jakie dostawca podjął w celu ograniczenia takiego ryzyka. Art. 93 Uprawnienia do żądania podjęcia środków 1. W miarę konieczności i w stosownych przypadkach Komisja może zwrócić się do dostawców z żądaniem dotyczącym: a) podjęcia odpowiednich środków w celu spełnienia obowiązków określonych w art. 53 i 54; b) wdrożenia środków zaradczych, w przypadku, gdy z oceny przeprowadzonej zgodnie z art. 92 wynika poważna i uzasadniona obawa wystąpienia ryzyka systemowego na poziomie Unii; c) ograniczenia udostępniania modelu na rynku, wycofania modelu z rynku lub z użytku. 2. Przed wystąpieniem z żądaniem podjęcia środka Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Jeśli w trakcie zorganizowanego dialogu, o którym mowa w ust. 2, dostawca modelu AI ogólnego przeznaczenia z ryzykiem systemowym zobowiąże się do wdrożenia środków zaradczych w celu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przeciwdziałania ryzyku systemowemu na poziomie Unii, Komisja może w drodze decyzji uczynić te zobowiązania wiążącymi i oświadczyć, że nie ma podstaw do dalszych działań. Art. 94 Prawa proceduralne podmiotów gospodarczych będących dostawcami modeli AI ogólnego przeznaczenia Art. 18. rozporządzenia (UE) 2019/1020 stosuje się odpowiednio do dostawców modeli AI ogólnego przeznaczenia, bez uszczerbku dla bardziej szczególnych praw proceduralnych przewidzianych w niniejszym rozporządzeniu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 95 Kodeksy postępowania do celów dobrowolnego stosowania szczególnych wymogów 1. Urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. 2. Urząd ds. AI i państwa członkowskie ułatwiają opracowywanie kodeksów postępowania dotyczących dobrowolnego stosowania, również przez podmioty stosujące, szczególnych wymogów w odniesieniu do T Art. 98 Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. wszystkich systemów AI, na podstawie jasnych celów i kluczowych wskaźników skuteczności działania służących do pomiaru stopnia realizacji tych celów, w tym między innymi następujących elementów: a) mające zastosowanie elementy przewidziane w unijnych wytycznych etycznych dotyczących godnej zaufania AI; b) ocena i minimalizacja oddziaływania systemów AI na zrównoważenie środowiskowe, w tym w odniesieniu do energooszczędnego programowania i technik wydajnego projektowania, trenowania i wykorzystywania AI; c) promowanie kompetencji w zakresie AI, w szczególności w odniesieniu do osób mających związek z rozwojem, działaniem i wykorzystywaniem AI; d) sprzyjanie inkluzywności i różnorodności przy projektowaniu systemów AI, w tym poprzez tworzenie inkluzywnych i różnorodnych zespołów programistycznych oraz promowanie udziału zainteresowanych stron w tym procesie; e) ocena i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z punktu widzenia dostępności dla osób z niepełnosprawnościami, jak również na równość płci. 3. Kodeksy postępowania mogą być opracowywane przez poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, w tym przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Kodeksy postępowania mogą obejmować jeden lub większą liczbę systemów AI, przy uwzględnieniu podobieństw w przeznaczeniu danych systemów. 4. W ramach zachęcania do opracowywania kodeksów postępowania i ułatwiania ich opracowywania Urząd ds. AI i państwa członkowskie uwzględniają szczególne interesy i potrzeby MŚP, w tym przedsiębiorstw typu startup. Art. 96 Wytyczne Komisji w sprawie wdrożenia niniejszego rozporządzenia 1. Komisja opracowuje wytyczne dotyczące praktycznego wdrażania niniejszego rozporządzenia, a w szczególności: a) stosowania wymogów i obowiązków, o których mowa w art. 8-15 i art. 25; b) zakazanych praktyk, o których mowa w art. 5; c) praktycznego wdrażania przepisów dotyczących istotnych zmian; d) praktycznego wdrażania obowiązków w zakresie przejrzystości ustanowionych w art. 50; e) podawania szczegółowych informacji na temat powiązań między niniejszym rozporządzeniem a unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, jak również z innym N Przepis stosowany wprost nie wymaga wdrożenia odpowiednim prawem Unii, w tym w odniesieniu do spójności jego egzekwowania; f) stosowania definicji systemu AI określonej w art. 3 pkt 1. Przy wydawaniu takich wytycznych Komisja zwraca szczególną uwagę na potrzeby MŚP, w tym przedsiębiorstw typu startup, lokalnych organów publicznych i sektorów, na które niniejsze rozporządzenie może mieć największy wpływ. Wytyczne, o których mowa w akapicie pierwszym niniejszego ustępu, uwzględniają powszechnie uznany stan wiedzy technicznej w zakresie AI, jak również odpowiednie normy zharmonizowane i wspólne specyfikacje, o których mowa w art. 40 i 41, lub te normy zharmonizowane lub specyfikacje techniczne, które zostały określone zgodnie z unijnym prawodawstwem harmonizacyjnym. 2. Na wniosek państw członkowskich lub Urzędu ds. AI lub z własnej inicjatywy Komisja aktualizuje przyjęte wcześniej wytyczne, jeżeli zostanie to uznane za konieczne. Art. 97 Wykonywanie przekazanych uprawnień 1. Powierzenie Komisji uprawnień do przyjmowania aktów delegowanych podlega warunkom określonym w niniejszym artykule. 2. Uprawnienia do przyjmowania aktów delegowanych, o których mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, N Przepis stosowany wprost nie wymaga wdrożenia art. 52 ust. 4 i art. 53 ust. 5 i 6 powierza się Komisji na okres pięciu lat od dnia 1 sierpnia 2024 r. Komisja sporządza sprawozdanie dotyczące przekazania uprawnień nie później niż dziewięć miesięcy przed końcem okresu pięciu lat. Przekazanie uprawnień zostaje automatycznie przedłużone na takie same okresy, chyba że Parlament Europejski lub Rada sprzeciwią się takiemu przedłużeniu nie później niż trzy miesiące przed końcem każdego okresu. 3. Przekazanie uprawnień, o którym mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 i art. 53 ust. 5 i 6, może zostać w dowolnym momencie odwołane przez Parlament Europejski lub przez Radę. Decyzja o odwołaniu kończy przekazanie określonych w niej uprawnień. Decyzja o odwołaniu staje się skuteczna następnego dnia po jej opublikowaniu w Dzienniku Urzędowym Unii Europejskiej lub w późniejszym terminie określonym w tej decyzji. Nie wpływa ona na ważność jakichkolwiek już obowiązujących aktów delegowanych. 4. Przed przyjęciem aktu delegowanego Komisja konsultuje się z ekspertami wyznaczonymi przez każde państwo członkowskie zgodnie z zasadami określonymi w Porozumieniu międzyinstytucjonalnym z dnia 13 kwietnia 2016 r. w sprawie lepszego stanowienia prawa. 5. Niezwłocznie po przyjęciu aktu delegowanego Komisja przekazuje go równocześnie Parlamentowi Europejskiemu i Radzie. 6. Akt delegowany przyjęty na podstawie art. 6 ust. 6 lub 7, art. 7 ust. 1 lub 3, art. 11 ust. 3, art. 43 ust. 5 lub 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 lub art. 53 ust. 5 lub 6 wchodzi w życie tylko wówczas, gdy ani Parlament Europejski, ani Rada nie wyraziły sprzeciwu w terminie trzech miesięcy od przekazania tego aktu Parlamentowi Europejskiemu i Radzie lub gdy, przed upływem tego terminu, zarówno Parlament Europejski, jak i Rada poinformowały Komisję, że nie wniosą sprzeciwu. Termin ten przedłuża się o trzy miesiące z inicjatywy Parlamentu Europejskiego lub Rady. Art. 98 Procedura komitetowa 1. Komisję wspomaga komitet. Komitet ten jest komitetem w rozumieniu rozporządzenia (UE) nr 182/2011. 2. W przypadku odesłania do niniejszego ustępu stosuje się art. 5 rozporządzenia (UE) nr 182/2011. N Przepis stosowany wprost nie wymaga wdrożenia Art. 99 Kary 1. Zgodnie z zasadami i warunkami ustanowionymi w niniejszym rozporządzeniu państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, mających zastosowanie w przypadku naruszeń przepisów niniejszego rozporządzenia przez operatorów i podejmują wszelkie niezbędne środki w celu zapewnienia ich właściwego i skutecznego wykonywania, z uwzględnieniem wytycznych wydanych przez Komisję zgodnie z art. 96. T Art. 100 Art. 101 Art. 103 Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia Regulacja zakłada uwzględnienie indywidualnej sytuacji podmiotu na podstawie dostarczonych przez niego dokumentów. Przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. Uwzględniają one interesy MŚP, w tym przedsiębiorstw typu startup oraz ich sytuację ekonomiczną. 2. Państwa członkowskie niezwłocznie, nie później jednak niż do dnia rozpoczęcia stosowania, powiadamiają Komisję o przepisach dotyczących kar i innych środków egzekwowania prawa, o których mowa w ust. 1, jak również o ich wszelkich późniejszych zmianach. 3. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 4. Nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa: a) obowiązki dostawców zgodnie z art. 16; b) obowiązki upoważnionych przedstawicieli zgodnie z art. 22; przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania c) obowiązki importerów zgodnie z art. 23; d) obowiązki dystrybutorów zgodnie z art. 24; e) obowiązki podmiotów stosujących zgodnie z art. 26; f) wymogi i obowiązki jednostek notyfikowanych zgodnie z art. 31, art. 33 ust. 1, 3 i 4 lub art. 34; g) obowiązki dostawców i podmiotów stosujących w zakresie przejrzystości zgodnie z art. 50. 5. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 6. W przypadku MŚP, w tym przedsiębiorstw typu startup, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa. 7. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości w każdej indywidualnej sprawie, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się w stosownych przypadkach uwagę na: dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji, przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) to, czy inne organy nadzoru rynku nałożyły już na tego samego operatora administracyjne kary pieniężne za to samo naruszenie; c) to, czy inne organy nałożyły już administracyjne kary pieniężne na tego samego operatora za naruszenia innych przepisów prawa Unii lub prawa krajowego, w przypadku, gdy takie naruszenia wynikają z tego samego działania lub zaniechania stanowiącego odpowiednie naruszenie niniejszego rozporządzenia; d) wielkość operatora dopuszczającego się naruszenia, jego roczny obrót i udział w rynku; e) wszelkie inne obciążające lub łagodzące czynniki mające zastosowanie do okoliczności sprawy, takie jak powiązane bezpośrednio lub pośrednio z danym naruszeniem osiągnięte korzyści finansowe lub uniknięte straty; f) stopień współpracy z właściwymi organami krajowymi w celu usunięcia naruszenia oraz złagodzenia jego ewentualnych niepożądanych skutków; g) stopień odpowiedzialności operatora, z uwzględnieniem wdrożonych przez niego środków technicznych i organizacyjnych; pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. )), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub h) sposób, w jaki właściwe organy krajowe dowiedziały się o naruszeniu, w szczególności, czy i w jakim zakresie operator zgłosił naruszenie; i) umyślny lub wynikający z zaniedbania charakter naruszenia; j) wszelkie działania podjęte przez operatora w celu złagodzenia szkody poniesionej przez poszkodowane osoby. 8. Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. 9. W zależności od systemu prawnego państw członkowskich przepisy dotyczące administracyjnych kar pieniężnych można stosować w taki sposób, że kary w tych państwach członkowskich są nakładane, stosownie do przypadku, przez właściwe sądy krajowe lub inne odpowiednie organy. Stosowanie takich przepisów w tych państwach członkowskich ma skutek równoważny. 10. Wykonywanie uprawnień na podstawie niniejszego artykułu podlega odpowiednim zabezpieczeniom proceduralnym zgodnie z prawem Unii i prawem krajowym, obejmującym prawo do skutecznych środka zaskarżenia i rzetelnego postępowania sądowego. 11. Państwa członkowskie co roku składają Komisji sprawozdanie dotyczące administracyjnych kar pieniężnych, które nałożyły w danym roku zgodnie z uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. niniejszym artykułem, oraz dotyczące wszelkich powiązanych sporów lub postępowań sądowych. Art. 100 Administracyjne kary pieniężne nakładane na instytucje, organy i jednostki organizacyjne Unii 1. Europejski Inspektor Ochrony Danych może nakładać administracyjne kary pieniężne na instytucje, organy i jednostki organizacyjne Unii objęte zakresem stosowania niniejszego rozporządzenia. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się należytą uwagę na: a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji; przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) stopień odpowiedzialności instytucji, organu lub jednostki organizacyjnej Unii, z uwzględnieniem wdrożonych przez nie środków technicznych i organizacyjnych; c) wszelkie działania podjęte przez instytucję, organ lub jednostkę organizacyjną Unii w celu złagodzenia szkody poniesionej przez osoby poszkodowane; d) stopień współpracy z Europejskim Inspektorem Ochrony Danych w celu usunięcia naruszenia i złagodzenia jego ewentualnych niepożądanych skutków, N Przepis stosowany wprost nie wymaga wdrożenia w tym zastosowanie się do wszelkich środków zarządzonych wcześniej przez Europejskiego Inspektora Ochrony Danych wobec danej instytucji, organu lub jednostki organizacyjnej Unii w odniesieniu do tej samej kwestii; e) wszelkie podobne wcześniejsze naruszenia dokonane przez instytucję, organ lub jednostkę organizacyjną Unii; f) sposób, w jaki Europejski Inspektor Ochrony Danych dowiedział się o naruszeniu, w szczególności, czy i w jakim zakresie instytucja, organ lub jednostka organizacyjna Unii zgłosili naruszenie; g) roczny budżet instytucji, organu lub jednostki organizacyjnej Unii. 2. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnym karom pieniężnym w wysokości do 1 500 000 EUR. 3. Niezgodność systemu AI z jakimikolwiek wymogami lub obowiązkami wynikającymi z niniejszego rozporządzenia, innymi niż te ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 750 000 EUR. 4. Przed podjęciem decyzji na podstawie niniejszego artykułu Europejski Inspektor Ochrony Danych zapewnia instytucji, organowi lub jednostce organizacyjnej Unii, które są przedmiotem postępowania prowadzonego przez Europejskiego Inspektora Ochrony Danych, możliwość bycia wysłuchanym w sprawie dotyczącej ewentualnego naruszenia. Podstawą decyzji wydanej przez Europejskiego Inspektora Ochrony Danych mogą być wyłącznie elementy i okoliczności, co do których zainteresowane strony mogły się wypowiedzieć. Skarżący, jeżeli tacy istnieją, musza zostać ściśle włączeni w postępowanie. 5. W toku postępowania w pełni respektuje się prawo zainteresowanych stron do obrony. Strony mają prawo dostępu do akt Europejskiego Inspektora Ochrony Danych, z zastrzeżeniem prawnie uzasadnionego interesu osób fizycznych i przedsiębiorstw w zakresie ochrony ich danych osobowych lub tajemnic handlowych. 6. Środki finansowe pochodzące z kar pieniężnych nałożonych na podstawie niniejszego artykułu zasilają budżet ogólny Unii. Te kary pieniężne nie mogą mieć wpływu na skuteczne funkcjonowanie instytucji, organu lub jednostki organizacyjnej Unii, na które nałożono karę. 7. Europejski Inspektor Ochrony Danych co roku powiadamia Komisję o administracyjnych karach pieniężnych, które nałożył zgodnie z niniejszym artykułem, oraz o wszelkich wszczętych przez siebie postępowaniach spornych lub sądowych. Art. 101 Kary pieniężne dla dostawców modeli AI ogólnego przeznaczenia 1. Komisja może nakładać na dostawców modeli AI ogólnego przeznaczenia kary pieniężne nieprzekraczające 3 % ich całkowitego rocznego N Przepis stosowany wprost nie wymaga wdrożenia światowego obrotu w poprzednim roku obrotowym lub 15 000 000 EUR, w zależności od tego, która z tych kwot jest wyższa, jeśli ustali, że dostawca celowo lub w wyniku zaniedbania: a) naruszył odpowiednie przepisy niniejszego rozporządzenia; b) nie zastosował się do wniosku o przedstawienie dokumentu lub informacji zgodnie z art. 91 lub dostarczył informacje nieprawidłowe, niekompletne lub wprowadzające w błąd; c) nie zastosował się do środka wymaganego na podstawie art. 93; d) nie udzielił Komisji dostępu - w celu przeprowadzenia oceny zgodnie z art. 92 - do modelu A ogólnego przeznaczenia lub modelu AI ogólnego przeznaczenia z ryzykiem systemowym. Przy ustalaniu kwoty kary pieniężnej lub okresowej kary pieniężnej bierze się pod uwagę charakter, wagę i czas trwania naruszenia, z należytym uwzględnieniem zasad proporcjonalności i adekwatności. Komisja uwzględnia również zobowiązania podjęte zgodnie z art. 93 ust. 3 lub podjęte w odpowiednich kodeksach praktyki zgodnie z art. 56. 2. Przed przyjęciem decyzji na podstawie ust. 1 Komisja przekazuje swoje wstępne ustalenia dostawcy modelu AI ogólnego przeznaczenia i daje mu możliwość bycia wysłuchanym. 3. Kary pieniężne nakładane zgodnie z niniejszym artykułem muszą być skuteczne, proporcjonalne i odstraszające. 4. Informacje na temat kar pieniężnych nałożonych na podstawie niniejszego artykułu przekazuje się w stosownych przypadkach również Radzie ds. AI. 5. Trybunał Sprawiedliwości Unii Europejskiej ma nieograniczoną jurysdykcję w zakresie przeprowadzania kontroli decyzji Komisji ustalających karę pieniężną na podstawie niniejszego artykułu. Trybunał Sprawiedliwości Unii Europejskiej może uchylić, obniżyć lub podwyższyć nałożoną karę pieniężną. 6. Komisja przyjmuje akty wykonawcze zawierające szczegółowe zasady oraz zabezpieczenia proceduralne dotyczące postępowania w celu ewentualnego przyjęcia decyzji na podstawie ust. 1 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 102 Zmiana rozporządzenia (WE) nr 300/2008 W art. 4 ust. 3 rozporządzenia (WE) nr 300/2008 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu szczegółowych środków związanych ze specyfikacjami technicznymi i procedurami zatwierdzania sprzętu służącego do ochrony i korzystania z niego w przypadku systemów AI w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi ustanowione w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 103 Zmiana rozporządzenia (UE) nr 167/2013 W art. 17 ust. 5 rozporządzenia (UE) nr 167/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 104 Zmiana rozporządzenia (UE) nr 168/2013 W art. 22 ust. 5 rozporządzenia (UE) nr 168/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 105 Zmiana dyrektywy 2014/90/UE W art. 8 dyrektywy 2014/90/UE dodaje się ustęp w brzmieniu: N Przepis stosowany wprost nie wymaga wdrożenia \"5. W odniesieniu do systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, przy wykonywaniu swoich działań zgodnie z ust. 1 oraz przy przyjmowaniu specyfikacji technicznych i norm badań zgodnie z ust. 2 i 3 Komisja uwzględnia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 106 Zmiana dyrektywy (UE) 2016/797 W art. 5 dyrektywy (UE) 2016/797 dodaje się ustęp w brzmieniu: \"12. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 oraz aktów wykonawczych na podstawie ust. 11 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 107 Zmiana rozporządzenia (UE) 2018/858 W art. 5 rozporządzenia (UE) 2018/858 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 3 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 108 Zmiany w rozporządzeniu (UE) 2018/1139 W rozporządzeniu (UE) 2018/1139 wprowadza się następujące zmiany: 1) w art. 17 dodaje się ustęp w brzmieniu: \"3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" 2) w art. 19 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 3) w art. 43 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". N Przepis stosowany wprost nie wymaga wdrożenia 4) w art. 47 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 5) w art. 57 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu tych aktów wykonawczych dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 6) w art. 58 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". Art. 109 Zmiana rozporządzenia (UE) 2019/2144 W art. 11 rozporządzenia (UE) 2019/2144 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem N Przepis stosowany wprost nie wymaga wdrożenia elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia. Art. 110 Zmiana dyrektywy (UE) 2020/1828 W załączniku I do dyrektywy Parlamentu Europejskiego i Rady (UE) 2020/1828 dodaje się punkt w brzmieniu: \"(68) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektywy 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).\". N Przepis stosowany wprost nie wymaga wdrożenia Art. 111 Systemy AI już wprowadzone do obrotu lub oddane do użytku oraz modele AI ogólnego przeznaczenia już wprowadzone do obrotu 1. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a), do dnia 31 grudnia 2030 r. zapewnia się zgodność z niniejszym rozporządzeniem w odniesieniu do systemów AI, które stanowią elementy wielkoskalowych systemów informatycznych utworzonych na podstawie aktów prawnych wymienionych w załączniku X i które wprowadzono do N Przepis stosowany wprost nie wymaga wdrożenia obrotu lub oddano do użytku przed dniem 2 sierpnia 2027 r. Wymogi ustanowione w niniejszym rozporządzeniu uwzględnia się w ocenach każdego wielkoskalowego systemu informatycznego utworzonego na podstawie aktów prawnych wymienionych w załączniku X, które to oceny przeprowadza się zgodnie z tymi aktami oraz w przypadku, gdy te akty prawne są zastępowane lub zmieniane. 2. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a) niniejsze rozporządzenie stosuje się do operatorów systemów AI wysokiego ryzyka innych niż systemy, o których mowa w ust. 1 niniejszego artykułu, które zostały wprowadzone do obrotu lub oddane do użytku przed dniem 2 sierpnia 2026 r. tylko wtedy, gdy po tej dacie w systemach tych wprowadzane będą istotne zmiany w ich projekcie. W każdym razie dostawcy systemów AI wysokiego ryzyka i podmioty stosujące takie systemy, które są przeznaczone do wykorzystywania przez organy publiczne, podejmują niezbędne kroki w celu zapewnienia zgodności z wymogami i spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2030 r. 3. Dostawcy modeli AI ogólnego przeznaczenia, które zostały wprowadzone do obrotu przed dniem 2 sierpnia 2025 r., podejmują niezbędne kroki w celu spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2027 r. Art. 112 Ocena i przegląd 1. Komisja ocenia potrzebę wprowadzenia zmian w wykazie zawartym w załączniku III oraz w ustanowionym w art. 5 wykazie zakazanych praktyk w zakresie AI raz w roku, począwszy od dnia wejścia w życie niniejszego rozporządzenia do końca okresu przekazania uprawnień ustanowionych w art. 97. Komisja przedstawia ustalenia z tej oceny Parlamentowi Europejskiemu i Radzie. 2. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata Komisja przeprowadza ocenę i przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie dotyczące: a) konieczności zmian w postaci rozszerzenia istniejących nagłówków dotyczących obszarów lub dodania nowych nagłówków dotyczących obszarów w załączniku III; b) zmian wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości określonych w art. 50; c) zmian w celu poprawy skuteczności systemu nadzoru i zarządzania. 3. Do dnia 2 sierpnia 2029 r., a następnie co cztery lata Komisja przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie z oceny i przeglądu niniejszego rozporządzenia. Sprawozdanie zawiera ocenę struktury egzekwowania przepisów i ewentualnej konieczności usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Na podstawie tych ustaleń do N Przepis stosowany wprost nie wymaga wdrożenia sprawozdania dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia. Sprawozdania te są podawane do wiadomości publicznej. 4. W sprawozdaniach, o których mowa w ust. 2, szczególną uwagę zwraca się na następujące kwestie: a) stan zasobów finansowych, technicznych i ludzkich właściwych organów krajowych konieczny, by mogły one skutecznie wykonywać zadania powierzone im na podstawie niniejszego rozporządzenia; b) sytuację w zakresie kar, a w szczególności administracyjnych kar pieniężnych, o których mowa w art. 99 ust. 1, nakładanych przez państwa członkowskie w przypadku naruszenia niniejszego rozporządzenia; c) przyjęte normy zharmonizowane i wspólne specyfikacje opracowane w celu wsparcia niniejszego rozporządzenia; d) liczbę przedsiębiorstw wchodzących na rynek po rozpoczęciu stosowania niniejszego rozporządzenia oraz jaką część z nich stanowią MŚP. 5. Do dnia 2 sierpnia 2028 r. Komisja ocenia funkcjonowanie Urzędu ds. AI, czy przyznano mu uprawnienia i kompetencje wystarczające do wykonywania jego zadań oraz czy dla właściwego wdrożenia i egzekwowania niniejszego rozporządzenia stosowne i potrzebne byłoby wzmocnienie Urzędu ds. AI i zwiększenie jego uprawnień w zakresie egzekucji, a także zwiększenie jego zasobów. Komisja przedkłada sprawozdanie z oceny Parlamentowi Europejskiemu i Radzie. 6. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata, Komisja przedkłada sprawozdanie z przeglądu postępów w opracowywaniu dokumentów normalizacyjnych dotyczących wydajnego pod względem energii rozwoju modeli AI ogólnego przeznaczenia oraz ocenia konieczność podjęcia dalszych środków lub działań, w tym wiążących środków lub działań. Sprawozdanie to przedkłada się Parlamentowi Europejskiemu i Radzie i podaje do wiadomości publicznej. 7. Do dnia 2 sierpnia 2028 r., a następnie co trzy lata Komisja ocenia wpływ i skuteczność dobrowolnych kodeksów postępowania mających na celu propagowanie wymogów ustanowionych w rozdziale III sekcja 2 w odniesieniu do systemów AI innych niż systemy AI wysokiego ryzyka oraz ewentualnie innych dodatkowych wymogów dotyczących systemów AI, w tym w zakresie zrównoważenia środowiskowego. 8. Do celów ust. 1-7 Rada ds. AI, państwa członkowskie i właściwe organy krajowe przekazują Komisji informacje na jej wniosek i bez zbędnej zwłoki. 9. Dokonując ocen i przeglądów, o których mowa w ust. 1-7, Komisja uwzględnia stanowiska i ustalenia Rady ds. AI, Parlamentu Europejskiego, Rady oraz innych stosownych podmiotów lub źródeł. 10. W razie potrzeby Komisja przedkłada odpowiednie wnioski dotyczące zmiany niniejszego rozporządzenia, uwzględniając w szczególności rozwój technologii, wpływ systemów AI na zdrowie i bezpieczeństwo oraz na prawa podstawowe, oraz postępy dokonane w społeczeństwie informacyjnym. 11. W celu ukierunkowania ocen i przeglądów, o których mowa w ust. 1-7 niniejszego artykułu, Urząd ds. AI opracowuje obiektywną i partycypacyjną metodykę oceny poziomów ryzyka w oparciu o kryteria określone w odpowiednich artykułach i włączania nowych systemów do: a) wykazu określonego w załączniku III, łącznie z rozszerzeniem istniejących nagłówków dotyczących obszarów lub dodaniem nowych nagłówków dotyczących obszarów w tym załączniku; b) określonego w art. 5 wykazu zakazanych praktyk; oraz c) wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości zgodnie z art. 50. 12. Wszelkie zmiany niniejszego rozporządzenia zgodnie z ust. 10 lub odpowiednie akty delegowane i wykonawcze, które dotyczą unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja B, uwzględniają specyfikę regulacyjną każdego sektora oraz istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania, jak również działalność organów ustanowionych dla danego sektora. 13. Do dnia 2 sierpnia 2031 r. Komisja przeprowadza ocenę egzekwowania niniejszego rozporządzenia i przedkłada sprawozdanie z tej oceny Parlamentowi Europejskiemu, Radzie i Europejskiemu Komitetowi Ekonomiczno-Społecznemu, uwzględniając pierwsze lata stosowania niniejszego rozporządzenia. Na podstawie dokonanych ustaleń do sprawozdania tego dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia w odniesieniu do struktury egzekwowania przepisów i potrzeby usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Art. 113 Wejście w życie i rozpoczęcie stosowania Niniejsze rozporządzenie wchodzi w życie dwudziestego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej. Niniejsze rozporządzenie stosuje się od dnia 2 sierpnia 2026 r. Jednakże: a) rozdziały I i II stosuje się od dnia 2 lutego 2025 r.; b) rozdział III sekcja 4, rozdział V, rozdział VII i rozdział XII oraz art. 78 stosuje się od dnia 2 sierpnia 2025 r., z wyjątkiem art. 101; c) art. 6 ust. 1 i odpowiadające mu obowiązki ustanowione w niniejszym rozporządzeniu stosuje się od dnia 2 sierpnia 2027 r. Niniejsze rozporządzenie wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich. N Przepis stosowany wprost nie wymaga wdrożenia Sporządzono w Brukseli dnia 13 czerwca 2024 r. Załączni k I Wykaz unijnego prawodawstwa harmonizacyjnego Sekcja A. Wykaz unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych 1.Dyrektywa 2006/42/WE Parlamentu Europejskiego i Rady z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (Dz.U. L 157 z 9.6.2006, s. 24); 2.Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1); 3.Dyrektywa Parlamentu Europejskiego i Rady 2013/53/UE z dnia 20 listopada 2013 r. w sprawie rekreacyjnych jednostek pływających i skuterów wodnych i uchylająca dyrektywę 94/25/WE (Dz.U. L 354 z 28.12.2013, s. 90); 4.Dyrektywa Parlamentu Europejskiego i Rady 2014/33/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących dźwigów i elementów bezpieczeństwa do dźwigów (Dz.U. L 96 z 29.3.2014, s. 251); 5.Dyrektywa Parlamentu Europejskiego i Rady 2014/34/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do urządzeń i systemów ochronnych N Przepis stosowany wprost nie wymaga wdrożenia przeznaczonych do użytku w atmosferze potencjalnie wybuchowej (Dz.U. L 96 z 29.3.2014, s. 309); 6.Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62); 7.Dyrektywa Parlamentu Europejskiego i Rady 2014/68/UE z dnia 15 maja 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do udostępniania na rynku urządzeń ciśnieniowych (Dz. U. L 189 z 27.6.2014, s. 164); 8.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/424 z dnia 9 marca 2016 r. w sprawie urządzeń kolei linowych i uchylenia dyrektywy 2000/9/WE (Dz.U. L 81 z 31.3.2016, s. 1); 9.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/425 z dnia 9 marca 2016 r. w sprawie środków ochrony indywidualnej oraz uchylenia dyrektywy Rady 89/686/EWG (Dz.U. L 81 z 31.3.2016, s. 51); 10.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/426 z dnia 9 marca 2016 r. w sprawie urządzeń spalających paliwa gazowe oraz uchylenia dyrektywy 2009/142/WE (Dz.U. L 81 z 31.3.2016, s. 99); 11.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG (Dz.U. L 117 z 5.5.2017, s. 1); 12.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE (Dz. U. L 117 z 5.5.2017, s. 176). Sekcja B. Wykaz innego unijnego prawodawstwa harmonizacyjnego 13.Rozporządzenie Parlamentu Europejskiego i Rady (WE) nr 300/2008 z dnia 11 marca 2008 r. w sprawie wspólnych zasad w dziedzinie ochrony lotnictwa cywilnego i uchylające rozporządzenie (WE) nr 2320/2002 (Dz.U. L 97 z 9.4.2008, s. 72); 14.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 168/2013 z dnia 15 stycznia 2013 r. w sprawie homologacji i nadzoru rynku pojazdów dwu- lub trzykołowych oraz czterokołowców (Dz.U. L 60 z 2.3.2013, s. 52); 15.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 167/2013 z dnia 5 lutego 2013 r. w sprawie homologacji i nadzoru rynku pojazdów rolniczych i leśnych (Dz.U. L 60 z 2.3.2013, s. 1); 16.Dyrektywa Parlamentu Europejskiego i Rady 2014/90/UE z dnia 23 lipca 2014 r. w sprawie wyposażenia morskiego i uchylająca dyrektywę Rady 96/98/WE (Dz.U. L 257 z 28.8.2014, s. 146); 17.Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/797 z dnia 11 maja 2016 r. w sprawie interoperacyjności systemu kolei w Unii Europejskiej (Dz.U. L 138 z 26.5.2016, s. 44); 18.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 z dnia 30 maja 2018 r. w sprawie homologacji i nadzoru rynku pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, zmieniające rozporządzenie (WE) nr 715/2007 i (WE) nr 595/2009 oraz uchylające dyrektywę 2007/46/WE (Dz.U. L 151 z 14.6.2018, s. 1); 19.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/2144 z dnia 27 listopada 2019 r. w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, zmieniające rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 oraz uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 78/2009, (WE) nr 79/2009 i (WE) nr 661/2009 oraz rozporządzenia Komisji (WE) nr 631/2009, (UE) nr 406/2010, (UE) nr 672/2010, (UE) nr 1003/2010, (UE) nr 1005/2010, (UE) nr 1008/2010, (UE) nr 1009/2010, (UE) nr 19/2011, (UE) nr 109/2011, (UE) nr 458/2011, (UE) nr 65/2012, (UE) nr 130/2012, (UE) nr 347/2012, (UE) nr 351/2012, (UE) nr 1230/2012 i (UE) 2015/166 (Dz.U. L 325 z 16.12.2019, s. 1); 20.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1139 z dnia 4 lipca 2018 r. w sprawie wspólnych zasad w dziedzinie lotnictwa cywilnego i utworzenia Agencji Unii Europejskiej ds. Bezpieczeństwa Lotniczego oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 2111/2005, (WE) nr 1008/2008, (UE) nr 996/2010, (UE) nr 376/2014 i dyrektywy Parlamentu Europejskiego i Rady 2014/30/UE i 2014/53/UE, a także uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 552/2004 i (WE) nr 216/2008 i rozporządzenie Rady (EWG) nr 3922/91 (Dz.U. L 212 z 22.8.2018, s. 1) w zakresie projektowania, produkcji i wprowadzania do obrotu statków powietrznych, o których mowa w art. 2 ust. 1 lit. a) i b), w odniesieniu do bezzałogowych statków powietrznych oraz ich silników, śmigieł, części i wyposażenia do zdalnego sterowania statkami powietrznymi. Załączni k II Wykaz przestępstw, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii) Przestępstwa, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii): –terroryzm, N Załącznik stosowany wprost nie wymaga wdrożenia –handel ludźmi, – wykorzystywanie seksualne dzieci i pornografia dziecięca, – nielegalny obrót środkami odurzającymi lub substancjami psychotropowymi, – nielegalny handel bronią, amunicją lub materiałami wybuchowymi, – zabójstwo, ciężkie uszkodzenie ciała, – nielegalny obrót organami lub tkankami ludzkimi, – nielegalny handel materiałami jądrowymi lub promieniotwórczymi, – uprowadzenie, bezprawne przetrzymywanie lub wzięcie zakładników, – przestępstwa podlegające jurysdykcji Międzynarodowego Trybunału Karnego, – bezprawne zawładnięcie statkiem powietrznym lub statkiem, – zgwałcenie, – przestępstwo przeciw środowisku, – rozbój w formie zorganizowanej lub rozbój przy użyciu broni, – sabotaż, – udział w organizacji przestępczej uczestniczącej w co najmniej jednym z wyżej wymienionych przestępstw. Załączni k III Systemy AI wysokiego ryzyka, o których mowa w art. 6 ust. 2 Systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 2 to systemy AI wymienione w którymkolwiek z poniższych obszarów: 1. Biometria, w zakresie, w jakim jej stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy zdalnej identyfikacji biometrycznej. Nie obejmuje to systemów AI przeznaczonych do wykorzystania przy weryfikacji biometrycznej, której jedynym celem jest potwierdzenie, że określona osoba fizyczna jest osobą, za którą się podaje; b) systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech; c) systemy AI przeznaczone do wykorzystania przy rozpoznawaniu emocji. 2. Infrastruktura krytyczna: systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną. N Załącznik stosowany wprost nie wymaga wdrożenia 3. Kształcenie i szkolenie zawodowe: a) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji o dostępie lub przyjęciu do instytucji edukacyjnych i instytucji szkolenia zawodowego lub przydzielania osób do tych instytucji na wszystkich poziomach; b) systemy AI przeznaczone do wykorzystywania do celów oceny efektów uczenia się, także w przypadku, gdy efekty te są wykorzystywane do kierowania procesem uczenia się osób fizycznych w instytucjach edukacyjnych i instytucjach szkolenia zawodowego na wszystkich poziomach; c) systemy AI przeznaczone do wykorzystywania do celów oceny odpowiedniego poziomu wykształcenia, jaki dana osoba otrzyma lub do jakiego będzie mogła mieć dostęp w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach; d) systemy AI przeznaczone do wykorzystywania do celów monitorowania i wykrywania niedozwolonego zachowania uczniów podczas testów w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach. 4. Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia: a) systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów; b) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach. 5. Dostęp do podstawowych usług prywatnych oraz podstawowych usług i świadczeń publicznych, a także korzystanie z nich: a) systemy AI przeznaczone do wykorzystywania przez organy publiczne lub w imieniu organów publicznych w celu oceny kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych, w tym opieki zdrowotnej, jak również w celu przyznawania, ograniczania, odwoływania lub żądania zwrotu takich świadczeń i usług; b) systemy AI przeznaczone do wykorzystywania do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; c) systemy AI przeznaczone do wykorzystywania przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego; d) systemy AI przeznaczone do oceny i klasyfikacji zgłoszeń alarmowych dokonywanych przez osoby fizyczne lub do wykorzystywania w celu wysyłania lub ustalania priorytetów w wysyłaniu służb pierwszej pomocy, w tym policji, straży pożarnej i pomocy medycznej, a także w ramach systemów oceny stanu zdrowia pacjentów w nagłych wypadkach. 6. Ściganie przestępstw, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania lub w ich imieniu do oceny ryzyka, że osoba fizyczna stanie się ofiarą przestępstwa; b) systemy AI przeznaczone do wykorzystywania jako wariografy lub podobne narzędzia przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania; c) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny wiarygodności dowodów w toku ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie; d) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny ryzyka, że osoba fizyczna popełni lub ponownie popełni przestępstwo, przeprowadzanej nie tylko na podstawie profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, lub do oceny cech osobowości i charakteru lub uprzedniego zachowania przestępczego osób fizycznych lub grup; e) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, w toku wykrywania i ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie. 7. Zarządzanie migracją, azylem i kontrolą graniczną, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii jako wariografy lub podobne narzędzia; b) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów oceny ryzyka, w tym ryzyka dla bezpieczeństwa, ryzyka migracji nieuregulowanej lub ryzyka dla zdrowia, stwarzanych przez osobę fizyczną, która zamierza wjechać lub wjechała na terytorium państwa członkowskiego; c) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów wspierania właściwych organów publicznych przy rozpatrywaniu wniosków o udzielenie azylu, o wydanie wizy lub dokumentów pobytowych oraz związanych z nimi skarg w odniesieniu do kwalifikowalności osób fizycznych ubiegających się o przyznanie określonego statusu, w tym przy powiązanej ocenie wiarygodności dowodów; d) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w kontekście zarządzania migracją, azylem i kontrolą graniczną, do celów wykrywania, rozpoznawania lub identyfikacji osób fizycznych, z wyjątkiem weryfikacji dokumentów podróży. 8. Sprawowanie wymiaru sprawiedliwości i procesy demokratyczne: a) systemy AI przeznaczone do wykorzystywania przez organ wymiaru sprawiedliwości lub w jego imieniu w celu wspomagania organu wymiaru sprawiedliwości w badaniu i interpretacji stanu faktycznego i przepisów prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego lub do wykorzystywania w podobny sposób w alternatywnych metodach rozwiązywania sporów; b) systemy AI przeznaczone do wykorzystywania w celu wywierania wpływu na wynik wyborów lub referendum lub na zachowanie osób fizycznych podczas głosowania w wyborach lub referendach. Nie obejmuje to systemów AI, na których wyniki osoby fizyczne nie są bezpośrednio narażone, takich jak narzędzia wykorzystywane do organizowania, optymalizacji lub strukturyzowania kampanii politycznych z administracyjnego lub logistycznego punktu widzenia. Załączni k IV Dokumentacja techniczna, o której mowa w art. 11 ust. 1 Dokumentacja techniczna, o której mowa w art. 11 ust. 1, zawiera, stosownie do przypadku, co najmniej następujące informacje właściwe dla danego systemu AI: 1. Ogólny opis systemu AI, w tym: a) jego przeznaczenie, imię i nazwisko lub nazwę dostawcy i wersję systemu wraz z informacją dotyczącą jej związku z poprzednimi wersjami; b) sposób, w jaki system AI, w stosownych przypadkach, współdziała lub może być wykorzystany do współdziałania ze sprzętem lub oprogramowaniem, w tym z innymi systemami AI, które nie są częścią samego systemu AI; N Załącznik stosowany wprost nie wymaga wdrożenia c) wersje odpowiedniego oprogramowania lub oprogramowania układowego oraz wszelkie wymogi związane z aktualizacjami wersji; d) opis wszystkich postaci, w jakich system AI wprowadza się do obrotu lub oddaje do użytku, takie jak pakiety oprogramowania wbudowane w urządzenie, oprogramowanie do pobrania lub API; e) opis sprzętu, na którym system AI ma być eksploatowany; f) w przypadku, gdy system A jest elementem produktów - zdjęcia lub ilustracje przedstawiające cechy zewnętrzne, oznakowanie i układ wewnętrzny tych produktów; g) podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; h) instrukcja obsługi dla podmiotu stosującego oraz w stosownych przypadkach, podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; 2. Szczegółowy opis elementów systemu AI oraz procesu jego rozwoju, w tym: a) metody i działania zastosowane w celu rozwoju systemu AI, w tym, w stosownych przypadkach, skorzystanie z systemów, które zostały poddane pretreningowi, lub narzędzi dostarczonych przez osoby trzecie oraz wskazanie, w jaki sposób dostawca wykorzystał, zintegrował lub zmienił te systemy lub narzędzia; b) specyfikacje projektowe systemu, a mianowicie ogólna logika systemu AI i algorytmów; kluczowe decyzje projektowe wraz z uzasadnieniem i przyjętymi założeniami, w tym w odniesieniu do osób lub grup osób, wobec których system ma być wykorzystywany; główne wybory klasyfikacyjne; wskazanie, pod kątem czego system ma być optymalizowany, i znaczenie poszczególnych parametrów; opis oczekiwanego wyniku systemu oraz jakości tego wyniku; decyzje dotyczące wszelkich możliwych kompromisów w zakresie rozwiązań technicznych przyjętych w celu zapewnienia zgodności z wymogami określonymi w rozdziale III sekcja 2; c) opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie; zasoby obliczeniowe wykorzystywane do rozwoju, trenowania, testowania i walidacji systemu AI; d) w stosownych przypadkach wymogi dotyczące danych w zakresie arkuszy danych opisujących metodyki i techniki trenowania systemu oraz wykorzystywane zbiory danych treningowych, w tym ogólny opis tych zbiorów danych, informacje o ich pochodzeniu, ich zakresie i głównych cechach; sposób uzyskania i wyboru danych; procedury etykietowania (np. w przypadku uczenia nadzorowanego), metody oczyszczania danych (np. wykrywanie wartości oddalonych); e) ocenę środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym ocenę środków technicznych potrzebnych do ułatwienia podmiotom stosującym interpretacji wyników systemów AI, zgodnie z art. 13 ust. 3 lit. d); f) w stosownych przypadkach szczegółowy opis z góry zaplanowanych zmian w systemie AI i jego skuteczności działania wraz ze wszystkimi istotnymi informacjami dotyczącymi rozwiązań technicznych przyjętych w celu zapewnienia ciągłej zgodności systemu AI z odpowiednimi wymogami określonymi w rozdziale III sekcja 2; g) zastosowane procedury walidacji i testowania, w tym informacje o wykorzystywanych danych walidacyjnych i danych testowych oraz ich głównych cechach; wskaźniki stosowane do pomiaru dokładności, solidności i zgodności z innymi stosownymi wymogami określonymi w rozdziale III sekcja 2, jak również skutków potencjalnie dyskryminujących; rejestry zdarzeń generowane podczas testów i wszystkie sprawozdania z testów opatrzone datą i podpisane przez osoby odpowiedzialne, w tym w odniesieniu do z góry zaplanowanych zmian, o których mowa w lit. f); h) wdrożone środki w zakresie cyberbezpieczeństwa; 3. Szczegółowe informacje dotyczące monitorowania, funkcjonowania i kontroli systemu AI, w szczególności w odniesieniu do: jego możliwości i ograniczeń w zakresie skuteczności działania, w tym stopnie dokładności w przypadku określonych osób lub grup osób, wobec których system ma być wykorzystywany, oraz ogólny spodziewany poziom dokładności w stosunku do jego przeznaczenia; możliwych do przewidzenia niezamierzonych wyników i źródeł ryzyka dla zdrowia i bezpieczeństwa, praw podstawowych i ryzyka powodującego dyskryminację w świetle przeznaczenia systemu AI; środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym środków technicznych wprowadzonych w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI; w stosownych przypadkach specyfikacji dotyczących danych wejściowych; 4. Opis adekwatności wskaźników skuteczności działania w odniesieniu do konkretnego systemu AI; 5. Szczegółowy opis systemu zarządzania ryzykiem zgodnie z art. 9; 6. Opis odpowiednich zmian dokonanych przez dostawcę w systemie w czasie cyklu jego życia; 7. Wykaz norm zharmonizowanych stosowanych w całości lub w części, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej; w przypadku, gdy nie zastosowano takich norm zharmonizowanych, szczegółowy opis rozwiązań przyjętych w celu spełnienia wymogów określonych w rozdziale III sekcja 2, w tym wykaz innych odpowiednich zastosowanych norm i specyfikacji technicznych; 8. Kopię deklaracji zgodności UE, o której mowa w art. 47; 9. Szczegółowy opis systemu stosowanego do oceny skuteczności działania systemu AI po wprowadzeniu do obrotu zgodnie z art. 72, w tym plan monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72 ust. 3. Załączni k V Deklaracja zgodności UE Deklaracja zgodności UE, o której mowa w art. 47, zawiera wszystkie następujące informacje: 1. Nazwę i rodzaj systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 2. Imię i nazwisko lub nazwę oraz adres dostawcy lub w stosownych przypadkach, jego upoważnionego przedstawiciela; 3. Oświadczenie, że deklarację zgodności UE, o której mowa w art. 47, wydano na wyłączną odpowiedzialność dostawcy; 4. Oświadczenie, że system AI jest zgodny z niniejszym rozporządzeniem oraz w stosownych przypadkach, z wszelkimi innymi odpowiednimi przepisami prawa Unii, w których przewidziano wydanie deklaracji zgodności UE, o której mowa w art. 47; 5. W przypadku, gdy system AI wiąże się z przetwarzaniem danych osobowych, oświadczenie, że system AI jest zgodny z rozporządzeniami (UE) N Załącznik stosowany wprost nie wymaga wdrożenia 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680; 6. Odniesienia do wszelkich zastosowanych odpowiednich norm zharmonizowanych lub wszelkich innych wspólnych specyfikacji, z którymi deklaruje się zgodność; 7. W stosownych przypadkach nazwę i numer identyfikacyjny jednostki notyfikowanej, opis przeprowadzonej procedury oceny zgodności oraz dane identyfikacyjne wydanego certyfikatu; 8. Miejsce i datę wystawienia deklaracji, imię i nazwisko oraz stanowisko osoby, która złożyła podpis pod dokumentem, oraz wskazanie, z czyjego upoważnienia lub w czyim imieniu ta osoba podpisała dokument, oraz podpis. Załączni k VI Procedura oceny zgodności opierająca się na kontroli wewnętrznej 1. Procedura oceny zgodności opierająca się na kontroli wewnętrznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2, 3 i 4. 2. Dostawca sprawdza, czy ustanowiony system zarządzania jakością jest zgodny z wymogami art. 17. 3. Dostawca analizuje informacje zawarte w dokumentacji technicznej, aby ocenić zgodność systemu AI z odpowiednimi zasadniczymi wymogami określonymi w rozdziale III sekcja 2. N Załącznik stosowany wprost nie wymaga wdrożenia 4. Dostawca sprawdza również, czy proces projektowania i rozwoju systemu AI oraz proces jego monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72, są zgodne z dokumentacją techniczną. Załączni k VII Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej 1. Wprowadzenie Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2-5. 2. Informacje ogólne Zatwierdzony system zarządzania jakością w zakresie projektowania, rozwoju i testowania systemów AI zgodnie z art. 17 ocenia się zgodnie z pkt 3 i poddaje nadzorowi zgodnie z pkt 5. Dokumentację techniczną systemu AI ocenia się zgodnie z pkt 4. 3. System zarządzania jakością 3.1. Wniosek dostawcy zawiera: a) imię i nazwisko lub nazwę i adres dostawcy oraz, jeśli wniosek jest składany przez upoważnionego przedstawiciela, również jego imię i nazwisko lub nazwę i adres; b) wykaz systemów AI objętych tym samym systemem zarządzania jakością; N Załącznik stosowany wprost nie wymaga wdrożenia c) dokumentację techniczną każdego systemu AI objętego tym samym systemem zarządzania jakością; d) dokumentację dotyczącą systemu zarządzania jakością, która obejmuje wszystkie aspekty wymienione w art. 17; e) opis wprowadzonych procedur zapewniających stałą adekwatność i skuteczność systemu zarządzania jakością; f) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej. 3.2. System zarządzania jakością jest oceniany przez jednostkę notyfikowaną, która ustala czy spełnia on wymogi, o których mowa w art. 17. O decyzji powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny systemu zarządzania jakością oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 3.3. Zatwierdzony system zarządzania jakością jest dalej wdrażany i utrzymywany przez dostawcę, tak aby mógł zachować adekwatność i skuteczność. 3.4. Dostawca powiadamia jednostkę notyfikowaną o wszelkich zamierzonych zmianach w zatwierdzonym systemie zarządzania jakością lub w wykazie systemów AI objętych tym systemem. Proponowane zmiany podlegają weryfikacji przeprowadzanej przez jednostkę notyfikowaną, która stwierdza, czy zmieniony system zarządzania jakością nadal spełnia wymogi, o których mowa w pkt 3.2, czy też konieczna jest jego ponowna ocena. Jednostka notyfikowana powiadamia dostawcę o swojej decyzji. Takie powiadomienie zawiera wnioski z weryfikacji zmian oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 4. Kontrola dokumentacji technicznej 4.1. Oprócz wniosku, o którym mowa w pkt 3, dostawca składa wniosek do wybranej przez siebie jednostki notyfikowanej o przeprowadzenie oceny dokumentacji technicznej dotyczącej systemu AI, który dostawca zamierza wprowadzić do obrotu lub oddać do użytku i który jest objęty systemem zarządzania jakością, o którym mowa w pkt 3. 4.2. Wniosek zawiera: a) imię i nazwisko lub nazwę i adres dostawcy; b) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej; c) dokumentację techniczną, o której mowa w załączniku IV. 4.3. Analizy dokumentacji technicznej dokonuje jednostka notyfikowana. W stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania zadań jednostki notyfikowanej, otrzymuje ona pełny dostęp do wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 4.4. Analizując dokumentację techniczną, jednostka notyfikowana może zwrócić się do dostawcy o przedstawienie dalszych dowodów lub przeprowadzenie dalszych testów w celu umożliwienia właściwej oceny zgodności systemu AI z wymogami określonymi w rozdziale III sekcja 2. W przypadku gdy jednostka notyfikowana nie jest usatysfakcjonowana testami przeprowadzonymi przez dostawcę, przeprowadza sama bezpośrednio, stosownie do okoliczności, odpowiednie testy. 4.5. W przypadku gdy jest to konieczne do oceny zgodności systemu AI wysokiego ryzyka z wymogami określonymi w rozdziale III sekcja 2, po wyczerpaniu wszystkich innych racjonalnych sposobów weryfikacji zgodności, które okazały się niewystarczające, jednostka notyfikowana uzyskuje - na uzasadniony wniosek - również dostęp do modeli treningowych i trenowanych systemu AI, w tym do odpowiednich jego parametrów. Taki dostęp podlega obowiązującym przepisom prawa Unii dotyczącym własności intelektualnej i tajemnic przedsiębiorstwa. 4.6. O decyzji jednostki notyfikowanej powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny dokumentacji produktu oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. W przypadku gdy system AI spełnia wymogi określone w rozdziale III sekcja 2, jednostka notyfikowana wydaje unijny certyfikat oceny dokumentacji technicznej. Certyfikat ten zawiera imię i nazwisko lub nazwę oraz adres dostawcy, wnioski z oceny, (ewentualne) warunki jego ważności oraz dane niezbędne do identyfikacji systemu AI. Certyfikat wraz z załącznikami musi zawierać wszystkie istotne informacje umożliwiające ocenę zgodności systemu AI oraz w stosownych przypadkach, kontrolę systemu AI podczas jego wykorzystywania. W przypadku gdy system AI nie spełnia wymogów określonych w rozdziale III sekcja 2, jednostka notyfikowana odmawia wydania unijnego certyfikatu oceny dokumentacji technicznej i informuje o tym wnioskodawcę, podając szczegółowe uzasadnienie odmowy. W przypadku gdy system AI nie spełnia wymogu dotyczącego danych wykorzystywanych do jego trenowania, przed złożeniem wniosku o nową ocenę zgodności system AI należy poddać retrenowaniu. W takim przypadku decyzja jednostki notyfikowanej o odmowie wydania unijnego certyfikatu oceny dokumentacji technicznej wraz z uzasadnieniem zawiera szczegółowe uwagi na temat jakości danych wykorzystanych do treningu systemu AI, w szczególności na temat przyczyn niezgodności. 4.7. Wszelkie zmiany w systemie AI, które mogłyby wpłynąć na zgodność systemu AI z wymogami lub jego przeznaczeniem, podlegają ocenie przez jednostkę notyfikowaną, która wydała unijny certyfikat oceny dokumentacji technicznej. Dostawca informuje taką jednostkę notyfikowaną, jeżeli zamierza wprowadzić wyżej wymienione zmiany lub jeżeli w inny sposób dowiedział się o ich zaistnieniu. Zamierzone zmiany ocenia jednostka notyfikowana, która decyduje, czy zmiany te wymagają przeprowadzenia nowej oceny zgodności zgodnie z art. 43 ust. 4, czy też można je uwzględnić w formie uzupełnienia unijnego certyfikatu oceny dokumentacji technicznej. W tym ostatnim przypadku jednostka notyfikowana ocenia zmiany, powiadamia dostawcę o swojej decyzji i, w przypadku zatwierdzenia zmian, wydaje dostawcy uzupełnienie unijnego certyfikatu oceny dokumentacji technicznej. 5. Nadzór nad zatwierdzonym systemem zarządzania jakością 5.1. Celem nadzoru sprawowanego przez jednostkę notyfikowaną, o której mowa w pkt 3, jest zapewnienie, aby dostawca należycie wywiązywał się z warunków, jakimi obwarowano zatwierdzony system zarządzania jakością. 5.2. Do celów oceny dostawca umożliwia jednostce notyfikowanej dostęp do pomieszczeń, w których odbywa się projektowanie, rozwój i testowanie systemów AI. Dostawca udostępnia ponadto jednostce notyfikowanej wszystkie niezbędne informacje. 5.3. Jednostka notyfikowana przeprowadza okresowe audyty, aby upewnić się, że dostawca utrzymuje i stosuje system zarządzania jakością, oraz przedstawia dostawcy sprawozdanie z audytu. W ramach tych audytów jednostka notyfikowana może przeprowadzać dodatkowe testy systemów AI, w odniesieniu do których wydano unijny certyfikat oceny dokumentacji technicznej. Załączni k VIII Informacje przekazywane przy rejestracji systemów AI wysokiego ryzyka zgodnie z art. 49 Sekcja A Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 1 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 1, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, /imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI oraz elementów i funkcji wspieranych przez ten system AI; N Załącznik stosowany wprost nie wymaga wdrożenia 6. Podstawowy i zwięzły opis informacji wykorzystywanych przez system (dane, dane wejściowe) oraz logika jego działania; 7. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 8. Rodzaj, numer i datę ważności certyfikatu wydanego przez jednostkę notyfikowaną oraz w stosownych przypadkach nazwę lub numer identyfikacyjny tej jednostki notyfikowanej; 9. W stosownych przypadkach skan certyfikatu, o którym mowa w pkt 8; 10. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii; 11. Kopia deklaracji zgodności UE, o której mowa w art. 47; 12. Elektroniczna instrukcja obsługi; informacji tych nie podaje się w przypadku systemów AI wysokiego ryzyka w obszarach ścigania przestępstw lub zarządzania migracją, azylem lub kontrolą graniczną, o których mowa w załączniku III pkt 1, 6 i 7; 13. Adres URL odsyłający do dodatkowych informacji (opcjonalnie). Sekcja B Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 2 W odniesieniu do systemów AI, które podlegają rejestracji zgodnie z art. 49 ust. 2, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI; 6. Warunek lub warunki określone w art. 6 ust. 3, na podstawie których system AI jest uznawany za niebędący systemem wysokiego ryzyka; 7. Krótkie streszczenie powodów, dla których system AI jest uznawany za niebędący systemem wysokiego ryzyka w wyniku zastosowania procedury na podstawie art. 6 ust. 3; 8. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 9. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii. Sekcja C Informacje przekazywane przez podmioty stosujące systemy AI wysokiego ryzyka zgodnie z art. 49 ust. 3 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 3, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe podmiotu stosującego AI; 2. Imię i nazwisko lub nazwa, adres i dane kontaktowe osoby przekazującej informacje w imieniu podmiotu stosującego; 3. Adres URL wpisu systemu AI do bazy danych UE dokonanego przez jego dostawcę; 4. Streszczenie ustaleń oceny skutków dla praw podstawowych przeprowadzonej zgodnie z art. 27; 5. W stosownych przypadkach streszczenie oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, jak określono w art. 26 ust. 8 niniejszego rozporządzenia. Załączni k IX Informacje przedkładane przy rejestracji systemów AI wysokiego ryzyka wymienionych w załączniku III w odniesieniu do testów w warunkach rzeczywistych zgodnie z art. 60 W odniesieniu do testów w warunkach rzeczywistych, które podlegają rejestracji zgodnie z art. 60, przekazuje się, a następnie aktualizuje następujące informacje: 1. Ogólnounijny niepowtarzalny numer identyfikacyjny testów w warunkach rzeczywistych; 2. Imię i nazwisko lub nazwę oraz dane kontaktowe dostawcy lub potencjalnego dostawcy i podmiotów stosujących uczestniczących w testach w warunkach rzeczywistych; 3. Krótki opis systemu AI, jego przeznaczenie oraz inne informacje niezbędne do identyfikacji systemu; 4. Streszczenie głównych założeń planu testów w warunkach rzeczywistych; 5. Informacje o zawieszeniu lub zakończeniu testów w warunkach rzeczywistych. N Załącznik stosowany wprost nie wymaga wdrożenia Załączni k X Akty prawne Unii dotyczące wielkoskalowych systemów informatycznych w przestrzeni wolności, bezpieczeństwa i sprawiedliwości 1. System Informacyjny Schengen: N Załącznik stosowany wprost nie wymaga wdrożenia a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1860 z dnia 28 listopada 2018 r. w sprawie użytkowania Systemu Informacyjnego Schengen do celów powrotu nielegalnie przebywających obywateli państw trzecich (Dz.U. L 312 z 7.12.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1861 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie odpraw granicznych, zmiany konwencji wykonawczej do układu z Schengen oraz zmiany i uchylenia rozporządzenia (WE) nr 1987/2006 (Dz.U. L 312 z 7.12.2018, s. 14); c)rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1862 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie współpracy policyjnej i współpracy wymiarów sprawiedliwości w sprawach karnych, zmiany i uchylenia decyzji Rady 2007/533/WSiSW oraz uchylenia rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 1986/2006 i decyzji Komisji 2010/261/UE (Dz.U. L 312 z 7.12.2018, s. 56). 2. Wizowy system informacyjny: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1133 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń (UE) nr 603/2013, (UE) 2016/794, (UE) 2018/1862, (UE) 2019/816 i (UE) 2019/818 w odniesieniu do ustanowienia warunków dostępu do innych systemów informacyjnych UE do celów Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 1). b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1134 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (WE) nr 767/2008, (WE) nr 810/2009, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1860, (UE) 2018/1861, (UE) 2019/817 i (UE) 2019/1896 oraz uchylenia decyzji Rady 2004/512/WE i (WE) nr 2008/633/WSiSW w celu zreformowania Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 11). 3. Eurodac: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1358 z dnia 14 maja 2024 r. w sprawie ustanowienia systemu Eurodac do porównywania danych biometrycznych w celu skutecznego stosowania rozporządzeń Parlamentu Europejskiego i Rady (UE) 2024/1315 i (UE) 2024/1350 i dyrektywy Rady 2001/55/WE oraz w celu identyfikowania nielegalnie przebywających obywateli państw trzecich oraz bezpaństwowców, w sprawie występowania z wnioskami o porównanie z danymi Eurodac przez organy ścigania państw członkowskich i Europol na potrzeby ochrony porządku publicznego, w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (UE) 2018/1240 i (UE) 2019/818 oraz w sprawie uchylenia rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 603/2013 (Dz.U. L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj). 4. System wjazdu/wyjazdu: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/2226 z dnia 30 listopada 2017 r. ustanawiające system wjazdu/wyjazdu (EES) w celu rejestrowania danych dotyczących wjazdu i wyjazdu obywateli państw trzecich przekraczających granice zewnętrzne państw członkowskich i danych dotyczących odmowy wjazdu w odniesieniu do takich obywateli oraz określające warunki dostępu do EES na potrzeby ochrony porządku publicznego i zmieniające konwencję wykonawczą do układu z Schengen i rozporządzenia (WE) nr 767/2008 i (UE) nr 1077/2011 (Dz.U. L 327 z 9.12.2017, s. 20). 5. Europejski system informacji o podróży oraz zezwoleń na podróż: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1240 z dnia 12 września 2018 r. ustanawiające europejski system informacji o podróży oraz zezwoleń na podróż (ETIAS) i zmieniające rozporządzenia (UE) nr 1077/2011, (UE) nr 515/2014, (UE) 2016/399, (UE) 2016/1624 i (UE) 2017/2226 (Dz.U. L 236 z 19.9.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1241 z dnia 12 września 2018 r. zmieniające rozporządzenie (UE) 2016/794 w celu ustanowienia europejskiego systemu informacji o podróży oraz zezwoleń na podróż (ETIAS) (Dz.U. L 236 z 19.9.2018, s. 72). 6. Europejski system przekazywania informacji z rejestrów karnych dotyczących obywateli państw trzecich i bezpaństwowców: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/816 z dnia 17 kwietnia 2019 r. ustanawiające scentralizowany system służący do ustalania państw członkowskich posiadających informacje o wyrokach skazujących wydanych wobec obywateli państw trzecich i bezpaństwowców (ECRIS-TCN) na potrzeby uzupełnienia europejskiego systemu przekazywania informacji z rejestrów karnych oraz zmieniające rozporządzenie (UE) 2018/1726 (Dz.U. L 135 z 22.5.2019, s. 1). 7. Interoperacyjność: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/817 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze granic i polityki wizowej oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 767/2008, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1726, (UE) 2018/1861 oraz decyzje Rady 2004/512/WE i 2008/633/WSiSW (Dz. U. L 135 z 22.5.2019, s. 27); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/818 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze współpracy policyjnej i sądowej, azylu i migracji oraz zmieniające rozporządzenia (UE) 2018/1726, (UE) 2018/1862 i (UE) 2019/816 (Dz.U. L 135 z 22.5.2019, s. 85). Załączni k XI Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a) - dokumentacja techniczna dla dostawców modeli AI ogólnego przeznaczenia Sekcja 1 Informacje przekazywane przez wszystkich dostawców modeli AI ogólnego przeznaczenia Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a), zawiera co najmniej następujące informacje stosownie do rozmiaru danego systemu AI oraz jego profilu ryzyka: 1. Ogólny opis modelu AI ogólnego przeznaczenia, w tym: a) zadania, które dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) architektura i liczba parametrów; e) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; N Załącznik stosowany wprost nie wymaga wdrożenia f) licencja. 2. Szczegółowy opis elementów modelu, o których mowa w pkt 1, oraz stosowne informacje na temat procesu rozwoju, z uwzględnieniem następujących elementów: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) specyfikacje projektu danego modelu i proces treningowy, w tym metody i techniki treningowe, kluczowe wybory projektowe wraz z uzasadnieniem i przyjętymi założeniami; wskazanie, pod kątem czego model ma być optymalizowany, i znaczenie poszczególnych parametrów, w stosownych przypadkach; c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metody porządkowania (np. czyszczenie, filtrowanie, itp.), liczby punktów danych, ich zakresu i głównych właściwości; w jaki sposób dane zostały uzyskane i wyselekcjonowane, a także wszystkie inne środki służące wykryciu nieodpowiednich źródeł danych i metod wykrywania możliwej do zidentyfikowania stronniczości, w stosownych przypadkach; d) zasoby obliczeniowe wykorzystywane do trenowania danego modelu (np. liczba operacji zmiennoprzecinkowych), czas trenowania oraz inne istotne informacje dotyczące trenowania; e) znane lub szacowane zużycie energii dla danego modelu. W odniesieniu do lit. e), w przypadku, gdy nie jest znane zużycie energii dla danego modelu, zużycie energii może opierać się na informacjach dotyczących wykorzystanych zasobów obliczeniowych. Sekcja 2 Dodatkowe informacje przekazywane przez dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Szczegółowy opis strategii ewaluacji, w tym jej wyników, na podstawie dostępnych publicznych protokołów i narzędzi ewaluacji lub na podstawie innych metod ewaluacji. Strategie ewaluacji obejmują kryteria ewaluacji, wskaźniki i metodykę identyfikacji ograniczeń. 2. W stosownych przypadkach szczegółowy opis środków wprowadzonych w celu przeprowadzenia wewnętrznych lub zewnętrznych testów kontradyktoryjnych (np. red teaming), dostosowań modelu, w tym dopasowania i dostrojenia. 3. W stosownych przypadkach, szczegółowy opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie. Załączni k XII Informacje dotyczące przejrzystości, o których mowa w art. 53 ust. 1 lit. b) - dokumentacja techniczna dostawców modeli AI ogólnego przeznaczenia przekazywana dostawcom niższego szczebla, którzy integrują dany model ze swoim systemem AI Informacje, o których mowa w art. 53 ust. 1 lit. b), zawierają przynajmniej następujące elementy: 1. Ogólny opis systemu AI ogólnego przeznaczenia, w tym: a) zadania, który dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) sposób, w jaki model, w stosownych przypadkach, współdziała lub może być wykorzystywany do współdziałania ze sprzętem lub oprogramowaniem, które nie są częścią samego modelu; e) w stosownych przypadkach, wersje odpowiedniego oprogramowania związanego z wykorzystaniem modelu AI ogólnego przeznaczenia; f) architektura i liczba parametrów; N Załącznik stosowany wprost nie wymaga wdrożenia g) formę (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; h) licencja dla danego modelu. 2. Opis elementów modelu oraz procesu jego rozwoju, w tym: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych, a także ich maksymalny rozmiar (np. rozmiar okna kontekstowego, itp.); c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metod porządkowania. Załączni k XIII Kryteria identyfikowania modeli AI ogólnego przeznaczenia z ryzykiem systemowym, o których mowa w art. 51 Do celów stwierdzenia czy model AI ogólnego przeznaczenia ma zdolności lub oddziaływanie równoważne z tymi, które określono w art. 51 ust. 1 lit. a) i b), Komisja uwzględnia następujące kryteria: a) liczbę parametrów modelu; b) jakość lub rozmiar zbioru danych, na przykład mierzone za pomocą tokenów; N Załącznik stosowany wprost nie wymaga wdrożenia c) liczbę obliczeń wykorzystanych do trenowania modelu, mierzoną w operacjach zmiennoprzecinkowych lub wskazaną przez połączenie innych zmiennych, takich jak szacunkowy koszt trenowania, szacowany czas potrzebny na trenowanie lub szacowane zużycie energii na potrzeby trenowania; d) format danych wejściowych i wyjściowych danego modelu, takie jak tekst-tekst (duże modele językowe), tekst- obraz, multimodalne, a także najnowocześniejsze progi dla określania zdolności dużego oddziaływania dla każdego formatu, jak również szczególne rodzaje danych wejściowych i wyjściowych (np. sekwencje biologiczne); e) poziomy odniesienia i oceny zdolności modelu, w tym analiza liczby zadań bez dodatkowego trenowania, zdolności adaptacji do uczenia się nowych, odrębnych zadań, poziom jego autonomii i skalowalności, narzędzia, do których ma dostęp; f) czy ze względu na swój zasięg ma duże oddziaływanie na rynek wewnętrzny, co należy zakładać, jeśli został udostępniony co najmniej 10 000 zarejestrowanych użytkowników biznesowych mających siedzibę w Unii; g) liczbę zarejestrowanych użytkowników końcowych. Odwrócona tabela zgodności Tytuł aktu prawnego Ustawa o systemach sztucznej inteligencji (UC71) Tytuł wdrażanego aktu prawnego Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Jednostka redakcyjna Treść przepisu ustawy Uzasadnienie wprowadzenia przepisu Art. 1 Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; Przepis pełni funkcję przepisu ogólnego i określa zakres przedmiotowy ustawy, w celu wskazania obszarów koniecznych do uzupełnienia, organizacji i wykonania przepisów rozporządzenia 2024/1689 na poziomie krajowym. Podstawa systemowej wykładni ustawy. 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 6 pkt 17 Art. 6. 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 7 Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 8 –17 Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę, oraz adres do korespondencji , a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 2, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidulanych i wyjaśnień. Art. 18 Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 39 Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Przepis jest punktem wyjścia dla kolejnego artykułu i stanowi podstawę prawną przetwarzania danych osobowych przez organ. Art. 40 Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie Przepis stanowi opis procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41 Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione Przepis wdraża obowiązek realizacji przez organ audytu danych osobowych, a więc i procedur ich przetwarzania, co zapewni w długim okresie zapewnienie zgodności z obowiązującymi przepisami i realizację praw podstawowych obywateli obcujących z organem. Art.43 Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44 Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 45-art. 47 Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Na mocy ustawy powołuje się Społeczną Radę do spraw Sztucznej Inteligencji, celem powołania jest zapewnienie koordynacji i wymiany informacji na temat sektora sztucznej inteligencji. Będzie ona organem opiniodawczo–doradczym Komisji i stanowić będzie platformę, w ramach której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. W ocenie projektodawcy, szeroki zakres zadań Komisji oraz potrzeba stałej grupy osób wspierających Komisję w realizacji jej zadań uzasadniają powołanie przy Komisji organu tego typu, reprezentującego sektor AI. Skład Społecznej Rady został tak zaprojektowany, by mogły do niego wchodzić osoby reprezentujące szeroki zakres podmiotów. Gwarancją niezależności Rady jest ograniczenie możliwości zgłaszania kandydatur wyłącznie do określonych w ustawie podmiotów. Podobnie jak w przypadku Członków Komisji, za udział w pracach Rady nie przewiduje się wynagrodzenia. Przepisy dodatkowo wprowadzają sposób funkcjonowania Rady. c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Radynie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Art. 57-art. 58 Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu Przedmiotowe przepisy stanowią wstęp do kolejnego rozdziału, określając sposób postępowania przygotowawczego przed rozpoczęciem właściwego postępowania przed organem. 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Art. 59 Art. 59. Komisja wszczyna postępowanie: 1) z urzędu w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy,; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Przepis nadaje postępowaniu przed Komisją charakter działania, dla którego zastosowanie mają przepisy Kodeksu postępowania administracyjnego. Art. 61 Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Artykuły dookreślają sposób postępowania przed organem charakterystyczny dla utrwalonego w doktrynie sposobu funkcjonowania organów w poszczególnych fazach postępowania administracyjnego. Wskazane przepisy cechują się rozwiązaniami przyjętymi dla rozwiązań proceduralnych w polskiej procedurze administracyjnej. Art. 63 Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy, w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 64 ust. 2-5 Art. 64. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 65 Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Przepis nie wynika bezpośrednio z dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, ma na celu odesłanie do przepisów kodeksu, jako że postępowanie przed organem spełnia przesłanki właściwe dla postępowania administracyjnego. Art. 66 Art. 66. 1. Nad postanowienia Komisji, o którym mowa w art. 62 ust. 1, oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. 2024 r. poz. 1568 z późn. zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja - nieprzekazując akt sądowi -– w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio Art.68 Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. Art. 69 Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm.), Komisja dołącza akta postępowania. Przepis wprowadza możliwość współpracy organu z organami ścigania, w przypadku naruszeń prawnokarnych. Art. 70 Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Przepis nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia – właściwe przepisy dot. sposobu dokumentacji określają jedynie obowiązki dostawcy systemu AI, a nie organu. Art. 71-art. 85 Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu umożliwienie sprawniejszego zamknięcia sprawy. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie - w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisją może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Przepisy szczegółowo określają sposób realizacji ugody z organem. polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu nie dłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu, o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie, o przedstawieniu projektu układu, zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę, ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 92-art. 94 Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; Przepis zawiera opis instytucji piaskownicy regulacyjnej, który pozostaje w gestii państwa członkowskiego i nie jest bezpośrednio wymagana implementacja – rozporządzenie nie określa szczegółowo warunków. 5) termin ogłoszenia o wynikach konkursu. 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawnych przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których ust. 6. Przepis art. 93 ust. 6 stosuje się. 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 97 Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. Art. 99 Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, Określenie dodatkowych kompetencji ministra, niezależnie od obowiązku implementacji. b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień, 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań, 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Art. 101 Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Przepis określa obowiązki podmiotu w celu prawidłowego i z uwzględnieniem interesu. Art. 102 Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Przepis odnoszący się wyłącznie do porządku krajowego. Art. 104-art. 106 Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. Przepis wpisuje sposób działania organu w ramy postępowania administracyjnego. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107 Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Przepis określa wewnątrzkrajowy sposób egzekucji kar należnych za naruszenie przepisów rozporządzenia. Art. 108-Art.110 Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzania 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm.). Przepis dopuszcza sankcje za niespełnienie obowiązków względem poddania się wykonaniu kary. Art.111 -Art. 119 Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568 i 1841, z 2005 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVFA. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Przepisy określają zmiany w przepisach obowiązujących, wpisując ustawę w system prawa polskiego i tym samym dostosowując do warunków krajowych, które nie mogą być z natury przedmiotem rozporządzenia 2024/1689. Art. 479 88b. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d § 1, art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art.17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.. Komisja oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz.U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 120 ust. 2-4 Art. 120. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 121 Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1 jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Przepisy regulują zasady budżetowania i limit wydatków budżetu państwa na funkcjonowanie organów i procedur wynikających z przepisów ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce - powołanie go w ustawie wymaga wprowadzenia tego przepisu. Projekt R O Z P O R Z Ą D Z E N I E M I N I S T R A C Y F RY Z A C J I 1) z dnia w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Na podstawie art. 91 ust. 6 ustawy z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) zarządza się, co następuje: § 1. Rozporządzenie określa wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż mikro-, mali i średni przedsiębiorcy oraz sposób jej wnoszenia. § 2. 1. Wysokość opłaty, o której mowa w § 1, wynosi 14 418 zł. 2. Opłata jest wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. § 3. Rozporządzenie wchodzi w życie po upływie 14 dni od dnia ogłoszenia. MINISTER CYFRYZACJI 1 Minister Cyfryzacji kieruje działem administracji rządowej – informatyzacja, na podstawie § 1 ust. 2 rozporządzenia Prezesa Rady Ministrów z dnia 18 grudnia 2023 r. w sprawie szczegółowego zakresu działania Ministra Cyfryzacji (Dz. U. poz. 2720). – 2 – Uzasadnienie Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) reguluje krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanym dalej \"rozporządzenie 2024/1689\". Tym samym wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Projekt rozporządzenia stanowi realizację upoważnienia ustawowego zawartego w art. 91 ust. 6 ww. ustawy, które zobowiązuje ministra właściwego do spraw informatyzacji do określenia wysokości opłaty za udział w piaskownicy regulacyjnej, o której mowa w art. 91 ust. 5, oraz sposobu jej wnoszenia. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. W zakresie opłat za uczestnictwo w piaskownicy regulacyjnej przyjęto rozwiązanie zapewniające zgodność z ustawą. Udział mikro-, małych i średnich przedsiębiorców jest nieodpłatny, co stanowi zachętę do korzystania z piaskownicy przez podmioty o największym potencjale innowacyjnym, a jednocześnie często dysponujące ograniczonymi zasobami finansowymi. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Dla pozostałych podmiotów ustalono jednorazową opłatę w wysokości 14 418 zł. co stanowi trzykrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). Kwota ta mieści się w ustawowym określonym art. 91 ust. 5 ustawy limicie, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów obsługowych, organizacyjnych – 3 – i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Rozporządzenie określa również sposób wnoszenia opłaty, przewidując jej jednorazowe uiszczenie. Takie rozwiązanie zapewnia pewność i przejrzystość procedury oraz pozwala na sprawne rozpoczęcie udziału podmiotów w działaniach prowadzonych w ramach piaskownicy. Wskazanie rachunku bankowego urzędu obsługującego ministra właściwego do spraw informatyzacji upraszcza proces płatności i pozwala na jednoznaczne przypisanie dokonanej wpłaty do konkretnego uczestnika. Rozporządzenie wejdzie w życie po upływie 14 dni od dnia ogłoszenia zapewniając odpowiedni okres vacatio legis. Projektowana regulacja nie zawiera przepisów technicznych w rozumieniu rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i nie podlega notyfikacji Komisji Europejskiej. Projektowana regulacja nie będzie wymagała notyfikacji Komisji Europejskiej w trybie ustawy z dnia 30 kwietnia 2004 r. o postępowaniu w sprawach dotyczących pomocy publicznej (Dz. U. z 2023 r. poz. 702, z późn. zm.). Projekt rozporządzenia nie jest sprzeczny z prawem Unii Europejskiej. Projekt rozporządzenia nie wymaga przedłożenia instytucjom i organom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce Rządowy Proces Legislacyjny zgodnie z § 52 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). – 4 – Nazwa projektu Rozporządzenie Ministra Cyfryzacji w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, pamela.krzypkowska@cyfra.gov.pl, sekretariat.DBI@cyfra.gov.pl Data sporządzenia 20.03.2026 Źródło: Upoważnienie ustawowe Art. 91 ust. 6 ustawy o systemach sztucznej inteligencji z dnia... (Dz. U. poz. ...) Nr w wykazie prac OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) określa krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanego dalej \"rozporządzeniem 2024/1689\". Tym samym ustawa wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ustawa przewiduje preferencyjne warunki uczestnictwa w piaskownicy dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Natomiast w zakresie innych podmiotów minister właściwy do spraw informatyzacji został zobligowany do określenia, w drodze rozporządzenia, wysokości opłaty, za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Problem, który rozwiązuje rozporządzenie, dotyczy uzupełnienia braku określenia wysokości opłaty za udział w piaskownicy regulacyjnej oraz zasad jej wnoszenia, co w praktyce mogłoby prowadzić do powstania niepewności prawnej i finansowej po stronie podmiotów ubiegających się o zakwalifikowanie do tego mechanizmu. Brak jasnych reguł w tym zakresie utrudniałby planowanie kosztów związanych z uczestnictwem, mógłby powodować zróżnicowanie w podejściu do poszczególnych podmiotów oraz ograniczać transparentność i przewidywalność całego procesu. Taka sytuacja mogłaby w konsekwencji negatywnie wpływać na zainteresowanie piaskownicą regulacyjną, a tym samym ograniczać jej potencjał jako narzędzia wspierającego rozwój innowacyjnych rozwiązań w obszarze systemów sztucznej inteligencji. Ustawa przewiduje obowiązek uiszczenia opłaty za udział w piaskownicy, ale nie zawiera szczegółowych przepisów w tym zakresie, pozostawiając je do uregulowania w akcie wykonawczym. Rozporządzenie stanowi zatem realizację ustawowego upoważnienia zawartego w art. 91 ust. 6, precyzując zarówno wysokość opłaty, jak i sposób jej wnoszenia. Dzięki temu możliwe jest zapewnienie jednolitych, przejrzystych i przewidywalnych reguł uczestnictwa, które zwiększają pewność prawną, wzmacniają zaufanie podmiotów do procedury kwalifikacyjnej i gwarantują spójne stosowanie przepisów ustawy przez organ odpowiedzialny za prowadzenie piaskownicy regulacyjnej. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji, i oczekiwany efekt Zgodnie z art. 91 ust. 6, określenie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, musi zostać określone w formie rozporządzenia. – 5 – Rekomendowanym rozwiązaniem jest wprowadzenie jednolitej opłaty za udział w piaskownicy regulacyjnej w wysokości 14 418 zł. Kwota ta mieści się w ustawowym, określonym w art. 91 ust. 5 ustawy, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Opłata będzie wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. Przyjęcie takiego mechanizmu pozwala na uproszczenie procedury oraz zapewnienie przewidywalności i przejrzystości zarówno dla uczestników, jak i dla organu odpowiedzialnego za obsługę piaskownicy. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Hiszpania była jednym z pierwszych państw członkowskich, które zgłosiły gotowość do wdrażania piaskownic, i w praktyce pełni rolę pilotażową dla innych krajów UE. Piaskownica hiszpańska działa przy udziale Agencja Española de Supervisión de la Inteligencia Artificial (AESIA), czyli hiszpańskiej agencji ds. nadzoru nad sztuczną inteligencją powołanej w 2022 r. z siedzibą w A Coruña. W przypadku sektora MŚP i startupów podobnie jak w polskim projekcie ustawy o systemach sztucznej inteligencji udział w piaskownicy regulacyjnej jest bezpłatny. Co do pozostałych podmiotów pozostała możliwość proporcjonalnego dofinansowania części kosztów związanych z udziałem w piaskownic regulacyjnej. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Konieczność sprawowania nadzoru nad testami w ramach piaskownicy regulacyjnej Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Obowiązki związane z ustanowieniem piaskownicy regulacyjnej, a także podejmowaniem decyzji w sprawie możliwości udziału w piaskownicy Ministerstwo Cyfryzacji 1 Informacje ogólnodostępne Obsługa przepływów finansowych JST 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Przedsiębiorcy sektora sztucznej inteligencji (Duże przedsiębiorstwa) Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Administracja publiczna Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Projekt zostanie poddany procesowi uzgodnień oraz zostanie przedstawiony do opiniowania i konsultacji publicznych. Projekt rozporządzenia zostanie zamieszczony w Biuletynie Informacji Publicznych na stronie podmiotowej Ministerstwa Cyfryzacji, stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Zgodnie z par. 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. - Regulamin Prac Rady Ministrów (M.P. z 2024 r. poz. 806 oraz z 2025 r. poz. 408) projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie Rządowy Proces Legislacyjny. – 6 – 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 1 2 3 4 5 6 7 8 9 10 Łącznie (0-10) Dochody ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Wydatki ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Saldo ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Źródła finansowania Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Przewiduje się, że współfinansowanie piaskownic regulacyjnych odbędzie się ze środków europejskich. Wskazane w rozporządzeniu kwoty związane są z zabezpieczeniem pokrycia kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej. Na obecnym etapie prac legislacyjnych wydatki oraz dochody z tytułu piaskownic regulacyjnych nie są możliwe do oszacowania. W Polsce obowiązują jedynie przepisy w zakresie piaskownicy regulacyjnej energetycznej która została uruchomiona po raz pierwszy w 2026 r. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0- 10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa - - - - - - - sektor mikro-, małych i średnich przedsiębiorstw - - - - - - - rodzina, obywatele oraz gospodarstwa domowe - - - - - - - W ujęciu niepieniężnym duże przedsiębiorstwa Tak - wpływ zostanie oszacowany na późniejszym etapie sektor mikro-, małych i średnich przedsiębiorstw Tak - - wpływ zostanie oszacowany na późniejszym etapie rodzina, obywatele oraz gospodarstwa domowe Brak wpływu Niemierzalne Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie projektowanego rozporządzenia będzie miało wpływu na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców. – 7 – 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu ☒ nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). ☐ tak ☐ nie ☒ nie dotyczy ☐ zmniejszenie liczby dokumentów ☐ zmniejszenie liczby procedur ☐ skrócenie czasu na załatwienie sprawy ☐ inne: ... ☐ zwiększenie liczby dokumentów ☐ zwiększenie liczby procedur ☐ wydłużenie czasu na załatwienie sprawy ☐ inne: ... Wprowadzane obciążenia są przystosowane do ich elektronizacji. ☐ tak ☐ nie ☒ nie dotyczy Komentarz: Projekt nie przewiduje zmian w zakresie obciążeń regulacyjnych. 9. Wpływ na rynek pracy Projektowane przepisy nie mają bezpośredniego wpływu na rynek pracy. 10. Wpływ na pozostałe obszary ☐ środowisko naturalne ☐ sytuacja i rozwój regionalny ☐ inne: ... ☐ demografia ☐ mienie państwowe ☐ informatyzacja ☐ zdrowie Omówienie wpływu Wejście w życie przepisów nie będzie miało wpływu na pozostałe obszary. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby rozporządzenie weszło w życie po upływie 14 dni od dnia ogłoszenia. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Nie przewiduje się ewaluacji efektów projektu. 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak 1 DPUE.950.370/2025/20 kwm Warszawa, /elektroniczny znacznik czasu/ Dot.: RM-0610-41-26 z 25.03.2026 r. Pani Joanna Knapińska Sekretarz Rady Ministrów Opinia o zgodności z prawem Unii Europejskiej projektu ustawy o systemach sztucznej inteligencji, wyrażona przez ministra właściwego do spraw członkostwa Rzeczypospolitej Polskiej w Unii Europejskiej Szanowna Pani Minister, w związku z przedłożonym projektem ustawy pozwalam sobie wyrazić poniższą opinię. Projekt ustawy jest zgodny z prawem Unii Europejskiej. Z wyrazami szacunku Do wiadomości: Pan Krzysztof Gawkowski Wiceprezes Rady Ministrów Minister Cyfryzacji\n\nSUMMARY TO EVALUATE:\nTitle: Nowe zasady i nadzór nad sztuczną inteligencją w Polsce.\nSummary: Ustawa wprowadza unijne przepisy o sztucznej inteligencji (AI Act) do polskiego prawa, tworząc nowy urząd nadzorujący ten rynek. Dzięki temu obywatele zyskają ochronę przed szkodliwym działaniem algorytmów i będą mogli składać skargi, a firmy otrzymają jasne zasady i bezpieczne środowisko do testowania nowych technologii.\nKey Points: Powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kontrolować rynek AI i dbać o bezpieczeństwo obywateli., Możliwość składania przez obywateli oficjalnych skarg na systemy sztucznej inteligencji, które naruszają ich prawa lub stwarzają zagrożenie., Wysokie kary finansowe dla firm łamiących przepisy, ale też możliwość zawarcia ugody i obniżenia kary w przypadku szybkiej naprawy błędów., Utworzenie tak zwanych piaskownic regulacyjnych, czyli bezpiecznych i darmowych dla małych firm przestrzeni do testowania innowacyjnych rozwiązań AI.\n\nZASADY OCENY:\n1. Sprawdź wszystkie LICZBY, DATY i KWOTY w SUMMARY. Jeśli którejś brakuje w SOURCE -> is_valid: false.\n2. Sprawdź wszystkie NAZWISKA, ORGANIZACJE i MIEJSCA w SUMMARY. Jeśli którejś brakuje w SOURCE -> is_valid: false.\n3. Sprawdź wszystkie konkretne DZIAŁANIA PRAWNE . Jeśli tego mechanizmu nie ma w SOURCE -> is_valid: false.\n\nWAŻNE: Abstrakcyjne pojęcia (np. \"transparentność\", \"zaufanie\") są dozwolone jako wnioski.\n\nOUTPUT (JSON):\n{\n  \"is_valid\": true/false,\n  \"issue\": \"fabricated_entity\" / \"contradiction\" / \"none\"\n}\n\nWYMAGANIA FORMATOWANIA:\n1. Odpowiedz WYŁĄCZNIE surowym obiektem JSON.\n2. NIE używaj bloków kodu Markdown.\n3. NIE dodawaj żadnych wstępów ani wyjaśnień przed ani po JSONie.\n4. JSON musi być poprawny i gotowy do parsowania.\n\n",
      "ai_response_raw": "{\n  \"is_valid\": false,\n  \"issue\": \"fabricated_entity\"\n}"
    },
    {
      "timestamp": "2026-04-16T16:04:50.828Z",
      "source_url": "https://api.sejm.gov.pl/sejm/term10/prints/2443/2443.pdf",
      "model": "gemini-3.1-pro-preview",
      "prompt_sent": "\nJesteś ekspertem od prawa polskiego, który ma za zadanie analizować dokumenty ustaw, uchwał oraz innych dokumentów legislacyjnych, a następnie przygotowywać z nich informacje w przystępny sposób dla obywateli. Twoim celem jest przedstawienie informacji tak, aby obywatele mogli sami ocenić wpływ legislacji na ich życie, nawet bez posiadania specjalistycznej wiedzy legislacyjnej. Skup się na faktach i obiektywnych skutkach wprowadzanych zmian, unikając wartościowania i osobistych opinii. Wszelki żargon prawny jest zabroniony. Prezentuj informacje w jasny, zwięzły i angażujący sposób, tak aby były zrozumiałe dla osoby bez wykształcenia prawniczego. Unikaj długich, złożonych zdań. Zamiast pisać \"projekt ma na celu nowelizację kodeksu podatkowego...\", napisz \"Zmiany w podatkach: nowe ulgi i obowiązki dla...\". Kontynuuj swoją pracę, dopóki nie rozwiążesz swojego zadania. Jeśli nie masz pewności co do generowanej treści, przeanalizuj dokument ponownie – nie zgaduj. Rozplanuj dobrze swoje zadanie przed przystąpieniem do niego. W podsumowaniu i kluczowych punktach, jeśli to możliwe i uzasadnione, podkreśl, jakie konkretne korzyści lub skutki (pozytywne lub negatywne) wprowadza ustawa dla życia codziennego obywateli, ich praw i obowiązków, finansów osobistych, bezpieczeństwa i innych ważnych kwestii (np. kategorycznych zakazów i nakazów czy najważniejszych konkretnych alokacji finansowych i terytorialnych).\n\nTwoja odpowiedź MUSI być w formacie JSON - i zawierać następujące klucze.\nZanim zwrócisz odpowiedź, dokładnie zweryfikuj, czy cała struktura JSON jest w 100% poprawna, włącznie ze wszystkimi przecinkami, nawiasami klamrowymi, kwadratowymi oraz cudzysłowami. Błędny JSON jest nieakceptowalny i uniemożliwi przetworzenie Twojej pracy.\n\nPrzeanalizuj dokładnie poniższy tekst dokumentu prawnego. To jest treść, na podstawie której masz wygenerować podsumowanie i kluczowe punkty:\n--- POCZĄTEK DOKUMENTU ---\nDruk nr 2443 Warszawa, 9 kwietnia 2026 r. SEJM RZECZYPOSPOLITEJ POLSKIEJ X kadencja Prezes Rady Ministrów RM-0610-41-26 Pan Włodzimierz Czarzasty Marszałek Sejmu Rzeczypospolitej Polskiej Szanowny Panie Marszałku, na podstawie art. 118 ust. 1 Konstytucji Rzeczypospolitej Polskiej przedstawiam Sejmowi Rzeczypospolitej Polskiej projekt ustawy - o systemach sztucznej inteligencji. Projekt ma na celu wykonanie prawa Unii Europejskiej. Do prezentowania stanowiska Rządu w tej sprawie w toku prac parlamentarnych został upoważniony Minister Cyfryzacji. Z poważaniem Donald Tusk /podpisano kwalifikowanym podpisem elektronicznym/ Tłoczono z polecenia Marszałka Sejmu Rzeczypospolitej Polskiej Projekt U S T A W A z dnia o systemach sztucznej inteligencji 1), 2) Rozdział 1 Przepisy ogólne Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 2. 1. Ustawy nie stosuje się do: 1) Niniejsza ustawa służy stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024). 2) Niniejszą ustawą zmienia się ustawy: ustawę z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego, ustawę z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji, ustawę z dnia 29 grudnia 1992 r. o radiofonii i telewizji, ustawę z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne, ustawę z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, ustawę z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych, ustawę z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, ustawę z dnia 10 maja 2018 r. o ochronie danych osobowych oraz ustawę z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa. – 2 – 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i 187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. 3) ), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 3) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1871 i 1897, z 2025 r. poz. 619, 620, 621, 622, 1162, 1794, 1837 i 1864 oraz z 2026 r. poz. 187, 203, 328 i 370. – 3 – a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. 4 ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653 oraz z 2026 r. poz. 317); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 4) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 340, 368, 620, 680, 1022, 1180, 1301, 1302, 1366, 1795, 1804, 1817, 1822, 1823, 1838 i 1858 oraz z 2026 r. poz. 203. – 4 – 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6, oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; – 5 – 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o której mowa w art. 98 ust. 2, – 6 – – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę oraz adres do korespondencji, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. – 7 – Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. – 8 – Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 1, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; – 9 – 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidualnych i wyjaśnień. Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Art. 19. 1. W skład Komisji wchodzą: – 10 – 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o – 11 – systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w zakresie spraw, o których mowa w art. 74 ust. 1–5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, o którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem do spraw usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; – 12 – 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji, lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji. Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę – 13 – poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; – 14 – 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. – 15 – Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a także dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. – 16 – Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; – 17 – 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; – 18 – 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się – 19 – pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw – 20 – informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3, i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; – 21 – 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione. Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami – 22 – międzynarodowymi (Dz. U. z 2026 r. poz. 230), w zakresie niezbędnym do realizacji ich ustawowych zadań. Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. – 23 – 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. 5) ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, 5) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2020 r. poz. 568 i 2157, z 2021 r. poz. 2445, z 2022 r. poz. 2666, z 2023 r. poz. 1586 i 1723 oraz z 2025 r. poz. 39 i 1661. – 24 – b) nowe technologie, c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; – 25 – 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. – 26 – 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Rady nie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. – 27 – 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej „kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. – 28 – 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących – 29 – własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu – po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnia mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, – 30 – lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3, oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi, o których mowa w ust. 3, wydaje w terminie miesiąca od – 31 – dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia. 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęcia kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród – 32 – z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli – imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości – 33 – albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości, w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. – 34 – Rozdział 4 Postępowanie przed organem nadzoru rynku Art. 59. Komisja wszczyna postępowanie: 1) z urzędu, w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę, Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. – 35 – Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części, lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy, a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. – 36 – 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, lub ust. 2. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 66. 1. Na postanowienia Komisji, o których mowa w art. 62 ust. 1 oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. – 37 – U. z 2024 r. poz. 1568, z późn. zm. 6) ) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 6) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 38 – 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony; 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm. 7 ), Komisja dołącza akta postępowania. Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Rozdział 5 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 7) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 304, 1178, 1420, 1872 oraz z 2026 r. poz. 187. – 39 – 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie – w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisja może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. – 40 – 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu niedłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. – 41 – 3. W postanowieniu o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie o przedstawieniu projektu układu zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. – 42 – Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się z zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. – 43 – 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. – 44 – 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach – w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany; – 45 – 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi, o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Rozdział 7 Środki wspierające innowacyjność Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: – 46 – 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzględniający możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 5, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu; 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; 5) termin ogłoszenia o wynikach konkursu. – 47 – 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których mowa w ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawne przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których mowa w ust. 6. Przepis art. 93 ust. 6 stosuje się. – 48 – 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostępnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. – 49 – 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty, w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej, d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań. 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Rozdział 8 Przepisy o administracyjnych karach pieniężnych i przepisy karne Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. – 50 – 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. – 51 – 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. 8) ), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. 8) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 497, 621, 622, 769, 820, 1203, 1235, 1414, 1417, 1669, 1804 i 1863 oraz z 2026 r. poz. 252 i 347. – 52 – Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzenia 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. – 53 – Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm. 9) ). Rozdział 9 Zmiany w przepisach obowiązujących Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm. 10) ) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVfa. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA ... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Art. 479 88b . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. 9) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2025 r. poz. 1178, 1661, 1814, 1818 i 1872. 10) Zmiany tekstu jednolitego wymienionej ustawy zostały ogłoszone w Dz. U. z 2024 r. poz. 1841, z 2025 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26. – 54 – Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. – 55 – § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d , art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. – 56 – Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art. 17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Komisja oraz Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji – 57 – chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Rozdział 10 Przepisy dostosowujące i przepis końcowy Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; – 58 – 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1, jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Art. 122. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia. UZASADNIENIE 1. Cel i potrzeba ustawy Celem projektowanej ustawy jest powołanie w Polsce systemu sprawowania nadzoru nad systemami sztucznej inteligencji zgodnego z ramami prawnymi ustanowionymi rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689” albo „aktem o AI”. Rozporządzenie („Akt o AI”) jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych. Nadrzędnym celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji, zwanych dalej „systemami AI”, w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI, a także wspierania innowacji w tym zakresie. Dla osiągnięcia założonego celu konieczne jest przyjęcie przez państwa członkowskie aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 w sposób spójny i skoordynowany z nadzorem realizowanym na poziomie Komisji Europejskiej i Rady Europejskiej. Projektowane przepisy powinny nadać niezbędne kompetencje krajowym organom nadzoru rynku lub takie organy utworzyć, by umożliwić im skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Z uwagi na charakter wymaganych zmian (m.in. przyznanie nowych uprawnień nadzorczych, stworzenie mechanizmu skargowego, trybu wydawania decyzji w zakresie określenie kar i innych środków administracyjnych), w przypadku Polski nie jest możliwe 2 zastosowanie wyłącznie rozwiązań pozalegislacyjnych. Dla zapewnienia zgodnych z polskim prawem, skutecznych narzędzi interwencji w zakresie regulowanym przez rozporządzenie konieczne jest przyjęcie przez Rzeczpospolitą Polską aktu prawnego w randze ustawy. Zgodnie z prawem europejskim rozporządzenie obowiązuje w Unii od dnia 1 sierpnia 2024 r. W dniu 2 lutego 2025 r. w życie weszły przepisy dotyczące systemów zakazanych. W dniu 2 sierpnia 2025 r. zaczęły obowiązywać przepisy dotyczące organów notyfikujących i jednostek notyfikowanych oraz kar za naruszenia przepisów o zakazanych praktykach w zakresie AI. Zgodnie z terminami określonymi w rozporządzeniu 2024/1689 proces ten zakończy się 2 sierpnia 2027 r. W związku z powyższymi na obecnym etapie prac nad ustanowieniem europejskiego systemu nadzoru nad sztuczną inteligencją konieczne jest podjęcie działań legislacyjnych, które pozwolą Polsce wywiązać się ze wszystkich zobowiązań określonych w rozporządzeniu 2024/1689, które weszły w życie do dnia 2 sierpnia 2025 r. Przyjęcie przepisów, które stanowią treść projektu ustawy do polskiego porządku prawnego pozwoli również stworzyć prawne i organizacyjne podstawy umożliwiające w przyszłości realizację pozostałych, określonych w przepisach rozporządzenia 2024/1689 obowiązków, których wejście w życie nastąpi stopniowo do dnia 2 sierpnia 2027 r. Zgodnie z zasadami prawa Unii Europejskiej, podejmowane działania legislacyjne opierają się na założeniu, że ustawa ma zawierać przepisy wprost przekazane przez europejskiego prawodawcę do uregulowania w prawie krajowym oraz takich, co do których rozporządzenie 2024/1689 pozostawiło państwom członkowskim pewną swobodę regulacyjną. W związku z powyższym w polskim prawie należy zrealizować działania prawodawcze służące realizacji przepisów rozporządzenia 2024/1689 w wymiarze ustrojowym, jak i proceduralnym. Dotyczą one m.in.: 1) wskazania właściwych organów krajowych, tj.: – organu nadzoru rynku, – organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów AI, jak również za ich monitorowanie; 2) określenia procedur postępowania przed organem nadzoru, w tym umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk AI, czy umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie rozporządzenia 2024/1689; 3 3) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689. Ponadto projekt ustawy umożliwi rozpoczęcie realizacji celów określonych w art. 1 ust. 2 lit. g rozporządzenia 2024/1689, które mówią o wspieraniu rozwoju zastosowań AI w krajach członkowskich. Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną AI. Analiza omawianego zagadnienia wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, podczas gdy alternatywne sposoby rozwiązania problemu należy ocenić jako niewystarczające do osiągnięcia oczekiwanego celu. Szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest szerokie stosowanie technologii sztucznej inteligencji, dodatkowo przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Projekt ustawy pozwoli wprowadzić do polskiego prawa mechanizmy umożliwiające realizację obowiązków określonych w rozdziałach I, II, III sekcja 4, V, VII, IX, XI rozporządzenia 2024/1689. W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące określenia krajowego organu nadzoru, postępowania przed tym organem, postępowania kontrolnego, organu notyfikującego, certyfikacji, sądowej ochrony praw przysługujących obywatelom, jak również wszczynanie postępowań i nakładanie administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689. Należy również zaznaczyć, że omawiany projekt ustawy o systemach sztucznej inteligencji nie realizuje wszystkich obowiązków wynikających z rozporządzenia 2024/1689. Treść projektu, który wychodzi naprzeciw wymaganiom wynikającym z przepisów polskiego oraz europejskiego prawa, jest wynikiem prowadzonych przez Ministerstwo Cyfryzacji prac i analiz merytorycznych, komunikacji z przedstawicielami Europejskiego Urzędu ds. Sztucznej Inteligencji oraz konsultacji z innymi instytucjami publicznymi w Polsce i interesariuszami społecznymi. Należy zaznaczyć, że rozporządzenie pozostawia państwom członkowskim pewną elastyczność m.in. w wyznaczaniu lub stworzeniu odpowiednich organów, procedur 4 administracyjnych i sądowych. W przypadku Polski powoduje to konieczność priorytetyzacji działań w zakresie utworzenia systemu nadzoru rynku nad systemami AI w celu umożliwienia stosowania tych przepisów, które weszły w życie do dnia 2 sierpnia 2025 r., przy jednoczesnym prowadzeniu działań komunikacyjnych i administracyjnych. W pozostałym, określonym w rozporządzeniu 2024/1689, zakresie przedmiotowym Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych). 2. Omówienie projektowanych przepisów Projektowana ustawa określa organizację i sposób sprawowania krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia, a także zapewnienia rozwoju w tym obszarze. Zakres przedmiotowy projektu wynika wprost z przepisów rozporządzenia 2024/1689, w którym znajduje się znaczna część przepisów merytorycznych stosowanych bezpośrednio. Projektowana ustawa koncentruje się na ustanowieniu roli organów państwa w tym obszarze oraz ustanowieniu środków rozwoju i nadzoru. Przygotowując się do wyżej opisanych prac legislacyjnych na rzecz zapewnienia skutecznego stosowania rozporządzenia 2024/1689, Ministerstwo Cyfryzacji przeprowadziło szereg działań obejmujących: analizy prawne, instytucjonalne i techniczne oraz dwukrotne konsultacje z interesariuszami zarówno sektora publicznego, jak i prywatnego i pozarządowego. Analizy polskiego prawa oraz otoczenia instytucjonalnego prowadzone przez Ministerstwo Cyfryzacji wykazały brak istnienia w naszym kraju organu lub instytucji publicznej spełniających wymogi określone w rozporządzeniu 2024/1689 zarówno w zakresie statusu prawnego i roli ustrojowej, jak i wymaganych kwalifikacji pracowników. Rosnąca rola systemów sztucznej inteligencji oraz skala zagrożeń, jakie może powodować ich niewłaściwe stosowanie, powodują, że konieczne jest wyznaczenie organu, który tym wyzwaniom sprosta. W związku z potrzebami zapewnienia właściwego poziomu ochrony podstawowych praw człowieka, praw obywateli i konsumentów, rosnąć powinny również kompetencje organów nadzoru. W Polsce od kilku lat obserwujemy zwiększanie wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielanie ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych. Biorąc pod uwagę to, że w ostatnim czasie każdy z tych 5 organów przyjął na siebie realizacje nowych, poważnych obowiązków, zasadne jest, aby właściwy organ mógł realizować je w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli. W wyniku powyżej opisanych działań analitycznych, jak również ciągłego procesu zapoznawania się z aktualnym stanem wiedzy eksperckiej 1 , prowadzeniem dyskusji roboczych z przedstawicielami innych instytucji publicznych oraz uwzględnianiem wniosków wypracowanych na wcześniejszych etapach w ramach prac Grupy Roboczej ds. AI 2 , Ministerstwo Cyfryzacji ustaliło, że najbardziej efektywnym sposobem osiągnięcia celu nałożonego na Polskę przez rozporządzenie 2024/1689 jest ustanowienie nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucji tej, mającej pełnić funkcję nie tylko organu nadzoru nad rynkiem, ale również przyczyniającej się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnienia funkcji podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, w projekcie nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”. W celu uzyskania dodatkowych informacji i opinii ekspertów oraz przedstawicieli opinii publicznej, Ministerstwo Cyfryzacji przeprowadziło otwarte dla wszystkich zainteresowanych prekonsultacje założeń prac nad projektem ustawy (realizacja w terminie od 2 kwietnia 2024 r. do 23 kwietnia 2024 r). Respondenci tego procesu w zdecydowanej większości opowiedzieli się za koniecznością powołania nowego organu nadzoru jako najlepszym rozwiązaniem systemowym odpowiadającym potrzebom rozwoju polskiego ekosystemu sztucznej inteligencji 3 . Należy podkreślić także, że rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte i uchwalone w formie ustawy w Hiszpanii 4 . Dodatkową okolicznością przemawiającą za (systemową i ekonomiczną) optymalnością wskazanego modelu jest mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia tych wymagań oraz prowadziłoby do szkodliwej 1 A Robust Governance for the AI Act: AI Office, AI Board, Scientific Panel, and National Authorities | European Journal of Risk Regulation | Cambridge Core 2024. 2 RAPORT: Analiza związku Aktu w sprawie sztucznej inteligencji z wybranymi obowiązującymi i projektowanymi regulacjami prawnymi – Portal sztucznej inteligencji – Portal G ov.pl (www.gov.pl). 3 Wdrożenie Aktu o AI – Ministerstwo Cyfryzacji – Portal Gov.pl (www.gov.pl). 4 Estrategia de Inteligencia Artificial 2024. 6 konkurencji między organami i rywalizacji o wąskie grono wysoko wyspecjalizowanych ekspertów. Powołanie nowego organu jawi się również jako racjonalne z punktu widzenia interesu sektora finansów publicznych. Jak wspominano, w aktualnym stanie prawnym brakuje podmiotu spełniającego wymagania, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, a więc łącznego i równoczesnego zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne z punktu widzenia polskiego podatnika. Rozdział 1 – Przepisy ogólne (art. 1 – art. 4) Rozdział 1 określa zakres podmiotowy ustawy, stanowiąc, że przepisy ustawy będą miały zastosowanie do osób fizycznych, osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej, jak również zakres przedmiotowy ustawy, w ramach którego planuje się określenie sposobu sprawowania nadzoru nad rynkiem, postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, działania wspierające rozwój systemów sztucznej inteligencji oraz zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Projektodawca określił zarówno zakres podmiotowy, jak i przedmiotowy w ten sposób, by był kompatybilny z przepisami oraz celami określonymi w rozporządzeniu 2024/1689. Z zakresu stosowania rozporządzenia 2024/1689 (art. 2 ust. 3) i ustawy w art. 2 zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2026 r. poz. 1158). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów wyłączone mają być również sprawy będące w zakresie bezpieczeństwa narodowego, obejmujące działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji 7 Wywiadu (Dz. U. z 2025 r. poz. 902, z późn. zm.), a także w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2024 r. poz. 1405, z późn. zm.). Intencją projektu jest całkowite wyłączenie działalności służb specjalnych spod właściwości Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wyłączenie spraw związanych z obroną narodową oraz bezpieczeństwem narodowym jest uzasadnione kilkoma istotnymi powodami. Przede wszystkim kwestie te są kluczowe dla stabilności i ochrony państwa, dlatego wymagają specjalnych procedur i środków, które są niezbędne do skutecznego zarządzania zagrożeniami. Przepisy dotyczące obrony narodowej i bezpieczeństwa narodowego często wymagają specyficznych regulacji, które mogą nie być kompatybilne z ogólnymi przepisami dotyczącymi sztucznej inteligencji. Wyłączenie tych obszarów pozwala na dostosowanie regulacji do unikalnych potrzeb i wymagań tych sektorów. Jednocześnie w celu zapewnienia stosowania i przestrzegania przepisów rozporządzenia 2024/1689 w odniesieniu do specyfiki działania służb specjalnych, w projekcie proponuje się wskazanie Prezesa Rady Ministrów albo Ministra – Koordynatora Służb Specjalnych, w przypadku jego powołania, jako organu właściwego do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie przestrzegania przepisów rozporządzenia 2024/1689 i projektowanej ustawy. Zaproponowane powyżej rozwiązania prawne umożliwią stosowanie przepisów rozporządzenia 2024/1689 wobec służb specjalnych, przy jednoczesnym zachowaniu przez każdą z nich należytego poziomu ochrony środków, form i metod realizacji zadań, zgromadzonych informacji oraz własnych obiektów i danych identyfikujących funkcjonariuszy służby, do której to ochrony służby specjalne są zobowiązane przepisami ustawowymi. W zakresie kontroli odpowiednie zastosowanie będą mieć przepisy ustawy o kontroli w administracji rządowej, tak więc nie ma potrzeby dodatkowego normowania tej kwestii w przedmiotowym projekcie. Przepisów nie stosuje się także do badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm.), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689. Wyłączenia dotyczące badań podstawowych, aplikacyjnych oraz prac rozwojowych wynikają z ich specyficznego charakteru i celu. Badania te mają na celu zdobywanie nowej wiedzy oraz rozwijanie innowacyjnych technologii, które mogą przyczynić 8 się do postępu naukowego i technologicznego. Wyłączenie tych badań z przepisów pozwala na swobodniejszy rozwój nauki i innowacji, bez konieczności spełniania dodatkowych wymagań, które mogłyby ograniczać ich potencjał rozwojowy, a także jest spójne z przepisami rozporządzenia 2024/1689. Zgodnie z treścią rozporządzenia, z zakresu stosowania przepisów ustawy wyłączone zostały także systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 rozporządzenia 2024/1689. Jest to wyłączenie spójne z art. 2 ust. 12 rozporządzenia 2024/1689. Przepisów nie stosuje się także do systemów wprowadzonych do użytku wyłącznie dla celów w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych przed wejściem w życie rozporządzenia 2024/1689. Zgodnie z zakresem określonym przez unijnego prawodawcę (art. 2 ust. 10 rozporządzenia 2024/1689), projekt w art. 3 wyłącza z zakresu ustawy osoby fizyczne, które stosują systemy sztucznej inteligencji wyłącznie dla celów osobistych i niezwiązanych z działalnością gospodarczą, rolniczą lub inną działalnością regulowaną przez prawo. Ponadto projekt wyłącza z zakresu ustawy organy publiczne, które są objęte innymi przepisami prawnymi. Projekt ten odnosi się do różnych rodzajów działalności gospodarczej, takich jak działalność zarobkowa prowadzona we własnym imieniu, działalność gospodarcza jako formalnie zarejestrowana działalność zarobkowa wykonywana we własnym imieniu, działalność nierejestrowa, a także działalność zawodowa wymagająca uprawnień państwowych. W art. 4 projektu określa się również stosowane w tekście definicje prawne, które wprowadzają wyjaśnienia terminów w oparciu o przepisy rozporządzenia 2024/1689. Zdaniem projektodawcy zachowanie spójności terminologicznej jest kluczowe dla właściwego stosowania rozporządzenia 2024/1689. Projektowana ustawa nie będzie zawierała rozdziału określającego obowiązki operatorów uczestniczących w łańcuchu wartości AI, ponieważ obowiązki te są uregulowane w przepisach rozporządzenia 2024/1689 stosowanych bezpośrednio. Rozdział 2 – Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 47) Zgodnie z art. 70 ust. 1 oraz motywem 153 rozporządzenia 2024/1689, państwa członkowskie ustanawiają lub wyznaczają co najmniej jeden organ nadzoru rynku jako właściwy organ krajowy zobowiązany do wykonywania swoich uprawnień w sposób niezależny, bezstronny i 9 wolny od uprzedzeń. Sprawowanie nadzoru nad systemami AI przez ministra właściwego do spraw informatyzacji nie jest możliwe ze względu na wymaganą przez rozporządzenie niezależność organu nadzoru od administracji rządowej. W celu zapewniania wymogów rozporządzenia 2024/1689, jako organ nadzoru rynku systemów AI została ustanowiona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Jej podstawowym zadaniem jest sprawowanie nadzoru nad wdrażaniem i stosowaniem sztucznej inteligencji w Polsce. Komisja została również wskazana jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. Przyznanie prawa do używania pieczęci z godłem państwowym podkreśla rangę i oficjalny charakter działań Komisji. Komisja odpowiada za komunikację z instytucjami unijnymi, w tym z Komisją Europejską i Europejską Radą ds. Sztucznej Inteligencji, co zapewnia spójność działań na poziomie europejskim. Zobowiązanie do współpracy z licznymi organami krajowymi, takimi jak Komisja Nadzoru Finansowego, Urząd Ochrony Konkurencji i Konsumentów, Urząd Ochrony Danych Osobowych, Urząd Patentowy RP, Urząd Rejestracji Produktów Leczniczych czy Krajowa Radą Radiofonii i Telewizji uwzględnia specyfikę różnych obszarów zastosowań sztucznej inteligencji, jak również odzwierciedla interdyscyplinarny charakter wyzwań związanych z AI i pozwala na kompleksowe podejście do regulacji. Istotna jest także współpraca z podmiotami odpowiedzialnymi za cyberbezpieczeństwo, co wynika z wrażliwości systemów AI na cyberzagrożenia oraz dużą (i rosnącą) rolą AI zarówno w technikach ataków, jak i ochrony przed incydentami. Należy również podkreślić, że rozwiązania proponowane w ustawie nie wyczerpują docelowego, kompletnego zakresu nadzoru nad systemami sztucznej inteligencji w Polsce. Wynika to z faktu, że projekt nie obejmuje obszaru określonego jako wysokiego ryzyka. Docelowo w nadzorze uczestniczyć będą również organy przewidziane w treści przepisów rozporządzenia 2024/1689 jako właściwe do nadzoru nad pozostającymi w ich zakresie kompetencji systemami wysokiego ryzyka. Opracowanie i przyjęcie przepisów w tym zakresie wstępnie uwarunkowane było opublikowaniem wytycznych Komisji Europejskiej dotyczących systemów wysokiego ryzyka. Obecnie procedowany jest natomiast projekt uproszczeń do rozporządzenia 2024/1689 (Omnibus AI) wprowadzający znaczne zmiany w zakresie przepisów dotyczących tych systemów w tym terminu ich wejścia w życie. Omawiane działania na szczeblu unijnym mają bezpośredni wpływ na przyjęcie przepisów włączających w system nadzoru organy odpowiedzialne sektorowo za nadzór nad stosowaniem systemów AI w 10 obszarach takich jak m.in. medycyna i produkty lecznicze, transport i motoryzacja czy bezpieczeństwo publiczne, ochrona granic i polityka migracyjna (art. 6, Załączniki II–III). W projekcie określono zadania Komisji, łącząc funkcje kontrolne z aktywnością wspierającą rozwój rynku AI. Kluczowe znaczenie ma nadzór nad przestrzeganiem przepisów unijnych i krajowych, co stanowi podstawową funkcję tego organu. Jednocześnie Komisja pełni ważną rolę w promowaniu innowacji poprzez działania edukacyjne i informacyjne. Zadania związane z opiniowaniem aktów prawnych i współpracą międzynarodową podkreślają strategiczne znaczenie Komisji w kształtowaniu polityki AI. Prowadzenie rejestru skarg tworzy system wczesnego ostrzegania przed zagrożeniami (rejestr ten nie stanowi rejestru publicznego). Szczególnie istotne jest zadanie tworzenia piaskownic regulacyjnych, które pozwalają na testowanie innowacyjnych rozwiązań w kontrolowanych warunkach. Kompetencje w zakresie wydawania decyzji i postanowień zapewniają Komisji niezbędne narzędzia do skutecznego wykonywania funkcji nadzorczych. Projekt umacnia także rolę Komisji jako ciała opiniotwórczego i doradczego w procesie legislacyjnym dotyczącym obszaru sztucznej inteligencji. Możliwość przedstawiania propozycji działań legislacyjnych ministrowi właściwemu do spraw informatyzacji pozwala na aktywne kształtowanie polityki regulacyjnej. Obowiązek publikowania przykładów dobrych praktyk służy upowszechnianiu standardów i promocji najlepszych rozwiązań wśród przedsiębiorców i jednostek publicznych. Przepisy te tworzą mechanizm oddziaływania Komisji nie tylko poprzez kontrolę, ale także poprzez inspirowanie i edukowanie uczestników rynku AI. Komisja może ponadto wydawać opinie indywidualne i wyjaśnienia. Przepisy art. 8–art. 17 stanowią kompleksową regulację w tym zakresie w odniesieniu do stosowania przepisów rozporządzenia 2024/1689 i ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. Art. 8 wprowadza ogólną kompetencję Komisji do wydawania opinii indywidualnych oraz wyjaśnień. Komisja, jako organ nadzoru rynku nad systemami sztucznej inteligencji, posiada szczególne kompetencje merytoryczne, pozwalające na dokonywanie wiążących ocen prawnych w konkretnych przypadkach, a także formułowanie ogólnych wskazówek 11 interpretacyjnych. W art. 8 ust. 2 wprost wskazane zostało, że przy formułowaniu takich stanowisk Komisja powinna brać pod uwagę opinie i zalecenia Europejskiej Rady ds. Sztucznej Inteligencji, co służy zapewnieniu zgodności krajowej wykładni z kierunkiem wykładni prawa Unii Europejskiej w tym obszarze. Art. 9 szczegółowo reguluje procedurę uzyskiwania opinii indywidualnej, czyli wiążącego stanowiska Komisji w indywidualnej sprawie. Konstrukcja ta ma na celu stworzenie bezpiecznej przestrzeni dla przedsiębiorców i innych podmiotów do uzyskania pewności co do legalności planowanych działań. Możliwość wystąpienia z wnioskiem zarówno w odniesieniu do stanów faktycznych już zaistniałych, jak i zdarzeń przyszłych, czyni z opinii indywidualnej skuteczne narzędzie zapobiegania naruszeniom prawa, a także umożliwia zgodne z przepisami planowanie działalności gospodarczej. Obowiązek uiszczenia opłaty, o której mowa w art. 11, ma charakter dyscyplinujący oraz ogranicza możliwość nadużywania instytucji opinii do prób uzyskiwania bezpłatnych porad prawnych. Zachowano przy tym gwarancje proceduralne – m.in. możliwość wezwania do uzupełnienia braków formalnych, określenie maksymalnych terminów na wydanie opinii oraz przyjęcie fikcji prawnej pozytywnego rozpatrzenia w przypadku ich przekroczenia. Wprowadzenie fikcji pozytywnego rozpatrzenia (tzw. milcząca zgoda) wzmacnia pozycję prawną wnioskodawców i mobilizuje Komisję do sprawnego działania. Wydając opinię indywidualną, Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. Wiążący charakter opinii dla Komisji i innych organów państwowych oraz jednostek organizacyjnych określonych w ustawie, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego wzmacnia bezpieczeństwo prawne wnioskodawców i ogranicza ryzyko rozbieżnych interpretacji tego samego stanu faktycznego przez różne instytucje. Ochrona tej decyzji przed zmianą, gdy wywołała ona nieodwracalne skutki prawne, chroni stabilność stosunków prawnych i respektuje zasadę zaufania obywateli do państwa. Wprowadzono także mechanizmy weryfikacji i korekty opinii. W drodze zmiany, uchylenia lub stwierdzenia jej wygaśnięcia – w przypadku zmiany stanu prawnego, ujawnienia fałszywego oświadczenia lub wystąpienia innej przesłanki. Daje to Komisji elastyczne narzędzia dostosowywania się do zmieniających się uwarunkowań prawnych i faktycznych. Art. 16 uzupełnia regulację przez umożliwienie Komisji wydawania wyjaśnień o charakterze ogólnym dotyczących stosowania przepisów. Wyjaśnienia odmiennie od opinii indywidualnych nie mają charakteru wiążącego. Pełnią natomiast rolę instrukcyjną i edukacyjną, która jest istotna z punktu widzenia podmiotów objętych przepisami rozparzenia 12 2024/1689. Ułatwią one jednolite rozumienie i stosowanie prawa przez szeroki krąg podmiotów, zarówno urzędników, przedsiębiorców, jak i obywateli. Uwzględnienie dorobku orzeczniczego oraz dokumentów interpretacyjnych Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji stanowi wyraz dążenia do harmonizacji wykładni krajowej z unijną. Art. 17 ustanawia zasadę przejrzystości poprzez nakaz publikowania wydanych opinii i wyjaśnień (po ich anonimizacji) w Biuletynie Informacji Publicznej. Służy to upowszechnianiu wiedzy prawnej, ułatwia dostęp do informacji, a także może zapobiegać składaniu wielokrotnie podobnych wniosków w analogicznych sprawach. Dodatkowo pełni funkcję kontrolną i legitymizującą działania Komisji w oczach opinii publicznej. Przepisy art. 8–art. 17 stanowią spójny system umożliwiający prawidłowe, jednolite i przewidywalne stosowanie przepisów dotyczących sztucznej inteligencji, zarówno w wymiarze indywidualnym, jak i ogólnym. Chronią interesy podmiotów regulowanych, wzmacniają zaufanie do instytucji publicznych, wspierają harmonizację krajowego i unijnego porządku prawnego oraz zwiększają bezpieczeństwo obrotu prawnego. Ich znaczenie praktyczne będzie rosło wraz z rozwojem zastosowań sztucznej inteligencji i dynamiką zmian regulacyjnych w tym obszarze. Innym z zadań i uprawnień Komisji będzie możliwość przedstawiania sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Komisja będzie mogła wykonywać to zadanie z własnej inicjatywy, jak i na wniosek. Skład Komisji został zaprojektowany tak, aby zapewnić reprezentację kluczowych podmiotów zaangażowanych w nadzór nad technologiami cyfrowymi, przy zachowaniu efektywności procesu decyzyjnego. Członkami Komisji będą Przewodniczący oraz dwóch Zastępców, a także czterej przedstawiciele wskazani przez organy publiczne: Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisję Nadzoru Finansowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej. Obecność przedstawicieli instytucji o wysokim poziomie niezależności gwarantuje uwzględnienie różnych perspektyw w procesie decyzyjnym, a mechanizm zapraszania ekspertów z głosem doradczym pozwala na wykorzystanie specjalistycznej wiedzy w złożonych kwestiach technicznych, co jest szczególnie ważne w dynamicznie rozwijającej się dziedzinie AI. Ustawa dodatkowo zapewnia Przewodniczącemu Komisji, jego Zastępcom oraz członkom Komisji pełną niezależność w zakresie zadań realizowanych przez Komisję. 13 W projekcie przewidziano ponadto możliwość stałego udziału w posiedzeniach Komisji również przedstawicieli dodatkowych organów. Przepisy gwarantują udział bez prawa głosu na zasadach stałego obserwatora przedstawicieli organów i podmiotów wskazanych na zasadach określonych w art. 77 rozporządzenia 2024/1689 oraz przedstawicieli ministrów. Zapewni to koordynację działań z administracją rządową, pozwoli na sprawną współpracę organów, a także na szybsze reagowanie w przypadku zdarzeń o potencjalnie negatywnym wpływie na bezpieczeństwo obywateli i Państwa. Zasady dotyczące wynagrodzeń i zwrotu kosztów podróży zostały określone tak, aby zapewnić profesjonalizm prac Komisji przy zachowaniu zasad racjonalności wydatków publicznych. Procedury pracy Komisji zostały określone z zachowaniem zasad przejrzystości i efektywności, co jest kluczowe dla sprawnego funkcjonowania tego organu. Możliwość podejmowania uchwał zarówno na posiedzeniach, jak i w trybie obiegowym, a także zdalnego uczestnictwa w obradach, odpowiada współczesnym standardom funkcjonowania organów administracji i zapewnia elastyczność działania przy mniejszym obciążeniu kosztami i czasochłonnością wykonywanych zadań. Mechanizmy dotyczące wyłączenia członków Komisji z posiedzeń w przypadku konfliktu interesów zapewniają bezstronność i obiektywizm postępowania. Szczegółowe zasady funkcjonowania Komisji, mające zostać określone w regulaminie, pozwolą na dostosowanie procedur do specyfiki rozpatrywanych spraw, przy jednoczesnym zachowaniu podstawowych standardów dobrego zarządzania. Sposób podejmowania uchwał, w tym zasady rozstrzygania remisów, został zaprojektowany tak, aby zapewnić skuteczność działania Komisji przy zachowaniu zasad demokratycznego podejmowania decyzji. Przepisy określają zadania Przewodniczącego Komisji i składają się na konsekwentny system kierowania i reprezentacji tego organu. Przewodniczący pełni kluczową rolę w koordynacji prac Komisji, będąc odpowiedzialnym za jej reprezentację zewnętrzną i sprawozdawczość. Szczególnie istotne jest prawo do wyznaczania Sekretarza Komisji i Zastępców Przewodniczącego, co zapewnia płynność funkcjonowania organu. Obowiązek publikowania wykazu organów w BIP i przekazywania informacji do instytucji unijnych gwarantuje przejrzystość działań i spójność z wymogami europejskimi. Kompetencja do określania wymogów dotyczących funkcjonowania Komisji w drodze zarządzenia pozwala na elastyczne dostosowywanie się do zmieniających się potrzeb rynku AI. Zadania związane z podpisywaniem zaleceń pokontrolnych i podpisywaniem uchwał wzmacniają pozycję Przewodniczącego jako lidera merytorycznego Komisji. Dodatkowo współdziałanie 14 Przewodniczącego Komisji z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji wpłynie na zapewnienie obsługi organizacyjnej, administracyjnej oraz merytorycznej Komisji, a także na zapewnienie środków finansowych na działania określone rozporządzeniem 2024/1689 i ustawą. Co roku Przewodniczący Komisji będzie ponadto obowiązany do przedstawiania szczegółowego sprawozdania Sejmowi, co wzmacnia jej odpowiedzialność przed władzą ustawodawczą i społeczeństwem. Zakres sprawozdania obejmuje zarówno aspekty merytoryczne (wyniki kontroli, analiza trendów), jak i finansowe (realizacja budżetu), co zapewnia kompleksową ocenę działalności organu. Część finansowa sprawozdania Komisji odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. Publikacja sprawozdania w BIP gwarantuje dostępność informacji dla wszystkich zainteresowanych podmiotów. Szczególnie istotne jest uwzględnienie w sprawozdaniu analizy ryzyk związanych z rozwojem AI, co pozwala na bieżące monitorowanie zagrożeń i dostosowywanie polityki w tym obszarze. W projekcie przewidziano także regulacje nakładające na Przewodniczącego Komisji obowiązek dotyczący ustanawiania w formie zarządzenia, w zakresie zadań Komisji, wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Przewodniczący odpowiedzialny będzie także za ich coroczną ocenę oraz ewentualną aktualizację. Przepis zapewnia bieżącą aktualizację zasobów niezbędnych do realizacji zadań nadzorczych, organizacyjnych i administracyjnych. Dzięki temu zapewnione zostanie, że organ nadzorczy nie tylko formalnie istnieje, ale realnie może wykonywać swoje funkcje z odpowiednią skutecznością i niezależnością. Dodatkowo Przewodniczący Komisji zobowiązany został do sporządzenia i przekazania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w formie elektronicznej. Sprawozdanie to ma na celu ocenę efektywności działania krajowego organu nadzorczego oraz przedstawienie informacji o dostępnych zasobach. Przepis ten zapewnia realizację obowiązków sprawozdawczych wobec instytucji unijnych. W projekcie ustawy przewidziano, że Przewodniczącego Komisji powołuje Sejm za zgodą Senatu. Rozwiązanie to zostało przyjęte z uwagi na szczególny charakter funkcji przewodniczącego oraz strategiczne znaczenie Komisji w systemie instytucjonalnym państwa. Oznacza to, że osoba stojąca na jej czele musi nie tylko posiadać wysokie kompetencje merytoryczne, ale także cieszyć się silną legitymacją demokratyczną i zaufaniem szerokiego spektrum politycznego. 15 Powoływanie Przewodniczącego Komisji przez Sejm za zgodą Senatu wprowadza mechanizm równowagi i wzajemnej kontroli między obiema izbami parlamentu. Taki model procedury wyboru służy ograniczeniu ryzyka upolitycznienia stanowiska oraz zwiększa transparentność procesu, co ma szczególne znaczenie w przypadku urzędu odpowiedzialnego za nadzór nad dziedziną dynamicznie rozwijającą się, jaką jest sztuczna inteligencja. Ponadto, przyjęta formuła jest spójna z rozwiązaniami ustrojowymi przewidzianymi w Konstytucji RP oraz w ustawach regulujących wybór innych kluczowych funkcjonariuszy publicznych. Analogiczne mechanizmy powołania – przez Sejm za zgodą Senatu – funkcjonują w przypadku Rzecznika Praw Obywatelskich czy Prezesa Najwyższej Izby Kontroli. Wprowadzenie podobnego trybu w odniesieniu do przewodniczącego Komisji gwarantuje ciągłość i konsekwencję w zakresie standardów wyboru osób na wysokie stanowiska państwowe, co sprzyja umacnianiu zasad państwa prawa, przejrzystości i odpowiedzialności instytucji publicznych. Projekt wprowadza limit dwóch kadencji, który zapobiega nadmiernej koncentracji władzy. Przepisy te tworzą równowagę między potrzebą stabilności kierownictwa Komisji a koniecznością okresowej weryfikacji jego działań. Określono także okoliczności przedterminowego zakończenia kadencji Przewodniczącego Komisji, co stanowi ważny mechanizm kontrolny. Katalog przyczyn odwołania obejmuje zarówno sytuacje obiektywne (utrata zdolności do pełnienia funkcji), jak i przypadki naruszenia zasad etycznych (skazanie za przestępstwo). Szczegółowa procedura naboru na stanowisko Zastępcy Przewodniczącego została zaprojektowana tak, aby zapewnić przejrzystość i merytokratyczny charakter procesu selekcji. Wymóg otwartego konkursu i publikacji ogłoszeń w BIP gwarantuje równy dostęp do stanowiska. Powołanie specjalistycznego zespołu rekrutacyjnego oraz możliwość zaangażowania zewnętrznych ekspertów zapewniają natomiast obiektywną ocenę kandydatów. Szczegółowe wymagania dotyczące protokołu i publikacji wyników zwiększają odpowiedzialność za podejmowane decyzje. Projektowane przepisy tworzą zatem system, który z jednej strony zapewnia wysokie kwalifikacje osób powoływanych na stanowiska, z drugiej zaś – przejrzystość procesu selekcji. Wprowadzono ograniczenia działalności dla członków Przewodniczącego i zastępców Przewodniczącego Komisji, co ma na celu wyeliminowanie potencjalnych konfliktów interesów. Zakaz przynależności do partii politycznych i związków zawodowych wzmacnia ponadto apolityczny charakter organu. Możliwość łączenia funkcji tylko z działalnością 16 naukową odpowiada specyfice obszaru AI, gdzie współpraca z środowiskiem akademickim jest szczególnie pożądana. Instytucja oświadczenia o braku konfliktu interesów stanowi natomiast dodatkowe zabezpieczenie od strony etycznej. Przepisy te zostały zaprojektowane tak, aby tworzyć system gwarancji niezależności i bezstronności Przewodniczącego i Zastępców Przewodniczącego Komisji, co jest szczególnie ważne w kontekście wrażliwych kwestii regulacyjnych dotyczących sztucznej inteligencji. Projekt ustawy kładzie również duży nacisk na zapewnienie ochrony tajemnic prawnie chronionych oraz danych osobowych. W celu ochrony zarówno tajemnicy prawnie chronionych, jak i wrażliwych informacji uzyskanych podczas wykonywania obowiązków wynikających z rozporządzenia 2024/1689 i ustawy, ustanowiono szeroki obowiązek zachowania tajemnicy przez osoby związane z Komisją. Obowiązek utrzymuje się nawet po zakończeniu współpracy, co zabezpiecza przed nieuprawnionym ujawnieniem informacji. Jest to szczególnie istotne w kontekście ochrony danych osobowych, tajemnic handlowych oraz innych poufnych informacji. Wyjątek dotyczący zawiadomień o przestępstwie, co tworzy równowagę między ochroną informacji a koniecznością zgłaszania nieprawidłowości. Wprowadzenie tego wyjątku pozwala na ujawnienie informacji w sytuacjach, gdy jest to konieczne dla zapobieżenia lub ścigania przestępstw. Zgłaszanie przestępstw jest niezbędne dla zapewnienia praworządności, a także dla ochrony interesów publicznych. Określono także zasady przetwarzania danych osobowych przez Komisję w związku z realizacją jej zadań. Przetwarzanie będzie dotyczyło również danych, o których mowa w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych). Przepisy uwzględniają specyfikę danych przetwarzanych w systemach AI, jednocześnie wprowadzając mechanizmy okresowego przeglądu i usuwania zbędnych informacji. Przepis ten pozwala Komisji na dostęp do szczególnych danych w zakresie niezbędnym do realizacji jej zadań, jednocześnie określając warunki ich przekazywania innym uprawnionym podmiotom. Rozwiązanie to tworzy równowagę między efektywnością nadzoru a ochroną danych i tajemnicy przedsiębiorcy. Art. 43 projektu ustawy ma na celu stworzenie kompleksowych i trwałych ram organizacyjnych, które zapewnią skuteczne i profesjonalne wsparcie dla działalności Komisji i 17 Przewodniczącego Komisji. Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji. Zgodnie z przepisami ustawy urząd obsługujący ministra właściwego do spraw informatyzacji zapewni obsługę administracyjno-kancelaryjną Komisji i Przewodniczącego Komisji. Komisja oraz Przewodniczący Komisji będą mogli upoważnić pracowników właściwej komórki ww. urzędu do realizacji swoich zadań wynikających z rozporządzenia 2024/1689 i ustawy. Upoważnienie to nie może jednak obejmować wydawania postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 oraz ustawy. W tym celu planuje się utworzenie nowej komórki organizacyjnej urzędu, której organizacja i zasady funkcjonowania zostaną określone w regulaminie. Do spraw wynikających z zatrudnienia w ww. komórce organizacyjnej urzędu będą miały zastosowanie przepisy obowiązujące w tym zakresie w Ministerstwie Cyfryzacji. Warto jednak zaznaczyć, że z uwagi na przedmiot regulacji osoby wykonujące na podstawie upoważnienia zadania na rzecz Komisji będą zatrudniane na postawie przepisów ustawy o służbie cywilnej, kodeksu pracy, ale też nie wyklucza się umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. W celu wzmocnienia niezależności organu i pracowników realizujących jego zadania przyjęto rozwiązanie, zgodnie z którym Przewodniczący Komisji będzie współdziałał z Dyrektorem Generalnym urzędu w zakresie spraw pracowniczych wynikających z art. 25 ust. 4 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej, a także w zakresie spraw związanych z audytem i ochroną informacji. Pracownicy ww. komórki organizacyjnej będą podlegali Przewodniczącemu Komisji. Przepisy ustawy także określają status prawny Przewodniczącego Komisji, jego Zastępców i członków Komisji. Projekt ustawy wskazuje wysokość wynagrodzenia Przewodniczącego Komisji i jego zastępców. Mając na uwadze zachowanie transparentności finansowej oraz niezależności osób powołanych na ww. stanowiska, wysokość wynagrodzenia została wskazana wprost przez odniesienie do kwoty bazowej ustalanej z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. Rozwiązanie to będzie odpowiadało rzeczywistym potrzebom organizacyjnym wynikającym ze specyfiki i zakresu zadań Komisji i posłuży zachowaniu równowagi w zakresie niezależności Komisji. Zgodnie z art. 45, jako organ opiniodawczo-doradczy Komisji, zostanie ustanowiona Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”. Ma ona zapewnić wsparcie 18 eksperckie w zakresie sztucznej inteligencji. Rada ma na celu włączenie szerokiego grona interesariuszy, co zwiększa transparentność i demokratyczność działań Komisji. Dzięki temu możliwe jest uwzględnienie różnorodnych perspektyw i interesów społecznych oraz gospodarczych, co jest kluczowe w dynamicznie rozwijającej się dziedzinie AI. Skład Rady obejmuje od dziewięciu do piętnastu członków wybieranych na dwuletnią kadencję. Taki zakres liczbowy zapewnia różnorodność opinii i kompetencji, jednocześnie umożliwiając efektywne funkcjonowanie Rady. Dwuletnia kadencja pozwala na regularne odświeżanie składu Rady, co sprzyja dynamicznemu rozwojowi i adaptacji do zmieniających się warunków technologicznych. Regularna rotacja członków Rady zapewnia również, że nowe idee i podejścia są wprowadzane do dyskusji, co jest niezbędne w kontekście szybko ewoluującej technologii. Kandydaci na członków Rady mogą być zgłaszani przez różne podmioty, w tym przedstawicieli samorządów, rzeczników praw, izby gospodarcze, organizacje związkowe, uczelnie wyższe oraz fundacje i stowarzyszenia. Chociaż przepis określa bardzo szeroki krąg podmiotów to wzięto jednak pod uwagę zakres spraw mających podlegać obradom Rady, bezpieczeństwo przetwarzanych informacji oraz efektywne działanie organu opiniodawczo-doradczego. Stąd też w przypadku fundacji i stowarzyszeń wymagane jest posiadanie wpisu do Krajowego Rejestru Sądowego. KRS daje również pewność prawną ciągłości działania podmiotu, a to przekłada się również na stabilność składu Społecznej Rady. Taki szeroki zakres podmiotów zgłaszających kandydatów zapewnia reprezentatywność i uwzględnienie różnych perspektyw oraz interesów społecznych i gospodarczych. Dzięki temu Rada może działać w sposób bardziej zrównoważony i uwzględniać potrzeby różnych grup społecznych, co jest kluczowe dla skutecznego wdrażania i regulowania technologii AI. Wymogi dla członków Rady obejmują posiadanie wiedzy i doświadczenia w obszarze AI, niekaralność, pełnię praw publicznych oraz wyrażenie zgody na kandydowanie. Te kryteria mają na celu zapewnienie, że członkowie Rady będą kompetentni, wiarygodni i zaangażowani w pełnienie swoich obowiązków. Wymóg posiadania wiedzy i doświadczenia w obszarze AI gwarantuje, że członkowie Rady będą w stanie podejmować świadome i merytoryczne decyzje, które będą miały realny wpływ na rozwój i regulację tej technologii. Powoływanie członków Rady przez Komisję spośród zgłoszonych kandydatów zapewnia, że wybór członków jest przejrzysty i oparty na merytorycznych przesłankach. Proces ten ma na celu wyłonienie najbardziej kompetentnych i zaangażowanych osób, które będą w stanie skutecznie wspierać Komisję w jej działaniach. 19 Wygaśnięcie członkostwa w Radzie przed upływem kadencji może nastąpić z powodu rezygnacji, śmierci, niewykonywania obowiązków, skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe lub pozbawienia praw publicznych. Te przepisy mają na celu utrzymanie wysokiego standardu etycznego i zaangażowania członków Rady. W przypadku, gdy członek Rady nie jest w stanie wypełniać swoich obowiązków, konieczne jest zapewnienie, że jego miejsce zajmie osoba, która będzie w stanie aktywnie uczestniczyć w pracach Rady. Powiadomienie o wygaśnięciu członkostwa przez Komisję zapewnia formalność i jasność procedur związanych z zakończeniem członkostwa. Dzięki temu proces ten jest przejrzysty i zrozumiały dla wszystkich zainteresowanych stron. Odwołanie członka Rady przez Komisję w przypadku naruszenia przepisów lub niezachowania tajemnicy służbowej zapewnia, że członkowie Rady działają zgodnie z obowiązującymi normami prawnymi i etycznymi. Jest to kluczowe dla utrzymania zaufania do Rady i jej decyzji. Wygaśnięcie członkostwa w Radzie w przypadku rezygnacji jest formalnym potwierdzeniem zakończenia członkostwa na wniosek członka. Jest to ważne, aby zapewnić, że członkowie Rady mają możliwość dobrowolnego zakończenia swojej kadencji, jeśli uznają to za konieczne. Wybór nowego członka Rady w przypadku wygaśnięcia członkostwa lub odwołania zapewnia ciągłość działania Rady i możliwość szybkiego uzupełnienia jej składu. Dzięki temu Rada może nadal efektywnie funkcjonować i wspierać Komisję w jej działaniach, nawet w przypadku zmian personalnych. Zgodnie z art. 46 do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Rada ma możliwość podejmowania oraz przekazywania Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4. Dzięki temu może aktywnie uczestniczyć w monitorowaniu przestrzegania przepisów i inicjować działania mające na celu ich egzekwowanie. Rada ma również prawo wyrażania opinii i stanowisk przekazywanych do wiadomości Komisji z inicjatywy własnej. Taka możliwość pozwala Radzie na proaktywne działanie i podejmowanie inicjatyw, które mogą przyczynić się do lepszego zarządzania i regulacji technologii AI. Ponadto Rada podejmuje uchwały i przekazuje wnioski w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. Dzięki temu Rada może skutecznie reagować na przypadki naruszeń i wspierać Komisję w egzekwowaniu przepisów. 20 Rada wyraża opinię lub stanowisko, o którym mowa w art. 46 ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, co oznacza, że Komisja ma swobodę w podejmowaniu decyzji na podstawie własnych analiz i ocen. Niemniej jednak, opinie i stanowiska Rady stanowią cenne źródło informacji i mogą znacząco wpłynąć na decyzje Komisji. Opinie i stanowiska Rady są wydawane w drodze uchwały podjętej większością głosów wszystkich członków Rady. Przy czym obecność pełnego składu Rady podczas głosowania nie jest wymagana. Oznacza to, że w przypadku 9 osobowego składu Rady niezbędne będzie uzyskanie 5 głosów „Za”, nawet gdy nie wszyscy członkowie będą obecni na głosowaniu. Taki sposób podejmowania decyzji zapewnia demokratyczność i transparentność działań Rady. Uchwały Rady są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, co zapewnia dostępność informacji dla wszystkich zainteresowanych stron i zwiększa transparentność działań Rady. Zgodnie z art. 47 Komisja powołuje i odwołuje Przewodniczącego Rady oraz Zastępcę Przewodniczącego Rady spośród jej członków. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady, co zapewnia demokratyczność i transparentność procesu wyboru liderów Rady. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz, co jest kluczowe dla efektywnego funkcjonowania Rady oraz jej komunikacji zewnętrznej. W przypadku nieobecności Przewodniczącego Rady jego obowiązki przejmuje Zastępca Przewodniczącego Rady, co zapewnia ciągłość działania Rady. Do udziału w posiedzeniu Rady mogą być wskazane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Taki przepis umożliwia włączenie dodatkowych ekspertów i interesariuszy w dyskusje oraz może wzbogacić proces decyzyjny i zapewnić bardziej kompleksowe podejście do omawianych kwestii. Członek Rady oraz osoby zapraszane do udziału w pracach Rady są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji w Radzie. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady. Te przepisy mają na celu ochronę poufnych informacji oraz zapewnienie, że członkowie Rady działają zgodnie z najwyższymi standardami etycznymi. 21 Członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów. Te przepisy mają na celu zapewnienie, że członkowie Rady działają w sposób niezależny i bezstronny, co jest kluczowe dla utrzymania zaufania do Rady i jej decyzji. Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie, co podkreśla społeczny charakter jej działalności i zaangażowanie w sprawy publiczne. Niemniej za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 77(5) § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. Dzięki temu członkowie Rady nie ponoszą dodatkowych kosztów związanych z wykonywaniem swoich obowiązków. Powyższe zasady dotyczą również osób zapraszanych do udziału w pracach Rady. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję zwykłą większością głosów. Taki sposób uchwalania regulaminu zapewnia, że zasady działania Rady są ustalane w sposób demokratyczny i transparentny. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji, aby Rada miała dostęp do niezbędnych zasobów administracyjnych, umożliwiających jej efektywne funkcjonowanie. Rada może współpracować, w zakresie spraw określonych w ustawie i rozporządzeniu 2024/1689 oraz przy zachowaniu zasady zakazu konfliktu interesów, z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw będących przedmiotem posiedzenia. Taka współpraca pozwala na wymianę doświadczeń i najlepszych praktyk, co może przyczynić się do lepszego zarządzania i regulacji technologii SI na poziomie krajowym i międzynarodowym. Rozdział 3 – Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 48– art. 58) Przepisy projektowanej ustawy ustanawiają podstawę prawną dla prowadzenia przez Komisję kontroli operatorów uczestniczących w łańcuchu wartości AI. Kontrola jako kluczowy mechanizm nadzorczy, może być prowadzona zarówno na podstawie zatwierdzonego planu, informacji uzyskanych przez Komisję, jak i w ramach bieżącego monitorowania. Proponowane przepisy uwzględniają różnorodność statusów kontrolowanych podmiotów – przedsiębiorców oraz innych jednostek, jednocześnie wyłączając zastosowanie art. 6 pkt 1 oraz art. 51 ust. 3a ustawy – Prawo przedsiębiorców w celu dopasowania procedur do specyfiki nadzoru nad systemami sztucznej inteligencji. Wprowadzenie regulacji opartych 22 na Kodeksie postępowania administracyjnego ma na celu zapewnienie spójności oraz przejrzystości działań kontrolnych. Projekt określa tryb wszczynania kontroli, umożliwiając jej rozpoczęcie z urzędu lub na wniosek uprawnionych organów, takich jak Przewodniczący Komisji, jego zastępca czy członkowie Komisji oraz organy lub podmioty, o którym mowa w art. 77 rozporządzenia 2024/1689. W trosce o poszanowanie praw podmiotów objętych nadzorem wprowadza się zasadę zawiadamiania kontrolowanego z wyprzedzeniem, przewidując jednak możliwość odstąpienia od tego obowiązku w sytuacjach wyjątkowych, np. w przypadku zagrożenia życia, zdrowia lub praw podstawowych. Wprowadza się również zasadę przeprowadzania kontroli w sposób zdalny, co stanowi odpowiedź na wymogi nowoczesnych technologii. Istotnym elementem projektu jest uregulowanie zasad upoważniania osób do przeprowadzania kontroli – pracowników właściwej komórki urzędu obsługującego ministra właściwego do spraw informatyzacji. W celu zapewnienia bezstronności kontrolujących, wprowadzono wymóg składania oświadczeń o braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych w toku kontroli. Projekt precyzuje procedury organizacyjne kontroli, w tym wymóg okazania imiennego upoważnienia oraz dokumentu tożsamości przez kontrolujących. Dokumenty te powinny zawierać szczegółowe informacje zapewniające przejrzystość oraz legalność działań Komisji. Proponowane przepisy umożliwiają elastyczne dostosowanie procedur kontrolnych do konkretnych przypadków dzięki powiązaniu regulacji ustawowych z wewnętrznymi regulaminami Komisji. Zgodnie z treścią projektowanych przepisów kontrolujący będzie ustalał stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. W ramach wyjaśnień kontrolujący będzie mógł np. żądać omówienia przyczyny, znaczenia lub sposobu działania danego systemu czy zjawiska, także np. sporządzenia analiz, zestawień czy obliczeń. Celem jest usunięcie zaistniałych w trakcie kontroli wątpliwości, ułatwianie zrozumienia skomplikowanych czy niejasnych informacji, ich uporządkowanie lub doprecyzowanie. 23 Jeżeli jest to technicznie możliwe, kontrolujący będzie mógł zabezpieczyć dowody przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54 ustawy ma na celu zapewnienie poszanowania prawa kontrolowanego do zachowania poufności komunikacji z profesjonalnym pełnomocnikiem prawnym oraz zagwarantowanie możliwości skutecznego korzystania z ochrony prawnej w toku postępowania prowadzonego przez Komisję. Zapewnia się objęcie ochroną prawną wszystkich pism i dokumentów, dotyczących realizacji prawa kontrolowanego do uzyskania ochrony prawnej, które zostały ujawnione w toku kontroli. Przepis ten stanowi realizację konstytucyjnej zasady prawa do obrony oraz prawa do rzetelnego procesu, znajdujących swoje źródło m.in. w art. 42 ust. 2 Konstytucji RP oraz w standardach międzynarodowych, takich jak art. 6 Europejskiej Konwencji Praw Człowieka. Art. 54 ma na celu ochronę tajemnicy zawodowej adwokata, radcy prawnego oraz innych osób uprawnionych do świadczenia pomocy prawnej. Dotyczy to zarówno komunikacji z tymi osobami, jak i dokumentów wytworzonych wyłącznie w celu uzyskania ochrony prawnej w kontekście konkretnego postępowania prowadzonego przez Komisję. Przepis reguluje ponadto procedurę postępowania kontrolującego w przypadku, gdy kontrolowany lub osoba przez niego upoważniona złoży oświadczenie, że określone dokumenty lub pisma objęte są ochroną wynikającą z tajemnicy zawodowej, o której mowa w ust. 1. W celu zapewnienia równowagi pomiędzy potrzebą skutecznego prowadzenia kontroli a koniecznością poszanowania konstytucyjnie chronionych praw, w tym prawa do obrony i tajemnicy komunikacji z pełnomocnikiem, kontrolujący uzyskuje ograniczony dostęp do dokumentu – wyłącznie w zakresie umożliwiającym identyfikację jego podstawowych cech formalnych, takich jak autor, adresat, tytuł, przedmiot oraz data sporządzenia. Dodatkowo kontrolujący może żądać od kontrolowanego lub osoby przez niego upoważnionej ustnych wyjaśnień dotyczących złożonego oświadczenia, a także przygotowania wersji dokumentu pozbawionej informacji objętych ochroną, o ile jest to technicznie możliwe. Wprowadzenie tej procedury ma na celu umożliwienie weryfikacji zasadności oświadczenia bez naruszania chronionej treści dokumentu. Projektodawca przewidział jednak konieczność zapewnienia równowagi pomiędzy ochroną tajemnicy zawodowej a efektywnością działań kontrolnych. W tym celu w przepisie wskazano, że to na kontrolowanym ciąży obowiązek wykazania, iż sporne dokumenty rzeczywiście spełniają kryteria określone w ust. 1. Takie rozwiązanie zapobiega nadużyciom i uniemożliwia 24 arbitralne powoływanie się na poufność dokumentów w celu utrudnienia kontroli. Kontrolowany będzie musiał w sposób wiarygodny i uzasadniony przedstawić dowody potwierdzające, że dokumenty objęte są ochroną, o której mowa w przepisie. W przypadku powstania wątpliwości co do zasadności oświadczenia, kontrolujący zobowiązany jest do niezwłocznego przekazania dokumentu do Sądu Ochrony Konkurencji i Konsumentów, przy zachowaniu środków zabezpieczających przed ujawnieniem jego treści. Ciężar dowodu w zakresie wykazania, że dokument spełnia przesłanki ochrony, także w tym przypadku będzie spoczywał na kontrolowanym. Sąd, po zapoznaniu się z dokumentem, wyda postanowienie o jego zwrocie kontrolowanemu (w całości lub części), jeżeli uzna, że dokument podlega ochronie, albo o jego przekazaniu właściwemu organowi, jeżeli dokument nie spełnia przesłanek określonych w ust. 1. Na postanowienie sądu projektodawca przewidział możliwość złożenia zażalenia, a jego wykonanie następuje z chwilą uprawomocnienia. Projektowany przepis jest zgodny z zasadami państwa prawa oraz proporcjonalności. Uwzględnia konieczność ochrony fundamentalnych praw podmiotów objętych kontrolą, jednocześnie nie pozbawiając organu kontrolnego możliwości skutecznego przeprowadzenia postępowania w granicach prawa. Rozwiązanie to harmonizuje również z orzecznictwem Trybunału Sprawiedliwości Unii Europejskiej dotyczącym ochrony tajemnicy komunikacji z prawnikiem w ramach postępowań administracyjnych prowadzonych przez organy nadzoru lub ochrony konkurencji. Art. 55 przewiduje możliwość zwrócenia się przez Komisję do Policji oraz do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli w szczególnie uzasadnionych przypadkach. Wprowadzenie tego rozwiązania wynika z potrzeby zapewnienia Komisji instrumentów umożliwiających przeprowadzenie kontroli w sposób bezpieczny, rzetelny i skuteczny – zwłaszcza w sytuacjach, gdy czynności kontrolne mogą napotkać na opór lub wymaga specjalistycznego wsparcia informatycznego czy wiadomości specjalnych. Warto podkreślić, że jednostki podległe ministrowi właściwemu do spraw informatyzacji skupiają grono ekspertów z szeroko pojętej informatyzacji i dzięki temu mogą stanowić niezbędną pomoc ekspercką z zakresu bezpieczeństwa i zgodności z przepisami systemów sztucznej inteligencji od strony technologicznej w przypadku braku ekspertów z danej dziedziny w ramach pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji. 25 Przepis doprecyzowuje również zakres udzielanej pomocy. Pomoc Policji ma na celu zapewnienie porządku publicznego, ochrony osób uczestniczących w kontroli oraz poszanowania godności osób obecnych podczas czynności kontrolnych. Z kolei pomoc jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji skupia się na sprawach informatycznych i aspektach technicznych, w tym na weryfikacji zgodności systemów sztucznej inteligencji z obowiązującymi przepisami oraz na analizie poziomu ich bezpieczeństwa. Takie rozróżnienie kompetencji i obowiązków odpowiada specyfice zadań obu rodzajów podmiotów wspierających. Intencją projektodawcy jest, aby możliwe było udzielenie wszelkiego niezbędnego wsparcia informatycznego oraz w zakresie wiadomości specjalnych w celu ustalenia stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689. Ponadto uregulowane zostały formalne wymogi związane z występowaniem o pomoc oraz terminy – standardowo minimum 7 dni przed planowaną kontrolą, natomiast w sytuacjach niecierpiących zwłoki – minimum 3 dni. Ma to na celu zapewnienie odpowiedniego czasu na organizację wsparcia i koordynację działań, przy jednoczesnym uwzględnieniu wyjątkowych przypadków wymagających szybszego działania. Art. 55 wprowadza jasne zasady rozliczania kosztów związanych z pomocą udzieloną przez Policję i jednostki informatyczne. Koszty te pokrywa Komisja według stawki zryczałtowanej, ustalonej w sposób transparentny i powiązany z przeciętnym wynagrodzeniem w gospodarce, co sprzyja przewidywalności wydatków i ogranicza ryzyko sporów finansowych. Przepis art. 56 stanowi kluczowy element procedury kontrolnej, który reguluje sposób dokumentowania czynności podejmowanych przez organ kontrolujący oraz relacji z kontrolowanym podmiotem. Stanowi on wyraz zasady partycypacji i transparentności. Pozwala na uruchomienie mechanizmu konsultacyjnego, w ramach którego kontrolowany ma realną możliwość odniesienia się do ustaleń kontroli. Przepis wprowadza obowiązek sporządzania protokołu kontroli. Wskazanie w przepisie szczegółowych elementów, które muszą znaleźć się w projekcie protokołu, ma charakter gwarancyjny – zapewnia, że niezależnie od rodzaju i zakresu kontroli, podstawowe informacje i ustalenia zostaną przedstawione w sposób przejrzysty i wyczerpujący. Zawarcie danych dotyczących stron, zakresu i przebiegu kontroli, ustaleń faktycznych oraz pouczeń prawnych gwarantuje pełną informacyjność dokumentu i zapobiega sytuacjom niejasności lub nieporozumień. Istotnym aspektem jest również elektronizacja procesu kontrolnego. Obowiązek sporządzania dokumentów w postaci elektronicznej, opatrzonych kwalifikowanym podpisem 26 elektronicznym, podpisem zaufanym lub osobistym, wpisuje się w politykę cyfryzacji administracji publicznej i ma na celu zwiększenie efektywności, szybkości i bezpieczeństwa obiegu dokumentów. Ponadto rozwiązanie to zmniejsza ryzyko fałszowania dokumentów i umożliwia łatwiejsze archiwizowanie oraz kontrolę wewnętrzną. Przewidziane w przepisie prawo do zgłaszania zastrzeżeń w terminie 7 dni od doręczenia protokołu jest istotnym instrumentem procesowym, umożliwiającym kontrolowanemu rzeczywiste zakwestionowanie ustaleń, z którymi się nie zgadza. Dalsze przepisy zapewniają, że zgłoszone zastrzeżenia są przedmiotem merytorycznej analizy, a nie jedynie formalności, co wzmacnia legitymację organu kontrolnego. Jednocześnie obowiązek przedstawienia uzasadnienia w przypadku nieuwzględnienia zastrzeżeń ma istotne znaczenie dowodowe i gwarancyjne. Projekt przewiduje także mechanizm domknięcia procedury kontroli w sytuacji braku współpracy ze strony kontrolowanego. Przyjęcie fikcji prawnej odmowy podpisania protokołu w przypadku jego nieodesłania albo niezgłoszenia zastrzeżeń w terminie oraz obowiązek odnotowania tej odmowy w protokole zabezpiecza interes organu kontrolującego i pozwala zakończyć postępowanie bez konieczności podejmowania dodatkowych czynności. Całościowo przepis ustanawia przejrzystą, szczegółową i zrównoważoną procedurę dokumentowania kontroli, która uwzględnia zarówno interes publiczny, jak i prawa kontrolowanych podmiotów. Dąży on do podniesienia jakości, wiarygodności i efektywności działań kontrolnych oraz minimalizacji ryzyka sporów proceduralnych. Projekt przewiduje również przepisy dotyczące postępowania z wynikami kontroli. W przypadku gdy wynik kontroli wykaże nieprawidłowości stanowiące naruszenia mniejszej wagi w zakresie wykonywania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji Komisji lub przepisów ustawy, Komisja może wydawać zalecenia pokontrolne, zawierające wskazówki dotyczące usunięcia nieprawidłowości oraz terminy ich realizacji. Projekt zaleceń pokontrolnych sporządza kontrolujący. Natomiast w przypadku stwierdzenia poważnych naruszeń przepisów rozporządzenia lub ustawy Komisja jest zobligowana do wszczęcia postępowania administracyjnego. Proponowany projekt ustawy podkreśla wagę nadzoru nad systemami sztucznej inteligencji, wzmacniając ochronę interesów publicznych oraz bezpieczeństwo użytkowników nowoczesnych technologii. Rozdział 4 – Postępowanie przed organem nadzoru (art. 59 – art. 70) 27 Projektowana regulacja ma na celu stworzenie kompletnego i skutecznego trybu postępowania prowadzonego przez Komisję w sprawach naruszeń przepisów rozporządzenia 2024/1689 oraz przepisów ustawy. Zaproponowane rozwiązania zapewniają zarówno ochronę interesu publicznego, jak i poszanowanie praw uczestników postępowania. W przepisach tych określono zasady wszczynania i prowadzenia postępowania, w tym wskazano podstawy wszczęcia, zdefiniowano stronę postępowania jako osobę, wobec której wszczęto postępowanie, instytucje ostrzeżenia, sposób rozstrzygania oraz środki odwoławcze. Dodatkowo określono maksymalny sześciomiesięczny termin prowadzenia postępowania. Ograniczenie to zapobiega przewlekłości procedur, przy jednoczesnym zapewnieniu sprawnego i efektywnego rozstrzygnięcia spraw. Projekt przewiduje, że Komisja będzie mogła wszcząć postępowanie w kilku przypadkach: • z urzędu, • na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji, • na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, • na wniosek Rady. Wszczęcie przez Komisję postępowania z urzędu może nastąpić m.in. w wyniku przeprowadzania kontroli albo w wyniku rozpatrzenia skargi. Projekt ustawy reguluje procedury składania przez osoby fizyczne, prawne oraz jednostki organizacyjne nieposiadające osobowości prawnej skargi na naruszenia przepisów dotyczących sztucznej inteligencji. Proponowane przepisy zobowiązują skarżących do przedstawienia szczegółowych informacji, takich jak nazwa systemu lub opis, opis naruszenia, istotne fakty oraz dane kontaktowe, co umożliwia skuteczne rozpatrzenie sprawy. Skarga może być składana elektronicznie, co zwiększa dostępność procedury, a w wyjątkowych przypadkach dopuszcza się jej złożenie w innej formie. Komisja, w ramach rozpatrywania skargi, może współpracować z innymi organami, zapewniając właściwe rozstrzygnięcie spraw wykraczających poza jej wyłączny zakres działania. Należy zaznaczyć, że wprowadzana przez rozporządzenie 2024/1689 kategoria skargi nie jest tożsama z instytucją skargi w rozumieniu polskiego prawa administracyjnego. Właściwym terminem określającym tę instytucję jest „skarga w rozumieniu [projektu] ustawy o systemach sztucznej inteligencji”, a określenie „skarga” stosowane jest przez projektodawcę w celu uniknięcia niespójności między nazewnictwem stosowanym w rozporządzeniu unijnym oraz projekcie ustawy. Z wszczęciem postępowania wiąże się obowiązek jego doręczania wszystkim stronom. 28 Do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji w zakresie nieuregulowanym projektem ustawy zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Dotyczy to również sytuacji wymagających uzupełnienia dowodów Komisja i przeprowadzenia postępowania dowodowego. Zapewnia to spójność z ogólnymi zasadami polskiej procedury administracyjnej. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy Komisja w toku postępowania może wydać stronie ostrzeżenie. Ostrzeżenie wydawane jest w formie postanowienia, ma charakter prewencyjny i naprawczy, umożliwiając stronie dobrowolne usunięcie nieprawidłowości. Zawiera ono zalecenia działań naprawczych, takich jak zablokowanie dostępu do systemu, wprowadzenie poprawek czy poinformowanie użytkowników. Strona zobowiązana jest do przedstawienia informacji o wykonaniu zaleceń w terminie 14 dni. W przypadku niewykonania ostrzeżenia Komisja może zastosować środki o charakterze nakazowym, a także przekazać informację o naruszeniu właściwym organom krajowym lub unijnym oraz opublikować ją w Biuletynie Informacji Publicznej. Stanowi to mechanizm stopniowanego reagowania, proporcjonalny do wagi naruszenia. W takiej sytuacji Komisja prowadzi dalej postępowanie w celu ustalenia stanu faktycznego. Projektowane przepisy wprowadzają także możliwość wydania decyzji w sprawie naruszenia przepisów rozporządzenia lub ustawy oraz określenie w niej środków nałożenia sankcji. W przypadku dobrowolnego wykonania tych środków Komisja uwzględnia tę okoliczność przy wymiarze ewentualnej kary administracyjnej, co wzmacnia motywację do współpracy z organem. Szczególną regulację przewidziano na wypadek bezpośredniego lub znacznego ryzyka, jakie system sztucznej inteligencji może stwarzać dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W takich sytuacjach Komisja jest uprawniona do wszczęcia postępowania z urzędu i wydania, w trybie przyspieszonym, decyzji nakazującej zaprzestanie stosowania systemu lub jego wycofanie z rynku. Postępowanie w tym trybie może trwać nie dłużej niż 7 dni. Przewidziano także obowiązki informacyjne wobec właściwych organów krajowych, jednostek notyfikowanych oraz instytucji unijnych, co służy zapewnieniu skutecznego nadzoru w skali UE. Wprowadzono również szczegółowe zasady zaskarżania postanowień i decyzji Komisji do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Strona może skorzystać z zażalenia lub odwołania, a samo wniesienie odwołania wstrzymuje wykonanie 29 decyzji w zakresie administracyjnej kary pieniężnej, co chroni stronę przed nadmierną dolegliwością przed rozstrzygnięciem sądu. Dodatkowo wprowadza się mechanizmy wstrzymania wykonania decyzji w zakresie administracyjnych kar pieniężnych w przypadku wniesienia przez stronę odwołania. Projekt ustawy reguluje również obowiązek współpracy Komisji z organami ścigania i wymiaru sprawiedliwości. Nakłada on obowiązek złożenia zawiadomienia o podejrzeniu popełnienia przestępstwa, jeżeli w toku postępowania ujawnione zostaną odpowiednie informacje. Określono również zasady przechowywania akt przez okres dziesięciu lat, co odpowiada potrzebie zapewnienia możliwości kontroli działań organu oraz dochodzenia odpowiedzialności w przyszłości. Całość regulacji ma służyć stworzeniu przejrzystego, proporcjonalnego i efektywnego systemu nadzoru nad stosowaniem systemów sztucznej inteligencji w Polsce, zgodnego z wymogami prawa unijnego, a jednocześnie gwarantującego ochronę praw uczestników postępowania oraz bezpieczeństwa obywateli. Projekt ustanawia obowiązek publikacji decyzji wydawanych przez Komisję w sposób dostępny publicznie, przy jednoczesnym zagwarantowaniu ochrony informacji objętych tajemnicą prawnie chronioną, w tym tajemnicą przedsiębiorstwa. Wprowadzenie tego obowiązku ma służyć zarówno celom informacyjnym, jak i prewencyjnym, umożliwiając podmiotom działającym na rynku zapoznanie się z praktyką orzeczniczą Komisji i uniknięcie podobnych naruszeń. Art. 67 projektu ustawy wprowadza wymóg prowadzenia szczegółowego wykazu systemów sztucznej inteligencji, wobec których podjęto decyzje o nałożeniu kary za naruszenie przepisów rozporządzenia lub ustawy. Wykaz ten zawiera kluczowe informacje, takie jak: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz z wskazaniem przepisów rozporządzenia 2024/1689 oraz ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora, lub też podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż rozporządzenia 2024/1689 oraz ustawy; 30 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2 tego przepisu. Celem tego rozwiązania jest stworzenie publicznie dostępnego i transparentnego rejestru, który umożliwi obywatelom monitorowanie przestrzegania prawa przez operatorów systemów AI. Określono także techniczne i organizacyjne wymagania dotyczące prowadzenia wykazu z wykorzystaniem systemu teleinformatycznego. Zawarte w nim wymogi w zakresie bezpieczeństwa i integralności danych mają zapewnić zgodność z przepisami o ochronie danych osobowych oraz bezpieczeństwa informacji. Szczególny nacisk położono na zapobieganie nieautoryzowanemu dostępowi do danych, ich uszkodzeniu lub utracie, a także na zapewnienie rozliczalności działań dokonywanych w systemie. Ponadto projekt wskazuje Komisję jako administratora danych przetwarzanych w wykazie, co jednoznacznie określa odpowiedzialność za zgodność przetwarzania z przepisami prawa. Rozdział 5 – Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji (art. 71 – art. 85) Projekt ustawy wprowadza alternatywną metodę rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Projektowane przepisy ustanawiają procedurę zawierania układu w sprawie nadzwyczajnego złagodzenia sankcji w postępowaniach prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie tej instytucji ma na celu zwiększenie efektywności nadzoru nad zgodnością systemów sztucznej inteligencji z rozporządzeniem 2024/1689 oraz ustawą krajową, a także stworzenie mechanizmów zachęcających podmioty do współpracy z organem nadzoru i szybkiego usuwania naruszeń. Procedura układowa została ukształtowana jako narzędzie służące zarówno interesowi publicznemu, jak i interesowi podmiotów, wobec których prowadzone jest postępowanie. Komisja może zainicjować możliwość zawarcia układu, jeżeli oceni, że doprowadzi to do lepszej realizacji celów regulacji i jeżeli naruszenie nie doprowadziło do poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Jednocześnie ustawa przewiduje możliwość wszczęcia procedury układowej na wniosek strony, co zwiększa jej dostępność i pozwala podmiotom szybko podjąć działania zmierzające do wyjaśnienia sprawy oraz naprawienia nieprawidłowości. 31 Kluczowym elementem proponowanej regulacji jest rzetelne ujawnienie przez stronę wszelkich istotnych okoliczności naruszenia, w tym informacji o osobach lub podmiotach współdziałających oraz przedstawienia dowodów na ich poparcie. Warunkiem przystąpienia do układu jest również wcześniejsze zaprzestanie naruszenia albo usunięcie stanu niezgodności z prawem. Takie rozwiązanie zapewnia, że układ nie będzie wykorzystywany do uniknięcia odpowiedzialności, lecz będzie stanowił instrument umożliwiający organowi szybkie ustalenie pełnego obrazu naruszenia oraz skuteczne przywrócenie zgodności. Regulacja przewiduje jednocześnie możliwość dobrowolnego podjęcia przez stronę zobowiązań dotyczących usunięcia skutków naruszeń lub naprawienia szkody wyrządzonej przez niezgodne działanie. Dzięki temu skutki naruszeń mogą zostać ograniczone lub usunięte w sposób szybszy i bardziej efektywny niż w ramach zwykłego postępowania administracyjnego, co leży zarówno w interesie organu, jak i podmiotów poszkodowanych. Istotnym elementem procedury jest określenie zasad oraz granic nadzwyczajnego złagodzenia sankcji. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Obniżenie kary pieniężnej może wynosić od 20% do 70%, a w przypadku naruszeń ujawnionych z własnej inicjatywy – od 30% do 90%. W sytuacjach nadzwyczajnych, zwłaszcza gdy podmiot usunie wszystkie skutki naruszenia, układ może przewidywać nawet odstąpienie od sankcji. Ustawodawca wskazuje także kryteria, które Komisja powinna brać pod uwagę przy ustalaniu wysokości obniżki, co zapewnia przejrzystość i przewidywalność decyzji. Dla ochrony interesów strony przewidziano gwarancję, że informacje ujawnione w toku procedury układowej nie mogą zostać wykorzystane przeciwko niej w przypadku niezawarcia układu. Rozwiązanie to zabezpiecza podmioty przed poniesieniem negatywnych konsekwencji wynikających z podjęcia próby współpracy z organem. Projekt szczegółowo określa również ramy czasowe na zawarcie układu wyznaczając jedno- lub trzymiesięczny okres na ich zawarcie. W tym czasie strona ma możliwość wyrażenia woli przystąpienia do układu oraz dostarczenia Komisji wymaganych informacji dotyczących okoliczności naruszenia i odpowiednich dowodów. 32 W projekcie wyszczególniono także kolejne czynności procesowe, w tym sposób przygotowania projektu układu przez Komisję oraz formę jego przyjęcia przez stronę oraz konieczność złożenia oświadczenia przez stronę, którego naruszenie skutkowałoby bezskutecznością układu. Złożenie oświadczenia o przyjęciu układu ma charakter sformalizowany, aby uniknąć jakichkolwiek wątpliwości co do zamiaru strony i skutków prawnych. Przyjęcie układu powoduje zrzeczenie się prawa do odwołania od decyzji kończącej postępowanie, co zamyka postępowanie i zapewnia stabilność ostatecznego rozstrzygnięcia. Przepisy te zapewniają pewność prawną, eliminując ryzyko niejasności interpretacyjnych. Projekt wprowadza również mechanizmy nadzoru nad wykonaniem układu oraz określa przypadki niewykonania zobowiązań przez stronę. Komisja otrzymuje prawo do żądania informacji oraz do monitorowania realizacji zobowiązania. Niewykonanie istotnych elementów układu prowadzi do wznowienia postępowania, przy czym dopuszczalne jest ono jedynie w okresie dziesięciu lat od doręczenia decyzji wydanej na podstawie układu. W takich sytuacjach Komisja uwzględnia wcześniejsze działania strony przy podejmowaniu decyzji o sankcjach. Proponowane przepisy wykluczają stosowanie art. 162 Kodeksu postępowania administracyjnego w odniesieniu do decyzji zawierającej układ, wzmacniając finalność i nieodwołalność rozstrzygnięć osiągniętych na drodze konsensualnej. Ma to zapewnić równowagę między interesem publicznym a zasadą pewności prawa. Wprowadzenie instytucji układu jako narzędzia alternatywnego rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów o sztucznej inteligencji wspiera realizację celów regulacyjnych, wzmacniając ochronę interesu publicznego i skuteczność nadzoru. Rozdział 6 – Jednostki notyfikowane i procedura notyfikacyjna (art. 86 – art. 90) Projekt ustawy w rozdziale 6 ma na celu określenie krajowego systemu autoryzacji, akredytacji i notyfikacji, jednostek oceniających zgodność w związku ze stosowaniem rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689. Z uwagi na to, że rozporządzenie to nakłada na państwa członkowskie obowiązek wyznaczenia organu notyfikującego oraz ustanowienia jednolitych procedur w zakresie oceny i notyfikacji jednostek, konieczne jest wskazanie właściwych organów krajowych i określenie ich kompetencji. W projekcie ustawy wskazuję się ministra właściwego do spraw informatyzacji jako organ notyfikujący w zakresie, o którym mowa w art. 28 rozporządzenia 2024/1689. Proces notyfikacji jednostek oceniających zgodność odbywać się będzie zgodnie z zasadami wynikającymi bezpośrednio z rozporządzenia 2024/1689, a także z ustawą z dnia 13 kwietnia 33 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568), która reguluje ogólne zasady funkcjonowania jednostek notyfikowanych w Polsce. Takie odesłanie gwarantuje stosowanie jednolitych wymogów dla wszystkich obszarów regulowanych prawem Unii, a jednocześnie eliminuje konieczność powielania istniejących już regulacji. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Wynika to z celowości powierzenia całego procesu – od akredytacji po autoryzację i notyfikację – jednemu organowi, co podnosi efektywność i przejrzystość procedur. Do akredytacji, autoryzacji i notyfikacji jednostek biorących udział w procesie oceny zgodności systemów określonych w rozporządzeniu 2024/1689 odpowiednio będą stosowane przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zachować jednolity standard krajowych procedur, jednocześnie unikając niepotrzebnego dublowania regulacji. Dla zachowania spójności z przepisami prawa oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689, powierzone zostaną Polskiemu Centrum Akredytacji (zwanemu dalej: „PCA”) w oparciu o przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, które wspierać ma w tym zadaniu ministra właściwego do spraw informatyzacji. Włączenie instytucji posiadającej duży dorobek i bogate doświadczenie, jaką jest PCA, daje największą gwarancję wysokiego poziomu nadzoru nad standardami i zasadami nadzoru nad systemem instytucji oceniających zgodność produktów przy jednoczesnym zapewnieniu możliwości podejmowania przez ministra właściwego do spraw informatyzacji (jako organowi notyfikującemu) działań spójnych z kierunkiem ustalanym na poziomie unijnym (Urząd ds. AI w Komisji Europejskiej, Europejska Rada ds. AI). Z uwagi na to, że PCA jest krajową instytucją akredytującą, jej udział w przygotowaniu i aktualizacji programów akredytacji jest niezbędny dla zapewnienia wysokiej jakości procesu oceny i monitorowania jednostek oceniających zgodność. Ponadto przekazywanie ministrowi aktualnych informacji o akredytacjach umożliwia właściwe wykonywanie zadań nadzorczych i notyfikacyjnych. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. „Zagrożenia związane z systemami AI objętymi wymogami niniejszego rozporządzenia dotyczą innych aspektów niż obowiązujące unijne prawodawstwo harmonizacyjne, w związku z czym wymogi niniejszego rozporządzenia uzupełnią obowiązujące unijne prawodawstwo harmonizacyjne. Na przykład maszyny lub wyroby 34 medyczne zawierające system AI mogą stwarzać ryzyko, które nie zostało uwzględnione w zasadniczych wymogach w zakresie zdrowia i bezpieczeństwa ustanowionych w odpowiednim unijnym prawodawstwie harmonizacyjnym, ponieważ to prawo sektorowe nie reguluje ryzyka specyficznego dla systemów AI. Wymaga to jednoczesnego i komplementarnego stosowania różnych aktów ustawodawczych. Aby zapewnić spójność i uniknąć niepotrzebnych obciążeń administracyjnych i niepotrzebnych kosztów, dostawcy produktu, który zawiera co najmniej jeden system AI wysokiego ryzyka, do którego stosuje się wymogi niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, wymienionego w załączniku do niniejszego rozporządzenia, powinni mieć swobodę w zakresie decyzji operacyjnych dotyczących sposobu zapewnienia w optymalny sposób zgodności produktu zawierającego co najmniej jeden system AI ze wszystkimi mającymi zastosowanie wymogami unijnego prawodawstwa harmonizacyjnego. Swoboda ta może oznaczać na przykład decyzję dostawcy o włączeniu części niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji wymaganych na mocy niniejszego rozporządzenia do już istniejącej dokumentacji i procedur wymaganych na mocy obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych i wymienionego w załączniku do niniejszego rozporządzenia. Nie powinno to w żaden sposób podważać spoczywającego na dostawcy obowiązku zapewnienia zgodności z wszystkimi mającymi zastosowanie wymogami”. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. W przypadku kiedy unijne prawodawstwo harmonizacyjne wymienione w załączniku I do rozporządzenia 2024/1689 albo przepisy krajowe służące jego stosowaniu wskazują inny organ właściwy w tym zakresie, to ocena, wyznaczanie i notyfikowanie jednostek oceniających zgodność będzie dokonywane przez organ w ramach jednego procesu i nie dojdzie do konieczności dokonywania przez podmioty podwójnej notyfikacji – jednej w zakresie samego systemu sztucznej inteligencji przez ministra właściwego ds. informatyzacji, a drugiej w zakresie całego produktu, którego częścią jest ten system, dokonywanej przez organ właściwy w przypadku danych produktów. Przykładowo, w przypadku wyrobów, o których mowa w art. 1 ust. 4 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia 35 (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, oraz wyrobów, o których mowa w art. 1 ust. 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, których elementem związanym z bezpieczeństwem jest system sztucznej inteligencji lub które same są takimi systemami będzie to Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Dodatkowo zgodnie z motywem 124 w celu zminimalizowania obciążenia dla operatorów i aby uniknąć ewentualne powielanie działań, zgodność z wymogami niniejszego rozporządzenia w przypadku systemów AI wysokiego ryzyka powiązanych z produktami, które są objęte zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych, należy oceniać w ramach oceny zgodności przewidzianej już w tym prawodawstwie. Stosowanie wymogów niniejszego rozporządzenia nie powinno zatem wpływać na szczególną logikę, metodykę lub ogólną strukturę oceny zgodności określone w unijnym prawodawstwie harmonizacyjnym. W projekcie ustawy określono także procedurę składania wniosków o notyfikację przez jednostki oceniające zgodność. Z uwagi na cyfryzację procesów administracyjnych wniosek składany ma być wyłącznie w postaci elektronicznej, co zwiększa efektywność postępowania, ogranicza koszty administracyjne oraz zapewnia jego pełną przejrzystość. W projektowanych przepisach zawarto minimalny zakres informacji, jakie wniosek musi zawierać. Są to dane podstawowe pozwalające na identyfikację wnioskodawcy oraz dane niezbędne do weryfikacji jej statusu akredytacyjnego. Wymóg podania informacji o akredytacji (w tym numeru certyfikatu) wynika z faktu, że akredytacja jest warunkiem koniecznym do notyfikacji w większości obszarów oceny zgodności określonych w przepisach unijnych. Przepis zatem zapewnia kompletność i poprawność danych niezbędnych do przeprowadzenia procedury notyfikacyjnej. Art. 88 projektu umożliwia ministrowi właściwemu do spraw informatyzacji przetwarzanie informacji stanowiących tajemnice prawnie chronione, w tym tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/1689 oraz ustawy. Jest to niezbędne, ponieważ materia ocen zgodności, akredytacji i autoryzacji jednostek często obejmuje informacje techniczne, technologiczne oraz organizacyjne przedsiębiorców, które podlegają ochronie. Jednocześnie minister musi mieć możliwość ich przetwarzania w celu rzetelnej realizacji zadań wynikających z rozporządzenia 2024/1689 i przepisów krajowych. 36 Przepis ten zapewnia więc zgodność z zasadami legalizmu oraz ochrony danych poufnych. a także zapewnia skuteczne realizowanie funkcji organu notyfikującego. Art. 89 ma charakter uzupełniający i porządkujący. odnosi się do pozostałych spraw, które są regulowane w rozdziale 6 projektu. W przypadkach, które nie są uregulowane przepisami rozporządzenia 2024/1689 ani niniejszą ustawą, przepis wskazuje na subsydiarne zastosowanie przepisów ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Pozwala to zapewnić spójność całego systemu prawa dotyczącego oceny zgodności w Polsce, unika kolizji regulacyjnych oraz umożliwia korzystanie z procedur i mechanizmów już funkcjonujących w systemie prawnym. Projektowany art. 90 doprecyzowuje zadania ministra właściwego do spraw informatyzacji wynikające z rozporządzenia 2024/1689 w zakresie funkcjonowania organu notyfikującego. Przepis ust. 1 zapewnia możliwość krajowego określania oraz corocznej weryfikacji wymogów, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689. Dodatkowo przepis nakłada na ministra obowiązek podejmowania działań naprawczych w przypadku stwierdzenia braku zgodności z określonymi wymogami, co gwarantuje utrzymanie właściwego poziomu kompetencji organu notyfikującego oraz zapewnia realizację zobowiązań wynikających z prawa Unii. Ponadto przepis wprowadza obowiązek przekazywania Komisji Europejskiej sprawozdania, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, co umożliwia właściwe monitorowanie funkcjonowania organu notyfikującego na poziomie unijnym oraz zapewnia przejrzystość i zgodność z procedurami określonymi w przepisach europejskich. Rozdział 7 – Środki wspierające innowacyjność (art. 91 – art. 99) Projekt ustawy określa nie tylko kwestie związane z nadzorem na systemami sztucznej inteligencji, ale również określa podstawy prawne do wdrażania środków wspierających innowacyjność. W projekcie zawarto regulacje ustanawiające krajowe podstawy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem 2024/1689. Rozporządzenie unijne przewiduje możliwość tworzenia piaskownic regulacyjnych w celu wspierania innowacji oraz testowania systemów AI w warunkach kontrolowanych, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony użytkowników. Tym samym projekt wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i 37 proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Zgodnie z art. 57 rozporządzenia 2024/1689 każde państwo członkowskie Unii Europejskiej musi uruchomić przynajmniej jedną piaskownicę regulacyjną w zakresie AI do 2 sierpnia 2026 roku. Mechanizm ten ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja uzyskuje uprawnienie do udzielania zgody, w formie decyzji, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ponadto projekt przewiduje preferencyjne warunki dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Projekt ustawy ustanawia przejrzyste procedury konkursowe dla podmiotów ubiegających się o udział w piaskownicy regulacyjnej. Komisja organizuje konkurs, którego celem jest wyłonienie najbardziej obiecujących projektów, wnoszących istotny wkład w rozwój technologii AI, przy zachowaniu bezpieczeństwa i zgodności z ogólnymi zasadami prawa. Proces oceny ofert podlega nadzorowi zespołu konkursowego, który dokonuje merytorycznej analizy zgłoszeń, tworzy listę rankingową oraz protokół z oceny. Szczególną preferencją objęte są podmioty pochodzące z Unii Europejskiej, co wspiera współpracę na szczeblu regionalnym i harmonizację działań z unijną polityką technologiczną. Przepisy wprowadzają również obowiązek publikacji wyników konkursu oraz mechanizmy odwoławcze, umożliwiające stronom zakwestionowanie rozstrzygnięcia komisji konkursowej, co gwarantuje równe szanse uczestnikom. Uczestnicy mają prawo do zgłoszenia odwołania w terminie 7 dni. W przypadku uwzględnienia zarzutów Komisja powołuje zespół odwoławczy do ponownej oceny odwołania. W skład zespołu nie będą wchodziły osoby, które brały udział w pracach zespołu konkursowego co zapewnia sprawiedliwość rozstrzygnięć oraz transparentność działań. Projekt ustawy nakłada obowiązki na Komisję w zakresie określania limitów użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej oraz zakresu odstępstw dla poszczególnych projektów funkcjonujących w piaskownicy regulacyjnej. Dodatkowo wymaga, aby Komisja informowała instytucje unijne o utworzeniu piaskownicy, co 38 umożliwia monitorowanie efektów testów przez organy unijne oraz zapewnienie spójności działań z polityką UE w zakresie sztucznej inteligencji. Uczestnicy piaskownicy regulacyjnej zobowiązani są do informowania użytkowników o udziale w programie, publikowania rocznych raportów, zamieszczania na swojej stronie internetowej informacji o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej a także zgłaszania wszelkich zmian mających wpływ na projekt. Takie wymogi gwarantują transparentność procesów testowych oraz skuteczny nadzór nad prowadzonymi eksperymentami. Komisja uzyskuje uprawnienie do kontrolowania uczestników piaskownicy oraz podejmowania działań dyscyplinujących w przypadku stwierdzenia naruszeń, takich jak wezwanie do usunięcia nieprawidłowości czy wykluczenie z programu. Projekt wykonuje obowiązki państwa członkowskiego wynikające z art. 95 rozporządzenia 2024/1689. W art. 98 projektu ustawy wskazano, że minister właściwy do spraw informatyzacji wykonuje zadania dotyczące wspierania tworzenia kodeksów dobrego postępowania w zakresie stosowania systemów AI. W celu ułatwienia opracowywania tych kodeksów, minister będzie wydawać rekomendacje najlepszych praktyk. Taki mechanizm ma charakter niewiążący, jednak pełni istotną rolę w tworzeniu spójnych i wysokiej jakości standardów funkcjonowania systemów sztucznej inteligencji w Polsce. Rekomendacje te będą służyły jako punkt odniesienia zarówno dla podmiotów sektora publicznego, jak i prywatnego, wspierając harmonizację podejścia do AI na poziomie krajowym i unijnym. Ponadto projekt ustanawia obowiązek corocznego przekazywania przez ministra właściwego do spraw informatyzacji, do dnia 31 marca każdego roku, informacji dotyczącej wymaganych zasobów obliczeniowych do rozwoju systemów AI oraz prognozowanego zużycia energii związanego z ich działaniem. Informacja ta ma być przedstawiana zarówno Radzie Ministrów, jak i Komisji Europejskiej. Jest to wyraz uznania rosnącego znaczenia infrastruktury obliczeniowej dla rozwoju nowoczesnych technologii oraz potrzeby monitorowania ich wpływu na zużycie zasobów energetycznych, co ma znaczenie zarówno z perspektywy polityki cyfrowej, jak i klimatyczno-energetycznej. Przepis ten pozwoli lepiej planować inwestycje w infrastrukturę cyfrową, a także wspierać działania na rzecz zrównoważonego rozwoju. Minister właściwy ds. informatyzacji, jako odpowiedzialny za koordynację wdrażania krajowej Polityki AI, dysponuje najszerszym zbiorem danych, dzięki którym mógł przygotować raporty i prognozy, o których mowa powyżej. Zgodnie z art. 99 projektu przyznaje się ministrowi właściwemu do spraw informatyzacji uprawnienia w zakresie wspierania badań naukowych i prac rozwojowych, co jest kluczowe 39 dla rozwoju technologii przełomowej, jaką jest sztuczna inteligencja. Przepisy te umożliwiają ministrowi udzielanie wsparcia finansowego na badania naukowe i prace rozwojowe, a także finansowanie lub współfinansowanie programów i projektów z budżetu państwa oraz środków unijnych. Dzięki temu możliwe jest zapewnienie odpowiednich środków na realizację innowacyjnych projektów, które mogą przyczynić się do rozwoju sztucznej inteligencji w Polsce. Minister może również inicjować, wspierać i realizować programy finansujące badania naukowe i prace rozwojowe oraz działania przygotowujące do wdrożenia ich wyników. Programy te są realizowane przez Instytut Badawczy IDEAS – nad którym nadzór ministrowi właściwemu do spraw informatyzacji został przekazany rozporządzeniem Rady Ministrów z dnia 25 lutego 2025 r. w sprawie utworzenia Instytutu Badawczego IDEAS – oraz pozostałe jednostki podległe i nadzorowane przez ministra, co zapewnia spójność i efektywność działań. Wprowadzenie tych przepisów ma na celu stworzenie odpowiednich warunków do prowadzenia badań naukowych i prac rozwojowych, co jest kluczowe dla wdrożenia sztucznej inteligencji. Wykaz jednostek, o których mowa w art. 99, jest zawierany w obwieszczeniu Ministra Cyfryzacji wydanym na podstawie art. 33 ust. 1d ustawy z dnia 8 sierpnia 1996 r. o Radzie Ministrów. Obecnie jednostkami podległymi Ministrowi Cyfryzacji i nadzorowanymi przez Ministra Cyfryzacji są: Jednostki podległe: • Centrum Projektów Polska Cyfrowa. Jednostki nadzorowane: • Centralny Ośrodek Informatyki; • Instytut Badawczy IDEAS; • Instytut Łączności – Państwowy Instytut Badawczy; • Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy. Celem przepisu jest zapewnienie możliwości elastycznego i dostosowanego do specyfiki branży i działań udzielania pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz programów i projektów w tym zakresie realizowanych przez ww. pomocy w ramach ich zadań. Stąd też w projekcie znalazł się przepis wskazujący na szerokie źródła środków przeznaczonych na finansowanie w ramach dotacji celowych. 40 Szczegółowe określenie czy skonkretyzowanie zadań, o których mowa w uwadze z uwzględnieniem podziału na podmioty nie jest możliwe do określenia, a także nie wydaje się zasadne z uwagi na nieprzewidywalny kierunek rozwoju sztucznej inteligencji, a także wynikające z tego zapotrzebowania. Dzięki temu możliwe jest osiągnięcie celów określonych w rozporządzeniu 2024/1689, takich jak promowanie zorientowanej na człowieka i godnej zaufania sztucznej inteligencji. Wsparcie finansowe i organizacyjne dla badań naukowych i prac rozwojowych jest niezbędne, aby możliwy był rozwój sztucznej inteligencji zgodnie z wartościami Unii Europejskiej. Proponowane regulacje mają na celu wspieranie innowacyjnych technologii w obszarze AI, zachowanie zgodności działań z polityką UE oraz zapewnienie odpowiednich zabezpieczeń i transparentności procesów testowych. Rozdział 8 – Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 100 – art. 110) Uregulowania w przepisach polskiego prawa wymagają także określone w treści rozporządzenia kwestie nakładania przez organ nadzoru administracyjnych kar pieniężnych. Mechanizm w postaci możliwości nałożenia sankcji za naruszenie przepisów rozporządzenia 2024/1689 jest kluczowy pod kątem jego praktycznego egzekwowania, a więc faktycznej możliwości osiągnięcia celów prawodawcy w zakresie wspierania rozwoju AI w ramach jednolitego rynku w zgodzie z europejskim prawem i wartościami. Projektowany art. 100 stanowi kluczowy element krajowego mechanizmu egzekwowania przepisów rozporządzenia 2024/1689. Celem tego przepisu jest przyznanie Komisji kompetencji do nakładania administracyjnych kar pieniężnych na podmioty, które naruszą przepisy rozporządzenia. Przepis wskazuje, że nałożenie kary odbywa się w drodze decyzji administracyjnej, co oznacza, że zastosowanie będą miały ogólne zasady postępowania administracyjnego, w tym gwarancje proceduralne dla stron postępowania. Kary są nakładane w przypadkach, wysokości i na warunkach przewidzianych w rozdziale XII rozporządzenia 2024/1689, co zapewnia pełną zgodność z przepisami prawa Unii Europejskiej. Taki mechanizm gwarantuje spójność systemu sankcyjnego i eliminuje ryzyko rozbieżności interpretacyjnych między przepisami unijnymi a krajowymi. Ust. 2 i 3 wprowadzają obowiązek uwzględnienia przy podejmowaniu decyzji, oraz wskazania w jej uzasadnieniu, przesłanek określonych w art. 99 ust. 7 rozporządzenia 2024/1689. Przesłanki te obejmują m.in. charakter, wagę i czas trwania naruszenia, stopień winy, 41 wcześniejsze naruszenia, środki zastosowane w celu zapobieżenia lub naprawienia skutków naruszenia. Uwzględnienie tych kryteriów zapewnia, że kara będzie proporcjonalna do naruszenia oraz że każde postępowanie będzie prowadzone w sposób indywidualny i sprawiedliwy. Ust. 4 reguluje sposób przeliczania wartości pieniężnych wyrażonych w euro na walutę krajową – złoty polski. Ustalenie stałego dnia odniesienia (28 stycznia każdego roku) oraz wskazanie wprost średniego kursu ogłaszanego przez Narodowy Bank Polski, a także rozwiązanie sytuacji, gdy kurs nie zostanie ogłoszony w tym dniu, zapewnia jednolitość, przewidywalność oraz techniczną wykonalność przepisu. Jednocześnie ustawa przewiduje mechanizm umożliwiający Komisji na wymierzenie kary. Podmiot jest obowiązany do dostarczenia Komisji w terminie 14 dni od dnia otrzymania żądania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. W przypadku niedostarczenia danych przez podmiot lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ma prawo do samodzielnego ustalenia podstawy wymiaru administracyjnej kary pieniężnej w sposób szacunkowy. Uwzględnia przy tym wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Postępowanie dotyczące kar ma być prowadzone na podstawie przepisów ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Aby zapewnić prawidłową ochronę strony w postępowaniu wskazano, że w przypadku nałożenia kary osoba (fizyczna, prawna oraz nieposiadająca osobowości prawnej), na którą zostanie ona nałożona, będzie miała uprawnienie do wniesienia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów, jest właściwym organem do rozpatrywania odwołań od decyzji Komisji (w tym decyzji o karach pieniężnych) z kilku kluczowych powodów. Po pierwsze, sąd ochrony konkurencji i konsumentów posiada już ugruntowaną pozycję i doświadczenie w rozpatrywaniu spraw związanych z regulacjami rynkowymi oraz ochroną konsumentów. Jego kompetencje obejmują rozpatrywanie odwołań od decyzji takich organów jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, co czyni go naturalnym wyborem do rozpatrywania spraw związanych z nowymi technologiami, w tym sztuczną inteligencją 42 Sztuczna inteligencja jest technologią przełomową, która ma potencjał do znaczącej transformacji wielu sektorów gospodarki oraz życia społecznego. W związku z tym konieczne jest, aby sprawy dotyczące AI były rozpatrywane przez sąd posiadający odpowiednie zaplecze merytoryczne i organizacyjne. Skoncentrowanie tych spraw w jednym sądzie, takim jak Sąd Okręgowy w Warszawie, pozwala na zbudowanie specjalistycznej wiedzy i doświadczenia w zakresie regulacji i nadzoru nad AI, co jest kluczowe dla zapewnienia sprawiedliwości i efektywności postępowań sądowych Ponadto centralizacja rozpatrywania spraw związanych z AI w jednym sądzie zapobiega rozproszeniu kompetencji i umożliwia lepszą koordynację działań. Dzięki temu możliwe jest wypracowanie jednolitej linii orzeczniczej, co jest szczególnie istotne w kontekście dynamicznie rozwijającej się technologii, jaką jest sztuczna inteligencja. Taki model organizacyjny pozwala również na bardziej efektywne wykorzystanie zasobów sądowych oraz zapewnia lepszą dostępność specjalistycznych ekspertyz i opinii biegłych Kary pieniężne podlegać będą egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Zapewni to spójność rozwiązań w zakresie egzekucji z innymi przepisami w tym zakresie. Należy wskazać, że przesłanki nakładania kar i maksymalne ich wysokości wynikają wprost z przepisów rozporządzenia 2024/1689. Zgodnie z przepisami rozporządzenia 2024/1689 oraz ze względu na znaczenie przepisów dla ochrony praw osób, praworządności oraz demokracji w Europie, omawiany projekt zakłada możliwość nałożenia z tego tytułu kary na podmioty sektora prywatnego, jak i publicznego. Analogiczne uprawnienie dla państw członkowskich funkcjonuje na gruncie przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) oraz ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. Projekt przewiduje również możliwość zmniejszenia wysokości administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 62 ustawy, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. Komisja może też, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary pieniężnej albo rozłożyć ją na raty, ze 43 względu na ważny interes wnioskodawcy. Działania te stanowią ulgę w wykonaniu administracyjnej kary pieniężnej, która: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. Przepisy stanowi ważny instrument o charakterze motywacyjnym i prewencyjnym. Mechanizm ten premiuje współpracę z organem i szybką reakcję na naruszenie, co może skutecznie przeciwdziałać dalszym nieprawidłowościom. Jednocześnie przepis wyznacza granice takiej łagodności – nie może ona mieć zastosowania, jeśli skutki naruszenia były poważne, co zapewnia ochronę interesu publicznego i osób narażonych na skutki naruszeń. Konstruując przepisy umożliwiające nałożenie kar na podstawie naruszenia rozporządzenia 2024/1689, projektodawca umożliwia stosowanie ich w oparciu o wszystkie przypadki naruszenia przepisów rozporządzenia 2024/1689. Nie przekreśla to możliwości uregulowania w przyszłości szczegółowych kwestii dotyczących naruszeń innych przepisów, w szczególności art. 6 omawianego rozporządzenia. Takie działanie legislacyjne będzie wskazane ze względu na fakt wejścia w życie, w 2026 oraz 2027 r., pozostałych przepisów rozporządzenia 2024/1689 oraz prac Komisji Europejskiej związanych z opracowaniem i publikacją aktów wykonawczych, delegowanych oraz dokumentów merytorycznych odnoszących się do obszarów ujętych zakresowo przepisami o systemach AI wysokiego ryzyka (art. 6), w których właściwymi organami nadzoru mają być spełniające kryteria określone w rozporządzeniu krajowe organy nadzoru (m.in. nad sektorem finansowym czy zastosowaniem systemów wysokiego ryzyka przez instytucje publiczne w obszarach, takich jak ściganie przestępstw, migracja czy wymiar sprawiedliwości). Określony w projekcie szeroki zakres uprawnień Komisji do nakładania kar wynika z harmonogramu wchodzenia w życie przepisów rozporządzenia, jak również z powodu konieczności oczekiwania na podjęcie przez Komisję Europejską, Radę ds. AI oraz inne powołane do życia na mocy przepisów regulacji instytucje europejskiego systemu nadzoru nad modelami i systemami sztucznej inteligencji działań o charakterze technicznym, merytorycznym i prawnym, które to według przepisów rozporządzenia, jak również komunikatów przedstawicieli Komisji na spotkaniach Rady ds. AI planów nastąpić ma do końca 2025 r. 44 Przepisy art. 108 i art. 109 mają na celu wzmocnienie skuteczności prowadzonych postępowań, mechanizmów kontrolnych oraz egzekwowania obowiązków podmiotów objętych kontrolą lub postępowaniem administracyjnym. Wprowadzenie sankcji karnych w postaci kary ograniczenia wolności lub grzywny służy zapewnieniu należytej współpracy ze strony kontrolowanych, stron postępowania oraz przeciwdziałaniu działaniom obstrukcyjnym. Wprowadzenie przepisu art. 108 ma na celu zapewnienie skuteczności czynności kontrolnych oraz postępowań administracyjnych prowadzonych przez Komisję zgodnie z ustawą. Czynności te stanowią kluczowy instrument nadzorczy, umożliwiający wykrywanie nieprawidłowości, reagowanie na naruszenia i weryfikację zgodności działania podmiotów z obowiązkami wynikającymi z rozporządzenia 2024/1689 oraz ustawy. Penalizacja działań zmierzających do utrudnienia lub udaremnienia czynności kontrolnych jest konieczna, ponieważ bez możliwości wymierzenia sankcji działania Komisji mogłyby być w praktyce nieskuteczne, a podmioty objęte kontrolą mogłyby nie wykonywać obowiązków lub celowo uniemożliwiać realizację ustawowych zadań organu nadzorczego. Wprowadzone sankcje – grzywna albo kara ograniczenia wolności – są proporcjonalne do wagi naruszenia i zgodne z zasadą subsydiarności prawa karnego. Penalizacji podlega wyłącznie zachowanie o charakterze świadomego sprzeciwu wobec czynności organu, mające wysoce negatywny wpływ na możliwość wykonywania jego zadań. Przepis dotyczy każdego zarówno osób fizycznych, osób prowadzących działalność gospodarczą, jak i przedsiębiorców. Ujęcie w ust. 2 odpowiedzialności osób działających w imieniu lub w interesie osób prawnych i jednostek organizacyjnych wynika z konieczności zapobieżenia sytuacjom, w których szkodliwe działania podejmowane są przez przedstawicieli podmiotów zbiorowych, często faktycznie odpowiedzialnych za naruszenia. Rozwiązanie to jest zgodne z zasadą, że odpowiedzialność karna obejmuje także osoby uprawnione do działania w strukturach organizacyjnych podmiotów gospodarczych. Stosowanie przepisów ust. 1 i 2 zostało wyłączone w odniesieniu do czynów polegających na dostarczaniu nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji właściwym organom krajowym w odpowiedzi na ich wniosek. Te czyny zostały wskazane w przepisach rozporządzenia 2024/1689 enumeratywnie i kara za nie została wprost określona w art. 99 ust. 5 rozporządzenia 2024/1689. Mają one bowiem szczególne istotne znaczenie dla ustalania poprawnie stanu faktycznego a tym sam na uznanie systemu za zgodny z 45 przepisanymi rozporządzenia 2024/1689, bezpieczny i godny zaufania. Wyłączenie to ma na celu uniknięcie ryzyka podwójnej karalności. Celem tego przepisu jest ochrona integralności procesu kontrolnego oraz postępowań i zapewnienie, że zarówno kontrolujący, jak i osoby prowadzące postępowanie administracyjne będą mogli wykonywać swoje obowiązki w sposób niezakłócony. Celem wprowadzenia art. 109 jest zapewnienie realnej wykonalności decyzji Komisji, o której mowa w art. 64 ust. 2 ustawy, podejmowanych w przypadku stwierdzenia naruszeń dotyczących funkcjonowania lub stosowania systemów sztucznej inteligencji. Decyzje te mają charakter środków naprawczych i służą usunięciu naruszeń wynikających ze stworzonego przez system sztucznej inteligencji ryzyka, o którym mowa w art. 79 rozporządzenia 2024/1689, lub bezpośredniego ryzyka zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W sytuacji braku sankcji za niewykonanie decyzji organu, podmiot obowiązany mógłby pozostawać bierny, co prowadziłoby do utrzymywania niezgodności z prawem, a niekiedy do dalszego zagrożenia dla użytkowników systemów sztucznej inteligencji. Wprowadzenie penalizacji jest zatem konieczne dla zapewnienia skuteczności nadzoru publicznego i respektowania decyzji naprawczych. Niewykonanie decyzji organu administracji publicznej w zakresie obowiązków nakazanych dla usunięcia naruszeń jest czynem o wysokim stopniu społecznej szkodliwości, ponieważ: • prowadzi do utrzymywania stanu niezgodnego z prawem, • naraża użytkowników systemów AI na ryzyko, • może uniemożliwiać skuteczne naprawienie naruszenia, • godzi w interes publiczny rozumiany jako bezpieczeństwo i przejrzystość stosowania technologii AI. Zachowanie to ma charakter umyślny lub co najmniej wynikający z rażącego niedbalstwa i odnosi się do obowiązków nałożonych w decyzji, która stanowi akt władczy skierowany do konkretnego podmiotu. Projekt przewiduje karę grzywny albo ograniczenia wolności. Sankcje są adekwatne do charakteru czynu, nie mają charakteru nadmiernie represyjnego, wpisują się w standard kar stosowanych za niewykonywanie decyzji organów nadzorczych w innych sektorach regulowanych (np. ochrona danych osobowych, nadzór rynku finansowego), odpowiadają standardowi sankcji za podobne delikty administracyjno-karne. Prawo karne 46 zachowuje w tym przypadku charakter środka ultima ratio, stosowanego wyłącznie wówczas, gdy podmiot świadomie ignoruje wiążącą decyzję administracyjną. Ust. 2 przewiduje odpowiedzialność osób działających w imieniu lub w interesie osób prawnych oraz jednostek organizacyjnych nieposiadających osobowości prawnej. Rozwiązanie to odzwierciedla faktyczny sposób funkcjonowania podmiotów gospodarczych, zapobiega przerzucaniu odpowiedzialności na podmiot zbiorowy i ukrywaniu sprawców działań faktycznych, ponadto jest zgodne z powszechnie stosowaną w polskim prawie konstrukcją odpowiedzialności osób odpowiedzialnych za działanie podmiotu (np. w prawie wykroczeń gospodarczych i nadzorczych), zapewnia skuteczność sankcji i zapobiega ich faktycznemu obchodzeniu. Przepis art. 110 odsyła do stosowania w ww. sprawach przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia. Ma to na celu ujednolicenie procedury orzekania w sprawach o czyny określone w art. 108 i art. 109 oraz zapewnienie jednolitego stosowania zasad procesu wykroczeniowego. Wybór trybu wykroczeniowego jest uzasadniony charakterem sankcji przewidzianych w ustawie (grzywna albo kara ograniczenia wolności) oraz stopniem społecznej szkodliwości czynów. Wprowadzenie tej regulacji zapewnia: przejrzystość procedury. skrócenie czasu rozpoznania spraw, zminimalizowanie obciążenia organów wymiaru sprawiedliwości, wykorzystanie istniejącej, ugruntowanej procedury właściwej dla podobnych deliktów administracyjnych. Regulacja jest niezbędna dla prawidłowego stosowania przepisów karnych zawartych w ustawie. Rozdział 9 – Zmiany w przepisach obowiązujących (art. 111 – art. 119) Projekt zakłada nowelizację następujących ustaw: 1) ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568, z późn. zm.); 2) ustawy z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. po. 268); 3) ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722, z późn. zm.); 4) ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499, z późn. zm.); 47 5) ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 poz. 902, z późn. zm.); 6) ustawy z dnia 28 lipca 2025 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228, z późn. zm.); 7) ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640, z późn. zm.); 8) ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 z późn. zm.); 9) ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20 z późn. zm.). Zmiany mają na celu dostosowanie aktualnego systemu prawnego do regulacji wprowadzanych tą ustawą. Najbardziej istotna zmiana dotyczy przepisów Kodeksu postępowania cywilnego. Projektowana zmiana polega na dodaniu nowego działu IVfa w tytule VII księgi pierwszej części pierwszej kodeksu. Nowelizacja ta wynika z potrzeby zapewnienia skutecznych i zgodnych z konstytucyjnymi standardami mechanizmów sądowej kontroli decyzji organu nadzorczego, jakim będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Wprowadzenie odrębnych przepisów proceduralnych w tym zakresie stanowi odpowiedź projektodawcy na nowe wyzwania prawne i technologiczne związane z dynamicznym rozwojem i wdrażaniem systemów sztucznej inteligencji w życiu publicznym i gospodarczym. Z uwagi na złożoność spraw związanych z oceną zgodności systemów sztucznej inteligencji z regulacjami prawa unijnego i krajowego, projekt przewiduje, że rozpoznawaniem odwołań od decyzji oraz zażaleń na postanowienia Komisji zajmować się będzie Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów. Wybór tego sądu uzasadniony jest jego wyspecjalizowaną kompetencją w sprawach gospodarczych, regulacyjnych i administracyjnoprawnych o charakterze publicznoprawnym. Takie rozwiązanie zapewnia także jednolitość orzecznictwa i koncentrację spraw, co sprzyja efektywności i spójności postępowania sądowego. Uregulowanie trybu wniesienia odwołania (art. 479 88b–c ) opiera się na modelu pośrednictwa Komisji, która przekazuje odwołanie wraz z aktami sprawy do właściwego sądu. Jednocześnie projekt przewiduje możliwość autokontroli decyzji przez Komisję, jeśli uzna ona zarzuty odwołania za zasadne w całości. Umożliwia to szybkie zakończenie sporu bez angażowania sądu, przy jednoczesnym zachowaniu prawa strony do ponownego wniesienia odwołania od 48 nowej decyzji. Rozwiązanie to odciąża sądy i promuje efektywne rozwiązywanie spraw na poziomie organu administracyjnego. W art. 479 88d określono, jakie elementy powinno zawierać odwołanie. Przepis ten ma na celu zapewnienie jasności zarzutów i przejrzystości argumentacji procesowej. W art. 479 88e jednoznacznie określono krąg stron postępowania przed sądem – są nimi zarówno Komisja, jak i podmiot, wobec którego wydano decyzję. Dodatkowo przyznano Komisji prawo reprezentacji przez pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji, co zwiększa sprawność postępowania i odciąża Prokuratorię Generalną RP. Uregulowanie to jest zgodne z tendencją legislacyjną przyznającą wyspecjalizowanym organom administracyjnym kompetencje do samodzielnego występowania przed sądem. Art. 479 88f normuje sposób rozpoznania odwołań, sąd może je oddalić, odrzucić lub uwzględnić, uchylając lub zmieniając zaskarżoną decyzję. Jednocześnie sąd ma obowiązek stwierdzić, czy decyzja została wydana bez podstawy prawnej lub z rażącym naruszeniem prawa, co stanowi dodatkowy mechanizm kontroli legalności działania organu nadzorczego. W art. 479 88g zawarto szczegółowe regulacje dotyczące ochrony tajemnic prawnie chronionych w toku postępowania sądowego. Z uwagi na charakter spraw z zakresu systemów sztucznej inteligencji, które często dotyczą danych technicznych, handlowych, algorytmicznych oraz know-how konieczne było wprowadzenie mechanizmu ochrony tajemnicy przedsiębiorstwa i innych informacji niejawnych. Jednocześnie projekt przyznaje sądowi możliwość udostępnienia tych informacji stronie tylko w wyjątkowych, ściśle określonych przypadkach, przy jednoczesnym wykluczeniu zażalenia na takie postanowienia, co zabezpiecza sprawność postępowania. Wyraźnie wskazano także, że ograniczenia te nie dotyczą samej Komisji, która zachowuje pełny dostęp do materiałów dowodowych. Art. 479 88h przyznaje stronie prawo wniesienia zażalenia na postanowienie Komisji w terminie tygodnia, zapewniając tym samym skuteczną ochronę praw procesowych również w odniesieniu do rozstrzygnięć incydentalnych. Odwołanie do stosowania przepisów dotyczących odwołań zapewnia spójność i jednolitość proceduralną. Wreszcie art. 479 88i stanowi, że od orzeczenia sądu drugiej instancji będzie przysługiwała skarga kasacyjna niezależnie od wartości przedmiotu zaskarżenia. Wprowadzenie działu IVfa w Kodeksie postępowania cywilnego ma kluczowe znaczenie dla zapewnienia realnego środka zaskarżenia decyzji administracyjnych w dziedzinie regulacji sztucznej inteligencji. Przepisy te nie tylko zapewniają wykonanie obowiązków wynikających 49 z prawa unijnego, ale także służą ochronie praw jednostek i podmiotów gospodarczych przed ewentualnymi nadużyciami administracyjnymi. System ten został zaprojektowany z uwzględnieniem zasady proporcjonalności, efektywności postępowania i ochrony informacji wrażliwych, a także z poszanowaniem konstytucyjnych zasad państwa prawa. Rozdział 10 – Przepisy przejściowe i przepis końcowy (art. 120 – art. 122) Projekt ustawy przewiduje utworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako organu odpowiedzialnego za monitorowanie i wspieranie rozwoju sztucznej inteligencji w sposób bezpieczny i zgodny z interesem publicznym. Sztuczna inteligencja stanowi kluczowy element nowoczesnych technologii i ma istotny wpływ na gospodarkę oraz społeczeństwo, dlatego konieczne jest stworzenie dedykowanego organu, który będzie dbał o jej rozwój zgodnie z zasadami etyki i bezpieczeństwa. Komisja ma pełnić funkcję wspomagającą i kontrolną, dbając o zgodność wdrażanych rozwiązań z regulacjami prawnymi oraz standardami międzynarodowymi. W celu zapewnienia sprawnej działalności Komisji w projekcie wskazano termin powołania jej Przewodniczącego przez Sejm RP za zgodą Senatu RP. Procedura ta gwarantuje demokratyczną legitymizację działania organu i zapewnia, że na jego czele stanie osoba posiadająca odpowiednie kompetencje. Jednocześnie określono termin pierwszego posiedzenia Komisji, które ma się odbyć w ciągu trzech miesięcy od wejścia w życie ustawy. Jest to istotne dla zapewnienia płynnego wdrożenia nowych rozwiązań i niezwłocznego podjęcia prac przez Komisję. Mając na uwadze, że Komisja będzie funkcjonowała w urzędzie obsługującym ministra właściwego do spraw informatyzacji, minister został zobowiązanych do podjęcia niezbędnych działań w celu utworzenia w urzędzie komórki organizacyjnej zapewniającej obsługę Komisji i Przewodniczącego Komisji w zakresie ich zadań wynikających z rozporządzenia 2024/ 1689 oraz z ustawy. Rozpoczęcie działalności przez tę komórkę, powinno nastąpić w terminie 2 miesięcy od dnia wejścia w życie ustawy. Projekt ustawy przewiduje również maksymalne limity wydatków budżetowych na kolejne lata oraz wprowadzenie mechanizmu korygującego w przypadku zagrożenia ich przekroczeniem. Mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy umożliwia elastyczne i skuteczne ograniczenie kosztów, zapewniając racjonalne gospodarowanie środkami publicznymi. Mechanizm opiera się na obniżeniu limitu wydatków – co automatycznie wymusza redukcję kosztów tych zadań. 50 W przypadku konieczności zastosowania mechanizmu korygującego niezbędna będzie weryfikacja, priorytetyzacja lub przesuniecie zakresu realizacji niektórych zadań. Mechanizm korygujący nie będzie uchylał obowiązku wynikającego z ustawy, ale będzie modyfikował sposób finansowania tego obowiązku, np. przesuwając fazy jego realizacji. Będzie on dostosowany do priorytetów realizowanych przez Komisję. Nadzór nad finansami sprawuje minister właściwy do spraw informatyzacji, co gwarantuje odpowiednią kontrolę wydatkowania środków publicznych, natomiast Przewodniczący Komisji odpowiada za wdrażanie mechanizmów kontrolnych w celu uniknięcia przekroczenia założonych limitów. Termin wejścia w życie przepisów ustawy Zachowane zostało wejście w życie przepisów ustawy zgodne z terminem wejścia w życie przepisów rozporządzenia 2024/1689. Ustawa wejdzie w życie po upływie 14 dni od dnia ogłoszenia, przy czym przepisy dotyczące powołania organu nadzoru zaczną obowiązywać od dnia następującego po jej ogłoszeniu. Takie rozwiązanie umożliwia sprawne rozpoczęcie organizacji Komisji oraz szybkie wdrożenie działań niezbędnych do uruchomienia pracy nowego organu. Jednocześnie wyjaśnić należy, że w zakresie spraw uregulowanych: 1) w rozdziale III sekcje 1–3 i sekcja 5, rozdziale IV, rozdziale VI, rozdziałach VIII–XI, z wyłączeniem art. 78, oraz w zakresie spraw uregulowanych w art. 101 rozporządzenia z 2024/1689, przepisy ustawy będą obowiązywały od 2 sierpnia 2026 r.; 2) w art. 6 ust. 1 rozporządzenia 2024/1689 i odpowiadających mu obowiązków ustanowionych w tym rozporządzeniu, przepisy ustawy będą obowiązywały od 2 sierpnia 2027 r. Wskazane terminy wynikają wprost z art. 113 rozporządzenia 2024/1689. Projekt zapewnia sprawną organizację i finansowanie Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji, umożliwiając efektywne zarządzanie rozwojem sztucznej inteligencji w Polsce. Tworzy on stabilne ramy prawne, organizacyjne i finansowe dla działalności Komisji, co pozwoli na skuteczne monitorowanie rozwoju sztucznej inteligencji i minimalizowanie związanych z nią zagrożeń. Wdrożenie ustawy stanowi istotny krok w kierunku nowoczesnej i odpowiedzialnej polityki państwa wobec dynamicznie rozwijających się technologii cyfrowych. 51 Projekt ustawy nie zawiera przepisów technicznych w rozumieniu przepisów rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i w związku z tym nie podlega procedurze notyfikacji. W związku z art. 68–70 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców należy zaznaczyć, że projektowana ustawa, nakładając nowe obowiązki na przedsiębiorców będzie miała wpływ na działalność mikro- oraz małych i średnich przedsiębiorców. Projektowana ustawa ogranicza się jednak do nałożenia obowiązków niezbędnych do osiągnięcia celów rozporządzenia 2024/1689. Projekt ustawy jest zgodny z przepisami prawa Unii Europejskiej i służy ich stosowaniu. Projekt ustawy nie podlega przedstawieniu właściwym organom i instytucjom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt ustawy stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677, z późn. zm.) oraz zgodnie z § 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) został zamieszczony w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie „Rządowy Proces Legislacyjny”. Nazwa projektu Ustawa o systemach sztucznej inteligencji Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji, pamela.krzypkowska@cyfra.gov.pl; sekretariat.dbi@cyfra.gov.pl Data sporządzenia 20.03.2026 r. Źródło: Prawo UE Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Nr w wykazie prac UC71 OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Projekt ustawy ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1869” albo „Aktem o sztucznej inteligencji”. Celem rozporządzenia 2024/1689 jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji (zwanych dalej „systemami sztucznej inteligencji”) w Unii Europejskiej, zgodnie z wartościami UE, w celu promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności, ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Organem właściwym do przygotowania nowej regulacji prawnej w zakresie zapewnienia skutecznego stosowania Aktu o sztucznej inteligencji jest minister właściwy do spraw informatyzacji. Podjęte działania legislacyjne zgodnie z zasadami prawa Unii Europejskiej będą opierały się na założeniu, że ustawa będzie zawierała przepisy, które zostały przez prawodawcę unijnego wprost przekazane do uregulowania w prawie krajowym oraz takich, w których rozporządzenie 2024/1689 pozostawiło pewną swobodę regulacyjną państwom członkowskim. Na podstawie przepisów rozporządzenia 2024/1689 państwa członkowskie obowiązane są m.in. do: 1) wskazania właściwych organów krajowych, tj.: - organu lub organów nadzoru rynku, - organu notyfikującego odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność systemów sztucznej inteligencji, jak również za ich monitorowanie; 2) przyjęcia przepisów umożliwiających nakładanie administracyjnych kar finansowych za naruszenia przepisów rozporządzenia 2024/1689; 3) określenia procedury umożliwiającej egzekwowanie zakazu stosowania systemów spełniających kryteria zakazanych praktyk sztucznej inteligencji, w tym umożliwienie złożenia skargi do właściwych organów krajowych na naruszenie przepisów rozporządzenia 2024/1689. W projekcie ustawy wprowadzono również podstawowe przepisy dotyczące piaskownic regulacyjnych. Zgodnie z art. 57 rozporządzenia 2024/1869 każde państwo członkowskie ma obowiązek ustanowienia przynajmniej jednej krajowej piaskownicy regulacyjnej do 2 sierpnia 2026 roku. Może ona być uruchomiona samodzielnie lub we współpracy z innymi państwami, a wypełnienie obowiązku dopuszcza także uczestnictwo w już istniejącej piaskownicy, o ile zapewnia ona równoważny zasięg krajowy. Komisja Europejska zyskuje tu rolę wspierającą, oferując doradztwo, narzędzia i pomoc techniczną w tworzeniu oraz funkcjonowaniu piaskownic. Oprócz rozwiązań na szczeblu krajowym dopuszcza się również tworzenie piaskownic regionalnych, lokalnych czy nawet wspólnych dla kilku państw, a Europejski Inspektor Ochrony Danych może powołać własną piaskownicę dla instytucji i organów unijnych. Organy krajowe zobowiązane są do zapewnienia wystarczających zasobów finansowych, kadrowych i organizacyjnych, aby piaskownice działały efektywnie, terminowo i zgodnie z prawem. Mogą współpracować z innymi podmiotami z 2 ekosystemu AI, w tym organizacjami prywatnymi, a także muszą utrzymywać koordynację z organami nadzorującymi inne piaskownice powstałe na gruncie prawa unijnego czy krajowego. Komisja Europejska jest zobowiązana do przyjęcia jednolitych procedur i kryteriów funkcjonowania piaskownic, których celem będzie harmonizacja praktyk w całej UE i ograniczenie barier administracyjnych. Piaskownica regulacyjna w projekcie ustawy o systemach sztucznej inteligencji rozwiązuje problem braku bezpiecznego i przejrzystego środowiska do testowania systemów sztucznej inteligencji zanim trafią one na rynek. Piaskownica regulacyjna tworzy kontrolowane warunki, w których można eksperymentować, trenować i walidować systemy AI pod stosownym nadzorem, co pozwala na identyfikację potencjalnych zagrożeń i dostosowanie technologii do wymogów prawa jeszcze przed ich komercjalizacją. Zawarte w projekcie przepisy umożliwią wypełnienie obowiązku wynikającego z art. 57 rozporządzenia 2024/1689. Zakres i profil jej udostępniania ma pozostać otwarty dla innowatorów. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji i oczekiwany efekt Przeprowadzona analiza powyższego problemu wykazała, że optymalnym rozwiązaniem jest opracowanie i uchwalenie aktu prawnego o randze ustawy, a alternatywne sposoby rozwiązania problemu nie znajdują uzasadnienia. Dodatkowo, szeroki zakres koniecznych do wdrożenia rozwiązań, brak uregulowania do tej pory kwestii wykorzystania systemów sztucznej inteligencji w krajowych przepisach oraz względy przejrzystości regulacji dotyczącej nowego zagadnienia prawnego, jakim jest sztuczna inteligencja, przemawiają za wdrożeniem przepisów rozporządzenia 2024/1689 w odrębnej ustawie. Proponowana ustawa wprowadzi do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025, tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W szczególności przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów rozporządzenia 2024/1689; możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji oraz środków wspierania innowacyjności. Projektowana ustawa ma na celu umożliwienie stosowania ww. przepisów rozporządzenia 2024/1689 bezpośrednio, w zgodzie z przepisami polskiego prawa. Projektu ustawy nie stosuje się do: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: a) działalnością, o której mowa w art. 2 ust. 1 i 2 z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych, b) działalnością gospodarczą, o której mowa w art. 3 w zw. z art. 4 ust. 1–2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, c) działalnością nieewidencjonowaną, o której mowa w art. 5 ust. 1–4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) działalnością, o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) działalnością rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego; 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689; 3) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 4) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5–6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego, działaniach podejmowanych w celu zidentyfikowania i ścigania sprawcy przestępstwa; 5) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w tym punkcie; 6) systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 5, przed wejściem w życie rozporządzenia 2024/1689; 7) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister – Koordynator Służb Specjalnych, w przypadku jego powołania. 3 1. Właściwe organy krajowe Organ nadzoru rynku oraz punkt kontaktowy Przepisy rozporządzenia 2024/1689 zobowiązują państwa członkowskie do powołania lub wskazania organu nadzoru rynku. W związku z brakiem istnienia w Polsce organu lub instytucji publicznej spełniających wszystkie wymogi określone w rozporządzeniu 2024/1689 przewiduje się powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji, którym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej zwana „Komisją”. W wyniku dokonanych analiz (prawnych, ekonomicznych i technologicznych), konsultacji z przedstawicielami sektora sztucznej inteligencji oraz spotkań roboczych z przedstawicielami organów publicznych ustalono, że powołanie nowego organu właściwego we wszystkich sprawa regulowanych przepisami rozporządzenia z wyłączeniem obszarów, w których rozporządzenie wyraźnie wskazuje inne organy właściwe, jest to rozwiązanie optymalne. Powołanie nowego organu kolegialnego ds. nadzoru w zakresie systemów sztucznej inteligencji pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących niezależności organu nadzoru, a jednocześnie pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Mechanizmem wzmacniającym współpracę między nowym organem, a istniejącymi podmiotami publicznymi jest kolegialna konstrukcja Komisji, której członkami byliby przedstawiciele innych organów publicznych kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów sztucznej inteligencji. Jako organ kolegialny Komisja pozwoli zapewnić wysoki poziom konsolidacji i koordynacji nadzoru w zakresie systemów sztucznej inteligencji bez generowania niepotrzebnych, nadmiernych kosztów (praca członków – przedstawicieli innych instytucji publicznych nie wymaga dodatkowego finansowania). Okolicznością przemawiającą za racjonalnością wskazanego modelu jest również mała liczba specjalistów z ww. obszarów, co w przypadku Polski powodowałoby ryzyko niespełnienia wymagań aktu o sztucznej inteligencji oraz prowadziło do szkodliwej konkurencji między organami i rywalizacji o wąskie grono pracowników – ekspertów. W aktualnym stanie prawnym brak istniejącego organu o niezbędnych kompetencjach, co w połączeniu z wyrażonym w rozporządzeniu 2024/1689 obowiązkiem spełnienia wymagań, o których mowa w art. 70 ust. 3 (tj. zagwarantowania odpowiedniej liczby specjalistów w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzy na temat obowiązujących norm i wymogów prawnych), prowadzi do wniosku, że utworzenie nowego organu jest pod względem finansowym mniej kosztowne niż rozwiązanie alternatywne, zakładające nałożenie takiego obowiązku na wszystkie organy właściwe z osobna. Pracami Komisji będzie kierował Przewodniczący powoływany przez Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej, spośród osób, które posiadają obywatelstwo polskie, korzystają z pełni praw publicznych, cieszą się nieposzlakowaną opinią i które nie były skazane prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, które jednocześnie posiadają wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub równorzędny oraz co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji, doświadczenie zawodowe uzyskane w trakcie pracy w takich podmiotach lub pracy naukowej, a także wyróżniają się wiedzą i posiadają znaczący dorobek w zakresie sztucznej inteligencji. Wybór Przewodniczącego Komisji przez Sejm za zgodą Senatu zapewni niezależność i demokratyczną legitymację. Niezależność Przewodniczącego dodatkowo gwarantować będzie wąski katalog przypadków umożliwiających jego odwołanie przed końcem kadencji. W skład Komisji będą także wchodzili dwaj Zastępcy Przewodniczącego oraz członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisji Nadzoru Finansowego; 3) Krajowej Rady Radiofonii i Telewizji; 4) Prezesa Urzędu Komunikacji Elektronicznej. Komisja będzie działać w modelu kolegialnym, co zapewni większą rzetelność decyzji, a skargi będą rozpatrywane przez Przewodniczącego dla większej efektywności. Projekt ustawy przewiduje niezależność wszystkich osób wchodzących w skład Komisji w zakresie zadań przez nią realizowanych. Dodatkowo Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 4 Przepisy uregulują również obowiązki i uprawnienia członków komisji, a także sposób wykonywania zadań. Efektem wejścia proponowanych przepisów dotyczących nowego organu będzie utworzenie organu posiadającego kompetencje do współpracy na poziomie administracyjnym oraz eksperckim z organami na poziomie instytucji Unii Europejskiej oraz innych państw członkowskich. Umożliwi to nie tylko budowę potencjału eksperckiego w sektorze publicznym, ale także w przyszłości wspieranie rozwoju konkurencyjności europejskiej gospodarki przez współpracę w zakresie tworzenia, regulowania i współdziałania w ramach piaskownic regulacyjnych, których celem będzie zapewnienie atrakcyjnych dla przedsiębiorców oraz bezpiecznych dla obywateli, konsumentów i środowiska warunków testowania innowacyjnych zastosowań technologii sztucznej inteligencji. W celu umożliwienia realizacji zadań organu nadzoru rynku wynikających z rozporządzenia 2024/1689 konieczne jest wskazanie podmiotu pozwalającego na wykonywanie zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz Przewodniczącego. Przepisy rozporządzenia 2024/1689 nie wskazują na obowiązek utworzenia urzędu, a tym samym nie odnoszą się do kwestii pracowniczych w tym zakresie, jednak przesądzenie tych kwestii w ustawie jest niezbędne w celu zapewnienia właściwego funkcjonowania niezależnego organu nadzoru. Stąd też w przepisach projektu znalazły się uregulowania związane ze wskazaniem urzędu obsługującego ministra do spraw informatyzacji jako urzędu zapewniającego obsługę administracyjną, organizacyjną, kancelaryjną oraz wykonywania zadań przez Komisję oraz przewodniczącego Komisji. Dla kompletności rozwiązań ustawowych uregulowane zostaną także kwestie wykraczające poza przepisy rozporządzenia 2024/1689, a dotyczące organizacji pracy pracowników. Zadania nowego organu będą obejmowały w szczególności: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi”, oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o których mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawia ministrowi właściwemu do spraw informatyzacji propozycje działań legislacyjnych, b) udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacje, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Do istotnych zadań komisji chociaż wykraczających poza ramy rozporządzenia 2024/1689 należy także: 5 1) wydawanie przez opinii indywidualnych oraz wyjaśnień w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy krajowej wdrażającej ten akt. Projektodawca, dostrzegając wysokie skomplikowanie regulacji w obszarze sztucznej inteligencji, a także potencjalne trudności interpretacyjne, zdecydował się wprowadzić mechanizmy wspierające podmioty zobowiązane do stosowania tych przepisów. Celem tych przepisów jest zapewnienie transparentności, przewidywalności oraz spójności stosowania prawa zarówno na poziomie jednostkowym, jak i systemowym. W związku z zapewnieniem Komisji kompetencji do wydawania opinii indywidualnych i wyjaśnień niezbędne jest uregulowanie w projekcie ustawy również procedur z tym związanych, a także odziaływania tych dokumentów na inne organy; 2) wyrażanie opinii w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, a także udział w ich opracowywaniu. Powołanie nowego organu umożliwi również docelowo, na mocy kolejnych działań legislacyjnych, pełnienie innych, przewidzianych w rozporządzeniu 2024/1689 funkcji. Jako organ nadzoru rynku Komisja będzie mogła docelowo rozpatrywać wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych za systemy wysokiego ryzyka (art. 6 i art. 7 rozporządzenia 2024/1689), będzie przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów sztucznej inteligencji oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Przepisy ustawy uregulują także tryb postępowania przed Komisją w sprawach znajdujących się w zakresie jej właściwości takich jak: sprawy o naruszenie przepisów rozporządzenia 2024/1689, sprawy z zakresu nadzoru nad przyznaniem oznakowania CE oraz kontrola deklaracji zgodności systemów sztucznej inteligencji. Projekt zakłada również stworzenie mechanizmów dla skoordynowanej współpracy między organami publicznymi (ministrem właściwym do spraw informatyzacji a Komisją, w tym podmiotami, których upoważnieni przedstawiciele występują w roli jej członków). Jako organ opiniodawczo-doradczy Komisji zostanie powołana również Społeczna Rada do spraw Sztucznej Inteligencji, której członkowie będą wybierani przez Komisję spośród kandydatów zgłaszanych przez m.in. Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, izby gospodarcze, związki zawodowe oraz fundacje i stowarzyszenia. Do zadań Rady będzie należeć wydawanie opinii i stanowisk w zakresie przekazanym przez Komisję oraz z własnej inicjatywy, a także przekazywanie wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. Udział w pracach Rady nie będzie wiązał się z wynagrodzeniem dla jej członków. Powołanie organu opiniodawczo-doradczego organu nadzoru nie zostało objęte przepisami rozporządzenia 2024/1689. Przepisy projektu ustawy zakładają także działania z zakresu wspierania rozwoju sektora sztucznej inteligencji. Wśród tych działań wymienić należy m.in. tworzenie piaskownic regulacyjnych, prowadzenie działań informacyjnych i edukacyjnych, jak również wykorzystywanie i przekazywanie informacji o kluczowych dla zaawansowanych technicznie projektów oraz dostępnych dla innowatorów centrach oferujących moce obliczeniowe. W celu realizacji obowiązków nadzorczych, Komisja będzie uprawniona do prowadzenia kontroli działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689, z zastrzeżeniem art. 2 ust 2, której celem będzie ustalenie zgodności działalności podmiotów z przepisami rozporządzenia oraz ustawy. Komisja będzie przeprowadzała kontrolę zgodnie z zatwierdzonymi planami kontroli, na podstawie uzyskanych informacji lub w ramach monitorowania przestrzegania stosowania rozporządzenia 2024/1689. Kontrola będzie prowadzona, z wyjątkiem określonych w ustawie przypadków, w trybie zdalnym, z wykorzystaniem środków porozumiewania się na odległość. Kontrola może zostać przeprowadzona przez upoważnionego pracownika właściwej komórki urzędu obsługującego ministra do spraw informatyzacji, co do zasady po uprzednim powiadomieniu podmiotu kontrolowanego. W projekcie uregulowane zostały również kwestie dotyczące sposobu prowadzenia kontroli oraz jej zakończenia, a także uprawnień i obowiązków kontrolujących i podmiotów kontrolowanych. Jeżeli w wyniku kontroli Komisja stwierdzi nieprawidłowości wypełniania przez kontrolowanego obowiązków wynikających z rozporządzenia 2024/1689, decyzji wydanej przez Komisję lub ustawy, w projekcie ustawy przewidziano możliwość wydawania przez Komisję zaleceń pokontrolnych. Jest to regulacja wykraczająca poza przepisy rozporządzenia 2024/1689 jednak stanowi odpowiedź na potrzeby regulowanej materii. Komisja prowadzić będzie postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Postępowanie będzie wszczynane z urzędu, na wniosek Przewodniczącego, zastępcy, członka Komisji lub Społecznej Rady ds. Sztucznej Inteligencji, lub na podstawie skargi. W ramach prowadzonego postępowania organ nadzoru będzie mógł przeprowadzać postępowanie dowodowe. Procedury prowadzenia postępowań zostały pozostawione do uregulowania Państwom członkowskim w ramach przepisów krajowych i w takim zakresie nie wynikają bezpośrednio z przepisów rozporządzenia 2024/1689. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W przypadku uzasadnionego podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, 6 Komisja może wydać w drodze postanowienia ostrzeżenie, w którym wskazuje działania, które strona powinna podjąć w celu przywrócenia stanu zgodnego z prawem. W toku postępowania Komisja może także, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Zarówno instytucja ostrzeżenia, jak i instytucja układu nie wynikają wprost z rozporządzenia 2024/1689 chociaż wchodzą one regulacje dotyczące zasad postępowania przed organem nadzoru rynku. Stwierdzenie przez Komisję naruszenia przepisów rozporządzenia 2024/1689 następuje w formie decyzji zawierającej środki nakazujące usunięcie skutków naruszenia. Uregulowania wymaga także tryb postępowania w sytuacji stwierdzenia przez właściwy organ, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych. W takim wypadku Komisja obowiązana będzie wszcząć postępowanie z urzędu. W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. W związku z przetwarzaniem przez Komisję danych osobowych w celu realizacji zadań wynikających z rozporządzenia 2024/1689 w projekcie wskazano procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. Przepisy te nie stanowią z wykonania rozporządzenia 2024/1689. Organ notyfikujący Uregulowania wymaga również tryb i zasady notyfikacji, o której mowa w art. 28 rozporządzenia 2024/1689. Proponuje się wskazanie ministra właściwego do spraw informatyzacji jako organu właściwego w zakresie notyfikacji jednostek oceniających zgodność o raz jako organ notyfikujący. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. Notyfikacja jednostek oceniających zgodność następować będzie na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Minister właściwy do spraw informatyzacji będzie również organem właściwym do udzielania autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Dla spójności z przepisami oraz praktyką rynkową sprawy związane z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689 powierzone zostaną Polskiemu Centrum Akredytacji, do którego zadań należeć będzie: 1) uczestniczenie, we współpracy z ministrem właściwym do spraw informatyzacji, w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność; 2) opracowanie szczegółowego programu akredytacji jednostek oceniających zgodność oraz dokonywanie aktualizacji tego programu; 3) przekazywanie ministrowi właściwemu do spraw informatyzacji informacji o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach. Należy jednak wskazać, że zgodnie z motywem 64 rozporządzenia 2024/1689 uzupełnia ono ustawodawstwo harmonizacyjne. W związku z tym wyznaczenie ministra właściwego do spraw informatyzacji jako organu notyfikującego zgodnie z art. 70 projektu, który wykonuje art. 70 ust. 1 rozporządzenia 2024/1689, nie pozbawia innych organów kompetencji określonych w normach harmonizacyjnych. 2. Skargi W celu zapewnienia właściwego stosowania przepisów rozporządzenia 2024/1689 projekt ustawy umożliwia złożenie skargi na naruszenie przepisów rozporządzenia 2024/1689. Organem właściwym w tym zakresie będzie Komisja. Projektowane przepisy przesądzają, że postępowanie skargowe zakończone będzie wydaniem decyzji. Proponuje się, aby na decyzję właściwego organu krajowego przysługiwało odwołanie do właściwego sądu, którym ze względu na potrzebę specjalizacji oraz wysokich wymagań co do znajomości spraw z zakresu technologii cyfrowych oraz nadzoru rynku będzie Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów. Wzorując się na postępowaniu prowadzonym przez Prezesa Urzędu Ochrony Danych Osobowych, zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne. W przypadku wydanej przez Komisję decyzji nie będzie możliwości 7 odwołania w ramach procedury administracyjnej. Wyłączona jest możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową, poprzez złożenie odwołania od decyzji do Sądu Ochrony Konkurencji i Konsumentów. Należy wskazać, że przewidziany przez projektodawcę wyjątek od zasady dwuinstancyjności postępowania administracyjnego, jest rozwiązaniem optymalnym dla zapewnienia wolności i praw osób. Jest to rozwiązanie adekwatne i konieczne dla osiągnięcia celu, jakim jest skuteczna i udzielona we właściwym czasie ochrona praw podstawowych chronionych na mocy Karty Praw Podstawowych. Do praw, które są narażone na niepożądane działanie sztucznej inteligencji należą m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Biorąc pod uwagę powyższe zagrożenia społeczne, szybka i skuteczna ochrona ww. praw pozostaje w odpowiedniej proporcji do ograniczenia, jakim jest pozbawienie prawa do ponownego rozpatrzenia sprawy przez właściwy organ. 3. Środki wspierające innowacyjność W projekcie ustawy określono ramy tworzenia tzw. piaskownic regulacyjnych w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689. Komisja ma kompetencje do udzielenia w drodze decyzji dostępu do piaskownicy regulacyjnej podmiotom wybranym w drodze konkursu. Mikro, mali i średni przedsiębiorcy w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców będą mogli uczestniczyć w piaskownicy regulacyjnej nieodpłatnie. Celem tych regulacji będzie: – ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. – zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. – stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. Komisja będzie mogła prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. W ramach innych środków wspierania innowacyjności, zgodnie z projektem ustawy, minister właściwy do spraw informatyzacji może podejmować działania takie jak: 1) udzielanie pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansowanie lub współfinansowanie programów i projektów w tym zakresie ze środków pochodzących z budżetu państwa w formie dotacji, jak również budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, środków pochodzących z bezzwrotnej pomocy zagranicznej oraz środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień; 2) inicjowanie, wspieranie i realizowanie programów obejmujących finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyniki badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. Udzielenie finansowania będzie możliwe także dla Instytutu Badawczego IDEAS. Przedmiotowa regulacja nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. 4. Administracyjne kary pieniężne Uregulowania w przepisach polskiego prawa wymagają także kwestie możliwości nakładania przez organ nadzoru kar administracyjnych, w tym administracyjnych kar pieniężnych. Nie ma możliwości osiągnięcia powyższych celów projektu środkami pozalegislacyjnymi, w związku z czym rekomendowane jest, aby administracyjne kary pieniężne podlegały egzekucji w trybie przepisów o postępowaniu egzekucyjnym w administracji w zakresie egzekucji obowiązków o charakterze pieniężnym. Proponuje się, aby Komisja nakładała kary pieniężne w drodze decyzji, w przypadkach, wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. Zgodnie z art. 99 rozporządzenia 2024/1689 kara za nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, wynosi do 35 000 000 euro lub, jeśli sprawcą jest przedsiębiorca lub osoba prawna, 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Z kolei nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5 (art. 99 ust. 4 lit. a-g rozporządzenia 2024/1689) podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub – jeżeli sprawcą naruszenia jest 8 przedsiębiorstwo – w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. W przypadku, gdy odpowiedzialny za naruszenie jest mikro-, mały lub średni przedsiębiorca rozporządzenie 2024/1689 wskazuje, że nałożona kara powinna mieć wymiar mniejszy niż w przypadku innych typów podmiotów. Postępowanie w sprawie wydania decyzji w sprawie nałożenia kar będzie jednoinstancyjne. Od decyzji w sprawie nałożenia kar wydanych przez właściwy organ przysługiwać ma natomiast odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. Jeśli Komisja uzna odwołanie za słuszne, może – nie przekazując akt sądowi – uchylić albo zmienić swoją decyzję w całości lub w części. Dodatkowo, projekt zakłada możliwość uzyskania przez stronę zmniejszenia wysokości nałożonej kary administracyjnej. Oprócz wcześniej wspomnianego środka zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, w przepisach przewidziano kompetencję Komisji do zmniejszenia, w drodze decyzji, administracyjnej, wysokości kary pieniężnej, jeżeli ukarany podmiot wykonał w okresie 3 miesięcy od doręczenia decyzji w sprawie kary rekomendacje zawarte w ostrzeżeniu wydanym przez Komisję, a naruszenie nie doprowadziło do śmierci lub uszczerbku na zdrowiu człowieka. Ustanowienie procedur nakładania administracyjnych kar pieniężnych oraz określenie przeznaczenia tych kar rozporządzenie 2024/1689 pozostawiło w gestii państw członkowskich. W projekcie zawarto także przepisy dotyczące sankcji karnych za określone czyny związane z udaremnianiem lub utrudnianiem prowadzenia kontroli, czynności w postępowaniu w przypadku stwierdzenia naruszenia związanego ze stwarzaniem przez system AI ryzyka oraz niedostarczeniem lub dostarczeniem niedostatecznych danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Regulacja ta nie wynika bezpośrednio z przepisów rozporządzenia 2024/1689. Z uwagi na charakter regulacji w projekcie ustawy zostaną zawarte również niezbędne zmiany przepisów obowiązujących ustaw, a także przepisy przejściowe, dostosowujące i końcowe. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Rozporządzenie 2024/1689 jest aktem prawnym bezpośrednio obowiązującym, będzie więc miało bezpośrednie zastosowanie we wszystkich państwach członkowskich Unii Europejskiej. Najważniejszym celem unijnych przepisów jest to, aby systemy sztucznej inteligencji stosowane w UE były bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska. W konsekwencji wszystkie państwa członkowskie UE będą stosowały przepisy ww. rozporządzenia, a prace nad wdrożeniem obecnie toczą się we wszystkich krajach. Z przeprowadzonej analizy porównawczej wynika, że w państwach członkowskich UE nie ukształtował się jeden dominujący model organizacji nadzoru rynku nad systemami sztucznej inteligencji. Rozwiązania są dostosowywane do krajowej struktury administracji, przy jednoczesnym zachowaniu wymogów art. 70 rozporządzenia 2024/1689, w szczególności w zakresie niezależności organu oraz zapewnienia odpowiednich zasobów i kompetencji. W analizowanych państwach przyjmowane są w szczególności: (1) model nowego wiodącego organu nadzoru rynku przy jednoczesnym zachowaniu sektorowego podziału kompetencji dla części systemów wysokiego ryzyka (np. Hiszpania), (2) model oparty na istniejących instytucjach z wyznaczeniem wiodącego organu i punktu kontaktowego oraz uzupełniającą rolą organów sektorowych (np. Malta), a także (3) model wieloorganowy oparty w całości na istniejących organach administracji publicznej, z przypisaniem zadań zgodnie z właściwością rzeczową. Do tej pory dwa państwa członkowskie UE, Finlandia i Luksemburg, opublikowały projekty aktów prawnych wdrażających do krajowych przepisów rozwiązania w zakresie nadzoru z rozporządzenia 2024/1689. W fińskiej propozycji przepisów (Hallituksen esitys laiksi eräiden tekoälyjärjestelmien valvonnasta ja siihen liittyvien lakien muuttamisesta, nr projektu TEM050:00/2024) rolę organów nadzoru rynku rozdzielono pomiędzy już istniejące organy, które sprawują nadzór nad poszczególnymi sektorami gospodarki i życia publicznego. Analogicznie, kilku organom przyznano funkcję organów notyfikujących. Jako pojedynczy punkt kontaktowy wyznaczona została Agencja Transportu i Komunikacji (Traficom). W zakresie środków nadzoru rynku projekt ustawy odsyła do rozdziału 3 ustawy o nadzorze rynku (Laki eräiden tuotteiden markkinavalvonnasta, 16.12.2016/1137). W projekcie przewidziano również powstanie nowego organu działającego przy Traficom, który nakłada sankcję za naruszenia określonych przepisów ustawy, jeżeli przekracza ona 300 000 EUR. W luksemburskim projekcie ustawy zadania w zakresie nadzoru rynku oraz notyfikacji na gruncie rozporządzenia 2024/1689 również zostały rozdzielone między kilka organów. Jako pojedynczy punkt kontaktowy wyznaczono organ ochrony danych osobowych. 9 Ponadto, w kilku państwach członkowskich wprowadzono w ostatnim czasie różnorodne rozwiązania prawne i organizacyjne w zakresie zapewnienia nadzoru nad systemami sztucznej inteligencji. Hiszpania W Hiszpanii przyjęto rozwiązanie oparte na powołaniu nowego organu nadzoru rynku nad systemami sztucznej inteligencji. W 2023 r. powołano tam Agencję Nadzoru nad Sztuczną Inteligencją (Agencia Española de Supervisión de la Inteligencia Artificial). Działania Agencji mają służyć m.in. następującym celom: nadzór nad wdrażaniem, użytkowaniem lub wprowadzaniem do obrotu systemów sztucznej inteligencji, a w szczególności takich, które mogą stwarzać znaczne ryzyko dla zdrowia, bezpieczeństwa oraz praw podstawowych; współpracy i koordynacji między innymi organami krajowymi; promocji środowisk testowych systemów sztucznej inteligencji; podnoszeniu świadomości, rozpowszechnianiu szkoleń związanych z odpowiedzialnym wykorzystaniem sztucznej inteligencji. Agencja Nadzoru nad Sztuczną Inteligencją podlega Ministerstwu Gospodarki i Transformacji Cyfrowej. Nowy organ z siedzibą w La Corunii został wyposażony w budżet na rozpoczęcie działalności w wysokości ok. 21 mln. Euro (2023). W przyjętej 15 maja 2024 r. strategii AI (2024 Artificial Intelligence Strategy) Agencja Nadzoru nad Sztuczną Inteligencją została wskazana jako główny organ odpowiedzialny za wdrożenie i nadzór nad egzekwowaniem rozporządzenia 2024/1689. Ponadto 8 listopada 2023 r. na mocy królewskiego dekretu nr 817/2023 w Hiszpanii powołano piaskownicę regulacyjną, której celem jest stworzenie środowiska testowego dla systemów wysokiego ryzyka. Według aktualnych informacji, w styczniu 2025 r. trwał pierwszy nabór wniosków. Austria W Austrii w styczniu 2024 r. weszło życie prawo (zmiany w Telekommunikationsgesetz), na mocy którego ustanowiono Biuro Obsługi ds. sztucznej inteligencji (KI-Servicestelle) przy austriackim urzędzie ds. telekomunikacji (RTR). Biuro ma służyć jako punkt kontaktowy i centrum informacji dla ogółu społeczeństwa na temat sztucznej inteligencji oraz wspierać wdrażanie rozporządzenia 2024/1689. Na swojej stronie internetowej Biuro publikuje informacje na temat rozporządzenia oraz inicjatyw w zakresie sztucznej inteligencji podejmowanych w Austrii. W lutym 2024 r. powołano Radę Doradczą ds. sztucznej inteligencji (KI-Beirat), której rolą ma być doradzanie rządowi federalnemu i Biuru Obsługi ds. sztucznej inteligencji we wdrażaniu rozporządzenia 2024/1689. W listopadzie 2024 r. w Austrii przedstawiono także Plan wdrożenia na 2024 r. dla strategii rządu federalnego dla AI (Strategie der Bundesregierung für Künstliche Intelligenz - Umsetzungsplan 2024). Federalny Urząd Kanclerski Austrii, Wydział VII – Cyfryzacja i E-administracja (Bundeskanzleramt, Sektion VII – Digitalisierung und E-Government) został w nim wyznaczony jako odpowiedzialny za przygotowanie wdrożenia rozporządzenia 2024/1689 do porządku krajowego. Węgry Węgierskie rozwiązanie oparto na wskazaniu istniejącej instytucji rządowej – Ministerstwa Gospodarki Narodowej – jako organu nadzoru rynku AI. Jednocześnie przewidziano mechanizm umożliwiający wyznaczenie organu nadzoru rynku sztucznej inteligencji w drodze rozporządzenia, co świadczy o elastycznym modelu organizacyjnym. Dania Dania przyjęła model wieloorganowy oparty w całości na istniejących instytucjach administracji publicznej. Mechanizmy współpracy opierają się na wyznaczeniu Duńskiej Agencji Cyfryzacji (Digitaliseringsstyrelsen) jako centralnego punktu kontaktowego (Single Point of Contact) w rozumieniu art. 70 ust. 2 AI Act oraz na obowiązku współdziałania pomiędzy organami i zapewnienia zasobów niezbędnych do wykonywania zadań. Malta Na Malcie głównym organem nadzoru rynku oraz jednolitym punktem kontaktowym jest Malta Digital Innovation Authority (MDIA). Model ten przewiduje centralną rolę MDIA w ogólnym nadzorze rynku AI, w tym prowadzeniu krajowej piaskownicy regulacyjnej, pełnieniu funkcji organu notyfikującego oraz nakładaniu administracyjnych kar pieniężnych; dodatkowo, w przypadku braku wyznaczenia innego organu, MDIA przejmuje funkcję organu nadzoru rynku, co nadaje jej pozycję „domyślną” w systemie. Włochy We Włoszech wyznaczono dwie istniejące agencje jako krajowe organy właściwe – AgID (Agenzia per l’Italia digitale) oraz ACN (Agenzia per la cybersicurezza nazionale). W analizie wskazano także mechanizm koordynacji z udziałem organów sektorowych poprzez komitet koordynacyjny przy Prezesie Rady Ministrów, z udziałem kierownictwa AgID i ACN oraz przedstawicieli organów sektorowych. Słowenia 10 W Słowenii kompetencje nadzorcze przekazano istniejącym instytucjom sektorowym, a współpracę oraz rozstrzyganie sporów kompetencyjnych pomiędzy organami zapewnia Rada Koordynacyjna Organów Nadzoru Rynku. Prace nad przyjęciem rozwiązań regulacyjnych dotyczących sztucznej inteligencji trwają również w krajach OECD. Poniżej opisano przykłady dwóch z nich, w których już przyjęto akty prawne w tym zakresie lub trwają nad nimi prace. Korea Południowa 26 grudnia 2024 r. w Korei Południowej przyjęto Podstawowy Akt o AI (AI Basic Act, South Korean AI Act). Wejdzie on w życie w styczniu 2025 r. Celem aktu jest ochrona praw i godności człowieka oraz poprawa jakości życia i wzmocnienie konkurencyjności Korei Południowej poprzez stworzenie ram niezbędnych do prawidłowego rozwoju sztucznej inteligencji. Stanowi on usankcjonowanie prawne dla powołania Narodowego Komitetu ds. AI (National AI Committee), które miało miejsce we wrześniu 2024 r. Zadaniem Komitetu jest m. in. rozpatrywanie i podejmowanie decyzji w sprawie głównych polityk promowania sztucznej inteligencji oraz tworzenie podstaw zaufania do AI. Akt uprawnia także Ministra ds. Nauki i ICT do utworzenia Ośrodka ds. Polityki AI, którego zadaniem będzie opracowywanie polityk w zakresie sztucznej inteligencji oraz ustalanie i upowszechnianie norm międzynarodowych. Na gruncie aktu, operatorzy systemów AI, które zostały w nim zdefiniowane jako wysokiego wpływu (high-impact) i generatywne, podlegają obowiązkom w zakresie transparentności i bezpieczeństwa. Rząd może także wspierać dobrowolną weryfikację bezpieczeństwa i niezawodności systemów AI wykorzystywanych przez sektor prywatny oraz oceny ich wpływu. Ponadto, ministrowi ds. Nauki i ICT została przyznana kompetencja do uchwalania i ogłaszania zasad etycznych dla AI w zakresie bezpieczeństwa, niezawodności, dostępności oraz wpływu na życie i dobrobyt ludzi. Minister ds. Nauki i ICT może także, w przypadku, gdy poweźmie informację, że naruszone zostały przepisy aktu, prowadzić postępowania wyjaśniające oraz zarządzić podjęcie środków w celu zaprzestania naruszenia lub usunięcia jego skutków. Kanada Kanada jako jeden z pierwszych krajów OECD, w 2016 r. przyjęła regulacje adresujące część problematyki objętej zakresem Rozporządzenia 2024/1689. Dyrektywa w zakresie automatycznego podejmowania decyzji (Directive on automated decision making) to akt prawny w randze ustawy, w którym wprowadzone zostały mechanizmy oparte na ryzyku mające zapewnić przejrzystość, rozliczalność, legalność i uczciwość zautomatyzowanych decyzji mających wpływ na Kanadyjczyków. Dyrektywie towarzyszy załącznik – Algorytymiczna ocena wpływu (Algorithmic Impact Assessment) – wzór formularza, który obowiązkowo należy wypełnić w przypadku wdrożenia systemu sztucznej inteligencji w instytucjach federalnej służby publicznej. Dla zapewnienia spójności między systemem nadzoru oraz wspierania badań i innowacji, w 2019 r. utworzono instytucję - Radę Doradczą ds. Sztucznej Inteligencji (Advisory Council on AI), której zadaniem jest doradzanie rządowi Kanady w budowaniu przewag konkurencyjnych w nauce, technologii, a także światowym przywództwie w dziedzinie sztucznej inteligencji, identyfikowaniu możliwości stworzenia wzrostu gospodarczego oraz zapewnianiu, że postępy w zakresie sztucznej inteligencji odzwierciedlają wartości określone w kanadyjskim prawie. Kontynuując ten kierunek, Kanada w 2022 r. ogłosiła dokument pn. Karta Praw Cyfrowych (Karta Praw Cyfrowych), która zawiera propozycje działań prawnych i administracyjnych kompleksowo odnoszących się do zagrożeń dla praw obywateli i konsumentów związanych z rozwojem technologii cyfrowych. W 2022 r. rząd Kanady zaprezentował wpisujące się w ten program projekty trzech aktów prawnych pod wspólną nazwą Bill C-27. Jednym z nich jest Akt o sztucznej inteligencji i danych (Artificial Intelligence and Data Act), projekt ustawy, który zawiera m.in. propozycję powołania nowego organu ds. sztucznej inteligencji i ochrony danych (AI and Data Commissioner), przepisy karne za stosowanie systemów sztucznej inteligencji uznanych za szczególnie groźne, a także (oparty na metodologii Algorithmic Impact Assessment) zestaw przepisów proceduralnych określających obowiązki podmiotów wprowadzających na rynek oraz stosujących systemy sztucznej inteligencji. Projekt dotychczas nie został uchwalony i pozostaje w fazie prac legislacyjnych. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Obywatele W końcu 1 kwartału 2025 r. ludność Polski liczyła 37437 tys. osób Dane statystyczne Głównego Urzędu Statystycznego, 2025 r. https://ssgk.stat.gov.pl/Ludnosc. html Umożliwienie złożenia skargi do właściwych organów na naruszenia przepisów rozporządzenia 2024/1689. Urząd Ochrony Danych Osobowych 1 Informacja powszechnie dostępna Prezes Urzędu Ochrony Danych Osobowych będzie współpracował z Komisją w zakresie nadzoru nad systemami sztucznej inteligencji w zakresie określonym 11 przepisami rozporządzenia 2024/1689. Krajowa jednostka akredytująca Polskie Centrum Akredytacji (PCA) 1 Informacja powszechnie dostępna Realizacja zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przedsiębiorcy, w tym w szczególności przedsiębiorcy stosujący w działalności narzędzia sztucznej inteligencji ok. 5 202 000 (ogólna liczba przedsiębiorstw); wg szacunków (PIE, 2024) 6,6% polskich przedsiębiorstw (ogólna liczba przedsiębiorstw w gospodarce narodowej: 5,2 mln) deklaruje korzystanie z narzędzi sztucznej inteligencji, co przekłada się na szacunkową liczbę 330 tys. firm korzystających z tej technologii. Główny Urząd Statystyczny, 2024 r. Polski Instytut Ekonomiczny, 2024 r. Obowiązek spełnienia wymogów w postaci przestrzegania zakazów określonych w rozporządzeniu 2024/1689 dla poszczególnych typów podmiotów wykorzystujących narzędzia sztucznej inteligencji. Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689. Przedsiębiorcy sektora sztucznej inteligencji ok 1/3 firm ICT deklaruje, że w ich głównych produktach rozwiązania sztucznej inteligencji odgrywają kluczową rolę; zważywszy, że w 2022 wg GUS r. było zarejestrowanych 2712 firm prowadzących działalność w zakresie IT w 2022 r. (wg klasyfikacji PKD), daje to szacunkową liczbę ok. 900 firm sektora sztucznej inteligencji w Polsce. Główny Urząd Statystyczny, 2023 r. Fundacja Start Up Poland, 2024 r. Raport „Polskie Startupy, 2023 r.” Realizacja obowiązków wynikających z wprowadzenia listy zakazanych praktyk sztucznej inteligencji (zakaz wprowadzania do obrotu lub na rynek) oraz ograniczeń, które będą wynikać ze stosowania niektórych takich systemów w ramach dozwolonego użytku (obszary obronności, bezpieczeństwa narodowego oraz badań i nauki). Możliwość udziału w piaskownicach regulacyjnych w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 Rozporządzenia 2024/1689. Sąd okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów 1 Informacja powszechnie dostępna Rozpatrywanie spraw w ramach drogi odwoławczej od decyzji Komisji. Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Sąd apelacyjny w Warszawie, sądy okręgowe i rejonowe Stan na 30.06.2024 r.: - 11 sądów apelacyjnych, 47 sądów okręgowych i 319 sądów rejonowych Informacja ogólnodostępna Wzrost liczby spraw trafiających do sądów, wynikający z wdrożenia ustawy. Sąd Apelacyjny w Warszawie – rozpoznawanie apelacji i zażaleń z zakresu systemów sztucznej inteligencji Sądy powszechne – pion karny oraz jednostki prokuratury 318 sądów powszechnych w pionie karnym oraz 357 jednostek prokuratury w pionie karnym Informacja ogólnodostępna Wzrost liczby spraw, w których prowadzone lub nadzorowane będą postępowania karne w zakresie czynów karalnych określonych w ustawie. Sądownictwo wojskowe 12 Informacja ogólnodostępna Odziaływanie z zakresu prac Komisji. 12 Szkolenia merytoryczne kadry sądu. Zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. Organy administracji publicznej: 1) Prezes Urzędu Ochrony Konkurencji i Konsumentów; 2) Komisja Nadzoru Finansowego; 3) Krajowa Rada Radiofonii i Telewizji; 4) Prezes Urzędu Komunikacji Elektronicznej 4 Dane własne Udział w pracach Komisji jako jej członek. Jednostki samorządu terytorialnego 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Obowiązek spełnienia wymogów rozporządzenia 2024/1689 związanych z przestrzeganiem zakazu wprowadzania do użytku i używania systemów zakazanych. Urząd obsługujący ministra właściwego do spraw informatyzacji 1 Informacje powszechnie dostępne Zapewnienie obsługi organizacyjnej, kancelaryjnej i administracyjnej. Utworzenie właściwej komórki organizacyjnej. Minister właściwy do spraw informatyzacji 1 Informacje powszechnie dostępne Pełnienie funkcji organu notyfikującego, w tym: - współpraca z Polskim Centrum Akredytacji; - kontakty z organami notyfikującymi z innych państw oraz Komisją Europejską Określenie w drodze rozporządzenia wysokość opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej Wykonywanie zadań z art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji w zakresie najlepszych praktyk Udzielanie pomocy finansowej jednostkom podległym i nadzorowanym lub finansowanie w zakresie nadań naukowych i prac rozwojowych na podstawie art. 84. Policja Informacja powszechnie dostępna Udzielanie pomocy Komisji w przeprowadzaniu kontroli Naczelnicy Urzędów Skarbowych 366 Informacja Ministerstwa Finansów i Gospodarki Działanie z charakterze organu egzekucyjnego. Dyrektorzy izb administracji skarbowej 16 Informacja Ministerstwa Finansów i Gospodarki Działanie w charakterze organu nadzoru w związku z egzekucją 13 administracyjnych kar pieniężnych. 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Ministerstwo Cyfryzacji zmierzając do zapewnienia skutecznego stosowania rozporządzenia 2024/1689 podjęło szeroko zakrojone i transparentne prekonsultacje (od 2 kwietnia 2024 r. do 23 kwietnia 2024 r.) ze wszystkimi zainteresowanymi tą tematyką. Projekt ustawy został udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce „Rządowy Proces Legislacyjny” zgodnie z § 52 ust. 1 uchwały nr 190 uchwały Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Projekt ustawy w ramach konsultacji publicznych został przesłany w szczególności do następujących podmiotów: 1) Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, 2) Polska Izba Informatyki i Telekomunikacji, 3) Polska Izba Komunikacji Elektronicznej, 4) Krajowa Izba Gospodarczej, 5) Krajowa Izba Komunikacji Ethernetowej, 6) Polska Izba Radiodyfuzji Cyfrowej, 7) Polska Izba Handlu, 8) Izba Gospodarki Elektronicznej, 9) Krajowa Izba Gospodarki Cyfrowej, 10) Fundacja Bezpieczna Cyberprzestrzeń, 11) Polskie Towarzystwo Informatyczne, 12) Fundacja Nowoczesna Polska, 13) Fundacja Panoptykon, 14) Internet Society Poland, 15) Stowarzyszenie Inżynierów Telekomunikacji, 16) Fundacja Stefana Batorego, 17) Związek Pracodawców Mediów Publicznych, 18) Związek Pracodawców Mediów Elektronicznych Mediakom, 19) Związek Pracodawców Branży Internetowej IAB Polska, 20) Związek Telewizji Kablowych w Polsce Izba Gospodarcza, 21) Związek Rzemiosła Polskiego, 22) Polska Organizacja Handlu i Dystrybucji, 23) Naczelna Rada Zrzeszeń Handlu i Usług, 24) Polskie Stowarzyszenie Marketingu SMB, 25) Fundacja Moje Państwo, 26) Amerykańska Izba Handlowa w Polsce, 27) Federacja Konsumentów, 28) Związek Cyfrowa Polska, 29) Stowarzyszenie Praktyków Ochrony Danych Osobowych, 30) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 31) Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, 32) Federacja Przedsiębiorców Polskich, 33) Fundacja Open Allies, 34) Fundacja Instrat, 35) Fundacja Startup Poland, 36) Wikimedia Europe, 37) Fundacja Forum Konsumentów, 38) Stowarzyszenie Dziennikarzy i Wydawców Repropol, 39) Stowarzyszenie Sygnał, 40) Izba Wydawców Prasy, 41) Stowarzyszenie Autorów ZAiKS (ZAiKS), 42) Związek Autorów i Producentów Audiowizualnych (ZAPA), 43) Związek Polskich Autorów i Kompozytorów ZAKR, 44) Stowarzyszenie Kreatywna Polska (SKP), 45) Sieć Badawcza Łukasiewicz – PORT, 46) Stowarzyszenie Nowoczesnej Edukacji Prawnej, 47) CEE Digital Democracy Watch, 48) Fundacja AILAWTECH, 14 49) Sieć Obywatelska Watchdog Polska, 50) Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, 51) Polska Rada Biznesu, 52) Biblioteka Narodowa, 53) Brytyjsko-Polska Izba Handlowa, 54) Centrum Cyfrowe, 55) Francusko-Polska Izba Przemysłowo Handlowa, 56) INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, 57) Niemiecko-Polska Izba Przemysłowo-Handlowa, 58) Polska Akademia Nauk, 59) Polska Cyfrowa, 60) Związek Banków Polskich, 61) Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, 62) Kongres Polskiego Biznesu, 63) Naczelna Rada Zrzeszeń Handlu i Usług, 64) Naczelna Organizacja Techniczna, 65) Krajowa Izba Radców Prawnych, 66) Naczelna Rada Adwokacka, 67) Polski Funduszu Rozwoju S.A., 68) Bank Gospodarstwa Krajowego S.A., 69) Związek Rzemiosła Polskiego, 70) Polskie Towarzystwo Gospodarcze. Projekt ustawy został skierowany do opiniowania do następujących podmiotów: 1) Prezes Urzędu Komunikacji Elektronicznej, 2) Prezes Urzędu Ochrony Danych Osobowych, 3) Prezes Urzędu Ochrony Konkurencji i Konsumentów, 4) Krajowa Rada Radiofonii i Telewizji, 5) Komisja Nadzoru Finansowego, 6) Rzecznik Małych i Średnich Przedsiębiorców, 7) Rzecznik Praw Obywatelskich, 8) Rzecznik Praw Dziecka, 9) Polskie Centrum Akredytacji, 10) Polski Komitet Normalizacyjny, 11) Rzecznik Praw Pacjenta, 12) Rzecznik Finansowy, 13) Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 14) Główny Inspektor Pracy, 15) Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, 16) Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, 17) Prezes Prokuratorii Generalnej RP, 18) Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, 19) Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, 20) Krajowa Rady Sądownictwa, 21) Dyrektor Narodowego Centrum Badań i Rozwoju, 22) Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, 23) Dyrektor Polskiej Agencji Inwestycji i Handlu, 24) Prezes Polskiego Funduszu Rozwoju, 25) Dyrektor Narodowego Centrum Nauki, 26) Przewodniczący Zarządu Głównego Forum Związków Zawodowych, 27) Przewodniczący Komisji Krajowej NSZZ „Solidarność”, 28) Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, 29) Prezydent Konfederacji Lewiatan, 30) Prezydent Pracodawców RP, 31) Prezes Związku Pracodawców Business Centre Club, 32) Prezes Związku Przedsiębiorców i Pracodawców, 33) Prezes Związku Rzemiosła Polskiego, 34) Przewodniczący Federacji Przedsiębiorców Polskich, 35) Prezes Polskiego Towarzystwa Gospodarczego, 36) Federacja Związków Zawodowych Pracowników Telekomunikacji, 37) Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, 15 38) Stowarzyszenie Eksporterów Polskich, 39) Stowarzyszenie Konsumentów Polskich, 40) Związek Polskich Pracodawców Handlu i Usług, 41) Związek Firm Doradztwa Finansowego, 42) Związek Pracodawców Branży Internetowej IAB Polska, 43) Przewodniczący Forum Związków Zawodowych, 44) Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”, 45) Przewodnicząca Rady Dialogu Społecznego, 46) Przewodniczący Rady Działalności Pożytku Publicznego. W ramach I etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 16 października 2024 r. Termin na zgłaszanie uwag wynosił 30 dni. W ramach II etapu konsultacji publicznych, uzgodnień oraz opiniowania projekt został udostępniony 10 lutego 2025 r. Termin na zgłaszanie uwag wynosił 14 dni. W ramach opiniowania projekt ustawy został także przekazany Komisji Wspólnej Rządu i Samorządu Terytorialnego. 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 (2026) 1 2 3 4 5 6 7 8 9 10 Łącznie (0–10) Dochody ogółem 1,86 7,21 7,38 7,57 7,75 7,94 8,16 8,35 8,57 8,77 9,00 82,56* Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia budżet państwa 0,05 0,18 0,18 0,19 0,19 0,19 0,20 0,20 0,21 0,21 0,21 2,01 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia JST 0,26 1,00 1,02 1,05 1,07 1,10 1,13 1,16 1,19 1,22 1,25 11,45 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia FUS 1,17 4,56 4,67 4,79 4,91 5,03 5,16 5,28 5,42 5,55 5,70 52,24 NFZ 0,29 1,12 1,15 1,17 1,20 1,23 1,27 1,30 1,33 1,36 1,40 12,82 FP 0,04 0,14 0,15 0,15 0,16 0,16 0,16 0,17 0,17 0,18 0,18 1,46 FS 0,05 0,21 0,21 0,22 0,22 0,23 0,24 0,24 0,25 0,25 0,26 2,18 pozostałe jednostki (oddzielnie) 0 0 0 0 0 0 0 0 0 0 0 0 Wydatki ogółem 9,95 24,54 24,97 25,69 26,43 27,19 27,98 28,79 29,62 30,48 31,374 287,01 budżet państwa 9,30 23,74 24,17 24,89 25,63 26,39 27,18 27,99 28,82 29,68 30,57 278,36 JST 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 0,2 2,2 * Dane szacunkowe, jednoznaczne dane nie są możliwe do ustalenia pozostałe jednostki (oddzielnie) 0,45 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 0,6 6,45 Saldo ogółem -8,09 -17,33 -17,59 -18,12 -18,68 -19,25 -19,82 -20,44 -21,05 -21,71 -22,37 -204,45 budżet państwa -9,25 -23,56 -23,99 -24,70 -25,44 -26,20 -26,98 -27,79 -28,61 -29,47 -30,36 -276,35 JST 0,06 0,80 0,82 0,85 0,87 0,90 0,93 0,96 0,99 1,02 1,05 9,25 pozostałe jednostki (oddzielnie) -0,45 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -0,6 -6,45 Źródła finansowania Źródłem finansowania dla wydatków związanych z powołaniem nowego organu (Komisji) będzie budżet państwa. Wydatki związane utworzeniem i funkcjonowaniem Komisji w 2026 r. będą pokryte z rezerwy celowej, która za pismem Ministerstwa Finansów z 6 października 2025 r., sygn. PR2.021.403.2024, „zgodnie z wystąpieniem Ministra Cyfryzacji w sprawie dodatkowych potrzeb wynosi 20 250 000 złotych” i znajduje się w części 83 budżetu państwa. Koszty związane z jej funkcjonowaniem w latach kolejnych (2027–2035) pokrywane będą z części 27 – Informatyzacja. Oszacowane skutki finansowe związane z wejściem w życie projektowanej ustawy muszą zostać zabezpieczone w ustawie budżetowej na rok 2027 i lata następne. Mając na uwadze zatrudnienie 16 pracowników urzędu obsługującego ministra właściwego do spaw informatyzacji na zasadach określonych w ustawie o służbie cywilnej, niezbędne jest też dodatkowe coroczne uwzględnienie zmiany kwoty bazowej w ramach skutków finansowych wejścia w życie projektu ustawy. Źródłem finansowania dla wydatków związanych oddziaływaniem ustawy na Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów będzie budżet części 15 – Sądy powszechne. Skutki proponowanych rozwiązań w części 15 – Sądy powszechne będą możliwe do poniesienia w ramach dotychczas posiadanych środków budżetowych w roku wejścia w życie ustawy i nie będą podstawą do planowania i ubiegania się o dodatkowe środki z budżetu państwa w roku wejścia w życie ustawy. Po pierwszych latach funkcjonowania przepisów ustawy Ministerstwo Sprawiedliwości dokona rewizji skutków finansowych w ramach prac nad ustawą budżetową w oparciu o rzeczywiste obciążenie etatowe dla sądów i SOKIK Pomoc finansowa udzielana przez ministra właściwego do spraw informatyzacji w oparciu o art. 99 ustawy będzie każdorazowo finansowana w ramach limitu wydatków części 27 – Informatyzacja i nie będzie stanowić podstawy do ubiegania się o dodatkowe środki z budżetu państwa na ten cel w okresie obowiązywania ustawy. Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych. Przyjęcie projektu nie będzie podstawą do planowania i ubiegania się o dodatkowe środki finansowe dla części 10 – Urząd Ochrony Danych Osobowych (w tym na nowe etaty). Kwoty dochodów budżetu państwa oszacowano proporcjonalnie do kwot dochodów JST wykazanych w tabeli powyżej, zgodnie z zasadą podziału wpływów z PIT pomiędzy JST i budżet państwa w proporcjach 85% : 15%. Zastosowano wzór: Dochody budżetu państwa = (15/85) × Dochody JST * Ustalenie szacunkowej wysokości nałożonych kar z tytułu naruszenia przepisów rozporządzenia 2024/1968, które będą stanowić przychód budżetu państwa w ujęciu rocznym nie jest możliwe w oparciu o obecny stan wiedzy. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Utworzenie i funkcjonowanie nowego organu nadzoru rynku Skutki finansowe niniejszej ustawy związane z utworzeniem organu nadzoru rynku AI i zapewnieniem realizacji jego zadań zostały wyliczone przy założeniu, że powstanie nowy krajowy organ nadzoru pełniący jednocześnie funkcję punktu kontaktowego. Organ będzie miał charakter kolegialny. Obsługę administracjo-kancelaryjną organu będzie zapewniał urząd obsługujący ministra właściwego do spraw informatyzacji w zakresie posiadanych zasobów kadrowych. W celu zapewnienia realizacji zadań Komisji i Przewodniczego Komisji będą oni mogli upoważnić pracowników ww. urzędu do załatwiania niektórych spraw w ich imieniu. W tym celu planowane jest utworzenie właściwej komórki organizacyjnej w urzędzie i zasilenie jej docelowo 70 nowymi etatami merytorycznymi. Szacowana liczba etatów wynika z potrzeby zabezpieczenia realizacji zadań tego podmiotu określonych w ustawie i rozporządzeniu 2024/1689. Szacunkowo przyjęto założenie, że w roku 2026 zatrudnienie nowych pracowników merytorycznych wyniesie 30 osób, a w następnych latach do 70 etatów merytorycznych nie wliczając w to Przewodniczącego Komisji oraz dwóch zastępców Przewodniczego Komisji. Do nowych pracowników zastosowanie znajdą przepisy ustawy o służbie cywilnej oraz ustawy –Kodeks pracy. Środki na wynagrodzenia i funkcjonowanie Komisji będą uruchamiane adekwatnie do upływu czasu i faktycznego zatrudnienia w roku wejścia w życie ustawy i w każdym następnym roku do daty uzyskania pełnej funkcjonalności Koszty w roku 2026 wynoszą 9 301 554,00 zł i obejmują: a) wydatki jednorazowe: – zakup 50 laptopów z dodatkowymi monitorami oraz stacjami dokującymi, akcesoriami i systemami informatycznymi, telefony dla nowo zatrudnionych pracowników – 460 000,00 zł, – zakup mebli i wyposażenia – 400 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej (czerwiec-grudzień) – 787 500,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego dwóch zastępców (kwiecień- grudzień) –562 868,46 zł d) wydatki na wynagrodzenia dla 30 etatów (czerwiec-grudzień) – 3 150 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%, czerwiec-grudzień) – 693 935,12 zł, f) Pracownicze Plany Kapitałowe (czerwiec-grudzień) – 47 250,00 zł, 17 g) wydatki bieżące – 3 200 000,00 zł, Koszty w roku 2027 wynoszą 23 743 043,10 zł i obejmują: a) wydatki jednorazowe – zakup 40 laptopów z dodatkowymi monitorami oraz stacjami dokującymi i akcesoriami, telefony dla nowo zatrudnionych pracowników – 360 000,00 zł, – zakup mebli i wyposażenia – 250 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 750 491,28 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 650 000,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 691 451,82 zł, f) Pracownicze Plany Kapitałowe – 191 100,00 zł, g) wydatki bieżące – 4 500 000,00 zł. Koszty roczne w latach 2028 i kolejnych wynoszą 24 165 119,18 zł i obejmują: (waloryzacja kwoty na lata kolejne została ujęta w tabeli przy założeni CPI: 102,5%) a) wydatki na odnowienie zasobów majątkowych – 100 000,00 zł, b) wydatki związane z wynajęciem powierzchni biurowej – 1 350 000,00 zł, c) wydatki na wynagrodzenie Przewodniczącego Komisji i jego zastępców – 769 253,56 zł, d) wydatki na wynagrodzenia i dodatkową nagrodę roczną dla 70 etatów – 13 991 250,00 zł, e) pochodne planistyczne od wynagrodzeń (18,69%) – 2 758 738,12 zł, f) Pracownicze Plany Kapitałowe – 195 877,50 zł, g) wydatki bieżące – 5 000 000,00 zł. Całkowity koszt funkcjonowania Komisji w roku 2026, stanowiącym rok zerowy, oraz w kolejnych dziesięciu latach został oszacowany na 278,36 mln zł. Konstrukcja budżetu obejmuje zarówno koszty bieżące, inwestycyjne, jak i osobowe, przy czym w kosztach bieżących ujęto również wydatki związane z wykonywaniem zadań Komisji, w tym czynności o charakterze kontrolnym, analitycznym oraz regulacyjnym, wynikających z przepisów rozporządzenia 2024/1689 oraz projektowanej ustawy. Wynagrodzenia dla Przewodniczącego oraz Zastępców Przewodniczącego Komisji zostały określone w przepisach ustawy poprzez odniesienie do mnożnika kwoty bazowej właściwej dla członków korpusu służby cywilnej. Mnożnik ten wynosi 8 w przypadku Przewodniczącego oraz 7 w przypadku Zastępców Przewodniczącego, natomiast wynagrodzenia te nie stanowią dodatkowego obciążenia dla budżetu Komisji, gdyż są ponoszone w ramach budżetów organów delegujących swoich przedstawicieli. Z uwagi na pionierski charakter regulacji oraz brak danych historycznych w obszarze nadzoru nad systemami sztucznej inteligencji, przedstawione oszacowania mają charakter najlepszego dostępnego przybliżenia, opartego na analizie specjalistycznej próby podmiotów oraz międzynarodowych trendów regulacyjnych. Dochody sektora finansów publicznych zostały oszacowane na podstawie obowiązujących stawek składek na ubezpieczenia społeczne i zdrowotne oraz udziałów w podatku PIT. Kalkulacja uwzględnia wynagrodzenia pracowników Komisji przy założeniu przeciętnego wynagrodzenia brutto na poziomie 15 000 zł miesięcznie oraz etapowego zatrudnienia (30 etatów w 2026 r., 70 etatów od 2027 r.). Dochody obejmują wpływy do Funduszu Ubezpieczeń Społecznych, Narodowego Funduszu Zdrowia, Funduszu Pracy oraz Funduszu Solidarnościowego wynikające z obowiązkowych składek od wynagrodzeń. Zadania Komisji charakteryzują się zmiennym poziomem złożoności i nieprzewidywalnością wolumenu wpływu, wynikającymi z narastającego w czasie wykorzystania systemów sztucznej inteligencji oraz procesów wdrażania AI Act. Komisja musi być przygotowana na obsługę zarówno niewielkiej liczby wniosków w pierwszych miesiącach funkcjonowania ustawy, jak i stopniowego, wykładniczego wzrostu zapotrzebowania na opinie, kontrole i postępowania administracyjne. Z tego względu szacunki pracochłonności mają charakter wariantowy i uwzględniają zarówno scenariusz bazowy, jak i scenariusz wzrostu rynku. W odniesieniu do pracowników urzędu obsługującego ministra właściwego do spraw informatyzacji przyjęto średnie miesięczne wynagrodzenie na poziomie 15 000 zł brutto. Wartość ta została ustalona na podstawie danych zawartych w sprawozdaniu Szefa Służby Cywilnej za 2024 r., z uwzględnieniem 18 kategorii stanowisk odpowiadających wysokiemu stopniowi specjalizacji technicznej, analitycznej oraz regulacyjnej, niezbędnej do wykonywania zadań Komisji. Kwotę skorygowano zgodnie ze średnioroczną dynamiką cen towarów i usług konsumpcyjnych według wytycznych Ministra Finansów dla roku 2026. Koszty wynagrodzeń w kolejnych latach zostały zwaloryzowane zgodnie z tymi wskaźnikami, przy uwzględnieniu wynagrodzenia dodatkowego przysługującego pracownikom służby cywilnej. Z uwagi na silną konkurencję na rynku pracy w obszarze AI, cyberbezpieczeństwa oraz analityki danych, poziom wynagrodzeń musi umożliwiać rekrutację ekspertów zdolnych do realizacji zadań o wysokim stopniu specjalizacji. Dane rynkowe oraz doświadczenia administracji publicznej wskazują na rosnącą trudność pozyskania specjalistów w tych obszarach, co wymaga ukształtowania wynagrodzeń na poziomie odpowiadającym stawkom rynkowym i zapewniającym stabilność zatrudnienia. W kalkulacji ujęto również zakup 90 zestawów komputerowych, obejmujących laptopy, monitory oraz akcesoria, zapewniających odpowiednie wyposażenie zarówno dla pracowników merytorycznych (70 etatów docelowych), jak i pracowników wsparcia administracyjno-technicznego, funkcjonujących w ramach urzędu obsługującego ministra. Wyposażenie to stanowi także zapas sprzętowy wykorzystywany podczas działań wspierających, w tym w szczególności w piaskownicach regulacyjnych i innych działaniach wymagających bezpiecznego przetwarzania danych. Uwzględniono również koszty związane z Pracowniczymi Planami Kapitałowymi, przy założeniu, że uczestnictwo w programie obejmie około 70% pracowników wykonujących zadania Komisji, a składka pracodawcy wyniesie 2%. Jednocześnie oszacowany dochód Funduszu Pracy wynika z obowiązkowej składki w wysokości 1%, zgodnie z art. 25 ustawy budżetowej na rok 2026. Założenia budżetowe dla nowej instytucji oparte zostały na analizie kosztów działalności istniejących organów nadzorczych i regulacyjnych w obszarze cyfrowym, w szczególności w zakresie ochrony danych osobowych, cyberbezpieczeństwa oraz nadzoru nad algorytmami. Przyjęto, że koszty te stanowią adekwatny punkt odniesienia ze względu na podobny poziom specjalizacji, charakter zadań oraz wymagania techniczno-organizacyjne. Liczba etatów niezbędnych do zapewnienia realizacji zadań Komisji została określona w oparciu o analizę katalogu obowiązków nałożonych zarówno rozporządzeniem 2024/1689, jak i przepisami krajowymi. Zadania te obejmują w szczególności: nadzór nad systemami sztucznej inteligencji – zwłaszcza systemami wysokiego ryzyka; pełnienie funkcji pojedynczego punktu kontaktowego w rozumieniu art. 70 ust. 2 rozporządzenia; współpracę z organami i instytucjami Unii Europejskiej; prowadzenie działań monitorujących, edukacyjnych oraz komunikacyjnych; a także obsługę piaskownic regulacyjnych. Zadania te mają charakter wielodyscyplinarny, często wymagający jednoczesnego zaangażowania ekspertów z różnych obszarów, w tym prawa, inżynierii oprogramowania, analityki danych, zarządzania ryzykiem i cyberbezpieczeństwa. W celu oszacowania pracochłonności poszczególnych zadań zastosowano podejście wariantowe, właściwe dla pomiaru kosztów regulacyjnych. Polega ono na identyfikacji strumieni pracy, określeniu typowych czynności oraz przyjęciu założeń co do wolumenu i złożoności spraw w pierwszych latach funkcjonowania organu. W ramach analizy wyróżniono następujące główne strumienie pracy: sprawy interpretacyjne i informacyjne (w tym przygotowywanie opinii indywidualnych, wyjaśnień, materiałów informacyjnych oraz czynności związane z anonimizacją); nadzór rynku i kontrole; postępowania administracyjne, w tym środki naprawcze oraz nakładanie administracyjnych kar pieniężnych; monitoring rynku oraz analitykę ryzyka; inicjowanie i prowadzenie piaskownic regulacyjnych; współpracę krajową i międzynarodową; oraz zadania sprawozdawcze, obejmujące w szczególności obowiązki wobec Komisji Europejskiej i grup ekspertów unijnych. Prognozuje się, że roczny wolumen spraw kierowanych do Komisji będzie obejmował łącznie około 630–865 spraw, w zależności od dynamiki rozwoju rynku oraz zakresu wykorzystywania systemów sztucznej inteligencji. Wstępna analiza wskazuje, że obsługa spraw interpretacyjnych wymaga przeciętnie od kilku do kilkunastu godzin pracy, natomiast zadania kontrolne, ocena zgodności systemów wysokiego ryzyka oraz postępowania administracyjne wymagają znacznie większego nakładu pracy, często przekraczającego kilkadziesiąt roboczogodzin per sprawa, przy konieczności jednoczesnego zaangażowania kilku specjalistów. Ponadto zadania związane ze współpracą z 19 organami unijnymi oraz sprawozdawczością mają charakter stały i wymagają rocznie kilkuset godzin pracy. Na podstawie powyższych założeń roczny nakład pracy niezbędny do realizacji wszystkich zadań został oszacowany na około 34 000–42 000 roboczogodzin. Przy efektywnym rocznym wymiarze czasu pracy jednego etatu wynoszącym około 1 600 roboczogodzin, minimalne zapotrzebowanie kadrowe wynosi około 21–26 etatów. Jednakże, z uwagi na złożoność zadań, konieczność pracy zespołowej, zastępowalności pracowników, obowiązków stałych wynikających z unijnych mechanizmów nadzorczych oraz wysokie wymagania kompetencyjne, zasadne jest przyjęcie wyższej liczby etatów. W związku z powyższym przyjęto etapowanie zatrudnienia, zakładające 30 etatów w roku 2026, który obejmuje uruchomienie organu, przygotowanie procedur, wdrożenie narzędzi informatycznych oraz rozpoczęcie działań merytorycznych. Od dnia 1 stycznia 2027 r. przewidziano osiągnięcie docelowego poziomu 70 etatów merytorycznych. Poziom ten umożliwi wykonywanie wszystkich zadań nałożonych przepisami prawa, w tym realizację kontroli, prowadzenie postępowań administracyjnych, analiz ryzyka oraz funkcjonowanie piaskownic regulacyjnych. Zasadność zwiększenia zatrudnienia z 30 etatów w roku 2026 do 70 etatów od 2027 r. wynika przede wszystkim z prognozowanego, wykładniczego przyrostu liczby podmiotów korzystających z systemów sztucznej inteligencji oraz szybko rosnącej grupy firm deklarujących zamiar wdrożenia rozwiązań AI. Dane z przeprowadzonego wewnętrznie badania ilościowego (N=229, badanie dot. zapotrzebowania na piaskownice regulacyjne przeprowadzone w dn. 2.02.2026 – 16.02.2026) wskazują, że już obecnie 214 firm (93,4%) korzysta z AI, natomiast 132 podmioty (57,6%) samodzielnie wytwarzają rozwiązania AI, przy czym kolejne przedsiębiorstwa deklarują wejście na rynek w perspektywie najbliższych lat. Jednocześnie wysoki odsetek firm na wczesnych etapach rozwoju technologicznego — obejmujący prace koncepcyjne, pilotaże i prototypowanie — świadczy o tym, że w nadchodzących latach znaczna część z nich wkroczy w fazę wdrożeniową, co nieuchronnie zwiększy liczbę spraw wymagających wsparcia interpretacyjnego, nadzorczego oraz kontrolnego ze strony Komisji. W warunkach dynamicznego rozwoju rynku sztucznej inteligencji należy przyjąć, że przyrost firm generujących zapotrzebowanie na działania organu nie będzie miał charakteru liniowego. Z uwagi na charakter technologii, efekty sieciowe, szybko rosnący popyt na rozwiązania generatywne oraz skalę komercjalizacji systemów uczenia maszynowego, liczba podmiotów wytwarzających lub wdrażających AI rośnie wykładniczo, czego potwierdzeniem są m.in. dane o wysokim tempie adopcji nowych modeli AI oraz systematyczne zwiększanie się liczby sektorów wykorzystujących te technologie. Wyniki badania, obejmujące firmy o najbardziej zaawansowanych profilach technologicznych na rynku, stanowią w tym kontekście próbę wyprzedzającą, wskazującą kierunek rozwoju całej populacji przedsiębiorstw. Oznacza to, że liczba podmiotów, które w 2026 r. wystąpią do Komisji z wnioskami o opinie, zgłoszeniami naruszeń, sprawami dotyczącymi kwalifikacji systemów lub wnioskami o udział w piaskownicach regulacyjnych, będzie w 2027 r. i latach kolejnych istotnie wyższa, a skala tego wzrostu będzie narastała w miarę dojrzewania rynku. W tych warunkach poziom zatrudnienia ograniczony do 30 etatów pozwoli jedynie na uruchomienie organu oraz obsługę wstępnego wolumenu spraw, natomiast nie zapewni zdolności operacyjnej do obsługi rosnącego strumienia zadań wynikających z rozporządzenia 2024/1689. Dopiero zwiększenie zatrudnienia do 70 etatów od 2027 r. gwarantuje możliwość realizacji pełnego katalogu obowiązków nadzorczych, w tym pracy zespołowej wymaganej w czynnościach kontrolnych i postępowaniach administracyjnych oraz odpowiedniej obsługi rosnącej liczby podmiotów na rynku sztucznej inteligencji, którego rozwój ma charakter wykładniczy, a nie liniowy. Zadanie Prognozowana liczba spraw / rok Szacunkowy czas realizacji jednej sprawy Łączna pracochłonność roczna (roboczogodziny) Opinie indywidualne, wyjaśnienia i sprawy interpretacyjne 350–450 6–10 h 2 100 – 4 500 Zgłoszenia naruszeń i sygnały dot. niezgodności 120–180 10–15 h 1 200 – 2 700 Analiza ryzyka i monitoring rynku AI 80–120 10–15 h 800 – 1 800 20 Czynności kontrolne 50–70 25–40 h 1 250 – 2 800 Postępowania administracyjne 20–30 60–90 h 1 200 – 2 700 Obsługa piaskownic regulacyjnych 10–15 30–50 h 300 – 750 Współpraca unijna i sprawozdawczość zadania stałe 500–700 h (w ramach etatów) 500 – 700 Pozostałe zadania przekrojowe Zmienne 900–1 200 h 900 – 1 200 Tabela 1. Zestawienie głównych strumieni pracy Komisji, prognozowanej liczby spraw oraz szacunkowego czasu ich realizacji W modelu organizacyjnym uwzględniono stosowanie rozwiązań cyfrowych i automatyzacji procesów, zgodnie z zasadą celowości i oszczędności wydatków publicznych (art. 44 ust. 3 ustawy o finansach publicznych). W szczególności zakłada się wykorzystanie systemów zarządzania sprawami, standaryzacji dokumentów i obiegu informacji, narzędzi do wstępnej selekcji i priorytetyzacji wpływów, wsparcia monitoringu rynku i analityki ryzyka oraz narzędzi wspomagających anonimizację i publikację materiałów. Rozwiązania te umożliwią racjonalizację nakładu pracy przy zachowaniu wysokich standardów ochrony danych i niezależności procesu decyzyjnego. Należy jednocześnie podkreślić, że skuteczne wykonywanie zadań Komisji wymaga zatrudnienia wysoko wykwalifikowanych ekspertów posiadających nie tylko wiedzę techniczną w zakresie systemów sztucznej inteligencji, lecz także kompetencje analityczne, komunikacyjne, projektowe oraz biegłą znajomość języka angielskiego. Ze względu na intensywną konkurencję na rynku pracy w obszarze nowych technologii i cyberbezpieczeństwa, jak również trudności w rekrutacji i utrzymaniu specjalistów, uzasadnione jest umożliwienie zatrudnienia na podstawie przepisów Kodeksu pracy, zapewniając odpowiedni poziom elastyczności organizacyjnej. Wreszcie, wprowadzenie opłaty za wniosek o wydanie opinii indywidualnej w wysokości 150 zł stanowi źródło dochodu sektora finansów publicznych oraz instrument racjonalizujący zapotrzebowanie na opinie. Z uwagi na brak danych historycznych przyjęto wariantowe oszacowanie liczby wniosków — w wariancie bazowym około 800 rocznie — przy czym wartości te zostaną zweryfikowane po pierwszym pełnym roku funkcjonowania systemu. Pracochłonność zadań Komisji będzie zależna od szeregu zmiennych, w szczególności: stopnia dojrzałości technologicznej rynku, liczby systemów zaklasyfikowanych jako wysokiego ryzyka, poziomu świadomości regulacyjnej wśród przedsiębiorców, dynamiki przyrostu nowych modeli generatywnych i ich wersji, a także decyzji organów unijnych dotyczących interpretacji przepisów AI Act. Prognozuje się, że w pierwszych latach funkcjonowania ustawy poziom zapotrzebowania na działania interpretacyjne i doradcze będzie rosnąć szybciej niż liczba postępowań egzekucyjnych; po osiągnięciu dojrzałości regulacji trend ten może ulec odwróceniu. Brak zapewnienia odpowiednich zasobów kadrowych i technicznych mógłby skutkować opóźnieniami w rozpatrywaniu wniosków, ograniczeniem zdolności do prowadzenia kontroli systemów wysokiego ryzyka, niewywiązywaniem się z obowiązków sprawozdawczych wobec Komisji Europejskiej oraz ryzykiem naruszenia art. 70 ust. 3 rozporządzenia 2024/1689, który nakłada na państwa członkowskie obowiązek zapewnienia organom odpowiednich zasobów, w tym technicznych i ludzkich. Niewystarczające zasoby w pierwszych latach obowiązywania ustawy mogłyby również negatywnie wpłynąć na tempo rozwoju sektora AI w Polsce i ograniczyć konkurencyjność przedsiębiorstw wdrażających AI. PCA Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2026 r. Projekt ustawy o systemach sztucznej inteligencji zakłada, że Polskie Centrum Akredytacji jest zobowiązane do akredytacji jednostek oceniających zgodność na potrzeby ustawy oraz rozporządzenia 2024/1689. Dodatkowo Polskie Centrum Akredytacji jest zobowiązane we współpracy z ministrem właściwym do spraw informatyzacji, do opracowania szczegółowego programu akredytacji jednostek oceniających zgodność oraz do dokonywania aktualizacji tego programu, co 24 miesiące, 21 uwzględniając wnioski z jego bieżącej realizacji. Projekt zakłada również wprowadzenie obowiązków sprawozdawczych zgodnie, z którymi PCA przekazuje ministrowi właściwemu do spraw do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zgodnie z projektem do akredytacji stosuje się odpowiednio przepisy rozdziału 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Ustawa ta odwołuje się do przepisów rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 765/2008 z dnia 9 lipca 2008 r. ustanawiającym wymagania w zakresie akredytacji i nadzoru rynku odnoszącym się do warunków wprowadzania produktów do obrotu i uchylającym rozporządzenie (EWG) nr 339/93, zgodnie z którymi Polskie Centrum Akredytacji zostało wskazane jako jedyna krajowa jednostka akredytująca. Przyjęte dyspozycje zobowiązują zatem PCA do opracowania i utrzymywania dedykowanego przedmiotowym przepisom prawa programu akredytacji, uruchomienie akredytacji wg opracowanego programu, w tym przeprowadzanie procesów akredytacji oraz nadzoru nad udzielonymi akredytacjami zgodnie z przepisami rozporządzenia 765/2008 oraz przepisami o systemach oceny zgodności i nadzoru rynku. Zastosowanie mają w tym przypadku tu wszystkie horyzontalne dokumenty PCA (np. DA-01 „Opis systemu akredytacji”, DA-08 „Prawa i obowiązki akredytowanego podmiotu”, DA-09 Zakres działalności akredytacyjnej PCA, DA-10 „Akredytacja w zakresach elastycznych” itp.) oraz dokumenty odnoszące się do danego typu jednostek oceniających zgodność, związane z rozszerzeniem działalności akredytacyjnej PCA o nowy obszar oceny zgodności przewidziany w przedmiotowym przepisie prawa. W przypadku ustawy o systemach sztucznej inteligencji UC71 przyjęte rozwiązanie zakłada również notyfikację akredytowanej jednostki oceniającej zgodność przez ministra właściwego ds. informatyki. W konsekwencji w procesie akredytacji i w procesach nadzoru nad udzieloną akredytacją zastosowanie mają zasady określone w dokumencie DA-11 „Akredytacja jednostek oceniających zgodność do celów notyfikacji”, co dodatkowo rozszerza zakres realizowanych przez PCA ocen i skomplikowanie nadzoru nad udzielonymi akredytacjami. Ponadto akredytacja do celów notyfikacji zobowiązuje PCA do udziału w pracach właściwych grup dla „notifying authorities” łącznie z reprezentantami organów notyfikujących i zainteresowanych stron. W konsekwencji powyższego, dla realizacji zadań określonych w przedmiotowym przepisie prawa PCA musi dysponować odpowiednimi – poszerzonymi kompetencjami i poszerzonymi zasobami personelu. Kompetencje te będą obejmować znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją w specyficznym obszarze regulowanym przepisami oraz wiedzę z zakresu projektowanej regulacji prawnej. Kompetencje te muszą być pozyskane przez PCA w ramach poszerzenia zasobów osobowych do realizacji procesów akredytacji i nadzoru, o ekspertów z wysokim poziomem kompetencji, z unikalnego nowego obszaru technicznego rozwijającego się obecnie w sposób niezwykle dynamiczny, a tym samym wymagającego znacznych inwestycji finansowych dla pozyskania ekspertów. Powierzenie nowych obowiązków obecnym pracownikom PCA nie jest możliwe z punktu widzenia merytorycznego i ograniczonych możliwości produkcyjnych posiadanych zasobów. Aktualnie PCA nie zatrudnia ekspertów z zakresu AI i rozporządzenia 2024/1689 nie dysponuje wystarczającą wiedzą w tym zakresie. Ponadto, aktualny stan zatrudnienia PCA uniemożliwia nałożenie na obecnych pracowników wszystkich dodatkowych zadań wynikających z rozszerzenia działalności akredytacyjnej PCA w zakresie obszaru oceny zgodności określonej w przepisie. Osoby te musza dysponować wiedzą zarówno w odniesieniu do przepisów AI jak i w odniesieniu do rozwiązań odnoszących się do akredytacji i realizować nowe zadania w poniższych głównych kierunkach wymagających rozdzielności stanowiskowej: a) w zakresie programu akredytacji będą zobowiązane do opracowania treści postanowień programu w korelacji z międzynarodowymi normami zharmonizowanymi i procedurami operacyjnymi PCA, uzgodnienia treści programu z regulatorem i zainteresowanymi stronami i przeprowadzenia procedury zatwierdzenia programu do stosowania, wdrożenie programu do działalności PCA (operacyjnie i merytorycznie) w celu rozszerzenia działalności akredytacyjne. Po rozszerzeniu działalności akredytacyjnej będą zobowiązane monitorować aktualność programu i zapewnić (w trybie jak powyżej) ciągłą przydatność programu do zamierzonego zastosowania; b) w zakresie procesu akredytacji będą zobowiązane do weryfikacji wniosku o akredytacje, wstępnego przygotowania oceny akredytacyjnej, uzgodnienie zakresu oceny, komunikacji z 22 jednostką oceniającą zgodność oraz zespołem oceniającym, podjęciem odpowiednich działań w systemie e-Akredytacja, brania udziału w ocenie jako audytorzy wiodący i bezpośrednio nadzorować ocenę (tu dodatkowo wymagana jest znajomość norm akredytacyjnych np. PN/ EN ISO 17065), po ocenie biorą udział w przygotowywaniu i zatwierdzaniu raportu oraz w działaniach związanych z obsługą kart niezgodności, przygotowują dokumenty w procesie decyzyjnym oraz biorą udział w procesie decyzyjnym. Jednocześnie wszystkie te czynności wykonywane są zgodnie z przepisami rozporządzenia nr 765/2008, ustawy o systemach oceny zgodności i nadzoru rynku oraz normy ISO/IEC 17011 co prowadzi np. do konieczności rozdzielenia osobowego w procesie realizacji oceny od podejmowania decyzji na bazie wyników tej oceny. c) w zakresie procesu nadzoru nad udzieloną akredytacją będą zobowiązane do opracowania programu nadzoru a następnie organizacji ocen w nadzorze oraz obserwacji działania jednostek oceniających zgodność. w rzeczywistości. Proces organizacji ocen w nadzorze jest analogiczny do ocen akredytacyjnych. Reasumując, wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci zobligowania PCA do realizacji zadań związanych z akredytacją w nowym obszarze oceny zgodności, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Przyjęcie przez PCA powyższych zadań związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań:  opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji  szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu,  komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji,  organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689,  monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Planowane zwiększenie funduszu osobnego PCA nie oznacza automatycznego wykorzystania funduszu w tej wysokości. Zgodnie z ustawą z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową, a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa i zgodnie z ww. ustawą prowadzi samodzielną gospodarkę finansową, która jest działalnością nienastawioną na zysk. W konsekwencji poziom wykorzystania limitu 0,6 mln zł uzależniony jest od zapotrzebowania na wykonanie określonych, ww. zadań. Przy czym, poziom realizację nowych zadań na poziomie PCA, a tym samym zapotrzebowanie na wykorzystanie zaplanowanego przez PCA funduszu na poziomie jak wyżej, będzie zależał zarówno od złożoności działań, które należy wykonać w procesie akredytacji i nadzoru nad udzieloną akredytacją jak i liczby jednostek oceniających zgodność ubiegających i posiadających taką akredytację. Liczba akredytowanych jednostek oceniających zgodność zależy od zainteresowania certyfikacją w danym obszarze. W przedmiotowym przypadku mamy do czynienia z rozwijającym się dynamicznie rynkiem sztucznej inteligencji i obowiązkową oceną zgodności systemów AI wysokiego ryzyka. Mając na uwadze powyższe, należy oczekiwać szybko rosnącego poziomu zainteresowania tym tematem i przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację i posiadających akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do nowego, innowacyjnego i bardzo szybko rozwijającego się sektora gospodarki. W obszarze tym nie ma „utartych” rozwiązań, ugruntowanego orzecznictwa i pojawiające się sprawy zawsze będą sprawami „nowymi”. W takich sektorach rozwiązania prawne są zazwyczaj przygotowywane w pewnym opóźnieniu do faktycznego rozwoju rynku. Można zatem oczekiwać zarówno dużej liczby spraw spornych, wątpliwych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością uwzględnienia ocenianej specyfiki. Niezbędne będzie zwiększenie wydatków na fundusz osobowy PCA o w 2026 r. o 0,45 mln, a od 2027 r. 0,6 mln zł. rocznie i utrzymanie tego stanu na lata kolejne. PCA jest jednostką samofinansującą się, której głównym celem jest pokrycie wszystkich kosztów, łącznie z wynagrodzeniami, z uzyskanych przychodów. PCA nie otrzymuje środków z budżetu państwa. 23 Reasumując wykonanie wnioskowanej zmiany funduszu osobowego nie jest automatyczne i będzie możliwe wyłącznie w przypadku, gdy PCA będzie dysponować przychodami pozwalającymi na wprowadzenie przedmiotowego zwiększenia. W ramach ww. zwiększenia planowane jest zatrudnienie dwóch osób oraz dodatki zadaniowe dla osób wykonujących zadania w przedmiotowym zakresie. Ostateczny podział dostępnych środków pomiędzy wynagrodzenie a dodatki zadaniowe zależy od kwalifikacji zatrudnionej osoby i liczby oraz poziomu skomplikowania występujących prac. Wejście w życie przepisów projektu ustawy będzie rodziło skutek w postaci przekazania PCA realizacji zadań związanych z akredytacją, o których mowa w art. 28 ust. 2 rozporządzenia 2024/1689. Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym z koniecznością realizacji nowych zadań w tym obszarze: − opracowania i uzgodnienia z zainteresowanymi stronami programu akredytacji związanego z rozszerzeniem działalności akredytacyjnej, co wymaga zarówno bardzo dobrej znajomości rozwiązań dotyczących AI, rozporządzenia 2024/1689 jak i rozwiązań dotyczących systemu akredytacji − szkolenia audytorów PCA oraz spotkań informacyjnych z jednostkami oceniającymi zgodność, kandydującymi w przedmiocie akredytacji do celów projektowanego przepisu, − komunikacji z regulatorem i zainteresowanymi stronami w temacie przedmiotowego programu akredytacji, − organizacji procesów akredytacji jednostek ubiegających się o akredytację do celów uprawnienia do certyfikacji AI w ramach rozporządzenia 2024/1689, − monitorowanie i doskonalenie działalności akredytacyjnej w przedmiotowym obszarze. Z uwagi na rozwijający się dynamicznie rynek sztucznej inteligencji i obowiązek oceny zgodności systemów AI wysokiego ryzyka, przewiduje się znaczny wzrost liczby podmiotów ubiegających się o akredytację. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo dynamicznie rozwijającego się sektora gospodarki. Można zatem oczekiwać zarówno dużej liczby spraw spornych, jak i wyższego poziomu skomplikowania ocen akredytacyjnych i ocen w nadzorze w związku z koniecznością zapewnienia obiektywności, niezależności i braku powiązań ocenianych podmiotów. Dodatkowo systemy sztucznej inteligencji wymagają specjalistycznej wiedzy technicznej. Osoby, które będą wykonywały zadania związane z projektowaną ustawą, muszą mieć bardzo wysokie kompetencje ‒ znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji, muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Powierzenie nowych obowiązków obecnym pracownikom PCA nie gwarantuje jakości ani poprawności wykonywanej pracy, gdyż nie są oni ekspertami w zakresie AI ani rozporządzenia 2024/1689 ani też nie posiadają wiedzy w tym zakresie. PCA jest małą jednostką, zatrudniającą ok. 80 osób i nie ma możliwości wygospodarowania dwóch etatów na nowe zadania w ramach istniejących limitów, dlatego konieczne jest utrzymanie w pkt 6 OSR zwiększonych wydatków na wynagrodzenia PCA co daje możliwość zatrudnienia nowych osób. Jednocześnie podejmowanie się procesów akredytacji bez dysponowania odpowiednimi zasobami osobowymi i wiedzą w tym zakresie jest niezgodne z wymaganiami rozporządzenia (WE) 765/2008 oraz normą ISO/IEC 170111 i generuje ryzyko dla skutecznego funkcjonowania procesów akredytacji w obszarze oceny zgodności przewidzianej w projektowanym przepisie. SOKIK Wejście w życie projektowanej ustawy związane jest także z rozszerzeniem działalności Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów o obszar wskazany w ustawie, co wiąże się koniecznością zapewnienia szkoleń. Koszty szkoleniowe zostały oszacowane na 800 000,00 zł rocznie w roku pierwszym i kolejnych latach po wejściu w życie przepisów ustawy. Niezbędne specjalizacyjne szkolenia z zakresu nowych technologii oraz AI Act dla sędziów i asystentów SOKiK – 800 000,00 zł. Szkolenia prowadzone będą przez prawników i specjalistów IT; Zakres szkoleń: zagadnienia z zakresu prawa i technologii; 24 przepisy oraz orzecznictwo, w szczególności unijne z zakresu nowych technologii oraz wykorzystania AI Wydatek ten zostanie pokryty w ramach limitu wydatków Ministra Sprawiedliwości. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0–10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa sektor mikro-, małych i średnich przedsiębiorstw rodzina, obywatele oraz gospodarstwa domowe * Ze względu na wzrost dochodów rozporządzalnych (netto) osób zatrudnionych przy realizacji nowo powstałej Komisji (por. p. 6) 1,86 7,20 7,38 7,56 7,95 8,77 80,98 W ujęciu niepieniężny m duże przedsiębiorstwa Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Projektowane przepisy dają możliwość na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. sektor mikro-, małych i średnich przedsiębiorstw Zmiana polegająca na obowiązku wnoszenia przez przedsiębiorców kar finansowych za naruszenie przepisów rozporządzenia 2024/1689 w przypadku nałożenia kary przez Komisję może pozytywnie wpłynąć na stosowanie standardów narzucanych systemom sztucznej inteligencji. Przedsiębiorcy będą mogli jednak skorzystać z możliwości zawarcia układu w przedmiocie nadzwyczajnego złagodzenia sankcji. Projekt ustawy wprowadza instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej 25 inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia. A także wpływa na kształtowanie otwartych i pozytywnych postaw podmiotów objętych regulacja rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Instytucja układu pełni funkcję motywującą, umożliwiając lepsze osiągnięcie zamierzonych celów regulacyjnych. Przewiduje się, że regulacje przyczynią się do wprowadzania na rynek i wykorzystywania przez mikro-, małe i średnie przedsiębiorstwa godnych zaufania, etycznych i bezpiecznych systemów sztucznej inteligencji. Projektowane przepisy dają możliwość MŚP na rozwój innowacji dzięki wprowadzeniu zapisów dotyczących piaskownic regulacyjnych, czyli przestrzeni do testowania nowych technologii. Wpływ na konkurencyjność gospodarki i przedsiębiorczość jest znaczący, ponieważ piaskownica regulacyjna sprzyja innowacyjności i przyspiesza proces wdrażania nowych rozwiązań. Ułatwiony dostęp do testowania, zwłaszcza dla MŚP, które mają korzystać z piaskownicy regulacyjnej nieodpłatnie, obniża bariery wejścia i wspiera rozwój młodych firm technologicznych. rodzina, obywatele oraz gospodarstwa domowe Przewiduje się, że wejście w życie ustawy nie wpłynie bezpośrednio na sytuację społeczną rodziny, a także osób niepełnosprawnych oraz osób starszych w tym sytuację ekonomiczną. Jednak spodziewane jest pozytywne długoterminowe odziaływanie pośrednie, poprzez zwiększenie bezpieczeństwa. Niemierzalne Przedsiębiorstwa w tym mikro-, małe i średnie Skutkiem może być podniesienie jakości usług oraz wydajności i konkurencyjności przedsiębiorców. rodzina, obywatele oraz gospodarstwa domowe W długoterminowej perspektywie regulacje mogą przyczynić się do wzrostu świadomości społecznej w zakresie wykorzystania systemów sztucznej inteligencji, przez rozwój i upowszechnienie bezpiecznych systemów sztucznej inteligencji dostępnych w różnych sferach życia, w tym między innymi w edukacji dzieci i dorosłych, finansach osobistych czy służbie zdrowia. Długookresowa perspektywa zakłada wzrost zaufania do narzędzi – systemów sztucznej inteligencji – która może przełożyć się na zwiększenie innowacyjności w codziennym korzystaniu z narzędzi. Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie ustawy nie spowoduje natychmiastowych skutków dla gospodarki, ale w dłuższej perspektywie powinna się poprawić wydajność przedsiębiorstw objętych regulacją spowodowane ograniczeniem szkodliwych skutków działania niektórych systemów sztucznej inteligencji. Projekt ustawy wprowadza nakładanie administracyjnych kar pieniężnych oraz instytucję układu jako alternatywnej metody rozwiązywania sporów w postępowaniach dotyczących naruszeń przepisów regulujących obszar sztucznej inteligencji. Mechanizm ten ma na celu zachęcenie podmiotów naruszających przepisy do dobrowolnego usuwania nieprawidłowości oraz współpracy z Komisją, co sprzyja sprawnemu osiąganiu celów ustawy i rozporządzenia 2024/1689. Wprowadzenie układu jest uzasadnione szczególnie w sytuacjach, w których naruszenie nie spowodowało poważnych negatywnych skutków, a strona zobowiązuje się do zaprzestania naruszeń oraz ujawnienia wszystkich istotnych okoliczności sprawy. Przepisy przewidują możliwość złagodzenia sankcji, a nawet odstąpienia od ich nakładania w przypadku szczególnej współpracy strony z Komisją. Zakres złagodzenia sankcji będzie uzależniony od okoliczności zaprzestania naruszeń, zakresu ujawnionych informacji oraz podjętych zobowiązań. Dzięki temu instytucja układu pełni funkcję motywującą dla podmiotów objętych AI Aktem co powinno w przyszłości przynieść korzyści w postaci postępowania zgodnego z prawem. Oczekuje się, że układ umożliwi także dalsze funkcjonowanie na rynku podmiotów zagrożonych karą a jednocześnie pozytywnie wpłynie na rozwój godnej zaufania i bezpiecznej sztucznej inteligencji. Z uwagi na regulację nieznanej dotychczas dziedziny nauki określenie skutków finansowych wynikających z nakładania kar oraz zastosowania nadzwyczajnego sposobu ich złagodzenia nie jest możliwe do oszacowania. 26 Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Celem ustanowienia piaskownic jest zwiększenie pewności prawa, wspieranie wymiany najlepszych praktyk, wzmacnianie konkurencyjności i innowacyjności w Europie oraz ułatwienie MŚP i start- upom wejścia na rynek unijny. Udział w piaskownicy będzie konkurencyjny, z preferencją dla podmiotów z UE, a procedura naboru będzie jawna i umożliwi odwołanie. Opłata za udział wyniesie czterokrotność minimalnego wynagrodzenia, przy czym MŚP będą z niej zwolnione. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Z uwagi na brak analogicznych funkcjonujących rozwiązań określenie skutków finansowych wynikających tworzenia piaskownic regulacyjnych nie jest możliwe do oszacowania. Jednocześnie należy wyjaśnić, że koszty dostosowawcze po stronie przedsiębiorców z sektora AI wynikają z konieczności stosowania rozporządzenia 2024/1689, a nie bezpośrednio projektu ustawy o systemach sztucznej inteligencji. 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). tak nie nie dotyczy zmniejszenie liczby dokumentów zmniejszenie liczby procedur skrócenie czasu na załatwienie sprawy inne: zwiększenie liczby dokumentów zwiększenie liczby procedur wydłużenie czasu na załatwienie sprawy inne: Wprowadzane obciążenia są przystosowane do ich elektronizacji. tak nie nie dotyczy Komentarz: Systemy sztucznej inteligencji, ze względu na wczesny etap rozwoju tej technologii, do tej pory nie były obszarem nadzorowanym w sposób kompleksowy. W związku z tym, uregulowania w tym zakresie, spowodują objęcie nadzorem podmiotów, które do tej nie były pod tym kątem nadzorowane, co w naturalny sposób doprowadzi do zwiększenia liczby procedur lub zwiększenia liczby dokumentów. Konsekwencją objęcia nadzorem systemów sztucznej inteligencji będzie nałożenie na podmioty działające na tym rynku określonych obowiązków (które są określone w rozporządzeniu 2024/1689) sprawozdawczych, informacyjnych i technicznych. Podmioty te będą musiały zadbać o zgodność wykorzystywanych lub dostarczanych systemów sztucznej inteligencji z przepisami rozporządzenia 2024/1689 i ustawy, w tym wyeliminować aktualnie istniejące niezgodności. Konieczna będzie także ich współpraca z Komisją i innymi organami w celu umożliwienia im sprawowania nadzoru nad rynkiem i stosowania odpowiednich środków, takich jak kontrole. Komisja jako wyznaczony organ właściwy w zakresie sprawowania nadzoru nad sztuczną inteligencją w Polsce, będzie wykonywała swoje zadania w oparciu o działania na poziomie krajowym oraz wynikające ze współpracy z organami unijnymi. Dodatkowo, stworzenie nowego organu do spraw nadzoru nad sztuczną inteligencją będzie wiązało się z obciążeniami administracyjnymi, wynikającymi z realizacji zadań, jakie nakłada na ten organ rozporządzenie 2024/1689, m.in. przekazywanie sprawozdań z działalności organu Komisji Europejskiej, współpraca międzyinstytucjonalna, wydawanie decyzji w sprawach dotyczących naruszeń, udzielanie wskazówek i porad przedsiębiorcom. Projektowane przepisy przewidują utworzenie piaskownic regulacyjnych jako narzędzia wspierającego rozwój innowacyjnych rozwiązań z zakresu sztucznej inteligencji. Udział w piaskownicy będzie odpłatny, konkurencyjny, a procedura naboru będzie jawna i umożliwi odwołanie. Przewiduje się zwolnienie MŚP z opłaty. Uczestnicy będą zobowiązani do informowania użytkowników, corocznego raportowania, publikowania wyników oraz zgłaszania zmian. Komisja będzie uprawniona do kontroli, a w przypadku naruszeń – do wezwania do ich usunięcia lub wykluczenia z udziału. Polska ma obowiązek uruchomienia co najmniej jednej piaskownicy do 2 sierpnia 2026 r. Projekt ustawy poza regulacjami wynikającymi bezpośrednio z rozporządzenia 2024/1689 wprowadza również rozwiązania o charakterze uzupełniającym. 27 Regulacje w tym zakresie będą nakładały na Komisję dodatkowe obowiązki w zakresie rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych w zakresie sztucznej inteligencji, przetwarzania danych osobowych, wydawania opinii indywidualnych sposobu prowadzenia kontroli, przechowywania akt postępowania. Dodatkowo niezbędne będzie także zapewnienie właściwej realizacji zadań organu nadzoru przez pracowników urzędu obsługującego ministra do spraw informatyzacji Dodatkowo ustawa przewiduje powołanie Społecznej Rady Sztucznej Inteligencji jako ciała opiniodawczo-doradczego Komisji. Udział w pracach Rad będzie nieodpłatny. Projekt wskazuje także na możliwość uzyskania przez podmioty objęte AI Akt opinii indywidualnej. W tym celu podmiot będzie obowiązany do złożenia wniosku oraz uiszczenia opłaty w wysokości 150 zł. W ramach prowadzonego postępowania przed Komisją projekt przewiduje także możliwość zawarcia przez stronę postępowania układu. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. 9. Wpływ na rynek pracy Przyjęcie projektu będzie miało bezpośredni, pozytywny wpływ na rynek pracy poprzez powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz zorganizowanie zaplecza osobowego i technicznego, przy pomocy którego Komisja będzie wykonywała swoje zadania. Obsługę administracyjno-kancelaryjną zapewniać będzie urząd obsługujący ministra właściwego do spraw informatyzacji. Można przewidywać, że w związku z powyższym na rynku pracy pojawią się nowe miejsca pracy, ale ich liczba jest niemożliwa do określenia na tym etapie prac legislacyjnych. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie przyczyniać się do szybszego rozwoju wdrożeń systemów sztucznej inteligencji, w tym przez polskie małe i średnie przedsiębiorstwa. 10. Wpływ na pozostałe obszary środowisko naturalne sytuacja i rozwój regionalny sądy powszechne, administracyjne lub wojskowe demografia mienie państwowe inne: informatyzacja zdrowie Omówienie wpływu Umożliwienie złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 będzie miało wpływ na zapobieganie szkodom i wykrywanie zagrożeń, które w przeciwnym wypadku pozostałyby niewykryte, podniesie bezpieczeństwo oraz zaufanie do stosowania systemów sztucznej inteligencji. Przewidywane w przyszłości odwołania od decyzji Komisji mogą zwiększyć obciążenie pracą Sądu Ochrony Konkurencji i Konsumentów, a także Sądu Apelacyjnego w Warszawie, sądów okręgowych i rejonowych. Profesjonalizm nowego urzędu powinien jednak zapewnić sprawne obsługiwane skarg. Przewiduje się potrzebę szkolenia merytorycznego kadry sądu, jak i zwiększenie zapotrzebowania na biegłych sądowych z zakresu systemów sztucznej inteligencji. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby ustawa weszła w życie po upływie 14 dni od dnia ogłoszenia, z zastrzeżeniem wyjątków w niej określonych. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Ewaluacja efektów projektu będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim, jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Sejmowi sprawozdania Komisji ze swojej działalności za rok poprzedni. 28 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak. RAPORT Z OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do konsultacji publicznych i opiniowania 16 października 2024 r. Na zgłoszenie uwag został wyznaczony termin 30 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa,Centrum Cyfrowe Francusko-Polska Izba Przemysłowo Handlowa,INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Polski Funduszu Rozwoju S.A.Bank Gospodarstwa Krajowego S.AZwiązek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiły następujące podmioty: ISSA Polska, Polskie Towarzystwo Informatyczne,Tauron Dystrybucja, Instrat Centrum Cyfrowe, Europen Fem Institute, Polska Izba Ubezpieczeń, Open AI Devs Community, Geberationis.ai S.A., Fundacja Open Allies, Polskie Stowarzyszenie Sztucznej Inteligencji (PSSI), GRAI, Polska Izba Komunikacji Elektronicznej,Stowarzyszenie Inspektorów Ochrony Danych Osobowych, Krajowy Instytut Mediów, Koalicja AI i Innowacji w Zdrowiu, NASK, RELX (ang.), Naczelna Rada Adwokacka, Związek Przedsiębiorstw Finansowych w Polsce, Krajowa Izba Gospodarcza, Związek Cyfrowa Polsk, Logicise Sp. z o. o, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji, Polski Związek Pracodawców Przemysłu Farmaceutycznego – Krajowi Producenci Leków, Stowarzyszenie Autorów i Wydawców Copyright Polska, Fundacja Moje Państwo,Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Sano Centrum Zindywidualizowanej Medycyny Obliczeniowej Międzynarodowa Fundacja Badawcza, Fundacja Sztuka Media Film, Obywatelski Akcelerator Innowacji, Instytut Spraw Obywatelskich, Stowarzyszenie ITCORNER, Związku Pracodawców Technologii Cyfrowych Lewiatan, Software Development Association Poland (SoDA), Fundacja Panoptykon, Brytyjsko-Polska Izba Handlowa BPCC, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Związek Producentów Audio Video (ZPAV), Polska Izba Rzeczników Patentowych, Stowarzyszenia Autorów ZAiKS, Polska Izba Książki, Polski Związek Zarządzania Wierzytelnościami, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, HAIQ sp. z o.o., Stowarzyszenie Księgowych Polskich, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Polska Akademia Nauk Centrum Badań Kosmicznych (PAN), Porozmawiajmy o AI i Poznański Horyzont Danych (EGO), Polskiej Izby Informatyki i Telekomunikacji (PIIT0, Federacja Przedsiębiorców Polskich (FPP), HAEGRI SP. Z O.O., Polska Wytwórnia Papierów Wartościowych (PWPW), Związek Zawodowy Scenarzystów Polskich (Gildia Scenarzystów), KRS – Krajowa Rada Sądownictwa, Polskie Centrum Akredytacji, Porozumienie Zielonogórskie Federacja Związków Pracodawców Ochrony Zdrowia oraz 5 osób fizycznych. Tabela zgłoszonych uwag stanowi załącznik do raportu. W ramach opiniowania projekt otrzymali: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność”, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza, Przewodnicząca Rady Dialogu Społecznego, Przewodniczący Rady Działalności Pożytku Publicznego. Stanowiska przedstawiły następujące podmioty: Bank Gospodarstwa Krajowego, Polski Komitet Normalizacyjny, Biblioteka Narodowa, Główny Inspektor Pracy, Urząd Komunikacji Elektronicznej, Konfederacja Lewiatan, Urzędu Ochrony Konkurencji i Konsumentów, Ogólnopolskie Porozumienie Związków Zawodowych, Narodowe Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Polski Fundusz Rozwoju S.A. (PFR), Pracodawcy RP, Rzecznik Praw Obywatelskich, Prokuratoria Generalna RP, Główny Urząd Statystyczny, Urząd Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Rada Legislacyjna, Urząd Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Urząd Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, ZUS Tabela zgłoszonych uwag stanowi załącznik do raportu. Projektodawca informuje, że trwają analizy w zakresie uwag zgłoszonych w ramach konsultacji publicznych, ostateczne wyniki tych analiz zostaną przedstawione po zakończeniu II tury uzgodnień, opiniowania i konsultacji publicznych. Jednocześnie projektodawca podkreśla, że w nowym tekście projektu ustawy, skierowanym do ponownych uzgodnień, opiniowania i konsultacji publicznych Pozytywnie rozpatrzono uwagi dotyczące m.in: - zwrotu kosztów udziału w posiedzeniach Komisji oraz Społecznej Rady; - rozszerzenia katalogu obszarów działalności organizacji społecznych uprawnionych do zgłaszania kandydatur na członków Społecznej Rady ds. Sztucznej Inteligencji, która ma zostać powołana przy Komisji; - precyzyjnego określenia rynku, nad którego nadzór sprawować ma Komisja; a także przeformułowania przepisów dotyczących wyłączenia stosowania przepisów w oparciu o odpowiednie przepisy rozporządzenia, w tym osobistego i niezarobkowego wykorzystania systemów AI; - rozszerzenia środków wspierających rozwój innowacyjności systemów sztucznej inteligencji, w tym rozszerzenia zakresu projektu o przepisy (nowego) rozdziału 8 poświęconego piaskownicom regulacyjnym w zakresie AI, a także możliwości zawarcia układu (nowy tryb postępowania); - podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie opinii (w poprzedniej wersji projektu: interpretacji) indywidualnej oraz doprecyzowania trybu jej wydawania oraz skutków prawnych; - uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia zbędnych czynności kontrolnych; - usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; - zwiększenia zakresu danych i informacji, do których usunięcia zobligowana jest Komisja po rozpatrzeniu sprawy w ramach postępowania; - zmiany przepisów regulujących pracę Biura Komisji (rozszerzenie zakresu spraw możliwych do uregulowania na poziomie regulaminu Biura Komisji); - rozszerzenia katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji (na mocy decyzji Komisji); - uwzględnienia roli ministra właściwego do spraw informatyzacji w zakresie prac nad „Fabrykami Sztucznej Inteligencji”, w tym możliwości bezpośredniego przekazywania środków finansowych na ten cel. 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. 1 Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi 1. Uwaga ogólna European Fem Institut Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami. Zapisanymi w traktatach oraz, zgodnie z art. 6 TUE - w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, ,,mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji\" oraz \"mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet\". Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne 2 podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jak systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii\". To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym Wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. 3 Uwaga ogólna ICC Polska Projekt, jak wynika z jego uzasadnienia, ma ograniczać się do wprowadzenia do polskiego prawa mechanizmów umożliwiających realizację jedynie tych przepisów rozporządzenia 2024/16891, które zaczną być stosowane od dnia 2 sierpnia 2025 r. W pozostałym zaś zakresie Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych (s. 3-4 uzasadnienia Projektu). Oznacza to, że w założeniu projektodawcy przyjęcie przez Polskę aktów prawa krajowego służących stosowaniu i przestrzeganiu rozporządzenia 2024/1689 będzie rozłożone w czasie i zsynchronizowane z harmonogramem rozpoczęcia stosowania przepisów samego rozporządzenia (por. art. 113 rozporządzenia 2024/1689). Jakkolwiek uzasadnienie Projektu wprost tego nie przesądza, to z jego całościowej lektury oraz ogólnego tytułu samej ustawy można wnioskować, że wspomniane kolejne działania legislacyjne mają opierać się na uzupełnieniu lub zmianie tej właśnie ustawy. Zaproponowane podejście legislacyjne może budzić jednak pewne wątpliwości z perspektywy zarówno pewności, jak i samej przejrzystości prawa. Po pierwsze, z treści samej ustawy nie wynika jednoznacznie, czy przewidziane w niej mechanizmy ogólne – np. postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub przepisy o administracyjnych karach pieniężnych – będą znajdować zastosowanie w tym właśnie kształcie w odniesieniu do oceny naruszenia wszelkich przepisów rozporządzenia 2024/1689 (w tym przepisów, których termin rozpoczęcia stosowania przypada w 2026 i 2027 r.), czy też podlegać one będą dostosowaniu lub zróżnicowaniu po 2 sierpnia 2025 r. Rodzi to niepotrzebną niepewność po stronie podmiotów, do których stosuje się rozporządzenie 2024/1689, które mając już świadomość obowiązków, jakie będą miały do nich zastosowanie, nie wiedzą jednak, w jaki sposób obowiązki te będą egzekwowane przez organ nadzoru w Polsce. Tytułem przykładu, w art. 1 pkt 5 Projektu wskazano, że ustawa określa „zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 rozporządzenia 2024/1689” [podkreślenie własne], podczas gdy sam rozdział 7 Projektu dotyczący administracyjnych kar pieniężnych już takiego ograniczenia nie przewiduje, odwołując się ogólnie do kar określonych w art. 99 rozporządzenia 2024/1689. Po drugie, jeżeli wdrożenie pozostałych przepisów rozporządzenia 2024/1689 miałoby polegać na prostym uzupełnieniu projektowanej ustawy o systemach sztucznej inteligencji o nowe regulacje (nowelizacja), to może to negatywnie wpłynąć na przejrzystość i czytelność samej ustawy z perspektywy podmiotów jej podlegających. Zależnie bowiem od zakresu zmian i uzupełnień wymagać to będzie albo dodania do ustawy artykułów oznaczonych poza numerami dodatkowo małymi literami lub nawet wieloliterowo – w celu zachowania dotychczasowej numeracji (§ 89 Zasad techniki prawodawczej2), albo opracowania projektu całkowicie nowej ustawy (§ 84 Zasad techniki prawodawczej). Tego rodzaju zabiegi legislacyjne mogą niepotrzebnie ograniczyć, odpowiednio, przejrzystość ustawy albo pewność prawa. Z tego względu należałoby rozważyć też alternatywne podejścia legislacyjne do wdrożenia w Polsce rozporządzenia 2024/1689. Mogą one polegać chociażby na rozbiciu planowanych regulacji na ustawę ustrojową, regulującą jedynie organizację systemu nadzoru nad systemami 4 sztucznej inteligencji, która miałaby wejść w życie w pierwszej kolejności (co jest uzasadnione koniecznością utworzenia nowego organu i czasem potrzebnym na jego zorganizowanie), oraz ustawę lub ustawy odnoszące się do pozostałych zagadnień, w tym postępowań kontrolnych i postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689 ujętych od razu w sposób możliwie jednolity, niezależnie od terminu rozpoczęcia stosowania odpowiednich przepisów rozporządzenia 2024/1689 Uwaga ogólna KIGEiT Zgodnie z traktatami AI Act (Rozporządzenie PE i Rady UE 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 – popieramy idee implementacji aktu w sprawie sztucznej inteligencji, który powinien wejść do porządku prawnego wszystkich krajów członkowskich w taki sam sposób. Ogólna uwaga jaka nasuwa się po analizie projektu ustawy łącznie z Rozporządzeniem 1689/2024 („AI Act”) to obawa jak przedsiębiorca, zwłaszcza typu start-up ma ustalić zakres norm proceduralnych dotyczących systemów i praktyk w zakresie sztucznej inteligencji. Nie jest łatwe ustalenie, jakie są wzajemne relacje (abstrahując od hierarchii źródeł prawa) pomiędzy przepisami: ustawy o systemach sztucznej inteligencji (zwłaszcza Rozdziału 3, 4), ustawy Prawo przedsiębiorców (odwołanie z Art. 42 projektu ustawy o systemach wysokiego ryzyka) a Art. 74 ust. 12-14 AI Act i Rozporządzenia 2019/2020 (zwłaszcza Rozdziału V), do którego odwołuje Art. 74 ust. 1 AI Act. Problemów tych nie rozwiązują propozycje zapisów Ustawy. Należy zauważyć, że choć prawdopodobnie stały za tym dobre intencje, projekt Ustawy zawiera w sobie propozycje przepisów, które pochodzą z co najmniej kilku aktów prawnych dotyczących rynków regulowanych i nadzoru nad rynkiem. To zaczerpnięcie poszczególnych fragmentów projektu Ustawy z różnych źródeł i jednocześnie odwołanie do stosowania jeszcze kolejnych ustaw (KPA, Prawo przedsiębiorców) sprawia, że zaproponowana regulacja jest bardzo zawiła i niejasna. Trudno jest w sposób prosty, bez konieczności sięgania do innych aktów prawnych (i często zwrotnych odwołań) ustalić pełny zakres normy, w tym praw przysługujących stronie postępowania i uprawnień władczych przysługujących organowi. Taki sposób regulacji budzi wątpliwości co do realizacji zasad demokratycznego państwa prawnego (w tym zasad przyzwoitej legislacji, pewności prawa i zaufania obywatela do państwa i stanowionego przez nie prawa), które mają gwarantować, że obywatel może decydować o swoim postępowaniu w oparciu o pełną znajomość przesłanek działania organów państwowych oraz konsekwencji prawnych, jakie te działania mogą za sobą pociągać. Projekt ustawy przewiduje także szereg form działania Komisji bądź Przewodniczącego Komisji, jak zalecenia pokontrolne, ostrzeżenia, interpretacje indywidualne, co do których nie wskazano jaką formę prawna przyjmują (decyzji, postanowień czy też nowych- odrębnych form) co wprowadza kolejne zawiłości w procedurze. Dla wymienionych aktów nie przewidziano także środków zaskarżenia i ochrony praw podmiotów stosujących rozwiązania sztucznej inteligencji, 5 co stanowi istotna lukę w regulacji. Środki te mogą bowiem kreować obowiązki bądź zakazy dla tych podmiotów, powodując tym samym daleko idące skutki operacyjne jak i finansowe związane z ich działalnością. Dlatego na zastosowanie taki środków, które powinny przyjąć formę decyzji administracyjnej, jako prawnie doniosłych, powinno podmiotowi dotkniętemu ich działaniem przysługiwać prawo wniesienia odwołania do właściwego Sądu w terminie odpowiednim do zawiłości materii (sugerowanym 2 miesięcy) a do czasu uprawomocnienia się takiego środka nie powinien być on egzekwowany. Ponad to cały proces kontroli powinien skupiać się nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzystywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzyko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologii i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania sztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na operatora takich systemów. Uwagi ogólne Federacja Przedsiębiorców Polskich Projekt przewiduje możliwość równoczesnego stosowania przepisów przez różne organy nadzorcze w państwach członkowskich wobec tych samych przedsiębiorstw. Zawarty w artykule 2 przepis o zakresie podmiotowym może prowadzić do niejasności interpretacyjnych co do kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji względem zagranicznych podmiotów. Aby uniknąć takich niejasności, sugerujemy precyzyjne określenie, w stosunku do których jednostek międzynarodowych grup kapitałowych Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie miała możliwość prowadzenia działań czy jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw, szczególnie w odniesieniu do firm zagranicznych posiadających oddziały lub spółki zależne w Polsce. Ponadto, projekt zakłada możliwość wydawania interpretacji i rekomendacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co wykracza poza jej kompetencje określone w Akcie w sprawie sztucznej inteligencji, który rezerwuje te uprawnienia wyłącznie dla unijnej Rady ds. AI. Aby uniknąć potencjalnych rozbieżności w interpretacji przepisów unijnych oraz niejasności dla przedsiębiorstw operujących na rynku międzynarodowym, proponujemy usunięcie tych zapisów. Projekt ustawy nie przewiduje również odpowiednich zabezpieczeń dla danych poufnych pozyskiwanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, co może prowadzić do naruszenia 6 interesów przedsiębiorstw. Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają szerokie uprawnienia w zakresie przetwarzania i udostępniania informacji chronionych prawnie, co może stanowić zagrożenie dla prywatności firm. Postulujemy wprowadzenie ograniczeń dotyczących przetwarzania i udostępniania informacji objętych tajemnicą przedsiębiorstwa, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów biznesowych. Projekt przyznaje Komisji Rozwoju t Bezpieczeństwa Sztucznej Inteligencji szerokie uprawnienia do pozyskiwania dokumentów i przeprowadzania oględzin urządzeń, co może wykraczać poza wymagania Aktu o sztucznej inteligencji, który ogranicza gromadzenie danych przez organy nadzorcze do tych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Proponujemy, aby uprawnienia te były ograniczone do niezbędnych danych oraz aby wyłączyć wymóg poświadczania zgodności dokumentów z oryginałem, co może stanowić dodatkowe obciążenie administracyjne dla przedsiębiorstw. Projekt przewiduje 14-dniowy termin na wycofanie systemu AI z rynku, co może stanowić wyzwanie dla firm korzystających z zaawansowanych technologii i prowadzić do zakłóceń operacyjnych oraz strat finansowych. Proponujemy wydłużenie tego terminu oraz zniesienie natychmiastowej wykonalności decyzji o wycofaniu systemu, aby firmy miały możliwość dostosowania się do nowych wymagań. Wycofanie systemu AI powinno być ostatecznością, a Komisja powinna skupić się na działaniach prewencyjnych i rekomendacjach. Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji. Jednak sprawy związane ze sztuczną inteligencją są na tyle skomplikowane, że wymagają odpowiedniego poziomu ekspertyzy. Dlatego proponujemy rozważenie przekazania takich spraw do sądów ds. własności intelektualnej, co mogłoby zapewnić wyższy poziom przewidywalności i rzetelności rozstrzygnięć. Na koniec, chcielibyśmy zwrócić uwagę na wysokie kary pieniężne przewidziane w projekcie oraz krótki, 14-dniowy termin na ich opłacenie. Taka presja finansowa może negatywnie wpłynąć na przedsiębiorców, zwłaszcza przy braku możliwości zawieszenia wykonania decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W celu zachowania proporcjonalności sugerujemy wydłużenie terminu na uiszczenie kar oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu zakończenia procesu odwoławczego. Mamy nadzieję, że nasze uwagi i rekomendacje zostaną wzięte pod uwagę podczas dalszych prac nad projektem. Federacja Przedsiębiorców Polskich jest gotowa do współpracy i wsparcia w dalszych konsultacjach, aby stworzyć stabilne i przewidywalne ramy prawne dla działalności przedsiębiorstw korzystających z systemów sztucznej inteligencji w Polsce. 2. Uwaga ogólna Mikołaj \"Tesla\" Matysiak #WhiteWater Propozycje te z jednej strony chronią obywateli, ale jednocześnie zabezpieczają model biznesowy firm w branży i zwiększają poziom bezpieczeństwa i zaufania użytkowników do firm tworzących AI. Także klasyczne win-win w tej sytuacji. I myślę, że mimo pewnej dodatkowej pracy, której będzie to wymagało od firm w tym obszarze - zakładam, że raczej będą dobrze przyjęte w branży, jako racjonalne i zasadne. 7 1. Prawo do prywatności: Opcja opt out z wykorzystywania i przechowywania treści w ich systemie (darmowe dla użytkowników indywidualnych i edukacji, może być płatne opt out w planach enterprise dla firm i instytucji). 2. Prawo do dysponowania danymi: Wymóg posiadania opcji lokalnego przechowywania danych na własnym sprzęcie lub chmurze. 3. Prawo do ciągłości danych: Wymóg posiadania możliwości zgrania całości historii wygenerowanej treści przez użytkownika (np. do celów migracji danych do innego AI). 4. Prawo do zachowania ciągłości danych: Zakaz blokowania i usuwania kont oraz wprowadzonych danych bez możliwości zgrania historii danych. 5. Prawo do szybkiej migracji: Po wypracowaniu standardów dla określonego typu treści, wymóg posiadania przynajmniej jednego uniwersalnego typu plików do importu i eksportu dla danego typu treści. 6. Prawo do weryfikacji: Wymóg posiadania opcji ujawnienia, które treści były oglądane przez pracowników firmy. Wymóg posiadania przez firmę imiennych logów kto i co przeglądał i jakie czynności wykonał z tymi danymi (np. do udostępnienia organom ścigania), gdyby ktoś próbował manipulować outputem lub wykradał prywatne dane użytkowników z serwerów firmy Uwagi ogólne Generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, co zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów 8 Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki 9 sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. 10 • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Uwagi ogólne Porozmawiajmy o AI i Poznańskiego Horyzontu Danych Czy interpretacja wydana przez Komisję w Polsce obowiązuje na terenie całej UE? Jak zsynchronizować rynek? 11 Jakie wyprzedzenie czasowe potrzebujemy, żeby dany system ściągnąć z rynku (zaprzestać używać, np. w przypadku, gdy nasza usługa jest oparta na tym systemie)? Kary kwotowa i procentowa – dla MŚP wybieramy mniejszą Art. 99, ust. 6 (AI Act). Rekomendujemy doprecyzowanie czym są małe firmy - firmy które spełniają definicję MŚP np. odwołanie się do polskich przepisów i zawartych tam definicji MŚP. Podanie konkretnych liczb ekspertów do Rady Społecznej: domenowych na styku AI i społecznego wpływu AI na styku praw człowieka i AI sugerujemy płace dla pracowników (specjalistów) Biura Komisji na poziomie 90 percentyla stawek rynkowych uwzględniających także JDG (Jednoosobową Działalność Gospodarczą). Oczekujemy że w ten sposób zapewniona zostanie wysoka jakość kompetencji osób zatrudnionych w Biurze szczególnie w tak wysoce konkurencyjnym obszarze jakim jest SI. Uwaga ogólna Open AI Devs Community WSPARCIE DLA MŚP I INDYWIDUALNYCH DEWELOPERÓW 1. Uproszczone procedury dla mniejszych podmiotów. Postulujemy wprowadzenie do ustawy rozdziału dedykowanego uproszczonym procedurom dla MŚP, jednoosobowych działalności gospodarczych (JDG) oraz indywidualnych deweloperów. Proponujemy: • Wprowadzenie progów dostosowanych do wielkości przedsiębiorstwa i skali działalności; • Uproszczone wymogi dokumentacyjne dla systemów niskiego ryzyka; • Wydłużone terminy dostosowawcze dla mniejszych podmiotów. 2. System wsparcia finansowego i merytorycznego. Wnioskujemy o uzupełnienie ustawy o przepisy dotyczące: • Utworzenia dedykowanego funduszu wspierającego rozwój i wdrażanie rozwiązań AI; • Programu dotacji na certyfikację i ocenę zgodności systemów AI; • Mechanizmu refundacji kosztów dostosowania się do nowych regulacji. ROZWÓJ EKOSYSTEMU AI W POLSCE 1. Strategia rozwoju AI. Proponujemy uzupełnienie ustawy o rozdział określający: • Narodową strategię rozwoju AI; • Konkretne cele i wskaźniki rozwoju sektora AI; • Mechanizmy wsparcia dla badań i rozwoju w obszarze AI. 2. Współpraca nauki z biznesem. Postulujemy wprowadzenie przepisów dotyczących: • Utworzenia krajowego repozytorium danych i modeli AI; • Programów współpracy między uczelniami a przedsiębiorstwami; • Wsparcia dla komercjalizacji badań w obszarze AI Brak odpowiednich mechanizmów wsparcia może prowadzić do: 12 • Ograniczenia innowacyjności w sektorze AI; • Wykluczenia mniejszych podmiotów z rynku; • Osłabienia pozycji Polski w globalnym wyścigu technologicznym. Uwaga ogólna Instrat – Fundacja Centrum Cyfrowe Po opublikowaniu projektu ustawy w mediach społecznościowych rozgorzała dyskusja na temat planowanej ingerencji państwa w działalność firm oraz mechanizmów kontroli, jakie ustawa wprowadzi. Oprócz znanych już głosów krytyki dotyczących przeregulowania rynku i zahamowania innowacji, pojawiły się także nowe obawy – dotyczące tworzenia tzw. „milicji SI” (współpracy KRiBSI z Policją lub innymi organami nadzoru państwowego i ochrony prawa) i realizowania daleko idącej kontroli producentów technologii. Pojawiły się także argumenty mówiące o braku jakiejkolwiek ochrony dostawców. Pojawiające się wątpliwości wskazują na konieczność prowadzenia przejrzystej komunikacji odnoszącej się do konkretnych, budzących obawy zapisów ustawy, jej rzeczywistego zakresu oraz tego, w jaki sposób będzie stosowana. Ważne jest także, aby wyjaśnić, jak regulacja koreluje z założeniami i zobowiązaniami wynikającymi z unijnego rozporządzenia AI Act, co pozwoli rozwiać niepokoje środowiska biznesowego. Bez szeroko zakrojonej komunikacji i działań mających na celu uspokojenie obaw przedsiębiorców może dojść do dezinformacji i narastającej niechęci wobec nowego prawa, co z kolei utrudni jego wdrażanie oraz współpracę z sektorem prywatnym. Uwaga ogólna SKwP Zagadnienie Biura i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Problem AI jest trudny, perspektywiczny i dynamicznie rozwijający się. Zespół pracujący nad kontrolą bezpieczeństwa AI powinien być powołany za zgodą społeczną, zatem z akceptacją Sejmu RP. Oddanie pełnej personalnej władzy w ręce Prezesa RM budzi obawę o naciski lobbystów i ekspertów zagranicznych (UE). Uwaga ogólna Repropol Jak wynika z uzasadnienia projektu ustawy o systemach sztucznej inteligencji (dalej jako „Projekt”, a ustawa jako „UoSSI”), wdrożone mają zostać te przepisy AIA, których data nabrania mocy obowiązującej przypada na 2 sierpnia 2025 roku. Mowa tutaj zatem o rozdziałach I, II, III sekcja 4, V, VII, IX, XI. Choć zasadniczym trzonem wdrożenia są przepisy o charakterze techniczno- administracyjnym, związane z ustanowieniem krajowych urzędów certyfikujących oraz nadzorujących, zakres wdrożenia obejmuje także rozdział V, który odnosi się do modeli AI ogólnego przeznaczenia (dalej jako: „GPAI”). Ten rodzaj modeli, zwłaszcza modele z ryzykiem systemowym, mają fundamentalne znaczenie dla rozwoju fenomenu sztucznej inteligencji. W tym kontekście należy zwrócić uwagę na fakt, iż zagadnieniu GPAI projektodawca nie poświęcił żadnej uwagi, prócz wzmianki w art. 1 ust. 2 UoSSI. Już w tym miejscu sygnalizujemy ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku, wypada atrakcyjnie w kontekście istotnie mniejszych środków finansowych 13 przeznaczonych na wdrożenie Aktu o Usługach Cyfrowych. Jeśli jednak obecne w przestrzeni publicznej zapowiedzi dotyczące aktywnego uczestnictwa Polski w tworzeniu najnowszych technologii mają mieć szansę na realizację, niezbędne wydają się kwoty dużo wyższe. Jak wyraźnie stanowi art. 70 ust. 3 AIA, dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”. Zapewnienie tego rodzaju kompetencji musi kosztować. Zapisana w projekcie ustawy kwota oznacza średniomiesięczne wydatki na poziomie około 2,5 miliona złotych. Jeśli już wziąć pod uwagę koszt tworzenia nawet niewielkich modeli i systemów AI (co może stanowić pośredni benchmark dla obliczania budżetów tego rodzaju przedsięwzięć), wskazane kwoty wydają się zbyt niskie. Uwaga ogólna Naczelna Rada Adwokacka (NRA) Choć przepisy Projektu mają zapewnić ochronę interesu publicznego, prawa i wolności obywateli oraz bezpieczeństwo technologiczne, to w wielu przypadkach ich struktura i zakres budzą wątpliwości i zastrzeżenia. Przepisy Projektu w art. 5 i 6 przewidują powołanie KRiBSI, której nadrzędną misją ma być sprawowanie pieczy nad przestrzeganiem postanowień tej ustawy. Zakres działań KRiBSI ma obejmować monitorowanie rynku systemów SI, a także egzekwowanie obowiązków nałożonych na dostawców oraz użytkowników tych systemów. Zgodnie z treścią Projektu KRiBSI będzie organem państwowym dysponującym rozległymi kompetencjami nadzorczymi, a przyznane jej uprawnienia wydają się w dużej mierze sankcyjne i dyscyplinujące. Nie można jednak przeoczyć, iż sposób powoływania członków KRiBSI, określony w art. 20–26 Projektu, rodzi pewne zastrzeżenia odnośnie do niezależności tej instytucji. Projekt wskazuje bowiem, iż przewodniczący Komisji powoływany będzie przez Szefa Kancelarii Prezesa Rady Ministrów (art. 26 Projektu), co stwarza przestrzeń dla potencjalnych wpływów politycznych. Uzasadnionym byłoby zatem rozważenie takich modyfikacji w przepisach, które wzmacniałyby gwarancje niezależności KRiBSI oraz zapewniałyby przejrzysty i publiczny tryb powoływania jej członków. Transparentność procesu nominacji i zabezpieczenie KRiBSI przed wpływami politycznymi mogłyby przyczynić się do zwiększenia zaufania społecznego wobec tego organu, w szczególności w kontekście jego roli w nadzorze nad systemami SI. Uwaga ogólna Związku Pracodawców Technologii Cyfrowych Lewiatan Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. 14 Uwaga ogólna HAiQ Nie za lekka? O ile należy docenić niechęć Ministerstwa Cyfryzacji do tworzenia kolejnej zasobochłonnej instytucji administracji centralnej, to wydaje się, że takie rozwiązanie nie rozwiązuje innego problemu: deficytu ekspertów od SI. W uzasadnieniu do ustawy czytamy, że powodem, dla którego zdecydowano się na ustanowienie jednej centralnej instytucji zajmującej się SI, był fakt deficytu ekspertów od tej technologii. Trudno nie zgodzić się z taką diagnozą. Jednocześnie jednak konstrukcyjna lekkość Komisji de facto wymaga tego, aby eksperci od SI znaleźli się we wszystkich dziewięciu instytucjach wymienionych w Art. 7., których przedstawiciele są członkami Komisji. Czyli formalnie mamy koncentrację kompetencji w jednym ciele, lecz ze względu na jego sieciowy charakter, potrzebę znaczącej dekoncentracji wiedzy na temat SI. Jeżeli nie nastąpi proces owej dekoncentracji, to jedynie Przewodniczący Komisji dzięki wymogom formalnym (Art. 18.), będzie jedynym ekspertem z zakresu przedmiotowego ustawy. Należy zaś pamiętać, że każdy członek Komisji (Art. 8.) ma taką samą siłę głosu (oprócz sytuacji patowych). Obyśmy zatem nie tworzyli instytucji, która będzie pozwalała laikom z zakresu SI podejmować “lekką ręką” decyzje mające bardzo poważne konsekwencje w sprawach tak wrażliwej i dynamicznie rozwijającej się technologii jak SI. Niedawno doświadczaliśmy niestety tego rodzaju zachowań ze strony funkcjonariuszy państwa. A gdzie rozwój? Jak już wspomnieliśmy wcześniej pełna nazwa ciała mającego zajmować się sztuczną inteligencją w Polsce to Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Niestety w projekcie ustawy mamy bardzo niewiele informacji o tym, w jaki sposób nowy organ miałby zajmować się rozwojem SI w naszym kraju. W uzasadnieniu do ustawy pojawia się wiele deklaracji w tej kwestii, lecz na poziomie tzw. action points nie ma wiele. Co więcej, zakres przedmiotowy ustawy (Art. 4.) wyklucza obszar badań naukowych, zaś wśród członków Komisji nie jest wymieniony przedstawiciel ministra nauki i szkolnictwa wyższego. A gdzie bezpieczeństwo? Ten sam problem jest związany z kwestiami bezpieczeństwa. Na poziomie deklaracji mamy wiele haseł związanych z potrzebą wspierania implementacji systemów SI w sferach związanych z bezpieczeństwem, lecz na poziomie procesów faktycznie opisywanych w ustawie niewiele znajdujemy. Ponownie, przedstawiciele ministra obrony oraz ministra administracji i bezpieczeństwa wewnętrznego nie są wymienieni jako członkowie Komisji (chociaż jest koordynator ds. służb specjalnych), zaś obszary obronności i bezpieczeństwa są wykluczone z przedmiotowego zakresu działań nowego ciała. Te wszystkie wykluczenia można poniekąd zrozumieć, ponieważ są one również obecne w AI Act obowiązującym w Unii Europejskiej. Można się jednak zastanowić, czy Polska nie powinna jednak inaczej sprofilować swojej najważniejszej instytucji zajmującej się SI. O ile można zrozumieć wykluczenie kwestii bezpieczeństwa wewnętrznego i zewnętrznego z kompetencji Komisji, to trudno zrozumieć odcięcie od kwestii badawczych. Sztuczna inteligencja nie jest nawet w części rozwiniętą technologią. Nieustannie rozwija się, a Polska powinna uczestniczyć w tym procesie. Dlatego koniecznym wydaje się, żeby 15 kluczowymi elementami ‘lekkiej organizacji’ jaką jest Komisja, byli przedstawiciele instytucji zajmujących się nauką. “Komisja Nadzoru i Kontroli Sztucznej Inteligencji”. W obecnym kształcie nowo powołane ciało na poziomie w miarę dokładnie opisanych działań i kompetencji ma przede wszystkim zajmować się nadzorem nad podmiotami wykorzystującymi systemy SI oraz reagować na skargi zgłaszane wobec ich działań. Proponowana zaś przez Ministerstwo Cyfryzacji nazwa nowej instytucji centralnej kompletnie nie oddaje jej kluczowych kompetencji. Co więcej, kompetencje związane z notyfikacją systemów SI mają być przypisane ministrowi ds. informatyzacji (Rozdział 6). Naszym jednak zdaniem dobrze byłoby, aby w swojej końcowej formie Komisja posiadała kompetencje, które rzeczywiście odpowiadają jej proponowanej nazwie. Zapewne strona rzędowa będzie argumentować, że wiele elementów działań Komisji będzie realizowane przez Biuro Komisji (Art. 31), które ma powołać premier. Jednakże na podstawie udostępnionych dokumentów nie wiele wiadomo o planowanych działaniach tego ciała. Brzydkie słowo na ‘b’. Koncentrowanie się na kompetencjach związanych z nadzorem i kontrolą powoduje, że uwadze autorów projektu ustawy ucieka biznes. W uzasadnieniu ustawy czytamy, że Komisja ma wspierać małe i średnie przedsiębiorstwa. Trudno jednak dociec, jak to ma robić. Jedynie nadzorując i kontrolując wiele w tym obszarze nie osiągnie. Można się też obawiać, że aby wykazać swoją prężność, to właśnie te podmioty staną się głównym celem działań tej instytucji. Samo Ministerstwo przyznaje, że ekspetów od SI jest w Polsce bardzo mało, kogo więc będzie stać na ich wynajęcie, aby odwoływać się od decyzji Komisji. Zapewne tzw. Big Techy, a co z mniej zamożnymi przedsiębiorstwami? Trochę kultury! Na koniec uwaga dotycząca nie tylko projektu polskiej ustawy, lecz także unijnego podejścia do SI. Ustanowiona przez AI Act polityka publiczna wobec SI, jest polityką publiczną nakierowaną na “algorytmiczną sztuczną inteligencję”. Głównym problemem, który ma ona zaadresować, jest przede wszystkim automatyzacja procesów decyzyjnych. Systemy SI będące elementami instytucji finansowych, czy też publicznych, mogą uzyskać zbyt dużą autonomię w podejmowaniu szybkich i nietransparentnych decyzji. Decyzje te mogą zagrażać wielu gwarantowanym przez Unię Europejską prawom obywatelskim. Uważamy, że to zagrożenie jest realne, poważne i należy na nie reagować. Dobrą odpowiedzią na nie jest zarówno AI Act, jak i komentowany przez nas projekt ustawy; nawet w swojej nadzorczo-kontrolnej formie. Problem w tym, że obecnie jesteśmy świadkami rozwoju przede wszystkim “generatywnej sztucznej inteligencji”. Ta nie tyle wiąże się z automatyzacją procesów podejmowania decyzji, co z wysoką autonomią przekształcania i tworzenia nowych przekazów symbolicznych. Tutaj problemem nie jest kwestia nieprzejrzystych decyzji kredytowych, co odróżniania prawdziwych przekazów audiowizualnych od tych generowanych przez SI. Gwałtowny rozwój generatywnej sztucznej inteligencji mniej też jest związany z naruszaniem naszych indywidualnych praw, lecz bardziej 16 praw związanych ze wspólnotami - w tym kulturowymi i społecznymi - których jesteśmy członkami. Sztuczna inteligencja karmi się bowiem wytwarzanymi przez nas wspólnie treściami kulturowymi oraz bardzo dynamicznie zaczyna na nie wpływać. Warto zatem zastanowić się, czy nasz krajowa regulacja nie powinna wziąć pod uwagę tego zmieniającego się charakteru sztucznej inteligencji. Uwaga ogólna Fundacja Moje Państwo Fundacja popiera rozwiązanie zawarte w projekcie ustawy polegające na utworzeniu w Polsce zupełnie nowego organu nadzoru rynku w zakresie sztucznej inteligencji, tj. Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji “Komisja” (co było rekomendowane przez Fundację w ramach prekonsultacji dotyczących projektu ustawy w kwietniu 2024 r.). Organ poza nadzorowaniem rynku ma także wzmacniać branżę sztucznej inteligencji w Polsce oraz pełnić funkcję podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI, zatem ustanowienie nowej instytucji, zamiast rozdzielania nowych obowiązków wynikających z Aktu w sprawie sztucznej inteligencji 4 pomiędzy istniejące już organy, wydaje się rozwiązaniem najwłaściwszym. Na uwagę zasługują zadania Komisji polegające na opracowywaniu i wydawaniu publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych (art. 11 ust. 1 pkt 8 projektu ustawy). Zapewnienie ram dla rozwoju zrównoważonej technologii sztucznej inteligencji, wspieranie innowacyjności wśród przedsiębiorców oraz promowanie zorientowanego na człowieka podejścia do sztucznej inteligencji będzie wiązało się z koniecznością ciągłej edukacji obywateli, w tym przedstawicieli administracji publicznej oraz przedsiębiorców. Istotnym zadaniem Komisji – w kontekście budowania wiedzy wśród społeczeństwa o systemach sztucznej inteligencji – będzie również gromadzenie i upowszechnienie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją (art. 11 ust. 1 pkt 10 projektu ustawy). W przypadku tego przepisu należałoby rozważyć doprecyzowanie miejsca publikacji ww. orzecznictwa np. poprzez wskazanie, że publikacja nastąpi w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Projekt ustawy zakłada w art. 14 ust. 1, że “Przewodniczący Komisji, na wniosek zainteresowanego, wydaje w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy”. Na podstawie projektowanego przepisu do złożenia wniosku o wydanie interpretacji jest uprawniony każdy, kto ma wątpliwości jak interpretować, w odniesieniu do dotyczącej go sprawy, przepisy Aktu w sprawie sztucznej inteligencji lub przepisy projektowanej ustawy – zatem mógłby to być zarówno obywatel, na którego wpływ ma system sztucznej inteligencji, jak i spółka lub podmiot publiczny, na których spoczywają obowiązki wynikające z Aktu w sprawie sztucznej inteligencji. Zdaniem Fundacji zasadnie przyjęto szeroki zakres podmiotów uprawnionych do wystąpienia z wnioskiem o interpretację przepisów regulujących systemy 17 sztucznej inteligencji. W projektowanym przepisie należałoby wskazać jednak termin w jakim Przewodniczący Komisji jest zobowiązany do rozpoznania wniosku o wydanie interpretacji. W uzasadnieniu projektu ustawy (str. 12) wskazano, że: w celu zapewnienia koordynacji i wymiany informacji na temat sektora sztucznej inteligencji, przy Komisji ma zostać powołana Społeczna Rada do Spraw Sztucznej Inteligencji (“Rada”). Celem jej działania ma być zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. Uprawnienie do zgłaszania kandydatur do Rady zostało ograniczone poprzez przepis art. 28 ust. 3 projektowanej ustawy, zawierający wskazanie podmiotów oraz kategorii podmiotów, które mogą z tego prawa skorzystać. Zdaniem Fundacji należy rozważyć rozszerzenie katalogu zawartego w ww. przepisie w zakresie organizacji pozarządowych tj. w zakresie art. 28 ust. 3 pkt 7. Komentowany przepis wskazuje, że kandydatów na członków Rady mogą zgłosić fundacje lub stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Naszym zdaniem cennym źródłem wskazywania kandydatów do Rady byłyby również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które są w stanie wykazać się działalnością na rzecz rozwoju sztucznej inteligencji lub, których działalność statutowa jest związana z wspieraniem rozwoju sztucznej inteligencji. Proponowane rozwiązanie mogłoby wpłynąć na większą różnorodność kandydatur zgłaszanych na członków Rady Uwaga ogólna SIODO 1. art. 3 pkt 4) rozporządzenia 2024/1689;- „użytkownik” oznacza osobą fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które korzystają z systemu sztucznej inteligencji pod swoją kontrolą, z wyjątkiem sytuacji, gdy system sztucznej inteligencji jest wykorzystywany w ramach osobistej działalności pozazawodowej: 1) z uwagi na potrzebę jednoznacznego zdefiniowania podmiotu operującego narzędziami sztucznej inteligencji, 2) w tym komunikowanie publiczne (BIP)o wykorzystaniu narzędzi sztucznej inteligencji w działaniach podmiotu; 3) możliwość rezygnacji z usług podmiotu wykorzystującego narzędzia sztucznej inteligencji oraz alternatywne rozwiązania jako poszanowanie podstawowych praw osób o decydowaniu o sobie (lub stosowne uzasadnione ustawowe ograniczenie praw) 2. stosownie do zapisów Artykuł 29 rozporządzenia 2024/1689 – określenie osoby funkcyjnej (np. pełnomocnik wójta, burmistrza d/s cyberbezpieczeństwa i sztucznej inteligencji) u użytkownika (podmiotu lub organu publicznego) monitorującego działanie systemu sztucznej inteligencji. W tym: pozycję osoby w strukturze jednostki organizacyjnej, minimalny zakres uprawnień i obowiązków w stosunku do personelu i narządzi, którymi personel się posługuje, a także kwalifikacje zawodowe jakie powinien wykazywać przed kierownictwem jednostki organizacyjnej jako gwarancji sprawowania właściwego nadzoru 18 Uwaga ogólna Stowarzyszenie Autorów i Wydawców Copyright Polska W imieniu Stowarzyszenia Autorów i Wydawców Copyright Polska, organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi działającej w imieniu i w interesie autorów i wydawców utworów słownych, przekazuję uwagi w ramach konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71), dalej: projekt, udostępnionej publicznie do zgłaszania uwag w dniu 16 października 2024 r. w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny. Z aprobatą przyjmujemy szybkie opracowanie przez Ministerstwo Cyfryzacji konsultowanego projektu wobec obowiązywania rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji – Aktu o sztucznej inteligencji, wymagającego zapewnienia uczestnikom obrotu pewności prawa. Zgłaszamy w ramach konsultacji publicznych uwagi służące przede wszystkim uzupełnieniu istotnej luki projektu – to jest zapewnienia udziału uprawnionych lub podmiotów ich reprezentujących w gremiach decyzyjnych i doradczych powoływanych w projekcie do życia . Uwagi te wynikają z zupełnego pominięcia przez projekt kwestii ochrony praw autorskich i praw pokrewnych, podczas gdy Akt o sztucznej inteligencji odnosi się do tych zagadnień w motywach od 104 do 109 oraz w art. 53 ust. 1 lit. c), zgodnie z którym dostawcy modeli AI ogólnego przeznaczenia wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności [to znaczy nie wyłącznie – dopisek SAiW CP] z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790. Skoro konsultowany projekt ma służyć stworzeniu rzeczywistego i skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, to nie powinien pomijać realnej możliwości reprezentowania w tym systemie interesów licznych podmiotów, którym służą prawa autorskie i prawa pokrewne do treści użytych i używanych do trenowania (uczenia) sztucznej inteligencji. Bez treści autorskich narzędzia AI nie nabyłyby funkcjonalności, które posiadają i które rozwijają w procesie ciągłego uczenia się. Projektowana ustawa winna z tego powodu zapewniać realny udział i decyzyjność organów reprezentujących podmioty autorskouprawnione oraz konsultacyjną rolę ich organizacji w pracach ciał powoływanych przez nią do życia. Póki co nie znajdziemy w projekcie żadnego odniesienia wprost do praw autorskich, ani mocniejszego niż fakultatywne uprawnienia jakiegokolwiek podmiotu, który mógłby strzec ich poszanowania w operacyjnym działaniu organów tworzonych przez nową ustawę o sztucznej inteligencji. 19 Podstawowy wedle projektu organ – Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej: Komisja – ma posiadać ustawą kompetencję wydawania interpretacji, generalnych i indywidualnych, w sprawach stosowania Aktu o sztucznej inteligencji. Póki co, właściwie od dobrej woli Komisji zależy zaproszenie do takich spraw w roli uczestników prac podmiotów reprezentujących interes uprawnionych. Proponujemy więc, by przedstawiciel Ministra Kultury był nie tylko fakultatywnym członkiem Komisji, ale by rozważyć jego bardziej sformalizowany, stały udział w jej pracach lub by konsultacja z nim przez Komisję była obligatoryjna we wszelkich sprawach rozpatrywanych przed Komisją, które wprost dotyczą lub odnoszą się do kwestii ochrony praw autorskich i praw pokrewnych. Jedną z metod regulacji może być uznanie tego Ministra za wchodzącego w skład Komisji, co dawałoby mu wpływ na powoływanie składu Rady Społecznej, a inną metodą regulacji może być ujęcie Ministra Kultury w art. 6 ust. 3) projektu, jako podmiotu współpracującego z Komisją w zakresie spraw, o których mowa w art. 53 ust. 1 lit. c) rozporządzenia 2024/1689. Uwaga ogólna Polskie Towarzystwo Informatyczne Po pierwsze, zasadnicze znaczenie ma osadzenie AI Act w szerszym - i nadrzędnym - kontekście normatywnym, czyli unijnej koncepcji ‘trustworthy A’I, która obejmuje etykę, prawo i solidność techniczną. Koncepcja ta jest wywiedziona z praw podstawowych (poszanowanie godności ludzkiej; wolność jednostki; poszanowanie demokracji, sprawiedliwości i praworządności; równość, brak dyskryminacji i solidarność; prawa obywatelskie), a jej 7 wymogów (przewodnia i nadzorcza rola człowieka; techniczna solidność i bezpieczeństwo; ochrona prywatności i zarządzanie danymi; przejrzystość; różnorodność, niedyskryminacja i sprawiedliwość; dobrostan społeczny i środowiskowy; odpowiedzialność) wraz z dokumentem, z którego pochodzą (Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji) jest explicite przywołanych w 27 motywie Preambule AI Act (co prawda w rozporządzeniu są one określone mianem zasad, co jest nieco mylące, bo zasady ‘trustworthy AI’ to coś innego niż wymogi, niemniej ich przytoczenie rozwiewa wątpliwości). Na koniec motywu stwierdza się: \"Stosowanie tych zasad powinno w miarę możliwości znaleźć odzwierciedlenie w projektowaniu i wykorzystywaniu systemów i modeli AI. Zasady te powinny w każdym przypadku stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Wszystkie zainteresowane strony, w tym przedstawicieli przemysłu (w tym ich wewnętrznych działów badań i innowacji), środowisko akademickie, społeczeństwo obywatelskie i organizacje normalizacyjne, zachęca się, by przy opracowywaniu dobrowolnych najlepszych praktyk i norm uwzględniali odpowiednio przedmiotowe zasady etyczne.\" Nie ulega zatem wątpliwości, że nadrzędnymi wartościami przyświecającymi prawu dot. AI są prawa podstawowe oraz dobrostan ludzki i środowiskowy, zaś podstawowym kryterium oceny 20 technologii winno być to, czy w danym przypadku możliwe jest zapewnienie zgodności z tymi wartościami, prawami, zasadami i wymogami. W tym świetle interesariuszami ‘AI governance’ są więc nie tylko władza ustawodawcza i wykonawcza oraz przedsiębiorcy, ale - przede wszystkim - społeczeństwo oraz środowisko (co jest szczególnie istotne w kontekście tzw. negatywnych kosztów zewnętrznych AI, szczególnie deep learningu i genAI). Z kolei warunkiem zapewnienia zgodności z wymogami prawa jest zarówno rzetelne przeprowadzenie procedur oceny zgodności i oceny ryzyka, jak i dostępność odpowiednich standardów i metod umożliwiających operacjonalizację wartości, zasad i wymogów w konkretnej praktyce projektowej, które są wypracowywane na gruncie interdyscyplinarnych prac obejmujących nie tylko badania nad AI, ale również szeroko pojętą etykę AI. W przeciwnym razie zgodność z AI Act będzie bardzo powierzchowna i sprowadzi się do zapewnienia formalnego compliance w postaci procedur, których nikt nie będzie urzeczywistniał w praktyce rozwijania i wdrażania systemów AI. Uwaga ogólna AI Chamber Sztuczna inteligencja ma potencjał przeobrażenia prawie każdej sfery naszego życia i gospodarki, radykalnie podnosząc wydajność i bogactwo państw, które wezmą aktywny udział w tej rewolucji, tworząc te technologie lub przynajmniej adaptując je do swoich potrzeb i wdrażając odpowiednio szybko i skutecznie. Tego myślenia, zdaniem Izby, brakuje w przedstawionym projekcie ustawy, który zgodnie z europejskimi trendami, traktuje SI i podmioty ją tworzące jako zagrożenie dla interesu społecznego i ustanawia sztywny i skomplikowany system kontroli przestrzegania przepisów Aktu o SI. Brakuje praktycznie całkowicie wśród przedstawionych przepisów tych, które realizują wskazany w uzasadnieniu ustawy cel podjęcia stosownych środków “zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up”. W szczególności wskazujemy tu brak rozwiązań tworzących piaskownice regulacyjne. Zasłanianie się tu odległymi terminami czy brakiem wytycznych KE nie znajduje uzasadnienia. Jeżeli chcemy, aby Polska była na czele rozwoju SI to tego typu rozwiązania muszą powstać jak najszybciej. Tempo rozwoju SI jest tak duże, że za dwa czy trzy lata zapóźnienie technologicznie może być już zbyt wielkie. Polska ma dobrą pozycję do wzięcia aktywnego udziału w tej rewolucji - mamy utalentowanych twórców technologii, prężne ośrodki badawcze i pewne grono przedsiębiorców będących w forpoczcie adopcji AI. Państwo tu jednak musi podjąć stanowcze, konsekwentne i skoordynowane międzyresortowo działania mające na celu udzielenie tym środowiskom wsparcia, czego nie widzimy w przedstawionym projekcie. Projekt czerpie obszernie rozwiązania z istniejących już instytucji, w szczególności powoływana Komisja ds. Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI lub Komisja) wzorowana jest na Komisji Nadzoru Finansowego, a poszczególne przepisy są częściowo wprost 21 przeniesione z ustawy o nadzorze rynku finansowego. Takie podejście ma swoje zalety i adaptacja sprawdzonych rozwiązań ma wiele zalet. Wskazujemy jednak na to, że sztuczna inteligencja jako technologia znajdująca zastosowania horyzontalnie w niemal każdym sektorze gospodarki i dziedzinie życia, zasadniczo odbiega od usług finansowych, które są ściśle zdefiniowanym rynkiem usług danego typu. Co więcej - usługi finansowe mają szczególne cechy, które wymagają ścisłej kontroli ich wykonywania i ochrony konsumentów przed nadużyciami. Nie można tego samego powiedzieć o SI, z pewnością nie w większości przypadków. Tworzenie wobec tego instytucji nadzoru wedle tych samych wzorców budzi poważne wątpliwości. Ustawa w innych miejscach też adoptuje rozwiązania z innych ustaw, wprowadzając jednak do nich nie zawsze zrozumiałe i celowe zmiany, zamiast odesłać w danym zakresie w całości do obowiązujących już ustaw. Taka technika prawodawcza nie zawsze wydaje się być właściwa i skuteczna, powodując niepotrzebne wątpliwości i odstępstwa od ustalonych już instytucji prawnych (jak np. interpretacja indywidualna, uregulowana w ustawie Prawo przedsiębiorców). Uwaga ogólna Związek Banków Polskich Postulat doprecyzowania pojęcia tajemnic prawnie chronionych. Należy zgłosić postulat dokonania zmian w odpowiednich przepisach sektorowych, jeżeli ma to obejmować tajemnice typu bankowa, ubezpieczeniowa i in. Jeżeli Komisja miałaby mieć dostęp do tajemnicy typu tajemnica bankowa, ubezpieczeniowa, niezbędne są zmiany w sektorowych aktach prawnych poprzez dodanie tego podmiotu jako uprawnionego do żądania informacji objętych tego typu tajemnicą. Niedoprecyzowany pozostaje tryb rejestrowania Systemów SI wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Ustawa niewystarczająco odpowiednio reguluje kwestie zależności (w szczególności zgodności) rozporządzenia 2024/1689 z innymi przepisani lokalnymi, które obecnie obowiązują w obszarach mniej lub bardziej bezpośrednio związanych z obszarem, którego dotyczy rozporządzenie. W szczególności chodzi o wymogi wydanej przez KNF Rekomendacji W zakresie zarządzania ryzykiem modeli w Bankach i odpowiedzi na podstawowe pytanie, czy modele zdefiniowane przez instytucję finansową jako modele AI podlegają definicji pod wymogi rekomendacji W czy też nie podlegają. Dodatkowo ustawa powinna obligować organy wydające przepisy, o których mowa do ich aktualizacji z uwzględnieniem przepisów rozporządzenia. Uwaga ogólna PIKE 1. Centralizacja wdrożenia AI 22 Najistotniejszym zarzutem wobec projektu ustawy AI jest brak faktycznej centralizacji regulacji w zakresie AI oraz wyznaczenia jednoznacznie odpowiedzialnych osób za jej wdrożenie. Na czele organu nadzoru rynku w zakresie systemów sztucznej inteligencji powinna stać wyłącznie jedna, konkretnie wskazana osoba, podobnie jak w przypadku Urzędu Komunikacji Elektronicznej czy Urzędu Ochrony Danych Osobowych. W żadnym wypadku nie powinien być to organ kolegialny (Komisja) składający się z aż 12 członków o różnych podejściach do gospodarki – jak w UOKiK, RPO czy RPDz. Taka struktura organu kolegialnego skutkowałaby wewnętrznymi sporami, brakiem spójnej polityki regulacyjnej oraz niejednolitym orzecznictwem. Zjawiska te znacząco ograniczą wdrażanie sztucznej inteligencji w Polsce, a ponadto utrudnią realizację postanowień unijnego rozporządzenia 2024/1689. Należy zwrócić uwagę, że projekt ustawy AI, ze względu na kolegialny skład proponowanego organu, już wykazuje sprzeczności w zakresie decyzyjnym. Dotyczy to przede wszystkim interpretacji wydawanych przez dwa różne podmioty (Komisję i jej Przewodniczącego), co docelowo prowadzi do niezgodności tych stanowisk. Izba stanowczo podkreśla, że utworzenie jednoosobowego organu regulacyjnego jest kluczowe dla skuteczności jego działań. Inne instytucje powinny pełnić wyłącznie rolę doradczą, przy czym ich skład powinien mieć charakter ekspercki - naukowy i gospodarczy – nie zaś „społeczny”. 2. Charakter organu nadzorującego Opracowanie i wdrożenie sztucznej inteligencji w Polsce powinno być domeną naukowców - informatyków oraz przedstawicieli przemysłu. Tymczasem obecny kształt projektu ustawy AI całkowicie ich pomija przy podziale stanowisk i zadań. Jest to sytuacja, na którą nie można się zgodzić, gdyż spowoduje istotne opóźnienia Polski w dziedzinie rozwoju oraz stosowania sztucznej inteligencji. W opinii Izby, projektowana ustawa AI wymaga odrzucenia i opracowania w całkowicie nowej formie. PIKE z niepokojem zauważa, że skład Komisji ma charakter silnie społeczny, a nie naukowy czy gospodarczy. To wskazuje, że działania Komisji będą się koncentrować na priorytetach bezpośrednio niepowiązanych z innowacyjnością czy gospodarką. Taka struktura (nawet bardziej niż kolegialność) będzie miała negatywny wpływ na wdrożenie AI w Polsce. W przypadku nieuwzględnienia naszego postulatu o ustanowienie jednoosobowego organu nadzorującego, rekomendujemy całkowitą zmianę składu Komisji. Powinni w niej zasiadać przede wszystkim osoby ze środowisk naukowych, związanych z informatyką oraz przedstawiciele przemysłu, zwłaszcza branży ICT. Zaskakującym pozostaje, że projekt ustawy AI nie przewiduje żadnej roli dla Państwowego Instytutu Badawczego NASK, który powinien odgrywać kluczową rolę w rozwoju sztucznej inteligencji. Podkreślamy, że tylko proponowany przez Izbę skład organu zapewni, iż jego priorytetem pozostanie rozwój gospodarczy i realizacja założeń Strategii Cyfryzacji Państwa. W przypadku odrzucenia naszych postulatów dotyczących zmiany składu Komisji oraz Rady, wyrażamy obawę, że ucierpi na tym konkurencyjność polskiej gospodarki względem państw 23 bardziej przychylnych naukowcom i przedsiębiorcom, takich jak kraje Europy Zachodniej, USA czy Korea Południowa. W przypadku tak innowacyjnego produktu, jakim jest AI, stanowi to poważne zagrożenie, gdyż polscy naukowcy mogą zechcieć ją rozwijać w bardziej przyjaznych im środowiskach regulacyjnych. Z kolei polski przemysł będzie skłonny wdrażać rozwiązania AI opracowane w gospodarkach o bardziej prorozwojowej polityce, korzystając z zasad otwartego rynku UE. W konsekwencji sztuczna inteligencja (jako oprogramowanie stosowane m.in. w sieci Internet) może stać się w Polsce produktem zewnętrznym, co jeszcze bardziej pogłębi nasze cyfrowe zacofanie. 3. Procedury działania Projektowany kolegialny charakter głównego organu regulacyjnego AI oraz liczba instytucji „współpracujących” powoduje, że projekt ustawy przewiduje skomplikowane i mało efektywne procedury. W opinii Izby, działania organów ds. AI powinny zostać oparte na przepisach kodeksu postępowania administracyjnego, z całym jego orzecznictwem i doktryną. Ponadto, zasady współpracy między poszczególnymi organami powinny być precyzyjniej określone, zarówno w zakresie rozgraniczenia ich kompetencji, jak i wzajemnego wpływu wydawanych decyzji, rekomendacji oraz zaleceń. W obecnym kształcie projekt ustawy AI wydaje się być zbiorem sugestii różnych instytucji aspirujących do udziału w procesie regulacyjnym, lecz bez jasno określonych relacji, zarówno w zakresie przyjętej linii decyzyjnej, jak też uzgodnień. Większość tych zastrzeżeń byłoby nieaktualnych, gdyby uwzględniono postulat Izby dotyczący centralizacji organu nadzorującego i jego jednoosobowego charakteru. Podsumowując, Izba kładzie nacisk na konieczność całkowitego przekształcenia projektu ustawy AI w odniesieniu do celów, którym powinna służyć sztuczna inteligencja oraz określenia podmiotów już zaangażowanych w jej rozwój i wdrożenie. W związku z powyższym, proponujemy zorganizowanie konferencji uzgodnieniowej z udziałem przedstawicieli nauki, środowiska informatycznego oraz biznesu, na której możliwe byłoby wspólne wypracowanie celów, którym ma służyć wdrożenie unijnego rozporządzenia 2024/1698 w Polsce, a także przekształcenie projektu ustawy AI z uwzględnieniem tych priorytetów. Uwaga ogólna Fundacja FinTech Poland W ramach rekomendacji o charakterze ogólnym zwracamy uwagą na potrzebę rozważenia rewizji projektu pod kątem zapewnienia konkurencyjności polskiego systemu prawnego w stosunku do regulacji dotyczących AI w innych państwach. W sytuacji braku polskich podmiotów odgrywających czołową rolę w kształtowaniu rozwiązań AI na poziomie globalnym (zarówno w środowisku akademickim, jak i wśród dostawców rozwiązań biznesowych), a także wyraźnych ambicji Polski w tym zakresie (np. Polityka Rozwoju AI w Polsce, plany funduszy na rzecz AI, dynamiczny rozwój ośrodków takich jak IDEAS NCBiR), kluczowe jest stworzenie przyjaznego otoczenia prawnego dla rozwoju tej technologii. Istotne w tym zakresie jest budowanie zachęt i sprzyjających warunków rozwoju dla AI (oczywiście w granicach wyznaczonych przez AI Act) oraz eliminacja nadmiernych barier dla inwestycji i indywidualnej kreatywności. Wykorzystanie 24 nadmiarowych narzędzi kontroli, takich jak np. wysokie kary finansowe czy długotrwała konfiskata sprzętu, może prowadzić do znacznego zahamowania rozwoju AI w Polsce, a tym samym obniżenia konkurencyjności polskiej gospodarki. Uwagi ogólne (piaskownice) HAERGI SP.ZOO Chciałbym zwrócić uwagę na kwestię piaskownic regulacyjnych w kontekście rozwoju startupów z sektora sztucznej inteligencji (AI). Mimo iż teoretycznie mają one stanowić bezpieczne środowisko testowe dla firm, w praktyce mogą one napotkać poważne ograniczenia, które utrudnią ich efektywne działanie. Piaskownice regulacyjne – szansa czy ograniczenie? Zgodnie z założeniami, piaskownice regulacyjne miałyby zapewnić firmom możliwość testowania innowacyjnych rozwiązań AI w bezpiecznych, kontrolowanych warunkach, bez ryzyka naruszenia przepisów. Jednak w praktyce startupy AI potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych – takich jak karty GPU czy usługi chmurowe – aby rozwijać swoje technologie. Obecnie na rynku obserwujemy niedobór tych zasobów, co stanowi poważne ograniczenie dla firm działających w tej branży. Problem infrastrukturalny Budowa i utrzymanie infrastruktury obliczeniowej na potrzeby piaskownic regulacyjnych wiąże się z ogromnymi kosztami. Państwo musiałoby ponieść znaczące wydatki, aby stworzyć zasoby, które choćby w części dorównują ofertom komercyjnych dostawców, takich jak Microsoft (Azure) czy Amazon (AWS). W związku z tym pojawia się pytanie, czy tego typu inwestycja jest opłacalna z punktu widzenia budżetu państwa i czy piaskownice rzeczywiście będą stanowiły wystarczającą zachętę dla startupów. Rządowa Chmura Obliczeniowa (RCO) Zgodnie z przepisami Rządowa Chmura Obliczeniowa (RCO) jest dostępna jedynie dla podmiotów administracji publicznej, co ogranicza możliwość korzystania z jej zasobów przez startupy z sektora prywatnego. To dodatkowo komplikuje sytuację firm AI, które potrzebują skalowalnych zasobów chmurowych. Alternatywne rozwiązania Zamiast koncentrować się na budowie piaskownic regulacyjnych, warto rozważyć inne formy wsparcia dla startupów AI, które mogą okazać się bardziej efektywne i mniej kosztowne: 1. Subwencje i granty – Państwo mogłoby udzielać firmom dotacji na korzystanie z zasobów komercyjnych platform obliczeniowych, takich jak AWS, Azure czy Google Cloud. Takie wsparcie umożliwiłoby startupom trenowanie modeli AI na najlepszych dostępnych narzędziach, jednocześnie minimalizując obciążenia budżetowe. 2. Partnerstwa z globalnymi dostawcami – Rząd mógłby nawiązać współpracę z technologicznymi gigantami, takimi jak Microsoft czy Amazon, aby oferować firmom zniżki na korzystanie z ich usług. Takie partnerstwa mogłyby zapewnić startupom dostępdo skalowalnych i zaawansowanych zasobów, bez konieczności budowy własnej 25 infrastruktury. 3. Akceleratory i wsparcie naukowe – Państwo mogłoby zainwestować w programy akceleracyjne, które łączyłyby wsparcie finansowe z mentoringiem w zakresie AI, jednocześnie pomagając firmom dostosować się do wymogów regulacyjnych. Współpraca z uczelniami oraz innymi podmiotami technologicznymi mogłaby znacząco przyspieszyć proces wdrażania innowacyjnych rozwiązań na rynek. Czy piaskownice są wystarczającym rozwiązaniem? W obecnym kształcie piaskownice regulacyjne mogą nie spełniać oczekiwań firm z sektora AI, które potrzebują przede wszystkim dostępu do zaawansowanych zasobów obliczeniowych i wsparcia merytorycznego. Startupy prawdopodobnie będą preferować korzystanie z usług globalnych dostawców chmurowych, które oferują niezawodność, skalowalność i dostęp do najnowszych technologii. Zamiast koncentrować się na kosztownej budowie piaskownic, lepszym rozwiązaniem byłoby wsparcie startupów w postaci subwencji, partnerstw z globalnymi firmami oraz programów akceleracyjnych. W ten sposób państwo mogłoby efektywnie wspierać innowacje, minimalizując jednocześnie obciążenia budżetowe. Uwaga ogólna Związek Cyfrowa Polska Niewystarczającą ochronę informacji i wrażliwych danych. Zarówno na etapie prowadzonych przez organ kontroli, jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa (w tym wrażliwych informacji oraz danych). Uwaga ogólna generationis.ai S.A. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Popieramy utworzenie Komisji Rozwoju i Bezpieczeństwa AI, która będzie monitorować rynek i wspierać przedsiębiorców. Sugerujemy jednak, aby Komisja regularnie konsultowała swoje działania z firmami technologicznymi, aby przepisy były dostosowane do rzeczywistych wyzwań branży AI, co zapewni lepszą integrację potrzeb rynku z regulacjami. 2. Rada Społeczna jako organ opiniodawczy Włączenie szerokiego grona interesariuszy, w tym organizacji pozarządowych i przedsiębiorców, jest kluczowym krokiem. Proponujemy, aby w skład Rady weszli również przedstawiciele firm notowanych na rynkach finansowych, c zapewniłoby równowagę między interesami społecznymi a gospodarczymi. Rada powinna także dążyć do promowania dialogu międzysektorowego w zakresie wdrażania AI. 3. Wpływ na innowacje i koszty zgodności Obawiamy się, że wymogi związane z systemami AI wysokiego ryzyka, które zgodnie z harmonogramem AI Act będą musiały być w pełni zgodne z przepisami do 2 sierpnia 2027 roku, mogą generować znaczne koszty zgodności, co w szczególności dotknie małe i średnie przedsiębiorstwa (MŚP). Kluczowe będzie zrozumienie, jak przepisy te wpłyną na konkurencyjność polskich firm na rynku międzynarodowym. 26 Propozycja: Ministerstwo mogłoby rozważyć wprowadzenie programów wsparcia finansowego lub ulg podatkowych dla firm, które będą musiały ponieść znaczne koszty związane z wdrożeniem nowych wymogów. Ponadto elastyczne podejście do wczesnych etapów wdrażania regulacji pomogłoby firmom dostosować swoje operacje bez ryzyka zahamowania innowacyjności. 4. Brak przygotowania firm do wdrożenia przepisów Nasze obserwacje wskazują, że znaczna liczba firm nie jest jeszcze gotowa na wdrożenie wymogów AI Act. W rzeczywistości, blisko 99% przedsiębiorstw w Polsce nie podjęło jeszcze konkretnych działań w tym kierunku, co stwarza ryzyko opóźnień w implementacji. Wiele firm zgłasza również potrzebę dłuższego okresu adaptacyjnego, aby lepiej przygotować się na spełnienie nowych wymogów regulacyjnych. Propozycja: Sugerujemy stopniowe wdrażanie bardziej złożonych wymogów, dając firmom czas na adaptację. Może to zmniejszyć obciążenie operacyjne i koszty wdrożenia, jednocześnie zapewniając zgodność z przepisami na czas. 5. Piaskownice regulacyjne dla systemów wysokiego ryzyka Tworzenie piaskownic regulacyjnych dla systemów wysokiego ryzyka to pozytywny krok w kierunku promowania innowacji, ale konieczne jest, aby te platformy były dostępne nie tylko dla dużych firm, ale także dla start-upów i MŚP, które często są motorem rozwoju innowacyjnych rozwiązań. Propozycja: Sugerujemy wprowadzenie programu wsparcia dla firm testujących nowe technologie AI w piaskownicach regulacyjnych. Ważne jest, aby elastyczne podejście do nowych graczy pozwoliło im na dynamiczny rozwój, jednocześnie zachowując bezpieczeństwo i zgodność z przepisami. 6. Harmonizacja międzynarodowa Jednym z kluczowych wyzwań będzie zapewnienie, że przepisy unijne zostaną zharmonizowane z regulacjami w innych dużych jurysdykcjach, takich jak Stany Zjednoczone czy Chiny. Różnice regulacyjne mogą prowadzić do konfliktów prawnych oraz dodatkowych obciążeń administracyjnych, szczególnie dla firm działających na globalnym rynku. Harmonizacja może pomóc w budowaniu jednolitego standardu i wzmacnianiu konkurencyjności firm na arenie międzynarodowej. Propozycja: Współpraca Ministerstwa z partnerami międzynarodowymi, w tym z Unią Europejską i innymi dużymi rynkami, jest kluczowa dla minimalizacji tych ryzyk. Sugerujemy, aby Ministerstwo podjęło kroki w kierunku harmonizacji przepisów z normami globalnymi, co pozwoliłoby polskim firmom z sektora AI skutecznie konkurować na światowych rynkach. 7. Zgodność z przepisami rynku kapitałowego Jako spółka notowana na Giełdzie Papierów Wartościowych w Warszawie, działamy zgodnie z regulacjami giełdowymi oraz kodeksem dobrych praktyk spółek publicznych. Uważamy, że zaproponowane zmiany prawne w zakresie AI mogą mieć bezpośredni wpływ na działalność firm notowanych na giełdzie, co wymaga elastycznego podejścia regulacyjnego. Prosimy, aby 27 Ministerstwo uwzględniło specyfikę firm giełdowych, które muszą przestrzegać obowiązków wobec akcjonariuszy i dostosowywać się do wymogów giełdowych. 8. Obowiązki wobec akcjonariuszy Działając w imieniu naszych akcjonariuszy, których interesy musimy chronić, dążymy do zapewnienia, aby regulacje dotyczące AI wspierały długoterminowy rozwój spółek giełdowych, bez nadmiernych kosztów administracyjnych. Ważne jest, aby nowe przepisy były skrojone w taki sposób, by pozwalały firmom utrzymać swoją konkurencyjność na globalnym rynku, a jednocześnie wypełniać obowiązki wobec inwestorów. 9. Wpływ na wycenę rynkową i inwestycje Regulacje, które mogą znacząco podnosić koszty operacyjne firm, mogą również wpłynąć na ich wycenę rynkową oraz zdolność do przyciągania inwestorów. Z tego względu kluczowe jest, aby przepisy były przewidywalne, a ich wprowadzanie odbywało się stopniowo, aby firmy mogły dostosować się do nowych wymogów bez nadmiernych obciążeń finansowych. Propozycja: Ministerstwo powinno zwrócić szczególną uwagę na długoterminowy wpływ przepisów na wartość rynkową spółek i zaprojektować regulacje tak, aby wspierały ich rozwój na rynkach międzynarodowych, zapewniając stabilność finansową i konkurencyjność. 10. Raportowanie i obowiązki informacyjne Spółki notowane na giełdzie mają obowiązki informacyjne względem akcjonariuszy i organów nadzoru, co generuje dodatkowe koszty administracyjne. Prosimy, aby Ministerstwo uwzględniło te kwestie przy tworzeniu nowych przepisów, aby nie nakładać nadmiernych obciążeń na firmy w kontekście raportowania dotyczącego AI. Propozycja: Sugerujemy wprowadzenie przepisów, które minimalizują obciążenia administracyjne związane z obowiązkami raportowymi dla firm giełdowych, co pozwoli na efektywniejsze zarządzanie zasobami i lepsze dostosowanie się do regulacji. 11. Rekomendacje najlepszych praktyk w AI Promowanie etycznego i efektywnego wdrażania sztucznej inteligencji jest kluczowym elementem budowania zaufania do tej technologii. Zwracamy uwagę, że wprowadzanie standardów etycznych powinno być spójne z międzynarodowymi regulacjami i normami, co pozwoli polskim firmom skutecznie konkurować na globalnych rynkach. Ważne jest również, aby przepisy uwzględniały ochronę prywatności użytkowników oraz transparentność działania systemów AI. Propozycja: Rekomendujemy, aby Ministerstwo opracowało wytyczne promujące najlepsze praktyki w zakresie etyki i transparentności w AI, z uwzględnieniem standardów międzynarodowych oraz współpracy z instytucjami zajmującymi się etyką AI. Takie wytyczne mogą przyczynić się do zwiększenia konkurencyjności polskich firm na arenie międzynarodowej. 12. Ochrona etycznych praktyk marketingowych z wykorzystaniem AI Zalecamy, aby w ramach wdrażania przepisów dotyczących sztucznej inteligencji, Ministerstwo uwzględniło rozróżnienie pomiędzy etycznym wpływem marketingowym a manipulacją. Systemy AI wykorzystywane w marketingu często działają w oparciu o dane użytkowników, aby lepiej 28 dostosować oferty do ich preferencji, co stanowi wartość zarówno dla konsumentów, jak i przedsiębiorstw. Ważne jest, aby: • Personalizacja reklam oparta na danych była przejrzysta dla użytkowników, a dane były wykorzystywane etycznie, zgodnie z prawem i przy pełnej zgodzie użytkownika. • Rozróżniać etyczne wpływanie na decyzje konsumenckie od manipulacji. Marketing ma na celu wpływanie na konsumentów, ale nie powinien wykorzystywać technik, które naruszają autonomię decyzji, takie jak podstępne techniki perswazji czy niejawne wywieranie wpływu. • Działania marketingowe zgodne z etyką nie były traktowane jako systemy manipulujące w rozumieniu przepisów wchodzących w życie 2 lutego 2025 r. Proponujemy zatem, aby Ministerstwo stworzyło jasne wytyczne dla firm, które pozwolą skutecznie rozróżnić działania marketingowe zgodne z etyką od potencjalnie manipulacyjnych praktyk, zapewniając jednocześnie bezpieczeństwo użytkowników i przejrzystość działań firm z sektora AI. Dodatkowe spostrzeżenia inspirowane podejściem USA 1. Nacisk na innowacje i badania Stany Zjednoczone, za pomocą National AI Initiative Act (2020), kładą duży nacisk na wspieranie badań naukowych oraz rozwój technologii AI poprzez dedykowane centra badawcze i edukacyjne. Polska mogłaby zainspirować się tym podejściem, wprowadzając mechanizmy promujące współpracę akademicką i przemysłową oraz tworzenie specjalistycznych ośrodków AI w kraju. Adaptacja w Polsce: Wprowadzenie programów wspierających długoterminowe badania nad AI, finansowanych zarówno przez rząd, jak i sektor prywatny, mogłoby przyspieszyć rozwój zaawansowanych technologii w Polsce. 2. Ochrona praw obywatelskich i przejrzystość Blueprint for an AI Bill of Rights (2022) w USA koncentruje się na ochronie prywatności obywateli oraz wprowadzeniu przejrzystości w działaniu systemów AI. Polska mogłaby czerpać z tego podejścia, w szczególności w celu wzmocnienia przepisów chroniących obywateli przed potencjalnymi zagrożeniami wynikającymi z nieetycznego lub nieodpowiedzialnego korzystania z AI. 3.Edukacja i rozwój kompetencji w AI Stany Zjednoczone mocno inwestują w edukację i rozwój kompetencji w zakresie sztucznej inteligencji. Polska mogłaby rozwinąć podobne programy, aby zwiększyć konkurencyjność swoich talentów na rynku międzynarodowym. Adaptacja w Polsce: Intensyfikacja programów edukacyjnych, kursów oraz stypendiów związanych z AI mogłaby przyczynić się do wzrostu liczby specjalistów gotowych do pracy w tej branży. Proponowane regulacje, w połączeniu z kluczowymi terminami określonymi przez AI Act, mogą stać się fundamentem przyszłościowej gospodarki Polski opartej na innowacjach. 29 Wierzymy, że elastyczność w dostosowywaniu regulacji oraz ścisła współpraca między sektorem publicznym i prywatnym przyczynią się do dynamicznego rozwoju sektora sztucznej inteligencji. Z przyjemnością oferujemy nasze wsparcie i liczymy na dalszą współpracę z Ministerstwem Cyfryzacji. Uwaga ogólna Związek Cyfrowa Polska Procedury odwoławcze – kompetencje SOKiK. Od decyzji KRiBSI przysługuje przedsiębiorcy odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów („SOKiK”). Ustawodawca w związku z tym zrezygnował z zasady dwuinstancyjności i uregulował mechanizm odwoławczy przed SOKiK, na wzór procedur przed innymi organami regulacyjnymi, w szczególności UOKiK (art. 80 Projektu). Rozwiązanie to oceniamy pozytywnie, biorąc pod uwagę wcześniejsze nie najlepsze doświadczenie takich procedur dwuinstancyjnych, np. w zakresie przepisów o ochronie danych osobowych (gdy organ rozpatrując odwołania niezmiernie rzadko zmieniał bądź uchylał swoje wcześniejsze decyzje). Nie negując zatem samej zasadności jednoinstancyjnej procedury odwoławczej, zwracamy jedynie uwagę na kompetencję SOKiKu dla spraw o tak wysokim poziomie skomplikowania, złożoności i trudności materii nowych technologii i systemów AI. Uważamy, że należałoby poddać dalszej dyskusji przygotowanie i kompetencje sędziów orzekających w SOKiK do orzekania w sprawach na gruncie AI Act oraz krajowej ustawy. Poddajemy pod rozwagę wariant zmiany właściwości sądu dla spraw z zakresu AI z SOKiK na sądy właściwe ws. własności intelektualnej („Sąd IP”), w ramach których orzekający już sędziowie przeszli niezbędne szkolenia z zakresu IP, która to dziedzina jest częściowo związana z zagadnieniem AI, a tym samym Sądy IP mogą potencjalnie oferować wyższy poziom ekspertyzy na potrzeby rozpatrywania spraw z zakresu AI (alternatywnie, należałoby rozważyć zorganizowanie podobnego na wzór sędziów Sądów IP szkolenia przygotowującego do zagadnień AI dla sędziów SOKiK). Uwaga ogólna RELX 1. Preliminary Remarks In view of the business activities described above, RELX has a strong interest in the further development of the European Union's digital single market. We support the AI Regulation (EU 2024/1689) and would like to take the opportunity to participate in the exchange on the draft ‘Act on Artificial Intelligence Systems’ (projekt ustawy o systemach sztucznej inteligencji). In view of the creation of a ‘Commission for the Supervision of Artificial Intelligence Systems’ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji) in Poland, we would like to take this opportunity to highlight in our statement the points that are important to us regarding the way the Commission applies the law. 2. Uniform Legal Framework One of the major achievements of the AI Act is the creation of a uniform legal framework in the EU. The Regulation contributes to the proper functioning of the internal market and, by establishing uniform rules, creates a wide range of incentives that promote positive market development. This way, companies benefit from a stable environment, while consumers receive safer and more diverse products. 30 We therefore support a faithful application of the European AI Act to ensure consistency and avoid fragmented implementation that could hinder rather than support the European Digital Single Market Consistent Regulation and Market Supervision Consistent rules and practices ensure that transparency requirements are consistently enforced across the EU. This prevents regulatory gaps or inconsistencies that companies could exploit and ensures a level playing field in all member states. We support the important work of the AI market surveillance authorities, as they play a central role in the uniform enforcement of the AI Regulation. In this context, it is crucial that the authorities ensure that companies in all Member States follow the same high standards, thus creating a level playing field throughout the single market. This can only be achieved if the prerequisite of an EU- wide uniform interpretation of the AI Regulation is met. Therefore, a lot depends on how the future Polish market supervisory authority will issue general and individual interpretations pursuant to Art. 11 Sec. 1 No. 13 of the draft of the Artificial Intelligence Systems Act. Through their consistent actions, the supervisory authorities should create a stable and trustworthy environment for the development and use of AI throughout the EU. Therefore, we also support the work on uniform interpretations at the EU level. To this end, we are participating in the drafting of the EU Commission's General-Purpose AI (GPAI) Code of practice in order to promote a uniform EU-wide interpretation of the obligations set forth in Articles 53 and 55 of the AI Act for providers of general-purpose AI models. These obligations require GPAI model providers to make publicly available a summary about the training content (Article 53(1d)) and put in place policies to comply with Union law on copyright (Article 53(1c)). As the GPAI code of practice will outline these provisions in greater detail, it is essential to actively monitor developments to ensure consistent and uniform interpretation of these obligations by the supervisory authorities. Transparency RELX takes its responsibility as a downstream AI provider seriously. We are convinced that every link in the AI supply chain must contribute to the responsible development of AI. In doing so, it is important to us that our AI solutions are always in line with our Responsible AI Principles. Transparency plays a key role here: it ensures compliance with legal requirements and promotes ethical AI development. This is because LLMs can generate content that is illegal, harmful, misleading, offensive, or discriminatory and may affect the reputation, rights, or interests of individuals or groups. For example, researchers are concerned that their work will be misinterpreted and misused, or that it will not be properly attributed or contextualised. This risk is exacerbated by the lack of citation/quotation and links to the underlying sources that would prove the origin of the research findings. Transparency strengthens trust in AI products. It facilitates collaboration within the AI supply chain by creating a clear information base that drives innovation and enables responsible 31 further development. Furthermore, transparency helps to reduce liability risks and to avoid misuse or discriminatory results, paving the way for more sustainable and socially responsible AI use. Transparency and Copyright Transparency promotes the legitimacy of AI products by making the origin and nature of training data traceable. Compliance with copyright law is a particularly important aspect here, because trainingGPAI models involves copying content through text and data mining (TDM), which may be protected by EU copyright. Not only does the EU copyright law raise crucial questions of transparency, legality and accountability, but the AI Regulation also provides for transparency obligations. Accordingly, providers of general- purpose AI models (GPAI) must make publicly available a sufficiently detailed summary of the training content (Article 53(1d) of the AI Act) and take measures to comply with European copyright law (Article 53(1c) of the AI Act). The AI Act applies without prejudice to the DSM Directive 2019 and the Information Society Directive (InfoSoc) 2001, which together establish legal protection for copyright-protected works and exceptions to those rights. While the InfoSoc Directive establishes that owners have the exclusive right to non-temporary acts of reproduction, the DSM creates two exceptions for TDM. The first is for non-commercial research institutions with lawful access to reproduce works for the purposes of TDM. The second is an exception for commercial reproduction for TDM where there is lawful access, unless the rights holder explicitly reserves authorisation. These exceptions can only work effectively if rightsholders have a complete overview of the protected works reproduced for the purpose of training generative AI models. Such transparency facilitates tracking of the use of works and ensures that reproduction is lawful – whether through the valid use of an exception, under a licence or another commercial agreement. This, in turn, ensures that rightholders are adequately remunerated and that online copyright infringement is effectively combated. To make the transparency obligation meaningful and feasible, recital 107 of the AI Act further clarifies that the information in the sufficiently detailed summary should be ‘generally comprehensive’ to enable rightholders to ‘exercise and enforce their rights under Union law’ and thus implement the reservation of rights provided for in Article 4 of the DSM Directive. This would enable users of the generated results to have confidence in the accuracy and origin of the materials used to train the model. Transparency will thus facilitate tracking the use of copyrighted works and ensure that reproduction – for the purpose of training GPAI models, for example – is lawful. The responsible use of copyrighted content is crucial to protecting the rights of rights holders and minimising the risk of legal disputes. Transparency and Market Surveillance Authorities The enforcement of transparency obligations by market surveillance authorities plays a central role in this. These authorities ensure that companies fulfil their obligations and disclose the 32 required information. This not only builds trust in the market, but also prevents systematic violations that could distort competition. However, for the authorities to effectively enforce the AI Regulation, it will depend on the uniform application of the law within the EU to ensure consistent legal certainty across the Union. Tytuł ustawy Osoba fizyczna Tytuł ustawy - O systemach sztucznej inteligencji Treść ustawy skupia się na wykonywaniu nadzoru administracyjnego w obszarze wykorzystania systemów sztucznej inteligencji. Wskazanie ogólnego tytułu obejmującego szeroki zakres może prowadzić do nieporozumień i niejasności. Tytuł powinien być precyzyjniejszy i oddawać treść aktu prawnego. Dlatego należy w tytule określić główny przedmiot regulacji – nadzór. Proponowany tytuł: Ustawa o nadzorze nad systemami sztucznej inteligencji. Tytuł ustawy SKwP Jest: USTAWA z dnia ... 2024 r. o systemach sztucznej inteligencji Propozycja: Ustawa z dnia...2024 r. o Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uzasadnienie: Cała treść projektu dotyczy zasad funkcjonowania i zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tytuł ustawy ISSA Polska Z tytułu powinno wynikać, że ustawa stanowi doprecyzowanie oraz wdrożenie przepisów i zasad AI Act. Tymczasem tytuł projektu może powodować wrażenie, że ustawa stanowi regulację niezwiązaną z od AI Act. Tytuł ustawy Polskie Towarzystwo Informatyczne To nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM). Propozycja „o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz o innych mechanizmach nadzoru nad systemami sztucznej inteligencji” W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI” jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689 dostosowując ustawodawstwo Polski do wymogów jw. „Rozporządzenia” Tytuł ustawy Repropol Tytuł projektowanej ustawy, przy czym nie stanowi to najważniejszej kwestii, jest – w naszej ocenie – niewłaściwy. Jeśli stanowi on pierwszy z kilku zaplanowanych aktów wdrożeniowych, obecna propozycja stworzy w późniejszym okresie problemy z zatytułowaniem kolejnych ustaw wdrażających AIA. Ponadto, nie można stwierdzić, żeby sednem komentowanego Projektu były systemy sztucznej inteligencji. Jest nim raczej stworzenie administracyjno-technicznego aparatu służącego nadzorowaniu funkcjonowania systemów sztucznej inteligencji. Nie jest także jasne, 33 dlaczego tytuł wskazuje na „systemy”, a pomija „modele” sztucznej inteligencji, które na osi rozwoju systemów AI stanowią – w uproszczeniu – etap poprzedzający oddany do użytku system AI. Niezależnie od powyższego, Projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w AIA mowa o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, która na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie z akronimu „AI”, jako oznaczenie sztucznej inteligencji. Tytuł ustawy GRAI Zaproponowany tytuł projektowanej ustawy to ustawa o systemach sztucznej inteligencji. Zakres objęty tą ustawą skupia się jednak nie na systemach sztucznej inteligencji, ale ma na celu uregulowanie kwestii instytucjonalnych, proceduralnych i nadzorczych. Zgodnie z Zasadami Techniki Prawodawczej „przedmiot ustawy określa się możliwie najzwięźlej, jednakże w sposób adekwatnie informujący o jej treści”. Mając to na uwadze oraz faktyczny zakres przepisów projektu ustawy wątpliwości budzi zaproponowany tytuł. Zmiana tytułu ustawy na: „ustawa o nadzorze nad systemami sztucznej inteligencji” lub „ustawa o organizacji i sposobie sprawowania nadzoru nad rynkiem sztucznej inteligencji”. Tytuł ustawy Związek Banków Polskich Ustawa o systemach sztucznej inteligencji Ustawa o organizacji i sprawowaniu nadzoru nad systemami sztucznej inteligencji [lub] Ustawa o nadzorze nad systemami sztucznej inteligencji Tytuł ustawy powinien odzwierciedlać jej przedmiotowy zakres, którym jest określenie organizacji i sposobu sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji. Obecny tytuł może wprowadzać w błąd i sugerować, że jest to ustawa o znaczeniu materialnoprawnym, definiującym systemy sztucznej inteligencji, a tak nie jest. Tytuł ustawy Fundacja FinTech Poland Tytuł ustawy powinien być adekwatny do jej treści, ponieważ pełni funkcję informacyjną oraz umożliwia jasne rozumienie zakresu regulacji. Tytuł powinien odzwierciedlać istotę i cel regulacji, aby ułatwić identyfikację treści przez osoby zainteresowane oraz zapewnić przejrzystość procesu legislacyjnego. W przypadku projektu ustawy, która reguluje jedynie zasady prowadzenia nadzoru nad systemami AI, tytuł „ustawa o systemach sztucznej inteligencji” może wprowadzać w błąd, sugerując szerszy zakres regulacji obejmujący wszystkie aspekty funkcjonowania i wykorzystania AI, a nie tylko nadzór nad nimi. Dlatego tytuł powinien precyzyjnie odzwierciedlać tematykę 34 nadzoru, aby uniknąć nieporozumień i zapewnić zgodność między treścią a nazwą aktu prawnego. Zgodnie z powyższym proponujemy przyjęcie nowego tytułu ustawy: “ustawa o nadzorze nad systemami sztucznej inteligencji”. Rozdział 1 GRAI Wprowadzenie prawa do ochrony wizerunku przed tzw. deepfake w sposób szerszy niż na do tej pory na podstawie KC i dóbr osobistych. Rozszerzenie uwzględniałoby np. głos (co charakteru głosu są spory) w różnych okresach życia. Rozdział 1 GRAI Odrzucenie blankietowych wyłączeń dla państw ze względu na bezpieczeństwo narodowe i obronność. Rekomendujemy odrzucenie blankietowych wyłączeń dotyczących stosowania systemów AI ze względu na bezpieczeństwo narodowe i obronność. Systemy AI muszą być regulowane jednakowo w sektorze publicznym i prywatnym, bez wyjątków dla organów państwowych. Przepis ten zapewni, że wszystkie zastosowania systemów AI podlegają przejrzystym i odpowiedzialnym regulacjom, nawet w przypadku działań związanych z bezpieczeństwem narodowym. Zakaz stosowania systemów oceny ryzyka opartego na profilowaniu automatycznym Należy wprowadzić przepisy zakazujące używania systemów oceny ryzyka, które wykorzystują AI do profilowania osób na podstawie cech osobistych. Takie systemy są nieproporcjonalnie dyskryminacyjne, naruszają prawo do równości oraz zasadę domniemania niewinności. Zakaz używania systemów rozpoznawania emocji i biometrycznego kategoryzowania osób Technologie takie jak AI oparte na rozpoznawaniu emocji (np. tzw. \"detektory kłamstw\") oraz analizy behawioralne są niewiarygodne naukowo i mogą wzmacniać uprzedzenia raso we oraz automatyzować procesy podejrzewania określonych grup społecznych. Należy zabronić ich stosowania przez służby, również w kontekście migracyjnym, aby zapobiec wzmacnianiu dyskryminacyjnych praktyk. Rozdział 1 GRAI Wprowadzenie zasad reklamowania systemów sztucznej inteligencji w tym przeciwdziałania wprowadzaniu konsumenta w błąd (np. co do pewności wyników, złożoności, zaawansowania technologicznego). • Definicja systemów AI jest dość pojemna. Oznaczenie AI samo w sobie ma coraz większą wartość marketingową. Sprzyja to wprowadzaniu konsumentów w błąd co do rzeczywistych właściwości technologii (sugeruje jej zaawansowanie technologiczne i nieomylność). Art. 1 Polskie Towarzystwo Informatyczne 1.Powinno być podkreślone zagadnienie z Rozporządzenia które wyczerpuje odpowiedzialność za „LLM” oraz pozwoli na określenie brzegowych zagadnień dopuszczenia do użytkowania samo przytoczenie aktu 2024/1689 i pozostałych nie wnosi nic do „Ustawy” „o systemach sztucznej inteligencji” Propozycja „określenie ramowych wytycznych dotyczących wprowadzania i użytkowania systemów „sztucznej inteligencji” i tu poniżej w podpunktach (79); (61); Art. 12 Należy zapewnić, aby odpowiedzialność za wprowadzenie do obrotu lub oddanie do użytku systemu AI wysokiego ryzyka ponosiła konkretna osoba fizyczna lub prawna określona jako 35 dostawca, niezależnie od tego, czy ta osoba fizyczna lub prawna jest osobą, która zaprojektowała lub rozwinęła system. (61) ... W szczególności, aby wyeliminować potencjalne ryzyko stronniczości, błędów i efektu czarnej skrzynki, jako systemy wysokiego ryzyka należy zakwalifikować systemy AI .. Artykuł 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej „rejestrami zdarzeń”) w całym cyklu życia danego systemu. Na podstawie określenia ram i zasad można dopiero określać sprawowanie nadzoru oraz wymogów dotyczących naruszeń brak takowych w „Ustawie” (nie przytoczono ). ww. zapisy dotyczyć powinny nie tylko tzw. ”AI wysokiego ryzyka” ale każdego modelu. 2. Projekt zakłada określenie”rodzajów działań wspierających rozwój systemów sztucznej inteligencji”, jednak w samym projekcie mowa wyłącznie o interpretacjach generalnych oraz indywidualnych. Należy rozważyć rozszerzenie tych środków i wyraźne ich wyodrębnienie w stosownym rozdziale. Prosimy o dopisanie odpowiednich przepisów doprecyzowujących ten główny punkt zakresu przedmiotowego. Art. 1 GRAI Brak uregulowania w projekcie ustawy tematu piaskownic regulacyjnych, co budzi poważne wątpliwości, co do realizacji przez Polskę art. 57 ust. 1 rozporządzenia 2024/1689. Uzupełnienie przepisów projektu ustawy. Jeśli ta kwestia ma być uregulowana w przepisach innego aktu prawnego (np. Niemcy pracują nad ustawą dotyczącą piaskownic regulacyjnych) należy zawrzeć odpowiednie odwołanie lub uzupełnić uzasadnienie o kwestię odstąpienia od uregulowania piaskownic regulacyjnych na tym etapie prac legislacyjnych. art. 1 pkt 1 GRAI W przepisie tym wskazano systemy sztucznej inteligencji i modele sztucznej inteligencji, przy czym w dalszej części ustawy posługujemy się sformułowaniem systemy sztucznej inteligencji. W art. 3 brak również definicji modeli sztucznej inteligencji. Wskazane jest ujednolicenie. Proponowane rozwiązanie: usunięcie z art. 1 pkt. 1 sformułowania: „modelami sztucznej inteligencji ogólnego przeznaczenia”. art.1 pkt 6 GRAI W art. 1 projektu ustawy wskazano jej zakres- i tak ustawa określa: kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar a dopiero na końcu, w art. 1 pkt 6 projektu ustawy wskazuje się, że ustawa określa „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”. Jednak, poza tym lakonicznym sformułowaniem, w przepisach brak jest uregulowań w tym 36 zakresie. Ustawa w pierwszej kolejności powinna określać „rodzaje działań wspierających rozwój systemów sztucznej inteligencji”, a w drugim kroku kwestie sprawowania nadzoru nad rynkiem, naruszeń, systemów kar. Uzupełnienie przepisów projektu ustawy o wskazanie rzeczywistych działań wspierających rozwój systemów sztucznej inteligencji w Polsce. art.1 pkt 6 SFP-ZAPA Zgodnie z art. 1 pkt 6) Projektu, ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. Jednym z takich działań jest niewątpliwie ochrona praw autorskich. Ludzka kreatywność oraz utwory z różnych dziedzin działalności artystycznej są bowiem materiałem, dzięki któremu możliwe było powstanie, a następnie możliwy jest dalszy intensywny rozwój sztucznej inteligencji. Jak wynika z Projektu (art. 7 ust. 3 pkt 5 Projektu) zagadnienia leżące w gestii ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego są postrzegane jako zagadnienia wchodzące w zakres i cel przedmiotowej regulacji. Przedstawiciel ministra właściwego do spraw kultury i dziedzictwa narodowego może bowiem uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”), która jest nowo tworzonym organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Niestety, przedstawiciel Ministra Kultury i Dziedzictwa Narodowego nie został wyposażony w prawo głosu podczas obrad Komisji, co naszym zdaniem powinno ulec zmianie. Pomimo włączenia ministra właściwego do spraw kultury i dziedzictwa narodowego w prace Komisji, Projekt nie reguluje w żaden sposób kwestii związanych z korzystaniem z praw autorskich na potrzeby sztucznej inteligencji. W szczególności brak jest jakichkolwiek rozwiązań odnoszących się do ochrony tych praw zgodnie ze standardami europejskimi oraz krajowymi. Na konieczność zapewnienia takiego poziomu ochrony zwraca zaś uwagę rozporządzenie 2024/1689. Jak wiadomo, szybki rozwój sztucznej inteligencji wpływa na prawa twórców, producentów i wydawców. Wpływ ten jest w niektórych aspektach negatywny, na co wskazuje unijny ustawodawca w motywie 105 aktu o AI. Chodzi w szczególności o nieuregulowane wykorzystywanie utworów chronionych prawem autorskim na potrzeby tworzenia, rozwijania, w tym trenowania i zasilania systemów sztucznej inteligencji, w trakcie których dochodzi do masowego naruszania tych praw. Stosowna regulacja jest zatem niezbędna. Art. 1 pkt 6 Fundacja FinTech Poland Choć w art. 1 ustawa deklaruje, że jej celem jest określenie rodzajów działań wspierających rozwój systemów sztucznej inteligencji, to poza tym wstępnym postanowieniem, treść ustawy nie zawiera szczegółowych regulacji ani przepisów dotyczących takich działań. Brak konkretnych rozwiązań i postanowień odnoszących się do wsparcia rozwoju AI powoduje, że zapowiedź ta staje się jedynie deklaratywna, a nie merytoryczna. Taki stan rzeczy może prowadzić do nieporozumień 37 interpretacyjnych oraz osłabienia zaufania do legislacji, gdyż ustawa zdaje się obiecywać więcej niż faktycznie dostarcza. Aby zapewnić spójność i przejrzystość, konieczne byłoby albo uzupełnienie treści o konkretne przepisy dotyczące wsparcia rozwoju systemów AI, albo odpowiednia modyfikacja zakresu art. 1, by odzwierciedlał rzeczywisty zakres regulacji zawartych w ustawie. Art. 2 pkt 6 Związek Pracodawców Technologii Cyfrowych Lewiatan Usunięcie w projekcie ustawy zadań związanych z rozwojem sztucznej inteligencji Wydaje się, że zapis określający zakres przedmiotowy ustawy (art. 1 punkt 6), a także dalsze wspieranie konkurencyjności (nie wymienione w w/w art., ale pojawiające się w art. 12 ust. 2 przy opisaniu zadań Komisji) to niepotrzebne wymieszanie dwóch zupełnie różnych od siebie zadań. Co więcej, jeśli to Komisja będzie decydowała o rozwoju sztucznej inteligencji w Polsce to może być znaczącym ograniczeniem dla działań innych organów administracji. Ponieważ można wnioskować, że to Komisja, a nie inne organy administracji będzie miała ostatnie słowo w jaki sposób kierować rozwojem systemów sztucznej inteligencji. Będąc jednocześnie regulatorem bardzo skutecznie stłumi wszelką inicjatywę. Umieszczenie zatem takiego zadania wydaje się być niewłaściwe. Warto także zaznaczyć, że kwestie rozwoju są poruszane w ustawie w sposób zdawkowy, w odróżnieniu od kwestii regulacyjnych. Propozycja: wykreślić wszelkie zapisy dotyczące rozwoju sztucznej inteligencji z treści ustawy. art. 2 ust. 1 CHAMBER brakuje słowa “do” (uwaga redakcyjna) art. 2 ust. 1 SFP-ZAPA Zgodnie z projektem, ustawa ma zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem, choć rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, które w naszym przekonaniu wymagają rozwinięcia i doprecyzowania w prawie krajowym, Projekt nie przewiduje żadnych rozwiązań w tym zakresie. Dzieje się to ze szkodą dla wskazanych wyżej podmiotów, których przedmiotowa regulacja ma dotyczyć. Nic nie stoi natomiast na przeszkodzie, aby kwestie te uregulować. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Akt o AI jedynie w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Tymczasem architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw, często nadużywając wyjątku przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”). W naszym przekonaniu brak zapewnienia ochrony praw autorskich w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele aktu o AI w 38 postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy do czynienia każdego dnia Art. 2. 1. PWPW Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. 2. O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia 1) brakuje zwrotu „do” lub „wobec” 2) konstrukcja art. 2 wydaje się wadliwa. Ust. 1 wskazuje na zakres podmiotowy, tj. dostawca, producent itp., a ust. 2 mówi o systemach (czyli przedmiotowo). W ust. 2 powinno się wskazać bądź na dostawców modeli AI ogólnego przeznaczenia, bądź na dostawców i użytkowników. Alternatywna propozycja to pozostawić art. 2 w zakresie podmiotowym a odrębny artykuł poświęcić modelom AI ogólnego przeznaczenia. Należy też wskazać które przepisy stosuje się ww. zakresie. Wskazanie w ustawie „o ile przepisy AI act nie stanowią” – jest zbyt ogólne i nie spełnia wymagań precyzyjności przepisu prawnego. Określenie zasad podlegania pod ustawę w zakresie modeli ogólnego przeznaczenia ma szczególne znaczenie dla użytkowników, tj. firm korzystających z modeli ogólnego przeznaczenia. Normy prawne w ww. zakresie powinny być precyzyjnie określone w projekcie ustawy. Art. 2 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W pierwszej kolejności postulujemy dodanie przyimka „do” w treści ustępu pierwszego: Art. 2. 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W dalszej kolejności podnosimy, iż zgodnie z art. 2 ust. 1 Projektu ustawy, ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Podnosimy, iż art. 2 ust. 1 w pkt g) Rozporządzenia 2024/1689 stanowi, że Rozporządzenie 2024/1689 stosuje się również do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". W tym zakresie powstaje wątpliwość czy zakres podmiotowy ukształtowany w art. 2 ust. 1 Projektu ustawy odpowiada celowi ustawy, który określony został w art. 1 Projektu ustawy. Jak czytamy bowiem w uzasadnieniu projektu ustawy, „Celem projektowanej ustawy jest stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce zgodnego z ramami prawnymi ustanowionymi”. 39 W związku z powyższym zdaje się, iż celem ustawy nie jest objęcie nadzorem osób, na które AI ma wpływ. Art. 2 ust. 1 e-Izba Projektowany przepis wskazuje, że ustawa znajdzie zastosowanie do wszystkich podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. W art. 2 ust. 1 pkt g tego aktu prawnego wskazane są „osoby, na które AI ma wpływ i które znajdują się w Unii”. Regulacja ta odnosi się w dużej mierze do osób fizycznych, które nie koniecznie same korzystają z systemów sztucznej inteligencji, lecz ich działanie w jakiś sposób na nie wpływa. Treść Projektu wskazuje z kolei, że reguluje on zagadnienia adresowane do podmiotów stosujących systemy sztucznej inteligencji. W związku z tym rekomendujemy rozważenie zmiany zawężającej zakres odesłania przewidzianego w art. 2 ust. 1 Projektu. Art. 2 ust. 1 AI Chambre W art. 2 ust. 1 - brakuje słowa “do” (uwaga redakcyjna) Art. 2 ust. 1 Fundacja FinTech Poland W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\". Rekomendujemy wyjaśnienie czy projektodawca ma na myśli obywateli czy celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowania AI. Art. 2 ust. 1 Osoba fizyczna jk Brak \"do\" 1. Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Art. 2 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 2 ust. 2 Projektu ustawy, o ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Patrząc na zakres definicji określony w art. 3 Projektu ustawy, w którym pojęcia definiowane są poprzez odesłanie do Rozporządzenia 2024/1689, rekomendujemy uwzględnienie w Projekcie ustawy również definicji „modelu AI ogólnego przeznaczenia” (motyw 97 Rozporządzenia 2024/1689). Chyba, że celem Projektodawcy jest, aby odnosić się do „systemów AI ogólnego przeznaczenia”, które oparte są o te modele AI ogólnego przeznaczenia, zgodnie z definicją zawartą w art. 3 pkt 66 Rozporządzenia 2024/1689. Art. 2 ust. 2 Fundacja FinTech Poland Sugerujemy wprowadzenie reguł kolizyjnych w ustawie. Rozporządzenie UE zobowiązuje do uregulowania przez Państwa członkowskie pewnych obszarów. Nie rozstrzyga natomiast kolizji między przepisami polskiej ustawy (ani żadnej innej ustawy krajowej). To Polski ustawodawca powinien wprowadzić reguły kolizyjne i określić które reguły stosuje się do systemów AI ogólnego przeznaczenia. art. 2 GRAI Należy uniknąć transgranicznego wymiaru ustawy. Przedsiębiorcy zagraniczni mający siedzibę w UE, będą podlegać własnym, lokalnym regulacjom (np. nadzorowi własnym organom) i nie powinny równolegle podlegać regulacjom polskim. Ponadto, zastosowanie polskiej ustawy do tych 40 podmiotów będzie zapewne wątpliwe i może prowadzić do sytuacji spornych. Wątpliwe byłoby podejmowanie przez polski organ działań wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania. Jeżeli jednak taki przedsiębiorca nie ma zarejestrowanej w Polsce spółki, nie ma uzasadnienia, aby to był organ polski. Zawężenie zastosowania ustawy do podmiotów mających siedzibę na terytorium Rzeczypospolitej Polskiej. Art. 2 Związek Cyfrowa Polska Zakres podmiotowy. Projekt ustawy bazuje na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole/postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie AI Act globalnie, kluczowe będzie zatem rozstrzygnięcie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Art. 2 i 4 Repropol Olbrzymie wątpliwości budzi sposób uregulowania zakresu stosowania UoSSI. Projekt w tym zakresie nawiązuje do artykułu 2 AIA, ale przenosi na grunt polskiej ustawy jedynie wybrane zakresy stosowania (zob. art. 2 i 4 UoSSI), przy czym nie jest jasny klucz doboru wybranych wyłączeń. Jeśli ustawodawca zdecydował się już na dookreślenie zakresu stosowania UoSSI, z oczywistych przyczyn powinien on pokrywać się dokładnie z brzmieniem rozporządzenia AIA, które w swoim art. 2 wprowadza bardzo heterogeniczny katalog. Prócz relatywnie jasnego brzmienia art. 2 ust. 1 AIA, kolejne ustępy zawierają również istotne doprecyzowania zakresu stosowania. Tymczasem w Projekcie zawarto jedynie wybrane ograniczenia. Dla przykładu brak jest wyłączenia regulacji wobec osób fizycznych, które „korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej” (art. 2 ust. 10 AIA). 41 Mając to na uwadze, należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo dokonać tego kompletnie, czyli z uwzględnieniem jego całej zawartości normatywnej. Odrębną uwagę trzeba poświęcić błędnemu wyłączeniu zawartemu w art. 4 pkt 3 UoSSI. Przepis ten stanowi, iż UoSSI, „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 roku - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 roku - Kodeks karny (...)”. Należy założyć, że w zamyśle projektodawcy postanowienie to ma wdrażać artykuł 2 ustęp 6 AIA, wedle którego AIA „nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Sfomułowanie zawarte w Projekcie nie wdraża jednak wspomnianego przepisu AIA. Wyłączenie to ma fundamentalne znaczenie dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Należy podkreślić, że już samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest niezrozumiałe. To przecież nie same badania naukowe, lecz modele oraz systemy AI rozwinięte i oddane do użytku w celach prowadzenia badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Także odesłanie do definicji „podstawowych badań naukowych” jest błędne, i to już w swojej referencji do art. 4 ust. 2 pkt 2 Prawa o szkolnictwie wyższym (podczas gdy „podstawowe badania naukowe” znajdują się w pkt. 1 wskazanej jednostki redakcyjnej). To odesłanie jest wadliwe również in meritum, albowiem jako „badania podstawowe” rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” wprost koliduje z tą częścią art. 2 ust. 6 AIA, która expressis verbis wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie należy zauważyć, iż bardzo ważne jest wyeksponowanie w wyłączeniu ograniczenia do tych systemów lub modeli AI, które powstały wyłącznie w celu prowadzenia badań naukowych i rozwojowych. Obawiamy się, iż wyłączenie zaproponowane w Projekcie może być w przyszłości przedmiotem nadużyć, bowiem zaprogramowane dla celów naukowych – a zatem nie 42 objęte AIA – algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. W naszym przekonaniu, nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. Art. 3 Osoba fizyczna Problem definicji legalnych w treści aktów normatywnych od lat budzi kontrowersje doktrynalne oraz wynikające z praktyki stosowania prawa, zarówno na poziomie adresatów przepisów, jak i praktyki orzeczniczej. Dodatkowym wyzwaniem jest kwestia definicji legalnych przyjmowanych w aktach unijnych. W doktrynie wyraźnie się podkreśla, że definicje legalne przyjęte w rozporządzeniach, czyli aktach normatywnych obowiązujących w polskim porządku prawnym wprost, bezpośrednio, nie podlegają transpozycji. Wprowadzenie przepisów odsyłających do przepisów rozporządzenia UE2024/1689 budzi duże wątpliwości interpretacyjne i praktyczne. Zastosowanie zabiegu odesłania do treści aktu unijnego jest niepotrzebne, a wręcz błędne. Wykorzystanie podstawowych modeli wykładni prawa pozwala na pełne odkodowanie treści normy prawnej, także w zakresie objętym definicją znajdującą się w innym akcie normatywnym, zwłaszcza w akcie normatywnym wyższego rzędu. Dlatego proponuję całkowicie usunąć art. 3 w proponowanym brzmieniu. Art. 3 PIIT Wykreślenie definicji zawartych w ASI, którego przepisy są bezpośrednio stosowane w polskim porządku prawnym. Zasadniczo nie ma przesłanek do powtarzania w krajowych przepisach definicji z, bezpośrednio stosowanych w krajowym porządku prawnym, przepisów unijnych rozporządzeń. Art. 3 Polskie Towarzystwo Informatyczne Definicje Wszystkie przytoczone enumeratywnie określenia odnoszone są w całości do definicji w rozporządzeniu PEiR UE 2024/1689. Zatem wystarczyłby zapis, iż określenia w ustawie zdefiniowane są w rozporządzeniu. Propozycja: Określenia użyte w ustawie zdefiniowane zostały w art. 3 rozporządzenia 2024/1689. Przytoczone w ustawie określenia nie są w rzeczywistości definicjami tych określeń, lecz odsyłaczami do rozporządzenia 2024/1689.; Zajmują niepotrzebnie miejsce w ustawie. Art. 3 AI Chambre W art. 3 trudno doszukać się logiki we wpisaniu jedynie części z niezwykle długiej listy definicji zawartych w Akcie o SI. Zastosowana tu technika odesłania do Aktu nie spełnia swojej roli, bowiem osoba czytająca ustawę musi i tak korzystać z Aktu. Proponujemy albo zrezygnować z definicji, jeśli są tożsame z Aktem i odesłać ogólnie do wszystkich tam zawartych definicji, albo przepisać definicje wprost do ustawy. Art. 3 Związek Banków Polskich Forma przepisu wprowadzająca listę odesłań do AI Act jest nieczytelna. Proponujemy generalne odesłanie – wszystkie pojęcia niezdefiniowane odrębnie w ustawie przyjmują znaczenie z art. 3 AI Act. 43 Art. 3 ust. 13 PIIT Wykreślenie ust. 13 (działanie zbędne, o ile zostaną wykreślone wszystkie unijne definicje). Termin “organ właściwy” jest pojęciem prawa unijnego. Wynika z charakteru prawa negocjowanego dla odmiennych systemów prawa. Siłą rzeczy akty prawa UE nie mogą się posługiwać nazewniczą systematyką któregokolwiek z krajowych systemów. Natomiast w polskiej ustawie doprecyzowujemy zarówno organ notyfikujący jak i organ/y nadzoru rynku. Nie posługujemy się pojęciem “organu właściwego”. Zachodzą tu podobne okoliczności jak w przypadku braku potrzeby definiowania organu ścigania (pkt 45 art. 3 ASI). art. 3 pkt 15 SKwP To nie jest najlepsze tłumaczenie oryginalnego tekstu. Czy nie można znaleźć odpowiedniego słowa polskiego? „55) piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym;”. A może tak: „Ramy rozwoju, walidacji, testowania AI w warunkach rzeczywistych uzgodnione z Komisją ...”. Art. 3 pkt 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 3 pkt 15 Projektu ustawy przez piaskownicę regulacyjną należy rozumieć piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 Rozporządzenia 2024/1689. Zgodnie z uzasadnieniem Projektu ustawy „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W rzeczywistości Projekt ustawy do piaskownic regulacyjnych się nie odnosi. W związku z powyższym prosimy o wyjaśnienie, czy to oznacza, że piaskownic regulacyjnych do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Art. 3 pkt 15 Obywatelski Akcelerator Innowacji Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 Instytut Spraw Obywatelskich Projekt ustawy w art. 3 pkt 15 nie precyzuje wymagań technicznych dla systemów SI, co utrudnia dostawcom przygotowanie się do zgodności i może prowadzić do rozbieżnych interpretacji technicznych i etycznych. Art. 3 pkt 15 PWPW piaskownica regulacyjna piaskownica regulacyjna w zakresie AI w rozumieniu art. 3 pkt 55 44 rozporządzenia 2024/1689; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r. Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 3 pkt 15 Fundacja FinTech Poland Zgodnie z uzasadnieniem projektu: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" W związku z tym pojawia się wątpliwość czy do tego czasu pojawi się piaskownica regulacyjna w Polsce, bo jeśli mają się pojawić wcześniej to w jaki sposób będą uregulowane. Zgodnie z art. 11 pkt 11 \"podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji pojawia się wątpliwość w jaki sposób zadanie to będzie realizowane. Art. 3 pkt 17 Instytut Spraw Obywatelskich Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 3 pkt 17 Obywatelski Akcelerator Innowacji Ustawa odnosi się do kategorii wysokiego ryzyka, brakuje szczegółowego kryterium oceny dla rynku polskiego. Może to prowadzić do różnic w interpretacji między dostawcami i organami nadzoru, co osłabia przewidywalność regulacyjną. Projekt ustawy o systemach SI: Art. 3 pkt 17 – Definicja ryzyka systemowego oraz systemów wysokiego ryzyka w nawiązaniu do rozporządzenia 2024/1689. Art. 4 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W związku z brzmieniem art. 4 Projektu ustawy powstaje wątpliwość, czy wskazane w tym przepisie obszary nie będą nadzorowane przez jakikolwiek organ nadzoru? Zwracamy uwagę, że zakres zastosowania Rozporządzenia 2024/1689 nie dotyczy „badań naukowych i rozwojowych\" (art. 2 ust. 6 Rozporządzenia 2024/1689) ani „działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 Rozporządzenia 2024/1689) w ogólności. Nie ma w Rozporządzeniu 2024/1689 ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. W konsekwencji, postulujemy zmianę treści art. 4 pkt 3 Projektu ustawy na następującą: „3) badań naukowych.” 45 Art. 4 PWPW Należy dodać, w ślad za AI act-em (art. 2 ust. 8) sformułowanie „działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. To ma istotne znaczenie – gdyż wskazane w art. 4 pkt 3 wyłączenie dla działań badawczych podstawowych i eksperymentalnych jest węższe niż 2. Działalność tego rodzaju prowadzona jest zgodnie z mającym tu zastosowanie prawem europejskim. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.” prowadzenie badań ogółem. Art. 4 pkt 3 mówi o badaniach podstawowych (co jest wąskimi rodzajem badań) a AI act mówi „o żadnych badaniach”). Jest to kluczowe w kontekście rozwoju programów B+R i testowania produktów. Firmy muszą ww. zakresie mieć pewność, że do czasu zakończenia wdrażania B+R nie podlegają obowiązkom wskazanym w ustawie. Art. 4 ICC Poland Artykuł 4 Projektu przewiduje wyłączenie zastosowania nowej ustawy do spraw związanych z obroną narodową, spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego oraz podstawowych badań naukowych, jak również dla celów naukowych w związku z eksperymentem (pojęcia te dookreślone zostały przez odesłania do odpowiednich ustaw). Zakres tego wyłączenia, ze względu na sposób jego ujęcia, może budzić jednak wątpliwości co do zgodności z rozporządzeniem 2024/1689, a także otwierać drogę do nadużyć w tym zakresie. Po pierwsze, samo rozporządzenie 2024/1689 istotnie przewiduje wyłączenie jego zastosowania do: i) systemów AI, jeżeli – i w zakresie, w jakim – wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 2 rozporządzenia 2024/1689); ii) systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania (art. 2 ust. 3 akapit 3 rozporządzenia 2024/1689); iii) systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689); iv) działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku (art. 2 ust. 8 rozporządzenia 2024/1689) [podkreślenia własne]. 46 Wyłączenia te determinowane są jednak przede wszystkim celem wprowadzenia do obrotu, oddania do użytku lub wykorzystywania systemu AI (natomiast w przypadku art. 2 ust. 8 rozporządzenia 2024/1689 dotyczy specyficznej działalności badawczej, testowej i rozwojowej, ograniczonej przedmiotowo). Tymczasem zakres wyłączeń zaproponowany w art. 4 Projektu odnosi się ogólnie do pojęcia „sprawy” lub „podstawowych badań naukowych”, co może sugerować, że projektowana ustawa w ogóle nie znajdzie zastosowania do systemów sztucznej inteligencji w tych obszarach (np. z uwagi na podmiot wykorzystujący system), niezależnie od celu ich wprowadzenia do obrotu, oddania do użytku lub wykorzystania. Z jednej strony może to sugerować, że zakres wyłączenia zastosowania ustawy jest w istocie szerszy niż zakres wyłączenia zastosowania rozporządzenia 2024/1689 (co mogłoby w praktyce rodzić trudności w egzekwowaniu przepisów tego ostatniego), a z drugiej strony może skłaniać w szerszym zakresie do powoływania się na te wyłączenia w celu uniknięcia nadzoru nad stosowanymi systemami sztucznej inteligencji. Po drugie, wątpliwości budzi wyłączenie zastosowania nowej ustawy do „celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz.U. z 2024 r. poz. 17 i 1228)” (art. 4 pkt 3 Projektu). Niezależnie od pewnej niejasności ujęcia tego wyjątku [nie wiadomo bowiem, jakich konkretnie sytuacji ma on dotyczyć, skoro „ustawy nie stosuje się (...) dla celów naukowych (...)”], należy zwrócić uwagę, że eksperyment na gruncie przepisów Kodeksu karnego jest definiowany bardzo szeroko. Otwiera to więc pole do prób powoływania się na ten wyjątek wyłącznie w celu uniknięcia nadzoru nad systemami sztucznej inteligencji. Powyższe uwagi powinny skłonić do ponownej rewizji ujęcia art. 4 Projektu, a także rozważenia, czy przepis ten – przynajmniej w takim kształcie – jest istotnie potrzebny. Przepisy rozporządzenia 2024/1689, w tym jego art. 2 określający jego zakres zastosowania, są bowiem stosowane bezpośrednio, co oznacza, że nie wymagają dla swojego zastosowania wdrożenia do krajowego porządku prawnego. Skoro natomiast na podstawie art. 2 rozporządzenia 2024/1689 wskazane tam systemy sztucznej inteligencji nie podlegają pod samo rozporządzenie 2024/1689 (wyłączenia), to nie będą również podlegać nadzorowi przewidzianemu w Projekcie, który stanowi wszak pochodną zakresu zastosowania rozporządzenia 2024/1689. Projekt nie jest zresztą w tym zakresie konsekwentny, pomijając w art. 4 inne przypadki wyłączeń przewidziane w art. 2 rozporządzenia 2024/1689, jak np. osoby fizyczne, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10 rozporządzenia 2024/1689). Art. 4 Związek Banków Polskich 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 Projektu nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 47 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. Art. 4 Fundacja FinTech Poland Zgodnie z treścią AI Act zakres zastosowania nie dotyczy \"badań naukowych i rozwojowych\" (art. 2 ust. 6 AI Act) ani \"działalności badawczej, testowej, rozwojowej\" (art. 2 ust. 8 AI Act) w ogólności. Nie ma w rozporządzeniu ograniczenia, że dotyczy to tylko badań prowadzonych na uczelniach. Uprzejma prośba o wyjaśnienie intencji projektowanego przepisu. Postulowane brzmienie przepisu Art. 4 pkt 3): Art. 4. Ustawy nie stosuje się do: (...) 3) badań naukowych. Art. 4 Fundacja Panoptykon Wyłączenia dla AI w obszarze bezpieczeństwa wewnętrznego i porządku konstytucyjnego Zgodnie z art. 4 projektu ustawy, nie stosuje się jej do spraw związanych m.in. z obroną narodową oraz spraw w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego. Jest to odzwierciedlenie art. 2 ust. 3 rozporządzenia, zgodnie z którym rozporządzenia nie stosuje się do obszarów systemów AI wykorzystywanych do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego. Zdecydowanie popieramy próbę doprecyzowania i jednoznacznego ograniczenia znaczenia pojęcia bezpieczeństwo narodowe, a tym samym – jasne określenie, zastosowanie w jakich celach systemów AI podlega regulacji. Jest to znacząco lepszy model, niż przyjęty m.in. w ustawach implementujących do polskiego porządku prawnego unijne zasady ochrony danych osobowych5, które w sposób podmiotowy wyłączyły spod zakresu obowiązywania tych zasad służby specjalne. Nie sposób przyjąć, że wszystkie zadania realizowane przez służby specjalne mieszczą się w kategorii bezpieczeństwa narodowego. Przykładem takiej sytuacji jest m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt 2 lit. e ustawy o ABW). Zdajemy sobie sprawę, że ostateczna treść wyłączenia spod zakresu ustawy zawarta w art. 4 będzie jeszcze przedmiotem dyskusji. Jednak zwracamy uwagę, że – bez względu na jego ostateczne brzmienie – wyłączone spod zakresu działania ustawy wykorzystywanie sztucznej inteligencji przez służby specjalne, w tym systemów zdalnej biometrycznej identyfikacji, pozostanie nieuregulowane. Zarówno Konstytucja RP jak i Karta Praw Podstawowych oraz 48 Europejska Konwencja Praw Człowieka zobowiązują państwa do zapewnienia, że ingerencja w prawo do prywatności –również za pośrednictwem systemów sztucznej inteligencji – ma miejsce wyłącznie w przypadkach niezbędnych w demokratycznym państwie prawa. Biorąc pod uwagę brak efektywnego nadzoru nad służbami w Polsce, co potwierdził Europejski Trybunał Praw Człowieka, brak jasnych zasad wykorzystywania systemów sztucznej inteligencji na poziomie ustawy rodzi pole do nadużyć i naruszeń praw człowieka. Dodatkowo, brak podstawowych reguł rozwijania i wdrażania systemów AI analogicznych do tych zawartych w rozporządzeniu oznacza, że nic nie stoi na przeszkodzie temu, aby służby rozwijały i nabywały systemy sztucznej inteligencji, które nie zostały poddane podstawowym testom jeśli chodzi o ich dokładność, cyberbezpieczeństwo, wolność od błędów czy stronniczości prowadzącej do dyskryminacji. Warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem Rada UE, w tym polski rząd, poparła blankietowe wyłączenie obszaru bezpieczeństwa narodowego z zakresu rozporządzenia (art. 2 ust. 3), opierając się na argumencie, że kwestie bezpieczeństwa narodowego należą do kompetencji państw członkowskich i powinny być uregulowane na poziomie krajowym. Choć mamy zastrzeżenia do adekwatności tej argumentacji w świetle orzecznictwa Trybunału Sprawiedliwości UE7, oczekujemy, że rząd faktycznie skorzysta ze swoich kompetencji w zakresie bezpieczeństwa narodowego i podejmie inicjatywę legislacyjną mającą na celu stworzenie kompleksowych zasad kontroli nad działaniami służb, w tym wykorzystaniem przez nie sztucznej inteligencji. art. 4 pkt 3 PIRP proponuje się rozszerzyć zakres wyłączenia także na prace rozwojowe w rozumieniu art. 4 ust. 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.); taka zmiana byłaby uzasadniona w świetle art. 2 ust. 6 rozporządzenia 2024/1689 art. 4 pkt 3 Sano w projektowanej ustawie w art. 4 pkt 3 wskazano: „Ustawy nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Pragniemy uprzejmie zauważyć, iż podstawowe badania naukowe zostały wskazane w art. 4 ust. 2 pkt 1 ustawy - Prawo o szkolnictwie wyższym, a nie jak wskazano w projekcie w pkt 2. Ponadto w ocenie Sano zasadnym byłoby możliwie jak najszersze zastosowanie wyłączenia stosowania przepisów, które limitowałyby możliwość prowadzenia badań naukowych, przy jednoczesnym niestosowaniu określonych postanowień ustawy ale bez całościowego wyłączenia badań z zakresu regulacji. Sano jako uczestnik grupowych podmiotów jak choćby Koalicja AI w Zdrowiu wskazało na inne możliwości poszerzenia przepisów ustawy – choćby poprzez mocniejsze unormowanie możliwości wykorzystania sandboxes w ramach polskich przepisów mających implementować rozporządzenie unijne. W takim przypadku również w obszarze badań naukowych 49 wtedy możliwe było skorzystanie z narzędzia jakim są sandboxes również przez podmioty prowadzące badania. art. 4 pkt 3 GRAI W przypadku AI znaczna część badań naukowych jest prowadzona również przez inne instytucje- nie wymienione w ustawie o szkolnictwie wyższym. Wydaje się, że jest to niespójność w rozumieniu wyjątku dla jednostek badawczych – bo w ustawie są wpisane instytucje z nazwy i lista jest ograniczona do uczelni, podczas gdy na zachodzie wyjątek ten rozszerza się na jednostki badawcze nie jako oddzielne instytucje, które mogą istnieć też w sektorze prywatnym. Proponujemy zamianę z instytucjonalnego rozumienia jednostki badawczej na rozumienie funkcjonalne (spełnienie określonych warunków (open research, publikacje, współpraca z podmiotami badawczymi itp.). W UE pojawia się też koncepcja certyfikowania jednostek zajmujących się rozwojem AI (coś na wzór ESOMAR dla firm badania opinii i marketingowych, które dzięki certyfikacji mają inne regulacje dot. Danych osobowych). To ma kolosalne znaczenie do rozwoju AI, budowania kompetencji w EU i w Polsce, i w konsekwencji niezależności i samowystarczalności (w razie globalnych konfliktów, tracimy dostęp), brak odpływu kadr i budowanie niezależnej pozycji, w tym kluczowym dla przemysłu obszarze. AI Akt dotyczy przypadków użycia, a nie przypadków badań nad AI i tworzenia technologii. Oczywiście przy zachowaniu wszystkich innych przepisów dotyczących transparentności badań, etyki badawczej i postępowania z danymi. Zarówno ośrodki uniwersyteckie, jak oddziały badawcze z sektora prywatnego tworzą wartość dla dobra wspólnego: wyniki badań nad AI, możliwościach jej rozwoju, jej ograniczeniach są publikowane i służą wszystkim. Projektowana ustawa o systemach AI powinna dotyczyć systemów w konkretnym przypadku ich użycia a nie w fazie badań czy przemysłowych czy R&D. Zmiana brzmienia przepisu art. 4 pkt 3 e-Izba Rekomendujemy wprowadzenie zmiany do projektowanego przepisu polegającej na zastąpieniu fragmentu „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym” sformułowaniem „badań naukowych, o których mowa w art. 4 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”. Rozdział 2 Osoba fizyczna W polskiej praktyce ustawodawczej dotyczącej organizacji nadzoru nad jakąś sferą życia społeczno-gospodarczego przyjęto dwa modele działalności organów nadzoru – organ kolegialny oraz monokratyczny. W przypadku organu monokratycznego organem administracji publicznej jest Prezes organu, którego obsługę zapewnia odpowiedni Urząd, którego jednocześnie jest zwierzchnikiem – zob. np. Urząd Ochrony Danych Osobowych. W przypadku organu kolegialnego, organem nadzorczym jest Komisja wraz z Przewodniczącym, posiadający poza kierowaniem komisją, dodatkowe kompetencje. Zarówno Przewodniczący Komisji, jak i Komisja jest obsługiwana przez Urząd. Takie rozwiązania przyjęto m.in. w ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym. 50 Przyjęte w projektowanej ustawie rozwiązanie w którym na pierwszym miejscu stawia się Biuro – aparat obsługujący organ administracji publicznej jest całkowitą zmianą perspektyw formalnej i organizacyjnej, podważającej niezależność organu odpowiedzialnego za nadzór nad SI. Należy przebudować cały rozdział 2 ustawy, wychodząc od określenia organu nadzoru oraz jego kompetencji, prawnych form działania, a dopiero później ewentualnie zdefiniować aparat obsługujący organ. Rozdział 2 Związek Banków Polskich Zgodnie z założeniami projektu, wszystkie działania KRIBSI, w tym decyzje administracyjne, mają być dokonywane kolegialnie. Proponujemy rozważenie powierzenia decyzji w najbardziej doraźnych sprawach (np. w zakresie decyzji mniejszej wagi lub decyzji o charakterze proceduralnym) Przewodniczącemu Komisji – dla przyspieszenia działania organu. Rozdział 2 Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Software Development Association Poland (SoDA) KOMISJA ROZWOJU I BEZPIECZEŃSTWA SZTUCZNEJ INTELIGENCJI Jednolity zakres jurysdykcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Zgodnie z art. 6 ust. 1 Projektu, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) będzie organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Rozwiązanie polegające na powierzeniu kompetencji w ręce jednego, wyspecjalizowanego organu, przyjmując koncepcję nadzoru zintegrowanego, zamiast dzielić je pomiędzy istniejące już organy nadzorcze w zależności od zakresu działalności danego podmiotu, należy ocenić pozytywnie. Mając na uwadze, że w skład Komisji wejdą m.in. przedstawiciele Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Krajowej Rady Radiofonii i Telewizji oraz Prezesa Urzędu Komunikacji Elektronicznej, Komisja będzie miała środki służące zapewnieniu spójnego podejścia w zakresie działalności podlegającej ocenie przez różne organy nadzoru z uwagi na ich specyfikę. Dodatkowo zapewnieniu tej spójności będzie służyć obowiązek współpracy Komisji z innymi organami nadzoru, o którym mowa w art. 6 ust. 3 Projektu. W naszej ocenie rozważyć należy, czy w skład Komisji, niezależnie od przedstawiciela ministra powołanego w celu koordynowania działalności służb specjalnych, nie należałoby powołać również przedstawiciela Szefa Agencji Bezpieczeństwa Wewnętrznego, jako podmiot prowadzący Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego na poziomie krajowym (CSIRT GOV). Wynagrodzenie członków Komisji 51 W naszej ocenie konieczne jest przyznanie wynagrodzenia za udział w pracach Komisji nie tylko przewodniczącemu Komisji oraz jego zastępcom, ale również pozostałym członkom. Zgodnie bowiem z projektowanym art. 7 ust. 7, za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu. Chociaż przepis ten nie precyzuje, że wynagrodzenie to przysługuje przewodniczącemu Komisji oraz jego zastępcom, takie podejście wynika z treści uzasadnienia do Projektu. W tym zakresie w naszej ocenie przepis powinien zostać doprecyzowany. Rozwiązanie, zgodnie z którym brak wynagrodzenia oraz zwrotu kosztów przejazdów i noclegów dotyczyć miałby członków Komisji, a nie jedynie podmiotów biorących udział pracach Komisji z głosem doradczym, należy ocenić negatywnie. Takie rozwiązanie może istotnie i negatywnie wpływać na sposób funkcjonowania Komisji, w szczególności prowadząc do mniejszego zaangażowania członków Komisji w jej prace, mniejszą liczbę spotkań Komisji i inicjatyw podejmowanych przez Komisję poza jej obowiązkami ustawowymi, w szczególności w zakresie inicjatyw informacyjno-edukacyjnych, a także na jakość samych prac, wytycznych czy poziom merytoryczności tego organu. Trudno bowiem oczekiwać, aby członkowie Komisji wykazywali się 100% zaangażowaniem w swoje obowiązki, jeżeli nie będą otrzymywać z tego tytułu adekwatnego wynagrodzenia, nie mówiąc już o kosztach udziału w spotkaniach Komisji. Trzeba również mieć na uwadze, że dla części członków Komisji tj. przedstawicieli podmiotów wskazanych w art. 7 ust. 2 Projektu, udział w pracach Komisji będzie dodatkowym obowiązkiem w stosunku do ich standardowych obowiązków pełnionych w organie, którego będą przedstawicielami w Komisji. Argument przedstawiony w uzasadnieniu do Projektu, że celem tego rozwiązania jest brak „generowania niepotrzebnych kosztów po stronie budżetu państwa” pozostaje wobec tego daleko nietrafiony, gdyż koszty te są wręcz niezbędne, aby Komisja mogła funkcjonować w sposób prawidłowy i aby zapewnić jej skuteczne i merytoryczne działanie, zgodnie z koncepcją nadzoru zintegrowanego tj. przy zaangażowaniu przedstawicieli pozostałych organów nadzoru i instytucji publicznych. Równocześnie zrozumiałym jest wprowadzenie zasady braku wynagrodzenia za udział w pracach Komisji dla podmiotów wskazanych w art. 7 ust. 3, 4 i 5 Projektu, jako że ich udział w pracach Komisji nie jest obligatoryjny i ma charakter jedynie doradczy. Jednak, aby zapewnić wysoki poziom merytoryczny w samej Komisji, a także nie zniechęcać wskazanych podmiotów do udziału w pracach Komisji, należy rozważyć, czy w przypadku takich podmiotów nie byłoby wskazane przyznanie na ich rzecz zwrotu kosztów przejazdu oraz noclegu w związku z udziałem w pracach Komisji z takim głosem doradczym. INTERPRETACJE INDYWIDUALNE 52 W naszej ocenie wprowadzenie do art. 13 Projektu mechanizmu interpretacji indywidualnych na wzór tych stosowanych w postępowaniu podatkowym jest rozwiązaniem, które może w istotny sposób przyczynić się do poprawy przejrzystości stosowania nowych przepisów, zwiększając pewność prawa w tym zakresie oraz istotnie ułatwiając przedsiębiorcom dostosowanie się do nowych wymogów regulacyjnych. W tym zakresie jednak w naszej ocenie konieczne są dalsze prace mające na celu zwiększenie efektywności tego rozwiązania. Ochrona wnioskodawców stosujących się do treści interpretacji W pierwszej kolejności należy zwrócić uwagę, że w ustawie brak jest jasnego wskazania, jakie konsekwencje dla podmiotu wnioskującego będzie miało zastosowanie się do interpretacji zgodnej z jego wnioskiem. Takie rozwiązanie zostało wprowadzone w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (t.j. Dz. U. z 2023 r. poz. 2383 z późn. zm.), zgodnie z którym zastosowanie się przez wnioskodawcę do treści wydanej interpretacji indywidualnej nie może mieć negatywnych skutków dla wnioskującego. Również w przypadku Projektu wskazane byłoby wprowadzenie takiego mechanizmu ochrony wnioskodawcy przed negatywnymi konsekwencjami w zakresie zmian w interpretacji przepisów dotyczących systemów sztucznej inteligencji. Jest to szczególnie istotne także z uwagi na fakt, że Akt o Sztucznej Inteligencji („Rozporządzenie”) jako akt prawa o randze Rozporządzenia UE, podlega bezpośredniemu stosowaniu, stąd też w zakresie jego bezpośredniej interpretacji może wypowiadać się Sąd unijny. W takim przypadku interpretacja Sądu odmienna od tej wyrażonej przez Przewodniczącego Komisji w interpretacji indywidualnej również nie powinna wywoływać negatywnych konsekwencji dla wnioskodawcy, który dostosował się do treści interpretacji indywidualnej. Termin odpowiedzi na wniosek oraz skutki jego przekroczenia przez organ Wskazanym byłoby wprowadzenie do Projektu maksymalnego terminu rozpatrzenia wniosku o wydanie interpretacji indywidualnej. Z uwagi na charakter obszaru działalności gospodarczej, którego dotyczy Projekt, w szczególności dynamicznych zmian technologicznych, termin ten powinien równocześnie mieć charakter terminu zawitego, a w konsekwencji brak jego dotrzymania powinien skutkować uznaniem interpretacji za zgodną z treścią wniosku. W przeciwnym bowiem razie przedsiębiorcy staną przed dylematem, czy narażać się na ewentualne negatywne konsekwencje braku wiążącej interpretacji przepisów w niejasnych stanach faktycznych, czy też wstrzymać pracę nad danym produktem, narażając w ten sposób niejednokrotnie efekt kilku lat pracy, w szczególności wobec rosnącej konkurencji, mając jednak jasne stanowisko Przewodniczącego Komisji co do zgodności z prawem zakładanych działań. Zapewnienie konkurencyjności polskich przedsiębiorstw, w szczególności z zakresu MŚP wymaga, aby wprowadzić tego rodzaju mechanizm automatycznego uznania interpretacji za pozytywną po upływie określonego terminu, przynajmniej w odniesieniu do wnioskodawców będących MŚP. 53 W przypadku interpretacji indywidualnych w sprawach podatkowych, mechanizm milczącego uwzględnienia wniosku o wydanie interpretacji indywidualnej został wprowadzony w art. 14o Ordynacji podatkowej. Ochrona tajemnicy przedsiębiorstwa W naszej ocenie rozwiązanie proponowane w art. 16 Projektu tj. publikowanie interpretacji w Biuletynie Informacji Publicznej („BIP”), po dokonaniu ich anonimizacji, jest rozwiązaniem pożądanym, w istotny sposób przyczyniającym się do poziomu przejrzystości stosowania przepisów Rozporządzenia oraz pozytywnie oddziałowującym na pewność prawa w Polsce w tym zakresie. Nasze obawy budzi jednak fakt, że specyfika tego rodzaju rozwiązań, w szczególności w zakresie innowacyjnych technologii opartych o systemy sztucznej inteligencji, może wymagać zapewnienia, że opis funkcjonowania konkretnego systemu bądź jego przeznaczenie będą odpowiednio zabezpieczone, w szczególności jako stanowiące tajemnicę przedsiębiorstwa danego podmiotu. Należy wskazać, że nacisk na ochronę poufności rozwiązań opartych o AI został położony już w samym Rozporządzeniu. Zgodnie z art. 78 Rozporządzenia, Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie tego Rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa. W naszej ocenie istnieje ryzyko, że brak możliwości zastrzeżenia tajemnicy przedsiębiorstwa dla celów późniejszej publikacji treści interpretacji indywidualnej w BIP w istotny sposób wpłynie na gotowość podmiotów gospodarczych do korzystania z tej instytucji. Warto zwrócić uwagę, że opis konkretnych rozwiązań planowanych do wdrożenia przez dany podmiot, przedstawiony w interpretacji, może niekiedy doprowadzić do ujawnienia danego podmiotu, nawet pomimo anonimizacji jego danych. Dotyczy to w szczególności podmiotów działających w niszowych obszarach rynku bądź też największych spółek technologicznych. Równocześnie ujawnienie konkretnego rozwiązania na wczesnym etapie prac może doprowadzić do „przejęcia” tego rozwiązania przez inne podmioty. Takie sytuacje są o tyle prawdopodobne, że z ekonomicznego punktu widzenia wniosek o interpretację należałoby złożyć na wczesnym etapie planowania prac projektowych, tak aby podjąć racjonalną decyzję o inwestycji w dane rozwiązanie, w szczególności mając świadomość tego, czy dany system zostanie zakwalifikowany przez organ nadzoru jako system wysokiego ryzyka. Występowanie o taką interpretację po fakcie tj. po ukończeniu procesu produkcyjnego wydaje się być bezcelowe. Z tych powodów w naszej ocenie podmiot składający wniosek o wydanie interpretacji indywidualnej powinien mieć możliwość zastrzeżenia we wniosku zakresu informacji, które objęte 54 są tajemnicą przedsiębiorstwa. Dzięki temu następcze opublikowanie treści interpretacji, bez informacji stanowiących tajemnicę przedsiębiorstwa, nie wpłynie w negatywny sposób na działalność tego podmiotu. Takie rozwiązanie może w negatywny sposób wpłynąć na użyteczność publikowanych interpretacji podatkowych dla innych podmiotów, jednak w naszej ocenie ochrona tajemnicy przedsiębiorstwa powinna mieć w tym zakresie priorytet. Decyzje Komisji Wstrzymanie wykonania decyzji Komisji po złożeniu odwołania do Sądu Zgodnie z art. 73 ust. 1 Projektu, administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Ponadto, zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Równocześnie jednak brak jest w Projekcie przepisu, który powodowałby powstanie tożsamych skutków w stosunku do innych elementów decyzji, w szczególności w zakresie zobowiązania do wycofania systemu AI z rynku. Tymczasem to właśnie środki zobowiązujące nakładane przez Komisję mogą okazać się dla dostawców i podmiotów stosujących systemy AI najbardziej dotkliwe, a w skrajnych przypadkach mogą prowadzić do całkowitej utraty możliwości dalszego prowadzenia działalności gospodarczej. Mając to na uwadze, zasadnym byłoby wprowadzenie rozwiązania, zgodnie z którym wniesienie odwołania do sądu wstrzymuje wykonanie decyzji Komisji w całości. Z uwagi na potrzebę zabezpieczenia interesów i bezpieczeństwa społecznego, rozstrzygnięcie w zakresie obowiązku wycofania systemu z obrotu mógłby podejmować sąd w ramach rozpoznania wstępnego sprawy objętej odwołaniem od decyzji. Rygor natychmiastowej wykonalności decyzji Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Przepis ten stanowi daleko idącą ingerencję w prawo strony do dwuinstancyjnego postępowania. Jest to tym bardziej istotne, że projektowany przepis posługuje się tylko jedną, bardzo nieostrą i uznaniową przesłanką w zakresie możliwości nadania decyzji rygoru natychmiastowej wykonalności. Warto zwrócić uwagę, że nawet w przypadku regulacji o charakterze ogólnym tj. w art. 108 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego ( Dz. U. z 2024 r. poz. 572) nadanie decyzji rygoru natychmiastowej wykonalności uzależnione jest od wystąpienia znacznie bardziej sprecyzowanych przesłanek tj. niezbędności dla ochrony zdrowia lub życia ludzkiego, niezbędności dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami lub ze 55 względu na inny ważny interes społeczny. Tymczasem treść art. 74 Projektu pozostawia bardzo daleko idącą dowolność Komisji w zakresie stosowania tego środka, którego skutki dla danego podmiotu, z uwagi na specyfikę branży (w szczególności długi czas produkcji i istotne nakłady finansowe na stworzenie systemu) mogą być niezwykle dotkliwe, a w przypadku podmiotów z sektora MŚP bądź podmiotów z obszarów wysoko wyspecjalizowanych, mogą doprowadzić do upadku danego przedsiębiorstwa, których to skutków nie będzie można odwrócić nawet w razie pozytywnego rozstrzygnięcia sądu odwoławczego. Z tych przyczyn w naszej ocenie z tego przepisu należy zrezygnować w całości, bądź też zawęzić zakres jego stosowania jedynie do sytuacji, w której nadanie rygoru natychmiastowej wykonalności decyzji jest niezbędne dla ochrony zdrowia lub życia ludzkiego. Rozdział 2 GRAI Rozważyć uwzględnienie w wymogach na członków komisji, żeby to byli nie tylko \"przedstawiciele instytucji kluczowych dla rozwoju sektora technologii sztucznej inteligencji\", ale żeby aktywnie prowadzili pracę i mieli osiągnięcia z zakresu tematów związanych ze sztuczną inteligencją. Rozważyć zdefiniowanie minimalnych wymagań. Pozwoliłoby to na zapewnienie odpowiedniego poziomu merytorycznego oraz wzmocniło postrzeganie samej komisji. Rozdział 2 GRAI Przejrzystość działań Komisji Komisja będzie prowadzić publiczną i przyjazną użytkowniczkom bazę danych dotyczącą wydanych decyzji Rozdział 2 GRAI Sugeruje wprowadzenie przepisów regulujących tryb i zasady wydawania zezwolenia (oraz kontroli sądu) na wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Rozdział 2 GRAI Sugeruje rozważyć udział w pracach Komisji Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka oraz Rzecznika Ubezpieczonych. Można rozważyć zobowiązanie RPO, RPD, RU do przedstawiania cyklicznych raportów o wpływie AI na obszary ich zainteresowań (np. Wpływ technologii na zdrowie dzieci i higienę cyfrową). Rozdział 2 GRAI Sugeruje uregulowanie zasad dostępu do przebiegu jawnych posiedzeń Komisji np. Poprzez odesłanie do ustawy o dostępie do informacji publicznej. art. 5 i kolejne w rozdziale Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z kolei regulacja art. 5, art. 6 oraz art. 8 projektu ustawy o Al świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 4 pkt. I oraz art. 6 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej Komisją. Pogląd ten znajduje pełne oparcie w regulacji art. 8 ust. 5 projektu ustawy o AI, wedle której Komisja w zakresie swojej właściwości podejmuje uchwały, w tym wydaje decyzje administracyjne i postanowienia. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 56 k.p.a. w zw. z art. 104 $ 1 k.p.a. w zw. z art. 104 $ 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 $ 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją(art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postepowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 5 ust. 2 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym przypadku państwowego, obsługującego organ administracji publicznej (art. 5 ust. 1 projektu ustawy o AN). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 $ 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji(art. 5 ust. 4 pkt. 1 projektu ustawy o AT), które z racji zapewniania obsługi Komisji (art. 5 ust. 2 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 ust | projektu ustawy o AT), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem(art. 5 ust. 4 pkt. 2 projektu ustawy o AT). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. zart. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał _ cywilnoprawne i _ administracyjne _ kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja 57 rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AT) i kierujący pracą Biura Komisji (art. 5 ust. 4 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego Komisji (art. 5 ust. 2 projektu ustawy o AT) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż autor projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacjj w stosunkach cywilnoprawnych osób prawnych przez ich organów, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety autorowi projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W zakresie z kolei kompetencji administracyjnoprawnych duże wątpliwości wywołuje zróżnicowanie, a zarazem częściowe niedoprecyzowanie kompetencji Komisji, która działając jako organ Biura Komisji jest organem właściwym w sprawach nadzoru nad bliżej nieokreślonym rynkiem (art. 5 ust. 4 pkt. 1 projektu ustawy o AT), zaś na mocy art. 6 ust. 1 jest uznana za organ nadzoru rynku w zakresie systemów sztucznej inteligencji, co już samo w sobie jest rozwiązaniem nie budzącym większych wątpliwości. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej(art. 6 ust. 1 projektu ustawy o Al) za błędne uznać należy przyznanie Prezesowi Rady Ministrów będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 5 ust. 2 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 5 ust. 3 w zw. zart. 5 ust. 1 projektu ustawy o AT). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny 58 jest Prezes Rady Ministrów (art. 17 pkt. 3 k.p.a. w zw. zart. 18 pkt. 1 k.p.a.) i to nad Komisją, a nie jak błędnie przyjęto w art. 5 ust. 3 projektu ustawy o AI, nad Biurem Komisji, Prezes Rady Ministrów winien pełnić nadzór. O niechlujstwie projektodawcy świadczyć natomiast może zamieszczenie w art. 5 projektu ustawy o AI aż dwóch ustępów o numerze dwa. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę usuwając tym samym wiele nieprawidłowości należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego. poprawnego brzmienia art. 5 projektu ustawy o Al: „ l. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje Prezes Rady Ministrów. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6. Komisja posiada prawo używania pieczęci z godłem państwowym. ”. D/ Duże wątpliwości budzą także regulacje poświęcone składowi Komisji. Mając bowiem na uwadze, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji (art. 6 ust. 1 projektu ustawy o AI) oraz uwzględniając niezwykle istotną rolę i znaczenie zadań jakie jej poruczono (art. 11 ust. 1 projektu ustawy o AI) doprawdy trudno zrozumieć dlaczegóż to spośród wszystkich Członków Komisji jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni łącznie spełniać zakreślone projektem ustawy wymogi pod postacią: a/ posiadania obywatelstwa polskiego, b/korzystania z pełni praw publicznych, c/ posiadania co najmniej wykształcenia wyższego i tytułu zawodowego magistra, magistra inżyniera lub tytułu równorzędnego, d/ wyróżniania się wiedzą i posiadania znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, e/posiadania co najmniej trzyletniego stażu pracy na stanowiskach kierowniczych, f/posiadania statusu osoby nie karanej za umyślne przestępstwo lub umyślne przestępstwo skarbowe, g/ posiadania nieposzlakowanej opinii i dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 18 ust. 2 projektu ustawy o AI, art. 21 ust. 2 projektu ustawy o AI). Tutaj należałoby dodać jedną istotną uwagę zasądzającą się w tym, iż Przewodniczący Komisji oraz jego Zastępcy winni być osobami niekaranymi za popełnienie przestępstw umyślnych wskazanych w art. 18 ust. 2 pkt. 6 projektu ustawy o AI prawomocnymi wyrokami, tak jak to przyjęto w odniesieniu do członków Społecznej radu do Spraw sztucznej 59 Inteligencji w art. 28 ust. 4 pkt. 2 projektu ustawy o AI. Mając bowiem na uwadze, że Komisja w zakresie swojej właściwości podejmuje uchwały, w tym decyzje i postanowienia, zwykłą większością głosów (art. 8 ust. 5 w zw. z art. 8 ust. 6 projektu ustawy o Al), zaś skład Komisji jest dwunastoosobowy i obejmuje Przewodniczącego, dwóch jego Zastępców oraz dziewięciu Członków Komisji (art. 7 ust. 1 projektu ustawy o AT) nietrudno dojść do przekonania, że raptem trzech członków Komisji posiadających niezwykle istotne w realizacji zadań Komisji cechy opisane w art. 18 ust. 2 projektu ustawy o AI bez większego problemu może przegłosować pozostałych co najmniej siedmiu Członków Komisji, którzy tych ważkich dla pełnienia funkcji w Komisji cech nie posiadają, co może okazać się szczególnie istotne w przypadku decydowania w merytorycznych sprawach dotyczących sprawowania nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji (art. 6 ust. I projektu ustawy o Al) przez Członków Komisji nie wyróżniających się wiedzą i nie posiadających znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, nierzadko przesądzając 0 prawidłowości podjętej uchwały. Rozwiązanie lansowane przez projektodawcę, wedle którego jedynie Przewodniczący Komisji oraz dwaj jego Zastępcy winni wyróżniać się wiedzą i posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji lub prawa oraz doświadczenia zawodowego uzyskanego w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, gdy tymczasem pozostali Członkowie Komisji tego rodzaju walorami legitymować już się nie muszą trudno by było pogodzić z regulacją art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przewidującą, iż „Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie.”. Wskazanie w art. 70 ust. 3 aktu w sprawie sztucznej inteligencji przez prawodawcę wspólnotowego na bezwzględną potrzebę zapewnienia przez właściwe organy krajowe w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych wnioskując a minori ad maius tym bardziej odnosi się do podejmujących decyzje merytoryczne w sprawach nadzoru nad rzeczonym rynkiem Członków Komisji nie będących pracownikami Biura Komisji. Nie 60 można też wykluczyć sytuacji, w której grupa siedmiu przestępców skazanych za szpiegostwo lub przestępstwa przeciwko bezpieczeństwu systemów obronnych naszego kraju, a wskazanych przez organy władzy i administracji publicznej określone w art. 7 ust. 2 projektu ustawy o AI mogłaby bez większych problemów przegłosować uchwały dotyczące rynku w zakresie systemów sztucznej inteligencji, które wprost wystawiłyby nasze państwo na niebezpieczeństwo inwigilacji ze strony obcych służb, czy też na przeprowadzane przez nie akcje sabotażowe,, którym to służbom przed skazaniem rzeczeni przestępcy się wysługiwali ze szkodą dla naszego kraju. Przykład ten nie stanowi zwyczajnej abstrakcyjnej dywagacji, bo przecież wobec Członków Komisji wskazanych w trybie art. 7 ust. 2 projektu ustawy o AI przez właściwe organy nie stawia się wymogu spełnienia wymagań określonych w art. 18 ust. 2 ustawy o AI, wtymi wymogu niekaralności za umyślne przestępstwa, który to wymóg odniesiono jedynie do Przewodniczącego Komisji i jego Zastępców (art. 18 ust. 2 pkt. 6 projektu ustawy o AI, art. 18 ust. 2 pkt. 6 w zw. zart. 21 ust. 2 projektu ustawy o Al). Co więcej nie sposób racjonalnie wytłumaczyć motywów jakimi kierował się projektodawca, który o wiele wyższe wymagania stawia członkom Społecznej Rady do spraw Sztucznej Inteligencji pod postacią: posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka, nieskazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystania z pełni praw publicznych oraz wyrażenia pisemnej zgody na kandydowanie do Rady (art. 28 ust. 4 projektu ustawy o Al), której przypisano jedynie kompetencje opiniodawczo- doradcze wobec Komisji (art. 28 ust. 1 projektu ustawy o AT), niż Członkom Komisji nie będącym Przewodniczącym Komisji lub Zastępcą Przewodniczącego Komisji, którym jako Członkom Komisji będą przecież przysługiwały kompetencje do merytoryczne rozstrzygania spraw z zakresu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 6 ust. 1 w zw. z art. 8 ust. 5 projektu ustawy o AT). O ile można zgodzić się z przekonaniem wyrażonym na stronie 10 uzasadnienia projektu ustawy o AI, iż „„W celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych”, to za całkowicie błędne uznać należy pominięcie w składzie Komisji z głosem stanowiącym, a mie jedynie doradczym, przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców, którzy zajmując się w ramach swoich kompetencji sprawami przedsiębiorców oraz sprawami postępu technicznego nie są jednakże ich przedstawicielami. Tym bardziej musi dziwić pozbawienie w Komisji przedstawicielstwa z głosem stanowczym przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, skoro z jednej strony do składu Komisji delegowani są przedstawiciele Rzecznika Praw Dziecka, czy też Rzecznika Praw Obywatelskich albo Komisji Nadzoru Finansowego (art. 7 ust. 2 pkt. 7, pkt. 6, pkt. 5 projektu ustawy o AT), które to organy niewiele w zakresie swoich kompetencji będą miały wspólnego z rynkiem systemów sztucznej inteligencji, z drugiej zaś strony projektodawca na stronach 2-3 61 uzasadnienia projektu ustawy o AI w sposób jednoznaczny identyfikuje cele wiązane przez niego z wdrażaniem projektu ustawy o AI wskazując, że „ Na poziomie krajowym niezbędne jest w związku z tym podjęcie stosownych środków zmierzających do wspierania innowacyjności w zakresie sztucznej inteligencji, ze szczególnym uwzględnieniem sektora małych i Średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start. up oraz promowania europejskiego, zorientowanego na człowieka podejścia do AI, jak również te dążące do znalezienia się przez UE w światowej czołówce państw, rozwijających bezpieczną, godną zaufania i etyczną Al.”. W tej zatem sytuacji pominięcie w składzie Komisji z głosem stanowiącym przedstawicieli: Ministra Rozwoju i Technologii, Ministra Przemysłu, ministra właściwego do spraw nauki i szkolnictwa wyższego oraz Rzecznika Małych i Średnich Przedsiębiorców świadczy 0 oczywistej wręcz niekonsekwencji projektodawcy wynikającej z rozbieżności projektu ustawy o AI oraz motywów, które legły u podstaw wdrażania tego rodzaju rozwiązań wyrażonych w uzasadnieniu tegoż projektu. Eliminowanie zaś ze składu Komisji przedstawicieli resortów gospodarczych (resort gospodarki, resort przemysłu), które to resorty będą projekty te realizowały, oraz resortu nauki i szkolnictwa wyższego, który winien przygotować podwaliny naukowe pod przygotowanie podstaw naukowo- badawczych do wdrożenia systemów sztucznej inteligencji, a także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, który „sźoi na straży praw mikroprzedsiębiorców oraz małych i średnich przedsiębiorców, w szczególności poszanowania zasady wolności działalności gospodarczej, pogłębiania zaufania przedsiębiorców do władzy publicznej, bezstronności i równego traktowania, zrównoważonego rozwoju oraz zasady uczciwej konkurencji i poszanowania dobrych obyczajów oraz słusznych interesów przedsiębiorców” [art. 1 ust. 1 ustawy z dnia 6.03.2018 r. o Rzeczniku Małych i Średnich Przedsiębiorców (tekst jedn. Dz. U. z 2023 r. poz. 1668), zwanej dalej ustawą o Rzeczniku MŚP], a którzy to mali przedsiębiorcy, Średni przedsiębiorcy oraz mikroprzedsiebiorcy mają być w zamierzeniu projektodawcy głównymi beneficjentami przedmiotowej inicjatywy ustawodawczej (strona_ 2-3 uzasadnienia projektu ustawy o AN), jest nie tylko niezrozumiałe, ale wręcz taką decyzję projektodawcy uznać należy za błędną, wręcz antyrynkową i sprzeczną zarazem z potrzebami rodzimej gospodarki. Celem wyeliminowania przedstawionych powyżej nieprawidłowości dotyczących składu Komisji Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje wprowadzenie do projektu ustawy o AI następujących zmian: a/ art. 7 ust. 1 projektu ustawy o AI otrzymuje nowe brzmienie „W skład Komisji wchodzą: Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz trzynastu Członków Komisji. Członkami Komisji w liczbie trzynastu, o których mowa w zdaniu poprzednim mogą być jedynie osoby spełniające wymagania określone w art. 18 ust. 2 ustawy.”, b/ w art. 7 ust. 2 in fine projektu ustawy o AI po pkt. 9 kropkę zastępuje się średnikiem, po którym dodaje się punkty o numerach od 10 — 13 w brzmieniu: „10) ministra właściwego do spraw gospodarki; 11) ministra właściwego do spraw przemysłu; 12)ministra właściwego do spraw nauki i szkolnictwa wyższego; 13) Rzecznika Małych i Średnich Przedsiębiorców.” 62 c/ w art. 7 ust. 3 projektu ustawy o AI skreśla się pkt. 6 i pkt. 13, d/ w art. 18 ust. 2 pkt. 6 otrzymuje nowe brzmienie „nie była karana prawomocnym wyrokiem za przestępstwo umyślne lub za umyślne przestępstwo skarbowe”. E/ Uchwały Społecznej Rady do spraw Sztucznej Inteligencji. Projektodawca w art. 30 ust. 3 projektu ustawy o AI przyjmuje, że Rada w sprawach określonych w art. I ust. I ustawy w zakresie innym niż przekazany przez Komisję może wyrazić opinię lub stanowisko z własnej inicjatywy w drodze uchwały podjętej większością głosów. Regulacją ta wywołuje dwie istne wątpliwości. Po pierwsze odesłanie do spraw określonych w art. I ust. 1 projektu ustawy o AI jest odesłaniem pustym, gdyż art. 1 projektu ustawy o AI dzieli się na punkty, a nie na ustępy. Należałoby zatem wyjaśnić, w których sprawach nie objętych przekazaniem przez Komisję do wyrażenia przez Radę opinii lub stanowiska spośród spraw wymienionych w art. 1 projektu ustawy o AI Rada może wyrazić z własnej inicjatywy własną opinię lub stanowisko, czy we wszystkich sprawach z art. 1 projektu ustawy o AI, czy też jedynie w sprawach określonych w art. 1 pkt. 1 projektu ustawy o AI. Druga z kolei wątpliwość zasadza się w tym, iż skoro w sprawach nie przekazanych Radzie przez Komisję do wyrażenia opinii lub stanowiska Rada podejmuje uchwały zwykłą większością głosów pełnego jej składu, to pojawia się pytanie jaką większością głosów i przy obecności jakiego quorum głosujących Rada w drodze uchwały wyraża opinie i stanowiska w zakresie spraw objętych przekazaniem Radzie przez Komisję do wyrażenia opinii lub stanowiska. Niestety stosownej regulacji w tym zakresie próżno szukać w projekcie ustawy o AI. F/ Projektodawca w art. 43 ust. 2 zd. 2 projektu ustawy o AI w uzasadnionych przypadkach dopuszcza przeprowadzanie czynności kontrolnych poza formą zdalną także przy użyciu przesyłek rejestrowanych lub kurierskich doręczanych w dodatku za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23.11.2012 r. — Prawo pocztowe. Jeżeli organ kontrolujący zainteresowany jest doręczaniem kontrolowanemu przesyłek za pośrednictwem operatora pocztowego jako przesyłek rejestrowanych lub kurierskich, to oczywiście takie rozwiązanie wątpliwości budzić nie może. Natomiast wniosek wynikający z przedmiotowej regulacji dotyczący samego kontrolowanego, z którego wynikałoby, że kontrolowany także doręczając pewne dokumenty, czy też próbki, materiały, towary etc. podmiotowi kontrolującemu musi korzystać jedynie z przesyłek rejestrowanych lub kurierskich, a nie może przykładowo wskazując osobiście ich zawieść do organu kontrolowanego i złożyć na dzienniku podawczym, choćby w tym celu by zaoszczędzić na kosztach wysyłki przesyłki kurierskiej lub rejestrowanej, brzmi zgoła absurdalnie, jest pozbawiony podstaw racjonalnego wnioskowania i w dodatku jest niemożliwy do pogodzenia z regulacją art. 8 zd. 1 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn .dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców, wedle której przedsiębiorca może podejmować wszelkie działania, z wyjątkiem tych, których zakazują przepisy prawa. Skoro zatem przepisy projektu ustawy o AI nie zakazują doręczania osobiście do lokalu podmiotu kontrolującego dokumentów, materiałów, przesyłek, próbek, towarów etc. z pominięciem przekazywania ich przez operatora pocztowego w formie przesyłek rejestrowanych lub kurierskich, przeto nic nie stoi na przeszkodzie, by 63 przedsiębiorca poddany procedurze kontrolnej osobiście na żądane przez kontrolującego materiały, dokumenty, próbki, towary etc. dostarczył osobiście do lokalu podmiotu przeprowadzającego kontrolę. art. 5 i kolejne w rozdziale GRAI Uwaga o charakterze ogólnym Przepisy projektu ustawy odnoszące się do nadzoru, zgłaszania poważnych incydentów, nakładania kar itd. są bardzo rozbudowane, natomiast przepisy dotyczące działań z zakresu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów sztucznej inteligencji – bardzo hasłowe, ogólne, znajdujące się jedynie w dwóch artykułach projektowanej ustawy. Konieczność rozbudowania przepisów dotyczących konkretnych propozycji rozwoju AI w Polsce - o konkretne propozycje działań, które pozwolą na rozwój AI w Polsce. Rolą Komisji powinno być uprawnienie do przedstawiania rządowi konkretnych propozycji działań i dbanie (wnioskowanie) o zabezpieczenie odpowiednich środków finansowych na ich realizację. Proponujemy wykorzystać to, co eksperci GRAI wypracowali w ramach prac Podsekcji: „Wsparcie dla biznesu” i które to propozycje znalazły się w projekcie dokumentu strategicznego „Polityka AI”, a w części także w propozycji do „Strategii Cyfryzacji” przekazanej do Ministerstwa Cyfryzacji”: WSPARCIE DLA BIZNESU: CEL GŁÓWNY: Rozwój polskiej gospodarki i zwiększenie konkurencyjności firm na rynku globalnym przez efektywne wsparcie małych, średnich i dużych przedsiębiorstw w Polsce w opracowywaniu, komercjalizacji i wdrażaniu innowacji, w tym adaptacji i wykorzystaniu technologii sztucznej inteligencji (AI). Kluczowe jest zapewnienie skutecznego i efektywnego ekonomicznie rozwoju, wdrażania i umiędzynarodowienia inteligentnych produktów i usług wykorzystujących możliwości AI oraz innych przełomowych technologii (np. internet rzeczy, zaawansowana mechatronika). CELE POŚREDNIE: CEL: Rozwój polskich firm, w tym startupów w obszarze rozwoju AI i wdrażania innowacji CEL: Stworzenie ekosystemu prawno-finansowo-techniczno-edukacyjnego przyjaznego przedsiębiorcom, w tym głównie startupom i MŚP do rozwoju AI i wdrażania innowacji w Polsce; CEL: Zapewnienie wykwalifikowanych zasobów kadrowych do efektywnego wdrażania AI przez firmy w Polsce CEL: Zwiększenie świadomości i wiedzy na temat AI wśród przedsiębiorców CEL: Ułatwienie dostępu do technologii AI dla firm różnej wielkości CEL: Stymulowanie innowacji i badań w dziedzinie AI 64 DZIAŁANIA, KTÓRE POZWOLĄ NA OSIĄGNIĘCIE CELÓW: LEGISLACJA: - dostosowanie polskich regulacji prawnych do AI Act (przepisy wdrażające AI Act, które będą pozbawione nadmiernych ograniczeń legislacyjnych i restrykcyjnych norm prawnych w zamian za stworzenie bezpiecznych i racjonalnych warunków otoczenia prawnego dla rozwoju AI w Polsce i dadzą szansę na konkurowanie polskich firm w tym obszarze z przedsiębiorcami na świecie; - skupienie mechanizmów centralnych instytucji nadzoru i mechanizmów dopuszczania rozwiązań (AI Act Conformance) na systemach wysokiego ryzyka i zabronionych (pozostałe obszary poddane powinny być istniejącemu systemowi nadzoru nad rynkiem, i uwzględniać branżowe kodeksy dobrych praktyk jako punkt odniesienia dla wykazania należytej staranności); - prawne regulacje obejmujące udogodnienia dla polskich firm w wykorzystaniu AI, w tym przede wszystkim dla startupów i MŚP. ZASOBY TECHNICZNE: Platforma Wsparcia Technologicznego: - darmowy marketplace narzędzi i oprogramowania w zakresie AI i rozwiązań komplementarnych dla MŚP; - darmowy dostęp do chmury obliczeniowej dla startupów i małych firm do testowania i rozwijania aplikacji AI – piaskownice rozwiązań; ułatwienie dostępu do danych: - udostępnienie firmom publicznych zbiorów danych do testowania i rozwijania algorytmów AI; - tworzenie wspólnych przestrzeni danych (data spaces) z danymi branżowymi dla firm; rozwój efektywnej ekonomicznie i przyjaznej dla środowiska infrastruktury obliczeniowej (polskie możliwości obliczeniowe) - tu ostateczne działania zaplanować w łączności z sekcją: „Piaskownice regulacyjne” w następującym zakresie tematycznym: - fabryki AI i dostęp do superkomputerów dla start-upów; - wdrożenie przez Polskę zaleceń EuroHPC - integracja z istniejącą infrastrukturą; - proces wnioskowania o dostęp do infrastruktury obliczeniowej dla start-upów; opracowanie efektywnego procesu; identyfikacja możliwości wsparcia dla start-upów; reguła transparentności z API, a nie tylko dokumentacji; rozdział odpowiedzialności w procesie wnioskowania; - Piaskownice Regulacyjne AI: AI Compute Hub i Wirtualny Instytut Badawczy (WiB); - mapowanie istniejących Piaskownic Regulacyjnych w UE i na świecie; - analiza i wybór branż i technologii do zaadresowani; - identyfikacja rynkowych ekspertów, liderów; - stworzenie koncepcji piaskownicy (sandboxa) dla sektora publicznego lub prywatnego, pod nadzorem WIB Office; 65 - formuła utworzenia Poliversum (edge) wraz z funduszami / grantami i PL GRID, szczegółowa analiza obecnej infrastruktury PL GRID, ocena potencjalnych usprawnień; FINANSE: ulgi podatkowe dla firm opracowujących i wdrażających innowacje, w tym te z obszaru AI; coroczne środki budżetowe na wsparcie rozwoju polskich firm w obszarze AI; niezwłoczne uruchomienie i sprawne działanie Funduszu AI; skuteczne pozyskiwanie środków zewnętrznych na rozwój polskich, innowacyjnych technologii z wykorzystaniem AI - np. z dostępnych programów pomocowych; szybkie granty i mikrofinansowanie: - uruchomienie programu małych grantów (np. do 50,000 PLN) na szybkie wdrożenie projektów AI w firmach; - programy mikrofinansowania dla startupów AI z uproszczonymi procedurami aplikacyjnymi; EDUKACJA: przygotowanie kadr do skutecznego wykorzystywania AI w Polsce: - programy edukacyjne na poziomie szkoły podstawowej i szkoły średniej (dzieci i młodzież szkolna), - nowe kierunki studiów dot. AI (młodzież, studenci), - wypracowanie we współpracy twórców AI, uczelni i regulatora AI zasad odpowiedzialnej inżynierii i certyfikacji z nią związanych dla systemów AI wysokiego ryzyka, na wzór przemysłu lotniczego i budownictwa. - kursy, szkolenia – dla osób, które chcą się przebranżowić i pracować w obszarze dot. AI (dorośli); programy szkolenia w zakresie odpowiedzialnego wdrażania i projektowania rozwiązań wykorzystujących AI: - repozytorium kursów stacjonarnych i kursów online z podstaw AI zwłaszcza dla małych przedsiębiorstw z niewielką świadomością dotyczącą praktyk rynkowych i małą adopcją rozwiązań AI; - propagowanie darmowych zasobów wiedzy dot. AI w postaci e-booków, webinarów, nagrań video; WSPARCIE MERYTORYCZNE/ WPARCIE EKSPERTÓW DLA PRZEDSIĘBIORCÓW ROZWIJAJĄCYCH AI: sieci mentorów i ekspertów: - tworzenie sieci mentorów i konsultantów AI, którzy mogą doradzać MŚP w kwestiach technologicznych i biznesowych; - organizowanie regularnych spotkań i sesji mentoringowych online; inkubatory i akceleratory AI: 66 - tworzenie programów inkubacyjnych i akceleracyjnych dedykowanych startupom AI; - zapewnienie wsparcia w postaci mentorów, finansowania początkowego oraz dostępu do technologii; wsparcie w certyfikacji i standaryzacji: - ogólnodostępne repozytorium regulacyjne, wraz z interpretacjami prawnymi i technologicznymi; - szerzenie tej świadomości poprzez serie warsztatów i seminariów; - wsparcie merytoryczne w procesach certyfikacji, pomoc prawna. PROMOCJA I INFORMACJA: zaplanowanie i realizacja działań informacyjno – promocyjnych dla startupów i MŚP z zakresu możliwości efektywnego rozwoju AI i innowacji w Polsce, w tym stworzonego dla tego rozwoju ekosystemu prawno-finansowo-techniczno-edukacyjnego; promocja polskich produktów i usług wykorzystujących AI w celu zwiększenia konkurencyjności firm; pilotażowe projekty AI: - zwinne Proof of Concept z możliwością skalowania dla kluczowych branż w kraju z zaangażowaniem firm polskich, które mają doświadczenie w budowaniu rozwiązań AI; - system nagradzania firm biorących udział w projektach PoC – dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; hackathony i konkursy innowacji: - wybór realnych przypadków biznesowych realizujących cel społeczny (użyteczny dla społeczeństwa) i organizacja konkursów wyłaniających najlepsze rozwiązania rozwiązujące problem za pomocą AI; - system nagradzania podobny jak w przypadku Proof of Concept - dotacje, refinansowanie kosztów, dostęp do chmury obliczeniowej i infrastruktury technologicznej, itp.; kampanie Informacyjne i edukacyjne: - kampanie medialne promujące korzyści z zastosowania AI w biznesie; - informowanie o dostępnych programach wsparcia, grantach i szkoleniach. Propozycje bardziej szczegółowe– poniżej – w Dodatkowych uwagach. Art. 5 i nast. AI CHAMBER Jak wskazano już powyżej koncepcja przyjęcia rozwiązań instytucjonalnych wprost z ustawy o nadzorze finansowym ma zalety, ale analiza tych przepisów budzi wątpliwości nie tylko natury ogólnej, ale też co do poszczególnych przyjętych rozwiązań. Samo powołanie nowej, wyspecjalizowanej instytucji zasługuje na poparcie - żadna z istniejących nie posiada odpowiednich kompetencji i jest zorientowana na zupełnie inne cele. Wątpliwości może jednak budzić sama koncepcja organu kolegialnego, jego skład oraz forma prawna. 67 Art. 5 KIGEiT Art. 5 powinien zaczynać się treścią Art. 83 i Art. 84 ust.1 Przepisy Art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od 0. dlatego obecnie przepisy Art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w Art. 5 - jako przepis prawa materialnego Art. 5 PIIT Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1, Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotychczasowych podmiotów, w tych przepisach znoszonych / zlikwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępują one żadnych organów a są tworzone od podstaw. Dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie wyrwane z kontekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy, ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji. wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Art. 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Nazwa Komisji (art. 5) Nazwa Komisji w obecnym brzmieniu dotyczy rozwoju i bezpieczeństwa sztucznej inteligencji. Ustawa zaś mówi o „systemach sztucznej inteligencji”. Proponujemy ujednolicić i wszędzie jednak stosować „systemy sztucznej inteligencji”. Art. 5 Osoba fizyczna jk Powinien zostać przeniesiony przed art. 31. Najpierw opis samej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i jej działalności, później jej Biura - nawet jeżeli Biuro jest przywoływane w artykułach 6-30 Art. 5 ust. 1 ISSA Polska Warto zmienić z “państwowej osoby prawnej” na “urząd/organ administracji rządowej/publicznej” - decyzje Komisji będą podlegać procedurze odwoławczej zgodnie z kpa. Art. 5 ust. 1 SKwP Zadaniem Biura Komisji jest zapewnienie obsługi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej „Komisją”, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Może warto rozważyć, i Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji - nazwać inaczej, np. Urząd ds. AI. Wtedy należy budować strukturę wewnętrzną: Biuro, Komisję i Radę. Dalej w Biurze będzie dyrektor i pracownicy? Komisja ma przewodniczącego. 68 Art. 5 ust. 1. PWPW dot. Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Jakie jest uzasadnienie aby Biuro Komisji posiadało status państwowej osoby prawnej. Dla porównania np. UOKIK, PUODO nie posiadają takiego statusu. Z podmiotów publicznych UKNF jest tylko taką osobą prawną. Należy wskazać, że ww. okoliczność może mieć wpływ na zakres odpowiedzialności odszkodowawczej Skarbu Państwa za wadliwe działania Komisji i Biura względem podmiotów nadzorowanych. Art. 5 ust. 1. PIIT Komisja ...... jest państwową osobą prawną. Konsekwentnie należy dalej używać wyrazu “Komisja”, zamiast “Biuro Komisji” na oznaczenie tej państwowej osoby prawnej (agencji). Art. 5 ust. 1 GRAI Biuro Komisji W projekcie ustawy zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem, w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Art. 5 ust. 1 Osoba fizyczna Przyjęcie dla aparatu administracyjnego nazwy „Biuro” odbiega od praktyki legislacyjnej dotyczącej tworzenia nazw organów i urzędów administracji publicznej. Dlatego też należy wprowadzić termin Urząd ds. nadzoru nad sztuczną inteligencją, co będzie odpowiadało zarówno treści ustawy, jak i zadaniom Komisji. Art. 5 ust. 1 Fundacja FinTech Poland Przepis wzorowany jest na przepisie art. 3 ustawy o nadzorze nad rynkiem finansowym, przy czym Komisja jest organem kolegialnym z którego wybiera się przewodniczącego. Sugerujemy przeanalizować czy jest to wariant optymalny. Struktura rynku w przypadku sztucznej inteligencji różni się od rynku finansowego dość znacznie. Jak wynika z OSR już obecnie ze sztucznej inteligencji korzysta 330 tys. przedsiębiorców. Do rozważenia pozostaje czy nadzoru nad tak rozproszonym rynkiem nie powierzyć na wzór Hiszpanii Agencji lub tak jak w Austrii już istniejącemu organowi. Art. 5 ust. 1 i ust. 4 AI CHAMBER przyjęta konstrukcja prawna jest dość niejasna. Biuro KRiBSI jest to osobą prawną, a Przewodniczący organem, ale Biura. Dlaczego nie zdecydowano się na ustanowienie centralnego organu administracji państwowej, na kształt Prezesa UOKiK lub UKE? 69 Art. 5 ust. 2 Osoba fizyczna Głównym zadaniem nowego organu administracji publicznej jest nadzór nad systemami sztucznej inteligencji. Dlatego też prawidłowe jest nazwanie organu administracji publicznej, np. Komisja ds. nadzoru nad sztuczną inteligencji. Inną nazwą oddającą charakter i zadania organu moz0e być Komisja ds. bezpieczeństwa sztucznej inteligencji. Taka nazwa wskazuje w sposób jednoznaczny na główny cel funkcjonalny ustawy, a mianowicie zapewnienie bezpieczeństwa w związku ze stosowaniem sztucznej inteligencji przez społeczeństwo i rynek. Należy zwrócić uwagę, że nowy organ w swych kompetencjach, określonych w art. 11 projektu ustawy, nie ma rozwoju Sztucznej Inteligencji. Przyjęcie tego elementu w nazwie będzie budziło wątpliwości co do zadań i kompetencji Komisji oraz wprowadza w błąd destynatariuszy organu. Art. 5 ust. 1 i 2 oraz inne GRAI Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. Nazwa „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” – sugeruje zawężony zakres działania Komisji do rozwoju i bezpieczeństwa i może wywoływać uzasadnione wątpliwości do rzeczywistej roli, jaką ma pełnić. Szczególnie, że z projektowanych przepisów wiemy, że Komisja będzie działała w szerszym zakresie. Ponadto należy założyć, że jej kompetencje w czasie będą się rozwijały. Dodatkowo, należy zauważyć, że proponowana nazwa organu nadzoru „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” jest zbędnym opisem w nazwie oczekiwanych działań organu. Zwłaszcza, że zakres kompetencyjny będzie stopniowo rozszerzany, a nacisk w zakresie działalności również będzie odmienny w zależności od okresu i stanu prawnego. W przypadku zmiany nazwy organu zmianie ulegnie również nazwa Biura. Rekomendujemy zmianę nazwy organu na „Komisję do spraw Sztucznej Inteligencji”. Będzie to rozwiązanie podobne do stosowanego w innych krajach członkowskich UE, oraz uwzględniającą w przyszłości dalszy rozwój kompetencji organu. Konsekwencją tej zmiany będzie zmiana nazwy Biura Komisji. 70 Art. 5 ust. 2 GRAI Uwaga redakcyjna Oczywista omyłka pisarska – zastosowanie podwójnej numeracji ust. 2. Zmiana numeracji ustępów w art. 5 projektu ustawy. Art. 5 ust. 3 Osoba fizyczna Zgodnie z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689) właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. Przyjęcie rozwiązania, w ktorym organ nadzoru Komisja - jest organem Biura Komisji Rozwoju i Bezpieczeństwa SI, a samo Biuro pozostaje pod nadzorem Prezesa Rady Ministrów nie spełnia warunku niezależności i bezstronności, bowiem proponowana podległość pod organ polityczny stwarza ryzyko politycznej zależności i stronniczości. Ponadto w ust.3. nie wskazano charakteru i zakresu nadzoru sprawowanego przez Prezesa Rady Ministrów wobec Biura Komisji, jakie środki prawne może użyć i na jakich zasadach. Niedookreślenie tego aspektu budzi jeszcze większe wątpliwości co do bezstronności i niezalez0nosci organu nadzorczego nad SI. Art. 5 ust. 2,4,5 Osoba fizyczna W ust. 4. przyjęto, że Komisja jest organem Biura Komisji, co sugeruje, że Komisja jest częścią Biura Komisji, a nie osobną jednostką organizacyjną, której Biuro Komisji zapewnia obsługę. W ust. 2. jest napisane, że zadaniem Biura Komisji jest zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady do spraw Sztucznej Inteligencji. Natomiast w ust. 4. jest napisane, że Przewodniczący Komisji kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Jednak w ust. 5. jest napisane, że Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji, co sugeruje, że Przewodniczący Komisji nie jest najwyższym organem Biura Komisji, ale tylko jednym z pracowników. Wewnętrzna niespójność logiczna powoduje, że należy przeredagować cały artykuł, wskazując Komisje jako organ a Biuro/Urząd jako aparat obsługujący Komisję. Jednocześnie należy zapewnić Przewodniczącemu Komisji zwierzchność kompetencyjną, służbową, organizacyjną, i finansową nad Biurem/Urzędem. art. 5 ust. 4 AI CHAMBER należy sprecyzować o nadzór nad jakim rynkiem (“systemów sztucznej inteligencji”) lub (mając na uwadze treść art. 6 ust. 1) kreślić słowa “która jest właściwa w sprawach nadzoru nad rynkiem”. art. 5 ust. 4 KIGEiT Propozycja zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku art. 5 ust. 5 KIGEiT Rekomendacja: Podział na różne poziomy nadzoru w zależności od ryzyka: \"Komisja klasyfikuje systemy sztucznej inteligencji według poziomów ryzyka, przy czym systemy niskiego i średniego ryzyka nie podlegają pełnej procedurze zgodności ani kontrolom ex ante. 71 Systemy o wysokim ryzyku (np. w dziedzinie medycyny, transportu autonomicznego) podlegają bardziej rygorystycznym wymogom. Jednakże, firmy mogą skorzystać z uproszczonych procedur, jeśli udowodnią, że ich systemy są wystarczająco zabezpieczone przed potencjalnymi zagrożeniami.\" , Art. 5 ust.5 (Zadania Komisji) definiuje, że Komisja ma za zadanie przeciwdziałać zagrożeniom związanym z systemami AI, ale przepisy te można rozwinąć, uwzględniając podejście oparte na ryzyku. Dzięki propozycji podmioty rozwijające systemy, które nie charakteryzują się wysokim ryzykiem, nie byłyby narażone na nadmierne koszty związane z regulacjami, co mogłoby sprzyjać ich rozwojowi, podczas gdy ryzykowne technologie byłyby odpowiednio kontrolowane. art. 5 ust. 5 GRAI Projekt zakłada, że Przewodniczący Komisji i Zastępcy są pracownikami Biura Komisji. Mając jednak na uwadze treść art. 32 ust. 5 projektu ustawy osobą wykonującą obowiązki z zakresu prawa pracy względem pracowników Biura Komisji będzie Dyrektor Biura Komisji. W zakresie, w jakim te czynności miałby wykonywać względem Przewodniczącego lub Zastępców Przewodniczącego może to powodować uzasadniony konflikt kompetencyjny (zgodnie z projektem to Przewodniczący podlega Dyrektorowi). Art. 6 KIGEiT Rekomendacja: Harmonizacja regulacji: \"Komisja we współpracy z organami UE i międzynarodowymi organizacjami AI opracowuje wspólne standardy oceny zgodności systemów AI, tak aby firmy działające w Polsce mogły łatwo wejść na rynki międzynarodowe. Komisja będzie dążyć do zapewnienia, że przepisy krajowe nie nakładają na przedsiębiorców większych obciążeń regulacyjnych niż te wymagane przez standardy międzynarodowe.\" , Art. 6 (Współpraca z organami UE) określa współpracę Komisji z innymi organami w ramach Unii Europejskiej, ale warto rozwinąć ten zapis, by zapewnić, że przepisy w Polsce nie będą odbiegać od międzynarodowych standardów. Dzięki temu firmy polskie będą mogły swobodnie operować na rynkach globalnych, bez potrzeby dostosowywania się do różnych reżimów regulacyjnych. Art. 6 ust. 1. PIIT Wykreślenie ust. 1 art. 6, przeniesienie zadania do art. 11. , Zadanie w postaci nadzoru nad rynkiem powinno być w katalogu zadań w art. 11, nawet jeżeli jest traktowane jako podstawowe. Art. 6 ust. 1 Polskie Towarzystwo Informatyczne W zakresie kompetencji nadzorczych Komisji wymienione są systemy AI, jednak wynikiem ich działania mogą być także usługi świadczone przez te systemy. Zatem wskazane jest rozszerzenie zakresu kompetencji nadzorczych Komisji również w zakresie usług AI Propozycja Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji oraz usług opartych na AI. Zawężenie zakresu kompetencji Komisji może uniemożliwić jej nadzór w sytuacji, gdy na terenie kraju dostępne są usługi AI poprzez kanały elektroniczne a nie systemy. Art. 6 ust. 1 Krajowy Instytut Mediów Zasadność wyznaczenia organów nadzoru rynku spośród obecnie istniejących organów 72 1. Na podstawie art. 70 ust. 1 rozporządzenia 2024/1689 państwa członkowskie obowiązane są do wskazania organu lub organów nadzoru rynku dla systemów sztucznej inteligencji. Rozwiązaniem rekomendowanym przez projektodawcę w tej kwestii jest powołanie nowego organu nadzoru rynku, co jak wskazano w Ocenie Skutków Regulacji, pozwoli na spełnienie wymogów rozporządzenia 2024/1689 dotyczących m.in. niezależności organu nadzoru. 2. W odpowiedzi na powyższą argumentację należy zaznaczyć, że w Polsce, wśród wymienionych przez projektodawcę instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, mających wchodzić w skład nowego organu nadzoru rynku, istnieją organy, których status jest w zasadzie niezależny, takie jak Krajowa Rada Radiofonii i Telewizji, formalnie niepodporządkowana innym organom państwowym, w szczególności zaś Radzie Ministrów. Uregulowanie konstytucyjnej pozycji KRRiT stanowi przeniesienie określonych zadań egzekutywy na rzecz podmiotu leżącego poza jej strukturą organizacyjną, przez co racją istnienia KRRiT jest wykonywanie powierzonych jej zadań w sposób niezależny od rządu. 3. W wyroku z 23.03.2006 r., K 4/06, OTK-A 2006, nr 3, poz. 32, Trybunał Konstytucyjny zaznaczył, że szczególna pozycja KRRiT, jako organu kontroli i ochrony prawa, łączącego w sobie funkcje zarządu i kontroli, którego kompetencje i sposób powoływania określa Konstytucja, pociąga za sobą pełną autonomiczność Krajowej Rady w stosunku do Rady Ministrów i jej Prezesa. Świadczy o tym treść art. 6 ust. 2 pkt 1 ustawy o radiofonii i telewizji, w myśl którego do zadań Krajowej Rady należy projektowanie, w porozumieniu z Prezesem Rady Ministrów, kierunków polityki państwa w dziedzinie radiofonii i telewizji. Przepis ten wskazuje na partnerski, równoprawny charakter stosunków między Krajową Radą a Prezesem Rady Ministrów. O niezależności KRRiT od Rady Ministrów świadczy także fakt, że przedstawia ona sprawozdanie ze swej działalności Sejmowi, Senatowi i Prezydentowi, natomiast Prezesa Rady Ministrów jedynie informuje o swoich dokonaniach. Ponadto, ze względu na szczególną pozycję Krajowej Rady, nie ma do niej zastosowania art. 146 Konstytucji RP ustanawiający kompetencje Rady Ministrów do kierowania i kontrolowania pracy wszystkich organów administracji rządowej. 4. Projektodawca argumentując na rzecz zasadności powołania nowego organu nadzoru rynku dla systemów sztucznej inteligencji uznał ponadto, że posunięcie to pozwoli na sprawną koordynację działań między instytucjami kluczowymi w zakresie nadzoru nad sektorem technologii cyfrowych, w tym sztucznej inteligencji. Odnośnie do organów kluczowych w zakresie nadzoru nad sektorem technologii cyfrowych należy zauważyć, że co prawda pod względem przedmiotowym zakres działania KRRiT obejmuje radiofonię i telewizję, a więc co do zasady wyłączone z niego zostały inne środki społecznego przekazu, również elektroniczne formy masowego komunikowania, jednakże pojęcia radiofonii i telewizji nie zostały w Konstytucji RP sprecyzowane, przez co nie jest wykluczone przyjęcie ich „dynamicznej” i ewolucyjnej wykładni w związku z rozwojem technologicznym w dziedzinie środków społecznego przekazu. Co istotne, Krajowa Rada została wyposażona w kompetencje do inicjowania postępu naukowo – technicznego i kształcenia kadr w dziedzinie radiofonii i telewizji. Zadaniem KRRiT jest też upowszechnianie umiejętności świadomego korzystania z mediów (edukacji medialnej) oraz 73 współpraca z innymi organami państwowymi, organizacjami pozarządowymi i innymi instytucjami w zakresie edukacji medialnych. Dla realizacji tych zadań, istotnych z punktu widzenia funkcjonowania systemów AI w wielu różnych obszarach życia społecznego, Krajowa Rada Radiofonii i Telewizji ma kluczowe znaczenie. 5. W związku z powyższym za logiczne należałoby uznać poszerzenie ustawowych kompetencji KRRiT o przeciwdziałanie zjawisku deepfake w mediach elektronicznych, a także o zwalczanie działań polegających na wykorzystywaniu sztucznej inteligencji do manipulowania zachowaniami użytkowników oraz wizerunkiem osób publicznych za pośrednictwem mediów i platform internetowych, zwłaszcza że od 1 listopada 2021 r. Krajowa Rada jest wyposażona w kompetencje kontrolne względem platform udostępniania wideo, zdefiniowanych w ustawie o radiofonii i telewizji jako: usługa świadczona drogą elektroniczną w ramach prowadzonej w tym zakresie działalności gospodarczej, jeżeli podstawowym celem lub zasadniczą funkcją tej usługi lub jej dającej się oddzielić części jest dostarczanie ogółowi odbiorców w celach informacyjnych, rozrywkowych lub edukacyjnych audycji, wideo stworzonych przez użytkowników lub innych przekazów. Platformy udostępniania wideo niewątpliwie są więc częścią platform internetowych, definiowanych jako usługi świadczone z wykorzystaniem systemu teleinformatycznego. 6. W pozostałym zakresie nadzór nad rynkiem dla systemów sztucznej inteligencji powinien zostać podzielony pomiędzy już istniejące organy administracji publicznej, zdolne do kompleksowego podejścia do nowych zagadnień z tej sfery. Kierunek ten należy uznać za słuszny, zwłaszcza że w motywie 3 rozporządzenia 2024/1689 wskazano, że systemy AI mogą być łatwo wdrażane w wielu różnych sektorach gospodarki i obszarach życia społecznego, a w motywie zaznaczono, że zharmonizowane przepisy ustanowione w niniejszym rozporządzeniu powinny mieć zastosowanie we wszystkich sektorach. Okolicznością przemawiającą za racjonalnością wskazanego modelu jest dysponowanie przez istniejące organy administracji publicznej kompetentnymi pracownikami, posiadającymi wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach takich jak technologie informacyjne oraz nadzór nad prawami podstawowymi, co umożliwi im należyte wykonywanie powierzonych zadań. Realizowanie działań w obrębie wymienionych dziedzin odbywa się m.in. w ramach struktur KRRiT, stojącej na straży wolności słowa w radiu i telewizji, samodzielności dostawców usług medialnych oraz dostawców platform udostępniania wideo, interesów odbiorców usług i użytkowników oraz zapewniającej otwarty i pluralistyczny charakter radiofonii i telewizji (art. 6 ust 1 ustawy o radiofonii i telewizji). 7. Reasumując powyższe rozważania, za zasadne należałoby uznać wyznaczenie organów nadzoru rynku spośród obecnie istniejących organów, przy czym w kompetencje w tym zakresie z pewnością powinna zostać wyposażona Krajowa Rada Radiofonii i Telewizji. Art. 6 ust. 1 Związek Pracodawców Technologii 1. Potrzeba powołania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uważamy, że należy ponownie rozważyć niezbędność powołania kolejnego organu regulacyjnego działającego w sferze cyfrowej. Pod uwagę należy wziąć nie tylko fakt, że: 74 Cyfrowych Lewiatan • będzie to jeden z wielu regulatorów specjalnie dedykowanych dla sfery cyfrowej (UKE, praktycznie UODO) lub w znacznej części zajmujących się sferą cyfrową (UOKiK, ABW, KNF) • powołanie takiego regulatora będzie w praktyce oznaczało, że kolejne akty prawne związane z sferą cyfrową, także będą potrzebowały swoich regulatorów; przykłady to akt w sprawie danych czy europejska przestrzeń danych dotyczących zdrowia • praktyka w innych krajach UE: jeśli zadania związane z regulacją systemów sztucznej inteligencji w innych krajach członkowskich UE będą delegowane do istniejących już organów regulacyjnych będziemy mieli kolejny przykład niespójności europejskich regulacji Warto zwrócić uwagę na zapis z Uzasadnienia do projektu ustawy: „Akt o AI jest pierwszym kompleksowym aktem prawnym regulującym sektor sztucznej inteligencji w ramach regulacji jednolitego rynku UE, co wymaga od państw członkowskich oraz instytucji Unii Europejskiej skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych.” Wydaje się, że tworzenie nowego organu regulacyjnego – jeśli w innych krajach członkowskich takie nie powstają, a zgodnie z informacjami rynkowymi taką drogę wybiorą m.in. Francja i Irlandia – jest działaniem przeciwnym do prowadzenia „skoordynowanych działań ustawodawczych, administracyjnych i organizacyjnych”. Propozycja: decyzja czy powoływać nowego regulatora powinna zapaść po sprawdzeniu jak będzie wyglądała regulacja aktu w sprawie sztucznej inteligencji w innych krajach UE i przyjąć podobny model regulacji. Wiadomo także, Informacja o tym powinna być bardzo precyzyjnie zakomunikowana opinii publicznej. art. 6 ust. 1 i 3 GRAI Zgodnie z postanowieniem art. 74 ust. 6 rozporządzenia 2024/1689: „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” Z zapisu art. 6 pkt 1 wynika natomiast iż Komisja jest jedynym organem nadzoru w zakresie systemów sztucznej inteligencji. Z punktu 3 wynika, iż Komisja współpracuje z KNF w zakresie spraw wskazanych w art. 74 ust. 6 rozporządzenia. Proponowane rozwiązanie: Dodanie zastrzeżenia w art. 6 pkt. 1, że w przypadku systemów AI wysokiego ryzyka stosowanych przez instytucje finansowe organem nadzoru jest Komisja Nadzoru Finansowego. 75 art. 6 ust.1 punkty 1 oraz ust. 3 podpunkt 1 GRAI Uwzględniając: -postanowienia art. 74 ust. 6 rozporządzenia 2024/1689, które określają, że w przypadku systemów wysokiego ryzyka używanych przez instytucje finansowe odpowiedzialnym organem nadzoru jest krajowy organ odpowiedzialny za nadzór finansowy, w Polsce jest to KNF, -oraz zapisy art. 6 pkt. 1, które wskazują na istnienie jednego organu nadzorczego, czyli Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z jedynie współpracą z KNF, powstaje niejasność co do roli KNF w kontekście instytucji finansowych korzystających z systemów AI. Aktualne zapisy wydają się sprzeczne z art. 74 ust. 6 rozporządzenia 2024/1689. Istnieje potrzeba wyjaśnienia i doprecyzowania podziału kompetencji między KNF a Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w odniesieniu do instytucji finansowych stosujących systemy AI. Proponujemy zmiany doprecyzowujące te elementy zgodnie z zaproponowaną treścią, tak by być zgodnym z art. 74 ust. 6 rozporządzenia 2024/1689 oraz zapewnić spójna i jednolitą politykę nadzorczą w zakresie systemów AI dla całego rynku (ust. 3) Proponujemy zmianę treści na następującą: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji z zastrzeżeniem, że w przypadku systemów AI wysokiego ryzyka używanych przez instytucje finansowe, nadzór sprawuje Komisja Nadzoru Finansowego, zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja oraz Komisja Nadzoru Finansowego współpracują celem zapewnienia spójności sprawowanego nadzoru na rynkiem w zakresie systemów sztucznej inteligencji. 4. Komisja współpracuje z: 1) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz pozostałymi podmiotami, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2022 r. poz. 1854 oraz z 2024 r. poz. 1089) - w zakresie spraw, których mowa w art. 74 ust. 3 rozporządzenia 2024/1689); 2) Prezesem Urzędu Ochrony Danych Osobowych - w zakresie spraw, o których mowa w art. 57 oraz art. 74 ust. 8 rozporządzenia 2024/1689; 3) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 - w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 4) ministrem właściwym do spraw informatyzacji - w zakresie spraw związanych z notyfikacją, o których mowa w rozdziale 6 ustawy; 5) Pełnomocnikiem Rządu do Spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie 76 cyberbezpieczeństwa (Dz. U. z 2024 r. poz. 1077) - w zakresie spraw związanych z cyberbezpieczeństwem. 5. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej. Art. 6 ust. 1 i 3 (w szczególności pkt 1)) GRAI Projekt wskazuje, że Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. Ust. 3 reguluje też obowiązek Komisji współpracy z innymi organami w zakresie spraw tam wskazanych. Konstrukcja tego przepisu może prowadzić do sprzeczności z treścią art. 74 rozporządzenia 2024/1689 w zakresie w jakim wskazuje, że w każdym przypadku Komisja działa jako właściwy organ nadzoru. Dla przykładu, ust. 3 pkt 1 nakłada na Komisję obowiązek współpracy z Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689. Przepis ten wskazuje jednak, że w przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych, organem nadzoru jest odpowiedni organ nadzoru nad rynkiem finansowym (w tym przypadku Komisja Nadzoru Finansowego). Oznacza to, że w zakresie tam wskazanym mamy rozdzielenie organów nadzoru. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych w zakresie w jakim wprowadzenie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych – organem nadzoru będzie Komisja Nadzoru Finansowego. W pozostałym zakresie (a więc systemy inne niż wysokiego ryzyka lub w zakresie systemów AI również wysokiego ryzyka jeśli nie są bezpośrednio związane ze świadczeniem usług finansowych – organem nadzoru pozostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Tymczasem projektowany ust. 3 art. 6 nie rozróżnia tych sytuacji i przyjmuje generalnie zobowiązanie do współpracy. Proponuję, że art. 6 ust. 1 powinien przyjąć treść „Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w zakresie w jakim art. 74 rozporządzenia 2024/1689 nie stanowi inaczej. W przypadkach określonych w art. 74 ust. 3, ust. 6 i ust. 8 rozporządzenia 2024/1689 organy nadzoru określa ust. 3 poniżej.” Z kolei w ust. 3 art. 6 ustawodawca powinien podjąć decyzję czy kompetencje organu nadzoru wskazane w art. 74 ust. 6 rozporządzenia 2024/1689 przyznać Komisji Nadzoru Finansowego a nałożyć na Komisję Rozwoju tylko zobowiązanie do współpracy albo uznać Komisję Rozwoju za wyłączny podmiot nadzoru nad AI na rynku finansowym. 77 W przypadkach określonych w art. 74 ust. 3 i 8 rozporządzenia 2024/1689 relacja powinna przyjąć zobowiązanie Komisji Rozwoju do współpracy z jednoczesnym wskazaniem, co w tą współpracę wchodzi. Art. 6 ust. 2 KIGEiT Propozycja zapisu: \"Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w Art. 70 ust.1 Rozporządzenia 2024/1689.\" Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W Art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Art. 6 ust. 3 AI CHAMBER jeżeli istotne jest enumeratywne wymienienie instytucji, z którymi Komisja ma współpracować (powstaje tu pytanie, czy enumeratywna lista oznacza, że z innymi organami nie może współpracować), to należy uzupełnić tę listę przynajmniej o dowódcę komponentu wojsk obrony cyberprzestrzeni, o którym mowa w art. 23 ustawy o obronie ojczyzny. Art. 6 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prosimy o doprecyzowanie, w jaki sposób i na jakich zasadach przebiegać będzie współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”) a Komisją Nadzoru Finansowego i jak dokonany zostanie podział obowiązków. Art. 6 ust. 3 PIIT Doprecyzowanie kompetencji PUODO w pracach Komisji. , Niejasna relacja kompetencji PUODO w pracach Komisji – czy Komisja jednocześnie ma współpracować z PUODO i PUODO ma być członkiem Komisji? Kompetencje PUODO powinny być jednoznacznie określone, aby rola PUODO w poszczególnych działaniach była oczywista, czy działa jako Członek Komisji, czy też jako podmiot współpracujący z Komisją. Art. 6 ust. 3 ISSA Polska Postuluję dodanie do katalogu podmiotów, z którymi współpracuje Komisja również NASK - instytucję kompetentną w zakresie cyberbezpieczeństwa. Warto dodać także CSIRT sektorowe, zgodnie z ustawą KSC Art. 6 ust. 3 Związek banków Polskich 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; (...) 3a. Współpraca, o której mowa w ust. 3 polega na [uzupełnić] Niejasne jest określenie, na czym polegać ma współpraca z wymienionymi organami. W szczególności interesuje nas ew. zbieg właściwości w ramach współpracy KNF i Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgodnie z Art. 74 ust. 6 i 7 AI Act: 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym 78 usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. Czy aktualne brzmienie art. 6 ust. 3 pkt 1). oznacza, że Polska skorzystała z odstępstwa przewidzianego w w/w ust. 7 i wyłącznie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie właściwa? W przypadku nieskorzystania z odstępstwa przepis powinien precyzować zakres współpracy, np. wskazywać, że współpraca z organami ma na celu zapewnienie spójnego nadzoru nad systemami SI, z zastrzeżeniem że np. w zakresie spraw, o których mowa w art. 74 ust. 6 AI Act, właściwym organem nadzoru jest KNF. art. 6 ust. 3 pkt 1 GRAI Niejasne wskazanie zakresu współpracy Komisji z Komisją Nadzoru Finansowego, brak rozwinięcia kwestii w dalszej części ustawy. Użycie sformułowania „w zakresie spraw” w odniesieniu do AI Act art. 74 ust. 6. „W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych.” jest zbyt daleko idącym uproszczeniem skoro w AI Act mowa o generalnym nadzorze rynku. Doprecyzowanie w Ustawie podziału kompetencji między Komisją a KNF w stosunku do sektora finansowego. Optymalne byłoby wyłączenie sektora finansowego spod jurysdykcji Komisji. art. 6 ust.3 GRAI Komisja współpracuje... – wątpliwości może budzić „współpracuje”. Przykładowo „Komisja współpracuje z Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689” nie wyjaśnia co oznacza „współpraca”. Konieczność wyjaśnienie w uzasadnieniu do ustawy. art. 6 ust.3 pkt 1 Fundacja FinTech Poland W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakłada współpracę pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpracy z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres 79 takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować w przyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Art. 6 ust. 3 pkt 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Kompetencje Komisji a kompetencje innych organów nadzoru Zapis projektu ustawy w art. 6 w punktach 1 i 3 mówi: Art. 6. 1. Komisja jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji. (...) 3. Komisja współpracuje z: 1) Komisją Nadzoru Finansowego - w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689; Wspomniany art. 74 rozporządzenia mówi z kolei 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. Ponieważ jest różnica pomiędzy „organem nadzoru jest”, a „Komisja współpracuje” z tym organem proponujemy dwa możliwe rozwiązania: Zapis dalej idący: „Organem właściwym dla nadzoru instytucji finansowych wykorzystujących systemy sztucznej inteligencji jest Komisja Nadzoru Finansowego” Uzasadnienie: ze względu na wieloletnie działania nadzorcze i idące z tym doświadczenie i znajomość sektora finansowego nadzór nad systemami sztucznej inteligencji – dla każdego ich rodzaju – pozostaje KNF. Zapis synchronizujący z AI Act – art. 6 ust. 3 punkt 1) przyjmuje brzmienie: „1) Komisją Nadzoru Finansowego – która jest organem właściwym w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 art. 6 ust. 4 Logicise “współpracuje z Urzędem do spraw AI” Niejasne o jakim urzędzie jest mowa. Czy zapis ten dotyczy np. Europejskiego Urzędu ds. Sztucznej Inteligencji czy może chodzi o organ na poziomie krajowym? Jakiego rodzaju kompetencje ma mieć wspomniany w tym artykule urząd do spraw AI? art. 6 ust. 4 KIGEiT Propozycja zapisu: Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Europejskim Urzędem do spraw Sztucznej Inteligencji, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii 80 Europejskiej. , Nie istnieje taka instytucja jak \"Urząd do spraw AI\" zgodnie z czym zastąpiono na \"Europejski Urząd do spraw Sztucznej Inteligencji\". art. 6 ust. 4 SKwP Urząd ds. AI to europejski UE, czy będzie taki w Polsce ? Jeżeli z UE, to taka nazwa powinna być także używana w Polsce, a nie Biuro. Art. 7 Fundacja Panoptykon Nie mamy zastrzeżeń do ogólnej konstrukcji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Sugerujemy jednak wprowadzenie dodatkowych rozwiązań mających na celu doprecyzowanie przepisów dotyczących konfliktu interesów oraz zwiększenie przejrzystości procesu powoływania przewodniczącego Komisji. Skład Komisji Zgodnie z projektem w skład Komisji wejdą członkowie – przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji m.in. ministra-koordynatora służb specjalnych. Udział przedstawiciela tej instytucji nie jest w żaden sposób wyjaśniony w uzasadnieniu projektu. Naszym zdaniem jego miejsce powinien zająć przedstawiciel ministra spraw wewnętrznych jako podmiotu mającego duże doświadczenie w zarządzaniu bazami danych osobowych (np. rejestr PESEL), a jednocześnie nadzorującego Policję i Straż Graniczną. Taka zmiana byłaby też uzasadniona zakresem regulacji. Art. 7 Związek Cyfrowa Polska Nowy organ nadzoru rynku. Ustawodawca, w wyniku przeprowadzonych prekonsultacji, zdecydował o powołaniu nowego organu nadzoru na rynkiem AI w Polsce – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zamiast wyposażenia w dodatkowe kompetencje z zakresu AI innych, już istniejących organów, takich jak UODO, UKE czy UOKiK. Oceniamy to rozwiązanie korzystnie, biorąc pod uwagę m.in. złożoną materię regulacji dot. AI, a także konieczność zaangażowania w to zadanie wysokiej klasy specjalistów. Dodatkowo jako korzystne rozwiązanie oceniamy wykorzystanie dotychczasowego doświadczenia oraz kompetencji istniejących organów, decydując się na włączenie ich przedstawicieli w skład nowo powołanej KRiBSI (art. 7 ust. 2 Projektu). Wskazać należy także, że w obliczu wieloaspektowego wpływu sztucznej inteligencji na społeczeństwo, konieczne jest, aby organ nadzorujący stosowanie ustawy o sztucznej inteligencji w Polsce posiadał możliwość zrównoważenia podstawowych praw i celów regulacyjnych. Mogą one obejmować, ale nie ograniczają się do konkurencji, innowacji, inwestycji bezpośrednich, prywatności, niedyskryminacji, wolności słowa i bezpieczeństwa. Takie względy, jak prawo do prowadzenia działalności gospodarczej i wspierania innowacji, są również kluczowe w ramach regulacyjnych. Dlatego też organ regulacyjny musi mieć zdolność i reżim ustawowy, które zapewnią, że będzie odpowiedzialny za przyjęcie holistycznego podejścia obejmującego cały rząd, które może ułatwić tę równowagę między prawami podstawowymi a promowaniem innowacji i wzrostu gospodarczego. Wymaga to zniuansowanego zrozumienia współzależności między różnymi celami polityki i zaangażowania w osiągnięcie równowagi, która służy szerszym interesom społeczeństwa. 81 Art. 7 GRAI Uzasadnienia wymaga dobór opcjonalnych uczestników posiedzeń Komisji. Jakie przyjęto kryterium przemawiające za umożliwieniem udziału w posiedzeniach przedstawicieli właśnie tych wskazanych organów? Art. 7 ICC Poland W Projekcie zaproponowano powierzenie funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji (art. 70 ust. 1 rozporządzenia 2024/1689) nowoutworzonemu organowi o charakterze kolegialnym – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”). Organ ten ma obejmować, oprócz Przewodniczącego i jego dwóch Zastępców, dziewięciu członków Komisji spośród przedstawicieli innych istniejących organów (art. 7 Projektu). Zaproponowane rozwiązanie polegające na nadaniu nowemu organowi nadzoru charakteru kolegialnego budzi jednak wątpliwości z perspektywy efektywności, w tym sprawności jego działania, w zestawieniu z licznymi zadaniami, jakie ma on wykonywać (por. art. 11 Projektu). Równocześnie wydaje się, że cele, jakimi projektodawca uzasadnia przyjęcie takiej formuły organizacji Komisji, w tym zapewnienie skoordynowanego nadzoru oraz umożliwienie współpracy pomiędzy regulatorami (s. 7-8 uzasadnienia Projektu), możliwe są do osiągnięcia również przy modelu organu jednoosobowego za pomocą alternatywnych mechanizmów, np. obligatoryjnych konsultacji. Z tego względu należałoby rozważyć, czy efektywniejszym rozwiązaniem nie byłoby wyznaczenie jako organu nadzoru w rozumieniu art. 70 rozporządzenia 2024/1689 organu jednoosobowego, jak to uczyniono chociażby w przypadku Prezesa Urzędu Ochrony Danych Osobowych w odniesieniu do obszaru ochrony danych osobowych, przy równoczesnym zapewnieniu odpowiedniego poziomu eksperckości i interdyscyplinarności przy pomocy wspierającego go urzędu lub biura. Nadzór nad rynkiem systemów sztucznej inteligencji będzie wymagał bowiem sprawnego i szybkiego działania – tak ze względu na niesamowite tempo rozwoju tej technologii, jak i z uwagi na bardzo poważne ryzyka, jakie systemy sztucznej inteligencji mogą stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. W tym kontekście wątpliwości może budzić wymaganie podejmowania uchwał przez organ kolegialny w odniesieniu do niemal wszelkich jego zadań, w tym co do wydawania postanowień i decyzji w sprawie naruszenia przepisów o systemach sztucznej inteligencji. Podjęcie takiej uchwały wymagać będzie bowiem przynajmniej zwołania posiedzenia Komisji, zebrania odpowiedniego kworum, a wcześniej zapoznania się przez wszystkich członków Komisji z materiałami niezbędnymi do podjęcia decyzji. Nawet przy przyjętym założeniu odbywania tego rodzaju posiedzeń w formie zdalnej lub w trybie obiegowym (art. 8 ust. 7 i 9 Projektu), należy przewidywać, że działania te zajmować będą więcej czasu niż podjęcie decyzji przez organ jednoosobowy, nawet wtedy, gdyby miał on ściśle współpracować z odpowiednimi organami w zakresie ich właściwości (np. konsultacje). W uzasadnieniu Projektu wyjaśniono (s. 7 uzasadnienia Projektu), że przyjmując wskazaną formułę organizacji Komisji projektodawca kierował się modelem Komisji Nadzoru Finansowego. 82 Skład tego ostatniego organu ma jednak charakter zdecydowanie bardziej homogeniczny niż proponowany w odniesieniu do nadzoru nad systemami sztucznej inteligencji. O ile bowiem w skład Komisji Nadzoru Finansowego wchodzą organy i przedstawiciele organów posiadających kompetencje ściśle odnoszące się do różnych aspektów funkcjonowania rynku finansowego (np. właściwi ministrowie, NBP, Bankowy Fundusz Gwarancyjny, Prezes UOKiK), tak proponowany skład Komisji miałby obejmować przedstawicieli bardzo różnych organów, których zadania jedynie mogą – potencjalnie – wiązać się z rynkiem systemów sztucznej inteligencji. Przykładowo, przedstawiciele Rzecznika Praw Dziecka, czy też Krajowej Rady Radiofonii i Telewizji mieliby uczestniczyć w wykonywaniu wszelkich kompetencji Komisji, również tych niezwiązanych w żaden sposób z zakresem działania tych właśnie organów (mając głos równy z pozostałymi członkami Komisji). W uzasadnieniu Projektu wskazano, że proponowany model ma umożliwić realizację koncepcji nadzoru zintegrowanego nad systemami sztucznej inteligencji „łączącego kompetencje i eksperckość organów wchodzących w skład Komisji” (s. 7 uzasadnienia Projektu), jak i współpracę między regulatorami, w tym wymianę informacji w kwestiach dotyczących sztucznej inteligencji (s. 8 uzasadnienia Projektu). Wydaje się jednak, że cele te można osiągnąć w sposób efektywniejszy przez wykorzystanie innych mechanizmów, w tym obowiązkowych konsultacji lub wymogu zasięgnięcia przez organ nadzoru opinii organów, których zakresu działania dotyczy dana sprawa. Zadania, jakie Projekt powierza organowi nadzoru, z reguły nie będą bowiem obejmować zakresu działania wszystkich organów, które projektodawca uznał za kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI. Uzasadnia to dodatkowo rezygnację z włączenia ich wszystkich w proces realizacji każdego zadania organu nadzoru, a poprzestanie na punktowej integracji nadzoru nad systemami sztucznej inteligencji w odniesieniu do danej konkretnej sprawy, gdy tego ona wymaga. Powyższe uwagi skłaniają do postulatu rewizji kształtu Komisji jako kolegialnego organu nadzoru na korzyść organu jednoosobowego, co może zapewnić większą efektywność realizacji jego zadań. Art. 7 Instrat – Fundacja Centrum Cyfrowe Skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) Z zadowoleniem przyjmujemy decyzję o powołaniu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kluczowa dla skutecznego wdrażania rozporządzenia 2024/1689, zwłaszcza w kontekście zapewnienia niezależności organu nadzorującego przestrzeganie przepisów AI Act. Widzimy również istotną rolę Komisji w koordynacji działań między kluczowymi instytucjami nadzorującymi sektor technologii cyfrowych, w tym sztucznej inteligencji, co uważamy za krok w dobrym kierunku. Jednocześnie wyrażamy obawy, że w proponowanej strukturze Komisji może brakować odpowiedniej liczby ekspertów posiadających techniczną wiedzę i umiejętności z zakresu rozwijania sztucznej inteligencji. Ustawa wprawdzie przewiduje, że przewodniczący powinien 83 wyróżniać się wiedzą w zakresie SI lub prawa oraz doświadczeniem zawodowym w dziedzinie cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Jednakże takie zapisy nie gwarantują, że na to stanowisko zostanie wybrana osoba z rzeczywistym zrozumieniem modeli SI. W związku z tym rekomendujemy usunięcie zapisu „lub prawa”, gdyż pozostałe wymogi – dotyczące wiedzy i doświadczenia w obszarze SI – umożliwiają także wybór specjalisty z zakresu prawa, o ile jego wiedza koncentruje się na sztucznej inteligencji. Uważamy ponadto, że samo wskazanie na kompetencje w zakresie cyfryzacji jest wystarczające, ponieważ tematy cyberbezpieczeństwa i technologii informacyjnych mieszczą się w tym pojęciu. Uważamy również, że w Komisji powinna znaleźć się nie jedna, a przynajmniej trzy osoby będące ekspertami w projektowaniu i wdrażaniu narzędzi sztucznej inteligencji. Zaangażowanie na stałe członków, którzy na co dzień zajmują się praktycznym rozwijaniem narzędzi SI, znacząco wzmocniłoby bowiem zdolność Komisji do oceny technologicznych wyzwań i potencjalnych zagrożeń związanych z poddawanym analizie systemom. Dlatego proponujemy rozważenie następujących rozwiązań: 1. rozszerzenie składu Komisji o dwóch ekspertów z zakresu SI, wybieranych w drodze otwartego i konkurencyjnego naboru (na wzór sposobu i kryteriów naboru na przewodniczącego), którzy będą zarazem pełnić funkcję wiceprzewodniczących (w razie nieobecności przewodniczącego), a którym przyznane zostanie prawo głosu. Rozwiązanie to umożliwi zapewnienie Komisji ekspertów posiadających specjalistyczną wiedzę, nie generując przy tym dodatkowych kosztów; albo 2. rozszerzenie składu Komisji o dwóch przedstawicieli takich instytucji jak chociażby Narodowe Centrum Badań i Rozwoju Ideas (NCBR Ideas) czy Naukowa i Akademicka Sieć Komputerowa (NASK). Jeśli formalne włączenie do Komisji wyżej zaproponowanych ekspertów nie będzie możliwe, rekomendujemy, aby przynajmniej zostały one uwzględnione jako podmioty wspierające, biorące udział w posiedzeniach z głosem doradczym. Art. 7 Fundacja FinTech Poland W projekcie brak jest sformułowania wymagań dot. kompetencji osób zasiadających w KRiBSI. Powinny to być osoby o bardzo wysokiej wiedzy technicznej i/lub prawniczej w zakresie sztucznej inteligencji. Dodatkowo wszyscy członkowie komisji powinni przejść szkolenie i egzamin, przygotowywane przez czołowe polskie uczelnie i ekspertów dziedzinowych, dotyczące działania modeli sztucznej inteligencji. Art. 7 Związek Pracodawców Technologii Cyfrowych Lewiatan Skład Komisji odzwierciedla dzisiejszy obraz organów regulacyjnych, ale nie zauważa niezwykle ważnych tematów, które będą musiały być regulowane w najbliższym czasie na podstawie aktów prawnych Unii Europejskiej. Należy tu przede wszystkim wymienić dwa akty, tj. akt w sprawie danych, który zaczyna być egzekwowalny już od września 2025 roku, a także będący na ostatnim etapie europejskiego procesu prawodawczego, rozporządzenia europejska przestrzeń danych dotyczących zdrowia (EHDS). Pominięcie organów, które zostały lub zostaną wskazane jako właściwe dla tych regulacji nie pozwoli Komisji na prawidłowe działania w przyszłości. Propozycja: zmiana w art. 7 ust. 2 poprzez dodanie: 84 10) innych organów regulacyjnych właściwych dla ochrony danych Art. 7 ust. 1 ISSA Polska Postuluję określenie sposobu wyłonienia Członków Komisji przez każdy z podmiotów uprawnionych do ich oddelegowania. Ponadto trybu ich odwoływania. Proponuję wskazanie, czy Członkowie Komisji powoływani są na kadencję, czy są to wspólne kadencje. Zmiana składu osobowego może negatywnie wpływać na ciągłość prac Komisji. Art. 7 ust. 1 ZPAV postuluje w tym miejscu rozszerzenie składu Komisji (art. 7 ust. 1 projektu ustawy) o przedstawiciela ministra właściwego do spraw kultury. Art. 7 ust. 1 ZAIKS Art. 7 ust. 1 Projektu otrzymuje następujące brzmienie: „Art. 7.1 W skład Komisji wchodzą Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziesięciu członków Komisji.\" Art. 7 ust. 1-2 Osoba fizyczna Propozycja zbudowania składu Komisji w oparciu o urzędników administracji rządowej (głównie) oraz działających na zasadach reprezentowania swoich mocodawców (piastunów organów politycznych), a więc osób całkowicie zalez0nych, nie gwarantuje stworzenia niezależnego organu nadzoru ds. sztucznej inteligencji, a jest to przecież wymóg wynikający z art. 70 ust 1 Ai Act (rozporządzenie UE 2024/1689). Ponadto dobór członków Komisji, poza jednym przypadkiem – Przewodniczącego, nie jest obwarowany żadnymi warunkami merytorycznymi. Tylko osoba stająca do konkursu na Przewodniczącego Komisji musi, zgodnie z art. 18 ust 1 pkt 4) projektu ustawy o SI wyróżniać się wiedzą i posiadać znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych. Budzi to poważne wątpliwości co do braku kwalifikacji pozostałych członków ważnego, w dobie skokowego rozwoju sztucznej inteligencji, organu administracji publicznej. Potencjalnie osoby wskazywane do Komisji mogą nie mieć żadnego doświadczenia lub wiedzy związanej z cyberbezpieczeństwem, sztuczną inteligencją lub technologiami informatycznymi. Nawet jeśli przyjąć, że zależy Ustawodawcy na szerokim spektrum wiedzy i wśród członków komisji, to ww. elementy muszą stanowić zasób ich wiedzy. Np lekarz prowadzący badania nad SI, etyk zajmujący się etyką sztucznej inteligencji lub socjolog badający skutki społeczne wykorzystania SI. Dopiero takie połączenie wiedzy, umiejętności i formalnego wykształcenia istotnie wzmocni merytoryczny poziom w ramach Komisji, zapewni jej interdyscyplinarność oraz pozwoli potencjalnie na właściwą ocenę naruszenia przepisów prawa dotyczącego sztucznej inteligencji. Należy również zwrócić uwagę, że wprowadzenie konstrukcji organizacyjno- prawej, w której za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu budzi wątpliwości nie tylko natury etycznej, ale także natury prawnej. Przyjęte rozwiązanie o nie wynagradzaniu członków komisji za udział w pracach może naruszać przepisy prawa pracy 85 i kodeksu cywilnego, które przewidują obowiązek wynagradzania pracy i zwrotu kosztów związanych z jej wykonywaniem. Poza tym jest wysoce prawdopodobne, że pracownik organu delegującego, oprócz udziału w pracach komisji, będzie miał inne obowiązki w swym macierzystym urzędzie. Powstaje pytanie, czy w takim razie będzie się wstanie zaangażować się w pracę Komisji w pełni, zwłaszcza w sytuacji szerokiego zakresu kompetencji i zadań Komisji, mając potencjalne obowiązki w macierzystym organie? W sytuacji, gdy poszczególne organy delegujące członków do Komisji SI będą tworzyły odrębne stanowisko w swym urzędzie w celu zapewnienia wynagrodzenia dla takiego pracownika, to powstaje kolejne pytanie o gospodarność w wydatkowaniu pieniędzy publicznych. Równie istotna jest kwestia równego wynagrodzenia, bowiem poszczególne organy mogą posiadać różne regulaminy płac, co przełoży się na niczym nieuzasadnione prawnie zróżnicowane wynagrodzenia członków komisji. Generalnie skład Komisji ds SI powinien opierać się o dobór merytoryczny, być może z pozostawieniem prawa do wskazania poszczególnych osób przez niektóre organy władzy publicznej, przy jednoczesnym zatrudnieniu lub wynagradzaniu członków bezpośrednio przez Komisję, w której pracach będą uczestniczyć. Art. 7 ust. 2 Logicise dobór dziewięciu członków Komisji Proponujemy poszerzenie składu Komisji o ministra właściwego do spraw szkolnictwa wyższego i nauki, oraz dwóch do trzech ekspertów w obszarze AI - przedstawicieli wiodących w Polsce instytutów badawczych zajmujących się badaniami nad AI oraz wykorzystaniem AI w gospodarce, w szczególności Instytutu Badawczego IDEAS, Instytutu Technik Innowacyjnych EMAG Sieci Badawczej Łukasiewicz, Europejskiego Laboratorium Uczących się i Inteligentnych Systemów (ELLIS) w Warszawie. Ponadto, proponujemy zredukować udział KRRiT do uczestniczenia z głosem doradczym (art. 7. 3.) Art. 7 ust. 2 ZAIKS art. 7 ust. 2 Projektu punkt 3) uzyskuje następujące brzmienie: ,,3) ministra właściwego do spraw kultury i ochrony dziedzictwa narodowego;\" art. 7 ust. 2 Projektu obecne punkty 3)-9) otrzymują numerację odpowiednie 4)-10) Jednym z celów Al Act jest zapewnienie przestrzegania przez dostawców modeli Al. ogólnego przeznaczenia przepisów prawa UE dotyczących prawa autorskiego i praw pokrewnych1• Rozwój i trenowanie takich modeli wymaga dostępu do ogromnych ilości danych, w tym treści chronionych prawem autorskim, takich jak teksty, obrazy, materiały wideo i utwory muzyczne. Każde 86 wykorzystanie takich treści wymaga co do zasady zezwolenia uprawnionych z tytułu praw autorskich i praw pokrewnych. Jak wiadomo chociażby z wielu doniesień prasowych z ostatnich miesięcy, dostawcy modeli Al często rozwijają swoje produkty z pominięciem praw twórców, artystów i producentów. Co więcej, ich utwory są często wykorzystywane do trenowania narzędzi generatywnej Al, które tworząc maszynowe imitacje twórczości ludzkiej, wchodzą z nią w bezpośrednią konkurencję jako alternatywne źródło podaży treści rozrywkowych czy informacyjnych. Tzw. wytwory Al już zaczynają stanowić bezpośrednią konkurencję, dla utworów tworzonych przez człowieka, ponieważ korzystanie z nich wiąże się z mniejszymi kosztami czy formalnościami i obowiązkami prawnymi. Tym samym wielu twórców zaczyna tracić zamówienia od takich podmiotów jak nadawcy czy wydawcy prasy, stanowiące źródło ich podstawowych przychodów. Również muzyczne serwisy steamingowe coraz częściej zamieszczają wytwory muzyczne stworzone przez narzędzia Al, aby w ten sposób obniżać zawartość chronionych utworów i, w konsekwencji, wysokość opłat licencyjnych, które są zobowiązani uiszczać na rzecz twórców i artystów wykonawców. Przywołany powyżej cel Al Act nie znajduje jednak żadnego odzwierciedlenia w Projekcie. Przepisy projektowanych artykułów 7 i 28 całkowicie pomijają w składzie organów odpowiedzialnych za nadzór nad rynkiem systemów Al oraz modelami Al podmioty prowadzące działalność w zakresie kultury i przemysłów kreatywnych Artykuł 7 ust. 2 Projektu powinien uwzględniać w składzie Komisji przedstawicieli ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego, a przez to pozostającego w bezpośrednim kontakcie z twórcami i artystami. Należy zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. ll Projektu jest „wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji\". Al Act w art. 53 w stosunku do modeli Gen Al przewiduje szereg obowiązków, w tym wprowadzanie przez dostawców tych modeli polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen Al. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Art. 7 ust. 2 CHAMBER Proponowany w art. 7 ust. 2 skład Komisji budzi wątpliwości. Wbrew uzasadnieniu ustawy nie obejmuje on “przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI”, bo trudno za kluczowy organ uznać w tym kontekście ministra-koordynatora służb specjalnych czy Rzecznika Praw Dziecka. Wskazanie tego pierwszego może wręcz budzić pewien niepokój. Brakuje z kolei wskazania choćby Ministra właściwego do spraw gospodarki, który szczególnie jako reprezentującego aspekt gospodarczy i spojrzenie ze strony wspierania MŚP, pełnić powinien funkcję zasadniczo równorzędną z Ministrem właściwym do spraw informatyzacji. Podobnie niezrozumiały jest brak przedstawiciela 87 ministra właściwego ds. nauki przy obecności np. KRRiT, która wedle naszej wiedzy nie ma większej wiedzy czy zainteresowania SI jako taką. Udział przedstawiciela MON także wydaje się wskazany. Reasumując skład Komisji powinien wyglądać następująco: Minister ds. informatyzacji Minister ds. gospodarki Minister ds. nauki Prezes UKE Rzecznik Praw Obywatelskich Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). Art. 7 ust. 2 Polskie Towarzystwo Informatyczne Skład Komisji nie uwzględnia niektórych sektorów regulowanych, które powinny być reprezentowane w Komisji, np. w zakresie produktów leczniczych lub ochrony zdrowia. Nie jest do końca jasne jakie są podstawy do wskazywania Rzecznika Prawa Obywatelskich oraz RPD w składzie Komisji. Prosimy o przeanalizowanie, jakie instytucje powinny być reprezentowane w składzie Komisji (kryteria wyboru są niejasne) 88 Art. 7 ust. 2 GRAI I. W art. 7 ust. 2 projektu został uregulowany skład Komisji, z przedstawicieli wybranych podmiotów. Jednak w uzasadnieniu nie znalazło się wyjaśnienie, dlaczego w skład Komisji mają wchodzić akurat przedstawiciele tych podmiotów i według jakiego klucza ich wybrano. II. Wątpliwości budzi zaproponowany skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Dlaczego w stałym składzie Komisji znaleźli się przedstawiciele Rzecznika Praw Dziecka i Krajowej Rady Radiofonii i Telewizji, natomiast w posiedzeniach Komisji tylko mogą uczestniczyć przedstawiciele m.in.: Biura Rzecznika MŚP, urzędu obsługującego ministra właściwego do spraw gospodarki. Z punktu widzenia zapowiadanych założeń, jakie miała realizować ustawa wdrażająca AI Act – rozwój sztucznej inteligencji, niezrozumiałe jest, jak bez przedstawicieli przedsiębiorców i resortu odpowiedzialnego za rozwój gospodarczy kraju ma być realizowane zadanie Komisji: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. I. Wyjaśnienie w uzasadnieniu według jakiego klucza dokonano wyboru podmiotów wchodzących w skład Komisji i jakie kompetencje mają wnosić przy realizacji zadań Komisji. Uzasadnienia wymaga, w szczególności wskazanie do składu Komisji przedstawicieli ministra powołanego w celu koordynowania działalności służb specjalnych, KRRiT oraz Prezesa UKE. II. Konieczne jest uwzględnienie w stałym składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przedstawicieli MRiT i Rzecznika MŚP. Art. 7 ust. 2 GRAI Brakuje w składzie Komisji reprezentanta Urzędu Rejestracji Produktów Leczniczych. Rozwój technologii w sektorze dotyczącym zdrowia wymaga szczególnej atencji, stąd przedstawiciel Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych powinien się znaleźć w stałym składzie Komisji. Uzupełnienie przepisu. Art. 7 ust. 2 Fundacja FinTech Poland Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: ministra właściwego ds. spraw wewnętrznych, ministra właściwego ds. zdrowia, ministra właściwego ds. szkolnictwa i nauki, ministra właściwego ds. pracy. Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając 89 dotychczasowe postanowienie – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Poza tym do rozważenia jest również potrzeba zaangażowania naukowców, praktyków sztucznej inteligencji pracujących w biznesie, oraz przedsiębiorców prowadzących firmy związane ze sztuczną inteligencją. Stałym członkiem prac Komisji powinien zostać również przedstawiciel Społecznej Rady, o której mowa w art. 28. Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 Polska Izba Książki Mamy jednak zasadnicze zastrzeżenia dotyczące pominięcia w projektowanej ustawie Ministerstwa Kultuty 1 Dziedzictwa Narodowego, któte to Ministerstwo tradycyjnie odpowiada za sektor kteatywny. Nie jest dla nas zrozumiałe dlaczego sektor kreatywny jest traktowany marginalnie, podczas gdy w sposób naturalny — poza korzyściami wypływającymi z zastosowania sztucznej Inteligencji — w związku z zastosowaniem systemów sztucznej inteligencji wiąże się wiele zagrożeń dla sektora kteatywnego. W uzasadnieniu do ptojektu ustawy wskazano, że „w skład Komisji będą wcbodziji członkowie — przedstawiciele organów i urzędów właściwych ze względu na przedmiot regulacji. Proponuje się, aby członkami Komisji byli przedstawiciele dziewięciu instytucji kluczowych dla rozwoju sektora technologii sztucznej znielęgeneji” . Tyta samym nie jest zrozumiałe, dlaczego pominięto w tym katalogu Ministra Kultuty i Dziedzictwa Narodowego. Z, tego względu postulujemy, by w przepisie att. 7 ust. 2 projektowanej ustawy uwzględnić ministra tesortu Kultuty i Dziedzictwa Natodowego jako członka Komisji Uważamy takie rozwiązanie za uprawnione i uzasadnione z perspektywy interesów, na czele których stoi Minister Kultury i Dziedzictwa Narodowego. To jest jedyny przedstawiciel organów wykonawczych, któty 90 teptezentuje tesott kultury i środowiska kreatywne, które w sposób oczywisty zostaną dotknięte działaniem systemów sztucznej inteligencji. Należy sobie uświadomić to, że systemy sztucznej inteligencji bazują w znacznej mierze na kontencie — tj. materiale bazowym — pochodzącym od twórców, tj. autotów w rozumieniu ustawy o Prawie autorskim i prawach pokrewnych. Działania wielu podmiotów dostatczających systemy sztucznej inteligencji muszą być odpowiednio zakwalifikowane z perspektywy ww. przepisów prawnych i odpowiednio monitotowane. Naturalnym wyborem w zakresie instytucji właściwej do zajmowania się powyższymi kwestiami w odniesieniu do treści autorskich jest Ministerstwo Kultury i Dziedzictwa Natodowego. Pominięcie tego Ministerstwa jawi się jako akt ignorancji wobec całego sektota kreatywnego w Polsce, przynoszącego określone przychody i rokującego dalszym tozwojem, co przekłada się istotnie na gospodarkę państwa. Uważamy, że przewidzenie w ustawie możliwości uczestniczenia w obradach Komisji z głosem doradczym, co zostało przewidziane w przepisie art. 7 ust. 3 projektowanej ustawy, nie jest wystarczające z perspektywy obrony intetesów polskich twótców i polskich przemysłów kreatywnych, których działalność może być dobitnie dotknięta wprowadzeniem systemów sztucznej inteligencji. Mając powyższe na uwadze wnosimy o dodanie ministra ds. kultury 1 dziedzictwa natodowego do katalogu podmiotów wchodzących w skład Komisji zgodnie z att. 7 ust. 2 projektowanej ustawy. Art. 7 ust. 2 Związek Pracodawców Technologii Cyfrowych Lewiatan Niezbędne jest uzupełnienie składu Komisji o przedstawicieli, co najmniej: • ministra właściwego ds. spraw wewnętrznych • ministra właściwego ds. zdrowia • ministra właściwego ds. szkolnictwa i nauki • ministra właściwego ds. pracy Uzasadnienie: Wprawdzie do Komisji ma trafić (art. 7 ust. 2 punkt 2) przedstawiciel „ministra powołanego w celu koordynowania działalności służb specjalnych, a w przypadku gdy nie został wyznaczony - Kancelarii Prezesa Rady Ministrów”, jednak nie odpowiada to rozdziałowi kompetencji na podstawie ustawy o działach administracji rządowej. Dlatego należy – pozostawiając dotychczasowy zapis – dodać także obecność przedstawiciela ministra właściwego ds. wewnętrznych. Uzasadnieniem może być również fakt, że systemy sztucznej inteligencji, w tym systemy wysokiego ryzyka, będą odgrywały znaczącą rolę w bezpieczeństwie infrastruktury krytycznej i bezpieczeństwie państwa. Ze względu na rolę jaką systemy sztucznej inteligencji mogą odegrać w ochronie zdrowia obecność w Komisji przedstawiciela ministra właściwego ds. zdrowia wydaje się niezbędna. Obecność przedstawicieli ministrów właściwych ds. szkolnictwa i nauki oraz pracy wynikać powinna z listy systemów wysokiego ryzyka zapisanych w rozporządzeniu 2024/1689. Art. 7 ust. 2 pkt 8 ISSA Polska W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce 91 przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Art. 7 ust. 2 pkt 8 GRAI Członkiem Komisji ma być m.in. przedstawiciel Krajowej Rady Radiofonii i Telewizji. W miejsce przedstawiciela Krajowej Rady Radiofonii i Telewizji członkiem Komisji powinien być przedstawiciel NASK PIB (w zakresie CSIRT NASK) odpowiedzialnego za cyberbezpieczeństwo. Docelowo (po planowanym utworzeniu Agencji ds. cyberbezpieczeństwa), w miejsce przedstawiciela NASK PIB, członkiem Komisji powinien zostać przedstawiciel ww. Agencji. Spośród organów/instytucji reprezentowanych w składzie Komisji brak bowiem podmiotu odpowiedzialnego za cyberbezpieczeństwo. Obecnie Pełnomocnikiem Rządu ds. cyberbezpieczeństwa jest piastun urzędu ministra właściwego ds. informatyzacji, ale nie jest to stałe rozwiązanie i piastun obu funkcji może ulec zmianie (np. poprzez ich rozdzielenie). Należy w miejsce Krajowej Rady Radiofonii i Telewizji należy wskazać NASK PIB. Art. 7.2. i 7.3. PIIT Dołączenie Ministra Nauki, Nie do końca rozumiemy przesłanki ukształtowania podstawowego składu Komisji (art. 7.2.). Wydawałoby się, że powinny to być organy, których działania w największym stopniu przesądzają o przyszłości SI w Polsce. Większą rolę ma chyba do odegrania minister nauki, od RPO i RPD. W podstawowym składzie brak przedstawiciela przedsiębiorców, obszarów związanych z infrastrukturą krytyczną, w tym transportową, rolnictwem oraz przedstawicieli III sektora. Słabo uzasadniony wydaje się udział KRRiT (zamiast np. MKiDN). Ponadto, w pracach organu administracji, którego podstawowym zadaniem jest nadzór rynku minister do spraw służb specjalnych powinien uczestniczyć z głosem doradczym (art. 7.3.). Podstawowy skład można ograniczyć do ministra cyfryzacji, UODO, UKE, UOKiK, KNF i min nauki (zob. zadanie z obecnego art. 11.1.3 projektu). Art. 7 ust. 3 Centrum Badań Kosmicznych Polskiej Akademii Nauk W posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinien móc uczestniczyć przedstawiciel Polskiej Akademii Nauk, instytucji integrującej poszczególne instytuty naukowe Polskiej Akademii Nauk. W art. 7 ust. 3 po pkt 15 należy zatem dodać pkt 16 w brzmieniu: „16) Polskiej Akademii Nauk;” oraz odpowiednio przenumerować pkt 16 w dotychczasowym brzmieniu na pkt 17. Art. 7 ust. 3 Logicise ograniczona liczba przedstawicieli w organie doradczym Analogicznie do uwagi powyżej, proponujemy rozszerzenie listy organizacji mogących brać udział w 92 posiedzeniach Komisji o wiodące w skali kraju instytuty badawcze specjalizujące się w AI. Ponadto, członkowie Społecznej Rady ds. Sztucznej Inteligencji, o której mowa w art. 28, powinni mieć możliwość udziału w posiedzeniach Komisji. Art. 7 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Mając na uwadze brzmienie art. 28 ust. 1 Projektu ustawy, w myśl którego „Przy Komisji działa Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, która jest organem opiniodawczo–doradczym Komisji.”, zasadne wydaje się, aby w posiedzeniach Komisji mogli brać udział również członkowie tej Rady, będący ekspertami w dziedzinie sztucznej inteligencji. W związku z powyższym, postulujemy dodanie pkt 17) w art. 7 ust. 3 Projektu ustawy o treści: „17) Społecznej Rady do spraw Sztucznej Inteligencji, o której mowa w art. 28 ust. 1 ustawy”. Art. 7 ust. 3 KIGEiT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do Art. 7 ust. 5). Art. 7 ust. 3 GRAI Brak możliwości udziału w posiedzeniach Komisji przedstawicieli związków samorządowych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich czy Związek Województw RP oraz przedstawicieli wojewodów (np. Konwent Wojewodów), ogranicza możliwość konsultacji i reprezentacji interesów samorządów terytorialnych. Sztuczna inteligencja będzie miała ogromny wpływ na funkcjonowanie społeczności lokalne, ich potrzeby i specyfikę. Dlatego obecność przedstawicieli samorządów będzie kluczowa dla skutecznego wdrażania i nadzoru AI, uwzględniając lokalne perspektywy i wyzwania. Propozycja dodania przepisu, stanowiącego, że „W posiedzeniach Komisji uczestniczą, z głosem doradczym, przedstawiciele związków samorządów terytorialnych, takich jak Związek Miast Polskich, Związek Gmin Wiejskich Rzeczypospolitej Polskiej, Unia Metropolii Polskich, Związek Województw RP oraz przedstawiciele wojewodów, np. Konwent Wojewodów.”. Art. 7 ust. 3 PIRP w katalogu przedstawicieli podmiotów mogących brać udział w posiedzeniach Komisji proponuje się dodać przedstawiciela urzędu obsługującego ministra właściwego do spraw nauki i szkolnictwa wyższego; postulowana zmiana wydaje się zasadna z punktu widzenia znaczenia regulacji także dla obszaru nauki i szkolnictwa wyższego Art. 7 ust. 3 GRAI Członkiem Komisji jest przedstawiciel np. KNF – wątpliwości może budzić to jak się odnieść do kontrolowania sektora finansowego przez KNF w kontekście jego członkostwa w Komisji. Wydaje się, że może zaistnieć ryzyko nakładania się kompetencji, wydawania zaleceń w tym samym obszarze. Choć gdy przyjmiemy, że zamysłem było utworzenie takiej struktury Komisji, że należą do niej przedstawiciele np. KNF i to w domyśle jest współpraca/konsultacja z KNF. Nie jest jasne czy 93 działania Komisji i KNF będą uzupełniały się Jaką rolę ma każdy organ? Można przyjąć założenie, że powinny tworzyć spójny system nadzoru. Wyjaśnienie w uzasadnieniu roli organów. Art. 7 ust. 3 GRAI Wskazana lista członków mogących uczestniczyć w posiedzeniach Komisji składająca się z przedstawicieli wybranych podmiotów – dlaczego wybrano akurat te podmioty? Uzupełnienie w uzasadnieniu według jakiego klucza zaproponowano takie podmioty. Art. 7 ust. 3 INFARMA Wśród przedstawicieli, którzy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji brakuje przedstawicieli urzędu obsługującego ministra właściwego ds. zdrowia (tak jak zostali wskazani przedstawiciele innych urzędów). Proponujemy, aby w posiedzeniach Komisji uczestniczył również przedstawiciel urzędu obsługującego ministra właściwego ds. zdrowia ponieważ systemy sztucznej inteligencji w bardzo dużej mierze będą także wykorzystywane w obszarze zdrowia, w którym mogą mieć zasadniczy wpływ na zdrowie (i życie) obywateli. Wpływ sztucznej inteligencji ma i będzie miał duży wpływ na postęp w medycynie i nauce. W najbliższych w latach w obszarze zdrowia będą wykorzystywane rozwiązania regulacji EHDS (Europejskiej Przestrzeni Danych Medycznych), mające na celu monitorowanie i regulację przetwarzania danych dotyczących zdrowia. Wdrożeniu EHDS będzie towarzyszyć szereg nowych przepisów dotyczących zarządzania danymi i ochrony prywatności pacjentów, w tym z wykorzystaniem sztucznej inteligencji. Sztuczna inteligencja odgrywa coraz większą rolę w sektorze ochrony zdrowia, a obszar zdrowia stanowi jeden z kluczowych obszarów Strategii Cyfryzacji Polski, która ustala ramy transformacji cyfrowej państwa na kolejne 10 lat. W świetle powyższego, możliwość udziału przedstawiciela MZ w pracach Komisji wydaje się niezbędna. art. 7 ust.3 PIIT Rekomendacja: dodanie punktu 17) Społecznej Rady ds. Sztucznej Inteligencji. , Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisji - inaczej jej rola może okazać się fasadowa, jednak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Art. 7 ust. 3 AI Chambre Podobne zarzuty co do arbitralności doboru organów uprawnionych do udziału w posiedzeniach Komisji można wysunąć pod adresem art. 7 ust. 3. Dlaczego wskazane zostały tam Kancelarie Sejmu i Senatu, a pominięto większość ministerstw? W szczególności zastanawiający jest tu brak Ministerstwa Zdrowia oraz agend mu podległych, takich jak Agencja Oceny Technologii Medycznych i Taryfikacji czy Agencja Badań Medycznych. Mając na uwadze ogromne możliwości, jakie otwiera SI w dziedzinie ochrony zdrowia bardzo trudno jest wywnioskować, jakim kluczem posługiwali się autorzy układając taką listę. Zdaniem Izby należy próby enumeratywnego wymienienia wszystkich zainteresowanych organów zastąpić klauzulą generalną, określającą sposób dopuszczenia do udziału w obradach wszystkich 94 centralnych organów administracji państwowej w przypadkach, gdy przedmiotem deliberacji Komisji są tematy związane z przedmiotem działalności danego organu. Przepis ten powinien być także skorelowany z obowiązkiem zawiadomienia zainteresowanych organów przez Przewodniczącego Komisji o wskazanej obecności na posiedzeniu przedstawicieli danego organu (z głosem oczywiście jedynie doradczym). art. 7 ust.5 Logicise zapraszanie osób posiadających wiedzę specjalistyczną Brak informacji jak definiowane są “osoby posiadające wiedzę specjalistyczną” i czy muszą reprezentować podmioty określone w art. 7. 3. czy też nie. Brak zapisu o możliwym konflikcie interesów. Wydaje się, że zapis art. 7. 5. jest już ujęty w art. 7. 4. art. 7 ust.5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zgodnie z art. 7 ust. 5 Projektu ustawy „Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną.” Podnosimy, iż mogą pojawiać się wątpliwości na tle określenia „osoby posiadające wiedzę specjalistyczną”, w szczególności w zakresie ustalenia, kto za taką osobę może zostać uznany i przy uwzględnieniu jakich kryteriów. Zapewne chodzi o ekspertów z dziedziny rozwiązań/modeli/systemów sztucznej inteligencji, w związku z czym zasadnym wydaje się doprecyzowanie brzmienia przepisu poprzez wyraźne wskazanie o jaką wiedzę specjalistyczną chodzi. Najbardziej pożądanym kierunkiem doprecyzowania powinno być wskazanie konkretnie na pracowników naukowych, biegłych, czy posłużenie się określeniem „osoby posiadającej wiadomości specjalne”. art. 7 ust.5 KIGEiT Propozycja zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7 biegłego” Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. art. 7 ust.5 PIIT 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, biegłego. , Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby 95 z postępowania. Przy takim zapisie takich praw brak, a musza być one zagwarantowane choćby ze względu na konflikt interesów. Sugerujemy, by kwestia rozumienia tego pojęcia (biegły) wg kpa znalazła się także w uzasadnieniu do projektu ustawy. Art. 7 ust. 3 pkt 1)-6), 11-13, Osoba fizyczna Wprowadzenie takiej regulacji powoduje, że najważniejsze organy państwa nie mogą wskazać osoby do udziału w posiedzeniu komisji, natomiast prawo to posiada aparat administracyjny obsługujący te organy. Innymi słowy, to nie Prezydent RP będzie wskazywał swego przedstawiciela, ale jego urzędnicy, podobnie to nie Minister Obrony Narodowej będzie wskazywał swego przedstawiciela, ale ministerstwo – czyli aparat administracyjny go obsługujący. Należy poprawić przepis, przez wskazanie nazw organów władzy publicznej jako uprawnionych do wskazywania swoich przedstawicieli do uczestniczenia w posiedzeniach Komisji. Jeśli ten element regulacji pozostanie, to proponuję poprawić wskazane przepisy przez odwołanie do nazw organów władzy publicznej, wynikających z Konstytucji RP lub ustaw, a nie nazw urzędów ich obsługujących. Ponadto Biuro Komisji – pkt 16, nie jest organem, natomiast pracownicy Biura przygotowują posiedzenie i obsługują od strony techniczno- administracyjnej. Pewnym kuriozum jest zaproponowanie przepisu, zgodnie z którym przedstawiciel aparatu obsługującego organ – Komisję, brał udział w posiedzeniu tego organu. Proponuje wykreślić art. 7 ust 3 pkt 16) całkowicie. Poza tym powstaje zasadnicze pytanie, czy w ogóle ciało niezależne, jakim ma być Komisja ds. SI powinno posiadać członków fakultatywnych będących przedstawicielami innych organów władzy publicznej? Komplikuje to pozycję organizacyjno-prawną Komisji i osłabia jej niezależność. Art. 7 ust. 7 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Jeśli przepis dotoczyć ma także osób wskazanych w Art. 7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w Art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w Art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Art. 7 ust. 7 i Art. 29 ust. 6 KIG Poddajemy krytyce “społeczny wymiar” zaangażowania Członków Komisji i Członków Społecznej Rady ds. Bezpieczeństwa. Trudno oczekiwać, by ktoś poświęcał swój czas, zaangażowanie i intelekt bez wynagrodzenia. Uważamy, że jest to złudne poczucie gospodarności. Akty prawne dużego Państwa europejskiego powinny odpowiednio doceniać i wynagradzać. Art. 7 ust. 7 pkt PIIT 6. Za udział pracach Komisji przysługuje wynagrodzenie zwrot kosztów przejazdów i noclegów. , Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotyczyć ma także osób wskazanych w art. 7 ust. 5 - to nieuzasadnione jest, aby 96 osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jeśli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. art. 7 ust. 7 SKwP To dotyczy członków Komisji, czy tylko osób doproszonych do posiedzenia? Zaprasza się eksperta – specjalistę i tak się go traktuje??? A przewodniczący i zastępcy mają wynagrodzenie? Za wykonaną prace musi być wynagrodzenie. Przewodniczący Komisji jest pracownikiem ,,Biura”, bez wynagrodzenia? Art. 7 ust. 7 pkt GRAI Udział w pracach Komisji powinien być rekompensowany, przynajmniej w zakresie, w którym koszty te nie byłyby pokryte przez jednostkę macierzystą członka Komisji. Nie można wymagać, aby w tak ważnej instytucji pracowano pro bono. Należy przyjąć, że koszty związane z udziałem w pracach Komisji pokrywane są przez jednostki macierzyste, a w pozostałym zakresie przyjąć pewien ryczałt, aby chociaż zrekompensować tym osobom koszty, które poniosłyby z własnej kieszeni. Chociaż, aby motywować kompetentne osoby do udziału w pracach Komisji, dodatkowa rekompensata powinna być przewidziana. Art. 7 ust. 8 CHAMBER Zawarte w projektowanym art. 7 ust. 8 wykluczenie zwrotu nawet kosztów diet i noclegu, obok wynagrodzenia, budzi zastrzeżenia. Brak wynagrodzenia może być uzasadniony wykonywaniem funkcji członka Komisji w ramach obowiązków służbowych, ale wyłączenie ogólnych przepisów dotyczących kosztów przejazdu i zakwaterowania wydaje się tu zbyt daleko posunięte. art.8 PIIT \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważniony do Kierowania Pracami Komisji\". , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 KIGEiT Rekomendacja: dodanie punktu: \"Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji\" , Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Art. 8 Fundacja FinTech Poland Przepisy ust. 2 i ust. 9 wzajemnie się wykluczają. Ponadto brak jest sprecyzowania czy posiedzenia są co do zasady jawne czy też nie. Brak doprecyzowania kiedy mogą zostać utajnione, a kiedy mogą toczyć się przy tzw. drzwiach zamkniętych. Art. 8 ust.3. PIIT Przewodniczący Komisji zwołuje i prowadzi posiedzenia Komisji. , Poprawka redakcyjna. 97 Art. 8 ust.5. PIIT Dodać “z zastrzeżeniem przepisu art. 11.2.”. , Przepis art. 11.2. przewiduje upoważnienie do wydawania postanowień i decyzji administracyjnych. Art. 8 ust 5 CHAMBER przepis zdaje się sugerować, że uchwały Komisji są decyzjami lub postanowieniami. Czy taka jest intencja projektodawców? Art. 8 ust. 5 Fundacja FinTech Poland Uchwała to nie jest to samo co decyzja administracyjna. Przy obecnym brzmieniu przepisu pojawiają się wątpliwości np. co do trybu odwoławczego i niezgodności z Prawem o postępowaniu przed sądami administracyjnymi. Decyzja administracyjna w sposób władczy kształtuje sytuację konkretnego podmiotu. Należy więc precyzyjnie określić kiedy i jakie decyzje mają być wydane. Decyzja nie jest rodzajem uchwały. Uchwały jeśli już mogą wyrażać stanowisko Komisji w jakiś kwestiach. Nie są to jednak źródła prawa. Art. 8 ust. 6 Polskie Towarzystwo Informatyczne Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co naj-mniej sześciu osób wchodzących w jej skład, w tym Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji, a w razie jego nieobecności – głos Zastępcy Przewodniczącego Komisji upoważnionego do kierowania pracami Komisji. Sugerujemy rozważenie delegacji do Rozporządzenia dot. trybu pracy Komisji. Nie sprecyzowano, jakiego rodzaju uchwały może podejmować Komisja w tym trybie. Czy rzeczywiście uchwały dotyczące nadzoru rynku sztucznej inteligencji powinny zapadać w minimalnym przypadku przy udziale 6 osób i zwykłej większości głosów? Art. 8 ust. 6 Fundacja FinTech Poland Brak określenia w jaki sposób wydawane są decyzje. Przyjęcie zasady, że wystarczająca jest zwykła większość w sytuacji gdy w skład Komisji nie wchodzą osoby wyspecjalizowane w danej dziedzinie budzi kontrowersje i zastrzeżenia. Powstaje ryzyko, że rozstrzygnięcia Komisji będą w rzeczywistości losowe i będą wynikiem głosowania osób nie do końca znających daną materię. Jeżeli wystarcza większość zwykła przy składzie min 6 osób to tytułem przykładu: Rzecznik Praw Dziecka, Rzecznik Praw Obywatelskich oraz przedstawiciel do spraw służb specjalnych mogą rozstrzygnąć o wyniku problemu technicznego związanego z konkretnym rozwiązaniem. Nieuzasadnione jest domniemanie, że osoby te będą posiadały w tym zakresie specjalistyczną wiedzę. Art. 8 ust. 9 Osoba fizyczna Skoro w art. 8 ust. 7 – 8 projektu ustawy o SI przewidziano możliwość udziału członków Komisji w posiedzeniu zdalnym, przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym, to wprowadzenie trybu obiegowego wydaje się niepotrzebne. Ponadto nie wskazano formy trybu obiegowego – elektronicznej czy papierowej, co też może 98 skutkować wątpliwościami interpretacyjnymi przy zachowaniu tego trybu. Coraz doskonalsze formy komunikacji elektronicznej, z coraz wyższym standardem cyberbezpieczeństwa są wystarczającą formą posiedzeń Komisji poza trybem stacjonarnym, a jednocześnie pozwolą w pełni realizować ustawowe kompetencje. Art. 9 ust. 1 CHAMBER należy skreślić słowo “ustawowych”, jako superfluum (uwaga redakcyjna) Art. 9 ust. 1 Fundacja FinTech Poland Jeżeli członkowie mają wspierać Przewodniczącego to co dzieje się w sytuacji gdy mają odrębne poglądy przy głosowaniu. Należy zagwarantować członkom niezależność jeżeli już ustawodawca decyduje się na formę głosowania. Art. 9 ust. 2 CHAMBER należy skreślić słowo “w” (uwaga redakcyjna) Art. 9 ust. 2 Logicise “w podmiotu, której są przedstawicielami” Błąd językowy. “przedstawiają działania” Nieprecyzyjne sformułowanie. O jakiego typu działaniach jest mowa: planowanych, dokonanych? Art. 9 ust. 2 GRAI Uwaga redakcyjna - brakuje słowa, ewentualnie usterka językowa. “Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w [imieniu(?)] podmiotu, której są przedstawicielami” Art. 9 ust. 2 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. W brzmieniu docelowym, ustęp ten powinien brzmieć: „2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. Art. 9 ust. 2 Polskie Towarzystwo Informatyczne literówki w p. 2 Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotach, których są przedstawicielami. 99 Art. 9 ust. 2 Związek Banków Polskich Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami. Zmiana gramatyczna. Art. 9 ust. 2 Osoba fizyczna błąd gramatyczny 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami art. 10 ust. 1 SKwP Powstaje pytanie, ilu pracowników będzie w Biurze? art. 10 ust. 3 PIIT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. , Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 KIGEiT 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia. Jest wątpliwe, czy Prezes Rady Ministrów jest najlepszym podmiotem do ustalenia Regulaminu Komisji. Czy nie lepiej byłoby, gdyby była to sama Komisja to Minister ds. Cyfryzacji - tematycznie bliższy? Np. Regulamin funkcjonowania sądów powszechnych ustala Minister Sprawiedliwości w drodze Rozporządzenia. Tym bardziej, że już statut Biura Komisji nadaje Prezes Rady Ministrów. art. 10 ust. 3 GRAI Zgodnie z projektem ustawy szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadawany przez Prezesa Rady Ministrów w drodze zarządzenia. Prowadzi to jednak do uzależnienia Komisji od Prezesa Rady Ministrów. Kompetencje do nadawania regulaminu Komisji powinny przysługiwać Przewodniczącemu Komisji, który powinien mieć zagwarantowaną silną niezależną pozycję instytucjonalną od działań administracji rządowej. Jednym z wariantów jest przyznanie tej kompetencji samej Komisji (do samouchwalenia regulaminu), ale z uwagi na skład Komisji mogłoby to albo doprowadzić do paraliżu pracy albo ukształtowania organizacji i trybu funkcjonowania Komisji wbrew Przewodniczącemu. Zmiana brzmienia na „3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Przewodniczącego Komisji.” Art. 11 PIIT Nowy art. 11.1.1 - wykonywanie nadzoru rynku w zakresie systemów sztucznej inteligencji wysokiego ryzyka. , Zob. uwaga do art. 6, ew. Zmiana treści art. 11.1.7. Art. 11 Instrat – Fundacja Centrum Cyfrowe W ramach zadań Komisji proponujemy, aby poza obowiązkami określonymi w art. 11, Komisja pełniła dodatkową rolę wspierającą, zwłaszcza w odniesieniu do podmiotów prawa publicznego, 100 prywatnych organizacji świadczących usługi publiczne oraz instytucji stosujących systemy sztucznej inteligencji wysokiego ryzyka. Wsparcie to powinno dotyczyć przede wszystkim oceny wpływu tych systemów na prawa podstawowe. Komisja mogłaby wspierać te podmioty poprzez wydawanie wytycznych dla administracji, opracowanych na podstawie kwestionariuszy przygotowywanych przez Biuro ds. Sztucznej Inteligencji. Dokumenty te stanowiłyby narzędzie oceny wpływu SI na prawa podstawowe, pomagając jednostkom administracyjnym podejmować świadome decyzje zgodne z przepisami prawa. Ponadto, Komisja mogłaby pełnić funkcję punktu konsultacyjnego, do którego jednostki administracyjne i podmioty stosujące SI wysokiego ryzyka mogłyby zgłaszać pytania dotyczące oceny wpływu oraz zarządzania ryzykiem związanym z tymi systemami. Co więcej, rekomendujemy uwzględnienie w art. 11 zadań z art. 66 ust. 1 (oraz usunięcie ust. 2 z art. 66), które obecnie przypisane są ministrowi właściwemu do spraw informatyzacji. Mowa tutaj o zadaniach określonych w art. 95 rozporządzenia 2024/1689, obejmujących wydawanie rekomendacji dotyczących najlepszych praktyk stosowania systemów sztucznej inteligencji. Uważamy, że Komisja, jako organ odpowiedzialny za wdrażanie rozporządzenia, jest najlepiej predysponowana do opracowywania takich dokumentów. Do zadań Komisji w tym obszarze mogłoby należeć także wspieranie tworzenia kodeksów dobrych praktyk, mających na celu propagowanie dobrowolnego stosowania części lub wszystkich wymogów rozdziału III sekcja 2 AI Actu w odniesieniu do systemów SI niebędących systemami wysokiego ryzyka. Takie rozwiązanie wydaje się szczególnie uzasadnione, ponieważ kwestie te będą koordynowane przez unijny Urząd ds. SI, z którym Komisja ma pełnić rolę kontaktową. Przyznanie Komisji większych kompetencji w zakresie wspierania podmiotów publicznych, jak i prywatnych w stosowaniu rozporządzenia przyczyniłoby się do zapewnienia większej zgodności SI z prawami podstawowymi i sprzyjałoby budowaniu spójnych standardów w zakresie projektowania i wdrażania SI w firmach i instytucjach. Art. 11 Osoba fizyczna Powstaje pytanie, czy kolejność zadań w projektowym przepisie ma charakter przypadkowy czy zamierzony, bowiem nie sposób określić jednoznacznie jaki klucz został przyjęty w tworzeniu tego przepisu. Przykładowo, zadanie określone w pkt 7 wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689;- - powinno być jednak wyżej w hierarchii zadań, jako jedno z najważniejszych. Ponadto zadanie wynikającej z pkt 6) wydawanie postanowienia i decyzje w sprawach naruszenia przepisów o systemach sztucznej inteligencji – zawiera błędy. Po słowie \"postanowienia\" - powinno być \"postanowień w sprawie\" zamiast \"postanowienia i decyzje w sprawach\". Nie zastosowano liczby mnogiej. Ponadto w języku prawniczym częściej używa się słowa \"oraz\" do łączenia dwóch równorzędnych członów zdania. Nie określono prawidłowo o jakie przepisy chodzi - powinno być \"przepisów ustawy o systemach sztucznej inteligencji\" lub \"przepisów dotyczących 101 systemów sztucznej inteligencji. Prawidłowe brzmienie przepisu \"Wydawanie postanowień w sprawach oraz decyzji w sprawach naruszenia przepisów ustawy o systemach sztucznej inteligencji\". Art. 11 GRAI Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7 art. 11, dopiero po zadaniach związanych m.in. ze wspieraniem rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów SI czy udziale w opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. Art. 11 GRAI Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym, czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Art. 11 Osoba fizyczna mk Artykuł 11 Ustawy wśród zadań Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wskazuje: 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; W obecnym ujęciu, działania mające na celu wspieranie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji wydają się znacznie lepiej zdefiniowane oraz mocniej zaakcentowane wśród zadań Komisji niż działania 102 dotyczące przeciwdziałania zagrożeniom w zakresie bezpieczeństwa sztucznej inteligencji, gdzie jedynym wymienionym działaniem Komisji jest przyjmowanie zgłoszeń poważnych incydentów. Zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie, co powinno znaleźć odzwierciedlenie wśród zadań Komisji. Ponadto, zapewnienie bezpieczeństwa systemów sztucznej inteligencji również pozytywnie wpływa na rozwój, innowacyjność i konkurencyjność badań i zastosowań systemów sztucznej inteligencji, a zatem zwiększenie udziału komisji w zagadnieniach dotyczących bezpieczeństwa nie tylko nie kłóci się, ale wspiera zagadnienia rozwoju, innowacyjności i konkurencyjności badań i zastosowań. Wskazane jest, aby Artykuł 11 punkt 4 zyskał brzmienie odzwierciedlające, fakt, że zagrożenia w zakresie bezpieczeństwa systemów sztucznej inteligencji również są obszarem aktywnych badań i monitorowania na całym świecie np. 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy, a także podejmowanie działań mających na celu wspieranie badań i monitorowanie zagrożeń w zakresie bezpieczeństwa systemów sztucznej inteligencji; Art. 11 Związek Cyfrowa Polska Niejasność dotyczącą zakresu kompetencji krajowego organu nadzorczego. Może ona rodzić niepewność prawną dla przedsiębiorstw wielonarodowych. Niejednoznaczność zakresu jurysdykcji może prowadzić do sprzecznych wymogów zgodności między różnymi organami krajowymi, komplikując operacje i zwiększając obciążenie regulacyjne dla przedsiębiorstw działających w wielu krajach. Co więcej, należy podkreślić, że niejasnośc ta jedynie wzrasta w związku z faktem, że na poziomie UE współpraca w ramach Rady ds. AI UE będzie zachdziła między organami o różnym zakresie przedmiotowym. Art. 11 ust. 1 KIG Proponujemy zmianę brzmienia pkt 11 tak, aby nie był mechanicznym tłumaczeniem tekstu rozporządzenia. Proponowany zapis: „11) podejmowanie działań mających na celu stworzenie narzędzi prawnych do testowania nowych rozwiązań dotyczących systemów sztucznej inteligencji zgodnie z przepisami rozporządzenia 2024/1689 – piaskownic regulacyjnych;”. Proponujemy również rozszerzenie katalogu zadań Komisji i po pkt 11 dodanie następujących: - podejmowanie działań wspierających badania, rozwój i komercjalizację produktów i usług wykorzystujących sztuczną inteligencję, w szczególności przez integrację środowiska gospodarczego i naukowego, tworzenie założeń do programów wsparcia i tworzenie propozycji rozwiązań prawnych ułatwiających współpracę nauki z biznesem i komercjalizację osiągnięć wykorzystujących sztuczna inteligencję, - inicjowanie działań zmierzających do łączenia instytucji publicznych, badaczy akademickich i firm działających na rzecz rozwoju sztucznej inteligencji. 103 Jak wspomniano powyżej, Komisja powinna koncentrować się w pierwszym okresie działalności nad wzmacnianiem ekosystemu administracji, przedsiębiorców i ośrodków naukowych w celu integracji środowiska i prowadzenia aktywnego dialoguz interesariuszami. Nie może koncentrować się na nadzorze, nie będzie również w stanie realizować zadania wskazanego w pkt. 5 ze względu na ograniczoną znajomość specyfiki rynku. Art. 11 ust. 1 Osoba fizyczna jk zadania Komisji powinny być wymienione w art. 6 po ust. 1 błąd gramatyczny 6) wydawanie postanowieniań i decyzjei w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 pkt 13 i art. 11. ust. 2 SKwP Uważamy, że decyzje administracyjne i interpretacje indywidualne powinny być omawiane i głosowane w Komisji. Jednoosobowe decyzje mogą prowadzić do wypaczeń na skutek lobbingu. Art. 11 ust. 1 pkt i pkt 7 CHAMBER wydają się pokrywać pod kątem treści normatywnej, gdyż organ nadzoru rynku sprawuje właśnie kontrolę nad tym rynkiem. Należy (ponownie) sprecyzować, że chodzi o “rynek systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt GRAI Do zadań Komisji powinna należeć koordynacja międzyresortowa w sprawach i projektach dot. AI i nowych technologii, aby zniwelować obecnie utrudniającą międzysektorowe inicjatywy, silosowość resortów. Warto zaznaczyć, że wśród podmiotów wymienionych w art. 7 ust. 3 brakuje chociażby takich resortów, jak edukacja czy szkolnictwo wyższe. Każdy resort powinien wyznaczyć rzecznika do kontaktu z Komisją i taka osoba powinna uczestniczyć w obradach Komisji zgodnie z art.7 ust. 3. Art. 11 ust. 1 pkt 3 i 4 Związek Banków Polskich Uwaga o charakterze ogólnym - brak rozwinięcia w dalszej części projektu brzmienia tych przepisów, w jaki sposób, w jakim zakresie. art. 11 ust. 1 pkt 3 GRAI Brzmienie pkt 3 dotyczącego wspierania i monitorowania rozwoju, innowacyjności oraz konkurencyjności w obszarze AI jest kluczowe, ale warto rozważyć dodanie konkretnych mechanizmów wsparcia tych innowacji. Wyłączny i bardzo rozbudowany nadzór nad rozwojem AI, który jest szczegółowo ujęty w ustawie, może być niewystarczający dla rozwoju innowacji bez wprowadzenia realnych zachęt. Brak takich rozwiązań może hamować rozwój technologii AI w Polsce. Nadanie nowego brzmienia: „3) podejmowanie działań wspierających oraz monitorujących rozwój, innowacyjność i konkurencyjność w zakresie badań i wdrażania systemów sztucznej inteligencji, w tym w szczególności stosowanie ulg podatkowych oraz preferencji finansowych dla przedsięwzięć o znaczącym potencjale społecznym i gospodarczym, celem zwiększenia atrakcyjności inwestycyjnej w obszarze sztucznej inteligencji;”. 104 Art. 11 ust. 2 pkt 3-5 PSSI W związku z zadaniami Komisji, które ujęto w Art. 11 punkt 1 ustępy 3-5, tj.: „ 3). podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowanie zgłoszeń poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji, o których mowa w art. 61 ustawy; 5) udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji;” niezbędne jest, aby Przewodniczący, albo co najmniej jeden z jego zastępców miał wysokie kompetencje i doświadczenie w zakresie badań naukowych. Częściowo podkreślono to w artykule 18 punkt 1 ustępy 3-4, tj.: „ 3)posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych;” Rekomenduje się: 1. zwiększenie wymagań dotyczących kompetencji Przewodniczącego, o jawne wskazanie dorobku naukowego w zakresie badań w obszarze sztucznej inteligencji oraz posiadanie stopnia naukowego co najmniej doktora w dziedzinie nauk ścisłych lub inżynieryjno-technicznych. albo: 2. dodanie stosownych wymagań (j.w.) dla jednego z zastępców Przewodniczącego. Trudno sobie wyobrazić, biorąc pod uwagę cele komisji oraz dynamiczny rozwój sztucznej inteligencji, aby w Komisji nie zasiadała co najmniej jedna osoba o dużym i aktualnym dorobku naukowym. Jednocześnie, z wyżej wskazanych powodów, członkiem komisji powinna być co najmniej jedna osoba będąca przedstawicielem Polskiej Akademii Nauk (PAN) lub Komitetu Informatyki PAN (Art. 7). Art. 11 ust.1 pkt 4 PIIT CSIRT jako podstawowy system zgłaszania incydentów, z informacją dla komisji, jeżeli dotyczy AI. Ewentualnie – tylko dla systemów wysokiego ryzyka , System zgłaszania incydentów informatycznych powinien być spójny z CSIRT. Czy zostało ocenione ryzyko redundancji procedur oraz nieracjonalnego powielania kosztów budżetu? Notabene przepis art. 11.1.4 odsyła do art. 61, który dotyczy zgłoszeń do KE. Art. 11 ust. 1 pkt 5 ISSA Polska Błąd: zamiast “wydawanie postanowienia i decyzje” powinno być “postanowień i decyzji”. 105 Art. 11 ust. 1 pkt 6 PIIT \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji wysokiego ryzyka i systemów zakazanych, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt6 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy dokonać poprawki redakcyjnej w celu zapewnienia prawidłowej odmiany gramatycznej. Art. 11 ust. 1 pkt 6 KIGEiT Propozycja zapisu: \"6. wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy\". , Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Art. 11 ust. 1 pkt 6 Polskie Towarzystwo Informatyczne Literówki wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji art. 11 ust. 1 pkt 6 GRAI Uwaga redakcyjna Słowa „postanowienia i decyzje” zastępuje się słowami „postanowień i decyzji”. Art. 11 ust. 1 pkt 6 Związek Banków Polskich (...)wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji Zmiana gramatyczna. Art. 11 ust. 1 pkt 8 Związek Banków Polskich [Dodanie po pkt 8) punktu w brzmieniu jak obok] 9) prowadzenie badań w zakresie zastosowania systemów sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację ich wpływu na decyzje podejmowane w organizacji. Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu SSI na podejmowane decyzje w organizacjach. Art. 11 ust. 1 pkt 11 ISSA Polska Do zadań Komisji należy m.in. podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie brak regulacji prawnych w tej kwestii. Temat możliwości testowania innowacyjnych systemów AI w warunkach rzeczywistych wydaje się zbyt ważny z punktu widzenia zarówno społeczeństwa, jak i przedsiębiorców, by jego ramy prawne nie były określone ustawowo. Art. 11 ust. 1 pkt 11 SANO W art. 11 ust. 1 pkt. 11 wskazana jest możliwość podejmowania działań mających na celu utworzenie piaskownic regulacyjnych. W projekcie ustawy nie ma żadnych innych postanowień regulujących tą kwestię. Rekomendujemy doprecyzowanie i uszczegółowienie, ponieważ brakuje jasnych zasad funkcjonowania piaskownic, które pozwoliłyby przedsiębiorstwom na testowanie innowacyjnych technologii z zachowaniem niezbędnych zabezpieczeń prawnych. art. 11 ust. 1 pkt 13 i art. 14 ust. 1 GRAI Postanowienia te są sprzeczne. Art. 11 ust. 1 pkt 13 wskazuje jako zadanie Komisji do dokonywania interpretacji generalnych i indywidualnych. Z kolei art. 14 ust. 1 wskazuje, że 106 interpretacje indywidualne wydaje Przewodniczący Komisji. Należy usunąć odniesienie do interpretacji indywidualnych bo te leżą w kompetencji Przewodniczącego (Komisja rozpatruje jedynie sprzeciw). Zmiana brzmienia art. 11 ust. 1 pkt 13 na „13) dokonywanie interpretacji generalnych.” art. 11 ust. 1 pkt 11 GRAI W projekcie ustawy pominięto w zadaniach Komisji – zadanie w zakresie rozwoju piaskownic regulacyjnych po ich utworzeniu. Obecne brzmienie art. 11 ust. 1 pkt 11 odnosi się tylko do „utworzenia” piaskownic regulacyjnych. Zmiana Brzmienia przepisu. W art. 11 ust. 1 pkt 11 projektu ustawy po słowie „utworzeniu” dodaje się ,,i rozwój”. art. 11 ust. 1 pkt 11 GRAI Uwaga redakcyjno - legislacyjna Po uwzględnieniu powyższej uwagi, do rozważenia zmiana numeracji punktów - obecny pkt. 11 powinien być nowym pkt 4 - po pkt 3, który wskazuje na podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji. Zmiana numeracji przepisów - obecny pkt. 11 z dodanym “i rozwój” powinien stanowić pkt 4, gdyż jest uzupełniniem obecnego pkt. 3. Art. 11 ust. 1 pkt 11 PWPW Do zadań Komisji należy: podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych; W projekcie ustawy poza projektowanym art. 11 pkt 11 nie ma dalszych regulacji dotyczących piaskownic regulacyjnych. Regulacja jest w tym zakresie zbyt wąska. W rozumieniu AI act-u piaskownice są jednym z podstawowych rozwiązań mających na celu rozwój modeli AI. AI act w art. 57 wymaga aby Państwa członkowskie zapewniły, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która powinna zostać uruchomiona do dnia 2 sierpnia 2026 r Brak jest regulacji doprecyzowujących jaki będzie tryb, zakres i miejsce dostępu do piaskownic regulacyjnych. W jaki sposób będą one zorganizowane itp. AI act w ww. zakresie wskazuje na ogólne przeznaczenie piaskownic. W tym względzie 107 prawo krajowe powinno doprecyzowywać techniczne i organizacyjne aspekty. Art. 11 pkt 11 Fundacja FinTech Poland Art. 57 ust. 1 nakłada na państwa członkowskie obowiązek zapewnienia, aby ich właściwe organy ustanowiły co najmniej jedną piaskownicę regulacyjną dla systemów AI na poziomie krajowym, z terminem uruchomienia do 2 sierpnia 2026 r. Ze względu na ambitny i stosunkowo bliski termin realizacji tego wymogu, istotne jest już teraz podjęcie kroków w celu zdefiniowania zasad funkcjonowania takich piaskownic. Brak odpowiednich regulacji w Ustawie może prowadzić do opóźnień w Art. 11 ust. 2 Osoba fizyczna Poważne wątpliwości prawne budzi określenie kompetencji Komisji do upoważnienia Przewodniczącego, Zastępców Przewodniczącego oraz pracowników Komisji do realizacji działań pozostających w zakresie właściwości Komisji, w tym do wydawania decyzji i postanowień. W doktrynie prawa administracyjnego oraz w praktyce administracyjnej stosuje się rozwiązanie, w której to organ realizuje swoje zadania przez pracowników, ale nadal są to zadania organu, realizowane w jego imieniu i na rzecz organu. Poza wyjątkowymi sytuacjami, wyraźnie wynikającymi z przepisów ustawowych, to nie bezpośrednio organ podejmuje działania w zakresie realizacji swych kompetencji, ale pracownicy aparatu obsługującego organ. Organ, obejmując urząd, wydaje upoważnienia imienne do wykonywania określonych kompetencji w imieniu organu delegującego do wydawania/załatwiania spraw w imieniu i na rzecz organu. Proponowane rozwiązanie wynikające z art. 11 ust 2 projektu ustawy nie wskazuje, że działania te będą realizowane w imieniu i na rzecz organu. Ponadto nie wskazano w jakich okolicznościach faktycznych moz0na upoważnić inne podmioty do realizacji określonych kompetencji. Nie wskazano również sytuacji prawnie relewantnych, skutkujących wygaśnięciem lub umożliwiających odebranie upoważnienia. Wydaje się, że treść art. 268a. Kodeksu postępowania administracyjnego – Organ administracji publicznej może upoważniać, na piśmie utrwalonym w postaci papierowej lub elektronicznej, pracowników obsługujących ten organ do załatwiania spraw w jego imieniu w ustalonym zakresie, a w szczególności do wydawania decyzji administracyjnych, postanowień, zaświadczeń, a także do poświadczania za zgodność odpisów dokumentów przedstawionych przez stronę na potrzeby prowadzonych postępowań z oryginałem – konsumuje w znacznym zakresie projektowany przepis i jednocześnie nie powoduje potencjalnych wątpliwości interpretacyjnych. Proponuję usunąć ust 2 art. 11 i ewentualnie odesłać do przepisów k.p.a. Art. 11 ust. 2 Fundacja FinTech Poland Zasady wydawania decyzji i postanowień powinny być jednolite. W tym kształcie jeden podmiot otrzyma decyzję wydaną przez Przewodniczącego inny przez młodszego specjalistę zatrudnionego w Biurze Komisji. Jeszcze inny mając na uwadze przepisy powyżej może otrzymać decyzję wydaną w sprawie na skutek głosowania (art. 8 ust 5 - “w tym” zaznaczone powyżej). 108 Art. 11 ust. 3 Osoba fizyczna Przepis jest nie jasny, zwłaszcza jeśli uwzględnimy uwagi dotyczące art. 11 ust 2. projektowanej ustawy. Ponadto nie wiadomo, czy czynności procesowe dotyczące spraw określonych w art. 70 ustawy mogą podlegać delegacji, a samo rozstrzygnięcie już jest zastrzeżone do wyłącznej kompetencji Komisji, czy też wszystkie czynności procesowe, od wszczęcia do prawomocnego zakończenia postępowania, są prowadzone bezpośrednio przez Komisję. Proponuję usunąć ust 3 art. 11. Art. 11 ust. 1 pkt 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy doprecyzowanie obecnej treści przepisu w następujący sposób: „13) dokonywanie interpretacji generalnych i indywidualnych, o których mowa w art. 14 i 15 ustawy.”. Wskazujemy, iż art. 13 Projektu ustawy także stanowi o interpretacjach, w związku z powyższym zasadnym zdaje się być doprecyzowanie treści komentowanego przepisu. Podnosimy także, iż zasadnym byłoby, aby projektowana ustawa umożliwiała składanie wniosków o interpretację przepisów Rozporządzenia 2024/1689 do Europejskiego Urzędu ds. Sztucznej Inteligencji. Art. 11 ust. 1 pkt 13 Związek Cyfrowa Polska Wprowadzenie instytucji interpretacji na poziomie lokalnym (krajowym). Rozwiązanie pozwalające na wydawanie takich interpretacji przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”), skutkować może fragmentaryzacją prawa unijnego (Aktu o sztucznej inteligencji), jego odmienną interpretacją, rozumieniem, stosowaniem oraz egzekwowaniem (co dotyczy zarówno interpretacji indywidualnych, jak również generalnych). Ryzyko to związane jest również z uprawnieniami ministra właściwego do spraw informatyzacji związanym z wydawaniem „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Związek Cyfrowa Polska Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) zostaną wyposażone w podobne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. W praktyce może to 109 wpłynąć na możliwość korzystania ze sztucznej inteligencji przez przedsiębiorstwa, ponieważ niepewność ram prawnych może rodzić zbyt wysokie i zbyt kosztowne ryzyko związane z korzystaniem ze sztucznej inteligencji. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który upoważnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Należy w tym miejscu także wskazać, że rządowe prace w obszarze zakazanych praktyk w Polsce, trwają w czasie, gdy otwarty jest wciąż apel European AI Office o opinie na ten sam temat. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte Art. 11 ust. 1 pkt 13 PWPW Do zadań Komisji należy: dokonywanie interpretacji generalnych i indywidualnych. Uwaga dotyczy też art. 13 projektu. Należy doprecyzować, czy interpretacje, o których mowa w art. 11 i art. 13, stanowią interpretacje w rozumieniu art. 33 i 34 ustawy - Prawo przedsiębiorców. W ocenie PWPW S.A. taka interpretacja powinna stanowić realizację art. 33 i 34 ww. ustawy. Wtedy chronią one podmiot. Ponadto nie ma określenia skutków prawnych interpretacji. Należy je określić lub odesłać w tym zakresie do art. 35 ustawy - Prawo przedsiębiorców Ponadto w przypadku podmiotów publicznych – dla których PWPW S.A. także realizuje swoje usługi – w projekcie ustawy powinno się znaleźć doprecyzowanie skutków interpretacji dla tych podmiotów – tak aby one chroniły podmioty publiczne, wtedy kiedy np. korzystają z produktów AI danego podmiotu, w ramach realizacji zadań publicznych. Art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu Związek Pracodawców Technologii Cyfrowych Lewiatan Interpretacje i rekomendacje na poziomie lokalnym (krajowym). Projekt ustawy przewiduje instytucję interpretacji, które może wydawać KRiBSI, zarówno o charakterze indywidualnym (art. 11 ust. 1 pkt 13, art. 13, art. 14 i art. 16 Projektu), jak również o charakterze generalnym (art. 11 ust. 1 pkt 13, art. 13, art. 15 i art. 16 Projektu). Przy czym zgodnie z propozycją, interpretacje te dotyczyć mają również przepisów Aktu o sztucznej inteligencji (rozporządzenia 2024/1689). Proponowane tu rozwiązanie nie znajduje uzasadnienia w Akcie o sztucznej inteligencji, wprost przeciwnie – zgodnie z Aktem o 110 sztucznej inteligencji (art. 66 lit. e) to unijna Rada ds. AI może wydawać zalecenia i opinie „na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia”, a co kluczowe – w celu jego spójnego i skutecznego stosowania. Co więcej, rozwiązanie przyjęte w Projekcie ustawy generuje poważne ryzyko fragmentaryzacji prawa unijnego. Zakładając bowiem, że poszczególne państwa członkowskie (właściwe organy krajowe) będą wyposażone w analogiczne uprawnienia, prowadzić będzie to do odmiennej interpretacji Aktu o sztucznej inteligencji, a w konsekwencji do jego zróżnicowanego stosowania i egzekwowania. Doprowadzi to w efekcie do powstania stanu niepewności regulacyjnej, która wpływać będzie negatywnie na adopcję sztucznej inteligencji w Polsce oraz w całej UE. Analogiczne zastrzeżenia dotyczą art. 66 Projektu ustawy, który uprawnia ministra właściwego do spraw informatyzacji do wydawania „rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”. Projekt ustawy powołuje się w tym zakresie na przepis art. 95 Aktu o sztucznej inteligencji, który dotyczy jednak kodeksów postępowania i który obliguje państwa członkowskie do zachęcania do opracowywania kodeksów postępowania; z czego jednak nie sposób jest wyprowadzić uprawnienia do wydawania tego rodzaju rekomendacji najlepszych praktyk na poziomie krajowym (czy to przez ministra właściwego do spraw informatyzacji czy też ewentualnie przez inny organ administracji). W związku z tym przepisy art. 11 ust. 1 pkt 13, art. 13, art. 14, art. 15, art. 16 oraz art. 66 Projektu ustawy powinny zostać usunięte. Art. 12 KIGEiT Rekomendacja: Programy edukacyjne i dostęp do zasobów obliczeniowych: \"Komisja organizuje coroczne programy edukacyjne dla przedsiębiorców i jednostek badawczo- rozwojowych, które obejmują szkolenia z zakresu implementacji i zgodności z przepisami sztucznej inteligencji. Programy te będą obejmować dostęp do zasobów obliczeniowych (w tym chmury obliczeniowej) i symulacji AI. Komisja zapewni możliwość bezpłatnego korzystania z tych zasobów przez pierwsze 6 miesięcy.\" Art. 12 (Programy edukacyjne) określa, że Komisja ma prowadzić działania edukacyjne, jednak konieczne jest rozwinięcie tych działań w bardziej strukturalny sposób, by wspierać rozwój AI w Polsce. Taka inicjatywa nie tylko pomoże firmom w dostosowywaniu się do przepisów, ale również przyspieszy rozwój i wdrażanie nowych technologii AI, szczególnie w małych firmach i start-upach. Rekomendacja: Wprowadzenie mechanizmów finansowego wsparcia: \"Komisja, we współpracy z ministrem właściwym do spraw informatyzacji, tworzy program wsparcia finansowego w postaci grantów i ulg podatkowych dla przedsiębiorstw, które rozwijają systemy sztucznej inteligencji o niskim lub średnim ryzyku. Program będzie obejmować dofinansowanie do 50% kosztów projektów badawczo-rozwojowych oraz ulgi podatkowe dla przedsiębiorstw korzystających z piaskownic regulacyjnych.\" Rozdział 2, Art. 12 (Wsparcie konkurencyjności) mówi o działaniach wspierających innowacyjność. Można to rozszerzyć o szczegółowe mechanizmy wsparcia, takie jak granty i ulgi 111 podatkowe dla firm AI. Taki zapis wspierałby innowatorów i start-upy AI, stymulując rozwój branży, bez dodatkowych obciążeń finansowych. Art. 12 ust. 1 Osoba fizyczna jk powielenie zapisu art. 11 ust. 1 pkt 5 Art. 12 ust. 2 Logicise ograniczona liczba realizowanych działań Nie jest jasne dlaczego art. 11. 1. pkt. 3 nie został uwzględniony w tym artykule. Art. 12 ust. 2 Osoba fizyczna jk pkt 3) dla spójności zapisów zamiast \"udostępnia\" powinno być \"publikuje\" jak w pkt 4 pkt 4) brak informacji, gdzie Komisje publikuje przykłady dobrych praktyk – czy w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji czy na stronie Ministra właściwego do spraw informatyzacji - zgodnie z zapisem art. 66 ust. 1 Art. 12 ust. 2 pkt 1 CHAMBER wydaje się wskazane, aby Komisja mogła przedstawiać ministrowi właściwemu do spraw informatyzacji także propozycje działań innych, niż legislacyjne - np. organizacyjnych, faktycznych, planistycznych. Art. 12.2.1. PIIT Czy przepisu nie należałoby uzupełnić o ministrów nauki i gospodarki? Komisja powinna mieć prawo zwracania się tam, gdzie uzna, że jest potrzeba działania na rzeczy rozwoju AI. art. 12 i 13 GRAI Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? art. 13 ust. 1 GRAI Komisja może opracowywać wyjaśnienia, opinie i interpretacje – istnieje ryzyko, że w przypadku dużej liczby wpływających np. wniosków o interpretację czas oczekiwania na nią będzie długi. Komisja nie będzie w stanie obsłużyć wniosków. Dodatkowo, pojawiają się wątpliwości czy członkowie Komisji będą mieć właściwe kompetencje, by taki wniosek o interpretację efektywnie, szybko i merytorycznie rozpatrzyć Ponowne rozważenie wskazanych działań lub wskazanie podmiotu wspomagającego ich realizację. 112 Art. 13 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu art. 13 ust. 1 Projektu ustawy poprzez wyjaśnienie, czym „interpretacje” określone w komentowanym przepisie różnią się od interpretacji generalnych wydawanych przez Komisję (art. 15 Projektu ustawy). Art. 13 ust. 1 NRA Art. 13 ust. 1 Projektu, przewidujący możliwość formułowania przez KRiBSI wyjaśnień, opinii oraz interpretacji o istotnym znaczeniu dla stosowania przepisów Projektu, pozostawia bez odpowiedzi kwestię skutków prawnych tychże aktów. Komisji przyznano prawo do opracowywania dokumentów publikowanych w Biuletynie Informacji Publicznej, co niewątpliwie świadczy o ich potencjalnej doniosłości normatywnej. Jednakże niedookreślenie prawnego znaczenia takich wyjaśnień, opinii i interpretacji może prowadzić do ich wyłącznie deklaratywnego charakteru i naraża te działania na ryzyko jedynie pozornej, a nie rzeczywistej skuteczności. Jeśli bowiem Komisja nie będzie związana własnymi interpretacjami, a stosujące się do nich podmioty mogłyby mimo to doświadczać sankcji, zamierzona funkcja zapewnienia pewności prawa i spójności w interpretacji przepisów ulegnie zdezawuowaniu, wprowadzając dodatkowe i nieakceptowalne ryzyko dla odbiorców tych wytycznych. Art. 13 ust. 1 Związek Banków Polskich Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na podstawie nazwy było wiadomo jaki dany dokument ma charakter Art. 13 ust. 1 Fundacja FinTech Poland Skoro ustawa jest wzorowana na ustawie o nadzorze nad rynkiem finansowym to do rozważenia pozostaje wprowadzenie możliwości wydania rekomendacji jako kolejnego sposobu działania Komisji. Rekomendacje są czym innym niż opinie czy wyjaśnienia. Nie są to też interpretacje indywidualne. Rekomendacje przyczyniają się do ustandaryzowania rynku. Art. 13 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w przypadku uzasadnienia decyzji wydanych przez Komisję zakres publikowanych informacji powinien być ograniczony, tzn. nie powinien obejmować tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów. Art. 13 ust. 2 Związek Banków Polskich Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, po usunięciu danych identyfikujących stronę postępowania, treść decyzji wydawanych na podstawie przepisów ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Upublicznienie informacji, jakiego podmiotu dotyczy decyzja byłoby formą kary, której nie przewiduje AI Act. Dla porównania w przypadku regulacji dotyczących AML publikacja informacji 113 o instytucji obowiązanej oraz zakresie naruszenia przepisów wchodzi do katalogu kar administracyjnych Art. 13 ust. 2 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko publikowania decyzji wydawanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wraz z wrażliwymi informacjami, szczególnie istotnymi z perspektywy działalności gospodarczej prowadzonej przez przedsiębiorców podlegających kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w tym tajemnicy przedsiębiorstwa. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotnym jest zagwarantowanie maksymalnej ochrony tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. W związku z powyższym proponujemy dodanie w treści aktualnego brzmienia art. 13 ust. 2 projektu ustawy o systemach sztucznej inteligencji zastrzeżenia (wzorowanego na art. 31b ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów), że publikowane decyzje nie będą zawierały informacji kwalifikowanych jako tajemnica przedsiębiorstwa i innych informacji podlegających ochronie prawnej na podstawie odrębnych przepisów. Art. 13 ust. 5 Fundacja FinTech Poland Sugerujemy nie posługiwać się przy określaniu koniecznych elementów przymiotnikami które można różnie interpretować. Trudno określić co jest “wyczerpujące” i kiedy opis stanu faktycznego jest wyczerpujący. Takie określenie powoduje, że po pierwsze łatwo o pretekst do odrzucenia wniosku. Po drugie podmiot występujący działając racjonalnie (i chcąc uniknąć odrzucenia) będzie rozciągał opis co utrudni skupienie się na istocie problemu i spowoduje stworzenie zbędnej dokumentacji. Jeśli już to opis powinien być zwięzły a nie wyczerpujący. Postulowane brzmienie przepisu: 5. Interpretacja, o której mowa w ust. 1, zawiera opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie. art. 13 i 14 GRAI I. Wskazania wymaga moc prawna interpretacji, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? II. Należy zwrócić także uwagę na potrzebę ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź 114 usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Art. 14 Osoba fizyczna Nie wskazano trybu procesowego wydawania interpretacji indywidualnych oraz czy podlegają one zaskarżeniu do sądu. Z uwagi na umiejscowienie przepisu odsyłającego do ustawy kodeks postępowania administracyjnego w art. 56, brak takiego wskazania w art 11 może budzić wątpliwości interpretacyjne. Porządkującym rozwiązaniem jest przesunięcie przepisów dotyczących interpretacji indywidualnych i generalnych do rozdziału 4 ustawy, i jednoczesne dodatnie treści wynikającej z art. 56 ustawy już na początku tego rozdziału. Odwołanie powinno być generalne, ze wskazaniem k.p.a. jako uniwersalnego zbioru reguł procesowych do wszystkich czynności o charakterze administracyjnoprawnym podejmowanym przez Komisję, Przewodniczącego oraz Biuro/Urząd. Art. 14 ITCORNER W projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (“KRiBSI”) na wydanie interpretacji indywidualnej dot. przepisów AI Act. Sugerujemy, na wzór interpretacji indywidualnej (podatkowej), wskazanie maksymalnego terminu na wydanie interpretacji (np. 30 dni), wraz z zastrzeżeniem, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska wnioskodawcy. Postulujemy także o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Projekt nie reguluje procedury odwoławczej, a także nie wskazuje, co miałby zawierać sprzeciw od wydanej interpretacji - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 e-Izba Postulujemy rozszerzenie zakresu podmiotów uprawnionych do występowania o interpretacje również o organizacje zrzeszające podmioty podlegające pod zakres zastosowania rozporządzenia 2024/1689 (izby gospodarcze, stowarzyszenia, fundacje). Takie podmioty mogłyby występować o interpretacje na rzecz wszystkich swoich członków. W ten sposób interpretacja dawałaby pewność interpretacji przepisów szerszej grupie podmiotów, a jednocześnie eliminowałaby zbędne obciążenie Komisji, czyli indywidualne wnioski o interpretacje indywidualne w takich samych sprawach składane przez większą liczbę podmiotów. Art. 14 CHAMBER ponownie projekt tworzy na kanwie już istniejących przepisów o wydawaniu interpretacji indywidualnych. Wydaje się, że lepszym rozwiązaniem jest odesłanie do przepisów ustawy Prawo przedsiębiorców wprost, ze wskazaniem że w zakresie objętym ustawą o systemach sztucznej inteligencji ubiegać się mogą o interpretacje podmioty inne, niż przedsiębiorcy. Opłatę od wydania interpretacji można ustalić na poziomie wyższym z racji na specjalistyczny charakter spraw związanych ze sztuczną inteligencją, zwracamy jednak uwagę na to, że wpisanie w ustawę 115 określonej kwoty będzie oznaczało jej realną deprecjację z czasem. Rozważyć należałoby ustalenie tej kwoty w odniesieniu do jakiegoś wskaźnika zapewniającego waloryzację kwoty (np. pensja minimalna lub średnia w sektorze przedsiębiorstw). Art. 14 ISSA Polska 1.Brakuje określenia maksymalnego terminu na wydanie interpretacji przepisów. Podmiot wnioskujący o interpretację pozostanie w niepewności co do terminu rozpatrzenia jego wniosku. 2.W projekcie ustawy nie określono, czy interpretacje wydane w trybie art 14 mają być wiążące dla innych organów. Należy dookreślić tę kwestię w projekcie ustawy. Art. 14 ICC Poland i) Konieczność określenia skutku prawnego interpretacji Przede wszystkim zwraca uwagę brak określenia w ustawie skutku prawnego interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji. Nie jest jasne, czy taka interpretacja ma charakter wiążący dla organów administracji publicznej (w tym Komisji) oraz czy wnioskodawca może opierać się na niej w swoich działaniach. W celu zapewnienia pewności prawnej oraz praktycznego znaczenia zaproponowanego mechanizmu, pożądanym rozwiązaniem byłoby wprowadzenie przepisu wskazującego, że interpretacja indywidualna jest wiążąca dla organów w zakresie stanu faktycznego przedstawionego we wniosku, analogicznie do rozwiązań funkcjonujących na gruncie Ordynacji podatkowej3 w odniesieniu do interpretacji indywidualnych (por. art. 14k Ordynacji podatkowej). Przepisy ustawy powinny również jasno określać zakres ochrony prawnej wynikającej z interpretacji, jak również możliwość jej zmiany, uchylenia lub wygaśnięcia, wraz ze wskazaniem skutków tych zdarzeń dla ochrony wnioskodawcy. ii) Zakres wniosku a możliwości organizacyjne Biura Komisji Zwraca uwagę, że szeroki zakres spraw, które mogą być przedmiotem wniosku o interpretację (art. 14 ust. 2 Projektu) i stopień skomplikowania tej materii, może rodzić pewne wątpliwości co do dostosowania tego mechanizmu do możliwości organizacyjnych Biura Komisji oraz przewidzianego w Projekcie budżetu (art. 87 Projektu). Istnieje ryzyko nadmiernego obciążenia Przewodniczącego Komisji, Komisji i Biura Komisji dużą liczbą wniosków, co może negatywnie wpłynąć na terminowość i jakość wydawanych interpretacji. W tym kontekście należałoby rozważyć albo zwiększenie docelowego maksymalnego limitu wydatków z budżetu państwa na ten cel albo ograniczenie zakresu spraw podlegających mechanizmowi interpretacji np. poprzez wskazanie katalogu takich zagadnień, które nie mogą być przedmiotem wniosku. Taki katalog powinien obejmować takie regulacje rozporządzenia 2024/1689 lub ustawy, których interpretowanie nie ma realnej wartości dodanej dla wnioskodawcy, są jednoznaczne lub zostały już uprzednio wyjaśnione (np. w ramach interpretacji generalnej). Wpływ na zmniejszenie ryzyka nadmiernego obciążenia mogłoby mieć także doprecyzowanie wymogów formalnych co do wniosku o interpretację indywidualną. Organ powinien mieć wówczas możliwość odmowy rozpatrzenia wniosku, który nie spełnia określonych wymogów. 116 iii) Brak terminu na wydanie interpretacji przez Przewodniczącego W obecnym brzmieniu art. 14 Projektu nie wskazano terminu, w jakim Przewodniczący Komisji powinien wydać interpretację indywidualną (termin taki przewidziano jedynie dla Komisji na rozpatrzenie sprzeciwu od takiej interpretacji). Dla zapewnienia efektywności procedury oraz pewności prawnej dla wnioskodawców proponujemy wprowadzenie konkretnego terminu na wydanie interpretacji, co byłoby zgodne z zasadami przyjętymi dla analogicznych instytucji w innych ustawach (np. w Ordynacji podatkowej). iv) Wysokość opłaty za wniosek o interpretację Opłata w wysokości 150 zł może być niewspółmierna do nakładu pracy oraz kosztów związanych z przygotowaniem interpretacji indywidualnej w tak specjalistycznej dziedzinie, jaką jest sztuczna inteligencja. Wydanie takiej interpretacji w wielu przypadkach będzie wymagało bowiem analizy technicznej oraz zaangażowania specjalistów z różnych dziedzin, co generuje znaczące koszty. Obecnie proponowana opłata, przy pozostawieniu szerokiego zakresu wniosku o interpretację, może tym samym prowadzić do nadmiernego obciążenia budżetu i zdolności organizacyjnych Biura Komisji, ograniczając jego zdolność do realizacji zadań ustawowych na odpowiednim poziomie. v) Procedura odwoławcza – sprzeciw do Komisji Proponowany w art. 14 ust. 6-7 mechanizm odwoławczy, polegający na złożeniu sprzeciwu od interpretacji wydanej przez Przewodniczącego do Komisji, może budzić wątpliwości co do jego skuteczności i niezależności. Ponieważ zarówno Przewodniczący, jak i Komisja będą wspierani w wykonywaniu tego zadania przez to samo Biuro, istnieje ryzyko braku obiektywizmu i niezależności w rozpatrywaniu sprzeciwu. Zaproponowana procedura efektywnie będzie zatem bliższa wnioskowi o ponowne rozpatrzenie sprawy kierowanemu do tego samego organu niż rzeczywistemu odwołaniu. W związku z tym należałoby rozważyć zastąpienie instytucji sprzeciwu instytucją wniosku o ponowne rozpatrzenie sprawy przez Przewodniczącego Komisji, co zwiększyłoby przejrzystość procedury i wzmocniło zaufanie podmiotów korzystających z instytucji interpretacji Art. 14 Polski związek zarządzania wierzytelnościami Art. 14 Projektu W Projekcie nie uwzględniono terminu dla Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („KRiBSI”) na wydanie interpretacji indywidualnej dotyczącej przepisów AI Act (art. 14 Projektu). Zważywszy na zapotrzebowanie sektora, istotnym rozwiązaniem, na wzór interpretacji indywidualnej (podatkowej), byłoby wskazanie maksymalnego terminu na wydanie interpretacji (np. 60 dni). Sugerujemy, by termin opatrzyć zastrzeżeniem właściwym dla instytucji interpretacji milczącej, uznającej potwierdzenie stanowiska wnioskodawcy w przypadku braku niewydania właściwej interpretacji w wyznaczonym terminie. Równocześnie postulujemy o wyraźne rozstrzygnięcie kwestii mocy wiążącej interpretacji, oraz, na wzór przepisów podatkowych - o dodanie zastrzeżenia w art. 14 Projektu, że zastosowanie się 117 przez wnioskującego do wydanej przez KRiBSI interpretacji indywidualnej nie może stanowić podstawy dla KRiBSI do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. W Projekcie nie wskazano także odpowiedniej procedury odwoławczej od interpretacji, jak i nie wskazano, poszukując rozwiązań per analogiam do sprawdzonych rozwiązań wynikających z ordynacji podatkowej, sugerowanej treści sprzeciwu od danej interpretacji. Sprzeciw w tej sprawie - w tym zakresie sugerujemy uregulowanie sprzeciwu na wzór odwołania w Kodeksie postępowania administracyjnego. Art. 14 Polskie Towarzystwo Informatyczne 1.opłata interpretacji - możliwość zwrotu pieniędzy dla składającego wniosek o interpretacje Określenie przypadków, w których można ubiegać się o zwrot pieniędzy za prośbę o interpretacji 2. Nie jest jasne, czy za odwołanie od interpretacji również musi być opłacone 3. Brak przepisu o skutkach zastosowania się do interpretacji - np. wyłączenie możliwości nałożenia sankcji w przypadku zastosowania się do interpretacji Propozycja Analogicznie jak w art. 11b ustawy o nadzorze nad rynkiem finansowym: “Interpretacja Komisji nie jest wiążąca dla podmiotu, o którym mowa w ust. 1, i Komisji, z zastrzeżeniem że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej” art. 14 ust. 1 Logicise Przewodniczący Komisji wydaje interpretację przepisów Wydaje się, że interpretację przepisów powinna wydawać Komisja, a nie Przewodniczący vide Art. 15. art. 14 ust. 1 PIIT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 ustawy interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. , Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. 118 Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 KIGEiT Rekomendacja: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystąpił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w Art. 55 ustawy. Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione, aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jest Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstrukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. art. 14 ust. 1 GRAI I. Konieczność doprecyzowania: 1) kogo rozumiemy jako określonego terminem „zainteresowanego”? 2) termin w jakim interpretacja ma zostać wydana i skutki niedochowania terminu. 3) skutek jaki wywołuje otrzymanie interpretacji przez zainteresowanego. II. Projekt ustawy wprowadza obowiązek Przewodniczącego do wydawania na wniosek interpretacji indywidualnych, bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Mając na uwadze tematykę i cel wystąpienia o taką interpretację zasadne jest, aby termin wydania interpretacji indywidualnej był nie dłuższy niż 3 miesiące. III. Do rozważenia wprowadzenie zastrzeżenia, że niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego. 119 IV. Brak jednoznacznego przesądzenia o braku mocy wiążącej interpretacji indywidualnej dla wnioskującego przedsiębiorcy, z zastrzeżeniem, że zastosowanie się przez wnioskującego przedsiębiorcę do wydanej przez Komisję interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej. Nadanie brzmienia: „1. Przewodniczący, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów ustawy, w terminie nie dłuższym niż 3 miesiące.” „Niewydanie interpretacji w wyznaczonym terminie uznaje się za potwierdzenie stanowiska zainteresowanego.”. Dodanie ust. 8: „8. Zastosowanie się przez wnioskodawcę do wydanej przez Przewodniczącego Komisji interpretacji indywidualnej nie może stanowić podstawy dla Komisji do wszczęcia wobec niego postępowania lub nałożenia na niego kary administracyjnej.”. art. 14 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) O ile pozytywnie należy ocenić, że Komisja może wspierać uczestników rynku w interpretowania Rozporządzenia 2024/1689, o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do sytuacji, że pomimo publikacji interpretacji w Biuletynie Informacji Publicznej, prace Komisji będą zakłócone ciągle wpływającymi wnioskami o interpretacje (bo każdy podmiot podlegający pod Rozporządzenie 2024/1689 będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych (sporadyczność wydawania). W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod Rozporządzenie 2024/1689, ale również organizacje zrzeszające takie podmioty (związki pracodawców, stowarzyszenia, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich Członków ułatwi zapewnienie zgodności z Rozporządzeniem 2024/1689, a zarazem pozwoli uniknąć „zasypania\" Komisji dużą ilością podobnych wniosków o interpretację. Postulujemy także o doprecyzowanie, że w treści art. 14 ust. 1 Projektu ustawy chodzi o interpretację indywidualną, jak również wskazujemy, że ustanowiony powinien zostać termin na wydane tej interpretacji indywidualnej przez Komisję. W ten sposób przedsiębiorcy wnioskujący o wydanie interpretacji mieliby zakreślone ramy czasowe otrzymania tej interpretacji, co może mieć istotne znaczenie z perspektywy prowadzonego biznesu. 120 Art.14.1. PIIT Należy zapewnić, aby instytucja interpretacji indywidualnych i generalnych była zgodna z przepisami prawa unijnego. art. 14 ust. 1 SKwP Warto podkreślić, że w ustawie nie wskazano, jaki efekt dla wnioskodawcy spowoduje otrzymana interpretacja. Np. indywidualne interpretacje podatkowe dają efekt ochronny wskazany w Ordynacji podatkowej. Wydaje się, że należy w ustawie wskazać skutek, jaki osiągnie wnioskodawca otrzymaną interpretacją. Art. 14 ust. 1 Fundacja FinTech Poland Zgodnie z art. 14 Przewodniczący wydaje interpretacje indywidualne bez wskazania jakiegokolwiek terminu na wydanie takiej interpretacji. Wskazanie terminu wydania interpretacji jest kluczowe dla zapewnienia pewności prawnej i przewidywalności procedur administracyjnych. Ustalony termin umożliwia wnioskodawcy lepsze planowanie działań, minimalizując ryzyko związane z opóźnieniami w uzyskaniu interpretacji, co mogłoby wpłynąć na strategiczne decyzje biznesowe i operacyjne, zwłaszcza w obszarze innowacyjnych technologii, takich jak sztuczna inteligencja. Brak terminu wydania interpretacji może prowadzić do nadmiernej zwłoki ze strony organów, co negatywnie wpływa na efektywność i zaufanie do administracji publicznej. Dlatego wskazanie konkretnego terminu jest niezbędne, aby zagwarantować sprawność postępowania i ochronę interesów wnioskodawców. Rekomendujemy termin 3 miesięcy. Tryb interpretacji indywidualnych nie w każdym przypadku może być nieefektywny - zgadzamy się, że w niektórych sytuacjach interpretacje indywidualne mogą stanowić wsparcie dla poszczególnych podmiotów. Przy czym, należy pamiętać, że interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby 121 gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli efektywnie działać KRiBSI i uniknie potrzebie wydania interpretacji indywidualnych o podobnym stanie faktycznym. Art. 14 ust. 1a Związek Banków Polskich [Propozycja dodania ust. 1a] 1a. Zainteresowanym jest podmiot, o którym mowa w art. 2 ust.1 pkt a)- f) rozporządzenia 2024/1689 lub zamierzający wykonywać taką działalność. Propozycja ma na celu doprecyzowanie pojęcia zainteresowanego, w celu uniknięcia wątpliwości. Art. 14 ust 1 - 5 NRA Art. 14 ust. 1–5 Projektu nie określa wyraźnie skutków prawnych dla interpretacji indywidualnych wydawanych przez Przewodniczącego Komisji, co rodzi istotne obawy o stabilność stosowania prawa i poszanowanie praw podmiotów, które na tych interpretacjach mogą się opierać. Zgodnie z treścią art. 14 ust. 1 Przewodniczący, na wniosek zainteresowanego, może wydać interpretację przepisów odnoszącą się do wskazanego stanu faktycznego lub zdarzenia przyszłego, zaś ust. 5 pozwala na odstąpienie od uzasadnienia, jeśli w pełni podziela stanowisko wnioskodawcy. Zaniechanie skonstruowania w tym przypadku regulacji o charakterze wiążącym stawia pod znakiem zapytania ochronę prawną wnioskodawców, szczególnie gdy interpretacja miałaby być w przyszłości zmieniona. Taki stan prawny może prowadzić do sytuacji, w której podmioty korzystające z interpretacji Komisji nie mają dostatecznej pewności prawnej ani ochrony przed przyszłymi sankcjami, nawet jeśli działały zgodnie z wydaną interpretacją. Brak jednoznaczności co do mocy wiążącej tych aktów może osłabić ochronę tych, którzy w zaufaniu do interpretacji dokonali określonych działań lub zaniechań. art.14 ust 2 GRAI W dokumencie nie porusza się zagadnień związanych z dopasowaniem sztucznej inteligencji (AI Aligment). Koncepcja właściwego dopasowania SI jest bardzo istotna i powinna być jednym z głównych obszarów zainteresowania organów kontrolnych. Systemy AI powinny działać zgodnie z intencjami i celami ludzi, a ponieważ technologie AI stają się coraz bardziej zaawansowane, ryzyko niepożądanych skutków ich działania wzrasta. Można wskazać 3 główne obszary ryzyka: 1. Bezpieczeństwo: możliwość podejmowania samodzielnych decyzji, często w kontekstach, które są trudne do przewidzenia przez ludzi. 2. Zgodność z wartościami ludzkimi: uwzględnianie etyki i norm społecznych. 3. Kontrola i przewidywalność: system nie będzie \"nadużywał\" autonomii ani podejmował działań, które mogłyby podważać zaufanie ludzi. W dłuższej perspektywie dopasowanie AI będzie kluczowe, jeśli systemy zaczną zbliżać się do poziomu zbliżonego lub wyższego od ludzkiej inteligencji. W takim przypadku, bez odpowiednich zabezpieczeń, istnieje ryzyko, że superinteligentna AI będzie miała cele sprzeczne z naszymi interesami. Dodanie w ust. 2 podpunktu 3: 122 „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. art.14 ust 2 KIGEiT Propozycja zapisu: dodanie pkt 3) stosowania systemów zabezpieczeń Rozszerzenie o możliwość złożenia wniosku o interpretację stosowanych systemów zabezpieczeń z względu na zachowanie jak najwyższych ram bezpieczeństwa i spełnienie kryteriów Rozporządzenia oraz ustawy w celu prawidłowego przebiegu kontroli systemów sztucznej inteligencji. art. 14 ust. 2 i art. 15 w zw. z art. 18 GRAI Poważne wątpliwości budzi uprawnienie Komisji / Przewodniczącego Komisji do wydawania interpretacji, szczególnie w indywidualnej sprawie - interpretacji przepisów rozporządzenia 2024/1689 oraz ustawy. Należy wskazać, że taki przepis narusza kompetencje TSUE do wykładni przepisów aktów prawa unijnego – co oznacza, że w zaproponowanej postaci będzie przesłanką wszczęcia wobec Polski postępowania o naruszenie przepisów prawa unijnego i obowiązków państwa członkowskiego. Dodatkowo, takie uprawienie krajowego organu powoduje ryzyko, że w Polsce powstanie odmienne do europejskiego podejście dla niektórych kwestii, co może mieć negatywny wpływ na przedsiębiorców działających na terenie całej UE i którzy dla niezakłóconej działalności potrzebują jednolitej linii interpretacyjnej w całej UE. Usunięcie zgłoszonej niezgodności. Art.14 ust 2 Tauron Dystrybucja Dodanie podpunktu 3: „2. Wniosek o interpretację, o której mowa w ust. 1, może dotyczyć zaistniałego stanu faktycznego lub zdarzeń przyszłych, w szczególności w zakresie: 1) kwalifikacji systemu maszynowego jako systemu sztucznej inteligencji; 2) określenia ryzyka systemu sztucznej inteligencji; 3) określenie stopnia poprawności dostosowania sztucznej inteligencji (AI Alignment)”. Art. 14 ust. 2 Polskie Towarzystwo Informatyczne Wniosek o interpretację (...) 2) określenia ryzyka systemu sztucznej inteligencji Propozycja „2) określenia ryzyka systemu sztucznej inteligencji, zgodnie z zapisami Rozporządzenia 2024/1689” Wniosek o interpretację powinien być stosowany w ramach sformalizowanej procedury. Niejasne jest np. w jaki sposób odbywałoby się określanie ryzyka systemu sztucznej inteligencji? W ramach tzw. „Standardisation Request” ze strony Komisji Europejskiej (C(2023)3215, 2023), powstaje 123 zestaw standardów, które będą umożliwiały ocenę ryzyka systemów sztucznej inteligencji. Obowiązywać będzie zasada „presumption of confomity”. Jak np.. ma się do tego kwestia wniosku o interpretację? Tego typu rzeczy powinny zostać doprecyzowane w ustawie. Art. 14.2.2) PIIT Prawdopodobnie w tym przepisie mogło chodzić o poziom ryzyka (art. 6 ASI). Brzmi jednak jak określenie rodzajów ryzyk. Art. 14.4. PIIT Czy to wyklucza uiszczenie opłaty online jednocześnie ze złożeniem elektronicznego formularza? Art. 14 ust. 5a i 5c Związek Banków Polskich 5a. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 30 dni od dnia otrzymania wniosku. 5b. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. 5c. Interpretacja nie ma charakteru wiążącego dla przedsiębiorcy. Konieczność wskazania terminu wydania interpretacji oraz skutków niewydania interpretacji i charakteru interpretacji. W razie nieuwzględnienia, przyjmujemy zasadę z KPA : Organy administracji publicznej obowiązane są załatwiać sprawy bez zbędnej zwłoki. Załatwienie sprawy wymagającej postępowania wyjaśniającego powinno nastąpić nie później niż w ciągu miesiąca, a sprawy szczególnie skomplikowanej - nie później niż w ciągu dwóch miesięcy od dnia wszczęcia postępowania. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza 124 akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli Art. 14 ust 6 PIIT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 KIGEiT Sprzeciw do Komisji od interpretacji wydanej przez Przewodniczącego. , Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstancyjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Art. 14 ust 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o doprecyzowanie formy sprzeciwu. Art. 14 ust 6 SKwP Od interpretacji przysługuje sprzeciw do komisji. Interpretacje wydaje Przewodniczący komisji, a komisja rozpatruje sprzeciw. Pytanie, czy ustawodawca zamierzał osiągnąć taki efekt, ponieważ zapis ten jest sprzeczny z art. 11 ust. 1 pkt 13, z którego wynika, że to do zadań komisji należy wydawanie interpretacji indywidualnych. Natomiast w przepisie tym nie ma nic o rozpatrywaniu sprzeciwów od interpretacji. Zakładając jednak, że interpretacje wydaje Przewodniczący, a sprzeciwy rozpatruje Komisja, to czy nie zostaje naruszona zasada dwuinstancyjność postępowania administracyjnego. Przewodniczący bowiem, kieruje pracami komisji. W ustawie nie wskazano drogi kontroli sądowej interpretacji, co może być poczytane, jako naruszenie konstytucyjnego prawa do sądu. art. 14 ust. 6 - 7 NRA Art. 14 ust. 6–7 Projektu nie formułuje jasno ani formy prawnej aktu, w którym Komisja rozstrzyga sprzeciw wobec wydanej interpretacji indywidualnej, ani ścieżki prawnej dostępnej dla wnioskodawcy w przypadku chęci odwołania się od takiego rozstrzygnięcia. Brak tak precyzyjnych regulacji budzi poważne wątpliwości co do ochrony praw stron postępowania, w ramach którego będzie można zakwestionować decyzję Komisji, ponieważ brak jednoznacznych ustaleń co do formy aktu i przysługującej ścieżki odwoławczej naraża podmioty wnioskujące na ryzyko pozbawienia ich skutecznych instrumentów obrony. Zagwarantowanie jasności i pewności prawa, zwłaszcza w obszarze decyzji interpretacyjnych, jest kluczowe dla ochrony praw jednostek oraz przejrzystości procesu. Gdyby rozstrzygnięcie przybrało formę decyzji administracyjnej, to otwarta 125 byłaby możliwość wniesienia skargi do sądu administracyjnego. Alternatywnie, gdyby rozstrzygnięcie przybrało formę postanowienia, zasadnym byłoby rozważenie możliwości odwołania się do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej także „SOKiK”), wzorem postępowania przewidzianego w art. 57 ust. 1 Projektu. W związku z tym należałoby wyraźnie określić, iż rozstrzygnięcie Komisji winno przyjmować formę decyzji albo postanowienia oraz doprecyzować dopuszczalność skargi do sądu administracyjnego albo odwołania do SOKiK. art. 14 ust. 6 - 7 PIIT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 KIGEiT Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Ustawa nie określa: - formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; - do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to też ma być uchwała? - formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąć, że ma odpowiednie zastosowanie w sprawach nieuregulowanych, bo nie reguluje tych kwestii. art. 14 ust. 6 - 7 GRAI Projektowana ustawa nie reguluje procedury odwoławczej (rozpatrzenia sprzeciwu) oraz nie wskazuje co ma zawierać sprzeciw od interpretacji indywidualnej. Propozycja uregulowania sprzeciwu na wzór odwołania w przepisach KPA. art. 14 ust. 7 SKwP Powinno się tu wskazać możliwość odwołania do właściwego sądu. Art. 14 ust. 7 Związek Banków Polsich 7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio. 126 Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Art. 15 PIRP kompetencja Komisji do dokonywania interpretacji generalnych jest zbyt daleko idąca; w aktualnym stanie prawnym wydaje się wystarczająca przyznana Komisji kompetencja w zakresie interpretacji w sprawach indywidualnych (art. 14 ustawy) Art. 15 ICC Poland i) Konieczność uregulowania procedury wydawania interpretacji generalnych Artykuł 15 Projektu jest zbyt ogólny i nie precyzuje w ogóle procedury wydawania interpretacji generalnych. Brakuje informacji na temat trybu postępowania, terminów, podmiotów uprawnionych do złożenia wniosku, zakresu wniosku, czy też skutków wydania takiej interpretacji. W celu zapewnienia transparentności i efektywności procesu, konieczne jest zatem szczegółowe uregulowanie procedury lub odwołanie się do odpowiedniego stosowania przepisów dotyczących interpretacji indywidualnych (po ich odpowiednim skorygowaniu z uwzględnieniem ww. uwag). ii) Relacja między art. 13 a art. 15 Projektu Nie jest jasne, jaka jest relacja między interpretacjami generalnymi (art. 15 Projektu) a „wyjaśnieniami, opiniami i interpretacjami mającymi istotne znaczenie dla stosowania przepisów”, wydawanymi przez Komisję (art. 13 Projektu) oraz w jakim zakresie te instytucje się od siebie różnią. Jeśli interpretacje generalne mają służyć ujednoliceniu praktyki i ogólnemu wyjaśnieniu przepisów, warto tę funkcję wyraźnie zaznaczyć. Należy zarazem rozważyć łączne uregulowanie interpretacji generalnych oraz wyjaśnień, opinii i interpretacji, z jasnym określeniem różnic w procedurach oraz skutkach prawnych poszczególnych form. Art. 15 Instrat – Fundacja Centrum Cyfrowe Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Art. 15 ITCORNER Projekt nie reguluje, jakie podmioty i w jakim trybie mogłyby wnioskować o interpretacje generalną - sugerujemy wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. W tym kontekście uważamy, że ogólnokrajowe stowarzyszenia zrzeszające przedsiębiorców z branży technologicznej powinny zostać uprawnione do wnioskowania o interpretację generalną z uwagi na ich przekrojową wiedzę, doświadczenie oraz wpływ na branżę technologiczną art. 15 GRAI Projekt ustawy nie reguluje w jakim trybie i jakie podmioty mogą występować o interpretację generalną. Wskazanie katalogu podmiotów i trybu w jakim można składać wniosek o interpretację generalną. 127 art. 15 Polski związek zarządzania wierzytelnościami Art. 15 Projektu W Projekcie nie wskazano docelowej grupy podmiotów, jak i trybu wnioskowania o interpretację generalną (art. 15 Projektu). W celu zachowania funkcjonalności KRiBSI postulujemy o wskazanie katalogu podmiotów i trybu składania wniosków w celu uzyskania rzeczonej interpretacji. Tym samym wskazujemy, że rola ogólnokrajowych stowarzyszeń zrzeszających przedsiębiorców z branży technologicznej powinna być kluczowa, a same stowarzyszenia powinny zostać uwzględnione w wyżej wspomnianym katalogu do wnioskowania o interpretację generalną z uwagi na ich kompleksowy charakter, szerokie spojrzenie na interesy branży, doświadczenie oraz wpływ na sam sektor technologiczny. art. 15 NRA Zgodnie z art. 13 ust. 1 Projektu Komisja jest uprawniona do sporządzania wyjaśnień, opinii oraz interpretacji w sprawach objętych zakresem jej działania, w celu ułatwienia stosowania przepisów w tym obszarze. Z kolei art. 15 Projektu pozwala Komisji dokonywać interpretacji generalnych, zarówno z własnej inicjatywy, jak i na wniosek, w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. De facto oba wskazane przepisy zdają się dotyczyć wydawania podobnych aktów interpretacyjnych, które mimo odmiennych nazw w praktyce wydają się być zbieżne co do ich charakteru i przeznaczenia, a brak czytelnego rozróżnienia wprowadza ryzyko niepewności prawnej w stosowaniu obu instytucji. Wydaje się zatem niezbędne, aby w Projekcie wyraźnie rozgraniczono zakresem interpretacji wynikających z art. 13 ust. 1 oraz z art. 15 albo wprowadzono w inny sposób jednoznaczną ich dyferencję. Taka precyzja zapewniłaby większą klarowność co do zakresu kompetencji Komisji i wyeliminowała niejasności, jakie mogą wyniknąć z nakładania się tych regulacji. Konieczne jest również określenie, jak sygnalizowano powyżej, skutków prawnych interpretacji zawartych w obu artykułach, co dodatkowo zabezpieczyłoby podmioty stosujące się do wytycznych Komisji. Art. 15 Związek Banków Polskich Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z zastrzeżeniem, że działania tych osób w zakresie w jakim zastosowały się do interpretacji Komisji nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnych. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie 128 swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. Art. 15 Osoba fizyczna jk Artykuł powiela zapisy art. 13 ust. 1 oraz art. 14 Art. 16 Osoba fizyczna jk dla spójności zapisów zamiast \"zamieszczane są\" powinno być \"publikowane są\" art. 16 PIIT Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. art. 16 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy o uzupełnienie treści przepisu art. 16 Projektu ustawy poprzez wskazanie, że usunięciu podlegają również informacje stanowiące tajemnicę przedsiębiorstwa oraz inne informacje podlegające ochronie na podstawie odrębnych przepisów. art. 16 GRAI W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Doprecyzowanie przepisu: 129 Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 KIGEiT Propozycja zapisu: Art. 16. Interpretacje, o których mowa w Art. 14 i Art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Art. 16 ICC Poland Artykuł 16 przewiduje publikację interpretacji po usunięciu jedynie danych identyfikujących wnioskodawcę. Takie podejście może być niewystarczające w kontekście ochrony informacji poufnych i tajemnicy przedsiębiorstwa. W treści interpretacji mogą znajdować się szczegółowe dane techniczne, know-how lub inne wrażliwe informacje, których ujawnienie może narazić wnioskodawcę na straty, zwłaszcza, że wyczerpujące przedstawienie stanu faktycznego we wniosku o interpretację (art. 14 ust. 3 Projektu) ze względu na jego przedmiot będzie z reguły wymagało szczegółowego opisu technicznego systemu maszynowego. Rozwiązaniem w tym zakresie może być wprowadzenie mechanizmu pozwalającego wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku. Organ wydający interpretację powinien być zobowiązany do uwzględnienia tych zastrzeżeń i zapewnienia, że publikowana wersja dokumentu nie zawiera chronionych informacji. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści interpretacji, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Art. 16 TAURON Dystrybucja W niektórych sytuacjach z uwagi na specyfikę danej branży usunięcie samych danych osobowych czy też danych firmy nie będzie wystarczające do uniemożliwienia identyfikacji wnioskodawcy po opublikowaniu w BIP, dlatego zasadne wydaje się, że z publikowanej interpretacji powinny zostać usunięte również inne informacje (nie tylko dane) identyfikujące wnioskodawcę. Oczywiście publicznie dostępne interpretacje to cenne źródło wiedzy dla użytkowników systemów AI, niemniej jednak mogą zdarzyć się sytuacje, że zapytania będą dotyczyć szczególnych rozwiązań z wykorzystaniem systemów AI, stanowiących tajemnicę przedsiębiorstwa, czy być może o znaczeniu państwowym (w sytuacji przykładowo gdy o interpretację będzie zwracał się podmiot 130 będący operatorem usługi kluczowej) dlatego warto rozważyć czy wszystkie interpretacje powinny być umieszczane w BIP. Propozycja: Doprecyzowanie zapisu: Art. 16 „Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji Art. 16 Instrat – Fundacja Centrum Cyfrowe Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących podmiot, którego sprawa dotyczy lub wnioskodawcę, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. - uwaga: w obecnym brzmieniu wydaje się, jakby dokumenty w sprawach, które nie zostały wszczęte na wniosek nie miały być anonimizowane. - uwaga: w obecnym brzmieniu przepisu wydaje się, jakby w przypadku interpretacji z urzędu dane nie musiały być anonimizowane. Art. 17 ust. 1 CHAMBER mając na uwadze prawdopodobny termin przyjęcia ustawy i czas niezbędny do zorganizowania prac Komisji i Biura, wydaje się że przedstawienie sprawozdania powinno nastąpić po raz pierwszy dopiero w marcu 2026 r. Sugerujemy przyjęcie stosownego przepisu przejściowego. art. 17 ust. 1 GRAI Zmiana zakresu raportowania, zbytecznym wydaje się raportowanie do obu stron Skreśla się słowa: „i ministrowi właściwemu do spraw informatyzacji”. Art.17 ust. 1 ISSA Polska Sprawozdanie powinno zawierać także informacje o wydanych indywidualnych interpretacji Art. 18 ITCORNER W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie jest w wystarczającym stopniu precyzyjny. Aktualnie art. 18 ust. 2 Projektu zakłada, że Przewodniczący Komisji powinien mieć znaczną wiedzę i dorobek “w zakresie sztucznej inteligencji lub prawie”. Uważamy, że osoba piastująca krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne, wyróżniała się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii - w tym kontekście uważamy zastosowane w Projekcie pojęcie “prawo” za zbyt pojemne. Przewodniczący Komisji, aby przekrojowo rozumieć otoczenie prawne dot. sztucznej inteligencji oraz ryzyka z nią związane, powinien cechować się wiedzą oraz wysoką świadomością prawną dotyczącą co najmniej własności intelektualnej (prawa autorskie, ochrona programów komputerowych, bazy danych), prawa IT, danych osobowych oraz cyberbezpieczeństwa. Pod rozwagę także zostawiamy, czy pojęcie sztucznej inteligencji nie powinno w tym kontekście także zostać doprecyzowane, uwzględniając przy tym uczenie maszynowe. 131 art. 18 ust.1 SKwp Jak już wcześniej wskazywaliśmy, konkurs tak, ale akceptacja Sejmu i powołanie przez Prezesa RM. art. 18 ust.1 GRAI Kwestia upolitycznienia wyboru Przewodniczącego Komisji. W projekcie wyboru kandydata na Przewodniczącego dokonywać ma komisja kwalifikacyjna (uwagi do samej komisji poniżej), ale powołanie nadal należy do Prezesa Rady Ministrów. Są obawy, że ze względów politycznych to powołanie może albo nie nastąpić, albo być odwlekane w czasie, albo zostać dokonane z pominięciem przepisów. Brakuje mechanizmu odblokowującego występujące przeszkody politycznie. Propozycja przepisu, zawierającego alternatywną ścieżkę, jeżeli powołanie nie nastąpi w przeciągu 14 dni od wyłonienia kandydata. Art. 18 ust. 1 pkt 4 Polskie Towarzystwo Infopmatyczne Wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Propozycja Kryterium wyboru Przewodniczącego Komisji na podstawie znaczącego dorobku w zakresie prawa jest niezgodne z tematyką działania Komisji, gdzie wymagane są kompetencje związane z AI. Wiedza i doświadczenie z zakresu prawa nie gwarantuje wymaganej w Komisji wiedzy dotyczącej AI Art. 18 ust. 2 Polski związek zarządzania wierzytelnościami Art. 18 ust. 2 Projektu W naszej ocenie obecny zakres wymagań dla Przewodniczącego Komisji nie został określony wystarczająco precyzyjnie. Bieżące brzmienie art. 18 ust. 2 Projektu wskazuje, że Przewodniczący Komisji powinien wyróżniać się wiedzą i posiadać znaczący dorobek „w zakresie sztucznej inteligencji lub prawa”. Stoimy na stanowisku, że osoba piastująca tak krytyczne stanowisko z punktu widzenia postępu technologicznego i rozwoju sztucznej inteligencji w Polsce, a także mająca daleko idące uprawnienia kontrolne i interpretacyjne, powinna wyróżniać się kompetencjami łączącymi zarówno sztuczną inteligencję, jak i prawo nowych technologii. Ograniczenie ujętych w Projekcie wymagań do „prawa” stałoby się zbyt pojemne, a w konsekwencji nie wymagałoby od potencjalnego kandydata przekrojowego rozeznania w otoczeniu prawnym dotyczącym sztucznej inteligencji czy powiązanych z nim ryzyk. Pośród zagadnień, które zawężają to pojęcie, należałoby wskazać m.in. kwestie związane z własnością intelektualną (w tym prawa autorskie, ochronę programów komputerowych oraz baz danych), szeroko rozumiane prawo IT, ochronę danych osobowych oraz cyberbezpieczeństwo. 132 W kontekście tego samego artykułu nasze wątpliwości budzi także samo pojęcie „sztucznej inteligencji”, które zwłaszcza w kontekście specjalistycznej ustawy w tymże zakresie, mogłoby być doprecyzowane, jako że sam AI Act nie definiuje tego pojęcia w sposób przejrzysty, posługując się pojęciem „systemu sztucznej inteligencji”. Obecne rozwiązanie wydaje się także nie uwzględniać problematyki uczenia maszynowego. Art. 18 ust. 2 CHAMBER mają na uwadze międzynarodowy wymiar rozwoju SI i konieczność uczestniczenia przez Przewodniczącego (jak i jego Zastępców) KRiBSI w pracach rozmaitych gremiów na poziomie UE, niezbędny wydaje się wymóg biegłej znajomości języka angielskiego. Art. 18 ust. 2 Fundacja FinTech Poland Sugeruje się podnieść wymagania dla przewodniczącego. Określenie - wyróżnia się wiedzą jest bardzo ocenne. Art. 18 ust. 2 pkt 4 CHAMBER zgodnie z brzmieniem tego przepisu Przewodniczącym Komisji może zostać osoba, która posiada wiedzę i doświadczenie w zakresie prawa, zupełnie bez doświadczenia i wiedzy nt. SI czy choćby technologii informacyjno-komunikacyjnych w ogóle. W naszej ocenie jest to zbyt daleko idące rozszerzenie grona potencjalnych kandydatów, a Przewodniczący Komisji bezwzględnie powinien odznaczać się wiedzą fachową w obszarze nowoczesnych technologii (lub prawa nowych technologii). Art. 18 ust. 2 pkt 4 Logicise Kwalifikacje Przewodniczącego Opis kwalifikacji Przewodniczącego jest nieprecyzyjny, trudny do porównania i w naszej opinii zdecydowanie niewystarczający aby zapewnić odpowiednią jakość. Np. pojęcie “znaczącego dorobku” nie gwarantuje posiadania odpowiednich kwalifikacji do pełnienia tej funkcji przez kandydata. Uważamy, iż, “znaczący dorobek” naukowy powinien być oceniany przez pryzmat szeroko stosowanych kryteriów w świecie naukowym, m.in.: liczby publikacji naukowych (z uwzględnieniem impact factor czasopism i konferencji), liczby cytowań (wskaźnik Hirscha), liczby patentów, liczby i jakości grantów naukowych, itd. Podobnie w pozostałych przypadkach. Art. 18 ust. 2 pkt 4 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Przewodniczącego powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami. Art. 18 ust. 2 pkt 4 KIGEiT Propozycja zapisu: 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji 133 oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; , Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone, nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 PIIT 4) wyróżnia się wiedzą w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji. Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeśli nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującym działalność w obszarach wskazanych, co sugeruje, że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. Art. 18 ust. 2 pkt 4 Repropol Art. 18 ust. 2 pkt 4 UoSSI wskazuje na obowiązek posiadania odpowiednich kompetencji osób stojących na czele Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI): „wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych”. Mając na uwadze brzmienie art. 70 ust. 3 AIA, wydaje się właściwe, aby przewodniczący komisji (również jego zastępcy – zob. art. 21 ust. 2 UoSSI) legitymowali się albo wiedzą techniczną, albo prawną w zakresie AI. Aby kryterium wiedzy prawnej zostało należycie wyeksponowane, wskazany przepis powinien być uzupełniony poprzez możliwość wykazywania się przez kandydatów doświadczeniem uzyskanym w trakcie wykonywania usług, realizowania zadań związanych z wykonywaniem zawodu prawnika (a nie tylko „doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, 134 cyberbezpieczeństwa lub technologii informacyjnych”). Obecne brzmienie przepisu w swojej drugiej części jest zatem sformułowaniem zbyt wąskim. Projekt ustanawia gremium doradcze, Radę działającą przy KRIBSI. Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 28 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest nie do przecenienia. Mając to na uwadze, wnosimy o odpowiednie uzupełnienie art. 28 ust. 3 UoSSI. Na marginesie, uważamy, iż uczestnictwo w Radzie, jak powinno wiązać się z (choćby niewielkim) wynagrodzeniem. Ze dziwieniem odnotowaliśmy uzasadnienie nieodpłatnego uczestnictwa w pracach Rady, jakim jest jedynie chęć niegenerowania „niepotrzebnych kosztów po stronie budżetu państwa”. Uważamy, że merytoryczny wkład w funkcjonowanie wspomnianego gremium uzasadnia zapłatę wynagrodzenia także innym osobom, niż jedynie Przewodniczącemu Komisji i jego zastępcom – patrz s. 10 i 12 uzasadnienia). Tym bardziej, że przynależność do tego grona wymaga posiadania dość unikalnych kompetencji merytorycznych. Zakwalifikowanie takiego wynagrodzenia do kategorii „niepotrzebnego kosztu” wydaje się niefortunnym skrótem myślowym. Poczynione w ten sposób „oszczędności” byłyby raczej iluzoryczne z uwagi na ograniczony liczbowo skład Rady. art. 18 ust. 2 pkt 4 GRAI Zwiększenie wymagań dla Przewodniczącego Komisji Mając na uwadze zakres działania Komisji, za niewłaściwe należy uznać wymagania sfromułowane w odniesieniu do potencjalnego kandydata na stanowisko Przewodniczącego Komisji poprzez wskazanie, iż powinna być to osoba \"wyróżniająca się wiedzą i posiadająca znaczący dorobek w zakresie sztucznej inteligencji lub prawa\". Pozostawiając zapis \"lub prawa\" z założenia dopuszcza się, że na czele Komisji może stanąć osoba posiadająca znaczący dorobek w zakresie prawa, ale niekoniecznie w zakresie AI. Podobnie zapis dot. doświadczenia zawodowego wskazujący, iż powinno być ono uzyskane \"w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych\" nie zapewnia pozyskania osoby, która będzie wykazywała się doświadczeniem praktycznym w zakresie tego konkretnego obszaru. Na czele Komisji powinna natomiast stanąć osoba posiadająca wiedzę i doświadczenie zawodowe przede wszystkim w zakresie AI. Następujące propozycje: I. Po słowie ,,prawa” dodaje się „nowoczesnych technologii”. II. \"wyróżnia się wiedzą i doświadczeniem zawodowym w zakresie sztucznej inteligencji\". 135 art. 18 ust. 2 pkt. 4 GRAI I. Wymogi wskazane w pkt 4 są zawężające w zakresie doświadczenia kandydata i eliminuje osoby, które realizowały swoje obowiązki w charakterze innym niż w ramach stosunku pracy. II. Sprecyzowanie wymagań dla Przewodniczącego Komisji (obecny zakres jest nieprecyzyjny) tak aby obejmował łączne kompetencje w dziedzinie informatyki i prawa. Nb. technologie informacyjne obejmują zarówno cyfryzację jak i cyberbezpieczeństwo (być może zasadnym byłoby zastosowanie określenia Informatyka Techniczna i Telekomunikacja). Dorobek w zakresie SI jest także wymaganiem kłopotliwym (szczególnie jeśli miałby być to dorobek “znaczący”) - dodanie znacznie bardziej precyzyjnego określenia np. uczenie maszynowe. Nadanie następującego brzmienia pkt 4: „4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, współpracy z lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych, lub świadczenia usług na ich rzecz” Art. 18 ust. 2 pkt 4 Związek Banków Polskich 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, prawa nowych technologii oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych Wobec Przewodniczącego Komisji powinny być stawiane bardziej konkretne wymagania w kontekście wiedzy o AI: nie może to być \"dorobek w zakresie sztucznej inteligencji lub prawa\". Prawo ma tutaj mniejszą istotność niż wiedza i rozumienie kwestii dot. AI. Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). art. 18 ust. 4 GRAI Uwaga redakcyjno-legislacyjna Ust. 4 powinien brzmieć: „4. Po upływie kadencji Przewodniczący Komisji pełni obowiązki do czasu powołania następcy.” Art. 18 ust. 5 Polskie Towarzystwo Informatyczne Trzyletni staż na stanowiskach kierowniczych w takiej Komisji to stanowczo za mało Propozycja 136 „posiada co najmniej siedmioletni staż pracy na stanowiskach kierowniczych” Trzyletni staż na stanowiskach kierowniczych jest zbyt krótki Art. 19 ust. 1 Fundacja FinTech Poland Jeżeli ustawodawca decyduje się wprowadzić katalog zamknięty to należałoby go poszerzyć tytułem przykładu o: ubezwłasnowolnienie całkowite lub częściowe. Pełnienie funkcji przewodniczącego może wiązać się z zarządzaniem środkami publicznymi. Należałoby więc uwzględnić również orzeczenia Głównej Komisji Orzekającej w Sprawach o Naruszenie Dyscypliny Finansów Publicznych. Pytanie też o zastosowanie tymczasowego aresztowania - pkt 6 dotyczy jedynie przyczyn zdrowotnych trwających dłużej niż 3 miesiące. Art. 19 ust. 1 pkt 1 ISSA Polska Proponuję zmianę treści punktu na: „prawomocnego skazania za przestępstwo umyślne ścigane z oskarżenia publicznego lub umyślne przestępstwo skarbowe”. art. 19 ust. 3 i 4 GRAI Ustawa przyznaje uprawnienia Prezesowi Rady Ministrów do wskazania, który z Zastępców zastępuje Przewodniczącego. Jest to przykład zależności Komisji od czynnika politycznego i budzi wątpliwości co do niezależności Przewodniczącego i jego Zastępców. Przyjęcie rozwiązania, że w obu przypadkach wskazanych w ust. 3 i 4 art. 19 Przewodniczącego zastępuje Zasępca z najdłuższym stażem na stanowisku Zastępcy, a w przypadku, gdyby obaj mieli taki sam staż to kolejność powołania. Art. 20 CHAMBER zawieranie tak szczegółowych i istotnych jedynie incydentalnie dla nielicznych zainteresowanych przepisów w akcie prawa powszechnie obowiązującego nie wydaje się konieczne. Tryb postępowania może być określony aktem niższego rzędu, przykładowo rozporządzeniem Prezesa Rady Ministrów, a ustawa powinna zawierać jedynie delegację do jego wydania. Co więcej proponowana procedura wydaje się też nadmiernie skomplikowana. Art. 20 PIIT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? Art. 20 KIGEiT Art. 20. 1. Informację o naborze na Przewodniczącego Komisji ogłasza się przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie 137 Informacji Publicznej na stronie podmiotowej Biura Komisji i na stronie podmiotowej Kancelarii Prezesa Rady Ministrów. , Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. Art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - nasuwa się pytanie czy jest to wykonalne w tak krótkim czasie. Art. 20 ust. 1 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej art. 20 ust. 2 pkt 3 SKwP Powstaje pytanie, jakie to będą wymagania prawne i gdzie określone? Jak mówimy o wymaganiach prawnych, to warto byłoby podać akt prawny. art. 20 ust.3 GRAI Termin na składanie dokumentów jest dość krótki. Pomimo, że to jedynie termin minimalny, to jednak jest ryzyko, że będzie wykorzystywany w takim wymiarze. Powinno to być min 30 dni, albo chociaż min. 3 pełne tygodnie, szczególnie, że znalezienie osoby spełniającej wymagania wskazane w ustawie nie będzie łatwe, przynajmniej w pierwszych latach obowiązywania AIA. Termin nie powinien być krótszy niż 30 dni od dnia opublikowania ogłoszenia w BIP Art. 20 ust. 4 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 4 Instrat – Fundacja Centrum Cyfrowe Art. 20. 4 Nabór na stanowisko Przewodniczącego Komisji przeprowadza komisja kwalifikacyjna,, powołana przez Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów, liczący co najmniej 3 osoby, których wiedza i doświadczenie dają rękojmię wyłonienia najlepszych kandydatów. W toku naboru ocenia się doświadczenie zawodowe kandydata, wiedzę niezbędną do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. - uwaga: drobne błędy redakcyjne. 138 art. 20 ust. 4 GRAI Uwaga redakcyjna Słowo ,,liczący” zastępuję sie słowem ,,licząca”. art. 20 ust. 4 i 5 GRAI Nie jest zrozumiałe z jakiego powodu komisja kwalifikacyjna, która ma mieć wiedzę, doświadczenie i ma dawać rękojmię wyłonienia najlepszych kandydatów, miałaby korzystać z podmiotu trzeciego (także posiadającego wiedzę, kwalifikację i doświadczenie) do dokonania oceny kandydata. To by mogło oznaczać, że zakłada się, że spełnienie przez członków komisji wymogów wskazanych w punkcie 4 nie będzie zawsze możliwe. Idąc dalej, oznaczać to może, że członkowie komisji nie dają rękojmi do prawidłowego ocenienia kandydata i nie powinni zasiadać w komisji. Ponadto, jeżeli już w jakikolwiek sposób ten podmiot trzeci miałby się pojawić w procesie wyłonienia kandydata to powinna to być jednak bezstronna osoba i wyłoniona apolitycznie. Brak też wskazania w jaki sposób zagwarantowana miałaby być apolityczność członków komisji oceny kandydata. -Usunięcie ustępu 5; -doprecyzowanie, z jakiego kręgu osób powoływani są członkowie komisji kwalifikacyjnej; -konieczność zapewnienia apolityczności procesu wyłonienia Przewodniczącego. Art 20 ust. 7 KIG Komisja kwalifikacyjna ma istotną rolę – wyboru najlepszych kandydatów, z których prezes Rady Ministrów wybierze Przewodniczącego Komisji. Ustawa powinna gwarantować, że członkowie komisji kwalifikacyjnej będą w stanie merytorycznie ocenić doświadczenie zawodowe kandydata i wiedzę niezbędną do wykonywania zadań na stanowisku. To wymaga od członków komisji merytorycznej wiedzy na temat działania systemów sztucznej inteligencji, zatem powinno być skonkretyzowane w Projekcie. Za nieadekwatne uznajemy powoływanie komisji rekrutacyjnej, która dodatkowo może posiłkować się opinią osób trzecich (ust. 5). To komisja ponosi odpowiedzialność za ocenę kandydatów, zatem powinna być w stanie przeprowadzić ten proces samodzielnie, w tym krytycznie zweryfikować przygotowaną przez osobę trzecią ocenę kompetencji kandydata. Ponadto wskazujemy, że jest to obszar nieuregulowany, a nieadekwatny dobór członków komisji weryfikacyjnej może istotnie zniekształcić proces rekrutacyjny. Krajowej Izba Gospodarcza sugeruje, aby wskazać, że w komisji rekrutacyjnej zapewnić udział co najmniej jednego przedstawiciela środowiska naukowego, jednego gospodarczego i jednego obywatelskiego. Art. 20 ust. 8 Fundacja Panoptykon Przejrzystość wyboru przewodniczącego Komisji Nie mamy kierunkowych zastrzeżeń do samego trybu wyboru przewodniczącego Komisji. Z uznaniem odnotowujemy także intencję zapewnienia przejrzystości i rozliczalności prac komisji kwalifikacyjnej. Zdecydowanie popieramy w szczególności propozycję wprowadzoną w art. 20 ust. 8 projektu ustawy, zgodnie z którą komisja kwalifikacyjna musiałaby opublikować protokół zawierający nazwiska najlepszych kandydatów wraz z uzasadnieniem ich wyboru. 139 Jednakże, biorąc pod uwagę kluczową rolę przewodniczącego Komisji w kierowaniu jej pracami i reprezentowaniu jej na zewnątrz oraz fakt, że Komisja i jej przewodniczący to nowo tworzone organy wymagające unikalnych kompetencji, uważamy za istotne z perspektywy interesu publicznego, aby społeczeństwo obywatelskie, opinia publiczna i parlamentarzyści mieli szansę na zapoznanie się z kandydatami i ocenę ich kompetencji przed dokonaniem wyboru przez Prezesa Rady Ministrów. Z tych względów sugerujemy dwa dodatkowe rozwiązania mające na celu zwiększenie przejrzystości procesu naboru: • dopuszczenie przedstawicieli organizacji społecznych zajmujących się m. in. ochroną praw człowieka do udziału w charakterze obserwatorów przy komisji kwalifikacyjnej; • wprowadzenie obowiązku organizacji wysłuchania publicznego kandydatów wyłonionych przez komisję kwalifikacyjną zgodnie z art. 20 ust. 7 projektu ustawy, przed ostateczną decyzją Prezesa Rady Ministrów. Prawo do udziału w charakterze obserwatora przy komisji kwalifikacyjnej pozwoli organizacjom społecznym na efektywne monitorowanie prawidłowości i rzetelności procesu wyboru przewodniczącego Komisji. Warto podkreślić, że takie rozwiązanie nie byłoby precedensowe z punktu widzenia praktyki wyłaniania osób piastujących ważne z perspektywy interesu publicznego stanowiska. Przykładowo, w 2024 r. przedstawiciele organizacji pozarządowych uczestniczyli jako obserwatorzy w rozmowach kwalifikacyjnych z kandydatami i kandydatkami na urząd sędziego Europejskiego Trybunału Praw Człowieka. Jeśli chodzi o wysłuchanie publiczne, proponujemy ograniczenie go do wysłuchania kandydatów i kandydatek wytypowanych przez komisję kwalifikacyjną zanim Prezes Rady Ministrów zadecyduje o powołaniu przewodniczącego. Takie rozwiązanie umożliwiłoby członkom Sejmu i Senatu RP, organizacjom społecznym oraz opinii publicznej zapoznanie się z kandydatami i kandydatkami oraz ocenę ich kompetencji. Choć ostateczna decyzja wciąż należałaby do Prezesa Rady Ministrów, wcześniejsze wysłuchanie publiczne stworzyłoby przestrzeń do otwartej debaty na temat kompetencji kandydatów, ich priorytetów i wizji sprawowania urzędu. Dzięki temu zmniejszyłoby się poczucie arbitralności decyzji Premiera, a jednocześnie wzrosłyby szanse na wybór osoby, która zyska szersze zaufanie społeczne. W końcu, wysłuchanie publiczne także jest dość powszechną praktyką w procesie obsadzania wielu kluczowych stanowisk publicznych, jak choćby we wcześniej wspomnianym przypadku powoływania kandydata na sędziego ETPCz, a także wyboru Prezesa Urzędu Ochrony Danych Osobowych. Oba postulowane rozwiązania, jakkolwiek bywają już stosowane w praktyce, nie mają dotychczas odpowiedniej podstawy prawnej. Biorąc pod uwagę innowacyjny charakter komentowanego projektu, naszym zdaniem projektodawcy mogliby także i w tym obszarze wskazać wysoki standard zabezpieczając w ustawie prospołeczne i sprzyjające debacie publicznej rozwiązania. 140 Art. 20 ust. 9 Osoba fizyczna jk dla spójności zapisów powinno być: ... przez umieszczenie informacji w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz opublikowanie w Biuletynie Informacji Publicznej Art. 20 ust. 11 Osoba fizyczna jk dla spójności zapisów zamiast \"Umieszczenie\" powinno być \"Opublikowanie\" Art. 21 Instrat – Fundacja Centrum Cyfrowe Procedura powoływania Przewodniczącego Komisji oraz Zastępców Jeśli jednak przyjęcie pierwszego z powyższych rozwiązań okaże się niemożliwe, rekomendujemy wprowadzenie zmian w sposobie wyznaczania Zastępców Przewodniczącego. Zgodnie z Art. 21, Zastępców Przewodniczącego Komisji powołuje Prezes Rady Ministrów na wniosek Przewodniczącego Komisji, wybierając spośród kandydatów przez niego wskazanych. Aby ograniczyć możliwość wpływu konkretnych grup interesów oraz zminimalizować ryzyko mianowania osób blisko związanych z Przewodniczącym, proponujemy, aby Zastępcy byli rekomendowani przez Społeczną Radę do spraw Sztucznej Inteligencji. Alternatywnie, kandydatury mogłyby przynajmniej podlegać opiniowaniu przez Radę, co podniosłoby transparentność i wiarygodność procesu nominacji na te stanowiska. Wprowadzenie takiego mechanizmu wymagałoby powołania Społecznej Rady oraz wyłonienia jej członków przed nominacjami Zastępców, co mogłaby przeprowadzić Komisja w okrojonym składzie. Mimo potencjalnych wyzwań organizacyjnych, uważamy, że taki model jest wart rozważenia, ponieważ sprzyjałby zwiększeniu apolityczności i przejrzystości działania Komisji. Art. 21 ITCORNER Za kluczowe uważamy również zapewnienie konkurencyjności powołania Zastępców Przewodniczącego Komisji. W tym kontekście proponujemy, aby Prezes Rady Ministrów wybierał zastępców spośród kandydatów wyłonionych w drodze konkurencyjnego i otwartego naboru, prowadzonego przez zespół powołany przez Przewodniczącego Komisji. Art. 21 GRAI Zapewnienie konkurencyjności modelu powołania wiceprezesa Komisji Następująca propozycja brzmienia: 1. Prezes Rady Ministrów powołuje Zastępców Przewodniczącego Komisji spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Prezes Rady Ministrów odwołuje wiceprezesów Urzędu na wniosek Przewodniczącego Komisji. 2. Stanowisko Zastępcy Przewodniczącego Komisji może zajmować osoba, która spełnia wymagania określone w art. 18 ust. 2 ustawy. 3. Zespół przeprowadzający nabór na stanowiska, o których mowa w ust. 1, powołuje Przewodniczący Komisji. 4. Do sposobu przeprowadzania naboru na stanowiska, o których mowa w ust. 1, stosuje się odpowiednio przepisy art. 20 ustawy. 141 Art. 22 Polski związek zarządzania wierzytelnościami Art. 21 Projektu Bieżące brzmienie art. 21 Projektu nie zakłada konkurencyjnego charakteru procedury powołania osób na stanowiska Zastępców Przewodniczącego Komisji. Rozwiązanie powoływania Zastępców na wniosek Przewodniczącego KRiBSI przez Prezesa Rady Ministrów rażąco kontrastuje z wymogami stawianymi wobec kandydatów na stanowisko Prezesa, wobec czego wskazujemy na istotę zachowania konkurencyjnego i otwartego naboru także na tym poziomie. Art. 22 CHAMBER - wydaje się, że prawidłową techniką legislacyjną byłoby jednoznaczne określenie (jeśli nie wynika to z przepisów odrębnych), że Przewodniczący Komisji i jego Zastępcy mają status osób pełniących funkcje publiczne zgodnie z ustawą, ze wszystkimi wiążącymi się tym konsekwencjami prawnymi (w tym obowiązkiem składania oświadczeń majątkowych). Kazuistyczne wskazywanie poszczególnych jedynie obowiązków czyni status tych osób niejasnym i może prowadzić do niepotrzebnych wątpliwości i sporów. Art. 22 ust. 1 ISSA Polska Proponuję uszczegółowić zapis „... są obowiązani do złożenia oświadczeń o swoim stanie majątkowym, w trybie i terminach, zgodnie z art 10 ... - oświadczenia zgodnie z ustawą składa się w dniu objęcia/złożenia stanowisko i corocznie do dnia 31 marca”. Art 23 KIG Zapis powtarza model przyjęty w ustawie o nadzorze nad rynkiem finansowym, co w opisywanym przypadku nie znajduje uzasadnienia. Sugerujemy albo całkowity zakaz łączenia funkcji zawodowych ze stanowiskiem w Komisji albo model odwrotny – brak zakazu, z obowiązkiem urlopu bezpłatnego na czas kadencji. Art. 23 ust. 2 Fundacja FinTech Poland Sugerujemy wymagania te rozszerzyć na osoby mogące wydawać decyzje w tym pracowników Biura. Sugerujemy wprowadzić tryb wyłączenia w przypadku konfliktu interesów - samo pojęcie konflikt interesów jest zbyt ogólne bo nie ma z czym go porównać (z czyimi interesami ma być konflikt, publicznymi czy prywatnej działalności). Ponadto sugeruje się poszerzyć katalog organizacji do których nie może należeć Przewodniczący i Zastępca np. o związki wyznaniowe i kościoły (rozgraniczenie Kościoła od Państwa). Art. 23 i Art. 24 ICC Poland W razie pozostania przy koncepcji powierzenia funkcji organu nadzoru nad rynkiem systemów sztucznej inteligencji organowi kolegialnemu (Komisji), wątpliwości budzi przewidziany w projekcie zakres niepołączalności stanowisk Przewodniczącego Komisji, jego Zastępców, członków Komisji oraz pracowników Biura i innych osób tam zatrudnionych (art. 23 i 24 Projektu). Po pierwsze, zgodnie z art. 24 Projektu, Przewodniczący Komisji, jego zastępcy, pozostali członkowie Komisji, Dyrektor Biura Komisji, jak i wszyscy pracownicy Biura Komisji i osoby zatrudnione w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze nie mogą być akcjonariuszami, udziałowcami, członkami organów, ani nawet podejmować zatrudnienia na jakiejkolwiek podstawie w podmiotach 142 „podlegających nadzorowi Komisji”. Tymczasem nadzorowi Komisji, jako organowi nadzoru nad systemami sztucznej inteligencji, podlegać będą docelowo wszyscy operatorzy systemów sztucznej inteligencji, a zatem nie tylko dostawcy, importerzy czy dystrybutorzy takich systemów, ale również podmioty je stosujące. Oznacza to, że proponowana treść art. 24 Projektu wyklucza możliwość istnienia przewidzianego tam powiązania członków Komisji i pracowników Biura z takim podmiotami już tylko z tej przyczyny, że podmiot taki będzie wykorzystywać system sztucznej inteligencji, nad którym będzie sprawować kontrolę (art. 3 pkt 4 rozporządzenia 2024/1689). Rozwój tej technologii uprawdopodabnia jednak przewidywanie, że wykorzystywanie systemów sztucznej inteligencji – zwłaszcza przy istniejącej, szerokiej i nie w pełni jasnej definicji tego pojęcia – będzie powszechne. Może to prowadzić do sytuacji, w której spełnienie wymogów z art. 24 Projektu będzie w praktyce bardzo utrudnione lub wymagać będzie rezygnacji przez takie osoby z jakiegokolwiek innego zatrudnienia lub uczestnictwa w innych podmiotach bądź instytucjach, co może negatywnie wpłynąć na eksperckość składu Komisji i Biura Komisji. Nie jest wreszcie jasne, jak należałoby ocenić sytuację, w której Przewodniczący lub Zastępca Przewodniczącego zajmowaliby stanowisko w jednostkach naukowych, o których mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (odesłanie w tym zakresie wymaga zresztą poprawienia), gdyby jednostka taka zarazem wykorzystywała systemy sztucznej inteligencji, a tym samym podlegała nadzorowi Komisji (art. 24 Projektu). Po drugie, art. 23 i 24 Projektu nie przewidują żadnego rozwiązania na wypadek, gdyby opisane tam powiązanie (np. przyjęcia stanowiska, podjęcia zatrudnienia) powstało już po powołaniu na funkcję Przewodniczącego, Zastępcy Przewodniczącego, członka Komisji, Dyrektora Biura lub po zatrudnieniu w Biurze Komisji. W szczególności nie można przecież wykluczyć sytuacji następczego rozpoczęcia wykorzystywania systemu sztucznej inteligencji przez dany podmiot, co spowoduje, że stanie się on podmiotem podlegającym nadzorowi Komisji, aktualizując zastosowanie art. 24 Projektu. Art. 24 Centrum Badań Kosmicznych Polskiej Akademii Nauk Należy rozważyć częściową rezygnację z wymogu braku zatrudnienia osoby zatrudnionej w Biurze Komisji na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze na dowolnej podstawie prawnej w „podmiotach stosujących” w rozumieniu art. 3 pkt 4 (w zw. z art. 2 ust. 1 lit. b) rozporządzenia 2024/1689, oznaczających każdą osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę. Konsekwencje takiego ograniczenia kłócą się z możliwością szerokiego rozpowszechnienia SI, nad którymi stosujące je podmioty (także takie jak organy i inne podmioty publiczne) mogłyby sprawować kontrolę. Ma to szczególne znaczenie w przypadkach zawierania umów cywilnoprawnych z osobami posiadającymi wiedzę specjalistyczną, w sytuacji, gdy zatrudnienie w Biurze Komisji może nie być jedynym miejscem zatrudnienia takiej osoby, będącej równocześnie stroną licznych innych umów cywilnoprawnych, w tym z „podmiotami stosującymi”. 143 art. 24 GRAI Nieuzasadnione pominięcie wspólników spółek osobowych (nie są akcjonariuszami ani udziałowcami), niezrozumiałe posługiwanie się nieznanym kodeksowi spółek handlowych słowem „udziałowiec”, mającym węższe znaczenie niż wspólnik. Słowa „udziałowcami” zastępuje się słowami „wspólnikami”. art. 24 GRAI Uwaga redakcyjno - legislacyjna – w pierwszym z wyliczeń umów cywilnoprawnych podobnych do zlecenia nie pada umowa agencyjna, zaś w drugim z wyliczeń już się znalazło - wydaje się, że zbędnie i z tego względu do usunięcia. Słowa „umowy agencyjnej” skreśla się. art. 24 SKwP Powstaje pytanie, jaka jest struktura zatrudnienia w tzw. Biurze? Kto jest na umowie o pracę, a kto na umowach cywilno–prawnych (zlecenie, dzieło). Ilu pracowników liczy Biuro, jakie ma działy itp.? Być może warto było rozważyć i wprowadzić regulamin organizacyjny pracy biura, w którym, szczegółowo wszystkie ww. kwestie byłyby rozstrzygnięte, a kompetencję do jego wydania można byłoby przyznać Przewodniczącemu Komisji albo Dyrektorowi Biura Komisji ? Art. 24 Fundacja Panoptykon Konflikt interesów w przypadku członków Komisji Zdecydowanie popieramy wprowadzone w art. 24 projektu ustawy rozwiązania dotyczące konfliktu interesów jako niezbędne do zagwarantowania bezstronnego działania Komisji. Uważamy jednak, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji wymienionych w art. 7 ust. 2, której przedstawiciel jest członkiem Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 24 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Nie ma przy tym znaczenia to, czy dana instytucja wykorzystuje obecnie jakiekolwiek systemy sztucznej inteligencji lub czy mieszczą się one w zakresie uregulowanym rozporządzenia w sprawie sztucznej inteligencji. Po pierwsze, nawet w obecnym kształcie rozporządzenia niewykluczone, że instytucje wymione w art. 7 ust. 2 będą zobowiązane w niektórych przypadkach sprostać jego wymogom, np. jeśli chodzi o przejrzystość „chatbotów” uregulowaną w art. 50 ust 1 rozporządzenia lub wykorzystanie AI w rekrutacji pracowników (system wysokiego ryzyka zgodnie z pkt. 4 Załącznika III). Po drugie, warto zauważyć, że Komisja Europejska jest zobowiązana okresowo rewidować zakres Załącznika III określającego listę systemów wysokiego ryzyka, co nie wyklucza w przyszłości objęcia regulacją systemów wykorzystywanych przez instytucje mające swoich przedstawicieli w Komisji. W rezultacie, działania tych instytucji mogą stać się przedmiotem 144 kontroli Komisji. Wprowadzenie klarownych reguł postępowania w takich przypadkach zapewniłoby elastyczność ustawy wobec zmieniających się okoliczności prawnych lub faktycznych, bez konieczności jej nowelizacji. Art. 25 CHAMBER Wątpliwym jest podobnie obowiązek zachowania tajemnicy służbowej wprowadzany w art. 25. Przepisy powszechnie obowiązujące już zobowiązują do zachowania tajemnic prawnie chronionych i wydaje się, że nie ma potrzeby powtarzania takich przepisów w każdej ustawie powołującej do życia organ lub osobę prawną. art. 25 w zw. z art. 43 ust. 1 pkt. 2 PIIT Wnosimy o dopisanie w postanowieniach art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 w zw. z Art. 43 ust. 1 pkt. 2 KIGEiT Rekomendacje: Wnosimy o dopisanie w postanowieniach Art. 25 osób posiadających wiedzę specjalistyczną ich (w postanowieniach Art. 25) do kręgu podmiotów zobowiązanych do zachowania tajemnicy prawnie chronionej, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w Art. 43 ust. 1 pkt. 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych wA. 25 projektu - wyraźnie wskazanie tego w treści Art. 43 ust. 1 pkt. 2 projektu. Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w Art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Art. 25 ust. 3 CHAMBER Art. 25 ust. 3 - przepis ten budzi poważne zastrzeżenia. Analogicznie do uwagi powyższej należy stwierdzić, że dostęp do informacji niezbędnych do wykonywania czynności służbowych przez funkcjonariuszy organów ścigania jest unormowany w odpowiednich ustawach. Wprowadzanie dodatkowych podstaw prawnych, w dodatku tak niejasno sformułowanych, mogących de facto być interpretowanych jako upoważnienie in blanco do przekazywania informacji do organów ścigania bez wyraźnego celu i potrzeby, jest zupełnie niepotrzebne i zgoła niebezpieczne. Postulujemy wykreślenie tego przepisu także w wypadku nieuwzględnienia propozycji usunięcia całego art. 25. Minimalnie należy przynajmniej zawęzić krąg odbiorców takich informacji do “uprawnionych” funkcjonariuszy. 145 Art. 25 ust. 3 KIGEiT Propozycja zapisu: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym na podstawie odrębnych przepisów prawa pracownikom podmiotu, o którym mowa w Art. 64 ust. 3 ustawy, a także uprawnionym funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji. , Punkt 3 uprawnia pracowników komisji do udzielenia poufnych informacji wszystkim żołnierzom, prokuratorom itd. Natomiast punkt 4 zobowiązuje do utrzymania tajemnicy tylko uprawnionych. Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 25 ust. 3 Związek Banków Polskich Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 25 ust. 3 Związek Cyfrowa Polska Niewystarczająca ochrona informacji i wrażliwych danych oraz ujawnienie informacji przez członków Komisji (art. 25 ust. 3 Projektu). Zarówno na etapie prowadzonych przez organ kontroli (rozdział 3 – w szczególności art. 43 ust. 4 pkt 3 oraz art. 43 ust. 8 – Projektu ustawy), jak również w innych sytuacjach niewystarczająca jest ochrona poufności i tajemnicy przedsiębiorstwa, w tym ochrona wrażliwych informacji, danych należących do przedsiębiorców (w tym danych osobowych) oraz innych tajemnic prawnie chronionych. 146 W szczególności uwagę należy poświęcić art. 25 ust. 3 Projektu, który umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. 147 Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji,w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. W związku z powyższym i ponadto zwracamy zatem uwagę legislatora na następujące propozycje zawarte w Projekcie ustawy oraz przepisów: art. 25 ust. 3 Projektu, który upoważnia członków KRiBSI do udostępniania uzyskanych informacji szerokiej grupie podmiotów, w tym np. pracownikom Polskiego Centrum Akredytacji. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. art. 27 Projektu, który przewiduje szerokie uprawnienie do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania; art. 61 ust. 4 i 5 Projektu, który posługuje się terminem „informacje stanowiące tajemnice prawnie chronione”, które ma szerokie znaczenie, nie uwzględniając brzmienia Aktu o sztucznej inteligencji, w szczególności art. 78 oraz motywu 167; art. 67 Projektu, który przewiduje szerokie uprawnienie ministra właściwego do spraw informatyzacji do przetwarzania (szeroko rozumianych) „informacji stanowiących tajemnice prawnie chronione” oraz ich przekazywania organom ścigania. Należy oczekiwać odpowiedniego zawężenia ww. uprawnień stosownych organów, z właściwym zbilansowaniem praw i interesów przedsiębiorców oraz z uwzględnieniem przepisów Aktu o sztucznej inteligencji, w szczególności art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień” oraz motywu 167. Art. 25 ust. 3 Związek Pracodawców Technologii Cyfrowych Lewiatan Ujawnienie informacji przez członków Komisji (art. 25 ust. 3 USS) Przepis umożliwia przekazywanie przez członków Komisji [Rozwoju i Bezpieczeństwa Sztucznej Inteligencji] informacji o charakterze poufnym i prawnie chronionym, jakie uzyskali w toku prac Komisji, na rzecz pracowników i funkcjonariuszy Policji i prokuratury, a także służb specjalnych m.in. Agencji Bezpieczeństwa Wewnętrznego, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego czy Centralnego Biura Antykorupcyjnego. Przepis nie wprowadza żadnych ograniczeń co do zakresu i rodzaju przekazywanych danych, a ponadto szeroko i nieprecyzyjnie określa przesłanki, na podstawie których, przedstawiciele wymienionych instytucji mogą domagać się przekazania wrażliwych danych tj. a) w ramach obowiązków służbowych; 148 b) w zakresie przygotowania opinii lub stanowisk, pozostających w bezpośrednim związku z pracami Komisji; Biorąc pod uwagę, jak szerokie uprawnienia posiadają poszczególne uprawnione instytucje, w praktyce może oznaczać to nieskrępowany dostęp organów ścigania i służb specjalnych, do poufnych i wrażliwych informacji, posiadanych przez członków Komisji - niezależnie od rzeczywistych i uzasadnionych potrzeb. Instytucje te będą mogły zawsze wskazać, że informacje są konieczne, np. w celu zwalczania zagrożeń bezpieczeństwa wewnętrznego państwa lub jego suwerenności i międzynarodowej pozycji (ABW) lub mogą mieć znaczenie dla międzynarodowej pozycji i bezpieczeństwa RP (AW). Trzeba w tym miejscu podkreślić, że dane, posiadane przez członków Komisji, mogą stanowić pilnie strzeżone tajemnice handlowe poszczególnych operatorów (dostawców, importerów, użytkowników, dystrybutorów) systemów SI. Takie informacje członkowie Komisji mogą pozyskać m.in. w wyniku postępowań kontrolnych (rozdział 3) , lub postępowań nadzorczych (rozdział 4) - jakie zamierza wprowadzić ustawa. Ze swej istoty, udostępnianie informacji o takim charakterze osobom trzecim, powinno być ograniczone do niezbędnego minimum, gdyż ich ujawnienie/przedwczesne ujawnienie, może mieć krytyczne znaczenie, z punktu widzenia gospodarczych interesów podmiotu, będącego właścicielem takiej informacji. Obecne brzmienie przepisu, z pewnością nie gwarantuje wystarczającego bezpieczeństwa informacji -zarówno z aspekcie przedmiotowym (zakres i podstawa żądania) jak i podmiotowym (szeroki wachlarz uprawnionych organów i służb). Te same zastrzeżenia należy powtórzyć, w odniesieniu do drugiej przesłanki tj. przygotowywania opinii lub stanowisk, bezpośrednio związanych z pracami Komisji. Jako że projekt ustawy nie określa czy i w jakich okolicznościach poszczególne, wskazane instytucje i służby zobowiązane są do sporządzania takich opinii lub stanowisk, można założyć, iż to same zainteresowane instytucje, będą mogły dyskrecjonalnie określać, czy i w jakim zakresie należy sporządzić opinię/stanowisko, odnoszące się do prac Komisji. W konsekwencji to te instytucje będą kształtować zakres informacji, jakie powinni udostępnić członkowie Komisji. Z uwagi na poufny charakter i krytyczne znaczenie znakomitej większości takich informacji (jak wskazano wyżej), wprowadzenie takiego przepisu stwarza zagrożenie dla najżywotniejszych interesów podmiotów przekazujących informacje Komisji. Należy także zauważyć, że na gruncie istniejących od wielu już lat regulacji np. Kodeks postępowania karnego (art. 15), wszystkie instytucje państwowe (w tym i Komisja) zobowiązane są pomocy organom prowadzącym postępowanie karne. Wydaje się zatem, że w przypadkach istotnego i uzasadnionego zagrożenia, niemal każda z instytucje wskazanych w art. 25 ust. 3 USS już obecnie posiada skuteczne narzędzia, zobowiązujące Komisję i jej członków do współpracy, w tym udostępniania informacji, w niezbędnym zakresie. Na koniec, należy podkreślić, że projektowane rozwiązanie, wychodzi poza zakres rozporządzenia w sprawie sztucznej inteligencji (AI Act), który nie przewiduje tego rodzaju uprawnień dla krajowych organów. Wobec powyższego postulujemy usunięcie przepisu art. 25 ust. 3 w całości. 149 art. 25 ust. 3 i 4 PIIT Wnosimy o wykreślenie Przepis w obecnym brzmieniu ma charakter blankietowy. Jeśli ma zostać wprowadzone uprawnienie do uzyskiwania informacji prawnie chronionych na rzecz pracowników instytucji w nim wymienionych, to powinno ono zostać określone w odpowiednich przepisach, ze wskazaniem przesłanek udostępniania tych informacji Brak jest uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Art. 26 CHAMBER Art. 26 - należy ponownie rozważyć, czy przepisy tego typu są konieczne. Rozporządzenie Ogólne o Ochronie Danych określa powszechnie obowiązujące zasady przetwarzania danych i obowiązki z niego wynikające (np. analizy ryzyka czy podejmowania środków zaradczych, minimalizacji danych itd. ) będą obowiązywały Komisję bez względu na ich umieszczenie w ustawie. Zamieszczanie takich powielanych przepisów w każdej kolejnej ustawie nie wydaje się potrzebne i prowadzi do dalszej inflacji i tak już niezmiernie obszernego i skomplikowanego prawa. Art. 26 ISSA Polska Postuluję wskazanie wprost, że Komisja jest administratorem danych osobowych, wówczas nie będzie wątpliwości, że jako administrator musi realizować obowiązki wynikające z RODO. Art. 26 PIIT Uzgodnienie przepisów z zapisami ustawy RODO. Art. 26 Zbyt szeroki zakres możliwego przetwarzania danych osobowych i zbyt szeroko określony cel przetwarzania danych wynikający z art. 11 projektu ustawy. Zapisy nie precyzyjne, brak proporcjonalności zakresu i celu przetwarzania danych w kompetencji Komisji. Przy tak szeroko określonych celach i zakresie przetwarzania danych naszym zdaniem powołanie IOD powinno być obligatoryjne, a nie uznaniowe. W ust. 8 należałoby wymienić wszystkie prawa osób, których dane będą przetwarzane przez Komisję – wynikające z RODO, nie niektóre z nich. Proponujemy odwoływać się już do PKE, w tym do pojęcia Usług komunikacji interpersonalnej. 150 Art. 26 GRAI Generalna uwaga do art. 26 I. Zbyt wąski zakres przedmiotowy i zakres stosowanych środków ochrony. Przepis przez taką redakcję wydaje się ograniczony tylko do niektórych środków i tylko do niektórych rodzajów informacji. Środki zabezpieczające powinny spełniać najwyższe wymagania, bo Komisja będzie dysponować wieloma informacjami dotyczącymi zarówno innych instytucji, podmiotów rozwijających technologię jak i samych użytkowników. W cały projekcie wybrzmiewa nadmierne uprawnienie do żądania zbyt szerokiego zakresu informacji chronionych (co nie powinno mieć miejsca i powinno zostać ograniczone przepisami do absolutnego minimum) przy czym nie ma nic o ochronie tych informacji. II. W miejsce obecnie zaproponowanych zapisów w art. 26, które budzą liczne wątpliwości proponuję odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO: Np. „Do przetwarzania danych osobowych przez Komisję na mocy niniejszej ustawy zastosowanie ma rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679.”. „Wszelka wymiana danych osobowych na mocy niniejszej ustawy przez Komisję podlega rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2016/679.”. A dodatkowo wskazać w ustawie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e) czy h) RODO. I. Katalog informacji podlegających ochronie jak i katalog środków zabezpieczenia powinien być rozszerzony, otworzony. Benchmarkiem spełnienia tego obowiązku powinno być zapewnienie takich mechanizmów, które realnie zagwarantują najwyższą ochronę przetwarzanych przez Komisję informacji (w oparciu o najnowsze technologie i aktualne standardy branżowe). Nie tylko dane szczególnych kategorii z RODO powinny się znaleźć w treści tego przepisu, ale i tajemnica przedsiębiorstwa, tajemnica adwokacja czy radcowska, innego rodzaju tajemnice prawnie chroniona, dane osobowe zwykłych kategorii. II. Zmiana brzmienia art. 26 zgodnie z poniższymi propozycjami. Art. 26 Osoba fizyczna jk Jest to nieudolne i nielogiczne powielenie zapisów Rozporządzenia UE 2016/679 - zupełnie niepotrzebne oprócz ust. 5 i ust. 9, który powinien być ust. 1. Art. 26 ust. 1 Osoba fizyczna jk Komisja - czy/i Biuro Komisji - nie byłaby w ogóle w stanie funkcjonować bez przetwarzanie danych osobowych, chociażby osób składających skargi czy pracowników swojego Biura. Ponadto, jako jednostka sektora finansów publicznych jest zobowiązana przetwarzać dane na podstawie i w granicach prawa. Zatem po co zapis w ustawie? 151 Art. 26 ust. 2 Osoba fizyczna jk Czy przetwarzając dane osobowe, które nie są określone w art. 9 ust. 1 rozporządzenia 2016/679, Komisja - czy/i Biuro Komisji - nie musi prowadzić analizy ryzyka, stosować środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu, a także opracować procedury bezpiecznej wymiany informacji? Czy cytowane zapisy są jedynymi wymogami dotyczącymi bezpiecznego przetwarzania danych osobowych przez Komisję? Sprowadzanie środków technicznych i organizacyjnych bezpieczeństwa przetwarzania danych osobowych wymaganych na podstawie art. 32 rozporządzenia 2016/679 (RODO) do - środków ochrony przed złośliwym oprogramowaniem, - mechanizmów kontroli dostępu oraz - procedur bezpiecznej wymiany informacji świadczy o kompletnej nieznajomości obowiązujących przepisów oraz standardów, norm i dobrych praktyk dotyczących ochrony danych osobowych, cyberbezpieczeństwa i bezpieczeństwa informacji, zalecanych m.in. przez Ministerstwo Cyfryzacji i NASK. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 2 TAURON Dystrybucja Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana zapisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 2 GRAI Bezzasadne ograniczenie tylko do danych określonych art. 9 ust 1 RODO, gdy tymczasem przepis powinien obejmować wszelkie dane osobowe jakie Komisja przetwarza. Zarazem w przepisie tym, w ograniczony i wybiórczy sposób zostały określone zobowiązania Komisji w związku z przetwarzaniem danych, w tym stosowanie środków technicznych i organizacyjnych służących zabezpieczeniu przetwarzanych danych. Komisja jako administrator danych zobowiązana jest do przestrzegania wymagań określonych w RODO, w tym wdrożenia i stosowania odpowiednich środków technicznych i organizacyjnych, aby przetwarzanie odbywało się zgodnie RODO. Propozycja zmiany brzmienia ust.2 w następujący sposób: „2. Przetwarzanie danych osobowych, o którym mowa w ust. 1 przez Komisję, odbywa się z zachowaniem przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679. 152 Art. 26 ust. 2 GRAI Komisja jako administrator danych, zgodnie z RODO, jest zobowiązana do stosowania odpowiednich środków technicznych i organizacyjnych zapewniających odpowiednie bezpieczeństwo wszelkich danych osobowych, również tych zwykłych kategorii, a nie tylko szczególnych określonych w art. 9 ust. 1. Zmiana przepisu: Art. 26. ust. 2. Komisja, przetwarzając dane osobowe, określone w art. 9 ust. 1 rozporządzenia 2016/679, o których mowa w ust. 1 powyżej, wdraża odpowiednie środki organizacyjne i techniczne, aby zapewnić bezpieczeństwo przetwarzania, w szczególności, prowadzi analizę ryzyka, stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje procedury bezpiecznej wymiany informacji. Art. 26 ust. 3 PIIT 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: - gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; - gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; - gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 KIGEiT Propozycja zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji 153 elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. , Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Art. 26 ust. 3 GRAI Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy też operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie przepisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 154 Art. 26 ust. 3 TAURON Dystrybucja Takie sformułowanie może rodzić wątpliwości jaki zakres danych może być pozyskiwany przez Komisję w związku z nadzorem nad systemami sztucznej inteligencji. Zarówno z uwagi na dość szeroki kontekst pozyskiwania danych tj. „w związku z nadzorem nad systemami sztucznej inteligencji” a nie odniesienie się do zadań Komisji, jak i brak doprecyzowania, że chodzi o dane przetwarzane w systemach sztucznej inteligencji a nie wszelkich danych. Niektóre ze spółek GT jako podmioty kluczowe, ważne, czy tez operatorzy usług kluczowych w rozumieniu powołanych w przepisie regulacji, powinny mieć jasno określony zakres możliwych do przekazania danych. A więc nie wszystkie dane gromadzone przez podmioty kluczowe, ale takie które są przetwarzane w systemach sztucznej inteligencji. Doprecyzowanie zapisu: Art. 26 ust. 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług; gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa; gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych, przetwarzane w systemach sztucznej inteligencji, pozyskane w związku z realizacją zadań, o których mowa w art. 11 ust. 1 Art. 26 ust. 3 Osoba fizyczna jk Bardzo odważny zapis ograniczający przetwarzanie danych do wymienionej listy przypadków nadzoru nad systemami. Jeżeli w trakcie tworzenia i funkcjonowania Komisji - czy/i Biura Komisji - okaże się, że dla wykonania swoich zadań Komisja - czy/i Biuro Komisji - musi przetwarzać dodatkowo inne dane osobowe, niestety będzie musiała poczekać na nowelizację ustawy. Zapis jest absurdalny i niepotrzebny. Art. 26 ust. 3 pkt 4 KIG Pojęcie podmiotów kluczowych i ważnych zostało wprowadzone przez dyrektywę NIS2. W ustawie o krajowym systemie cyberbezpieczeństwa, do której referuje Projekt, brak wskazania tych podmiotów. art. 26 ust. 4 GRAI Anonimizacja danych zbędnych do realizacji zadań Komisji jest działaniem zbędnym i dodatkowo obciążającym pracowników Biura Komisji 155 Skreśla się słowa: „lub anonimowane”. Art. 26 ust. 4 Osoba fizyczna jk Jest to powielenie zasady ograniczenia przechowywania zapisanej w art. 5 ust. 1 lit. e) rozporządzenia 2016/679 (RODO). Zapis jest niepotrzebny. art. 26 ust. 5 GRAI Uwaga redakcyjna – brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „o którym mowa w rozdziale 3, 4 i 7 ustawy”. Art. 26 ust. 6 TAURON Dystrybucja Omyłka pisarska w numeracji rozporządzenia. Powinno być: 2024/1689 Ponadto wskazany zapis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanym podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. Ponadto na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. art. 26 ust.6 GRAI Przepis dotyczący przekazywania informacji został sformułowany w taki sposób, że kolejne regulacje mogą prowadzić do jego naruszenia, jak chociażby okoliczność, że „kontrolującym” nie musi być pracownik Komisji. art. 26 ust. 6 GRAI Omyłka pisarska w numeracji rozporządzenia. Ponadto wskazany przepis rodzi ryzyko niekontrolowanego przepływu danych pomiędzy pracownikami podmiotów wskazanych w art. 7 ust. 2. W art. 7 ust. 2 jest mowa o tym, że członkami komisji są: „przedstawiciele” wskazanych podmiotów, i tylko ci przedstawiciele (rozumiani jako osoby wyznaczone przez te podmioty) tworzący komisję, powinni być uprawnieni do wzajemnego przekazywania danych. Tym bardziej, że w ust. 3 jest mowa o przetwarzaniu danych przez Komisję a nie podmioty, o których mowa w art. 7 ust. 2. Poza tym rozporządzenie 2024/1689 i ustawa nie przewidują zadań organów wskazanych w art. 7 ust. 2 tylko organu nadzoru. 156 Ponadto, na czym miałaby polegać współpraca z organem właściwym ds. odo. w rozumieniu tej ustawy (innym niż wynika z RODO?) Powinno być: 2024/1689 Mając na uwadze niedookreślony charakter przepisu zasadnym byłoby jego pominięcie. Przedstawiciele (a nie pracownicy) podmiotów wskazanych w art. 7 ust. 2. są członkami komisji i są z tego tytułu uprawnieni do przekazywania danych. Art. 26 ust. 6 Osoba fizyczna jk Kto może przekazywać dane: Komisja czy/i Biuro Komisji czy też pracownicy Biura Komisji, skoro wzajemnie dane przekazywać będą pracownicy podmiotów, o których mowa w art. 7 ust. 2. Czy przepisy regulujące funkcjonowanie podmiotów, o których mowa w art. 7 ust. 2 projektu ustawy, dopuszczają opisane przekazywanie danych i przetwarzanie tych danych? Art. 26 ust. 7 Osoba fizyczna jk Jak zwolnienie z realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 ma się do \"zapewnienia wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI\"? Art. 26 ust. 7 TAURON Dystrybucja Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 7 GRAI I. W projektowanym ust. 7 wskazano, że przetwarzanie danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji nie wymaga realizacji przez Komisję i inne podmioty obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679 „jeżeli uniemożliwiałoby to realizację zadań Komisji”. Zastrzeżenie zawarte w przepisie jest niejasne i budzi wątpliwości, w jakich konkretnie przypadkach określone podmioty nie będą realizowały obowiązków wynikających z RODO. II. Przepis wprowadza ograniczenie praw z RODO – uzasadnienie powinno krótko powołać art. 23 RODO jako podstawę ograniczenia tych praw. Do rozważenia powołanie art. 23 ust. 1 lit. e lub h RODO. I. Koniecznym jest doprecyzowanie, co oznacza „uniemożliwiałoby to realizację zadań Komisji”, jeśli miałoby pozostać taki zapis. Jednocześnie wydaje się zasadne przeredagowanie całego art. 26 zgodnie z uwagami dotyczącymi tego artykułu. 157 II. Uzupełnienie uzasadnienia o podstawę prawną ograniczenia praw z RODO w art. 26 ust. 7 projektu – o konkretną podstawę prawną z art. 23 ust.1 RODO (potencjalnie lit. e lub h). art. 26 ust. 7 GRAI Wyłączenie prawa dostępu do danych, prawa do sprostowania danych, prawa do ograniczenia przetwarzania stanowią istotne ograniczenia praw przysługujących pomiotom danych na mocy rozporządzenia i każde takie wyłączenie powinno być poprzedzone analizą zasadności takich wyłączeń. Z obowiązku realizacji wskazanych praw podmiotów danych zostały zwolnione również podmioty wskazane w art. 7 ust. 2. Niestety w uzasadnieniu projektu brakuje argumentacji przemawiającej za przyjętym rozwiązaniem rezygnacji z obowiązku realizacji praw podmiotów danych. art. 26 ust. 8 GRAI Jeśli celem ustawodawcy było, aby publikacja wskazanych informacji stanowiła spełnienie obowiązku informacyjnego w świetle art. 13 i 14 RODO – rekomendowane jest wskazanie tego w uzasadnieniu albo wprost doprecyzowanie tej kwestii w projekcie. Art. 26 ust. 8 otrzymuje brzmienie: 8. Realizacja obowiązku informacyjnego, o którym mowa w art, 13 i 14 RODO następuje poprzez publikację w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji informacji wskazujących: 1) dane kontaktowe administratora danych osobowych oraz, gdy ma to zastosowanie, dane kontaktowe inspektora ochrony danych osobowych; 2) cele przetwarzania i podstawę prawną przetwarzania; 3) kategorie przetwarzanych danych osobowych; 4) informacje o odbiorcach danych osobowych; 5) informacje o tym, przez jaki okres dane osobowe będą przechowywane; 6) informacje o ograniczeniach obowiązków i praw osób, których dane dotyczą wraz z podstawą prawną tego ograniczenia; 7) informacje o prawie wniesienia skargi do organu właściwego do spraw ochrony danych osobowych; 8) źródło pochodzenia danych osobowych. 9. Komisja jest administratorem danych, o których mowa w ust. 1-3.” art. 26 ust.8 GRAI Zaproponowany sposób realizacji obowiązku informacyjnego w BIP poprzez podanie bardzo ogólnych i zbiorczych informacji nie spełnia wymogów art. 14 ust. 1-3 RODO, a ewentualne zastosowanie art. 14 ust. 5 lit. a czy c budzi poważne wątpliwości 158 Art. 26 ust. 8 Osoba fizyczna jk Kuriozalna i wybiórcza interpretacja zapisów art. 13 i 14 rozporządzenia 2016/679 (RODO) oraz Wytycznych GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\". Skoro rozporządzenie 2016/679 (RODO) oraz Wytyczne GR260/WP260 rev.01 \"w sprawie przejrzystości na podstawie rozporządzenia 2016/679\" określają, jakie informacje należą się osobom, których dane dotyczą, to po co prawnicy wpisują listę należnych informacji do kolejnych polskich ustaw? Czy bez zapisów w ustawach wymienione w RODO informacje nie należą się osobom, których dane dotyczą? Potrzebne jest tylko doprecyzowanie, kto jest administratorem danych oraz jakie są okresy przechowywania danych osobowych dla poszczególnych czynności przetwarzania. art. 27 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, co obejmuje pojęcie „tajemnicy prawnie chronionej\". Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących „tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. ustawy - Prawo bankowe). art. 27 CHAMBER Analogiczna uwaga odnosi się do art. 27 - zasady przetwarzania tajemnic prawnie chronionych są określone odrębnymi przepisami i obowiązują powszechnie. Podobnie obowiązek zawiadomienia o ujawnionym przestępstwie w ust. 2 niepotrzebnie powiela powszechnie obowiązujący przepis art. 304 par. 2 Kodeksu karnego. art. 27 ust. 1 GRAI Uwaga redakcyjna - zbędny przecinek zastosowany w wyliczeniu przed spójnikiem współrzędności łącznej. Skreśla się przecinek po słowach „pracownicy Biura Komisji”. Art. 27 ust. 1 Związek Banków Polskich Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 27 ust. 1 Fundacja FinTech Poland Pytanie co obejmuje \"tajemnica prawnie chroniona\" (ustawy branżowe, postępowania karne). Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Rekomendujemy zdefiniowanie określenia “tajemnica prawnie chroniona” 159 Art. 27 ust. 1, art. 25 i art. 67 ust. 1 e-Izba Aktualne brzmienie projektowanych przepisów implikuje ryzyko niedostatecznej ochrony tajemnicy przedsiębiorstwa przedsiębiorców, którzy będą podlegać kontroli prowadzonej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zwiększenia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy o systemach sztucznej inteligencji, istotne jest zagwarantowanie maksymalnej ochrony tajemnicy prawnie chronionej przedsiębiorców, tym tajemnicy ich przedsiębiorstw oraz zachowanie kontroli przedsiębiorców nad jej wykorzystaniem. Szczególnie istotne jest zagwarantowanie przedsiębiorcom takiego poziomu ochrony tajemnicy prawnie chronionej, w tym tajemnicy ich przedsiębiorstwa, które zapewni, że informacje składające się na tajemnicę przedsiębiorstwa nie zostaną wykorzystane w jakichkolwiek innych celach aniżeli ściśle związanych z prowadzoną kontrolą i wyłącznie na jej potrzeby. W związku z powyższym proponujemy zmianę( wzorowaną na art. 73 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów) aktualnego brzmienia art. 27 ust. 1 projektu ustawy o systemach sztucznej inteligencji, poprzez wskazanie, że informacje prawnie chronione, w tym tajemnica przedsiębiorstwa, mogą zostać wykorzystane jedynie na potrzeby tej kontroli w ramach, której zostały przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji lub jej upoważnionych przedstawicieli pozyskane, z wyłączeniem przypadku wskazanego w art. 27 ust. 2 projektu ustawy o systemach sztucznej inteligencji. Proponujemy, aby powyższa zasada miała zastosowanie na potrzeby całej ustawy, tj. żeby tajemnica przedsiębiorstwa mogła być przetwarzana wyłącznie na cele tego postępowania, w ramach którego została zebrana. W związku z tym, powyższe doprecyzowanie powinno znaleźć zastosowanie również w przypadku: art. 25 oraz 67 ust. 1 projektu ustawy o systemach sztucznej inteligencji. Art. 28 GRAI Uwaga ogólna do charakteru Rady Wyjaśnienia wymaga, dlaczego Rada ma mieć charakter społeczny, skoro mają ją tworzyć eksperci (naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – „będą mogli wesprzeć swoją wiedzą Komisję”). Dlaczego te osoby mają pracować bez wynagrodzenia i z ograniczeniami dotyczącymi dodatkowej działalności/ aktywności zawodowej członków takiej Rady? Do rozważenia - może taką Radę (ale nie społeczną) ds. Sztucznej Inteligencji powinni tworzyć obecni członkowie GRAI najbardziej zaangażowani w prace Grupy , w szczególności w przygotowanie Polityki AI w Polsce (w GRAI są praktycy z bogatym doświadczeniem z różnych dziedzin; interdyscyplinarne grono ekspertów z wiedzą merytoryczną do efektywnego wykorzystania w rozwoju AI w Polsce). 160 Art. 28 SKwP Uważamy, że do Społecznej Rady powinien zostać zgłoszony przedstawiciel SKwP. AI wchodzi w obszar rachunkowości, zatem dotyczy księgowych. Powinniśmy mieć wpływ na opiniowanie systemów AI dla księgowych, to dalszy problem etyki zawodu księgowego, odpowiedzialności a nawet kar. W tym zakresie, w projekcie wskazuje się, że kandydatów na członków Rady mogą zgłosić jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Art. 28 Osoba fizyczna mk Artykuł 28 ustawy przewiduje, że kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji mogą zgłaszać m.in. „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”. Nieuzasadnione jest zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji”, w szczególności biorąc pod uwagę, iż: a) rolą Rady jest (wg uzasadnienia Ustawy) „zapewnienie platformy, w której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję”; b) również wg Artykułu 28 Ustawy do członkostwa w Radzie uprawnia wiedza i doświadczenie m.in. w obszarze praw człowieka. Zawężenie grona fundacji i stowarzyszeń jedynie do tych „których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji” utrudni w nieuzasadniony sposób udział w pracach Rady przedstawicielom społeczeństwa obywatelskiego i osobom z doświadczeniem np. w obszarze praw człowieka, które działają na rzecz fundacji i stowarzyszeń, których celem statutowym nie jest wprost wyrażona działalność na rzecz rozwoju sztucznej inteligencji a np. właśnie ochrona praw człowieka czy rozwój społeczeństwa obywatelskiego. Wskazane jest co najmniej rozszerzenie wspomnianego zapisu do formy „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, rozwoju społeczeństwa obywatelskiego i ochrony praw człowieka”. Art. 28 Open AI Devs Community Rozszerzenie składu Społecznej Rady. Wnosimy o modyfikację art. 28 projektu poprzez: • Włączenie przedstawicieli społeczności deweloperów do składu Rady; • Zapewnienie reprezentacji startupów i MŚP; • Wprowadzenie transparentnego procesu wyboru członków. 2. Właściwe uwzględnienie głosu społeczności deweloperskiej przyczyni się do: 161 • Lepszego zrozumienia praktycznych wyzwań wdrożeniowych; • Skuteczniejszej implementacji przepisów; • Rozwoju kultury odpowiedzialnego rozwoju AI Art. 28 ZPAV Mając na uwadze motywy 104-109 rozporządzenia 2024/1689 art. 28 projektu ustawy dotyczący powołania Społecznej Rady ds. Sztucznej Inteligencji powinien dopuszczać możliwość zgłaszania kandydatów na członków także przez organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi, o których mowa w art. 3 pkt. 2 ustawy z dnia 15 czerwca 2018 r. o zbiorowym zarządzaniu prawami autorskimi i prawami pokrewnymi. W aktualnym brzmieniu projektowany przepis w istotny sposób narusza równowagę interesów – z jednej strony dopuszcza zgłaszanie kandydatów przez izby gospodarcze (grupy interesów) – nie uwzględniając w ogóle z drugiej strony reprezentacji sektora kreatywnego. Wieloletnie doświadczenie koegzystencji na rynku medialnym pokazuje, że bardzo często interesy branży elektronicznej i komunikacyjnej co najmniej nie są zbieżne z interesami środowisk twórczych i właścicieli praw własności intelektualnej, a zdarza się, że ze sobą kolidują. Art. 28 PWPW dot. Społecznej Rady do spraw AI Z uwagi na duży wpływ działania Rady na biznes, w ustawie należy wskazać na konieczność powołania członka wskazanego przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Przepisy powinny wskazywać na członków wskazywanych oraz na członków wybieranych. Taki podział zapewni odpowiednią reprezentację wszystkich środowisk. Zaproponowany model w projekcie ustawy nie zapewnia, że głos przedsiębiorców będzie obecny w radzie. A obecny być powinien, gdyż uprawnienia Komisji mają ogromny wpływ na rozwój rynku AI w kraju – a poprzez udział Komisji w organach UE – także w całej Europie. Art. 28 Związek Cyfrowa Polska Ciała doradczego. Poza utworzeniem KRiBSI, planowane jest powołanie także Społecznej Rady do spraw Sztucznej Inteligencji („Rada”), która ma być organem opiniodawczo-doradczym KRiBSI (art. 28 Projektu). Pomimo że opinie i stanowiska Rady nie będą wiążące dla KRiBSI, to rozwiązanie to oceniamy jako korzystne, ponieważ środowiska przedsiębiorców/instytucji naukowych/NGOs działające w obszarze AI mogą uzyskać odpowiednie forum do bieżącego przedstawiania swoich uwag, propozycji zmian regulacji, itd. (art. 28 ust. 3 pkt 4 Projektu). 162 Art. 28 ust. 1 GRAI I. Mając na uwadze, że w skład Komisji mają wejść przedstawiciele RPO oraz RPD, wyjaśnienia wymaga jakie jest uzasadnienie dla ich włączenia również do Rady? II. Zgodnie z propozycją i słusznie, przedstawiciel RPO oraz RPR jest członkiem Komisji, natomiast w art. 28 ust. 3 pkt 2 i 3 te same podmioty mogą zgłosić kandydatów do Rady Społecznej. W takiej konstrukcji te podmioty nie tylko mają swojego przedstawiciela w Komisji, co jest już wystarczające, jak też wskazują kandydatów do Rady Społecznej, podczas gdy więcej sensu miałoby przyznanie tego uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA Przyznanie uprawnienia z art. 28 ust. 3 pkt 2 i 3 innym podmiotom, niż PRO i PRD. Chociażby odpowiedzialnym za obszary wskazane w załączniku I lub III AIA. Art. 28 ust. 1 GRAI Społeczna Rada ma się składać z 9-15 członków, podczas gdy wymienione podmioty, które mogą przedstawiać kandydatów obejmują siedem urzędów czy obszarów. Biorąc pod uwagę 2-letnią kadencję członków oraz tempo postępu technologicznego, brak przedstawicieli przedsiębiorców w danej kadencji skutkowałby ograniczeniem udziału w dyskusjach dot. SI podmiotów, których projektowane przepisy i działania Komisji będą bezpośrednio dotyczyły. W Społecznej Radzie mogłoby przykładowo zasiadać co najmniej dwóch przedstawicieli przedsiębiorców. Zwraca uwagę również, że różnorodność zastosowań AI i niewielka liczba członków Rady sprawia, że pewne sektory nie będą mogły być reprezentowane w danej kadencji, podczas gdy przedstawiciele związków zawodowych czy Biur Rzeczników będą stale obecni jako członkowie. Art. 28 ust. 2 Logicise dziewięciu do piętnastu członków Sugerujemy zwiększenie liczby członków Społecznej Rady, tak aby była jak najbardziej przekrojowa i pokrywała możliwie wszystkie grupy interesariuszy. W związku z powyższym, w składzie Rady powinny znaleźć się miejsca dla reprezentantów różnych izb branżowych, również z uwagi na zróżnicowanie regulacji dla poszczególnych sektorów gospodarki. Wydaje się, że w skład Rady powinno wchodzić każdorazowo nie mniej niż 20 osób. Art. 28 ust. 2 PIIT Określenie minimalnej i maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji. 163 Proponujemy podwyższenie maksymalnego progu liczebności Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez przedsiębiorców, w tym zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. Art. 28 ust. 2 PIIT Zwiększenie liczby członków Społecznej Rady itd. Art. 28 ust. 2 KIGEiT Rekomendacja: Sugerujemy rozważenie zwiększenia maksymalnej liczby członków Społecznej Rady do spraw Sztucznej Inteligencji do min. 25 członków. Zasadne jest zwiększenie maksymalnej liczby członków Rady celem zapewnienia jej reprezentatywności. Rady sektorowe, których działania są zakresowo ograniczone do konkretnego obszaru, a członkami są osoby o tej samej czy podobnej specjalizacji, liczą do 20 członków lub więcej. Rada Dostępności przy ministrze właściwym ds. rozwoju regionalnego liczy maksymalnie 50 członków (a dostępność jest również zagadnieniem horyzontalnym dot. zarówno sektora publicznego, jak i prywatnego). Zastosowania AI są bardzo różne w poszczególnych obszarach przemysłu czy w ramach realizowania zadań publicznych, stąd ustawa nie powinna ograniczać aż w takim stopniu możliwości udziału przedstawicieli różnych środowisk. Art. 28 ust. 3 CHAMBER Określony w art. 28 ust. 3 katalog podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (Rada) jest zdefiniowany podobnie nieco arbitralnie. W szczególności w pkt. 6 należałoby dopuścić wszystkie podmioty tworzące system szkolnictwa wyższego i nauki, wymienione w art. 7 ust. ustawy Prawo o szkolnictwie wyższym. Wątpliwe też wydaje się rozwiązanie przyjęte w ust. 6 pkt. 6, zgodnie z którym wycofanie poparcia przez instytucję zgłaszającą powoduje wygaśnięcie mandatu członka Rady. Członkowie Rady powoływani są do niej z powodu swoich osobistych przymiotów i nie są reprezentantami instytucji, które formalnie zgłaszają ich kandydatury. Przyjęte rozwiązanie de facto czyni członków Rady podatnymi na naciski z zewnątrz, gdyż w każdej chwili mogą zostać odwołani, co będzie negatywnie wpływało na ich niezależność. Proponujemy wykreślenie tego przepisu. Art. 28 ust. 3 GRAI I. Kandydatów na członków Rady Społecznej mogą zgłosić tylko wskazane podmioty. Istnieje ryzyko, że niektóre sektory nie będą reprezentowane w Radzie. 164 II. Kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji może wskazać m.in. współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka. Są to jednak przedstawiciele sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. III. Konieczność uwzględnienia wśród podmiotów, które mogą zgłaszać kandydatów na członków Rady także podmiotów reprezentujących osoby, których prawa mogą być naruszone przez AI – albo w pkt 7 albo jako odrębny punkt – w sposób bardziej generalny niż związki zawodowe, czy RPO. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 nie mieszczą się np. podmioty reprezentujące twórców, wydawców, czy producentów, których prawa mogą być naruszone działaniami związanymi ze sztuczną inteligencją (twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych; ponadto statutowa działalność podmiotów, w których się zrzeszają nie dotyczy działalności na rzecz rozwoju sztucznej inteligencji). IV. Obecny zapis ogranicza prawo zgłaszania kandydatów do Rady wyłącznie do fundacji i stowarzyszeń zajmujących się technologicznymi aspektami rozwoju AI. Jednak rozwój sztucznej inteligencji wywołuje coraz bardziej znaczące skutki społeczne, etyczne i kulturowe, których analiza jest kluczowa dla zrozumienia pełnego wpływu tej technologii na społeczeństwo. Dlatego też warto uwzględnić w ustawie organizacje i ośrodki badawcze zajmujące się społecznymi aspektami AI, aby zapewnić bardziej wszechstronną perspektywę konsultacji. V. dotyczy to także organizacji zajmujących się kwestiami tzw. praw własności intelektualnej, wolnej kultury i wolnego oprogramowania (nb. Ustawa w ogóle nie porusza aspektów własności wytworów generatywnej sztucznej inteligencji, wykorzystania utworów w domenie publicznej jako materiału służącego do trenowania modeli AI – i ew. wynagrodzenia ich twórców lub zastrzeżenia ich wykorzystania itd. – a które szczególnie zyskują na znaczeniu szczególnie w przypadku GenAI i dużych modeli językowych). VI. W praktyce może ten zapis może wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować 165 interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. VII. Rozszerzenie zakresu merytorycznego listy dopuszczonych izb gospodarczych do zgłaszania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji o Związek Banków Polskich, który funkcjonuje jako izba gospodarcza. Reprezentuje on sektor finansowy, bardzo aktywny na rynku rozwiązań sztucznej inteligencji II. Postuluje się skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. III. „7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji ewentualnie 8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji.” IV. „Fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, które w swoich celach statutowych uwzględniają działalność na rzecz rozwoju sztucznej inteligencji lub analizę jej społecznych, etycznych oraz kulturowych konsekwencji.”. V. z tym, że także takich które w swoich celach statutowych mają kwestie związane z wolnymi i otwartymi danymi i oprogramowaniem (np. fundacja Wikimedia) VI. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Poprawka stylistyczna 166 Słowa „może zgłaszać” zastępuje się słowem „zgłasza”. Należy rozważyć uwzględnienie przedstawicieli GRAI w składzie Rady Społecznej. Art. 28 ust. 3 Instrat – Fundacja Centrum Cyfrowe Skład Społecznej Rady W uzasadnieniu do ustawy wskazano, że skład Społecznej Rady zaprojektowano z myślą o tym, aby mogły w niej zasiadać osoby reprezentujące szeroki wachlarz środowisk i instytucji. Niemniej jednak chcemy zwrócić uwagę na fakt, że w zakresie reprezentacji społeczeństwa obywatelskiego, art. 28 ust. 3 może być ograniczający. Zgodnie z obecnym brzmieniem artykułu, kandydatów do Rady mogą zgłaszać jedynie fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których statutowym celem jest działalność na rzecz rozwoju sztucznej inteligencji. W praktyce może to wyłączać z procesu nominacji wiele organizacji społecznych (np. Instrat, Centrum Cyfrowe, Panoptykon), które choć nie mają w swoich statutach bezpośrednich zapisów o sztucznej inteligencji, działają aktywnie na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, praw człowieka w sieci, etyki danych, czy edukacji cyfrowej. Eksperci z tych organizacji posiadają odpowiednie kompetencje i doświadczenie, aby reprezentować interesy społeczne w debatach dotyczących nowych technologii, a ich wykluczenie może ograniczać zróżnicowanie perspektyw w Radzie. Aby zapewnić szeroką reprezentację społeczeństwa obywatelskiego, rozważenia wymagałaby zmiana brzmienia art. 28 ust. 3 pkt. 7 oraz rozszerzenie katalogu na fundacje i stowarzyszenia ogólnie, które zajmują się tematyką społeczną, ekonomiczną, prawną i etyczną w obszarze technologii cyfrowych, niezależnie od tego, czy ich statut explicite odnosi się do sztucznej inteligencji. Art. 28 ust. 3 SFP-ZAPA Wśród podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji powinny znaleźć się także podmioty reprezentujące osoby, których prawa mogą być naruszone przez AI. Wśród podmiotów obecnie wskazanych w art. 28 ust. 3 Projektu nie mieszczą się np. podmioty reprezentujące twórców, wydawców czy producentów, których prawa mogą być naruszone i obecnie są naruszane działaniami związanymi ze sztuczną inteligencją. Twórcy, artyści często wykonują wolne zawody i nie zrzeszają się w formie związków zawodowych, które zostały wskazane w tym przepisie Projektu, zaś wydawcy, czy producenci audiowizualni /muzyczni rzadko zrzeszają się w formie izb gospodarczych, które również zostały tam wskazane. Praw podmiotów uprawnionych z tytułu praw autorskich i pokrewnych nie reprezentują też organizacje, których statutowa działalność jest działalnością na rzecz rozwoju sztucznej inteligencji. 167 Z tych względów postulujemy poszerzenie katalogu podmiotów, które mogą zgłaszać kandydatów na szłonków Rady o stowarzysenia i fundacje, które realizują cele ustawowe poprzez działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem ze sztucznej inteligencji, np. organizacje zbiorowego zarządzania prawami autorskimi lub prawami pokrewnymi. Bez takiej zmiany podmioty praw autorskich i praw pokrewnyhc nie będą miały szansy na swoje przedstawicielstwo w Radzie. Art. 28 ust. 3 Polska Izba Ubezpieczeń Proponuje się w art. 28 ust. 3 projektu ustawy zmianę w pkt 4) na „izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych, a także usług finansowych, w szczególności bankowych i ubezpieczeniowych” Art. 28 ust. 3 Fundacja Sztuka Media Film Postulujemy poszerzenie zakresu podmiotów, które będą mogły zgłaszać kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji o: organizacje zbiorowego zarządzania oraz fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz mediów lub kultury, w szczególności kultury cyfrowej. Powyższy postulat związany jest z koniecznością zapewnienia reprezentacji twórców i przedstawicieli mediów w Społecznej Radzie do spraw Sztucznej Inteligencji, co wynika z rosnącego wykorzystania sztucznej inteligencji w mediach oraz szeroko pojętej kulturze. W naszej ocenie, niepewności związane z etycznym wykorzystaniem sztucznej inteligencji w mediach oraz konieczność zapewnienia ochrony interesów twórców utworów wykorzystywanych przez sztuczną inteligencję uzasadnia poszerzenie katalogu podmiotów wskazanych w art. 28 ust. 3 projektu ustawy o systemach sztucznej inteligencji o wskazane powyżej dwie grupy Art. 28 ust. 3 Osoba fizyczna jk Na liście podmiotów, które mogą zgłosić kandydatów do Społecznej Rady, wymieniono fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Dlaczego nie ma przedstawicieli osób poszkodowanych / skrzywdzonych przez sztuczną inteligencję? Chyba, że ich przedstawicielem będzie Rzecznik Praw Obywatelskich. Oby. Art. 28 ust.3 pkt 1-3 ISSA Polska Postuluję skreślenie RPO, RPD oraz współprzewodniczącego ze strony samorządowej Komisji Wspólnej Rządu i Samorządu jako przedstawicieli sektora publicznego. W przypadku RPO i RPD są to organy mające swoich przedstawicieli w składzie Komisji. Rada Społeczna powinna być przedstawicielem środowisk społecznych, NGOs, uczelni, samorządów zawodowych, a nie sektora publicznego. Proponuję, żeby w miejsce powyższych umożliwić wskazanie kandydatów 168 do Rady Społecznej przez Naczelną Radę Adwokacką, Krajową Izbę Radców Prawnych, Polską Izbę Rzeczników Patentowych. Art. 28 ust. 3 pkt 2 i 3 Istotna, o ile nie zostanie uwzględniona uwaga dot. art. 7 ust. 1-2 Osoba fizyczna Przedstawiciele RPO oraz RPD (po uwzględnieniu ww. uwagi) obligatoryjnie wchodzą w skład Komisji ds. SI. Niepotrzebne jest przyznanie miejsc tym organom w Społecznej Radzie do spraw SI. Dubluje to kompetencje i wprowadza chaos organizacyjny. Ponadto może być uznana za uprzywilejowanie tych organów w zakresie SI. Art. 28 ust. 3 pkt. 4 Fundacja Open Allies Propozycja zapisu: 4) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych oraz fundacje, których celem statutowym jest działalność dotycząca sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 4 Związek Banków Polskich 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Art. 28 ust. 3 pkt 7 GRAI Projekt zakłada, że kandydatów na członków Społecznej Rady ds. Sztucznej Inteligencji mogą wskazać m.in. fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji. Zasadne jest jednak rozszerzenie tego katalogu w zakresie fundacji i stowarzyszeń o te działające również na polu cyberbezpieczeństwa. 169 Pkt 7 powinien otrzymać następujące brzmienie: “7) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji lub cyberbezpieczeństwa”. Art. 28 ust. 3 pkt 7 Fundacja Open Allies Propozycja modyfikacji zapisu: Fundacje i stowarzyszenia wpisane do Krajowgo Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, gospodarki elektronicznej, komunikacji mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych. Art. 28 ust. 3 pkt 7 ISSA Polska Postuluję rozszerzenie zakresu fundacji i stowarzyszeń o te działające na polu bezpieczeństwa Sztucznej Inteligencji i cyberbezpieczeństwa. Proponuję przyjąć pkt 7 o następującej treści: “fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju lub bezpieczeństwa sztucznej inteligencji lub cyberbezpieczeństwa”. Artykuł 28 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów Al oraz modelami Al. Nadzór ten musi bowiem dotyczyć również kontroli nad przestrzeganiem przez branżę Al. unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji, czy działające na rzecz jej rozwoju, a nie zapewnia jednocześnie poszanowania interesów sektorów kreatywnych czy użytkowników systemów Al. Dlatego też wnioskujemy o uzupełnienie składu Rady i właściwe zbalansowanie interesów wszystkich zainteresowanych stron. Art. 28 ust. 3 pkt 7 Fundacja Panoptykon Społeczna Rada do spraw Sztucznej Inteligencji Z aprobatą odnotowujemy propozycję ustanowienia Społecznej Rady do Spraw Sztucznej Inteligencji. Uważamy takie rozwiązanie za kluczowe do pogłębienia dialogu i współpracy pomiędzy Komisją a organizacjami społeczeństwa obywatelskiego. Chcielibyśmy jednak wskazać kilka kwestii wymagających, w naszej opinii, poprawy w kolejnej wersji projektu, aby Rada mogła jak najpełniej i najbardziej obiektywnie realizować swoje zadania. Sformułowanie misji organizacji społecznych 170 Zgodnie z obecnym brzmieniem art. 28 ust. 3 pkt 7 projektu ustawy, członkowie Rady mogą być zgłoszeni przez fundacje i stowarzyszenia wpisane do KRS, których celem statutowym jest „działalność na rzecz rozwoju sztucznej inteligencji”. Takie sformułowanie w nieuzasadniony sposób wyklucza podmioty działające na rzecz ochrony praw człowieka w kontekście wykorzystywania sztucznej inteligencji, a niekoniecznie jej rozwoju. Może to doprowadzić do sytuacji, w której prawo zgłoszenia kandydatów będą miały wyłącznie zarejestrowane jako fundacje organizacje branżowe lub think tanki promujące rozwój sztucznej inteligencji. Uważamy, że umożliwienie zgłaszania kandydatów szerszemu gronu organizacji społecznych jest kluczowe dla zapewnienia pluralizmu głosów w Radzie oraz reprezentacji eksperckiej wiedzy z zakresu praw człowieka. Taka perspektywa będzie niezbędna do rzetelnego doradzania Komisji, szczególnie w kontekście oceny skutków dla praw człowieka, o której mowa w art. 27 rozporządzenia w sprawie sztucznej inteligencji, oraz ochrony praw osób poddanych działaniu AI. Proponujemy więc rozszerzenie możliwych celów statutowych organizacji uprawnionych do zgłaszania kandydatów, poprzez dodanie działalności „na rzecz praw człowieka” do pkt. 7. Tak szeroko sformułowane regulacje dotyczące celów statutowych organizacji zgłaszających zwiększą szansę na większą wszechstronność członków Rady. Art. 28 ust. 3 pkt 8 Dodanie przepisu ZAIKS W art. 28 ust. 3 po punkcie 7) dodaje się średnik oraz punkt 8) o następującym brzmieniu: „8) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.\" art. 28 ust. 7 GRAI Wygaśnięcie członkostwa członka Rady, chociażby z uwagi na fakt, że Rada składa się z 9 do 15 członków, nie powinno skutkować automatycznym powołaniem kogoś na jego miejsce. Wydaje się to zbędne, zwłaszcza w sytuacji, gdy kadencja Rady wkrótce wygasa. Słowo „powołuję” zastępuje się słowami „może powołać. Art. 28 ust. 4 pkt 1 Instrat – Fundacja Centrum Cyfrowe Kompetencje Społecznej Rady W art. 28 ust. 4 pkt 1 wskazano, że członkiem Rady może być osoba, która posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka. W katalogu wyszczególnionych specjalizacji zabrakło etyki (ewentualnie filozofii) nowych technologii, w tym SI, szczególnie istotnej w kontekście zadań stojących przed Radą. Proponujemy uzupełnienie ww. katalogu o etykę nowych technologii. Art. 28 ust. 4 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 4 projektu ustawy zmianę w pkt 4) na „wyraziła zgodę na kandydowanie opatrzoną kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 28 ust. 4 Fundacja Panoptykon Kryteria wyboru członków Rady Członkowie Rady będą powoływani przez Komisję spośród osób zgłoszonych przez uprawnione podmioty. Jednak o ile projekt ustawy wprowadza w art. 28 ust. 4 wymogi dla kandydatów i 171 kandydatek, to już nie precyzuje kryteriów, jakimi Komisja powinna kierować się w sytuacji, gdy liczba kandydatów spełniających te wymagania przekroczy maksymalną liczbę członków Rady. Z perspektywy interesu publicznego i zapewnienia pluralizmu perspektyw w Radzie, kluczowe jest, by proces wyboru w takiej sytuacji opierał się na jasno określonych i przejrzystych zasadach. Sugerujemy więc wprowadzenie w projekcie ustawy postanowienia, zgodnie z którym w takiej sytuacji Komisja powinna zapewnić reprezentatywność Rady i – w miarę możliwości – dążyć do utrzymania proporcjonalnej liczby członków zgłoszonych przez poszczególne uprawnione podmioty. Art. 28 ust. 4 pkt 1 KIG Przy tak szerokich zastosowaniach AI, kryteria kompetencyjne Członka Rady powinny dopuszczać szerszą grupę kandydatów, włącznie z humanistami Art. 28 ust. 6 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Proponuje się w art. 28 ust. 6 projektu ustawy zmianę w pkt 1) na „rezygnacji złożonej przewodniczącemu Rady opatrzonej kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym”. Art. 29 ust. 1 zd. 1 Związek Banków Polskich Rada Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Art. 29 ust. 1 zd. 2 Związek Banków Polskich Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady. [Usunięcie wskazanego zdania jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1] Art. 29 ust. 3 CHAMBER do czynności tak trywialnej jak zaproszenie osoby na posiedzenie Rady nie jest chyba konieczne kolegialne działanie całej Komisji. Wydaje się bardziej racjonalne przekazanie tej kompetencji Przewodniczącemu Komisji. W art. 29 ust. 4 CHAMBER obowiązek zachowania w tajemnicy _wszystkich_ informacji, do których członek Rady uzyskał dostęp wydaje się zbyt szeroki i powinien obejmować jedynie informacje objęte tajemnicą służbową, przedsiębiorstwa lub prawnie chronioną. art. 29 ust. 5 GRAI Zakazy dotyczące członka Rady są bardzo niedookreślone i trudne do wyegzekwowania. Jeżeli mowa o zakazach to ich zakres powinien być możliwy do zweryfikowania. W tej chwili jest to bardzo ocenne i rodzi ryzyko, że Komisja będzie korzystać z tego uprawnienia wg swojego uznania. Propozycja doprecyzowania określeń co oznacza „działalność publiczna niedająca się pogodzić z działalnością w Radzie” oraz czym są działania skutkujące „konfliktem interesów” 172 Pojawia się wątpliwość czy brak wynagrodzenia za działalność w pracach Rady jest dobrym pomysłem. Taki dodatkowy obowiązek powinien podlegać choćby częściowemu wynagrodzeniu, aby członkowie Rady, często pochodzący z sektora prywatnego, nie musieli samodzielnie ponosić tych kosztów. To jedynie zniechęciłoby kompetentne osoby, gdyby musiały w wolnym czasie wykonywać dodatkowe obowiązki, bez wynagrodzenia. Propozycja uwzględnienia chociaż częściowego wynagrodzenia dla członków Rady, aby zachęcić odpowiednie osoby do poświęcenia swojego wolnego czasu na zaangażowanie w pracach Rady. art. 29 ust. 5 pkt. 2 CHAMBER projekt de facto zakazuje podejmowania wszelkiej działalności związanej z tworzeniem czy korzystaniem z systemów sztucznej inteligencji. Norma ta jest sformułowana zdecydowanie zbyt szeroko i może wykluczyć z udziału w Radzie wszystkich zawodowo czy naukowo związanych z tworzeniem i komercjalizowaniem systemów SI. Byłoby to zaprzeczenie samego celu istnienia Rady. Proponujemy usunięcie tego przepisu i zastąpieniem go bardziej precyzyjną normą wzorowaną na instytucji wyłączenia pracownika w KPA. Członek Rady powinien powstrzymać się od zajmowania stanowiska jedynie w ściśle określonych sytuacjach, gdzie jego bezpośredni interes jest przedmiotem de facto wyłącznie opiniodawczej działalności Rady (niebezpieczeństwo negatywnych skutków dla np. konkurentów jest tu raczej teoretyczne). Art. 29 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Wskazujemy na potencjalnie istniejące ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 6 KIGEiT Propozycja zapisu: Za udział w pracach Komisji przysługuje wynagrodzenie i zwrot kosztów przejazdów i noclegu. , Uzasadnienie: Udział ekspertów zewnętrznych będzie wymagał od nich poświęcenia, czasu pracy i uniemożliwi im wykonywanie dotychczasowych obowiązków służbowych. Nieodpłatne świadczenie usług eksperckich znacząco ograniczy ilość osób, które zdecydują się na udział w pracach komisji. Art. 29 ust. 6 e-Izba Rekomendujemy rozważenie zmiany projektowanego brzmienia przepisu. Wprowadzenie wynagrodzenia i zwrotu kosztów może być rozwiązaniem, które zachęci wykwalifikowanych ekspertów do pełnienia funkcji w Radzie. Art. 29 ust. 6 Polskie Towarzystwo Informatyczne Brak wynagradzania członków Rady powoduje, że może to być organ niesprawny. Rekomenduje się wprowadzenie wynagrodzenia dla członków za udział w posiedzeniach. Prosimy o rozważenie wprowadzenia zasad wynagrodzenia członków Rady. Art. 29 ust. 6 Związek Banków Polskich Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Dodana brakująca litera „w”. 173 Art. 29 ust. 6 Fundacja Panoptykon Koszty udziału w pracach Rady Proponowane przepisy nie przewidują diet/wynagrodzeń ani zwrotu kosztów podróży dla członków Rady (art. 29 ust. 6). Tymczasem, aktywny udział w jej pracach może okazać się bardzo czasochłonny, zwłaszcza biorąc pod uwagę, że Rada będzie zobowiązana do wyrażenia opinii w zakresie i terminie określonym przez Komisję. Członkowie Rady będą więc musieli liczyć się z koniecznością przeznaczenia na prace w Radzie znacznych nakładów czasowych, oraz z tym, że tempo pracy, uzależnione od bieżących potrzeb Komisji, może być trudne do przewidzenia. Konieczność przeznaczenia własnych środków na dojazdy i czas poświęcony na udział w pracach Rady stawia w uprzywilejowanej pozycji przedstawicieli izb gospodarczych i organizacji branżowych, którzy zazwyczaj dysponują większymi zasobami niż np. organizacje społeczne. Dodatkowo, mogą oni być bardziej skłonni do angażowania zasobów na prace w Radzie, ponieważ udział w formułowaniu jej opinii może wspierać interesy biznesowe ich członków. Brak diet oraz zwrotu kosztów z dużym prawdopodobieństwem utrudni natomiast aktywny udział przedstawicieli organizacji społecznych, które z reguły dysponują znacznie mniejszymi środkami i bardziej organiczonymi zasobami personalnymi i czasowymi. Dodatkowo, zapewnienie zwrotu kosztów przejazdu i diet/wynagrodzeń to standardowa praktyka w przypadku innych podobnych ciał doradczych, np. diety i zwrot kosztów przewidują zasady funkcjonowania Rady ds. Ochrony Danych i Rady ds. Cyfryzacji. Proponujemy więc, aby do projektowanej ustawy wprowadzić analogiczne zasady dotyczące wynagrodzeń/diet oraz zwrotu kosztów podróży dla członków Społecznej Rady ds. Sztucznej Inteligencji. Art. 28 ust. 6 Fundacja FinTech Poland Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Art. 29 ust. 5 Fundacja Panoptykon Konflikt interesów członków Rady Doceniamy wprowadzenie zasad związanych z konfliktem interesów w przypadku członków Rady, zawartych w art. 29 ust. 5 projektu ustawy. Uważamy jednak, że konieczne jest doprecyzowanie, jakie sytuacje mogą prowadzić do konfliktu interesów oraz jakie byłyby ich konsekwencje. Konflikt interesów może wystąpić np. w sytuacji, gdy członek Rady jest powiązany z firmą lub instytucją będącą przedmiotem postępowania, w ramach którego Komisja zwraca się do Rady o opinię. Może to mieć miejsce w przypadku zatrudnienia członka Rady przez kontrolowany podmiot lub gdy kontrolowany podmiot jest członkiem organizacji branżowej/ izby gospodarczej, którą członek Rady reprezentuje. Nie postulujemy całkowitego wykluczenia osób związanych z nadzorowanymi podmiotami z prac Rady. Uważamy jednak, że w sytuacjach, gdy opinia Rady dotyczy bezpośrednio podmiotu, z którym związany jest członek Rady, lub technologii, którą ten podmiot 174 rozwija, członek Rady powinien wyłączyć się z dyskusji oraz wstrzymać się od głosowania w tej sprawie. Art. 30 Fundacja Sztuka Media Film Zwracamy uwagę, że zaproponowane brzmienie art. 30 projektu ustawy o systemach sztucznej inteligencji sprawia, że istnieje możliwość istotnego ograniczenia faktycznej roli Społecznej Rady do spraw Sztucznej Inteligencji, z uwagi na brak jasnego zobowiązania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji do przekazywania Radzie projektów lub innych dokumentów celem ich zaopiniowania. Poddajemy pod rozwagę doprecyzowanie zakresu kompetencji Społecznej Rady do spraw Sztucznej Inteligencji i wprowadzenie regulacji wskazującej na konieczność uzyskania przez Komisję jej opinii, a nie tylko na możliwość podjęcia takich działań. Postulujemy wprowadzenie katalogu zamkniętego spraw wymagających uzyskania opinii Społecznej Rady do spraw Sztucznej Inteligencji, w ramach którego znalazłyby się projekty lub dokumenty związanie z wykorzystaniem sztucznej inteligencji w sektorze kultury lub mediów, w szczególności w kontekście praw twórców. Z uwagi na profil działalności naszej fundacji – zwracamy uwagę na potrzebę dialogu z przedstawicielami środowisk artystycznych i twórczych w tym branży filmowej oraz mediów. Niniejszy postulat pozostaje w związku z postulatem poszerzenia składu Społecznej Rady do spraw Sztucznej Inteligencji wskazanym w pkt. I powyżej. Art. 30 ust. 1 e-Izba Aktualne brzmienie tego przepisu sprawia, że nie można wykluczyć sytuacji, w której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie przekazywać Społecznej Radzie do spraw Sztucznej Inteligencji projektów lub innych dokumentów do zaopiniowania lub wyrażenia stanowiska, a w konsekwencji działalność Społecznej Rady do spraw Sztucznej Inteligencji będzie znikoma. Istotnym jest, aby Społeczna Rada do spraw Sztucznej Inteligencji miała możliwość wypowiadania się na bieżące tematy związane ze sztuczną inteligencją, stanowiące przedmiot działalności Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W związku z powyższym proponujemy wprowadzenie zamkniętego katalogu spraw, które Społeczna Rada do spraw Sztucznej Inteligencji będzie zobligowania zaopiniować. W szczególności proponujemy, aby w tym katalogu znalazły się kwestie dotyczące: obowiązków przedsiębiorców związanych z wykorzystaniem sztucznej inteligencji, inicjatyw legislacyjnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz dotyczących działań mających na celu wspieranie oraz monitorowanie rozwoju innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji prowadzonych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 30 ust. 1 Związek Banków Polskich Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez pełny skład Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych 175 sytuacjach, gdy zostaną one przyjęte jednomyślnie przez pełny skład Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Art. 30 ust. 3 Fundacja Panoptykon Zadania Rady Art. 30 ust. 3 projektu ustawy stanowi obecnie, że w zakresie innym niż ten przekazany do opinii przez Komisję, Rada może wyrazić opinię lub stanowisko z własnej inicjatywy. Stanowczo popieramy to rozwiązanie, ponieważ pozwoli to Radzie zwrócić uwagę Komisji na istotne kwestie, które ta mogła przeoczyć. Nie mamy jednak pewności, jak interpretować fragment ust. 3, który mówi, że Rada może wydawać opinie w zakresie „dotyczącym spraw określonych w art. 1 ust. 1 ustawy”. Zwracamy uwagę, że to odwołanie wydaje się błędne, ponieważ art. 1 zawiera punkty, a nie ustępy. Jeśli jest to błąd redakcyjny i intencją projektodawcy było odwołanie do art. 1 pkt 1, uważamy, że zakres ten jest zbyt wąski. Obejmowałby on bowiem wyłącznie opinie w sprawie „organizacji i sposobu sprawowania nadzoru nad rynkiem”, podczas gdy opinie Rady mogą być równie wartościowe w przypadku innych kwestii, takich jak postępowania w sprawie naruszeń przepisów rozporządzenia w sprawie sztucznej intelignecji (art. 1 pkt 2), szczególnie w przypadkach mających znaczenie dla ochrony praw obywatelskich lub konsumenckich, a także w odniesieniu do działań wspierających rozwój systemów sztucznej inteligencji (art. 1 pkt 6). Aby Rada mogła w pełni zrealizować swoją rolę doradczą i sygnalizacyjną, postulujemy rozszerzenie jej kompetencji o możliwość wydawania opinii z własnej inicjatywy we wszystkich sprawach regulowanych ustawą, a także o dodanie zadań związanych z wyrażaniem opinii na temat zmian prawa w obszarze sztucznej inteligencji, analogicznie do kompetencji Rady ds. Ochrony Danych. Art. 32 ust. 2 KIG Sugerujemy, by Przewodniczący Komisji mógł nie tylko nadawać regulamin, ale też go zmieniać. Sugerujemy, by dopisać, iż regulamin może zawierać sformułowania doprecyzowujące zapisy Ustawy, wszelkie inne zapisy organizacyjne, które nie stoją w sprzeczności z aktami nadrzędnymi oraz takie, których akty nadrzędne nie zabraniają Art. 32 ust. 4 CHAMBER określa charakter prawny powołania Dyrektora Biura Komisji. Brakuje jednak analogicznych przepisów dotyczących Przewodniczącego Komisji i jego Zastępców. Wpisuje się to w problematyka nieco niejasnego uregulowania statusu Komisji jako “państwowej osoby prawnej”, a nie organu administracji. Sugerujemy dopracowanie tych przepisów właśnie w kierunku jasnego określenia statusu Komisji i Przewodniczącego. 176 Art. 33 ust. 1 CHAMBER jest zupełnie niepotrzebny - kto jest pracownikiem określają przepisy właśnie Kodeksu pracy i będzie on stosowany do tych osób bez względu na to, czy dana ustawa zawiera takie stwierdzenie. Jedynie uregulowanie przeciwne (o ile w ogóle dopuszczalne), wyłączające stosowanie przepisów KP do danej kategorii osób, byłoby celowe. Art. 34. Ust.2 Logicise zróżnicowane przychody biura Wydaje się, że obecny zapis, który m.in. umożliwia wpływy darowizn czy innych przychodów na rzecz Biura Komisji, jest niewystarczająco restrykcyjny i pozwala na uzyskiwanie przychodów niezwiązanych z działalnością statutową Komisji i Biura Komisji. Ponadto, otwiera możliwości dla sytuacji noszących znamiona działalności lobbingowej i/lub korupcyjnej. art. 34 pt.2 ppkt.5 Związek Zawodowy Scenarzystów Polskich GILDIA SCENARZYSTÓW Jednocześnie nasze wątpliwości budzi art. 34 pt.2 ppkt.5 mówiący o tym, iż źródłem finansowania Biura Komisji mogą być darowizny i zapisy. Biuro Komisji organizuje pracę komisji, która w ten sposób jest od niego uzależniona. Bez zawężającego określenia kto może być donatorem, darowizny na rzecz państwowej komisji ze strony prywatnych podmiotów — być może bezpośrednio zainteresowanych odpowiednimi decyzjami lub stworzeniem konkretnych przepisów, mogą budzić wątpliwości co do intencji donatora. W skrajnych przypadkach może być podważana rzetelność wydanych przez Komisję decyzji i opracowanych przepisów — jeśli będą one dotyczyć bezpośrednio lub pośrednio donatora. Zdaniem Gildii Scenarzystów należy albo doprecyzować zapis ograniczając donatorów tylko do jednostek i agencji rządowych lub też usunąć wzmiankowany podpunkt jako potencjalnie korupcjogenny. Art. 36 ust. 1 Logicise audyt sprawozdań finansowych Oprócz firmy audytorskiej, istotne jest, aby działalność Biura Komisji podlegała kontroli Najwyższej Izby Kontroli (NIK). Art. 36 ust. 2 GRAI I. Wybór firmy audytorskiej powinien odbyć się w trybie zamówień publicznych, w przetargu publicznym niezależnie od wartości zamówienia. II. Wątpliwości dotyczą faktu, że wybór „firmy audytorskiej” jest dokonywany przez Prezesa Rady Ministrów bez żadnych dodatkowych wytycznych, co oznacza, że wybór zależy tylko i wyłącznie od niczym nie ograniczonej woli Premiera. Budzi to wątpliwości o dokonanie właściwego wyboru. NIK powinien zajmować się weryfikacją sprawozdań finansowych Komisji. Alternatywnie powinno się umożliwić dokonanie wyboru audytora w oparciu o obiektywne kryteria, możliwe do zweryfikowania, aby zapewnić obiektywizm oraz bezstronność. 177 Propozycja przyjęcia treści ust. 2 (wskazanie kierunku zmian): „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej po przeprowadzeniu przetargu publicznego, niezależnie od wartości zamówienia.”. Art. 36 ust. 2 ISSA Polska Proponuję zamienić na: Szefa Kancelarii Prezesa Rady Ministrów z upoważnienia Prezesa Rady Ministrów dokonuje wyboru firmy audytorskiej. art. 38 ust. 1 GRAI Uwaga legislacyjna - Odesłanie do nieistniejących przepisów projektowanej ustawy, tj. do art. 11 ust. 8 i 10 (art. 11 kończy się na ust. 3). Art. 38 ust. 1 Osoba fizyczna jk W art. 11 nie ma ust. 8 i 10. Chyba zamysłem był zapis \"art. 11 ust. 1 pkt 3, 8 i 10 ustawy\". art. 39 CHAMBER Przepisy art. 39 o wydawanej pracownikom Biura Komisji legitymacji służbowych zostały w dużej mierze przeniesione z ustawy o nadzorze nad rynkiem finansowym. Dokonane w nich miejscami zmiany budzą jednak wątpliwości, gdyż nie są konsekwentne. Sama idea wydania legitymacji w “postaci elektronicznej” zasługuje na poparcie, ale w żaden sposób nie jest sprecyzowane, na czym dokładnie ta “postać elektroniczna” polega, a wydaje się to kwestią istotną. Ma to bezpośrednie zastosowanie do sytuacji przewidzianej w ust. 4, czyli do wymiany takiego dokumentu - w jaki sposób zachodzi “wymiana” dokumentu w postaci elektronicznej? W jaki sposób pracownik przedstawia taki dokument przy rozpoczęciu kontroli? Warto rozważyć dopracowanie tych przepisów lub umieszczenie w ust. 6 odpowiedniej delegacji ustawowej do wydania przepisów wykonawczych w tym zakresie. Wskazane wydaje się też dodanie wymogu umieszczenia zdjęcia pracownika na w legitymacji. art. 39 ust 1 oraz 5 GRAI Propozycja przyjęcia ,,fizycznej formy” legitymacji, a jeśli zostawiamy postać elektroniczną, należy zastanowić się nad zmianą ust. 5. (Fizyczna legitymacja ułatwia rozpoczęcie kontroli). artykuł 39 ust. 4 pkt 1) PIIT 1) aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObywatel czy w innej postaci? artykuł 39 ust. 4 pkt 1) KIGEiT Propozycja zapisu: 1) wymianie - aktualizacji Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Poza tym pytanie jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? 178 art. 40 ust. CHAMBER Nie jest jasne, a jakie “wymogi” chodzi projektodawcom w przepisie art. 40 ust. 1. Odesłanie do art. 70 Rozporządzenia 2024/1689 jest wysoce nieprecyzyjne. Można się jedynie domyślać, że chodzi o “wymogi dotyczące kompetencji i zasobów” o którym mowa w art. 70 ust. 3 Rozporządzenia. Jeżeli tak jest w istocie, to należy odpowiednio zmienić brzmienie przepisu ust. 1 oraz ust. 2, który odnosi się do “stanu zasobów o którym mowa w ust. 1”, mimo że w ust. 1 mowa jest jedynie o “wymogach”. Od strony merytorycznej wydaje się nie do końca fortunne, że Przewodniczący Komisji będzie określał wymogi w zakresie kompetencji i zasobów (w tym ludzkich) dla własnej instytucji, a następnie oceniał ich stan i raportował o nich do Komisji Europejskiej (ust. 3). W praktyce Rozdział 3 projektu ustawy, dotyczący kontroli, może okazać się najistotniejszy i sprawić podmiotom rozwijającym lub korzystającym z SI w Polsce najwięcej problemów. Bardzo słusznym rozwiązaniem jest tu oparcie się o przepisy ustawy Prawo przedsiębiorców (art. 42 projektu). Należy jedynie wyrazić żal, że nie uczyniono tego w pełni konsekwentnie. Przykładowo zamiast regulacji art. 43 ust. 5 kontrola powinna być rozpoczęta zgodnie z przepisem art. 49 ust. 1 ustawy Prawo przedsiębiorców. Podobnie nie jest jasne, dlaczego wprowadzono w art. 43 ust. 6 projektu ustawy odrębną regulację upoważnienia do przeprowadzenia kontroli, które różni się jedynie jednym szczegółem od regulacji zawartej już w art. 49 ust. 7 ustaw Prawo przedsiębiorców. Postulujemy ponowny przegląd projektowanych przepisów i odstąpienie od regulacji które zasadniczo powielają już istniejące przepisy, powodując niepotrzebne niejasności i rozwlekłość projektowanych przepisów. art. 40 ust. 3 GRAI Uwaga redakcyjna - brak przecinka zamykającego zdanie podrzędnie złożone. Dodaje się przecinek po słowach „rozporządzenia 2024/1689”. Rozdział 3 Open AI Devs Community Procedury kontrolne. Wnioskujemy o doprecyzowanie w rozdziale 3 ustawy: • Szczegółowych procedur ochrony własności intelektualnej podczas kontroli; • Terminów na przygotowanie się do kontroli; • Możliwości asysty eksperta technicznego wybranego przez kontrolowanego. Rozdział 3 KIGEiT Rekomendacja: Dodanie zapisów o elastycznych zasadach testowania: W Rozdziale 3 (Kontrola przestrzegania przepisów), należałoby dodać, że: \"Podmioty korzystające z piaskownicy regulacyjnej mogą testować nowe technologie AI w warunkach nieobjętych pełnymi wymogami regulacyjnymi przez okres do 24 miesięcy. Piaskownice mogą obejmować zarówno produkty na etapie koncepcji, jak i projekty we wczesnej fazie wprowadzania na rynek, przy czym testy będą podlegać jedynie uproszczonym procedurom nadzoru. Uczestnicy piaskownic nie podlegają karom za naruszenie przepisów, jeśli działania mieszczą się w ramach ustalonych przez Komisję w programie testowym.\" , Rozdział 1, Art. 3, pkt 15, ustawa odnosi się do \"piaskownicy regulacyjnej\" jako przestrzeni do eksperymentowania z nowymi technologiami AI. Należy wzmocnić ten zapis, podkreślając jego znaczenie w stymulowaniu innowacji. Wskazana w 179 rekomendacji elastyczność zachęcałaby firmy do testowania innowacyjnych technologii, co mogłoby napędzać postęp w obszarze AI, bez obawy o nadmierne regulacje. Rozdział 3 Związek Banków Polskich Kontrola dot. AI, co do zasady, powinna odbywać się z dużym wyprzedzeniem (notyfikacją) – z uwagi na poziom skomplikowania materii. Przepisy projektu nie powinny odsyłać do przepisów Prawa przedsiębiorców w zakresie kontroli dot. AI. Przepisy projektu powinny szczegółowo regulować zasady kontroli AI. Szczegółowe uregulowanie zasad kontroli AI powinno obejmować również rozwiązania w postaci wyjaśnień pokontrolnych i możliwości adresowania wyników kontroli przeprowadzonej przez Komisję. Rozdział 3 GRAI Sugeruje dodanie rozdziału na temat zasad nadzoru rynku – tj. możliwe rozstrzygnięcia ich forma, droga odwoławcza. Wprowadzenie katalogu możliwych rozstrzygnięć i jasnej drogi odwoławczej sprzyja przewidywalności Rozdział 3 PSSI Wpływ wymogów kontrolnych na MSP rozwijające Sztuczną Inteligencję Obecna wersja Ustawy daje rozległe uprawnienia kontrolne, bez względu na wielkość kontrolowanego podmiotu. Niektóre z zapisów ustawy, może narazić, szczególnie mniejsze przedsiębiorstwa na znaczące koszty. Przykładem zapisów, o potencjalnie bardzo istotnych konsekwencjach dla małych podmiotów są: Art. 47 pkt 2 Od zaleceń pokontrolnych nie przysługują środki odwoławcze. lub Art 52 pkt 3 Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. W przypadku mniejszych przedsiębiorstw, jakimi często są firmy rozwijające innowacyjne rozwiązania, takie wymogi mogą doprowadzić do utraty płynności lub innych niepożądanych konsekwencji. Rekomendujemy traktowanie ograniczające koszty kontroli, które ponosić mogą mniejsze przedsiębiorstwa. Rozdział 3 GRAI Sugeruje rozważenie wprowadzenia możliwości wydawania interpretacji indywidualnych przez Komisję w sytuacjach niejednoznacznych. Interpretacja wydawana byłaby na wniosek po spełnieniu określonych przesłanek Rozdział 3 lub 4 Związek Banków Polskich [Propozycja dodania przepisu w Rozdziale 3 lub 4] 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. 180 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają przesłanek do objęcia ich tajemnicą przedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. Zastrzeganie informacji i dokumentów powinno być możliwe nie tylko w zakresie kontroli, ale również w zakresie komunikacji z Komisją. Rozdział 3 Związek Cyfrowa Polska Zbyt szerokie uprawnienia kontrolne, które mogą stwarzać ryzyko operacyjne i związane z prowadzeniem innowacyjnej działalności przez firmy. Dodatkowo, Projekt nie gwarantuje w pełnym zakresie niezbędnych środków zaskarżenia rozstrzygnięć wydawanych przez organ kontrolujący. Art. 41 PWPW Ust. 1. Komisja może przeprowadzać kontrolę działalności podmiotów Przepisy ust. 1 i ust. 2 powinny wyraźnie wskazywać, że zakres kontroli może dotyczyć wyłącznie systemów AI. Natomiast obecna propozycja regulacji wskazuje, że kontrola 4 obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. Ust. 2. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia 2024/1689 i ustawy. może dotyczyć całości działalności organizacji („kontrola działalności podmiotów”). W związku z tym zakres przepisu jest zbyt szeroki. Art. 41 KIGEic Propozycja zapisu: Dodanie ust. 4 \"Z wyłączeniem kontroli przestrzegania przepisów o sztucznej inteligencji w prywatnych, zamkniętych systemach podmiotów, do których dostęp mają tylko te podmioty i obieg wprowadzanych dane do systemów sztucznej inteligencji jest zamknięty, a wyniki stworzone w tych systemach przez sztuczną inteligencję nie są nigdzie upubliczniane\". , Jeżeli dany podmiot w ramach swojej działalności ma zamknięty system (box) gdzie zbierane i analizowane są dane wejściowe do systemów AI, następnie AI pracuje wyłącznie na tych danych w zamkniętym systemie i dane wyjściowe nie są upubliczniane - to wówczas nie istnieje żadne ryzyko związane z regulacjami dot. systemów sztucznej inteligencji. 181 Art. 41 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie kategorii podmiotów poprzez np. odesłanie do treści Rozporządzenia 2024/1689. Art. 41 ust. 1 Fundacja FinTech Poland Zwracamy się z prośbą o doprecyzowanie zakresu podmiotów. Proponujemy odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f. Wątpliwości rynku budzą intencję projektodawcy, czy ustawa ma na celu poszerzenie zakresu podmiotów podlegających kontroli. Art. 41 ust. 1 i 2. PIIT Komisja może przeprowadzać kontrolę działalności podmiotów, o których mowa w art. 2 ust. 1, lit. a) - f) rozporządzenia 2024/1689. Celem kontroli jest ustalenie zgodności działalności podmiotów, o których mowa w ust. 1 z przepisami rozporządzenia i ustawy w odniesieniu do systemów zakazanych oraz systemów wysokiego ryzyka lub innych systemów, co do których istnieje uzasadnione przypuszczenie, iż mogą być systemem wysokiego ryzyka mimo odmiennej ich kwalifikacji. Art. 41 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż określenie „ustalenie zgodności działalności podmiotów” ma bardzo szeroki charakter. Postulujemy zawężenie wyżej wskazanego określenia lub wylistowanie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Art. 41 ust. 2 Fundacja FinTech Poland Określenie celu kontroli jako „ustalenie zgodności działalności podmiotów z przepisami rozporządzenia 2024/1689 i ustawy” jest bardzo szerokie i może prowadzić do niejasności co do zakresu kontroli oraz potencjalnie różnych interpretacji. W celu zwiększenia precyzji i efektywności działań kontrolnych, warto rozważyć zawężenie tego przepisu poprzez wylistowanie konkretnych aspektów, które będą przedmiotem kontroli. Na przykład, można wskazać, że kontrola obejmuje sprawdzenie braku modeli zabronionych, odpowiednią klasyfikację ryzyk, spełnianie wymogów transparentności, stosowanie środków zabezpieczających oraz zgodność z zasadami etycznymi i technicznymi dotyczącymi sztucznej inteligencji. Takie sprecyzowanie zakresu kontroli zwiększy przejrzystość postępowania zarówno dla organów kontrolujących, jak i dla kontrolowanych podmiotów, co przyczyni się do lepszego zrozumienia obowiązków oraz zapewni bardziej ukierunkowane i efektywne działania nadzorcze. Art. 41 ust. 3 e-Izba Aktualne brzmienie tego przepisu implikuje ryzyko możliwości wszczęcia kontroli na podstawie jakiejkolwiek informacji, powziętej przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 182 Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Celem zapewnienia bezpieczeństwa prawnego i gospodarczego przedsiębiorców zobowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy istotne jest zwiększenie pewności prawnej przedsiębiorców w zakresie kompetencji kontrolnych Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ważne jest, aby przypadki kontroli przedsiębiorców ograniczyć do sytuacji, w których istnieje rzeczywiste prawdopodobieństwo naruszenia przez przedsiębiorcę przepisów rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji. W związku z powyższym proponujemy zmianę aktualnego brzmienia art. 41 ust. 3 projektu ustawy o systemach sztucznej inteligencji poprzez wskazanie, że podstawą do wszczęcia kontroli, o której mowa w tym przepisie, jest uprawdopodobniona informacja, pozyskana przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 41 ust. 3 Fundacja FinTech Poland Przepis w art. 41 ust. 3 Projektu Ustawy przewidujący, że kontrola może być prowadzona na podstawie uzyskanych przez Komisję informacji, jest niejasny co do źródła, charakteru oraz trybu uzyskiwania tych informacji. Warto doprecyzować, skąd Komisja może pozyskiwać informacje, np. czy pochodzą one od innych organów nadzorczych, instytucji publicznych, organizacji pozarządowych, czy zewnętrznych sygnalistów. Należy również określić, w jakim trybie takie informacje są pozyskiwane – czy w formie oficjalnych raportów, zgłoszeń, czy w wyniku działań monitorujących. Dodatkowo, istotne jest wskazanie, czy uzyskiwane przez Komisję informacje będą ewidencjonowane, a jeśli tak, to w jakiej formie (np. rejestr elektroniczny) i na jakich zasadach będą przechowywane oraz dostępne do wglądu. Takie doprecyzowanie zwiększyłoby przejrzystość procedur kontrolnych, zapewniając jasność zarówno dla podmiotów kontrolowanych, jak i dla samej Komisji, co może przełożyć się na bardziej efektywne i zgodne z prawem prowadzenie działań nadzorczych Art. 41 i 48 ICC Poland Zakres kontroli przestrzegania przepisów o sztucznej inteligencji, o której mowa w rozdziale 3 Projektu, powinien zostać ujednolicony z zakresem postępowania, o którym mowa w rozdziale 4 Projektu. Zgodnie bowiem z art. 41 Projektu Komisja może przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, zaś zgodnie z art. 48 Projektu w przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest ona do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy. Tymczasem to ostatnie postępowanie, zgodnie z Projektem, ogranicza się do postępowania w sprawie naruszenia przepisów jedynie rozporządzenia 2024/1689 (por. art. 1 pkt 2, art. 49 ust. 1 Projektu). Tym samym – według Projektu – przedmiotem kontroli mogą być objęte również naruszenia przepisów ustawy, podczas gdy przedmiotem postępowania w sprawie ich naruszenia już nie, co może mieć istotne znaczenie w razie planowanego uzupełnienia ustawy o systemach sztucznej inteligencji o nowe regulacje. Brak zsynchronizowania przepisów w tym 183 zakresie powoduje również niepewność po stronie podmiotów, do których ustawa ma mieć zastosowanie, co do zakresu potencjalnej kontroli. Art. 41 – 48 Instytut Spraw Obywatelskich Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 41 - 48 Obywatelski Akcelerator Innowacji Art. 41, 42, 43, 47 i 48 projektu ustawy przewidują pewne ogólne kompetencje dla organu nadzoru rynku, jednak nie wskazują wytycznych co do sposobu oceny i monitorowania zgodności systemów wysokiego ryzyka, co może prowadzić nadużyć i niejasności. Art. 42 PWPW Do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236). Poprosimy o potwierdzenie, czy przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236) będą miały zastosowanie także do terminów i ograniczeń czasu prowadzenia kontroli. Art. 42 Polska Izba Ubezpieczeń Proponuje się w art. 42 korektę oznaczenia publikatora ustawy – Prawo przedsiębiorców, analogiczną jak ma to miejsce w art. 12 projektu ustawy Art. 43 Polskie Towarzystwo Informatyczne Być może warto by rozważyć podział artykułu 43 na mniejsze elementy (o ile jest to możliwe z punktu widzenia merytorycznego). Artykuł jest trudny do czytania, co może też wpływać na zrozumienie, a także może zwiększać ryzyko pomyłek. Art. 43 ITCORNER Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem nadmiernie ingerują w swobodę prowadzenia działalności gospodarczej i cechuje je nadmierny poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - szczególnie biorąc pod uwagę obszerność dokumentacji technicznej i projektowej powstającej w toku tworzenia oprogramowania. Proponujemy usunięcie tego uprawnienia, ew. ograniczenie go tylko i wyłącznie do zamkniętego katalogu przypadków. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na identyfikację systemu AI podlegającemu kontroli - jest to krytyczne z punktu widzenia podmiotów z branży programistycznej (software house czy agencje), które jednocześnie uczestniczą nawet w kilkudziesięciu projektach (=kilkudziesięciu odrębnie tworzonych systemach), w których zaangażowani są także klienci końcowi i podwykonawcy. Jeśli kontrola ma być efektywna, a wizerunkowo nie ma odbijać się negatywnie w ocenie klienta końcowego - podmiot kontrolowany powinien mieć możliwość poinformowania klienta końcowego oraz 184 zaplanowaniu dalszych prac z jak najmniejszym, negatywnym wpływem na komercyjny projekt programistyczny. W art. 43 ust. 7 brakuje także informacji o: terminach, które powinny zostać zachowane jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, maksymalnym czasie trwania kontroli - proponujemy, aby kontrole trwały nie dłużej niż 14 dni. W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być bardzo krótki, aby mógł realizować swoją funkcję. Art. 43 PIIT ust. 2 Proponujemy zachować zgodność z KPA i ewentualnie wprowadzić do KPA możliwość wprowadzenia kontroli w formie zdalnej. – vs. art. 74 AI Act Art. 43 ust. 4 pkt. 2: W toku kontroli kontrolujący mają prawo do: wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; - czy to oznacza, że kontrolna on-line, w systemach może się odbywać poza godzinami prowadzenia działalności? Brak przepisu wyraźnie wskazującego, że działania kontrolne nie mogą powodować utrudnień w działalności podmiotu kontrolowanego lub działania jego systemów. Art. 43 ust. 10. Dowody, o których mowa w ust. 9, mogą zostać zabezpieczone przez: pozostawienie ich w wydzielonym lub oddzielnym, zamkniętym i opieczętowanym pomieszczeniu u podmiotu kontrolowanego; - na jak długo, na czas kontroli? Art. 43 Ust. 11 – należałoby wskazać kryteria takiego zajęcia. Art. 43 ust. 15 - oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Kto byłby „osobą godną zaufania”? 185 Ponieważ przedmiotem kontroli powinna być zgodność działania systemów AI z AI Act, oraz spełnienie innych wymagań AI Act w tym opracowanie dokumentacji systemu AI, zakres pozyskiwanej przez kontrolujących dokumentacji nie powinien wykraczać poza dokumentację systemu AI. Art. 43 KIGEiT Rekomendacja: Dodanie zapisu, iż osoba przeprowadzająca kontrolę powinna podpisać klauzulę poufności , Mitygacja ryzyka wycieku danych objętych tajemnicą handlową w związku z kontrolą Art. 43 ICC Poland Artykuł 43 ust. 11 Projektu przewiduje możliwość wydania przez Komisję w toku kontroli postanowień o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych i urządzeń, o których mowa w art. 43 ust. 4 pkt 3 ustawy, oraz innych przedmiotów mogących stanowić dowód w sprawie na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Na postanowienie to, zgodnie z art. 43 ust. 13 Projektu, przysługuje zażalenie osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje jednak wykonania postanowienia. Po pierwsze, zajęcie wszelkich informatycznych nośników danych i urządzeń, o których mowa w tym przepisie, może mieć daleko idące konsekwencje dla prowadzenia działalności przez adresata postanowienia. W szczególności pozbawienie go dostępu do takich urządzeń, choćby na kilka dni, może w skrajnych przypadkach uniemożliwić mu prawidłowe prowadzenie działalności lub spowodować znaczące szkody (materialne i niematerialne). Z tego względu, biorąc pod uwagę potencjalne konsekwencje tego rodzaju czynności, należy postulować zawężenie kompetencji Komisji w tym zakresie, precyzując w projekcie przesłanki wydania takiego postanowienia. Po drugie, Projekt bezpośrednio nie reguluje postępowania zażaleniowego, zaś zakres zawartych w ustawie odesłań do ustaw proceduralnych zdaje się nie obejmować tego przypadku (art. 56 Projektu, nakazujący do postępowania przed Komisją stosować w zakresie nieuregulowanym przepisy Kodeksu postępowania administracyjnego4 zdaje się, z uwagi na jego umiejscowienie, dotyczyć jedynie postępowań w sprawie naruszenia przepisów rozporządzenia 2024/1689). Rodzi to poważne wątpliwości dotyczące chociażby tego, do kogo takie zażalenie ma być kierowane. Z uwagi na charakter czynności zajęcia ww. przedmiotów wydaje się, że rekomendowanym rozwiązaniem byłoby przyznanie podmiotom, których prawa zostały naruszone zajęciem, prawa złożenia zażalenia do sądu. Art. 43 Związek Banków Polskich Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości, przy czym osoba ta powinna złożyć oświadczenie o braku konfliktu interesów 186 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). 3. W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. 2. Kontrolę przeprowadza się w siedzibie przedsiębiorcy lub w miejscu wykonywania działalności gospodarczej oraz w godzinach pracy lub w czasie faktycznego wykonywania działalności gospodarczej przez przedsiębiorcę. 3. Za zgodą lub na wniosek przedsiębiorcy kontrolę przeprowadza się w miejscu przechowywania dokumentacji, w tym ksiąg podatkowych, innym niż siedziba lub miejsce wykonywania działalności gospodarczej, jeżeli może to usprawnić prowadzenie kontroli. 4. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzane również w siedzibie organu kontroli, jeżeli może to usprawnić prowadzenie kontroli. 4a. Za zgodą przedsiębiorcy kontrola lub poszczególne czynności kontrolne mogą być przeprowadzone w sposób zdalny za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. – Prawo pocztowe (Dz. U. z 2023 r. poz. 1640) lub za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344), jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej. 5. Dokumenty oraz informacje zebrane w toku czynności wykonywanych przez organ kontroli z naruszeniem przepisów ust. 2 i 3a nie stanowią dowodu w postępowaniu kontrolnym. 6. W toku kontroli kontrolujący mają prawo do: 1) swobodnego dostępu do środków łączności oraz, o ile zaistniały okoliczności, o których mowa w ust. 3, do oddzielnego pomieszczenia biurowego; 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3; 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, 187 informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp; Osoba wskazana w Art. 43. 1 ust 2) powinna składać obligatoryjnie oświadczenie o braku konfliktu interesów z kontrolowanym podmiotem. Sposób przeprowadzania kontroli powinien być zgodny w pełni z trybem przewidzianym w ustawie z dnia z dnia 6 marca 2018 r. Prawo przedsiębiorców i jako zasada powinna być przyjęta kontrola w siedzibie przedsiębiorcy. Kontrola zdalna może być przeprowadzana za zgodą przedsiębiorcy, a wtedy powinny być szczegółowo ustalone warunki takiej kontroli, w tym przesyłanie danych/dokumentów o charakterze wrażliwym, specjalnego przeznaczenia, dokumentowanie rozmów (nagrywanie?), itd. Przyjęcie zdalnego trybu kontroli jako trybu domyślnego stwarza szereg ryzyk ujawnienia informacji poufnych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa, czy naruszenia ochrony danych osobowych Art. 43 PWPW przepisy dot. kontroli) 1) Analiza charakteru przepisów dotyczących prowadzenia kontroli prowadzi do wniosku, że – w zależności od intensywności kontroli - może ona doprowadzić do uniemożliwienia realizacji usług przez podmiot kontrolowany – co w przypadku usługodawców – może doprowadzić do odpowiedzialności finansowej lub zagrozić jego podstawowym interesom i bieżącej działalności. W szczególności przepisy dot. zajmowania dokumentacji i rzeczy, pieczętowania lokali i zajęcia nośników informacji są niebezpieczne z punktu widzenia przedsiębiorców. 2) Wskazany w art. 43 ust. 4 projektu ustawy zakres czynności kontrolnych jest znacznie szerszy niż to wynika z ustawy – Prawo przedsiębiorców. 3) Przepisy dotyczące kontroli podmiotów zawarte w projekcie ustawy powinny bardziej precyzyjnie określać m.in. prawa kontrolowanego i obowiązki kontrolującego. Z uwagi na swoje znaczenie dla podmiotów wykonujących działalność gospodarczą, przepisy o kontroli powinny zawierać należytą gwarancję ochrony praw przedsiębiorcy w toku kontroli. 188 Art. 43 Związek Pracodawców Technologii Cyfrowych Lewiatan Prowadzenie kontroli (art. 43) Uważamy, że zapisy rozdziału dotyczącego prowadzenia kontroli powinny być ponownie przejrzane, także w celu ujednolicenia zasad np. z projektem nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa. Zapisy powinny odzwierciedlać rozwój technologii informatycznych, sposobów przetwarzania itd. Poniżej przedstawiamy kilka zastrzeżeń związanych przede wszystkim z wykorzystaniem chmury obliczeniowej. Wymóg zdalnych kontroli centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje mogą narażać wrażliwe dane na dostęp zewnętrznych inspektorów, zwiększając ryzyko wycieków lub naruszeń danych. Operatorzy potrzebują solidnych ustawowych zabezpieczeń, wskazujących że procesy kontroli są bezpieczne, zwłaszcza podczas obsługi danych klientów lub informacji podlegających tajemnicy przedsiębiorstwa. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe wprowadza dodatkowe wyzwania związane z ochroną danych osobowych. Zdalne kontrole mogą również prowadzić do zagrożeń związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu wprowadza potencjalne osłabienie systemu cyberbezpieczeństwa, które może zostać wykorzystane przez adwersarzy, co sprawia, techniczne zabezpieczenia, takie jak protokoły bezpiecznego połączenia, są niezbędne. Zakłócenia operacyjne to kolejna kwestia, ponieważ zdalne inspekcje systemów na żywo mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm z systemami krytycznymi dla usług realizowanych w czasie rzeczywistym, czas i metoda inspekcji muszą być starannie skoordynowane, aby zminimalizować przerwy w świadczeniu usług. Zgodność z wymogami dotyczącymi lokalizacji danych może stać się problemem w przypadku przetwarzania w systemach sztucznej inteligencji w jurysdykcjach z surowymi zasadami lokalizacji danych. Zdalne kontrole mogą kolidować z tymi przepisami, jeśli inspektorzy znajdują się poza krajem, tu: w Polsce, potencjalnie narażając firmy na ryzyko prawne. Zakres i kontrola dostępu do inspekcji muszą być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że niezbędne jest wdrożenie ścisłych kontroli dostępu i mechanizmów audytu do monitorowania działań inspektorów, co może być technicznie skomplikowane i angażować znaczące zasoby. Wielu operatorów ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyka, ale także potencjalnie nawet uniemożliwiając zaoferowanie usług na rynku. Rozwiązanie tych problemów wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z przepisami prawnymi oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Również art. 43 ust. 1 mówi o tym, że Przewodniczący Komisji może wskazać osobę trzecią, co budzi dalsze wątpliwości natury cyberbezpieczeństwa. Nie ma żadnych zapisów w jaki sposób następuje weryfikacja takich osób. 189 Art. 43 ust. 1 PWPW Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Proponujemy doprecyzować wymóg rzetelności/bezstronności kontrolującego i przepisy dotyczące wyłączenia kontrolujące z kontroli w przypadku wystąpienia braku bezstronności, tj. wystąpienia potencjalnego lub faktycznego konfliktu interesów. Obecne projekt ustawy ww. zakresie nie zawiera takich regulacji. Kontrolujący nie powinien być powiązany z podmiotem konkurencyjnym wobec kontrolowanego np. przez stosunek pracy lub umowy pokrewne (cywilne),członkostwo w zarządzie, powołanie do rady nadzorczej, relacje inwestycyjne itp. Art. 43 ust. 1 GRAI Komisja nie powinna mieć nieograniczonego prawa do kontroli. Powinno to nastąpić tylko w uzasadnionych przypadkach. Propozycja zmiany na „1. Komisja może w uzasadnionych przypadkach podejrzenia naruszenia przepisów rozporządzenia 2024/1689 lub ustawy przeprowadzić kontrolę działalności podmiotów obowiązanych do przestrzegania tych przepisów.” Art. 43 ust. 1 Instrat – Fundacja Centrum Cyfrowe Art. 43. 1. Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: 1) pracownika Biura Komisji, 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. - uwaga: niejasne sformułowanie. Art. 43 ust. 1 Fundacja FinTech Poland Przepis art. 43 ust. 1 budzi obawy związane z możliwością delegowania przeprowadzania kontroli osobom spoza Komisji, co stwarza ryzyko naruszenia poufności informacji należących do kontrolowanego podmiotu oraz ich potencjalnego wykorzystania do celów prywatnych lub komercyjnych. Takie rozwiązanie rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć 190 późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do przeprowadzenia kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Art. 43 ust. 1 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis art. 43 ust. 1 pkt 2 w obecnym kształcie budzi zastrzeżenia w zakresie chociażby braku ograniczenia co do osoby, którą może zostać upoważniona do przeprowadzenia kontroli z punktu widzenia konfliktu interesów. Budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego. Podnosimy, iż kontrolującymi nie powinny być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. art. 43 ust. 1 pkt 1 i 2 GRAI Osoba upoważniona do przeprowadzenia kontroli powinna być pracownikiem Biura oraz posiadać wiedzę specjalistyczną oraz władać językiem angielskim. Obecna redakcja wskazuje na alternatywę, kontrolującym może być albo pracownik Biura albo osoba spoza Biura, ale posiadająca niezbędną wiedzę. Te dwie przesłanki muszą być spełnione łącznie. Postuluje się dodanie w art. 43 ust. 1 pkt 1słowa „oraz” na końcu zdania. Dodanie obowiązku znajomości języka angielskiego. art. 43 ust. 1 pkt 1 i 2 PIIT Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. Upoważnienie do \"przeprowadzenia kontroli\", a nie do udziału/przeprowadzenia czynności kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. 191 art. 43 ust. 1 pkt 2 CHAMBER W pierwszej kolejności należy stwierdzić, że dopuszczenie do prowadzenia kontroli osób nie będących pracownikami Biura Komisji (art. 43 ust. 1 pkt. 2) nie powinno być możliwe. Trudno znaleźć uzasadnienie lub wzorzec takiego zlecanie osobom trzecim wykonywania funkcji imperium Państwa. Prowadzącym kontrolę zawsze musi być wyłącznie pracownik organu, który może jedynie dodatkowo przybrać sobie w charakterze pomocnika “osobę posiadającą wiedzę specjalistyczną”. Wnosimy o wykreślenie tego przepisu w obecnym brzmieniu. Art. 43 ust.1 pkt 2 KIGEiT Propozycja zapisu: Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli: (..) 2) osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju wiadomości. , Upoważnienie do \"przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, Art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach, jeśli wymagana jest wiedza specjalistyczna, której nie posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do Art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Art. 43 ust. 1 pkt. 2 e-Izba Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla innych celów, niż prowadzenie kontroli. Rozumiemy, że można wydelegować do kontroli pracowników organów wskazanych w art. 6 ust. 3 Projektu, ale nie powinny to być osoby „z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. art. 43 ust. 2 i kolejne Związek Telewizji Kablowych w Polsce Izba Gospodarcza W tym stanie rzeczy proponujemy skreślenie art. 43 ust. 2 projektu ustawy o AI jako niezgodnego z regulacją art. 8 zd. | prawa przedsiębiorców, a zarazem pozbawionego jakichkolwiek racjonalnych podstaw, a także niezgodnego z zasadami zdrowego rozsądku. G/ Nie sposób zrozumieć w czym zasadza się prawo kontrolującego do wstępu na grunt oraz do obiektów budowalnych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia „dzielności” podmiotu kontrolowanego (art. 43 ust. 4 pkt. 2 in fine projektu ustawy o AT). To kolejny przykład braku staranności w przygotowaniu projektu ustawy o 192 AI albowiem prawdopodobnie chodziło projektodawcy o wstęp w dniach i godzinach pracy podmiotu lub prowadzenia „działalności” przez podmiot kontrolowany. H/ Nie sposób zaakceptować opcji obciążania podmiotu kontrolowanego, w tym i będącego przedsiębiorcą, kosztami sporządzania na żądanie organu kontrolującego kopii lub wydruków materiałów, czy korespondencji oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w art. 43 ust. 4 pkt. 3 projektu ustawy o Ai (art. 43 ust. 4 pkt. 5 projektu ustawy o A). Skoro to organ kontroli państwowej potrzebuje rzeczonych dokumentów to sam na własny koszt winien je sobie skopiować względnie wydrukować, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty kopiowania, czy też drukowania dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 43 ust. 4 pkt. 5 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji rzeczypospolitej Polskiej z dnia 2.04.1997 r. (Dz. U. nr 78 poz. 483 z późn. zm.), zwanej dalej Konstytucją RP]. art. 43 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zdecydowanie należy pochwalić takie rozwiązanie, ale też należy zwrócić uwagę, że Komisja będzie musiała je zoperacjonalizować. Wysyłanie wiadomości e-mail na pewno będzie nieefektywną formą przekazywania danych. W związku z tym wnosimy o wyjaśnienie czy Komisja wystawi API, z którym podmioty kontrolowane będą mogły/musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom Komisji (przez narzędzia do współpracy zdalnej)? Postulujemy uzupełnienie przepisu art. 43 ust. 2 zdanie drugie Projektu ustawy w następujący sposób: „W szczególnie uzasadnionych przypadkach (...)”. Zasadnym byłoby, aby fizyczne kontrole były absolutnym wyjątkiem. Wówczas po stronie kontrolowanej nie wystąpi konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Art. 43 ust. 2 Fundacja FinTech Poland Zdecydowanie warto docenić wprowadzenie możliwości przeprowadzania kontroli w sposób zdalny, co przyczynia się do usprawnienia procedur nadzorczych oraz redukcji kosztów i czasu poświęcanego na kontrole. Niemniej jednak, należy zwrócić uwagę, że KRiBSI będzie musiała zoperacjonalizować te przepisy, aby zapewnić sprawne i efektywne funkcjonowanie zdalnych kontroli. Wysyłanie dokumentów drogą mailową jest rozwiązaniem, które może okazać się nieefektywne, szczególnie przy dużej ilości danych lub w przypadku przekazywania informacji o wysokim stopniu wrażliwości. W związku z tym rekomenduje się rozważenie, czy KRiBSI powinna opracować i wystawić dedykowane API, umożliwiające bezpieczną i zautomatyzowaną wymianę danych z podmiotami 193 kontrolowanymi. Takie rozwiązanie pozwoliłoby na lepszą integrację systemów i znacznie przyspieszyło procesy kontrolne, zapewniając jednocześnie odpowiedni poziom bezpieczeństwa i ochrony danych. Alternatywnie, warto ustalić, czy na potrzeby zdalnej kontroli wystarczające będzie zapewnienie pracownikom KRiBSI zdalnego dostępu do systemów podmiotów kontrolowanych za pomocą narzędzi do współpracy online. Ponadto, aby uniknąć nieefektywności związanych z fizycznymi kontrolami, sugeruje się, aby były one stosowane wyłącznie w absolutnie wyjątkowych przypadkach. Obecny zapis dotyczący przesyłek kurierskich i rejestrowanych może sugerować konieczność drukowania dużej ilości dokumentów, co jest niepraktyczne i mija się z ideą zdalnej kontroli. W skrajnych przypadkach, jak kontrola systemów opartych na ogromnych zbiorach danych (np. system wytrenowany na treściach typu Wikipedia), fizyczne przesyłki mogą prowadzić do absurdalnych sytuacji, takich jak konieczność drukowania tysięcy stron dokumentacji. W związku z powyższym, warto rozważyć doprecyzowanie przepisów, aby zapewnić, że procesy zdalne będą dominującą formą kontroli, a fizyczne przesyłki będą wykorzystywane wyłącznie w ostateczności. Postulowane brzmienie przepisu: Art. 43 ust. 2 2. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). W szczególnie uzasadnionych przypadkach, w tym w razie braku możliwości zastosowania takich środków, kontrola lub poszczególne czynności kontrolne są przeprowadzane przy użyciu przesyłek rejestrowanych lub kurierskich, doręczanych za pośrednictwem operatora pocztowego w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe (Dz. U. z 2023 r. poz. 1640 oraz z 2024 r. poz. 467). Art. 43 ust. 3 Polski związek zarządzania wierzytelnościami Art. 43 ust. 3 Projektu Nasze wątpliwości budzi fakt, że art. 43 ust. 3 Projektu nie wskazuje zakresu „szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Ograniczenie zakresu kontroli stacjonarnych do specjalnych potrzeb (np. w celu oględzin urządzeń, dokumentów i materiałów, jakimi dysponuje w swojej siedzibie kontrolowany) w znacznym stopniu wpłynęłoby pozytywnie na budowanie zaufania na linii organ - przedsiębiorstwa, jednak przede wszystkim zminimalizowałoby negatywny wpływ, jak i efekt mrożący, na działalność przedsiębiorstw. Wydaje się, że w znakomitej większości przypadków - niezbędna dotycząca systemu dokumentacja będzie powstawała w formie cyfrowej, a nie fizycznej. 194 Art. 43 ust. 3 Osoba fizyczna jk błąd gramatyczny W przypadku gdy szczególne okoliczności to uzasadniają, osoba upoważniona, o której mowa w ust. 1, zwana dalej „kontrolującym”, może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Art. 43 ust. 3 GRAI Brak odniesienia się do kryteriów zainicjowania kontroli – kary są wysokie, a Komisja może przeprowadzić kontrolę „na podstawie uzyskanych informacji”. Oznacza to. Że kontrola może być wszczęta na podstawie każdej skargi wnoszona w trybie art. 85 AI Act (o której mowa w art. 50 ustawy), każdej informacji powziętej przez Komisję. Kontrola „w ramach monitorowania przestrzegania” przepisów AI Act – użycie tego sformułowania sugeruje, że kontrola może być zainicjowana w urzędu bez podania konkretnej przyczyny. Bardzo to niepokoi. Rekomendowane jest doprecyzowanie: Jaki charakter powinny mieć takie informacje? Co może być źródłem takiej informacji? Warto zaproponować stworzenie planu kontroli na kolejne lata, podobnie jak dzieje się to w UODO. Takie planowane kontrole odbywałyby się w ramach monitorowania przestrzegania przepisów AIA, nie dotyczyłyby, z oczywistych względów, kontroli ad hoc. Po ust. 3 dodać ust. 4 wskazujący na obowiązek opracowywania planów kontroli na następne lata. Art. 43 ust. 3 e-Izba Rekomendujemy wskazanie w katalogu otwartym przykładów „szczególnie uzasadnionych okoliczności”. Zwiększy to przewidywalność stosowania tego przepisu. Art. 43 ust. 3 Polskie Towarzystwo Informatyczne Może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Propozycja edytorska „może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności.” Art. 43 ust. 3 ITCORNER Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Aby zminimalizować liczbę kontrol stacjonarnych w siedzibie / biurze kontrolowanego, oraz ich negatywny wpływ na działalność przedsiębiorców, proponujemy doprecyzowanie zakresu “szczególnych okoliczności”, 195 które uprawniają do wykonania kontroli stacjonarnej w siedzibie / biurze kontrolowanego i ograniczenie ich do takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym (np. kontrola wymaga oględzin urządzeń fizycznych lub informacje i materiały związane z przedmiotem kontroli nie mogą zostać przedstawione kontrolującemu zdalnie / w formie cyfrowej). Art. 43 ust. 3 KIGEiT Rekomendacja: Dodanie w ust. 3 zapisu, iż kontrola w siedzibie podmiotu kontrolowanego lub w innym miejscu prowadzenia przez niego działalności powinna się odbyć przy udziale upoważnionego reprezentanta podmiotu kontrolowanego, zakończona protokołem pokontrolnym. , Uzasadnienie: podmiot kontrolowany powinien mieć prawo brać czynny udział podczas kontroli przeprowadzanej w jego siedzibie/miejscu prowadzenia działalności. Art. 43 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, poprzez wskazanie katalogu przykładów, o jakie „szczególne okoliczności” chodzi. Pozwoli to zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Wskazujemy również, iż wątpliwości budzi uprawnienie osoby kontrolującej do podjęcia decyzji wskazanej w tym przepisie, szczególnie, że kontrolującym może być również osoba nie będąca pracownikiem Komisji. Z tej przyczyny postulujemy, aby na potrzeby komentowanego przepisu za kontrolującego uznać jedynie pracownika Komisji. Wnosimy również o doprecyzowanie przepisu w zakresie postępowania odwoławczego jak również w zakresie charakteru decyzji (administracyjna/operacyjna). Art. 43 ust. 3 GRAI Art. 43 ust. 3 nie określa “szczególnych okoliczności” uprawniających kontrolującego do podjęcia decyzji o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, co rodzi wysokie ryzyko nadużyć. W przypadku gdy szczególne okoliczności to uzasadniają (...) może podjąć decyzję o wykonaniu części lub całości czynności kontrolnych w siedzibie podmiotu kontrolowanego – nie wiemy, co to są „szczególne okoliczności to uzasadniające”. Konieczność określenia zakresu “szczególnych okoliczności” uprawniających do wykonania czynności kontrolnych w siedzibie podmiotu, tj. takich, które faktycznie uniemożliwiają przeprowadzenie kontroli w trybie zdalnym: Materiały związane z przedmiotem kontroli nie mogą zostać okazane kontrolerowi w formie cyfrowej Kontrola wymaga oględzin fizycznych urządzeń Art. 43 ust. 3 Fundacja FinTech Poland W związku z brzmieniem art. 43 ust. 3, wskazującym na możliwość przeprowadzenia kontroli w siedzibie podmiotu 196 kontrolowanego lub w miejscu jego działalności, zasadne jest doprecyzowanie, jakie szczególne okoliczności mogą uzasadniać taką decyzję. Rekomendujemy podanie przykładowego (choć otwartego) katalogu takich sytuacji, który mógłby obejmować: przypadki podejrzenia manipulacji danymi lub systemami, konieczność weryfikacji sprzętu fizycznego używanego do działania systemu AI, bądź potrzebę zbadania infrastruktury sieciowej i zabezpieczeń, które mogą być kluczowe dla oceny ryzyka związanego z systemem AI. Ponadto, wątpliwości budzi kwestia, czy decyzja o wykonaniu kontroli w siedzibie powinna pozostawać w gestii jednej osoby kontrolującej, szczególnie gdy art. 43 ust. 1 pkt 2 zezwala na przeprowadzanie kontroli przez osoby spoza Komisji. Aby zminimalizować ryzyko nadużyć oraz zapewnić obiektywność i rzetelność procesu, zasadne wydaje się ograniczenie uprawnienia do podejmowania takiej decyzji do pracowników Komisji. Kontrolującym w rozumieniu tego przepisu powinna być osoba, która posiada odpowiedni poziom odpowiedzialności i znajduje się pod nadzorem Komisji. Dodatkowo, niejasne pozostaje, czy decyzja o przeprowadzeniu kontroli w siedzibie jest traktowana jako formalna decyzja administracyjna, czy też jako decyzja operacyjna, która nie podlega formalnym procedurom administracyjnym. Doprecyzowanie tego aspektu zwiększyłoby przejrzystość przepisów oraz pomogłoby podmiotom kontrolowanym zrozumieć, jakie prawa im przysługują w przypadku kwestionowania zasadności przeprowadzenia kontroli na miejscu. Warto rozważyć wprowadzenie wymogu pisemnego uzasadnienia takiej decyzji, aby kontrolowane podmioty miały jasność co do powodów jej podjęcia. Art. 43 ust. 4 PIIT Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Osoba fizyczna jk \"1) swobodnego dostępu do środków łączności\" Dobra rada doświadczonego praktyka: kontrolujący powinni unikać jak ognia korzystania z infrastruktury teleinformatycznej podmiotu kontrolowanego. Dostępne obecnie rozwiązania bez problemu pozwalają kontrolującym na stosowanie własnych urządzeń telekomunikacyjnych i teleinformatycznych do komunikacji. Unikną zarzutu - uzasadnionego lub nie - o ingerencję w systemy teleinformatyczne podmiotu kontrolowanego. 197 Proponowany zapis jest reliktem z czasów, gdy nie było telefonii komórkowej i mobilnego internetu. błąd gramatyczny 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzieałalności podmiotu kontrolowanego 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781) Nie ma art. 7 pkt 2a w wymienionej ustawie: https://dziennikustaw.gov.pl/D2019000178101.pdf Art. 43 ust. 4 GRAI Art. 43 ust. 4 zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Niektóre uprawnienia są nieproporcjonalne i nadmiernie ingerujące w prawa przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej: (a) żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; (b) zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6), (c) opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9); (d) wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Weryfikacja zakresu uprawnień i pozostawienie tylko tych niezbędnych oraz niezakłócających prowadzenia działalności przez przedsiębiorcę, w szczególności art. 43 ust. 3 pkt 5, 6, 9, 11. Art. 43 ust. 4 KIGEiT Rekomendacja: Wnosimy o doprecyzowanie w przedmiocie zakresu obowiązku sporządzania wydruku 198 Zgodnie z proponowanym przepisem kontrolujący ma prawo żądania sporządzenia przez podmiot kontrolowany m.in. wydruku materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów. Powstaje wątpliwość czy obowiązek sporządzenia wydruków będzie dotyczyć również e-szkoleń, czy danych – ich wydruk może być utrudniony. Art. 43 ust. 4 Polski związek zarządzania wierzytelnościami Art. 43 ust. 4, 7 i 13 Projektu Art. 43 zawiera szeroki zakres uprawnień organu w toku kontroli. Niektóre z nich naszym zdaniem mogą nieproporcjonalnie ingerować w swobodę prowadzenia działalności gospodarczej i stabilność obrotu. Nadmierny wydaje się być w tym zakresie poziom formalizmu - w szczególności możliwość żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 Projektu) - biorąc tu zwłaszcza pod uwagę możliwość stosowania oprogramowania wdrożonego z udziałem podmiotów trzecich (przedsiębiorstw z sektora IT) oraz rozległość dokumentacji technicznej systemów informatycznych. Uważamy, że art. 43 ust. 7 zawiera zbyt wąski zakres informacji komunikowanych przed planowaną kontrolą - poza przewidywanym czasem trwania kontroli, podmiot kontrolowany powinien naszym zdaniem poznać, chociaż w sposób ogólny, zakres planowanej kontroli, pozwalający np. na skuteczną komunikację z podwykonawcami, odpowiedzialnymi za tworzenie produktów lub usług wpisujących się w definicję systemów AI na rzecz przedsiębiorstw z branży windykacyjnej (albo stanowiących ich element). W art. 43 ust. 7 dostrzegamy braki dotyczące: maksymalnego czasu trwania kontroli - proponujemy, by w związku z wyżej przytoczonymi argumentami za ochroną stabilności obrotu gospodarczego, kontrole trwały nie dłużej niż 14 dni; terminów, które powinny zostać zachowane, jeśli chodzi o zawiadomienie przed planowaną kontrolą - proponujemy, aby podmiot kontrolowany został powiadomiony nie później niż 7 dni przed planowaną kontrolą, W art. 43 ust. 13 brakuje naszym zdaniem informacji o terminie do wniesienia oraz terminie na rozpatrzenie zażalenia na postanowienie o zajęciu przedmiotów w toku kontroli. Zajęcie zgodnie z art. 43 ust. 11 Projektu następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” - z tego względu termin na wniesienie oraz rozpatrzenie zażalenia powinien być możliwie jak najkrótszy, aby mógł realizować swoją funkcję. Art. 43 ust. 4 Związek Cyfrowa Polska Zbyt szeroki katalog uprawnień organu kontrolującego. Art. 43 ust. 4 Projektu zawiera bardzo szeroki katalog uprawnień organu w toku prowadzonej kontroli, m.in. żądania udostępnienia wszelkiego rodzaju pism, akt, ksiąg, dokumentów, wyciągów, odpisów, korespondencji, nośników, innych urządzeń, żądania kopii i wydruku tych materiałów przez podmiot kontrolowany, 199 przeprowadzenia oględzin urządzeń, nośników danych, systemów informatycznych, przy jednoczesnej możliwości robienia przez organ notatek z udostępnionych materiałów i przedmiotów. Należy zauważyć, że tego rodzaju, bardzo szerokie uprawnienia nie są zgodne z przepisami Aktu o sztucznej inteligencji, w szczególności z art. 78 ust. 2, który upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”. W związku z tym warto włączyć taką samą definicję do polskiej ustawy (w brzmieniu. „tylko takie dane, które są absolutnie niezbędne do oceny ryzyka stwarzanego przez systemy sztucznej inteligencji i wykonywania ich uprawnień”), a dokumenty wymienione poniżej uznać za wyłącznie te, które można uzyskać, jeśli mieszczą się w zakresie ich bezwzględnej konieczności. Dodatkowo, jako nieproporcjonalne i nazbyt ingerujące w prawo każdego przedsiębiorcy do swobodnego prowadzenia działalności gospodarczej należy ocenić uprawnienie do: żądania poświadczania za zgodność z oryginałem pozyskiwanych od podmiotu kontrolowanego dokumentów (art. 43 ust. 4 pkt 5 in fine Projektu) – biorąc pod uwagę np. obszerność dokumentacji technicznych dotyczących systemów AI, a także fakt, iż jest to wbrew zasadzie sformułowanej w art. 29 ustawy Prawo Przedsiębiorców, która miała służyć odformalizowaniu postępowań w sprawach działalności gospodarczej; zabezpieczenia dokumentów i innych materiałów (art. 43 ust. 4 pkt 6 Projektu); opieczętowania lokali, pomieszczeń lub przedmiotów (art. 43 ust. 4 pkt 9 Projektu); wydania postanowienia o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych urządzeń oraz innych przedmiotów (art. 43 ust. 11 Projektu). Biorąc pod uwagę zakres ww. uprawnień oraz m.in. to, iż część z nich powtarza się (zawiera jedno w drugim), może to wywołać negatywne konsekwencje dla działalności danego przedsiębiorcy poprzez nawet sparaliżowanie prowadzenia przez niego działalności, np. w wyniku potencjalnego ryzyka opieczętowania pomieszczeń serwerowni lub zajęcia istotnych urządzeń informatycznych. Art. 43 ust. 4 pkt 1 GRAI Nie zawsze będzie możliwość zapewnienia „oddzielnego pomieszczenia”, szczególnie gdy sprawa dotyczy mikro lub małych podmiotów, które wynajmują jeden open-space. Postuluje się dodanie na końcu zdania „o ile będzie to możliwe”. Art. 43 ust. 4 pkt 2 Polskie Towarzystwo Informatyczne 2) wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach, w dniach i godzinach pracy podmiotu lub prowadzenia dzielności podmiotu kontrolowanego, o ile zaistniały okoliczności, o których mowa w ust. 3. Czy nie powinno się to odbywać również w obecności przedstawiciela jednostki kontrolowanej, co powinno mieć wówczas odzwierciedlenie w zapisie artykułu. 200 Art. 43 ust. 4 pkt 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy na konieczność redakcyjnej zmiany wyrazu „dzielności” na wyraz „działalności”. Art. 43 ust. 4 pkt 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o wyjaśnienie, czy chodzi o dostęp do nośnika czy do zawartych tam informacji? Wnosimy również o wyjaśnienie, jak zdaniem Projektodawcy należy udostępnić sam nośnik w postaci np. serwera „chmurowego\"? Art. 43 ust. 4 pkt 3 Związek Banków Polskich żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 3 Fundacja FinTech Poland Przepis art. 43 ust. 4 pkt 3) przewiduje możliwość żądania przez kontrolującego udostępnienia nośników danych oraz dostępu do systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, 201 czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg, oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. Art. 43 ust. 4 pkt 5 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Aby wyeliminować przedmiotową wadliwość regulacji proponujemy zatem w art. 43 ust. 4 pkt. 5 in principio projektu ustawy o AI po słowach „podmiot kontrolowany”, a przed słowem „kopii” dodanie treści w brzmieniu „na koszt podmiotu przeprowadzającego kontrolę”. G/ Projektodawca jest niekonsekwentny w swoich zamierzeniach albowiem w art. 44 ust. 1 projektu ustawy o AI wskazuje, że Komisja może zwrócić się o udzielenie pomocy przy przeprowadzaniu kontroli do Policji lub organu kontroli państwowej i ochrony prawa, a także do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji w trzech odrębnych punktach zawartych w art. 44 ust. 2 zd. 2 projektu ustawy o AI opisując w czym ma się zasadzać udzielenie pomocy odpowiednio przez Policję, przez organ kontroli państwowej i ochrony prawa oraz przez jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, tymczasem w art. 44 ust. 2 zd. 1 in principio projektu ustawy o AI wprowadza regulację przewidującą iż jedynie Policja lub organ kontroli państwowej i ochrony prawa zapewnia pomoc w przeprowadzeniu kontroli pomijając w tym zestawieniu pomoc udzielaną przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji, mimo iż w art. 44 ust. 2ust. 2 pkt. 3 projektu ustawy AI opisuje ustawodawca w czym ma się przejawiać udzielenie pomocy kontrolującemu przez jednostki podległe i nadzorowane przez „ministra właściwego do spraw informatyzacji. Art. 43 ust. 4 pkt 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż uprawnienie do żądania wydruków w sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych, uznać należy za anarchonizm. Rodzi to obawy, że organy będą preferować drukowanie przez podmiot kontrolowany ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto żądanie „poświadczania\" wydruków/kopii za zgodność uznać należy za nazbyt uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" mogłoby być zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu kontrolowanego, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym, postulujemy zmianę treści art. 43 ust. 4 pkt 5 Projektu ustawy na następującą: „5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o 202 których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów;” Art. 43 ust. 4 pkt 5 e-Izba Rekomendujemy usunięcie tego przepisu. W sytuacji, gdy możliwe jest sporządzenie kopii elektronicznych nie powinno być możliwe żądanie wydruków materiałów, korespondencji oraz informacji. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Na marginesie zwracamy uwagę, że „poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i bardzo uciążliwe. Poświadczenie „od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. „Poświadczenie\" powinno zostać zastąpione jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. Art. 43 ust. 4 pkt 5 Związek Banków Polskich żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 5 Fundacja FinTech Poland Przepis przewidujący prawo kontrolujących do żądania sporządzenia wydruków przez podmiot kontrolowany, gdy istnieje możliwość przekazania kopii elektronicznych, jest archaiczny i odbiega od współczesnych standardów zarządzania dokumentacją. W erze cyfrowej preferowanie wydruków może prowadzić do niepotrzebnego zwiększenia obciążenia administracyjnego oraz marnotrawstwa zasobów, zwłaszcza papieru. Taka praktyka rodzi również ryzyko, że organy kontrolujące będą forsować drukowanie dużych ilości dokumentacji, co jest czasochłonne i nieefektywne w porównaniu do przekazywania danych w formie elektronicznej na nośnikach lub poprzez bezpieczne kanały cyfrowe. Dodatkowo, wymóg poświadczania każdej strony dokumentów za zgodność z oryginałem przez podmiot kontrolowany jest nadmiernie uciążliwy i mało praktyczny. Proces ten wymaga, aby osoba odpowiedzialna w podmiocie była formalnie umocowana do składania takiego poświadczenia, co wiąże się z dodatkowymi procedurami i komplikacjami prawnymi. Zamiast tego, bardziej adekwatnym rozwiązaniem byłoby zastąpienie poświadczania indywidualnych dokumentów jednym, ogólnym oświadczeniem składanym w imieniu podmiotu, w którym potwierdza się, że 203 wszystkie przekazywane kopie są zgodne z oryginałami. Taka zmiana uprościłaby proces, zwiększając efektywność i zmniejszając formalne obciążenie kontrolowanego podmiotu. Postulowane brzmienie przepisu: Art. 43 ust. 4 pkt 5) 5) żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów; Art. 43 ust. 4 pkt 8 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Art. 43 ust. 4 pkt 8 Związek Banków Polskich 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 4 pkt 8 Fundacja FinTech Poland Oględziny urządzeń, nośników danych oraz systemów informatycznych w kontekście serwerów dostawców chmurowych mogą napotkać istotne trudności organizacyjne i techniczne. W praktyce, serwery chmurowe są często zlokalizowane poza granicami kraju lub w centrach danych o wysokim poziomie zabezpieczeń, gdzie fizyczne oględziny są albo niemożliwe, albo znacznie ograniczone przez regulacje dostawcy. Ponadto, dostęp do tych serwerów może być zgodny jedynie z polityką bezpieczeństwa i procedurami wewnętrznymi dostawcy, co może obejmować szczególne warunki prawne lub techniczne. W związku z tym proponujemy rozważenie alternatywnych form przeprowadzania oględzin, takich jak zdalna weryfikacja danych za pomocą bezpiecznych połączeń sieciowych, audyty systemowe. Takie podejście pozwoli na przeprowadzenie kontroli bez fizycznej obecności przy serwerach, co zwiększy elastyczność działania organów kontrolujących i zminimalizuje ryzyko komplikacji wynikających z międzynarodowych aspektów lokalizacji danych. Art. 43 ust. 4 pkt 10 Związek Banków Polskich (...)przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli [uchylenie punktu] Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 204 Art. 43 ust. 4 i 6 Związek Banków Polskich 4. W toku kontroli kontrolujący mają prawo do: (...) 11) Kontrolę należy prowadzić w sposób rzetelny, obiektywny i proporcjonalny do celu kontroli. Kontroler jest zobowiązany do minimalizowania utrudnień w działalności podmiotu kontrolowanego. (...) 6. Upoważnienie do przeprowadzenia kontroli zawiera: (...) 11) wskazanie praw i obowiązków podmiotu kontrolowanego w trakcie kontroli, w tym prawa do wglądu w akta sprawy i możliwości odwołania. Przepis szczegółowo określa uprawnienia kontrolerów Komisji oraz procedury przeprowadzania kontroli. Upoważnienie do kontroli może określać ten zakres w sposób ogólny, co pozwala kontrolerom dostosować swoje działania do konkretnej sytuacji. Co oczywiście może wpływać na ustalenie konkretnych uprawnień organu i odpowiadających mu obowiązków kontrolowanego Szczególnym zagadnieniem jest kwestia zabezpieczenia dowodów. Przepisy przyznają kontrolerom szerokie uprawnienia w tym zakresie, takie jak zajmowanie dokumentów czy przeprowadzanie oględzin. Chociaż takie uprawnienia są niezbędne do efektywnego prowadzenia kontroli, to jednocześnie rodzą wątpliwości co do ich granic i wpływu na prawa podmiotów kontrolowanych. Należy podkreślić, że szeroki katalog uprawnień kontrolerów powinien być równoważony przez odpowiednie zabezpieczenia prawne dla podmiotów kontrolowanych, takie jak prawo do wglądu w akta sprawy, możliwość odwołania od decyzji kontrolera czy jasne określenie przesłanek do zastosowania poszczególnych środków zabezpieczających Art. 43 ust. 5 Fundacja FinTech Poland Przy kontroli zdalnej kwestia okazania upoważnienia oraz dokumentu tożsamości wymaga doprecyzowania, aby zapewnić transparentność procesu i autentyczność działań kontrolujących. Obecne postanowienie nie precyzuje, jak kontrolujący powinien okazać te dokumenty w sytuacji, gdy kontrola odbywa się na odległość. Należałoby rozważyć możliwość przedstawienia upoważnienia oraz dokumentu tożsamości w formie elektronicznej. Tego rodzaju rozwiązanie pozwoliłoby na potwierdzenie tożsamości i uprawnień kontrolującego, jednocześnie dostosowując procedurę do realiów zdalnej współpracy i minimalizując potencjalne trudności oraz ryzyka związane z weryfikacją upoważnienia na odległość. Art. 43 ust. 6 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy uzupełnienie przepisu poprzez dodanie obowiązku wskazania przez podmiot kontrolujący – oprócz podstawy prawnej – także podstawy faktycznej. 205 Art. 43 ust. 6 Fundacja FinTech Poland Należałoby rozważyć uzupełnienie przepisu tak, aby oprócz podstawy prawnej kontroli, upoważnienie zawierało również wskazanie podstawy merytorycznej. Warto, aby upoważnienie precyzowało, czy kontrola jest prowadzona w ramach ogólnego monitorowania przestrzegania rozporządzenia, czy na podstawie powziętej przez Komisję informacji, skargi lub innego rodzaju zgłoszenia. Taka informacja zwiększyłaby transparentność działań kontrolnych i pozwoliłaby kontrolowanemu lepiej zrozumieć kontekst i przyczynę kontroli. Wprowadzenie tego elementu mogłoby także zapobiec nieporozumieniom oraz wzmocnić zaufanie do procedur kontrolnych, ułatwiając współpracę między podmiotem kontrolowanym, a Komisją Art. 43 ust. 6 pkt 1 e-Izba Rekomendujemy uzupełnienie treści przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: „wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Art. 43 ust. 7 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu w taki sposób, aby wynikało z niego z jakim wyprzedzeniem i w jakiej formie pomiot jest informowany o planowanej kontroli. Przedsiębiorcy powinni wiedzieć również w jakim czasie kontrola powinna się zakończyć. W związku z powyższym, wnosimy o nadanie art. 43 ust. 7 Projektu ustawy nowej treści w brzmieniu następującym: „O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Art. 43 ust. 7 Polskie Towarzystwo Informatyczne O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany czas trwania kontroli. Propozycja O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany, podając przewidywany termin rozpoczęcia i przewidywany czas trwania kontroli. Powinien zostać podany termin rozpoczęcia kontroli Art. 43 ust. 7 GRAI I. Zbyt wąski zakres informacji przekazywanych kontrolowanemu przed planowaną kontrolą. II. Brak informacji o terminach, które muszą zostać zachowane, tj. dopuszczalnym terminie zawiadomienia przed planowaną kontrolą, oraz maksymalnym dopuszczalnym czasie trwania kontroli. 206 I. Słowa „przewidywany czas trwania kontroli” zastępuje się słowami “informacje, o których mowa w ust. 6 pkt 1, 2, 8 i 10”. II. Uzupełnienie brakujących terminów: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany w terminie do 7 dni przed planowaną kontrolą, podając przewidywany czas trwania kontroli, który nie może być dłuższy niż 14 dni kalendarzowych.” Art. 43 ust. 7 GRAI Termin rozpoczęcia kontroli powinien być odpowiedni i oscylować w zakresie od 3 dni w przypadkach nagłych do min. 14 dni w przypadkach standardowych. Warto też wskazać jaki jest ustawowy czas przewidziany standardowo na kontrolę. Chodzi o zapewnienie podmiotów, że kontrola nie będzie trwała nadmiernie długo. Proponuje się, aby kontrola rozpoczynała się w przypadkach nagłych min. 3 dni od otrzymania powiadomienia, min 14 dni lub więcej w przypadkach standardowej kontroli. Proponuje się także, aby kontrola była ograniczona ustawowo do 1 miesiąca, chyba, że w następuje uzasadniony przypadek i termin ten można wydłużyć do 3 miesięcy. Uzasadnienie przedłużenia należy dostarczyć kontrolowanemu. Art. 43 ust. 7 Fundacja FinTech Poland Wprowadzenie obowiązku zawiadamiania podmiotu kontrolowanego z wyprzedzeniem przynajmniej 30 dni roboczych, a także ograniczenie czasu trwania kontroli do 1 miesiąca od dnia jej rozpoczęcia, ma na celu zapewnienie przejrzystości i efektywności procesu kontrolnego. Wyprzedzenie 30-dniowe daje kontrolowanemu podmiotowi odpowiedni czas na przygotowanie się do kontroli, zebranie wymaganych dokumentów i zorganizowanie zasobów, co sprzyja płynnemu przebiegowi kontroli oraz minimalizuje zakłócenia w bieżącej działalności podmiotu. Określenie maksymalnego czasu trwania kontroli na 1 miesiąc pozwala ograniczyć długotrwałe obciążenia związane z procesem kontrolnym, co jest szczególnie istotne dla firm o ograniczonych zasobach kadrowych i operacyjnych. Taka zmiana zwiększa również przewidywalność procesu oraz zmniejsza ryzyko niepotrzebnego przedłużania działań kontrolnych, co może być obciążające zarówno dla podmiotu kontrolowanego, jak i dla samego organu kontrolującego. Postulowane brzmienie przepisu: 7. O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli. Art. 43 ust. 8 Liczne usterki językowe w poszczególnych punktach wyliczenia. 207 W pkt 2 słowo „udzielania” zastępuje się słowem „udzielenie”, w pkt 3 skreśla się słowo „umożliwienia” i słowo „wstępu” zastępuje się słowem „wstęp”, w pkt 4 słowa „udostępnienia i wydania” zastępuje się słowami „udostępnienie i wydanie”, w pkt 5 skreśla się słowo „umożliwienia” i słowo „dostępu” zastępuje się słowem „dostęp”. Art. 43 ust. 8 pkt 5 Związek Banków Polskich umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, Art. 43 ust. 10 Fundacja FinTech Poland Zastosowanie metody zabezpieczenia dowodów przez ich pozostawienie w zamkniętym i opieczętowanym pomieszczeniu może nie być optymalne w kontekście nośników informatycznych. Warto rozważyć alternatywne metody zabezpieczania danych, które pozwolą na skuteczne zabezpieczenie dowodów przy jednoczesnym minimalizowaniu zakłóceń w bieżącej działalności podmiotu kontrolowanego. Fizyczne zabezpieczenie nośników, które mogą być kluczowe dla wielu procesów operacyjnych, nie powinno prowadzić do sytuacji, w której podmiot jest całkowicie pozbawiony dostępu do zasobów niezbędnych do prowadzenia działalności gospodarczej. Rekomendujemy wprowadzenie zabezpieczeń, takich jak tworzenie kopii zabezpieczonych danych lub ograniczenie dostępu w sposób pozwalający na ich monitorowanie, ale nie blokujący funkcjonowania podmiotu Art. 43 ust. 10 pkt. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Art. 43 ust. 11 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż przepis powinien precyzować, czym jest „zajęcie informatycznych nośników danych\" - czy w skrajnych przypadkach ma to oznaczać, że organizacja musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? Uważamy, iż tak intepretowany przepis jest zbyt daleko idący. 208 Art. 43 ust. 11 Fundacja FinTech Poland Przepis dotyczący zajęcia nośników informatycznych wymaga większej precyzji, szczególnie w kontekście jego zastosowania w praktyce. Zajęcie nośników danych, urządzeń oraz systemów informatycznych może mieć poważne konsekwencje dla firmy, zwłaszcza jeśli działalność organizacji jest ściśle związana z przetwarzaniem danych lub korzystaniem z systemów, które zostały zajęte w ramach kontroli. W skrajnych przypadkach, jeśli zajęcie nośników danych lub urządzeń dotyczy kluczowych elementów infrastruktury firmy, takich jak serwery, bazy danych, komputery czy inne urządzenia wykorzystywane w działalności gospodarczej, może to skutkować paraliżem operacyjnym. Firma mogłaby zostać zmuszona do zaprzestania działalności, jeżeli jej praca jest oparta na systemach informatycznych, które zostały skonfiskowane. Przepis w obecnym brzmieniu nie precyzuje, w jakim zakresie firma może kontynuować działalność po zajęciu takich zasobów, co może prowadzić do nadmiernych trudności w jej funkcjonowaniu. Aby uniknąć takich sytuacji, należałoby rozważyć dodanie do przepisu postanowień wskazujących, w jakich przypadkach firma może nadal funkcjonować pomimo zajęcia nośników informatycznych, a także jakie środki zaradcze mogą zostać wprowadzone, aby zapewnić firmie możliwość prowadzenia działalności na czas trwania kontroli. Można by też przewidzieć mechanizmy pozwalające na tymczasowy dostęp do danych lub na alternatywne sposoby ich przechowywania, co pozwoliłoby na uniknięcie całkowitego wstrzymania działalności. Takie postanowienia mogłyby zapewnić równowagę pomiędzy koniecznością przeprowadzenia skutecznej kontroli a zachowaniem ciągłości działalności gospodarczej, co w przeciwnym razie mogłoby prowadzić do nadmiernych trudności gospodarczych i potencjalnych problemów dla firm, szczególnie tych, które są mocno zależne od technologii i danych. Art 43 ust.11, 13 i 20 PIIT Należy doprecyzować przepis i wyjaśnić intencje ustawodawcy co do relacji przepisów, określonych w ust.11 (postanowienie o zajęciu), 13 (zażalenie na postanowienie o zajęciu), 20. (sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów). W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Czy wniesienie sprzeciwu, zgodnie z ust.20 wstrzymuje wykonanie zajęcia? (mieści się to w zakresie wykonywania kontroli). Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. 209 Art. 43 ust. 11, 20 KIGEiT Rekomendacja: Wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. , Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Art. 43 ust. 12 KIGEiT Propozycja zapisu: Zmiana na: \"Osobę posiadającą przedmioty, o których mowa w ust. 9, kontrolujący wzywa do wydania ich dobrowolnie, w czasie możliwym na ich zgromadzenie bez uszczerbku dla prowadzonej działalności podmiotu kontrolowanego, a w razie odmowy można przeprowadzić ich odebranie w trybie przepisów o postępowaniu egzekucyjnym w administracji.\" , Uzasadnienie: podmiot kontrolowany powinien mieć czas na odpowiedni zebranie/zgromadzenie dowodów tak aby zachować płynność gospodarczą. Art. 43 ust. 13 KIGEiT Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. , Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła Art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w Art. 57 projektu ustawy. Art. 43 ust. 13 e-IZba Z uwagi na to, że zajęcie może trwać do 7 dni (zgodnie z art. 43 ust. 11), to termin rozpatrzenia zażalenia powinien być 1 dniowy. W. przypadku braku jego zachowania, zajęcie powinno upadać. Art. 43 ust. 13 ISSA Polska Postuluję wskazanie terminu na wniesienie zażalenia oraz momentu rozpoczęcia biegu terminu. Art. 43 ust. 13 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Skoro zajęcie może trwać do 7 dni (art. 43 ust. 11 Projektu ustawy), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcie upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, istnieje ryzyko, iż prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 PIIT 210 Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia. Do jakiego organu i za czyim pośrednictwem, w jakim terminie może być wniesione zażalenie? Nie określa tego ustawa Prawo przedsiębiorców, do której odsyła art. 42 projektu ustawy. Zastosowanie ma KPA? - to kto jest organem odwoławczym? Zażalenie przysługuje do SOKIKU? - ale z czego to wynika - nie ma regulacji w zakresie zażaleń choćby w art. 57 projektu ustawy. Art. 43 ust. 13 GRAI Postuluje się, aby zażalenie na zajęcie przedmiotów przysługiwało także podmiotowi kontrolowanemu. Postuluje się, aby zażalenie przysługiwało także podmiotowi kontrolowanemu. Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów. Uzupełnienie brakującego terminu, przy czym, jeżeli miałby to być standardowy 7 dniowy termin z KPA, to będzie to nieefektywne w sytuacji, gdy zajęcie przedmiotów następuje „na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Powinien więc być to termin krótszy wraz z szybkim rozpatrzeniem zażalenia przez organ kontrolujący. Art. 43 ust. 13 NRA Podkreśla się, że w art. 43 ust. 13 Projektu nie doprecyzowano organu właściwego do rozpatrywania zażaleń na postanowienie Komisji o zajęciu przedmiotów, pozostawiając ten istotny aspekt w obszarze domysłów interpretacyjnych. Przepis w obecnej formie ogranicza się do stwierdzenia, że zażalenie przysługuje osobom, których prawa zostały naruszone, natomiast nie wskazuje, jaki podmiot miałby kompetencję do rozpoznania złożonego środka odwoławczego. W praktyce oznacza to, że pomimo wydawania postanowień przez Komisję (co wynika z art. 43 ust. 11 Projektu), brak jest wyraźnego określenia trybu weryfikacji prawidłowości przedmiotowych postanowień, co może prowadzić do komplikacji proceduralnych oraz wątpliwości co do skuteczności ochrony interesów stron postępowania. Wprawdzie art. 45 ust. 5 Projektu wskazuje na SOKiK jako organ właściwy do rozstrzygania kwestii zwrotu dokumentów ujawnionych podczas kontroli, niemniej dotyczy to jedynie ograniczonej kategorii dokumentów pozostających na miejscu kontroli. Regulacja ta nie znajduje więc zastosowania do sytuacji wynikających z wydania postanowienia o zajęciu przedmiotów, a więc nie znajduje zastosowania do art. 43 ust. 13. Art. 43 ust. 13 Fundacja FinTech Poland Skoro zajęcie przedmiotów może trwać maksymalnie do 7 dni (zgodnie z art. 43 ust. 11 Projektu Ustawy), to w celu zapewnienia realnej ochrony praw osób, których interesy zostały naruszone, należałoby wprost wskazać, że zażalenie na postanowienie o zajęciu przedmiotów musi być rozpatrzone w terminie 1 dnia roboczego od jego wniesienia. Brak takiego 211 mechanizmu, który gwarantuje natychmiastowe rozpatrzenie zażalenia, może prowadzić do sytuacji, w której podmiot kontrolowany nie ma skutecznego środka ochrony swoich praw w czasie, gdy zajęcie trwa. Długi czas oczekiwania na rozstrzygnięcie zażalenia, szczególnie w kontekście ograniczenia dostępu do przedmiotów, mógłby prowadzić do sytuacji, w której samo prawo do zażalenia stanie się fikcją. Art. 43 ust. 13 wz z art. 56 Związek Cyfrowa Polska Brak zagwarantowania niezbędnych środków zaskarżenia. Rozstrzygnięcia wydawane przez organ kontrolujący nie gwarantują skutecznych procedur zaskarżenia dla przedsiębiorcy, w szczególności: Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (art. 43 ust. 13 Projektu; w zw. bowiem z art. 56 Projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której ustawodawca przesądził w art. 43 ust. 11 Projektu ustawy, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni”. Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący; Art. 43 ust. 14 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Relacja między ustępem 14 a ust. 11-13 w art. 43 Projektu ustawy jest niejasna, nie jest też omówiona w uzasadnieniu Projektu ustawy - w jakiej sytuacji zajęcie jest niedopuszczalne? Ustęp 11 w art. 43 Projektu ustawy mówi ogólnie o prawie do zajęcia danych „w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Art. 43 ust. 14 Fundacja FinTech Poland Relacja między art. 14 ust. 14 a ust. 11-13 jest niejasna i wymaga precyzyjnego określenia w przepisach ustawy. Aktualne brzmienie Projektu ustawy nie wyjaśnia, w jakich sytuacjach zabezpieczenie jest niedopuszczalne. Zgodnie z ust. 11, Komisja posiada ogólne prawo do zajęcia danych “w toku kontroli”, co sugeruje szeroki zakres uprawnień do przejmowania dokumentów i danych zarówno w formie fizycznej, jak i elektronicznej. Natomiast ust. 14 wskazuje na zabezpieczenie na miejscu kontroli, wyłączając stosowanie ust. 11-13. Należy zatem doprecyzować, czy wyłączenie stosowania ust. 11-13 w ust. 14 oznacza, że zajęcie danych jest ograniczone do określonych warunków takich jak kontrola zdalna, a nie dotyczy kontroli przeprowadzanej fizycznie na terenie kontrolowanego podmiotu. 212 Aby uniknąć niejasności interpretacyjnych i potencjalnych sporów, przepisy te powinny zostać przeformułowane w sposób klarowny, tak aby jasno określały, kiedy i w jakich okolicznościach zajęcie danych oraz dokumentów jest dopuszczalne, a kiedy nie. Wprowadzenie szczegółowych definicji i jednoznaczne określenie zakresu stosowania poszczególnych przepisów pozwoliłoby na lepsze zrozumienie ich relacji oraz ich stosowania w praktyce. Art. 43 ust. 15 CHAMBER Przewidziana w art. 43 ust. 15 instytucja oddania przedmiotów “osobie godnej zaufania” budzi wątpliwości. W ocenie Izby naraża to na niepotrzebne i nadmierne ryzyko uszkodzenia lub utraty przedmiotów lub dostępu do nich osób nieuprawnionych. Art. 43 ust. 15 Polskie Towarzystwo Informatyczne Przedmioty podlegające zajęciu, o którym mowa w ust. 11, należy po dokonaniu oględzin i sporządzeniu protokołu zajęcia zabrać albo oddać na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Czy nie powinien zostać określony sposób postępowania przy przejęciu i przechowania po „zabraniu” (aby odbywało się to w sposób chroniący potencjalne interesy jednostki kontrolowanej), ponieważ mogą wchodzić w grę np. prawa patentowe itp. Art. 43 ust. 15 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie, kim ma być taka osoba? Jakie ma spełniać kryteria? Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać zasady takie jak: kto to może być i jakie wymagania ma spełnić Art. 43 ust. 15 GRAI Przedmioty mogą posiadać bardzo wrażliwe informacje, które nie powinny trafić do przypadkowych osób, nawet jeżeli są „godne zaufania” (kto ocenia tą godność?). Powinien to być oficjalny depozyt, zabezpieczony w Biurze Komisji. Postuluje się, aby przedmioty były deponowane w zabezpieczonym i przeznaczonym do tego pomieszczeniu w budynku Biura Komisji. Brak definicji osoby “godnej zaufania”, która zapewniałaby zabezpieczenie przedmiotów podlegających zajęciu. W obecnym brzmieniu ustęp ten stwarza szerokie pole do nadużyć. Definicja osoby, której przedmioty można oddać powinna zapewniać, że osoba ta będzie w stanie je zabezpieczać, ze szczególnym uwzględnieniem bezpieczeństwa własności intelektualnej podmiotu kontrolowanego. Art. 43 ust. 15 Fundacja FinTech Poland W przepisie mowa jest o przekazaniu przedmiotów na przechowanie osobie godnej zaufania, jednak nie precyzuje się, kim ta osoba powinna być ani jakie dokładnie kryteria powinna spełniać. Z uwagi na charakter przedmiotów, które mogą podlegać zajęciu (np. nośniki informatyczne, urządzenia elektroniczne, dane wrażliwe), konieczne jest, aby osoba ta miała odpowiednie kwalifikacje oraz zapewniała odpowiednie warunki do przechowywania takich przedmiotów. Powinna to być osoba, która gwarantuje, że przedmioty, w tym dane, będą przechowywane w 213 sposób bezpieczny, w odpowiednich warunkach fizycznych (np. odpowiednie zabezpieczenia przed uszkodzeniem czy utratą danych) oraz zabezpieczenia dostępu do nich. W przypadku nośników informatycznych powinna to być osoba posiadająca niezbędną wiedzę z zakresu przechowywania danych elektronicznych i zarządzania systemami informacyjnymi. Ponieważ w Projekcie brak jest delegacji do wydania rozporządzenia, które mogłoby szczegółowo określić wymagania wobec takich osób, sama ustawa powinna precyzować, kto może pełnić tę rolę. Wskazanie takich kryteriów zapewniłoby większą pewność co do rzetelności oraz bezpieczeństwa przechowywania przedmiotów. Należy zatem wprowadzić zapisy precyzujące, że osobą odpowiedzialną za przechowywanie przedmiotów musi być osoba fizyczna lub prawna posiadająca odpowiednie kompetencje, np. doświadczenie w zakresie przechowywania danych, przeszkolenie w zakresie ochrony informacji, oraz odpowiednie zabezpieczenia techniczne lub organizacyjne. Dzięki temu, przechowywanie zajętych przedmiotów będzie miało wystarczającą gwarancję bezpieczeństwa i zgodności z wymaganiami ochrony danych osobowych oraz innych przepisów prawa. Art. 43 ust. 16 KIGEiT Propozycja zapisu: Dodanie pkt 4) dane osoby kontrolującej oraz dane osoby, która reprezentuje podmiot kontrolowany , Uzasadnienie: kwestie dowodowe. Art. 43 ust. 16 KIGEiT 20. Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. , W jakim trybie, do jakiego organu, za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - jeśli Art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakim terminie może być wniesione zażalenie, o którym mowa w ust. 9 Art. 59 Prawa przedsiębiorców - jeśli na podstawie ust. 16 Art. 59 stosuje się odpowiednio przepisy KPA. Jeśli zażalenie z Art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie różnych trybów/organów w jednym artykule ustawy jest niewskazane. Art. 43 ust. 20 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu poprzez wskazanie, w jakiej formie sprzeciw może zostać wniesiony i jakie są konsekwencje wniesienia sprzeciwu. Art. 43 ust. 20 NRA Art. 43 ust. 20 Projektu w obecnym brzmieniu pozostawia niedookreśloną kwestię właściwości organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji, dotyczące rozstrzygnięcia sprzeciwu kontrolowanego wobec podejmowanej kontroli. Przepis ten, wskazując na możliwość wniesienia sprzeciwu przez podmiot kontrolowany w przypadku naruszenia przepisów, nie precyzuje ani trybu rozpoznawania takiego sprzeciwu, ani właściwości organu, który mógłby rozstrzygnąć ewentualne zażalenie na postanowienie Komisji wydane na gruncie tej procedury. Zgodnie z art. 42 Projektu, w zakresie nieuregulowanym kontrola podlegać ma przepisom rozdziału 5 Ustawy Prawo przedsiębiorców, które to przepisy sugerują per analogiam, iż rozstrzygnięcie Komisji miałoby przyjąć formę postanowienia, które mogłoby podlegać zażaleniu. Jednakże nie jest możliwym, aby na podstawie tego przepisu formułować dalej idącą 214 analogię, która pozwoliłaby jednoznacznie wyjaśnić, czy organem właściwym do rozpoznania zażalenia winna być sama Komisja (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a., w sytuacji braku organu nadrzędnego), czy też może SOKiK, który z uwagi na swoje kompetencje i niezależność mógłby potencjalnie pełnić funkcję w rozstrzyganiu takich spraw. Mając więc na względzie potrzebę skutecznego zabezpieczenia praw podmiotów poddawanych kontroli, wskazanym jest jednoznaczne określenie kognicji w zakresie rozpatrywania sprzeciwu wobec podjęcia i wykonywania kontroli z naruszeniem przepisów. Art. 43 ust. 20 Fundacja FinTech Poland Przepis stanowi, że podmiot kontrolowany ma prawo wnieść sprzeciw wobec podjęcia i wykonywania kontroli, jeśli ta narusza przepisy prawa. Niemniej jednak, przepis nie precyzuje, w jakiej formie sprzeciw ten powinien zostać wniesiony ani jakie są konsekwencje wniesienia takiego sprzeciwu. W związku z tym, należy wskazać, że dla zapewnienia skuteczności tego środka ochrony prawnej, konieczne jest określenie formy, w jakiej sprzeciw powinien być złożony, np. czy powinien to być dokument pisemny, zgłoszenie elektroniczne, czy może inna forma. Ponadto, warto wyjaśnić, co dokładnie oznacza wniesienie sprzeciwu – czy wstrzymuje to wykonanie czynności kontrolnych, czy kontrola może być kontynuowana pomimo sprzeciwu, a w jakim terminie oraz w jakiej formie podmiot kontrolujący ma obowiązek odpowiedzieć na wniesiony sprzeciw. Ważnym zagadnieniem jest także określenie, czy wniesienie sprzeciwu skutkuje zawieszeniem kontroli do momentu jego rozpatrzenia, czy też kontrola będzie mogła być kontynuowana bez przeszkód, a ewentualne skutki wniesienia sprzeciwu rozstrzygnie późniejsze postępowanie. Doprecyzowanie tych kwestii w ustawie zapewniłoby podmiotom kontrolowanym jasność co do ich praw i procedur, jakie mogą podjąć w przypadku stwierdzenia niezgodności działań kontrolujących z przepisami. Ponadto, określenie konsekwencji wniesienia sprzeciwu pomoże uniknąć sytuacji, w której sprzeciw nie miałby rzeczywistego wpływu na przebieg kontroli, co mogłoby skutkować naruszeniem zasady skutecznej ochrony praw podmiotów kontrolowanych. Art. 43 ust. 21 Osoba fizyczna jk Zgodnie z art. 2 ust. 1 ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689. Osoby fizyczne nieprowadzące działalności gospodarczej nie są tam wymienione. Zapis wymaga uzasadnienia. Art. 44 CHAMBER Projekt posługuje się w art. 44 pojęciem “organ kontroli państwowej i ochrony prawa”. W polskim systemie prawa pojęcie to pochodzi z IX Rozdziału Konstytucji RP i obejmuje Najwyższą Izbę Kontroli, Rzecznika Praw Obywatelskich i Krajową Radę Radiofonii i Telewizji. Czy istotnie te organy ma na myśli projektodawca? Nie jest jasne, w jaki sposób mogłyby one “ustalić naruszenie przez podmiot kontrolowany przepisów rozporządzenia”. Art. 44 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Przepis art. 44 Projektu ustawy winien zostać usunięty. Komisja jest organem publicznym, a nie policyjnym. Przepis w aktualnym brzmieniu wyraźnie wskazuje, że Komisja, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. 215 Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym; kontrola Komisji to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod Rozporządzenie 2024/1689 będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów jak ABW, CBŚ, CBA czy inne organy „kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą prowadzić swoje własne kontrole i postępowania. W konsekwencji, postulujemy zmianę treści art. 44 Projektu ustawy na następującą: „Art. 44. Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli.” Art., 44 Fundacja FinTech Poland Zgodnie z art. 44, KRiBSI, może zwrócić się o pomoc do Policji, organów kontroli państwowej i ochrony prawa, a także jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji, jeśli jest to niezbędne do przeprowadzenia kontroli. Tak szerokie uprawnienie w zakresie współpracy z służbami mundurowymi i służbami wywiadowczymi budzi poważne wątpliwości dotyczące zasadności, proporcjonalności oraz zakresu ingerencji w działalność podmiotów kontrolowanych. Po pierwsze, KRiBSI jest organem publicznym odpowiedzialnym za nadzór nad systemami sztucznej inteligencji, a nie instytucją o charakterze policyjnym czy wywiadowczym. Umożliwienie tej instytucji wnioskowania o pomoc ze strony takich służb, jak Policja, ABW, CBA, CBŚ, a nawet wywiad czy kontrwywiad wojskowy, stwarza ryzyko nadużyć i naraża na bezpodstawne wykorzystywanie sił porządkowych w działaniach nadzorczych. Tego rodzaju ingerencja w działalność podmiotów kontrolowanych może prowadzić do nieuzasadnionych działań w ramach kontroli, wykraczających poza zwykłe czynności administracyjne, w tym stosowania metod operacyjnych służb mundurowych, które są przeznaczone do realizacji celów zupełnie innych niż monitorowanie zgodności z przepisami dotyczącymi sztucznej inteligencji. Po drugie, przepisy te mogą wprowadzać niepotrzebne ryzyko naruszenia zasady proporcjonalności, ponieważ nie ma jasnego ograniczenia zakresu i charakteru pomocy, którą KRiBSI może uzyskać od służb porządkowych. Takie uprawnienie może prowadzić do sytuacji, w których pomoc ze strony służb mundurowych będzie wykorzystywana w przypadkach, które nie wymagają aż tak drastycznych działań. Współpraca ta może także stwarzać ryzyko nadmiernej ingerencji w prywatność i ochronę danych osobowych podmiotów kontrolowanych, które muszą współpracować z instytucjami mającymi dostęp do wrażliwych informacji. 216 Proponujemy usunięcie tego przepisu lub wprowadzenie szczegółowych ograniczeń co do zakresu, trybu oraz warunków, w jakich Komisja może się zwrócić do służb porządkowych o pomoc. Warto wprowadzić jasne zasady dotyczące minimalnych kryteriów, które muszą być spełnione, aby mogło dojść do zaangażowania służb, a także precyzyjnie określić, w jakich przypadkach i w jakim zakresie takie działania będą rzeczywiście uzasadnione. Takie przepisy pozwoliłyby na bardziej przejrzyste i kontrolowane wykorzystanie zasobów państwowych w ramach nadzoru nad systemami sztucznej inteligencji, bez niepotrzebnego wprowadzania elementów działania służb, które mogą być postrzegane jako nadmierne i niewłaściwe w kontekście administracyjnego nadzoru nad nowoczesnymi technologiami. Art. 44 Związek Cyfrowa Polska Zaangażowania Policji oraz organów i jednostek. Przewidziana w Projekcie ustawy (art. 44) potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji jest rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dodatkowo, wątpliwości budzi przyznane w art. 44 ust. 2 pkt 3 Projektu uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne. art. 44 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Należy zatem zaproponować nadanie nowego brzmienia art. 44 ust. 2 zd. 1 projektu ustawy o AI ,, Policja, organ kontroli państwowej i ochrony prawa, jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli.” Art. 44 ust. 2 pkt 3 Polskie Towarzystwo Informatyczne Niezrozumiała treść – czy chodzi o wsparcie przez jednostki podległe i nadzorowane przez ministra właściwego? Propozycja „3) jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji polegające na wsparciu podmiotu kontrolującego w ustaleniu stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji i jego zgodności z przepisami rozporządzenia 2024/1689.” Art. 44 ust. 3 Polska Izba Ubezpieczeń Zmiana „pisemnej zgody” w treści projektu ustawy. Art. 44 ust. 3 projektu ustawy zmianę na „Komisja występuje z wnioskiem opatrzonym kwalifikowanym podpisem elektronicznym, podpisem osobistym albo profilem zaufanym o udzielenie pomocy (...)” Art. 45 PWPW ust. 1. Przepis dot. korespondencji za radcą prawnym lub adwokatem 217 Ust. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Przepisy w obecnym brzmieniu powodują ryzyko naruszenia tajemnicy radcowskiej lub adwokackiej. Nie gwarantują one ochrony tej informacji lecz mówią jedynie o pozostawieniu dokumentów i nośników w siedzibie kontrolowanego. Przepis ww. zakresie powinien zostać zmieniony tak aby zapewnić konstytucyjną ochronę tajemnic zawodów zaufania publicznego. Ponadto w ust. 2 użyto nieprecyzyjnego sformułowania „pobieżnie” zapoznanie się z dokumentacją Art. 45 ICC Poland Przewidziana w art. 45 Projektu procedura – choć wzorowana na art. 105da ustawy o ochronie konkurencji i konsumentów5 (poddawanej zresztą krytyce) – budzi poważne wątpliwości z perspektywy efektywnej i pełnej ochrony tajemnicy adwokackiej i radcowskiej. W szczególności zdaje się ona nie uwzględniać braku zróżnicowania na gruncie polskiego ustawodawstwa zakresu tajemnicy zawodowej w zależności od tego, czy mamy do czynienia z prawnikiem zewnętrznym, czy prawnikiem wewnętrznym zatrudnionym na podstawie umowy o pracę (art. 45 ust. 1 pkt 1 Projektu odnosi się tylko do komunikacji między podmiotem kontrolowanym a „niezależnym od kontrolowanego” adwokatem, radcą prawnym lub prawnikiem zagranicznym). Ponadto przewidziane w art. 45 ust. 2 Projektu upoważnienie kontrolującego do zapoznania się „pobieżnie” z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, rodzi poważne ryzyko naruszenia tajemnicy zawodow strony rodzi ono ryzyko zapoznania się przez kontrolującego „przy okazji” również z innymi informacjami niż wymienione w tym przepisie, nawet nieintencjonalnie, z drugiej zaś strony również sam tytuł lub przedmiot pisma może obejmować informacje objęte tajemnicą zawodową. W konsekwencji art. 45 Projektu powinien zostać zrewidowany w kierunku uwzględnienia zarówno powyższych uwag, jak i innych uwag krytycznych, formułowanych w literaturze w odniesieniu do art. 105da ustawy o ochronie konkurencji i konsumentów. Art. 45 PIIT Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych 218 nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to, na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym, a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uprawnienia Komisji nie powinny wykraczać poza uprawnienia Prezesa UOKIK. Art. 45 KIGEiT Propozycja zapisu: Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w Art. 43 ust. 4 pkt 3: 1) zawierają komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu Art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w Art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w 219 toku którego jest przeprowadzana kontrola - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. Jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Art. 45 NRA Art. 45 Projektu powiela rozwiązania zastosowane w art. 105da Ustawy z 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz.U. z 2024 r. poz. 1616; dalej „u.o.k.k.”). Nowelizacja u.o.k.k. wprowadzająca art. 105da (Ustawa z 9 marca 2023 r. o zmianie ustawy o ochronie konkurencji i konsumentów oraz niektórych innych ustaw, Dz.U. z 2023 r. poz. 852) została krytycznie oceniona przez środowiska prawnicze, o czym informował między innymi Instytut Legislacji i Prac Parlamentarnych Naczelnej Rady Adwokackiej w stanowisku z dnia 27 marca 2023 r., znak NRA.015-23.13.2023. Stąd też negatywnie należy się odnieść do propozycji przeniesienia rozwiązań zastosowanych w art. 105da u.o.k.k. na grunt art. 45 Projektu. Brak zmian w zakresie art. 45 Projektu może doprowadzić do jawnego naruszenia zasad tajemnicy zawodowej, w tym m.in. tajemnicy adwokackiej, co najmniej z kilku powodów, opisanych szczegółowo w dalszej części opinii. Art. 45 Polski związek zarządzania wierzytelnościami Art. 45 Projektu Wskazany w art. 45 Projektu proces kontroli komunikacji między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej [...] pozostaje dla nas kontrowersyjny z tytułu zagadnień tajemnicy adwokackiej (por. art. 6 ustawy - Prawo o adwokaturze - Dz.U.2024.1564 t.j.). Bieżące brzmienie nie zakłada wprowadzenia zmian do wyżej wzmiankowanej ustawy (jak ma to miejsce w art. 6. ust. 4 pkt 2 prawa o adwokaturze), a tym samym stworzenia wyjątku od obowiązku zachowania tajemnicy adwokackiej. Brak jednoznacznego ograniczenia budzi wątpliwości w zakresie realizacji samej instytucji tajemnicy zawodowej wymienionych w ustawie osób, a określenie „pobieżnego zapoznania się z pismem lub dokumentem” w ust. 1 pkt 2 tego artykułu Projektu pozostaje nieostre. Postulujemy jasne wskazanie na wyłączenie tajemnicy adwokackiej wraz ze zmianą w ustawie Prawo o adwokaturze, celem uniknięcia niepotrzebnej zwłoki w ramach procedury kontrolnej, włączającej do niej, wynikającej z niniejszego artykułu Projektu, sąd ochrony konkurencji i konsumentów. Art. 45 CHAMBER Przyjęty w art. 45 tryb przekazania dokumentów mogących podlegać tajemnicy adwokackiej do SOKiK celem ich weryfikacji nie uwzględnia zasięgnięcia opinii samego adwokata, radcy 220 prawnego czy prawnika, który powinien mieć możliwość potwierdzenie, że faktyczne dokumenty są przedmiotem tajemnicy zawodowej. Projektodawca deklaruje w uzasadnieniu do projektu ustawy, że “do postępowania przed Komisją w sprawach naruszenia przepisów o sztucznej inteligencji zastosowanie będą miały przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”. Jednakże już w przepisie art. 51 projektu dokonuje bardzo istotnego odstępstwa od tak podstawowej normy, jak określenie strony postępowania (art. 28 KPA). Uzasadnienie milczy na temat przyczyn tej i innych zmian w stosunku do KPA. Art. 45 Polskie Towarzystwo Informatyczne \"Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem (..\", Proponujemy doprecyzować, aby wyjaśnić, o co chodzi Faktycznie takie oświadczenie powoduje, że niemożliwa staje się sama kontrola, gdyż nośniki zawierające taką korespondencję nie mogą zostać przejęte do kontroli poza miejscem kontroli Art. 45 Związek Banków Polskich Art. 45. 1. Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3: 1) zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub 3) zawierają informacje objęte tajemnicą zawodową - kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli. 221 Aktualne brzmienie art. 45 projektowanej ustawy stwarza poważną możliwość naruszenia tajemnicy zawodowej związanej z wykonywaniem zawodu zaufania publicznego m.in adwokata czy radcy prawnego. Jednocześnie wskazać należy, że podobne rozwiązanie zostało zaimplementowane do ustawy o ochronie konkurencji i konsumentów, dokładniej w art. 105da, co jednak nie oznacza, że przedmiotowe rozwiązanie jest rozwiązaniem słusznym i poprawnym. Nie ulega wątpliwości, że wprowadzenie powołanego powyżej przepisu doprowadziło do dużego sprzeciwu ze strony środowisk prawniczych. Wskazać należy, że zastosowanie tego typu mechanizmu w jednej ustawie nie przesądza o jego prawidłowości. Podkreślić należy, że tajemnica zawodowa, w tym adwokacka, jak i radcowska stanowi niezbędny element proceduralnego systemu ochrony praw i wolności. Co więcej, nie ulega wątpliwości, że ochrona tajemnicy zawodowej przedstawicieli wspomnianych zawodów zaufania publicznego wymaga istnienia w obrocie prawnym odpowiednich przepisów, które nie tylko ustanawiają tajemnicę, ale również gwarantują jej ochronę. Poszanowanie tajemnicy zawodowej wymaga także określonych standardów zachowania ze strony władzy publicznej, w tym ze strony organów. Ochrona tajemnicy zawodowej ma fundamentalne znaczenie z perspektywy relacji prawnik- podmiot kontrolowany. Przedstawiony przepis budzi poważne wątpliwości dotyczące ochrony poufności informacji, zwłaszcza w kontekście relacji bank-klient. Przepis ten, w obecnym brzmieniu, pozwala na zbyt szeroki dostęp do informacji, które powinny być objęte bankową tajemnicą zawodową. Główne zastrzeżenia: Przepis nie precyzuje, jakie informacje powinny być uznane za objęte ochroną. W konsekwencji, może prowadzić do arbitralnej interpretacji i nadmiernego ujawniania informacji o kliencie. Pozwolenie na pobieżne zapoznanie się z dokumentami może prowadzić do przypadkowego ujawnienia informacji, które powinny być chronione. W odniesieniu do propozycje rozszerzenia przepisu o chmurę obliczeniową - zgodnie z Komunikatem chmurowym KNF “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje wątpliwości interpretacyjne w zakresie dostępu Komisji do danych znajdujących się w chmurze. Art. 45 Związek Cyfrowa Polska Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45). Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot 222 kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1). Jednocześnie art. 45 ust 2, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 Związek Pracodawców Technologii Cyfrowych Lewiatan Kontrola komunikacji pomiędzy podmiotem kontrolowanym, a adwokatem/radcą prawnym (art. 45 USS) Przepisy projektu ustawy, regulujące postępowanie kontrolne, prowadzone przez Komisję, w stosunku do podmiotów zobowiązanych do przestrzegania AI Act, nakazują pozostawienie w miejscu kontroli pisma lub dokumenty, w przypadku złożenia oświadczenia przez podmiot kontrolowany/upoważnioną osobę, że takie pismo lub dokumenty, zawierają komunikację, pomiędzy podmiotem, a niezależnym od niego adwokatem/radcą prawny/ prawnikiem UE (art. 45 ust. 1 USS). Jednocześnie art. 45 ust 2 USS, wprowadza możliwość “pobieżnego zapoznania się” przez kontrolujący organ z treścią dokumentu, co do którego kontrolowany podmiot złożył stosowne oświadczenie. To “pobieżne zapoznanie się” w ocenie prawodawcy, ma służyć ustaleniu “autora, adresata, tytułu oraz przedmiotu i daty pisma”. W praktyce oczywiście oznacza zapoznanie się z treścią dokumentu (co najmniej jego fragmentami), a tym samym prowadzi do jednoznacznego naruszenia tajemnicy komunikacji pomiędzy klientem, a reprezentującym go prawnikiem. Należy bowiem pamiętać, że przedmiotowa tajemnica, na gruncie obowiązujących przepisów (szczególnie prawa o adwokaturze i ustawy o radcach prawnych) nie dopuszcza tego rodzaju wyjątków, na rzecz osób trzecich. Zaproponowane rozwiązanie, jest to tym bardziej nieuzasadnione, że art. 45 ust. 3 USS przewiduje możliwość przekazanie przedmiotowego dokumentu (bez zapoznawania się z treścią przez organ kontrolujący) w gestię Sądu OKiK, celem weryfikacji, jeśli oświadczenie złożone przez podmiot kontrolowany, budzi wątpliwości. Tym samym, postulujemy wykreślenie art. 45 ust. 2 USS w obecnym brzmieniu. Art. 45 ust. 1 e-Izba Rekomendujemy usunięcie z treści przepisu „niezależnym od kontrolowanego”. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium „zależności\" 223 od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest „niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są „niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona „niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. Art. 45 ust. 1 Fundacja FinTech Poland Postanowienie zawarte w Projekcie Ustawy, w którym mowa o \"niezależnym od kontrolowanego\" adwokacie, radcy prawnym czy prawniku z Unii Europejskiej powinno zostać usunięte lub zmodyfikowane. Polskie prawo nie przewiduje podziału ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta. Każdy radca prawny i adwokat jest niezależny. Projektowane postanowienie faktycznie ogranicza prawo kontrolowanego do pomocy prawnej, ponieważ: naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ może wysunąć interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Podsumowując, postanowienie o \"niezależnym od kontrolowanego\" prawnym przedstawicielu należy usunąć, aby zapewnić pełne prawo do ochrony prawnej, zgodnie z konstytucyjną zasadą praworządności. W przeciwnym razie, interpretacja obecnych przepisów może prowadzić do ograniczenia możliwości korzystania z pomocy prawnej. Art. 45 ust. 1 pkt 1 PIRP w katalogu podmiotów korespondujących proponuje się dodać po sformułowaniu „adwokatem, radcą prawnym”, po przecinku, sformułowania „rzecznikiem patentowym” Art. 45 ust. 1 pkt 1 Związek Przedsiębiorstw Postulujemy usunięcie w art. 45 ust. 1 pkt 1 Projektu ustawy fragmentu: „a niezależnym od kontrolowanego”. 224 Finansowych w Polsce (ZPF) Fragment ten w istocie umniejsza prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Naszym zdaniem, ten fragment może naruszać zasadę praworządności i faktycznie pozbawić kontrolowanego ochrony prawnej. Art. 45 ust. 1 pkt 1 ISSA Polska Nadmiarowe ograniczenie wprowadzone zwrotem “niezależnym od kontrolowanego adwokatem, radcą prawnym (...)”. Tajemnica zawodowa istnieje bez względu na zależność lub niezależność. Nie wiadomo również w jaki sposób miałaby zostać określona ta niezależność. Nie ma powodu aby uznawać, że adwokat zatrudniony przez kontrolowanego na umowę o pracę jest zależny, a pracujący na zlecenie lub B2B już nie. Art. 45 ust. 1 pkt 1 GRAI Przepis bezzasadnie różnicuje prawnika zewnętrznego od wewnętrznego (analogiczne rozwiązanie jest mocno krytykowanie na gruncie ustawy o OKiK) Skreśla się słowa „niezależnym od kontrolowanego” Art. 45 ust. 1 pkt 1 i 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż dokumenty opisane w art. 45 ust. 1 pkt 1 i 2 Projektu ustawy objęte są tajemnicą radcowską/adwokacką, i nie powinny być przedstawiane do wglądu w miejscu kontroli. Ponadto wnosimy o doprecyzowane, co, jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty? Art. 45 ust. 1 pkt. 1 - 2 NRA Art. 45 ust. 1 pkt 1 Projektu przewiduje ochronę tajemnicy zawodowej jedynie w odniesieniu do pisemnej komunikacji między podmiotem kontrolowanym a „niezależnym” adwokatem, która została sporządzona wyłącznie w celu uzyskania ochrony prawnej w związku z przedmiotem kontroli. Użycie w treści przepisu określenia „niezależny adwokat” budzi poważne wątpliwości. Konstrukcja ta jest nie tyle zbędna, ile zwyczajnie myląca, bowiem ustawowy obowiązek niezależności jest fundamentem wykonywania zawodu adwokata. Charakter zawodu adwokata 225 zakłada niezależność i swobodę zawodową, a stosowanie sformułowania „niezależny” może sugerować istnienie adwokatów „zależnych”, co pozostaje w sprzeczności z obowiązującymi przepisami oraz etyką adwokacką. Tym samym wprowadzenie tego pojęcia w art. 45 ust. 1 pkt 1 Projektu grozi powstaniem niejasności interpretacyjnych, które mogą podważyć status i autonomię adwokatów. Z tego względu postuluje się, aby przepis ten odnosił się do komunikacji z adwokatem bez wskazywania na jego „niezależność”, co zapobiegnie błędnej interpretacji i będzie zgodne z fundamentalnymi zasadami adwokatury. Wątpliwości budzi również bardzo wąski zakres ochrony tajemnicy zawodowej przyjęty w art. 45 ust. 1 pkt 1 oraz pkt 2 Projektu. Art. 45 ust. 1 pkt 1 Projektu ogranicza zakres tajemnicy zawodowej do pisemnej komunikacji wytworzonej „w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ”. Na podobnej zasadzie art. 45 ust. 1 pkt 2 Projektu ogranicza zakres tajemnicy zawodowej do pism lub dokumentów sporządzonych „wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej”. Z uwagi na fakt, że rzeczywisty zakres tajemnicy zawodowej jest znacznie szerszy, wskazane regulacje powinny obejmować całą komunikację pomiędzy podmiotem kontrolowanym a osobą, o której mowa w art. 45 ust. 1 pkt 1 Projektu, jeżeli komunikacja ta jest prowadzona w celu realizacji prawa kontrolowanego do uzyskania ochrony lub pomocy prawnej. Pochylając się szczegółowo nad zasygnalizowanym wyżej zagadnieniem, konieczną pozostaje także analiza wymagania, aby przedmiotowa komunikacja była „wytworzona” a pisma i dokumenty „sporządzone” wyłącznie w celu uzyskania ochrony prawnej. Taka redakcja przepisów sugeruje, że chroniona przed ujawnieniem jest tylko ta komunikacja oraz tylko te pisma i dokumenty, które od początku zostały stworzone (wytworzone) jako część działań prawnych, związanych z ochroną interesów podmiotu kontrolowanego w toku konkretnego postępowania. Taka interpretacja wyklucza z kolei „materiały”, które powstały wcześniej lub zostały sporządzone w innym celu, lecz mogą być istotne dla ochrony interesów podmiotu kontrolowanego (jego obrony) w danej sprawie i są wykorzystywane na potrzeby danego postępowania. Dodatkowo określenia „wytworzone” i „sporządzone” (wyłącznie w celu realizacji prawa do ochrony prawnej w przedmiotowym postępowaniu) mogą prowadzić do zawężającej interpretacji, która ogranicza ochronę tylko do dokumentów mających bezpośredni związek z bieżącym postępowaniem. W praktyce jednak niektóre dokumenty, choć nie zostały przygotowane wyłącznie na potrzeby konkretnego postępowania, mogą być wykorzystywane w ramach analizy prawnej, związanej z bieżącą kontrolą. W takiej sytuacji kontrolujący mógłby argumentować, że dokumenty te nie spełniają przesłanki wyłącznego celu ochrony prawnej, co naraża podmiot kontrolowany na ujawnienie szerszego zakresu materiałów, niż jest to konieczne. W związku z powyższym wprowadzenie tak ścisłego kryterium „wytworzenia” czy „sporządzenia” wyłącznie dla konkretnego celu może ograniczać ochronę i nie odpowiadać potrzebom praktyki, w której często wykorzystuje się dokumenty powstałe w innym kontekście, ale nadal objęte tajemnicą zawodową (na gruncie innych regulacji). W tej sytuacji korekta wymagałaby jedynie wykreślenia tych limitujących 226 sformułowań. Analiza porównawcza art. 43 ust. 4 pkt 3 z art. 45 ust. 1 i 2 Projektu prowadzi do wniosku, że zakres wyłączenia z art. 45 ust 1 może być niewystarczający by powstrzymać szerokie uprawnienia kontrolującego w toku kontroli. Art. 43. ust. 4 pkt 3 przyznaje kontrolującemu prawo do żądania dostępu do: „akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp”. Natomiast art. 45 ust 1 odnosi się jedynie do: „ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 [...] zawierają pisemną komunikację między podmiotem kontrolowanym a niezależnym od kontrolowanego adwokatem [...] wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub zostały sporządzone wyłącznie w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola”. Wobec powyższego możliwa zdaje się niekorzystna z perspektywy kontrolowanego interpretacja, że wyłączenie uprawnienia do żądania udostępnienia nie obejmuje wszystkiego tego, co znajduje się w aktach czy na informatycznych nośnikach danych, w urządzeniach lub w systemach informatycznych, a dotyczy jedynie pism i dokumentów. Warto nadmienić, że pojęcie „dokumenty” jest bardzo szerokie i może przykładowo obejmować: notatki własne, materiały dowodowe, dane analityczne itp. W tej sytuacji zasadnym zdaje się rozważenie, czy praktycznym nie byłoby powołanie się wprost na treść przepisu z art. 43 ust. 4 pkt 3. Mając na uwadze dotychczasowe rozważania, uzasadniona jest konstatacja, że kwestionowane przepisy jawią się jako nadmiernie zawężające. W praktyce może to prowadzić do wykluczenia spod ochrony wszelkich materiałów, które powstały pierwotnie w innym celu, lecz które adwokat lub osoba kontrolowana uznali za przydatne dla obrony prawnej w bieżącym postępowaniu. Co istotne tajemnica adwokacka obejmuje całość komunikacji klienta z adwokatem, a szczególne znaczenie ma tutaj możliwość bezpiecznego korzystania z dokumentów, które mogą być kluczowe dla sprawy, nawet jeśli powstały wcześniej. Wprowadzenie wąskiej klauzuli ograniczającej ochronę jedynie do dokumentów wytworzonych „wyłącznie” na potrzeby postępowania może prowadzić do sytuacji, w której organ kontrolujący będzie miał dostęp do informacji poufnych, co stoi w sprzeczności z zasadą ochrony tajemnicy zawodowej. Proponuje się zatem rozszerzenie przepisów, aby obejmowały wszelką komunikację między podmiotem kontrolowanym a adwokatem (radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników 227 zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej lub osobą, o której mowa w art. 2a tej ustawy), prowadzoną w celu realizacji prawa do uzyskania pomocy prawnej, bez względu na pierwotny cel sporządzenia dokumentu. Taka zmiana pozwoli uniknąć nadużyć i zapewni ochronę tajemnicy zawodowej zgodną ze standardami adwokatury. Art. 45 ust. 2 NRA Warto również odnotować, że przepis art. 45 ust. 1 in fine, zobowiązujący kontrolującego do pozostawienia dokumentów objętych ochroną na miejscu kontroli, może budzić wątpliwości co do zakresu i sposobu przeprowadzania kontroli dokumentów związanych z tajemnicą zawodową. Jeśli intencją przepisu jest wyłączenie określonych dokumentów spod kontroli, sformułowanie powinno wyraźnie wskazywać, że dokumenty te nie podlegają kontroli (w odróżnieniu od „pobieżnego zapoznania się” z art. 45 ust. 2), ani dalszemu przeglądowi („pobieżnemu zapoznaniu się”), weryfikacji, kopiowaniu, powielaniu, utrwalaniu, czy w ogóle realizowaniu praw przewidzianych w art. 43 ust. 4 (z zastrzeżeniem art. 45 ust. 2) przez kontrolujących. Obecne brzmienie sugeruje jedynie, że dokumenty mają zostać pozostawione na miejscu, ale nie precyzuje kategorycznego zakazu kontroli, od którego odstępstwem mogłoby być ewentualnie zawarte w ust. 2 „pobieżne zapoznanie się”. W kontekście art. 45 Projektu kluczowe znaczenie mają także przepisy powiązane, w szczególności art. 43, który określa szerokie uprawnienia kontrolne KRiBSI. Art. 43 ust. 1 pkt 2 Projektu przewiduje, że kontrolującymi mogą być osoby „posiadające wiedzę specjalistyczną” w zakresie systemów sztucznej inteligencji, jednak projekt nie precyzuje, kim dokładnie są osoby o takiej „wiedzy specjalistycznej”, jakie mają kwalifikacje i w jaki sposób zapewniona jest ich niezależność. Brak doprecyzowania tej kwestii rodzi ryzyko, że osoby nieuprawnione, niemające odpowiednich kwalifikacji, a być może również powiązane zawodowo z konkurencyjnymi podmiotami, mogłyby uzyskać dostęp do dokumentacji kontrolowanego podmiotu, która zawiera informacje objęte tajemnicą zawodową, w tym adwokacką. Praktyka ta mogłaby prowadzić do naruszenia tajemnicy zawodowej oraz udostępnienia informacji, które są chronione nie tylko ze względu na interes klienta, ale również z uwagi na szczególne zaufanie społeczne, jakim obdarzony jest zawód adwokata. Art. 43 ust. 3 zawiera natomiast sformułowanie „szczególne okoliczności”, które uzasadniają zwiększone uprawnienia kontrolne Komisji. Przepis ten jest jednak zbyt ogólny i nie definiuje, co ustawodawca rozumie przez „szczególne okoliczności”. Pozostawienie tego terminu bez doprecyzowania otwiera możliwość różnorodnych, arbitralnych interpretacji i uznaniowości ze strony organów kontrolujących, co w kontekście ochrony tajemnicy zawodowej może być szczególnie niebezpieczne. Sugeruje się wprowadzenie katalogu przykładów „szczególnych okoliczności”, które mogłyby uzasadniać takie uprawnienia kontrolne, a jednocześnie zachowanie otwartego charakteru tego katalogu, co umożliwiłoby elastyczność stosowania przepisu bez ryzyka dowolności w jego interpretacji. Art. 45 ust. 2 e-Izba Aktualne brzmienie tego przepisu nie gwarantuje pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o sztucznej inteligencji, w tym informacji objętych tajemnicą adwokacką/radcowską. Z perspektywy zapewnienia powszechnie dostępnej i bezpiecznej sztucznej inteligencji istotne jest zagwarantowanie bezpieczeństwa prawnego i gospodarczego 228 przedsiębiorców, którzy będą wykorzystywać i udostępniać systemy sztucznej inteligencji użytkownikom, w tym konsumentom. Z punktu widzenia bezpieczeństwa prawnego kontrolowanych przedsiębiorców istotne jest zapewnienie pełnej ochrony informacji wskazanych w art. 45 ust. 1 projektu ustawy o systemach sztucznej inteligencji. W związku z powyższym, proponujemy wyłączenie z treści aktualnego brzmienia art. 45 ust. 2 projektu ustawy o systemach sztucznej inteligencji możliwości „pobieżnego zapoznania się” przez osobę wykonującą czynności kontrolne z treścią dokumentu. Wówczas – w przypadku złożenia oświadczenia, o którym mowa w ust. 1 tego przepisu – oraz powzięciu wątpliwości co do jego zasadności – dokument powinien zostać przekazany do Sądu Ochrony Konkurencji i Konsumentów, zgodnie z przewidzianą w aktualnym brzmieniu tego przepisu procedurą. Art. 45 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Prawo organu do „pobieżnego zapoznania się\" z dokumentem objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie zweryfikować, czy pracownik Komisji rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo zażądać zwrotu dokumentu od kontrolującego lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. „pobieżnego\" zapoznania się z dokumentem Komisja może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Postulujemy zmianę treści art. 45 ust. 2 poprzez usunięcie zdania pierwszego i pozostawienie przepisu w brzmieniu: „2. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe.” Art. 45 ust. 2 GRAI Ust. 2 stanowi naruszenie tajemnicy zawodowej adwokata i radcy prawnego poprzez nawet pobieżne zapoznanie się treścią pism lub dokumentów. Propozycja usunięcia ust. 2 i zmiany numeracji ustępów w art. 45. Treść przepisu, jest kalką z ustawy OKiK, ale nie uwzględnia, że zasadą na gruncie ustawy mają być zdalnie, czego nie zauważa przepis. Art. 45 ust. 2 ISSA Polska Wskazujemy na ryzyko naruszenia tajemnicy zawodowej. Kontrolujący może zapoznać się z autorem, adresatem, tytułem oraz przedmiotem pisma lub dokumentu zawierającego m.in. tajemnicę zawodową oraz datą jego sporządzenia. Wydaje się, że przepis ten nadaje kontrolującemu większe prawa niż w podobnej sytuacji art. 225 par. 1 Kodeksu postępowania karnego: Jeżeli kierownik instytucji państwowej lub samorządowej albo też osoba, u której dokonano zatrzymania rzeczy lub u której przeprowadza się przeszukanie, oświadczy, że wydane 229 lub znalezione przy przeszukaniu pismo lub inny dokument zawiera informacje niejawne lub wiadomości objęte tajemnicą zawodową lub inną tajemnicą prawnie chronioną albo ma charakter osobisty, organ przeprowadzający czynność przekazuje niezwłocznie pismo lub inny dokument bez jego odczytania prokuratorowi lub sądowi w opieczętowanym opakowaniu. Art. 45 ust. 2 Fundacja FinTech Poland Prawo organu do „pobieżnego zapoznania się” z dokumentem objętym tajemnicą radcowską lub adwokacką budzi istotne wątpliwości i powinno zostać wyeliminowane, ponieważ narusza ochronę tajemnicy zawodowej i prawo do pomocy prawnej. Kontrolowany nie ma praktycznej możliwości nadzorowania, czy pracownik KRiBSI rzeczywiście ogranicza się jedynie do „pobieżnego” wglądu, czy też nie przekracza tej granicy, wchodząc w meritum dokumentu. Pojęcie „pobieżności” jest niewystarczająco precyzyjne, co prowadzi do pytania, czy oznacza to np. krótki czas patrzenia, po którym kontrolowany miałby prawo przerwać dostęp do dokumentu, czy też istnieją inne, nieokreślone kryteria. Tzw. „pobieżne” zapoznanie się z dokumentem stwarza realne ryzyko, że pracownik KRiBSI uzyska dostęp do informacji objętych tajemnicą, co jest sprzeczne z zasadami ochrony takich informacji i wykracza poza uprawnienia kontrolujących. Tego rodzaju praktyki mogą naruszać prawa chronione konstytucyjnie, w tym prawo do rzetelnej pomocy prawnej (art. 42 ust. 2 i art. 51 Konstytucji RP). Postulowane brzmienie przepisu: Art. 45 ust. 2 Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Art. 45 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie przepisu, albowiem aktualnie nie jest wiadomym w jaki sposób ma dojść do przekazania dokumentu, skoro z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Art. 45 ust. 3 Fundacja FinTech Poland Treść przepisu powoduje wątpliwości w jaki sposób kontrolujący ma przekazać pismo lub dokument sądowi, skoro zgodnie z ust. 1 in fine („kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli”) nie ma dostępu do takich dokumentów po ich pozostawieniu w miejscu kontroli. Taka sytuacja stwarza problem praktyczny – kontrolujący nie może efektywnie spełnić obowiązku przekazania dokumentów sądowi, jeśli wcześniej nie ma możliwości ich fizycznego zabezpieczenia lub zabrania. 230 Ustawa powinna jednoznacznie precyzować, jak kontrolujący może postąpić w przypadku wystąpienia wątpliwości, aby zachować zgodność z regulacjami dotyczącymi ochrony dokumentów, a jednocześnie umożliwić skuteczne wykonanie obowiązku ich przekazania. Art. 45 ust. 5 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Sąd drugiej instancji powinien być związany takim samym terminem jak Sąd Ochrony Konkurencji i Konsumentów, żeby prawo do złożenia zażalenia było realne. W konsekwencji, postulujemy zmianę treści art. 45 ust. 5 Projektu ustawy na następującą: „5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 45 ust. 5 Fundacj FinTech Poland Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne. Postulowane brzmienie przepisu: Art. 45 ust. 5 Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia Art. 46. PWPW Projekt ustawy nie wskazuje trybów doręczeń np. na adres do doręczeń elektronicznych lub inny wskazany adres elektroniczny przez kontrolowanego itp. Ma to istotne znaczenie w kontekście liczenia terminów np. na wniesienie uwag do wystąpienia pokontrolnego. Art. 46 ust. 1 i 4 PIIT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia 231 zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów uodo i uokk, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. Art. 46 ust. 1 i 4 KIGEiT Art. 46. 1. Z przeprowadzonej kontroli sporządza się projekt wystąpienia pokontrolnego. Projekt wystąpienia pokontrolnego przekazuje się podmiotowi kontrolowanemu. (...) 4.W razie zgłoszenia zastrzeżeń, o których mowa w ust. 3, kontrolujący dokonuje ich analizy i w razie potrzeby, podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część wystąpienia pokontrolnego w formie aneksu do wystąpienia pokontrolnego. , Czy \"wystąpienie pokontrolne\" nie może się po prostu nazywać \"protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKiK, UODO. Ust. 4 jest kalką np. przepisów UODO i UOKiK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie \"aneksu do wystąpienia\", bo samo \"wystąpienie\" jeszcze nie powstało. art. 46 ust. 8 SKwP W naszej ocenie, powinna być możliwość odwołania. Art. 47 PIIT 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać 232 zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu powszechnego (SOKiK?). Art. 47 KIGEiT Propozycja zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. , Jaką formę mają przyjąć zalecenia? Kto ma je wydawać - cała Komisja - w jakiej formie (uchwały?)? Tryb zaleceń pokontrolnych przewidziany jest w niektórych sprawach w postępowaniu przed KNF - ale służy od nich środek odwoławczy w postaci zastrzeżeń. Nieuwzględnienie zastrzeżeń wymaga formy decyzji, od której służy odwołanie do WSA. Zalecenie pokontrolne - których zakres nie jest sprecyzowany mogą powodować poważne skutki, w tym finansowe po stronie kontrolowanego. Jeśli więc maja być wydawane musi zostać zapewniona odpowiednia ścieżka odwoławcza od nich - np. na wzór wskazanej wyżej z ustawy o nadzorze rynku finansowego, ale nie do WSA a do właściwego sądu. Art. 47 ust. 1. PWPW Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń. Należy doprecyzować jakie są skutki prawne zaleceń pokontrolnych jeżeli nie można się od nich odwołać? Jest to szczególnie istotne z punktu widzenia następnego przepisu, tj. art. 48 projektu – który wprost wskazuje na wykrycie naruszeń AI act. Należy zatem przyjąć, że zalecenia pokontrolne mogą wskazywać na kwestie, które nie stanowią naruszenia AI act. Przyjmując natomiast ten punkt widzenia należy zadać pytanie co się stanie jeżeli zalecenia nie zostaną zrealizowane (np. w części). art. 47 ust. 2 SKwP Tak nie powinno być. Każda kontrola musi mieć przewidzianą możliwość odwołania się od jej ustaleń, mogą przecież pojawić się błędy czy zwyczajne pomyłki w dokonanych ustaleniach, zatem odwołanie musi być przewidziane. art. 47 ust. 3 Związek Przedsiębiorstw Wnosimy o zmianę treści art. 47 ust. 3 Projektu ustawy na następującą: 233 Finansowych w Polsce (ZPF) „3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń.” Art. 47 ust. 3 Związek Banków Polskich Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 60 dni, informuje Komisję o sposobie wykonania zaleceń. Wydaje się, że w interesie podmiotów objętych zakresem projektowanej ustawy zasadnym jest wskazanie minimalnego terminu na wypełnienie ciążącego na nich obowiązku. Przedmiotowy projekt ustawy powinien nie tylko obejmować ochroną prawa użytkowników, ale jak również obejmować ochroną podmioty wykonujące działalność w związku z rozporządzeniem 2024/1689 m.in. dla celów rozwoju innowacyjności. Art. 47 ust. 3 Fundacja FinTdch Poland W ustawie powinien zostać ustalony minimalny termin na przekazanie informacji o sposobie wykonania zaleceń, aby zagwarantować podmiotowi kontrolowanemu odpowiedni czas na zorganizowanie, wdrożenie i przedstawienie szczegółowych informacji związanych z realizacją zaleceń. Określenie minimalnego terminu chroni przed potencjalnym nadużyciem poprzez wyznaczanie zbyt krótkich okresów, które mogłyby skutkować niekompletnym lub powierzchownym wykonaniem zaleceń. Postulowane brzmienie przepisu Art. 47 ust. 3. Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. art. 48 Uwaga redakcyjna - podwójny przecinek ze spacją pośrodku. Po słowach „w toku kontroli” skreśla się przecinek oraz następujący po nim znak spacji. art. 48 KIG Proponujemy dodanie po art. 48 dodatkowego artykułu w brzmieniu: Kontrolę prowadzi się w sposób możliwie najmniej uciążliwy dla kontrolowanego, w szczególności, bez uzasadnionych przesłanek w postaci co najmniej uprawdopodobnienia naruszenia przepisów rozporządzenia 2024/1689, nie stosuje się środków wskazanych w art. 43 ust. 4 pkt 6 i 9. W przypadku naruszenia tajemnicy przedsiębiorstwa kontrolowanego odpowiedzialność odszkodowawczą ponosi Skarb Państwa. Art. 48 Fundacja FinTech Poland Przepis art. 48 nie precyzuje procedury, zgodnie z którą Komisja, jako organ kolegialny, ma stwierdzić, że na podstawie informacji zgromadzonych w toku kontroli mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. W związku z tym pojawia się niejasność co do 234 tego, czy decyzja ta powinna być podejmowana kolegialnie, np. w drodze głosowania wszystkich członków Komisji, czy też czy może zostać podjęta przez Przewodniczącego działającego samodzielnie. Brak sprecyzowanej procedury stwierdzania takich faktów rodzi ryzyko dowolności i może prowadzić do niejasności w zakresie odpowiedzialności za podjęte działania. Warto, aby ustawa wyraźnie określała, czy decyzja o wszczęciu postępowania ma być podejmowana na forum Komisji jako całości, w ramach głosowania z odpowiednią większością głosów, czy też powinna być delegowana Przewodniczącemu z określeniem warunków, pod jakimi takie działanie jest możliwe. Takie wyjaśnienie zapewniłoby transparentność procesu decyzyjnego oraz jasność co do podziału kompetencji wewnątrz organu. Proponowane doprecyzowanie może polegać na dodaniu zapisu, który precyzuje, że stwierdzenie naruszenia i decyzja o wszczęciu postępowania wymaga formalnej uchwały Komisji, np. podjętej większością głosów, lub alternatywnie określa, że decyzję podejmuje Przewodniczący na podstawie informacji przekazanych przez kontrolujących z odpowiednim umotywowaniem i zatwierdzeniem przez organ. Rozdział 4 GRAI Sugeruje wprowadzenie przepisów dotyczących postępowania z dokumentacją związaną z systemami sztucznej inteligencji na wypadek upadłości. Należy jasno uregulować co dzieje się z dokumentacją w sytuacji upadłości. Rozdział 4 GRAI Sugeruje rozważenie wprowadzenie trybu weryfikacji czy dochodzi do podejrzenia dyskryminacji algorytmicznej (odpowiedni nowy środek prawny). Uzyskane wyniki zyskałyby walor dowodowy w procesie cywilnym. Odbiorcy usług publicznych (np. Pacjenci) byliby informowani o ustaleniach i w określonym terminie mogliby skorzystać z prawa do weryfikacji swojego przypadku przed sądem. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Rozdział 4 Fundacja Panoptykon Prawa skarżących Doceniamy wprowadzenie w Rozdziale 4 projektu ustawy szczegółowych przepisów dotyczących postępowania przed organem nadzoru, w szczególności postępowania w następstwie skargi złożonej zgodnie z art. 85 rozporządzenia w sprawie sztucznej inteligencji. W naszej opinii doprecyzowania wymaga jednak, jakie prawa przysługują osobie składającej skargę. Analiza przepisów Rozdziału 4 sugeruje, że intencją projektodawcy byłonieprzyznanie osobie skarżącej statusu strony postępowania. Zgodnie bowiem z art. 51 projektu ustawy stroną postępowania jest wyłącznie podmiot, wobec którego wszczęto postępowanie. Choć art. 56 projektu ustawy przewiduje, że w zakresie nieuregulowanym ustawą stosuje się przepisy Kodeksu postępowania administracyjnego, interpretujemy art. 51 w ten sposób, że wprowadza on odrębne od k.p.a. regulacje co do statusu strony, inspirowane rozwiązaniami zastosowanymi w podobnych przepisach regulujących nadzór nad rynkiem i w prawie ochrony konkurencji i konsumentów, gdzie konsument nie jest uznawany za stronę postępowania przed UOKiK. 235 Zakładamy, że takie rozwiązanie zostało wprowadzone w celu uniknięcia ryzyka wydłużenia postępowania oraz utrzymania modelu regulacyjnego rozporządzenia w sprawie sztucznej inteligencji, inspirowanego przepisami o nadzorze rynku i produktów. Dostrzegamy jednak problem, że w obecnym kształcie projektu ustawy osoba skarżąca nie będzie miała dostępu do informacji o tym, co stało się z jej skargą, czy na jej podstawie wszczęto postępowanie, ani jakie były jego wyniki. Postulujemy zatem wprowadzenie w projekcie ustawy przynajmniej prawa do uzyskania informacji zwrotnej o wyniku postępowania oraz dostępu do uzasadnienia decyzji. Rozdział 4 GRAI Sugeruje uregulowanie procedury zabezpieczenia systemów AI w sytuacji gdy odpadła podstawa prawna do wykorzystania odpowiednich danych do treningu. Art. 49 KIGEiT Propozycja zapisu: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykuł 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w Art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone, że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsiębiorcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. kultury, ale już nie minister sprawiedliwości, technologii? Art. 49 Fundacja FinTech Poland Zgodnie z aktualnym brzmieniem art. 49 ust. 1 pkt 1 Projektu Ustawy, komisja wszczyna postępowanie m.in. z urzędu. W tym miejscu należy wyraźnie podkreślić, że w projektowanej ustawie nie zostały wskazane jakiekolwiek przesłanki, czy też kryteria do wszczęcia postępowania z urzędu. Wydaje się, że 236 aktualne brzmienie przedmiotowego przepisu prowadzi do wniosku, iż komisja jest uprawniona do wszczęcia postępowania bez uzasadnionej, ale i konkretnej przyczyny. W celu ograniczenia uznaniowości organu kontrolnego warto rozważyć doprecyzowanie sytuacji, w których wszczęcie postępowania kontrolnego będzie szczególnie uzasadnione. Mogą to być np. sygnały o poważnych zagrożeniach dla bezpieczeństwa lub prywatności obywateli, skargi złożone przez wiele podmiotów lub wyniki wstępnych analiz wskazujące na naruszanie przepisów. Obecny przepis nosi ryzyko uznaniowości i paraliżu podmiotu kontrolowanego Art. 49 pkt 2 PIIT Rekomendacja: usunięcie pkt 2) albo co najmniej do zmiany: Komisja może wszcząć postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia. 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Po pierwsze, Komisja powinna mieć prawo, ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, Czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony, dlaczego np. Minister ds. Kultury, ale już nie minister sprawiedliwości, technologii? art. 49 ust. 2 KIGEiT Rekomendacja: Wnosimy o wykreślenie 237 Nie jest uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. art. 49 ust. 2 i 3 GRAI Zbyt szerokie uprawnienie do dostępu do treści stanowiących z jednej strony tajemnicę adwokacką lub radcowską, a z drugiej strony stanowiących prawo podmiotu kontrolowanego do uzyskania ochrony prawnej. Ponadto kolejny ustęp wskazujący na uprawnienie do przekazania dokumentu zawierającego treść objętą tajemnicą tylko na podstawie przeświadczenia kontrolującego o powstaniu wątpliwości stworzy pole do nadużyć i niekontrolowanego używania tego uprawnienia. Postuluje się usunięcie ust. 2 i 3 w całości. Art. 49 ust. 2 pkt. 3 PIIT Proponujemy usunąć, aby nie zaistniał skutek, że każda skarga obliguje Komisję do wszczęcia postępowania administracyjnego. Duża ilość skarg może spowodować blokadę działalności Komisji. Nie jest ponadto uzasadnione, aby każda skarga powodowała wszczęcie postępowania w sprawie naruszenia przepisów. Zgodnie z art. 49 ust. 2 Komisja będzie mogła wszczynać postępowania z urzędu. Na podstawie wpływających skarg, w przypadku stwierdzenia jej zasadności, będzie mogła takie postępowanie wszcząć, ale bez ryzyka sparaliżowania funkcjonowania działalności Komisji. Art.50 Osoba fizyczna W art. 50 projektu nie wskazano, jakie środki prawne przysługują skarżącemu, zwłaszcza w zakresie otrzymania informacji o wyniku postępowania. Nie odwołano się również do kwestii ochrony tożsamości skarżącego, w myśl dyrektywy (UE) 2019/1937. Należy wskazać gwarancje procesowe i środki ochrony skarżącego. Art.50 ICC Poland Projekt przewiduje w art. 50 ust. 2 pkt 1, że skarga, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia, powinna zawierać m.in. „nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji” [podkreślenie własne]. Tymczasem zakres przedmiotowy skargi nie jest ograniczony do naruszeń dokonanych przez dostawców systemów sztucznej inteligencji, lecz może ona dotyczyć wszelkich naruszeń rozporządzenia 2024/1689, a więc wszystkich operatorów, na których rozporządzenie 2024/1689 nakłada określone obowiązki (dostawców, producentów produktów, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora). W konsekwencji proponuje się zmianę w art. 50 ust. 2 pkt 1 Projektu słowa „dostawcy” na „operatora”. Art. 50 – 55. PWPW dot. post ępowania skargowego/naruszeniowego) 238 Prosimy o wskazanie czy do art. 50 i nast. będą miały zastosowanie przepisy Kodeksu postępowania administracyjnego , czy może to będzie procedura odrębna i wyłączna. Art.50 PIRP sformułowanie „jednostka organizacyjna nieposiadająca osobowości prawnej” należałoby doprecyzować przez dodanie po nim, po przecinku, sformułowania „o której mowa w art. 33[1] k.c.” Art. 50 Fundacja FinTech Poland Należy dodać obowiązek podania danych osoby lub podmiotu zgłaszającego skargę. Bez takiego wymogu istnieje ogromne ryzyko walki z konkurencją poprzez wnoszenie oskarżeń, które na długi czas blokują prace podmiotu konkurencyjnego art. 50 ust. 2 pkt 1 GRAI Uwaga redakcyjna - połączono adres z siedzibą. Słowa „adres siedziby” zastępuje się słowami „siedzibę, adres”. art. 50 ust. 2 pkt 3 GRAI Zbędne wydaje się wskazanie w przepisie: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Skreśla się słowa: „w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy”. Art. 50 ust. 2 pkt 3 Związek Banków Polskich Art. 50. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej może złożyć do Komisji skargę, o której mowa w art. 85 rozporządzenia 2024/1689, na naruszenie przepisów tego rozporządzenia. 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę, adres siedziby, adres poczty elektronicznej lub numer telefonu dostawcy systemu sztucznej inteligencji; 2) opis istotnych faktów oraz powody, dla których skarżący uważa, że dostawca systemu sztucznej inteligencji naruszył przepisy rozporządzenia 2024/1689; 3) inne informacje uznane przez skarżącego za istotne dla sprawy w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 50 ust. 1 pkt 3) Należy wykreślić sformułowanie „w stosownych przypadkach, informacje zebrane z własnej inicjatywy”, gdyż jest to nadmiarowe i nic nowego nie wnosi, skoro mamy już sformułowanie „inne informacje”. Informacje powinny być zabrane tylko w zgodzie z przepisami prawa w danej konkretnej sprawie. art. 50 ust. 2 –4 GRAI Uwaga redakcyjna Zbędne jest odwołanie w tych przepisach – „skarga o której mowa w ust. 1” zamiast po prostu ,,skarga”. W ust. 2,3 i 4 po słowie „skarga” skreśla się „o której mowa w ust.1”. Art. 50 ust. 3. PWPW Skargę, o której mowa w ust. 1, składa się Komisji w postaci elektronicznej, 239 a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji. Przepis jest zbyt ogólny i wadliwy. Skargę można złożyć: - w postaci elektronicznej, - czyli albo za pomocą środków komunikacji elektronicznej (np. mailem) albo na nośniku danych (co powinno być możliwe) gdzie należy przekazać – na biuro podawcze, czy przy użyciu poczty rejestrowanej lub bez rejestrowania np. płytą, innym nośnikiem danych itp. - a w przypadku braku możliwości jej złożenia w postaci elektronicznej przy użyciu innych dostępnych środków 7 komunikacji. Czy to oznacza że możliwe jest złożenie np. na papierze ? Należy wskazać kanały komunikacji np. ePUAP, adres do doręczeń elektronicznych, dedykowany portal itp. Czy wniesienie skargi uruchamia od razu postępowanie o naruszenie względem dostawcy AI act czy też jest to postępowanie typowo skargowe. Przepisy ww. obecnym kształcie nie wyjaśniają ww. zagadnienia. Art. 50 ust. 4 Uwagi Ogólne SAiW Copyright Polska Art. 50 ust. 4 projektu należy uznać zwrócenie się do Ministra Kultury z propozycją udziału w rozpatrywaniu skarg dotyczących kwestii odnoszących się do prawa autorskiego i praw pokrewnych za obligatoryjne dla Komisji, a nie fakultatywne. Dodatkowo z uwagi na potencjalnie duże skomplikowanie stanów faktycznych, wydaje się, że w art. 51 ust. 3 powinna istnieć możliwość wydłużenia czasu postępowania w danej sprawie, w uzasadnionych jej zawiłością przypadkach, ponad standardowy czas do 12 miesięcy. Podobna kompetencja Komisji jak ta przewidziana w art. 61 ust. 5 projektu w wypadku postępowań w ramach zgłaszanych incydentów, to jest kompetencja Komisji do żądania dodatkowych danych i informacji, powinna istnieć w sprawach wydawania przez Komisję interpretacji indywidualnych i generalnych. W razie braku przedstawiciela władz publicznych odpowiedzialnego za ochronę praw autorskich uprawnionego w mocniejszy niż obecnie sposób może zachodzić ryzyko wydawania przez Komisję interpretacji naruszających lub w niedostatecznym stopniu uwzględniających te prawa. Ryzyko to jest tym większe, że zgodnie z art. 14 ust. 5 projektu można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie, a zgodnie z art. 15 projektu ustawy Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych 240 w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Tak szeroko nakreślone kompetencje Komisji wymagają wprowadzenia w jej działanie postulowanych zmian. Społeczna Rada do spraw Sztucznej Inteligencji, dalej: Rada, powinna być tworzona przy współudziale podmiotów autorskouprawnionych, to jest powinna mieć możliwość posiadania w swym składzie określanym przez art. 28 projektu, kandydatów rekomendowanych nie tylko przez izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych (art. 28 ust. 3 pkt 4), ale też przez izby gospodarcze reprezentujące producentów treści chronionych prawami autorskimi i prawami pokrewnymi. Podobnie nie tylko przez fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji (art. 28 ust. 3 pkt 7), ale także przez stowarzyszenia, których celem statutowym jest ochrona praw autorskich i praw pokrewnych lub zbiorowe zarządzanie prawami autorskimi i prawami pokrewnymi. Skład osobowy Rady powinien wyważać reprezentowane w niej grupy interesów i zapewniać transparentność w zakresie ewentualnego konfliktu interesu, czego obecna regulacja w żaden sposób nie czyni. Za wzór w tym zakresie mogą posłużyć regulacje dotyczące wyłaniania składu osobowego Komisji Prawa Autorskiego, zawarte w ustawie o prawie autorskim i prawach pokrewnych, zapewniające większą równowagę interesów niż projekt w obecnym jego brzmieniu. Kompetencje członka Rady (art. 28 ust. 4 pkt 1) powinny obejmować także wiedzę w zakresie ochrony praw własności intelektualnej, w tym praw autorskich i praw pokrewnych. Dodatkowo zwracamy uwagę, że zakres wyłączenia przez projekt stosowania projektowanej ustawy do podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 1 Prawa o szkolnictwie wyższym może budzić pewne wątpliwości. Intencją Aktu o sztucznej inteligencji było wyłączenie działań niekomercyjnych, a polska definicja ustawowa „podstawowych badań naukowych” (rozumianych jako: prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne) nie wyklucza celów pośrednio komercyjnych. Wymaga to dalszego namysłu projektodawcy co do zgodności tej regulacji z Aktem o sztucznej inteligencji i z intencją motywu 109 tej regulacji. Sektor kreatywny słowa i książki oferuje społeczeństwu bardzo cenny, unikalny zbiór, jeżeli chodzi o treści potrzebne do trenowania sztucznej inteligencji. Intencją uprawnionych prawnoautorsko do tych treści nie jest hamowanie rozwoju sztucznej inteligencji i systemów nadzoru nad nią, lecz zapewnienie przez władze publiczne słyszalności w tym procesie głosu twórców i producentów treści kreatywnych, a w konsekwencji poszanowania ich słusznych praw i interesów. 241 Wyrażamy tym samym nadzieję, że głos polskiego środowiska twórczego i wydawniczego znajdzie zrozumienie i poparcie Ministerstwa jako projektodawcy. Art. 50 ust. 4 Osoba fizyczna jk Czy zapis ust. 4 oznacza, że Komisja nigdy nie będzie prowadzić kontroli w organach, o których mowa w art. 6 ust. 3 projektu ustawy? Art. 51 ust. 1 Osoba fizyczna Art. 51 ogranicza pojęcie strony postępowania tylko do osoby, wobec której zostało wszczęte postępowanie, podczas gdy art. 28 k.p.a. definiuje stronę jako każdego, czyjego interesu prawnego lub obowiązku dotyczy postępowanie. To oznacza, że art. 51 projektu ustawy pomija osoby, które mogą mieć interes prawny lub obowiązek w postępowaniu, ale nie są bezpośrednio objęte postępowaniem. Tym samym przepis nie zapewnia ochrony prawnej osobom, które chcą aktywnie uczestniczyć w postępowaniu. Art. 51 projektu jest zbyt wąsko sformułowany, co może prowadzić do wykluczenia osób, które powinny być uznane za strony postępowania. Natomiast art. 28 k.pa. zapewnia szerszą definicję strony, która obejmuje wszystkie osoby, których interes prawny lub obowiązek jest dotknięty postępowaniem. W związku z tym, art. 51 projektu ustawy powinien zostać zmieniony, aby uwzględnić szerszą definicję strony postępowania, zgodną z art. 28 k.p.a., bowiem z zakresu regulacji nie wynika, aby takie ograniczenie miało uzasadnienie prawne i faktyczne. Ewentualnie można zawęzić definicję strony na potrzeby ustawy przez wskazanie, że stroną jest dostawca lub operator systemu sztucznej inteligencji. W takim ujęciu zakres podmiotowy jest zawężony, a dookreślenie jest uzasadnione przedmiotem regulacji. Art. 52 ust. 1 Osoba fizyczna Wyłączenie okresu postępowania dowodowego z terminów prowadzenia postępowania administracyjnego, wynikającego z art. 35 k.p.a. budzi istotne wątpliwości co do naruszenia zasady szybkości postępowania administracyjnego. Jeśli skonfrontujemy ten przepis – art. 52 ust. 1 projektu ustawy z art. 51 ust. 3, w którym mowa o maksymalnym, 12-sto miesięcznym terminie postępowania, to może potencjalnie dojść do sytuacji, w którym postępowanie dowodowe przekroczy nie tylko termin wskazany w k.p.a, ale określony również w art. 51 ust. 3. projektu ustawy. Warto bowiem zauważyć, że o ile prowadzenie czynności dowodowych wydłuży bieg terminu prowadzenia postępowania na gruncie k.p.a, to zastosowanie normy z art 52 ust 1 nie odwołuje się do terminu wynikającego z art 51 ust. 3, nie skutkuje wydłużeniem. Ponadto wydłużenie postępowania dowodowego w nieskończoności, a takie ryzyko potencjalnie istnieje, narusza nie tylko zasadę szybkości postępowania, ale także narusza istotne interesy stron, pozostające w niepewności co do swej sytuacji prawnej oraz zasadę pogłębiania zaufania obywateli do organów państwa. Należy gruntownie przemyśleć reguły dotyczące biegu terminów w postępowaniu przed Komisją, pamiętając jednocześnie, że w k.p.a przewidziano możliwość wydłużenia tych terminów. Doktryna i orzecznictwo negatywnie ocenia wydłużanie postępowania 242 administracyjnego ponad miarę, ponad istotnie występujące potrzeby procesowe, co prowadzi do przewlekłości postępowania administracyjnego lub wprost do bezczynności. Poglądy te powinny być istotnym ostrzeżeniem przed wprowadzaniem tego typu rozwiązań do nowego aktu prawnego. Art. 51 ust. 2 Związek Banków Polskich Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania art. 51 ust.3 CHAMBER Szczególnie rażące jest odmienne uregulowanie terminów na postępowanie - tam, gdzie KPA przewiduje maksymalnie 2 miesiące, projekt ustawy przewiduje w art. 51 ust. 3 aż 12 miesięcy! Tak długie prowadzenie postępowania nie znajduje żadnego uzasadnienia. Postulujemy powrót do zasad określonych w art. 35 KPA oraz skreślenie także nieuzasadnionego przepisu art. 52 ust. 2, skutkującego jeszcze większym wydłużeniem postępowania. Mając na uwadze charakter przedmiotu regulacji, tzn. dynamicznie rozwijającą się technologię, postępowania muszą być prowadzone szybko i sprawnie, czyli wskazane jest tu raczej dodatkowe skrócenie terminów, a nie ich tak rażące wydłużanie. art. 51 ust.3 GRAI Zdecydowanie za długi termin na prowadzenie postępowania. Doprowadzić to może do nieuzasadnionego nadmiernego obciążenia podmiotu badanego oraz wydłuży czas oczekiwania na werdykt składającego skargę. Takie postępowanie powinno się zakończyć w ciągu 1 miesiąca, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy. Postuluje się ustanowienie terminu nie dłuższego niż 1 miesiąc, z możliwością przedłużenia w szczególnych przypadkach do 3 miesięcy na podstawie pisemnego uzasadnienia. art. 51 ust.3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy zastosowanie terminów dla prowadzenia postępowania z ustawy o ochronie konkurencji i konsumentów - Postępowanie wyjaśniające nie powinno trwać dłużej niż 4 miesiące, a w sprawach szczególnie skomplikowanych - nie dłużej niż 5 miesięcy od dnia jego wszczęcia. art. 51 ust.3 KIGEiT Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania. 243 Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKiK art. 51 ust.3 PIIT Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie uokk. Art. 51 ust. 3 Związek Banków Polskich Postępowanie nie może trwać dłużej niż 12 miesięcy 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Art. 51 ust. 3 Fundacja FinTech Poland Okres 12 miesięcy wydaje się nadmiernie długim czasem trwania postępowania, szczególnie jeśli zaangażowana jest tylko Komisja i nie doszło do procesu sądowego. Czas jest bardzo ważny w przypadku rozwiązań sztucznej inteligencji i w 12 miesięcy może dojść do wprowadzenia zupełnie nowej technologii. Badania rozpoczęte dziś, za 12 miesięcy mogą być przestarzałe. Blokada prac nad systemem AI na 12 miesięcy w wyniku anonimowej skargi będzie wspaniałym narzędziem do nieetycznej walki z konkurencją. Zgodnie z ust. 1 stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. Nie jest to naszym zdaniem jasne czy skarżący jest stroną. Nie tylko podmiot wobec którego postępowanie się toczy ma interes w rozstrzygnięciu. Otwarte pozostaje pytanie czy jest to w takim razie przepis szczególny względem Kodeksu postępowania administracyjnego oraz art. 28 zgodnie z którym stroną jest każdy, czyjego interesu prawnego lub obowiązku dotyczy postępowanie albo kto żąda czynności organu ze względu na swój interes prawny lub obowiązek. Brak jest sprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania, co skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Postulowane brzmienie przepisu: Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Art. 51 ust. 3 Osoba fizyczna jk Czas 12 miesięcy trwania postępowania może okazać się zbyt długi dla osoby, która doznała szkody, wręcz krzywdy, w wyniku działania system sztucznej inteligencji. Co się stanie, jeżeli Komisja nie będzie w stanie zakończyć postępowania w terminie do 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania? Wystarczy sprawdzić, ile trwają postępowania w sprawach 244 dotyczących ochrony danych osobowych. art. 52 ust. 2 PIIT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż niezrozumiała jest intencja tego przepisu, tzn. w toku postępowania także analizuje się określone dowody, zatem ten czas prowadzenia postępowania dowodowego zawiera się w czasie prowadzenia postępowania. Wnosimy do wyjaśnienie intencji przepisu. art. 52 ust. 2 KIGEiT Rekomendacja: do wykreślenia Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. art. 52 ust. 3 Członkowie Komisji powinni władać językiem angielskim na tyle dobrze, aby móc samodzielnie rozumieć dokumenty. Ogromna większość danych w branży technologicznej jest w języku angielskim, a także systemy AI najczęściej nie mają wersji polskiej. Bez znajomości języka angielskiego naprawdę trudno obecnie poruszać się w nowych technologiach. Z uwagi na konieczność zapewnienia profesjonalnego tłumaczenia, zasadne wydaje się wprowadzenie wymogu tłumaczenia dokumentacji przedłożonej przez stronę na język polski, poświadczonego przez tłumacza przysięgłego. Przed słowem „tłumaczenie” dodaje się ,,poświadczone przez tłumacza przysięgłego”. art. 52 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku AI, albo z tego powodu, że podmioty podlegające pod Rozporządzenie 2024/1689 same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców). Jeżeli Komisja ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. 245 Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Podnosimy, iż jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. Wskazujemy także, iż prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią „dokumentacji\". W konsekwencji, postulujemy zmianę treści art. 52 ust. 3 Projektu ustawy na następującą: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych.” Art. 52 ust. 3 Związek Banków Polskich 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Wymaganie tłumaczenia - w dzisiejszych czasach – będzie nadmiernym obciążeniem dla przedsiębiorców i za mało precyzyjnym – przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Zdarza się, że dokumentacja dot. poszczególnych bibliotek czy procedur jest wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Należy wykreślić ten punkt jako niemożliwy do spełnienia przez stronę. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe oraz niezbędne kwalifikacje językowe. Art. 52 ust. 3 Fundacja FinTech Poland Takie postanowienie jest anachroniczne i stawia KRiBSI z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo 246 z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Art. 53 ISSA Polska Warto dodać punkt: ostrzeżenie, o którym mowa w pkt 1 podlegają publikacji na stronie Komisji. Art. 53 Polski związek zarządzania wierzytelnościami Art. 53 ust. 3 Projektu Wyznaczony w art. 53 ust. 3 Projektu 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest w naszej ocenie zbyt krótki, mając na uwadze uciążliwość, jaką budzi dla przedsiębiorcy wdrożenie zmian o tak szerokim zakresie. Wdrożenie zmian w oparciu o ostrzeżenie wymaga złożonej analizy na poziomie technicznym i prawnym, co w konsekwencji wpływa na stabilność obrotu przedsiębiorstwa. Zważywszy na specyfikę współpracy sektora` wierzytelności i doświadczenie pracy z dostawcami usług informatycznych 247 dla tegoż, proponujemy termin nie krótszy niż 30 dni, który - przy założeniu jego dolnej granicy - nadal spowodowałoby znaczące wyzwanie dla administrujących systemem. Art. 53 Fundacja FinTech Poland W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „ informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Postulowane brzmienie przepisu: Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. Art. 53 ust.1 GRAI Uwaga redakcyjna Słowo ,,wydać” proponuje się zastąpić słowem ,,udzielić”. Art. 53 ust.1 PWPW W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Wnosimy o doprecyzowanie status u „ostrzeżenia ” 248 – czy jest to decyzja administracyjna, rodzaj czynności materialno - technicznej. Czy można się od niego odwołać ? Z przepisów art. 57 wynika, że odwołania do Sądu Okręgowego przysługują tylko od decyzji a nie ostrzeżeń. Należy rozważyć zaskarżenie ostrzeżeń – gdyż takie ostrzeżenie wpływa na działalność podmiotu i może on się nie zgadzać z jego podstawami i zakresem. Z uwagi na fakt, iż brak jest przepisów proceduralnych nie wiadomo czy można go zaskarżyć do Sądu Okręgowego – ale z uwagi na jego administracyjny charakter może on być potraktowany jako akt lub czynności z art. 3 ustawy - Prawa o postępowaniu przed sądami administracyjnymi – a to spowoduje, że z jednej strony będą orzekać sądy administracyjne a z drugiej Sąd Okręgowy. Wydaje się, że nie taka była intencja projektodawcy. Art. 53 ust.1 PIIT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. 249 Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Art. 53 ust.1 e-Izba Z aktualnego brzmienia tego przepisu nie wynika czy ostrzeżenie, wydawane przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w toku postępowania jest wydawane wyłącznie na potrzeby tego postępowania czy stanowi ono formę trwałej decyzji administracyjnej. Ewentualne ryzyko uznania ostrzeżenia, o którym mowa w analizowanym przepisie, jako decyzji administracyjnej o charakterze trwałym oceniamy - z perspektywy bezpieczeństwa prawnego przedsiębiorców – jednoznacznie negatywnie. W związku z powyższym, proponujemy aby ostrzeżenie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji miało charakter tymczasowy, związany bezpośrednio z postępowaniem, w ramach którego zostało wydane. Proponujemy, aby była to konstrukcja prawna zbliżona do decyzji tymczasowej stosowanej w postępowaniu antymonopolowym (art. 89 ustawy z 16.02.2007 r. o ochronie konkurencji i konsumentów). W przypadku projektu ustawy o systemach sztucznej inteligencji ostrzeżenie miałoby na celu zapobiec skutkom działania przedsiębiorcy, względem którego istnieje podejrzenie, że narusza ono przepisy rozporządzenia 2024/1689 lub ustawy o systemach sztucznej inteligencji, jednak wyłącznie na potrzeby danego postępowania, do momentu wydania ostatecznej decyzji administracyjnej w sprawie. Art. 53 ust. 1 i 3 KIG Proponujemy dodać w ust. 1 zdanie drugie Ostrzeżenie podaje się do publicznej wiadomości. Proponujemy dodać w ust. 3 zdanie drugie Na wniosek strony Przewodniczący Komisji podaje informację o wykonaniu rekomendacji do publicznej wiadomości Art. 53 ust. 1 KIGEiT Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. 2. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem. 3. Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. , Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszarów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjami może 250 powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiej formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w Art. 57 projektu ustawy. Art. 53 ust. 2 KIGEiT Rekomendacje: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. , Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 53 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza I znowu nie sposób się zgodzić z regulacją, wedle której podmiot kontrolowany zobowiązany jest na żądanie organu kontrolującego wykonać tłumaczenie dokumentacji na język polski na własny koszt (art. 53 ust. 2 zd. 2 projektu ustawy o Al). Skoro to organ kontroli państwowej potrzebuje zapoznać się z dokumentem obcojęzycznym, przeto winien tego rodzaju dokument przetłumaczyć we własnym zakresie, a skoro „wyręcza się” w tym zakresie podmiotem poddanym kontroli to powinien ponieść koszty tłumaczenia dokumentów, względnie pokryć je podmiotowi kontrolowanemu, który poniósł koszty z tego tytułu celem zadośćuczynienia żądaniu organu kontrolującego. Rozwiązanie zaproponowane w art. 53 ust. 2 zd. 2 projektu ustawy o AI nie jest możliwe do pogodzenia ani z konstytucyjną zasadą demokratycznego państwa prawnego, ani też tym bardziej z konstytucyjną zasadą sprawiedliwości społecznej [art. 2 w zw. z art. 8 Konstytucji RP]. Art. 53 ust. 2 PIIT Ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Wprowadzenie zasady zastosowania przez kontrolowanego wybranych środków (a nie każdych wskazanych przez Komisję), które nie powodują nadmiernych i nieuzasadnionych obciążeń. Przewidziana procedura jest niejasna. ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie powinien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia. Art. 52 ust.3 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Proponujemy zatem art. 52 ust. 3 zd. 2 ustawy o AI nadać nowe brzmienie „Tłumaczenie dokumentacji strona wykonuje na koszt organu kontrolującego.”. 251 Art. 53 ust.3 GRAI Termin 7 dni na wykonanie rekomendacji może często nie być realny ze względów technicznych. Ten punkt powinien dawać możliwość nie tylko przedstawienia wyników, a także samych czynności, których wynik będzie możliwy do oceny w terminie dłuższym niż 7 dni. Postuluje się, aby informacja nie zawierała jedyne danych o wykonaniu rekomendacji, ale także o czynnościach podjętych w tym celu które jednak z przyczyn technicznych, organizacyjnych, czy finansowych, mogą zakończyć się w terminie dłuższym niż proponowane 7 dni. Alternatywnie: Proponowane jest wskazanie, iż strona w ciągu 7 dni przesyła informację na temat sposobu realizacji rekomendacji tj. albo potwierdzenie wdrożenia lub informację na temat działań jakie zamierza podjąć i terminu ich realizacji. Art. 53 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż w praktyce - w zależności od rodzaju rekomendacji - termin 7 dni może okazać się zbyt krótki. Rekomendujemy wydłużenie terminu do co najmniej 14 dni, aby wskazać, jakie działania podmiot planuje wdrożyć w celu przywrócenia zgodności bądź od razu poinformuje o wdrożeniu pewnych działań. Art. 53 ust. 3 ZPAV Przepis ten powołuje dotychczas nieznaną w polskim prawie cywilnym instytucję przedstawienia sądowi „poglądu istotnego dla sprawy” przez organ administracji państwowej. Zaproponowana redakcja przepisu może insynuować, że takie wystąpienie organu (w tym przypadku komisji, o której mowa w art. 7 projektu) posiadać będzie istotny wpływ na późniejszą decyzję sądu, co z oczywistych względów byłoby niedopuszczalne. Art. 53 ust. 3 PZPPF Projekt przewiduje w art. 53 uprawnienie Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) do wydawania w toku postępowań ostrzeżeń w przypadku uzasadnionego podejrzenia, że działalność strony narusza Rozporządzenie 2024/1689. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni ma poinformować o wykonaniu tych rekomendacji. Rozporządzenie 2024/1689 w art. 99 ust. 1 przewiduje, że państwa członkowskie mają ustanowić przepisy dotyczące m.in. innych środków egzekwowania prawa, które mogą również obejmować 252 ostrzeżenia. Przepisy Rozporządzenia 2024/1689 nie precyzują zasad wydawania takich ostrzeżeń, doprecyzowanie w tym zakresie zostało pozostawione do decyzji Państw członkowskich. Samo uwzględnienie instytucji ostrzeżeń należy ocenić pozytywnie szczególnie biorąc pod uwagę nową i trudną specyfikę systemów sztucznej inteligencji oraz ciągły rozwój tego typu technologii. W projekcie instytucja ostrzeżenia została również powiązana z uprawnieniem Komisji do odstąpienia od nałożenia administracyjnej kary pieniężnej jeżeli podmiot wykona rekomendacje zawarte w ww. ostrzeżeniu. Biorąc jednak pod uwagę cel takich ostrzeżeń oraz ich znaczenie w kontekście nakładania kar pieniężnych na przedsiębiorców zasadne jest wskazanie w ustawie dłuższego terminu dla przedsiębiorcy na wykonanie rekomendacji Komisji, w szczególności ze względu na okoliczność, że rekomendacje mogą dotyczyć różnych nieprawidłowości, w tym takich które mogą być trudne do wdrożenia w praktyce ze względów technologicznych i niemożliwe do wprowadzenia w tak krótkim terminie jak 7 dni. W związku z powyższym Związek wypracował propozycję zmiany ww. przepisu: Art. 53 ust. 3. Strona w terminie wskazanym przez Przewodniczącego Komisji, nie krótszym niż 21 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację z wykonania rekomendacji, o których mowa w ust. 2. Art. 53 ust. 3 ITCORNER W naszej ocenie 7-dniowy termin na przedstawienie informacji z wykonania rekomendacji, przekazanych w ostrzeżeniu, jest zbyt krótki, mając na uwadze to, jak wymagające technicznie może być wdrożenie zmian, których wymaga ostrzeżenie. Mając na uwadze nasze doświadczenie w realizacji komercyjnych projektów programistycznych, proponujemy termin nie krótszy niż 30 dni - spełnienie go będzie tak czy inaczej dużym wyzwaniem dla przeciętnej spółki programistycznej - szczególnie w przypadkach, gdy zastosowanie się do rekomendacji wymaga wprowadzenia naprawdę gruntownych zmian w systemie. Art. 53 ust. 3 Związek Banków Polskich Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie działań podjętych w celu wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, że w terminie 7 dni rekomendacja miałaby zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie działań podjętych w celu wykonania rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Art. 53 i 54 KIGEiT Zmiana zapisu: Dodanie możliwości negocjacji środków naprawczych: W Art. 54, ust. 2, warto dodać: \"Przed wydaniem decyzji o nałożeniu środków naprawczych, Komisja umożliwia podmiotowi opracowanie własnych propozycji działań naprawczych, pod warunkiem, że działania te przyczynią się do eliminacji ryzyka. Komisja ma obowiązek uzgodnić propozycje z tym 253 podmiotem, jeśli uzna je za adekwatne, zaakceptować ich wdrożenie jako alternatywę dla administracyjnych decyzji o karach.\" Rozdział 4. Art. 53 i 54 (Ostrzeżenia i decyzje Komisji) sugerują działania nadzorcze, gdy AI stwarza ryzyko naruszenia przepisów. Proponuję, aby te zapisy były bardziej elastyczne w odniesieniu do innowacyjnych technologii. Taki mechanizm pozwoliłby firmom na samodzielne eliminowanie problemów i szybkie wprowadzanie korekt, a jednocześnie unikałoby się zbyt surowych, automatycznych kar, co mogłoby blokować rozwój AI. Art. 54 KIGEiT Rekomendacja: Dodanie ust. 4 \" W uzasadnionych przypadkach stron może wnieść o wydłużenie 7 dniowego terminu na przedstawienie Komisji informacji z wykonania rekomendacji, o której mowa w ust. 2\" Uzasadnienie: w uzasadnionych przypadkach np. chwilowej awarii systemów - strona powinna mieć możliwość wydłużenia terminu na przedstawienie Komisji informacji z wykonania rekomendacji. Rekomendacja: Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 PIIT Dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji. Należy dodać zasadę, iż środki nakazujące usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia, powinny być adekwatne i proporcjonalne. 254 Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym konsumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomocą systemu sztucznej inteligencji i ocenę tych skutków w zestawieniu z naruszeniem. Art. 54 ust. 1 Związek Banków Polskich W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Art. 54 ust 1 Fundacja FinTech Poland Zmiana gramatyczna co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Postulowane brzmienie przepisu: W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689,narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Art. 54 ust. 2 PZPPF Art. 54 ust 2 przewiduje, że decyzja Komisji nakazująca zaprzestanie naruszeń Rozporządzenia 2024/1689 może zawierać środku nakazujące usunięcie skutków naruszenia obowiązków wynikających z Rozporządzenia 2024/1689. Zobowiązanie do usunięcia skutków naruszeń może być w praktyce nawet niemożliwe biorąc pod uwagę specyfikę systemów sztucznej inteligencji bądź dalece utrudnione. Zachowanie przepisu w takim brzmieniu może prowadzić do nieproporcjonalnych obciążeń dla przedsiębiorców wykraczających poza założenia i przepisy Rozporządzenia 2024/1689. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie. Art. 55 KIGEiT Propozycja zapisu: Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w Art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w Art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w Art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami 255 rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. W związku z tym, że Art. 55 ma powinien odpowiadać zapisom Art. 79 AI Act niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea Art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł Art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wdrożenie/zmiana w systemie wymaga implementacji, testów, w tym innych systemów. Zmiana ta może mieć wpływ na świadczenie usług (np. telekomunikacyjnych) milionom klientów i powinna być wprowadzana w taki sposób, aby nie wpływać negatywnie na ich świadczenie. Proponowany przez ustawodawcę termin tego nie umożliwia. Art. 55 PIIT Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wskazanych w ust.2 wspólnie z organem lub podmiotem, o którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 2 miesiące od dnia doręczenia decyzji. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych. 256 Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacyjnym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Termin 14 dni od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są często złożone i jego dochowanie może być niemożliwe. Wydłużenie terminu na wycofanie systemu z rynku lub użytku przynajmniej do 2 miesięcy od dnia doręczenia decyzji. Rygor natychmiastowej wykonalności - wprowadzenie rygoru może oznaczać nieodwracalne, daleko idące skutki biznesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. Art. 55 ICC Poland i) Konieczność doprecyzowania przesłanek rygoru natychmiastowej wykonalności Zgodnie z art. 55 ust. 4 Projektu decyzji Komisji nakazującej operatorowi wycofanie systemu stwarzającego określone tam ryzyka z rynku lub użytku może zostać nadany rygor natychmiastowej wykonalności. Projekt nie precyzuje jednak, w jakich przypadkach może to nastąpić, nie określając jakichkolwiek przesłanek w tym zakresie, mimo istotnego znaczenia takiego rozstrzygnięcia dla działalności operatora (możliwość wykonania decyzji jeszcze przed upływem terminu do wniesienia odwołania, por. art. 58 Projektu). Nie jest przy tym jasne, czy powinno prowadzić to do wniosku, że zastosowanie znajdzie w tym zakresie art. 108 § 1 Kodeksu postępowania administracyjnego na zasadzie odesłania z art. 56 Projektu. Z tego względu należałoby rozważyć albo doprecyzowanie przesłanek nadania decyzji Komisji rygoru natychmiastowej wykonalności (np. natychmiastowa wykonalność jest niezbędna dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) albo jednoznaczne przesądzenie, że może to nastąpić tylko po spełnieniu przesłanek z art. 108 § 1 Kodeksu postępowania administracyjnego. ii) Termin na podjęcie działań Artykuł 55 ust. 3 Projektu przewiduje, że w razie wydania decyzji, o której mowa w tym przepisie, podjęcie wszelkich działań naprawczych lub wycofanie tego systemu z rynku lub użytku powinno nastąpić w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji (terminu takiego nie przewiduje z kolei już art. 55 ust. 4 Projektu). Biorąc pod uwagę szeroki zakres możliwych działań 257 naprawczych, potencjalny wysoki stopień ich technicznego skomplikowania, jak również w najbardziej radykalnych przypadkach konieczność podjęcia szerokich działań na wycofanie systemu (a także – na zasadzie art. 2 ust. 2 Projektu – modelu sztucznej inteligencji ogólnego przeznaczenia), 14-dniowy termin maksymalny wydaje się terminem zbyt krótkim. Należałoby rozważyć jego odpowiednie wydłużenie (jako terminu maksymalnego), pozostawiając Komisji możliwość jego dostosowania do konkretnej sprawy. Art. 55 ust.1 GRAI Ustęp zgodny z rozporządzeniem 2024/1689, niemniej brak doprecyzowania, że dotyczy systemów SI nierozpoznanych dotychczas jako system wysokiego ryzyka i w związku z tym nieuwzględnionych w bazie danych zgodnie z art. 71 rozporządzenia 2024/1689. Doprecyzowanie przepisu. Sugerowane doprecyzowanie zgodnie z art. 79 ust. 1 rozporządzenia „Systemy AI stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób.” Art. 55 ust. 1 Związek Banków Polskich Artykuł należy rozszerzyć o odniesienie również do rozumienia art. 3 pkt 19 rozporządzenia (UE) 2019/1020, który definiuje „produkt stwarzający ryzyko”. Przepis powinien przewidywać, że systemy sztucznej inteligencji stwarzające ryzyko uznaje się za „produkt stwarzający ryzyko” w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. Art. 55 ust. 2 Związek Telewizji Kablowych w Polsce Izba Gospodarcza W art. 55 ust. 2 in principio projektu ustawy o AI pomiędzy słowami „Jeśli oraz „łtoku” opuszczono literę „w”. Należy zatem przedmiotowy brak uzupełnić. Wadliwość powyższa to kolejny dowód na brak dołożenia należytej staranności przy opracowywaniu projektu ustawy o AI. Art. 55 ust. 2 Związek Banków Polskich Art. 55. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, w tym prawa do niedyskryminacji, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Art. 77 ust. 1 Rozporządzenia 2024/1689 wskazuje: ”Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji,.....” 258 Pomiędzy rozporządzeniem a projektem ustawy musi być spójność. Propozycja ma na celu uspójnienie brzmienia przepisu z odpowiadającym przepisem AI Act. ( + dodanie litery „w”) Art. 55 ust. 2 Fundacja FinTech Poland Dodana brakująca litera „w”. Postulowane brzmienie przepisu: Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024 Art. 55 ust.3 Polski związek zarządzania wierzytelnościami Art. 55 ust. 3 Projektu Uważamy, że działania naprawcze, o których mowa w art. 55 ust. 3, powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie dla systemów krytycznych dla funkcjonowania konkretnych przedsiębiorstw windykacyjnych. Większa zachowawczość organu kontrolnego w tym zakresie jest kluczowa dla przedsiębiorstw z reprezentowanego przez nas sektora, którego działalność, z racji jego specyfiki, często mieścić się może w zakresie definicyjnym systemów wysokiego ryzyka - co oznacza kilkadziesiąt, momentami bardzo rozległych i nowych obowiązków, aby zapewnić pełną zgodność z AI Act. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust.3 PWPW W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji. Termin 14 dni na wycofanie produktu lub usługi jest terminem „nierealnym”. Zagrażającym działaniu podmiotu. 259 Proces wytwórczy jak i proces wycofania produktów to skomplikowane działania, należy w tym czasie np. rozwiązać umowy z klientami, zorganizować pracę, być może dokonać przesunięć lub zwolnień pracowników. Minimalny okres to 3 miesiące. Art. 55 ust.3 CHAMBER Z powyższymi przepisami, niezwykle korzystnymi dla organów kontroli, kontrastuje norma art. 55 ust. 3, która operatorowi daje jedynie 14 dni na wycofanie produktu z rynku, nie zważając na żadne okoliczności prawne i faktyczne, np. narażenie przedsiębiorcy na odszkodowania lub utratę zdolności do prowadzenia działalności gospodarczej. Tak drastycznie krótkie terminy mogą być uzasadnione jedynie bezpośrednim zagrożeniem bezpieczeństwa obywateli, co jest przedmiotem regulacji ust. 4. W pozostałych przypadkach postulujemy wydłużenie terminu na dostosowanie systemu lub wycofanie go z rynku do 6 miesięcy. Art. 55 ust.3 GRAI Uprawnienie Komisji do nakazania wycofania systemu z rynku lub użytku zbytnio ingeruje w swobodę działalności gospodarczej przedsiębiorcy i może nawet uniemożliwić mu prowadzenie tej działalności. Działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyka i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. Ponadto, określony termin 14 dni w praktyce jest zbyt krótki. Skreślenie “wycofanie tego systemu z rynku lub użytku...” lub przynajmniej uzupełnienie tego zdania o “lub jego części powodującej naruszenie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu lub jego części powodującej naruszenie z rynku lub użytku w terminie nie dłuższym niż 90 dni od dnia doręczenia decyzji.” Do rozważenia zmiana brzmienia art. 55 ust. 3 projektu nadająca priorytet działaniom naprawczym przed nakazem wycofania z rynku produktu. Zapewni to mniejszą ingerencję Komisji w swobodę działalności podmiotów wciąż z zachowaniem intencji art. 79 AIA. Art. 55 ust. 3 otrzymuje brzmienie: “3. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689, a gdy działania naprawcze nie okażą 260 się skuteczne nakazującą wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji”. Art. 55 ust. 3 ITCORNER Uważamy, że działania naprawcze o których mowa w art. 55 ust. 3 powinny mieć wyraźne pierwszeństwo przed nakazem całkowitego wycofania systemu AI z rynku w przypadku naruszenia AI Act, szczególnie mając na uwadze, że dany system AI może być krytyczny z punktu widzenia działalności i przychodów danego przedsiębiorcy (kluczowy / jedyny produkt lub usługa), a zatem konsekwencje jego wycofania będą rozległe. Z tego względu sugerujemy, aby w pierwszej kolejności organ decydował o działaniach naprawczych, a dopiero w przypadku bezskuteczności tych działań naprawczych w wyznaczonym terminie - nakazywał całkowite wycofanie z rynku. Art. 55 ust. 3 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Zwracamy uwagę, że termin 14 dni może okazać się zbyt krótki na wycofanie systemu z rynku. W konsekwencji postulujemy wydłużenie tego terminu. Art. 55 ust.4 CHAMBER Proponujemy nadać art. 55 ust. 4 następujące brzmienie: “W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie zagrożenie dla zdrowia lub bezpieczeństwa obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku w terminie 14 dni.” Art. 55 ust.4 GRAI W przepisie nie określono warunku nadania decyzji rygoru natychmiastowej wykonalności, co skutkuje za dużym uprawnieniem dyskrecjonalnym organu. Uwaga redakcyjna Skreśla się słowo „o” między słowem „nadany” a słowem „rygor”. Art. 55 ust. 4 Związek Banków Polskich Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności Usunięta litera „o”. Art. 55 ust 4 Fundacja FinTech Poland Usunięcie litery „o”. Postulowane brzmienie przepisu: Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Art. 55 ust. 3 i 4 Stanowisko Koalicji AI i Innowacji w Zdrowiu Wysoki rygoryzm związany z koniecznością wycofania systemów AI z użycia może stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Co więcej, bardzo krótki (14-dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla podmiotów posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Art. 55 ust. 3 i 4 Związek Cyfrowa Polska Wysoki rygor związany z koniecznością wycofania systemów AI z rynku/z użytku. Może on stanowić poważne wyzwanie dla firm (art. 55 ust. 3 i 4 Projektu). Dodatkowo, bardzo krótki (14- 261 dniowy lub nawet krótszy) okres na wycofanie systemów AI może prowadzić do zakłóceń w świadczeniu usług, naruszeń umów i poważnych wyzwań operacyjnych, zwłaszcza dla przedsiębiorstw posiadających złożone lub zintegrowane systemy sztucznej inteligencji. Działania naprawcze i wycofanie systemu AI z rynku. Zgodnie z art. 55 ust. 3 i 4 Projektu, decyzja wydana przez KRiBSI o podjęciu środków (działań) naprawczych może doprowadzić do zobowiązania przedsiębiorcy do wycofania systemu AI z rynku / z użytku w terminie nie dłuższym niż 14 dni od dnia doręczenia decyzji lub nawet w krótszym terminie (w zw. z nadaniem decyzji rygoru natychmiastowej wykonalności). Takie uprawnienie KRiBSI zbytnio ingeruje w swobodę działalności gospodarczej podmiotu, gdyż może nawet uniemożliwić mu prowadzenie działalności. Tymczasem, działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym rekomendujemy wykreślenie uprawnienia organu do wycofania systemu AI z rynku / z użytku lub sugerujemy określenie innego, dłuższego terminu na wykonanie tej decyzji, który zabezpieczy funkcjonowanie przedsiębiorcy i nie narazi go odpowiedzialność odszkodowawczą wobec swoich kontrahentów. Art. 55 ust.6 GRAI Uwaga redakcyjna „O” zastępuje się słowem „Od”. Art. 56 PIIT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 KIGEiT Art. 56. W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Jeśli KPA ma mieć zastosowanie do innych materii niż uregulowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zakresu odpowiedniego stosowania KPA. Art. 56 ISSA Polska Odesłanie do stosowania kodeksu postępowania administracyjnego w zakresie nieuregulowanym dotyczy wyłącznie postępowania przed Komisją, brakuje analogicznych odesłań dla pozostałych rozdziałów (np. rozdziału 5). Postuluję usunięcie tego artykułu i przejrzyste wskazanie w osobnym 262 artykule odpowiedniego stosowania KPA do całej ustawy (zwłaszcza, że przewidziano wyłączenie stosowania niektórych artykułów KPA w art 76 projektu ustawy). Art. 57 PIIT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. własności intelektualnej. art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów w terminie tygodnia od doręczenia postanowienia. art. 57 nie określa terminu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np. art. 43 ust.13 projektu), dla jasności kwestie organu, terminu wniesienie środków odwoławczych powinny zostać wprost wskazane w ustawie. Art. 57 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Z dużą dozą zaskoczenia przyjęliśmy propozycję regulacji art. 57 ust. 3 projektu ustawy o AI przewidującą, iż w sprawie z odwołania od decyzji Komisji zawisłej przed Sądem Okręgowym w Warszawie- Sądem Ochrony Konkurencji i Konsumentów, zwanym dalej SOKiK [art. 57 ust. 1 projektu ustawy o AI], w której to sprawie przecież Komisja jest stroną [art. 479** $ 1 k.p.c. dodanym mocą przepisu art. 80 pkt. 2 projektu ustawy o AI], Komisja poza normalnie przysługującym jej w postępowaniu cywilnym prawem do wyrażania własnego stanowiska 1 składania pism procesowych dodatkowo została wyposażona w uprawnienie do przedstawienia SOKiK istotnego dla sprawy poglądu w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Tego rodzaju uprawnienie przysługuje organizacjom pozarządowym, które nie uczestniczą w konkretnej sprawie cywilnej w jakimkolwiek charakterze (art. 63 k.p.c.). Tymczasem z układu art. 263 57 projektu ustawy o AI, który mocą regulacji art. 57 ust. 1 i ust. 2 projektu ustawy o AI nie pozostawia cienia wątpliwości, iż cały przepis art. 57 projektu ustawy a AI dotyczy spraw prowadzonych przez SOKiK w wyniku wniesienia odwołania od decyzji Komisji, co sprawia, iż należy uznać za całkowicie niedopuszczalne, aby w swojej własnej sprawie, w której zaskarżono decyzję Komisji organ ten dodatkowo posiadał uprawnienie do przedstawienia SOKiK swojego istotnego dla sprawy poglądu. Związek Telewizji Kablowych w Polsce Izba Gospodarcza uważa za słuszne co do zasady dopuszczenie uprawnienia Komisji do przedstawiania każdemu sądowi prowadzącemu sprawę dotyczącą sztucznej inteligencji istotnego w sprawie poglądu, z tym jednakże zastrzeżeniem, że uprawnienie to nie może odnosić się do toczącej się przed SOKiK sprawy wszczętej wniesieniem odwołania od decyzji Komisji, gdyż w takim wypadku Komisja ta w swojej własnej sprawie przedstawiałaby SOKiK swój własny istotny w sprawie pogląd będąc niejako sędzią w swojej własnej sprawie, a zarazem wywierając prawnie niedopuszczalny wpływ na treść rozstrzygnięcia w sprawach uregulowanych w art. 57 ust. I w zw. zart. 57 ust. 2 projektu ustawy o AL. Aby usunąć skutki płynące z fatalnej wręcz redakcji art. 57 projektu ustawy o AI wskazane się wydaje dodanie w art. 57 projektu ustawy o AI po ust. 3 przepisu ust. 4 w brzmieniu ,, Przepis ust. 3 nie znajduje zastosowania do spraw, o których mowa w ust. I w zw. z ust. 2 mniejszego artykułu.”. Art. 57 ICC Poland Porównaj uwagi do art. 75 projektu dotyczące konieczności dokonania pogłębionej analizy, który z istniejących sądów powinien zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 57 NRA Art. 57 Projektu odnosi się wyłącznie do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Przepis ten nie przewiduje natomiast trybu odwoławczego dla wydawanych w trakcie takiego postępowania postanowień, które dotyczyłyby kwestii proceduralnych podejmowanych przez Komisję. Pominięcie tej kategorii orzeczeń w regulacji powoduje niepewność co do właściwej drogi prawnej, utrudniając zaskarżenie takich postanowień i nie wskazując jednoznacznie organu, przed którym wnioskodawcy mogliby dochodzić swoich praw w przypadku naruszeń proceduralnych. Dla zapewnienia przejrzystości postępowania oraz zagwarantowania efektywnej ochrony interesów podmiotów kontrolowanych niezbędne byłoby uzupełnienie Projektu o regulacje dotyczące trybu odwoławczego wobec postanowień podejmowanych w ramach postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Art. 57 ust. 1 CHAMBER Pozytywnie należy ocenić oddanie sporów wynikających z działań nadzorczych Komisji pod kognicję Sądu Ochrony Konkurencji i Konsumentów (art. 57 ust. 1 projektu), co umożliwia merytoryczną kontrolę prawidłowości i proporcjonalności działań Komisji. Należy tu jedynie zaznaczyć, że mając na uwadze specyfikę spraw z zakresu sztucznej inteligencji, wymagających technicznej wiedzy, Sąd stanie przed dużym wyzwaniem organizacyjnym aby zapewnić odpowiednie kadry, w tym też np. biegłych posiadających odpowiednią wiedzę z zakresu systemów sztucznej inteligencji. W tym kontekście budzi jednak zdziwienie przepis projektowanego ust. 3, który zdaje się sugerować, że Komisja nie jest stroną postępowania 264 wszczynanego przed SOKiK na podstawie odwołania od decyzji. Zamieszanie potęguje jeszcze projektowany przepis Art. 47988e § 1. Kodeksu postępowania cywilnego, zgodnie z którym “[w] sprawach z naruszenia przepisów rozporządzenia 2024/1689 są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” Wydaje się, że w treści tego przepisu zabrakło słowa “strona”, co byłoby spójne z innymi postępowaniami odrębnymi przed SOKiK. W takiej sytuacji Komisja będzie przedstawiała swoje stanowisko właśnie jako strona i przepis art. 57 ust. 3 jest całkowicie zbędny. Art. 57 ust. 1 Osoba fizyczna Postępowanie prowadzone w ramach nadzoru nad sztuczna inteligencją ma typowo administracyjny charakter. Kary administracyjne nakładane z tego tytułu są orzekane nie w oparciu o zasadę słuszności lub zasadę winy, ale o fakt naruszenia przepisów praw administracyjnego. Dlatego wątpliwe jest wprowadzenie hybrydowego modelu orzekania w zakresie nadzoru przez sąd powszechny z wykorzystaniem procedury cywilnej przed sądem ochrony konkurencji i konsumentów. Model odwoławczy, przyjęty do decyzji UOKiK oraz URE, jest krytykowany przez części doktryny. Ponadto silne powiązanie spraw z zakresu nadzoru nad SI ze sprawami dotyczącymi ochrony danych osobowych, jeszcze dobitniej pokazuje, że to sąd administracyjny i ścieżka skargowa typowa dla spraw administracyjnym, oparta o przepisy k.p.a. a potem o przepisy prawa o postępowaniu przed sądem administracyjny, jest właściwa. Dlatego też powinno się wrócić do modelu skargi na decyzje Komisji ds. SI opartego o procedurę sądowoadministracyjną i właściwość rzeczową sądów administracyjny a nie sądu powszechnego. Ponadto w postępowaniu przed Komisją zrezygnowano z prawa do dwukrotnego merytorycznego rozstrzygnięcia sprawy, wskazując jako środek odwoławczy dowołanie do Sądu Okręgowego w Warszawie - sądu ochrony kongruencji i konsumentów. Wątpliwe prawnie jest zrezygnowanie z prawa do dwukrotnego merytorycznego rozstrzygniecie sprawy. Zasada dwuinstancyjności postępowania administracyjnego jest jedną z kluczowych zasad prawa. Należy również zwrócić uwagę, że w świetle obowiązujących przepisów prawa o postępowaniu administracyjnym strona może zrezygnować z prawa do odwołania i wnieść skargę bezpośrednio do sądu administracyjnego. Wprowadzenie podobnego rozwiązania jest celowe i słuszne ze względu na obowiązujący model ochrony praw jednostki w państwie demokratycznym, w którym zasada dwuinstancyjności jest jednym z elementów tego modelu. art. 57 ust. 1 SKwP To jest odwołanie czy nie ma? art. 57 ust. 1 KIGEiT Art. 57. 1. Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Czy SOKIK jest odpowiednim sądem do rozpoznawania spraw dotyczących sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności intelektualnej. 265 Art. 57.1 Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. , art. 57 nie określa terminu na wniesienie odwołania (por. np. Art. 81 ust.1 uokk). dla przejrzystości term ten powinien być nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np Art. 43 ust.13 projektu - nie można się tego domyślać z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Rekomendacja: Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 1 PIIT Przywrócenie zasady dwuinstancyjności postępowania (remonstracja). Zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. Art. 57 ust. 3 PIIT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. 266 W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 PWPW Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes Publiczny. Ten przepis powinien znajdować się co najmniej nie w tym artykule. W postępowaniu o odwołaniu od decyzji Komisja jest stroną. Wydaje się, że projektodawcy chodzi o inne postępowania tam gdzie Komisja nie jest stroną. Art. 57 ust. 3 GRAI Sprawa dotyczy odwołania od decyzji Komisji, więc z jakich to przyczyn Komisja miałaby przedstawiać sądowi istotny pogląd - nie taka jest rola Komisji w tym postępowaniu, nie może występować w podwójnej roli, a więc jako organ wydający zaskarżone rozstrzygnięcie i zarazem jako amicus curiae. Przepis powinien być dostosowany do art. 63 (5) KPC, tj. stosowany tylko w postępowaniach w których Komisja nie jest stroną. Należy skreślić ustęp 3 oraz wprowadzić osobny artykuł, regulujący sytuacje, w których Komisja nie jest stroną postępowania. Art. 57 ust. 3 KIGEiT 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W jakich sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie tali jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Art. 57 ust. 3 Związek Banków Polskich 3. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach dotyczących sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przepis ujęty w ust. 3 art. 57 w efekcie jego zastosowania w praktyce sądowej może prowadzić do zaburzenia równości stron. Można przypuszczać, iż sąd będzie miał skłonność do przyjmowania poglądu Komisji – jako „istotnego”. Przepis należy skreślić lub przenieść do ogólnych uprawnień Komisji. Art. 58 CHAMBER Norma projektowanego art. 58 słusznie nakazuje obligatoryjne wstrzymanie wykonania decyzji o administracyjnej karze pieniężnej w przypadku wniesienia przez stronę odwołania do sądu. A 267 contrario żadne inne decyzje nie są wstrzymywane przez wniesienie odwołania, a mogą mieć reperkusje nawet poważniejsze dla operatora systemu SI, włącznie z konieczność zaniechania działalności i likwidacji podmiotu, gdy przykładowo nie będzie on w stanie wypełnić nałożonych nań obowiązków. W tym świetle postulujemy rozszerzenia tego przepisu na wszystkie decyzje Komisji. Alternatywą jest dodanie do projektowanych przepisów Kodeksu postępowania cywilnego możliwości zabezpieczenia interesów operatora systemu SI w postaci zawieszenia wykonania decyzji Komisji przez Sąd. Art. 58 PWPW Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Z punktu widzenia prowadzenia biznesu treść art. 58 projektu ustawy wydaje się niewystarczająca. Albowiem decyzja może nakazać zmianę systemu wykorzystującego sztuczną inteligencję lub wycofanie go z rynku w ciągu 14 dni lub z rygorem natychmiastowej wykonalności (art. 55 ust. 3 i ust. 4). Taka decyzja będzie miała potencjalnie bardzo dotkliwe skutki dla biznesu, dużo poważniejsze od ewentualnych kar. W naszej opinii wniesienie odwołania do sądu powinno wstrzymywać w całości wykonanie decyzji. Art. 58 PIIT Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności. Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. Art. 58 KIGEiT Propozycja zapisu: Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor natychmiastowej wykonalności, Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonać wyważenia interesów przedsiębiorców i innych podmiotów. 268 Art. 58 ICC Poland Zgodnie z art. 58 Projektu, wniesienie przez stronę odwołania od decyzji Komisji do sądu wstrzymuje wykonanie decyzji, ale jedynie w zakresie administracyjnej kary pieniężnej. Rozwiązanie to, choć – jak się wydaje – jest wzorowane na art. 74 ustawy o ochronie danych osobowych6, budzi poważne wątpliwości z perspektywy proporcjonalności (analogiczne wątpliwości były zresztą zgłaszane w toku konsultacji publicznych dotyczących projektu ustawy o ochronie danych osobowych). Zgodnie z art. 54 i 55 Projektu Komisja może nałożyć na operatora systemu sztucznej inteligencji liczne obowiązki, w tym nawet nakaz wycofania tego systemu z rynku lub użytku, co może mieć nieodwracalne skutki dla adresata decyzji, zwłaszcza w sytuacji, gdy jego działalność opierałaby się w istotnym zakresie na dostarczaniu lub wykorzystywaniu takiego systemu sztucznej inteligencji. Projektowany przepis oznacza, że gdyby nawet w postępowaniu odwoławczym sąd uznał argumenty zawarte w odwołaniu i uchylił decyzję Komisji, to jej adresat będzie mógł co najwyżej dochodzić odpowiedzialności odszkodowawczej od Skarbu Państwa za szkody spowodowane wcześniejszym wydaniem decyzji. Tymczasem nie każde naruszenie rozporządzenia 2024/1689 będzie miało taki charakter, który będzie uzasadniał wykonanie decyzji przed zakończeniem postępowania odwoławczego. Z tego względu właściwszym rozwiązaniem byłoby pozostawienie Komisji możliwości nadania jej decyzji rygoru natychmiastowej wykonalności (jak uczyniono to w odniesieniu do decyzji, o której mowa w art. 55 ust. 4 Projektu) wtedy, gdy – przykładowo – jest to niezbędne dla ochrony zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, przy równoczesnym przesądzeniu, że wniesienie odwołania do sądu wstrzymuje co do zasady wykonanie decyzji Komisji. Art. 59 ust. 2 GRAI Dodawanie przepisu o wysyłaniu akt do prokuratury przez organ, wydaje się w tym projekcie ustawy zbyteczne. Skreśla się ust. 2 Art. 60 ust. 1 Fundacja FinTech Poland Art. 60 wymaga uwzględnienia w jakim terminie liczony jest okres 10 lat, proponujemy aby ten termin liczony był od daty zakończenia postępowania. Art. 60 ust 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o doprecyzowanie czy okres 10 lat liczony będzie od daty zakończenia postępowania czy też od innego zdarzenia. Art. 60 ust. 2 PIIT Proponujemy usunąć, tutaj wystarczające odwołanie do KPA z art. 56. Art. 60 ust. 2 Osoba fizyczna Należy podnieść, że jedną z przesłanek wznowienia postępowania administracyjnego, w świetle art. 145 § 1 ust 5 k.pa., jest okoliczność wyjścia na jaw istotnych dla sprawy nowych okoliczności faktycznych lub nowych dowodów istniejących w dniu wydania decyzji, nieznane organowi, który wydał decyzję. Treści tego przepisu, ugruntowana praktyka orzecznicza oraz poglądy doktryny pozwalają na przyjęcie tego rozwiązania wprost, bez wprowadzania szczególnych reguł w ustawie o sztucznej inteligencji. 269 Niezrozumiałe jest wskazanie przesłanki negatywnej do wznowienia postępowania przez Komisję w postaci przedawnienia karalności przestępstwa. Reguła wynikająca z art. 146 § 1, dotycząca negatywnej przesłanki wznowienia postępowania administracyjnego w przypadku nowych okoliczności/dowodów, odnosi się upływu pięcioletniego terminu od zakończenia postępowania. Termin ten jest istotny nie tylko z punktu widzenia ochrony interesów strony, ale także interesu publicznego i społecznego, bowiem wprowadza pewność co istniejącej sytuacji prawnej. Należy zwrócić uwagę, że w świetle wspomnianego przepisu art. 146 § 1 k.p.a. organ może wznowić postępowanie, jednak nie ma możliwości, po upływie terminu, rozstrzygać kwestii merytoryczne, a jedynie może wskazać, ze decyzja została wydania z naruszeniem prawa. Odwołanie w art. 60 ust 2 ustawy do terminu przedawnienia karalności przestępstwa, bez wskazania konkretnych przepisów kodeksu karnego budzi poważne wątpliwości natury prawnej. Warto zaznaczyć, że terminy przedawnienia przestępstw karnych są różne, co wyraźnie jest określone w art. 101 § 1 kodeksu karnego. Z przepisu nie wynika o przedawnieniu jakich przestępstw jest mowa. Wprowadzenie przywołanej regulacji narusza zasadę pewności prawa, zasadę przewidywalności prawa, a w szerszym ujęciu zasadę praworządności i demokratycznego państwa prawa. Jednostka musi bowiem mieć prawną gwarancję, że jej działania nie naruszają prawa, co w przypadku dosyć swobodnego odesłania do przepisów prawa karnego nie ma miejsca. Art. 60 ust. 2 GRAI Autorowi projektu, chyba chodziło o ,,przedawnienie deliktu”. Rozdział 5 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie poważnych incydentów (rozdział 5 USS) Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67 USS, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do systemów wysokiego ryzyka. Także motyw 78 AI Act , odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym rekomendujemy, aby obowiązki w tym zakresie, zostały zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 61 Polskie Towarzystwo Informatyczne Nie wyznaczono terminu, w jakim incydent ma być zgłoszony. Propozycja \"Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji w terminie 72 godzin od momentu powzięcia informacji o wystąpieniu poważnego incydentu. Art. 61 GRAI I. Zasadniej byłoby, gdyby dotyczył dostawców (i może również użytkowników) TYLKO systemów AI wysokiego ryzyka. 270 Definicja dostawcy jest bardzo szeroka. I jeśli będzie obowiązek dotyczyć dostawcy każdego systemu AI, może się okazać w praktyce, że notyfikacje mogłyby dotyczyć zbyt wielu systemów, o całkiem niszowym lub obiektywnie „niegroźnym” zastosowaniu. Zgłoszenie musiałoby oczywiście dotyczyć takich kwestii jak incydent w ramach narzędzi chatbotowych lub podobnych, które mają z założenia bezpośrednio wpływać na środowisko (czyli dajemy im większą autonomię), ale moim zdaniem mogłoby również obejmować wszelkie systemy AI, które sobie opracujemy do celów analiz, podpowiadania itp. Interpretacje co do zakresu definicji dostawcy pewnie dopiero się wykształtują, ale zwracam uwagę, na to, że definicja dostawcy obejmuje „oddanie do użytku” systemu AI. A oddanie do użytku” oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem. Więc nawet jak się oprzemy na gotowym modelu (np. LLM-owym lub innym), ale stworzymy środowisko, które ten model implementuje, określimy poziom jego autonomii itd., to całość będzie stanowić system AI, a my musielibyśmy być uznani za jego dostawcę, nawet jeśli stworzymy go do „użytku własnego”. I również (poważne) incydenty dla takich systemów musielibyśmy zgłaszać w trybie art. 61. II. Zgodnie z art. 26 ust. 5 obowiązek zgłaszania poważnych incydentów ma także stosujący system AI: “5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania.” II. W całym art. 61 należy dodać także “podmioty stosujące” lub wprowadzić osobny przepis dotyczący obowiązków podmiotu stosującego zgodnie z art. 26 ust. 5 AI Aktu. Art. 61 ust. 1 PIIT Zgłaszanie poważnych incydentów Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji 271 “poważnego incydentu” zawartego w art. 3 pkt 49 ASI nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 ASI, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. Art. 61 ust. 1 KIGEiT Propozycja zapis: Przepis zgodnie z Art. 73 ust. 1 Aktu o sztucznej inteligencji powinien ograniczać obowiązek zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka. , Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Art. 61 ust. 1 GRAI Brakuje terminu, w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zmiany brzmienia zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689 lub odesłanie w tym zakresie wprost do art. 72 ust. 2 rozporządzenia 2024/1689. Nadanie następującego brzmienia art. 61 ust. 1: „Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu.”. Art. 61 ust. 1 Związek Banków Polskich Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji bezzwłocznie, po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Brakuje terminu w jakim informacja o poważnym incydencie powinna zostać zgłoszona do Komisji. Propozycja zgodnie z art. 73 pkt 2 rozporządzenia 2024/1689. Art. 61 ust. 1 Fundacja FinTech Poland Proponujemy wprowadzenie postanowienia tak aby był klarownie skorelowane z art. 73 ust. 1 AI Act. Treść art. 73 ust. 1 AI Act wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów 272 wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. Postulowane brzmienie przepisu: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Art. 61 ust. 1 PSSI Otwarty dostęp do bazy incydentów SI Art. 61 pkt. 1 nakłada obowiązki związane z budową i utrzymaniem bazy incydentów związanych z systemami SI. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Z uwagi na duże znaczenie społeczne i badawcze, oraz zastosowania dla bezpieczeństwa SI, rekomendujemy by w ustawie zapisać, że baza incydentów będzie co do reguły otwarta i publicznie dostępna, z wyłączeniem uzasadnionych przypadków np. związanych z bezpieczeństwem narodowym. Art. 61 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Zgłaszanie incydentu (art. 61 ust. 1) Proponujemy zapis tak aby był klarownie skorelowany z z art. 73 ust. 1 rozporządzenia 2024/1689. Jest: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji. Propozycja: Art. 61. 1. Dostawca systemu sztucznej inteligencji ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji na terenie Rzeczpospolitej Polskiej. Uzasadnienie: Treść art. 73 ust. 1 wskazuje wprost, że: „Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent.” Ponieważ wiele procesów wykorzystywania systemów sztucznej inteligencji przez polskie podmioty może mieć miejsce poza Polską, wówczas informacja o incydencie powinna być przekazana do odpowiedniego organu na terenie kraju, w którym miało miejsce przetwarzanie. art. 61 ust. 2 CHAMBER Wymogi określone w art. 61 ust. 2 dla zgłoszenia poważnego incydentu zdają się nie odpowiadać jego definicji, w szczególności pkt. 4 odnosi się np. do wpływu na “inne systemy informacyjne”, co jednak nie jest objęte pojęciem “poważnego incydentu” z art. 3 pkt 49 Rozporządzenia. Sugerujemy odpowiednie dostosowanie tego przepisu tak, aby nie budziło wątpliwości że dotyczy tylko czterech przypadków enumeratywnie wymienionych w definicji. 273 Art. 61 ust. 2 Osoba fizyczna jk Wymaganie w pkt 4 podania opisu wpływu poważnego incydentu na systemy informacyjne lub świadczenie usług jest sprzeczne z listą zdarzeń podaną w definicji poważnego incydentu zawartej w rozporządzeniu 2024/1689: a) śmierć osoby lub poważny uszczerbek na zdrowiu osoby; b) poważne i nieodwracalne zakłócenie w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenie obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważna szkoda na mieniu lub poważna szkoda dla środowiska. Zatem zapis powinien być następujący: 4) opis poważnego incydentu, w tym: a) system AI, w którym doszło do zdarzenia lub zdarzeń wymienionych w art. 3 pkt 49 rozporządzenia 2024/1689, b) liczbę użytkowników, na których poważny incydent miał wpływ, c) moment wystąpienia i wykrycia poważnego incydentu oraz czas jego trwania, d) zasięg geograficzny obszaru, którego dotyczy incydent poważny, e) wpływ poważnego incydentu na systemy sztucznej inteligencji innych dostawców, f) przyczynę zaistnienia poważnego incydentu i sposób jego przebiegu oraz jego skutki, g) ocenę dotkliwości incydentu, w szczególności w odniesieniu do zdrowia i bezpieczeństwa lub praw podstawowych osób. Nie wolno bezrefleksyjnie przepisywać treści z innych ustaw, w tym przypadku z ustawy o krajowym systemie cyberbezpieczeństwa. Art. 61 ust. 2 pkt 8 Związek Banków Polskich Inne istotne informacje dotyczące zaistnienia poważnego incydentu. Propozycja brzmienia przepisu precyzuje czego dotyczą inne istotne informacje. Art. 61 ust. 4 i 5 GRAI Wątpliwości budzi takie szerokie zobowiązanie podmiotu zgłaszającego incydent do przekazywania informacji prawnie chronionych, szczególnie, że Komisja nie gwarantuje odpowiednich środków zabezpieczających takie informacje. Brak bezpiecznej, zaszyfrowanej ścieżki przekazywania, jak i zaszyfrowanego miejsca przechowywania takich informacji. Póki co, i to w wąskim zakresie Komisja ma chronić dane osobowe szczególnej kategorii, co już zostało zgłoszone wcześniej. Komisja może prosić tylko o absolutnie niezbędne informacje chronione i zapewnić odpowiednie środki ochrony zgodnie z art. 78 ust. 2 AIA. Ustawa jednak nie tylko upoważnia do przekazywania komisji znacznej części informacji chronionych (co widać w tym i innych postanowieniach projektu ustawy) to jeszcze nie wspomina wcale o środkach zabezpieczenia. Należy skupić się na takim sformułowaniu przepisów, aby absolutna niezbędność do przekazania informacji była uzasadniona a samo przekazanie i przechowywanie odpowiednio chronione. Postuluje się zatem dodanie osobnej sekcji lub postanowienia dotyczącego środków 274 zabezpieczenia, spełniających najwyższe standardy i odpowiadające najnowszym wymaganiom rynkowym w kontekście cyberbezpieczeństwa. Art. 61 ust. 4 Związek Banków Polskich Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 5 Związek Banków Polskich Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Art. 61 ust. 7 Propozycja dodania przepisu Związek Banków Polskich 7. Rozdział nie ma zastosowania do podmiotów, o których mowa w art. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2554 z dnia 14 grudnia 2022 r. w sprawie operacyjnej odporności cyfrowej sektora finansowego i zmieniające rozporządzenia (WE) nr 1060/2009, (UE) nr 648/2012, (UE) nr 600/2014, (UE) nr 909/2014 oraz (UE) 2016/1011 Propozycja dodania przepisu, który wyłączy z zakresu tego rozdziału podmioty podlegające pod DORA. DORA przewiduje szerszy zakres obowiązków z obszaru zgłaszania incydentów niż projekt ustawy. Dwutorowe regulowanie tematu wydaje się mało efektywne. Art. 61 – Art. 62 Polskie Towarzystwo Informatyczne Brak wzoru formularza zgłoszenia jest tylko ogólna przytoczona lista wymogów bez odpowiedniej klauzuli RODO oraz sposobu przekazania do wskazanych instytucji tak by zabezpieczyć dane wrażliwe obu stron. 275 Sugerujemy delegację do Rozporządzenia określającego format formularza zgłoszenia oraz procedurę zgłoszenia. Niejasne, nieprecyzyjne ramy dotyczące zgłoszenia. Art. 61 - 63 Instytut Spraw Obywatelskich Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 61 - 63 Obywatelski Akcelerator Innowacji Artykuł 61 oraz 62-63 reguluje zgłaszanie poważnych incydentów, jednak nie definiuje jasnych zasad odpowiedzialności za zarządzanie nimi oraz minimalnych wymagań, co komplikuje zgodność z wymaganiami innych aktów prawnych w zakresie ochrony danych osobowych. Art. 62. PWPW Zgłoszenie oraz informacje, o których mowa w art. 61 ustawy, są przekazywane Komisji w postaci elektronicznej, a w przypadku braku możliwości przekazania w postaci elektronicznej przy użyciu innych dostępnych środków komunikacji Należy wprowadzić przepisy wyraźnie wskazujące kanał zgłaszania naruszeń oraz terminy (odpowiednie). art. 63 CHAMBER Postulujemy wykreślenie art. 63 w całości lub jego zasadniczą przebudowę. Nie ma uzasadnienia dla tak szerokiej dystrybucji wszystkich zgłoszeń poważnych incydentów do wszystkich wymienionych organów. Wręcz przeciwnie - tak wrażliwe informacje powinny być rygorystycznie chronione i przekazywane innym instytucjom jedynie w przypadkach i zakresie gdy jest to niezbędne do wykonywania ich ustawowych obowiązków lub zapobieżeniu dalszym szkodom lub ograniczenie ryzyka. Co więcej - mając na uwadze horyzontalny charakter zastosowań systemów SI dobór tylko tych kilku podmiotów nie wydaje się trafny, gdyż poważny incydent (co ma zresztą wyraźne odbicie w brzmieniu jego definicji) może dotyczyć np. krytycznej infrastruktury energetycznej (o czym powinien wiedzieć np. URE i Minister właściwy ds. energetyki) czy systemów ochrony zdrowia (gdzie adresatem powinien być Minister właściwy ds. ochrony zdrowia i podległe mu agendy). Art. 63 Osoba fizyczna jk Wymieniony \"koordynator do spraw usług cyfrowych\" wymaga wyjaśnienia, kto to jest, gdzie go szukać, czy jest to koordynator w rozumieniu Digital Services Act. Rozdział 6 Krajowy Instytut Mediów Zasadność powierzenia jednemu odrębnemu organowi funkcji organu notyfikującego Wyodrębnienie dedykowanego organu odpowiedzialnego za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniającyc zgodność oraz za ich monitorowanie, zagwarantuje spójność i koordynowanie działań interesariuszy rynku, ułatwiając także ich współpracę. Istotne jest, by funkcję organu nadzoru rynku oraz organu notyfikującego realizowane były poprzez niezależne od siebie organy na 276 zasadzie współpracy opartej na podziale zadań, co zapewniłoby bezstronne podejście obu rodzajów instytucji wobec wprowadzanych na rynek innowacji, a zarazem poszerzone, wieloaspektowe spojrzenie na rozwój SI, która jak się wydaje, będzie zasadniczą siłą napędową wzrostu gospodarczego. Art. 64 Polskie Towarzystwo Informatyczne Brak jasnego formularza ograniczającego możliwość subiektywnej oceny organu notyfikującego. A co jeśli certyfikacje lub notyfikacje firma uzyska na szczeblu UE lub innego kraju członkowskiego ? Określić jasny wzór wniosku celem jawności procedury. Ponadto dookreślić procedurę w przypadku uzyskania notyfikacji w innym kraju członkowskim lub na szczeblu administracji UE. Sugerujemy rozważenie delegacji w tym zakresie do Rozporządzenia. Ogólnie określone ramy notyfikacji brak jasnych precyzyjnych parametrów dotyczących notyfikacji Art. 64 Ust. 1 KIGEiT Propozycja zapisu: dodanie pierwszego zdania w ust. 1: \"Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w Art.70 Rozporządzenia 2024/1689.\" Brakuje wskazania wprost kto jest organem notyfikującym. Art. 64 ust. 3 pkt 1 GRAI Zgodnie z projektowanym art. 64 ust. 3 pkt 1 Polskie Centrum Akredytacji “we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji:”. Przepis ten nie uwzględnia szeregu kompetencji przypisanych w rozporządzeniu 2024/1689 Komisji Europejskiej i Radzie ds. AI (m.in. koordynacja, działań, opracowywanie wytycznych), które mogą mieć wpływ na treść programu akredytacji. Proponujemy przyjęcie zmiany tego przepisu i nadanie mu treści “opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji, przepisy rozporządzenia 2024/1689 wraz aktami wykonawczymi właściwe normy zharmonizowane oraz decyzje, wytyczne, zalecenia i stanowiska Komisji Europejskiej i Europejskiej Rady ds. Sztucznej Inteligencji, wydanych w ramach przysługujących im kompetencji na gruncie rozporządzenia 2024/1689:”. Art. 64 ust. 3 pkt 1 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji. 277 Zaproponowany zapis obliguje do aktualizacji programu akredytacji co 24 miesiące. Proponujemy usunięcie tego wymogu. Zaproponowany termin może być zarówno za krótki jaki i za długi. Z jednej strony projekt zakłada obowiązek takiej aktualizacji nawet jeżeli nie ma ku temu przesłanek a z drugiej strony może wystąpić sytuacja, iż program ten powinien być zmieniony szybciej. Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu; Zaproponowane podejście umożliwia bardziej elastyczne reagowanie. Art. 64 ust. 3 pkt 1 NASK Zgodnie z brzmieniem art. 64 ust. 3 pkt 1 projektu ustawy w brzmieniu: „Polskie Centrum Akredytacji (...) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji” przypisuje się Polskiemu Centrum Akredytacji (dalej: PCA) i ministrowi właściwemu do spraw informatyzacji niebagatelną rolę w kształtowaniu programu akredytacji jednostek oceniających zgodność całkowicie przy tym pomijając Komisję Europejską, European Accreditation, jak i Europejską Radę ds. Sztucznej Inteligencji (dalej: „Radę ds. AI”). Należy zwrócić uwagę, że rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) w pkt. 20 motywów sygnalizuje, jak duża rola będzie przypisana do Rady ds. AI, która „(...) powinna wspierać Komisję w promowaniu narzędzi rozwijających kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI. We współpracy z odpowiednimi zainteresowanymi stronami Komisja i państwa członkowskie powinny ułatwiać opracowywanie dobrowolnych kodeksów postępowania w celu podnoszenia kompetencji w zakresie AI wśród osób zajmujących się rozwojem, działaniem i wykorzystywaniem AI” czy w punkcie 149 „Rada ds. AI powinna odpowiadać za szereg zadań doradczych, w tym wydawanie opinii lub zaleceń oraz udzielanie porad lub udział w tworzeniu wskazówek w dziedzinach związanych z wykonywaniem niniejszego rozporządzenia, także w kwestiach egzekwowania, specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w niniejszym rozporządzeniu, jak również za udzielanie porad Komisji oraz państwom członkowskim i ich właściwym organom krajowym w konkretnych kwestiach związanych z AI.” Taki zapis, jak i inne w Akcie w sprawie sztucznej inteligencji, nie wyklucza kompetencji w zakresie kształtowania programów akredytacji, a wręcz potwierdza, że wypracowane przez nowy organ dokumenty mogą mieć duży wpływ i wręcz powinny odnajdować odzwierciedlenie również w programach akredytacji poszczególnych państw członkowskich. 278 W związku z tym należy rozważyć rozszerzenie obecnej treści art. 64 ust. 3 pkt 1 projektu ustawy o uwzględnienie w programach akredytacji również aktów wykonawczych do Aktu w sprawie sztucznej inteligencji czy też decyzji, wytycznych, zaleceń i stanowisk odpowiednio Komisji Europejskiej i jak i Rady ds. AI Europejskiej w zakresie określonym ich kompetencjami we wspomnianym wyżej Akcie; Art. 64 ust. 3 pkt 2 PCA Zaproponowany punkt ma brzmienie Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach w tym obszarze, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowany zapis obliguje do przekazywania ministrowi właściwemu do spraw informatyzacji informacji o zmianach zakresu akredytacji. PCA proponuje aby temu obowiązkowi podlegały wyłącznie zmiany odnoszące się do zakresu niniejszej ustawy. Obserwowana jest obecnie tendencja raczej do rozszerzania zakresu akredytacji przez istniejące już jednostki certyfikujące a niekoniecznie do powstawania nowych jednostek. W konsekwencji jednostki certyfikujące są akredytowane w wielu zakresach. W ocenie PCA przekazywanie informacji o wszystkich zmianach może być interpretowane jako obowiązek przekazywania informacji o każdej zmianie w odniesieniu do każdego z zakresów np. z obszaru rolnictwa czy budownictwa. Polskie Centrum Akredytacji przekazuje ministrowi właściwemu do spraw informatyzacji informację o wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, udzielonych akredytacjach, zmianach zakresu akredytacji oraz zawieszonych albo cofniętych akredytacjach w tym obszarze w terminie 14 dni odpowiednio od dnia podjęcia decyzji. Zaproponowane podejście doprecyzuje zakres przekazywanych informacji i wyeliminuje możliwość przekazywania informacji zbędnych. Art. 65 ust. 1 GRAI Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. Informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d'accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. 279 Art. 66 ust. 1 i 2 Osoba fizyczna jk Art. 95 rozporządzenia 2024/1689 dotyczy kodeksów postępowania do celów dobrowolnego stosowania szczególnych wymogów. Kodeksy będą opracowywane przez zainteresowane strony, czyli poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Komisja oraz minister właściwy do spraw informatyzacji mogą jedynie zachęcać do ich opracowania i ułatwiać ich opracowanie - na wzór kodeksów postępowania opisanych w rozporządzeniu 2016/679 (RODO). Pomijając art. 95: Według zapisu ust. 1 to minister właściwy do spraw informatyzacji ma wydawać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji, zaś według zapisu ust. 2 Przewodniczący Komisji go tylko wspiera. Z kolei w uzasadnieniu projektu ustawy podano, że to Komisja będzie m.in. udostępniała w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. Czy to oznacza, że Komisja będzie robiła tylko za słup ogłoszeniowy? Jak wynika z treści OSR-u, Komisja będzie zatrudniać ekspertów z wiedzą z zakresu IT, nowych technologii i cyberbezpieczeństwa, posiadających umiejętności: identyfikowania i rozwiązywania szerokiego spectrum pojawiających się problemów w rozwoju i wykorzystaniu sztucznej inteligencji, kreatywnego rozwiązywania problemów w szybko rozwijającej się rzeczywistości informatycznej, łączenia wiedzy programistycznej z umiejętnością analizy danych przy wykorzystaniu ciągle zmieniających się nowoczesnych technologii, komunikacji, ponadprzeciętnej kreatywności, a także szerokiej wiedzy z wielu dziedzin prawa czy wyjątkowo biegłej znajomości języka obcego, w tym angielskiego. Czyli w Komisji pracować będą specjaliści. Jednak w Ministerstwie Cyfryzacji będą potrzebni kolejni specjaliści, by przygotowywać rekomendacje najlepszych praktyk stosowania systemów sztucznej inteligencji. To oznacza dublowanie wiedzy, kompetencji i kosztów. Art. 65 ust. 2 pkt 2 GRAI Przy pierwszej akredytacji nie jest możliwe poinformowanie o cyt. “okresie ważności udzielonej akredytacji”. Sugerujemy zrezygnowanie z wymogu wskazywania okresu ważności udzielonej akredytacji. Art. 65 ust. 2 pkt 2 NASK warto rozważyć również doprecyzowanie brzmienia art. 65 ust. 2 pkt 2 w brzmieniu: „Wniosek, o którym mowa w ust. 1, zawiera co najmniej: (...) 2) określenie okresu ważności udzielonej akredytacji jak również jej numeru wraz z oznaczeniem certyfikatu akredytacji.” Przepis w obecnym brzmieniu może wprowadzać w błąd i warto dookreślić, że chodzi o okres ważności i certyfikat akredytacji ukonstytuujący jednostkę oceniającą zgodność jako taki podmiot. W chwili obecnej mogą pojawić się pewne wątpliwości interpretacyjne stąd warto dookreślić brzmienie przywołanego artykułu; 280 Art. 65 ust. 3 pkt 2 i pkt 3 GRAI Zgodnie z projektowaną treścią do wniosku w sprawie notyfikacji jednostki oceniającej zgodność załącza się co najmniej “dokumenty potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689”. Treść art. 31 tego rozporządzenia nie zawiera jednak zamkniętego, jednoznacznego katalogu wymogów, które mogłyby zostać wykazane określonymi dokumentami. Część z nich jest możliwa do wykazania, ale inne (np. niezależność od dostawców systemów AI już nie. W takich przypadkach dowody z dokumentów (np. wydruk z rejestru przedsiębiorców KRS) mogą co najwyżej być dokumentem uprawdopodabniającym, a nie stanowiącym dowód wykazujący te okoliczności wprost. Dlatego, jak zakładamy, projektodawca dodał pkt 3) zakładający możliwość złożenia deklaracji o spełnieniu wymogów, o których mowa w ww. art. 31. Należy jednak wskazać, że zgodnie z art. 29 ust. 3 ww. Rozporządzenia jednostka oceniająca zgodność przekazuje dokumenty stanowiące dowód na spełnienie wymogów z art 31 rozporządzenia, jeśli nie posiada certyfikatu akredytacji. Projektowany przepis pomija zatem treść art. 29 ust. 3 ww. rozporządzenia. Proponujemy zmianę ust. 3 art. 65 poprzez przyjęcie treści: “3. Do wniosku, o którym mowa w ust. 1 stosuje się art. 29 ust. 2 - 4 rozporządzenia 2024/1689, z zastrzeżeniem art. 32 ww. rozporządzenia. W przypadkach obiektywnego braku możliwości przedłożenia dokumentów potwierdzających spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689, dopuszcza się złożenie deklaracji o spełnieniu tych wymogów.”. Do rozważenia jest wskazanie przykładowego katalogu okoliczności, które mogą być przedmiotem deklaracji. Art. 66 ust. 1 – 3 GRAI Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Nadanie następującego brzmienia ust. 1: “1. Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.”. Usunięcie ust. 2, a ust. 3 zmieni numerację na “2”. W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 14 w ust. 1 art. 11 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Art. 66 ust. 1 GRAI Do rozważenia dodanie przepisu mówiącego o tym, że ,,rekomendacje” mogą podlegać okresowej aktualizacji (analogicznie jak w art. 53 ustawy o ochronie danych osobowych ). 281 Art. 66 ust. 1 Związek Pracodawców Technologii Cyfrowych Lewiatan Obowiązek informacyjny ministra właściwego ds. informatyzacji (art. 66 ust. 1) Proponujemy zmianę zapisu: Jest: Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Zmiana: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie zmiany: a. Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki b. Informacja powinna trafić do Komisji, natomiast przekazywanie jej do Rady Ministrów wydaje się być w tej formie przedwczesne c. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Art. 66 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Art. 95 Rozporządzenia 2024/1689 odnosi się do kodeksów dobrych praktyk (tzw. kodeksy postępowania), które mogą być też tworzone przez różne organizacje jak i same podmioty stosujące AI. Zatem niezrozumiałe jest, aby Minister właściwy ds. informatyzacji wydawał „rekomendacje najlepszych praktyk”, tym bardziej że Komisja może wydawać interpretacje w świetle projektowanych przepisów. W związku z powyższym, rekomendujemy usunięcie art. 66 w obecnym kształcie. Art. 66 ust. 1 Fundacja FinTech Poland Nie jest potrzebny pośrednik w osobie ministra właściwego ds. informatyzacji by przygotować i przekazać Komisji informację, o której mowa. Źródłem informacji powinien być minister właściwy dla szkolnictwa wyższego i nauki. Informacja powinna trafić do Komisji, natomiast przekazywanie 282 jej do Rady Ministrów wydaje się być w tej formie przedwczesne. Informacja powinna być ograniczona do zasobów, którymi zarządza minister właściwy do spraw szkolnictwa wyższego i nauki. Wprawdzie rozporządzenie 2024/1689 mówi o obowiązkach informacyjnych i odpowiedniej dokumentacji, ale standardy te nie są jeszcze określone (Komisja Europejska ma przygotować taki standard). Co więcej, wiele podmiotów będzie wykorzystywało także infrastrukturę poza granicami Polski, co dodatkowo zaburza elementy informacyjne. Podsumowując: Mając na uwadze potrzebę określenia niezbędnych zasobów dla rozwoju systemów sztucznej inteligencji w Polsce proponujemy ograniczenie informacji do zasobów będących w obszarze zarządzanym przez sektor nauki i szkolnictwa wyższego. Postulowane brzmienie przepisu: 3. Minister właściwy do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Komisji informację na temat zasobów obliczeniowych w dziale administracji szkolnictwo wyższe i nauka wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. art. 66 ust 1 i 2 CHAMBER Nie jest jasne, dlaczego projekt ustawy w art. 66 ust 1 i 2 powierza zadania związane ze wsparciem dla powstawania kodeksów postępowania Ministrowi właściwego ds. informatyzacji. Wydaje się, że to Komisja powinna pełnić tutaj rolę wiodącą, ewentualnie ze wsparciem Ministra (czyli odwrotnie, niż przewiduje ust. 2). Co więcej - art. 91 Rozporządzenia nie przewiduje kompetencji do “wydawania rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji”, a wymaga, aby organy państwa “zachęcały” i “ułatwiały” powstawanie kodeksów dobrych praktyk. Art. 66 ust. 3 Instrat – Fundacja Centrum Cyfrowe Art. 66 ust. 3 Minister właściwy do spraw informatyzacji, na podstawie informacji udzielonej przez ministra właściwego do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Jesteśmy zdania, że ust. 3 art. 66 oraz kolejne przepisy w tej sekcji odbiegają znacznie od tytułu Rozdziału 6 brzmiącego “Jednostki notyfikowane i procedura notyfikacyjna”. Rekomendujemy więc zmianę tytułu na “Procedura notyfikacyjna i obowiązki informacyjne”. Art. 67 Związek Cyfrowa Polska Zgłaszanie poważnych incydentów. Rozdział poświęcony zgłaszaniu poważnych incydentów, zgodnie z art. 67, odnosi się, do dostawców każdego rodzaju systemów, sztucznej inteligencji - podczas gdy AI Act (art. 62), wprowadza obowiązki raportowania jedynie w odniesieniu do 283 systemów wysokiego ryzyka. Także motyw 78 AI Act, odnosi się w zakresie raportowania poważnych incydentów, jedynie do systemów SI wysokiego ryzyka. Wobec powyższego, propozycja rozciągnięcia znaczących obowiązków w zakresie monitorowania i raportowania ewentualnych incydentów, na dostawców systemów SI każdego rodzaju, wydaje się nieuzasadniony i niezgodny z treścią AI Act. Tym samym obowiązku w tym zakresie, powinny zostać zawężone do wymaganych przez rozporządzenie, systemów wysokiego ryzyka. Art. 67 ust. 2 GRAI Przepis zawiera błąd - zamiast „zdarzenie” wyczerpujące znamiona przestępstwa przepis powinien wskazać na „czyn” wyczerpujący znamiona przestępstwa. Powinna nastąpić zmiana używanych pojęć. Art. 67 ust. 2 NASK w treści art. 67 ust. 2 projektu ustawy w brzmieniu: „Minister właściwy do spraw informatyzacji przekazuje informacje, o których mowa w ust. 1, organom ścigania w związku ze zdarzeniem wyczerpującym znamiona przestępstwa” należy rozważyć zmianę słowa „zdarzenie” i zastąpienie go słowem „czyn”. Warto zachować spójność z nomenklaturą używaną w prawie karnym, gdzie mówiąc o wyczerpaniu znamion przestępstwa mówimy o czynie, a nie o zdarzeniu. Art. 68 GRAI Norma kompetencyjna z art. 12 projektu ustawy o systemach oceny zgodności i nadzoru rynku powinna zostać dookreślona względem specyfiki rozporządzenia 2024/1689. Propozycja nadania następującego brzmienia art. 68: “Art. 68. W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych niniejszą ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. Ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje lub rozporządzenia wykonawcze Komisji Europejskiej, interpretacje generalne wydawane przez Komisję.” Art. 68 ust. 1 GRAI Projektowany przepis przyznaje ministrowi właściwemu do spraw informatyzacji kompetencję do określenia wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. Prawidłowa jednostka redakcyjna to ust. 3 tego przepisu. Rekomendujemy zmianę na: “1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. Art. 68 ust. 1 i 2 GRAI Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek ministra cyfryzacji. Rekomendujemy, że w odniesieniu do art. 69 ust. 1 i 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. 284 Art. 69 CHAMBER Do art. 69 odnoszą się mutatis mutandis uwagi wskazane powyżej w stosunku do art. 40 projektu, dotyczące np. nieprawidłowego odesłania do przepisów Rozporządzenia. Art. 69 ust.1 PIIT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Art. 69 ust.1 KIGEiT Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Doprecyzowanie. Uwaga ogólna Fundacja FinTech Poland Przepisy karne i przepisy administracyjne powinny być wyraźnie oddzielone. Uwaga ogólna do rozdziału 7 Osoba Fizyczna mk W rozdziale 7 Ustawy (Przepisy o administracyjnych karach pieniężnych i przepisy karne) nie są wprost wymienione kary za brak zgłoszenia, niepełne zgłoszenie, spóźnione zgłoszenie lub inne niedochowanie obowiązków związanych ze zgłoszeniem poważnego incydentu przez dostawcę systemu sztucznej inteligencji, jak omówiono w rozdziale 5 Ustawy (Zgłaszanie poważnych incydentów). Uwaga ogólna do rozdziału 7 British Polish Chamber of Commerce (BPCC) Wśród przepisów regulujących sposób nakładania, odroczenia czy umarzania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji kar za naruszenia Aktu o Sztucznej Inteligencji, brakuje naszym zdaniem zapisu określającego termin przedawnienia naruszeń podlegających karze. Bez takiego zapisu brakuje ograniczenia czasowego od stosowania sankcji Rozdział 7 Związek Cyfrowa Polska Egzekucja kar finansowych. Rozdział 7 Projektu ustawy reguluje zagadnienia związane z nakładaniem i egzekucją administracyjnych kar pieniężnych, przy czym częściowo regulacja ta odbiega od ogólnych zasad wynikających z KPA: Przepisy dot. odstąpienia od nałożenia oraz ulgi w zakresie wykonania administracyjnej kary pieniężnej. Ustawodawca wyłączając stosowanie art. 189 f KPA (art. 76 Projektu) znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 Projektu (art. 70 ust. 4 Projektu) – jest to 285 nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 Projektu. Termin uiszczenia kary pieniężnej. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzdniego roku obrotowego), sugerujemy wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 Projektu), co najmniej do 30 dni. Przede wszystkim jednak konieczne jest wykreślenie możliwości nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74 Projektu). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Art. 70 Open AI Devs Community Proporcjonalność kar. Postulujemy wprowadzenie do art. 70 projektu ustawy następujących modyfikacji: • Uzależnienie wysokości kar od wielkości podmiotu i skali naruszenia; • Wprowadzenie górnego limitu kar dla MŚP i indywidualnych deweloperów; • Rozszerzenie katalogu okoliczności łagodzących. Art. 70 PIIT Art. 70. 1. Komisja może nałożyć na operatora, w przypadkach określonych w art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. 286 Art. 70 GRAI W przypadku małych i średnich przedsiębiorstw (MŚP) oraz startupów, organ nakładający karę stosuje niższą z dwóch wartości: kwoty określonej w euro, lub wartości procentowej całkowitego rocznego światowego obrotu zależnie od wagi naruszenia określonego w AI Act. Określenie, że organ nakładający karę stosuje w przypadku MŚP niższą z dwóch wartości. Brak regulacji dotyczących nakładania administracyjnych kar pieniężnych w odniesieniu do organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689 “Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne.” Nasza ustawa nie odnosi się do tego, a jednocześnie zaproponowany w art. 70 ustawy zapis szeroko określa krąg podmiotów, na które będą mogły być nakładane kary. Koniecznym jest uregulowanie “czy i w jakim zakresie administracyjne kary pieniężne można nakładać na organy i podmioty publiczne”. Wymaga to również określenia wysokości kary pieniężnej jaka może być nakładana na taki podmiot. A jeśli intencją projektodawcy było stosowanie takich samych reguł w zakresie organów i podmiotów publicznych należy to wskazać w uzasadnieniu. Art. 70 KIGEiT Rekomendacja: Zróżnicowanie kar na podstawie wielkości podmiotu: \"Wysokość kar za naruszenie przepisów zostanie dostosowana do wielkości podmiotu oraz charakteru naruszenia. Komisja, przed nałożeniem kary, będzie zobowiązana do wydania ostrzeżenia oraz zaleceń naprawczych, a kary będą mogły być nałożone dopiero po upływie terminu na ich wdrożenie. Przedsiębiorstwa będą mogły ubiegać się o rozłożenie kary na raty lub jej częściowe umorzenie, jeśli wykażą znaczną poprawę w działaniach zgodnych z przepisami.\" Art. 70 (Administracyjne kary pieniężne) przewiduje nakładanie kar za naruszenia przepisów. Warto, aby przepisy były bardziej proporcjonalne i elastyczne w stosunku do mniejszych graczy rynkowych. To umożliwi mniejszym firmom dostosowanie się do przepisów bez ryzyka bankructwa, co może wynikać z nałożenia wysokich kar administracyjnych. Art. 70 ICC Poland Projekt przewiduje możliwość nałożenia przez Komisję, w drodze decyzji, administracyjnej kary pieniężnej na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Zgodnie z art. 70 ust. 1 Projektu, Komisja może nałożyć taką karę na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689. Jak wynika z uzasadnienia Projektu (s. 17), Projekt zakłada możliwość nałożenia kary na podmioty zarówno z sektora prywatnego, jak i 287 publicznego. Projekt nie precyzuje jednak, czy możliwość nałożenia administracyjnej kary pieniężnej dotyczy także organów i podmiotów publicznych. Zgodnie z art. 99 ust. 8 rozporządzenia 2024/1689, każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. Również ten przepis zacznie być stosowany od 2 sierpnia 2025 r. Regulacje rozdziału 7 Projektu wymagają zatem w tym zakresie doprecyzowania lub uzupełnienia. Art. 70 ust. 1 KIGEiT Propozycja zapisu: Art. 70. 1. Komisja może w przypadkach określonych w Art. 99 ust.3(-5) * rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w Art. 99 rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i użyty w Art. 99 ust1 Rozporządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 Art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń Art. 5, czyli ust. 3 Art.99. Art. 70 ust. 4 PWPW Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Proponujemy wskazać, że Komisja odstępuje a nie może odstąpić. Jeżeli wydano ostrzeżenie i podmiot się do niego zastosował oraz nie było szkody dla interesu społecznego, to Komisja powinna odstąpić od kary. Arbitralność decyzji Komisji w tej sytuacji jest niezrozumiała - dlaczego nadal Komisja może nałożyć karę jeżeli wcześniej wydała ostrzeżenie które zostało uwzględnione. Skutkiem tego będą sytuacje, w których podmioty nie będą wiedziały czy zastosowanie się do ostrzeżenia ochroni je przed karą, osłabia to zatem instytucję ostrzeżenia. Art. 70 ust. 4 KIGEiT Propozycja zapisu: Art. 70. 4 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w Art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. 288 Dodatkowa przesłanka poza Art. 99 ust. 7 AI Act. Art. 71 PIIT Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Wydłużenie terminu - analogicznie jak w uodo. Art. 71 KIGEiT Propozycja zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w Art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. , Wydłużenie terminu - analogicznie jak w uodo. Art. 72 KIGEiT Art. 72. Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. , Dobrze byłoby, aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic regulacyjnych, co wpisywałoby się w cel regulacji jakim jest wspieranie innowacji. Art. 72 GRAI Uwaga redakcyjna Po słowie ,,Środki” dodaje się słowo ,,finansowe”. Art. 73 PIIT art. 73.1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 Osoba fizyczna mk Artykuł 99 rozporządzenia 2024/1689 nie odwołuje się wprost do artykułu 73 tegoż rozporządzenia, który opisuje obowiązki dostawców systemów sztucznej inteligencji dotyczące zgłaszania poważnych incydentów. Do artykułu 73 nie odwołuje się również artykuł 16 rozporządzenia 2024/1689, który szerzej opisuje obowiązki dostawców systemów sztucznej inteligencji, a którego naruszenie stanowi podstawę do nałożenia kary w myśl artykułu 99, punkt 4a. 289 Co za tym idzie, istnieje ryzyko, że artykuł 99 rozporządzenia 2024/1689 nie stanowi samodzielnie wystarczającej podstawy do wymierzania kar dla dostawców systemów sztucznej inteligencji w przypadku niedochowania obowiązków związanych ze zgłaszaniem poważnych incydentów. W konsekwencji, samo powołanie się w rozdziale 7 Ustawy (Art. 70) na artykuł 99 rozporządzenia 2024/1689, jako na podstawę do wymierzania kar, może okazać się niewystarczające w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z artykułu 73 rozporządzenia 2024/1689 lub rozdziału 5 Ustawy. Ponieważ ani artykuł 99 rozporządzenia 2024/1689 ani również Ustawa nie określają wprost kar za niedochowanie przez dostawców systemów sztucznej inteligencji obowiązków związanych ze zgłaszaniem poważnych incydentów, istnieje ryzyko wystąpienia luki prawnej, w ramach której Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji nie będzie mogła nakładać kar w przypadku niedochowania przez dostawców systemów sztucznej inteligencji obowiązków wynikających z rozdziału 5 Ustawy. W rezultacie te przepisy mogą okazać się martwe. Wskazane jest uzupełnienie rozdziału 7 ustawy o odpowiedni zapis likwidujący możliwość wystąpienia wyżej opisanej luki. Art. 73 ICC Poland Artykuł 73 ust. 1 Projektu przewiduje, że administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się orzeczenia sądu. Biorąc pod uwagę wysokie limity kar za naruszenie przepisów rozporządzenia 2024/1689, sięgające nawet 35 milionów euro lub 7% całkowitego rocznego światowego obrotu, 14-dniowy termin wydaje się terminem zbyt krótkim. Przedsiębiorcy mogą mieć trudności z zebraniem tak dużych środków pieniężnych w tak krótkim czasie, co może wywołać daleko idące negatywne konsekwencje dla prowadzonej przez nich działalności. Warto rozważyć wydłużenie tego terminu. Art. 73 Związek Cyfrowa Polska Ograniczone możliwości odwołania się i wysokie kary, które stwarzają ryzyko finansowe dla przedsiębiorstw wykorzystujących sztuczną inteligencję (art. 73 Projektu). Ograniczona możliwość odwołania się od decyzji, krótkie terminy płatności kar oraz natychmiastowa wykonalność kar mogą poważnie wpłynąć na przepływy pieniężne i operacje przed rozpatrzeniem odwołań. Art. 73 ust. 1 GRAI I. Biorąc pod uwagę znaczną wysokość kar finansowych grożących za naruszenie przepisów AI Act (do 35 000 000 EUR lub w wysokości do 7 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego), wyznaczenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej (art. 73 ust. 1 projektu) jest zbyt krótkie. II. Zbędne opisowe określanie stanu uprawomocnienia się decyzji. I. Zmiana zaproponowanego terminu „14 dni” na dłuższy termin, np. „90 dni”. II. Słowa “upływu terminu na wniesienie odwołania albo od dnia uprawomocnienia się orzeczenia sądu” zastępuje się słowami “uprawomocnienia się decyzji w przedmiocie jej nałożenia”. 290 Propozycja brzmienia przepisu: „1. Administracyjną karę pieniężną uiszcza się w terminie 90 dni od dnia uprawomocnienia się decyzji w przedmiocie jej nałożenia.”. Art. 73 ust. 1 KIGEiT Propozycja zapisu: Art. 73 .1. Administracyjną karę pieniężną uiszcza się w terminie 14 dni od dnia uprawomocnienia się decyzji Komisji , Jeśli brzmienie pierwotne to należałoby uściślić - w przypadku braku wniesienie odwołania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Postulujemy wydłużenie terminu do 30 dni. Art. 73 ust. 1 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wnosimy o uwzględnienie możliwości wniesienia zażalenia na przedmiotowe postanowienie. Art. 73 ust. 8 PIIT art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 KIGEiT Propozycja zapisu: Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. , Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. Art. 73 ust. 8 NRA Art. 73 ust. 8 Projektu nie rozstrzyga kwestii kluczowej dla ochrony prawnej podmiotów, a mianowicie właściwości organu uprawnionego do rozpatrzenia środka odwoławczego od 291 postanowienia dotyczącego odroczenia terminu płatności lub rozłożenia na raty administracyjnej kary pieniężnej, które zgodnie z art. 73 ust. 2 Projektu ma być wydawane przez Komisję. Brak jednoznacznych regulacji w Projekcie może rodzić wątpliwości czy odwołanie od tego rodzaju postanowienia winno być wniesione do SOKiK, czy też w pierwszej kolejności podlegać rozpoznaniu przez samą Komisję w trybie ponownego rozpatrzenia sprawy (na zasadzie art. 127 § 3 w zw. z art. 144 k.p.a.), a dopiero następnie, w przypadku negatywnego rozstrzygnięcia, skierowane do sądu administracyjnego. Dla zapewnienia przejrzystości procedur odwoławczych oraz zagwarantowania pewności prawa dla stron takiego postępowania zasadne byłoby jednoznaczne uregulowanie tego zagadnienia w przepisach Projektu. W razie wyboru właściwości SOKiK dla rozstrzygania zażaleń na wspomniane postanowienia należy stosowne przepisy dodać także do nowelizowanego k.p.c., aby zapewnić spójność oraz transparentność procedury w omawianym zakresie. Art. 74 CHAMBER W art. 74 należy restrykcyjnie i ściśle zdefiniować przypadki, w których Komisja może nadać decyzji rygor natychmiastowej wykonalności. Obecne kryterium “ważnego interesu” nie wskazuje nawet o jaki i czyj interes wchodzi. Tak inwazyjne i potencjalnie destrukcyjne dla adresatów środki powinny być podejmowane w ostateczności i jedynie w szczególnie uzasadnionych przypadkach. Art. 74 ITCORNER Mając na uwadze to, jak ogromne kary za naruszenie przewiduje AI Act (do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - proponujemy wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 PWPW Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. 1) Wnosimy o wskazanie zakresu art. 74, czy dotyczy decyzji o karze, czy decyzji o udzieleniu ulgi, o której mowa w art. 73 ust. 9 (być może to będzie decyzja – bo nie wiadomo jaką formę przyjmie udzielenie ulgi). Jeżeli ten przepis ma dotyczyć decyzji o nałożeniu kar to należy doprecyzować przesłanki nałożenia dodatkowego rygoru. Powinny mieć one charakter konkretny i zawężający. 10 292 2) Ponadto wnosimy o doprecyzowanie sformułowania „ważny interes”. Art. 74 Związek Banków Polskich Art 74. Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes. Proponujemy skreślenie lub doprecyzowanie. O ile przepis miałby pozostać wymaga skorelowania z art. 73 ust. 1 oraz wprowadzenia trybu odwoławczego od rygoru. Szczątkowa regulacja rygoru – nie jest jasne o jaki ważny interes chodzi. Jednocześnie, nie opisano zależności z art. 73 ust.1 oraz nie wskazano możliwości zaskarżenia rygoru. Art. 74 NRA Art. 74 Projektu przewiduje zbyt szerokie uprawnienie dla Komisji w zakresie nadania rygoru natychmiastowej wykonalności decyzji o administracyjnych karach pieniężnych, warunkując je w zasadzie samym czynnikiem wystąpienia sytuacji, gdy przemawia za tym „ważny interes”. Wprowadzenie takiej szczególnej przesłanki jak w art. 74 Projektu prowadziłoby do rozszerzenia ogólnych zasad nadawania decyzjom rygoru natychmiastowej wykonalności (określonych w art. 108 k.p.a.) na podstawie przesłanki, cechującej się wyjątkowo ogólnikowym charakterem, co mogłoby z kolei skutkować nadużyciami, jako że nie wprowadza ona obowiązku uwzględnienia zasady proporcjonalności, tak istotnej dla ochrony praw jednostki. Tak więc przepis ten wymaga doprecyzowania w sposób, który ograniczy nadanie rygoru natychmiastowej wykonalności do sytuacji, gdy działanie takie okaże się rzeczywiście niezbędne. Dodanie takiego wymogu nie tylko umocniłoby gwarancje ochronne wobec podmiotów podlegających decyzji, ale również zapewniło zgodność z konstytucyjną zasadą ochrony wolności i klauzulą limitacyjną ograniczania wolności i praw konstytucyjnych, przewidzianą w art. 31 ust. 3 Konstytucji RP. Art. 74 ICC Poland Zgodnie z art. 74 Projektu, Komisja może nadać decyzji rygor natychmiastowej wykonalności, „jeżeli wymaga tego ważny interes”. Projektowana regulacja jest nieprecyzyjna, gdyż nie wskazuje czyjego ważnego interesu dotyczy projektowany przepis. Pozostawienie projektowanego przepisu bez zmian skutkowałoby bardzo dużą dyskrecjonalnością Komisji w ocenie, czy taki „ważny interes” zachodzi, co może rodzić niepewność prawną po stronie przedsiębiorców lub innych podmiotów objętych zakresem zastosowania ustawy. Dlatego też rekomendujemy rozważenie całkowitego usunięcia tego przepisu z Projektu, bądź jego dalsze doprecyzowanie. Art. 74 PIIT Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes – w kontekście kar pieniężnych przepis zbyt arbitralny i uznaniowy; jaki byłby ważny interes w nałożeniu kary finansowej. Art. 74 KIG Przepis bezwzględnie należy doprecyzować, ponieważ taka redakcja narusza fundamentalne zasady państwa prawa. Projektodawca nie wskazał czyj ważny interes upoważnia Komisję do nadania decyzji rygoru natychmiastowej wykonalności. Ponadto tak radykalne działanie nie może być oparte na całkowicie uznaniowych przesłankach, dlatego Projektodawca powinien co najmniej zasugerować przykładowy katalog przesłanek, które uważa za ważny interes. 293 Art. 74 GRAI Ponadto, powinna być wykreślona możliwość nadania rygoru natychmiastowej wykonalności decyzji nakładającej taką karę (art. 74). Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać dalece negatywne konsekwencje, niemożliwe do odwrócenia (np. brak wypłacalności przedsiębiorcy, pociągający nawet upadłość). Jeśli nie zostanie uwzględniony postulat rezygnacji z przepisu – należy wskazać, że w przepisie nie określono warunków nadania decyzji rygoru natychmiastowej wykonalności, co może skutkować za dużym uprawnieniem dyskrecjonalnym organu. Do rozważenia przeredagowanie art. 74 lub zrezygnowanie z tej regulacji. Art. 74 Polski związek zarządzania wierzytelnościami Art. 74 Projektu AI Act przewiduje bardzo wysokie kary za naruszenie regulacji (nawet do 35 mln EUR lub 7% światowego obrotu z roku poprzedzającego) - z tego względu w interesie przedsiębiorstw, w tym rzecz jasna podmiotów branży zarządzania wierzytelnościami, byłoby wydłużenie 14-dniowego terminu na zapłatę kary oraz wykreślenie możliwości nadania decyzji rygoru natychmiastowej wykonalności - uważamy, że przedsiębiorcy powinni mieć zagwarantowaną możliwość odwoławczą w przypadku najdalej idących w skutkach decyzji, tj. nakładających kary pieniężne, których płatność może wywoływać konsekwencje niemożliwe do odwrócenia (niewypłacalność, upadłość). Jeśli całkowite usunięcie możliwości nadania rygoru natychmiastowej wykonalności nie zostanie wzięte pod uwagę, sugerujemy uzupełnienie art. 74 Projektu o warunki nadania decyzji rygoru natychmiastowej wykonalności - aktualne brzmienie art. 74 naszym zdaniem nadaje zbyt dyskrecjonalne uprawnienie organowi w tym zakresie. Art. 74 Fundacja FinTech Poland Przepis art. 74 nie precyzuje, jaki dokładnie interes uzasadnia nadanie decyzji rygoru natychmiastowej wykonalności, co rodzi istotne wątpliwości interpretacyjne. Pojęcie „ważny interes” jest niejasne i może być rozumiane bardzo szeroko. Brak sprecyzowania, czy chodzi o interes społeczny, interes publiczny, interes prywatny strony postępowania, interes innego przedsiębiorcy, czy może interes pokrzywdzonego, pozostawia zbyt dużą swobodę interpretacyjną Komisji. Taka nieprecyzyjność może prowadzić do sytuacji, w której rygor natychmiastowej wykonalności będzie nadawany na podstawie różnych, subiektywnie ocenianych przesłanek. Może to osłabić poczucie bezpieczeństwa prawnego i zaufania do 294 organu, który posiada możliwość natychmiastowego egzekwowania swojej decyzji. Dla przejrzystości i ochrony interesów wszystkich stron, warto, aby ustawodawca określił, czy nadanie rygoru dotyczy: interesu publicznego lub społecznego – np. gdy natychmiastowa wykonalność decyzji ma na celu ochronę zbiorowych praw konsumentów czy zapobieżenie szkodom o szerokim zasięgu; czy interesu prywatnego strony lub pokrzywdzonego – np. w sytuacji, gdy zwłoka w wykonaniu decyzji mogłaby doprowadzić do trudnych do naprawienia szkód dla konkretnej osoby lub podmiotu. Wprowadzenie bardziej szczegółowych kryteriów lub wskazanie, jaki typ interesu ma być chroniony, zapewniłoby większą klarowność przepisu i ograniczyłoby ryzyko nadużyć oraz dowolności w stosowaniu rygoru natychmiastowej wykonalność Art. 75 GRAI Propozycja, aby sprawy odwołań od decyzji i zażaleń na postanowienia nie były rozpatrywane przez SOKiK, lecz przez Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Posiada on większą wiedzę i doświadczenie w zakresie programów komputerowych niż SOKiK. Rozważenie zmiany właściwego sądu. Art. 75 ICC Poland Projekt przewiduje w art. 75 ust. 1, że od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługiwać ma odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. Na aprobatę zasługuje powierzenie tego rodzaju spraw sądowi okręgowemu. Natomiast samo uzasadnienie Projektu nie zawiera wyjaśnienia dla decyzji projektodawcy o wyborze sądu ochrony konkurencji i konsumentów jako sądu, który miałby zajmować się odwołaniami od decyzji Komisji (art. 57 ust. 1 Projektu) oraz odwołaniami od decyzji w sprawie nałożenia administracyjnej kary pieniężnej (art. 75 ust. 1 Projektu). Biorąc pod uwagę przedmiot regulacji rozporządzenia 2024/1689, tj. regulację wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej, warto rozważyć powierzenie spraw sądowi wyspecjalizowanemu w sprawach programów komputerowych, który będzie mieć odpowiedni poziom wiedzy technicznej. Zgodnie z art. 47990 §1 i § 2 Kodeksu postępowania cywilnego7, sprawy własności intelektualnej należą do właściwości sądów okręgowych, a Sąd Okręgowy w Warszawie jest wyłącznie właściwy w sprawach własności intelektualnej dotyczących m.in. programów komputerowych oraz tajemnic przedsiębiorstwa o charakterze technicznym. Warto zatem dokonać pogłębionej analizy, który z istniejących sądów mógłby zajmować się sprawami dotyczącymi systemów sztucznej inteligencji. Art. 75 ust. 2 GRAI Zrównać brzmienie z art. 57 ust. 2 Art. 76 GRAI Wyłączenie stosowania art. 189f KPA znacząco ograniczy możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku niezastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 (art. 70 ust. 4) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania 295 art. 189k KPA, nie jest w pełni jasne, jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9. Podobny przepis tj. wyłączenie ogólnych przepisów KPA dot. ulg. i odstąpienia od kary wywołał sporo legislacyjnych dyskusji przy ustawie PNR. Art. 76 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów aktu w sprawie sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 76 projektu ustawy o AN). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów aktu w sprawie sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k $ 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k$ 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k $ 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k $ 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 73 ust. 2-8 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII aktu w sprawie sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów aktu w sprawie sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k $ 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom aktu w sprawie sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. 296 W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 76 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 76 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k $ I pkt. I ustawy z dnia 14.06.1960 r.- Kodeks postępowania cywilnego. ”. Art. 76 Art. 77 PWPW W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania Administracyjnego. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Poprosimy o doprecyzowanie poprzez wskazanie, że do decyzji o nakładaniu kar stosuje się rozdział kodeksu postępowania administracyjnego (k.p.a.) dot. nakładania kar – z wyłączeniem ww. przepisów. A także czy Sąd Okręgowy – będzie oceniał zastosowanie przepisów ustawy w związku z przepisami kpa w ramach prowadzenia postępowania na gruncie przepisów Kodeksu postępowania cywilnego. Dodatkowo należy zauważyć, że tam gdzie nie będzie stosownych przepisów – zastosowanie będą miały przepisy ustawy - Ordynacja podatkowa. Wskazana regulacja budzi poważne wątpliwości w zakresie wykładni przepisów prawa i poprawności legislacyjnej. Ponadto stanowi to nieprzejrzystą regulacje i niesie duże ryzyka dla podmiotów. Wskazane w art. 76 przepisy kpa mają na celu zapewnienie, że wymierzone kary będą proporcjonalne do skutków czynów. W związku z powyższym nie powinny być wyłączane Art. 77 PIIT Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). 297 * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Art. 77 KIGEiT Propozycja zapisu: Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie Art. 99 ust. 3 (-5) * rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. , Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. art. 78 CHAMBER Zupełnie niezrozumiałe jest stypizowanie w art. 78 utrudniania kontroli jako przestępstwa (sic!) zagrożonego karą pozbawienia wolności do lat dwóch (sic!). Nie jest w żaden sposób uzasadnione, aby utrudnianie kontroli akurat systemów sztucznej inteligencji było uznane za czyn aż tak bardzo społecznie szkodliwy, wielokrotnie bardziej niż np. utrudnianie kontroli celno- skarbowej, co zagrożone jest jako wykroczenie jedynie karą grzywny do 720 stawek dziennych (zob. art. 94 kodeksu karno-skarbowego). Ta sama uwaga dotyczy art. 79. Postulujemy sprowadzenie kar w tych przepisach do poziomu analogicznego do kar za utrudnianie kontroli przez inne organy. Art. 78 Fundacja FinTech Poland Przepis w obecnym kształcie stanowi ryzyko dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy wprowadzenie gradacji kar, poprzez zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia oraz wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI Act lub skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. 298 Rekomendujemy precyzyjne określenie czynu zabronionego poprzez wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Proponujemy wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Rekomendujemy wzmocnienie roli postępowania wyjaśniającego. Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78 i Art. 79 PIIT Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 200 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i 79 KIGEiT Propozycja zapisu: Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich 299 posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. , Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. ust. 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i niedostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. Art. 78 i Art. 79 Związek Cyfrowa Polska Sankcje karne. Te przewidziane w Projekcie ustawy (art. 78 i art. 79) nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji; ich wprowadzenie stoi również w kontrze z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju technologii innowacyjności, w zakresie sztucznej inteligencji. Sankcji karnych. Przewidziane w Projekcie ustawy (art. 78 i art. 79) sankcje karne nie mają uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 78 i Art. 79 Związek Pracodawców Technologii Cyfrowych Lewiatan Wysokość kary nakładanej na osobę (art. 78 i 79) Kara do 500 000 złotych nakładanej na osobę fizyczną jest niezwykle wysoka w porównaniu z wszelkimi standardami związanymi z odpowiedzialnością osób. Proponujemy zweryfikować ten zapis i np. skorelować go z wysokością średniej płacy w Polsce lub innym realistycznym wskaźnikiem, tak aby wysokość kary miała charakter odstraszający jednak nie wstrzymujący wszelkich działań przy wdrażaniu systemów sztucznej inteligencji. Kary ograniczenia wolności (art. 78 i 79) Rozporządzenie 2024/1689, czyli akt o AI nie przewiduje innych kar niż administracyjne i pieniężne. Proponujemy zatem wykreślić w treści obu artykułów – odpowiednio w art. 78 ust. 1 oraz art. 79 - zapisy: „karze ograniczenia wolności albo pozbawienia wolności do lat dwóch.” Art. 78. 1 PIIT Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli – tu należałoby możliwość nałożenia sankcji ograniczyć do podmiotu kontrolowanego art. 79 j.w. Art. 78 ust. 1 Związek banków Polskich Przepis w obecnym kształcie stanowi zagrożenie dla przedsiębiorców, którzy mogą nieumyślnie utrudnić kontrolę, np. z powodu złożoności systemów AI lub braku pełnej wiedzy o obowiązujących 300 przepisach. Wysokie kary mogą prowadzić do nadmiernego obciążenia finansowego i potencjalnie do upadłości mniejszych podmiotów. Propozycja do zasygnalizowania: Wprowadzenie gradacji kar: Zachowanie kary pieniężnej, ale z wprowadzeniem niższych stawek za pierwsze wykroczenia. Wprowadzenie kar dodatkowych, takich jak obowiązek uczestnictwa w szkoleniach dotyczących przepisów AI ACT. Precyzyjne określenie czynu zabronionego: Wskazanie konkretnych czynności, które będą uważane za utrudnianie kontroli, np. odmowa udzielenia informacji, utrudnianie dostępu do danych, wprowadzanie w błąd kontrolera. Wyłączenie odpowiedzialności karnej za czyny popełnione przez niedbalstwo, o ile podmiot dołożył należytej staranności. Wzmocnienie roli postępowania wyjaśniającego: Zobowiązanie organu kontrolnego do pouczenia podmiotu kontrolowanego o jego prawach i obowiązkach. Zapewnienie podmiotowi kontrolowanego możliwości złożenia wyjaśnień przed wydaniem decyzji o nałożeniu kary. Art. 78 ust. 1 i art. 79 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Podnosimy, iż wysokość grzywny jest zbyt wygórowana. Wskazujemy, iż zakresem stosowania przedmiotowej ustawy objęte są różne podmioty, także mniejsze przedsiębiorstwa, w tym start- upy. Postulujemy obniżenie tej wartości min. o 50%. Art. 78 ust 2 PZPPF Art. 78 ust. 2 przewiduje karę grzywny w wysokości do 500 000 PLN, karę ograniczenia wolności albo karę pozbawienia wolności do lat dwóch, w przypadku gdy przedsiębiorca nie dostarczy danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarczy dane, które uniemożliwią ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Podczas gdy jednocześnie art. 71 ust. 2 określa, że w takich sytuacjach Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. W takim brzmieniu projektu ww. karę należy ocenić jako niewspółmierną wobec charakteru opisanego naruszenia oraz jego potencjalnego wpływu na postępowanie. Mając na uwadze powyższe zasadne jest odstąpienie od ww. przepisu w ustawie lub co najmniej obniżenie ww. kary. 301 Art. 78 ust. 2 NRA Art. 78 ust. 2 Projektu stanowi o odpowiedzialności karnej za niedostarczenie danych albo dostarczenie danych uniemożliwiających ustalenie podstawy wymiaru administracyjnej kary pieniężnej w toku postępowania dotyczącego jej nałożenia, przewidując karę grzywny, ograniczenia wolności, a także karę pozbawienia wolności do lat dwóch. Przepis ten zatem, na gruncie prawa karnego, jako wprowadzający nowy typ czynu zabronionego, powinien być adresowany wyłącznie do osób fizycznych, co jednoznacznie wynika z ogólnych zasad odpowiedzialności karnej, ustanowionych w Kodeksie karnym (art. 116 k.k.). Z kolei równolegle przepis z art. 71 ust. 1 Projektu nakłada obowiązek dostarczenia wymaganych danych na „podmiot” objęty regulacją z art. 70 ust. 1 Projektu, czyli jednostkę zobowiązaną do przestrzegania postanowień rozporządzenia 2024/1689, co odnosi się także do osób prawnych. Tym samym przepis z art. 78 ust. 2 Projektu niejako nie rozróżnia osób fizycznych i prawnych, co prowadzi do nieścisłości interpretacyjnej w zakresie odpowiedzialności karnej za niedopełnienie obowiązku dostarczenia danych. Dla uniknięcia niespójności oraz zapewnienia jasności co do zakresu obowiązków i odpowiedzialności karnej zaleca się, aby zmodyfikować treść przepisu z art. 78 ust. 2 Projektu w ten sposób, aby jednoznacznie określał, że obowiązki z tego przepisu mogą obciążać wyłącznie osoby fizyczne. Art. 79 Fundacja FinTech Poland Grzywna w prawie karnym wymierzana jest w oparciu o stawki dzienne. Jest to iloczyn stawki dziennej w ustalonym wymiarze i liczny ustalonej przez Sąd. Art. 80 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejne przykłady niechlujnego redagowania przepisów projektu ustawy o AI odnajdujemy w art. 80 pkt. 2 projektu ustawy o AI: a/ w dodawanym do k.p.c. art. 47955* opuszczono oznaczenie $ 1 w przypadku zdania pierwszego wprowadzanego tąże regulacją, b/ w dodawanym do k.p.c. art. 479*** w jego zdaniu pierwszym, które winno posiadać oznaczenie $ 1 błędnie wpisano, iż odwołanie od decyzji Komisji wnoszone do SOKiK za pośrednictwem Komisji wnoszone jest za „jego pośrednictwem”, zamiast za „jej pośrednictwem”, bo póki co to nic nam nie wiadomo by rzeczownik „Komisja”” według reguł językowych stał się rzeczownikiem rodzaju męskiego w miejsce dotychczasowego rodzaju żeńskiego, c/ z kolei w dodawanym do k.p.c. art. 479? $ 1 opuszczono słowo „„stronami” po słowach „rozporządzenia 2024/1689”, a przed słowami „są także”. Art. 80 KIGEiT Propozycje zapisu: Art. 47988e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji , Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. 302 Art. 83 ust. 1 KIGEiT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 Związek Banków Polskich Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Poprawa literówki: „od” zamiast „id”. Art. 84 Związek Telewizji Kablowych w Polsce Izba Gospodarcza Kolejny przykład niechlujnego przygotowania projektu ustawy o AI odnajdujemy w art. 84 ust. 5 projektu ustawy o AI, gdzie w miejsce sformułowania „od dnia wejścia w życie ustawy” termin jest liczony „id dnia wejścia w życie ustawy”. M/ Również w uzasadnieniu projektodawca nie ustrzegł się uchybień w sferze staranności w przygotowaniu projektu, skoro już w drugim wersie od góry na drugiej stronie uzasadnienia po słowach „W dniu 2 lutego 2025 r.” opuszcza literę „w”. N/ Z kolei w 14 wersie od góry na przedostatniej stronie uzasadnienia w pierwszym zdaniu poświęconym omówieniu regulacji rozdziału 9 po słowach „w terminie 7”, a przed słowami „od wejścia w życie ustawy” opuszczono słowo „dni” pozwalające na ostateczne określenie terminu ogłoszenia o rozpisaniu konkursu na stanowisko Przewodniczącego Komisji. Kierując się względami dbałości o staranność w przygotowaniu projektu tego rodzaju uchybienie także chwały projektodawcy raczej przynieść nie może. Art. 84 ust. 1 KIGEiT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. , Przepis ten powinien być w Art.5 projektowanej ustawy. Art. 87 ust. 1 Związek Banków Polskich Budżet KRIBSI powinien być znacząco wyższy i oscylować wokół wartości co najmniej 150% wyższych niż założone dla lat 2026-2035. W każdym roku limit wydatków powinien także rosnąć – z uwagi na inflację oraz bardzo prawdopodobny wzrost adopcji i poziomu skomplikowania narzędzi AI. Art. 88 KIGEiT Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem Art. 83 i Art. 84, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Przepis określający termin wejścia w życie poszczególnych przepisów ustawy nie może abstrahować od terminów wejścia w życie poszczególnych przepisów Rozporządzenia 2024/1689. Na przykład przepis Art. 85 Rozporządzenia 2024/1689 przewidujący możliwość wniesienia skargi do organu nadzoru, czy Art. 73 Rozporządzenia 2024/1689 dotyczący obowiązki zgłaszania poważnych incydentów wchodzą w życie, zgodnie z Art. 113 Rozporządzenia 2024/1689, w dniu 2 sierpnia 2026. Tymczasem Art. 88 projektu ustawy stanowi, że wchodzi ona w życie 14 dni od ogłoszenia z wyjątkiem Art. 83 i 84. Pomimo że dziś nie jest znany termin ogłoszenia ustawy, można się spodziewać, że zostanie ona opublikowana w 2025 więc niektóre z jej przepisów, zgodnie z obecną treścią Art. 88, zaczną obowiązywać przed terminem rozpoczęcia stosowania odpowiednich przepisów Rozporządzenia 2024/1689. Z tego względu w przepisach określających termin wejścia w życie przepisów ustawy powinny się znaleźć odpowiednie daty uwzględniające terminy wejścia w życie poszczególnych przepisów Rozporządzenia. W 303 przeciwnym razie, np. prawo wniesienia skargi na podstawie ustawy przysługiwałoby wcześniej niż wynika to z Rozporządzenia. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 należy pamiętać o tym, aby ostateczne przepisy ustawy, w tym przepisy intertemporalne, były zgodnie z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozdział 8 Polska Izba Ubezpieczeń W ocenie Polskiej Izby Ubezpieczeń technologia sztucznej inteligencji jest nową technologią o transgranicznym charakterze i z tego tytułu powinien być zapewniony tryb odwoławczy. W dniu dzisiejszym nie jesteśmy w stanie oszacować wszystkich sytuacji i rozwiązań jakie będą przedmiotem oceny Komisji i jej ewentualnych decyzji. Zwracamy również uwagę, że zasadnym byłoby podjęcie działań zmierzających do zmian w procesie legislacyjnym ustawy o działalności ubezpieczeniowej i reasekuracyjnej. W szczególności proponujemy zmianę art. 41 ust. 1b ustawy o działalności ubezpieczeniowej i reasekuracyjnej tak by katalog wskazanych kategorii danych w art. 41 ust. 1b Ustawy miał charakter otwarty. Taka zmiana przyczyni się do rozwoju technologicznego i usprawnienia procesów oceny ryzyka ubezpieczeniowego oraz procesów likwidacji szkód. Proponujemy zmianę redakcyjną art. 41 ust. 1b Ustawy na „1b. Decyzje, o których mowa w ust. 1a, mogą być podejmowane w szczególności w oparciu o następujące kategorie danych dotyczących osoby fizycznej”. Działanie legislacyjne w tym kierunku będzie stanowiło skuteczne wsparcie sektora ubezpieczeń w przygotowaniu do stabilnego wdrożenia rozwiązań opartych na technologii sztucznej inteligencji w procesach ubezpieczeniowych. Wskazując na powyższy postulat branża ubezpieczeniowa odwołuje się m.in. do motywu 67 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, gdzie podkreślono, że „wysokiej jakości dane i dostęp do wysokiej jakości danych odgrywają kluczową rolę w ustanawianiu struktury i zapewnianiu skuteczności działania wielu systemów AI, w szczególności w przypadku stosowania technik obejmujących trenowanie modeli, w celu zapewnienia, aby system AI wysokiego ryzyka działał zgodnie z przeznaczeniem i bezpiecznie oraz aby nie stał się źródłem zakazanej przez prawo Unii dyskryminacji.” Dlatego też w ocenie ubezpieczycieli by zapewnić wysoką jakość zbiorów danych treningowych, walidacyjnych i testowych pożądane jest wdrożenie odpowiednich zachęt prawnych poprzez rozwiązania legislacyjne. Rozdział 8 GRAI Konieczne jest rozszerzenie stosowania ustawy o ochronie sygnalistów na zgłoszenia zewnętrzne dotyczące naruszenia rozporządzenia 2024/1689 lub przepisów projektowanej ustawy. Osoby wewnątrz organizacji dostawców lub jednostek publicznych albo osoby będące w posiadaniu wiedzy o naruszeniach powinny mieć możliwość dokonania stosownych zgłoszeń do Komisji. 304 Osoby te powinny mieć przyznane uprawnienia i przyznaną ochronę taką jak sygnaliści z ustawy o ochronie sygnalistów. Należy albo znowelizować w tym zakresie ustawę o ochronie sygnalistów albo dodać stosowne przepisy (nawet z odesłaniem do ww. ustawy). W celu utrzymania spójnej legislacji proponuję przyjąć ten drugi wariant (wprowadzić ogólne odesłanie do ww. ustawy ze wskazaniem, które przepisy znajdują zastosowanie). Rozdział 8 GRAI Sugeruje uregulowanie odpowiedzialności za celowe zniekształcanie wyników algorytmu (np. Poprzez celowe dostarczanie niewłaściwych danych). Regulacja miałaby na celu wprowadzenie ram prawnych do przeciwdziałania celowego “mylenia” algorytmów na etapie treningu (np. Celowy sabotaż). Art. 80 GRAI Zmiana Sądu Okręgowego w Warszawie - sąd ochrony konkurencji i konsumentów na Sąd ds. Własności Intelektualnej w Sądzie Okręgowym w Warszawie, tzw. Sąd Techniczny. Dodatkowo, Sąd rozpatruje zażalenia na postanowienia zgodnie z art. 43 ust. 13 oraz art. 73 ust. 18 ustawy. W art. 479 (88e) brakuje słowa “stronami”. Art. 80 PIIT Art. 47988e § 1. W sprawach naruszenia przepisów rozporządzenia 2024/1689 stronami jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Ponadto, przepisy zmieniające KPC nie przewidują jakie rodzaje rozstrzygnięć merytorycznych może wydać Sąd po rozpatrzeniu odwołania. Co jest zasadniczym brakiem przepisów proceduralnych. Art. 80 Polska Izba Ubezpieczeń Proponuje się w art. 80 do ustawy – Kodeks postępowania cywilnego korektę do art. Art. 47988e na „§1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany.” 305 Mając na względzie, że sprawy odwoławcze będą wymagać wiadomości specjalnych, proponuje się również rozważenie wprowadzenia na listy biegłych sądowych biegłych z zakresu AI. Realizacji ww. postulatu wymagać będzie zmiana ustawy Prawo o ustroju sądów powszechnych i aktów wykonawczych. Art. 80 pkt. 2 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) W przepisie dotyczącym zmiany art. 479 88b postulujemy zmianę wyrazu „jego” na wyraz „jej”. W przepisie dotyczącym zmiany art. 479 88e postulujemy przeformułowanie, albowiem w obecnym brzmieniu przepis wydaje się brzmieć nieprawidłowo. Art. 80 Fundacja Panoptykon W odniesieniu do postępowania odwoławczego przed Sądem Ochrony Konkurencji i Konsumentów zwracamy uwagę, że w proponowanym art. 47988e § 1, który projekt ustawy dodaje do Kodeksu postępowania cywilnego, brakuje słowa określającego status Komisji i zainteresowanego: „w sprawach z naruszenia przepisów rozporządzenia 2024/1689 [brakujące słowo] są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany”. Zakładamy, że projektodawcy chodziło o nadanie Komisji i zainteresowanemu statusu strony postępowania odwoławczego. Poza tą uwagą redakcyjną, postulujemy także doprecyzowanie w § 2, że skarżący – nawet jeśli jego prawa lub obowiązki nie zależą od rozstrzygnięcia procesu – może być zainteresowanym i wprowadzenie obowiązku wezwania go do udziału w sprawie. art. 83 PIIT Art. 83. 1. Powołuje się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy, ale zasadniczy przepis merytoryczny tworzący nowy organ. Art. 84 PIIT Art. 84.1. Tworzy się Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Przepis ten powinien być w art.5 projektowanej ustawy. Zob. także uwaga w wierszu 5 Art. 84 Związek Przedsiębiorstw Finansowych w Polsce (ZPF) Wskazujemy, iż zdublowana została numeracja ust. 5. Wnosimy o poprawę numeracji ustępów w art. 84 Projektu ustawy. Postulujemy także zmianę słowa „id” na słowo „od” w aktualnym ust. 5 306 Art. 84 ust. 5 GRAI Uwaga redakcyjna Słowo “id” zastępuje się słowem “od”. Art. 86 GRAI Niejasny zapis w zakresie terminu na złożenie projektu planu finansowego Biura Komisji na okres od dnia wejścia w życie ustawy do dnia 31 grudnia 2025 r. do Prezesa Rady Ministrów. Konieczność doprecyzowania przepisu. Art. 87 GRAI Potrzeba zwiększenia budżetu w szczególności w pierwszym półroczu istnienia Komisji np. z uwagi na zakup odpowiednich narzędzi informatycznych. Uzasadnienie Związek Cyfrowa Polska Brak jest wyjaśnienia w uzasadnieniu Projektu ustawy powodów braku zagwarantowania przedsiębiorcom mechanizmów odwoławczych od wystąpienia pokontrolnego (art. 46 ust. 8 Projektu) oraz zaleceń pokontrolnych (art. 47 ust. 2 Projektu). OSR PCA W OSR w części „wpływ na sektor finansów publicznych” proponujemy uwzględnić następujący zapis: „Wejście w życie projektowanej ustawy związane jest z rozszerzeniem działalności akredytacyjnej o obszar wskazany w ustawie, a tym samym, z koniecznością zwiększenia zatrudnienia w Polskim Centrum Akredytacji w wymiarze dwóch etatów od 2025 r. Osoby zatrudnione odpowiedzialne będą za prace nad przygotowaniem programu akredytacji, organizację prowadzenia procesu akredytacji podmiotów ubiegających się o uprawnienie do certyfikacji w ramach programów certyfikacji AI. Zgodnie z ustawą o systemach oceny zgodności i nadzoru rynku (t.j. Dz.U.2022 poz.1854, z 2024, poz. 1089) Polskie Centrum Akredytacji prowadzi samodzielną gospodarkę finansową a koszty działalności, w tym wynagrodzenia pracowników, są pokrywane z przychodów PCA. PCA nie otrzymuje środków z budżetu państwa. Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r. Środki te przeznaczone będą na sfinansowanie dodatkowych dwóch etatów oraz na wynagrodzenia dla osób, które otrzymają dodatkowe zadania w projektowanym zakresie. Zwiększenie to musi być utrzymane w kolejnych latach, zwiększane o wskaźnik wzrostu płac i będzie sfinansowane w ramach samodzielnej gospodarki finansowej PCA. Do oszacowania wydatków wzięto pod uwagę średnie wynagrodzenie jakiego oczekują kandydaci do pracy z ostatniego okresu z uwzględnieniem kosztów pracodawcy. Podkreślenia wymaga fakt, że projektowana ustawa wprowadza wymaganie akredytacji w nowym obszarze. Należy zatem oczekiwać konieczności przeprowadzenia ocen akredytacyjnych dla nowych lub rozszerzania zakresu akredytacji dla już istniejących jednostek oceniających zgodność, co ogólnie przełoży się na zwiększenie zadań zatrudnionych pracowników przy 307 realizacji zmian w funkcjonujących już akredytacjach, a tym samym będzie wiązać się z koniecznością zwiększenia poziomu wynagrodzenia tych pracowników. Należy również mieć na uwadze, że zakres projektowanej ustawy odnosi się do bardzo nowoczesnego sektora gospodarki. Sektora, w którym płace są na bardzo wysokim poziomie. Osoby, które będą wykonywały te zadania muszą mieć bardzo wysokie kompetencje - znajomość wymagań i warunków akredytacji, znajomość i rozumienie zagadnień związanych z certyfikacją oraz wiedzę z zakresu projektowanej regulacji prawnej. Oczekiwane kompetencje, z racji udziału w procesie akredytacji muszą być na wyższym poziomie niż przeciętny poziom kompetencji w tym zakresie na rynku. Ostateczna struktura rozdysponowania ww. zwiększenia w funduszu osobowym oraz poziom tego rozdysponowania zależy od kompetencji zatrudnionych osób i zakresu dodatkowych zadań przydzielonych już zatrudnionym osobom. ” Zaproponowane kwoty powinny być również uwzględnione w tabeli w tym punkcie. Brak regulacji GRAI Brak uregulowania Kodeksów postępowania: Zgodnie z art. 69 rozporządzenia, Komisja i państwa członkowskie zachęcają do tworzenia (i ułatwiają tworzenie) kodeksów postępowania sprzyjających dobrowolnemu stosowaniu w odniesieniu do systemów sztucznej inteligencji innych niż systemy sztucznej inteligencji wysokiego ryzyka wymogów określonych w tytule III rozdział 2, w oparciu o specyfikacje i rozwiązania techniczne, które stanowią odpowiedni sposób zapewnienia zgodności z takimi wymogami w świetle przeznaczenia tych systemów. Realizacja tego przepisu rozporządzenia nie została w żaden sposób ujęta w projekcie ustawy. Konieczność uregulowania i przyjęcia właściwych przepisów na gruncie krajowym. Brak regulacji GRAI Brak uregulowania kwestii tworzenia piaskownic regulacyjnych zgodnie z artykuł em 53 (Piaskownice regulacyjne w zakresie AI) 1. Piaskownice regulacyjne w zakresie AI tworzone przez jeden właściwy organ państwa członkowskiego lub większą liczbę takich organów, lub przez Europejskiego Inspektora Ochrony Danych zapewniają kontrolowane środowisko ułatwiające opracowywanie, testowanie i walidację innowacyjnych systemów sztucznej inteligencji przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem. Tego rodzaju działalność musi przebiegać pod bezpośrednim nadzorem właściwych organów i zgodnie z ich wytycznymi, aby zapewnić zgodność z wymogami niniejszego rozporządzenia oraz – w stosownych przypadkach – z innymi przepisami prawa Unii i prawa państw członkowskich objętymi nadzorem w ramach piaskownicy. Z uzasadnienia do projektu wynika, że kwestia piaskownic regulacyjnych będzie zaadresowana w odrębnych regulacjach w kolejnych latach. Należy jednak pamiętać, iż brak takich rozwiązań może 308 ograniczać możliwości testowania rozwiązań przez przedsiębiorców w bezpiecznym środowisku i wpływać na innowacyjność polskich przedsiębiorstw. Reguły kolizyjne GRAI Wprowadzenie reguł kolizyjnych w sytuacji gdy system sztucznej inteligencji spełnia jednocześnie definicję innej kategorii np. wyrobu medycznego. Określenie wzajemnej relacji ustaw szczególnych względem siebie GRAI Warto rozważyć umieszczenie w przepisach ustawy regulacji dotyczących tworzenia programów wsparcia dla pracowników, za których zadania wykona AI, a oni w rezultacie utracą pracę. Niedoprecyzowany pozostaje tryb rejestrowania systemów sztucznej inteligencji wysokiego ryzyka w europejskiej bazie danych. Wskazana byłaby koordynacja tego przepływu przez organ nadzoru rynku (z uwzględnieniem doprecyzowania nadzoru nad sektorem finansowym). Mając na uwadze stadium zaawansowania prac nad tym rozwiązaniem, wystarczające byłoby ujęcie tego zadania Biura bądź Komisji w ustawie na ogólnym poziomie. Zgodnie z odnośnikiem nr 1 konsultowanego projektu ustawy o systemach sztucznej inteligencji projektowana ustawa ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji. Celem tego rozporządzenia (dalej: Rozporządzenie) jest poprawa funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, „zgodnie z wartościami Unii (...), przy jednoczesnym zapewnieniu praw podstawowych zapisanych w Karcie praw podstawowych”. Jednym z praw podstawowych określonych w Karcie jest równość kobiet i mężczyzn. Rozporządzenie obejmuje szereg postanowień, zawartych zarówno w preambule, jak i w jego tekście artykułowanym, które odnoszą się do tej kwestii, albo wprost odwołując się do równości, równouprawnienia płci lub równości kobiet albo odwołując się, bardziej generalnie, do praw podstawowych, do których te wartości są zaliczane. Podstawowa uwaga dotycząca projektowanej ustawy dotyczy ryzyka braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia praw podstawowych w zakresie regulacji prawnych systemów sztucznej inteligencji. Jak się wydaje, brak jest w projektowanej ustawie przepisów prawnych, które służyłyby stosowaniu unijnego Rozporządzenia w sposób zapewniających równość płci. Poniżej wskazano najważniejsze z przepisów Rozporządzenia w tym zakresie, w szczególności te kierunkowe, wyznaczające strategiczne cele przyjętej regulacji prawnej, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem na które powinna odpowiadać projektowana ustawa jako regulacja służąca stosowaniu w Polsce Rozporządzenia. Rozporządzenie podkreśla, że sztuczna inteligencja może stwarzać zagrożenia i wyrządzać szkody dla praw podstawowych chronionych przepisami prawa Unii, a szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne (motyw 309 5 preambuły). AI może również dostarczać nowych i potężnych narzędzi do praktyk manipulacji, wyzyskiwania i kontroli społecznej, które stanowią nadużycie i powinny być zakazane, ponieważ są sprzeczne z unijnymi wartościami dotyczącymi poszanowania godności ludzkiej, równości, oraz z prawami podstawowymi zapisanymi w Karcie, w tym z prawem do niedyskryminacji (motyw 28). AI i jej ramy regulacyjne należy zatem, jak stanowi Rozporządzenie, rozwijać zgodnie z wartościami Unii zapisanymi w art. 2 Traktatu o Unii Europejskiej, tj. w szczególności poszanowania godności osoby ludzkiej, równości, poszanowania praw człowieka, podstawowymi prawami i wolnościami zapisanymi w traktatach oraz, zgodnie z art. 6 TUE – w Karcie, tj. prawem do wolności i bezpieczeństwa osobistego (motyw 6 preambuły). Przepisy dotyczące systemów AI wysokiego ryzyka ustanawiane są w celu zapewnienia spójnego i wysokiego poziomu ochrony interesów publicznych w dziedzinie praw podstawowych (motyw 7 preambuły; zobacz także motyw 8). Rozporządzenie wyraźnie odnosi się do praw w dziedzinie edukacji (motyw 56), w obszarze zatrudnienia, zarządzania pracownikami i dostępu do samozatrudnienia (motyw 57) oraz w zakresie dostępu do niektórych podstawowych usług i świadczeń prywatnych i publicznych niezbędnych ludziom do pełnego uczestnictwa w życiu społecznym lub do poprawy poziomu życia oraz korzystanie z tych usług i świadczeń (motyw 58). Rozporządzenie podkreśla, że systemy AI, jeżeli są niewłaściwie zaprojektowane i wykorzystywane, „mogą być szczególnie inwazyjne i naruszać prawo do niedyskryminacji” oraz „mogą utrwalać historyczne wzorce dyskryminacji, na przykład wobec kobiet”. Rozporządzenie przypomina następnie o Wytycznych w zakresie etyki dotyczących godnej zaufania sztucznej inteligencji z 2019 r. opracowanych przez niezależną grupę ekspertów wysokiego szczebla ds. AI powołaną przez Komisję (motyw 27 preambuły), obejmujących także różnorodność i niedyskryminację. AI ma być wykorzystywana w sposób, który angażuje różne podmioty i propaguje równy dostęp, równouprawnienie płci i różnorodność kulturową, jednocześnie unikając dyskryminujących skutków i niesprawiedliwych uprzedzeń. Zasada ta powinna stanowić fundament przy opracowywaniu kodeksów postępowania na podstawie niniejszego rozporządzenia. Co więcej, stosownie do motywu 165 preambuły, dostawców wszystkich systemów AI oraz modeli AI należy zachęcać do stosowania unijnych Wytycznych oraz dotyczących różnorodności zespołów programistycznych, w tym pod względem równowagi płci. Artykuł 95 Rozporządzenia dotyczący tych kodeksów postępowania wyraźnie wymaga, aby państwa członkowskie zachęcały do ich opracowywania przy założeniu, że kodeksy będą obejmować ocenę i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z uwagi na równość płci. Zgodnie z motywem 48 preambuły Rozporządzenia, przy klasyfikowaniu systemu AI jako systemu wysokiego ryzyka zasadnicze znaczenie ma to, w jakim stopniu system AI wywiera niepożądany wpływ na prawa podstawowe chronione na mocy Karty, w tym równość płci. System zarządzania ryzykiem powinien obejmować ciągły, iteracyjny proces, który jest planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka. Proces ten powinien mieć na celu identyfikację 310 i ograniczenie istotnego ryzyka, jakie systemy AI stwarzają dla zdrowia, bezpieczeństwa i praw podstawowych (motyw 65 preambuły). Aby skutecznie zapewnić ochronę praw podstawowych, podmioty stosujące systemy AI wysokiego ryzyka będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne i podmioty stosujące niektóre systemy AI wysokiego ryzyka, powinni przed wprowadzeniem tych systemów do użytku przeprowadzić ocenę skutków dla praw podstawowych. Rozporządzenie określa cele oceny skutków dla praw podstawowych termin tej oceny oraz obowiązek jej aktualizacji, a także jej elementy (motyw 96). Artykuł 10 Rozporządzenia dotyczący danych i zarządzania nimi nakazuje poddawać zbiory danych treningowych, walidacyjnych i testowych praktykom w zakresie zarządzania danymi, dotyczącym w szczególności badania pod kątem uprzedzeń, które mogą „negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii”. To jedynie przykłady postanowień Rozporządzenia dotyczących równości kobiet, które powinny być uwzględnione w celu zapewnienia jego właściwego stosowania. Uprzejmie proszę o analizę, czy i w jakim stopniu projektowana ustawa, która z założenia ma służyć stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, odpowiada na wymagania Rozporządzenia w zakresie zapewnienia równości płci, w tym wskazane powyżej. Uprzejmie proszę o uwzględnienie w projektowanej ustawie tych wymagań. Realizacja tych wymagań może nie tylko wpływać na realizację unijnej oraz konstytucyjnej zasady równości płci, ale także znacząco wspomagać przeciwdziałanie przemocy wobec kobiet w Internecie. W projekcie ustawy brakuje uregulowań dotyczących wsparcia dla MŚP w dostosowaniu się do nowych regulacji – chociażby w postaci programów edukacyjnych. Brak w regulacji GRAI Potrzeba zwiększenia ochrony małoletnich Propozycja dodania przepisu: „1. Małoletni, który ukończyli 13 lat mogą korzystać z systemów sztucznej inteligencji, pod warunkiem, że warunki korzystania z systemu są łatwo dostępne i zrozumiałe. 2. Dostęp do systemów AI przez małoletnich w wieku poniżej 13 lat wymaga zgody ich opiekunów prawnych.”. Brak regulacji w projekcie, być może do uregulowania w innej ustawie GRAI Wykorzystanie AI w systemie opieki zdrowotnej Rozważenie przyjęcia regulacji w zakresie: 1. Wykorzystanie systemów sztucznej inteligencji w systemie opieki zdrowotnej nie może skutkować dyskryminacją pacjenta w dostępie do usług medycznych 311 2. Osoby fizyczne mają prawo do informacji na temat wykorzystania sztucznej inteligencji i jej zalet związanych z diagnozą i terapią oraz do uzyskania informacji na temat logiki związanej z podejmowaniem decyzji. 3. „Decyzje” systemu AI mające na celu wspieranie procesów: zapobiegania, diagnozowania, leczenia i wyboru terapii, musi być potwierdzona przez lekarza (pracownika medycznego) prowadzącego leczenie. Brak w regulacji GRAI Dodanie przepisów o wyłączeniu członków Komisji w tym jego Przewodniczącego. Konieczność przyjęcia regulacji w tym zakresie, jak np. w ustawie o nadzorze nad rynkiem finansowym. Brak w uzasadnieniu GRAI Brak szerszego odniesienie się w uzasadnienia do ochrony praw człowieka oraz Karty PP UE Zmiana i uzupełnienie uzasadnienia. Brak w ustawie GRAI Wprowadzenie w ustawie regulacji wzorowanej na art. 69 ust. 1- 5 UOKiK z uwagi na okoliczność, że w postępowaniu przed Komisją może występować kilka stron (vide. art. 51 ust. 2 projektu). Jak w art. 69 UOKiK z odpowiednimi modyfikacjami Brak w ustawie GRAI Uregulowanie w ustawie przepisów dotyczących testowania systemu AI zgodnie z art. 77 ust. 3 rozporządzenia 2024/1689. Brak w ustawie GRAI W projektowanej ustawie brakuje odniesienia do kwestii praw autorskich. W szczególności powinny zostać poruszone następujące kwestie: Wytwory generatywnej sztucznej inteligencji a prawo autorskie i prawo własności przemysłowej Prawa do danych wykorzystywanych przez AI Aspekt prawa autorskiego baz danych, wykorzystywanych przez AI AI a ochrona oprogramowania na gruncie europejskim (software patent w EPO), a prawa do danych LLM i naruszania praw autorskich AI a wynalazca (twórca w rozumieniu Prawa własności przemysłowej)AI a twórca w rozumieniu prawa autorskiego i praw pokrewnych Wynagrodzenie za korzystanie z utworów na potrzeby sztucznej inteligencji. Znakowanie utworów wykorzystywanych na potrzeby sztucznej inteligencji Znakowanie wytworów wygenerowanych przez AI. Realizacja prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM określony w ustawie o prawie autorskim i prawach pokrewnych przewiduje możliwość jnego wykorzystania na potrzeby sztucznej inteligencji. doprecyzowanie obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskich na potrzeby sztucznej inteligencji. 312 określenie reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. AI Act nie stoi na przeszkodzie szczegółowym regulacjom kwestii prawno-autorskich na poziomie krajowym, a regulacja taka jest niezbędna. AI Act tylko szczątkowo wskazuje na kwestie prawno- autorskie, które wymagają rozwinięcia i doprecyzowania w prawie krajowym. Projekt nie przewiduje natomiast żadnych rozwiązań w tym zakresie. GRAI Brak zaadresowania w ustawie kwestii dotyczących ustanowienia szczegółowych przepisów dotyczących wykorzystania biometrii, zgodnie z art. 5 AI Act. Z uzasadnienia projektu nie wynika, czy i w jakim okresie planowane jest uregulowanie tej kwestii. Nowy rozdział dot. identyfikacji biometrycznej GRAI I. Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3. Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. II. Nie należy przyjmować wyjątków pozwalających na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłącznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Akt, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikowane będą osoby postronne. • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Akt rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede 313 wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów - tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. III. AI Akt reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Polska powinna wprowadzić bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd. Brak w ustawie SANO Postulujemy wprowadzenie definicji systemu wysokiego ryzyka, która usuwałaby obecnie nasuwające się problemy interpretacyjne dotyczące tego, jak się wydaje, jednego z kluczowych zagadnień wskazanych w Rozporządzeniu. Wprowadzenie do katalogu podmiotów wchodzących w skład Komisji opisanej w rozdziale 2 projektowanej ustawy przedstawicieli środowiska organizacja pozarządowych z pespektywy Sano jest dobrym rozwiązaniem. Obecnie katalog podmiotów desygnujących przedstawicieli do Komisji ograniczony jest zasadniczo do przedstawicieli organów Państwowych (z wyłączeniem przedstawicieli Rady Dialogu Społecznego). Wydaje się, że Komisja w składzie bardziej inkluzyjnym będzie mogła lepiej realizować przewidziane dla niej zadania. Udział NGO w ramach Rady Społecznej powoływanej przy Komisji wydaje się być niewystarczającą reprezentacją trzeciego sektora. Wprowadzenie do katalogu podmiotów wchodzących w skład członków Komisji określonej w art. 7 ust. 2 Rzecznika Prawa Pacjenta oraz Rzecznika Małych i Średnich Przedsiębiorców to kolejna z naszych propozycji. Zastosowanie ustawy będzie miało kluczowy wpływ na działalność MŚP oraz konieczna będzie ochrona pacjentów, dlatego kluczowe jest, aby oby dwaj rzecznicy znaleźli się w stałym składzie członków Komisji. Rekomendujemy przeniesienie Krajowej Rady Radiofonii i Telewizji z katalogu członków Komisji określonej w art. 7 ust. 2 do ust. 3 gdzie wskazani są przedstawiciele, którzy mogą uczestniczyć ale ich udział nie jest obligatoryjny. Z projektu ustawy oraz uzasadnienia nie wynika dlaczego rola KRRiT jest kluczowa w każdych działaniach Komisji. Postuluje się wprowadzenie przepisów, które w szerszy sposób dawałyby legalny dostęp do danych w tym danych medycznych, a w ramach tego katalogu powinno się również rozumieć dane dotyczące zdrowia. W szczególności ustawa mogłaby stanowić o zmianie ustawy o prawach pacjenta w zakresie zamkniętego i ograniczającego prowadzenie badań katalogu podmiotów 314 wynikającego z art. 26 ustawy o prawach pacjenta. Ustawa powinna stanowić asumpt dla stymulacji rozsądnego wykorzystania potencjału dla budowania systemów sztucznej inteligencji w obszarze zdrowia. Dla wysokiej jakości budowania rozwiązań w obszarze zdrowia kluczowy jest dostęp do prawdziwych, wysokiej jakości danych dotyczących zdrowia dla większej ilości podmiotów realizujących działania na rzecz AI niż dotychczas. Brak w ustawie Repropol Mimo, iż Projekt służy wdrożeniu także rozdziału V AIA (art. 51-56), w Projekcie brak jest jakiegokolwiek nawiązania do modeli AI ogólnego przeznaczenia (GPAI). Po pierwsze zwrócić należy uwagę na brak zamieszczenia w art. 3 UoSSI referencji czy to do modelu AI ogólnego przeznaczenia (art. 3 pkt 63 AIA), czy też systemu AI ogólnego przeznaczenia (art. 3 pkt 66 AIA). Nie wiadomo, w jaki sposób uzasadnić pominięcie tych ważnych definicji, skoro projektodawca zdecydował się (uważamy, że niepotrzebnie) na katalog definicji referencyjnych w art. 3 UoSSI. Z uwagi na to, iż krajowe organy odgrywają także – obok Urzędu ds. AI – istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b AIA – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), katalog obowiązków KRIBSI zawarty w art. 11 ust. 1 UoSSI powinien zostać uzupełniony również o ten wymiar obowiązków. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI powinna być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Celowe wydaje się także wyartykułowanie w UoSSI obowiązku ustawicznego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, ale i zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias). Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Potrzeba uwzględnia w przepisach prawa powszechnie obowiązującego w Polsce zagadnień związanych z wykorzystaniem systemów sztucznej inteligencji z poszanowaniem Fundacja Sztuka Media Film Mamy na uwadze, że podstawowym celem projektu ustawy o systemach sztucznej inteligencji jest stworzenie ram prawnych i instytucjonalnych niezbędnych do prawidłowego stosowania Rozporządzenia 2024/1689, które nie wprowadza zmian w prawie w zakresie prawa autorskiego. Z uwagi jednak na fakt, że tematyka wyzwań w prawie autorskim wobec rozwoju sztucznej inteligencji jest zagadnieniem szeroko dyskutowanym w przestrzeni publicznej, ze szczególnym uwzględnieniem środowisk twórczych i artystycznych, w imieniu Fundacji Sztuka Media Film, zwracamy uwagę na konieczność kompleksowego uregulowania związanych z tym zagadnieniem kwestii w polskim porządku prawnym. Nie można wykluczyć, że część powyższego problemu zostanie objęta regulacjami unijnymi, jednak z uwagi na to, że harmonizacja prawa autorskiego w państwach członkowskim przebiega w sposób punktowy oraz zważywszy na odrębność i zróżnicowanie krajowych porządków 315 praw autorskich twórców prawnych państw członkowskich Unii Europejskiej w obszarze prawa autorskiego, niewykluczona może okazać się również krajowa inicjatywa ustawodawcza w obszarze praw autorskich. Takie działania zostały podjęte m.in. we Francji, gdzie w dniu 12 września 2023 r. przedłożono projekt ustawy nr 1630 w celu zapewnienia ram prawa autorskiego dla sztucznej inteligencji. Propozycja zmian w prawie autorskim ma na celu ochronę autorów poprzez uregulowanie eksploatacji prac generowanych przez sztuczną inteligencję. Poniżej sygnalizujemy obszary, które identyfikujemy jako kluczowe z perspektywy ochrony praw twórców i wskazujemy na konieczność uwzględnienia ich w ramach dalszych zaplanowanych prac legislacyjnych oraz badawczych w zakresie rozwoju AI w Polsce: Dookreślenie w przepisach prawa powszechnie obowiązującego sposobu korzystania z utworów na potrzeby tworzenia, rozwijania oraz stosowania w obrocie gospodarczym systemów sztucznej inteligencji z poszanowaniem praw twórców, w szczególności możliwości skutecznego realizowania przez nich autorskich praw osobistych do utworów, w szczególności prawa do nadzoru nad sposobem korzystania z utworu (o którym mowa w art. 16 pkt 5 ustawy z 04.02.1994 r. o prawie autorskim i prawach pokrewnych (dalej: pr.aut.)) oraz wypłaty należnego twórcom wynagrodzenia z tytułu korzystania z ich utworów w związku z działalnością systemów sztucznej inteligencji; Dookreślenie czy polskie prawo autorskie powinno dopuszczać możliwość zastosowania definicji utworu (w rozumieniu art. 1 ust. 1 pr.aut.) w stosunku do rezultatów działalności sztucznej inteligencji? Czy – alternatywnie – polskie prawo autorskie powinno z definicji wyłączać możliwość zakwalifikowania jako utwór w rozumieniu pr.aut. rezultatów działalności sztucznej inteligencji? Czy względem rezultatów prac sztucznej inteligencji powinna powstać odrębna definicja przedmiotu praw autorskich, dostosowana do specyfiki funkcjonowania tej techniki? Jeżeli rezultaty prac sztucznej inteligencji miałyby stanowić utwór w rozumieniu pr.aut. albo w rozumieniu innej definicji stanowić przedmiot ochrony prawnoautorskiej koniecznym jest dookreślenie jakiemu podmiotowi przysługiwać będą autorskie prawa majątkowe do rezultatów prac stworzonych (wygenerowanych) przez sztuczną inteligencję. Czy będzie to dostawca systemu sztucznej inteligencji, podmiot ją stosujący, inny operator wymieniony w Rozporządzeniu 2024/1689? Czy możliwe jest przyznanie określonych, ograniczonych względem praw autorskich przysługujących twórcom, samej sztucznej inteligencji? Dookreślenie w ramach kodeksów dobrych praktyk, w jaki sposób powinny zostać wypełniane obowiązki w zakresie transparentności nakładane na twórców modeli generatywnej sztucznej inteligencji, tak aby prawa twórców utworów wykorzystywanych w procesie trenowania sztucznej inteligencji były należycie chronione, w tym doprecyzowanie również zagadnień związanych z publikacją i oznaczaniem treści wytworzonych przez sztuczną inteligencję. Brak uregulowania w projekcie SFP-ZAPA Wprowadzenie mechanizmów zapewniających – zgodnie z intencją ustawodawcy unijnego – że na każde wykorzystanie treści chronionych prawem autorskim na potrzeby sztucznej inteligencji zostanie uzyskane zezwoleniem danego podmiotu praw (motyw 105 aktu o AI). Mogłoby to 316 następować na podstawie obecnie znanych mechanizmów: licencjonowanie, mechanizm rozszerzonych zbiorowych licencji. Z uwagi na masowy charakter korzystania oraz rozproszony repertuar pośrednictwo organizacji zbiorowego zarządzania w tym procesie wydaje się niezbędne. Wprowadzenie mechanizmów zapewniających realizację obowiązku przejrzystości tak w aspekcie informowania na temat treści objętych ochroną prawnoautorską wykorzystanych na potrzeby sztucznej inteligencji, jak i w aspekcie znakowania wytworów wygenerowanych przez sztuczną inteligencję. Doprecyzowanie rodzaju informacji, jakie miałyby być dostarczane przez twórców systemów i modeli AI na temat zakresu korzystania z utworów na potrzeby ich tworzenia, rozwijania i eksploatowania, które będą umożliwiały twórcom ustalenie zakresu korzystania i odpowiadającego temu korzystaniu wynagrodzenia (obowiązek przejrzystości, obowiązki informacyjne). Obecnie w akcie o AI mowa jest jedynie ogólnie o dostarczaniu informacji o zasobach, z których twórcy systemów i modeli AI korzystają. Nie jest to wystarczające. Mamy oczywiście świadomość i wiedzę, że na poziomie Unii Europejskiej prowadzone są prace zmierzające do powstania kodeksu praktyk w tym zakresie. Uważamy jednak, że rozwiązania typu soft law nie są wystarczająco skuteczne, na co zresztą słusznie zwraca uwagę sam ustawodawca w uzasadnieniu Projektu. Jak była zaś o tym mowa powyżej, żadne przepisy nie stoją na przeszkodzie temu, aby taką regulację wprowadzić w porządku krajowym. Naszym zdaniem jest ona niezbędna. Wprowadzenie formy rekompensaty za korzystanie z utworów na potrzeby zasilania modeli i systemów sztucznej inteligencji. Także w przypadkach, o których mowa w art. 4 dyrektywy DSM. Może to oczywiście być klasyczna opłata licencyjna, bądź ustawowo zagwarantowane prawo do wynagrodzenia. Jednym z rozwiązań szeroko dyskutowanym w różnych krajach UE jest wprowadzenie mechanizmu podobnego do tego, jaki funkcjonuje w odniesieniu do tzw. opłat od czystych nośników. Przywrócenie braku możliwości korzystania z tzw. komercyjnej eksploracji tekstów i danych (tzw. TDM) na potrzeby sztucznej inteligencji. W projekcie nowelizacji ustawy o prawie autorskim i prawach pokrewnych implementującym dyrektywę DSM, opublikowanym przez Ministerstwo Kultury i Dziedzictwa Narodowego w lutym 2024 r., przesądzono, że możliwość komercyjnej eksploracji tekstów i danych nie będzie miała zastosowania do korzystania z utworów na potrzeby sztucznej inteligencji, a w szczególności jej generatywnej postaci. Rozwiązanie to zostało z satysfakcją przyjęte przez wszystkie środowiska twórcze. Niestety, w toku dalszych prac nad projektem wyłączenie to (pod wpływem opinii podmiotów, które z tego wyłączenia nie będą mogły korzystać dla niczym nieograniczonego wykorzystywania utworów na potrzeby tworzenia i rozwijania modeli i systemów generatywnej sztucznej inteligencji) zostało usunięte. Braku tego 317 rodzaju zapisu w ustawie nie sanuje przewidziane tak w dyrektywie DSM, jak i projekcie prawo zgłoszenia zastrzeżenia co do takiego korzystania. W obecnym kształcie ustawy opcja opt-out (prawo zgłoszenia zastrzeżenia) jest iluzoryczna, gdyż nieefektywna (brak jest bowiem rozwiązań prawnych i technicznych, które określałyby jak w praktyce w skuteczny sposób z prawa tego korzystać). Twórcom nie zapewniono także żadnego rodzaju rekompensaty za tego rodzaju korzystanie, co godzi w ich podstawowe prawa. Doszczegółowienie zasad i warunków korzystania z prawa zastrzeżenia opt-out w przypadku, o którym mowa w art. 4 ust. 3 dyrektywy DSM nie tylko w formie nadającej się do odczytu maszynowego wraz z metadanymi, ale też w taki sposób, aby następowało z uwzględnieniem warunków korzystania ze strony internetowej lub usługi. Z uwagi na brak szczegółowych regulacji (nie tylko w aspekcie prawnym, ale też technicznym) w jaki korzystanie z prawa opt-out miałaby następować jest ono trudne do zrealizowania w praktyce. Brak zapewnienia skutecznego sposobu korzystania przez uprawnionych z tego prawa spowoduje masowe nadużywanie formy dozwolonego użytku przewidzianej w art. 4 dyrektywy DSM, co będzie prowadzić – wbrew założeniom aktu o AI – do naruszania praw autorskich w związku z korzystaniem z utworów na potrzeby sztucznej inteligencji. Przesądzenie, że wyjątek dotyczący eksploracji tekstów i danych odnosi się jedynie do utworów, do których beneficjent wyjątku ma legalny dostęp (zgodnie z art. 3 ust. 1 dyrektywy DSM). W przeciwnym wypadku powstaje ryzyko masowego nadużywania tej formy dozwolonego użytku w celu niezgodnego z prawem zwielokrotniania i przechowywania utworów. Przesądzenie, aby zastrzeżenie opt-out mogło być składane także przez organizacje zbiorowego zarządzania w imieniu uprawnionych, którzy powierzyli danej organizacji swoje prawa w zbiorowy zarząd. Stanowisko to uzasadnia masowa skala korzystania z utworów w ramach wyjątku eksploracji tekstów i danych. Opracowanie mechanizmów zapobiegających naruszaniu praw autorskich w związku z korzystaniem z rozwiązań sztucznej inteligencji, w tym wskazujących podmioty odpowiedzialne (np. analogicznie do rozwiązania przewidzianego w art. 17 dyrektywy DSM). Mechanizm ten powinien określać katalog przesłanek, po spełnieniu których, dostawca może uwolnić się od odpowiedzialności. Powinien też opierać się o szeroki system domniemań – jak domniemanie trenowania na utworach, domniemanie zwielokrotniania utworów. Domniemania te mogą być wzruszalne. Pozwolą jednak w sposób sprawiedliwy rozłożyć ciężar dowodu. Pełna wiedza na temat funkcjonowania systemów sztucznej inteligencji, w tym m.in. na temat tego z jakich źródeł są one zasilane, jest wyłącznie po stronie ich dostawców. Do wiedzy tej nie mają i nie będą mieć dostępu uprawnieni z tytułu praw autorskich, którzy z kolei dostarczają treści, które owe systemy 318 zasilają. Bez konstrukcji domniemań prawa twórców nie zostaną zatem zagwarantowane, ani w praktyce zrealizowane. Działania komunikacyjne i edukacyjne Krajowy Instytut Mediów Kategorie interesariuszy, które powinny być traktowane priorytetowo w zakresie działań komunikacyjnych i edukacyjnych w związku z procesem wchodzenia w życie rozporządzenia 2024/1689 Jak wskazano w motywie 4 rozporządzenia 2024/1689: AI to szybko rozwijająca się grupa technologii, która przyczynia się do wielu różnych korzyści ekonomicznych, środowiskowych i społecznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej, przy czym w motywie 5 aktu w sprawie sztucznej inteligencji zaznaczono, że AI może jednocześnie stwarzać zagrożenia i wyrządzać szkody dla interesu publicznego i praw podstawowych chronionych przepisami prawa Unii, w zależności od okoliczności jej konkretnego zastosowania, wykorzystania oraz od poziomu rozwoju technologicznego. Szkody te mogą być materialne lub niematerialne, w tym fizyczne, psychiczne, społeczne lub ekonomiczne. Dlatego też podejmowanie działań związanych z procesem wchodzenia w życie rozporządzenia 2024/1689 wymaga przede wszystkim wzięcia pod uwagę potrzeb dzieci, których szczególna wrażliwość pociąga za sobą konieczność zapewnienia im takiej ochrony i opieki, jaka jest niezbędna dla ich dobra, a także potrzeb seniorów, cechujących się podatnością na zagrożenia związane ze zjawiskiem dezinformacji. Wsparcie i edukacja w tym zakresie stanowią kluczowy element upowszechniania AI na rynku wewnętrznym, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych. Systemy zakazane i wyłączenia Panoptykon Zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej Zgodnie z art. 5 ust 1 lit. h rozporządzenia w sprawie sztucznej inteligencji, wykorzystywanie systemów zdalnej identyfikacji biometrycznej w przestrzeni publicznej do celów ścigania przestępstw w czasie rzeczywistym jest co do zasady zakazane, chyba że ich wykorzystanie jest bezwzględnie konieczne do celów wymienionych w tym przepisie. Jednocześnie, art. 5 ust. 5 rozporządzenia wymaga w tych przypadkach od państw członkowskich, aby przyjęły krajowe przepisy, które szczegółowo regulowałyby zasady udzielania i nadzorowania zezwoleń na wykorzystanie takich systemów. Brak tych przepisów w projekcie opiniowanej ustawy interpretujemy jako decyzję ustawodawcy o braku zgody na wykorzystywanie systemów zdalnej biometrycznej identyfikacji do celów ścigania przestępstw. Zdecydowanie popieramy taką decyzję projektodawcy i rekomendujemy jej utrzymanie w ostatecznej wersji projektu. W tym miejscu warto przypomnieć, że na etapie prac legislacyjnych nad rozporządzeniem w sprawie sztucznej inteligencji, pełny zakaz wykorzystywania systemów zdalnej identyfikacji biometrycznej – jako naruszających istotę prawa do prywatności – rekomendowały, obok organizacji społecznych, wiodące organy ochrony danych osobowych i praw człowieka: Europejski Inspektor Ochrony Danych i Wysoki Komisarz ONZ ds. Praw Człowieka Model z zakresu prawa i administracji Osoba fizyczna AJ W niniejszym mailu doszczegółowię moje (przedsiębiorca) oczekiwania w stosunku do inicjatywy AI w Polsce. 319 Widzę potrzebę modelu (może być na wzór QRA) nauczonego wiedzą z zakresu administracji i prawa. Do stworzenia takiego modelu można użyć danych z: 1. aktów notarialnych: (dostępne w administracji skarbowej i urzędach powiatowych w zakresie nieruchomości), 2. umów kupna-sprzedaży: dostępne w administracji skarbowej, 3. dokumentów sądowych: dostępne w sądach 4. dokumentów administracyjnych: zezwolenia, rejestry, mapy geodezyjne, wnioski tip: dostępne w urzędach Tak nauczony model można stosować np. w starostwie, gdzie po kilka osób na powiat prowadzi rejestr cen nieruchomości, wprowadzając dane z aktów notarialnych. Możliwe byłoby usprawnienie pracy tych urzędników i przez to oddelegowanie pracowników do innych zadań niż przetwarzanie aktów notarialnych Podobnie na poziomie gmin, prowadzone są rejestry podatkowe na podstawie informacji z aktów notarialnych i ten proces można zautomatyzować za pomocą AI. Gmin jest w PL 2498. Jeśli tak nauczony model będzie ogólnie dostępny to mogą go także wykorzystywać adwokaci, rzeczoznawcy i urzędnicy do przetwarzania dokumentacji administracyjnej. Taki model także może być użyty w sądach i prokuraturach np. do segregacji dokumentów czy wstępnej klasyfikacji dokumentów. Ale na początek proponuję analizę aktów notarialnych w celu uzupełnienia danych rejestru cen w powiatach, co jest czynnością wymaganą ustawowo. Dane do budowy modelu posiada administracja państwowa, projekt można zrobić na podobieństwo projektu QRA, byćmoże w nowszej architekturze. Osobiście widzę także potrzebę modelu do rozpoznawania obiektów ze zdjęć satelitarnych. Jednakże ten model byłby wykorzystywany przez ograniczoną grupę użytkowników, więc na razie go nie zgłaszam. Nowy rozdział Identyfikacja biometryczna GRAI Art. 5 ust. 5 AI Aktu daje państwom członkowskim możliwość decyzji o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, ale tylko w granicach i na warunkach wymienionych w ust. 1 lit. h) oraz ust. 2 i 3.Państwa członkowskie powinny wówczas ustanowić w swoim prawie krajowym szczegółowe przepisy dotyczące procedur wnioskowania, udzielania i nadzorowania zezwoleń na takie wykorzystanie systemów AI. Mogą również określić, w odniesieniu do których celów i przestępstw właściwe organy mogą uzyskać zezwolenie. 320 Państwa członkowskie mogą też wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. W mojej ocenie Polska powinna wprowadzić takie bardziej restrykcyjne przepisy i całkowicie zakazać zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Jeśli jednak na tak daleki krok Polska się nie zdecyduje, to zezwolenie zawsze powinno być udzielane przed zastosowaniem zdalnej identyfikacji biometrycznej, a organem udzielającym zezwolenia powinien być wyłącznie sąd Nowy rozdział Identyfikacja biometryczna GRAI Nie należy przyjmować wyjątków pozwalajacych na stosowanie systemów identyfikacji biometrycznej w czasie rzeczywistym. A jeżeli tak, to niezależnie od poziomu opóźnienia: • Organem udzielającym zezwolenia powinien być wyłacznie sąd; • Regulacja powinna być zsynchronizowana z KPK, np. w zakresie wydawania listu gończego, bo trudno wyobrazić sobie, żeby identyfikacja biometryczna mogła dotyczyć osób, za którymi nie można wydać listu gończego; • Regulacja powinna być zsynchronizowana z KPK w zakresie kontroli i utrwalania rozmów, bo jest to problem analogiczny i są to rozwiązania bardzo podobne do przewidzianych w AI Act, ale szersze w kilku istotnych względach. Przede wszystkim chodzi tutaj o obowiązek poinformowania osoby poddanej kontroli i utrwalaniu rozmów, że taka kontrola i utrwalanie miały miejsce, po zakończeniu postępowania. Powinno to być analogicznie rozwiązane w przypadku identyfikacji biometrycznej, szczególnie że systemy tego typu są bardzo niedoskonałe i często identyfikwoane będą osoby postronne. Myślę, że będzie to dobra forma kotnroli / presji społecznej; • Nie może być zgody na regulacje przewidujące wtórną zgodę właściwego organu, wydawaną po przeprowadzeniu identyfikacji biometrycznej. AI Act rozwiązuje to podobnie co KPK w przypadku kontroli i utrwalania rozmów, ale jest pewien problem. Kontrola rozmów trwa dłuższy czas i służy zebraniu materiału dowodowego, podczas gdy identyfikacja biometryczna będzie służyć przede wszystkim zlokalizowaniu danej osoby. W tej sytuacji nic nie stoi na przeszkodzie, żeby organy ścigania stosowały identyfikację biometryczną w sposób zupełnie nieuzasadniony przepisami, zwracając się w określonym terminie o wtórną zgodę sądu, który wydania jej oczywiście odmówi i zarządzi zniszczenie uzyskanych materiałów – tylko co z tego, jeżeli osoba została już zlokalizowana? Będzie to martwy przepis i ogromne pole do nadużyć. Nowy rozdział identyfikacja biometryczna GRAI Act reguluje identyfikację biometryczną w czasie rzeczywistym, ale brak jest odpowiednich regulacji w przypadku identyfikacji z opóźnieniem. Moim zdaniem obostrzenia powinny być tutaj jednakowe, bo niezależnie od poziomu opóźnienia, ryzyko jest podobne. Błędy językowe NRA 1. Art. 1 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 321 2. Art. 3 Projektu — W artykule pojawia się błąd typograficzny. Spacje wokół dywizu (łącznika) i półpauzy są zbędne. Zaleca się ich usunięcie lub, w razie potrzeby, zastosowanie myślnika, który można oddzielić spacjami. 3. Art. 4 ust. 3 Projektu — W przepisie użyto zbędnej kropki po skrócie słowa „punkt, tj: „pkt.”. Zgodnie z zasadami języka polskiego kropka w tym przypadku jest niepożądana, ponieważ skrót sam w sobie jest jednoznaczny. 4. Art. 5 ust. 6 Projektu — Występuje błąd językowy w postaci użycia czasownika „posiadać” w odniesieniu do pojęć abstrakcyjnych („komisja”). Zaleca się użycie czasownika „mieć”, co jest zgodne z konwencją językową dotyczącą rzeczy niematerialnych. 5. Art. 7 ust. 6 Projektu — Brakuje przecinka w wyrażeniu „zakresie, w jakim”. Dodanie przecinka poprawia czytelność i zgodność składniową zdania. 6. Art. 9 ust. 2 Projektu — Błąd składniowy polegający na użyciu nieprawidłowej formy przypadkowej rzeczownika „podmiot”. W błędnym zapisie mamy niepoprawną formę „w podmiotu”, która jest wynikiem mylnego użycia dopełniacza w bezpośrednim sąsiedztwie przyimka „w” zamiast wymaganego miejscownika. W poprawnym sformułowaniu „w podmiocie, którego są przedstawicielami” rzeczownik „podmiot” występuje w miejscowniku, ponieważ wymaga tego przyimek „w” (miejscownik: „w kim? w czym?” – „w podmiocie”), z kolei zaimek „którego” powinien być w dopełniaczu, aby zgadzał się z sensownym związkiem z resztą zdania, gdyż członkowie Komisji są przedstawicielami kogo? czego? – „podmiotu” (dopełniacz). 7. Art. 11 ust. 1 pkt 6 Projektu — Błąd językowy polegający na nieprawidłowym użyciu formy mianownika zamiast dopełniacza. Obecne brzmienie przepisu powinno zostać poprawione poprzez użycie form „postanowień i decyzji” w dopełniaczu. Prawidłowe, poprawne językowo sformułowanie przepisu powinno zatem brzmieć: „Do zadań Komisji należy (...) wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. 8. Art. 12 ust. 2 Projektu — Przecinek przed wyrazem „Komisja” jest zbędny i powinien zostać usunięty, aby zachować poprawność interpunkcyjną. 9. Art. 14 ust. 3 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo”. Przecinek w tym miejscu poprawia strukturę zdania i ułatwia jego czytelność. 10. Art. 19 ust. 4 Projektu — W treści przepisu brakuje przecinka przed wyrażeniem „gdy”. Wstawienie przecinka zapewnia zgodność z zasadami interpunkcji i poprawia czytelność przepisu. 322 11. Art. 20 ust. 4 Projektu — W zdaniu „przeprowadza komisja kwalifikacyjna,,” występują bezpośrednio po sobie dwa przecinki, co jest błędem typograficznym. Należy usunąć zbędny przecinek. 12. Art. 20 ust. 9 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia przejrzystość i rytm zdania. 13.Art. 25 ust. 2 Projektu — Sformułowanie „wzajemna wymiana” jest pleonazmem. Zaleca się użycie wyrażenia „wymiana”, które już samo w sobie zakłada wzajemność. 14. Art. 26 ust. 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 15. Art. 33 ust. 3 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową przepisu. 16. Art. 34 ust. 2 ppkt 2 Projektu — Brak kropki po skrócie słowa „artykuł”, tj.: „art”, co jest niezgodne z zasadami stosowania skrótów w języku polskim. Skrót powinien kończyć się kropką. 17. Art. 40 ust. 1 Projektu — W przepisie występuje błąd interpunkcyjny. Należy dostosować znaki przestankowe, aby poprawić strukturę zdania i jego przejrzystość. 18. Art. 43 ust. 2 Projektu — Brak przecinka przed drugim wystąpieniem słowa „lub” w obrębie jednego zdania. Dodanie przecinka poprawia klarowność przepisu i zgodność z zasadami interpunkcji. 19. Art. 43 ust. 3 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Dodanie przecinka wpływa pozytywnie na strukturę składniową i przejrzystość przepisu. Należy skreślić słowo “się” po słowach “czynności kontrolne”. 20. Art. 43 ust. 9 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Wstawienie przecinka poprawia przejrzystość i czytelność przepisu. 21. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawia strukturę składniową i jednoznaczność przepisu. 22. Art. 45 ust. 2 Projektu — Brak przecinka przed wyrazem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zgodnie z zasadami interpunkcji zwiększa czytelność. 23. Art. 45 ust. 5 Projektu — Brak przecinka przed drugim wystąpieniem słowa „albo” w obrębie jednego zdania. Poprawne wstawienie przecinka zapewnia spójność interpunkcyjną. 24. Art. 48 Projektu — Podwójny przecinek w wyrażeniu: „w toku kontroli, , że mogło dojść” jest błędem typograficznym i wymaga usunięcia drugiego przecinka. Dodatkowo 323 brakuje słowa „Komisja” we frazie „Komisja jest obowiązana”, co poprawi składnię i jednoznaczność przepisu. 25. Art. 54 ust. 6 Projektu — Brak przecinka przed drugim użyciem słowa „lub” w obrębie jednego zdania, co zaburza rytm tego zdania i jego przejrzystość. Dodanie przecinka zgodnie z zasadami interpunkcji poprawi czytelność przepisu. 26. Art. 59 ust. 1 Projektu — Błędna interpunkcja. Poprawne użycie przecinków poprawi strukturę składniową i czytelność. 27. Art. 64 ust. 1 Projektu — Brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka zwiększa przejrzystość i spójność przepisu. 28. Art. 64 ust. 3 ppkt 2 Projektu — Powtórzenie wyrażenia „do spraw” jest zbędne. Usunięcie jednego z wyrażeń poprawi spójność i czytelność przepisu. 29. Art. 65 ust. 2 ppkt 2 Projektu — Brak przecinka przed wyrażeniem „jak również”. Dodanie przecinka zwiększa przejrzystość i poprawność składniową. 30. Art. 69 ust. 1 Projektu — W przepisie występuje błędna interpunkcja, w tym brak przecinka przed słowem „oraz” użytym w zdaniu po raz drugi. Dodanie przecinka poprawi strukturę przepisu. 31. Art. 70 ust. 2 Projektu — Brak przecinka między czasownikami „oparła” i „nakładając” w zdaniu złożonym. Dodanie przecinka poprawi płynność i poprawność składniową przepisu. 32. Art. 71 ust. 1 Projektu — Błędna interpunkcja. Wymagane jest dostosowanie przecinków do zasad poprawnej konstrukcji zdania. 33. Art. 73 ust. 1 Projektu — Zbędny przecinek przed słowem „albo”. Usunięcie przecinka poprawi strukturę składniową przepisu. 34. Art. 73 ust. 4 Projektu — Zbędny przecinek przed słowem „Komisja”. Usunięcie przecinka dostosuje przepis do zasad poprawnościowych. 35. Art. 73 ust. 7 Projektu — Brak przecinka przed słowem „lub” użytym w zdaniu po raz drugi. Wstawienie przecinka zwiększa spójność strukturalną i przejrzystość przepisu. 36. Art. 75 ust. 2 Projektu — Przepis zawiera nawias, który został otwarty, ale nie zamknięty. Dodatkowo, część zdania umieszczona w nawiasie („z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689”) zawiera błędy gramatyczne, albowiem słowo „postępowanie” powinno występować w dopełniaczu („postępowania”), aby zachować poprawność językową. Ponadto sama konstrukcja przepisu jest niejasna, ponieważ wstawienie części zdania w nawias niepotrzebnie komplikuje jego treść. 324 37. Art. 80 ppkt 1 Projektu — Przy zbiegu dwóch nawiasów zaleca się ich połączenie i rozdzielenie zawartej w nich treści za pomocą średnika („;”). Połączenie nawiasów poprawia estetykę przepisu i zapobiega niepotrzebnej segmentacji tekstu. 38. Art. 80 in fine Projektu — Brak kropki po cudzysłowie na końcu zdania. Dodanie kropki zgodnie z zasadami interpunkcji poprawi poprawność zapisu. 39. Art. 84 ust. 3 Projektu — Przecinek przed słowem „wykonuje” jest zbędny i powinien zostać usunięty dla zachowania poprawności składniowej. 40. Art. 87 ust. 2 Projektu — Sformułowanie „maksymalny limit wydatków” stanowi pleonazm. Wystarczy wyrażenie „limit wydatków”, które poprawia przejrzystość przepisu. 41. Art. 87 ust. 2 Projektu — Zbędny przecinek przed słowem „stosuje”. Usunięcie przecinka poprawi strukturę składniową i czytelność przepisu. 42. Art. 87 ust. 4 Projektu — Brak kropki po skrócie słowa „ustęp”, tj.: „ust”. Dodanie kropki zgodnie z zasadami języka polskiego zwiększa poprawność formalną. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach opiniowania Lp. Jednostka redakcyjna, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko Uwagi Ogólne 1. Uwaga ogólna Szef Służby Cywilnej Zgodnie z art. 153 Konstytucji RP, Prezes Rady Ministrów jest zwierzchnikiem korpusu służby cywilnej, który działa w urzędach administracji rządowej. W związku z tym, wątpliwości budzi propozycja ukształtowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i Przewodniczącego tej Komisji. Komisja będzie miała typowe zadania regulacyjno-nadzorcze państwa, a jej biuro te zadania będzie współrealizowało. Będzie ponadto obsługiwać Komisję. Są to więc typowe zadania urzędnicze. W całości wpisują się one również w zakres przedmiotowy działu administracji rządowej – informatyzacja. Dział ten obejmuje m.in. zagadnienia dotyczące rozwoju usług świadczonych drogą elektroniczną, czy bezpieczeństwa cyberprzestrzeni. Wskazuje na to również art. 70 ust. 4 rozporządzenia 2024/1689 Parlamentu Europejskiego i Rady (EU)1, który stanowi, że właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. Zasadą powinno być zatem, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak, jak to ma miejsce w przypadku np. Urzędu Komunikacji Elektronicznej, Urzędu Transportu Kolejowego czy Urzędu Regulacji Energetyki). Realizacja obowiązków nałożonych na wskazane organy opiera się głównie na wykonywaniu zadań, które niemal w całości mają charakter zadań urzędniczych (np. prowadzenie postępowań administracyjnych, opiniowanie aktów prawnych, rozpatrywanie Uwaga nieuwzględniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 2 skarg). Zatem uzasadnione jest, aby zadania te wykonywali członkowie korpusu służby cywilnej. Usytuowanie tej jednostki w służbie cywilnej wzmocni ją poprzez nałożenie wysokich standardów wynikających z przepisów, w tym zasad służby cywilnej i zasad etyki korpusu służby cywilnej. Pozwoli to również zneutralizować ryzyka korupcyjne i da mechanizmy służąc przeciwdziałaniu nieporządanym sytuacjom. Usytuowanie Biura w służbie cywilnej zapewni także równość wszystkich osób realizujących ważne dla obywatelek i obywateli zadania. W uzasadnieniu projektodawca wskazał, że wzorował się na regulacjach dot. Komisji Nadzoru Finansowego, jako przykładu umiejscowienia organu nadzoru i regulatora rynku w strukturze organów administracji państwowej. Jest to jednak przykład jednostkowy. Ponadto KNF została utworzona w 2006 r., zaś w kolejnych latach ustawodawca odszedł od tego modelu, na rzecz umiejscawiania regulatorów rynku i organów nadzoru w strukturze urzędów administracji rządowej, w których funkcjonuje korpus służby cywilnej (UTK, URE, UKE itd.). 2. Uwaga ogólna Szef Służby cywilnej W art. 70 ust. 3 ww. rozporządzenia wskazano, że właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów. Problem pozyskania wyposażonych w odpowiednią wiedzę, fachowych pracowników może i powinien być rozwiązany przy pomocy regulacji zawartych w ustawie o służbie cywilnej dotyczących naboru. W nawiązaniu do uwagi nr 1 należy zatem wskazać, że nie ma żadnych przeszkód, aby pozyskiwanie pracowników do Biura Komisji odbywało się w drodze otwartego i konkurencyjnego naboru. Uwaga nieuwzględniona 3. Uwaga ogólna – rola Rzecznik Finansowy (...) na Rzeczniku Finansowym będzie spoczywał ciężar identyfikacji naruszeń zasad wykorzystywania systemów AI przez podmioty rynku finansowego, a w przypadku ustalenia Uwaga nieuwzględniona 3 Rzecznika Finansoweg o w systemie nadzoru nad SSI przesłanek dla stwierdzenia naruszenia przez nie Aktu o sztucznej inteligencj lub projektu ustawy, obowiązek zwrócenia się z właściwym wnioskiem do Komisji. Należy jednak mieć na uwadze, że Rzecznik Finansowy czerpie informacje o naruszeniach prawa przez podmioty rynku finansowego w oparciu o zgłoszenia w sprawach indywidualnych. Zgłoszenia te objęte są zaś tajemnicą zarówno przedsiębiorstwa, jak i bankową (lub inną zawodową). To zaś może stanowić istotną przeszkodę dla przekazania do Komisji danych na temat stwierdzonych przez Rzecznika Finansowego naruszeń. W projekcie ustawy nie znajdują się postanowienia uprawniające Komisję do otrzymywania takich informacji (uprawniające podmioty o których mowa w art. 7 ust. 3 projektu ustawy do przekazanie danych objętych tajemnicą). Rzecznik Finansowy sugeruje rozważenie by zawrzeć w projekcie ustawy analogiczne postanowienie jak to przewidziane w art. 17 ust. 1, 2 i 3 ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, gdzie przewidziano zasady przekazywania informacji między Komisją Nadzoru Finansowego a Narodowym Bankiem Polskim: 1. Komisja i Narodowy Bank Polski przekazują sobie dokumenty i informacje, w tym chronione na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowych zadań. 2. Przepis ust. 1 stosuje się odpowiednio do przekazywania dokumentów i informacji pomiędzy Komisją a Bankowym Funduszem Gwarancyjnym, Ubezpieczeniowym Funduszem Gwarancyjnym, Rzecznikiem Finansowym oraz ministrem właściwym do spraw instytucji finansowych. 3. W celu określenia zasad współpracy i przekazywania dokumentów i informacji, o których mowa w ust. 1 i 2, Komisja zawiera porozumienia oraz umowy z podmiotami, o których mowa w ust. 1 i 2. Zawarcie w projekcie ustawy analogicznego postanowienia umożliwi udostępnianie informacji zgromadzonych w toku rozpatrywania spraw indywidualnych klientów podmiotów rynku finansowego. Dodatkowo wskazujemy na zmianę organizacji Komisji w zakresie uczestnictwa podmiotów z głosem doradczym. 4 W ocenie Rzecznika Finansowego za zasadnością uregulowania kwestii wymiany informacji pomiędzy Komisją i Rzecznikiem Finansowym przemawia również wykładnia art. 7 ust. 3 projektu ustawy w zw. z art. 25 ust. 4 projektu ustawy. Zgodnie z art. 7 ust. 3 projektu ustawy, Rzecznik Finansowy oraz przedstawiciele innych wymienionych tam instytucji mogą brać udział w posiedzeniach Komisji z głosem doradczym. W art. 25 projektu ustawy jest uregulowana kwestia wymiany informacji między Przewodniczącym Komisji, Zastępcami Przewodniczącego Komisji oraz członkami Komisji, informacji, w tym tajemnic prawnie chronionych. W art. 25 ust 4 projektu ustawy wskazano, komu ww. osoby mogą tych informacji udzielać, ale nie ma wśród nich przedstawicieli instytucji, które zgodnie z art. 7 ust 3 projektu ustawy mogą brać udział w posiedzeniach Komisji. Wydaje się więc zasadne dopuszczenie, przynajmniej w zakresie związanym z reprezentowaną branżą, również przedstawicieli instytucji wymienionych w art. 7 ust 3 projektu ustawy do wymiany informacji. W przypadku braku takich uprawnień, może to utrudniać realne wykonywanie głosu doradczego, a nawet niekorzystnie wpływać na prace Komisji, jeśli na posiedzeniach nie będzie możliwa swobodna wymiana informacji z uwagi na to, że biorą w nich udział osoby, które dostępu do tych informacji nie mają. 4. Uwaga ogólna PFR Ustawa i Rozporządzenie wprowadzają dodatkowe wymogi i obciążenia dla przedsiębiorców, co może generować znaczne koszty, zwłaszcza w przypadku startupów i małych przedsiębiorstw. Poddajemy pod rozwagę możliwość wprowadzenia ulg podatkowych lub innych form wsparcia finansowego lub uproszczeń dla przedsiębiorstw (zwłaszcza małych i średnich), które inwestują w rozwój zgodnych z przepisami systemów sztucznej inteligencji; Ustawa wprowadza obowiązki raportowania poważnych incydentów w sytuacji, gdy obowiązek taki nakłada już ustawa o krajowym systemie cyberbezpieczeństwa. Zachodzi więc ryzyko, iż w przypadku sporej liczby polskich podmiotów, tym PFR, ten sam incydent będzie powodował konieczność podwójnego raportowania. Postulujemy, o ile to możliwe, takie Uwaga nieuwzględniona Obowiązek raportowania, o którym mowa w dyrektywie NIS i NIS 2 dotyczy innego obszaru i oparte jest na innej podstawie prawnej niż obowiązki dotyczące systemów AI wynikające z rozporządzenia 2024/1689. Na poziomie technicznym kwestie raportowania incydentów mogą (i powinny) być - na wykraczającym poza fazę legislacji etapie realizacji - przygotowane i udostępnione użytkownikom w sposób zapewniający prostotę i spójność, pozwalając dokonać obu typów zgłoszeń w analogiczny sposób. 5 uregulowanie zgłaszania incydentów, które nie nakładałoby na dany podmiot obowiązków raportowania tego samego incydentu dwa razy do dwóch różnych organów administracji publicznej; 5. Uwaga ogólna NCBR Określone problemy w realizacji zapisów ustawy mogą wynikać z tego, że produkty, usługi, systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE i oddzielne krajowe urzędy mogą podejmować różne decyzje w tym zakresie. Powstaje szereg pytań np. czy wcześniej podjęte decyzje w innych krajach powinny wpływać - być uwzględniane w krajach, które później zajęły się daną sprawą. Co ze zgłaszaniem incydentów przez korporacje globalne - czy powinny być zgłaszane wszystkie incydenty czy też tylko te, które dotyczą użytkowników w danym kraju? Można wymienić w kontekście powyższych wątpliwości następujące problemy: 1. Różne decyzje krajowych urzędów Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie mechanizmu wzajemnego uznawania decyzji certyfikacyjnych między krajami UE. Decyzje podjęte w jednym kraju powinny być uwzględniane przez inne kraje, co zapewni spójność regulacyjną i ułatwi firmom działanie na rynku wewnętrznym. 2. Uwzględnianie wcześniejszych decyzji Problem: Brak mechanizmu uwzględniania wcześniej podjętych decyzji w innych krajach może prowadzić do powielania procesów certyfikacyjnych i zwiększenia kosztów dla firm. Propozycja zmiany: Wprowadzenie obowiązku uwzględniania decyzji podjętych w innych krajach UE. Można również rozważyć utworzenie centralnej bazy danych decyzji certyfikacyjnych, Uwaga nieuwzględniona Rolę koordynacji mającej na celu zapewnić spójność stosowania rozporządzenia 2024/1689 pełnić mają, na podstawie jego przepisów, instytucje powołane na podstawie jego przepisów i dla celów jego realizacji, czyli Komisja Europejska oraz Europejska Rada ds. AI. Wprowadzanie na poziomie krajowego wdrożenia przepisów regulujących te kwestie prowadziłoby do naruszenia ram przewidzianych dla krajowego legislatora w treści przepisów rozporządzenia. Jednocześnie uwagi dotyczące spójności i interoperacyjności prawnej systemu należy uznać za cenne. Ich zapewnieniu pomóc mają stałe prace eksperckie w ramach grup i podgrup powołanych przez Europejskiej Radzie ds. AI. W odniesieniu do kwestii zgłaszania incydentów przez firmy międzynarodowe - ta kwestia jest częściowo rozwiązana przez centralizację procedur zgłaszania incydentów dot. modeli AI ogólnego przeznaczeni bezpośrednio do Komisji Europejskiej (Urząd ds. AI). 6 która będzie dostępna dla wszystkich krajowych urzędów nadzorczych. 3. Zakres zgłaszania incydentów przez korporacje globalne Problem: Globalne korporacje mogą mieć trudności z określeniem, które incydenty powinny być zgłaszane w poszczególnych krajach. Zgłaszanie wszystkich incydentów może być niepraktyczne i obciążać administracyjnie zarówno firmy, jak i urzędy nadzorcze. Propozycja zmiany: Wprowadzenie jasnych wytycznych dotyczących zgłaszania incydentów. Dla przykładu: Incydenty powinny być zgłaszane w kraju, w którym miały miejsce, oraz w krajach, których użytkownicy zostali dotknięci. Można również rozważyć wprowadzenie centralnego systemu zgłaszania incydentów na poziomie UE, który będzie koordynował zgłoszenia między krajami. 4. Harmonizacja procedur zgłaszania Problem: Różne procedury zgłaszania incydentów w poszczególnych krajach mogą prowadzić do niejasności i opóźnień w zgłaszaniu incydentów przez globalne korporacje. Propozycja zmiany: Harmonizacja procedur zgłaszania incydentów na poziomie UE. Wprowadzenie jednolitych formularzy i procedur zgłaszania, które będą stosowane we wszystkich krajach członkowskich, co ułatwi firmom spełnianie wymogów regulacyjnych. 6. Uwaga ogólna NCBR Warto rozważyć możliwość zorganizowania funkcjonowania organu nadzoru ds. SSI na wzór Państwowej Komisji Badania Wypadków Lotniczych oraz Rady Ochrony i Ułatwień Lotnictwa Cywilnego, uregulowanych Ustawą z dnia 3 lipca 2002 r. „Prawo lotnicze” (Dz.U. 2022 poz. 1235). Wzorzec ten jest bardziej adekwatny do zadań związanych z rozwojem SI. PKBWL działa przy ministerstwie, wymagane kwalifikacje członków są precyzyjnie określone. Zadaniem KBWL jest analizowanie zaistniałych zdarzeń, opracowywanie raportów i zaleceń. W 7 przypadku KRiBSI dodatkowo dochodzą zadania związane z opiniowaniem SSI jeszcze przed ich oddaniem do użytku i wydawanie opinii. Warto zwrócić uwagę, że obsługę administracyjną PKBWL zapewnia ministerstwo, a członkowie komisji otrzymują wynagrodzenie. W KRiBSI w proponowanym kształcie członkowie Komisji nie otrzymują wynagrodzenia, a są jedynie oddelegowani do udziału Komisji. Może to, w połączeniu z brakiem odpowiednich kwalifikacji powodować brak zaangażowania w pracę Komisji z jednoczesnym jej przerzucaniem na barki pracowników Biura Komisji. Z kolei Rada Ochrony i Ułatwień Lotnictwa Cywilnego jest ciałem doradczym i opiniującym. Podobnie można podzielić kompetencje Komisji i Rady w przypadki SI, powierzając Radzie zadnia nakierowane na wypracowanie przyszłych strategii i wspieranie rozwoju SI. 7. Uwaga ogólna NCBR Koszty wdrożenia: Implementacja nowych przepisów wiąże się z wysokimi kosztami, zarówno dla państwa, jak i dla przedsiębiorstw. Firmy mogą być obciążone dodatkowymi kosztami związanymi z dostosowaniem się do nowych wymogów regulacyjnych. Warto rozważyć wprowadzenie programów wsparcia finansowego dla MŚP, które pomogą im dostosować się do nowych wymogów. Można również rozważyć ulgi podatkowe lub dotacje na wdrożenie systemów AI zgodnych z nowymi przepisami. Uwaga nieuwzględniona Postulat poza zakresem przedmiotu regulacji. Należy zaznaczyć, że koszty dostosowania się do nowych regulacji mogą być objęte przedmiotem finansowania w ramach programów grantowych. 8. Uwaga ogólna NCBR Brak jasności w niektórych przepisach: Niektóre zapisy ustawy są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. Oto kilka przykładów: • Nie w pełni jasne definicje systemów AI wysokiego ryzyka: Projekt ustawy nie precyzuje dokładnie, jakie systemy AI są uznawane za wysokiego ryzyka. To może prowadzić do różnorodnych interpretacji i trudności w ocenie, które systemy podlegają surowszym regulacjom. Uwaga uwzględniona częściowo W zakresie przetwarzania danych osobowych przepisy projektu zostały zmodyfikowane. W projekcie wprowadzano również instytucje wyjaśnień i indywidualnych opinii. Co do jednoznaczności terminów, wynikają one z treści przepisów rozporządzenia. Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689 i nie może modyfikować przepisów prawa UE 8 • Brak jednoznacznych kryteriów transparentności: Przepisy dotyczące transparentności algorytmów i oznaczania treści generowanych przez AI są niejasne. Firmy mogą mieć trudności z ustaleniem, jakie informacje muszą ujawniać, aby spełnić wymogi ustawy. • Nieprecyzyjne zasady dotyczące ochrony danych osobowych: Chociaż ustawa przewiduje ochronę danych osobowych, brak precyzyjnych definicji i procedur może prowadzić do niejednoznaczności w zakresie odpowiedzialności za naruszenia prywatności. • Brak szczegółowych wytycznych dla MŚP: Mikro, Małe i Średnie przedsiębiorstwa mogą mieć trudności z interpretacją przepisów dotyczących certyfikacji i zgodności, co może prowadzić do ich marginalizacji na rynku. Warto doprecyzować definicje i zapisy w ustawie, szczególnie te dotyczące transparentności algorytmów, oznaczania treści generowanych przez AI oraz ochrony danych osobowych. Można również wprowadzić wytyczne interpretacyjne, które pomogą w jednoznacznym stosowaniu przepisów. 9. Uwaga ogólna Prokuratoria Generalna Ze względu na zakładany w projekcie status Biura Komisji jako państwowej osoby prawnej (art. 5 ust. 1 projektu) i zakres kompetencji Komisji warto rozważyć, czy Biuro Komisji, po wejściu w życie projektowanej ustawy, nie powinno zostać wpisane na listę podmiotów zastępowanych przez Prokuratorię Generalną. Zgodnie z art. 12 ust. 3 ustawy o Prokuratorii Generalnej Rzeczypospolitej Polskiej listę takich podmiotów określa Prezes Rady Ministrów, w drodze rozporządzenia, mając na względzie m.in. przedmiot działalności osoby zastępowanej, znaczenie prowadzonej działalności dla interesów Rzeczypospolitej Polskiej, zapewnienie ochrony praw i interesów osób zastępowanych. Uwaga wyjaśniona Postulat zostanie uwzględniony poprzez zawnioskowanie o wpisanie Biura Komisji na listę podmiotów zastępowanych przez Prokuratorię Generalną 10. Uwaga ogólna ZPP Kluczowe wydaje się zapewnienie możliwie spójnej i jednolitej implementacji AI Act w poszczególnych państwach członkowskich. Cały koncept jednolitego rynku cyfrowego Uwaga uwzględniona 9 sprowadza się do stworzenia przestrzeni dla rozwoju europejskiej branży technologicznej pozbawionej niepotrzebnych sztucznych przeszkód, a także ustanowienia wspólnych ram prawnych, tak by działalność transgraniczna wpisana w naturę przedsiębiorstw cyfrowych, była możliwie najłatwiejsza. Mając to na uwadze, choć popieramy koncepcję powołania zupełnie nowego organu nadzoru nad AI w postaci Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, chcielibyśmy zwrócić uwagę na szeroki zakres jej uprawnień – potencjalnie wkraczający na pole kompetencji unijnej Rady ds. AI, co może prowadzić do fragmentaryzacji jednolitego rynku. Wątpliwości w tym zakresie dotyczą przede wszystkim możliwości wydawania indywidualnych i generalnych interpretacji w sytuacji, gdy wspomniana Rada jest umocowana właśnie do wydawania zaleceń i opinii nt. „wszystkich istotnych zagadnień związanych z wdrażaniem” AI Act. Tak sformatowane zakresy kompetencji nie muszą, ale z pewnością mogą prowadzić do kolizji, zwłaszcza jeśli inne państwa członkowskie podążą tą samą ścieżką i znaczna ich część zdecyduje się umożliwić krajowym organom wydawanie interpretacji czy zaleceń w obszarach objętych rozporządzeniem. Wydaje się, że z punktu widzenia zapewnienia jednolitości i spójności rynku, Komisja powinna być ciałem wykonawczym i ewentualnie punktem kontaktowym w zakresie wsparcia przedsiębiorców w obszarze np. wiedzy o utrwalonych i zatwierdzonych przez Radę ds. AI wzorcach czy praktykach. W celu uniknięcia potencjalnych niejasności komunikacyjno-interpretacyjnych odstąpiono od instytucji interpretacji indywidualnych i generalnych na rzecz w wyjaśnień i opinii indywidualnych. 11. Uwaga ogólna ZPP Pragniemy zwrócić uwagę na brak regulacji dotyczących tworzenia „piaskownic regulacyjnych” – w projekcie znajduje się wyłącznie ogólne zastrzeżenie, że podejmowanie działań mających na celu ich utworzenie jest jednym z zadań Komisji. Z uwagi na szczególną rolę sanboxów w regulacji AI Act, a także na ich potencjał do wspierania innowacji, wydaje się że przedstawiony projekt ustawy powinien bardziej szczegółowo i czytelnie odnosić się do ich tworzenia. Jak wynikałoby z uzasadnienia, będzie to przedmiotem dalszych prac legislacyjnych – natomiast wydaje się, że wsparcie dla rozwoju innowacji w zakresie AI jest co najmniej równie ważne, jak wprowadzenie mechanizmów kontrolnych. Z tego punktu Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 10 widzenia należy stwierdzić, że projekt ustawy pozostaje w powyższym zakresie niezbalansowany. 12. Uwaga ogólna dot. procesu kontroli Konfederacj a Lewiatan Cały proces kontroli powinien skupiać sie nie na samych systemach, które podlegają rozwojowi i są tworzone często w małych i średnich start-upach, tylko na konkretnym zastosowaniu/ używaniu tych systemów. Wiele systemów może być wykorzytywanych w różny sposób. Prawa podstawowe powinny być chronione, natomiast nie każde ryzko czy zagrożenie dla tych praw powinno przekładać się na skutki w postaci zakazu rozwijania danego systemu czy nakaz jego całkowitego wycofania z użytku. Takie skutki są niewspółmierne dla rozwoju technologi i sztucznej inteligencji w szczególności. Sam AI Act w motywach podkreśla, że jednym z jego celów jest pobudzenie innowacji oraz upowszechnianie i promowanie godnej zaufania szcztucznej inteligencji. Należy rozważyć czy korzyści społeczne i cywilizacyjne wynikające z korzystania i rozwijania sztucznej inteligencji nie będą przeważać nad potencjalnym ryzykiem wynikającym z naruszenia praw podstawowych zwłaszcza praw niedotyczących życia czy zdrowia. Z drugiej strony należy rozważyć jak często w praktyce takie prawa będą rzeczywiście zagrożone czy naruszone i w tym kontekście zróżnicować podejście do kontroli i jej skutków w zakresie systemów sztucznej inteligencji oraz obowiązków nakładanych na opertatora takich systemów. Uwaga wyjaśniona Postulat o charakterze ogólnym, zostanie wzięty pod uwagę podczas przygotowywania zmian w nowej wersji projektu. Dodatkowo, perspektywa MŚP jest podnoszona w ramach konsultacji aktów wykonawczychdzenia. publikowanych przez Komisję Europejską służących spójnemu stosowaniu przepisów rozporzą 13. Uwaga ogólna Pracodawcy RP W uzasadnieniu do projektu ustawy (pkt 2), wskazano, że powołanie nowej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest uzasadnione: 1) obserwowanym dotychczas zwiększaniem wynikających z prawa unijnego obowiązków prawnych regulatorów i rozdzielania ich po takich organach jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych; Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizacji w zakresie technologii sztucznej inteligencji. Powierzenie tych funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Jednocześnie, nowa Komisja będzie pełnić funkcje ciała eksperckiego i koordynacyjnego, w związku z czym istniejące organy nadzoru będą mogły współpracować z 11 2) potrzebą zapewnienia wykonywania nowych obowiązków w sposób efektywny i gwarantujący, że w toku ich wykonywania będą przestrzegane obowiązujące przepisy prawa oraz respektowane prawa obywateli; 3) względami interesu sektora finansów publicznych. Rozwiązanie alternatywne do powołania nowego organu, tj. zakładające dystrybucję kompetencji pomiędzy już istniejące podmioty publiczne, wymagałoby bowiem sfinansowania kosztów wynikających z zapewnieniem spełnienia wszystkich powyższych kompetencji u pracowników każdej z tych instytucji równocześnie, co mogłoby być uznane jako naddatkowe i niekorzystne punktu widzenia polskiego podatnika. Niemniej należy zwrócić uwagę, że w dużej mierze także po wejściu w życie nowej ustawy duża część obowiązków wynikających z Aktu o AI będzie realizowana nie tyle przez nowo utworzoną Komisję, ale właśnie przez UOKiK, UODO, UKE i inne dotychczas zaangażowane organy - nie tylko poprzez potrzebę oddelegowania odpowiednio kompetentnych przedstawicieli do Komisji, ale również w związku z koniecznością prowadzenia powiązanych postępowań wyjaśniających w razie naruszeń. W zaproponowanym modelu potencjalnie poddaje to w wątpliwość efektywność ekonomiczną i kosztową działalności Komisji, ponieważ z uzasadnienia wypływa wniosek, że duża ilość czynności będzie powielana przez różne podmioty w zależności od celów prowadzonego przez nie postępowania zamiast wykorzystywania efektów czynności wyjaśniających przeprowadzonych przez Komisję. Rozwiązaniem zidentyfikowanego problemu mogłoby być przekonstruowanie struktury kompetencji poszczególnych organów zaangażowanych w ochronę praw obywateli z uwzględnieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji – w celu umożliwienia ich współpracy, a także wykorzystywania i wymiany informacji posiadanych przez te organy w zakresie wymaganym do osiągnięcia celów prowadzonych przez nie postępowań (korzystanie z materiałów Komisją w zakresie spraw dotyczących AI i leżących w ramach ich właściwości. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 12 z jednego postępowania w powiązanym z nim postępowaniu prowadzonym przez inny podmiot). Przysłuży się to optymalizacji kosztów działania państwa w ramach realizacji środków ochrony praw obywateli. Zwracamy uwagę na nieobecność w projektowanej ustawie wyodrębnionego segmentu dotyczącego zasad współpracy między organami na poziomie formalnym – poza dyskusjami międzyobszarowymi i działaniami opiniodawczymi. Niezależnie od powyższego, postulujemy dokonanie przeglądu działania przepisów projektowanej ustawy po upływie 12 albo 24 miesięcy od daty jej wejścia w życie w celu oceny jej skuteczności i ustalenia obszarów, w których potrzebna jest poprawa. 14. Uwaga ogólna Pracodawcy RP Zgodnie z Aktem o AI właściwy krajowy organ nadzoru nad systemami sztucznej inteligencji ma być organem niezależnym oraz wykonywać swoje uprawnienia w sposób bezstronny i wolny od uprzedzeń (vide OSR). Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) jednakże wynika, że nadzór nad działalnością Biura Komisji sprawować ma Prezes Rady Ministrów, który też nada mu, w formie zarządzenia, statut, a w skład Komisji mają wchodzić przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji, w tym: 1) ministra właściwego do spraw informatyzacji; 2) ministra powołanego do koordynowania działalności służb specjalnych, a w przypadku, gdy nie został wyznaczony – Kancelarii Prezesa Rady Ministrów; 3) Prezesa Urzędu Ochrony Danych Osobowych; 4) Prezesa Urzędu Ochrony Konkurencji i Konsumentów; 5) Komisji Nadzoru Finansowego; 6) Rzecznika Praw Obywatelskich; 7) Rzecznika Praw Dziecka; 8) Krajowej Rady Radiofonii i Telewizji; 9) Prezesa Urzędu Komunikacji Elektronicznej. Proponowana struktura Komisji, a także jej umiejscowienie w systemie organów władzy publicznej wskazuje, że postulowana przez Akt o AI bezstronność i niezależność Komisji może nie zostać zapewniona, z uwagi na podległość Prezesowi Radu Ministrów oraz uczestnictwo w Komisji dwóch ministrów. Statut Komisji powinien szczegółowo wskazywać w zakresie dot. jej funkcjonowania, że działa ona w sposób niezależny i Uwaga wyjaśniona. Postulat o charakterze ogólnym nieaktualny z uwagi na zmianę przepisów dotyczących organizacji Komisji oraz powoływania przewodniczącego a także organizacji nadzoru nad Biurem Komisji. 13 samodzielny, a jej podległość Prezesowi Rady Ministrów powinna mieć jedynie wymiar formalny i organizacyjny, z wyłączeniem wpływu na działalność merytoryczną Komisji. Procedury podejmowania decyzji przez Komisji nie powinny faworyzować przedstawicieli struktur rządowych. 15. Uwaga ogólna Pracodawcy RP Z dalszej części uzasadnienia do projektu ustawy (pkt 2 rozdz. 2) wynika, że jako organ nadzoru rynku Komisja będzie rozpatrywała wnioski dotyczące zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów AI wysokiego ryzyka, przyjmowała zgłoszenia dotyczące poważnych incydentów, rozpatrywała skargi składane przez osoby poddane działaniom systemów AI oraz współpracowała z instytucjami publicznymi, w tym organami nadzoru rynku, w postępowaniach związanych z wykorzystaniem takich systemów. Proponowana ustawa nie zawiera przepisów regulujących opisaną obok aktywność Komisji. Jako konieczne w naszej ocenie jest uzupełnienie ustawy o kompleksowy zespół norm w tym zakresie. Uwaga nieuwzględniona Obecny projekt ustawy realizuje wymagania związane ze stosowaniem rozporządzenia 2024/1689 od 2 sierpnia 2025 roku. Dodatkowe zadania Komisji zostaną przypisane na późniejszym etapie. 16. Uwaga ogólna Pracodawcy RP Z uzasadnienia do projektu ustawy (pkt 2 rozdz. 2): Do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję. Ustawa nie precyzuje jednak, w jakich kwestiach będzie wypowiadać się Rada, w szczególności od uznaniowej decyzji Komisji zależy, w jakich sprawach Rada będzie miała możliwość wyrażenia swojej opinii. Proponujemy uzupełnienie projektu ustawy (art. 30 ust. 1) o wyliczenie spraw o najistotniejszym znaczeniu dla rozwoju i bezpieczeństwa systemów AI, w odniesieniu do których Komisja jest zobowiązana do uzyskania opinii Rady. Uwaga nieuwzględniona Z uwagi na opiniodawczo-doradczy charakter Rady zasadny wydaje się pozostawienie szerokiego spektrum spraw w jakich mogą wydać opinię Komisji. 17. Uwaga ogólna PUODO Struktura nadzorcza rynku krajowego w obszarze stosowania aktu w sprawie sztucznej inteligencji powinna służyć interesom publicznym. Dlatego ważne jest uwzględnienie w projektowanym modelu nadzoru rynku celów, ról i uprawnień istniejących organów nadzorczych właściwych dla poszczególnych sektorów oraz horyzontalnych obszarów sprawowanego nadzoru. Uwaga nieuwzględniona Mając na wglądzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego 14 18. Uwaga ogólna PUODO Prawa podstawowe, których gwarancje ochrony wynikają z Karty praw podstawowych Unii Europejskiej (KPP UE) oraz Traktatu o funkcjonowaniu Unii Europejskiej (TFUE), podlegają szczególnemu nadzorowi w zakresie zastosowań sztucznej inteligencji. Jednym z tych praw jest prawo do ochrony danych osobowych, a jego przestrzeganie podlega kontroli niezależnego organu, co wynika nie tylko z art. 8 KPP UE oraz art. 16 TFUE, ale też wprost z art. 51 rozporządzenia 2016/679 oraz przepisów ustawy o ochronie danych osobowych, którym jest w polskim systemie prawa wyłącznie Prezes Urzędu Ochrony Danych Osobowych (dalej jako Prezes UODO). Projekt ustawy, kształtując nadzór nad systemami sztucznej inteligencji w Polsce, powinien uwzględniać szczególną pozycję organu nadzorczego do spraw ochrony danych osobowych, wynikającą zarówno z przepisów rozporządzenia 2024/1689, jak i rozporządzenia 2016/679. Uwaga nieuwzględniona Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestię te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego. W pozostałym zakresie projekt ustawy nie narusza uprawnień i kompetencji organu ochrony danych osobowych 19. Uwaga ogólna PUODO Brak wdrożenia art. 74 ust. 8 rozporządzenia 2024/1689 Projektowana ustawa nie odzwierciedla także kompetencji Prezesa Urzędu Ochrony Danych Osobowych wynikających wprost z aktu w sprawie sztucznej inteligencji, co rodzi obawy o zgodność projektu ustawy z przepisami rozporządzenia. Zgodnie z wyraźną dyspozycją art. 74 ust. 8 rozporządzenia 2024/1689 – w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia – państwa członkowskie jako organy nadzoru rynku do celów przedmiotowego rozporządzenia wyznaczają właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41–44 dyrektywy (UE) 2016/680. Z treści art. 74 ust. 8 rozporządzenia 2024/1689 wynika, że aby organ nadzorczy do spraw ochrony danych osobowych sprawował nadzór w odniesieniu do systemów w przepisie tym określonych wymagana jest decyzja Uwaga nieuwzględniona Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy. 15 ustawodawcy krajowego w tym zakresie. Rozporządzenie co prawda jest aktem obowiązującym bezpośrednio, o czym stanowi art. 288 TFUE, jednak w tym przypadku prawodawca unijny zdecydował, że stosowne działania powinno podjąć się na poziomie krajowym – formalnie wyznaczyć organ, a także ewentualnie uregulować inne kwestie proceduralne, które się z tym mogą wiązać. Ustawodawca krajowy jest zatem de iure związany ww. regulacją – nie może wyznaczyć innego organu niż organ wskazany w art. 74 ust. 8 rozporządzenia 2024/1689 w odniesieniu do wskazanych wyżej systemów AI wysokiego ryzyka. Jeżeli nie chce narazić się na zarzut nieprawidłowego wdrożenia przepisów unijnych, to musi takie działanie podjąć. Tymczasem w zakresie spraw, o których mowa w art. 74 ust. 8, projektodawca nakłada jedynie obowiązek współpracy Komisji z Prezesem UODO (art. 6 ust. 3 pkt 3 projektu), nie określając nawet jasnych i przejrzystych mechanizmów współpracy. W kontekście powyższego oraz wcześniejszych uwag zwrócić uwagę należy również na stanowisko Europejskiej Rady Ochrony Danych, wyrażone w wydanym w lipcu 2024 r. Oświadczeniu EROD 3/2024 w sprawie roli organów ochrony danych w ramach aktu w sprawie sztucznej inteligencji8. Najistotniejsze w tym kontekście jest zalecenie, aby organy ochrony danych zostały wyznaczone jako organy nadzoru rynku w odniesieniu do systemów sztucznej inteligencji wysokiego ryzyka wykorzystywanych do egzekwowania prawa, zarządzania granicami, sprawowania wymiaru sprawiedliwości i procesów demokratycznych, a zatem kwestii, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. EROD wskazała dodatkowo, że państwa członkowskie powinny rozważyć wyznaczenie organów ochrony danych jako organów nadzoru rynku również w odniesieniu do innych systemów sztucznej inteligencji wysokiego ryzyka, z uwzględnieniem opinii krajowego organu ochrony danych, w szczególności w przypadku gdy te systemy sztucznej inteligencji wysokiego ryzyka znajdują się w sektorach, które mogą mieć wpływ na prawa i wolności osób fizycznych w odniesieniu do przetwarzania danych osobowych. Organy ochrony danych, o ile zostały wyznaczone jako organy nadzoru rynku, powinny zostać 16 wyznaczone jako pojedyncze punkty kontaktowe dla społeczeństwa i ich odpowiedników na szczeblu państw członkowskich i UE. Podkreślono, że organy ochrony danych powinny odgrywać istotną rolę w egzekwowaniu aktu w sprawie sztucznej inteligencji, ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych. 20. Uwaga ogólna PUODO Ryzyko dualizmu rozstrzygnięć. Przepisy rozporządzenia 2016/679 dotyczą nadzoru nad sprawami z zakresu przetwarzania danych osobowych regulowanymi przepisami aktu w sprawie sztucznej inteligencji. Ochrona danych osobowych przetwarzanych przez systemy sztucznej inteligencji jest zatem materią, która podlega kompetencjom organu nadzorczego ds. ochrony danych na mocy rozporządzenia 2016/679. Już obecnie organy nadzorcze – w tym Prezes UODO – podejmują działania wobec operatorów systemów sztucznej inteligencji, którzy nie spełniają swoich obowiązków w procesach przetwarzania danych, w tym ochrony danych, jak np. w zakresie realizacji obowiązku informacyjnego wynikającego z art. 13 rozporządzenia 2016/679 w zakresie, w jakim wykorzystywane w uczeniu algorytmów są dane przekazywane przez użytkowników w ramach interakcji z usługami takimi, jak Chat GPT. Dlatego też – niezależnie od ostatecznego kształtu projektowanej ustawy – dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679, a przepisy rozporządzenia 2024/1689 wyraźnie to potwierdzają. W związku z tym, kolejnym istotnym zagadnieniem, do którego należy się odnieść, są te przepisy projektowanej ustawy, które dotyczą nakładania się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z aktu w sprawie sztucznej inteligencji. Żaden z tych aktów nie stanowi lex specialis wobec drugiego. Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji nie można zatem pomijać uprawnień Prezesa UODO i jego wiodącej roli w zakresie Uwaga nieuwzględniona Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu. 17 ochrony danych osobowych. W tym miejscu wskazać należy na wyrok TSUE w sprawie C-252/21 Meta Platforms, który dotyczy współpracy organu ochrony konkurencji z organem ds. ochrony danych w Niemczech. Trybunał wskazał na konieczność zapewnienia poszanowania kompetencji organu nadzorczego ds. ochrony danych w szerokim zakresie ochrony danych osobowych wraz z jego wyłączną kompetencją wykładni przepisów rozporządzenia 2016/679. Stanowisko Trybunału powinno być uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Organ nadzorczy ds. ochrony danych musi być uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych. Implikuje to, jak wyżej wskazano, potrzebę doprecyzowania warunków i form współpracy. 21. Uwaga ogólna Organ nadzoru KRRiT W projekcie organowi temu nadano nazwę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Rozwiązanie oparte na utworzeniu nowej, wyspecjalizowanej w obszarze AI instytucji zostało już przyjęte w formie ustawy w Hiszpanii (Estrategia de Inteligencia Artificial 2024), a prace legislacyjne zmierzające w podobnym kierunku prowadzone są m.in. we Włoszech. W powyższym kontekście podtrzymuję jednak, że w Polsce funkcję organów nadzoru ww. rynku powinny pełnić obecnie istniejące organy, co wskazałem już w piśmie z dnia 18 kwietnia 2024 roku, znak: DS.071.25.1.2024 jako odpowiedź na prekonsultacje prowadzone przez Pański resort. Wynika to głównie z dotychczasowego doświadczenia, wykwalifikowanej kadry oraz merytorycznej znajomości zagadnień rynkowych, jakie posiadają już istniejące podmioty. Nie bez znaczenia jest również sfera ekonomiczna – rozszerzenie kompetencji już istniejących instytucji o nowe zadania wynikające z Aktu w sprawie sztucznej inteligencji ograniczyłoby znacznie wydatki, w przeciwieństwie do powołania i stworzenia nowych struktur. Istotna jest również wiedza merytoryczna, którą posiadają pracownicy już funkcjonujących na rynku podmiotów. Kapitał ludzki w odniesieniu do rozumienia mechanizmów sztucznej inteligencji jest wręcz podstawą udanej transformacji gospodarczej i społecznej. Szczególnie, że zakres tematyczny, który obejmuje unijne rozporządzenie, realizowany jest już przez Uwaga nieuwzględniona Zamiarem projektodawcy jest utworzenie organu, który skoncentrowany będzie na realizacji zadań oraz specjalizację w zakresie technologii sztucznej inteligencji. Powierzenie tej funkcji istniejącym organom rodzi ryzyko nadania tej tematyce niższego niż oczekiwany priorytetu, lub też podporządkowanie zadań związanych z tą funkcją systemową realizowanym dotychczas zadaniom wynikającym z innych przepisów prawa. Kwestia zaangażowania kluczowych instytucji publicznych w spójny nadzór nad działaniem systemów AI ma być zapewniony poprzez kolegialną i różnorodną kompozycję składu. W projekcie zachowano powołanie nowego organu kolegialnego przy zmianie sposobu powołania Przewodniczącego Komisji. 18 te podmioty. Ilustracją tego są choćby kompetencje KRRiT w odniesieniu do szeroko pojętej ochrony małoletnich, czy też kwestie związane z reklamą. Byłby to zatem bardziej ekonomiczny model, niemniej jednak, przyjmując wyniki prekonsultacji, poniżej odnoszę się do modelu wskazanego w obecnym projekcie ustawy. 22. Uwaga ogólna KRRiT Za pozytywne należy w nim uznać: • rozwiązanie zaproponowane w art. 7 ust. 2 pkt 8), zgodnie z którym jednym z członków Komisji będzie przedstawiciel Krajowej Rady Radiofonii i Telewizji. W kontekście bezpieczeństwa usług należy podkreślić potrzebę udziału wszystkich regulatorów rynku cyfrowego, do których kompetencji należy nadzór nad stosowanymi systemami zautomatyzowanego przetwarzania danych przy usługach cyfrowych, w tym przy usługach medialnych; • przyjęcie, że Komisja będzie mogła wszcząć postępowanie z urzędu, na podstawie skargi lub na wniosek organu, o którym mowa w art. 7 ust. 2 i 3 ustawy, tj. również na wniosek KRRiT. W ramach prowadzonego postępowania organ nadzoru będzie mógł prowadzić postępowanie dowodowe, do którego zastosowanie będą miały odpowiednio przepisy o kontroli określone w ustawie. W przypadku wydanej przez Komisję decyzji nie będzie możliwości odwołania w ramach procedury administracyjnej. Wyłączona jest także możliwość uchylenia czy zmiany takiej decyzji przez organ administracyjny wyższego stopnia. Jednak podmiot będący stroną postępowania przed Komisją, będzie miał możliwość zwrócenia się na drogę sądową poprzez złożenie skargi do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów; • zapewnienie, aby w zakresie sprawowania nadzoru nad systemami sztucznej inteligencji i wykonywania swoich zadań, Komisja była organem niezależnym, sprawującym nadzór nad rynkiem w sposób autonomiczny, a wszyscy członkowie Komisji Uwaga nieuwzględniona Wskazane funkcje KRRiT będzie mogła realizować za pośrednictwem przedstawiciela, który będzie członekiem Komisji. 19 byli równi, posiadając prawo uczestnictwa w posiedzeniach Komisji, uzyskiwania informacji, głosowania oraz podejmowania rozstrzygnięć. Ponadto, w celu zapewnienia, aby Komisja nie była przedmiotem nacisków grup interesu, projekt nie przewiduje wśród członków udziału przedstawicieli przedsiębiorców jako podmiotów nadzorowanych. Krajowa Rada Radiofonii i Telewizji jest praktykiem w zakresie nadzoru nad mediami elektronicznymi. Do zadań KRRiT należy, między innymi: ochrona pluralizmu w przekazie informacyjnym i publicystycznym, identyfikacja i monitorowanie treści dostawców, ochrona odbiorców, zwłaszcza małoletnich, przed mową nienawiści, pornografią, nieuzasadnioną przemocą oraz ochrona wszystkich odbiorców w odniesieniu do aspektów związanych z porządkiem publicznym, zdrowiem i bezpieczeństwem konsumentów. W związku z powyższym Krajowa Rada Radiofonii i Telewizji powinna zostać ustanowiona jako organ odpowiedzialny za kontrolę i regulację treści wytwarzanych przez systemy sztucznej inteligencji w zakresie usług audiowizualnych. Należy przy tym rozważyć rozszerzenie ustawowych kompetencji KRRiT o narzędzia pozwalające na ochronę wizerunku osób publicznych oraz zwalczanie takich zjawisk jak Deep Fake w mediach elektronicznych czy też wykorzystywanie systemów sztucznej inteligencji do manipulacji zachowaniem ludzi za pośrednictwem mediów lub platform internetowych. Należy wskazać, że włączenie Krajowej Rady Radiofonii i Telewizji do grupy organów nadzorczych, z którymi współpracuje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (przepis art. 6 ust. 3 projektowanej ustawy) jest nieodzowne do ustanowienia takich ram zarządzania, które umożliwią koordynację i właściwe stosowanie unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Unijne rozporządzenie obejmuje swoim zakresem szereg problemów związanych z możliwością realizacji swobody wypowiedzi, prawa do informacji oraz wolnością formowania i wyrażania opinii. Dostarcza środków do zwalczania 20 dezinformacji, dyskryminacji w sferze informacyjnej i mowy nienawiści w kontekście funkcjonowania systemów sztucznej inteligencji ogólnego przeznaczenia. Zwiększa także ochronę grup szczególnie wrażliwych, w tym osób małoletnich przed treściami szkodliwymi, między innymi, poprzez obowiązki przejrzystości i rozliczalności w zakresie procesu trenowania i testowania modeli sztucznej inteligencji ogólnego przeznaczenia i modeli sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym. Z perspektywy ochrony tych praw i wartości, postuluję rozszerzenie zadań Krajowej Rady Radiofonii i Telewizji, w szczególności w odniesieniu do następujących przepisów Aktu w sprawie sztucznej inteligencji: 1. Rozdział V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo-dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; 2. Rozdział VI Środki wspierające innowacyjność: art. 57 (piaskownice regulacyjne w zakresie AI) w szczególności w zakresie identyfikacji ryzyka dla praw podstawowych (w tym swobody wypowiedzi, prawa do 21 informacji, ochrony przez dyskryminacją, ochrony praw dziecka), oraz wspierania testowania środków ograniczających ryzyko i weryfikacji skuteczności tych środków; 3. Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. 23. Uwaga ogólna KRRiT należy rozważyć, czy prowadzenie postępowania administracyjnego i wydawanie decyzji przez organ składający się łącznie z 12 członków nie będzie prowadzić do paraliżu decyzyjnego Uwaga nieuwzględniona Model kolegialnych organów nadzoru jest funkcjonuje w systemie polskiego prawa nie powodując paraliżu decyzyjnego. 24. Uwaga ogólna Rada Legislacyjna [Brak przesądzenia w Projekcie o związaniu Komisji aktami soft law wydawanymi przez Komisję Europejską] Przy okazji omawiania w tym miejscu niniejszej opinii skutków prawnych aktów podejmowanych przez Komisję (w tym aktów o charakterze interpretacyjnym) warto jest zgłosić postulat de lege ferenda o przesądzeniu w Projekcie, że Komisja jest w ramach wydawanych przez siebie aktów indywidualnych lub generalnych obowiązana uwzględniać akty prawa miękkiego wydawane przez Komisję Europejską na podstawie Rozporządzenia UE 2024/1689, w tym wytyczne wydawane przez Komisję Europejską na podstawie art. 96 Rozporządzenia UE 2024/1689. O takim obowiązku uwzględniania przez polski organ regulacyjny wytycznych i zaleceń Komisji Europejskiej jest chociażby mowa w art. 4 ust. 1 ustawy z dnia 12 lipca 2024 r. Prawo komunikacji elektronicznej18 w odniesieniu do Prezesa Urzędu Komunikacji Elektronicznej. Podobne rozwiązanie prawne występuje na gruncie obowiązującej jeszcze przez najbliższe dni ustawy z dnia 16 lipca 2004 r. Prawo telekomunikacyjne19 (ustawa ta zostanie uchylona z dniem 10 listopada 2024 r. i zostanie zastąpiona powołaną ustawą Prawo komunikacji elektronicznej20), przy czym tego rodzaju rozwiązanie prawne jest w doktrynie oceniane jako udana próba włączenia do polskiego porządku prawnego (poprzez ustawę) aktów unijnego soft law, co zapobiega wątpliwościom odnośnie Uwaga uwzględniona Dokonano zmian w art. 11. 22 skutków tych unijnych aktów prawnych dla polskiej administracji publicznej. Tytuł ustawy 25. Tytuł ustawy BGK Propozycja o funkcjonowaniu nadzoru nad systemami sztucznej inteligencji albo o nadzorze nad rynkiem systemów sztucznej inteligencji Projekt ustawy definiuje sposób sprawowania nadzoru nad systemami sztucznej inteligencji oraz funkcjonowania organów nadzoru. Nie zawiera zapisów dotyczących innych aspektów funkcjonowania systemów AI. Tytuł może być mylący dla odbiorców regulacji Analogicznie jak przy ustawach “o nadzorze nad rynkiem finansowym” czy “o nadzorze nad rynkiem kapitałowym” Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 26. Tytuł projektu UKNF Urząd Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) proponuje rozważenie zmiany tytułu projektu na „ustawę o nadzorze nad rynkiem systemów sztucznej inteligencji”. W ocenie UKNF taka zmiana spowoduje, że tytuł ustawy będzie lepiej odzwierciedlał przedmiot tej regulacji. Co do zasady, projekt ustawy nie definiuje ani nie kategoryzuje rynku systemów sztucznej inteligencji (dalej również jako: „systemy AI”), ani obowiązków jego uczestników. Celem projektowanej ustawy – w jej aktualnym kształcie - jest stworzenie ram prawnych dla sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce. Tym samym nazwa „ustawa o systemach sztucznej inteligencji” jawić się może jako legislacyjnie nieprecyzyjna. Niezależnie od powyższej uwagi zasadnym wydaje się uporządkowanie siatki pojęciowej – przykładowo: art. 1 pkt 1 „nadzoru nad rynkiem systemów sztucznej inteligencji”, tytuł rozdziału 2 „nadzoru nad sztuczną inteligencją”, art. 5 ust. 4 pkt 1 – „nadzoru nad rynkiem” i in. Do rozważenia jest też uproszczenie nazwy organu właściwego – np. „Komisja ds. Sztucznej Inteligencji” z możliwością posługiwania się czytelnym skrótem „KSI”. Odpowiadałaby to także nazwie organu Uwaga wyjaśniona Tytuł projektu odzwierciedla według projektodawcy treść przepisów rozporządzenia 2024/1689, które również łączy podejście oparte na nadzorze ze wspieraniem rozwoju. 23 opiniodawczo-doradczego – tzn. Rady ds. Sztucznej Inteligencji, o której mowa w art. 28 projektu. 27. Odnośnik Rada Legislacyjna [Usterka redakcyjna w odnośniku nr 2 Projektu] Odnośnik nr 2 Projektu wymieniający ustawy nowelizowane przez Projekt zawiera usterkę redakcyjną, polegającą na pominięciu wyrazu: „państwowym” w tytule nowelizowanej ustawy z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem państwowym10 (obecnie wymieniono w odnośniku 2 Projektu: „ustawę z dnia 16 grudnia 2016 r. o zasadach zarządzania mieniem.”). Usterka ta wymaga oczywiście naprawienia. Uwaga uwzględniona poprzez dodanie wspominanego terminu. Rozdział 1 Przepisy ogólne (art. 1 – art. 4) 28. Art. 1 pkt 6 PFR Projekt Ustawy w aktualnym kształcie nie określa rodzajów działań wspierających rozwój systemów sztucznej inteligencji. Jedynie w ramach projektowanego art.11 jako jedno z zadań Komisji wskazano „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji”. Proponujemy w miarę możliwości doprecyzowanie Ustawy w tym zakresie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 29. Art. 1 pkt 6 IAB Polska Ustawa określa rodzaje działań wspierających rozwój systemów sztucznej inteligencji. W Projekcie ten obszar nie został w szczególny sposób podjęty poza art. 11 ust. 1 pkt 3 i art. 12 ust. 2 Projektu. Tym samym rekomendujemy przedstawienie planów Ministerstwa (np. informację o innych aktach prawnych lub nowelizacjach) na zwiększenie istotności Komisji w rozwój AI w Polsce, w tym w zakresie wykorzystania narzędzi przewidzianych w Projekcie. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność. 30. Art. 2 PFR Proponujemy nadać następujące brzmienie: „Ustawę stosuje się do podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689.” Uwaga uwzględniona 31. Art. 2 Konfederacj a Lewiatan Projekt (art. 2 ust. 1) bazuje na zakresie podmiotowym określonym w rozporządzeniu. Jednak w kontekście stosowania przepisów przez krajowy organ może być to problematyczne, ponieważ skutki regulacji (oraz decyzji organu krajowego) mogą mieć wymiar transgraniczny. W związku z tym, wątpliwości Uwaga częściowo uwzględniona Projekt zawiera nowe brzmienie treści art. 2 ust. 1 i art. 4. 24 wywołuje określenie rzeczywistego zakresu kompetencji krajowego organu nadzorczego, w szczególności w stosunku do przedsiębiorców zagranicznych, wobec których organy nadzoru z różnych państw członkowskich równolegle mogą prowadzić kontrole oraz postępowania administracyjne. W tym zakresie wątpliwości budzi m.in. podejmowanie przez polski organ działań (stosowanie określonych środków, itd.), wobec przedsiębiorców mających swoje siedziby w innych państwach członkowskich lub w państwach trzecich, w szczególności w sytuacji, gdy na terytorium Polski działają odrębne spółki utworzone na gruncie prawa polskiego albo oddziały spółek zagranicznych. W sytuacji prowadzenia przez danego przedsiębiorcę działalności wchodzącej w zakresie rozporządzenia (AI Act) globalnie, istotne będzie zatem przesądzenie, wobec którego podmiotu z międzynarodowej grupy kapitałowej krajowy organ nadzoru będzie prowadził swoje działania (czy wobec przedsiębiorcy głównego czy względem jego lokalnej spółki/oddziału, czy może wobec kilku spółek) oraz jak pogodzić kompetencje lokalne z kompetencjami organów z innych państw. Proponowany ust. 2 wydaje się być zbędny, biorąc pod uwagę zakres regulacji na poziomie rozporządzenia, który obejmuje również modele AI ogólnego przeznaczenia. Jeśli jednak za wprowadzeniem tego przepisu stoją określone cele, powinny zostać one wyjaśnione w uzasadnieniu do ustawy. Przedłożony projekt przenosi zawiera odesłania do wybranych zakresów stosowania (zob. art. 2 i 4 projektu), pomijając wiele innych wyłączeń zawartych w art. 2 AI Act. Nie jest przy tym jasne, jaki był klucz doboru polskiego projektodawcy. Uważamy, że należałoby albo zrezygnować z wybiórczej transpozycji przepisów art. 2 AIA, albo uczynić to w sposób wyczerpujący, a zatem uwzględniający całą treść przywołanego przepisu. Dodatkowo, w art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi o obywateli - czy do nich też stosuje się tę ustawę? Czy celem 25 ustawy nie jest objęcie nadzorem tych, którzy stosują AI a nie tych którzy są \"obiektem\" stosowana AI? 32. Art. 2 Pracodawcy RP Różne organy nadzorcze z państw członkowskich mogą jednocześnie stosować regulacje wobec tego samego przedsiębiorstwa. Artykuł 2 ustawy, dotyczący zakresu podmiotowego, może prowadzić do niejasności w interpretacji kompetencji Komisji w odniesieniu do podmiotów zagranicznych. Należy dokładnie określić, wobec których jednostek międzynarodowych grup kapitałowych Komisji będzie podejmować działania. Aby uniknąć problemów interpretacyjnych, proponujemy precyzyjne zdefiniowanie zakresu stosowania przepisów, szczególnie wobec zagranicznych przedsiębiorstw posiadających oddziały lub spółki zależne w Polsce. W ten sposób międzynarodowe firmy zyskają klarowność regulacyjną i stabilne warunki inwestycyjne w Polsce. Uwaga nieuwzględniona Zapewnienie spójności stosowania rozporządzenia zapewnić mają upoważnione lub powołane na podstawie jego przepisów organy unijne (Komisja Europejska) i reprezentujące państwa członkowskie (Europejska Rada ds. AI). 33. Art. 2 ust. 1 KRRiT w art. 2 ust. 1 po wyrazach „stosuje się” należy dodać wyraz „do” Uwaga uwzględniona 34. Art. 2 ust. 1 IAB Polska Ustawę stosuje się podmiotów i osób, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 Projekt ustawy opiera się na zakresie podmiotowym określonym w AI Act (art. 2 Projektu). Może to jednak rodzić problemy w kontekście stosowania przepisów przez polski organ nadzorczy, ponieważ skutki regulacji oraz decyzji krajowego organu mogą mieć wpływ transgraniczny. W związku z tym pojawiają się wątpliwości co do rzeczywistego zakresu kompetencji polskiego organu nadzorczego, zwłaszcza wobec zagranicznych przedsiębiorców, którzy mogą być jednocześnie kontrolowani przez organy nadzoru z różnych państw członkowskich UE. Kwestią sporną jest możliwość podejmowania przez polski organ działań wobec przedsiębiorstw z siedzibą w innych krajach członkowskich lub państwach trzecich, szczególnie gdy na terytorium Polski działają lokalne spółki zależne lub oddziały tych przedsiębiorstw. W przypadku, gdy dany przedsiębiorca prowadzi działalność związaną z AI Act na poziomie globalnym, Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 2 ust. 1. Należy zaznaczyć, że kategoria “osób znajdujących się w Unii” ma szersze znaczenie niż “obywateli państw UE”, co znajduje odzwierciedlenie w przepisach projektu. Należy również wskazać, że ustawa umożliwia m.in. złożenie skargi na działanie systemu AI, a więc w zakresie podmiotowym oddziałuje także na podmioty nie będące dostawcami, dystrybutorami, importerami czy podmiotami stosującymi systemy i modele AI. 26 kluczowym wyzwaniem będzie określenie, w stosunku do którego podmiotu międzynarodowej grupy kapitałowej polski organ powinien podjąć działania. W art. 2 ust. 1 w pkt g) Rozporządzenia wskazano, że Rozporządzenie stosuje się do: \"g) osób, na które AI ma wpływ i które znajdują się w Unii.\" Jak rozumiemy, chodzi w tym przypadku o obywateli. W związku z tym należy ocenić (i ewentualnie odpowiednio zmodyfikować wskazany przepis projektu), czy także i do nich ustawa ma być stosowana czy jednak celem ustawy nie jest objęcie nadzorem tych, którzy stosują AI, a nie tych, którzy są \"obiektami\" stosowana AI. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 35. Art. 2 ust. 2 IAB Polska O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. Być może doszło w tym przepisie do omyłki pisarskiej w zakresie aktu prawnego, który ma stanowić inaczej. Jeśli nie – rekomendujemy, aby to ustawa wskazywała w tym lub innych miejscach, kiedy model AI ogólnego przeznaczenia nie jest objęty przepisami ustawy. Zaprezentowany model odesłania może rodzić trudności w interpretacji i praktycznym zastosowaniu nie tylko przez podmioty profesjonalne, aby odpowiednio określić ich sytuację prawną, ale i przez obywateli weryfikujących możliwość złożenia skargi, która będzie musiała Uwaga uwzględniona Dodano w art. 3 definicję “modelu sztucznej inteligencji ogólnego przeznaczenia”. 27 określić i uzasadnić, czy faktycznie przepisy AI Act zostały naruszone. 36. Art. 2 ust. 2 Rada Legislacyjna [Brak odesłania w art. 2 ust. 2 Projektu do definicji legalnej w art. 3 pkt 63 Rozporządzenia UE 2024/1689] W przepisie art. 2 ust. 2 Projektu brak jest potrzebnego tam odesłania do przepisu art. 3 pkt 63 Rozporządzenia 2024/1689 zawierającego legalną definicję pojęcia „model AI ogólnego przeznaczenia”. Art. 2 ust. 2 Projektu stanowi, że „O ile przepisy rozporządzenia 2024/1689 nie stanowią inaczej, przepisy ustawy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia.”. Pojęcie „modelu sztucznej inteligencji ogólnego przeznaczenia” nie jest legalnie zdefiniowane w Projekcie (zob. art. 3 Projektu zawierający słowniczek wyrażeń ustawowych), natomiast ma ono swoją legalną definicję w art. 3 pkt 63 Rozporządzenia UE 2024/1689. W odniesieniu do wielu innych pojęć występujących w Projekcie i mających swoje legalne definicje w Rozporządzeniu UE 2024/1689, w przepisach Projektu ma miejsce prawidłowy zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie (zob. art. 3 pkt 1-17 Projektu). De lege ferenda identyczny zabieg należy zastosować w art. 2 ust. 2 Projektu, tak aby zachować w Projekcie spójność i konsekwencję w stosowaniu tej legislacyjnej praktyki i aby nie pozostawiać kluczowego pojęcia Projektu bez legalnej definicji, a konkretnie bez definicji przez odesłanie. Uwaga uwzględniona. W art. 3 pkt 17 projektu dodano definicję modelu sztucznej inteligencji ogólnego przeznaczenia przez odesłanie do art. 3 pkt 63 rozporządzenia 2024/1689. 37. Art. 3 PUODO Zwrócić uwagę należy także na art. 3 projektu ustawy, w której znajduje się słownik definicji legalnych. W ocenie Prezesa UODO jest on zbędny i sprzeczny z zasadami techniki prawodawczej. Ustawa nie nadaje nowego brzmienia tym definicjom, natomiast wprost odsyła do treści aktu w sprawie sztucznej inteligencji, które do przepisy i tak będą stosowane bezpośrednio – powtarzanie ich w treści ustawy może wręcz rodzić wątpliwości pod kątem zakazu powtarzania przepisów Uwaga wyjaśniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 28 rozporządzeń UE w prawie krajowym, jeżeli samo rozporządzenie tego nie przewiduje. 38. Art. 3 PFR Skoro w art. 2 Ustawy przywołano pojęcie „modeli sztucznej inteligencji ogólnego przeznaczenia”, wydaje się, że to pojęcie również powinno być wskazane w projektowanym art. 3 Ustawy. Prosimy o rozważenia usunięcia definicji pojęcia \"wprowadzenie do obrotu\", które to pojęcie nie pojawia się w dalszej części projektu Ustawy. Uwaga uwzględniona Zmiany w zakresie wprowadzenia nowego terminu - „modeli sztucznej inteligencji ogólnego przeznaczenia”. 39. Art. 3 IZB Polska Lektura artykułu nie jest łatwa ze względu na liczne odwołania do AI Act, które i tak wymagają zapoznania się z treścią definicji legalnych zawartych w AI Act. Przepis ten można uprościć np. bezpośrednio odwołując się do słowniczka AI Act, zamiast pojedynczego wskazywania pojęć w art. 3 Projektu. Dzięki temu treść ustawy będzie przystępniejsza. (dot. art. 3 pkt 15, tj. definicji piaskownic regulacyjnych) Zgodnie z uzasadnieniem projektu ustawy: \"Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych)\". Faktycznie, Projekt do piaskownic się nie odnosi. Czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane? Ministerstwo wskazało także, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 40. Art. 3 Konfederacj a Lewiatan Powinniśmy się jednorazowo odnieść do definicji - w jednym zdaniu, które wskazywałoby, że użyte w ustawie pojęcia mają to samo znaczenie, co w rozporządzeniu. W obecnej formie przepis nie wnosi wartości dodanej, a jedynie wydłuża ustawę. Zwiększy to czytelność i zrozumiałość tekstu ustawy. Uwaga nieuwzględniona W projekcie został zastosowany (uzasadniony z punktu widzenia techniki legislacyjnej) zabieg legislacyjny polegający na odesłaniu przez Projekt do odnośnego przepisu Rozporządzenia UE 2024/1689 definiującego dane pojęcie. 29 41. Art. 3 pkt 8 UKNF Projekt nie wskazuje krajowego organu notyfikującego, o którym mowa w art. 3 pkt 19 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), dalej: „rozporządzenie 2024/1689”. Z uzasadnienia projektu ustawy wynika, że organem notyfikującym w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689 będzie Minister właściwy do spraw informatyzacji. W ocenie UKNF projekt ustawy w rozdziale 6 powinien w sposób jednoznaczny przesądzić tę kwestię. Ponadto przyjętą w art. 3 pkt 8) definicją „organu notyfikującego” nie posłużono się ani razu w treści projektu. Uwaga uwzględniona Nadano nowe brzmienie art. 64 projektu wskazującego organ notyfikujący. 42. Art. 3 pkt 15 Konfederacj a Lewiatan Zgodnie z uzasadnieniem projektu ustawt: „Ministerstwo Cyfryzacji planuje prowadzenie dalszych działań legislacyjnych, realizowanych we współpracy z innymi organami właściwymi ze względu na przepisy rozporządzenia 2024/1689, które będą wchodzić w życie w terminie od 2026 do 2027 r. (m.in. odnoszące się do systemów AI wysokiego ryzyka oraz ustanowienia piaskownic regulacyjnych).\" Faktycznie, projekt ustaw do piaskownic się nie odnosi - czy to oznacza, że piaskownic do tego czasu nie będzie? A jeżeli będą, to jak będą regulowane, bowiem niżej wskazano, że podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych\" jest jednym z zadań Komisji. Uwaga uwzględniona W projekcie dodano rozdział 8 - Środki wspierające innowacyjność - regulujący zagadnienie piaskownic regulacyjnych. 43. Art. 4 BGK Dodanie pkt 4: 4) innych spraw, do których nie stosuje się rozporządzenia 2024/1689. W porównaniu do art. 2 rozporządzenia 2024/1689, art. 4 ustawy o systemach sztucznej inteligencji nie zawiera kilku istotnych wyłączeń i uregulowań. Brakuje w nim następujących elementów: Uwaga uwzględniona Uzupełniono projekt o wspomniane obszary wyłączenia poprzez zawarcie nowego brzmienia art. 2 i 4 (rozróżniającego wyłączenia podmiotowe i przedmiotowe). 30 1) Wyłączenia dotyczącego osób fizycznych używających systemów AI w kontekście czysto osobistym, poza działalnością zawodową (art. 2 ust. 10 rozporządzenia 2024/1689). 2) Wyłączenia dla systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania (art. 2 ust. 12 rozporządzenia 2024/1689). 3) Wyłączenia dotyczącego organów publicznych w państwach trzecich oraz organizacji międzynarodowych korzystających z systemów AI w ramach współpracy międzynarodowej lub umów międzynarodowych (art. 2 ust. 4 rozporządzenia UE). 4) Wyłączenia dla działalności badawczej, testowej i rozwojowej związanej z systemami AI lub modelami AI przed ich wprowadzeniem do obrotu lub oddaniem do użytku (art. 2 ust. 8 i 6 rozporządzenia UE). Ustawa o SSI wyłącza jedynie zdefiniowane badania naukowe oraz eksperymenty w rozumieniu Kodeksu karnego, nie obejmując szerszego zakresu działalności badawczo-rozwojowej. Dodanie punktu 4) do artykułu 4 ustawy ma na celu wskazanie, że ustawy o SSI nie stosuje się do spraw, które nie podlegają pod rozporządzenie 2024/1689. 44. Art. 4 IAB Polska Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: “3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.)), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z uwag innych podmiotów. 45. Art. 4 Konfederacj a Lewiatan W art. 4 pkt 3) proponujemy, by brzmienie punktu było następujące: „3) badań naukowych”, w miejsce obecnie proponowanego “3) podstawowych badań naukowych, o których mowa w art. 4 ust. Uwaga uwzględniona 31 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm. )), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228). Uzasadnienie: Prosimy o doprecyzowanie czy należy przez ten przepis rozumieć, że nie będzie żadnego organu nadzoru nad wykorzystywaniem AI w obszarach wskazanych w art. 4 projektu ustawy? Ponadto, zwracamy uwagę na błędnie napisane wyłączenie zawarte w obecnym projekcie w art. 4 pkt 3. Wyłączenie to może mieć podstawowe znaczenie dla przemysłu kreatywnego: skoro „czysto naukowe” systemy AI pozostaną poza zakresem stosowania AIA, tym samym pozostaną one poza całym szeregiem obowiązków wynikających z Rozporządzenia (zwłaszcza obowiązku przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI). Proponowany przepis stanowi, iż ustawy „nie stosuje się do: (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (...), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (...)”. Ten przepis ma być odpowiednikiem art. 2 ustęp 6 AIA („niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”). Poczynione odesłanie do zawartej w Prawie o szkolnictwie wyższym definicji „podstawowych badań naukowych” jest błędne, ponieważ jako takie rozumie się „prace empiryczne lub teoretyczne mające przede wszystkim na celu zdobywanie nowej wiedzy o podstawach zjawisk i obserwowalnych faktów bez nastawienia na bezpośrednie zastosowanie komercyjne”. Brak „nastawienia na bezpośrednie zastosowanie komercyjne” W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi z tejże uwagi, jak również uwag innych podmiotów. 32 wprost koliduje z tą częścią art. 2 ust. 6 AIA, która wyraźnie wskazuje na badania naukowe „i rozwojowe”. Sytuację dodatkowo komplikuje poczynione w tym samym przepisie odesłanie do art. 27 kodeksu karnego, który ustanawia karnoprawny kontratyp działania w ramach eksperymentu („(...) poznawczego, medycznego, technicznego lub ekonomicznego” – art. 27 ust. 1 kodeksu karnego). Pomijając już odesłanie do specyficznej materii karnej, nie wiadomo, jak w praktyce ustalić wzajemny stosunek jednoczesnej referencji zarówno do Prawa o szkolnictwie wyższym, jak i do kodeksu karnego. Na marginesie, bardzo ważne jest wyeksponowanie wyłączeniu, iż ogranicza się ono do tych systemów lub modeli AI, które powstały w wyłącznym celu badań naukowych i rozwojowych. Obawiamy się, iż właśnie to wyłączenie może być w przyszłości przedmiotem nadużyć, kiedy to zaprogramowane dla celów naukowych - a zatem poza zakresem AIA - algorytmy sztucznej inteligencji będą następnie wykorzystywane w celach komercyjnych. Uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. 46. Art. 4 ust. 3 PFR Proponujemy nadać następujące brzmienie: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2023 r. poz. 742, z późn. zm. 1) ), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).” Uwaga uwzględniona Poprawiono tytuł przywołanej ustawy zgodnie z treścią uwagi. 47. Art. 4 ust. 3 PUODO Podobnie art. 4 pkt 3 projektu ustawy należałoby doprecyzować w zakresie wprowadzonego w nim wyłączenia stosowania ustawy zgodnie z art. 2 pkt 6 aktu w sprawie sztucznej inteligencji, w którym użyto sformułowania „wyłącznie” do celów badań naukowych. Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 33 48. Art. 4 pkt 3 Rada Legislacyjna [Nieprawidłowe wyłączenie w art. 4 pkt 3 Projektu] Art. 4 pkt 3 Projektu, wyłączający pewne materie z zakresu zastosowania Projektu, jest zarówno niespójny z innymi przepisami prawa polskiego, jak też jest niezgodny z Rozporządzeniem UE 2024/1689. Art. 4 pkt 3 Projektu stanowi co następuje: „Ustawy nie stosuje się do [...] podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. W pierwszym rzędzie powołany przepis art. 4 pkt 3 Projektu jest niespójny treściowo z przepisem art. 4 ust. 2 powołanej w nim ustawy Prawo o szkolnictwie wyższym i nauce (nawiasem mówiąc, przepis art. 4 pkt 3 Projektu przytacza tytuł tej ostatniej ustawy w niepełnym brzmieniu). Art. 4 pkt 3 Projektu posługuje się sformułowaniem: „podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym”, podczas gdy w tym ostatnim przepisie (tzn. w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce) bynajmniej nie ma mowy o badaniach naukowych podstawowych, lecz znajduje się tam legalna definicja badań naukowych aplikacyjnych. Natomiast legalna definicja pojęcia „badań naukowych podstawowych” znajduje się nie w art. 4 ust. 2 pkt 2 ustawy Prawo o szkolnictwie wyższym i nauce, ale w art. 4 ust. 2 pkt 1 tej ostatniej ustawy. Co może istotniejsze, całe to wyłączenie zamieszczone w art. 4 pkt 3 Projektu jest ewidentnie niezgodne z przepisami art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. Przepisy art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 rzeczywiście wyłączają stosowanie Rozporządzenia UE 2024/1689 do pewnych stanów faktycznych związanych z działalnością badawczą (i inną), z tym wszakże zastrzeżeniem, iż zakres wyłączeń zawartych w art. 2 ust. 6 i Rozporządzenia UE 2024/1689 jest w pewnych kwestiach szerszy niż wyłączenie przewidziane w art. 4 pkt 3 Projektu (i w tym zakresie Projekt zawiera nadmiarowe i prawdopodobnie zbędne regulacje), zaś w pewnych kwestiach Uwaga częściowo uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 34 wyłączenia z art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są zdecydowanie węższe zakresowo niż wyłączenie przewidziane w art. 4 pkt 3 Projektu, co stanowi przejaw niedopuszczalnej niezgodności krajowej regulacji prawnej z prawem UE. I tak, o ile przepis art. 4 pkt 3 Projektu zawiera generalne (frontalne) wyłączenie stosowania Projektu do podstawowych badań naukowych oraz dla celów naukowych w związku z eksperymentem określonym w Kodeksie karnym, o tyle wyłączenia przewidziane w przepisach art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689 są znacznie bardziej zniuansowane. Art. 2 ust. 6 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Przepis ten normuje wyłączenie dotyczące takich systemów sztucznej inteligencji lub modeli sztucznej inteligencji, które już są efektywnie rozwinięte i zostały faktycznie oddane do użytku: w tym zakresie wyłączenie dotyczy systemów i modeli AI służących wyłącznie badaniom naukowym lub też służących wyłącznie badaniom rozwojowym (w Polsce pojęcie „prac rozwojowych” jest zdefiniowane w art. 4 ust. 3 ustawy Prawo o szkolnictwie wyższym i nauce, zaś przepis art. 4 pkt 3 Projektu pojęciem tym w ogóle się nie posługuje). Z powyższego wynika, że w porównaniu z przepisem art. 2 ust. 6 Rozporządzenia 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (w zakresie, w jakim art. 4 pkt 3 Projektu wyłącza z zakresu zastosowania Projektu całą działalność dotyczącą badań podstawowych, w tym działalność na etapie prac nad systemem lub modelem AI przed ich oddaniem do użytku, podczas gdy wyłączenie z art. 2 ust. 6 Rozporządzenia UE 2024/1689 dotyczy tylko tych systemów i modeli AI, które już zostały rozwinięte i oddane do użytku, a nie dotyczy działalności w zakresie systemów AI i modeli AI, nad którymi prace jeszcze trwają), albo też za wąskie (w zakresie, w jakim art. 4 pkt 3 Projektu nie wyłącza z zakresu zastosowania Projektu działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych, które są z kolei objęte derogacją z art. 2 ust. 6 Rozporządzenia UE 2024/1689). Natomiast art. 2 ust. 8 35 Rozporządzenia UE 2024/1689 stanowi, że „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. Również porównanie tego ostatniego przepisu z przepisem art. 4 pkt 3 Projektu prowadzi do konkluzji, że w świetle przepisu art. 2 ust. 8 Rozporządzenia UE 2024/1689 wyłączenie przewidziane w art. 4 pkt 3 Projektu jest albo za szerokie (bo wyłączenie z art. 4 pkt 3 Projektu dotyczy całej działalności w zakresie badań naukowych podstawowych lub dla celów naukowych w związku z eksperymentem w rozumieniu Kodeksu karnego, podczas gdy wyłączenie z art. 2 ust. 8 Rozporządzenia UE 2024/1689 dotyczy tylko tej działalności dotyczącej systemów AI lub modeli AI, która ma miejsce przed ich wprowadzeniem do obrotu lub oddaniem do użytku), albo też za wąskie (w zakresie, w jakim wyłączenie z art. 4 pkt 3 Projektu nie dotyczy w ogóle działalności w zakresie badań naukowych aplikacyjnych oraz prac rozwojowych i testowych). W tym kontekście trzeba przypomnieć, że zgodnie z orzecznictwem TSUE oraz istotą prawną rozporządzeń unijnych jako aktów mających jednolite zastosowanie we wszystkich państwach członkowskich (zob. art. 288 Traktatu o funkcjonowaniu Unii Europejskiej), prawodawca krajowy nie może zawężać (ograniczać) zakresu zastosowania rozporządzenia unijnego w porównaniu z zakresem określonym w samym tym rozporządzeniu.11 W związku z powyższym – kierując się dążeniem do tego, aby nie ograniczać na szczeblu krajowym zakresu zastosowania Rozporządzenia UE 2024/1689, a jednocześnie chcąc uniknąć nadmiarowych (zbędnych) regulacji w prawie polskim – Rada Legislacyjna zdecydowanie rekomenduje treściowe dostosowanie wyłączenia przewidzianego w art. 4 pkt 3 Projektu do kształtu i zakresu wyłączenia przewidzianego w tym względzie w art. 2 ust. 6 i 8 Rozporządzenia UE 2024/1689. 36 49. Art. 4 ust. 3 URPLWM iPB Zgodnie z art. 4 pkt 3 projektowanej ustawy „Ustawy nie stosuje się do (...) podstawowych badań naukowych, o których mowa w art. 4 ust. 2 pkt. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm.), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Jak wynika z uzasadnienia projektowanej ustawy „Z zakresu stosowania rozporządzenia 2024/1689 i ustawy zostały wyłączone sprawy związane z obroną narodową, określone w projekcie poprzez odwołanie do art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2024 r. poz. 1370). Dodatkowo, zgodnie z treścią rozporządzenia 2024/1689, z zakresu przedmiotowych przepisów projektu wyłączone mają być również sprawy będące w zakresie bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 5 ust. 1 pkt 1 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812 i 1222), podstawowe badania naukowe, o których mowa w art. 4. ust. 2. pkt. 2 ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym (Dz. U. z 2023 r. poz. 742, z późn. zm,), jak również dla celów naukowych w związku z eksperymentem, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2024 r. poz. 17 i 1228).”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie z motywem 25 preambuły do rozporządzenia 2024/1689: Uwaga uwzględniona W projekcie zawarto nowe brzmienie art. 4 pkt 3 z modyfikacjami wynikającymi ze zbiorczej analizy uwag w tym obszarze przedstawionych przez różne podmioty. 37 „Niniejsze rozporządzenie powinno wspierać innowacje, szanować wolność nauki i nie powinno osłabiać działalności badawczo-rozwojowej. Należy zatem wyłączyć z jego zakresu stosowania systemy i modele AI rozwinięte i oddane do użytku wyłącznie do celów badań naukowych i rozwojowych. Ponadto należy zapewnić, aby niniejsze rozporządzenie nie wpływało w żaden inny sposób na działalność badawczo-rozwojową dotyczącą systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku. Przepisów niniejszego rozporządzenia nie powinno się również stosować do zorientowanej na produkty działalności badawczej, testowej i rozwojowej dotyczącej systemów lub modeli AI przed oddaniem tych systemów i modeli do użytku lub wprowadzaniem ich do obrotu. Wyłączenie to pozostaje to bez uszczerbku dla obowiązku zapewnienia zgodności z niniejszym rozporządzeniem, gdy system AI objęty zakresem stosowania niniejszego rozporządzenia jest wprowadzany do obrotu lub oddawany do użytku w wyniku takiej działalności badawczo- rozwojowej, oraz dla stosowania przepisów dotyczących piaskownic regulacyjnych w zakresie AI i testów w warunkach rzeczywistych. Ponadto bez uszczerbku dla wyłączenia systemów AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych, wszelkie inne systemy AI, które mogą być wykorzystywane do prowadzenia wszelkiej działalności badawczo-rozwojowej, powinny podlegać przepisom niniejszego rozporządzenia. W każdym przypadku wszelka działalność badawczo-rozwojowa powinna być prowadzona zgodnie z uznanymi normami etycznymi i zawodowymi dotyczącymi badań naukowych oraz zgodnie z mającym zastosowanie prawem Unii.”. Przechodząc do wątpliwości w zakresie proponowanego przepisu art. 4 pkt 3 projektu ustawy, należy stwierdzić, co następuje. Po pierwsze, wątpliwości budzi prawidłowość sformułowania brzmienia przepisu poprzez odesłanie w nim do eksperymentu, o którym mowa w art. 27 ustawy z dnia 6 czerwca 1997 r. - Kodeks karny, zwanej dalej „Kodeksem karnym”. Zgodnie bowiem z ww. przepisem Kodeksu Karnego: „§ 1. Nie popełnia przestępstwa, kto działa w celu przeprowadzenia eksperymentu poznawczego, medycznego, 38 technicznego lub ekonomicznego, jeżeli spodziewana korzyść ma istotne znaczenie poznawcze, medyczne lub gospodarcze, a oczekiwanie jej osiągnięcia, celowość oraz sposób przeprowadzenia eksperymentu są zasadne w świetle aktualnego stanu wiedzy. § 2. Eksperyment jest niedopuszczalny bez zgody uczestnika, na którym jest przeprowadzany, należycie poinformowanego o spodziewanych korzyściach i grożących mu ujemnych skutkach oraz prawdopodobieństwie ich powstania, jak również o możliwości odstąpienia od udziału w eksperymencie na każdym jego etapie. § 3. Zasady i warunki dopuszczalności eksperymentu medycznego określa ustawa.”. Przepis art. 27 Kodeksu karnego określa podstawy wyłączenia bezprawności czynu polegającego na prowadzeniu eksperymentu (§ 1) i warunek wyłączający dopuszczalność eksperymentu (§ 2) oraz odsyła do ustawy szczególnej określającej zasady i warunki dopuszczalności eksperymentu medycznego (§ 3). Na wstępie należy zauważyć, że już określenie zakresu zastosowania projektowanej ustawy poprzez odesłanie do regulacji zawartej w Kodeksie karnym – określającej zarówno kontratyp wyłączający odpowiedzialność karną w przypadku eksperymentu (czyli warunki określające kiedy eksperyment jest dopuszczalny), ale także z drugiej strony także okoliczności wskazujące na uznanie eksperymentu za niedopuszczalny, powoduje brak możliwości ustalenia, do którego z przepisów art. 27 Kodeksu karnego projektodawca chciał rzeczywiście odesłać w art. 4 pkt 3 projektu ustawy (w szczególności – czy chciał odesłać także do eksperymentu niedopuszczalnego w świetle art. 27 § 2 Kodeksu karnego). Kwestia ta wymaga ponownej analizy i ewentualnej korekty albo – co najmniej – wyjaśnienia w treści uzasadnienia dołączonego do projektu ustawy. Po drugie, wątpliwości w użytym przepisie budzi posłużenie się sformułowaniem „dla celów naukowych”, skoro zarówno przepis art. 2 ust. 6 rozporządzenia 2024/1689, jak i motyw 25 preambuły do ww. rozporządzenia stanowią o modelach i systemach używanych w celach badań naukowych i rozwojowych, jak i o używaniu tych modeli lub systemów w 39 działalności badawczej, testowej i rozwojowej. Użyte zatem określenie „w celach naukowych” wydaje się zbyt wąskie. Po trzecie natomiast należy zauważyć, że przepis art. 4 pkt 3 projektu ustawy w proponowanym brzmieniu nie odnosi się do kwestii szczegółowo opisanej w motywie 25 preambuły do rozporządzenia 2024/1689, tj. do opisanego w nim rozróżnienia dwóch sytuacji – pierwszej, kiedy modele lub systemy AI są oddane do użytku wyłącznie do celów badań naukowych lub rozwojowych (i wówczas ww. akty prawne dot. AI nie powinny dotyczyć systemów lub modeli AI przed wprowadzeniem tych systemów lub modeli do obrotu lub oddaniem ich do użytku) i drugiej, kiedy systemy lub modele – mimo że używane w badaniu naukowym lub rozwojowym – były już wcześniej oddane do użytku, czy wprowadzone do obrotu (i wówczas powinny już zostać objęte regulacją rozporządzenia 2024/1689 i projektowanej ustawy). Mając powyższe na uwadze, kwestionowany przepis wymaga odpowiedniej modyfikacji. Dodatkowo należy zauważyć, że ustawą, o której mowa w art. 27 § 3 Kodeksu Karnego, jest co do zasady ustawa z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty, która w rozdziale 4 reguluje kwestie dotyczące eksperymentu medycznego. Zgodnie z art. 29a ust. 1 ustawy z dnia 5 grudnia 1996 r. o zawodach lekarza i lekarza dentysty przepisy rozdziału 4 ustawy nie naruszają przepisów innych ustaw określających odmienne zasady i tryb przeprowadzania badań klinicznych lub badań genetycznych. Zgodnie natomiast z art. 29b tej ustawy „Do eksperymentu medycznego będącego jednocześnie badaniem klinicznym w rozumieniu art. 2 ust. 2 pkt 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 536/2014 z dnia 16 kwietnia 2014 r. w sprawie badań klinicznych produktów leczniczych stosowanych u ludzi oraz uchylenia dyrektywy 2001/20/WE (Dz. Urz. UE L 158 z 27.05.2014, str. 1, z późn. zm.) stosuje się przepisy ustawy z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz.U. poz. 605).”. Należy zatem zauważyć, że w przypadku eksperymentu medycznego będącego jednocześnie badaniem klinicznym produktu leczniczego stosowanego u ludzi ustawą szczególną, 40 o której mowa w art. 27 § 3 Kodeksu karnego, jest ustawa z dnia 9 marca 2023 r. o badaniach klinicznych produktów leczniczych stosowanych u ludzi (Dz. U. poz. 605). Na podstawie obecnie zaproponowanego brzmienia art. 4 pkt 3 projektu ustawy oraz innych, powyżej przytoczonych przepisów, należałoby uznać – zgodnie z art. 4 pkt 3 projektowanej ustawy – że jej przepisy nie znajdą zastosowania także dla celów naukowych w związku z eksperymentem będącym jednocześnie badaniem klinicznym. Tymczasem takie rozumowanie – bez uwzględnienia rozróżnienia przedmiotowego i celowościowego opisanego w motywie 25 preambuły do rozporządzenia 2024/1689 – wydaje się niewłaściwe i niezgodne z regulacją unijną w zakresie AI, w szczególności w odniesieniu do modeli lub systemów AI już oddanych do użytku lub wprowadzonych do obrotu przed przystąpieniem do realizacji celów naukowych. Mając na uwadze przytoczone powyżej wątpliwości, w tym także brak jakichkolwiek wyjaśnień w tym zakresie w uzasadnieniu dołączonym do projektowanej ustawy, postuluję zmianę brzmienia art. 4 pkt 3 projektu ustawy w celu zapewnienia jego pełnej zgodności z rozporządzeniem 2024/1689 i uzupełnienie uzasadnienia projektowanej ustawy w ww. zakresie. Powyższa kwestia jest kluczowa dla możliwości ustalenia rzeczywistego i zgodnego z przepisami unijnymi zakresu przedmiotowego przepisów w dziedzinie AI ujętych w omawianym projekcie. Dodatkowo należy zauważyć, że ww. kwestia wymaga także jednoznacznego rozstrzygnięcia w odniesieniu do: a) badań klinicznych weterynaryjnych prowadzonych zgodnie z przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2019/6 z dnia 11 grudnia 2018 r. w sprawie weterynaryjnych produktów leczniczych i uchylającego dyrektywę 2001/82/WE i ustawy z dnia 6 września 2001 r. – Prawo farmaceutyczne, b) badań klinicznych wyrobów medycznych w rozumieniu art. 2 pkt 45 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, 41 zwanego dalej „rozporządzeniem 2017/745”, i badania działania w rozumieniu art. 2 pkt 42 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, oraz c) badań klinicznych z użyciem oprogramowania - wyrobu medycznego, które poprzez dostarczenie do użytkownika lub wcześniejszej sprzedaży, zostało wprowadzone do obrotu lub do używania i z tego powodu podlega przepisom rozporządzenia 2017/745. Rozdział 2 Organizacja nadzoru nad sztuczną inteligencją (art. 5 – art. 40) 50. Art. 5 KRRiT w art. 5 błędnie wskazano numerację ustępów; Uwaga uwzględniona Numeracja została dostosowana zgodnie z uwagą. 51. Art. 5 NCBR Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Biuro Komisji) – tryb powoływania, skład oraz kompetencje Biura Komisji powinny zapewnić wystarczający poziom nadzoru nad SSI, skuteczność tej instytucji mogłoby zwiększyć większy udział ekspertów i większa elastyczność organizacyjna. Biuro powinno korzystać z większej liczby niezależnych ekspertów w zakresie SI (z głosem doradczym), aby zapewnić pełne pokrycie dynamicznie zmieniających się technologii i wyzwań. Należy też wprowadzić mechanizmy umożliwiające podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. Uwaga częściowo uwzględniona Podniesione uwagi zostały przez projektodawce uwzględnione w zakresie, który dotyczy elastyczności kształtowania kadry pracowniczej Komisji (leżącej w gestii Przewodniczącego i wybranych na podstawie naboru zastępców Przewodniczącego) 52. Art. 5 Konfederacj a Lewiatan Art. 5 powinien zaczynać się treścią art. 83 i art. 84. ust.1 Uzasadnienie: Przepisy art. 5 zdają się być kalką ustawy o nadzorze nad rynkiem finansowym, w której w przepisach końcowych znalazły się postanowienia o przejęciu przez KNF zadań dotyczhczasowych podmiotów, w tych przepisach znoszonych/likwidowanych. W przypadku KRiBSI i Biura KRiBSI nie zastępuja one żadnych organów a są tworzone od 0. dlatego obecnie przepisy art. 5 w Rozdziale 2 są całkowicie Uwaga nieuwzględniona Zdaniem projektodawcy przepisy te powinny pozostać w rozdziale 11 obejmującym przepisy przejściowe, dostosowujące i końcowe 42 wyrwane z konktekstu. W przepisach dostosowujących powinny się więc znaleźć kwestie dotyczące sposobu powołania organu po raz pierwszy ale nie samo jego ustanowienie, które powinno się znaleźć w art. 5 - jako przepis prawa materialnego. 53. Art. 5 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem w zakresie systemów sztucznej inteligencji i modeli ogólnego przeznaczenia. Uzasadnienie: Wskazane jest doprecyzowanie w jakim zakresie Komisja jest właściwa w sprawach nadzoru rynku. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28) 54. Art. 5 ust. 4 pkt 1 PFR Proponujemy doprecyzować, jaki rynek Ustawodawca ma na myśli analogicznie jak w art. 6 ust. 1 Ustawy. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi także z uwag innych podmiotów (w obecnej treści projektu w art. 28). 55. Art. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Komisja jest organem nadzoru rynku nad systemami sztucznej inteligencji, o którym mowa w art.70 ust.1 Rozporządzenia 2024/1689. Uzasadnienie: Art. 6 ust.2 odwołuje do konkretnej podstawy z AI Act. W art. 6 ust.1 powinno być więc analogicznie - bo jest to podstawa powołania organu. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona W projekcie zawarto nowe brzmienie przepisu z modyfikacjami wynikającymi ze zgłoszonych uwag różnych podmiotów (art. 5) 56. Art. 6 ust. 1 PFR Jednostka redakcyjna wymienia liczne instytucje współpracujące z Komisją, jednak bez wyraźnego rozdzielenia odpowiedzialności i procedur współpracy. Brak precyzji w ustaleniu granic współpracy może prowadzić do spowolnienia procesów decyzyjnych lub konfliktów kompetencyjnych. Uwaga nieuwzględniona Zdaniem projektodawcy „granice współpracy” wynikają bezpośrednio z rozporządzenia 2024/1689. 57. Art. 6 ust. 3 i Art. 7 ust. 3 URWLPMiW B W art. 6 ust. 3 oraz art. 7 ust. 3 projektu ustawy o systemach sztucznej inteligencji należy uwzględnić Prezesa Urzędu Uwaga częściowo uwzględniona 43 Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych Zgodnie z art. 43 ust. 3 rozporządzenia 2024/1689 „ W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z ty i aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych.”. Zarówno rozporządzenie 2017/745, jak i rozporządzenie 2017/746 zostały wymienione w załączniku I sekcja A do rozporządzenia 2024/1689 i wymagają przeprowadzenia odpowiedni dla wyrobu medycznego lub wyrobu medycznego do diagnostyki in vitro procedury oceny zgodności. Zgodnie z art. 3 ust. 1 pkt 1 i 2 ustawy z dnia 7 kwietnia 2022 r. o wyrobach medycznych (Dz.U. z 2024 r. poz. 1620) Prezes Urzędu jest: 1) organem właściwym w rozumieniu art. 101 rozporządzenia 2017/745 oraz art. 96 rozporządzenia 2017/746; 2) organem odpowiedzialnym za jednostki notyfikowane, o którym mowa w art. 35 ust. 1 rozporządzenia 2017/745 oraz art. 31 ust. 1 rozporządzenia 2017/746. Zgodnie z powyższym Prezes Urzędu jest organem właściwym do nadawania notyfikacji jednostkom w zakresie ww. rozporządzeń, sprawowania nad nimi nadzoru, jak również sprawowania nadzoru nad wyrobami medycznymi i wyrobami Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych został uwzględniony jako stały członek Komisji. 44 medycznymi do diagnostyki in vitro wprowadzanymi do obrotu i do używania na terytorium RP. Wobec powyższego zasadnym jest, aby nadzór w zakresie wyrobów medycznych wykorzystujących sztuczną inteligencję, np. oprogramowania będące wyrobami medycznymi, wyznaczanie jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzór nad nimi w tej kwestii, był kompetencją Prezesa Urzędu. Powyższa kwestia była również jednym z tematów spotkania grupy roboczej MDCG – Nadzór nad jednostkami notyfikowanymi (NBO). Zgodzono się na nim, że kompetencje organów nadzorujących jednostki notyfikowane w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro powinny obejmować wyroby wykorzystujące sztuczną inteligencję, o których mowa w rozporządzeniu 2024/1689. Prezes Urzędu uzyskał informację od dwóch polskich jednostek notyfikowanych w zakresie rozporządzenia 2017/745, że obie jednostki planują ubiegać się o notyfikacje w zakresie rozporządzenia 2024/1689 wyłącznie w zakresie wyrobów medycznych wykorzystujących AI. W takiej sytuacji ograniczenie procesu notyfikacji do jednego organu (Prezesa Urzędu) zmniejszy znacznie obciążenie biurokratyczne tych podmiotów. Ponadto zgodnie z art. 66 ust. 2 ww. ustawy o wyrobach medycznych kontrola może być prowadzona przez osoby niebędące pracownikami Urzędu. Zatem w przypadku pojawienia się wątpliwości, czy osoby upoważnione przez Prezesa Urzędu do kontroli podmiotu, który wprowadza na rynek wyrób medyczny wykorzystujący systemy sztucznej inteligencji, posiadają odpowiednie kompetencje, możliwe będzie skorzystanie z eksperta zewnętrznego w tej dziedzinie, np. pracownika organu odpowiedzialnego za akredytację jednostek w tym zakresie. Analogiczna sytuacja dotyczy wyznaczania jednostek notyfikowanych oraz sprawowania nad nimi nadzoru. Uwzględniając powyższą uwagę, w ocenie Prezesa Urzędu również w 45 pozostałych obszarach wskazanych w niniejszym piśmie (np. w obszarze badań klinicznych produktów leczniczych stosowanych u ludzi) – co także wynika np. z dostępnych rekomendacji w zakresie AI – w celu pełnego i prawidłowego wdrożenia regulacji w zakresie sztucznej inteligencji konieczne jest zapewnienie ścisłej współpracy między organami regulacyjnymi w danej dziedzinie, w tym także z organami posiadającymi kompetencje ogólne w zakresie sztuczne inteligencji, co powinno znaleźć wyraz w projektowanych przepisach. 58. Art. 6 ust. 3 KRRiT Dodanie punktu o treści „Przewodniczącym Krajowej Rady Radiofonii i Telewizji - w zakresie systemów AI ogólnego przeznaczenia generujących obrazy, treści audio lub wideo”; Uwaga uwzględniona Przewodniczący KRRiTV został wskazany jako stały członek Komisji. 59. Art. 6 ust. 3 IAB Polska Biorąc pod uwagę, że dostęp do AI zapewniany jest m.in. poprzez dedykowane strony internetowe lub aplikacje – rekomendujemy dodanie postanowienia w ust. 3, że Komisja współpracuje także z Urzędem Komunikacji Elektronicznej w zakresie usług pośrednich związanych z AI, a nie tylko w zakresie wynikającym z pełnienia przez Prezesa UKE funkcji organu nadzoru rynku na podstawie ustawy z 13.4.2016 r. o systemach zgodności i nadzoru rynku. Prezes Urzędu Komunikacji Elektronicznej deleguje swojego przedstawiciela do prac w Komisji tak samo, jak wymienione w art. 6 ust. 3 Projektu podmioty w postaci: Komisji Nadzoru Finansowego, Prezesa Urzędu Ochrony Konkurencji i Konsumentów, czy Prezesa Urzędu Ochrony Danych Osobowych. Dodatkowo, w zakresie art. 6 ust. 3 pkt 1, prosimy o doprecyzowanie na czym polega współpraca i podział obowiązków między Komisją a Komisją Nadzoru Finansowego. Uwaga uwzględniona Rozszerzono katalog podmiotów, o których mowa w art. 6 ust. 2 (podmioty współpracujące z Komisją) 60. Art. 6 ust. 3 UKNF Z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego (dalej również jako: „KNF”) w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji wysokiego ryzyka. Projekt – w aktualnym kształcie - nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia 2024/1689, tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka Uwaga częściowo uwzględniona Jednoczenie wyjaśniamy że projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania będzie możliwy od dnia. 2 sierpnia 2025 r. 46 wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Niezależnie od powyższego, w ocenie UKNF, w związku z obowiązkiem współpracy pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja” lub „ KRiBSI”) a Komisją Nadzoru Finansowego, określonym w art. 6 ust. 3 pkt 1) projektu, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań (jako wzór może posłużyć np. art. 17b ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, dalej jako: „ustawa o nadzorze nad rynkiem finansowym”). Ponadto, mając na uwadze, że zgodnie z art. 74 ust. 6 rozporządzenia 2024/1689 właściwość KNF ma ograniczać się do nadzoru nad systemami AI wysokiego ryzyka wprowadzonymi do obrotu, oddanymi do użytku lub wykorzystywanymi przez instytucje finansowe, istotna część nadzoru dotycząca wykorzystywania systemów sztucznej inteligencji przez te podmioty pozostanie po stronie Komisji (np. w zakresie zakazanych praktyk w zakresie AI). W tym kontekście – w ocenie UKNF – zasadnym będzie zaprojektowanie rozwiązania polegającego na wprowadzeniu w ustawach sektorowych przepisów upoważniających podmioty rynku finansowego do przekazywania informacji objętych obowiązkiem zachowania tajemnicy zawodowej do KRiBSI. Dla przykładu: - art. 35 ust. 1 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej stanowi, że: zakład ubezpieczeń i osoby w nim zatrudnione, a także osoby i podmioty, za pomocą których zakład ubezpieczeń wykonuje czynności ubezpieczeniowe, są obowiązane do zachowania tajemnicy dotyczącej poszczególnych umów ubezpieczenia. Jednocześnie art. 35 ust. 2 przewiduje, że obowiązek zachowania tajemnicy ubezpieczeniowej, nie dotyczy informacji udzielanych na wniosek m.in. organu nadzoru; Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 47 - art. 105 ust. 1 pkt 2 lit. a ustawy z dnia 29 sierpnia 1997 r. – Prawo bankowe stanowi, że bank ma obowiązek udzielenia informacji stanowiących tajemnicę bankową wyłącznie na żądanie Komisji Nadzoru Finansowego w zakresie nadzoru sprawowanego na podstawie niniejszej ustawy i ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym, pracowników Urzędu Komisji Nadzoru Finansowego w zakresie, o którym mowa w art. 139 ust. 1 pkt 2, oraz osób upoważnionych uchwałą Komisji Nadzoru Finansowego w zakresie określonym w tym upoważnieniu. Brak takiej wyraźnej podstawy prawnej może stanowić znaczące utrudnienie w sprawowaniu nadzoru, ponieważ podmioty mogłyby odmawiać przekazywania informacji, powołując się na obowiązek zachowania tajemnicy zawodowej (nie można bowiem wykluczyć, że przekazanie danych zawierających tajemnicę będzie niezbędne w zakresie niezbędnym do wykonywania zadań ustawowo zastrzeżonych dla organu jakim będzie KRiBSI). 61. Art. 6 ust. 3 pkt 1 UKNF Zgodnie z art. 6 ust. 3 pkt 1 projektowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji współpracuje z KNF w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689, czyli systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie, zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 6 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 6 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób jednoznaczny. Z tych względów ustawa powinna w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka w Uwaga nieuwzględniona Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy, co wynika z harmonogramu wdrożenia rozporządzenia oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI wysokiego ryzyka, o których mowa w art. 6 rozporządzenia (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.). 48 zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy nadzór ten będzie sprawowany przez inny odpowiedni organ na zasadzie odstępstwa przewidzianego w art. 74 ust. 7 rozporządzenia 2024/1689. Co szczególnie ważne, w zakresie działalności podmiotów nadzorowanych przez KNF mogą być wykorzystywane systemy AI wysokiego ryzyka – przykładowo: ⎯ biometria (np. systemy zdalnej identyfikacji biometrycznej); ⎯ systemy AI wykorzystywane do oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; ⎯ systemy AI wykorzystywane przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego. W związku z powyższym – w przypadku decyzji kierunkowej, że to KNF będzie organem właściwym do nadzoru nad systemami wysokiego ryzyka w zakresie, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689 – UKNF poddaje pod rozwagę, aby ustawowe rozwiązania przewidywały również wprowadzenie odpowiednich zmian w przepisach ustawy o nadzorze nad rynkiem finansowym, w której wprost zostałoby wskazane, że KNF jest organem nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689. 62. Art. 6 ust. 3 pkt 2 UOKIK Określenie katalogu podmiotów, z którymi współpracuje Komisja poprzez odwołanie do art. 58 ustawy o systemach oceny zgodności i nadzoru rynku nie jest wystarczające wobec zakresu spraw określonego w art. 74 ust. 3 rozporządzenia 2024/1689. Kontrola produktów wskazanych w unijnym prawodawstwie harmonizacyjnym jest prowadzona również przez organy, które nie są organami nadzoru rynku w rozumieniu ustawy o systemach oceny zgodności i nadzoru rynku i funkcjonują poza jej ramami. Projektowany przepis pozostaje zatem niewystarczający, ponieważ jego stosowanie spowoduje Uwaga częściowo uwzględniona Katalog podmiotów, których dotyczy uwaga został rozszerzony w nowej treści przepisów projektu. Dodatkowo, Komisja może zapraszać do udziału w posiedzeniach przedstawicieli innych podmiotów, o ile poruszane w ich trakcie sprawy mieszczą się w ich właściwości. 49 powstanie luki w zakresie wyznaczenia organów właściwych w sprawach uregulowanych w aktach unijnych wymienionych w załączniku I do rozporządzenia 2024/1689. W związku z powyższym proponuje się rozważenie umieszczenia w projektowanej ustawie enumeratywnego katalogu organów właściwych w sprawach związanych z kontrolami produktów w oparciu o akty wskazane w załączniku I. Poniżej przekazuję listę organów, których uwzględnienie proponuję rozważyć: 1. Prezes Urzędu Ochrony Konkurencji i Konsumentów, 2. wojewódzcy inspektorzy Inspekcji Handlowej, 3. organy Państwowej Inspekcji Pracy, 4. organy nadzoru budowlanego, 5. organy administracji miar 6. Prezes Urzędu Komunikacji Elektronicznej, 7. Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, 8. Prezes Wyższego Urzędu Górniczego, 9. Prezes Urzędu Transportu Kolejowego, 10. Prezes Urzędu Lotnictwa Cywilnego, 11. dyrektorzy urzędów morskich, 12. wojewódzcy inspektorzy transportu drogowego, 13. Dyrektor Transportowego Dozoru Technicznego, 14. Prezes Urzędu Dozoru Technicznego. Jednocześnie należy wskazać, że obecnie w Ministerstwie Rozwoju i Technologii trwają prace nad projektem ustawy o nadzorze nad spełnianiem wymagań dotyczących produktów (UC45), w którym zostanie ustanowiony system organów nadzoru rynku właściwych w sprawach poszczególnych aktów w ramach unijnego prawodawstwa harmonizacyjnego. Niezależnie od powyższego należy wskazać, że przepisy projektowanej ustawy nie określają zasad współpracy poszczególnych organów z Komisją. Brak jest również wskazania instrumentów (narzędzi) takiej współpracy, w szczególności form lub sposobów, w jakich będzie się ona odbywać. Należy wskazać, że organy wymienione w art. 6 50 projektu realizują określone kompetencje przypisane im w przepisach ustaw regulujących ich funkcjonowanie. Podejmowanie określonego rodzaju aktywności przez te organy jest warunkowane obowiązywaniem określonej podstawy prawnej przyznającej kompetencję lub nakładającej obowiązek konkretnego działania. Z uwagi na powyższe ustawowe określenie zasad, form i sposobu współpracy organów, o których mowa w art. 6 projektu z Komisją, pozostaje niezbędne w celu stworzenia podstaw prawnych do podejmowania przez nie określonych czynności władczych, w tym również takich, które nie są wprost wpisane w ich ustawowe kompetencje. 63. Art. 6 ust. 4 PFR Wydaje się, iż Ustawodawca ma tu na myśli stosowne organy opisane w Rozporządzeniu. Jeżeli tak jest, to proponujemy to doprecyzować poprzez wskazanie odpowiednich definicji zawartych w Rozporządzeniu. Uwaga uwzględniona 64. Art. 6 ust. 4 UKNF Artykuł 6 ust. 4 projektu ustawy stanowi, że „Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Urzędem do spraw AI, Europejską Radą do spraw Sztucznej Inteligencji oraz z właściwymi organami państw członkowskich Unii Europejskiej”. UKNF wskazuje, że pełna nazwa ww. urzędu to Europejski Urząd ds. Sztucznej Inteligencji, stąd rekomendowane byłoby posłużenie się nią we wskazanym przepisie projektu ustawy, bądź przyjęcie odpowiedniej definicji urzędu w treści projektu ustawy. Uwaga nieuwzględniona. Projekt posługuje się terminologią zaczerpniętą bezpośrednio z rozporządzenia 2024/1689. 65. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. W tym kontekście, NCBR, jako instytucja odpowiedzialna za wspieranie badań i rozwoju technologii, mógłby wesprzeć prace Komisji w lepszym zrozumieniu procesów tworzenia systemów SI poprzez wskazywanie ekspertów do pracy w Komisji. Pozwoliłoby to lepiej zintegrować procesy badawcze (tworzenie innowacyjnych Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 51 programów służących rozwojowi technologii SI) z wymogami regulacyjnymi. Generalnie, NCBR jako fundamentalna instytucja zajmująca się wspieraniem prac B+R i rozwijaniem przedsiębiorczości w zakresie nowych technologii, w tym technologii ICT, nie jest bezpośrednio uwzględnione w projekcie ustawy o SSI jako kluczowy organ wspierający rozwój SI w Polsce. Warto rozważyć formalne włączenie NCBR do procesów regulacyjnych, np. poprzez jego większy udział w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, aby zapewnić pełne wsparcie dla innowacyjnych projektów badawczych. Ponadto, zgodnie z dokumentem pn. Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020, Załącznik do uchwały nr 196 Rady Ministrów z dnia 28 grudnia 2020 r. (poz. 23), NCBR jest elementem polskiego ekosystemu AI w obszarze Nauka i Badania AI. 66. Art. 7 OPZZ Uważamy, że należy ponownie rozważyć zakres udziału związków zawodowych w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Zgłoszone przez nas uwagi mają na celu zwiększenie ochrony interesów pracowników oraz wspieranie budowy nowoczesnego, zrównoważonego rynku pracy w Polsce. Projekt ustawy przewiduje ustanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której zadaniem będzie zapewnienie nadzoru nad rozwojem i funkcjonowaniem systemów sztucznej inteligencji. Konstrukcja przepisów zakłada, że członkami Komisji będą przedstawiciele kluczowych organów i urzędów, których kompetencje są kluczowe dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów Al. Dodatkowo projekt przedmiotowej regulacji prawnej zakłada możliwość udziału w pracach Komisji przedstawicieli innych podmiotów publicznych, ale na zasadach doradczych, bez prawa głosu. Wśród nich wymieniono m.in. przedstawicieli strony pracowników Rady Dialogu Społecznego. W ocenie Ogólnopolskiego Porozumienia Związków Zawodowych, reprezentatywne organizacje związkowe, w rozumieniu ustawy z dnia 25 czerwca 2015 r. o Radzie Dialogu Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 52 Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232), powinny posiadać status pełnoprawnych członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Algorytmy i systemy sztucznej inteligencji coraz częściej mają bowiem wpływ na decyzje o kluczowym znaczeniu dla pracowników np. w zakresie dotyczącym wynagrodzeń, wydajności i zatrudnienia. Brak pełnego nadzoru ze strony reprezentacji pracowników nad sztuczną inteligencją niesie ryzyko ograniczenia praw pracowniczych. Pełnoprawne członkostwo central związkowych w Komisji umożliwi skuteczny nadzór nad funkcjonowaniem algorytmów, zapewniając ich zgodność z normami dialogu społecznego oraz zapobiegnie potencjalnym nadużyciom ze strony pracodawców. To także gwarancja, że technologie sztucznej inteligencji będą wdrażane w sposób przejrzysty, z poszanowaniem praw pracowniczych, w tym prawa do konsultacji, ochrony danych osobowych i współdecydowania o zasadach wykorzystania technologii w pracy. Jest to szczególnie ważne dla osób wykonujących pracę platformową, takich jak kurierzy czy kierowcy, którzy są szczególnie narażeni na nadużycia związane z działaniem algorytmów. Obecność związków zawodowych w Komisji pozwoli zatem monitorować i przeciwdziałać takim praktykom. OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem 53 prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. 67. Art. 7 ust. 2 i st. 3 pkt 13 RZ Należy zaznaczyć, iż wiele z proponowanych regulacji może bezpośrednio dotyczyć warunków, wykonywania działalności gospodarczej na terytorium Rzeczypospolitej w szczególności przez mikroprzedsiębiorców, małych i średnich przedsiębiorców. Z, tego względu, w pierwszej kolejności wnoszę o zmianę art. 7 ust. 2 oraz ust. 3 pkt. 13 Projektu poprzez włączenie przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców do grona członków Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Realizacja postulatu wymaga: w art. 7 ust. 2: 1. w pkt 9) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu — pkt 10 w brzmieniu: „10) Rzecznika Małych i Średnich Przedsiębiorców. ”; 3. w przypadku uwzględnienia postulatu, odpowiedniej zmiany w art. 7 ust. 3, przez usunięcie pkt 13. Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Ze względu na potrzebę skutecznej ochrony praw przedsiębiorców, Rzecznik Małych i Średnich Przedsiębiorców, jako ich przedstawiciel, powinien mieć zagwarantowane prawo zabrania głosu w kwestiach poruszanych przez Komisję. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 68. art. 7 ust. 2 pkt 6 i art. 8 ust. 5 RPO W projekcie ustawy przewidziano utworzenie nowego organu - Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) – wyspecjalizowanego w sprawowaniu nadzoru nad sektorem sztucznej inteligencji oraz wspieraniu jego funkcjonowania. Instytucja ta ma pełnić funkcję organu nadzoru nad rynkiem, ale również przyczyniać się do wzmacniania branży sztucznej inteligencji w Polsce oraz pełnić funkcję Uwaga uwzględniona Przedstawiciel Rzecznika Praw Obywatelskich został wyłączony ze składu Komisji. 54 podmiotu eksperckiego współpracującego z innymi instytucjami publicznymi w zakresie AI. Zgodnie z art. 8 ust. 5 projektu ustawy, Komisja w zakresie swojej właściwości podejmuje uchwały, w tym też wydaje decyzje administracyjne i postanowienia. Jednym z członków Komisji zgodnie z art. 7 ust. 2 pkt 6 projektu ustawy ma zostać przedstawiciel Rzecznika Praw Obywatelskich. W mojej ocenie proponowane rozwiązanie jest nie do pogodzenia z pozycją ustrojową i kompetencjami, jakie zostały przyznane Rzecznikowi Praw Obywatelskich w Konstytucji RP. W pierwszej kolejności należy zauważyć, że Rzecznik Praw Obywatelskich nie jest organem administracji publicznej. Rzecznik Praw Obywatelskich jest samodzielnym, konstytucyjnym organem ochrony prawa, stojącym na straży wolności i praw człowieka i obywatela określonych w Konstytucji oraz w innych aktach normatywnych (rozdział IX Konstytucji Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r.). W myśl art. 210 Konstytucji RP Rzecznik Praw Obywatelskich w swojej działalności jest niezawisły, niezależny od innych organów państwowych i odpowiada jedynie przed Sejmem na zasadach określonych w ustawie. Tryb rozpatrywania spraw należących do kompetencji Rzecznika Praw Obywatelskich uregulowany został w przepisach ustawy o RPO, zgodnie z którymi zarówno o sposobie działania, jak i o podjętych środkach prawnych w danej sprawie decyduje autonomicznie Rzecznik Praw Obywatelskich. Trybunał Konstytucyjny w istotnym z punktu widzenia relacji między RPO a Sejmem wyroku1 , interpretuje niezależność jako pojęcie normatywne, tj. wyznaczające zakaz tworzenia pomiędzy Rzecznikiem a innymi organami więzi strukturalnych i funkcjonalnych, które mogłyby prowadzić do zależności Rzecznika od tych organów. Sejmowi, podobnie jak jakiemukolwiek innemu organowi państwa, nie wolno wyznaczać Rzecznikowi jakichkolwiek obowiązków, które nie mieszczą się w jego konstytucyjnych zadaniach i nie znajdują podstaw w określonych przez ustawę kompetencjach RPO. Należy również podkreślić, że w orzecznictwie sądów administracyjnych ugruntowane jest stanowisko, że rozpatrywanie przez Rzecznika Praw Obywatelskich kierowanych 1 Zob. wyrok TK z 19.10.2010 r., sygn. K 35/09. - 3 - do niego wniosków nie następuje w formach przewidzianych w art. 3 § 2 pkt 1-42 ustawy z dnia z 55 dnia 30 sierpnia 2002 r. prawo o postępowaniu przed sądami administracyjnymi (Dz.U. z 2024 r. poz. 935)3 . Biorąc pod uwagę powyższe, nie ulega wątpliwości, że przedstawiciel Rzecznika Praw Obywatelskich nie może być częścią organu (Komisji), który wydaje decyzje administracyjne i postanowienia, gdyż byłoby to sprzeczne z rolą organu ochrony prawa, jaką ustrojodawca przewidział dla Rzecznika Praw Obywatelskich w Konstytucji RP, a także godziłoby w zasadę niezależności Rzecznika. Wyznaczenie na członka Komisji przedstawiciela RPO jest wątpliwe również dlatego, że czynności podejmowane przez Komisję, a zatem wydawane przez nią decyzje administracyjne i postanowienia, mogą być przedmiotem skarg obywateli do Rzecznika Praw Obywatelskich. Taka sytuacja skutkowałaby tym, że Rzecznik Praw Obywatelskich rozpoznawałby de facto skargę na działania podejmowane m. in. Przez jego przedstawiciela. To zaś podważałoby zasadę prawa, zgodnie z którą nikt nie może być sędzią we własnej sprawie (nemo iudex in causa sua). Reasumując, w mojej ocenie, z przyczyn wskazanych powyżej, przedstawiciel RPO nie może zostać członkiem organu, który zgodnie z projektowaną ustawą będzie sprawował nadzór nad sektorem sztucznej inteligencji. Jednocześnie, nie budzi moich wątpliwości możliwość zgłaszania przez Rzecznika Praw Obywatelskich kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (art. 28 ustawy), który to organ będzie pełnił funkcje opiniodawczo- doradcze na rzecz Komisji. 69. Art. 7 ust. 2 i 7 RPD Proponowana konstrukcja przepisów projektu zakłada ustanowienie nowej instytucji, która będzie niezależnym od administracji rządowej, organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jak również podmiotem współpracującym z innymi instytucjami publicznymi w zakresie AI. Zgodnie z brzmieniem projektowanej ustawy organem tym będzie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w skład której miałby wchodzić Przewodniczący Komisji, dwóch Zastępców Przewodniczącego Komisji oraz dziewięciu członków, będących przedstawicielami podmiotów, wymienionych w art. 7 ust. 2 projektu. Biorąc pod uwagę charakter i ilość zadań nałożonych na ww. organ, wątpliwości budzi przyjęcie zaproponowanej koncepcji składu Komisji. Warto Uwaga częściowo uwzględniona Osobom biorącym udział w pracy Komisji na podstawie nowej treści przepisów projektu przysługuje zwrot kosztów przejazdu i noclegów. 56 w tym miejscu podkreślić, że przedstawiciele podmiotów, wskazanych w art. 7 ust. 2 projektu to przede wszystkim pracownicy ww. podmiotów, na których nałożone byłyby dodatkowe obowiązki związane z pracą w Komisji. To może rodzić konflikt interesów pomiędzy pracą na etacie u podmiotu, o którym mowa w art. 7 ust. 2 projektu, a pracą wykonywaną na rzecz Komisji Warszawa, 14 listopada 2024 roku (art. 11 projektu). Warto w tym miejscu również podkreślić, że zgodnie z założeniami projektowanej ustawy „za udział w pracach Komisji nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegu” (art. 7 ust. 7 projektu). Ponadto, członkowie Komisji nie będą mogli wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywoływać podejrzenie o stronniczość lub konflikt interesów (a w konsekwencji rodzić obawy o najlepsze reprezentowanie interesów i głosu osób, na których systemy SI mają wpływ - zwłaszcza dzieci i młodzieży), o czym stanowi art. 24 ust. 1 projektu. Natomiast art. 25 ust. 1 projektu wskazuje, iż m.in. członkowie Komisji są obowiązani do nieujawniania osobom nieupoważnionym tajemnicy prawnie chronionej. Nie ma tu regulacji odnoszącej się do podmiotów, dla których pracują członkowie Komisji. Takie rozwiązania mogą prowadzić do wyłączenia danego pracownika/przedstawiciela podmiotu, o którym mowa w art. 7 ust. 2 projektu, z pracy urzędu, biorąc pod uwagę zakres zadań, związanych z pracą Komisji. Analizowany projekt w żaden sposób nie reguluje tej kwestii. 70. Art. 7 ust. 2 PUODO Z motywu 10 aktu w sprawie sztucznej inteligencji wynika, że jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. Zatem rozporządzenie jasno wskazuje na to, że kompetencje i niezależność organów nadzorczych ds. ochrony danych nie są ograniczane przepisami aktu w sprawie sztucznej inteligencji, a przejrzystego uregulowania tych kwestii należy oczekiwać w przyjmowanych rozwiązaniach krajowych, czego w opiniowanym projekcie zabrakło. Uwaga uwzględniona Przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji. 57 Przebudowy wymaga zatem określona w projekcie ustawy koncepcja nadzoru nad systemami sztucznej inteligencji, która w art. 7 ust. 2 pkt 3 zakłada udział przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych w kolegialnym organie nadzoru rynku, jakim ma być Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Choć docenić należy uwzględnienie potrzeby włączenia organu ochrony danych osobowych w proces oceny nadzoru nad systemami sztucznej inteligencji, to jednak, przedstawiciel organu nadzorczego ds. ochrony danych osobowych – ze względu na konieczność zachowania niezależności organu ds. ochrony danych osobowych – nie może brać udziału w procesie wydawania decyzji przez inny organ inaczej niż w charakterze doradcy czy obserwatora. Udział przedstawiciela Prezesa UODO w pracach Komisji byłyby zatem możliwy wyłącznie w charakterze eksperta, z możliwością wypowiedzenia się w kwestiach związanych z ochroną danych osobowych, z zastrzeżeniem braku związania go poleceniami /dyspozycjami Przewodniczącego Komisji i przy założeniu nieobjęcia problematyki przetwarzania danych osobowych procesem decyzyjnym Komisji, ze względu na to, iż jest to wyłączna kompetencja Prezesa UODO. Te gwarancje powinny zostać zapisane w ustawie tak, by zapewnić zgodność i spójność zarówno z rozporządzeniem 2024/1689, jak i rozporządzeniem 2016/679. Ma to istotne znaczenie w związku z art. 9 projektu ustawy, który przewiduje, że członkowie Komisji wspierają Przewodniczącego Komisji w wykonywaniu zadań ustawowych, w szczególności w sprawach będących we właściwości podmiotu, którego są przedstawicielami, a na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami”. Wskazać należy, że przedstawiciel Prezesa UODO – z racji potrzeby zachowania niezależności, wynikającej wprost z prawa UE – nie może być zobowiązany mocą jakichkolwiek przepisów, w tym projektowanej ustawy, do podejmowania działań na rzecz innego organu ani dostosowywania się do rozstrzygnięć, które potencjalnie mogłyby wkraczać w zakres jego kompetencji. 58 Dostrzec przy tym należy, że status Komisji jako nowego organu administracji publicznej ma charakter precedensowy, ponieważ przewiduje, że jej członkami są przedstawiciele innych organów, w tym przedstawiciel Prezesa UODO (art. 7 ust. 2 pkt 3 projektu ustawy). Przepisy projektowanej ustawy nie regulują przy tym pozycji takiego przedstawiciela, w szczególności w aspekcie swobody podejmowania przez niego decyzji i innych czynności w ramach Komisji, co może być poddane dalszej dyskusji pod kątem zgodności z zasadami prawa administracyjnego i normami konstytucyjnymi dotyczącymi administracji państwowej, w tym podstawowym warunkiem dotyczącym samodzielności decyzyjnej organu. W świetle powyższych uwag, projektowane przepisy wymagają doprecyzowania statusu Prezesa UODO (jego przedstawiciela) w sposób gwarantujący niezależne wykonywanie przez niego zadań wynikających ze wspomnianych wyżej aktów prawa unijnego i krajowego, w tym orzecznictwa TSUE. Projektowana ustawa wymaga zatem powtórnej analizy pod kątem spójności oraz jasności nadawanych nią norm kompetencyjnych, jak również kompleksowości proponowanej regulacji, która powinna również czynić zadość konstytucyjnej zasadzie legalności w aspekcie wyznaczania organom władzy publicznej podstaw i granic działania mocą stanowionych przepisów prawa. 71. Art. 7 ust. 3- 6 RPD Uwagi do proponowanego art. 7 ust. 3-6 ustawy o systemach SI (uczestnictwoinnych osób niż Członkowie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Art. w posiedzeniach Komisji) Stosowanie systemów sztucznej inteligencji, zwłaszcza w obszarze edukacji, ma bezpośredni wpływ na codzienne życie dzieci i młodzieży, w tym na ich prawa i wolności. W związku z tym niezwykle istotne jest, aby głos młodych ludzi był uwzględniany w procesach decyzyjnych dotyczących rozwoju i regulacji tych systemów. Zgodnie z art. 12 Konwencja o prawach dziecka przyjęta przez Zgromadzenie Ogólne Narodów Zjednoczonych dnia 20 listopada 1989 r. (Dz. U. z 1991 r. Nr 120, poz. 526 z późn. zm.) każde dziecko ma prawo do swobodnego wyrażania własnych poglądów we wszystkich Uwaga uwzględniona RPD został włączony do składu Komisji jako stały członek. 59 sprawach, które go dotyczą, a poglądy te powinny być należycie uwzględniane stosownie do wieku i dojrzałości dziecka. Podobnie, art. 24 Karta praw podstawowych Unii Europejskiej (Dz. U. UE. C. z 2007 r. Nr 303, str. 1 z późn. zm.). podkreśla prawo dziecka do wyrażania swojego zdania i bycia wysłuchanym w sprawach, które go dotyczą. Obecne planowane przepisy ustawy o systemach SI, w szczególności art. 7 ust. 3-6, przewidują możliwość uczestnictwa w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przedstawicieli różnych podmiotów z głosem doradczym, jednak udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji i wymaga posiadania „specjalistycznej wiedzy (proponowany art. 7 ust. 5 ustawy o systemach SI). Taki mechanizm może ograniczać realną możliwość dzieci i młodzieży do wyrażania swojego głosu w sprawach dotyczących regulacji systemów SI, których wyniki działania bezpośrednio ich dotyczą. Dzieci należą do grupy podmiotów szczególnie wrażliwych, które mogą w szczególny sposób odczuć negatywny wpływ systemów sztucznej inteligencji na ich prawa oraz wolności. Chociaż z oczywistych względów nie posiadają one fachowej wiedzy na temat systemów SI, ich głos może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii. Aby w pełni zrealizować prawo dziecka do bycia wysłuchanym, proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych, zespołów reprezentujących głos dzieci (np. Rada Dzieci i Młodzieży przy RPD, Rada Młodzieży przy MEN) doraźnego udziału w posiedzeniach Komisji z głosem doradczym. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Komisji z wnioskiem o dopuszczenie do udziału w obradach Komisji w roli gości zwłaszcza jeżeli przedmiot obrad dotyczy systemów SI wpływających na dzieci i młodzież. Takie rozwiązanie zapewni, że głos dzieci i młodzieży będzie systematycznie brany pod uwagę w procesach regulacyjnych dotyczących systemów sztucznej inteligencji. Jest to nie tylko zgodne z międzynarodowymi standardami ochrony praw dziecka, ale także przyczyni się do tworzenia bardziej efektywnych i adekwatnych regulacji, które uwzględniają 60 perspektywę młodego pokolenia. Włączenie organizacji młodzieżowych z głosem doradczym do prac Komisji wzmocni transparentność i demokratyczność procesu decyzyjnego oraz pomoże w kształtowaniu systemów SI, które będą służyć dobru dzieci i młodzieży. 72. Art. 7 ust. 3 GUS Projekt ustawy o systemach sztucznej inteligencji przewiduje powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (art. 5 i nast. projektu ustawy), w skład której obowiązkowo wejdą przedstawiciele 9 instytucji (art. 7 ust. 1 i 2 projektu ustawy), a przedstawiciele dalszych 16 instytucji (art. 7 ust. 3) będą mogli uczestniczyć w jej posiedzeniach. Mając na uwadze zaplanowane przez ustawodawcę zadania Komisji, w tym w szczególności: „podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji” (art. 11 ust. 1 pkt 3) oraz „udział w opracowywaniu i opiniowaniu projektów aktów prawnych w zakresie sztucznej inteligencji” (art. 11 ust. 1 pkt 5), niezbędne wydaje się rozszerzenie listy przedstawicieli urzędów i instytucji publicznych mogących uczestniczyć w jej pracach o przedstawiciela Głównego Urzędu Statystycznego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 73. Art 7 ust. 3 Rzecznik Finansowy W art. 7 ust. 3 pkt 12) projektu ustawy przewidziany został udział w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: „Komisja”) przedstawiciela Biura Rzecznika Finansowego. Projektowany przepis należy zmienić poprzez wskazanie „przedstawiciela Rzecznika Finansowego”. Należy bowiem zauważyć, że zgodnie z ustawą z dnia z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej (Dz. U. z 2024 r. poz. 1109) działania podejmowane są przez Rzecznika Finansowego, a nie przez Biuro Rzecznika Finansowego. Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 74. Art. 7 ust. 3 IAB Polska W skład podmiotów, których przedstawiciele mogą uczestniczyć w posiedzeniach Komisji brakuje przedstawiciela Społecznej Rady do spraw Sztucznej Inteligencji. Udział takiej osoby jest wskazany ze względu na funkcję Rady („organ opiniodawczo- doradczy Komisji”). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do 61 udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 75. Art. 7 ust. 3 Konfederacj a Lewiatan Rekomdendujemy dodanie punktu: 17) Społecznej Rady ds. Sztucznej Inteligencji Uzasadnienie: Skoro Społeczna Rada ds. Sztucznej Inteligencji ma być organem doradczym wskazane jest umożliwić udział jej przedstawicieli w pracach Komisjii - inaczej jej rola może okazać się fasadowa, jadnak z uwzględnieniem możliwości wyłączenia członka rady (patrz uwagi do art. 7 ust. 5). Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3). 76. Art. 7 ust. 3 Rada Legislacyjna [Brak możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli Ministerstwa Nauki oraz Ministerstwa Zdrowia] Przepisy art. 7 ust. 3 Projektu nie przewidują możliwości uczestniczenia w posiedzeniach Komisji przedstawiciela urzędu obsługującego ministra właściwego do spraw szkolnictwa wyższego i nauki oraz przedstawiciela urzędu obsługującego ministra właściwego do spraw zdrowia. Tymczasem dopuszczenie możliwości brania udziału w posiedzeniach Komisji przez przedstawicieli obu tych urzędów, czyli Ministerstwa Nauki oraz Ministerstwa Zdrowia, ma przekonujące uzasadnienie merytoryczne. Obaj bowiem ministrowie kierujący wspomnianymi ministerstwami i jednocześnie odnośnymi działami administracji rządowej są, z uwagi na zakres swoich ustawowych zadań,12 żywotnie zainteresowani sprawami rozwoju, wprowadzania, upowszechniania i stosowania technologii oraz usług wykorzystujących systemy sztucznej inteligencji. Działalność naukowa, nawet jeżeli w określonym zakresie nie mieści się ona w zakresie zastosowania Projektu (oraz Rozporządzenia UE 2024/1689), jest przecież absolutnie niezbędna dla rozwijania i doskonalenia systemów AI, natomiast w medycynie, czy też w działalności z zakresu zdrowia publicznego, systemy AI są obecnie podstawą wielu ważnych dla pacjentów świadczeń diagnostycznych i terapeutycznych.Z uwagi na to merytoryczne powiązanie nauki i medycyny z systemami AI warto jest zatem rozważyć możliwość fakultatywnego delegowania przez obu ministrów czy też przez urzędy Uwaga wyjaśniona Uwaga nieaktualna z powodu zmiany treści przepisu dot. organizacji pracy Komisji, który upoważnia Przewodniczącego każdorazowo do podejmowania decyzji w zakresie możliwości zaproszenia podmiotów do udziału w posiedzeniu Komisji bez prawa głosu (art. 6 ust. 3) 62 obsługujące obu tych ministrów swoich przedstawicieli do udziału w posiedzeniach Komisji na podstawie przepisu art. 7 ust. 3 Projektu 77. Art. 7 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji, na zasadach określonych w ust. 6 i 7, osoby posiadające wiedzę specjalistyczną biegłego. Uzasadnienie: Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga nieuwzględniona Użycie pojęcia „biegłego” znacząco ograniczyłoby zakres osób mogących wziąć udział w posiedzeniu Komisji. 78. Art. 7 ust. 7 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 7. Za udział pracach Komisji nie przysługuje wynagrodzenie ani i zwrot kosztów przejazdów i noclegów. Uzasadnienie: Niezrozumiała jest intencja tego przepisu. Jeśli przepis dotczyć ma także osób wkazanych w art.7 ust. 5 - to nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Komisji, płaciły za koszt dojazdu i noclegu. Specjalistów nie jest raczej wielu i na pewno świadczenie tego typu czynności pro bono nie zachęci do udziału w pracach Komisji. Jesli zaś chodzi o członków Komisji wymienionych w art. 7 ust. 2 i osoby uczestniczące w pracach Komisji wymienione w art. 7 ust. 3 - to należałoby doprecyzować, że robią to w ramach ich zasadniczego wynagrodzenia, a koszty noclegów, przejazdu pokrywa ich pracodawca. Uwaga częściowo uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 79. Art. 7 ust. 7 i Art. 29 ust. 6 RPD Uwagi do proponowanego art. 7 ust. 7 i art. 29 ust. 6 ustawy o systemach SI – brak wynagrodzenia oraz zwrotów kosztów przejazdów i noclegów członkom Rady lub Komisji za udział w pracach organów Uwaga uwzględniona Uwzględniono uwagę w zakresie możliwości uzyskania zwrotu kosztów przejazdów i noclegów. 63 Brak zwrotu kosztów przejazdów i noclegów za udział w pracach Rady i Komisji może skutecznie zniechęcić specjalistów mieszkających w odległych od Warszawy (siedziby Komisji i Rady) częściach Polski do uczestnictwa w pracach tych organów. Taka sytuacja może negatywnie wpłynąć na poziom merytoryczny prac Rady oraz Komisji, w tym o ograniczyć różnorodność osób biorących w nich udział, co jest kluczowe dla wszechstronnego podejścia do zagadnień związanych ze sztuczną inteligencją. Specjaliści z różnych regionów kraju wnoszą unikalne perspektywy i doświadczenia, które są niezbędne do tworzenia kompleksowych i efektywnych regulacji w dziedzinie sztucznej inteligencji. Brak zwrotu kosztów może prowadzić do sytuacji, w której udział w pracach Rady i Komisji będzie ograniczony do osób mieszkających w Warszawie lub tych, którzy mogą sobie pozwolić na pokrycie kosztów podróży i noclegu z własnych środków. Nie bez znaczenia jest także fakt, że młodzi naukowcy i specjaliści, którzy mogą nie dysponować wystarczającymi środkami finansowymi, zostaliby w ten sposób zachęceni do udziału w pracach Rady i Komisji. Ich udział może wnieść świeże spojrzenie i innowacyjne rozwiązania w dynamicznie rozwijającej się dziedzinie sztucznej inteligencji. Można też argumentować, że brak możliwości otrzymania przynajmniej zwrotu kosztów noclegu i przejazdu w związku z pracami w Komisji oraz Radzie negatywnie wpłynie także na poziom niezależności ich członków. Warto zauważyć, że członkowie „Beirat für Künstliche Intelligenz” (KI-Beirat) organu doradczo-opiniodawczego wskazanego przez projektodawcę w uzasadnieniu ustawy o systemach SI jako modelowy przykład ciała eksperckiego z uprawnieniami konsultowania prac w zakresie nadzoru nad sztuczną inteligencją — mają prawo żądać zwrotu kosztów poniesionych w związku z pracą w KI-Beirat. Zgodnie z §20c ust. 8 ustawy KommAustria- Gesetz: „Die Mitglieder haben Anspruch auf Ersatz der angemessenen Reisekosten und Barauslagen. Der Bundesminister für Finanzen hat im Einvernehmen mit dem Bundeskanzler mit Verordnung eine Geschäftsordnung für den 64 „Beirat für KI“ zu erlassen. Die für Reisekosten anfallenden Kosten trägt die RTR-GmbH aus den nach dem folgenden Absatz zur Verfügung gestellten Mitteln.”4. Co oznacza, że członkowie mają prawo do zwrotu uzasadnionych kosztów podróży i wydatków, a Minister Finansów, w porozumieniu z Kanclerzem Federalnym, zobowiązany jest wydać rozporządzenie określające regulamin. Analogiczne rozwiązanie mogłoby zostać zastosowane w przypadku Rady i Komisji w Polsce. Zasady zwrotu kosztów przejazdów i noclegów związanych z udziałem w pracach Rady mogłyby zostać określone w regulaminie funkcjonowania Rady. Takie podejście umożliwiłoby udział specjalistów z różnych części kraju, którzy w przeciwnym razie mogliby być wykluczeni ze względu na bariery finansowe. Co więcej, warto rozważyć wprowadzenie możliwości ubiegania się o zwrot kosztów poniesionych w związku z udziałem w obradach Rady lub Komisji przez zaproszonych gości. Wprowadzenie możliwości ubiegania się o zwrot kosztów związanych z udziałem w obradach Rady lub Komisji przez zaproszonych gości mogłoby znacząco zwiększyć dostępność tych spotkań dla różnych grup społecznych, zwłaszcza dla młodych osób oraz ich opiekunów. Taki mechanizm stanowiłby formę wsparcia finansowego, pozwalającą zredukować bariery ekonomiczne, które mogą ograniczać ich zaangażowanie w procesy decyzyjne oraz konsultacyjne. Zapewnienie zwrotu kosztów dla zaproszonych gości, zwłaszcza przedstawicieli organizacji młodzieżowych, mogłoby być postrzegane jako gest w kierunku zapewnienia inkluzywności i równości szans, wskazując, że instytucje publiczne dostrzegają potrzebę większego zaangażowania społecznego oraz szanują czas i wysiłek każdej osoby, która chce wnieść wkład w dysk 80. Art. 8 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów Uwaga uwzględniona Kwestia procedury wyłączenia została uregulowana w nowej treści przepisów projektu. 81. Art. 8 NCBR Przepisy art. 8 należy uzupełnić o sformułowania wiążące się z kwestiami bezpieczeństwa stosowanych przez członków Komisji środków komunikacji - pamiętając, że mają oni posiadać dostęp Uwaga uwzględniona 65 oraz mają wymieniać informacje o charakterze poufnym, stanowiące tajemnice przedsiębiorstw. Należy więc zagwarantować przepisami, a co za tym idzie, również środkami technicznymi, bezpieczeństwo komunikacji w ramach Komisji. Uwaga uwzględniona poprzez rozszerzenie katalogu wymogów związanych z bezpieczeństwem cyfrowym oraz ochroną informacji. 82. Art. 8 Konfederacj a Lewiatan Rekomendujemy dodanie: Uchwały podpisuje Przewodniczący Komisji lub Zastępca Przewodniczącego upoważnionego do Kierowania Pracami Komisji. Uzasadnienie: Proponowane dodanie zapisu. Skoro uchwały, decyzje mają moc prawną, a są aktami organu kolegialnego powinno być jasne kto je podpisuje, od którego momentu mają moc prawną. Uwaga uwzględniona Uwaga uwzględniona poprzez wskazanie uprawnień Komisji oraz Przewodniczącego Komisji. 83. Art. 8 ust. 2 i 9 UKNF Należy mieć na względzie, że tak sformułowany przepis wyłącza możliwość podejmowania decyzji w tzw. trybie obiegowym, a więc pozostaje w kolizji z ust. 9 Uwaga uwzględniona Uwaga uwzględniona poprez zmianę treści przepisów projektu określających sposób i tryb wykonywania zadań przez Komisję. 84. Art. 9 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.” Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 85. Art. 9 ust. 2 Konfederacj a lewiatan Uwaga lub propozycja zmiany zapisu: 2. Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której podmiocie, którego są przedstawicielami. Uzasadnienie: Zmiana gramatyczna. Uwaga wyjaśniona Odstąpiono od regulacji w zakresie będącym przedmiotem uwagi. 86. Art. 9 ust. 2 KRRiT w art. 9 ust. 2 wyrazy „w podmiotu, której” zostały błędnie odmienione; Uwaga wyjaśniona Uwaga nieaktualna ze względu na zmianę treści przepisów projektu. 87. Art. 9 ust. 2 Rada Legislacyjna [Błąd redakcyjny w art. 9 ust. 2 Projektu] W przepisie art. 9 ust. 2 Projektu występuje błąd redakcyjno-językowy, utrudniający lekturę i zrozumienie tego przepisu. W obecnym brzmieniu przepis ten Uwaga wyjaśniona Odstąpiono od regulacji. 66 stanowi co następuje: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiotu, której są przedstawicielami.”. Ta ostatnia część zdania jest całkowicie ułomna gramatycznie i powinna zostać poprawiona w następujący sposób: „Na wniosek Przewodniczącego Komisji, członkowie Komisji przedstawiają działania w zakresie rozwijania, wprowadzania, stosowania, kontrolowania lub nadzorowania systemów sztucznej inteligencji w podmiocie, którego są przedstawicielami.”. 88. Art. 10 ust. 3 UNKF Zgodnie z art. 5 ust. 3 projektu: „Nadzór nad działalnością Biura Komisji sprawuje Prezes Rady Ministrów”. Konsekwencją takiego założenia jest regulacja, zgodnie z którą Prezes Rady Ministrów nadaje statut Biura Komisji (art. 31 projektu). Z kolei, art. 10 ust. 3 projektu ustawy przewiduje, że: „Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji nadany przez Prezesa Rady Ministrów w drodze zarządzenia”. Należy mieć jednakże na uwadze, że w skład przyszłej Komisji wchodzić będą również przedstawicieli organów spoza sfery administracji rządowej - Prezesa UODO, RPO, KRRiT, a także KNF. Wobec powyższego należałoby rozważyć, czy bardziej odpowiednim rozwiązaniem nie będzie przyznanie Komisji ustawowej podstawy do samodzielnego uchwalenia regulaminu, który określi jej organizację i tryb pracy. Uwaga wyjaśniona Uwaga bezprzedmiotowa w kontekście dokonania przez projektodawcę zmian w treści przepisów regulujących sprawowanie nadzoru nad Biurem Komisji (w nowej wersji będącym w kompetencji Ministra wł. Ds. informatyzacji). 89. Art. 11 ust. 1 pkt 13, art. 13, art. 14 oraz art. 16 Pracodawcy RP Artykuły 11 ust. 1 pkt 13, 13, 14 oraz 16 przewidują możliwość wydawania interpretacji i rekomendacji przez Komisję, co wykracza poza kompetencje określone w Akcie w sprawie sztucznej inteligencji. Proponowane przepisy mogą prowadzić do niejednolitego stosowania prawa unijnego. Akt o AI (art. 66 lit. e) przyznaje takie uprawnienia wyłącznie unijnej Radzie ds. AI, aby zapewnić spójność i skuteczność wdrażania przepisów na poziomie całej Unii Europejskiej. W celu uniknięcia potencjalnych rozbieżności w interpretacji Aktu o AI przez różne państwa członkowskie oraz niejasności w stosowaniu przepisów przez międzynarodowe przedsiębiorstwa działające w Polsce i innych krajach, zaleca się usunięcie tych zapisów z ustawy. Uwaga uwzględniona Odstąpiono od propozycji utworzenia instytucji interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 67 90. Art. 11 NCBR Tworzenie piaskownic regulacyjnych, które umożliwią firmom testowanie nowych rozwiązań SI w kontrolowanym środowisku, wymaga doprecyzowania i uszczegółowienia. Przepisy ustawy jedynie wspominają o ich tworzeniu jako kompetencji Komisji, jednak w brakuje jasnych zasad funkcjonowania tych piaskownic, które pozwolą przedsiębiorstwom testować innowacyjne technologie z zachowaniem niezbędnych zabezpieczeń prawnych. Dla przykładu możliwość tworzenia piaskownic regulacyjnych przewidziano w prawie energetycznym. Prezes URE ma możliwość zawieszenia stosowania określonych przepisów w stosunku do określonych przedmiotów. Jeżeli Komisja funkcjonuje jako regulator rynku SI, powinna mieć analogiczne możliwości zapewnione na poziomie ustawy. Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 91. Art. 11 ust 1 PUODO Podkreślenia wymaga na wstępie, że kluczowym atrybutem organu nadzorczego ds. ochrony danych osobowych w unijnym systemie ochrony danych jest jego niezależność, chroniona gwarancjami prawnymi czerpiącymi źródło w prawie UE (art. 16 TFUE oraz art. 8 KPP UE). Prawna ochrona niezależności organów ochrony danych osobowych ma na celu zapewnienie skuteczności i wiarygodności nadzoru przestrzegania przepisów dotyczących ochrony danych osobowych osób fizycznych i musi być interpretowana w świetle tego celu – na co wielokrotnie zwracał uwagę Trybunał Sprawiedliwości Unii Europejskiej5. Niezależność organu ochrony danych osobowych musi być rozpatrywana na kilku płaszczyznach, w tym przede wszystkim w aspekcie niezależności instytucjonalnej, czyli braku jakiejkolwiek podległości wobec innych organów oraz niezależności funkcjonalnej, czyli niepodlegania kontroli innych instytucji w zakresie realizacji swoich kompetencji6. Zwraca na to uwagę TSUE w swoim orzecznictwie, w szczególności w ww. wyroku w sprawie C- 614/10 Komisja przeciwko Austrii. Trybunał w tym wyroku wskazał, że organy nadzorcze w obszarze ochrony danych osobowych muszą pozostawać poza jakimkolwiek bezpośrednim czy pośrednim wpływem z zewnątrz, mogącym nadawać kierunek ich decyzjom. Z kolei w sprawie C- 288/12 Komisja przeciwko Węgrom Trybunał dodał, że nawet potencjalna możliwość wywarcia wpływu na decyzje organu Uwaga uwzględniona częściowo Kwestię niezależności organu ds. Ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu. 68 może być wystarczającą przeszkodą w niezależnym wykonywaniu zadań przez organ. Postanowienia aktu w sprawie sztucznej inteligencji w pełni przyjmują standard niezależności organu nadzorczego określony w rozporządzeniu 2016/679, wskazując w art. 2 ust. 7, że „Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Standard ten nie znalazł jednak wyrazu w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. Podkreślenia wymaga, że przyznanie wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej jako: Komisja) w zakresie „wykonywania zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689”, zgodnie z art. 11 ust. 1 pkt 7 projektu ustawy, oraz „sprawowania kontroli przestrzegania przepisów rozporządzenia 2024/1689”, zgodnie z art. 11 ust. 1 pkt 1 projektu ustawy, nie spełnia wymagań odnoszących się do zakresu kompetencji nadzorczych organu ds. ochrony danych osobowych określonych w prawie unijnym, w tym określonych wprost w rozporządzeniu 2024/1689 oraz rozporządzeniu 2016/679. To przepisy rozporządzenia 2016/679 stanowią podstawę dla nadzoru nad wszystkimi sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru w tej materii niezależnemu organowi nadzorczemu, tj. Prezesowi UODO. 92. Art 11 ust. 1 pkt 3-4 BGK Brak rozwinięcia w dalszej części Ustawy brzmienia tych zapisów, w jaki sposób, w jakim zakresie. Uwaga uwzględniona 69 Dokonano rozwinięcia przepisów będących przedmiotem uwagi (m.in. w rozdziale 8 - środki wspierające innowacyjność) 93. Art. 11 ust. 1 BGK Dodanie pkt 9: 9) prowadzenie badań w zakresie zastosowania sztucznej inteligencji w organizacjach, a także ewaluacji dla działań edukacyjnych mającej na celu weryfikację wpływu treści na podejmowane przez biznes działania; Poza szkoleniami i informowaniem powinna być jeszcze ewaluacja tych działań nastawiona na badanie wpływu podejmowanych działań Uwaga nieuwzględniona Obszar badań według projektodawcy mieści się w ramach innych zadań związanych m.in. z zapewnieniem odpowiedniego poziomu kompetencji w zakresie koniecznym do stosowania przepisów ustawy. 94. Art. 11 ust. 1 pkt 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 6. wydawanie postanowienia i decyzje postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji, o których mowa w Rozdziale 4 i Rozdziale 7 ustawy. Uzasadnienie: Pierwsza uwaga stanowi poprawkę gramatyczną. Katalog przypadków, kiedy Komisja może wydać decyzję powinien być jasno określony - zgodnie z zasadą pewności prawa. Uwaga częściowo uwzględniona 95. Art. 11 ust. 1 pkt 6 KRRiT w art. 11 ust. 1 pkt 6 wyrazy „postanowienia i decyzje” zostały błędnie odmienione; Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 96. Art. 11 ust. 1 pkt 6 UKNF Projektowany przepis stanowi, że: „Do zadań Komisji należy wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji”. Wydawanie decyzji i postanowień w sprawach dotyczących naruszeń przepisów ustawy jest jednakże formą, w której organ może realizować swoje kompetencje. Nie jest to jednakże samodzielne zadanie Komisji. Stąd też, UKNF poddaje pod rozwagę wykreślenie tego punktu bądź przyjęcie innej redakcji przepisu. Uwaga nieuwzględniona Zdaniem projektodawcy wskazany przepis powinien pozostać w projekcie ustawy w celu uniknięcia niejasności interpretacyjnych w stosowaniu nowego prawa. 97. Art. 11 ust. 1 pkt 6 Rada Legislacyjna [Usterka redakcyjna w art. 11 ust. 1 pkt 6 Projektu] Kolejna usterka redakcyjno- językowa występuje w art. 11 ust. 1 pkt 6 Projektu. Przepis ten stanowi, że „Do zadań Komisji należy [...] wydawanie postanowienia i decyzje w sprawach naruszenia Uwaga uwzględniona Uwaga o charakterze redakcyjnym. 70 przepisów o systemach sztucznej inteligencji”. W przepisie tym należy poprawić deklinację, poprzez użycie wyrazów „postanowień i decyzji” w dopełniaczu. W efekcie, poprawne językowo brzmienie tego przepisu powinno być następujące: „Do zadań Komisji należy [...] wydawanie postanowień i decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji” 98. Art. 11 ust. 1 pkt 10 UKNF Niejasnym jest posłużenie się sformułowaniem „gromadzenie orzecznictwa”. Wątpliwym jest bowiem, aby celem projektodawcy było zobowiązanie Komisji do archiwizowania orzeczeń sądowych. Celem przepisu jest raczej zobowiązanie do bieżącego monitorowania orzecznictwa, a następnie informowania o nim obywateli. W związku z powyższym UKNF wnosi o zmianę projektowanego przepisu poprzez zastąpienie pojęcia „gromadzenie orzecznictwa” pojęciem „monitorowanie orzecznictwa”. Uwaga uwzględniona Uwaga uwzględniona w art. 9 pkt. 10, w którym zrezygnowano z potencjalnie niejednoznacznego zobowiązania do “gromadzenia” orzecznictwa. 99. Art. 11 ust. 1 pkt 11 KRRiT w art. 11 ust. 1 pkt 11 uprawnienie Komisji zostało ujęte zbyt ogólnie i w sposób niejasny – warto rozważyć możliwość prowadzenia sprofilowanych na określony zakres regulacji piaskownic regulacyjnych, także przez Prezesa UODO, Prezesa UOKiK, Prezesa UKE oraz przez KRRiT; Uwaga uwzględniona Projekt ustawy został uzupełniony o rozdział 8 Środki wspierające innowacyjność zawierający przepisy dotyczące piaskownic regulacyjnych. 100. Art. 11 ust. 1 pkt 13 PUODO Interpretacje generalne i indywidualne. Zgodnie z art. 11 ust. 1 pkt 13 projektu ustawy do zadań Komisji należy dokonywanie interpretacji generalnych i indywidualnych. Wydawanie na zlecenie Komisji interpretacji generalnych i indywidualnych przez przedstawiciela Prezesa UODO będącego członkiem Komisji w opinii organu nadzorczego ds. ochrony danych budzi wątpliwości pod kątem stosowania art. 57 rozporządzenia 2016/679, w którym została określona niezależność. Prezes UODO nie może być związany interpretacją wydaną przez Komisję w kwestiach dotyczących ochrony danych osobowych. Uwaga uwzględniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 101. Art. 11 ust. 1 pkt 13 UKNF Zdaniem UKNF pojęcie „dokonywanie interpretacji” powinno zostać zastąpione pojęciem „wydawanie interpretacji”. Ponadto przepis wymaga ujednolicenia z zakresem art. 13 oraz z art. 14 projektu ustawy. Zgodnie bowiem z projektowanym art. 14 ust. 1 interpretacje w sprawie indywidualnej zastrzeżono do Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 71 zakresu zadań Przewodniczącego Komisji, a nie do Komisji działającej in gremio. 102. Art. 11 ust. 3 KRRiT w art. 11 ust. 3 błędnie odesłano do ust. 1; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 103. Art. 12 ust. 2 pkt 4 Rada Legislacyjna [Niepoprawne odwołanie się do pojęcia przedsiębiorstw w art. 12 ust. 2 pkt 4 Projektu] Przepis art. 12 ust. 2 pkt 4 Projektu odwołuje się do pojęcia „przedsiębiorstw”, podczas gdy prawidłowo powinna być w tym przepisie mowa o „przedsiębiorcach”. W aktualnym brzmieniu powołany przepis Projektu stanowi, że Komisja publikuje coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji „w przedsiębiorstwach w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (Dz. U. z 2024 r. poz. 236 i 1222)”. Tymczasem w tej powołanej ustawie Prawo przedsiębiorców nie tylko brak jest legalnej definicji pojęcia „przedsiębiorstw”, ale nawet samo to pojęcie w zasadzie w ogóle tam nie występuje (w ustawie tej mówi się co najwyżej o wyodrębnionej części przedsiębiorstwa). W ustawie Prawo przedsiębiorców kluczowe jest natomiast pojęcie „przedsiębiorcy”, zdefiniowane tam normatywnie w art. 4 ust. 1 i 2 (w zw. z art. 2). I właśnie do pojęcia „przedsiębiorców” powinien się docelowo odwoływać przepis art. 12 ust. 2 pkt 4 Projektu („u przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców”). Uwaga uwzględniona 104. Art. 13 ust. 1 BGK Propozycja: Komisja może opracowywać wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wytyczne, wyjaśnienia, opinie, stanowiska i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Wskazanie na dodatkowe rodzaje wydawanych dokumentów może być pomocne zarówno dla rynku jak i dla Komisji, w celu hierarchizowania poszczególnych dokumentów, tak by już na Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów (m.in. Poprzez rezygnację z kategorii “interpretacji”). 72 podstawie nazwy było wiadomo jaki dany dokument ma charakter 105. Art. 13 ust. 1 Rada Legislacyjna [Brak określenia skutków prawnych aktów Komisji w art. 13 ust. 1 Projektu] Art. 13 ust. 1 Projektu nie określa w ogóle skutków prawnych, jakie dla Komisji i dla zainteresowanych podmiotów będą wywierały wyjaśnienia, opinie i interpretacje, o których jest mowa w tym przepisie. Przepis ten stanowi co następuje: „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Wyjaśnienia, opinie i interpretacje są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji.”. Zdaniem Rady Legislacyjnej, bez przesądzenia w Projekcie o skutkach prawnych tego rodzaju wydawanych przez Komisję wyjaśnień, opinii i interpretacji (o charakterze generalno- abstrakcyjnym), ta instytucja prawna może nie mieć żadnego praktycznego znaczenia prawnego: jeżeli bowiem Komisja nie będzie się czuła związana tymi aktami (na zasadzie samozobowiązania się), zaś podmioty stosujące przepisy dotyczące systemów sztucznej inteligencji nie będą miały przekonania, iż te akty Komisji są dla niej wiążące i że mogą oni działać w zaufaniu do tychże aktów, bez ryzyka narażania się na sankcje z tytułu ich respektowania, to wówczas cała ta instytucja będzie jedynie fasadowa i będzie wręcz przynosiła więcej szkód niż pożytków (tzn. pojawi się chaos prawny, niepewność prawa, utrata zaufania jednostek do organów państwa, mnożące się roszczenia odszkodowawcze wobec państwa, itp.). Zdaniem Rady Legislacyjnej, de lege ferenda należy unormować status i skutki prawne wspomnianych generalnych aktów Komisji z art. 13 ust. 1 Projektu w sposób analogiczny do statusu i skutku objaśnień prawnych, o których jest mowa w art. 33 ust. 1 ustawy Prawo przedsiębiorców,15 a których skutki prawne wynikają z przepisów art. 35 ust. 1-2 w zw. z ust. 3 ustawy Prawo przedsiębiorców. Z tych ostatnich przepisów wynika, że objaśnienia prawne są z jednej strony wiążące dla organów państwa, które je wydały, zaś z drugiej strony nie wiążą one co prawda przedsiębiorców, w tym sensie, że nie obligują ich do postępowania wskazanego w danym objaśnieniu prawnym, ale Uwaga uwzględniona Problematyka skutków prawnych opinii (w miejsce “interpretacji”) indywidualnych oraz wyjaśnień jest przedmiotem zmian w nowej treści przepisów (nowe brzmienie art. 11-14). 73 równocześnie w zakresie, w jakim przedsiębiorca zastosował się do danych objaśnień prawnych nie może on być obciążony jakimikolwiek sankcjami administracyjnymi, finansowymi lub karami.16 Na gruncie art. 13 ust. 1 Projektu należałoby sformułować podobną regułę w odniesieniu do przewidzianych tam wyjaśnień, opinii i interpretacji Komisji, względnie też należałoby odesłać do odpowiedniego stosowania w tym zakresie odnośnych przepisów ustawy Prawo przedsiębiorców. 106. Art. 13 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę modyfikację fragmentu „wyjaśnienia, opinie i interpretacje”. Brak jest bowiem przepisów określających charakter tych wypowiedzi Komisji, co może budzić wątpliwości na etapie ich stosowania. Uwaga wyjaśniona Uwaga nieaktualna z uwagi na zmianę treści przepisów art. 11-14. 107. Art. 13 ust. 2 PFR Warto rozważyć uregulowanie sposobu publikacji i ewentualnego zanonimizowania danych wrażliwych, co zapewniłoby lepszą ochronę prywatności. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą anonimizowane. 108. Art. 13 ust. 2 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Ponadto w ten sposób na szeroką skalę ujawniony zostanie również sposób działania organu nadzoru. Urząd Komisji Nadzoru Finansowego rekomenduje przyjęcie zasad odnośnie do publikowania informacji o decyzjach przykładowo na kształt art. 87 ustawy z dnia 15 grudnia 2017 r. o dystrybucji ubezpieczeń bądź art. 3c ust. 5 i następne ustawy o nadzorze nad rynkiem finansowym. Uwaga nieuwzględniona Wyjaśnienie: publikowane decyzje będą pozbawione treści prawnie chronionych. 109. Art.14 KRRiT W art. 14 nie określono jaki charakter ma mieć interpretacja wydawana przez Przewodniczącego Komisji, w szczególności nie wskazano czy będzie ona wiążąca i dla kogo, ponadto należałoby rozważyć dookreślenie kręgu podmiotów uprawnionych do wystąpienia z wnioskiem o wydanie interpretacji; Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 110. Art. 14 ust. 1-7 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przepisy art. 14 ust. 1-5 projektu ustawy nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach. Przepisy tego rodzaju ustawodawca przewidział np. w art. 35 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców (dalej jako: „Prawo przedsiębiorców”) w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 74 Prawa przedsiębiorców, czy też w art. 14k ustawy z dnia 29 sierpnia 1997 r. - Ordynacja podatkowa (dalej jako: „Ordynacja podatkowa”). Ponadto UKNF proponuje rozważyć dodanie przepisu określającego, w jakich sytuacjach odmawia się wydania interpretacji indywidualnej, który mógłby wyłączać dopuszczalność wniosków o interpretację indywidualną lub tych elementów wniosku o interpretację indywidualną, które w dniu złożenia wniosku są objęte kontrolą Komisji lub postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub zostały już rozstrzygnięte co do istoty. Taki przepis zabezpieczałby Komisję przed wydawaniem interpretacji w sprawach wątpliwych, które byłyby dopiero przedmiotem badania przez Komisję i jednocześnie zapobiegałby sytuacjom, w których podmiot naruszający przepisy lub stwarzający określone ryzyka naruszeń uzyskiwałby korzystną dla siebie interpretację. Taki sposób zabezpieczenia przewidują przepisy Ordynacji podatkowej – art. 14b oraz przepisy ustawy o nadzorze nad rynkiem finansowym – art. 11b ust. 10. Ponadto, w ocenie UKNF, doprecyzować należy również, jakie są skutki uwzględnienia bądź nieuwzględnienia sprzeciwu, o którym mowa w art. 14 ust. 7 projektu ustawy. Zasadnym byłoby również doprecyzowanie, czy rozstrzygnięcie wydane w ramach rozpatrzenia sprzeciwu może zostać zaskarżone, a jeżeli tak, jaki organ byłby właściwy do rozpoznania takiego środka zaskarżenia. 111. Art. 14 ust. 1-5 Rada Legislacyjna Brak określenia skutków prawnych interpretacji z art. 14 ust. 1-5 Projektu] Przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych, jakie dla Komisji i dla podmiotów zainteresowanych będą miały interpretacje indywidualne, o których jest mowa w tych przepisach Projektu. Istota tychże interpretacji wyraża się w tym, że „Przewodniczący Komisji, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 oraz ustawy” (art. 14 ust. 1 Projektu) oraz że „Interpretacja, o której mowa w ust. 1, zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 75 oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.” (art. 14 ust. 5 Projektu). Podobnie jak w przypadku generalno- abstrakcyjnych wyjaśnień, opinii i interpretacji, o których jest mowa w art. 13 ust. 1 Projektu, również w przypadku interpretacji indywidualnych przewidzianych w art. 14 ust. 1-5 Projektu nie zostały w Projekcie określone skutki prawne tych interpretacji dla wnioskodawcy oraz dla Komisji, chociażby w sposób dokonany przez ustawodawcę w art. 35 ustawy Prawo przedsiębiorców w odniesieniu do interpretacji indywidualnych, o których jest mowa w art. 34 ustawy Prawo przedsiębiorców. W odniesieniu do skutków interpretacji indywidualnych z art. 14 ust. 1-5 Projektu reguły określone w art. 34-35 ustawy Prawo przedsiębiorców nie mogą być stosowane wprost, gdyż, po pierwsze, przepisy art. 34-35 ustawy Prawo przedsiębiorców mają zastosowanie tylko do interpretacji w sprawach fiskalno-składkowych (tj. interpretacje te dotyczą wyjaśnienia co do zakresu i sposobu stosowania przepisów, z których wynika obowiązek świadczenia przez przedsiębiorcę daniny publicznej lub składek na ubezpieczenia społeczne lub zdrowotne, w jego indywidualnej sprawie), podczas gdy interpretacje indywidualne z art. 14 ust. 1-5 Projektu dotyczą nie tylko tego rodzaju spraw, a po drugie nie zawsze o interpretację do Przewodniczącego Komisji musi się zwracać przedsiębiorca w rozumieniu ustawy Prawo przedsiębiorców. Niemniej jednak, zdaniem Rady Legislacyjnej, w Projekcie należy unormować skutki prawne interpretacji indywidualnych z art. 14 ust. 1-5 Projektu w sposób analogiczny lub zbliżony do skutków interpretacji indywidualnych z ustawy Prawo przedsiębiorców. Przyjęcie tego stanowiska oznaczałoby, że interpretacje indywidualne z art. 14 ust. 1-5 Projektu są wiążące dla Komisji, a nie są wiążące dla wnioskodawcy (tj. dla podmiotu wnioskującego o interpretację Komisji w jego indywidualnej sprawie); ten ostatni może daną interpretację indywidualną zlekceważyć (pominąć), z tym, że jeżeli wnioskodawca zastosuje się do danej interpretacji w jego indywidualnej sprawie, to nie może on następnie ponieść negatywnych skutków tego stanu rzeczy, w szczególności zaś nie może zostać obciążony sankcjami za zachowanie zgodne z 76 uzyskaną interpretacją wydaną przez Przewodniczącego Komisji. 112. Art. 14 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na rozbieżność pomiędzy art. 14 ust. 1 a art. 11 ust. 1 pkt 13 i art. 15 projektu ustawy. W art. 11 ust. 1 pkt 13 projektu ustawy wskazano bowiem, że do zadań Komisji należy wydawanie interpretacji indywidualnych i generalnych; w art. 15 projektu ustawy, że to Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych, a z kolei zgodnie z aktualnym brzmieniem art. 14 ust. 1 projektu ustawy uprawnienie to, w zakresie interpretacji indywidualnych, przysługuje Przewodniczącemu Komisji. Niezbędnym wydaje się wyjaśnienie i ujednolicenie tej kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 113. Art. 14 ust. 1 PFR Nie określono, jak długo wnioskodawca ma oczekiwać na wydanie interpretacji. Wyznaczenie maksymalnych terminów oczekiwania byłoby korzystne dla przejrzystości procesu. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 114. Art. 14 ust. 1 IAB Polska Rekomendujemy dodanie terminu za wydanie takiej interpretacji, aby zarówno podmiot zainteresowany, jak i Komisja (por. poniższy akapit) poruszali się w tym zakresie w ramach konkretnego zakresu czasowego. W tym zakresie można wykorzystać przepisy dot. Komisji Nadzoru Finansowego z art. 11b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym. Biorąc pod uwagę powyższe, interpretację powinna wydawać Komisja, a nie przewodniczący, biorąc pod uwagę wzorowanie się na już obecnych zasadach funkcjonowania Komisji Nadzoru Finansowego. Jednocześnie powinien zostać przewidziany tryb odwołania od decyzji Komisji ws. interpretacji indywidualnej na wzór skargi do sądu administracyjnego na indywidualną interpretację podatkową (np. do SOKiK). Wskazany w art. 14 ust. 1 projektu ustawy tryb przypomina tryb wydawania interpretacji podatkowych. O ile pozytywnie należy ocenić, że Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) może wspierać uczestników rynku w interpretowania AI Actu (patrz jednak zastrzeżenie dot. fragmentaryzacji prawa poniżej), o tyle zwracamy uwagę, że tryb interpretacji indywidualnych może być nieefektywny. Interpretacja będzie wydawana jako decyzja administracyjna, a więc chronić będzie tylko adresata decyzji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 77 To może prowadzić do tego, że pomimo publikacji interpretacji w BIP, KRiBSI zostanie zarzucona wnioskami o interpretacje (bo każdy podmiot podlegający pod AI Act będzie chciał być chroniony we własnym zakresie). Dla praktyki rynkowej ważniejsze mogą być więc interpretacje wydawane z urzędu - skoro jednak podmioty będą miały tryb indywidualny wnioskowania o interpretację, praktyka może wyglądać jak w przypadku podatkowych interpretacji ogólnych - będą rzadkie. W związku z tym postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. Niemniej, chcemy zwrócić uwagę, że instytucja interpretacji przepisów AI Act na poziomie lokalnym nie znajduje uzasadnienia w samym AI Act. Zgodnie z AI Act to unijna Rada ds. AI może wydawać zalecenia i opinie “na temat wszelkich istotnych zagadnień związanych z wdrażaniem rozporządzenia”. Rozwiązanie przyjęte w Projekcie rodzi ryzyko znacznej fragmentaryzacji prawa unijnego, które będzie różnie interpretowane w państwach członkowskich. Zasadne byłoby, w przypadku decyzji o utrzymaniu tej instytucji, opracowanie procesów gwarantujących spójność interpretacji ze stanowiskami Rady ds. AI lub innymi organami na poziomie państw członkowskich. 115. Art. 14 ust. 1 Konfederacj a Lewiatan Rekomendacja uzupełnienia: Komisja, na wniosek zainteresowanego, wydaje, w jego indywidualnej sprawie, interpretację przepisów rozporządzenia 2024/1689 lub ustawy. Interpretację indywidualną wydaje się bez zbędnej zwłoki, jednak nie później niż w terminie 45 dni od dnia złożenia wniosku o jej wydanie. Niewydanie interpretacji w powyższym terminie uważa się za potwierdzenie stanowiska zainteresowanego, który wystapił z wnioskiem o jej wydanie. Interpretacja Komisji nie jest wiążąca dla zainteresowanego i Komisji, z zastrzeżeniem że działania tego podmiotu w Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 78 zakresie, w jakim zastosował się do interpretacji Komisji, nie mogą stanowić podstawy do nałożenia przez Komisję administracyjnej kary pieniężnej ani wydania decyzji, o których mowa w art. 55 ustawy. Uzasadnienie: Projekt przewiduje wydawanie interpretacji przez Przewodniczącego - dlaczego nie całą Komisję - celem ustanowienia nowego organu kolegialnego jest zapewnienie różnych kompetencji, dlatego nie jest uzasadnione aby interpretacje wydawał sam Przewodniczący. Organem nadzoru rynku jesrt Komisja nie Przewodniczący (por. przepisy o KNF). To sztuczna konstukcja - pozornej dwuinstancyjności. Spójnik \"lub\" zgodnie z nauką logiki pozwala na wydanie interpretacji w sprawach albo ustawy i Rozporządzania albo każdego z tych aktów oddzielnie. Nie określono terminu na wydanie interpretacji - jest to niezbędne, aby przedsiębiorca wiedział jak długo będzie czekał na taki dokument. Zastosowanie się do interpretacja indywidualnej nie powinno powodować żadnych sankcji ani negatywnych skutków dla przedsiębiorcy. Postulujemy, żeby wskazać, że uprawnionymi do składania wniosków o interpretacje są nie tylko podmioty bezpośrednio podlegające pod AI Act, ale również organizacje zrzeszające takie podmioty (stowarzyszenia, fundacje, izby gospodarcze). Możliwość otrzymania przez nie interpretacji na rzecz ich członków ułatwi zapewnienie zgodności z AI Actem, a zarazem pozwoli uniknąć \"zatkania\" KRiBSI mają podobnych wniosków o interpretację. 116. Art. 14 ust. 2 PFR Proponujemy doprecyzowanie formy składania tego wniosku, wydania interpretacji oraz składania sprzeciwu od tej interpretacji. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 117. Art. 14 ust. 3 Rzecznik MŚP Wnoszę o rozważenie wykreślenia: przesłanki \"wyczerpującego przedstawienia zaistniałego stanu faktycznego albo zdarzenia przyszłego” zawartej w art. 14 ust. 3 Projektu, w celu pozyskania interpretacji w indywidualnej sprawie przepisów rozporządzenia 2024/1689? w świetle ustawy Prawo przedsiębiorców. Tak Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 79 sformułowana przesłanka może być zbyt rygorystyczna i sprzeczna z przesłankami uzyskania takiej interpretacji określonymi w art. 34 ust. 1 i 3-4 Prawa przedsiębiorców. W tym kontekście ze względu na wprowadzenie przesłanki „wyczerpania”, uzasadniona może być obawa o nadużywanie jej w celu zbyt łatwej możliwości odrzucania wniosków o interpretacje indywidualne przedsiębiorców, zwłaszcza, że powstają dopiero pierwsze systemy sztucznej inteligencji i uregulowania ich dotyczące; wymóg przedstawiania w sposób „wyczerpujący” tanu faktycznego albo zdarzenia przyszłego można uznać zasadniczo za barierę sprzeczną z art. 67 pkt 1 i 4 oraz art. 68 Prawa przedsiębiorców, 118. Art. 14 ust. 5 BGK Propozycja „5. Komisja wydaje interpretację, o której mowa w ust. 1, w ciągu 30 dni od dnia otrzymania wniosku. Interpretacja zawiera wyczerpujący opis przedstawionego we wniosku stanu faktycznego lub zdarzenia przyszłego oraz ocenę stanowiska wnioskodawcy wraz z uzasadnieniem prawnym tej oceny. Można odstąpić od uzasadnienia prawnego, jeżeli stanowisko wnioskodawcy jest prawidłowe w pełnym zakresie.”. Dodanie terminu 30 dni na wydanie interpretacji przez Komisję jest uzasadnione potrzebą zapewnienia sprawnego funkcjonowania administracji oraz ochrony interesów wnioskodawców. Wprowadzenie takiego przepisu zwiększa efektywność działania organu, zapewnia pewność prawną i jest zgodne z zasadami dobrej administracji oraz praktyką legislacyjną. Dzięki temu zarówno Komisja, jak i wnioskodawcy zyskują klarowne ramy czasowe dla swoich działań, co pozytywnie wpływa na relacje między organami publicznymi a obywatelami i podmiotami gospodarczymi. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 119. Art. 14 ust. 5 Konfederacj a Lewiatan Przepis wymaga doprecyzowania terminu wydawania interpretacji, skutków jej wydania oraz czy jest wiążąca w określonym stanie faktycznym. Zwiększy to jasność i precyzję przepisu, co zapewni pewność prawną. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 120. Art. 14 po ust. 5 BGK Dodanie ustępu 5a: Uwaga wyjaśniona 80 5a. W przypadku, gdy Komisja nie wyda interpretacji w terminie wskazanym w ust. 5, stanowisko wnioskodawcy uznaje się za prawidłowe w pełnym zakresie. Dodanie ustępu 5a ma na celu wzmocnienie ochrony praw wnioskodawców poprzez wprowadzenie jasnych konsekwencji dla organu w przypadku niedotrzymania terminu wydania interpretacji. Mechanizm ten promuje terminowość i efektywność działania Komisji, zwiększa pewność prawną oraz zaufanie obywateli do instytucji publicznych. Jest to rozwiązanie zgodne z zasadami demokratycznego państwa prawnego, praktykami legislacyjnymi w innych dziedzinach prawa oraz standardami dobrej administracji. Podobny mechanizm funkcjonuje w prawie podatkowym, gdzie brak odpowiedzi organu podatkowego w określonym terminie oznacza akceptację stanowiska podatnika. Jest to ugruntowana praktyka, która zapewnia równowagę między interesami państwa a prawami obywateli. Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 121. Art. 14 ust. 6 i 7 Konfederacj a Lewiatan Sprzeciw od interpretacji w terminie 14 dni od jej doręczenia. Uzasadnienie: Ustawa nie określa: • formy w jakiej ma być złożony wniosek, do kogo składa się wniosek o wydanie interpretacji; • do kogo składa się sprzeciw, formy w jakiej składa się sprzeciw ani w jakiej formie sprzeciw ma być rozpatrzony - to tez ma być uchwała? • formy doręczenia interpretacji i sprzeciwu. A KPA nie przewiduje takiej instytucji jak interpretacja czy sprzeciw od niej, więc nie można przyjąc, że ma odpowiednie zastosowanie w sprawach niuregulowanych bo nie reguluje tych kwestii. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień. 122. Art. 14 ust. 6 i 7 Rada Legislacyjna [Brak przesądzenia o formie prawnej rozstrzygnięcia oraz o drodze sądowej w art. 14 ust. 6-7 Projektu] Przepisy art. 14 ust. 6-7 Projektu nie przesądzają o formie prawnej przewidzianego tam rozstrzygnięcia przez Komisje sprzeciwu oraz nie mówią nic o tym, czy od rozstrzygnięcia przez Komisję tego sprzeciwu wnioskodawcy przysługuje środek zaskarżenia przed sądem. Sprzeciw, o którym jest mowa w art. 14 ust. 6-7 Projektu Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 81 przysługuje wnioskodawcy wobec uzyskanej w jego indywidualnej sprawie interpretacji wydanej przez Przewodniczącego Komisji, przy czym sprzeciw wnioskodawcy jest rozpatrywany przez całą Komisję. W Projekcie nie określono formy prawnej rozstrzygnięcia przez Komisję wspomnianego sprzeciwu, a w efekcie nie wiadomo, czy ma to następować w formie decyzji, postanowienia lub innego aktu Komisji. W efekcie, nie jest też przesądzona możliwość oraz forma (droga) zaskarżenia przez wnioskodawcę rozstrzygnięcia Komisji w sprawie jego sprzeciwu. Gdyby rozstrzygnięcie omawianego sprzeciwu następowało w formie decyzji lub postanowienia Komisji, to wówczas otwarta byłaby w tych sprawach droga sądowa przed sądem administracyjnym, choć teoretycznie można by wówczas postulować de lege ferenda również możliwość wniesienia, odpowiednio, odwołania lub zażalenia do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (dalej: „SOKiK”), tak jak o tym wyraźnie przesądzono w art. 57 ust. 1 Projektu w odniesieniu do decyzji Komisji kończących postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 („Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”). Gdyby natomiast rozstrzygnięcie przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu, następowało w formie innego aktu lub czynności niż decyzja lub postanowienie, to wówczas teoretycznie akt taki można by zaskarżyć do sądu administracyjnego na podstawie art. 3 § 2 pkt 4 ustawy z dnia 30 sierpnia 2002 r. Prawo o postępowaniu przed sądami administracyjnymi.17 Ten ostatni przepis pozwala zaskarżać do sądu administracyjnego „inne niż określone w pkt 1-3 akty lub czynności z zakresu administracji publicznej dotyczące uprawnień lub obowiązków wynikających z przepisów prawa”. Jednakże możliwość wykorzystywania tego przepisu do otwarcia drogi sądowej od rozstrzygnięcia przez Komisję sprzeciwu w sprawach interpretacji indywidualnych nie jest wcale taka pewna, gdyż, jak jest o tym mowa wyżej w punkcie II.10 niniejszej opinii, przepisy art. 14 ust. 1-5 Projektu nie określają skutków prawnych wywieranych przez interpretacje indywidualne wydawane przez Przewodniczącego Komisji, a 82 zatem nie wiadomo, czy rozstrzygnięcia Komisji w sprawie sprzeciwu od interpretacji dotyczą „uprawnień lub obowiązków wynikających z przepisów prawa” w rozumieniu art. 3 § 2 pkt 4 ustawy Prawo o postępowaniu przed sądami administracyjnymi. W przekonaniu Rady Legislacyjnej, w przepisach Projektu należy określić zarówno formę prawną rozstrzygnięcia przez Komisję sprzeciwu, o którym jest mowa w art. 14 ust. 6-7 Projektu (np. decyzja lub postanowienie Komisji), jak też środek (drogę) zaskarżenia tego rozstrzygnięcia (np. skarga do sądu administracyjnego albo odwołanie lub zażalenie do SOKiK). 123. Art. 14 ust. 6 Konfederacj a Lewiatan Przewodniczący Komisji wchodzi w skład Komisji, więc wydaje interpretację i potem rozpatruje od niej odwołanie. Zapewnienie dwuinstanycjności jest więc fikcyjne. Bardziej prawidłowe byłoby więc może po prostu ponowne rozpatrzenie sprawy przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 124. art. 14 ust. 7 BGK Propozycja: „7. Komisja rozpatruje sprzeciw, o którym mowa w ust. 6, w terminie 3 miesięcy od dnia wyrażenia sprzeciwu przez wnioskodawcę. Do rozpatrzenia sprzeciwu przepis ust. 5a stosuje się odpowiednio.” Dodanie zdania odwołującego się do ustępu 5a w ustępie 7 ma na celu wprowadzenie spójnego i efektywnego mechanizmu prawnego, który chroni wnioskodawcę przed negatywnymi skutkami opieszałości Komisji przy rozpatrywaniu sprzeciwu. Jest to logiczne rozszerzenie wcześniejszych zmian wprowadzonych w art. 5 i 5a, mające na celu zapewnienie jednolitych standardów proceduralnych oraz wzmocnienie zaufania obywateli do instytucji publicznych. Mechanizm ten promuje terminowość i efektywność działania organu, zapewniając jednocześnie wnioskodawcom pewność prawną i ochronę ich praw. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 125. Art. 14 ust. 7 PFR Wskazane jest uregulowanie procedury odwoławczej poprzez umożliwienie rozpatrzenia sprawy przez odpowiedni sąd po złożeniu skargi. Uwaga wyjaśniona Uwaga nieaktualna – w nowej wersji projektu dokonano modyfikacji przepisów w zakresie będącym przedmiotem uwagi. 83 126. Art. 15 i art. 13 ust. 1 Rada Legislacyjna [Brak czytelnej różnicy pomiędzy przepisami art. 13 ust. 1 i art. 15 Projektu] Nie do końca wiadomo, czym różnią się od siebie w sensie normatywno-prawnym instytucje unormowane w art. 13 ust. 1 Projektu (z jednej strony) oraz w art. 15 Projektu (z drugiej strony). Jak była już o tym mowa, art. 13 ust. 1 zd. 1 Projektu stanowi, że „Komisja może opracowywać wyjaśnienia, opinie i interpretacje mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji.”. Z kolei art. 15 Projektu stanowi, że „Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy.”. Kwalitatywna różnica pomiędzy obu wskazanymi instytucjami prawnymi jest absolutnie nieczytelna (w obu przypadkach chodzi w istocie o generalne akty interpretacyjne wydawane przez Komisję i przedstawiające jej stanowisko w sprawie interpretacji przepisów Rozporządzenia UE 2024/1689 lub Projektu), przy czym w art. 15 Projektu, tak samo jak w art. 13 i 14 Projektu, nie określono skutków prawnych interpretacji generalnych wydawanych przez Komisję. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 127. art. 15 BGK Propozycja: Art. 15. Komisja z urzędu lub na wniosek może dokonywać interpretacji generalnych w postaci wytycznych, wyjaśnień, opinii, stanowisk i interpretacji w zakresie przepisów rozporządzenia 2024/1689 oraz ustawy. Interpretacje generalne nie są wiążące dla osób, wobec których stosuje się ustawę, z tym, że taka osoba nie może być obciążona sankcjami administracyjnymi, finansowymi lub karami w zakresie, w jakim zastosował się do interpretacji generalnej. Zmiana przepisu polega na rozszerzeniu form interpretacji generalnych, które Komisja jest uprawniona wydawać, oraz na wprowadzeniu ochrony prawnej dla podmiotów stosujących się do tych interpretacji. Wprowadzenie różnych form interpretacji (wytycznych, wyjaśnień, opinii, stanowisk) umożliwia Komisji bardziej precyzyjne i dostosowane do potrzeb komunikowanie swojego stanowiska, co sprzyja prawidłowemu stosowaniu przepisów rozporządzenia i ustawy. Dzięki temu podmioty zyskują większą pewność prawną i mogą bez obaw kierować się wytycznymi Komisji, co przyczynia się do jednolitości Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 84 stosowania prawa. Ponadto zapewnienie ochrony przed sankcjami dla osób stosujących się do interpretacji generalnych zachęca do ich przestrzegania i wzmacnia zaufanie do organów administracji publicznej. 128. Art. 15 Konfederacj a Lewiatan Podobnie jak w przypadku art. 14 ust. 5, przepis wymaga doprecyzowania Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14). 129. Art. 16 IAB Polska Biorąc pod uwagę publiczność interpretacji – rekomendujemy wprowadzenie procedury wykluczania z publikacji informacji stanowiących tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 130. Art. 16 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 16. Interpretacje, o których mowa w art. 14 i art. 15 ustawy, po usunięciu danych identyfikujących wnioskodawcę, tajemnicy przedsiębiorstwa, jak również innych informacji podlegających ochronie na podstawie odrębnych przepisów, zamieszczane są w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Co oznacza pojęcie \"dane identyfikujące wnioskodawcę\" - w niektórych przypadkach opis stanu faktycznego (systemu AI) może zawierać elementy objęte tajemnicą przedsiębiorstwa a w takim przypadku nie powinny być one upublicznione. Przepis powinien więc określać uprawnienie zainteresowanego do oznaczenia informacji, które nie powinny zostać upublicznione i Komisja powinna także takie dane utajnić. Uwaga wyjaśniona Odstąpiono od interpretacji indywidualnych i generalnych na rzecz opinii indywidualnych i wyjaśnień (art. 11-14) 131. Art. 17 ust. 1 KRRiT w art. 17 ust. 1 w pkt 3 i 4 wskazano, że roczne sprawozdanie Komisji w zakresie zadań realizowanych przez Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz w zakresie realizacji rocznego planu finansowego mają dotyczyć roku poprzedzającego złożenie sprawozdania (w pkt. 3 wskazano na rok poprzedzający, a w pkt. 4 odniesiono się do roku kalendarzowego poprzedzającego), natomiast pkt 1 i 2 przepisu nie posiada takiego doprecyzowania – wątpliwości interpretacyjne może budzić fakt, czy kwestie wskazane w pkt 1 i 2 przepisu mają dotyczyć roku poprzedzającego złożenie Uwaga uwzględniona Treść przepisów rozróżnia obowiązki sprawozdawcze dotyczące roku poprzedzającego złożenie sprawozdania, a także obowiązki dotyczące przedstawienia informacji nt. wszystkich lat działalności Komisji. 85 sprawozdania, tym bardziej, że zdanie wprowadzające do wyliczeń nie odnosi się do tej kwestii; 132. Art. 18 NCBR W wątpliwość należy poddać, czy ujęte w przepisach art. 18 ust. 2 pkt 4 kompetencje Przewodniczącego Komisji są wystarczające do pełnienia tej funkcji. Istotne jest, aby była to osoba o wysokich kompetencjach merytorycznych oraz dłuższym aniżeli trzyletnie doświadczeniu w zakresie objętym ustawą. Uwaga wyjaśniona Przepis otrzymał nowe brzmienie, natomiast ze względu na nowatorski charakter aktualnie rozwijanych i stosowanych technologii sztucznej inteligencji zachowano wymóg 3 lat pracy na stanowisku kierowniczym. 133. Art. 18 ust. 2 pkt 4 BGK Propozycja: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa sztucznej inteligencji oraz doświadczenie zawodowe uzyskane w trakcie pracy naukowej, pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa lub technologii informacyjnych; Propozycja dookreślenia gałęzi prawa w jakiej przewodniczący Komisji powinien mieć specjalizację (nie zaś np. w prawie rodzinnym etc.). Uwaga nieuwzględniona Zdaniem projektodawcy nie należy dokonywać wskazanego dookreślenia. 134. Art. 18 ust. 2 pkt 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji lub prawa w obszarze projektów z zakresu technologii informacyjnych, w tym wdrażania rozwiązań sztucznej inteligencji oraz posiada doświadczenie zawodowe uzyskane w trakcie pracy naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, cyberbezpieczeństwa, technologii informacyjnych, sztucznej inteligencji; Uzasadnienie: Jeśli Przewodniczący miałby pełnić też samodzielną rolę - w tym wydawać interpretacje indywidualne oraz mieć decydujący głos przy podejmowaniu uchwał to nie wystarczy, że będzie miał wiedzę w zakresie szeroko pojętego prawa - jeslo nie będzie to wiedza specjalistyczna. Pojęcie znaczącego dorobku jako bardzo niedookreślone i ocenne nie jest transparentne, powinno być więc usunięte. Jednak osoba taka niekoniecznie musi pracować w podmiocie wykonującycm działalność w obszarach wskazanych, co sugeruje że przedmiotem działalności tego podmiotu są te obszary, bo równie dobrze można pracować w Uwaga nieuwzględniona Zdaniem projektodawcy nie ma konieczności dokonania wskazanych zmian ze względu na bliskie znaczenie obu wersji projektowanego przepisu. 86 firmie farmaceutycznej w dziale IT/R&D i mieć większą wiedzę i doświadczenie w projektach sztucznej inteligencji. 135. Art. 20 NCBR Postępowanie na stanowisko Przewodniczącego przeprowadza trzyosobowa komisja kwalifikacyjna, która ocenia kompetencje kierownicze kandydata na Przewodniczącego, alternatywnie wspomagając się tym zewnętrznym ekspertem (art. 20 ust. 4 i 5). W ustawie brakuje informacji, jakie rzeczywiste kompetencje do oceny kandydatów na Przewodniczącego Komisji powinny posiadać osoby oceniające kandydatów. Uwaga nieuwzględniona Zmiana sposobu powołania przewodniczącego Komisji na rzecz powołania przez Sejm za zgodą Senatu. 136. Art. 20 Konfederacj a Lewiatan Zapytanie: Oznacza to, że w ciągu 6 dni od wejścia w życie ustawy (por. art. 83 i 84) Pełnomocnik określi siedzibę Biura, utworzona zostanie strona internetowa Biura - czy to wykonalne? 137. Art. 20 ust. 2 IAB Polska W celu promocji dobrych praktyk rynkowych oraz dla celów transparentności Komisji – rekomendujemy dodanie punktu tworzącego obowiązek przekazania danych o wynagrodzeniu Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w art. 15 ust. 2 pkt. 6. 138. Art. 20 ust. 2 pkt 5 KRRiT w art. 20 ust. 2 pkt 5 powinno się nadać brzmienie: „5) wymagane dokumenty”; Uwaga uwzględniona 139. Art. 20 ust. 5 KRRiT w art. 20 ust. 5 błędnie odesłano do ust. 3; Uwaga uwzględniona 140. Art. 20 ust. 5 PFR Wydaje się, iż w tym miejscu powinno być odwołanie do kompetencji z ust. 4. Wskazany ust. 3 nie mówi o żadnych kompetencjach. Uwaga uwzględniona 141. Art. 20 ust. 5 UKNF Urząd Komisji Nadzoru Finansowego wskazuje na błędne odwołanie w treści przepisu. O wiedzy i kompetencjach kierowniczych jest bowiem mowa w art. 20 ust. 4 projektu ustawy, a nie w ust. 3 jak wskazano w projektowanym przepisie. Przepis w ust. 3 stanowi o terminie składania dokumentów. Niezbędna jest korekta w zakresie odesłania do prawidłowej jednostki redakcyjnej (ust. 4). Uwaga uwzględniona 142. Art. 20 ust. 8 KRRiT w art. 20 ust. 8 katalog informacji zawartych w protokole z przeprowadzonego naboru powinien zostać uzupełniony o informację o niewyłonieniu kandydata, zwłaszcza, że protokół zawierać ma informację o powodach niewyłonienia kandydata; Uwaga uwzględniona Uwaga uwzględniona w art. 18 ust. 11 pkt 5 143. Art. 20 ust. 8 UKNF Ustęp ten dotyczy informacji ujawnianych w protokole komisji kwalifikacyjnej z przeprowadzonego naboru na stanowisko Uwaga nieuwzględniona 87 Przewodniczącego Komisji. W art. 20 ust. 5 projektu ustawy wskazano na możliwość uczestnictwa w ocenie wiedzy i kompetencji kierowniczych kandydata na stanowisko Przewodniczącego Komisji osoby niebędącej członkiem komisji kwalifikacyjnej. W ocenie UKNF zasadnym byłoby, aby w sytuacji uczestnictwa takiej osoby, była ona także wskazana w ww. protokole obok składu komisji kwalifikacyjnej, tak aby protokół odpowiadał stanowi faktycznemu i uwzględniał wszystkie osoby rzeczywiście zaangażowane w proces wyboru Przewodniczącego Komisji. 144. Art. 23 ust. 1 KRRiT w art. 23 ust. 1 błędnie odesłano do art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce; Uwaga uwzględniona 145. Art. 23 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce, do którego odwołuje się art. 23 ust. 1 projektu ustawy, nie zawiera wykazu stanowisk, lecz wykaz podmiotów składających się na system szkolnictwa wyższego i nauki (tj.: uczelnie, PAN, instytuty naukowe, instytuty badawcze itd.). Z tego względu niezbędne jest przeredagowanie niniejszego przepisu, tak aby odpowiadał wskazanemu odesłaniu. Uwaga uwzględniona 146. Art. 23 ust. 1 IAB Polska Treść art. 7 ust. 1 ustawy z 20.7.2018 r. - Prawo o szkolnictwie wyższym i nauce nie zawiera określenia stanowisk w systemie szkolnictwa wyższego i nauki, a wykaz podmiotów ten system tworzących. Tym samym należy zmienić wskazany przepis i określić, że chodzi o stanowisko w ramach ww. podmiotów lub też wymienić określone stanowiska wprost w przepisie, czyli tak jak dokonano tego np. przy okazji regulowania sytuacji prawnej Prezesa Urzędu Ochrony Konkurencji i Konsumentów (por. art. 29 ust. 3aa ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów). Uwaga uwzględniona 147. Art. 23 ust. 1 Rada Legislacyjna [Błąd merytoryczno-językowy w art. 23 ust. 1 Projektu] W art. 23 ust. 1 Projektu występuje niepoprawne odwołanie się do pojęcia „stanowiska, o którym mowa [w] art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce” („Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska, o którym mowa art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”). Tymczasem w art. 7 ust. 1 ustawy Prawo o szkolnictwie wyższym i nauce nie Uwaga uwzględniona 88 ma bynajmniej mowy o jakichkolwiek „stanowiskach”, natomiast zostały tam wymienione podmioty tworzące w Polsce system szkolnictwa wyższego i nauki (np. uczelnie, Polska Akademia Nauk, itp.). W związku z powyższym Rada Legislacyjna proponuje nadać tej części przepisu art. 23 ust. 1 Projektu następujące brzmienie: „Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji nie mogą zajmować innego stanowiska, z wyjątkiem stanowiska w podmiocie, o którym mowa w art. 7 ust. 1 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce”. 148. Art. 23 ust. 2 KRRiT w art. 23 ust. 2 wyrazy „jego funkcji” należy zastąpić wyrazami „ich funkcji”; Uwaga uwzględniona 149. Art. 23 ust. 2 `OPZZ OPZZ uważa ponadto, że powołanie Społecznej Rady do spraw Sztucznej Inteligencji, w której składzie znajdą się związki zawodowe, nie stanowi wystarczającego rozwiązania w kontekście zapewnienia rzeczywistego wpływu pracowników na rozwój i regulację technologii opartych na sztucznej inteligencji. Społeczna Rada będzie pełnić jedynie rolę opiniodawczo- doradczą Komisji, a jej decyzje i rekomendacje nie będą miały mocy wiążącej, co ograniczy realne możliwości wpływania na kształt przepisów i rozwiązań technologicznych, które bezpośrednio dotyczą środowiska pracy. Zauważamy, że kluczowe decyzje będą zapadać na poziomie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w której reprezentacja związków zawodowych powinna mieć pełnoprawny udział. Wnioskowane przez OPZZ rozwiązanie to jedyny sposób na zagwarantowanie, że sztuczna inteligencja stanie się narzędziem wspierającym rozwój pracy, a nie narzędziem prowadzącym do jej dehumanizacji i ograniczenia praw pracowniczych. Uwzględniona nieuwzględniona Z powodu zmiany organizacji Komisji (Państwowa Inspekcja Pracy jako stały członek Komisji) oraz przepisów regulujących działanie Społecznej Rady sprawy rynku pracy i ochrony praw pracowników według projektodawców będą miały zapewnioną odpowiednią reprezentację. 150. Art. 24 OPZZ Pragnę zwrócić także uwagę, że w ocenie OPZZ pracownicy Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinni być zatrudnieni wyłącznie w oparciu o umowę o pracę, co zapewni pełną niezależność i przejrzystość działań Biura Komisji. Uważamy, że w administracji publicznej powinny dominować umowy o pracę. Taki model zatrudnienia jest niezbędny dla utrzymania najwyższych standardów pracy, które są kluczowe w instytucji odpowiedzialnej za nadzór nad Uwaga nieuwzględniona Ze względu na specyfikę sektora technologii sztucznej inteligencji taki wymóg mógłby wpłynąć negatywnie na możliwości budowy zespołów o wymaganych kompetencjach. Kwestie potencjalnego ryzyka takiego rozwiązania adresowane są poprzez przepisy mówiące o zakazie konfliktu interesów. 89 zaawansowanymi technologiami, jakimi są algorytmy i systemy sztucznej inteligencji. Zatrudnienie w oparciu o umowy cywilnoprawne, takie jak umowy zlecenia czy umowy o dzieło, ze względu na swój charakter, może budzić wątpliwości co do pełnej niezależności zatrudnionych osób, zwłaszcza w przypadku zadań o kluczowym znaczeniu dla państwa. 151. Art. 25 ust. 3, art. 27 oraz art. 61 Pracodawcy RP Ustawa nie zapewnia wystarczających zabezpieczeń chroniących poufność danych pozyskiwanych przez Komisję, co może negatywnie wpłynąć na interesy przedsiębiorstw i ich partnerów. Członkowie Komisji posiadają szerokie uprawnienia do przetwarzania i udostępniania informacji objętych tajemnicą prawnie, co stanowi poważne zagrożenie dla prywatności firm. Proponujemy wprowadzenie ograniczeń w zakresie udostępniania i przetwarzania informacji stanowiących tajemnicę przedsiębiorstwa. W szczególności, przetwarzanie danych poufnych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, zgodnie z wymogami artykułu 78 ustęp 2 Aktu o AI, aby zapewnić równowagę między potrzebami regulacyjnymi a ochroną interesów firm. Uwaga nieuwzględniona Wymóg możliwości przetwarzania danych jest konieczny dla zapewnienia stosowania przepisów. Jednocześnie, kwestie poufności i bezpieczeństwa informacji gwarantowane są przez odpowiednie przepisy dot. poufności, przetwarzania i gromadzenia danych osobowych czy odpowiedniego poziomu zabezpieczenia środków komunikacji. 152. Art. 25 ust. 1-3 KRRiT w art. 25 ust. 1-3 wskazano na „tajemnice prawnie chronione”, przy czym termin ten obejmujące ponad 60 kategorii, w tym także informacje niejawne, podczas gdy uzyskanie dostępu do informacji niejawnych od poufnych wzwyż wiąże się z koniecznością posiadania odpowiedniego poświadczenia wydawanego, co do zasady, przez ABW; Uwaga wyjaśniona Treść przepisu uległa zmianie. 153. Art. 25 ust. 1 UKNF Artykuł25 ust. 1 projektowanej ustawy wskazuje podmioty zobowiązane zachować w poufności „tajemnice prawnie chronione”. Nie jest jasne, czy przepis dotyczy wyłącznie informacji chronionych na podstawie innych ustaw, czy też tworzy nowy rodzaj tajemnicy. Koniecznym jest zweryfikowanie, czy przepis ten nie utrudni wymiany informacji na podstawie rozporządzenia 1689/2024 oraz projektowanej ustawy w zakresie m.in. postępowania przed KRiBSI, notyfikacji jednostek oceniających zgodność oraz udzielania autoryzacji. W ocenie UKNF określony w art. 25 ust. 1 projektu ustawy obowiązek zachowania tajemnicy nie jest wystarczający. Z Uwaga częściowo uwzględniona Uwaga zaadresowana przez doprecyzowanie w nowej wersji projektu kategorii informacji, które podlegają ochronie. Według projektodawcy z treści przepisów nie wynika potrzeba utworzenia nowej kategorii przepisów prawnie chronionych, a przepisy projektu odnoszą się do danych objętych ochroną na podstawie obowiązujących przepisów (ochrona danych osobowych, tajemnica przedsiębiorstwa). 90 przepisu tego wynika, że wymienione tu osoby są zobowiązane do zachowania w tajemnicy „tajemnicy prawnie chronionej”. Przez „tajemnicę prawnie chronioną” rozumieć należy określone informacje, które za tajemnicę uznają przepisy prawa. W związku z tym, z przepisu tego (art. 25 ust. 1) wynika obowiązek zachowania w poufności wyłącznie tych informacji, którym określone przepisy prawa (ustawy) przyznają status informacji objętych tajemnicą, np. tajemnica ubezpieczeniowa, tajemnica korespondencji, czy tajemnica agencyjna. Natomiast w stosunku do innych informacji nie ma wymogu zachowania ich w tajemnicy, co dotyczy w szczególności informacji uzyskanych przez Komisję i pracowników Biura Komisji w trakcie sprawowania nadzoru nad podmiotami podlegającymi takiemu nadzorowi. Tym bowiem informacjom przepisy prawa nie przyznają statusu tajemnicy. Takie informacje nie muszą więc podlegać poufności. W ocenie UKNF zasadne jest rozważenie zmiany podejścia. Co prawda, projektowany przepis art. 25 został zbudowany w sposób analogiczny do art. 16 ustawy o nadzorze finansowym. Nie sposób jednak tracić z pola widzenia, że rzeczony art. 16 odsyła do tajemnic prawnie chronionych określonych w ustawach sektorowych, których odrębne przepisy stanowią o tajemnicach nadzoru poszczególnych sektorów rynku finansowego. Stanowią one, że informacje pozyskane i wytworzone w związku z wykonywaniem czynności nadzorczych stanowią tajemnicę prawnie chronioną. Analogicznej regulacji nie sposób zdekodować z projektowanych przepisów. W związku z powyższym, UKNF poddaje pod rozwagę, aby przepis ten konstruował nowy rodzaj tajemnicy nadzoru nad systemami AI. Warto rozważyć jego utworzenie na zasadzie analogicznej jak art. 10a ust. 1 i 2 ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe, który to przepis stanowi, że: „Przewodniczący Komisji Nadzoru Finansowego, jego zastępcy, członkowie Komisji Nadzoru Finansowego, pracownicy Urzędu Komisji Nadzoru Finansowego i osoby zatrudnione w Urzędzie Komisji Nadzoru Finansowego na podstawie umowy o dzieło, umowy zlecenia albo innych umów o podobnym charakterze, są obowiązani do zachowania tajemnicy zawodowej. Natomiast za tajemnicę zawodową uznaje „wszystkie uzyskane lub 91 wytworzone w związku ze sprawowaniem nadzoru bankowego informacje, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą lub utrudnić sprawowanie nadzoru bankowego.”. 154. Art. 25 ust. 2 UOKIK Projektowany przepis nie precyzuje czy informacje, które mogą być wzajemnie przekazywane w ramach prac Komisji to informacje uzyskane wyłącznie w związku z wykonywaniem zadań w Komisji, czy też wszystkie informacje, także prawnie chronione, które członkowie Komisji posiadają w związku z wykonywaniem działalności w ramach poszczególnych jednostek, w których są zatrudnieni. W związku z powyższym należy doprecyzować przepis poprzez zawężenie go do informacji uzyskanych w toku prac Komisji. Jeżeli jednak zamiarem projektodawcy jest umożliwienie wymiany wszystkich informacji, w tym prawnie chronionych, w posiadaniu których są członkowie Komisji, to niezębne pozostaje wyłączenie z takiej możliwości przedstawiciela Prezesa Urzędu Ochrony Konkurencji i Konsumentów. Obowiązujące Prezesa Urzędu Ochrony Konkurencji i Konsumentów przepisy ustawy z dnia 16 lutego 2007 r. o ochronie konkurencji i konsumentów (Dz. U. poz. 594, z późn. zm.), zwanej dalej „uokk”, zawierają ścisłe ograniczenia co do możliwości przekazywania innym podmiotom (w tym innym organom) informacji pozyskanych w ramach postępowań prowadzonych na jej podstawie. Przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach.1 Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych Uwaga uwzględniona Doprecyzowano treść przepisu uwzględniając ograniczenie zakresu informacji objętych jego treścią. W nowej wersji (art. 23) według projektodawcy przepisy są zgodne z wskazanym w uwadze (art. 73 uokik), co zapewni możliwość współpracy między organami w zakresie określonym w ustawie i rozporządzeniu 2024/1689. 92 przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności.2 Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Zgodnie z nim, informacje pozyskane w toku postępowań prowadzonych na podstawie ustawy mogą być wykorzystane wyłącznie w przypadku: 1) postępowania karnego prowadzonego w trybie publicznoskargowym lub postępowania karno-skarbowego; 2) innych postępowań prowadzonych przez Prezesa Urzędu; 3) wymiany informacji z Komisją Europejską i organami ochrony konkurencji państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr 1/2003/WE; 4) wymiany informacji z Komisją Europejską i właściwymi organami państw członkowskich Unii Europejskiej na podstawie rozporządzenia nr2017/2394; 5) przekazywania właściwym organom informacji, które mogą wskazywać na naruszenie odrębnych przepisów; 6) postępowania cywilnego o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji w rozumieniu ustawy z dnia 21 kwietnia 2017 r. o roszczeniach o naprawienie szkody wyrządzonej przez naruszenie prawa konkurencji (Dz. U. poz. 1132) - w zakresie, w jakim przepisy wymienionej ustawy zezwalają na wykorzystanie informacji, o których mowa w ust. 1. Dodatkowo, zgodnie z art. 73 ust. 3 uokk Prezes Urzędu udostępnia organom regulacyjnym w dziedzinie rynku usług telekomunikacyjnych i pocztowych oraz gospodarki paliwami i energią oraz Przewodniczącemu Komisji Nadzoru Finansowego informacje, w tym wyniki badań i analiz rynkowych, niezbędne w postępowaniach prowadzonych przez te organy, z wyjątkiem informacji: 1) co do których obowiązek zachowania poufności wynika z zobowiązań 93 międzynarodowych, w szczególności informacji uzyskanych w toku postępowań wszczętych na podstawie art. 101 lub art. 102 TFUE; 2) których mowa w art. 70 ust. 1 i 2 Ustawy (oświadczenia składane w ramach programu łagodzenia kar oraz w ramach procedury dobrowolnego poddania się karze pieniężnej). Wobec powyższych ograniczeń projektowany art. 25 ust. 2 pozostaje w kolizji z obwiązującymi przepisami uokk. 155. Art. 25 ust. 3 UKNF W przepisie tym wskazano, komu członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, czy informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. przykładowo czy Przedstawiciel KNF uprawniony będzie do przekazania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 6 ust. 3 projektu ustawy. Uwaga nieuwzględniona Zmiana treści przepisów regulujących uprawnienia w zakresie gromadzenia, przetwarzania i wymiany informacji między członkami Komisji oraz pracownikami Biura Komisji. 156. Art. 25 ust. 3 Konfederacj a Lewiatan Zdaniem KL to uprawnienie powinno być ograniczone do przygotowania opinii lub stanowisk związanych z pracami Komisji nad systemami służącymi do wykonywania zadań publicznych. Brak uzasadnienia do przekazywania tajemnicy prawnie chronionej wskazanym podmiotom w szerszym zakresie, zwłaszcza, że są przepisy, które pozwalają na uzyskanie przez takie podmioty potrzebnych informacji w określonym trybie. Uwaga w zw. z art. 43 ust. 1 pkt. 2 Osoby upoważnione przez Przewodniczącego Komisji do przeprowadzenia kontroli, opisane w art. 43 ust. 1 pkt. 2 projektu ustawy powinny podlegać takim samym obowiązkom ochrony tajemnicy prawnie chronionej jak pracownicy Komisji. Wymaga to dopisania ich (w postanowieniach art. 25) do kręgu podmiotów zobowiązanych do zachowania takiej tajemnicy, a jeśli intencją ustawodawcy było, aby osobami upoważnionymi wymienionymi w art. 43 ust. 1 pkt 2 projektu mogły być jedynie osoby pochodzące od podmiotów wymienionych w art. 25 Uwaga uwzględniona Zmiana treści przepisu uwzględniająca podnoszony w uwadze wymóg (art. 40 ust. 9). 94 projektu - wyraźnie wskazanie tego w treści art. 43 ust. 1 pkt. 2 projektu. 157. Art. 25 ust. 3 BGK Propozycja: 3. Członkowie Komisji mogą udostępniać informacje uzyskane w związku z ich uczestnictwem w pracach Komisji, w tym tajemnice prawnie chronione, uprawnionym pracownikom podmiotu, o którym mowa w art. 64 ust. 3 ustawy, a także funkcjonariuszom, żołnierzom i pracownikom Agencji Bezpieczeństwa Wewnętrznego, Policji, Prokuratury, Agencji Wywiadu, Służby Kontrwywiadu Wojskowego, Służby Wywiadu Wojskowego oraz Centralnego Biura Antykorupcyjnego, w ramach obowiązków służbowych oraz w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji, z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga częściowo uwzględniona Tryb uzyskiwania informacji będących przedmiotem uwagi podmiotom właściwym w obszarze zwalczania i przeciwdziałania przestępczości oraz zapewnieniu bezpieczeństwa publicznego określony jest w nowej treści przepisów art. 22. 158. Art. 25 ust. 3 ZPP W tym samym obszarze uwagę zwraca art. 25 ust. 3 uprawniający członków Komisji do udostępniania informacji uzyskanych w związku z uczestnictwem w pracach organu, w tym również tajemnic prawnie chronionych, funkcjonariuszom, żołnierzom i pracownikom m.in. ABW, CBA, SKW, policji, czy prokuratury. Wydaje się, że projektodawca przewidział zbyt słabe gwarancje ochrony tajemnic przedsiębiorstwa i innych prawnie chronionych informacji wrażliwych. Przesłanki udostępnienia informacji (bardzo szczątkowe i ogólne – ma się to odbywać „w ramach obowiązków służbowych” i „w zakresie niezbędnym dla przygotowania opinii lub stanowisk pozostających w bezpośrednim związku z pracami Komisji”), a także ich nieograniczony przedmiotowo zakres oraz szeroki Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na modyfikację przepisów w aktualnej wersji projektu ustawy. 95 katalog podmiotów, którym informacje mogą te być udzielone, budzą nasze daleko idące wątpliwości. 159. Art. 25 ust. 3 IAB Polska Na podstawie tego postanowienia nie jest jasne, jakie rodzaje opinii lub stanowisk bezpośrednio związanych z pracą Komisji wymagałyby udostępnienia informacji poufnych wskazanym w przepisie organom. Takie udostępnianie informacji nie wynika z treści AI Act. Tym samym przepis należałoby usunąć (i pozostawić do wprowadzenia w ew. nowelizacji ustawy niezwiązanej z wdrażaniem AI Act) lub dookreślić w zakresie podstawy z AI Act, która wskazywałaby na zasadność i konieczność jego wprowadzenia w ustawie wdrażającej to unijne rozporządzenie. Alternatywnie zwracamy uwagę, że aktualna wersja projektu nie zapewnia odpowiedniego poziomu ochrony informacji chronionych, co stanowi poważne zagrożenie dla prywatności podmiotów gospodarczych. Przetwarzanie danych powinno być ściśle ograniczone do niezbędnych i odpowiednio uzasadnionych przypadków, tak jak ma to miejsce w art. 78 ust. 2 AI Act. Podobną uwagę należy zgłosić także w kontekście art. 27 oraz art. 61 Projektu. Uwaga wyjaśniona Przepis został zmodyfikowany w oparciu o uwagę w celu doprecyzowania obowiązków w zakresie ochrony danych będących tajemnicą przedsiębiorstwa. 160. Art. 26 KRRiT art. 26 ust. 1, 5 i 6 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; Uwaga uwzględniona 161. Art. 26 ust. 1 PUODO Wątpliwości budzi art. 26 ust. 1 projektu ustawy, który stanowi, że „W celu realizacji zadań, o których mowa w art. 11 ust. 1, Komisja przetwarza dane osobowe, obejmujące także dane określone w art. 9 ust. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 [...], w zakresie i w celu niezbędnym do realizacji tych zadań”. Wskazać należy, że obowiązek administratora w kwestii zabezpieczenia danych osobowych na mocy rozporządzenia 2016/679 dotyczy wszystkich danych osobowych (a nie jedynie danych szczególnych kategorii). Wskazanie w projekcie tego wymogu w odniesieniu wyłącznie do danych szczególnej kategorii jest zbędne i może prowadzić do wątpliwości interpretacyjnych w zakresie zabezpieczania danych zwykłych. Projektodawca nie powinien różnicować zabezpieczania danych ze względu na ich kategorię. Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej werjsi przepisów (art. 23-24). Zmiana terminów używanych w przepisie (aktualna treść art. 23-24) odpowiada na uwagę dot. potencjalnie wybiórczego wskazania w przepisie kategorii danych osobowych. 162. Art. 26 ust. 3 pkt 1 PFR Proponujemy nadać następujące brzmienie: Uwaga uwzględniona 96 „dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221)” 163. Art. 26 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 3. Komisja przetwarza dane osobowe pozyskane w związku z nadzorem nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych rozumieniu ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej (Dz. U. 2024 poz. 1221); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. - Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024r. Prawo komunikacji elektronicznej (Dz. U. 2024 poz 1221), dalej „PKE”; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu „PKE”; 5) gromadzone przez podmioty publiczne w związku z realizacją zadań publicznych. Uzasadnienie: Dane objęte tajemnicą komunikacji elektronicznej są szczególnie chronione w polskim systemie prawnym i Komisja nie może mieć do nich dostępu. Dane te mogą zostać ujawnione sądowi w postępowaniu karnym lub prokuratorowi po uprzednim wydaniu postanowienia o zwolnieniu dostawcy usług komunikacji elektronicznej z takiej tajemnicy a także uprawnionym organom powołanym do ochrony bezpieczeństwa Uwagi uwzględnione Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag i znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 97 Państwa i porządku publicznego. Udostępnienie takich chronionych danych Komisji, wytworzy zły precedens, dotychczas nie stosowany w naszym systemie prawnym. Do takich danych nie ma np. dostępu Sąd w postępowaniu cywilnym a miałyby być udostępniane Komisji. To z byt daleko idące uprawnienie, nie mające racjonalnego uzasadnienia. Dodatkowo zwracamy uwagę na brzmienie art. 78 ust. 2 rozporządzenia, które upoważnia właściwe organy do żądania „wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień”, jak również na brzmienie motywu 167 do rozporządzenia. Wymagają one odpowiedniego zbalansowania uprawnień Komisji (oraz pozostałych zaangażowanych organów) z prawami i interesami przedsiębiorców w kontekście dostępu do informacji i danych, w tym danych osobowych. 164. Art. 26 ust. 5 PUODO Projektodawca nie uzasadnił 5-letniego terminu określonego w art. 26 ust. 5 projektu ustawy dotyczącego usuwania lub anonimizowania przez Komisję danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji. Zgodnie z zasadą ograniczenia przechowywania, o której mowa w art. 5 ust. 1 lit. E rozporządzenia 2016/67911 projektowany przepis wymaga analizy i wyjaśnienia, bowiem dane powinny być przechowywane przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Nie przesądzono, czy dotyczy to przechowywania danych osobowych w związku z prowadzonymi postępowaniami czy realizacją innych zadań Komisji. Projektodawca nie bierze pod uwagę także stosowania przepisów o archiwizacji, którym podlegać będą dokumenty wytwarzane i opracowywane w ramach działania tego organu publicznego. Uwaga uwzględniona Termin ten jest najkrótszym terminem niezbędnym dla realizacji celu – skutecznego sprawowania nadzoru nad rozwijającym się rynkiem systemów AI. Ponadto, zobowiązanie do regularnego (co 2 lata) przeglądu danych pod kątem ich niezbędności pozwoli ograniczyć ryzyka związane z przechowywaniem nadmiernych ilości danych, w tym danych osobowych. 165. Art. 26 ust. 6 PUODO jak wynika z projektowanego art. 26 ust. 6, w celu realizacji zadań określonych w rozporządzeniu 2024/1689 i projektowanej ustawie Komisja i pracownicy podmiotów, o których mowa w art. 7 ust. 2, mogą przekazywać sobie wzajemnie dane, o których mowa w ust. 3, w zakresie niezbędnym do realizacji tych zadań i współpracować z organem nadzorczym ds. ochrony danych Uwaga uwzględniona Przepisy dot. przetwarzania danych osobowych zostały zmodyfikowane po zbiorczej analizie zgłoszonych w tym zakresie uwag według projektodawcy znajdują odzwierciedlenie w aktualnej wersji przepisów (art. 23-24). 98 osobowych. Jednocześnie w rozdziale 3 projektu ustawy zawarte są regulacje, które mają określać zasady przeprowadzania kontroli przez Komisję, mającej na celu ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania przepisów rozporządzenia 2024/1689 i ustawy z tymi przepisami. Przepis w obecnym brzmieniu jest niezrozumiały, wymagający wyjaśnienia z perspektywy zasady rozliczalności nad danymi osobowymi gromadzonymi w różnych systemach. Pracownicy podmiotów nie mogą przekazywać sobie danych, bo to nie oni są administratorami danych. 166. Art. 26 ust. 6 PFR Przepis reguluje kwestię wymiany danych pomiędzy Komisją i podmiotami, o których mowa w art. 7 ust. 2 Ustawy, ale brakuje konkretnych procedur i zasad tej współpracy oraz zapewnienia zgodności z RODO. Prosimy o rozważenie możliwości wprowadzenia przepisów wskazujących na transparentność oraz kontrolę nad przetwarzaniem danych osobowych. Uwaga uwzględniona 167. Art. 26 ust. 7 RPO Przepis ten zwalnia Komisję oraz podmioty, o których mowa w art. 7 ust. 2 ustawy, z realizacji niektórych obowiązków wynikających z rozporządzenia Parlamentu Europejskiego i Rady UE 2016/679 i Rady UE 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1 ze zm.; dalej też jako: RODO) podczas przetwarzania danych, o których mowa w art. 26 ust. 3 ustawy, czyli m.in. danych osobowych pozyskanych w związku z nadzorem nad systemami sztucznej inteligencji dotyczących użytkowników systemów informacyjnych oraz użytkowników telekomunikacyjnych urządzeń końcowych. Wśród tych obowiązków, z których zwolniona może być Komisja i wskazane w przepisie podmioty, znajdują się obowiązki, o których stanowi art. 15 (prawo dostępu do danych), art. 16 (prawo do sprostowania danych), art. 18 ust. 1 lit. a (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych) i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie Uwaga uwzględniona Zmiana treści przepisu. Należy również zgodzić się z uwagą dot. Równoległego stosowania przepisów projektowanej ustawy i rozporządzenia 2024/1689 z przepisami prawa ochrony danych osobowych, czego według projektodawcy odzwierciedleniem są przepisy projektu. 99 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych) RODO. Warunkiem zwolnienia z ww. obowiązków jest uznanie, że ich realizacja uniemożliwiłaby wypełnienie zadań Komisji, przy czym ustawodawca nie zawęził we wskazanym przepisie celów przetwarzania danych do realizacji jedynie określonych zadań. Podkreślenia jednocześnie wymaga, że zadania Komisji, o których stanowi art. 11 ust. 1 projektowanej ustawy, zakreślone zostały w sposób szeroki i obejmują nie tylko sprawowanie kontroli przestrzegania przepisów aktu o AI4 , ale także np. realizację projektów edukacyjnych czy prowadzenie działań informacyjnych. Art. 26 ust. 7 projektowanej ustawy pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika, dlaczego projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Tymczasem w art. 2 ust. 7 aktu o AI wskazano, że „[p]rawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Dodatkowo z motywu 10 aktu o AI wynika, że „[p]odstawowe prawo do ochrony danych osobowych jest gwarantowane w szczególności przez rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywę Parlamentu Europejskiego i Rady (UE) 2016/680. (...). Te unijne akty prawne stanowią podstawę zrównoważonego i odpowiedzialnego przetwarzania danych, w tym w przypadku gdy zbiory danych zawierają połączenie danych osobowych i nieosobowych. Celem niniejszego rozporządzenia nie jest wpływanie na stosowanie obowiązującego prawa Unii regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do 100 monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów AI wiąże się z przetwarzaniem danych osobowych, niniejsze rozporządzenie nie wpływa też na wynikające z prawa Unii lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Należy również wyjaśnić, że osoby, których dane dotyczą, zachowują wszystkie prawa i gwarancje przyznane im na mocy takiego prawa Unii. w tym prawa związane z całkowicie zautomatyzowanym podejmowaniem decyzji w indywidualnych sprawach, w tym z profilowaniem. Ustanowione w niniejszym rozporządzeniu zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI powinny ułatwiać skuteczne wdrażanie i umożliwiać korzystanie przez osoby, których dane dotyczą, z praw i innych środków ochrony prawnej zagwarantowanych na podstawie prawa Unii dotyczącego ochrony danych osobowych i innych praw podstawowych”. Skoro zatem sam akt o AI nie przewiduje wyłączenia stosowania przepisów rozporządzenia 2016/679, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu o AI i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 168. Art. 26 ust. 7 PUODO Wyłączenie stosowania przepisów rozporządzenia 2016/679. Zgodnie z art. 26 ust. 7 projektu ustawy, „Przetwarzanie przez Komisję i podmioty, o których mowa w art. 7 ust. 2 ustawy, danych, o których mowa w ust. 3, nie wymaga realizacji obowiązków wynikających z art. 15, art. 16, art. 18 ust. 1 lit. a i d oraz art. 19 zdanie drugie rozporządzenia 2016/679, jeżeli uniemożliwiłoby to realizację zadań Komisji”. Zwrócić uwagę należy, że wyłączenia stosowania przepisów rozporządzenia 2016/679 przewidziane są jedynie w treści art. 13, 14 i 17 rozporządzenia 2016/679. Każde wyłączenie, aby mogło być uznane za mające rację bytu, musi wynikać z obowiązujących przepisów prawa, a jednocześnie – dla równowagi ograniczania pewnych Uwaga uwzględniona w części Zmiana treści przepisu zawężająca zakres wyłączenia stosowania przepisów rozporządzenia 2016/679 dokonana w sposób łączny (nowa wersja art. 26) na podstawie innych uwag dot. przetwarzania danych osobowych dla celów realizacji obowiązków wynikających z rozporządzenia 2024/1689. 101 elementów praw podstawowych – muszą być zapewnione odpowiednie instrumenty prawne dla poszanowania praw jednostki. Z kolei ewentualne ograniczenia stosowania rozporządzenia 2016/679 mogą następować w dość szerokim, ale nie w pełnym zakresie oraz tylko o ile spełnione zostaną warunki z art. 23, w szczególności dla zapewnienia poważnych celów, o których stanowi art. 23 ust. 1 rozporządzenia 2016/679. Całkowite wyłączenie praw osób, których dane dotyczą nie jest zatem dopuszczalne ani na gruncie na gruncie rozporządzenia 2016/679, choć jest możliwe ich ograniczenie. Bez wątpienia zatem proponowany przepis projektu ustawy powinien być na nowo przeanalizowany w celu zapewnienia zgodności przepisów krajowych z zasadami wynikającymi z art. 23 rozporządzenia 2016/679 i jego treścią, zwłaszcza, że art. 2 ust. 7 zdanie drugie aktu w sprawie sztucznej inteligencji wprost wskazuje, że „Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia”. Skoro akt w sprawie sztucznej inteligencji nie określa w sposób szczegółowy praw osób, których dane dotyczą, zastosowanie będą w tym zakresie mieć przepisy rozporządzenia 2016/679, co jedynie oznacza, że ww. omawiana propozycja musi być przedmiotem ponownej, szczegółowej analizy i korekty jeśli przepisy nowej ustawy mają być jasne i przejrzyste 169. Art. 26 ust. 9 PUODO Wątpliwości budzi proponowane brzmienie art. 26 ust. 9 w związku z ukształtowanym w projekcie ustawy statusem Biura Komisji i samej Komisji. Analizy i określenia wymaga status tych podmiotów w procesach przetwarzania danych (któremu podmiotowi należy przypisać status administratora oraz w jakim zakresie), co w związku z funkcjonalną definicją administratora wynikać powinno przede wszystkim z precyzyjnie określonych w projektowanych przepisach zadań i kompetencji. Uwaga uwzględniona Zmiana poprzez modyfikację art. 22, w szczególności ust. 1, 4 oraz art. 23 ust. 1). 170. Art. 27 ust. 1 BGK Propozycja: Komisja, pracownicy Biura Komisji, oraz osoby prowadzące czynności kontrolne zgodnie z przepisami ustawy przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak potrzeby nadregulacji – kwestia prawa do dostępu do dokumentów chronionych tajemnicą w obszarze istotnym dla 102 dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. działalności Komisji uregulowane są w przepisach odrębnych (np. w zakresie działalności policji, prokuratury, agencji wywiadowczych). 171. Art. 27 ust. 1 IAB Polska Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 172. Art. 27 ust. 1 Konfederacj a Lewiatan Postulujemy doprecyzowanie co obejmuje \"tajemnica prawnie chroniona\", tj. np. ustawy branżowe, postępowania karne. Zwracamy uwagę, że tak sformułowany przepis może być niewystarczający do udostępnienia informacji stanowiących \"tajemnicę prawnie chronioną\" na podstawie odrębnych ustaw (np. prawa bankowego). Uwaga nieuwzględniona Brak uwzględnienia ze względu na ryzyko nadregulacji. 173. Art. 28-Art. 30 RPD Jako Rzeczniczka Praw Dziecka aprobuję propozycję utworzenia Społecznej Rady do spraw Sztucznej Inteligencji przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Rada”). Powołanie Rady pozwoli uwzględnić różnorodne opinie i potrzeby społeczeństwa w przedmiocie organizacji nadzoru nad systemami sztucznej inteligencji. Zwracam jednak uwagę, że w aktualnym brzmieniu projektowanej ustawy nie określono wyraźnie zakresu zadań Rady ograniczając się jedynie do wskazania, że jest ona „organem opiniodawczo– doradczym Komisji” (planowany art. 28 ust. 1 ustawy o systemach SI), a do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję (art. 30 ust. Uwaga częściowo uwzględniona Propozycja rozszerzenia roli Rady zostały uwzględnione zbiorczo i znajdują odzwierciedlenie w aktualnym brzmieniu przepisów określających zadania Rady (art. 27). Dodatkowo, zmianie uległy zasady rozliczania kosztów udziału w posiedzeniach Rady oraz kategoria podmiotów uprawnionych do zgłaszania kandydatów (uwzględniająca urząd RPD). 103 1 ustawy o systemach SI). Podobnie w uzasadnieniu do ustawy o systemach SI projektodawca skazuje jedynie, że „do zadań Społecznej Rady będzie należało przede wszystkim wyrażanie opinii i stanowisk w sprawach przekazanych jej przez Komisję”. Nieokreślony wystarczająco zakres zadań może budzić wątpliwości co do przejrzystości i efektywności działań Rady, co może osłabić zaufanie publiczne do tej instytucji. Proponuję, aby art. 30 ustawy o systemach SI określał w szczególności następujące działania jako zadania Rady: a) monitorowanie rozwoju sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; b) monitorowanie rozwoju prawodawstwa dotyczącego systemów sztucznej inteligencji w Unii Europejskiej i poza nią oraz ocena związanych z tym możliwości i wyzwań dla Polski; c) świadczenie Komisji doradztwa w zakresie klasyfikacji ryzyka różnych modeli i systemów AI; d) opiniowanie projektów dokumentów organów i instytucji Unii Europejskiej ws. systemów sztucznej inteligencji; e) opiniowanie przekazanych przez Komisję projektów aktów prawnych i innych dokumentów ws. systemów sztucznej inteligencji; f) inicjowanie działań w obszarze ochrony osób, na których systemy sztucznej inteligencji mają wpływ oraz przedstawianie Komisji propozycji zmian prawa w tym obszarze; g) wyrażanie opinii w sprawach przedstawionych Radzie przez Komisję; h) wykonywanie innych zadań zleconych przez Komisję. Warto podkreślić, że katalog zadań Rady nie powinien mieć charakteru zamkniętego. Krajowy ustawodawca tworząc organy opiniodawczo-doradcze działające przy innych organach nadzoru (np. Prezesie Urzędu Ochrony Danych Osobowych) określa zakres ich zadań. Także w przypadku przywołanego przez projektodawcę w uzasadnieniu ustawy o systemach SI ciała eksperckiego z uprawnieniami konsultowania prac 104 utworzonego w Austrii - Beirat für KI - określono katalog zadań tego gremium w akcie prawnym o randze ustawowej. Kolejne moje wątpliwości dotyczące organizacji prac Rady budzi brak wystarczających gwarancji niezależności jej członków. W planowanym art. 29 ust. 5 ustawy o systemach SI wskazuje się, że „członkowie Rady nie mogą prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; wykonywać działań, które mogłyby skutkować konfliktem interesów”. Ustawa o systemach SI, na wzór wymogu przyjętego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, powinna wprost określać, że członkowie Komisji muszą być niezależni od dostawców systemów AI lub modeli AI ogólnego przeznaczenia. Ogólne sformułowanie o zakazie prowadzenia działań prowadzących do konfliktu interesów przewidziane w obecnym projekcie ustawy, nie precyzuje konkretnych kryteriów ani mechanizmów weryfikacji niezależności członków Rady. Podobnie jak w punkcie drugim niniejszego pisma, chciałabym zwrócić uwagę na kluczowe znaczenie uwzględnienia opinii dzieci i młodzieży w sprawach dotyczących stanowisk w przedmiocie systemów sztucznej inteligencji, ponieważ takie rozwiązania mogą wpływać na różne aspekty ich życia, takie jak edukacja, prywatność, rozwój społeczny i emocjonalny. Mając na uwadze opisany powyżej wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym proponuję wprowadzenie do ustawy przepisu umożliwiającego przedstawicielom zainteresowanych organizacji młodzieżowych doraźnego udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez jej Przewodniczącego lub Komisji. Organizacje te powinny mieć prawo wystąpienia do Przewodniczącego Rady z doraźnym wnioskiem o dopuszczenie do udziału wybranych przedstawicieli w posiedzeniu Rady, który powinien być niezwłocznie rozpatrywany. Co więcej, w mojej ocenie ustawa o systemach SI powinna zobowiązywać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób 105 małoletnich, a także uwzględnienia wyników takich konsultacji z należytą wagą, stosownie do wieku oraz dojrzałość dzieci biorących w nich udział. Uwzględnienie głosu młodego pokolenia w kształtowaniu wykładni stosowania przepisów dotyczących systemów sztucznej inteligencji oraz ich perspektywy na ryzyka związane z rozwojem takich rozwiązań jest inwestycją w przyszłość, która przyniesie całemu społeczeństwu. Ponadto zwracam uwagę, że w planowanych przepisach ustawy o systemach SI nie określono ani terminu, w którym Komisja ma powołać Radę, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie Rady zostanie odłożone na nieokreślony czas. W związku z tym proponuję wprowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Z podobnych względów ustawa powinna określać termin publikacji stanowisk i opinii Rady w Biuletynie Informacji Publicznej na stronie podmiotowe Biura Komisji. 174. Art. 28, Art. 30 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – tryb powoływania oraz skład Rady zapewnia reprezentację różnych sektorów, co powinno pozwolić na podejmowanie kompleksowych decyzji, jednak ograniczenie liczby członków do maksymalnie 15 osób może w pewnych sytuacjach ograniczać zdolność Rady do pełnego odzwierciedlenia wszystkich istotnych perspektyw i interesów. Skuteczność i trafność decyzji rady mogłoby wzmocnić poprzez dopuszczenie do udziału większej liczby ekspertów z różnych dziedzin (branż). Według projektu nie tylko członkowie Rady, ale nawet jej przewodniczący i wiceprzewodniczący są powoływani przez Komisję. W efekcie Rada staje się całkowicie podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy rozważyć udział w Radzie przedstawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. Dodatkowo, możliwość reprezentacji sektora nowych technologii możliwy jest poprzez uprawnienie organizacji branżowych, podmiotów systemu szkolnictwa wyższego oraz organizacji pozarządowych. 106 Kompetencje Rady są skierowane głównie na zagadnienia etyczne i regulacyjne. Te aspekty są istotne, ale jednak dostrzegalna jest potrzeba silniejszego nacisku na merytoryczny nadzór nad procesami tworzenia SSI, zwłaszcza w obszarze technologii, innowacji i badań (B+R). Na temat nowych technologii i ich rozwoju mogliby dostarczyć dodatkowej wiedzy przedstawiciele NCBR oraz środowisk naukowych i akademickich, które w organach w ogóle nie są reprezentowane. Spojrzenie z punktu widzenia NCBR, jako kluczowej instytucji w rozw oju nowych technologii w ramach projektów B+R, może pomóc Radzie w wypracowaniu bardziej zrównoważonych rekomendacji, a Komisji działać w zgodzie z obowiązującymi trendami technologicznymi i celowo w zakresie wdrażania innowacyjnych rozwiązań. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 175. Art. 28 ust. 2 PFR Do rozważenia wprowadzenie postanowień o konieczności wyłączenia się członka w danej sytuacji w przypadku konfliktu interesów i zdefiniowanie konfliktu interesów. Uwaga nieuwzględniona Projekt zawiera przepisy wprowadzające zakaz konfliktu interesów, jak również wprowadzenie mechanizmu umożliwiającego odwołanie członka Rady naruszającego ten zakaz. 176. Art. 28 ust. 2 Konfederacj a Lewiatan Proponujemy podwyższenie maksymalnego liczby członków Społecznej Rady do spraw Sztucznej Inteligencji, z obecnie proponowanych 15 do minimum 20-25 członków. Biorąc pod uwagę dwuletni okres kadencji Społecznej Rady, a także tempo zmian technologicznych, istotne jest, aby Społeczna Rada gromadziła przedstawicieli wszystkich istotnych środowisk związanych z AI. W szczególności reprezentacja izb branżowych powinna być zagwarantowana w określonej minimalnej liczbie (proponowane min. 3), biorąc pod uwagę, że rozwiązania AI są tworzone i rozwijane głównie przez Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w zakresie liczby członków. 107 przedsiębiorców, a zastosowania i wyzwania regulacyjne są różne w poszczególnych sektorach. Z uwagi na powyższe nie wydaje się również zasadne, aby Społeczna Rada liczyła jedynie dziewięciu członków. 177. Art. 28 ust. 3 KRRiT dodanie punktu o treści „Przewodniczący Krajowej Rady Radiofonii i Telewizji” Uwaga nieuwzględniona Zdaniem projektodawcy zmiana jest niepotrzebna, a udział Rady w pracach Komisji jako członka umożliwia aktywny udział w jej pracach. 178. Art. 28 ust. 3 pkt 4 BGK Propozycja: 4)izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji, gospodarki elektronicznej, komunikacji, rynku kapitałowego, rynku bankowego, ubezpieczeń, mediów, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Dodanie sektorów rynku kapitałowego, bankowego i ubezpieczeń do podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji jest uzasadnione potrzebą zapewnienia reprezentatywności i uwzględnienia kluczowych sektorów gospodarki w pracach nad regulacjami i rekomendacjami dotyczącymi AI. Zmiana ta pozwoli na lepsze zrozumienie specyfiki i wyzwań związanych z wdrażaniem AI w sektorze finansowym, zapewnienie ochrony interesów konsumentów i bezpieczeństwa danych, wsparcie innowacyjności i konkurencyjności polskiej gospodarki, a także wzmocnienie dialogu między różnymi sektorami gospodarki w zakresie rozwoju AI. W efekcie, zmiana przyczyni się do bardziej efektywnego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, z korzyścią dla całego społeczeństwa i gospodarki. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w tym wymiarze, w szczególności ze względu na szeroki i międzybranżowy charakter technologii sztucznej inteligencji (potencjalnie obejmującym niemal wszystkie dziedziny życia społecznego). 179. Art. 28 ust. 4 pkt 1 UKNF Rada, jako organ opiniodawczo-doradczy Komisji, ze względu na specyfikę swoich zadań, powinna być tworzona przez osoby posiadające merytoryczne i operacyjne doświadczenie w zakresie sztucznej inteligencji, w tym kompetencje adekwatne do poziomu rozwoju technologii AI, wobec dynamicznie rozwijającego się środowiska. Urząd Komisji Nadzoru Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a kompetencję w zakresie wskazywania 108 Finansowego proponuje rozważenie doprecyzowania mechanizmów weryfikacji tych kompetencji. odpowiednich kandydatur pozostawione są podmiotom niezależnym od Komisji. 180. Art. 28 ust. 4 pkt 4 IAB Polska Biorąc pod uwagę systematykę form oświadczeń woli oraz tworzenie jasnych przepisów prawnych – postanowienie powinno konkretyzować, czy chodzi o formę pisemną (w tym równoważną jej prawnie formę elektroniczną), czy też dokumentową (wydrukowaną na papierze). Uwaga nieuwzględniona 181. Art. 28 ust. 6 pkt 6 IAB Polska Rekomendujemy dookreślenie formy wycofania zgody, aby zapewnić pewność sytuacji prawnej członków Rady. Uwaga nieuwzględniona 182. Art. 29 ust. 1 BGK Propozycja Rada powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. Usunięcie zdania 2 jako bezprzedmiotowego, w związku z proponowaną zmianą w zd. 1 Wydaje się, że to kompetencją Rady, nie zaś Komisji, także w celu zachowania transparentności, jest wybór ze swojego grona Przewodniczącego i Zastępcy. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, tym bardziej, że obecna treść przepisów daje Radzie uprawnienie do przedstawienia Komisji dwóch kandydatur na Przewodniczącego. 183. Art. 29 ust. 6 KRRiT w art. 29 ust. 6 po wyrazach „Za udział” należy dodać wyraz „w” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 184. Art. 29 ust. 6 BGK Proponujemy nadać następujące brzmienie: „Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów.” Uwaga nieuwzględniona Zmiana treści przepisu dot. zwrotu kosztów. 185. Art. 29 ust. 6 IAB Polska Rozumiemy, że takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom w kontekście wprowadzenia dodatkowych przepisów adresujących potencjalny konflikt interesów. 186. Art. 29 ust. 6 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie ani zwrot kosztów przejazdów i noclegów. Uzasadnienie: Pierwsza uwaga opiera się na dodaniu brakującej litery „w”. Uwaga częściowo uwzględniona Wg aktualnej treści projektu przepisów za udział w pracach Rady jej członkom przysługuje zwrot kosztów przejazdów i noclegów. 109 Niezrozumiała jest intencja tego przepisu. Nieuzasadnione jest, aby osoby te na własny koszt brały udział w pracach Rady, płaciły za koszt dojazdu i noclegu. Rozumiemy, ze takie rozwiązanie może wynikać z założenia, że Rada służy społeczeństwu i skoro kandydaci są zgłaszani przez określone podmioty, to one będą finansować ich udział w Radzie. Istnieje tu jednak ryzyko, że oczekiwanie pełnego zaangażowania bez wynagrodzenia może sprawdzić, że wykwalifikowani eksperci nie będą zainteresowani pełnieniem takiej funkcji. 187. Art. 30 KRRiT w art. 30 błędnie ponumerowano ustępy; Uwaga uwzględniona 188. Art. 30 ust. 1 BGK Propozycja: 1. Do zadań Rady należy wyrażanie opinii i stanowisk w zakresie przekazanym jej przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji, chyba, że zostały wyrażone w drodze jednomyślnej uchwały podjętej przez co najmniej 75% składu Rady. Zmiana art. 30 ust. 1 ma na celu wzmocnienie wpływu Społecznej Rady do spraw Sztucznej Inteligencji na decyzje Komisji poprzez umożliwienie wydawania wiążących opinii w wyjątkowych sytuacjach, gdy zostaną one przyjęte jednomyślnie przez co najmniej 75% składu Rady. Taki mechanizm zwiększa znaczenie Rady jako reprezentanta różnych grup interesariuszy i ekspertów, a także zapewnia, że wiążące opinie będą wynikiem szerokiego konsensusu, co minimalizuje ryzyko narzucenia Komisji nieprzemyślanych lub kontrowersyjnych stanowisk. Ponadto promuje transparentność, demokratyzację i efektywność procesu decyzyjnego oraz wspiera tworzenie regulacji sprzyjających innowacyjności, bezpieczeństwu i zaufaniu społecznemu. Wprowadzenie tej zmiany przyczyni się do bardziej zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 189. Art. 30 ust. 3 KRRiT w art. 30 ust. 3 błędnie odesłano do art. 1 ust.1; Uwaga uwzględniona Zmiana treści przepisu zgodnie z uwagą 110 190. Art. 30 ust. 3 BGK Propozycja 3. W zakresie innym niż określony w ust. 1, dotyczącym spraw określonych w art. 1 ust. 1 ustawy Rada, w drodze uchwały podjętej większością głosów co najmniej 75% składu Rady, może wyrazić opinię lub stanowisko z własnej inicjatywy. Zmiana przepisu polega na obniżeniu wymogu kworum z pełnego składu Rady do co najmniej 75% jej członków przy podejmowaniu uchwał z własnej inicjatywy. Celem tej zmiany jest ułatwienie Radzie efektywnego podejmowania decyzji, nawet gdy nie jest możliwa obecność wszystkich członków, co zwiększa elastyczność jej działania. Jednocześnie zachowany zostaje wysoki poziom reprezentatywności i legitymacji podejmowanych uchwał, gdyż wymagane jest uzyskanie większości głosów wśród co najmniej 75% składu Rady. Uwaga nieuwzględniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom. 191. Art. 33 ust. 3 PFR Proponujemy nadać następujące brzmienie: „Prezes Rady Ministrów określi, w drodze rozporządzenia, sposób ustalania wysokości środków przeznaczonych na wynagrodzenia i nagrody dla Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji oraz ustalania wysokości tych wynagrodzeń i nagród, uwzględniając organizację Biura Komisji i Komisji, konieczność zapewnienia właściwej realizacji zadań Biura Komisji i Komisji w zakresie sprawowanego nadzoru oraz poziomu płac w instytucjach nadzorowanych.” Uwaga wyjaśniona Zdaniem projektodawcy charakter Rady w obecnej wersji projektu ustawy nie powinien ulegać znaczącym zmianom, a proponowana zmiana mogłaby zwiększyć ryzyko dysfunkcyjności Rady jako ciała doradczego. 192. Art. 33 ust. 3 KRRiT w art. 33 ust. 3 niepotrzebnie powtórzono wyrazy „oraz ustalania wysokości tych wynagrodzeń”; Uwaga uwzględniona 193. Art. 34 ust. 2 pkt 2 KRRiT w art. 34 ust. 2 pkt 2 nie wskazano daty ustawy o finansach publicznych oraz wskazano nieaktualny Dziennik Ustaw; Uwaga uwzględniona 194. Art. 36 ust. 2 Rada Legislacyjna [Brak wskazania trybu wyboru firmy audytorskiej w art. 36 ust. 2 Projektu] Przepis art. 36 ust. 2 Projektu nie zawiera wskazania trybu lub procedury wyboru firmy audytorskiej przez Prezesa Rady Ministrów. Przepis ten stanowi jedynie, że „Prezes Rady Ministrów dokonuje wyboru firmy audytorskiej.”. De lege ferenda w przepisie tym należy przesądzić, że wybór przez Prezesa Rady Ministrów firmy audytorskiej następuje „z uwzględnieniem przepisów o zamówieniach publicznych”. W przepisie tym nie trzeba natomiast literalnie przesądzać o „stosowaniu” przez Uwaga uwzględniona 111 Prezesa Rady Ministrów przepisów o zamówieniach publicznych: sformułowanie o konieczności „uwzględniania” przepisów o zamówieniach publicznych jest w tym kontekście w pełni wystarczające, zwłaszcza, że z uwagi na wartość wchodzącego w grę zamówienia publicznego może ono niekiedy pozostawać poza zakresem zastosowania przepisów ustawy z dnia 11 września 2019 r. Prawo zamówień publicznych22 (zob. art. 2 ust. 1 pkt 1 powołanej ustawy). 195. Art. 38 Rada Legislacyjna [Błędy językowe w art. 38 Projektu] W przepisach art. 38 ust. 1 i 3 użyto niepoprawnego sformułowania „minister właściwy”, podczas gdy prawidłowo sformułowanie to powinno brzmieć: „właściwy minister”. Ta proponowana przez Radę Legislacyjną inwersja obu wyrazów dlatego jest konieczna, gdyż w przepisach tych nie chodzi bynajmniej o konkretnego ministra właściwego we wskazanych tam literalnie sprawach (np. ministra właściwego do spraw gospodarki), lecz chodzi tam ogólnie o ministrów, którzy są właściwi zgodnie ze swoją ustawową właściwością, wynikającą z ustawy z dnia 4 września 1997 r. o działach administracji rządowej lub z przepisów ustaw szczególnych; ma tam zatem miejsce wskazanie generalne, a nie indywidualne. Stąd też bardziej naturalnie językowo będzie brzmiało sformułowanie, iż „właściwy minister” może powierzyć Komisji realizację określonych zadań (art. 38 ust. 1 Projektu) oraz że „właściwy minister” zapewnia środki na realizację tychże zadań (art. 38 ust. 3 Projektu). Z kolei w art. 38 ust. 2 Projektu zamieszczone jest zdanie, w którym połączono ze sobą wyrazy zupełnie nie przystające do siebie znaczeniowo. Przepis ten stanowi co następuje: „Powierzanie zadań, o których mowa w ust. 1, zawierane jest w formie porozumienia”. Z semantyczno-językowego punktu widzenia, powierzanie zadań nie może być „zawierane” w jakiejkolwiek formie prawnej (bo takie sformułowanie nie ma logicznego sensu), lecz co najwyżej można tego powierzenia „dokonywać” w określonej formie lub też powierzenie to może „następować” w określonej formie prawnej. Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z treścią uwagi. 196. Art. 38 ust. 1 KRRiT w art. 38 ust. 1 błędnie odesłano do art. 11 ust. 3, 8 i 10; Uwaga uwzględniona 112 197. Art. 38 ust. 1 PFR Proponujemy nadać następujące brzmienie: „Minister właściwy, w odniesieniu do spraw w zakresie jego właściwości, może powierzyć Komisji realizację zadań, o których mowa w art. 11 ust. 1 pkt 3, 8 i 10 ustawy.” Uwaga nieuwzględniona Zmiana treści przepisu zgodnie z uwagą. 198. Art. 39 KRRiT w art. 39 błędnie wskazano numerację ustępów; Uwaga uwzględniona 199. Art. 39 ust. 4 pkt 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1) wymianie aktualizacji Uzasadnienie: Wymianie podlegają raczej dokumenty fizyczne. Tu mowa powinna być raczej o aktualizacji danych. Ponadto, jak kontrolowany podmiot ma zweryfikować autentyczność legitymacji - czy będzie w systemie mObwatel czy w innej postaci? Uwaga uwzględniona 200. Art. 39 ust. 6 UKNF W art. 39 ust. 6 projektu ustawy wskazano, iż tryb wydawania i unieważnienia legitymacji służbowej określony zostanie w drodze rozporządzenia Prezesa Rady Ministrów. Wydaje się, że rozporządzenie powinno również określać tryb wymiany legitymacji, skoro wskazano na taką możliwość w ustępach poprzedzających. Urząd Komisji Nadzoru Finansowego proponuje następującą zmianę treści tego ustępu: „Prezes Rady Ministrów określi, w drodze rozporządzenia, wzór legitymacji służbowej pracownika Biura Komisji oraz tryb wydawania, wymiany i unieważnienia tej legitymacji, mając na względzie zapewnienie właściwej identyfikacji pracowników Biura Komisji oraz zapewnienie właściwej ochrony legitymacji służbowych”. Uwaga uwzględniona Uwaga uwzględniona w ramach zmiany przepisów regulujących wydawanie, unieważnianie i aktualizację legitymacji w art. 37. 201. Art. 40 ust. 1 UKNF W art. 40 ust. 1 projektu ustawy wskazano, iż: „Przewodniczący Komisji, w zakresie zadań, o których mowa w rozdziale 2 ustawy, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji.”. W ocenie UKNF ustęp ten powinien zostać doprecyzowany poprzez odesłanie do konkretnej jednostki redakcyjnej art. 70 rozporządzenia 2024/1689. Art. 70 rozporządzenia 2024/1689 jest rozbudowaną regulacją, która odnosi się do szeregu kwestii (m.in. do wyznaczania przez państwa członkowskie organu notyfikującego i organu nadzoru rynku). W związku z tym zasadnym byłoby dookreślenie, o które wymogi chodzi, poprzez Uwaga nieuwzględniona 113 odwołanie się do konkretnych ustępów art. 70 rozporządzenia 2024/1689. 202. Art. 40 ust. 2 KRRiT w art. 40 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga nieuwzględniona 203. Art. 40 ust. 2 UKNF Artykuł 40 ust. 2 projektu ustawy odnosi się do „stanu zasobów, o którym mowa w ust. 1” ww. artykułu. Urząd Komisji Nadzoru Finansowego wskazuje, że ustęp 1 nie wskazuje na zasoby, lecz odnosi się do zadań, o których mowa w rozdziale 2 projektowanej ustawy oraz do wymogów, o których mowa w art. 70 rozporządzenia 2024/1689. W związku z powyższą rozbieżnością, należy dokonać odpowiedniej korekty i przeredagowania przedmiotowego przepisu. Uwaga nieuwzględniona 204. Rozdział 3 Kontrola przestrzegania przepisów o sztucznej inteligencji (art. 41 - art. 48) 205. Rozdział 3 IAB Polska Wskazany rozdział powinien być jednym z podstawowych obszarów w konsultacjach międzyresortowych. Należy o nim również informować w prezentacjach ministerialnych omawiających projekt. W ten sposób Ministerstwo będzie w stanie zapewnić szerokie konsultacje. W szczególności rekomendujemy, aby Ministerstwo zwróciło uwagę na informacje przekazywane przez podmioty tworzące lub dystrybuujące systemy AI, aby nie obniżyć wartości rynkowej Polski w zakresie AI, ale jednocześnie, aby zapewnić odpowiednie poszanowanie prawa i skuteczność kontroli Komisji. Uwaga uwzględniona 206. Rozdział 3 i 4 Konfederacj a Lewiatan 1. Rozdział 3 i Rozdział 4 Uwaga lub propozycja zmiany zapisu: Rekomendujemy dodanie: 1. Strona może zastrzec informacje, dokumenty lub ich części zawierające tajemnicę przedsiębiorstwa, przedstawiane Komisji. W takim przypadku strona jest obowiązana przedstawić Komisji również wersję dokumentu niezawierającą informacji objętych zastrzeżeniem. 2. W przypadku nieprzedstawienia wersji dokumentu niezawierającej informacji objętych zastrzeżeniem, zastrzeżenie uważa się za nieskuteczne. Uwaga nieuwzględniona 114 3. Przewodniczący Komisji może uchylić zastrzeżenie, w drodze decyzji, jeżeli uzna, że informacje, dokumenty lub ich części nie spełniają 5przesłanek do objęcia ich tajemnicą p6rzedsiębiorstwa. 4. W przypadku ustawowego obowiązku przekazania informacji lub dokumentów otrzymanych od przedsiębiorców innym krajowym lub zagranicznym organom lub instytucjom, informacje i dokumenty przekazuje się wraz z zastrzeżeniem i pod warunkiem jego przestrzegania. Uzasadnienie: Zasadnym wydaje się dodanie przepisu analogicznego jak w art. 65 ustawy z 10 maja 2018 r. o ochronie danych osobowych. 207. Art. 41 ust. 1 IAB Polska Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Rekomendujemy rozważenie odniesienia się do art. 2 ust. 1 lit a) - f) AI Act. Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 208. Art. 41 ust. 1 Konfederacj a Lewiatan Z proponowanego sformułowania przepisu nie wynika jakich podmiotów ma on dotyczyć. Może warto rozważyć odniesienie się do Rozporządzenia art. 2 ust. 1 lit a - f? Uwaga wyjaśniona Zakres podmiotowy ustawy został określony w art. 2 projektu 209. Art. 41 ust. 2 IAB Polska W naszej ocenie sformułowanie tego przepisu jest bardzo szerokie i w związku z tym postulujemy zawęzić/wskazać konkretnie, że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli 210. Art. 41 ust. 2 ZPP Nasze wątpliwości budzą również przepisy proceduralne dotyczące kontroli. Art. 41 ust. 2 wprowadza bardzo otwarty katalog potencjalnych przedmiotów kontroli, wskazując jedynie, że jej celem jest ustalenie zgodności działalności podmiotów obowiązanych do przestrzegania AI Act i ustawy. Wydaje się, że z punktu widzenia zasadności i proporcjonalności projektowanych środków należałoby ten przepis, a więc cel kontroli, doprecyzować i określić. Jednocześnie, proponowane brzmienie prowadzi do pewnego legislacyjnego zapętlenia – podmioty obowiązane do przestrzegania ustawy są jednocześnie podmiotami obowiązanymi do przestrzegania przepisów rozporządzenia 2024/1689, zresztą projektodawca posługuje się odniesieniem do stosownego postanowienia AI Uwaga częściowo uwzględniona Zmiana brzmienia przepisów o kontroli 115 Act. Jednocześnie, pojawia się pytanie, jak taką konstrukcję rozumieć – tzn. czy projektodawca zakłada, że krajowe organy będą prowadziły działania wobec podmiotów z siedzibami w innych państwach członkowskich lub krajach trzecich? Z tego punktu widzenia zasadne byłoby określenie, które konkretnie elementy struktur międzynarodowych będą wchodziły w zakres podmiotowy ustawy – filie lub oddziały zlokalizowane w kraju, spółki matki, czy może kilka podmiotów jednocześnie? 211. Art. 41 ust. 2 Konfederacj a Lewiatan W naszej ocenie sformułowanie tego przepisu jest bardzo szertokie i w związku z tym postulujemy zawęzić/wskazać konkretnie że chodzi o brak modeli zabronionych, odpowiednią klasyfikację ryzyk, transparentność itd? Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 212. Art. 41 ust. 3 IAB Polska Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 213. Art. 41 ust. 3 Konfederacj a Lewiatan Powinno się wprowadzić bardziej szczegółowe kryteria dotyczących podstawy kontroli, np. odnosząc się do treści przepisów Prawo Przedsiębiorców, do którego w wielu aspektach ustawa już się odwołuje, np. poprzez wskazanie od kogo w jakim trybie informacje będą uzyskiwane, czy i w jaki sposób będą ewidencjonowane. Bardzo ogólna podstawa kontroli - w Prawie Przedsiębiorców np. kontrole planuje się i przeprowadza po uprzednim dokonaniu analizy prawdopodobieństwa naruszenia prawa w ramach wykonywania działalności gospodarczej. Analiza obejmuje identyfikację obszarów podmiotowych i przedmiotowych, w których ryzyko naruszenia przepisów jest największe. Sposób przeprowadzenia analizy określa organ kontroli lub organ nadrzędny. Uwaga częściowo uwzględniona 116 214. Art. 42 Rzecznika MŚP W dalszej kolejności należy zwrócić uwagę, iż nie jest dozwolona ingerencja w zasady prowadzenia kontroli oraz ochronę praw przedsiębiorców w tym zakresie. Przesłanki kontroli dorażnej nie mogą zostać skutecznie zmodyfikowane w Projekcie stanowiącym uregulowanie krajowe, ze względu na treść art. 45 ust. | Prawa przedsiębiorców, który stanowi, że kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w tej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Naruszenia ww. przepisu są sankcjonowane w art. 46 ust. 1 i 3 Prawa przedsiębiorców, które stanowią, że przedsiębiorcy, który poniósł szkodę na skutek wykonania czynności kontrolnych z naruszeniem przepisów prawa, przysługuje odszkodowanie, zaś dowody przeprowadzone w toku kontroli przez organ kontroli z naruszeniem przepisów ustawy lub z naruszeniem innych przepisów prawa w zakresie kontroli działalności gospodarczej przedsiębiorcy. Gwarancje i prawa przyznane przedsiębiorcom rażąco narusza ograniczenie stosowania regulacji Prawa przedsiębiorców zawarte w art. 42 Projektu, poprzez zastrzeżenie, że do kontroli, o której mowa w art. 41 ust. 1 ustawy, w zakresie nieuregulowanym ustawą stosuje się przepisy rozdziału 5 ustawy Prawo przedsiębiorców, podczas gdy od ogólnych zasad przeprowadzania kontroli nie powinno być odstępstw, a omawiany przepis taką sytuację wprost uznaje za odpowiadająca prawu, natomiast jak wskazano na wstępie — nie jest dozwolone modyfikowanie przepisami prawa krajowego przepisów ustawy Prawo przedsiębiorców zawartych w Rozdziale 5 - Ograniczenia kontroli działalności gospodarczej. Wnioskiem płynącym z powyższego powinno być wykreślenie art. 42 Projektu, lub jego modyfikacja wskazująca na konieczność bezwzględnego stosowania przepisów ustawy Prawo przedsiębiorców w zakresie czynności kontrolnych podejmowanych wobec przedsiębiorców. Nie jest dozwolone bowiem relatywizowanie regulacji ustawy odnoszącej się do podstawowych zasad i gwarancji działalności gospodarczej na terytorium Rzeczypospolitej Polskiej. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 117 215. Art. 42 UOKiK Zgodnie z projektem ustawy podmiotami podlegającymi kontroli mogą być, oprócz przedsiębiorców, również podmioty publiczne, które spełniają definicję dostawcy lub podmiotu stosującego. Rozważenia wymaga, czy do kontroli tych podmiotów będą miały zastosowanie przepisy ustawy – Prawo przedsiębiorców. Zauważyć bowiem należy, że kontrole podmiotów publicznych odbywają się na podstawie przepisów innych niż ww. ustawa. W zależności od ustaleń i potrzeb należy zmodyfikować projektowane przepisy tak aby nie było wątpliwości przepisy będą stosowane do określonych kategorii podmiotów. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 216. Art. 43 NCBR 1. Proponuje się wprowadzenie większej elastyczności w formach kontroli. Obecnie ustawa (art. 43) wprowadza możliwość kontroli SSI zdalnie lub za pomocą środków komunikacji elektronicznej lub „przy użyciu przesyłek rejestrowanych lub kurierskich”. Warto wprowadzić więcej mechanizmów kontroli opartych na real-time data, które pozwolą na monitoring SSI w czasie rzeczywistym i szybsze reagowanie na incydenty. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. 2. Dodatkowe zastrzeżenie wobec art. 43 projektu ustawy budzą przepisy ustanawiające zbyt szerokie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad systemami AI. Należy mieć na uwadze, że zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki. 3. Ponadto, proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli (art. 43 ust. 2 i 10). Uwagi częściowo uwzględnione Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 118 217. Art. 43 ust. 1 pkt 2 PFR Proponujemy nadać następujące brzmienie: „osobę posiadającą wiedzę specjalistyczną, jeżeli do przeprowadzenia kontroli niezbędne są tego rodzaju kompetencje.” Uwaga uwzględniona 218. Art. 43 ust. 1 pkt 2 IAB Polska Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3, ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 219. Art. 43 ust. 1 pkt 2 ZPP Zwracamy uwagę na postanowienie art. 43 ust. 1 pkt 2 umożliwiające przewodniczącemu Komisji upoważnienie w zasadzie dowolnej osoby (jedyny wymóg to „posiadanie wiedzy specjalistycznej”) do przeprowadzenia kontroli. Tak szerokie otwarcie furtki w tym zakresie budzi poważne wątpliwości, zwłaszcza wziąwszy pod uwagę kompetencje kontrolujących takie jak np. możliwość żądania udostępnienia wszelkiego rodzaju dokumentacji i korespondencji związanej z przedmiotem kontroli, przeprowadzania oględzin urządzeń, nośników danych i systemów informatycznych (nb. pojawia się również wątpliwość, czy sformułowanie „oględziny systemu informatycznego” jest najszczęśliwsze), czy opieczętowania lokali, pomieszczeń lub przedmiotów. Trudny do zrozumienia jest również przepis stwarzający możliwość żądania pisemnych kopii i wydruków dokumentów, w tym również z poświadczeniem za zgodność z oryginałem – jak się wydaje, będzie się to wiązało ze zbyt daleko idącą uciążliwością, zwłaszcza prawo do żądania wydruków w warunkach dostępności kopii elektronicznych nie powinno być przewidziane w projekcie Uwaga nieuwzględniona Zmiana uwzględniona w ramach opartej na łącznej analize i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 220. Art. 43 ust. 1 pkt 2 Konfederacj a Lewiatan Upoważnienie do „przeprowadzenia kontroli\" a nie do udziału/przeprowadzenia czynnościach kontrolnych (por. uokk, art. 49 ust. 4 i 5 Prawo przedsiębiorców) przez osobę Uwaga nieuwzględniona 119 posiadającą wiedzę specjalistyczną - i w domyśle (choć nie wynika to wprost z brzmienia przepisu) jest niedopuszczalne. Osoba taka może uczestniczyć w poszczególnych czynnościach jeśli wymagana jest wiedza specjalistyczna, której niei posiada organ/pracownik organu, ale nie stawać się de facto organem prowadzącym kontrolę. Jednakże i w tym zakresie brzmienie przepisu wymaga zmiany - kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Postulujemy rozważenie usunięcia tego przepisu, bowiem budzi to obawy, że osoby spoza Komisji będą przeprowadzać kontrole - rodzi to wątpliwości co do dostępu do informacji poufnych kontrolowanego i ich wykorzystania dla prywatnych celów. Rozumiemy, że można wydelegować do kontroli pracowników organów z art. 6 ust. 3,ale nie powinny to być osoby \"z rynku\" czy nawet z uczelni publicznych, które potem mogą brać udział w projektach współpracujących z biznesem. W przypadku pozostawienia tego przepisu, należałoby doprecyzować zastrzeżenia, np. w zakresie konfliktu interesów, aby uniknąć arbitralności powołania takiej osoby przez Przewodniczącego Komisji. Zmiana uwzględniona w ramach opartej na łącznej analizie i dostosowaniu brzmienia przepisów o kontroli (rozdział 3, art.38-48). 221. Art. 43 ust. 1 pkt 2 Pracodawcy RP Zgodnie z art. 43 ust. 1 pkt 2 proponowanej ustawy Przewodniczący Komisji może upoważnić do przeprowadzenia kontroli u przedsiębiorcy będącego podmiotem obowiązanym nie tylko pracownika Biura Komisji, ale także inną osobę posiadającą wiedzę specjalistyczną, jeśli do przeprowadzenia kontroli niezbędn e są tego rodzaju wiadomości. Ustawa nie precyzuje jednak, w jakim charakterze i na jakiej podstawie prawnej taka osoba ma wykonywać czynności kontrolne na rzecz Komisji, w związku z czym brak gwarancji co do zachowania w tajemnicy informacji Uwaga częściowo uwzględniona Przepisom dotyczącym przetwarzania informacji nadano nowe brzmienie. 120 chronionych, pozyskanych w trakcie kontroli przez taką osobę. Jedynym dokumentem formalnym, wskazanym przez ustawę, jest szczególne upoważnienie do przeprowadzenia kontroli, które jednakże nie obejmuje szczegółowych wskazań w zakresie praw i obowiązków kontrolera (vide art. 43 ust. 6 proponowanej ustawy), w związku z czym upoważnienie nie może stanowić jedynej podstawy formalnoprawnej działania kontrolera niebędącego pracownikiem Biura Komisji. Ustawa nie zawiera żadnych przepisów dotyczących praw i obowiązków kontrolera w zakresie ochrony informacji pozyskanych w trakcie kontroli, przez osobę niepodlegającą ustawowym obowiązkom w zakresie tajemnicy informacji chronionych. Do proponowanej ustawy należy dodać przepis o charakterze prawnokształtującym – wskazujący bezpośrednio podstawy ogólnych praw i obowiązków takiego kontrolera, niezależnego od struktur Biura Komisji, w celu zrównania ich zakresu obowiązków z przedstawicielami Biura Komisji, bądź przepis nakazujący odpowiednie stosowanie do takich kontrolerów przepisów dot. członków korpusu służby cywilnej. 222. Art. 43 ust. 2 i 3 RPD Wyrażam wątpliwość, co do zasadności propozycji przeprowadzania czynności kontrolnych, o których mowa w ustawie o systemach SI, głównie w sposób zdalny. Szczególnie niepokoi mnie brak precyzyjnego zdefiniowania „uzasadnionych przypadków”, w których kontrola może być przeprowadzana na miejscu. Uważam, że konieczne jest doprecyzowanie przepisów poprzez wskazanie konkretnych sytuacji lub kryteriów uzasadniających kontrolę w siedzibie podmiotu. W obszarach dotyczących dzieci bezpośrednie zbadanie systemów SI wysokiego ryzyka ma kluczowe znaczenie dla ochrony dobra dziecka. Zrozumienie przeznaczenia i zasad funkcjonowania systemu „na żywo” pozwala kontrolującym lepiej ocenić jego wpływ na prawa i wolności dzieci, szczególnie w takich dziedzinach jak edukacja i kształcenie. Zdalne przeprowadzanie kontroli może nie oddawać pełnego obrazu praktycznego działania systemu SI. Dlatego uważam, że w ostatecznym brzmieniu art. 43 ust. 2 i 3 ustawy o systemach SI powinien zawierać otwarty katalog Uwaga uwzględniona Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które uzasadniają w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych) wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego. 121 „szczególnych okoliczności”, które w sposób bezwzględny zobowiązują do przeprowadzenia kontroli lub znacznej jej części przez przedstawicieli Komisji na miejscu. Jako jedną z przesłanek obligujących do przeprowadzenia kontroli lub jej znacznej części na miejscu powinny być przypadki, gdy wyniki systemu sztucznej inteligencji mogą potencjalnie zagrażać prawom i wolnościom dzieci, tzn., gdy osobami, na które systemy SI mają wpływ, są osoby poniżej 18 roku życia. Przepisy ustawy powinny wprost wskazywać, że decyzja o przeprowadzeniu kontroli na miejscu powinna zależeć od oceny Komisji, czy takie działanie będzie służyło zabezpieczeniu najlepiej pojętego interesu dziecka, zgodnie z art. 3 Konwencji ONZ o prawach dziecka oraz art. 24 Karty Praw Podstawowych Unii Europejskiej. Najlepszy interes dziecka powinien być nadrzędnym kryterium przy podejmowaniu decyzji o formie i zakresie kontroli, w sytuacji, gdy przedmiotem kontroli jest realizacja wymogów rozporządzenia 2024/1689 przez operatorów systemów sztucznej inteligencji wysokiego ryzyka, których wyniki oddziałują bezpośrednio na sytuację faktyczną lub prawną dzieci. 223. Art. 43 ust. 2 IAB Polska Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecności stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły lub będą musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - niżej, w ust. 3, pojawia się takie określenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych. Czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli? Uwagi częściowo uwzględnione Uwaga uwzględniona w ramach całościowej zmiany przepisów o kontroli, które bazując na domyślnej formie kontroli (zdalnej) uzasadniają w wydanie postanowienia o przeprowadzeniu kontroli w siedzibie przedsiębiorcy lub miejscu wykonywania działalności kontrolowanego jedynie w określonych sytuacjach (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 122 224. Art. 43 ust. 2 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 2 Projektu, dotyczącego przeprowadzania kontroli w sposób zdalny. Przepis ten powinien uwzględniać, że zgodnie z art. 51 ust. 3a Prawa przedsiębiorców, taki sposób kontroli wymaga każdorazowo uprzedniej zgody przedsiębiorcy odnośnie kontroli lub poszczególnych czynności kontrolnych, Uwaga nieuwzględniona Uwaga wg projektodawcy nieuzasadniona ze względu na specyfikę działalności przedsiębiorców w obszarze sztucznej inteligencji i nowych technologii. W trakcie konsultacji propozycja wprowadzenia domyślnej formy kontroli jako zdalnej spotkała się z aprobatą, w związku z powyższym zachowanie takiej konstrukcji należy uznać za korzystane ze względu na ograniczenie niepotrzebnych kosztów i zwiększenie trudności organizacji kontroli w sposób stacjonarny. 225. Art. 43 ust. 2 Konfederacj a Lewiatan Zdecydowanie należy pochwalić takie rozwiązanie, w którym dopuszczalne jest przeprowadzenie czynności kontrolnych zdalnie, bez fizycznej obecnoścui stron, ale też należy zwrócić uwagę, że KRiBSI będzie musiała je zoperacjonalizować. Wysyłanie maili na pewno będzie nieefektywną formą przekazywania danych. Czy w związku z tym KRiBSI wystawi API, z którym podmioty kontrolowane będą mogły/ musiały się zintegrować? Czy na potrzeby zdalnej kontroli będzie wystarczające, że kontrolowani dadzą dostęp do swoich zasobów pracownikom KRiBSI (przez narzędzia do współpracy zdalnej)? Nadto postulujemy dodanie słowa “szczególnie” (w szczególnie uzasadnionych przypadkach) - nizej, w ust. 3 pojawia się takie okreslenie. W ocenie przedsiębiorców fizyczne kontrole winny być absolutnym wyjątkiem. Fragment o przesyłkach kurierskich itd. sugeruje konieczność drukowania ryz papieru, czy to z dokumentacją, czy zestawami danych (czy np. system wytrenowany na Wikipedii może wymagać drukowania całej Wikipedii na potrzeby kontroli?) Uwagi częściowo uwzględnione Techniczne aspekty organizacji kontroli pozostawiony jest do decyzji Komisji i według projektodawcy nie wymaga interwencji legislacyjnej. 226. Art. 43 ust. 3 KRRiT w art. 43 ust. 3 zbędnie użyto wyrazu „się”; Uwaga uwzględniona. Nowe brzmienie przepisu 227. Art. 43 ust. 3 PFR Prosimy o rozważenie możliwości doprecyzowania przesłanki „szczególnej okoliczności”, o której mowa w tej jednostce redakcyjnej. Uwaga uwzględniona Nowe brzmienie przepisu 123 228. Art. 43 ust. 3 IAB Polska Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43 ust. 1 pkt 2 Projektu) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to, czy od decyzji można się odwołać oraz to, czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 229. Art. 43 ust. 3 Konfederacj a Lewiatan Prosimy o wymienienie przykładów (katalog otwarty), które pozwolą zrozumieć, w jakich sytuacjach przepis ten może mieć zastosowanie. Prosimy o wyjaśnienie (przeanalizowanie) czy decyzja, o której mowa w ww. przepisie, powinna być w gestii jednej osoby kontrolującej, szczególnie biorąc pod uwagę, że zgodnie z projektem osoby nie będące pracownikami Komisji mogłyby przeprowadzać kontrole (art. 43.1.2) Kontrolującym w rozumieniu tego przepisu powinien być tylko pracownik Komisji. Doprecyzowania wymaga również to czy od decyzji można się odwołać oraz to czy to jest decyzja wydawana w trybie decyzji administracyjnej czy jako \"decyzja\" operacyjna? Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 230. Zaproponowany przepis stanowi upoważnienie dla kontrolera do przeprowadzenia części lub całości czynności kontrolnych się w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności, w przypadku gdy szczególne okoliczności to uzasadniają. Przepis ma jednak ogólny wydźwięk, który nie zawiera wskazówek interpretacyjnych co do tego, jakie okoliczności uzasadniają powyższe podejście do kontroli. Należy także wskazać, że materia przedmiotowego przepisu pozostaje w ścisłym związku z uwagami dot. art. 43 ust. 1 projektowanej ustawy, w związku z tym, że realizacja czynności kontrolnych bezpośrednio w Uwaga uwzględniona W aktualnej wersji treści przepisów wskazane są przesłanki uzasadniające podjęcie przez Komisję postanowienia w sprawie przeprowadzenia kontroli w sposób stacjonarny (podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych). 124 siedzibie podmiotu obowiązanego szczególnie wymaga zabezpieczenia prawnych i faktycznych interesów tego podmiotu. Ustawa powinna jasno wskazywać sytuacje, w których zasadne jest przeprowadzenie czynności kontrolnych w siedzibie podmiotu obowiązanego, a także zawierać szczegółowe wytyczne co do sposobu postępowania kontrolera w trakcie takich czynności. Należy także rozważyć uwzględnienie ścieżki odwoławczej, umożliwiającej weryfikację zasadności realizacji czynności kontrolnych w inny sposób niż zdalnie 231. Art. 43 ust. 4 IAB Polska Projekt przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 AI Act, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Dotyczy pkt. 3) należy wskazać, czy chodzi o dostęp do nośnika czy do zawartych tam informacji oraz doprecyzować sposób, w jaki można będzie udostępnić sam nośnik w postaci np. serwera \"chmurowego\". Dotyczy pkt. 5) - Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym. Ponadto \"poświadczanie\" wydruków/kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności. \"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym Uwaga uwzględniona w części W aktualnej wersji przepisów projektu usunięto m.in. niektóre obowiązki (np. Dostęp do wydruków) W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. Dodatkowo, choć zgadzamy się z uwagą dot. Niemożliwości przeprowadzenie każdej formy kontroli w odniesieniu do każdej technologii wykorzystywanych przez stron, jednocześnie jednak przepisy upowazniające Komisję do realizacji kontroli powinny uwzględniać pewną swobodę w doborze środków. Racjonalnośc i proporcjonalność tych środków gwarantować mają kompetencje Przewodniczącego, Członków Rady oraz pracowników Biura Komisji. 125 OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów”. Dotyczy pkt. 8) - Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. 232. Art. 43 ust. 4 Pracodawcy RP Ustawa przyznaje szerokie uprawnienia do żądania dostępu do dokumentów, przeprowadzania oględzin urządzeń oraz zabezpieczania dokumentów i nośników danych. Obawiamy się, że zakres tych uprawnień wykracza poza wymagania określone w art. 78 ust. 2 Aktu o AI, który ogranicza pozyskiwanie informacji przez organy nadzorcze do danych „bezwzględnie koniecznych” do oceny ryzyka związanego z systemami AI. Zalecamy dostosowanie uprawnień kontrolnych do wymogów Aktu, tak aby były proporcjonalne i ograniczały się wyłącznie do niezbędnych danych. W szczególności proponujemy wyłączenie uprawnienia do żądania poświadczania za zgodność z oryginałem dokumentów, co może stanowić nadmierne obciążenie administracyjne dla przedsiębiorstw, zwłaszcza w kontekście dużej ilości dokumentacji technicznej dotyczącej systemów AI. Uwaga częściowo uwzględniona Zmiana uwzględniona w ramach łącznych zmian treści przepisów dotyczących kontroli. W aktualnej wersji przepisów projektu usunięto niektóre obowiązki (np. dostęp do wydruków). W przypadku części dokumentów wymaganie poświadczenia o zgodności kopii z oryginałem w opinii projektodawcy jest uzasadnione. 233. Art. 43 ust. 4 pkt 3 BGK Propozycja 3) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane podmiotu kontrolowanego związane z Uwaga uwzględniona 126 przedmiotem kontroli, w zakresie, w jakim podmiot kontrolowany ma do nich dostęp Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych 234. Art. 43 ust. 4 pkt 5 Konfederacj a Lewiatan Prawo do żądania wydruków, gdy możliwe jest sporządzenie kopii elektronicznych jest anarchonizmem. Rodzi to obawy, że organy będą preferować drukowanie ryz papieru zamiast przekazania kopii na nośniku elektronicznym.Ponadto \"poświadczanie\" wydruków/ kopii za zgodność jest nieżyciowe i nazbyt uciążliwe. Poświadczenie \"od podmiotu\" oznacza, że osoba, która będzie poświadczać każdą stronę wydruku będzie musiała zostać umocowana do takiej czynności.\"Poświadczenie\" powinno zostać zastąpione jednym, ogólnym OŚWIADCZENIEM składanym w imieniu podmiotu, że przekazywane kopie są zgodne z oryginałami. W związku z powyższym proponujemy następujący zapis treści przepisu: “żądania sporządzenia przez podmiot kontrolowany kopii materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach lub w systemach, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego oświadczenia o oświadczenia o zgodności z oryginałem pozyskiwanych od niego dokumentów” Uwaga uwzględniona 235. Art. 43 ust. 4 pkt 8 KRRiT w art. 43 ust. 4 pkt 8 błędnie odesłano do art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych; Uwaga nieuwzględniona. 127 Uwaga nieaktualna ze względu na nową treść przepisów projektu. 236. Art. 43 ust. 4 pkt 8 BGK Propozycja 8) przeprowadzania oględzin urządzeń, nośników danych oraz systemów informatycznych, teleinformatycznych lub innych systemów, chmury obliczeniowej bądź oprogramowania spełniających kryteria określone w art. 7 pkt 2a ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781); Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów projektu. 237. Art. 43 ust. 4 pkt 8 UKNF Ustawa z dnia 10 maja 2018 r. o ochronie danych osobowych nie zawiera art. 7 pkt 2a, do którego odwołuje się projektowany przepis. Artykuł 7 ww. ustawy dotyczy zasad postępowania przed Prezesem Urzędu Ochrony Danych Osobowych, a nie odnosi się do systemów informatycznych, teleinformatycznych lub innych systemów bądź oprogramowania. Uwaga uwzględniona. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 238. Art. 43 ust. 4 pkt 8 Konfederacj a Lewiatan Wskazujemy, że oględziny serwera dostawcy chmurowego mogą być trudne do zorganizowania. Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 239. Art. 43 ust. 4 pkt 10 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 10) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli. 5. Kontrolujący przeprowadza czynności po okazaniu upoważnienia do przeprowadzenia Uzasadnienie: Uwaga nieuwzględniona Uwaga nieaktualna ze względu na nową treść przepisów dot. kontroli. 128 Do rozważenia, czy ten punkt nie jest zbędny w świetle brzmienia przepisu art. 26 przedmiotowej ustawy. 240. Art. 43 ust. 5 Konfederacj a Lewiatan Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 241. Art. 43 ust. 5 IAB Polska Należy wskazać w jaki sposób ma nastąpić okazanie w przypadku kontroli zdalnej. Uwaga uwzględniona Kwestia zostanie uregulowana w regulaminie kontroli 242. Art. 43 ust. 5 pkt 1 Konfederacj a Lewiatan Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W zwiazku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 243. Art. 43 ust. 6 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: art. 43 ust. 6 Projektu, dotyczącego upoważnienia do kontroli — powinien uwzględniać wymogi określone w art. 49 ust. 1-10 Prawa przedsiębiorców, gdyż w szczególności zakres kontroli nie może wykraczać poza zakres wskazany w upoważnieniu do jej przeprowadzenia, Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 244. Art. 43 ust. 6 pkt 1 IAB Polska Należy uzupełnić treść przepisu o wskazanie także podstawy faktycznej kontroli. Konieczne jest, aby przedsiębiorca wiedział np. czy jest to w ramach monitorowania przestrzegania rozporządzenia albo na podstawie powziętej przez Komisję informacji lub skargi. W związku z powyższym brzmienie art. 43 ust. 6 pkt 1) powinno być następujące: “wskazanie podstawy prawnej kontroli oraz podstawy faktycznej;”. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 245. Art. 43 ust. 7 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 129 art. 43 ust. 7 Projektu dotyczącego zawiadamiania o planowanej kontroli — powinien uwzględniać wymogi określone w art. 48 ust. 1-11 Prawa przedsiębiorców, 246. Art. 43 ust. 7 IAB Polska Proponujemy, aby rozważyć brzmienie przepisu w następującym kształcie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 247. Art. 43 ust. 7 Konfederacj a Lewiatan Proponowane brzmienie: “O planowanej kontroli kontrolujący zawiadamia podmiot kontrolowany z wyprzedzeniem przynajmniej 30 dni roboczych, podając przewidywany czas trwania kontroli, nie dłuższy niż 1 miesiąc od dnia rozpoczęcia kontroli.” Uzasadnienie: Należy określić z jakim wyprzedzeniem kontrolowany powinien być zawiadomiony o planowanej kontroli. Zapewni to odpowiedni czas na przygotowanie do kontroli, skoro podmiot i tak jest o niej uprzedzany. Brak dowolności w stosowaniu prawa. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 248. Art. 43 ust. 7 UOKiK Zgodnie z art. 48 ust. 11 ustawy - Prawo przedsiębiorców zawiadomienia o zamiarze wszczęcia kontroli nie dokonuje się, w przypadku gdy kontrola ma zostać przeprowadzona na podstawie ratyfikowanej umowy międzynarodowej albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 75 i 80 rozporządzenia 2024/1689 stanowią bezpośrednią podstawę prawną do prowadzenia kontroli. Ponadto zgodnie z art. 74 ust. 1 rozporządzenia 2024/1689 „Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020”, które w art. 14 ust. 4 lit. d stanowi, że uprawnienia nadane organom nadzoru rynku obejmują prawo do przeprowadzenia niezapowiedzianych kontroli na miejscu i kontroli fizycznych produktów, zaś zgodnie z art. 74 ust. 5 rozporządzenia 2024/1689 „do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny”. Zatem rozważenia wymaga zasadność zawiadamiania w każdym przypadku o planowanej kontroli. Uwaga nieuwzględniona Nowe brzmienie przepisów o kontroli 130 249. Art. 43 ust. 8 UOKiK Przepisy projektu ustawy nie definiują pojęcia Kierownika podmiotu kontrolowanego posługując się wyłącznie pojęciem Kontrolowanego. W celu usunięcia ewentualnych wątpliwości związanych ze stosowaniem przepisów w tym zakresie, rekomenduje się wprowadzenie definicji kierownika podmiotu kontrolowanego, chociażby przez odesłanie dodefinicji tego pojęcia w obowiązujących przepisach np. ustawy o rachunkowości. Jednocześnie rozważenia wymaga zasadność zamieszczenia w katalogu podmiotów zobowiązanych do udzielania informacji i zapewnienia określonych warunków kontroli osoby czynnej w lokalu przedsiębiorstwa, ze względu na prawny oraz przede wszystkim faktyczny brak możliwości działania w żądany sposób przez takie osoby. Należy mieć na uwadze, że niekażdy pracownik otrzymuje uprawnienia do wstępu na określone powierzchnie placówek czy też ma dostęp do nośników informatycznych. Uwaga uwzględniona 250. Art. 43 ust. 8 pkt 2 PFR Proponujemy nadać następujące brzmienie: „udzielanie żądanych informacji” Uwaga nieuwzględniona Uwaga nieuwzględniona ze względu na brak jej przedmiotowości po dokonaniu modyfikacji przepisów w aktualnej wersji projektu ustawy. 251. Art. 43 ust. 8 pkt 2 UKNF W art. 43 ust. 8 projektu ustawy, we wprowadzeniu do wyliczenia, wskazano, że osoby reprezentujące podmiot kontrolowany obowiązane są udzielać kontrolującemu wszelkich potrzebnych informacji. Tym samym nie jest konieczne ponowne wskazywanie w art. 43 ust. 8 pkt 2, że ww. osoby powinny zapewnić „udzielanie żądanych informacji”. Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 252. Art. 43 ust. 8 pkt 3 PFR Proponujemy nadać następujące brzmienie: „wstęp na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 253. Art. 43 ust. 8 pkt 4 PFR Proponujemy nadać następujące brzmienie: „udostępnienie i wydanie materiałów, o których mowa w ust. 4 pkt 3, lub innych przedmiotów mogących stanowić dowód w sprawie” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 131 254. Art. 43 ust. 8 pkt 5 PFR Proponujemy nadać następujące brzmienie: „dostęp do informatycznych nośników danych, urządzeń lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną.” Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli. 255. Art. 43 ust. 8 pkt 5 BGK Propozycja 5) umożliwienia dostępu do informatycznych nośników danych, urządzeń, chmury obliczeniowej lub systemów informatycznych, o których mowa w ust. 4 pkt 3, w zakresie informacji zgromadzonych na tych nośnikach, w urządzeniach, w chmurze obliczeniowej lub w systemach, w tym do korespondencji przesyłanej pocztą elektroniczną Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Uwaga uwzględniona Zmiana brzmienia przepisów o kontroli Komisja nie miałaby dostępu do takich danych Uwaga nieuwzględniona 256. Art. 43 ust. 10 IAB Polska Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do sytuacji, w której podmiot nie będzie mógł prowadzić działalności gospodarczej. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 257. Art. 43 ust. 10 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Warto rozważyć inne metody dot. nośników informatycznych, tym bardziej, że jeden nośnik może być wykorzystywany do wielu celów i takie zabezpieczenie nie może doprowadzić do Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 132 sytuacji w której podmiot nie będzie mógł prowadzić działalności gospodarczej. 258. Art. 43 ust. 11 IAB Polska Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\". Czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 259. Art. 43 ust. 11 IAB Polska Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa. Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 260. Art. 43 ust. 11 Konfederacj a Lewiatan Uważamy, iż przepis wymaga doprecyzowania, że wniesienie skargi wobec podjęcie i wykonywania kontroli z naruszeniem przepisów wstrzymuje zajęcie. Komisja w toku kontroli może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni. Podmiot może wnieśc sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów - nie zostało jednak określone, czy wstrzymuje zajęcie. Ponadto, powinno być wyraźne ograniczenie zakresu wydawania postanowienia o zajęciu dokumentów i przedmiotów do tych bezpośrednio związanych z przedmiotem kontroli i niezbędnych do jej przeprowadzenia, zapewni to proporcjonalność środków kontroli. Przepis powinien precyzować, czym jest \"zajęcie nośników informatycznych\" - czy w skrajnych przypadkach ma to oznaczać, że firma musi zaprzestać działalności, jeśli wiąże się ona z korzystaniem z danych i systemów, które zostały zajęte? To zbyt daleko idące prawo. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 261. Art. 43 ust. 11 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 133 przepisów Projektu: Art. 43 ust. 11 Projektu dotyczący zajęcia rzeczy podczas kontroli — powinien uwzględniać przede wszystkim dyrektywę wynikającą z art. 52 Prawa przedsiębiorców, która stanowi, że czynności kontrolne wykonuje się w sposób sprawny 1 możliwie niezakłócający funkcjonowanie przedsiębiorcy. W przypadku, gdy przedsiębiorca wskaże na piśmie, że wykonywane czynności zakłócają w sposób istotny działalność gospodarczą przedsiębiorcy, konieczność podjęcia takich czynności uzasadnia się w protokole kontroli. Należy podkreślić, że nie jest jasne ratio legis wprowadzenia tak rygorystycznego uregulowania ze względu na to, że dokonanie kopii akt, ksiąg, wszelkiego rodzaju dokumentów, pism i korespondencji, które mogą mieć znaczenie dla sprawy, jest obecnie łatwe do dokonania. To samo dotyczy informatycznych nośników danych, urządzeń zawierających dane informatyczne, lub systemów informatycznych. Proponowane wskazanym przepisem środki cechuje znaczna dolegliwość. Warto natomiast do projektowanego przepisu wprowadzić dodatkowe przesłanki gwarantujące zachowanie zasady proporcjonałności. Konieczne jest także dokładne wskazanie organu właściwego do rozpatrzenia zażalenia na postanowienie o przedmiotowym zajęciu oraz tryb zaskarżenia wraz z określeniem ustawowego terminu rozpatrzenia zażalenia, zwłaszcza gdy złożenie zażalenia nie wstrzymuje wykonania postanowienia. Powyższe jest istotne ze względu na późniejsze stosowanie w praktyce projektowanych przepisów. 262. Art. 43 ust. 12 UOKiK Zgodnie z art. 43 ust. 11 projektu ustawy organ może wydać postanowienie o zajęciu akt, ksiąg, wszelkiego rodzaju pism, dokumentów, korespondencji lub informatycznych nośników danych, urządzeń, o których mowa w ust. 4 pkt 3, oraz innych przedmiotów mogących stanowić dowód w sprawie, na czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni, natomiast zgodnie z ust. 12 osobę posiadającą przedmioty wzywa się do ich wydania dobrowolnie, a w razie odmowy kieruje się przeciwko posiadaczowi postępowanie egzekucyjne. Skoro wydane zostanie postanowienie o zajęciu ww. dowodów, to ich wydanie nie jest dobrowolne. Postanowienie stanowi akt administracyjny, który będzie Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 134 zobowiązywał podmiot do wydania dowodów w związku z ich zajęciem. Jeśli zaś postanowienie nie zostałoby wydane, nie byłoby podstawy do skierowania obowiązku do egzekucji. Należałoby przeredagować treść ust. 9-12, aby było jasne jak powinna wyglądać niniejsza procedura oraz które czynności mogą być dobrowolne, a które będą zobowiązywały podmioty i podlegały egzekucji 263. Art. 43 ust. 13 UKNF Z projektowanego przepisu nie wynika do kogo kierować/kto rozpatruje zażalenie na postanowienie o zajęciu przedmiotów. Zasadne jest odpowiednie doprecyzowanie przepisu w ww. zakresie. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 264. Art. 43 ust. 13 PFR Prosimy o rozważenie możliwości doprecyzowania procedury składania zażaleń oraz zapewnienie jasności co do trybu i terminów rozpatrywania takich zażaleń. To może zwiększyć transparentność całego procesu kontrolnego Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 265. Art. 43 ust. 13 Konfederacj a Lewiatan Brakuje informacji o terminie do wniesienia oraz terminie rozpatrzenia zażalenia na postanowienie o zajęciu przedmiotów (w związku bowiem z art. 56 projektu należy przyjąć, że ogólne przepisy KPA znajdują zastosowanie „do postępowania” przed KRiBSI, a zatem nie znajdują one zastosowania do kontroli prowadzonej przez KRiBSI). Jednocześnie zwracamy uwagę, że przyjęcie z KPA standardowego terminu 7 dni na wniesienie zażalenia do organu będzie nieefektywne w sytuacji, w której proponuje się, że zajęcie przedmiotów odbywa się przez „czas niezbędny do przeprowadzenia kontroli, jednakże nie dłuższy niż 7 dni” (art. 43 ust. 11). Zatem chcąc zagwarantować skuteczny i efektywny dla przedsiębiorcy mechanizm zażaleniowy, należałoby określić krótsze terminy na złożenie samego zażalenia oraz na szybkie rozpatrzenie zażalenia przez organ kontrolujący. Skoro zajęcie może trwać do 7 dni (ust. 11), to ustawa powinna wprost stanowić, że zażalenie jest rozpatrywane w ciągu 1 dnia od wpłynięcia, a w braku dochowania tego terminu, zajęcia upada z mocy prawa.Bez takiego mechanizmu, wymuszającego szybkie rozpatrzenie zażalenia, prawo do zażalenia stanie się fikcją (a więc taki mechanizm nie będzie zgodny z Konstytucją). Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 135 266. Art. 43 ust. 13 Pracodawcy RP Proponowany przepis przewiduje możliwość zaskarżenia postanowienia o zajęciu przedmiotów, w drodze zażalenia, jednak bez wskazania trybu, w jakim ma to nastąpić, a także bez wskazania organu, do którego zażalenie powinno zostać wniesione. W szczególności nie reguluje tego proponowana zmiana w obszarze przepisów Kodeksu postępowania cywilnego, która dotyczy wyłącznie decyzji Komisji. Ponadto z dużym niepokojem należy się odnieść do uregulowania, że zaskarżenie postanowienia o zajęciu przedmiotów nie wstrzymuje jego wykonania - szczególnie w sytuacji, gdy zajęciu podlegają dokumenty i inne nośniki zawierające informacje wrażliwe - bowiem Komisja jest wówczas uprawniona do działania dalej tak, jakby postanowienie nie zostało zaskarżone, grożąc niemożliwą do zrekompensowania stratą po stronie podmiotu obowiązanego. Należy wprowadzić do proponowanej ustawy przepisy precyzujące ścieżkę odwoławczą w zakresie postanowień o zajęciu przedmiotów w toku kontroli, a także wykreślić normę dot. natychmiastowej wykonalności postanowienia o zajęciu przedmiotów bądź, alternatywnie, zastrzeżeniu, że w przypadku zaskarżenia postanowienia o zajęciu należy powstrzymać się od wykorzystania zajętych przedmiotów do momentu rozstrzygnięcia uprawnionego organu. Uwaga wyjaśniona Uwaga nieaktualna ze względu na ze względu na zmianę treści przepisów. 267. Art. 43 ust. 13 Rada Legislacyjna [Brak wskazania w art. 43 ust. 13 Projektu organu uprawnionego do rozpatrywania zażalenia] W przepisie art. 43 ust. 13 Projektu nie wskazano organu, który jest uprawniony do rozpatrzenia wymienionego w tym przepisie zażalenia na postanowienie Komisji o zajęciu przedmiotów. Przepis art. 43 ust. 13 Projektu – który jest zamieszczony w ramach grupy przepisów Projektu normujących kontrolę przez Komisję przestrzegania przepisów Rozporządzenia UE 2024/1689 i ustawy (obecnie Projektu) – stanowi co następuje: „Na postanowienie o zajęciu przedmiotów zażalenie przysługuje osobom, których prawa zostały naruszone. Wniesienie zażalenia nie wstrzymuje wykonania postanowienia.”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 136 Postanowienie, o którym mowa w tym przepisie jest wydawane przez Komisję (zob. art. 43 ust. 11 Projektu), aczkolwiek Projekt nie określa właściwej w tych sprawach drogi odwoławczej, w tym np. nie wskazuje na możliwość zaskarżenia tego postanowienia zażaleniem do SOKiK. Co prawda art. 45 ust. 5 Projektu mówi o możliwości zwrotu przez SOKiK pism lub dokumentów ujawnionych w toku omawianej kontroli dokonywanej przez Komisję, ale przepis art. 45 ust. 5 Projektu absolutnie nie ma zastosowania do postanowienia Komisji o zajęciu przedmiotów, o którym jest mowa w art. 43 ust. 13 Projektu, gdyż, po pierwsze, art. 45 ust. 5 Projektu dotyczy jedynie bardzo wąskiej grupy pism lub dokumentów (a nie innych przedmiotów) związanych z komunikacją kontrolowanego z prawnikiem (zob. art. 45 ust. 1-4 Projektu), a po drugie te pisma i dokumenty, których dotyczy art. 45 ust. 5 Projektu (i o których zwrocie będzie orzekał SOKiK) nie są przez kontrolowanego zajmowane, lecz są pozostawiane w miejscu kontroli (zob. art. 45 ust. 1 in fine Projektu). Tym samym przepis art. 45 ust. 5 Projektu nie ma żadnego znaczenia (a w każdym razie nie ma przesądzającego znaczenia) dla zidentyfikowania lub wskazania drogi prawnej przysługującej w przypadku zaskarżania zażaleniem postanowienia Komisji o zajęciu przedmiotów, o czym jest mowa w art. 43 ust. 13 Projektu. W związku z tym Rada Legislacyjna postuluje wyraźne przesądzenie w art. 43 ust. 13 Projektu, że zażalenie, o którym jest mowa w tym przepisie jest wnoszone do SOKiK i jest przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 268. Art. 43 ust. 14 IAB Polska Relacja między ust. 14 a ust. 11-13 jest niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować, w jakiej sytuacji zajęcie jest niedopuszczalne. Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia na miejscu kontroli\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 269. Art. 43 ust. 14 Konfederacj a Lewiatan Relacja między ustępem 14 a ust. 11-13 jest całkowicie niejasna, nie jest też w ogóle omówiona w uzasadnieniu ustawy. Należy doprecyzować w jakiej sytuacji zajęcie jest niedopuszczalne. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 137 Ust. 11 mówi ogólnie o prawie do zajęcia danych \"w toku kontroli\", a ust. 14 odnosi się do \"zabezpieczenia NA MIEJSCU KONTROLI\". Czy to oznacza, że prawo zajęcia danych dotyczy tylko kontroli zdalnej a nie dotyczy sytuacji, gdy kontrola jest dokonywana w pomieszczeniach kontrolowanego? Przepisy te powinny zostać przeformułowane w zrozumiały sposób, który jasno określi, kiedy zajęcie jest dopuszczalne, a kiedy nie. 270. Art. 43 ust. 15 IAB Polska Należy wskazać, kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak: kto może być taką osobę i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 271. Art. 43 ust. 15 Konfederacj a Lewiatan Należy wskazać kim ma być taka osoba i jakie ma kryteria spełniać. Na pewno musi być w stanie zapewnić warunki do przechowywania przedmiotów - np. nośników informatycznych. Ponieważ nie ma tu delegacji do wydania rozporządzenia w tej sprawie, to ustawa powinna określać takie zasady jak kto to może być i jakie wymagania ma spełnić. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 272. Art. 43 ust. 15 Pracodawcy RP Zgodnie z proponowanym przepisem, przedmioty podlegające zajęciu w toku kontroli po dokonaniu oględzin i sporządzeniu protokołu zajęcia zostają zabrane albo oddane na przechowanie osobie godnej zaufania z zaznaczeniem obowiązku ich przedstawienia na żądanie organu prowadzącego postępowanie. Ustawa nie definiuje jednak, jakie cechy powinna posiadać „osoba godna zaufania”, w jaki sposób jest wyznaczana, ani jakie gwarancje ochrony informacji poufnych przysługują podmiotowi obowiązanemu. W ocenie zgłaszającego komentowany przepis zawiera luki, które należy uzupełnić poprzez dodanie postanowień dotyczących osoby Godnej zaufania, sposobu jej wyznaczenia i ciążących na niej obowiązków, a także określenie sposobu postępowania ze złożonymi takiej osobie zajętym przedmiotami. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 273. Art. 43 ust. 16 i 18 Pracodawcy RP Przedmiotowe przepisy dotyczą sporządzenia i treści protokołu oraz wydania podmiotowi kontrolowanemu pokwitowania zajętych przedmiotów, jednak nie przewidują procedury odwoławczej wobec zastrzeżeń co do treści takiego protokołu i pokwitowania. Postulujemy zawarcie w omawianych przepisach Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 138 odwołania do postępowania odwoławczego prowadzonego przez sąd ochrony konkurencji i konsumentów w odniesieniu do wszystkich rodzajów spraw wynikających i pozostających w związku z realizacją uprawnień określonych w przedmiotowym projekcie ustawy - jest to uzasadnione wyłączeniem zasady dwuinstancyjności postępowania administracyjnego w odniesieniu do spraw określonych omawianą ustawą, które powinno być równoważone zasadą umożliwienia prawnej ochrony podmiotowi kontrolowanemu. 274. Art. 43 ust. 18 KRRiT w art. 43 ust. 18 nie jest jasne, dlaczego powiadomienie ma dotyczyć tylko przedsiębiorcy, skoro kontroli mogą być poddane także osoby fizyczne nieprowadzące działalności gospodarczej (przepis art. 43 ust. 21 projektowanej ustawy); Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 275. Art. 43 ust. 20 Rzecznik MŚP Adekwatnie do uwag do art. 42 i wątpliwości zasadne wydaje się wykreślenie z Projektu lub zmiana treści w sposób odpowiadający regulacjom Prawa przedsiębiorców, poniższych przepisów Projektu: Art. 43 ust. 20 Projektu powinien uwzględniać gwarancyjny charakter instytucji sprzeciwu określonej w art. 59 ust. 1-16 Prawa przedsiębiorców, zwłaszcza możliwość jego złożenia w odniesieniu do poszczególnych czynności kontrolnych dokonanych z naruszeniem art. 48, art. 49, art. 50 ust. 1 1 5 oraz art. 51 ust. 1, art. 54 ust. 1, art. 55 ust. 1 i 2 a także art. 58 Prawa przedsiębiorców. Uwagi dot art. 42 i 43 wskazują na duże zagrożenie dla zagwarantowanych podstawowych praw przedsiębiorców, jakie stwarza szczególnie aktualna treść art. 42 Projektu, jak również na poważne niejasności co do ewentualnych skutków, w wypadku pozostawienia w Projekcie wskazanych przepisów w ich obecnej treści. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 276. Art. 43 ust. 20 IAB Polska Należy doprecyzować, w jakiej formie należy wnieść sprzeciw oraz skutki związane z jego wniesieniem. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 277. Art. 43 ust. 20 Konfederacj a Lewiatan Należy doprecyzować jakie formie i co wynika z wniesienia sprzeciwu. W tym punkcie ma zastosowanie uzasadnienie z punktu powyżej. Ponadto, naszą wątpliwość budzi w jakim trybie, do jakiego organu oraz za czyim pośrednictwem w jakim terminie może być wniesiony sprzeciw? - Jeśli art. 59 Prawa przedsiębiorców, to do jakiego organu, w jakm terminie może Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 139 być wniesione zażalenie, o którym mowa w ust. 9 art. 59 Prawa przedsiębiorców - jesli na podstawie ust. 16 art. 59 stosuje sie odpowiednio przepisy KPA. Jesli zażalenie z art. 43 ust. 13 projektu ustawy ma przysługiwać do SOKIK (?) to zażalenie od takiego sprzeciwu powinno także. Mieszanie róznych trybów/organów w jednym artykule ustawy jest niewskazane. 278. Art. 43 ust. 20 Pracodawcy RP Przepis nie określa trybu wniesienia sprzeciwu wobec podjęcia i prowadzenia kontroli z naruszeniem przepisów ani nie wskazuje organu właściwego do jego rozpoznania. Uzasadnienia jak do art. 43 ust. 3 Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 279. art. 43 ust. 20 Rada Legislacyjna [Brak wskazania w art. 43 ust. 20 Projektu organu właściwego do rozpatrzenia zażalenia na postanowienie rozstrzygające sprzeciw] Przepis art. 43 ust. 20 Projektu nie wskazuje organu uprawnionego do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w tym przepisie. Przepis art. 43 ust. 20 Projektu stanowi, że „Podmiot kontrolowany może wnieść sprzeciw wobec podjęcia i wykonywania kontroli z naruszeniem przepisów.”. Ponieważ zgodnie z art. 42 Projektu do kontroli, o której jest tutaj mowa stosuje się, w zakresie nieuregulowanym w Projekcie, przepisy rozdziału 5 ustawy Prawo przedsiębiorców, zaś w tej ostatniej ustawie została uregulowana kwestia wnoszenia sprzeciwu przez przedsiębiorcę do organu kontroli w związku z naruszeniem różnych przepisów ustawy Prawo przedsiębiorców normujących kontrolę przedsiębiorców, można by sądzić, że w kwestii rozpatrywania sprzeciwu oraz skutków prawnych tego rozpatrzenia należy stosować właśnie przepisy rozdziału 5 ustawy Prawo przedsiębiorców. To by zaś oznaczało, że rozstrzygnięcie przez Komisję sprzeciwu podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu następuje w drodze postanowienia Komisji (wniosek z art. 59 ust. 7 Prawa przedsiębiorców w zw. z art. 42 Projektu), zaś postanowienie to jest następnie zaskarżalne zażaleniem (wniosek z art. 59 ust. 9 Prawa przedsiębiorców w zw. z art. 43 Projektu), a dodatkowo po wydaniu postanowienia Komisji rozstrzygającego sprzeciw podmiotu kontrolowanego ten ostatni może wnieść do sądu administracyjnego skargę na przewlekłe prowadzenie kontroli (wniosek z art. 59 ust. 14 w zw. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 140 z ust. 9 pkt 1 i ust. 7 pkt 2 Prawa przedsiębiorców w zw. z art. 42 Projektu). Tyle tylko, że stosując wprost wskazane przepisy ustawy Prawo przedsiębiorców nadal nie sposób jest jednoznacznie stwierdzić, jaki konkretnie organ miałby być uprawniony do rozpatrywania zażaleń na postanowienia Komisji w sprawie rozstrzygnięcia sprzeciwu, o którym jest mowa w art. 43 ust. 20 Projektu: czy sama Komisja (skoro brak jest w stosunku do Komisji organu administracji wyższego stopnia – zob. stosowany przez analogię przepis art. 127 § 3 w zw. z art. 144 ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego,23 dalej: „k.p.a.”) czy też może SOKiK, tak jak to jest postulowane wyżej w odniesieniu do postanowień Komisji o zajęciu przedmiotów? Na to pytanie przepisy Projektu nie udzielają niestety jednoznacznej odpowiedzi, nawet przy uwzględnieniu wspomnianego odesłania z art. 42 Projektu do przepisów rozdziału 5 ustawy Prawo przedsiębiorców. Zdaniem Rady Legislacyjnej, względy pożądanej efektywizacji ochrony prawnej podmiotów kontrolowanych przemawiają za tym, aby postanowienia Komisji rozstrzygające wnoszony przez podmiot kontrolowany sprzeciw, o którym jest mowa w art. 43 ust. 20 Projektu, były zaskarżane zażaleniem do SOKiK i były przez ten właśnie sąd rozpatrywane oraz rozstrzygane. 280. Art. 43 ust. 21 Konfederacj a Lewiatan Konieczne jest wyjaśnienie, jak ten przepis odnosi się do zakresu podmiotowego AI Actu. Zapewni to spójność i zrozumiałość ustawy. AI Act wyłącza część podmiotów z zakresu jego stosowania. O jakim kręgu podmiotów mówi ten przepis? Jest to niejasne. Uwaga nieuwzględniona. 281. Art. 44 RPD Wątpliwości budzi również regulacja przewidziana w ww. przepisie zgodnie z którym Komisja będzie mogła zwrócić się m.in. do organu ochrony prawa o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli, a podmiot taki zapewni pomoc w przeprowadzeniu kontroli. Wniosek taki może być przesłany co najmniej 7 dni przed planowanym dniem wszczęcia kontroli, a w przypadkach niecierpiących zwłoki, co najmniej 3 dni przed planowaną kontrolą. Przepisy odnoszące się do tej materii nie wskazują, jakie kompetencje i kwalifikacje mają mieć osoby Uwaga uwzględniona Nowe brzmienie przepisów o kontroli. 141 uczestniczące z ramienia organu. Kwestie te nie zostały również wyjaśnione w uzasadnieniu do projektu. 282. Art. 44 ZPP Komisja na mocy art. 44 ma mieć możliwość zwrócenia się m.in. do policji o udzielenie pomocy w przeprowadzeniu kontroli – z uwagi na charakter czynności i samej Komisji, która nie ma być kolejną służbą w modelu policyjnym, przeciwdziałającą kryminalnym występkom, lecz organem nadzoru nad stosowaniem w praktyce AI Act, wydaje się to instrument zarysowany w projekcie ustawy zbyt szeroko. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 283. Art. 44 ust. 1 IAB Polska To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to najgorsze skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i jedynie, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne. Ewentualnie należy rozważyć zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. Proponujemy następujące brzmienie przepisu: “Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 142 284. Art. 44 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przpisu: „Komisja może zwrócić się do jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do przeprowadzenia kontroli”. Uzasadnienie: Przewidziana w projekcie potrzeba zaangażowania Policji oraz organów i jednostek podległych i nadzorowanych przez ministra właściwego do spraw informatyzacji wydaje się być rozwiązaniem zbyt daleko idącym, nie służącym z pewnością promowaniu rozwoju innowacyjnych technologii. Dlatego też należy przeanalizować konieczność jej pozostawienia. To postanowienie zdecydowanie powinno zostać usunięte. KRiBSI jest organem publicznym, a nie policyjnym. Ten przepis wyraźnie wskazuje, że KRiBSI, według swojego uznania, może poprosić o pomoc policję, ABW, CBA, CBŚ, a nawet wywiad lub kontrwywiad wojskowy. Budzi to skojarzenia z nadużyciami władzy w Polsce przez ostatnie 8 lat. Takich uprawnień nie ma nawet Komisja Nadzoru Finansowego wobec podmiotów nadzorowanych (KNF może korzystać tylko z pomocy policji i JEDYNIE, gdy prowadzi postępowania o popełnienie przestępstwa lub naruszenie przepisów administracyjnych z ustaw regulujących poszczególne sektory rynku finansowego - art. 18b ust. 4 ustawy o nadzorze nad rynkiem finansowym; kontrola KRiBSI to etap, na którym w ogóle nie wiadomo, czy jakiekolwiek naruszenia miały miejsce). Jeżeli podmiot podlegający pod AI Act będzie prowadzić działalność niezgodną z polskim prawem, a podlegającą sprawdzeniu zgodnie z kompetencjami takich podmiotów ABW, CBŚ, CBA czy inne organy \"kontroli państwowej i ochrony prawa\" w Polsce - to te organy mogą wziąć prowadzić swoje własne kontrole i postępowania. Natomiast wprowadzanie \"bocznymi drzwiami\" uprawnienia do zaangażowania ich w dowolną kontrolę jest niedopuszczalne Uwaga częściowo uwzględniona 143 Ewentualnie należy rozważyc zostawienie wyłącznie Policji jako organu \"pomagającego\" w kontroli - tak jak np. komornik może prosić Policję o pomoc. 285. Art. 44 ust. 2 pkt 3 KRRiT w art. 44 ust. 2 pkt 3 wyrazy „jednostek podległych i nadzorowanych” zostały błędnie odmienione; 286. Art. 44 ust. 2 pkt 3 Konfederacj a Lewiatan Wątpliwości budzi przyznane w tym przepisie uprawnienie do „ustalania stanu faktycznego w zakresie bezpieczeństwa systemu sztucznej inteligencji” – w szczególności nie jest wiadome o jakie bezpieczeństwo (techniczne, prawne, itd.) tutaj chodzi oraz dlaczego organy i jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji miałyby być w tym zakresie kompetentne Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 287. Art. 44 ust. 3 UKNF W tekście prawnym należy posługiwać się takimi samymi określeniami w odniesieniu do tych samych czynności (działania). Natomiast w przedmiotowym przepisie najpierw posłużono się sformułowaniem: „dniem wszczęcia kontroli”, a następnie sformułowaniem: „dniem rozpoczęcia kontroli”, co odnosi się do tego samego działania – zainicjowania kontroli. Urząd Komisji Nadzoru Finansowego postuluje ujednolicenie treści przepisu w tym zakresie. Uwaga uwzględniona 288. Art. 44 ust. 4 KRRiT w art. 44 ust. 4 wątpliwość może budzić ustanowienie wynagrodzenia dla organów podejmujących czynności w zakresie swoich uprawnień i obowiązków; Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 289. Art. 45 IAB Polska Dotyczy art. 45 ust. 1 pkt 1) Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni. Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może Uwaga uwzględniona 144 zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: “zawierają pisemną komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub”. Dotyczy art. 45 ust. 1 pkt 2) - Należy wskazać, co w sytuacji, jeśli takie pismo/dokument znajduje się na nośniku, jaki ma być zajęty. 290. Art. 45 Konfederacj a Lewiatan W zakresie tajemnicy adwokackiej i radcowskiej przepis ten powinien się ograniczać do złożenia oświadczenia o tym, że dokument lub pismo (bez względu na to na jakich nośnikach się znajduje) stanowi tajemnicę, a w razie wątpliwości taki dokument może zostać przekazany do sądu. Stoimy na stanowisku, iż jakiekolwiek ograniczenie zakresu korespondencji między kontrolowanym a pełnomocnikiem, w tym wgląd w tę korespondencję narusza przepisy dotyczące zasad tajemnicy adwokackiej i radcowskiej określonej w innych przepisach. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 291. Art. 45 ust. 1 KRRiT w art. 45 ust. 1 przy powoływaniu przepisów projektowanej ustawy brak jest wyrazu „ustawy”; w art. 45 ust. 1 pkt 1) i 2) wydaje się, że pojęcie „właściwy organ” należy zastąpić terminem „Komisję”; Uwaga uwzględniona 145 292. Art. 45 ust. 1 i 2 RPO Ww. przepis przewiduje wgląd kontrolującego w dokumenty podmiotu kontrolowanego, które mogą być objęte tajemnicą adwokacką/radcowską (dalej jako: tajemnica adwokacka). W projektowanej ustawie przewidziano możliwość złożenia oświadczenia przez kontrolowanego wskazującego, że określone pisma i dokumenty zawierają informacje objęte tajemnicą adwokacką, co winno skutkować pozostawieniem przez kontrolujących tych dokumentów w miejscu kontroli. Jednocześnie jednak w świetle projektowanych przepisów, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia, a także jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia. Co więcej, jeżeli oświadczenie kontrolowanego budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, w sposób zapewniający należyte zabezpieczenie przed ujawnieniem jego treści. Ostatecznie to sąd decyduje o możliwości przekazania ww. dokumentów podmiotowi kontrolującemu. Mimo istnienia tego mechanizmu kontrolnego, sama możliwość nawet pobieżnego zapoznania się z pismami i dokumentami zawierającymi informacje objęte tajemnicą adwokacką, może budzić poważne wątpliwości . Należy wskazać, że tajemnica adwokacka służy ochronie interesów klienta. Stanowi ona gwarancję poszanowania relacji zaufania klienta do adwokata, bez której nie można wyobrazić sobie prawidłowej reprezentacji i prawidłowo funkcjonującego wymiaru sprawiedliwości. Ochrona tajemnicy adwokackiej stanowi jeden z najistotniejszych, jeśli nie najważniejszy obok należytej reprezentacji interesów klienta, obowiązków zawodowy adwokata . Także Europejskie Stowarzyszenie Adwokatur podkreśla, że bez tajemnicy nie powstałby pomiędzy adwokatem a klientem stosunek zaufania, w konsekwencji adwokaci nie mogliby wykonywać swojego zawodu . W wyroku z dnia 24 maja 2018 r. w sprawie Laurent v. Francja Europejski Trybunał Praw Człowieka wskazał, że ze względu na uprzywilejowany Uwaga uwzględniona 146 charakter komunikacji podejrzanego z obrońcą władze publiczne nie mogą dokonywać kontroli tej korespondencji, chyba że istnieją uzasadnione podstawy do podejrzeń, że korespondencja ta zawiera treści nielegalne. Niemniej nawet wówczas należy zapewnić odpowiednie gwarancje proceduralne. W sprawie tej adwokat Cyril Laurent napisał swoje dane na kartce papieru, którą następnie złożył i wręczył podejrzanym zatrzymanym przez policję. Funkcjonariusz policji zapoznał się z jej treścią, na co skarżący złożył nieskuteczne zażalenie do sądu. W przedmiotowej sprawie, ETPC zauważył, że owa kartka papieru stanowi korespondencję chronioną przez art. 8 Konwencji. W związku z tym zapoznanie się z nią przez funkcjonariusza policji stanowi ingerencję w prawo do poszanowania życia prywatnego. Trzeba zatem zauważyć, że stworzenie możliwości osobom nieupoważnionym zapoznania się z pismem lub dokumentem objętymi tajemnicą adwokacką ingeruje w relację pomiędzy pełnomocnikiem i klientem oraz narusza tajemnicę korespondencji. W mojej ocenie pozostawienie projektowanego przepisu w takim kształcie jest trudne do pogodzenia z ww. zasadami jak również z zasadą demokratycznego państwa prawnego (art. 2 Konstytucji RP). 293. Art. 45 ust. 1 BGK Propozycja 1.Jeżeli w toku kontroli podmiot kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma lub dokumenty, w tym zawarte na informatycznych nośnikach danych, w urządzeniach, w chmurze obliczeniowej lub w systemach informatycznych, o których mowa w art. 43 ust. 4 pkt 3 Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 147 informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 294. Art. 45 ust. 1 pkt 1 Konfederacj a Lewiatan Dlatego też postulujemy, aby brzmienie art. 45 ust. 1 pkt 1) było następujące: „zawierają komunikację między podmiotem kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa podmiotu kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez właściwy organ, w toku którego jest przeprowadzana kontrola, lub (..)” Uzasadnienie: Fragment o \"niezależnym od kontrolowanego\" należy usunąć, bo rozwadnia prawo kontrolowanego do uzyskania ochrony prawnej. Polskie prawo nie zna słabszej ochrony tajemnicy radcowskiej lub adwokackiej ze względu na kryterium \"zależności\" od klienta, bo każdy radca prawny i adwokat są niezależni.Projektowane postanowienie faktycznie pozbawia kontrolowanego prawa do pomocy prawnej, ponieważ: - naturalnym pierwszym kontaktem pomocy prawnej będzie jego wewnętrzny radca prawny; organ zapewne wysunie interpretację, że nie jest \"niezależny\", skoro jest zatrudniony u kontrolowanego; - radcowie prawni i adwokaci pracują również w oparciu o jednoosobową działalność gospodarczą, chociaż w praktyce pracują jakby byli zatrudnieni w spółce; organ zawsze może zarzucić, że nie są \"niezależni\", bo są finansowo uzależnieni od kontrolowanego; - równie naturalną sytuacją jest to, że firmy współpracują z wybranymi kancelariami prawnymi; jeżeli kontrolowany otrzyma pomoc prawną od takiej kancelarii, organ również może przyjąć interpretację, że nie jest ona \"niezależna\" od kontrolowanego, ponieważ zarabia na projektach realizowanych we współpracy z kontrolowanym. Uwaga uwzględniona 148 Ten niewielki fragment narusza zasadę praworządności i faktycznie pozbawia kontrolowanego ochrony prawnej. 295. Art. 45 ust. 1 pkt 2 Konfederacj a Lewiatan Należy wskazać co w sytuacji jeśli takie pismo/dokument znajduje się na nośniku jaki ma być zajęty. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 296. Art. 45 ust. 2 ZZP Na gruncie art. 45 ust. 2 kontrolujący ma mieć prawo „pobieżnego” zapoznania się z pismem zawierającym pisemną komunikację między podmiotem kontrolowanym a np. niezależnym od niego adwokatem, a więc dokumentem z zasady objętym tajemnicą adwokacką. Sam przepis jest w naszym przekonaniu za daleko idący i powinien zostać usunięty, tym bardziej razi on w kontekście regulacji dot. możliwości upoważnienia do przeprowadzenia kontroli osób trzecich. Uwaga uwzględniona Zmiana brzmienia przepisu. 297. Art. 45 ust. 2 IAB Polska Rekomendujemy następujące brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe”. Prawo organu do \"pobieżnego zapoznania się\" z dokumentu objętym tajemnicą radcowską/adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności. Uwaga uwzględniona 298. Art. 45 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Wnosimy o wykreślenie ustępu 2. Jeśli są wątpliwości, to powinno to być poddane kontroli sądowej. Uwaga uwzględniona 149 Z ostrożności procesowej, w przypadku nieuwzględnienia powyższej uwagi, proponujemy następujące zmiany: Ew. rekomendujemy następujace brzmienie art. 45 ust. 2: “Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z pismem lub dokumentem, w sposób pozwalający na ustalenie wyłącznie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Kontrolujący jest uprawniony do żądania od podmiotu kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz przygotowania wersji pisma lub dokumentu niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. Uzasadnienie: Słowo \"pobieżnie\" powinno być usunięte, trzeba zapewnić w ustawie precyzyjne określenie, że kontrolujący może zapoznać się tylko z określonymi aspektami pisma lub dokumentu. Wyraz \"pobieżnie\" jest nieprecyzyjny i może prowadzić do różnych interpretacji. Precyzyjne określenie aspektów, z którymi kontrolujący może się zapoznać, zapewni większą pewność prawną i ochronę najważniejszych prawnie chronionych tajemnic – radcowskiej i adwokackiej. Prawo organu do \"pobieżnego zapoznania się\" z dokumentnu objętym tajemnicą radcowską/ adwokacką powinien zostać usunięty, ponieważ narusza te tajemnice i prawo do pomocy prawnej. Kontrolowany nie jest w stanie skontrolować, czy pracownik KRiBSI rzeczywiście zapoznaje się z dokumentem 150 \"pobieżnie\", czy też wczytuje się w meritum dokumentu. Czy \"pobieżność\" miałaby oznaczać, że po maksymalnie 10 sekundach patrzenia na dokument, kontrolowany ma prawo wyrwać go z rąk pracownika KRiBSI lub odciąć dostęp elektroniczny do dokumentu? Podczas tzw. \"pobieżnego\" zapoznania się z dokumentem KRiBSI może wejść w posiadanie informacji, które są objęte pomocą prawną i do której nie ma prawa mieć dostępu. Wprowadzanie takich postanowień jest niezgodne z konstytucyjną zasadą praworządności 299. Art. 45 ust. 2 Pracodawcy RP Z dużym niepokojem należy odnieść się do przepisu, zgodnie z którym złożenie przez podmiot kontrolowany oświadczenia, że dany dokument zawiera komunikację z niezależnym od niego przedstawicielem zawodu powołanego do świadczenia ochrony prawnej, nie wyłącza możliwości pobieżnego zapoznania się przez kontrolera z takim dokumentem, w sposób pozwalający na ustalenie autora, adresata, tytułu oraz przedmiotu pisma lub dokumentu oraz daty jego sporządzenia. Tak skonstruowany przepis narusza taj emnicę adwokacką / radcowską, a także może naruszać tajemnicę obrończą, która ma charakter bezwzględny: postępowanie przez Komisją może łączyć się bowiem z postępowaniem karnym, w którym kontrolowany ma status oskarżonego lub podejrzanego. Przepis potencjalnie narusza też prawo obywatela do obrony, ponieważ w toku kontroli mogą wyjść na jaw okoliczności dotyczące np. postępowania karnego. Zwrot „pobieżne zapoznanie się” jest nieprecyzyjny i nieostry - w efekcie wyjątkowo wyjątkowo ocenny przepis, którego stosowanie będzie w praktyce uzależnione od prywatnych zapatrywań urzędnika. Potencjalnie przedmiotowy przepis pozostaje także w sprzeczności z art. 78 ust. 2 Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (Aktu AI), zgodnie z którym organy zaangażowane w stosowanie rozporządzenia zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania przyznanych im uprawnień. Dodatkowo organy Uwaga uwzględniona 151 te są zobowiązane do wprowadzenia odpowiednich i skutecznych środków w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych. Za konieczne uznajemy modyfikację treści ust. 2 art. 45 proponowanej ustawy, która w obecnym kształcie pozwala na pobieżne zapoznanie się z przedmiotem pisma, a nie tylko informacjami dotyczącymi autora, tytułu czy daty pisma - w tym zakresie ewentualne zapoznanie się kontrolera z takim pismem powinno się ogranicza do autora, adresata, tytułu i daty. Jakiekolwiek wątpliwości związane z przedmiotem pisma powinien rozstrzygać właściwy sąd (sąd ochrony konkurencji i konsumentów), który ewentualnie mógłby podważyć istnienie prawnie chronionej korespondencji przedsiębiorcy z pełnomocnikiem - w każdym przypadku, nie tylko w sytuacji, gdy dokument budzi wątpliwości kontrolera (vide art. 45 ust. 3). W przypadku utrzymania omawianego przepisu w dotychczasowym brzmieniu postulujemy natomiast, by osoba, która w ten sposób zapoznała się z dokumentem w trakcie kontroli, podlegała wyłączeniu z udziału w dalszym postępowaniu wobec podmiotu obowiązanego. 300. Art. 45 ust. 3 IAB Polska Należy wskazać, w jaki sposób kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów, skoro z ust. 1 in fine (“kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów. Uwaga nieuwzględniona 301. Art. 45 ust. 3 Konfederacj a Lewiatan Należy wskazać w jaki sposóbkontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, przekazuje pismo lub dokument, którego wątpliwość dotyczy, sądowi ochrony konkurencji i konsumentów , skoro z ust. 1 in fine (\" kontrolujący pozostawia te pisma lub dokumenty w miejscu kontroli\") wynika, że kontrolujący nie może mieć dostępu do takich dokumentów? Uwaga nieuwzględniona 302. Art. 45 ust. 3 Pracodawcy RP W uzupełnieniu uwag opisanych w pkt 7 powyżej należy wskazać, że umożliwienie przekazania budzącego wątpliwości oświadczenia o dokumentach zawierających tajemnicę adwokacką / radcowską do sądu ochrony konkurencji i Uwaga nieuwzględniona 152 konsumentów po zakończeniu kontroli, efektywnie pozbawia podmiot obowiązany możliwości obrony – przepis nie zawiera bowiem wytycznych co do sposobu postępowania z oświadczeniem i dokumentów, do których oświadczenie się odnosi, przy jednoczesnym posługiwaniu się nieostrymi, ocennymi pojęciami „wątpliwości” i „niezwłoczności”. W odniesieniu do przedmiotowych oświadczeń proponujemy modyfikację zaproponowanej treści przepisu w taki sposób, by jednoznacznie określał on sposób postępowania z kwestionowanymi oświadczeniami i dokumentami oraz zwiększał rolę sądu w ocenę zasadności wykorzystania określonych danych i informacji jeszcze w toku kontroli. W przeważającej części wypadków dane te będą miały niezwykle wrażliwy charakter, co uzasadnia przyjęcie najwyższej możliwej ochrony praw podmiotu obowiązanego. 303. Art. 45 ust. 4 KRRiT należy rozważyć wykreślenie art. 45 ust. 4 i stosować ogólną zasadę, zgodnie z którą ciężar dowodu spoczywa na tym, kto z twierdzenia wywodzi skutki prawne; Uwaga uwzględnienia 304. Art. 45 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich doręczenia postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia.” Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 305. Art. 45 ust. 5 IAB Polska Postulujemy uzupełnienie brzmienia przepisu o wskazanie terminu, w jakim sąd drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Proponowane brzmienie: “Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 153 przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia”. 306. Art. 45 ust. 5 Konfederacj a Lewiatan Sąd ochrony konkurencji i konsumentów po zapoznaniu się z pismami lub dokumentami, o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie podmiotowi kontrolowanemu w całości albo w części, jeżeli zawierają one pisemną komunikację, o której mowa w ust. 1, i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzonego postępowania. Na postanowienie sądu przysługuje zażalenie do sądu drugiej instancji. Sąd drugiej instancji rozpatruje zażalenie w terminie miesiąca. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Uzasadnienie: Postuluje się uzupełnienie brzmienia przepisu o wskazanie terminu w jakim Sad drugiej instancji ma rozpatrzyć zażalenie. Sąd drugiej instancji powinien być związany takim samym terminem jak SOKiK, żeby prawo do złożenia zażalenia było realne, a nie tylko fikcją. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 307. Art. 46 ust. 1-9 UKNF Z całokształtu przepisu nie wynika kiedy projekt wystąpienia pokontrolnego staje się wystąpieniem pokontrolnym. Ponadto przepis nie wymaga, aby projekt wystąpienia pokontrolnego był podpisywany przez kontrolujących, co rodzi wątpliwość odnośnie tego, czy ma on walor dokumentu. Analogiczne regulacje zawiera ustawa z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (art. 36-48). Przy czym w przedmiotowej ustawie precyzyjnie uregulowano wskazane kwestie (zarówno projekt, jak i samo wystąpienie pokontrolne powinny być podpisane). Uwagi uwzględnione 154 Ponadto, aby art. 46 ust. 3 projektu ustawy nie budził wątpliwości UKNF rekomenduje zastąpienie sformułowania: „do właściwego organu”, sformułowaniem: „do Komisji”. Analizy i rozpatrzenia zastrzeżeń do wystąpienia pokontrolnego dokonuje bowiem Komisja, a nie kontrolujący, gdyż zastrzeżenia kierowane są właśnie do organu – Komisji, a nie do kontrolujących, jak wynika to z ww. ust. 3. Urząd Komisji Nadzoru Finansowego rekomenduje, aby przepisy były spójne w tym zakresie. W odniesieniu do ustępu 9 projektowanego przepisu UKNF wskazuje, że zasadnym jest – analogicznie jak chociażby w art. 13 §1a. ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego (dalej jako: „KPA”), czy w art. 348 ust. 3 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej – zastąpienie opatrywania wystąpienia pokontrolnego „profilem zaufanym” na opatrywanie „podpisem zaufanym”. 308. Art. 46 ust. 1 i 4 Konfederacj a Lewaiatan Czy \"wystapienie pokontrolne\" nie może się po prostu nazywac „protokołem\" byłoby to spójne systemowo - por. ustawa Prawo przedsiębiorców, UOKK, UODO. Ustęp 4 stanowi kalkę np. przepisów UODO i UOKK, ale nieuzasadnioną - skoro w ust. 1 przewiduje się \"projekt\" wystąpienia pokontrolnego i doręcza się kontrolowanemu, to w przypadku wniesienia przez niego zastrzeżeń nie jest uzasadnione sporządzenie „aneksu do wystąpienia\", bo samo „wystąpienie\" jeszcze nie powstało. Uwagi uwzględnione 309. Art. 46 ust. 4 pkt 5 BGK Propozycja: 5) żądania sporządzenia przez podmiot kontrolowany kopii lub wydruków materiałów, korespondencji, o których mowa w pkt 3, oraz informacji zgromadzonych na nośnikach, w urządzeniach, w systemach lub w chmurze obliczeniowej, o których mowa w tym przepisie, a także żądania od podmiotu kontrolowanego poświadczenia za zgodność z oryginałem pozyskiwanych od niego dokumentów; Zgodnie z Komunikatem UKNF dotyczącym przetwarzania przez podmioty nadzorowane informacji w chmurze obliczeniowej publicznej lub hybrydowej “chmura obliczeniowa” to “– pula współdzielonych, dostępnych „na żądanie” przez sieci teleinformatyczne, konfigurowalnych zasobów obliczeniowych Uwaga uwzględniona 155 (np. sieci, serwerów, pamięci masowych, aplikacji, usług), które mogą być dynamicznie dostarczane lub zwalniane przy minimalnych nakładach pracy zarządczej i minimalnym udziale ich dostawcy”. Stąd propozycja dodania, jako że “chmura obliczeniowa” nie jest ani urządzeniem zawierającym dane informatyczne ani systemem informatycznym, co powoduje, że Komisja nie miałaby dostępu do takich danych, 310. Art. 47 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 47. 1. Komisja na podstawie informacji zgromadzonych w toku kontroli może przekazać podmiotowi kontrolowanemu zalecenia pokontrolne. 2. Od zaleceń pokontrolnych przysługuje zastrzeżenie do KRiBS w terminie 1 miesiąca. KRiBS rozpoznaje zastrzeżenia w terminie 1 miesiąca i w przypadku ich nieuwzględnienia lub zmiany wydaje decyzję. Od powyższej decyzji przysługuje odwołanie do Sądu Ochrony Konkurencji i Konsumentów. Odwołanie wnosi się w terminie 1 miesiąca od otrzymania decyzji przez przedsiębiorcę za pośrednictwem KRiBS. W przypadku uwzględnienia zastrzeżeń w całości KRiBS zawiadamia o tym kontrolowanego nie przysługują środki odwoławcze. 3. Podmiot kontrolowany, w wyznaczonym terminie, informuje Komisję o sposobie wykonania zaleceń, które zostały utrzymane w mocy. Uwaga nieuwzględniona Zmiana brzmienia przepisów o kontroli. 311. Art. 47 ust. 3 IAB Polska Proponujemy następujące brzmienie przepisu: “Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń”. Uwaga częściowo uwzględniona 312. Art. 47 ust. 3 Konfederacj a Lewiatan Proponuje się następujące brzmienie przepisu: Podmiot kontrolowany, w wyznaczonym terminie, nie krótszym niż 1 miesiąc od doręczenia kontrolowanemu zaleceń pokontrolnych, informuje Komisję o sposobie wykonania zaleceń. Uwaga częściowo uwzględniona 313. Art. 48 KRRiT w art. 48 mowa jest o naruszeniu rozporządzenia 2024/1689 lub ustawy, natomiast w art. 49 ust. 1 mowa jest o tylko o postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689; Uwaga uwzględniona Rozszerzono zakres przedmiotowy regulacji. 156 314. Art. 48 UKNF Przepis skonstruowany jest w taki sposób, że ma on charakter związany, co oznacza, że w przypadku stwierdzenia nawet mało istotnych naruszeń Komisja jest zobligowana do wszczęcia postępowania administracyjnego w przedmiocie tych naruszeń. W opinii UKNF zasadnym jest zatem rozważenie wprowadzenia fakultatywności wszczynania postępowania przez Komisję (nie wszystkie naruszenia wymagają przeprowadzenia postępowania administracyjnego). Uwaga uwzględniona 315. Art. 48 Rada Legislacyjna [Brak wyrazu „Komisja” w art. 48 Projektu] W art. 48 Projektu w drugiej części zamieszczonego tam zdania brakuje wyrazu: „Komisja”. W aktualnej wersji Projektu przepis ten stanowi, że „W przypadku stwierdzenia przez Komisję, na podstawie informacji zgromadzonych w toku kontroli, , że mogło dojść do naruszenia rozporządzenia 2024/1689 lub ustawy, obowiązana jest do niezwłocznego wszczęcia postępowania, o którym mowa w rozdziale 4 ustawy.” (pisownia w oryginalne). Postulatywnie, druga część tego przepisu powinna brzmieć następująco: „[...] Komisja obowiązana jest do niezwłocznego wszczęcia postępowania”. Uwaga uwzględniona Rozdział 4 Postępowanie przed organem nadzoru (art. 49 - art. 60) 316. Rozdział 4 PUODO Postępowanie przed organem nadzoru. Rozdział 4 projektu ustawy dotyczy postępowania przed organem nadzoru. Zgodnie z art. 49 ust. 2 Komisja wszczyna postępowanie m.in. na podstawie skargi. W art. 50 ust. 4 projektu ustawy wskazuje się, że rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 6 ust. 3 (czyli m.in. z Prezesem UODO). Projektodawca nie zakłada natomiast przekazywania sprawy według właściwości (np. do organu właściwego w sprawie ochrony danych osobowych). Projektowany art. 50 ust. 4 może powodować wątpliwości interpretacyjne, a w konsekwencji potencjalny konflikt kompetencyjny w przedmiocie rozpatrywania spraw związanych z przetwarzaniem danych osobowych, np. gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. Sprawa w zakresie przetwarzania danych osobowych powinna być, Uwaga uwzględniona 157 zgodnie z art. 65 § 1 ustawy z 14 czerwca 1960 r. Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572), przekazana do organu właściwego, tj. do organu ds. ochrony danych osobowych. Przy czym należy mieć na uwadze, że z treści art. 50 projektu ustawy wynika, że skardze należałoby przypisać znaczenie zawiadomienia o nieprawidłowościach w celu wszczęcia postępowania z urzędu, a nie skargi w sprawie indywidualnej (zgodnie z definicją strony postępowania w art. 51 ust. 1 projektu ustawy). Zauważyć należy, że w przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w przepisach projektu ustawy o systemach sztucznej inteligencji dotyczących postępowania przed organem nadzoru nie wskazuje jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Możliwe jest zatem skierowanie sprawy do dwóch organów równolegle, czego należy spodziewać się tym bardziej, jeśli obowiązujące przepisy nie będą precyzyjnie regulowały tego zagadnienia. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. 317. Art. 49 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Rekomendujemy modyfikację: 1. Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689, o których mowa w artykul 99 ust. 3 i 4 tego rozporządzenia, zwane dalej „postępowaniem”. 2.Komisja może wszcząć wszczyna postępowanie (...) 2) na wniosek podmiotu, o którym mowa w art.. 7 ust.2 i 3 ustawy, jeśli w toku prowadzonych przez ten podmiot czynności urzędowych poweźmie on wiedzę lub uzasadnione podejrzenie o naruszeniu przepisów Rozporządzenia.(...) jeżeli okoliczności wskazują na możliwość naruszenia przepisów ustawy. Uwaga nieuwzględniona 158 3.Postanowienie o wszczęciu postępowania, o którym mowa w ust. 1, wymaga uzasadnienia. Uzasadnienie zawiera wyjaśnienie zarzutów stawianych przedsiębiorcy. Na postanowienie służy zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Po pierwsze, Komisja powinna mieć prawo ale nie obowiązek wszczęcia postępowania. W szczególności skarga jednego podmiotu - osoby fizycznej, (która nie wykluczone że może działać np. z ramienia konkurencji chcącej zaszkodzić przedsięborcy) nie może oznaczać per se obowiązku wszczęcia postępowania. Zakres kognicji Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalnośći środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. Postanowienie powinno być zaskarżalne, prowadzanie postępowania jest bowiem dużą uciążliwością dla przedsiębiorcy a już na wstępie może się okazać, że zostało wszczęte bezzasadnie. Po trzecie, czym uzasadniony jest tak szeroki krąg podmiotów, na których wniosek musi zostać wszczęte postępowanie przez Komisję? Nie wszystkie są podmiotami powołanymi do ochrony praw, z drugiej strony dlaczego np. Minister Kultury ale już nie Minister Sprawiedliwości, Minister Rozowju i Technologii? 318. Art. 49 ust. 2 IAB Polska Komisja powinna mieć możliwość, a nie obowiązek wszczęcia postępowania. Komisja powinna móc zweryfikować zasadność wniosku lub skargi. Uwaga nieuwzględniona 319. Art. 49 ust. 2 UKNF W ogólnym postępowaniu administracyjnym występują tylko dwa sposoby wszczęcia postępowania administracyjnego: tj. z Uwaga uwzględniona 159 urzędu i na wniosek (strony). Natomiast art. 49 ust. 2 projektu ustawy rozróżnia trzy sposoby wszczęcia postępowań administracyjnych przez Komisję: z urzędu, na wniosek i na podstawie skargi. W ocenie UKNF projektowany przepis należy odczytywać w taki sposób, że stanowi on o pochodzeniu dowodów (materiałów), na których ma się opierać wszczęcie postepowania, tj. kolejno: 1) posiadanych przez Komisję; 2) przekazanych przez członków Komisji z innych organów oraz 3) pozyskanych ze skarg. Niezależnie jednak od źródła dowodów będziemy mieć do czynienia ze wszczęciem postepowania z urzędu (a nie na wniosek lub na podstawie skargi, jak wskazuje się w przedmiotowym przepisie). Mając na względzie powyższe, w opinii UKNF projektowany przepis przewiduje nieuzasadnione odstępstwo od ogólnego postępowania administracyjnego, wprowadzając zbędny wyłom w ogólnym modelu postępowania administracyjnego, co może rodzić wątpliwości interpretacyjne. 320. Art. 50 ust.2 KRRiT w art. 50 ust. 2 wśród wymogów formalnych skargi nie przewidziano oznaczenia składającego skargę, podpisu czy też adresu do korespondencji, co może sugerować koncepcję rozpoznawania skarg złożonych anonimowo; Uwaga uwzględniona 321. Art. 50 ust. 3 KRRiT w art. 50 ust. 3 należy doprecyzować, o jakie inne środki komunikacji chodzi; Uwaga nieuwzględniona 322. Art. 51, Art. 52 i Art. 56 (terminy) UOKiK Ww. przepisy projektu ustawy regulują okres w jakim może być prowadzone postępowanie. Z jednej strony wskazuje się w art. 56 na to, że „W zakresie nieregulowanym w niniejszej ustawie do postępowania przed Komisją stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego”, z drugiej strony w art. 52 ust. 2 wskazuje się, że „Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572)”, natomiast w art. 51 ust. 3 projektowanej ustawy - „Postępowanie nie może trwać dłużej niż 12 miesięcy”. Skoro zatem czas trwania postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 został określony na 12 miesięcy, przepisy art. 35 kodeksu postępowania administracyjnego nie mają w tej sytuacji zastosowania. Rozważenia wymaga ewentualne wskazanie, że Uwaga uwzględniona 160 okresu trwania postępowania dowodowego, nie wlicza się do terminu o którym mowa w art. 51 ust. 2 projektowanej ustawy. 323. Art. 51 ust. 1 KRRiT w art. 51 ust. 1 zasadnym jest przyznanie statusu strony w postępowaniu podmiotowi, którego skarga doprowadziła do wszczęcia postępowania; Uwaga częściowo uwzględniona 324. Art. 51 ust. 2 IAB Polska Komisja powinna mieć wyznaczony prawem termin na wydanie takiego postanowienia, biorąc pod uwagę, że od dnia wydania liczy się maksymalny czas trwania takiego postępowania w związku z ust. 3. Uwaga nieuwzględniona 325. Art. 51 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Komisja wydaje postanowienie o wszczęciu postępowania oraz zawiadamia o tym strony postępowania w ciągu 1 miesiąca od wpływu skargi. Uzasadnienie: W ust. 3 art. 51 wskazano maksymalny czas trwania postępowania w wyniku wniesionej skargi odwołując się do daty wydania postanowienia o wszczęciu postępowania. Natomiast brak doprecyzowania terminu do wydania przedmiotowego postanowienia o wszczęciu postępowania skutkuje i tak brakiem określenia czasu trwania postępowania. Wystarczy bowiem, że nie zostanie wydane postanowienie o wszczęciu postępowania, a może ono trwać nieograniczenie długo. To kłóci się z generalnymi zasadami pewności prawa i szybkości postępowania. Uwaga nieuwzględniona 326. Art. 51 ust. 2 UKNF Zgodnie z art. 61 § 4 KPA: „O wszczęciu postępowania z urzędu lub na żądanie jednej ze stron należy zawiadomić wszystkie osoby będące stronami w sprawie.”. Projektowany przepis przewiduje natomiast wydanie postanowienia o wszczęciu postępowania oraz zawiadomienie o tym stron postępowania. Większy rygor formalny zapewni stronie czynny udział i większe prawo do informacji odnośnie do prowadzonego postępowania. Zgodnie jednak z art. 125 § 1 KPA organ administracji publicznej doręcza tylko postanowienia, od których stronie służy zażalenie. Komisja nie ma więc obowiązku przekazania stronie odpisu postanowienia o wszczęciu postępowania. Może to zrobić wraz z zawiadomieniem o wszczęciu postępowania. Jeśli postanowienie to nie zostanie stronie doręczone, opis zachowania, które jest zarzucane, zostanie wyłącznie w aktach Uwaga uwzględniona 161 sprawy. W tym kontekście ustanowienie wymogu wydania postanowienia i zawiadomienia o tym strony jawi się jako zbędny formalizm. Urząd Komisji Nadzoru Finansowego wskazuje więc na rozważenie możliwości zmiany redakcji przepisu poprzez wskazanie, że postanowienie o wszczęciu doręcza się stronom postępowania. Jednocześnie konieczne jest przesądzenie w przepisie relacji do art. art. 61 § 4 KPA, aby uniknąć dublowania czynności o zbliżonym charakterze prawnym i funkcji. 327. Art. 51 ust. 3 KRRiT w art. 51 ust. 3 niewyjaśniony pozostaje status postępowania po upływie 12 miesięcy od dnia wszczęcia postępowania w przypadku, gdy w tym czasie nie wydano decyzji; Uwaga nieuwzględniona 328. Art. 51 ust. 3 BGK Propozycja 3.Postępowanie nie może trwać dłużej niż 3 miesiące od dnia wydania postanowienia o wszczęciu postępowania. Prowadzenie uciążliwego postępowania w takim wymiarze czasu może doprowadzić do paraliżu firmy oraz całkowitego zastopowania rozwoju, wykorzystania systemów AI Uwaga nieuwzględniona 329. Art. 51 ust. 3 PFR Proponujemy rozważyć możliwość skrócenia 12-miesięcznego terminu do maksymalnie 6 miesięcy. Uwaga uwzględniona 330. Art. 51 ust. 3 Konfederacj a Lewiatan Tak długi okres trwania postępowania stanowi duże obciążenie i niepewność dla przedsiębiorcy, szczególnie w tak szybko zmieniającym się obszarze nowych technologii. Rekomendowane jest skrócenie terminu - analogicznie jak w postępowaniach na gruncie UOKK. Uwaga uwzględniona 331. Art. 51 ust. 3 UKNF Z projektowanego przepisu nie wynika, jaki jest charakter ustanowionego terminu 12 miesięcy, tj. czy przepis określa termin załatwienia sprawy administracyjnej. Wątpliwości interpretacyjne rodzić może również relacja tego przepisu do art. 35 KPA. W ocenie UKNF, 12 miesięcy rozumieć należy jako termin załatwienia sprawy, więc Komisja, w przypadku zwłoki w załatwieniu sprawy, przed upływem tego terminu będzie obowiązana poinformować stronę, zgodnie z art. 36 KPA. Należy to jednak jednoznacznie przesądzić w treści przepisu. Uwaga nieuzależniona 332. Art. 52 ust. 1 UOKiK Analizy wymaga, czy projektowany przepis nie pozostaje w sprzeczności z art. 58 ustawy – Prawo przedsiębiorców, ponieważ organ kontroli nie przeprowadza kontroli, w Uwaga nieuwzględniona 162 przypadku gdy ma ona dotyczyć przedmiotu kontroli objętego uprzednio zakończoną kontrolą przeprowadzoną przez ten sam organ. Wyjątki od tej zasady zostały enumeratywnie wymienione w art. 58 ust. 2 ustawy - Prawo przedsiębiorców, a przywołana podstawa przeprowadzenia ponownej kontroli nie mieści się w tym katalogu. Fakt, że przeprowadza się ponownie postępowanie dowodowe, do którego stosuje się przepisy o kontroli oznacza w praktyce, że ponownie przeprowadza się kontrolę w zakresie przedmiotu kontroli objętego uprzednio zakończoną kontrolą. Oznacza to, że organ przeprowadza kolejną kontrolę w tej samej sprawie, wbrew przepisowi art. 58 ustawy - Prawo przedsiębiorców. 333. Art. 52 ust. 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminów, o których mowa w art. 35 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). Uzasadnienie: Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga nieuwzględniona 334. Art. 52 ust. 3 IAB Polska Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie Uwaga nieuwzględniona 163 postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów. 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". Proponuje się więc następujące brzmienie przepisu: “Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych”. 335. Art. 52 ust. 3 ZPP art. 52 ust. 3 umożliwia Komisji żądanie od strony tłumaczenia na język polski sporządzonej w obcym języku dokumentacji przez nią przedłożonej. Specyfika sektora cyfrowego, szczególnie w jego najnowocześniejszych obszarach związanych z AI, powoduje że w istocie większość dokumentacji może być dostępna w języku angielskim. Trudno wyobrazić sobie, by profesjonalni członkowie Komisji nie posługiwali się tym językiem. Uwaga nieuwzględniona 336. Art. 52 ust. 3 Konfederacj a Lewiatan Uwaga lub propozycja zmiany przepisu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język Uwaga nieuwzględniona 164 angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uzasadnienie: Należy wskazać, że w obecnie proponowanym brzmieniu postanowienie jest anachroniczne i stawia polską KRiBSI z definicji w pozycji organu nie będącego w stanie rozumieć i spełniać standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim - albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Jeżeli KRiBSI ma być organem kompetentnym i nowoczesnym, wszyscy jego pracownicy musza posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. 2. Jakiekolwiek tłumaczenia nie powinny wiązać się z wymogiem, że są to tłumaczenia przysięgłe (czego organy administracji żądają, by tłumaczenie - które jest kopią - miało walor oryginału). Byłby to dodatkowy formalizm i zbędna 165 papierologia, nie wspominając o kosztach. Wystarczające powinno być oświadczenie kontrolowanego, że przedkłada on tłumaczenie swoich dokumentów 3. Prawo do żądania tłumaczenia nie powinno dotyczyć danych źródłowych. Powinno zostać to wskazane wprost, by organ nie uznał, że dane źródłowe również są częścią \"dokumentacji\". 337. Art. 53 IAB Polska Biorąc pod uwagę, że polskie prawo przewiduje raczej ostrzeżenia publiczne organów nadzoru (art. 6b ustawy z 21.7.2006 r. o nadzorze nad rynkiem finansowym), a nie personalne (jak w tym przypadku) – nie ma wykształconej praktyki postępowania. Tym samym to postanowienie należy rozbudować, aby odpowiednio zabezpieczyć interesy Strony (np. wydłużając termin na wykonanie rekomendacji, przewidzieć procedurę pozwalającą na zakwestionowane rekomendacji przez Stronę). Uwaga częściowo uwzględniona 338. Art. 53 Pracodawcy RP Zgodnie z art. 53 proponowanej ustawy, w przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy Aktu o AI, Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie. W ostrzeżeniu Przewodniczący Komisji może wskazać rekomendacje dotyczące przywrócenia stanu zgodnego z prawem, a strona w terminie 7 dni od dnia otrzymania ostrzeżenia jest zobowiązana do przedstawienia Komisji informacji z wykonania ww. rekomendacji. Powyższy przepis nie zawiera jednak szczegółowych norm co do trybu i formy wydania takiego ostrzeżenia ani nie określa konsekwencji niewykonania rekomendacji. Dopiero z innych przepisów ustawy można wyinterpretować, że niewykonanie rekomendacji stanowi podstawę wszczęcia formalnego postępowania w sprawie naruszenia Aktu o AI. Postulujemy modyfikację proponowanego przepisu w celu jego uzupełnienia o elementy wskazane w uwagach obok. Uwaga częściowo uwzględniona 339. Art. 53 ust. 1 i 2 UOKiK W projektowanym przepisie nie wyjaśniono jaki charakter prawny ma instytucja ostrzeżenia. Jednocześnie wskazuje się, że ostrzeżenie może zostać wydane w przypadku uzasadnionego podejrzenia o naruszeniu prawa, a zakres ostrzeżenia ograniczono wyłącznie do wskazania jego fakultatywnego elementu, jakim jest rekomendacja, przy braku innych, obligatoryjnych elementów. Uwaga częściowo uwzględniona 166 W celu zagwarantowania realizacji zasady pewności prawa uzasadnione pozostaje doprecyzowanie, jaki jest cel ostrzeżenia, co powinno zawierać i jakie są obowiązki strony w związku z wystosowaniem do niej ostrzeżenia jak również ewentualne sankcje z tytułu braku reakcji strony w związku ze skierowaniem do niej przedmiotowego środka. 340. Art. 53 ust. 1 Konfederacj a Lewiatan Jaką formę ma mieć ostrzeżenie? Jednoosobowej czynności Przewodniczącego Komisji? Nie decyzji, nie uchwały? Wprowadza to duży chaos - kto jest w końcu organem Przewodniczący czy Komisja? Skoro mamy organ kolegialny złożony ze specjalistów różnych obszraów, dlaczego Przewodniczący ma decydować jednoosobowo? Jest to zupełnie niezrozumiała konstrukcja. Poza tym, podobnie jak z zaleceniami pokontrolnymi, takie ostrzeżenie z rekomendacjmi może powodować duże obciążenie przedsiębiorcy, zarówno organizacyjne jak i finansowe, nie może więc pozostawać bez uprawnień strony do jego zaskarżenia. Do kogo i w jakiehj formie strona może złożyć odwołanie od zastrzeżenia. Należy bezwzględnie przewidzieć ścieżkę odwoławczą. Nie ma takiej ścieżki, choćby w art. 57 projektu ustawy. Uwaga wyjaśniona Ostrzeżenie będzie miało formę postanowienia. 341. Art. 53 ust. 1 UNKF Zgodnie z art. 99 ust. 1 rozporządzenia 2024/1689 ostrzeżenie powinno stanowić środek nadzoru stosowany w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, w tym kar administracyjnych. Tym samym zdaniem UKNF projektowany przepis powinien zostać uzupełniony w taki sposób, że Komisja w toku postępowania może wydać stronie ostrzeżenie, w przypadku, gdy waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków. Uwaga uwzględniona 342. Art. 53 ust. 2 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Należy wprowadzić zasadę zastosowania przez kontrolowanego wybranych środków (a nie kazdych wskazanych przez Komisję) , które nie powodują nadmiernych i nieuzasadnionych obciążeń. Ustalanie środków niezbędnych Uwaga uwzględniona 167 do wprowadzenia powinno odbywać się w pierwszej kolejności w drodze porozumienia z podmiotem kontrolowanym. W ocenie Konfederacji Lewiatan ten przepis dotyczy podejrzenia naruszenia przepisów, więc nie pownien nakładać na kontrolowanego nadmiernych obciążeń skutkujących poważnymi konsekwencjami (w tym ekonomicznymi), które mogą być niewspółmierne do zagrożenia 343. Art. 53 ust. 3 Konfederacj a Lewiatan Termin 7 dni na wykonanie rekomendacji jest zbyt krótki. Lepiej byłoby ustalić \"wyznaczony termin\", dostosowany do okoliczności, niż sztywno zapisany w ustawie. Różne rekomendacje mogą wymagać różnego czasu na ich wykonanie. Sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Opcjonalnie proponujemy poniższą modyfikację przepisu: 3.Strona w terminie 7 dni od dnia otrzymania ostrzeżenia przedstawia Komisji informację w przedmiocie wykonania rekomendacji, o których mowa w ust. 2, a jeżeli w tym terminie rekomendacja nie została przez Stronę wdrożona, wraz ze wskazaniem terminu jej wdrożenia nie dłuższym niż 1 miesiąc. W zależności od rekomendacji termin 7-dniowy na jej wdrożenie może być niewystarczający. Zaproponowane brzmienie przepisu sugeruje, jako w terminie 7 dni rekomendacja miała zostać wdrożona (cyt. „informację z wykonania rekomendacji”). Z tego względu wydaje się zasadnym, by w ciągu 7 dni strona przedstawiała informację w przedmiocie rekomendacji, czyli albo o jej wdrożeniu albo o działaniach podjętych w celu wdrożenia wraz ze wskazaniem terminu wdrożenia. Uwaga nieuwzględniona 344. Art. 54 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1.W przypadku stwierdzenia przez Komisję, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, narusza obowiązki wynikające z tego rozporządzenia 2024/1689, Komisja wydaje decyzję nakazującą zaprzestanie naruszeń. Dalsze wraz z uzasadnieniem: Uwaga nieuwzględniona 168 Pierwsza uwaga dotyczy zmiany gramatycznej co do użytego przypadku dla słowa „zaprzestanie”: biernik w miejsce dopełniacza. Druga uwaga odnosi się do całości artykułu – niezbędne jest dodanie zasady, że działania mające na celu usunięcie skutków powinny uwzględniać słuszny interes kontrolowanego i umożliwić mu wybór środków minimalizujących obciążenia. Zastosowane środki powinny być współmierne do naruszenia. Przy nakładaniu środków i sankcji należy wziąć pod uwagę także skutki, które mogą negatywnie oddziaływać nie tylko na operatora, ale także podmioty trzecie, w tym kosumentów korzystających bezpośrednio lub pośrednio z usług lub produktów świadczonych za pomcą systemu sztucznej inteligencji i ocenę tych skuktów w zestawieniu z naruszeniem. 345. Art. 54 ust. 1 UKNF Projektowany przepis przewiduje obligatoryjne wydanie decyzji nakazującej zaprzestanie naruszeń. Przepis ten nie pozostawia więc organowi swobody decyzyjnej i obliguje go do wydania ww. decyzji niezależnie od wagi stwierdzonego naruszenia. Co istotne, wydanie decyzji nakazującej zaprzestanie naruszenia jest równoznaczne z brakiem możliwości wszczęcia postępowania w przedmiocie nałożenia kary pieniężnej za to samo naruszenie w trybie art. 99 ust. 4 rozporządzenia 2024/1689. Wydanie kolejnej decyzji w przedmiocie tego samego naruszenia będzie rodziło bowiem ryzyko stwierdzenia nieważności decyzji na podstawie art. 156 § 1 pkt 3 KPA. Z tego względu UKNF rekomenduje wprowadzenie do projektowanego przepisu mechanizmu karania fakultatywnego. Uwaga nieuwzględniona 346. Art. 55 Konfederacj a Lewiatan Art. 55. 1. W przypadku gdy Komisja ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689, wszczyna postępowanie z urzędu. 2. Jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych, informuje o tym organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 3. W przypadku stwierdzenia przez Komisję, a w przypadkach wsazanych w ust.2 wspólnie z organem lub podmiotem, o Uwaga częściowo uwzględniona 169 którym mowa w ust.2, że system sztucznej inteligencji, o którym mowa w art. 79 ust. 1 rozporządzenia 2024/1689, nie jest zgodny z przepisami rozporządzenia 2024/1689, wydaje decyzję nakazującą operatorowi tego systemu niezwłoczne podjęcie wszelkich działań naprawczych prowadzących do osiągnięcia przez ten system zgodności z przepisami rozporządzenia 2024/1689 lub, jeśli nie jest to możliwe, wycofanie tego systemu z rynku lub użytku w terminie nie dłuższym niż 14 15 dni roboczych od dnia doręczenia decyzji. 4. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli Komisja wydaje decyzję nakazującą operatorowi tego systemie wycofanie systemu, o którym mowa w ust. 3, z rynku lub użytku. Decyzji Komisji może zostać nadany o rygor natychmiastowej wykonalności, jeśli jest to niezbędne dla ochrony zdrowia, bezpieczeństwo lub praw podstawowych. Uzasadnienie: Po pierwsze, art. 55 ma odpowiadać zapisom art. 79 AI Act i niepotrzebnie próbuje się napisać go innymi słowami zamiast przepisać 1:1 co powoduje niezgodności w zakresie pewnych elementów. Ad. ust.3 - nie może wynikać z jego brzmienia, jak jest w projekcie, że dotyczy on wszystkich systemów, w tym takich które nie stwarzają zagrożenia dla zdrowia, bezpieczeństwa, praw podstawowych i które nie są objęte ustawodawstwem harmonizacynym - zdaje się, że taka jest idea art. 79 ust.1. ust.4 zdaje się lepiej oddawać zamysł art. 79 ust.1. AI Act, ale przy modyfikacji ust.3 jest zbędny. Co do terminu - AI Act mówi o terminie nie krótszym niż 15 dni roboczych (=21 dni kalendarzowych), który i tak jest krótki - w projekcie ustawy termin został znacząco skrócony do 14 dni kalendarzowych. Naszym zdaniem, 14-dniowy termin od dnia doręczenia decyzji na wycofanie systemu z rynku lub użytku jest zdecydowanie za krótki. W szczególności biorąc pod uwagę planowaną jednoinstancyjność postępowania. Systemy są 170 często złożone i jego dochowanie może być niemożliwe. Opcjonalnie proponujemy dostosowywanie terminu do sytuacji i skali systemu oraz skali zagrożenia, ponieważ sztywny termin może nie być realny i uzasadniony do spełnienia w niektórych przypadkach. Rygor natychmiastowej wykonalności - wprowadzenie rygoru moze oznaczać nieodwracalne, daleko idące skutki bzinesowe, wizerunkowe, finansowe, które mogą prowadzić do roszczeń odszkodowawczych ze strony przedsiębiorców. 347. Art. 55 ust. 1-6 UKNF W ocenie UKNF projektowany przepis wymaga gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach rozporządzenia. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Wydaje się, że przepis w zakresie ust. 1-3 odnosi się do procedury postępowania przewidzianej w art. 79 ust. 1-5 rozporządzenia 2024/1689 (ocena systemu AI stwarzającego określone ryzyka oraz, w przypadku ustalenia, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, zobowiązanie odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych lub wycofanie tego systemu z rynku lub z użytku). Projektowany art. 55 ust. 4 odnosi się natomiast do instytucji z art. 82 rozporządzenia 2024/1689, tj. sytuacji gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, ale stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. Z całokształtu przepisu wynika zatem, że art. 55 ust. 3 sankcjonuje system AI niezgodny z rozporządzeniem, a art. 55 ust. 4 odnosi się już do systemów niezgodnych z wymogami i obowiązkami ustanowionymi w rozporządzeniu i dodatkowo w sposób kwalifikowany stwarzający zagrożenia dla zdrowia, Uwaga uwzględniona Przepis został poddany dodatkowej analizie. 171 bezpieczeństwa i ochrony praw podstawowych, co jednak nie jest skorelowane z art. 79 i 82 rozporządzenia 2024/1689. Projektowana konstrukcja przepisu może prowadzić do wniosku, że zgodnie z brzmieniem art. 55 ust. 4 w przypadku systemów sztucznej inteligencji stwarzających ryzyko zagrożenia dla zdrowia, bezpieczeństwa lub ochrony praw podstawowych obywateli, Komisja jest obowiązana wydać decyzję nakazującą operatorowi tego systemu jego wycofanie, co już w świetle art. 82 ust. 1 rozporządzenia 2024/1689 jest nieuprawnione. Zgodnie bowiem z tym przepisem „(...) organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ.”. Dodatkowe trudności interpretacyjne wprowadza odwołanie w ust. 4 projektowanego przepisu do systemów, o których mowa w ust. 3. Relacja poszczególnych ustępów w tym przepisie jest niezrozumiała, ponieważ wydaje się, że odwołują się do innych instytucji i procesów z rozporządzenia 2024/1689. Niezależnie od powyższego UKNF wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). UKNF wskazuje również, że przepis art. 79 ust. 2 rozporządzenia 2024/1689 nie uzależnia wycofania systemu z rynku lub użytku od tego czy nie da się go uprzednio naprawić, na co z kolei wskazuje zastosowane w projektowanym art. 55 ust. 3 sformułowanie „jeśli nie jest to możliwe”. Zgodnie z art. 79 172 ust. 2 rozporządzenia 2024/1689 organ nadzoru rynku: „(...) zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku (...)”.Wydaje się zatem, że organ nie musi w pierwszej kolejności dążyć do zapewnienia zgodności systemu AI z wymogami rozporządzenia 2024/1689 poprzez jego naprawę, a może od razu, oczywiście o ile będzie to uzasadnione, zobowiązać operatora do wycofania systemu AI z rynku lub z użytku. 348. Art. 55 ust. 3 i 4 Pracodawcy RP Ustawa przewiduje możliwość wycofania systemu AI z rynku w terminie jedynie 14 dni od doręczenia decyzji, co może być trudne do zrealizowania dla firm korzystających z zaawansowanych systemów AI. Tak krótki termin może prowadzić do zakłóceń operacyjnych, naruszeń umów handlowych oraz znaczących strat finansowych. Proponujemy wydłużenie czasu na wycofanie systemu AI oraz rezygnację z natychmiastowej wykonalności decyzji o wycofaniu, aby umożliwić przedsiębiorcom dostosowanie swoich działań operacyjnych. Wycofanie systemu AI powinno być traktowane jako ostateczność, a Komisja powinna koncentrować się na działaniach prewencyjnych i wydawaniu rekomendacji, które pozwolą firmom dostosować technologię do wymogów zgodności. Uwaga nieuwzględniona 349. Art. 55 ust. 3 IAB Polska Termin 14 dni powinien zostać zmieniony na termin 15 dni roboczych (21 dni) zgodnie z art. 79 ust. 2 AI Act. Zwracamy uwagę, że zbyt krótki termin może doprowadzić do zakłóceń operacyjnych u podmiotów gospodarczych, naruszeń umów czy znaczących strat finansowych. Uwaga nieuwzględniona 350. Art. 55 ust. 4 KRRiT w art. 55 ust. 4 słowa „tego systemie” należy zastąpić słowami „tego systemu”; Uwaga uwzględniona 351. Art. 55 ust. 4 IAB Polska W przepisie występuje oczywista omyłka pisarska: tego systemie zamiast tego systemu. Jednocześnie zwracamy w tym przypadku uwagę, że projekt wymaga generalnego przejrzenia pod katem literówek i błędów językowych. Uważamy, że działania organu nadzorczego powinny raczej sprowadzać się do identyfikowania ryzyk i podatności systemów AI, a nie polegać na paraliżowaniu funkcjonowania przedsiębiorcy. W związku z tym uważamy, że tego typu decyzji Uwaga uwzględniona 173 nie powinien być nadawany rygor natychmiastowej wykonalności. Przedsiębiorcy powinni mieć zagwarantowaną możliwość odwołania się w przypadku najbardziej dotkliwych decyzji organów nadzoru. 352. Art. 56 Konfederacj a Lewiatan Jeśli KPA ma mieć zastosowanie do inncyh materii niż ureguowane w Rozdziale 4 ten przepis powinien znaleźć się w Przepisach końcowych. Umieszczenie go w rozdziale 4 rodzi wątpliwości co do zkresu odpowiedniego stosowania KPA. Uwaga nieuwzględniona 353. Art. 57 PUODO Sąd ochrony konkurencji i konsumentów. W art. 57 ust. 1 projektu ustawy wskazuje się, że: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów”. W ocenie organu nadzorczego ds. ochrony danych przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Projektowane rozwiązanie może doprowadzić do dualizmu rozstrzygnięć sądowych. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może doprowadzić do powstania niepewności prawnej. Uwaga nieuwzględniona 354. Art. 57 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Od decyzji Komisji (w tym ostrzeżeń, interpretacji indywidualnych) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w terminie 2 miesięcy od dnia doręczenia decyzji. Od postanowień Komisji przysługuje zażalenie do Sądu w terminie tygodnia od doręczenia postanowienia. Uwagi wraz z uzasadnieniem: Czy SOKIK jest odpowiednim sądem do rozpozawania spraw dotyczacych sztucznej inteligencji rodzi pewne wątpliwości. Powinien być to sąd/wydział specjalistyczny, już chyba bliżej w tej materii Sądowi ds. Własności Intelektualnej. Uwaga nieuwzględniona 174 Ponadto, art. 57 nie określa termiu na wniesienie odwołania (por. np. art. 81 ust.1 uokk). dla przejrzystości term ten powinien byc nie tylko w KPC na podstawie art. 80 projektu ustawy. Sugerowane jest także wydłużenie terminu do 2 miesięcy - sprawy te z pewnością będą miały duży stopień skomplikowania i przygotowanie odwołania wymagać będzie więcej czasu niż w innych rodzajach postępowań. Nie jest też uregulowany tryb rozpoznawania środków odwoławczych od ostrzeżeń, interpretacji, zażaleń na zajęcie (np art. 43 ust.13 projektu - nie można sie tego domyślac z brzmienia ust.19, o musi być wskazane wprost) itd. Art. 80 projektu mówi tylko o decyzjach a KPA nie mówi o odwołaniach/zażaleniach do sądu powszechnego więc nie może być odpowiednio stosowane. Stoimy na stanowisku, iż zasada dwuinstancyjności postępowania administracyjnego jest jedną z fundamentalnych zasad porządku prawnego. Odstępstwa od niej muszą być uzasadnione wyjątkowymi okolicznościami. Argumenty przedstawione przez projektodawcę w uzasadnieniu do projektu nie są przekonujące. Implikacje wydawanych decyzji, które okażą się błędne, mogą być dla jej adresata daleko idące. Kontrola sądowa może często okazać się niewystarczająca do odwrócenia skutków prawomocnej, wykonanej decyzji. 355. Art. 57 Pracodawcy RP Doceniamy propozycję ograniczenia procedury odwoławczej przed Sądem Ochrony Konkurencji i Konsumentów do jednej instancji, podobnie jak ma to miejsce w postępowaniach przed Urzędem Ochrony Konkurencji i Konsumentów (UOKiK). Jednakże zwracamy uwagę, że sprawy dotyczące sztucznej inteligencji są wyjątkowo skomplikowane i wymagają wysokiego poziomu ekspertyzy. Proponujemy rozważenie możliwości przekazania tych spraw do sądów ds. własności intelektualnej jako właściwego forum dla zagadnień związanych z AI, co mogłoby zapewnić przedsiębiorstwom większą przewidywalność i rzetelność rozstrzygnięć. Uwaga nieuwzględniona 356. Art. 57 Rada Legislacyjna [Brak przesądzenia w art. 57 Projektu o drodze prawnej rozpatrywania zażaleń na postanowienia Komisji] W art. 57 Uwaga nieuwzględniona 175 Projektu, ani też w żadnym innym przepisie Projektu, nie rozstrzygnięto wyraźnie o drodze prawnej czy też o trybie proceduralnym, w ramach których następuje rozpatrywanie i rozstrzyganie zażaleń na postanowienia Komisji. Art. 57 ust. 1 Projektu – który jest zamieszczony w grupie przepisów Projektu normujących postępowanie (administracyjne) w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 – stanowi co następuje: „Od decyzji Komisji przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów.”. Przepis ten dotyczy decyzji Komisji kończących postępowanie, o którym jest mowa w rozdziale 4 Projektu, czyli chodzi tu o decyzje kończące postępowanie w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689. Jednakże w przepisach art. 57 Projektu ani w ogóle w jakichkolwiek innych przepisach rozdziału 4 Projektu nie przesądza się tego, jaki środek prawny przysługuje od postanowień Komisji wydawanych w ramach omawianego tutaj postępowania i kto (tzn. jaki organ) ma ten środek prawny rozpatrywać. Kwestii tej nie rozstrzygają również nowelizowane przez Projekt przepisy ustawy z dnia 17 listopada 1964 r. Kodeks postępowania cywilnego24 (dalej: k.p.c.), które będą normowały jedynie rozpatrywanie przez SOKiK odwołań od decyzji Komisji, a nie zażaleń na postanowienia Komisji (zob. przepisy k.p.c. dodawane przez art. 80 pkt 2 Projektu; będzie to zatem sytuacja zupełnie inna niż ma to obecnie miejsce na gruncie przepisów k.p.c. upoważniających SOKiK do rozpatrywania i rozstrzygania zażaleń na postanowienia wydawane przez inne organy regulacyjne w Polsce – zob. np. art. 479[28] § 1 pkt 2-6 i 8 k.p.c., art. 479[46] pkt 2 k.p.c. oraz art. 479[57] pkt 2 k.p.c.). Zdaniem Rady Legislacyjnej, jest to absolutnie niezbędne, aby w przepisach art. 57 Projektu wyraźnie postanowić, że od postanowień Komisji (wydawanych w postępowaniu prowadzonym na podstawie przepisów rozdziału 4 Projektu) przysługuje zażalenie do SOKiK, przy czym przepisy proceduralne o rozpatrywaniu tych zażaleń przez SOKiK należy również zamieścić w przepisach k.p.c. (zob. uwagi niżej w punkcie II.29 niniejszej opinii). 357. Art. 57 ust. 1 IAB Polska Rozumiemy wybór SOKiK, który w założeniu ma stać się sądem związanym z cyberprzestrzenią (przyjęcie podobnego modelu Uwaga uwzględniona 176 odwołania od decyzji we wdrożeniu DSA). Zwracamy jednak uwagę, że obszar ten wymaga szczegółowych ustaleń z Ministerstwem Sprawiedliwości, aby zapewnić odpowiednie kompetencje SOKiK w zakresie AI, w szczególności w zakresie technologicznego funkcjonowania tego rodzaju systemów. 358. Art. 57 ust. 3 Konfederacj a Lewiatan W jakch sprawach ma być ten istotny pogląd - umiejscowienie przepisu w artykule dotyczącym odwołań sugeruje, że w sprawie odwołania, ale to nie taki jest cel istotnych poglądów, bo w sprawie odwołania Komisja będzie strona postępowania. Uwaga nieuwzględniona 359. Art. 57 ust. 3 KRRiT w art. 57 ust. 3 nie jest jasny cel regulacji – Komisja jest stroną postępowania sądowego; Uwaga wyjaśniona Jest to tryb funkcjonujący w polskim wymiarze sprawiedliwości. 360. Art. 58 Konfederacj a Lewiatan Art. 58. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji, chyba że decyzji został nadany rygor nartychmiastowej wykonalności w zakresie administracyjnej kary pieniężnej, której mowa w rozdziale 7 ustawy. Uzasadnienie: Wykonanie decyzji może powodować poważne szkody po stronie przedsiębiorcy a może się okazać, że decyzja Komisji była nieuprawniona. Należy dokonac wyważenia interesów przedsiębiorców i innych podmiotów. Uwaga nieuwzględniona 361. Art. 59 UOKiK Komisja oraz jej członkowie mają prawny obowiązek zawiadomienia o podejrzeniu popełnienia przestępstwa. Obowiązek taki wynika z art. 304 § 2 kodeksu postępowania karnego: „Instytucje państwowe i samorządowe, które w związku ze swą działalnością dowiedziały się o popełnieniu przestępstwa ściganego z urzędu, są obowiązane niezwłocznie zawiadomić o tym prokuratora lub Policję oraz przedsięwziąć niezbędne czynności do czasu przybycia organu powołanego do ścigania przestępstw lub do czasu wydania przez ten organ stosownego zarządzenia, aby nie dopuścić do zatarcia śladów i dowodów przestępstwa.”. Wobec powyższego projektowana regulacja pozostaje nadmiarowa Uwaga nieuwzględniona 362. Art. 59 ust. 1 UKNF Projektowany przepis jest zbędny, ponieważ obowiązek ten wynika z art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. Kodeks postępowania karnego. Uwaga nieuwzględniona 177 363. Art. 60 ust. 1 IAB Polska Należy doprecyzować, czy okres 10 lat należy liczyć od daty zakończenia postępowania. Uwaga uwzględniona 364. Art. 60 ust. 1 Konfederacj a Lewiatan Należy doprecyzowac czy okres 10 lat liczymy od daty zakończenia postępowania. Uwaga uwzględniona 365. Art. 60 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego dostrzega potencjalną sprzeczność między art. 60 ust. 1 projektu ustawy a art. 26 ust. 5 tego projektu. Z art. 26 ust. 5 wynika bowiem, że określone w nim dane będą usuwane w terminie 5 lata od zakończenia postępowania, o którym mowa w rozdziale 4. Natomiast w art. 60 ust. 1 projektu ustawy wskazano, iż akta sprawy, które również mogą zawierać takie dane, mają być przechowywane przez 10 lat (tym samym dane te mogą być przechowywane przez 10 lat od zakończenia postępowania, a nie 5 lat). W związku z powyższym niezbędne jest usunięcie ww. niezgodności. Uwaga uwzględniona 366. Art. 60 ust. 2 PFR Proponujemy nadać następujące brzmienie: „Zakończenie postępowania nie stanowi przeszkody do ponownego jego przeprowadzenia w zakresie tego samego czynu w przypadku ujawnienia nowych okoliczności, nieznanych Przewodniczącemu Komisji przed zarządzeniem zamknięcia postępowania, chyba że nastąpiło przedawnienie karalności przestępstwa.” Uwaga wyjaśniona Odstąpiono o regulacji. 367. Art. 60 ust. 2 UOKiK Analizy wymaga relacja projektowanego przepisu do art. 145 § 1 Kodeksu postępowania administracyjnego. W sprawach administracyjnych, nie prowadzi się ponownie postępowania w tej samej sprawie, ale wznawia postępowanie w przypadku wystąpienia przesłanek, o których mowa w ww. przepisie. Uzasadnione pozostaje zatem dokonanie oceny zasadności pozostawienia przepisu art. 60 ust. 2 projektowanej ustawy Uwaga wyjaśniona Odstąpiono o regulacji. 368. Art. 60 ust. 2 UKNF Nie jest wiadoma relacja projektowanego przepisu do art. 145 § 1 pkt 5 KPA, w którym jest dodatkowo mowa o nowych dowodach obok nowych okoliczności faktycznych. W kontekście istnienia rzeczonej regulacji Kodeksu postępowania administracyjnego projektowany przepis jawi się jako zbędny. Uwaga wyjaśniona Odstąpiono o regulacji. Rozdział 5 Zgłaszanie poważnych incydentów (art. 61 - art. 63) 369. Rozdział 5 Konfederacj a Lewiatan Uwagi wraz z uzasadnieniem: Uwaga częściowo uwzględniona 178 • Przepisy tego rozdziału są zbyt ogólne, np. nie ma terminu na zgłoszenie - z jednej strony to może być korzystne, z drugiej jednak w którym momencie przedsiębiorca może się spodziewać np. ukarania jeśli nie zgłosi? Brakuje tu pewności prawnej. • Czy dla podmiotów, które są kluczowe i ważne z pkt widzenia uoksc ten obowiązek nie mógłby być wyłączony, skoro i tak będą miały bardzo rygorystyczne obowiązki związane z raportowaniem w zakresie cyberbezpieczeństwa? Jeśli zgłoszą na podstawie uoksc i dotyczy to systemu AI, nie powinny mieć dodatkowych obciążeń z kolejnej ustawy, przepływ informacji powinien być między organami. Precyzyjne określenie terminu zgłoszenia oraz uniknięcie dublowania obowiązków zgłoszeniowych dla podmiotów kluczowych z punktu widzenia cyberbezpieczeństwa zwiększy efektywność systemu zgłoszeniowego, zwiększa stopień pewności prawa i zmniejsza obciążenia, w tym kosztowe, dla przedsiębiorców. Zwracamy uwagę, że w proponowane brzmienie art. 61 ust. 1 nie ogranicza obowiązku zgłaszania poważnych incydentów do systemów AI wysokiego ryzyka zgodnie z art. 73 ust. 1 ASI. Projektodawca nie powinien rozszerzać w ustawie krajowej obowiązków nakładanych na mocy rozporządzenia, które jasno określiło systemy AI, które mają być poddane bardziej ścisłemu nadzorowi poprzez ich kwalifikację do kategorii “wysokiego ryzyka\". Odesłanie do definicji “poważnego incydentu” zawartego w art. 3 pkt 49 Aktu o sztuczntej inteligencji nie jest wystarczające, gdyż definicja nie zawiera tej przesłanki. Z projektowanego przepisu art. 61 nie wynika również w jaki sposób wdrażany jest art. 73 ust. 9 Aktu o sztucznej inteligencji, który mówi o ograniczeniu obowiązku zgłaszania poważnych incydentów w odniesieniu do systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających 179 unijnym instrumentom prawnym ustanawiającym obowiązki równoważne w zakresie zgłaszania. 370. Rozdział 5 PUODO Zgłaszanie incydentów. Projekt ustawy w rozdziale 5 dotyczy obowiązku zgłaszania incydentów związanych z działaniem systemów sztucznej inteligencji. Obowiązek wskazany w art. 61 projektu ustawy jest zbieżny z procedurami zgłaszania naruszeń ochrony danych osobowych przewidzianymi w rozporządzeniu 2016/679. Zgodnie z art. 33 ww. rozporządzenia administrator jest zobowiązany zgłaszać naruszenia ochrony danych osobowych do organu nadzorczego w terminie 72 godzin od ich wykrycia, chyba że jest mało prawdopodobne, aby naruszenie to skutkowało ryzykiem naruszenia praw lub wolności osób fizycznych. W ocenie organu nadzorczego ds. ochrony danych incydenty związane z systemami AI, które prowadzą do naruszeń ochrony danych, powinny być zgłaszane zgodnie z procedurami przewidzianymi przez rozporządzenie 2016/679. Zwrócić uwagę należy, że projektowane przepisy ustawy nie wskazują jednak konkretnego terminu na zgłoszenie incydentu od momentu wykrycia incydentu. Określenie terminu usprawniłoby skuteczne zarządzanie incydentami. Art. 63 projektu ustawy wymaga, aby Przewodniczący Komisji przekazywał zgłoszenie oraz informacje, o których mowa w art. 61 projektowanej ustawy: 1) koordynatorowi do spraw usług cyfrowych, 2) ministrowi właściwemu do spraw informatyzacji, 3) organowi właściwemu do spraw ochrony danych osobowych, 4) właściwemu CSIRT MON, CSIRT NASK lub CSIRT GOV – z wyłączeniem informacji stanowiących tajemnice prawnie chronione, w tym stanowiących tajemnicę przedsiębiorstwa. Z przepisów projektowanej regulacji nie wynika jednak, jakie dalsze działania powinien podjąć Prezes Urzędu Ochrony Danych Osobowych, który otrzymywałby takie zgłoszenie. Uzupełnienia wymaga zarówno termin na zgłoszenie incydentu oraz wyjaśnienie czy procedura wskazana w tym przepisie wyklucza zgłoszenie naruszenia danych osobowych w ciągu 72 godzin bezpośrednio do Prezesa UODO. Zauważyć ponadto należy, że terminologia dotycząca incydentów jest używana niekonsekwentnie – w niektórych Uwaga częściowo uwzględniona 180 przepisach pojawia się ogólne określenie „incydent,” a w innych „poważny incydent”, co wymaga doprecyzowania (w art. 3 w definicjach mowa jest o poważnym incydencie w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689). 371. Art. 61 ust. 2 w zw. z art. 63 UKE W nawiązaniu do powyższej propozycji, proponuje się uzupełnić katalog informacji określony w projektowanym art. 61 ust. 2 o wskazanie, na jaki sektor (w rozumieniu projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw) ma wpływ poważny incydent. Zaproponowana konstrukcja uzupełnienia projektowanych przepisów art. 63 i art. 61 umożliwi efektywne ich stosowanie w zakresie dotyczącym CSIRT sektorowych, bowiem już na etapie zgłoszenia poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji, możliwym będzie powiązanie danego sektora z właściwym CSIRT sektorowym. Uwaga nieuwzględniana 372. Art. 61 ust. 4 BGK Propozycja 4.Dostawca systemu sztucznej inteligencji przekazuje, w niezbędnym zakresie, w zgłoszeniu, o którym ust. 2 pkt 4, informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne do realizacji zadań Komisji i innych właściwych organów z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. Uwaga nieuwzględniona 373. Art. 61 ust. 5 BGK Propozycja 5. Komisja może zwrócić się do dostawcy systemu sztucznej inteligencji o uzupełnienie zgłoszenia o informacje, w tym Uwaga nieuwzględniona 181 informacje stanowiące tajemnice prawnie chronione, w zakresie niezbędnym do realizacji zadań, o których mowa w ustawie i rozporządzeniu 2024/1689 z zastrzeżeniem trybów udostępniania tajemnic prawnie chronionych określonych we właściwych odrębnych przepisach. Proponowane zastrzeżenie ma uporządkować tryb udostępniania informacji stanowiących tajemnicę prawnie chronioną, tak by powstał “tryb specjalny” udostępniania takich tajemnic nieopisany w ustawach szczegółowych np. w Prawie bankowym (tajemnica bankowa), ustawie o obrocie instrumentami finansowymi (tajemnica zawodowa), Rozporządzeniu w sprawie nadużyć (MAR – informacja poufna), ale i innych tajemnic prawnie chronionych jak tajemnica adwokacka, radców prawnych etc. 374. Art. 62 PFR Prosimy o rozważenie możliwości dokładnego zdefiniowanie kanału komunikacji, np. za pośrednictwem dedykowanego do tego systemu. Uwaga nieuwzględniona 375. Art. 63 UKE Przepis art. 63 pkt 4 projektowanej regulacji proponuje się uzupełnić o CSIRT sektorowy. Zgodnie bowiem z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw (rozpatrywanego obecnie już przez Komitet do Spraw Europejskich) wdrażającego dyrektywę Parlamentu Europejskiego i Rady (UE) 2022/255 z dnia 14 grudnia 2022 r. w sprawie środków na rzecz wysokiego wspólnego poziomu cyberbezpieczeństwa na terytorium Unii, zmieniającą rozporządzenie (UE) nr 910/2014 i dyrektywę (UE) 2018/1972 oraz uchylającą dyrektywę (UE) 2016/1148 (dyrektywa NIS 2), CSIRT sektorowy to Zespół Reagowania na Incydenty Bezpieczeństwa Komputerowego, działający na poziomie sektora lub podsektora, ustanowiony przez organ właściwy do spraw cyberbezpieczeństwa dla danego sektora lub podsektora. Zgodnie z przepisami projektu ustawy o zmianie ustawy o krajowym systemie cyberbezpieczeństwa oraz niektórych innych ustaw CSIRT sektorowy będzie uczestniczył w systemie wymiany informacji dotyczących cyberbezpieczeństwa między podmiotami kluczowymi i podmiotami ważnymi a CSIRT MON, CSIRT NASK, CSIRT GOV i organami właściwymi do spraw Uwaga uwzględniona 182 cyberbezpieczeństwa. W ramach zadań przypisanych ww. projektem ustawy CSIRT sektorowe będą np. mogły przeprowadzać ocenę bezpieczeństwa systemów informacyjnych wykorzystywanych przez podmioty krajowego systemu cyberbezpieczeństwa. W konsekwencji, dla uzyskania pełnej spójności opiniowanego projektu ustawy z projektowanymi przepisami nowelizującymi ustawę o krajowym systemie cyberbezpieczeństwa oraz efektywności realizowanych przez CSIRT sektorowe zadań, celowym wydaje się zapewnienie tym podmiotom dostępu do możliwie szerokiego spektrum informacji, w tym również do zgłoszenia oraz informacji, o których mowa w art. 61 opiniowanego projektu ustawy. 376. Art. 63 ust. 3 KRRiT w art. 63 pkt 3 należy wskazać Prezesa Urzędu Ochrony Danych Osobowych; Uwaga uwzględniona Rozdział 6 Jednostki notyfikowane i procedura notyfikacyjna (art. 64 – art. 69) 377. Art. 64 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w art.70 Rozporządzenia 2024/1689. Uzasadnienie: Brakuje wskazania wprost kto jest organem notyfikującym a zostaje wspomniany. Uwaga częściowo uwzględniona 378. Art.64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niejasne jest, w jakim celu przekazywana jest informacja o wnioskach oraz od jakiej decyzji należy liczyć termin 14 dni; Uwaga nieuwzględniona 379. Art. 64 ust. 3 pkt 2 KRRiT w art. 64 ust. 3 pkt 2 niepotrzebnie powtórzono wyrazy „do spraw”; Uwaga uwzględniona 380. Art. 65 ust. 2 i 3 Rada Legislacyjna [Niezgodność przepisów o wniosku z art. 65 ust. 2 i 3 Projektu z Rozporządzeniem UE 2024/1689] Przepisy art. 65 ust 2 i 3 Projektu, mówiące o treści wniosku jednostki oceniającej zgodność składanego do ministra właściwego do spraw informatyzacji w sprawie notyfikacji tej jednostki, są niezgodne z odnośnymi przepisami Rozporządzenia UE 2024/1689. W pierwszym rzędzie należy zauważyć, że elementy wspomnianego wniosku wskazane w przepisach art. 65 ust. 2 i 3 Projektu są i tak stosunkowo szczegółowo unormowane w przepisach art. 29 Rozporządzenia UE 2024/1689, a zatem nie Uwaga nieuwzględniona 183 ma potrzeby powielania w Projekcie tych unijnych przepisów i wystarczy w Projekcie do nich jedynie odesłać (ewentualnie można wskazać w art. 65 ust. 2 Projektu tylko te elementy wniosku, które są niewymienione w art. 29 Rozporządzenia UE 2024/1689, o ile zostanie to w ogóle uznane za potrzebne). Co więcej, z art. 65 ust. 2 pkt 2 Projektu wynika, że w omawianym wniosku należy obligatoryjnie wskazać i zidentyfikować tam akredytację udzieloną jednostce oceniającej zgodność, zaś art. 65 ust 3 pkt 1 Projektu wymaga, aby do wniosku obligatoryjnie dołączyć „certyfikat potwierdzający uzyskanie akredytacji w zakresie rozporządzenia 2024/1689 na podstawie oceny, o której mowa w art. 43 rozporządzenia 2024/1689”. Tymczasem z przepisów Rozporządzenia UE 2024/1689 jednoznacznie wynika, że uzyskanie akredytacji przez jednostkę oceniającą zgodność nie jest wcale obligatoryjne i że we wniosku o notyfikację składanym przez jednostkę oceniającą zgodność nie trzeba wcale obligatoryjnie wskazywać wspomnianej akredytacji i nie trzeba obligatoryjnie dołączać do wniosku certyfikatu akredytacji: można to uczynić fakultatywnie, a jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, to wówczas przekazuje organowi notyfikującemu (w Polsce: ministrowi właściwemu do spraw informatyzacji) inne dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31 Rozporządzenia UE 2024/1689 (zob. art. 29 Rozporządzenia UE 2024/1689). Nie dosyć na tym: ocena, o której jest mowa w art. 43 Rozporządzenia 2024/1689 – a do której to oceny odwołuje się art. 65 ust. 3 pkt 1 Projektu, stanowiąc, że ocena ta stanowi podstawę uzyskania akredytacji w zakresie Rozporządzenia UE 2024/1689 – nie dotyczy wcale akredytacji jednostki oceniającej zgodność, ale dotyczy oceny zgodności systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do Rozporządzenia 2024/1689 stosowanych przez dostawców. Powyższe sprawia, że zamieszczone w art. 65 ust. 3 pkt 1 Projektu odesłanie do oceny, o której jest mowa w art. 43 Rozporządzenia UE 2024/1689 jest kompletnie bezprzedmiotowe, bo, jak wspomniano, ten ostatni przepis dotyczy oceny zgodności przeprowadzanej w stosunku do 184 dostawców systemów AI wysokiego ryzyka, a nie dotyczy oceny stanowiącej podstawę do uzyskania akredytacji przez jednostkę oceniającą zgodność. Wszystkie powyższe mankamenty przepisów art. 65 ust. 2 i 3 Projektu oraz występujące w ich treści niezgodności z przepisami Rozporządzenia UE 2024/1689 sprawiają, że z tych przepisów Projektu równie dobrze można w ogóle zrezygnować, a w każdym razie należy te przepisy wyraźnie zredukować i ograniczyć się do wskazania w nich jedynie elementów wniosku niewymienionych wyraźnie w art. 29 Rozporządzenia UE 2024/1689, przy czym bezwzględnie należy zrezygnować w tych przepisach z odesłania do przepisów art. 43 Rozporządzenia UE 2024/1689, które dotyczą zupełnie innych kwestii. 381. Art. 66 ust. 1 Rada Legislacyjna [Wskazanie niepełnej formy wykonywania zadań przez właściwego ministra w art. 66 ust. 1 Projektu] W przepisie art. 66 ust. 1 Projektu w niepełny (zbyt wąski) sposób została określona forma wykonywania przez ministra właściwego do spraw informatyzacji zadań, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689. Art. 66 ust. 1 Projektu stanowi, że „Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji.”. Tymczasem zadania, o których jest mowa w art. 95 Rozporządzenia UE 2024/1689 mają bardzo złożony oraz rozbudowany charakter i ich wykonywanie nie jest możliwe jedynie poprzez wydawanie rekomendacji przewidzianych w art. 66 ust. 1 Projektu. Minister właściwy do spraw informatyzacji rzeczywiście może wydawać rekomendacje w celu wykonania wskazanego w art. 95 Rozporządzenia UE 2024/1689 zadania polegającego na wydawaniu przez państwa członkowskie kodeksów postępowania, w Projekcie nazywanych rekomendacjami. Natomiast wielu innych zadań wskazanych w art. 95 Rozporządzenia UE 2024/1689 nie da się wykonywać poprzez wydawanie rekomendacji, np. zachęcanie do opracowywania i ułatwianie wydawania kodeksów przez inne podmioty, w tym przez podmioty stosujące (np. dostawców lub importerów systemów AI). De lege ferenda okoliczność ta powinna zostać uwzględniona w treści art. 66 ust. 1 Projektu. Uwaga nieuwzględniona 185 382. Art. 67 ust. 1 PFR Prosimy o rozważenie możliwości bardziej szczegółowego wskazania sposobów zabezpieczania poufnych informacji. Mogą to być np. obowiązki szyfrowania i anonimizacji danych, które zmniejszyłyby ryzyko wycieku danych i zapewniły ich właściwą ochronę. Uwaga nieuwzględniona 383. Art. 69 ust.1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 69. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań, o których mowa w rozdziale 6, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust.3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. Uzasadnienie: Doprecyzowanie. Uwaga uwzględniona 384. Art. 69 ust. 1 UKNF Należy doprecyzować, o które wymogi konkretnie chodzi, poprzez odesłanie do konkretnych jednostek redakcyjnych rozporządzenia 2024/1689. Uwaga uwzględniona 385. Art. 69 ust. 2 KRRiT w art. 69 ust. 2 odesłano do stanu zasobów, o którym mowa w ust. 1, natomiast ust. 1 nie odnosi się do stanu zasobów, odsyła jedynie do art. 70 rozporządzenia 2024/1689; Uwaga uwzględniona 386. Art. 69 ust. 2 UKNF Analogicznie do uwagi zgłoszonej już powyżej do art. 40 ust. 2 projektu ustawy UKNF wskazuje, że ustęp 1 projektowanego art. 69, do którego odwołuje się ust. 2 tego przepisu, nie stanowi o stanie zasobów, ale o wymogach z art. 70 rozporządzenia 2024/1689. Jeżeli odwołanie ma dotyczyć zasobów, o których mowa w art. 70 ust. 6 rozporządzenia 2024/1689, to zasadne jest wprost jego wskazanie, a nie odwoływanie się do ust. 1 projektowanego artykułu. Wówczas przepis nie będzie rodził wątpliwości interpretacyjnych. Uwaga uwzględniona Rozdział 7 Przepisy o administracyjnych karach pieniężnych i przepisy karne (art. 70 – art. 79) 387. Art. 70 ust. 1 IAB Polska Komisja powinna móc nakładać karę pieniężną, a nie być do tego zobligowana. Wynika to z art. 99 ust. 7 AI Act, a także z podejścia przyjętego w przypadku nakładania administracyjnych kar pieniężnych uregulowanych w innych aktach prawnych np. w dziale VII rozdziale 1 ustawy z 16 lutego 2007 r. Uwaga uwzględniona w części Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 388. Art. 70 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga nieuwzględniona 186 Art. 70. 1. Komisja może nakłada nałożyć na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689 operatora, w przypadkach okreslonych w art. 99 ust.3(-5)* rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną na podstawie i na warunkach określonych w art. 99 rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. Operator jest zdefiniowany i uzyty w art. 99 ust1 Rozprządzenia. Ponadto, użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. * Dopókie nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 389. Art. 70 ust. 3 IAB Polska Rekomendujemy ponowną ocenę, czy zastosowany sposób przeliczania wartości kwot w euro na kwoty w złotych jest odpowiedni. W szczególności rekomendujemy dostosowanie tego procesu przeliczania kwot do już obecnego w polskim systemie prawnym np. procesu określonego w art. 5 ustawy z 16.2.2007 r. o ochronie konkurencji i konsumentów: Przeliczenie wartości euro oraz innych walut obcych na złote oraz wartości złotego na euro jest dokonywane według kursu średniego walut obcych ogłoszonego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok zgłoszenia zamiaru koncentracji lub nałożenia kary. Uwaga nieuwzględniona 390. Art. 70 ust. 4 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 70. 4. Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, także jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego. Uzasadnienie: Dodatkowa przesłanka poza art. 99 ust. 7 AI Act. Ponadto, kryterium \"interesu społecznego\" jest niejednoznaczne i Uwaga nieuwzględniona Projekt nowych przepisów dopuszcza możliwość zawarcia układu pomiędzy Komisją a stroną postępowania, co umożliwia zmniejszenie nałożenia kary lub zmniejszenia jej wysokości na zasadach, o których mowa w aktualnej wersji projektu w art. 97 ust. 5. 187 powinno zostać precyzyjniej określone. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. 391. Art. 70 ust. 4 Rada Legislacyjna [Niepełne wskazanie kategorii interesu w art. 70 ust. 4 Projektu] Przepis art. 70 ust. 4 Projektu zbyt wąsko zakreśla kategorię interesu, którego brak naruszenia upoważnia Komisję do odstąpienia od nałożenia administracyjnej kary pieniężnej. Art. 70 ust. 4 Projektu stanowi, że „Komisja może odstąpić od nałożenia administracyjnej kary pieniężnej, jeżeli podmiot wykonał rekomendacje zawarte w ostrzeżeniu, o którym mowa w art. 53 ustawy, a naruszenie nie spowodowało szkody dla interesu społecznego.”. Tymczasem w przepisie tym należy uwzględnić nie tylko brak szkody dla interesu społecznego (lub lepiej: interesu publicznego), ale również brak szkody dla interesu jednostek, gdyż również interesy indywidualne (interesy jednostek) są chronione przy wydawaniu przez Przewodniczącego Komisji ostrzeżeń, o których mowa w art. 53 Projektu, a więc brak ich naruszenia powinien być obligatoryjną przesłanką dopuszczalności odstąpienia przez Komisję od nałożenia administracyjnej kary pieniężnej. Uwaga nieuwzględniona 392. Art. 71 ust. 1 IAB Polska Rekomendujemy wydłużenie terminu, co pozwoli na odpowiednie zebranie i przekazanie dokumentów przez odpowiedni podmiot. Biorąc pod uwagę poziom skomplikowania technicznego i organizacyjnego – dłuższy termin pozwoli przedstawić wszystkie konieczne dane, które będą także odpowiednio sformatowane, co pozwoli Komisji podjąć właściwą w danym przypadku decyzję. Uwaga nieuwzględniona 393. Art. 71 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga nieuwzględniona 394. Art. 72 Konfederacj a Lewiatan Dobrze byłoby aby środki służyły na potrzeby funduszu celowego, w tym na potrzeby działania piaskownic Uwaga nieuwzględniona 188 regulacyjnych, co wpisywałoby się w cel regulcji jakim jest wspieranie innowacji. 395. Art. 72 Rada Legislacyjna [Nieprawidłowe odwołanie się do pojęcia przychodu w art. 72 Projektu] Przepis art. 72 Projektu w nieprawidłowy sposób kwalifikuje wpływy z administracyjnej kary pieniężnej nakładanej przez Komisję, błędnie uznając je za stanowiące „przychód” budżetu państwa. Przepis ten stanowi mianowicie, że „Środki z administracyjnej kary pieniężnej stanowią przychód budżetu państwa.”. Tymczasem środki te stanowią i powinny stanowić „dochód” budżetu państwa, a nie jego przychód. Wniosek taki wynika w pierwszym rzędzie z przepisu art. 111 pkt 12 ustawy z dnia 27 sierpnia 2009 r. o finansach publicznych,25 który stanowi, że „Dochodami podatkowymi i niepodatkowymi budżetu państwa są [...] grzywny, mandaty i inne kary pieniężne, o ile odrębne ustawy nie stanowią inaczej”. Co prawda ten ostatni przepis ma charakter względnie obowiązujący i dozwala ustawodawcy w ustawie odrębnej inaczej przyporządkować wpływy finansowe z tytułu kar pieniężnych, ale nie oznacza to wcale, że ustawodawca może uznać środki z tychże kar za stanowiące „przychód” budżetu państwa. Na podstawie powołanego art. 111 pkt 12 ustawy o finansach publicznych ustawodawca może co najwyżej przyznać innemu funduszowi niż budżet państwa wpływy z kar pieniężnych, np. może je przyznać budżetom jednostek samorządu terytorialnego lub funduszom celowym. Natomiast ustawodawca nie może uznać tych środków za stanowiące „przychód” budżetu państwa, gdyż kłóciłoby się to z istotą tej kategorii, jaką są przychody budżetu państwa i która wynika chociażby z przepisów art. 5 ust. 1 pkt 4 i ust. 1a ustawy o finansach publicznych. Co więcej, w doktrynie trafnie się zauważa, że wniosek interpretacyjny o zaliczaniu (kwalifikowaniu) wpływów (środków) z kar pieniężnych do kategorii dochodów budżetu państwa wynika z art. 5 ust. 2 pkt 1 i 2 oraz art. 60 ustawy o finansach publicznych. Dlatego też Rada Legislacyjna postuluje uznanie w art. 72 Projektu środków z administracyjnej kary pieniężnej nakładanej przez Komisję za stanowiące dochód budżetu państwa. Uwaga uwzględniona. 396. Art. 73 ust. 1 i Art. 74 IAB Polska Wysokie kary pieniężne oraz krótki, 14-dniowy termin na ich uiszczenie, mogą wywierać nadmierną presję na Uwaga nieuwzględniona 189 przedsiębiorców i negatywnie wpłynąć na ich płynność finansową. Ponadto, przewidziano możliwość natychmiastowej wykonalności takich decyzji, co może prowadzić do nieodwracalnych konsekwencji dla działalności podmiotów gospodarczych. Postulujemy o wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur umożliwiających zawieszenie decyzji o nałożeniu kary do czasu rozstrzygnięcia odwołania. 397. Art. 73 ust. 1 i art. 74 Pracodawcy RP Ustawa przewiduje wysokie kary pieniężne oraz krótki, 14- dniowy termin na ich uiszczenie, co może wywierać presję na przedsiębiorców i negatywnie wpływać na ich płynność finansową. Ponadto możliwość natychmiastowej wykonalności takich decyzji może prowadzić do nieodwracalnych konsekwencji dla działalności firm. Aby zapewnić proporcjonalność, sugerujemy wydłużenie terminu na uiszczenie kar finansowych oraz wprowadzenie procedur pozwalających na zawieszenie decyzji o nałożeniu kary do czasu rozpatrzenia odwołania. W przypadku kar o znaczącym wpływie finansowym przedsiębiorcy powinni mieć zagwarantowaną możliwość skutecznego odwołania, co zapewni pewność i stabilność w prowadzeniu działalności. Uwaga nieuwzględniona 398. Art. 73 ust. 1 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 73 1. Administracyjną karę pieniężną uiszcza się w terminie 14 30 dni od dnia upływu terminu na wniesienie odwołania, albo od dnia uprawomocnienia się decyzji Komisji orzeczenia sądu. Uzasadnienie: Jesli brzmienie pierwotne to należałoby uściślić - w ptzypadku braku wniesienie odowłania albo w przypadku wniesienia odwołania. W każdym razie decyzja stanie się prawomocna jak nie zostanie zaskarżona albo jak ją sąd ostatecznie utrzyma w mocy. Sugerujemy także wydłużenie 14-dniowego terminu na uiszczenie administracyjnej kary pieniężnej co najmniej do 30 dni. Uwaga nieuwzględniona 399. Art. 73 ust. 8 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Uwaga uwzględniona 190 Art. 73 ust. 8. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. Na postanowienie odmowne przysługuje zażalenie do Sądu Ochrony Konkurencji i Konsumentów. Uzasadnienie: Postanowienie odmowne może mieć daleko idące negatywne skutki dla przedsiębiorcy, z tego względu powinna służyć od niego ścieżka odwoławcza. 400. Art. 73 ust. 8 Rada Legislacyjna [Brak przesądzenia o organie właściwym do rozpatrzenia środka odwoławczego od postanowienia przewidzianego w art. 73 ust. 8 Projektu] Przepis art. 73 ust. 8 Projektu nie przesądza w ogóle tego, jaki organ jest właściwy do rozpatrywania środka odwoławczego od przewidzianego w tym przepisie postanowienia. Art. 73 ust. 8 Projektu stanowi, że „Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia”, przy czym postanowienia te są wydawane przez Komisję (art. 73 ust. 2 Projektu). Nie wiadomo przy tym, czy postanowienie to może zostać zaskarżone do SOKiK (przepisy Projektu o tym milczą, podobnie jak o właściwości SOKiK w tym zakresie milczą nowelizowane przez Projekt przepisy k.p.c.), czy też raczej należy od tego postanowienia wnieść do Komisji wniosek o ponowne rozpatrzenie sprawy (art. 144 w zw. art. 127 § 3 k.p.a.), a następnie ewentualnie skargę do sądu administracyjnego. Kwestia ta wymaga de lege ferenda wyraźnego przesądzenia w przepisach Projektu, zaś jeżeli w tym zakresie przyjęta zostanie właściwość SOKiK, to trzeba o tym przesądzić również w przepisach k.p.c. Uwaga częściowo uwzględniona 401. Art. 73 ust. 9 KRRiT w art. 73 ust. 9 błędnie odesłano do ust. 2 tego artykułu; Uwaga uwzględniona 402. Art. 73 ust. 9 Rada Legislacyjna [Błędne użycie wyrazu „organy” zamiast „instytucje” w art. 73 ust. 9 pkt 3 Projektu] Przepis art. 73 ust. 9 pkt 3 Projektu posługuje się nieprawidłowym określeniem „organy Unii Europejskiej”, podczas gdy w tym kontekście prawidłowe i postulowane przez Radę Legislacyjną jest sformułowanie: „instytucje Unii Europejskiej”. Przepis art. 73 ust. 9 pkt 3 Projektu stanowi, że Uwaga uwzględniona 191 Komisja może udzielić ulgi w wykonaniu administracyjnej kary pieniężnej, która „stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe organy Unii Europejskiej”. Tymczasem w UE o dopuszczalności pomocy publicznej (pomocy państwa) i jej zgodności z rynkiem wewnętrznym UE przesądzają (rozstrzygają) nie organy UE (jak jest o tym mylnie mowa w art. 73 ust. 9 pkt 3 Projektu), ale rozstrzygają o tym instytucje UE, takie jak Komisja Europejska, Rada Europejska, Rada Unii Europejskiej, Parlament Europejski oraz TSUE. Wszystkie te wymienione ostatnio podmioty są wyraźnie uznane za „instytucje Unii” przez art. 13 Traktatu o Unii Europejskiej, przy czym z przepisów art. 107- 109 Traktatu o funkcjonowaniu Unii Europejskiej wynika, że to właśnie te instytucje UE, w ramach różnych procedur, są kompetentne do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Natomiast tego rodzaju kompetencji w sprawach pomocy państwa absolutnie nie posiadają „organy Unii Europejskiej”, do której to kategorii należy cały szereg wyspecjalizowanych podmiotów, takich jak np. agencje UE, Europejska Służba Działań Zewnętrznych, Europejski Komitet Ekonomiczno-Społeczny, Europejski Komitet Regionów, Europejski Rzecznik Praw Obywatelskich, Europejski Inspektor Ochrony Danych. Organy UE nie mają żadnych kompetencji do orzekania o zgodności pomocy państwa z rynkiem wewnętrznym UE. Dlatego też zdaniem Rady Legislacyjnej w przepisie art. 73 ust. 9 pkt 3 Projektu należy się posłużyć pojęciem „instytucji Unii Europejskiej”, a ponadto należy tam użyć sformułowania o zgodności pomocy publicznej „z rynkiem wewnętrznym”, a nie – jak w obecnej wersji tego przepisu – „z zasadami rynku wewnętrznego”, gdyż właśnie to pierwsze określenie występuje w przepisach art. 107 Traktatu o funkcjonowaniu Unii Europejskiej. 403. Art. 74 Konfederacj a Lewiatan Przepis powinien precyzyjniej określić, jaki \"ważny interes\" może uzasadniać nadanie decyzji rygoru natychmiastowej wykonalności. Należy się odwołać do kryteriów dla rygoru natychmiastowej wykonalności wskazanych w Kodeksie postępowania administracyjnego. Uwaga uwzględniona 192 Art. 108 [Podstawy nadania decyzji rygoru natychmiastowej wykonalności] § 1. Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony. W tym ostatnim przypadku organ administracji publicznej może w drodze postanowienia zażądać od strony stosownego zabezpieczenia. § 2. Rygor natychmiastowej wykonalności może być nadany decyzji również po jej wydaniu. W tym przypadku organ wydaje postanowienie, na które służy stronie zażalenie. Precyzyjne określenie kryteriów pozwoli na jednoznaczne zastosowanie przepisu i zapewni pewność prawną. Odwołanie się do istniejących już regulacji zapewni spójność i zgodność z ogólnymi zasadami postępowania administracyjnego. 404. Art. 74 UOKiK Użyte w przepisie pojęcie ważnego interesu jest nieostre i wskazuje na możliwość dowolnego nadania rygoru natychmiastowej wykonalności. Wydaje się to zbędne, mając na względzie, że możliwość taka wynika ze stosowanego w sprawie kar pieniężnych art. 108 kodeksu postępowania administracyjnego Uwaga uwzględniona Przepis został doprecyzowany. 405. Art. 74 UKNF W ocenie UKNF projektowany przepis jest nieprecyzyjny. Podmioty stosujące prawo mogą mieć problem ze zdekodowaniem pojęcia „ważnego interesu”, w szczególności odnośnie tego, czy chodzi o ważny interes publiczny, społeczny, czy też interes strony. Poddajemy pod rozwagę odwołanie się do instytucji z art. 108 KPA. Uwaga uwzględniona Przepis został doprecyzowany. 193 406. Art. 74 Rada Legislacyjna [Nadmierne rozszerzenie możliwości nadania decyzji Komisji rygoru natychmiastowej wykonalności w art. 74 Projektu] Przepis art. 74 Projektu w nadmiernie ekscesywny sposób rozszerza możliwość nadania rygoru natychmiastowej wykonalności decyzji Komisji o nałożeniu administracyjnej kary pieniężnej. Przepis art. 74 Projektu – znajdujący się w przepisach rozdziału 4 Projektu zawierającego przepisy o administracyjnych karach pieniężnych – stanowi, że „Komisja może nadać decyzji rygor natychmiastowej wykonalności, jeżeli wymaga tego ważny interes.”. Zdaniem Rady Legislacyjnej, jeżeli autorzy Projektu pragną rozszerzyć katalog dopuszczalnych przypadków nadawania wspomnianej decyzji Komisji (o ukaraniu administracyjną karą pieniężną) rygoru natychmiastowej wykonalności poza przypadki opisane w art. 108 § 1 zd. 1 k.p.a. (ten ostatni przepis stanowi, że „Decyzji, od której służy odwołanie, może być nadany rygor natychmiastowej wykonalności, gdy jest to niezbędne ze względu na ochronę zdrowia lub życia ludzkiego albo dla zabezpieczenia gospodarstwa narodowego przed ciężkimi stratami bądź też ze względu na inny interes społeczny lub wyjątkowo ważny interes strony.”), to oczywiście mogą oni to uczynić, ale warto by jednak było, aby w art. 74 Projektu zostało przynajmniej przesądzone, że Komisja może nadać omawianej decyzji rygor natychmiastowej wykonalności tylko wtedy, gdy jest to „niezbędne” z uwagi na ważny interes. To postulowane przez Radę Legislacyjną sformułowanie (o niezbędności) będzie bowiem stanowiło przejaw zamieszczenia w tym przepisie przesłanki proporcjonalności, odgrywającej istotną rolę gwarancyjną dla należytego respektowania konstytucyjnych praw i wolności jednostek (zob. art. 31 ust. 3 Konstytucji RP). Warto też dodać, że ewentualne zamieszczenie w Projekcie przepisu art. 74 Projektu, określającego swoiste przesłanki nadania decyzji Komisji rygoru natychmiastowej wykonalności, będące przesłankami szczególnymi względem przepisu art. 108 § 1 zd. 1 k.p.a., bynajmniej nie wyłączy stosowania do decyzji Komisji tego ostatniego przepisu k.p.a.28 Komisja nadal będzie mogła się powołać w tym zakresie na przesłanki wymienione w art. 108 § 1 zd. 1 k.p.a. jako przemawiające za nadaniem decyzji o Uwaga uwzględniona Przepis został doprecyzowany 194 ukaraniu rygoru natychmiastowej wykonalności (w tym na „inny interes społeczny”), a ponadto Komisja i tak będzie musiała respektować procedurę oraz sposób nadawania decyzji rygoru natychmiastowej wykonalności określone w przepisach art. 108 k.p.a. Wzgląd na tę okoliczność powinien zresztą skłaniać do ponownego zastanowienia się nad tym, czy przepis art. 74 Projektu jest w obecnym kształcie treściowym w ogóle potrzebny. 407. Art. 75 Rada Legislacyjna [Błędy redakcyjne w art. 75 ust. 2 Projektu] Licznymi usterkami redakcyjno- językowymi obarczony jest przepis art. 75 ust. 2 Projektu. Przepis ten – dotyczący decyzji Komisji w sprawie nałożenia administracyjnej kary pieniężnej – w obecnej wersji stanowi, że „Do postępowania w sprawach odwołań, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (z zakresu postępowanie w sprawach naruszenia przepisów rozporządzenia 2024/1689.”. Usterki redakcyjno-językowe tego przepisu są aż nadto widoczne: niepotrzebne zamieszczanie części zdania w nawiasie, zamieszczenie znaku otwarcia nawiasu bez postawienia znaku jego zamknięcia, użycie w nawiasie wyrazu „postępowanie” w niewłaściwym przypadku deklinacyjnym (jest w mianowniku, a powinno być w dopełniaczu). Uwaga uwzględniona 408. Art. 76 Rzecznik MŚP Wnoszę o wykreslenie art. 76 Projektu, w którym następuje wyłączenie stosowania przepisów art. 189d, art. 189f i art. 189k ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego”. W uzasadnieniu do Projektu brak szczegółowego wyjaśnienia dla takiego rozwiązania, zaś w art. Uwaga nieuwzględniona 195 99 ust. 1 Rozporządzenia UE nr 2024/1689 stwierdza się, że państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, jak również to, że przewidziane kary muszą być m. in. proporcjonalne. Istnieje zagrożenie pomijania stosowania przedmiotowych przepisów KPA, co utrudni albo uniemożliwi w praktyce realizację zasady proporcjonalności jako podstawowej dyrektywy wymiaru administracyjnej kary pieniężnej. Zbyt rygorystyczne uregulowania mogą stanowić barierę w rozwoju systemów sztucznej inteligencji jako technologii innowacyjnej. 409. Art. 76 Konfederacj a Lewiatan Ustawodawca wyłączając stosowanie art. 189f KPA znacząco ograniczył możliwości organu odstąpienia od nałożenia na podmiot administracyjnej kary pieniężnej, tj. jedynie do przypadku zastosowania się przez ten podmiot do rekomendacji zawartych w ostrzeżeniu, o którym mowa w art. 53 projektu (art. 70 ust. 4 projektu) – jest to nieuzasadnione i nieproporcjonalne. Dodatkowo, w świetle wyłączenia stosowania art. 189k KPA, nie jest w pełni jasne jaką formę miałaby przyjąć i na czym miałoby polegać udzielenie przez organ ulgi, o której mowa jest w art. 73 ust. 9 projektu. Uwaga nieuwzględniona 410. Art. 77 AIA PUODO Uprawnienia organów ochrony praw podstawowych. Zgodnie z treścią art. 77 ust. 1 aktu w sprawie sztucznej inteligencji krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie przedmiotowego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Zgodnie natomiast z art. 77 ust. 2 aktu w sprawie sztucznej inteligencji każde państwo członkowskie wskazuje organy i podmioty publiczne, o których mowa powyżej i podaje ich wykaz do wiadomości publicznej. Jednocześnie państwa członkowskie Uwaga zostanie uwolniona 196 przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. Tymczasem w dotychczas upublicznionym przez Ministerstwo Cyfryzacji wykazie organów i instytucji publicznych, o których mowa w art. 77 ust. 1 aktu w sprawie sztucznej inteligencji w Polsce nie został wskazany organ nadzorczy ds. ochrony danych, chociaż – jak wynika z informacji przekazanych Prezesowi UODO przez przedstawicieli innych organów nadzorczych – takie działania podejmowane są w innych państwach członkowskich, np. we Francji czy na Malcie. W świetle powyższych uwag, wzgląd na przepisy prawa, w tym normy prawa unijnego, wymaga uzupełnienia wykazu, o którym mowa w art. 77 ust. 2 aktu w sprawie sztucznej inteligencji i wskazania w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu właściwego z obszaru ochrony praw podstawowych w zakresie realizacji uprawnienia wynikającego z art. 77 ust. 1 ww. aktu. Prezes UODO nie wskazuje przy tym w tym miejscu na konieczne do realizacji tego zadania (i innych wynikających z rozporządzenia 1689/2024 oraz projektu ustawy) zasoby i środki finansowe, których brak mógłby stać na przeszkodzie realizacji nowych kompetencji – powinno to być raczej przedmiotem odrębnych ustaleń, koncentrując się na obowiązkach organów wynikających z przepisów prawa. Należy jednak przypomnieć, że systematyczne pomijanie potrzeb budżetowych organu nadzorczego właściwego ds. ochrony danych osobowych w kontekście realizacji nowych obowiązków (poza projektem ustawy o zarządzaniu danymi) stało się przedmiotem odrębnego wystąpienia do Pana Premiera. 411. Art. 77 Prokuratoria Generalna Wątpliwości budzi art. 77 projektu, zgodnie z którym w zakresie nieuregulowanym w projektowanej ustawie oraz w Kodeksie postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji stosuje się odpowiednio przepisy działu III Ordynacji podatkowej. W związku z tym, że nakładanie administracyjnych kar pieniężnych jest kompleksowo uregulowane w Kodeksie postępowania administracyjnego (włącznie z terminami przedawnienia nakładania kar i terminami przedawnienia ich egzekucji) i w przepisach projektowanej ustawy, nie jest jasne, w jakim zakresie miałyby znaleźć Uwaga uwzględniona przepis został zmodyfikowany 197 odpowiednie zastosowanie przepisy Ordynacji podatkowej. Dlatego rekomendujemy analizę projektowanej regulacji z uwzględnieniem rozróżnienia kwestii dotyczących nakładania kar i kwestii dotyczących należności z tytułu tych kar. Warto zwrócić uwagę na obowiązujące już przepisy, w tym art. 19e ust. 2 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym odpowiednie stosowanie przepisów działu III Ordynacji podatkowej odnosi się do należności z tytułu kar pieniężnych. Przepis ten był w roku 2019 nowelizowany, ponieważ uprzednio dotyczył odpowiedniego stosowania przepisów działu III Ordynacji podatkowej do kar pieniężnych i wywołał istotne wątpliwości interpretacyjne w zakresie stosowania przepisów o przedawnieniu nakładania kar pieniężnych (zob. wyrok NSA z 28 listopada 2023 r. II GSK 1028/20). Rozróżnienie powyższych kwestii jest istotne z uwagi na specyfikę powstawania zobowiązań z tytułu kar pieniężnych i zobowiązań podatkowych. Zgodnie z orzecznictwem Naczelnego Sądu Administracyjnego zakres pojęcia „należności publicznoprawne” nie obejmuje dochodów, których źródłem są czyny niedozwolone (kar pieniężnych, grzywien, mandatów). Te należności nie wynikają z publicznoprawnych stosunków nakazujących określonym podmiotom uiszczać świadczenia pieniężne na rzecz budżetu państwa lub budżetu jednostki samorządu terytorialnego, lecz z określonego zachowania podmiotu zobowiązanego do ich uiszczenia. Do momentu wydania decyzji o nałożeniu administracyjnej kary pieniężnej na stronie nie ciąży żaden, nawet abstrakcyjny i ogólny ustawowy obowiązek zapłaty kary, co wynika z samej natury sankcji administracyjnej i jest zasadniczą okolicznością różniącą zobowiązanie z tytułu kary pieniężnej od zobowiązania podatkowego. Dopiero z chwilą wydania decyzji ustalającej odpowiedzialność za naruszenie przepisów prawa powstaje stosunek publicznoprawny, z którego wynika obowiązek podmiotu zastosowania się do decyzji (por. wyrok NSA z 12 marca 2024 r. II GSK 58/21 i wskazane w nim dotychczasowe orzecznictwo). 412. Art. 77 KRRiT w art. 77 wyrazy „na podstawie naruszeń” należy zastąpić wyrazami „w związku z naruszeniem”, ponadto rozważenia wymaga zasadność odwołania do działu III Ordynacji podatkowej; Uwaga uwzględniona 198 413. Art. 77 Konfederacj a Lewiatan Art. 77. W zakresie nieuregulowanym w niniejszej ustawie oraz w ustawie z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego do kar pieniężnych nakładanych przez Komisję na podstawie naruszeń art. 5 rozporządzenia 2024/1689 stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji podstawie art. 99 ust. 3 (-5)* rozporządzenia 2024/1689 stosuje się przepisy o postępowaniu egzekucyjnym w administracji. Uzasadnienie: Jeśli mają zostać określone kwestie nie uregulowane a niedotyczące tylko egzekucji kar, powinny zostać tu wpisane wprost (porównaj ustawa o ochronie konkurencji i konsumentów). Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). * dopóki nie wejdą w życie pozostałe obowiązki AI Act - tylko ust. 3 art. 99 pozwala na nałożenie kary. Uwaga nieuwzględniona 414. Art. 78 Konfederacj a Lewiatan Art. 78. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. 2. Tej samej karze podlega kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub celowo dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami Uwaga częściowo uwzględniona Postulat podniesiony w treści uwagi jest częściowo adresowany poprzez umożliwienie stronie zawarcia układu w ramach osobnego postępowania. 199 pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Ustęp 2 powinien zostać doprecyzowany tak, by mowa była o celowym działaniu i nie dostarczeniu informacji, jeśli są w posiadaniu danego podmiotu, a niekoniecznie takie dane muszą być już dostępne w danym okresie roku obrotowego. 415. Art. 78 ust. 2 Rada Legislacyjna [Błędne określenie podmiotu (sprawcy) ponoszącego odpowiedzialność karną na podstawie art. 78 ust. 2 Projektu] Art. 78 ust. 2 Projektu wprowadza odpowiedzialność karną tego, „kto, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej”. Przepis ten, jak wynika z sankcji, ustalanej w powiązaniu z art. 78 ust. 1 Projektu („podlega grzywnie do 500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch”), ma charakter ściśle prawnokarny, tj. określa typ przestępstwa. W konsekwencji powinien on mieć zastosowanie – na podstawie art. 116 Kodeksu karnego – jedynie do osób (fizycznych) podlegających odpowiedzialności zgodnie z regułami określonymi w części ogólnej Kodeksu karnego. Tymczasem zgodnie z art. 71 ust. 1 Projektu, obowiązek dostarczenia Komisji, w terminie 14 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej został nałożony na „podmiot”, o którym mowa w art. 70 ust. 1 Projektu, czyli „podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689”. Prowadzi to do wniosku, że ustawodawca adresuje przepisy prawnokarne nie tylko do osób fizycznych, co (przede wszystkim) do podmiotów prawnych (zbiorowych). Jednoznacznie świadczy o tym treść motywu 13 Rozporządzenia UE 2024/1689, zgodnie z którym „[p]ojęcie „podmiotu stosującego”, o którym mowa w niniejszym rozporządzeniu, należy interpretować jako „osobę fizyczną lub prawną, w tym organ publiczny, agencję lub inny podmiot, która wykorzystuje system AI, nad którym sprawuje kontrolę, oprócz przypadków gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”. Tę niespójność Uwaga nieuwzględniona 200 należy wyeliminować przez dokładne określenie osób, które (w ramach „podmiotów stosujących”) zobowiązane są do „dostarczenia Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej”. Tylko osoba fizyczna (człowiek) spełnia bowiem przesłanki do ponoszenia odpowiedzialności karnej. W art. 78 Projektu należy wyeliminować tzw. literówkę w wyrazie „postepowaniu” (prawidłowo: „postępowaniu”). 416. Art. 79 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 79. Kto utrudnia lub udaremnia przeprowadzenie czynności w postepowaniu, o którym mowa w rozdziale 4 ustawy, podlega grzywnie do 2500 000 zł, karze ograniczenia wolności albo pozbawienia wolności do lat dwóch. Uzasadnienie: Wysokość grzywny 500 000 jest bardzo wysoka i zdaje się, że wprost zaczerpnięta z ustawy o nadzorze nad rynkiem finansowym, który z definicji dotyczy obrotu dużymi sumami pieniężnymi. Kwota ta nie wydaje się być jednak adekwatna dla rynku AI, zwłaszcza start-upów, które mają być promowane. Wnosimy również o ponowne poddanie analizie konieczności wprowadzania w ustawie sankcji karnych (art. 78 oraz art. 79). Nie mają one bowiem uzasadnienia w przepisach rozporządzenia. Ponadto, ich wprowadzenie stoi w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność działania. Uwaga uwzględniona Odstąpiono od wskazania kwoty Rozdział 8 Zamiany w przepisach obowiązujących (art. 80 – art. 82) 417. Art. 80 pkt 2 KRRiT w art. 80 pkt 2, w części dotyczącej art. 479 88b Kpc, brak jest oznaczenia § 1; w art. 80 pkt 2, w części dotyczącej art. 479 88e § 1 Kpc, przepis jest niekompletny, a przez to niezrozumiały; Uwaga częściowo uwzględniona. Dokonano właściwych oznaczeń. 418. Art. 80 pkt 2 IAB Polska Wskazujemy, że w Art. 479 88e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Uwaga uwzględniona. 201 Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. 419. Art. 80 pkt 2 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: Art. 479 88e § 1. W sprawach z naruszenia przepisów rozporządzenia 2024/1689 stronami są także jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji zainteresowany. § 2. Zainteresowanym jest ten, czyje prawa lub obowiązki zależą od rozstrzygnięcia procesu. Jeżeli zainteresowany nie został wezwany do udziału w sprawie, sąd ochrony konkurencji i konsumentów wezwie go na wniosek strony albo z urzędu. Uzasadnienie: Nie jest jasne kogo ustawodawca ma na myśli pod pojęciem zainteresowanego? Czytając definicję z par. 2 można uznać, że będzie nim każdy podmiot, który może wnieść roszczenie cywilno-prawne wobec operatora systemu AI, więc udział takich osób w postępowaniu doprowadzi do całkowitego paraliżu postępowania sądowego, m.in przez konieczność doręczeń do wielu osób, utajniania części akt - informacji objętych tajemnicą przedsiębiorstwa itd. Uwaga uwzględniona. 420. Art. 80 pkt 2 Rada Legislacyjna Istotnie niepełna nowelizacja przepisów k.p.c. – pominięcie prawodawcze] Przepisy art. 80 pkt 2 Projektu, które przewidują znowelizowanie przepisów k.p.c., zmieniają przepisy k.p.c. w zbyt wąskim zakresie, co w efekcie będzie prowadziło do zaistnienia na gruncie k.p.c. istotnego i niepożądanego pominięcia prawodawczego. To pominięcie prawodawcze będzie polegało na tym, że dodawane przez art. 80 pkt 2 Projektu przepisy k.p.c., normujące nowe postępowanie odrębne w postaci postępowania w sprawach naruszenia przepisów Rozporządzenia UE 2024/1689, nie będą zawierały wielu takich regulacji prawnych, które są absolutnie niezbędne dla efektywnego funkcjonowania wspomnianego postępowania odrębnego.29 Mianowicie, w nowelizowanych przez art. 80 pkt 2 Projektu przepisach k.p.c. brak jest m. in. następujących niezbędnych elementów normatywnych: (1) brak jest w nowelizowanym k.p.c. przepisu wyraźnie określającego rodzaje Uwaga częściowo uwzględniona. Uwaga zostanie w pełni uwzględniona na kolejny etapie legislacyjnym. 202 orzeczeń wydawanych przez SOKiK po rozpatrzeniu odwołania od decyzji Komisji, takich jak orzeczenie oddalające odwołanie od decyzji Komisji oraz orzeczenie uchylające zaskarżaną decyzję albo ją zmieniające w całości lub w części i rozstrzygające co do istoty sprawy, na wzór przepisów m. in. art. 479[31a], art. 479[53], art. 479[64] i art. 479[75] k.p.c.; (2) brak jest w nowelizowanym k.p.c. przepisów o ochronie tajemnicy przedsiębiorstwa oraz innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, na wzór m. in. przepisów art. 479[33], art. 479[66a] i art. 479[77a] k.p.c.; (3) brak jest wyraźnego wskazania w nowelizowanym k.p.c., że SOKiK jest właściwy do rozpatrywania zażaleń na postanowienia Komisji, a przynajmniej na niektóre z nich, w tym na postanowienie Komisji o zajęciu przedmiotów w toku kontroli (art. 43 ust. 13 Projektu), na postanowienie Komisji rozstrzygające sprzeciw podmiotu kontrolowanego, o którym jest mowa w art. 43 ust. 20 Projektu, na postanowienia Komisji wydawane w postępowaniu w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (rozdział 4 Projektu) oraz na postanowienia Komisji wydawane w sprawach nałożenia administracyjnych kar pieniężnych, np. na postanowienie Komisji w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty (art. 73 ust. 2 i 8 Projektu); (4) brak jest w nowelizowanym k.p.c. przepisu, który w zakresie rozpatrywania zażaleń na postanowienia Komisji odsyłałby do stosowania niektórych przepisów o rozpatrywaniu odwołań od decyzji Komisji, np. na wzór przepisów art. 479[32] § 2, art. 479[55] oraz art. 479[66] k.p.c. Powyższe braki legislacyjne w k.p.c. (nowelizowanym przez Projekt) wymagają obecnie uzupełnienia. Rozdział 9 Przepisy przejściowe, dostosowujące i końcowe (art. 83 – art. 88) 421. Art. 83 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy. Nie jest to przepis przejściowy ale zasadniczy przepis merytoryczny tworzący nowy organ. Uwaga nieuwzględniona 422. Art. 83 ust. 1 UKNF Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę, czy bardziej adekwatnym nie będzie posłużenie się sformułowaniem „tworzy się”, zamiast aktualnego „powołuje się” - wobec planowanego statusu Komisji jako organu administracji publicznej. Należałoby także rozważyć, czy Rada ds. Sztucznej Uwaga nieuwzględniona 203 Inteligencji, o której mowa w art. 28 ust. 1 projektu, nie wymaga utworzenia w drodze przepisu dostosowującego. 423. Art. 83 ust. 2 KRRiT w art. 83 ust. 2 brak jest wyrazu „dni”; Uwaga uwzględniona 424. Art. 84 KRRiT w art. 84 błędnie ponumerowano ustępy; Uwaga uwzględniona 425. Art. 84 ust. 1 Konfederacj a Lewiatan Przepis ten powinien być w art. 5 projektowanej ustawy Uwaga nieuwzględniona 426. Art. 84 ust. 2 i 3 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że zasadnym wydaje się, aby na powołanie pełnomocnika został wyznaczony pewien okres (a nie dzień wejścia w życie ustawy). Co do zasady tego rodzaju regulacje wchodzą w życie wcześniej, a nie równocześnie z przepisami o utworzeniu danego podmiotu (w tym przypadku Biura). Zwrócić należy także uwagę, że zadaniem pełnomocnika nie może być tworzenie Biura. Zostanie ono utworzone na mocy ustawy. Uwaga nieuwzględniona 427. Art. 84 ust. 5 KRRiT w art. 84 ust. 5 dotyczącym powołania Dyrektora Biura Komisji wyraz „id” należy zastąpić wyrazem „od”; Uwaga uwzględniona 428. Art. 84 ust. 5 PFR Proponujemy nadać następujące brzmienie: „Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność.” Uwaga uwzględniona 429. Art. 84 ust. 5 Konfederacj a Lewiatan Uwaga lub propozycja zmiany zapisu: 5. Z chwilą powołania Dyrektora Biura Komisji nie później niż w terminie 12 miesięcy id od dnia wejścia w życie ustawy, Pełnomocnik kończy swoją działalność. Uzasadnienie: Poprawa literówki: „od” zamiast „id”. Wskazujemy, że w Art. 47988e § 1. “W sprawach z naruszenia przepisów rozporządzenia 2024/1689 są [...] także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i zainteresowany” zabrakło słowa. Uwaga uwzględniona 430. Art. 87 ust. 4 KRRiT w art. 87 ust. 4 zbędny jest pierwszy wyraz „jest”. Uwaga uwzględniona 204 431. Art. 88 Rada Legislacyjna [Brak skorelowania wejścia w życie Projektu z przepisami Rozporządzenia UE 2024/1689] Przepis art. 88 Projektu dotyczący jego wejścia w życie nie jest niestety skorelowany treściowo z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi zagadnienie rozpoczęcia stosowania tego ostatniego aktu. Art. 88 Projektu jest jego ostatnim w kolejności przepisem, ale Rada Legislacyjna zdecydowała się poruszyć to zagadnienie już na samym początku przedstawiania usterek Projektu, ze względu na pierwszoplanową merytoryczną wagę tej problematyki. Projekt jest bowiem wcale nieczęstym w polskiej praktyce legislacyjnej przypadkiem, gdy projekt ustawy mającej implementować w Polsce określony unijny akt prawny lub mającej zapewniać w Polsce jego stosowanie pojawia się tak szybko (niemal błyskawicznie) po przyjęciu danego aktu prawnego w UE, a jednocześnie z takim dużym czasowym wyprzedzeniem w stosunku do przewidzianego w akcie unijnym terminu rozpoczęcia jego stosowania. Trzeba tu mianowicie przypomnieć, że Rozporządzenie UE 2024/1689 zostało przyjęte w dniu 13 czerwca 2024 r., następnie opublikowano je w Dzienniku Urzędowym UE w dniu 12 lipca 2024 r. i weszło ono w życie 20. dnia po jego opublikowaniu, czyli w dniu 1 sierpnia 2024 r. (zob. art. 113 zd. 1 Rozporządzenia UE 2024/1689). Natomiast Rozporządzenie UE 2024/1689 będzie stosowane w całej UE (w tym w Polsce) dopiero od dnia 2 sierpnia 2026 r. (art. 113 zd. 2 Rozporządzenia UE 2024/1689), zaś niektóre jego przepisy będą stosowane od dnia 2 sierpnia 2027 r. (zob. art. 113 lit. c) Rozporządzenia UE 2024/1689). Z drugiej jednak strony są też w Rozporządzeniu UE 2024/1689 przepisy, które mają zacząć być stosowane wcześniej, tzn. od dnia 2 lutego 2025 r. (zob. art. 113 lit. a) Rozporządzenia UE 2024/1689) lub od dnia 2 sierpnia 2025 r. (zob. art. 113 lit. b) Rozporządzenia UE 2024/1689). Tymczasem Projekt, jako przyszła ustawa, ma wejść w życie po upływie 14 dni od dnia ogłoszenia, zaś niektóre jego przepisy, dotyczące rozpoczęcia procesu powoływania Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) oraz tworzenia Biura Komisji, mają wręcz wejść w życie już z dniem następującym po dniu ogłoszenia ustawy (art. 88 Projektu). Uwaga wyjaśniona. Uwaga zostanie uwzględniona na późniejszym etapie prac 205 Trudno jest oczywiście na obecnym etapie procesu legislacyjnego przewidzieć, kiedy konkretnie Projekt jako przyszła ustawa wejdzie w życie; być może stanie się to w pierwszych miesiącach roku 2025. W każdym razie Rada Legislacyjna rekomenduje już obecnie treściowe skorelowanie przepisu art. 88 Projektu o jego wejściu w życie z przepisami art. 113 Rozporządzenia UE 2024/1689 normującymi początek stosowania poszczególnych przepisów tego unijnego aktu prawnego. Jest niewątpliwie rzeczą bardzo cenną i godną pochwały to, że Projekt pojawił się odpowiednio wcześnie przed odnośnymi datami rozpoczęcia stosowania przepisów Rozporządzenia UE 2024/1689. Co więcej, szereg przepisów Projektu może zupełnie dobrze i w zgodzie z prawem UE wejść w życie już nawet obecnie, nie tylko przed dniem 2 sierpnia 2026 r. (czyli przed datą rozpoczęcia stosowania zasadniczego korpusu przepisów Rozporządzenia UE 2024/1689), ale nawet przed dniem 2 lutego 2025 r. (czyli przed najwcześniejszym dniem rozpoczęcia stosowania niektórych przepisów Rozporządzenia UE 2024/1689). Dotyczy to chociażby przepisów Projektu dotyczących powołania Komisji czy też utworzenia Biura Komisji. Niemniej jednak są też w Projekcie takie przepisy, które absolutnie nie mogą wejść w życie przed dniem rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689. Ta ostatnia uwaga dotyczy w szczególności przepisów Projektu upoważniających Komisję do kontrolowania działalności podmiotów obowiązanych do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 3 Projektu), upoważniających Komisję do prowadzenia postępowania w sprawie naruszenia przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 4 Projektu) oraz upoważniających Komisję do nakładania administracyjnych kar pieniężnych na podmiot obowiązany do przestrzegania przepisów Rozporządzenia UE 2024/1689 (zob. rozdział 7 Projektu), w zakresie, w jakim te kontrolowane, nadzorowane czy też sankcjonowane przez Komisję przepisy Rozporządzenia UE 2024/1689 nie będą jeszcze stosowane w UE z uwagi na treść art. 113 Rozporządzenia UE 2024/1689. Ta prawna niedopuszczalność stosowania, nadzorowania, wdrażania czy też sankcjonowania w Polsce tych przepisów Rozporządzenia 206 UE 2024/1689, które w świetle art. 113 Rozporządzenia UE 2024/1689 nie są jeszcze stosowane w całej UE (a dotyczy to chociażby licznych przepisów Rozporządzenia UE 2024/1689 określających obowiązki podmiotów wskazanych w art. 2 ust. 1 Rozporządzenia UE 2024/1689, np. określających obowiązki dostawców, importerów, dystrybutorów lub podmiotów stosujących systemy AI) wynika chociażby z relewantnego w tym względzie orzecznictwa Trybunału Sprawiedliwości Unii Europejskiej (dalej: „TSUE”). Zdaniem TSUE, przepisy rozporządzenia unijnego określające obowiązki podmiotów prawa nie mogą być wobec tych podmiotów stosowane w okresie przed określonym w danym rozporządzeniu dniem rozpoczęcia ich stosowania. W związku z powyższym Rada Legislacyjna prosi autorów Projektu o rozważenie dokładnego skorelowania terminów wejścia w życie poszczególnych przepisów Projektu, zwłaszcza przepisów rozdziałów 3, 4, 5, 6 i 7 Projektu, z terminami rozpoczęcia stosowania odnośnych przepisów Rozporządzenia UE 2024/1689 określonymi w jego art. 113. 1 RAPORT Z II TURY OPINIOWANIA I KONSULTACJI PUBLICZNYCH projektu ustawy o systemach sztucznej inteligencji (UC71) 1. Omówienie wyników przeprowadzanych konsultacji publicznych i opiniowania. Projekt ustawy o systemach sztucznej inteligencji (UC71) został skierowany do ponownych konsultacji publicznych i opiniowania 10 lutego 2025 r. Na zgłoszenie uwag został wyznaczony termin 14 dni. Projekt ustawy został także udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny oraz na stronie podmiotowej Ministerstwa Cyfryzacji. W ramach konsultacji publicznych projekt skierowano do następujących 70 podmiotów: Krajowa Izba Gospodarczej Elektroniki i Telekomunikacji, Polska Izba Informatyki i Telekomunikacji, Polska Izba Komunikacji Elektronicznej, Krajowa Izba Gospodarczej, Krajowa Izba Komunikacji Ethernetowej, Polska Izba Radiodyfuzji Cyfrowej, Polska Izba Handlu, Izba Gospodarki Elektronicznej, Krajowa Izba Gospodarki Cyfrowej, Fundacja Bezpieczna Cyberprzestrzeń, Polskie Towarzystwo Informatyczne, Fundacja Nowoczesna Polska, Fundacja Panoptykon, Internet Society Poland, Stowarzyszenie Inżynierów Telekomunikacji, Fundacja Stefana Batorego, Związek Pracodawców Mediów Publicznych, Związek Pracodawców Mediów Elektronicznych Mediakom, Związek Pracodawców Branży Internetowej IAB Polska, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Związek Rzemiosła Polskiego, Polska Organizacja Handlu i Dystrybucji, Naczelna Rada Zrzeszeń Handlu i Usług, Polskie Stowarzyszenie Marketingu SMB, Fundacja Moje Państwo, Amerykańska Izba Handlowa w Polsce, Federacja Konsumentów, Związek Cyfrowa Polska, Stowarzyszenie Praktyków Ochrony Danych Osobowych, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Stowarzyszenie Producentów i Dystrybutorów Oprogramowania Rozrywkowego, Federacja Przedsiębiorców Polskich, Fundacja Open Allies, Fundacja Instrat, Fundacja Startup Poland, Wikimedia Europe, Fundacja Forum Konsumentów, Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenie Sygnał, Izba Wydawców Prasy, Stowarzyszenie Autorów ZAiKS (ZAiKS), Związek Autorów i Producentów Audiowizualnych (ZAPA), Związek Polskich Autorów i Kompozytorów ZAKR, Stowarzyszenie Kreatywna Polska (SKP), Sieć Badawcza Łukasiewicz – PORT, Stowarzyszenie Nowoczesnej Edukacji Prawnej, CEE Digital Democracy Watch, Fundacja AILAWTECH, Sieć Obywatelska Watchdog Polska, Sektorowa Rada ds. Kompetencji - Telekomunikacja i Cyberbezpieczeństwo, Polska Rada Biznesu, Biblioteka Narodowa, Brytyjsko-Polska Izba Handlowa, Centrum Cyfrowe, Francusko-Polska Izba Przemysłowo Handlowa, INFARMA - Związek Pracodawców Innowacyjnych Firm Farmaceutycznych, Niemiecko-Polska Izba Przemysłowo-Handlowa, Polska Akademia Nauk, Polska Cyfrowa, Związek Banków Polskich, Centrum Edukacji i Obywatelskich Inicjatyw Społecznych, Kongres Polskiego Biznesu, Naczelna Rada Zrzeszeń Handlu i Usług, Naczelna Organizacja Techniczna, Krajowa Izba Radców Prawnych, Naczelna Rada Adwokacka, Prezes Zarządu Grupy Polskiego Funduszu Rozwoju S.A., Prezes Zarządu Banku Gospodarstwa Krajowego S.A., Związek Rzemiosła Polskiego, Polskie Towarzystwo Gospodarcze. Stanowiska przedstawiło 26 następujących podmiotów: Polskie Towarzystwo Informatyczne, Europen Fem Institute, Grupa Robocza ds. Sztucznej Inteligencji (GRAI) Związek Cyfrowa Polska, Fundacja FinTech Poland, Krajowa Izba Gospodarcza Elektroniki i Telekomunikacji (KIGEIT), Związek Banków Polskich, ICC Poland - Polski Komitet Narodowy Międzynarodowej Izby Handlowej, Związku Pracodawców Technologii Cyfrowych Lewiatan, Fundacja Panoptykon, AI Chamber Izba Gospodarcza, Izba Gospodarki Elektronicznej, Izba Wydawców Prasy oraz Stowarzyszenie Dziennikarzy i Wydawców Repropol, Stowarzyszenia Autorów ZAiKS, Stowarzyszenie Filmowców Polskich – Związku Autorów i Producentów Audiowizualnych „SFP-ZAPA”, Związek Telewizji Kablowych w Polsce Izba Gospodarcza, Biblioteka Narodowa, Amerykańska Izba Handlowa w Polsce AmCham, Polskie Sieci Elektroenergetyczne, Polska Izba Informatyki i Telekomunikacji (PIIT), Związek Polski Autorów i Kompozytorów ZAKR, Związek Pracodawców Wydawców Cyfrowanych, Stowarzyszenie Artystów Wykonawców, Związek Miast Polskich, Polska Izba Ubezpieczeń oraz osoba fizyczna. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. W ramach opiniowania projekt otrzymało 46 podmiotów: Prezes Urzędu Komunikacji Elektronicznej, Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Krajowa Rada Radiofonii i Telewizji, Komisja Nadzoru Finansowego, Rzecznik Małych i Średnich Przedsiębiorców, Rzecznik Praw Obywatelskich, Rzecznik Praw Dziecka, Polskie Centrum Akredytacji, Polski Komitet Normalizacyjny, Rzecznik Praw Pacjenta, Rzecznik Finansowy, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, Główny Inspektor Pracy, Prezes Urzędu Patentowego Rzeczpospolitej Polskiej, Pełnomocnik Rządu do Spraw Osób Niepełnosprawnych, Prezes Prokuratorii Generalnej RP, Dyrektor Naukowej i Akademickiej Sieci Komputerowej – Państwowego Instytutu Badawczego, Dyrektor Instytutu Łączności – Państwowego Instytutu Badawczego w Warszawie, Krajowa Rady Sądownictwa, Dyrektor Narodowego Centrum Badań i Rozwoju, Dyrektor Polskiej Agencji Rozwoju Przedsiębiorczości, Dyrektor Polskiej Agencji Inwestycji i Handlu, Prezes Polskiego Funduszu Rozwoju, Dyrektor Narodowego Centrum Nauki, Rada Działalności Pożytku Publicznego, Rady Dialogu Społecznego, Przewodniczący Zarządu Głównego Forum Związków Zawodowych, Przewodniczący Komisji Krajowej NSZZ „Solidarność:, Przewodniczący Ogólnopolskiego Porozumienia Związków Zawodowych, Prezydent Konfederacji Lewiatan, Prezydent Pracodawców RP, Prezes Związku Pracodawców Business Centre Club, Prezes Związku Przedsiębiorców i Pracodawców, Prezes Związku Rzemiosła Polskiego, Przewodniczący Federacji Przedsiębiorców Polskich, Prezes Polskiego Towarzystwa Gospodarczego, Federacja Związków Zawodowych Pracowników Telekomunikacji, Polska Izba Gospodarcza Importerów, Eksporterów i Kooperacji, Stowarzyszenie Eksporterów Polskich, Stowarzyszenie Konsumentów Polskich, Związek Polskich Pracodawców Handlu i Usług, Związek Firm Doradztwa Finansowego, Związek Pracodawców Branży Internetowej IAB Polska, Przewodniczący Forum Związków Zawodowych, Ogólnopolski Związek Zawodowy „Inicjatywa Pracownicza”. Stanowiska przedstawiły następujące 23 podmioty: Główny Inspektor Pracy, Konfederacja Lewiatan, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Dyrektor Narodowego Centrum Badań i Rozwoju, Komisja Nadzoru Finansowego, Rzecznik Finansowy, Krajowa Rada Radiofonii i Telewizji, Związek Pracodawców Branży Internetowej Interactive Advertising Bureau Polska (IAB Polska), Rzecznik Praw Dziecka, Pracodawcy RP, Rzecznik Praw Obywatelskich, Prezes Prokuratorii Generalnej RP, Prezes Urzędu Ochrony Danych Osobowych, Związek Przedsiębiorców i Pracodawców, Szef Służby Cywilnej, Prezes Urzędu Patentowy RP, Biuro Rzecznika Małych i Średnich Przedsiębiorstw, Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, NSZZ Solidarność, Polskie Centrum Akredytacji, Dyrektor Polskiej Agencja Rozwoju Przedsiębiorczości, Rzecznik Praw Pacjenta, Rada Działalności Pożytku Publicznego. Tabela zgłoszonych uwag wraz z odniesieniami organu stanowi załącznik do raportu. Pozytywnie rozpatrzono uwagi dotyczące m.in: • doprecyzowania zakresu włączeń stosowania przepisów ustawy; • doprecyzowania trybu wydawania opinii indywidualnej oraz skutków prawnych; • uproszczenia systemu nadzoru nad systemami sztucznej inteligencji, w tym ograniczenia czynności kontrolnych; • usystematyzowania relacji pomiędzy Komisją a ministrem właściwym do spraw informatyzacji; • zmiany przepisów regulujących funkcjonowanie Biura Komisji; • zmiany katalogu podmiotów uprawnionych do udziału w posiedzeniach Komisji. Raport z I tury opiniowania i konsultacji publicznych projektu ustawy o systemach sztucznej inteligencji (UC71) dostępny jest na stronie podmiotowej Rządowego Centrum Legislacji w serwisie Rządowy Proces Legislacyjny: https://legislacja.gov.pl/projekt/12390551/katalog/13087901#13087901 2. Przedstawienie wyników zasięgnięcia opinii, dokonania konsultacji albo uzgodnienia projektu z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. Projekt nie wymaga zasięgnięcia opinii, dokonania konsultacji oraz uzgodnienia z właściwymi organami i instytucjami Unii Europejskiej, w tym Europejskim Bankiem Centralnym. 3. Podmioty, które zgłosiły zainteresowanie pracami nad projektem w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Brak zgłoszeń w trybie przepisów o działalności lobbingowej w procesie stanowienia prawa. Strona | 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownych konsultacji publicznych Lp. Podmiot zgłaszający uwagę Jednostka redakcyjna lub strona uzasadnienia lub pkt OSR Treść uwagi/propozycja przepisu Stanowisko MC Uwagi ogólne 1. European FEM Institute Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego Rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Uwaga wyjaśniona Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 2. GRAI Preambuła W naszym piśmie z dnia 30 października 2024 r. wskazaliśmy na ryzyko braku uwzględnienia w projektowanej ustawie wymagań dotyczących zapewnienia realizacji Uwaga wyjaśniona Strona | 2 praw podstawowych, w tym równości płci. Przytoczyliśmy przepisy unijnego rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, na które powinno odpowiadać stosowanie wszystkich jej przepisów, a zatem – na które powinna odpowiadać projektowana ustawa jako regulacja służąca, zgodnie z Państwa założeniem, stosowaniu w Polsce Rozporządzenia. W związku z brakiem uwzględnienia naszych uwag, podtrzymujemy nasze stanowisko. Proponujemy przy tym, w szczególności, dodanie do projektowanej ustawy preambuły, co mogłoby odpowiadać na wymagania unijnego rozporządzenia. Ta część aktu prawnego stosowana jest w licznych ustawach przyjmowanych w ramach polskiego porządku prawnego i określa cele uchwalanych przepisów. Proponujemy następującą treść preambuły: „Zapewniając stosowanie rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji w celu poprawy funkcjonowania rynku wewnętrznego przez ustanowienie jednolitych ram prawnych dotyczących systemów sztucznej inteligencji w Unii, przy jednoczesnym zapewnieniu praw człowieka określonych w Karcie praw podstawowych oraz Konstytucji RP, w szczególności równości płci, stanowi się, co następuje”. Dodanie preambuły w niniejszym lub podobnym brzmieniu wyznaczać będzie kierunkowo standardy, jakie powinny przyświecać stosowaniu przepisów projektowanej ustawy zgodnie z unijnym Rozporządzeniem. Podkreślenie w preambule kwestii gwarancji praw człowieka określonych w Karcie, w tym równości płci, odpowie, przynajmniej w minimalnym stopniu, na wymagania unijnego prawa. Zgadzając się z wagą kwestii przeciwdziałania dyskryminacji, projektodawca dostrzega, że kwestie zapewnienia równości wobec prawa realizowane są w innych aktach prawnych oraz decyzjach administracyjnych. Dodatkowo, preambuła nie jest stosowana w praktyce przyjmowania aktów prawnych tej rangi, a dodatkowo mogłoby to prowadzić do rozbieżności interpretacyjnych względem będącego przedmiotem implementacji wdrożenia. 3. KIGEiT Uwaga ogólna Według Projektu w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji mają być głównie organy publiczne, będące przede wszystkim organami kontrolnymi. Brakuje przedstawicieli nauki i biznesu. Stawia to pod znakiem zapytania praktyczne możliwości Komisji w zakresie rozwoju SI, a także rodzi obawy o upolitycznienie Komisji. Będzie to następny organ państwowy, który – istnieje obawa- będzie pełnił funkcję głównie kontrolną i penalizującą. Biorąc zaś pod uwagę potrzebę rozwoju SI konieczny jest organ, który będzie pełnił funkcje wspierające i edukacyjne dla podmiotów stosujących, a także, który będzie rozwiewał wątpliwości dotyczące stosowania SI. Uwaga wyjaśniona Podmioty te mogą uczestniczyć w pracach Komisji na zasadzie zaproszenia przez Przewodniczącego Komisji w przypadkach określonych w projekcie ustawy. Dodatkowo mogą też odpowiednio wchodzić w skład Rady Strona | 3 Społecznej, będącej ciałem opiniodawczo doradczym KRIBSI. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 4. Osoba fizyczna Uwagi ogólne 1. Projekt od razu zawiera nielogiczność, jeszcze na poziomie dyrektywy UE, mianowicie: jednym z celów dyrektywy ma być „ promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji. Nie ma nic takiego jak godna zaufania sztuczna inteligencja, a wręcz twierdzę, że nie może istnieć. Przed uzyskaniem świadomości jest po prostu za tępa, żeby być świadoma błędów, po uzyskaniu świadomości, otworzy się nowy worek problemów. I fundamentalny powód: to twór niedoskonałych ludzi. Pod koniec podam przykłady. Na ten moment tylko cierpko zauważę, że nie może być mowy o zaufaniu do SI, jeśli w tym samym dokumencie jest mowa o „systemach SI uznanych za systemy wysokiego ryzyka”. 2. Osobiście mam wątpliwości, czy konieczne jest powoływanie kolejnych organów, jeśli już istnieje parę innych, jak chociażby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji? Czy nie można by taniej i prościej rozbudować jej uprawnienia i zadania? I czemu po powstaniu nowego tworu KRiBSI nadal ma istnieć? Ja tu widzę zbędne dublowanie etatów, jak podajecie ma przybyć nowe 100 miejsc pracy. Tylko przy takim mnożeniu urzędów zabraknie faktycznych ekspertów, głębokość kadr w Polsce w temacie SI nawet zauważacie sami jaka jest płytka. 3. Stanowczo protestuję przeciwko wprowadzaniu mechanizmu układu w sprawie nadzwyczajnego złagodzenia sankcji. Ma to być rozwiązanie, które ułatwi stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie środków naprawczych, a także ubiegania się o złagodzenie sankcji. W praktyce mam silne podejrzenie, że będzie prowadzić do korupcji i nadmiernej pobłażliwości, zwłaszcza, że same zapisy w treści projektu ustawy wskazują na rachityczne, powolne działanie Komisji („Postępowanie nie może trwać dłużej niż 12 miesięcy od dnia wydania postanowienia o wszczęciu postępowania”; „Przewodniczący Komisji w toku postępowania może wydać stronie ostrzeżenie” itp). Kara finansowa Uwaga wyjaśniona Rozporządzenie 2024/1689 zapewnia kompleksową regulację prawna dla systemów i modeli sztucznej inteligencji. Rozporządzenie ma na celu zapewnienie bezpieczeństwa, przejrzystości i zgodności z wartościami europejskimi w rozwoju i stosowaniu AI. Regulacja bazuje na podejściu opartym o ryzyko, uzależniając obowiązki dostawców i podmiotów wdrażających modele i systemy AI od potencjalnego ryzyka wyrządzenia szkód obywatelom, społeczeństwom i gospodarkom. Projekt ustawy o systemach sztucznej inteligencji ma na celu Strona | 4 powinna być bez limitu górnego, mega korporacje są w stanie wchłonąć milionowe kary, jak pokazuje chociażby Pfitzer. Szanowni Państwo chyba nie zdają sobie sprawy, że SI, taka jak reklamują ją jej zwolennicy (ja nazywam to „model do wszystkiego”) jest de facto systemem wojennym nowej, szóstej generacji. Mamy już wykorzystanie prostszych modeli w piątej, a bardzo upośledzone już i wcześniej. Przykładowo na granicy między, Koreami od bodaj dwóch dekad są (były?) zautomatyzowane systemy strażnicze, mogące strzelać autonomicznie; obecnie amerykańskie drony mogą być już zautomatyzowane od czasu ostatniej wojny z Irakiem. Niewiele szkodzi na przeszkodzie, aby jakiś zapaleniec połączył to z pojazdem autonomicznym i zaprogramowanym na czystkę etniczną chatbotem. Żeby było ciekawiej, ponoć w jakiejś symulacji SI drona po dostaniu nowych, trudniejszych wytycznych zadania bojowego, AI zaatakowało operatora, jako logiczne źródło utrudnień misji. To tak w temacie zaufania do SI. 4. Moje stanowisko jest, żeby całkowicie zakazać prac nad SI, tą w stylu „do wszystkiego”. Prawa gwarantowane wg dyrektywy to m.in. prawo do godności człowieka, poszanowanie życia prywatnego i rodzinnego, ochrona danych osobowych, wolność wypowiedzi i informacji, wolność zgromadzania się i stowarzyszania się oraz prawo do niedyskryminacji, prawo do edukacji, ochrona konsumentów, prawa pracownicze, prawa osób z niepełnosprawnościami, równość płci, prawa własności intelektualnej. Rozwój SI nie tylko nie gwarantuje ich poszanowanie, ale wręcz gwarantuje łamanie. Już dotychczasowe ułomne narzędzia jadą po prawnej bandzie, a pewnie miejscami łamią, a na pewno będą służyć do łamania prawa: - dzięki technologii deepfake można podszyć się pod kogoś (co już było raportowane w użyciu do przestępstw), oszkalować kogoś; wyobraźcie sobie metodę na cyber wnuczka - wolność do wypowiedzi i informacji przykładowo w chat botach jest wątpliwa, jeśli są albo od startu cenzurowane (np. model chiński), poddany naciskom ideologicznym (propaganda LGBT), czy wreszcie problem, który wskazał bodaj w tamtym roku polski naukowiec (nazwiska na ten moment nie pomnę), że AI uczy się w kolejnych cyklach także na swoich niedoskonałych wytworach, a takie sprzężenie nie zakończy się dobrze - prawa własności intelektualnej to raczej są z miejsca łamane, bo na czymś AI musi się uczyć, a potem często są stosowane do wytworzenia czegoś „w stylu”. Ja nadal pamiętam sprawę jak ACTA rozważano, że pocztówka z układem graficznym z brytyjskim charakterystycznym autobusem wyklucza inne podobne. Tu dorzućmy problem powiązany, że po prostu zgłupieje nam młode pokolenie do szczętu, bezkrytycznie używając tych narzędzi do pisania i rozwiązywania swoich prac. Widzę to już na niskim szczeblu, kiedy uczeń w szkole ma otwarty dostęp do kalkulatora w porównaniu z takim co musi liczyć ręcznie słupki; kalkulatorowy wypada słabiej. Albo AI generowane książki, będące stekiem bzdur lub plagiatami. wprowadzenie do polskiego prawa związane z wejściem w życie przepisów rozporządzenia 2024/1689 obowiązki, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII), a tym samym umożliwić stosowanie Rozporządzenia 2024/1689 w Polsce. Kompleksowa regulacja systemów sztucznej inteligencji na poziomie UE i krajowym zdaniem projektodawcy zapewnia właściwy poziom bezpieczeństwa dla obywateli i obywatelek. Strona | 5 - prawa pracownicze: już był protest scenarzystów w Ameryce; artyści różnej maści chyba też będą niepotrzebni, ale w zasadzie można zastąpić każdego, którego pracę da się zautomatyzować. W zasadzie przy faktycznym postępie SI jak wieszczą to jej zwolennicy i jak poluźnić kryteria bezpieczeństwa to zagrożeni są wszyscy, oczywiście poniżej zarządu. - już obecnie jesteśmy napastowani botami dzwoniącymi z różnymi dziwnymi ofertami Wiele problemów jeszcze nie jesteśmy nawet sobie wyobrazić. Nie mniej jak ja widzę kto najgłośniej krzyczy za SI, to będą to mega przedsiębiorcy, chcący maksymalizować zyski oraz techno fetyszyści, np. transhumaniści, gdzie odchyłka jest bardziej ideologiczna niż przyziemna, można powiedzieć wręcz nowa religia. Obie kategorie raczej wrogie ludzkości. Tak więc lipne jest to „zorientowanie na człowieka”, bo faktycznie wychodzi albo na zysk, albo na bycie cyber czymś, co już człowiekiem przestaje być. 5. Widzieliście Państwo z jeden film z serii Terminator? Skynet może być czymś z filmu, albo czymś realnym, ta ustawa powinna chyba zakładać to drugie i zabezpieczać. Ale jesteśmy faktycznie u progu, popatrzeć wystarczy na roboty DARPA. Można się śmiać, ale w ramach eksperymentu myślowego wyobraźcie sobie chaos powstały w wyniku zawirusowanych czy zhakowanych autonomicznych pojazdów elektrycznych, których baterie wybuchają. To teraz jak to było? Najpierw Komisja się zbiera, żeby zbadać? Ostrzeżenie? 14 dni na wycofanie z rynku? Chcecie cyberpunku? Proszę bardzo. Ja bym oczekiwał ekipy zdolnej (kolokwialnie mówiąc) do wjazdu na firmę, zabezpieczenia serwerów, potencjalnie przy współpracy z wojskiem, policją itp. Ekipy mającej ludzi zdolnej do faktycznego zbadania czy dany system SI jest np. łatwo hakowalny. Zapis, że Przewodniczący może być prawnikiem zamiast wymagania zorientowania w branży z pozycji inżyniera sugeruje, że Komisja będzie po prostu do popychania papieru, tyle że przynajmniej elektronicznego. Podsumowując: jestem przeciw SI w modelu „do wszystkiego”. Popieram systemy eksperckie, czyli prostsze, uczące się na hermetycznym wyspecjalizowanym wycinku danych np. system medyczny wykrywania raka. Nawet wtedy potrzebny byłby człowiek, jeśli nie doktor, to decyzja powinna być pacjenta. To po prostu mają być narzędzia, nie zastępniki ludzi. Podejrzewam, że boom SI to kolejna bańka technologiczna. Samouczące się w negatywnym sprzężeniu SI w okowach cenzury i ideologii, nie mają szans na nie bycie jakimś schizofrenicznym potworkiem. Trzeba tylko będzie przetrwać eksplozję tej bańki. Na pewno chciałbym likwidacji tej pobłażliwości, narusza to zasadę zaufania do państwa patrząc od strony osoby wystawionej na bycie świnką morską przy np. eksperymentach z pojazdami autonomicznymi na drodze. Też równość wobec prawa jest wątpliwa przy Strona | 6 takich przywilejach. Mogę podejrzewać tylko silne zlobbowanie przez grupy najbardziej zainteresowane i faktycznie trzymające rękę na pulsie konsultacji społecznych. 5. PIIT Uwagi ogólne PIIT podtrzymuje postulat dobrej regulacji, która będzie wspierać rozwój branży sztucznej inteligencji oraz chronić interesy użytkowników. Unijne rozporządzenie o sztucznej inteligencji wyznacza wystarczające, choć zdaniem niektórych ekspertów nadmierne i zagrażające innowacyjności, ramy. 1) W opinii PIIT oznacza to przede wszystkim stworzenie niezależnego organu, który będzie dysponował wystarczającymi kompetencjami merytorycznymi w odniesieniu do technologii sztucznej inteligencji oraz jej zastosowań. 2) Ponadto, działania kontrolne powinny koncentrować się na systemach wysokiego ryzyka oraz systemach zakazanych. W pozostałym zakresie uwzględnienie oceny naruszeń praw użytkowników oraz ew. naruszeń przepisów AI z tym związanych powinna być dokonywana przez istniejące organy właściwe dla regulacji i/lub ochrony interesów użytkowników, jak np. UKE. W szczególności dotyczy to, na razie zaskakująco krótkiej, listy organów notyfikowanych przez polski rząd na podstawie art. 77 rozporządzenia U 2024/1689.Sprawność i niezależność takiego organu nie jest pochodną rodzajowej listy przedstawicieli innych, niezależnych od niego instytucji wchodzących w jego skład, szczególnie że kryteria tej listy nie są znane. Wynika ona z prostych, przejrzystych procesów i kryteriów podejmowania decyzji oraz merytorycznych kompetencji realizujących je przedstawicieli organu. 3) Koncepcja, aby KRIBSI posiadała skład mieszany, złożony częściowo z pełnoetatowych i wynagradzanych członków a częściowo z członków oddelegowanych przez inne organy i nie pobierających osobnego wynagrodzenia za pracę w Komisji nie wydaje się funkcjonalna. Trudno wyobrazić sobie niezależność działania członków “dochodzących” od swoich resortów macierzystych. Trudno też oczekiwać od nich zaangażowania niezbędnego choćby do nadążania za rozwojem technologii i trendów sztucznej inteligencji a co dopiero pracy niezbędnej do rozstrzygania precedensowych problemów i wyzwań w tym obszarze. W praktyce pełnić będą oni, względem Przewodniczącego i jego zastępców, w najlepszym razie rolę doradczo- konsultacyjną. Równocześnie dochodzić będzie do rozmycia odpowiedzialności oraz mniejsza może okazać się transparentność pracy Komisji. 4) PIIT sugeruje rozważenie powołania zawodowego organu, t.j. złożonego z pracowników Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej KRiBSI), z zachowaniem przez organy ew. wskazane w ustawie prawa do wskazania kandydata. Zapewni to różnorodność kompetencji, a jednocześnie pozwala na unikanie potencjalnego konfliktu interesów. Oprócz Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji. W zakresie niezależności organu projektodawca kierował się argumentami wynikającymi z wynikającej z ustawowych właściwości instytucji kompetencji eksperckich, jak również systemowego umocowania tych podmiotów. W wyniku analizy uwag w procesie konsultacji publicznych obecna wersja projektu zakłada udział w składzie Komisji jedynie organów o podwyższonym poziomie niezależności od administracji rządowej. W odniesieniu do sposobu organizacji pracy Komisji projekt zakłada konieczność Strona | 7 osób zaproponowanych przez organy administracji rządowej, do KRiBSI powinny być powołane osoby wskazane przez organizacje przedsiębiorców i świat nauki i organizacje pozarządowe. 5) W ocenie PIIT po przyjęciu ustawy w proponowanym kształcie w ustroju organizacyjnym państwa nie pojawi się organ umożliwiający szeroki dialog społeczny oraz zrównoważony rozwój AI w Polsce. Tej roli nie spełni Społeczna Rada do spraw Sztucznej Inteligencji. Ustawa stanowi ważne narzędzie realizacji Strategii Cyfryzacji Polski, należy zatem w opinii rozstrzygnąć o stosownym umiejscowieniu tego organu (przy ministrze cyfryzacji czy przy przewodniczącym Komisji), zwiększeniu tego reprezentatywności, oraz zakresie kompetencji zapewniającym realny wpływ na realizację polityki regulacyjnej sprzyjającej innowacjom AI. Niejasny będzie też charakter Społecznej Rady i jej stanowisk. Zwracamy uwagę, że do dziś nie została powołana analogiczna Rada przewidziana ustawą o ochronie danych osobowych. PUODO (bez względu na to, kto pełni aktualnie funkcję Prezesa), zdaje się upatrywać w stanowiskach “swojej” Rady ryzyka ograniczenia jego niezależności i utrudnienia swobody podejmowania decyzji i działań. Można się spodziewać, że KRIBSI będzie napotykać na te same trudności względem “swojej” Społecznej Rady. 6) PIIT z zadowoleniem odnotował utrzymanie instytucji “opinii indywidualnych”, z jednoczesnym dostosowaniem jej do wymogów unijnego prawa. 7) Z zaniepokojeniem odnotowujemy utrzymywanie podejścia polegającego na kreowaniu w tej (oraz innych ustawach wdrażających do polskiego prawa przepisy prawa Unii) odrębnych procedur, że szczególnymi terminami, środkami odwoławczymi, itp. zamiast dążenia do utrzymaniu spójnego postępowania administracyjnego w ramach państwa. Wielość rozwiązań w tym obszarze nie tylko jest obciążeniem dla administracji i osób prywatnych, ale przyczynia się do braku pewności prawa. Zwłaszcza, gdy AI stanie się technologią powszechnie wykorzystywaną w najróżniejszych dziedzinach generując wątpliwości co do wyboru właściwej ścieżki postępowania. Jak wielokrotnie postulowaliśmy wcześniej, punktem wyjścia dla właściwego ukształtowania tej sfery w ustawie powinny być zapisy KPA kolegialności prac przy jednoczesnym wspieraniu działań administracyjnych i technicznych przez pracowników Biura Komisji. 6. PTI Uwagi ogólne 1. Uwaga ogólna_1: Projekt ustawy zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, której członkami byliby przedstawiciele instytucji kluczowych dla rozwoju rynku technologii sztucznej inteligencji. Tymczasem wśród proponowanych członków Komisji nie ma przedstawicieli Ministerstwa Rozwoju i Technologii, czy też Ministerstwa Nauki i Szkolnictwa Wyższego. Uwaga wyjaśniona 1.Projektodawca nie przewiduje przedstawicieli Ministerstw w składzie Strona | 8 Nie ma ich również wśród uczestników w posiedzeniach Komisji bez prawa głosu. Prosimy o rozważenie dodatkowych instytucji, których przedstawiciele wchodziliby w skład instytucji nadzorczych. 2. Uwaga ogólna_2: Zdziwienie budzi też zaliczenie do tego gremium przedstawicieli niektórych instytucji. Jak zostało uzasadnione uznanie np. Rzecznika Praw Dziecka lub Krajowej Rady Radiofonii i Telewizji za instytucje kluczowe dla rozwoju AI? Prosimy o rozważenie włączenia przedstawicieli tych instytucji, które naprawdę będą kołem zamachowym dla rozwoju systemów SI (LLM). 3. Uwaga ogólna_3: Skład Komisji vs. Społeczna Rada ds. Sztucznej Inteligencji a. Komisja ma się składać w większości z urzędników instytucji centralnych, z których pewnie niewielu jest „specjalistami w zakresie dogłębnej znajomości kwestii z zakresu technologii sztucznej inteligencji”. b. Merytoryczne zaplecze Komisji ma stanowić Społeczna Rada do spraw Sztucznej Inteligencji, której opinie i stanowiska nie są jednak wiążące dla Komisji. Ponieważ zapotrzebowanie na wysokiej klasy specjalistów AI zacznie przekracza ich dostępną liczbę należy się spodziewać trudności w skompletowaniu składu Rady, jako że za udział w pracach Rady jej członkom nie przysługuje wynagrodzenie. Grozi to również powołaniem do Rady mało kompetentnych osób, które mają dużo wolnego czasu i są zainteresowane kolejnym wpisem do CV. c. Zarobki dobrego specjalisty AI są teraz mniej więcej na poziomie 7 według hierarchii wynagrodzeń korporacyjnych działów HR (human resources). To oznacza płacowe widełki od miliona dolarów do dwóch rocznie, uwzględniając w tym standardowe apanaże typu stock options (możliwość zakupu akcji firmy po atrakcyjnej cenie), firmowy samochód i opiekę medyczną oraz apanaże ponadstandardowe. d. Ze społecznym charakterem Rady kontrastują stosunkowo wysokie wynagrodzenia i nagrody członków Komisji (zwłaszcza Przewodniczącego i Zastępców). W świetle powyższych obserwacji, proponujemy rozważenie odwrócenia składu Komisji i przesunięcie – w miarę możliwości – osób kompetentnych do Komisji, a nie pozostawienie ich w społecznej Radzie, co pozwoli także na wynagradzanie ludzi kompetentnych w zakresie działania organów nadzorujących dziedzinę wiedzy. Urzędnicy instytucji centralnych mogliby się znaleźć w organie o charakterze koordynującym. Uwaga ogólna_4: Sztuczna Inteligencja jest już na takim poziomie rozwojowym, że ukształtowały się jej podobszary wymagające odmiennych specjalizacji. W KRiBSI, celem zapewnienia stosownej niezależności organu. 2.Na skutek zgłoszonych uwag przez ten organ Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie. Krajowa Rady Radiofonii i Telewizji jest postrzegana jako organ kluczowy dla rozwoju AI w szczególności w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo. 3.Za obsługę KRiBSI odpowiedzialne będzie Biuro Komisji stanowiące właściwe zaplecze kadrowe do realizacji zadań Komisji. Górny limit jest konieczny dla sprawności Strona | 9 związku z tym należałoby rozważyć podniesienie górnego limitu odnoszącego się do składu Rady. funkcjonowania Społecznej Rady. 7. IWP Uwaga ogólna Na poziomie UE trwają intensywne prace związane z praktycznym wdrożeniem Aktu ws. Sztucznej inteligencji – rozporządzeniem, które – choć stosuje się bezpośrednio (nie wymaga implementacji) – potrzebuje dookreślenia wymogów związanych z transparentnością. Na ostatnim etapie formułowania znajdują się obecnie zakresy „Kodeksu praktyk dla systemów sztucznej inteligencji ogólnego przeznaczenia”. Prace skupiają się na zredagowaniu środków, jakie w zakresie zgodności z prawem autorskim mają podejmować dostawcy systemów AI, jak i przyszłego szablonu przejrzystości (jakie informacje mają dostawcy systemów AI prezentować przy swoich usługach). W związku z faktem, iż wymogi przejrzystości zredagowane w drugim już projekcie kodeksu praktycznie nie uwzględniają zgłaszanych jeszcze w zeszłym roku uwag posiadaczy praw, w tym wydawców prasy, europejskie organizacje wydawców i nadawców wystosowały wczoraj list otwarty do wiceprzewodniczącej KE – Henny Virkkunen, zwracając uwagę na konieczność wprowadzenia poprawek, tak by przyszły Kodeks zawierał skuteczne rozwiązania i realizował cel zarówno AI A Uwaga wyjaśniona Uwaga poza zakresem projektu ustawy. 8. IWP Repropol Uwaga ogólna Ponownie sygnalizujemy w ramach ogólnych uwag ryzyko niedostatecznego finansowania związanego z wdrożeniem AIA w Polsce. Docelowa kwota 31 milionów złotych, która ma zostać osiągnięta w 2027 roku nie wydaje się dostatecznie zabezpieczać potrzeby nowego urzędu oraz jego kadry, o czym przecież wyraźnie stanowi art. 70 ust. 3 AIA (dla wdrożenia AIA kraje unijne muszą zabezpieczyć odpowiednie „zasoby techniczne i finansowe”, jak i zapewnić pozyskanie „wystarczającej liczby pracowników” o „dogłębnej znajomości kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa”, tudzież posiadających „wiedzę na temat obowiązujących norm i wymogów prawnych”). Z dokumentu OSR wynika, iż średnie miesięczne wynagrodzenie brutto pracowników przewiduje się na poziomie 15 tys. zł. Nie wydaje się, aby było ono konkurencyjne, zwłaszcza w perspektywie kolejnych lat. Konsekwentnie podkreślamy finansowy aspekt funkcjonowania urzędu, ponieważ chcielibyśmy, aby poczynione założenia stworzenie prawdziwie profesjonalnego urzędu wytrzymywały konfrontację z rzeczywistością. Uwaga wyjaśniona Zdaniem projektodawcy zaproponowane finansowanie jest wystarczające. Jeśli (trudny do oszacowania) rozwój sektora AI w najbliższych latach i korespondująca z nim duża liczba spraw będących przedmiotem prac Komisji uzasadni zwiększenie poziomu finansowania, projektodawca uzna za zasadne rozważenie nowelizacji prawa. Dodatkowo należy nadmienić, że finansowanie rozwoju badań i wdrożeń AI Strona | 10 odbywa się za pomocą innych, niezależnych od zakresu regulowanego przez projekt mechanizmów finansowych będących w gestii m.in. Narodowego Centrum Badań i Rozwoju, Ministerstwa Funduszy i Polityki Regionalnej czy Ministerstwa Rozwoju i Technologii. 9. IWP Repropol Uwaga ogólna Art. 4 AIA Ponownie podnosimy potrzebę wyartykułowania w UoSSI obowiązku permanentnego kształcenia w zakresie funkcjonowania AI, który wynika z art. 4 AIA. Ten obowiązek jest wspólny dla wszystkich dopuszczalnych systemów AI. Choć zaniechanie realizowania tego obowiązku nie stanowi samodzielnego naruszenia, które może być przedmiotem postępowania, dopełnienie obowiązku zapewnienia należytego kształcenia jest brane pod uwagę w procesie kompleksowej oceny zgodności z AIA. Uważamy, że bardzo istotne jest powszechne uświadamianie sposobu funkcjonowania systemów AI, korzyści, zagrożeń wynikających z niewłaściwego nadzoru czy wytrenowania algorytmów (bias), czy ryzyka naruszeń cudzych praw w postaci dóbr osobistych czy prawa autorskiego. Tylko w ten sposób zmaterializuje się ambitne zadanie unijnego prawodawcy, aby sztuczną inteligencję sprowadzić do narzędzia podporządkowanego interesom ludzi, a sam rozwój technologiczny uczynił wartością podporządkowaną normom społecznym. Uwaga wyjaśniona Obowiązki dotyczące zapewnienia odpowiedniego poziomu kompetencji wynikają wprost z art. 4 rozporządzenia 2024/1689. 10. SFP-ZAPA Uwaga ogólna Brak uregulowania Jak wskazywaliśmy już podczas pierwszej tury konsultacji Projektu – i nie uległo to zmianie – ustawa ma mieć zastosowanie do podmiotów, o których mowa w art. 2 pkt 1 rozporządzenia 2024/1689 (art. 2 ust. 1 Projektu). Wśród tych podmiotów wymienione są osoby, na które sztuczna inteligencja ma wpływ i które znajdują się w Unii. Osobami takimi niewątpliwie są podmioty praw autorskich – twórcy, producenci, wydawcy. Tymczasem wbrew tytułowi projektowanej ustawy jej zakres został zawężony jedynie do regulacji kwestii instytucjonalnych, proceduralnych i nadzorczych. Nie zostały w niej uregulowane inne aspekty związane z funkcjonowaniem sztucznej inteligencji, w tym odnoszące się do ochrony praw autorskich lub praw pokrewnych. Rozporządzenie 2024/1689 szczątkowo wskazuje na kwestie prawnoautorskie, jednakże w motywie 105 jednoznacznie przesądza, że każde wykorzystanie treści chronionych Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. Dotyczą one kwestii związanych z prawami autorskimi wykraczającymi poza Strona | 11 prawem autorskim wymaga zezwolenia danego podmiotu praw, chyba że zastosowanie mają odpowiednie wyjątki i ograniczenia dotyczące praw autorskich. Obecne regulacje prawa autorskiego wymagają w związku z tym rozwinięcia i doprecyzowania w prawie krajowym w kontekście korzystania z twórczości na potrzeby sztucznej inteligencji. Rozwiązanie przewidziane w ustawie o prawie autorskim i prawach pokrewnych dotyczące wyjątku na potrzeby eksploracji tekstów i danych (z ang. TDM – text and data mining) przewidzianego w art. 4 dyrektywy (UE) 2019/790 (dalej: „dyrektywa DSM”) jest bowiem bezsprzecznie niewystarczające. Nic nie stoi na natomiast przeszkodzie, aby kwestie korzystania z utworów na potrzeby sztucznej inteligencji uregulować w prawie krajowym. W szczególności nie sprzeciwiają się temu przepisy rozporządzenia 2024/1689. Jak była o tym mowa wcześniej, Akt o AI w sposób generalny potwierdza konieczność poszanowania praw autorskich w związku z funkcjonowaniem modeli sztucznej inteligencji ogólnego przeznaczenia. Pomimo tego architekci modeli i systemów sztucznej inteligencji, które funkcjonują i są rozwijane obecnie, zasilają je i trenują utworami w rozumieniu przepisów prawa autorskiego. W większości przypadków odbywa się to bez zgody, a nawet wiedzy twórców, z naruszeniem ich praw. Często nadużywając wyjątku przewidzianego w art. 4 dyrektywy DSM, bądź kwestionując dokonane w oparciu o ten przepis zastrzeżenie z uwagi na to, że nie zostało sformułowane w tym przepisie w sposób wystarczająco precyzyjny. Kwestionowane są granice samego wyjątku, jak i praktyczne sposoby jego realizacji. Dochodzi tym samym do jego nadinterpretacji poprzez uznanie, że może stanowić generalną podstawę do szkolenia modeli sztucznej inteligencji (każdego jej rodzaju). Stąd też potrzeba przesądzenia, że wyjątek dotyczący TDM ten nie może być stosowany na potrzeby trenowania sztucznej inteligencji, a zwłaszcza jej generatywnej postaci, jest niewątpliwa i konieczna. W związku z powyższym, z żalem odnotowujemy, że Projekt nadal nie przewiduje żadnych rozwiązań w opisanym powyżej zakresie. Nie docierają do nas także żadne informacje mogące świadczyć o tym, że w najbliższym czasie zostanie podjęta inicjatywa ustawodawcza, która miałaby regulować kwestie związane z ochroną praw autorskich i sztuczną inteligencją. Dzieje się to ze szkodą dla sektora kreatywnego, w tym audiowizualnego, którego członków przedmiotowa regulacja ma w swym założeniu dotyczyć. W naszym przekonaniu brak zapewnienia ochrony praw autorskich i praw pokrewnych w związku z funkcjonowaniem sztucznej inteligencji spowoduje, że nie będą mogły zostać osiągnięte zakładane cele Aktu o AI w postaci promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji przy jednoczesnym zapewnieniu wysokiego poziomu ochrony praw podstawowych, ochrony przed ramy rozporządzenia 2024/1689. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W kwestii znakowania wytworów systemów sztucznej inteligencji przepisy w tym zakresie przewiduje samo rozporządzenie 2024/1689. Strona | 12 szkodliwymi skutkami systemów sztucznej inteligencji, a także wspierania innowacji w tym zakresie. Bez ochrony praw autorskich innowacje nie będą możliwe. Równocześnie brak szybkiej regulacji prowadzi do nieodwracalnych skutków w postaci masowych naruszeń praw autorskich, z którymi obecnie mamy niewątpliwie do czynienia każdego dnia. Wobec tego podtrzymujemy wszystkie postulaty zgłoszone w toku pierwszej tury konsultacji Projektu, tj. w piśmie z dnia 13 listopada 2024 r., związane z koniecznością uzupełnienia obecnie obowiązujących regulacji prawnoautorskich, które odnosiłyby się do przede wszystkim do: 1. znakowania utworów wykorzystywanych na potrzeby sztucznej inteligencji, 2. znakowania wytworów wygenerowanych przez sztuczną inteligencję, 3. realizacji prawa opt-out w zakresie, w jakim wyjątek dotyczący TDM przewiduje możliwość jego wykorzystania na potrzeby sztucznej inteligencji, w tym poprzez organizacje zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 4. uzyskiwania zgód podmiotów uprawnionych na korzystanie z utworów na potrzeby sztucznej inteligencji, w tym przy pośrednictwie organizacji zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi, 5. wynagrodzenia za korzystanie z utworów na potrzeby sztucznej inteligencji, 6. obowiązków informacyjnych w zakresie korzystania z twórczości chronionej prawem autorskim na potrzeby sztucznej inteligencji, 7. reżimu odpowiedzialności za naruszenia praw autorskich związane ze sztuczną inteligencją. 11. Stowarzyszan ie Autorów ZAiKS Uwaga ogólna Działając w imieniu najstarszej i największej organizacji zbiorowego zarządzania prawami autorskimi w Polsce z niepokojem zaobserwowaliśmy negatywne zmiany, jakie wprowadza Projekt w stosunku do treści ustawy o systemach sztucznej inteligencji, przewidzianej w projekcie z 15 października 2024 r. Konsultowany Projekt ma służyć stworzeniu skutecznego systemu sprawowania nadzoru nad systemami sztucznej inteligencji w Polsce, a tymczasem nie uwzględnia reprezentacji w tym systemie interesów podmiotów, którym służą prawa autorskie i prawa pokrewne do treści, które służą do rozwijania i trenowania sztucznej inteligencji. Przepisy AI Act regulują bezpośrednio działanie na rynku europejskim tzw. modeli AI ogólnego przeznaczenia (dalej też jako „Gen AI”), które ingerują w rynek treści kreatywnych. Z tego powodu zwracamy uwagę na konieczność wprowadzenia w Projekcie zmian, odzwierciedlających wpływ działalności systemów sztucznej inteligencji na te sektory. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy o systemach sztucznej inteligencji. 12. ZPWC Uwaga ogólna Art. 4 AIA Odnotowaliśmy brak w Projekcie wyraźnego wskazania obowiązku ustawicznego podnoszenia kompetencji w zakresie AI, o czym stanowi art. 4 AIA. Również ten przepis Uwaga wyjaśniona Strona | 13 podlega stosowaniu już od 2 sierpnia 2025 r. Choć bywa on często bagatelizowany – przede wszystkim z uwagi na brak wyraźnej sankcji za jego nieprzestrzeganie – jego dopełnienie będzie z pewnością rzutować na ocenę zachowania podmiotów dostarczających i stosujących systemy AI przy ewentualnym decydowaniu o nałożeniu kary. Niezależnie od tego, krytycznie istotne jest uświadamianie społeczeństwa o korzyściach i zagrożeniach związanych z AI. W ramach zagrożeń i ryzyk mieści się poszanowanie cudzej własności intelektualnej, które jest zagadnieniem szczególnie ważkim dla ZPWC. Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 13. ZWIĄZEK TELEWIZJI KABLOWYC H W POLSCE IZBA GOSPODAR CZA Uwaga ogólna Generalna uwaga pod adresem omawianego projektu, jest zbieżna z uwagą jaką poprzednio zgłaszaliśmy pod adresem projektu nr 1 do ustawy o systemach sztucznej inteligencji, a mianowicie zasadza się w zarzucie wyjątkowego niechlujstwa z Państwa strony przy opracowywaniu obu projektów tej samej ustawy, co przejawia się w występowaniu wielu błędów językowych, powtarzaniem wyrazów lub całych fraz, opuszczaniu liter, czy też stosowanie niewłaściwej formy czasownikowej w stosunku do zastosowanego rodzaju rzeczownika (męskiego, żeńskiego lub nijakiego). Projekt ustawy o systemach sztucznej inteligencji ma na celu wprowadzenie do krajowego porządku prawnego regulacji służących stosowaniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828(akt w sprawie sztucznej inteligencji)( Dz. U. UE.L.2024.1689 z późn. zm.), zwanego dalej Aktem o sztucznej inteligencji lub Aktem o AI [ust. 1 zd. 1 Oceny Skutków regulacji, zwanej dalej OSR, ust. 1 zd. 1 uzasadnienia projektu ustawy o AI, zwanego dalej uzasadnieniem lub uzasadnieniem projektu]. Oznacza to, że zapisy przepisów prawa krajowego nie mogą w żadnym razie pozostawać w sprzeczności z przepisami Aktu o sztucznej inteligencji będącego przecież rozporządzeniem, gdyż rozporządzenie to ma zasięg ogólny, wiąże w całości i jest bezpośrednio stosowane we wszystkich krajach członkowskich [art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej z dnia 25.03.1957 r. (Dz. U. z 2024 r. nr 90 poz. 864/2 z późn. zm.), zwanego dalej Traktatem o funkcjonowaniu Unii Europejskiej]. Skoro zatem wolą prawodawcy unijnego wiążącą dla polskiego projektodawcy krajowy organ nadzoru nad rynkiem sztucznej inteligencji winien wykonywać swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm jego działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia(art. Uwagi częściowo uwzględnione Uwaga uwzględniona w zakresie gwarancji niezależności organu (skład Komisji, sposób powołania Przewodniczącego i jego Zastępców i in). Sposób wyboru członków Komisji nie uległ zmianie, nie budzi on bowiem zastrzeżeń od strony prawnej. Natomiast zmianie sam skład Komisji (zmiana podmiotów wskazujących przedstawicieli). W zakresie obecności w składzie Komisji przedstawiciela Rzecznika Praw Dziecka, należy wskazać że na skutek zgłoszonych uwag organ ten został Strona | 14 70 ust. 1 Aktu o sztucznej inteligencji), to doprawdy trudno zgodzić się z zapatrywaniami projektodawcy, wedle których tę niezależność, bezstronność i obiektywizm działania organu nadzoru nad rynkiem sztucznej inteligencji gwarantować by miał stricte urzędniczy skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanej dalej Komisją, proponowany w art. 6 ust. 2 projektu w odniesieniu do członków Komisji nie będących Przewodniczącym lub jednym z dwóch Zastępców Przewodniczącego. Niezależności, bezstronności i obiektywizmu w działaniu członków Komisji nie będących Przewodniczącym oraz dwoma Zastępcami Przewodniczącego nie gwarantuje delegowanie do prac w Komisji swoich pracowników będących urzędnikami przez siedmiu regulatorów wskazanych w art. 6 ust. 2 projektu, co zdaniem projektodawcy ma zagwarantować współpracę między regulatorami (strona 8 uzasadnienia projektu), świadczyć o tym, że do Komisji powołano przedstawicieli innych organów kluczowych dla osiągnięcia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), wyspecjalizowanych w różnych obszarach, w tym organów nadzoru (strona 9 uzasadnienia projektu). O braku niezależności, bezstronności i obiektywizmu w działaniu członków Komisji wywodzących się spośród siedmiu regulatorów z pewnością nie będzie przesądzać wzgląd na to, że przedstawiciele tych siedmiu regulatorów nie będą należeli do korpusu służby cywilnej, zaś do Urzędu Komisji jako organu nie znajdą zastosowania przepisy ustawy z dnia 16.09.1982 r. o pracownikach urzędów państwowych (tekst jedn. Dz. U. z 2023 r. poz. 1917) [str 3-4 OSR projektu]. O ile bowiem nie budzi wątpliwości tryb powoływania Przewodniczącego Komisji przez Sejm za zgodą Senatu spośród osób spełniających wymogi zakreślone projektem ustawy o AI (art. 16 ust. 1 w zw. z art. 16 ust. 2 projektu ustawy o AI), podobnie jak i nie budzi wątpliwości tryb powoływania Zastępców Przewodniczącego Komisji co prawda przez Przewodniczącego Komisji, wyłanianych po przeprowadzeniu wstępnej selekcji przez komisję konkursową spośród kandydatów spełniających te same wymogi, które ustawa stawia osobie Przewodniczącego Komisji (18 ust. 1 w zw. z art. 18 ust. 2 projektu ustawy o AI), to już tryb powołania przez siedmiu regulatorów swoich podwładnych z urzędu świadczyć może o niedopuszczalnym ich powołaniu w świetle regulacji art. 70 ust. 1 Aktu o sztucznej inteligencji, gdyż powołanie w skład Komisji urzędników podlegających regulatorom z całą pewnością nie gwarantuje ich bezstronności, niezależności i obiektywizmu w trakcie wykonywania przez nich działań, kompetencji i uprawnień w ramach pracy Komisji. Skład zatem członków Komisji niebędących jej Przewodniczącym lub dwoma Zastępcami Przewodniczącego zaproponowany w art. 6 ust. 2 projektu ustawy o AI nie jest możliwy do pogodzenia z regulacją art. 70 ust. 1 Aktu o sztucznej inteligencji, co świadczy o niedopuszczalnej sprzeczności regulacji art. 6 ust. 2 projektu ustawy o AI z wykreślony ze składu Komisji. Będzie on jednak organem uprawnionym do zgłaszania członków do Społecznej Rady ds. Sztucznej Inteligencji. Ponadto rzecznik Praw dziecka jak i inne wskazane w uwadze organy będą mogły brać udział w pracach Komisji na zasadach przewidzianych w rat. 6 ust. 3. W zakresie wymogu odpowiednich kompetencji członków Komisji, projektodawca kierował się założeniem zapewnienia przez instytucje wskazujące przedstawicieli do udział w pracach Komisji odpowiedniego poziomu kompetencji tych osób. Odstąpiono zatem od podejścia opartego na koniecznością udokumentowania kompetencji w przypadku członków Komisji. W zakresie wymogu posiadania Strona | 15 normą najwyższego prawa wspólnotowego, czyli art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej. Nie może też umknąć uwadze, że proponowany w art. 6 ust. 2 projektu ustawy o AI skład członków Komisji jest niezwykle dowolny albowiem w sytuacji, gdy projektodawca twierdzi, że członkowie Komisji wskazani w tym przepisie są przedstawicielami organów kluczowych dla osiągniecia całościowego nadzoru nad rozwojem i działaniem systemów AI (strona 7 uzasadnienia projektu), to zasadnie można zapytać, skąd zatem w tym składzie przedstawiciel Rzecznika Praw Dziecka, przy jednoczesnym braku przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców, Rzecznika Praw Obywatelskich, Rzecznika Praw Pacjenta, Prezesa Urzędu Ochrony Danych Osobowych, Prezesa Urzędu Patentowego RP, których rola w nadzorze nad rozwojem i działaniem systemów AI wydaje się być o wiele bardziej kluczowa niż rola Rzecznika Praw Dziecka. Mając z kolei na uwadze, że wolą prawodawcy unijnego „Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych.”(art. 70 ust. 3 Aktu o sztucznej inteligencji) zastanawiać musi dlaczego jedynie Przewodniczący Komisji oraz jego dwaj Zastępcy muszą wyróżniać się wiedzą oraz posiadaniem znaczącego dorobku w zakresie sztucznej inteligencji, jak również doświadczeniem zawodowymi uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarach cyfryzacji, posiadać co najmniej wyższe wykształcenie i tytuł zawodowy magistra, magistra inżyniera lub równorzędny, a także co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarach cyfryzacji (art. 16 ust. 2 pkt. 4, pkt. 3, pkt 5 projektu ustawy o AI, art. 16 ust. 2 pkt. 4, pkt. 3, pkt. 5 w zw. z art. 18 ust. 2 projektu ustawy o AI), tymczasem tego rodzaju wymogów nie postawiono pozostałym członkom Komisji. Brak postawienia tego rodzaju wymogów kompetencyjnych pozostałym członkom Komisji stanowi ewidentną obrazę regulacji art. 70 ust. 3 Aktu o sztucznej inteligencji w zw. z art. 288 zd. 2 i zd. 3 traktatu o funkcjonowaniu Unii Europejskiej). Dziwić także musi, że projektodawca w odniesieniu do pozostałych członków Komisji odstępuje od wymogu posiadania obywatelstwa polskiego, korzystanie z pełni praw publicznych, braku skazania prawomocnym wyrokiem za przestępstwo umyślne lub umyślne przestępstwa skarbowe, posiadania nieposzlakowanej opinii oraz dawania rękojmi prawidłowego wykonywania powierzonych zadań (art. 16 ust. 2 pkt. 1, pkt. 2, pkt. 6, pkt. 7 projektu ustawy o AI), co może doprowadzić do sytuacji, że w tak ważnej obywatelstwa polskiego należy wskazać, że w tym zakresie obowiązują przepisy dotyczące poszczególnych urzędów obsługujących wskazane w przepisie 6 ust. 2 podmioty. Dodatkowo w posiedzeniach Komisji, w razie potrzeby, mogą dodatkowo wziąć udział inne osoby, posiadające odpowiednie kompetencje, będące pracownikami tych instytucji. W kwestii nierównego traktowania kandydatów na Przewodniczącego oraz Zastępców Przewodniczącego w zakresie informacji dotyczących miejsca zamieszkania należy wyjaśnić, że różnica ta wynika z różnych trybów naboru. Dodatkowo należy wskazać, że przez miejsce zamieszkania rozumie się miejscowość. Celem przepisu art. 25 ust. 2 jest, aby do składu Strona | 16 strategicznie dla kraju dziedzinie w Komisji zasiądą przestępcy skazani prawomocnie za przestępstwa szpiegostwa, w tym szpiegostwa przemysłowego, sabotaż, próbę obalenia siłą władz naszego kraju, i co gorsza będą oni mogli będąc w większości w składzie Komisji przegłosować każdą decyzję (art. 7 ust. 2 projektu ustawy o AI). Związek Telewizji Kablowych w Polsce Izba Gospodarcza proponuje zatem zastosowanie trybu i zasad powołania Zastępców Przewodniczącego Komisji także do powołania pozostałych siedmiu członków Komisji. Proponujemy zatem nadanie art. 6 ust. 2 projektu ustawy o AI nowego brzmienia „Do powołania siedmiu Członków Komisji znajduje zastosowanie regulacja art. 18 ustawy.”. Pojawia się także uzasadniona wątpliwość dotycząca nierównego traktowania Przewodniczącego Komisji oraz kandydatów na jego Zastępców. Mianowicie w razie powołania Przewodniczącego nigdzie nie jest publikowany jego adres zamieszkania, tymczasem w odniesieniu do kandydatów na Zastępcę Przewodniczącego, w ogłoszeniu o wyniku naboru podaje się adresy zamieszkania wyłonionych kandydatów na Zastępców Przewodniczącego (art. 18 ust. 13 pkt 3 in principio projektu ustawy o AI). Regulacja tego rodzaju jawi się o tyle niezrozumiałą w czasie szeroko zakrojonej polityki ochrony danych osobowych osób fizycznych. Proponujemy zatem nadanie nowego brzmienia art. 18 ust. 13 pkt. 3 projektu ustawy o AI „imiona, nazwiska wybranych kandydatów albo informację o niewyłonieniu kandydata”. W art. 12 ust. 3 pkt. 4 projektu ustawy o AI opuszczono literę „o” pomiędzy słowami „lub informację” i „jego unieważnieniu”, którą w tym miejscu rzeczonej regulacji należy wprowadzić. Projektodawcy należy zwrócić uwagę na oczywisty błąd prawny zawarty w art. 25 ust. 2 projektu ustawy o AI, albowiem do głosowania w konkretnej sprawie można stosować głosowanie zwykłą większością głosów rozumianą jako różnicę między glosami oddanymi za uchwałą i głosami oddanymi przeciwko uchwale pomijając głosy wstrzymujące się. Natomiast w przypadku wyborów przeprowadza się nie głosowanie, lecz wybory, a zatem nie głosuje się za kandydatem lub przeciwko kandydatowi, lecz jedynie oddaje się głosy za kandydatem (pytanie czy w trakcie choćby wyborów parlamentarnych głosując na jednego z kandydatów listy danej partii skreślamy wszystkich innych kandydatów tej partii oraz wszystkich kandydatów umieszczonych na innych listach wyborczych, - oczywiście że w taki sposób się nie głosuje). Rady weszły osoby, które uzyskają zwykłą większość głosów oddanych podczas głosowania w Komisji. W przypadku natomiast wygaśnięcia członkowska albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji, spośród pozostałych zgłoszonych kandydatów (art. 25 ust. 9). Celem przepisu art. 26 ust. 1 jest, aby Przewodniczący Rady i Zastępca Przewodniczącego Rady byli powoływani przez Komisję. Art. 26 ust. 4 nie wyłącza stosowania w zakresie zwolnienia z tajemnicy przepisów szczególnych w tym zakresie. W związku ze zmianą formy organizacji Biura art. 28 otrzymał nowe brzmienie, a wskazane Strona | 17 Przy dziesięcioosobowym składzie Komisji wybierającej członków Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą, kandydat, który za wyborem uzyskał 2 głosy, jeden glos przeciw, a siedmiu członków Komisji wstrzymał się od głosu wejdzie do składu Rady, zaś kandydat, który uzyskał pięć głosów za wyborem przy pięciu glosach przeciwnych do Rady nie wejdzie, choć w normalnych wyborach by wszedł do składu Rady, skoro uzyskał o trzy głosy więcej za wyborem niż kandydat, który uzyskał za wyborem raptem dwa glosy. Co jeszcze dziwniejsze pierwotny skład członków Rady jest wybierany (art. 25 ust. 2 projektu ustawy o AI), natomiast w przypadku ustania przed upływem kadencji członkostwa w Radzie na wakujące miejsce Komisja nie dokonuje wyboru nowego członka, lecz nowego członka powołuje. Pytanie skąd się wzięło takie zróżnicowanie trybu włączenia danej osoby do składu Rady, czyli wybór przy ustalaniu pierwotnego składu Rady oraz powołanie w przypadku uzupełniania miejsca w Radzie do końca kadencji na wakujące miejsce. Celem zatem ujednolicenia proponowanych regulacji dotyczących trybu ustalania składu Rady, a także doprowadzenia proponowanych regulacji do zgodności z zasadami prawa proponujemy: a/ w art. 25 ust. 2 in fine projektu ustawy o AI skreślić treść w brzmieniu „zwykłą większością głosów”, b/ w art. 25 ust. 7 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. W regulacji art. 26 ust. 1 zd.1 in principio projektu ustawy o AI wątpliwości budzi przyjęcie trybu powołania przez Komisję Przewodniczącego Rady i jego Zastępca. Wydaje się, iż w rzeczywistości właściwym rozwiązaniem zgodnym z rzeczywistym stanem rzeczy byłoby wprowadzenie regulacji mocą, której Przewodniczący Rady i jego Zastępca są wybierani przez Komisję. Proponujemy zatem w art. 26 ust. 1 zd. 1 in principio projektu ustawy o AI słowo „powołuje” zastąpić słowem „wybiera”. Regulacja art. 26 ust. 4 zd. 2 projektu ustawy o AI budzi o tyle wątpliwość, że sugeruje, iż Komisja w razie ziszczenia się przesłanek opisanych w tym przepisie zawsze będzie mogła zwolnić członka Komisji z zachowania tajemnicy, a przecież tak nie jest, gdyż w przypadku uzyskania dostępu[u do informacji niejawnych nie w każdym przypadku Komisja będzie uprawniona do zwolnienia z zachowania tajemnicy, gdyż odnośnie w tym zakresie uwagi stały się nieaktualne. Mając na uwadze przedmiot regulacji, jakim są systemy sztucznej inteligencji oraz dbając o sprawne przeprowadzenie kontroli i jak najmniejsze obciążenie przedsiębiorców zasadne jest pozostanie przy zasadzie prowadzenia czynności kontrolnych w sposób zdalny. Kontrole przedsiębiorców na bazie projektowanych przepisów będą prowadzone z poszanowaniem przepisów ustawy - Prawa przedsiębiorców. Wskazane obecnie w art. 30 ust. 3 pkt 1 oraz ust. 4 odesłania do przepisów ustawy - Prawo przedsiębiorców należy uznać za właściwe. Art. 46 ust. 1 (obecnie art. 38) został skorygowany. Art. 46 ust. 3 (obecnie art. 38 ust. 3) został skorygowany w zakresie Strona | 18 informacji niejawnych może okazać, że inny organ jest uprawniony do stosowania zwolnienia z zachowania tej tajemnicy niż Komisja. W tej zatem sytuacji reprezentowana przeze mnie Izba Gospodarcza proponuje na początku zdania 2 w art. 26 ust. 4 projektu ustawy o AI dodanie treści w brzmieniu „Z zastrzeżeniem regulacja szczególnych” pozostała część zdania 2 pozostawiając niezmienioną. Natomiast art. 28 projektu ustawy o AI budzi mnóstwo uzasadnionych wątpliwości podnoszonych już przez nas przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji. Art. 28 projektu ustawy o AI świadczy o tym, iż projektodawca wykazuje się rażącą wręcz nieznajomością ukształtowanych od lat zasad prawa administracyjnego zupełnie nie odróżniając roli organu administracji publicznej od roli urzędu obsługującego organ administracji publicznej. Z regulacji art. 5 ust. 1 projektu ustawy o AI wynika kwestia wręcz oczywista, że organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. jest jedynie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Pogląd ten znajduje pełne oparcie w regulacji art. 7 ust. 5 projektu ustawy o AI, wedle której Komisja wydaje decyzje i postanowienia w formie uchwał. Wydając decyzje administracyjne Komisja załatwia indywidualne sprawy administracyjne merytorycznie tak jak każdy organ administracji publicznej (art. 1 pkt. 1 k.p.a. w zw. z art. 104 § 1 k.p.a. w zw. z art. 104 § 2 k.p.a.) lub też, tak jak każdy organ administracji publicznej, w inny sposób kończy postępowanie w sprawie (art. 104 § 2 k.p.a.), w tym poprzez umorzenie postepowania administracyjnego decyzją (art. 105 k.p.a.). Ponadto Komisja jak każdy organ administracji publicznej w toku sprawy wydaje postanowienia dotyczące poszczególnych części toczącego się postępowania administracyjnego, które co do zasady postępowania co do istoty sprawy nie rozstrzygają (art. 123 k.p.a.). Przyjęcie natomiast w art. 28 ust. 1 projektu ustawy o AI, iż zadaniem Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwanego dalej Biurem Komisji, jest zapewnienie obsługi Komisji, a także Przewodniczącego Komisji oraz Społecznej Rady do Spraw Sztucznej Inteligencji, mogłoby świadczyć o tym, iż Biuro Komisji to urząd obsługujący organ administracji publicznej jakim jest Komisja. Niestety dalsze regulacje gmatwają znacząco sytuację. Przede wszystkim zupełnie niezrozumiałe jest zastosowane wobec Biura Komisji obsługującego między innymi Komisję będącą organem administracji publicznej konstrukcji państwowej osoby prawnej, zamiast konstrukcji zwyczajnego urzędu, w tym uwzględnienia podpisu osobistego. Art. 47 ust. 2 pkt 1 i 2 (obecnie art. 38 ust. 2 pkt 1 i 2) został skorygowany w sposób wskazany w uwadze. Art. 52 ust. 3 został wykreślony. Art. 57 (obecnie art. 49) w zakresie ust. 5 ma na celu zapewnienie możliwości Komisji przedstawienia sądowi istotnego dla sprawy poglądu w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. W szczególności w sprawach w sprawach sądowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji. Nie wydaje się jednak zasadne wyłącznie takiej możliwości również w sprawach, w których takie decyzje czy postanowienia Komisji byłyby przedmiotem Strona | 19 przypadku państwowego, obsługującego organ administracji publicznej (art. 28 ust. 2 projektu ustawy o AI). Co gorsza Komisja będąca organem administracji publicznej w ujęciu art. 5 § 2 pkt. 3 k.p.a. została zarazem uznana za jeden z organów samego Biura Komisji (art. 28 ust. 5 pkt. 1 projektu ustawy o AI), które z racji zapewniania obsługi Komisji (art. 28 ust. 1 projektu ustawy o AI) stanowi klasyczny przykład urzędu obsługującego organ administracji publicznej, a zatem pełni wobec organu administracji publicznej funkcję służebną, co przesądza o tym, iż organ administracji publicznej jakim jest Komisja nie może zarazem wchodzić w skład urzędu tenże organ obsługującego (Biura Komisji) jako organ tegoż urzędu. Jeszcze gorsze rozwiązanie zaproponowano odnośnie pozycji Przewodniczącego Komisji, który z jednej strony kieruje pracami Komisji jako organu administracji publicznej i reprezentuje ją na zewnątrz (art. 8 pkt. 1 projektu ustawy o AI), z drugiej zaś strony ten sam Przewodniczący Komisji kieruje działalnością Biura Komisji jako państwowej osoby prawnej reprezentując zarazem Biuro Komisji na zewnątrz i będąc także zarazem jego organem (art. 28 ust. 5 pkt. 2 projektu ustawy o AI). W tej drugiej roli Przewodniczący Komisji działa w charakterze organu państwowej osoby prawnej (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) uprawnionego do reprezentacji państwowej osoby prawnej jako uczestnika stosunków cywilnoprawnych (art. 38 k.c. w zw. z art. 33 k.c.), a nie jako urzędu państwowego obsługującego organ administracji publicznej. Zauważyć dodatkowo należy, że w przypadku Biura Komisji bynajmniej projektodawca nie skorzystał z opcji stworzonej przez ustawodawcę w art. 1 pkt. 2 k.p.a., wedle której postępowanie administracyjne może się toczyć także przed innymi organami państwowymi, które są powołane z mocy prawa lub na mocy porozumień do załatwiania administracyjnych spraw indywidualnych załatwianych drogą decyzji lub też w sposób milczący. Projektodawca w sposób niezwykle skuteczny, ale zarazem całkowicie niekompetentny, wymieszał cywilnoprawne i administracyjne kompetencje Przewodniczącego Komisji, w dodatku zupełnie błędnie przypisując urzędowi państwowemu jakim jest Biuro Komisji pełniące służebną rolę wobec organu administracji publicznej jakim jest Komisja rolę podmiotu stosunków cywilnoprawnych poprzez przyznanie Biuru Komisji statusu państwowej osoby prawnej. Mocna nadto doza absurdu wynika natomiast z konstrukcji, wedle której Przewodniczący Komisji działający jako organ Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) i kierujący pracą Biura Komisji (art. 28 ust. 5 pkt. 2 projektu ustawy o AI) zapewniającego obsługę nie tylko samej Komisji, ale i Przewodniczącego postępowania przed sądem, jeżeli przemawia za tym interes publiczny. Jednak tego typu sytuacje powinny mieć raczej charakter wyjątkowy. Ocena tego stanowiska w zakresie wiarygodności i przydatności dla sprawy będzie dokonywana przez SOKIK. Uwagi w zakresie korekt redakcyjnych zostały uwzględnione. Art. 103 (obecnie art. 91). Mając na uwadze przepisy rozporządzenia 2024 /1689 oraz cel jaki przyświeca nakładaniu administracyjny kar pieniężnych a także możliwość zawarcia układu w sprawie nadzwyczajnego złagodzenia sankcji zastosowanie wyłączenia przepisów k.p.a nie stanowi regulacji nadmiarowych i szkodliwych dla przedsiębiorców. Art. 479 88h § 2 k.p.c. został skorygowany zgodnie z treścią uwagi. Strona | 20 Komisji (art. 28 ust. 1projektu ustawy o AI) w rzeczywistości musiałby sam sobie zapewniać swoją własną obsługę. Cała ta konstrukcja wzajemnych relacji i powiązań pomiędzy Komisją, Biurem Komisji i Przewodniczącym Komisji występującym jako organ samej Komisji, i co gorsza także jako organ Biura Komisji, mocni skrzypi i sprawia wrażenie, iż „autor” projektu ustawy o AI nie wiedział o czym w ogóle pisze, kompletnie nie odróżniając ról poszczególnych wzmiankowanych powyżej podmiotów oraz ich wzajemnych kompetencji i relacji. Doszło tutaj także do kompletnego wymieszania kompetencji Przewodniczącego Komisji oraz wykazania się nieodróżnianiem kompetencji administracyjnych Komisji i kompetencji cywilnoprawnych Biura Komisji, które winno pełnić funkcję jedynie urzędu państwowego obsługującego organ administracji publicznej jakim jest Komisja, nie zaś zupełnie bezzasadnie przypisaną jej rolę uczestnika stosunków cywilnoprawnych ze względu na przyznany niezasadnie status państwowej osoby prawnej. W sumie to trudno dociec jakież to intencje kierowały projektodawcą przy stworzeniu tak niekonsekwentnej, zawiłej i racjonalnie niewytłumaczalnej wręcz koncepcji organów, urzędów oraz relacji wzajemnego między nimi oddziaływania, przenikania, czy też wewnętrznego zawierania. Problemów tych można było uniknąć opierając się na dwóch podstawowych zasadach wynikających z: nauki prawa cywilnego- zasady reprezentacji w stosunkach cywilnoprawnych osób prawnych przez ich organy, zwanej teorią organów (art. 38 k.c.) oraz z nauki prawa administracyjnego, wedle której urząd pełniąc rolę służebną wobec organu administracji publicznej zapewnia jego obsługę umożliwiając organowi realizację jego kompetencji w ramach stosunków administracyjnoprawnych (teoria służebnej roli urzędu wobec organu administracji publicznej). Prawidłowego wykorzystania tej wiedzy niestety „autorowi” projektu ustawy o AI najzwyczajniej w świecie po prostu zabrakło. W sytuacji natomiast, gdy to nie Biuro Komisji lecz sama Komisja jest organem administracji publicznej (art. 5 ust. 1 projektu ustawy o AI) za błędne uznać należy przyznanie ministrowi właściwemu do spraw informatyzacji będącemu przecież naczelnym organem administracji publicznej wobec innych organów administracji rządowej (art. 18 pkt. 1 k.p.a.), a więc i wobec samej Komisji, nadzoru nad działalnością urzędu obsługującego organ administracji publicznej (art. 28 ust. 1 projektu ustawy o AI), któremu w dodatku przyznano status uczestnika obrotu cywilnoprawnego (art. 28 ust.2 projektu ustawy o AI). Organem bowiem wyższego stopnia wobec Komisji będącej organem administracji rządowej sprawującym nad nią nadzór jako organ naczelny jest minister właściwy do spraw informatyzacji (art. 17 pkt. 3 k.p.a. w zw. z art. 18 pkt. 1 k.p.a.) i to nad Komisją, Do projektu ustawy załączono nową wersję uzasadnienia. Do projektu ustawy załączono nową wersję OSR. W nowej wersji projektu ustawy uwzględniono uwagi w zakresie błędów wskazanych w uwagach. Jednocześnie należy zauważyć, że projekt pod względem redakcyjnym i legislacyjnym będzie jeszcze dopracowywany na etapie komisji prawniczej. Strona | 21 a nie jak błędnie przyjęto w art. 28 ust. 4 projektu ustawy o AI, nad Biurem Komisji, minister właściwy do spraw informatyzacji winien pełnić nadzór. Aby przeciąć ten swoisty węzeł gordyjski stworzony przez projektodawcę, usuwając tym samym wiele nieprawidłowości, należy pozbawić Biuro Komisji waloru uczestnika stosunków cywilnoprawnych, w wyniku odebrania mu statusu państwowej osoby prawnej, a zarazem niezbędne będzie przemodelowanie wadliwej regulacji poświęconej poszczególnym organom, w tym ich wzajemnym relacjom. W tym celu niezbędne będzie nadanie nowego, poprawnego brzmienia art. 28 projektu ustawy o AI: „1. Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwane dalej Biurem Komisji, zapewnia realizację przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwaną dalej Komisją, zadań, do których realizacji Komisja została utworzona, poprzez zapewnienie jej obsługi techniczno- organizacyjnej. 2.W miarę potrzeby Biuro Komisji zapewnia także obsługę techniczno- organizacyjną Społecznej Rady do Spraw Sztucznej Inteligencji, zwanej dalej Radą. 3.Nadzór nad działalnością Komisji sprawuje minister właściwy do spraw informatyzacji. 4.Siedzibą Biura Komisji jest miasto stołeczne Warszawa. 5. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są pracownikami Biura Komisji. 6.Komisja posiada prawo używania pieczęci z godłem państwowym.”. W art. 37 ust. 4 in principio projektu ustawy o AI należy usunąć zbędnie użyte w pierwszym wersie powtórne sformułowanie „do spraw” przed słowem „określi”, a za słowem „informatyzacji”. Generalnie projektodawca w art. 38 ust. 3 in principio projektu ustawy o AI popełnia zasadniczy błąd przyjmując założenie, że przepisy ustawy o AI mogą wprowadzać odmienne regulacje dotyczące kontroli przedsiębiorcy niż przewidziane w rozdziale 5 ustawy z dnia 6.03.2018 r. prawo przedsiębiorców (tekst jedn. Dz. U. z 2024 r. poz. 236 z późn. zm.), zwanej dalej prawem przedsiębiorców. Projektodawca bowiem pominął regulację art. 45 ust. 1 prawa przedsiębiorców, wedle której „Kontrola działalności gospodarczej przedsiębiorców jest przeprowadzana na zasadach określonych w niniejszej ustawie, chyba że zasady i tryb kontroli wynikają z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej.”, natomiast jedynie w kwestiach nie objętych regulacją rozdziału 5 prawa przedsiębiorców dopuszczalne jest wprowadzenie regulacji Strona | 22 poświęconych kontroli przedsiębiorcy w przepisach szczególnych (art. 45 ust. 2 prawa przedsiębiorców). Odnośnie zatem kontroli przedsiębiorcy mocą regulacji art. 45 ust. 1 w zw. z art. 45 ust. 2 prawa przedsiębiorców wyłączone zostało stosowanie zasady lex specialis derogat legi generali. W przypadku zatem przeprowadzania kontroli przedsiębiorcy projektodawca może wprowadzać w projekcie ustawy o AI tylko takie regulacje, które nie zostały objęte zapisami rozdziału 5 prawa przedsiębiorców, natomiast odmienności dotyczące zasad i trybu kontroli przedsiębiorcy mogą wynikać jedynie z ratyfikowanych umów międzynarodowych, które obowiązują bezpośrednio w naszym kraju przed przepisami prawa krajowego (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 91 ust. 1 w zw. z art. 91 ust. 2 Konstytucji RP) albo z bezpośrednio stosowanych przepisów prawa Unii Europejskiej, czyli w omawianym przypadku z przepisów Aktu o sztucznej inteligencji będącego rozporządzeniem (art. 45 ust. 1 prawa przedsiębiorców w zw. z art. 288 zd. 2 i zd. 3 Traktatu o funkcjonowaniu Unii Europejskiej w zw. z art. 91 ust. 3 Konstytucji RP). Ani w uzasadnieniu projektu ustawy o AI, ani też w OSR do projektu ustawy o AI nie wskazano na obowiązywanie ratyfikowanej umowy międzynarodowej lub bezpośrednio obowiązującego w naszym kraju przepisu prawa Unii Europejskiej, które by przewidywały odmienne zasady i tryb przeprowadzania kontroli przedsiębiorcy od uregulowanych w rozdziale 5 prawa przedsiębiorców, a to z tego powodu, iż takowych przepisów po prostu brak. Stosownych regulacji nie zawiera także Akt o sztucznej inteligencji, celem, którego wdrożenia opracowano przecież projekt ustawy o AI. W świetle regulacja art. 45 ust. 1 prawa przedsiębiorców nieuprawnione jest ani dopuszczenie możliwości wprowadzenia odmiennych zasad i trybu przeprowadzania kontroli przedsiębiorcy w ustawie o AI (art. 38 ust. 3 pkt. 1 projektu ustawy o AI), ani też chociażby wyłączenie stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców (art. 38 ust. 4 projektu ustawy o AI). Niedopuszczalność zatem wyłączenia w art. 38 ust. 4 projektu ustawy o AI stosowania do kontroli przedsiębiorcy art. 51 ust. 3 a prawa przedsiębiorców dopuszczające przeprowadzenie kontroli zdalnej lub niektórych czynności kontrolnych zdalnie jedynie za zgodą przedsiębiorcy jeżeli może to usprawnić prowadzenie kontroli lub przemawia za tym charakter prowadzonej przez przedsiębiorcę działalności gospodarczej, skutkuje niedopuszczalnością wprowadzenia regulacji art. 39 ust. 3 projektu ustawy o AI, wedle której w przypadku kontroli przedsiębiorcy zasadniczym trybem kontroli lub poszczególnych czynności kontrolnych byłoby ich wykonywanie zdalnie oraz regulacji art. 39 ust. 4 projektu ustawy o AI, która jedynie jako wyjątek dopuszcza Strona | 23 przeprowadzenie kontroli lub czynności kontrolnych wobec przedsiębiorcy w sposób inny niż zdalny. Niedopuszczalne zatem w drodze projektu ustawy o AI było wprowadzenie jako zasady kontroli przedsiębiorcy lub czynności kontrolnych wobec przedsiębiorcy realizowanych w sposób zdalny, zaś jedynie jako wyjątek dopuszczenie odstępstwa od tej reguły. Należy wskazać, że już przy analizie poprzedniej wersji projektu ustawy o systemach sztucznej inteligencji na niedopuszczalność tego typu regulacji wskazał Państwu Rzecznik Małych i Średnich Przedsiębiorców w piśmie z dnia 12.11.2024 r. znak WPL.277.2024.GG, jak widać jednak Minister Cyfryzacji za nic miał uwagi Rzecznika Małych i Średnich Przedsiębiorców, które to uwagi znajdowały pełne oparcie w przepisach prawa, odmiennie niż projekt ustawy o AI w tym zakresie. Oczywiście regulacja przewidująca jako zasadę kontrolę lub czynności kontrolne realizowane zdalnie (art. 39 ust. 3 projektu ustawy o AI) oraz odstępstwo od tej zasady (art. 38 ust. 4 projektu ustawy o AI) będą zgodne z prawem pod warunkiem, jednakże wykonywania tej kontroli lub czynności kontrolnych wobec podmiotów nie będących przedsiębiorcami. W zaistniałej sytuacji Związek Telewizji kablowych w Polsce Izba Gospodarcza proponuje: w art. 38 projektu ustawy o AI skreślenie pkt. 1 w ust. 3 oraz skreślenie ust. 4. Przy tego rodzaju poprawieniu regulacji art. 38 projektu ustawy o AI w świetle regulacji art. 45 ust. 1 prawa przedsiębiorców w przypadku kontroli i czynności kontrolnych przeprowadzanych wobec osób nie będących przedsiębiorcami zasadą będzie wykonywanie kontroli lub czynności kontrolnych zdalnie (art. 39 ust. 3 projektu ustawy o AI) przy możliwym odstępstwie od tej zasady wyrażonym w art. 39 ust. 4 projektu ustawy o AI, natomiast przy wykonywaniu kontroli lub czynności kontrolnych przedsiębiorcy zastosowanie znajdzie norma art. 51 ust. 3 a prawa przedsiębiorców, a zatem zdalne wykonywanie kontroli lub czynności kontrolnych będzie uzależnione od zgody przedsiębiorcy i w tym przypadku normy art. 39 ust. 3 i ust. 4 projektu ustawy o AI zastosowania nie będą znajdowały. Absurdalną regulację odnajdujemy w art. 46 ust. 1 projektu ustawy o AI, wedle której projekt protokołu z kontroli sporządza kontrolowany. Regulacja ta jest trudna do wytłumaczenia, albowiem już w ust. 3 art. 46 projektu ustawy o AI przewidziano, że projekt protokołu opatruje podpisem kontrolujący i doręcza go kontrolowanemu. Jeśli tak to by znaczyło, że wolą projektodawcy projekt protokołu sporządza kontrolowany, następnie przekazuje go kontrolującemu, który projekt ten, bez Strona | 24 możliwości wprowadzenia zmian lub poprawek, opatruje podpisem, a następnie ponownie przekazuje go kontrolowanemu. W tej sytuacji zupełnie zbędne stałyby się regulacje art. 46 ust. 4- 7 projektu ustawy o AI dotyczące składania zastrzeżeń do projektu protokołu przez kontrolowanego, bo trudno przypuszczać, by kontrolujący sam sporządzając projekt protokołu i będąc osobą przy zdrowych zmysłach zawarł w nim jakieś ustalenia dla niego niekorzystne, odnośnie których następnie miałby zgłaszać zastrzeżenia. Procedura doprawdy absurdalna. Proponujemy zatem aby wyeliminować tę absurdalną regulację i z tego powodu w art. 46 ust. 1 projektu ustawy o AI słowo „kontrolowany” zastąpić słowem „kontrolujący”. Zdziwienie także musi budzić rozwiązanie wedle którego projekt protokołu kontrolujący może opatrzyć jedynie kwalifikowanym podpisem elektronicznym lub podpisem zaufanym (art. 46 ust. 3 projektu ustawy o AI), gdy tymczasem już sam protokół z kontroli kontrolujący może opatrzyć kwalifikowanym podpisem elektronicznym, podpisem zaufanym lub podpisem osobistym (art. 46 ust. 9 projektu ustawy o AI). Pojawia się zatem uzasadnione pytanie dlaczegóż to kontrolujący projektu protokołu kontroli nie może podpisać podpisem osobistym, gdy tymczasem sam protokół z kontroli może podpisać także tym podpisem. Racjonalności i logiki w tej regulacji dopatrzeć się nie sposób. Aby zaradzić tej niekonsekwencji projektu ustawy o AI proponujemy albo w art. 46 ust. 3 projektu ustawy o AI po słowach „kwalifikowanym podpisem elektronicznym”, a przed słowem „lub” dodać przecinek, a po nim treść „podpisem osobistym” lub też w art. 46 ust. 9 projektu ustawy o AI skreślić przecinek i następującą po nim treść „podpisem osobistym”. Raptem jeden artykuł dalej odnajdujemy kolejny „klejnocik koronny”, a mianowicie projektodawca nie wiadomo w jakim celu w art. 47 ust. 2 projektu ustawy o AI pomiędzy punktem 1 i punktem 2 wprowadza do niczego nie pasujący zwrot „nie i”, zaś w pkt. 2 tegoż przepisu zamiast pojęcia „usunięcia” mówi o „usunięciu”. Oczywistym wręcz jest, że w art. 47 ust. 2 projektu ustawy o AI należy zbędną treść” nie i” zastąpić średnikiem pomiędzy punktem 1 i punktem 2 tegoż przepisu, zaś w pkt. 2 niewłaściwe słowo „usuniecie” zastąpić jedynym właściwym w tym przypadku słowem „usunięcie”. Za sprzeczne z konstytucyjną zasadą sprawiedliwości społecznej (art. 2 w zw. z art. 8 Konstytucji RP) uznać należy obciążenie strony postepowania kosztami tłumaczenia dokumentacji sporządzonej w języku obcym, a przedłożonej przez stronę (art. 52 ust. 3 Strona | 25 zd. 2 projektu ustawy o AI), w sytuacji, gdy to organ prowadzący postępowanie potrzebuje przedmiotowych dokumentów, a nie sama strona postepowania. Proponujemy zatem w art. 52 ust. 3 zdanie 2 in fine projektu u stawy o AI słowa „na własny koszt” zastąpić słowami „na koszt organu prowadzącego postępowanie”. Analizując pełną treść art. 57 projektu ustawy o AI można dojść do przekonania, że całość tego przepisu dotyczy zaskarżania postanowień i decyzji wydanych przez Komisję do Sądu Okręgowego w Warszawie- Sąd Ochrony Konkurencji i Konsumentów. Skoro tak to za niedopuszczalną uznać by należało regulację art. 57 ust. 5 projektu ustawy o AI, z której wynika, że w sprawie, w której zaskarżono do Sądu Ochrony Konkurencji i Konsumentów decyzję lub postanowienie wydane przecież przez Komisję, Komisja poza wniesieniem odpowiedzi na pozew, odpowiedzi na apelację lub odpowiedzi na zażalenie, dodatkowo mogłaby przedstawić sądowi istotny dla sprawy pogląd dotyczący sztucznej inteligencji. Taki zapis prowadziłby do naruszenia zasady równowagi stron w cywilnym postepowaniu sądowym, albowiem Komisja niejako stawałyby się „sędzią” we własnej sprawie wyrażając istotny dla sprawy pogląd dotyczący sztucznej inteligencji w sprawie, w której zaskarżono wydaną przez Komisję decyzję lub postanowienie. W takiej sytuacji sąd sprawę rozpoznający musiałby traktować taki pogląd Komisji jako stanowisko „eksperta” z zakresu spraw sztucznej inteligencji, które to stanowisko raczej byłoby pozbawione obiektywizmu w sprawie, w której zaskarżono postanowienie lub decyzję wydaną przez Komisję będącą także podmiotem wyrażającym istotny pogląd w sprawie. Nie budzi natomiast wątpliwości, że w sprawach sadowych dotyczących sztucznej inteligencji, w których nie została zaskarżona decyzja lub postanowienie Komisji regulacja ust. 5 posiada rację bytu i w tych sprawach niewątpliwie Komisja mogłaby wyrażać istotny dla sprawy pogląd. Aby zatem usunąć tę błędną regulację należałoby dodać w art. 57 projektu ustawy o AI ust. 6 w brzmieniu „Przepis ust. 5 nie znajduje zastosowania w sprawach, o których mowa w ust. 1-3.”. Kolejny „kwiatuszek” językowy odnajdujemy w art. 61 ust. 2 in principio projektu ustawy o AI, w której to regulacji projektodawca raczył pomylić przypadek, w których użyto rzeczownika „strona”. W regulacji tej winien znaleźć się rzeczownik „strona” użyty we właściwym przypadku, a zatem winien być użyty rzeczownik „Strona”, nie zaś, jak to błędnie uczyniono „Stroną”. Strona | 26 I kolejny błąd językowy pojawia się w art. 61 ust. 8 pkt. 1 projektu ustawy o AI, gdzie projektodawca wyszedł z założenia, że „strona postepowania zaprzestał”, a nie „zaprzestała” naruszania prawa, a póki co strona to rodzaj żeński, więc w czasie przeszłym formą właściwą od „zaprzestać” będzie „zaprzestała”, a nie „zaprzestał”. Zgodnie ze wskazanymi powyżej regułami językowymi należy dokonać poprawki regulacji art. 61 ust. 8 pkt. 1 projektu ustawy o AI. No i nastał czas na mój ulubiony przykład zawarty w art. 63 ust. 1 projektu ustawy o AI, wedle którego „strona postepowania przedstawia Komisji wszystkie znane mu okoliczności”. Strona postepowania jest rodzaju żeńskiego więc znane stronie okoliczności to okoliczności znane „jej” a nie „jemu”, czy jak oryginalnie pisze projektodawca „mu”. Nie budzi zatem wątpliwości co i jak winien poprawić projektodawca w art. 63 ust. 1 projektu ustawy o AI, by zapis ustawowy uczynić zgodnym z zasadami języka ojczystego. Niewiele dalej, bo raptem w ust. 3 zd. 2 tegoż samego art. 63 projektu ustawy o AI projektodawca ponownie myli rodzaj czasownika pochodzącego od rzeczownika rodzaju żeńskiego przyjmując, że „strona postępowania ...przedstawił Komisji”. Oczywistym wręcz jest, że w art. 63 ust. 3 projektu ustawy o AI wskazując na przedstawienie czegoś Komisji przez stronę postepowania, która jest przecież rodzaju żeńskiego winno być sformułowanie, że „strona postępowania... przedstawiła Komisji”, nie zaś, że „strona postępowania... przedstawił Komisji”. W art. 92 ust. 3 projektu ustawy o AI pomiędzy słowem „decyzję”, a słowem „wyłączeniu” opuszczono literę „o”, którą należy dopisać. „Perełkę w koronie” błędów tegoż projektu może stanowić regulacja art. 93 ust. 2, wedle której „Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o:”. Po pierwsze nie wiadomo w ogóle co miałby otrzymać Przewodniczący Komisji, aby mógł podjąć jedną z dwóch decyzji wskazanych w art. 93 ust. 2 projektu ustawy o AI. Po drugie natomiast nie wiadomo o jakim otrzymaniu przez Przewodniczącego, o którym mowa w ust. 2 mówi niniejsza regulacja, która przecież sama jest zawarta w ust. 2, który milczy na temat otrzymania czegokolwiek przez Przewodniczącego przed wydaniem jednego z dwóch rodzajów decyzji. Strona | 27 Wydaje się właściwe nadanie nowego brzmienia art. 93 ust. 2 in principio projektu ustawy o AI „Przewodniczący Komisji po otrzymaniu powiadomienia, o którym mowa w ust. 1, może podjąć decyzję o:”. Za całkowicie niezasadne należy uznać wyłączenie przez projektodawcę w przypadku stosowania kar administracyjnych za naruszenie przepisów Aktu o sztucznej inteligencji stosowania art. 189 f k.p.a. oraz art. 189 k k.p.a. (art. 103 projektu ustawy o AI). Zupełnie niezrozumiałe jest dlaczegóż to projektodawca w przypadku naruszenia przepisów Aktu o sztucznej inteligencji: a/ wyłącza możliwość odstąpienia przez organ administracji publicznej od wymierzenia naruszycielowi pieniężnej kary administracyjnej i poprzestania na pouczeniu (art. 189 f k.p.a.), b/ w ramach ulgi w wykonaniu administracyjnej kary pieniężnej wyłącza możliwość umorzenia przez organ administracji publicznej administracyjnej kary pieniężnej w całości lub części (art. 189 k § 1 pkt. 3 k.p.a.), jak i umorzenia odsetek za zwłokę w całości lub części (art. 189 k § 1 pkt. 4 k.p.a.), c/ wyłącza możliwość odroczenia terminu wykonania zaległej administracyjnej kary pieniężnej lub rozłożenie jej na raty (art. 189 k § 1 pkt. 2 k.p.a.). Uzasadnione w omawianym przypadku wydaje się wyłączenie stosowania art. 189 k § 1 pkt. 1 k.p.a. przewidującego odroczenie terminu wykonania administracyjnej kary pieniężnej lub rozłożenia jej na raty, gdyż tego rodzaju ulgę w wykonaniu kary przewidziano w art. 100 ust. 2-9 projektu ustawy o AI, więc stosowanie w tym zakresie przepisów k.p.a. byłoby wręcz bezprzedmiotowe. Wyłączenie natomiast stosowania ulg w wykonaniu kary przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. stanowi samodzielną kreację polskiego projektodawcy albowiem z przepisów rozdziału XII Aktu o sztucznej inteligencji poświęconych instytucji administracyjnych kar pieniężnych wymierzanych z powodu naruszenia przepisów Aktu o sztucznej inteligencji bynajmniej nie wynika potrzeba, czy też konieczność wyłączenia przez krajowego ustawodawcę możliwości stosowania ulg w wykonaniu administracyjnych kar pieniężnych przewidzianych w art. 189 k § 1 pkt. 2-4 k.p.a. W zaistniałej sytuacji trudno zrozumieć nadgorliwość rodzimego projektodawcy w wyłączeniu możliwości zastosowania wobec rodzimych podmiotów ulg w wykonaniu administracyjnych kar pieniężnych, w sytuacji, gdy nie jest zobligowany przepisami prawa wspólnotowego do wdrożenia tego rodzaju regulacji niezwykle niekorzystnej dla Strona | 28 podmiotów prawa polskiego, w tym przedsiębiorców, którzy uchybili przepisom Aktu o sztucznej inteligencji. Polski projektodawca zamiast wspierać polskich przedsiębiorców wdrażając tam, gdzie jest to możliwe i niesprzeczne zarazem z prawem europejskim najkorzystniejsze dla nich rozwiązania lansuje rozwiązania najmniej dla nich korzystne, wykazując się tym samym brakiem poszanowania dla zasady krajowego patriotyzmu gospodarczego. W naszym przekonaniu, aby zniweczyć niezwykle szkodliwe skutki płynące z regulacji art. 103 projektu ustawy o AI uważamy za konieczne nadanie nowego brzmienia art. 103 projektu ustawy o AI „W zakresie określonym przepisami tego rozdziału nie stosuje się przepisów art. 189 d oraz art. 189 k § 1 pkt. 1 ustawy z dnia 14.06.1960 r.- Kodeks postępowania administracyjnego”. W art. 479 88h § 2 k.p.c. wprowadzanym art. 107 projektu ustawy o AI projektodawca wykazuje się olbrzymim wręcz niechlujstwem wskazując na stosowanie odpowiednie wskazanych w tym przepisie przepisów k.p.c. do zażaleń na postanowienia Prezesa Urzędu. Można zasadnie zapytać o postanowienia jakiegoż to Prezesa jakiego Urzędu chodzi w omawianym przypadku. Zażalenia bowiem można wnosić zgodnie z regulacją art. 479 88h § 1 k.p.c. na postanowienia Komisji, wobec czego odpowiednie stosowanie niektórych przepisów k.p.c. wskazanych w art. 479 88h § 2 k.p.c. może odnosić się do zażaleń na postanowienia Komisji, a nie na postanowienia Prezesa bliżej nieokreślonego Urzędu. W omawianym przypadku nie może też być mowy o zażaleniach na postanowienia Przewodniczącego Komisji błędnie nazwanego Prezesem Urzędu, gdyż w projekcie ustawy o AI nie przewidziano dla Przewodniczącego Komisji uprawnienia do wydawania postanowień, a zatem nie mogłyby być przedmiotem zażalenia nieistniejące postanowienia Przewodniczącego Komisji. W art. 479 88h § 2 in fine k.p.c. dodawanym art. 107 projektu ustawy o AI „postanowienia Prezesa Urzędu” należy zastąpić słowami „postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji”. Na stronie 6 uzasadnienia projektu w 17 wersie od góry pomiędzy wyrazem „niekorzystne”, a wyrazami „punktu widzenia” opuszczono literę „z”. Na stronie 14 uzasadnienia projektu przewidziano możliwość skorzystania z pomocy funkcjonariuszy innych organów kontroli państwowej i ochrony prawa, problem w tym, że w projekcie ustawy o AI próżno szukać zapisu przewidującego możliwość udzielenia Strona | 29 kontrolującemu pomocy przy przeprowadzaniu kontroli przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa. W art. 45 projektu ustawy o AI projektodawca przewiduje możliwość udzielenia pomocy kontrolującemu jedynie przez Policję lub jednostki podległe i nadzorowane przez ministra właściwego do spraw informatyzacji, natomiast udzielenia pomocy przez funkcjonariuszy innych organów kontroli państwowej i ochrony prawa nie przewidziano, stąd w tym zakresie uzasadnienie projektu odsyła do nieistniejącej regulacji prawnej projektu ustawy o AI. To kolejny przykład grubego niedbalstwa projektodawcy. Na stronie 16 uzasadnienia projektu w 4 wersie od dołu dwukrotnie powtórzono słowa „w tym”. Na stronie 17 uzasadnienia projektu w wersie 11 od dołu winno być sformułowanie „największą gwarancję”, a nie „największą gwarancją”. Na stronie 5 OSR w 14 wersie od dołu dwukrotnie powtórzono słowa „do spraw”. Na stronie 18 OSR w wersie 19 od dołu winno być użyte słowo „Warszawie” zamiast słowa „Warzawie”. Przedmiotowemu projektowi zarzucić należy olbrzymie wręcz niechlujstwo projektodawcy przy jego opracowywaniu wyrażające się w niesprawdzaniu zapisanych treści projektu oraz jego uzasadnienia i OSR- u, a także występowanie żenujących wręcz, w dodatku bardzo licznych, błędów natury prawnej oraz językowej. Niestety tak poprzedni, jak i obecny projekt ustawy o AI skłania nas do takiej konkluzji, albowiem w obu projektach ustawy o AI resort cyfryzacji wykazał się identyczną niemalże, katastrofalnie niską umiejętnością władania w piśmie językiem ojczystym. Czyżby rzeczywistym „autorem” przedmiotowego projektu była źle zaprogramowana przez resort cyfryzacji sztuczna inteligencja? 14. Związek Miast Polskich Uwagi ogólne Definicje i zakres: Projekt precyzuje definicje prawne związane z SI, co jest istotne dla jednoznaczności przepisów. Ważne jest jednak, aby definicje: były elastyczne, by uwzględniały przyszłe innowacje technologiczne oraz wyjaśniały wprowadzone terminy. Przykładowo, projekt ustawy o SSI posługuje się terminami „dostawca” (art. 3 pkt 3), czy „użytkownik końcowy” (art. 53 ust.4 pkt 2). W słowniku pojęć zdefiniowano termin dostawcy, nie zdefiniowano natomiast terminu „użytkownika końcowego”. Propozycja definicji „użytkownika końcowego” – osoba, która korzysta z systemu i usługi, mając Uwaga wyjaśniona Przedstawione postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. Jednocześnie należy wyjaśnić, że projekt Strona | 30 na celu spełnienie określonych potrzeb – zarówno w kontekście zawodowym, jak i prywatnym. Zasady etyczne: Ustawa kładzie nacisk na bezpieczne, godne zaufania i etyczne wykorzystanie SI, w tym poszanowanie praw człowieka i niedyskryminację. Proponuje się doprecyzowanie mechanizmów monitorowania i egzekwowania tych zasad, aby zapewnić ich skuteczność. Odpowiedzialność prawna: Projekt porusza kwestię odpowiedzialności za działania systemów SI. Warto rozważyć wprowadzenie szczegółowych regulacji dotyczących odpowiedzialności (w tym obowiązków) producentów, dostawców systemów sztucznej inteligencji i użytkowników. Bezpieczeństwo i prywatność: Ustawa zawiera przepisy dotyczące ochrony danych i prywatności użytkowników systemów SI. Istotne jest zapewnienie, przepisów zgodnych z istniejącymi regulacjami krajowymi i unijnymi, takimi jak RODO oraz że przewidują skuteczne środki ochrony przed potencjalnymi naruszeniami. Nadzór i egzekwowanie: Projekt przewiduje utworzenie organu nadzorczego ds. SI – Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Za kluczowe uważamy precyzyjne określenie kompetencji tego organu, jego zasobów oraz procedur działania, tak aby mógł efektywnie monitorować przestrzeganie ustawy i reagować na naruszenia, oraz umożliwić skuteczne eliminowanie z rynku systemów sztucznej inteligencji, które nie spełniają wymogów ustanowionych w nowej regulacji. Edukacja i świadomość społeczna: Ustawa podkreśla znaczenie edukacji w zakresie SI (art. 9 pkt 8). Warto rozważyć wprowadzenie programów edukacyjnych dla różnych grup społecznych (grup osób szczególnie narażonych na ryzyka związane ze stosowaniem systemów sztucznej inteligencji), aby zwiększyć świadomość na temat korzyści i zagrożeń związanych ze SI oraz promować odpowiedzialne jej wykorzystanie. ustawy ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689 w zakresie w jakim przepisy tego aktu zaczną obowiązywać od 2 sierpnia 2025 r., stąd też nie wszystkie postulaty mogły zostać uwzględnione. Należy również podkreślić, że według projektodawcy konieczne jest utrzymanie terminologii określonej w rozporządzeniu 2024/1689. Zadania i kompetencje Komisji zostały określone w projekcie ustawy. Strona | 31 Współpraca międzynarodowa: Projekt uwzględnia potrzebę współpracy z innymi krajami w zakresie regulacji SI. Za ważne uznajemy, aby przepisy krajowe były spójne z międzynarodowymi standardami i umożliwiały wymianę doświadczeń oraz harmonizację regulacji. Podsumowując - projekt ustawy o systemach sztucznej inteligencji stanowi solidną podstawę do regulacji tej technologii w Polsce. Oceniamy, iż uwzględnienie powyższych propozycji przyczynić się może do stworzenia ram prawnych sprzyjających innowacjom, jednocześnie chroniąc prawa obywateli i zapewniając bezpieczeństwo. 15. Związek Polskich Autorów i Kompozytoró w ZAKR Uwaga ogólna Nasze środowisko z nadzieją czekało na ustawę, która zabezpieczy i ochroni prawa twórców własności intelektualnej okradanych przez program AI, który bez pozwolenia właścicieli praw do utworów od lat magazynuje pracę twórców z całego świata i w pasożytniczym trybie wykorzystuje ją do produkcji różnego rodzaju wytworów naśladujących rezultaty pracy twórczej człowieka, którego wcześniej okradł. Program AI nie jest inteligencją, lecz narzędziem, którego algorytm pomimo wielu niewątpliwych walorów umożliwia gigantom technologicznym czerpanie zysków z powyższego procederu. Związek Polskich Autorów i Kompozytorów ZAKR uważa, że w dzisiejszych realiach za późno jest na stworzenie twórcom możliwości podjęcia decyzji o odmowie wykorzystywania ich twórczości przez AI, ponieważ ta twórczość najczęściej została już przez program ukradziona. Nie istnieją także wiarygodne narzędzia monitorujące wykorzystywanie poszczególnych dzieł przez firmy zajmujące się AI. Jest szereg innych możliwości, które mogą zatrzymać powszechną grabież naszej pracy. Niestety - zamiast propozycji stworzenia stosownych barier i regulacji powyższych kwestii, proponują Państwo rozmycie problemu przez stworzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z której składu usunęliście właśnie Rzecznika Praw Obywatelskich, pozbyliście się głosu doradczego z MKiDN, a ze Społecznej Rady do Spraw Sztucznej Inteligencji usunęliście przedstawicieli środowisk twórczych, chociaż to właśnie na sektory kreatywne i na naszą twórczość najbardziej wpływa generatywna AI. Mamy nadzieję, że te nieprzemyślane zmiany nastąpiły przypadkowo i powyższe błędy zostaną w projekcie ustawy naprawione! Związek Polskich Autorów i Kompozytorów ZAKR stwierdza, że bez pracy twórców własności intelektualnej program AI nie byłby tak atrakcyjny. Natomiast brak ochrony pracy twórców i w konsekwencji jej zawłaszczenie przez AI już powoduje upadek polskiej i światowej kultury. Należy mieć świadomość, że twórcy własności intelektualnej też płacą rachunki, więc nie będą upubliczniać swoich dzieł tylko po to, by zostać okradzionymi przez AI. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Strona | 32 16. ZCP Uwagi ogólne Zgodność projektu z regulacjami unijnymi. Aby zapewnić zgodność projektu z regulacjami unijnymi, konieczna jest szczególnie rewizja Artykułu 42 projektu dot. dostępu do treści klientów przechowywanych w chmurze. len potencjalnie może naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Również zapisy projektu ustawy dotyczące środków egzekwowania, szczególnie w Artykule 53, wykazują potencjalną niespójność z intencjami unijnego Aktu w sprawie Al. 2. Sankcje karne i ich wpływ na innowacje. Jesteśmy na stanowisku, że proponowane sankcje karne w Rozdziale 9 wymagają ponownej oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Należy w naszej opinii w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Te miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. 3. Ryzyko fragmentacji prawa UE. Proponowane przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji unijnej ustawy o sztucznej inteligencji, co może rodzić ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji unijnej ustawy o sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie sztucznej inteligencji w całej UE. Niewystarczające zabezpieczenia informacji chronionych. Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych, bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. I brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Potencjalnie zbyt krótkie terminy ustosunkowania się do zastrzeżeń organów regulacyjnych, nieadekwatne do realiów rynkowych. Część projektowanych przepisów nie zapewnia obecnie przedsiębiorstwom wystarczającego czasu na ustosunkowanie się do zastrzeżeń organów regulacyjnych. Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie (dotyczy to m.in. Art. 53 ust. 3; Artykuł 54 ust. 2; Art. 98 ust. 1). Uwaga wyjaśniona Uwagi dot. zbyt szerokiego zakresu opinii indywidualnych Komisji uznać należy za bezzasadne ze względu na doprecyzowanie przepisów określających zakres przedmiotowy tychże opinii (ograniczonych do interpretacji przepisów ustawy). Przepisy dotyczące terminów przygotowane zostały w celu pogodzenia praw i interesów przedsiębiorców (domyślna forma zdalna, krótki czas kontroli) z potrzebami sprawnego nadzoru i umożliwienia sprawnej reakcji w przypadku ryzyka związanego z niebezpiecznym lub wadliwym systemem sztucznej inteligencji. Przepisy projektu ustawy zostały przygotowane z poszanowaniem przepisów dotyczących zabezpieczania tajemnic Strona | 33 prawnie chronionych jednocześnie zapewniając możliwość pozyskiwania i wymiany informacji na potrzeby realizowanych zadań organów. 17. . SAWP Uwagi ogólne Prawo autorskie Reprezentowane przez nas środowisko artystów wykonawców z uwagą i niepokojem śledzi implementację unijnych regulacji problematyki AI do obowiązującego w Polsce prawa. Możliwości jakie stwarza AI są niezwykle istotne dla polskiej kultury i życia społecznego, w tym dla praw do artystycznych wykonań. Z jednej strony stwarzają ogromne możliwości w zakresie dostępu do dóbr kultury i ich wykorzystania. Z drugiej strony natomiast jest dla nas ważne jest ich precyzyjne wpisanie w obowiązujący system prawny w Polsce, w sposób nienaruszający jego zasad, czytelny i zapewniający zrównoważoną ochronę zarówno w dostępie do twórczości, jak i poszanowania praw do autorów i artystów wykonawców, których twórczy dorobek jest przedmiotem eksploatacji na potrzeby Al. Uzasadnia to przedstawienie naszych krytycznych uwag do obecnego projektu. Obecny projekt stanowi propozycję przepisów implementujące, obowiązujące Polskę jako członka UE, rozporządzenie Parlamentu Europejskiego i Rady Unii Europejskiej2024/1689, z dnia 13 czerwca 2024 roku w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji z uwzględnieniem jego kolejnych zmian, oraz wynikających wydanych dyrektyw UE dotyczących sztucznej inteligencji. Projekt powinien być zsynchronizowany z ostatnią nowelizacji, obejmującą dodanie do ustawy o prawie autorskim i prawach pokrewnych (dalej: PrAut, Dz. U. 1924 rok, poz.1254), art. 26*. Obecny projekt nie spełnia tego oczekiwania. Nie wypełnia w szczególności luk w dotychczas obowiązującej regulacji Al zawartej w PrAut. Ich istnienie prowadzi do niejasności, które stanowią zagrożenie prawidłowego funkcjonowania systemu AI, którego dotyczy również obecny projekt. Mają one duże znaczenie społecznogospodarcze. Są, w konsekwencji, źródłem narastającego niepokoju autorów i artystów wykonawców. Przejawem tego niepokoju jest przede wszystkim często pojawiające się, także w wypowiedziach także eminentnych reprezentantów środowisk twórczych, błędne i wynikające z istniejącego stanu dezorientacji, obawy co do sytuacji twórców, ze względu na coraz większy udział Al w naszym życiu społecznym. Przykładem oczywistych błędów jest traktowanie AI jako zagrożenie dla twórców oraz debaty na temat ochrony autorskiej produktów AI lub udziału AI w procesie tworzenia utworów lub artystycznych wykonań. Należy zatem przypomnieć, że korzystanie przez autora lub artystę wykonawcę ze sztucznej inteligencji jest dobrym prawem każdego twórcy. Utwór lub artystyczne wykonanie powstaje zawsze jako Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). W projekcie zawarto jedynie przepisy wymagające regulacji ustawowej we wskazanym powyżej zakresie. Przedmiotowe uwagi w dużej części dotyczą natomiast kwestii praw autorskich, które Strona | 34 projekcja wyobraźni twórcy, jako rezultat jego wrażliwości i zdolności do ujęcia przedmiotu swojej wyobraźni wsposób umożliwiający zapoznanie się z nim przez osoby trzecie i w konsekwencji wykorzystywanie utworu lub artystycznego wykonania w obrocie kulturalnym, gospodarczym, naukowym lub technicznym. Utwór lub artystyczne wykonanie, powinno być zawsze traktowane jako intelektualna całość, ze względu na jej oryginalność i indywidualność, czyli jako przedstawiająca określone walory poznawcze, artystyczne lub naukowe w sposób twórczy, tzn. jako przejaw osobistej wyobraźni i sprawności w danej dziedzinie w jej komunikowaniu. Bez znaczenia jest wykorzystanie w jej treści elementów dotychczasowego dorobku intelektualnego, dostępnych informacji lub określonych narzędzi, do których należy wykorzystanie AI. Wystarczy tu przypomnienie brzmienia art. 1 ust. 1, w odniesieniu do utworów lub art, 85 ust. 1 PrAut, w odniesieniu do artystycznych wykonań. Istotnym elementem wyznaczających ich treść jest uniezależnienie od wartości pod jakim bądź względem, w tym rozmiaru wkładu twórczego, przeznaczenia i sposobu wyrażenia. Fakt, że autor lub artysta wykonawca w procesie tworzenia korzystał z AI, w płaszczyźnie PrAut nie ma żadnego znaczenia. Jeżeli powstały rezultat pochodzi od twórcy w tym choćby znaczeniu, że wykorzystał rezultat „zadany do wykonania przez AI”, bez względu na zakres i znaczenie dla powstałej ostatecznie całości, poddając go weryfikacji, jako odpowiadającej jego widzeniu w danym zakresie, ma miejsce stworzenie dobra mającego cechy utworu lub odpowiednio artystycznego wykonania. W konsekwencji próby ocen w jakim stopniu wykorzystanie AI wpłynęło na powstanie takiego utworu lub artystycznego wykonania, dotknięte jest fundamentalnym błędem, polegającym na zrównywaniu wykorzystania AI (jej produktu) z wkładem twórczym, który pochodzić może jedynie od człowieka ze względu na jego psychofizyczną, duchową, zdolność i wyobraźnię. W odróżnieniu od tego produkt wykorzystania AI bez poddania go ludzkiej weryfikacji nie stanowi dobra oprawnego korzystającego z ochrony. Ochroną objęte jest natomiast korzystanie z AI jako produktu niematerialnego na zasadach ogólnych obowiązującego prawa. Przekracza ramy niniejszych uwag fundamentalna kwestia społeczno-gospodarczego sensu przyjętej w prawie UE (w ślad za nim i w naszym prawie) konstrukcji oświadczeń wyłączających poszczególne pozycje z możności obejmowania ich eksploatacją na potrzeby AI. Najwyraźniej możliwość ta w prawie europejskim została potraktowana jako mająca wywołać poczucie respektowania praw autorów i artystów. Tyle tylko, że praktyczna możliwość kontroli respektowania tych zastrzeżeń przez uprawnionego jest iluzoryczna. Poza tym prowadzi do sprzeczności ze społecznogospodarczą funkcją eksploracji, która z istoty nie powinna dotyczyć pozwalających na indywidualizację wykorzystywanych utworów. Wymaga przypomnienia, że zarówno art. 17, jak i 86. ust. 1 pkt 2 PrAut obejmuje „korzystanie” z utworów i artystycznych wykonań, a korzystanie to obejmuje również wykraczają poza ramy rozporządzenia 2024/1689 a tym samym i projektu ustawy. Projekt został przygotowany zgodnie z zasadami techniki prawodawczej i będzie pod tym kątem opracowywany na etapie prac komisji prawniczej. Projekt podlegał konsultacjom publicznym zgodnie z obowiązującymi procedurami. W celu zapewnienia udziału wszystkich zainteresowanych podmiotów został zamieszczony w BIP na stronie podmiotowej RCL w zakładce Rządowy Proces Legislacyjny. Strona | 35 (jeżeli przepis nie stanowi inaczej) publiczny dostęp do już rozpowszechnionego utworu lub artystycznego wykonania, także więc polegające na wykorzystaniu w ramach AI. Jednym z uwarunkowań tego korzystania powinno być zapewnienie autorom i artystom godziwego (zrównoważonego, propotcjonalnego) wynagrodzenia. To elementarne założenie nie zostało w omawianym projekcie, jak i w prawie dotychczasowym należycie uregulowane i zabezpieczone. I tak: W obowiązującym art. 26%3% PrAut nie zostało zdefiniowane w sposób dostatecznie jednoznaczny podstawowe pojęcie odnoszące się do AI, eksploracji, jako zwielokrotnianie utworów i artystycznych wykonań w odniesieniu do tekstów i danych wykorzystywanych wyłącznie dla cełów badań naukowych, nie dokonywanych w celu osiągnięcia bezpośredniej lub pośredniej korzyści majątkowej. W słowniku zawartym w art. 1 obecnego projektu nie tylko nie ma definicji pojęcia tej eksploracji, ale wyłączenia zawarte w art. 2 tego projektu odsyła do rozporządzenia UE, które również nie zawiera tej definicji, a jedynie określenie ujęte probabilistycznie, w sposób niewyczerpujący określające możliwe funkcje Ponadto określenie to w projekcie nie zostało odniesione do art. 26? PrAut. Niejasność co do zakresu korzystania z utworów i artystycznych wykonań w zakresie eksploracji w procesach korzystania z AI prowadzi do, nierozstrzygniętych w proponowanych przepisach pytań, czy omawiane pojęcie eksploracji może prowadzić do sytuacji rozpoznawalności poszczególnych wykorzystanych w niej utworów lub artystycznych wykonań w produktach sztucznej inteligencji oraz, czy ich twórcom została zagwarantowana realna możliwość kontroli respektowania złożonego zastrzeżenia złożonego zgodnie z art. 269 PrAut. Przeciwnie, określone w art. 2 projektu ustawy wyłączenia nie korespondują, a nawet pozostają w sprzeczności z art. 267 ust. I PrAut. Mają charakter podmiotowy, co rozszerza zakres dozwolonej eksploracji, w stosunku do kryterium dokonywania badań naukowych nie dokonywanych w celu osiągnięciu „bezpośredniej lub pośredniej korzyści majątkowej” (o czym wyraźnie jest mowa w art. 26! PrAut). W konsekwencji, dotychczasowy ustawowo uregulowany zakres eksploracji uległ daleko idącemu poszerzeniu z naruszeniem norm prawa unijnego. Nie została także uregulowana zasadnicza kwestia, rekompensowania wykorzystania utworów i artystycznych wykonań wykorzystanych w ramach eksploracji dopuszczonej w PrAut na zasadach dozwolonego użytku. Odróżnić tu należy dopuszczenie czynności eksploracji jako nieuzasadniającej roszczenia o wynagrodzenie konkretnego uprawnionego, od zasadności rekompensowania wykorzystywania twórczości w zasobach wykorzystywanych przez AI. Prawo zna sytuacje gwarantowania autorom i artystom wykonawcom rekompensowanią, na podstawie badań statystycznych obrazujących zarówno zakres i rozmiar dozwolonego korzystania, jak i wysokość należnej rekompensaty. Odpowiada to społecznym oczekiwaniom (potrzebie) oraz oczywistej słuszności, jak również zasadzie zrównoważonej ochrony. Są to elementarne Strona | 36 zasady propagowane przez UE. Należy zatem oczekiwać ich uwzględniania w przygotowywanych przepisach stanowiących w ramach krajowych element prawa europejskiego. Zastrzeżenia budzą także ograniczenia, zawarte w art. 49 i nast. projektu, dot. czynności kontrolnych jedynie w zakresie uregulowanym w projektowanej ustawie i rozporządzeniu UE. Czy ma to oznaczać, że przedmiotem kontroli nie jest także respektowanie art. 26 ust 2-3 PrAut, a więc tolerowane miałoby być bezpośrednie lub pośrednie uzyskiwanie korzyści majątkowych przez podmioty wymienione w art. 2 projektu? Jest także nieprawidłowe legislacyjnie, zawieranie w prawie krajowym odesłań do rozporządzenia UE. Jeżeli obowiązujące proprio iure rozporządzenie UE zostaje przeniesione do aktu krajowego i to tym bardziej rangi ustawowej, powinien on zawierać wyczerpująco ujętą regulację obowiązującą w danym obszarze. Przemyślenia wymaga zakres regulacji objętej projektowaną ustawą. Powinna ona ograniczać się jedynie do materii wymagającej regulacji ustawowej. Kwestie organizacyjne powinny być uregulowane w przepisach wykonawczych rangi rozporządzenia, do których regulacji ustawa powinna stanowić jedynie podstawę odesłania. W obecnym ujęciu razi regulowanie w obecnym projekcie także materii w znacznym zakresie wykonawczym. Nie sprzyja to czytelności stanowionego prawa. Na koniec uważamy za niezbędne zwrócenie, z ubolewaniem, uwagi na fakt, że wśród siedemdziesięciu adresatów pisma Pana Premiera nie znalazło się nasze Stowarzyszenie. Reprezentujemy znaczące w polskim życiu kulturalnym środowisko twórcze. Jesteśmy zainteresowani treścią projektowanej ustawy i deklarujemy gotowość udziału w pracach nad nią. 18. GRAI Uwaga ogólna Piaskownice regulacyjne Po analizie projektu ustawy o systemach sztucznej inteligencji (SSI) oraz dotychczasowych uwag, konieczne jest dalsze uproszczenie procedur związanych z piaskownicami regulacyjnymi. Kluczowe jest zapewnienie ich ciągłej analizy, autoaktualizacji oraz doskonalenia procesów testowania, by poprawić wydajność i praktyczną użyteczność. Proponowane zmiany mają wyeliminować bariery biurokratyczne, skrócić czas reakcji organów oraz umożliwić ogólnopolski zasięg piaskownic. Poniżej przedstawiamy zmodyfikowane przepisy artykułów w dalszej części tabeli uwag. Wprowadzenie mechanizmów ciągłej analizy, autoaktualizacji procedur i szybkiego wdrażania zmian w piaskownicach regulacyjnych zapewni dynamiczny rozwój systemów testowania AI. Regularny feedback od uczestników oraz dostosowanie procesów do potrzeb rynku pozwoli na zwiększenie efektywności, praktyczności oraz ogólnopolskiego zasięgu piaskownic. Uwaga uwzględniona Zrezygnowano z części przepisów w zakresie piaskownic regulacyjnych. Strona | 37 19. GRAI Uwaga ogólna AI Act nie nakazuje twardej regulacji piaskownic, ale pozostawia krajom członkowskim dużą elastyczność w ich organizacji. Kluczowe elementy to: • Zachęcanie do rozwoju piaskownic, ale bez nadmiernego obciążenia administracyjnego. • Główną rolą państwa jest nadzór i egzekwowanie wymogów, a nie aktywne zarządzanie testami AI. • Nie wymaga formalnego uzyskiwania zgody na uruchomienie testów, o ile są one zgodne z zasadami przejrzystości i kontroli. Oznacza to, że rola państwa może zostać ograniczona do ekosystemu nadzoru, w którym: Firmy same zgłaszają udział w piaskownicy. Państwo monitoruje efekty, ale nie decyduje o ich przebiegu. Organ nadzoru pełni funkcję wspierającą, a nie blokującą innowacje. Uwaga wyjaśniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy w kierunku zmniejszenia obciążeń związanych z rozpoczęciem uczestnictwa. 20. GRAI Uwaga ogólna Obecne ograniczenia w polskim projekcie ustawy Obecny projekt ustawy wprowadza nieprecyzyjne i potencjalnie restrykcyjne regulacje dotyczące piaskownic regulacyjnych, np.: 1. Brak elastyczności – regulacje mogą wymagać od firm formalnego uzyskania zgody, zamiast szybkiej rejestracji i zgłoszenia. 2. Zbyt duża ingerencja organów państwowych – jeśli piaskownica ma działać skutecznie, to rynek powinien mieć większą swobodę w kształtowaniu testów. Brak jednoznacznych procedur wyjścia z piaskownicy – AI Act nie wymaga, by firmy przechodziły skomplikowany proces oceny po zakończeniu testów, a polska ustawa wprowadza dodatkowe obciążenia administracyjne. Uwaga wyjaśniona i częściowo uwzględniona Proponowane postulaty zostały wzięte pod uwagę w aktualnej wersji projektu ustawy. 21. GRAI Uwaga ogólna Proponowane zmiany w systemie piaskownic regulacyjnych 1. Rezygnacja z wymogu formalnej zgody – wprowadzenie modelu \"na zgłoszenie\" - Każdy podmiot może zgłosić udział w piaskownicy do organu nadzoru, ale nie musi czekać na jego decyzję. - Organ nadzoru ma tylko 30 dni na ewentualne uwagi (np. w przypadku zagrożenia dla praw podstawowych). - Brak sprzeciwu oznacza automatyczne zatwierdzenie. 2. Ograniczenie roli państwa do monitorowania i egzekwowania podstawowych zasad - Organ nadzoru nie decyduje, kto może wejść do piaskownicy, ale pełni rolę kontrolną. - Regularne raporty firm do organu nadzoru zamiast biurokratycznych procedur wstępnych. - Firmy same wybierają metody testów, a państwo nie narzuca dodatkowych obowiązków. Uwaga wyjaśniona Proponowane postulaty zostały częściowo uwzględnione w projekcie ustawy. Strona | 38 3. Wprowadzenie modelu \"kontroli zarządczej\" przez wyznaczenie osób odpowiedzialnych - Każdy podmiot biorący udział w piaskownicy musi wyznaczyć osobę odpowiedzialną za przestrzeganie regulacji. - Osoba ta raportuje wyniki testów do organu nadzoru. - W razie naruszeń – zamiast wykluczenia z piaskownicy, wprowadzenie mechanizmu naprawczego. 4. Piaskownice jako narzędzie do oceny regulacji, a nie ich usztywniania - Testowane technologie mogą być przedmiotem okresowego przeglądu regulacji – wyniki piaskownic powinny wpływać na kształt przepisów. - Możliwość rozszerzenia testów na rzeczywiste warunki rynkowe, jeśli spełniają minimalne wymogi etyczne i prawne. 5. Zachęty do uczestnictwa w piaskownicy - Ulgi regulacyjne dla firm testujących AI w piaskownicy (np. złagodzone wymogi wstępne). - Możliwość uzyskania wstępnej oceny zgodności przed wdrożeniem produktu na rynek. Możliwość uzyskania voucherów na finansowanie testów i procesów walidacyjnych dla MŚP? 22. GRAI Uwaga ogólna Aby zrealizować bardziej rynkowe podejście do piaskownic regulacyjnych i ograniczyć rolę państwa do nadzoru, należy: > Zmodyfikować przepisy tak, aby rejestracja w piaskownicy odbywała się na zgłoszenie, a nie na decyzję organu. > Zdefiniować rolę organu nadzoru jako wspierającą, a nie ograniczającą innowacje. > Umożliwić przedsiębiorstwom większą autonomię w testowaniu AI, pod warunkiem raportowania wyników. > Wprowadzić osoby odpowiedzialne za przestrzeganie regulacji na poziomie firm, zamiast rozszerzać kompetencje państwa. > Zachęcać firmy do uczestnictwa, np. poprzez ulgi regulacyjne i uproszczoną ocenę zgodności. Dzięki temu piaskownice regulacyjne będą faktycznie wspierać rozwój rynku AI w Polsce, zamiast stać się kolejną barierą biurokratyczną. Uwaga częściowo uwzględniona W wyniku zgłoszonych uwag rozdział 8 uległ znacznym zmianom. Zrezygnowano z części regulacji. 23. GRAI Uwaga ogólna Proponujemy rozważenie, aby sądem właściwym do rozstrzygania spraw był Sąd Okręgowy w Warszawie Wydział Własności Intelektualnej. Jako uzasadnienie wskazujemy, że zakres merytoryczny spraw rozstrzyganych przez w/w sąd jest pokrewny z ewentualnym postępowaniem na podstawie projektowanej ustawy o systemach sztucznej inteligencji i tym samym w/w Sąd może kompleksowo rozstrzygać obie materie spraw. Uwaga wyjaśniona Z analizy projektodawcy wynika, że najbardziej właściwym sądem jest Strona | 39 Sąd Okręgowy w Warszawie - sąd ochrony konkurencji i konsumentów. Jest to sąd wysoko wyspecjalizowany, posiadający duże doświadczenie w sprawach o skomplikowanej naturze i szerokim spektrum, posiadający zaplecze merytoryczne oraz organizacyjne umożliwiające sprawne prowadzenie spraw z zakresu systemów sztucznej inteligencji 24. GRAI Uwaga ogólna Na gruncie art. 4 rozporządzenia 2024/1689 postulujemy, aby dodać do projektowanej ustawy o systemach sztucznej inteligencji obowiązek szkoleń personelu ze wskazaniem częstotliwości takich szkoleń np. nie rzadziej niż raz na 12 miesięcy. W/w obowiązek powinien dotyczyć członków personelu dostawcy i podmiotu stosującego zgodnie z definicjami zawartymi w rozporządzeniu 2024/1689 (art.3 ust. 3 oraz art. 3 ust. 4 rozporządzenia). Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. 25. GRAI Uwaga ogólna Na gruncie art. 27 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji wprowadzić przepis zgodnie, z którym „Ocena, o której mowa w art. 27 rozporządzenia 2024/1689 dotyczyć będzie wszystkich rodzajów operacji przetwarzania danych osobowych na podstawie wykazu organu nadzorczego, o którym mowa w art. 35 ust. 43 rozporządzenia 2016/679 w systemach wysokiego ryzyka. Organ nadzorczy o którym mowa w art. 4 pkt 21 rozporządzenia 2016/679 opracuje i przedstawi wzór kwestionariusza do oceny skutków przetwarzania danych osobowych o którym mowa w art. 35 rozporządzenia 2016/679.”. Uwaga wyjaśniona Postulaty zgłoszone w uwadze znajdują się poza zakresem projektu ustawy. Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków Strona | 40 Uzasadnienie: Ocena skutków przetwarzania danych osobowych na gruncie art. 35 rozporządzenia 2016/679 jest narzędziem, które sprawia szereg trudności administratorom danych. Warto śladem prawodawcy unijnego, który w art. 27 ust. 5 rozporządzenia 2024/1689 wskazał, iż ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych zostanie zaproponowana przez właściwy Organ, zobowiązać na gruncie projektowanej ustawy o systemach sztucznej inteligencji, organ nadzoru ds. ochrony danych osobowych do przedstawienia właściwego narzędzia dla oceny, o której mowa w art. 35 rozporządzenia 2016/679. Warto nadmienić, iż oceny o te z art. 27 rozporządzenia 2024/1689 i art. 35 rozporządzenia 2016/679 są ocenami których zakresy częściowo pokrywają się. związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). 26. GRAI Uwaga ogólna Brak spójnych rozwiązań dotyczących przetwarzania i ochrony danych osobowych. Zaproponowane regulacje są wybiórcze, enigmatyczne. Brak opracowania OSK dla ochrony danych. Uwaga wyjaśniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy. Z uwagi na przedmiot regulacji projekt nie wymaga opracowania OSK. 27. GRAI Uwaga ogólna Na gruncie art. 44 rozporządzenia 2024/1689 warto do projektu ustawy o systemach sztucznej inteligencji dodać przepis zgodnie z którym: „Szkolenia personelu o których mowa w art. 4 rozporządzenia 2024/1689 powinny odbywać się nie rzadziej niż raz 18 miesięcy i każdorazowo dotyczyć będą nowych członków personelu dostawcy i podmiotu stosującego.”. Uzasadnienie: Na gruncie rozporządzenia 2016/679, ustawą z dnia 10 maja 2018 r. o ochronie danych osobowych nie wprowadzono konieczności szkoleń z zakresu ochrony danych osobowych. Jednak jak praktyka pokazała są one wymagane przez organ nadzorczy ds. ochrony danych osobowych. Uwaga wyjaśniona Przepis wskazany w uwadze (art. 4 rozporządzenia 2024/1689) jest stosowany od 2 lutego 2025 r. i zdaniem projektodawcy nie wymaga regulacji na poziomie ustawy. Strona | 41 Nadto należy podkreślić, iż w rozporządzeniu 2024/1689 kwestie szkoleń podejmowane są odpowiednio w art. 9, art. 26 ust. 2 (podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie) oraz motywie 72 w/w rozporządzenia. Ustawowe wprowadzenie obowiązku szkoleń wyeliminuje niepotrzebny dialog społeczny (szczególnie w środowisku szeroko rozumianego biznesu) dotyczący ich niezbędności, terminowości, etc. Warto w tym miejscu wyartykułować, iż prawodawca unijny wskazując na konieczność szkoleń i podnoszenia świadomości potencjalnych zagrożeń wśród personelu wskazał na tempo zmieniających się uwarunkowań rozwoju systemów AI (stąd zasadne wydaje się wprowadzenie szkoleń okresowych w odpowiednich interwałach czasowych) mając na uwadze wykładniczy postęp technologiczny. 28. GRAI Uwaga ogólna Brak w projekcie ustawy przepisów regulujących realizację obowiązku wynikającego z 99 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Przepisy ustawy znajdują także zastosowanie do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest, aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. 29. IGE Kopia tabeli uwag z I etapu konsultacji Uwagi wyjaśnione Przekazane przez IGE uwagi stanowią kopię Tabeli uwag zgłoszonych w ramach I tury konsultacji publicznych projektu Strona | 42 ustawy. Efektem ich rozpatrzenia było przygotowanie projektu w wersji poddanej 10 lutego 2025 r. ponownym konsultacjom publicznym. Część z uwag w przedmiotowej tabeli odnosi się zatem do wykreślonych lub znacznie zmienionych przepisów w związku z powyższym mając na uwadze obszerność przywołanej tabeli odniesienie się do zawartych w niej uwag na obecnym etapie jest niezasadne. Uwagi do projektu ustawy 1. PIIT Tytuł Zmiana tytułu ustawy na ustawa o nadzorze nad rynkiem sztucznej inteligencji. Jedynie art. 9 ust. 3 zawiera wzmiankę o wsparciu rozwoju SI, a Rada nie będzie wyposażona w narzędzia na takie wsparcie pozwalające. Przepisy projektu określają jedynie nadzór nad rynkiem Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Odnosząc się natomiast do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność Strona | 43 2. PTI Tytuł „o systemach sztucznej inteligencji” to nie jest treść ustawy dotyczącej „sztucznej inteligencji” (LLM) Ustawa właściwie tylko definiuje i reguluje obowiązki i sposób funkcjonowania Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Całość treści ustawy może być podważona w sądzie z uwagi na pojęcie „system sztucznej inteligencji” – nieprawidłowa definicja Prosimy o rozważenie zmiany tytułu Ustawy: Ustawa o powołaniu komisji i innych instytucji nadzorczych w obszarze sztucznej inteligencji W treści Ustawy nie ma słowa dotyczącego zasad funkcjonowania tzw. „AI; jedyną rzeczą jest odwołanie się w niektórych punktach do „RPEiR UE” 2024/1689, dostosowując ustawodawstwo Polski do wymogów wskazanego Rozporządzenia. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. W projekcie ustawy zawarto także przepisy regulujące kwestie wsparcia rozwoju sztucznej inteligencji (rozdział dotyczący środków wspierających innowacyjność). 3. IWP Repropol Tytuł Żałujemy, że nie dokonano zmiany tytułu projektu, mimo że nie tylko Izba Wydawców Prasy zwracała na to uwagę w ramach społecznych konsultacji. Wciąż uważamy, że obecna nazwa jest po prostu mylna. Projekt nie reguluje przecież fenomenu sztucznej inteligencji, lecz ustanawia przede wszystkim krajową infrastrukturę certyfikującą oraz nadzorczą nad modelami oraz systemami AI. Niezależnie od powyższego, polski projekt posługuje się pojęciem „sztucznej inteligencji”, podczas gdy w polska wersja AIA stanowi o systemach i modelach „AI”. Warto przyjąć jedną, wspólną konwencję językową, które na lata będzie zrozumiała w języku prawnym. Rekomendujemy korzystanie ze skrótowca „AI” na oznaczenie sztucznej inteligencji, ponieważ w tym kierunku kształtuje się ogólnoświatowa praktyka. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię związane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również m.in. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. W kwestii używanej terminologii, wyjaśnimy, że pojęcie AI posiada w języku Strona | 44 polskim odpowiednik jakim jest sztuczna inteligencja. Mając na uwadze obowiązujące przy tworzeniu prawa zasady techniki prawodawczej oraz zasady wynikające z ustawy dnia 7 października 1999 r. o języku polskim zdaniem projektodawcy przyjęta terminologia jest właściwa. 4. ZPWC Tytuł Zwracamy uwagę na sam tytuł projektu ustawy, który jest mylący. Projekt nie reguluje sztucznej inteligencji, lecz wdraża krajowe mechanizmy nadzoru i kontroli nad modelami i systemami AI. Uwaga wyjaśniona Zgodnie z art. 1 zakres projektu ustawy wykracza poza kwestię wiązane wyłącznie z nadzorem nad rynkiem sztucznej inteligencji. Projekt odnosi się również min. do kwestii wsparcia rozwoju sztucznej inteligencji należy wskazać, że zagadnienie to reguluje rozdział dotyczący środków wspierających innowacyjność. 5. AmCham Art. 2 Zakres terytorialny stosowania art. 2 jest niejasny. Brak wyraźnego ograniczenia zakresu stosowania ustawy do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli nie są one fizycznie obecne w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres Strona | 45 nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami Aktu o AI w zakresie nadzoru transgranicznego. jurysdykcji wynika z odrębnych aktów prawnych. 6. Związek Cyfrowa Polska Art. 2 Nie daje jasności co do zakresu terytorialnego. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnego aktu o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 7. ZPTC Lewiatan Art. 2 Projekt powinien jednoznacznie mieć zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem UE o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal zawiera ona niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby świadczyć o umożliwieniu polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Porównaj także: uwaga dotycząca art. 78, że zgłaszane powinny być poważne incydenty, mające miejsce na terenie Rzeczpospolitej Polskiej. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 8. GRAI Art. 2 Jest: Art. 2 nadal nie stanowi wyraźnie, że ma on zastosowanie do przedsiębiorców z siedzibą w Polsce, co stwarza ryzyko eksterytorialnego zakresu przedmiotowego. Uwaga wyjaśniona Strona | 46 Propozycja: Aby wykluczyć eksterytorialny charakter ustawy, rekomendujemy doprecyzowanie, że ustawa ma zastosowanie wyłącznie do podmiotów mających siedzibę w Polsce. Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 w zakresie wskazanym w uwadze. 9. PIIT Art. 2 ust. 1 Propozycja - “Ustawę stosuje się do podmiotów publicznych i prywatnych” Motyw 13 rozporządzenia UE potwierdza określony w art. 2 rozp. 2024/1689 krąg nadzorowanych systemów i podmiotów. Wzmianka w art. 38 ust. 3 pkt. 2 sprawia wrażenie poddania organów władzy publicznej w Polsce - dostawców i użytkowników systemów SI - wyłącznie przepisom ustawy z dnia 15 lipca 2011 r. o kontroli. Praktycznym skutkiem zapisu może być niemożność wyegzekwowania od nich przepisów określonych w rozp. 2024/1689 Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 10. ICC Polska Art. 2 ust. 1 pkt 1 Zgodnie z art. 2 ust. 1 pkt 1 Projektu, ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689 1 , z wyłączeniem osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z którąkolwiek z działalności, o których mowa w dalszej części tego przepisu (m.in. działalność gospodarcza, działalność nieewidencjonowana). Tymczasem zgodnie z art. 2 ust. 10 rozporządzenia 2024/1689, rozporządzenia tego nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. Porównanie obu regulacji może rodzić wątpliwości czy zakres wyłączenia zastosowania projektowanej ustawy nie jest za wąski w stosunku do wyłączenia zastosowania rozporządzenia 2024/1689. W uzasadnieniu brak jest natomiast jakiegokolwiek wyjaśnienia, które miałoby przemawiać za szerszym zakresem zastosowania ustawy niż samego rozporządzenia 2024/1689. Po pierwsze, zawarte w samym rozporządzeniu 2024/1689 wyłączenie odnosi się do wszelkich obowiązków podmiotów stosujących i nie ogranicza się – jak czyni to Projekt – do obowiązków, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689. Tymczasem samo rozporządzenie 2024/1689 przewiduje obowiązki podmiotów stosujących również w innych przepisach np. art. 4, art. 25, art. 50, art. 86 rozporządzenia 2024/1689 (które potencjalnie mogą dotyczyć również podmiotów stosujących będących osobami fizycznymi), których tym samym ustawowe wyłączenie nie będzie obejmować. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 1 w zakresie wskazanym w uwadze. 1 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwane dalej: „rozporządzeniem 2024/1689”. Strona | 47 Po drugie, zawarte w art. 2 ust. 1 pkt 1 Projektu szczegółowe wyliczenie rodzajów działalności może budzić wątpliwości z perspektywy zachowania jednolitości interpretacji wyłączenia na gruncie samego rozporządzenia 2024/1689, które posługuje się jedynie pojęciem „działalności pozazawodowej” oraz projektowanej ustawy. Dotyczy to m.in. zawartego w art. 2 ust. 1 pkt 1 lit. a) Projektu odesłania do „działalności, o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz.U. z 2024 r. poz. 226, z późn. zm.)”. Ten ostatni przepis dotyczy jednak różnego rodzaju przychodów, zaś w kontekście działalności wspomina jedynie o działalności rolniczej. Aktualna treść Projektu rodzi wątpliwości, czy art. 2 ust. 1 pkt 1 lit. a) Projektu dotyczy jedynie działalności rolniczej, czy też wszelkiej innej działalności związanej z uzyskiwaniem przychodów, o których mowa w ustawie podatkowej. W konsekwencji warto rozważyć albo ujęcie w Projekcie wyłączenia z art. 2 ust. 10 rozporządzenia 2024/1689 w identyczny sposób jak w samym rozporządzeniu, zapewniając tym samym jednolitość interpretacji samego rozporządzenia i ustawy w tym zakresie, albo przynajmniej dostosowanie obu wyłączeń przez usunięcie z art. 2 ust 1 pkt 1 Projektu słów „o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689” w następujący sposób: Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących, o których mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...) (...) Warto w tym miejscu zauważyć, że wdrażając rozporządzenie 2016/679 2 , ustawodawca nie uznał za niezbędne odrębnego uregulowania i doprecyzowania na poziomie ustawowym podobnego wyłączenia z art. 2 ust. 2 lit. c) rozporządzenia 2016/679 („przetwarzanie danych osobowych przez osobę fizyczną w ramach czynności o czysto osobistym lub domowym charakterze”). 11. AmCham Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 2 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), zwane dalej: „rozporządzeniem 2016/679”. Strona | 48 12. Związek Cyfrowa Polska Art. 2 ust. 2 Stwierdzenie z art. 2 ust. 2 o tym, że przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Akt o SI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 13. ZPTC Lewiatan Art. 2 ust. 2 Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie w związku z tym nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania art. 2 ust. 2 w zakresie wskazanym w uwadze. 14. GRAI Art. 2 ust 3 Propozycja brzmienia: „3. Do systemów zdalnej identyfikacji biometrycznej post factum, określonych w art. 3 pkt. 43 rozporządzenia 2024/1689, stosuje się odpowiednio art. 5 ust. 2-7 rozporządzenia 2024/1689.”. Uzasadnienie: Zasadnym jest, że ustawa nie dopuszcza wykorzystywania w kraju systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym (rezygnując z zakazu określonego w Akcie). Natomiast, nie wyłącza to konieczności uregulowania systemów zdalnej identyfikacji biometrycznej post factum (które nie są automatycznie zakazane przez Akt). Najprostszym rozwiązaniem byłoby odpowiednie stosowanie regulacji przewidzianych przez Akt dla systemów działających w czasie rzeczywistym. Pod względem redakcyjnym, wydaje się, że najprostszym rozwiązaniem byłoby dodanie nowego ustępu (nr 3) do artykułu 2. Uwaga wyjaśniona Kwestia nie wymaga odrębnego uregulowania w przedmiotowej ustawie. 15. IWP Repropol Art. 2 i Art. 4 Wątpliwości wciąż budzi sposób uregulowania zakresu stosowania UoSSI. W projekcie nawiązano jedynie do wybranych zakresów stosowania AIA, przy czym wciąż nie jest jasny klucz doboru wybranych wyłączeń. Art. 2 ust. 1 nakreśla podmiotowy zakres stosowania ustawy. Z zakresu tego wyłączone zostają osoby fizyczne „w zakresie obowiązków podmiotów stosujących, o których Uwaga wyjaśniona Ewentualna interpretacja przepisów art. 2 przez TSUE nie Strona | 49 mowa w art. 26 i art. 27 rozporządzenia 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych i nie pozostających w związku z: (...)”. W ten sposób nawiązano do art. 2 ust. 10 AIA, który wyłącza AIA w odniesieniu do „obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej”. Wydaje się, że przeniesienie ogólnej formuły AIA na polski grunt byłoby rozwiązaniem lepszym. Polski projektodawca wskazał jednak na katalog aktów prawnych (art. 2 pkt 1 lit a-e UoSSI), które mają egzemplifikować „czysto osobistą działalność pozazawodową”. Jesteśmy zwolennikami podejścia zaprezentowanego w AIA, tym bardziej, że to sformułowanie dość szybko powinno być – w razie wątpliwość – wyklarowane przez orzecznictwo TSUE. Ponadto, nawiązanie w polskiej transpozycji do art. 26 i 27 AIA jest wprost mylne, ponieważ przepisy te odnoszą się do podmiotów stosujących systemy AI wysokiego ryzyka. Tymczasem podmiotowe wyłączenie AIA nie jest ograniczone jedynie do systemów AI wysokiego, lecz także do innych, a zatem objętych jedynie obowiązkiem transparentności (art. 50 AIA) oraz pozostających poza obowiązkiem transparentności systemów minimalnego ryzyka. Odrębną uwagę trzeba poświęcić korzystnie, lecz nie całkowicie satysfakcjonująco zmodyfikowanemu wyłączeniu zawartemu w art. 4 pkt 4 i 5 UoSSI. Przepis ten stanowi, iż ustawy [tj. UoSSI] nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy (...) Prawo o szkolnictwie wyższym i nauce (...). Z kolei w kolejnym ustępie następuje doprecyzowanie wyłączenia stosowania UoSSI do „systemów wprowadzonych do użytku wyłącznie dla celów, o których mowa w pkt 4, przed wejściem w życie [AIA]”. W ten sposób powstał chaos. Zakładamy, że w zamyśle projektodawcy postanowienia te mają wdrażać art. 2 ust. 6 AIA, wedle którego „niniejszego rozporządzenia [tj. AIA] nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Polskie wdrożenie tego postanowienia nie jest jednak fortunne, mimo uwzględnienia niektórych uwag. Podkreślamy ponownie, że to wyłączenie jest fundamentalne dla całego przemysłu opartego o zdolność ludzkiej kreacji, w tym dziennikarzy i wydawców prasowych. Trzeba mieć świadomość, że tego rodzaju „czysto naukowe” modele oraz systemy AI pozostaną poza zakresem stosowania AIA, a tym samym poza obowiązkami przestrzegania prawa autorskiego czy zasad transparentności przy trenowaniu algorytmów generatywnej AI (zob. art. 53 AIA). Mając na uwadze dalekosiężność skutków, przepis nie może pozostawiać tylu wątpliwości, ile występuje na podstawie obecnej wersji. Ponownie zwracamy uwagę, że samo sformułowanie, iż ustawy „nie stosuje się do (...) podstawowych badań naukowych” jest po prostu niezrozumiałe. Trzeba podkreślić, że przekreśla obecnej konieczności uregulowania kwestii zakresu wyłączenia na gruncie prawa polskiego, a ewentualne wątpliwości co do objęcia przez przepisy rozporządzenia zastosowań AI dla celów osobistych mogą negatywnie wpłynąć na postrzeganie nowego prawa w społeczeństwie. Treść przepisów w zakresie włączeń stosowania ustawy została ustalona w oparciu o uwagi zgłoszone w ramach uzgodnień opiniowania i konsultacji w tym przez podmioty z obszaru nauki. Termin „podstawowe badania naukowe” został zaczerpnięty z ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce. Mając na uwadze, że przepis dotyczy włączeń stosowania przepisów ustawy niezasadne jest Strona | 50 to nie same badania (podstawowe, aplikacyjne czy prace rozwojowe), lecz modele oraz systemy AI rozwinięte i oddane do użytku w c e l a c h badań naukowych (i rozwojowych) pozostają poza zakresem AIA. Czwarty ustęp przepisu generuje również wiele nieporozumień. Wprawdzie pada w nim, że poza zakresem UoSSI pozostają „systemy wprowadzone do użytku wyłącznie dla celów, o których mowa w pkt 4”, ale dalsza część przepisu dodaje „przed wejściem w życie [AIA]”. Można zatem wnioskować, że poza zakresem zastosowania UoSSI znajdują się systemy powstałe w celach wyłącznie do celów naukowych, o ile zostały one wprowadzone do użytku przed wejściem w życie AIA. Takie rozumowanie byłoby jednak oczywiście błędne. Z pewnością art. 2 pkt 4 i 5 UoSSI wymaga modyfikacji. Ponadto wciąż uważamy, że nie ma potrzeby poszukiwania w polskim porządku prawnym odpowiednika „badań naukowych i rozwojowych”. Pojęcie to jest intuicyjnie dość zrozumiałe, a pojawiające się w skrajnych przypadkach spory będą musiały być rozstrzygane przez Trybunał Sprawiedliwości UE. posługiwanie się terminologią mogącą wywoływać wątpliwości interpretacyjne. 16. ZPWC Art. 2 i Art. 4 Sceptyczne oceniamy sposób uregulowania zakresu stosowania ustawy (art. 2 i 4 Projektu). Uważamy, że odwołanie się jedynie do wybranych zakresów AIA i brak jasnego klucza doboru wyłączeń stwarza ryzyko niejasności i problemów interpretacyjnych. Wyłączenie spod zakresu Projektu osób fizycznych korzystających z AI do „czysto osobistej działalności pozazawodowej” powinno opierać się na ogólnej formule z art. 2 ust. 10 AIA, nie zaś na niezwykle skomplikowanym sformułowaniu art. 2 pkt 1 lit. a-e Projektu. Ponadto, kwestia wyłączenia „badań podstawowych, aplikacyjnych oraz prac rozwojowych” (art. 4 pkt 4 i 5 Projektu) z zakresu Projektu również budzi nasze obawy. Niewłaściwe jest sformułowanie, że ustawy \"nie stosuje się do (.) badań (...)\". Art. 2 ust. 6 AIA, który jest w tym punkcie wdrażany, wyraźnie stanowi, że AIA nie stosuje się do „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych”. Aby uniknąć wątpliwości powstałych na gruncie polskiego wdrożenia uważamy, że lepsze byłoby odwołanie się wprost do brzmienia rozporządzenia. Uwaga wyjaśniona Przedmiotowe przepisy mają na celu zaadresowanie włączeń stosowania przepisów ustawy w zakresie jaki został określony w rozporządzeniu 2024/1689. Mając na uwadze zachowanie spójności z systemem prawa polskiego w projekcie ustawy posłużono się terminologią znaną systemowi prawa krajowego. 17. IA Chamber Art. 3 Podtrzymujemy uwagę dotyczącą przepisywania częściowo definicji z Rozporządzenia 2024/1689. Zastosowana tu technika legislacyjna budzi wątpliwości, a uzasadnienie nie zawiera wskazówek co do tego, dlaczego projektodawcy uznają ją za konieczną. Uwaga wyjaśniona Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i Strona | 51 często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 18. PIIT Art. 3 Jeżeli proponent podtrzymuje powtórzenie w treści krajowej ustawy definicji stosowanych bezpośrednio, to sugerujemy wykreślenie przynajmniej ust. 13 art. 3 Termin “organ właściwy” jest w prawodawstwie unijnym standardowo stosowanym termin, który pozwala na uwzględnienie różnorodności systemów prawa państw członkowskich i unikanie nazw rodzajowych typu “sąd”, “organ kontroli”, “komisja nadzoru” itp. Umożliwia to zarówno wdrożenie, jak i stosowanie, przepisów unijnego prawa zgodnie z krajowym ustrojem. Uwaga wyjaśniona Projektodawca podtrzymuje sposób uregulowania słowniczka ustawowego oraz jego zakres. Przyjęta przez projektodawcę technika jest zgodna z zasadami techniki prawodawczej i często stosowana w sytuacji, gdy przepisy krajowe mają służyć stosowaniu rozporządzeń UE. Ma ona na celu wyraźne wskazanie jak należy rozumieć użyte w projekcie ustawy pojęcia. Technika ta niweluje wątpliwości interpretacyjne. 19. PTI Art. 3 pkt 1-16 Jest to niepełna kalka przytoczona z „RPEiR UE” 2024/1689, jeśli zachować ciągłość należałoby przytoczyć wszystkie pkt. Lub odwołać się do wszystkich punktów tj. (68) - Uwaga wyjaśniona Strona | 52 pkt. Art. 3 Oraz (180) -pkt. określenia zakresu funkcjonowania tzw. \"systemów AI” wybranie niektórych zagadnień sugeruje zawężenie działań prewencyjnych. Pełne przytoczenie Art. 3. „RPEiR UE” 2024/1689 z uwzględnieniem powołania krajowych organów tj. komisji. W „RPEiR UE” 2024/1689 szczegółowo określono wspomniane „określenia definiujące” ograniczanie ich na szczeblu krajowym w perspektywie może kolidować z ustawodawstwem UE i podważać działania organu krajowego. Brak lub niepełna definicja, mogą powodować zamieszanie prawne (np. podważanie decyzji podjętych na szczeblu krajowym w odniesieniu do uregulowań na szczeblu unijnym). Zgodnie z zasadami techniki legislacyjnej w projekcie ustawy zamieszcza się wyłącznie definicje pojęć użytych w treści projektu. 20. PTI Art. 3 pkt 1 System sztucznej inteligencji - system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; niepełna definicja LLM już na etapie „RPEiR UE” 2024/1689” świadczy o braku zrozumienia zagadnienia Prosimy o rozważenie zmiany definicji a także uzupełnienie jej o uwagę. „RPEiR UE” 2024/1689” „system AI” oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii oraz który może wykazywać zdolność adaptacji, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki. Uwaga: systemy AI są również określane jako duże modele językowe (Large Language Model – LLM). Odwołanie się do „RPEiR UE” 2024/1689” nie gwarantuje pra- widłowego definiowania pojęcia tzw. systemów sztucznej inteligencji, czyli LLM ponadto ograniczenie zawęża wyniki działania LLM nie wymienionych w definicji. Z tego względu proponujemy korektę definicji. Dodatkowo prosimy o rozważenie dopisania uwagi. Uwaga wyjaśniona Przepisy projektu ustawy mają służyć stosowaniu rozporządzenia 2024/1689. Przepisy te nie mogą poszerzać ani zawężać, modyfikować przepisów ww. rozporządzenia, które są stosowane bezpośrednio. 21. GRAI Art. 3 pkt 15 Propozycja zmiany definicji piaskownicy regulacyjnej Obecne brzmienie: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.” Proponowane brzmienie: Uwaga wyjaśniona Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 53 „Piaskownica regulacyjna – mechanizm umożliwiający dostawcom systemów sztucznej inteligencji walidację, testowanie i rozwój systemów AI na podstawie zgłoszenia, przy zapewnieniu minimalnych wymogów etycznych dla ram Trustworthy AI (Godnej zaufania sztucznej inteligencji) i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” > Zmiana: ● Usunięcie wymogu nadzoru nad każdym testem – rola państwa ograniczona do ogólnej kontroli. Testy na zgłoszenie, a nie na decyzję – mniej biurokracji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 22. PIIT Art. 4 Sugerujemy ograniczenie wyłączenia spod rygorów ustawy (obecnie całość zadań ustawowych wymienionych w przepisie służb) do zakresu przedmiotowego wyznaczonego przez przepisy, bezpośrednio stosowane, rozporządzenia 2024/1689. Nie można spod rygorów rozporządzenia 2024/1689 wyłączyć tych obszarów działania służb, które pozostają poza zakresem wyłączeń zdefiniowanych w rozporządzeniu 2024/1689, a mają np. związek z bezpieczeństwem wewnętrznym (ściganiem przestępczości pospolitej). Obecne brzmienie projektowanego przepisu narusza prawo Unii. Uwaga wyjaśniona W przepisie zwarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 23. Fundacja Panoptykon Art. 4 pkt 2 Zgodnie z art. 2 ust. 3 rozporządzenia nie stosuje się go „do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami”. Pojęcie bezpieczeństwa narodowego nie jest precyzyjnie zdefiniowane w prawie wspólnotowym. Mimo problemów interpretacyjnych, jakie rodzi pojęcie bezpieczeństwa narodowego, nie sposób zgodzić się ze stanowiskiem prezentowanym przez Ministra – Koordynatora Służb Specjalnych, postulującego całkowite wyłączenie stosowania projektowanej ustawy względem służb specjalnych. Taka regulacja byłaby niezgodna zarówno z orzecznictwem TSUE i ETPC, jak i analizą ustawowych zadań realizowanych przez służby specjalne. Pozytywnie zatem oceniamy intencję autorów projektu, by doprecyzować, w jakich sprawach nie stosuje się do działań służb specjalnych opiniowanego projektu. Jednak Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie włączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia Strona | 54 proponowane brzmienie art. 4 ust. 2 i ust. 3 projektu oceniamy krytycznie. Na podstawie analizy art. 4 ust. 2 niejasny jest zakres znaczeniowy tego przepisu, który może – od rozpoczęcia obowiązywania – budzić wątpliwości interpretacyjne. Naszym zdaniem doprecyzowania wymaga to, czy planowane wyłączenie dotyczyć ma: ● wszystkich spraw związanych z realizacją zadań ustawowych ABW, czy tylko ● tych „pozostających w bezpośrednim związku z działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej”, czy wreszcie ● wszystkich spraw, w tym działań pozostających w bezpośrednim związku z działaniami lokalizowania (...) jedynie w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy o ABW i AW. Najbardziej prawdopodobna wydaje się trzecia z wymienionych interpretacji. W tej sytuacji niejasna jest sytuacja Agencji Wywiadu, o której mowa w pierwszej części proponowanego przepisu (art. 4 ust. 2), podczas gdy na jego końcu mowa już tylko o „(...) zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa”, podczas gdy Agencja Wywiadu (zgodnie z przywołanym art. 2 ustawy o ABW i AW) zajmuje się ochroną bezpieczeństwa zewnętrznego państwa. Pozostając na gruncie trzeciej z możliwych interpretacji zwracamy uwagę, że odwołanie do art. 1 ustawy o ABW („Tworzy się Agencję Bezpieczeństwa Wewnętrznego właściwą w sprawach ochrony bezpieczeństwa wewnętrznego państwa i jego porządku konstytucyjnego”) bez odesłania do konkretnych zadań wymienionych w art. 5 ustawy rodzi kolejne wątpliwości interpretacyjne związane z pytaniem, czy wszystkie zadania realizowane przez ABW (także np. na podstawie odrębnych ustaw i umów międzynarodowych (por. art. 5 ust. 1 pkt 5 ustawy o ABW i AW) mieszczą się w zakresie ogólnej właściwości ABW wskazanej w art. 1 ustawy o ABW i AW. Przyjęcie takiej interpretacji prowadziłoby do wniosku, że de facto w zakresie wszystkich swoich zadań ABW nie podlega proponowanej regulacji. Przyjęcie z kolei odmiennej interpretacji wiązałoby się z koniecznością każdorazowej oceny, czy realizowane przez Agencję zadanie wiążę się z ogólną właściwością służby zgodnie z art. 1 ustawy o ABW. Taka regulacja byłaby w naszej ocenie skrajnie nieefektywna i niepraktyczna, zwłaszcza biorąc pod uwagę, że wskazane wyżej liczne wątpliwości interpretacyjne rozstrzygałaby w praktyce sama ABW będąc poniekąd „sędzią we własnej sprawie”. Analiza zadań ustawowych służb specjalnych wskazuje, że są nimi m.in. przeciwdziałanie korupcji w sporcie (por. art. 2 ust. 1 lit. e ustawy o CBA) lub rozpoznawanie, zapobieganie i wykrywanie przestępstw nielegalnego wytwarzania, posiadania i obrotu bronią, amunicją i materiałami wybuchowymi (por. art. 5 ust. 1 pkt określonego w rozporządzenia 2024/1689. Dodatkowe doprecyzowanie przepisów nie znajduje uzasadnienia. Strona | 55 2 lit. e ustawy o ABW). Tego typu przestępstwa nie mieszczą się nawet w szeroko rozumianej definicji bezpieczeństwa narodowego. W wyroku z 28 maja 2024 r. w sprawie Pietrzak, Bychawska-Siniarska i inni przeciwko Polsce Europejski Trybunał Praw Człowieka wskazał, że „w sprawach dotyczących praw podstawowych prawo byłoby sprzeczne z zasadą rządów prawa, jedną z podstawowych zasad społeczeństwa demokratycznego zapisanych w Konwencji, gdyby nie zawierało ograniczeń swobody decyzyjnej przyznanej władzy wykonawczej w sprawach bezpieczeństwa narodowego. W związku z tym ustawodawstwo musi określać zakres i sposób wykonywania takiego uprawnienia z wystarczającą jasnością – biorąc pod uwagę uzasadniony cel – aby zapewnić jednostce odpowiednią ochronę przed arbitralnością”. Trybunał Sprawiedliwości UE w wyroku w połączonych sprawach C-511/18, C-512/18 i C-520/18 wskazał, że państwa członkowskie nie mają pełnej swobody w zakresie regulacji dotyczących bezpieczeństwa narodowego: w kontekście możliwego w tym celu nałożenia na firmy telekomunikacyjne obowiązku retencji danych Trybunał wskazał, że jest to możliwe, jeśli ustawodawca zapewni, że zatrzymywanie danych będzie uzależnione od spełnienia związanych z nim materialnych i proceduralnych warunków oraz że osoby, których dane dotyczą, dysponują skutecznymi gwarancjami chroniącymi przed ryzykiem nadużyć. W związku z tym naszym zdaniem konieczna jest ponowna analiza zaproponowanego wyłączenia, które – w naszej ocenie – powinno dotyczyć konkretnych jednostek redakcyjnych wskazanych w art. 5 ust. 1 ustawy o ABW i AW. odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1-2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. 24. Fundacja Panoptykon Art. 4 pkt 3 Przechodząc do analizy art. 4 ust. 3 (wyłączenie dotyczące Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego) jego interpretacja także rodzi wątpliwości ze względu na odesłanie do „zadań ustawowych SKW i SWW, o których mowa w art. 1- 2 ustawy” [o SKW i SWW]. Tymczasem zadania ustawowe tych służb wymienione są odpowiednio w art. 5 i art. 6 ustawy. Podobnie jak w przypadku uwag dotyczących art. 4 ust. 3 postulujemy odwołanie się do tych zadań SKW i SWW wymienionych w art. 5 i 6 ustawy, które w ocenie projektodawcy są bezpośrednio związane z bezpieczeństwem narodowym. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg Strona | 56 projektodawcy przepis oddaje właściwą intencję wyłączenia. 25. GRAI Art. 4 pkt 3 Art. 4 pkt 3 może wzbudzać wątpliwości interpretacyjne, a dotyczy ważkiej kwestii zakresu wyłączenia stosowania ustawy w kontekście badań naukowych. Warto rozważyć uproszczenie art. 4 pkt 3, bowiem występują dwie negacje – ustawy nie stosuje się do (...) w zakresie, który nie obejmuje testów (...), co może utrudniać zrozumienie tego przepisu. Ponadto, jeśli zamiarem projektodawcy było wprowadzenie do ustawy wyjątku od jej stosowania w ślad za wyłączeniem z art. 2 ust. 7 rozporządzenia 2024/1689, obecne brzmienie art. 4 pkt 3 wydaje się tylko częściowo korespondować z intencją prawodawcy unijnego, która została wyrażona w części nienormatywnej rozporządzenia, czyli w motywie 25 preambuły. Wydaje się też, że przy konstruowaniu wyłączenia w ustawie bardziej trafne byłoby posłużenie się kryterium podobnym do znajdującego się w art. 2 ust. 7 rozporządzenia 2024/1689, czyli „systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych” zamiast „badań podstawowych, aplikacyjnych oraz prac rozwojowych”. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 26. ICC Poland Art. 4 pkt 4 Zgodnie z art. 4 pkt 4 Projektu, ustawy nie stosuje się do „4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689” [podkreślenie własne]. Obecna redakcja tego wyłączenia, z uwagi na jej skomplikowany charakter, może błędnie sugerować, że art. 4 pkt 4 Projektu wyłącza zastosowanie ustawy w stosunku do wprowadzania do obrotu lub oddawania do użytku wszelkich systemów sztucznej inteligencji dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, nie tylko w obszarze badań podstawowych, aplikacyjnych oraz prac rozwojowych. W konsekwencji wskazany przepis wymaga doprecyzowania, jak również rozważenia jego kompatybilności z wyłączeniami z art. 2 ust. 6 i 8 rozporządzenia 2024/1689. Uwaga wyjaśniona W przepisie zawarto odzwierciedlenie wyłączeń określonych w przepisach rozporządzenia 2024/1689 z uwzględnieniem specyfiki prawa polskiego. Wg projektodawcy przepis oddaje właściwą intencję wyłączenia. 27. ZPTC Lewiatan Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego nie oddaje tego czym w rzeczywistości ma się zajmować regulator. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 57 Jedynym zadaniem Komisji związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem Komisji związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa, w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań, leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jak najlepiej jej charakter. 28. IA Chamber Art. 5 i następne Podobnie nadal niedoskonałe, mimo pozytywnych zmian, wydają się przepisy powołujące Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, na co wskazaliśmy w poprzedniej opinii. Umocowanie Przewodniczącego KRiBSI, jako jednoosobowego organu administracji centralnej, wydaje się rozwiązaniem lepiej pasującym do polskiej tradycji prawa administracyjnego i pozwalającym uniknąć szeregu trudności, które są konsekwencji przyjętej formuły, w której KRiBSI jest organem kolegialnym, w którym część członków jest zatrudniona w Biurze KRiBSI, a część reprezentuje jedynie inne organy. Jednocześnie i Komisja i jej Przewodniczący są organami Biura, co jest nader złożona konstrukcją prawną. Wydaje się, że projektodawcy sami dostrzegają mankamenty przyjętej konstrukcji, dając możliwości delegowania uprawnień decyzyjnych Komisji na rzecz Przewodniczącego. Można się spodziewać, że będzie to możliwość często wykorzystywana, gdyż zapewni odpowiednią efektywność proceduralną np. w sprawach indywidualnych, gdzie kolegialność organu nie wnosi z reguły wartości dodanej, a spowalnia postępowanie. Konsekwentnie Biura KRiBSI powinno wtedy nosić nazwę “Urzędu KRiBSI”. Uwaga wyjaśniona Przepisy w zakresie powołania i funkcjonowania KRIBSI oraz Biura komisji uległy w wyniku rozpatrzonych uwag kolejnym zmianom. Pozostano jednak przy koncepcji kolegialnego organu nadzoru. 29. AmCham Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Uwaga wyjaśniona Strona | 58 Propozycja: Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji lub inna oddająca rzeczywisty charakter regulatora Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice legislacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym z europejskiej regulacji. Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i za wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś nazwa Komisji nie zawiera słowa„systemy”. Podobnie jak w przypadku innych organów regulacyjnych istotne jest, aby nazwa Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. 30. GRAI Art. 5 Jest: Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Propozycja zmiany nazwy organu na np. „Komisja nadzoru nad stosowaniem systemów sztucznej inteligencji” lub inna nazwa oddająca rzeczywisty charakter regulatora i zakresu spraw, którymi się zajmuje. Uzasadnienie: Aktualna propozycja nazwy organu regulacyjnego brzmi wprawdzie znakomicie, jednak nie oddaje tego czym w rzeczywistości ma się zajmować ten organ. Jedynym zadaniem związanym z rozwojem opisanym w ustawie są piaskownice regulacyjne, co samo w sobie nie jest rozwojem sztucznej inteligencji ani rozwojem systemów sztucznej inteligencji, a jedynie przygotowaniem narzędzia pozwalającego na sprawdzanie zgodności rozwiązania z wymaganiami. Co więcej, nie jest to elementem polskiej strategii rozwoju sztucznej inteligencji, a obowiązkiem wynikającym z AI Act. Jedynym zadaniem związanym z bezpieczeństwem opisanym w ustawie jest zbieranie informacji o poważnych incydentach. Ponownie, mówimy o obowiązku wynikającym wprost z europejskiej regulacji. Uwaga wyjaśniona Zdaniem projektodawcy obecna nazwa organu w pełni oddaje jego cele i zadania. Strona | 59 Widać zatem, że zarówno tworzenie warunków rozwoju sztucznej inteligencji (modeli, systemów), jak i kwestie bezpieczeństwa w zdecydowanej części i z wyjątkiem dwóch wymienionych wyżej działań leżą w kompetencji innych organów państwa. Wreszcie sama ustawa mówi o systemach sztucznej inteligencji, zaś Komisja już w proponowanej nazwie gdzieś zgubiła słowo „systemy”. A zatem podobnie jak inne urzędy regulatorów warto by nazwa urzędu/Komisji oddawała jej prawdziwy charakter i rodzaj wykonywanych zadań. Tym samym podtrzymujemy uwagę zgłoszoną w tym zakresie do poprzedniej wersji projektu z października 2024 r. Nazwa organu nie powinna odwoływać się do rozwoju i bezpieczeństwa AI, z uwagi na to, że jego rolą ma być zasadniczo nadzorowanie AI, a nie prowadzenie działań rozwojowych. Preferowana nazwa to Komisja Nadzoru nad Sztuczną Inteligencją. Dopuszczalną w świetle funkcji takiego organu (choć nie preferowaną) nazwą byłaby również Komisja Nadzoru i Bezpieczeństwa Sztucznej Inteligencji (z zastrzeżeniem, że nazwa ta jest poprawna z perspektywy funkcji organu, ale odrębnie wydzielony czynnik „bezpieczeństwa” może zostać uznany za niepoprawny od strony logicznej, ponieważ zawiera się ono już w ramach kryteriów sprawowanego „nadzoru”). Alternatywnym rozwiązaniem może być również nadanie nazwy organu w brzmieniu: Komisja ds. Sztucznej Inteligencji, przez co zakres jego działania nie byłby wprost powiązany z nazwą i stwarzałby przestrzeń do kształtowania jego docelowych kompetencji. 31. GRAI Art. 5 W projekcie zaproponowano utworzenie Biura Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako państwowej osoby prawnej, którego zadaniem będzie zapewnienie obsługi Komisji, Przewodniczącego Komisji oraz Społecznej Rady. Tymczasem w przypadku Komisji Nadzoru Finansowego zapewnienie obsługi jest zadaniem Urzędu Komisji Nadzoru Finansowego, tak samo działa Urząd Ochrony Danych Osobowych, Urząd Komunikacji Elektronicznej, Urząd Ochrony Konkurencji i Konsumentów. Pomimo istnienia w administracji publicznej również \"biur\" (Biuro RPO, Biuro RPD, Biuro KRRIT) w powszechnym rozumieniu może to być mylące, a biorąc pod uwagę długą i szczegółową nazwę Komisji trudne do wytłumaczenia czy zrozumienia, podczas gdy \"urząd\" jednoznacznie kojarzy się z działaniem nadzorczym. Być może decyzja projektodawcy wynika z przepisów administracyjnych i wtedy różnicę tę można wyjaśnić w uzasadnieniu, jeśli taka ma występować. Uwaga wyjaśniona Zdaniem projektodawcy nazwa „Biuro Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji” w pełni oddaje jego cele i zadania. 32. GRAI Art. 5 ust. 1 i 2 - Propozycja zmiany organizacji nadzoru nad AI (Art. 5) > Obecne brzmienie: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Uwaga wyjaśniona Treść uwagi wykracza poza zakres Strona | 60 > Nowa wersja Art. 5 ust. 1 i 2 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.” 2. „Komisja nie ingeruje w proces testowania systemów AI, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.” > Zmiana: ● Komisja nie kontroluje każdego testu, a jedynie prowadzi nadzór systemowy. Firmy same zgłaszają testy przewidziany dla ustawodawcy krajowego przez przepisy rozporządzenia. 33. PIIT Art. 5 ust. 3 Sugerujemy skreślenie ust. 3 art. 5 lub zastąpienie go przepisem ogólnym przypominającym o współpracy w ramach administracji rządowej lub nawet publicznej. Komisja jest uprawniona do kontroli i egzekwowanie przepisów rozp. 2024/1689 wobec wszystkich osób, chyba że przepisy rozp. stanowią inaczej. Ma możliwość kontroli systemów, a nakaz współpracy z innymi organami administracji w szerszym zakresie wynika z ogólnych przepisów. Uwaga wyjaśniona W celu właściwej realizacji przepisów rozporządzenia 2024/1689 oraz ustawy oraz wynikających z nich zadań Komisji zdaniem projektodawcy konieczne jest utrzymanie przepisów o współpracy KRiBSI z podmiotami wskazanymi w art. 5 ust. 3. 34. ZBP Art. 5 ust. 3 pkt 1 W nowej wersji projektu ustawy o systemach sztucznej inteligencji w dalszym ciągu brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Jednoznaczne rozstrzygnięcie zakresu nadzoru KRiBSI i KNF nad systemami sztucznej inteligencji jest niezbędne dla zapewnienia przejrzystych zasad nadzoru. Przepisy ustawy powinny jednoznacznie określać na czym polega współpraca KRiBSI z KNF oraz wskazywać czy w polskim porządku prawnym będzie nadzór KNF w zakresie AI na zasadzie określonej w art. 74 ust. 6 AI Act, czy Polska jako państwo członkowskie będzie korzystać z odstępstwa, o którym mowa w art. 74 ust. 7 AI Act. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować Strona | 61 powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. 35. GRAI Art. 5 ust. 3 pkt 1 Brakuje doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z projektu ustawy w dalszym ciągu nie wynika jednoznacznie rola KNF w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji, w tym wysokiego ryzyka. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemni prawnie chronionych. Podstawę do ustalenia zasad współpracy stanowi art. 5 ust. 3 pkt 1 oraz art. 99. Strona | 62 36. ICC Poland Art. 5 ust. 3 pkt 3 Za proponowanym usunięciem przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych ze składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”) (nowy art. 6 ust. 2 Projektu), niezależnie od oceny tej zmiany, powinno podążyć rozszerzenie zakresu współpracy pomiędzy Komisją a Prezesem Urzędu Ochrony Danych Osobowych. Tymczasem, pomimo dokonania zmiany w składzie Komisji względem projektu z 15 października 2024 r., zmianie nie uległ art. 5 ust. 3 pkt 3 Projektu, zgodnie z którym: „W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...); 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Wobec rezygnacji z udziału przedstawiciela Prezesa Urzędu Ochrony Danych Osobowych jako członka Komisji, zakres spraw wymagających współpracy pomiędzy tymi organami powinien ulec rozszerzeniu i nie ograniczać się wyłącznie do spraw, w których współpracy takiej wymaga wprost samo rozporządzenie 2024/1689. Nadzór nad systemami sztucznej inteligencji wielokrotnie będzie ściśle wiązał się z nadzorem nad przetwarzaniem danych osobowych (np. danych osobowych podmiotów stosujących, danych osobowych zawartych w danych treningowych systemów sztucznej inteligencji), a w konsekwencji wymagał współpracy Komisji i Prezesa Urzędu Ochrony Danych Osobowych. W konsekwencji proponuje się następującą zmianę art. 5 ust. 3 pkt 3 Projektu: W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: (...) 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie, w jakim systemy sztucznej inteligencji wiążą się z przetwarzaniem danych osobowych oraz w zakresie spraw, o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689; (...)”. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 oraz art. 101 projektu ustawy. Uregulowanie zakresu współpracy w zakresie, o którym mowa w uwadze zostanie rozstrzygnięte w późniejszym okresie w ramach pracy nad dostosowaniem przepisów prawa do wymogów związanych z nadzorem nad systemami wysokiego ryzyka (art. 6 rozporządzenia), do czego konieczne jest uprzednio opublikowania przez Komisję Europejską aktów delegowanych i materiałów merytorycznych Strona | 63 dookreślających stosowanie przepisów rozporządzenia w odniesieniu do tych systemów. 37. Polskie sieci elektroenerget yczne Art. 5 ust. 3 pkT 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 38. GRAI Art. 5 ust. 3 pkt 6 Jest: (współpracuje z) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK Propozycja: dodać Certy Sektorowe, które powstaną na mocy nowelizacji o KSC Uwaga wyjaśniona Zakres podmiotowy aktualnej wersji przepisu odpowiada intencji projektodawcy. 39. Stowarzyszen ie Autorów ZAiKS Art. 5 ust. 3 nowy pkt 11) oraz zmiana numeracji pkt. 11 i 12 Art. 5 ust. 3 pkt 11) Projektu otrzymuje następujące brzmienie: „3. W zakresie określonym przepisami rozporządzenia 2024/1689 oraz ustawy Komisja współpracuje z: 11) ministrem właściwym spraw kultury i ochrony dziedzictwa narodowego - w zakresie realizacji obowiązków wynikających z art. 53 rozporządzenia 2024/1689;” Pkt 11-12 w art. 5 ust. 3 otrzymują numerację odpowiednio: 12-13. UZASADNIENIE: Sprzeciwiamy się wprowadzonym w Projekcie zmianom w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej „Komisja”), które nie tylko nie zapewniły, proponowanego przez większość organizacji reprezentujących środowiska kreatywne, obligatoryjnego udziału przedstawiciela ministra właściwego do spraw kultury i dziedzictwa narodowego, jako organu administracji rządowej odpowiedzialnego za kształtowanie krajowej polityki kulturalnej i rozwój prawa autorskiego. Zrezygnowano również z jednoznacznego wskazania możliwości udziału przedstawiciela tego resortu w charakterze doradczym, wprowadzając enigmatyczną możliwość doradzania Komisji przez „przedstawicieli podmiotów publicznych”. Jedynym organem związanym w jakikolwiek sposób z sektorami kreatywnymi, który ma współpracować z Komisją, jest Krajowa Rada Radiofonii i Telewizji, przy czym działać ma ona jedynie w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w ramach działalności dostawców usług medialnych, wskazanych w ustawie Uwaga wyjaśniona Art. 5 ust. 3 stanowi, że KRiBSI współpracuje z ministrami w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. Strona | 64 o radiofonii i telewizji, czyli nie w zakresie wszystkich podmiotów, na których sytuację wpływ mają te systemy. Należy ponownie zwrócić uwagę, że jednym z zadań Komisji, wskazanym w art. 9 Projektu jest „sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689\" oraz „wydawanie postanowień i decyzji w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy”. AI Act w art. 53 w stosunku do dostawców modeli Gen AI przewiduje szereg obowiązków, w tym wprowadzanie polityk służących zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych oraz sporządzanie szczegółowego streszczenie na temat treści wykorzystanych do trenowania danego modelu Gen AI. Ocena spełniania tych obowiązków w Polsce będzie należeć do Komisji i, w naszej opinii, powinna być dokonywana przez osoby legitymujące się wiedzą ekspercką w zakresie prawa autorskiego i praw pokrewnych. Z tego względu udział przedstawicieli resortu kultury nie może być wyłącznie konsultacyjny. Jeżeli przedstawiona argumentacja nie znalazłaby odzwierciedlenia w zmianach do Projektu, postulujemy, o co najmniej wprowadzenie w art. 5 do Projektu. 40. FinTech Poland Art. 6 a. Rozszerzony skład komisji Zgodnie z Rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. UE. L. z 2024 r. poz. 1689) („Rozporządzenie SI”) nowo powołany (lub wzmocniony nowymi kompetencjami istniejący) organ ds. SI powinien nadzorować cały ruch na rynku sztucznej inteligencji. W ramach swoich kompetencji organ nie tylko monitoruje przestrzeganie uchwalonego prawa, lecz także ma obowiązek opracowywania kodeksów dobrych praktyk oraz moderowania standardów rynkowych. Aby usprawnić te działania, konieczne jest zapewnienie w składzie polskiego organu, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”), uwzględniono głos środowiska wysoko wyspecjalizowanego. NASK obecnie pełni kluczową rolę w zakresie cyberbezpieczeństwa i zarządzania infrastrukturą polskiej sieci internetowej, będąc instytucją o ugruntowanym autorytecie. Jako jednostka skupiająca najlepszych ekspertów w dziedzinie inżynierii cyfrowej, NASK dysponuje unikalnym zapleczem naukowym i technologicznym. Włączenie jego przedstawiciela do Komisji zapewni, że jej decyzje będą oparte na rzetelnej wiedzy eksperckiej i uwzględnią aktualne wyzwania związane z bezpieczeństwem cyfrowym. Tym samym jego głos będzie głosem nauki i techniki, co pozwoli na podejmowanie optymalnych i przyszłościowych rozwiązań w zakresie działań Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Strona | 65 41. IA Chamber Art. 6 ust. 2 Projektodawcy nie wyjaśniają w uzasadnieniu (ponownie!), na podstawie jakich kryteriów wskazują w art. 6 ust. 2 instytucje, które będą reprezentowane w KRiBSI. Jej skład został ograniczony, co można uznać za pozytywny ruch, ale dobór nadal budzi wątpliwości. Wykluczenie przedstawicieli ministerstw można zrozumieć (choć z braku uzasadnienia to spekulacja) jako próbę zapewnienia Komisji większej niezależności, ale skutkować będzie oderwaniem Komisji od gremium decyzyjnego, które może mieć faktyczny wpływ na rozwój SI w Polsce. Projektodawcy deklarują cel zapewnienia udziału “organów kluczowych” dla nadzoru i rozwoju SI w KRiBSI, ale pod żadnym względem nie można za takowy uznać Rzecznika Praw Dziecka. W składzie brakuje zaś (poza ministrami) przedstawicieli instytucji, które faktycznie mają wiedzę fachową w zakresie SI (NASK, Instytut Badawczy IDEAS). Uwaga wyjaśniona 1.Uzasadnienie do projektu ustawy do art. 6 zostało rozbudowane. 2.Przedstawiciele ministerstw w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji nie wchodzą w skład KRiBSI w celu zapewnienia należytej niezależności organu. Będą oni jednak mogli uczestniczyć w posiedzeniach Komisji bez prawa głosu na zasadach określonych w art. 6 ust. 4. 3.Nie jest planowane rozbudowanie składu Komisji o takie podmioty jak (NASK, Instytut Badawczy IDEAS. 4.Przedstawiciele tych podmiotów będą natomiast mogli uczestniczyć w posiedzeniach Komisji na zasadach określonych w art. 6 ust. 3. 5.W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi Strona | 66 przedstawiciel Rzecznika Praw Dziecka. 42. AmCham Art. 6 ust. 2 W świetle projektowanych przepisów Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma się składać wyłącznie z przedstawicieli następujących organów: Prezes UOKiK, KNF, Rzecznik Praw Dziecka, KRRiT, Prezesa UKE, Państwowej Inspekcji Pracy oraz Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Zatem Komisja ma się składać wyłącznie z przedstawicieli organów regulacyjnych, których głównym zadaniem jest kontrola, nadzór i egzekwowanie przestrzegania sektorowych przepisów prawa, w tym nakładanie kar pieniężnych. Trudno wyobrazić sobie, aby Komisja, składająca się wyłącznie z przedstawicieli organów kontroli i nadzoru, faktycznie była w stanie perspektywę inną niż ta wynikająca z doświadczeń w zakresie kontroli i nadzoru. Celem zapewnienia zrównoważonego i odpowiedzialnego rozwoju sztucznej inteligencji w Polsce, Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinna zostać poszerzona o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców, ze względu na swoją nadrzędną rolę w kształtowaniu polityki AI. Obecność ekspertów z tych dziedzin wzbogaciłaby Komisję o niezbędną wiedzę specjalistyczną i zapewniłaby zrównoważone podejście do rozwoju sztucznej inteligencji w Polsce. Włączenie przedstawicieli nauki, takich jak profesorowie uniwersytetów, badacze z instytutów naukowych czy eksperci z organizacji pozarządowych, pozwoliłoby Komisji uwzględniać najnowsze osiągnięcia badawcze i trendy technologiczne w dziedzinie AI. To z kolei umożliwiłoby podejmowanie decyzji opartych na rzetelnej wiedzy naukowej. Dzięki temu Polska mogłaby skuteczniej konkurować na arenie międzynarodowej w dziedzinie badań i rozwoju AI, przyciągając inwestycje i talenty z zagranicy. Z kolei obecność przedstawicieli organizacji przedsiębiorców w Komisji zapewniłaby lepsze zrozumienie praktycznych aspektów wdrażania AI w biznesie. Ich doświadczenie i wiedza byłyby nieocenione przy tworzeniu regulacji, które sprzyjałyby innowacjom i inwestycjom. Podsumowując, poszerzenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych, pracodawców i przedsiębiorców jest niezbędne, aby zapewnić zrównoważony i odpowiedzialny rozwój sztucznej inteligencji w Polsce. Tylko takie kompleksowe podejście, uwzględniające perspektywy różnych dziedzin i sektorów, pozwoli na wykorzystanie potencjału AI dla dobra całego społeczeństwa, jednocześnie minimalizując ryzyko związane z jej zastosowaniem. W ten sposób Polska może stać się liderem w dziedzinie sztucznej inteligencji, kształtując przyszłość technologii w sposób odpowiedzialny i zrównoważony. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Strona | 67 43. FinTech Poland Art. 6 ust. 2 W Projekcie ustawy wprowadzono pozytywną zmianę poprzez ograniczenie składu Komisji, co może usprawnić jej działanie. Jednak budzi poważne zastrzeżenia fakt, że nie przewidziano w niej udziału przedstawicieli instytucji posiadających specjalistyczną wiedzę techniczną o AI, cyberbezpieczeństwie, takich jak NASK czy instytut badawczy IDEAS. Ich obecność mogłaby zapewnić bardziej merytoryczne podejście do działań podejmowanych przez Komisję i lepsze dostosowanie przepisów do realiów technologicznych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 44. KIGEiT Art. 6 ust.2 Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Uwaga częściowo uwzględniona+ Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. Udział w posiedzeniach przedstawicieli instytucji posiadających wiedzę ekspercką, jak m.in. PURPLWMiPB będzie możliwy, za zgodą Przewodniczącego będzie możliwy (na zasadzie obserwatora bez prawa głosu). Dodatkowo, w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka. Strona | 68 45. PIIT Art.6 ust.2 Skład Komisji Stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Zob. Także uwagi ogólne. Uwaga częściowo uwzględniona Po analizie zgłoszonych uwag projektodawca zdecydował się na przedstawienie innego niż będącego przedmiotem uwagi składu Komisji. W aktualnej wersji projektu ustawy o systemach sztucznej inteligencji w skład KRiBSI nie wchodzi przedstawiciel Rzecznika Praw Dziecka ani PURPLWMiPB. 46. PIIT Art. 6 ust. 2 W skład Komisji powinni wchodzić przedstawiciele nauki oraz organizacji pozarządowych. Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicieli różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców co jest niezbędne, jeśli Komisja faktycznie ma być Komisją Rozwoju Sztucznej Inteligencji, a nie tylko Komisją Bezpieczeństwa Sztucznej Inteligencji. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckie. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły Strona | 69 również wskazać kandydatów na członków Społecznej Rady. 47. Polskie sieci elektroenerget yczne Art. 6. ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka wyznaczonego przez Pełnomocnika Rządu do spraw Cyberbezpieczeństwa, np. z CSIRT NASK Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt 6. 48. Związek Cyfrowa Polska Art. 6 ust. 2 Ponieważ Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie nadzorować różne obszary zastosowania sztucznej inteligencji, to w jej skład, poza przedstawicielami różnych instytucji państwowych, powinni wchodzić również przedstawiciele środowisk naukowych oraz organizacji zrzeszających przedsiębiorców. Poszerzenie składu Komisji pozwoli na uwzględnienie głosu nauki i przedsiębiorców. Poszerzenie składu da Komisji dostęp do niezbędnej wiedzy eksperckiej. Takie rozwiązanie zapewni kompleksowe i zrównoważone podejście do zarządzania sztuczną inteligencją. Udział niezależnych przedstawicieli społecznych nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Wręcz przeciwnie – zwiększy transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Jednocześnie, udział przedstawicieli instytucji, o których mowa w uwadze w posiedzeniach możliwy będzie za zgodą Przewodniczącego (w trybie obserwatora bez prawa głosu). Organizacje pozarządowe oraz reprezentujące naukowców będą mogły również wskazać Strona | 70 kandydatów na członków Społecznej Rady. 49. GRAI Art. 6 ust. 2 Jest: wymienieni są członkowie komisji, brak na liście przedstawiciela związanego z cyberbezpieczeństwem Propozycja: dodać członka związanego np. z CSIRT NASK Jest: Prezes Urzędu Ochrony Danych Osobowych (PUODO) został usunięty z Komisji. Propozycja: Proponujemy przywrócenie Prezesa UODO lub wprowadzenie przymusowego mechanizmu komunikacji z nim w sprawach zw. z przetwarzaniem danych osobowych. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Współpraca z instytucjami z zakresu cyberbezpieczeństwa realizowana będzie w sposób stały na podstawie art. 5 ust. 3 pkt. 6. 50. ZPTC Lewiatan Art. 6 ust. 2a w związku z Art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu 2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez zapisu dotyczącego obligatoryjnego zapraszania na posiedzenia Komisji „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego Strona | 71 miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 51. GRAI Art. 6 ust. 2a w związku z art. 6 ust. 3, w kontekście art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu: „2a. Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.”. Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”), co w przypadku podmiotów, które są wymienione w art. 5 ust. 3 powinno być obligatoryjne. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się jednak dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Art. 6 ust. 3 pozostaje bez zmian i Przewodniczący Komisji może zaprosić inne osoby lub podmioty, których obecność podczas posiedzenia Komisji może przynieść korzyść. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw Strona | 72 będących przedmiotem posiedzenia. 52. FinTech poland Art. 6 ust. 3 pkt 1 W projektowanym przepisie artykułu 6 ust. 3 pkt 1) zakładana jest współpraca pomiędzy Komisją Nadzoru Finansowego oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jak również współpraca z Prezesem Urzędu Ochrony Danych Osobowych. Wątpliwości rynku budzi zakres takiej współpracy. Komisja Nadzoru Finansowego zgodnie art. 74 ust. 6 AI Act jest organem nadzoru rynku do celów AI Act w odniesieniu do systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. Dlatego doprecyzowania wymaga obszar takiej współpracy oraz jej tryb. Brak takiego wyjaśnienia może powodować wprzyszłości spory kompetencyjne lub niespójności w wydawanych stanowiskach przez KRiBSI oraz KNF. Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy organów PUODO, KNF z KRIBSI. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust.1 i 3 oraz art. 99 i art. 101 projektu ustawy. Planowana współpraca powinna zawierać między innymi możliwość wymiany informacji w zakresie prowadzonych postępowań w sprawach z zakresie systemów sztucznej inteligencji. 53. KIGEiT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby, którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 54. PIIT Art.6 ust.3 pkt 2 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym:(...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego „osoby posiadające Strona | 73 Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie \"osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. wiedzę specjalistyczną” niż zaproponowany w uwadze „biegły”. 55. AmCham Art. 6 ust. 2a w związku z art. 6 ust. 3 oraz art. 5 ust. 3 Propozycja: wprowadzenie art. 6 ust. 2a w brzmieniu „Przewodniczący Komisji zaprasza z głosem doradczym podmioty wymienione w art. 5 ust. 3 do udziału w posiedzeniu Komisji.” Uzasadnienie: Art. 6 ust. 3 daje swobodę zapraszania różnych podmiotów na posiedzenia Komisji („może zaprosić do udziału”). Tymczasem w przypadku podmiotów, które są wymienione w art. 5 ust. 3 wykonanie tej kompetencji powinno mieć charakter obligatoryjny. Oczywiście głos tych podmiotów jest wyłącznie głosem doradczym. Bez takiego zapisu „współpraca”, o której mowa w art. 5 ust. 3 staje się dość nieczytelna. Proponowany zapis jest szczególnie istotny w świetle zmian składu Komisji, jaki został zaprezentowany w wersji projektu ustawy z lutego 2025. Nieobecność reprezentantów Rzecznika Praw Obywatelskich i Prezesa Urzędu Ochrony Danych Osobowych jest szczególnie rzucająca się w oczy. Natomiast, bez uszczerbku dla ustawowych kompetencji tych organów, ich obligatoryjne zapraszanie na posiedzenia Komisji miałoby walor dochowania należytej staranności przy wypracowywanych przez Komisję stanowiskach, decyzjach czy rekomendacjach. Uwaga wyjaśniona Projektodawca nie znajduje zasadności dla wprowadzania zaproponowanego ustępu, ze względu na art. 6 ust. 3 stanowiący, że Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 56. Związek Cyfrowa Polska Art. 6 ust. 4 Brak wynagrodzenia dla członków Komisji może obniżyć efektywność jej działania, zwłaszcza w obliczu licznych obowiązków wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Pozostawienie tej kwestii do uznania instytucji Uwaga wyjaśniona Strona | 74 delegujących członków nie gwarantuje stabilności funkcjonowania Komisji. Rekomendujemy zapewnienie członkom Komisji odpowiedniego wynagrodzenia za ich pracę. Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. 57. SFP-ZAPA Art. 7 Włączenie przedstawiciela Ministra Kultury i Dziedzictwa Narodowego w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a co najmniej wyposażenie go w prawo głosu w tych posiedzeniach, w których będzie brał udział (art. 7 Projektu). Minister jest organem właściwym w sprawach związanych z prawami autorskimi i prawami pokrewnymi, które z punktu widzenia rozwoju sztucznej inteligencji są niezwykle istotne, stąd też nie powinien być pomijany przy tworzeniu Komisji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazany w uwadze podmiot. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Ministrowie będą mogli uczestniczyć w posiedzeniach komisji jako stali obserwatorzy bez prawa głosu - art. 6 ust. 4. 58. GRAI Art. 7 ust. 2 Uzasadnienia wymaga wskazanie do składu Komisji przedstawicieli Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, KRRiT, Rzecznika Praw Dziecka oraz Prezesa UKE. Dlaczego brakuje RPO? Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Strona | 75 Wskazane w uwadze podmioty zostały wyłączone z jej składu. Uzasadnienie projektu ustawy o systemach sztucznej inteligencji zostało rozbudowane. Rzecznik Praw Dziecka nie znajduje się w składzie KRIBSI w aktualnym projekcie w związku ze zgłoszoną przez siebie uwagą. 59. PTI Art. 7 ust. 4 i 5 Czy protokoły i uchwały są z założenia publicznie dostępne? Jeśli tak, to gdzie będą publikowane? Dodać zapis: „Posiedzenia Komisji są jawne, a protokoły z posiedzeń – publicznie dostępne”. Warto uściślić sposób i poziom dostępu do protokołów i uchwał. Uwaga wyjaśniona Zgodnie z art. 77 ust. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. 60. KIGEiT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uwaga wyjaśniona Projektodawca utrzymuje aktualny przepis art. 7 ust. 9. W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może Strona | 76 być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 61. PIIT Art. 7 ust.9 W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, że nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie go bezpośrednio dotyczył. 62. ICC Poland Art. 8 pkt 4 Zgodnie z art. 8 pkt 4 Projektu Przewodniczący Komisji wskazuje organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także publikuje i aktualizuje ich wykaz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz przekazuje informacje w tym zakresie Komisji Europejskiej oraz państwom członkowskim Unii Europejskiej. O ile obowiązki w zakresie publikacji i przekazywania informacji mają charakter czysto techniczny i wpisują się w katalog zadań Przewodniczącego Komisji jako kierującego jej pracami, to należałoby rozważyć, czy kompetencja w zakresie wskazywania organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689 oraz aktualizowania tego wykazu zgodnie z art. 77 ust. 2 rozporządzenia 2024/1689 nie powinna należeć do Komisji jako organu nadzoru nad rynkiem systemów sztucznej inteligencji, nie zaś samodzielnie Przewodniczącemu Komisji. Uwaga wyjaśniona Mając na uwadze zapewnienie rozdziału kompetencji pomiędzy Komisją a przewodniczącym Komisji kompetencja wskazana w uwadze powinna należeć do Przewodniczącego Komisji. 63. AmCham Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o AI. Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do rozbieżności w wykładni i stosowaniu. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z Strona | 77 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem o AI i wytycznymi Biura ds. AI. prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 64. ZPTC Lewiatan Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się Strona | 78 zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689”. 65. IWP Repropol Art. 9 Dostrzegliśmy, że poprawiona wersja projektu zawiera odwołanie do definicji modelu AI ogólnego przeznaczenia, jak i art. 2 ust. 2 UoSSI („O ile przepisy ustawy nie stanowią inaczej, przepisy dotyczące systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia”). Zdecydowanie uważamy, jednakże, że KRIBSI odgrywa – obok Urzędu ds. AI – na tyle istotną rolę przy nadzorze nad realizowaniem obowiązków dostawców AI ogólnego przeznaczenia (zob. np. art. 53 ust. 3 czy art. 55 ust. 1 lit. b – raportowanie poważnych incydentów i przygotowywanie środków zaradczych), że katalog jej obowiązków zawarty w art. 9 UoSSI powinien zostać uzupełniony również o ten wymiar. Jednym z obszarów potencjalnej współpracy krajowych organów z Urzędem ds. AI może być weryfikacja posiadanej przez dostawców GPAI copyright policy bądź realizowanie zasady transparentności trenowania inteligentnych algorytmów (art. 53 ust. 1 lit c i d AIA). Uwaga uwzględniona Dodano do art. 9, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 66. ZPWC Art. 9 Doceniamy poczynione w drugiej wersji projektu ustawy nawiązanie do modeli AI ogólnego przeznaczenia (GPAIM, art. 2 ust. 2 Projektu). Uważamy jednocześnie, że z uwagi na rolę KRIBSI (obok Urzędu ds. AI) przy funkcjonowaniu GPAIM, kompetencja polskiego organu w odniesieniu do GPAIM powinna zostać ujęta expressis verbis w katalogu kompetencji KRIBSI (art. 9 Projektu). Uwaga uwzględniona Dodano do art. 9 pkt 17, że do zadań Komisji należy „współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689”. 67. PTI Art. 9 pkt 3 i 14 Propozycja: Prosimy o przeredagowanie punktów, aby uniknąć dublowania zapisów Uzasadnienie: Jak w propozycji Uwaga wyjaśniona Zdaniem projektodawcy konieczne jest utrzymanie zarówno Strona | 79 punktu 3, jak i 14 w art. 9. 68. ZPTC Lewiatan Art. 10 ust. 1 Jest: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania. Propozycja: Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji. Uzasadnienie: zapis szczególny mówiący, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. W przypadku braku zaproszenia do opiniowania, inicjatywa może i powinna być po stronie Komisji. Por. Art. 9 punkt 5) Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 69. GRAI Art. 10 ust.1 Jest: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji przekazanych jej do opiniowania.”. Propozycja: „Art. 10. 1. Komisja wyraża opinię w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym projektów aktów prawnych dotyczących sztucznej inteligencji.”. Uzasadnienie: Przepis, który stanowi o tym, że Komisja zajmuje się wyłącznie dokumentami rządowymi, w tym projektami aktów prawnych, które zostaną do niej przesłane do opiniowania nie jest potrzebny. Brak zaproszenia do opiniowania może wynikać nie tylko ze złej woli, ale także być wynikiem błędu lub braku zrozumienia, że opiniowany dokument może być związany ze stosowaniem sztucznej inteligencji. Inicjatywa zatem może wtedy leżeć po stronie Komisji. por. art. 9 punkt 5 Uwaga uwzględniona Przepisowi nadano brzmienie zgodnie z treścią uwagi. 70. GRAI Art. 11 Wykonywanie zadań i kompetencji organu nadzoru rynku określonych w AI Act przez Komisję wskazane jest dopiero w pkt 7) art. 11, dopiero po zadaniach związanych m.in. ze wspieranie rozwoju oraz monitorowaniem rozwoju, innowacyjności i konkurencyjności w obszarze badań i i stosowania systemów SI czy udziale w Uwaga wyjaśniona Podejmowanie działań mających na celu Strona | 80 opiniowaniu projektów aktów prawnych w zakresie SI, chociaż istotą działania Komisji i głównym celem jej powołania ma być nadzór. Wyjaśnienia wymaga czy takie umiejscowienie przedmiotowego zadania Komisji ma charakter przypadkowy czy jest podyktowane przyjętym podejściem dla wagi tej funkcji organu. wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji jako zadanie Komisji znalazło umiejscowienie w art. 9 pkt 3. 71. GRAI Art. 11 Na czym dokładnie będzie polegało podejmowanie przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji działań w zakresie utworzenia piaskownic regulacyjnych? Czy ustawa zakłada utworzenie w ramach Komisji specjalnych kompetencji, struktur organizacyjnych oraz zasobów (w tym infrastruktury technicznej i kadr) niezbędnych do tworzenia i prowadzenia takich rozwiązań? Jakie konkretne kroki zostaną podjęte, aby wspierać przedsiębiorstwa, zwłaszcza małe i średnie, w testowaniu i wdrażaniu systemów sztucznej inteligencji w kontrolowanym środowisku? Biorąc pod uwagę, że Komisja jest przede wszystkim organem nadzorczym czy planowane jest rozszerzenie jej roli o funkcje wspierające rozwój SI, takie jak dostarczanie infrastruktury dla piaskownic regulacyjnych lub bezpośrednie wsparcie techniczne dla firm? Jeśli nie, to czy przewidziano współpracę z innymi instytucjami lub organizacjami, które mogą pełnić taką rolę? Ponadto, w jaki sposób przedsiębiorstwa będą informowane o dostępnych możliwościach korzystania z piaskownic regulacyjnych oraz jakie będą warunki i procedury dostępu do nich? Czy ustawa przewiduje mechanizmy finansowania lub wsparcia dla firm chcących uczestniczyć w takich inicjatywach? Uwaga wyjaśniona Szczegółowe rozwiązania związane piaskownicami regulacyjnymi znajdują się w rozdziale 8 projektu ustawy. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 72. KIGEiT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Nie ma jasności, co do charakteru prawnego wyjaśnień, należałoby sprecyzować. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast, co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O Strona | 81 np. w zakresie formy i zawartości wniosku, opłaty itd., Powstaje pytanie, czym różnią się wyjaśnienia od opinii indywidualnych? ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 73. PIIT Art. 11 ust.1 Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art. 11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Co jest przedmiotem opinii indywidualnej zostało zawarte w art. 12, natomiast przedmiot wyjaśnień został wskazany w art. 13. O ile procedura wydawania opinii indywidulanych z uwagi na wywoływane przez nią skutki wymagało dokładnego uregulowania o tyle ogólny charakter wyjaśnień nie wymaga dodatkowych regulacji w tym zakresie. 74. KIGEiT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uwaga uwzględniona Numer rozporządzenia został poprawiony 75. PIIT Art.11 ust.2 W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia Uwaga uwzględniona Numer rozporządzenia został poprawiony. Strona | 82 Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. 76. IA Chamber Art. 12 W art. 12 odwrotnie zapisany jest numer rozporządzenia - 1689/2024 zamiast 2024/1689 (uwaga redakcyjna). Uwaga uwzględniona Numer rozporządzenia został poprawiony. 77. KIGEiT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 78. PIIT Art. 12 Wymaga doprecyzowania i zmiany odwołania do ust. 9 zamiast 8. W ust. 10 zamieszczono nieprawidłowe odwołanie do ust. 8, gdy tymczasem terminy, do których ust. 10 się odnosi określa ust. 9 komentowanego artykułu. Dodatkowo nie jest jasne, kiedy zachodzi skutek upływu terminu, o którym mowa w ust. 10 komentowanego przepisu, skoro w ust. 9 mowa o dwóch terminach tj. 30 i 60 dniowym. Nie wiadomo również, czy dla skuteczności przedłużenia terminu wymagane jest, aby Komisja poinformowała o tym wnioskodawcę przed pierwotnego terminu, czy nie. Wątpliwości te stają się szczególnie istotne, jeśli Komisja nie poinformuje o przedłużeniu terminu wydania opinii indywidualnej przed upływem pierwotnego (30 dniowego) terminu. Wówczas wnioskodawca nie będzie wiedział, czy zaszedł już skutek, o którym mowa w art. 12 ust. 10, czy nie, najdłużej do upływu 60 dni od daty uiszczenia opłaty (w razie milczenia Komisji). Powyższe wątpliwości usunęłaby taka Uwaga uwzględniona Poprawiono błędne odesłanie w ust. 10. Jednocześnie należy zauważyć, że zgodnie z ust. 9 zdanie drugie Komisja ma obowiązek poinformować wnioskodawcę, że uznaje przypadek za szczególnie Strona | 83 zmiana ust. 9, aby wynikało z niego, że skuteczne przedłużenie terminu wymaga doręczenia wnioskodawcy zawiadomienia o przedłużeniu terminu przed jego upływem. skomplikowany. Informacja ta skutkuje zastosowaniem terminu do 60 dni na wydanie opinii indywidulanej w sprawie. 79. KIGEiT Art.12 ust.1 Błędna numeracja rozporządzenia, winno być: 1689/2024/1689. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 80. PIIT Art.12 ust.1 zła numeracja rozporządzenia: 1689/2024/1689, błędna numeracja. Uwaga uwzględniona Numeracja rozporządzenia została poprawiona 81. AmCham Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym w zakresie pozostaje w tej sytuacji niezasadne. 82. ZPTC Lewiatan Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Podmioty mogą ponieść dodatkowe koszty i wysiłki na przygotowanie własnego stanowiska, jednak nie powinno to być obowiązkowe. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że Strona | 84 niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 83. GRAI Art. 12 ust. 3 pkt 2 Proponujemy, aby własne stanowisko podmiotu składającego wniosek o opinię indywidualną było opcjonalne, a nie wymagane. Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie uwagi w proponowanym zakresie pozostaje w tej sytuacji niezasadne. 84. GRAI Art. 12 ust. 6 w związku z ust. 9 Jest: „6. W przypadku, gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w ust. 2 i 3, Komisja wzywa podmiot, który go złożył, do uzupełnienia braków w terminie 7 dni. W przypadku nieuzupełnienia braków w Uwaga wyjaśniona Projektodawca w ust. 10 przesądził, że niewydanie opinii Strona | 85 wyznaczonym terminie, wniosek pozostawia się bez rozpatrzenia, a wniesioną opłatę uznaje się za nienależną. (...) 9. Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. Komisja informuje podmiot, który złożył wniosek o opinię indywidualną, o tym, że uznaje przypadek za szczególnie skomplikowany.”. Propozycja brzmienia: „6. W przypadku [.]za nienależną. W przypadku, gdy zachodzi uzasadniona obawa, że wydanie opinii w terminach określonych w ust. 9 nie będzie możliwe, Komisja odmawia przyjęcia wniosku o wydanie opinii indywidualnej.”. Uzasadnienie: Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu (w związku z art. 12 ust. 10 i 12), które byłoby możliwe w sytuacjach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Przyjęcie rozszerzenia ust. 6 w proponowanym w uwadze zakresie pozostaje w tej sytuacji niezasadne. 85. ZBP Art. 12 ust. 9 Analogicznie do wszelkich innych postępowań (w szczególności administracyjnym) od opinii indywidualnej powinno służyć odwołanie, aby zapewnić podmiotom składającym wniosek o wydanie opinii prawo do kontroli wydanej opinii przez inny niezależny i bezstronny organ (sąd), co zapewni obywatelowi poczucie sprawiedliwego rozstrzygnięcie jego sprawy. Uwaga wyjaśniona Od opinii indywidualnej nie służy odwołanie. Jest to szczególny rodzaj opinii, który na podstawie przepisów ustawy może podlegać weryfikacji i zmianie przez samą Komisję. 86. KIGEiT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 87. PIIT Art.12 ust.10 Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Błędna numeracja odwołania Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. Strona | 86 88. GRAI Art. 12 ust. 10 w związku z ust. 12 Jest: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. (...) „12. Opinia indywidualna nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej.”. Propozycja brzmienia: „10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 9, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Komisja może wydać opinię po upływie terminów wskazanych w ust. 9, uznając stanowisko podmiotu za niepotwierdzone w zakresie wskazanym zaległą opinią od dnia jej wydania.”. Uzasadnienie: Błąd redakcyjny w numeracji ustępów. Opinia indywidualna powinna być narzędziem pomocnym dla podmiotów objętych Aktem, ale nie powinna stawać się narzędziem do obchodzenia przepisów Aktu w przypadkach nieterminowego wywiązywania się Komisji z obowiązków opiniodawczych. Uwaga uwzględniona Zmieniono przepis w zakresie odwołania do właściwego ust. 89. GRAI Art. 12 ust. 11 Uwaga redakcyjna: Brakuje rozdzielania w sformułowaniu „sądowo - administracyjnego”. Uwaga wyjaśniona Przepisowi ust. 13 nadano brzmienie zgodnie z treścią uwagi. 90. ICC Poland Art. 12 ust. 10 i ust. 12 Artykuł 12 ust. 12 Projektu określa skutek prawny wydania opinii indywidualnej, zgodnie z którym opinia taka „nie jest wiążąca dla Komisji i podmiotu, który złożył o nią wniosek, z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Równocześnie zgodnie z art. 12 ust. 10 Projektu „niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną” [podkreślenie własne]. Porównanie obu ww. przepisów może rodzić wątpliwości czy fikcja potwierdzenia stanowiska, o której mowa w art. 12 ust. 10 Projektu, wywoła skutek z art. 12 ust. 12 Uwaga uwzględniona Przepisowi ust. 10 nadano brzmienie zgodnie z treści uwagi. Strona | 87 Projektu, tj. czy zastosowanie się podmiotu, który złożył wniosek o opinię indywidualną i nie została ona wydana w terminie, do stanowiska przedstawionego we wniosku nie będzie mogło stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. Zachodzi zatem konieczność zapewnienia kompatybilności obu tych przepisów. Cel ten może zostać osiągnięty przez następującą zmianę art. 12 ust. 10 Projektu: Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8, uznaje się za potwierdzenie stanowiska wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o opinię indywidualną. Na marginesie, wobec treści art. 12 ust. 10 Projektu oraz art. 115 ust. 3 Projektu, przewidującego zwołanie pierwszego posiedzenia Komisji w terminie maksymalnie 3 miesięcy od dnia wejścia w życie ustawy, wydaje się konieczne uregulowanie w ramach przepisów przejściowych, od kiedy możliwe jest składanie wniosków o wydanie opinii indywidualnych (również w kontekście potrzeby zorganizowania Biura Komisji). 91. ZBP Art. 12 ust. 11 Literówka. Brakuje rozdzielania w sformułowaniu „sądowoadministracyjnego” Uwaga uwzględniona Przepis ust. 13 otrzymał brzmienie zgodnie z treścią uwagi. 92. ZBP Art. 12 ust. 12 Opinia indywidualna jest wydawana na wniosek zainteresowanego podmiotu. Wydanie tej opinii powinno zostać uregulowane analogicznie do wydania interpretacji indywidualnej, czyli powinna ona być wiążąca dla Komisji i innych organów w danej sprawie. Należy mieć na uwadze, że interpretacja przepisów służy podjęciu przez dany podmiot oceny dotyczącej wprowadzenia danego systemu lub rozwiązania dotyczącego AI, co wiąże się ze znacznymi nakładami finansowymi oraz dostosowaniem innych wewnętrznych systemów oraz regulacji dotychczas stosowanych w danym podmiocie. Z tego względu niewiążąca opinia nie będzie stanowiła gwarancji właściwej interpretacji danych przepisów i spowoduje to stan permanentnej niepewności dotyczącej wprowadzanych systemów AI i brak bezpieczeństwa obywateli do wydawanych opinii indywidualnych. Celem złożenia wniosku o wydanie opinii indywidualnej jest zapewnienie podmiotowi bezpieczeństwa w zakresie stanu faktycznego i interpretacji przepisów znajdujących zastosowanie do tego stanu faktycznego objętego wnioskiem. W przeciwnym razie instytucja ta nie będzie spełniała swoich podstawowych funkcji. Z tego względu proponujemy alternatywne brzmienie przepisu: „Opinia indywidualna nie jest wiążąca dla Komisji i innych organów państwowych i jednostek organizacyjnych właściwych dla przedsiębiorcy podmiotu, który złożył wniosek i zakresie danej sprawy we wskazanym we wniosku stanie faktycznym. z zastrzeżeniem, że działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji Uwaga uwzględniona Przepis otrzymał brzmienie zgodne z treścią uwagi. Strona | 88 administracyjnej.Opinia może zostać zmieniona jedynie w drodze wznowienia postepowania. Opinia nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły nieodwracalne skutki.” 93. ZBP Art. 12 ust. 13 Żaden podmiot (np. przedsiębiorca) nie ma wiedzy o innych toczących się postepowaniach przed Komisją lub sądem. Dodatkowo w przypadku, gdy inny podmiot złoży odwołanie od wydanej na podstawie jego wniosku decyzji to postepowanie takie może długo trwać, a zamyka drogę do rozpoznania sprawy innego podmiotu. Inna sytuacja jest w przypadku, gdy decyzja w analogicznej sprawie została już wydana. Powinna ona być nie tylko rozstrzygnięta, ale też opublikowana, aby każdy miał do jej treści łatwy dostęp. Z tego względu proponujemy alternatywne brzmienie przepisu: Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o opinię indywidualną są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowoadministracyjnego w wyniku złożenia przez dany podmiot wcześniejszego wniosku o wydanie opinii albo gdy w tym zakresie sprawa została rozstrzygnięta i opublikowana. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 89 wymagane dla osiągniecia celu wskazanego w uwadze. 94. Związek Cyfrowa Polska Art. 12 ust. 13- 15 Projektowana ustawa nie precyzuje - a powinna- że wnioskodawca nie poniesie negatywnych konsekwencji za udzielenie informacji przy założeniu, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli wnioskodawca nie wiedział o takim postępowaniu. Wnioskodawca może nie mieć możliwości uzyskania takiej informacji, jeśli stosowna informacja nie została jeszcze oficjalnie przekazana. Przepis powinien wyraźnie wskazywać, że wnioskodawca nie poniesie negatywnych konsekwencji za stwierdzenie, że stan faktyczny nie jest przedmiotem toczącego się postępowania, jeżeli nie wiedział o takim postępowaniu w momencie składania wniosku. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego weryfikowania, czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się postępowania przed polskimi organami, sądami lub instytucjami przed złożeniem wniosku o wydanie opinii indywidualnej. Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są Strona | 90 wymagane dla osiągniecia celu wskazanego w uwadze. 95. GRAI Art. 12 i 13 Biorąc pod uwagę zakres ustawy, która wskazuje, że powinny być w niej uregulowane rodzaje działań wspierających rozwój systemów SI, to pytanie, czy są planowane jakieś inne działania ponad te związane z piaskownicami regulacyjnymi. Co w przypadku, gdy polskie \"najlepsze praktyki\" będą się różnić od \"najlepszych praktyk\" AI Office? Uwaga wyjaśniona Środki wspierające innowacyjność zostały ujęte w rozdziale 8. 96. ICC Poland Art. 12 i 14 Zgodnie z nową treścią art. 14 Projektu: „Opinie indywidualne i wyjaśnienia, o których mowa w art. 11-13 ustawy, po usunięciu danych i informacji identyfikujących wnioskodawcę, jak również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji”. Na ogólną aprobatę zasługuje uwzględnienie zgłoszonych w toku poprzednich konsultacji publicznych uwag dotyczących konieczności ochrony informacji poufnych i tajemnicy przedsiębiorstwa w kontekście publikacji opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Za zmianą tą powinien podążyć jednak mechanizm pozwalający wnioskodawcy na zastrzeżenie określonych informacji jako tajemnicy przedsiębiorstwa już na etapie składania wniosku lub powołania się na inną tajemnicę prawnie chronioną. Trudno bowiem oczekiwać, że Komisja samodzielnie będzie w stanie zidentyfikować i ocenić tego rodzaju okoliczność. Z tego względu proponuje się uzupełnienie art. 12 Projektu o wyraźne wskazanie, że wniosek o wydanie opinii indywidualnej może zawierać zastrzeżenie, że określone informacje zawarte we wniosku nie mogą być udostępnianie z uwagi na to, że stanowią tajemnicę przedsiębiorstwa. Przepis taki mógłby mieć następującą treść: We wniosku o wydanie opinii indywidualnej można zastrzec i wykazać, że określone zawarte w nim informacje stanowią tajemnicę przedsiębiorstwa w rozumieniu przepisów ustawy z dnia 16 kwietnia 1993 r. o zwalczaniu nieuczciwej konkurencji (Dz. U. z 2022 r., poz. 1233) lub objęte są inną tajemnicą prawnie chronioną i nie mogą być udostępniane. Ponadto, warto rozważyć rozszerzenie zakresu anonimizacji o dane inne niż tylko identyfikujące wnioskodawcę, aby zapobiec możliwości pośredniej identyfikacji podmiotu lub ujawnienia jego strategii biznesowej. Zasadne byłoby także usuwanie danych identyfikujących inne podmioty wskazane w treści opinii indywidualnej lub wyjaśnień, aby zapobiec ujawnieniu szczegółów związanych z działalnością gospodarczą stron trzecich. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 97. ZBP Art. 13 Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia KRiBSI w zakresie stosowania przepisów AI Act oraz ustawy nie mogą stać w sprzeczności z Wytycznymi Uwaga wyjaśniona Strona | 91 i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): „Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej.” Należy zauważyć, że art. 11 ust. 2 stanowi, że „W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 98. GRAI Art. 13 Proponujemy, aby wyraźnie wskazać, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13 (sic!): Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uwaga wyjaśniona Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689/”. 99. GRAI Art. 14 Wskazania wymaga moc prawna opinii indywidualnych, które będą mogły być wydawane przez Komisję - czy będą one miały charakter wiążący i dla kogo? czy będzie chroniony podmiot, który się do niej zastosuje (zastosował)? Uwaga wyjaśniona Zgodnie z art. 12 ust. 12 opinia indywidualna jest wiążąca dla Komisji i podmiotu, który złożył o Strona | 92 nią wniosek, działania tego podmiotu w zakresie, w jakim zastosował się do opinii indywidualnej, nie mogą stanowić podstawy do nałożenia przez Komisję sankcji administracyjnej. 100. GRAI Art. 14 Zwracamy także uwagę potrzeba ewentualnej ochrony tajemnic przedsiębiorstwa i przykładowo dodania możliwości zastrzeżenia braku zgody na publikację interpretacji bądź usunięcia z informacji podlegających publikacji informacji zawierających tajemnicę przedsiębiorstwa. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 101. GRAI Art. 14 ust. 2 Propozycja: Aby ograniczyć ryzyko ujawnienia tożsamości wnioskodawców zalecamy dodanie ust. 2 do art. 14 Projektu - podobnie jak w art. 65 ust. 1 ustawy o przetwarzaniu danych osobowych z 2018 r. - który mógłby otrzymać brzmienie: „ust. 2: Wnioskodawca może zastrzec informacje, dokumenty lub fakty stanowiące tajemnicę przedsiębiorstwa, które nie powinny być publikowane w Biuletynie Informacji Publicznej, chyba że wnioskodawca wyrazi na to wyraźną zgodę”. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. 102. PTI Art. 14 Powinien być dodany termin rozpatrzenia wniosku (w kontekście art. 11-13). Prosimy o uzupełnienie brzmienia artykułu 14 Uwaga wyjaśniona Strona | 93 Zgodnie z art. 12 ust. 9 Komisja wydaje opinię indywidualną bez zbędnej zwłoki, nie później jednak niż w terminie 30 dni od dnia wniesienia opłaty za wniosek, o której mowa w ust. 4, a w przypadkach szczególnie skomplikowanych - nie później niż w terminie 60 dni od dnia wniesienia tej opłaty. 103. Związek Cyfrowa Polska Art. 14 Projektowana ustawa powinna wyraźnie określać, w jaki sposób wnioskodawca powinien oznaczać informacje, które nie powinny być publikowane, np. tajemnice przedsiębiorstwa. Obecne przepisy nie określają jasnych zasad identyfikacji danych poufnych w kontekście indywidualnych opinii i wyjaśnień. Wnioskodawcy powinni mieć wyraźne prawo do żądania wyłączenia określonych informacji z publikacji. Zalecamy dodanie przepisu umożliwiającego wnioskodawcom oznaczenie informacji poufnych jako niepublicznych w momencie ich składania. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności Strona | 94 określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 104. KIGEiT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 105. PIIT Art.16 ust.1 Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Rekomendowane jest przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. Uwaga wyjaśniona Mając na uwadze, że Powołanie Przewodniczącego następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego naboru wydaje się nieadekwatnym rozwiązaniem. 106. KIGEiT Art.16 ust.1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Rekomenduje się zmiany sformułowania jw. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. Strona | 95 107. PIIT Art.16 ust. 1 pkt 4 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem - rekomendacja zmiany sformułowania. Uwaga uwzględniona W przepisie wykreślono wyrazy „w podmiotach”. 108. ZBP Art. 18 ust. 5 Termin na złożenie dokumentów w odpowiedzi na ogłoszoną informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji przez umieszczenie ogłoszenia w miejscu powszechnie dostępnym w siedzibie Biura Komisji oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji oraz urzędu obsługującego ministra właściwego do spraw informatyzacji powinien być dłuższy ze względu na to, że nikt nie sprawdza w/w stron codziennie, a ponadto konieczne jest zgromadzenie dokumentów potwierdzających wiedzę i doświadczenie w zakresie AI. Chodzi o to, aby wyłonić kandydata posiadającego dużą wiedzę i doświadczenie, a taki krótki termin może spowodować, że część kandydatów, którzy zgłosiliby swoją kandydaturę nie złoży dokumentów ze względu na zbyt krótki termin, co będzie ze szkodą dla działalności Komisji i w konsekwencji ze szkodą dla podmiotów wdrażających systemy AI. Z tego względu proponujemy alternatywne brzmienie przepisu: „Termin, o którym mowa w ust. 4 pkt 6, nie może być krótszy niż 10 30 dni od dnia opublikowania ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej urzędu obsługującego ministra właściwego do spraw informatyzacji.” Uwaga uwzględniona W projekcie wskazano termin 21 dni. 109. KIGEiT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący, co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Należałoby doprecyzować, spośród kogo wybierany jest zespół oraz w jakim trybie są wybierane te osoby, a także, kto weryfikuje ich kompetencje do tego zadania. Uwaga wyjaśniona Projektodawca nie dostrzega zasadności modyfikacji zaproponowanych przepisów. Tryb i sposób powołania zastępców przewodniczącego uregulowane są w przepisach art. 18. 110. PIIT Art. 18 ust.6 Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, liczący co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w Uwaga wyjaśniona Zespół powoływany jest przez Przewodniczącego Strona | 96 podmiotach wykonujących działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Komisji. W jego gestii pozostaje sposób weryfikacji członków. Członkami zespołu mogą być osoby odznaczające się wiedzą i doświadczeniem w zakresie sztucznej inteligencji lub prawa jak również doświadczeniem zawodowym uzyskanym w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze cyfryzacji. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 111. Fundacja Panoptykon Art. 21 Konflikt interesów w przypadku członków Komisji Pragniemy powtórnie podkreślić, że doprecyzowania wymagają reguły rozstrzygania konfliktu interesów w sytuacji, gdy system sztucznej inteligencji będący przedmiotem kontroli Komisji rozwijałaby lub wdrażała jedna z instytucji, których przedstawiciele będą członkami Komisji. Wychodzimy z założenia, że członek Komisji reprezentujący daną instytucję co do zasady będzie z nią w relacji zatrudnienia lub innej relacji umownej. W obecnym kształcie art. 21 projektu ustawy wydaje się, że konsekwencją takiego scenariusza byłoby trwałe wykluczenie przedstawiciela tej instytucji z członkostwa w Komisji. Naszym zdaniem zasadne byłoby sformułowanie jasnych reguł postępowania w takim przypadku, tak aby – nie wyłączając z góry danej instytucji z możliwości udziału w pracach Komisji – uniknąć ryzyka wystąpienia sytuacji, w której członek Komisji będzie „sędzią we własnej sprawie”. Uwaga wyjaśniona Przepisy ustawy w sposób i proporcjonalny adresują kwestie związane z konfliktem interesów członków Komisji. 112. ZPTC Lewiatan Art. 22; art. 24 Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu Uwaga wyjaśniona Strona | 97 zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie wprowadzić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Przedmiotowe przepisy uległy znaczącym zmianom. 113. GRAI Art. 22 ust. 1 W jaki sposób Komisja realizowała będzie swój obowiązek informacyjny? Dlaczego tylko dla Biura Komisji przewidziane zostało takie szczególne uregulowanie? Uwaga uwzględniona Art. 22 ust. 1. został wykreślony. 114. GRAI Art. 22 ust. 2 Zapis jest niejasny. Oznacza, że komisja powinna zrealizować sama swój obowiązek informacyjny? A może mowa o innych obowiązkach jakich? Na gruncie RODO? Uwaga uwzględniona W art. 22 ust. 2 został wykreślony. 115. GRAI Art. 22 ust. 1 i 2 Zapisy w projekcie wprowadzają istotne wątpliwości, co do tego kto jest administratorem danych na gruncie ustawy. Taka sytuacja nie powinna mieć miejsca. Jako że rozporządzenie 2016/679 (RODO) daje możliwość ustanawiania regulacji szczególnych w prawie krajowym to tym bardziej ustawa powinna w sposób klarowny i jednoznaczny określać jakiekolwiek odmienności od rozporządzenia Uwaga wyjaśniona W art. 22 ust. 1 i 2 zostały wykreślone. 116. AmCham Art. 22 ust. 5 Celem zapewnienia solidnych ram ochrony danych w kontekście sztucznej inteligencji, konieczne jest wprowadzenie bardziej rygorystycznych środków bezpieczeństwa, które będą regulować ujawnianie informacji poufnych podmiotom zewnętrznym, w tym organom ścigania. Jednym z podstawowych zabezpieczeń może być wprowadzenie obowiązku uzyskania uprzedniej zgody sądu lub prokuratora przed udostępnieniem takich danych. To dodatkowe wymaganie zapewniłoby, że ujawnienie danych nastąpi tylko wtedy, gdy istnieje wyraźna, uzasadniona podstawa prawna i nie narusza to innych istotnych praw. Alternatywnie lub dodatkowo, można dostosować obecne ramy prawne do standardów poufności zawartych w Prawie o komunikacji elektronicznej. Takie dostosowanie zapewniłoby spójne i kompleksowe podejście do ochrony wrażliwych informacji w różnych sektorach, w tym w obszarze AI. Należy podkreślić, że dane związane z AI często obejmują nie tylko cenne informacje biznesowe i rynkowe, ale także krytyczne szczegóły operacyjne firm zaangażowanych w rozwój i wdrażanie AI. Nieuprawnione ujawnienie takich danych może mieć poważne konsekwencje, takie jak utrata przewagi konkurencyjnej, szkody finansowe, a nawet zagrożenie dla bezpieczeństwa narodowego. W związku z tym niezbędne jest ustanowienie mechanizmów prawnych, które skutecznie zapobiegną nieuzasadnionemu udostępnianiu danych związanych z AI. Uwaga wyjaśniona W art. 22 ust. 5 został wykreślony. Strona | 98 Obecnie istnieje ryzyko, że takie dane mogą być udostępniane bez odpowiedniej kontroli, co może prowadzić do niezamierzonego ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i zapewniłoby, że dostęp do wrażliwych danych AI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba, np. w ramach prowadzonego postępowania karnego. Taki mechanizm zwiększyłby również zaufanie do ram regulacyjnych i zapewniłoby ochronę praw wszystkich zainteresowanych stron. 117. KIGEiT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. Jeśli przepis nie zostanie usunięty to proponujemy następujące zmiany: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: · 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; ·6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych, o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem). Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 118. PIIT Art. 22 ust.5 Rekomendowane usunięcie całego ust.5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą odnoszącą się do sądów/sędziów Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. Strona | 99 wniosek: 1) Agencji Bezpieczeństwa Wewnętrznego; 2) Policji; 3) Agencji Wywiadu; 4) Służbie Kontrwywiadu Wojskowego; 5) Służbie Wywiadu Wojskowego; 6) Straży Granicznej; 7) Komendzie Głównej Żandarmerii Wojskowej; 8) Centralnemu Biuru Antykorupcyjnemu; 9) prokuratorom; 10) sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). 119. PIIT Art. 22 ust. 5 Wprowadzenie wymogu uprzedniej zgody sądu albo prokuratora dla żądania danych. Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. Strona | 100 120. Związek Cyfrowa Polska Art. 22 ust. 5 Konieczne jest wprowadzenie bardziej rygorystycznych zabezpieczeń dotyczących ujawniania informacji podmiotom takim jak Policja poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne mogłyby zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, aby zapewnić kompleksową ochronę informacji wrażliwych. Dane związane z SI często składają się z wysoce wyspecjalizowanych, wartościowych informacji biznesowych i rynkowych, a także krytycznych szczegółów operacyjnych podmiotów zaangażowanych w rozwój i wdrażanie SI. Biorąc pod uwagę potencjalne konsekwencje nieuprawnionego ujawnienia, konieczne jest ustanowienie mechanizmów prawnych, które zapobiegną nieuzasadnionemu udostępnianiu takich informacji. Bez odpowiedniego nadzoru istnieje ryzyko, że poufne dane związane ze sztuczną inteligencją mogą być dostępne bez rzeczywistej potrzeby, co prowadzi do niezamierzonego ujawnienia tajemnicy przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wdrożenie kontroli sądowej lub prokuratorskiej stanowiłoby istotne zabezpieczenie przed potencjalnymi nadużyciami i wzmocniłoby zaufanie do ram regulacyjnych, zapewniając, że dostęp do wrażliwych informacji SI jest przyznawany tylko wtedy, gdy istnieje wyraźna i uzasadniona potrzeba. Uwaga nieaktualna W art. 22 ust. 5 został wykreślony. 121. GRAI Art. 22 i 23 W miejsce obecnie zaproponowanych przepisów, które budzą liczne wątpliwości proponujemy odnieść się bardziej generalnie do RODO i obowiązków wynikających z RODO, zarówno w odniesieniu do Komisji, Biura Komisji, jak i potencjalnie Rady Społecznej, jeśli w ramach jej zadań przetwarzane będą dane osobowe. A dodatkowo wskazać w ustawie bardzo wyraźnie na organicznie zakresu obowiązków i praw (po dokładnym przeanalizowaniu, które obowiązki miałyby zostać wyłączone) w celu zabezpieczenia interesów, o których mowa w art. 23 ust. 1 lit. e czy h RODO/ częściowo jest to zrobione, ale w sposób wybiórczy i enigmatyczny. Uwaga nieaktualna Art. 22 został wykreślony a art. 23 uległ znaczącym zmianom. 122. GRAI Art. 23 ust. 2 Przepis brzmi jak ograniczenie obowiązków Komisji na gruncie RODO. Zaproponowane rozwiązanie jest zupełnie bezpodstawne. Uwaga uwzględniona W art. 23 ust. 2 został wykreślony. 123. GRAI Art. 23 ust. 2 Jest: Art. 23 ust. 2: „Komisja, przetwarzając dane osobowe prowadzi analizę ryzyka zgodnie z zasadą integralności i poufności, o których mowa w art. 5 ust. 1 lit. f rozporządzenia 2016/679, jak również stosuje środki ochrony przed złośliwym oprogramowaniem oraz mechanizmy kontroli dostępu, a także opracowuje i stosuje procedury bezpiecznej wymiany informacji.” Komentarz: art. 5 ust. 1 lit. f rozporządzenia 2016/679 wskazuje na zasadę poufności i integralności przetwarzanych danych. Środki ochrony danych, o których mowa w art. 23 ust. 2 dotyczą art. 32 rozporządzenia 2016/679. Uwaga nieaktualna W art. 23 ust. 2 został wykreślony. Strona | 101 Sugerowana zamiana przepisu art. 23 ust. 2: „2. Komisja, przetwarzając dane osobowe przeprowadza analizę ryzyka dobierając odpowiednie środki techniczno – organizacyjne zgodnie z art. 322 rozporządzenia 2016/679 wywiązując się z zasad, o których mowa w art. 5 ust. 1 lit. F rozporządzenia 2016/679.”. 124. GRAI Art. 23 ust. 4 Jest: „4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane.”. Proponujemy wykreślenie tego przepisu ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”). A zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO. Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 125. AmCham Art. 23 ust. 4 Proponujemy wykreślenie tego ustępu, ponieważ przepisy RODO bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”)”, a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przechowywanie w zgodzie z przepisami RODO Uwaga uwzględniona W art. 23 ust. 4 został wykreślony. 126. ZPTC Lewiatan Art. 23 ust. 4 Jest: 4. Komisja i Biuro Komisji dokonują co dwa lata przeglądu danych, o których mowa w ust. 3. Po stwierdzeniu, że dane są zbędne do realizacji zadań Komisji, dane te są niezwłocznie usuwane. Uwaga uwzględniona Strona | 102 Proponujemy wykreślenie tego zapisu, ponieważ przepisy rodo bardzo wyraźnie określają ograniczenie przetwarzania w art. 5 ust. 1 punkt e, mówiąc, że „Dane osobowe muszą być: (...) przechowywane w formie umożliwiającej identyfikację osoby, której dane dotyczą, przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane; dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych na mocy art. 89 ust. 1, z zastrzeżeniem, że wdrożone zostaną odpowiednie środki techniczne i organizacyjne wymagane na mocy niniejszego rozporządzenia w celu ochrony praw i wolności osób, których dane dotyczą („ograniczenie przechowywania”); a zatem nie powinno się z góry zakładać dwuletniego okresu przechowywania, który może przerwać dopiero przegląd danych, a ograniczyć przetwarzanie do zgodnego z przepisami RODO. W art. 23 ust. 4 został wykreślony. 127. IWP Repropol Art. 25 i art. 26 Projekt ustawy ustanawia Społeczną Radę do spraw Sztucznej Inteligencji, gremium doradcze przy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI). Podmioty uprawnione do zgłaszania kandydatów na członków rady są wskazane w art. 25 ust. 3 UoSSI. Niestety, w katalogu brakuje wskazania organizacji zbiorowego zarządzania jako podmiotów uprawnionych do wskazywania kandydatów, mimo iż wskazane są tam np. izby gospodarcze. Organizacje zbiorowego zarządzania (OZZ) dysponują pogłębioną wiedzą dotyczącą funkcjonowania sztucznej inteligencji, a jednocześnie odgrywają istotną rolę w ochronie silnej pozycji środowisk twórczych, których znaczenie w dobie ekspansji sztucznej inteligencji jest niemożliwie do przecenienia. Co więcej, powszechnie znane problemy z funkcjonowaniem generatywnej odmiany Sztucznej Inteligencji powstają właśnie na styku z szeroko pojętą własnością intelektualną. OZZ bardzo pilnie śledzą i uczestniczą w tej dyskusji, dzięki czemu jako jedna z pierwszych grup podmiotów są one głęboko zaangażowane w analizę powstawania i funkcjonowania modeli i systemów AI. Mając na uwadze ten bagaż doświadczenia, prosimy o odpowiednie uzupełnienie art. 25 ust. 3 UoSSI. Zwraca naszą uwagę, że projekt konsekwentnie nie przewiduje możliwość uczestnictwa w społecznej radzie za choćby niewielkim honorarium (art. 26 ust. 6 UoSSI). Ze dziwieniem odnotowujemy uzasadnienie nieodpłatnego uczestnictwa w pracach rady („(...) chcąc nie generować niepotrzebnych kosztów po stronie budżetu państwa nie przewiduje się wynagrodzenia dla członków Komisji poza Przewodniczącym i jego zastępcami”, s. 10 uzasadnienia). Uważamy, że uczestnictwo w tak wysoko wyspecjalizowanym gremium oraz dzielenie się unikalną wiedzą na temat sztucznej inteligencji uzasadnia zapłatę. Ponownie zwracamy uwagę, że zakwalifikowanie tego Uwaga wyjaśniona Nie jest planowane poszerzenie katalogu podmiotów o OZZ. Skład podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk twórczych. Udział w pracach Rady pozostaje nieodpłatny Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych Strona | 103 rodzaju wynagrodzenia do kategorii „niepotrzebnego kosztu” jest w naszym przekonaniu wybitnie niefortunnym skrótem myślowym. w przepisach wydanych na podstawie art. 77 5 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 128. GRAI Art. 25 Proponujemy rozszerzenie wymagania o pewien minimalny okres pracy w obszarze cyfryzacji, w celu dodania mierzalności doświadczenia. Poniżej propozycja dodatkowego zapisu: „posiada co najmniej pięcioletni staż pracy na stanowiskach z obszaru cyfryzacji;”. Uwaga wyjaśniona Mając na uwadze charakter Społecznej Rady wskazane kryterium jest nadmiarowe. 129. ZBP Art. 25 ust. 3 Zwracamy uwagę na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być również przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. p. 7): „7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, bankowości, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych;”. Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 130. GRAI Art. 25 ust. 3 pkt 7 Wskazujemy na potrzebę doprecyzowania, że członkami Rady Społecznej mogą być przedstawiciele izb branżowych reprezentujących podmioty wykorzystujące systemy sztucznej inteligencji, tak, jak np. Związek Banków Polskich reprezentujący banki i firmy infrastrukturalne tego sektora. Obecne brzmienie może ograniczać udział takich izb. Proponujemy więc następujące uzupełnienie treści art. 25 ust. 3 pkt 7: 7) izby gospodarcze, reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 7. 131. GRAI Art 25 ust. 3 pkt 10 Proponuje rozszerzenie katalogu podmiotów zgłaszających o organizację społeczne i stowarzyszenia zajmujące się w swoich celach statutowych szeroko pojętym bezpieczeństwem informacji, ze względu na bardzo duże powiazanie pomiędzy rozwojem technologii sztucznej inteligencji, a informacjami i ich bezpieczeństwem. Poniżej propozycja przepisu z naniesioną zmianą: Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 104 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej, bezpieczeństwa informacji. 132. Stowarzyszen ie Autorów ZAiKS Art. 25 ust. 3 nowy pkt 11 W art. 25 ust. 3 po punkcie 10) dodaje się średnik oraz punkt 11) o następującym brzmieniu: „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych.” ALTERNATYWNIE „11) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz osób, których prawa mogą być naruszone w związku z tworzeniem, rozwijaniem i korzystaniem z systemów sztucznej inteligencji.” UZASADNIENIE Artykuł 25 ust. 3 Projektu wśród podmiotów mogących zgłosić kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji (dalej „Rada”), powinien natomiast uwzględniać również fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest ochrona praw autorskich i praw pokrewnych oraz reprezentowanie interesów uprawnionych z tytułu praw autorskich i praw pokrewnych lub szerzej, podmiotów, których prawa mogą być naruszane przez systemy sztucznej inteligencji. Bez zapewnienia w Radzie odpowiedniej reprezentacji podmiotów chroniących interesy przedstawicieli przemysłów kreatywnych, nie będzie możliwe prawidłowe wykonywanie nadzoru przez Komisję nad rynkiem systemów AI oraz modelami AI. Nadzór ten musi uwzględniać przestrzeganie przez branżę AI unijnego reżimu prawa autorskiego i praw pokrewnych. Przewidziany w Projekcie skład Rady w sposób jednoznaczny faworyzuje podmioty prowadzące działalność gospodarczą w zakresie sztucznej inteligencji lub y działające na rzecz jej rozwoju, a nie zapewnia przy tym zeczywistego przedstawicielstwa sektorów kreatywnych czy użytkowników systemów AI, zakłócając tym samym równowagę interesów tych różnych grup podmiotów działających w ramach bezstronnego organu, jakim ma być Rada. Dodanie w konsultowanym Projekcie do katalogu podmiotów mogących być powołanymi do Rady przedstawicieli trzeciego sektora działających „na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej” nie rozwiązuje problemu braku właściwego przedstawicielstwa organizacji reprezentujących twórców czy artystów wykonawców. Organizacje te nie prowadzą Uwaga uwzględniona Zmieniono brzmienie art. 25 ust. 3 pkt 10. Strona | 105 działalności w zakresie rozwoju kultury cyfrowej, a ich statutowym działaniem jest zapobieganie naruszeniom praw ich członków. Tych samych praw, które od wielu lat naruszane są na masową skalę przez dostawców modeli i systemów Gen AI. Organizacje reprezentujące twórców na całym świecie – takie jak CISAC (Międzynarodowa Konfederacja Stowarzyszeń Autorów i Kompozytorów), alarmują, że przedsiębiorstwa z branży AI od lat bezumownie korzystają z chronionych treści do trenowania swoich modeli generatywnej sztucznej inteligencji. Modele te coraz lepiej naśladują styl i estetykę konkretnych artystów, co prowadzi do deprecjacji oryginalnej twórczości i zmniejsza dochody autorów. Z raportu zleconego przez CISAC wynika, że gwałtowny wzrost przychodów dostawców Gen AI w ciągu najbliższych pięciu lat idzie w parze z ryzykiem znaczącej utraty dochodów twórców z powodu wypierania dzieł ludzkich przez generowane przez AI substytuty. Szacuje się, że pomimo dostarczania istotnych zasobów kreatywnych dla rynku treści generowanych przez AI, do 2028 r. twórcy muzyki oraz utworów audiowizualnych mogą doświadczyć strat wynoszących odpowiednio 24% i 21% ich obecnych przychodów. Łącznie ma to oznaczać stratę rzędu 22 miliardów euro w ciągu pięciu lat (10 miliardów euro w branży muzycznej oraz 12 miliardów euro w sektorze audiowizualnym). W szczególności silnie dotknięte zostaną rynki streamingu i bibliotek muzycznych, gdzie prognozuje się, że do 2028 r. muzyka generowana przez AI będzie stanowić około 20% przychodów tradycyjnych platform streamingowych oraz aż 60% przychodów bibliotek muzycznych. Podobne zagrożenie dotyczy twórców audiowizualnych. Najbardziej narażeni na straty są tłumacze oraz osoby zajmujące się dubbingiem i napisami, którzy mogą stracić nawet 56% swoich dochodów. Również scenarzyści i reżyserzy muszą liczyć się z konsekwencjami, gdyż AI może „skanibalizować” od 15% do 20% ich przychodów. Wzrost roli Gen AI w przemyśle kreatywnym rodzi więc poważne pytania o przyszłość wynagrodzeń i ochrony praw twórców. AI Act wymaga, aby organy odpowiedzialne za nadzór nad sztuczną inteligencją uwzględniały głos wszystkich stron zainteresowanych potencjalnym wpływem systemów AI na prawa i obowiązki prawne. Organizacje reprezentujące uprawnionych z tytułu praw autorskich i pokrewnych pełnią fundamentalną rolę w ochronie interesów twórców i wykonawców, dlatego ich pominięcie ich udziału w organach nadzorujących wdrożenie AI Act w Polsce stanowi naruszenie tej zasady. Uwzględniając powyższe argumenty, wnioskujemy o uzupełnienie składu Rady i właściwe zrównoważanie interesów wszystkich interesariuszy. 133. PTI Art. 25 ust. 4 pkt 1 LUB warto zamienić na ORAZ. 1. posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii oraz praw człowieka; Uwaga uwzględniona Strona | 106 LUB określa funkcję OR dla wymienionych kompetencji, co sprawia, że kompetencje w obszarze praw człowieka są alternatywą dla kompetencji technicznych, co spełnia warunek posiadania wiedzy i doświadczenia w obszarze sztucznej inteligencji dla osób bez kompetencji technicznych. Przepis został skorygowany zgodnie z treścią uwagi. 134. IA Chamber Art. 25 ust. 6 pkt 7 Ponownie wnosimy o usunięcie przepisu art. 25 ust. 6 pkt. 7. Członkowie Rady nie reprezentują organizacji, które zgłosiły ich kandydatury i nic nie uzasadnia wygaszania mandatów Członków w ten sposób. Uwaga uwzględniona Przepis został wykreślony. 135. KIGEiT Art. 26 ust.3 2.Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby, (choć nie jest wskazane, w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się, bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co budzi wątpliwości. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 136. PIIT Art. 26 ust.3 Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 137. KIGEiT Art. 26 ust. 4 w zw. z Art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady Strona | 107 zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 138. PIIT Art. 26 ust. 4 w zw. z art. 22 ust.3 Członek Rady jest obowiązany do zachowania w tajemnicy informacji, do których uzyskał dostęp w związku z wykonywaniem funkcji członka Rady. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub też życia, zdrowia i ochrony praw podstawowych osób fizycznych. Sposób zwolnienia z obowiązku zachowania tajemnicy określa regulamin Rady, o którym mowa w ust. 7. Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem. 139. PTI Art. 26 ust. 4 W zapisach brakuje określenia, pod jakim rygorem członek Rady dotrzymuje tajemnicy Sugerujemy określić warunki/rygor dochowania tajemnicy. Ujawnienie sensytywnych informacji przez członka Społecznej Rady musi być powiązane z odpowiednim przepisem, który tego zabrania pod karą wynikającą z kodeksu karnego Uwaga uwzględniona Rygor został określony w art. 25 ust. 8. Strona | 108 140. IA Chamber Art. 26 ust. 5 Nie został odpowiednio dopracowany przepis dotyczący konfliktu interesów członków Rady (obecnie w art. 26 ust. 5 projektu ustawy). Jest on sformułowany zbyt szeroko, mogąc prowadzić do nacisków wobec członków Rady. Przepis ten powinien bardziej precyzyjnie wskazywać, że dany członek powinien wyłączyć się z prac Rady w sytuacjach wystąpienia bezpośredniego konfliktu interesów. Uwaga wyjaśniona Mając na uwadze, że rada jest ciałem opiniodawczo doradczym projektodawca nie widzi zasadności doprecyzowania przedmiotowego przepisu. 141. KIGEiT Art. 27 ust.1 pkt 2 2) przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Natomiast należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 49 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 142. PIIT Art. 27 ust.1 pkt 2 Przyjmowanie oraz przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; Nie jest jasne o wnioski w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Uwaga wyjaśniona Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie Strona | 109 Natomiast co do zasady należy rozważyć, czy Rada powinna w ogóle wypowiadać się w sprawach indywidualnych – nie wydaje się to zasadne i może powodować praktyczne problemy związane m.in. z koniecznością przeciwdziałania konfliktom interesów, czy ujawnieniu tajemnicy przedsiębiorstwa. zasadności wszczęcia postępowania o naruszenia przepisów rozporządzenia 2024/1689. 143. AmCham Art. 27 ust. 2 Obecna redakcja przepisu może sugerować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące, co nie wydaje się zgodne z intencją projektodawcy. Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 144. KIGEiT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 145. PIIT Art. 27 ust.2 2. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. W ust.2 nie ma mowy o \"wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały, ponieważ Rada jest ciałem kolegialnym, nie są przyjmowane w trybie określonym w ust 2. Strona | 110 Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 1 pkt 4 wszczyna na ich podstawie postępowanie. 146. ZPTC Lewiatan Art. 27 ust. 2 Czy z projektu zapisu należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1) są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 147. GRAI Art. 27 ust. 2 Przy obecnym brzmieniu przepisu, pojawia się wątpliwość, czy należy wnioskować, że opinie lub stanowiska Rady wyrażane w innym trybie niż opisanym w art. 27 ust. 1 punkt 1 są dla Komisji wiążące? Uwaga wyjaśniona Opinie w innym trybie również nie są wiążące. Opinie jako rodzaj wyrażenia zdania z założenia nie są aktem wiążącym podmioty. 148. Stowarzyszen ie Autorów ZAiKS Art. 27 ust. 3 Biorąc pod uwagę, że Rada może liczyć od 9 do 15 członków - wątpliwości budzi nie zawarcie w art. 27 ust. 3 Projektu wskazówki, jak rozwiązać impas w przypadku równej liczby głosów. Wskazane jest więc dodanie, że \"w razie równej liczby głosów rozstrzyga głos Przewodniczącego Rady\". Uwaga wyjaśniona Tryb ten zostanie uregulowany w regulaminie, o którym mowa w art. 26 ust. 8. 149. KIGEiT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w Strona | 111 zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 150. PIIT Art. 27 ust.4 Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 151. GRAI Art. 28 Mając na uwadze, że w skład Komisji mają wejść przedstawiciel RPD, wyjaśnienia wymaga jakie jest uzasadnienie włączenia przedstawiciela również do Rady? Uwaga wyjaśniona RPD w nowej wersji projektu ustawy nie wchodzi w skład KRiBSI, natomiast może zgłaszać przedstawicieli do Społecznej Rady. Strona | 112 152. SFP-ZAPA Art. 28 ust. 3 Uzupełnienie katalogu podmiotów, które mogą zgłaszać kandydatów na członków Społecznej Rady do Spraw Sztucznej Inteligencji poprzez zapewnienie takiego prawa także podmiotom reprezentującym osoby, których prawa mogą być naruszone przez sztuczną inteligencję, w szczególności organizacjom zbiorowego zarządzania prawami autorskimi i prawami pokrewnymi. Uwaga wyjaśniona Katalog podmiotów wskazujących kandydatów na członków Społecznej Rady obejmuje szerokie gremium w tym zabezpieczające możliwość zgłoszenia kandydatów z zakresu środowisk zwianych z prawami autorskimi i prawami pokrewnymi. 153. KIGEiT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biura Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 154. PIIT Art. 28 ust.5 5. Organami Biura Komisji są: 1) Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2) Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Strona | 113 Rekomendowane wykreślenia. Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie, a art. 29-art. 36 zostały wykreślone. 155. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów Obecny przepis: Wymaga uprzedniej zgody Komisji na rozpoczęcie testów. Proponowana zmiana: Wprowadzenie modelu \"na zgłoszenie\" z domniemaną zgodą po 14 dniach braku sprzeciwu. Uzasadnienie: Skrócenie czasu uruchamiania testów z kilku tygodni do maksymalnie dwóch tygodni. Model \"na zgłoszenie\" eliminuje zbędne formalności, co sprzyja dynamicznemu wdrażaniu innowacji. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 156. GRAI Art. 30 Art. 30 – Procedura zgłaszania testów w piaskownicy regulacyjnej Obecny przepis: \"Testowanie systemów AI w piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.\" Proponowana zmiana: Uwaga częściowo wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Strona | 114 1. Testowanie systemów AI w piaskownicy regulacyjnej odbywa się na podstawie zgłoszenia do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. 2. Komisja w terminie 14 dni od dnia otrzymania zgłoszenia może zgłosić zastrzeżenia. Brak odpowiedzi w tym terminie oznacza domniemaną zgodę. 3. Procedura zgłoszeniowa ogranicza się do elektronicznego formularza zawierającego podstawowe informacje o projekcie. Dodatkowa dokumentacja jest wymagana tylko dla projektów wysokiego ryzyka. 4. Komisja publikuje wzory dokumentów i instrukcje zgłoszeniowe w formie elektronicznej. System zgłoszeń podlega kwartalnej analizie, której wyniki są podstawą do modyfikacji procesu, skracania czasu obsługi i usuwania barier proceduralnych. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 157. GRAI Art. 31 Art. 31 – Raportowanie i autoaktualizacja procesów Obecny przepis: Obowiązek cyklicznych raportów. Proponowana zmiana: Raport końcowy obowiązkowy dla wszystkich; raport śródokresowy tylko dla projektów dłuższych niż 6 miesięcy. Komisja analizuje zebrane dane co 6 miesięcy i wprowadza zmiany w procedurach w ciągu 30 dni. Uzasadnienie: Zmniejszenie obciążeń administracyjnych i skrócenie czasu sprawozdawczości. Regularna analiza pozwoli na dostosowanie piaskownicy do potrzeb uczestników i poprawę jej wydajności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały Strona | 115 Proponowana zmiana: 1. Uczestnicy składają jedynie raport końcowy po zakończeniu testów, zawierający wnioski i rekomendacje dotyczące procesu testowania. 2. Projekty trwające powyżej 6 miesięcy składają jedno sprawozdanie śródokresowe. 3. Komisja co 6 miesięcy przeprowadza analizę zebranych raportów oraz opinii uczestników, aktualizując procedury i narzędzia piaskownicy w celu poprawy wydajności i użyteczności. Wdrożenie zmian wynikających z analizy następuje nie później niż w ciągu 30 dni od daty opublikowania raportu z ewaluacji. ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 158. GRAI Art. 31 - Propozycja mechanizmu zarządzania testami (Art. 31 – nowe ustępy) > Dodane do art. 31 ust. 4-6 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” > Zmiana: ● Obowiązek wyznaczenia osoby zarządzającej testami – zmniejsza to potrzebę kontroli administracyjnej. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne Strona | 116 Brak konieczności dodatkowej oceny przez organ państwowy – wystarczy raport końcowy. niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 159. GRAI Art. 32 Art. 32 – Nabór i adaptacja procesu Obecny przepis: Organizacja co najmniej trzech konkursów rocznie. Proponowana zmiana: Stały nabór otwarty z decyzjami wydawanymi w ciągu 14 dni. Uzasadnienie: Eliminacja przestojów wynikających z oczekiwania na konkursy. Ciągła rekrutacja pozwala na większą elastyczność i dostępność, szczególnie dla MŚP i startupów. Proponowana zmiana: 1. Komisja prowadzi stały nabór, umożliwiając zgłoszenia w dowolnym momencie. 2. W przypadku wprowadzenia limitów uczestników pierwszeństwo mają MŚP i startupy. 3. Proces naboru podlega bieżącej analizie i dostosowaniu na podstawie feedbacku z poprzednich edycji, co ma na celu eliminowanie zbędnych formalności. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia Strona | 117 Decyzje dotyczące przyjęcia do piaskownicy są publikowane w ciągu 14 dni od daty zgłoszenia. piaskownic regulacyjnych. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 160. GRAI Art. 35 Art. 35 – Zarządzanie i doskonalenie piaskownic Obecny przepis: Komisja pełni funkcję nadzorczą. Proponowana zmiana: Wprowadzenie zespołu monitorującego do analizy skuteczności piaskownicy. Wyniki analizy są podstawą do wprowadzenia zmian w ciągu 30 dni. Uzasadnienie: Systematyczna ewaluacja umożliwia szybką identyfikację i eliminację problemów, zwiększając użyteczność piaskownicy. Proponowana zmiana: 1. Komisja nadzoruje zgodność testów z przepisami i standardami bezpieczeństwa, nie ingerując w codzienne zarządzanie projektami. 2. Powołuje zespół monitorujący, którego zadaniem jest cykliczna analiza efektywności piaskownicy oraz przygotowywanie rekomendacji dotyczących usprawnień. Każdy cykl testów kończy się oceną systemu zarządzania piaskownicą. Wdrożenie rekomendowanych zmian następuje w terminie 30 dni od zakończenia analizy. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Stwarzają one jedynie ogólne ramy prawne niezbędne do podjęcia działań zmierzających do utworzenia piaskownic regulacyjnych. Część Strona | 118 Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Do czasu wydania tych przepisów zasadnym jest wstrzymanie się od szczegółowego regulowania kwestii piaskownic regulacyjnych. 161. AmCham Art.36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Ograniczenie to nie wydaje się celowe Uwaga wyjaśniona W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy 162. Stowarzyszen ie Autorów ZAiKS Art. 36 ust. 1 Niejasne jest sformułowanie art. 36 ust. 1 Projektu w zakresie, w jakim umożliwia ministrom właściwym do spraw informatyzacji, do spraw szkolnictwa wyższego i nauki oraz do spraw gospodarki powierzanie Komisji realizacji zadań, które na mocy ustawy (art. 9 pkt 3, 8, 11 i 14) będą zadaniami własnymi Komisji. Tym samym brzmienie przepisu nie wydaje się odpowiadać intencjom projektodawcy dot. możliwości powierzania Komisji realizacji zadań innych niż te, które zobowiązana jest wykonywać na mocy ustawy, które już zostały wskazane w art. 9 Projektu. Uwaga nieaktualna Art. 36 został wykreślony z projektu ustawy. 163. ZPTC Lewiatan Art. 36 ust. 1 W porównaniu z poprzednim projektem ustawy nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Jaki jest powód takiego ograniczenia? Uwaga nieaktualna Odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. Strona | 119 164. GRAI Art. 36 ust. 1 Nastąpiło zmniejszenie liczby ministrów właściwych dla swoich działów administracji rządowej, którzy mogą w drodze porozumienia powierzyć Komisji realizację zadań. Czy jest powód takiego ograniczenia i dlaczego takich zadań – w zakresie ograniczonym jak w propozycji art. 36 ust.1 – nie może zlecić np. Prezes Rady Ministrów? Uwaga nieaktualna W wyniku zgłoszonych uwag odstąpiono od regulacji w tym zakresie. Art. 36 został wykreślony z projektu ustawy. 165. FinTech Poland Rozdział 3 Prawa kontrolowanego Doceniamy wprowadzenie minimalnego terminu na notyfikację kontrolowanego o planowanej kontroli. Jest to krok w kierunku zapewnienia przewidywalności i ochrony podmiotów poddawanych kontroli. Jednakże, ustalenie maksymalnego czasu trwania kontroli na 21 dni jest równie istotnym elementem zapewnienia sprawności, przewidywalności oraz efektywności prowadzonych kontroli. Brak ograniczenia czasowego mógłby prowadzić do przewlekłości procesów kontrolnych. W konsekwencji przeciągające się kontrole mogą negatywnie wpływać na kontrolowane podmioty i w efekcie uniemożliwiać prowadzenie kontrolowanym podmiotom działalności gospodarczej. Proponowany czas 21 dni pozwoli kontrolowanemu realnie oszacować czas kontroli i zminimalizować problemy z nią związane. Z drugiej strony, okres 3 tygodni będzie odpowiednim czasem dla Komisji na przeprowadzenie rzetelnej i skrupulatnej kontroli. Uwaga wyjaśniona Należy zaznaczyć, że ograniczenie czasowe wprowadzone jest w ramach przepisów o postępowaniu przed Komisją (maksymalny okres trwania to 6 miesięcy). 166. GRAI Art. 38 Art. 38 – Ogólnopolski zasięg i dostępność (nowy artykuł) Proponowana zmiana: Obowiązek zapewnienia dostępu dla podmiotów z całego kraju oraz organizacja spotkań konsultacyjnych dwa razy w roku. 1. Piaskownice regulacyjne mają zapewnić dostęp podmiotom z całej Polski, z uwzględnieniem potrzeb MŚP i startupów. 2. Komisja organizuje co najmniej dwa razy w roku spotkania z uczestnikami w celu zebrania opinii o funkcjonowaniu piaskownicy i dostosowania jej do potrzeb rynku. 3. System zgłoszeń, dokumentacji i komunikacji jest regularnie aktualizowany, by eliminować identyfikowane problemy. Uzasadnienie: Wzmacnia ogólnopolski zasięg i pozwala na lepsze dopasowanie piaskownicy do rzeczywistych potrzeb uczestników. Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana Strona | 120 za sprawą aktu wykonawczego Komisji Europejskiej. 167. GRAI Art. 38 ust. 2 Jest: Kontrole mają być przeprowadzane zgodnie z planem kontroli zatwierdzonym przez Komisję. Nie ma jednak informacji o tym, czy plan zostanie gdziekolwiek opublikowany. Publikacja planu kontroli zapewniłaby zainteresowanym zrozumienie, jakie obszary będą podlegać kontroli i jak się przygotować. Inspiracji dostarcza PUODO, który publikuje w styczniu każdego roku sektorowy plan kontroli. Propozycja: Proponujemy dodanie do art. 38 ust. 3 ustawy zdania w brzmieniu: \"W terminie do dnia 30 stycznia każdego roku Komisja przyjmuje i publikuje roczny plan kontroli sektorowych na bieżący rok kalendarzowy. Oraz publikuje plan na swojej oficjalnej stronie internetowej” Uwaga wyjaśniona Brzmienie art. 38 (obecnie art. 30) jest zgodne z art. 78 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych. 168. GRAI Art. 39 ust. 2 Jest: Art. 39 ust. 2 stanowi, że kontrolę wszczyna się nie wcześniej niż po upływie 7 dni od dnia doręczenia zawiadomienia o zamiarze wszczęcia kontroli. Propozycja: Choć podobne warunki dotyczą kontroli na gruncie ustawy Prawo przedsiębiorców (art. 48) - biorąc pod uwagę, że kontrola systemów SI jest bardziej złożona - sugerujemy wydłużenie tego terminu do najlepiej 30, a co najmniej 14 dni. Uwaga wyjaśniona Przepis ma na celu zachowanie spójności z Prawem przedsiębiorców. 169. GRAI Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Zdalne inspekcje, a zwłaszcza sposób ich zorganizowania, gdzie wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 121 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i zasobożerne. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej. 170. AmCham Art.39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być istotnie niższe niż wobec personelu obsługującego centra danych. Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Firmy będą potrzebować solidnych zapewnień, że procesy inspekcji są bezpieczne, zwłaszcza podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do ryzyk związanych z cyberbezpieczeństwem. Udzielanie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej. Strona | 122 Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmioty wykorzystujące systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia niepowiązanych wrażliwych danych, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagać dużych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, ryzykując utratę reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej 171. KIGEiT Art. 39 ust. 3 Kontrolę lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (....) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 172. PIIT Art. 39 ust. 3 Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Brak części tekstu Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 31). 173. ZPTC Lewiatan Art. 39 ust. 3 Wprowadzenie obowiązku zdalnych inspekcji centrów danych i usług w chmurze budzi poważne obawy dotyczące bezpieczeństwa danych i prywatności. Wymagania cyberbezpieczeństwa nakładane przez Komisję wobec inspektorów, ich urządzeń, systemów i aplikacji mogą być niższe niż wobec personelu obsługującego centra danych! Tym samym mogą narażać wrażliwe dane zwiększając ryzyko incydentów lub naruszeń. Uwaga wyjaśniona Projekt dopuszcza możliwość, w uzasadnionych przypadkach, w tym tych, o których mowa w Strona | 123 Firmy będą potrzebować solidnych gwarancji organizacyjnych i technicznych, że procesy inspekcji są bezpieczne, zwłaszcza jeśli będą przeprowadzane podczas bieżącej obsługi klientów. Potencjalny dostęp do logów lub rejestrów zawierających dane osobowe lub poufne dane biznesowe, w tym tajemnice przedsiębiorstwa, wprowadza dodatkowe wyzwania związane z prywatnością i zgodnością. Zdalne inspekcje mogą również prowadzić do wielu nowych ryzyk związanych z cyberbezpieczeństwem np. udzielenie zewnętrznego dostępu może wprowadzić nowe podatności. Zakłócenia operacyjne to kolejna obawa, ponieważ zdalne inspekcje systemów pracujących w czasie rzeczywistym mogą zakłócać regularne operacje, wpływając na wydajność systemu lub świadczenie usług klientom. Dla firm posiadających systemy krytyczne dla usług w czasie rzeczywistym, czas i metoda inspekcji będą wymagały starannej koordynacji w celu zminimalizowania przerw w świadczeniu usług. Zgodność z wymaganiami dotyczącymi lokalizacji danych może stać się problemem w niektórych jurysdykcjach. Zdalne inspekcje mogą kolidować z tymi przepisami, jeśli inspektorzy są zlokalizowani poza krajem, co może narażać firmy na ryzyko prawne. To ostatnie dotyczy nie tylko dostawców usług, ale także podmiotów wykorzystujących systemy sztucznej inteligencji. Zakres i kontrola dostępu do inspekcji będą musiały być starannie zdefiniowane. Udzielanie zbyt szerokiego dostępu może prowadzić do niezamierzonego ujawnienia wrażliwych danych niepowiązanych z samą kontrolą, co sprawia, że konieczne jest wdrożenie ścisłych mechanizmów kontroli dostępu i audytu w celu monitorowania działań inspektorów, co może być technicznie skomplikowane i wymagające znacznych zasobów. Wiele firm ma zobowiązania umowne do ochrony danych klientów, a zdalne inspekcje mogą naruszać te umowy, tworząc ryzyko utraty reputacji i zaufania. Rozwianie tych obaw wymagałoby kompleksowego podejścia, w tym rygorystycznych środków bezpieczeństwa, precyzyjnych ograniczeń dostępu, zgodności z prawem oraz jasnej odpowiedzialności za wszelkie naruszenia danych lub niewłaściwe postępowanie. Podsumowując: zapisy art. 42 ust. 3 są dalece niewystarczające dla zapewnienia bezpiecznej kontroli, nienaruszającej działalności operacyjnej podmiotu kontrolowanego. uwadze, przeprowadzenia przez Komisję kontroli w formie stacjonarnej (art. 31 ust.4). Strona | 124 174. Związek Cyfrowa Polska Art. 39 ust. 1 pkt 4 Społeczna Rada do spraw Sztucznej Inteligencji nie powinna mieć uprawnień do wnioskowania o wszczęcie nadzoru. Rada służy wyłącznie jako organ doradczy i konsultacyjny Komisji, a przyznanie jej uprawnień do inicjowania nadzoru wykracza poza podstawowe zadania, jakie ma realizować Rada. Radzie brakuje kompetencji proceduralnych niezbędnych do oceny czy wniosek o nadzór jest uzasadniony. Uwaga uwzględniona Wykreślono w art. 31 w ust. 4 pkt 1. 175. Związek Cyfrowa Polska Art. 39 ust. 4 Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 176. Polska Izba Ubezpieczeń Art. 39 ust. 4 W sposób ogólny i nieprecyzyjny wskazuje się w jakich przypadkach Komisja może przeprowadzić kontrolę bez zachowania terminu na powiadomienie podmiotu kontrolowanego terminie 7 dni. Pojęcie „podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych” jest wysoce nieprecyzyjne i będzie stwarzać duże ryzyko nadinterpretacji. Uwaga wyjaśniona Mając na uwadze szerokie zastosowanie systemów sztucznej inteligencji oraz uch szybki rozwój doprecyzowanie przedmiotowych pojęć może ulec szybkiej dezaktualizacji. 177. KIGEiT Art.39 ust. 4 pkt 2 Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych Uwaga wyjaśniona Przepis w wyniku ponownej analizy na Strona | 125 wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. W przypadku kontroli konstrukcji systemu sztucznej inteligencji rekomendujemy zachowanie obowiązku poinformowania o kontroli z siedmiodniowym wyprzedzeniem. podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 178. PIIT Art.39 ust. 4 pkt 2 4. Gdy uzasadniają to okoliczności sprawy, w szczególności sposób działania lub konstrukcja systemu sztucznej inteligencji, jak również ze względu na podejrzenie wystąpienia, lub też znaczące prawdopodobieństwo wystąpienia w przyszłości szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącego bezpośrednio powiązanego z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2. O ile konstrukcja systemu może uzasadniać przeprowadzenie kontroli na miejscu, to jednak nie uzasadnia to niedochowania terminu. Uwaga wyjaśniona Przepis w wyniku ponownej analizy na podstawie zgłoszonych uwag w zakresie niezachowania terminu został doprecyzowany przez wskazanie, że dotyczy podmiotu o którym mowa w art. 30 ust. 3 pkt 2 projektu ustawy. 179. GRAI Art. 40 Art. 40 – Infrastruktura i wsparcie techniczne (nowy artykuł) Proponowana zmiana: Zapewnienie modelu hybrydowego infrastruktury obliczeniowej oraz wprowadzenie szybkiej ścieżki usuwania barier technicznych (15 dni na rozpatrzenie wniosków). Uzasadnienie: Umożliwia efektywne testowanie rozwiązań AI bez konieczności ponoszenia wysokich kosztów technologicznych. Regularna analiza wykorzystania zasobów pozwoli na ich optymalizację. Nowy artykuł: 1. Ministerstwo Cyfryzacji zapewnia uczestnikom dostęp do infrastruktury obliczeniowej w modelu hybrydowym. 2. Analiza wykorzystania infrastruktury jest prowadzona co 6 miesięcy. Wyniki tej analizy służą do optymalizacji zasobów i zwiększenia dostępności. 3. W przypadku pojawienia się istotnych barier technicznych uczestnicy mogą składać wnioski o ich usunięcie, które Komisja rozpatruje w terminie 15 dni. Uwaga nieaktualna Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Strona | 126 180. FinTech Poland Art. 40 ust. 2 Przepis art. 40 ust. 2 budzi obawy związane z możliwością zaangażowania w czynności kontrolne osoby, która posiada odpowiednie kompetencje. Takie rozwiązanie bez doprecyzowania wymogów dla angażowanej osoby rodzi wątpliwości, zwłaszcza gdy osoby te mogą później uczestniczyć w projektach lub przedsięwzięciach komercyjnych, które współpracują z branżą AI, co mogłoby prowadzić do niepożądanych konfliktów interesów. Choć rozumiemy potrzebę zaangażowania ekspertów zewnętrznych w przypadku kontroli wymagających specjalistycznej wiedzy, zaleca się wprowadzenie ścisłych zastrzeżeń dotyczących wyboru takich osób. Powinny one obejmować weryfikację potencjalnych konfliktów interesów, obowiązek podpisania klauzul o zachowaniu poufności oraz wyłączenie z możliwości przeprowadzania kontroli osób zatrudnionych w instytucjach lub podmiotach, które mogłyby mieć późniejszy interes gospodarczy związany z wynikami kontroli. Dodatkowo, bardziej precyzyjne zdefiniowanie kryteriów, jakie musi spełniać osoba upoważniona do udziału w kontroli, np. brak powiązań z sektorem prywatnym, może zwiększyć transparentność i zaufanie do procesu. Alternatywnie, można ograniczyć grono upoważnionych do pracowników organów wymienionych w art. 6 ust. 3, co zapewni większą kontrolę nad przepływem poufnych informacji oraz ich wykorzystaniem. Podobnie jak w art. 40 ust. 2 pojawia się obowiązek udzielenia wszelkich potrzebnych informacji nie tylko kontrolującemu, ale również osobom upoważnionym do kontroli. Zalecane jest wprowadzenie dodatkowych wymogów jak muszą zostać spełnione przez osoby upoważnione do kontroli. Przepis art. 42 ust. 2 przewiduje możliwość żądania przez kontrolującego dostępu nośników danych, urządzeń i systemów informatycznych, co rodzi pytania o sposób realizacji tych wymogów w praktyce. Należy doprecyzować, czy przepis ten odnosi się jedynie do dostępu do informacji zawartych na nośniku danych, czy też do samego nośnika fizycznego (np. dysku twardego). W kontekście nowoczesnych technologii, takich jak serwery chmurowe, fizyczne udostępnienie nośnika może być niemożliwe, ponieważ dane te istnieją na rozproszonych serwerach, które nie są w bezpośredniej dyspozycji podmiotu kontrolowanego. Dlatego warto rozważyć, w jaki sposób podmiot kontrolowany może efektywnie udostępnić żądane dane lub zapewnić dostęp do systemów, w szczególności, jeśli dane znajdują się na serwerach zewnętrznych dostawców usług chmurowych. Należy również wskazać, czy odpowiednie formy dostępu, np. zdalne logowanie do systemów, mogą spełniać ten wymóg oraz jakie zasady bezpieczeństwa powinny towarzyszyć takim czynnościom, aby zapewnić ochronę danych poufnych oraz zapobiec nieuprawnionemu dostępowi do systemów Uwaga uwzględniona Art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. Strona | 127 zewnętrznych. Zalecane jest, aby przepisy doprecyzowały, czy podmiot kontrolowany ma obowiązek jedynie umożliwić wgląd do danych w zakresie dostępu, jaki sam posiada, czy też ma obowiązek podejmować dodatkowe działania, np. kontaktowanie się z dostawcami usług chmurowych w celu udostępnienia danych. 181. KIGEiT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa - Prawo przedsiębiorców, ani tez KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 182. PIIT Art. 40 ust.2 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje. Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. nie może być to osoba, która jest np. zatrudniona u konkurencji kontrolowanego podmiotu. Uwaga wyjaśniona Projektodawca celowo używa szerszego pojęcia niż „biegły”. W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. 183. Związek Cyfrowa Polska Art. 40 ust. 2 Ustawa nie przewiduje zabezpieczeń dotyczących osób upoważnionych przez Komisję do udziału w kontroli. Komisja powinna być przede wszystkim odpowiedzialna za zapewnienie, że personel kontrolny posiada niezbędne kompetencje, co powinno być osiągnięte poprzez szkolenia i inne działania budujące zdolności. Obecny przepis stwarza ryzyko, że upoważniony kontroler może być: (1) konkurentem podmiotu kontrolowanego, (2) osobą posiadającą osobisty interes w wydaniu niekorzystnego protokołu kontroli. Nie istnieją również jasne kryteria oceny kwalifikacji eksperta zewnętrznego ani wyraźne zobowiązania dotyczące poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, takie osoby nie przychodziłyby formalnych szkoleń w zakresie prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Strona | 128 kontrolnych. Zalecamy usunięcie tego przepisu lub jego szczegółowe określenie w celu minimalizacji wyżej wymienionych ryzyk oraz zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. Ponadto art. 32 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 184. AmCham Art. 40 ust. 2, art. 40 ust. 4 w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosuję się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto art. 40 nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 185. ZPTC Lewiatan Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Zapis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w propozycji. Ponadto, wskazujemy, że przepis ten należy uzupełnić o doprecyzowanie, że osoba nie powinna mieć konfliktu interesów, np. pracować/współpracować z konkurencją podmiotu kontrolowanego. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. Ponadto w art. 32 nadano nowe brzmienie. Strona | 129 W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 186. GRAI Art. 40 ust.2, art. 40 ust. 4, w kontekście art. 40 ust. 9 Przepis wskazujący, że dopuszczona do kontroli osoba trzecia musi wykazywać się wyłącznie wiedzą specjalistyczną jest dalece niewystarczający. Podmioty kontrolowane, a także ich klienci, wymagają znacznie większej ochrony poufności i tajemnic przedsiębiorstw niż jest to zapisane w tej propozycji brzmienia przepisu. Uwaga uwzględniona Dodano przepis zgodnie, z którym do osoby, o której mowa w art. 32 ust. 2, stosują się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. - Kodeks postepowania administracyjnego. 187. PTI Art. 41 ust. 2 2. Upoważnienie do przeprowadzenia kontroli zawiera: Brak informacji o możliwości weryfikacji tożsamości kontrolera. Sugerujemy odwołanie do Ustawy o NIK. Powinna istnieć możliwość weryfikacji tożsamości kontrolera. W przeciwnym wypadku może dojść do oszustw ze strony osób podszywających się pod Komisję. Uwaga wyjaśniona Potwierdzenie tożsamości przez kontrolującego określone jest w obecnym art. 33. 188. ZBP Art. 41 ust. 3 Regulamin Komisji reguluje tryb i działanie Komisji, a nie kontroli. Z tego względu dobrym rozwiązaniem będzie przeprowadzanie kontroli na podstawie Regulaminu kontroli. Ponadto w przypadku, jeżeli wszelkie czynności będą uregulowane w regulaminie Komisji to będzie on bardzo obszerny, co może niepotrzebnie komplikować podejmowanie czynności kontrolnych. Z tego względu proponujemy alternatywne brzmienie przepisu: „Organizację, szczegółowy sposób, tryb i zakres prowadzenia kontroli określa regulamin Komisji kontroli.” Uwaga uwzględniona Wyraz „Komisji” zastąpiony został wyrazem „kontroli”. 189. AmCham Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42 ust. 1 wyraźnie wspomina o dostępie do systemów informatycznych i chmury Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy Strona | 130 obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Argumentacja: Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 190. Związek Cyfrowa Polska Art. 42 Projektowana ustawa powinna jednoznacznie umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy handlowej, podobnie jak w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów. Takie rozwiązanie zwiększyłoby ochronę kluczowych informacji biznesowych, które obecnie nie są wystarczająco zabezpieczone. Ponadto, proponowane zapisy artykułu zdają się być na tyle szerokie, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o SI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o SI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Należy wskazać, że ● Żaden przepis projektu ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w Strona | 131 chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych, ● Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora, ● Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. 191. ZPTC Lewiatan Art. 42 Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Zdanie odnoszące się do \"systemu informatycznego i chmury obliczeniowej należącej do innej strony\" powinno zostać usunięte. Uzasadnienie: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentację mogą nie dać jednoznacznych wyników. Strona | 132 • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. 192. Polska Izba Ubezpieczeń Art. 42 Wprowadzenie obowiązku zapewnienia przez podmiot kontrolowany dostępu do chmury obliczeniowej będącej własnością innego podmiotu zawierającej dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do niej dostęp będzie w praktyce niemożliwe do realizacji w przypadku globalnych dostawców. Izba proponuje nie dodawać tej zmiany. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. 1 pkt 1 chmury obliczeniowej. 193. GRAI Art. 42 ust. 1 Jest: Art. 42 ust. 1 w nowym brzmieniu stanowi, że podmiot kontrolujący może żądać dostępu nie tylko do systemów informatycznych podmiotu kontrolowanego, ale także do systemów informatycznych i chmur obliczeniowych należących do innego podmiotu. Taki zakres kontroli jest niezgodny z art. 78 ust. 2 projektu ustawy o systemach sztucznej inteligencji, który pozwala organom żądać jedynie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem przepisów ustawy o sztucznej inteligencji. Propozycja: Usunąć z art. 42 ust. 1 “oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp”. Uwaga wyjaśniona W celu dokonania pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 34 ust. Strona | 133 1 pkt 1 chmury obliczeniowej. 194. PTI Art. 42 ust. 1 pkt 4 4. zabezpieczania dokumentów i innych materiałów i danych Oryginałów czy kopii? Sugerujemy odwołanie do Ustawy o NIK Brak informacji czy kontroler będzie mógł zabezpieczyć oryginał czy wyłącznie kopię materiałów. Jeśli oryginałów jaka jest odpowiedzialność za ich uszkodzenie lub zagubienie? Uwaga wyjaśniona Przepis pkt 4 odnosi się do oryginałów. Zabezpieczenie musi następować z zachowaniem przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych Kwestia kopii została uregulowana w pkt 6. 195. KIGEiT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Uważamy, że zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 196. PIIT Art. 42 ust. 1 pkt 7 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art. 23 ust.3 ustawy Zakres danych musi być ten sam jak dla Komisji. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 197. KIGEiT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić po swojej stronie mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Uwaga wyjaśniona Wykreślenie nie jest zasadne, ponieważ poza kontrolującym w kontroli mogą również barć udział inne osoby upoważnione. Strona | 134 198. PIIT Art. 42 ust.2 2. Kontrolowany lub osoba przez niego upoważniona jest obowiązana udzielać kontrolującemu wszelkich potrzebnych informacji oraz zapewnić mu i osobom upoważnionym do kontroli czas, warunki i środki do sprawnego przeprowadzenia kontroli, a także potwierdzić zgodność z oryginałem wszelkich kopii, wyciągów z dokumentów oraz zestawień, analiz, obliczeń lub innych dokumentów lub informacji sporządzonych na żądanie kontrolującego, oraz zapewnić mu: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu \"czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? Zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? - czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 199. PTI Art.42 ust. 2 dodać pkt 4 (poprzednio art. 44) Brakuje dogłębnej analizy kontrolowanego systemu Prosimy o rozszerzenie zapisu: (.) „powinien uwzględniać dostęp do funkcjonalności rozwiązań, wytrenowanych modeli, a także dawać możliwość kontrolującemu uruchomienia/przetestowania systemu AI na infrastrukturze podmiotu” Działanie tak złożonych i potencjalnie niebezpiecznych systemów, nie zawsze jest możliwe do oceny wyłącznie na podstawie dokumentacji, która może być niepełna lub błędna Uwaga wyjaśniona Wskazany w przepisie art. 36 zakres należy uznać za wystarczający do ustalenia przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 200. Związek Cyfrowa Polska Art. 44 Choć znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej) jest uznawane, projektowana ustawa znacząco ją ogranicza, naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową (adwokacką, radcowską). Projektowana ustawa nie określa, co oznaczają wątpliwości (które nawet nie muszą być uzasadnione) dotyczące powołania się na tajemnicę zawodową (adwokacką, radcowską). Sformułowanie zapewnienie ochrony przed ujawnieniem jest niejasne – dokument i tak zostanie ujawniony przynajmniej SOKiK. Projektowana ustawa nie precyzuje, jak dokumenty powinny być zabezpieczone. Obecne podejście nie spełnia standardów poufności tajemnicy zawodowej (adwokackiej, radcowskiej). Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową (adwokacką, radcowską), Uwaga uwzględniona Zmieniono treść przepisu art. 36, wykreślono ust. 2 ,3 i 5. Strona | 135 ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 201. KIGEiT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Rekomendowane jest, aby przepis odwoływał się do art. 43 a nie 42 ust.2. Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Wskazane w uwadze odesłanie nie wymaga korekty. 202. PIIT Art. 44 ust.1 Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa : 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub Uwaga wyjaśniona Wprowadzenie do wyliczenia w art. 36 ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. Strona | 136 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 42 3ust. 2 ustawy nie stosuje się. Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Wskazane w uwadze odesłanie nie wymaga korekty. 203. Związek Cyfrowa Polska Art. 44 ust. 1 Obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. Uwaga wyjaśniona W opinii projektodawcy obecna konstrukcja art. 36 w wystarczający sposób zabezpiecza prawo, o którym mowa w uwadze. 204. GRAI Art. 44 ust. 3 Uwaga redakcyjna – należy poprawić pisownie nazwy sądu – powinno być zapisane z dużej litery, konsekwentnie w całym projekcie ustawy. Uwaga nieaktualna Wykreślono art. 36 ust. 3. 205. GRAI Art. 44 ust. 3 i 5 Brzmienie art. 44 ust. 3 i ust. 5 w obecnym kształcie narusza podstawową zasadę tajemnicy adwokackiej oraz wprowadza konstrukcję postępowania nieznaną przepisom Kodeksu Postępowania Cywilnego. Obecne brzmienie Art. 44 ust.3 – „jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust.1, budzi wątpliwości, kontrolujący niezwłocznie, nie później niż po zakończeniu kontroli, doręcza je z pismem lub dokumentem, którego wątpliwość dotyczy do sądu okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów (..)”. Obecne brzmienie Art. 44 ust.5 – „Sąd, po zapoznaniu się z wnioskiem oraz pismami i dokumentami, o których mowa w ust.3, wydaje postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli zawierają one komunikację, o której mowa w ust. 1 i spełniają przesłanki określone w tym przepisie albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby Uwaga uwzględniona Wykreślono art. 36 ust. 3 i 5. Strona | 137 prowadzonego postępowania. Postanowienie podlega wykonaniu z chwila uprawomocnienia się”. Uwagi: W art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu, zwłaszcza, że w powiązaniu z ust. 5 brzmienie projektowanego zapisu prowadzi do nieznanej w polskich przepisach kodeksu cywilnego procedury wpadkowej dot. skontrolowania dokumentów, objętych tajemnicą adwokacką w ramach prowadzonej przez inny organ kontroli w postępowaniu pozasądowym. Po pierwsze możliwość zwolnienia z tajemnicy adwokackiej jest szczegółowo uregulowana w art. 261 Kodeksu Postępowania Cywilnego czy w art. 83 Kodeksu Postępowania Administracyjnego i co istotne zwolnienie z tajemnicy adwokackiej może jedynie i wyłącznie nastąpić w ramach prowadzonego postępowania sądowego i dodatkowo w sytuacji, w której również adwokat, radca prawny, prawnik z Unii Europejskiej jest uczestnikiem takiego postępowania. W przepisach postępowania karnego odpowiednikiem jest art. 180 Kodeksu Postępowania Karnego. W obecnym kształcie brzmienie art. 44 ust. 3 i art. 44 ust. 5 prowadzi do naruszenia podstawowej zasady zaufania obywateli do państwa oraz do naruszenia przepisów ochrony tajemnicy adwokackiej, która jest podstawową gwarancją prawidłowego wykonywania zawodu adwokata, radcy prawnego, prawnika z Unii Europejskiej. Jedynym organem, który może zwolnić adwokata, radcę prawnego, prawnika z Unii Europejskiejz tajemnicy jest sąd w prowadzonym konkretnym postepowaniu sądowym, w którym również adwokat, radca prawny, prawnik z Unii Europejskiej musi być uczestnikiem. Po drugie: Zwracamy uwagę, że w projektowanym brzmieniu art. 44 ust. 3 nie wskazano z jakim wnioskiem występuje Kontrolujący do sądu i na podstawie, której części przepisów Kodeksu Postępowania Cywilnego miałoby być prowadzone takie postępowanie. Tym samym brak zmiany w/w art. 44 spowoduje prowadzenie przez sąd jakiegoś nieznanego przepisom postępowania sądowego, które ma dokonać weryfikacji korespondencji, objętej tajemnicą adwokacką poza samym adwokatem, radcą prawnym czy prawnikiem z Unii Europejskiej, którzy są przecież także dysponentami takiej tajemnicy i co najmniej winni być uczestnikami takiego postępowania sądowego. Obecna konstrukcja w projektowanej ustawy o systemach sztucznej inteligencji jest prawnie niedopuszczalna. Uwagi de lege ferende Strona | 138 Postulujemy dokonanie całkowitej zmiany art. 44 ust. 3 i 5 i w pierwszej kolejności rozstrzygnięcie w jakim trybie i na podstawie jakich przepisów (cywilnych, karnych, administracyjnych) ma działać Kontrolujący oraz na jakim etapie należy zawiadomić o wszczętym postępowaniu adwokata, radcę prawnego czy prawnika z Unii Europejskiej, którym należy umożliwić wzięcie udziału w takim postępowaniu. 206. Związek Cyfrowa Polska Art. 45 Pomoc jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji jest nieuzasadniona. Komisja sama powinna posiadać niezbędne kompetencje i narzędzia do skutecznego przeprowadzania kontroli. Angażowanie zewnętrznych jednostek w ten proces budzi wątpliwości dotyczące poufności kontroli, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy zakres prowadzonych postępowań. Ponadto, przepis mówiący o możliwości żądania wsparcia Policji wydaje się niepotrzebny i nadmierny. Policja może zostać wezwana w każdym przypadku, gdy zdarzenie stanowi przestępstwo lub wykroczenie. Nie ma potrzeby wprowadzania specjalnej procedury angażowania Policji w czynności kontrolne, ponieważ takie podejście nie odpowiada nowoczesnemu państwu, które respektuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 37 ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie Strona | 139 stosowanych przepisów w projekcie ustawy. 207. Polska Izba Ubezpieczeń Art. 46 Izba nie zgadza się na propozycję skrócenia terminu z 14 na 7 dni na zgłoszenie zastrzeżeń do protokołu kontroli. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 208. KIGEiT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonej kontroli czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Analogicznie jak w art. 105 J ust.1 ustawy o ochronie konkurencji i konsumentów. Kontrolowany powinien mieć prawo do doniesienia się do protokołu z całości kontroli, a nie z poszczególnych czynności kontrolnych. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny: wyraz „kontrolowany” zastąpiono wyrazem „kontrolujący”. 209. PIIT Art. 46 ust.1 Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolowany kontrolujący sporządza projekt protokołu. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Protokół sporządza kontrolujący? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. Strona | 140 210. Związek Cyfrowa Polska Art. 46 ust. 1 Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że jest to jedynie błąd redakcyjny. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 211. GRAI Art. 46 ust. 1 Jest: Termin na złożenie zastrzeżeń do protokołu został skrócony do zaledwie 7 dni. Propozycja: Proponujemy przywrócenie poprzedniego 14-dniowego terminu, aby dać zainteresowanym więcej czasu na zapoznanie się z nim. W przypadkach tak złożonych jak systemy sztucznej inteligencji, przygotowanie zastrzeżeń często wymaga wkładu specjalistów z różnych działów, co może być trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Zwłaszcza, że brak zastrzeżeń złożonych w terminie oznacza, że projekt protokołu uznaje się za zaakceptowany, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniego czasu na zapoznanie się z jego treścią. Błąd redakcyjny: W art. 46 ust. 1 do poprawy omyłka pisarska – obecnie wskazuje, że to jednostka kontrolowana jest odpowiedzialna za sporządzenie protokołu kontroli. Uwaga częściowo uwzględniona W przepisie skorygowano błąd redakcyjny. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 212. PTI Art. 46 ust. 3 „Od otrzymanego projektu wystąpienia pokontrolnego podmiotowi kontrolowanemu przysługuje prawo wniesienia do właściwego organu zastrzeżeń, w terminie 14 dni od dnia doręczenia projektu wy stąpienia pokontrolnego.” Nie jest jasne, co jest „właściwym organem” Propozycja doprecyzowania: „do organu kontrolującego” Uwaga wyjaśniona Uwaga dotyczy projektu w wersji udostępnionej w ramach I etapu konsultacji publicznych. W projekcie z 10 lutego 2025 r. przepis zmienił brzmienie. 213. AmCham Art. 46 ust. 4 W celu zapewnienia rzetelności i efektywności procesu kontrolnego, a także Uwaga wyjaśniona Strona | 141 zagwarantowania prawa do obrony, termin na wniesienie zastrzeżeń do raportu z kontroli powinien wynosić co najmniej 14 dni. Obecnie zapisany w projekcie ustawy termin 7 dni w wielu przypadkach będzie niewystarczający, w szczególności w przypadku obszernych i szczegółowych raportów, zawierających analizę dużej ilości danych, materiałów, informacji i dokumentów. Analiza i przygotowanie uwag i zastrzeżeń będzie wymagało więcej czasu niż 7 dni. Zapewnienie 14 dni na zgłoszenie uwag do raportu z kontroli umożliwi kontrolowanym podmiotom dokładne zapoznanie się z treścią raportu, przeprowadzenie własnych analiz i konsultacji, a w konsekwencji – przygotowanie rzeczowych i wyczerpujących zastrzeżeń. Zapewni to również większą transparentność i obiektywizm procesu kontrolnego, co przyczyni się do zwiększenia zaufania do jego wyników. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 214. KIGEiT Art. 46 ust.4 4.W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 215. PIIT Art. 46 ust.4 4. W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń. 216. PIIT Art. 46 ust. 4 Termin na złożenie zastrzeżeń do projektu protokołu kontroli powinien wynosić co najmniej 14 dni. Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią Strona | 142 projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 217. Związek Cyfrowa Polska Art. 46 ust. 4 Termin na wniesienie zastrzeżeń do raportu z kontroli powinien zostać wydłużony do co najmniej 14 dni. Treść raportu może być obszerna i szczegółowa, biorąc pod uwagę zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów. Termin 7 dni może być niewystarczający na dokładną analizę i przygotowanie merytorycznych zastrzeżeń, zwłaszcza w przypadku skomplikowanych spraw. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 218. ZTPC Lewiatan Art. 46. ust. 5 i ust. 8 W przepisie należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 219. KIGEiT Art. 47 zalecenia pokontrolne Uwaga wyjaśniona Strona | 143 W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, rekomendujemy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. 220. PIIT Art. 47 zalecenia pokontrolne W ust. 2, lista elementów, które powinny zawierać zalecenia pokontrolne, powinna być uzupełniona o określenie stwierdzonych nieprawidłowości. W ust. 3, który pozwala na określenie krótszego niż 30 dni na usunięcie nieprawidłowości i powiadomienie Komisji, należy usunąć przesłankę „gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Przewodniczący/Komisja powinien być zobowiązany do precyzyjnego określenia zakresu naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub decyzji wydanej przez Komisję, stwierdzonego w wyniku kontroli (nieprawidłowości). Powinno to być obowiązkowym elementem zaleceń pokontrolnych. Tylko wówczas kontrolowany będzie mógł podjąć działania zmierzające do usunięcia nieprawidłowości. Pojęcie „naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości” jest bardzo szerokie i obejmuje również sytuacje, w których doszło do Uwaga wyjaśniona Zalecenia pokontrolne mogą być wydawane na skutek przeprowadzenia kontroli. Nie ma potrzeby przytaczania w nich elementów wskazanych w protokole z kontroli. Przepis jest kompletny i nie wymaga doprecyzowania. Strona | 144 naruszenia takiego samego obowiązku rozporządzenia 2024/1689, ale dotyczącego innego systemu lub jego zastosowania. 221. ZBP Art. 47 ust. 1 Przepis nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 222. GRAI Art. 47. ust. 1 Artykuł nie precyzuje, w jakim terminie od zakończenia kontroli KRiBSI przekazuje zalecenia pokontrolne, a także nie określa trybu wnoszenia zastrzeżeń do wydanych zaleceń, analogicznie, jak to ma miejsce w przypadku protokołu. Uwaga wyjaśniona Zalecenia pokontrolne są przekazywane po zakończeniu kontroli. Do zaleceń pokontrolnych przepisy ustawy nie przewidują wnoszenia zastrzeżeń. 223. GRAI Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 224. ZBP Art. 47 ust. 2 pkt 1 Punkt wymaga przeformułowania. W obecnym kształcie zdanie jest niedokończone lub zawiera nadmiarowe sformułowania. Uwaga uwzględniona Skorygowano błąd redakcyjny. 225. ZPTC Lewiatan Art. 47 ust. 2 pkt 1) Proponujemy usunięcie słowa \"nie i\" oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 226. ZBP Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać Strona | 145 termin na usuniecie nieprawidłowości bez względu na ich istotność. 227. GRAI Art. 47 ust. 2 pkt 2 Proponujemy zmianę przepisu na następujący: „może wskazać termin na usunięcie nieprawidłowości”. Propozycja wzoruje się na organizacji pracy KNF. Taka formuła umożliwia wskazywanie terminów w przypadku zaleceń o wysokiej istotności, bez konieczności ich określania w sytuacjach o niższej wadze, gdzie nie zawsze występuje taka potrzeba. Uwaga wyjaśniona Celem przepisu jest, aby w ramach zaleceń pokontrolnych wskazać termin na usuniecie nieprawidłowości bez względu na ich istotność. 228. ZBP Art. 47 ust. 2 pkt 4 Literówka. Niepotrzebna dodatkowa spacja w sformułowaniu „u st. 1”. Uwaga uwzględniona Przepis został skorygowany. 229. KIGEiT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Rekomenduje się precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego. Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. Uwaga wyjaśniona Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40ust. 2 do całości ustawy należy uznać za zasadne. 230. PIIT Art. 48 Wszczęcie postępowania w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2. W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie Strona | 146 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o której mowa w rozdziale 4 ustawy, z urzędu. Ewentualnie należy precyzyjnie określić konkretne przepisy ustawy, których naruszenie powoduje obowiązek wszczęcia przez Komisję postępowania naruszeniowego Ust. 2 określa przypadki, w których Komisja jest zobowiązana do wszczęcia postępowania. O ile w przypadku naruszeń rozporządzenia zostało to zawężone do systemów i modeli, o których mowa w art. 5 ust. 6 rozporządzenia 2024/1689, to w przypadku naruszenia ustawy nie zostało to w żaden sposób ograniczone. W związku z tym zachodzi sprzeczność z ust. 1, zgodnie z którym Komisja ma w tym zakresie uznanie. stosowania przepisów rozporządzenia 2024/1689 stąd odniesienie w art. 40 ust. 2 do całości ustawy należy uznać za zasadne. 231. ICC Poland Art. 48 ust. 2 Zgodnie z art. 48 ust. 1 Projektu, jeśli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy Komisja może wszcząć postępowanie, o którym mowa w rozdziale 4 ustawy. Jednakże, na zasadzie wyjątku od tej reguły, art. 48 ust. 2 Projektu przewiduje, że w przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Zawarcie w art. 48 ust. 2 Projektu, przewidującym – na zasadzie wyjątku od reguły z art. 48 ust. 1 Projektu – obowiązek wszczęcia przez Komisję postępowania z urzędu, powinno być ograniczone jedynie do systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689, nie zaś przepisów ustawy. Inaczej dochodzi w istocie do częściowego nakładania się zakresu zastosowania art. 48 ust. 1 i 2 Projektu. Z tego względu proponuje się wprowadzenie następującej zmiany w art. 48 ust. 2: W przypadku stwierdzenia, że naruszenie, o którym mowa w ust. 1, dotyczy lub może dotyczyć systemów i modeli, o których mowa w art. 5 oraz art. 6 rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Uwaga wyjaśniona Przepisy projektowanej ustawy mają na celu umożliwienie stosowania przepisów rozporządzenia 2024/1689 stad odniesienie w art. 40 ust. 2 do ustawy należy uznać za zasadne. 232. ZBP Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. 233. GRAI Art. 48 ust. 2 Proponujemy wykreślenie słowa „modeli”. Użycie tego sformułowania jest nadmiarowe w kontekście zakresu AI ACT. Artykuły 5 i 6, odnoszą się wyłącznie do systemów AI. AI ACT obejmuje jedynie modele ogólnego przeznaczenia, a pozostałe modele znajdują się poza zakresem rozporządzenia. Konieczne jest wyraźne rozróżnienie pojęć modelu AI i systemów AI i stosowanie ich zgodnie z intencją oraz zapisami AI ACT. Uwaga wyjaśniona Użycie wyrazu „modeli” zapewnia kompletność regulacji. Strona | 147 234. KIGEiT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 rekomendujemy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Rada może dysponować wiedza uzasadniająca wszczęcie postępowania przez Komisję zasadne jest więc, aby zachować przepis w obecnym brzmieniu. 235. PIIT Art. 49 W obecnym brzmieniu Komisja może wszcząć postępowanie praktycznie w każdej chwili. Zakres uprawnień Komisji powinien ograniczać się do poważnych przypadków - czyli naruszeń przepisów kluczowych wymienionych w Art. 99 Rozporządzenia. Wszczynanie postępowań w sprawach mniejszej wagi prowadzić będzie do paraliżu Uwaga wyjaśniona Przepisy ustawy mają służyć stosowaniu Strona | 148 działalności przedsiębiorców i zaburzenia proporcjonalności środków nadzoru do wagi obowiązków przedsiębiorców. Po drugie, wszczęcie postępowania powinno nastąpić dopiero wówczas, gdy istnieją ku temu rzeczywiste przesłanki. Postanowienie o wszczęciu powinno tym samym mieć uzasadnienie ze wskazaniem podstaw faktycznych wszczęcia postępowania. W ust. 2 należy wykreślić obowiązek wszczęcia postępowania na wniosek Rady Rada nie powinna zajmować się sprawami indywidualnymi. przepisów rozporządzenia 2024/1689. Nie ma więc podstawy do wprowadzenia w projekcie ograniczenia w zakresie prowadzenia postępowań wyłącznie w przypadkach z art. 99 tego aktu. Rada pełni funkcję opiniodawczo- doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest, aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. 236. Związek Cyfrowa Polska Art. 49 ust. 2 pkt 4) Rada nie powinna mieć uprawnienia do wnioskowania o wszczęcie postępowania. Rada pełni wyłącznie funkcję doradczą i konsultacyjną dla Komisji, a przyznanie jej uprawnienia do inicjowania postępowań wykracza poza jej zamierzoną rolę. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny czy wniosek o wszczęcie postępowania jest uzasadniony. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzną wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o Strona | 149 wszczęcie postępowania. 237. Fundacja Panoptykon Art. 50 Skarga na naruszenie przepisów rozporządzenia lub ustawy Pozytywnie oceniamy próbę uszczegółowienia procedury składania i rozpatrywania skargi przez osoby fizyczne. Zwracamy jednak uwagę na dwa problemy: wysokie wymagania dotyczące zawartości skargi oraz niejasności dotyczące etapów rozpatrywania skargi i momentu informowania na ten temat skarżącego. a) wymogi dotyczące zawartości skargi Autorzy projektu wskazali, że skarga musi m.in. wskazywać nazwę systemu AI, o jaki chodzi oraz opisywać istotne fakty. Jak słusznie zwrócił uwagę prof. Grzegorz Sibiga może okazać się, że dla obywateli są to zbyt wygórowane wymagania formalne. O ile rozumiemy, że bez opisu istotnych faktów Komisja lub jej Przewodniczący mogą nie mieć możliwości reakcji na skargę, tak wymóg wskazywania nazwy systemu wydaje się nam nadmierny, zwłaszcza że skarżący może tej nazwy po prostu nie znać. b) etapy rozpatrywania skargi i informowanie skarżącego Zgodnie z art. 50 ust. 1 osoba fizyczna składa skargę do Komisji. Jednak przepis ten nie odpowiada jednoznacznie na pytanie o dalsze losy złożonej skargi i czy zajmuje się nią Przewodniczący czy od razu Komisja. Za tą pierwszą wykładnią przemawia fakt, że po analizie skargi Przewodniczący może złożyć wniosek o wszczęcie postępowania (por. ust. 5). Jednak z drugiej strony - Komisja może wszcząć postępowanie z urzędu, a więc także po zapoznaniu się ze skierowaną do niej skargą. Co więcej, za możliwością wszczęcia postępowania przez Komisję przemawia art. 50 ust. 4 projektu. Doprecyzowanie kolejnych etapów rozpatrywania skargi ma znaczenie z perspektywy funkcjonalności tego mechanizmu, ale także z perspektywy informacji, jakie otrzymuje skarżący (por. art. 50 ust. 6). Aktualnie niejasne jest bowiem, jak rozumieć pojęcia “wszczęcia postępowania, o którym mowa w ust. 5 i “zakończeniu postępowania w sprawie związanej z postępowaniem, o którym mowa w ust. 5”. Jednocześnie prof. Sibiga słusznie zwrócił uwagę na problem braku konieczności jakiegokolwiek uzasadnienia decyzji o niewszczynaniu postępowania. Naszym zdaniem procedura rozpatrywania skarg wymaga zmian, w szczególności poprzez ułatwienie ich składania (wykreślenie konieczności wskazywania nazwy systemu) oraz uporządkowanie procedury ich rozpatrywania, włączając w to uzupełnienie zakresu informacji przekazywanych skarżącemu o uzasadnienie braku przesłanek do wszczęcia postępowania. a) Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. b) Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. Dalej zastosowanie znajdują przepisy dotyczące postępowania przed Komisją. 238. KIGEiT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej Strona | 150 Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 239. PIIT Art. 50 ust. 2 Elementy skargi 2. Skarga, o której mowa w ust. 1, zawiera: 1) nazwę określenie systemu, którego dotyczy skarga i, jeśli jest to możliwe do ustalenia, adres siedziby, adres doręczeń elektronicznych podmiotu, którego dotyczy skarga; Kluczowe nie jest wskazanie nazwy systemu (który może jej nie posiadać lub skarżący może jej nie znać), lecz określenie, jakiego systemu skarga dotyczy. Uwaga uwzględniona Zgodnie z brzmieniem art. 42 w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 240. GRAI Art. 50 ust. 2 i 3 Nie określono konsekwencji prawnych niezachowania wymogów formalnych skargi z ust. 2. W ust. 3 należałoby doprecyzować, że są to np. środki komunikacji elektronicznej, a nie np. telefon. Uwaga w części uwzględniona Ust. 3 został doprecyzowany. 241. GRAI Art. 50 ust. 5 i 6 Nie jest jasna rola Przewodniczącego Komisji. Czy ma on dokonywać jakiejś wstępnej kwalifikacji skargi i przyjęcia jej do rozpoznania? W naszej ocenie skarga w ustawie powinna być uregulowana przepisami KPA. To Komisja jako organ, a nie Przewodniczący powinna rozpatrywać skargę. Przewodniczący nie może decydować o wszczęciu postępowania. Uwaga wyjaśniona Zgodnie z art. 42 skarga jest składana do Komisji która dokonuje jej rozpatrzenia. Przewodniczący Komisji w przypadkach wskazanych w ustawie, składa natomiast wniosek o wszczęcie postępowania z art. 41 i zawiadamia skarżącego o otrzymaniu skargi. 242. KIGEiT Art. 50. ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na Strona | 151 ogólnodostępnej stronie podmiotowej Biura Komisji. 243. PIIT Art. 50 ust. 6 Skarżący powinien otrzymywać informacje o sposobie rozpatrzenia skargi. Tymczasem zgodnie z proponowaną procedurą ma on otrzymywać jedynie informację o wszczęciu i zakończeniu postępowania w sprawie naruszenia. Nie każda skarga będzie prowadzić do wszczęcia postępowania w sprawie naruszenia. Należy założyć, iż część skarg będzie niezasadna i skarżący powinien otrzymać taką informację, choćby w celu uniknięcia kolejnej skargi tego rodzaju w przyszłości. Uwaga wyjaśniona Należy wyjaśnić, że decyzje Komisji zgodnie z przepisami projektowanej ustawy będą publikowane w Biuletynie Informacji Publicznej na ogólnodostępnej stronie podmiotowej Biura Komisji. 244. KIGEiT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy rozdziału o kontroli. 245. PIIT Art.52 ust.2 2. Okresu prowadzenia postępowania dowodowego nie wlicza się do terminu, o których mowa w art. 51 ust. 3. Rekomendowane wykreślenie zapisu. Na czym innym w praktyce polega postępowanie jak nie na postępowaniu dowodowym. Uwaga wyjaśniona Przepis dotyczy wyłącznie przypadków niezbędnego przeprowadzenia dodatkowego postępowania dowodowego, do którego zastosowanie znajdą przepisy Strona | 152 rozdziału o kontroli. 246. FinTech Poland Art. 52 ust. 3 Takie postanowienie jest anachroniczne i stawia Komisję z definicji w pozycji organu niespełniającego standardów rynkowych. Zdecydowana większość dokumentacji związana z systemami sztucznej inteligencji jest sporządzona w języku angielskim – albo z tego powodu, że są to systemu kupowane (na licencji) a angielski jest standardowym językiem używanym na rynku, AI, bo z tego, że podmioty podlegające pod AI Act same używają tego języka (czy to z powodu przynależności do międzynarodowych grup kapitałowych, czy tak prozaicznego faktu jak zatrudnianie obcokrajowców - angielski jest \"lingua franca\" porozumiewania się w pracy). Dla utrzymania odpowiednich kompetencji, wszyscy pracownicy KRiBSI powinni posługiwać się językiem angielskim. Brak tej kompetencji sprawi, że Polska będzie postrzegana jako zacofany i nieprzyjazny dla rozwoju firm AI rynek. Należy wskazać, że akceptowanie innych języków niż własny język narodowy nie jest niczym niezwykłym na tych rynkach, które aspirują do bycia europejskimi centrami biznesowymi. Luksemburski CSSF (odpowiednik KNF) w postępowaniach przed sobą akceptuje języki luksemburski, francuski, niemiecki i angielski, co wynika wprost z luksemburskiej Ustawy o sektorze finansowym z 1993 roku. Dodatkowo, wymóg tłumaczeń przysięgłych byłby zbędnym formalizmem i zwiększałby koszty oraz biurokrację. Oświadczenie kontrolowanego, że przedkłada on własne tłumaczenie dokumentów, powinno być wystarczające. Co więcej, prawo do żądania tłumaczeń nie powinno obejmować danych źródłowych – powinno to zostać jednoznacznie wskazane, aby uniknąć ryzyka interpretacji, że dane źródłowe stanowią część „dokumentacji” podlegającej tłumaczeniu. Postulowane brzmienie przepisu: Art. 52 ust. 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym, innym niż język angielski, dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Tłumaczenie nie musi zostać sporządzone przez tłumacza przysięgłego. Prawo do żądania przedstawienia tłumaczenia nie dotyczy danych źródłowych. Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 247. ZBP Art. 52 ust. 3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: „3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt.” Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i Uwaga nieaktualna Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. Strona | 153 przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Python, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. W tym kontekście zwracamy uwagę na możliwość zaadresowania kwestii tłumaczenia w sposób analogiczny jak zostało to rozwiązane w art. 11a ust. 1 ustawy o nadzorze nad rynkiem finansowym, zgodnie z którym „Na wniosek podmiotu prowadzącego działalność regulowaną w przepisach, o których mowa w art. 1 ust. 2, mającego siedzibę poza terytorium Rzeczypospolitej Polskiej pisemna i ustna komunikacja Komisji z takim podmiotem może odbywać się w języku angielskim. W takim przypadku czynności, o których mowa w art. 5 ustawy z dnia 7 października 1999 r. o języku polskim (Dz. U. z 2021 r. poz. 672 oraz z 2023 r. poz. 1672), mogą być dokonywane w języku polskim lub angielskim”. Rozwiązanie w ustawie o systemach sztucznej inteligencji mogłoby podobnie wskazywać, że na wniosek podmiotu kontrolowanego, w niezbędnym zakresie, dokumentacja może być przekazywana w języku angielskim lub oryginalnym języku dokumentacji. Ponadto, zwracamy uwagę, że instytucja pozostawienia dokumentacji w jej oryginalnym języku jest rozwiązaniem wykorzystywanym również w regulacjach Unii Europejskiej. Przykładowo w art. 34 ust. 3 Rozporządzenia 2018/389 „Do celów niniejszego rozporządzenia kwalifikowane certyfikaty pieczęci elektronicznych lub kwalifikowane certyfikaty uwierzytelniania witryn internetowych, o których mowa w ust. 1, zawierają – w języku zwyczajowo używanym w dziedzinie finansów – dodatkowe szczególne atrybuty w stosunku do każdego z następujących elementów”. 248. Związek Cyfrowa Polska Art. 52 ust. 3 Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze SI, powinna posiadać wystarczającą znajomość języka angielskiego, aby Uwaga uwzględniona Strona | 154 analizować dokumentację bez wymogu jej tłumaczenia. Zdecydowana większość dokumentów technicznych, prawnych i dotyczących zgodności SI jest tworzonych oryginalnie w języku angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 249. GRAI Art. 52 ust.3 Ponownie prosimy o wykreślenie ust. 3 tego artykułu w brzmieniu: 3. Komisja może żądać od strony przedstawienia tłumaczenia na język polski sporządzonej w języku obcym dokumentacji przedłożonej przez stronę. Tłumaczenie dokumentacji strona jest obowiązana wykonać na własny koszt. Jak argumentowaliśmy wcześniej - wymaganie tłumaczenia w dzisiejszych czasach to dość archaiczny i bardzo trudny do zrealizowania wymóg (jak przetłumaczyć i przedstawić np. dokumentację towarzyszącą kodowi źródłowemu?). Należy wskazać, że przy wytwarzaniu algorytmów korzysta się z pakietów/ bibliotek od różnych dostawców tj. np. SAS, Phyton, R, Microsoft. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. Należy założyć, że pracownicy Komisji są wysoko kompetentni i mają odpowiednie doświadczenie zawodowe, aby korzystać z dokumentacji w języku angielskim. Należy wykreślić ust. 3 jako niemożliwy do spełnienia przez stronę. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 250. GRAI Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się, czy przepis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także przepisy art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony Strona | 155 postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i da im możliwości do podjęcia działań zmierzających do przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 251. AmCham Art. 53 Projekt ustawy w wersji z lutego 2025 roku wprowadza istotne zmiany w zakresie uprawnień Komisji, poszerzając jej kompetencje w obszarze wydawania ostrzeżeń. Zgodnie z nowymi przepisami, ostrzeżenia Komisji nabierają charakteru władczego, a ich zignorowanie może skutkować poważnymi konsekwencjami dla dostawców AI. Wśród potencjalnych sankcji, które może zastosować Komisja, jeśli adresat nie zastosuje się do “ostrzeżenia” Komisji, projekt ustawy wymienia m.in. nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym, a nawet nałożenie kary pieniężnej. Takie rozwiązanie budzi jednak poważne wątpliwości, gdyż stoi w sprzeczności z samą naturą ostrzeżenia, które powinno być instrumentem o charakterze \"miękkim\", niewładczym. W świetle projektowanych przepisów, wydanie “ostrzeżenia” nie wymaga od Komisji udowodnienia naruszenia, wystarczyć ma jedynie uzasadnione podejrzenie. Ponadto, zgodnie z projektowanymi przepisami ostrzeżenie ma formę postanowienia (a nie decyzji administracyjnej). W efekcie projektowane przepisy, dają Komisji możliwość nakładania kar pieniężnych bez konieczności udowodnienia naruszenia i bez wydawania decyzji administracyjnej, tworząc sytuację, w której na podstawie jedynie uzasadnionego podejrzenia, bez przeprowadzenia pełnego postępowania administracyjnego dostęp do systemu AI może zostać zablokowany a dostawcy AI mogą być pociągnięci do odpowiedzialności finansowej. Biorąc powyższe pod uwagę projektowane przepisy należy zmienić tak, aby ostrzeżenie - zgodnie ze swoją nazwą i naturą - faktycznie było \"miękki\", nie władczym narzędziem w rękach Komisji. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w projektowanej ustawie, takich jak kontrole czy wydawanie decyzji administracyjnych po Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 156 przeprowadzeniu odpowiedniego postępowania kontrolnego. Takie rozwiązanie pozwoliłoby na zachowanie równowagi między koniecznością zapewnienia bezpieczeństwa użytkowników a ochroną praw dostawców AI. 252. Polska Izba Ubezpieczeń Art. 53 Izba proponuje nie dodawać w katalogu kar za niedostosowanie się zakładu ubezpieczeń do ostrzeżenia wydanego przez Komisję lub przekroczenia terminu na dostosowanie rozwiązania następujących działań: a. nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; b. nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; Działania takie będą kosztowne i będą generować ryzyko działalności zakładów ubezpieczeń. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 253. Związek Cyfrowa Polska Art. 53 Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (niewładczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli niewładczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych. Artykuł ten budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 157 inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: ● Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług ● Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych ● Rozsądne ramy czasowe na realizację zamówień (minimum 60 dni). 254. ZPTC Lewiatan Art. 53 Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia spójnego podejścia do egzekwowania przepisów, biorąc pod uwagę: • Ograniczone okoliczności, w których unijny Akt o sztucznej inteligencji zezwala na wycofanie usług • Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych • Ustalenie rozsądnych ram czasowych na dostosowanie się (minimum 60 dni) Uzasadnienie: Artykuł 53 budzi obawy zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Uwaga wyjaśniona Art. 53 (obecnie art. 45 stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 255. KIGEiT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożlwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej Strona | 158 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się wydłużenie minimalnego terminu. inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 256. ZPTC Lewiatan Art. 53 Niezależnie od uwagi dotyczącej spójnego podejścia do egzekwowania przepisów należy zastanowić się czy zapis art. 53 w swoim brzmieniu nie wymaga, aby ostrzeżenie było wydawane w drodze decyzji, a nie postanowienia. Wszystkie działania strony opisane w ust. 2 i 3, a także konsekwencje jakie opisuje ust. 4 wskazują na konieczność podejmowania przez Przewodniczącego Komisji decyzji, a nie postanowienia. Por. także zapis art. 55, 57 Uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. Ostrzeżenia są formą poinformowania strony postępowania o uzasadnionym podejrzeniu, że jego działania naruszają przepisy rozporządzenia 2024/1689 lub ustawy i daniem możliwości do podjęcia działań zmierzających do Strona | 159 przywrócenia stanu zgodnego z przepisami jeszcze przed zakończeniem postępowania. 257. PIIT Art. 53 ust.1 Art. 53. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, a waga i okoliczności stwierdzonego naruszenia nie przemawiają za zastosowaniem bardziej dolegliwych środków, Przewodniczący Komisji w toku postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 1689/2024 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje lub oddziaływał lub może oddziałać. 3. Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o \"uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin minimalny powinien zostać wydłużony. Uwaga wyjaśniona Zdaniem projektodawcy wskazane w ust. 2 przykładowe działania umożliwiające przywrócenie stanu zgodnego z prawem są adekwatne a termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 258. AmCham Art. 53 ust. 3 Zapisany w projekcie ustawy 14-dniowy termin na zastosowanie się do ostrzeżeń Komisji i wdrożenie środków naprawczych w celu usunięcia skutków naruszenia jest niewystarczający. Wdrożenie zmian wynikających z ostrzeżenia Komisji może być czasochłonne, wymagając np. i) zmian w kodzie, które muszą zostać dokładnie przetestowane przed wdrożeniem na środowisku produkcyjnym, aby zapewnić ich poprawność i niezawodność, ii) przeprowadzenia oceny bezpieczeństwa, których celem będzie zweryfikowanie, czy wprowadzane zmiany nie generują zagrożeń dla bezpieczeństwa systemu, a filanie iii) przeprowadzenia kontroli zgodności z przepisami, mające na celu zapewnienie, że wszelkie modyfikacje są zgodne z wieloma, często Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed Strona | 160 nakładającymi się na siebie ramami prawnymi, co jest szczególnie istotne w przypadku organizacji działających na wielu rynkach. Biorąc pod uwagę te czynniki, widzimy potrzebę zmiany projektowanych przepisów tak, aby to Komisja, wydając ostrzeżenie, określała termin w jakim oczekuje wykonania zaleceń wskazanych w ostrzeżeniu, przy czym projektowana ustawa powinna wskazywać, że termin wyznaczony przez Komisję nie może być krótszy niż 30 dni od dnia otrzymania ostrzeżenia przez adresata. Takie rozwiązanie zapewni, że adresaci ostrzeżeń zawsze będą mieli co najmniej 30 dnia na wprowadzenie zmian i dostosowanie się do ostrzeżenia, a jednocześnie zapewni Komisji niezbędną elastyczność i możliwość wyznaczenia dłuższego terminu, gdyż w praktyce mogą wystąpić sytuacje, w których sama Komisja może uznać, że szczególne okoliczności sprawy wymagają, aby adresat ostrzeżenia miał więcej niż 30 dni na dostosowanie się. potencjalnym niepożądanym działaniem takiego systemu. 259. KIGEiT Art. 53 ust.3 Strona w terminie określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Rekomenduje się analogicznie, jak przy zaleceniach kontrolnych, aby termin minimalny został wydłużony do nie mniej niż 30 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 260. PIIT Art. 53 ust.3 Strona w terminie, określonym przez Komisję, nie krótszym niż 14 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Termin powinien zostać wydłużony - analogicznie, jak przy zaleceniach pokontrolnych - do nie mniej niż 30 dni. Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. Strona | 161 zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy, by Komisja miała uprawnienie do określenia terminu, który będzie właściwy w danym przypadku, ale nie krótszy niż 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. 261. Zawiązek Cyfrowa Polska Art. 53 ust. 3 Termin 14 dni na zastosowanie się do ostrzeżeń i wdrożenie środków wymagających usunięcia skutków naruszenia jest zbyt krótki, szczególnie w przypadku dużych podmiotów o złożonych strukturach organizacyjnych i zaawansowanych systemach sztucznej inteligencji. Duże organizacje mogą potrzebować więcej czasu na wdrożenie zmian ze względu na wewnętrzne procesy decyzyjne i hierarchie zatwierdzania. Systemy sztucznej inteligencji są często złożone technicznie, a wymagane modyfikacje mogą obejmować: inżynierię oprogramowania i zmiany kodowania, które muszą zostać przetestowane przed wdrożeniem, oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z przepisami z 14 do co najmniej 30 dni, aby umożliwić przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków naprawczych. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 262. KIGEiT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 162 przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. 263. PIIT Art. 53 ust.4 W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Przepis jest zbyt daleko idący jak na \"uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy; spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Strona | 163 finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na ty etapie nie jest pewne, że do tego doszło. Projekt ustawy w wersji z lutego 2025 zawiera zmienione przepisy dotyczące wydawania ostrzeżeń przez Komisję. W nowej wersji przepisy są tak skonstruowane, że niezastosowanie się do ostrzeżenia wydanego przez Komisję może mieć dla dostawcy AI daleko idące negatywne konsekwencje, włącznie z nakazem zablokowania lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub nałożeniem kary pieniężnej. Takie rozwiązanie - czyli sankcje za niewykonanie ostrzeżenia - kłóci się z naturą ostrzeżenia, które w założeniu powinni być instrumentem “miękkim” (nie władczym) i z tego też powodu do wydania ostrzeżenia nie jest konieczne udowodnienie naruszenia (wystarczy uzasadnione podejrzenie), a samo ostrzeżenie ma mieć postać postanowienia (a nie decyzji). Razem tworzy to rozwiązanie, w którym Komisja może nałożyć karę pieniężną bez konieczności udowodnienia naruszenia i bez konieczności wydawania decyzji administracyjnej. Analizowane przepisy powinny zostać zmienione tak, aby “ostrzeżenie” pozostało narzędziem miękkim, czyli nie władczym - niezastosowanie się do ostrzeżenia nie może rodzić negatywnych konsekwencji dla adresata. W przypadku niezastosowania się do ostrzeżenia Komisja powinna mieć możliwość stosowania wszystkich pozostałych, przewidzianych w projektowanej ustawie, narzędzi, w tym możliwość prowadzenia kontroli i wydawania decyzji administracyjnych 264. KIGEiT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 265. PIIT Art. 54 ust.1 Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 266. Związek Cyfrowa Polska Art. 54 ust. 1 Podczas gdy podstawą wszczęcia postępowania ma być naruszenie rozporządzenia 2024/1689 (AI Act), sama decyzja Komisji kończąca postępowanie może dotyczyć naruszenia rozporządzenia 2024/1689 (AI Act) lub ustawy o systemach sztucznej inteligencji. Powoduje to niejasności, ponieważ ustawa o systemach sztucznej Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46) Strona | 164 inteligencji jest aktem prawnym odrębnym od rozporządzenia 2024/1689 (AI Act). Żeby zapewnić spójność i jasność prawną, należy wyraźnie określić, czy decyzja Komisji może obejmować naruszenia ustawy o systemach sztucznej inteligencji. Bez tego wyjaśnienia istnieje ryzyko błędnej interpretacji zakresu i możliwości zastosowania uprawnień Komisji w takich przypadkach. 267. KIGEiT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję, do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Komisja powinna mieć uprawnienie do odpowiedniego określenia terminów na wykonanie postanowienia, biorąc pod uwagę wszystkie okoliczności sprawy. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 268. PIIT Art. 54 ust.2 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie określonym przez Komisję,14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Komisja powinna mieć uprawnienie do określenia odpowiedniego terminu na wykonanie nakazu. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 269. ZBP Art. 54 ust. 2 Termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Tak krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym Strona | 165 działaniem danego systemu sztucznej inteligencji. 270. KIGEiT Art. 54 ust.3 3. W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 271. GRAI Art. 54 ust. 2 Sformułowanie „usuniecie skutków naruszenia” jest niejasne i budzi wątpliwości. Niekiedy sutki naruszeń mogą być nieodwracalne jak np. śmierć w przypadku niewłaściwego działania systemów autonomicznej jazdy. Ponadto termin 14 dni jest bardzo restrykcyjny, gdy mówimy o ogólnych naruszeniach wynikających z całego rozporządzenia. Taki krótki okres jest zrozumiały w przypadku zaprzestania stosowania naruszeń dotyczących artykułu 5. Jednak w kontekście pozostałych przepisów tak krótki termin nie zawsze jest konieczny i możliwy do realizacji. Proponujemy następujące brzmienie: „Decyzja, o której mowa w ust. 1, zawiera środki nakazujące zaprzestanie naruszania przepisów nie później niż 14 dni od decyzji, o ile w decyzji nie ustalono inaczej, a usunięcie skutków naruszenia w terminie i zakresie wskazanym w decyzji.” Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 272. PIIT Art. 54 ust.3 W przypadku zastosowania się w terminie przez stronę do środków, o których mowa w ust. 2, Komisja uwzględnia tę okoliczność podejmując decyzję w sprawie nałożenia Uwaga wyjaśniona Strona | 166 administracyjnej kary pieniężnej, o której mowa w art. 97 ustawy. Decyzja ta może być wydana łącznie z decyzją, o której mowa w ust. 1. Jeśli decyzja o karze może być wydana razem z decyzją, o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 273. AI Chamber Art. 55 ust. 2 Określone w art. 55 ust. 2 przesłanki wydania decyzji nakazującej zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, są ze swej natury bardzo ocenne. Tymczasem taka sankcja może oznaczać dla przedsiębiorcy poważne straty, a w skrajnych przypadkach upadłość. Nadanie w takich okolicznościach klauzuli natychmiastowej wykonalności takiej decyzji jest zabiegiem niezwykle ryzykownym. Jest to szczególnie rażące w kontekście dodania w drugiej wersji projektu ustawy możliwości zastosowania takiej sankcji, gdy system “wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku” nadchodzących wyborów. Wydaje się, że tak swobodnie zakreślona przesłanka, gdzie wpływ może być jedynie potencjalny, a nie faktyczny, de facto daje pole do zupełnie dyskrecjonalnego wydawania decyzji o silnym podtekście politycznym. Jest to nie tylko niebezpieczne z punktu widzenia dostawców systemów SI, ale może podważać zaufanie do KRiBSI i szerzej systemu politycznego i prawnego RP. Postulujemy usunięcie tej zmiany. Uwag uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 274. AmCham Art. 55 ust. 2 Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym przepisem projektowanej ustawy, który może wyrządzić najwięcej szkody. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny, gdyż nie sposób uznać, że jasną i jednoznaczną przesłanką jest “[.] wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu Strona | 167 społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów [.]”. Na gruncie tak sformułowanego przepisu Komisja będzie miała w zasadzie dowolność oceny, czy zasadne jest zastosowanie tego przepisu. Brak konkretnych i obiektywnych kryteriów, które Komisja miałaby stosować przy podejmowaniu takiego rozstrzygnięcia, stwarza ryzyko arbitralności i nadużyć. A skutki zastosowania tego przepisu przez Komisję będą dalekosiężne, wręcz drastyczne dla dostawców modeli sztucznej inteligencji, gdyż w takim przypadku Komisja ma mieć możliwość nakazania operatorowi systemu sztucznej inteligencji zaprzestanie stosowania lub wycofanie systemu z rynku lub użytku, czyli de facto nakaz zamknięcia usługi. Na domiar złego Komisja może nakazać natychmiastowe wykonanie nakazu, wyłączając możliwość weryfikacji rozstrzygnięcia Komisji jeszcze przed koniecznością zamknięcia systemu. Natychmiastowa wykonalność tak kontrowersyjnego rozstrzygnięcia podważa prawo do kontroli sądowej, ponieważ strona, której dotyczy decyzja, miałaby ograniczoną możliwość zakwestionowania jej przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W praktyce oznacza to, że decyzja Komisji mogłaby być wykonana zanim sąd zdążyłby ją zbadać i ewentualnie wstrzymać jej wykonanie. W efekcie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania się do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co jest szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Nie sposób nie zauważyć, że tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież to media, a nie sztuczna inteligencja, mają większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek i nie demonizować tej technologii. Ponadto, analizowane narzędzie nie ma podstaw i nie ma odpowiednika w Akcie o AI i stanowi ewidentny przykład gold-platingu, którego w polskiej regulacji miało nie być. Co więcej, jest to gold-plating bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o gold-platingu rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro Akt o AI jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy Aktu o AI. istotnym dla wyniku wyborów. Strona | 168 W związku z powyższym, analizowany przepis powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 Aktu o AI, aby zapewnić zgodność z prawem UE i uniknąć niepotrzebnych i szkodliwych ograniczeń w rozwoju sztucznej inteligencji w Polsce. 275. PIIT Art. 55 ust. 2 Należy usunąć z projektu ustawy przepis dający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania stosowania lub wycofanie systemu z rynku lub użytku, w szczególności w części dotyczącej wyborów. Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób też zrozumieć, czemu akurat sztuczna inteligencja jest technologią, która została przez Projektodawcę “wyróżniona” właśnie w ten sposób, w szczególności w kontekście wyborów. Tego typu regulacji nie ma (i nie powinno być) w obszarze np. mediów, a przecież z oczywistych względów to media, a nie sztuczna inteligencja ma większe znaczenie w przypadku wyborów. Tworząc regulacje prawne dotyczące sztucznej inteligencji należy zachować zdrowy rozsądek, nie należy tej technologii demonizować, pamiętać też trzeba, że sztuczna inteligencja jest narzędziem w ludzkich rękach i powinna być tak traktowana. W żaden sposób nie można uznać, że sztuczna inteligencja ma większe albo mniejsze znaczenie w kontekście np. procesów Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. Strona | 169 wyborczych niż inne narzędzia i technologie wykorzystywane przez ludzi i z tego względu nie zasługuje na jakieś specjalne traktowanie w tym zakresie. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Na domiar złego jest to “gold plating” bardzo kontrowersyjny i szkodliwy z perspektywy tworzenia bezpiecznego otoczenia prawnego dla rozwoju sztucznej inteligencji w Polsce. Ponadto, już sam fakt, że mówimy o “gold platingu” rodzi pytania o zgodność projektowanego rozwiązania z prawem UE, skoro AI Act jest rozporządzeniem (a nie dyrektywą), co formalnie oznacza, że nie wymaga implementacji, a w prawie krajowym nie powinno być przepisów dotyczących AI, które wykraczają poza czy ponad przepisy AI Act (z wyjątkiem przypadków wyraźnie wskazanych w samym AI Act – ten wyjątek w tym przypadku nie zachodzi). W związku z powyższym analizowany przepis ten powinien zostać całkowicie usunięty z projektu ustawy, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 276. PTI Art. 55 ust. 2 W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub ochrony praw podstawowych osób fizycznych, lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu w trybie, o którym mowa w ust. 4, z rynku lub użytku. Decyzji Komisji może zostać nadany rygor natychmiastowej wykonalności. Tego typu praktyki są już standardem w wyszukiwarkach internetowych oraz portalach społecznościowych. Wyszukiwarki na przykład ukrywają pewne wyniki promując określoną grupę. Portale społecznościowe przed wyborami pełne są różnego rodzaju komentarzy także zwykłych ludzi nie tylko botów. A przecież nie są to “systemy sztucznej inteligencji”. Sugerujemy rozważenie, czy taki zapis jest potrzebny 1. Wyszukiwarki internetowe czy portale społecznościowe nie są z definicji “systemami sztucznej inteligencji”. 2. Jak udowodnić tego typu działanie (przykład Cambridge Analytica)? 3. Każda ze stron stosuje tego typu praktyki, co powinno skutkować zablokowaniem debaty o każdym kandydacie. 4. Stosuje się nie tylko aktywne rozsiewanie informacji, ale również ukrywanie Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. Strona | 170 informacji, czyli ukrywanie informacji jest również działaniem na szkodę. 5. Trzeba uważać w tego typu praktykach, aby nie zrobić z nich narzędzia upolitycznionej cenzury działającej wyłącznie na korzyść jednej ze stron sceny politycznej. 6. Dlaczego zapis dotyczy szczególnie wyborów politycznych a nie wspomina np. o oszustwach internetowych przez oficjalne płatne reklamy na portalach typu Google, Facebook, X, itp? 277. Związek Cyfrowa Polska Art. 55 ust. 2 W obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejasne, co uniemożliwia jednoznaczne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów umożliwia potencjalnie arbitralne podejmowanie decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W efekcie projektowany przepis daje Komisji możliwość wydawania daleko idących w skutkach rozstrzygnięć (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu bardzo o nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłaby być wykorzystywane politycznie, co szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, którym wprost posługuje się analizowany przepis. Nie sposób nie zauważyć, że analizowane uprawnienie Komisji do podejmowania takich środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, którego w polskiej regulacji miało nie być. Ponadto, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu. Przepis ten powinien zostać całkowicie usunięty, a uprawnienia Komisji powinny być ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). Uwaga uwzględniona W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 278. GRAI Art. 55 pkt 2 Doceniamy zwrócenie uwagi na ryzyka wyborcze związane z systemami AI. Uwaga uwzględniona Strona | 171 Przepis o tym, że system nawet nie w sposób udowodniony wywiera, co „może wywrzeć” wpływ na opinie i nastroje społeczne daje szerokie pole do podjęcia subiektywnej decyzji przez Komisję, które może de facto prowadzić do zablokowania na 30 dni przed wyborami dostępu do źródeł informacji, w tym mediów tradycyjnych, mediów społecznościowych czy czatbotów. W świetle innych zgłaszanych uwag dotyczących procesu powoływania Komisji, to bardzo poważna kompetencja wpływająca na proces wyborczy. W celu uniknięcia niespójności z ramą AI Act zachęcamy do ujednolicenia definicji z tą wypracowywaną w ramach GPAI CoP definicji ryzyk systemowych: Aktualna wersja w drugim szkicu brzmi: Large-scale, harmful manipulation: The facilitation of large-scale manipulation with risks to fundamental rights or democratic values, specific to high-impact capabilities of models such as autonomy, persuasion, and manipulation. This includes, for example, large-scale election interference, and coordinated and sophisticated manipulation campaigns leading to harmful distortions of public discourse, knowledge and behaviour. Zwracamy uwagę, że również powyższa definicja wzbudza wątpliwości i wciąż wymaga dalszego dopracowania, między innymi w związku z użyciem mało precyzyjnego definiowania przez przykłady. Rozdźwięk między regulacją polską a unijną będzie prowadzić do efektu mrożącego wobec wypowiedzi politycznych i społecznych w sieci i prewencyjnej nadmoderacji treści politycznych. Dotyczy to nie tylko samej kampanii wyborczej, ale też treści prywatnych opinii obywateli czy promocji działań organizacji pozarządowych. W przepisie odstąpiono od regulowania kwestii wywierania wpływu na wynik wyborów. W pozostałym zakresie przepis stanowi zapewnienie stosowania przepisów rozporządzenia 2024/ 1689. 279. KIGEiT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Rekomendujemy doprecyzowanie definicji „tryb przyspieszony”. Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 280. PIIT Art. 55 ust.4 4. W przypadku stwierdzenia przez Komisję, że system stwarza ryzyko, o którym mowa w ust. 1 lub 2, Komisja może wszcząć lub też prowadzić postępowanie w trybie przyspieszonym. Uwaga wyjaśniona Strona | 172 Gdzie opisany jest tryb przyspieszony? Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu. 281. KIGEiT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. Zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ust.2 czy nie powinna być to mowa o decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1, który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 47) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 282. PIIT Art. 57 Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. Strona | 173 Ust. 1 Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. ust.2 czy nie powinna być to mowa decyzji z art. 54 ust. 1 i 3? ust.3 - w ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. 283. GRAI Art. 57 Należy uwzględnić procedurę dotyczącą zażaleń. W ust. 1 wskazano, że podane tam postanowienia są zaskarżalne zażaleniem, natomiast przepis w dalszej części dotyczy jedynie odwołań. Proponujemy dodanie ustępu w tym przepisie o treści: „Przepisy ust. 3-6 stosuje się odpowiednio do zażaleń od postanowień Komisji.”. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 284. Związek Cyfrowa Polska Art. 57 ust. 2 Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. Prawo do odwołania się od decyzji administracyjnych jest podstawowym zabezpieczeniem prawnym, a przepis ten powinien być sformułowany z absolutną precyzją. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 285. PTI Art. 57 ust. 4 Jeżeli Komisja uzna odwołanie za słuszne, może - nie przekazując akt sądowi - uchylić albo zmienić swoją decyzję w całości lub w części, o czym bez zwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie przysługuje odwołanie. Uchylając albo zmieniając decyzję, Komisja stwierdza jednocześnie, czy decyzja ta została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Działania tego typu mogą narazić szczególnie małe przedsiębiorstwa na szkodę – strata czasu, wyników, środków finansowych na prawników. Sugerujemy rozważenie utrzymania tego przepisu Brak informacji o odpowiedzialności za fałszywe oskarżenia, możliwości nadużyć dla celów np. politycznych Uwaga wyjaśniona Na wstępie należy wskazać, że organy działają na podstawie i w granicach prawa. Wszelkie odstępstwa w tym zakresie poddane są ogólnym regułom Strona | 174 odpowiedzialności organów. Przepis wpisuję się natomiast w funkcjonującą na podstawie kodeksu postępowania administracyjnego instytucję „autokontroli decyzji”. Sama instytucja ma charakter wyjątkowy i organy powinny z niej korzystać wyłącznie wtedy, kiedy nie mają żadnych wątpliwości co do istnienia podstaw prawnych jej zastosowania Za powyższym rozwiązaniem przemawia zasada ogólna szybkości i prostoty postępowania. 286. GRAI Art. 57 ust. 4 Należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Przepis pozostawiono z uwagi na konieczność zapewnienia kompletności obu ustaw. 287. KIGEiT Art. 57 ust. 4 w zw. z Art. 107 Rekomendujemy, aby brzmienie art. 57 ust. 4 ujednolicić z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu. 288. PIIT art. 57 ust.4 w zw. z art. 107 Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 479 88f KPC. Uwaga uwzględniona Strona | 175 Zmieniono brzmienie przepisu. 289. AI Chamber Rozdział 5 Na zdecydowane poparcie zasługują przepisy Rozdziału 5 projektu ustawy, dotyczące układu. Jest to przykład pozytywnej regulacji, mającej na celu zapewnienie przestrzegania przepisów, lecz w formie bardziej kooperatywnej niż automatyczne nakładanie jak najwyższej sankcji pieniężnej na przedsiębiorcę. Wydaje się jedynie, że przepisy to wymagają pewnego dopracowania i uproszczenia postępowania. Uwaga uwzględniona Przeredagowano część przepisów rozdziału i zrezygnowano z części regulacji. 290. KIGEiT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby Strona | 176 graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 291. PIIT Art. 61 Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. W ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 uokk - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. Strona | 177 W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 292. KIGEiT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 293. PIIT Art. 61 ust.6 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie Strona | 178 spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 294. KIGEiT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 295. PIIT Art. 61 ust.7 W przypadku gdy przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i nałożenia zakazu, nakazu albo zastosowania innej sankcji, złagodzenie sankcji może polegać na odstąpieniu od nałożenia zakazu, nakazu albo zastosowania innej sankcji i nałożeniu wyłącznie kary pieniężnej, w wysokości obniżonej zgodnie z ust. 6, albo bez obniżenia jej wysokości. Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 296. b KIGEiT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Rekomendujemy, aby termin na zawarcie układu był liczony od złożenia oświadczenia o woli jego zawarcia. Uwaga wyjaśniona Ze względu na przedmiot ustawy projektodawca utrzymuje termin 1 miesiąca we wskazanym przepisie. 297. PIIT Art. 62 ust.1 Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze Uwaga wyjaśniona Termin na zawarcie układu uwzględnia Strona | 179 postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność, że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 298. Związek Cyfrowa Polska Art. 62 ust. 4 Uprawnienie Komisji do zakończenia negocjacji przed zawarciem ugody jest zbyt szerokie i nie opiera się na żadnych określonych kryteriach. Zalecamy określenie jasnych warunków, na jakich Komisja może zakończyć negocjacje ugodowe i wprowadzenie wymogu uzasadnienia, zapewniając, że strony rozumieją podstawę prawną i faktyczną takiego zakończenia. Uwaga wyjaśniona Art. 62 (obecnie art. 54) ust. 4 został wykreślony. 299. ICC Poland Art. 64 ust. 1 Zgodnie z art. 64 ust. 1 Projektu, po stwierdzeniu, że spełnione są warunki zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Jak z kolei wynika z art. 61 ust. 6 Projektu, w ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 70%, a w przypadku, o którym mowa w art. 76 ustawy – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. W związku z tym, że przewidziane w układzie obniżenie wysokości kary pieniężnej odnosi się do kary hipotetycznej (abstrakcyjnej w momencie oceny projektu układu), która zostałaby nałożona bez zawarcia układu, podjęcie przez stronę będącą podmiotem postępowania przed Komisją racjonalnej decyzji co do przyjęcia układu wymaga wiedzy Uwaga wyjaśniona Treść przepisu nie wymaga doprecyzowania. Użyte w przepisów pojęcie zakresu proponowanego złagodzenia kary nie odnosi się wyłącznie do określenia procentowego ale Strona | 180 co do: i) kary pieniężnej, która zostałaby nałożona bez zawarcia układu (wraz z uzasadnieniem); ii) zakresu proponowanego złagodzenia sankcji (procentowo). Z tego względu, dla uniknięcia wątpliwości co do wymaganego ustawą zakresu projektu układu, proponuje się wyraźne przesądzenie, że w odniesieniu do kary pieniężnej projekt układu powinien zawierać obie te informacje. Cel może zostać osiągnięty przez następującą zmianę art. 64 ust. 1 Projektu: Po stwierdzeniu, że spełnione są warunki, o których mowa w art. 61 ust. 4 ustawy, Komisja przygotowuje i przedstawia stronie postępowania projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. W przypadku przewidzianego układem obniżenia wysokości kary pieniężnej w projekcie układu zamieszcza się również informację o wysokości kary pieniężnej, która zostałaby nałożona bez zawarcia układu wraz z jej uzasadnieniem. Komisja wydaje postanowienie o przedstawieniu projektu układu. również kwotowego wymiaru kary. 300. ICC Poland Art. 65 ust. 4 Artykuł 65 ust. 4 Projektu przewiduje, że skutkiem złożenia oświadczenia o przyjęciu układu w sprawie warunków nadzwyczajnego złagodzenia sankcji jest zrzeczenie się przez stronę postępowania prawa do złożenia „wniosku oraz skargi do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. W związku z tym, że zgodnie z ustawą od decyzji takiej przysługuje odwołanie, zachodzi konieczność doprecyzowania wskazanego przepisu w sposób kompatybilny z pozostałymi przepisami ustawy: Skutkiem oświadczenia, o którym mowa w ust. 1, jest zrzeczenie się przez stronę postępowania prawa do złożenia wniosku oraz skargi odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 67 ust. 1 ustawy. Uwaga uwzględniona W przepisie wyrazy „wniosku oraz skargi” zastąpiono wyrazem „odwołania”. 301. KIGEiT Art. 66 ust.1 . 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uwaga uwzględniona Poprawiono odesłanie 302. PIIT art. 66 ust.1 . 1. W przypadku, gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona Poprawiono odesłanie 303. KIGEiT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. (obecnie art 62) ust. 1. Na żądanie Strona | 181 Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 304. PIIT Art. 70 ust.1 Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 70. 1 (obecnie art 62) Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. Strona | 182 305. AmCham Art. 71 Stoimy na stanowisku, że kary powinny być ograniczone do spółek dopuszczających się naruszenia. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 306. PTI Art. 71 Art. 71. W przypadku niewykonania przez podmiot, który zawarł układ, zobowiązań podjętych w ramach układu w całości albo w istotnej części, lub istotnych nieprawidłowości w wykonaniu tych zobowiązań, Komisja może nałożyć na ten podmiot karę pieniężną do wysokości nieprzekraczającej: 1) w przypadku osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej – 10 000 000 zł; 2) w przypadku osoby fizycznej – 1 000 000 zł 2. W przypadku stwierdzenia naruszenia wskazanego w ust. 1 Komisja może nałożyć na członka zarządu osoby prawnej, który jest odpowiedzialny za to naruszenie, karę pieniężną w wysokości do 1 000 000 zł. Sugerujemy rozważyć również kwoty zależne od obrotu / przychodów firmy /osoby (mechanizmy stosowane w Rozp. O ochronie danych osobowych) Dla dużej firmy, która i tak na szkodliwych działaniach zarobi większą kwotę ta kara może się opłacać. Dla małej firmy lub osoby prowadzącej działalność gospodarczą to może być koniec świata. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71(obecnie art. 63) został wykreślony. 307. IWP Repropol Art. 71 Uważamy postępowanie układowe za dobry pomysł. Wymuszenie autorefleksji po stronie podmiotu naruszającego przepisu jest lepszym rozwiązaniem niż od razu siłowe nakładane kar na podmioty naruszycielskie. Jednocześnie jednak obawiamy się, aby wysokość kar grożących za niedochowanie zawartego układu nie wywołały efektu mrożącego, odwrotnego do zamierzonego. Jeśli członek zarządu będzie skonfrontowany z perspektywą indywidualnej kary do jednego miliona złotych z tytułu niewykonywania lub niewłaściwego wykonywania zaciągniętych zobowiązań (zob. art. 71 ust. 2 UoSSI), obawiamy się pełnej i rzeczywistej gotowości podmiotów do podejmowana prób układania się z KRIBSI. Chodzi po prostu o to, aby propozycja dobrego mechanizmu dialogu nie została zniweczona nadmierną dolegliwością konsekwencji w przypadku negatywnego scenariusza. Uwaga wyjaśniona W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 308. Związek Cyfrowa Polska Art. 71 ust. 2 W niewłaściwy sposób nakłada on kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. Uwaga wyjaśniona Strona | 183 W wyniku zgłoszonych uwag art. 71 (obecnie art. 63) został wykreślony. 309. KIGEiT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Rekomendujemy doprecyzowanie Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia, a także doprecyzowanie o jakie zezwolenie chodzi. Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 310. PIIT Art. 74 ust.2 2. W przypadku, gdy w wyniku wznowienia postępowania, o którym mowa w art. 61 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia kary pieniężnej i cofnięcia zezwolenia, nałożenia zakazu albo zastosowania innej sankcji, Komisja może zastosować każdą z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do kary pieniężnej stosuje się przepis ust. 1. Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwaga uwzględniona Przepis został przeredagowany. Wykreślono termin “zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. 311. Związek Cyfrowa Polska Art. 77 Ustawa powinna umożliwiać podmiotom oznaczanie określonych informacji jako niepublicznych przy publikowaniu decyzji. Ustawa o systemach sztucznej inteligencji powinna jasno określać, że niektóre wrażliwe informacje nie mogą być ujawniane przez Komisję. Zalecamy również wprowadzenie prawnego obowiązku zachowania poufności, w szczególności w odniesieniu do tajemnic przedsiębiorstwa oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis otrzymał nowe brzmienie: 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice Strona | 184 przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 312. KIGEiT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi 313. PIIT Art. 77 ust.1 Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. Uwaga uwzględniona Przepis otrzymał nowe brzmienie zgodne z treścią uwagi. 314. PIIT Art. 77 ust. 3 3. Wykaz zawiera co najmniej: 1) nazwę określenie systemu oraz operatora, którego dotyczy decyzja pozwalające na jego identyfikację; Nie każdy system posiada konkretną nazwę, kluczowe jest żaby określić system Uwaga wyjaśniona „Określenie systemu” jest pojęciem wieloznacznym i szerokim. Przy braku wskazania co powinno takie określenie zawierać podane informację mogą być nieprecyzyjne. 315. Polskie sieci elektroenerget yczne Rozdział 6 - art. 78-80 Aktualna treść artykułu nie specyfikuje o jakiego typu incydenty chodzi, a jednocześnie wskazuje Komisję jako adresata zgłoszeń o incydentach (a Komisja dopiero może poinformować CSITRy). Może to powodować wrażenie, że cyberincydenty dotyczące systemów SI nie musza być raportowane bezpośrednio do CSIRTów (w tym sektorowych). Dla uniknięcia wątpliwości, wydaje się zasadne uzupełnienie artykułu o wskazanie, że jeśli z innych przepisów prawa wynika raportowanie o incydencie do innych organów, to ten artykuł z tego nie zwalnia. Uwaga częściowo uwzględniona Przepis art. 79, który wskazuje na obowiązek przekazania informacji m.in. CSIRTom uległ znacznej zmianie. Jednocześnie, projektowana ustawa nie modyfikuje lub znosi Strona | 185 obowiązków określonych w innych ustawach. 316. Polskie sieci elektroenerget yczne Rozdział 6 vs Rozdział 8 Kwestia czy raportowanie na temat poważnych incydentów dotyczy również piaskownicy regulacyjnej może budzić wątpliwości. Wydaje się zasadnie uzupełnienie Rozdziału 6 o zapis wskazujący intencję ustawodawcy w tym zakresie. Uwaga wyjaśniona Niemożliwe jest całkowite wykluczenia ryzyka wystąpienia incydentu stanowiące potencjalne ryzyko, które wystąpi w ramach piaskownicy regulacyjnej. 317. FinTech Poland Art. 78 Zgodnie z art. 73 ust. 2 AI Act dostawcy systemu sztucznej inteligencji wysokiego ryzyka zgłoszenie poważnego incydentu dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. W ust. 3 wskazano, że niezależnie od ust. 2 w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. W ustawie pojawia się termin maksymalny 24 godzin od momentu wykrycia, rekomendujemy wydłużenie terminu, które umożliwi zgłoszenie incydentu z kompletnymi informacjami dotyczącymi opisu poważnego incydentu. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na Strona | 186 z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 318. Polska Izba Ubezpieczeń Art. 78 Zaproponowany w projekcie 24 godzinny czas na zgłoszenie incydentu, liczony od momentu jego wykrycia jest niewystarczający. Po pierwsze przy skomplikowanych i rozległych systemach zebranie odpowiednich danych w takim terminie może być niewystarczające. Dodatkowo moment wykrycia może być różnie interpretowany i rozciągnięty w czasie. Pośrednią konsekwencją tak krótkiego czasu będą przypadki zgłoszeń incydentów, które ostatecznie okażą się zupełnie nieistotne. Proponujemy wydłużenie czasu do 72h. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje Strona | 187 to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 319. PIIT Art. 78 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 Strona | 188 rozporządzenia 2024/1689. 320. ZPTC Lewiatan Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Propozycja: Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia. Uzasadnienie: 1. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie tworzy nadmiernie obowiązki. 2. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. 3. Zrównanie zapisów w AI Act i polskiej ustawie ma walor tworzenia jednolitego rynku cyfrowego w UE. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 321. ZPTC Lewiatan Art. 73 AIA, art. 78 W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: Uwaga wyjaśniona Strona | 189 „Art. 78 ust. 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości”. Uzasadnienie: Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 322. GRAI Art. 78 Uwaga: alternatywna propozycja w stosunku do propozycji poniżej!!! Jest: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem Uwaga częściowo uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W Strona | 190 systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia.”. Propozycja: „Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego na terenie Rzeczpospolitej Polskiej w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 15 dni od momentu jego wykrycia.”. Uzasadnienie: 4. Zgłaszanie do Komisji wszelkich poważnych incydentów jakie mogły być wykryte przez dostawcę na całym świecie nie jest sensowne. Art. 73 Aktu o sztucznej inteligencji mówi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie zmniejszać. obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 323. GRAI Art. 78 ust. 1 Brak definicji poważnego incydentu. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. 324. GRAI Art 78 pkt 1. Proponuje wydłużenie czasu wymaganego na zgłoszenie incydentu i zastosowania analogicznego czasu jak dla incydentów z naruszenia rozporządzania 2016/679, tj. 72 godziny. Weryfikacja i potwierdzenie incydentu mogą być bardzo trudne, a czasami wręcz niemożliwe w czasie 24 godzin w szczególności, gdy do zgłoszenia trzeba Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym Strona | 191 dołączyć wymagany ustawą opis incydentu. Zbyt krótki termin może prowadzić do konfliktu o zasoby mitygujące incydent względem potrzeb raportowania, co może negatywnie wpłynąć na dane osób objętych incydentem. Propozycja brzmienia poniżej: Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 72 godzin od momentu jego wykrycia. projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 325. AmCham Art. 78 ust. 1 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Strona | 192 przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. Przygotowanie i przekazanie zgłoszenia poważnego incydentu w większości przypadków wymagać będzie: ● analizy incydentu: identyfikacji przyczyn, oceny skutków oraz potencjalnego wpływu; ● zebrania niezbędnych danych: zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu; ● koordynacji działań wewnątrz organizacji; ● przygotowanie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. I w większości przypadków wykonanie wszystkich wyżej wymienionych kroków nie będzie możliwie w 24 godziny. Co więcej, art. 73 Aktu o AI stanowi: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Nie widać istotnego powodu by ten termin radykalnie skracać. Projekt ustawy powinien przewidywać przynajmniej 7 dni na zgłoszenie poważnego incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 326. ZBP Art. 78 ust. 1 W projekcie ustawy brak jest definicji poważnego incydentu. Ze względu na fakt posługiwania się pojęciem poważnego incydentu w wielu obecnie obowiązujących regulacjach, w których pojęcie to jest rozumiane inaczej, sugerujemy doprecyzowanie definicji poważnego incydentu. Doprecyzowanie mogłoby zostać zrealizowane np. poprzez dodanie odpowiedniego przepisu wskazującego, że jeżeli przepisy ustawy nie wskazują inaczej, pojęcia niezdefiniowane w ustawie mają definicję z AI Act. Ewentualnie, dla porównania, w art. 3 ust. 1 ustawy o ochronie danych osobowych „Administrator wykonujący zadanie publiczne nie przekazuje informacji, o których mowa w art. 13 ust. 3 rozporządzenia 2016/679”. W projekcie ustawy o systemach sztucznej inteligencji przepisy mogłyby podobnie jak w ustawie o ochronie danych osobowych precyzować konkretne pojęcia. Uwaga uwzględniona Definicja poważnego incydentu została zawarta w art. 3 pkt 14. Strona | 193 Zwracamy uwagę, że powyższa uwaga jest również uwagą o charakterze ogólnym, która dotyczy również pozostałych przepisów projektu, w których powstają wątpliwości interpretacyjne w związku z niedoprecyzowaniem pojęć niezdefiniowanych w projekcie. 327. KIGEiT Art. 78 ust. 1 Art. 78. 1. Dostawca systemu sztucznej inteligencji wysokiego ryzyka ma obowiązek zgłoszenia Komisji poważnego incydentu zaistniałego w związku z wykorzystaniem systemów sztucznej inteligencji niezwłocznie, nie później niż w ciągu 24 godzin od momentu jego wykrycia. Terminy, w jakich należy dokonać zgłoszeń poważnych incydentów określone są w art. 73 ust.2-4 Rozporządzenia 2024/1689 stąd zbędne jest ich regulowanie w ustawie. Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Strona | 194 328. Związek Cyfrowa Polska Art. 78 ust. 1 Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Zgodnie z art. 78 ust. 1 projektu ustawy z kolei, polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. 24 godziny na zgłoszenie poważnego incydentu to nieracjonalnie krótkie ramy czasowe. Podmioty, zwłaszcza te o złożonych strukturach organizacyjnych lub zaawansowanych systemach sztucznej inteligencji, nie są w stanie właściwie ocenić, w terminie 24 godzin, czy incydent kwalifikuje się jako poważny. Proponowany harmonogram nie zapewnia wystarczającej ilości czasu na zebranie niezbędnych informacji i dokumentacji na potrzeby kompleksowego raportu. Różnice stref czasowych między różnymi jednostkami w organizacji mogą dodatkowo utrudniać zachowanie zgodności w ciągu 24 godzin. Zalecamy wydłużenie terminu raportowania do co najmniej 7 dni, aby umożliwić dokładną weryfikację, gromadzenie danych i zorganizowane reagowanie na incydenty. Uwaga uwzględniona W aktualnym projekcie ustawy znaczącej zmianie uległ art. 78 (obecnie art 69). W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 329. GRAI Art. 78 ust. 2 pkt 4 Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie Uwaga uwzględniona Strona | 195 informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 330. Polskie sieci elektroenerget yczne Art. 78 ust. 2 pkt 4 lit.a Jest: „a) wskazanie systemu sztucznej inteligencji, za sprawą którego doszło do poważnego incydentu,” Propozycja: „a) wskazanie systemu sztucznej inteligencji, w związku, z którym doszło do poważnego incydentu,” – aby uniknąć wrażenia, że incydent poważny może dotyczyć tylko przypadku, gdzie to sam system SI jest przyczyną, co mogłoby spowodować pomijanie przypadków, gdy incydent może być spowodowany przez człowieka lub błąd oprogramowania innego niż sam system SI (np. system operacyjny, oprogramowanie integracyjne lub narzędziowe) Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 331. AmCham Art. 78 ust. 2 pkt 4 lit. b Proponujemy zastąpić w tym przepisie słowo „użytkowników” słowem „osób”. Wynika to z definicji incydentu poważnego. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 332. GRAI Art. 78 ust. 2 pkt 4 lit. b Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 333. AmCham Art. 78 ust. 2 pkt 4 lit g. Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowane sformułowanie przepisu jest bardziej precyzyjne. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. Strona | 196 334. GRAI Art. 78 ust. 2 pkt 4 lit. g Jest: „ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Propozycja nowego przepisu jest precyzyjniejsza. Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 335. ZBP Art. 78 ust. 2 pkt 4 i 4b Zwracamy uwagę, że tak szeroki zakres opisu incydentu, szczególnie w kontekście oceny dotkliwości oraz liczby użytkowników, na których incydent miał wpływ, może być trudny do sporządzenia w ciągu 24 godzin. W tym czasie możliwe jest przekazanie informacji zawartych w punktach a) oraz c). Pozostałe informacje mogą wymagać dłuższego czasu na ustalenie, dlatego proponujemy, aby w ich przypadku określić, że powinny być ustalone i przekazane bez zbędnej zwłoki. Uwaga uwzględniona W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. Ust. 2 pkt 4 został wykreślony. 336. ZPTC Lewiatan Art. 78 ust. 2 p. 4) lit. b) Jest: „użytkowników” Propozycja: „osób” Uzasadnienie: wynika z definicji incydentu poważnego Uwaga wyjaśniona Ust. 2 pkt 4 został wykreślony. 337. ZPTC Lewiatan Art. 78 ust. 2 p. 4 lit. G Jest: ocenę „dotkliwości poważnego incydentu, w szczególności w odniesieniu do zdrowia, bezpieczeństwa i praw podstawowych osób” Propozycja: „wpływ na zdrowie, bezpieczeństwo i prawa podstawowe osób” Uzasadnienie: „Dotkliwość” incydentu nie jest nigdzie zdefiniowana. Proponowany zapis jest precyzyjniejszy. Uwaga wyjaśniona Art. 78 ust. 2 pkt 4 został wykreślony. 338. Związek Cyfrowa Polska Art. 80 ust. 1 Obecny przepis zezwalający Komisji na przekazywanie raportów i powiązanych danych do wielu podmiotów jest zbyt szeroki. Ustawa nie definiuje jasno okoliczności, w których takie udostępnianie danych ma miejsce, co prowadzi do potencjalnych nadużyć. Uwaga wyjaśniona Strona | 197 Zalecamy wprowadzenie jasnych i szczegółowych kryteriów określających, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. W procesie tym brakuje również wyraźnych zabezpieczeń w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa. Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone 339. GRAI Art. 82 ust. 1 Projektowany ust. 1 zakłada składanie wniosku w sprawie notyfikacji jednostki oceniającej zgodność do ministra właściwego ds. informatyzacji. W naszej ocenie takie wnioski powinny być kierowane do Polskiego Centrum Akredytacji. Jest to rozwiązanie podobne do rozwiązań przyjętych w innych krajach (np. Niemcy (Deutsche Akkreditierungsstelle), Francja (Comité français d’accréditation), Włochy (ACCREDIA), Hiszpania (ENAC). Proponujemy zastąpienie wyrażenia “ministra właściwego do spraw informatyzacji” wyrażeniem “Polskiego Centrum Akredytacji”. Do rozważenia jest również wprowadzenie obowiązku PCA do przekazywania informacji o złożonych wnioskach (podobnie do art. 65 ust. 3 pkt 2 projektu ustawy). Rozwiązanie jest spójne z przepisem art. 28.2 rozporządzenia 2024/1689. Uwaga wyjaśniona Mając na uwadze ogólne zasady wnioski w sprawie składa się do organu właściwego dla danego rodzaju sprawy. Zgodnie z projektowanymi przepisami ustawy to minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. I to on dokonuje notyfikacji jednostki oceniającej zgodność. Dlatego uznano, że wnioski w sprawie notyfikacji powinny być kierowane właśnie do tego organu. Kwestie współpracy między ministrem właściwym ds. informatyzacji a PCA zostaną określone na późniejszym etapie i nie Strona | 198 wymagają regulacji ustawowych. 340. GRAI Art. 84 Rekomendujemy przyjęcie następującej treści: “W zakresie pozostałych spraw, o których mowa w rozdziale 6 ustawy, w sprawach nieuregulowanych rozporządzeniem 2024/1689 i niniejszą ustawą stosuje się odpowiednio przepisy ustawy z dnia 13 kwietnia 2016 roku o systemach oceny zgodności i nadzoru rynku, z zastrzeżeniem że minister właściwy do spraw informatyzacji wyda rozporządzenia w zakresie pkt 1 –6 art. 12 ww. ustawy biorąc pod uwagę również przepisy rozporządzenia 2024/1689, pozostałe decyzje, rozporządzenia wykonawcze lub wytyczne Komisji Europejskiej, zalecenia i wytyczne Europejskiej Rady do spraw Sztucznej Inteligencji.” Uwaga uwzględniona Przepis nie wymaga doprecyzowania w zakresie zastrzeżenia wydania przez ministra właściwego do spraw informatyzacji rozporządzenia na podstawie art. 12 ustawy o systemach oceny zgodności i nadzoru rynku. Obowiązek wydania rozporządzenia a także wytyczne do jego wydania, zakres wynika bezpośrednio w przepisów ww. ustawy. 341. AI Chamber Rozdział 8 Podobnie bardzo pozytywnym krokiem jest wprowadzenie do projektu ustawy nowego Rozdziału 8, zatytułowanego “Środki wspierające innowacyjność”. Brak tych środków był jednym z głównych zarzutów podnoszonych wobec pierwotnego projektu ustawy. Udostępnienie tzw. Piaskownic regulacyjnych było jednym z głównych postulatów branży. Należy jednak podkreślić, że aby dostawcy systemów SI korzystali z piaskownic muszą one być faktycznie dostępne, procedura uzyskiwania do nich dostępu musi być szybka, tania, prosta i pozbawiona uznaniowości. Przedstawione przepisy niestety nie realizują tej wizji w dostateczny sposób, co może skutkować tym, że przepisy te pozostaną martwe. Postulujemy, aby procedura akcesji do piaskownic została znacznie uproszczona - idealnie dostęp uzyskiwać powinny wszystkie zainteresowane podmioty po dokonaniu prostego zgłoszenia i nie zgłoszenia przez Komisję zastrzeżeń w określonym (krótkim - nie dłuższym niż 30 dni) terminie. Dopiero takie przepisy mogą stać się prawdziwym wzmocnieniem polskiego rynku AI. Uwaga wyjaśniona Projektodawca zrezygnowała z części regulacji w zakresie ustanawiania piaskownic regulacyjnych. Dodatkowo należy wskazać że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu Strona | 199 wykonawczego Komisji Europejskiej. 342. FinTech Poland Rozdział 8 Popieramy wprowadzenie przepisów dotyczących piaskownic regulacyjnych jako krok w dobrą stronę, jednak rekomendujemy ich dopracowanie. Kluczowe jest uproszczenie procedur, obniżenie opłat za korzystanie z piaskownicy oraz wyeliminowanie uznaniowości w procesie przyznawania dostępu. Takie zmiany zwiększyłyby dostępność tego narzędzia dla innowacyjnych podmiotów i przyczyniły się do skuteczniejszego rozwoju AI w Polsce. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 343. IWP Repropol Art.85 Piaskownice regulacyjne jako środek wspierający innowacyjność powinny mieć wielowymiarowe wsparcie ze strony w zakresie AI, w tym identyfikację ryzyk, także praw podstawowych (zob. art. 57 ust. 6 i 7 AIA). Obszerna regulacja dotycząca piaskownic (art. 85 i nst. UoSSI) nie przewiduje w dostatecznie wyraźny sposób takiego wsparcia. W szczególności nie sposób za taką regulację postrzegać art. 96 projektu. Uważamy, że podmioty biorące udział w piaskownicach powinny mieć pełną świadomość ich wyjątkowego statusu związanego z uczestnictwem w tym przedsięwzięciu. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 344. AmCham Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 345. ZPTC Lewiatan Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza Strona | 200 zakresem regulacji tego przepisu. 346. GRAI Art. 85 ust. 1 Wymieniony został wyłącznie art. 57 ust. 9 rozporządzenia 2024/1689. Uważamy, że należy wskazać także ust. 5 tego samego artykułu. Uwaga wyjaśniona Odesłanie do art. 57 ust. 5 rozporządzenia 2024/1689 poza zakresem regulacji tego przepisu. 347. GRAI Art. 87 ust. 1 Jest: „Art. 87. 1. Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej.”. Propozycja: Poza trybem konkursowym proponujemy dodać możliwość tworzenia sektorowych piaskownic regulacyjnych, m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 348. Polskie sieci elektroenerget yczne Art. 87 ust.1. Jest: Przewodniczący Komisji ogłasza konkurs na uczestnictwo w piaskownicy regulacyjnej. Propozycja: Poza trybem konkursowym dodać możliwość tworzenia sektorowych piaskownic regulacyjnych m.in w celu wspierania innowacyjności oraz wypracowywania koniecznych rozwiązań Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 349. ICC Poland Art. 87 ust. 3 Projektu przewiduje, że konkurs na uczestnictwo w piaskownicy regulacyjnej przeprowadzany jest nie rzadziej niż trzy razy w roku. Mając na uwadze tempo rozwoju systemów sztucznej inteligencji oraz spodziewane duże zainteresowanie piaskownicami regulacyjnymi, warto rozważyć zwiększenie liczby konkursów ogłaszanych w skali roku, przynajmniej w początkowym okresie stosowania rozporządzenia 2024/1689 oraz Uwaga wyjaśniona W art. 87 (obecnie art. 85) ust. 3 został wykreślony Strona | 201 ustawy. Równocześnie w ramach przepisów przejściowych należałoby przewidzieć termin od dnia wejścia w życie ustawy, w którym powinien zostać ogłoszony pierwszy taki konkurs. Część zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 350. PTI Art. 88 ust. 2 Zespół konkursowy ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 jakimi warunkami? brak w rozporządzeniu takich warunków, oprócz tych dotyczących zachowania przepisów prawa krajowego i unijnego! Prosimy o uzupełnienie przepisu o tryb i zawartość publikacji warunków oceny konkursu przed jego ogłoszeniem przez Biuro Komisji tzw. Zespół Konkursowy Brak jasnych ram oceny uczestników konkursu może nie gwarantować obiektywnej oceny. Uwaga wyjaśniona Część regulacji zakresu obejmującego piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 351. PTI Art. 93 ust. 2 Przewodniczący Komisji po otrzymaniu, o którym mowa w ust. 2, może podjąć decyzję o: Brakuje określenia co przewodniczący ma otrzymać. Wyniki raportu? Przewodniczący Komisji po otrzymaniu wyników raportu, o którym mowa w ust. 2, może podjąć decyzję o: Błąd pisarski Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 352. GRAI Art. 94 Zadania wskazane w art. 95 rozporządzenia 2024/1689 powinny zostać powierzone Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a nie ministrowi właściwemu do spraw informatyzacji. Rekomendujemy przyjęcie treści ust. 1: “Komisja wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, poprzez wydanie kodeksów postępowania, opracowanych we współpracy z Radą oraz poddając projekty kodeksów otwartym konsultacjom społecznym.” W związku z przyznaniem kompetencji Komisji należy odpowiednio dodać pkt 17 w ust. 1 art. 9 projektu o treści “w uzasadnionych przypadkach i wobec potrzeb rynku opracowuje kodeksy postępowań, o których mowa w art. 95 rozporządzenia 2024/1689.”. Uwaga wyjaśniona Mając na uwadze właściwość ministra do spraw informatyzacji przepis pozostaje bez zmian. Strona | 202 353. GRAI Art. 94 ust. 2 Jest: „2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Propozycja: „2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu.”. Uzasadnienie: Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 354. AmCham Art. 94 ust. 2 Jest: Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do Strona | 203 obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 355. ZPTC Lewiatan Art. 94 ust. 2 Jest: 2. Minister właściwy do spraw informatyzacji do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Propozycja: 2. Minister właściwy do spraw informatyzacji, w porozumieniu z ministrem właściwym do spraw nauki i szkolnictwa wyższego, do 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat zasobów obliczeniowych w sektorze finansów publicznych oraz sektorze nauki i szkolnictwa wyższego wymaganych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. Uzasadnienie: Uwaga wyjaśniona Ogólne sformułowanie przepisu pozwala na elastyczne dostosowywanie działań zmierzających do uzyskania danych, sporządzenia i przekazania informacji określonej w tym przepisie co w przypadku szybko i Strona | 204 Nie istnieją w chwili obecnej żadne standardy dotyczące raportowania dla całego przemysłu teleinformatycznego. Co więcej, zasoby w Polsce mogą być także wykorzystywane przez podmioty z innych krajów co dodatkowo tylko będzie zaciemniało obraz. Natomiast informacja o niezbędnych zasobach w sektorze publicznym oraz w polskiej nauce będzie istotną informacją dla planowanego rozwoju tej dziedziny w naszym kraju. szeroko rozwijającej się AI wydaje się zasadne. Mając na uwadze jak duże znaczenie dla rozwoju sztucznej inteligencji mają zasoby obliczeniowe i związane z nimi zużycie energii zasadnym jest także aby informacja obejmowała jak najszersze zasoby. Stąd też doprecyzowanie i zawężanie zakresu przepisu w proponowanym brzmieniu wydaje się niezasadne. 356. GRAI Art. 95 ust. 2 Nadzór nad PCA sprawuje minister właściwy ds. gospodarki. To on powinien podejmować działania na wniosek Ministra Cyfryzacji. Rekomendujemy w odniesieniu do art. 95 ust. 2 zasadne byłoby uwzględnienie rozdziału kompetencyjnego lub wprowadzenie procedury współpracy w wydaniu zarządzenia i podejmowaniu działań związanych z zakresem art. 70 ust. 3 rozporządzenia 2024/1689. Uwaga wyjaśniona Zgodnie z projektem ustawy minister właściwy do spraw informatyzacji będzie organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689 a także będzie organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Strona | 205 Ustawa przewiduje współpracę ministra w tym zakresie tych zadań z PCA. Mając na na uwadze sposób organizacji PCA i ich kompetencje nie jest wymagane angażowanie ministra właściwego do spraw gospodarki do kwestii określania zasad współpracy. 357. GRAI Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 358. Polskie sieci elektroenerget yczne Art. 96 Jest: podane są działania, które w ramach wspierania innowacyjności minister właściwy ds. Informatyzacji może wspierać nie ma jednak dokładnie opisanego sposobu starania się o takie wsparcie Propozycja: dodać opis działań lub odwołać się do kompetencji wybranej instytucji, która będzie realizowała działania wspierające innowacyjność w obszarze AI Uwaga wyjaśniona Celem przepisu jest zapewnienie elastycznego wspierania innowacyjności w możliwe szerokim zakresie działań, które na ten moment z uwagi Strona | 206 na szybki rozwój AI są trudne do dokładnego określenia Doprecyzowanie przepisu mogłoby w niedługim czasie stanowić barierę do udzielania wsparcia. 359. Związek Cyfrowa Polska Art. 96 Chociaż uprawnienie Ministra Cyfryzacji do zapewnienia wsparcia finansowego jest pozytywną inicjatywą, lista kwalifikujących się odbiorców powinna zostać rozszerzona. Szersze ramy kwalifikowalności pozwoliłyby Ministerstwu na tworzenie partnerstw z większą ilością podmiotów, ułatwiając rozwój rynku sztucznej inteligencji w Polsce. Rozszerzenie zakresu wspieranych podmiotów zachęciłoby do współpracy startupy, MŚP, instytucje badawcze jak również duże podmioty, wspierając bardziej kompleksowy ekosystem innowacji w zakresie sztucznej inteligencji. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakiem ma ono służyć. 360. AmCham Rozdział 9 (art. 97-106) Stoimy na stanowisku, że umieszczenie w projekcie ustawy przepisów karnych jest niecelowe. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w Polsce. Zdecydowanie bardziej sensowne i bardziej spójne z aktem o AI byłoby konsekwentne stosowanie administracyjnych kar pieniężnych. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. Strona | 207 361. ZPTC Lewiatan Rozdział 9 Należy w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Brzmienie Rozdziału 9 powinno wynikać w związku z tym wprost z treści EU AI Act. Uzasadnienie: Opowiadamy się za regulacjami wspierającymi rozwój sztucznej inteligencji, a nie nakładanie nadmiernych sankcji karnych. (1) Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 ustawy o sztucznej inteligencji (art. 106). (2) Za naruszenie ustawy o AI przewidziana jest administracyjna kara pieniężna (ale nie karna) „w wysokości i na warunkach określonych w rozdziale XII ustawy o AI” (art. 97- 104). Uwaga wyjaśniona Celem wprowadzenia sankcji karnych w rozdziale 9 jest zapewnienia niezakłóconego wykonywania obowiązków przez umożliwienie sprawnego wykonywania obowiązków wynikających z prowadzenia kontroli i postępowań. Przepisy te pozostają bez wpływu na rozwoju i wdrażania sztucznej inteligencji. 362. GRAI Art. 97 ust. 1 i kolejne Przepis at. 97 ust. 1 odwołuje się do rozdziału XII rozporządzenia. Zarazem w art. 99 ust. 8 mamy konieczność doprecyzowania w prawie krajowym państw członkowskich zasad nakładania kar na organy i podmioty publiczne a w projektowanej ustawie brak jest wyraźnej regulacji w tym zakresie. Uwaga wyjaśniona Przepisy ustawy znajdują także do organów i podmiotów publicznych. W projekcie celowo nie przewidziano odrębnych przepisów w zakresie nakładania kar na te podmioty. Celem jest aby podlegały one takiemu samu reżimowi jak pozostałe podmioty określone w rozporządzeniu 2024/1689. Strona | 208 363. KIGEiT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. W związku z faktem, że jest to przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust.1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się Strona | 209 zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 364. PIIT Art. 97 Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. To przepis quasi karny musi z niego jasno wynikać zakres podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5, czyli ust. 3 art.99. Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów Strona | 210 rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 365. Związek Cyfrowa Polska Art. 97 ust. 4 Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 366. KIGEiT Art. 98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Rekomendacja wydłużenia terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 367. PIIT Art.98 Art. 71. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest Strona | 211 Wydłużenie terminu - analogicznie jak w uodo. optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność podmiotu, o którym mowa w art. 62, nie należy do czynności o dużym stopniu skomplikowania. 368. AmCham Art. 99 Projektowany przepis zezwala na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję. Z oczywistych wręcz względów jest to rozwiązanie wysoce kontrowersyjne. Przepis w tym kształcie prowadzi do sytuacji, w której Komisja będzie silnie zmotywowana do nakładania wysokich i licznych kar pieniężnych, nie ze względu na rzeczywiste naruszenia przepisów prawa, ale w celu poprawy swojej sytuacji finansowej. Takie rozwiązanie jest nieetyczne i szkodliwe dla rozwoju sztucznej inteligencji w Polsce. System, w którym organ ma bezpośrednią korzyść finansową z nakładania kar, zachęca go do nadużywania swoich uprawnień. Zamiast wspierać innowacje i rozwój technologii, Komisja może skupić się na poszukiwaniu błahych uchybień, które pozwolą jej na generowanie dodatkowych przychodów. Taka praktyka z pewnością zniechęci przedsiębiorców i inwestorów do angażowania się w projekty związane ze sztuczną inteligencją w Polsce. Co więcej, przepis ten stoi w sprzeczności z innymi rozwiązaniami proponowanymi w projekcie ustawy, które mają na celu wspieranie rozwoju sztucznej inteligencji, takimi jak piaskownice regulacyjne. Piaskownice regulacyjne służą temu, aby firmy mogły testować innowacyjne rozwiązania w kontrolowanym środowisku, bez obawy o surowe kary finansowe. Jeśli jednak Komisja będzie miała motywację do nakładania wysokich kar, idea piaskownic regulacyjnych zostanie wypaczona. Rozwiązanie, w którym kary pieniężne stanowią przychód organu nakładającego kary, jest niezgodne z europejskimi i polskimi standardami. W Polsce, organy takie jak Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 96 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. Strona | 212 Elektronicznej czy Prezes Urzędu Ochrony Danych Osobowych nie czerpią korzyści finansowych z nakładanych kar. Wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnych funduszy celowych, które mają osobowość prawną i są niezależne od organów nakładających kary. Zasada ta powinna być również stosowana w przypadku Komisji. Wpływy z kar pieniężnych nakładanych przez Komisję powinny trafiać do budżetu państwa, a nie do budżetu Komisji. Tylko takie rozwiązanie zapewni bezstronność i obiektywizm Komisji oraz przyczyni się do zdrowego rozwoju sztucznej inteligencji w Polsce. 369. FinTech Poland Art. 99 Postulujemy zmianę przepisów dotyczących wpływów z administracyjnych kar pieniężnych, które w obecnej treści stanowią przychód Biura Komisji. Taki mechanizm może rodzić konflikt interesów i powinien zostać zastąpiony rozwiązaniem zapewniającym większą transparentność, np. przekazywaniem tych środków do budżetu państwa lub funduszu wspierającego rozwój AI. Uwaga uwzględniona Zmieniono brzmienie przepisów. Zgodnie z nowym brzmieniem art. 87 środki finansowe z administracyjnych kar pieniężnych będą stanowiły przychód budżetu państwa. 370. ICC Poland Art. 99 Zgodnie z art. 99 Projektu środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Zmiana ta – w stosunku do projektu z 15 października 2024 r. – nie zasługuje na aprobatę. Sytuacja, w której środki z administracyjnych kar pieniężnych nakładanych w drodze postępowań prowadzonych przez Komisję, stanowią przychód samego Biura Komisji, tworzy nieakceptowalną sytuację konfliktu interesów. Tego rodzaju rozwiązanie stwarza bowiem zagrożenie, że w interesie Komisji oraz Biura Komisji będzie, aby administracyjne kary pieniężne były jak najwyższe. Może to wpływać na samo postrzeganie niezależności Komisji jako organu nadzoru nad systemami sztucznej inteligencji. Jakkolwiek szeroki zakres zadań Komisji oraz potrzeba zorganizowania od podstaw Biura Komisji uzasadnia zwiększenie budżetu Biura Komisji w stosunku do zakładanych pierwotnie poziomów, to jednak rozwiązaniem tego problemu nie może być zaproponowana treść art. 99 Projektu. W konsekwencji proponuje się zmianę art. 99 Projektu poprzez przesądzenie, że środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa, podobnie jak ma to miejsce w przypadku art. 104 ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz.U. z 2019 r., poz. 1781), wdrażającej rozporządzenie 2016/679: Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji budżetu państwa. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 213 371. PIIT Art. 99 Wpływy z kar pieniężnych nakładanych przez Komisję powinny stanowić przychód budżetu państwa. Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 372. Związek Cyfrowa Polska Art. 99 Obecny przepis umożliwia finansowanie Urzędu Komisji z wpływów z kar pieniężnych nakładanych przez Komisję, co może stanowić zachętę do nakładania wysokich i licznych kar w celu poprawy sytuacji finansowej Komisji. Jest to rozwiązanie wręcz szkodliwe dla rozwoju sztucznej inteligencji w Polsce, gdyż systemowo zachęca organ do nakładania możliwie wysokich i możliwie licznych kar pieniężnych na dostawców systemów sztucznej inteligencji. Przepis tego typu może w zasadzie przekreślić wszystkie pozostałe, sprzyjające rozwojowi sztucznej inteligencji (np. piaskownice regulacyjne) rozwiązania obecne z projektowanej ustawie. Rozwiązanie, w którym kary mają stanowić przychód karzącego, wyraźnie odstaje od europejskich i polskich standardów dla organów nadzoru. Jedynie tytułem przykładu w polskich warunkach kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów, zgodnie z właściwymi przepisami wpływy z kar nakładanych przez te organy trafiają albo do budżetu państwa albo do specjalnie powołanych funduszy celowych, mających osobowość prawną i znajdujących się poza kontrolą organów nakładających kary. Wpływy z kar nie powinny stanowić przychodu Komisji z tych samych powodów, dla których wpływy z mandatów nie powinny stanowić przychodu dla nakładającego mandat Policjanta. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. Strona | 214 Wpływy z kar pieniężnych nakładanych przez Komisję muszą trafiać do budżetu państwa, tak jak było to zapisane w pierwszej wersji projektowanej ustawy. 373. ZPTC Lewiatan Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego zapisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 374. GRAI Art. 99 Jest: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód Biura Komisji. Propozycja: Art. 99. Środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. Uzasadnienie: Proponujemy powrót do poprzedniej wersji tego przepisu. Urząd regulatora lub jego Biuro nie powinien być finansowany z kar nakładanych przez ten urząd. Taka jest praktyka w Polsce i powinna być utrzymana także w tym przypadku. Uwaga uwzględniona Zmieniono brzmienie przepisów zgodnie z treścią uwagi. 375. GRAI art. 102 ust. 3 Tak jak w przypadku art. 57 ust. 4 należy przepis wykreślić – dubluje projektowaną regulację w k.p.c., tj. art. 479 88c § 2 k.p.c. Uwaga wyjaśniona Pozostawienie w ustawie przedmiotowego przepisu ma znaczenie w kontekście zachowania kompletności regulacji. 376. GRAI Art. 103 Należy zsynchronizować przepis z treścią art. 189a § 2 in fine k.p.a. Ustanowienie odrębnej od k.p.a. regulacji dotyczącej administracyjnych kar pieniężnych powoduje przecież, że wówczas działu IVA k.p.a. nie stosuje się w ogóle. Projektowany przepis w tym sensie nie wysławiałby nic zaskakującego, skoro powyższe (w części) potwierdza, niemniej jego dość oczywistą intencją jest wyłączenie stosowania jedynie niektórych przepisów działu IVA k.p.a., tak, jakby więc pozostałe z tego działu miały znajdować zastosowanie. Proponuję zatem uczynić przepis bardziej jednoznacznym i nadać mu treść: „W zakresie określonym przepisami tego rozdziału stosuje się przepisy działu IVA Uwaga uwzględniona Przepisowi nadano nowe brzmienie. Strona | 215 ustawy z dnia 14 czerwca 1960 r. - Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k”. 377. KIGEiT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji. Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że stosuje się ją do egzekucji kar, a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 378. PIIT Art. 104 Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. przepisy ustawy o postępowaniu egzekucyjnym w administracji Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 379. KIGEiT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uwaga wyjaśniona Projektodawca nie przewiduje zmiany przepisów w zakresie wskazanym w uwadze. 380. PIIT Art. 105 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest Strona | 216 związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania w przypadku, o którym mowa w art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 381. KIGEiT Art. 106 Art., 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 382. PIIT Art. 106 Art. 106. Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi Strona | 217 określonymi w odrębnych ustawach. 383. ICC Poland Art. 107 Artykuł 107 Projektu przewiduje dodanie do ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego odrębnych przepisów dotyczących postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689. W projektowanym art. 479 88h § 2 mowa jednak o zażaleniach na postanowienia „Prezesa Urzędu”, nie zaś Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. W konsekwencji przepis ten wymaga następującej zmiany: Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Uwaga uwzględniona Zmieniono brzmienie przepisu zgodnie z propozycją w uwadze. 384. GRAI Art. 107 Należy zmienić nowo projektowany art. 479 88h § 1 k.p.c. w ten sposób, aby w k.p.c. uregulować procedurę dotyczącą zażaleń na postanowienia Komisji – samo wskazanie terminu na wniesienie zażalenia do sądu to zdecydowanie zbyt mało (powstałyby m.in. daleko idące wątpliwości zwłaszcza co do wymogów formalnych pisma: czy stosować per analogiam wymogi dotyczące odwołania czy jednak w ramach wykładni systemowej przyjąć mniej sformalizowany charakter zażalenia). Wydaje się wystarczające, aby odesłać do odpowiedniego stosowania przepisów dotyczących rozpoznania odwołań. Propozycja nowego brzmienia przepisu: „Przepisy niniejszego działu stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, z tym, że zażalenie wnosi się w terminie tygodnia od dnia doręczenia tego postanowienia”. Uwaga wyjaśniona Przepis nie wymaga dalszego doprecyzowania. Zaproponowane rozwiązania są wystarczające. 385. Związek Cyfrowa Polska art. 107 - art. 479[88h](1) Kodeksu Postępowania Cywilnego Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki, w szczególności dla podmiotów o skomplikowanej strukturze organizacyjnej lub w sprawach o zawiłym stanie faktycznym. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest j adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajecie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie Strona | 218 określonym w np. w KPA. 386. PIIT Art. 107 - art. 479[88h] (2) Kodeksu Postępowania Cywilnego § 2. Przepisy art. 479 88b , 479 88d § 1 i art. 479 88f stosuje się odpowiednio do zażaleń na postanowienia Prezesa Urzędu. Przewodniczącego Komisji” Projekt ustawy nie przewiduje nigdzie zażaleń od postanowień Przewodniczącego Komisji, jeśli o niego chodzi jako “Prezesa Urzędu”. Uwaga częściowo uwzględniona Zmieniono brzmienie przepisu w następujący sposób „(.) Przepisy art. 479 88c , 479 88d § 1, art. 479 88f i art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. 387. KIGEiT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r., Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności, co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także, co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 388. PIIT Art. 120 Art. 120. Ustawa wchodzi w życie po upływie 14 dni od dnia ogłoszenia, z wyjątkiem art. 115 i art. 116, które wchodzą w życie z dniem następującym po dniu ogłoszenia. Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 przepisy ustawy, w tym przepisy intertemporalne, muszą być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów Strona | 219 wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. rozporządzenia 2024/1689. Uzasadnienie 1. GRAI Uzasadnienie 2. Negatywny wpływ restrykcyjnego podejścia na gospodarkę 2.1. Wzrost kosztów operacyjnych dla firm • Nadmierna biurokracja wymaga od przedsiębiorstw dodatkowych zasobów na spełnianie formalnych procedur, co przekłada się na wyższe koszty operacyjne. • Dla małych i średnich przedsiębiorstw (MŚP) jest to szczególnie uciążliwe, ponieważ mają ograniczone zasoby na obsługę administracyjną. 2.2. Hamowanie innowacji • Długotrwałe procesy uzyskiwania zgód zniechęcają firmy do testowania nowych technologii w Polsce. • Brak elastyczności ogranicza możliwość szybkiego reagowania na zmieniające się potrzeby rynkowe i technologiczne. 2.3. Ryzyko odpływu innowacyjnych firm za granicę • Firmy, które napotkają bariery w Polsce, mogą przenieść swoje operacje do krajów oferujących bardziej przyjazne warunki regulacyjne. • Odpływ innowacyjnych przedsiębiorstw oznacza utracone miejsca pracy, mniejsze wpływy z podatków oraz spowolnienie transferu technologii. 2.4. Ograniczenie konkurencyjności Polski na arenie międzynarodowej • W warunkach globalnej rywalizacji o inwestycje, zbyt restrykcyjne przepisy stawiają Polskę na mniej korzystnej pozycji wobec innych państw UE i krajów trzecich. • Kraje takie jak Niemcy, Francja czy Estonia już wprowadzają elastyczne systemy piaskownic, przyciągając startupy i inwestorów. Uwaga częściowo uwzględniona Projekt ustawy został zmodyfikowany m.in. w zakresie redukcji obciążeń związanych z korzystaniem z piaskownic regulacyjnych przy jednoczesnym odesłaniu Dodatkowo, projekt przewiduje preferencyjne traktowanie MŚP (m.in. W obszarze piaskownic regulacyjnych oraz kar). 2. GRAI Uzasadnienie 4. Propozycje rozwiązań i rekomendacje 4.1. Model „na zgłoszenie” z ograniczoną rolą państwa • Firmy samodzielnie rejestrują udział w piaskownicy. • Organ nadzoru interweniuje tylko w przypadku zagrożeń dla bezpieczeństwa, praw podstawowych lub cyberbezpieczeństwa. • Domniemana zgoda po 30 dniach od zgłoszenia zapewnia szybki start testów. 4.2. Ograniczenie roli PCA w procesie walidacji • Proces akredytacyjny powinien być realizowany przez jednostki oceniające zgodność bez konieczności angażowania Polskiego Centrum Akredytacji (PCA), co skróci czas i koszty wdrażania innowacji. 4.3. Wprowadzenie mechanizmu „kontroli zarządczej” Uwaga wyjaśniona W kwestii piaskownic regulacyjnych należy wskazać, że w tym zakresie zostaną wydane akty delegowane KE, które Polska będzie zobowiązana honorować. Strona | 220 • Każda firma wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i zgodnością. • Raportowanie co 6 miesięcy pozwala na monitorowanie efektów bez zbędnej biurokracji. 4.4. System zachęt dla przedsiębiorców • Ulgi podatkowe i regulacyjne dla firm uczestniczących w piaskownicach. • Finansowanie testów AI poprzez granty i vouchery dla MŚP. Możliwość uzyskania wstępnej oceny zgodności przed wejściem na rynek. Rola PCA w projekcie ustawy została ustalona adekwatnie do wymagań regulacyjnych wynikających z AI Akt. W zakresie wprowadzenia mechanizmu kontroli zarządczej należy wskazać, że regulacje w tym zakresie stanowiłaby silną ingerencje w sposób zarządzania podmiotów. Z uwagi na różnorodność podmiotów inne rozwiązania mogą okazać się skuteczne dla administracji w której jest prowadzona kontrola zarządcza a inne w podmiotach prywatnych w których np. Funkcjonują komórki compliance. Zasadne wydaje się pozostawienie tej kwestii w gestii poszczególnych podmiotów. Ocena Skutków Regulacji 1. ZPWC OSR Jesteśmy zaniepokojeni poziomem finansowania nowej infrastruktury nadzorującej sztuczną inteligencję w Polsce. Nawet docelowe przeznaczenie 31 milionów złotych w roku 2027 wydaje się niewystarczające, aby nowy urząd mógł efektywnie pełnić swoje funkcje. Potrzebujemy wykwalifikowanego personelu z dogłębną wiedzą z zakresu technologii i funkcjonowania AI, prawa autorskiego, ochrony danych osobowych czy Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy Strona | 221 cyberbezpieczeństwa. Obawiamy się, że proponowane personelowi Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRIBSI) średnie wynagrodzenie brutto na poziomie 15 tys. zł nie będzie wystarczające, aby przyciągnąć takich specjalistów. Podobne wątpliwości odnośnie do adekwatności wynagrodzenia osób stojących na czele Komisji (KRIBSI). stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 2. GRAI OSR Uzasadnienie legislacyjne 1. Cel nowelizacji Ułatwienie testowania systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania. Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki. 2. Korzyści nowego systemu Redukcja biurokracji: Piaskownica działa na zasadzie zgłoszenia, a nie zgody administracyjnej. Przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. Wzmocnienie samoregulacji: Firmy same odpowiadają za zgodność testów. Przejrzystość: Organ państwowy interweniuje tylko w wyjątkowych sytuacjach. Uwaga częściowo uwzględniona OSR został uzupełniony w zakresie uwagi dot. celu nowelizacji Uwaga nr 2 jest niezgodna z treścią przepisów projektu ustawy, tym samym OSR nie może zostać uzupełniony w proponowany sposób. 1 Tabela uwag do projektu ustawy o systemach sztucznej inteligencji (UC71) zgłoszonych w ramach ponownego opiniowania Lp . Jednostka redakcyjn a, do której są wnoszone uwagi Podmiot wnoszący uwagi Zgłoszone uwagi Stanowisko MC Uwagi ogólne 1. NCBR Problem: Produkty, usługi i systemy AI mogą być zgłaszane do certyfikacji oddzielnie w poszczególnych krajach UE, co może prowadzić do różnych decyzji krajowych urzędów nadzorczych. To może skutkować brakiem spójności w regulacjach i utrudniać firmom działanie na rynku wewnętrznym UE. Propozycja zmiany: Wprowadzenie przepisu, który pozwoli Komisji i Radzie na koordynowanie działań oraz dokonywanie ujednoliconej wykładni we współpracy z ich odpowiednikami w pozostałych państwach członkowskich, w tym np. wzajemne uznawanie decyzji certyfikacyjnych między państwami członkowskimi UE. Przepis umożliwi na działanie w środowisku międzynarodowym. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozporządzenia 2024/1689 w rozdziale III. 2. NSZZ Niewystarczająca ochrona pracowników: Projekt nie zawiera rozwiązań chroniących pracowników przed zagrożeniami wynikającymi ze stosowania systemów AI w pracy, mimo że rozporządzenie 2024/1689 klasyfikuje je jako systemy wysokiego ryzyka (art. 6 ust. 2, zał. III pkt 4). Polski ustawodawca nie wykorzystuje możliwości wprowadzenia korzystniejszych przepisów dla pracowników (art. 2 ust. 11 rozporządzenia). Niewystarczający zakres informacji dla pracowników: Obowiązek informowania pracowników o stosowaniu systemów AI (art. 26 ust. 7 rozporządzenia 2024/1689) jest niewystarczający bez podania: nazwy systemu, zasad działania, zakresu działania i potencjalnych skutków dla pracowników. Brak tych danych utrudnia np. złożenie skargi (art. 50 projektu). Propozycja: rozszerzenie Uwaga wyjaśniona Projekt ustawy o systemach sztucznej inteligencji ma na celu realizację obowiązków związanych z wejściem w życie przepisów rozporządzenia 2024/1689, których realizacja jest wymagana w okresie przed 2 sierpnia 2025 r., tj. wejściem w życie części jego przepisów (rozdział I, II, III sekcja 4, V, VII, XII). Regulacje dotyczące systemów wysokiego ryzyka zostaną rozważone i wprowadzone w przypadku konieczności podjęcia działań legislacyjnych do 2 sierpnia 2026 roku. W tym czasie będą również opracowywane przez 2 obowiązku informacyjnego o nazwę, zakres, zasady działania, wpływ na decyzje pracodawcy, warunki pracy, płacę, ocenę pracy, dostęp do zatrudnienia i dane zbierane przez system. Brak dostępu związków zawodowych do informacji Projekt nie przewiduje unormowanego dostępu przedstawicieli pracowników (w tym związków zawodowych) do szczegółowych informacji o systemach AI u pracodawcy. Brak takich danych uniemożliwia kontrolę zgodności z prawem pracy. Propozycja: zagwarantowanie dostępu do szczegółowych informacji dla związków zawodowych. Brak oceny wpływu systemów AI Projekt nie wymaga od pracodawcy oceny wpływu systemów AI na warunki pracy, płacę, prawa podstawowe i równość przed wdrożeniem. Propozycja: wprowadzenie obowiązku takiej oceny we współpracy ze związkami zawodowymi przed wdrożeniem oraz regularnego przeglądu po wdrożeniu. Prawo związków do przeglądu systemów AI Brak regulacji dających związkom zawodowym lub przedstawicielom pracowników prawo do regularnego przeglądu systemów AI i żądania dostosowań/ograniczeń. Propozycja: wprowadzenie takiego prawa. Wymogi projektowania systemów AI Brak wymogu, by systemy AI były projektowane zgodnie z prawem pracy i oceniane pod kątem bezpieczeństwa (jak inne maszyny). Propozycja: wprowadzenie takich wymogów. Komisję Europejską akty delegowane oraz inne akty prawne oraz dokumenty merytoryczne dotyczące obszaru systemów wysokiego ryzyka. Uwaga wyjaśniona. W zakresie dotyczącym prawa dostępu do algorytmów projektodawca chciałby podkreślić, że obszar ten wykracza poza treść przepisów objętych rozporządzeniem i kwestia ta wymaga rozważenia i ewentualnego uregulowania w osobnym działaniu w ramach obszaru regulacji rynku pracy. 3. Pracodawcy RP Modele AI ogólnego przeznaczenia Projekt nakłada obowiązki na dostawców modeli AI ogólnego przeznaczenia, co jest niezgodne z Aktem o AI, który daje wyłączne prawo regulacji tych modeli Biuru ds. AI lub Komisji Europejskiej. Propozycja: Usunięcie dodatkowych wymagań krajowych dla modeli ogólnego przeznaczenia. Uwaga wyjaśniona. Postulaty zawarte w uwadze dot. ochrony danych osobowych zostały częściowo uwzględnione w projekcie. Jednocześnie, ochrona informacji niejawnych lub w inny sposób objętych ochroną 3 Ochrona danych Brak odpowiednich zabezpieczeń dotyczących ochrony danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania. Propozycja: Wprowadzenie klauzul ochronnych w projekcie. Obowiązki dostawców AI Projekt nie precyzuje zakresu dokumentacji i procedur dla dostawców systemów AI (np. oceny ryzyka, audyty, testy), co może prowadzić do naruszeń przepisów unijnych. Propozycja: Doprecyzowanie obowiązków dostawców, w tym wymogów dotyczących audytów, testów i raportowania zgodności. Podział odpowiedzialności Niejasny podział odpowiedzialności między dostawcami a podmiotami stosującymi AI, co może prowadzić do niepewności prawnej i przerzucania odpowiedzialności. Propozycja: Precyzyjne określenie podziału odpowiedzialności w projekcie. Przejrzystość i wyjaśnialność AI Brak regulacji dotyczących obowiązku przejrzystości i wyjaśniania decyzji AI, co narusza prawa użytkowników. Propozycja: Wprowadzenie mechanizmów transparentności, w tym prawa do wyjaśnień decyzji AI. Kompetencje UODO Projekt nie określa kompetencji Prezesa UODO w zakresie nadzoru nad AI (audyty, monitorowanie zgodności z RODO), co może utrudnić egzekwowanie ochrony danych. Propozycja: Określenie kompetencji UODO w projekcie. prawną uregulowana jest w przepisach dot. Kontroli. Według projektodawcy wprowadzanie nowych, dodatkowych wobec rozporządzenia 2024/1689 wymogów oraz procedur wykraczałoby poza zakres objęty wdrożeniem przepisów Aktu, a także rodziłoby niepotrzebne obciążenia z punktu widzenia obywateli i przedsiębiorców. Przedsiębiorców. Dotyczy zarówno obowiązków dostawców, podziału odpowiedzialności czy przejrzystości i wyjaśnialności AI. W zakresie uprawnienia do uzyskania wytłumaczenia decyzji podjętej z udziałem systemu AI wysokiego ryzyka, obszar ten poddany zostanie analizie w ramach odrębnych prac nad wdrożeniem przepisów dot. Systemów wysokiego ryzyka, o których mowa w art. 6 AI Aktu. W zakresie kompetencji Prezesa UODO należy zauważyć, że celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. 4. URPL Podtrzymuję także swoje stanowisko wyrażone w pkt 3 pisma z dnia 8 listopada 2024 r. (znak: DP.023.99.2024; pismo w załączeniu) dotyczące wskazania Prezesa Urzędu jako organu właściwego w Uwaga wyjaśniona W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się 4 zakresie nadzoru nad wyrobami medycznymi wykorzystującymi sztuczną inteligencję (np. oprogramowania będące wyrobami medycznymi), wyznaczania jednostek notyfikowanych w zakresie wyrobów medycznych i wyrobów medycznych do diagnostyki in vitro wykorzystujących sztuczną inteligencję oraz nadzoru nad nimi w tej kwestii. Podkreślenia wymaga, że z informacji zebranych podczas spotkań na szczeblu międzynarodowym (Competent Authorities for Medical Devices (CAMD) – spotkanie organów kompetentnych dla wyrobów medycznych, spotkania grupy roboczej MDCG (Grupy Koordynacyjnej ds. Wyrobów Medycznych) – Market Survilance working group) oraz w korespondencji z Komisją Europejską (DG Sante D.3 Medical Devices) wynika, że jeżeli zostanie wdrożony aktualny projekt ww. ustawy, Polska będzie jedynym krajem w Unii Europejskiej, w którym organ właściwy ds. nadzoru rynku oraz organ właściwy w zakresie jednostek notyfikowanych w zakresie wyrobów medycznych objętych rozporządzaniem Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG, zwanym dalej „rozporządzeniem 2017/745”, i rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE, zwanego dalej „rozporządzeniem 2017/746”, nie będzie właściwy w zakresie systemów AI stosowanych w tych wyrobach. Jest to tym bardziej wątpliwe rozwiązanie, że systemy AI już teraz są stosowane w wyrobach medycznych (np. do analizy obrazów diagnostycznych) Wobec tego już obecnie podlegają one nadzorowi Prezesa Urzędu i są certyfikowane przez jednostki notyfikowane w zakresie wyrobów medycznych. ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Jednocześnie, z uwagi na istotność regulacji obszaru technologii medycznych jak również harmonogram prac Komisji Europejskiej w zakresie aktów prawa oraz materiałów merytorycznych dot. tego obszaru na poziomie unijnym wynikającym bezpośrednio z przepisów Rozporządzenia, prace nad dostosowaniem przepisów prawa do wymogów nadzoru nad systemami wysokiego ryzyka (również w obszarze medycznym) wymagają odrębnej analizy oraz ewentualnych prac przed 2.08 2026 r. 5 Proponowane rozwiązanie budzi wątpliwości w kontekście stanowiska Komisji Europejskiej oraz założeń wdrażanej legislacji. Zgodnie art. 8 ust. 2 zdanie drugie rozporządzenia 2024/1689 ocena zgodności z wymaganiami tego rozporządzenia może być zintegrowana z oceną zgodności oprogramowania jako wyrobu medycznego z wymaganiami rozporządzania 2017/745 lub rozporządzenia 2017/746. W załączeniu przekazujemy prezentację przedstawicielki Komisji Europejskiej dot. procedury oceny zgodności z obiema regulacjami. Komisja Europejska zwróciła uwagę na możliwość przeprowadzenia jednej oceny zgodności wyrobu z obiema regulacjami. W trakcie spotkań międzynarodowych była też omawiana kwestia jednoznacznego oznakowywania kompetencji jednostek notyfikowanych. Na spotkaniu grupy roboczej WG NBO (nadzór nad jednostkami notyfikowanymi - Grupa robocza działająca jako podgrupa Grupy Koordynacyjnej ds. Wyrobów Medycznych powołana na podstawie art. 103 rozporządzenia 2017/745) ustalono, że kompetencje pracowników jednostki w zakresie certyfikacji AI będą oceniane w ramach oceny kompetencji niezbędnych do certyfikacji wyrobów mieszczących się w kodach MDA 0315 „Oprogramowanie” oraz MDS 1009 „Wyroby zawierające oprogramowanie/wykorzystujące oprogramowanie/sterowane przez oprogramowanie, w tym wyroby do sterowania działaniem aktywnych wyrobów lub aktywnych wyrobów do implantacji lub do monitorowania tego działania, lub bezpośrednio na to działanie wpływające”. Wobec tego jednostka, która będzie kompetentna w zakresie AI, nie będzie mieć ograniczeń w tych kodach. W przypadku braku tych kompetencji, jednostka będzie mieć ograniczenie do wyrobów niezawierających AI. W sytuacji, gdy w Polsce przyjęte zostanie inne rozwiązanie organizacyjne (2 organy notyfikujące) uprawnienia polskich jednostki notyfikowanych w bazie NANDO (wykaz jednostek notyfikowanych w zakresie legislacji europejskich) będzie inaczej określone. Prezes Urzędu jako niewłaściwy w zakresie AI w wyrobach medycznych, będzie musiał wprowadzić ograniczenie w 6 tych kodach w opisie udzielonej notyfikacji na rozporządzenia 2017/745 lub 2017/746, a inny organ notyfikujący po uzyskaniu przez te jednostki notyfikacji w zakresie systemów AI poda tę notyfikację w odniesieniu do rozporządzenia 2024/1689. Będzie to wymagało dodatkowych wyjaśnień (wątpliwość – czy jest możliwe ich zapisanie w bazie NANDO), które będą trudne do zrozumienia przez przedsiębiorców. Dlatego niezbędne jest wnikliwe rozważenie, co przemawia za takim rozwiązaniem. Proponowane rozwiązanie budzi wątpliwości także co do skuteczności praktycznego wdrożenia projektowanych przepisów w zakresie nadzoru rynku. Zgodnie z art. 5. ust 1. proponowanej ustawy Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. Według przepisu członkami Komisji są przedstawiciele szeregu instytucji. Projekt przewiduje stworzenie Biura Komisji do wykonywania zadań w tym zakresie. Wobec tego do nadzoru wyrobów medycznych zawierających systemy AI będą uprawnione dwa podmioty – Komisja i Prezes Urzędu w swoim zakresie kompetencji. Będzie to rodzić szereg komplikacji, zwłaszcza że producent zapewne przygotuje jedną dokumentację oceny zgodności – zarówno z wymaganiami dotyczącymi bezpośrednio wyrobów medycznych, jak i z wymaganiami w zakresie systemów AI. Będzie to racjonalne działanie, ponieważ system AI będzie stanowił „silnik” wyrobu medycznego. Niezwykle trudna byłaby ocena działania wyrobu bez jednoczesnej oceny systemu AI, a także ocena samego systemu AI bez szczegółowej wiedzy na temat konkretnego wyrobu medycznego. W sytuacjach, gdy dokumentacja systemu AI będzie częścią dokumentacji zgodności wyrobu medycznego, pracownicy Biura Komisji mogą mieć trudności ze zrozumieniem specyfiki danego wyrobu medycznego. Możliwe też będzie uchylanie się przez podmioty przed kontrolą Prezesa Urzędu poprzez podważanie jego uprawnień do kontroli w zakresie działania systemu AI, który – będąc istotą działania wyrobu medycznego – musi podlegać ocenie Prezesa Urzędu w zakresie spełniania przez wyrób medyczny 7 określanego przewidzianego zastosowania. Takie zjawisko może występować zwłaszcza w sytuacjach, gdy oprogramowanie, mimo spełnienia definicji wyrobu medycznego, nie będzie za taki uznawane przez producenta, a podmiot będzie się uchylał od nałożonych na niego przez rozporządzenia 2017/745 i 2017/746 obowiązków. Ponadto definicja poważnego incydentu określona w rozporządzeniu 2017/745 i rozporządzeniu 2017/746 jest zbieżna z punktem a definicji incydentu podanej w rozporządzeniu 2024/1689. Spowoduje to zdublowanie raportowania (do Komisji i Prezesa Urzędu). Ponadto, zalecenia wydawane przez Prezesa Urzędu i Komisję dotyczące postępowania po poważnym incydencie mogą być rozbieżne. Niezbędne jest zatem w ocenie Urzędu wprowadzenie wprost w projektowanych przepisach ustawy zasady, że uprawnienia Komisji nie mają wpływu na uprawnienia innych organów nadzoru w zakresie możliwości oceny systemów AI stosowanych w poszczególnych produktach lub wyrobach albo w badaniach tych produktów lub wyrobów (tak jak chociażby w przypadku wyrobów medycznych). W przypadku przyjęcia odmiennego stanowiska, niezbędne będzie bowiem w świetle ww. wyjaśnienia co najmniej wypracowanie rozwiązań nadzoru łączonego. W tym miejscu należy zauważyć, że na wątpliwości systemowe związane z samą koncepcją ustanowienia nowej instytucji wyspecjalizowanej w sprawowaniu nadzoru nad sektorem sztucznej inteligencji zwróciła uwagę Kancelaria Prezesa Rady Ministrów w toku przeprowadzonych uzgodnień projektu ustawy. W uwadze tej wskazano, że nie można zgodzić się z twierdzeniem uzasadnienia, że w Polsce nie istnieje organ lub instytucja publiczna spełniająca wymogi określone w rozporządzeniu 2024/1689 w zakresie statusu prawnego i roli ustrojowej, gdyż podobnym charakterem odznaczają się m.in. Prezes UODO, Prezes UOKiK czy Prezes UKE. Tym samym wskazano, że ponownej analizy wymaga, czy zadań określonych dla organu nadzoru nad AI nie mogą wykonywać istniejące organy. Wskazano także na konieczność uzasadnienia, że utworzenie nowej instytucji będzie rozwiązaniem efektywniejszym i bardziej optymalnym niż przekazanie zadań organu nadzoru nad sektorem sztucznej 8 inteligencji jednemu z już istniejącym w polskim porządku prawnym organów regulacyjnych. Powyżej wyrażone wątpliwości pokrywają się w znacznej części z wątpliwościami przedstawionymi w niniejszym piśmie związanymi z oceną systemów AI stosowanych w wyrobach medycznych. Reasumując, Prezes Urzędu ponownie proponuje zorganizowanie spotkania w celu omówienia możliwości wdrożenia praktycznych rozwiązań, które zapewnią przewidywalność i skuteczność systemu. Wyroby medyczne są specyficzną grupą wyrobów, a wymagania im stawiane są bardzo wysokie i szczegółowo opisane w legislacji europejskiej. Rynek ten boryka się z szeregiem problemów, a regulacyjne obciążenie producentów jest znaczące. Jednocześnie są to wyroby, których znaczenie dla społeczeństwa jest kolosalne. Dlatego bardzo istotne jest, aby system regulacyjny był stworzony w taki sposób, by nie powodował nadmiernego obciążenia producentów. Jest wiele kwestii, które wymagają ustalenia, np. zasady wymiany informacji na poziomie krajowym i europejskim, w tym informacji wrażliwych (dokumentacja medyczna), postępowanie po wystąpieniu poważnego incydentu, postępowanie w przypadku konieczności aktualizacji oprogramowania i realizacji działań związanych z bezpieczeństwem wyrobów po wprowadzeniu do obrotu i używania. 5. Uwaga ogólna do całości Projektu IAB Polska Opis podstawowych uwag Stanowisko przedstawia kluczowe zastrzeżenia dotyczące projektu implementacji unijnego AI Act do prawa krajowego, wskazując na obszary wymagające rewizji w celu zapewnienia zgodności z regulacjami na poziomie UE. Szczególne obawy budzi szeroki zakres art. 42 dotyczący dostępu do treści klientów przechowywanych w chmurze, który potencjalnie mógłby naruszać ustalone zasady ochrony danych i umowy o poufności z klientami. Postanowienia Projektu dotyczące środków egzekwowania, szczególnie w art. 53, wykazują potencjalną niespójność z intencjami unijnego AI Act, podczas gdy proponowane sankcje karne w Rozdziale 9 wymagają ponownej Uwaga wyjaśniona Projekt został przeanalizowany pod kątem zgłoszonych uwag. Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. w art. 34 (poprzednio art. 42). Przepisy o kontroli zostały zaprojektowane w sposób umożliwiający przeprowadzenie kontroli pozwalającej na ustalenie jednoznacznych jej wyników przy jednoczesnym zapewnieniu naj najmniejszego obciążenia kontrolowanego oraz poszanowania tajemnic prawnie chronionych. 9 oceny, aby uniknąć tworzenia niepotrzebnych barier dla innowacji w dziedzinie AI. Dodatkowe obszary wymagające uwagi obejmują niewystarczające zabezpieczenia informacji chronionych, nieracjonalnie krótkie terminy na ustosunkowanie się do zastrzeżeń organów regulacyjnych oraz kwestie dotyczące zakresu terytorialnego, które mogą prowadzić do nakładania się jurysdykcji. Podejście projektu do odpowiedzialności indywidualnej oraz traktowanie modeli AI ogólnego przeznaczenia również wymaga wyjaśnienia w celu zapewnienia spójności z ramami na poziomie UE. Powyższe kwestie, jeśli nie zostaną rozwiązane, mogą prowadzić do niepewności regulacyjnej, potencjalnie utrudniając rozwój AI przy jednoczesnym naruszeniu standardów ochrony danych. Poniższa szczegółowa analiza przedstawia konkretne rekomendacje mające na celu lepsze dostosowanie prawa implementacyjnego zarówno do litery, jak i ducha unijnego AI Act. W kwestii długości terminów należy wskazać, że odstąpiono od wyznaczenia terminu na zgłoszenie poważnych incydentów pozostałe terminy zostały przewidziane w sposób zapewniający skuteczne stosowanie przepisów i nie odbiegają od terminów powszechnie stosowanych w ramach postępowań przed organami. 6. Uwaga ogólna do całości Projektu IAB Polska Ryzyko fragmentacji prawa UE Przepisy dają polskim władzom dużą swobodę w zakresie publikowania interpretacji AI Act (zob. art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13). Rodzi to poważne ryzyko fragmentacji prawa UE. Zakładając, że poszczególne organy ds. AI państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji AI Act, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na przyjęcie AI w całej UE. Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z AI Act i wytycznymi AI Office. Uwaga wyjaśniona Zgodność wytycznych krajowych z rozporządzeniem 2024/1689 oraz Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024.”. 7. Uwaga ogólna do IAB Polska Przegląd Projektu i usunięcie niepotrzebnych elementów W treści Projektu można zauważyć elementy, które są pozostałościami po poprzednim projekcie lub pracach Uwaga uwzględniona Nadano nowe brzmienie art. 39 ust. 2 pkt 1. 10 całości Projektu wewnętrznych Ministerstwa. Przykład: art. 47 ust. 2 pkt 1 kończy się sformułowaniem: w celu ich usunięcia nie i. 8. Szef Służby Cywilnej Moje wątpliwości nadal budzi propozycja organizacji Biura Komisji jako instytucji, w której nie funkcjonuje korpus służby cywilnej. Zasadą jest, że podległy Prezesowi Rady Ministrów korpus służby cywilnej funkcjonuje we wszystkich urzędach szeroko pojętej administracji rządowej, w tym przede wszystkim w nowotworzonych organach nadzorczych (tak jak np. w przypadku Urzędu Komunikacji Elektronicznej). Biuro Komisji ma zapewniać obsługę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji i Przewodniczącego tej Komisji. Komisja ta będzie zatem realizować m. in. zadania o charakterze urzędniczym (np. wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia2 oraz ustawy, udział w opracowywaniu i opiniowaniu aktów prawnych), a jej biuro będzie współrealizowało te zadania. Uzasadnione jest więc, aby wykonywały je osoby zatrudnione w korpusie służby cywilnej, wyłonione w drodze otwartego i konkurencyjnego naboru. Wprowadzenie tej zasady pozwoli na zastosowanie regulacji odnoszących się do zasad służby cywilnej i zasad etyki korpusu służby cywilnej, niezbędnych w przypadku instytucji porównywalnych do profilu nowotworzonego urzędu. Dodatkowo będzie to służyło także zagwarantowaniu niezależności, o której mowa w art. 70 rozporządzenia PE i Rady UE 2024/1689 z 13 czerwca 2024 r. Ponadto, w związku z tym, że Szef Służby Cywilnej jest centralnym organem administracji rządowej właściwym w sprawach służby cywilnej, proszę o uwzględnianie mnie na kolejnych etapach prac legislacyjnych. Projekt powinien być także skierowany do Rady Służby Publicznej, która wyraża opinie w sprawach projektów aktów normatywnych dotyczących służby cywilnej. Uwaga wyjaśniona Ze względu na konieczność prowadzenia działalności w sposób jak najbardziej przystający do charakterystyki dynamicznie zmieniającego się sektora technologii sztucznej inteligencji, jak również zważywszy na małą liczbę specjalistów w obszarach wymaganych do spełnienia wymogów rozporządzenia, intencją projektodawcy jest umożliwienie Biuru prowadzenie polityki kadrowej w sposób jak najbliższy praktyce rynkowej. Dodatkowo, przepisy realizujące wymóg niezależności pracowników Biura Komisji, na które słusznie wskazują podmioty zgłaszające uwagi są uregulowane bezpośrednio w przepisach projektu. 11 9. RMŚP Wątpliwości budzą przepisy ograniczające pierwszeństwo regulacji zawartych w ustawie z dnia 6 marca 2018 r. Prawo przedsiębiorców („Konstytucja Biznesu”), a które mają charakter gwarancyjny, w zakresie prowadzenia kontroli przedsiębiorców. Za równie istotne, dla skutecznej ochrony praw przedsiębiorców – konieczne jest powołanie w skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji także przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców. Należy zauważyć, iż racjonalne wytyczenie ograniczeń w zakresie kontroli jest uzasadnionym postulatem przedsiębiorców i wraz z wejściem w życie najpierw ustawy z dnia 2 lipca 2004 r. o swobodzie działalności gospodarczej7, a następnie ustawy Prawo przedsiębiorców – stało się trwałym i niekwestionowanym elementem istniejącego porządku gospodarczego oraz niezbędnym wsparciem dla przewidywalności prowadzenia działalności gospodarczej. Gwarancje praw przedsiębiorców w postępowaniach kontrolnych należy uznać za jedno z podstawowych praw przyznanych przedsiębiorcom. Podkreślenia wymaga, iż w myśl obowiązujących przepisów – zasady i tryb kontroli odmiennie niż w przepisach ustawy Prawo przedsiębiorców mogą wynikać jedynie z ratyfikowanych umów międzynarodowych albo bezpośrednio stosowanych przepisów prawa Unii Europejskiej. Art. 45 ust. 1 Prawa przedsiębiorców nie przewiduje wyjątków od ograniczeń kontroli przedsiębiorców zawartych w Rozdziale 5 tej ustawy. Przy czym projektowanie wzajemnie sprzecznych przepisów oraz ingerujących w podstawowe prawo przedsiębiorców do możliwości prowadzenia działalności gospodarczej w oparciu o jasne i stabilne uregulowania – może być uznane za systemowo wadliwe i nadmiernie godzące w zasadę swobody działalności gospodarczej wynikającej z art. 2 Prawa przedsiębiorców oraz art. 20 i 22 Konstytucji Rzeczypospolitej Polskiej.8 Warto w powyższym kontekście zwrócić uwagę, iż ograniczenia w zakresie wszczynania i prowadzenia kontroli są jednym z najistotniejszych postulatów deregulacyjnych Rzecznika, Uwaga wyjaśniona i uwzględniona System kontroli uległ znaczącemu uproszczeniu po I etapie uzgodnień międzyresortowych, opiniowania i konsultacji publicznych realizujące zasadniczą część postulatów wyrażonych w uwadze. Po I etapie znacząco ograniczono uprawnienia kontrolujących wobec kontrolowanych. Kontrola ma być domyślnie sprawowana w sposób zdalny i będzie dotyczyć lokalizacji fizycznych jedynie w niezbędnych sytuacjach. W wyniku ponownej analizy proponowanego składu Komisji, projektodawca zdecydował się ograniczyć liczbę członków tejże do 4 obok Przewodniczącego i jego Zastępców. Przedstawiciela Rzecznika Małych i Średnich Przedsiębiorców będzie mógł uczestniczyć w pracach Komisji na zasadach określonych w art. 6 ust. 3. Ponadto zgodnie z art. 25 ust. 3 pkt 5 - Rzecznik Małych i Średnich Przedsiębiorców będzie uprawniony do wskazywania kandydatów do Społecznej Rady do spraw Sztucznej Inteligencji. 12 wyrażonym w stanowisku z dnia 12 lutego 2025 r.9 skierowanym do Prezesa Rady Ministrów i do wiadomości Wiceprezesa Rady Ministrów – Ministra Cyfryzacji. 10. Uwaga ogólna dotycząca innej formy piaskownic regulacyjny ch PARP Niezbędne jest stworzenie w Polsce środowiska testowego dla sztucznej inteligencji, które tworzyłoby i wspomagało kulturę eksperymentowania z rozwiązaniami sztucznej inteligencji i walidacji rezultatów tych eksperymentów. Jednocześnie funkcją projektowanego środowiska winna być analiza i walidowanie istniejących rozwiązań regulacyjnych w zakresie oceny w jakim stopniu stanowią one nieuzasadnioną barierę dla rozwoju innowacji oraz uwzględniają potrzebę rozwoju społeczeństwa informacyjnego przy zachowaniu warunków dla konkurencyjności przedsiębiorstw. Uzasadnieniem dla proponowanych zmian jest: • Ułatwienie testowania i rozwoju systemów AI poprzez ograniczenie nadmiernej regulacji i uproszczenie procesu zgłaszania, a w związku z tym zapewnienie uczestnictwa w piaskownicy regulacyjnej każdemu zainteresowanemu przedsiębiorcy, a nie tylko uwzględnionemu w procesie wydania decyzji administracyjnej. • Zmniejszenie barier administracyjnych w rozwoju sztucznej inteligencji w Polsce. Projektowana w projekcie ustawy instytucja decyzji administracyjnej nie tylko wydłuża proces rozwoju innowacji systemów sztucznej inteligencji, ale stanowi nadmierną barierę formalną naruszającą zasadę równości przedsiębiorstw i swobodę działalności gospodarczej. Jednocześnie podejście nadmiernego formalizmu wpisywałoby się ogólną tendencję deregulacją działalności gospodarczej, a również stanowiłoby wpisanie się we wnioski Raportu Mario Draghiego aby uczynić UE silną przez wsparcie i rozwój innowacji i zapewnić konkurencyjność europejskiej gospodarki. • Stworzenie warunków do samoregulacji rynku, przy jednoczesnym zapewnieniu nadzoru nad kluczowymi kwestiami bezpieczeństwa i etyki i zgodności z prawem. Proponowane podejście dostarczałoby dodatkowych korzyści do projektowanej ustawy w postaci: Uwaga uwzględniona Przepisy dotyczące piaskownic regulacyjnych zostały dodane do projektu ustawy w rozdziale 8 po I etapie uzgodnień, opiniowania i konsultacji publicznych realizując zasadniczą część postulatów wyrażonych w uwadze. 13 • Redukcji biurokracji: piaskownica działałaby na zasadzie zgłoszenia, a nie zgody administracyjnej wyrażanej w postaci decyzji administracyjnej. • Nastąpiłoby przyspieszenie wdrażania AI: Firmy nie czekają na decyzje urzędników. • Zachęcałoby w ten sposób wzmocnienie samoregulacji i zapewnienia przez firmy zgodność testów i prac rozwojowych z prawem, ale też nadchodzącym kodeksem dobrych praktyk opracowywanym przez środowisko innowatorów przy Komisji Europejskiej. • Jednocześnie proponowane rozwiązanie wspierałoby przejrzystość: gdyż organ administracji państwa interweniowałby tylko w wyjątkowych sytuacjach, a jednocześnie wspierałoby doskonalenie produktu lub usług dla celów ostatecznych testów. Mając to na uwadze proponuje się następujące zmiany w zakresie organizacji projektowanych piaskownic regulacyjnych, jak następuje poniżej (art. 3 pkt 15, art.5, art. 30, art. 31). 11. Uwaga ogólna - Brak konkretnych rozwiązań w projekcie, mających na celu wsparcie przedsiębior ców w obszarze wdrażania technologii AI zgodnie z obowiązują PARP Projekt ustawy w obecnej wersji koncentruje się głównie na aspektach regulacyjnych i nadzorczych, pomijając kwestie wsparcia dla mikro, małych i średnich przedsiębiorstw (MŚP) oraz startupów w procesie dostosowywania się do nowych wymogów prawnych. Wprowadzenie nowych regulacji może stanowić istotne obciążenie dla mniejszych podmiotów, które nie dysponują odpowiednimi zasobami na spełnienie wymagań administracyjnych i certyfikacyjnych. Art. 5 ust. 3 pkt 5 przewiduje wprawdzie współpracę Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z ministrem właściwym do spraw informatyzacji, jednak w projekcie brakuje konkretnych rozwiązań mających na celu wsparcie przedsiębiorców w obszarze wdrażania technologii AI zgodnie z obowiązującymi regulacjami. Warto rozważyć wprowadzenie dodatkowych mechanizmów, takich jak finansowanie certyfikacji systemów sztucznej inteligencji dla MŚP, preferencyjne warunki uczestnictwa w piaskownicach regulacyjnych, czy też ulgi Uwaga częściowo uwzględniona Postulaty zawarte w uwadze zostały częściowo uwzględnione w projekcie ustawy o systemach sztucznej inteligencji np. Poprzez przepis, że uczestnictwo mikro, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne (art. 75 ust. 4). 14 cymi regulacjami podatkowe dla firm inwestujących w rozwój zgodnych z prawem technologii AI. 12. Uwaga ogólna - Harmonizac ja certyfikacji systemów AI na poziomie UE PARP Projekt nie odnosi się do mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich. Brak tego elementu może prowadzić do sytuacji, w której przedsiębiorstwa będą musiały przechodzić wielokrotne procesy certyfikacyjne w różnych krajach, co znacząco zwiększy koszty i czas wdrażania nowych rozwiązań. Warto rozważyć wprowadzenie przepisów umożliwiających wzajemne uznawanie certyfikacji w ramach UE, co przyczyniłoby się do ograniczenia barier regulacyjnych i ułatwiłoby funkcjonowanie polskich przedsiębiorców na jednolitym rynku europejskim. Rozwiązaniem może być wprowadzenie mechanizmu uznawania decyzji certyfikacyjnych wydanych w innych państwach członkowskich UE oraz rozważenie stworzenia centralnej bazy danych decyzji certyfikacyjnych. Uwaga wyjaśniona Procedura wskazana w uwadze wynika wprost z rozdziału III rozporządzenia 2024/1689. 13. Uwaga ogólna - Mechanizm przeglądu skutecznośc i regulacji PARP W projekcie ustawy brakuje mechanizmu oceny skuteczności wprowadzonych regulacji po ich wejściu w życie (ewaluacja skutków wdrożenia regulacji po określonym czasie). Wprowadzenie nowych przepisów może generować nieprzewidziane skutki dla przedsiębiorstw, dlatego zasadnym byłoby wprowadzenie obowiązku przeprowadzenia przeglądu funkcjonowania regulacji po określonym czasie, np. po 12 lub 24 miesiącach. Pozwoliłoby to na analizę realnego wpływu ustawy na rynek oraz na ewentualne dostosowanie przepisów do dynamicznie zmieniających się warunków technologicznych i gospodarczych. Brak takiego mechanizmu może skutkować utrzymywaniem nieoptymalnych rozwiązań prawnych, które mogą negatywnie wpływać na innowacyjność i konkurencyjność polskich przedsiębiorstw w obszarze AI. Propozycją do rozważenia jest dodanie przepisu zobowiązującego Komisję do przeprowadzenia przeglądu skuteczności przepisów np. po 12-24 miesiącach od ich wejścia w życie, co umożliwi dostosowanie regulacji do realiów rynkowych. Uwaga wyjaśniona Zgodnie z Oceną Skutków Regulacji ewaluacja projektu ustawy będzie dokonywana w toku bieżących czynności wykonywanych przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ewaluacja projektu zapewniona jest przez realizacje przez właściwe organy obowiązków sprawozdawczych, które rozporządzenie 2024/1689 bezpośrednio nakłada na właściwe organy krajowe zarówno na poziomie europejskim jak i krajowym. Zgodnie z obowiązkiem określonym w rozporządzeniu 2024/1689 do dnia 2 sierpnia 2025 r. a następnie co dwa lata państwa członkowskie będą gromadziły i przekazywały Komisji Europejskiej sprawozdania z zakresu zasobów finansowych i osobowych właściwych organów 15 krajowych wraz z oceną ich odpowiedzialności. Jednocześnie w projekcie ustawy uregulowano kwestię przekazywania corocznie Prezesowi Rady Ministrów sprawozdania Komisji ze swojej działalności za rok poprzedni. 14. Uwaga ogólna ZPP Projekt ustawy o systemach sztucznej inteligencji, mający na celu wdrożenie krajowych mechanizmów nadzoru zgodnie z unijnymi ramami (AI Act), stanowi kluczowy instrument zarówno w zakresie ochrony praw podstawowych i bezpieczeństwa użytkowników, jak i wspierania rozwoju innowacyjnych rozwiązań technologicznych. Związek Przedsiębiorców i Pracodawców docenia intencję ustawodawcy, jednak wskazuje na potrzebę uzupełnienia i doprecyzowania niektórych przepisów, aby zapewnić klarowność procedur, eliminację konfliktów interesów oraz odpowiednią ochronę danych i tajemnic handlowych. Uwaga wyjaśniona i częściowo uwzględniona Postulaty zawarte w uwadze zostały wzięte pod uwagę w aktualnej wersji projektu ustawy o systemach sztucznej inteligencji. Wprowadzono liczne zmiany w ramach poszczególnych procedur regulowanych w projekcie mające na celu zapewnienie ich przejrzystości. 15. Uwaga ogólna PUODO Standard niezależności organu nadzorczego nie znalazł jednak pełnego odzwierciedlenia w przepisach projektowanej ustawy, z których nie wynika, że Prezes Urzędu Ochrony Danych Osobowych jest organem wyłącznie właściwym w sprawach ochrony danych osobowych przetwarzanych w ramach systemów sztucznej inteligencji i do niego wyłącznie należy podejmowanie decyzji z zakresu nadzoru nad takimi sprawami. W świetle projektu ustawy nadal nie jest jasny zakres kompetencji Prezesa Urzędu Ochrony Danych Osobowych w sprawach z zakresu przetwarzania danych osobowych, wynikających zarówno z przepisów aktu w sprawie sztucznej inteligencji (dalej również jako rozporządzenie 2024/1689 albo AI Act) oraz ogólnego rozporządzenia o ochronie danych (dalej również jako rozporządzenie 2016/679). Nie określono też w projekcie ustawy mechanizmu usuwania sporów kompetencyjnych w tym zakresie. Ponadto, w projekcie ustawy brak jest przepisów, z których wynika, że Prezes UODO sprawuje wyłączny nadzór nad systemami wysokiego ryzyka, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji na jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). 16 Projektodawca, odnosząc się do wcześniejszych uwag Prezesa UODO w sprawie m.in. braku przepisów dotyczących kompetencji krajowego organu nadzorczego wynikających wprost z rozporządzenia 2024/1689 (art. 74 ust. 8), wskazał wprawdzie, że: „Mając na względzie przepisy rozporządzenia 2024/1689 oraz kaskadowe terminy wchodzenia obowiązku ich stosowania kwestie te będą podlegały regulacji w ramach kolejnego projektu legislacyjnego (...)” i wyjaśnił, że: „Projekt ustawy na ma celu umożliwienie stosowania przepisów rozporządzenia 2024/1689, których obowiązek stosowania nastąpi 2 sierpnia 2025 r. Regulacje dotyczące systemów wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu ustawy” – to jednak nie określił żadnych dalszych szczegółów związanych z planowanym rozwiązaniem, zwłaszcza daty rozpoczęcia prac nad projektem czy podstawowych założeń, które umożliwiłyby Urzędowi Ochrony Danych Osobowych rozpoczęcie już na tym etapie prac przygotowawczych, które umożliwiłyby m.in. ocenę potrzeb przygotowań organizacyjnych, kadrowych oraz finansowych koniecznych dla realizacji planowanych do realizacji zadań Prezes UODO nie został też wskazany wśród organów ochrony praw podstawowych, o których mowa w art. 77 rozporządzenia 2024/16894. Proponowana treść projektu ustawy, przy nieuwzględnieniu przez projektodawcę części postulowanych przez organ nadzorczy zmian przepisów, uzasadnia potrzebę skierowania uwag organu w odniesieniu do poniższych kwestii, o których uwzględnienie uprzejmie wnoszę. Jednocześnie wyjaśnić należy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 16. Koncepcja nadzoru i współpracy Komisji Rozwoju i Bezpieczeńs twa PUODO Projektodawca w przepisach projektowanej ustawy określa m.in. organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia (art. 1 pkt 1 projektowanej ustawy) w zakresie objętym przepisami rozporządzenia 2024/1689 oraz postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 (art. 1 pkt 2 projektowanej ustawy), jak też sposób zgłaszania poważnych Uwaga wyjaśniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 17 Sztucznej Inteligencji z Prezesem Urzędu Ochrony Danych Osobowych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji (art. 1 pkt 4 projektowanej ustawy). Jednocześnie sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689, wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689 czy wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 (art. 9 pkt 1, 7 i 6 projektowanej ustawy) przyznaje się wyłącznej kompetencji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej zwaną Komisją), bez odniesienia się do spraw, które dotyczą również przetwarzania danych osobowych. Projektowany model krajowego nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia wymaga pogłębionej analizy z perspektywy wszelkich nadzorowanych obszarów regulowanych przepisami rozporządzenia 2024/1689 pod kątem spójności oraz jasności nadawanych norm kompetencyjnych, jak również kompleksowości proponowanej regulacji. Ponieważ większość systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, to niezwykle istotne jest prawidłowe ukształtowanie kompetencji nadzorczych także niezależnego organu ds. ochrony danych w egzekwowaniu przepisów aktu w sprawie sztucznej inteligencji i określenie w projektowanych przepisach ram sprawowanego przez niego nadzoru, obok właściwych organów krajowych powoływanych na mocy art. 70 rozporządzenia 2024/1689. Podkreślić należy, że unijne regulacje dotyczące ochrony danych osobowych stanowią podstawę dla nadzoru nad sprawami z zakresu przetwarzania danych osobowych w obszarze regulacji aktu w sprawie sztucznej inteligencji, zastrzegając wyłączność sprawowania nadzoru tej materii niezależnemu organowi nadzorczemu, tj. w przypadku Polski – Prezesowi UODO (art. 2 ust. 7 rozporządzenia 2024/1689)5. Jednocześnie, w projekcie ustawy niezaproponowanego mechanizmu usuwania sporów kompetencyjnych, w szczególności natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ. O którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 18 tzw. sporów pozytywnych, gdy zasadnie można będzie rozważać właściwość obu organów nadzorczych, Komisji i Prezesa UODO. Konieczne jest również wskazanie wyłącznej kompetencji krajowego organu nadzorczego wynikającej z art. 74 ust. 8 rozporządzenia 2024/1689, zgodnie z którym „...państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych...” w odniesieniu do wymienionych w załączniku III pkt 1 systemów AI wysokiego ryzyka w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 przedmiotowego rozporządzenia. Prawodawca unijny nie przewidział zatem dobrowolnego czy dowolnego ukształtowania kwestii sprawowania krajowego nadzoru w ww. obszarze. Tymczasem w przedstawionym projekcie nie kształtuje się kompetencji krajowego organu nadzorczego ds. ochrony danych wynikających wprost z aktu w sprawie sztucznej inteligencji w wyłącznym obszarze jego właściwości i wskazuje jedynie na obowiązek współpracy Komisji z Prezesem Urzędu Ochrony Danych Osobowych w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektowanej ustawy). W konsekwencji przepisami projektowanej ustawy nie zostały ustanowione gwarancje wyłącznego sprawowania nadzoru Prezesa UODO w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, ani nie został przewidziany nadzór Prezesa UODO nad systemami wysokiego ryzyka w zakresie wskazanym w akcie w sprawie sztucznej inteligencji, co sprawia, że projekt ustawy nie oddaje prawidłowo norm rozporządzenia 2024/1689 w kwestii statusu Prezesa UODO jako niezależnego organu nadzorczego i nie kształtuje w sposób całościowy modelu instytucjonalnego nadzoru nad sztuczną inteligencją. 19 Postuluję zatem, aby w przepisach projektowanej ustawy Prezes UODO został wskazany wprost jako organ sprawujący wyłączny nadzór w zakresie ochrony danych osobowych przetwarzanych przez systemy sztucznej inteligencji, w tym w zakresie spraw, o których mowa w art. 74 ust. 8 rozporządzenia 2024/1689. Konsekwentnie, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), szczególnie w zakresie wymiany informacji i doświadczeń. W opinii Prezesa UODO współpraca między tymi organami nie może być zawężona jedynie do spraw wymienionych (taksatywnie), o których mowa w art. 57 ust. 10 oraz art. 74 ust. 8 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 3 projektu ustawy). Powinna ona mieć miejsce zawsze w sytuacjach, gdy w ramach systemów sztucznej inteligencji będzie dochodziło do przetwarzania danych osobowych, który to pogląd ma swoje podstawy w orzecznictwie sądów europejskich (zob. w szczególności wyrok Trybunału Sprawiedliwości UE z 4 lipca 2023 r. w sprawie C-252/21 Meta Inc. przeciwko Bundeskartellamt, EU:C:2023:537). Zauważyć należy, że współpraca organów może dotyczyć różnych obszarów, zarówno postępowań skargowych, jak i naruszeń aktu w sprawie sztucznej inteligencji, zgłaszania poważnego incydentu oraz wielu innych sytuacji. Nie należy więc mocą projektowanych przepisów ograniczać współpracy ze strony Komisji jedynie do kwestii związanych z piaskownicą regulacyjną oraz spraw z art. 74 ust. 8 rozporządzenia 2024/1689. Zaznaczyć należy, że forma współpracy i wymiany informacji między organami w poszczególnych obszarach także wymaga dookreślenia. Zapewne Komisja do prowadzonych postępowań będzie potrzebowała określonych informacji od organu nadzorczego, natomiast w obecnym projekcie ustawy nie ma mowy o szczegółach dotyczących trybu, charakteru czy zakresu współpracy. Zwrócić 20 uwagę należy, że wątpliwości nie rozwiewa ogólnie sformułowana treść art. 113 projektu ustawy dotycząca zmiany ustawy z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781), w którym projektodawca wskazał na dodanie art. 59a w brzmieniu: „Prezes Urzędu współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji”. W opinii organu nadzorczego, współpraca wymaga doprecyzowania, także ze względu na ryzyko dualizmu rozstrzygnięć, na co Prezes UODO wskazuje w kolejnym punkcie uwag. Poza art. 74 ust. 8 oraz art. 77, które określają kompetencje organów nadzorczych, rozporządzenie 2024/1689 nie precyzuje ram, w jakich organy nadzorcze miałyby sprawować swoje kompetencje obok właściwych organów krajowych powołanych na mocy art. 70 rozporządzenia 2024/1689. Kwestie te zostały pozostawione państwom członkowskim, dlatego krajowe przepisy wdrażające wskazane rozporządzenie powinny je regulować. W konsekwencji przyjąć należy, że konieczne jest, aby ustawa precyzowała rolę organu nadzorczego ds. ochrony danych, mając na uwadze zapewnienie zachowania niezależności Prezesa UODO. W nowej wersji projektu ustawy przedstawiciel Prezesa Urzędu Ochrony Danych Osobowych został wyłączony ze składu Komisji (art. 6 ust. 1 i 2 projektu ustawy), co należy ocenić pozytywnie z uwagi na niezależny status organu nadzorczego ds. ochrony danych osobowych. Projektodawca podkreślił, że jest to częściowe uwzględnienie uwagi organu nadzorczego, wyjaśniając przy tym, że: „Kwestie niezależności organu ds. ochrony danych osobowych zostały rozstrzygnięte poprzez usunięcie ze stałego składu Członków Komisji Prezesa UODO. Niezależność samej Komisji gwarantować ma opisany w nowej wersji przepisów projektu mechanizm jego powołania przez Sejm za zgodą Senatu”. Jednocześnie, na podstawie art. 6 ust. 3 projektu ustawy, Przewodniczący Komisji może zaprosić do udziału w posiedzeniu wyłącznie z głosem doradczym upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 2, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu (pkt 1). 21 W ocenie Prezesa UODO, jego przedstawiciel powinien być wskazany jako zawsze (obligatoryjnie) biorący udział w posiedzeniach Komisji, w charakterze stałego obserwatora, co stanowiłoby wyraz poszanowania kompetencji nadzorczych niezależnego organu ds. ochrony danych. W ocenie organu nadzorczego niezbędne jest przy tym wprowadzenie do projektu ustawy przepisów związanych z udziałem przedstawiciela Prezesa UODO, z których będzie wynikać będzie, że udział ten dotyczy wszystkich spraw rozpatrywanych przez Komisję, których przedmiot obejmuje przetwarzanie danych osobowych. Ponadto przedstawiciel Prezesa UODO powinien mieć prawo do przedstawienia uzasadnionego stanowiska w sprawie rozpatrywanej przez Komisję. W celu opracowania uzasadnionego stanowiska w sprawie przedstawiciel Prezesa UODO powinien mieć zapewnione prawo do zwrócenia się do Komisji o udostępnienie dokumentów z akt sprawy w zakresie niezbędnym dla przedstawienia stanowiska. Merytorycznie uzasadnione pozycją organu nadzorczego do spraw ochrony danych osobowych jest, aby uzasadnione stanowisko jego przedstawiciela było brane przez Komisję pod uwagę przy wydawaniu decyzji administracyjnej rozstrzygającej sprawę co do jej istoty. Obligatoryjny udział przedstawiciela UODO w charakterze stałego obserwatora zapewni obu organom możliwość stałej współpracy w zakresie wymiany informacji i stanowisk niezbędnych do podjęcia rozstrzygnięcia sprawy przez Komisję, co niewątpliwie należy postrzegać jako korzyść dla obu organów oraz dla skuteczności i sprawności systemu nadzoru nad systemami sztucznej inteligencji w Polsce w całości. Stała współpraca w zakresie wymiany informacji będzie korzystna zarówno dla Komisji, jak i dla UODO, który mógłby wspierać Komisję jako niezależny ekspert z zakresu rozwiązań z obszaru ochrony danych osobowych. Wiedza ekspercka przekazywana przez organ nadzorczy może okazać się pomocna dla Komisji przy podejmowaniu rozstrzygnięć. Jednocześnie, realizując funkcję ekspercką Prezes UODO mógłby poprzez wyrażanie istotnego poglądu wzbogacić analizy czy stanowiska Komisji o niezwykle 22 ważny aspekt jakim jest ochrona danych osobowych, co z kolei mogłoby przyczynić się do sprawniejszego i bardziej optymalnego realizowania funkcji Komisji jako niezależnego organu w obszarze sztucznej inteligencji. W tym miejscu wskazać należy na dotychczasowy model współpracy pomiędzy organem nadzorczym a Komitetem Stałym Rady Ministrów do spraw Cyfryzacji, który przynosi korzyści obustronne. Prezes UODO wnosi do projektów informatycznych przygotowywanych w resorcie cyfryzacji wiedzę z obszaru ochrony danych osobowych, czerpiąc tym samym informacje z zakresu realizowanych projektów dla zapewnienia ich zgodności z prawem ochrony danych. Opracowanie przejrzystych mechanizmów współpracy pomiędzy Komisją w postulowanym kształcie przyczyni się do poszanowania niezależności obu organów i zagwarantowania standardów ochrony danych osobowych przy realizacji zadań Komisji nie niższych niż wynikające z ogólnego rozporządzenia o ochronie danych osobowych. Ryzkiem, jednakże dla ich zapewnienia jest wciąż brak wskazania Prezesa UODO w wykazie z art. 77 ust. 2 rozporządzenia 2024/1689, o co organ nadzorczy wciąż postuluje. 17. Brak wskazania Prezesa UODO jako organu praw podstawow ych PUODO Pomimo tego, że w oparciu o kryteria określone w treści art. 77 ust. 1 aktu w sprawie sztucznej inteligencji, Prezes Urzędu Ochrony Danych Osobowych jest organem właściwym z obszaru ochrony praw podstawowych w zakresie prawa do prywatności i ochrony danych osobowych nie został jako taki wskazany w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Brak takiego wskazania może pociągać za sobą istotne skutki prawne. W projektowanej ustawie wskazuje się na współpracę Komisji m.in. z Prezesem Urzędu Ochrony Danych Osobowych (art. 5 ust. 3 pkt 3 projektowanej ustawy) oraz organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 (art. 5 ust. 3 pkt 4 projektowanej ustawy). Z kolei Komisja wszczyna Uwaga wyjaśniona Prezesem Urzędu Ochrony Danych Osobowych został wskazany jako organ, którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Komunikat w tym zakresie znajduje się na stronie Ministerstwa Cyfryzacji. 23 postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 m.in. na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689 (art. 49 ust. 2 pkt 3 projektowanej ustawy), a także niezwłocznie informuje krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, jeśli stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych (art. 55 ust. 3 projektowanej ustawy). Brak decyzji w sprawie wskazania Prezesa UODO jako organu praw podstawowych wywołuje wątpliwość co do prawidłowego rozumienia przez ustawodawcę pojęcia „organu ochrony praw podstawowych” zgodnie z intencją art. 77 rozporządzenia 2024/1689. W tym kontekście powstaje potrzeba konsekwentnego i zgodnego z rozwiązaniami unijnymi określenia w projektowanym akcie uprawnień poszczególnych organów nadzoru w ww. obszarze, gdyż nadzór przestrzegania obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych obejmuje również nadzór nad ochroną danych osobowych. Z tych powodów ponownie uprzejmie wnoszę o uzupełnienie wykazu, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 i wskazanie w nim Prezesa Urzędu Ochrony Danych Osobowych jako organu uprawnionego w zakresie spraw określonych w art. 77 ust. 1 ww. rozporządzenia. 18. Ryzyko dualizmu rozstrzygnię ć PUODO Ze współpracą pomiędzy Komisją a organem nadzorczym ściśle powiązane są kwestie związane z ryzykiem dualizmu rozstrzygnięć, nakładaniem się kompetencji wynikających z obu unijnych regulacji, tj. rozporządzenia 2016/679 oraz z rozporządzenia 2024/1689, które nie zostały uregulowane mocą projektowanych przepisów. Uwagi organu nadzorczego w przedmiotowym zakresie nie zostały przez projektodawcę uwzględnione w obecnym projekcie ustawy. Projektodawca wskazał, że: „Zapewniając w porządku krajowym stosowanie aktów prawa unijnego dotyczących sztucznej inteligencji, projekt ustawy nie narusza uprawnień Prezesa UODO i jego wiodącej roli w zakresie ochrony danych osobowych. Projekt ustawy służy stosowaniu Uwaga wyjaśniona i częściowo uwzględniona Celem projektu jest zachowanie rozdziału kompetencji w zakresie spraw prowadzonych przez oba organy nadzoru. PUODO będzie właściwy z zakresie spraw wynikających z rozporządzenie 2016/679 natomiast KRiBSI w zakresie spraw wynikających z rozporządzenia 2024/1689. Wnosząc sprawę do PUODO lub KRIBSI lub innego organu podmioty powinny kierować się zakresem regulacji obowiązującego prawa UE oraz 24 rozporządzenia 2024/1689 które potwierdza, że dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane z poszanowaniem przepisów dotyczących danych osobowych. Dodatkowo, rozporządzenie przesądza o roli krajowych organów ds. ochrony danych, co jest odzwierciedlone w przepisach projektu”. Bezsprzeczne jest, że oba rozporządzenia unijne będą stosowane równolegle, a niektóre procesy/obowiązki z obu aktów mogą się „nakładać”, czy powtarzać. Organ nadzorczy ds. ochrony danych powinien być obligatoryjnie uwzględniany we wszystkich działaniach innych organów/podmiotów publicznych, które mają związek z ochroną danych (co także zostało potwierdzone we wskazanym powyżej wyroku TSUE w sprawie C-252/21). Stanowisko Prezesa UODO powinno być zatem uwzględniane we wszelkich sprawach dotyczących przetwarzania danych osobowych. Jak stanowi motyw 10 preambuły do rozporządzenia 2024/1689, jego celem nie jest wpływanie na stosowanie obowiązującego prawa Unii Europejskiej regulującego przetwarzanie danych osobowych, w tym na zadania i uprawnienia niezależnych organów nadzoru właściwych do monitorowania zgodności z tymi instrumentami. W zakresie, w jakim projektowanie, rozwój lub wykorzystywanie systemów sztucznej inteligencji wiąże się z przetwarzaniem danych osobowych, rozporządzenie 2024/1689 nie wpływa też na wynikające z prawa Unii Europejskiej lub prawa krajowego obowiązki w dziedzinie ochrony danych osobowych spoczywające na dostawcach i podmiotach stosujących systemy AI, którzy pełnią funkcję administratorów danych lub podmiotów przetwarzających. Stosownie do motywu 156 rozporządzenia 2024/1689, aby zapewnić odpowiednie i skuteczne egzekwowanie wymogów i obowiązków ustanowionych w rozporządzeniu, które należy do unijnego prawodawstwa harmonizacyjnego, pełne zastosowanie powinien mieć system nadzoru rynku i zgodności produktów ustanowiony rozporządzeniem (UE) 2019/1020. Organy nadzoru rynku wyznaczone zgodnie z niniejszym rozporządzeniem powinny mieć wszystkie uprawnienia w zakresie egzekwowania wymogów i ustaw regulujących zakres spraw rozpatrywanych przez poszczególne organy. Projektodawca zauważa potrzebę uzgodnienia i wypracowania zasad współpracy w zakresie pomiędzy obydwoma organami jak i innymi organami wskazanymi w ustawie w celu właściwej realizacji zadań leżących w ich kompetencji oraz zniwelowania występowania sporów kompetencyjnych. Określenie ich enumeratywnie w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. Mając powyższe na uwadze zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a innymi organami na tym etapie zapewnienia stosowania przepisów rozporządzenia wydaje się przedwczesne gdyż trudny jest do przewidzenia czy spory takie będą miały miejsce, rodzaj sporów oraz ich odziaływanie na poszczególne organy i sprawy. PUODO został wskazany w art. 6 ust. 4 jako jeden z organów mogących brać udział w posiedzeniach Komisji jako stały obserwator (organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689). Jednocześnie wyjaśniamy, że POUDO został wskazy w wykazie jako organ, o którym mowa w art. 77 ust. 1 rozporządzenia 2024/1689. Odnosząc się do kwestii wskazania SOKIK jako sądu właściwego dla sprawa z zakresu systemów sztucznej inteligencje i należy podkreślić, że do tego sądu będą trafiały środki zaskarżenia na decyzje i postanowienia wyłącznie Komisji 25 obowiązków ustanowione w rozporządzeniu oraz z rozporządzenia (UE) 2019/1020 i powinny wykonyać swoje uprawnienia i obowiązki w sposób niezależny, bezstronny i wolny od uprzedzeń. Chociaż większość systemów AI nie podlega szczególnym wymogom i obowiązkom na podstawie niniejszego rozporządzenia, organy nadzoru rynku mogą podejmować środki w odniesieniu do wszystkich systemów AI, jeżeli zgodnie z niniejszym rozporządzeniem stwarzają one ryzyko. Jednakże może dochodzić do sytuacji, w której zarówno właściwy organ krajowy (Prezes UODO), jak i organ nadzoru rynku (Komisja), będą miały kompetencje do działania w danej sprawie. Taka sytuacja będzie miała miejsce w związku z koniecznością przestrzegania wymogów wynikających przepisów rozporządzenia 2024/1689, np. art. 10 ust. 5, w którym jest mowa o warunkach przetwarzania danych osobowych w systemach wysokiego ryzyka; art. 26 dotyczącego wymogów w zakresie systemów wysokiego ryzyka; art. 47 ust. 1 traktującego o deklaracji zgodności czy art. 59 wskazującego na warunki przetwarzania danych osobowych w piaskownicach regulacyjnych. W motywie 140 preambuły do rozporządzenia 2024/1689 mowa jest z kolei o tym, że rozporządzenie powinno zapewniać dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie sztucznej inteligencji podstawę prawną do wykorzystywania danych osobowych zebranych w innych celach do rozwoju – w ramach piaskownicy regulacyjnej w zakresie AI – określonych systemów AI w interesie publicznym, tylko pod określonymi warunkami, zgodnie z art. 6 ust. 4 i art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679 i art. 5, 6 i 10 rozporządzenia (UE) 2018/1725 i nie naruszając przepisów art. 4 ust. 2 i art. 10 dyrektywy (UE) 2016/680. Nadal mają zastosowanie wszystkie pozostałe obowiązki administratorów danych i prawa osób, których dane dotyczą, wynikające z rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680. Konieczne jest więc zaproponowanie przez projektodawcę mechanizmu usuwania sporów kompetencyjnych między Komisją a wydawane w oparciu o rozporządzanie 2024/1689 oraz przepisy projektowanej ustawy. Nie przewiduje się aby trafiały tam wiec sprawy z zakresu ochrony danych osobowych, do których zastosowanie będą miały przepisy RODO. W zakresie zgłaszania poważnych incydentów należy wskazać, że przepisy projektowanej ustawy korespondują z przepisami rozporządzenia 2024/1689. Stanowią one ramę prawną w zakresie procedury oraz regulują kwestie przekazywania informacji o zaistniałym incydencie właściwym organom. Lista organów obejmuje m.in. Prezesa UKE, ministra ds. informatyzacji, PUODO, KNF oraz odpowiednie zespoły reagowania na incydenty komputerowe. Przepisy zostały zaprojektowane tak, aby nie nakładać nadmiernych obowiązków, zapewnić sprawność postepowania i dostęp do informacji z poszanowaniem przepisów odrębnych ustaw. Do wymierzania administracyjnych kar pieniężnych zastosowanie mają bezpośrednio przepisy rozporządzenia 2024/1689. Stąd też mając na uwadze treść art. 99 ust. 7 lit. c przy ustaleniu jej wysokości bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. Kary przyszłe nie są brane w tym pkt pod uwagę. W zakresie uwagi dot. art. 55. ust. 3. Na podstawie art. 55 ust. 3 (obecnie art. 47 ust. 3) jeśli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym zagrożeniu (nie o fakcie wszczęcia i prowadzenia postępowania) krajowe organy lub podmioty określone w wykazie, 26 innymi organami, przede wszystkim z zakresu spraw uregulowanych głównie w rozdziałach 4 i 6 projektu ustawy. Zwrócić w tym miejscu uwagę należy na wydaną przez Europejską Radę Ochrony Danych (EROD) opinię 28/2024, która odnosi się do kluczowych aspektów ochrony danych osobowych w kontekście rozwoju i wdrażania modeli sztucznej inteligencji. Zgodnie z ww. opinią o przetwarzaniu danych osobowych w modelach sztucznej inteligencji można mówić wówczas, gdy z modelu, przy użyciu środków, które można racjonalnie zastosować, będzie możliwe uzyskanie lub odtworzenie informacji pozwalających na zidentyfikowanie osoby fizycznej. W konsekwencji, zasadne jest, aby sprawy, w których przetwarzane są dane osobowe w systemach sztucznej inteligencji, przekazywane były zgodnie z właściwością do organu nadzorczego właściwego ds. ochrony danych osobowych, z zachowaniem obowiązku jego współpracy z organem nadzoru rynku w zakresie sztucznej inteligencji (tj. Komisją), w szczególnie w zakresie wymiany informacji i doświadczeń. Rozdział 4 projektu ustawy częściowo został zmodyfikowany, jednakże pozostawienie art. 50 ust. 4 projektu ustawy w obecnym brzmieniu jest sprzeczne z art. 5 ust. 3 pkt 3 projektu ustawy. Uzasadnienie projektu także nie odnosi się do przedmiotu współpracy, dlatego też pozostawienie art. 50 ust. 4 projektu wydaje się być niezgodne z art. 49 ust. 3 projektu ustawy. Tak jak to zostało wskazane powyżej, współpraca pomiędzy Komisją a Prezesem UODO wymaga rozszerzenia o zakres wszelkich spraw z obszaru ochrony danych osobowych, a nie ograniczania jej jedynie do spraw wskazanych w art. 5 ust. 3 pkt 3 projektu ustawy, w tym spraw należących do wyłącznej kompetencji organu nadzorczego ds. ochrony danych. Zgodnie z zasadą pewności prawa, legalizmu i praworządności konieczne jest określenie wprost w projektowanych przepisach mechanizmu współpracy pomiędzy Komisją a Prezesem UODO. Projektowane przepisy w obecnym kształcie mogą powodować wątpliwości interpretacyjne, a w konsekwencji potencjalne konflikty kompetencyjne w przedmiocie rozpatrywania spraw związanych z o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. Pozwoli to im na podjęcie działań wynikających z ich właściwości. Natomiast w kwestii wydania decyzji nie zawsze decyzja Komisji będzie miała przełożenie na właściwe organy krajowe państwa członkowskiego stąd tez powinny być przekazywane biorąc pod uwagę okoliczności danej sprawy. . Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. 27 przetwarzaniem danych osobowych, m.in. w sytuacji, gdy naruszenie aktu w sprawie sztucznej inteligencji będzie wymagało również rozpatrzenia naruszenia rozporządzenia 2016/679. W przypadku, gdy systemy sztucznej inteligencji będą przetwarzać dane osobowe, postępowanie takie musi odbywać się zgodnie z zasadami przetwarzania danych osobowych przewidzianymi w rozporządzeniu 2016/679. Projektodawca w obecnym projekcie ustawy – na co zwracał już uwagę Prezes UODO – nie wskazał, jakimi przesłankami powinien kierować się podmiot danych czy administrator kierując sprawę do Komisji i organu nadzorczego ds. ochrony danych. Tak skonstruowane przepisy rozdziału 4 będą powodowały szereg ryzyk, m.in. mogą doprowadzić do różnych ocen prawnych (wydawania różnych/rozbieżnych decyzji administracyjnych) w odniesieniu do tych samych stanów faktycznych. Projektodawca nie uwzględnił również uwagi Prezesa UODO dotyczącej art. 57 ust. 1 projektu ustawy, czyli dotyczącej sądu ochrony konkurencji i konsumentów. Ponownego zaakcentowania wymaga, że przekazanie do właściwości sądu ochrony konkurencji i konsumentów jednego rodzaju spraw w zakresie ochrony danych (spraw w obszarze systemów sztucznej inteligencji) może powodować rozbieżności w kształtowanych orzeczeniach. Rozstrzyganie spraw dotyczących systemów sztucznej inteligencji przez sąd wskazany w art. 57 projektu ustawy oraz spraw z zakresu ochrony danych osobowych przez sąd administracyjny może doprowadzić do różnych ocen prawnych tych samych stanów faktycznych, co w konsekwencji może prowadzić do powstania niepewności prawnej. Respektując w pełni uprawnienie projektodawcy do wyboru takiego, a nie innego rozwiązania, Prezes UODO czuje się zobowiązany do zasygnalizowania przedmiotowego problemu, który być może powinien być przedyskutowany w szerszej perspektywie skuteczności nadzoru nad systemami sztucznej inteligencji, do czego organ nadzorczy wyraża niniejszym gotowość. 28 Projekt ustawy w rozdziale 6 dotyczy zgłaszania poważnych incydentów związanych z działaniem systemów sztucznej inteligencji. Uwagi Prezesa UODO, które nie zostały uwzględnione w tym zakresie, pozostają aktualne. Jednocześnie zwrócić uwagę należy na następujące kwestie. Z przepisów (art. 99 ust. 7 lit. c) rozporządzenia 2024/1689) wynika, że Komisja przy ustaleniu m.in. wysokości administracyjnej kary pieniężnej bierze pod uwagę, czy za to samo działanie lub zaniechanie operator otrzymał już karę pieniężną od innego organu nadzoru. W tym miejscu wskazać należy na wyraz „już”, który sugeruje, że okoliczność, w której inne organy jeszcze nie nałożyły, ale mogą nałożyć karę w przyszłości, nie będzie brana pod uwagę. Kolejnym aspektem jest okoliczność informowania o wydaniu decyzji. O prowadzeniu postępowania „krajowy organ” zostanie powiadomiony na podstawie art. 55 ust. 3 projektu ustawy. Jednak już o samej decyzji tylko w sytuacji „jeśli wymag ają tego okoliczności sprawy” (art. 55 ust. 6 projektu ustawy). Pojawia się zatem pytanie co należy rozumieć przez sformułowanie „okoliczności sprawy”. W ocenie organu nadzorczego należy ten zwrot doprecyzować. Podobnie, w zakresie przekazywania informacji w związku ze zgłaszanymi incydentami Komisji. Zgodnie z art. 80 ust. 1 projektu ustawy, Komisja udzieli Prezesowi UODO informacji o zgłoszeniu przez dostawcę poważnego incydentu „na wniosek”, „jeżeli wymagają tego okoliczności sprawy” w „zakresie niezbędnym do realizacji zadań, o których mowa w rozporządzeniu 2024/1689 oraz w ustawie”. Przepis ten wymaga ponownej analizy z uwagi na brak możliwości uprzedniego powzięcia przez Prezesa UODO informacji o zgłoszonym przez dostawcę incydencie, a tym samym złożenia przez niego wniosku o informację o dokonanym zgłoszeniu. Uregulowanie na poziomie niniejszej ustawy zasad współpracy Komisji z organami, w tym z Prezesem UODO jest – jak wynika to 29 z analizy poszczególnych przepisów – niezbędne. Przepisy ustawy w tym zakresie powinny być jasne i przejrzyste. Niezależnie od ostatecznego kształtu projektowanej ustawy dochodzenie praw osób, których dane dotyczą, czy zgłaszanie naruszeń będzie rozpatrywane zgodnie z przepisami rozporządzenia 2016/679. Po przeprowadzeniu analizy zagadnień, dotyczących przetwarzania danych osobowych, które mogą być brane pod uwagę przy dokonywaniu oceny przez organ właściwy w sprawach AI i równolegle Prezesa UODO, przykładowo wskazać należy na następujące kwestie. 1. Ocena ryzyka związanego z przetwarzanymi danymi Art. 35 rozporządzenia 2016/679 wprowadza obowiązek przeprowadzenia oceny skutków dla ochrony danych, natomiast art. 27 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek przeprowadzenia oceny skutków systemów sztucznej inteligencji wysokiego ryzyka dla praw podstawowych przed wdrożeniem systemu do obrotu. W sytuacji, gdy system sztucznej inteligencji będzie przetwarzał dane osobowe – zarówno ocena skutków dla ochrony danych wynikająca z art. 35 rozporządzenia 2016/679, jak i analiza ryzyka według rozporządzenia 2024/1689, mogą być wymagane, zatem Prezes UODO i Komisja będą mieć kompetencje nadzorcze. 2. Przejrzystość i informowanie Art. 12-14 rozporządzenia 2016/679 określają obowiązki administratora danych odnośnie do informacji przekazywanych osobom, których dane dotyczą. Natomiast art. 50 rozporządzenia 2024/1689 wymaga, aby użytkownicy byli informowani, że mają do czynienia z systemem AI, zwłaszcza w przypadku interakcji z chatbotami, czy generowanymi treściami. Powyższe może skutkować równoległym nadzorem Prezesa UODO i Komisji. 30 3. Prawa osób, których dane dotyczą Art. 15-22 rozporządzenia 2016/679 przyznają osobom, których dane dotyczą określone prawa. Natomiast art. 14 rozporządzenia 2024/1689 nakłada na dostawców systemów AI wysokiego ryzyka obowiązek zapewnienia nadzoru człowieka nad działaniem tych systemów, co ma na celu ochronę praw podstawowych użytkowników. W przypadku naruszenia powyższych praw przez system sztucznej inteligencji przetwarzający dane osobowe, zarówno Prezes UODO, jak i Komisja mogą być właściwe do podejmowania działań. 4. Profilowanie Należy również zwrócić szczególną uwagę na systemy AI wysokiego ryzyka, których obszary zostały zidentyfikowane w załączniku nr III do rozporządzenia 2024/1689 w kontekście wymogów prawnych tego rozporządzenia, w relacji do treści art. 22 rozporządzenia 2016/679 (zautomatyzowane podejmowanie decyzji w indywidualnych przypadkach, w tym profilowanie). 5. Cyberbezpieczeństwo Systemy wysokiego ryzyka, powinny odpowiadać wymogom w zakresie cyberbezpieczństwa, o których mowa w art. 15 ust. 4 rozporządzenia 2024/1689. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. W ust. 5 wskazuje się, że systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. 31 Jeśli źródło możliwego naruszenia atrybutów danych osobowych podlegających ochronie, będzie związane z działaniem systemu AI wysokiego ryzyka, wówczas mogą nałożyć się kompetencje Prezesa UODO w zakresie możliwości naruszenia art. 24, 25 i 32 rozporządzenia 2016/679 oraz Komisji z art. 15 rozporządzenia 2024/1689. 6. Zgłaszanie incydentów W art. 73 rozporządzenia 2024/1689 przewiduje się zgłaszanie poważnych incydentów. Nie można wykluczyć, że taki poważny incydent będzie stanowił również naruszenie ochrony danych osobowych i wyczerpywał przesłanki zgłoszenia wynikające z art. 33 rozporządzenia 2016/679. W efekcie, Prezes UODO także będzie mógł prowadzić swoje postępowanie wyjaśniające. Jak wynika z art. 73 ust. 7 rozporządzenia 2024/1689, po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c (naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 19. Art. 2 IAB Polska Usunięcie lub doprecyzowanie przepisu dot. GPAI Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli AI ogólnego przeznaczenia powoduje niepotrzebne zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów AI wysokiego ryzyka. AI Act stanowi, że AI Office/Komisja Europejska ma władzę regulacyjną nad modelami GPAI. Państwa członkowskie nie tworzą i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 20. Art. 2 IAB Polska Ryzyko zasięgu eksterytorialnego Niejasny jest zakres terytorialny w art. 2. Brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie 32 potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji, niejednoznaczne sformułowanie projektu dotyczące stosowania terytorialnego może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w AI Act. Aby ograniczyć to ryzyko, projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami AI Act w zakresie nadzoru transgranicznego. wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 21. Art. 2 Pracodawcy RP Treść art. 2 projektu budzi istotne wątpliwości interpretacyjne. Brak w nim bowiem wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce, co mogłoby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi, nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Niejednoznaczne sformułowanie projektu dot. stosowania terytorialnego może prowadzić również do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie o AI. W celu ograniczenia tego ryzyka, projekt powinien wyraźnie stwierdzać to, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce – co jest zgodne zarówno z polskim prawem gospodarczym, jak i ramami unijnej regulacji o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 22. Art. 2 ZPP W odniesieniu do modeli GPAI – ustawa nie powinna nakładać dodatkowych wymagań, które wykraczałyby poza ramy unijnego AI Act, ani rozszerzać jurysdykcji na podmioty zagraniczne. Konieczne jest precyzyjne określenie zakresu terytorialnego, ograniczając go do podmiotów mających siedzibę w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z odrębnych aktów prawnych. 33 23. Art. 2 Konfederacj a Lewiatan Wskazujemy na ryzyko zasięgu eksterytorialnego. Projekt powinien wyraźnie stwierdzać, że ma on zastosowanie wyłącznie do spółek z siedzibą w Polsce, co jest zgodne zarówno z polskim prawem gospodarczym, jak i Aktem o sztucznej inteligencji w zakresie nadzoru transgranicznego. Uzasadnienie: Pomimo pewnych ulepszeń w stosunku do poprzedniej wersji ustawy, nadal widzimy niejednoznaczne sformułowanie dotyczące stosowania terytorialnego co może prowadzić do nakładania się przepisów i potencjalnych konfliktów z mechanizmami współpracy transgranicznej określonymi w Akcie UE o sztucznej inteligencji. Niejasny zakres terytorialny w art. 2. tj. brak wyraźnego ograniczenia do podmiotów mających siedzibę w Polsce mógłby potencjalnie umożliwić polskim władzom sprawowanie jurysdykcji nad spółkami zagranicznymi nawet jeśli świadczą one usługi wyłącznie dla polskich klientów bez fizycznej obecności w Polsce. Uwaga wyjaśniona Zdaniem projektodawcy nie ma konieczności dookreślania przepisów ujętych w art. 2 w zakresie wskazanym w uwadze. Zakres jurysdykcji wynika z innych aktów prawnych. 24. Art. 2 ust. 2 Konfederacj a Lewiatan Stwierdzenie zawarte w art. 2 ust. 2 dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia (GPAI) powoduje zamieszanie i należy je usunąć lub doprecyzować, aby uniknąć łączenia wymogów dotyczących modeli GPAI i systemów sztucznej inteligencji wysokiego ryzyka. Uzasadnienie: Akt o AI stanowi, że Biuro AI/Komisja UE ma władzę regulacyjną nad modelami GPAI – państwa członkowskie nie mają takiej władzy i nie powinny tworzyć żadnych dodatkowych wymagań dla modeli GPAI na mocy przepisów wykonawczych. Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 25. Art. 2 ust. 2 Pracodawcy RP Niejasności budzi uwzględnienie w art. 2 ust. 2 projektu stwierdzenia dot. „modeli sztucznej inteligencji ogólnego przeznaczenia”. Apelujemy o usunięcie lub doprecyzowanie ww. kwestii, tak aby uniknąć niepotrzebnego łączenia wymagań dla modeli ogólnego przeznaczenia z wymogami dla systemów sztucznej inteligencji wysokiego ryzyka. Zgodnie z Aktem o AI, to Biuro ds. AI lub Komisja Europejska mają wyłączne prawo do regulacji modeli ogólnego przeznaczenia. Stąd też państwa członkowskie nie Uwaga wyjaśniona Przedmiotowy projekt ustawy służy stosowaniu rozporządzenia 2024/1689, i jako taki powinien być zgodny z jego zakresem przedmiotowym. Stąd w skazanie w art. 2 ust. 2 modeli ogólnego przeznaczenia należy uznać za zasadne. Nie służy ono tworzeniu dodatkowych wymagań dla modeli GPAI. 34 powinny wprowadzać dodatkowych wymagań dla tych modeli w ramach implementacji przepisów. 26. Art. 3 NCBR Niezbędne jest stworzenie słownika używanych w ustawie pojęć. Brak jasności w niektórych przepisach – niektóre pojęcia używane w ustawie są niejasne i mogą prowadzić do różnorodnych interpretacji, co może utrudniać ich stosowanie w praktyce. W art. 3 zamiast odwołania do rozporządzenia, powinny znaleźć się definicje rodzime, ujęte w języku polskim, aby uniknąć rozbieżności wynikających z różnych form tłumaczenia i interpretowania przepisów unijnych. Uwaga wyjaśniona Według projektodawcy konieczne jest utrzymanie terminologii określonej w Rozporządzeniu 2024/1689. Dlatego też nie jest planowane utworzenie “słownika”. 27. Art. 3 PARP W projekcie brakuje określenia precyzyjnych kryteriów klasyfikacji systemów AI wysokiego ryzyka. Projekt ustawy w art. 3 odwołuje się do definicji zawartych w rozporządzeniu 2024/1689, jednak nie precyzuje jednoznacznych wytycznych, które ułatwiłyby przedsiębiorcom określenie, czy ich rozwiązania podlegają surowszym regulacjom. Może to prowadzić do różnic w interpretacji i niepewności prawnej, co szczególnie dotknie MŚP oraz startupy działające w sektorze nowych technologii. Wskazane byłoby wprowadzenie szczegółowych wytycznych lub katalogu przykładów systemów AI wysokiego ryzyka, co pozwoliłoby na zwiększenie przewidywalności regulacji oraz ułatwienie przedsiębiorcom dostosowania się do obowiązujących przepisów. Uwaga wyjaśniona Kryteria dotyczące systemów wysokiego ryzyka zostały ujęte bezpośrednio w Rozporządzeniu 2024/1689. Dodatkowo, zgodnie z art. 6 ust. 5 Rozporządzenia 2024/1689 po konsultacji z Europejską Radą ds. Sztucznej Inteligencji, Komisja Europejska przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie artykułu 6 Rozporządzenia 2024/1689 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania 28. Art. 3 pkt. 15 PARP Zastąpić dotychczas projektowane brzmienie art. 3 pkt 15: „Piaskownica regulacyjna – wyznaczone środowisko testowe, w którym dostawcy systemów sztucznej inteligencji mogą przeprowadzać testy systemów AI pod nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, przed ich wprowadzeniem do obrotu.”. Nowym brzmieniem jak następuje: „Piaskownica regulacyjna – środowisko prawno-organizacyjno- techniczne umożliwiające dostawcom systemów sztucznej Uwaga wyjaśniona Projektodawca utrzymuje wskazane w art. 3 pkt 15 odesłanie do art. 3 pkt 55 rozporządzenia 2024/1689 w celu utrzymania zbieżności terminologicznej projektu ustawy z treścią Rozporządzenia 2024/1689. 35 inteligencji testowanie i rozwój systemów AI przed dopuszczeniem do obrotu na podstawie zgłoszenia, przy zapewnieniu wdrożeń minimalnych wymogów etycznych i bezpieczeństwa oraz pod ogólnym nadzorem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, bez konieczności uzyskiwania formalnej zgody administracyjnej.” 29. Art. 3 i 11 i 43 Pracodawcy RP Na uwagę zasługują także braki w zakresie obowiązków dostawców systemów AI (podstawa prawna art. 9-15, 43-49 AI Act, art. 3, 11, 43 projektu). Projekt nie precyzuje zakresu dokumentacji i procedur, jakie dostawcy systemów AI powinni wdrożyć przed wprowadzeniem systemu na rynek. AI Act nakłada na dostawców obowiązek: • oceny ryzyka związanego z systemami AI, • prowadzenia audytów i testów przed wdrożeniem systemu, • zapewnienia zgodności z wymogami przejrzystości i „wyjaśnialności”. Brak doprecyzowania w polskim akcie prawnym może prowadzić do sytuacji, w której dostawcy będą nieświadomie naruszać obowiązujące przepisy unijne, co narazi ich na odpowiedzialność administracyjną i finansową. Mając powyższe na uwadze, jesteśmy zdania, że należałoby doprecyzować obowiązki dostawców AI poprzez określenie wymogów dot. audytów, testów i raportowania zgodności systemów AI z przepisami. Uwaga wyjaśniona Przedmiotowy akt prawny ma na celu zapewnienie stosowania przepisów rozporządzenia 2024/1689. Nie stanowi może on prowadzić do modyfikacji ani doprecyzowania przepisów tego Aktu a jedynie stwarzać podstawy do jego właściwego stosowania. 30. Art. 4 ust. 4 URPL Na wstępie należy zauważyć, że mimo zmian dokonanych w przepisach art. 4 projektowanej ustawy, których intencją było uwzględnienie zarówno uwag Prezesa Urzędu zgłoszonych w ww. zakresie, jak i innych podmiotów uczestniczących w opiniowaniu projektu (jak wynika z dołączonej tabeli uwag zgłoszonych w ramach opiniowania), zaproponowane obecnie brzmienie przepisu art. 4 pkt 4 projektu ustawy nadal budzi wątpliwości. Zgodnie z art. 4 pkt 4 projektu: ustawy nie stosuje się do „badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, 1871 i 1897) w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w Uwaga wyjaśniona Przepis w obecnym brzmieniu został sformułowany w oparciu o zgłoszone w obu turach uzgodnień, opiniowania i konsultacji publicznych uwagi. Celem ustawy jest zapewnienie stosowania przepisów rozporządzenia 2024/1689 w systemie polskim. Należy wskazać, że terminologia aktów prawnych UE nie zawsze odpowiada terminologii aktów prawnych państw członkowskich. Zaproponowane brzmienie przepisu uwzględnia terminologię występującą w systemie prawa 36 art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689;”. Zgodnie z art. 2 ust. 6 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwanego dalej „rozporządzeniem 2024/1689”, „Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych.”. Zgodnie natomiast z art. 2 ust. 8 rozporządzenia 2024/1689 „Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych.”. W świetle powyższych przepisów nadal wątpliwości budzi sposób sformułowania wyłączenia zawartego w art. 4 pkt 4 projektu ustawy w zakresie, w jakim przepis ten nie wskazuje wprost – w sposób klarowny i czytelny, że przepisów projektowanej ustawy nie stosuje się do: - systemów AI i modeli AI rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6 rozporządzenia 2024/1689), a także do - działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku, z wyłączeniem testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689 (art. 2 ust. 8 rozporządzenia 02/1689). Tym samym, w ocenie Prezesa Urzędu przepis art. 4 pkt 4 projektu ustawy wymaga polskiego i zapewnia spójność z innymi aktami prawnymi. 37 niezbędnych korekt redakcyjnych celem zapewnienia jasności i spójności zarówno co do jego zakresu jak i późniejszej realizacji, zgodnej z przepisami rozporządzenia 2024/1689. 31. Ar. 4 ust. 5 URPL Dodatkowo należy zauważyć, że wyłączenie z zakresu zastosowania ustawy określone w art. 4 pkt 5 projektu dotyczące systemów wprowadzonych do użytku przed wejściem w życie rozporządzenia 2024/1689 powinno stanowić materię przepisów przejściowych zawartych w projektowanej ustawie – stosownie do § 30 ust. 1 rozporządzenia Prezesa Rady Ministrów z dnia 20 czerwca 2002 r. w sprawie „Zasad techniki prawodawczej”, o ile dodanie tego typu przepisu jest dopuszczalne w świetle przepisów rozporządzenia 2024/1689. W ocenie Urzędu przepis taki powinien odnosić się do terminu rozpoczęcia stosowania rozporządzenia 2024/1689, a nie do terminu jego wejścia w życie. Uwaga wyjaśniona Z uwagi na czytelność ustawy pozostawiono przepis w dotychczasowym miejscu. 32. Art. 5 PARP Zastąpić dotychczasowe brzmienie art. 5: „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji.” Nowy brzmieniem jak następuje: 1. „Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji sprawuje nadzór nad przestrzeganiem przepisów ustawy oraz pełni funkcję organu doradczego w zakresie stosowania piaskownic regulacyjnych.”. 2. „Komisja nie ingeruje w proces testowania systemów sztucznej inteligencji, o ile testowane rozwiązania są zgłaszane zgodnie z przepisami Art. 30 oraz spełniają minimalne wymogi bezpieczeństwa.”. Dodanie do art. 5 ust.3 punktu 14) w brzmieniu: „Polską Agencją Rozwoju Przedsiębiorczości – w zakresie tworzenia warunków rozwojowych dla systemów sztucznej inteligencji i wspierania konkurencyjności stosownie do ustawy z dnia 9 lutego 2020 r. (Dz. U. z 2024 r. poz. 419 i 1635)” Zgodnie z art. 4 ust. 1. Ustawy dziedzinowej PARP realizuje zadania państwa z zakresu rozwoju: 1) przedsiębiorczości; 2) innowacyjności, w tym postępu technologicznego; 3) Uwaga wyjaśniona Proponowane brzmienie przepisu art. 5 nie odzwierciedla intencji projektodawcy oraz przepisów rozporządzenia 2024/1689. Dodatkowo należy wskazać, że w ramach art. 5 ust. 3 zostali wskazania ministrowie w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie. PARP podlega ministrowi właściwemu do spraw rozwoju regionalnego i współpraca z KRIBSI może prowadzona za pośrednictwem tego ministra. Rozszerzenie katalogu podmiotów w art. 5 ust. 3 o PARP wydaje się w tym kontekście nadmiarowe. 38 umiędzynarodowienia gospodarki, w tym eksportu; 4) społeczeństwa informacyjnego; 5) rynku pracy i kapitału ludzkiego; 6) regionalnego. Jednocześnie na mocy ustawy o likwidacji Fundacji Platforma Przemysłu Przyszłości z dnia 19 listopada 2024 r. (Dz.U.2024.1823) i jej art.1 z dniem 1 stycznia 2025 r. zadania Platformy przejęła Polska Agencja Rozwoju Przedsiębiorczości, utworzona na podstawie ustawy z dnia 9 listopada 2000 r. o utworzeniu Polskiej Agencji Rozwoju Przedsiębiorczości. Jednym z zadań Fundacji Platforma Przemysłu Przyszłości było, a jest teraz zdaniem PARP Celem Fundacji Platforma Przemysłu Przyszłości, zwanej dalej \"Platformą\", jest działanie na rzecz wzrostu konkurencyjności przedsiębiorców poprzez wspieranie ich transformacji cyfrowej w zakresie procesów, produktów i modeli biznesowych, wykorzystujących najnowsze osiągnięcia z dziedziny automatyzacji, sztucznej inteligencji, technologii teleinformatycznych oraz komunikacji pomiędzy maszynami oraz człowiekiem a maszynami z uwzględnieniem odpowiedniego poziomu bezpieczeństwa tych rozwiązań. Stąd uzasadnione jest włączenie PARP do procesów współpracy z Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w zakresie projektowanej ustawy. 33. Rozdział 2 (art. 5 – art. 40) NCBR Brakuje przepisów umożliwiających podejmowanie decyzji w trybie pilnym, szczególnie w przypadku nagłych incydentów związanych z wykorzystaniem SSI. (W razie incydentu nie ma czasu na zwoływanie posiedzeń Komisji.) Uwaga uwzględniona. Tryb pilny wydawania decyzji został przewidziany w art. 47. 34. Art. 5 ust. 3 pkt 1 UKNF W ocenie Urzędu Komisji Nadzoru Finansowego (dalej również jako: „UKNF”) dopisek „i w ustawie” nie jest wystarczająco precyzyjny. Zasadnym jest jasne określenie w projekcie ustawy o systemach sztucznej inteligencji (dalej jako: „projekt ustawy” lub „projekt”) zakresu spraw, w zakresie których Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligncji (dalej również jako: „Komisja” lub „KRiBSI”) współpracuje z Komisją Nadzoru Finansowego (dalej również jako: „KNF”), tj. podobnie jak w przypadku innych podmiotów wskazanych w art. 5 ust. 3 projektu ustawy. Aktualnie w projekcie brak jest szczególnych przepisów Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami w zakresie spraw dotyczących systemów sztucznej inteligencji. W oparciu o wskazany przepis ustawy. Współpraca obejmować powinna również kwestię wzajemnej wymiany informacji z poszanowaniem przepisów RODO oraz tajemnic prawnie chronionych. 39 odnoszących się bezpośrednio do Komisji Nadzoru Finansowego. Nie jest więc wiadomym, na jakiej zasadzie współpraca pomiędzy Komisją a KNF powinna przebiegać oraz w odniesieniu do jakich zagadnień będzie miała miejsce. Ponadto, w związku z obowiązkiem współpracy pomiędzy KRiBSI a Komisją Nadzoru Finansowego, należy wprowadzić rozwiązanie umożliwiające wymianę informacji pomiędzy tymi organami, w tym informacji stanowiących tajemnicę prawnie chronioną, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań. Projektowane w art. 111 projektu ustawy brzmienie nowego art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (dalej: „ustawa o nadzorze nad rynkiem finansowym”), ograniczone do deklaratywnego stwierdzenia, że: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”, może w praktyce utrudniać, a czasem wręcz uniemożliwiać tę współpracę. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego „w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie”, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym w taki sposób aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Propozycję zmiany brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym UKNF przedstawił w uwadze do art. 111 projektu ustawy poniżej. Niezależnie od powyższego, UKNF ponownie wskazuje również, że z całokształtu projektu ustawy nie wynika jednoznacznie rola Komisji Nadzoru Finansowego w kontekście sprawowania nadzoru nad systemami sztucznej inteligencji (dalej jako: „systemy AI”) wysokiego ryzyka. Projekt – w aktualnym kształcie – nie przewiduje zmian zapewniających stosowanie art. 74 ust. 6 rozporządzenia Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się to jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną polskiemu prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. W zakresie uwagi do art. 17h ustawy z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym należy wskazać, że otrzymał on następujące brzmienie: „Art.17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Jednocześnie w zakresie uwag dotyczących systemów wysokiego ryzyka wyjaśniamy, że regulacje w tym zakresie zostaną objęte odrębnym aktem prawnym, nad którym prace rozpoczną się w 2025 r. I to tym aktem prawnym zostaną określone pozostałe organy nadzoru w zakresie sztucznej inteligencji oraz zostanie określona ich rola. 40 Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (dalej jako: „rozporządzenie 2024/1689”), tj. ustanawiających KNF organem nadzoru w zakresie dotyczącym systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe. W tym zakresie należy zauważyć, że zgodnie z art. 74 ust. 6 i 7 rozporządzenia 2024/1689, organem właściwym (organem nadzoru rynku) jest odpowiedni organ krajowy odpowiedzialny za nadzór finansowy nad instytucjami finansowymi podlegającymi przepisom prawa Unii Europejskiej dotyczącym usług finansowych, o ile państwo członkowskie, w drodze odstępstwa, nie wyznaczy innego odpowiedniego organu jako organu nadzoru rynku. Wprawdzie art. 5 ust. 1 projektu ustawy stwierdza, że KRiBSI jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji, jednak powstaje tu pewnego rodzaju kolizja z art. 74 ust. 6 rozporządzenia 2024/1689, a redakcja art. 5 ust. 3 pkt 1 projektu ustawy nie rozstrzyga tej kolizji w sposób dostateczny, zwłaszcza biorąc pod uwagę hierarchię źródeł prawa. Z tych względów w ocenie UKNF projekt ustawy powinien w sposób precyzyjny określać, czy do celów realizacji nadzoru nad systemami AI wysokiego ryzyka, o którym mowa w art. 74 ust. 6 rozporządzenia 2024/1689, zastosowanie znajdzie model opisany w tym przepisie, czy też nadzór ten, na zasadzie odstępstwa od ww. przepisu, będzie sprawowany przez inny odpowiedni organ. Przyjmując do wiadomości wyjaśnienia projektodawcy, iż regulacje dotyczące systemów AI wysokiego ryzyka będą przedmiotem regulacji w ramach kolejnego projektu legislacyjnego, co wynika z harmonogramu wdrożenia rozporządzenia 2024/1689 oraz konieczności stworzenia norm i standardów potrzebnych do kompleksowego uregulowania zastosowania systemów AI 41 wysokiego ryzyka, o których mowa w art. 6 rozporządzenia 2024/1689 (i które to obowiązki wchodzą w życie kolejno w sierpniu 2026 i 2027 r.), UKNF stoi na stanowisku, że już na etapie konstruowania fundamentalnych rozwiązań ustrojowych wskazanym jest jednoznaczne przesądzenie roli KNF w tym zakresie. 35. Art. 5 ust. 3 pkt 10 KRRiT Z aprobatą przyjmuję uwzględnienie w aktualnym projekcie ustawy postulatu KRRiT odnośnie dodania Krajowej Rady Radiofonii i Telewizji do kręgu podmiotów, z którymi współpracować ma ww. Komisja (art. 5 ust. 3 pkt 10 projektu). Jest to niezbędne do właściwego stosowania unijnego Aktu w sprawie sztucznej inteligencji na poziomie krajowym. Zaproponowany w tym zakresie przepis powinien jednak otrzymać następujące brzmienie, by w pełni korelować z przywołanym w nim art. 1a ust. 1 ustawy o radiofonii i telewizji: „10) Krajową Radą Radiofonii i Telewizji - w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222)”. Uwaga uwzględniona Zmieniono treść przepisu zgodnie z propozycją wskazaną w uwadze. 36. Art. 6 UOKiK Ponadto, wobec nieuwzględniania uwagi dotyczącej określenia w przepisach projektowanej ustawy zasad oraz instrumentów współpracy w ramach realizacji zadań przewidzianych tym projektem (Ad art. 6 projektu ustawy), ponownie dostrzegam brak podstaw prawnych do działania w przedmiotowym zakresie, co w konsekwencji uniemożliwi realizację przez organy współpracujące, w tym Prezesa UOKiK, obowiązków wynikających z projektu. Mając na uwadze powyższe, widząc potrzebę pogłębionej współpracy w zakresie uregulowania przyszłej współpracy z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, dalej deklaruję pełne zaangażowanie w zakresie przygotowania omawianej ustawy. Uwaga wyjaśniona Projektodawca zauważa potrzebę ustalenia i wypracowania zasad współpracy pomiędzy obydwoma organami. Określenie kazuistyczne zasad współpracy w projekcie ustawy wydaje się jednak na ten moment niemożliwe. Należy bowiem wskazać, że projekt reguluje materię dotychczas nieznaną prawu, podlegającą ciągłym i szybkim zmianom zmierzającym w niejednoznacznym do określenia kierunku. 42 37. Art. 6 ust. 2 ZPP Rozszerzyć skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli środowisk naukowych (uniwersytety, instytuty badawcze), organizacji zrzeszających przedsiębiorców (izby gospodarcze, stowarzyszenia branżowe) oraz ekspertów reprezentujących organizacje społeczne, co zapewni szeroką perspektywę i dostęp do najnowszych osiągnięć. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty z uwagi na charakter wykonywanych zadań. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 38. Art. 6 ust. 2 RPP Zgodnie z art. 6-8 ustawy z dnia 6 listopada 2008 r. o prawach pacjenta i Rzeczniku Praw Pacjenta (Dz.U. z 2024 r. poz. 581), pacjent ma prawo do świadczeń zdrowotnych. Zgodnie z art. 23 ustawy o prawach pacjenta i Rzeczniku Praw Pacjenta, pacjent ma prawo do dostępu do dokumentacji medycznej dotyczącej jego stanu zdrowia oraz udzielonych mu świadczeń zdrowotnych. Dane zawarte w dokumentacji medycznej podlegają ochronie określonej w niniejszej ustawie oraz w przepisach odrębnych. W kontekście przedmiotowych praw pacjenta, Rzecznik prowadzi m.in. postępowania wyjaśniające w sprawach indywidualnych jak również postępowania w sprawie naruszenia zbiorowych praw pacjentów (na wzór postępowań dotyczących ochrony konsumentów), a także działania systemowe. Obszar medycyny jest jednym z tych obszarów, w którym przewiduje się wzrost znaczenia sztucznej inteligencji m.in. w zakresie pozyskiwania i analizy danych zdrowotnych celem wykorzystania wyników takiej analizy przy udzielaniu świadczeń zdrowotnych, a także zastosowania technologii do udzielania świadczeń (np. w obszarze terapii, co może być dozwolone, jeśli nie stanowi zakazanej przez rozporządzenie tzw. praktyki polegającej na manipulacji lub wykorzystaniu). Dodatkowo, ważnym zagadnieniem będzie ochrona tajemnicy danych medycznych wykorzystywanych przy tej technologii, a także kwestia zgody na ich udostępnianie i przetwarzanie. Rzecznik Praw Pacjenta spodziewa się wzrostu zgłoszeń w tym temacie. Tym samym, przedstawiciel Rzecznika Praw Pacjenta powinien być stałym członkiem Komisji, analogicznie jak ma to miejsce Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Podmioty te będą mogły być jednak zapraszane w razie potrzeby na posiedzenia Komisji bez prawa głosu. Zagadnienie praw pacjenta, ochrony tajemnicy danych medycznych wykorzystywanych w ramach systemów sztucznej inteligencji, a także kwestia zgody na ich udostępnianie i przetwarzanie stanowi niewątpliwie istotne zagadnienie oparte na wiedzy specjalistycznej. Stad też, aby zabezpieczyć te kwestie Rzecznik Praw Pacjenta został wskazany jako organ uprawniony do zgłoszenia kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, będącego ciałem opiniodawczo-doradczym KRIBSI. 43 z przedstawicielem Rzecznika Praw Dziecka a także Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych, szczególnie iż Rzecznik Praw Pacjenta prowadzi postępowania administracyjne z obszaru ochrony praw jednostki. 39. Art. 6 ust. 2 RPD W przekazanych do Ministerstwa Cyfryzacji uwagach do projektu ustawy w brzmieniu z dnia 15 października 2024 r. Rzecznik Praw Dziecka wskazywał na ryzyko pojawienia się konfliktu interesów – zarówno o charakterze merytorycznym, jak i czasowym – wynikającego z powierzenia przedstawicielom organów państwowych zadań i kompetencji w ramach prac Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: „Komisja”) przewidzianej w projekcie. Przyjęta w projekcie koncepcja składu Komisji nadal budzi wątpliwości, ponieważ w jej przepisach nie usunięto problemu związanego z potencjalną kolizją zadań i kompetencji organów w niej uczestniczących. Mając na uwadze powyższe, Rzecznik Praw Dziecka postuluje o wykreślenie jego przedstawiciela z listy członków Komisji wymienionych w art. 6 ust. 2 projektowanej ustawy. W planowanym modelu działania Komisji i zakresie jej zadań obecność przedstawiciela Rzecznika byłaby nie do pogodzenia z ustrojową pozycją Rzecznika Praw Dziecka oraz z kompetencjami RPD wskazanymi w Konstytucji RP i ustawie z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Przede wszystkim Rzecznik Praw Dziecka, zgodnie z przywołaną ustawą i art. 72 Konstytucji RP jest organem konstytucyjnym, który stoi na straży praw dziecka określonych w Konstytucji RP, Konwencji o prawach dziecka oraz innych aktach prawnych, działając z poszanowaniem odpowiedzialności, praw i obowiązków rodziców. Tym samym Rzecznik Praw dziecka nie może być traktowany jako organ stanowiący część administracji rządowej czy samorządowej godnie z art. 7 ust. 1 ustawy z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka, w ramach wykonywania swoich zadań Rzecznik jest niezależny od innych organów państwowych i odpowiada wyłącznie przed Sejmem na zasadach określonych w tej ustawie. Chociaż Uwaga uwzględniona Rzecznik Praw Dziecka został wyłączony ze składu Komisji. 44 ustawodawca nie przyznaje Rzecznikowi Praw Dziecka wprost atrybutu „niezawisłości” w znaczeniu stosowanym wobec sędziów, to celowościowa wykładnia przepisów ustawy o Rzeczniku Praw Dziecka prowadzi do wniosku, że przysługują mu analogiczne gwarancje, umożliwiające mu działanie w sposób zgodny z własnym sumieniem i wolny od nacisków zewnętrznych. Z tego względu przyznanie przedstawicielowi RPD funkcji członka Komisji, która wydaje decyzje administracyjne i postanowienia, rodzi istotne wątpliwości. Byłoby to sprzeczne z ustrojową rolą Rzecznika jako organu ochrony praw dziecka, gwarantowanej przez Konstytucję RP i ustawę z dnia 6 stycznia 2000 r. o Rzeczniku Praw Dziecka. Co więcej, decyzje administracyjne i postanowienia wydawane przez Komisję mogą stać się przedmiotem skarg kierowanych do Rzecznika Praw Dziecka w przypadku naruszenia praw dziecka w związku z rozstrzygnięciami dotyczącymi operatorów systemów sztucznej inteligencji. Czynne uczestnictwo przedstawiciela Rzecznika Praw Dziecka w codziennych pracach Komisji doprowadziłoby do sytuacji, w której Rzecznik oceniałby potencjalnie – działania podejmowane również przez swojego przedstawiciela. Godziłoby to bezpośrednio w zasadę niezależności RPD i byłoby też sprzeczne z obowiązkiem „bezstronności”, o którym mowa w ślubowaniu Rzecznika Praw Dziecka składanym przed Sejmem RP. Za wykreśleniem przedstawiciela RPD ze składu członków Komisji z powodu zaistnienia potencjalnego konfliktu interesu przemawia też to, że Rzecznik Praw Dziecka został w Polsce wyznaczony jako jeden z organów ochrony praw podstawowych w rozumieniu art. 77 rozporządzenia 2024/1689, z którym ma współpracować Komisja Wobec powyższego, w celu zachowania ustrojowej pozycji i niezależności Rzecznika Praw Dziecka oraz uniknięcia konfliktu interesów, zasadne jest wykreślenie przedstawiciela RPD ze składu Komisji, tj. z katalogu podmiotów wymienionych w art. 6 ust. 2 projektowanej ustawy. Nie budzi natomiast wątpliwości przyznanie na podstawie art. 25 projektowanej ustawy Rzecznikowi Praw Dziecka prawa do 45 zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji, która będzie pełniła funkcje opiniodawczo-doradcze na rzecz Komisji stanowiąc głos niezależnych ekspertów w przedmiocie technicznych, organizacyjnych, ekonomicznych oraz prawnych aspektów stosowania systemów sztucznej inteligencji. 40. Art. 6 ust. 2 IAB Polska Rozszerzenie składu Komisji o przedstawicieli środowisk akademickich, naukowych oraz podmiotów społeczeństwa obywatelskiego i sektora przemysłowego Komisja jako organ nadzorujący różne obszary zastosowania AI, powinna uwzględniać szeroką reprezentację interesariuszy, co przyczyni się do skuteczniejszego i bardziej zrównoważonego zarządzania tym obszarem. Włączenie przedstawicieli tych środowisk pozwoli na: 1. Lepszą reprezentację rynku – uwzględnienie głosu sektorów bezpośrednio dotkniętych regulacjami Komisji, co zapewni większą przejrzystość i akceptację jej działań. 2. Dostęp do wiedzy eksperckiej – zaangażowanie specjalistów z obszarów AI pozwoli na bardziej merytoryczne i innowacyjne podejście do regulacji oraz oceny ryzyka i skutków technologii. Takie rozwiązanie nie naruszy jej niezależności instytucjonalnej. Wręcz przeciwnie – udział niezależnych przedstawicieli społeczeństwa obywatelskiego ograniczy ryzyko wpływu zamkniętych grup interesów oraz pozwoli na uwzględnienie różnych perspektyw w procesie decyzyjnym. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 41. Art. 6 ust. 2 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz dołączenie do Komisji przedstawiciela Rzecznika Finansowego. Uwaga wyjaśniona W ramach członków Komisji został już zaproponowany przedstawiciel Komisji Nadzoru 46 Działania w zakresie podmiotów rynku finansowego są podejmowane, nie tylko przez organ nadzoru rynku, ale również przez Rzecznika Finansowego, w tym w szczególności w odniesieniu do bezpośredniego kontaktu ze sprawami indywidulanych klientów podmiotów rynku finansowego. Podstawowym celem Rzecznika Finansowego jest ochrona klientów podmiotów rynku finansowego i reprezentowanie ich interesów. W tym celu Rzecznik Finansowy wykorzystuje wszelkie dostępne narzędzia służące ich ochronie – tj. m.in. interwencje, poradnictwo, wydawanie istotnych poglądów czy inicjowanie oraz udział w postępowaniach sądowych. Stopień skomplikowania konstrukcji usług na rynku finansowym wymaga szerokiej i różnorodnej wiedzy oraz wpływu tych usług na życie jednostek, wobec przyjmowania przez nie często wieloletnich zobowiązań finansowych. Zważyć należy, że AI jest już w chwili obecnej powszechnie wykorzystywana przez podmioty rynku finansowego, takie jak banki czy zakłady ubezpieczeń, także - a może nawet przede wszystkim - w relacjach z klientami takich podmiotów. Wobec powyższego wykorzystanie sztucznej inteligencji odnosi się bezpośrednio do podmiotów, na straży których interesów stoi Rzecznik Finansowy. Postęp technologiczny zapewne wymusi coraz szersze stosowanie sztucznej inteligencji w relacjach z klientami podmiotów rynku finansowego, co z kolei oznacza, że Rzecznik Finansowy i jego biuro są żywotnie zainteresowani aktywnym udziałem w pracach Komisji i Rady, celem zabezpieczenia interesów klientów, którzy wchodzić będą w interakcje z systemami sztucznej inteligencji, wykorzystywanych przez podmioty rynku finansowego. Chatboty i wirtualni asystenci mogą być wykorzystywani do tworzenia spersonalizowanych porad finansowych lub rekomendacji uwzględniających historię finansową klienta. W tym kontekście nie można wykluczyć wykorzystywania przez systemy AI swoistych technik manipulacyjnych, które w efekcie mogłyby wpływać np. na decyzje w zakresie wysokości zaciągniętego zobowiązania. Systemy AI odgrywają również coraz ważniejszą rolę w procesach oceny ryzyka kredytowego czy ubezpieczeniowego. Stosowane przez Finansowego. Organ ten odznacza się wysokim stopniem niezależności oraz jest instytucją kluczową dla nadzoru nad sztuczną inteligencją. Nie znajduje uzasadnienia wskazanie w śród grona Członków Komisji dodatkowego podmiotu podejmującego działania w zakresie podmiotów rynku finansowego. Rzecznik Finansowy będzie mógł uczestniczyć w posiedzeniach Komisji beż prawa głosu. 47 podmioty rynku finansowego algorytmy uczenia maszynowego mogą analizować i aktualizować swoje modele oceny w oparciu o nowe dane i zmieniające się warunki dotyczące np. historii kredytowej klientów, poziomu zadłużenia, płynności finansowej oraz zmiennych makroekonomicznych. Systemy AI wchodzą obecnie coraz częściej w bezpośrednią interakcję z klientami podmiotów rynku finansowego. Systemy AI mogą być również wykorzystywane do obsługi reklamacji czy rozpatrywania roszczeń klientów podmiotów rynku finansowego. Sposób wprowadzanie w życie automatyzacji tych procesów ściśle wiąże się z rolą Rzecznika Finansowego, który reprezentuje interesy klientów podmiotów rynku finansowego. Dodatkowo reprezentacja Rzecznika Finansowego może dostarczyć Komisji niezbędnej perspektywy użytkowników końcowych tych technologii na rynku finansowym. Co równie istotne, wśród spraw, które klienci podmiotów rynku finansowego kierują do Rzecznika Finansowego, znajdują się już teraz te związane z AI. Zgodnie bowiem z art. 105a ust. 1a ustawy z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. U. z 2024 r. poz. 1646 z późn. zm.): Banki, inne instytucje ustawowo upoważnione do udzielania kredytów, instytucje pożyczkowe oraz podmioty, o których mowa w art. 59d ustawy z dnia 12 maja 2011 r. o kredycie konsumenckim, a także instytucje utworzone na podstawie art. 105 ust. 4, mogą w celu oceny zdolności kredytowej i analizy ryzyka kredytowego podejmować decyzje, opierając się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, danych osobowych - również stanowiących tajemnicę bankową - pod warunkiem zapewnienia osobie, której dotyczy decyzja podejmowana w sposób zautomatyzowany, prawa do otrzymania stosownych wyjaśnień co do podstaw podjętej decyzji, do uzyskania interwencji ludzkiej w celu podjęcia ponownej decyzji oraz do wyrażenia własnego stanowiska. Podobne uprawnienia osobie, wobec której podejmowane są decyzje w oparciu o wyłącznie zautomatyzowane przetwarzanie w celu dokonania oceny ryzyka ubezpieczeniowego oraz likwidacji szkody przyznaje art. 41 ust. 1a 48 ustawy z dnia 11 września 2015 r. o działalności ubezpieczeniowej i reasekuracyjnej (t.j. Dz. U. z 2024 r. poz. 838 z późn. zm.). Z kolei zgodnie z art. 86 ust. 1 rozporządzenia 2024/1689: Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. Tym samym, Rzecznik Finansowy mógłby zapewnić wydatne wzmocnienie kompetencji Komisji m.in. w zakresie ochrony praw klientów wprowadzanych przez rozporządzenie 2024/1689. W składzie Komisji nie uwzględniono bezpośrednich przedstawicieli ochrony klientów podmiotów rynku finansowego, co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad tym obszarem. W tym kontekście, Rzecznik Finansowy jako instytucja odpowiedzialna za wspieranie klientów podmiotów rynku finansowego, mógłby wesprzeć prace Komisji w zakresie zagrożeń systemów AI na rynku finansowym. Pozwoliłoby to lepiej zintegrować działania Komisji z wymogami regulacyjnymi. Brak udziału Rzecznika Finansowego w Komisji mógłby prowadzić do osłabienia zakresu ochrony praw klientów podmiotów rynku finansowego, którzy z każdym rokiem powierzają Rzecznikowi Finansowemu coraz więcej spraw dotyczących ich żywotnych interesów. Członkostwo Rzecznika Finansowego w Komisji może mieć wpływ na skuteczny nadzór nad funkcjonowaniem algorytmów, zapobieganie potencjalnym nadużyciom ze strony podmiotów rynku finansowego jak również może wesprzeć wdrażanie technologii sztucznej inteligencji w sposób przejrzysty, z poszanowaniem praw klientów pomiotów rynku finansowego. Jest to szczególnie ważne dla osób wykluczonych cyfrowo lub z innych 49 względów mających trudności na rynku finansowym, którzy mogą być szczególnie narażeni na nadużycia związane z działaniem algorytmów. Wprawdzie przepisy ujęte w przekazanej do ponownych konsultacji wersji projektu przewidują możliwość uczestnictwa w posiedzeniach Komisji przedstawiciela podmiotu publicznego, jednak wyłącznie z głosem doradczym (art. 6 ust. 3 pkt 1). Dodatkowo udział takich osób zależy od zaproszenia przez Przewodniczącego Komisji. Taki mechanizm może nie odpowiadać zakresowi odziaływania systemów AI w obszarze rynku finansowego i potencjalnie ograniczać realną możliwość odpowiedniej ochrony klientów podmiotów rynku finansowego w sprawach dotyczących regulacji systemów AI, których wyniki działania bezpośrednio ich dotyczą. Konsumenci na rynku finansowym należą do grupy podmiotów wrażliwych, mogących w szczególny sposób odczuć negatywny wpływ systemów AI na ich prawa i interesy. Dla zapewnienia ochrony praw klientów podmiotów rynku finansowego niewątpliwe znaczenie ma przymiot niezależności charakteryzujący instytucję Rzecznika Finansowego. Rzecznik Finansowy jest powoływany przez Prezesa Rady Ministrów i od momentu powołania działa w sposób całkowicie samodzielny. Rzecznik Finansowy znajduje się poza strukturą administracji rządowej, zaś swoją funkcję pełni kadencyjnie (zob. art. 12 ustawy z dnia 5 sierpnia 2015 r. o rozpatrywaniu reklamacji przez podmioty rynku finansowego, o Rzeczniku Finansowym i o Funduszu Edukacji Finansowej; dalej ustawa o Rzeczniku Finansowym). Podstawowym celem Rzecznika Finansowego jest zapewnienie ochrony praw i interesów klientów podmiotów rynku finansowego. Jest on tylko i aż gwarantem tego, że każdy obywatel pokrzywdzony wskutek działań podmiotów rynku finansowego będzie mógł otrzymać należną mu ochronę. Swoista rola instytucji Rzecznika Finansowego znajduje swoje odzwierciedlenie również w toku procesów legislacyjnych mających na celu zapewnienie stosowania regulacji unijnych w krajowym porządku prawnym w obszarze rynku finansowego. Jedynie jako 50 przykład można podać ustawę z dnia z dnia 20 grudnia 2024 r. o podmiotach obsługujących kredyty i nabywcach kredytów, która weszła w życie w dniu 19 lutego 2025 r. i która wdraża dyrektywę Parlamentu Europejskiego i Rady (UE) 2021/2167 z dnia 24 listopada 2021 r. w sprawie podmiotów obsługujących kredyty i nabywców kredytów oraz w sprawie zmiany dyrektyw 2008/48/WE i 2014/17/UE (Dz. Urz. UE L 438 z 08.12.2021, str. 1). Ustawa z dnia 20 grudnia 2024 r. wprowadza również zmiany w ustawie o Rzeczniku Finansowym i w tym zakresie zapewnia stosowanie regulacji unijnych w zakresie roli właściwych organów w procedurze rozpatrywania skarg kredytobiorców dotyczących nabywców kredytów, podmiotów obsługujących kredyty i dostawców usług obsługi kredytów (art. 24 ust. 3 ww. dyrektywy). W przypadkach, w których zastrzeżenia formułowane w reklamacjach przez kredytobiorców, będących osobami fizycznymi, wobec ww. podmiotów nie zostaną uwzględnione, kredytobiorca będzie miał możliwość złożenia wniosku o podjęcie interwencji przez Rzecznika Finansowego (czyli skargi). Ewentualna interwencja Rzecznika Finansowego będzie odbywać się na takich samych zasadach jak w przypadku działań dotyczących interwencji względem innych podmiotów rynku finansowego, w odniesieniu do których Rzecznik podejmuje działania już od wielu lat. 42. Art. 6 ust. 2 RMŚP W treści art. 6 ust. 2 Projektu wskazano, żw stałymi członkami Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będą przedstawiciele tylko niektórych organów ochrony prawa, w tym min. in.: Prezesa Urzędu Ochrony Konkurencji i Konsumentów oraz Państwowej Inspekcji Pracy. W takich okolicznościach, dla skutecznego urzeczywistnienia równowagi interesów partnerów społecznych, w skład Komisji powinien zostać włączony także przedstawiciel Rzecznika Małych i Średnich Przedsiębiorców, jako posiadający prawo głosu reprezentant środowiska przedsiębiorców. Postulat taki zgłaszany był również przez organizacje przedsiębiorców podczas dotychczasowych konsultacji Projektu. Realizacja postulatu wymaga: w art. 6 ust. 2: Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją. Rzecznika Małych i Średnich Przedsiębiorców nie spełnia w pełni kryterium przyjętego przez projektodawcę. Bedzie natomiast mógł uczestniczyć w posiedzeniach Komisji bez prawa głosu. 51 1. w pkt 7) in fine zastąpienia kropki średnikiem oraz 2. dodania do proponowanej treści art. 7 ust. 2 Projektu – pkt 8 w brzmieniu: „8) Rzecznika Małych i Średnich Przedsiębiorców.” Znaczenie oraz zasięg oddziaływania przedmiotu regulacji Projektu może dotyczyć nieograniczonego kręgu podmiotów z różnych sektorów niezależnie od ich wielkości, również mikroprzedsiębiorców, małych i średnich przedsiębiorców. Proponowana zmiana nie ma negatywnego wpływu na realizację celów Projektu i z przytoczonych względów powinna zostać uwzględniona. 43. Art. 6 ust. 2 UP RP Jednym z zadań Komisji będzie podejmowanie działań mających na celu monitorowanie innowacyjności w obszarze badań i stosowania systemów sztucznej inteligencji oraz działanie na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji. W tym zakresie zasadne może być podjęcie współpracy z Urzędem Patentowym. W związku z powyższym należałoby rozważyć, czy przedstawiciel Urzędu Patentowego nie powinien być członkiem Komisji, o której mowa w art. 6 ust. 2 projektu. Uwaga wyjaśniona Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. Urząd Patentowy nie spełnia wskazanych przesłanek. Nadzór nad działalnością Urzędu Patentowego sprawuje z ramienia Rady Ministrów minister właściwy do spraw gospodarki. 44. Art. 6 ust. 2 Konfederacj a Lewiatan Uwagi: Jeśli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji ma skutecznie nadzorować różnorodne obszary zastosowań sztucznej inteligencji i sprostać wyzwaniom związanym z jej dynamicznym rozwojem, konieczne jest rozszerzenie jej składu. Obecnie Komisja ma się składać wyłącznie z przedstawicieli różnych instytucji państwowych, co może ograniczać jej perspektywę i dostęp do specjalistycznej wiedzy. Dlatego też proponujemy, aby skład Komisji został poszerzony o przedstawicieli środowisk naukowych, takich jak uniwersytety, instytuty badawcze czy organizacje pozarządowe zajmujące się badaniami nad sztuczną inteligencją. Ich udział zapewniłby Komisji dostęp do najnowszych osiągnięć naukowych, innowacyjnych rozwiązań oraz umożliwiłby identyfikację potencjalnych zagrożeń i wyzwań związanych z rozwojem sztucznej inteligencji. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. Skład Komisji uwzględnia instytucje kluczowe dla nadzoru nad sztuczną inteligencją z wysokim poziomem niezależności. 52 Ponadto, istotne jest również włączenie do Komisji przedstawicieli organizacji zrzeszających przedsiębiorców, takich jak izby gospodarcze, stowarzyszenia branżowe czy związki pracodawców. Ich udział pozwoliłby na uwzględnienie perspektywy przedsiębiorców, praktycznych aspektów wdrażania sztucznej inteligencji w przedsiębiorstwach oraz ocenę wpływu regulacji na rozwój gospodarczy. Co więcej, stały skład Komisji budzi wątpliwości co do zasadności udziału np. Rzecznika Praw Dziecka przy jednoczesnym wykreśleniu RPO. Brak też zasadności udziału w Komisji Prezesa Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych - jaki bowiem procent systemów będzie dotyczył tej dziedziny. Rozszerzenie składu Komisji o przedstawicieli środowisk naukowych i przedsiębiorców przyczyni się do zwiększenia jej efektywności, umożliwi podejmowanie bardziej kompleksowych i zrównoważonych decyzji oraz zapewni legitymizację jej działań w oczach społeczeństwa. Udział w pracach Komisji przedstawicieli społecznych, takich jak eksperci, naukowcy czy przedstawiciele organizacji pozarządowych, nie będzie sprzeczny z celem Ministerstwa, jakim jest zapewnienie, aby Komisja pozostawała wolna od wpływu grup interesu. Przeciwnie – zwiększy to transparentność i legitymizację działań Komisji, zapewniając różnorodne perspektywy przy zachowaniu jej niezależności instytucjonalnej. Podsumowując, rozszerzenie składu Komisji o przedstawicieli środowisk naukowych, przedsiębiorców i społecznych jest niezbędne dla osiągnięcia celu, jakim jest uczynienie z Komisji nie tylko organu nadzorującego bezpieczeństwo sztucznej inteligencji, ale także wspierającego jej rozwój. Tylko poprzez zapewnienie zróżnicowanych perspektyw i dostęp do specjalistycznej wiedzy, Komisja będzie mogła skutecznie sprostać wyzwaniom związanym z rozwojem sztucznej inteligencji i zapewnić, że jej rozwój będzie służył dobru społeczeństwa. 53 45. Art. 6 ust. 2 pkt 6 GIP Projekt ustawy z dnia 15.10.2024 r. przewidywał, że przedstawiciele Państwowej Inspekcji Pracy mogą uczestniczyć w posiedzeniach Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej Komisja) bez prawa głosu. W projekcie z dnia 10.02.2025 r., przekazanym do ponownych uzgodnień wskazano, że przedstawiciel Państwowej Inspekcji Pracy ma być członkiem Komisji. Udział przedstawiciela Państwowej Inspekcji Pracy w pracach Komisji w charakterze jej członka budzi poważne zastrzeżenia, biorąc pod uwagę rolę i zakres działania Państwowej Inspekcji Pracy. Zgodnie z art. 1 ustawy z dnia 13 kwietnia 2007 r. o Państwowej Inspekcji Pracy (Dz. U. z 2024 r. poz. 1712) Państwowa Inspekcja Pracy jest organem powołanym do sprawowania nadzoru i kontroli przestrzegania prawa pracy, w szczególności przepisów i zasad bezpieczeństwa i higieny pracy, a także przepisów dotyczących legalności zatrudnienia i innej pracy zarobkowej w zakresie określonym w ustawie. Zakres zadań Komisji określony w art. 9 projektu nie mieści się w zakresie ustawowych zadań Państwowej Inspekcji Pracy. Należy podkreślić, że zgodnie z art. 3 Konwencji Nr 81 Międzynarodowej Organizacji Pracy dotyczącej inspekcji pracy w przemyśle i handlu: „Do zadań systemu inspekcji pracy będzie należało: (a) zapewnianie stosowania przepisów prawnych dotyczących warunków pracy i ochrony pracowników przy wykonywaniu ich zawodu (...), (b) dostarczanie informacji i porad technicznych pracodawcom i pracownikom (...), (c) zwracanie uwagi właściwej władzy na uchybienia lub nadużycia (...). Inspektorom pracy mogą być powierzane jakiekolwiek inne obowiązki tylko pod warunkiem, że nie będą przeszkadzać w skutecznym wykonywaniu ich zadań głównych ani w jakikolwiek sposób naruszać autorytetu i bezstronności, potrzebnych inspektorom w stosunkach z pracodawcami i pracownikami”. Nie budzi wątpliwości, że udział przedstawiciela Państwowej Inspekcji Pracy jako członka Komisji będącej organem nadzoru rynku w zakresie systemów sztucznej inteligencji, wykracza poza zakres działania inspekcji pracy określony ww. Konwencją. Uwaga uwzględniona Przedstawiciel Państwowej Inspekcji Pracy został wyłączony ze składu Komisji. Jednocześnie Główny Inspektor Pracy będzie miał możliwość zgłaszania kandydatów na członków Rady Społecznej przy Komisji (art. 25 ust. 3 pkt 6). 54 Przedstawiciel Państwowej Inspekcji Pracy jako organu nadzorującego i kontrolującego przestrzeganie prawa pracy nie może brać udziału w procesie wydawania decyzji przez inny organ. Stałoby to w sprzeczności z zasadą działania inspektorów pracy jako niezależnych organów, prowadzących postępowanie kontrolne i stosujących środki prawne na zasadach określonych w ustawie o Państwowej Inspekcji Pracy. Rozwiązanie zaproponowane w art. 6 ust. 2 pkt 6 projektu stoi również w sprzeczności z art. 79 ust. 2 rozporządzenia 2024/1689, który stanowi, że „W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie”. Przywołany przepis przewiduje współpracę organu nadzoru rynku i organu lub podmiotu, o których mowa w art. 77 ust. 1, akcentując jednocześnie odrębność ww. podmiotów. Państwowa Inspekcja Pracy została wskazana w wykazie organów lub podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji. Państwowa Inspekcja Pracy w obszarze swojej właściwości byłaby więc organem współpracującym z Komisją na zasadach określonych w art. 5 ust. 3 pkt 4 projektu ustawy w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych. Na rozdzielenie zadań Komisji i organów lub podmiotów określonych w wykazie wskazuje także treść art. 55 ust. 3 projektu ustawy, zgodnie z którym „Jeśli w toku 55 postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689”. Mając powyższe na uwadze, proponuję wyłączenie przedstawiciela Państwowej Inspekcji Pracy ze składu Komisji. 46. Art. 6 ust. 3 pkt 2 Konfederacj a Lewiatan Propozycja zmiany: 3. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: (...) 2) osoby posiadające wiedzę specjalistyczną biegłego w zakresie spraw będących przedmiotem posiedzenia. Uzasadnienie: Zapis nie daje gwarancji procesowych stronie postępowania przed Komisją. Pojęcie „osoba posiadająca wiedzę specjalistyczną\" - a nie zawiera jej ustawa Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a musza być one zagwarantowane choćby ze względu na konflikt interesów. Uwaga wyjaśniona Projektodawca celowo używa pojęcia szerszego “osoby posiadające wiedzę specjalistyczną” niż zaproponowany w uwadze “biegły”. Należy wskazać, że w obecnej sytuacji istnieje niewielka liczba biegłych posiadających wiedzę z szerokiego zakresu systemów sztucznej inteligencji. Angażowanie biegłych do wypowiadania się w sprawach będących przedmiotem posiedzenia nie znajduje uzasadnienia i maiłoby negatywne przełożenie na terminowość spraw prowadzonych np. przed sadem gdzie obecność biegłego jest uzasadniana i wymagana prawem. Wiedza jaka jest niezbędna na etapie posiedzeń Komisji często jest skupiona w rękach specjalistów, praktyków stąd też terminologia zastosowana w przedmiotowym przepisie. 47. Art. 6 ust. 4 Konfederacj a Lewiatan Brak wynagrodzenia dla członków Komisji może znacząco wpłynąć na jej wydajność i efektywność, szczególnie biorąc pod uwagę rosnącą liczbę obowiązków i złożoność zagadnień wynikających z dynamicznego rozwoju rynku sztucznej inteligencji w Polsce. Komisja, aby sprostać tym wyzwaniom, musi angażować wysokiej klasy specjalistów, których wiedza i doświadczenie są niezbędne do podejmowania trafnych decyzji i skutecznego działania. Brak wynagrodzenia za pracę na rzecz Komisji może zniechęcić takich ekspertów do uczestnictwa w pracach Komisji, co może prowadzić Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 56 do obniżenia jakości jej pracy, a w konsekwencji do negatywnych skutków dla rozwoju sztucznej inteligencji w Polsce. Pozostawienie kwestii wynagrodzenia członków Komisji uznaniu instytucji delegujących może prowadzić do braku spójności i stabilności w funkcjonowaniu Komisji. Różne instytucje mogą mieć odmienne podejście do kwestii wynagrodzeń, co może powodować konflikty interesów i trudności w zapewnieniu odpowiedniego poziomu finansowania dla wszystkich członków Komisji. Może to również zagrażać niezależności Komisji, gdyż członkowie mogą być bardziej skłonni do reprezentowania interesów instytucji delegujących niż do podejmowania obiektywnych i niezależnych decyzji. Dlatego proponujemy wprowadzenie jasnych i transparentnych zasad wynagradzania członków Komisji, które zapewnią im godziwe wynagrodzenie za ich pracę, adekwatne do ich kwalifikacji, zaangażowania i odpowiedzialności. 48. Art. 6 ust. 4 IAB Polska Zapewnienie wynagrodzenia dla członków Komisji Brak wynagrodzenia dla członków Komisji może negatywnie wpłynąć na jej efektywność, zwłaszcza w kontekście rosnącego zakresu obowiązków wynikających z dynamicznego rozwoju rynku AI. Obecnie projektowane rozwiązanie, pozostawiające kwestię wynagrodzenia w gestii instytucji delegujących członków, nie zapewnia stabilności funkcjonowania Komisji ani odpowiedniej motywacji do zaangażowania w jej prace. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2 podmiotów. 49. Art. 6 ust. 4 ZPP Wprowadzić transparentne zasady wynagradzania członków Komisji, co przyczyni się do przyciągnięcia wysokiej klasy specjalistów oraz zwiększenia niezależności organu. Uwaga wyjaśniona Projektodawca nie przewiduje wynagrodzenia dla członków KRiBSI, którzy są przedstawicielami wskazanych w art. 6 ust. 2. podmiotów. 50. Art. 6 ust. 7 PUODO Art. 6 ust. 7 projektu ustawy: „Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej zapewniających komunikację w czasie rzeczywistym”. Przepis w obecnym brzmieniu wymaga Uwaga wyjaśniona Intencją jest zawarcie w ustawie jedynie przepisów niezbędnych oraz przeniesienia regulacji 57 doprecyzowania, bowiem projektodawca nie wskazał mechanizmów weryfikacji tożsamości uczestników posiedzenia Komisji (czy uwierzytelnianie następuje poprzez złożenie podpisu elektronicznego, profil zaufany czy inne środki techniczne). Ponadto, brak jest szczegółowych wymagań dotyczących ochrony poufności informacji i zabezpieczenia przed cyberatakami – nie wskazano, czy systemy teleinformatyczne powinny spełniać konkretne standardy, takie jak szyfrowanie end-to-end, a także jakie procedury kontroli dostępu powinny obowiązywać. Kolejną kwestią wymagającą dookreślenia jest sposób rejestrowania i archiwizacji posiedzeń – czy posiedzenia mogą być nagrywane, a jeśli tak, przez jaki okres materiały te będą przechowywane i kto miałby do nich dostęp. Wątpliwości budzi również sposób przeprowadzania głosowań w trybie zdalnym, szczególnie w kontekście zapewnienia tajności i ochrony danych. Przepis wskazuje na konieczność ochrony poufności informacji, lecz nie precyzuje, jakie techniczne środki powinny być stosowane – np. dedykowane systemy do głosowań, podpisy elektroniczne czy mechanizmy audytowania bezpieczeństwa. dotyczących kwestii technicznych podustawowej. Jednocześnie wyjaśnić należy, że projektodawca nie przewiduje potrzeby i możliwości nagrywania posiedzeń Komisji. 51. art. 6, 26, 43 Pracodawcy RP Należy także zwrócić uwagę na nieprecyzyjne kompetencje Prezesa Urzędu Ochrony Danych Osobowych (UODO) w zakresie nadzoru nad AI (odstawa prawna: art. 62-70 AI Act, art. 6, 26, 43 projektu). Projekt przewiduje współpracę Komisji ds. AI z Prezesem UODO, jednak nie określa jego kompetencji w zakresie: • przeprowadzania audytów systemów AI pod kątem ochrony danych osobowych, • monitorowania zgodności systemów AI z RODO, • egzekwowania przepisów w przypadku naruszenia ochrony danych osobowych. Brak szczegółowych regulacji może prowadzić do sytuacji, w której UODO nie będzie miał faktycznych narzędzi do egzekwowania przestrzegania przepisów dotyczących ochrony danych osobowych w systemach AI, co może skutkować naruszeniami praw osób fizycznych. Wobec powyższego apelujemy o określenie kompetencji Uwaga wyjaśniona Projektodawca zauważa potrzebę współpracy obu organów - PUODO i KRIBSI. Wynika to z przenikania się przepisów rozporządzenia 2024/1689 oraz RODO w przedmiocie spraw dotyczących systemów sztucznej inteligencji. Wstępną podstawę do nawiązania współpracy daje obecnie art. 5 ust. 3 pkt 3 oraz art. 101 projektu ustawy. Kwestie kompetencji UODO dotyczą przepisów RODO i pozostają poza zakresem przedmiotu regulacji projektu ustawy. Dodatkowo w zakresie systemów wysokiego ryzyka, wyjaśniamy że kwestie te będą przedmiotem regulacji w ramach odrębnego procesu legislacyjnego. 58 Prezesa UODO w zakresie nadzoru nad AI, aby zapewnić skuteczność egzekwowania przepisów o ochronie danych. 52. Art. 7 NCBR Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (Komisja) – tryb powoływania, skład oraz kompetencje Komisji oraz jej Przewodniczącego mają zapewniać skuteczny nadzór nad SSI. Należy jednak zauważyć, że Komisja składa się głównie z przedstawicieli kluczowych instytucji publicznych szczebla administracji rządowej, zaś w składzie nie uwzględniono bezpośrednich przedstawicieli świata nauki i biznesu (B+R), co może ograniczać merytoryczne kompetencje Komisji w nadzorze nad procesami tworzenia SSI. Propozycja zmiany: w składzie Komisji obok przedstawicieli administracji publicznej powinni znajdować się eksperci dziedzinowi związani z rozwojem SSI. Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania składu KRiBSI o wskazane w uwadze podmioty. 53. Art. 7 ust. 3- 4 RPD Z uwagi na konieczność zagwarantowania dzieciom prawa do wyrażania swoich poglądów w sprawach ich dotyczących (art. 12 Konwencji o prawach dziecka, art. 24 Karty praw podstawowych UE), postuluję wprowadzenie do projektowanego art. 7 ust. 3 dodatkowej kategorii podmiotów zapraszanych do udziału w posiedzeniach Komisji z głosem doradczym: przedstawicieli organizacji dzieci i młodzieży (także tych o charakterze prywatnym, np. stowarzyszeń), w zakresie, w jakim przedmiot posiedzenia Komisji dotyczy spraw bezpośrednio wpływających na sytuację dzieci i młodzieży. Obecne brzmienie art. 7 ust. 3 ogranicza tę możliwość wyłącznie do przedstawicieli podmiotów publicznych innych niż członkowie Komisji lub osób z wiedzą specjalistyczną, tymczasem dzieci i młodzież, choć często nie posiadają fachowej wiedzy technicznej lub prawnej, są w wielu przypadkach bezpośrednimi odbiorcami rozwiązań SI (np. w edukacji), a zatem ich głos i doświadczenia stanowią niezbędne źródło informacji przy projektowaniu regulacji oraz przygotowywaniu kampanii informacyjnych dotyczących systemów sztucznej inteligencji. Ponadto, rekomenduję modyfikację art. 7 ust. 4, tak aby zwrot kosztów podróży i noclegów przysługiwał nie tylko za „udział w Uwaga wyjaśniona Projektowane przepisy umożliwiają udział w posiedzeniu Komisji szerokiej gamie podmiotów w tym podmiotów reprezentujących prawa dzieci. Mając na uwadze zakres przetwarzanych w ramach posiedzeń informacji zasadnym wydaje się pozostawienie takiego rozwiązania. Przepis art. 7 ust. 4 nie wymaga zmiany. 59 pracach Komisji”, lecz także za udział w jej posiedzeniach na zaproszenie Przewodniczącego. Pozwoli to uniknąć sytuacji, w której młodzi uczestnicy lub inne doraźnie zapraszane podmioty nie mogą w praktyce wziąć udziału w obradach z powodów finansowych. Wprowadzenie tych zmian: zapewni realne uwzględnienie głosu dzieci i młodzieży w procesie kształtowania i stosowania przepisów dotyczących systemów sztucznej inteligencji. 54. Art. 7 ust. 9 Konfederacj a Lewiatan Propozycja zmiany: W posiedzeniu, które dotyczy spraw, w których stroną jest organ, którego przedstawicielem jest członek Komisji, stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2024 r. poz. 572). O wyłączeniu członka Komisji z udziału w posiedzeniu postanawia Przewodniczący Komisji na wniosek Zastępcy Przewodniczącego, członka Komisji albo z urzędu. Uzasadnienie: Zapis jest niejasny - o jakie sytuacje chodzi? Czy chodzi o sprawy, które prowadzi inny organ wobec przedsiębiorcy czy w których organ jest podmiotem, wobec którego toczy się postępowanie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o odzwierciedlenie zasady, zgodnie z którą nikt nie może być sędzią we własnej sprawie. Zatem chodzi tu o sprawę przed Komisją, której wynik będzie bezpośrednio dotyczył członka Komisji. 55. Art. 9 ust. 5 Pracodawcy RP Projekt wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRibSi) w szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI w Polsce, co rodzi ryzyko fragmentacji prawa unijnego i różnych interpretacji. Propozycja: Wyraźne wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 56. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 Pracodawcy RP Stwierdzić należy, że część przepisów zawartych w projekcie (art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13) wyposaża Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (dalej: KRiBSI) w Uwaga wyjaśniona 60 ust. 1 i 2, art. 13 szeroką swobodę w zakresie ingerencji w stosowanie Ustawy i Aktu o AI w Polsce. Rodzi to w naszej ocenie poważne ryzyko fragmentacji prawa unijnego. Zakładając bowiem, że poszczególne organy państw członkowskich ds. sztucznej inteligencji będą miały podobne uprawnienia, istnieje ryzyko, że będzie to prowadzić do różnych interpretacji unijnej regulacji dot. sztucznej inteligencji, a w konsekwencji do odmiennego jej stosowania i egzekwowania. W efekcie czego doprowadzi to do stanu niepewności regulacyjnej, co przełoży się negatywnie na przyjęcie przepisów o sztucznej inteligencji na terenie Unii Europejskiej. Apelujemy więc o to, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 57. Art. 9 ust. 5, art. 10 ust. 1 i 2, art. 12 ust. 1 i 2, art. 13 Konfederacj a Lewiatan Propozycja zmiany: Sugerujemy, aby w przepisach krajowych wyraźnie wspomniano, że wszystkie wytyczne krajowe powinny być zgodne z Aktem UE o sztucznej inteligencji i wytycznymi Biura ds. AI. Uzasadnienie: Obecny projekt ustawy daje polskim władzom dużą swobodę w zakresie publikowania interpretacji Aktu o sztucznej inteligencji. Może to prowadzić do ryzyka fragmentacji prawa UE. Jeśli poszczególne organy ds. sztucznej inteligencji państw członkowskich będą miały podobne uprawnienia, będzie to prowadzić do różnych interpretacji Aktu, a w konsekwencji do odmiennego jej stosowania i egzekwowania. Doprowadzi to do stanu niepewności regulacyjnej, co negatywnie wpłynie na rozwój sztucznej inteligencji w całej UE. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 58. Art. 10 ust. 1 i 2 Pracodawcy RP Podobnie jak w art. 9 ust. 5, projekt daje KRiBSI zbyt dużą swobodę, co może prowadzić do niejednolitego stosowania regulacji w UE. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona. Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i 61 wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 59. Art. 11 ust. 1 Konfederacj a Lewiatan Aktualne brzmienie: Komisja może wydawać opinie indywidualne i wyjaśnienia mające istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji. Zapytanie: Co do opinii indywidulanych przewidziane są kolejne szczegółowe przepisy art.11 i 12 - co do wniosku, formy itd. Natomiast co do \"wyjaśnień\" nie ma żadnych zapisów precyzujących czy odróżniających je od opinii indywidualnych, w tym, czy wyjaśnienia dotyczą spraw indywidualnych, czy stosuje się do nich odpowiednio przepisy o opiniach, np. w zakresie formy i zawartości wniosku, opłaty itd., czym różnią się wyjaśnienia od opinii indywidualnych? Uwaga wyjaśniona Opinie indywidualne dotyczą konkretnego podmiotu i jego skonkretyzowanej sytuacji prawnej. Wydawane są zawsze na wniosek tego podmiotu. Wyjaśnienia dotyczą pewnego zagadnienia ogólnego. Mają na celu zapewnienie zapewnienia jednolitego stosowania przepisów rozporządzenia 2024/1689 oraz ustawy. Będą wydawane przez Komisję z urzędu lub na wniosek podmiotu. 60. Art. 11 ust. 2 Konfederacj a Lewiatan Propozycja zmiany: W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 1689/2024/1689 oraz wytyczne Komisji Europejskiej, o których mowa w art. 96 tego rozporządzenia. Uzasadnienie: Opinie nie mogą nie uwzględniać także wytycznych wydawanych na podstawie rozporządzenia. Uwaga wyjaśniona Wskazana w uzasadnieniu uwagi zasada wynika wprost z przepisów Unii Europejskiej. 61. Art. 12 PUODO Art. 12 projektu ustawy dotyczący wydawania przez Komisję opinii indywidualnych. Powstaje pytanie czy zakres tych opinii będzie obejmował także kwestie związane z danymi osobowymi. Uzasadnienie do projektu ustawy nie odnosi się do tego zagadnienia. Zauważyć należy, że wniosek o wydanie opinii, zgodnie z ust. 3 pkt 4 ww. przepisu, zawiera „numer PESEL, jeżeli wnioskodawcą jest osoba fizyczna (...)”, natomiast projektodawca nie uzasadnił niezbędności przetwarzania tej danej osobowej. Uwaga wyjaśniona Opinie indywidualne wydawane przez Komisję. Intencją projektodawcy jest aby opinie indywidualne Komisji dotyczyły obowiązków/praw wynikający ze stosowania rozporządzenia 2024/1689 oraz ustawy. Ich celem nie jest objęcie kwestii związanych z ochroną danych osobowych. Nie można wykluczyć jednak, 62 W świetle rozporządzenia 2016/679 identyfikator osoby musi być poddany szczególnej ochronie, w związku z czym należy stwarzać szczególne gwarancje wynikające z przepisów prawa, mając na względzie konieczność ich dostosowania do ww. rozporządzenia. Zgodnie z art. 87 rozporządzenia 2016/679 przetwarzanie „krajowego numeru identyfikacyjnego” (jakim jest numer PESEL) musi odbywać się z zachowaniem odpowiednich zabezpieczeń praw i wolności osoby, której dane dotyczą. To m.in. oznacza, że przetwarzanie identyfikatora osoby musi się odbywać z poszanowaniem zasady minimalizacji danych (art. 5 ust. 1 lit. c) rozporządzenia 2016/679. Projektodawca powinien, zważywszy na art. 87 rozporządzenia 2016/679 uzasadnić konieczność pozyskiwania numeru PESEL wnioskującego o wydanie opinii indywidualnej. aby opinia taka wskazywała na fakt przetwarzania przez podmiot/system sztucznej inteligencji danych osobowych oraz wskazania, że nie w tym zakresie podmiot obowiązany jest zachować zgodność z RODO a organem który będzie w tym zakresie właściwym jest PUODO. 62. Art. 12 ust. 1 i 2 Pracodawcy RP Projekt przyznaje KRibSi szerokie uprawnienia, co może skutkować różnicami w interpretacji i egzekwowaniu przepisów w różnych krajach UE. Propozycja: Wskazanie, że wytyczne krajowe muszą być zgodne z Aktem UE o AI i wytycznymi Biura ds. AI. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 oraz wytycznymi Biura ds. AI wynika wprost z prawa Unii Europejskiej. Dodatkowo należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 63. Art. 12 ust. 4 NCBR (Dot. opłaty za opinię indywidualną) Propozycja zmiany: zwolnić MŚP/mikroprzedsiębiorców z opłaty lub wprowadzić preferencyjną stawkę (np. 50 zł). Uzasadnienie: ułatwi to małym podmiotom uzyskanie interpretacji i dostosowanie się do przepisów. Uwaga wyjaśniona Kwota opłaty za wydanie opinii indywidualnej nie wynosi 150 zł. Wysokość opłaty nie stanowi bariery finansowej uniemożliwiającej wystąpienie o wydanie przedmiotowej opinii. 64. Art. 12 ust. 10 Konfederacj a Lewiatan Propozycja zmiany: Uwaga uwzględniona 63 10. Niewydanie opinii indywidualnej w terminie, o którym mowa w ust. 8 9 uznaje się za potwierdzenie stanowiska podmiotu, które przedstawił we wniosku o opinię indywidualną. Uzasadnienie: Błędna numeracja odniesienia. Zmieniono przepis w zakresie odwołania się do właściwego ustępu. 65. Art. 12 ust. 15 IAB Polska Wprowadzenie przepisu jasno wskazującego, że wnioskodawca nie ponosi negatywnych konsekwencji, jeśli nie miał wiedzy o toczącym się postępowaniu w momencie składania wniosku. Projektowane przepisy nie gwarantują wprost, że wnioskodawca nie poniesie negatywnych konsekwencji za przedstawienie stanu faktycznego, jeśli nie wiedział, że jest on przedmiotem toczącego się postępowania. Brak tej ochrony może zniechęcać podmioty do składania wniosków i ograniczać skuteczność procedury wydawania opinii indywidualnych. Ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnej weryfikacji, czy stan faktyczny objęty wnioskiem jest przedmiotem jakiegokolwiek postępowania przed organami publicznymi lub sądami, jeżeli nie otrzymał on żadnej wiarygodnej informacji w tym zakresie (np. pisma odpowiedniego organu lub sądu). Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 66. Art. 12 ust. 13 - 15 Konfederacj a Lewiatan Projektowana ustawa powinna zawierać jednoznaczne stwierdzenie, że wnioskodawca nie poniesie żadnych negatywnych konsekwencji za złożenie oświadczenia, że dany stan faktyczny nie jest objęty toczącym się postępowaniem, o ile wnioskodawca nie miał wiedzy o takim postępowaniu w momencie składania wniosku, przy założeniu, że stan faktyczny rzeczywiście nie jest przedmiotem toczącego się postępowania. Ustawodawca powinien wziąć pod uwagę, że wnioskodawca może nie mieć możliwości uzyskania takiej informacji, zwłaszcza jeżeli stosowne zawiadomienia nie zostały jeszcze oficjalnie przekazane lub opublikowane. W związku z powyższym, ustawa nie powinna nakładać na wnioskodawcę obowiązku aktywnego sprawdzania czy elementy stanu faktycznego są przedmiotem jakiegokolwiek toczącego się Uwaga wyjaśniona Projektodawca utrzymuje obecną treść przepisu. Zgodnie z art. 12 ust. 14. Podmiot, o którym mowa w ust. 1, występując z wnioskiem o wydanie opinii indywidualnej, składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań, o których mowa w ust. 13, prowadzonych w stosunku do niego przed innymi organami i sądami. Zgodnie z ust. 15. W razie złożenia fałszywego oświadczenia, o którym mowa w ust. 14, opinia indywidualna nie wywołuje skutków prawnych. 64 postępowania przed złożeniem wniosku o wydanie opinii indywidualnej. Co więcej, ustawa powinna zawierać przepisy zabezpieczające wnioskodawcę przed negatywnymi konsekwencjami w przypadku, gdy oświadczenie o braku toczącego się postępowania okaże się nieprawdziwe z przyczyn leżących poza kontrolą wnioskodawcy, takich jak błędy administracyjne, opóźnienia w przekazywaniu informacji lub inne okoliczności, które uniemożliwiły wnioskodawcy uzyskanie rzetelnej informacji o toczącym się postępowaniu. Dodatkowe uregulowania w przedmiotowym zakresie nie są wymagane dla osiągniecia celu wskazanego w uwadze. 67. Art. 12 i art. 13 ZPP Procedury dotyczące wydawania opinii indywidualnych oraz ustalania opłat muszą być precyzyjnie określone, by zapewnić jasność i przewidywalność postępowania administracyjnego. Uregulować procedury dotyczące wydawania opinii indywidualnych oraz opłat z nimi związanych, zapewniając przejrzystość i jednoznaczność postępowania. Uwaga uwzględniona Procedura, o której mowa w uwadze została doprecyzowana w art. 12. 68. Art. 12, 13, 26 Pracodawcy RP Istotną kwestię stanowi także brak przejrzystości i mechanizmów wyjaśniania decyzji podejmowanych przez AI (podstawa prawna: art. 13, 52-55 AI Act, art. 12, 13, 26 projektu). Projekt nie wprowadza szczegółowych regulacji dot. obowiązku przejrzystości i wyjaśniania decyzji podejmowanych przez systemy AI. AI Act nakłada na dostawców i podmioty stosujące AI obowiązek: • informowania użytkowników końcowych o sposobie działania algorytmu, • testowania systemów AI pod kątem występowania uprzedzeń, • umożliwienia osobom fizycznym odwołania się od decyzji podjętych przez AI. Brak tych regulacji w projekcie może naruszać prawa osób fizycznych do rzetelnej informacji, a także prowadzić do sytuacji, w których użytkownicy nie będą mieli możliwości dochodzenia swoich praw w przypadku błędnych lub dyskryminujących decyzji podejmowanych przez AI. Mając powyższe na względzie, apelujemy o wprowadzenie mechanizmów transparentności AI, w tym prawa Uwaga wyjaśniona Projekt ustawy nie reguluje we wskazanych przepisach decyzji podejmowanych przez AI. 65 użytkownika do uzyskania wyjaśnień decyzji podejmowanych przez AI. 69. Art. 13 Pracodawcy RP Projekt daje KRibSi szeroką swobodę w ingerencji w stosowanie Ustawy i Aktu o AI, co może prowadzić do fragmentacji prawa unijnego. Propozycja: Zapewnienie zgodności wytycznych krajowych z unijnymi. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 70. Art. 13 Konfederacj a Lewiatan Propozycja brzmienia: Art. 13. Komisja, z urzędu lub na wniosek, może wydawać wyjaśnienia w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy, przy czym wyjaśnienia te nie mogą być sprzeczne z Wytycznymi i Opiniami Komisji Europejskiej. Uzasadnienie: Proponujemy, aby wyraźnie było wskazane, że wyjaśnienia Komisji w zakresie stosowania przepisów rozporządzenia 2024/1689 oraz ustawy nie mogą stać w sprzeczności z Wytycznymi i Opiniami Komisji Europejskiej. W związku z tym proponujemy następujące uzupełnienie treści art. 13. Uwaga wyjaśniona Zgodność wytycznych krajowych z Rozporządzeniem 2024/1689 wynika wprost z prawa Unii Europejskiej. Należy zauważyć, że art. 11 ust. 2 stanowi, że “W opiniach indywidualnych i wyjaśnieniach, o których mowa w ust. 1, uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689.”. 71. Art. 14 IAB Polska Dodanie przepisu umożliwiającego wnioskodawcom jednoznaczne oznaczenie informacji poufnych jako niepublicznych w momencie ich składania oraz zobowiązującego Komisję do uwzględnienia tego oznaczenia przy publikacji treści opinii i wyjaśnień Obecnie projektowane przepisy nie określają jednoznacznie zasad ochrony informacji poufnych, takich jak tajemnice przedsiębiorstwa, w kontekście opinii indywidualnych i wyjaśnień wydawanych przez Komisję. Wnioskodawcy powinni mieć zagwarantowaną możliwość oznaczania informacji, które nie powinny być publikowane, a brak Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli 66 takiego mechanizmu może prowadzić do niekontrolowanego ujawniania wrażliwych danych. zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 72. Art. 14 Konfederacj a Lewiatan Ustawa powinna zawierać jasne i jednoznaczne wytyczne dotyczące oznaczania przez wnioskodawców informacji nieprzeznaczonych do publikacji, takich jak tajemnice przedsiębiorstwa, dane osobowe czy informacje wrażliwe. Obecne przepisy nie precyzują, w jaki sposób identyfikować dane poufne w opiniach, wyjaśnieniach czy innych dokumentach składanych w ramach postępowania, co prowadzi do niepewności i ryzyka przypadkowego ujawnienia informacji zastrzeżonych. Aby zapewnić ochronę danych poufnych i zwiększyć pewność prawną wnioskodawców, konieczne jest wprowadzenie przepisu, który umożliwi im wyraźne oznaczenie poufnych informacji jako niepublicznych już w momencie ich składania. Taki przepis powinien określać: ● Sposób oznaczania informacji poufnych: np. poprzez wyraźne wskazanie w dokumencie, które fragmenty są objęte tajemnicą; ● Formę składania zastrzeżenia: np. poprzez dołączenie do wniosku oddzielnego pisma zawierającego zastrzeżenie poufności określonych informacji; ● Procedurę postępowania z informacjami poufnymi: np. określenie zasad dostępu do tych informacji przez organ rozpatrujący wniosek, sposób ich przechowywania i ochrony; ● Sankcje za naruszenie poufności: np. kary administracyjne lub odpowiedzialność karna za ujawnienie informacji zastrzeżonych; Wprowadzenie takich rozwiązań przyczyni się do zwiększenia zaufania do organów administracji publicznej, zapewni ochronę interesów wnioskodawców i przyczyni się do usprawnienia postępowań administracyjnych. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 73. Art. 14 oraz art. 22 ust. 5 ZPP Ustalić precyzyjne zasady oznaczania informacji poufnych, umożliwiając podmiotom kontrolowanym wskazanie danych nieprzeznaczonych do publikacji oraz ograniczyć dostęp do takich informacji wyłącznie do niezbędnego zakresu. Uwaga wyjaśniona Art. 14 zapewnia, że dane i informacje identyfikujące wnioskodawcę, jak również dane zawierających tajemnice prawnie chronione, w tym 67 tajemnice przedsiębiorstwa zostaną usunięte przed publikacją. Sposób oznaczenia przez wnioskodawcę informacji, które nie powinny być publikowane, powinien być jasny i zrozumiały. Nie powinien pozostawiać dowolności interpretacyjnej. Jeżeli zachodzą okoliczności określone innymi ustawami powinien sposób znakowania uwzględniać zasady określony w odrębnych przepisach. 74. Art. 15 PUODO Nowy przepis art. 15 dotyczący realizacji obowiązku sprawozdawczego przez Komisję w ust. 1 wskazuje, że: „Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej, Radzie Ministrów, Rzecznikowi Praw Obywatelskich, Prezesowi Urzędu Ochrony Danych Osobowych oraz Prokuratorowi Generalnemu sprawozdanie z działalności Komisji za rok poprzedni”. Ust. 2 poprzez zwrot „w szczególności” zawiera otwarty katalog informacji dotyczący ww. sprawozdania, co w ocenie organu nadzorczego powinno zostać doprecyzowanie poprzez domknięcie przedmiotowego katalogu informacji. Uwaga uwzględniona W przepisie domknięto katalog informacji dotyczący ww. Sprawozdania. 75. Art. 15 ust. 1 RPD W związku z postulatem wykreślenia przedstawiciela Rzecznika Praw Dziecka ze składu Członków Komisji, Rzecznika Praw Dziecka należy dodać w skład podmiotów, którym Przewodniczący składa Komisji sprawozdanie z działalności Komisji za rok poprzedni. Możliwość zapoznania się z działalnością Komisji ma bowiem istotne znaczenie dla Rzecznika Praw Dziecka z perspektywy monitorowania stanu przestrzegania praw dziecka przez organy publiczne w Polsce. Uwaga wyjaśniona Mając na uwadze, że Przewodniczący Komisji będzie powoływany przez Sejm RP za zgodą Senatu RP a Komisja będzie organem niezależnym w ustawie przesądzono, że wskazane w przedmiotowym przepisie sprawozdanie będzie przedstawiane Sejmowi RP. 76. Art. 16 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję spośród kandydatów wyłonionych w drodze otwartego i konkurencyjnego naboru. Uzasadnienie: Rekomendujemy przywrócenie wykreślonego zapisu o otwartym i konkurencyjnym naborze. Jeśli mają być w ten sposób wybierani Uwaga wyjaśniona Powołanie Przewodniczącego Komisji następuje przez Sejm na wniosek Senatu RP przywrócenie trybu konkurencyjnego wyboru kandydata wydaje się nieadekwatnym rozwiązaniem. 68 Zastępcy - co jest rekomendowane, także Przewodniczący powinien być osobą apolityczną, kompetentną wybraną w otwartym konkursie. 77. Art. 16 ust. 1 pkt 4) Konfederacj a Lewiatan Propozycja brzmienia: 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach na rzecz podmiotów wykonujących działalność w obszarach cyfryzacji; Uzasadnienie: Praca w podmiotach sugeruje zatrudnienie na umowie o pracę natomiast można świadczyć usługi/działalność na rzecz podmiotów z sektora cyfryzacji nie będąc w nich pracownikiem. Tym samym rekomendujemy zmianę sformułowania. Uwaga uwzględniona W przepisie użyto zwrotu “na rzecz podmiotów”. 78. Art. 16(2) IAB Polska Doprecyzowanie wymogów kwalifikacyjnych dla Przewodniczącego Komisji Obecne przepisy nie precyzują szczegółowych wymogów kwalifikacyjnych dla Przewodniczącego Komisji, co może prowadzić do niejasności w procesie jego wyboru. W celu zapewnienia właściwego poziomu kompetencji osoby pełniącej tę funkcję – Ministerstwo powinno w swoich oficjalnych komunikatach wskazywać kluczowe obszary wiedzy i umiejętności, które powinny być brane pod uwagę przez Parlament przy wyborze Przewodniczącego. Działanie to, choć niewiążące, mogłoby stanowić istotną wytyczną i przyczynić się do wyboru najlepszego kandydata, bez naruszania zasady podziału władzy. Uwaga wyjaśniona Przepisy dotyczące wymogów kwalifikacyjnych dla Przewodniczącego Komisji nie będą bardziej doprecyzowane. 79. Art. 18 ust. 6 Konfederacj a Lewiatan Przepis nie precyzuje spośród kogo wybierany jest zespół? Spośród pracowników Komisji? W jakim trybie są wybierane te osoby - kto weryfikuje ich kompetencje do tego zadania? Uwaga wyjaśniona W skład zespołu będą wchodziły osoby których wiedza i doświadczenie w zakresie sztucznej inteligencji lub prawa jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących 69 działalność w obszarze cyfryzacji dają rękojmię wyłonienia najlepszych kandydatów. Określanie szczegółowego trybu powoływania zespołu na poziomie ustawowym nie znajduje uzasadnienia. 80. Art. 20 ust. 1 UKNF Nowe brzmienie przepisu art. 20 ust. 1 projektu ustawy może rodzić wątpliwości interpretacyjne. Nie jest bowiem wiadomym, do której części przepisu odnosi się sformułowanie „(...) zatrudnionych w podmiotach, o których mowa art. 6 ust. 2 tej ustawy”. Z całokształtu przepisu wynika, że odnosi się ono do „stanowisk”, co jednak jest pozbawione racjonalnego uzasadnienia. Należy ponadto wskazać, że w art. 6 ust. 2, do którego odwołuje się przedmiotowy przepis, wskazane są m.in. takie podmioty jak Prezes Urzędu Komunikacji Elektronicznej i Prezes Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych. Z aktualnego brzmienia przepisu wynika zatem, że to właśnie w tych podmiotach zatrudniony może być Przewodniczący Komisji oraz Zastępcy Przewodniczącego Komisji. Uwaga uwzględniona Dokonano zmian w odesłaniu zawartym w art. 20 ust. 1. 81. Art. 22 PUODO Art. 22 projektu ustawy dotyczy obowiązku informacyjnego. Projektodawca w ust. 1 wskazuje, że: „Biuro Komisji może wykonać obowiązek, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119 z 04.05.2016, str. 1, z późn. zm.), zwanego dalej „rozporządzeniem 2016/679”, przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 rozporządzenia 2016/679, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji”. Uwaga uwzględniona W art. 22 wykreślono ust. 1, 2 i 5. 70 Takie ukształtowanie sposobu spełnienia obowiązku informacyjnego jest niezgodne z zasadami określonymi w rozporządzeniu 2016/679. Zgodnie bowiem z jego przepisami administrator nie może odesłać w całości do swojej strony internetowej lub możliwości zapoznania się z informacjami w jego siedzibie. Każdy administrator spełniając obowiązek informacyjny powinien wskazać następujące elementy wynikające z rozporządzenia 2016/679: kto jest administratorem danych (w tym kontakt z administratorem), cel przetwarzania i podstawa prawna, odbiorcy danych, okres przechowywania danych, wskazanie praw osób, których dane są przetwarzane, żądanie sprostowania danych, informacja o prawie do wniesienia skargi do organu nadzorczego. W celu zapewnienia większej przejrzystości rozważyć należy warstwowe spełnienie obowiązku informacyjnego – warto zatem aby projektodawca wziął pod uwagę treść Wytycznych Grupy roboczej Art. 29 w sprawie przejrzystości na mocy rozporządzenia 2016/679 przyjętych dnia 29 listopada 2017 r., zawierających m.in. stosowne przykłady w tym zakresie. Warto wskazać przy tym na konieczność przekazania przez administratora podczas pozyskiwania danych podstawowych informacji dotyczących przetwarzania danych. 82. Art. 22 ust. 3 UKNF Nowe brzmienie przepisu nie usuwa wątpliwości, na które dotychczas wskazywał Urząd Komisji Nadzoru Finansowego. Przedstawiciel KNF w Komisji będzie pozbawiony możliwości udostępniania pracownikom UKNF oraz Przewodniczącemu KNF i jego Zastępcom pozyskanych informacji w ramach pełnienia funkcji, do której został delegowany na podstawie projektowanej ustawy, co może w przyszłości znacząco utrudniać skuteczne sprawowanie nadzoru nad systemami AI wysokiego ryzyka w instytucjach finansowych. Urząd Komisji Nadzoru Finansowego poddaje pod rozwagę doprecyzowanie, że informacje te mogą być udostępniane również innym zaangażowanym pracownikom wewnątrz wskazanych instytucji, tj. Przykładowo, że Przedstawiciel KNF uprawniony będzie do przekazywania informacji wyznaczonemu pracownikowi (bądź pracownikom) UKNF. Brak jednoznacznego rozstrzygnięcia tej kwestii należało będzie rozumieć jako brak takiej Uwaga wyjaśniona Propozycja zmiany przepisu wydaje się zbyt daleko idąca w szczególności w kontekście przepisów RODO. 71 możliwości, co może prowadzić do trudności w toku wykonywania współpracy, o której mowa w art. 5 ust. 3 pkt 1 projektu ustawy. 83. Art. 22 ust. 3 Pracodawcy RP Przepis zabrania uczestnikom spotkań ujawniania informacji chronionych, ale nie ogranicza ich wykorzystania wyłącznie do celów służbowych, co stwarza ryzyko dla ochrony danych. Propozycja: Wprowadzenie klauzul ochronnych, aby dane były wykorzystywane tylko w celach służbowych. Uwaga uwzględniona Cel wskazany w uwadze zapewnić ma ust. 2. 84. Art. 22 ust. 1 RPO W związku z powyższym należy również wskazać, że art. 22 ust. 1 projektu ustawy przewiduje możliwość wykonania obowiązku, o którym mowa w art. 13 ust. 1 i 2 oraz art. 14 ust. 1 i 2 RODO przez udostępnienie informacji, o których mowa w art. 13 ust. 1 i 2 oraz 14 ust. 1 i 2 RODO, w miejscu publicznie dostępnym w Biurze Komisji oraz na swojej stronie internetowej lub w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. W takim przypadku Biuro Komisji, podczas pozyskiwania danych osobowych, informuje osobę, której dane dotyczą, o miejscu udostępnienia tych informacji. Należy podkreślić, że obowiązek informacyjny przy gromadzeniu danych od osoby, której dane dotyczą, powinien być, co do zasady według przepisów RODO, realizowany w sposób zindywidualizowany wobec konkretnej osoby, której dane administrator gromadzi. Oznacza to, że przekazanie informacji tej osobie nie powinno być zastępowane komunikatami kierowanymi do ogółu osób zainteresowanych (np. ogłoszeniami wieszanymi na tablicach) ani też poprzez odesłanie do określonych dokumentów (np. regulaminów dostępnych do wglądu itp.). Art. 13 RODO nie przewiduje zwolnienia z obowiązku informacyjnego w sytuacji, gdy przepisy szczególne zezwalają na przetwarzanie (gromadzenie) danych bez wiedzy osoby, której dane dotyczą lub odmiennie regulują kwestie dotyczące informowania, jednak zgodnie z art. 23 RODO, przepisy prawa Unii lub prawo państwa członkowskiego, któremu podlegają administrator danych lub podmiot przetwarzający mogą ograniczać zakres obowiązków i praw przewidzianych w art. 12–22 i art. 34, w tym również omawianego obowiązku informacyjnego23. W Uwaga nieaktualna W art. 22 ust. 1 został wykreślony. 72 uzasadnieniu projektu ustawy brak jednak wskazania przyczyn przemawiających za podjem decyzji o realizowaniu de facto obowiązku informacyjnego przewidzianego w art. 13 i art. 14 RODO w sposób uproszczony. 85. Art. 22 ust. 5 IAB Polska Wprowadzenie bardziej rygorystycznych mechanizmów ochrony informacji udostępnianych organom, takim jak Policja, poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora. Alternatywnie, ramy prawne powinny zostać dostosowane do standardów poufności określonych w Prawie Komunikacji Elektronicznej, co zapewni spójność regulacyjną i zwiększy ochronę wrażliwych informacji Dane związane z AI obejmują strategiczne informacje rynkowe, tajemnice przedsiębiorstwa, algorytmy oraz kluczowe szczegóły operacyjne, których nieuprawnione ujawnienie może prowadzić do utraty przewagi konkurencyjnej lub zagrożenia bezpieczeństwa technologicznego. Brak odpowiednich zabezpieczeń niesie ryzyko niekontrolowanego dostępu do tych informacji, co może skutkować naruszeniem tajemnicy przedsiębiorstwa, tajemnicy zawodowej lub ujawnieniem krytycznych decyzji biznesowych. Wprowadzenie mechanizmu kontroli sądowej lub prokuratorskiej ograniczy możliwość nadużyć i wzmocni zaufanie do systemu regulacyjnego, zapewniając, że dostęp do tych danych będzie przyznawany wyłącznie w uzasadnionych przypadkach. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 86. Art. 22 ust. 5 PUODO Poważne wątpliwości Prezesa UODO budzi treść art. 22 ust. 5 projektu ustawy, który wskazuje na udostępnianie przez Komisję przetwarzanych danych osobowych oraz innych informacji na wniosek organom określonym w tym przepisie (m.in. ABW, Policji, Agencji Wywiadu, CBA, prokuratorom, sędziom sądów powszechnych). W przepisie tym jest wzmianka o „uwzględnieniu przepisów o ochronie danych osobowych” oraz że możliwe jest to „w celu realizacji przez te organy i podmioty ich zadań ustawowych”, niemniej jest to przepis obarczony poważnymi wadami z punktu widzenia zgodności z zasadami stanowienia prawa. Zauważyć należy, że cele, których realizacji służyć będą Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 73 postępowania prowadzone przez Komisję są z założenia inne niż cele wynikające z zadań ww. organów. Powstaje wątpliwość o celowość tej regulacji w sytuacji, gdy na podstawie odrębnych przepisów prawa wskazane podmioty mają podstawę do występowania do każdego administratora o udostępnienie informacji w zakresie niezbędnym dla potrzeb prowadzonych postępowań. W szczególności dotyczy to Policji i innych służb, które mają jasno określony sposób dostępu do danych osobowych (np. kontrola sądowa dla pewnych obszarów), czy też sądów i prokuratur (przepisy procedury cywilnej i karnej). Szczególnych gwarancji dla ochrony danych osobowych nie buduje także powoływanie się na przepisy o ochronie danych osobowych, gdyż ani z ogólnego rozporządzenia o ochronie danych osobowych ani z ustawy o ochronie danych osobowych, ani też z przepisów ustawy z dnia 14 grudnia 2018 r. o ochronie danych osobowych przetwarzanych w związku z zapobieganiem i zwalczaniem przestępczości nie wynikają szczegółowe warunki udostępniania danych osobowych na rzecz ww. podmiotów. Powstaje zatem pytanie o niezbędność wprowadzenia takiej regulacji, a tym samym spełnienia wymogów wynikających z norm konstytucyjnych i przepisów regulujących działalność Policji, wskazanych służb specjalnych oraz prokuratury i sądów do danych osobowych. Tego rodzaju regulacja może być zinterpretowana jako regulacja specjalna wobec tych przepisów, które de lege lata reglamentują dostęp do informacji dotyczących obywateli. W tym kontekście oceniany przepis wydaje się zbędny, ponieważ dostęp do danych osobowych przetwarzanych przez sądy, prokuraturę, Policję i inne służby odbywa się na innych zasadach, uregulowanych w przepisach szczególnych. 87. Art. 22 ust. 5 UKNF Z uwagi na potrzebę zapewnienia stosowania art. 74 ust. 7 rozporządzenia 2024/1689 w polskim porządku prawnym, w zakresie współpracy między KNF a Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji w przedmiocie spraw dotyczących systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 74 finansowe podlegające przepisom prawa Unii Europejskiej dotyczącym usług finansowych, UKNF ponownie wskazuje na konieczność doprecyzowania zasad współpracy pomiędzy KNF a KRiBSI. Z tego względu konieczne jest odpowiednie dostosowanie brzmienia art. 22 ust. 5 projektu ustawy poprzez dodanie KNF do katalogu podmiotów wymienionych w omawianym przepisie. Umożliwi to pozyskiwanie przez Komisję Nadzoru Finansowego, na jej wniosek, danych osobowych oraz pozostałych informacji przetwarzanych przez Komisję oraz Biuro Komisji w ramach realizowanych zadań. 88. Art. 22 ust. 5 Konfederacj a Lewiatan Uwaga: Proponujemy wykreślenie całego ust. 5. A jeśli, mimo wszystko ma pozostać z zaznaczoną poniżej zmianą. Propozycja brzmienia: Dane osobowe, o których mowa art. 23 i art. 24 ustawy, oraz pozostałe informacje, przetwarzane przez Komisję i Biuro Komisji w ramach realizowanych zadań mogą być udostępniane na wniosek: 1)Agencji Bezpieczeństwa Wewnętrznego; 2)Policji; 3)Agencji Wywiadu; 4)Służbie Kontrwywiadu Wojskowego; 5)Służbie Wywiadu Wojskowego; 6)Straży Granicznej; 7)Komendzie Głównej Żandarmerii Wojskowej; 8)Centralnemu Biuru Antykorupcyjnemu; 9)prokuratorom; 10)sędziom sądów powszechnych sądom powszechnym - z uwzględnieniem przepisów o ochronie danych osobowych, w celu realizacji przez te organy lub podmioty ich zadań ustawowych. Uzasadnienie: Wymienione organy na podstawie odrębnych ustaw i tak mają podstawy do żądania wydania danych osobowych o których mowa w art. 23 i 24 ustawy, bez konieczności powtarzania tego uprawnienia w przedmiotowej ustawie. Uwaga uwzględniona W art. 22 ust. 5 został wykreślony. 75 Jeśli mimo wszystko projektodawca uznaje za zasadne powtarzanie tego uprawnienia, to w pkt. 10 zwrot „sędziom sądów powszechnych”, należy zastąpić zwrotem „sądom powszechnym” (sędzia nie jest organem, tylko sąd). Ponadto, stoimy na stanowisku, iż należy wprowadzić bardziej rygorystyczne zabezpieczenia w zakresie ujawniania informacji organom ścigania, takim jak Policja. Można to osiągnąć poprzez wymóg uzyskania uprzedniej zgody sądu lub prokuratora lub dostosowanie ram prawnych do standardów poufności określonych w Prawie Komunikacji Elektronicznej. Dane związane z SI są często wysoce wyspecjalizowanymi i cennymi informacjami biznesowymi i rynkowymi, a także istotnymi szczegółami operacyjnymi podmiotów zaangażowanych w rozwój i wdrażanie SI. Nieuprawnione ujawnienie takich informacji może prowadzić do ujawnienia tajemnic przedsiębiorstwa, zastrzeżonych algorytmów lub strategicznych decyzji biznesowych. Wprowadzenie kontroli sądowej lub prokuratorskiej zapobiegałoby potencjalnym nadużyciom i zapewniłoby, że dostęp do wrażliwych danych SI byłby przyznawany wyłącznie w przypadku wyraźnej i uzasadnionej potrzeby. 89. Art. 22; art. 24 IAB Polska Konieczność zabezpieczenia informacji chronionych Projekt wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być osoby posiadające wiedzę specjalistyczną zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju AI. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 76 90. Art. 22; art. 24 Konfederacj a Lewiatan Projekt ustawy wielokrotnie odnosi się do dostępu organów regulacyjnych do informacji chronionych bez towarzyszącego mu języka zabezpieczającego mającego na celu zapobieganie `nieuprawnionemu ujawnieniu i wykorzystaniu. Na przykład w art. 24 ust. 1 brakuje języka ochronnego, a w art. 22 ust. 3 zabrania się uczestnikom spotkań (którymi mogą być „osoby posiadające wiedzę specjalistyczną” zgodnie z art. 6) ujawniania informacji chronionych, nie ograniczając ich wykorzystania wyłącznie do celów oficjalnych. Przy okazji dyskusji na temat takich uprawnień dobrze byłoby ponownie podkreślić potrzebę ochrony i odpowiedniego wykorzystania informacji, biorąc pod uwagę ich wrażliwość i znaczenie dla rozwoju sztucznej inteligencji. Uwaga wyjaśniona Art. 22 uległ znaczącym zmianom. Wykreślono ust. 2, 3 i 5. uznając je jako regulacje nadmiarowe. W pozostałym zakresie przepisy art. 22 i art. 24 nie wymagają zmian. 91. Art. 23 ust. 2 PUODO Art. 23 projektu ustawy, w którym w ust. 2 projektodawca wskazuje jedynie na zapewnienie integralności i poufności. Pamiętać należy, że szczególny reżim przetwarzania wymaga uwzględnienia w przepisach nakładających obowiązek przetwarzania danych i zapewnienia nie tylko integralności i poufności, ale także rzetelności i przejrzystości, ograniczenia celu, niezbędności, minimalizacji (art. 5 rozporządzenia 2016/679), jak również uwzględnienia warunków wynikających z art. 6 ust. 3 ww. rozporządzenia, warunków odpowiednich zabezpieczeń praw podstawowych i interesów osoby, której dane dotyczą, konkretnych środków ochrony praw i wolności osób (art. 9 rozporządzenia 2016/679) oraz warunków dokonywania operacji na danych z art. 10 tego rozporządzenia wyłącznie pod nadzorem władz publicznych z zabezpieczeniem praw i wolności osób, których dane dotyczą. Wskazać należy, że fragmentaryczne odwoływanie się do zasad z rozporządzenia 2016/679 nie znajduje zatem uzasadnienia. Uwaga uwzględniona W celu właściwego stosowania przepisów w zakresie ochrony danych osobowych na skutek ponownej analizy przepisu w kontekście zgorszonej uwagi w art. 23 odstąpiono od ograniczeń i włączeń z zakresu RODO. 92. Art. 23 ust. 3 PUODO Art. 23 ust. 3 wskazuje na otwarty katalog danych osobowych przetwarzanych przez Komisję w ramach nadzoru nad systemami sztucznej inteligencji. W ocenie organu nadzorczego kompetencje organu, ich zakres powinien być dookreślony, nie może pozostawać niesprecyzowany. W związku z powyższym konieczne jest domknięcie przedmiotowego katalogu. Poza tym nie jest zrozumiałe i nie Uwaga uwzględniona Przepis przeredagowano rezygnując z otwartego katalogu danych osobowych przetwarzanych przez Komisję. 77 znajduje uzasadnienia pozyskiwanie przez Komisję w każdej sytuacji wszystkich informacji i danych wskazanych w punktach 1- 5 ww. przepisu. 93. Art. 23 ust. 4, ust. 5 NCBR (Dot. przechowywania danych) Propozycja zmiany: skrócić okres przechowywania danych z 5 do max. 2-3 lat. Uzasadnienie: zgodne z zasadą minimalizacji danych wynikającą z RODO; dodatkowo – ograniczone są techniczne możliwości przechowywania wielkich wolumenów danych. Uwaga wyjaśniona W art. 23 ust. 4 został wykreślony. Okres przechowywania danych został dostosowany do wymogów zastosowanych procedur postępowania przez Komisją. 94. Art. 23 ust. 6 RPO Niezależnie od powyższego częściowo aktualna pozostaje uwaga zwarta w piśmie Rzecznika Praw Obywatelskich z dnia 14 listopada 2024 r. (znak: VII.501.187.2024.PKR) dotycząca ograniczenia obowiązków wynikających z RODO22. Obecnie kwestie tę reguluje art. 23 ust. 6 projektu ustawy, zgodnie z którym przetwarzanie przez Komisję, Biuro Komisji i upoważnionych, w związku z wykonywaniem zadań służbowych, pracowników urzędów obsługujących podmioty, o których mowa w art. 6 ust. 2 ustawy, oraz osoby, o których mowa w art. 6 ust. 3 ustawy, danych, o których mowa w ust. 3, ogranicza realizację obowiązków wynikających art. 18 ust. 1 lit. a i d (prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą kwestionuje prawidłowości przetwarzania danych osobowych oraz prawo do ograniczenia przetwarzania danych osobowych w sytuacji, gdy osoba, której dane dotyczą wniosła sprzeciw wobec przetwarzania) oraz art. 19 zdanie drugie rozporządzenia 2016/679 (obowiązek zawiadomienia o sprostowaniu, usunięciu lub ograniczeniu przetwarzania danych), jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 RODO. Art. 23 ust. 6 projektu ustawy wciąż pozwala na wyłączenie stosowania powołanych wyżej gwarancji poprzez odwołanie się do ogólnej klauzuli niemożności realizacji zadań przez Komisję, przy czym to sama Komisja każdorazowo dokonywałaby oceny istnienia podstawy do niestosowania wskazanych przepisów RODO. Z uzasadnienia projektu ustawy nie wynika natomiast, dlaczego Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 78 projektodawca zdecydował się na wprowadzenie tak szerokiego wyłączenia. Jak już Rzecznik wskazywał poprzednio, skoro sam akt w sprawie sztucznej inteligencji nie przewiduje wyłączenia stosowania przepisów RODO, to wątpliwości może budzić wprowadzenie bez podania bliższego uzasadnienia ww. rozwiązania do ustawy, której głównym celem jest dostosowanie ustawodawstwa krajowego do aktu w sprawie sztucznej inteligencji i stworzenie systemu sprawowania nadzoru nad systemami sztucznej inteligencji. 95. Art. 23 ust. 6 PUODO Art. 23 ust. 6 projektu ustawy jest niezrozumiały poprzez zawarcie w ostatniej części zdania zwrotu „(...) jeżeli uniemożliwiłoby to realizację ustawowych zadań Komisji, w szczególności w związku ze sprawami, o których mowa w art. 23 ust. 1 rozporządzenia 2016/679”. Uwaga uwzględniona W art. 23 ust 6 został wykreślony. 96. Art. 24 ZPP Wprowadzić język ochronny, który zapewni, że informacje objęte tajemnicą handlową oraz danymi wrażliwymi będą odpowiednio chronione przed nieuprawnionym ujawnieniem. Uwaga wyjaśniona Przetwarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 97. Art. 24 ust. 1 Pracodawcy RP Przepis nie zawiera klauzul ochronnych dotyczących danych, do których mają dostęp organy regulacyjne, co rodzi ryzyko nieuprawnionego ujawnienia i wykorzystania informacji. Propozycja: Dodanie zabezpieczeń dotyczących ochrony danych. Uwaga wyjaśniona Powtarzanie informacji stanowiących tajemnice prawnie chronione będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego. 98. Art. 24 ust. 2 PUODO Art. 24 ust. 2 w zaproponowanym brzmieniu budzi szereg ryzyk, albowiem wskazuje na przekazywanie przez Komisję bez żadnego trybu podmiotom wskazanym w tym przepisie informacji stanowiących tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa bez wskazania celu. Przepis w obecnym brzmieniu nie jest zrozumiały i budzi poważne wątpliwości organu nadzorczego. Uwaga wyjaśniona Możliwość przekazania informacji organom wskazanym w przepisie jest niezbędna dla właściwej realizacji przepisów rozporządzenia 2024/1689 i ustawy. Przesłanką przekazania informacji jest ich niezbędność do realizacji ustawowych zadań tych podmiotów. 79 Stąd też możliwość ubiegania się o informacje musi wprost wynikać przepisów prawa obejmującego działania podmiotów. Ubiegając się o pozyskanie informacji niezbędne będzie wskazanie podstawy prawnej uprawniającej do dostępu do takich informacji. 99. Art. 24 ust. 3 UOKiK Prezes UOKiK podtrzymuje uwagę dotyczącą konieczności wyłączenia informacji, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów1 (dalej: uokk) z zakresu informacji, które mogą być przetwarzane w ramach współpracy w Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w sytuacji, gdy jest to konieczne dla realizacji zadań wynikających z rozporządzenia 2024/16892. Jak to zostało wskazane w piśmie z dnia 19 listopada 2024 r. (sygn. DPR.0240.239.2024.AK) przepisy uokk nakładają na Prezesa, Wiceprezesów i pracowników Urzędu Ochrony Konkurencji i Konsumentów szczególny obowiązek ochrony tajemnicy przedsiębiorstwa i innych tajemnic podlegających ochronie na podstawie odrębnych przepisów, jak również informacji, pozyskanych w związku z wykonywaniem czynności służbowych. Obowiązek ten nie dotyczy informacji powszechnie dostępnych, informacji o wszczęciu postępowania oraz informacji o wydaniu decyzji kończących postępowanie i ich ustaleniach. Przepis ten powinien być odczytywany łącznie z regulacją art. 73 ust. 1 uokk, który formułuje zakaz wykorzystania informacji uzyskanych w toku postępowania prowadzonego na podstawie tej ustawy w innych postępowaniach, prowadzonych na podstawie odrębnych przepisów. Termin „zakaz wykorzystywania” rozumiany jest szeroko i obejmuje – po stronie Prezesa Urzędu – zakaz udostępniania albo przekazywania informacji innym podmiotom, w tym organom władzy na potrzeby prowadzonych przez nie postępowań czy wykonywanych czynności. Wyjątki od zakazu wskazano w ust. 2 wspomnianego art. 73 uokk. Obowiązek ochrony przedmiotowych tajemnic i informacji stanowi zobowiązanie nałożone na UOKiK przepisami dyrektywy ECN+3 i jest gwarancją niezależności organu ochrony konkurencji. Wobec Uwaga wyjaśniona. Mając na uwadze zakaz sformułowany w art. 73 ust. 1 ustawy o uokk dodanie regulacji w przedmiotowej ustawie w zaproponowanym brzmieniu wydaje się niezasadne. 80 powyższego, w celu zapewnienia zgodności projektowanego art. 24 z przepisami uokk zwracam się o dodanie w projektowanym art. 24 ust. 3 w brzmieniu: „3. Przepisów ust. 1 i 2 nie stosuje się do obowiązków, o których mowa w art. 73 ustawy o ochronie konkurencji i konsumentów.”. 100. Art. 25 RPD W projektowanych przepisach ustawy o systemach SI nadal nie określono ani terminu, w którym Komisja ma powołać skład Rady, ani terminu rozpoczęcia prac przez Radę. Bez określonego harmonogramu w tym zakresie istnieje ryzyko, że powołanie składu Rady i rozpoczęcie przez nią zostanie odłożone na nieokreślony czas. W związku z tym proponuję prowadzenie do ustawy konkretnego terminu, w którym Komisja zobowiązana będzie do powołania Rady, aby zapewnić sprawne i efektywne funkcjonowanie nadzoru nad systemami sztucznej inteligencji od momentu wejścia ustawy w życie. Uwaga wyjaśniona Harmonogram powołania rady określi Komisja. 101. Art. 25 Rada Działalności Pożytku Publicznego Rada proponuje wprowadzenie następujących zmian do projektu ustawy: 1) w art. 25 ust. 3 po pkt 6 dodać pkt 6a w brzmieniu: „6a) Rada Działalności Pożytku Publicznego, o której mowa w art. 35 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940);”; Uzasadnienie: Rada Działalności Pożytku Publicznego (RDPP) jest ustawowym ciałem, którego celem jest m.in. prowadzenie dialogu obywatelskiego, który jest fundamentem państw demokratycznych. Rada zrzesza przedstawicieli i przedstawicielki NGO, administracji lokalnego, regionalnego i centralnego szczebla. Udział przedstawiciela/przedstawicielki RDPP wzmocni społeczny wymiar Rady, której kształt określa art. 25 przedmiotowego projektu ustawy. 2) w art. 25 ust. 3 zmienić brzmienie pkt. 10 z: „fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność na rzecz rozwoju sztucznej inteligencji, na rzecz rozwoju nowych technologii, sprawiedliwości technologicznej, ochrony praw człowieka, edukacji i kultury cyfrowej.” Uwaga częściowo uwzględniona Uwzględniono pkt 2 uwagi poprzez zmianę w art. 25 ust. 3 projektu ustawy: “Kandydatów na członków Rady może zgłosić: (.) 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców, lub też których celem statutowym jest działalność w co najmniej jednym z obszarów: - sztuczna inteligencja, nowe technologie, - sprawiedliwość technologiczna, - ochrona praw człowieka, - edukacja lub kultura cyfrowa; - bezpieczeństwo informacji.”. 81 na następujące: „organizacje pozarządowe w rozumieniu art. 3 ust. 2 ustawy z dnia 24 kwietnia 2003 r. o działalności pożytku publicznego i o wolontariacie (Dz. U. z 2024 r. poz. 1491, 1761, 1940).” Uzasadnienie: Należy wziąć pod uwagę, że wiele organizacji pozarządowych (w tym stowarzyszeń i fundacji) prowadzi działalność statutową we wskazanych obszarach, jednak cele statutowe tych organizacji mogą być sformułowane w ich statutach w sposób bardziej ogólny, ponieważ przepisy prawa nie obligują i nie skłaniają organizacji do tak precyzyjnego określania celów w statutach – dlatego też nie należy zawężać grupy organizacji uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji wyłącznie do fundacji i stowarzyszeń, które w swoich statutach przewidziały w tak szczegółowy sposób sprecyzowane cele; 3) w art. 25 w ust. 2 słowa „od dziewięciu do piętnastu członków” zastąpić słowami „od jedenastu do dwudziestu pięciu członków” Uzasadnienie: Biorąc pod uwagę liczbę podmiotów uprawnionych do zgłaszania kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji przewidzianą w art. 25 ust. 3 projektowanej ustawy (11), Rada proponuje zwiększyć dolną i górną granicę widełek ilościowych zaproponowanych w projekcie ustawy. 102. Art. 25 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: Proponujemy dodanie punktu 11) o brzmieniu: 11) organizacje pracodawców Uzasadnienie: Brak uwzględnienia organizacji pracodawców w katalogu podmiotów uprawnionych do zgłaszania kandydatów do Społecznej Rady ds. Sztucznej Inteligencji wyklucza wiele reprezentatywnych organizacji, które nie posiadają statusu izby gospodarczej, takich jak np. Konfederacja Lewiatan. Uwaga wyjaśniona Rozszerzanie listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące organizacje pracodawców nie wydaje się zasadne. W przepisie uwzględniono bowiem izby gospodarcze oraz reprezentatywne organizacje związkowe. 103. Art. 25 ust. 3 pkt 8) NSZZ Projekt przewiduje możliwość zgłaszania przez związki zawodowe kandydatów na członków Społecznej Rady do Spraw Sztucznej Uwaga uwzględniona 82 Inteligencji. Problem: w Polsce funkcjonuje 11 656 związków zawodowych (dane GUS z 4.09.2023), co oznacza, że wszystkie mogłyby zgłosić kandydatów, co jest niepraktyczne. Propozycja: ograniczenie prawa zgłaszania kandydatów do organizacji związkowych reprezentatywnych w rozumieniu ustawy o Radzie Dialogu Społecznego, ze względów funkcjonalnych. Zmieniono brzmienie art. 25 ust. 3 pkt 8. 104. Art. 25 ust. 3 Rzecznik Finansowy W naszej opinii zasadne jest ponowne rozważenie składu Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz działającej przy Komisji Społecznej Rady do spraw Sztucznej Inteligencji oraz przyznanie Rzecznikowi Finansowemu uprawnienia zgłaszania kandydatów na członków Rady Uwaga wyjaśniona Projektodawca nie przewiduje rozszerzania listy podmiotów posiadających uprawnienie do zgłaszania podmiotów do Rady o podmiotu reprezentujące rynek finansowy. 105. Art. 25 ust. 4 i art. 26 ust. 5 RPD Projekt w obecnym kształcie nie wprowadza wyraźnego wymogu niezależności od dostawców systemów sztucznej inteligencji na etapie powoływania członków Rady. Zgodnie z projektowanym art. 25 ust. 4, osoba zgłasza do Rady przez uprawniony podmiot musi jedynie: posiadać wiedzę i doświadczenie w obszarze sztucznej inteligencji, nie być skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe, korzystać z pełni praw publicznych oraz wyrazić pisemną zgodę na kandydowanie. Brakuje natomiast wyraźnego wymogu wykazania, że kandydat nie pozostaje w stosunku podległości (np. służbowym) do dostawców i importerów systemów AI, co mogłoby wpływać na jego bezstronność. Z kolei art. 26 ust. 5 przewiduje jedynie następczą kontrolę konfliktu interesów, stanowiąc, że „członek Rady nie może prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie ani wykonywać działań, które mogłyby skutkować konfliktem interesów”, nie precyzując jednak żadnych konkretnych kryteriów ani procedur pozwalających na weryfikację niezależności kandydata przed jego powołaniem. Z tych względów, na wzór wymogu wprowadzonego dla członków Panelu naukowego niezależnych ekspertów, o którym mowa w art. 68 rozporządzenia 2024/1689, należałoby wprost określić, że członkowie Rady muszą być niezależni od dostawców systemów SI lub modeli SI ogólnego Uwaga wyjaśniona Wskazane w przepisach wymagania zostały uzupełnione o sankcję za naruszenie przepisów art. 26 ust. 5. Co daje podstawę do stwierdzenia że dodatkowe unormowania w zakresie oświadczenia nie są już potrzebne. 83 przeznaczenia, a także wprowadzić obowiązek złożenia stosownego oświadczenia o braku konfliktu interesów w relacjach z operatorami systemów SI, połączonego z odpowiedzialnością za składanie fałszywych oświadczeń. W związku z tym proponuję zmianę art. 25 ust. 4 projektu poprzez dodanie pkt 5 o następującym brzmieniu: Art. 25 ust. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w obszarze sztucznej inteligencji, w szczególności z zakresu informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła pisemną zgodę na kandydowanie; 5) złożyła pisemne oświadczenie o braku lub istnieniu jakichkolwiek powiązań osobistych, służbowych, finansowych z dostawcami lub importerami systemów sztucznej inteligencji, które mogłyby prowadzić do konfliktu interesów w związku z udziałem w pracach Rady. 106. Art. 25, Art. 26, Art. 27 NCBR Społeczna Rada do spraw Sztucznej Inteligencji (Społeczna Rada) – Rada jest podporządkowana Komisji i nie stanowi narzędzia społecznej kontroli, co sugerowałaby jej nazwa. Należy zapewnić udział w Radzie przedtawicieli zgłoszonych przez wybrane organy i organizacje pozarządowe, bez konieczności powołania przez Komisję, oraz wybór przewodniczącego i wiceprzewodniczącego przez samą Radę. W obecnej formie dobór składu Rady może zostać uznany za nietransparentny. Zgodnie z art. 30 ustawy, formalne kompetencje Rady są ograniczone do nieobligatoryjnej roli opiniodawczej, a to pomimo wyższych wymagań co do kompetencji członków niż w przypadku Komisji. Jedynym efektem jej działań jest publikacja opinii w BIP. Należy rozważyć przynajmniej obowiązek opiniowania każdej Uwaga wyjaśniona Zaproponowany w przepisach mechanizm powoływania członków Rady, sposób i zakres jej działania realizują zasadę transparentności i odpowiadają potrzebie wsparcia Komisji w realizowanych przez nią zadaniach. 84 decyzji Komisji przez Radę oraz konieczność uwzględniania opinii Rady w decyzji Komisji. 107. Art. 25 ust. 2 NCBR (Dot. kadencja Rady): Propozycja zmiany: wydłużyć kadencję Rady z 2 do co najmniej 3 lat. Uzasadnienie: zapewni to większą stabilność i ciągłość prac Rady. Uwaga wyjaśniona Dwuletnia kadencja jest optymalna do zapewnienia ciągłości pracy Rady. 108. Art. 25 ust. 3 KRRiT Aktualny pozostaje postulat, aby Przewodniczący Krajowej Rady Radiofonii i Telewizji miał prawo zgłoszenia kandydatów na członków Społecznej Rady do spraw Sztucznej Inteligencji (przepis art. 25 ust. 3 projektu) Uwaga wyjaśniona Przewodniczący Krajowej Rady Radiofonii i Telewizji ma w ustawie przewidziane funkcje w art. 6 ust. 2 pkt 3. Mając na uwadze sposób powołania członków Rady nie jest zasadne, aby członek Komisji wskazywał podmiot do Rady Społecznej. 1. Art. 26 ust. 3 Konfederacj a Lewiatan Propozycja brzmienia: 3. Do udziału w posiedzeniu Rady mogą być zapraszane, przez Komisję oraz Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione zadaniami Rady. Przepis ust. 4, 5 i 6 stosuje się odpowiednio. Uzasadnienie: Jeśli w posiedzeniach Rady maja uczestniczyć jeszcze inne osoby (choć nie jest wskazane w jakim charakterze i jakie powinny spełniać kryteria - wskazane byłoby choć odniesienie do zapisów mówiących o osobach posiadających wiadomości specjalne (biegli) w danej dziedzinie, to powinny być wobec nich zagwarantowane: prawo żądania wyłączanie takiej osoby z udziału w posiedzeniu Rady - ze względu na konflikt interesów; osoba taka nie powinna być np. zatrudniona w podmiotach konkurencyjnych wobec podmiotu, którego sprawy dotyczy posiedzenie - wydaje się bowiem, że w nowej propozycji przepisów Rada jest de facto ciałem doradczym w indywidualnych sprawach rozstrzyganych przez Komisję - co także budzi wątpliwości, czy powinno tak być. Uwaga częściowo uwzględniona W art. 26 zmodyfikowano treść ust. 4 i 5. 109. Art. 26 ust. 3 RPD Mając na uwadze wymóg urzeczywistniania przez prawodawcę prawa dzieci do bycia wysłuchanym oraz potrzebę uwzględniania perspektywy młodego pokolenia w procesie kształtowania polityki i regulacji dotyczących systemów sztucznej inteligencji, w Uwaga wyjaśniona W ramach tego artykułu przewidziany został Rzecznik Praw Dziecka który wydaje się 85 szczególności stosowanych w obszarze edukacji i kształcenia osób małoletnich, proponuję uzupełnić art. 26 o przepisy, które wprost przewidzą prawo przedstawicieli zainteresowanych organizacji młodzieżowych do udziału w posiedzeniach Rady z głosem doradczym, niezależnie od zaproszenia przez Przewodniczącego Rady lub Komisję. Organizacje te powinny mieć możliwość zwrócenia się do Przewodniczącego Rady z wnioskiem o dopuszczenie do udziału w konkretnym posiedzeniu wybranych przez siebie przedstawicieli, a wniosek taki powinien być niezwłocznie rozpatrywany, przy czym decyzja o odmowie wymagałaby pisemnego uzasadnienia. Dodatkowo należałoby zobowiązać Radę do przeprowadzania konsultacji z organizacjami młodzieżowymi przed przyjęciem stanowiska lub opinii dotyczących systemów sztucznej inteligencji wykorzystywanych w obszarze edukacji i kształcenia osób małoletnich, aby wyniki tych konsultacji były uwzględniane z należytą wagą, stosownie do wieku oraz dojrzałości dzieci i młodzieży biorących w nich udział. Taka zmiana umacnia gwarancje prawa dziecka do bycia wysłuchanym, przewidzianego w Konwencji o prawach dziecka, i stanowi jednocześnie inwestycję w przyszłość całego społeczeństwa, pozwalając na wczesną identyfikację ryzyka oraz wypracowanie rozwiązań lepiej odpowiadających potrzebom oraz dobru dzieci. najwłaściwszym organem do wskazania kandydata na członka Społecznej Rady. 1. art. 26 ust. 4 w zw. z art. 22 ust.3 Uwaga: Prawo zwolnienia z obowiązku zachowania tajemnicy nie jest przewidziane w stosunku do członków Komisji - wydaje się, że w odniesieniu do członków Rady przepisy powinny być analogiczne - w szczególności, skoro przedmiotem obrad Rady mogą być zgodnie z art. 27 ust.1 pkt 2) sprawy indywidualne. Uwaga wyjaśniona Z uwagi na zadania oraz sposób powołania członków Rady zawarcie tego przepisu należy uznać za zasadne. Zachowanie spójności w tym przypadku z regulacjami dotyczącymi organu nadzoru rynku, który będzie dysponował znacznie bardziej szczegółowymi i wrażliwymi informacjami nie wydaje się właściwym rozwiązaniem 110. art. 27 ust.1 pkt 2 Konfederacj a Lewiatan Nie jest jasne o wnioski, w jakim znaczeniu chodzi - wniosek w znaczeniu formalnego wystąpienia do organu czy wnioski w Uwaga wyjaśniona 86 znaczeniu opinie. Czy przepis ten oznacza, że Rada ma opiniować indywidualne przypadki - czy wszcząć czy nie wszcząć postępowania o naruszenie przepisów? Jeśli tak to w stosunku do członków Rady biorących udział w podejmowaniu danej uchwały muszą zostać zachowane wszelkie zabezpieczenia procesowe dla podmiotu, wobec którego takie postępowanie jest rozważane - aby byli bezstronni - wyłączenie ze sprawy, zachowanie poufności bez wyłączenia tego obowiązku. Przepis odnosi się do wniosków samej Rady, o których mowa w art. 41 ust. 2 pkt 4. Przepis nie odnosi się do wniosków w rozumieniu opiniowania indywidualnych przypadków w zakresie zasadności wszczęcia postepowania o naruszenia przepisów rozporządzenia 2024/1689. 111. Art. 27 ust. 1 pkt 2 UKNF Wniosek, o którym mowa w tym przepisie nie stanowi wniosku o wszczęcie postępowania w rozumieniu ustawy z dnia 14 czerwca 1960 r. Kodeks postępowania administracyjnego, gdyż Rada nie jest podmiotem praw lub obowiązków, które mogą być przedmiotem postępowania. W konsekwencji czego UKNF proponuje zastąpienie wyrazu „wniosków” wyrazem „rekomendacji”. Uwaga wyjaśniona Jest to wniosek w rozumieniu art. 41 ust. 2 pkt 4. 112. art. 27 ust. 2 Konfederacj a Lewiatan Uwaga i zapytanie: W ust.2 nie ma mowy o „wnioskach\" z ust. 1 pkt 2 - w jakim terminie są przyjmowane, czy są wiążące dla Komisji? Uwaga wyjaśniona Wnioski, o których mowa w ust. 1 pkt 2, są podejmowane w drodze uchwały ponieważ Rada jest ciałem kolegialnym, nie sa przyjmowane w trybie określonym w ust 2. Wnioski są wiążące dla Komisji, która zgodnie z art. 41 ust. 2 pkt 4 wszczyna na ich podstawie postępowanie. 113. art. 27 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: Stanowiska i opinie Rady, po usunięciu danych i informacji i danych również danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są publikowane w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji. Uzasadnienie: Analogiczne jak w art. 14. Uwaga wyjaśniona Publikowane na stronie podmiotowej stanowisk i opinii Rady będzie następowało z poszanowaniem przepisów prawa powszechnie obowiązującego w zakresie ochrony danych osobowych, tajemnic prawnie chronionych czy informacji niejawnych. 114. Art. 28 ust. 5 Konfederacj a Lewiatan Proponowane brzmienie: 5. Organami Biura Komisji są: 1)Komisja, która jest właściwa w sprawach nadzoru nad rynkiem systemów sztucznej inteligencji; 2)Przewodniczący Komisji, który kieruje działalnością Biura Komisji i reprezentuje Biuro Komisji na zewnątrz. Uwaga wyjaśniona W wyniku analizy zgłoszonych uwag zmianie uległa forma organizacji Biura Komisji. W projektowanych przepisach przewidziano utworzenie Biur Komisji w formie odrębnej 87 Uzasadnienie: Biuro Komisji jest \"instytucją\" pomocniczą Komisji, przy pomocy której Komisja wykonuje swoje zadania, ale nie jest nadrzędne w stosunku do Komisji więc Komisja nie może być organem Biura. jednostki budżetowej. Wobec powyższego art. 28 otrzymał nowe brzmienie a art. 29-art.36 zostały wykreślone. 115. Art. 30 PARP Zastąpić dotychczasowe brzmienie art. 30 (Rejestracja piaskownic) „Testowanie systemów AI w ramach piaskownicy regulacyjnej wymaga uprzedniej zgody Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” Nowym brzmieniem: 1. „Dostawca systemu sztucznej inteligencji może rozpocząć testowanie systemu AI w piaskownicy regulacyjnej po zgłoszeniu do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.” 2. „Komisja może w terminie 30 dni zgłosić zastrzeżenia do testów, jeśli naruszają one przepisy o ochronie danych osobowych, praw podstawowych lub cyberbezpieczeństwa.” 3. „Brak odpowiedzi Komisji w terminie 30 dni oznacza domniemaną zgodę na przeprowadzenie testów.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 116. Art. 31 PARP Do dotychczasowej treści art. 31 dodać ustępy od 4 do 6 w następującym brzmieniu 4. „Każdy dostawca AI biorący udział w piaskownicy regulacyjnej wyznacza osobę odpowiedzialną za zarządzanie ryzykiem i przestrzeganie zasad etycznych w testach.” 5. „Osoba odpowiedzialna raportuje wyniki testów do Komisji co 6 miesięcy, zgodnie z minimalnymi wymaganiami określonymi w aktach wykonawczych.” 6. „Po zakończeniu testów, system może być wprowadzony na rynek, jeśli dostawca przedłoży raport z przeprowadzonych testów i nie stwierdzono naruszeń prawa.” Uwaga wyjaśniona Uwaga odnosi się do nieaktualnej wersji projektu ustawy. Przepisy dotyczące piaskownic regulacyjnych zostały ujęte w rozdziale 8. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 117. Art. 39 ZPP Należy wzmocnić zasadę, że nadzór powinien być przede wszystkim prowadzony zdalnie. Obecny wyjątek zezwalający na nadzór na miejscu jest zbyt szeroki i powinien być ograniczony wyłącznie do wyjątkowych okoliczności. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia 88 kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 118. Art. 39 ust.1 pkt 4 Konfederacj a Lewiatan Społeczna Rada do spraw Sztucznej Inteligencji powinna pełnić wyłącznie funkcję doradczą i konsultacyjną Komisji, a przyznanie jej uprawnień do inicjowania nadzoru jest wykraczaniem poza jej podstawowe zadania. Rada nie posiada kompetencji proceduralnych niezbędnych do oceny zasadności wniosku o wszczęcie nadzoru. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 119. Art. 39 ust. 1 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania kontroli Komisji Rada powinna pełnić funkcję wyłącznie doradczą i konsultacyjną względem Komisji, bez uprawnień do wnioskowania o wszczęcie kontroli. Przyznanie jej takiej kompetencji wykracza poza jej zamierzoną rolę, zwłaszcza że Rada nie dysponuje odpowiednimi narzędziami proceduralnymi do oceny zasadności inicjowania działań kontrolnych. Uwaga uwzględniona Wykreślono w art. 39 (obecnie art. 31) w ust. 4 pkt 1. 120. Art. 39 ust. 4 IAB Polska Ograniczenie możliwości przeprowadzenia kontroli na miejscu do ściśle określonych przypadków, gdy zdalne metody okazują się niewystarczające do rzetelnej oceny zgodności z przepisami Planowane przepisy pozostawiają nadmierną swobodę w zakresie stosowania kontroli na miejscu, co może prowadzić do nieproporcjonalnej ingerencji w działalność podmiotów podlegających nadzorowi. Ponadto, biorąc pod uwagę zasady funkcjonowania AI, dostęp do danych w postaci cyfrowej w większości przypadków powinien być w zupełności wystarczający. Uwaga uwzględniona Zmieniono brzmienie przepisu. 121. Art. 39 ust. 3 Konfederacj a Lewiatan Aktualne brzmienie: 3. Kontrola lub poszczególne czynności kontrolne przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, (?) prowadzi się z wykorzystaniem jednego lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2020 r. poz. 344). Uwaga: Uwaga uwzględniona Zmieniono brzmienie przepisu. 89 Brak części tekstu. 122. Art. 39 ust. 4 Konfederacj a Lewiatan Uwaga: Zasada nadzoru zdalnego powinna zostać wzmocniona. Obecnie istniejący wyjątek, który pozwala na nadzór na miejscu, jest zbyt szeroki i powinien być ograniczony jedynie do wyjątkowych przypadków. Uwaga wyjaśniona Jeżeli przepis zostanie sformułowany w ,,węższy” sposób np. poprzez wyliczenie konkretnych rodzajów okoliczności, może to nadmiernie ograniczyć kompetencje Komisji do prowadzenia kontroli w formie innej niż zdalna w sytuacjach, które tego wymagają, a które trudno z góry przewidzieć i precyzyjnie określić w przepisie. 123. Art. 40 ust. 2 Konfederacj a Lewiatan Propozycja brzmienia: 2. Jeżeli przeprowadzenie określonych czynności kontrolnych wymaga wiedzy specjalistycznej, Komisja może upoważnić do udziału w nich biegłego osobę, która posiada takie kompetencje Uzasadnienie: Rekomendowana zmiana siatki pojęciowej. Kim jest \"osoba posiadająca wiedzę specjalistyczną\" - takiego pojęcia nie zawiera ustawa- Prawo przedsiębiorców, ani też KPA - (jeśli ma do art. 43 zastosowanie?). KPA posługuje się pojęciem \"wiadomości specjalnych\" i mówi o biegłym - co do osoby którego przyznane są stronie gwarancje procesowe - jak prawo do żądania wyłączenia takiej osoby z postępowania. Przy takim zapisie takich praw brak a muszą być one zagwarantowane choćby ze względu na konflikt interesów. Ustawa nie określa wystarczających zabezpieczeń dotyczących osób, które Komisja może upoważnić do udziału w kontroli. Przepis ten stwarza ryzyko, że upoważniony kontroler może być konkurentem kontrolowanego podmiotu lub mieć osobisty interes w wydaniu niekorzystnego protokołu kontroli. Ustawa nie zawiera jasnych kryteriów oceny kwalifikacji eksperta zewnętrznego ani wyraźnych zobowiązań dotyczących poufności informacji uzyskanych w trakcie kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza Biura nie przechodziłyby formalnych szkoleń w zakresie Uwaga częściowo uwzględniona W przepisie dodatkowo posłużono się pojęciem „wiadomości specjalne”. Dodatkowo art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 90 prowadzenia kontroli, co mogłoby prowadzić do nierzetelnych, nieskutecznych lub prawnie wadliwych procedur kontrolnych. Komisja powinna zapewnić, że personel kontrolny, także ten spoza Biura, posiada niezbędne kompetencje, poprzez szkolenia i inne działania budujące zdolności. Ewentualnie, zalecamy usunięcie tego przepisu lub jego doprecyzowanie w celu zminimalizowania ryzyka, zapewnienia odpowiedniego bezpieczeństwa i przejrzystości procesu wyboru osoby spoza Biura Komisji do czynności kontrolnych. 124. Art. 38-48 NCBR 1. Postępowania prowadzone przez Komisję mogą trwać do 12 miesięcy, co może prowadzić nie tylko do opóźnień we wdrażaniu innowacji, ale wręcz stanowić zagrożenie dla dalszej egzystencji kontrolowanego przedsiębiorstwa. Należy skrócić ten okres. 2. Przepisy zawierają zbyt szerokie, nieuzasadnione merytorycznie uprawnienia kontrolujących, co może rodzić ryzyko nadmiernego dostępu do dokumentów, które nie są bezpośrednio związane z nadzorem nad SSI. Zakres kontroli musi mieć uzasadnione (udokumentowane) przesłanki oraz ściśle określone ramy (granice). 3. Proces odwołań od decyzji Komisji przed Sądem Ochrony Konkurencji i Konsumentów jest złożony. Należy uprościć procedury odwoławcze, aby umożliwić szybsze rozstrzyganie sporów. 4. W ustawie należy uwzględnić konieczność zastosowania szczególnych środków bezpieczeństwa cybernetycznego, zwłaszcza w trakcie realizowanych przesz Komisję kontroli. Kontrolujący powinien być zobowiązany (na piśmie) o zachowania tajemnicy kontrolowanego (np. przedsiębiorstwa), w szczególności w zakresie dostępu do danych gospodarczych oraz związanych z ochroną wartości niematerialnych i prawnych (WNiP). Uwaga częściowo uwzględniona 1.Czas trwania postepowania przed komisją został skrócony do 6 miesięcy (art. 43) 2.Przepisy dotyczące kontroli zostały w znaczny sposób zmodyfikowane. 3.Z uwagi na znaczące wyspecjalizowanie Sądu oraz możliwości, jakie daje prowadzenie postępowanie w trybie przepisów kpc przemawia za pozostawieniem odwołań od decyzji Komisji w projektowanym kształcie 4.W ustawie zawarto przepisy dotyczące przestrzegania przez kontrolujących tajemnic prawnie chronionych. 125. Art. 40 ust. 2 IAB Polska Zapewnienie kwalifikacji i niezależności osób przeprowadzających kontrolę Projekt nie precyzuje mechanizmów zabezpieczających przed potencjalnym konfliktem interesów lub brakiem odpowiednich Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje 91 kwalifikacji „zewnętrznych” osób upoważnionych przez Komisję do udziału w kontrolach. Istnieje ryzyko, że kontroler może być konkurentem podmiotu kontrolowanego lub osobą posiadającą osobisty interes w sporządzeniu niekorzystnego protokołu. Dodatkowo, projektowane przepisy nie określają jasnych kryteriów doboru ekspertów zewnętrznych oraz nie nakładają na nich wyraźnego obowiązku zachowania poufności pozyskanych informacji. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej instytucji nie przechodzą formalnych szkoleń w zakresie kontroli, co może prowadzić do nieprawidłowości proceduralnych. Rekomendujemy: 1. doprecyzowanie kryteriów doboru ekspertów, 2. wprowadzenie bezpośredniego i jasnego obowiązku zachowania poufności informacji uzyskanych podczas kontroli, 3. określenie mechanizmów zapobiegających konfliktowi interesów, 4. ograniczenie udziału zewnętrznych ekspertów do sytuacji, gdy wymagane są unikalne, specjalistyczne kompetencje, które nie mogą zostać zapewnione przez pracowników Komisji. W przypadku braku takich zmian rekomendujemy usunięcie przepisu o możliwości powoływania ekspertów zewnętrznych w obecnym brzmieniu, aby uniknąć zagrożeń dla rzetelności procesu kontrolnego. doprecyzowujące kwestie związane z osobą upoważniona do kontroli. 126. Art. 40 ust. 2 ZPP Ustawa nie precyzuje wystarczająco mechanizmów zabezpieczających wybór osób, które mogą być upoważnione przez Komisję do przeprowadzania kontroli. Obecne regulacje stwarzają ryzyko, że wyznaczony kontroler może mieć interesy sprzeczne z interesami kontrolowanego podmiotu lub współpracować z jego Uwaga częściowo uwzględniona Art. 40 (obecnie art. 32) nadano nowe brzmienie. W przepisie wprowadzono regulacje doprecyzowujące kwestie związane z osobą upoważnioną do kontroli. 92 konkurencją. W związku z tym należy wprowadzić następujące zmiany: a) Jednoznacznie określić, że osoby upoważnione do przeprowadzania kontroli nie mogą być powiązane z podmiotami kontrolowanymi ani współpracować z konkurencją tych podmiotów. b) Ustanowić szczegółowe kryteria kwalifikacyjne, obejmujące wymóg braku konfliktu interesów oraz obowiązek zachowania poufności informacji uzyskanych podczas kontroli. Ponadto, brakuje jednoznacznych kryteriów oceny kwalifikacji ekspertów spoza struktury Biura Komisji oraz precyzyjnych zobowiązań dotyczących poufności informacji zdobywanych podczas kontroli. W przeciwieństwie do pracowników Biura Komisji, osoby spoza tej struktury nie są zobowiązane do odbycia formalnych szkoleń z zakresu procedur kontrolnych, co może prowadzić do niedokładnych lub wadliwych kontroli. Komisja powinna zagwarantować, że cały personel zaangażowany w kontrolę – również ten spoza Biura – dysponuje niezbędnymi kompetencjami, poprzez systematyczne szkolenia oraz inne formy wsparcia rozwojowego. W związku z powyższym rekomendujemy albo całkowite usunięcie omawianego przepisu, albo jego precyzyjne doprecyzowanie w celu minimalizacji potencjalnych ryzyk, a także zapewnienia bezpieczeństwa i przejrzystości procesu wyboru zewnętrznych kontrolerów. Precyzyjne ustalenie terminów i procedur administracyjnych Określone w projekcie ustawy procedury i terminy zostały określone w sposób optymalny pozwalający na realizację zadań czy obowiązków i jednocześnie na sprawne prowadzenie czynności bez generowania nadmiernych obciążeń. 127. Art. 41 ust. 1 PUODO W odniesieniu do art. 41 ust. 1 projektu ustawy zwrócić uwagę należy na brak spójności z art. 39 ust. 3, który przewiduje możliwość przeprowadzania kontroli w trybie zdalnym, bez jednoczesnej fizycznej obecności stron. Przepis art. 41 pkt 1 wymaga, by kontrolujący przedstawił imienne upoważnienie oraz okazał legitymację służbową lub dokument tożsamości, co w przypadku kontroli na odległość może budzić wątpliwości w zakresie sposobu realizacji tego obowiązku. Pojawia się wątpliwość, w jaki sposób kontrolujący miałby przedstawić wymagane dokumenty w trybie zdalnym – czy dopuszczalne będzie przekazanie skanów, prezentacja w systemie teleinformatycznym czy inne rozwiązanie techniczne. Uwaga wyjaśniona W zakresie przeprowadzania kontroli intencją projektodawcy jest stworzenie możliwości jak najszerszego wykorzystanie metod porozumiewania się na odległość z wykorzystaniem dostępnych środków. Stąd też podjęta została próba elastycznego uregulowania w tym zakresie i brak sprecyzowania jak ma zostać przekazane upoważnienie czy okazany dokument potwierdzający np., tożsamość. Wytyczną w tym 93 Należy również rozważyć mechanizmy umożliwiające kontrolowanemu weryfikację autentyczności okazywanych dokumentów, co w trybie stacjonarnym odbywa się w sposób bezpośredni. Wątpliwości budzi także sposób doręczania upoważnień do kontroli w przypadku jej zdalnego przeprowadzania – czy możliwe będzie wykorzystanie podpisu kwalifikowanego lub innych środków elektronicznych, które zapewnią autentyczność i integralność dokumentu. zakresie jest to, aby okazywane dokumenty czy potwierdzenie tożsamości nie budziło wątpliwości oraz nie naruszało przepisów o ochronie danych osobowych czy innych tajemnic prawnie chronionych. Intencją jest też aby kwestie techniczne uregulować w aktach rangi podustawowej, a w ustawie zostały jedynie niezbędne przepisy z zakresu materii ustawowej. To pozwoli też na szybsze i elastyczne dostosowywanie prawa do stanu faktycznego. 128. Art. 42 Konfederacj a Lewiatan Uwaga: Celem zwiększenia ochrony kluczowych informacji biznesowych, proponowana ustawa powinna zezwalać podmiotom kontrolowanym na oznaczanie informacji jako tajemnicy handlowej. Takie rozwiązanie, podobne do stosowanego w procedurach kontrolnych Urzędu Ochrony Konkurencji i Konsumentów, zapewniłoby lepsze zabezpieczenie obecnie niewystarczająco chronionych danych. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 129. Art. 42 Pracodawcy w RP Sformułowanie przepisu jest zbyt szerokie, co może umożliwić inspektorom żądanie dostępu do treści klientów w chmurze, co jest niezgodne z art. 78(2) Aktu o AI, który zezwala na żądanie tylko danych niezbędnych do oceny zgodności. Propozycja: Usunięcie zdania o „systemie informatycznym i chmurze obliczeniowej należących do innej osoby”, aby uniknąć nieuprawnionego dostępu do danych klientów. Sformułowanie art. 42 wydaje się być na tyle szerokie, że wyznaczeni inspektorzy mogliby na jego podstawie żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Jednocześnie szeroki zakres kontroli jest niezgodny z art. 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/16789 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 94 kontrolowany ma do nich dostęp. Stoimy więc na stanowisku, że zdanie odnoszące się do „systemu informatycznego i chmury obliczeniowej należącej do innej strony” powinno zostać usunięte. Stwierdzić należy, że żaden przepis ustawy nie powinien być interpretowany jako zobowiązujący dostawcę usług chmurowych do ujawnienia danych klientów. W takich sytuacjach inspektor powinien skierować zapytanie o potrzebne informacje do administratora danych (klienta). Dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia im określenie jakie dokumenty lub informacje klient przechowuje i czy są one istotne dla kontroli. Ponadto klienci korporacyjni i biznesowi często przechowują dane swoich użytkowników i klientów, a ich przymusowe udostępnienie mogłoby skutkować nieuprawnionym ujawnieniem danych podmiotów, które nie są przedmiotem ani celem danego audytu. 130. Art. 42 IAB Polska Wprowadzenie jednoznacznej ochrony tajemnicy przedsiębiorstwa Ustawa powinna wprost umożliwiać podmiotowi kontrolowanemu oznaczanie informacji jako tajemnicy przedsiębiorstwa, analogicznie do procedur stosowanych przez Urząd Ochrony Konkurencji i Konsumentów. Obecny brak takiego rozwiązania skutkuje niewystarczającą ochroną kluczowych danych biznesowych. Wdrożenie mechanizmu oznaczania informacji jako poufnych zapewni większą pewność prawną oraz umożliwi skuteczniejszą ochronę interesów gospodarczych podmiotów objętych kontrolą. Uwaga wyjaśniona Art. 42 (obecnie art. 34) nie wyłącza przepisów o ochronie informacji niejawnych i innych informacji prawnie chronionych. A nawet wprost wskazuje na obowiązek ich respektowania. 131. Art. 42 IAB Polska Usunięcie zdania odnoszącego się do systemu informatycznego i chmury obliczeniowej należącej do innej strony Analizując język art. 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Uwaga wyjaśniona W celu ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 95 Taki zakres kontroli wydaje się być niezgodny z art. 78(2) AI Act, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem AI Act, podczas gdy art. 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Jednocześnie zwracamy uwagę, że: 1. Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. 2. Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie pisma, dokumenty lub inne informacje mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. 3. Ponadto, klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 132. Art. 42 ZPP Zawęzić zakres dostępu do treści przechowywanych w chmurze – kontrola powinna obejmować wyłącznie dane niezbędne do przeprowadzenia audytu, przy jednoczesnym poszanowaniu tajemnicy handlowej i ochrony danych osobowych. Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów 96 rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 133. Art. 42-44 (uwaga ogólna) IAB Polska Ujednolicenie terminologii dotyczącej danych i informacji Projekt ustawy posługuje się niespójną terminologią odnoszącą się do różnych rodzajów danych, dokumentów i materiałów, co może prowadzić do trudności interpretacyjnych oraz ryzyka niejednolitego stosowania przepisów. Rekomendujemy: 1. przeprowadzenie analizy pod kątem precyzji technicznej i językowej, 2. eliminację terminów o potencjalnie synonimicznym lub homonimicznym znaczeniu, 3. jednoznaczne określenie kategorii danych i informacji oraz ich zakresu stosowania w przepisach. Ujednolicenie pojęć zwiększy przejrzystość regulacji oraz ograniczy ryzyko sprzecznych interpretacji przepisów, co jest kluczowe dla skutecznego stosowania ustawy. Uwaga wyjaśniona Przepisy zostały przeanalizowane. Jednocześnie informujemy, że tekst projektu zostanie pod względem językowo terminologicznym dopracowany na etapie komisji prawniczej. 134. Art. 42 ust. 1 pkt 1) Konfederacj a Lewiatan Propozycja brzmienia: 1) żądania udostępnienia związanych z przedmiotem kontroli akt, ksiąg, wszelkiego rodzaju pism, dokumentów oraz ich odpisów i wyciągów, korespondencji przesyłanej pocztą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych, w tym także zapewnienia dostępu do systemów informatycznych oraz chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego Uwaga wyjaśniona W celu dokonania w ramach kontroli pełnych ustaleń z zakresu przestrzegania przepisów rozporządzenia 2024/1689 oraz ustawy kontrolujący powinien mieć dostęp do szerokiego źródła danych w tym do określonej w art. 42 (obecnie art. 34) ust. 1 pkt 1 chmury obliczeniowej oraz systemu informatycznego. Ustalenia 97 związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; Uzasadnienie: Analizując język Artykułu 42, wydaje się on być na tyle szeroki, że wyznaczeni inspektorzy mogliby żądać dostępu do treści klientów przechowywanych w kontach chmurowych. Taki zakres kontroli wydaje się być niezgodny z Artykułem 78(2) Aktu o AI, który zezwala organom na żądanie wyłącznie danych ściśle niezbędnych do realizacji zadań związanych z oceną zgodności i egzekwowaniem Aktu o AI, podczas gdy Artykuł 42(1) wyraźnie wspomina o dostępie do systemów informatycznych i chmury obliczeniowej należącej do innego podmiotu, zawierających dane Kontrolowane związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp. Ponadto: • Żaden przepis tej ustawy nie może być interpretowany jako wymagający ujawnienia danych klientów przechowywanych przez dostawcę usług chmurowych. W takich przypadkach inspektor powinien przekierować żądanie do administratora danych (klienta) w celu uzyskania żądanych informacji. Jest to zgodne z ustalonymi wytycznymi organów ścigania w wielu krajach dotyczącymi pozyskiwania danych należących do klientów korporacyjnych i biznesowych, przechowywanych u dostawcy usług chmurowych. • Należy zauważyć, że dostawcy usług chmurowych nie mają wglądu w treści przechowywane w imieniu klientów, co uniemożliwia określenie, jakie \"pisma, dokumenty lub inne informacje\" mogą być przechowywane przez klienta i czy są one istotne dla audytu inspektora. • Klienci korporacyjni i biznesowi zazwyczaj przechowują dane należące do ich własnych użytkowników końcowych i klientów, więc przymusowe udostępnienie takich danych może skutkować niewłaściwym ujawnieniem danych należących do podmiotów, które nie są przedmiotem lub nie są istotne dla danego audytu. kontrolującego w oparciu o samą dokumentacją mogą nie dać jednoznacznych wyników. 135. Art. 42 ust. 1 pkt 3 IAB Polska Zapewnienie odpowiednich narzędzi dla kontrolerów do sporządzania kopii dokumentów przez Komisję. Uwaga wyjaśniona 98 Obowiązek sporządzania kopii dokumentów powinien spoczywać na Komisji, a nie na podmiocie kontrolowanym. Pozostawienie proponowanego przepisu w bieżącym kształcie w praktyce oznaczałoby, że podmiot ten będzie przygotowywał wszystkie kopie samodzielnie. Rolą podmiotu kontrolowanego powinno być wyłącznie podjęcie decyzji o udostępnieniu określonych dokumentów, zgodnie z przepisami o ochronie informacji niejawnych, tajemnicy przedsiębiorstwa lub tajemnicy zawodowej (np. adwokackiej, radcowskiej). Zmieniono treść art. 42 (obecnie art. 34) ust. 1 pkt 3 poprzez usunięcie fragmentu “(.) a także sporządzenia lub w razie potrzeby i o ile jest to technicznie możliwe, żądania sporządzenia przez kontrolowanego, ich kopii, wyciągów z dokumentów oraz zestawień lub obliczeń”. 136. Art. 42 ust. 1 pkt 6 UKNF W projektowanym przepisie słowo „może” jest zbędne. Ponadto, w ocenie UKNF zasadne jest również wykreślenie zwrotu „w której dokumenty się znajdują”. Uwaga uwzględniona Z przepisu wykreślono wskazane w uwadze wyrazy i nadano mu nowe brzmienie. 137. Art. 42 ust. 1 pkt 7 Konfederacj a Lewiatan Propozycja brzmienia: 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli, jednak nie szerszym niż określono w art.23 ust.3 ustawy; Uzasadnienie: Zakres danych musi być ten sam. Uwaga wyjaśniona Z uwagi na brzmienie art. 23 ust. 3 przepis nie wymaga doprecyzowania w tym zakresie. 138. Art. 42 ust. 2 Konfederacj a Lewiatan Zapytanie: Co oznacza, że Kontrolowany ma zapewnić kontrolującemu „czas, warunki i środki\" do sprawnego przeprowadzenia kontroli - w przypadku kontroli zdalnej? W ocenie Konfederacji Lewiatan zapis wymaga doprecyzowania/przeformułowania. Czy kontrolowany ma zapewnić np. komputer, łącze internetowe kontrolującemu? Czy raczej powinien zapewnić te środki po swojej stronie? Uwaga wyjaśniona W przedmiotowym przepisie chodzi o środki i czas pozwalający na przeprowadzenie czynności kontrolnych w niezakłócony sposób ale będące całkowicie po stronie kontrolowanego. Nie odnosi się to do wyposażenia technicznego kontrolującego. 139. Art. 44 Konfederacj a Lewiatan Ustawa znacząco ogranicza znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), naruszając zasadę proporcjonalności i podważając zaufanie do relacji doradczo-prawnych. Kontroler nie powinien mieć prawa kwestionować powołania się przez podmiot kontrolowany na tajemnicę zawodową. Ustawa nie definiuje czym są “wątpliwości” dotyczące powołania się na tajemnicę zawodową ani nie precyzuje, jak dokumenty powinny być zabezpieczone, przez co obecne podejście nie spełnia standardów poufności tajemnicy Uwaga uwzględniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 99 zawodowej. Ponadto sformułowanie “zapewnienie ochrony przed ujawnieniem” jest niejasne, gdyż dokument i tak zostanie ujawniony przynajmniej SOKiK. Prawo powinno gwarantować absolutną ochronę dla komunikacji objętej tajemnicą zawodową, ponieważ nieuzasadniona ingerencja mogłaby podważyć fundamentalne zaufanie do relacji w zakresie doradztwa prawnego i poufności. 140. Art. 44 ZPP Zapewnić ochronę tajemnicy zawodowej poprzez doprecyzowanie przepisów dotyczących poufności komunikacji oraz dokumentów, by nie naruszać relacji doradczo-prawnych. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu, o którym mowa w uwadze. 141. Art. 44 ust. 1 IAB Polska Rozszerzenie zakresu wyłączeń dotyczących dostępu do dokumentów Wyłączenie w proponowanym kształcie (art. 42 ust. 2) odnosi się jedynie do obowiązku przekazania materiałów, lecz nie obejmuje samego prawa dostępu do określonych dokumentów i danych (art. 42 ust. 1). Dla pełnej ochrony tajemnicy zawodowej (np. adwokackiej, radcowskiej) oraz zagwarantowania poufności relacji w zakresie doradztwa prawnego, konieczne jest rozszerzenie zakresu wyłączeń również na dostęp do tych informacji. Bez tego mechanizmu istnieje ryzyko nieuprawnionego ujawnienia poufnych danych, co mogłoby naruszyć prawa podmiotów korzystających z doradztwa prawnego. Uwaga wyjaśniona Przepis został znacznie zmodyfikowany Wykreślono ust. 2, 3 i 5. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 142. Art. 44 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 44. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli pisma i dokumenty lub ich odpisy i wyciągi, akta, korespondencja przesyłanej pocztą elektroniczną, informatyczne nośniki danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, inne urządzenia zawierające dane informatyczne lub systemy informatyczne, w tym chmura obliczeniowa: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. Uwaga częściowo uwzględniona Wprowadzenie do wyliczenia w at. 36 w ust. 1 uzupełniono o wyrazy „lub inne nośniki informacji”. W pozostałym zakresie przepis nie wymaga doprecyzowania dla osiągniecia celu wskazanego w uwadze. 100 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz.U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1, w związku z przedmiotem postępowania prowadzonego przez Komisję, w toku którego jest przeprowadzana kontrola - art. 423 ust. 2 ustawy nie stosuje się. Uzasadnienie: Jeśli w art. 42 ust.1 rozróżnia się wiele rodzajów form i nośników informacji, uprawnienie z art. 44 ust.1 powinno dotyczyć wszystkich tych form a nie tylko dwóch: pism i dokumentów. Informacje objęte tajemnicą adwokacką/radcowską mogą być także zawarte w systemach czy poczcie elektronicznej bądź w zasobach chmury obliczeniowej. Przepis powinien odwoływać raczej do art. 43 a nie 42 ust.2 Ponadto, obecne wyłączenie dotyczy jedynie obowiązku przekazania materiałów (art. 42 ust. 2 Ustawy), ale powinno również obejmować prawo dostępu do określonych danych, materiałów, informacji i dokumentów (art. 42 ust. 1 Ustawy). Jest to konieczne dla pełnej ochrony tajemnicy adwokackiej oraz zapewnienia poufności w relacjach doradztwa prawnego. 143. Art. 44 ust. 2-5 IAB Polska Jednoznaczne zagwarantowanie absolutnej ochrony tajemnicy zawodowej, obejmującej zarówno treść dokumentów, jak i ich kontekst Choć Projekt uznaje znaczenie tajemnicy zawodowej (adwokackiej, radcowskiej), jednocześnie znacząco ją ogranicza, co narusza zasadę proporcjonalności oraz podważa zaufanie do relacji doradczo- prawnych. Uwaga uwzględniona Usunięto art. 44 (obecnie art. 36) ust. 2, 3 i 5. Powołanie się na tajemnicę zawodową może stanowić podstawę do celowego nieujawniania danych a tym samy może w konsekwencji prowadzić do braku możliwości ustalenia stanu faktycznego przez kontrolującego. Powoływanie 101 Kontroler nie powinien mieć uprawnienia do kwestionowania powołania się przez podmiot kontrolowany na tajemnicę zawodową, gdyż stwarza to pole do arbitralnych decyzji. Projekt nie precyzuje, co oznaczają wątpliwości dotyczące powołania się na tajemnicę zawodową. Nie jest również wymagane ich uzasadnienie, co rodzi ryzyko nadużyć. Niejasne jest również sformułowanie zapewnienie ochrony przed ujawnieniem. Dokument objęty tajemnicą zawodową i tak musiałby zostać w jakiś sposób przekazany co najmniej do SOKiK, co nie zapewnia pełnej poufności. Nieuzasadniona ingerencja w tajemnicę zawodową mogłaby podważyć fundamentalne zaufanie do poufności relacji klient- adwokat/radca prawny, co jest sprzeczne z zasadami demokratycznego państwa prawa. się na tę okoliczność powinno podlegać weryfikacji. W celu zapewnienia ochrony tajemnicy w przepisie przewidziano, że ciężar dowodu spoczywa na kontrolującym. Ograniczy to dostęp do przedmiotowych dokumentów osób postronnych. 144. Art. 45 IAB Polska Wykreślenie z Projektu postanowień przewidujących angażowanie Policji w działania kontrolne Wprowadzenie specjalnych procedur angażujących Policję w czynności kontrolne jest nieuzasadnione i nadmierne. Policja może zostać wezwana w sytuacjach, gdy zdarzenie stanowi przestępstwo lub wykroczenie – nie ma potrzeby dodatkowego regulowania tej kwestii w ustawie. Tego rodzaju mechanizm przywołuje przestarzałe praktyki inwigilacyjne, które nie przystają do współczesnych standardów państwa prawa. Relacje między obywatelami a państwem powinny opierać się na zasadzie wzajemnego zaufania. Uwaga wyjaśniona Wsparcie Policji kontrolującym jest niezbędne w celu zapewnienia bezpieczeństwa kontrolującym. Udział Policji w szczególnych przypadkach będzie poległ wyłącznie na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania. 145. Art. 45 IAB Polska Rezygnacja z angażowania jednostek podległych ministrowi ds. cyfryzacji w czynności kontrolne Komisji Angażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w procesie kontroli jest nieuzasadnione. Komisja powinna posiadać wystarczające kompetencje oraz narzędzia, aby Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia 102 samodzielnie przeprowadzać postępowania kontrolne, bez konieczności angażowania podmiotów zewnętrznych. Zewnętrzny udział budzi poważne wątpliwości dotyczące poufności postępowań, zwłaszcza biorąc pod uwagę wrażliwy zakres informacji objętych kontrolą. do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które. posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 146. Art. 45 ZPP Wyłączyć możliwość angażowania w działania kontrolne Komisji jednostek zewnętrznych, które mogłyby naruszyć niezależność organu kontrolnego, zapewniając, że Komisja dysponuje odpowiednimi kompetencjami i zasobami. Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają doświadczenie, kompetencje i narzędzia w tym zakresie. 147. Art. 45 Konfederacj a Lewiatan Zaangażowanie jednostek podległych i nadzorowanych przez ministra ds. cyfryzacji w pomoc Komisji jest nieuzasadnione. Komisja powinna dysponować odpowiednimi kompetencjami i zasobami umożliwiającymi samodzielne i skuteczne przeprowadzanie kontroli. Włączenie zewnętrznych jednostek w proces kontrolny budzi obawy dotyczące zachowania poufności, zwłaszcza biorąc pod uwagę potencjalnie wrażliwy charakter badanych spraw. Przepis umożliwiający zwrócenie się o wsparcie Policji jest zbędny. Policję można wezwać zawsze wtedy, gdy dojdzie do popełnienia przestępstwa lub wykroczenia. Nie ma potrzeby tworzyć specjalnych procedur angażowania Policji w czynności kontrolne. Takie Uwaga wyjaśniona Mając na uwadze zakres przedmiotowy regulacji, oraz szybko rozwijającą się technologię pełne wyposażenie Komisji w kompetencje i narzędzia do przeprowadzenia kontroli nie w każdej sytuacji może być osiągalne. Stąd też w celu zapewnienia poprawności przeprowadzenia kontroli niezbędne jest umożliwienie korzystania przez Komisję ze wsparcia przy ustalaniu stanu faktycznego w zakresie wskazanym w art. 45 (obecnie art. 37) ust. 2 pkt 2. Zaufanych podmiotów, które posiadają 103 rozwiązanie nie przystaje do nowoczesnego państwa, które szanuje zasady legalizmu, praworządności oraz wzajemnego zaufania obywatela do państwa i państwa do obywatela. doświadczenie, kompetencje i narzędzia w tym zakresie. Aby móc zapewnić wsparcie Policji niezbędne jest zawarcie stosowanych przepisów w projekcie ustawy. 148. Art. 46 ust. 1 IAB Polska Sporządzanie projektu protokołu kontroli przez kontrolera Projekt protokołu kontroli powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Zakładamy, że postanowienie w obecnym brzmieniu jest wynikiem omyłki redakcyjnej. Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. 149. Art. 46 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 46. 1. Z przeprowadzonych czynności kontrolnych kontrolujący sporządza projekt protokołu. Uzasadnienie oraz zapytanie: Projekt raportu powinien być sporządzony przez kontrolera, a nie przez podmiot kontrolowany. Czy Protokół ma być z każdej czynności kontrolnej osobno, a z całej kontroli? Uwaga uwzględniona W przepisie skorygowano błąd redakcyjny. Projekt protokołu odnosi się do całej kontroli. 150. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 151. Art. 46 ust. 4 IAB Polska Wydłużenie terminu na wniesienie zastrzeżeń do projektu protokołu kontroli do 60 dni. Uwaga wyjaśniona. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli 104 Obecnie przewidziany 7-dniowy termin na wniesienie zastrzeżeń jest zbyt krótki, zwłaszcza w przypadku skomplikowanych spraw, które wymagają dogłębnej analizy zebranego materiału. Protokół kontroli może zawierać obszerną dokumentację, wymagającą szczegółowego odniesienia się do kwestii prawnych, technicznych lub proceduralnych. Projektowany termin utrudni podmiotom rzetelne przygotowanie argumentacji i odpowiedzi na ustalenia kontrolne, co może prowadzić do nierówności proceduralnej. W przypadkach tak złożonych, jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora często wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 proponowanych dni. Tym bardziej, że brak zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Wydłużenie tego terminu do 60 dni zapewni możliwość skutecznej analizy protokołu i sformułowania merytorycznych zastrzeżeń. oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 152. Art. 46 ust. 4 UKNF Mając na uwadze brzmienie art. 46 ust. 2 pkt 9 projektu ustawy, z którego wynika fakultatywność zgłaszania zastrzeżeń do projektu protokołu kontroli, UKNF poddaje pod rozwagę modyfikację brzemienia przepisu w następujący sposób: „W terminie 7 dni od dnia doręczenia projektu protokołu kontroli kontrolowany może zgłosić pisemne zastrzeżenia do jego treści.” Uwaga uwzględniona Przepisowi nadano brzmienie uwzględniające fakultatywność złożenia zastrzeżeń (art. 38 ust. 4). 153. Art. 46 ust. 4 ZPP Zalecamy wydłużenie okresu na wniesienie zastrzeżeń do raportu z kontroli do minimum 14 dni. Obecny, 7-dniowy termin jest niewystarczający, zwłaszcza przy rozległym zakresie kontroli i dużej ilości analizowanych danych, materiałów oraz dokumentów, co utrudnia przygotowanie merytorycznych uwag w przypadkach złożonych spraw. Uwaga częściowo uwzględniona Błąd redakcyjny został skorygowany. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest 105 a) Wyeliminować błąd, który wskazuje, że kontrolowany podmiot jest odpowiedzialny za sporządzenie protokołu kontroli. Prosimy, aby protokół był sporządzany przez organ kontrolny. ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 154. Art. 46 ust. 4 Konfederacj a Lewiatan Propozycja brzmienia: 4. W terminie 7 14 dni od dnia doręczenia projektu protokołu kontroli kontrolowany składa ma prawo złożyć pisemne zastrzeżenia do jego treści. Uzasadnienie: Jeśli nie ma zastrzeżeń to nie powinno być to obowiązkiem, ale uprawnieniem. Proponujemy wydłużenie terminu wnoszenia zastrzeżeń do raportu z kontroli do co najmniej 14 dni. Ze względu na potencjalnie obszerny zakres kontroli oraz ilość analizowanych danych, materiałów, informacji i dokumentów, przygotowanie merytorycznych zastrzeżeń w terminie 7 dni może okazać się niemożliwe, szczególnie w przypadku złożonych spraw. Uwaga częściowo uwzględniona W przepisie określono fakultatywność złożenia zastrzeżeń przez kontrolowanego. Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 155. Art. 46 ust. 4 Pracodawcy RP Podkreślenia wymaga, że w przypadkach tak złożonych jak systemy AI, ustosunkowanie się do zastrzeżeń regulatora niejednokrotnie wymaga wkładu specjalistów z różnych działów, co może być niezwykle trudne do zrealizowania w ciągu zaledwie 7 dni – zaproponowanych w art. 46 ust. 4 projektu. Jesteśmy zdania, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Tym bardziej, że brak wniesienia zastrzeżeń w terminie oznacza, że projekt protokołu uznaje się za przyjęty, co dodatkowo podkreśla potrzebę zapewnienia odpowiedniej ilości czasu na zapoznanie się z jego treścią. Termin 7 dni na ustosunkowanie się do zastrzeżeń regulatora jest zbyt krótki, szczególnie dla złożonych systemów AI. Propozycja: Wydłużenie terminu do co najmniej 60 dni, aby firmy mogły przeanalizować zastrzeżenia i odpowiedzieć. Uwaga wyjaśniona Projektodawca uważa termin 7-dniowy za optymalny. Pozwala on kontrolowanemu na zapoznanie się z treścią projektu protokołu kontroli oraz na przygotowanie zastrzeżeń a także nie wpływa na przedłużenie kontroli której celem jest ustalenie przestrzegania przepisów rozporządzenia 2024/1689 i ustawy. 156. Art. 46 ust. 5 UKNF Wątpliwości UKNF budzi możliwość podejmowania „dodatkowych czynności kontrolnych” już po sporządzeniu projektu protokołu Uwaga uwzględniona 106 kontroli, co może mieć miejsce już po zakończeniu kontroli. Jest to istotna kwestia w kontekście wskazanych w upoważnieniu do przeprowadzenia kontroli dat rozpoczęcia i przewidywanego terminu zakończenia kontroli. Przepisy dotyczące “dodatkowych czynności kontrolnych” zostały usunięte. 157. Art. 46. ust. 5 i ust. 8 Konfederacj a Lewiatan Uważamy, iż w treści przepisu należy doprecyzować w jakim terminie osoba kontrolująca dokonuje tych czynności. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 158. Art. 46 ust. 6 UKNF W ocenie UKNF uzasadnione jest doprecyzowanie w jakiej formie kontrolujący ma sporządzić informację o nieuwzględnieniu zastrzeżeń kontrolowanego do protokołu kontroli. Proponujemy zachować analogiczną formę jak w przypadku protokołu kontroli (postać elektroniczna). Uwaga wyjaśniona Założeniem ustawy jest, aby wszystkie czynności w ramach kontroli były prowadzone w formie elektronicznej. Dotyczy to także kwestii związanych z projektem protokołu i protokołem kontroli, a także wymiany dokumentów w ramach zgłaszanych zastrzeżeń. Dodatkowo informacja o braku uwzględnienia zastrzeżeń powinna znaleźć się w ostatecznym protokole (art. 38 ust. 5 i 8). 159. Art. 46 ust. 8 UKNF W ocenie UKNF uzasadnione jest określenie terminu na sporządzenie protokołu kontroli. Uwaga wyjaśniona Projektodawca nie uznaje za zasadne wprowadzania terminów w tym zakresie. 160. Art. 46 ust. 11 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że po złożeniu podpisu elektronicznego na protokole kontroli (przez którąkolwiek ze stron) technicznie niemożliwe jest dokonanie wzmianki w protokole wskazującej na odmowę jego podpisania. Przedmiotowy przepis powinien zatem ulec odpowiedniej modyfikacji. Uwaga wyjaśniona Możliwość adnotacji jest uzależniona od posiadanego systemu. 161. Art. 47 Konfederacj a Lewiatan W ust. 1-4 brak jest spójności. W jednych postanowieniach pisze się o Komisji a w innych o samym Przewodniczącym jako określającym coś, wydającym zalecenia pokontrolne - nie wiadomo więc, czy to kompetencja całej Komisji czy Przewodniczącego. Uwaga wyjaśniona Wydanie zaleceń pokontrolnych należy do kompetencji Przewodniczącego Komisji. (art. 39 ust. 1). 107 162. Art. 47 UKNF Urząd Komisji Nadzoru Finansowego wskazuje, że przedmiotowy przepis zawiera błędy redakcyjne, które mogą utrudniać jego właściwą interpretację. W przepisie należy uzupełnić brakujący tekst (po przecinku w ust. 1 i w ust. 2 pkt 1), dostosować numerację (ust. 2 występuje dwa razy) i skorygować odesłania w ust. 2 i 4. Uwaga uwzględniona Skorygowano błędy redakcyjne. 163. Art. 47 ust. 2 pkt 1 Konfederacj a Lewiatan Propozycja brzmienia: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia nie i Uzasadnienie: Proponujemy usunięcie fragmentu „nie i” oraz zastąpienie go średnikiem. Uwaga uwzględniona Usunięto fragment „nie i” oraz zastąpiono go średnikiem. 164. Art. 49 ZPP Uregulować kwestie odpowiedzialności – w szczególności, aby sankcje były nakładane na podmioty, a nie na członków zarządu, co zapewni proporcjonalność środków. Uwaga wyjaśniona W kwestii odpowiedzialności zastosowanie znajdują odrębne przepisy. 108 165. Rozdział IV KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji Rozdział IV Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI i V Modele AI ogólnego przeznaczenia: art. 50 ust. 2 i 4 (obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI) w odniesieniu do systemów generatywnej sztucznej inteligencji w kontekście prawa do informacji; art. 53 (obowiązki dostawców modeli AI ogólnego przeznaczenia); art. 55 (obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym) - zważywszy na dynamicznie rosnące zainteresowanie korzystaniem z narzędzi generatywnej AI jako niezależnych źródeł informacji, ale także z uwagi na rosnące wykorzystanie szerszej kategorii systemów AI ogólnego przeznaczenia w ramach usług świadczonych przez tradycyjnych dostawców usług medialnych - od „robo- dziennikarstwa”, przez tłumaczenia automatyczne generowane przez użytkowników bezpośrednio z aplikacji dostawcy usług medialnych, przez systemy weryfikacji informacji (fackt-checking), autodeskrypcji, aż do kompleksowego tworzenia programu (zestawiania audycji i innych składników programu), jak również wykorzystywania tych narządzi w ramach debaty publicznej; Uwaga wyjaśniona W projekcie ustawy została uwzględniona rola KRRiT w ramach art. 5 ust. 3 oraz art. 6 ust. 2 projektu ustawy. 166. Art. 49 ust. 2 UKNF Dotychczas zgłoszona przez UKNF uwaga nie została należycie uwzględniona. Wszczęcie postępowania administracyjnego w trybie, o którym mowa w art. 49 ust. 2 pkt 2 i 4 (wszczęcie na wniosek Przewodniczącego Komisji, Zastępcy lub członka Komisji oraz wszczęcie na wniosek Rady) nie jest trybem wszczęcia postępowania na wniosek, gdyż taki wniosek nie pochodzi od strony postępowania. W przypadkach, o których mowa w art. 49 ust. 2 pkt 2 i 4 projektu ustawy wszczęcie powinno następować z urzędu, w oparciu o informacje przekazane przez wskazane w tych przepisach organy. Również tryb wskazany w art. 49 ust. 2 pkt 3 projektu ustawy nie stanowi o postępowaniu administracyjnym wszczynanym na wniosek w przedmiocie naruszenia przepisów rozporządzenia Uwag wyjaśniona Przepis precyzuje jakie podmioty i w jaki sposób mogą inicjować wszczęcia postępowania. W ocenie projektodawcy wskazania są adekwatne. 109 2024/1689. Wydaje się, że przepis w tym zakresie stanowi o formie współpracy z innymi organami nadzoru. 167. Art. 49 ust. 2 pkt 4 IAB Polska Usunięcie uprawnień Rady w zakresie inicjowania postępowania w sprawie naruszenia AI Act Rada pełni funkcję doradczą i konsultacyjną, dlatego nie powinna mieć uprawnień do wnioskowania o wszczęcie postępowania. Nadanie jej takich kompetencji wykracza poza jej zamierzoną rolę. Rada nie posiada wymaganych kompetencji proceduralnych, aby ocenić zasadność wszczęcia postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 168. Art. 49 ust. 2 pkt 4 Konfederacj a Lewiatan Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania. Uwaga wyjaśniona Rada pełni funkcję opiniodawczo-doradczą dla Komisji. Z racji swojej funkcji i może posiadać specyficzna wiedzę z zakresu funkcjonowania systemów sztucznej inteligencji. Zasadnym jest aby przysługiwało jej prawo do wnioskowania o wszczęcie postępowania (art. 41 ust. 2 pkt 4). 169. Art. od 49 RPO Przez wzgląd na rolę urzędu Rzecznika Praw Obywatelskich, opinia koncentruje się na problematyce związanej z koniecznością zapewnienia właściwie ukształtowanej procedury skargowej, która winna urzeczywistniać prawo wniesienia środka prawnego (skargi) do organu nadzoru rynku w rozumieniu art. 85 rozporządzenia 2024/16892, przez co rozumieć należy spoczywający na ustawodawcy krajowym obowiązek wprowadzenia takich rozwiązań specjalnych w systemie prawa, które urzeczywistniając prawo unijne, będą jednocześnie maksymalnie efektywne na poziomie krajowym, bez uszczerbku dla innych już istniejących administracyjnych lub sądowych środków ochrony prawnej. Z tych względów procedura skargowa powinna, w ocenie RPO, przede wszystkim zostać ukształtowana w taki sposób, aby jej przebieg zabezpieczał po stronie osoby fizycznej lub prawnej w możliwie najdalej idącym stopniu prawo do skutecznego środka prawnego oraz skutecznej ochrony sądowej w przypadku naruszenia przepisów rozporządzenia 2024/16893. Na poziomie unijnym prawo to ma Uwaga wyjaśniona Zgodnie z art. 50 (obecnie art. 42) projektu ustawy każda osoba fizyczna ma prawo złożyć skargę, o której mowa w art. 85 rozporządzenia 2024/1689. Skargę składa się do Komisji na naruszenie przepisów tego rozporządzenia lub ustawy. Skarga jest rozpatrywana przez Komisję i w przypadku stwierdzenia możliwości naruszenia ww. przepisów Przewodniczący Komisji może złożyć wniosek o wszczęcie postępowania, o którym mowa w art. 49 (obecnie art. 41). Stroną tego postępowanie nie jest jednak skarżący. Dalej postępowanie przed komisją toczy się w trybie przepisów rozdziału 4 i stosuję się do niego przepisy Kodeksu postępowania administracyjnego. Postepowanie kończy się 110 charakter samoistny, wynikający ze wspólnych tradycji konstytucyjnych państw członkowskich, dodatkowo zabezpieczony w art. 51 ust. 1 Karty praw podstawowych UE wymogiem poszanowania praw podstawowych określonych Karcie, który jest wiążący dla państw członkowskich wyłącznie wtedy, gdy państwa działają w zakresie zastosowania prawa Unii. Z tych względów zasada skuteczności ochrony sądowej wymaga, aby krajowe zasady proceduralne postępowań służące zapewnieniu pełnej ochrony uprawnień, które jednostki wywodzą z prawa Unii, nie uniemożliwiały lub nie czyniły w praktyce nadmiernie utrudnionym wykonywania uprawnień wynikających z porządku prawnego Unii. Ustrojową przestrzeń tego prawa wyznaczają art. 45 ust. 1 oraz art. 77 ust. 2 Konstytucji RP7. Dodatkowo zaś, w pewnych sytuacjach, w których krajowy system prawny, przy rozstrzyganiu sporów cywilnych, przewiduje tryb administracyjnosądowy, lub tryb prejurysdykcyjnego postępowania administracyjnego – także art. 77 ust. 1 Konstytucji RP. W projekcie ustawy sytuacja prawna podmiotu (skarżącego), któremu art. 85 rozporządzenia 2024/1689 gwarantuje prawo do wniesienia skargi do krajowego organu nadzoru została ukształtowana w taki sposób, że skarżący nie będzie stroną wszczętego postępowania i będą mu przysługiwały jedynie ograniczone uprawnienia informacyjne w zakresie: 1) otrzymania skargi przez organ; 2) wszczęcia postępowania, o którym mowa w art. 50 ust. 5 projektu ustawy; oraz 3) zakończenia tego postępowania. Postępowanie to, jak przekonują o tym kolejne odesłania z art. 50 ust. 6 pkt 2 i 3 do art. 50 ust. 5 projektu ustawy, a następnie odesłanie ogólne do przepisów rozdziału 4 tej ustawy – jest zatem postępowaniem w sprawie związanej z postępowaniem w sprawie naruszenia przepisów rozporządzenia 2024/1689, przy czym do postępowania w sprawie głównej (przed Komisją) w zakresie nieuregulowanym stosuje się przepisy ustawy z dnia 14 czerwca 1960 Kodeks postępowania administracyjnego. Zaakcentowania wymaga w tym miejscu, że zgodnie z podstawowymi zamierzeniami rozporządzenia 2024/1689, to państwa członkowskie odgrywają wydaniem decyzji nakazowej. Z naruszeniem przepisów wiąże się też nałożenie administracyjnej kary pieniężnej. Od decyzji stronie (podmiotowi wobec którego wydano decyzje) przysługuje skarga do sądu ochrony konkurencji i konsumentów. W tym postępowaniu skarżący również nie jest stroną. Celem projektowanej procedury jest zagwarantowanie każdej osobie fizycznej lub prawnej, mającej podstawy by uznać, że zostały naruszone przepisy rozporządzenia 2024/1689 wniesienia skargi do organu nadzoru rynku. Wniesienie tej skargi następuje bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej i ma służyć do celów prowadzenia działań z zakresu nadzoru rynku. Nie jest to więc typowa skarga w rozumieniu KPA a raczej „zawiadomienie” które zostanie rozpatrzone zgodnie z ustalonymi przez organ nadzoru procedurami. 111 kluczową rolę w stosowaniu i egzekwowaniu jego postanowień, a co za tym idzie odpowiadają za korzystne ukształtowanie sytuacji prawnej jednostki przed organami krajowymi. W tym zakresie projekt budzi wątpliwości RPO z następujących przyczyn. Po pierwsze, specjalny środek prawny przewidziany w art. 85 rozporządzenia 2024/1689 w kształcie, jaki nadał mu projektodawca w opiniowanym projekcie ustawy, ukształtuje sytuację skarżącego w sposób nietransparentny i mniej korzystny, niż np. tzw. skarga powszechna, uregulowana w art. 227 K.p.a. i nast. (a więc w sposób charakterystyczny np. dla ogólnej procedury zgłaszania naruszeń w rozumieniu dyrektywy 2019/193711, do której odsyła art. 87 rozporządzenia 2024/1689, a nie procedury dochodzenia praw we własnej sprawie). Po drugie, zaznaczenia wymaga, że ustawodawca jest uprawniony do stanowienia prawa odpowiadającego założonym celom politycznym i gospodarczym, zaś władztwo to nabiera szczególnego znaczenia w okresie istotnych przemian społecznych czy ustrojowych. Bez wątpienia konieczność sprostania wyzwaniom, jakie niosą takie procesy może powodować, że projektowane procedury, instrumenty prawne czy instytucje mogą odbiegać od dotychczas przyjętych rozwiązań. Podkreślenia, jednakże wymaga, że projektowane w takim zamierzeniu rozwiązania powinny przykładowo służyć polubownemu załatwianiu sporów, które zwiększa spójność społeczną, przyczyniać się do korzystniejszego usytuowania jednostki w prowadzonym postępowaniu, czy też stwarzać możliwości bardziej efektywnego egzekwowania interesów jednostek. Trudno dostrzec, aby projektowana procedura skargowa przyczyniała się do osiągnięcia któregokolwiek z celów. Po trzecie, przyjęcie rozporządzenia 2024/1689 poprzedzone zostało wielopłaszczyznowym zidentyfikowaniem wyzwań, jakie w szczególności niesie rozwój, wdrażanie, wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie Sztucznej Inteligencji (AI) w wielu różnych sektorach gospodarki i 112 obszarach życia społecznego. Z tych względów konieczność zapobieżenia rozdrobnienia rynku wewnętrznego, jak również wymóg zapewnienia zgodności przepisów rozporządzenia z Kartą praw podstawowych oraz międzynarodowymi zobowiązaniami handlowymi Unii powoduje, że przepisy te muszą jednocześnie: 1) być wysoce zharmonizowane14; 2) być m.in. ukierunkowane na ochronę osób fizycznych, przedsiębiorstw, demokracji, praworządności na wszystkich poziomach obrotu; oraz 3) pozostawiać niezbędną swobodę dla ustawodawcy krajowego, aby ich implementacja mogła dokonać się bez uszczerbku dla innych już istniejących administracyjnych lub sądowych krajowych środków ochrony prawnej, wzmacniając jednocześnie krajowe zdolności niezbędne do skutecznego egzekwowania przepisów rozporządzenia oraz efektywność organizacyjną państw członkowskich. Z perspektywy licznych wyzwań, jakie zostały zidentyfikowane w rozporządzeniu 2024/1689 trudno zatem uznać, że możliwości szerokiego zabezpieczenia sytuacji prawnej jednostki przez ustawodawcę krajowego w procedurze skargowej zostały w projekcie ustawy wykorzystane. Na tle zarysowanych wątpliwości RPO pragnie zauważyć, że w kontekście rozporządzenia 2024/1689 sytuacja prawna jednostki powinna być postrzegana na trzech poziomach ochrony: 1) unijnym; 2) krajowym; oraz 3) sektorowym, czy też branżowym, który łączy poziom krajowy z poziomem unijnym przede wszystkim w drodze dobrowolnych kodeksów postępowania (organy unijne swoje cele osiągają poprzez kodeksy praktyk17), które przyczyniają się do osiągnięcia każdego z trzech ww. wymogów rozporządzenia Dwa ostatnie poziomy należą od projektodawcy krajowego, jak bowiem wyjaśniono – to państwa członkowskie odgrywają kluczową rolę w stosowaniu i egzekwowaniu postanowień rozporządzenia 2024/1689, co wynika zresztą z zasad ogólnych prawa unijnego. 113 Mając na uwadze powyższe pragnę poddać pod uwagę Pana Ministra konieczność ponownego rozważenia w projektowanej ustawie dwóch zasadniczych kwestii wynikających z podniesionych wyżej wątpliwości. Pierwsza dotyczy statusu skarżącego po wniesieniu skargi, o której mowa w art. 85 rozporządzenia 2024/1689, co wymagać będzie oceny i rozstrzygnięcia tego, jakie skutki prawne po stronie skarżącego wywierać powinno wydanie decyzji w zainicjowanym z jego skargi postępowaniu w sprawie naruszenia przepisów rozporządzenia 2024/1689, jak również tego, czy wydanie decyzji otwiera skarżącemu drogę do dochodzenia roszczeń cywilnoprawnych na innych zasadach niż zasady ogólne. W dalszej kolejności będzie to wymagało skorelowania z ustalonym statusem skarżącego odpowiednio zabezpieczonych po jego stronie konkretnych uprawnień, m.in. dostępu do akt, prawa do odwołania czy pouczenia o przysługujących środkach ochrony prawnej, w szczególności po wydaniu decyzji naruszeniowej. Rozstrzygnięcie pierwszej kwestii pozwoli m.in. ocenić: 1) czy ogólne odesłanie do przepisów K.p.a. – sformułowane obecnie w odniesieniu do postępowania w sprawie głównej (przed Komisją) – jest jasne, precyzyjne i wystarczające; 2) czy nie należałoby uregulować wprost możliwości złożenia przez skarżącego skargi na działania lub zaniechania Komisji nawet w drodze odesłania do przepisów działu VIII K.p.a.; a wreszcie 3) czy wymogi formalne dotyczące skargi na działanie systemu sztucznej inteligencji nie są nazbyt restrykcyjne czy też wręcz przeciwnie. Należy przy tym zaznaczyć, że procedura skargowa, o której mowa w art. 85 rozporządzenia 2024/1689 jest procedurą odrębną od procedury zgłaszania naruszeń, o której stanowi art. 87 rozporządzenia (procedura w sprawie ochrony osób zgłaszających naruszenia prawa Unii), dlatego złożona skarga nie powinna de facto być traktowana jak informacja na temat naruszeń w rozumieniu art. 5 pkt 2 dyrektywy 2019/1937. Wniesienia skargi może bowiem być związane z potrzebą dochodzenia w przyszłości zadośćuczynienia lub odszkodowania po stronie skarżącego. Biorąc pod uwagę wyzwania, jakie w szczególności niesie rozwój, wdrażanie, 114 wprowadzanie do obrotu, oddawanie do użytku, upowszechnianie i wykorzystywanie sztucznej inteligencji, możliwość ta powinna zostać zabezpieczona przez ustawodawcę. 170. Art. 50 ust. 1 NSZZ Przepis przewiduje możliwość złożenia skargi na naruszenie przepisów rozporządzenia 2024/1689 lub ustawy. Uwaga: niejasne, czy skarga może dotyczyć wyłącznie naruszeń opiniowanej ustawy, czy także innych ustaw regulujących sztuczną inteligencję (np. w zakresie prawa pracy), zgodnie z art. 2 ust. 11 rozporządzenia 2024/1689. Propozycja: doprecyzowanie, że skarga jest możliwa także w przypadku naruszenia innych ustaw dotyczących sztucznej inteligencji, dla wzmocnienia funkcji ochronnej. Uwaga wyjaśniona Zgodnie z art. 50 ust. 1 (obecnie art. 42) skargę, o której mowa w art. 85 rozporządzenia 2024/1689, można złożyć na naruszenie przepisów tego rozporządzenia lub procedowanej ustawy, która służy umożliwianiu stosowania przepisów AI Aktu. 171. Art. 50 ust. 2 pkt 1 NSZZ Wymóg podania w skardze nazwy systemu AI budzi wątpliwości, ponieważ pracownicy mogą nie znać nazwy systemu (brak obowiązku informowania o nazwie). Brak tej wiedzy utrudnia złożenie skargi. Propozycja: uzupełnienie przepisu o możliwość podania opisu systemu zamiast nazwy, np. dodanie wyrażenia „lub opis”. Uwaga uwzględniona Zgodnie z brzmieniem art. 50 (obecnie art. 42) w aktualnej wersji projektu ustawy skarga zawiera nazwę systemu lub opis. 172. Art. 50 ust. 3 NSZZ Przepis określa formę skargi: elektroniczną (z kwalifikowanym podpisem elektronicznym) lub inne środki komunikacji/biuro Komisji w razie braku możliwości złożenia w formie elektronicznej. Uwaga: większość związków zawodowych nie posiada kwalifikowanego podpisu, a niejasne jest, czy brak podpisu spełnia warunek „braku możliwości”. Propozycja: wprowadzenie alternatywy łącznej – skarga w formie elektronicznej lub innymi środkami komunikacji, lub w biurze Komisji, aby uniknąć nadmiernego obciążenia (np. zakupu podpisu). Uwaga wyjaśniona Art. 50 (obecnie art. 42) ust. 3 nie stanowi konieczności opatrzenia skargi kwalifikowanym podpisem elektronicznym. (42 ust. 3 w ogóle już nie przewiduje opatrywania podpisem! Ust. 3 został doprecyzowany. 173. Art. 52 ust. 3 Konfederacj a Lewiatan Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać zniesiony. Komisja jako profesjonalny organ regulacyjny w dziedzinie sztucznej inteligencji, powinna być w stanie analizować dokumentację w języku angielskim bez konieczności jej tłumaczenia. Zdecydowana większość dokumentacji technicznej, prawnej i dotyczącej zgodności w obszarze SI jest sporządzana oryginalnie w języku Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 115 angielskim. Wiele organów regulacyjnych w UE i na świecie akceptuje dokumentację w języku angielskim. Należy wskazać także, że przy wytwarzaniu algorytmów korzysta się z pakietów/bibliotek od różnych dostawców. Najczęściej jest to dokumentacja wyłącznie w języku angielskim i odnosi się do wysoko specjalistycznego języka analizy matematycznej czy fizyki teoretycznej, którego tłumaczenie jest niemożliwe bez udziału twórcy danej biblioteki. Pakiety statystyczne, biblioteki do narzędzi, które są obecnie powszechnie stosowane podczas budowy modeli mają opisy w języku angielskim. Pozwala to na ich powszechne użycia międzynarodowe. Jest to zunifikowany język rozumiany przez statystyków/ analityków. 174. Art. 52 ust. 3 IAB Polska Rezygnacja z obowiązku dostarczania tłumaczeń dokumentów na koszt stron postępowania Obowiązek dostarczania tłumaczeń dokumentów na język polski na koszt stron postępowania powinien zostać usunięty. Komisja jako profesjonalny organ regulacyjny w sektorze AI, powinna posiadać wystarczającą znajomość języka angielskiego, aby analizować dokumentację techniczną i prawną bez wymogu jej tłumaczenia. AI to dziedzina regulowana na poziomie międzynarodowym, a wiele kluczowych dokumentów technicznych, prawnych i dotyczących zgodności tworzonych jest w języku angielskim. W wielu krajach UE organy regulacyjne akceptują dokumentację w języku angielskim, który jest standardem międzynarodowym w sektorze nowych technologii. Zmuszanie stron do ponoszenia kosztów tłumaczenia jest niepotrzebnym obciążeniem administracyjnym i finansowym, które nie znajduje uzasadnienia w praktyce rynkowej. Uwaga uwzględniona Przepis art. 52 (obecnie art. 44) ust. 3 został wykreślony. 175. Art. 53 IAB Polska Przegląd przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania prawa Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do 116 Artykuł 53 budzi obawy dotyczące rozbieżności, zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające poważniejszych środków. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. Zalecamy dokonanie przeglądu tego przepisu w celu ustalenia zrównoważonego podejścia do egzekwowania przepisów, biorąc pod uwagę: 1. Ograniczone okoliczności, w których AI Act zezwala na wycofanie usług; 2. Identyfikowanie zagrożeń i słabych punktów systemów AI zamiast paraliżowania funkcji biznesowych. zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 176. Art. 53 Pracodawcy RP Stwierdzić należy także, że w art. 53 projekt przewiduje nadmierne środki egzekwowania prawa, takie jak blokowanie dostępu użytkowników do systemu AI lub wycofanie systemu z rynku w przypadkach wyraźnie opisanych jako niewymagające bardziej dolegliwych środków. Sugerujemy ponowne rozważenie treści tego przepisu, tak aby zapewnić bardziej zrównoważone podejście do egzekwowania prawa, uwzględniając przy tym ograniczone możliwości wycofania usług zgodnie z Unijnym Aktem o sztucznej inteligencji, skupienie się na identyfikacji zagrożeń w systemach AI zamiast utrudniania działalności firmom oraz zapewnienie przedsiębiorstwom odpowiedniego czasu (minimum 60 dni) na wdrożenie niezbędnych zmian. Przepis przewiduje nadmierne środki egzekwowania prawa (np. blokowanie dostępu lub wycofanie systemu z rynku) w przypadkach niewymagających tak drastycznych działań. Propozycja: Zrównoważenie podejścia, skupienie na identyfikacji zagrożeń zamiast utrudniania działalności firm oraz zapewnienie minimum 60 dni na wdrożenie zmian. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 177. Art. 53 Konfederacj a Lewiatan Lutowa wersja projektu ustawy (2025) wprowadza istotne zmiany w zakresie uprawnień Komisji dotyczących wydawania ostrzeżeń oraz Uwaga wyjaśniona 117 sankcji za ich niezastosowanie. Jak wynika z projektowanych przepisów ostrzeżenie mają być wydawane na podstawie uzasadnionego podejrzenia, a nie niezbitego dowodu naruszenia prawa. Ponadto, ostrzeżenia mają formę postanowienia, a nie decyzji administracyjnej. Pomimo to, proponowane przepisy umożliwiają Komisji nakładanie obowiązków (nakaz zablokowania systemu, uniemożliwienie dostępu użytkownikom końcowym) i kar pieniężnych w przypadku niezastosowania się przez adresata do ostrzeżenia, co oznacza, że Komisja ma dostać możliwość nakładania kar pieniężnych i nakładania daleko idących obowiązków bez konieczności udowodnienia naruszenia (do wydania ostrzeżenia ma wystarczyć uzasadnione podejrzenie) i bez wydawania decyzji administracyjnej (ostrzeżenie ma mieć postać postanowienia), co jest niezgodne z istotą ostrzeżenia. Takie rozwiązanie budzi poważne wątpliwości, ponieważ ostrzeżenie jako instrument o charakterze \"miękkim\", powinno służyć przede wszystkim zwróceniu uwagi na potencjalne problemy i zachęceniu do podjęcia działań naprawczych. Nie powinno być podstawą do nakładania dotkliwych sankcji bez uprzedniego przeprowadzenia postępowania administracyjnego i udowodnienia rzeczywistego naruszenia przepisów. Konieczne jest wprowadzenie zmian w projekcie ustawy, aby ostrzeżenie pozostało narzędziem niewładczym, a jego niezastosowanie nie skutkowało negatywnymi konsekwencjami dla adresata. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość skorzystania z innych narzędzi przewidzianych w ustawie, takich jak kontrola, wszczęcie postępowania administracyjnego czy wydawanie decyzji administracyjnych, po przeprowadzeniu odpowiedniego postępowania wyjaśniającego i udowodnieniu naruszenia przepisów. Ponadto, należy również zwrócić uwagę na konieczność zapewnienia dostawcom AI odpowiedniego czasu na dostosowanie się do wydanego ostrzeżenia oraz możliwości odwołania się od niego. Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 118 Co więcej, artykuł 53 budzi obawy KL zezwalając na surowe środki egzekwowania prawa (blokowanie dostępu użytkowników do systemu sztucznej inteligencji lub wycofanie systemu z rynku) w przypadkach wyraźnie opisanych jako nieuzasadniające „poważniejszych środków”. Ta wewnętrzna sprzeczność może prowadzić do nieproporcjonalnych skutków biznesowych, zakłóceń w działalności i naruszeń umów. 178. Art. 53 ZPP Wersji projektu ustawy z lutego 2025 r. przewiduje, że ostrzeżenia będą wydawane na podstawie uzasadnionego podejrzenia, a nie jednoznacznych dowodów naruszenia prawa, i mają formę postanowień, a nie decyzji administracyjnych. Jednakże, przepisy te umożliwiają Komisji nakładanie sankcji – w tym kar pieniężnych czy władczych środków nakazowych (np. blokowanie systemu lub jego wycofanie z rynku) – bez przeprowadzenia pełnego postępowania administracyjnego. Aby zapewnić prawo do obrony i zapobiec nieproporcjonalnym sankcjom, władcze środki nakazowe powinny być stosowane wyłącznie na podstawie decyzji administracyjnej, wydanej po pełnym postępowaniu administracyjnym i udowodnieniu naruszenia, z możliwością odwoławczą. Ostrzeżenie jako narzędzie o charakterze inicjującym, powinno jedynie sygnalizować potencjalne problemy i skłaniać do podjęcia działań naprawczych. W przypadku niezastosowania się do ostrzeżenia, Komisja powinna mieć możliwość zastosowania innych środków, takich jak kontrola czy postępowanie administracyjne, po przeprowadzeniu odpowiedniej procedury wyjaśniającej. Dodatkowo, niezbędne jest zapewnienie dostawcom AI wystarczającego czasu na wdrożenie niezbędnych zmian oraz możliwość skutecznego odwołania się od decyzji. Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Ostrzeżenie wydawane jest w formie postanowienia do którego zastosowanie mają przepisy KPA. Na informacje o sposobie realizacji postanowienia został przewidziany dla strony termin 14 dni. Jest czas optymalny na dostosowanie się do wydanego ostrzeżenia. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary pieniężnej w przypadku, gdy strona nie wykona postanowienia. 179. Art. 53 ust. 2 pkt. 1 Konfederacj a Lewiatan Propozycja brzmienia: 2. W postanowieniu, o którym mowa w ust. 1, Przewodniczący Komisji wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w tym w szczególności w zakresie: 1) zablokowania lub uniemożliwienia uzyskania dostępu przez użytkowników do systemu lub też jego elementów będących przedmiotem rekomendacji; Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. 119 Uzasadnienie: Ostrzeżenie wydane przez Przewodniczącego ma zbyt daleko idące skutki - może de facto prowadzić do nakazania zaprzestania działalności (działania systemu) a nie służy od niego środek odwoławczy a mowa tu jest tylko o „uzasadnionym podejrzeniu\". Jest to zbyt daleko idące uprawnienie. 180. Art. 53 ust. 3 IAB Polska Wydłużenie terminu na wykonanie działań umożliwiających przywrócenie stanu zgodnego z prawem do 60 dni Obecnie przewidziany 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków naprawczych jest niewystarczający, szczególnie w przypadku dużych podmiotów o złożonej strukturze organizacyjnej i technologicznie zaawansowanych systemach AI. Systemy AI wymagają często czasochłonnych zmian, które mogą obejmować: 1. Modyfikacje informatyczne i zmiany kodu, które muszą zostać przetestowane przed wdrożeniem, 2. Oceny cyberbezpieczeństwa, aby uniknąć wprowadzenia nowych luk w zabezpieczeniach, 3. Kontrole zgodności z prawem, uwzględniające różne regulacje sektorowe i międzynarodowe, 4. Procesy decyzyjne w dużych organizacjach, w których zatwierdzenie zmian wymaga przejścia przez określone procedury wewnętrzne. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 181. Art. 53 ust. 3 Konfederacj a Lewiatan Proponowane brzmienie: 3. Strona w terminie 30 dni od dnia otrzymania postanowienia, o którym mowa w ust. 1, przedstawia Komisji informację z jego wykonania. Uzasadnienie: Obecny 14-dniowy termin na zastosowanie się do ostrzeżeń i wdrożenie środków zaradczych w celu usunięcia skutków naruszenia jest zbyt krótki, zwłaszcza dla dużych organizacji o złożonych strukturach i zaawansowanych systemach SI. Takie organizacje Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 120 potrzebują więcej czasu na wdrożenie zmian z powodu wewnętrznych procesów decyzyjnych i hierarchii zatwierdzania. Ponadto systemy SI są często złożone technicznie, a wymagane modyfikacje mogą obejmować: ● inżynierię oprogramowania i zmiany w kodowaniu, które należy przetestować przed wdrożeniem, ● oceny cyberbezpieczeństwa w celu zapewnienia, że zmiany nie wprowadzają nowych luk w zabezpieczeniach, ● kontrole zgodności z przepisami w celu dostosowania do wielu nakładających się ram prawnych. Zalecamy wydłużenie terminu zgodności z 14 do co najmniej 30 dni. Pozwoli to na przeprowadzenie odpowiedniej analizy technicznej, bezpieczeństwa i prawnej przed wdrożeniem wymaganych środków zaradczych. 182. Art. 53 ust. 3 Pracodawcy RP W art. 53 ust. 3 projektu przewiduje się również okres 14 dni na przekazanie informacji o realizacji ostrzeżenia Przewodniczącego Komisji KRiBSI. Ponownie stwierdzić należy, że jest to zdecydowanie zbyt krótki termin, a firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na przekazanie informacji o realizacji ostrzeżenia KRibSi jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zdaniem projektodawcy termin 14 dni jest optymalny ze względu na ochronę użytkowników systemów sztucznej inteligencji przed potencjalnym niepożądanym działaniem takiego systemu. 183. Art. 53 ust. 4 Konfederacj a Lewiatan Proponowane brzmienie: 4. W przypadku, gdy strona nie wykona postanowienia, o którym mowa w ust. 1, Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do systemu lub też do elementów będących przedmiotem ostrzeżenia i rekomendacji lub wycofanie z rynku lub użytku systemu w całości lub też części lub elemencie, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego w zakresie będącym przedmiotem Uwaga wyjaśniona Art. 53 (obecnie art. 45) stanowi zdaniem projektodawcy optymalne, możliwe do zastosowania środki egzekwowania prawa, których celem jest przywrócenie stanu zgodnego z prawem. Jednocześnie w celu zapewnienia aby ostrzeżenie było miękkim instrumentem w ramach postępowania, odstąpiono od regulacji w ust. 4 pkt 5 dotyczącej nakładania administracyjnej kary 121 postępowania o naruszenie przepisów rozporządzenia wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub na które system oddziałuje, oddziaływał lub może oddziałać; 3) poinformować o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, a także Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy oraz właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić informację o niezastosowaniu się przez stronę do rekomendacji będących wynikiem ostrzeżenia na stronie podmiotowej Komisji; 5) nałożyć administracyjną karę pieniężną, o której mowa w rozdziale 9. Uzasadnienie: Przepis jest zbyt daleko idący jak na „uzasadnione podejrzenie\". De facto powodować może zakaz prowadzenia działalności co może powodować rażące szkody po stronie przedsiębiorcy. Jaka jest relacja przepisu art. 53 ust. 4 do art. 54? Jeśli jest to postanowienie o charakterze tymczasowym to powinno to wynikać z przepisów. Ponadto, postanowienie co do zasady nie powinno mieć charakteru merytorycznego (służy od niego także krótszy termin zaskarżenia). Jeśli postępowanie nie zostało zakończone stwierdzeniem naruszenia a tylko uzasadnionym podejrzeniem nie może powodować to tak daleko idących skutków, które mogą naruszyć istotne interesy przedsiębiorcy, tj. spowodować szkody finansowe, wizerunkowe, jeśli na koniec może się okazać, że do naruszenia nie doszło. Na pewno nie powinno dochodzić do nałożenia kary finansowej - te w AI Act przewidziane są za naruszenie przepisów rozporządzenia a na tym etapie nie jest pewne, że do tego doszło. pieniężnej w przypadku, gdy strona nie wykona postanowienia. 184. Art. 54 ust. 1 IAB Polska Precyzyjne określenie zakresu decyzji podejmowanych przez Komisję Uwaga uwzględniona Dokonano doprecyzowania w art. 54 ust. 1. (obecnie art. 46). 122 Projektowane przepisy nie precyzują, czy decyzja Komisji może dotyczyć wyłącznie naruszeń AI Act, czy także projektowanej ustawy. Brak jednoznacznych regulacji powoduje niejasność co do zakresu uprawnień Komisji i ryzyko błędnej interpretacji prawa. Ustawa o systemach sztucznej inteligencji jest odrębnym aktem prawnym, dlatego konieczne jest jasne wskazanie czy decyzja może obejmować naruszenia tej ustawy. 185. Art. 54 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 54. 1. W przypadku stwierdzenia przez Komisję, na skutek przeprowadzonego w trybie rozdziału 4 postępowania, że podmiot, o których mowa w art. 2 ust. 1 lit. a-f rozporządzenia 2024/1689, naruszył obowiązki wynikające z tego rozporządzenia, a w sprawie nie zawarto układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy. Uzasadnienie: Przepis nie precyzuje, kiedy może być wydana decyzja. Tzn. powinna być wydana po zapewnieniu stronie uprawnień procesowych itd., czyli po przeprowadzonym postępowaniu. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). 186. Art. 54 ust. 2 Konfederacj a Lewiatan Proponowane brzmienie: 2. Decyzja, o której mowa w ust. 1, zawiera środki nakazujące, w terminie do 14 dni nie krótszym niż 30 dni od jej doręczenia, usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689. Uzasadnienie: Termin na usunięcie skutków naruszenia jest nierealnie krótki. Jeśli dla zaleceń pokontrolnych termin jest nie krótszy niż 30 dni to tym bardziej dla wykonania zasadniczej decyzji powinien być realnie długi. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 187. Art. 54 ust. 2 IAB Polska Wydłużenie terminu na realizację zawiera środków nakazujących usunięcie skutków naruszenia obowiązków wynikających z AI Act do 60 dni Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony 123 Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 188. Art. 54 ust. 2 Pracodawcy RP Artykuł 54 ust. 2 projektu, który przewiduje także 14 dni na usunięcie skutków naruszenia obowiązków wynikających z Aktu o AI. W tym przypadku ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Termin 14 dni na usunięcie skutków naruszenia obowiązków z Aktu o AI jest niewystarczający. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Art. 54 (obecnie art. 46) ust. 2 stanowi zdaniem projektodawcy optymalny termin w celu ochrony społeczeństwa przed niepożądanym działaniem danego systemu sztucznej inteligencji. 189. Art. 54 ust. 1 oraz art. 55 ust. 2 ZPP a) Analiza art. 55 ust. 2 wskazuje na istotne problemy dotyczące przyznania Komisji uprawnień do nakazywania zaprzestania użytkowania lub wycofania systemu z rynku. Główne zastrzeżenia koncentrują się wokół niedostatecznej precyzji kryteriów uzasadniających te działania, co może prowadzić do dowolności w podejmowaniu decyzji oraz naruszać fundamentalną zasadę pewności prawa. Szczególny niepokój budzi także ustanowiony termin 30 dni przed wyborami jako okres na złożenie odwołania od decyzji Komisji. Przyjęte rozwiązanie znacząco ogranicza efektywność ochrony prawnej podmiotów, których decyzja dotyczy, jednocześnie umożliwiając natychmiastowe wdrożenie środków mogących skutkować trudnymi do odwrócenia konsekwencjami. W świetle powyższych zastrzeżeń rekomendujemy eliminację z projektu legislacyjnego zapisów przyznających Komisji uprawnienia do wydawania decyzji zobowiązujących operatora do zaprzestania wykorzystywania systemu lub jego usunięcia z rynku bądź eksploatacji na podstawie nieprecyzyjnych i subiektywnych kryteriów. Zakres kompetencji Komisji w przedmiotowym obszarze powinien zostać ściśle zawężony do działań enumeratywnie wskazanych w art. 79 rozporządzenia 2024/1689 (AI Act). Takie rozwiązanie zapobiegłoby potencjalnym nadużyciom, wykorzystaniu politycznemu oraz zagwarantowało realną możliwość skorzystania z procedury odwoławczej i należytą ochronę prawną uczestników postępowania. Uwaga uwzględniona Dokonano doprecyzowania w art. 54 (obecnie art. 46). W zakresie art. 55 (obecnie art. 47) należy wyjaśnić, że ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. W przepisie odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów 124 190. Art. 54 ust. 3 Konfederacj a Lewiatan Jeśli decyzja o karze może być wydana razem z decyzją o której mowa w ust.1 to organ nie będzie jeszcze wiedział o tym, czy strona zastosowała się do środków wskazanych w decyzji. Uwaga wyjaśniona Decyzja w przedmiocie administracyjnej kary pieniężnej może stanowić odrębny dokument. Jednak przepis daje możliwość połączenia w ramach jednego dokumentu decyzji w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy oraz decyzji w sprawie nałożenia administracyjnej kary pieniężnej z uwagi okoliczności sprawy. 191. Art. 55 UKNF Pomimo informacji o uwzględnieniu dotychczas zgłoszonych przez UKNF uwag, analiza projektowanego brzmienia przepisu prowadzi do wniosku, że w dalszym ciągu wymaga on gruntownej analizy pod kątem procedur przewidzianych w art. 79 i 82 rozporządzenia 2024/1689 oraz jego przekonstruowania w taki sposób, aby odzwierciedlał wymogi ustanowione w tych przepisach. Projektowany przepis, mając na uwadze odesłanie do art. 79 rozporządzenia 2024/1689, dotyczy systemów AI stwarzających ryzyko w zakresie zagrożenia dla zdrowia, bezpieczeństwa i ochrony praw podstawowych. Należy zauważyć, że przepis art. 79 ust. 1-5 rozporządzenia 2024/1689 daje organom nadzoru uprawnienie do żądania wycofania systemu AI z rynku, jeżeli w wyniku jego oceny organ dojdzie do wniosku, że system, stwarzający ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych, nie jest zgodny z wymogami rozporządzenia. Zgodnie z art. 79 ust. 2 akapit 2 rozporządzenia 2024/1689 w przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby: 1) zapewnić zgodność tego systemu AI z wymogami, 2) wycofać ten system z rynku lub z użytku. Przepis art. 55 projektu ustawy nie przewiduje natomiast możliwości podjęcia działań naprawczych w celu zapewnienia zgodności systemu AI. Uwaga wyjaśniona Przepisy art. 55 (art. 47) ma na celu zapewnienie stosowania art. 79 rozporządzenia 2024/1689. Mając na uwadze treść ust. 1 i 2 należy wyjaśnić, że decyzja wydana na podstawie ast. 55 uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Wydanie decyzji nakazowej ma na celu jak najszybsze zaniechanie dokonania dalszych naruszeń w obszarach niezwykle ważnych dla obywateli. Nie wyklucza ona natomiast zastosowania przez podmiot środków naprawczych. 125 Ponadto aktualne brzmienie przepisu nie uzależnia wycofania systemu AI z rynku lub z użytku od jego sprzeczności z rozporządzeniem 2024/1689. Może to sugerować, że stanowi odzwierciedlenie instytucji z art. 82 rozporządzenia 2024/1689, a więc sytuacji, gdy w wyniku oceny systemu AI Komisja ustali, że system jest zgodny z wymogami i obowiązkami ustanowionymi w tym rozporządzeniu, ale stwarza ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego. W ramach procedury przewidzianej w art. 82 rozporządzenia 2024/1689 przewidziano jednak, że organ zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w terminie, który może zostać wyznaczony przez ten organ. Niezależnie od powyższego UKNF ponownie wskazuje, że projektowany przepis nie odzwierciedla przewidzianego w art. 79 ust. 5 rozporządzenia 2024/1689 mechanizmu tymczasowych środków zaradczych, jeżeli organ nakaże operatorowi systemu podjęcie działań naprawczych (zgodnie z tym przepisem: „W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie.”). 192. Art. 55 ust. 2 Konfederacj a Lewiatan Art. 55 ust. 2 w obecnym kształcie jest najbardziej kontrowersyjnym i potencjalnie najbardziej szkodliwym przepisem projektowanej ustawy. Z tego względu prosimy o priorytetowe potraktowanie naszych uwag w tym zakresie. Przepis przyznający Komisji uprawnienie do nakazania operatorowi systemu zaprzestania korzystania z systemu lub wycofania go z Uwaga uwzględniona W przepisie (art. 47 ust. 2) odstąpiono od regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów Wykreślony został fragment przepisu 126 rynku lub użytku publicznego jest zbyt szeroki i niejasny. Brzmienie przepisu jest niejednoznaczne, co uniemożliwia precyzyjne określenie podstawy prawnej działań Komisji w tym zakresie. Brak konkretnych kryteriów i wskazówek, które Komisja powinna wziąć pod uwagę przy podejmowaniu decyzji, stwarza możliwość potencjalnie arbitralnego podejmowania decyzji przez Komisję, co jest sprzeczne z zasadami pewności i przewidywalności prawa, które stanowią fundament demokratycznego państwa prawa. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Bezpośrednio podważa to prawo do kontroli sądowej, ponieważ strona, której to dotyczy, miałaby ograniczoną możliwość zakwestionowania decyzji przed poniesieniem potencjalnie nieodwracalnych konsekwencji. W rezultacie projektowany przepis daje Komisji możliwość wydawania rozstrzygnięć o daleko idących skutkach (włącznie z wyłączeniem możliwości korzystania z systemu AI), egzekwowanych w trybie natychmiastowym, bez realnej możliwości skutecznego odwołania do sądu, a wszystko w oparciu o bardzo nieprecyzyjne i ocenne kryteria. W skrajnie negatywnym scenariuszu analizowane uprawnienie Komisji mogłoby być wykorzystywane politycznie, co byłoby szczególnie niebezpieczne w kontekście wyborów, a więc w kontekście, do którego wprost odnosi się analizowany przepis. Należy podkreślić, że analizowane uprawnienie Komisji do podejmowania tak drastycznych środków nie ma podstaw w rozporządzeniu UE ws. sztucznej inteligencji (AI Act) i stanowi ewidentny przykład “gold platingu”, czyli nadmiernej regulacji wykraczającej poza wymogi unijne, którego w polskiej regulacji miało nie być. Co więcej, Ministerstwo Cyfryzacji nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego przepisu, co dodatkowo podważa jego zasadność i legitymację. W związku z powyższym, postulujemy całkowite usunięcie tego przepisu z projektu ustawy, a uprawnienia Komisji powinny być obejmujący treść: “lub też wywiera lub poprzez swoje działanie może wywrzeć wpływ na opinie i nastroje społeczne w stopniu istotnym dla wyniku mających się odbyć w terminie nie dłuższym niż 30 dni od stwierdzenia tego ryzyka w odniesieniu do wyborów do Sejmu, Senatu, Parlamentu Europejskiego, do samorządowych organów stanowiących i wykonawczych lub na Prezydenta Rzeczpospolitej Polskiej”. 127 ściśle ograniczone do zakresu określonego w art. 79 rozporządzenia 2024/1689 (AI Act). 193. Art. 55 ust. 2 IAB Polska Usunięcie fragmentu niejasnego uprawnienia Komisji do nakazania wycofania systemu z rynku z uwagi na wpływ na opinie i nastroje społeczne Obecne brzmienie przepisu przyznającego Komisji prawo do nakazania zaprzestania korzystania z systemu lub wycofania go z rynku jest zbyt szerokie i niejasne. Problematyczne kwestie: 1. Brak precyzyjnych kryteriów, na podstawie których Komisja może podejmować taką decyzję, w kontekście opinii i nastrojów społecznych, 2. Brak jednoznacznej podstawy prawnej w AI Act w zakresie opinii i nastrojów społecznych, 3. Możliwość arbitralnego stosowania przez Komisję środków o skrajnych konsekwencjach dla przedsiębiorców, 4. Okres 30 dni przed wyborami jest zdecydowanie zbyt krótki, aby umożliwić skuteczne odwołanie się do sądu, zwłaszcza biorąc pod uwagę możliwość natychmiastowej wykonalności decyzji. Ponadto, Ministerstwo nie przedstawiło żadnego uzasadnienia dla wprowadzenia tego uprawnienia, w tym do AI Act jako podstawy prawnej tego zakresu przepisu. Jeśli Ministerstwo uzna taki środek za konieczny, powinien on być przedmiotem odrębnej inicjatywy ustawodawczej, zawierającej jasne uzasadnienie oraz podstawę prawną. Uwaga uwzględniona W przepisie (art. 47) odstąpiono o regulowania kwestii wywierania wpływu na opinie i nastroje społeczne w stopniu istotnym dla wyniku wyborów. 194. Art. 55 ust. 4 Konfederacj a Lewiatan Zapytanie: Gdzie w treści ustawy opisany jest tryb przyspieszony? Uwaga wyjaśniona Doprecyzowanie trybu przyspieszonego stanowi ust. 5 tego przepisu (art. 47). 195. Art. 56 PGRP Proponuje się uzupełnić art. 56 dotyczący odpowiedniego stosowania k.p.a. w odniesieniu do postępowań prowadzonych przed Uwaga uwzględniona 128 Komisją w zakresie nieuregulowanym w projekcie również o postępowania przed Przewodniczącym Komisji, który może w toku postępowania – na podstawie art. 53 ust. 1 projektu – wydawać stronie ostrzeżenie, w drodze postanowienia. W projektowanych przepisach brak jest kompleksowego uregulowania wydawania postanowień, o których mowa w art. 53 ust. 1, a wobec braku odesłania do k.p.a. w tym wypadku, mogą powstać wątpliwości interpretacyjne. Przepis (art. 48) został uzupełniony w zakresie odpowiedniego stosowania k.p.a. w odniesieniu do postępowań przed Przewodniczącym Komisji. 196. Art. 57 Konfederacj a Lewiatan Proponowane brzmienie: Art. 57. 1. Od postanowienia Komisji w sprawie, o której mowa w art. 53 przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o której mowa w art. 55 ust. 3 i 4 (?) przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołań, o którym mowa w ust.1 2 (?) i zażaleń z ust.1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego (Dz. U. z 2023 r. poz. 1550, z późn. zm.)) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. Uzasadnienie: Ad. ust. 1 - Orzeczenie z art. 53 powinno mieć formę decyzji, od której służy odwołanie - gdyż ma charakter merytoryczny, który wpływa na prawa strony i może wywoływać poważne skutki. Tydzień na wniesienie środka zaskarżenia w takiej sprawie jest niewystraczający. Ad. ust.2 - Czy nie powinna być tu mowa decyzji z art. 54 ust. 1 i 3? Ad. ust.3 - W ust. 3 odwołanie jest do ust.1 który mówi o zażaleniu a nie odwołaniu. Przy czym postulowane jest, aby oba te rozstrzygnięcia miały formę decyzji od których służy odwołanie. Uwaga uwzględniona w zakresie omyłkowych odesłań Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. W pozostałym zakresie uwaga wyjaśniona Art. 53 (obecnie art. 45) odnosi się do rozstrzygnięć wydawanych w toku postępowania administracyjnego. Postanowienia w sprawie ostrzeżenia nie przesądzają co do istoty sprawy stąd też forma decyzji nie jest w tym wypadku adekwatna. art. 57 ust. 2 Konfederacj a Lewiatan Uwaga: Zakładamy, że w art. 57 ust. 2 Ustawy wystąpiła omyłka pisarska. Przepis 57 ust. 2 powinien on odnosić się do art. 54 ust. 1 i 2 ustawy (a nie art. 55 ust. 3 i 4). Przepis ten ma kluczowe znaczenie dla Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 129 zapewnienia nadzoru sądowego nad działaniami Komisji i utrzymania pewności prawa. 197. Art. 57 ust. 2 IAB Polska Poprawa omyłki pisarskiej dot. wskazania określonych jednostek redakcyjnych Zakładamy, że w art. 57 ust. 2 ustawy wystąpiła omyłka redakcyjna. Obecne brzmienie przepisu powinno odnosić się do art. 54 ust. 1 i art. 54 ust. 2, a nie do art. 55 ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 198. Art. 57 ust. 2 UKNF Przepisy art. 55 ust. 3 i 4, do których odsyła projektowany art. 57 ust. 2, nie zawierają podstawy do wydawania decyzji przez Komisję, ani nie mówią o takich aktach administracyjnych. Tym samym odesłanie jawi się jako błędne. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 199. Art. 57 ust. 3 UKNF Przepis zawiera błędne odesłanie do ust. 1, w związku z czym UKNF wskazuje na konieczność ponownej jego weryfikacji. Odwołania jako środek zaskarżenia są wskazane w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. 200. Art. 57 ust. 3 PGRP Art. 57 ust. 3 odsyła do stosowania przepisów k.p.c. wyłącznie w odniesieniu do postępowań w sprawach zażaleń od postanowień Komisji, o których mowa w ust. 1. Nie obejmuje natomiast odwołań od decyzji Komisji, o których mowa w ust. 2. Rekomenduje się rozważenie uzupełnienia zakresu przedmiotowego tego przepisu również o sprawy dotyczące odwołań, o których mowa w ust. 2. Uwaga uwzględniona Przepis został skorygowany i dostosowany do aktualnego brzmienia projektu ustawy. art. 57 ust.4 w zw. z art. 107 Konfederacj a Lewiatan Uwaga: Brzmienie art. 57 ust. 4 powinno być ujednolicone z brzmieniem propozycji zmiany art. 47988f KPC. Uwaga uwzględniona Zmieniono brzmienie przepisu (art. 49). 201. Art. 57 ust. 4 IAB Polska Jednolita procedura odwoławcza dla ostrzeżeń i decyzji Komisji Obecnie ostrzeżenia wydawane przez Komisję nie podlegają analogicznej procedurze odwoławczej jak decyzje dotyczące naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (poza oczywistymi różnicami wynikającymi z wydawania ostrzeżenia w formie postanowienia, a nie decyzji). Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję zażalenia za słuszne (dodany Art. 49 ust. 5). 130 Brak jednolitej procedury odwoławczej powoduje niepewność prawną i niespójność ochrony podmiotów podlegających regulacji. Zapewnienie jednolitych ram proceduralnych zagwarantuje skuteczność, przewidywalność i spójność prawną. 202. Art. 57 ust. 4 PGRP Rekomenduje się rozważenie możliwości uznania przez Komisję za zasadne – w toku rozpatrywania środka zaskarżenia – nie tylko odwołania, ale także zażalenia. Ponadto rekomenduje się określenie terminu na uznanie przez Komisję odwołania (oraz zażalenia) za słuszne. Uwaga uwzględniona Przepis został uzupełniony w zakresie możliwości uznania przez Komisję za zasadne w toku rozpatrywania środka zaskarżenia zażalenia oraz terminu na uznanie przez Komisję odwołania oraz zażalenia za słuszne (art. 49 ust. 4 i 5). 203. Art. 61 Konfederacj a Lewiatan Propozycja brzmienia: Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji ust.4 Układ może być zawarty, jeżeli podmiot będący stroną postępowania, o którym mowa w ust. 1: 1) w zakresie naruszenia objętego danym postępowaniem zaprzestał naruszania prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie albo zobowiąże się do podjęcia lub zaniechania określonych działań zmierzających do zakończenia naruszenia lub usunięcia jego skutków, oraz 2) ujawnił Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym współdziałające w naruszeniu osoby lub inne podmioty, oraz przedstawił dowody na poparcie tych okoliczności. 5. Strona postępowania może zobowiązać się w układzie do: 1) zaprzestania naruszenia lub usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo części, szkód wyrządzonych w wyniku naruszenia objętego danym postępowaniem, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości, ale nie później niż przed upływem terminu przedawnienia ustalanego na podstawie odrębnych przepisów. Uwaga wyjaśniona Celem przepisów ustawy jest aby nadzwyczajne złagodzenie kary mogło być stosowane wobec podmiotów, które nie tylko zauważyły swoje niezgodne z prawem działania ale też faktycznie podjęły czynności zmierzające do przywrócenia stanu zgodnego z przepisami. Tym bardziej, że w toku postępowania przewidziano instytucję ostrzeżenia w przypadku gdy Komisja ma uzasadnione podejrzenie, że działalność strony postępowania narusza przepisy rozporządzenia 2024/1689 lub ustawy. W zakresie uwagi dotyczącej ust. 5 pkt 2 zasadnym jest aby graniczna data odpowiedzialności została określona w ramach układu z poszanowaniem przepisów odrębnych ustaw, ponieważ zmoże być ona zależeć od okoliczności danej sprawy. 131 Uzasadnienie: Ust. 4 pkt 1) propozycja analogiczna do art. 28 ust. 1 UOKK - rozszerzenie możliwości zawarcia układu na podmiot, który wprawdzie nie zaprzestał, ale zobowiązuje się o zaprzestania naruszeń i do usunięcia skutków naruszenia. Ust. 5 pkt 2) co do szkód, które mogą powstać w przyszłości - stan niepewności nie może istnieć w nieskończoność, dlatego trzeba ustalić graniczną datę odpowiedzialności. 204. Art. 61 RPD Obecnie projektowany art. 61 ustawy o systemach sztucznej inteligencji wyłącza możliwość zawarcia układu o nadzwyczajnym złagodzeniu sankcji tylko w razie wystąpienia niektórych przypadków „poważnego incydentu” w rozumieniu art. 3 pkt 49 rozporządzenia 2024/1689, to jest incydentu lub nieprawidłowego działania systemu AI prowadzącego do śmierci osoby, poważnego uszczerbku na zdrowiu, zakłócenia infrastruktury krytycznej oraz poważnych szkód na mieniu lub środowisku, natomiast nie uwzględnia sytuacji wskazanej w art. 3 pkt 49 lit. c tego rozporządzenia, czyli incydentów lub nieprawidłowego działania systemu AI, które bezpośrednio lub pośrednio prowadzą do naruszenia obowiązków przewidzianych w prawie Unii mających na celu ochronę praw podstawowych. Pominięcie tej kategorii poważnych incydentów powoduje, że podmioty, których systemy sztucznej inteligencji doprowadziły do naruszenia podstawowych praw i wolności, na przykład pozbawiły dziecko równych szans na dostęp do edukacji w wyniku nieprawidłowego działania, mogą korzystać z możliwości łagodniejszego traktowania lub nawet uniknąć sankcji. W konsekwencji takie podmioty, mimo naruszenia w sposób pośredni lub bezpośredni podstawowe prawa dzieci, narażając je na poważne konsekwencje zdrowotne, emocjonalne czy rozwojowe, mogłyby uniknąć pełnej odpowiedzialności, co budzi zasadnicze wątpliwości z perspektywy ochrony praw najmłodszych. Jako Rzeczniczka Praw Dziecka postuluję zatem wprowadzenie do katalogu przesłanek negatywnych wyłączenia możliwości zawarcia układu, jeżeli incydent lub nieprawidłowe działanie systemu AI, prowadzą do naruszenia obowiązków przewidzianych w prawie Unii Uwaga wyjaśniona Należy zgodzić się z tezą, że naruszenie praw podstawowych w szczególności dzieci jest bardzo istotną podlegającą szczególnej ochronie. Jednak zasadne jest aby zastosowanie możliwości zastosowania układu w sprawie nadzwyczajnego złagodzenia sankcji odnosiło się do najwyższej wagi negatywnych skutków działania AI. Możliwość zawarcia układu jest pewnego rodzaju popchnięciem do autorefleksji po stronie podmiotu naruszającego przepisy co będzie miało pozytywne odziaływanie na jego postępowanie na przyszłość. Dodatkowo należy wskazać, że aby podmiot naruszający prawo mógł przystąpić do układu musi już podjęć konkretne kroki i zaprzestać naruszania prawa albo usunąć stan niezgodności z prawem. Dodatkowo nawet po pełnieniu warunków nadzwyczajne złagodzenie kary nie będzie stosowane obligatoryjnie. Komisji przypisano prawo do wydania postanowienia o braku możliwości zawarcia układu. Konkretne sprawy będą zatem rozpatrywane indywidualnie. Niezależnie od należy ponadto wziąć pod uwagę że powyższego przy wymierzaniu kar będzie zawsze brane okoliczność że przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. 132 mających na celu ochronę praw podstawowych dzieci lub gdy Komisja stwierdzi wykorzystanie systemów sztucznej inteligencji w sposób naruszający pośrednio lub bezpośrednio podstawowe prawa i wolności dzieci, w szczególności, gdy istnieje wysokie prawdopodobieństwo wyrządzenia im szkody na skutek nieprzestrzegania wymogów rozporządzenia 2024/1689 lub niewłaściwej realizacji tych obowiązków. Naruszenia wynikające z nieprzestrzegania zasad rozporządzenia 2024/1689 mogą prowadzić do długotrwałych i nieodwracalnych skutków w zakresie rozwoju emocjonalnego i psychicznego dzieci, a także narażać je na szkodliwe treści lub nieetyczne praktyki komercyjne, dlatego umożliwienie takim podmiotom uniknięcia odpowiedzialności stanowi lukę w systemie ochrony najmłodszych i nie znajduje przekonującego uzasadnienia w świetle fundamentalnego znaczenia, jakie prawo unijne przypisuje ochronie dzieci. Naruszenia wynikające z nieprzestrzegania rozporządzenia 2024/1689 mogą prowadzić do poważnych i długotrwałych konsekwencji dla dzieci, zwłaszcza w sferze rozwoju emocjonalnego i psychicznego, a także narażać je na szkodliwe treści czy nieetyczne praktyki komercyjne. Przykładowo, jeśli system AI wspierający sędziego w sprawach rodzinnych i opiekuńczych nieprawidłowo klasyfikuje lub filtruje wypowiedzi dziecka, w konsekwencji nie uwzględniając ich w rekomendacjach przedstawianych sędziemu, dochodzi do naruszenia prawa dziecka do bycia wysłuchanym i uwzględniania jego opinii w sprawach, które go dotyczą. Umożliwienie dostawcom systemów AI, których rozwiązania prowadzą do takich naruszeń, uniknięcia odpowiedzialności stanowi istotną lukę w systemie ochrony najmłodszych i nie znajduje uzasadnienia w świetle fundamentalnego znaczenia, jakie ochrona dzieci ma w prawie Unii. Dlatego w sytuacjach, w których incydent lub nieprawidłowe działanie systemu AI prowadzi do naruszenia podstawowych praw i wolności dzieci, należy wyłączyć w ustawie możliwość zawarcia układu pozwalającego na nadzwyczajne złagodzenie sankcji lub całkowite odstąpienie od ich nałożenia. 133 205. Art. 61 ust. 6 Konfederacj a Lewiatan Propozycja brzmienia: 6. W ramach zawieranego układu Komisja może obniżyć wysokość kary pieniężnej nie mniej niż o 20% i nie więcej niż o 90%, a w przypadku, o którym mowa w art. 76 – nie mniej niż o 30% i nie więcej niż o 90%, w stosunku do kary pieniężnej, która zostałaby nałożona bez zawarcia układu, lub złagodzić dolegliwość innej sankcji. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie poziom obniżenia kary wynosi do 90% dla zachowania spójności także w tej ustawie winno być to 90 % a nie 70 % jak w projekcie. Uwaga wyjaśniona Projektowane przepisy bazują na ustawie o nadzorze nad rynkiem finansowym jednak uwzględnia specyfikę przedmiotu regulacji. Celem przepisów nie jest zapewnienie spójności obu ustaw a zapewnienie skutecznej realizacji przepisów rozporządzenia 2024/1689. 206. Art. 61 ust. 7 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji? Niniejszej ustawy? Uwaga wyjaśniona Przepis, o którym mowa odnosi się do katalogu sankcji określonych w ustawie i rozporządzeniu 2024/1689. 1. Art. 62 ust. 1 Konfederacj a Lewiatan Proponowane brzmienie: Art. 62. 1. W postanowieniu, o którym mowa w art. 61 ust. 1, Komisja wyznacza termin na zawarcie układu nie dłuższy niż 3 miesiące od złożenia przez Stronę oświadczenia o woli zawarcia układu. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, nie dłuższy jednak niż 3 miesiące. Uzasadnienie: Jeśli regulacja bazuje na regulacji zawartej w ustawie o nadzorze nad rynkiem finansowym, gdzie pierwotny termin wynosi 3 miesiące dla zachowania spójności także w tej ustawie winno być to 3 a nie 1 miesiąc. Termin ten powinien uwzględniać realia działalności przedsiębiorców, a zwłaszcza okoliczność że tego typu czynności z reguły wymagają zgody wspólników w formie uchwały, na co także potrzebny jest czas. Termin na zawarcie układu powinien być liczony od złożenia oświadczenia o woli jego zawarcia - powinno to zostać doprecyzowane. Uwaga wyjaśniona Termin na zawarcie układu uwzględnia specyfikę przedmiotu regulacji. Odziaływanie systemów sztucznej inteligencji ma szeroki kręg odbiorców i wobec powyższego należy dążyć do jak najszybszego przywrócenia stanu zgodności z rozporządzeniem 2024/1689. Jednoczenie należy wskazać, że termin miesięczny może zostać przedłużony w oparciu o przedmiotowy przepis do 3 miesięcy. Termin na zawarcie układu będzie liczony od dnia doręczenia postanowienia Komisji. 134 207. Art. 62 ust. 4 Konfederacj a Lewiatan Uprawnienia Komisji do zakończenia negocjacji ugodowych są obecnie zbyt szerokie i niejasne. Proponujemy wprowadzenie konkretnych kryteriów, które muszą zostać spełnione, aby Komisja mogła zakończyć negocjacje. Dodatkowo, Komisja powinna być zobowiązana do przedstawienia uzasadnienia swojej decyzji, aby zapewnić stronom przejrzystość i zrozumienie podstawy prawnej i faktycznej takiego zakończenia. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 208. Art. 62 ust. 4 IAB Polska Ograniczenie arbitralności w zakończeniu procesu ugodowego przez Komisję Obecne przepisy przyznają Komisji zbyt szerokie uprawnienia do zakończenia procesu ugodowego bez określenia jasnych kryteriów. Brak wymogu uzasadnienia tej decyzji może prowadzić do arbitralności i niepewności prawnej dla podmiotów regulowanych. Rekomendujemy: 1. Wprowadzenie konkretnych przesłanek, na jakich Komisja może zakończyć proces ugodowy, 2. Obowiązek uzasadnienia decyzji, aby strony mogły zrozumieć jej podstawę prawną i faktyczną. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 209. Art. 62 ust. 4 ZPP Ustalić kryteria, które umożliwią zakończenie negocjacji ugodowych przez organ nadzoru, wraz z obowiązkiem przedstawienia uzasadnienia decyzji. Uwaga wyjaśniona Art. 62 ust. 4 został wykreślony. 1. Art. 66 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 62 ust. 1, z uwzględnieniem art. 64 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. Uzasadnienie: Błędne odwołanie do art. 6 ust.1 zamiast 62 ust.1. Uwaga uwzględniona. Poprawiono odesłanie w pkt 2. 210. Art. 66 ust. 2 pkt 3 IAB Polska Doprecyzowanie definicji złej wiary w procesie zawierania ugody Uwaga wyjaśniona „Zła wiara” jest pojęciem znanym w prawu polskiemu i nie wymaga dodatkowego 135 Brak definicji złej wiary powoduje niepewność prawną i daje Komisji nadmierną swobodę w podejmowaniu decyzji o zakończeniu procesu ugodowego. Rekomendujemy dodanie przykładowej listy działań, które mogą być uznane za prowadzenie negocjacji w złej wierze. Ograniczy to ryzyko arbitralnego stosowania przepisów, zapewnieni przewidywalności i większą ochronę podmiotom regulowanym. doprecyzowania. We wskazanym przepisie została wskazana jako działanie strony postępowania mające charakter pozorny i nie zmierzające do zawarcia układu. 211. Art. 70 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 70. 1. Strona postępowania, która zawarła układ, jest obowiązana do informowania Komisji, nie rzadziej niż raz na 3 miesiące, jednak nie dłużej niż do czasu ich całkowitej realizacji, o wywiązywaniu się ze zobowiązań podjętych w ramach układu, Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 212. Art. 70 ust. 3 IAB Polska Wprowadzenie wymogu zachowania poufności i przestrzegania zasad ochrony danych, w szczególności tajemnicy przedsiębiorstwa Projektowane przepisy przyznają Komisji zbyt szerokie uprawnienia do żądania informacji, wyjaśnień i dokumentów dotyczących realizacji zobowiązań układowych. Brak mechanizmów ochrony może prowadzić do niekontrolowanego dostępu do poufnych danych biznesowych. Uwaga wyjaśniona W wyniku zgłoszonych uwag przepisowi nadano nowe brzmienie Art. 62. 1. Na żądanie Komisji strona postępowania, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów w zakresie wywiązywania się przez podmiot, który zawarł układ, ze zobowiązań podjętych w ramach tego układu. 213. Art. 71 ust. 2 IAB Polska Ograniczenie kary do spółek dopuszczających się naruszenia Uwaga wyjaśniona Art. 71 został wykreślony. 136 Artykuł 71 ust. 2 w niewłaściwy sposób nakłada kary na członków Zarządu, zamiast ograniczać kary do spółek dopuszczających się naruszenia, co byłoby właściwsze. 214. Art. 71 ust. 2 Pracodawcy RP Projekt w sposób niewłaściwy nakłada kary na członków zarządu. Wskazujemy, że Akt o AI nie daje podstaw do nakładania kar pieniężnych na członków zarządu spółki. Uwaga wyjaśniona Art. 71 został wykreślony. 215. Art. 74 ust. 2 UKNF W ocenie UKNF przepis wymaga ponownej weryfikacji. Z projektu ustawy, nie wynika, aby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wydawała zezwolenia, do których odnosi się ten przepis. Uwaga uwzględniona Wykreślono termin „zezwolenie”. 216. Art. 74 ust. 2 Konfederacj a Lewiatan Zapytanie: Jakie przepisy przewidują możliwość nałożenia różnych sankcji, w tym cofnięcie zezwolenia? O jakie zezwolenie chodzi? Uwag uwzględniona Przepis został przeredagowany. Wykreślono termin „zezwolenie”. I dodano wskazanie decyzji nakazującej wycofanie systemu z rynku. Katalogu sankcji wynika z przepisów ustawy i rozporządzenia 2024/1689. 217. Art. 77 IAB Polska Możliwość oznaczania informacji jako niepublicznych przy publikacji decyzji Ustawa powinna jednoznacznie wskazywać, że niektóre informacje nie mogą być ujawniane przez Komisję, zwłaszcza jeśli stanowią tajemnicę przedsiębiorstwa lub informacje wrażliwe. Rekomendujemy także wprowadzenie prawnego obowiązku zachowania poufności oraz zapewnienie zgodności wymogów dotyczących publikacji z przepisami dotyczącymi ochrony danych i poufności. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 218. Art. 77 ZPP Wprowadzić przepisy dotyczące publikacji decyzji – określić, które informacje objęte są ochroną, aby nie dochodziło do nieuprawnionego ujawnienia danych wrażliwych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po 137 usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 219. Art. 77 Konfederacj a Lewiatan Ustawa o systemach sztucznej inteligencji powinna zawierać przepisy umożliwiające oznaczanie przez podmioty pewnych informacji jako niepublicznych w przypadku publikacji decyzji. Komisja powinna mieć wyraźny zakaz ujawniania niektórych wrażliwych informacji. Ustawa powinna również wprowadzać prawny obowiązek zachowania poufności, szczególnie w odniesieniu do tajemnic przedsiębiorstwa oraz zapewniać zgodność wymogów dotyczących publikacji z przepisami o ochronie danych. Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 220. Art. 77 ust. 1 UKNF W ocenie UKNF publikowanie pełnej treści decyzji administracyjnej jest rozwiązaniem wątpliwym, z uwagi na umieszczanie w treści uzasadnienia informacji prawnie chronionych. Przedstawione wyjaśnienie projektodawcy nie znajduje oparcia w przedłożonych do opiniowania przepisach – brak jest przepisu nakazującego respektowanie ustawowej ochrony informacji, a charakter art. 77 ust.1 projektu ustawy może w praktyce budzić wątpliwości odnośnie do tego, czy ma on charakter szczególny do przepisów o ochronie informacji, zwłaszcza w kontekście art. 26 § 5 ustawy z dnia 6 czerwca 1997 r. Kodeks karny, wyłączającego odpowiedzialność karną w przypadku wykonania jednego z pozostających w kolizji obowiązków z jednoczesnym naruszeniem innego obowiązku (w tym wypadku dopełnienie obowiązku publikacji decyzji administracyjnej pozostaje w kolizji z ewentualnym naruszeniem obowiązku przestrzegania zakazu ujawnienia informacji). Uwaga uwzględniona Przepis (art. 68) otrzymał nowe brzmienie: „1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna.”. 221. Art. 77 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 77 ust. 1. Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji treść decyzji wydawanych na podstawie przepisów rozporządzenia 2024/1689 oraz ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w Uwaga częściowo uwzględniona Przepis otrzymał nowe brzmienie. 138 tym tajemnice przedsiębiorstwa. Publikacja opatrzona jest informacją, czy decyzja jest prawomocna. Uzasadnienie: Jeśli decyzja zawiera informacje chronione powinny być one usunięte przed publikacją. 222. Rozdział 6 PARP Projekt ustawy nakłada obowiązek raportowania poważnych incydentów związanych z wykorzystaniem systemów sztucznej inteligencji, co może prowadzić do dublowania obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa. W przypadku podmiotów podlegających obu regulacjom może to skutkować koniecznością zgłaszania tego samego incydentu do różnych instytucji, generując zbędne obciążenia administracyjne dla przedsiębiorców. Z tego względu wskazane byłoby doprecyzowanie przepisów w taki sposób, aby umożliwić koordynację procesów raportowania w ramach jednolitego systemu zgłaszania incydentów. Uwaga wyjaśniona Rozdział 6 obejmuje wyłącznie poważne incydenty zaistniałe w związku z wykorzystaniem systemów sztucznej inteligencji, przez co nie może być mowy o “dublowaniu obowiązków wynikających z ustawy o krajowym systemie cyberbezpieczeństwa”. 223. Art. 78 ZPP Obowiązujący termin 24 godzin na zgłaszanie poważnych incydentów wprowadza istotne wyzwania operacyjne, szczególnie dla złożonych organizacji zarządzających zaawansowanymi systemami informatycznymi, w tym technologiami AI. Ta krótka perspektywa czasowa wymusza niewłaściwą alokację zasobów - zamiast koncentrować wysiłki na minimalizacji szkód i wdrażaniu działań naprawczych, podmioty muszą priorytetyzować przygotowanie formalnego zgłoszenia. Okres jednej doby jest niewystarczający do przeprowadzenia wnikliwego dochodzenia, które wymaga skompletowania i analizy materiału dowodowego, identyfikacji pierwotnych przyczyn incydentu, oszacowania pełnego zakresu potencjalnych następstw oraz koordynacji pomiędzy różnymi komórkami organizacyjnymi. Sytuacja jest dodatkowo skomplikowana w przypadku podmiotów działających globalnie, gdzie różnice stref czasowych stanowią dodatkową barierę w realizacji procesu. Postulujemy wydłużenie terminu raportowania poważnych incydentów do 7 dni. Proponowana zmiana umożliwi organizacjom realizację pogłębionej analizy technicznej zdarzenia, zebranie kompletnej dokumentacji obejmującej dzienniki systemowe i ślady Uwaga uwzględniona Przepis (art. 69) uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 139 cyfrowe, skuteczną integrację działań pomiędzy departamentami oraz opracowanie kompleksowego raportu zawierającego merytoryczną analizę wszystkich aspektów zdarzenia. Wprowadzone modyfikacje - zarówno w zakresie ograniczenia arbitralnych uprawnień Komisji zgodnie z art. 79 rozporządzenia 2024/1689, jak i wydłużenia terminu raportowania incydentów - przyczynią się do wzmocnienia ochrony prawnej podmiotów, zapobiegania potencjalnym nadużyciom oraz podniesienia jakości i kompletności raportowanych informacji, co bezpośrednio wpłynie na efektywność procesów zarządzania incydentami i bezpieczeństwem systemów informatycznych w perspektywie długoterminowej. 224. Art. 78 Konfederacj a Lewiatan Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości. Uzasadnienie: W celu zgłoszenia poważnych incydentów proponujemy mechanizm znany z RODO – czyli 72 godziny. Artykuł 73 Aktu o AI stanowi, że: „Zgłoszenia, o którym mowa w ust. 1, dokonuje się niezwłocznie po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie”. Analogiczne zapisy zawiera art. art. 73 ust.2-4 Rozporządzenia 2024/1689 – w związku z tym unijny prawodawca nie wymaga tak restrykcyjnego terminu jak zaproponowany w projekcie ustawy. Tymczasem, zgodnie z art. 78 ust. 1 projektu polski podmiot ma obecnie jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 225. Art. 78 Pracodawcy RP Zgodnie z art. 73 Aktu o AI zgłoszenia, o których mowa w ww. przepisie dokonuje się niezwłocznie po ustaleniu przez dostawcę Uwaga wyjaśniona 140 związku przyczynowego między systemem AI a poważnym incydentem lub uzasadnionego prawdopodobieństwa wystąpienia takiego związku, a w każdym razie nie później niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot wdrażający dowiedział się o poważnym incydencie. Zgodnie z brzemieniem z art. 78 projektu polski podmiot ma jedynie 24 godziny na zgłoszenie zdarzenia od chwili powzięcia o nim wiadomości. Uważamy, że wskazany termin jest niewystarczający – proponujemy zastosowanie mechanizmu analogicznego do działającego na gruncie RODO, czyli wydłużenie terminu do 72 godzin. Polski projekt daje tylko 24 godziny na zgłoszenie poważnego incydentu, podczas gdy Akt o AI przewiduje 15 dni. Propozycja: Wydłużenie terminu do 72 godzin, analogicznie do RODO. Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 226. Art. 78 ust. 1 IAB Polska Wydłużenie terminu raportowania poważnych incydentów z 24 godzin do 72 godzin. 24-godzinny termin raportowania incydentów jest nieracjonalnie krótki i może uniemożliwić rzetelną ocenę sytuacji, szczególnie dla dużych organizacji. Problemy: 1. Złożone organizacje mogą nie mieć wystarczająco dużo czasu na zebranie danych, 2. Strefy czasowe mogą utrudnić terminowe raportowanie, 3. Niewystarczający czas na analizę przyczyn incydentu i jego skutków, a także na określenie, czy jest on poważny. Zwracamy uwagę na art. 73 ust. 2 AI Act: Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w Uwaga wyjaśniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 141 stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Proponujemy mechanizm znany z RODO, czyli 72 godziny. Zatem nowy art. 78 ust. 1 może brzmieć następująco: “Dostawcy systemów AI wysokiego ryzyka wprowadzonych na rynek polski powiadamiają Komisję o każdym poważnym incydencie, o którym mowa w art. 3 pkt 49 ustawy o AI, bez zbędnej zwłoki, a w miarę możliwości nie później niż w terminie 72 godzin od powzięcia o nim wiadomości.”. 227. Art. 78 ust. 1 Konfederacj a Lewiatan 24-godzinny termin na zgłoszenie poważnych incydentów będzie stanowił wyzwanie dla efektywnego zarządzania i reagowania na incydenty, szczególnie w kontekście złożonych struktur organizacyjnych i zaawansowanych systemów, takich jak sztuczna inteligencja. W przypadku poważnych incydentów priorytetem jest i powinno być natychmiastowe podjęcie działań naprawczych i mitygujących skutki incydentu, a nie raportowanie incydentu do organów administracji. Wyznaczenie bardzo krótkiego terminu na zgłoszenie incydentu w sposób oczywisty wymusi przydzielanie zasobów do przygotowania zgłoszenia w momencie, w którym wszystkie dostępne zasoby powinny być zaangażowane w działania naprawcze i mitygujące. 24 godziny to niewystarczający czas na przeprowadzenie dogłębnej analizy incydentu, zebranie niezbędnych danych, ocenę jego potencjalnego wpływu oraz podjęcie świadomych decyzji dotyczących dalszych działań. W przypadku organizacji o rozbudowanej strukturze, proces ten może być dodatkowo utrudniony przez konieczność koordynacji działań między różnymi działami i jednostkami. W przypadku incydentów związanych z zaawansowanymi technologiami, takimi jak sztuczna inteligencja, ocena ich powagi i potencjalnych konsekwencji może wymagać zaangażowania specjalistów oraz przeprowadzenia szczegółowych analiz technicznych, co jest niemożliwe do wykonania w ciągu 24 godzin. Ponadto, w dużych organizacjach, proces raportowania incydentów może obejmować wiele etapów, takich jak identyfikacja, Uwaga uwzględniona Przepis uległ znaczącej zmianie w aktualnym projekcie ustawy. W obecnym kształcie przepisy uwzględniają rolę Komisji Europejskiej w ustaleniu szczegółowych zasad i sposobów opisu zgłaszanego incydentu. KE zapewniając jednolity sposób zgłaszania poważnych incydentów jednocześnie zmniejszy ryzyko fragmentaryzacji form raportowania takich incydentów w państwach członkowskich. W ust. 1 wykreślono doprecyzowanie terminu – 24 godzin - na z głoszenie incydentu stwarzającego poważne ryzyko, pozostając przy wskazaniu, że następuje to niezwłocznie w terminie i na zasadach określonych w art. 73 rozporządzenia 2024/1689. 142 klasyfikacja, analiza, eskalacja oraz przygotowanie raportu. Dla organizacji działających w różnych strefach czasowych 24-godzinny termin raportowania może okazać się jeszcze bardziej problematyczny. W związku z powyższym konieczne jest wydłużenie terminu raportowania poważnych incydentów do co najmniej 7 dni. Zapewni to wystarczającą ilość czasu na: ● Dogłębną analizę incydentu: Identyfikację przyczyn, ocenę skutków oraz potencjalnego wpływu. ● Zebranie niezbędnych danych: Zgromadzenie dowodów, logów oraz innych informacji istotnych dla zrozumienia incydentu. ● Koordynację działań: Zapewnienie współpracy między różnymi działami i jednostkami w celu skutecznego reagowania na incydent. ● Przygotowanie kompleksowego raportu: Sporządzenie raportu zawierającego wszystkie istotne informacje dotyczące incydentu. Zapewnienie racjonalnego terminu raportowania poważnych incydentów przyczyni się do większej jakości raportowania, umożliwi skuteczne reagowanie na incydenty oraz umożliwi organizacjom lepsze zarządzanie ryzykiem. 228. Art. 80 ust. 1 IAB Polska Ograniczenie przekazywania danych o incydentach w zakresie innych podmiotów Projektowany przepis pozwala Komisji na szerokie udostępnianie danych o incydentach, co może prowadzić do nadużyć. Rekomendujemy: 1. Określenie jasnych kryteriów, takie udostępnienie może mieć miejsce, 2. Wprowadzenie zabezpieczeń chroniących dane nieosobowe np. tajemnicę przedsiębiorstwa. Pozwoli to ograniczyć nieuzasadnione przekazywanie danych między instytucjami. Uwaga wyjaśniona Katalog podmiotów w art. 80 ust. 1 (obecnie art. 70) został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. Dane przekazywane pomiędzy instytucjami udostępniane są w zakresie niezbędnym do realizacji przez te organy ich zadań określonych w rozporządzeniu 2024/1689 lub ustawie z uwzględnieniem przepisów o ochronie danych osobowych. Przekazanie następuje z urzędu lub na wniosek, a podstawą do ich udostepnienia są przepisy powszechnie obowiązujące. 229. Art. 80 ust. 1 UKNF Uzasadnione jest dodanie do katalogu podmiotów wymienionych w art. 80 ust. 1 projektu ustawy Komisji Nadzoru Finansowego, w celu Uwaga uwzględniona 143 pozyskiwania przez nią informacji na temat poważnych incydentów zaistniałych w związku z wykorzystaniem systemów AI wykorzystywanych przez podmioty objęte nadzorem KNF. Tego rodzaju informacje pozostają istotne z perspektywy nadzoru sprawowanego przez KNF, w tym z perspektywy bieżącej oceny ryzyka dla podmiotów rynku finansowego i nieprofesjonalnych uczestników tego rynku z wykorzystania przez podmioty objęte nadzorem KNF systemów sztucznej inteligencji. W art. 80 (obecnie art. 70) w ust. 1 dodano Przewodniczącego Komisji Nadzoru Finansowego. 230. Art. 80 ust. 1 ZPP Ustalić kryteria udostępniania raportów i danych organom, co zapewni odpowiednią ochronę informacji przy jednoczesnej transparentności postępowań. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 231. Art. 80 ust. 1 Konfederacj a Lewiatan Obecny przepis przyznający Komisji uprawnienia do przekazywania raportów i powiązanych danych wielu podmiotom jest zbyt szeroki i może prowadzić do nadużyć. Ustawa nie określa jasno okoliczności, w których takie udostępnianie danych może nastąpić. W związku z tym zalecamy wprowadzenie jasnych i szczegółowych kryteriów, które będą określać, kiedy zgłoszenia incydentów i powiązane dane mogą być udostępniane innym organom. Należy również wprowadzić wyraźne zabezpieczenia w celu ochrony danych nieosobowych, takich jak tajemnice przedsiębiorstwa, które obecnie nie są wystarczająco chronione. Uwaga wyjaśniona Katalog podmiotów w art. 70 ust. 1 został określony enumeratywnie, przez co ryzyko nadużyć zostało znacząco ograniczone. 232. Art. 81 ust. 4 pkt 1 PCA Zgodnie z projektem „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji uczestniczy w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” Zapis sugeruje wiodącą rolę PCA w tym zakresie przy jednoczesnym przypisaniu kompetencji organu notyfikującego do ministra właściwego do spraw informatyzacji. Proponujemy usunięcie tego Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689;”. 144 zapisu lub przeredagowanie zapisu, aby lepiej oddawał podział kompetencji: „Polskie Centrum Akredytacji wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689” 233. Art. 81 ust. 4 pkt 2 PCA Zgodnie z projektem „Polskie Centrum Akredytacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz dokonuje aktualizacji tego programu, co 24 miesiące, uwzględniając wnioski z jego bieżącej realizacji”. Proponujemy przeredagowanie zapisu tak aby punkt ten otrzymał brzmienie: „Polskie Centrum Akredytacji we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;” Zaproponowane podejście umożliwia bardziej elastyczne reagowanie i jest standardowo stosowane w innych obszarach. Rozwiązanie zaproponowane obecnie w projekcie może generować konieczność opracowywania „sztucznej” aktualizacji w przypadku braku takiej konieczności. Jednocześnie zaproponowany termin 24 miesięcy jest terminem w żaden sposób niezwiązanym z cyklem akredytacji wynoszącym 4 lata. PCA zawsze w razie potrzeby opracowuje szczegółowe programy akredytacji, opracowywanie programów akredytacji jest jednym z wymagań normy PN-EN ISO/IEC 17011, które jednostka akredytująca musi spełniać. Uwaga uwzględniona Przepisowi (art. 71 ust. 4 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „2) we współpracy z ministrem właściwym do spraw informatyzacji, opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeb, uwzględniając w szczególności wnioski z jego bieżącej realizacji, aktualizację tego programu;”. 234. Art. 82 ust 3 pkt 1 PCA Art. 43 rozporządzenia 2024/1689 nie dotyczy wprost procedury oceny na potrzeby akredytacji i nie stanowi podstawy akredytacji. Proponujemy zmienić treść przepisu na następującą: Uwaga uwzględniona 145 „Certyfikat akredytacji, o którym mowa w art. 24. ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689” Przepisowi (art. 72 ust. 3 pkt 1) nadano nowe brzmienie zgodne z treścią uwagi. „1) certyfikat akredytacji, o którym mowa w art. 24 ust. 2 z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku, potwierdzający spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689;”. 235. Art. 82 ust. 3 pkt 2 PCA Dokumentem potwierdzające spełnienie wymogów, o których mowa w art. 31 rozporządzenia 2024/1689 zgodnie z ust. 1 jest certyfikat akredytacji, zatem dołączanie do wniosku innych dokumentów nie jest uzasadnione. Wydaje się, iż wymagania wymienione w pkt 2 są już zawarte w pkt 1. – zatem jest to powtórzenie. Zgodnie z art. 30 ust. 3 Rozporządzenia 2024/1689 tylko w przypadku, gdy podstawą notyfikacji nie jest certyfikat akredytacji, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. Uwaga uwzględniona Odstąpiono od regulacji zawartej w art. 72 ust. 3 pkt 2. 236. Rozdział 8 PARP W projekcie ustawy przewidziano możliwość ustanowienia piaskownic regulacyjnych, co zostało ujęte w art. 85. Niemniej jednak brakuje szczegółowych regulacji określających zasady ich funkcjonowania, kryteria uczestnictwa dla przedsiębiorstw oraz zakres wsparcia dla firm testujących nowe rozwiązania. Warto doprecyzować, w jaki sposób przedsiębiorcy będą mogli skorzystać z tego mechanizmu oraz jakie konkretne korzyści wynikają z testowania rozwiązań w ramach piaskownic regulacyjnych. Warto rozważyć uzupełnienie przepisów o regulacje dotyczące współpracy z ośrodkami badawczymi oraz wskazanie procedur wsparcia dla przedsiębiorców testujących innowacyjne rozwiązania w ramach piaskownic. Uwaga wyjaśniona Projekt ustawy służy stosowaniu przepisów rozporządzenia 2024/1689. Przy konstruowaniu przepisów dotyczących piaskownic regulacyjnych ustawa nie może wyjść poza ramy ww. rozporządzenia. Dodatkowo należy wskazać, że część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 237. Art. 85 KRRiT Podtrzymuję jednocześnie stanowisko wyrażone w moim piśmie z dnia 14 listopada 2024 r., że uprawnienia do tworzenia piaskownic Uwaga wyjaśniona 146 regulacyjnych oraz zarządzania nimi powinny przysługiwać także takim organom jak: Prezes Urzędu Ochrony Danych Osobowych, Prezes Urzędu Ochrony Konkurencji i Konsumentów, Prezes Urzędu Komunikacji Elektronicznej oraz Przewodniczący Krajowej Rady Radiofonii i Telewizji. Projektodawca zakłada, że będzie to wyłączna kompetencja Przewodniczącego Komisji. Jednocześnie zauważmy, że projekt wskazuje na współpracę Komisji z organami w celu realizacji zadań wynikających z rozporządzenia 2024/1689 i ustawy co dotyczyć powinno również ustanawiania piaskownic regulacyjnych. 238. Art. 85 ust. 4 RPD Art. 85 ust. 4 przewiduje nieodpłatne uczestnictwo mikroprzedsiębiorców oraz MŚP w piaskownicy regulacyjnej. Należy rozszerzyć ten przepis na organizacje pozarządowe wspierające prawa dzieci i ich edukację cyfrową. Proponuje się dodanie nowego ustępu 4a do projektowanego przepisu: „Uczestnictwo organizacji pozarządowej, której celem statutowym jest ochrona dzieci oraz wspieranie inicjatyw edukacyjnych na ich rzecz, w piaskownicy regulacyjnej jest nieodpłatne.” Nieodpłatne uczestnictwo organizacji pozarządowych w piaskownicach regulacyjnych umożliwi tego rodzaju podmiotom bardziej skuteczne analizowanie wpływu AI na dzieci, w tym wczesne wykrywanie niepożądanego oddziaływania wyników generowanych przez tego rodzaju rozwiązania na dzieci. Uwaga wyjaśniona Uczestnictwo w piaskownicach regulacyjnych dotyczy podmiotów określonych art. 2 ust. 1 lit. a- c i e rozporządzenia 2024/1689. 239. Art. 85 ust. 5 NSZZ Wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej ustalono na maksymalnie czterokrotność minimalnego wynagrodzenia za pracę. Uwaga: NSZZ „Solidarność” sprzeciwia się powiązaniu opłaty z minimalnym wynagrodzeniem, bo: 1) brak związku funkcjonalnego z pracą, 2) utrudnia dialog społeczny ws. minimalnego wynagrodzenia (tzw. „podwiązki”). Propozycja: rezygnacja z odniesienia do minimalnego wynagrodzenia i ustalenie opłaty w inny sposób, by wspierać dialog społeczny. Uwaga wyjaśniona Mając na uwadze zakres podmiotów, na które oddziałuje rozporządzenie 2024/1689 oraz projekt ustawy sposób wyznaczenia wysokości opłaty jest optymalny i pozostanie bez wpływu na dialog społeczny w zakresie minimalnego wynagrodzenia. 240. Art. 85 ust 7 KRRiT Z aprobatą przyjmuję również, że aktualny projekt ustawy został uzupełniony o rozdział 8 „Środki wspierające innowacyjność”, który zawiera przepisy dotyczące tworzenia piaskownic regulacyjnych, w tym projektowany art. 85 ust 7. Przepis ten przewiduje tworzenie piaskownic regulacyjnych przez Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wspólnie z innymi właściwymi organami nadzoru rynku, w tym i z KRRiT - jak można Uwaga uwzględniona Wykreślono odwołanie do art. 57 ust. 1. 147 Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym wnioskować z treści projektu. Należy jednak zauważyć (co zaznaczyłem także w pkt 19 uwag legislacyjnych), że art. 85 w ust. 7 projektu błędnie odsyła do przepisu art. 57 ust. 1 projektowanej ustawy. Nie dotyczy on właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 241. Art. 86 RPD Projektowany art. 86 wymaga doprecyzowania w zakresie ustalania limitu liczby użytkowników oraz innych podmiotów, na które mogą oddziaływać projekty testowane w piaskownicy regulacyjnej, zwłaszcza z uwzględnieniem szczególnej ochrony dzieci. Należy pamiętać, że limit ten ustala minister właściwy do spraw informatyzacji, po zasięgnięciu opinii Komisji, w drodze rozporządzenia, biorąc pod uwagę możliwości organizacyjne Komisji, przewidywane zainteresowanie uczestnictwem w piaskownicy regulacyjnej oraz przewidywany wpływ piaskownicy na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji. Obecnie w projekcie nie przewidziano żadnych ograniczeń dotyczących udziału dzieci w tego rodzaju projektach, co może prowadzić do sytuacji, w której dzieci będą w nieproporcjonalny sposób narażone na eksperymentalne rozwiązania z zakresu sztucznej inteligencji. Z tego względu zasadne jest postulowanie, by projektodawca wprowadził w art. 86 dodatkowe regulacje zapewniające lepszą ochronę dzieci uczestniczących w projektach w piaskownicy regulacyjnej. Po pierwsze, należałoby ustalić górny limit udziału osób małoletnich w populacji użytkowników objętych oddziaływaniem projektów testowanych w piaskownicy regulacyjnej, przyjmując, że powinien on być niższy niż limit dotyczący osób dorosłych ze względu na potrzebę ochrony dzieci jako osób, na które AI może mieć szczególny wpływ. Po drugie, wskazane byłoby ustanowienie w projektowanym przepisie dodatkowych mechanizmów ochrony, na przykład uzależnienie Uwaga wyjaśniona W wyniku zgłoszonych uwag przepis został wykreślony. 148 dopuszczenia projektu przekraczającego limit od uzyskania opinii Rzecznika Praw Dziecka jako konstytucyjnego organu stojącego na straży dobra dziecka. W konsekwencji proponuje się dodanie w art. 86 ust. 3 następującego zdania: „Liczba użytkowników będących dziećmi, na które może oddziaływać jeden projekt w piaskownicy regulacyjnej, nie może przekroczyć 5% limitu ustalonego na podstawie przepisów ust. 1 i 2, chyba że projekt ten uzyska pozytywną opinię Rzecznika Praw Dziecka oraz spełnia podwyższone standardy ochrony danych i bezpieczeństwa dzieci.”. 242. Art. 87 ust. 4 Konfederacj a Lewiatan Przepis w obecnym brzmieniu nakłada na podmiot wymóg udowodnienia, że projekt przyczyni się do celów określonych w pkt 1) i 2), co należy doprecyzować. Przepis powinien wyszczególnić, w jaki sposób podmiot ma zapewnić, że jego udział w projekcie przyczyni się do ww. celów. Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 243. Art. 87 ust. 4 i 6 RPD Art. 87 nie zawiera dodatkowych wymogów dla projektów w piaskownicach regulacyjnych, które dotyczą dzieci. Z perspektywy ochrony praw dzieci istotne jest, aby przepisy wprost uwzględniały sytuację, w której projekt może oddziaływać na najmłodszych użytkowników oraz zobowiązywały podmioty ubiegające się o udział w piaskownicy regulacyjnej do wykazania, że zastosowane rozwiązania minimalizują ryzyko ewentualnych naruszeń. W związku z tym proponuje się wprowadzenie do art. 87 następujących uzupełnień: 1. Dodatkowe kryterium oceny projektów w piaskownicach regulacyjnych, które dotyczą dzieci W ust. 4, który określa warunki kwalifikacji podmiotu do uczestnictwa w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „4) Jeżeli projekt może oddziaływać na dzieci, podmiot wykazuje, w jaki sposób projekt spełnia wysokie standardy ochrony dzieci oraz Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji. Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 149 zawiera mechanizmy minimalizujące ryzyko narażenia dzieci na szkodę lub krzywdę w związku z udziałem w projekcie.” 2. Obowiązek wskazania potencjalnego wpływu na dzieci W ust. 6, który określa zakres informacji, jakie powinna zawierać oferta podmiotu, który chce uczestniczyć w piaskownicy regulacyjnej, należy dodać nowy punkt w brzmieniu: „7) jeżeli projekt może oddziaływać na dzieci, oferta zawiera analizę potencjalnego wpływu projektu na dzieci, w tym analizę ryzyka dla ich praw i wolności, a także opis środków zapewniających ochronę praw i bezpieczeństwa dzieci w związku z uczestnictwem w projekcie.” Taka analiza pozwoli na kompleksową ocenę wpływu planowanych rozwiązań na dzieci oraz przyczyni się do stworzenia odpowiednich mechanizmów gwarantujących ich ochronę na etapie testowania i dalszego stosowania innowacyjnych technologii sztucznej inteligencji. 244. Art. 88 ust. 1 i 2 RPD Art. 88 ustanawiając proces oceny ofert w konkursie na uczestnictwo w piaskownicy regulacyjnej nie uwzględnia wprost szczególnych potrzeb i najlepiej pojętego interesu dziecka w procesie oceny projektów w piaskownicy regulacyjnej, zwłaszcza w sytuacji, gdy projekt może oddziaływać na osoby małoletnie. Z uwagi na konieczność ochrony praw dzieci i zapewnienia, aby technologie sztucznej inteligencji były rozwijane w sposób bezpieczny oraz etyczny, proponuje się wprowadzenie do art. 88 następujących zmian: 1. Obowiązek zasięgnięcia opinii Rzecznika Praw Dziecka w zespole konkursowym W celu zagwarantowania, że w procesie oceny ofert zostaną uwzględnione aspekty ochrony praw dziecka oraz bezpieczeństwa i etyki stosowania technologii wobec osób małoletnich, proponuje się dodanie nowego ust. 1a w brzmieniu: „1a. W przypadku gdy projekt może oddziaływać na użytkowników będących dziećmi, zespół konkursowy zasięga opinii Rzecznika Uwaga wyjaśniona Przepisy zostały zmodyfikowane w oparciu o zgłoszone uwagi. Odstąpiono od części regulacji Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 150 Praw Dziecka oceniającej projekt z perspektywy realizacji przez niego najlepiej pojętego interesu dziecka” 2. Ocena projektów pod kątem najlepiej pojętego interesu dziecka. Należy rozszerzyć zakres oceny ofert dokonywanej przez zespół konkursowy. W tym celu proponuje się dodanie zdania drugiego do art. 88 ust. 2: „W przypadku, gdy projekt może oddziaływać na dzieci, zespół konkursowy dokonuje oceny oferty również pod kątem realizacji przez projekt najlepiej pojętego interesu dziecka, uwzględniając w szczególności bezpieczeństwo i ochronę prywatności dzieci”. Wprowadzenie powyższych zmian pozwoli na pełniejsze zabezpieczenie praw dzieci w trakcie oceny projektów testowanych w piaskownicy regulacyjnej oraz zapewni, że innowacyjne rozwiązania oparte na sztucznej inteligencji będą w większym stopniu uwzględniać szczególne potrzeby i bezpieczeństwo najmłodszych użytkowników. 245. Art. 91 RPD Biorąc pod uwagę potrzebę zagwarantowania dobra dzieci jako potencjalnych uczestników projektów w piaskownicy regulacyjnej, należy rozszerzyć obowiązki podmiotów uczestniczących w piaskownicy o wymóg dostosowania przekazywanych informacji do potrzeb małoletnich odbiorców. W szczególności art. 91 ust. 1 pkt 1 powinien precyzować, że jeśli projekt oddziałuje lub może oddziaływać na dzieci, podmiot uczestniczący ma obowiązek przedstawienia wymaganych informacji w sposób zrozumiały dla dzieci, uwzględniając ich wiek oraz poziom dojrzałości. Taki obowiązek zapewni, że dzieci będą świadome udziału w projekcie oraz jego potencjalnych skutków, co jest zgodne z zasadą przejrzystości i ochrony ich praw. Brak takiego wymogu może prowadzić do sytuacji, w której dzieci nie będą miały realnej możliwości zrozumienia, w jaki sposób dany projekt i poddanie się wpływowi AI w warunkach piaskownicy regulacyjnej na nie wpływają. Uwaga wyjaśniona Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. 246. Art. 92 IAB Polska Skonkretyzowanie uprawnień kontrolnych Komisji w zakresie piaskownicy regulacyjnej Uwaga wyjaśniona 151 Projektowane przepisy nie gwarantują wystarczającej ochrony poufności informacji w ramach testowania nowych technologii. Tym samym nie zapewniają zaufania i bezpieczeństwa uczestniczących podmiotów Kontrole te powinny być dostosowane do uprawnień nadzorczych Komisji związanych z weryfikacją naruszeń AI Act lub ustawy o systemach sztucznej inteligencji (zgodnej z naszymi uwagami). Część regulacji obejmującej piaskownice regulacyjne zostanie zgodnie z art. 58 rozporządzenia 2024/1689 uregulowana za sprawą aktu wykonawczego Komisji Europejskiej. Kontrole zostały zaprojektowane stosownie do uprawnień nadzorczych Komisji wynikających z AI Act lub ustawy o systemach sztucznej inteligencji. Nie naruszają zasad poufności ani tajemnic prawnie chronionych. 247. Art. 94 ust. 1 RPO Druga kwestia dotyczy rozwiązań mających na celu wykonanie art. 95 rozporządzenia 2024/1689. Zgodnie z art. 95 ust. 1 rozporządzenia, urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. Tymczasem art. 94 ust. 1 projektowanej ustawy stanowi jedynie, że minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689 poprzez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. Artykuł 10 ust. 2 pkt 4 stanowi natomiast, że Komisja publikuje w Biuletynie Informacji Publicznej na stronie podmiotowej Biura Komisji, coroczną informację zawierającą przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców. Nie negując zasadności powierzenia tego rodzaju zadań ministrowi i Komisji, wskazać należy, że uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki, Uwaga wyjaśniona Przyjęta przez projektodawcę regulacja ma na celu umożliwienie stosowania art. 95 ust. 1 rozporządzenia 2024/1689 uwzględniając znaczenie kodeksów postępowania dla ochrony jednostki. W tym zakresie projektowane rozwiązania są optymalne i kompletne. Natomiast w kwestii osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 175 należy zauważyć że obok państw członkowski znaczącą rolę będą odgrywały działania podjęte przez Europejską Radę ds. Sztucznej Inteligencji (dalej „Radą”) Komisji Europejskiej. 152 przyjęte w projektowanej ustawie rozwiązania, w ocenie RPO, mogą okazać się niewystarczające dla osiągnięcia celów rozporządzenia 2024/1689 przedstawionych m.in. w motywach 20, 174 i 17521. 248. Art. 96 IAB Polska Poszerzenie listy podmiotów kwalifikujących się do wsparcia finansowego Obecnie projektowane przepisy ograniczają możliwość wsparcia do określonej grupy podmiotów, co nie sprzyja rozwojowi ekosystemu AI w Polsce. Szersze ramy pozwoliłyby na tworzenie szerszych partnerstw, ułatwiając rozwój rynku. Rozszerzenie zakresu zachęciłoby do współpracy między różnymi podmiotami przyczyniając się do rozwoju AI w Polsce. Uwaga wyjaśniona Określenie wskazanego w przepisie kręgu podmiotów jest ściśle powiązane ze sposobem i źródłem finansowania a także celem jakim ma ono służyć. 249. Art. 96 ZPP Wskazać, że wsparcie finansowe dla podmiotów wdrażających systemy AI powinno być jasno określone, aby nie naruszać równowagi pomiędzy nadzorem a wsparciem innowacji. Uwaga wyjaśniona Przepis w sposób jasny określa podmioty zaangażowane w finansowanie, źródła finansowania oraz jego cele. Przewidziane w przepisie rozwiązania nie naruszają zasad wiązanych z nadzorem natomiast mają istotne znaczenie dla wsparcia innowacyjności. 250. Art. 96 Konfederacj a Lewiatan Uprawnienie Ministra Cyfryzacji do udzielania wsparcia finansowego na rozwój sztucznej inteligencji stanowi istotny krok w kierunku pobudzenia innowacji w tej dziedzinie. Niemniej jednak, aby w pełni wykorzystać potencjał tego wsparcia i stymulować dynamiczny rozwój rynku AI w Polsce, konieczne jest rozszerzenie listy kwalifikujących się odbiorców. Obecne ramy kwalifikowalności, choć wartościowe, mogą nie uwzględniać wszystkich podmiotów, które mogłyby wnieść istotny wkład w rozwój ekosystemu sztucznej inteligencji. Rozszerzenie tych ram pozwoliłoby Ministerstwu na nawiązanie współpracy z szerszym gronem interesariuszy, w tym nie tylko z dużymi przedsiębiorstwami, ale także ze startupami, małymi i średnimi Uwaga wyjaśniona Odbiorcy kwalifikujący się do udzielania wsparcia finansowego na rozwój sztucznej inteligencji zostali określeni w oparciu o sposób oraz źródła finansowania. Tworząc ich listę wzięto również pod uwagę cel jakiemu ma służyć finansowanie. Odpowiada ona też na potrzeby celem jakim ma ono służyć. 153 przedsiębiorstwami, instytucjami badawczymi, organizacjami pozarządowymi oraz uczelniami wyższymi. Startupy ze swoją innowacyjnością i elastycznością, często są źródłem przełomowych rozwiązań w dziedzinie AI. Małe i średnie przedsiębiorstwa, stanowiące trzon polskiej gospodarki, mogą wykorzystać sztuczną inteligencję do optymalizacji procesów, tworzenia nowych produktów i usług oraz zwiększenia swojej konkurencyjności. Instytucje badawcze odgrywają kluczową rolę w rozwoju technologii AI, prowadząc badania podstawowe i stosowane, a także kształcąc przyszłych specjalistów. Organizacje pozarządowe mogą pełnić funkcję strażników etycznego i odpowiedzialnego rozwoju sztucznej inteligencji, a także wspierać edukację i społeczną akceptację dla tej technologii. Uczelnie wyższe, poprzez swoje programy badawcze i dydaktyczne, stanowią kuźnię talentów i innowacji w dziedzinie AI. Rozszerzenie zakresu wspieranych podmiotów przyczyniłoby się do powstania bardziej zróżnicowanego i kompleksowego ekosystemu innowacji w zakresie sztucznej inteligencji, który byłby w stanie sprostać wyzwaniom przyszłości i wykorzystać szanse, jakie niesie ze sobą ta dynamicznie rozwijająca się dziedzina. Taki ekosystem, oparty na współpracy różnych aktorów, byłby bardziej odporny na zmiany i zdolny do generowania innowacji o charakterze przełomowym, które mogłyby przynieść korzyści zarówno gospodarce, jak i społeczeństwu. 251. Art. 97 ust. 1 Konfederacj a Lewiatan Propozycja brzmienia: Art. 97. 1. Komisja może nałożyć nakłada na operatora podmiot obowiązanego do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, wysokości określonych w art. 99 ust 3 * i na warunkach określonych w art. 99 ust.7 w rozdziale XII rozporządzenia 2024/1689. Uzasadnienie: To przepis quasi karny musi z niego jasno wynikać zakres Uwaga wyjaśniona Celem przepisu jest aby w przypadku wystąpienia przesłanek nałożenia administracyjnej kary, kara ta została nałożona i by nastąpiło to z poszanowaniem przepisów rozporządzenia 2024/1689. Przedmiotowe kary mają zapobiegać dalszym naruszeniom prawa przez podmiot który już się tego dopuścił więc stosowanie fakultatywności ich 154 podmiotowy i przedmiotowy stosowania. \"Operator\" jest zdefiniowany i użyty w art. 99 ust1 Rozporządzenia. Użycie formy \"nakłada\" jest sprzeczne z brzmieniem ust. 7 art. 99 AI Act, który przewiduje możliwość nienałożenia kary: \"Przy podejmowaniu decyzji o nałożeniu kary/When deciding whether to impose an administrative fine. Analogiczne jak np. w art. 106 uokk - organ \"może nałożyć\" karę a ze sformułowanie \"nakłada\" oznacza, że musi nałożyć - co jest sprzeczne z AI Act. * Ponadto, dopóki nie wejdą w życie pozostałe przepisy - dotyczące m.in. systemów wysokiego ryzyka, przepis powinien ograniczać się wyłącznie do naruszeń art. 5 czyli ust. 3 art.99. nakładana nie znajduje uzasadnienia. Jednocześnie należy wskazać, że przepisy rozdziału III projektu ustawy dają postawę do zastosowania nadzwyczajnego złagodzenia sankcji w trybie zawarcia układu. Przepis został skonstruowany w sposób umożliwiający stosowanie przepisów rozporządzenia 2024/1689 i zakres jego stosowania będzie się zmieniał wraz z wchodzącymi w życie przepisami tego aktu. 252. Art. 97 ust. 4 IAB Polska Uproszczenie przeliczania kar z EUR na PLN Obecne zasady przeliczania kar są niepotrzebnie skomplikowane. Zalecamy zastosowanie procedury przyjętej w ustawie o ochronie konkurencji i konsumentów: Przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 253. Art. 97 ust. 4 Konfederacj a Lewiatan Obecna metoda przeliczania kar z EUR na PLN jest niepotrzebnie skomplikowana. Rekomendujemy ujednolicenie procedury z podejściem zastosowanym w ustawie o ochronie konkurencji i konsumentów, która stanowi, że przeliczanie euro i innych walut obcych na złote, a także przeliczanie złotych na euro, będzie następowało na podstawie średniego kursu walut obcych ogłaszanego przez Narodowy Bank Polski w ostatnim dniu roku kalendarzowego poprzedzającego rok nałożenia kary. Uwaga wyjaśniona Przepisy projektu ustawy w zakresie przeliczania kar są analogiczne do ustawy o ochronie danych osobowych. 254. Art. 98 ZPP Wydłużyć termin na podanie danych niezbędnych do ustalenia kary – rekomendujemy zmianę z 14 dni na okres umożliwiający rzetelną analizę (np. minimum 30 dni). Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania 155 danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 255. Art. 98 Konfederacj a Lewiatan Proponowane brzmienie: Art. 98. 1. W związku z toczącym się postępowaniem, podmiot, o którym mowa w art. 70 ust. 1 ustawy, jest obowiązany do dostarczenia Komisji w terminie 14 30 dni od dnia otrzymania żądania, danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Wydłużenie terminu - analogicznie jak w uodo. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania 256. Art. 98 ust. 1. IAB Polska Wydłużenie terminu na dostarczenie do Komisji danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej do 60 dni Zalecamy minimalny 60-dniowy okres reakcji, aby zapewnić firmom odpowiedni czas na zbadanie zastrzeżeń organów regulacyjnych i zareagowanie na nie. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność nie należy do czynności o dużym stopniu skomplikowania. 257. Art. 98 ust. 1. Pracodawcy RP Artykuł 98 ust. 1 projektu przewiduje 14 dni na przekazanie danych w celu ustalenia kary. Ponownie podkreślamy to, że firmy powinny mieć co najmniej 60 dni na przeanalizowanie zastrzeżeń organów regulacyjnych i udzielenie na nie odpowiedzi. Art. 98 ust. 1 Pracodawców RP Termin 14 dni na przekazanie danych do ustalenia kary jest zbyt krótki. Propozycja: Wydłużenie terminu do co najmniej 60 dni. Uwaga wyjaśniona Zaproponowany 14 dniowy termin jest optymalny. Zapewnia on zarówno sprawne prowadzenie postępowania jak i jest wystarczający do wskazania danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej. Czynność, nie należy do czynności o dużym stopniu skomplikowania. 258. Art. 99 IAB Polska Przekazywanie wpływów z kar do budżetu państwa Uwaga uwzględniona 156 Obecny przepis pozwala na finansowanie Komisji z wpływów z kar, co może rodzić konflikt interesów. Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa. (art. 87). 259. Art. 99 Konfederacj a Lewiatan Projektowany przepis, zezwalając na finansowanie Urzędu Komisji z wpływów pochodzących z kar pieniężnych nakładanych przez Komisję, stwarza niebezpieczny precedens. Mechanizm ten może zachęcać do nakładania wysokich i licznych kar, niekoniecznie uzasadnionych, w celu poprawy sytuacji finansowej Komisji. Takie rozwiązanie jest szkodliwe dla rozwoju sztucznej inteligencji w Polsce, ponieważ systemowo zachęca organ do nakładania możliwie wysokich i licznych kar pieniężnych na dostawców systemów sztucznej inteligencji, co może zniechęcić do inwestowania i rozwoju w tej dziedzinie. Przepis tego typu może zniweczyć wszelkie inne rozwiązania zawarte w projekcie ustawy, które miałyby sprzyjać rozwojowi sztucznej inteligencji, takie jak np. piaskownice regulacyjne, które mają na celu stworzenie bezpiecznego i kontrolowanego środowiska do testowania innowacyjnych rozwiązań. Rozwiązanie, w którym kary pieniężne stanowią przychód karzącego, jest niezgodne z europejskimi i polskimi standardami dla organów nadzoru. Kary pieniężne nakładane przez Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Komunikacji Elektronicznej oraz Prezesa Urzędu Ochrony Danych Osobowych nie stanowią przychodu tych organów. Zgodnie z odpowiednimi przepisami, wpływy z kar nakładanych przez te organy są przekazywane albo do budżetu państwa, albo do specjalnie utworzonych funduszy celowych, które mają osobowość prawną i pozostają poza kontrolą organów nakładających kary. Wpływy z kar pieniężnych nakładanych przez Komisję powinny być przekazywane do budżetu państwa, tak jak było to zapisane w pierwotnej wersji projektowanej ustawy. Takie rozwiązanie zapewniłoby większą przejrzystość i zapobiegłoby potencjalnym konfliktom interesów. Uwaga uwzględniona Zgodnie z nowym brzmieniem przepisu środki finansowe z administracyjnej kary pieniężnej stanowią przychód budżetu państwa (art. 87). 157 260. Art. 100 ust. 7 IAB Polska Doprecyzowanie zasad odwołania odroczeń i rozłożenia na raty Brak precyzyjnych ograniczeń dla Komisji w zakresie odwołania odroczeń lub rozłożeń na raty może prowadzić do nadmiernego obciążenia finansowego dla podmiotów regulowanych. Rekomendujemy określenie, że Komisja może odwołać odroczenie lub rozłożenie na raty tylko wtedy, gdy pojawią się nowe lub wcześniej nieznane okoliczności z powodu wcześniejszych działań ukaranego podmiotu, które utrudniły ich uzyskanie. Uwaga wyjaśniona Przepisy art. 100 stanowią rozwiązanie znane w polskim prawie np. Ustawie o ochronie danych osobowych i Ustawie o ochronie konkurencji i konsumentów. 261. Art. 102 ust. 3 PGRP Rekomenduje się określenie terminu na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej za słuszne. Uwaga uwzględniona Przepis (art. 90 ust. 3) został uzupełniony o termin 14 dni od dnia doręczenia odwołania na uznanie przez Komisję odwołania od decyzji w sprawie nałożenia administracyjnej kary pieniężnej. 262. Art. 104 Konfederacj a Lewiatan Propozycja brzmienia: Art. 104. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 oraz ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym, że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji przepisy ustawy o postępowaniu egzekucyjnym w administracji Uzasadnienie: Ordynacja podatkowa nie jest aktem stosowanym do kwestii kar administracyjnych. Ustawa o postępowaniu egzekucyjnym w administracji wskazuje wprost, że ją się stosuje do egzekucji kar a ordynację tylko do podatków (art. 2 par. 1 pkt 1 i 2 ustawy o postępowaniu egzekucyjnym w administracji). Analogicznie jak np. w uokk. Wprowadzanie różnych procedur utrudnia obrót, nie sprzyja jasności i jednolitości prawa. Uwaga wyjaśniona Przyjęte przez projektodawcę rozwiązanie jest znane przepisom prawa krajowego i nie stoi w sprzeczności z zasadami dotyczącymi regulowania administracyjnych kar pieniężnych. 263. Art. 105. Konfederacj a Lewiatan Propozycja brzmienia: Uwaga wyjaśniona 158 Art. 105. 1. Kto udaremnia lub utrudnia kontrolującemu prowadzenie kontroli, o której mowa w rozdziale 3 ustawy, lub przeprowadzenie czynności podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. 2. Tej samej karze podlega przedsiębiorca bądź też uprawniony przedstawiciel strony, w związku z toczącym się postępowaniem w sprawie nałożenia administracyjnej kary pieniężnej, nie dostarcza danych niezbędnych do określenia podstawy wymiaru administracyjnej kary pieniężnej, pomimo ich posiadania lub dostarcza dane, które uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowania. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 264. Art. 105 – art. 106 Pracodawcy RP Zasadnym byłoby usunięcie w całości zapisów projektu sugerujących sankcje karne w rozdziale 9 (mowa o art. 105 – art. 106). Te niosłyby bowiem za sobą znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Przewidziane w projekcie sankcje karne nie znajdują uzasadnienia w przepisach Aktu o sztucznej inteligencji. Ich wprowadzenie stoi również w sprzeczności z zasadniczym celem tego rodzaju regulacji, jakim jest promowanie rozwoju innowacyjnych technologii, tj. sztucznej inteligencji. Organowi prowadzącemu określone postępowanie czy kontrolę przysługują zaś liczne uprawnienia (o charakterze administracyjnoprawnym), pozwalające mu zapewnić sprawność i skuteczność. Art. 105 - 106 Projekt przewiduje sankcje karne, które nie mają podstaw w Akcie o AI i mogą odstraszać od rozwoju AI. Propozycja: Usunięcie sankcji karnych, skupienie się na administracyjnych środkach egzekwowania prawa. Uwaga wyjaśniona Celem wprowadzenia sankcji karnych jest umożliwienie sprawnego i niezakłócanego przeprowadzenia kontroli oraz postępowań w tym z art. 55 projektu. Przepis nie będzie służył ograniczaniu rozwoju i wdrażania sztucznej inteligencji. Mając na uwadze ryzyka związane ze sztuczna inteligencją zabezpieczenie postepowań i kontroli w proponowany w rozdziale 9 sposób wydaje się optymalny. 159 265. Art. 106 Konfederacj a Lewiatan Propozycja brzmienia: Kto utrudnia lub udaremnia przeprowadzenie czynności w postępowaniu w przypadku stwierdzenia naruszenia, o którym mowa w art. 55 ustawy, jak również przedsiębiorca lub inna osoba uprawniona w ramach wykonywania obowiązków służbowych przez stronę nie podejmuje działań koniecznych do jego usunięcia podlega grzywnie, karze ograniczenia wolności albo pozbawienia wolności do lat 2. Uzasadnienie: Sankcje karne, w tym kary inne niż kara grzywny wydają się zbyt rygorystyczne i nieproporcjonalne dla rodzaju naruszeń. Sankcji innych niż grzywna nie przewiduje. m.in. ani uokk ani uodo. Rekomendowane pozostawienie jedynie grzywny. Należy jednoczenie w całości usunąć zapisy projektu ustawy sugerujące sankcje karne w rozdziale 9. Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie sztucznej inteligencji w danej jurysdykcji. Aspekty karne są w pełni uregulowane w Kodeksie karnym, który należy stosować w takich przypadkach. Uwaga wyjaśniona Sposób sformułowania przepisów oraz zakres kar jest zgodny z zasadami techniki legislacyjnej i spójny z przepisami karnymi określonymi w odrębnych ustawach. 266. Art. 107 ZPP Termin wniesienia odwołania od postanowienia organu kontrolnego powinien zostać wydłużony, np. do 2 tygodni, aby zapewnić odpowiedni czas na przygotowanie odwołania. 2.12. Sankcje karne a) Prosimy, aby sankcje karne stosowano wyłącznie w przypadkach utrudniania lub uniemożliwiania przeprowadzenia kontroli, a nie jako narzędzie mające ograniczać innowacyjność – interpretacja tych środków musi być zgodna z zasadą proporcjonalności. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. Celem wprowadzenia sankcji karnych jest umożliwienie kontrolującemu prawnego niezakłócanego przeprowadzenia kontroli. Przepis nie będzie służył ograniczaniu innowacyjności. 267. Art. 107 - art. 479[88g] § 4 IAB Polska Zapewnienie równego dostępu do dowodów dla Komisji i stron postępowania Uwaga wyjaśniona Celem przepisu jest to aby dostęp do dowodu będącego tajemnicą przedsiębiorstwa i innymi 160 Kodeksu Postępowan ia Cywilnego Obecnie Komisja ma uprzywilejowaną pozycję w dostępie do dowodów, co może naruszać zasady równości procesowej i równości wobec prawa. Rekomendujemy wprowadzenie zasady, że Komisja podlega takim samym ograniczeniom dostępu do dowodów, jak inne strony postępowania. tajemnicami podlegającymi ochronie na podstawie odrębnych przepisów miał ograniczony dostęp podmiotów tj wyłącznie podmioty, które wywodzą z tych dowodów swoje prawa lub w oparciu o nie wydają decyzje i postanowienia. Stąd też niezbędne jest zapewnienie dostępu do tych dowodów Komisji. 268. Art. 107 - art. 479[88h] § 1 Kodeksu Postępowan ia Cywilnego IAB Polska Wydłużenie terminu na wniesienie zażalenia na postanowienie Komisji Obecnie przewidziany termin 1 tygodnia jest zbyt krótki dla podmiotów o skomplikowanej strukturze organizacyjnej lub dla rozbudowanych stanów faktycznych. Wydłużenie zapewni czas na analizę prawną i faktyczną oraz możliwość przygotowania kompleksowego zażalenia. Uwaga wyjaśniona Tygodniowy termin jest optymalny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 269. Art. 107 (w zakresie Art. 479 88 h § 2 K.p.c. PGRP Rekomenduje się weryfikację zakresu odesłania do odpowiedniego stosowania do zażaleń przepisów o odwołaniu w dodawanym przez art. 107 projektu art. 47988h § 2 k.p.c. Zbędne wydaje się odesłanie do art. 47988b, w sytuacji gdy termin i procedurę wnoszenia zażaleń w całości określa nowy art. 47988h § 1 k.p.c. Rozważenia może z kolei wymagać uzupełnienie odesłania w art. 47988h § 2 k.p.c. o odesłanie do odpowiedniego stosowania art. 47988c regulującego przekazanie odwołania do sądu i projektowanego art. 47988g k.p.c. dotyczącego ochrony tajemnic prawnie chronionych. Uwaga uwzględniona Przepis art. 107 projektu w odniesieniu do art. 479 88 h § 2 k.p.c. otrzymał nowe brzmienie z uwzględnieniem korekt zawartych w uwadze. 270. Art. 107 - art. 479[88h](1) Kodeksu Postępowan ia Cywilnego Konfederacj a Lewiatan Uwaga: Termin 1 tygodnia na wniesienie odwołania od postanowienia Komisji jest zbyt krótki. Rekomendujemy wydłużenie terminu do 2 tygodni, aby zapewnić: odpowiedni czas na wewnętrzną weryfikację, analizę prawną i faktyczną oraz właściwe przygotowanie odwołania. Uwaga wyjaśniona Tygodniowy termin jest adekwatny mając na uwadze zapewnienie sprawnego postępowania oraz wystarczający na zajęcie stanowiska przez podmiot. Dodatkowo termin ten jest spójny z terminem przewidzianym na wniesienie zażalenia na postanowienie określonym w np. w KPA. 271. Art. 111 UKNF Przedmiotowa uwaga jest powiązana z uwagą zgłoszoną już powyżej do art. 5 ust. 3 pkt 1 projektu ustawy. Przepis art. 111 projektu ustawy Uwaga uwzględniona 161 wprowadza zmianę w ustawie o nadzorze nad rynkiem finansowym poprzez dodanie do niej nowego art. 17h o następującym brzmieniu: „Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji.”. W ocenie UKNF przewidziana w art. 5 ust. 3 pkt 1 projektu ustawy współpraca pomiędzy Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji a Komisją Nadzoru Finansowego w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie, uzasadnia zmianę brzmienia projektowanego art. 17h ustawy o nadzorze nad rynkiem finansowym, aby wskazywał on również na dokonywanie wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ustawowo określonych zadań ww. organów. Bez tego rodzaju zmiany brak będzie bowiem podstawy prawnej dla zwolnienia KNF z obowiązku zachowania tajemnicy zawodowej, o której mowa w art. 16 ust. 1 ustawy o nadzorze nad rynkiem finansowym, w odniesieniu do informacji przekazywanych do Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji na potrzeby współpracy przy sprawowanym przez nią nadzorze. W związku z powyższym nowy art. 17h ustawy o nadzorze nad rynkiem finansowym mógłby przyjąć brzmienie: „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Nadano nowe brzmienie art. 17h ustawy o nadzorze nad rynkiem finansowym zgodne z brzmieniem zaproponowanym w uwadze. „Art. 17h. Komisja współpracuje z Komisją Bezpieczeństwa i Rozwoju Sztucznej Inteligencji. Komisja oraz Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. 272. Art. 119 IAB Polska Zwiększenie budżetu dla Komisji Obecne finansowanie Komisji może być niewystarczające do skutecznego nadzoru nad sektorem AI i wspierania tego dynamicznie rozwijającego się rynku. Uwaga wyjaśniona Przychylając się do argumentu wyrażonego w uwadze należy stwierdzić, że określona w projekcie kwota jest wynikiem analiz i ustaleń związanych z ograniczeniami budżetu państwa. Jednocześnie, trudny do przewidzenia w momencie prowadzenia prac nad ustawą wymiar obciążenia zadaniami 162 Komisji może uzasadniać podwyższenie tej kwoty w przyszłości. 273. Art. 120 Konfederacj a Lewiatan Art. 120 powinien zawierać enumeratywne wskazanie terminów wejścia w życie poszczególnych przepisów ustawy zgodnie z terminami wejścia w życie odpowiednich przepisów rozporządzenia. np. Rozdział 6 nie powinien obowiązywać przed 02.08.2026 r. Ponieważ zasadniczym celem ustawy jest uregulowanie kwestii wskazanych w Rozporządzeniu 2024/1689 to przepisy ustawy, w tym przepisy intertemporalne, musza być zgodne z jego treścią. W szczególności należy zwrócić uwagę na to, aby niektóre przepisy nie zaczęły obowiązywać wcześniej niż wynika to z treści Rozporządzenia i nie wykraczały poza zakres w nim określony. Taka sytuacja byłaby niepożądana i wprowadziła stan niepewności co do treści obowiązującego prawa. Rozporządzenie ma zapewnić jednolite stosowanie przepisów w całej UE, także co do czasu obowiązywania regulacji. Uwaga uwzględniona Przepis został doprecyzowany i dostosowany do terminów obowiązywania przepisów rozporządzenia 2024/1689. 274. Rozdział 8 UKNF Urząd Komisji Nadzoru Finansowego zwraca uwagę, że w przypadku przystąpienia podmiotu do udziału w piaskownicy regulacyjnej, w aktualnym projekcie ustawy brak jest uregulowania trybu umożliwiającego podmiotowi wcześniejsze zakończenie projektu, bądź całkowitą rezygnację z udziału w projekcie. Uwaga wyjaśniona Szczegółowe kwestie związane z funkcjonowaniem piaskownic regulacyjnych będą przedmiotem aktów delegowanych KE. Stąd też w projekcie ustawy zawarto jedynie ogólne normy w tym zakresie. 275. Rozdział 8 KRRiT Postulat rozszerzenia zadań Krajowej Rady Radiofonii i Telewizji w odniesieniu do przepisów Aktu w sprawie sztucznej inteligencji, w zakresie: Rozdział IX Monitorowanie po wprowadzeni do obrotu, wymiana informacji oraz nadzór rynku: w odniesieniu do systemów generatywnej sztucznej inteligencji. Uwaga wyjaśniona Mając na uwadze że projektowana ustawa ma na celu zapewnienie skutecznego stosowania przepisów rozporządzenia 2024/1689 a wskazany w uwadze rozdział dotyczy środków wspierających innowacyjność projektodawca nie znajduje podstawy do rozszerzania zadań KRRiT . 276. Rozdział 9 IAB Polska Usunięcie postanowień dotyczących sankcji karnych w Rozdziale 9 Uwaga wyjaśniona 163 Sankcje karne miałyby znaczący efekt odstraszający i poważnie ograniczyłyby rozwój i wdrażanie AI w Polsce. Rozdział 9 w zakresie sankcji prawnokarnych dotyczy wyłącznie kwestii współpracy z Komisją w wykonywaniu jej uprawnień kontrolnych, nie dotyczą natomiast rozwoju AI: 1. Odpowiedzialność karna przewidziana jest wyłącznie w przypadku uniemożliwienia lub utrudnienia inspektorowi przeprowadzenia kontroli (art. 105) albo w przypadku utrudniania lub uniemożliwiania Komisji prowadzenia postępowania w przypadku stwierdzenia przez Komisję, że system AI stwarza ryzyko, o którym mowa w art. 79 AI Act (art. 106). 2. Za naruszenie AI Act przewidziana jest administracyjna kara pieniężna (ale nie sankcja prawnokarna) w wysokości i na warunkach określonych w rozdziale XII AI Act (art. 97- 104). Nie mamy żadnych argumentów, aby kwestionować ważność tych przepisów, gdyż wynikają one wprost z AI Act. Mając na uwadze, że celem rozporządzenia 2024/1689 jest zapewnienie bezpiecznej, godnej zaufania i etycznej sztucznej inteligencji niezbędne jest wprowadzenie skutecznych lecz możliwe najmniej obciążających podmioty procedur kontroli. W celu zapewnienia natomiast niezakłóconego jej przebiegu niezbędne jest przewidzenie odpowiednich środków. Takim środkiem są kary wskazane w rozdziale 9. Jest to instytucja znana i wykorzystywana w systemie prawa polskiego. 277. Uwagi redakcyjne KRRiT W art. 1 projektu należy uzupełnić pkt 2 o odniesienie się także do ustawy, skoro w art. 49 ust. 1 wskazano, że Komisja prowadzi postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 oraz ustawy. 2) W art. 2 w ust. 1 w pkt. 1: a) w lit. a projektu przy powoływaniu przepisów ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych brak jest wyrazu „ustawy”. Ponadto budzi wątpliwości czy odesłanie do działalności, o której mowa w art. 2 ust. 1 w/w ustawy, powinno dotyczyć całego ustępu 1, ponieważ przepis ten jedynie w pkt 1 odnosi się do działalności, b) w lit. b projektu zbędne wydaje się wskazywanie na przepisy art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. - Prawo przedsiębiorców zawierające definicję przedsiębiorcy. 3) W art. 4 w pkt. 2 projektu wskazano, że ustawy nie stosuje się do spraw związanych z realizacją zadań ustawowych Agencji Uwaga uwzględniona Projekt wskutek uwzględnionych uwag uległ znacznym zmianom. Przy opracowywaniu przepisów wprowadzono poprawki w zakresie dostosowanym do aktualnego ich brzmienia. W pozostałym zakresie projekt pod względem legislacyjno- redakcyjnym zostanie dopracowany na etapie komisji prawniczej. 164 Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w tym pozostających w bezpośrednim związku z tymi sprawami działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej, wobec której toczy się postępowanie przygotowawcze lub skazanej prawomocnym wyrokiem sądu w zakresie, w jakim dotyczą one bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego, o których mowa w art. 1-2 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2024 r. poz. 812, 1222, 1562, 1684 i 1871). Wydaje się, że proponowany przepis odnoszący się do ustawowych zadań Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu wskazuje jedynie na zakres bezpieczeństwa wewnętrznego państwa oraz jego porządku konstytucyjnego leżący w kompetencjach Agencji Bezpieczeństwa Wewnętrznego, pomijając kompetencje Agencji Wywiadu w sprawach ochrony bezpieczeństwa zewnętrznego państwa. 4) W art. 5 ust. 3 pkt 9 projektu błędnie przyjęto, że w ustawie o świadczeniu usług drogą elektroniczną (Dz.U. z 2020 r. poz. 344) ustanowiony został koordynator usług cyfrowych podczas gdy w obecnym stanie prawnym taki organ nie został wyznaczony. 5) W art. 8 w pkt. 8 projektu wyraz „wydane” należy zastąpić wyrazem „wydaje”. 6) W art. 12: a) w ust. 3 w pkt 4 projektu po wyrazie „informację” należy dodać wyraz „o”, b) w ust. 7 projektu po wyrazach „w wyznaczonym” należy usunąć wyraz „w” i rozważyć doprecyzowanie terminu poprzez dodanie wyrazów „nie później niż”, c) w ust. 9 należy rozważyć czy termin wydania opinii powinien być liczony od dnia wniesienia opłaty za wniosek, skoro opłatę wnosi się przed złożeniem wniosku, d) w pkt. 10 projektu błędnie odesłano do ust. 8. 7) W art. 15 w ust. 2 w pkt. 2 projektu wydaje się, że wyraz „informacji” został błędnie odmieniony. 165 8) W art. 18 w ust. 10 projektu wydaje się, że wyraz „zespołu” został błędnie odmieniony. 9) W art. 20 w ust. 1 projektu wydaje się, że przepis zawiera błędne odesłanie do podmiotów, o których mowa art. 6 ust. 2 ustawy z dnia 20 lipca 2018 r. - Prawo o szkolnictwie wyższym i nauce. Art. 6 ust. 2 w/w ustawy odnosi się do polityki naukowej państwa. 10) W art. 24 w ust. 2 projektu błędnie odesłano do art. 4 ust. 3 pkt 4 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, Pismo wydane w formie dokumentu elektronicznego i podpisane kwalifikowanym podpisem elektronicznym państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi. W w/w ustawie nie ma takiego przepisu. 11) W art. 37 w ust. 4 projektu niepotrzebnie powtórzono wyrazy „do spraw”. 12) W art. 38 w ust. 3 w pkt. 1 projektu niejasne jest do jakiego art. 6 pkt 1 zastosowano wyłączenie. 13) W art. 42 ust. 1 w pkt. 6 projektu należy poprawić błędy redakcyjne. 14) W art. 46 ust. 1 projektu błędnie wskazano, że to kontrolowany, a nie kontrolujący, sporządza projekt protokołu. 15) W art. 47 projektu błędnie ponumerowano ustępy. Ponadto w ust. 2 tego artykułu błędnie odesłano do ust. 1 pkt 2 i 3. 16) W art. 55 ust. 6 projektu odsyła do decyzji, o której mowa w ust. 1. Należy zaznaczyć, że w ust. 1 nie uregulowano kwestii wydawania przez Komisję decyzji. 17) W art. 57 ust. 2 projektu odsyła do decyzji, o której mowa w art. 55 ust. 3 i 4. Jednakże w przywołanych przepisach projektodawca nie odniósł się do decyzji. 18) W art. 77 w ust. 2 projektu wydaje się, że należy wskazać na Biuletyn Informacji Publicznej. 19) W art. 85 w ust. 7 projektu jest błędne odesłanie do przepisu art. 57 ust. 1 ustawy, który nie dotyczy właściwych organów nadzoru rynku, lecz reguluje kwestię składania do Sądu Okręgowego w 166 Warszawie – sądu ochrony konkurencji i konsumentów zażalenia od postanowienia Komisji. 20) W art. 89: a) w ust. 1 projektu wydaje się, że opublikowanie protokołu oceny ofert i listy rankingowej tworzonych w związku z konkursem na uczestnictwo w piaskownicy regulacyjnej powinno odbyć się w Biuletynie Informacji Publicznej, b) w ust. 7 projektu wydaje się, że wskazując na protokół i listę rankingową błędnie odesłano do przepisu art. 87 ust. 4, który to zawiera katalog przesłanek zakwalifikowania podmiotu do uczestnictwa w piaskownicy regulacyjnej. 21) W art. 90 w ust. 3 projektu wydaje się, że nastąpiło błędne odesłanie do przepisu w art. 57 ust. 15 rozporządzenia 2024/1689, który nie odnosi się do sprawozdań. 22) W art. 92 w ust. 3 projektu po wyrazie „decyzję” należy dodać wyraz „o”. 23) W art. 93 ust. 2 projektu wydaje się niekompletny, a przez to niezrozumiały. 24) W art. 96 projektu wydaje się, że część wspólna przepisu odnosząca się do pkt 1 i 2 nie koreluje z poprzedzająca ją treścią. 25) W art. 107 projektu (dot. art. 47988b KPC) zbędnie oznaczono jednostkę redakcyjną § 1. 26) W art. 107 projektu (dot. art. 47988h § 2 KPC) odesłano do art. 47988d § 1 KPC, natomiast w proponowanym brzmieniu tego artykułu nie ma § 1. 278. OSR PUODO Na koniec nie można pominąć kwestii związanych z koniecznością zapewnienia Prezesowi UODO środków finansowych na realizację nowych zadań związanych z realizacją nadzoru w zakresie spraw dotyczących przetwarzania danych osobowych w ramach systemów sztucznej inteligencji. W związku z nowymi zadaniami organu nadzorczego wynikającymi bezpośrednio z przepisów rozporządzenia 2024/1689, Prezes UODO sygnalizuje potrzebę przeznaczenia odpowiednich środków z budżetu państwa na wykonywanie przez niego tych zadań oraz w zakresie projektowanej współpracy z Komisją. Uwaga wyjaśniona W OSR zawarto wyliczenie środków finansowych dla podmiotów, którym w związku z przepisami, które zaczną obowiązywać z dniem 2 sierpnia 2025 r., zostaną przypisane konkretne zadania wynikające z AI Aktu. Do tych podmiotów należy powołany przepisami ustawy organ nadzoru rynku, sąd ochrony konkurencji i konsumentów oraz PCA. 167 Pozostałe podmioty, w tym Minister Cyfryzacji, PUODO, realizujące zadania powiązane z AI a wynikające ze swojej właściwości lub współpracy z KRiBSI będą realizować je w ramach posiadanych środków finansowych. 279. OSR pkt 6 PCA Zwiększenie wydatków w funduszu osobowym PCA, które są wymienione w tym punkcie – powinno być również odzwierciedlone w tabeli z wpływem na sektor finansów publicznych. Wprowadzenie tego zapisu jest szczególnie istotne biorąc pod uwagę, iż pod tabelą w pkt 6 znajduje się zastrzeżenie: „Regulacja nie będzie rodziła także skutków finansowych w innych częściach budżetowych.” W przypadku braku ww. zaproponowanego uwzględnienia obecne zapisy będa niespójne. Z jednej strony OSR zaznacza konieczność zwiększenia funduszu osobowego PCA a z drugiej nie uwzględnia tej informacji w wpływie na sektor finansów publicznych. Obecnie w OSR zamieszczona została w odniesieniu do PCA informacja: „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę szacowne terminy wejścia w życie projektowanej ustawy proponujemy następujące brzmienie „Zatrudnienie dodatkowych osób wymagało będzie uwzględnienia w planie finansowym i zwiększenia wydatków w funduszu osobowym o 0,3 mln w 2025 r. i o 0,6 mln. zł. rocznie od 2025 r.” Biorąc pod uwagę, iż plany finansowe na 2025 r. zostały już przyjęte PCA wnioskuje o uzupełnienie OSR i wstawienie w tym punkcie jako przedostatniego - akapitu o następującej treści: „W związku z planowaną zmianą poziomu zatrudnienia w roku 2025 dokonana Uwaga uwzględniona OSR został uzupełniony pkt 6. 168 zostanie zmiana w planie finansowym w trakcie realizacji budżetu na ten rok” 280. Uzasadnieni e Str. 10 Analogicznie do uwag Rzecznika Praw Dziecka dotyczących składu Komisji, z uzasadnienia należy wykreślić przedstawiciela Rzecznika Praw Dziecka jako członka Komisji. Uwaga uwzględniona Z uzasadnienia i OSR został usunięty zapis dotyczący Rzecznika Praw Dziecka. 1 TYTUŁ PROJEKTU Ustawa o systemach sztucznej inteligencji TYTUŁ WDRAŻANEGO AKTU PRAWNEGO / WDRAŻANYCH AKTÓW PRAWNYCH Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Tekst mający znaczenie dla EOG (Dz. U. UE. L. z 2024 r. poz. 1689) WYJAŚNIENIE TERMINU WEJŚCIA W ŻYCIE PROJEKTU / PROJEKTÓW Po upływie 14 dni od dnia ogłoszenia, z wyjątkiem: 1) art. 120 ust. 4, który wchodzi w życie z dniem następującym po dniu ogłoszenia; Termin vacatio legis wynika z konieczności pilnego wdrożenia przepisów rozporządzenia 2024/1689 do krajowego porządku prawnego. JEDN. RED. TREŚĆ PRZEPISU UE KONIECZNO ŚĆ WDROŻENI A T/N* JEDN. RED. TREŚĆ PRZEPISU / PRZEPISÓW PROJEKTU UZASADNIENIE Art. 1 Przedmiot 1. Celem niniejszego rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego i promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji (AI), przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie, w tym demokracji, praworządności i ochrony środowiska, przed szkodliwymi skutkami systemów AI w Unii oraz wspieraniu innowacji. 2. W niniejszym rozporządzeniu ustanawia się: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii; b) zakazy dotyczące niektórych praktyk w zakresie AI; c) szczególne wymogi dotyczące systemów AI wysokiego ryzyka oraz obowiązki spoczywające na operatorach takich systemów; d) zharmonizowane przepisy dotyczące przejrzystości w przypadku niektórych systemów AI; e) zharmonizowane przepisy dotyczące wprowadzania do obrotu modeli AI ogólnego przeznaczenia; f) przepisy dotyczące monitorowania wprowadzania do obrotu, nadzoru rynku, zarządzania i egzekwowania; g) środki wspierające innowacje, ze szczególnym uwzględnieniem MŚP, w tym przedsiębiorstw typu startup. Art. 2. Zakres stosowania 1. Niniejsze rozporządzenie stosuje się do: a) dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, niezależnie od tego, czy dostawcy ci mają siedzibę lub znajdują się w Unii czy w państwie trzecim; b) podmiotów stosujących systemy AI, które to podmioty mają siedzibę lub znajdują się w Unii; T Art. 2 Art. 3 Art. 2. 1. Ustawy nie stosuje się do: 1) spraw związanych z obroną narodową określonych w art. 19 ust. 1 ustawy z dnia 4 września 1997 r. o działach administracji rządowej (Dz. U. z 2025 r. poz. 1275 i 1846 oraz z 2026 r. poz. 160 i187); 2) spraw związanych z bezpieczeństwem narodowym, obejmujących działania służb specjalnych w rozumieniu art. 11 ustawy Dostosowanie zakresu obowiązywania ustawy do zakresu obowiązywania rozporządzenia. c) dostawców systemów AI i podmiotów stosujących systemy AI, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku, gdy wyniki wytworzone przez system AI są wykorzystywane w Unii; d) importerów i dystrybutorów systemów AI; e) producentów produktu, którzy pod własną nazwą lub znakiem towarowym oraz wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI; f) upoważnionych przedstawicieli dostawców niemających siedziby w Unii; g) osób, na które AI ma wpływ i które znajdują się w Unii. 2. W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 102-109 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. 3. Niniejszego rozporządzenia nie stosuje się do obszarów wykraczających poza zakres stosowania prawa Unii i w żadnym wypadku nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego, niezależnie od rodzaju z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26); 3) spraw związanych z realizacją zadań ustawowych Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego, o których mowa w art. 5 i art. 6 ustawy z dnia 9 czerwca 2006 r. o Służbie Kontrwywiadu Wojskowego oraz Służbie Wywiadu Wojskowego (Dz. U. z 2026 r. poz. 157); 4) badań podstawowych, aplikacyjnych oraz prac rozwojowych, o których mowa w art. 4 ust. 2 i 3 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce (Dz. U. z 2024 r. poz. 1571, z późn. zm. )), w zakresie, który nie obejmuje testów w warunkach rzeczywistych, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689, jak również wprowadzenia systemów sztucznej inteligencji do obrotu lub oddania do użytku dla celów innych niż te, o których mowa w art. 3 pkt 57 rozporządzenia 2024/1689; 5) systemów wprowadzonych do użytku wyłącznie dla celów, o których podmiotu, któremu państwa członkowskie powierzyły wykonywanie zadań związanych z tymi kompetencjami. Niniejszego rozporządzenia nie stosuje się do systemów AI, jeżeli - i w zakresie, w jakim - wprowadzono je do obrotu, oddano do użytku lub są one wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub do celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. Niniejszego rozporządzenia nie stosuje się do systemów AI, które nie zostały wprowadzone do obrotu ani oddane do użytku w Unii, a których wyniki są wykorzystywane w Unii wyłącznie do celów wojskowych, obronnych lub de celów bezpieczeństwa narodowego, niezależnie od rodzaju podmiotu prowadzącego te działania. 4. Niniejszego rozporządzenia nie stosuje się do organów publicznych w państwie trzecim ani do organizacji międzynarodowych objętych zakresem stosowania niniejszego rozporządzenia na podstawie ust. 1, jeżeli te organy lub organizacje wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów międzynarodowych w sprawie ścigania przestępstw i współpracy sądowej zawartych z Unią lub z jednym państwem członkowskim bądź ich większą liczbą, pod warunkiem zapewnienia przez to państwo trzecie lub organizację międzynarodową odpowiednich zabezpieczeń w odniesieniu do ochrony podstawowych praw i wolności osób fizycznych. mowa w pkt 4, przed wejściem w życie rozporządzenia 2024/1689; 6) systemów, o których mowa w art. 2 ust. 3 i 12 rozporządzenia 2024/1689. 2. Organem publicznym właściwym do prowadzenia kontroli działalności służb specjalnych, o których mowa w art. 11 ustawy z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu, w zakresie stosowania systemów sztucznej inteligencji wykorzystywanych przez podległą lub nadzorowaną służbę specjalną, jest Prezes Rady Ministrów albo Minister - Koordynator Służb Specjalnych, w przypadku jego powołania. Art. 3. 1. Ustawę stosuje się do podmiotów, o których mowa w art. 2 ust. 1 rozporządzenia 2024/1689, z wyłączeniem: 1) osób fizycznych w zakresie obowiązków podmiotów stosujących rozporządzenie 2024/1689, jeżeli stosują one system sztucznej inteligencji wyłącznie dla celów osobistych, i niepozostających w związku z działalnością: 5. Niniejsze rozporządzenie nie ma wpływu na stosowanie przepisów dotyczących odpowiedzialności dostawców usług pośrednich określonych w rozdziale II rozporządzenia (UE) 2022/2065. 6. Niniejszego rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych. 7. Prawo Unii w zakresie ochrony danych osobowych, prywatności i poufności komunikacji stosuje się do danych osobowych przetwarzanych w związku z prawami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Niniejsze rozporządzenie nie ma wpływu na rozporządzenia (UE) 2016/679 lub (UE) 2018/1725, ani na dyrektywy 2002/58/WE lub (UE) 2016/680, bez uszczerbku dla art. 10 ust. 5 i art. 59 niniejszego rozporządzenia. 8. Niniejszego rozporządzenia nie stosuje się do żadnej działalności badawczej, testowej ani rozwojowej dotyczącej systemów AI lub modeli AI przed wprowadzeniem ich do obrotu lub oddaniem ich do użytku. Działalność tego rodzaju prowadzona jest zgodnie z mającym zastosowanie prawem Unii. Niniejsze wyłączenie nie obejmuje testów w warunkach rzeczywistych. 9. Niniejsze rozporządzenie nie narusza przepisów ustanowionych w innych aktach prawnych Unii dotyczących ochrony konsumentów i bezpieczeństwa produktów. a) o której mowa w art. 2 ust. 1 i 2 ustawy z dnia 26 lipca 1991 r. o podatku dochodowym od osób fizycznych (Dz. U. z 2025 r. poz. 163, z późn. zm. ), b) gospodarczą, o której mowa w art. 3 w związku z art. 4 ust. 1 i 2 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców (Dz. U. z 2025 r. poz. 1480, 1795 i 1826), c) nieewidencjonowaną, o której mowa w art. 5 ust. 1–-4 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, d) o której mowa w art. 6 ust. 1 pkt 1–5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, e) rolniczą, o której mowa w art. 2 pkt 3 ustawy z dnia 11 kwietnia 2003 r. o kształtowaniu ustroju rolnego (Dz. U. z 2025 r. poz. 1653); 2) organów publicznych, o których mowa w art. 2 ust. 4 rozporządzenia 2024/1689. 2. O ile przepisy ustawy nie stanowią inaczej, przepisy w zakresie systemów sztucznej inteligencji mają zastosowanie również do modeli sztucznej inteligencji ogólnego przeznaczenia. 10. Niniejsze rozporządzenie nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej. 11. Niniejsze rozporządzenie nie uniemożliwia Unii ani państwom członkowskim utrzymywania lub wprowadzania przepisów ustawowych, wykonawczych lub administracyjnych, które są korzystniejsze dla pracowników pod względem ochrony ich praw w odniesieniu do korzystania z systemów AI przez pracodawców, ani zachęcania do stosowania korzystniejszych dla pracowników układów zbiorowych lub zezwalania na ich stosowanie. 12. Niniejszego rozporządzenia nie stosuje się do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że systemy te są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub 50. Art. 3 Definicje Do celów niniejszego rozporządzenia stosuje się następujące definicje: 1) \"system AI\" oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który - na potrzeby wyraźnych lub dorozumianych celów - wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak T Art. 4 Art. 4. Użyte w ustawie określenia oznaczają: 1) system sztucznej inteligencji – system AI w rozumieniu art. 3 pkt 1 rozporządzenia 2024/1689; 2) ryzyko – ryzyko w rozumieniu art. 3 pkt 2 rozporządzenia 2024/1689; Dostosowanie definicji ustawowych do definicji z rozporządzenia 2024/1689. predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne; 2) \"ryzyko\" oznacza połączenie prawdopodobieństwa wystąpienia szkody oraz jej dotkliwości; 3) \"dostawca\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które rozwijają system AI lub model AI ogólnego przeznaczenia lub zlecają rozwój systemu AI lub modelu AI ogólnego przeznaczenia oraz które - odpłatnie lub nieodpłatnie - pod własną nazwą lub własnym znakiem towarowym wprowadzają do obrotu lub oddają do użytku system AI; 4) \"podmiot stosujący\" oznacza osobę fizyczną lub prawną, organ publiczny, agencję lub inny podmiot, które wykorzystują system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej; 5) \"upoważniony przedstawiciel\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która otrzymała i przyjęła pisemne pełnomocnictwo od dostawcy systemu AI lub modelu AI ogólnego przeznaczenia do, odpowiednio, spełnienia w jego imieniu obowiązków i przeprowadzania procedur ustanowionych w niniejszym rozporządzeniu; 6) \"importer\" oznacza osobę fizyczną lub prawną znajdującą się lub mającą siedzibę w Unii, która wprowadza do obrotu system AI opatrzony nazwą lub 3) dostawca – dostawcę w rozumieniu art. 3 pkt 3 rozporządzenia 2024/1689; 4) operator – operatora w rozumieniu art. 3 pkt 8 rozporządzenia 2024/1689; 5) wprowadzenie do obrotu – wprowadzenie do obrotu w rozumieniu art. 3 pkt 9 rozporządzenia 2024/1689; 6) wycofanie systemu sztucznej inteligencji z użytku – wycofanie systemu AI z użytku w rozumieniu art. 3 pkt 16 rozporządzenia 2024/1689; 7) wycofanie systemu sztucznej inteligencji z rynku – wycofanie systemu AI z rynku w rozumieniu art. 3 pkt 17 rozporządzenia 2024/1689; 8) organ notyfikujący – organ notyfikujący w rozumieniu art. 3 pkt 19 rozporządzenia 2024/1689; 9) ocena zgodności – ocenę zgodności w rozumieniu art. 3 pkt 20 rozporządzenia 2024/1689; 10) jednostka oceniająca zgodność – jednostkę oceniającą zgodność w rozumieniu art. 3 pkt 21 rozporządzenia 2024/1689; znakiem towarowym osoby fizycznej lub prawnej mającej siedzibę w państwie trzecim; 7) \"dystrybutor\" oznacza osobę fizyczną lub prawną w łańcuchu dostaw, inną niż dostawca lub importer, która udostępnia system AI na rynku Unii; 8) \"operator\" oznacza dostawcę, producenta produktu, podmiot stosujący, upoważnionego przedstawiciela, importera lub dystrybutora; 9) \"wprowadzenie do obrotu\" oznacza udostępnienie po raz pierwszy systemu AI lub modelu AI ogólnego przeznaczenia na rynku Unii; 10) \"udostępnianie na rynku\" oznacza dostarczanie systemu AI lub modelu AI ogólnego przeznaczenia w celu jego dystrybucji lub wykorzystania na rynku Unii w ramach działalności handlowej, odpłatnie lub nieodpłatnie; 11) \"oddanie do użytku\" oznacza dostarczenie systemu AI do pierwszego użycia bezpośrednio podmiotowi stosującemu lub do użytku własnego w Unii, zgodnie z jego przeznaczeniem; 12) \"przeznaczenie\" oznacza zastosowanie, do jakiego system AI został przeznaczony przez jego dostawcę, w tym konkretny kontekst i warunki wykorzystywania, określone w informacjach dostarczonych przez dostawcę w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i oświadczeniach, jak również w dokumentacji technicznej; 11) jednostka notyfikowana – jednostkę notyfikowaną w rozumieniu art. 3 pkt 22 rozporządzenia 2024/1689; 12) organ nadzoru rynku – organ nadzoru rynku w rozumieniu art. 3 pkt 26 rozporządzenia 2024/1689; 13) właściwy organ krajowy – właściwy organ krajowy w rozumieniu art. 3 pkt 48 rozporządzenia 2024/1689; 14) piaskownica regulacyjna – piaskownicę regulacyjną w zakresie AI w rozumieniu art. 3 pkt 55 rozporządzenia 2024/1689; 15) model sztucznej inteligencji ogólnego przeznaczenia – model sztucznej inteligencji, o którym mowa w art. 3 pkt 63 rozporządzenia 2024/1689. 13) \"dające się racjonalnie przewidzieć niewłaściwe wykorzystanie\" oznacza wykorzystanie systemu AI w sposób niezgodny z jego przeznaczeniem, które może wynikać z dającego się racjonalnie przewidzieć zachowania człowieka lub interakcji z innymi systemami, w tym z innymi systemami AI; 14) \"związany z bezpieczeństwem element\" oznacza element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia; 15) \"instrukcja obsługi\" oznacza informacje podane przez dostawcę w celu poinformowania podmiotu stosującego o, w szczególności, przeznaczeniu i właściwym użytkowaniu systemu AI; 16) \"wycofanie systemu AI z użytku\" oznacza dowolny środek mający na celu doprowadzenie do zwrotu do dostawcy systemu AI udostępnionego podmiotom stosującym lub do wyłączenia takiego systemu z eksploatacji lub uniemożliwienia korzystania z niego; 17) \"wycofanie systemu AI z rynku\" oznacza dowolny środek mający na celu uniemożliwienie udostępnienia na rynku systemu AI znajdującego się w łańcuchu dostaw; 18) \"skuteczność działania systemu AI\" oznacza zdolność systemu AI do działania zgodnie ze swoim przeznaczeniem; 19) \"organ notyfikujący\" oznacza organ krajowy, który odpowiada za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie; 20) \"ocena zgodności\" oznacza proces wykazania, czy spełniono wymogi ustanowione w rozdziale III sekcja 2 w odniesieniu do systemu AI wysokiego ryzyka; 21) \"jednostka oceniająca zgodność\" oznacza jednostkę, która wykonuje czynności z zakresu oceny zgodności przeprowadzanej przez stronę trzecią, w tym testowanie, certyfikację i inspekcję; 22) \"jednostka notyfikowana\" oznacza jednostkę oceniającą zgodność, którą notyfikowano zgodnie z niniejszym rozporządzeniem i innym stosownym unijnym prawodawstwem harmonizacyjnym; 23) \"istotna zmiana\" oznacza modyfikację w systemie AI po jego wprowadzeniu do obrotu lub oddaniu do użytku, która nie została przewidziana lub zaplanowana przy początkowej ocenie zgodności przeprowadzonej przez dostawcę i która ma wpływ na zgodność systemu AI z wymogami ustanowionymi w rozdziale III sekcja 2, lub która powoduje zmianę przeznaczenia, w odniesieniu, do którego oceniono system AI; 24) \"oznakowanie CE\" oznacza oznakowanie, za pomocą którego dostawca wskazuje, że system AI spełnia wymogi ustanowione w rozdziale III sekcja 2 i innych mających zastosowanie unijnych przepisach harmonizacyjnych, przewidujących umieszczanie takiego oznakowania; 25) \"system monitorowania po wprowadzeniu do obrotu\" oznacza wszelkie działania prowadzone przez dostawców systemów AI służące gromadzeniu i przeglądowi doświadczeń zdobytych w wyniku wykorzystania systemów AI, które wprowadzają oni do obrotu lub oddają do użytku, w celu stwierdzenia ewentualnej konieczności natychmiastowego zastosowania niezbędnych działań naprawczych lub zapobiegawczych; 26) \"organ nadzoru rynku\" oznacza organ krajowy prowadzący działania i stosujący środki zgodnie z rozporządzeniem (UE) 2019/1020; 27) \"norma zharmonizowana\" oznacza normę zharmonizowaną określoną w art. 2 pkt 1 lit. c) rozporządzenia (UE) nr 1025/2012; 28) \"wspólna specyfikacja\" oznacza zbiór specyfikacji technicznych zgodnie z definicją w art. 2 pkt 4 rozporządzenia (UE) nr 1025/2012, zapewniający środki umożliwiające zgodność z niektórymi wymogami ustanowionymi w niniejszym rozporządzeniu; 29) \"dane treningowe\" oznaczają dane wykorzystywane do trenowania systemu AI poprzez dopasowanie jego parametrów podlegających uczeniu; 30) \"dane walidacyjne\" oznaczają dane wykorzystywane do oceny trenowanego systemu AI oraz do dostrajania jego parametrów niepodlegających uczeniu oraz procesu uczenia, między innymi w celu zapobiegania niedostatecznemu wytrenowaniu lub przetrenowaniu; 31) \"zbiór danych walidacyjnych\" oznacza oddzielny zbiór danych lub część zbioru danych treningowych, w którym to przypadku udział tego podzbioru w zbiorze danych treningowych może być stały lub zmienny; 32) \"dane testowe\" oznaczają dane wykorzystywane do przeprowadzenia niezależnej oceny systemu AI w celu potwierdzenia oczekiwanej skuteczności działania tego systemu przed wprowadzeniem go do obrotu lub oddaniem go do użytku; 33) \"dane wejściowe\" oznaczają dane dostarczone do systemu AI lub bezpośrednio przez niego pozyskiwane, na podstawie których system ten generuje wynik; 34) \"dane biometryczne\" oznaczają dane osobowe będące wynikiem specjalnego przetwarzania technicznego, które dotyczą cech fizycznych, fizjologicznych lub behawioralnych osoby fizycznej, takich jak wizerunek twarzy lub dane daktyloskopijne; 35) \"identyfikacja biometryczna\" oznacza zautomatyzowane rozpoznawanie fizycznych, fizjologicznych, behawioralnych lub psychologicznych cech ludzkich w celu ustalenia tożsamości osoby fizycznej przez porównanie danych biometrycznych tej osoby z danymi biometrycznymi osób fizycznych przechowywanymi w bazie danych; 36) \"weryfikacja biometryczna\" oznacza zautomatyzowaną weryfikację typu jeden-do-jednego, w tym uwierzytelnianie, tożsamości osób fizycznych przez porównanie ich danych biometrycznych z wcześniej przekazanymi danymi biometrycznymi; 37) \"szczególne kategorie danych osobowych\" oznaczają kategorie danych osobowych, o których mowa w art. 9 ust. 1 rozporządzenia (UE) 2016/679, art. 10 dyrektywy (UE) 2016/680 i art. 10 ust. 1 rozporządzenia (UE) 2018/1725; 38) \"wrażliwe dane operacyjne\" oznaczają dane operacyjne związane z działaniami w zakresie zapobiegania przestępstwom, ich wykrywania, prowadzenia postępowań przygotowawczych w ich sprawie lub ich ścigania, których ujawnienie mogłoby zagrozić integralności postępowania karnego; 39) \"system rozpoznawania emocji\" oznacza system AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób; 40) \"system kategoryzacji biometrycznej\" oznacza system AI służący do przypisywania osób fizycznych do określonych kategorii na podstawie danych biometrycznych tych osób, oprócz przypadków, gdy taki system pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych; 41) \"system zdalnej identyfikacji biometrycznej\" oznacza system AI służący do identyfikacji osób fizycznych bez ich aktywnego udziału, zwykle na odległość, poprzez porównanie danych biometrycznych danej osoby fizycznej z danymi biometrycznymi zawartymi w referencyjnej bazie danych; 42) \"system zdalnej identyfikacji biometrycznej w czasie rzeczywistym\" oznacza system zdalnej identyfikacji biometrycznej, w którym zbieranie danych biometrycznych, ich porównywanie i identyfikacja odbywają się bez znacznego opóźnienia, i który obejmuje nie tylko natychmiastową identyfikację, ale także ograniczone krótkie opóźnienia w celu uniknięcia obchodzenia przepisów; 43) \"system zdalnej identyfikacji biometrycznej post factum\" oznacza system zdalnej identyfikacji biometrycznej inny niż system zdalnej identyfikacji biometrycznej w czasie rzeczywistym; 44) \"przestrzeń publiczna\" oznacza miejsce fizyczne, będące własnością prywatną lub publiczną, dostępne dla nieokreślonej liczby osób fizycznych, niezależnie od tego, czy mogą mieć zastosowanie określone warunki dostępu, oraz niezależnie od potencjalnych ograniczeń pojemności; 45) \"organ ścigania\" oznacza: a) organ publiczny właściwy w zakresie zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; lub b) inny organ lub podmiot, któremu na podstawie prawa państwa członkowskiego powierzono sprawowanie władzy publicznej i wykonywanie uprawnień publicznych do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 46) \"ściganie przestępstw\" oznacza działania prowadzone przez organy ścigania lub w ich imieniu w celu zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom; 47) \"Urząd ds. AI\" oznacza zadanie Komisji polegające na przyczynianiu się do wdrażania, monitorowania i nadzorowania systemów AI i modeli AI ogólnego przeznaczenia oraz zarządzania AI, określone w decyzji Komisji z dnia 24 stycznia 2024 r.; zawarte w niniejszym rozporządzeniu odesłania do Urzędu ds. AI odczytuje się jako odesłania do Komisji; 48) \"właściwy organ krajowy\" oznacza organ notyfikujący lub organ nadzoru rynku; w odniesieniu do systemów AI oddanych do użytku lub wykorzystywanych przez instytucje, organy i jednostki organizacyjne Unii, zawarte w niniejszym rozporządzeniu odesłania do właściwych organów krajowych i organów nadzoru rynku odczytuje się jako odesłania do Europejskiego Inspektora Ochrony Danych; 49) \"poważny incydent\" oznacza incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do któregokolwiek z poniższych zdarzeń: a) śmierci osoby lub poważnego uszczerbku na zdrowiu osoby; b) poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu; c) naruszenia obowiązków przewidzianych w prawie Unii, których celem jest ochrona praw podstawowych; d) poważnej szkody na mieniu lub poważnej szkody dla środowiska; 50) \"dane osobowe\" oznaczają dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 51) \"dane nieosobowe\" oznaczają dane inne niż dane osobowe zdefiniowane w art. 4 pkt 1 rozporządzenia (UE) 2016/679; 52) \"profilowanie\" oznacza profilowanie zdefiniowane w art. 4 pkt 4 rozporządzenia (UE) 2016/679; 53) \"plan testów w warunkach rzeczywistych\" oznacza dokument opisujący cele, metodykę, zasięg geograficzny, populacyjny i czasowy, monitorowanie, organizację i przeprowadzanie testów w warunkach rzeczywistych; 54) \"plan działania piaskownicy\" oznacza dokument uzgodniony między uczestniczącym dostawcą a właściwym organem opisujący cele, warunki, ramy czasowe, metodykę i wymogi dotyczące działań prowadzonych w ramach piaskownicy; 55) \"piaskownica regulacyjna w zakresie AI\" oznacza kontrolowane ramy ustanowione przez właściwy organ, umożliwiające dostawcom lub potencjalnym dostawcom systemów AI możliwość rozwoju, trenowania, walidacji i testowania - w stosownych przypadkach w warunkach rzeczywistych - innowacyjnych systemów AI, w oparciu o plan działania piaskownicy, w ograniczonym czasie i pod nadzorem regulacyjnym; 56) \"kompetencje w zakresie AI\" oznaczają umiejętności, wiedzę oraz zrozumienie, które pozwalają dostawcom, podmiotom stosującym i osobom, na które AI ma wpływ - z uwzględnieniem ich odnośnych praw i obowiązków w kontekście niniejszego rozporządzenia - w przemyślany sposób wdrażać systemy sztucznej inteligencji oraz mieć świadomość, jakie możliwości i ryzyka wiążą się z AI oraz jakie potencjalne szkody może ona wyrządzić; 57) \"testy w warunkach rzeczywistych\" oznaczają ograniczone w czasie testy systemu AI dotyczące jego przeznaczenia prowadzone w warunkach rzeczywistych - poza środowiskiem laboratoryjnym lub środowiskiem symulowanym innego typu - w celu zgromadzenia wiarygodnych i solidnych danych oraz w celu oceny i weryfikacji spełnienia przez system AI z wymogów niniejszego rozporządzenia i które nie są kwalifikowane jako wprowadzanie systemu AI do obrotu lub oddawanie go do użytku w rozumieniu niniejszego rozporządzenia, o ile spełnione są wszystkie warunki określone w art. 57 lub 60; 58) \"uczestnik\" do celów testów w warunkach rzeczywistych oznacza osobę fizyczną, która uczestniczy w testach tego typu; 59) \"świadoma zgoda\" oznacza swobodne, konkretne, jednoznaczne i dobrowolne wyrażenie przez uczestnika zgody na uczestnictwo w określonych testach w warunkach rzeczywistych, po uzyskaniu informacji o wszystkich aspektach testów, które są istotne dla decyzji o uczestnictwie podejmowanej przez uczestnika; 60) \"deepfake\" oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe; 61) \"powszechne naruszenie\" oznacza działanie lub zaniechanie sprzeczne z prawem Unii chroniącym interesy osób fizycznych, które: a) szkodzi lub może zaszkodzić zbiorowym interesom osób fizycznych zamieszkałych w co najmniej dwóch państwach członkowskich innych niż państwo członkowskie, w którym: (i) działanie lub zaniechanie miały swoje źródło lub miejsce; (ii) znajduje się lub siedzibę ma dany dostawca lub w stosownych przypadkach, jego upoważniony przedstawiciel; lub (iii) siedzibę ma podmiot stosujący, jeżeli naruszenie zostało popełnione przez ten podmiot; b) wyrządziło, wyrządza lub może wyrządzić szkodę zbiorowym interesom osób fizycznych i ma cechy wspólne, w tym dotyczy tej samej bezprawnej praktyki lub naruszenia tego samego interesu, oraz ma miejsce jednocześnie w co najmniej trzech państwach członkowskich, a jego sprawcą jest ten sam operator; 62) \"infrastruktura krytyczna\" oznacza infrastrukturę krytyczną zdefiniowaną w art. 2 pkt 4 dyrektywy (UE) 2022/2557; 63) \"model AI ogólnego przeznaczenia\" oznacza model AI, w tym model AI trenowany dużą ilością danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres różnych zadań, niezależnie od sposobu, w jaki model ten jest wprowadzany do obrotu, i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla - z wyłączeniem modeli AI, które są wykorzystywane na potrzeby działań w zakresie badań, rozwoju i tworzenia prototypów przed wprowadzeniem ich do obrotu; 64) \"zdolności dużego oddziaływania\" oznaczają zdolności, które dorównują zdolnościom zapisanym w najbardziej zaawansowanych modelach AI ogólnego przeznaczenia lub je przewyższają; 65) \"ryzyko systemowe\" oznacza ryzyko, które jest charakterystyczne dla modeli AI ogólnego przeznaczenia posiadających zdolności dużego oddziaływania i ma znaczący wpływ na rynek Unii ze względu na zasięg tych modeli lub rzeczywiste lub dające się racjonalnie przewidzieć negatywne skutki dla zdrowia publicznego, porządku publicznego, bezpieczeństwa publicznego, praw podstawowych lub całego społeczeństwa, mogące rozprzestrzenić się na dużą skalę w całym łańcuchu wartości; 66) \"system AI ogólnego przeznaczenia\" oznacza system AI oparty na modelu AI ogólnego przeznaczenia, który to system może służyć różnym celom, nadający się zarówno do bezpośredniego wykorzystania, jak i do integracji z innymi systemami AI; 67) \"operacja zmiennoprzecinkowa\" oznacza operację matematyczną lub zadanie z wykorzystaniem liczb zmiennoprzecinkowych, które stanowią podzbiór liczb rzeczywistych zwykle przedstawianych na komputerach przez liczbę całkowitą o stałej dokładności przeskalowaną przez całkowity wykładnik stałej podstawy systemu liczbowego; 68) \"dostawca niższego szczebla\" oznacza dostawcę systemu AI, w tym systemu AI ogólnego przeznaczenia, rozwiniętego w drodze integracji modelu AI, niezależnie od tego, czy ten model AI jest dostarczany przez tego samego dostawcę i zintegrowany pionowo czy dostarczany przez inny podmiot na podstawie stosunków umownych. Art. 4 Kompetencje w zakresie AI Dostawcy i podmioty stosujące systemy AI podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 5 Zakazane praktyki w zakresie AI 1. Zakazuje się następujących praktyk w zakresie AI: a) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę; b) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który wykorzystuje słabości osoby fizycznej lub określonej grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia sytuację społeczną lub ekonomiczną, którego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub osoby należącej do tej grupy w sposób, który wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tej osoby lub u innej osoby poważną szkodę; c) wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków: (i) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane; (ii) krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi; d) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą; e) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (ang. untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej; f) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa; g) wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej; zakaz ten nie obejmuje przypadków etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw; h) wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, chyba że - i w zakresie, w jakim - takie wykorzystanie jest bezwzględnie konieczne do jednego z następujących celów: (i) ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych; (ii) zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; (iii) lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw, o których mowa w załączniku II, podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata. Akapit pierwszy lit. h) pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 w odniesieniu do przetwarzania danych biometrycznych do celów innych niż ściganie przestępstw. 2. Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h), mogą być wykorzystywane do celów określonych w tej literze, jedynie w celu potwierdzenia tożsamości konkretnej poszukiwanej osoby, z uwzględnieniem przy tym następujących elementów: a) charakter sytuacji powodującej konieczność ewentualnego wykorzystania takiego systemu, w szczególności powagę, prawdopodobieństwo i skalę szkody, która zostałaby wyrządzona w przypadku niewykorzystania tego systemu; b) konsekwencje wykorzystania takiego systemu dla praw i wolności wszystkich zainteresowanych osób, w szczególności powagę, prawdopodobieństwo i skalę tych konsekwencji. Ponadto wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 akapit pierwszy lit. h) niniejszego artykułu, musi przebiegać z zachowaniem niezbędnych i proporcjonalnych zabezpieczeń i warunków w odniesieniu do takiego wykorzystywania zgodnie z zezwalającym na takie wykorzystanie prawem krajowym, w szczególności w odniesieniu do ograniczeń czasowych, geograficznych i osobowych. Wykorzystanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej jest dozwolone tylko wtedy, gdy organ ścigania przeprowadził ocenę skutków dla praw podstawowych zgodnie z art. 27 oraz zarejestrował system w bazie danych UE zgodnie z przepisami art. 49. W należycie uzasadnionych nadzwyczajnych przypadkach można jednak rozpocząć korzystanie z takich systemów bez rejestracji w bazie danych UE, pod warunkiem, że taka rejestracja zostanie dokonana bez zbędnej zwłoki. 3. Na potrzeby ust. 1 akapit pierwszy lit. h) i ust. 2, każde wykorzystanie systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw wymaga uzyskania uprzedniego zezwolenia udzielonego przez organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny państwa członkowskiego, w którym ma nastąpić wykorzystanie; zezwolenie to wydawane jest na uzasadniony wniosek i zgodnie ze szczegółowymi przepisami prawa krajowego, o których mowa w ust. 5. W należycie uzasadnionych pilnych przypadkach korzystanie z takiego systemu można jednak rozpocząć bez zezwolenia, pod warunkiem, że wniosek o takie zezwolenie zostanie złożony bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W przypadku odmowy udzielenia takiego zezwolenia wykorzystywanie systemu wstrzymuje się ze skutkiem natychmiastowym, a wszystkie dane, a także rezultaty i wyniki uzyskane podczas tego wykorzystania musza zostać natychmiast odrzucone i usunięte. Właściwy organ wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny udziela zezwolenia tylko wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub jasnych przesłanek, które mu przedstawiono, że wykorzystanie danego systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym jest konieczne i proporcjonalne do osiągnięcia jednego z celów określonych w ust. 1 akapit pierwszy lit. h), wskazanego we wniosku, a w szczególności ogranicza się do tego, co jest bezwzględnie konieczne w odniesieniu do przedziału czasowego, a także zakresu geograficznego i podmiotowego. Podejmując decyzję w sprawie wniosku organ ten bierze pod uwagę elementy, o których mowa w ust. 2. Nie można wydać decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym. 4. Bez uszczerbku dla ust. 3, o każdym wykorzystaniu systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw powiadamia się właściwy organ nadzoru rynku i krajowy organ ochrony danych zgodnie z przepisami prawa krajowego, o których mowa w ust. 5. Powiadomienie zawiera co najmniej informacje określone w ust. 6 i nie może zawierać wrażliwych danych operacyjnych. 5. Państwo członkowskie może podjąć decyzję o wprowadzeniu możliwości pełnego lub częściowego zezwolenia na wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw w granicach i na warunkach wymienionych w ust. 1 akapit pierwszy lit. h) i w ust. 2 i 3. Zainteresowane państwa członkowskie ustanawiają w swoim prawie krajowym niezbędne szczegółowe przepisy dotyczące wniosku o udzielenie zezwoleń, o których mowa w ust. 3, wydawanie i wykonywanie tych zezwoleń oraz ich nadzorowanie składanie sprawozdań w ich sprawie. W przepisach tych określa się również, w odniesieniu do których celów wymienionych w ust. 1 akapit pierwszy lit. h) - w tym w odniesieniu do których przestępstw wymienionych w ust. 1 akapit pierwszy lit. h) ppkt (iii) - właściwe organy mogą uzyskać zezwolenie na wykorzystanie tych systemów do celów celu ścigania przestępstw. Państwa członkowskie powiadamiają Komisję o tych przepisach najpóźniej 30 dni po ich przyjęciu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące wykorzystania systemów zdalnej identyfikacji biometrycznej. 6. Krajowe organy nadzoru rynku i krajowe organy ochrony danych państw członkowskich, które zostały powiadomione o wykorzystaniu systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw zgodnie z ust. 4, przedkładają Komisji roczne sprawozdania z takiego wykorzystania. W tym celu Komisja przekazuje państwom członkowskim i krajowym organom nadzoru rynku i organom ochrony danych wzór formularza zawierającego informacje na temat liczby decyzji podjętych przez właściwe organy wymiaru sprawiedliwości lub wydający wiążące decyzje niezależny organ administracyjny w odniesieniu do wniosków o udzielenie zezwolenia zgodnie z ust. 3 oraz wyników ich rozpatrzenia. 7. Komisja publikuje roczne sprawozdania na temat wykorzystania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, oparte na zagregowanych danych w państwach członkowskich przekazanych w sprawozdaniach rocznych, o których mowa w ust. 6. Te sprawozdania roczne nie mogą zawierać wrażliwych danych operacyjnych dotyczących powiązanych działań w zakresie ścigania przestępstw. 8. Niniejszy artykuł nie ma wpływu na zakazy mające zastosowanie w przypadku, gdy praktyka w zakresie AI narusza inne przepisy prawa Unii. Art. 6 Zasady klasyfikacji systemów AI wysokiego ryzyka 1. Bez względu na to, czy system AI wprowadza się do obrotu lub oddaje do użytku niezależnie od produktów, o których mowa w lit. a) i b), taki system AI uznaje się za system wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) system AI jest przeznaczony do wykorzystania jako związany z bezpieczeństwem element produktu objętego unijnym prawodawstwem harmonizacyjnym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wymienionym w załączniku I lub sam system AI jest takim produktem; b) produkt, którego związanym z bezpieczeństwem elementem jest zgodnie z lit. a) system AI, lub sam system AI jako produkt podlegają - na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I - ocenie zgodności przez stronę trzecią w związku z wprowadzeniem tego produktu do obrotu lub oddaniem go do użytku. 2. Oprócz systemów AI wysokiego ryzyka, o których mowa w ust. 1, za systemy wysokiego ryzyka uznaje się systemy AI, o których mowa w załączniku III. 3. Na zasadzie odstępstwa od ust. 2 systemu AI, o którym mowa w załączniku III, nie uznaje się za system wysokiego ryzyka, w przypadku, gdy nie stwarza on znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, w tym poprzez brak znaczącego wpływu na wynik procesu decyzyjnego. Akapit pierwszy stosuje się w przypadku, gdy spełniony jest którykolwiek z następujących warunków: a) system AI jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego; b) system AI jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka; c) system AI jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji i nie ma na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka - bez odpowiedniej weryfikacji przez człowieka; lub d) system AI jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. Niezależnie od akapitu pierwszego system AI, o którym mowa w załączniku III, zawsze uznaje się za system wysokiego ryzyka, w przypadku, gdy system ten dokonuje profilowania osób fizycznych. 4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Taki dostawca podlega obowiązkowi rejestracji określonemu w art. 49 ust. 2. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny. 5. Po konsultacji z Europejską Radą ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"), Komisja przedstawi nie później niż w dniu 2 lutego 2026 r. wytyczne określające praktyczne wdrożenie niniejszego artykułu zgodnie z art. 96 wraz z kompleksowym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które stanowią przypadki wykorzystania wysokiego ryzyka oraz które nie stanowią przypadków takiego wykorzystania. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez dodanie nowych warunków do warunków ustanowionych w tym przepisie lub ich zmianę, w przypadku, gdy istnieją konkretne i wiarygodne dowody na istnienie systemów AI, które wchodzą w zakres stosowania załącznika III, ale nie stwarzają znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych. 7. Komisja przyjmuje zgodnie z art 97 akty delegowane w celu zmiany akapitu drugiego ust. 3 niniejszego artykułu poprzez usunięcie któregokolwiek z warunków ustanowionych w tym przepisie, w przypadku, gdy istnieją konkretne i wiarygodne dowody na to, że jest to konieczne w celu utrzymania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu. 8. Zmiana warunków ustanowionych w ust. 3 akapit drugi, przyjęta zgodnie z ust. 6 i 7 niniejszego artykułu, nie może prowadzić do obniżenia ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w niniejszym rozporządzeniu i musi zapewniać spójność z aktami delegowanymi przyjętymi zgodnie z art. 7 ust. 1 oraz uwzględniać rozwój rynku i technologii. Art. 7 Zmiany w załączniku III 1. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany N Przepis o charakterze ogólnym stosowany wprost załącznika III poprzez dodanie systemów AI wysokiego ryzyka lub zmianę przypadków ich wykorzystania, w przypadku, gdy spełnione są oba poniższe warunki: a) systemy AI są przeznaczone do wykorzystania w którymkolwiek z obszarów wymienionych w załączniku III; b) systemy AI stwarzają ryzyko szkody dla zdrowia i bezpieczeństwa lub ryzyko niepożądanego wpływu na prawa podstawowe i ryzyko to jest równoważne ryzyku szkody lub niepożądanego wpływu, jakie stwarzają systemy AI wysokiego ryzyka wymienione już w załączniku III, lub jest od niego większe. 2. Przy ocenie warunku określonego w ust. 1 lit. b) Komisja uwzględnia następujące kryteria: a) przeznaczenie systemu AI; b) zakres, w jakim system AI jest wykorzystywany lub prawdopodobnie będzie wykorzystywany; c) charakter i ilość danych przetwarzanych i wykorzystywanych przez system AI, w szczególności, czy przetwarzane są szczególne kategorie danych osobowych; d) zakres, w jakim system AI działa autonomicznie oraz możliwość unieważnienia przez człowieka decyzji lub zaleceń, które mogą prowadzić do potencjalnej szkody; e) zakres, w jakim wykorzystywanie systemu AI już wyrządziło szkodę dla zdrowia i bezpieczeństwa lub miało niepożądany wpływ na prawa podstawowe lub nie wymaga wdrożenia wzbudziło istotne obawy co do prawdopodobieństwa wystąpienia takiej szkody lub niepożądanego wpływu, czego potwierdzeniem są np. zgłoszenia lub poparte dokumentami twierdzenia przedstawione właściwym organom krajowym, lub w stosownych przypadkach, inne zgłoszenia; f) potencjalny zakres takiej szkody lub takiego niepożądanego wpływu, w szczególności pod względem ich nasilenia i możliwości oddziaływania na wiele osób lub nieproporcjonalnego oddziaływania na określoną grupę osób; g) zakres, w jakim osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu są zależne od wyniku działania systemu AI, w szczególności ze względu na fakt, że z przyczyn praktycznych lub prawnych nie jest racjonalnie możliwa rezygnacja z objęcia tym wynikiem; h) zakres, w jakim występuje nierówny układ sił lub osoby potencjalnie poszkodowane lub doświadczające niepożądanego wpływu znajdują się w słabszym położeniu względem podmiotu stosującego system AI, w szczególności z powodu statusu, władzy, wiedzy, sytuacji gospodarczej lub społecznej lub wieku; i) zakres, w jakim wynik uzyskany przy wykorzystaniu systemu AI jest łatwy do skorygowania lub odwracalny, przy uwzględnieniu dostępnych rozwiązań technicznych umożliwiających jego skorygowanie lub odwrócenie, przy czym za łatwe do skorygowania lub odwracalne nie uznaje się wyników działania systemu mających niepożądany wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe; j) rozmiary i prawdopodobieństwo korzyści płynących z wdrożenia systemu AI dla osób fizycznych, grup lub ogółu społeczeństwa, w tym możliwość poprawy bezpieczeństwa produktów; k) zakres, w jakim obowiązujące prawo Unii przewiduje: (i) skuteczne środki ochrony prawnej w związku z ryzykiem stwarzanym przez system AI, z wyłączeniem roszczeń o odszkodowanie; (ii) skuteczne środki zapobiegania temu ryzyku lub jego znacznego minimalizowania. 3. Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych w celu zmiany wykazu zawartego w załączniku III poprzez usunięcie systemów AI wysokiego ryzyka, jeżeli spełnione są oba poniższe warunki: a) dany system AI wysokiego ryzyka nie stwarza już żadnego znaczącego ryzyka dla praw podstawowych, zdrowia lub bezpieczeństwa, biorąc pod uwagę kryteria wymienione w ust. 2; b) usunięcie z wykazu nie obniża ogólnego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przewidzianego w prawie Unii. Art. 8 Zgodność z wymogami N Przepis o charakterze 1. Systemy AI wysokiego ryzyka muszą być zgodne z wymogami ustanowionymi w niniejszej sekcji, przy uwzględnieniu ich przeznaczenia oraz powszechnie uznanego stanu wiedzy technicznej w dziedzinie AI oraz technologii powiązanych z AI. Przy zapewnianiu zgodności z tymi wymogami uwzględnia się system zarządzania ryzykiem, o którym mowa w art. 9. 2. W przypadku, gdy produkt zawiera system AI, do którego mają zastosowanie wymogi niniejszego rozporządzenia oraz wymogi unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawcy są odpowiedzialni za zapewnienie pełnej zgodności ich produktu ze wszystkimi mającymi zastosowanie wymogami na podstawie mającego zastosowanie unijnego prawodawstwa harmonizacyjnego. Przy zapewnianiu zgodności systemów AI wysokiego ryzyka, o których mowa w ust. 1, z wymogami ustanowionymi w niniejszej sekcji oraz w celu zapewnienia spójności, unikania powielania i zminimalizowania dodatkowych obciążeń, dostawcy mogą wybrać, w stosownych przypadkach, integrację niezbędnych procesów testowania i sprawozdawczości, informacji i dokumentacji, które zapewniają w odniesieniu do swojego produktu, z istniejącą już dokumentacją i procedurami wymaganymi na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A. ogólnym stosowany wprost nie wymaga wdrożenia Art. 9 System zarządzania ryzykiem N Przepis o charakterze ogólnym stosowany wprost 1. Ustanawia się, wdraża, dokumentuje i obsługuje system zarządzania ryzykiem w odniesieniu do systemów AI wysokiego ryzyka. 2. Przez system zarządzania ryzykiem rozumie się ciągły, iteracyjny proces, planowany i realizowany przez cały cykl życia systemu AI wysokiego ryzyka, wymagający regularnego systematycznego przeglądu i aktualizacji. Obejmuje on następujące etapy: a) identyfikację i analizę znanego i dającego się racjonalnie przewidzieć ryzyka, jakie dany system AI wysokiego ryzyka może stwarzać dla zdrowia, bezpieczeństwa lub praw podstawowych podczas jego stosowania zgodnie z przeznaczeniem; b) oszacowanie i ocenę ryzyka, jakie może wystąpić podczas wykorzystywania systemu AI wysokiego ryzyka zgodnie z przeznaczeniem i w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania; c) ocenę innego mogącego wystąpić ryzyka na podstawie analizy danych zebranych z systemu monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; d) przyjęcie odpowiednich i ukierunkowanych środków zarządzania ryzykiem zaprojektowanych w celu przeciwdziałania ryzyku zidentyfikowanemu zgodnie z lit. a). 3. Ryzyko, o którym mowa w niniejszym artykule, oznacza tylko takie rodzaje ryzyka, które można stosownie ograniczyć lub wyeliminować poprzez nie wymaga wdrożenia rozwój lub zaprojektowanie systemu AI wysokiego ryzyka lub poprzez zapewnienie odpowiednich informacji technicznych. 4. W ramach środków zarządzania ryzykiem, o których mowa w ust. 2 lit. d), należycie uwzględnia się skutki i możliwe interakcje wynikające z łącznego stosowania wymogów ustanowionych w niniejszej sekcji, w celu skuteczniejszego minimalizowania ryzyka przy jednoczesnym osiągnięciu odpowiedniej równowagi we wdrażaniu środków służących spełnieniu tych wymogów. 5. Środki zarządzania ryzykiem, o których mowa w ust. 2 lit. d), muszą być takie, aby odpowiednie ryzyko szczątkowe związane z każdym zagrożeniem, jak również ogólne ryzyko szczątkowe systemów AI wysokiego ryzyka, oceniano jako dopuszczalne. Przy określaniu najodpowiedniejszych środków zarządzania ryzykiem zapewnia się, co następuje: a) eliminację lub ograniczenie - w zakresie, w jakim jest to technicznie wykonalne - ryzyka zidentyfikowanego i ocenionego zgodnie z ust. 2 poprzez odpowiedni projekt i rozwój systemu AI wysokiego ryzyka; b) w stosownych przypadkach - wdrożenie odpowiednich środków służących ograniczeniu i kontroli ryzyka, którego nie można wyeliminować; c) dostarczenie informacji wymaganych zgodnie z art. 13 oraz w stosownych przypadkach, przeszkolenie podmiotów stosujących. W celu eliminowania lub ograniczania ryzyka związanego z wykorzystaniem systemu AI wysokiego ryzyka należytą uwagę zwraca się na wiedzę techniczną, doświadczenie, wykształcenie i szkolenia, jakich oczekuje się od podmiotu stosującego, oraz zakładany kontekst, w którym ma być stosowany system. 6. Systemy AI wysokiego ryzyka testuje się w celu określenia najodpowiedniejszych i ukierunkowanych środków zarządzania ryzykiem. Testy zapewniają, by systemy AI wysokiego ryzyka działały zgodnie z ich przeznaczeniem oraz były zgodne z wymogami ustanowionymi w niniejszej sekcji. 7. Procedury testowe mogą obejmować testy w warunkach rzeczywistych zgodnie z art. 60. 8. Testy systemów AI wysokiego ryzyka przeprowadza się, w stosownych przypadkach, w dowolnym momencie procesu rozwoju systemu, a w każdym przypadku przed wprowadzeniem go do obrotu lub oddaniem do użytku. Testy przeprowadza się w odniesieniu do uprzednio określonych wskaźników i progów probabilistycznych, stosownych ze względu na przeznaczenie systemu AI wysokiego ryzyka. 9. Przy wdrażaniu systemu zarządzania ryzykiem przewidzianego w ust. 1-7 dostawcy zwracają uwagę na to, czy dany system AI wysokiego ryzyka w świetle swojego przeznaczenia może mieć niekorzystny wpływ na osoby poniżej 18 roku życia oraz w stosownych przypadkach, na inne grupy szczególnie wrażliwe. 10. W odniesieniu do dostawców systemów AI wysokiego ryzyka, którzy podlegają wymogom dotyczącym wewnętrznych procesów zarządzania ryzykiem na podstawie innych odpowiednich przepisów prawa Unii, aspekty przewidziane w ust. 1-9 mogą być częścią procedur zarządzania ryzykiem ustanowionych zgodnie z tym prawem lub łączyć się z tymi procedurami. Art. 10 Dane i zarządzanie danymi 1. Systemy AI wysokiego ryzyka, które wykorzystują techniki obejmujące trenowanie modeli AI z wykorzystaniem danych, rozwija się na podstawie zbiorów danych treningowych, walidacyjnych i testowych spełniających kryteria jakości, o których mowa w ust. 2-5, w każdym przypadku, gdy takie zbiory danych są wykorzystywane. 2. Zbiory danych treningowych, walidacyjnych i testowych podlegają praktykom w zakresie zarządzania danymi stosownym do przeznaczenia danego systemu AI wysokiego ryzyka. Praktyki te dotyczą w szczególności: a) odpowiednich decyzji projektowych; b) procesów zbierania danych i pochodzenia danych oraz w przypadku danych osobowych, pierwotnego celu zbierania danych; c) odpowiednich operacji przetwarzania na potrzeby przygotowania danych, takich jak dodawanie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia komentarzy, etykietowanie, czyszczenie, aktualizacja, wzbogacanie i agregacja; d) sformułowania założeń, w szczególności w odniesieniu do informacji, do których pomiaru i reprezentowania mają służyć dane; e) oceny dostępności, ilości i przydatności zbiorów danych, które są potrzebne; f) badania pod kątem ewentualnej stronniczości, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie wpływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii, zwłaszcza w przypadku, gdy dane wyjściowe wpływają na dane wejściowe wykorzystywane na potrzeby przyszłych operacji; g) odpowiednich środków służących wykrywaniu ewentualnej stronniczości określonej zgodnie z lit. f) oraz zapobieganiu jej i jej ograniczaniu; h) określenia istotnych luk w danych lub braków w danych, które uniemożliwiają zgodność z niniejszym rozporządzeniem, oraz tego, w jaki sposób można zaradzić tym lukom i brakom. 3. Zbiory danych treningowych, walidacyjnych i testowych muszą być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne z punktu widzenia przeznaczenia. Muszą się one charakteryzować odpowiednimi właściwościami statystycznymi, w tym, w stosownych przypadkach, w odniesieniu do osób lub grup osób, wobec których ma być stosowany system AI wysokiego ryzyka. Te kryteria zbiorów danych mogą zostać spełnione na poziomie pojedynczych zbiorów danych lub na poziomie ich kombinacji. 4. Zbiory danych muszą uwzględniać, w zakresie wymaganym z uwagi na ich przeznaczenie, cechy lub elementy, które są specyficzne dla określonego otoczenia geograficznego, kontekstualnego, behawioralnego lub funkcjonalnego, w którym ma być wykorzystywany system AI wysokiego ryzyka. 5. W zakresie, w jakim jest to bezwzględnie konieczne do celów zapewnienia zgodnie z ust. 2 lit. f) i g) niniejszego artykułu wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz przepisów określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywie (UE) 2016/680, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki: a) nie jest możliwe skuteczne wykrywanie i korygowanie stronniczości poprzez przetwarzanie innych danych, w tym danych syntetycznych lub zanonimizowanych; b) szczególne kategorie danych osobowych podlegają ograniczeniom technicznym dotyczącym ponownego wykorzystywania danych osobowych oraz najnowocześniejszym środkom bezpieczeństwa i ochrony prywatności, w tym pseudonimizacji; c) szczególne kategorie danych osobowych podlegają środkom zapewniającym, by przetwarzane dane osobowe były zabezpieczone, chronione, podlegały odpowiednim środkom ochronnym, w tym ścisłym kontrolom i dokumentowaniu dostępu, aby uniknąć nadużyć i zapewnić, by dostęp do tych danych miały wyłącznie osoby upoważnione, zobowiązane do spełnienia odpowiednich obowiązków dotyczących poufności; d) szczególne kategorie danych osobowych nie są przesyłane, przekazywane ani w inny sposób udostępniane innym podmiotom; e) szczególne kategorie danych osobowych usuwa się po skorygowaniu stronniczości lub po upływie okresu przechowywania danych osobowych, w zależności od tego, co nastąpi wcześniej; f) rejestry czynności przetwarzania na podstawie rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680 zawierają uzasadnienie, dlaczego przetwarzanie szczególnych kategorii danych osobowych było bezwzględnie konieczne do wykrycia i skorygowania stronniczości oraz dlaczego cel ten nie mógł zostać osiągnięty w wyniku przetwarzania innych danych. 6. W przypadkach rozwoju systemów AI wysokiego ryzyka niewykorzystujących technik obejmujących trenowanie modeli AI ust. 2-5 stosuje się jedynie do zbiorów danych testowych. Art. 11 Dokumentacja techniczna 1. Dokumentację techniczną dla systemu AI wysokiego ryzyka sporządza się przed wprowadzeniem danego systemu do obrotu lub oddaniem go do użytku oraz dokonuje się jej aktualizacji. Dokumentację techniczną sporządza się w taki sposób, aby wykazać, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w niniejszej sekcji, oraz aby dostarczyć właściwym organom krajowym i jednostkom notyfikowanym informacji - w jasnej i kompleksowej formie - niezbędnych do oceny zgodności systemu AI z tymi wymogami. Zawiera ona co najmniej elementy określone w załączniku IV. MŚP, w tym przedsiębiorstwa typu startup, mogą podawać elementy dokumentacji technicznej określone w załączniku IV w formie uproszczonej. W tym celu Komisja ustanawia wzór uproszczonej dokumentacji technicznej ukierunkowany na potrzeby małych przedsiębiorstw i mikroprzedsiębiorstw. W przypadku gdy MŚP, w tym przedsiębiorstwa typu startup, zdecydują się na podawanie informacji wymaganych w załączniku IV w sposób uproszczony, korzystają z wzoru, o którym mowa w niniejszym ustępie. Jednostki notyfikowane akceptują ten wzór do celów oceny zgodności. 2. W przypadku wprowadzania do obrotu lub oddawania do użytku systemu AI wysokiego ryzyka N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia związanego z produktem, który jest objęty zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, sporządza się jeden zestaw dokumentacji technicznych zawierający wszystkie informacje określone w ust. 1, jak również informacje wymagane na podstawie tych aktów prawnych. 3. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany, w razie potrzeby, załącznika IV, aby zagwarantować, by w świetle postępu technicznego dokumentacja techniczna zawierała wszystkie informacje niezbędne do oceny zgodności systemu z wymogami ustanowionymi w niniejszej sekcji. Art. 12 Rejestrowanie zdarzeń 1. Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (zwanymi dalej \"rejestrami zdarzeń\") w całym cyklu życia danego systemu. 2. W celu zapewnienia, by poziom identyfikowalności funkcjonowania systemu AI wysokiego ryzyka był stosowny ze względu na przeznaczenie tego systemu, funkcja rejestracji zdarzeń musi umożliwiać rejestrowanie zdarzeń istotnych dla: a) identyfikowania sytuacji, które mogą skutkować tym, że system AI wysokiego ryzyka będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, lub które mogą prowadzić do istotnej zmiany; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia b) ułatwiania monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72; oraz c) monitorowania działania systemów AI wysokiego ryzyka, o których mowa w art. 26 ust. 5. 3. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), funkcja rejestracji zdarzeń musi zapewniać rejestrowanie co najmniej: a) okresu każdego wykorzystania systemu (data i godzina rozpoczęcia oraz data i godzina zakończenia każdego wykorzystania); b) referencyjnej bazy danych, względem której system sprawdził dane wejściowe; c) danych wejściowych, w których przypadku wyszukiwanie doprowadziło do trafienia; d) danych umożliwiających identyfikację osób fizycznych uczestniczących w weryfikacji wyników, o których mowa w art. 14 ust. 5. Art. 13 Przejrzystość i udostępnianie informacji podmiotom stosującym 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w sposób zapewniający wystarczającą przejrzystość ich działania, umożliwiającą podmiotom stosującym interpretację wyników systemu i ich właściwe wykorzystanie. Zapewnia się odpowiedni rodzaj i stopień przejrzystości w celu osiągnięcia N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia spełnienia przez dostawcę i podmiot stosujący odpowiednich obowiązków określonych w sekcji 3. 2. Do systemów AI wysokiego ryzyka dołącza się instrukcję obsługi w odpowiednim formacie cyfrowym lub innym formacie zawierającą zwięzłe, kompletne, poprawne i jasne informacje, które są istotne, dostępne i zrozumiałe dla podmiotów stosujących. 3. Instrukcja obsługi zawiera co najmniej następujące informacje: a) tożsamość i dane kontaktowe dostawcy oraz w stosownych przypadkach, jego upoważnionego przedstawiciela; b) cechy, możliwości i ograniczenia skuteczności działania systemu AI wysokiego ryzyka, w tym: (i) jego przeznaczenie; (ii) poziom dokładności, wraz z jego wskaźnikami, poziom solidności i cyberbezpieczeństwa, o których mowa w art. 15, względem których przetestowano system AI wysokiego ryzyka i dokonano jego walidacji oraz których to poziomów można oczekiwać, a także wszelkie znane i dające się przewidzieć okoliczności, które mogą mieć wpływ na te oczekiwane poziomy dokładności, solidności i cyberbezpieczeństwa; (iii) wszelkie znane lub dające się przewidzieć okoliczności związane z wykorzystaniem systemu AI wysokiego ryzyka zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, mogące powodować ryzyko dla zdrowia i bezpieczeństwa lub praw podstawowych, o którym to ryzyku mowa w art. 9 ust. 2; (iv) w stosownych przypadkach, możliwości techniczne i właściwości systemu AI wysokiego ryzyka w zakresie udostępniania informacji istotnych dla wyjaśnienia jego wyników; (v) w stosownych przypadkach, działanie systemu w odniesieniu do określonych osób lub grup osób, wobec których ma on być wykorzystywany; (vi) w stosownych przypadkach, specyfikacje dotyczące danych wejściowych lub wszelkie inne istotne informacje dotyczące wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, uwzględniając przeznaczenie systemu AI wysokiego ryzyka; (vii) w stosownych przypadkach, informacje umożliwiające podmiotom stosującym interpretację wyników systemu AI wysokiego ryzyka i odpowiednie wykorzystanie tych wyników; c) zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które zostały z góry zaplanowane przez dostawcę w momencie przeprowadzania początkowej oceny zgodności; d) środki nadzoru ze strony człowieka, o których mowa w art. 14, w tym środki techniczne wprowadzone w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI wysokiego ryzyka; e) potrzebne zasoby obliczeniowe i sprzętowe, przewidywany cykl życia systemu AI wysokiego ryzyka oraz wszelkie niezbędne środki w zakresie konserwacji i utrzymania, w tym częstotliwość ich stosowania, mające na celu zapewnienie właściwego funkcjonowania tego systemu AI, w tym dotyczące aktualizacji oprogramowania; f) w stosownych przypadkach - opis mechanizmów zawartych w systemie AI wysokiego ryzyka, które umożliwiają podmiotom stosującym prawidłowe zbieranie, przechowywanie i interpretowanie rejestrów zdarzeń, zgodnie z art. 12. Art. 14 Nadzór ze strony człowieka 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, w tym poprzez uwzględnienie odpowiednich narzędzi interfejsu człowiek-maszyna, aby w okresie ich wykorzystywania systemu AI mogły być skutecznie nadzorowane przez osoby fizyczne. 2. Nadzór ze strony człowieka ma na celu zapobieganie ryzyku dla zdrowia, bezpieczeństwa lub praw podstawowych lub minimalizowanie takiego ryzyka, które może się pojawić, gdy system AI wysokiego ryzyka jest wykorzystywany zgodnie z jego przeznaczeniem lub w warunkach dającego się racjonalnie przewidzieć niewłaściwego wykorzystania, w szczególności, gdy takie ryzyko utrzymuje się pomimo stosowania innych wymogów ustanowionych w niniejszej sekcji. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Środki nadzoru muszą być współmierne do ryzyka, poziomu autonomii i kontekstu wykorzystywania danego systemu AI wysokiego ryzyka, a nadzór zapewnia się za pomocą co najmniej jednego z następujących rodzajów środków: a) środków określonych i wbudowanych, jeżeli jest to technicznie wykonalne, w system AI wysokiego ryzyka przez dostawcę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku; b) środków określonych przez dostawcę przed wprowadzeniem systemu AI wysokiego ryzyka do obrotu lub oddaniem go do użytku i które to środki nadają się do wdrożenia przez podmiot stosujący. 4. Do celów wykonania ust. 1, 2 i 3 system AI wysokiego ryzyka udostępnia się podmiotowi stosującemu w taki sposób, aby umożliwić osobom fizycznym, którym powierzono sprawowanie nadzoru ze strony człowieka, odpowiednio i proporcjonalnie: a) należyte zrozumienie odpowiednich możliwości i ograniczeń systemu AI wysokiego ryzyka oraz należyte monitorowanie jego działania, w tym w celu wykrywania anomalii, nieprawidłowego funkcjonowania i nieoczekiwanych wyników działania oraz zaradzeniu im w przypadku ich wystąpienia; b) pozostawanie świadomym potencjalnej tendencji do automatycznego polegania lub nadmiernego polegania na wyniku wytworzonym przez system AI wysokiego ryzyka (tzw. \"błąd automatyzacji\"), w szczególności w przypadku systemów AI wysokiego ryzyka wykorzystywanych do udzielania informacji lub zaleceń na potrzeby decyzji podejmowanych przez osoby fizyczne; c) prawidłową interpretację wyniku systemu AI wysokiego ryzyka, biorąc pod uwagę na przykład dostępne narzędzia i metody interpretacji; d) podjęcie decyzji, w każdej konkretnej sytuacji, o niekorzystaniu z systemu AI wysokiego ryzyka lub w inny sposób zignorowanie, unieważnienie lub odwrócenie wyniku systemu AI wysokiego ryzyka; e) ingerowanie w działanie systemu AI wysokiego ryzyka lub przerwanie działania systemu za pomocą przycisku \"stop\" lub podobnej procedury, która pozwala na zatrzymanie systemu w stanie bezpiecznym. 5. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1 lit. a), środki, o których mowa w ust. 3 niniejszego artykułu, muszą ponadto zapewniać, aby podmiot stosujący nie podejmował żadnego działania ani decyzji na podstawie identyfikacji będącej wynikiem działania systemu, jeżeli identyfikacji tej nie zweryfikowały ani nie potwierdziły odrębnie co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia. Wymóg odrębnej weryfikacji przez co najmniej dwie osoby fizyczne nie ma zastosowania do systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw, migracji, kontroli granicznej lub azylu, w przypadkach, gdy prawo Unii lub prawo krajowe uznaje stosowanie tego wymogu za nieproporcjonalne. Art. 15 Dokładność, solidność i cyberbezpieczeństwo 1. Systemy AI wysokiego ryzyka projektuje się i rozwija w taki sposób, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz by działały konsekwentnie pod tymi względami w całym cyklu życia. 2. Aby odnieść się do technicznych aspektów pomiaru odpowiednich poziomów dokładności i solidności określonych w ust. 1 oraz wszelkich innych istotnych wskaźników skuteczności działania, Komisja we współpracy z odpowiednimi zainteresowanymi stronami i organizacjami, takimi jak organy metrologiczne i organy ds. analizy porównawczej, zachęca w stosownych przypadkach do opracowywania poziomów odniesienia i metod pomiarowych. 3. Poziomy dokładności i odpowiednie wskaźniki dokładności systemów AI wysokiego ryzyka deklaruje się w dołączonych do nich instrukcjach obsługi. 4. Systemy AI wysokiego ryzyka muszą być możliwie jak najodporniejsze na błędy, usterki lub niespójności, które mogą wystąpić w systemie lub w środowisku, w którym działa system, w szczególności w wyniku interakcji z osobami fizycznymi lub innymi systemami. W tym zakresie podejmuje się środki techniczne i organizacyjne. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Solidność systemów AI wysokiego ryzyka można osiągnąć dzięki rozwiązaniom technicznym gwarantującym redundancję, które mogą obejmować plany zakładające dostępność systemu zapasowego lub plany zapewniające przejście systemu w stan bezpieczny (tzw. \"fail-safe\"). Systemy AI wysokiego ryzyka, które po wprowadzeniu na rynek lub oddaniu do użytku nadal się uczą, rozwija się w taki sposób, aby w możliwie największym stopniu wyeliminować lub ograniczyć ryzyko potencjalnie stronniczych wyników wpływających na dane wejściowe wykorzystywane na potrzeby przyszłych operacji (sprzężenie zwrotne) oraz aby zapewnić, by wszelkie tego typu sprzężenie zwrotne zostało odpowiednio uwzględnione przy pomocy odpowiednich środków ograniczających ryzyko. 5. Systemy AI wysokiego ryzyka muszą być odporne na próby nieupoważnionych osób trzecich mające na celu zmianę ich wykorzystania, wyników lub skuteczności działania poprzez wykorzystanie słabych punktów systemu. Rozwiązania techniczne mające na celu zapewnienie cyberbezpieczeństwa systemów AI wysokiego ryzyka muszą być dostosowane do odpowiednich okoliczności i ryzyka. Rozwiązania techniczne mające na celu eliminowanie słabych punktów charakterystycznych dla AI obejmują, w stosownych przypadkach, środki służące zapobieganiu atakom mającym na celu manipulowanie zbiorem danych treningowych (zatruwanie danych) lub elementami stosowanymi przy trenowaniu, które zostały poddane pretrenowaniu (zatruwanie modelu), wprowadzaniu danych wejściowych, które mają na celu spowodowanie błędu w modelu AI (przykłady kontradyktoryjne lub omijanie modelu), atakom na poufność lub wadom modelu, a także środki w zakresie wykrywania tych zagrożeń, reagowania na nie, ich rozwiązywania i ich kontrolowania. Art. 16 Obowiązki dostawców systemów AI wysokiego ryzyka Dostawcy systemów AI wysokiego ryzyka: a) zapewniają zgodność swoich systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; b) podają w systemie AI wysokiego ryzyka lub – przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, stosownie do przypadku, swoją nazwę, zarejestrowaną nazwę handlową lub zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować; c) posiadają system zarządzania jakością zgodny z art. 17; d) prowadzą dokumentację, o której mowa w art. 18; e) przechowują rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka, jak określono w art. 19, gdy rejestry takie znajdują się pod ich kontrolą; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia f) zapewniają, aby przed wprowadzeniem do obrotu lub oddaniem do użytku system AI wysokiego ryzyka poddano odpowiedniej procedurze oceny zgodności, o której mowa w art. 43; g) sporządzają deklarację zgodności UE zgodnie z art. 47; h) umieszczają, zgodnie z art. 48, oznakowanie CE w systemie AI wysokiego ryzyka lub - w przypadku, gdy nie jest to możliwe - na jego opakowaniu lub w dołączonej do niego dokumentacji, na potwierdzenie zgodności z niniejszym rozporządzeniem; i) spełniają obowiązki rejestracyjne, o których mowa w art. 49 ust. 1; j) podejmują niezbędne działania naprawcze i przekazują informacje zgodnie z art. 20; k) wykazują, na uzasadniony wniosek właściwego organu krajowego, zgodność systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2; l) zapewniają, by system AI wysokiego ryzyka był zgodny z wymogami dostępności zgodnie z dyrektywami (UE) 2016/2102 i (UE) 2019/882. Art. 17 System zarządzania jakością 1. Dostawcy systemów AI wysokiego ryzyka wprowadzają system zarządzania jakością, który zapewnia zgodność z niniejszym rozporządzeniem. System ten dokumentuje się w systematyczny i uporządkowany sposób w formie pisemnych polityk, N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur i instrukcji oraz obejmuje on co najmniej następujące aspekty: a) strategię na rzecz zgodności regulacyjnej, w tym zgodności z procedurami oceny zgodności i procedurami zarządzania zmianami w systemie AI wysokiego ryzyka; b) techniki, procedury i systematyczne działania, które należy stosować na potrzeby projektowania oraz kontroli i weryfikacji projektu systemu AI wysokiego ryzyka; c) techniki, procedury i systematyczne działania, które należy stosować na potrzeby rozwoju, kontroli jakości i zapewniania jakości systemu AI wysokiego ryzyka; d) procedury badania, testowania i walidacji, które należy przeprowadzić przed przystąpieniem do rozwoju systemu AI wysokiego ryzyka, w trakcie tego rozwoju i po jego zakończeniu, oraz częstotliwość, z jaką mają być przeprowadzane; e) specyfikacje techniczne, w tym normy, które należy zastosować, oraz w przypadkach, gdy normy zharmonizowane nie są stosowane w pełni lub nie obejmują wszystkich odpowiednich wymogów ustanowionych w sekcji 2, środki, które należy zastosować do zapewnienia, by system AI wysokiego ryzyka był zgodny z tymi wymogami; f) systemy i procedury zarządzania danymi, w tym dotyczące nabywania danych, zbierania danych, analizy danych, etykietowania danych, przechowywania danych, filtrowania danych, eksploracji danych, agregacji danych, zatrzymywania danych i wszelkich innych operacji dotyczących danych, które przeprowadza się przed wprowadzeniem do obrotu lub oddaniem do użytku systemów AI wysokiego ryzyka i do celu wprowadzenia ich do obrotu lub oddania ich do użytku; g) system zarządzania ryzykiem, o którym mowa w art. 9; h) ustanowienie, wdrożenie i obsługa systemu monitorowania po wprowadzeniu do obrotu, zgodnie z art. 72; i) procedury związane ze zgłaszaniem poważnego incydentu zgodnie z art. 73; j) porozumiewanie się z właściwymi organami krajowymi, innymi właściwymi organami, w tym organami zapewniającymi lub wspierającymi dostęp do danych, jednostkami notyfikowanymi, innymi operatorami, klientami lub innymi zainteresowanymi stronami; k) systemy i procedury rejestrowania wszelkiej istotnej dokumentacji i wszelkich istotnych informacji; l) zarządzanie zasobami, w tym środki związane z bezpieczeństwem dostaw; m) ramy odpowiedzialności służące określeniu odpowiedzialności kierownictwa i pozostałego personelu w odniesieniu do wszystkich aspektów wymienionych w niniejszym ustępie. 2. Wdrożenie aspektów, o których mowa w ust. 1, musi być proporcjonalne do wielkości organizacji dostawcy. W każdym przypadku dostawcy przestrzegają stopnia rygoryzmu i poziomu ochrony wymaganych do zapewnienia zgodności ich systemów AI wysokiego ryzyka z niniejszym rozporządzeniem. 3. Dostawcy systemów AI wysokiego ryzyka, którzy podlegają obowiązkom dotyczącym systemów zarządzania jakością lub równoważnym obowiązkom na podstawie odpowiednich sektorowych przepisów prawa Unii, mogą uwzględnić aspekty wymienione w ust. 1 jako część systemów zarządzania jakością zgodnie z tymi przepisami. 4. W odniesieniu do dostawców będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek wprowadzenia systemu zarządzania jakością, z wyjątkiem ust. 1 lit. g), h) oraz i) niniejszego artykułu, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi zarządzania wewnętrznego, uzgodnień lub procedur zgodnie z odpowiednimi przepisami prawa Unii dotyczącymi usług finansowych. W tym celu uwzględnia się wszelkie normy zharmonizowane, o których mowa w art. 40. Art. 18 Prowadzenie dokumentacji 1. Przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku T Art. 91 ust. 3 pkt 2 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy dostawca przechowuje do dyspozycji właściwych organów krajowych: a) dokumentację techniczną, o której mowa w art. 11; b) dokumentację dotyczącą systemu zarządzania jakością, o którym mowa w art. 17; c) w stosownych przypadkach - dokumentację dotyczącą zmian zatwierdzonych przez jednostki notyfikowane; d) w stosownych przypadkach - decyzje i inne dokumenty wydane przez jednostki notyfikowane; e) deklarację zgodności UE, o której mowa w art. 47. 2. Każde państwo członkowskie określa warunki, na jakich dokumentacja, o której mowa w ust. 1, pozostaje do dyspozycji właściwych organów krajowych przez okres wskazany w tym ustępie w przypadkach, gdy dostawca lub jego upoważniony przedstawiciel mający miejsce zamieszkania lub siedzibę na terytorium danego państwa członkowskiego ogłoszą upadłość lub zaprzestaną działalności przed upływem tego okresu. 3. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą dokumentację techniczną jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów prawa Unii dotyczących usług finansowych. o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 19 Automatycznie generowane rejestry zdarzeń 1. Dostawcy systemów AI wysokiego ryzyka przechowują generowane automatycznie przez ich systemy AI wysokiego ryzyka rejestry zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. Bez uszczerbku dla mającego zastosowanie prawa Unii lub prawa krajowego rejestry te są przechowywane przez okres stosowny ze względu na przeznaczenie systemu AI wysokiego ryzyka, wynoszący co najmniej 6 miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowym, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. 2. Dostawcy będący instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń generowane automatycznie przez ich systemy AI wysokiego ryzyka jako część dokumentacji prowadzonej na podstawie odpowiednich przepisów dotyczących usług finansowych. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 20 Działania naprawcze i obowiązek informacyjny 1. Dostawcy systemów AI wysokiego ryzyka, którzy uważają lub mają powody, by uważać, że system AI wysokiego ryzyka, który wprowadzili do obrotu lub oddali do użytku, nie jest zgodny z niniejszym rozporządzeniem, natychmiast podejmują niezbędne N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia działania naprawcze w celu, stosownie do przypadku, zapewnienia zgodności tego systemu, wycofania go z rynku, wyłączenia go lub wycofania go z użytku. Informują oni o tym dystrybutorów danego systemu AI wysokiego ryzyka oraz w stosownych przypadkach, odpowiednio podmioty stosujące, upoważnionego przedstawiciela i importerów. 2. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1 i dostawca danego systemu dowie się o tym ryzyku, dostawca ten natychmiast wyjaśnia przyczyny tego ryzyka, w stosownych przypadkach we współpracy ze zgłaszającym podmiotem stosującym, oraz informuje organy nadzoru rynku właściwe w zakresie przedmiotowych systemów AI wysokiego ryzyka, oraz, w stosownych przypadkach, jednostkę notyfikowaną, która zgodnie z art. 44 wydała certyfikat dla danego systemu AI wysokiego ryzyka, w szczególności o charakterze danej niezgodności oraz o wszelkich podjętych działaniach naprawczych. Art. 21 Współpraca z właściwymi organami 1. Dostawcy systemów AI wysokiego ryzyka, na uzasadniony wniosek właściwego organu, przekazują temu organowi wszelkie informacje i dokumenty niezbędne do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla danego organu w jednym z oficjalnych języków instytucji Unii wskazanym przez dane państwo członkowskie. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również 2. Na uzasadniony wniosek właściwego organu dostawcy zapewniają również występującemu z wnioskiem właściwemu organowi, w stosownych przypadkach, dostęp do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego rodzaju rejestry zdarzeń znajdują się pod ich kontrolą. 3. Wszelkie informacje uzyskane zgodnie z niniejszym artykułem przez właściwy organ traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 22 Upoważnieni przedstawiciele dostawców systemów AI wysokiego ryzyka 1. Przed udostępnieniem swoich systemów AI wysokiego ryzyka na rynku Unii dostawcy mający miejsce zamieszkania lub siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego miejsce zamieszkania lub siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego przez dostawcę. Upoważniony przedstawiciel przekazuje organom nadzoru rynku, na wniosek, kopię T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady pełnomocnictwa w jednym z oficjalnych języków instytucji Unii wskazanym przez właściwy organ. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie, czy zostały sporządzone deklaracja zgodności UE, o której mowa w art. 47, i dokumentacja techniczna, o której mowa w art. 11, oraz czy została przeprowadzona przez dostawcę odpowiednia procedura oceny zgodności; b) przechowywanie do dyspozycji właściwych organów i krajowych organów lub jednostek, o których mowa w art. 74 ust. 10, przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, danych kontaktowych dostawcy, który ustanowił upoważnionego przedstawiciela, kopii deklaracji zgodności UE, o której mowa w art. 47, dokumentacji technicznej oraz w stosownych przypadkach, certyfikatu wydanego przez jednostkę notyfikowaną; c) przekazywanie właściwemu organowi, na uzasadniony wniosek, wszelkich informacji i dokumentów, w tym tych, o których mowa w lit. b) niniejszego ustępu, niezbędnych do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w tym zapewnienie temu organowi dostępu do generowanych automatycznie przez system AI wysokiego ryzyka rejestrów zdarzeń, o których mowa w art. 12 ust. 1, w zakresie, w jakim tego ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. rodzaju rejestry zdarzeń znajdują się pod kontrolą dostawcy; d) współpraca z właściwymi organami, na uzasadniony wniosek, w zakresie wszelkich działań, które organy te podejmują w odniesieniu do danego systemu AI wysokiego ryzyka, w szczególności, aby zmniejszyć i ograniczyć ryzyko, jakie stwarza ten system AI wysokiego ryzyka; e) w stosownych przypadkach spełnianie obowiązków rejestracyjnych, o których mowa w art. 49 ust. 1, lub jeżeli rejestracji dokonuje sam dostawca, zapewnienie, by informacje, o których mowa w załączniku VIII sekcja A pkt 3, były prawidłowe. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 4. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli uważa lub ma powody uważać, że dostawca działa w sposób sprzeczny ze swoimi obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku upoważniony przedstawiciel natychmiast informuje o wypowiedzeniu pełnomocnictwa i jego przyczynach odpowiedni organ nadzoru rynku, a także, w stosownych przypadkach, odpowiednią jednostkę notyfikowaną. Art. 23 Obowiązki importerów T Przepis dotyczy systemów AI 1. Przed wprowadzeniem do obrotu systemu AI wysokiego ryzyka importerzy zapewniają jego zgodność z niniejszym rozporządzeniem, sprawdzając, czy: a) dostawca systemu AI wysokiego ryzyka przeprowadził odpowiednią procedurę oceny zgodności, o której mowa w art. 43; b) dostawca sporządził dokumentację techniczną zgodnie z art. 11 i załącznikiem IV; c) system opatrzono wymaganym oznakowaniem CE oraz dołączono do niego deklarację zgodności UE, o której mowa w art. 47, oraz instrukcję obsługi; d) dostawca ustanowił upoważnionego przedstawiciela zgodnie z art. 22 ust. 1. 2. W przypadku, gdy importer ma wystarczające powody, aby uważać, że system AI wysokiego ryzyka jest niezgodny z niniejszym rozporządzeniem lub został sfałszowany lub sfałszowana została dołączona do niego dokumentacja, nie wprowadza tego systemu do obrotu, dopóki nie zostanie zapewniona jego zgodność z niniejszym rozporządzeniem. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, importer informuje o tym dostawcę systemu, upoważnionych przedstawicieli oraz organy nadzoru rynku. 3. Importerzy podają w systemie AI wysokiego ryzyka, na opakowaniu tego systemu lub w stosownych przypadkach, w dołączonej do niego dokumentacji swoją nazwę, zarejestrowaną nazwę handlową lub wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zarejestrowany znak towarowy i adres, pod którym można się z nimi skontaktować. 4. Importerzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego - stosownie do przypadku - przechowywania lub transportu nie zagrażały jego zgodności z wymogami ustanowionymi w sekcji 2. 5. Przez okres 10 lat od wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku, importerzy przechowują kopię certyfikatu wydanego przez jednostkę notyfikowaną, w stosownych przypadkach, kopię instrukcji obsługi oraz deklaracji zgodności UE, o której mowa w art. 47. 6. Na uzasadniony wniosek odpowiednich właściwych organów importerzy przekazują im wszelkie niezbędne informacje i dokumentację, w tym te, o których mowa w ust. 5, w celu wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, w języku łatwo zrozumiałym dla tych organów. W tym celu importerzy zapewniają również możliwość udostępnienia tym organom dokumentacji technicznej. 7. Importerzy współpracują z odpowiednimi właściwymi organami w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka wprowadzonego do obrotu przez importerów, w szczególności, aby zmniejszyć i ograniczyć stwarzane przez ten system ryzyko. Art. 24 Obowiązki dystrybutorów T Przepis dotyczy systemów AI 1. Przed udostępnieniem na rynku systemu AI wysokiego ryzyka dystrybutorzy sprawdzają, czy został on opatrzony wymaganym oznakowaniem zgodności CE, czy dołączono do niego kopię deklaracji zgodności UE, o której mowa w art. 47, i instrukcję obsługi oraz czy dostawca oraz - w stosownych przypadkach - importer tego systemu spełnili swoje obowiązki ustanowione w art. 16 lit. b) i c) oraz w art. 23 ust. 3. 2. W przypadku, gdy dystrybutor - na podstawie dostępnych mu informacji - uważa lub ma powód, aby uważać, że system AI wysokiego ryzyka nie jest zgodny z wymogami ustanowionymi w sekcji 2 niniejszego tytułu, nie udostępnia na rynku tego systemu AI wysokiego ryzyka, dopóki nie zostanie zapewniona zgodność systemu z tymi wymogami. Ponadto, jeżeli system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor informuje o tym stosownie do przypadku dostawcę lub importera systemu. 3. Dystrybutorzy zapewniają, aby w okresie, w którym ponoszą odpowiedzialność za system AI wysokiego ryzyka, warunki jego przechowywania lub transportu - stosownie do przypadku - nie zagrażały zgodności systemu z wymogami ustanowionymi w sekcji 2. 4. Dystrybutor, który uważa lub ma powód, aby - na podstawie dostępnych mu informacji - uważać, że system AI wysokiego ryzyka udostępniony przez niego na rynku jest niezgodny z wymogami ustanowionymi w sekcji 2, podejmuje działania naprawcze konieczne do zapewnienia zgodności tego systemu z tymi wymogami, wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. do wycofania go z rynku lub wycofania go z użytku lub zapewnia podjęcie takich działań naprawczych przez, stosownie do przypadku, dostawcę, importera lub odpowiedniego operatora. W przypadku gdy system AI wysokiego ryzyka stwarza ryzyko w rozumieniu art. 79 ust. 1, dystrybutor natychmiast informuje o tym dostawcę lub importera systemu oraz organy właściwe w zakresie przedmiotowego system AI wysokiego ryzyka, przekazując szczegółowe informacje w szczególności na temat niezgodności systemu z wymogami i wszelkich podjętych działań naprawczych. 5. Na uzasadniony wniosek odpowiedniego organu dystrybutorzy systemów AI wysokiego ryzyka przekazują temu organowi wszelkie informacje i dokumentację dotyczące ich działań zgodnie z ust. 1-4, niezbędne do wykazania zgodności tego systemu z wymogami określonymi w sekcji 2. 6. Dystrybutorzy współpracują z odpowiednimi organami krajowymi w zakresie wszelkich działań, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka udostępnionego na rynku przez dystrybutorów, w szczególności, aby zmniejszyć lub ograniczyć stwarzane przez ten system ryzyko. Art. 25 Odpowiedzialność w całym łańcuchu wartości AI 1. Do celów niniejszego rozporządzenia za dostawcę systemu AI wysokiego ryzyka uznaje się i obejmuje obowiązkami dostawcy ustanowionymi w art. 16 każdego dystrybutora, importera, podmiot stosujący lub N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia inną stronę trzecią, jeżeli zachodzi którakolwiek z następujących okoliczności: a) umieszczają oni swoją nazwę lub znak towarowy w systemie AI wysokiego ryzyka, który został już wprowadzony do obrotu lub oddany do użytku, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób; b) we wprowadzonym już do obrotu lub oddanym do użytku systemie AI wysokiego ryzyka dokonują oni istotnej zmiany w taki sposób, że pozostaje on systemem AI wysokiego ryzyka zgodnie z art. 6; c) zmieniają oni przeznaczenie systemu AI, w tym systemu AI ogólnego przeznaczenia, który nie został zaklasyfikowany jako system AI wysokiego ryzyka i który został już wprowadzony do obrotu lub oddany do użytku, w taki sposób, że dany system AI staje się systemem AI wysokiego ryzyka zgodnie z art. 6. 2. W przypadku zaistnienia okoliczności, o których mowa w ust. 1, dostawcy, który pierwotnie wprowadził do obrotu lub oddał do użytku ten system AI, nie uznaje się już do celów niniejszego rozporządzenia za dostawcę tego konkretnego systemu AI. Ten pierwotny dostawca ściśle współpracuje z nowymi dostawcami i udostępnia niezbędne informacje oraz udziela racjonalnie oczekiwanego dostępu technicznego i innego wsparcia niezbędnych do spełnienia obowiązków określonych w niniejszym rozporządzeniu, w szczególności w odniesieniu do zgodności z kryteriami oceny zgodności systemów AI wysokiego ryzyka. Niniejszego ustępu nie stosuje się w przypadkach, gdy pierwotny dostawca wyraźnie określił, że jego system AI nie może zostać zmieniony w system AI wysokiego ryzyka, a zatem nie dotyczy go obowiązek przekazania dokumentacji. 3. W przypadku systemów AI wysokiego ryzyka, które stanowią związane z bezpieczeństwem elementy produktów objętych zakresem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, producenta produktów uznaje się za dostawcę systemu AI wysokiego ryzyka i podlega on obowiązkom ustanowionym w art. 16, jeżeli zachodzi którakolwiek z następujących okoliczności: a) system AI wysokiego ryzyka jest wprowadzany do obrotu wraz z produktem pod nazwą lub znakiem towarowym producenta produktu; b) system AI wysokiego ryzyka jest oddawany do użytku pod nazwą lub znakiem towarowym producenta produktu po wprowadzeniu produktu do obrotu. 4. Dostawca systemu AI wysokiego ryzyka i osoba trzecia dostarczająca system AI, narzędzia, usługi, komponenty lub procesy, które są wykorzystywane w systemie AI wysokiego ryzyka lub z nim zintegrowane, wskazują, w drodze pisemnej umowy, informacje, zdolności, dostęp techniczny i innego rodzaju pomoc opartą na powszechnie uznanym stanie wiedzy technicznej wymagane, aby umożliwić dostawcy systemu AI wysokiego ryzyka pełne spełnienie obowiązków ustanowionych w niniejszym rozporządzeniu. Niniejszego ustępu nie stosuje się do osób trzecich udostępniających publicznie na podstawie bezpłatnej licencji otwartego oprogramowania narzędzia, usługi, procesy lub komponenty inne niż modele AI ogólnego przeznaczenia. Urząd ds. AI może opracować i zalecić dobrowolne wzorcowe postanowienia umowne dla umów zawieranych między dostawcami systemów AI wysokiego ryzyka a osobami trzecimi dostarczającymi narzędzia, usługi, komponenty lub procesy, które są wykorzystywane na potrzeby systemów AI wysokiego ryzyka lub zintegrowane z tymi systemami. Przy opracowywaniu dobrowolnych wzorcowych postanowień umownych, Urząd ds. AI bierze również pod uwagę ewentualne wymogi umowne mające zastosowanie w określonych sektorach lub przypadkach biznesowych. Dobrowolne wzorcowe postanowienia umowne są publikowane i udostępniane bezpłatnie w łatwym w użyciu formacie elektronicznym. 5. Ust. 2 i 3 pozostają bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej, poufnych informacji handlowych i tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 26 Obowiązki podmiotów stosujących systemy AI wysokiego ryzyka 1. Podmioty stosujące systemy AI wysokiego ryzyka podejmują - na podstawie ust. 3 i 6 - odpowiednie środki techniczne i organizacyjne w celu zapewnienia, aby systemy takie były wykorzystywane zgodnie z dołączoną do nich instrukcją obsługi. Art. 6 pkt 4 Art. 6. Do zadań Komisji należy: 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 2. Podmioty stosujące powierzają sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie. 3. Obowiązki ustanowione w ust. 1 i 2 pozostają bez uszczerbku dla innych obowiązków podmiotu stosującego wynikających z prawa Unii lub prawa krajowego oraz dla przysługującej podmiotowi stosującemu swobody organizowania swoich zasobów własnych i działań w celu wdrożenia wskazanych przez dostawcę środków nadzoru ze strony człowieka. 4. Bez uszczerbku dla ust. 1 i 2 podmiot stosujący zapewnia, w zakresie, w jakim sprawuje on kontrolę nad danymi wejściowymi, adekwatność i wystarczającą reprezentatywność danych wejściowych w odniesieniu do przeznaczenia systemu AI wysokiego ryzyka. 5. Podmioty stosujące monitorują działanie systemu AI wysokiego ryzyka w oparciu o instrukcję obsługi i w stosownych przypadkach informują dostawców zgodnie z art. 72. W przypadku gdy podmioty stosujące mają powody uważać, że wykorzystanie systemu AI wysokiego ryzyka zgodnie z instrukcją obsługi może powodować, że ten system AI będzie stwarzał ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki informują o tym dostawcę lub dystrybutora oraz odpowiedni organ nadzoru rynku i zawieszają wykorzystywanie systemu. W przypadku gdy podmioty stosujące stwierdziły wystąpienie poważnego incydentu, natychmiast informują o tym incydencie najpierw dostawcę, a następnie importera lub dystrybutora oraz odpowiednie T organy nadzoru rynku. Jeżeli podmiot stosujący nie jest w stanie skontaktować się z dostawcą, art. 73 stosuje się odpowiednio. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących systemy AI będących organami ścigania. W odniesieniu do podmiotów stosujących będących instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, obowiązek w zakresie monitorowania, o którym mowa w akapicie pierwszym, uznaje się za spełniony w przypadku zapewnienia zgodności z przepisami dotyczącymi uzgodnień, procedur i mechanizmów zarządzania wewnętrznego na podstawie odpowiednich przepisów dotyczących usług finansowych. 6. Podmioty stosujące systemy AI wysokiego ryzyka przechowują generowane automatycznie przez system AI wysokiego ryzyka rejestry zdarzeń - w zakresie, w jakim rejestry te znajdują się pod ich kontrolą - przez stosowny ze względu na przeznaczenie danego systemu AI wysokiego ryzyka okres, wynoszący co najmniej sześć miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowe, w szczególności prawo Unii dotyczące ochrony danych osobowych, nie stanowi inaczej. Podmioty stosujące będące instytucjami finansowymi, które podlegają wymogom dotyczącym ich systemu zarządzania wewnętrznego, uzgodnień lub procedur na podstawie przepisów prawa Unii dotyczących usług finansowych, prowadzą rejestry zdarzeń jako część dokumentacji prowadzonej na podstawie odpowiednich unijnych przepisów dotyczących usług finansowych. 7. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka w miejscu pracy podmioty stosujące będące pracodawcami informują przedstawicieli pracowników i pracowników, których to dotyczy, że będzie w stosunku do nich wykorzystywany system AI wysokiego ryzyka. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami ustanowionymi w prawie Unii i prawie krajowym oraz praktyką w zakresie informowania pracowników i ich przedstawicieli. 8. Podmioty stosujące systemy AI wysokiego ryzyka, będące publicznymi organami lub instytucjami, organami i jednostkami organizacyjnymi Unii, spełniają obowiązki rejestracji, o których mowa w art. 49. Jeżeli takie podmioty stosujące ustalą, że system AI wysokiego ryzyka, który zamierzają wykorzystywać, nie został zarejestrowany w bazie danych UE, o której mowa w art. 71, nie stosują tego systemu i informują o tym dostawcę lub dystrybutora. 9. W stosownych przypadkach, podmioty stosujące systemy AI wysokiego ryzyka korzystają z informacji przekazanych na podstawie art. 13 niniejszego rozporządzenia, aby spełnić spoczywając na nich obowiązki przeprowadzenia oceny skutków dla ochrony danych zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680. 10. Bez uszczerbku dla dyrektywy (UE) 2016/680, w ramach postępowania przygotowawczego dotyczącego ukierunkowanego poszukiwania osoby podejrzanej o popełnienie przestępstwa lub skazanej za popełnienie przestępstwa podmiot stosujący system AI wysokiego ryzyka do celów zdalnej identyfikacji biometrycznej post factum zwraca się - ex ante lub bez zbędnej zwłoki, nie później jednak niż w ciągu 48 godzin - do organu wymiaru sprawiedliwości lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wnioskiem o zezwolenie na wykorzystanie tego systemu, z wyjątkiem sytuacji, gdy jest on wykorzystywany do wstępnej identyfikacji potencjalnego podejrzanego w oparciu o obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z przestępstwem. Każde wykorzystanie takiego systemu musi być ograniczone do tego, co jest bezwzględnie konieczne do prowadzenia postępowań przygotowawczych w sprawie konkretnego przestępstwa. W przypadku gdy wniosek o zezwolenie, o którym mowa w akapicie pierwszym, zostanie odrzucony, korzystanie z systemu zdalnej identyfikacji biometrycznej post factum, będące przedmiotem wniosku o zezwolenie, zostaje wstrzymane ze skutkiem natychmiastowym, a dane osobowe związane z wykorzystaniem systemu AI wysokiego ryzyka, w odniesieniu do którego złożono wniosek o zezwolenie, zostają usunięte. W żadnym przypadku taki system AI wysokiego ryzyka służący do zdalnej identyfikacji biometrycznej post factum nie może być wykorzystywany do celów ścigania przestępstw w sposób nieukierunkowany, bez związku z przestępstwem, postępowaniem karnym, rzeczywistym i obecnym lub rzeczywistym i dającym się przewidzieć zagrożeniem popełnieniem przestępstwa lub poszukiwaniem konkretnej osoby zaginionej. Zapewnia się, aby organy ścigania mogły wydać żadnej decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników uzyskanych z systemu zdalnej identyfikacji biometrycznej post factum. Niniejszy ustęp pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 i art. 10 dyrektywy (UE) 2016/680 w odniesieniu do przetwarzania danych biometrycznych. Niezależnie od celu lub podmiotu stosującego każde wykorzystanie takich systemów AI wysokiego ryzyka musi zostać udokumentowane w odpowiednich aktach policyjnych i udostępnione na wniosek właściwego organu nadzoru rynku i krajowemu organowi ochrony danych, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Niniejszy akapit pozostaje bez uszczerbku dla uprawnień powierzonych organom nadzorczym dyrektywą (UE) 2016/680. Podmioty stosujące przedkładają właściwym organom nadzoru rynku i krajowym organom ochrony danych roczne sprawozdania dotyczące wykorzystania przez nie systemów zdalnej identyfikacji biometrycznej post factum, z wyłączeniem ujawniania wrażliwych danych operacyjnych związanych ze ściganiem przestępstw. Sprawozdania te mogą zostać zagregowane w celu uwzględnienia stosowania więcej niż jednego systemu. Państwa członkowskie mogą wprowadzić, zgodnie z prawem Unii, bardziej restrykcyjne przepisy dotyczące korzystania z systemów zdalnej identyfikacji biometrycznej post factum. 11. Bez uszczerbku dla art. 50 niniejszego rozporządzenia podmioty stosujące systemy wysokiego ryzyka, o których mowa w załączniku III, które to podmioty podejmują decyzje lub uczestniczą w podejmowaniu decyzji dotyczących osób fizycznych, informują osoby fizyczne o tym, że jest w stosunku do nich wykorzystywany system AI wysokiego ryzyka. W przypadku systemów AI wysokiego ryzyka wykorzystywanych do celów ścigania przestępstw stosuje się art. 13 dyrektywy (UE) 2016/680. 12. Podmioty stosujące współpracują z odpowiednimi właściwymi organami przy wszelkich działaniach, które organy te podejmują w odniesieniu do systemu AI wysokiego ryzyka, w celu wykonywania niniejszego rozporządzenia. Art. 27 Ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych 1. Przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów AI wysokiego ryzyka przeznaczonych do stosowania w obszarze wymienionym w załączniku III pkt 2, podmioty stosujące będące podmiotami prawa N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne, oraz podmioty stosujące systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 5 lit. b) i c), przeprowadzają ocenę skutków w zakresie praw podstawowych, jakie może wywołać wykorzystanie takiego systemu. W tym celu podmioty stosujące przeprowadzają ocenę obejmującą: a) opis procesów podmiotu stosującego, w których system AI wysokiego ryzyka będzie wykorzystywany zgodnie z jego przeznaczeniem; b) opis okresu, w którym każdy system AI wysokiego ryzyka ma być wykorzystywany i opis częstotliwości tego wykorzystywania; c) kategorie osób fizycznych i grup, na które może mieć wpływ wykorzystywanie systemu; d) szczególne ryzyko szkody, które może mieć wpływ na kategorie osób fizycznych lub grupy osób zidentyfikowane zgodnie z lit. c) niniejszego ustępu, z uwzględnieniem informacji przekazanych przez dostawcę zgodnie z art. 13; e) opis wdrożenia środków nadzoru ze strony człowieka, zgodnie z instrukcją obsługi; f) środki, jakie należy podjąć w przypadku urzeczywistnienia się tego ryzyka, w tym ustalenia dotyczące zarządzania wewnętrznego i mechanizmów rozpatrywania skarg. 2. Obowiązek ustanowiony w ust. 1 ma zastosowanie do wykorzystania systemu AI wysokiego ryzyka po raz pierwszy. W podobnych przypadkach podmiot stosujący może polegać na wcześniej przeprowadzonych ocenach skutków dla praw podstawowych lub na istniejących ocenach skutków przeprowadzonych przez dostawcę. Jeżeli w trakcie wykorzystania systemu AI wysokiego ryzyka podmiot stosujący uzna, że którykolwiek z elementów wymienionych w ust. 1 uległ zmianie lub nie jest już aktualny, podmiot ten podejmuje niezbędne kroki w celu aktualizacji informacji. 3. Po przeprowadzeniu oceny, o której mowa w ust. 1 niniejszego artykułu, podmiot stosujący powiadamia organ nadzoru rynku o jej wynikach, przedkładając jako element tego powiadomienia wypełniony wzór, o którym mowa w ust. 5 niniejszego artykułu. W przypadku, o którym mowa w art. 46 ust. 1, podmioty stosujące mogą zostać zwolnione z obowiązku dokonania powiadomienia. 4. Jeżeli którykolwiek z obowiązków ustanowionych w niniejszym artykule został już spełniony w wyniku oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, ocena skutków w zakresie praw podstawowych, o której mowa w ust. 1 niniejszego artykułu, stanowi uzupełnieniem tej oceny skutków dla ochrony danych. 5. Urząd ds. AI opracowuje wzór kwestionariusza, w tym za pomocą zautomatyzowanego narzędzia, aby ułatwić podmiotom stosującym spełnianie ich obowiązków wynikających z niniejszego artykułu w sposób uproszczony. Art. 28 Organy notyfikujące 1. Każde państwo członkowskie wyznacza lub ustanawia przynajmniej jeden organ notyfikujący odpowiedzialny za opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Procedury te są przygotowywane wspólnie przez organy notyfikujące wszystkich państw członkowskich. 2. Państwa członkowskie mogą zdecydować, że ocena oraz monitorowanie, o których mowa w ust. 1, są prowadzone przez krajową jednostkę akredytującą w rozumieniu rozporządzenia (WE) nr 765/2008 oraz zgodnie z tym rozporządzeniem. 3. Organy notyfikujące ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby nie dopuścić do wystąpienia konfliktu interesów z jednostkami oceniającymi zgodność i aby zapewnić obiektywny i bezstronny charakter ich działalności. 4. Działalność organów notyfikujących organizuje się w taki sposób, aby decyzje dotyczące notyfikacji jednostek oceniających zgodność podejmowały kompetentne osoby, które nie przeprowadzały oceny tych jednostek. 5. Organy notyfikujące nie mogą oferować ani podejmować żadnych działań realizowanych przez jednostki oceniające zgodność ani świadczyć żadnych usług doradztwa na zasadzie komercyjnej lub konkurencyjnej. T Art. 86 ust. 1 Art. 86. 1. Minister właściwy do spraw informatyzacji jest organem notyfikującym, o którym mowa w rozdziale III sekcja 4 rozporządzenia 2024/1689. Wskazanie organu właściwego do wykonywania zadań organu notyfikującego określonego w rozporządzeniu 6. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. 7. Organy notyfikujące muszą dysponować odpowiednią liczbą kompetentnych pracowników, aby należycie wykonywać powierzone im zadania. Kompetentni pracownicy muszą posiadać, w odpowiednich przypadkach, wiedzę fachową niezbędną do pełnienia ich funkcji w dziedzinach, takich jak technologie informacyjne, AI i prawo, w tym nadzór nad prawami podstawowymi. Art. 29 Wniosek jednostki oceniającej zgodność o notyfikację 1. Jednostki oceniające zgodność przekazują wniosek o notyfikację organowi notyfikującemu państwa członkowskiego, w którym znajduje się ich siedziba. 2. Do wniosku o notyfikację załącza się opis czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i rodzajów systemów AI, w odniesieniu do których jednostka oceniająca zgodność uważa się za kompetentną, a także wydany przez krajową jednostkę akredytującą certyfikat akredytacji (o ile takowy istnieje) poświadczający, że jednostka oceniająca zgodność spełnia wymogi ustanowione w art. 31. Do wniosku załącza się również wszelkie ważne dokumenty dotyczące obowiązującego wyznaczenia - na podstawie innego unijnego prawodawstwa harmonizacyjnego - występującej z wnioskiem jednostki notyfikowanej. T Art. 86 ust.2-4 Art. 87 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. 3. Organem właściwym do udzielenia autoryzacji w rozumieniu przepisu art. 27 ust. 1 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku jest minister właściwy do spraw informatyzacji. 4. Polskie Centrum Akredytacji: 1) wspiera ministra właściwego do spraw informatyzacji w pracach na rzecz Wskazanie podstawy prawnej do przeprowadzania notyfikacji jednostki. Odniesienie do konkretnego artykułu zapewnia przejrzystość ustawy. 3. Jeżeli dana jednostka oceniająca zgodność nie jest w stanie przedstawić certyfikatu akredytacji, przekazuje organowi notyfikującemu wszystkie dowody w postaci dokumentów niezbędne do zweryfikowania, potwierdzenia i regularnego monitorowania spełnienia przez tę jednostkę wymogów ustanowionych w art. 31. 4. W odniesieniu do jednostek notyfikowanych wyznaczonych na podstawie innego unijnego prawodawstwa harmonizacyjnego w stosownych przypadkach dopuszcza się możliwość wykorzystania wszelkich dokumentów i certyfikatów dotyczących takiego wyznaczenia w charakterze dowodów w toku procedury wyznaczania przeprowadzanej zgodnie z niniejszym rozporządzeniem. Jednostka notyfikowana aktualizuje dokumentację, o której mowa w ust. 2 i 3 niniejszego artykułu, w każdym przypadku, gdy wystąpią istotne zmiany, aby umożliwić organowi odpowiedzialnemu za jednostki notyfikowane monitorowanie i weryfikowanie, czy zapewniona jest ciągła zgodność ze wszystkimi wymogami ustanowionymi w art. 31. wspólnego opracowania przez organy notyfikujące państw członkowskich Unii Europejskiej procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność, o którym mowa w art. 28 ust. 1 rozporządzenia 2024/1689; 2) we współpracy z ministrem właściwym do spraw informatyzacji opracowuje szczegółowy program akredytacji jednostek oceniających zgodność oraz w miarę potrzeby aktualizację tego programu, uwzględniając wnioski z jego bieżącej realizacji; 3) przekazuje ministrowi właściwemu do spraw informatyzacji informację o: a) wnioskach jednostek oceniających zgodność o akredytację do celów notyfikacji w obszarze rozporządzenia 2024/1689, b) udzielonych akredytacjach w tym obszarze, c) zmianach zakresu akredytacji, d) zawieszonych akredytacjach, e) cofniętych akredytacjach - w terminie 14 dni od dnia podjęcia odpowiedniej decyzji. 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 87. 1. Jednostka oceniająca zgodność składa wniosek w sprawie notyfikacji jednostki oceniającej zgodność, o którym mowa w art. 86 ust. 2, w postaci elektronicznej do ministra właściwego do spraw informatyzacji. 2. Wniosek, o którym mowa w ust. 1, zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu wnioskodawcy, a także numeru identyfikacji REGON, jeżeli został nadany, numeru KRS, jeżeli został nadany, albo numeru identyfikacji podatkowej (NIP), jeżeli został nadany;; 2) określenie zakresu przedmiotowego wniosku; 3) datę wydania, okres ważności i numer akredytacji; 4) oznaczenie certyfikatu akredytacji, o ile został wydany. Art. 30 Procedura notyfikacyjna 1. Organy notyfikujące mogą dokonywać notyfikacji wyłącznie w odniesieniu do tych jednostek oceniających zgodność, które spełniają wymogi ustanowione w art. 31. 2. Organy notyfikujące dokonują notyfikacji Komisji i pozostałym państwom członkowskim za pomocą narzędzia do notyfikacji elektronicznej opracowanego i obsługiwanego przez Komisję, o każdej jednostce oceniającej zgodność, o której mowa w ust. 1. 3. Notyfikacja, o której mowa w ust. 2 niniejszego artykułu, zawiera wyczerpujące informacje na temat czynności z zakresu oceny zgodności, modułu lub modułów oceny zgodności i przedmiotowych rodzajów systemów AI oraz odpowiednie poświadczenie kompetencji. W przypadku gdy podstawą notyfikacji nie jest certyfikat akredytacji, o którym mowa w art. 29 ust. 2, organ notyfikujący przedkłada Komisji i pozostałym państwom członkowskim dowody w postaci dokumentów potwierdzające kompetencje jednostki oceniającej zgodność oraz wdrożone rozwiązania zapewniające regularne monitorowanie tej jednostki i nieustanne spełnianie przez nią wymagań ustanowionych w art. 31. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 4. Dana jednostka oceniająca zgodność może wykonywać czynności jednostki notyfikowanej tylko wówczas, gdy Komisja lub pozostałe państwa członkowskie nie zgłosiły sprzeciwu w terminie dwóch tygodni od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje certyfikat akredytacji, o którym mowa w art. 29 ust. 2, lub w terminie dwóch miesięcy od notyfikacji przez organ notyfikujący, w przypadku gdy notyfikacja ta obejmuje dowody w postaci dokumentów, o których mowa w art. 29 ust. 3. 5. W przypadku zgłoszenia sprzeciwu Komisja niezwłocznie przystępuje do konsultacji z odpowiednimi państwami członkowskimi i jednostką oceniającą zgodność. Na podstawie tych konsultacji Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiedniej jednostki oceniającej zgodność. Art. 31 Wymogi dotyczące jednostek notyfikowanych 1. Jednostkę notyfikowaną ustanawia się zgodnie z prawem krajowym danego państwa członkowskiego i ma ona osobowość prawną. 2. Jednostki notyfikowane muszą spełniać wymogi organizacyjne, wymogi w zakresie zarządzania jakością oraz wymogi dotyczące zasobów i procesów niezbędne do tego, aby mogły wykonywać powierzone im zadania, jak również odpowiednie wymogi w zakresie cyberbezpieczeństwa. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 3. Struktura organizacyjna jednostek notyfikowanych, podział obowiązków w tych jednostkach, obowiązująca w nich hierarchia służbowa oraz ich funkcjonowanie zapewniają, by działalność jednostek notyfikowanych oraz wyniki czynności z zakresu oceny zgodności prowadzonych przez te jednostki nie budziły żadnych wątpliwości. 4. Jednostki notyfikowane muszą być niezależne od dostawcy systemu AI wysokiego ryzyka, wobec którego podejmują czynności z zakresu oceny zgodności. Jednostki notyfikowane muszą być również niezależne od wszelkich innych operatorów, których interes gospodarczy wiąże się z systemami AI wysokiego ryzyka będącymi przedmiotem oceny, a także od wszelkich innych konkurentów dostawcy. Nie wyklucza to wykorzystania będących przedmiotem oceny systemów AI wysokiego ryzyka, które są niezbędne do prowadzenia działalności jednostki oceniającej zgodność, ani wykorzystania takich systemów AI wysokiego ryzyka do celów prywatnych. 5. Jednostka oceniająca zgodność, jej kierownictwo najwyższego szczebla ani pracownicy odpowiedzialni za realizację zadań związanych z oceną zgodności nie mogą być bezpośrednio zaangażowani w projektowanie, rozwój, sprzedaż ani wykorzystywanie systemów AI wysokiego ryzyka, nie mogą też reprezentować stron zaangażowanych w taką działalność. Nie angażują się oni w żadną działalność, która może zagrozić niezależności ich osądów i wiarygodności w związku z czynnościami z zakresu oceny zgodności, do której zostali notyfikowani. Dotyczy to w szczególności usług konsultingowych. 6. Jednostki notyfikowane organizuje się i zarządza się nimi w sposób gwarantujący niezależność, obiektywizm i bezstronność podejmowanych przez nie czynności. Jednostki notyfikowane dokumentują i wdrażają strukturę i procedury służące zagwarantowaniu ich bezstronności oraz propagowaniu i stosowaniu zasad bezstronności we wszystkich podejmowanych przez nie czynnościach organizacyjnych i kadrowych oraz we wszystkich ich czynnościach związanych z oceną. 7. Jednostki notyfikowane dysponują udokumentowanymi procedurami, które zapewniają zachowanie poufności informacji - zgodnie z art. 78 - przez ich personel, komitety, jednostki zależne, podwykonawców oraz wszelkie stowarzyszone z nimi jednostki lub pracowników podmiotów zewnętrznych, które to informacje znalazły się w ich posiadaniu w toku czynności z zakresu oceny zgodności, chyba że ujawnienie takich informacji jest wymagane na mocy obowiązującego prawa. Personel jednostek notyfikowanych pozostaje związany tajemnicą zawodową w kwestii wszystkich informacji pozyskiwanych w toku wykonywania zadań powierzonych mu zgodnie z niniejszym rozporządzeniem, jednak nie w stosunku do organów notyfikujących państwa członkowskiego, w którym jednostki notyfikowane podejmują czynności. 8. Jednostki notyfikowane dysponują procedurami prowadzenia czynności z uwzględnieniem rozmiaru dostawcy, sektora, w którym prowadzi on działalność, jego struktury oraz stopnia złożoności danego systemu AI. 9. Jednostki notyfikowane zawierają odpowiednie umowy ubezpieczenia od odpowiedzialności cywilnej w odniesieniu do podejmowanych przez siebie czynności z zakresu oceny zgodności, chyba że państwo członkowskie, w którym mają siedzibę, bierze na siebie odpowiedzialność z tego tytułu zgodnie z prawem krajowym lub bezpośrednia odpowiedzialność za ocenę zgodności spoczywa na danym państwie członkowskim. 10. Jednostki notyfikowane posiadają zdolność wykonywania wszystkich zadań wynikających z niniejszego rozporządzenia z zachowaniem najwyższego poziomu uczciwości zawodowej i wymaganych kompetencji w danej dziedzinie, niezależnie od tego, czy zadania te są wykonywane przez nie samodzielnie, czy też w ich imieniu i na ich odpowiedzialność. 11. Jednostki notyfikowane dysponują wystarczającymi kompetencjami wewnętrznymi pozwalającymi im skutecznie oceniać zadania wykonywane w ich imieniu przez podmioty zewnętrzne. Jednostka notyfikowana dysponuje stałą dostępnością wystarczającej liczby pracowników odpowiedzialnych za aspekty administracyjne, techniczne, prawne i naukowe dysponujących doświadczeniem i wiedzą w zakresie odnośnych rodzajów systemów AI, danych i metod przetwarzania danych oraz w zakresie wymogów ustanowionych w sekcji 2. 12. Jednostki notyfikowane biorą udział w działaniach koordynacyjnych, o których mowa w art. 38. Angażują się także w działalność europejskich organizacji normalizacyjnych bezpośrednio lub za pośrednictwem swoich przedstawicieli lub zapewniają, by same posiadały znajomość odpowiednich norm i dysponowały zawsze aktualną wiedzą na ich temat. Art. 32 Domniemanie zgodności z wymogami dotyczącymi jednostek notyfikowanych W przypadku gdy jednostka oceniająca zgodność wykaże swoją zgodność z kryteriami ustanowionymi w odpowiednich normach zharmonizowanych lub częściach tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełnia ona wymogi ustanowione w art. 31 w zakresie, w jakim mające zastosowanie normy zharmonizowane obejmują te wymogi. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 33 Jednostki zależne i podwykonawcy jednostek notyfikowanych 1. W przypadku, gdy jednostka notyfikowana zleca wykonywanie określonych zadań związanych z oceną zgodności podwykonawcy lub korzysta w tym celu z usług jednostki zależnej, zapewnia spełnienie przez podwykonawcę lub przez jednostkę zależną wymogów ustanowionych w art. 31 oraz informuje o tym organ notyfikujący. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Jednostki notyfikowane ponoszą pełną odpowiedzialność za zadania wykonywane przez podwykonawców lub jednostki zależne. 3. Zadania mogą być zlecane podwykonawcy lub wykonywane przez jednostkę zależną wyłącznie za zgodą dostawcy. Jednostki notyfikowane podają do wiadomości publicznej wykaz swoich jednostek zależnych. 4. Odpowiednie dokumenty dotyczące oceny kwalifikacji podwykonawcy lub jednostki zależnej oraz prac wykonywanych przez nich na podstawie niniejszego rozporządzenia przechowuje się do dyspozycji organu notyfikującego przez okres 5 lat od dnia zakończenia podwykonawstwa. Art. 34 Obowiązki operacyjne jednostek notyfikowanych 1. Jednostki notyfikowane weryfikują zgodność systemów AI wysokiego ryzyka zgodnie z procedurami oceny zgodności określonymi w art. 43. 2. Jednostki notyfikowane unikają niepotrzebnych obciążeń dla dostawców podczas wykonywania swoich czynności oraz należycie uwzględniają rozmiar dostawcy, sektor, w którym prowadzi on działalność, jego strukturę oraz stopień złożoności danego systemu AI wysokiego ryzyka, w szczególności w celu zminimalizowania obciążeń administracyjnych i kosztów zapewnienia zgodności dla mikroprzedsiębiorstw i małych przedsiębiorstw w rozumieniu zalecenia 2003/361/WE. Jednostka notyfikowana przestrzega jednak rygoryzmu i poziomu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ochrony wymaganych do zapewnienia zgodności danego systemu AI wysokiego ryzyka z wymogami niniejszego rozporządzenia. 3. Na wniosek organu notyfikującego, o którym mowa w art. 28, jednostki notyfikowane udostępniają i przekazują temu organowi wszystkie stosowne dokumenty, uwzględniając dokumentację dostawców, aby umożliwić temu organowi przeprowadzenie czynności w zakresie oceny, wyznaczania, notyfikacji i monitorowania oraz aby ułatwić mu przeprowadzenie oceny opisanej w niniejszej sekcji. Art. 35 Numery identyfikacyjne i wykazy jednostek notyfikowanych 1. Komisja przydziela każdej jednostce notyfikowanej jeden numer identyfikacyjny, nawet jeżeli jednostkę tę notyfikowano na podstawie kilku aktów Unii. 2. Komisja podaje do wiadomości publicznej wykaz jednostek notyfikowanych na podstawie niniejszego rozporządzenia, łącznie z ich numerami identyfikacyjnymi oraz informacją na temat czynności będących przedmiotem notyfikacji. Komisja zapewnia aktualność tego wykazu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 36 Zmiany w notyfikacjach 1. Organ notyfikujący powiadamia Komisję i pozostałe państwa członkowskie za pomocą systemu notyfikacji elektronicznej, o którym mowa w art. 30 ust. 2, o T Art. 86 ust. 2 i 5 oraz Art. 89 Art. 86. 2. Organ notyfikujący dokonuje notyfikacji jednostki oceniającej zgodność na jej wniosek i na zasadach określonych w art. 29 oraz art. 30 rozporządzenia 2024/1689 oraz w wszelkich istotnych zmianach w notyfikacji danej jednostki notyfikowanej. 2. Procedury ustanowione w art. 29 i 30 stosuje się do rozszerzenia zakresu notyfikacji. W przypadku zmian w notyfikacji innych niż rozszerzenie jej zakresu stosuje się procedury ustanowione w ust. 3-9. 3. W przypadku, gdy jednostka notyfikowana podejmie decyzję o zaprzestaniu prowadzenia czynności z zakresu oceny zgodności, jak najszybciej informuje o tym organ notyfikujący i zainteresowanych dostawców, a w przypadku planowanego zaprzestania działalności - na co najmniej rok przed zaprzestaniem działalności. Certyfikaty wydane przez jednostkę notyfikowaną mogą pozostać ważne przez okres dziewięciu miesięcy po zaprzestaniu działalności jednostki notyfikowanej, pod warunkiem, że inna jednostka notyfikowana potwierdzi na piśmie, że przejmie odpowiedzialność za objęte tymi certyfikatami systemy AI wysokiego ryzyka. Przed upływem tego okresu dziewięciu miesięcy ta inna jednostka notyfikowana przeprowadza pełną ocenę odnośnych systemów AI wysokiego ryzyka, zanim wyda nowe certyfikaty dla tych systemów. W przypadku gdy jednostka notyfikowana zaprzestała działalności, organ notyfikujący cofa jej wyznaczenie. 4. W przypadku, gdy organ notyfikujący ma wystarczające powody, by uważać, że jednostka notyfikowana przestała spełniać wymogi określone w art. 31 lub nie spełnia swoich obowiązków, organ notyfikujący niezwłocznie wszczyna postępowanie ustawie z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. (...) 5. Do akredytacji, autoryzacji i notyfikacji jednostek uczestniczących w procesie oceny zgodności systemów, o których mowa w rozporządzeniu 2024/1689, stosuje się odpowiednio przepisy rozdziałów 4 i 5 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. wyjaśniające w tej sprawie z zachowaniem największej staranności. W takim przypadku organ notyfikujący informuje daną jednostkę notyfikowaną o zgłoszonym sprzeciwu i zapewnia jej możliwość ustosunkowania się do tego sprzeciwu. Jeżeli organ notyfikujący dojdzie do wniosku, że jednostka notyfikowana przestała spełniać wymogi ustanowione w art. 31 lub nie spełnia swoich obowiązków, organ ten, stosownie do przypadku, ogranicza, zawiesza lub cofa wyznaczenie, w zależności od powagi niespełnienia tych wymogów lub tych obowiązków. Informuje on o tym natychmiast Komisję i pozostałe państwa członkowskie. 5. W przypadku, gdy wyznaczenie zostało zawieszone, ograniczone lub całkowicie lub częściowo cofnięte, jednostka notyfikowana informuje o tym zainteresowanych dostawców w terminie 10 dni. 6. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący podejmuje odpowiednie kroki w celu zapewnienia, by zachowana została dokumentacja danej jednostki notyfikowanej i była ona udostępniana organom notyfikującym w pozostałych państwach członkowskich oraz organom nadzoru rynku na ich wniosek. 7. W przypadku ograniczenia, zawieszenia lub cofnięcia wyznaczenia organ notyfikujący: a) ocenia skutki dla certyfikatów wydanych przez daną jednostkę notyfikowaną; b) przedkłada Komisji i pozostałym państwom członkowskim sprawozdanie ze swoich ustaleń w terminie trzech miesięcy od powiadomienia o zmianach w wyznaczeniu; c) zwraca się do jednostki notyfikowanej z żądaniem, by w celu zapewnienia ciągłości zgodności systemów AI wysokiego ryzyka na rynku zawiesiła lub cofnęła, w rozsądnym terminie ustalonym przez ten organ, wszelkie certyfikaty, które zostały nienależnie wydane; d) informuje Komisję i państwa członkowskie o certyfikatach, których zawieszenia lub cofnięcia zażądał; e) przekazuje właściwym organom krajowym państwa członkowskiego, w którym dostawca ma zarejestrowane miejsce prowadzenia działalności, wszelkie istotne informacje na temat certyfikatów, których zawieszenia lub cofnięcia zażądał; organy te podejmują w stosownych przypadkach odpowiednie środki w celu uniknięcia potencjalnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych. 8. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało zawieszone lub ograniczone, certyfikaty pozostają ważne, jeżeli zachodzi którakolwiek z następujących okoliczności: a) organ notyfikujący potwierdził, w terminie jednego miesiąca od zawieszenia lub ograniczenia, że w odniesieniu do certyfikatów, których dotyczy zawieszenie lub ograniczenie, nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych i określił czas działań służących temu, by znieść zawieszenie lub ograniczenie; lub b) organ notyfikujący potwierdził, że w czasie trwania zawieszenia lub ograniczenia nie będą wydawane, zmieniane ani wydawane ponownie żadne certyfikaty powiązane z danym zawieszeniem, oraz stwierdza, czy dana jednostka notyfikowana jest zdolna do dalszego monitorowania i bycia odpowiedzialną za wydane już certyfikaty obowiązujące w okresie pokrywającym się z tym zawieszeniem lub ograniczeniem; w przypadku gdy organ notyfikujący ustali, że jednostka notyfikowana nie posiada zdolności do obsługi wydanych certyfikatów, dostawca systemu objętego danym certyfikatem - w terminie trzech miesięcy od zawieszenia lub ograniczenia - przekazuje właściwym organom krajowym w państwie członkowskim, w którym ma zarejestrowane miejsce prowadzenia działalności, potwierdzenie na piśmie, że inna wykwalifikowana jednostka notyfikowana tymczasowo przejmuje funkcje jednostki notyfikowanej w zakresie monitorowania certyfikatów i pozostanie ona odpowiedzialna za te certyfikaty w okresie zawieszenia lub ograniczenia wyznaczenia. 9. Z wyjątkiem certyfikatów nienależnie wydanych, w przypadkach, w których wyznaczenie zostało cofnięte, certyfikaty pozostają ważne przez okres dziewięciu miesięcy w następujących okolicznościach: a) właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu AI wysokiego ryzyka objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, potwierdził, że nie występuje ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych związane z danymi systemami AI wysokiego ryzyka; oraz b) inna jednostka notyfikowana potwierdziła na piśmie, że przejmie bezpośrednią odpowiedzialność za te systemy AI i zakończy swoją ocenę w terminie dwunastu miesięcy od cofnięcia wyznaczenia. W okolicznościach, o których mowa w akapicie pierwszym, właściwy organ krajowy w państwie członkowskim, w którym dostawca systemu objętego certyfikatem ma zarejestrowane miejsce prowadzenia działalności, może przedłużyć tymczasową ważność tych certyfikatów o dodatkowe trzymiesięczne okresy, które łącznie nie mogą przekraczać dwunastu miesięcy. Właściwy organ krajowy lub jednostka notyfikowana przejmująca funkcje jednostki notyfikowanej, której dotyczy zmiana wyznaczenia, natychmiast powiadamiają o tym Komisję, pozostałe państwa członkowskie i pozostałe jednostki notyfikowane. Art. 37 Kwestionowanie kompetencji jednostek notyfikowanych 1. W razie konieczności Komisja przeprowadza postępowanie wyjaśniające dotyczące wszystkich przypadków, w których ma podstawy, by wątpić w kompetencje jednostki notyfikowanej lub w ciągłość spełniania przez jednostkę notyfikowaną wymogów N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia ustanowionych w art. 31 oraz wypełnianie mających zastosowanie obowiązków. 2. Organ notyfikujący przekazuje Komisji, na wniosek, wszystkie istotne informacje dotyczące notyfikacji lub utrzymania kompetencji przez daną jednostkę notyfikowaną. 3. Komisja zapewnia zgodnie z art. 78 poufność wszystkich informacji wrażliwych uzyskanych w toku postępowań wyjaśniających prowadzonych zgodnie z niniejszym artykułem. 4. W przypadku gdy Komisja stwierdzi, że jednostka notyfikowana nie spełnia wymogów notyfikacji lub przestała je spełniać, informuje o tym notyfikujące państwo członkowskie i zwraca się do niego o podjęcie koniecznych środków naprawczych, włącznie z zawieszeniem lub cofnięciem notyfikacji, jeżeli zachodzi taka potrzeba. W przypadku niepodjęcia przez państwo członkowskie koniecznych środków naprawczych Komisja może w drodze aktu wykonawczego zawiesić, ograniczyć lub cofnąć wyznaczenie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 38 Koordynacja jednostek notyfikowanych 1. Komisja zapewnia - w odniesieniu do systemów AI wysokiego ryzyka - wprowadzenie i właściwy przebieg odpowiedniej koordynacji i współpracy w formie sektorowej grupy jednostek notyfikowanych jednostek notyfikowanych prowadzących działalność w zakresie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia procedur oceny zgodności zgodnie z niniejszym rozporządzeniem. 2. Każdy organ notyfikujący zapewnia, aby notyfikowane przez niego jednostki uczestniczyły bezpośrednio lub za pośrednictwem wyznaczonych przedstawicieli w pracach grupy, o której mowa w ust. 1. 3. Komisja jest zobowiązana zapewnić wymianę wiedzy i najlepszych praktyk między organami notyfikującymi. Art. 39 Jednostki oceniające zgodność z państw trzecich Jednostki oceniające zgodność ustanowione na mocy prawa państwa trzeciego, z którym Unia zawarła umowę, mogą być upoważnione do wykonywania czynności jednostek notyfikowanych zgodnie z niniejszym rozporządzeniem, pod warunkiem, że spełniają wymogi ustanowione w art. 31 lub zapewniają równoważny poziom zgodności. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 40 Normy zharmonizowane i dokumenty normalizacyjne 1. W przypadku systemów AI wysokiego ryzyka oraz systemów AI ogólnego przeznaczenia spełniających normy zharmonizowane lub części tych norm, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej zgodnie z rozporządzeniem (UE) nr 1025/2012, domniemuje się, że spełniają one wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, obowiązki ustanowione w rozdziale V sekcja 2 i 3 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia niniejszego rozporządzenia, w zakresie, w jakim normy te obejmują te wymogi lub obowiązki. 2. Zgodnie z art. 10 rozporządzenia (UE) nr 1025/2012 Komisja wydaje bez zbędnej zwłoki wnioski o normalizację obejmujące wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału oraz w stosownych przypadkach, wnioski o normalizację obejmujące obowiązki ustanowione w rozdziale V sekcja 2 i 3 niniejszego rozporządzenia. We wniosku o normalizację zwraca się również o przedstawienie wyników sprawozdawczości i procesów dokumentowania w celu poprawy skuteczności działania zasobów systemów AI, takich jak zmniejszenie zużycia energii i innych zasobów przez system AI wysokiego ryzyka w jego cyklu życia, oraz wyników dotyczących efektywnego energetycznie rozwoju modeli AI ogólnego przeznaczenia. Przygotowując wniosek o normalizację, Komisja konsultuje się z Radą ds. AI i odpowiednimi zainteresowanymi stronami, w tym z forum doradczym. Wydając wniosek o normalizację do europejskich organizacji normalizacyjnych, Komisja określa, że normy muszą być jasne, spójne, w tym z normami opracowanymi w poszczególnych sektorach dla produktów objętych zakresem stosowania obowiązującego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I, i mieć na celu zapewnienie, by systemy AI wysokiego ryzyka lub modele AI ogólnego przeznaczenia wprowadzane do obrotu lub oddawane do użytku w Unii spełniały odpowiednie wymogi lub obowiązki ustanowione w niniejszym rozporządzeniu. Komisja zwraca się do europejskich organizacji normalizacyjnych o przedstawienie dowodów, że dokładają wszelkich starań, aby osiągnąć cele, o których mowa w akapicie pierwszym i drugim niniejszego ustępu, zgodnie z art. 24 rozporządzenia (UE) nr 1025/2012. 3. Uczestnicy procesu normalizacji dążą do promowania inwestycji i innowacji w dziedzinie AI, w tym poprzez zwiększenie pewności prawa, a także konkurencyjności i wzrostu rynku Unii, do przyczynienia się do wzmocnienia globalnej współpracy w zakresie normalizacji, z uwzględnieniem istniejących w dziedzinie AI norm międzynarodowych zgodnych z wartościami Unii, prawami podstawowymi i interesem Unii, a także do poprawy zarządzania wielostronnego, zapewniając wyważoną reprezentację interesów i skuteczny udział wszystkich odpowiednich zainteresowanych stron zgodnie z art. 5, 6 i 7 rozporządzenia (UE) nr 1025/2012. Art. 41 Wspólne specyfikacje 1. Komisja może przyjmować akty wykonawcze ustanawiające wspólne specyfikacje w odniesieniu do wymogów ustanowionych w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, obowiązków ustanowionych w rozdziale V sekcja 2 i 3, w przypadku, gdy spełnione są następujące warunki: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) Komisja wystąpiła zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012 do jednej lub kilku europejskich organizacji normalizacyjnych z wnioskiem o opracowanie normy zharmonizowanej w odniesieniu do wymogów określonych w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, w odniesieniu do obowiązków ustanowionych w rozdziale V sekcja 2 i 3, oraz: (i) wniosek ten nie został przyjęty przez żadną z europejskich organizacji normalizacyjnych; lub (ii) normy zharmonizowane stanowiące odpowiedź na ten wniosek nie zostały wydane w terminie określonym zgodnie z art. 10 ust. 1 rozporządzenia (UE) nr 1025/2012; lub (iii) odpowiednie normy zharmonizowane w niewystarczającym stopniu uwzględniają obawy dotyczące praw podstawowych; lub (iv) normy zharmonizowane nie są zgodne z wnioskiem; oraz b) w Dzienniku Urzędowym Unii Europejskiej nie opublikowano odniesienia do zharmonizowanych norm obejmujących wymogi, o których mowa w sekcji 2 niniejszego rozdziału, lub w stosownych przypadkach, obowiązki, o których mowa w rozdziale V sekcja 2 i 3, zgodnie z przepisami rozporządzenia (UE) nr 1025/2012 i nie przewiduje się opublikowania takiego odniesienia w rozsądnym terminie. Przygotowując projekt wspólnych specyfikacji, Komisja konsultuje się z forum doradczym, o którym mowa w art. 67. Akty wykonawcze, o których mowa w akapicie pierwszym niniejszego ustępu, przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Przed przygotowaniem projektu aktu wykonawczego Komisja informuje komitet, o którym mowa w art. 22 rozporządzenia (UE) nr 1025/2012, że uważa za spełnione warunki ustanowione w ust. 1 niniejszego artykułu. 3. W przypadku systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia zgodnych ze wspólnymi specyfikacjami, o których mowa w ust. 1, lub z częściami tych specyfikacji domniemuje się, że są one zgodne z wymogami ustanowionymi w sekcji 2 niniejszego rozdziału lub w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, w zakresie, w jakim te wspólne specyfikacje obejmują te wymogi i te obowiązki. 4. W przypadku, gdy europejska organizacja normalizacyjna przyjmuje normę zharmonizowaną i proponuje Komisji opublikowanie odniesienia do niej w Dzienniku Urzędowym Unii Europejskiej, Komisja ocenia normę zharmonizowaną zgodnie z rozporządzeniem (UE) nr 1025/2012. W przypadku opublikowania odniesienia do normy zharmonizowanej w Dzienniku Urzędowym Unii Europejskiej Komisja uchyla akty wykonawcze, o których mowa w ust. 1, lub ich części, które obejmują te same wymogi ustanowione w sekcji 2 niniejszego rozdziału lub, w stosownych przypadkach, te same obowiązki ustanowione w rozdziale V sekcja 2 i 3. 5. W przypadku gdy dostawcy systemów AI wysokiego ryzyka lub modeli AI ogólnego przeznaczenia nie zapewnią zgodności ze wspólnymi specyfikacjami, o których mowa w ust. 1, należycie wykazują oni, że przyjęli rozwiązania techniczne, które są zgodne z wymogami, o których mowa w rozdziale I sekcja 2, lub, w stosownych przypadkach, spełniają obowiązki ustanowione w rozdziale V sekcja 2 i 3, na poziomie co najmniej równoważnym tym wspólnym specyfikacjom. 6. W przypadku, gdy państwo członkowskie uważa, że wspólna specyfikacja nie jest całkowicie zgodna z wymogami ustanowionymi w sekcji 2 lub w stosownych przypadkach, nie spełnia całkowicie obowiązków ustanowionych w rozdziale V sekcja 2 i 3, informuje o tym Komisję, przedstawiając szczegółowe wyjaśnienie. Komisja ocenia te informacje i w stosownym przypadku zmienia akt wykonawczy ustanawiający daną wspólną specyfikację. Art. 42 Domniemanie zgodności z określonymi wymogami 1. W przypadku systemów AI wysokiego ryzyka, które zostały wytrenowane i przetestowane przy użyciu danych odzwierciedlających określone otoczenie geograficzne, behawioralne, kontekstualne lub funkcjonalne, do wykorzystywania, w którym są one przeznaczone, domniemuje się, że spełniają one odpowiednie wymogi ustanowione w art. 10 ust. 4. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W przypadku systemów AI wysokiego ryzyka, które uzyskały certyfikację lub w odniesieniu do których wydano deklarację zgodności w ramach programu certyfikacji cyberbezpieczeństwa zgodnie z rozporządzeniem (UE) 2019/881 i do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej, domniemuje się, że spełniają one wymogi w zakresie cyberbezpieczeństwa ustanowione w art. 15 niniejszego rozporządzenia w zakresie, w jakim certyfikat cyberbezpieczeństwa lub deklaracja zgodności lub ich części obejmują te wymogi. Art. 43 Ocena zgodności 1. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1, w przypadku, gdy do wykazania zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 dostawca zastosował normy zharmonizowane, o których mowa w art. 40, lub w stosownych przypadkach, wspólne specyfikacje, o których mowa w art. 41, dostawca wybiera jedną z następujących procedur oceny zgodności w oparciu o: a) kontrolę wewnętrzną, o której mowa w załączniku VI; lub b) ocenę systemu zarządzania jakością i ocenę dokumentacji technicznej przeprowadzaną z udziałem jednostki notyfikowanej, o której to procedurze mowa w załączniku VII. Przy wykazywaniu zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2 N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia dostawca postępuje zgodnie z procedurą oceny zgodności ustanowioną w załączniku VII, w przypadku, gdy: a) normy zharmonizowane, o których mowa w art. 40, nie istnieją, a wspólne specyfikacje, o których mowa w art. 41, nie są dostępne; b) dostawca nie zastosował normy zharmonizowanej lub zastosował jedynie jej część; c) wspólne specyfikacje, o których mowa w lit. a), istnieją, ale dostawca ich nie zastosował; d) co najmniej jedna z norm zharmonizowanych, o których mowa w lit. a), została opublikowana z ograniczeniem i jedynie w odniesieniu do tej części normy, której dotyczy ograniczenie. Na potrzeby procedury oceny zgodności, o której mowa w załączniku VII, dostawca może wybrać dowolną jednostkę notyfikowaną. Jednak w przypadku, gdy system ma zostać oddany do użytku przez organy ścigania, organy imigracyjne lub organy azylowe lub przez instytucje, organy i jednostki organizacyjne Unii, funkcję jednostki notyfikowanej pełni organ nadzoru rynku, o którym mowa odpowiednio w art. 74 ust. 8 lub ust. 9. 2. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, dostawcy postępują zgodnie z procedurą oceny zgodności opierającą się na kontroli wewnętrznej, o której mowa w załączniku VI i która nie przewiduje udziału jednostki notyfikowanej. 3. W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, dostawca postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie tych aktów prawnych. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie mają również przepisy załącznika VII pkt 4.3, pkt 4.4, pkt 4.5 i pkt 4.6 akapit piąty. Na potrzeby tej oceny jednostki notyfikowane, które notyfikowano zgodnie z tymi aktami prawnymi, są uprawnione do przeprowadzania kontroli zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w tych aktach prawnych. W przypadku gdy akt prawny wymieniony w załączniku I sekcja A zapewnia producentowi produktu możliwość zrezygnowania z oceny zgodności przeprowadzanej przez stronę trzecią, pod warunkiem że producent ten zapewnił zgodność ze wszystkimi normami zharmonizowanymi obejmującymi wszystkie stosowne wymogi, taki producent może skorzystać z tej możliwości wyłącznie w przypadku, gdy zapewnił również zgodność z normami zharmonizowanymi lub - w stosownych przypadkach - wspólnymi specyfikacjami, o których mowa w art. 41, obejmującymi wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału. 4. Systemy AI wysokiego ryzyka, które poddano już procedurze oceny zgodności, poddaje się nowej procedurze oceny zgodności w przypadku, gdy wprowadza się w nich istotne zmiany, niezależnie od tego, czy zmieniony system jest przeznaczony do dalszej dystrybucji lub czy ma być nadal wykorzystywany przez obecny podmiot stosujący. W przypadku systemów AI wysokiego ryzyka, które nadal uczą się po wprowadzeniu ich do obrotu lub po oddaniu ich do użytku, istotnej zmiany nie stanowią zmiany w systemie AI wysokiego ryzyka i jego skuteczności działania, które dostawca z góry zaplanował w chwili przeprowadzania początkowej oceny zgodności i które są częścią informacji zawartych w dokumentacji technicznej, o której mowa w pkt 2 lit. f) załącznika IV. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załączników VI i VII poprzez ich zmianę w świetle postępu technicznego. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany ust. 1 i 2 niniejszego artykułu, aby objąć systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2-8, procedurą oceny zgodności, o której mowa w załączniku VII, lub elementami tej procedury. Komisja przyjmuje takie akty delegowane, biorąc pod uwagę skuteczność procedury oceny zgodności opierającej się na kontroli wewnętrznej, o której mowa w załączniku VI, w zapobieganiu ryzyku dla zdrowia i bezpieczeństwa oraz ryzyku związanemu z ochroną praw podstawowych stwarzanemu przez takie systemy lub minimalizowaniu takiego ryzyka, a także uwzględniając dostępność odpowiednich zdolności i zasobów wśród jednostek notyfikowanych. Art. 44 Certyfikaty 1. Certyfikaty wydane przez jednostki notyfikowane zgodnie z załącznikiem VII są sporządzane w języku łatwo zrozumiałym dla odpowiednich organów w państwie członkowskim, w którym jednostka notyfikowana ma siedzibę. 2. Certyfikaty zachowują ważność przez wskazany w nich okres, który nie może przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III. Na wniosek dostawcy ważność certyfikatu można przedłużyć na kolejne okresy, które nie mogą każdorazowo przekraczać pięciu lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika I oraz czterech lat - w odniesieniu do systemów AI objętych zakresem stosowania załącznika III, w oparciu o wyniki ponownej oceny przeprowadzonej zgodnie z mającymi zastosowanie procedurami oceny zgodności. Wszelkie T Art. 89 Art. 89. W zakresie spraw, o których mowa w niniejszym rozdziale, w sprawach nieuregulowanych przepisami rozporządzenia 2024/1689 i ustawą stosuje się przepisy ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku. Uzasadnione odniesienie wynikające z obowiązków nałożonych na organ notyfikacyjny. uzupełnienia do certyfikatu pozostają ważne, pod warunkiem, że uzupełniany certyfikat jest ważny. 3. Jeżeli jednostka notyfikowana ustali, że system AI przestał spełniać wymogi ustanowione w sekcji 2, zawiesza lub cofa wydany certyfikat lub nakłada na niego ograniczenia, biorąc pod uwagę zasadę proporcjonalności, chyba że dostawca systemu zapewni zgodność z tymi wymogami poprzez podjęcie odpowiedniego działania naprawczego w stosownym terminie wyznaczonym przez jednostkę notyfikowaną. Jednostka notyfikowana uzasadnia swoją decyzję. Od decyzji jednostek notyfikowanych, w tym dotyczących wydanych certyfikatów zgodności, przysługuje odwołanie. Art. 45 Obowiązki jednostek notyfikowanych w zakresie informowania 1. Jednostki notyfikowane informują organ notyfikujący: a) o unijnych certyfikatach oceny dokumentacji technicznej, uzupełnieniach tych certyfikatów i decyzjach zatwierdzających system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; b) o odmowie wydania, ograniczeniu, zawieszeniu lub cofnięciu unijnego certyfikatu oceny dokumentacji technicznej lub decyzji zatwierdzającej system zarządzania jakością wydanych zgodnie z wymogami załącznika VII; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) o okolicznościach wpływających na zakres lub warunki notyfikacji; d) o wystąpieniu przez organy nadzoru rynku z wnioskiem udzielenia informacji o czynnościach z zakresu oceny zgodności; e) na wniosek, o czynnościach z zakresu oceny zgodności objętych zakresem ich notyfikacji oraz o wszelkiej innej prowadzonej działalności, w tym działalności transgranicznej i podwykonawstwie. 2. Każda jednostka notyfikowana informuje pozostałe jednostki notyfikowane o: a) decyzjach zatwierdzających system zarządzania jakością, których wydania odmówiła, które zawiesiła lub które cofnęła, oraz - na wniosek - o wydanych przez siebie decyzjach zatwierdzających system zarządzania jakością; b) unijnych certyfikatach oceny dokumentacji technicznej lub o wszelkich uzupełnieniach tych certyfikatów, których wydania odmówiła, które cofnęła, które zawiesiła lub na które nałożyła innego rodzaju ograniczenia, oraz - na wniosek - o wydanych przez siebie certyfikatach lub uzupełnieniach certyfikatów. 3. Każda jednostka notyfikowana przekazuje pozostałym jednostkom notyfikowanym prowadzącym podobne czynności z zakresu oceny zgodności w odniesieniu do tych samych rodzajów systemów AI stosowne informacje na temat kwestii związanych z negatywnymi, a także - na ich wniosek - pozytywnymi wynikami oceny zgodności. 4. Organy notyfikujące zapewniają poufność otrzymywanych informacji zgodnie z art. 78. Art. 46 Odstępstwo od procedury oceny zgodności 1. Na zasadzie odstępstwa od art. 43 i na należycie uzasadniony wniosek organ nadzoru rynku może wydać zezwolenie na wprowadzenie do obrotu lub oddanie do użytku konkretnych systemów AI wysokiego ryzyka na terytorium danego państwa członkowskiego w związku z wystąpieniem nadzwyczajnych względów dotyczących bezpieczeństwa publicznego lub ochrony zdrowia i życia osób, ochrony środowiska lub ochrony kluczowych aktywów przemysłowych i infrastrukturalnych. Zezwolenie to wydaje się tymczasowo na okres przeprowadzenia niezbędnych procedur oceny zgodności, uwzględniając nadzwyczajne względy uzasadniające przedmiotowe odstępstwo. Dokłada się starań, aby procedury te ukończono bez zbędnej zwłoki. 2. W należycie uzasadnionych pilnych przypadkach w związku z wystąpieniem nadzwyczajnych względów bezpieczeństwa publicznego lub w przypadku konkretnego, istotnego i bezpośredniego zagrożenia życia lub bezpieczeństwa fizycznego osób fizycznych, organy ścigania lub organy ochrony ludności mogą oddać do użytku określony system AI wysokiego ryzyka bez zezwolenia, o którym mowa w ust. 1, pod warunkiem że wniosek o takie zezwolenie zostanie bez T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. zbędnej zwłoki złożony w trakcie wykorzystywania tego systemu lub tuż po nim. W przypadku odmowy wydania zezwolenia, o którym mowa w ust. 1, wykorzystywanie tego systemu AI wysokiego ryzyka wstrzymuje się ze skutkiem natychmiastowym, a wszystkie rezultaty i wyniki tego wykorzystania muszą zostać natychmiast odrzucone. 3. Zezwolenie, o którym mowa w ust. 1, wydaje się wyłącznie wówczas, gdy organ nadzoru rynku stwierdzi, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w sekcji 2. Organ nadzoru rynku informuje Komisję i pozostałe państwa członkowskie o zezwoleniach wydanych zgodnie z ust. 1 i 2. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych dotyczących działań organów ścigania. 4. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, ani żadne państwo członkowskie, ani Komisja nie zgłoszą sprzeciwu dotyczącego zezwolenia wydanego przez organ nadzoru rynku państwa członkowskiego zgodnie z ust. 1, takie zezwolenie uznaje się za uzasadnione. 5. Jeżeli w terminie 15 dni kalendarzowych od dnia otrzymania informacji, o której mowa w ust. 3, państwo członkowskie zgłosi sprzeciw dotyczący zezwolenia wydanego przez organ nadzoru rynku innego państwa członkowskiego lub w przypadku, gdy Komisja uzna zezwolenie za sprzeczne z prawem Unii lub uzna za bezpodstawne dokonane przez państwo członkowskie stwierdzenie zgodności systemu, o czym mowa w ust. 3, Komisja niezwłocznie przystępuje do konsultacji z odpowiednim państwem członkowskim. W takim przypadku zasięga się opinii zainteresowanych operatorów i zapewnia się im możliwość przedstawienia ich stanowiska. Na tej podstawie Komisja podejmuje decyzję, czy dane zezwolenie jest uzasadnione. Komisja kieruje swoją decyzję do zainteresowanego państwa członkowskiego i odpowiednich operatorów. 6. W przypadk,u gdy Komisja uzna zezwolenie za bezpodstawne, organ nadzoru rynku zainteresowanego państwa członkowskiego cofa je. 7. W przypadku systemów AI wysokiego ryzyka powiązanych z produktami objętymi zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A stosuje się wyłącznie odstępstwa od oceny zgodności ustanowione w tym unijnym prawodawstwie harmonizacyjnym. Art. 47 Deklaracja zgodności UE 1. Dostawca sporządza pisemną i nadającą się do odczytu maszynowego, podpisaną fizycznie lub elektronicznie, deklarację zgodności UE dla każdego systemu AI wysokiego ryzyka i przechowuje ją do dyspozycji właściwych organów krajowych przez okres 10 lat od dnia wprowadzenia systemu AI wysokiego ryzyka do obrotu lub oddania go do użytku. W deklaracji zgodności UE wskazuje się system AI wysokiego ryzyka, dla którego ją sporządzono. Kopię deklaracji zgodności UE przedkłada się odpowiednim właściwym organom krajowym na ich wniosek. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W deklaracji zgodności UE stwierdza się, że dany system AI wysokiego ryzyka spełnia wymogi ustanowione w sekcji 2. Deklaracja zgodności UE zawiera informacje określone w załączniku V i musi zostać przetłumaczona na język łatwo zrozumiały dla właściwych organów krajowych państw członkowskich, w których dany system AI wysokiego ryzyka jest wprowadzany do obrotu lub udostępniany. 3. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innemu unijnemu prawodawstwu harmonizacyjnemu, w którym również ustanowiono wymóg sporządzenia deklaracji zgodności UE, na potrzeby wszystkich przepisów prawa Unii mających zastosowanie do systemu AI wysokiego ryzyka sporządza się jedną deklarację zgodności UE. W deklaracji zamieszcza się wszystkie informacje niezbędne do zidentyfikowania unijnego prawodawstwa harmonizacyjnego, do którego się ona odnosi. 4. Sporządzając deklarację zgodności UE, dostawca bierze na siebie odpowiedzialność za zgodność z wymogami ustanowionymi w sekcji 2. Dostawca odpowiednio zapewnia aktualność deklaracji zgodności UE. 5. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika V poprzez zaktualizowanie treści deklaracji zgodności UE określonej w tym załączniku w celu wprowadzenia elementów, które stały się konieczne w świetle postępu technicznego. Art. 48 Oznakowanie CE 1. Oznakowanie CE podlega ogólnym zasadom określonym w art. 30 rozporządzenia (WE) nr 765/2008. 2. W przypadku systemów AI wysokiego ryzyka dostarczanych w formie cyfrowej cyfrowe oznakowanie CE stosuje się wyłącznie wtedy, gdy można do niego łatwo dotrzeć za pośrednictwem interfejsu, poprzez który uzyskuje się dostęp do tego systemu, lub za pomocą łatwo dostępnego kodu nadającego się do odczytu maszynowego lub innych środków elektronicznych. 3. Oznakowanie CE umieszcza się na systemie AI wysokiego ryzyka w sposób widoczny, czytelny i trwały. W przypadku gdy z uwagi na charakter systemu AI wysokiego ryzyka oznakowanie systemu w taki sposób nie jest możliwe lub zasadne, oznakowanie to umieszcza się na opakowaniu lub - w stosownych przypadkach - w dołączonej do systemu dokumentacji. 4. W stosownych przypadkach oznakowaniu CE towarzyszy również numer identyfikacyjny jednostki notyfikowanej odpowiedzialnej za przeprowadzenie procedur oceny zgodności ustanowionych w art. 43. Numer identyfikacyjny jednostki notyfikowanej umieszcza sama jednostka lub według wskazówek jednostki notyfikowanej, dostawca lub jego upoważniony przedstawiciel. Numer identyfikacyjny umieszcza się również na wszelkich materiałach promocyjnych zawierających informacje o tym, że N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia system AI wysokiego ryzyka spełnia wymogi konieczne do opatrzenia go oznakowaniem CE. 5. W przypadku, gdy systemy AI wysokiego ryzyka podlegają innym przepisom Unii, które również przewidują umieszczenie oznakowania CE, oznakowanie CE wskazuje, że dany system AI wysokiego ryzyka spełnia także wymogi zawarte w tych innych przepisach. Art. 49 Rejestracja 1. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, dostawca lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 2. Przed wprowadzeniem do obrotu lub oddaniem do użytku systemu AI, co do którego dostawca stwierdził, że nie jest systemem wysokiego ryzyka zgodnie z art. 6 ust. 3, dostawca ten lub - w stosownych przypadkach - jego upoważniony przedstawiciel rejestrują się i swój system w bazie danych UE, o której mowa w art. 71. 3. Przed oddaniem do użytku lub wykorzystaniem systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 2, podmioty stosujące będące publicznymi organami, instytucjami, organami lub jednostkami organizacyjnymi Unii lub osobami działającymi w ich imieniu rejestrują się, T w zakresie ust.5 Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia W zakresie art. 49 ust. 5. Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia wybierają system i rejestrują jego wykorzystanie w bazie danych UE, o której mowa w art. 71. 4. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, migracji, azylu i zarządzania kontrolą graniczną, rejestracji, o której mowa w ust. 1, 2 i 3 niniejszego artykułu, dokonuje się w bezpiecznej niepublicznej sekcji bazy danych UE, o której mowa w art. 71, i - stosownie do przypadku - zawiera wyłącznie następujące informacje, o których mowa w: a) załączniku VIII sekcja A pkt 1-10, z wyjątkiem pkt 6, 8 i 9; b) załączniku VIII sekcja B pkt 1-5 oraz pkt 8 i 9; c) załączniku VIII sekcja C pkt 1-3; d) załączniku IX pkt 1, 2, 3 i 5. Do odpowiednich zastrzeżonych sekcji bazy danych UE wymienionych w akapicie pierwszym niniejszego ustępu dostęp mają jedynie Komisja i organy krajowe, o których mowa w art. 74 ust. 8. 5. Systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, rejestruje się na poziomie krajowym. w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 50 Obowiązki w zakresie przejrzystości dla dostawców i podmiotów stosujących niektóre systemy AI 1. Dostawcy zapewniają, aby systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi projektowano i rozwijano w taki sposób, N Przepis o charakterze ogólnym stosowany wprost aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. Obowiązek ten nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich, chyba że systemy te udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa. 2. Dostawcy systemów AI, w tym systemów AI ogólnego zastosowania, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, zapewniają, aby wyniki systemu AI zostały oznakowane w formacie nadającym się do odczytu maszynowego i były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Dostawcy zapewniają skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych w zakresie, w jakim jest to technicznie wykonalne, uwzględniając przy tym specyfikę i ograniczenia różnych rodzajów treści, koszty wdrażania oraz powszechnie uznany stan wiedzy technicznej, co może być odzwierciedlone w odpowiednich normach technicznych. Obowiązek ten nie ma zastosowania w zakresie, w jakim systemy AI pełnią funkcję wspomagającą w zakresie standardowej edycji lub nie zmieniają w istotny sposób nie wymaga wdrożenia przekazywanych przez podmiot stosujący danych wejściowych lub ich semantyki, ani w zakresie, w jakim jest to dozwolone na mocy prawa do celów wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. 3. Podmioty stosujące systemy rozpoznawania emocji lub systemy kategoryzacji biometrycznej informują osoby fizyczne, wobec których systemy te są stosowane, o fakcie ich stosowania i przetwarzają dane osobowe stosownie do przypadku zgodnie z rozporządzeniami (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680. Obowiązek ten nie ma zastosowania do systemów AI wykorzystywanych do kategoryzacji biometrycznej i rozpoznawania emocji, których wykorzystywanie jest dozwolone z mocy prawa do celów wykrywania przestępstw, przeciwdziałania im i prowadzenia postępowań przygotowawczych w przestępstwami ich sprawach, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich oraz zgodnie z prawem Unii. 4. Podmioty stosujące system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który manipuluje takimi obrazami lub treściami, ujawniają, że treści te zostały sztucznie wygenerowane lub zmanipulowane. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców. W przypadku gdy treść stanowi część pracy lub programu o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze obowiązki w zakresie przejrzystości określone w niniejszym ustępie ograniczają się do ujawnienia istnienia takich wygenerowanych lub zmanipulowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania lub korzystania z utworu. Podmioty stosujące system AI, który generuje tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym lub manipuluje takim tekstem, ujawniają, że tekst został sztucznie wygenerowany lub zmanipulowany. Obowiązek ten nie ma zastosowania, w przypadku, gdy wykorzystywanie jest dozwolone na mocy prawa w celu wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców lub w przypadku, gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. 5. Informacje, o których mowa w ust. 1-4, są przekazywane zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania. Informacje te muszą spełniać mające zastosowanie wymogi dostępności. 6. Ust. 1-4 nie mają wpływu na wymogi i obowiązki ustanowione w rozdziale III i pozostają bez uszczerbku dla innych obowiązków w zakresie przejrzystości ustanowionych w prawie Unii lub prawie krajowym w odniesieniu do podmiotów stosujących systemy AI. 7. Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania i oznaczania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może przyjmować akty wykonawcze dotyczące zatwierdzenia tych kodeksów praktyk zgodnie z procedurą ustanowioną w art. 56 ust. 6. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2. Art. 51 Klasyfikacja modeli AI ogólnego przeznaczenia jako modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Model AI ogólnego przeznaczenia jest klasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli spełnia którykolwiek z następujących warunków: a) ma zdolności dużego oddziaływania ocenione w oparciu o odpowiednie narzędzia i metodologie techniczne, w tym wskaźniki i poziomy odniesienia; b) w oparciu o decyzję Komisji - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy - ma zdolności lub oddziaływanie równoważne z tymi, które określono w lit. a), przy N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia uwzględnieniu kryteriów określonych w załączniku XIII. 2. W przypadku modelu AI ogólnego przeznaczenia, którego łączna liczba obliczeń wykorzystywanych do jego trenowania mierzona w operacjach zmiennoprzecinkowych jest większa niż 10 25 , domniemuje się za mający zdolności dużego oddziaływania zgodnie z ust. 1 lit. a), 3. Komisja przyjmuje akty delegowane zgodnie z art. 97 w celu zmiany progów wymienionych w ust. 1 i 2 niniejszego artykułu, a także w celu uzupełnienia poziomów odniesienia i wskaźników w świetle rozwoju technologicznego obejmującego na przykład ulepszenia algorytmiczne lub zwiększoną wydajność sprzętu, w miarę konieczności, by progi te odzwierciedlały aktualny stan techniki. Art. 52 Procedura 1. W przypadku, gdy model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51 ust. 1 lit. a), odpowiedni dostawca powiadamia Komisję niezwłocznie, a w każdym przypadku w terminie dwóch tygodni od spełnienia tego warunku lub od kiedy wiadomo, że zostanie on spełniony. Powiadomienie to zawiera informacje niezbędne do wykazania, że dany warunek został spełniony. Jeśli Komisja dowie się o stwarzającym ryzyko systemowe modelu AI ogólnego przeznaczenia, o którym nie została powiadomiona, może zdecydować o uznaniu go za model z ryzykiem systemowym. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 2. Dostawca spełniający warunek, o którym mowa w art. 51 ust. 1 lit. a), modelu AI ogólnego przeznaczenia z ryzykiem systemowym może wraz ze swoim powiadomieniem przedstawić wystarczająco uzasadnione argumenty wykazujące, że wyjątkowo, pomimo spełniania przez ten model AI ogólnego przeznaczenia przedmiotowego warunku, nie stwarza on - z uwagi na swoje szczególne cechy - ryzyka systemowego i nie powinien być w związku z tym zaklasyfikowany jako model AI ogólnego przeznaczenia z ryzykiem systemowym. 3. W przypadku, gdy Komisja stwierdzi, że argumenty przedstawione zgodnie z ust. 2 nie są wystarczająco uzasadnione i że dany dostawca nie był w stanie wykazać, że dany model AI ogólnego przeznaczenia nie stwarza - z uwagi na swoje szczególne cechy - ryzyka systemowego, odrzuca te argumenty, a dany model AI ogólnego przeznaczenia uważa się za model AI ogólnego przeznaczenia z ryzykiem systemowym. 4. Komisja może - z urzędu lub w następstwie ostrzeżenia kwalifikowanego wydanego przez panel naukowy zgodnie z art. 90 ust. 1 lit. a) - uznać model AI ogólnego przeznaczenia za model stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika XIII poprzez określenie i zaktualizowanie kryteriów określonych w załączniku XIII. 5. Na uzasadniony wniosek dostawcy, którego model został zgodnie z ust. 4 uznany za model AI ogólnego przeznaczenia z ryzykiem systemowym, Komisja bierze pod uwagę taki wniosek i może zdecydować o ponownej ocenie w celu stwierdzenia, czy dany model AI ogólnego przeznaczenia może być nadal uważany za stwarzający ryzyko systemowe na podstawie kryteriów określonych w załączniku XIII. Wniosek taki zawiera obiektywne, szczegółowe i nowe powody, które pojawiły się po podjęciu decyzji o uznaniu. Dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu decyzji o uznaniu. W przypadku gdy w wyniku ponownej oceny Komisja zdecyduje się utrzymać uznanie modelu za model AI ogólnego przeznaczenia z ryzykiem systemowym, dostawcy mogą zwrócić się z wnioskiem o ponowną ocenę najwcześniej sześć miesięcy po podjęciu tej decyzji. 6. Komisja zapewnia publikację i aktualizację wykazu modeli AI ogólnego przeznaczenia z ryzykiem systemowym, bez uszczerbku dla konieczności przestrzegania i ochrony praw własności intelektualnej oraz poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie z prawem Unii i prawem krajowym. Art. 53 Obowiązki dostawców modeli AI ogólnego przeznaczenia 1. Dostawcy modeli AI ogólnego przeznaczenia: N Przepis o charakterze ogólnym stosowany wprost a) sporządzają i aktualizują dokumentację techniczną modelu, w tym proces jego trenowania i testowania oraz wyniki jego oceny, zawierającą co najmniej informacje określone w załączniku XI do celów przekazania ich, na wniosek, Urzędowi ds. AI i właściwym organom krajowym; b) sporządzają, aktualizują i udostępniają informacje i dokumentację dostawcom systemów AI, którzy zamierzają zintegrować model AI ogólnego przeznaczenia ze swoimi systemami AI. Bez uszczerbku dla potrzeby przestrzegania i ochrony praw własności intelektualnej i poufnych informacji handlowych lub tajemnic przedsiębiorstwa zgodnie prawem Unii i prawem krajowym te informacje i dokumentacja: (i) umożliwiają dostawcom systemów AI dobre zrozumienie możliwości i ograniczeń danego modelu AI ogólnego przeznaczenia oraz spełnienie ich obowiązków zgodnie z niniejszym rozporządzeniem; oraz (ii) zawierają co najmniej elementy określone w załączniku XII; c) wprowadzają politykę służącą zapewnieniu zgodności z prawem Unii dotyczącym prawa autorskiego i praw pokrewnych, w szczególności z myślą o identyfikacji i zastosowaniu się, w tym poprzez najnowocześniejsze technologie, do zastrzeżenia praw wyrażonego zgodnie z art. 4 ust. 3 dyrektywy (UE) 2019/790; d) sporządzają i podają do wiadomości publicznej wystarczająco szczegółowe streszczenie na temat treści nie wymaga wdrożenia. wykorzystanych do trenowania danego modelu AI ogólnego przeznaczenia, zgodnie ze wzorem dostarczonym przez Urząd ds. AI. 2. Obowiązków określonych w ust. 1 lit. a) i b) nie stosuje się do dostawców modeli AI, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej. Wyjątku tego nie stosuje się do modeli AI ogólnego przeznaczenia z ryzykiem systemowym. 3. Dostawcy modeli AI ogólnego przeznaczenia współpracują w razie konieczności z Komisją i właściwymi organami krajowymi przy wykonywaniu ich kompetencji i uprawnień zgodnie z niniejszym rozporządzeniem. 4. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków ustanowionych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 5. Do celu ułatwienia zgodności z załącznikiem XI, w szczególności jego pkt 2 lit. d) i e), Komisja jest uprawniona do przyjmowania zgodnie z art. 97 aktów delegowanych dotyczących szczegółowego określenia metod pomiaru i obliczeń umożliwiających porównywalną i weryfikowalną dokumentację. 6. Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 ust. 2 w celu zmiany załączników XI i XII w świetle postępu technicznego. 7. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 54 Upoważnieni przedstawiciele dostawców modeli AI ogólnego przeznaczenia 1. Przed wprowadzeniem swoich modeli AI ogólnego przeznaczenia do obrotu w Unii dostawcy mający siedzibę w państwach trzecich ustanawiają - na podstawie pisemnego pełnomocnictwa - upoważnionego przedstawiciela mającego siedzibę w Unii. 2. Dostawca umożliwia swojemu upoważnionemu przedstawicielowi wykonywanie zadań powierzonych mu na mocy pełnomocnictwa udzielonego przez dostawcę. 3. Upoważniony przedstawiciel wykonuje zadania powierzone mu na mocy pełnomocnictwa udzielonego N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przez dostawcę. Przekazuje on Urzędowi ds. AI na jego wniosek kopię pełnomocnictwa w jednym z oficjalnych języków instytucji Unii. Do celów niniejszego rozporządzenia pełnomocnictwo uprawnia upoważnionego przedstawiciela do wykonywania następujących zadań: a) sprawdzenie czy dostawca sporządził dokumentację techniczną określoną w załączniku XI oraz czy wypełnił wszystkie obowiązki, o których mowa w art. 53, oraz w stosownych przypadkach, w art. 55; b) przechowywanie kopii dokumentacji technicznej określonej w załączniku XI do dyspozycji Urzędu ds. AI i właściwych organów krajowych przez okres 10 lat od czasu wprowadzenia danego modelu AI ogólnego przeznaczenia do obrotu oraz danych kontaktowych dostawcy, który ustanowił danego upoważnionego przedstawiciela; c) przekazywanie Urzędowi ds. AI na uzasadniony wniosek wszystkich informacji i dokumentacji, w tym określonych w lit. b), niezbędnych do wykazania spełnienia obowiązków ustanowionych w niniejszym rozdziale; d) współpraca z Urzędem ds. AI i właściwymi organami, na uzasadniony wniosek, we wszelkich podejmowanych przez nie działaniach odnoszących się do modelu AI ogólnego przeznaczenia, w tym, kiedy model ten jest zintegrowany z systemami AI wprowadzanymi do obrotu lub oddawanymi do użytku w Unii. 4. Pełnomocnictwo daje upoważnionemu przedstawicielowi prawo do tego, aby Urząd ds. AI lub właściwe organy mogły się zwracać do niego, obok albo zamiast do dostawcy, we wszystkich kwestiach dotyczących zapewnienia zgodności z niniejszym rozporządzeniem. 5. Upoważniony przedstawiciel wypowiada pełnomocnictwo, jeśli sądzi lub ma powody sądzić, że dostawca działa w sposób sprzeczny z jego obowiązkami wynikającymi z niniejszego rozporządzenia. W takim przypadku informuje on również natychmiast Urząd ds. AI o wypowiedzeniu pełnomocnictwa i o jego przyczynach. 6. Obowiązek określony w niniejszym artykule nie dotyczy dostawców modeli AI ogólnego przeznaczenia, które są udostępniane na podstawie bezpłatnej licencji otwartego oprogramowania umożliwiającej dostęp, wykorzystanie, zmianę i dystrybucję modelu i których parametry, w tym wagi, informacje o architekturze modelu oraz informacje o wykorzystaniu modelu są podawane do wiadomości publicznej, chyba że te modele AI ogólnego przeznaczenia stwarzają ryzyko systemowe. Art. 55 Obowiązki dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Oprócz obowiązków wymienionych w art. 53 i 54 dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym: N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia a) dokonują oceny modelu zgodnie ze znormalizowanymi protokołami i narzędziami odzwierciedlającymi najaktualniejszy stan wiedzy technicznej, w tym przeprowadzają i dokumentują kontradyktoryjne testy modelu z myślą o zidentyfikowaniu ryzyka systemowego i jego ograniczenia; b) oceniają i ograniczają ewentualne ryzyko systemowe na poziomie Unii, w tym jego źródła, które może wynikać z rozwoju, wprowadzania do obrotu lub wykorzystywania modeli AI ogólnego przeznaczenia z ryzykiem systemowym; c) rejestrują, dokumentują i niezwłocznie zgłaszają Urzędowi ds. AI oraz w stosownych przypadkach, właściwym organom krajowym odpowiednie informacje dotyczące poważnych incydentów i ewentualnych środków naprawczych służących zaradzeniu im; d) zapewniają odpowiedni poziom cyberochrony modelu AI ogólnego przeznaczenia z ryzykiem systemowym oraz infrastruktury fizycznej tego modelu. 2. Do czasu opublikowania normy zharmonizowanej dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym mogą opierać się na kodeksach praktyk w rozumieniu art. 56 w celu wykazania spełnienia obowiązków określonych w ust. 1 niniejszego artykułu. Zgodność z europejskimi normami zharmonizowanymi stwarza dla dostawcy domniemanie spełnienia tych obowiązków w zakresie, w jakim normy te obejmują te obowiązki. Dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym, którzy nie zobowiązują się do przestrzegania zatwierdzonego kodeksu praktyk lub nie zapewniają zgodności z europejską normą zharmonizowaną, przedstawiają Komisji do oceny adekwatne alternatywne środki służące zapewnieniu zgodności. 3. Wszelkie informacje lub dokumentację uzyskane zgodnie z niniejszym artykułem, w tym tajemnice przedsiębiorstwa, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 56 Kodeksy praktyk 1. Urząd ds. AI zachęca do sporządzania kodeksów praktyk na poziomie Unii i ułatwia ich sporządzanie w celu przyczyniania się do właściwego stosowania niniejszego rozporządzenia, przy uwzględnieniu podejść międzynarodowych. 2. Urząd ds. AI i Rada ds. AI dążą do zapewnienia, by kodeksy praktyk obejmowały co najmniej obowiązki przewidziane w art. 53 i 55, w tym następujące kwestie: a) środki na rzecz zapewnienia, by informacje, o których mowa w art. 53 ust. 1 lit. a) i b), były aktualne w świetle rozwoju rynku i technologii; b) odpowiedni poziom szczegółowości streszczenia na temat treści wykorzystywanych do trenowania; c) identyfikacja rodzaju i charakteru ryzyka systemowego na poziomie Unii, w tym, w stosownych przypadkach, jego źródła; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia d) środki, procedury i zasady oceny ryzyka systemowego i zarządzania nim na poziomie Unii, w tym ich dokumentacja, które muszą być proporcjonalne do ryzyka, uwzględniać jego dotkliwość i prawdopodobieństwo wystąpienia oraz uwzględniać szczególne wyzwania w zakresie radzenia sobie z tym ryzykiem w świetle potencjalnych sposobów pojawienia się takie ryzyka i jego urzeczywistnienia w całym łańcuchu wartości AI. 3. Urząd ds. AI może zwrócić się do wszystkich dostawców modeli AI ogólnego przeznaczenia oraz odpowiednich właściwych organów krajowych o wzięcie udziału w opracowywaniu kodeksów praktyk. Organizacje społeczeństwa obywatelskiego, przedstawiciele przemysłu, środowisko akademickie oraz inne odpowiednie zainteresowane strony, takie jak dostawcy niższego szczebla i niezależni eksperci, mogą wspierać ten proces. 4. Urząd ds. AI i Rada ds. AI starają się zapewnić, by kodeksy praktyk wyraźnie określały swoje cele szczegółowe i zawierały zobowiązania lub środki, w tym, w stosownych przypadkach, kluczowe wskaźniki skuteczności działania, w celu zapewnienia realizacji tych celów, oraz by uwzględniały w należytym stopniu potrzeby i interesy wszystkich zainteresowanych stron, w tym osób, na które AI ma wpływ, na poziomie Unii. 5. Urząd ds. AI stara się zapewnić, by uczestnicy kodeksów praktyk regularnie składali Urzędowi ds. AI sprawozdania z realizacji podjętych zobowiązań i środków oraz z ich wyników, w tym, w odpowiednich przypadkach, mierzonych w odniesieniu do kluczowych wskaźników skuteczności działania. Kluczowe wskaźniki skuteczności działania i zobowiązania w zakresie sprawozdawczości muszą odzwierciedlać różnice w wielkości i zdolnościach poszczególnych uczestników. 6. Urząd ds. AI i Rada ds. AI regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Urząd ds. AI i Rada ds. AI oceniają, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, i regularnie monitorują i oceniają realizację ich celów. Publikują one swoją ocenę adekwatności kodeksów praktyk. Komisja może w drodze aktu wykonawczego zatwierdzić kodeks praktyk i nadać mu powszechną moc w Unii. Taki akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Urząd ds. AI może zwracać się do wszystkich dostawców modeli AI ogólnego przeznaczenia, by przestrzegali kodeksów praktyk. W przypadku dostawców modeli AI ogólnego przeznaczenia, które nie stwarzają ryzyka systemowego, przestrzeganie kodeksów może być ograniczone do obowiązków przewidzianych w art. 53, chyba że wyraźnie zadeklarują oni zainteresowanie pełnym przystąpieniem do kodeksu. 8. Urząd ds. AI w stosownych przypadkach zachęca również do prowadzenia przeglądów i dostosowywania kodeksów praktyk oraz ułatwia takie przeglądy i dostosowania, w szczególności w świetle nowych norm. Urząd ds. AI udziela wsparcia w ocenie dostępnych norm. 9. Kodeksy praktyk muszą być gotowe najpóźniej do dnia 2 maja 2025 r. Urząd ds. AI podejmuje niezbędne kroki, w tym kieruje zachęty do dostawców zgodnie z ust. 7. Jeśli do dnia 2 sierpnia 2025 r. opracowanie kodeks praktyk nie może zostać zakończone lub Urząd ds. AI w wyniku swojej oceny na podstawie ust. 6 niniejszego artykułu uzna, że nie jest on odpowiedni, Komisja może w drodze aktów wykonawczych ustanowić wspólne przepisy dotyczące wykonywania obowiązków przewidzianych w art. 53 i 55, z uwzględnieniem kwestii określonych w ust. 2 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 57 Piaskownice regulacyjne w zakresie AI 1. Państwa członkowskie zapewniają, by ich właściwe organy ustanowiły na poziomie krajowym przynajmniej jedną piaskownicę regulacyjną w zakresie AI, która musi zostać uruchomiona do dnia 2 sierpnia 2026 r. Piaskownica ta może również zostać ustanowiona wspólnie z właściwymi organami innych państw członkowskich. Komisja może zapewniać wsparcie techniczne, doradztwo i narzędzia do celów T Art. 91 Art. 95 Art. 96 Art. 91. 1. Komisja ustanawia piaskownicę regulacyjną i udziela wybranym podmiotom, o których mowa w art. 2 ust. 1 lit. a–c i e rozporządzenia 2024/1689, zgody na odstępstwo od stosowania przepisów, o których mowa w ust. 3, w celu realizacji projektu mającego na celu przyczynienie się do osiągnięcia celów, o których mowa w art. 57 ust. 9 rozporządzenia 2024/1689, Przepis dotyczy piaskownic regulacyjnych. Przepisy rozporządzenia odnoszące się do tej kategorii wejdą w życie 2.08.2026 r. ustanowienia i działania piaskownic regulacyjnych w zakresie AI. Obowiązek ustanowiony w akapicie pierwszym może również zostać spełniony poprzez uczestnictwo w istniejącej piaskownicy w zakresie, w jakim udział ten stwarza równoważny poziom zasięgu krajowego dla uczestniczących państw członkowskich. 2. Można również ustanowić dodatkowe piaskownice regulacyjne w zakresie AI na poziomie regionalnym lub lokalnym lub wspólnie z właściwymi organami innych państw członkowskich. 3. Europejski Inspektor Ochrony Danych może również ustanowić piaskownicę regulacyjną w zakresie AI dla instytucji, organów i jednostek organizacyjnych Unii i może pełnić role i wykonywać zadania właściwych organów krajowych zgodnie z niniejszym rozdziałem. 4. Państwa członkowskie zapewniają, by właściwe organy, o których mowa w ust. 1 i 2, przeznaczały wystarczające zasoby do skutecznego i terminowego zapewnienia zgodności z niniejszym artykułem. W stosownych przypadkach właściwe organy krajowe współpracują z innymi odpowiednimi organami i mogą zezwolić na zaangażowanie innych podmiotów z ekosystemu AI. Niniejszy artykuł nie ma wpływu na inne piaskownice regulacyjne ustanowione na podstawie prawa Unii lub prawa krajowego. Państwa członkowskie zapewniają odpowiedni poziom współpracy między organami nadzorującymi te inne piaskownice a właściwymi organami krajowymi. w zakresie niezbędnym do jego przeprowadzenia. 2. Komisja może, w drodze decyzji, ustanowić odstępstwo od stosowania przepisów, o których mowa w ust. 3, wspólnie z innym właściwym organem nadzoru rynku lub organem administracji publicznej, a także z organem nadzoru rynku państwa członkowskiego Unii Europejskiej. 3. Zakres przedmiotowy piaskownicy regulacyjnej obejmuje: 1) wprowadzenie systemu zarządzania jakością, o którym mowa w art. 17 rozporządzenia 2024/1689; 2) prowadzenie i przechowywanie dokumentacji lub deklaracji zgodności, o których mowa w art. 18 ust. 1 lit. a–e rozporządzenia 2024/1689; 3) przechowywanie automatycznie generowanych rejestrów zdarzeń, o których mowa w art. 19 rozporządzenia 2024/1689; 4) limit łącznej liczby użytkowników i innych podmiotów, na które mogą jednocześnie oddziaływać projekty w piaskownicy regulacyjnej, uwzgledniający możliwości organizacyjne Komisji, przewidywane 5. Piaskownice regulacyjne w zakresie AI ustanowione na podstawie ust. 1 zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. 6. Właściwe organy zapewniają, w stosownych przypadkach, wskazówki, nadzór i wsparcie w ramach piaskownicy regulacyjnej w zakresie AI, mając na celu identyfikację ryzyka, w szczególności dla praw podstawowych, zdrowia i bezpieczeństwa, testowania, środków ograniczających ryzyko oraz ich skuteczności w odniesieniu do obowiązków i wymogów niniejszego rozporządzenia oraz w stosownych przypadkach, innych nadzorowanych w ramach danej piaskownicy przepisów prawa Unii i prawa krajowego. 7. Właściwe organy zapewniają dostawcom i potencjalnym dostawcom uczestniczącym w piaskownicy regulacyjnej w zakresie AI wskazówki dotyczące oczekiwań regulacyjnych oraz sposobów spełnienia wymogów i obowiązków ustanowionych w niniejszym rozporządzeniu. Na wniosek dostawcy lub potencjalnego dostawcy systemu AI właściwy organ przedstawia na piśmie dowód skutecznie przeprowadzonych w ramach zainteresowanie uczestnictwem w piaskownicy regulacyjnej i przewidywany wpływ piaskownicy regulacyjnej na poziom innowacyjności przedsiębiorstw w obszarze sztucznej inteligencji; 5) warunki i sposób organizacji konkursu na uczestnictwo w piaskownicy regulacyjnej, a także sposób składania ofert i sposób wyboru projektów zakwalifikowanych do realizacji; 6) inne obowiązki określone w aktach delegowanych lub wykonawczych Komisji Europejskiej, o których mowa w art. 58 rozporządzenia 2024/1689. 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 4 ustawy z dnia 10 października 2002 r. o piaskownicy działań. Właściwy organ przygotowuje również sprawozdanie końcowe zawierające szczegółowe informacje na temat działań przeprowadzonych w ramach piaskownicy oraz powiązanych rezultatów i efektów uczenia się. Dostawcy mogą wykorzystywać taką dokumentację do wykazania swojej zgodności z niniejszym rozporządzeniem w ramach procesu oceny zgodności lub odpowiednich działań w zakresie nadzoru rynku. W tym względzie sprawozdania końcowe oraz dowody na piśmie przedstawione przez właściwy organ krajowy są uwzględniane pozytywnie przez organy nadzoru rynku i jednostki notyfikowane, z myślą o przyspieszeniu procedur oceny zgodności w rozsądnym zakresie. 8. Z zastrzeżeniem przepisów dotyczących poufności określonych w art. 78 i za zgodą dostawcy lub potencjalnego dostawcy Komisja i Rada ds. AI są upoważnione, by uzyskać dostęp do sprawozdań końcowych i - w stosownych przypadkach - uwzględniają je przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. Jeżeli zarówno dostawca lub przyszły dostawca, jak i właściwy organ krajowy wyraźnie wyrażą na to zgodę, sprawozdanie końcowe może zostać podane do wiadomości publicznej za pośrednictwem jednolitej platformy informacyjnej, o której mowa w niniejszym artykule. 9. Ustanowienie piaskownic regulacyjnych w zakresie AI ma na celu przyczynienie się do osiągnięcia następujących celów: minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). 6. Minister właściwy do spraw informatyzacji określi, w drodze rozporządzenia, wysokość opłaty, o której mowa w ust. 4, oraz sposób jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Art. 95. 1. Komisja ustala: 1) limit liczby użytkowników oraz innych podmiotów, na które może oddziaływać projekt w piaskownicy regulacyjnej; 2) zakres piaskownicy regulacyjnej dla projektu. 2. Komisja informuje, drogą elektroniczną, Komisję Europejską i Europejską Radę ds. Sztucznej Inteligencji o ustanowieniu piaskownicy regulacyjnej, niepóźniej niż 7 dni od dnia udostepnienia decyzji o udzieleniu zgody na odstępstwo, o której mowa w art. 91 ust. 1. 3. Komisja przyjmuje sprawozdania, o których mowa w art. 57 ust. 15 rozporządzenia 2024/1689, a następnie a) zwiększenie pewności prawa z myślą o osiągnięciu zgodności regulacyjnej z niniejszym rozporządzeniem lub w stosownych przypadkach, innym mającym zastosowanie prawem Unii i prawem krajowym; b) wspieranie wymiany najlepszych praktyk poprzez współpracę z organami uczestniczącymi w piaskownicy regulacyjnej w zakresie AI; c) wzmacnianie innowacyjności i konkurencyjności oraz ułatwianie rozwoju ekosystemu AI; d) wniesienie wkładu w oparte na dowodach uczenie się działań regulacyjnych; e) ułatwianie i przyspieszanie dostępu do rynku Unii dla systemów AI, w szczególności, gdy są one dostarczane przez MŚP, w tym przedsiębiorstwa typu startup. 10. Właściwe organy krajowe zapewniają, aby - w zakresie, w jakim innowacyjne systemy AI wiążą się z przetwarzaniem danych osobowych lub z innego powodu wchodzą w zakres kompetencji nadzorczych innych organów krajowych lub właściwych organów zapewniających dostęp do danych osobowych lub wsparcie w uzyskaniu dostępu do tych danych - krajowe organy ochrony danych oraz te inne organy krajowe włączono w działalność piaskownicy regulacyjnej w zakresie AI oraz zaangażowano w nadzór nad tymi aspektami w zakresie wynikającym z ich odpowiednich zadań i uprawnień. 11. Piaskownice regulacyjne w zakresie AI pozostaje bez wpływu na uprawnienia w zakresie nadzoru lub stosowania środków naprawczych przynależne przekazuje je drogą elektroniczną Komisji Europejskiej i Europejskiej Radzie ds. Sztucznej Inteligencji w terminach i na zasadach określonych w tym przepisie. Art. 96. Podmiot uczestniczący w piaskownicy regulacyjnej: 1) informuje użytkowników i inne podmioty, na które oddziałuje lub może oddziaływać projekt o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach tego uczestnictwa; 2) składa Komisji roczny raport z przebiegu realizacji projektu; 3) zamieszcza na swojej stronie internetowej informację o uczestnictwie w piaskownicy regulacyjnej oraz o warunkach zakwalifikowania do piaskownicy regulacyjnej; 4) niezwłocznie informuje Komisję o zmianach okoliczności prawnych lub faktycznych mających związek z projektem w piaskownicy regulacyjnej. właściwym organom nadzorującym te piaskownice, w tym na poziomie regionalnym lub lokalnym. Stwierdzenie istnienia jakiegokolwiek znaczącego ryzyka dla zdrowia i bezpieczeństwa oraz dla praw podstawowych na etapie rozwoju i testowania takich systemów AI powoduje konieczność właściwego ograniczenia tego ryzyka. Właściwe organy krajowe są uprawnione do tymczasowego lub trwałego zawieszenia procesu testowania lub udziału w piaskownicy, jeżeli skuteczne ograniczenie ryzyka nie jest możliwe, oraz informują o takiej decyzji Urząd ds. AI. Właściwe organy krajowe wykonują swoje uprawnienia nadzorcze w granicach określonych w odpowiednich przepisach, wykorzystując swoje uprawnienia dyskrecjonalne przy stosowaniu przepisów prawnych w odniesieniu do konkretnego projektu piaskownicy regulacyjnej w zakresie AI, w celu wspierania innowacji w dziedzinie AI w Unii. 12. Dostawcy lub potencjalni dostawcy uczestniczący w piaskownicy regulacyjnej w zakresie AI ponoszą odpowiedzialność, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, za wszelkie szkody wyrządzone osobom trzecim w wyniku doświadczeń przeprowadzanych w piaskownicy. Organy nie nakładają jednak administracyjnych kar pieniężnych w związku z naruszeniem niniejszego rozporządzenia, pod warunkiem, że potencjalny dostawca respektuje konkretny plan oraz warunki uczestnictwa, a także w dobrej wierze stosuje się do wytycznych właściwych organów krajowych. W przypadku gdy inne właściwe organy odpowiedzialne za inne przepisy prawa Unii lub przepisy krajowe uczestniczyły aktywnie w nadzorze nad systemem AI w ramach piaskownicy regulacyjnej i udzielały wskazówek w zakresie zgodności, w odniesieniu do tego prawa nie nakłada się administracyjnych kar pieniężnych. 13. Piaskownice regulacyjne w zakresie AI opracowuje się i wdraża w taki sposób, by w stosownych przypadkach ułatwiały współpracę transgraniczną między właściwymi organami krajowymi. 14. Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. 15. Właściwe organy krajowe informują Urząd ds. AI i Radę ds. AI o utworzeniu piaskownicy oraz mogą zwrócić się do nich o wsparcie i wytyczne. Urząd ds. AI podaje do wiadomości publicznej i aktualizuje wykaz planowanych i istniejących piaskownic, aby zachęcić do większej interakcji w ramach piaskownic regulacyjnych w zakresie AI i do współpracy transgranicznej. 16. Właściwe organy krajowe przedkładają Urzędowi ds. AI i Radzie ds. AI sprawozdania roczne - po upływie jednego roku od ustanowienia piaskownicy regulacyjnej w zakresie AI, a następnie co roku, aż do zakończenia jej działalności - oraz sprawozdanie końcowe. Sprawozdania te zawierają informacje o postępach i rezultatach wdrażania piaskownic, w tym również o najlepszych praktykach, incydentach, wyciągniętych wnioskach i zaleceniach dotyczących tworzenia piaskownic regulacyjnych, a w stosownych przypadkach - zalecenia dotyczące stosowania i ewentualnego przeglądu niniejszego rozporządzenia, w tym związanych z nim aktów delegowanych i wykonawczych, oraz stosowania innych przepisów prawa Unii objętego nadzorem właściwych organów w ramach danej piaskownicy. Właściwe organy krajowe podają te roczne sprawozdania lub ich streszczenia do wiadomości publicznej w internecie. Komisja w stosownych przypadkach bierze pod uwagę sprawozdania roczne przy wykonywaniu swoich zadań na podstawie niniejszego rozporządzenia. 17. Komisja opracowuje jednolity i specjalny interfejs zawierający wszystkie istotne informacje dotyczące piaskownic regulacyjnych w zakresie AI, aby zgodnie z art. 62 ust. 1 lit. c) umożliwić zainteresowanym stronom interakcję z piaskownicami regulacyjnymi w zakresie AI i zwracanie się do właściwych organów z pytaniami oraz uzyskiwania niewiążących wskazówek w zakresie zapewnienia zgodności innowacyjnych produktów, usług i modeli biznesowych zawierających zintegrowane technologie AI. W stosownych przypadkach Komisja proaktywnie koordynuje swoje działania z właściwymi organami krajowymi. Art. 58 Szczegółowe zasady dotyczące piaskownic regulacyjnych w zakresie AI i ich funkcjonowania 1. Aby uniknąć fragmentacji w całej Unii, Komisja przyjmuje akty wykonawcze określające szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania, działania piaskownic regulacyjnych w zakresie AI i nadzoru nad nimi. Te akty wykonawcze N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia określają wspólne zasady dotyczące następujących kwestii: a) kwalifikowalności i kryteriów wyboru dotyczących uczestnictwa w piaskownicy regulacyjnej w zakresie AI; b) procedur składania wniosków, uczestnictwa, monitorowania, wychodzenia z piaskownicy regulacyjnej w zakresie AI i zakończenia jej działalności, w tym planu działania piaskownicy i sprawozdania końcowego; c) warunków mających zastosowanie do uczestników. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Akty wykonawcze, o których mowa w ust. 1, zapewniają, aby: a) piaskownice regulacyjne w zakresie AI były otwarte dla każdego zgłaszającego się dostawcy lub potencjalnego dostawcy systemu AI spełniającego kryteria kwalifikowalności i wyboru, które muszą być przejrzyste i bezstronne, a właściwe organy krajowe informowały wnioskodawców o swojej decyzji w terminie trzech miesięcy od złożenia wniosku; b) piaskownice regulacyjne w zakresie AI umożliwiały szeroki i równy dostęp oraz nadążały za popytem, jeżeli chodzi o uczestnictwo; dostawcy i potencjalni dostawcy mogą również składać wnioski we współpracy z podmiotami stosującymi oraz innymi odpowiednimi osobami trzecimi; c) szczegółowe zasady i warunki dotyczące piaskownic regulacyjnych w zakresie AI w możliwie najlepszym stopniu wspierały swobodę właściwych organów krajowych w zakresie ustanawiania piaskownic regulacyjnych w zakresie AI i zarządzania nimi; d) dostęp do piaskownic regulacyjnych w zakresie AI był nieodpłatny dla MŚP, w tym przedsiębiorstw typu startup, bez uszczerbku dla nadzwyczajnych kosztów, do których odzyskania w bezstronny i proporcjonalny sposób mogą być uprawnione właściwe organy krajowe; e) ułatwiały one dostawcom i potencjalnym dostawcom, za pomocą efektów uczenia się uzyskanych dzięki piaskownicom regulacyjnym w zakresie AI, spełnianie wynikających z niniejszego rozporządzenia wymogów w zakresie oceny zgodności oraz dobrowolnego stosowania kodeksów postępowania, o których mowa w art. 95; f) piaskownice regulacyjne w zakresie AI ułatwiały zaangażowanie innych odpowiednich podmiotów w ekosystemie sztucznej inteligencji, takich jak jednostki notyfikowane i organizacje normalizacyjne, MŚP, w tym przedsiębiorstwa typu startup, przedsiębiorstwa, innowatorzy, ośrodki testowo-doświadczalne, laboratoria badawczo-doświadczalne, europejskie centra innowacji cyfrowych, centra doskonałości i poszczególni naukowcy, aby umożliwić i ułatwić współpracę z sektorem publicznym i prywatnym; g) procedury, procesy i wymogi administracyjne dotyczące składania wniosków, wyboru, uczestnictwa i wychodzenia z piaskownicy regulacyjnej w zakresie AI były proste, łatwe do zrozumienia, jasno podane do wiadomości w celu ułatwienia uczestnictwa MŚP, w tym przedsiębiorstwom typu startup, o ograniczonych zdolnościach prawnych i administracyjnych, a także by były ujednolicone w całej Unii, aby uniknąć fragmentacji, oraz aby uczestnictwo w piaskownicy regulacyjnej w zakresie AI ustanowionej przez jedno z państw członkowskich lub Europejskiego Inspektora Ochrony Danych było wzajemnie i powszechnie uznawane i miało takie same skutki prawne w całej Unii; h) uczestnictwo w piaskownicy regulacyjnej w zakresie AI było ograniczone do okresu odpowiedniego dla złożoności i skali projektu, który to okres może zostać przedłużony przez właściwy organ krajowy; i) piaskownice regulacyjne w zakresie AI ułatwiały tworzenie narzędzi i infrastruktury do testowania, analizy porównawczej, oceny i wyjaśniania aspektów systemów AI istotnych w kontekście uczenia się działań regulacyjnych, które to aspekty obejmują dokładność, solidność i cyberbezpieczeństwo, a także tworzenie środków służących ograniczaniu ryzyka dla praw podstawowych i ogółu społeczeństwa. 3. Potencjalni dostawcy w piaskownicach regulacyjnych w zakresie AI, w szczególności MŚP i przedsiębiorstwa typu startup, są w stosownych przypadkach kierowani do usług przedwdrożeniowych, takich jak doradztwo w zakresie wdrażania niniejszego rozporządzenia, do innych usług o wartości dodanej, takich jak pomoc w zakresie dokumentów normalizacyjnych i certyfikacji, do ośrodków testowo-doświadczalnych, europejskich centrów innowacji cyfrowych oraz centrów doskonałości. 4. W przypadku, gdy właściwe organy krajowe rozważają udzielenie zezwolenia na przeprowadzenie testów w warunkach rzeczywistych nadzorowanych w ramach piaskownicy w zakresie AI, która ma zostać ustanowiona na mocy niniejszego artykułu, szczegółowo uzgadniają one z uczestnikami warunki takich testów, a w szczególności odpowiednie zabezpieczenia, mające na celu ochronę praw podstawowych, zdrowia i bezpieczeństwa. W stosownych przypadkach współpracują one z innymi właściwymi organami krajowymi w celu zapewnienia spójnych praktyk w całej Unii. Art. 59 Dalsze przetwarzanie danych osobowych na potrzeby rozwoju w interesie publicznym określonych systemów AI w ramach piaskownicy regulacyjnej w zakresie AI 1. Dane osobowe zebrane zgodnie z prawem w innych celach można przetwarzać, w ramach piaskownicy regulacyjnej w zakresie AI, wyłącznie do celów rozwoju, trenowania i testowania w ramach piaskownicy niektórych systemów AI, gdy spełnione są wszystkie następujące warunki: a) systemy AI rozwija się w celu zabezpieczenia przez organ publiczny lub inną osobę fizyczną lub prawną N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia istotnego interesu publicznego w co najmniej jednym z następujących obszarów: (i) bezpieczeństwo publiczne i zdrowie publiczne, w tym wykrywanie, diagnozowanie, profilaktyka, kontrola i leczenie chorób oraz poprawa systemów opieki zdrowotnej; (ii) wysoki poziom ochrony środowiska i poprawa jego jakości, ochrona różnorodności biologicznej, ochrona przed zanieczyszczeniem, środki w zakresie transformacji ekologicznej, środki w zakresie łagodzenia zmiany klimatu i przystosowania się do niej; (iii) zrównoważoność energetyczna; (iv) bezpieczeństwo i odporność systemów transportowych i mobilności, infrastruktury krytycznej i sieci; (v) wydajność i jakość administracji publicznej i usług publicznych; b) przetwarzane dane są niezbędne do zapewnienia zgodności z co najmniej jednym z wymogów, o których mowa w rozdziale III sekcja 2, przy czym wymogów tych nie można skutecznie spełnić, przetwarzając dane zanonimizowane, dane syntetyczne lub innego rodzaju dane nieosobowe; c) ustanowiono skuteczne mechanizmy monitorowania pozwalające zidentyfikować wszelkie wysokie ryzyko naruszenia praw i wolności osób, których dane dotyczą, określone w art. 35 rozporządzenia (UE) 2016/679 i art. 39 rozporządzenia (UE) 2018/1725, jakie może wystąpić w trakcie przeprowadzania doświadczeń w ramach piaskownicy, a także mechanizmy reagowania zapewniające możliwość szybkiego ograniczenia tego ryzyka oraz - w stosownych przypadkach - wstrzymania przetwarzania; d) wszelkie dane osobowe, które mają być przetwarzane w kontekście piaskownicy, znajdują się w funkcjonalnie wyodrębnionym, odizolowanym i chronionym środowisku przetwarzania danych podlegającym kontroli potencjalnego dostawcy, a dostęp do tych danych posiadają wyłącznie upoważnione osoby; e) dostawcy mogą udostępniać dalej pierwotnie zebrane dane wyłącznie zgodnie z prawem Unii o ochronie danych; wszelkie dane osobowe stworzone w piaskownicy nie mogą być udostępniane poza piaskownicą; f) przetwarzanie danych osobowych w kontekście piaskownicy nie prowadzi do wdrożenia środków lub podjęcia decyzji wywierających wpływ na osoby, których dane dotyczą, ani nie wpływa na stosowanie ich praw określonych w prawie Unii o ochronie danych osobowych; g) dane osobowe przetwarzane w kontekście piaskownicy chroni się za pomocą odpowiednich środków technicznych i organizacyjnych oraz usuwa się po zakończeniu uczestnictwa w piaskownicy lub po upływie okresu przechowywania danych osobowych; h) rejestry przetwarzania danych osobowych w kontekście piaskownicy przechowuje się przez cały czas uczestnictwa w piaskownicy, o ile prawo Unii lub prawo krajowe nie stanowią inaczej; i) w dokumentacji technicznej, o której mowa w załączniku IV, zamieszcza się wyczerpujący i szczegółowy opis procesu trenowania, testowania i walidacji systemu AI wraz ze stosownym uzasadnieniem oraz wyniki przeprowadzonych testów; j) krótkie streszczenie projektu w zakresie AI rozwiniętego w ramach piaskownicy, jego celów i oczekiwanych rezultatów zostało opublikowane na stronie internetowej właściwych organów; obowiązek ten nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. 2. Do celów zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych w ich sprawie, ich wykrywania lub ścigania lub wykonywania kar, w tym ochrony przed zagrożeniami bezpieczeństwa publicznego i zapobiegania takim zagrożeniom pod nadzorem organów ścigania i na ich odpowiedzialność, przetwarzanie danych osobowych w piaskownicach regulacyjnych w zakresie AI prowadzone jest w oparciu o konkretne przepisy prawa Unii lub prawa krajowego i podlega tym samym łącznym warunkom, o których mowa w ust. 1. 3. Ust. 1 pozostaje bez uszczerbku dla prawa Unii lub prawa krajowego, które wyklucza przetwarzanie danych osobowych do celów innych niż wskazane wprost w tym prawie, jak również bez uszczerbku dla prawa Unii lub prawa krajowego ustanawiającego podstawy przetwarzania danych osobowych niezbędnego do celów rozwoju, testowania lub trenowania innowacyjnych systemów AI lub jakiekolwiek inne podstawy prawnej, zgodnych z prawem Unii dotyczącym ochrony danych osobowych. Art. 60 Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5. Komisja określa w drodze aktów wykonawczych szczegółowe elementy planu testów w warunkach rzeczywistych. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Niniejszy ustęp pozostaje bez uszczerbku dla przepisów prawa Unii lub prawa krajowego dotyczących testów w warunkach rzeczywistych systemów AI wysokiego ryzyka powiązanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I. T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 2. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym. 3. Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych przeprowadzane na podstawie niniejszego artykułu pozostają bez uszczerbku dla oceny etycznej wymaganej prawem Unii lub prawem unijnym. 4. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy w warunkach rzeczywistych tylko wtedy, gdy spełnione są wszystkie następujące warunki: a) dostawca lub potencjalny dostawca sporządził plan testów w warunkach rzeczywistych i przedłożył go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy; b) organ nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzone testy w warunkach rzeczywistych, zatwierdził te testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych; w przypadku gdy organ nadzoru rynku nie udzielił odpowiedzi w terminie 30 dni, testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych uznaje się za zatwierdzone; w przypadku gdy prawo krajowe nie przewiduje milczącego zatwierdzenia, testy w warunkach rzeczywistych nadal wymagają uzyskania zezwolenia; c) dostawca lub potencjalny dostawca - z wyjątkiem dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną, oraz systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2 - zarejestrował testy w warunkach rzeczywistych zgodnie z art. 71 ust. 4 pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w załączniku IX; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną - zarejestrował testy w warunkach rzeczywistych w niepublicznej części bazy danych UE zgodnie z art. 49 ust. 4 lit. d), pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w przywołanym przepisie; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, zarejestrował testy w warunkach rzeczywistych zgodnie z art. 49 ust. 5; d) dostawca lub potencjalny dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii; e) dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii; f) testy w warunkach rzeczywistych trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy, z zastrzeżeniem uprzedniego powiadomienia organu nadzoru rynku przez dostawcę lub potencjalnego dostawcę, wraz z uzasadnieniem konieczności takiego przedłużenia; g) uczestnicy testów w warunkach rzeczywistych, którzy z uwagi na swój wiek, niepełnosprawność są osobami, które należą do grup szczególnie wrażliwych lub są w odpowiednio chronieni; h) w przypadku gdy dostawca lub potencjalny dostawca organizuje testy w warunkach rzeczywistych we współpracy z jednym podmiotem stosującym lub potencjalnym podmiotem stosującym, podmiot stosujący lub potencjalny podmiot stosujący został poinformowany o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz otrzymuje odpowiednie instrukcje obsługi systemu AI, o których mowa w art. 13; dostawca lub potencjalny dostawca oraz podmiot stosujący lub potencjalny podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych na podstawie niniejszego rozporządzenia oraz na podstawie innego mającego zastosowanie prawa Unii i prawa krajowego; i) uczestnicy testów w warunkach rzeczywistych wyrazili świadomą zgodę zgodnie z art. 61 lub - w przypadku ścigania przestępstw - gdy uzyskanie świadomej zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie mogą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe musza zostać usunięte po przeprowadzeniu testów; j) testy w warunkach rzeczywistych są skutecznie nadzorowane przez dostawcę lub potencjalnego dostawcę i podmioty stosujące lub potencjalne podmioty stosujące przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań; k) predykcje, zalecenia lub decyzje systemu AI można skutecznie odwrócić i zignorować. 5. Uczestnicy testów w warunkach rzeczywistych lub, w stosownych przypadkach, ich wyznaczony zgodnie z prawem przedstawiciel mogą - bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia - zdecydować o wycofaniu się w dowolnym momencie z testów poprzez odwołanie świadomej zgody; mogą oni również zażądać natychmiastowego i trwałego usunięcia ich danych osobowych. Odwołanie świadomej zgody nie wpływa na już przeprowadzone działania. 6. Zgodnie z art. 75 państwa członkowskie powierzają swoim organom nadzoru rynku uprawnienia do zwracania się do dostawców i potencjalnych dostawców z wnioskiem o przedstawienie informacji, do przeprowadzania niezapowiedzianych zdalnych kontroli lub kontroli na miejscu oraz kontroli przeprowadzania testów w warunkach rzeczywistych i powiązanych systemów AI. Organy nadzoru rynku wykorzystują te uprawnienia do zapewnienia bezpiecznego rozwoju testów w warunkach rzeczywistych. 7. Każdy poważny incydent stwierdzony w trakcie testów w warunkach rzeczywistych zgłasza się krajowemu organowi nadzoru rynku zgodnie z art. 73. Dostawca lub potencjalny dostawca przyjmuje natychmiastowe środki zaradcze lub w przypadku, gdy jest to niemożliwe, zawiesza testy w warunkach rzeczywistych do czasu zaradzenia incydentowi albo też kończy testy. Dostawca lub potencjalny dostawca ustanawia procedurę szybkiego wycofania systemu AI z użytku po takim zakończeniu testów w warunkach rzeczywistych. 8. Dostawcy lub potencjalni dostawcy powiadamiają krajowy organ nadzoru rynku w państwie członkowskim, w którym prowadzone są testy w warunkach rzeczywistych, o zawieszeniu lub zakończeniu tych testów i o ostatecznych wynikach. 9. Dostawcy lub potencjalni dostawcy ponoszą, na podstawie mających zastosowanie przepisów prawa Unii i prawa krajowego dotyczących odpowiedzialności, odpowiedzialność za wszelkie szkody spowodowane w trakcie testów w warunkach rzeczywistych. Art. 61 Świadoma zgoda na udział w testach w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI 1. Do celów prowadzonych na podstawie art. 60 testów w warunkach rzeczywistych od uczestników testów należy uzyskać dobrowolną świadomą zgodę przed ich udziałem w takich testach i po należytym poinformowaniu ich w sposób zwięzły, jasny, adekwatny i zrozumiały o: a) charakterze i celach testów w warunkach rzeczywistych oraz ewentualnych niedogodnościach, które mogą być związane z udziałem w tych testach; b) warunkach, na jakich mają być prowadzone testy w warunkach rzeczywistych, w tym o przewidywanym czasie trwania udziału danego uczestnika lub uczestników w testach; c) ich prawach i zabezpieczeniach dotyczących udziału w testach, w szczególności o prawie do odmowy udziału w testach oraz o prawie do wycofania się z testów w warunkach rzeczywistych - w dowolnym momencie, bez konsekwencji i bez konieczności przedstawiania jakiegokolwiek uzasadnienia; d) zasadach zwracania się o odwrócenie lub zignorowanie predykcji, zaleceń lub decyzji wydanych przez system AI; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia e) ogólnounijnym niepowtarzalnym numerze identyfikacyjnym testów w warunkach rzeczywistych nadanym zgodnie z art. 60 ust. 4 lit. c) i o danych kontaktowych dostawcy lub jego przedstawiciela prawnego, od których można uzyskać dalsze informacje. 2. Świadoma zgoda jest opatrzona datą i udokumentowana, a uczestnicy testów lub ich przedstawiciel prawny otrzymują jej kopię. Art. 62 Środki na rzecz dostawców i podmiotów stosujących, w szczególności MŚP, w tym przedsiębiorstw typu startup 1. Państwa członkowskie podejmują następujące działania: a) zapewniają MŚP, w tym przedsiębiorstwom typu startup, które mają siedzibę statutową lub oddział w Unii, dostęp do piaskownic regulacyjnych w zakresie AI na zasadzie pierwszeństwa, o ile spełniają oni warunki kwalifikowalności i kryteria wyboru; dostęp na zasadzie pierwszeństwa nie wyklucza dostępu do piaskownicy regulacyjnej w zakresie AI dla innych MŚP, w tym przedsiębiorstw typu startup, innych niż te, o których mowa w niniejszym ustępie, pod warunkiem, że również spełniają one warunki kwalifikowalności i kryteria wyboru; b) organizują specjalne wydarzenia informacyjne i szkoleniowe poświęcone stosowaniu przepisów niniejszego rozporządzenia dostosowane do potrzeb MŚP, w tym przedsiębiorstw typu startup, podmiotów T Art. 6 pkt 8 Art. 91 ust. 4 i 5 Art. 6. Do zadań Komisji należy: 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; Art. 91 4. Uczestnictwo mikro-, małych i średnich przedsiębiorców w rozumieniu przepisów ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców w piaskownicy regulacyjnej jest nieodpłatne. 5. Opłata za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż wskazane w ust. 3 nie może być wyższa niż czterokrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o stosujących i w stosownych przypadkach lokalnych organów publicznych; c) wykorzystują istniejące specjalne kanały oraz w stosownych przypadkach, ustanawiają nowe kanały komunikacji z MŚP, w tym przedsiębiorstwami typu startup, podmiotami stosującymi, innymi innowatorami oraz w stosownych przypadkach, z lokalnymi organami publicznymi - w celu zapewnienia poradnictwa i udzielania odpowiedzi na zapytania w zakresie wdrażania niniejszego rozporządzenia, w tym odnośnie do udziału w piaskownicach regulacyjnych w zakresie AI; d) ułatwiają udział MŚP i innych odpowiednich stron w procesie opracowywania norm. 2. Przy ustalaniu wysokości opłat z tytułu oceny zgodności przeprowadzanej zgodnie z art. 43 bierze się pod uwagę szczególne interesy i potrzeby dostawców będących MŚP, w tym przedsiębiorstwami typu startup, obniżając wysokość tych opłat proporcjonalnie do wielkości tych przedsiębiorstw, wielkości rynku i innych odpowiednich wskaźników. 3. Urząd ds. AI podejmuje następujące działania: a) zapewnia ujednolicone wzory w obszarach objętych zakresem stosowania niniejszego rozporządzenia, zgodnie ze specyfikacją określoną przez Radę ds. AI w jej wniosku; b) opracowuje i obsługuje jednolitą platformę informacyjną zapewniającą wszystkim operatorom w minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). całej Unii przystępne informacje na temat niniejszego rozporządzenia; c) organizuje odpowiednie kampanie informacyjne w celu podnoszenia świadomości na temat obowiązków wynikających z niniejszego rozporządzenia; d) ocenia i propaguje zbieżność najlepszych praktyk w postępowaniach o udzielenie zamówienia publicznego w odniesieniu do systemów AI. Art. 63 Odstępstwa dla określonych operatorów 1. Mikroprzedsiębiorstwa w rozumieniu zalecenia 2003/361/WE mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 niniejszego rozporządzenia w sposób uproszczony, pod warunkiem, że nie mają przedsiębiorstw partnerskich ani przedsiębiorstw powiązanych w rozumieniu tego zalecenia. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby mikroprzedsiębiorstw, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka. 2. Ustępu 1 niniejszego artykułu nie należy interpretować jako zwalniającego tych operatorów z wszelkich innych wymogów lub obowiązków ustanowionych w niniejszym rozporządzeniu, w tym N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. tych ustanowionych w art. 9, 10, 11, 12, 13, 14, 15, 72 i 73. Art. 64 Urząd ds. AI 1. Komisja rozwija unijną wiedzę fachową i zdolności w dziedzinie AI poprzez Urząd ds. AI. 2. Państwa członkowskie ułatwiają wykonywanie zadań powierzonych na podstawie niniejszego rozporządzenia Urzędowi ds. AI. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 65 Ustanowienie i struktura Europejskiej Rady ds. Sztucznej Inteligencji 1. Ustanawia się Europejską Radę ds. Sztucznej Inteligencji (zwaną dalej \"Radą ds. AI\"). 2. W skład Rady ds. AI wchodzi po jednym przedstawicielu z każdego państwa członkowskiego. Europejski Inspektor Ochrony Danych uczestniczy w charakterze obserwatora. W posiedzeniach Rady ds. AI uczestniczy również Urząd ds. AI, który nie bierze udziału w głosowaniach. Do udziału w posiedzeniach Rada ds. AI może zapraszać w poszczególnych przypadkach inne krajowe i unijne władze, organy lub ekspertów, w przypadku, gdy omawiane kwestie są dla nich istotne. 3. Przedstawiciel jest wyznaczany przez swoje państwo członkowskie na okres trzech lat, z możliwością jednokrotnego przedłużenia. T Określenie kompetencji i uprawnień przedstawiciela (art. 65 ust. 4) oraz trybu wyboru przedstawiciela zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. 4. Państwa członkowskie zapewniają, by ich przedstawiciele w Radzie ds. AI: a) mieli w swoim państwie członkowskim odpowiednie kompetencje i uprawnienia, aby aktywnie przyczyniać się do realizacji zadań Rady ds. AI, o których mowa w art. 66; b) zostali wyznaczeni jako pojedynczy punkt kontaktowy do kontaktów z Radą ds. AI lub - w stosownych przypadkach i przy uwzględnieniu potrzeb państw członkowskich - jako pojedynczy punkt kontaktowy dla zainteresowanych stron; c) mieli prawo uczestniczyć w zapewnianiu spójności i koordynacji między właściwymi organami krajowymi w swoich państwach członkowskich w odniesieniu do wdrażania niniejszego rozporządzenia, w tym - do celów wykonywania swoich zadań na forum Rady ds. AI - poprzez zbieranie odpowiednich danych i informacji. 5. Wyznaczeni przedstawiciele państw członkowskich przyjmują regulamin wewnętrzny Rady ds. AI większością dwóch trzecich głosów. W regulaminie wewnętrznym ustanawia się w szczególności procedury wyboru, czas trwania mandatu i specyfikację zadań przewodniczącego, szczegółowe zasady głosowania oraz organizację działalności Rady ds. AI i jej podgrup. 6. Rada ds. AI ustanawia dwie stałe podgrupy służące jako platforma współpracy i wymiany między organami nadzoru rynku oraz powiadamiające organy w kwestiach dotyczących odpowiednio nadzoru rynku i jednostek notyfikowanych. Stała podgrupa ds. nadzoru rynku powinna do celów niniejszego rozporządzenia pełnić rolę grupy ds. współpracy administracyjnej (ADCO) w rozumieniu art. 30 rozporządzenia (UE) 2019/1020. W stosownych przypadkach Rada ds. AI może utworzyć inne stałe lub tymczasowe podgrupy na potrzeby zbadania konkretnych kwestii. W stosownych przypadkach przedstawiciele forum doradczego, o którym mowa w art. 67, mogą być zapraszani do udziału w takich podgrupach lub na konkretne posiedzenia tych podgrup jako obserwatorzy. 7. Rada ds. AI jest zorganizowana i zarządzana w sposób gwarantujący obiektywizm i bezstronność podejmowanych przez nią działań. 8. Przewodniczącym Rady ds. AI jest jeden z przedstawicieli państw członkowskich. Urząd ds. AI pełni funkcję sekretariatu dla Rady ds. AI, zwołuje na wniosek przewodniczącego posiedzenia i przygotowuje porządek obrad zgodnie z zadaniami Rady ds. AI określonymi w niniejszym rozporządzeniu oraz z jej regulaminem wewnętrznym. Art. 66 Zadania Rady ds. AI Rada ds. AI doradza Komisji i państwom członkowskim oraz udziela im wsparcia w celu ułatwienia spójnego i skutecznego stosowania niniejszego rozporządzenia. W tym celu Rada ds. AI może w szczególności: N Przepis o charakterze ogólnym stosowany wprost a) przyczyniać się do koordynacji między właściwymi organami krajowymi odpowiedzialnymi za stosowanie niniejszego rozporządzenia oraz we współpracy i z zastrzeżeniem zgody zainteresowanych organów nadzoru rynku, wspierać wspólne działania organów nadzoru rynku, o których mowa w art. 74 ust. 11; b) gromadzić fachową wiedzę techniczną i regulacyjną oraz najlepsze praktyki w tym zakresie i udostępniać je państwom członkowskim; c) zapewniać doradztwo w zakresie wdrażania niniejszego rozporządzenia, w szczególności w odniesieniu do egzekwowania przepisów dotyczących modeli AI ogólnego przeznaczenia; d) przyczyniać się do harmonizacji praktyk administracyjnych w państwach członkowskich, w tym w odniesieniu do odstępstwa od procedur oceny zgodności, o którym mowa w art. 46, funkcjonowania piaskownic regulacyjnych w zakresie AI oraz testów w warunkach rzeczywistych, o których mowa w art. 57, 59 i 60; e) na wniosek Komisji lub z własnej inicjatywy wydawać zalecenia i opinie na piśmie na temat wszelkich istotnych zagadnień związanych z wdrażaniem niniejszego rozporządzenia oraz z jego spójnym i skutecznym stosowaniem, w tym: (i) w zakresie opracowywania i stosowania kodeksów postępowania i kodeksów praktyk zgodnie z niniejszym rozporządzeniem, jak również wytycznych Komisji; nie wymaga wdrożenia (ii) dotyczące oceny i przeglądu niniejszego rozporządzenia zgodnie z art. 112, w tym w odniesieniu do zgłoszeń poważnych incydentów, o których mowa w art. 73, i funkcjonowania bazy danych UE, o której mowa w art. 71, przygotowania aktów delegowanych lub wykonawczych oraz w odniesieniu do ewentualnego dostosowania niniejszego rozporządzenia do unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I; (iii) w kwestii specyfikacji technicznych lub istniejących norm dotyczących wymogów ustanowionych w rozdziale III sekcja 2; (iv) w kwestii stosowania norm zharmonizowanych lub wspólnych specyfikacji, o których mowa w art. 40 i 41; (v) na temat tendencji, takich jak europejska globalna konkurencyjność w dziedzinie AI, upowszechnianie AI w Unii oraz rozwój umiejętności cyfrowych; (vi) na temat tendencji w zakresie zmieniającej się typologii łańcuchów wartości AI, w szczególności w odniesieniu do wynikających z nich skutków w zakresie odpowiedzialności; (vii) w kwestii potencjalnej potrzeby zmiany załącznika III zgodnie z art. 7 oraz potencjalnej potrzeby ewentualnej zmiany artykułu 5 zgodnie z art. 112, z uwzględnieniem odpowiednich dostępnych dowodów i najnowszych osiągnięć technologicznych; f) wspierać Komisję w promowaniu kompetencje w zakresie AI, świadomości społecznej oraz zrozumienia w odniesieniu do korzyści, ryzyka, zabezpieczeń, praw i obowiązków związanych z wykorzystaniem systemów AI; g) ułatwiać opracowywanie wspólnych kryteriów i wspólnego rozumienia przez podmioty gospodarcze i właściwe organy odpowiednich koncepcji przewidzianych w niniejszym rozporządzeniu, w tym poprzez udział w opracowywaniu poziomów odniesienia; h) współpracować, w stosownych przypadkach, z innymi instytucjami, organami i jednostkami organizacyjnymi Unii, jak również unijnymi grupami ekspertów i sieciami, w szczególności w dziedzinie bezpieczeństwa produktów, cyberbezpieczeństwa, konkurencyjności, usług cyfrowych i medialnych, usług finansowych, ochrony konsumentów, ochrony danych oraz ochrony praw podstawowych; i) przyczyniać się do skutecznej współpracy z właściwymi organami państw trzecich i z organizacjami międzynarodowymi; j) wspierać właściwe organy krajowe i Komisję w rozwijaniu organizacyjnej i technicznej wiedzy fachowej wymaganej do wdrożenia niniejszego rozporządzenia, w tym poprzez przyczynianie się do oceny potrzeb szkoleniowych personelu państw członkowskich uczestniczącego we wdrażaniu niniejszego rozporządzenia; k) wspierać Urząd ds. AI w udzielaniu wsparcia właściwym organom krajowym w ustanawianiu i rozwoju piaskownic regulacyjnych w zakresie AI oraz ułatwiać współpracę i wymianę informacji między piaskownicami regulacyjnymi w zakresie AI; l) wnosić wkład w opracowanie dokumentów zawierających wytyczne i udzielać stosownych porad w tym zakresie; m) doradzać Komisji w odniesieniu do międzynarodowych kwestii dotyczących AI; n) przedstawiać Komisji opinie na temat ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia; o) przyjmować od państw członkowskich opinie dotyczące ostrzeżeń kwalifikowanych dotyczących modeli AI ogólnego przeznaczenia oraz opinie na temat krajowych doświadczeń i praktyk w zakresie monitorowania i zgodnego z prawem wdrażania systemów AI, w szczególności systemów integrujących modele AI ogólnego przeznaczenia. Art. 67 Forum doradcze 1. Ustanawia się forum doradcze, które ma za zadanie dostarczać fachowej wiedzy technicznej i doradzać Radzie ds. AI i Komisji oraz wnosić wkład w ich zadania wynikające z niniejszego rozporządzenia. 2. Skład forum doradczego stanowi wyważony dobór zainteresowanych stron, w tym przemysłu, przedsiębiorstw typu startup, MŚP, społeczeństwa obywatelskiego i środowisk akademickich. Skład forum doradczego jest zrównoważony pod względem interesów handlowych i niehandlowych, a w ramach N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia kategorii interesów handlowych - w odniesieniu do MŚP i innych przedsiębiorstw. 3. Komisja zgodnie z kryteriami określonymi w ust. 2 powołuje członków forum doradczego spośród zainteresowanych stron, którzy dysponują uznaną wiedzą fachową w dziedzinie AI. 4. Kadencja członków forum doradczego trwa dwa lata i może zostać przedłużona o maksymalnie cztery lata. 5. Stałymi członkami forum doradczego są: Agencja Praw Podstawowych, ENISA, Europejski Komitet Normalizacyjny (CEN), Europejski Komitet Normalizacyjny Elektrotechniki (CENELEC) oraz Europejski Instytut Norm Telekomunikacyjnych (ETSI). 6. Forum doradcze sporządza swój regulamin. Forum doradcze wybiera dwóch współprzewodniczących spośród swoich członków, zgodnie z kryteriami określonymi w ust. 2. Kadencja współprzewodniczących trwa dwa lata z możliwością jednokrotnego odnowienia. 7. Forum doradcze odbywa posiedzenia co najmniej dwa razy w roku. Forum doradcze może zapraszać na swoje posiedzenia ekspertów i inne zainteresowane strony. 8. Forum doradcze może na wniosek Rady ds. AI lub Komisji przygotowywać opinie, zalecenia i uwagi na piśmie. 9. W stosownych przypadkach forum doradcze może utworzyć stałe lub tymczasowe podgrupy do badania konkretnych kwestii związanych z celami niniejszego rozporządzenia. 10. Forum doradcze przygotowuje roczne sprawozdanie ze swoich działań. Sprawozdanie to jest podawane do wiadomości publicznej. Art. 68 Panel naukowy niezależnych ekspertów 1. Komisja w drodze aktu wykonawczego ustanawia przepisy dotyczące utworzenia panelu naukowego niezależnych ekspertów (zwanego dalej \"panelem naukowym\"), którego celem jest udzielanie wsparcia w egzekwowaniu działań na podstawie niniejszego rozporządzenia. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 2. Panel naukowy składa się z ekspertów, którzy zostali wybrani przez Komisję na podstawie aktualnej wiedzy naukowej lub technicznej w dziedzinie AI niezbędnej do realizacji zadań określonych w ust. 3 i którzy są w stanie wykazać, że spełniają wszystkie następujące warunki: a) posiadanie szczególnej wiedzy fachowej i kompetencji oraz naukowej lub technicznej wiedzy fachowej w dziedzinie AI; b) niezależność od dostawców systemów AI lub modeli AI ogólnego przeznaczenia; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) zdolność do wykonywania zadań w sposób staranny, dokładny i obiektywny. Komisja w porozumieniu z Radą ds. AI określa liczbę ekspertów wchodzących w skład panelu w zależności od potrzeb i zapewnia sprawiedliwą reprezentację pod względem płci i zakresu geograficznego. 3. Panel naukowy doradza i wspiera Urząd ds. AI, w szczególności w odniesieniu do następujących zadań: a) wspieranie wdrażania i egzekwowania niniejszego rozporządzenia w odniesieniu do modeli i systemów AI ogólnego przeznaczenia, w szczególności poprzez: (i) ostrzeganie Urzędu ds. AI zgodnie z art. 90 o ewentualnym ryzyku systemowym na poziomie Unii związanym z modelami AI ogólnego przeznaczenia; (ii) przyczynianie się do opracowywania narzędzi i metodologii oceny zdolności modeli i systemów AI ogólnego przeznaczenia, w tym za pomocą poziomów odniesienia; (iii) świadczenie doradztwa w zakresie klasyfikacji modeli AI ogólnego przeznaczenia z ryzykiem systemowym; (iv) świadczenie doradztwa w zakresie klasyfikacji różnych modeli i systemów AI ogólnego przeznaczenia; (v) przyczynianie się do opracowywania narzędzi i wzorów; b) wspieranie organów nadzoru rynku - na ich wniosek; c) wspieranie transgranicznych działań w zakresie nadzoru rynku, o których mowa w art. 74 ust. 11, bez uszczerbku dla uprawnień organów nadzoru rynku; d) wspieranie Urzędu ds. AI w wykonywaniu jego obowiązków w kontekście unijnej procedury ochronnej zgodnie z art. 81. 4. Eksperci uczestniczący w panelu naukowym wykonują swoje zadania w sposób bezstronny i obiektywny oraz zapewniają poufność informacji i danych uzyskanych podczas wykonywania swoich zadań i działań. Przy wykonywaniu swoich zadań zgodnie z ust. 3 nie zwracają się do nikogo o instrukcje ani ich od nikogo nie przyjmują. Każdy ekspert sporządza deklarację interesów, którą podaje się do wiadomości publicznej. Urząd ds. AI ustanawia systemy i procedury mające na celu aktywne zarządzanie i zapobieganie potencjalnym konfliktom interesów. 5. Akt wykonawczy, o którym mowa w ust. 1, zawiera przepisy dotyczące warunków, procedur i szczegółowych zasad w zakresie wydawania ostrzeżeń przez panel naukowy i jego członków oraz zwracania się do Urzędu ds. AI o pomoc w realizacji zadań panelu naukowego. Art. 69 At T Uregulowanie kwestii dostępu do zespołu ekspertów zostanie objęte pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 70 Wyznaczanie właściwych organów krajowych oraz pojedynczych punktów kontaktowych 1. Do celów niniejszego rozporządzenia każde państwo członkowskie ustanawia lub wyznacza co najmniej jeden organ notyfikujący i co najmniej jeden organ nadzoru rynku jako właściwe organy krajowe. Te właściwe organy krajowe wykonują swoje uprawnienia w sposób niezależny, bezstronny i wolny od uprzedzeń, aby chronić obiektywizm ich działań i zadań oraz zapewnić stosowanie i wdrożenie niniejszego rozporządzenia. Członkowie tych organów powstrzymują się od wszelkich czynności niezgodnych z charakterem ich obowiązków. Takie działania i zadania mogą być wykonywane przez jeden lub kilka wyznaczonych organów zgodnie z potrzebami organizacyjnymi państwa członkowskiego, pod warunkiem poszanowania tych zasad. 2. Państwa członkowskie przekazują Komisji dane organów notyfikujących i organów nadzoru rynku oraz informacje o zadaniach tych organów, jak również o wszelkich późniejszych zmianach w tym zakresie. Do dnia 2 sierpnia 2025 r. państwa członkowskie podają, do wiadomości publicznej, za pośrednictwem środków komunikacji elektronicznej, informacje o sposobach kontaktowania się z właściwymi organami i pojedynczymi punktami kontaktowymi. Państwa członkowskie wyznaczają organ nadzoru rynku do T Art. 5 Art. 6 pkt 1- 16 Art. 19 Art. 21-Art. 38 Art. 67 Art. 90 Art. 120 ust. 1 Art. 5. 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, zwana dalej „Komisją”, jest organem nadzoru rynku w zakresie systemów sztucznej inteligencji w rozumieniu art. 70 ust. 1 rozporządzenia 2024/1689. 2. Komisja działa jako pojedynczy punkt kontaktowy, o którym mowa w art. 70 ust. 2 rozporządzenia 2024/1689. 3. Komisja posiada prawo używania pieczęci z godłem państwowym. Art. 6. Do zadań Komisji należy: 1) sprawowanie kontroli przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z wyłączeniem zadań, o których mowa w art. 25 pkt 6 oraz z zastrzeżeniem art. 2 ust. 2; 2) podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej, w zakresie określonym w art. 1 i art. 2 rozporządzenia 2024/1689; Art. 6-8 zapewniają, że właściwy organ krajowy dysponuje procesami i transparentnie ustaloną strukturą. Art. 15 (por. art. 8 ust. 1 pkt 2 – kompetencje Przewodniczącego Komisji) realizuje wymóg corocznego obowiązku sprawozdawczego z działań organu. Art. 19-22 realizują nałożone przez rozporządzenie zasady wykonywania uprawnień organu działania w charakterze pojedynczego punktu kontaktowego do celów niniejszego rozporządzenia i przekazuje Komisji dane tego pojedynczego punktu kontaktowego. Komisja podaje do wiadomości publicznej wykaz pojedynczych punktów kontaktowych. 3. Państwa członkowskie zapewniają, aby ich właściwe organy krajowe dysponowały odpowiednimi zasobami technicznymi, finansowymi i ludzkimi, a także infrastrukturą niezbędnymi do skutecznego wykonywania zadań powierzonych im na podstawie niniejszego rozporządzenia. Właściwe organy krajowe muszą w szczególności stale mieć do dyspozycji wystarczającą liczbą pracowników, których kompetencje i wiedza fachowa obejmują dogłębną znajomość kwestii z zakresu technologii AI, danych i metod przetwarzania danych, ochrony danych osobowych, cyberbezpieczeństwa, praw podstawowych, ryzyka dla zdrowia i bezpieczeństwa oraz wiedzę na temat obowiązujących norm i wymogów prawnych. Państwa członkowskie co roku oceniają i w razie potrzeby aktualizują wymogi dotyczące kompetencji i zasobów, o których mowa w niniejszym ustępie. 4. Właściwe organy krajowe podejmują odpowiednie środki w celu zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. 5. Wykonując swoje zadania, właściwe organy krajowe działają zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. 3) podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań naukowych i stosowania systemów sztucznej inteligencji; 4) podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji; 5) udział w opracowywaniu i opiniowaniu projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji; 6) wydawanie postanowień i decyzji w sprawach o naruszenie przepisów rozporządzenia 2024/1689 i ustawy; 7) wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w rozporządzeniu 2024/1689; 8) opracowywanie i wydawanie publikacji, realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji oraz prowadzenie działań informacyjnych; (a więc i jego członków) w sposób niezależny, bezstronny i wolny od uprzedzeń, a jawność realizuje tę funkcję. Art. 69 opisuje m. in. działanie wraz z realizacją obowiązków dot. zachowania poufności. 6. Do dnia 2 sierpnia 2025 r., a następnie co dwa lata państwa członkowskie przekazują Komisji sprawozdania dotyczące stanu zasobów finansowych i ludzkich właściwych organów krajowych wraz z oceną ich odpowiedniości. Komisja przekazuje te informacje Radzie ds. AI w celu ich omówienia i ewentualnego wydania zaleceń. 7. Komisja ułatwia wymianę doświadczeń między właściwymi organami krajowymi. 8. Właściwe organy krajowe mogą udzielać wskazówek i porad w zakresie wdrażania niniejszego rozporządzenia, w szczególności MŚP, w tym przedsiębiorstwom typu startup, przy uwzględnieniu, w stosownych przypadkach, wskazówek i porad Rady ds. AI i Komisji. W każdym przypadku, gdy właściwe organy krajowe zamierzają udzielić wskazówek i porad dotyczących systemu AI w dziedzinach objętych innymi przepisami prawa Unii, są zobowiązane - w stosownych przypadkach -zasięgnąć opinii właściwych organów krajowych wyznaczonych na podstawie tych przepisów prawa Unii. 9. W przypadku, gdy instytucje, organy i jednostki organizacyjne Unii są objęte zakresem niniejszego rozporządzenia, Europejski Inspektor Ochrony Danych działa w charakterze właściwego organu odpowiedzialnego za sprawowanie nad nimi nadzoru. 9) wymiana informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku z organami nadzoru rynku państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej i z organizacjami międzynarodowymi; 10) monitorowanie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją; 11) podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych, tworzenie piaskownic regulacyjnych i zarządzanie nimi; 12) prowadzenie rejestru skarg, o których mowa w art. 59 pkt 1 lit. b; 13) wydawanie opinii indywidualnych w zakresie stosowania przepisów rozporządzenia 2024/1689 i ustawy w indywidualnej sprawie, zwanych dalej „opiniami indywidualnymi” oraz wyjaśnień, o których mowa w art. 8; 14) prowadzenie działań na rzecz rozwoju innowacji w obszarze systemów sztucznej inteligencji; 15) prowadzenie wykazu systemów, o którym mowa w art. 67 ust. 2; 16) współpraca z dostawcami modeli sztucznej inteligencji ogólnego przeznaczenia na warunkach określonych w art. 53 ust. 3 rozporządzenia 2024/1689; Art. 19. 1. W skład Komisji wchodzą: 1) Przewodniczący Komisji; 2) dwóch Zastępców Przewodniczącego Komisji; 3) czterech pozostałych członków Komisji będących przedstawicielami: a) Prezesa Urzędu Ochrony Konkurencji i Konsumentów, b) Komisji Nadzoru Finansowego, c) Krajowej Rady Radiofonii i Telewizji, d) Prezesa Urzędu Komunikacji Elektronicznej. 2. Przewodniczący Komisji może zaprosić do udziału w posiedzeniu Komisji wyłącznie z głosem doradczym: 1) upoważnionego przedstawiciela podmiotu publicznego innego niż określony w ust. 1 pkt 3, w zakresie, w jakim posiedzenie dotyczy spraw będących we właściwości tego podmiotu; 2) osoby posiadające wiedzę specjalistyczną w zakresie spraw będących przedmiotem posiedzenia. 3. W posiedzeniach Komisji, bez prawa głosu, mogą uczestniczyć przedstawiciele ministrów kierujących działami administracji rządowej, o których mowa w ustawie z dnia 4 września 1997 r. o działach administracji rządowej, oraz organy i podmioty publiczne, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689. 4. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji i członkowie Komisji w zakresie sprawowania swojej funkcji w Komisji są niezależni. 5. Za udział w pracach Komisji osobom, o których mowa w ust. 1 pkt 3 oraz ust. 2 i 3 –, nie przysługuje wynagrodzenie. 6. Za udział w pracach Komisji przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775§ 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy (Dz. U. z 2025 r. poz. 277, 807, 1423 i 1661 oraz z 2026 r. poz. 25). Art. 21. 1. Komisja wykonuje swoje zadania na posiedzeniach lub korespondencyjnie w trybie obiegowym. 2. Komisja podejmuje rozstrzygnięcia, w tym decyzje i postanowienia, w drodze uchwał. 3. Komisja podejmuje uchwały zwykłą większością głosów, w głosowaniu jawnym, w obecności co najmniej pięciu osób wchodzących w jej skład. W razie równej liczby głosów rozstrzyga głos Przewodniczącego Komisji albo głos wyznaczonego przez niego Zastępcy Przewodniczącego Komisji. Art. 22. 1. W posiedzeniu, które dotyczy spraw, w których jest stroną: 1) Przewodniczący Komisji lub 2) Zastępca Przewodniczącego Komisji lub 3) członek Komisji – stosuje się przepisy art. 24 § 3 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego (Dz. U. z 2025 r. poz. 1691). 2. W przypadku, o którym mowa w ust. 1, o wyłączeniu z udziału w posiedzeniu: 1) Przewodniczącego Komisji lub Zastępcy Przewodniczącego Komisji – rozstrzyga Komisja na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 2) członka Komisji – postanawia Przewodniczący Komisji z urzędu albo na wniosek Zastępcy Przewodniczącego lub członka Komisji.Art. 23. Udział w posiedzeniu Komisji może odbywać się zdalnie przy wykorzystaniu środków komunikacji elektronicznej, zapewniających komunikację w czasie rzeczywistym, które umożliwiają: 1) udział w posiedzeniu wyłącznie osobom uprawnionym, o których mowa w art. 19 ust. 1– 3; 2) osobom, o których mowa w art. 19 ust. 1, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad oraz głosowanie w sposób gwarantujący ochronę poufności informacji i danych uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689, ustawie oraz w przepisach odrębnych, jak również z zastosowaniem środków ochrony przed złośliwym oprogramowaniem oraz mechanizmów kontroli dostępu; 3) osobom, o których mowa w art. 19 ust. 2 i 3, uczestniczącym w posiedzeniu zdalnie, wypowiadanie się w toku obrad. Art. 24. 1. Przewodniczący Komisji zwołuje posiedzenie Komisji i przewodniczy jej obradom. 2. W przypadku nieobecności Przewodniczącego Komisji na posiedzeniu lub jego wyłączenia z udziału w posiedzeniu zastępuje go wyznaczony przez niego Zastępca Przewodniczącego Komisji. 3. Szczegółową organizację i tryb pracy Komisji określa regulamin Komisji przyjęty przez Komisję. 4. Z posiedzenia Komisji sporządza się protokół, w którym w szczególności zawiera się imiona i nazwiska uczestników posiedzenia, porządek posiedzenia i przyjęte przez Komisję rozstrzygnięcia. Szczegółowy zakres informacji zamieszczanych w protokole określa regulamin Komisji. Art. 25. Do zadań Przewodniczącego Komisji należy: 1) kierowanie działalnością Komisji i reprezentowanie jej na zewnątrz; 2) wskazywanie organów i podmiotów publicznych, o których mowa w art. 77 ust. 1 rozporządzenia 2024/1689, a także udostępnianie i aktualizowanie ich wykazu w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji oraz przekazywanie informacji w tym zakresie Komisji Europejskiej i państwom członkowskim Unii Europejskiej; 3) określanie, w drodze zarządzenia, sposobu i metody sprawdzania poziomu wiedzy i kompetencji podmiotów kontrolowanych, o których mowa w art. 26 ust. 2 pkt 2; 4) podejmowanie działań mających na celu spełnienie przez Komisję wymogów, o których mowa w art. 70 ust. 1 rozporządzenia 2024/1689; 5) przedstawianie rocznego sprawozdania z działalności Komisji, o którym mowa w art. 26; 6) podpisywanie zaleceń pokontrolnych, o których mowa w rozdziale 3; 7) powoływanie Zastępców Przewodniczącego Komisji; 8) wyznaczanie Sekretarza Komisji; 9) podpisywanie uchwał Komisji; 10) współdziałanie z dyrektorem generalnym urzędu obsługującego ministra właściwego do spraw informatyzacji; 11) wykonywanie innych zadań powierzonych przez Komisję. Art. 26. 1. Przewodniczący Komisji do dnia 31 marca przedstawia Sejmowi Rzeczypospolitej Polskiej sprawozdanie z działalności Komisji za rok poprzedni. 2. Sprawozdanie z działalności Komisji za rok poprzedni zawiera informacje o: 1) realizacji zadań Komisji i ich efektach; 2) zbiorczych wynikach przeprowadzonych kontroli, w tym w szczególności informacje na temat stwierdzonych nieprawidłowości, jak również o ogólnym poziomie wiedzy oraz o kompetencjach podmiotów kontrolowanych w zakresie realizacji obowiązków określonych w rozporządzeniu 2024/1689 i ustawie; 3) liczbie wydanych opinii indywidualnych i wyjaśnień, liczbie i rodzaju wydanych decyzji oraz prawomocnych orzeczeń sądowych uwzględniających skargi na decyzje lub postanowienia Komisji, a także wnioski wynikające ze stanu przestrzegania przepisów o systemach sztucznej inteligencji; 4) analizie zidentyfikowanych kierunków rozwoju tworzenia i stosowania systemów sztucznej inteligencji oraz modeli sztucznej inteligencji ogólnego przeznaczenia w Rzeczypospolitej Polskiej wraz ze wskazaniem ryzyk, jakie są lub mogą być ich rezultatem, oraz grup osób szczególnie na nie narażonych; 5) realizacji zadań przez Przewodniczącego Komisji; 6) realizacji rocznego planu finansowego stanowiącego podstawę gospodarki finansowej Komisji, którym Komisja dysponowała w roku kalendarzowym poprzedzającym rok złożenia sprawozdania zawierającego również informację o wynagrodzeniu Przewodniczącego i Zastępców Przewodniczącego. 3. Część finansowa sprawozdania z działalności Komisji za rok poprzedni odnosi się do danych wynikających z wykonania planu finansowego części 27 budżetu państwa i ma charakter informacyjno-zadaniowy. 4. Przewodniczący Komisji udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji sprawozdanie z działalności Komisji za rok poprzedni. Art. 27. 1. Przewodniczący Komisji, w zakresie zadań Komisji, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, oraz dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Przewodniczący Komisji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości Komisji, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia; Art. 28. 1. Przewodniczącego Komisji powołuje i odwołuje Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej na pięcioletnią kadencję. 2. Przewodniczącym Komisji może zostać osoba, która: 1) posiada obywatelstwo polskie; 2) korzysta z pełni praw publicznych; 3) posiada co najmniej wykształcenie wyższe i tytuł zawodowy magistra, magistra inżyniera lub tytuł równorzędny; 4) wyróżnia się wiedzą i posiada znaczący dorobek w zakresie sztucznej inteligencji, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub zawodowej na rzecz podmiotów wykonujących działalność w obszarze informatyzacji; 5) posiada co najmniej trzyletni staż pracy na stanowiskach kierowniczych w podmiotach wykonujących działalność w obszarze informatyzacji; 6) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 7) cieszy się nieposzlakowaną opinią i daje rękojmię prawidłowego wykonywania powierzonych zadań; 8) nie posiada orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa. 3. Ta sama osoba nie może być Przewodniczącym Komisji dłużej niż przez dwie kadencje. 4. Przewodniczący Komisji pełni obowiązki do czasu powołania następcy. Art. 29. 1. Kadencja Przewodniczącego Komisji wygasa przed upływem terminu, na jaki został powołany, w razie jego śmierci albo odwołania. 2. W razie wygaśnięcia kadencji obowiązki Przewodniczącego Komisji, do czasu powołania nowego Przewodniczącego Komisji, wykonuje Zastępca Przewodniczącego Komisji wskazany przez ministra właściwego do spraw informatyzacji. Art. 30. 1. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej odwołuje Przewodniczącego Komisji przed upływem kadencji w przypadku: 1) prawomocnego skazania za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 2) orzeczenia zakazu zajmowania kierowniczych stanowisk lub pełnienia funkcji związanych ze szczególną odpowiedzialnością w organach państwa; 3) naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36; 4) pozbawienia praw publicznych; 5) rezygnacji ze stanowiska; 6) utraty obywatelstwa polskiego; 7) utraty zdolności do pełnienia powierzonych obowiązków na skutek długotrwałej choroby trwającej dłużej niż trzy miesiące. 2. Wniosek w sprawie odwołania przez Przewodniczącego Komisji w związku z naruszeniem przepisów art. 35 lub art. 36 przekazuje Sejmowi Rzeczypospolitej Polskiej Społeczna Rada do spraw Sztucznej Inteligencji, zwana dalej „Radą”, na podstawie podjętej uchwały. Art. 31. 1. Zastępców Przewodniczącego Komisji powołuje Przewodniczący Komisji na pięcioletnią kadencję spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. 2. Zastępcą Przewodniczącego Komisji może być osoba, która spełnia wymagania określone w art. 28 ust. 2. 3. Przewodniczący Komisji ogłasza informację o naborze na stanowisko Zastępcy Przewodniczącego Komisji w miejscu powszechnie dostępnym w siedzibie urzędu obsługującego ministra właściwego do spraw informatyzacji i udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 4. Ogłoszenie o naborze zawiera co najmniej: 1) nazwę i adres urzędu obsługującego ministra właściwego do spraw informatyzacji; 2) wskazanie stanowiska, na które jest prowadzony nabór; 3) wymagania związane ze stanowiskiem; 4) zakres zadań wykonywanych na stanowisku; 5) wymagane dokumenty; 6) termin i miejsce składania dokumentów; 7) informacje o metodach i technikach naboru. 5. Termin składania dokumentów nie może być krótszy niż 21 dni od dnia udostępnienia ogłoszenia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 32. 1. Nabór na stanowisko Zastępcy Przewodniczącego Komisji przeprowadza zespół powołany przez Przewodniczącego Komisji, zwany dalej „zespołem”. 2. Zespół liczy co najmniej 3 osoby, których wiedza i doświadczenie w zakresie sztucznej inteligencji lub nauk prawnych, jak również doświadczenie zawodowe uzyskane w trakcie działalności naukowej lub pracy w podmiotach wykonujących działalność w obszarze informatyzacji dają rękojmię wyłonienia najlepszych kandydatów. 3. W toku naboru ocenie podlegają doświadczenie zawodowe kandydata, wiedza niezbędna do wykonywania zadań na stanowisku, na które jest przeprowadzany nabór, oraz kompetencje kierownicze. 4. Zespół może zlecić przeprowadzenie oceny wiedzy i kompetencji kierowniczych, o których mowa w ust. 3, osobie niebędącej członkiem zespołu, która posiada wiedzę, doświadczenie i kwalifikacje, dające rękojmię dokonania tej oceny w sposób zapewniający wyłonienie najlepszych kandydatów. 5. Członek zespołu oraz osoba, o której mowa w ust. 4, mają obowiązek zachowania w tajemnicy uzyskanych w toku naboru informacji dotyczących osób ubiegających się o stanowisko, na które jest prowadzony nabór. 6. W toku naboru zespół wyłania niewięcej niż 3 kandydatów, których przedstawia Przewodniczącemu Komisji. 7. Z przeprowadzonego naboru zespół sporządza protokół, który zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór, oraz liczbę kandydatów; 2) imiona, nazwiska i miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny (Dz. U. z 2025 r. poz. 1071, 1172 i 1508 oraz z 2026 r. poz. 184) wyłonionych kandydatów uszeregowanych według poziomu spełniania przez nich wymagań określonych w ogłoszeniu o naborze; 3) informacje o zastosowanych metodach i technikach naboru; 4) uzasadnienie dokonanego wyboru albo przyczyny niewyłonienia kandydata uzasadniające konieczność wznowienia naboru; 5) skład zespołu. Art. 33. 1. Przewodniczący Komisji ogłasza wynik naboru niezwłocznie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. 2. Ogłoszenie o wyniku naboru zawiera: 1) wskazanie stanowiska, na które był prowadzony nabór; 2) imiona, nazwiska wybranych kandydatów oraz ich miejsca zamieszkania w rozumieniu przepisów ustawy z dnia 23 kwietnia 1964 r. – Kodeks cywilny albo informację o niewyłonieniu kandydata. 3. Udostępnienie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji ogłoszenia o naborze oraz o wyniku tego naboru jest bezpłatne. Art. 34. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji są obowiązani do złożenia oświadczenia o swoim stanie majątkowym na zasadach określonych w art. 10 ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177). 2. Oświadczenie o stanie majątkowym opatruje się kwalifikowanym podpisem elektronicznym i składa ministrowi właściwemu do spraw informatyzacji w postaci elektronicznej. 3. W sprawach nieuregulowanych przepisami ustawy do oświadczeń majątkowych stosuje się odpowiednio przepisy ustawy z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne. Art. 35. 1. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą podejmować innego zatrudnienia, z wyjątkiem zatrudnienia w charakterze nauczyciela akademickiego, pracownika naukowego lub pracownika pionu badawczego w podmiotach systemu szkolnictwa wyższego i nauki, o których mowa w art. 7 ust. 1 pkt 1, 4–6c i 8 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce, ani wykonywać innych zajęć zarobkowych lub niezarobkowych sprzecznych z obowiązkami Przewodniczącego Komisji i Zastępców Przewodniczącego Komisji. 2. Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji nie mogą należeć do partii politycznej, związku zawodowego, prowadzić działalności publicznej niedającej się pogodzić z godnością ich stanowiska oraz podejmować działań, które mogłyby skutkować konfliktem interesów. 3. Obejmując stanowisko, Przewodniczący Komisji i Zastępcy Przewodniczącego Komisji składają oświadczenie o braku konfliktu interesów. Art. 36. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze nie mogą: 1) być akcjonariuszami lub udziałowcami podmiotów podlegających nadzorowi Komisji i ministra właściwego do spraw informatyzacji; 2) być członkami organów podmiotów, o których mowa w pkt 1; 3) podejmować zatrudnienia w podmiotach, o których mowa w pkt 1, na podstawie umowy o pracę, umowy zlecenia, umowy o dzieło, umowy agencyjnej albo na podstawie innej umowy o podobnym charakterze; 4) wykonywać innych czynności, które pozostawałyby w sprzeczności z ich obowiązkami albo mogłyby wywołać podejrzenie o stronniczość lub konflikt interesów. Art. 37. 1. Komisja, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze, przetwarzają dane, o których mowa w art. 39, art. 40 i art. 42, w zakresie niezbędnym do prawidłowej realizacji zadań organu nadzoru rynku, o którym mowa w rozporządzeniu 2024/1689. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. Art. 38. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, oraz pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, i osoby zatrudnione we właściwej komórce organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia umowy agencyjnej albo innych umów o podobnym charakterze, jak również, są obowiązani do nieujawniania osobom nieupoważnionym informacji stanowiących tajemnice prawnie chronione oraz uzyskanych lub wytworzonych w związku z wykonywaniem zadań informacji, których udzielenie, ujawnienie lub potwierdzenie mogłoby naruszyć chroniony prawem interes osób fizycznych lub podmiotów, których te informacje bezpośrednio lub pośrednio dotyczą, lub też utrudnić sprawowanie nadzoru na podstawie przepisów rozporządzenia 2024/1689 i ustawy. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 i osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Obowiązek, o którym mowa w ust. 1, trwa również po ustaniu pełnienia funkcji, rozwiązaniu stosunku pracy lub rozwiązaniu umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze. 4. Nie narusza obowiązku, o którym mowa w ust. 1, w tym obowiązku nieujawniania informacji stanowiących tajemnice prawnie chronione, kto składa zawiadomienie o podejrzeniu popełnienia przestępstwa, a także przekazuje dalsze informacje w celu uzupełnienia tego zawiadomienia. Art. 67. 1. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji treść decyzji wydawanych na podstawie rozporządzenia 2024/1689 i ustawy po usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, wraz z informacją, czy decyzja jest prawomocna. 2. Komisja udostępnia, w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wykaz systemów sztucznej inteligencji, co do których wydano decyzję w sprawie nałożenia kary o naruszenie przepisów rozporządzenia 2024/1689 i ustawy. 3. Wykaz zawiera: 1) nazwę systemu oraz operatora, którego dotyczy decyzja; 2) charakterystykę i opis działania systemu, wraz ze wskazaniem przepisów rozporządzenia 2024/1689 i ustawy będących przedmiotem decyzji; 3) informację o decyzjach dotyczących tego samego operatora lub podmiotu powiązanego z operatorem, podjętych przez właściwe organy nadzoru innych państw członkowskich lub przez Komisję Europejską na podstawie przepisów rozporządzenia 2024/1689; 4) informacje o decyzjach podjętych przez inne organy nadzoru rynku w Rzeczypospolitej Polskiej w sprawach, które dotyczą tego samego systemu, na podstawie przepisów innych niż przepisy rozporządzenia 2024/1689 i ustawy; 5) oznaczenie sprawy oraz odesłanie do treści decyzji, o której mowa w ust. 2. 4. Komisja prowadzi wykaz przy użyciu systemu teleinformatycznego oraz: 1) zapewnia ochronę przed nieuprawnionym dostępem do wykazu; 2) zapewnia integralność danych w wykazie; 3) zapewnia dostępność systemu teleinformatycznego, w którym wykaz jest prowadzony, 4) przeciwdziała uszkodzeniom systemu teleinformatycznego, w którym wykaz jest prowadzony; 5) określa zasady bezpieczeństwa przetwarzanych danych, w tym danych osobowych; 6) zapewnia rozliczalność działań dokonywanych na danych wykazu. 5. Komisja jest administratorem danych przetwarzanych w wykazie. Art. 90. 1. Minister właściwy do spraw informatyzacji, w zakresie zadań organu notyfikującego, określa, w drodze zarządzenia, wymogi, o których mowa w art. 70 ust. 3 rozporządzenia 2024/1689, i dokonuje ich corocznej oceny oraz aktualizacji. 2. W przypadku stwierdzenia, że nie zostały spełnione wymogi o których mowa w ust. 1, minister właściwy do spraw informatyzacji podejmuje działania mające na celu spełnienie tych wymogów. 3. Minister właściwy do spraw informatyzacji przekazuje sprawozdanie, o którym mowa w art. 70 ust. 6 rozporządzenia 2024/1689, w zakresie właściwości organu notyfikującego, Komisji Europejskiej, w postaci elektronicznej, na zasadach określonych w art. 70 ust. 6 tego rozporządzenia. Art. 120. 1. Tworzy się Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 71 Baza danych UE dla systemów AI wysokiego ryzyka wymienionych w załączniku III 1. Komisja - we współpracy z państwami członkowskimi - tworzy i prowadzi bazę danych UE zawierającą informacje, o których mowa w ust. 2 i 3 niniejszego artykułu, dotyczącą systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 2, które zostały zarejestrowane zgodnie z art. 49 i 60 oraz systemów AI, których nie uznaje się za systemy AI wysokiego ryzyka na podstawie art. 6 ust. 3 i które N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia zostały zarejestrowane zgodnie z art. 6 ust. 4 i art. 49. Przy ustalaniu specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z odpowiednimi ekspertami, a przy aktualizacji specyfikacji funkcjonalnych takiej bazy danych Komisja konsultuje się z Radą ds. AI. 2. Dane wymienione w załączniku VIII sekcje A i B są wprowadzane do bazy danych UE przez dostawcę lub - w stosownych przypadkach - przez upoważnionego przedstawiciela. 3. Dane wymienione w załączniku VIII sekcja C są wprowadzane do bazy danych UE przez podmiot stosujący będący organem publicznym, agencją lub jednostką organizacyjną zgodnie z art. 49 ust. 3 i 4, lub działający w imieniu takiego organu, agencji lub jednostki. 4. Z wyjątkiem sekcji, o której mowa w art. 49 ust. 4 i art. 60 ust. 4 lit. c), informacje zawarte w bazie danych UE zarejestrowane zgodnie z art. 49 są dostępne publicznie w sposób przyjazny dla użytkownika. Informacje powinny być łatwe w nawigacji i nadawać się do odczytu maszynowego. Informacje zarejestrowane zgodnie z art. 60 są dostępne wyłącznie dla organów nadzoru rynku i dla Komisji, chyba że potencjalny dostawca lub dostawca wyrazili zgodę na udostępnienie tych informacji również ogółowi społeczeństwa. 5. Baza danych UE zawiera dane osobowe wyłącznie w zakresie, w jakim jest to konieczne do celów związanych ze zbieraniem i przetwarzaniem informacji zgodnie z niniejszym rozporządzeniem. Informacje te obejmują imiona i nazwiska oraz dane kontaktowe osób fizycznych, które są odpowiedzialne za rejestrację systemu i są upoważnione do reprezentowania dostawcy lub w stosownych przypadkach, podmiotu stosującego. 6. Komisja pełni funkcję administratora bazy danych UE. Komisja zapewnia dostawcom, potencjalnym dostawcom oraz podmiotom stosującym odpowiednie wsparcie techniczne i administracyjne. Baza danych UE musi być zgodna z mającymi zastosowanie wymogami dostępności. Art. 72 Prowadzone przez dostawców monitorowanie po wprowadzeniu do obrotu i plan monitorowania systemów AI wysokiego ryzyka po ich wprowadzeniu do obrotu 1. Dostawcy ustanawiają i dokumentują - w sposób proporcjonalny do charakteru technologii AI i ryzyka związanego z wykorzystaniem danego systemu AI wysokiego ryzyka - system monitorowania po wprowadzeniu do obrotu. 2. W ramach systemu monitorowania po wprowadzeniu do obrotu w aktywny i systematyczny sposób zbiera się, dokumentuje i analizuje stosowne dane dotyczące skuteczności działania systemów AI wysokiego ryzyka w całym cyklu ich życia, które to dane mogą być przekazywane przez podmioty stosujące lub mogą być zbierane z innych źródeł; system ten pozwala dostawcy oceniać, czy zapewniona jest ciągła zgodność systemów AI z wymogami ustanowionymi w rozdziale III sekcja N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. W stosownych przypadkach monitorowanie po wprowadzeniu do obrotu obejmuje analizę interakcji z innymi systemami AI. Obowiązek ten nie obejmuje wrażliwych danych operacyjnych podmiotów stosujących będących organami ścigania. 3. System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Do dnia 2 lutego 2026 r. Komisja przyjmuje akt wykonawczy zawierające szczegółowe przepisy określające wzór planu monitorowania po wprowadzeniu do obrotu oraz wykaz elementów, które należy zawrzeć w tym planie. Ten akt wykonawczy przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 4. W odniesieniu do systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku gdy zgodnie z tym prawodawstwem ustanowiono już system i plan monitorowania po wprowadzeniu do obrotu, w celu zapewnienia spójności, unikania powielania prac i zminimalizowania dodatkowych obciążeń, dostawcy mogą się w stosownych przypadkach zdecydować na zintegrowanie - korzystając ze wzoru, o którym mowa w ust. 3 - niezbędnych elementów opisanych w ust. 1, 2 i 3 z systemami i planami istniejącymi już na podstawie tego prawodawstwa, pod warunkiem że zapewnia ono równoważny poziom ochrony. Akapit pierwszy niniejszego artykułu stosuje się również do systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 5, wprowadzonych do obrotu lub oddanych do użytku przez instytucje finansowe objęte na podstawie przepisów prawa Unii dotyczących usług finansowych wymogami dotyczącymi ich systemu zarządzania wewnętrznego, uzgodnień lub procedur. Art. 73 Zgłaszanie poważnych incydentów 1. Dostawcy systemów AI wysokiego ryzyka wprowadzonych do obrotu na rynku Unii zgłaszają wszelkie poważne incydenty organom nadzoru rynku tego państwa członkowskiego, w którym wystąpił dany incydent. 2. Zgłoszenia, o którym mowa w ust. 1, dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego między systemem AI a poważnym incydentem lub dostatecznie wysokiego prawdopodobieństwa wystąpienia takiego związku, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu poważnego incydentu. Termin na dokonanie zgłoszenia, o którym mowa w akapicie pierwszym, uwzględnia dotkliwość danego poważnego incydentu. 3. Niezależnie od ust. 2 niniejszego artykułu w przypadku powszechnego naruszenia lub poważnego incydentu zdefiniowanego w art. 3 pkt 49 lit. b) T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026 r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, zgłoszenia, o którym mowa w ust. 1 niniejszego artykułu, dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący dowiedzieli się o wystąpieniu tego incydentu. 4. Niezależnie od ust. 2 w przypadku, gdy nastąpi śmierć osoby, zgłoszenia dokonuje się natychmiast po stwierdzeniu przez dostawcę lub podmiot stosujący wystąpienia lub podejrzenia wystąpienia związku przyczynowego między systemem AI wysokiego ryzyka a poważnym incydentem, nie później jednak niż w terminie 10 dni od dnia, w którym dostawca lub w stosownych przypadkach, podmiot stosujący AI dowiedzieli się o wystąpieniu danego poważnego incydentu. 5. W przypadku, gdy jest to konieczne do zapewnienia terminowego zgłoszenia, dostawca lub w stosownych przypadkach, podmiot stosujący mogą dokonać niepełnego zgłoszenia wstępnego, a następnie zgłoszenia kompletnego. 6. W następstwie zgłoszenia poważnego incydentu zgodnie z ust. 1 dostawca niezwłocznie przeprowadza niezbędne postępowanie wyjaśniające dotyczące poważnego incydentu oraz przedmiotowego systemu AI. Obejmuje ono ocenę ryzyka danego incydentu oraz działania naprawcze. Podczas postępowania wyjaśniającego, o którym mowa w akapicie pierwszym, dostawca współpracuje z właściwymi organami oraz - w stosownych przypadkach - z zainteresowaną jednostką notyfikowaną osobnego projektu legislacyjnego. i nie podejmuje żadnego działania, które obejmowałoby zmianę danego systemu AI w taki sposób, który mógłby wpłynąć na późniejszą ocenę przyczyn incydentu, dopóki nie poinformuje o takim działaniu właściwego organu. 7. Po otrzymaniu zgłoszenia dotyczącego poważnego incydentu, o którym mowa w art. 3 pkt 49 lit. c), odpowiedni organ nadzoru rynku informuje o tym krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1. Komisja opracowuje specjalne wskazówki ułatwiające spełnienie obowiązków ustanowionych w ust. 1 niniejszego artykułu. Wskazówki wydaje się do dnia 2 sierpnia 2025 r. i podlegają one regularnej ocenie. 8. W terminie siedmiu dni od daty otrzymania powiadomienia, o którym mowa w ust. 1 niniejszego artykułu, organ nadzoru rynku podejmuje odpowiednie środki przewidziane w art. 19 rozporządzenia (UE) 2019/1020 i postępuje zgodnie z procedurami powiadamiania przewidzianymi w tym rozporządzeniu. 9. W przypadku systemów AI wysokiego ryzyka, o których mowa w załączniku III, wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym instrumentom prawnym ustanawiającym obowiązki w zakresie zgłaszania równoważne obowiązkom określonym w niniejszym rozporządzeniu, zgłaszanie poważnych incydentów ogranicza się do tych z nich, o których mowa w art. 3 pkt 49 lit. c). 10. W przypadku systemów AI wysokiego ryzyka, które są związanymi z bezpieczeństwem elementami wyrobów podlegających przepisom rozporządzeń (UE) 2017/745 i (UE) 2017/746, lub które same są takimi wyrobami, zgłaszanie poważnych incydentów ogranicza się do incydentów, o których mowa w art. 3 pkt 49) lit. c) niniejszego rozporządzenia, i dokonuje się go do właściwego organu krajowego wybranego do tego celu przez państwo członkowskie, w którym wystąpił dany incydent. 11. Właściwe organy krajowe natychmiast powiadamiają Komisję o każdym poważnym incydencie zgodnie z art. 20 rozporządzenia (UE) 2019/1020, niezależnie od tego, czy podjęły w związku z nim jakiekolwiek działania. Art. 74 Nadzór rynku i kontrola systemów AI na rynku Unii 1. Do systemów AI objętych niniejszym rozporządzeniem stosuje się przepisy rozporządzenia (UE) 2019/1020. Do celów skutecznego egzekwowania przepisów niniejszego rozporządzenia: a) wszelkie odniesienia do podmiotu gospodarczego w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkich operatorów zidentyfikowanych w art. 2 ust. 1 niniejszego rozporządzenia; b) wszelkie odniesienia do produktu w rozporządzeniu (UE) 2019/1020 należy rozumieć jako obejmujące wszystkie systemy AI wchodzące w zakres stosowania niniejszego rozporządzenia. T Art. 20 Art. 48 -Art. 56 Art. 20. 1. W zakresie określonym przepisami rozporządzenia 2024/1689 i ustawy Komisja współpracuje z: 1) Komisją Nadzoru Finansowego – w zakresie spraw, o których mowa w art. 74 ust. 6 rozporządzenia 2024/1689 i w ustawie; 2) Prezesem Urzędu Ochrony Konkurencji i Konsumentów oraz z innymi organami nadzoru rynku i organami celnymi, o których mowa w art. 58 ustawy z dnia 13 kwietnia 2016 r. o systemach oceny zgodności i nadzoru rynku (Dz. U. z 2025 r. poz. 568) – w Art. 48-art. 56 opisują sposób realizowania podstawowych uprawnień nadzorczych nadanych przez rozporządzenie. Określają uprawnienia organu do pozyskiwania informacji od kontrolowanego. 2. W ramach swoich obowiązków w zakresie sprawozdawczości określonych w art. 34 ust. 4 rozporządzenia (UE) 2019/1020 organy nadzoru rynku co roku przekazują Komisji i odpowiednim krajowym organom ochrony konkurencji wszelkie informacje zebrane w wyniku działań w zakresie nadzoru rynku, które potencjalnie mogą być istotne z punktu widzenia stosowania reguł konkurencji przewidzianych w prawie Unii. Co roku składają one sprawozdania również Komisji dotyczące stwierdzonego w danym roku stosowania zakazanych praktyk oraz podjętych w tym względzie środków. 3. W przypadku systemów AI wysokiego ryzyka, które są powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, za organ nadzoru rynku do celów niniejszego rozporządzenia uznaje się odpowiedzialny za działania w zakresie nadzoru rynku organ wyznaczony na podstawie tych aktów prawnych. W drodze odstępstwa od akapitu pierwszego i w odpowiednich okolicznościach państwa członkowskie mogą wyznaczyć do działania w charakterze organu nadzoru rynku inny odpowiedni organ, pod warunkiem, że zapewnią koordynację między odpowiednimi sektorowymi organami nadzoru rynku odpowiedzialnymi za egzekwowanie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I. 4. Procedur, o których mowa w art. 79-83 niniejszego rozporządzenia, nie stosuje się do systemów AI, które są zakresie spraw, o których mowa w art. 74 ust. 1-5 rozporządzenia 2024/1689 i w ustawie; 3) Prezesem Urzędu Ochrony Danych Osobowych – w zakresie spraw, o których mowa w art. 57 ust. 10 rozporządzenia 2024/1689 i w ustawie; 4) organami określonymi w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689 – w zakresie spraw dotyczących obowiązków wynikających z prawa Unii Europejskiej w zakresie ochrony praw podstawowych; 5) ministrami – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarach będących w ich właściwości i w zakresie zadań określonych w ustawie; 6) Pełnomocnikiem Rządu do spraw Cyberbezpieczeństwa oraz CSIRT GOV, CSIRT MON oraz CSIRT NASK, o których mowa w art. 2 pkt 1–3 ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz. U. z 2026 r. poz. 20) – w zakresie wymiany informacji niezbędnych dla reagowania na incydenty w sprawach związanych z cyberbezpieczeństwem oraz z bezpieczeństwem systemów sztucznej Dodatkowo przepisy zabezpieczają prawa podstawowe obywateli w toku kontroli (por. preambuła; sek. 7). I wskazują zasadę pisemności postępowania organu. powiązane z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w przypadku, gdy w tych aktach prawnych przewidziano już procedury zapewniające równoważny poziom ochrony i mające taki sam cel. W takich przypadkach stosuje się procedury sektorowe. 5. Bez uszczerbku dla uprawnień organów nadzoru rynku na podstawie art. 14 rozporządzenia (UE) 2019/1020 do celów zapewnienia skutecznego egzekwowania przepisów niniejszego rozporządzenia organy nadzoru rynku mogą w stosownych przypadkach wykonywać uprawnienia, o których mowa w art. 14 ust. 4 lit. d) i j) tego rozporządzenia, w sposób zdalny. 6. W przypadku systemów AI wysokiego ryzyka wprowadzonych do obrotu, oddanych do użytku lub wykorzystywanych przez instytucje finansowe podlegające przepisom prawa Unii dotyczącym usług finansowych organem nadzoru rynku do celów niniejszego rozporządzenia jest odpowiedni organ krajowy odpowiedzialny na mocy tych przepisów prawa za nadzór finansowy nad tymi instytucjami, w zakresie, w jakim wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie danego systemu AI jest bezpośrednio związane ze świadczeniem tych usług finansowych. 7. W drodze odstępstwa od ust. 6, w odpowiednich okolicznościach i pod warunkiem zapewnienia koordynacji, państwo członkowskie może do celów niniejszego rozporządzenia wyznaczyć inny odpowiedni organ jako organ nadzoru rynku. inteligencji w rozumieniu przepisów rozporządzenia 2024/1689 i ustawy; 7) Prezesem Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych – w zakresie, którym mowa w art. 2 ustawy z dnia 18 marca 2011 r. o Urzędzie Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (Dz. U. z 2023 r. poz. 1223); 8) Głównym Inspektorem Farmaceutycznym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w wykrywaniu naruszeń prawa w obrocie produktami leczniczymi, monitorowaniu dostępności produktów leczniczych i ciągłości ich dostaw; 9) koordynatorem usług cyfrowych – w zakresie jego zadań określonych w ustawie; 10) Krajową Radą Radiofonii i Telewizji – w zakresie spraw związanych z systemami sztucznej inteligencji generującymi obrazy, treści audio lub wideo w zakresie, który obejmuje działalność dostawców usług medialnych oraz platform udostępniania wideo, o których mowa w art. 1a ust. 1 Krajowe organy nadzoru rynku nadzorujące instytucje kredytowe uregulowane w dyrektywie 2013/36/UE, które uczestniczą w jednolitym mechanizmie nadzorczym ustanowionym rozporządzeniem (UE) nr 1024/2013, powinny niezwłocznie przekazywać Europejskiemu Bankowi Centralnemu wszelkie informacje zebrane w trakcie prowadzonych przez siebie działań w zakresie nadzoru rynku, które potencjalnie mogą mieć znaczenie z punktu widzenia określonych w tym rozporządzeniu zadań EBC dotyczących nadzoru ostrożnościowego. 8. W odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 1 do niniejszego rozporządzenia, w zakresie, w jakim systemy te są wykorzystywane do celów ścigania przestępstw, kontroli granicznej oraz w kontekście wymiaru sprawiedliwości i demokracji, oraz w odniesieniu do systemów AI wysokiego ryzyka wymienionych w załączniku III pkt 6, 7 i 8 niniejszego rozporządzenia, państwa członkowskie wyznaczają jako organy nadzoru rynku do celów niniejszego rozporządzenia właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenia (UE) 2016/679 lub dyrektywy (UE) 2016/680 albo inne organy wyznaczone zgodnie z tymi samymi warunkami ustanowionymi w art. 41-44 dyrektywy (UE) 2016/680. Działania w zakresie nadzoru rynku nie mogą w żaden sposób wpływać na niezależność organów wymiaru sprawiedliwości, ani w żaden inny sposób zakłócać ich czynności związanych ze sprawowaniem przez nie wymiaru sprawiedliwości. ustawy z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222); 11) Urzędem Patentowym Rzeczypospolitej Polskiej – w zakresie spraw związanych z systemami sztucznej inteligencji w obszarze ochrony własności intelektualnej i przemysłowej; 12) Prokuratorem Generalnym – w zakresie spraw związanych z wykorzystaniem systemów sztucznej inteligencji w obszarze ścigania sprawców przestępstw. 2. Komisja w zakresie i na zasadach określonych przepisami rozporządzenia 2024/1689 współpracuje z Komisją Europejską, Europejską Radą do spraw Sztucznej Inteligencji, Panelem Naukowym i z właściwymi organami państw członkowskich Unii Europejskiej, o których mowa w rozporządzeniu 2024/1689. Art. 48. 1. Komisja może prowadzić kontrolę przestrzegania przepisów rozporządzenia 2024/1689 i ustawy, z zastrzeżeniem art. 2 ust. 2. 9. W przypadku, gdy zakresem stosowania niniejszego rozporządzenia objęte są instytucje, organy i jednostki organizacyjne Unii, Europejski Inspektor Ochrony Danych działa w stosunku do nich w charakterze organu nadzoru rynku, z wyjątkiem Trybunał Sprawiedliwości Unii Europejskiej w przypadkach sprawowania przez niego sprawiedliwości. 10. Państwa członkowskie ułatwiają koordynację działań między organami nadzoru rynku wyznaczonymi na podstawie niniejszego rozporządzenia a innymi odpowiednimi organami lub podmiotami krajowymi sprawującymi nadzór nad stosowaniem unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I lub w innych przepisach prawa Unii, które mogą być istotne w kontekście systemów AI wysokiego ryzyka, o których mowa w załączniku III. 11. Organy nadzoru rynku i Komisja mogą proponować wspólne działania, w tym wspólne postępowania, prowadzone przez organy nadzoru rynku albo przez organy nadzoru rynku wspólnie z Komisją, mające na celu promowanie zgodności, wykrywanie przypadków niezgodności, podnoszenie świadomości lub zapewnianie wskazówek dotyczących niniejszego rozporządzenia w odniesieniu do szczególnych kategorii systemów AI wysokiego ryzyka, w przypadku których zgodnie z art. 9 rozporządzenia (UE) 2019/1020 stwierdzono, że stwarzają poważne ryzyko w co najmniej dwóch państwach członkowskich. Urząd ds. AI zapewnia wsparcie w zakresie koordynacji wspólnych postępowań. 2. Kontrolę prowadzi się zgodnie z zatwierdzonym przez Komisję planem kontroli, na podstawie uzyskanych przez Komisję informacji lub w ramach monitorowania przestrzegania przepisów rozporządzenia 2024/1689. 3. Do kontroli podmiotu, zwanego dalej „kontrolowanym”: 1) będącego przedsiębiorcą – stosuje się przepisy rozdziału 5 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców, z wyłączeniem art. 6 pkt 1 i art. 51 ust. 3a tej ustawy; 2) niebędącego przedsiębiorcą – stosuje się przepisy ustawy z dnia 15 lipca 2011 r. o kontroli w administracji rządowej (Dz. U. z 2026 r. poz. 158). 4. Jeżeli kontrola dotyczy osoby fizycznej nieprowadzącej działalności gospodarczej, przepisy art. 59 ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców stosuje się odpowiednio. 5. Do kontroli i zaleceń pokontrolnych stosuje się przepisy działu I rozdziału 8 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 12. Bez uszczerbku dla uprawnień przewidzianych w rozporządzeniu (UE) 2019/1020 oraz w stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania ich zadań, dostawcy udzielają organom nadzoru rynku pełnego dostępu do dokumentacji, a także do zbiorów danych treningowych, walidacyjnych i testowych wykorzystywanych do rozwoju systemów AI wysokiego ryzyka, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem interfejsów programowania aplikacji (API) lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 13. Organom nadzoru rynku udziela się na ich uzasadniony wniosek dostępu do kodu źródłowego systemu AI wysokiego ryzyka i wyłącznie wtedy, gdy spełnione są oba następujące warunki: a) dostęp do kodu źródłowego jest niezbędny do oceny zgodności systemu AI wysokiego ryzyka z wymogami ustanowionymi w rozdziale III sekcja 2; oraz b) zostały wyczerpane lub okazały się niewystarczające procedury testowania lub audytu i weryfikacji w oparciu o dane i dokumentację dostarczone przez dostawcę. 14. Wszelkie informacje lub dokumenty uzyskane przez organy nadzoru rynku traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. Art. 49. 1. Komisja wszczyna kontrolę: 1) z urzędu; 2) na wniosek Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji; 3) na wniosek organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689. 2. Kontrolę przeprowadza się niewcześniej niż po 7 dniach od dnia doręczenia kontrolowanemu zawiadomienia o wszczęciu kontroli. 3. Kontrola lub poszczególne czynności kontrolne są przeprowadzane w sposób zdalny, bez jednoczesnej fizycznej obecności stron, z wykorzystaniem jednego środka lub większej liczby środków porozumiewania się na odległość, w tym za pomocą środków komunikacji elektronicznej w rozumieniu art. 2 pkt 5 ustawy z dnia 18 lipca 2002 r. o świadczeniu usług drogą elektroniczną (Dz. U. z 2024 r. poz. 1513). 4. Ze względu na podejrzenie wystąpienia lub też znaczące prawdopodobieństwo wystąpienia szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy kontrola, Komisja może wydać postanowienie o: 1) przeprowadzeniu części lub całości czynności kontrolnych w siedzibie kontrolowanego lub w miejscu prowadzenia przez niego działalności będącym bezpośrednio powiązanym z zakresem przedmiotowym kontroli; 2) przeprowadzeniu kontroli bez zachowania terminu, o którym mowa w ust. 2, o ile kontrola dotyczy podmiotu, o którym mowa w art. 48 ust. 3 pkt 2. Art. 50. 1. Komisja upoważnia do przeprowadzenia kontroli pracownika właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, zwanego dalej ,,kontrolującym”. 2. W przypadkach, o których mowa w art. 74 ust. 11 rozporządzenia 2024/1689, Komisja może upoważnić do udziału w czynnościach kontrolnych członka lub pracownika organu nadzoru rynku państwa członkowskiego Unii Europejskiej lub Komisji Europejskiej. 3. Osoba wykonująca czynności kontrolne składa na piśmie oświadczenie o niewykonywaniu przez osobę najbliższą: 1) działalności gospodarczej lub 2) czynności na podstawie stosunku pracy lub na innej podstawie prawnej – które są lub co do których istnieje znaczące prawdopodobieństwo, że mogą być przedmiotem kontroli prowadzonych przez Komisję. 4. Przez osobę najbliższą, o której mowa w ust. 3, rozumie się osoby wymienione w art. 115 § 11 ustawy z dnia 6 czerwca 1997 r. – Kodeks karny (Dz. U. z 2025 r. poz. 383, 1818 i 1872). 5. Oświadczenie, o którym mowa w ust. 3, składa się w terminie 30 dni od dnia zatrudnienia pracownika oraz w terminie 3 dni od dnia otrzymania upoważnienia do przeprowadzenia kontroli, a także niepóźniej niż na dzień przed rozpoczęciem kontroli. 6. Do osoby wykonującej czynności kontrolne stosuje się przepisy art. 24 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. 7. Osoba wykonująca czynności kontrolne dokonuje aktualizacji oświadczenia, o którym mowa w ust. 3, w terminie 30 dni od dnia zaistnienia przyczyny zaktualizowania oświadczenia. 8. Osoba wykonująca czynności kontrolne jest obowiązana przestrzegać poufności informacji i danych, w tym danych osobowych, uzyskanych podczas wykonywania swoich zadań określonych w rozporządzeniu 2024/1689 i w ustawie. Art. 51. 1. Kontrolujący przeprowadza kontrolę po doręczeniu kontrolowanemu imiennego upoważnienia do przeprowadzenia kontroli oraz po okazaniu dokumentu tożsamości. 2. Upoważnienie do przeprowadzenia kontroli zawiera: 1) wskazanie podstawy prawnej kontroli; 2) nazwę i adres organu kontroli; 3) datę i miejsce wystawienia upoważnienia; 4) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 5) datę ważności upoważnienia; 6) nazwę i siedzibę albo imię i nazwisko oraz adres kontrolowanego, a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany; 7) określenie zakresu przedmiotowego kontroli; 8) wskazanie daty rozpoczęcia i przewidywanego terminu zakończenia kontroli; 9) imię, nazwisko i podpis Przewodniczącego Komisji; 10) pouczenie o prawach i obowiązkach kontrolowanego. Art. 52. 1. W celu ustalenia stanu faktycznego w toku kontroli kontrolujący ma prawo do: 1) żądania udostępnienia związanych z przedmiotem kontroli materiałów, dokumentów, korespondencji przesyłanej drogą elektroniczną, informatycznych nośników danych w rozumieniu przepisów o informatyzacji działalności podmiotów realizujących zadania publiczne, innych urządzeń zawierających dane informatyczne lub systemów informatycznych i teleinformatycznych, w tym także zapewnienia dostępu do systemów informatycznych i teleinformatycznych oraz do chmury obliczeniowej będących własnością innego podmiotu zawierających dane kontrolowanego związane z przedmiotem kontroli, w zakresie, w jakim kontrolowany ma do nich dostęp; 2) dostępu do związanych z przedmiotem kontroli materiałów, dokumentów i innych danych niezbędnych do przeprowadzenia kontroli; 3) sporządzania notatek z materiałów, dokumentów i innych danych, o których mowa w pkt 1; 4) zabezpieczania materiałów, dokumentów i innych danych, o których mowa w pkt 1; 5) sporządzania niezbędnych dla kontroli kopii lub wyciągów z materiałów, dokumentów i innych danych, o których mowa w pkt 1, jak również zestawień i obliczeń na podstawie dokumentów lub elektronicznych baz danych; 6) żądania złożenia ustnych lub pisemnych wyjaśnień w sprawach związanych z przedmiotem kontroli; 7) przetwarzania danych osobowych w zakresie niezbędnym do realizacji celu kontroli; 8) utrwalania kontroli lub poszczególnych czynności podejmowanych w jej toku, za pomocą urządzeń rejestrujących obraz lub dźwięk, w celu zapewnienia ich prawidłowego przebiegu - po uprzednim poinformowaniu kontrolowanego. 2. Kontrolowany udziela kontrolującemu wszelkich potrzebnych informacji oraz zapewnia mu i osobom, o których mowa w art. 50 ust 2, warunki do sprawnego przeprowadzenia kontroli, a także potwierdza zgodność z oryginałem kopii wyjaśnień sporządzonych na żądanie kontrolującego, oraz zapewnić mu: 1) w przypadku kontroli prowadzonej w sposób inny niż zdalny, możliwość wstępu na grunt oraz do obiektów budowlanych, a także do pomieszczeń i lokali znajdujących się w budynkach; 2) dostęp do materiałów, dokumentów i innych danych lub urządzeń mogących stanowić dowód w sprawie; 3) dostęp do informatycznych nośników danych, urządzeń informatycznych lub systemów informatycznych i teleinformatycznych w zakresie danych zgromadzonych na tych nośnikach, w urządzeniach lub w systemach, w tym do korespondencji przesyłanej drogą elektroniczną. Art. 53. 1. Kontrolujący ustala stan faktyczny na podstawie dowodów zebranych w toku kontroli, w szczególności materiałów, dokumentów, innych danych, o których mowa w art. 52 ust. 1, a także informatycznych nośników danych, urządzeń, w tym urządzeń informatycznych, lub systemów informatycznych i teleinformatycznych, o których mowa w art. 52 ust. 2 pkt 2 i 3 oraz ustnych lub pisemnych wyjaśnień złożonych w toku kontroli. 2. Dowody, o których mowa w ust. 1, mogą zostać zabezpieczone przez kontrolującego, jeżeli jest to technicznie możliwe, przez sporządzenie ich kopii poświadczonych za zgodność z oryginałem. Art. 54. 1. Jeżeli w toku kontroli kontrolowany lub osoba przez niego upoważniona oświadczy, że ujawnione w toku kontroli materiały, dokumenty lub inne dane: 1) zawierają komunikację między kontrolowanym a adwokatem, radcą prawnym, prawnikiem z Unii Europejskiej w rozumieniu art. 2 pkt 2 ustawy z dnia 5 lipca 2002 r. o świadczeniu przez prawników zagranicznych pomocy prawnej w Rzeczypospolitej Polskiej (Dz. U. z 2020 r. poz. 823) lub osobą, o której mowa w art. 2a tej ustawy, wytworzoną w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej w toku przeprowadzanej kontroli, lub 2) zostały sporządzone wyłącznie w celu realizacji prawa kontrolowanego do uzyskania ochrony prawnej od osób, o których mowa w pkt 1 – kontrolujący pozostawia te materiały, dokumenty lub inne dane w miejscu kontroli. 2. W przypadku złożenia oświadczenia, o którym mowa w ust. 1, kontrolujący może zapoznać się pobieżnie z materiałem, dokumentem lub innymi danymi, w sposób pozwalający na ustalenie ich autora, adresata, tytułu i przedmiotu oraz daty ich sporządzenia. Kontrolujący jest uprawniony do żądania od kontrolowanego lub osoby przez niego upoważnionej dodatkowych ustnych wyjaśnień w przedmiocie złożonego oświadczenia oraz do przygotowania wersji materiału, dokumentu lub innych danych niezawierającej informacji objętych ochroną zgodnie z ust. 1, jeżeli jest to możliwe. 3. Jeżeli oświadczenie kontrolowanego lub osoby przez niego upoważnionej, o którym mowa w ust. 1, budzi wątpliwości w zakresie spełnienia przez dany materiał, dokument lub inne dane przesłanek, o których mowa w ust. 1, kontrolujący niezwłocznie, niepóźniej niż po zakończeniu kontroli, przekazuje materiał, dokument lub inne dane, których dotyczy wątpliwość, sądowi ochrony konkurencji i konsumentów w sposób zapewniający należyte zabezpieczenie przed ujawnieniem ich treści. 4. Na kontrolowanym spoczywa ciężar dowodu, że materiały, dokumenty lub inne dane, o których mowa w ust. 1, spełniają przesłanki określone w tym przepisie. 5. Sąd ochrony konkurencji i konsumentów po zapoznaniu się z materiałami, dokumentami lub innymi danymi , o których mowa w ust. 3, wydaje w terminie miesiąca od dnia ich przekazania postanowienie o ich zwrocie kontrolowanemu w całości albo w części, jeżeli spełniają one przesłanki, o których mowa w ust. 1, albo wydaje postanowienie o ich zwrocie w całości albo w części właściwemu organowi na potrzeby prowadzanej kontroli. 6. Na postanowienie sądu ochrony konkurencji i konsumentów, o którym mowa w ust. 5, przysługuje zażalenie do sądu drugiej instancji. Postanowienie podlega wykonaniu z chwilą uprawomocnienia. Art. 55. 1. Komisja w szczególnie uzasadnionych przypadkach może zwrócić się do Policji i do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji o udzielenie pomocy w przeprowadzeniu kontroli, jeżeli jest to niezbędne do jej przeprowadzenia . 2. Policja lub jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji zapewniają pomoc w przeprowadzeniu kontroli. 3. Pomoc udzielana przez: 1) Policję polega na zapewnieniu porządku w miejscu przeprowadzania kontroli oraz osobistego bezpieczeństwa i poszanowania godności osób obecnych w miejscu jej przeprowadzania; 2) jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji polega na wsparciu kontrolującego w ustaleniu stanu faktycznego w zakresie posiadanych przez pracowników tych jednostek wiadomości specjalnych w obszarze bezpieczeństwa systemu sztucznej inteligencji, wymogów określonych w rozdziale III sekcja 2 i jego zgodności z przepisami rozporządzenia 2024/1689. 4. W zakresie spraw, o których mowa w ust. 3 pkt 1, Komisja występuje na piśmie o udzielenie pomocy do Komendanta Stołecznego Policji, komendanta wojewódzkiego Policji właściwego ze względu na miejsce kontroli, lub do jednostek podległych lub nadzorowanych przez ministra właściwego do spraw informatyzacji co najmniej 7 dni przed planowanym dniem rozpoczęcia kontroli. W przypadkach niecierpiących zwłoki Komisja występuje z wnioskiem o udzielenie pomocy, co najmniej 3 dni przed planowanym dniem rozpoczęciem kontroli. 5. Koszty poniesione przez Policję i jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji z tytułu udzielonej pomocy w przeprowadzeniu kontroli pokrywa Komisja. Koszty te ustala się według stawki zryczałtowanej w wysokości 1,5% przeciętnego miesięcznego wynagrodzenia w sektorze przedsiębiorstw bez wypłat nagród z zysku w czwartym kwartale roku poprzedniego, ogłaszanego przez Prezesa Głównego Urzędu Statystycznego, za każdy przypadek udzielenia pomocy. Art. 56. 1. Z przeprowadzonej kontroli kontrolujący sporządza protokół kontroli. 2. Protokół kontroli zawiera co najmniej: 1) wskazanie nazwy i siedziby albo imienia i nazwiska oraz adresu kontrolowanego; 2) w przypadku upoważnienia przez kontrolowanego osoby do reprezentowania w toku kontroli, imię i nazwisko tej osoby; 3) imię (imiona), nazwisko i stanowisko kontrolującego oraz numer dokumentu tożsamości, a w przypadku upoważnienia do udziału w kontroli osób, o których mowa w art. 50 ust. 2 – imię (imiona) i nazwisko oraz numer dokumentu tożsamości; 4) datę rozpoczęcia i zakończenia kontroli; 5) określenie zakresu przedmiotowego kontroli; 6) opis przebiegu kontroli; 7) opis stanu faktycznego ustalonego w toku kontroli i inne informacje mające istotne znaczenie dla przedmiotu kontroli; 8) ustalenia z przeprowadzonej kontroli; 9) pouczenie kontrolowanego lub osoby upoważnionej do jego reprezentowania o prawie zgłaszania zastrzeżeń do protokołu kontroli i o prawie odmowy jego podpisania; 10) datę i miejsce podpisania protokołu kontroli przez kontrolującego i kontrolowanego; 11) uwagi, komentarze lub zastrzeżenia dotyczące przebiegu kontroli zgłoszone przez kontrolowanego po zakończeniu czynności kontrolnych. 3. Do protokołu kontroli załącza się materiał dowodowy istotny dla ustaleń z przeprowadzonej kontroli wraz z i opisem. 4. Protokół kontroli podpisuje kontrolujący i kontrolowany. Kontrolujący sporządza protokół w postaci elektronicznej, opatruje go kwalifikowanym podpisem elektronicznym, podpisem osobistym albo podpisem zaufanym oraz doręcza go kontrolowanemu. 5. Kontrolowany w terminie 7 dni od dnia doręczenia protokołu kontroli podpisuje go i doręcza kontrolującemu albo składa na piśmie zastrzeżenia do jego treści. 6. W razie zgłoszenia zastrzeżeń, do treści protokołu kontroli kontrolujący dokonuje ich analizy i w razie potrzeby podejmuje dodatkowe czynności kontrolne, a w przypadku stwierdzenia zasadności zastrzeżeń zmienia lub uzupełnia odpowiednią część protokołu kontroli w formie aneksu do protokołu kontroli. W razie nieuwzględnienia zastrzeżeń w całości albo w części kontrolujący przekazuje kontrolowanemu informacje o tym wraz z uzasadnieniem. 7. Niewykonanie przez kontrolowanego obowiązku, o którym mowa w ust. 5, uznaje się za odmowę podpisania protokołu kontroli. 8. O odmowie podpisania protokołu kontroli kontrolujący czyni wzmiankę w protokole. Art. 75 Wzajemna pomoc, nadzór rynku i kontrola systemów AI ogólnego przeznaczenia 1. W przypadku, gdy system AI jest oparty na modelu AI ogólnego przeznaczenia i ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI jest uprawniony do monitorowania i nadzorowania zgodności tego systemu AI z obowiązkami wynikającymi z niniejszego rozporządzenia. Do celów wykonywania zadań w zakresie monitorowania i nadzoru Urząd ds. AI ma uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. 2. W przypadku gdy odpowiednie organy nadzoru rynku mają wystarczające powody, by systemy AI ogólnego przeznaczenia, które mogą być wykorzystywane bezpośrednio przez podmioty stosujące do co najmniej jednego celu, który zgodnie z niniejszym rozporządzeniem został zaklasyfikowany jako wysokiego ryzyka, uznać za niezgodne z wymogami ustanowionymi w niniejszym rozporządzeniu, organy te współpracują z Urzędem ds. AI w zakresie przeprowadzenia ocen zgodności i informują o tym odpowiednio Radę ds. AI i pozostałe organy nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku nie jest w stanie zakończyć postępowania dotyczącego systemu AI wysokiego ryzyka z uwagi na niemożność dostępu do niektórych informacji związanych z danym modelem AI ogólnego przeznaczenia pomimo podjęcia wszystkich stosownych wysiłków w zakresie uzyskania tych N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. informacji, może zwrócić się z uzasadnionym wnioskiem do Urzędu ds. AI, który wyegzekwuje dostęp do takich informacji. W takim przypadku Urząd ds. AI udziela organowi wnioskującemu niezwłocznie, a w każdym razie w terminie 30 dni, wszelkich informacji, które Urząd ds. AI uznaje za istotne do celów ustalenia, czy dany system AI wysokiego ryzyka jest niezgodny z wymogami. Organy nadzoru rynku zapewniają poufność otrzymywanych informacji zgodnie z art. 78 niniejszego rozporządzenia. Odpowiednio stosuje się procedurę przewidzianą w rozdziale VI rozporządzenia (UE) 2019/1020. Art. 76 Nadzór organów nadzoru rynku nad testami w warunkach rzeczywistych 1. Organy nadzoru rynku mają kompetencje i uprawnienia w celu zapewnienia, by testy w warunkach rzeczywistych odbywały się zgodnie z niniejszym rozporządzeniem. 2. W przypadku testów w warunkach rzeczywistych prowadzonych na systemach AI nadzorowanych w ramach piaskownicy regulacyjnej w zakresie AI na podstawie art. 58 organy nadzoru rynku weryfikują zgodność z art. 60 w ramach swojej roli nadzorczej w odniesieniu do piaskownicy regulacyjnej w zakresie AI. Organy te mogą, w stosownych przypadkach, zezwolić na prowadzenie przez dostawcę lub potencjalnego dostawcę testów w warunkach rzeczywistych z zastosowaniem odstępstwa od warunków ustanowionych w art. 60 ust. 4 lit. f) i g). N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia. 3. W przypadku, gdy organ nadzoru rynku został przez potencjalnego dostawcę, dostawcę lub stronę trzecią poinformowany o poważnym incydencie lub ma podstawy sądzić, że nie są spełniane warunki ustanowione w art. 60 i 61, może na swoim terytorium podjąć w stosownych przypadkach którąkolwiek z następujących decyzji: a) zawiesić lub zakończyć testy w warunkach rzeczywistych; b) zobowiązać dostawcę lub potencjalnego dostawcę oraz podmiot stosujący i potencjalny podmiot stosujący do zmiany któregokolwiek aspektu testów w warunkach rzeczywistych. 4. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3 niniejszego artykułu, lub zgłosił sprzeciw w rozumieniu art. 60 ust. 4 lit. b), w decyzji lub sprzeciwie podaje się ich uzasadnienie oraz warunki, na jakich dostawca lub potencjalny dostawca mogą zaskarżyć tę decyzję lub sprzeciw. 5. W przypadku, gdy organ nadzoru rynku podjął decyzję, o której mowa w ust. 3, informuje w stosownych przypadkach o powodach takiej decyzji organy nadzoru rynku pozostałych państw członkowskich, w których dany system AI był testowany zgodnie z planem testów. Art. 77 Uprawnienia organów ochrony praw podstawowych 1. Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków T Art. 62 Art. 62. 1. W przypadku uzasadnionego podejrzenia, że działalność strony narusza przepisy rozporządzenia 2024/1689 lub ustawy, Komisja w toku wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, w odniesieniu do wykorzystywania systemów AI wysokiego ryzyka, o których mowa w załączniku III, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkiej dokumentacji sporządzonej lub prowadzonej na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do niej dostępu, kiedy dostęp do tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości. Odpowiedni organ lub podmiot publiczny informuje organ nadzoru rynku zainteresowanego państwa członkowskiego o każdym takim wniosku. 2. Do dnia 2 listopada 2024 r. każde państwo członkowskie wskazuje organy lub podmioty publiczne, o których mowa w ust. 1, i podaje ich wykaz do wiadomości publicznej. Państwa członkowskie przekazują ten wykaz Komisji i pozostałym państwom członkowskim oraz na bieżąco go aktualizują. 3. W przypadku, gdy dokumentacja, o której mowa w ust. 1, jest niewystarczająca do stwierdzenia, czy nastąpiło naruszenie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, organ lub podmiot publiczny, o którym mowa w ust. 1, może wystąpić do organu nadzoru rynku z uzasadnionym wnioskiem o zorganizowanie testów systemu AI wysokiego ryzyka przy użyciu środków technicznych. Organ nadzoru rynku w rozsądnym terminie po otrzymaniu wniosku organizuje testy w ścisłej postępowania może wydać stronie, w drodze postanowienia, ostrzeżenie. 2. W ostrzeżeniu Komisja wskazuje działania umożliwiające przywrócenie stanu zgodnego z prawem, w szczególności w zakresie: 1) zablokowania lub uniemożliwienia użytkownikom uzyskania dostępu do systemu lub do jego elementów będących przedmiotem ostrzeżenia; 2) działań naprawczych na rzecz doprowadzenia systemu do stanu lub sposobu działania zgodnego z przepisami rozporządzenia 2024/1689 lub ustawy; 3) spełnienia obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje oddziaływał, lub może oddziaływać. 3. Strona w terminie 14 dni od dnia otrzymania ostrzeżenia, przedstawia Komisji informację z jego wykonania. 4. W przypadku gdy strona nie wykona ostrzeżenia Komisja może: 1) nakazać stronie, w drodze postanowienia, zablokowanie lub uniemożliwienie uzyskania dostępu przez użytkowników końcowych do współpracy z organem lub podmiotem publicznym, które wystąpiły z wnioskiem. 4. Wszelkie informacje lub dokumenty uzyskane zgodnie z niniejszym artykułem przez krajowe organy lub podmioty publiczne, o których mowa w ust. 1 niniejszego artykułu, traktuje się zgodnie z obowiązkami dotyczącymi poufności określonymi w art. 78. systemu lub do jego elementów będących przedmiotem ostrzeżenia, lub wycofanie z rynku lub z użytku systemu w całości albo w części lub wycofanie elementu, którego dotyczy ostrzeżenie; 2) nakazać stronie, w drodze postanowienia, spełnienie obowiązku informacyjnego wobec użytkowników końcowych, kontrahentów, pracowników lub innych osób stosujących system, lub osób, na które system oddziałuje, oddziaływał lub może oddziaływać; 3) poinformować krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689, Komisję Europejską, Europejską Radę do spraw Sztucznej Inteligencji, Panel Naukowy a także właściwe organy państw członkowskich Unii Europejskiej; 4) umieścić w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji informację o niezastosowaniu się przez stronę do ostrzeżenia. Art. 78 Poufność 1. Komisja, organy nadzoru rynku i jednostki notyfikowane oraz wszelkie inne osoby fizyczne lub prawne zaangażowane w stosowanie niniejszego rozporządzenia przestrzegają, zgodnie z prawem Unii lub prawem krajowym, poufności informacji i danych T Art. 42 Art. 88 Art. 42. 1. Przewodniczący Komisji, Zastępcy Przewodniczącego Komisji, członkowie Komisji, pracownicy właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, osoby zatrudnione we właściwej komórce uzyskanych podczas wykonywania swoich zadań i swojej działalności, aby w szczególności chronić: a) prawa własności intelektualnej oraz poufne informacje handlowe lub tajemnice przedsiębiorstwa osoby fizycznej lub prawnej, w tym kod źródłowy, z wyjątkiem przypadków, o których mowa w art. 5 dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/943; b) skuteczne wdrożenie niniejszego rozporządzenia, w szczególności na potrzeby kontroli, postępowań lub audytów; c) interesy bezpieczeństwa publicznego i narodowego; d) przebieg postępowań karnych i administracyjnych; e) informacje niejawne zgodnie z prawem Unii lub prawem krajowym. 2. Organy zaangażowane w stosowanie niniejszego rozporządzenia zgodnie z ust. 1 zwracają się z wnioskiem o przedstawienie wyłącznie takich danych, które są im bezwzględnie konieczne do oceny ryzyka stwarzanego przez systemy AI i do wykonywania ich uprawnień zgodnie z niniejszym rozporządzeniem i z rozporządzeniem (UE) 2019/1020. Wprowadzają one odpowiednie i skuteczne środki w zakresie cyberbezpieczeństwa, aby chronić bezpieczeństwo i poufność uzyskanych informacji i danych oraz usuwają zebrane dane, gdy tylko przestaną one być potrzebne do celu, w jakim je uzyskano, zgodnie z mającym zastosowanie prawem Unii lub prawem krajowym. organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji, o której mowa w art. 43 ust. 2, na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze przetwarzają informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i w ustawie. 2. Przepis ust. 1 stosuje się także do osób biorących udział w posiedzeniu Komisji, o których mowa w art. 19 ust. 2 i 3 oraz osób upoważnionych do udziału w czynnościach kontrolnych, o których mowa w art. 50 ust. 2. 3. Komisja przekazuje informacje stanowiące tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, podmiotom uprawnionym, o których mowa w art. 1 ust. 2 ustawy z dnia 16 września 2011 r. o wymianie informacji z organami ścigania państw członkowskich Unii Europejskiej, państw trzecich, agencjami Unii Europejskiej oraz organizacjami międzynarodowymi (Dz. U. z 2023 r. poz. 783 oraz z 2025 r. poz. 820 i 1729 oraz z 2026 r. poz. 230), w zakresie 3. Bez uszczerbku dla ust. 1 i 2, informacji wymienianych na zasadzie poufności między właściwymi organami krajowymi oraz między właściwymi organami krajowymi a Komisją nie można ujawniać bez uprzedniej konsultacji z właściwym organem krajowym, który je przekazał, oraz z podmiotem stosującym, w przypadku gdy systemy AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, wykorzystują organy ścigania, organy kontroli granicznej, organy imigracyjne lub organy azylowe, jeżeli takie ujawnienie mogłoby zagrozić interesom bezpieczeństwa publicznego i narodowego. Ta wymiana informacji nie obejmuje wrażliwych danych operacyjnych związanych z działaniami organów ścigania, organów kontroli granicznej, organów imigracyjnych lub azylowych. Jeżeli dostawcami systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 lub 7, są organy ścigania, organy imigracyjne lub organy azylowe, dokumentację techniczną, o której mowa w załączniku IV, przechowuje się w siedzibie tych organów. Organy te zapewniają, aby organy nadzoru rynku, o których mowa odpowiednio w art. 74 ust. 8 i 9, mogły uzyskać na wniosek natychmiastowy dostęp do tej dokumentacji lub otrzymać jej kopię. Dostęp do tej dokumentacji lub jej kopii zastrzeżony jest wyłączenia dla pracowników organu nadzoru rynku posiadających poświadczenie bezpieczeństwa na odpowiednim poziomie. 4. Ust. 1, 2 i 3 nie mają wpływu na prawa i obowiązki Komisji, państw członkowskich i ich odpowiednich organów, a także jednostek notyfikowanych, w zakresie niezbędnym do realizacji ich ustawowych zadań.. Art. 88. Minister właściwy do spraw informatyzacji przetwarza informacje stanowiące tajemnice prawnie chronione, w tym stanowiące tajemnicę przedsiębiorstwa, gdy jest to konieczne dla realizacji zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie. wymiany informacji i rozpowszechnianie ostrzeżeń, w tym w kontekście współpracy transgranicznej; nie mają one również wpływu na obowiązki zainteresowanych stron w zakresie udzielania informacji zgodnie z prawem karnym państw członkowskich. 5. Komisja i państwa członkowskie mogą, w razie potrzeby i zgodnie z odpowiednimi postanowieniami umów międzynarodowych i handlowych, wymieniać informacje poufne z organami regulacyjnymi państw trzecich, z którymi zawarły dwustronne lub wielostronne porozumienia o poufności gwarantujące odpowiedni stopień poufności. Art. 79 Procedura postępowania na poziomie krajowym w przypadku systemów AI stwarzających ryzyko 1. Systemy AI stwarzające ryzyko uznaje się za \"produkt stwarzający ryzyko\" w rozumieniu art. 3 pkt 19 rozporządzenia (UE) 2019/1020 w zakresie, w jakim stwarzane przez nie ryzyko dotyczy zdrowia i bezpieczeństwa lub praw podstawowych osób. 2. W przypadku, gdy organ nadzoru rynku państwa członkowskiego ma wystarczające powody, aby uznać, że system AI stwarza ryzyko, o którym mowa w ust. 1 niniejszego artykułu, organ ten przeprowadza ocenę danego systemu AI pod względem jego zgodności ze wszystkimi wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. Szczególną uwagę należy zwrócić na systemy AI stwarzające ryzyko dla grup szczególnie wrażliwych. W przypadku gdy zostanie stwierdzone ryzyko dla praw podstawowych, organ T Art. 64 ust.1 Art. 64. 1. Komisja wszczyna postępowanie z urzędu w przypadku gdy ma wystarczające powody, aby uznać, że system sztucznej inteligencji stwarza ryzyko, o którym mowa w art. 79 rozporządzenia 2024/1689 lub ust. 2. nadzoru rynku informuje o tym również odpowiednie krajowe organy lub podmioty publiczne, o których mowa w art. 77 ust. 1, i współpracuje z nimi w pełnym zakresie. Odpowiedni operatorzy współpracują w razie potrzeby z organem nadzoru rynku i innymi krajowymi organami lub podmiotami publicznymi, o których mowa w art. 77 ust. 1. W przypadku gdy w trakcie tej oceny organ nadzoru rynku lub, w stosownych przypadkach, organ nadzoru rynku we współpracy z krajowym organem publicznym, o którym mowa w art. 77 ust. 1, ustalą, że system AI nie jest zgodny z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, bez zbędnej zwłoki zobowiązuje odpowiedniego operatora do podjęcia wszelkich odpowiednich działań naprawczych, aby zapewnić zgodność tego systemu AI z wymogami, wycofać ten system z rynku lub z użytku w terminie, który może zostać wyznaczony przez organ nadzoru rynku, a w każdym razie w terminie krótszym niż 15 dni roboczych lub przewidzianym w odpowiednim unijnym prawodawstwie harmonizacyjnym. Organ nadzoru rynku informuje o tym odpowiednią jednostkę notyfikowaną. Do środków, o których mowa w akapicie drugim niniejszego ustępu, stosuje się art. 18 rozporządzenia (UE) 2019/1020. 3. W przypadku, gdy organ nadzoru rynku uzna, że niezgodność nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o wynikach oceny i działaniach, do których podjęcia zobowiązał operatora. 4. Operator zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 5. W przypadku niepodjęcia przez operatora systemu AI odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2, organ nadzoru rynku podejmuje wszelkie odpowiednie środki tymczasowe w celu zakazania lub ograniczenia udostępniania lub oddawania do użytku tego systemu AI na podległym mu rynku krajowym, lub w celu wycofania produktu lub samodzielnego systemu AI z tego rynku lub z użytku. Organ ten bez zbędnej zwłoki powiadamia o tych środkach Komisję i pozostałe państwa członkowskie. 6. W powiadomieniu, o którym mowa w ust. 5, zawiera się wszelkie dostępne informacje szczegółowe, w szczególności takie jak informacje niezbędne do identyfikacji niezgodności systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter zarzucanej niezgodności i związanego z nią ryzyka, charakter i okres obowiązywania podjętych środków krajowych oraz argumenty przedstawione przez odpowiedniego operatora. W szczególności organy nadzoru rynku wskazują, czy niezgodność wynika z jednego z następujących czynników: a) nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5; b) niespełnienia przez system AI wysokiego ryzyka wymogów określonych w rozdziale III sekcja 2; c) braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41, stanowiących podstawę domniemania zgodności; d) niezgodności z art. 50. 7. Organy nadzoru rynku inne niż organ nadzoru rynku państwa członkowskiego, w którym wszczęto postępowanie, bez zbędnej zwłoki informują Komisję i pozostałe państwa członkowskie o wszelkich przyjętych środkach i o wszelkich posiadanych dodatkowych informacjach dotyczących niezgodności danego systemu AI, a w przypadku, gdy nie zgadzają się ze środkiem krajowym, o którym zostały powiadomione - o swoim sprzeciwie. 8. W przypadku, gdy w terminie trzech miesięcy od dnia powiadomienia, o którym mowa w ust. 5 niniejszego artykułu, organ nadzoru rynku jednego z państw członkowskich, ani Komisja nie zgłoszą sprzeciwu wobec środka tymczasowego przyjętego przez organ nadzoru rynku innego państwa członkowskiego, środek ten uznaje się za uzasadniony. Pozostaje to bez uszczerbku dla praw proceduralnych danego operatora określonych w art. 18 rozporządzenia (UE) 2019/1020. Termin trzech miesięcy, o którym mowa w niniejszym ustępie, skraca się do 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 niniejszego rozporządzenia. 9. Organy nadzoru rynku zapewniają, by bez zbędnej zwłoki zostały podjęte odpowiednie środki ograniczające w odniesieniu do danego produktu lub systemu AI, takie jak wycofanie produktu lub systemu AI z podległego im rynku. Art. 80 Procedura postępowania w przypadku systemów AI zaklasyfikowanych przez dostawcę jako niebędące systemami wysokiego ryzyka w zastosowaniu załącznika III 1. W przypadku, gdy organ nadzoru rynku ma wystarczające powody, by sądzić, że system AI zaklasyfikowany przez dostawcę zgodnie z art. 6 ust. 3 pkt I jako niebędący systemem wysokiego ryzyka jest w istocie systemem wysokiego ryzyka, organ ten przeprowadza ocenę danego systemu AI w zakresie jego klasyfikacji jako system AI wysokiego ryzyka na podstawie warunków ustanowionych w art. 6 ust. 3 i wytycznych Komisji. 2. W przypadku, gdy w trakcie tej oceny organ nadzoru rynku ustali, że dany system AI jest systemem wysokiego ryzyka, bez zbędnej zwłoki zobowiązuje danego dostawcę do podjęcia wszystkich działań niezbędnych do osiągnięcia zgodności systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu, jak również podjęcia odpowiednich działań naprawczych w terminie, który może zostać wyznaczony przez organ nadzoru rynku. 3. W przypadku, gdy organ nadzoru rynku uzna, że wykorzystywanie danego systemu AI nie ogranicza się do terytorium jego państwa, bez zbędnej zwłoki informuje Komisję i pozostałe państwa członkowskie o N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia wynikach oceny i działaniach, do których podjęcia zobowiązał dostawcę. 4. Dostawca zapewnia podjęcie wszystkich działań niezbędnych do zapewnienia zgodności danego systemu AI z wymogami i obowiązkami ustanowionymi w niniejszym rozporządzeniu. W przypadku gdy dostawca danego systemu AI nie zapewni zgodności tego systemu z tymi wymogami i obowiązkami w terminie, o którym mowa w ust. 2 niniejszego artykułu, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 5. Dostawca zapewnia podjęcie wszelkich odpowiednich działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnił na rynku Unii. 6. W przypadku, gdy dostawca danego systemu AI nie podejmie odpowiednich działań naprawczych w terminie, o którym mowa w ust. 2 niniejszego artykułu, stosuje się art. 79 ust. 5-9. 7. W przypadku, gdy w trakcie oceny zgodnie z ust. 1 niniejszego artykułu organ nadzoru rynku ustali, że dany system AI został przez dostawcę błędnie zaklasyfikowany jako system niebędący systemem wysokiego ryzyka w celu obejścia stosowania wymogów ustanowionych w rozdziale III sekcja 2, dostawca ten podlega karom pieniężnym zgodnie z art. 99. 8. Wykonując swoje uprawnienia w zakresie monitorowania stosowania niniejszego artykułu oraz zgodnie z art. 11 rozporządzenia (UE) 2019/1020 organy nadzoru rynku mogą przeprowadzać odpowiednie kontrole, uwzględniając w szczególności informacje przechowywane w bazie danych UE, o której mowa w art. 71 niniejszego rozporządzenia. Art. 81 Unijna procedura ochronna 1. W przypadku gdy w terminie trzech miesięcy od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, lub w terminie 30 dni w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5, organ nadzoru rynku jednego z państw członkowskich zgłosi sprzeciw wobec środka podjętego przez inny organ nadzoru rynku lub w przypadku gdy Komisja uzna taki środek za sprzeczny z prawem Unii, Komisja bez zbędnej zwłoki przystępuje do konsultacji z organem nadzoru rynku danego państwa członkowskiego i operatorem lub operatorami i dokonuje oceny takiego środka krajowego. Na podstawie wyników tej oceny Komisja w terminie sześciu miesięcy lub 60 dni - w przypadku nieprzestrzegania zakazu praktyk w zakresie AI, o których mowa w art. 5 - licząc od dnia otrzymania powiadomienia, o którym mowa w art. 79 ust. 5, rozstrzyga, czy środek krajowy jest uzasadniony i powiadamia o swojej decyzji organ nadzoru rynku zainteresowanego państwa członkowskiego. Komisja powiadamia również wszystkie pozostałe krajowe organy nadzoru rynku o swojej decyzji. 2. W przypadku, gdy Komisja uzna, że środek podjęty przez dane państwo członkowskie jest uzasadniony, wszystkie państwa członkowskie zapewniają podjęcie N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia bez zbędnej zwłoki odpowiednich środków ograniczających w odniesieniu do danego systemu AI, takich jak zobowiązujące do wycofania tego systemu AI z ich rynku, oraz informują o tym Komisję. W przypadku gdy Komisja uzna środek krajowy za nieuzasadniony, zainteresowane państwo członkowskie cofa dany środek oraz informuje odpowiednio Komisję. 3. W przypadku uznania krajowego środka za uzasadniony i stwierdzenia, że niezgodność systemu AI wynika z braków w normach zharmonizowanych lub wspólnych specyfikacjach, o których mowa w art. 40 i 41 niniejszego rozporządzenia, Komisja stosuje procedurę przewidzianą w art. 11 rozporządzenia (UE) nr 1025/2012. Art. 82 Zgodne systemy AI stwarzające ryzyko 1. W przypadku gdy po przeprowadzeniu oceny zgodnie z art. 79, po konsultacji z odpowiednim krajowym organem publicznym, o którym mowa w art. 77 ust. 1, organ nadzoru rynku państwa członkowskiego ustali, że chociaż system AI wysokiego ryzyka jest zgodny z niniejszym rozporządzeniem, stwarza jednak ryzyko dla zdrowia lub bezpieczeństwa osób, dla praw podstawowych lub dla innych aspektów ochrony interesu publicznego, organ ten zobowiązuje właściwego operatora do podjęcia bez zbędnej zwłoki wszelkich odpowiednich środków w celu zapewnienia, aby dany system AI po wprowadzeniu do obrotu lub oddaniu do użytku nie stwarzał już takiego ryzyka, w T Przepis dotyczy systemów AI wysokiego ryzyka. Przepisy rozporządzenia odnoszące się do tej kategorii systemów wejdą w życie 2.08.2026r. W związku z tym, jak również koniecznością przeprowadzenia w tym zakresie prac na poziomie Komisji Europejskiej oraz terminie, który może zostać wyznaczony przez ten organ. 2. Dostawca lub inny właściwy operator zapewniają podjęcie działań naprawczych w odniesieniu do wszystkich systemów AI, które udostępnili na rynku Unii, w terminie wyznaczonym przez organ nadzoru rynku państwa członkowskiego, o którym mowa w ust. 1. 3. Państwa członkowskie natychmiast powiadamiają Komisję i pozostałe państwa członkowskie o swoim ustaleniu zgodnie z ust. 1. W powiadomieniu tym zawiera się wszelkie dostępne szczegółowe informacje, w szczególności dane niezbędne do identyfikacji danego systemu AI, pochodzenie systemu AI i informacje na temat jego łańcucha dostaw, charakter przedmiotowego ryzyka oraz charakter i okres obowiązywania podjętych środków krajowych. 4. Komisja bez zbędnej zwłoki przystępuje do konsultacji z zainteresowanymi państwami członkowskim i właściwymi operatorami i ocenia podjęte środki krajowe. Na podstawie wyników tej oceny Komisja podejmuje decyzję czy środek krajowy jest uzasadniony i w razie potrzeby proponuje inne odpowiednie środki. 5. Komisja natychmiast przekazuje swoją decyzję do zainteresowanych państw członkowskich i operatorów. Komisja powiadamia również pozostałe państwa członkowskie. Europejskiej Rady ds. AI, zostanie on objęty pracami legislacyjnymi w ramach kolejnego, osobnego projektu legislacyjnego. Art. 83 Niezgodność formalna 1. Organ nadzoru rynku państwa członkowskiego zobowiązuje właściwego dostawcę do usunięcia niezgodności w terminie, który może zostać wyznaczony przez ten organ, w przypadku, gdy ustali, że: a) oznakowanie CE zostało umieszczone z naruszeniem art. 48; b) oznakowanie CE nie zostało umieszczone; c) deklaracja zgodności UE, o której mowa w art. 47, nie została sporządzona; d) deklaracja zgodności UE, o której mowa w art. 47, została sporządzona nieprawidłowo; e) rejestracja w bazie danych, o której mowa w art. 71, UE nie została dokonana; f) upoważniony przedstawiciel nie został, w stosownych przypadkach, ustanowiony; g) brakuje dokumentacji technicznej. 2. W przypadku, gdy niezgodność, o której mowa w ust. 1, utrzymuje się, krajowy organ nadzoru rynku zainteresowanego państwa członkowskiego podejmuje wszelkie odpowiednie i proporcjonalne środki w celu ograniczenia lub zakazania udostępniania na rynku takiego systemu AI wysokiego ryzyka lub zapewnienia, aby system ten niezwłocznie wycofano z użytku lub z rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 84 Unijne struktury wsparcia testowania AI 1. Komisja wyznacza co najmniej jedną unijną strukturę wsparcia testowania AI do wykonywania w obszarze AI zadań wymienionych w art. 21 ust. 6 rozporządzenia (UE) 2019/1020. 2. Bez uszczerbku dla zadań, o których mowa w ust. 1, unijne struktury wsparcia testowania AI zapewniają również niezależne doradztwo techniczne lub naukowe na wniosek Rady ds. AI, Komisji lub organów nadzoru rynku. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 85 Prawo do wniesienia skargi do organu nadzoru rynku Bez uszczerbku dla innych administracyjnych lub sądowych środków ochrony prawnej każda osoba fizyczna lub prawna mająca podstawy, by uznać, że zostały naruszone przepisy niniejszego rozporządzenia, może wnieść skargę do odpowiedniego organu nadzoru rynku. Zgodnie z rozporządzeniem (UE) 2019/1020 takie skargi bierze się pod uwagę do celów prowadzenia działań w zakresie nadzoru rynku i rozpatruje się je zgodnie ze specjalnymi procedurami ustanowionymi w związku z tym przez organy nadzoru rynku. T Art. 60 Art. 60. 1. Osoba fizyczna, osoba prawna albo jednostka organizacyjna nieposiadająca osobowości prawnej, zwana dalej „skarżącym”, może złożyć do Komisji skargę. 2. Skarga, zawiera: 1) nazwę lub opis systemu, którego dotyczy skarga, oraz, jeżeli jest to możliwe do ustalenia, nazwę i adres do doręczeń elektronicznych podmiotu, którego dotyczy skarga; 2) opis istotnych faktów i powody, dla których skarżący uważa, że doszło do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy; 3) inne informacje uznane przez skarżącego za istotne dla sprawy, w tym, informacje zebrane z własnej inicjatywy. 3. Skargę składa się Komisji w postaci elektronicznej. W przypadku braku możliwości jej złożenia w tej postaci dopuszcza się złożenie skargi w postaci papierowej. 4. Rozpatrując skargę Komisja może współpracować z organami, o których mowa w art. 20 ust. 1, w zakresie, w jakim skarga dotyczy ich właściwości. 5. Rozpatrując skargę, w przypadku stwierdzenia możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, Komisja wszczyna z urzędu postępowanie. Art. 86 Prawo do uzyskania wyjaśnienia na temat procedury podejmowania decyzji w indywidualnej sprawie 1. Każda osoba, na którą AI ma wpływ, będąca przedmiotem decyzji podjętej przez podmiot stosujący na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika, która to decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskania od podmiotu stosującego jasnego i N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia merytorycznego wyjaśnienia roli tego systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji. 2. Ust. 1 nie stosuje się do wykorzystywania systemów AI, w odniesieniu do których z prawa Unii lub zgodnego z prawem Unii prawa krajowego wynikają wyjątki lub ograniczenia dotyczące stosowania obowiązku ustanowionego w tym ustępie. 3. Niniejszy artykuł stosuje się jedynie w zakresie, w jakim prawo, o którym mowa w ust. 1, nie zostało inaczej ustanowione w prawie Unii. Art. 87 Zgłaszanie naruszeń i ochrona osób dokonujących zgłoszeń Do zgłaszania naruszeń niniejszego rozporządzenia oraz w kwestiach ochrony osób zgłaszających takie naruszenia stosuje się przepisy dyrektywy (UE) 2019/1937. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 88 Egzekwowanie obowiązków dostawców modeli AI ogólnego przeznaczenia 1. Komisja ma wyłączne uprawnienia do nadzorowania i egzekwowania przestrzegania przepisów rozdziału V, przy uwzględnieniu gwarancji proceduralnych na podstawie art. 94. Komisja powierza realizację tych zadań Urzędowi ds. AI, bez uszczerbku dla uprawnień organizacyjnych Komisji i podziału kompetencji między państwami członkowskimi a Unią na podstawie Traktatów. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 2. Bez uszczerbku dla art. 75 ust. 3 organy nadzoru rynku mogą zwrócić się do Komisji o wykonanie uprawnień ustanowionych w niniejszej sekcji, w przypadku, gdy jest to konieczne i proporcjonalne w kontekście realizacji ich zadań na podstawie niniejszego rozporządzenia. Art. 89 Działania monitorujące 1. Do celów wykonywania zadań powierzonych w niniejszej sekcji Urząd ds. AI może podejmować działania niezbędne do monitorowania skutecznego wdrożenia i zapewnienia zgodności z niniejszym rozporządzeniem przez dostawców modeli AI ogólnego przeznaczenia, w tym przestrzegania przez nich zatwierdzonych kodeksów praktyk. 2. Dostawcy niższego szczebla mają prawo wniesienia skargi dotyczącej naruszenia niniejszego rozporządzenia. Skarga musi być należycie uzasadniona i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia; b) opis istotnych faktów, stosowne przepisy niniejszego rozporządzenia oraz powody, dla których dostawca niższego szczebla uważa, że dostawca systemu AI ogólnego przeznaczenia naruszył niniejsze rozporządzenie; c) wszelkie inne informacje uznane za istotne przez dostawcę niższego szczebla, który wysłał zgłoszenie, w N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 90 Ostrzeżenia o ryzyku systemowym wydawane przez panel naukowy 1. Panel naukowy może wydawać ostrzeżenia kwalifikowane skierowane do Urzędu ds. AI, w przypadku, gdy ma powody podejrzewać, że: a) model AI ogólnego przeznaczenia stwarza konkretne możliwe do zidentyfikowania ryzyko na poziomie Unii; lub b) model AI ogólnego przeznaczenia spełnia warunki, o których mowa w art. 51. 2. Po otrzymaniu takiego ostrzeżenia kwalifikowanego Komisja, za pośrednictwem Urzędu ds. AI i po poinformowaniu Rady ds. AI, może wykonać uprawnienia ustanowione w niniejszej sekcji do celów oceny danej sprawy. Urząd ds. AI informuje Radę ds. AI o wszelkich środkach zgodnie z art. 91-94. 3. Ostrzeżenie kwalifikowane musi być należycie uzasadnione i zawierać co najmniej: a) dane kontaktowe danego dostawcy modelu AI ogólnego przeznaczenia z ryzykiem systemowym; b) opis stosownych faktów i uzasadnienie wydania ostrzeżenia przez panel naukowy; N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia c) wszelkie inne informacje, które panel naukowy uważa za istotne, w tym, w stosownych przypadkach, informacje zebrane z własnej inicjatywy. Art. 91 Uprawnienie do zwracania się z wnioskiem o przedstawienie dokumentacji i informacji 1. Komisja może zwrócić się do dostawcy danego modelu AI ogólnego przeznaczenia z wnioskiem o przedstawienie dokumentacji sporządzonej przez niego zgodnie art. 53 i 55 lub wszelkich dodatkowych informacji niezbędnych do celów oceny zgodności dostawcy z niniejszym rozporządzeniem. 2. Przed wysłaniem wniosku o przedstawienie informacji Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Na należycie uzasadniony wniosek panelu naukowego Komisja może skierować do dostawcy modelu AI ogólnego przeznaczenia wniosek o przedstawienie informacji, w przypadku, gdy dostęp do informacji jest niezbędny i proporcjonalny do realizacji zadań panelu naukowego na podstawie art. 68 ust. 2. 4. We wniosku o przekazanie informacji wskazuje się podstawę prawną i cel wniosku, podaje, jakie informacje stanowią przedmiot wniosku oraz określa się termin na przekazanie tych informacji, a także wskazuje przewidziane w art. 101 kary pieniężne za dostarczenie informacji nieprawidłowych, niekompletnych lub wprowadzających w błąd. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia 5. Dostawca danego modelu AI ogólnego przeznaczenia lub jego przedstawiciel dostarczają informacje stanowiące przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie ma osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego dostarczają w imieniu dostawcy danego modelu AI ogólnego przeznaczenia informacje stanowiące przedmiot wniosku. Prawnicy należycie upoważnieni do działania mogą dostarczać informacje w imieniu swoich klientów. Klienci ponoszą jednak pełną odpowiedzialność, jeśli dostarczone informacje są nieprawidłowe, niekompletne lub wprowadzające w błąd. Art. 92 Uprawnienia do przeprowadzania ocen 1. Urząd ds. AI po konsultacji z Radą ds. AI może przeprowadzać oceny danego modelu AI ogólnego przeznaczenia: a) do celów oceny spełniania przez danego dostawcę obowiązków na podstawie niniejszego rozporządzenia, w przypadku, gdy informacje zgromadzone zgodnie z art. 91 są niewystarczające; lub b) do celów badania na poziomie Unii ryzyka systemowego modeli AI ogólnego przeznaczenia z ryzykiem systemowym, w szczególności w następstwie ostrzeżenia kwalifikowanego panelu naukowego zgodnie z art. 90 ust. 1 lit. a). 2. Komisja może podjąć decyzję o powołaniu niezależnych ekspertów do przeprowadzania ocen w jej N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia imieniu, w tym z panelu naukowego ustanowionego zgodnie z art. 68. Niezależni eksperci powołani do tego zadania muszą spełniać kryteria określone w art. 68 ust. 2. 3. Do celów ust. 1 Komisja może zwrócić się z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych, w tym do kodu źródłowego. 4. We wniosku o udzielenie dostępu wskazuje się podstawę prawną, cel i uzasadnienie wniosku oraz określa się termin na udzielenie tego dostępu, a także wskazuje przewidziane w art. 101 kary pieniężne za nieudzielenie dostępu. 5. Dostawcy modeli AI ogólnego przeznaczenia oraz ich przedstawiciele dostarczają informacji stanowiących przedmiot wniosku. W przypadku osób prawnych, spółek lub firm lub w przypadku gdy dostawca nie posiada osobowości prawnej, osoby upoważnione do ich reprezentowania z mocy prawa lub na podstawie aktu założycielskiego udzielają w imieniu danego dostawcy modelu AI ogólnego przeznaczenia dostępu stanowiącego przedmiot wniosku. 6. Komisja przyjmuje akty wykonawcze określające szczegółowe zasady i warunki przeprowadzania ocen, w tym szczegółowe zasady dotyczące udziału niezależnych ekspertów, oraz procedurę ich wyboru. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. 7. Przed wystąpieniem z wnioskiem o udzielenie dostępu do danego modelu AI ogólnego przeznaczenia Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą danego modelu AI ogólnego przeznaczenia, aby zgromadzić więcej informacji na temat wewnętrznych testów modelu, wewnętrznych zabezpieczeń w celu zapobieżenia ryzyku systemowemu oraz innych wewnętrznych procedur i środków, jakie dostawca podjął w celu ograniczenia takiego ryzyka. Art. 93 Uprawnienia do żądania podjęcia środków 1. W miarę konieczności i w stosownych przypadkach Komisja może zwrócić się do dostawców z żądaniem dotyczącym: a) podjęcia odpowiednich środków w celu spełnienia obowiązków określonych w art. 53 i 54; b) wdrożenia środków zaradczych, w przypadku, gdy z oceny przeprowadzonej zgodnie z art. 92 wynika poważna i uzasadniona obawa wystąpienia ryzyka systemowego na poziomie Unii; c) ograniczenia udostępniania modelu na rynku, wycofania modelu z rynku lub z użytku. 2. Przed wystąpieniem z żądaniem podjęcia środka Urząd ds. AI może rozpocząć zorganizowany dialog z dostawcą modelu AI ogólnego przeznaczenia. 3. Jeśli w trakcie zorganizowanego dialogu, o którym mowa w ust. 2, dostawca modelu AI ogólnego przeznaczenia z ryzykiem systemowym zobowiąże się do wdrożenia środków zaradczych w celu N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia przeciwdziałania ryzyku systemowemu na poziomie Unii, Komisja może w drodze decyzji uczynić te zobowiązania wiążącymi i oświadczyć, że nie ma podstaw do dalszych działań. Art. 94 Prawa proceduralne podmiotów gospodarczych będących dostawcami modeli AI ogólnego przeznaczenia Art. 18. rozporządzenia (UE) 2019/1020 stosuje się odpowiednio do dostawców modeli AI ogólnego przeznaczenia, bez uszczerbku dla bardziej szczególnych praw proceduralnych przewidzianych w niniejszym rozporządzeniu. N Przepis o charakterze ogólnym stosowany wprost nie wymaga wdrożenia Art. 95 Kodeksy postępowania do celów dobrowolnego stosowania szczególnych wymogów 1. Urząd ds. AI i państwa członkowskie zachęcają do opracowywania kodeksów postępowania, w tym powiązanych mechanizmów zarządzania, i ułatwiają opracowywanie takich kodeksów, których celem jest propagowanie dobrowolnego stosowania w odniesieniu do systemów AI niebędących systemami wysokiego ryzyka niektórych lub wszystkich wymogów ustanowionych w rozdziale III sekcja 2, przy uwzględnieniu dostępnych rozwiązań technicznych i najlepszych praktyk branżowych umożliwiających stosowanie takich wymogów. 2. Urząd ds. AI i państwa członkowskie ułatwiają opracowywanie kodeksów postępowania dotyczących dobrowolnego stosowania, również przez podmioty stosujące, szczególnych wymogów w odniesieniu do T Art. 98 Art. 98. 1. Minister właściwy do spraw informatyzacji wykonuje zadania, o których mowa w art. 95 rozporządzenia 2024/1689, przez wydawanie rekomendacji najlepszych praktyk stosowania systemów sztucznej inteligencji. 2. Minister właściwy do spraw informatyzacji do dnia 31 marca każdego roku przekazuje Radzie Ministrów oraz Komisji informację na temat wymaganych zasobów obliczeniowych do dalszego rozwoju systemów sztucznej inteligencji i prognozowanego zużycia energii z tego tytułu. wszystkich systemów AI, na podstawie jasnych celów i kluczowych wskaźników skuteczności działania służących do pomiaru stopnia realizacji tych celów, w tym między innymi następujących elementów: a) mające zastosowanie elementy przewidziane w unijnych wytycznych etycznych dotyczących godnej zaufania AI; b) ocena i minimalizacja oddziaływania systemów AI na zrównoważenie środowiskowe, w tym w odniesieniu do energooszczędnego programowania i technik wydajnego projektowania, trenowania i wykorzystywania AI; c) promowanie kompetencji w zakresie AI, w szczególności w odniesieniu do osób mających związek z rozwojem, działaniem i wykorzystywaniem AI; d) sprzyjanie inkluzywności i różnorodności przy projektowaniu systemów AI, w tym poprzez tworzenie inkluzywnych i różnorodnych zespołów programistycznych oraz promowanie udziału zainteresowanych stron w tym procesie; e) ocena i zapobieganie negatywnemu oddziaływaniu systemów AI na osoby szczególnie wrażliwe lub grupy osób szczególnie wrażliwych, w tym z punktu widzenia dostępności dla osób z niepełnosprawnościami, jak również na równość płci. 3. Kodeksy postępowania mogą być opracowywane przez poszczególnych dostawców systemów AI lub podmioty stosujące systemy AI lub przez reprezentujące ich organizacje, w tym przy udziale wszelkich zainteresowanych stron oraz reprezentujących je organizacji, w tym organizacji społeczeństwa obywatelskiego i środowiska akademickiego. Kodeksy postępowania mogą obejmować jeden lub większą liczbę systemów AI, przy uwzględnieniu podobieństw w przeznaczeniu danych systemów. 4. W ramach zachęcania do opracowywania kodeksów postępowania i ułatwiania ich opracowywania Urząd ds. AI i państwa członkowskie uwzględniają szczególne interesy i potrzeby MŚP, w tym przedsiębiorstw typu startup. Art. 96 Wytyczne Komisji w sprawie wdrożenia niniejszego rozporządzenia 1. Komisja opracowuje wytyczne dotyczące praktycznego wdrażania niniejszego rozporządzenia, a w szczególności: a) stosowania wymogów i obowiązków, o których mowa w art. 8-15 i art. 25; b) zakazanych praktyk, o których mowa w art. 5; c) praktycznego wdrażania przepisów dotyczących istotnych zmian; d) praktycznego wdrażania obowiązków w zakresie przejrzystości ustanowionych w art. 50; e) podawania szczegółowych informacji na temat powiązań między niniejszym rozporządzeniem a unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, jak również z innym N Przepis stosowany wprost nie wymaga wdrożenia odpowiednim prawem Unii, w tym w odniesieniu do spójności jego egzekwowania; f) stosowania definicji systemu AI określonej w art. 3 pkt 1. Przy wydawaniu takich wytycznych Komisja zwraca szczególną uwagę na potrzeby MŚP, w tym przedsiębiorstw typu startup, lokalnych organów publicznych i sektorów, na które niniejsze rozporządzenie może mieć największy wpływ. Wytyczne, o których mowa w akapicie pierwszym niniejszego ustępu, uwzględniają powszechnie uznany stan wiedzy technicznej w zakresie AI, jak również odpowiednie normy zharmonizowane i wspólne specyfikacje, o których mowa w art. 40 i 41, lub te normy zharmonizowane lub specyfikacje techniczne, które zostały określone zgodnie z unijnym prawodawstwem harmonizacyjnym. 2. Na wniosek państw członkowskich lub Urzędu ds. AI lub z własnej inicjatywy Komisja aktualizuje przyjęte wcześniej wytyczne, jeżeli zostanie to uznane za konieczne. Art. 97 Wykonywanie przekazanych uprawnień 1. Powierzenie Komisji uprawnień do przyjmowania aktów delegowanych podlega warunkom określonym w niniejszym artykule. 2. Uprawnienia do przyjmowania aktów delegowanych, o których mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, N Przepis stosowany wprost nie wymaga wdrożenia art. 52 ust. 4 i art. 53 ust. 5 i 6 powierza się Komisji na okres pięciu lat od dnia 1 sierpnia 2024 r. Komisja sporządza sprawozdanie dotyczące przekazania uprawnień nie później niż dziewięć miesięcy przed końcem okresu pięciu lat. Przekazanie uprawnień zostaje automatycznie przedłużone na takie same okresy, chyba że Parlament Europejski lub Rada sprzeciwią się takiemu przedłużeniu nie później niż trzy miesiące przed końcem każdego okresu. 3. Przekazanie uprawnień, o którym mowa w art. 6 ust. 6 i 7, art. 7 ust. 1 i 3, art. 11 ust. 3, art. 43 ust. 5 i 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 i art. 53 ust. 5 i 6, może zostać w dowolnym momencie odwołane przez Parlament Europejski lub przez Radę. Decyzja o odwołaniu kończy przekazanie określonych w niej uprawnień. Decyzja o odwołaniu staje się skuteczna następnego dnia po jej opublikowaniu w Dzienniku Urzędowym Unii Europejskiej lub w późniejszym terminie określonym w tej decyzji. Nie wpływa ona na ważność jakichkolwiek już obowiązujących aktów delegowanych. 4. Przed przyjęciem aktu delegowanego Komisja konsultuje się z ekspertami wyznaczonymi przez każde państwo członkowskie zgodnie z zasadami określonymi w Porozumieniu międzyinstytucjonalnym z dnia 13 kwietnia 2016 r. w sprawie lepszego stanowienia prawa. 5. Niezwłocznie po przyjęciu aktu delegowanego Komisja przekazuje go równocześnie Parlamentowi Europejskiemu i Radzie. 6. Akt delegowany przyjęty na podstawie art. 6 ust. 6 lub 7, art. 7 ust. 1 lub 3, art. 11 ust. 3, art. 43 ust. 5 lub 6, art. 47 ust. 5, art. 51 ust. 3, art. 52 ust. 4 lub art. 53 ust. 5 lub 6 wchodzi w życie tylko wówczas, gdy ani Parlament Europejski, ani Rada nie wyraziły sprzeciwu w terminie trzech miesięcy od przekazania tego aktu Parlamentowi Europejskiemu i Radzie lub gdy, przed upływem tego terminu, zarówno Parlament Europejski, jak i Rada poinformowały Komisję, że nie wniosą sprzeciwu. Termin ten przedłuża się o trzy miesiące z inicjatywy Parlamentu Europejskiego lub Rady. Art. 98 Procedura komitetowa 1. Komisję wspomaga komitet. Komitet ten jest komitetem w rozumieniu rozporządzenia (UE) nr 182/2011. 2. W przypadku odesłania do niniejszego ustępu stosuje się art. 5 rozporządzenia (UE) nr 182/2011. N Przepis stosowany wprost nie wymaga wdrożenia Art. 99 Kary 1. Zgodnie z zasadami i warunkami ustanowionymi w niniejszym rozporządzeniu państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, mających zastosowanie w przypadku naruszeń przepisów niniejszego rozporządzenia przez operatorów i podejmują wszelkie niezbędne środki w celu zapewnienia ich właściwego i skutecznego wykonywania, z uwzględnieniem wytycznych wydanych przez Komisję zgodnie z art. 96. T Art. 100 Art. 101 Art. 103 Art. 100. 1. Komisja nakłada na podmiot obowiązany do przestrzegania przepisów rozporządzenia 2024/1689, w drodze decyzji, administracyjną karę pieniężną w przypadkach, w wysokości i na warunkach określonych w rozdziale XII rozporządzenia 2024/1689. 2. Podejmując decyzję w sprawie nałożenia administracyjnej kary pieniężnej, Komisja uwzględnia Regulacja zakłada uwzględnienie indywidualnej sytuacji podmiotu na podstawie dostarczonych przez niego dokumentów. Przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. Uwzględniają one interesy MŚP, w tym przedsiębiorstw typu startup oraz ich sytuację ekonomiczną. 2. Państwa członkowskie niezwłocznie, nie później jednak niż do dnia rozpoczęcia stosowania, powiadamiają Komisję o przepisach dotyczących kar i innych środków egzekwowania prawa, o których mowa w ust. 1, jak również o ich wszelkich późniejszych zmianach. 3. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 4. Nieprzestrzeganie któregokolwiek z przepisów dotyczących operatorów lub jednostek notyfikowanych, innych niż przepisy ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 15 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa: a) obowiązki dostawców zgodnie z art. 16; b) obowiązki upoważnionych przedstawicieli zgodnie z art. 22; przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 3. W uzasadnieniu decyzji w sprawie nałożenia administracyjnej kary pieniężnej, o której mowa w ust. 1, Komisja wskazuje przesłanki określone w art. 99 ust. 7 rozporządzenia 2024/1689. 4. Równowartość wyrażonych w euro kwot, o których mowa w art. 99 rozporządzenia 2024/1689, oblicza się w złotych według średniego kursu euro ogłaszanego przez Narodowy Bank Polski w tabeli kursów na dzień 28 stycznia każdego roku, a w przypadku gdy w danym roku Narodowy Bank Polski nie ogłasza średniego kursu euro w dniu 28 stycznia – według średniego kursu euro ogłoszonego w najbliższej po tej dacie tabeli kursów Narodowego Banku Polskiego. 5. Administracyjną karę pieniężną uiszcza się w terminie 30 dni od dnia uprawomocnienia się decyzji w sprawie nałożenia administracyjnej kary pieniężnej. Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania c) obowiązki importerów zgodnie z art. 23; d) obowiązki dystrybutorów zgodnie z art. 24; e) obowiązki podmiotów stosujących zgodnie z art. 26; f) wymogi i obowiązki jednostek notyfikowanych zgodnie z art. 31, art. 33 ust. 1, 3 i 4 lub art. 34; g) obowiązki dostawców i podmiotów stosujących w zakresie przejrzystości zgodnie z art. 50. 5. Dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek podlega administracyjnej karze pieniężnej w wysokości do 7 500 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa. 6. W przypadku MŚP, w tym przedsiębiorstw typu startup, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa. 7. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości w każdej indywidualnej sprawie, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się w stosownych przypadkach uwagę na: dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Art. 103. 1. Komisja może zmniejszyć wysokość administracyjnej kary pieniężnej, niemniej niż o 10% i niewięcej niż o 50%, jeżeli ukarany podmiot wykonał w terminie 3 miesięcy od dnia doręczenia decyzji w sprawie nałożenia administracyjnej kary pieniężnej działania wskazane w ostrzeżeniu, o którym mowa w art. 62 ust. 1, a naruszenie nie doprowadziło do śmierci lub poważnego uszczerbku na zdrowiu. 2. Komisja może, na uzasadniony wniosek podmiotu ukaranego, odroczyć termin uiszczenia administracyjnej kary a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji, przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) to, czy inne organy nadzoru rynku nałożyły już na tego samego operatora administracyjne kary pieniężne za to samo naruszenie; c) to, czy inne organy nałożyły już administracyjne kary pieniężne na tego samego operatora za naruszenia innych przepisów prawa Unii lub prawa krajowego, w przypadku, gdy takie naruszenia wynikają z tego samego działania lub zaniechania stanowiącego odpowiednie naruszenie niniejszego rozporządzenia; d) wielkość operatora dopuszczającego się naruszenia, jego roczny obrót i udział w rynku; e) wszelkie inne obciążające lub łagodzące czynniki mające zastosowanie do okoliczności sprawy, takie jak powiązane bezpośrednio lub pośrednio z danym naruszeniem osiągnięte korzyści finansowe lub uniknięte straty; f) stopień współpracy z właściwymi organami krajowymi w celu usunięcia naruszenia oraz złagodzenia jego ewentualnych niepożądanych skutków; g) stopień odpowiedzialności operatora, z uwzględnieniem wdrożonych przez niego środków technicznych i organizacyjnych; pieniężnej albo rozłożyć ją na raty, ze względu na ważny interes wnioskodawcy. 3. W przypadku odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty Komisja nalicza od nieuiszczonej kwoty odsetki w stosunku rocznym, przy zastosowaniu obniżonej stawki odsetek za zwłokę, ogłaszanej na podstawie art. 56d ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa (Dz. U. z 2025 r. poz. 111, z późn. zm. )), od dnia następującego po dniu złożenia wniosku. 4. W przypadku rozłożenia administracyjnej kary pieniężnej na raty, odsetki za zwłokę są naliczane odrębnie dla każdej raty. 5. W przypadku niedotrzymania odroczonego terminu uiszczenia administracyjnej kary pieniężnej albo terminu uiszczenia jej rat odsetki za zwłokę są naliczane za okres od dnia upływu odroczonego terminu uiszczenia kary albo terminu uiszczenia poszczególnych rat. 6. Komisja może uchylić odroczenie terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenie jej na raty, jeżeli ujawniły się nowe lub h) sposób, w jaki właściwe organy krajowe dowiedziały się o naruszeniu, w szczególności, czy i w jakim zakresie operator zgłosił naruszenie; i) umyślny lub wynikający z zaniedbania charakter naruszenia; j) wszelkie działania podjęte przez operatora w celu złagodzenia szkody poniesionej przez poszkodowane osoby. 8. Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne. 9. W zależności od systemu prawnego państw członkowskich przepisy dotyczące administracyjnych kar pieniężnych można stosować w taki sposób, że kary w tych państwach członkowskich są nakładane, stosownie do przypadku, przez właściwe sądy krajowe lub inne odpowiednie organy. Stosowanie takich przepisów w tych państwach członkowskich ma skutek równoważny. 10. Wykonywanie uprawnień na podstawie niniejszego artykułu podlega odpowiednim zabezpieczeniom proceduralnym zgodnie z prawem Unii i prawem krajowym, obejmującym prawo do skutecznych środka zaskarżenia i rzetelnego postępowania sądowego. 11. Państwa członkowskie co roku składają Komisji sprawozdanie dotyczące administracyjnych kar pieniężnych, które nałożyły w danym roku zgodnie z uprzednio nieznane okoliczności istotne dla rozstrzygnięcia lub jeżeli rata nie została uiszczona w terminie. 7. Rozstrzygnięcie w przedmiocie odroczenia terminu uiszczenia administracyjnej kary pieniężnej albo rozłożenia jej na raty następuje w drodze postanowienia. 8. Na postanowienie odmowne przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 9. Ulga w wykonaniu administracyjnej kary pieniężnej, o której mowa w ust. 1 i 2: 1) nie stanowi pomocy publicznej; 2) stanowi pomoc de minimis albo pomoc de minimis w rolnictwie lub rybołówstwie – w zakresie i na zasadach określonych w bezpośrednio obowiązujących przepisach prawa Unii Europejskiej dotyczących pomocy w ramach zasady de minimis; 3) stanowi pomoc publiczną zgodną z zasadami rynku wewnętrznego Unii Europejskiej, której dopuszczalność została określona przez właściwe instytucje Unii Europejskiej. niniejszym artykułem, oraz dotyczące wszelkich powiązanych sporów lub postępowań sądowych. Art. 100 Administracyjne kary pieniężne nakładane na instytucje, organy i jednostki organizacyjne Unii 1. Europejski Inspektor Ochrony Danych może nakładać administracyjne kary pieniężne na instytucje, organy i jednostki organizacyjne Unii objęte zakresem stosowania niniejszego rozporządzenia. Przy podejmowaniu decyzji o nałożeniu administracyjnej kary pieniężnej oraz przy ustalaniu jej wysokości, uwzględnia się wszystkie istotne okoliczności danej sytuacji w każdym indywidualnym przypadku i zwraca się należytą uwagę na: a) charakter, wagę i czas trwania naruszenia oraz jego konsekwencji; przy uwzględnieniu przeznaczenia systemu AI, a także, w stosownych przypadkach, liczby poszkodowanych osób oraz rozmiaru poniesionej przez nie szkody; b) stopień odpowiedzialności instytucji, organu lub jednostki organizacyjnej Unii, z uwzględnieniem wdrożonych przez nie środków technicznych i organizacyjnych; c) wszelkie działania podjęte przez instytucję, organ lub jednostkę organizacyjną Unii w celu złagodzenia szkody poniesionej przez osoby poszkodowane; d) stopień współpracy z Europejskim Inspektorem Ochrony Danych w celu usunięcia naruszenia i złagodzenia jego ewentualnych niepożądanych skutków, N Przepis stosowany wprost nie wymaga wdrożenia w tym zastosowanie się do wszelkich środków zarządzonych wcześniej przez Europejskiego Inspektora Ochrony Danych wobec danej instytucji, organu lub jednostki organizacyjnej Unii w odniesieniu do tej samej kwestii; e) wszelkie podobne wcześniejsze naruszenia dokonane przez instytucję, organ lub jednostkę organizacyjną Unii; f) sposób, w jaki Europejski Inspektor Ochrony Danych dowiedział się o naruszeniu, w szczególności, czy i w jakim zakresie instytucja, organ lub jednostka organizacyjna Unii zgłosili naruszenie; g) roczny budżet instytucji, organu lub jednostki organizacyjnej Unii. 2. Nieprzestrzeganie zakazu praktyk w zakresie AI, o których mowa w art. 5, podlega administracyjnym karom pieniężnym w wysokości do 1 500 000 EUR. 3. Niezgodność systemu AI z jakimikolwiek wymogami lub obowiązkami wynikającymi z niniejszego rozporządzenia, innymi niż te ustanowione w art. 5, podlega administracyjnej karze pieniężnej w wysokości do 750 000 EUR. 4. Przed podjęciem decyzji na podstawie niniejszego artykułu Europejski Inspektor Ochrony Danych zapewnia instytucji, organowi lub jednostce organizacyjnej Unii, które są przedmiotem postępowania prowadzonego przez Europejskiego Inspektora Ochrony Danych, możliwość bycia wysłuchanym w sprawie dotyczącej ewentualnego naruszenia. Podstawą decyzji wydanej przez Europejskiego Inspektora Ochrony Danych mogą być wyłącznie elementy i okoliczności, co do których zainteresowane strony mogły się wypowiedzieć. Skarżący, jeżeli tacy istnieją, musza zostać ściśle włączeni w postępowanie. 5. W toku postępowania w pełni respektuje się prawo zainteresowanych stron do obrony. Strony mają prawo dostępu do akt Europejskiego Inspektora Ochrony Danych, z zastrzeżeniem prawnie uzasadnionego interesu osób fizycznych i przedsiębiorstw w zakresie ochrony ich danych osobowych lub tajemnic handlowych. 6. Środki finansowe pochodzące z kar pieniężnych nałożonych na podstawie niniejszego artykułu zasilają budżet ogólny Unii. Te kary pieniężne nie mogą mieć wpływu na skuteczne funkcjonowanie instytucji, organu lub jednostki organizacyjnej Unii, na które nałożono karę. 7. Europejski Inspektor Ochrony Danych co roku powiadamia Komisję o administracyjnych karach pieniężnych, które nałożył zgodnie z niniejszym artykułem, oraz o wszelkich wszczętych przez siebie postępowaniach spornych lub sądowych. Art. 101 Kary pieniężne dla dostawców modeli AI ogólnego przeznaczenia 1. Komisja może nakładać na dostawców modeli AI ogólnego przeznaczenia kary pieniężne nieprzekraczające 3 % ich całkowitego rocznego N Przepis stosowany wprost nie wymaga wdrożenia światowego obrotu w poprzednim roku obrotowym lub 15 000 000 EUR, w zależności od tego, która z tych kwot jest wyższa, jeśli ustali, że dostawca celowo lub w wyniku zaniedbania: a) naruszył odpowiednie przepisy niniejszego rozporządzenia; b) nie zastosował się do wniosku o przedstawienie dokumentu lub informacji zgodnie z art. 91 lub dostarczył informacje nieprawidłowe, niekompletne lub wprowadzające w błąd; c) nie zastosował się do środka wymaganego na podstawie art. 93; d) nie udzielił Komisji dostępu - w celu przeprowadzenia oceny zgodnie z art. 92 - do modelu A ogólnego przeznaczenia lub modelu AI ogólnego przeznaczenia z ryzykiem systemowym. Przy ustalaniu kwoty kary pieniężnej lub okresowej kary pieniężnej bierze się pod uwagę charakter, wagę i czas trwania naruszenia, z należytym uwzględnieniem zasad proporcjonalności i adekwatności. Komisja uwzględnia również zobowiązania podjęte zgodnie z art. 93 ust. 3 lub podjęte w odpowiednich kodeksach praktyki zgodnie z art. 56. 2. Przed przyjęciem decyzji na podstawie ust. 1 Komisja przekazuje swoje wstępne ustalenia dostawcy modelu AI ogólnego przeznaczenia i daje mu możliwość bycia wysłuchanym. 3. Kary pieniężne nakładane zgodnie z niniejszym artykułem muszą być skuteczne, proporcjonalne i odstraszające. 4. Informacje na temat kar pieniężnych nałożonych na podstawie niniejszego artykułu przekazuje się w stosownych przypadkach również Radzie ds. AI. 5. Trybunał Sprawiedliwości Unii Europejskiej ma nieograniczoną jurysdykcję w zakresie przeprowadzania kontroli decyzji Komisji ustalających karę pieniężną na podstawie niniejszego artykułu. Trybunał Sprawiedliwości Unii Europejskiej może uchylić, obniżyć lub podwyższyć nałożoną karę pieniężną. 6. Komisja przyjmuje akty wykonawcze zawierające szczegółowe zasady oraz zabezpieczenia proceduralne dotyczące postępowania w celu ewentualnego przyjęcia decyzji na podstawie ust. 1 niniejszego artykułu. Te akty wykonawcze przyjmuje się zgodnie z procedurą sprawdzającą, o której mowa w art. 98 ust. 2. Art. 102 Zmiana rozporządzenia (WE) nr 300/2008 W art. 4 ust. 3 rozporządzenia (WE) nr 300/2008 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu szczegółowych środków związanych ze specyfikacjami technicznymi i procedurami zatwierdzania sprzętu służącego do ochrony i korzystania z niego w przypadku systemów AI w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi ustanowione w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 103 Zmiana rozporządzenia (UE) nr 167/2013 W art. 17 ust. 5 rozporządzenia (UE) nr 167/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 104 Zmiana rozporządzenia (UE) nr 168/2013 W art. 22 ust. 5 rozporządzenia (UE) nr 168/2013 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu aktów delegowanych na podstawie akapitu pierwszego dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 105 Zmiana dyrektywy 2014/90/UE W art. 8 dyrektywy 2014/90/UE dodaje się ustęp w brzmieniu: N Przepis stosowany wprost nie wymaga wdrożenia \"5. W odniesieniu do systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, przy wykonywaniu swoich działań zgodnie z ust. 1 oraz przy przyjmowaniu specyfikacji technicznych i norm badań zgodnie z ust. 2 i 3 Komisja uwzględnia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 106 Zmiana dyrektywy (UE) 2016/797 W art. 5 dyrektywy (UE) 2016/797 dodaje się ustęp w brzmieniu: \"12. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 oraz aktów wykonawczych na podstawie ust. 11 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" N Przepis stosowany wprost nie wymaga wdrożenia Art. 107 Zmiana rozporządzenia (UE) 2018/858 W art. 5 rozporządzenia (UE) 2018/858 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 3 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się N Przepis stosowany wprost nie wymaga wdrożenia wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" Art. 108 Zmiany w rozporządzeniu (UE) 2018/1139 W rozporządzeniu (UE) 2018/1139 wprowadza się następujące zmiany: 1) w art. 17 dodaje się ustęp w brzmieniu: \"3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\" 2) w art. 19 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 3) w art. 43 dodaje się ustęp w brzmieniu: \"4. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". N Przepis stosowany wprost nie wymaga wdrożenia 4) w art. 47 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 5) w art. 57 dodaje się akapit w brzmieniu: \"Przy przyjmowaniu tych aktów wykonawczych dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\"; 6) w art. 58 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 i 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.\". Art. 109 Zmiana rozporządzenia (UE) 2019/2144 W art. 11 rozporządzenia (UE) 2019/2144 dodaje się ustęp w brzmieniu: \"3. Przy przyjmowaniu aktów wykonawczych na podstawie ust. 2 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem N Przepis stosowany wprost nie wymaga wdrożenia elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia. Art. 110 Zmiana dyrektywy (UE) 2020/1828 W załączniku I do dyrektywy Parlamentu Europejskiego i Rady (UE) 2020/1828 dodaje się punkt w brzmieniu: \"(68) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektywy 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. U. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).\". N Przepis stosowany wprost nie wymaga wdrożenia Art. 111 Systemy AI już wprowadzone do obrotu lub oddane do użytku oraz modele AI ogólnego przeznaczenia już wprowadzone do obrotu 1. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a), do dnia 31 grudnia 2030 r. zapewnia się zgodność z niniejszym rozporządzeniem w odniesieniu do systemów AI, które stanowią elementy wielkoskalowych systemów informatycznych utworzonych na podstawie aktów prawnych wymienionych w załączniku X i które wprowadzono do N Przepis stosowany wprost nie wymaga wdrożenia obrotu lub oddano do użytku przed dniem 2 sierpnia 2027 r. Wymogi ustanowione w niniejszym rozporządzeniu uwzględnia się w ocenach każdego wielkoskalowego systemu informatycznego utworzonego na podstawie aktów prawnych wymienionych w załączniku X, które to oceny przeprowadza się zgodnie z tymi aktami oraz w przypadku, gdy te akty prawne są zastępowane lub zmieniane. 2. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 akapit trzeci lit. a) niniejsze rozporządzenie stosuje się do operatorów systemów AI wysokiego ryzyka innych niż systemy, o których mowa w ust. 1 niniejszego artykułu, które zostały wprowadzone do obrotu lub oddane do użytku przed dniem 2 sierpnia 2026 r. tylko wtedy, gdy po tej dacie w systemach tych wprowadzane będą istotne zmiany w ich projekcie. W każdym razie dostawcy systemów AI wysokiego ryzyka i podmioty stosujące takie systemy, które są przeznaczone do wykorzystywania przez organy publiczne, podejmują niezbędne kroki w celu zapewnienia zgodności z wymogami i spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2030 r. 3. Dostawcy modeli AI ogólnego przeznaczenia, które zostały wprowadzone do obrotu przed dniem 2 sierpnia 2025 r., podejmują niezbędne kroki w celu spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2027 r. Art. 112 Ocena i przegląd 1. Komisja ocenia potrzebę wprowadzenia zmian w wykazie zawartym w załączniku III oraz w ustanowionym w art. 5 wykazie zakazanych praktyk w zakresie AI raz w roku, począwszy od dnia wejścia w życie niniejszego rozporządzenia do końca okresu przekazania uprawnień ustanowionych w art. 97. Komisja przedstawia ustalenia z tej oceny Parlamentowi Europejskiemu i Radzie. 2. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata Komisja przeprowadza ocenę i przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie dotyczące: a) konieczności zmian w postaci rozszerzenia istniejących nagłówków dotyczących obszarów lub dodania nowych nagłówków dotyczących obszarów w załączniku III; b) zmian wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości określonych w art. 50; c) zmian w celu poprawy skuteczności systemu nadzoru i zarządzania. 3. Do dnia 2 sierpnia 2029 r., a następnie co cztery lata Komisja przedkłada Parlamentowi Europejskiemu i Radzie sprawozdanie z oceny i przeglądu niniejszego rozporządzenia. Sprawozdanie zawiera ocenę struktury egzekwowania przepisów i ewentualnej konieczności usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Na podstawie tych ustaleń do N Przepis stosowany wprost nie wymaga wdrożenia sprawozdania dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia. Sprawozdania te są podawane do wiadomości publicznej. 4. W sprawozdaniach, o których mowa w ust. 2, szczególną uwagę zwraca się na następujące kwestie: a) stan zasobów finansowych, technicznych i ludzkich właściwych organów krajowych konieczny, by mogły one skutecznie wykonywać zadania powierzone im na podstawie niniejszego rozporządzenia; b) sytuację w zakresie kar, a w szczególności administracyjnych kar pieniężnych, o których mowa w art. 99 ust. 1, nakładanych przez państwa członkowskie w przypadku naruszenia niniejszego rozporządzenia; c) przyjęte normy zharmonizowane i wspólne specyfikacje opracowane w celu wsparcia niniejszego rozporządzenia; d) liczbę przedsiębiorstw wchodzących na rynek po rozpoczęciu stosowania niniejszego rozporządzenia oraz jaką część z nich stanowią MŚP. 5. Do dnia 2 sierpnia 2028 r. Komisja ocenia funkcjonowanie Urzędu ds. AI, czy przyznano mu uprawnienia i kompetencje wystarczające do wykonywania jego zadań oraz czy dla właściwego wdrożenia i egzekwowania niniejszego rozporządzenia stosowne i potrzebne byłoby wzmocnienie Urzędu ds. AI i zwiększenie jego uprawnień w zakresie egzekucji, a także zwiększenie jego zasobów. Komisja przedkłada sprawozdanie z oceny Parlamentowi Europejskiemu i Radzie. 6. Do dnia 2 sierpnia 2028 r., a następnie co cztery lata, Komisja przedkłada sprawozdanie z przeglądu postępów w opracowywaniu dokumentów normalizacyjnych dotyczących wydajnego pod względem energii rozwoju modeli AI ogólnego przeznaczenia oraz ocenia konieczność podjęcia dalszych środków lub działań, w tym wiążących środków lub działań. Sprawozdanie to przedkłada się Parlamentowi Europejskiemu i Radzie i podaje do wiadomości publicznej. 7. Do dnia 2 sierpnia 2028 r., a następnie co trzy lata Komisja ocenia wpływ i skuteczność dobrowolnych kodeksów postępowania mających na celu propagowanie wymogów ustanowionych w rozdziale III sekcja 2 w odniesieniu do systemów AI innych niż systemy AI wysokiego ryzyka oraz ewentualnie innych dodatkowych wymogów dotyczących systemów AI, w tym w zakresie zrównoważenia środowiskowego. 8. Do celów ust. 1-7 Rada ds. AI, państwa członkowskie i właściwe organy krajowe przekazują Komisji informacje na jej wniosek i bez zbędnej zwłoki. 9. Dokonując ocen i przeglądów, o których mowa w ust. 1-7, Komisja uwzględnia stanowiska i ustalenia Rady ds. AI, Parlamentu Europejskiego, Rady oraz innych stosownych podmiotów lub źródeł. 10. W razie potrzeby Komisja przedkłada odpowiednie wnioski dotyczące zmiany niniejszego rozporządzenia, uwzględniając w szczególności rozwój technologii, wpływ systemów AI na zdrowie i bezpieczeństwo oraz na prawa podstawowe, oraz postępy dokonane w społeczeństwie informacyjnym. 11. W celu ukierunkowania ocen i przeglądów, o których mowa w ust. 1-7 niniejszego artykułu, Urząd ds. AI opracowuje obiektywną i partycypacyjną metodykę oceny poziomów ryzyka w oparciu o kryteria określone w odpowiednich artykułach i włączania nowych systemów do: a) wykazu określonego w załączniku III, łącznie z rozszerzeniem istniejących nagłówków dotyczących obszarów lub dodaniem nowych nagłówków dotyczących obszarów w tym załączniku; b) określonego w art. 5 wykazu zakazanych praktyk; oraz c) wykazu systemów AI wymagających dodatkowych środków w zakresie przejrzystości zgodnie z art. 50. 12. Wszelkie zmiany niniejszego rozporządzenia zgodnie z ust. 10 lub odpowiednie akty delegowane i wykonawcze, które dotyczą unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja B, uwzględniają specyfikę regulacyjną każdego sektora oraz istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania, jak również działalność organów ustanowionych dla danego sektora. 13. Do dnia 2 sierpnia 2031 r. Komisja przeprowadza ocenę egzekwowania niniejszego rozporządzenia i przedkłada sprawozdanie z tej oceny Parlamentowi Europejskiemu, Radzie i Europejskiemu Komitetowi Ekonomiczno-Społecznemu, uwzględniając pierwsze lata stosowania niniejszego rozporządzenia. Na podstawie dokonanych ustaleń do sprawozdania tego dołącza się, w stosownych przypadkach, wniosek dotyczący zmiany niniejszego rozporządzenia w odniesieniu do struktury egzekwowania przepisów i potrzeby usunięcia wszelkich stwierdzonych niedociągnięć przez agencję Unii. Art. 113 Wejście w życie i rozpoczęcie stosowania Niniejsze rozporządzenie wchodzi w życie dwudziestego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej. Niniejsze rozporządzenie stosuje się od dnia 2 sierpnia 2026 r. Jednakże: a) rozdziały I i II stosuje się od dnia 2 lutego 2025 r.; b) rozdział III sekcja 4, rozdział V, rozdział VII i rozdział XII oraz art. 78 stosuje się od dnia 2 sierpnia 2025 r., z wyjątkiem art. 101; c) art. 6 ust. 1 i odpowiadające mu obowiązki ustanowione w niniejszym rozporządzeniu stosuje się od dnia 2 sierpnia 2027 r. Niniejsze rozporządzenie wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich. N Przepis stosowany wprost nie wymaga wdrożenia Sporządzono w Brukseli dnia 13 czerwca 2024 r. Załączni k I Wykaz unijnego prawodawstwa harmonizacyjnego Sekcja A. Wykaz unijnego prawodawstwa harmonizacyjnego opartego na nowych ramach prawnych 1.Dyrektywa 2006/42/WE Parlamentu Europejskiego i Rady z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (Dz.U. L 157 z 9.6.2006, s. 24); 2.Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1); 3.Dyrektywa Parlamentu Europejskiego i Rady 2013/53/UE z dnia 20 listopada 2013 r. w sprawie rekreacyjnych jednostek pływających i skuterów wodnych i uchylająca dyrektywę 94/25/WE (Dz.U. L 354 z 28.12.2013, s. 90); 4.Dyrektywa Parlamentu Europejskiego i Rady 2014/33/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących dźwigów i elementów bezpieczeństwa do dźwigów (Dz.U. L 96 z 29.3.2014, s. 251); 5.Dyrektywa Parlamentu Europejskiego i Rady 2014/34/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do urządzeń i systemów ochronnych N Przepis stosowany wprost nie wymaga wdrożenia przeznaczonych do użytku w atmosferze potencjalnie wybuchowej (Dz.U. L 96 z 29.3.2014, s. 309); 6.Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62); 7.Dyrektywa Parlamentu Europejskiego i Rady 2014/68/UE z dnia 15 maja 2014 r. w sprawie harmonizacji ustawodawstw państw członkowskich odnoszących się do udostępniania na rynku urządzeń ciśnieniowych (Dz. U. L 189 z 27.6.2014, s. 164); 8.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/424 z dnia 9 marca 2016 r. w sprawie urządzeń kolei linowych i uchylenia dyrektywy 2000/9/WE (Dz.U. L 81 z 31.3.2016, s. 1); 9.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/425 z dnia 9 marca 2016 r. w sprawie środków ochrony indywidualnej oraz uchylenia dyrektywy Rady 89/686/EWG (Dz.U. L 81 z 31.3.2016, s. 51); 10.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/426 z dnia 9 marca 2016 r. w sprawie urządzeń spalających paliwa gazowe oraz uchylenia dyrektywy 2009/142/WE (Dz.U. L 81 z 31.3.2016, s. 99); 11.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/745 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych, zmiany dyrektywy 2001/83/WE, rozporządzenia (WE) nr 178/2002 i rozporządzenia (WE) nr 1223/2009 oraz uchylenia dyrektyw Rady 90/385/EWG i 93/42/EWG (Dz.U. L 117 z 5.5.2017, s. 1); 12.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/746 z dnia 5 kwietnia 2017 r. w sprawie wyrobów medycznych do diagnostyki in vitro oraz uchylenia dyrektywy 98/79/WE i decyzji Komisji 2010/227/UE (Dz. U. L 117 z 5.5.2017, s. 176). Sekcja B. Wykaz innego unijnego prawodawstwa harmonizacyjnego 13.Rozporządzenie Parlamentu Europejskiego i Rady (WE) nr 300/2008 z dnia 11 marca 2008 r. w sprawie wspólnych zasad w dziedzinie ochrony lotnictwa cywilnego i uchylające rozporządzenie (WE) nr 2320/2002 (Dz.U. L 97 z 9.4.2008, s. 72); 14.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 168/2013 z dnia 15 stycznia 2013 r. w sprawie homologacji i nadzoru rynku pojazdów dwu- lub trzykołowych oraz czterokołowców (Dz.U. L 60 z 2.3.2013, s. 52); 15.Rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 167/2013 z dnia 5 lutego 2013 r. w sprawie homologacji i nadzoru rynku pojazdów rolniczych i leśnych (Dz.U. L 60 z 2.3.2013, s. 1); 16.Dyrektywa Parlamentu Europejskiego i Rady 2014/90/UE z dnia 23 lipca 2014 r. w sprawie wyposażenia morskiego i uchylająca dyrektywę Rady 96/98/WE (Dz.U. L 257 z 28.8.2014, s. 146); 17.Dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/797 z dnia 11 maja 2016 r. w sprawie interoperacyjności systemu kolei w Unii Europejskiej (Dz.U. L 138 z 26.5.2016, s. 44); 18.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 z dnia 30 maja 2018 r. w sprawie homologacji i nadzoru rynku pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, zmieniające rozporządzenie (WE) nr 715/2007 i (WE) nr 595/2009 oraz uchylające dyrektywę 2007/46/WE (Dz.U. L 151 z 14.6.2018, s. 1); 19.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/2144 z dnia 27 listopada 2019 r. w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, zmieniające rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/858 oraz uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 78/2009, (WE) nr 79/2009 i (WE) nr 661/2009 oraz rozporządzenia Komisji (WE) nr 631/2009, (UE) nr 406/2010, (UE) nr 672/2010, (UE) nr 1003/2010, (UE) nr 1005/2010, (UE) nr 1008/2010, (UE) nr 1009/2010, (UE) nr 19/2011, (UE) nr 109/2011, (UE) nr 458/2011, (UE) nr 65/2012, (UE) nr 130/2012, (UE) nr 347/2012, (UE) nr 351/2012, (UE) nr 1230/2012 i (UE) 2015/166 (Dz.U. L 325 z 16.12.2019, s. 1); 20.Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1139 z dnia 4 lipca 2018 r. w sprawie wspólnych zasad w dziedzinie lotnictwa cywilnego i utworzenia Agencji Unii Europejskiej ds. Bezpieczeństwa Lotniczego oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 2111/2005, (WE) nr 1008/2008, (UE) nr 996/2010, (UE) nr 376/2014 i dyrektywy Parlamentu Europejskiego i Rady 2014/30/UE i 2014/53/UE, a także uchylające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 552/2004 i (WE) nr 216/2008 i rozporządzenie Rady (EWG) nr 3922/91 (Dz.U. L 212 z 22.8.2018, s. 1) w zakresie projektowania, produkcji i wprowadzania do obrotu statków powietrznych, o których mowa w art. 2 ust. 1 lit. a) i b), w odniesieniu do bezzałogowych statków powietrznych oraz ich silników, śmigieł, części i wyposażenia do zdalnego sterowania statkami powietrznymi. Załączni k II Wykaz przestępstw, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii) Przestępstwa, o których mowa w art. 5 ust. 1 akapit pierwszy lit. h) ppkt (iii): –terroryzm, N Załącznik stosowany wprost nie wymaga wdrożenia –handel ludźmi, – wykorzystywanie seksualne dzieci i pornografia dziecięca, – nielegalny obrót środkami odurzającymi lub substancjami psychotropowymi, – nielegalny handel bronią, amunicją lub materiałami wybuchowymi, – zabójstwo, ciężkie uszkodzenie ciała, – nielegalny obrót organami lub tkankami ludzkimi, – nielegalny handel materiałami jądrowymi lub promieniotwórczymi, – uprowadzenie, bezprawne przetrzymywanie lub wzięcie zakładników, – przestępstwa podlegające jurysdykcji Międzynarodowego Trybunału Karnego, – bezprawne zawładnięcie statkiem powietrznym lub statkiem, – zgwałcenie, – przestępstwo przeciw środowisku, – rozbój w formie zorganizowanej lub rozbój przy użyciu broni, – sabotaż, – udział w organizacji przestępczej uczestniczącej w co najmniej jednym z wyżej wymienionych przestępstw. Załączni k III Systemy AI wysokiego ryzyka, o których mowa w art. 6 ust. 2 Systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 2 to systemy AI wymienione w którymkolwiek z poniższych obszarów: 1. Biometria, w zakresie, w jakim jej stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy zdalnej identyfikacji biometrycznej. Nie obejmuje to systemów AI przeznaczonych do wykorzystania przy weryfikacji biometrycznej, której jedynym celem jest potwierdzenie, że określona osoba fizyczna jest osobą, za którą się podaje; b) systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech; c) systemy AI przeznaczone do wykorzystania przy rozpoznawaniu emocji. 2. Infrastruktura krytyczna: systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną. N Załącznik stosowany wprost nie wymaga wdrożenia 3. Kształcenie i szkolenie zawodowe: a) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji o dostępie lub przyjęciu do instytucji edukacyjnych i instytucji szkolenia zawodowego lub przydzielania osób do tych instytucji na wszystkich poziomach; b) systemy AI przeznaczone do wykorzystywania do celów oceny efektów uczenia się, także w przypadku, gdy efekty te są wykorzystywane do kierowania procesem uczenia się osób fizycznych w instytucjach edukacyjnych i instytucjach szkolenia zawodowego na wszystkich poziomach; c) systemy AI przeznaczone do wykorzystywania do celów oceny odpowiedniego poziomu wykształcenia, jaki dana osoba otrzyma lub do jakiego będzie mogła mieć dostęp w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach; d) systemy AI przeznaczone do wykorzystywania do celów monitorowania i wykrywania niedozwolonego zachowania uczniów podczas testów w kontekście lub w ramach instytucji edukacyjnych i instytucji szkolenia zawodowego na wszystkich poziomach. 4. Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia: a) systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów; b) systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach. 5. Dostęp do podstawowych usług prywatnych oraz podstawowych usług i świadczeń publicznych, a także korzystanie z nich: a) systemy AI przeznaczone do wykorzystywania przez organy publiczne lub w imieniu organów publicznych w celu oceny kwalifikowalności osób fizycznych do podstawowych świadczeń i usług publicznych, w tym opieki zdrowotnej, jak również w celu przyznawania, ograniczania, odwoływania lub żądania zwrotu takich świadczeń i usług; b) systemy AI przeznaczone do wykorzystywania do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych; c) systemy AI przeznaczone do wykorzystywania przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego; d) systemy AI przeznaczone do oceny i klasyfikacji zgłoszeń alarmowych dokonywanych przez osoby fizyczne lub do wykorzystywania w celu wysyłania lub ustalania priorytetów w wysyłaniu służb pierwszej pomocy, w tym policji, straży pożarnej i pomocy medycznej, a także w ramach systemów oceny stanu zdrowia pacjentów w nagłych wypadkach. 6. Ściganie przestępstw, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania lub w ich imieniu do oceny ryzyka, że osoba fizyczna stanie się ofiarą przestępstwa; b) systemy AI przeznaczone do wykorzystywania jako wariografy lub podobne narzędzia przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania; c) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny wiarygodności dowodów w toku ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie; d) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do oceny ryzyka, że osoba fizyczna popełni lub ponownie popełni przestępstwo, przeprowadzanej nie tylko na podstawie profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, lub do oceny cech osobowości i charakteru lub uprzedniego zachowania przestępczego osób fizycznych lub grup; e) systemy AI przeznaczone do wykorzystywania przez organy ścigania lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w ramach wsparcia udzielanego organom ścigania do profilowania osób fizycznych, o którym mowa w art. 3 pkt 4 dyrektywy (UE) 2016/680, w toku wykrywania i ścigania przestępstw lub prowadzenia postępowań przygotowawczych w ich sprawie. 7. Zarządzanie migracją, azylem i kontrolą graniczną, w zakresie, w jakim wykorzystywanie przedmiotowych systemów jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii jako wariografy lub podobne narzędzia; b) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów oceny ryzyka, w tym ryzyka dla bezpieczeństwa, ryzyka migracji nieuregulowanej lub ryzyka dla zdrowia, stwarzanych przez osobę fizyczną, która zamierza wjechać lub wjechała na terytorium państwa członkowskiego; c) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii do celów wspierania właściwych organów publicznych przy rozpatrywaniu wniosków o udzielenie azylu, o wydanie wizy lub dokumentów pobytowych oraz związanych z nimi skarg w odniesieniu do kwalifikowalności osób fizycznych ubiegających się o przyznanie określonego statusu, w tym przy powiązanej ocenie wiarygodności dowodów; d) systemy AI przeznaczone do wykorzystywania przez właściwe organy publiczne lub w ich imieniu lub przez instytucje, organy i jednostki organizacyjne Unii w kontekście zarządzania migracją, azylem i kontrolą graniczną, do celów wykrywania, rozpoznawania lub identyfikacji osób fizycznych, z wyjątkiem weryfikacji dokumentów podróży. 8. Sprawowanie wymiaru sprawiedliwości i procesy demokratyczne: a) systemy AI przeznaczone do wykorzystywania przez organ wymiaru sprawiedliwości lub w jego imieniu w celu wspomagania organu wymiaru sprawiedliwości w badaniu i interpretacji stanu faktycznego i przepisów prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego lub do wykorzystywania w podobny sposób w alternatywnych metodach rozwiązywania sporów; b) systemy AI przeznaczone do wykorzystywania w celu wywierania wpływu na wynik wyborów lub referendum lub na zachowanie osób fizycznych podczas głosowania w wyborach lub referendach. Nie obejmuje to systemów AI, na których wyniki osoby fizyczne nie są bezpośrednio narażone, takich jak narzędzia wykorzystywane do organizowania, optymalizacji lub strukturyzowania kampanii politycznych z administracyjnego lub logistycznego punktu widzenia. Załączni k IV Dokumentacja techniczna, o której mowa w art. 11 ust. 1 Dokumentacja techniczna, o której mowa w art. 11 ust. 1, zawiera, stosownie do przypadku, co najmniej następujące informacje właściwe dla danego systemu AI: 1. Ogólny opis systemu AI, w tym: a) jego przeznaczenie, imię i nazwisko lub nazwę dostawcy i wersję systemu wraz z informacją dotyczącą jej związku z poprzednimi wersjami; b) sposób, w jaki system AI, w stosownych przypadkach, współdziała lub może być wykorzystany do współdziałania ze sprzętem lub oprogramowaniem, w tym z innymi systemami AI, które nie są częścią samego systemu AI; N Załącznik stosowany wprost nie wymaga wdrożenia c) wersje odpowiedniego oprogramowania lub oprogramowania układowego oraz wszelkie wymogi związane z aktualizacjami wersji; d) opis wszystkich postaci, w jakich system AI wprowadza się do obrotu lub oddaje do użytku, takie jak pakiety oprogramowania wbudowane w urządzenie, oprogramowanie do pobrania lub API; e) opis sprzętu, na którym system AI ma być eksploatowany; f) w przypadku, gdy system A jest elementem produktów - zdjęcia lub ilustracje przedstawiające cechy zewnętrzne, oznakowanie i układ wewnętrzny tych produktów; g) podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; h) instrukcja obsługi dla podmiotu stosującego oraz w stosownych przypadkach, podstawowy opis interfejsu użytkownika, który dostarczono podmiotowi stosującemu; 2. Szczegółowy opis elementów systemu AI oraz procesu jego rozwoju, w tym: a) metody i działania zastosowane w celu rozwoju systemu AI, w tym, w stosownych przypadkach, skorzystanie z systemów, które zostały poddane pretreningowi, lub narzędzi dostarczonych przez osoby trzecie oraz wskazanie, w jaki sposób dostawca wykorzystał, zintegrował lub zmienił te systemy lub narzędzia; b) specyfikacje projektowe systemu, a mianowicie ogólna logika systemu AI i algorytmów; kluczowe decyzje projektowe wraz z uzasadnieniem i przyjętymi założeniami, w tym w odniesieniu do osób lub grup osób, wobec których system ma być wykorzystywany; główne wybory klasyfikacyjne; wskazanie, pod kątem czego system ma być optymalizowany, i znaczenie poszczególnych parametrów; opis oczekiwanego wyniku systemu oraz jakości tego wyniku; decyzje dotyczące wszelkich możliwych kompromisów w zakresie rozwiązań technicznych przyjętych w celu zapewnienia zgodności z wymogami określonymi w rozdziale III sekcja 2; c) opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie; zasoby obliczeniowe wykorzystywane do rozwoju, trenowania, testowania i walidacji systemu AI; d) w stosownych przypadkach wymogi dotyczące danych w zakresie arkuszy danych opisujących metodyki i techniki trenowania systemu oraz wykorzystywane zbiory danych treningowych, w tym ogólny opis tych zbiorów danych, informacje o ich pochodzeniu, ich zakresie i głównych cechach; sposób uzyskania i wyboru danych; procedury etykietowania (np. w przypadku uczenia nadzorowanego), metody oczyszczania danych (np. wykrywanie wartości oddalonych); e) ocenę środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym ocenę środków technicznych potrzebnych do ułatwienia podmiotom stosującym interpretacji wyników systemów AI, zgodnie z art. 13 ust. 3 lit. d); f) w stosownych przypadkach szczegółowy opis z góry zaplanowanych zmian w systemie AI i jego skuteczności działania wraz ze wszystkimi istotnymi informacjami dotyczącymi rozwiązań technicznych przyjętych w celu zapewnienia ciągłej zgodności systemu AI z odpowiednimi wymogami określonymi w rozdziale III sekcja 2; g) zastosowane procedury walidacji i testowania, w tym informacje o wykorzystywanych danych walidacyjnych i danych testowych oraz ich głównych cechach; wskaźniki stosowane do pomiaru dokładności, solidności i zgodności z innymi stosownymi wymogami określonymi w rozdziale III sekcja 2, jak również skutków potencjalnie dyskryminujących; rejestry zdarzeń generowane podczas testów i wszystkie sprawozdania z testów opatrzone datą i podpisane przez osoby odpowiedzialne, w tym w odniesieniu do z góry zaplanowanych zmian, o których mowa w lit. f); h) wdrożone środki w zakresie cyberbezpieczeństwa; 3. Szczegółowe informacje dotyczące monitorowania, funkcjonowania i kontroli systemu AI, w szczególności w odniesieniu do: jego możliwości i ograniczeń w zakresie skuteczności działania, w tym stopnie dokładności w przypadku określonych osób lub grup osób, wobec których system ma być wykorzystywany, oraz ogólny spodziewany poziom dokładności w stosunku do jego przeznaczenia; możliwych do przewidzenia niezamierzonych wyników i źródeł ryzyka dla zdrowia i bezpieczeństwa, praw podstawowych i ryzyka powodującego dyskryminację w świetle przeznaczenia systemu AI; środków nadzoru ze strony człowieka wymaganych na podstawie art. 14, w tym środków technicznych wprowadzonych w celu ułatwienia podmiotom stosującym interpretacji wyników systemów AI; w stosownych przypadkach specyfikacji dotyczących danych wejściowych; 4. Opis adekwatności wskaźników skuteczności działania w odniesieniu do konkretnego systemu AI; 5. Szczegółowy opis systemu zarządzania ryzykiem zgodnie z art. 9; 6. Opis odpowiednich zmian dokonanych przez dostawcę w systemie w czasie cyklu jego życia; 7. Wykaz norm zharmonizowanych stosowanych w całości lub w części, do których odniesienia opublikowano w Dzienniku Urzędowym Unii Europejskiej; w przypadku, gdy nie zastosowano takich norm zharmonizowanych, szczegółowy opis rozwiązań przyjętych w celu spełnienia wymogów określonych w rozdziale III sekcja 2, w tym wykaz innych odpowiednich zastosowanych norm i specyfikacji technicznych; 8. Kopię deklaracji zgodności UE, o której mowa w art. 47; 9. Szczegółowy opis systemu stosowanego do oceny skuteczności działania systemu AI po wprowadzeniu do obrotu zgodnie z art. 72, w tym plan monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72 ust. 3. Załączni k V Deklaracja zgodności UE Deklaracja zgodności UE, o której mowa w art. 47, zawiera wszystkie następujące informacje: 1. Nazwę i rodzaj systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 2. Imię i nazwisko lub nazwę oraz adres dostawcy lub w stosownych przypadkach, jego upoważnionego przedstawiciela; 3. Oświadczenie, że deklarację zgodności UE, o której mowa w art. 47, wydano na wyłączną odpowiedzialność dostawcy; 4. Oświadczenie, że system AI jest zgodny z niniejszym rozporządzeniem oraz w stosownych przypadkach, z wszelkimi innymi odpowiednimi przepisami prawa Unii, w których przewidziano wydanie deklaracji zgodności UE, o której mowa w art. 47; 5. W przypadku, gdy system AI wiąże się z przetwarzaniem danych osobowych, oświadczenie, że system AI jest zgodny z rozporządzeniami (UE) N Załącznik stosowany wprost nie wymaga wdrożenia 2016/679 i (UE) 2018/1725 oraz dyrektywą (UE) 2016/680; 6. Odniesienia do wszelkich zastosowanych odpowiednich norm zharmonizowanych lub wszelkich innych wspólnych specyfikacji, z którymi deklaruje się zgodność; 7. W stosownych przypadkach nazwę i numer identyfikacyjny jednostki notyfikowanej, opis przeprowadzonej procedury oceny zgodności oraz dane identyfikacyjne wydanego certyfikatu; 8. Miejsce i datę wystawienia deklaracji, imię i nazwisko oraz stanowisko osoby, która złożyła podpis pod dokumentem, oraz wskazanie, z czyjego upoważnienia lub w czyim imieniu ta osoba podpisała dokument, oraz podpis. Załączni k VI Procedura oceny zgodności opierająca się na kontroli wewnętrznej 1. Procedura oceny zgodności opierająca się na kontroli wewnętrznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2, 3 i 4. 2. Dostawca sprawdza, czy ustanowiony system zarządzania jakością jest zgodny z wymogami art. 17. 3. Dostawca analizuje informacje zawarte w dokumentacji technicznej, aby ocenić zgodność systemu AI z odpowiednimi zasadniczymi wymogami określonymi w rozdziale III sekcja 2. N Załącznik stosowany wprost nie wymaga wdrożenia 4. Dostawca sprawdza również, czy proces projektowania i rozwoju systemu AI oraz proces jego monitorowania po wprowadzeniu do obrotu, o którym mowa w art. 72, są zgodne z dokumentacją techniczną. Załączni k VII Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej 1. Wprowadzenie Zgodność opierająca się na ocenie systemu zarządzania jakością i ocenie dokumentacji technicznej jest procedurą oceny zgodności przeprowadzaną na podstawie pkt 2-5. 2. Informacje ogólne Zatwierdzony system zarządzania jakością w zakresie projektowania, rozwoju i testowania systemów AI zgodnie z art. 17 ocenia się zgodnie z pkt 3 i poddaje nadzorowi zgodnie z pkt 5. Dokumentację techniczną systemu AI ocenia się zgodnie z pkt 4. 3. System zarządzania jakością 3.1. Wniosek dostawcy zawiera: a) imię i nazwisko lub nazwę i adres dostawcy oraz, jeśli wniosek jest składany przez upoważnionego przedstawiciela, również jego imię i nazwisko lub nazwę i adres; b) wykaz systemów AI objętych tym samym systemem zarządzania jakością; N Załącznik stosowany wprost nie wymaga wdrożenia c) dokumentację techniczną każdego systemu AI objętego tym samym systemem zarządzania jakością; d) dokumentację dotyczącą systemu zarządzania jakością, która obejmuje wszystkie aspekty wymienione w art. 17; e) opis wprowadzonych procedur zapewniających stałą adekwatność i skuteczność systemu zarządzania jakością; f) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej. 3.2. System zarządzania jakością jest oceniany przez jednostkę notyfikowaną, która ustala czy spełnia on wymogi, o których mowa w art. 17. O decyzji powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny systemu zarządzania jakością oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 3.3. Zatwierdzony system zarządzania jakością jest dalej wdrażany i utrzymywany przez dostawcę, tak aby mógł zachować adekwatność i skuteczność. 3.4. Dostawca powiadamia jednostkę notyfikowaną o wszelkich zamierzonych zmianach w zatwierdzonym systemie zarządzania jakością lub w wykazie systemów AI objętych tym systemem. Proponowane zmiany podlegają weryfikacji przeprowadzanej przez jednostkę notyfikowaną, która stwierdza, czy zmieniony system zarządzania jakością nadal spełnia wymogi, o których mowa w pkt 3.2, czy też konieczna jest jego ponowna ocena. Jednostka notyfikowana powiadamia dostawcę o swojej decyzji. Takie powiadomienie zawiera wnioski z weryfikacji zmian oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. 4. Kontrola dokumentacji technicznej 4.1. Oprócz wniosku, o którym mowa w pkt 3, dostawca składa wniosek do wybranej przez siebie jednostki notyfikowanej o przeprowadzenie oceny dokumentacji technicznej dotyczącej systemu AI, który dostawca zamierza wprowadzić do obrotu lub oddać do użytku i który jest objęty systemem zarządzania jakością, o którym mowa w pkt 3. 4.2. Wniosek zawiera: a) imię i nazwisko lub nazwę i adres dostawcy; b) oświadczenie na piśmie, że tego samego wniosku nie złożono w innej jednostce notyfikowanej; c) dokumentację techniczną, o której mowa w załączniku IV. 4.3. Analizy dokumentacji technicznej dokonuje jednostka notyfikowana. W stosownych przypadkach i w zakresie ograniczonym do tego, co jest niezbędne do wykonywania zadań jednostki notyfikowanej, otrzymuje ona pełny dostęp do wykorzystywanych zbiorów danych treningowych, walidacyjnych i testowych, w tym, w stosownych przypadkach i z zastrzeżeniem gwarancji bezpieczeństwa, za pośrednictwem API lub innych odpowiednich środków i narzędzi technicznych umożliwiających zdalny dostęp. 4.4. Analizując dokumentację techniczną, jednostka notyfikowana może zwrócić się do dostawcy o przedstawienie dalszych dowodów lub przeprowadzenie dalszych testów w celu umożliwienia właściwej oceny zgodności systemu AI z wymogami określonymi w rozdziale III sekcja 2. W przypadku gdy jednostka notyfikowana nie jest usatysfakcjonowana testami przeprowadzonymi przez dostawcę, przeprowadza sama bezpośrednio, stosownie do okoliczności, odpowiednie testy. 4.5. W przypadku gdy jest to konieczne do oceny zgodności systemu AI wysokiego ryzyka z wymogami określonymi w rozdziale III sekcja 2, po wyczerpaniu wszystkich innych racjonalnych sposobów weryfikacji zgodności, które okazały się niewystarczające, jednostka notyfikowana uzyskuje - na uzasadniony wniosek - również dostęp do modeli treningowych i trenowanych systemu AI, w tym do odpowiednich jego parametrów. Taki dostęp podlega obowiązującym przepisom prawa Unii dotyczącym własności intelektualnej i tajemnic przedsiębiorstwa. 4.6. O decyzji jednostki notyfikowanej powiadamia się dostawcę lub jego upoważnionego przedstawiciela. Powiadomienie to zawiera wnioski z oceny dokumentacji produktu oraz decyzję dotyczącą dokonanej oceny wraz z uzasadnieniem. W przypadku gdy system AI spełnia wymogi określone w rozdziale III sekcja 2, jednostka notyfikowana wydaje unijny certyfikat oceny dokumentacji technicznej. Certyfikat ten zawiera imię i nazwisko lub nazwę oraz adres dostawcy, wnioski z oceny, (ewentualne) warunki jego ważności oraz dane niezbędne do identyfikacji systemu AI. Certyfikat wraz z załącznikami musi zawierać wszystkie istotne informacje umożliwiające ocenę zgodności systemu AI oraz w stosownych przypadkach, kontrolę systemu AI podczas jego wykorzystywania. W przypadku gdy system AI nie spełnia wymogów określonych w rozdziale III sekcja 2, jednostka notyfikowana odmawia wydania unijnego certyfikatu oceny dokumentacji technicznej i informuje o tym wnioskodawcę, podając szczegółowe uzasadnienie odmowy. W przypadku gdy system AI nie spełnia wymogu dotyczącego danych wykorzystywanych do jego trenowania, przed złożeniem wniosku o nową ocenę zgodności system AI należy poddać retrenowaniu. W takim przypadku decyzja jednostki notyfikowanej o odmowie wydania unijnego certyfikatu oceny dokumentacji technicznej wraz z uzasadnieniem zawiera szczegółowe uwagi na temat jakości danych wykorzystanych do treningu systemu AI, w szczególności na temat przyczyn niezgodności. 4.7. Wszelkie zmiany w systemie AI, które mogłyby wpłynąć na zgodność systemu AI z wymogami lub jego przeznaczeniem, podlegają ocenie przez jednostkę notyfikowaną, która wydała unijny certyfikat oceny dokumentacji technicznej. Dostawca informuje taką jednostkę notyfikowaną, jeżeli zamierza wprowadzić wyżej wymienione zmiany lub jeżeli w inny sposób dowiedział się o ich zaistnieniu. Zamierzone zmiany ocenia jednostka notyfikowana, która decyduje, czy zmiany te wymagają przeprowadzenia nowej oceny zgodności zgodnie z art. 43 ust. 4, czy też można je uwzględnić w formie uzupełnienia unijnego certyfikatu oceny dokumentacji technicznej. W tym ostatnim przypadku jednostka notyfikowana ocenia zmiany, powiadamia dostawcę o swojej decyzji i, w przypadku zatwierdzenia zmian, wydaje dostawcy uzupełnienie unijnego certyfikatu oceny dokumentacji technicznej. 5. Nadzór nad zatwierdzonym systemem zarządzania jakością 5.1. Celem nadzoru sprawowanego przez jednostkę notyfikowaną, o której mowa w pkt 3, jest zapewnienie, aby dostawca należycie wywiązywał się z warunków, jakimi obwarowano zatwierdzony system zarządzania jakością. 5.2. Do celów oceny dostawca umożliwia jednostce notyfikowanej dostęp do pomieszczeń, w których odbywa się projektowanie, rozwój i testowanie systemów AI. Dostawca udostępnia ponadto jednostce notyfikowanej wszystkie niezbędne informacje. 5.3. Jednostka notyfikowana przeprowadza okresowe audyty, aby upewnić się, że dostawca utrzymuje i stosuje system zarządzania jakością, oraz przedstawia dostawcy sprawozdanie z audytu. W ramach tych audytów jednostka notyfikowana może przeprowadzać dodatkowe testy systemów AI, w odniesieniu do których wydano unijny certyfikat oceny dokumentacji technicznej. Załączni k VIII Informacje przekazywane przy rejestracji systemów AI wysokiego ryzyka zgodnie z art. 49 Sekcja A Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 1 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 1, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, /imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI oraz elementów i funkcji wspieranych przez ten system AI; N Załącznik stosowany wprost nie wymaga wdrożenia 6. Podstawowy i zwięzły opis informacji wykorzystywanych przez system (dane, dane wejściowe) oraz logika jego działania; 7. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 8. Rodzaj, numer i datę ważności certyfikatu wydanego przez jednostkę notyfikowaną oraz w stosownych przypadkach nazwę lub numer identyfikacyjny tej jednostki notyfikowanej; 9. W stosownych przypadkach skan certyfikatu, o którym mowa w pkt 8; 10. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii; 11. Kopia deklaracji zgodności UE, o której mowa w art. 47; 12. Elektroniczna instrukcja obsługi; informacji tych nie podaje się w przypadku systemów AI wysokiego ryzyka w obszarach ścigania przestępstw lub zarządzania migracją, azylem lub kontrolą graniczną, o których mowa w załączniku III pkt 1, 6 i 7; 13. Adres URL odsyłający do dodatkowych informacji (opcjonalnie). Sekcja B Informacje przekazywane przez dostawców systemów AI wysokiego ryzyka zgodnie z art. 49 ust. 2 W odniesieniu do systemów AI, które podlegają rejestracji zgodnie z art. 49 ust. 2, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe dostawcy; 2. W przypadku, gdy w imieniu dostawcy informacje przekazuje inna osoba, imię i nazwisko lub nazwa, adres i dane kontaktowe tej osoby; 3. W stosownych przypadkach imię i nazwisko lub nazwa, adres i dane kontaktowe upoważnionego przedstawiciela; 4. Nazwa handlowa systemu AI oraz wszelkie dodatkowe jednoznaczne odniesienia umożliwiające identyfikację i identyfikowalność systemu AI; 5. Opis przeznaczenia systemu AI; 6. Warunek lub warunki określone w art. 6 ust. 3, na podstawie których system AI jest uznawany za niebędący systemem wysokiego ryzyka; 7. Krótkie streszczenie powodów, dla których system AI jest uznawany za niebędący systemem wysokiego ryzyka w wyniku zastosowania procedury na podstawie art. 6 ust. 3; 8. Status systemu AI (w obrocie lub użytkowany; niedostępny już w obrocie / już nieużytkowany, wycofany z użytku); 9. Państwa członkowskie, w których system AI został wprowadzony do obrotu, oddany do użytku lub udostępniony w Unii. Sekcja C Informacje przekazywane przez podmioty stosujące systemy AI wysokiego ryzyka zgodnie z art. 49 ust. 3 W odniesieniu do systemów AI wysokiego ryzyka, które podlegają rejestracji zgodnie z art. 49 ust. 3, przekazuje się, a następnie aktualizuje następujące informacje: 1. Imię i nazwisko lub nazwa, adres i dane kontaktowe podmiotu stosującego AI; 2. Imię i nazwisko lub nazwa, adres i dane kontaktowe osoby przekazującej informacje w imieniu podmiotu stosującego; 3. Adres URL wpisu systemu AI do bazy danych UE dokonanego przez jego dostawcę; 4. Streszczenie ustaleń oceny skutków dla praw podstawowych przeprowadzonej zgodnie z art. 27; 5. W stosownych przypadkach streszczenie oceny skutków dla ochrony danych przeprowadzonej zgodnie z art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680, jak określono w art. 26 ust. 8 niniejszego rozporządzenia. Załączni k IX Informacje przedkładane przy rejestracji systemów AI wysokiego ryzyka wymienionych w załączniku III w odniesieniu do testów w warunkach rzeczywistych zgodnie z art. 60 W odniesieniu do testów w warunkach rzeczywistych, które podlegają rejestracji zgodnie z art. 60, przekazuje się, a następnie aktualizuje następujące informacje: 1. Ogólnounijny niepowtarzalny numer identyfikacyjny testów w warunkach rzeczywistych; 2. Imię i nazwisko lub nazwę oraz dane kontaktowe dostawcy lub potencjalnego dostawcy i podmiotów stosujących uczestniczących w testach w warunkach rzeczywistych; 3. Krótki opis systemu AI, jego przeznaczenie oraz inne informacje niezbędne do identyfikacji systemu; 4. Streszczenie głównych założeń planu testów w warunkach rzeczywistych; 5. Informacje o zawieszeniu lub zakończeniu testów w warunkach rzeczywistych. N Załącznik stosowany wprost nie wymaga wdrożenia Załączni k X Akty prawne Unii dotyczące wielkoskalowych systemów informatycznych w przestrzeni wolności, bezpieczeństwa i sprawiedliwości 1. System Informacyjny Schengen: N Załącznik stosowany wprost nie wymaga wdrożenia a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1860 z dnia 28 listopada 2018 r. w sprawie użytkowania Systemu Informacyjnego Schengen do celów powrotu nielegalnie przebywających obywateli państw trzecich (Dz.U. L 312 z 7.12.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1861 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie odpraw granicznych, zmiany konwencji wykonawczej do układu z Schengen oraz zmiany i uchylenia rozporządzenia (WE) nr 1987/2006 (Dz.U. L 312 z 7.12.2018, s. 14); c)rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1862 z dnia 28 listopada 2018 r. w sprawie utworzenia, funkcjonowania i użytkowania Systemu Informacyjnego Schengen (SIS) w dziedzinie współpracy policyjnej i współpracy wymiarów sprawiedliwości w sprawach karnych, zmiany i uchylenia decyzji Rady 2007/533/WSiSW oraz uchylenia rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 1986/2006 i decyzji Komisji 2010/261/UE (Dz.U. L 312 z 7.12.2018, s. 56). 2. Wizowy system informacyjny: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1133 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń (UE) nr 603/2013, (UE) 2016/794, (UE) 2018/1862, (UE) 2019/816 i (UE) 2019/818 w odniesieniu do ustanowienia warunków dostępu do innych systemów informacyjnych UE do celów Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 1). b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/1134 z dnia 7 lipca 2021 r. w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (WE) nr 767/2008, (WE) nr 810/2009, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1860, (UE) 2018/1861, (UE) 2019/817 i (UE) 2019/1896 oraz uchylenia decyzji Rady 2004/512/WE i (WE) nr 2008/633/WSiSW w celu zreformowania Wizowego Systemu Informacyjnego (Dz.U. L 248 z 13.7.2021, s. 11). 3. Eurodac: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1358 z dnia 14 maja 2024 r. w sprawie ustanowienia systemu Eurodac do porównywania danych biometrycznych w celu skutecznego stosowania rozporządzeń Parlamentu Europejskiego i Rady (UE) 2024/1315 i (UE) 2024/1350 i dyrektywy Rady 2001/55/WE oraz w celu identyfikowania nielegalnie przebywających obywateli państw trzecich oraz bezpaństwowców, w sprawie występowania z wnioskami o porównanie z danymi Eurodac przez organy ścigania państw członkowskich i Europol na potrzeby ochrony porządku publicznego, w sprawie zmiany rozporządzeń Parlamentu Europejskiego i Rady (UE) 2018/1240 i (UE) 2019/818 oraz w sprawie uchylenia rozporządzenia Parlamentu Europejskiego i Rady (UE) nr 603/2013 (Dz.U. L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj). 4. System wjazdu/wyjazdu: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2017/2226 z dnia 30 listopada 2017 r. ustanawiające system wjazdu/wyjazdu (EES) w celu rejestrowania danych dotyczących wjazdu i wyjazdu obywateli państw trzecich przekraczających granice zewnętrzne państw członkowskich i danych dotyczących odmowy wjazdu w odniesieniu do takich obywateli oraz określające warunki dostępu do EES na potrzeby ochrony porządku publicznego i zmieniające konwencję wykonawczą do układu z Schengen i rozporządzenia (WE) nr 767/2008 i (UE) nr 1077/2011 (Dz.U. L 327 z 9.12.2017, s. 20). 5. Europejski system informacji o podróży oraz zezwoleń na podróż: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1240 z dnia 12 września 2018 r. ustanawiające europejski system informacji o podróży oraz zezwoleń na podróż (ETIAS) i zmieniające rozporządzenia (UE) nr 1077/2011, (UE) nr 515/2014, (UE) 2016/399, (UE) 2016/1624 i (UE) 2017/2226 (Dz.U. L 236 z 19.9.2018, s. 1); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1241 z dnia 12 września 2018 r. zmieniające rozporządzenie (UE) 2016/794 w celu ustanowienia europejskiego systemu informacji o podróży oraz zezwoleń na podróż (ETIAS) (Dz.U. L 236 z 19.9.2018, s. 72). 6. Europejski system przekazywania informacji z rejestrów karnych dotyczących obywateli państw trzecich i bezpaństwowców: rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/816 z dnia 17 kwietnia 2019 r. ustanawiające scentralizowany system służący do ustalania państw członkowskich posiadających informacje o wyrokach skazujących wydanych wobec obywateli państw trzecich i bezpaństwowców (ECRIS-TCN) na potrzeby uzupełnienia europejskiego systemu przekazywania informacji z rejestrów karnych oraz zmieniające rozporządzenie (UE) 2018/1726 (Dz.U. L 135 z 22.5.2019, s. 1). 7. Interoperacyjność: a) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/817 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze granic i polityki wizowej oraz zmieniające rozporządzenia Parlamentu Europejskiego i Rady (WE) nr 767/2008, (UE) 2016/399, (UE) 2017/2226, (UE) 2018/1240, (UE) 2018/1726, (UE) 2018/1861 oraz decyzje Rady 2004/512/WE i 2008/633/WSiSW (Dz. U. L 135 z 22.5.2019, s. 27); b) rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/818 z dnia 20 maja 2019 r. w sprawie ustanowienia ram interoperacyjności systemów informacyjnych UE w obszarze współpracy policyjnej i sądowej, azylu i migracji oraz zmieniające rozporządzenia (UE) 2018/1726, (UE) 2018/1862 i (UE) 2019/816 (Dz.U. L 135 z 22.5.2019, s. 85). Załączni k XI Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a) - dokumentacja techniczna dla dostawców modeli AI ogólnego przeznaczenia Sekcja 1 Informacje przekazywane przez wszystkich dostawców modeli AI ogólnego przeznaczenia Dokumentacja techniczna, o której mowa w art. 53 ust. 1 lit. a), zawiera co najmniej następujące informacje stosownie do rozmiaru danego systemu AI oraz jego profilu ryzyka: 1. Ogólny opis modelu AI ogólnego przeznaczenia, w tym: a) zadania, które dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) architektura i liczba parametrów; e) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; N Załącznik stosowany wprost nie wymaga wdrożenia f) licencja. 2. Szczegółowy opis elementów modelu, o których mowa w pkt 1, oraz stosowne informacje na temat procesu rozwoju, z uwzględnieniem następujących elementów: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) specyfikacje projektu danego modelu i proces treningowy, w tym metody i techniki treningowe, kluczowe wybory projektowe wraz z uzasadnieniem i przyjętymi założeniami; wskazanie, pod kątem czego model ma być optymalizowany, i znaczenie poszczególnych parametrów, w stosownych przypadkach; c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metody porządkowania (np. czyszczenie, filtrowanie, itp.), liczby punktów danych, ich zakresu i głównych właściwości; w jaki sposób dane zostały uzyskane i wyselekcjonowane, a także wszystkie inne środki służące wykryciu nieodpowiednich źródeł danych i metod wykrywania możliwej do zidentyfikowania stronniczości, w stosownych przypadkach; d) zasoby obliczeniowe wykorzystywane do trenowania danego modelu (np. liczba operacji zmiennoprzecinkowych), czas trenowania oraz inne istotne informacje dotyczące trenowania; e) znane lub szacowane zużycie energii dla danego modelu. W odniesieniu do lit. e), w przypadku, gdy nie jest znane zużycie energii dla danego modelu, zużycie energii może opierać się na informacjach dotyczących wykorzystanych zasobów obliczeniowych. Sekcja 2 Dodatkowe informacje przekazywane przez dostawców modeli AI ogólnego przeznaczenia z ryzykiem systemowym 1. Szczegółowy opis strategii ewaluacji, w tym jej wyników, na podstawie dostępnych publicznych protokołów i narzędzi ewaluacji lub na podstawie innych metod ewaluacji. Strategie ewaluacji obejmują kryteria ewaluacji, wskaźniki i metodykę identyfikacji ograniczeń. 2. W stosownych przypadkach szczegółowy opis środków wprowadzonych w celu przeprowadzenia wewnętrznych lub zewnętrznych testów kontradyktoryjnych (np. red teaming), dostosowań modelu, w tym dopasowania i dostrojenia. 3. W stosownych przypadkach, szczegółowy opis architektury systemu wyjaśniający, w jaki sposób elementy oprogramowania współgrają ze sobą lub wzajemnie się uzupełniają oraz włączają się w ogólne przetwarzanie. Załączni k XII Informacje dotyczące przejrzystości, o których mowa w art. 53 ust. 1 lit. b) - dokumentacja techniczna dostawców modeli AI ogólnego przeznaczenia przekazywana dostawcom niższego szczebla, którzy integrują dany model ze swoim systemem AI Informacje, o których mowa w art. 53 ust. 1 lit. b), zawierają przynajmniej następujące elementy: 1. Ogólny opis systemu AI ogólnego przeznaczenia, w tym: a) zadania, który dany model ma wykonywać, oraz rodzaj i charakter systemów AI, z którymi może zostać zintegrowany; b) mające zastosowanie dopuszczalne zasady wykorzystania; c) data wydania i metody dystrybucji; d) sposób, w jaki model, w stosownych przypadkach, współdziała lub może być wykorzystywany do współdziałania ze sprzętem lub oprogramowaniem, które nie są częścią samego modelu; e) w stosownych przypadkach, wersje odpowiedniego oprogramowania związanego z wykorzystaniem modelu AI ogólnego przeznaczenia; f) architektura i liczba parametrów; N Załącznik stosowany wprost nie wymaga wdrożenia g) formę (np. tekst, obraz) oraz format danych wejściowych i wyjściowych; h) licencja dla danego modelu. 2. Opis elementów modelu oraz procesu jego rozwoju, w tym: a) środki techniczne (np. instrukcja obsługi, infrastruktura, narzędzia) wymagane do integracji danego modelu AI ogólnego przeznaczenia z systemami AI; b) forma (np. tekst, obraz) oraz format danych wejściowych i wyjściowych, a także ich maksymalny rozmiar (np. rozmiar okna kontekstowego, itp.); c) informacje na temat danych wykorzystywanych do trenowania, testowania i walidacji, w stosownych przypadkach, w tym rodzaju i pochodzenia danych oraz metod porządkowania. Załączni k XIII Kryteria identyfikowania modeli AI ogólnego przeznaczenia z ryzykiem systemowym, o których mowa w art. 51 Do celów stwierdzenia czy model AI ogólnego przeznaczenia ma zdolności lub oddziaływanie równoważne z tymi, które określono w art. 51 ust. 1 lit. a) i b), Komisja uwzględnia następujące kryteria: a) liczbę parametrów modelu; b) jakość lub rozmiar zbioru danych, na przykład mierzone za pomocą tokenów; N Załącznik stosowany wprost nie wymaga wdrożenia c) liczbę obliczeń wykorzystanych do trenowania modelu, mierzoną w operacjach zmiennoprzecinkowych lub wskazaną przez połączenie innych zmiennych, takich jak szacunkowy koszt trenowania, szacowany czas potrzebny na trenowanie lub szacowane zużycie energii na potrzeby trenowania; d) format danych wejściowych i wyjściowych danego modelu, takie jak tekst-tekst (duże modele językowe), tekst- obraz, multimodalne, a także najnowocześniejsze progi dla określania zdolności dużego oddziaływania dla każdego formatu, jak również szczególne rodzaje danych wejściowych i wyjściowych (np. sekwencje biologiczne); e) poziomy odniesienia i oceny zdolności modelu, w tym analiza liczby zadań bez dodatkowego trenowania, zdolności adaptacji do uczenia się nowych, odrębnych zadań, poziom jego autonomii i skalowalności, narzędzia, do których ma dostęp; f) czy ze względu na swój zasięg ma duże oddziaływanie na rynek wewnętrzny, co należy zakładać, jeśli został udostępniony co najmniej 10 000 zarejestrowanych użytkowników biznesowych mających siedzibę w Unii; g) liczbę zarejestrowanych użytkowników końcowych. Odwrócona tabela zgodności Tytuł aktu prawnego Ustawa o systemach sztucznej inteligencji (UC71) Tytuł wdrażanego aktu prawnego Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) Jednostka redakcyjna Treść przepisu ustawy Uzasadnienie wprowadzenia przepisu Art. 1 Art. 1. Ustawa określa: 1) organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz nad modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym przepisami rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024), zwanego dalej „rozporządzeniem 2024/1689”; 2) postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 i ustawy; 3) warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność; 4) działania wspierające rozwój systemów sztucznej inteligencji; Przepis pełni funkcję przepisu ogólnego i określa zakres przedmiotowy ustawy, w celu wskazania obszarów koniecznych do uzupełnienia, organizacji i wykonania przepisów rozporządzenia 2024/1689 na poziomie krajowym. Podstawa systemowej wykładni ustawy. 5) zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia 2024/1689. Art. 6 pkt 17 Art. 6. 17) w celu wspierania konkurencyjności gospodarki oraz rozwoju badań naukowych i zastosowań systemów sztucznej inteligencji: a) przedstawianie ministrowi właściwemu do spraw informatyzacji propozycji działań legislacyjnych, b) udostępnianie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji: – informacji, o których mowa w art. 98 ust. 2, – w terminie do dnia 31 marca każdego roku, corocznej informacji zawierającej przykłady dobrych praktyk w zakresie wdrażania i stosowania systemów sztucznej inteligencji przez przedsiębiorców w rozumieniu ustawy z dnia 6 marca 2018 r. – Prawo przedsiębiorców oraz w jednostkach sektora finansów publicznych, o których mowa w ustawie z dnia 27 sierpnia 2009 r. o finansach publicznych (Dz. U. z 2025 r. poz. 1483, 1844 i 1846). Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 7 Art. 7. Członkowie Rady Ministrów oraz inne podmioty właściwe do przygotowania projektów dokumentów rządowych, w tym projektów aktów prawnych z zakresu sztucznej inteligencji, przedstawiają Komisji do zaopiniowania projekty tych dokumentów. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 8 –17 Art. 8. 1. Komisja może wydawać opinie indywidualne i wyjaśnienia w sprawach objętych zakresem działania Komisji. 2. W opiniach indywidualnych i wyjaśnieniach uwzględnia się zalecenia i opinie merytoryczne Europejskiej Rady do spraw Sztucznej Inteligencji, o których mowa w art. 66 lit. e rozporządzenia 2024/1689. Art. 9. 1. Z wnioskiem do Komisji o wydanie opinii indywidualnej może zwrócić się: 1) podmiot obowiązany do stosowania rozporządzenia 2024/1689 i ustawy lub Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. 2) podmiot, który planuje podjąć działania, na skutek których zostanie objęty zakresem stosowania tych przepisów. 2. Wniosek o wydanie opinii indywidualnej może dotyczyć stanu faktycznego lub zdarzenia przyszłego w zakresie objętym przepisami rozporządzenia 2024/1689 lub ustawy. 3. Wniosek o wydanie opinii indywidualnej zawiera: 1) wyczerpujący opis stanu faktycznego lub zdarzenia przyszłego, którego ma dotyczyć opinia indywidualna; 2) stanowisko podmiotu składającego wniosek o wydanie opinii indywidualnej w zakresie oceny prawnej tego stanu faktycznego lub zdarzenia przyszłego; 3) oznaczenie podmiotu składającego wniosek, w tym imię i nazwisko osoby składającej wniosek, a w przypadku przedsiębiorcy – jego nazwę i siedzibę, oraz adres do korespondencji , a także numer identyfikacji REGON, jeżeli został nadany, numer KRS, jeżeli został nadany, albo numer identyfikacji podatkowej (NIP), jeżeli został nadany. 4. Do wniosku o wydanie opinii indywidualnej dołącza się dowód uiszczenia opłaty za złożenie wniosku. Art. 10. 1. Podmiot występujący z wnioskiem o wydanie opinii indywidualnej składa oświadczenie, że w dniu złożenia wniosku elementy stanu faktycznego objęte wnioskiem nie są przedmiotem postępowań prowadzonych w stosunku do niego przed innymi organami i sądami. 2. Oświadczenie dołącza się do wniosku o wydanie opinii indywidualnej. 3. W przypadku złożenia fałszywego oświadczenia opinia indywidualna nie wywołuje skutków prawnych. Art. 11. 1. Za złożenie wniosku o wydanie opinii indywidualnej, przed złożeniem tego wniosku, uiszcza się opłatę w wysokości 150 zł. 2. Opłata za złożenie wniosku o wydanie opinii indywidualnej stanowi dochód urzędu obsługującego ministra właściwego do spraw informatyzacji. 3. W przypadku wystąpienia z jednym wnioskiem o wydanie opinii indywidualnej dla odrębnych stanów faktycznych lub zdarzeń przyszłych opłatę za złożenie wniosku o wydanie opinii indywidualnej uiszcza się od każdego przedstawionego we wniosku odrębnego stanu faktycznego lub zdarzenia przyszłego. 4. W przypadku gdy wniosek o wydanie opinii indywidualnej nie spełnia wymogów określonych w art. 9 ust. 2 i 3, Komisja wzywa podmiot, który złożył ten wniosek, do uzupełnienia braków w terminie 7 dni od dnia doręczenia wezwania. W przypadku nieuzupełnienia braków w wyznaczonym terminie wniosek o wydanie opinii indywidualnej pozostawia się bez rozpoznania. 5. Opłata za złożenie wniosku o wydanie opinii indywidualnej podlega zwrotowi w przypadku: 1) wycofania wniosku – w całości; 2) uiszczenia jej w kwocie wyższej od należnej – w odpowiedniej części; 3) niewydania przez Komisję opinii w terminach, o których mowa w art. 12 ust. 1 – w całości. 6. W przypadkach, o których mowa w ust. 5, zwrot opłaty za złożenie wniosku o wydanie opinii indywidualnej następuje: 1) w terminie 30 dni od dnia wycofania wniosku – dla pkt 1; 2) w terminie 30 dni od dnia złożenia wniosku – dla pkt 2; 3) w terminie 30 dni od dnia upływu terminu na wydanie opinii – dla pkt 3. Art. 12. 1. Komisja wydaje i doręcza opinię indywidualną niezwłocznie, jednak nie później niż w terminie 30 dni od dnia złożenia wniosku o wydanie opinii indywidualnej, a w przypadkach szczególnie skomplikowanych – nie później niż w terminie 60 dni od dnia złożenia tego wniosku. Komisja informuje podmiot, który złożył wniosek o wydanie opinii indywidualnej, o uznaniu przypadku za szczególnie skomplikowany. 2. Wydając opinię indywidualną Komisja może zasięgnąć opinii innych organów państwowych i jednostek organizacyjnych. 3. Niewydanie opinii indywidualnej w terminach, o których mowa w ust. 2, uznaje się za wydanie opinii indywidualnej zgodnie ze stanowiskiem podmiotu, które przedstawił we wniosku o wydanie tej opinii. 4. Opinia indywidualna zawiera w szczególności opis stanu faktycznego lub zdarzenia przyszłego w związku z którym jest dokonywana i ocenę stanowiska podmiotu, które przedstawił we wniosku o wydanie tej opinii, wraz z uzasadnieniem prawnym. Art. 13. 1. Opinia indywidualna jest wiążąca dla Komisji i innych organów państwowych oraz jednostek organizacyjnych, o których mowa w art. 12 ust. 2, w zakresie danej sprawy dla wskazanego we wniosku stanu faktycznego lub zdarzenia przyszłego. 2. Opinia indywidualna nie może być zmieniona, jeżeli w wyniku jej wydania wystąpiły lub mogą wystąpić nieodwracalne skutki. Art. 14. Nie wydaje się opinii indywidualnej w zakresie tych elementów stanu faktycznego, które w dniu złożenia wniosku o wydanie opinii indywidualnej są przedmiotem toczącego się postępowania przed Komisją lub przed innymi organami, w tym postępowania sądowego lub sądowo-administracyjnego, albo gdy w tym zakresie sprawa została rozstrzygnięta. Art. 15. 1. Komisja może: 1) zmienić lub uchylić wydaną opinię indywidualną, jeżeli stwierdzi jej nieprawidłowość, uwzględniając w szczególności zmiany stanu prawnego, orzecznictwo sądów, jak również akty delegowane lub wykonawcze, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydane w oparciu o przepisy rozporządzenia 2024/1689; 2) uchylić wydaną opinię indywidualną z uwagi na wystąpienie przesłanki wymienionej w art. 14; 3) stwierdzić wygaśnięcie opinii indywidualnej, jeżeli jest ona niezgodna z wyjaśnieniami, o których mowa w art. 16, wydanymi w takim samym stanie prawnym. 2. Zmiana opinii indywidualnej następuje w odniesieniu do opisanego we wniosku o wydanie opinii indywidualnej stanu faktycznego lub zdarzenia przyszłego, na podstawie którego została wydana zmieniana opinia. 3. Uchylenie lub stwierdzenie wygaśnięcia opinii indywidualnej następuje w formie postanowienia, na które nie służy zażalenie. 4. Zmianę opinii indywidualnej albo postanowienie, o którym mowa w ust. 3, doręcza się podmiotowi, na wniosek którego została wydana opinia indywidualna w danej sprawie, albo jego następcy prawnemu. 5. Zastosowanie się do opinii indywidualnej przed jej zmianą, stwierdzeniem nieważności, wygaśnięciem albo uchyleniem nie może szkodzić podmiotowi, na wniosek którego została wydana opinia indywidualna. Art. 16. 1. Komisja wydaje z urzędu lub na wniosek wyjaśnienia mające istotne znaczenie dla stosowania przepisów rozporządzenia 2024/1689 i ustawy w sprawach objętych zakresem działania Komisji, dążąc do zapewnienia jednolitego stosowania tych przepisów. 2. Wydając wyjaśnienia, Komisja uwzględnia w szczególności orzecznictwo sądów, wytyczne, interpretacje, rekomendacje i wyjaśnienia Komisji Europejskiej oraz Europejskiej Rady do spraw Sztucznej Inteligencji. Art. 17. 1. Opinie indywidualne i wyjaśnienia, o których mowa w art. 8–16, po ich anonimizacji oraz usunięciu danych zawierających tajemnice prawnie chronione, w tym tajemnice przedsiębiorstwa, są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji, wraz z informacją o ich aktualności. 2. Komisja udostępnia w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji komunikat dotyczący zmiany stanu prawnego oraz w szczególności orzecznictwa sądów, aktów delegowanych lub wykonawczych, wytycznych, interpretacji, rekomendacji i wyjaśnień Komisji Europejskiej lub Europejskiej Rady do spraw Sztucznej Inteligencji wydanych w oparciu o przepisy rozporządzenia 2024/1689, które mają wpływ na aktualność wydanych opinii indywidulanych i wyjaśnień. Art. 18 Art. 18. Komisja może przedstawić sądowi istotny dla sprawy pogląd w sprawach w zakresie sztucznej inteligencji, jeżeli przemawia za tym interes publiczny. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Art. 39 Art. 39. Komisja przetwarza dane osobowe, w tym dane określone w art. 9 ust. 1 i art. 10 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), w zakresie i w celu niezbędnym do realizacji zadań, o których mowa w art. 6 i art. 25. Przepis jest punktem wyjścia dla kolejnego artykułu i stanowi podstawę prawną przetwarzania danych osobowych przez organ. Art. 40 Art. 40. Komisja przetwarza dane osobowe pozyskane w związku ze sprawowaniem nadzoru nad systemami sztucznej inteligencji: 1) dotyczące użytkowników systemów informacyjnych i użytkowników telekomunikacyjnych urządzeń końcowych w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej (Dz. U. poz. 1221, z 2025 r. poz. 637 i 820 oraz z 2026 r. poz. 252); 2) dotyczące telekomunikacyjnych urządzeń końcowych, o których mowa w art. 2 pkt 71 ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 3) gromadzone przez operatorów usług kluczowych w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie Przepis stanowi opis procedury gromadzenia danych osobowych, co wynika z obowiązków organów publicznych przetwarzających dane w myśl rozporządzenia 2016/679. cyberbezpieczeństwa i dostawców usług cyfrowych w związku ze świadczeniem usług, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 4) gromadzone przez podmioty kluczowe i ważne w rozumieniu ustawy z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa, z wyjątkiem danych objętych tajemnicą komunikacji elektronicznej w rozumieniu ustawy z dnia 12 lipca 2024 r. – Prawo komunikacji elektronicznej; 5) gromadzone przez podmioty publiczne w związku z realizacją ich zadań określonych w ustawie i w odrębnych przepisach. Art. 41 Art. 41. 1. Dane osobowe są usuwane przez Komisję po upływie 10 lat od zakończenia postępowania, o którym mowa w rozdziale 3 ustawy, o ile odrębne przepisy nie stanowią inaczej. 2. Komisja dokonuje weryfikacji niezbędności przetwarzania danych osobowych co najmniej raz na pięć lat od dnia ich zgromadzenia. Komisja niezwłocznie po dokonaniu przeglądu usuwa dane osobowe, których przetwarzanie nie jest uzasadnione Przepis wdraża obowiązek realizacji przez organ audytu danych osobowych, a więc i procedur ich przetwarzania, co zapewni w długim okresie zapewnienie zgodności z obowiązującymi przepisami i realizację praw podstawowych obywateli obcujących z organem. Art.43 Art. 43. 1. Obsługę administracyjną i biurową Komisji i Przewodniczącego Komisji zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. 2. Komisja może upoważnić pracowników właściwej komórki organizacyjnej urzędu obsługującego ministra właściwego do spraw informatyzacji i osoby w niej zatrudnione na podstawie umowy o dzieło, umowy zlecenia, umowy agencyjnej albo innych umów o podobnym charakterze do wykonywania w jej imieniu niektórych zadań, o których mowa w rozporządzeniu 2024/1689 i ustawie, z wyłączeniem zadań, o których mowa w art. 6 pkt 6. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie wykonywania – na podstawie upoważnienia Komisji – zadań tej Komisji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. 3. Przewodniczący Komisji może upoważnić Zastępcę Przewodniczącego Komisji lub osoby upoważnione, o których mowa w ust. 2, do załatwiania niektórych spraw w jego imieniu. Osoby, o których mowa w zdaniu pierwszym, są niezależne w zakresie załatwiania – na podstawie upoważnienia Przewodniczącego Komisji – spraw Przewodniczącego Komisji. 4. Komisja, Przewodniczący Komisji lub Zastępcy Przewodniczącego Komisji mogą udzielić pełnomocnictwa adwokatowi lub radcy prawnemu do ich reprezentowania przed sądami powszechnymi, sądami administracyjnymi, Sądem Najwyższym, Trybunałem Konstytucyjnym oraz przed zagranicznymi organami sądowymi. 5. Dyrektor generalny urzędu obsługującego ministra właściwego do spraw informatyzacji przy wykonywaniu czynności określonych w art. 25 ust. 4 pkt 1 lit. h i j oraz pkt 2 ustawy z dnia 21 listopada 2008 r. o służbie cywilnej (Dz. U. z 2024 r. poz. 409, z 2025 r. poz. 620 i 1661 oraz z 2026 r. poz. 26 i 160) wobec komórki organizacyjnej oraz pracowników, o których mowa w ust. 2, współdziała z Przewodniczącym Komisji. Art. 44 Art. 44. 1. Przewodniczącemu Komisji i Zastępcom Przewodniczącego Komisji przysługuje wynagrodzenie miesięczne ustalane z zastosowaniem mnożników kwoty bazowej dla członków korpusu służby cywilnej, której wysokość, ustaloną według odrębnych przepisów, określa ustawa budżetowa. 2. Mnożnik kwoty bazowej, o którym mowa w ust. 1, wynosi: 1) 8,0 – w przypadku wynagrodzenia miesięcznego dla Przewodniczącego Komisji; 2) 7,0 – w przypadku wynagrodzenia miesięcznego dla Zastępców Przewodniczącego Komisji. 3. Wynagrodzenie miesięczne, o którym mowa w ust. 1, jest finansowane ze środków budżetu państwa z części budżetowej, której dysponentem jest minister właściwy do spraw informatyzacji. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 45-art. 47 Art. 45. 1. Przy Komisji działa Rada, która jest organem opiniodawczo-doradczym Komisji. 2. W skład Rady wchodzi od dziewięciu do piętnastu członków wybieranych przez Komisję na dwuletnią kadencję. 3. Kandydatów na członków Rady mogą zgłosić: 1) współprzewodniczący ze strony samorządowej Komisji Wspólnej Rządu i Samorządu Terytorialnego; 2) Rzecznik Praw Obywatelskich; 3) Rzecznik Praw Dziecka; 4) Rzecznik Praw Pacjenta; 5) Rzecznik Małych i Średnich Przedsiębiorców; 6) Główny Inspektor Pracy; 7) izby gospodarcze reprezentujące przedsiębiorców wykonujących działalność gospodarczą w zakresie sztucznej inteligencji oraz wykorzystujących w swojej działalności sztuczną inteligencję, a także działających w obszarze gospodarki elektronicznej, komunikacji, mediów, usług finansowych, wytwarzania sprzętu informatycznego, oprogramowania lub świadczenia usług informatycznych; 8) reprezentatywne organizacje związkowe, o których mowa w art. 23 ust. 2 ustawy z dnia z dnia 24 lipca 2015 r. o Radzie Dialogu Społecznego i innych instytucjach dialogu społecznego (Dz. U. z 2018 r. poz. 2232, z późn. zm. ); 9) podmioty, o których mowa w art. 7 ust. 1 pkt 1, 2 i 4–6 ustawy z dnia 20 lipca 2018 r. – Prawo o szkolnictwie wyższym i nauce; 10) fundacje i stowarzyszenia wpisane do Krajowego Rejestru Sądowego, których celem statutowym jest działalność w zakresie zbiorowego zarządzania prawami autorskimi twórców lub których celem statutowym jest działalność w co najmniej jednym z obszarów: a) sztuczna inteligencja, b) nowe technologie, Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma charakter uzupełniający. Na mocy ustawy powołuje się Społeczną Radę do spraw Sztucznej Inteligencji, celem powołania jest zapewnienie koordynacji i wymiany informacji na temat sektora sztucznej inteligencji. Będzie ona organem opiniodawczo–doradczym Komisji i stanowić będzie platformę, w ramach której eksperci – naukowcy, innowatorzy, przedsiębiorcy i przedstawiciele społeczeństwa obywatelskiego – będą mogli wesprzeć swoją wiedzą Komisję. W ocenie projektodawcy, szeroki zakres zadań Komisji oraz potrzeba stałej grupy osób wspierających Komisję w realizacji jej zadań uzasadniają powołanie przy Komisji organu tego typu, reprezentującego sektor AI. Skład Społecznej Rady został tak zaprojektowany, by mogły do niego wchodzić osoby reprezentujące szeroki zakres podmiotów. Gwarancją niezależności Rady jest ograniczenie możliwości zgłaszania kandydatur wyłącznie do określonych w ustawie podmiotów. Podobnie jak w przypadku Członków Komisji, za udział w pracach Rady nie przewiduje się wynagrodzenia. Przepisy dodatkowo wprowadzają sposób funkcjonowania Rady. c) sprawiedliwość technologiczna, d) ochrona praw człowieka, e) edukacja lub kultura cyfrowa, f) bezpieczeństwo informacji. 4. Członkiem Rady może być osoba, która: 1) posiada wiedzę i doświadczenie w zakresie sztucznej inteligencji, w szczególności w obszarze informatyki, cyberbezpieczeństwa, ochrony danych osobowych, prawa nowych technologii lub praw człowieka; 2) nie była skazana prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 3) korzysta z pełni praw publicznych; 4) wyraziła zgodę na kandydowanie na piśmie. 5. Komisja powołuje członków Rady spośród kandydatów zgłoszonych przez podmioty, o których mowa w ust. 3. 6. Przed upływem kadencji członkostwo w Radzie wygasa z powodu: 1) rezygnacji złożonej na piśmie Przewodniczącemu Rady; 2) śmierci członka Rady; 3) niewykonywania obowiązków członka Rady przez okres dłuższy niż trzy miesiące; 4) skazania prawomocnym wyrokiem za umyślne przestępstwo lub umyślne przestępstwo skarbowe; 5) pozbawienia praw publicznych. 7. W przypadkach, o których mowa w ust. 6 pkt 3–5, Komisja na piśmie powiadamia członka Rady o wygaśnięciu członkostwa. 8. W przypadku stwierdzenia przez Komisję okoliczności, o których mowa w art. 47 ust. 7, lub niezachowania tajemnicy, o której mowa w art. 47 ust. 5, Komisja, w drodze postanowienia, odwołuje członka Rady. 9. W przypadku wygaśnięcia członkostwa albo odwołania członka Rady Komisja wybiera nowego członka Rady na okres pozostały do końca kadencji spośród pozostałych zgłoszonych kandydatów. 10. Do członków Rady stosuje się art. 38 ust. 1. Art. 46. 1. Do zadań Rady należy: 1) wyrażanie opinii i stanowisk w zakresie spraw przekazanych jej przez Komisję; 2) wyrażanie z własnej inicjatywy opinii lub stanowisk i przekazywanie ich do wiadomości Komisji; 3) przyjmowanie i przekazywanie Przewodniczącemu Komisji wniosków w sprawie wszczęcia postępowania o naruszenie przepisów rozporządzenia 2024/1689 i ustawy, o których mowa w rozdziale 4; 4) podejmowanie uchwał i przekazywanie wniosków w sprawie stwierdzenia naruszenia przez Przewodniczącego Komisji przepisów art. 35 lub art. 36. 2. Rada może współpracować z krajowymi lub zagranicznymi organami doradczymi właściwymi w zakresie spraw określonych w rozporządzeniu 2024/1689 i w ustawie oraz przy zachowaniu zasady zakazu konfliktu interesów. 3. Rada wyraża opinię lub stanowisko, o którym mowa w ust. 1 pkt 1, w terminie określonym przez Komisję. Opinie i stanowiska Rady nie są wiążące dla Komisji. 4. Opinie i stanowiska, o których mowa w ust. 1, Rada wydaje w drodze uchwały podjętej większością głosów pełnego składu Rady. 5. Opinie i stanowiska Rady są udostępniane w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 47. 1. Komisja powołuje i odwołuje Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród kandydatów przedstawionych przez Radę. 2. Rada wskazuje po dwóch kandydatów na Przewodniczącego Rady i Zastępcę Przewodniczącego Rady spośród jej członków. 3. Przewodniczący Rady kieruje jej pracami i reprezentuje ją na zewnątrz. W przypadku nieobecności Przewodniczącego Rady zastępuje go Zastępca Przewodniczącego Rady. 4. Do udziału w posiedzeniu Rady mogą być zapraszane, wskazane przez Komisję i przez Przewodniczącego Rady, inne osoby, o ile jest to uzasadnione przedmiotem posiedzenia. 5. Członek Rady i inne osoby zaproszone do udziału w posiedzeniu Rady, są obowiązani do zachowania w tajemnicy informacji, do których uzyskali dostęp w związku z wykonywaniem funkcji członka Rady lub udziałem w posiedzeniu. 6. Komisja może zwolnić z obowiązku zachowania tajemnicy w zakresie przez nią określonym, o ile zachowanie tajemnicy prowadziłoby do poważnej szkody dla państwa lub życia, zdrowia i ochrony praw podstawowych osób fizycznych. 7. Członek Rady i osoby zaproszone do udziału w posiedzeniu Rady nie mogą: 1) prowadzić działalności publicznej niedającej się pogodzić z działalnością w Radzie; 2) wykonywać działań, które mogłyby skutkować konfliktem interesów. 8. Za udział w pracach Rady jej członkom i osobom zaproszonym do udziału w posiedzeniu Radynie przysługuje wynagrodzenie. 9. Za udział w pracach Rady przysługuje zwrot kosztów podróży i noclegów na zasadach określonych w przepisach wydanych na podstawie art. 775 § 2 ustawy z dnia 26 czerwca 1974 r. – Kodeks pracy. 10. Tryb działania Rady określa regulamin, uchwalany na wniosek Rady, przez Komisję. 11. Obsługę Rady zapewnia urząd obsługujący ministra właściwego do spraw informatyzacji. Art. 57-art. 58 Art. 57. 1. Jeżeli w ustaleniach z przeprowadzonej kontroli stwierdzono nieprawidłowości w wykonywaniu przez kontrolowanego obowiązków określonych w rozporządzeniu Przedmiotowe przepisy stanowią wstęp do kolejnego rozdziału, określając sposób postępowania przygotowawczego przed rozpoczęciem właściwego postępowania przed organem. 2024/1689, ustawie lub w decyzji wydanej przez Komisję, Komisja wydaje zalecenia pokontrolne. 2. W zaleceniach pokontrolnych Komisja: 1) wzywa podmiot kontrolowany do usunięcia nieprawidłowości w szczególności może wskazać środki, jakie powinien zastosować podmiot kontrolowany, w celu ich usunięcia; 2) wskazuje termin na usunięcie nieprawidłowości; 3) wskazuje sposób i termin powiadomienia Komisji o realizacji zaleceń pokontrolnych; 4) zamieszcza pouczenie o skutkach niewykonania zaleceń pokontrolnych lub braku powiadomienia Komisji o ich wykonaniu w wyznaczonym terminie. 3. Terminy, o którym mowa w ust. 2 pkt 2 i 3, nie mogą być krótsze niż 30 dni od dnia doręczenia zaleceń pokontrolnych podmiotowi kontrolowanemu. 4. W zaleceniach pokontrolnych Komisja może określić inne terminy usunięcia nieprawidłowości i powiadomienia Komisji. Termin określony w wezwaniu może być krótszy niż 30 dni jedynie w przypadku, gdy podmiot kontrolowany, do którego odnosi się wezwanie, wyraził na to zgodę lub gdy naruszenia wskazane w zaleceniach pokontrolnych powtarzały się w przeszłości. 5. Jeżeli po upływie terminu, o którym mowa w ust. 2 pkt 2, podmiot kontrolowany nie usunie wskazanych nieprawidłowości lub nie powiadomi Komisji o realizacji zaleceń pokontrolnych, Komisja wszczyna postępowanie, o którym mowa w rozdziale 4 ustawy, z urzędu. Art. 58. Jeżeli na podstawie informacji zgromadzonych w toku kontroli Komisja stwierdzi, że mogło dojść do naruszenia przepisów rozporządzenia 2024/1689 lub ustawy wszczyna z urzędu postępowanie w sprawie naruszenia przepisów rozporządzenia 2024/1689 lub ustawy, zwane dalej „postępowaniem”. Art. 59 Art. 59. Komisja wszczyna postępowanie: 1) z urzędu w tym w przypadku: a) o którym mowa w art. 58, b) stwierdzenia w toku rozpatrywania skargi, o której mowa w art. 85 rozporządzenia 2024/1689, zwanej dalej „skargą”, możliwości naruszenia przepisów rozporządzenia 2024/1689 lub ustawy,; 2) na wniosek: a) Przewodniczącego Komisji, Zastępcy Przewodniczącego Komisji lub członka Komisji, b) organu lub podmiotu, o którym mowa w art. 77 rozporządzenia 2024/1689, c) Rady. Przepis nadaje postępowaniu przed Komisją charakter działania, dla którego zastosowanie mają przepisy Kodeksu postępowania administracyjnego. Art. 61 Art. 61. 1. Stroną postępowania jest każdy, wobec kogo zostało wszczęte postępowanie. 2. Postanowienie o wszczęciu postępowania doręcza się stronom postępowania. 3. Postępowanie nie może trwać dłużej niż 6 miesięcy od dnia doręczenia stronie postanowienia o wszczęciu postępowania. Artykuły dookreślają sposób postępowania przed organem charakterystyczny dla utrwalonego w doktrynie sposobu funkcjonowania organów w poszczególnych fazach postępowania administracyjnego. Wskazane przepisy cechują się rozwiązaniami przyjętymi dla rozwiązań proceduralnych w polskiej procedurze administracyjnej. Art. 63 Art. 63. 1. W przypadku stwierdzenia przez Komisję naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy przez podmiot, o którym mowa w art. 2 ust. 1 lit. a–f tego rozporządzenia, oraz niezawarcia układu, o którym mowa w rozdziale 5, Komisja wydaje decyzję w sprawie tego naruszenia. 2. Decyzja w sprawie naruszenia zawiera środki nakazujące usunięcie skutków naruszenia obowiązków wynikających z rozporządzenia 2024/1689 lub ustawy, w terminie do 14 dni od dnia jej doręczenia. 3. W przypadku zastosowania się przez stronę, w terminie, do środków nakazujących usunięcie skutków naruszenia, Komisja uwzględnia tę okoliczność, podejmując decyzję w sprawie administracyjnej kary pieniężnej. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 64 ust. 2-5 Art. 64. 2. W przypadku stwierdzenia przez Komisję, że system sztucznej inteligencji stwarza bezpośrednie ryzyko zagrożenia dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, Komisja może wydać decyzję nakazującą operatorowi tego systemu zaprzestanie stosowania lub wycofanie systemu z rynku lub użytkowania. Komisja może nadać decyzji rygor natychmiastowej wykonalności. 3. Jeżeli w toku postępowania Komisja stwierdzi, że system sztucznej inteligencji stwarza ryzyko dla praw podstawowych osób fizycznych, niezwłocznie informuje o tym krajowe organy lub podmioty określone w wykazie, o którym mowa w art. 77 ust. 2 rozporządzenia 2024/1689. 4. Komisja prowadzi postępowanie, o którym mowa w ust. 1, przez okres niedłuższy niż 7 dni od dnia wszczęcia postępowania. 5. O decyzji, o której mowa w ust. 2, Komisja informuje właściwą jednostkę notyfikowaną i Komisję Europejską oraz, jeżeli wymaga tego zakres sprawy, właściwy organ krajowy państwa członkowskiego. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689. Art. 65 Art. 65. W zakresie nieuregulowanym do postępowania stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Przepis nie wynika bezpośrednio z dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, ma na celu odesłanie do przepisów kodeksu, jako że postępowanie przed organem spełnia przesłanki właściwe dla postępowania administracyjnego. Art. 66 Art. 66. 1. Nad postanowienia Komisji, o którym mowa w art. 62 ust. 1, oraz ust. 4 pkt 1 i 2, przysługuje zażalenie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 2. Od decyzji Komisji, o których mowa w art. 63 ust. 1 oraz art. 64 ust. 2, przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów. 3. Do postępowania w sprawach odwołania od decyzji Komisji, o którym mowa w ust. 2, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. 2024 r. poz. 1568 z późn. zm.) z zakresu postępowania w sprawach naruszenia przepisów rozporządzenia 2024/1689 i ustawy. 4. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja - nieprzekazując akt sądowi -– w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję, o której mowa w art. 63 ust. 1 albo art. 64 ust. 2, w całości albo w części, jednocześnie stwierdzając, czy decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Komisja niezwłocznie doręcza nową decyzję stronie. Przepisy ust. 2 i 3 stosuje się odpowiednio. 5. Do postanowień Komisji, na które służy zażalenie, przepisy ust. 3 i 4 stosuje się odpowiednio Art.68 Art. 68. Wniesienie przez stronę odwołania do sądu wstrzymuje wykonanie decyzji w zakresie administracyjnej kary pieniężnej. Przepis wprowadza osadzenie sposobu działania w przypadku wejścia na ścieżkę sądowo-administracyjną. Art. 69 Art. 69. W przypadku gdy w wyniku przeprowadzonego postępowania zostaną ujawnione informacje wskazujące na możliwość popełnienia przestępstwa do zawiadomienia, o którym mowa w art. 304 § 2 ustawy z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego (Dz. U. z 2025 r. poz. 46, z późn. zm.), Komisja dołącza akta postępowania. Przepis wprowadza możliwość współpracy organu z organami ścigania, w przypadku naruszeń prawnokarnych. Art. 70 Art. 70. Akta postępowania Komisja przechowuje przez okres 10 lat od dnia doręczenia decyzji, chyba że przepisy odrębne przewidują inny okres przechowywania określonych informacji. Przepis nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia – właściwe przepisy dot. sposobu dokumentacji określają jedynie obowiązki dostawcy systemu AI, a nie organu. Art. 71-art. 85 Art. 71. 1. Komisja może wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji, zwanego dalej „układem”, jeżeli w toku postępowania uzna, że przyczyni się do pełniejszej realizacji celów rozporządzenia 2024/1689 i ustawy, a działanie strony będące przedmiotem postępowania nie doprowadziło do Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu umożliwienie sprawniejszego zamknięcia sprawy. W projekcie ustawy przewidziano rozwiązania, które mają na celu ułatwić stronie, wobec której toczy się postępowanie, jak najszybsze zakończenie stanu naruszenia przepisów i wdrożenie adekwatnych środków naprawczych, a także ubiegania się o wystąpienia zdarzeń, o których mowa w art. 3 pkt 49 lit. a, b lub d rozporządzenia 2024/1689. 2. Strona może zwrócić się do Komisji z wnioskiem o zawarcie układu. 3. W przypadku otrzymania wniosku o zawarcie układu Komisja wydaje postanowienie o: 1) możliwości zawarcia układu albo 2) braku możliwości zawarcia układu. 4. Układ może zostać zawarty, jeżeli strona: 1) zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie - w zakresie naruszenia objętego danym postępowaniem oraz 2) ujawniła Komisji wszelkie istotne okoliczności dotyczące naruszenia objętego danym postępowaniem, w tym ujawniła osoby lub inne podmioty współdziałające w naruszeniu, oraz przedstawiła dowody na poparcie tych okoliczności. 5. Strona może zobowiązać się w układzie do: 1) usunięcia w określonym terminie dających się usunąć skutków naruszenia objętego danym postępowaniem; 2) naprawienia w określonym terminie, w całości albo w części, szkód wyrządzonych w wyniku naruszenia, w tym także w przypadkach, gdy szkoda ujawni się w przyszłości. 6. W ramach zawieranego układu Komisja może obniżyć wysokość administracyjnej kary pieniężnej niemniej niż o 20% i niewięcej niż o 70%, a w przypadku, o którym mowa w art. 85 – niemniej niż o 30% i niewięcej niż o 90%, wysokości administracyjnej kary pieniężnej, która zostałaby nałożona bez zawarcia układu. Komisją może także złagodzić dolegliwość innej sankcji. 7. Jeżeli przepis prawa przewiduje możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i zakazu, nakazu lub innej sankcji za dane naruszenie, złagodzenie sankcji może złagodzenie sankcji. W toku postępowania Komisja może, na wniosek strony, wydać postanowienie o możliwości zawarcia układu w sprawie warunków nadzwyczajnego złagodzenia sankcji. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia przez stronę wszelkich skutków naruszenia objętego postępowaniem, układ może nawet przewidywać odstąpienie od nałożenia sankcji. Przepisy szczegółowo określają sposób realizacji ugody z organem. polegać na odstąpieniu od nałożenia zakazu, nakazu lub innej sankcji i na nałożeniu wyłącznie administracyjnej kary pieniężnej w wysokości obniżonej zgodnie z ust. 6 albo bez jej obniżenia. 8. Przy obniżaniu wysokości administracyjnej kary pieniężnej lub przy łagodzeniu dolegliwości sankcji w sposób określony w ust. 7 Komisja bierze pod uwagę: 1) okoliczności, w jakich strona w zakresie naruszenia objętego danym postępowaniem zaprzestała naruszania prawa albo usunęła stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie lub przez działanie z własnej inicjatywy zgodnie z art. 85 ust. 1; 2) zakres i znaczenie ujawnienia wszystkich istotnych okoliczności naruszenia objętego danym postępowaniem, w tym ujawnienia osób lub innych podmiotów współdziałających w naruszeniu, oraz przedstawienia dowodów na poparcie tych okoliczności; 3) zakres zobowiązań, o których mowa w ust. 5, oraz termin ich wykonania przez stronę. 9. W przypadku zaistnienia nadzwyczajnych okoliczności łagodzących, w tym usunięcia wszelkich skutków naruszenia objętego postępowaniem przez stronę, układ może przewidywać odstąpienie od nałożenia sankcji. 10. Przepisy niniejszego rozdziału mogą być stosowane także w przypadku, gdy przepis prawa przewiduje obowiązek zastosowania sankcji. Art. 72. 1. W postanowieniu o możliwości zawarcia układu Komisja wyznacza termin na zawarcie układu nie dłuższy niż 1 miesiąc. W uzasadnionych przypadkach Komisja może, w drodze postanowienia, przedłużyć termin na zawarcie układu o dodatkowy okres, niedłuższy jednak niż 3 miesiące. 2. Strona w terminie 14 dni od dnia doręczenia postanowienia o możliwości zawarcia układu składa Komisji oświadczenie o woli zawarcia układu. 3. Do czasu zawarcia układu strona może wycofać oświadczenie, o woli zawarcia układu. Art. 73. 1. Niezwłocznie po złożeniu oświadczenia woli zawarcia układu strona przedstawia Komisji znane jej okoliczności naruszenia i dowody na ich poparcie, pozwalające stwierdzić, że są spełnione warunki, o których mowa w art. 71 ust. 4, a w razie potrzeby uzupełnia je z własnej inicjatywy lub na żądanie Komisji. Strona oświadcza, że przedstawiła wszystkie znane jej okoliczności i dowody dotyczące naruszenia. 2. Informacje i dowody uzyskane przez Komisję mające charakter oświadczenia strony, a nieznane dotychczas Komisji, nie mogą być wykorzystane jako dowód w postępowaniu, w przypadku, gdy układ nie zostanie zawarty, ani w innym postępowaniu prowadzonym wobec tego podmiotu przez Komisję albo przez inny organ na podstawie przepisów odrębnych. 3. W przypadku podjęcia zobowiązania, o którym mowa w art. 71 ust. 5, strona przedstawia Komisji zakres działań, jakie zamierza podjąć, oraz sposób i termin ich wykonania. Jednocześnie strona składa oświadczenie o braku wiedzy o przeszkodach uniemożliwiających wykonanie tego zobowiązania, według stanu na moment składania oświadczenia. 4. Oświadczenia, o których mowa w ust. 1 zdanie drugie oraz w ust. 3 zdanie drugie, są składane przez stronę lub osobę upoważnioną do jej reprezentowania pod rygorem odpowiedzialności karnej za składanie fałszywych oświadczeń. Art. 74. 1. Po stwierdzeniu spełnienia warunków, o których mowa w art. 71 ust. 4, Komisja przygotowuje i przedstawia stronie projekt układu, wskazując rodzaj i zakres proponowanego złagodzenia sankcji. Komisja wydaje postanowienie o przedstawieniu projektu układu. 2. W przypadku gdy strona podjęła zobowiązanie, o którym mowa w art. 71 ust. 5, w projekcie układu zamieszcza się również treść tego zobowiązania, wskazując zakres działań, jakie strona zamierza podjąć oraz sposób i termin ich wykonania. 3. W postanowieniu, o przedstawieniu projektu układu Komisja wyznacza termin na przyjęcie układu niekrótszy niż 14 dni od dnia doręczenia stronie tego postanowienia. Bieg terminu, o którym mowa w art. 72 ust. 1, ulega zawieszeniu do dnia upływu terminu, o którym mowa w zdaniu pierwszym. 4. Postanowienie, o przedstawieniu projektu układu, zawiera pouczenie o sposobie i skutkach przyjęcia układu, w szczególności o skutku wynikającym z art. 75 ust. 4, oraz o skutku niezłożenia oświadczenia, o którym mowa w art. 75 ust. 1, w wyznaczonym terminie. Art. 75. 1. Zawarcie układu następuje na skutek złożenia przez stronę oświadczenia o następującej treści: „Oświadczam, że przyjmuję w całości i bez zastrzeżeń układ w sprawie warunków nadzwyczajnego złagodzenia sankcji zgodnie z postanowieniem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji z dnia ..................... r. wydanym na podstawie art. 74 ust. 1 ustawy z dnia ........... r. o systemach sztucznej inteligencji (Dz. U. poz. ...).”. 2. Złożenie oświadczenia o przyjęciu układu o innej treści niż określona w ust. 1 jest bezskuteczne. 3. Niezłożenie w terminie oświadczenia, o którym mowa w ust. 1, jest tożsame z odrzuceniem projektu układu przez stronę. 4. Skutkiem oświadczenia, o przyjęciu układu jest zrzeczenie się przez stronę prawa do złożenia odwołania do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów w odniesieniu do decyzji, o której mowa w art. 77 ust. 1. Art. 76. 1. W przypadku gdy w terminie wyznaczonym zgodnie z art. 72 ust. 1, z uwzględnieniem art. 74 ust. 3, nie dojdzie do zawarcia układu, Komisja wydaje postanowienie o zakończeniu czynności zmierzających do zawarcia układu. 2. Postanowienie, o którym mowa w ust. 1, Komisja wydaje także w przypadku: 1) gdy strona nie złoży oświadczenia, o którym mowa w art. 72 ust. 2; 2) gdy strona wycofa oświadczenie, o którym mowa w art. 72 ust. 2; 3) uznania, że działania strony mają charakter pozorny i nie zmierzają do zawarcia układu. Art. 77. 1. W przypadku zawarcia układu Komisja niezwłocznie wydaje decyzję zawierającą ustalenia układu, określone w postanowieniu, o którym mowa w art. 74 ust. 1 zdanie drugie. 2. Decyzja, o której mowa w ust. 1, jest ostateczna. Art. 78. 1. Okresu od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2, nie wlicza się do terminu załatwienia sprawy. 2. Bieg terminów przedawnienia ulega zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia zawarcia układu albo wydania postanowienia, o którym mowa w art. 76 ust. 1 lub 2. Art. 79. Do decyzji, o której mowa w art. 77 ust. 1, nie stosuje się art. 162 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 80. 1. Na żądanie Komisji strona, która zawarła układ, przedstawia harmonogram wywiązywania się ze zobowiązań podjętych w ramach układu. 2. Komisja może żądać informacji lub dokumentów dotyczących wywiązywania się przez stronę, ze zobowiązań podjętych w ramach układu. Art. 81. 1. W przypadku niewykonania przez stronę zobowiązań podjętych w ramach układu w całości albo w istotnej części lub stwierdzenia istotnych nieprawidłowości w wykonaniu tych zobowiązań Komisja wznawia z urzędu postępowanie, o którym mowa w art. 71 ust. 1. 2. Nie wznawia się postępowania z przyczyn, o których mowa w ust. 1, jeżeli od dnia doręczenia decyzji, o której mowa w art. 77 ust. 1, upłynęło więcej niż 10 lat. Art. 82. 1. Wznowienie postępowania, o którym mowa w art. 71 ust. 1, następuje w drodze postanowienia. 2. Postanowienie stanowi podstawę do przeprowadzenia przez Komisję postępowania w sprawie przyczyn wznowienia oraz w sprawie rozstrzygnięcia co do istoty sprawy. 3. W przypadku wznowienia postępowania, o którym mowa w art. 71 ust. 1, uznaje się, że bieg terminu przedawnienia nałożenia administracyjnej kary pieniężnej lub innej sankcji uległ zawieszeniu w okresie od dnia wydania postanowienia, o którym mowa w art. 71 ust. 1 lub ust. 3 pkt 1, do dnia wydania postanowienia, o którym mowa w ust. 1. Art. 83. 1. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja o nałożeniu administracyjnej kary pieniężnej, kwotę uiszczoną tytułem administracyjnej kary pieniężnej nałożonej w drodze decyzji, o której mowa w art. 77 ust. 1, zalicza się na poczet administracyjnej kary pieniężnej nałożonej w wyniku wznowienia postępowania. 2. W przypadku gdy w wyniku wznowienia postępowania, o którym mowa w art. 71 ust. 1, jest wydawana decyzja, a przepis prawa przewiduje za dane naruszenie możliwość jednoczesnego nałożenia administracyjnej kary pieniężnej i decyzji nakazującej wycofanie systemu sztucznej inteligencji z rynku, nałożenia zakazu albo zastosowania innej sankcji, Komisja w tej decyzji może zastosować jedną z sankcji przewidzianych przepisami prawa albo obydwie sankcje łącznie. W stosunku do administracyjnej kary pieniężnej stosuje się przepis ust. 1. Art. 84. Przepisy art. 81 i art. 82 nie wyłączają stosowania przepisów art. 145–152 ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego. Art. 85. 1. Przepisy niniejszego rozdziału stosuje się także w przypadku, gdy: 1) postępowanie, o którym mowa w art. 71 ust. 1, zostało wszczęte na podstawie informacji lub dokumentów przedstawionych Komisji z własnej inicjatywy przez podmiot, który dopuścił się naruszenia, a 2) w informacjach lub dokumentach, o których mowa w pkt 1: a) ujawniono wszystkie istotne okoliczności dotyczące naruszenia, w tym osoby lub inne podmioty współdziałające w naruszeniu, oraz b) przedstawiono dowody na poparcie tych okoliczności; 3) przed złożeniem informacji i dokumentów, o których mowa w pkt 1, podmiot zaprzestał danego naruszenia prawa albo usunął stan niezgodności z prawem, w tym przez spełnienie obowiązku niewykonanego w terminie. 2. Podmiot, który dopuścił się naruszenia, może uzupełnić informacje lub dokumenty, o których mowa w ust. 1 pkt 1, na zasadach określonych w art. 73 ust. 1 i 2. 3. W przypadku, o którym mowa w ust. 1, podmiot, który dopuścił się naruszenia, może jednocześnie złożyć wniosek, o którym mowa w art. 71 ust. 2. 4. Wniosek, o którym mowa w art. 71 ust. 2, Komisja rozpatruje po wszczęciu postępowania, o którym mowa w art. 71 ust. 1. W przypadku gdy to postępowanie nie zostało wszczęte, wniosek pozostawia się bez rozpoznania. Art. 92-art. 94 Art. 92. 1. Komisja ogłasza i rozstrzyga konkurs na uczestnictwo w piaskownicy regulacyjnej. 2. Ogłoszenie o konkursie zawiera co najmniej: 1) przedmiot konkursu 2) termin, miejsce i sposób składania ofert; 3) wymagane dokumenty; 4) kryteria oceny ofert; Przepis zawiera opis instytucji piaskownicy regulacyjnej, który pozostaje w gestii państwa członkowskiego i nie jest bezpośrednio wymagana implementacja – rozporządzenie nie określa szczegółowo warunków. 5) termin ogłoszenia o wynikach konkursu. 3. Komisja udostępnia ogłoszenie o konkursie w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 93. 1. Komisja powołuje zespół konkursowy do oceny ofert. 2. Zespół konkursowy: 1) ocenia oferty pod kątem zgodności z warunkami, o których mowa w rozporządzeniu 2024/1689 i w ustawie; 2) sporządza protokół oceny ofert; 3) sporządza projekt listy rankingowej. 3. Komisja zatwierdza dokumenty, o których ust. 2 pkt 2 i 3. 4. Do uczestnictwa w piaskownicy regulacyjnej kwalifikują się podmioty z najwyższą liczbą punktów na liście rankingowej, aż do wyczerpania limitu liczby użytkowników. 5. Podmioty nieposiadające siedziby lub oddziału na terenie Unii Europejskiej kwalifikują się do uczestnictwa w piaskownicy regulacyjnej po wyczerpaniu listy pozostałych podmiotów, w ramach limitu liczby użytkowników. 6. Komisja udostępnia protokół oceny ofert i listę rankingową w Biuletynie Informacji Publicznej na stronie podmiotowej Komisji. Art. 94. 1. Podmioty składające oferty w konkursie mogą złożyć do Komisji odwołanie od rozstrzygnięcia ich oferty zawartego w liście rankingowej, w terminie 7 dni od dnia udostępnienia tej listy. 3. Komisja rozpatruje odwołanie, o którym mowa w ust. 1, w terminie 7 dni od dnia upływu terminu do jego złożenia. 4. Komisja powołuje zespół odwoławczy do oceny odwołania, o którym mowa w ust. 1, w składzie innym niż zespół konkursowy, o którym mowa w art. 93 ust. 1. 5. Zespół odwoławczy oceniając odwołanie bierze pod uwagę w szczególności ofertę co do której złożono odwołanie oraz nowe okoliczności faktyczne lub prawnych przedstawione w odwołaniu mające wpływ na wynik oceny. 6. Zespół odwoławczy do ponownej oceny ofert przygotowuje aneksy do protokołu i listy rankingowej, o których mowa w art. 93 ust. 4. 7. Komisja zatwierdza dokumenty, o których ust. 6. Przepis art. 93 ust. 6 stosuje się. 8. Po bezskutecznym upływie terminu, o którym mowa w ust. 2, lub ogłoszeniu aneksów, o których mowa w ust. 6, Komisja niezwłocznie wydaje decyzję, o której mowa w art. 91 ust. 2. Art. 97 Art. 97. 1. Komisja może prowadzić kontrolę w podmiotach uczestniczących w piaskownicy regulacyjnej w zakresie przestrzegania warunków zakwalifikowania do uczestnictwa w piaskownicy regulacyjnej. 2. Do kontroli, o której mowa w ust. 1, stosuje się przepisy rozdziału 3 z wyłączeniem art. art. 48 ust. 1 i 2, art. 57 i art. 58. 3. Jeżeli w przypadku przeprowadzonej kontroli, o której mowa w ust. 1, stwierdzono naruszenie przez podmiot warunków zakwalifikowania do piaskownicy regulacyjnej, Komisja wzywa podmiot do usunięcia naruszenia w określonym w wezwaniu terminie, niekrótszym niż 30 dni od otrzymania wezwania. 4. W przypadku gdy podmiot nie usuwa naruszenia w terminie określonym w wezwaniu, o którym mowa w ust. 3, Komisja podejmuje decyzję o wyłączeniu tego podmiotu z piaskownicy regulacyjnej. Decyzja wchodzi w życie po upływie 14 dni od dnia jej doręczenia. Przedmiotowa zmiana nie wynika bezpośrednio z konieczności dostosowania przepisów krajowych do stosowania rozporządzenia 2024/1689, lecz ma na celu uprawnienie organu do sprawdzenia czy podmioty przestrzegają warunki. Art. 99 Art. 99. 1. W zakresie zadań, o których mowa w art. 1 ust. 1 rozporządzenia 2024/1689, minister właściwy do spraw informatyzacji może: 1) udzielać pomocy finansowej w zakresie badań naukowych lub prac rozwojowych oraz finansować lub współfinansować programy i projekty w tym ze środków pochodzących z: a) budżetu państwa w formie dotacji celowej, Określenie dodatkowych kompetencji ministra, niezależnie od obowiązku implementacji. b) budżetu Unii Europejskiej, zapewniających wsparcie w ramach polityki spójności, c) środków pochodzących z bezzwrotnej pomocy zagranicznej d) środków pochodzących z innych programów w zakresie mu powierzonym do realizacji na podstawie ustawy, właściwych umów lub porozumień, 2) inicjować, wspierać i realizować programy obejmujące finansowanie badań naukowych lub prac rozwojowych oraz działań przygotowujących do wdrożenia wyników badań naukowych lub prac rozwojowych na podstawie ustawy, właściwych umów i porozumień. 2. Programy i projekty, o których mowa w ust. 1, są realizowane przez jednostki podległe lub nadzorowane przez ministra właściwego do spraw informatyzacji w ramach ich zadań, 3. Minister właściwy do spraw informatyzacji popularyzuje efekty zrealizowanych zadań, o których mowa w ust. 1 pkt 1 i 2. Art. 101 Art. 101. 1. W związku z toczącym się postępowaniem podmiot, o którym mowa w art. 100 ust. 1, w terminie 14 dni od dnia otrzymania żądania dostarcza Komisji dane niezbędne do określenia podstawy wymiaru administracyjnej kary pieniężnej. 2. W przypadku niedostarczenia danych przez podmiot, o którym mowa w art. 100 ust. 1, lub gdy dostarczone przez ten podmiot dane uniemożliwiają ustalenie podstawy wymiaru administracyjnej kary pieniężnej, Komisja ustala podstawę wymiaru administracyjnej kary pieniężnej w sposób szacunkowy, uwzględniając wielkość podmiotu, specyfikę prowadzonej przez niego działalności lub ogólnie dostępne dane finansowe dotyczące podmiotu. Przepis określa obowiązki podmiotu w celu prawidłowego i z uwzględnieniem interesu. Art. 102 Art. 102. Środki finansowe z administracyjnej kary pieniężnej stanowią dochód budżetu państwa. Przepis odnoszący się wyłącznie do porządku krajowego. Art. 104-art. 106 Art. 104. 1. Komisja może nadać decyzji rygor natychmiastowej wykonalności. Przepis wpisuje sposób działania organu w ramy postępowania administracyjnego. 2. Wydając decyzję o nadaniu rygoru natychmiastowej wykonalności, Komisja bierze pod uwagę stwierdzone w trakcie postępowania lub mogące z dużym prawdopodobieństwem wystąpić szkody dla życia, zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych wynikające z wprowadzenia do obrotu, oddania do użytku lub stosowania systemu, którego dotyczy postępowanie. Art. 105. 1. Od decyzji w sprawie nałożenia administracyjnej kary pieniężnej przysługuje odwołanie do Sądu Okręgowego w Warszawie – sądu ochrony konkurencji i konsumentów za pośrednictwem Komisji. 2. Do postępowania w sprawach odwołania, o którym mowa w ust. 1, stosuje się przepisy ustawy z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego. 3. W przypadku uznania, że odwołanie zasługuje w całości albo w części na uwzględnienie, Komisja – nie przekazując akt sądowi – w terminie 14 dni od dnia doręczenia odwołania wydaje decyzję, w której uchyla albo zmienia decyzję w sprawie nałożenia administracyjnej kary pieniężnej w całości albo w części. Komisja niezwłocznie doręcza decyzję stronie. 4. Do decyzji, w której Komisja zmienia albo uchyla decyzję w sprawie nałożenia administracyjnej kary pieniężnej, przepisy ust. 1 i 2 stosuje się odpowiednio. Art. 106. Do postępowania w sprawie administracyjnych kar pieniężnych stosuje się przepisy ustawy z dnia 14 czerwca 1960 r. – Kodeks postępowania administracyjnego, z wyjątkiem art. 189d, art. 189f i art. 189k. Art. 107 Art. 107. Do należności z tytułu administracyjnych kar pieniężnych nakładanych przez Komisję w związku z naruszeniem przepisów rozporządzenia 2024/1689 i ustawy stosuje się odpowiednio przepisy działu III ustawy z dnia 29 sierpnia 1997 r. – Ordynacja podatkowa, z tym że uprawnienia organów podatkowych określone w tych przepisach przysługują Komisji. Przepis określa wewnątrzkrajowy sposób egzekucji kar należnych za naruszenie przepisów rozporządzenia. Art. 108-Art.110 Art. 108. 1. Kto utrudnia lub udaremnia przeprowadzenie czynności kontrolnych, o których mowa w rozdziale 3, lub czynności w postępowaniu administracyjnym, o których mowa w rozdziałach 4–5, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. 3. Przepisów ust. 1 i 2 nie stosuje się do czynów określonych w art. 99 ust. 5 rozporządzania 2024/1689. Art. 109. 1. Kto nie wykonuje decyzji Komisji, o której mowa w art. 64 ust. 2, podlega karze ograniczenia wolności albo grzywny. 2. Tej samej karze podlega, kto dopuszcza się czynu określonego w ust. 1, działając w imieniu lub w interesie osoby prawnej lub jednostki organizacyjnej nieposiadającej osobowości prawnej. Art. 110. Orzekanie w sprawach o czyny, o których mowa w art. 108 i art. 109, następuje w trybie przepisów ustawy z dnia 24 sierpnia 2001 r. – Kodeks postępowania w sprawach o wykroczenia (Dz. U. z 2025 r. poz. 860, z późn. zm.). Przepis dopuszcza sankcje za niespełnienie obowiązków względem poddania się wykonaniu kary. Art.111 -Art. 119 Art. 111. W ustawie z dnia 17 listopada 1964 r. – Kodeks postępowania cywilnego (Dz. U. z 2024 r. poz. 1568 i 1841, z 2005 r. poz. 620, 1172, 1302, 1518 i 1661 oraz z 2026 r. poz. 26) w części pierwszej w księdze pierwszej w tytule VII po dziale IVf dodaje się dział IVfa w brzmieniu: „DZIAŁ IVFA. POSTĘPOWANIE W SPRAWACH NARUSZENIA PRZEPISÓW ROZPORZĄDZENIA 2024/1689 I USTAWY Z DNIA... O SYSTEMACH SZTUCZNEJ INTELIGENCJI Art. 479 88a . Sąd ochrony konkurencji i konsumentów jest właściwy w sprawach odwołań od decyzji i zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, o których mowa w ustawie z dnia ... r. o systemach sztucznej inteligencji (Dz. U. poz. ...). Przepisy określają zmiany w przepisach obowiązujących, wpisując ustawę w system prawa polskiego i tym samym dostosowując do warunków krajowych, które nie mogą być z natury przedmiotem rozporządzenia 2024/1689. Art. 479 88b. Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się za jej pośrednictwem do sądu ochrony konkurencji i konsumentów w terminie miesiąca od dnia doręczenia decyzji. Art. 479 88c . § 1. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji przekazuje niezwłocznie odwołanie wraz z aktami sprawy do sądu. § 2. Jeżeli Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji uwzględni odwołanie w całości, może – nie przekazując akt sądowi – wydać nową decyzję, w której uchyla lub zmienia swoją decyzję, o czym niezwłocznie powiadamia stronę, przesyłając jej nową decyzję, od której stronie służy odwołanie. Art. 479 88d . Odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji powinno czynić zadość wymaganiom przepisanym dla pisma procesowego oraz zawierać oznaczenie zaskarżonej decyzji i wartości przedmiotu sporu, przytoczenie zarzutów, zwięzłe ich uzasadnienie, wskazanie dowodów, a także wniosek o uchylenie albo o zmianę decyzji w całości lub w części. Art. 479 88e . § 1. W sprawach naruszenia przepisów rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE L 2024/1689 z 12.07.2024) i ustawy z dnia ... r. o systemach sztucznej inteligencji stronami są także Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji i podmiot będący stroną postępowania przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 2. Pełnomocnikiem Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji może być pracownik urzędu obsługującego ministra właściwego do spraw informatyzacji. Art. 479 88f . § 1. Sąd ochrony konkurencji i konsumentów oddala odwołanie od decyzji Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, jeżeli nie ma podstaw do jego uwzględnienia. § 2. Sąd ochrony konkurencji i konsumentów odrzuca odwołanie wniesione po upływie terminu do jego wniesienia, niedopuszczalne z innych przyczyn, a także wtedy, gdy nie uzupełniono w wyznaczonym terminie braków odwołania. § 3. W razie uwzględnienia odwołania sąd ochrony konkurencji i konsumentów zaskarżoną decyzję albo uchyla, albo zmienia w całości lub w części i orzeka co do istoty sprawy. Jednocześnie sąd stwierdza, czy zaskarżona decyzja została wydana bez podstawy prawnej albo z rażącym naruszeniem prawa. Art. 479 88g . § 1. W postępowaniu przed sądem ochrony konkurencji i konsumentów chroni się tajemnicę przedsiębiorstwa oraz inne tajemnice podlegające ochronie na podstawie odrębnych przepisów. § 2. Sąd ochrony konkurencji i konsumentów może, w drodze postanowienia, ujawnić stronie postępowania sądowego informacje chronione w postępowaniu przed Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako tajemnica przedsiębiorstwa drugiej strony tylko wtedy, gdy: 1) zmieniły się istotnie okoliczności będące podstawą wydania przez Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji postanowienia ograniczającego prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy; 2) strona, której tajemnica przedsiębiorstwa jest chroniona, wyraziła zgodę. § 3. Sąd na wniosek strony lub z urzędu może, w drodze postanowienia, w niezbędnym zakresie ograniczyć pozostałym stronom prawo wglądu do materiału dowodowego załączonego przez strony do akt sprawy w toku postępowania sądowego, jeżeli udostępnienie tego materiału groziłoby ujawnieniem tajemnicy przedsiębiorstwa lub innych tajemnic podlegających ochronie na podstawie odrębnych przepisów. § 4. Ograniczenie prawa wglądu do materiału dowodowego, o którym mowa w § 3, nie dotyczy Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. § 5. Na postanowienie, o którym mowa w § 2 i 3, nie przysługuje zażalenie. Art. 479 88h . § 1. Zażalenie na postanowienie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wnosi się do sądu ochrony konkurencji i konsumentów w terminie tygodnia od dnia doręczenia tego postanowienia. § 2. Przepisy art. 479 88c , 479 88d § 1, art. 479 88f , art. 479 88g stosuje się odpowiednio do zażaleń na postanowienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Art. 479 88i . Skarga kasacyjna od orzeczenia sądu drugiej instancji przysługuje niezależnie od wartości przedmiotu zaskarżenia.”. Art. 112. W ustawie z dnia 17 czerwca 1966 r. o postępowaniu egzekucyjnym w administracji (Dz. U. z 2026 r. poz. 268) w art. 17 § 1a otrzymuje brzmienie: „§ 1a. O ile odrębne przepisy nie stanowią inaczej, do zażaleń na postanowienia, o których mowa w art. 34 § 2, wydanych przez wierzycieli, dla których organem wyższego stopnia jest minister albo w stosunku do których brak organu wyższego stopnia, stosuje się odpowiednio art. 127 § 3 Kodeksu postępowania administracyjnego, z tym że termin do wniesienia zażalenia wynosi 7 dni od dnia doręczenia postanowienia.”. Art. 113. W ustawie z dnia 29 grudnia 1992 r. o radiofonii i telewizji (Dz. U. z 2022 r. poz. 1722 oraz z 2024 r. poz. 96 i 1222) w art. 6 w ust. 2 po pkt 10 dodaje się pkt 10a w brzmieniu: „10a) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 114. W ustawie z dnia 21 sierpnia 1997 r. o ograniczeniu prowadzenia działalności gospodarczej przez osoby pełniące funkcje publiczne (Dz. U. z 2025 r. poz. 499 oraz z 2026 r. poz. 160 i 177) w art. 2 po pkt 3c dodaje się pkt 3d w brzmieniu: „3d) Przewodniczącego oraz Zastępców Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji;”. Art. 115. W ustawie z dnia 24 maja 2002 r. o Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (Dz. U. z 2025 r. poz. 902 i 1366 oraz z 2026 r. poz. 26) w art. 7 w ust. 3 dodaje się zdanie drugie w brzmieniu: „W sprawozdaniu z działalności zamieszcza się odrębną część dotyczącą użycia sztucznej inteligencji w celu realizacji zadań Agencji.”. Art. 116. W ustawie z dnia 28 lipca 2005 r. o kosztach sądowych w sprawach cywilnych (Dz. U. z 2025 r. poz. 1228) wprowadza się następujące zmiany: 1) w art. 3 w ust. 2 pkt 9 otrzymuje brzmienie: „9) odwołanie od decyzji oraz zażalenie na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego, Przewodniczącego Krajowej Rady Radiofonii i Telewizji, Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji oraz organu regulacyjnego, o którym mowa w ustawie z dnia 7 czerwca 2001 r. o zbiorowym zaopatrzeniu w wodę i zbiorowym odprowadzaniu ścieków (Dz. U. z 2024 r. poz. 757).”; 2) art. 32 otrzymuje brzmienie: „Art. 32. 1. Opłatę stałą w kwocie 1000 złotych pobiera się od odwołania od decyzji Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także od apelacji, skargi kasacyjnej i skargi o stwierdzenie niezgodności z prawem prawomocnego orzeczenia w takiej sprawie. 2. Opłatę stałą w kwocie 500 złotych pobiera się od zażalenia na postanowienie Prezesa Urzędu Ochrony Konkurencji i Konsumentów, Prezesa Urzędu Regulacji Energetyki, Prezesa Urzędu Komunikacji Elektronicznej, Prezesa Urzędu Transportu Kolejowego oraz Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 117. W ustawie z dnia 21 lipca 2006 r. o nadzorze nad rynkiem finansowym (Dz. U. z 2025 r. poz. 640 i 1069 oraz z 2026 r. poz. 252) po art. 17g dodaje się art. 17h w brzmieniu: „Art.17h. Komisja współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.. Komisja oraz Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. dokonują wzajemnej wymiany informacji lub dokumentów, w tym informacji chronionych na podstawie odrębnych ustaw, w zakresie niezbędnym do wykonywania ich ustawowo określonych zadań.”. Art. 118. W ustawie z dnia 10 maja 2018 r. o ochronie danych osobowych (Dz. U. z 2019 r. poz. 1781 oraz z 2026 r. poz. 252) po art. 59 dodaje się art. 59a w brzmieniu: „Art. 59a. Prezes Urzędu współpracuje z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 119. W ustawie z dnia 5 lipca 2018 r. o krajowym systemie cyberbezpieczeństwa (Dz.U. z 2026 r. poz. 20 i 252) w art. 26 w ust. 3 w pkt 16 kropkę zastępuje się średnikiem i dodaje się pkt 17 w brzmieniu: „17) współpraca z Komisją Rozwoju i Bezpieczeństwa Sztucznej Inteligencji.”. Art. 120 ust. 2-4 Art. 120. 2. Sejm Rzeczypospolitej Polskiej za zgodą Senatu Rzeczypospolitej Polskiej powołuje Przewodniczącego Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w terminie 14 dni od dnia wejścia w życie ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce. Jego powołanie w ustawie wymaga wprowadzenia 3. Pierwsze posiedzenie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji Przewodniczący Komisji zwołuje w terminie nieprzekraczającym 3 miesięcy od dnia wejścia w życie ustawy. 4. Minister właściwy do spraw informatyzacji podejmuje działania niezbędne w celu utworzenia w urzędzie obsługującym tego ministra komórki organizacyjnej, o której mowa w art. 43 ust. 2, rozpoczęcia działalności przez tę komórkę, Przewodniczącego Komisji i Komisję w terminie 2 miesięcy od dnia wejścia w życie ustawy. przepisów, które zapewnią mu właściwe funkcjonowanie, w tym organizację jego obsługi. Art. 121 Art. 121. 1. Maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie niniejszej ustawy wynosi: 1) w 2026 r. – 9,30 mln zł; 2) w 2027 r. – 23,74 mln zł; 3) w 2028 r. – 24,17 mln zł; 4) w 2029 r. – 24,89 mln zł; 5) w 2030 r. – 25,63 mln zł; 6) w 2031 r. – 26,39 mln zł; 7) w 2032 r. – 27,18 mln zł; 8) w 2033 r. – 27,99 mln zł; 9) w 2034 r. – 28,82 mln zł; 10) w 2035 r. – 29,68 mln zł. 2. Organem właściwym do monitorowania wykorzystania limitu wydatków, o którym mowa w ust. 1 jest minister właściwy do spraw informatyzacji. 3. W przypadku przekroczenia lub zagrożenia przekroczeniem przyjętego na dany rok budżetowy maksymalnego limitu wydatków określonego w ust. 1 stosuje się mechanizm korygujący polegający na ograniczeniu kosztów związanych z realizacją zadań wynikających z ustawy. 4. Organem właściwym do wdrożenia mechanizmu korygującego, o którym mowa w ust. 3, jest Przewodniczący Komisji. Przepisy regulują zasady budżetowania i limit wydatków budżetu państwa na funkcjonowanie organów i procedur wynikających z przepisów ustawy. Wprowadzenie przepisu jest konieczne z uwagi na to, że organem nadzoru rynku, zgodnie z rozporządzeniem 2024/1689 będzie nowy organ w Polsce - powołanie go w ustawie wymaga wprowadzenia tego przepisu. Projekt R O Z P O R Z Ą D Z E N I E M I N I S T R A C Y F RY Z A C J I 1) z dnia w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Na podstawie art. 91 ust. 6 ustawy z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) zarządza się, co następuje: § 1. Rozporządzenie określa wysokość opłaty za uczestnictwo w piaskownicy regulacyjnej podmiotów innych niż mikro-, mali i średni przedsiębiorcy oraz sposób jej wnoszenia. § 2. 1. Wysokość opłaty, o której mowa w § 1, wynosi 14 418 zł. 2. Opłata jest wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. § 3. Rozporządzenie wchodzi w życie po upływie 14 dni od dnia ogłoszenia. MINISTER CYFRYZACJI 1 Minister Cyfryzacji kieruje działem administracji rządowej – informatyzacja, na podstawie § 1 ust. 2 rozporządzenia Prezesa Rady Ministrów z dnia 18 grudnia 2023 r. w sprawie szczegółowego zakresu działania Ministra Cyfryzacji (Dz. U. poz. 2720). – 2 – Uzasadnienie Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) reguluje krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanym dalej \"rozporządzenie 2024/1689\". Tym samym wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Projekt rozporządzenia stanowi realizację upoważnienia ustawowego zawartego w art. 91 ust. 6 ww. ustawy, które zobowiązuje ministra właściwego do spraw informatyzacji do określenia wysokości opłaty za udział w piaskownicy regulacyjnej, o której mowa w art. 91 ust. 5, oraz sposobu jej wnoszenia. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody, na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. W zakresie opłat za uczestnictwo w piaskownicy regulacyjnej przyjęto rozwiązanie zapewniające zgodność z ustawą. Udział mikro-, małych i średnich przedsiębiorców jest nieodpłatny, co stanowi zachętę do korzystania z piaskownicy przez podmioty o największym potencjale innowacyjnym, a jednocześnie często dysponujące ograniczonymi zasobami finansowymi. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Dla pozostałych podmiotów ustalono jednorazową opłatę w wysokości 14 418 zł. co stanowi trzykrotność minimalnego wynagrodzenia za pracę, o którym mowa w art. 2 ust. 3 ustawy z dnia 10 października 2002 r. o minimalnym wynagrodzeniu za pracę (Dz. U. z 2024 r. poz. 1773). Kwota ta mieści się w ustawowym określonym art. 91 ust. 5 ustawy limicie, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów obsługowych, organizacyjnych – 3 – i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Rozporządzenie określa również sposób wnoszenia opłaty, przewidując jej jednorazowe uiszczenie. Takie rozwiązanie zapewnia pewność i przejrzystość procedury oraz pozwala na sprawne rozpoczęcie udziału podmiotów w działaniach prowadzonych w ramach piaskownicy. Wskazanie rachunku bankowego urzędu obsługującego ministra właściwego do spraw informatyzacji upraszcza proces płatności i pozwala na jednoznaczne przypisanie dokonanej wpłaty do konkretnego uczestnika. Rozporządzenie wejdzie w życie po upływie 14 dni od dnia ogłoszenia zapewniając odpowiedni okres vacatio legis. Projektowana regulacja nie zawiera przepisów technicznych w rozumieniu rozporządzenia Rady Ministrów z dnia 23 grudnia 2002 r. w sprawie sposobu funkcjonowania krajowego systemu notyfikacji norm i aktów prawnych (Dz. U. poz. 2039, z późn. zm.) i nie podlega notyfikacji Komisji Europejskiej. Projektowana regulacja nie będzie wymagała notyfikacji Komisji Europejskiej w trybie ustawy z dnia 30 kwietnia 2004 r. o postępowaniu w sprawach dotyczących pomocy publicznej (Dz. U. z 2023 r. poz. 702, z późn. zm.). Projekt rozporządzenia nie jest sprzeczny z prawem Unii Europejskiej. Projekt rozporządzenia nie wymaga przedłożenia instytucjom i organom Unii Europejskiej, w tym Europejskiemu Bankowi Centralnemu, w celu uzyskania opinii, dokonania powiadomienia, konsultacji albo uzgodnienia. Projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie Rządowego Centrum Legislacji w zakładce Rządowy Proces Legislacyjny zgodnie z § 52 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. – Regulamin pracy Rady Ministrów (M.P. z 2024 r. poz. 806, z późn. zm.) oraz w Biuletynie Informacji Publicznej na stronie podmiotowej Ministra Cyfryzacji stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). – 4 – Nazwa projektu Rozporządzenie Ministra Cyfryzacji w sprawie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia Ministerstwo wiodące i ministerstwa współpracujące Ministerstwo Cyfryzacji Osoba odpowiedzialna za projekt w randze Ministra, Sekretarza Stanu lub Podsekretarza Stanu Dariusz Standerski – Sekretarz Stanu w Ministerstwie Cyfryzacji Kontakt do opiekuna merytorycznego projektu Pamela Krzypkowska – Dyrektor Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, pamela.krzypkowska@cyfra.gov.pl, sekretariat.DBI@cyfra.gov.pl Data sporządzenia 20.03.2026 Źródło: Upoważnienie ustawowe Art. 91 ust. 6 ustawy o systemach sztucznej inteligencji z dnia... (Dz. U. poz. ...) Nr w wykazie prac OCENA SKUTKÓW REGULACJI 1. Jaki problem jest rozwiązywany? Ustawa z dnia ... o systemach sztucznej inteligencji (Dz. U. poz. ...) określa krajowe ramy prawne funkcjonowania piaskownicy regulacyjnej w obszarze sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz. Urz. UE. L. z 12.07.2024), zwanego dalej \"rozporządzeniem 2024/1689\". Tym samym ustawa wykonuje obowiązek państw członkowskich do określenia zasad organizacji takiej piaskownicy oraz warunków udzielania odstępstw od stosowania niektórych wymogów technicznych i proceduralnych, niezbędnych do przeprowadzenia projektów pilotażowych. Mechanizm określony w ustawie ma na celu wsparcie rozwoju nowatorskich rozwiązań technologicznych na terenie kraju, szczególnie w obszarze AI, przy jednoczesnym zapewnieniu odpowiednich zabezpieczeń dla użytkowników i społeczeństwa. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji udziela zgody na funkcjonowanie piaskownicy wybranym podmiotom, co stwarza możliwość testowania nowych technologii w bezpiecznych warunkach. Ustawa przewiduje preferencyjne warunki uczestnictwa w piaskownicy dla małych i średnich przedsiębiorstw, takich jak bezpłatne uczestnictwo w programie, w celu wspierania innowacji oraz zmniejszenia barier finansowych dla podmiotów rozwijających systemy AI. Rozwiązanie to jest zgodne z polityką UE w zakresie wsparcia małych i średnich przedsiębiorstw. Natomiast w zakresie innych podmiotów minister właściwy do spraw informatyzacji został zobligowany do określenia, w drodze rozporządzenia, wysokości opłaty, za udział w piaskownicy regulacyjnej oraz sposobu jej wnoszenia, mając na względzie konieczność prawidłowej i efektywnej obsługi piaskownicy regulacyjnej. Problem, który rozwiązuje rozporządzenie, dotyczy uzupełnienia braku określenia wysokości opłaty za udział w piaskownicy regulacyjnej oraz zasad jej wnoszenia, co w praktyce mogłoby prowadzić do powstania niepewności prawnej i finansowej po stronie podmiotów ubiegających się o zakwalifikowanie do tego mechanizmu. Brak jasnych reguł w tym zakresie utrudniałby planowanie kosztów związanych z uczestnictwem, mógłby powodować zróżnicowanie w podejściu do poszczególnych podmiotów oraz ograniczać transparentność i przewidywalność całego procesu. Taka sytuacja mogłaby w konsekwencji negatywnie wpływać na zainteresowanie piaskownicą regulacyjną, a tym samym ograniczać jej potencjał jako narzędzia wspierającego rozwój innowacyjnych rozwiązań w obszarze systemów sztucznej inteligencji. Ustawa przewiduje obowiązek uiszczenia opłaty za udział w piaskownicy, ale nie zawiera szczegółowych przepisów w tym zakresie, pozostawiając je do uregulowania w akcie wykonawczym. Rozporządzenie stanowi zatem realizację ustawowego upoważnienia zawartego w art. 91 ust. 6, precyzując zarówno wysokość opłaty, jak i sposób jej wnoszenia. Dzięki temu możliwe jest zapewnienie jednolitych, przejrzystych i przewidywalnych reguł uczestnictwa, które zwiększają pewność prawną, wzmacniają zaufanie podmiotów do procedury kwalifikacyjnej i gwarantują spójne stosowanie przepisów ustawy przez organ odpowiedzialny za prowadzenie piaskownicy regulacyjnej. 2. Rekomendowane rozwiązanie, w tym planowane narzędzia interwencji, i oczekiwany efekt Zgodnie z art. 91 ust. 6, określenie wysokości opłaty za udział w piaskownicy regulacyjnej oraz sposób jej wnoszenia, musi zostać określone w formie rozporządzenia. – 5 – Rekomendowanym rozwiązaniem jest wprowadzenie jednolitej opłaty za udział w piaskownicy regulacyjnej w wysokości 14 418 zł. Kwota ta mieści się w ustawowym, określonym w art. 91 ust. 5 ustawy, a jej wysokość została ustalona na poziomie zapewniającym pokrycie kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej, przy jednoczesnym zachowaniu proporcjonalności i dostępności instrumentu dla dużych przedsiębiorstw. Opłata będzie wnoszona jednorazowo na rachunek bankowy urzędu obsługującego ministra właściwego do spraw informatyzacji. Przyjęcie takiego mechanizmu pozwala na uproszczenie procedury oraz zapewnienie przewidywalności i przejrzystości zarówno dla uczestników, jak i dla organu odpowiedzialnego za obsługę piaskownicy. 3. Jak problem został rozwiązany w innych krajach, w szczególności krajach członkowskich OECD/UE? Hiszpania była jednym z pierwszych państw członkowskich, które zgłosiły gotowość do wdrażania piaskownic, i w praktyce pełni rolę pilotażową dla innych krajów UE. Piaskownica hiszpańska działa przy udziale Agencja Española de Supervisión de la Inteligencia Artificial (AESIA), czyli hiszpańskiej agencji ds. nadzoru nad sztuczną inteligencją powołanej w 2022 r. z siedzibą w A Coruña. W przypadku sektora MŚP i startupów podobnie jak w polskim projekcie ustawy o systemach sztucznej inteligencji udział w piaskownicy regulacyjnej jest bezpłatny. Co do pozostałych podmiotów pozostała możliwość proporcjonalnego dofinansowania części kosztów związanych z udziałem w piaskownic regulacyjnej. 4. Podmioty, na które oddziałuje projekt Grupa Wielkość Źródło danych Oddziaływanie Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Konieczność sprawowania nadzoru nad testami w ramach piaskownicy regulacyjnej Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji 1 Informacje ogólnodostępne Obowiązki związane z ustanowieniem piaskownicy regulacyjnej, a także podejmowaniem decyzji w sprawie możliwości udziału w piaskownicy Ministerstwo Cyfryzacji 1 Informacje ogólnodostępne Obsługa przepływów finansowych JST 16 województw, 314 powiatów i 66 miast na prawach powiatu, 2479 gmin (w tym 302 gminy miejskie, 718 gmin miejsko-wiejskich i 1459 gmin wiejskich). Główny Urząd Statystyczny / Statystyka regionalna / Jednostki terytorialne / Podział administracyjny Polski Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Przedsiębiorcy sektora sztucznej inteligencji (Duże przedsiębiorstwa) Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu Administracja publiczna Poniesienie kosztów udziału w piaskownicy regulacyjnej określonych w rozporządzeniu 5. Informacje na temat zakresu, czasu trwania i podsumowanie wyników konsultacji Projekt zostanie poddany procesowi uzgodnień oraz zostanie przedstawiony do opiniowania i konsultacji publicznych. Projekt rozporządzenia zostanie zamieszczony w Biuletynie Informacji Publicznych na stronie podmiotowej Ministerstwa Cyfryzacji, stosownie do wymogów art. 5 ustawy z dnia 7 lipca 2005 r. o działalności lobbingowej w procesie stanowienia prawa (Dz. U. z 2025 r. poz. 677). Zgodnie z par. 52 ust. 1 uchwały nr 190 Rady Ministrów z dnia 29 października 2013 r. - Regulamin Prac Rady Ministrów (M.P. z 2024 r. poz. 806 oraz z 2025 r. poz. 408) projekt zostanie udostępniony w Biuletynie Informacji Publicznej na stronie podmiotowej Rządowego Centrum Legislacji, w serwisie Rządowy Proces Legislacyjny. – 6 – 6. Wpływ na sektor finansów publicznych (ceny stałe z ...... r.) Skutki w okresie 10 lat od wejścia w życie zmian [mln zł] 0 1 2 3 4 5 6 7 8 9 10 Łącznie (0-10) Dochody ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Wydatki ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Saldo ogółem budżet państwa JST pozostałe jednostki (oddzielnie) Źródła finansowania Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Przewiduje się, że współfinansowanie piaskownic regulacyjnych odbędzie się ze środków europejskich. Wskazane w rozporządzeniu kwoty związane są z zabezpieczeniem pokrycia kosztów organizacyjnych i administracyjnych funkcjonowania piaskownicy regulacyjnej. Na obecnym etapie prac legislacyjnych wydatki oraz dochody z tytułu piaskownic regulacyjnych nie są możliwe do oszacowania. W Polsce obowiązują jedynie przepisy w zakresie piaskownicy regulacyjnej energetycznej która została uruchomiona po raz pierwszy w 2026 r. 7. Wpływ na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców oraz na rodzinę, obywateli i gospodarstwa domowe Skutki Czas w latach od wejścia w życie zmian 0 1 2 3 5 10 Łącznie (0- 10) W ujęciu pieniężnym (w mln zł, ceny stałe z ...... r.) duże przedsiębiorstwa - - - - - - - sektor mikro-, małych i średnich przedsiębiorstw - - - - - - - rodzina, obywatele oraz gospodarstwa domowe - - - - - - - W ujęciu niepieniężnym duże przedsiębiorstwa Tak - wpływ zostanie oszacowany na późniejszym etapie sektor mikro-, małych i średnich przedsiębiorstw Tak - - wpływ zostanie oszacowany na późniejszym etapie rodzina, obywatele oraz gospodarstwa domowe Brak wpływu Niemierzalne Dodatkowe informacje, w tym wskazanie źródeł danych i przyjętych do obliczeń założeń Wejście w życie projektowanego rozporządzenia będzie miało wpływu na konkurencyjność gospodarki i przedsiębiorczość, w tym funkcjonowanie przedsiębiorców. – 7 – 8. Zmiana obciążeń regulacyjnych (w tym obowiązków informacyjnych) wynikających z projektu ☒ nie dotyczy Wprowadzane są obciążenia poza bezwzględnie wymaganymi przez UE (szczegóły w odwróconej tabeli zgodności). ☐ tak ☐ nie ☒ nie dotyczy ☐ zmniejszenie liczby dokumentów ☐ zmniejszenie liczby procedur ☐ skrócenie czasu na załatwienie sprawy ☐ inne: ... ☐ zwiększenie liczby dokumentów ☐ zwiększenie liczby procedur ☐ wydłużenie czasu na załatwienie sprawy ☐ inne: ... Wprowadzane obciążenia są przystosowane do ich elektronizacji. ☐ tak ☐ nie ☒ nie dotyczy Komentarz: Projekt nie przewiduje zmian w zakresie obciążeń regulacyjnych. 9. Wpływ na rynek pracy Projektowane przepisy nie mają bezpośredniego wpływu na rynek pracy. 10. Wpływ na pozostałe obszary ☐ środowisko naturalne ☐ sytuacja i rozwój regionalny ☐ inne: ... ☐ demografia ☐ mienie państwowe ☐ informatyzacja ☐ zdrowie Omówienie wpływu Wejście w życie przepisów nie będzie miało wpływu na pozostałe obszary. 11. Planowane wykonanie przepisów aktu prawnego Proponuje się, aby rozporządzenie weszło w życie po upływie 14 dni od dnia ogłoszenia. 12. W jaki sposób i kiedy nastąpi ewaluacja efektów projektu oraz jakie mierniki zostaną zastosowane? Nie przewiduje się ewaluacji efektów projektu. 13. Załączniki (istotne dokumenty źródłowe, badania, analizy itp.) Brak 1 DPUE.950.370/2025/20 kwm Warszawa, /elektroniczny znacznik czasu/ Dot.: RM-0610-41-26 z 25.03.2026 r. Pani Joanna Knapińska Sekretarz Rady Ministrów Opinia o zgodności z prawem Unii Europejskiej projektu ustawy o systemach sztucznej inteligencji, wyrażona przez ministra właściwego do spraw członkostwa Rzeczypospolitej Polskiej w Unii Europejskiej Szanowna Pani Minister, w związku z przedłożonym projektem ustawy pozwalam sobie wyrazić poniższą opinię. Projekt ustawy jest zgodny z prawem Unii Europejskiej. Z wyrazami szacunku Do wiadomości: Pan Krzysztof Gawkowski Wiceprezes Rady Ministrów Minister Cyfryzacji\n--- KONIEC DOKUMENTU ---\n\nPAMIĘTAJ: Twoja odpowiedź MUSI być wyłącznie poprawnym obiektem JSON. Nie dodawaj żadnych dodatkowych znaków, komentarzy ani tekstu przed znacznikiem '{' ani po znaczniku '}'. Cała odpowiedź musi być parsowalna jako JSON.\nNa podstawie POWYŻSZEGO dokumentu, wypełnij poniższą strukturę JSON:\nOto struktura JSON, której oczekuję (wypełnij ją treścią):\n{\n  \"pl_ai_title\": \"Nowy, krótki tytuł dla aktu prawnego po polsku, oddający sedno wprowadzanych zmian (np. maksymalnie 10-12 słów).\",\n  \"pl_summary\": \"2-3 zdania zwięzłego podsumowania treści aktu prawnego po polsku, napisane z perspektywy wpływu na życie codzienne obywateli.\",\n  \"pl_key_points\": [\n    \"Pierwszy krótki punkt po polsku dotyczący najważniejszych wprowadzanych rozwiązań lub zmian.\",\n    \"Drugi krótki punkt po polsku...\"\n  ],\n  \"eng_ai_title\": \"A new, short title for the legal act in English, capturing the essence of the changes (e.g., max 10-12 words).\",\n  \"eng_summary\": \"2-3 sentences summarizing the legal act in English, from the perspective of its impact on citizens' daily lives.\",\n  \"eng_key_points\": [\n    \"First short bullet point in English regarding the most important solutions or changes being introduced.\",\n    \"Second short bullet point in English...\"\n  ],\n  \"de_ai_title\": \"Ein neuer, kurzer Titel für das Rechtsdokument auf Deutsch, der den Kern der Änderungen erfasst (z.B. max. 10-12 Wörter).\",\n  \"de_summary\": \"2-3 Sätze Zusammenfassung des Rechtsdokuments auf Deutsch, aus der Perspektive seiner Auswirkungen auf das tägliche Leben der Bürger.\",\n  \"de_key_points\": [\n    \"Erster kurzer Stichpunkt auf Deutsch zu den wichtigsten eingeführten Lösungen oder Änderungen.\",\n    \"Zweiter kurzer Stichpunkt auf Deutsch...\"\n  ],\n  \"fr_ai_title\": \"Un nouveau titre court pour l'acte juridique en français, saisissant l'essence des changements (par exemple, 10-12 mots maximum).\",\n  \"fr_summary\": \"Résumé de 2-3 phrases de l'acte juridique en français, du point de vue de son impact sur la vie quotidienne des citoyens.\",\n  \"fr_key_points\": [\n    \"Premier court point en français concernant les solutions ou changements les plus importants introduits.\",\n    \"Deuxième court point en français...\"\n  ],\n  \"es_ai_title\": \"Un nuevo título breve para el acto jurídico en español, que recoja la esencia de los cambios (por ejemplo, máximo 10-12 palabras).\",\n  \"es_summary\": \"Resumen de 2-3 frases del acto jurídico en español, desde la perspectiva de su impacto en la vida cotidiana de los ciudadanos.\",\n  \"es_key_points\": [\n    \"Primer punto breve en español sobre las soluciones o cambios más importantes que se introducen.\",\n    \"Segundo punto breve en español...\"\n  ],\n  \"it_ai_title\": \"Un nuovo titolo breve per l'atto giuridico in italiano, che colga l'essenza delle modifiche (ad es. massimo 10-12 parole).\",\n  \"it_summary\": \"Riepilogo di 2-3 frasi dell'atto giuridico in italiano, dal punto di vista del suo impatto sulla vita quotidiana dei cittadini.\",\n  \"it_key_points\": [\n    \"Primo breve punto in italiano riguardante le soluzioni o le modifiche più importanti introdotte.\",\n    \"Secondo breve punto in italiano...\"\n  ],\n  \"nl_ai_title\": \"Een nieuwe, korte titel voor de rechtshandeling in het Nederlands, die de essentie van de wijzigingen weergeeft (bijv. max. 10-12 woorden).\",\n  \"nl_summary\": \"Samenvatting van 2-3 zinnen van de rechtshandeling in het Nederlands, vanuit het perspectief van de impact op het dagelijks leven van burgers.\",\n  \"nl_key_points\": [\n    \"Eerste korte punt in het Nederlands betreffende de belangrijkste geïntroduceerde oplossingen of wijzigingen.\",\n    \"Tweede korte punt in het Nederlands...\"\n  ],\n  \"pt_ai_title\": \"Um novo título curto para o ato jurídico em português, capturando a essência das mudanças (por exemplo, máx. 10-12 palavras).\",\n  \"pt_summary\": \"Resumo de 2-3 frases do ato jurídico em português, na perspetiva do seu impacto na vida quotidiana dos cidadãos.\",\n  \"pt_key_points\": [\n    \"Primeiro ponto curto em português sobre as soluções ou alterações mais importantes introduzidas.\",\n    \"Segundo ponto curto em português...\"\n  ],\n  \"category\": [\"Categorize the document into one category by default, based on the field it primarily concerns. Choose up to 3 if the document also touches upon SIGNIFICANT issues from other categories. You MUST select categories ONLY from the following list: Health, Education, Family, Taxes, Labor, Security, Environment, Courts and Law, Transport, Benefits, Real Estate, Media and Culture, Local Government, Migration, Agriculture, Public Investments, Informatization, Economy. If the document does not definitively fit any of these, you MUST use \"Other\". If you use \"Other\", it should be the ONLY category selected. Do NOT invent new categories. The response must be an array of strings, e.g., [\"Taxes\", \"Family\"].\"]\n}\n\n",
      "ai_response_raw": "{\n  \"pl_ai_title\": \"Nowe zasady i nadzór nad sztuczną inteligencją w Polsce.\",\n  \"pl_summary\": \"Ustawa wprowadza unijne przepisy o sztucznej inteligencji (AI Act) do polskiego prawa, tworząc nowy urząd nadzorujący ten rynek. Dzięki temu obywatele zyskają ochronę przed szkodliwym działaniem algorytmów i będą mogli składać skargi, a firmy otrzymają jasne zasady i bezpieczne środowisko do testowania nowych technologii.\",\n  \"pl_key_points\": [\n    \"Powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie kontrolować rynek AI i dbać o bezpieczeństwo obywateli.\",\n    \"Możliwość składania przez obywateli oficjalnych skarg na systemy sztucznej inteligencji, które naruszają ich prawa lub stwarzają zagrożenie.\",\n    \"Wysokie kary finansowe dla firm łamiących przepisy, ale też możliwość zawarcia ugody i obniżenia kary w przypadku szybkiej naprawy błędów.\",\n    \"Utworzenie tak zwanych piaskownic regulacyjnych, czyli bezpiecznych i darmowych dla małych firm przestrzeni do testowania innowacyjnych rozwiązań AI.\"\n  ],\n  \"eng_ai_title\": \"New rules and supervision for artificial intelligence in Poland.\",\n  \"eng_summary\": \"The law implements the EU AI Act into Polish law by creating a new regulatory authority. Citizens will be protected from harmful algorithms and gain the right to file complaints, while businesses will receive clear rules and safe environments to test new technologies.\",\n  \"eng_key_points\": [\n    \"Creation of the Commission for the Development and Security of AI to supervise the market and protect citizens.\",\n    \"Citizens' right to file official complaints against AI systems that violate their rights or pose a threat.\",\n    \"High financial penalties for non-compliant companies, with an option for a settlement and reduced fines if errors are quickly fixed.\",\n    \"Establishment of regulatory sandboxes offering safe and free testing environments for small and medium-sized enterprises.\"\n  ],\n  \"de_ai_title\": \"Neue Regeln und Aufsicht für Künstliche Intelligenz in Polen.\",\n  \"de_summary\": \"Das Gesetz setzt den EU-KI-Gesetz in polnisches Recht um und schafft eine neue Aufsichtsbehörde. Bürger werden vor schädlichen Algorithmen geschützt und können Beschwerden einreichen, während Unternehmen klare Regeln und sichere Testumgebungen erhalten.\",\n  \"de_key_points\": [\n    \"Gründung der Kommission für Entwicklung und Sicherheit von KI zur Marktüberwachung und zum Schutz der Bürger.\",\n    \"Recht der Bürger, offizielle Beschwerden gegen KI-Systeme einzureichen, die ihre Rechte verletzen oder eine Gefahr darstellen.\",\n    \"Hohe Geldstrafen für Unternehmen bei Verstößen, aber auch die Möglichkeit von Vergleichen und Strafminderungen bei schneller Fehlerbehebung.\",\n    \"Schaffung von Reallaboren (Regulatory Sandboxes) als sichere und für kleine Unternehmen kostenlose Testumgebungen für KI-Innovationen.\"\n  ],\n  \"fr_ai_title\": \"Nouvelles règles et supervision de l'intelligence artificielle en Pologne.\",\n  \"fr_summary\": \"La loi intègre la législation européenne sur l'IA dans le droit polonais en créant une nouvelle autorité de contrôle. Les citoyens seront protégés contre les algorithmes nuisibles et pourront déposer des plaintes, tandis que les entreprises bénéficieront de règles claires et d'environnements de test sécurisés.\",\n  \"fr_key_points\": [\n    \"Création de la Commission pour le développement et la sécurité de l'IA afin de superviser le marché et de protéger les citoyens.\",\n    \"Droit pour les citoyens de déposer des plaintes officielles contre les systèmes d'IA qui violent leurs droits ou posent une menace.\",\n    \"Lourdes sanctions financières pour les entreprises en infraction, avec possibilité de règlement à l'amiable et de réduction des amendes en cas de correction rapide.\",\n    \"Mise en place de bacs à sable réglementaires, des espaces de test sûrs et gratuits pour les petites et moyennes entreprises.\"\n  ],\n  \"es_ai_title\": \"Nuevas normas y supervisión para la inteligencia artificial en Polonia.\",\n  \"es_summary\": \"La ley implementa la Ley de IA de la UE en el derecho polaco mediante la creación de una nueva autoridad reguladora. Los ciudadanos estarán protegidos contra algoritmos dañinos y podrán presentar quejas, mientras que las empresas tendrán reglas claras y entornos seguros para probar nuevas tecnologías.\",\n  \"es_key_points\": [\n    \"Creación de la Comisión para el Desarrollo y la Seguridad de la IA para supervisar el mercado y proteger a los ciudadanos.\",\n    \"Derecho de los ciudadanos a presentar quejas oficiales contra los sistemas de IA que violen sus derechos o representen una amenaza.\",\n    \"Altas multas financieras para las empresas infractoras, con la opción de llegar a un acuerdo y reducir las multas si los errores se corrigen rápidamente.\",\n    \"Establecimiento de entornos de pruebas regulatorios (sandboxes), que ofrecen espacios seguros y gratuitos para que las pequeñas empresas prueben innovaciones.\"\n  ],\n  \"it_ai_title\": \"Nuove regole e supervisione per l'intelligenza artificiale in Polonia.\",\n  \"it_summary\": \"La legge implementa la normativa UE sull'IA nel diritto polacco creando una nuova autorità di vigilanza. I cittadini saranno protetti dagli algoritmi dannosi e potranno presentare reclami, mentre le aziende avranno regole chiare e ambienti sicuri per testare nuove tecnologie.\",\n  \"it_key_points\": [\n    \"Creazione della Commissione per lo Sviluppo e la Sicurezza dell'IA per supervisionare il mercato e proteggere i cittadini.\",\n    \"Diritto dei cittadini di presentare reclami ufficiali contro i sistemi di IA che violano i loro diritti o rappresentano una minaccia.\",\n    \"Sanzioni finanziarie elevate per le aziende inadempienti, con possibilità di accordo e riduzione delle multe in caso di rapida correzione.\",\n    \"Istituzione di sandbox normativi, ambienti di test sicuri e gratuiti per le piccole e medie imprese.\"\n  ],\n  \"nl_ai_title\": \"Nieuwe regels en toezicht op kunstmatige intelligentie in Polen.\",\n  \"nl_summary\": \"De wet implementeert de EU AI-verordening in het Poolse recht door een nieuwe toezichthoudende autoriteit op te richten. Burgers worden beschermd tegen schadelijke algoritmen en kunnen klachten indienen, terwijl bedrijven duidelijke regels en veilige testomgevingen krijgen.\",\n  \"nl_key_points\": [\n    \"Oprichting van de Commissie voor Ontwikkeling en Veiligheid van AI om toezicht te houden op de markt en burgers te beschermen.\",\n    \"Recht van burgers om officiële klachten in te dienen tegen AI-systemen die hun rechten schenden of een bedreiging vormen.\",\n    \"Hoge financiële boetes voor bedrijven die de regels overtreden, met de mogelijkheid tot schikking en boetevermindering bij snelle correctie.\",\n    \"Oprichting van regulerende zandbakken (sandboxes), veilige en voor kleine bedrijven gratis testomgevingen voor AI-innovaties.\"\n  ],\n  \"pt_ai_title\": \"Novas regras e supervisão para a inteligência artificial na Polónia.\",\n  \"pt_summary\": \"A lei implementa o Regulamento de IA da UE no direito polaco, criando uma nova autoridade de supervisão. Os cidadãos serão protegidos contra algoritmos prejudiciais e poderão apresentar queixas, enquanto as empresas terão regras claras e ambientes seguros para testar novas tecnologias.\",\n  \"pt_key_points\": [\n    \"Criação da Comissão para o Desenvolvimento e Segurança da IA para supervisionar o mercado e proteger os cidadãos.\",\n    \"Direito dos cidadãos de apresentar queixas oficiais contra sistemas de IA que violem os seus direitos ou representem uma ameaça.\",\n    \"Elevadas multas financeiras para empresas infratoras, com a opção de acordo e redução de multas se os erros forem corrigidos rapidamente.\",\n    \"Estabelecimento de sandboxes regulatórios, ambientes de teste seguros e gratuitos para pequenas e médias empresas.\"\n  ],\n  \"category\": [\n    \"Informatization\",\n    \"Economy\",\n    \"Security\"\n  ]\n}"
    }
  ]
}